Künstliche Intelligenz vertrauenswürdig und zuverlässig gestalten: Neue Abteilung für KI-Qualitätssicherung am Fraunhofer IAIS

Mit dem rasanten Fortschritt der Künstlichen Intelligenz (KI) wachsen auch die Anforderungen an Vertrauenswürdigkeit und Qualitätskontrolle. In der neuen Abteilung »AI Assurance and Assessments« unterstützt das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS Unternehmen und Organisationen dabei, KI im Einklang mit internationalen Standards und Regulierungen, etwa dem »EU AI Act«, einzusetzen und neue Geschäftsmodelle für die Prüfung und Absicherung von KI-Anwendungen zu etablieren.

Im weltweiten Wettbewerb um KI-Technologien streben Deutschland und Europa nach digitaler Souveränität und Sicherheit. Schritt für Schritt kommen jetzt die Anforderungen der EU-Verordnung über Künstliche Intelligenz (kurz: »AI Act«), des weltweit ersten umfassenden KI-Gesetzes, zur Anwendung. »Mit unserer neuen Abteilung ›AI Assurance and Assessments‹ können wir jetzt noch besser und flexibler auf die Wünsche der Unternehmen nach technisch solider, regulatorisch abgesicherter und gleichzeitig wirtschaftlich effizienter Qualitätssicherung von KI-Systemen reagieren«, sagt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS, einem der führenden Wissenschaftsinstitute auf dem Gebiet der Künstlichen Intelligenz in Europa. »Die Abteilung bündelt unser über Jahre gewachsenes Know-how und ermöglicht den weiteren Ausbau unserer Forschungs- und Entwicklungsaktivitäten in diesem Bereich. Wir freuen uns sehr, dass wir damit die gesamte Palette der Absicherung von klassischen Systemen bis hin zur generativen KI noch besser abdecken können.«

»Wir operationalisieren die gesamte Wertschöpfungskette für vertrauenswürdige KI«

Dr. Maximilian Poretschkin wird mit »AI Assurance and Assessments« die sechste Abteilung am Fraunhofer IAIS leiten. Der promovierte Physiker ist nach Stationen an der University of Pennsylvania in Philadelphia, USA, und der Strategieberatung bei Bain & Company seit sechs Jahren am Fraunhofer IAIS und hat dort die neue Abteilung aufgebaut. »Wir unterstützen Unternehmen und Organisationen, indem wir am Fraunhofer IAIS die gesamte Wertschöpfungskette für vertrauenswürdige KI operationalisieren. Dies fängt an bei der Analyse der Anforderungen, etwa Standards oder regulative Vorgaben, reicht über die Entwicklung von KI-Governance-Frameworks und technischen Verfahren zur Absicherung von KI-Systemen bis hin zur Entwicklung von KI-Prüfkriterien, Werkzeugen und der Automatisierung von KI-Prüfworkflows«, sagt Maximilian Poretschkin.

KI-Prüfkatalog als Goldstandard

Nicht erst mit dem Inkrafttreten der KI-Verordnung haben Maximilian Poretschkin und sein Team am Fraunhofer IAIS die Vertrauenswürdigkeit und Absicherung von KI-Systemen als zunehmend bedeutsames Thema in der digitalisierten Arbeits- und Lebenswelt identifiziert. Durch umfassende Vorlaufforschung und den Aufbau eines Netzwerks strategischer Partnerschaften haben die Fraunhofer-Expertinnen und -Experten mittlerweile ein Kompetenzzentrum mit internationaler Sichtbarkeit aufgebaut. In ihrer Arbeit greifen sie auf jahrelange Erfahrung und kundenorientierten Ergebnistransfer zurück, in deren Zuge Absicherungsmethoden, Risikobewertung von KI-Systemen, KI-Prüfkriterien und Prüfwerkzeuge entwickelt und erprobt wurden.

Von den Ergebnissen aus Flagship-Projekten wie »KI-Absicherung« und »ZERTIFIZIERTE KI«, beide unter der Leitung des Fraunhofer IAIS, profitieren schon heute Unternehmen weltweit. Der KI-Prüfkatalog des Fraunhofer IAIS hat sich seit seiner Veröffentlichung im Jahr 2021 zu einer Art Goldstandard in Deutschland entwickelt, der von zahlreichen Unternehmen bereits für die Prüfung von KI-Systemen eingesetzt wird und Eingang in die internationale Standardisierung gefunden hat. Auch die durch das Bundesministerium für Digitales und Verkehr geförderte Initiative »MISSION KI«, an der sich auch das Fraunhofer IAIS beteiligt, baut auf dem Prüfkatalog auf und führt dessen Arbeit fort.

Transfer in die Wirtschaft steht im Fokus

Bei der Arbeit der neuen Abteilung steht der Transfer der Ergebnisse in wirtschaftliche Anwendungen im Vordergrund. Das Angebot richtet sich an Unternehmen und Einrichtungen unterschiedlicher Größenordnung und Ausrichtung, vom Mittelstand über öffentliche Behörden und den TIC-Sektor bis hin zu Großunternehmen. Ein wichtiger Bestandteil der Angebotspalette fokussiert sich auf die Unterstützung bei der Umsetzung der KI-Verordnung und der Entwicklung unternehmenseigener KI-Governance. Darüber hinaus bieten die Expertinnen und Experten auch KI-Prüfungen und -Absicherungsmethoden sowie Softwarelösungen für KI-Systeme zur Automatisierung von KI-Prüfungen entsprechender Testworkflows an. Dabei verzahnt das Team seine Arbeit eng mit den Aktivitäten der anderen fünf Abteilungen am Fraunhofer IAIS, die KI-Anwendungen für unterschiedliche Branchen entwickeln – von Finanzen, Recht und Medien über Gesundheit und Handel bis hin zum öffentlichen Sektor.

»Seit der Veröffentlichung unseres KI-Prüfkatalogs haben wir bereits eine Vielzahl von KI-Anwendungen verschiedener Unternehmen und Branchen nach unseren Prüfkriterien untersucht«, berichtet Maximilian Poretschkin. »Insbesondere vor dem Hintergrund des AI Acts ist die Abteilung nun ideal positioniert, da wir interdisziplinär aufgestellt sind, sowohl über informatische als auch rechtswissenschaftliche Expertise verfügen und grundlegende Kompetenzen im Bereich KI-Prüfung, -Standardisierung sowie KI-Governance und Trustworthy AI Operations aufgebaut haben. Davon profitieren unsere Kunden bereits heute, und wir freuen uns darauf, im Zuge der Umsetzung der KI-Verordnung unser Wissen auch vielen weiteren Unternehmen und Organisationen zur Verfügung zu stellen.«