Blick in die Blackbox: Transparente Künstliche Intelligenz

Künstliche Intelligenz (KI) übernimmt künftig wichtige Aufgaben und muss insbesondere in sicherheitskritischen Anwendungen zuverlässig arbeiten. Damit die Funktionsweise und Entscheidungsfindung von KI-Systemen transparent und nachvollziehbar ist und Unternehmen KI-Anwendungen auch im Hinblick bevorstehender Standards und Gesetze wie dem europäischen AI ACT nachweislich zuverlässig gestalten können, arbeitet das Projekt “Zertifizierte KI” der Kompetenzplattform KI.NRW an konkreten Lösungen. So entwickeln die Wissenschaftler*innen des Fraunhofer IAIS gemeinsam mit Partnern, unter anderem dem Deutschen Institut für Normung (DIN) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI), standardisierbare Prüfverfahren »made in Germany«.

Demonstrator macht Lücken einer KI-Analyse sichtbar

Der Demonstrator “uncertAInty explorer” veranschaulicht das Prinzip der Unsicherheitsschätzung, mit welcher die Lücken einer KI-Analyse sichtbar werden, etwa bei der Einschätzung von Verkehrssituationen im Autonomen Fahren. »Bei hoch-automatisierten KI-Entscheidungen ist es wichtig beurteilen zu können, wie sicher sich eine KI mit ihrem Ergebnis ist. Konkret muss ein autonomes Fahrzeug zum Beispiel Objekte und Menschen in seiner Umgebung zuverlässig erkennen können, damit es angemessen darauf reagieren kann. Die Unsicherheitsbewertung hilft hierbei zu messen, wie stark man der Entscheidung des Systems vertrauen kann oder ob bestimmte Fallback-Mechanismen aktiviert werden müssen«, erklärt Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer IAIS und Konsortialleiter des Projekts. Daneben könne das Verfahren auch in vielen anderen Anwendungsbereichen sinnvoll sein, beispielsweise in einer Fertigungsstraße zur Qualitätssicherung von Produkten, um dort Ausschuss zu verringern und Qualitätseinbußen zu reduzieren.

Evaluation von KI-Anwendungen

Neben der technischen Umsetzung von Transparenz und Nachvollziehbarkeit in KI-Technologien kommt es auch zunehmend darauf an, die Qualität, Sicherheit und Zuverlässigkeit von KI-Systemen nachweisen zu können. Hierfür entwickelt das Projekt “Zertifizierte KI” entsprechende Prüfverfahren, die Unternehmen bei der Entwicklung oder KI-Prüfer*innen bei der Evaluation von KI-Anwendungen unterstützen. »Ein wesentlicher Fokus unserer Forschung ist die Entwicklung von Prüfmethoden und -Werkzeugen, um die Qualität von KI-Systemen unabhängig begutachten zu können. Eine KI-Prüfung kann die korrekte und sichere Funktionsweise sicherstellen und gleichzeitig das Vertrauen in und die Akzeptanz von KI-Anwendungen fördern«, sagt Poretschkin.

Auf der Hannover Messe 2022 erhalten Unternehmen am Stand des Landes Nordrhein-Westfalen (Halle 11, Stand B13) konkrete Einblicke in das Projekt “Zertifizierte KI”.