Categories: KISicherheit

BSI veröffentlich Whitepaper zur Prüfbarkeit von KI-Systemen

Das Bundesamt für Sicherheit in der Informationstechnik (BSI), der TÜV-Verband und das Fraunhofer Heinrich-Hertz-Institut (HHI) erfassen regelmäßig den aktuellen Stand der Prüfbarkeit von KI-Systemen in sicherheitskritischen Bereichen. Das jetzt veröffentlichte Whitepaper „Towards Auditable AI Systems richtet sich an Entwickler, Prüfer und Entscheidungsträger in Industrie, Forschung und Behörden. Es stellt unter anderem eine Methode zur Erfassung der Prüfbarkeit der IT-Sicherheit und weiterer Aspekte von KI-Systemen vor und beschreibt exemplarisch Anwendungen.

Prüfbarkeitsdefizite einzelner KI-Systeme  erfassen

Die Autorinnen und Autoren schlagen die „Certification Readiness Matrix (CRM)“ als eine neue Methode vor. Die CRM ist nicht als formales Zertifizierungsschema für spezifische Rechtsakte konzipiert. Stattdessen dient sie einerseits dazu, Prüfbarkeitsdefizite einzelner KI-Systeme besser zu erfassen und zu kommunizieren. Andererseits ermöglicht sie, die Prüfbarkeit verschiedener KI-Systeme besser untereinander und über die Zeit zu vergleichen. Eine exemplarische Anwendung der CRM weist darauf hin, dass Prüfmethoden für bestimmte Aspekte, wie zum Beispiel das Risikomanagement, bereits gut entwickelt und verfügbar sind. In Bezug auf andere Aspekte wird jedoch noch ein wesentlicher Forschungs- und Entwicklungsaufwand benötigt, um eine hinreichende Prüfbarkeit von Regulierungsauflagen zu erreichen. Dies gilt insbesondere auch für die IT-Sicherheit.

Roger Homrich

Recent Posts

Hohe Burnout-Rate bei Cybersicherheitsexperten

Wachsende Bedrohung durch Angriffe in Kombination mit Qualifikationsdefiziten frustriert Sicherheitsteams.

2 Tagen ago

Von “Hack-for-Hire”-Gruppen genutzte Domains gesperrt

Threat Analysis Group (TAG) von Google sperrt bösartige Domains und Websites, die Hack-for-Hire-Gruppen für Angriffe…

2 Tagen ago

Big-Data-Analysen im Mittelstand

KMU fehlt es an Know-how, Zeit und den richtigen Technologien, um das Potenzial ihrer Daten…

2 Tagen ago

Podcast Silicon DE im Fokus: Gefahr für Produktionsanlagen

Wie sieht aktuell die Gefährdungslage für Operational Technology (OT) aus? Carolina Heyder im Gespräch mit…

3 Tagen ago

Microsoft: Linux-Malware installiert Cryptomining-Software

Als Einfallstor dient eine bekannte Schwachstelle in Software von Atlassian. Alternativ nehmen die Cyberkriminellen auch…

3 Tagen ago

Mit Low-Code Prozesse rund um Personaldaten optimieren

TraveNetz betreibt SAP HCM onPremise und hat noch keine Cloud-Produkte im Einsatz. Daher war die…

3 Tagen ago