Das Bundesamt für Sicherheit in der Informationstechnik (BSI), der TÜV-Verband und das Fraunhofer Heinrich-Hertz-Institut (HHI) erfassen regelmäßig den aktuellen Stand der Prüfbarkeit von KI-Systemen in sicherheitskritischen Bereichen. Das jetzt veröffentlichte Whitepaper „Towards Auditable AI Systems“ richtet sich an Entwickler, Prüfer und Entscheidungsträger in Industrie, Forschung und Behörden. Es stellt unter anderem eine Methode zur Erfassung der Prüfbarkeit der IT-Sicherheit und weiterer Aspekte von KI-Systemen vor und beschreibt exemplarisch Anwendungen.
Die Autorinnen und Autoren schlagen die „Certification Readiness Matrix (CRM)“ als eine neue Methode vor. Die CRM ist nicht als formales Zertifizierungsschema für spezifische Rechtsakte konzipiert. Stattdessen dient sie einerseits dazu, Prüfbarkeitsdefizite einzelner KI-Systeme besser zu erfassen und zu kommunizieren. Andererseits ermöglicht sie, die Prüfbarkeit verschiedener KI-Systeme besser untereinander und über die Zeit zu vergleichen. Eine exemplarische Anwendung der CRM weist darauf hin, dass Prüfmethoden für bestimmte Aspekte, wie zum Beispiel das Risikomanagement, bereits gut entwickelt und verfügbar sind. In Bezug auf andere Aspekte wird jedoch noch ein wesentlicher Forschungs- und Entwicklungsaufwand benötigt, um eine hinreichende Prüfbarkeit von Regulierungsauflagen zu erreichen. Dies gilt insbesondere auch für die IT-Sicherheit.
Lieferkettenplanung in Deutschland auf Basis von Excel bei 37 Prozent der befragten Unternehmen im Einsatz.
Bedienpersonal von Fertigungsanalagen soll mögliche Risiken auch ohne Cybersecurity-Fachwissen erkennen und minimieren können.
Schiffl IT: Anomalien im Netzwerkverkehr und in den Systemen in Echtzeit identifizieren.
Absicherung der IT-Infrastruktur erfolgt über die Zero Trust Exchange-Plattform von Zscaler.
Maschinen können mit neuen Verfahren lernen, nicht nur Vorhersagen zu treffen, sondern auch mit kausalen…
Medizingeräte Hersteller Tuttnauer schützt Gerätesoftware mit IoT-Sicherheitslösung.