„AI Defense“ von Cisco sichert KI-Transformation für Unternehmen

End-to-End-Lösung schützt sowohl die Entwicklung als auch den Einsatz von KI-Anwendungen.

Ein zentrales Hindernis für die breite Einführung von KI in Unternehmen ist die Sorge um Sicherheit und Zuverlässigkeit. Inkonsistente Sicherheitsmaßnahmen der einzelnen Modellanbieter und unterschiedlichen KI-Infrastrukturen erschweren eine durchgängige Absicherung. Der Aufbau separater Sicherheitslösungen im IT-Netzwerk für jede Anwendung ist komplex, ineffizient und fehleranfällig.

Sichere Nutzung von KI

Cisco adressiert diese Herausforderungen mit einer einheitlichen Sicherheitsplattform, die konsistente Schutzmaßnahmen über alle Modelle und Anwendungen hinweg bietet. Die Lösung wurde entwickelt, um die vielschichtigen Anforderungen von KI-Landschaften zu erfüllen und Unternehmen die sichere Nutzung von KI zu ermöglichen.

AI Defense adressiert zwei zentrale Problemstellungen. Die Lösung stellt „Sicherheitsleitplanken“ bereit, die plattformübergreifend Bedrohungen und Angriffe abwehren. Zu den Funktionen gehören:

Einblick in die KI-Nutzung
Sicherheitsteams müssen informiert sein, wer KI-Anwendungen erstellt und welche Trainingsquellen dafür genutzt werden. AI Defense erkennt dazu Schatten- und sanktionierte KI-Anwendungen in öffentlichen und privaten Clouds.

Modellvalidierung
Die Optimierung von KI-Modellen kann zu unerwarteten oder gar schädlichen Ergebnissen führen. Beim Feinabstimmen eines Modells auf spezifische Daten oder Szenarien können unbeabsichtigte Verzerrungen oder Fehler in die Modellentscheidungen eingeschleust werden. Dies kann dazu führen, dass das Modell in realen Einsatzszenarien falsch reagiert, unethische Entscheidungen trifft oder sogar manipuliert wird. Durch automatisierte Tests werden KI-Modelle auf Hunderte potenzieller Sicherheitslücken geprüft. Dieses KI-gesteuerte „Algorithmus-Red-Team“ identifiziert potenzielle Schwachstellen und empfiehlt Maßnahmen für die KI-Verteidigung.

Sicherheit im laufenden Betrieb
Um die Integrität und Sicherheit der KI-Anwendungen zu gewährleisten, überwacht und validiert AI Defense die KI-Systeme kontinuierlich. Ziel ist es, potenzielle Sicherheitsbedrohungen wie Prompt-Injektionen, Denial-of-Service-Angriffe und Datenlecks kontinuierlich zu verhindern.

 „Bei der Einführung von KI können es sich Unternehmen nicht leisten, Sicherheit zugunsten von Geschwindigkeit zu opfern“, so Jeetu Patel, Executive Vice President und Chief Product Officer bei Cisco. „In einer dynamischen, wettbewerbsintensiven Welt ist allerdings Geschwindigkeit der Schlüssel zum Erfolg. Cisco AI Defense integriert sich nahtlos in die Netzwerkstruktur und ermöglicht es so, Bedrohungen sowohl bei der Entwicklung als auch beim Zugriff auf KI-Anwendungen zuverlässig zu erkennen und zu verhindern.“

AI Defense wird ab März 2025 verfügbar sein.