Categories: InnovationKI

Software überprüft, wie smart KI ist

Forscher der University of Surrey haben eine Software entwickelt, die überprüft, welche und wie viele Informationen eine Künstliche Intelligenz (KI) aus der digitalen Datenbank eines Unternehmens gewonnen hat. Die neue Verifizierungs-Software lässt sich demnach als Teil des Online-Sicherheitsprotokolls eines Unternehmens verwenden und hilft zu verstehen, ob eine KI zu viel gelernt oder sogar auf sensible Daten zugegriffen hat.

Wichtiger Schritt für Integrität von Datensätzen

“Wir haben Jahre gebraucht, um eine Software zu entwickeln, die herausfindet, was eine KI weiß. Durch die Möglichkeit zu überprüfen, was die KI gelernt hat, können wir Unternehmen das Vertrauen geben, die Leistungsfähigkeit der KI ohne Sicherheitsbedenken optimal zu nutzen. Diese Software ist ein wichtiger Schritt zur Wahrung der Privatsphäre und Integrität von Datensätzen”, ergänzt Adrian Hilton, Direktor des Instituts für menschenzentrierte KI an der Universität.

Den Experten nach kan der innovative Algorithmus sogar erkennen, ob die KI Fehler im Software-Code identifiziert hat und ausnutzt. Zum Beispiel könnte sie feststellen, ob eine KI gelernt hat, beim Online-Poker immer zu gewinnen, indem sie einen Kodierungsfehler ausnutzt.

Roger Homrich

Recent Posts

KI als Pairing-Partner in der Software-Entwicklung

Pair Programming ist eine verbreitete Methode in der Softwareentwicklung mit vielen positiven Effekten, erklärt Daniel…

8 Stunden ago

Confare #ImpactChallenge 2024 – jetzt einreichen und nominieren

Mit der #ImpactChallenge holt die IT-Plattform Confare IT-Verantwortliche auf die Bühne, die einen besonderen Impact…

12 Stunden ago

Ransomware: Zahlen oder nicht zahlen?

Sollen Unternehmen mit den Ransomware-Angreifern verhandeln und das geforderte Lösegeld zahlen?

16 Stunden ago

KI-gestützter Cobot automatisiert Sichtprüfung

Die manuelle Qualitätsprüfung von Industrieprodukten ist ermüdend und strengt an.  Eine neue Fraunhofer-Lösung will Abhilfe…

1 Tag ago

Digitalisierungsberufe: Bis 2027 fehlen 128.000 Fachkräfte

Studie des Instituts der deutschen Wirtschaft (IW) zeigt, in welchen Digitalisierungsberufen bis 2027 die meisten…

2 Tagen ago

Angriffe auf Automobilbranche nehmen zu

Digitalisierung und Vernetzung der Fahrzeuge, Elektromobilität und autonomes Fahren bieten zahlreiche Angriffspunkte.

2 Tagen ago