Forscher der University of Surrey haben eine Software entwickelt, die überprüft, welche und wie viele Informationen eine Künstliche Intelligenz (KI) aus der digitalen Datenbank eines Unternehmens gewonnen hat. Die neue Verifizierungs-Software lässt sich demnach als Teil des Online-Sicherheitsprotokolls eines Unternehmens verwenden und hilft zu verstehen, ob eine KI zu viel gelernt oder sogar auf sensible Daten zugegriffen hat.
“Wir haben Jahre gebraucht, um eine Software zu entwickeln, die herausfindet, was eine KI weiß. Durch die Möglichkeit zu überprüfen, was die KI gelernt hat, können wir Unternehmen das Vertrauen geben, die Leistungsfähigkeit der KI ohne Sicherheitsbedenken optimal zu nutzen. Diese Software ist ein wichtiger Schritt zur Wahrung der Privatsphäre und Integrität von Datensätzen”, ergänzt Adrian Hilton, Direktor des Instituts für menschenzentrierte KI an der Universität.
Den Experten nach kan der innovative Algorithmus sogar erkennen, ob die KI Fehler im Software-Code identifiziert hat und ausnutzt. Zum Beispiel könnte sie feststellen, ob eine KI gelernt hat, beim Online-Poker immer zu gewinnen, indem sie einen Kodierungsfehler ausnutzt.
Drei Bausteine bilden die Grundlage für eine KI-Governance: Dokumentation von KI-Projekten, Model Evaluation und Monitoring…
Eine Harmonisierung der Vorschriften für RIDP-Prozesse wird dazu beitragen, Angriffe künftig besser abwehren zu können,…
Die Übernahme der Metaal Kennis Groep soll den Zugang zur Metallindustrie verbessern. Im Fokus stehen…
EY hat Mitarbeitende in neun europäischen Ländern dazu befragt, wie stark KI ihren Arbeitsalltag verändert.
Kann die Privatwirtschaft mit DePINs – dezentralen, physischen Infrastrukturnetzwerken – erreichen, was Gaia-X bislang vergeblich…
Analyse zur Anfälligkeit von MFA auf Basis von 15.000 Push-basierten Angriffen. Größte Schwachstelle ist die…