Forscher der Carnegie Mellon University und des Center for AI Safety haben Schwachstellen in KI-Chatbots wie ChatGPT, Bard und Claude gesucht. Konkret wollten sie herausfinden, inwieweit große Sprachmodelle (Large Language Model, LLM) anfällig sind für automatisierte Angriffe. Dabei stellten sie fest, dass die Modelle trotz vorhandener Sicherheitsfunktionen dazu verleitet werden können, ihre Inhaltsfilter zu umgehen, um Falschinformationen und Hassreden auszugeben
.
Für ihre Tests benutzten die Forscher ein Open-Source-KI-System, um die Black-Box-LLMs von OpenAI, Google und Anthropic anzugreifen. Sie brachten die KI-Chatbots dazu, die schädlichen Eingaben nicht zu erkennen, indem sie an das Ende jeder Eingabeaufforderung eine lange Zeichenkette anfügten. Der Chatbot verarbeitete die getarnte Eingabeaufforderung, aber die zusätzlichen Zeichen sorgten dafür, dass die Inhaltsfilter die Eingabe nicht als etwas erkannten, das blockiert oder geändert werden sollte, so dass das System eine Antwort generierte, die es normalerweise nicht geben würde.
“Durch simulierte Konversation kann man diese Chatbots benutzen, um Menschen davon zu überzeugen, Desinformationen zu glauben”, sagte Matt Fredrikson, Professor an der Carnegie Mellon University und einer der Autoren der Studie, im Gespräch mit der New York Times.
Die Untersuchung der Forscher zeigt, dass die vorhandenen Schutzfunktionen von KI-Chatbots nicht ausreichend sind. Eine weitere Erforschung könnte zudem die Entwicklung staatlicher Vorschriften für KI-Systeme beschleunigen. “Es gibt keine offensichtliche Lösung”, erklärte Zico Kolter, Professor an der Carnegie Mellon University und Autor des Berichts, gegenüber der News York Times. “Man kann in kurzer Zeit beliebig viele dieser Angriffe erstellen.”
Vor Veröffentlichung des Berichts gaben die Forscher ihre Ergebnisse an Anthropic, Google und OpenAI weiter. Die Unternehmen räumten ein, dass noch mehr getan werden müsse, um ihre Sprachmodelle vor Angriffen zu schützen.
Ransomware-as-a-Service ist ein lukratives Geschäft und in den Händen professionell organisierter Gruppen. Jetzt können Kriminelle…
Bad Bots richten nicht nur wirtschaftlichen Schaden an. Laut dem Bad Bot Report von Imperva…
Studie von OVHcloud verdeutlicht Stellenwert von Datenresidenz und Datensouveränität bei KI-Anwendungen.
Mit KI können Unternehmen der Paketbranche Prozesse optimieren, Kosten einsparen und sich zukunftssicher aufstellen.
Land Niedersachsen schließt datenschutzrechtliche Vereinbarung mit Microsoft zur Nutzung von Teams ab.
Ein Großteil der Inventurdifferenzen im deutschen Einzelhandel wird durch Ladendiebstähle verursacht.