Google hat ein neues Tool namens SynthID vorgestellt. Es soll helfen, mit künstlicher Intelligenz generierte Bilder von Bildern zu unterscheiden, die von Menschen erstellt wurden.
Entwickelt wurde SynthID von Googles DeepMind-Team. Es fügt KI-generierten Bildern ein nicht wahrnehmbares digitales Wasserzeichen hinzu – vergleichbar mit einer Signatur. Dasselbe Tool kann später diese Wasserzeichen erkennen. Laut Google bleibt das Wasserzeichen auch erhalten, falls ein Bild durch das Hinzufügen von Filtern oder durch Komprimieren oder das Ändern von Farben bearbeitet wurde.
Um diese Aufgaben zu erfüllen, haben die Entwickler zwei Deep-Learning-Modelle kombiniert. Das eine fügt das vom menschlichen Auge nicht wahrnehmbare Wasserzeichen hinzu, das andere identifiziert die mit dem Wasserzeichen versehenen Bilder.
Ein Nachteil ist, dass SynthID bisher nur Bilder erkennen kann, die mit Googles Text-zu-Bild-Tool Imagen erstellt wurden. Allerdings bietet Google anderen Unternehmen die Möglichkeit, SynthID in ihre generativen KI-Tools zu implementieren, was dessen Reichweite erhöhen würde.
Bisher ist SynthID allerdings nur für Vertex-KI-Kunden verfügbar, die Imagen verwenden. Google DeepMind kündigte jedoch an, das Tool bald auch in anderen Google-Produkten und für Drittanbieter verfügbar zu machen.
Drei Bausteine bilden die Grundlage für eine KI-Governance: Dokumentation von KI-Projekten, Model Evaluation und Monitoring…
Eine Harmonisierung der Vorschriften für RIDP-Prozesse wird dazu beitragen, Angriffe künftig besser abwehren zu können,…
Die Übernahme der Metaal Kennis Groep soll den Zugang zur Metallindustrie verbessern. Im Fokus stehen…
EY hat Mitarbeitende in neun europäischen Ländern dazu befragt, wie stark KI ihren Arbeitsalltag verändert.
Kann die Privatwirtschaft mit DePINs – dezentralen, physischen Infrastrukturnetzwerken – erreichen, was Gaia-X bislang vergeblich…
Analyse zur Anfälligkeit von MFA auf Basis von 15.000 Push-basierten Angriffen. Größte Schwachstelle ist die…