KI-generierte Bilder, Videos und Audiofiles erkennen: Google macht SynthID Detector für alle zugä...

Ist ein Bild echt oder wurde es mit KI generiert? Seit kurzem lässt sich diese Frage zumindest teilweise einfacher beantworten, denn Google hat seinen SynthID Detector für alle zugänglich gemacht. Mit dem Detector können Bilder, Videos und Audiodateien darauf überprüft werden, ob sie mit KI generiert oder bearbeitet wurden (Texte leider noch nicht). Hinter dem Detector steckt das von Google DeepMind entwickelte Verfahren SynthID. Anders als bei herkömmlichen Wasserzeichen werden dabei unsichtbare digitale Markierungen direkt in die Inhalte eingebettet, bei Bildern etwa in die Pixel, vgl. auch meine Erklärung:#Claude bekommt ein Text-Wasserzeichen. Was das bedeutet und was nicht.

Was sagt das Ergebnis aus?

Wird ein Wasserzeichen erkannt, ist dies ein Indiz dafür, dass der Inhalt mit einem KI-Modell erstellt oder bearbeitet wurde, das SynthID unterstützt, z.B. die Modelle von Google oder OpenAI. Wird hingegen kein Wasserzeichen gefunden, bedeutet dies im Umkehrschluss keineswegs, dass der Inhalt echt ist. Möglicherweise stammt er von einem anderen KI-Modell oder das Wasserzeichen wurde durch eine starke Bearbeitung entfernt. Auch Fehlinterpretationen sind nicht ausgeschlossen.

Ich habe es gleich ausprobiert

Für unsere kürzlich veröffentlichten «10 Gebote für den Umgang mit KI im juristischen Studium» #10 Gebote für den erfolgreichen Umgang mit KI im juristischen Studium habe ich mit OpenAI ein Comicbild generieren lassen:

Anschliessend habe ich dieses bei Google hochgeladen. Und tatsächlich: SynthID hat das Wasserzeichen erkannt und das Bild als mit OpenAI generiert identifiziert.

Ein spannender Fortschritt für die Transparenz KI-generierter Inhalte, auch wenn damit die Frage nach deren Echtheit noch längst nicht abschliessend beantwortet werden kann.

Hier ausprobieren: SynthID Detector