Claude bekommt ein Text-Wasserzeichen. Was das bedeutet und was nicht
Künftige Claude-Modelle werden Texte mit einem unsichtbaren Wasserzeichen erzeugen. Anthropic führt dieses Watermarking nach eigenen Angaben ein, um Transparenzpflichten des EU AI Act umzusetzen (https://www.anthropic.com/news/claude-text-watermark). Technisch orientiert sich das Verfahren an SynthID-Text, einem von Google DeepMind entwickelten und 2024 in Nature publizierten Ansatz (https://www.nature.com/articles/s41586-024-08025-4).
Wer nun an versteckte Zeichen, unsichtbare Unicode-Zeichen oder eine Art digitale Signatur im Text denkt, liegt allerdings falsch. Dem von Claude generierten Text wird nichts hinzugefügt. Das Wasserzeichen entsteht vielmehr bereits bei der Auswahl der Wörter während der Textgenerierung.
Wie kann man einen Text überhaupt unsichtbar mit einem Wasserzeichen versehen?
Sprachmodelle wie Claude erzeugen einen Text Token für Token. Für jedes nächste Token berechnet das Modell, welche Fortsetzungen aufgrund des bisherigen Textes wahrscheinlich sind. Anthropic verwendet dafür ein anschauliches Beispiel:
„The weather today was cold and …“
Das nächste Wort wird kaum „sugary“ sein. Plausible Fortsetzungen wären dagegen etwa „overcast“ oder „grey“. Für die Bedeutung des Satzes macht es in diesem Fall kaum einen Unterschied, welches dieser Wörter gewählt wird. Solche Situationen bezeichnet Anthropic als „low-stakes choices“, denn das Modell hat mehrere praktisch gleichwertige Möglichkeiten. Und genau hier setzt das Wasserzeichen an. Normalerweise enthält die Textgenerierung ein gewisses Zufallselement. Bei der Wasserzeichen-Methode wird diese Zufälligkeit so gesteuert, dass Claude bei vielen dieser kleinen Entscheidungen einem bestimmten statistischen Muster folgt. Die einzelnen Entscheidungen fallen einem Leser nicht auf. Über einen längeren Text verteilt entsteht jedoch ein Muster, das mit einem entsprechenden Schlüssel erkannt werden kann. Das Wasserzeichen steckt somit in der statistischen Verteilung der gewählten Wörter.
Monopoly mit Pi statt Würfeln
Anthropic erklärt das Prinzip des Wasserzeichens mit einer anschaulichen Analogie. Stellen wir uns eine Partie Monopoly vor. Normalerweise wird bei jedem Zug gewürfelt. Die Spielfiguren bewegen sich entsprechend einer zufälligen Zahlenfolge über das Brett. Nun ersetzen wir die Würfel durch die Nachkommastellen von Pi. Wir beginnen beispielsweise bei der 1'012'845. Stelle nach dem Komma. Dort steht eine 6. Für den nächsten Zug verwenden wir die folgende Ziffer von Pi, danach die nächste und so weiter.
Ob man bei Monopoly würfelt oder jeweils die nächste Nachkommastelle von Pi verwendet, macht für die Spieler praktisch keinen Unterschied. Die Bewegungen wirken in beiden Fällen weiterhin zufällig. Wenn wir nach dem Spiel jedoch die gesamte Abfolge der Züge kennen und zusätzlich wissen, welche Stelle von Pi als Ausgangspunkt verwendet wurde, können wir überprüfen, ob die beobachtete Zahlenfolge auffällig gut zu Pi passt. Das Spiel wäre in diesem Sinne mit einem Wasserzeichen versehen.
Genau dasselbe Prinzip kommt beim Text zur Anwendung. Für uns als Leser erscheinen die Wortentscheidungen normal. Wer jedoch den verwendeten Schlüssel kennt, kann untersuchen, ob die Abfolge der Tokens statistisch zu dem Muster passt, das Claude bei der Generierung erzeugt hätte.
Kein klassischer KI-Detektor
Darin liegt ein wesentlicher Unterschied zu den bisherigen sogenannten KI-Detektoren. Klassische Detektoren versuchen anhand sprachlicher Eigenschaften zu beurteilen, ob ein Text von einem Menschen oder einer KI stammt. Sie suchen beispielsweise nach Formulierungen oder statistischen Eigenschaften, die für KI-Texte typisch erscheinen. Beim Wasserzeichen wird demgegenüber überprüft, ob die Wortfolge mit einem statistischen Muster übereinstimmt, das bei der Generierung gezielt hinterlassen wurde. Anthropic will dafür künftig eine eigene Watermark Detection API anbieten.
Was bedeutet das konkret
Angenommen, die Detection API kommt zum Ergebnis, dass Claude an einem Text beteiligt war. Was wissen wir dann? Zunächst lediglich, dass Claude wahrscheinlich irgendwann an der Entstehung oder Bearbeitung des Textes beteiligt war. Wir wissen dagegen nicht, ob Claude den gesamten Text erstellt hat. Ebenso wenig wissen wir, welche inhaltliche Leistung von der betreffenden Person selbst stammt.
Eine weitere Grenze ergibt sich unmittelbar aus der Funktionsweise des beschriebenen Wasserzeichenverfahrens. Das Wasserzeichen braucht Stellen, an denen Claude zwischen mehreren ungefähr gleichwertigen Möglichkeiten wählen kann. Es funktioniert weniger gut, wenn das Modell praktisch keine Auswahl hat.
Anthropic verwendet dafür folgendes Beispiel:
„Isaac Newton’s most famous work was called Principia …“
Hier ist das nächste Wort nicht beliebig. Es muss „Mathematica“ heissen. Würde das Wasserzeichen Claude stattdessen zu einem anderen Wort bewegen, wäre die Aussage schlicht falsch. Anthropic formuliert es deshalb so, dass Watermarking bei faktischen Passagen „sparser“ sei, weil es dort weniger Entscheidungen gebe, die verändert werden könnten, ohne die Genauigkeit zu beeinträchtigen.
Juristische Texte enthalten viele Stellen, an denen Genauigkeit entscheidend ist. Gesetzesbestimmungen, Entscheidbezeichnungen und bestimmte Fachbegriffe lassen sich nicht beliebig austauschen. An solchen Stellen hat ein Wasserzeichen entsprechend wenig Spielraum. Das bedeutet allerdings nicht, dass juristische Texte generell nicht mit einem Wasserzeichen versehen werden könnten. Wie gut ein Wasserzeichen in unterschiedlichen Arten juristischer Texte tatsächlich nachweisbar sein wird, dürfte daher eine interessante empirische Frage werden.
Und kann man das Wasserzeichen entfernen?
Ja, zumindest grundsätzlich. Anthropic sagt selbst ausdrücklich, dass eine leichte Bearbeitung das Wasserzeichen wahrscheinlich nicht vollständig beseitigt, eine umfassende Neuformulierung dagegen schon. Das ist letztlich eine logische Folge des technischen Ansatzes. Wenn die von Claude ausgewählten Wörter ersetzt werden, verschwindet nach und nach auch das darin enthaltene statistische Muster.
Wenn man nun bei Google nach KI-Wasserzeichnen sucht, ist die Entfernung der Wasserzeichen auch der erste Suchvorschlag.
Und kaum erklärte Anthropic, dass es Texte mit Wasserzeichen versieht, tauchten bereits verschiedene Tools auf, die versprechen, Claude-Wasserzeichen durch Neuformulierungen oder andere Transformationen zu entfernen, z.B. das Tool “Declaude”: https://declaude.org/
Ob und wie zuverlässig solche Angebote funktionieren, ist derzeit allerdings schwer zu beurteilen, zumal Anthropic die angekündigte öffentliche Detection API noch nicht bereitgestellt hat.
Mehr Transparenz, aber keine robuste Kontrolle
Wasserzeichen können damit durchaus zu mehr Transparenz über den Einsatz generativer KI beitragen. Eine robuste Kontrolle darüber, ob und wie KI für einen Text verwendet wurde, schaffen sie aber nicht. Ein Wasserzeichen sagt insbesondere nicht zuverlässig aus, wie gross der menschliche und wie gross der maschinelle Anteil an einem Text war. Bei kurzen oder stark faktischen Texten kann das Signal zudem schwächer sein. Durch eine umfassende Überarbeitung kann es schliesslich ganz verschwinden.
Text-Wasserzeichen dürften damit ein weiterer Baustein im künftigen Umgang mit KI-generierten Inhalten sein, ihre tatsächliche Bedeutung wird sich aber erst in der Praxis zeigen.