Claude versteckt Wasserzeichen in seinen Texten – das könnte KI-Inhalte entlarven

Wer Texte mit Claude erstellt und anschließend kopiert, könnte künftig mehr mitnehmen als nur Wörter. Anthropic, das Unternehmen hinter dem bekannten KI-Modell, versieht die Inhalte nun mit unsichtbaren, maschinenlesbaren Markierungen. Diese sollen auch nach dem Einfügen in andere Dokumente erhalten bleiben. Die Wasserzeichen in Claude sind für Menschen beim Lesen nicht sichtbar, können aber technisch erkannt werden.

Anthropic erklärt in einer Mitteilung, man reagiere damit auf Transparenzvorgaben des EU AI Act, die den Umgang mit KI-generierten Inhalten stärker regeln. Die Kennzeichnung soll jedoch weltweit umgesetzt werden. Betroffen sind neue Claude-Modelle, die seit Anfang August veröffentlicht werden. Ältere Modelle sollen während der Übergangsphase des EU AI Act nach und nach entsprechende Funktionen erhalten.

Claude-Wasserzeichen sollen sogar Copy-Paste überstehen

Bei normalen Texten soll die Markierung direkt während der Erzeugung entstehen. Anthropic beschreibt sie als ein „nicht wahrnehmbares Signal“, das sich im Text verbirgt. Wer eine Claude-Antwort kopiert und etwa in eine E-Mail, ein Dokument oder ein Redaktionssystem einfügt, entfernt dieses Signal deshalb nicht automatisch. Auch manche nachträglichen Änderungen sollen die Kennzeichnung überstehen können.

Die Technik soll in mehreren Claude-Angeboten zum Einsatz kommen. Dazu gehören die reguläre Anwendung, die API für Entwickler sowie Dienste wie Claude Code und Cowork. Auch Modelle, die über große Cloud-Anbieter bereitgestellt werden, können markierte Texte erzeugen. Anthropic führt unter anderem AWS, Google Cloud und Microsoft Foundry auf. Dadurch kann dieselbe Kennzeichnung in sehr unterschiedlichen Arbeitsabläufen auftauchen.

Was die Claude-Wasserzeichen tatsächlich verraten können

Der größte Unterschied zu bisherigen KI-Detektoren liegt darin, dass nicht allein der Schreibstil analysiert wird. Stattdessen trägt der erzeugte Text selbst ein technisches Signal. Anthropic will Verfahren veröffentlichen, mit denen sich diese Markierungen erkennen lassen. Plattformen, Unternehmen oder Bildungseinrichtungen könnten dann prüfen, ob ein Text Spuren eines unterstützten Claude-Modells enthält.

Eine solche Prüfung beantwortet allerdings nicht zuverlässig die Frage, wer einen Text geschrieben hat. Drei Einschränkungen sind dabei wesentlich:

• Ein menschlich geschriebener Text kann eine Claude-Markierung erhalten, wenn er mit dem Modell übersetzt, gekürzt oder überarbeitet wurde.
• Starke nachträgliche Veränderungen können ein vorhandenes Wasserzeichen abschwächen oder zerstören.
• Sehr kurze Passagen enthalten möglicherweise zu wenig Information für eine zuverlässige Erkennung.

Als „endgültigen Beweis für die Urheberschaft“ sollte man eine solche Kennzeichnung deshalb nicht behandeln, heißt es in dem Bericht. Auch der umgekehrte Schluss wäre falsch: Ein Text ohne erkennbares Wasserzeichen muss nicht automatisch von einem Menschen stammen.

Bei Bildern und Dateien funktioniert die Kennzeichnung anders

Für unterstützte Dateien plant Anthropic keine identische Technik. Bilder und andere Formate sollen stattdessen Herkunftsinformationen nach dem C2PA-Standard erhalten. Die Abkürzung steht für Coalition for Content Provenance and Authenticity. Dabei werden signierte Metadaten an eine Datei angehängt, über die sich ihre Bearbeitung oder Herkunft technisch dokumentieren lässt.

Diese Daten sind jedoch anfälliger als ein Signal innerhalb eines kopierten Textes. Beim erneuten Speichern, bei einer Formatumwandlung oder durch einen Screenshot können Metadaten verloren gehen. Ein Textwasserzeichen reist dagegen mit den Zeichen weiter, solange die Bearbeitung das Signal nicht zu stark verändert. Deshalb setzt Anthropic für Text und Dateien auf unterschiedliche Verfahren.

Der EU AI Act verändert die Kennzeichnung von KI-Inhalten

Hinter der Neuerung steht Artikel 50 des europäischen AI Act. Er enthält Transparenzpflichten für bestimmte KI-generierte oder manipulierte Inhalte. Anthropic gehört zu den Unternehmen, die den europäischen Code of Practice für solche Inhalte unterstützen. Die neuen Kennzeichnungen sollen deshalb bereits auf Modellebene eingebaut werden und nicht erst durch einzelne Anwendungen entstehen.

Im Alltag bleibt die Veränderung zunächst unsichtbar. Claude-Texte sehen mit Wasserzeichen nicht anders aus als bisher, und auch beim Kopieren erscheint kein Warnhinweis. Erst eine passende Prüfsoftware kann nach dem verborgenen Signal suchen. Anthropic will dazu weitere technische Informationen veröffentlichen. Wie zuverlässig die Erkennung nach umfangreichen Bearbeitungen funktioniert und welche Verfahren Dritte dafür einsetzen können, dürfte sich erst mit diesen Details genauer beurteilen lassen.

Kurz zusammengefasst:

• Dateien sollen statt Textwasserzeichen signierte Herkunftsdaten nach dem C2PA-Standard erhalten.
• Neue Claude-Modelle sollen unsichtbare Wasserzeichen direkt in erzeugten Texten hinterlassen.
• Die Markierung kann beim Kopieren erhalten bleiben, beweist aber nicht, dass Claude einen Text vollständig verfasst hat.

Übrigens: KI-Modelle wie Claude und ChatGPt können Menschen bei Streit auch auffällig oft in ihrer eigenen Sicht bestärken. Eine große Studie zeigt, wie solche Antworten Entschuldigungen und Selbstkritik beeinflussen können. Mehr dazu in unserem Artikel.

Bild: © Unsplash