TL;DR: Das Wichtigste
- OpenAI hat angekündigt, in der Europäischen Union ein unsichtbares statistisches Wasserzeichen auf die von ChatGPT und Codex generierten Texte anzubringen, um den Anforderungen des AI Act zu entsprechen.
- Der Zugang zum offiziellen Erkennungsprogramm bleibt auf zugelassene Forscher und Fachorganisationen beschränkt, was eine flächendeckende Nutzung durch Unternehmen vorerst ausschliesst.
- Das statistische Wasserzeichen verändert die Wortauswahl bei der Generierung auf nicht wahrnehmbare Weise; eine manuelle Überarbeitung oder Übersetzung verringert jedoch die Erkennbarkeit erheblich.
- Kunden der Programmierschnittstelle müssen die Option manuell aktivieren, wodurch die regulatorische Verantwortung für die Rückverfolgbarkeit auf die technischen Integratoren verlagert wird.
Das Textwasserzeichen ist eine mathematische Methode, mit der maschinell generierte Texte ohne Einfügung sichtbarer Zeichen gekennzeichnet werden, um die von der Europäischen Union vorgeschriebenen Anforderungen an die Rückverfolgbarkeit zu erfüllen. Am 5. Oktober 2026 veröffentlichte OpenAI Einzelheiten zu seiner „textGrain“-Technologie, die darauf ausgelegt ist, eine statistische Signatur in die Antworten von ChatGPT und Codex für europäische Nutzer zu integrieren. Diese Massnahme zielt darauf ab, die gesetzlichen Transparenzpflichten zu erfüllen, wobei gleichzeitig betont wird, dass ein maschinengeneriertes Signal niemals Aufschluss über den tatsächlichen Anteil an Kreativität oder redaktioneller Arbeit gibt, der von einem Menschen geleistet wurde.
Ein in die Wortwahl integriertes probabilistisches Signal
Die textGrain-Technologie verändert weder das Layout noch die Typografie des endgültigen Dokuments. Ein Sprachmodell wählt in der Regel jeden Begriff anhand präziser mathematischer Verteilungen aus; der Mechanismus von OpenAI lenkt diese Auswahlen unauffällig auf bestimmte Teilmengen des Wortschatzes, die durch einen geheimen Schlüssel festgelegt werden. Diese Markierung basiert auf den Wörtern selbst, wodurch der Text seine Leseflüssigkeit behält und gleichzeitig einen unsichtbaren Abdruck trägt.
Das Wichtigste zu Cybersicherheit, KI & Tech
Werden Sie Teil der Community. 3-mal pro Woche erhalten Sie die Trendanalyse von Marc Barbezat (auf Französisch). Kein Spam, nur Informationen.
Dieser Ansatz weist physikalische Einschränkungen auf, die von den Entwicklern des Systems anerkannt werden. Die Erkennungsrate liegt bei langen Textabschnitten von 400 Tokens bei etwa 95 %, sinkt jedoch bei Passagen von 200 Tokens auf etwa 80 %, wie ActuIA erläutert. Sobald eine Person das Ergebnis durch eine wesentliche Umformulierung oder eine Übersetzung verändert, schwächt sich das Signal rasch ab, wodurch die Identifizierung der künstlichen Herkunft bei einem überarbeiteten Dokument kaum noch nachprüfbar ist.
Ein Wasserzeichen gibt keinen Aufschluss über den menschlichen Beitrag. Es kann zwar darauf hinweisen, dass ein OpenAI-System einen Teil einer Passage generiert oder bearbeitet hat, nicht jedoch über den Anteil an menschlicher Beurteilung, Bearbeitung oder Kreativität, der dazu beigetragen hat.
OpenAI (Unser Ansatz hinsichtlich der EU-Vorschriften zur Herkunftsangabe von Texten)
Die Einhaltung der europäischen Vorschriften schreibt die Kennzeichnung von Inhalten vor
Artikel 50 der europäischen Rechtsvorschriften zur künstlichen Intelligenz verpflichtet Anbieter generativer Modelle dazu, ihre Texte für Softwaretools identifizierbar zu machen. Für Systeme, die bereits vor August 2026 in Betrieb genommen wurden, legen die europäischen Vorschriften den Stichtag für die Einhaltung der Vorschriften auf den 2. Dezember 2026 fest. OpenAI beschränkt diese Kennzeichnungspflicht für seine Schnittstellen für die breite Öffentlichkeit ausschliesslich auf das Gebiet der Europäischen Union, im Gegensatz zu anderen Akteuren der Branche, die ihre Signatur weltweit anwenden.
Für automatisierte technische Zugriffe hält OpenAI diese Funktion in den Kontoeinstellungen standardmässig deaktiviert. Branchenverbände, die diese Modelle in ihre eigenen internen oder kommerziellen Tools integrieren, müssen diese Einstellung daher bewusst aktivieren, wenn sie sich auf die ursprüngliche Signatur stützen möchten, um den europäischen Rechtsrahmen einzuhalten.
Analyse
OpenAI plant daher, sich an die europäischen Anforderungen zur Feststellung der Herkunft von Texten anzupassen, indem es das Prinzip des Wasserzeichens anwendet. Wie OpenAI betont, gibt ein Wasserzeichen keinen Aufschluss über den menschlichen Beitrag: Es kann zwar anzeigen, dass ein OpenAI-System einen Teil einer Passage generiert oder bearbeitet hat, nicht jedoch, in welchem Umfang menschliches Urteilsvermögen, redaktionelle Bearbeitung oder menschliche Kreativität dazu beigetragen haben.
Ein Detektor, der angesichts der Grenzen der Kennzeichnung nur eingeschränkt einsetzbar ist
Die Überprüfung auf das Vorhandensein eines Wasserzeichens erfordert einen geschützten Analyseschlüssel. OpenAI hat die Anträge auf Zugang zu seinem Erkennungstool ausschliesslich für Hochschulforscher – wie beispielsweise an der ETH Zürich – sowie für qualifizierte Drittorganisationen freigegeben. Diese Zurückhaltung ergibt sich aus dem Risiko von Analysefehlern, sei es in Form von „Falsch-Positiven“, bei denen der Maschine ein von einem Autor verfasster Text zugeschrieben würde, oder von „Falsch-Negativen“, die durch eine zu kurze oder zu fachspezifische Formulierung verursacht werden.
Das Fehlen eines erkannten Signals ist keinesfalls ein Beweis dafür, dass ein Text von einem Menschen verfasst wurde. Ein mathematisches Dokument mit sehr strengen Vorgaben, eine zusammenfassende Passage mit weniger als 200 Tokens oder ein überarbeiteter Text entziehen sich häufig den derzeitigen statistischen Analysen. Die technische Kennzeichnung weist lediglich darauf hin, dass in einer Phase des Dokumentenprozesses eine Maschine zum Einsatz kam, ohne dabei den intellektuellen Beitrag des abschliessenden Korrekturlesers zu bewerten oder zu bestätigen.
Die Einführung von textGrain durch OpenAI entspricht den Anforderungen des europäischen Rechtsrahmens zur Rückverfolgbarkeit von Algorithmen, ohne das Wasserzeichen zu einem absoluten Echtheitsnachweis zu machen. Die Technologie weist zwar auf die Beteiligung einer Maschine an der Roherstellung eines Dokuments hin, ist jedoch nicht in der Lage, den Aufwand an redaktioneller Bearbeitung, Auswahl oder menschlicher Reflexion zu quantifizieren, der den endgültigen Text prägt.
Häufig gestellte Fragen zum Wasserzeichen von OpenAI
Was ist das von OpenAI entwickelte textGrain-System?
Es handelt sich um einen Software-Mechanismus, der bei der Textgenerierung durch ChatGPT oder Codex ein nicht wahrnehmbares statistisches Signal einfügt. Dieses Signal beeinflusst auf subtile Weise die Wortwahl anhand eines geheimen Schlüssels, ohne die Lesbarkeit des Satzes zu beeinträchtigen oder versteckte Zeichen hinzuzufügen.
Warum aktiviert OpenAI dieses Wasserzeichen in der Europäischen Union?
Diese Massnahme entspricht den Verpflichtungen gemäss Artikel 50 des europäischen KI-Gesetzes, wonach Entwickler generativer Tools verpflichtet sind, ihre Ergebnisse maschinell identifizierbar zu machen. Bereits auf dem Markt befindliche Systeme haben bis zum 2. Dezember 2026 Zeit, diese vorgeschriebene Rückverfolgbarkeit zu integrieren.
Hält das statistische Wasserzeichen menschlichen Manipulationen stand?
Oberflächliche Änderungen und das Kopieren und Einfügen bewahren in der Regel den statistischen Fingerabdruck, sofern der Text ausreichend lang bleibt. Dagegen führen eine umfassende Überarbeitung, die Verwendung von Synonymen oder eine Übersetzung in eine andere Sprache zu einer erheblichen Verringerung des Fingerabdrucks und können dessen Erkennung verhindern.
Wer kann überprüfen, ob ein OpenAI-Wasserzeichen vorhanden ist?
OpenAI beschränkt den Zugang zu seinem Überprüfungswerkzeug vorerst auf akkreditierte Forscher und spezialisierte Einrichtungen, um die Zuverlässigkeit der Analysen zu gewährleisten. Unternehmen, die das Tool nutzen, sowie die breite Öffentlichkeit haben keinen offenen Zugang, um die Signatur eines Textes frei zu überprüfen.
Bedeutet ein positives Ergebnis, dass ein Text vollständig künstlich ist?
Die Erkennung belegt lediglich, dass ein zugrunde liegendes Modell die analysierten Wortfolgen ganz oder teilweise erzeugt hat. Anhand des Signals lässt sich nicht feststellen, in welchem Umfang redaktionelle Arbeit, kritische Überprüfung oder kreative Vorgaben durch einen menschlichen Autor geleistet wurden.
Weitere Informationen zu diesem Thema
Artikel 50: Transparenzpflichten für Anbieter und Betreiber bestimmter Systeme der künstlichen Intelligenz
Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betroffenen natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren Weiterlesen
Transparenz bei KI: Die EU schreibt die Kennzeichnung von KI-generierten Inhalten vor
Die Europäische Union schreibt Transparenz im Bereich der KI vor: Unternehmen müssen fortan Deepfakes, Chatbots und automatische Generierungen öffentlich kennzeichnen. Weiterlesen
EU-KI-Gesetz: Anthropic führt die unsichtbare C2PA-Kennzeichnung von Claude flächendeckend ein
Um die europäische KI-Verordnung einzuhalten, fügt Anthropic den von Claude generierten Texten und Dateien eine unsichtbare Kennzeichnung sowie C2PA-Metadaten hinzu. Weiterlesen
Claude: Die unsichtbaren Wasserzeichen wurden bereits umgangen
Open-Source-Tools überarbeiten Claudes Texte, um das mit dem AI Act verbundene SynthID-Wasserzeichen zu entfernen – noch bevor die Erkennungs-API von Anthropic zum Einsatz kommt. Weiterlesen
Hat Ihnen dieses Monitoring Zeit gespart?
Spendieren Sie einen Kaffee, um die Arbeit zu würdigen und DCOD kostenlos und unabhängig zu halten.
