Ein Team von Wissenschaftlern bei Google DeepMind hat ein Tool entwickelt, das Wasserzeichen zu Texten hinzufügt, die von großen Sprachmodellen (LLMs) generiert wurden, um die Fähigkeit zur Identifizierung und Verfolgung von KI-erstelltem Inhalt zu verbessern.
LLMs werden in Anwendungen wie Chatbots und Schreibassistenz weit verbreitet eingesetzt, aber die Identifizierung der Quelle von KI-generiertem Text bleibt eine Herausforderung und wirft Bedenken hinsichtlich der Zuverlässigkeit von Informationen auf.
Während Wasserzeichen in Bildern und Videos üblich sind, ist deren Anwendung auf Text komplex, da jede Veränderung die Bedeutung und Qualität ändern kann. Das neu eingeführte SynthID-Text verwendet einen neuartigen Sampling-Algorithmus, um die Wortwahl subtil zu beeinflussen und eine Signatur einzubetten, die von zugehöriger Erkennungssoftware erkannt werden kann.
In einer Studie, die in der Zeitschrift Nature veröffentlicht wurde, berichteten die Forscher Sumanth Dathathri und Pushmeet Kohli, dass SynthID-Text im Vergleich zu bestehenden Methoden eine verbesserte Effektivität zeigte. Es erfordert nur minimale zusätzliche Rechenleistung, was die Implementierung erleichtert.
Die Fähigkeit, synthetischen Text zu identifizieren, kann helfen, unbeabsichtigte oder absichtliche Missbräuche zu verhindern. Die Autoren betonen, dass SynthID-Text die Textqualität bewahrt und gleichzeitig eine hohe Erkennungsgenauigkeit ermöglicht, was eine technisch robuste Lösung zur Identifizierung von KI-generierten Texten darstellt.
Experten heben die Notwendigkeit solcher Technologien hervor, da die derzeitigen Systeme zur Erkennung von KI-generierten Dokumenten niedrige Genauigkeitsraten aufweisen. Die breite Akzeptanz steht jedoch vor Herausforderungen, insbesondere da Wasserzeichen anfällig für Änderungen sind, die ihre Erkennbarkeit verringern.