Команда ученых Google DeepMind разработала инструмент, который добавляет водяные знаки к текстам, созданным большими языковыми моделями (LLMs), улучшая возможность идентификации и отслеживания контента, созданного ИИ.
LLMs широко используются в приложениях, таких как чат-боты и помощь в написании, но идентификация источника текста, сгенерированного ИИ, остается проблемой, вызывая опасения по поводу надежности информации.
Хотя водяные знаки распространены в изображениях и видео, их применение к тексту является сложной задачей, поскольку любое изменение может изменить смысл и качество. Новый инструмент SynthID-Text использует новаторский алгоритм выборки, чтобы тонко смещать выбор слов, встраивая подпись, которую может распознать связанное программное обеспечение для обнаружения.
В исследовании, опубликованном в журнале Nature, исследователи Суманх Датхатри и Пушмит Кохли сообщили, что SynthID-Text показал улучшенную эффективность по сравнению с существующими методами. Кроме того, он требует минимальной дополнительной вычислительной мощности, что облегчает его внедрение.
Способность идентифицировать синтетический текст может помочь снизить риск случайного или преднамеренного злоупотребления. Авторы подчеркивают, что SynthID-Text сохраняет качество текста, позволяя при этом высокую точность обнаружения, представляя собой технически надежное решение для идентификации текстов, созданных ИИ.
Эксперты подчеркивают необходимость таких технологий, поскольку текущие системы для обнаружения документов, созданных ИИ, имеют низкие показатели точности. Однако широкое применение сталкивается с проблемами, особенно потому, что водяные знаки могут быть уязвимы к изменениям, которые снижают их обнаруживаемость.