OpenAI внедряет невидимые водяные знаки в тексты и код, которые генерируют ChatGPT и Codex. Начнут с Евросоюза: там этого требует закон об ИИ (AI Act). Технология называется textGrain, и, в отличие от пометок в метаданных, её нельзя просто стереть. Знак вшит в сам текст, в выбор слов. Но и у этого подхода есть слабые места, которые OpenAI честно признаёт.
Что меняется
| Подробности | |
|---|---|
| Где | Сначала только ЕС |
| Что помечается | Тексты и код из ChatGPT и Codex |
| Когда | Включение для пользователей растянется на несколько недель |
| API | Разработчики по всему миру могут включить textGrain уже сейчас, по умолчанию он выключен |
| Кто может проверить текст | Пока только одобренные исследователи и экспертные организации |
Как работает textGrain
Языковая модель пишет текст, на каждом шаге выбирая следующее слово из нескольких вероятных вариантов. textGrain с помощью секретного ключа незаметно смещает этот выбор: из почти равноценных слов чаще берутся те, что соответствуют скрытому шаблону. Человек разницы не заметит — текст остаётся естественным. А детектор, знающий ключ, видит статистическую закономерность, которая в обычном тексте случайно не возникает.
Важная деталь: детектор не определяет, кто именно написал текст. Он не раскрывает аккаунт, запрос или переписку. Он лишь оценивает, похож ли фрагмент на результат работы модели OpenAI.
Слабые места
OpenAI сама приводит цифры, которые показывают пределы метода:
- если заменить синонимами всего 10% слов, доля распознанных текстов падает с 92% до 66%;
- на коротких текстах и математических ответах точность заметно ниже: сигналу просто не хватает слов, чтобы проявиться;
- перевод на другой язык и любая правка тоже ослабляют знак.
Компания прямо пишет, что отсутствие водяного знака не доказывает, что текст написал человек. То есть textGrain не станет «детектором ИИ» для преподавателей и работодателей. Это инструмент для оценки происхождения текста, а не приговор.
Зачем это OpenAI
Статья 50 европейского закона об ИИ обязывает разработчиков генеративных моделей маркировать созданный ими контент в машиночитаемом виде. Под это требование попадают и OpenAI, и Microsoft, Google, Meta. Anthropic объявила о похожих водяных знаках для Claude на пару месяцев раньше, и тогда часть пользователей восприняла это в штыки: многие опасались, что их тексты начнут массово «ловить».
Что это значит для пользователей
- В России и за пределами ЕС ничего не меняется: в ChatGPT водяной знак пока включают только для Европы.
- Студентам и копирайтерам не стоит рассчитывать, что знак никто не увидит. Но и паниковать рано: детектор закрыт для широкой публики, а после правки текста надёжность распознавания резко падает.
- Разработчикам textGrain доступен уже сейчас через API. Его можно включить, например, чтобы потом подтвердить происхождение сгенерированных материалов.
Главный вывод: водяные знаки в тексте становятся отраслевым стандартом, но надёжным способом отличить ИИ от человека они пока не являются.
Источники: TechCrunch, Engadget.
