OpenAI объявила об интеграции невидимого водяного знака в текст ChatGPT и Codex для европейских пользователей. Требование входит в набор требований прозрачности EU AI Act, вступивших в силу 2 августа. Водяной знак будет развёрнут в течение ближайших недель для пользователей всех тарифов, но только в ЕС. Разработчики, использующие API OpenAI, могут включить эту функцию для выбранных моделей уже сейчас, хотя она отключена по умолчанию.
Технически водяной знак — это не символ, а система, которая влияет на выбор слов моделью, оставляя паттерн, невидимый для человека, но обнаруживаемый детектором. Поскольку он встроен прямо в слова, водяной знак остаётся с текстом при копировании и вставке. OpenAI подчёркивает, что водяной знак не идентифицирует пользователя и не влияет на качество работы моделей. Метод, называемый textGrain, был разработан совместно с исследователями Пенсильванского и Йельского университетов.
Уязвимости системы очевидны уже на этапе тестирования. Если заменить 10% слов синонимами, вероятность обнаружения падает с 92% до 66%. Короткие фрагменты, математические ответы и переведённый текст вообще сложнее проверить. OpenAI честно признаёт эти ограничения и предоставляет доступ к детектору только одобренным исследователям и экспертным организациям.
Компания также уточняет важный момент: отсутствие водяного знака не доказывает человеческое авторство. Текст может быть слишком коротким, сильно отредактированным или создан другой AI-системой. Водяной знак указывает только на то, что OpenAI какой-то шаг обработал текст, но не показывает, сколько там человеческого суждения и творчества.
Решение OpenAI идёт вслед за Anthropic, которая два месяца назад объявила о водяных знаках для Claude — причём в масштабе всего мира, а не только в ЕС. Это вызвало критику от части пользователей, которые возражали, что сами они задают инструкции и контекст, а Claude — просто инструмент. OpenAI раньше разработала аналогичный метод, но долго не запускала его, опасаясь, что пользователи перейдут на конкурентов без водяных знаков.
Решение OpenAI выглядит как компромисс между регуляторным давлением и коммерческими интересами. В ЕС водяной знак обязателен, поэтому никакого конкурентного преимущества конкурентов здесь не будет. Глобально же функция остаётся опциональной — и это важно: именно так компания избегает массового ухода пользователей на более «прозрачные» альтернативы. Если бы все вынуждены были маркировать текст везде, такие требования имели бы смысл; в нынешней ситуации водяной знак скорее инструмент для регулятора и исследователей, чем для конечного пользователя.
Для российского бизнеса, использующего OpenAI API, эта новость практически не имеет прямого влияния, если целевая аудитория находится вне ЕС. Если же вы работаете с европейской аудиторией или интегрируете ChatGPT в продукты для ЕС, имейте в виду: все тексты будут маркированы, и это может быть релевантно для вашей документации или политики использования. В контексте растущего российского интереса к локальным альтернативам LLM (включая решения на базе открытых моделей) водяные знаки OpenAI не создают проблемы, но и не дают преимущества — просто еще один сигнал, что регулирование ИИ становится практической реальностью, а не далёкой перспективой.