OpenAI начнёт маркировать текст ChatGPT в ЕС: что это значит

Что произошло

OpenAI объявила, что начнёт добавлять невидимый водяной знак к тексту, генерируемому ChatGPT и Codex, — но пока только на территории Европейского союза. Это нужно, чтобы соответствовать требованиям EU AI Act. Компания опубликовала соответствующее заявление в блоге.

Водяной знак не представляет собой какой‑либо символ: он формируется за счёт тонкого влияния на выбор слов моделью. В результате возникает паттерн — незаметный для читателя, но уловимый для детектора. Знак «путешествует» вместе с текстом при копировании и вставке.

Развёртывание функции запланировано на ближайшие недели для подходящих пользователей ChatGPT и Codex во всех тарифных планах — но исключительно в ЕС. Разработчики, использующие API OpenAI в любой точке мира, могут включить маркировку для отдельных моделей уже сейчас — по умолчанию она отключена.

Суть решения по пунктам

1. Область применения: маркировка будет доступна сначала только в ЕС; глобально по умолчанию её включать не планируют.
2. Механизм работы: водяной знак (метод textGrain) не является видимым символом. Он формируется за счёт незаметного влияния на выбор следующих слов в тексте — с использованием секретного ключа.
3. Доступность:
   • для пользователей ChatGPT и Codex в ЕС — развёртывание в ближайшие недели;
   • для разработчиков через API — включение для отдельных моделей доступно уже сейчас (по умолчанию выключено).
4. Особенности и ограничения:
   • водяной знак не идентифицирует пользователя;
   • производительность моделей при включённой маркировке существенно не меняется;
   • редактирование текста может снизить эффективность детекции (замена 10 % слов синонимами снижает точность с ~92 % до 66 %);
   • короткие фрагменты, ответы на математические задачи и переведённые тексты сложнее поддаются обнаружению.
5. Доступ к детектору: на первом этапе доступ к детектору получат только утверждённые исследователи и экспертные организации — для оценки надёжности и ответственного использования.
6. Важные оговорки:
   • отсутствие водяного знака не доказывает авторство человека (текст может быть слишком коротким, сильно отредактированным или сгенерированным ИИ другой компании);
   • водяной знак может указывать, что часть текста сгенерирована или обработана системой OpenAI, но не показывает степень человеческого участия.

Контекст: как это соотносится с уже существующим регулированием

Решение OpenAI напрямую связано с требованиями EU AI Act — закона ЕС о регулировании искусственного интеллекта. В частности, правила прозрачности этого акта (вступившие в силу 2 августа) обязывают компании, работающие с ИИ, маркировать контент, созданный с помощью ИИ, таким образом, чтобы его могли идентифицировать другие системы.

OpenAI — не единственная компания, которая идёт по пути маркировки. Например, Anthropic объявила о внедрении водяных знаков для текста, генерируемого Claude, причём на глобальном уровне. Это решение вызвало критику со стороны части пользователей, считающих, что они предоставляют инструкции и контекст, а ИИ выступает лишь инструментом.

Кроме того, OpenAI, Anthropic, Google, Meta и Microsoft входят в число компаний, взявших на себя обязательство следовать кодексу практики ЕС в отношении контента, созданного с помощью ИИ.

Что это значит для российских юристов и бизнеса

Хотя инициатива OpenAI напрямую затрагивает только ЕС, она имеет значение и для российских компаний и юристов:

• Экстерриториальность регулирования. EU AI Act действует не только внутри ЕС: он затрагивает поставщиков, выводящих свои ИИ‑системы на рынок ЕС, а также ситуации, когда результаты работы ИИ используются на территории союза. Российские компании, работающие с европейскими клиентами или пользователями, могут попасть под действие этих требований.
• Тенденция к маркировке. Внедрение водяных знаков OpenAI и другими крупными игроками задаёт тренд на обязательную маркировку ИИ‑контента. Это может повлиять на будущие нормы в других юрисдикциях, в том числе потенциально и в России.
• Вопросы ответственности и авторства. Маркировка ИИ‑контента усложняет вопросы определения авторства и ответственности за сгенерированный контент. Юристам придётся учитывать, что наличие или отсутствие водяного знака не всегда однозначно указывает на авторство или степень человеческого участия.
• Риски и комплаенс. Для бизнеса, использующего ИИ‑генерацию, возникает необходимость оценивать риски, связанные с маркировкой контента, особенно при работе с европейскими партнёрами. Важно понимать, как маркировка влияет на соблюдение требований прозрачности и какие ограничения она накладывает.
• Технические и юридические вызовы. Ограничения детекции (редактирование, короткие тексты и т. д.) создают дополнительные сложности для юристов: как доказывать происхождение контента, как учитывать возможные ошибки детектора, как трактовать отсутствие знака.

Чего ждать дальше

• Расширение практики маркировки. Другие крупные ИИ‑компании, скорее всего, последуют примеру OpenAI и Anthropic, внедряя аналогичные механизмы маркировки — как минимум для соответствия требованиям ЕС.
• Развитие детекторов. По мере распространения водяных знаков будут совершенствоваться и инструменты их обнаружения, а также методы обхода (например, более изощрённое редактирование текста).
• Уточнение регулирования. ЕС и другие юрисдикции могут уточнить требования к маркировке ИИ‑контента, учитывая первые результаты внедрения водяных знаков и обратную связь от индустрии.
• Рост числа споров. Появятся судебные и административные споры, связанные с трактовкой маркировки, ответственностью за сгенерированный контент и соблюдением требований прозрачности.
• Международные стандарты. Возможно появление международных стандартов или рекомендаций по маркировке ИИ‑контента, особенно если практика получит широкое распространение.

Юристу важно: следить за развитием регулирования ИИ в ЕС и практикой внедрения водяных знаков. Оценивать риски для клиентов, работающих с ИИ‑генерацией и имеющих связи с ЕС. Учитывать, что маркировка не даёт полной гарантии определения авторства, а её отсутствие не доказывает человеческое происхождение текста.