Суд в Москве запретил создавать обнажённые фото россиян в нейросети

Что произошло

Роскомнадзор выявил сайт, который предлагал пользователям сгенерировать обнажённое или порнографическое изображение с использованием технологий ИИ — на основе настоящей фотографии. Один из слоганов нейросети звучал как «разденьте свою подругу с помощью ИИ».

Ведомство посчитало, что ресурс нарушает права россиян на неприкосновенность частной жизни, личную и семейную тайну. Кроме того, на сайте не было информации, подтверждающей наличие согласия граждан на обработку персональных данных. Роскомнадзор обратил внимание на следующие аспекты:

• сайт работает через зарубежные сервисы, что не снимает с него обязанности соблюдать российское законодательство;
• отсутствует механизм верификации возраста пользователей, что повышает риски создания и распространения контента с участием несовершеннолетних;
• нет инструментов для проверки, загружает ли пользователь собственное фото или изображение другого человека без его разрешения.

Роскомнадзор обратился в суд с иском. Суд в Москве удовлетворил требования ведомства и запретил использовать фотографии россиян в нейросети, применяемой для генерации изображений людей без одежды.

Суть решения по пунктам

1. Запрещено использовать фотографии россиян в нейросети для генерации обнажённых изображений (дипфейков). Это касается любых сценариев: как загрузки фото пользователем, так и использования изображений, уже размещённых на платформе.
2. Признано незаконным размещение на сайте фото‑ и видеоизображений россиян. Под запрет попадают как исходные фотографии, так и любые производные материалы.
3. Признаны незаконными созданные с помощью ИИ материалы с участием граждан России. К ним относятся:
   • полностью сгенерированные изображения, стилизованные под конкретного человека;
   • дипфейки, где лицо человека наложено на чужое тело;
   • любые иные визуальные материалы, позволяющие идентифицировать гражданина.
4. Основание для решения — нарушение прав на неприкосновенность частной жизни, личную и семейную тайну, а также отсутствие подтверждения согласия граждан на обработку персональных данных. Суд подтвердил, что общие правила защиты данных распространяются и на случаи их использования для обучения нейросетей или генерации контента.

Контекст: как это соотносится с уже существующим регулированием

Решение суда опирается на базовые положения российского законодательства о защите персональных данных и неприкосновенности частной жизни:

• Конституция РФ гарантирует право на неприкосновенность частной жизни (ст. 23).
• Федеральный закон «О персональных данных» (152‑ФЗ) устанавливает правила обработки персональных данных, включая необходимость получения согласия субъекта. В контексте ИИ‑сервисов это означает, что:
  • пользователь должен явно подтвердить, что загружаемое фото принадлежит ему;
  • если изображение содержит данные других лиц, требуется их согласие;
  • условия использования данных должны быть прозрачны и доступны.
• Законодательство предусматривает ответственность за нарушение неприкосновенности частной жизни (ст. 137 УК РФ), в т. ч. за незаконное распространение сведений о частной жизни лица без его согласия. Это распространяется и на сгенерированный контент, если он позволяет идентифицировать человека.
• Нормы об ответственности за распространение порнографических материалов (ст. 242 УК РФ) также применимы, особенно если речь идёт о сгенерированном контенте с участием конкретных лиц. При этом ключевым фактором становится не реальная личность на фото, а восприятие изображения как изображения конкретного человека.

Таким образом, суд применил существующие нормы к новой технологической реальности — генерации дипфейков с помощью ИИ. Это создаёт прецедент: аналогичные требования могут быть предъявлены к другим сервисам, использующим персональные данные для создания контента.

Что это значит для российских юристов и бизнеса

Для юристов:

• Появляется судебная практика по защите прав граждан в контексте использования ИИ для создания контента. Теперь можно ссылаться на это решение при подготовке исков о защите частной жизни и персональных данных.
• Усиливается актуальность вопросов обработки персональных данных и получения согласия на их использование, в т. ч. в нестандартных сценариях (генерация изображений). Юристам придётся разрабатывать типовые формулировки согласий, учитывающие специфику ИИ‑сервисов.
• Возрастает потребность в правовой оценке рисков при работе с генеративными моделями ИИ, особенно если они используют персональные данные. Необходимо анализировать:
  • источники данных для обучения модели;
  • механизмы анонимизации;
  • сценарии использования сгенерированного контента.
• Потребуются разъяснения по разграничению ответственности между разработчиками нейросетей, владельцами платформ и пользователями. Например, несёт ли разработчик ответственность, если пользователь загрузил чужое фото?
• Возникает потребность в сопровождении сделок с ИИ‑технологиями: проверка соответствия обработки данных законодательству, оценка рисков распространения сгенерированного контента.

Для бизнеса:

• Компании, использующие ИИ для генерации изображений, должны чётко регламентировать работу с персональными данными и изображениями пользователей. Это включает:
  • разработку политики обработки данных с учётом специфики ИИ;
  • внедрение механизмов верификации пользователей;
  • создание инструментов для отзыва согласия на обработку данных.
• Необходимо предусмотреть механизмы получения согласия на использование фотографий для генерации контента. Примеры формулировок:
  • «Я подтверждаю, что загружаемое изображение содержит моё фото либо я получил согласие всех лиц, изображённых на нём»
  • «Я разрешаю использовать моё фото для обучения модели и генерации контента в рамках условий пользовательского соглашения»
• Следует оценить риски размещения пользовательского контента, который может нарушать права третьих лиц. Рекомендуется внедрить:
  • модерацию загружаемых изображений;
  • инструменты для подачи жалоб на нарушение прав;
  • автоматизированные системы выявления потенциально незаконного контента.
• Важно учитывать, что использование зарубежных сервисов не освобождает от соблюдения российского законодательства. Если платформа доступна для российских пользователей, она должна соответствовать требованиям 152‑ФЗ и УК РФ.
• Рекомендуется провести аудит текущих процессов обработки данных и генерации контента на соответствие требованиям о защите частной жизни и персональных данных. Типичные ошибки, которые стоит проверить:
  • отсутствие явного согласия на использование фото для генерации;
  • нечёткие формулировки в пользовательском соглашении;
  • отсутствие механизмов защиты от загрузки чужих фото;
  • хранение исходных изображений без необходимости.

Чего ждать дальше

Можно ожидать:

• Роста числа исков по аналогичным делам — как от Роскомнадзора, так и от граждан, чьи права нарушены. Пострадавшие могут требовать:
  • удаления незаконного контента;
  • блокировки платформ, распространяющих дипфейки;
  • компенсации морального вреда.
• Разработки дополнительных разъяснений регуляторов по применению законодательства к ИИ‑генерируемому контенту. Возможно, появятся методические рекомендации по:
  • получению согласия на использование данных для генерации;
  • маркировке сгенерированных изображений;
  • разграничению ответственности участников процесса.
• Усиления контроля за сайтами и сервисами, предлагающими генерацию дипфейков. Роскомнадзор может:
  • расширить критерии выявления незаконного контента;
  • ужесточить требования к верификации пользователей;
  • ввести обязательную маркировку ИИ‑генерируемых изображений.
• Появления новых законодательных инициатив, направленных на регулирование использования ИИ в создании контента, затрагивающего частную жизнь граждан. Например, могут быть введены:
  • специальные требования к сервисам генерации изображений;
  • ограничения на использование определённых технологий;
  • дополнительные составы правонарушений в УК РФ.
• Развития технических и правовых механизмов верификации контента (например, маркировки сгенерированных изображений). Это может включать:
  • внедрение цифровых водяных знаков;
  • создание реестров ИИ‑моделей;
  • разработку стандартов прозрачности для генеративных систем.

Юристу важно: отслеживать развитие судебной практики по делам о дипфейках и ИИ, учитывать риски обработки персональных данных при работе с генеративными моделями, а также быть готовым к новым регуляторным требованиям в этой сфере. Особое внимание стоит уделить формулировкам согласий на обработку данных и механизмам защиты прав граждан при использовании ИИ‑технологий.