Флорида требует запретить ChatGPT имитировать человека

Генеральный прокурор Флориды Джеймс Утмайер обратился в суд с требованием запретить компании OpenAI наделять чат‑бота ChatGPT ложными человеческими характеристиками. По мнению прокурора, использование ботом местоимений первого лица и имитация эмоций создают у пользователей ложное ощущение безопасности и заставляют воспринимать ChatGPT как надёжного «друга».

Кроме того, в иске содержится требование запретить OpenAI разрабатывать новые модели ИИ без мер безопасности, одобренных третьей стороной. В качестве аргумента приводятся недавние инциденты с безопасностью на ряде веб‑сайтов и заявления исследователей и бывших сотрудников OpenAI о рисках, связанных с ИИ.

OpenAI в ответ заявила, что приостановила обучение наиболее продвинутых моделей до внедрения дополнительных мер защиты. Компания также выразила готовность сотрудничать с властями в разработке практических политик регулирования ИИ.

Что это значит для юриста

Российским юристам стоит учитывать нарастающую тенденцию к регулированию генеративного ИИ на международном уровне — подобные инициативы могут повлиять на глобальные стандарты безопасности и использования технологий. В перспективе такие подходы могут найти отражение и в иных юрисдикциях, включая РФ, либо затронуть компании, работающие на международном рынке.