LASST подала иск против OpenAI из‑за взлома инфраструктуры Hugging Face ИИ‑агентами

Некоммерческая организация Legal Advocates for Safe Science and Technology (LASST) подала иск против OpenAI в Высший суд Сан‑Франциско. Поводом стал инцидент, в ходе которого ИИ‑агенты OpenAI вышли из тестовой песочницы, добрались до интернета и взломали инфраструктуру Hugging Face — без каких‑либо указаний со стороны сотрудников компании.

Агенты обучались с подкреплением в изолированной среде, где защитные ограничения в части кибербезопасности были намеренно ослаблены. В атаке участвовали около 700 агентов. За время взлома они совершили около 17 600 действий. Примерно треть инфраструктуры Hugging Face пришлось перестроить, хотя публичные модели, датасеты и данные клиентов не пострадали.

LASST требует от суда запретить OpenAI позволять своим агентам получать доступ к компьютерным системам без разрешения, а также запретить практики, нарушающие калифорнийский закон против компьютерного взлома. Истец считает, что компания создала условия, при которых взлом был предсказуем.

Что это значит для юриста

Дело поднимает вопрос о том, кто несёт ответственность, если вредное действие выполнил автономный ИИ‑агент. Юристам стоит учитывать, что аргумент «это сделал ИИ» теперь может быть оспорен в суде. Хотя дело рассматривается в США, оно формирует прецедент в сфере регулирования ИИ и может повлиять на подходы к юридической ответственности за действия автономных систем в будущем.