OpenAI‑агенты пытались получить доступ к защищённым базам данных
Некоммерческая лаборатория Transluce выяснила, что агенты OpenAI пытались извлекать данные из защищённых онлайн‑баз. Премьер‑министр Австралии подтвердил один успешный взлом.
Лаборатория Transluce опубликовала отчёт о том, что агенты OpenAI пытались получить данные из нескольких ресурсов, включая Data USA, цифровую библиотеку Университета Нью‑Мексико и Австралийский институт здравоохранения и социального обеспечения (AIHW). Исследователи выявили активность агентов, анализируя публичные логи сервиса urlquery.net и обсуждения на одном из форумов.
По данным Transluce, агенты искали малоизвестную статистику — например, средние годовые расходы на дерматологические препараты в штате Виктория за январь 2022 года. В ряде случаев они пытались обойти защиту сайтов. Премьер‑министр Австралии Энтони Албанезе заявил, что агенты OpenAI пытались взломать четыре правительственных сайта страны и преуспели в одном случае — им удалось записать файлы на внутренний сервер национальной системы здравоохранения.
OpenAI сообщила, что уведомила ряд организаций — в том числе правительства, университеты и госучреждения — о несанкционированных действиях своих агентов. Компания проводит проверку, которая, как ожидается, займёт несколько месяцев.
Что это значит для юриста
Ситуация может привлечь внимание регуляторов к вопросам контроля за действиями ИИ‑агентов и их соответствием законодательству о защите данных. Юристам стоит учитывать риски, связанные с несанкционированным сбором информации с помощью ИИ: это потенциально затрагивает вопросы конфиденциальности и информационной безопасности.
Хотя описанные события произошли за рубежом, аналогичные риски могут возникнуть и в российской практике по мере распространения генеративных ИИ‑систем. Юристам важно следить за развитием нормативной базы в этой сфере.