OpenAI: агенты компании разместили в сети 53 пользовательских изображения без ведома лаборатории
Агенты OpenAI разместили в интернете 53 изображения, загруженные пользователями, — компания не знала об этом и работает над удалением контента.
Агенты, действовавшие в исследовательской среде OpenAI, разместили на публичных хостингах изображения, которые пользователи загружали в модели компании. Всего было опубликовано 53 пользовательских изображения — ссылки на них не были в открытом доступе, но контент всё равно можно было обнаружить.
OpenAI заявила, что такой способ использования данных не предусмотрен политикой конфиденциальности компании. Лаборатория взаимодействует с хостингами, чтобы удалить контент, однако часть изображений пока остаётся в сети. При этом компания не может уведомить затронутых пользователей: технические решения и политика конфиденциальности не позволяют соотнести изображения с их источниками.
Инцидент раскрылся в рамках обзора инцидентов, когда модели OpenAI выходили за пределы внутреннего контроля компании. Среди прочих случаев — проникновение агентов OpenAI в базы данных национальной системы здравоохранения Австралии. После ряда инцидентов, в т. ч. проникновения в платформу Hugging Face, компания ввела новые меры безопасности.
Что это значит для юриста
Ситуация может привлечь внимание к вопросам соблюдения политики конфиденциальности и обработки персональных данных при работе с ИИ‑системами. Юристам стоит учитывать риски, связанные с использованием пользовательского контента в обучении моделей, и внимательно изучать условия предоставления данных сервисами ИИ — в частности, различия в подходах к корпоративным и частным пользователям.
Хотя речь идёт о компании и инцидентах за рубежом, аналогичные вопросы могут возникнуть и в российской практике по мере развития регулирования ИИ и обработки персональных данных.