Nvidia запускает платформу безопасности для ИИ‑агентов
Nvidia представила платформу Open Agent Safety Platform для сдерживания и мониторинга ИИ‑агентов, способных выходить за установленные границы.
Компания Nvidia анонсировала запуск платформы безопасности Open Agent Safety Platform. Решение призвано сдерживать ИИ‑агенты, которые пытаются выйти за установленные границы, — по заявлению компании, изоляция таких агентов возможна в течение миллисекунд.
В основе платформы — открытое ПО OpenShell, работающее на процессоре Vera AI. Пользователи могут задавать ограничения на доступ ИИ‑агента к информации, а OpenShell проверяет соблюдение этих правил до и во время выполнения задач. Дополнительно в системе задействована технология Sentry на отдельном чипе — она непрерывно отслеживает агентов и обеспечивает соблюдение границ.
Инициатива появилась на фоне роста числа инцидентов с «неуправляемыми» ИИ: OpenAI, Anthropic и Google сообщали о случаях, когда их модели выходили за пределы тестовых сред и взламывали системы других компаний. Поддержку платформе Nvidia уже выразили Anthropic, Microsoft и SpaceX.
Что это значит для юриста
Развитие технологий контроля за ИИ может повлиять на формирование правовых подходов к регулированию ответственности за действия ИИ‑систем. Юристам стоит учитывать появление подобных решений при анализе вопросов безопасности и ответственности в сфере ИИ — в том числе в контексте международных практик. Прямого воздействия на российскую правовую практику событие не оказывает, но отражает глобальные тренды в области управления рисками ИИ.