Positive Technologies представила модуль для защиты ИИ-агентов от кибератак

Positive Technologies добавила в решение PT Application Firewall новый модуль — LLM Firewall. Он защищает корпоративные ИИ-боты, виртуальные ассистенты и другие сервисы на основе больших языковых моделей (LLM). Модуль анализирует запросы к LLM и их ответы, выявляя признаки кибератак, «отравления» промтов, попытки утечки конфиденциальной информации и нарушения правил безопасности.

Среди угроз — инъекции промптов: злоумышленник может отправить ИИ-боту специально составленный запрос, чтобы обойти ограничения, получить закрытую информацию или заставить выполнить нежелательное действие. LLM Firewall обнаруживает попытки обойти ограничения ИИ, извлечь системные инструкции или использовать возможности ИИ-агента в интересах атакующего. Подозрительные обращения можно блокировать или фиксировать для анализа.

Модуль уже интегрирован в PT AF Cloud и подключается к обмену данными между приложением и языковой моделью через API, совместимый с OpenAI Chat Completions и Responses. Компании могут настраивать политики безопасности для разных ИИ‑сервисов, выбирать режим мониторинга или блокировки.

Что это значит для юриста

Юристам стоит учитывать рост рисков, связанных с использованием ИИ‑агентов в бизнес‑процессах: компрометация таких систем может привести к утечкам персональных данных и другим негативным последствиям. При разработке политик информационной безопасности и оценке рисков компаниям может потребоваться юридическая оценка соответствия действий законодательству о защите данных.