iTProtect запустил направление по защите искусственного интеллекта
iTProtect представил новое направление по защите ИИ — оно включает пять классов решений и услугу. Это связано с ростом угроз при использовании нейросетей в бизнесе.
iTProtect, специализированный интегратор в области информационной безопасности, запустил новое направление по защите искусственного интеллекта. В портфель решений вошли AI Firewall, автопентест AI/LLM‑моделей, защита агентов, внедрение безопасных корпоративных ИИ‑агентов и тестирование LLM — всего 15 вендорских продуктов и услуга от пентестеров iTProtect.
Среди угроз, связанных с использованием ИИ, — утечки данных, раскрытие конфиденциальной информации из‑за проблем с разграничением доступа и промпт‑инъекции. По данным опроса iTProtect, 40 % руководителей по информационной безопасности в компаниях, внедряющих ИИ, рассматривают новые средства защиты нейросетей. Согласно отчёту Harmonic Security, чувствительные данные содержались в 26,4 % файлов, загружаемых сотрудниками в ИИ‑приложения.
Безопасность ИИ становится частью регуляторной повестки: Банк России опубликовал методические рекомендации по информационной безопасности при использовании ИИ в финансовом секторе, а приказ ФСТЭК № 117 предусматривает меры защиты информации при использовании ИИ в госинформационных системах.
Что это значит для юриста
Юристам стоит учитывать растущие регуляторные требования к защите данных при использовании ИИ — в частности, в финансовом секторе и госсекторе. Также может быть актуально отслеживание практик защиты от утечек и иных рисков, связанных с применением нейросетей, — это влияет на оценку соответствия бизнес‑процессов законодательству.