Itglobal.com (корпорация ITG) продолжает разработку и тестирование собственного ИИ-файрвола — модуля безопасности для сервиса AIaaS. Решение контролирует обмен данными между корпоративными приложениями, языковыми моделями и ИИ-агентами. На последнем этапе команда провела 625 проверок, включающих различные сценарии атак, обычные рабочие запросы и сравнительные испытания режимов защиты. Об этом CNews сообщили представители Itglobal.com.
Файрвол снижает риск утечки конфиденциальной информации и предотвращает несанкционированные действия агентов. Он анализирует запросы пользователей, ответы моделей, загружаемые документы и обращения агентов к внешним инструментам.
Программа испытаний охватывает несколько сотен вариантов потенциальных атак. Разработчики проверяют попытки обойти ограничения моделей, внедрение скрытых инструкций в документы и переписку, передачу паролей, ключей доступа и персональных данных. Особое внимание они уделяют безопасности ИИ-агентов, которые взаимодействуют с корпоративными системами через инструменты и протокол MCP.
Одна из контрольных серий включала 110 смоделированных атак шести категорий, и модуль заблокировал все из них. Отдельную выборку из 100 обычных рабочих запросов он обработал без ложных блокировок. Затем команда расширила набор сценариев и выявила дополнительные ограничения, которые учитывает при доработке решения.
Тестирование охватывает не только программный код. Специалисты проверяют работу установленной системы с реальными языковыми моделями, пользовательским интерфейсом Open WebUI и сетевыми MCP-клиентами. Помимо обнаружения угроз, команда оценивает производительность, управление доступом, корректность обновлений, восстановление после сбоев и передачу событий безопасности.
Каждый сценарий проходит два режима: наблюдения, когда файрвол только фиксирует подозрительные действия, и активной блокировки. Это позволяет оценить эффективность обнаружения атак и влияние на повседневную работу сотрудников.
«Для корпоративного заказчика важно, чтобы решение не только обнаруживало атаки, но и не мешало нормальной работе приложений и агентов. Поэтому мы продолжаем расширять программу тестирования, проверяем новые способы обхода ограничений и уделяем особое внимание ложным срабатываниям. Наша задача — создать инструмент, который можно будет адаптировать под реальные процессы и требования безопасности конкретной компании», — сказал Евгений Свидерский, вице-президент по облачным сервисам Itglobal.com, корпорации ITG.
В рамках дальнейшей работы Itglobal.com планирует проводить испытания на реальных задачах заказчиков. Режим наблюдения позволит предварительно оценить потенциальные угрозы и настроить политики безопасности до включения активной блокировки.
Itglobal.com разрабатывает ИИ-файрвол для платформы AIaaS, которая предоставляет компаниям доступ к российским и зарубежным языковым моделям через единый API. Новый модуль дополнит сервис средствами контроля ИИ-трафика, защиты корпоративных данных и управления безопасностью агентных систем.
Поделиться
