Сервисы на базе российских GPT-моделей тестируют перед внедрением в финансовые сервисы. Swordfish Security выступила наблюдателем в пилотном проекте по апробации применения ИИ-агентов и мультиагентных систем в финансовой отрасли на площадке «Ассоциации ФинТех». Участники проекта рассматривают в качестве одного из важных вопросов дальнейшего пилотирования безопасный и доверенный ИИ, а также защиту от уязвимостей в этой области. Об этом CNews сообщили представители «Ассоциации ФинТех».
Основной целью пилотного проекта, реализованного на площадке «Ассоциации ФинТех», стала наработка практического и методологического опыта применения ИИ-агентов и мультиагентных систем в финансовой отрасли. В ходе работы определили типовые сценарии внедрения ИИ-агентов в кредитных, страховых и ИТ-организациях: клиентская поддержка, агенты для сотрудников, анализ документов, комплаенс, поддержка разработки и даже создания персонализированных продуктов. Оценивали по нескольким параметрам, в частности, протестирована методология оценки экономического эффекта внедрения ИИ (разработана на базе Отраслевого клуба ИИ в финансовой отрасли). В ходе тестирования рабочая группа, состоявшая из представителей банковского сектора и экспертов в области кибербезопасности сформировала предложения по совершенствованию продуктов и нормативно-правовой базы, а также была скорректирована референсная архитектура платформы ИИ, которая ляжет в основу будущих методических рекомендаций. Итоговые наработки загружены в базу знаний Лаборатории ИИ для использования другими участниками «Ассоциации ФинТех».
«Совместно с нашими партнерами была успешна подтверждена гипотеза, что российские большие языковые модели и инструментарий отечественных вендоров подходят для построения ИИ-агентов и могут успешно применяться финансовыми организациями в разных процессах. В ходе проекта реализован ряд кейсов, которые могут развиваться организациями. Успешные наработки были загружены в Лабораторию ИИ и будут использоваться другими участниками Ассоциации. Благодарю всех участников проекта за активный обмен опытом и практиками применения ИИ-агентов», — сказал советник генерального директора по ИИ «Ассоциации ФинТех» Алексей Сидорюк.
«Использование технологий искусственного интеллекта в финансовом секторе – важная часть ускорения работы сервисов, с помощью ИИ они должны стать еще удобнее для клиентов, но прежде, чем внедрить новую технологию, ее необходимо тщательно протестировать на безопасность. Спектр уязвимостей ИИ-систем широк. Это и намеренное «заражение данных», на которых обучается модель, хищение чувствительных данных с помощью специальных промптов, «перегруз» ИИ-агента специально модифицированными запросами, что ведет к быстрому исчерпанию вычислительных мощностей компании, и другие. Тестирование ИИ-технологий на безопасность - следующий важный этап совместной работы на площадке АФТ », - сказал сооснователь ГК Swordfish Security Юрий Сергеев.
Поделиться
