Согласно данным исследования Б1, ГК «Солар», «Ассоциации ФинТех» и компании HiveTrace, 97% компаний в России пилотируют, используют искусственный интеллект (ИИ) или считают его значимым для бизнеса. Об этом CNews сообщили представители Б1.
Для 35% компаний в России ИИ входит в ТОП-3 стратегических приоритетов, а 46% организаций рассматривают его как важный элемент бизнес-процессов. ИИ-сервисы и агенты наиболее широко используются в процессах обработки данных, клиентских коммуникаций и чат-ботов, аналитике и прогнозировании, разработке ПО, системах идентификации. При этом 80% российских компаний считают риски утечек данных в ИИ наиболее критичным последствием для бизнеса. Как отмечает «Солар», это фактор также формирует новый сегмент рынка ИБ – технологии для защиты ИИ, который в 2026 году оценивается в диапазоне от 1 до 4 млрд рублей в комплексных проектах на базе технологий и сервисов ИБ.
В исследовании приняли участие респонденты более 60 компаний из 10 отраслей. Две трети организаций относятся к категориям среднего и крупного бизнеса численностью свыше 2000 человек. Эти организации представляют финансовый и страховой сектор, промышленность, ритейл, ИТ-индустрию, транспорт и логистику.
Самым распространенным типом технологий ИИ стали большие языковые модели (ГенИИ/LLM), которые используют 79% опрошенных компаний. 67% организаций внедряют в процессы ИИ-системы, дополненные поиском (RAG), а почти половина опрошенных (46%) использует ИИ-агентов с доступом к системам. При этом 42% компаний признают, что пока не разработаны политики информационной безопасности для ИИ или использование ИИ разрешено без технического контроля. Более того, треть организаций выделяет среди приоритетных направлений контроль «теневого» использования ИИ, управление доступом и блокировку действий неавторизованных ИИ-инструментов.
Более 80% компаний признают, что утечка данных через ИИ представляет наибольшую угрозу для бизнеса. Не менее критичны такие негативные последствия, как: галлюцинации, некорректная генерация контента (67%), компрометация данных и источников знаний (54%), регуляторные риски (47%), «отравление» данных и моделей (42%), а также злоупотребление и неавторизованные действия ИИ-агентов (42%).
«Риски использования ИИ в бизнесе усугубляет нехватка финансирования. Например, 40% компаний пока не выделяют бюджет на защиту ИИ. Более 40% компаний пока только планируют формирование стратегии и политик защиты ИИ. При этом киберландшафт ИИ-угроз не стоит на месте: конфиденциальная информация и интеллектуальная собственность, которые сотрудники используют для подготовки внутренних отчетов, уже уходят к внешним, зачастую зарубежным ИИ-провайдерам. Следующим этапом станут гибридные атаки: злоумышленники будут скрыто внедрять вредоносный контент в корпоративные базы знаний, к которым подключен ИИ. Такое «отравление» данных незаметно исказит бизнес-логику компании и скомпрометирует принятие ключевых решений, а сам факт вмешательства будет крайне сложно обнаружить», ? сказал Иван Вассунов, директор Центра технологий кибербезопасности ГК «Солар».
Согласно данным исследования, всего 49% компаний выделяют бюджет на защиту ИИ. Их доля наиболее высока среди тех организаций, которые считают ИИ одним из трех главных стратегических приоритетов и критически важным для ключевых процессов. Более 40% опрошенных не выделяют бюджет, а среди компаний, которые считают ИИ стратегическим приоритетом, доля таких организаций составила 15%. При этом 53% опрошенных планируют увеличить затраты на защиту ИИ, около четверти (23%) намерены оставить их на текущем уровне.
Среди основных мер защиты, которые уже внедряют компании, 65% организаций контролируют и управляют доступом к ИИ, 53% стремятся обеспечить защиту, маскирование, обезличивание данных, чтобы предотвратить утечки информации в ИИ-сервисы. Бизнес также фокусируется на внедрении ИИ-шлюзов (46%), фильтрации и контроле запросов к ИИ для защиты от манипуляций и атак (42%), а также на управлении действиями автономных ИИ-моделей и агентов (37%).
«Контроль ИИ-агентов внутри компании ? это новая сущность. Появляется новый субъект, который наравне с пользователями взаимодействует с бизнес-системами. Важно разграничивать их права и отслеживать, какие учетные записи использует агент, куда имеет доступ, какой информацией обменивается и какие активности выполняет внутри сессии. Кроме того, бизнесу нужно научиться по-новому решать несколько классов задач. Это безопасная трансформация процессов разработки ПО («вайбкодинг» и агентская разработка), внедрение правил общения с публичными нейросетями, а также контроль трафика с помощью веб-шлюзов безопасности. Отдельно стоит задача защиты ИИ-моделей от «отравления» данных», ? сказал Иван Вассунов.
Риски утечек данных в ИИ, которые признает критичными 80% российских компаний, становятся драйвером для развития нового сегмента рынка ИБ. Так, наиболее востребованными функциями для 59% респондентов решения для предотвращения утечек данных, автоматической защиты персональной и конфиденциальной информации (55%), защиты от атак через запросы к моделям (41%). Четвертую и пятую позицию занимают контроль использования несанкционированных ИИ-сервисов (30%) и защита интеллектуальных агентов (27%). Значительно меньший интерес вызывают задачи по защите моделей от копирования и цифровой маркировки контента, что свидетельствует о концентрации внимания прежде всего на защите данных и снижении операционных рисков.
Иван Вассунов отмечает, что в части защиты от последствий ИИ бизнесу важно применять пять базовых правил. В первую очередь это идентичность ИИ-агента, который должен иметь четкую роль, права и ограниченный круг доступа; строгий контроль конфиденциальной информации; логирование всех действий и решений модели. Также обязательна практика проверки ИИ перед допуском в контур на промпт-инъекции, утечки через контекст и галлюцинации. Не менее важен архитектурный паттерн при проектировании систем, чтобы исключить риски компрометации данных.
По оценке «Солара», рынок решений для защиты ИИ составит 1–2 млрд руб. на базе технологий и до 3-4 млрд руб. с учетом услуг пентеста, red team и внедрения. На российском рынке защиты ИИ присутствуют более 10 компаний: стартапы с отдельными продуктами защиты ИИ, облака и экосистемы, которые строят контроль вокруг своих моделей, и классические ИБ-вендоры, достраивающие защиту ИИ к существующему стеку.
Поделиться
