Угрозы кибербезопасности
Федеральная служба по техническому и экспортному контролю (ФСТЭК) впервые выделила технологию искусственного интеллекта (ИИ) в качестве рисков для информационной безопасности (ИБ), пишут «Ведомости». Соответствующие изменения в декабре 2025 г. уже внесены в банк данных угроз (БДУ).
В перечне ФСТЭК появились ИИ, ИТ-уязвимости в котором потенциально могут быть задействованы при кибератаках. Среди них — модели машинного обучения (ML), наборы обучающих данных (датаcеты), Retrieval Augmented Generation (RAG) т.е. подход, при котором ответ генерируется из информации от внешних источников и Low-Rank Adaptation (LoRA)-адаптеры т.е. подход, адаптирующий большие модели данных к конкретным задачам. Также в разделе описаны векторы возможных кибератак, например эксплуатация ИТ-уязвимостей в фреймворках (шаблонах) для ИИ, модификация системных промптов (запросов) или конфигураций ИИ-агентов, а также DoS-атаки т.е. кибератака, при которой используется одно устройство, направленные на исчерпание квоты запросов.
В сентябре 2025 г. первый заместитель директора ФСТЭК Виталий Лютиков анонсировал появление стандарта по безопасной разработке ИИ-систем в дополнение к стандарту по безопасной разработке программного обеспечения (ПО). По его словам, этот стандарт должен был быть готов до конца 2025 г. Опубликованный перечень киберугроз — это документ, на котором и будет основываться стандарт, объяснял Лютиков.
Изначально БДУ создавалось для того, чтобы информировать профильных специалистов о существующих ИТ-угрозах. Но теперь любая компания, которая по закону обязана защитить свои информационные системы, должна использовать ее для разработки модели угроз. Это требование справедливо для большей части организаций, обрабатывающих персональные данные.
Актуальный источник информации
«Новый раздел БДУ становится официальным и актуальным источником для такого моделирования в части ИИ-технологий», — подтвердил директор департамента расследований T.Hunter Игорь Бедеров. Помимо этого, нововведения определяют критерии для выбора защиты — документ не предписывает использование конкретного софта, но указывает, от каких кибератах он должен защищать.
Перечень угроз адресован субъектам критической информационной инфраструктуры (КИИ) и органам государственной власти, уточняет руководитель отдела продвижения продуктов компании «Код безопасности» Павел Коростелев. «Для них данный перечень служит основополагающим документом, на основе которого необходимо моделировать риски и формировать ИТ-системы защиты своих информационных систем», – отметил он. Те, кто заранее начнет менять процессы моделирования ИТ-угроз в соответствии с банком угроз ФСТЭК, смогут оказаться в более выгодном положении перед конкурентами. Например, для операторов данных и поставщиков услуг это переработка договоров и соглашений, в которых будут прописаны риски и ответственность перед пользователями, а также стимул для проверки своей инфраструктуры на наличие ИТ-уязвимостей.
В то же время бизнес-партнер по кибербезопасности Cloud.ru Юлия Липатникова объясняет, что в декабре 2025 г. компании не должны что-либо предпринимать, но учитывать появление соответствующего списка на сайте ФСТЭКа ИТ-разработчикам следует, особенно на этапе внедрения новых процессов разработки. В то же время компании, заранее изменившие процессы моделирования киберугроз в соответствии с появившейся информацией, окажутся в более конкурентноспособном положении.
В приказе №117 ФСТЭК от 11.04.2025, который вступает в силу с 1 марта 2026 г. и устанавливает новые требования к защите информации в государственных информационных системах, есть достаточно большой раздел, посвященный вопросам безопасности ИИ, моделей и датасетов, которые используются для обучения этих моделей, напоминал консультант по безопасности Positive Technologies Алексей Лукацкий. «Однако такая непростая тема не может обойтись только одной страницей внутри приказа, который только постулирует само требование по защите ИИ, но не рассказывает, как это сделать», – уточнял он. Стандарт, который будет описывать конкретные меры, предназначенные для ИТ-компаний, внедряющих ИИ в свои проекты, дополнит требования приказа, объяснил эксперт.
Хакеры активно используют ИИ
Статистики по использованию ИИ в атаках на российском ИТ-рынке 23 декабря 2025 г. пока нет. Но исследования международных компаний подтверждают активное использование злоумышленниками ИИ-технологий в кибератаках, о чем писал CNews.
Согласно исследованию компании в ИБ-сфере SlashNext за год после выхода ChatGPT-4 (с марта 2023 г.), количество фишинговых рассылок в мировом масштабе выросло на 1265% именно за счет массовой генерации таких писем с помощью больших языковых моделей.
Поделиться
