«ТрансТелеКом» на Форуме «Цифровые решения» рассказал о нейтрализации угроз при применении ИИ в транспортной отрасли

Компания «ТрансТелеКом» приняла участие в Форуме «Цифровые решения». В рамках сессии «Когда код управляет движением: кибербезопасность современного транспорта» эксперты в области цифровой безопасности обсудили риски и стратегии защиты информации, в том числе, при использовании искусственного интеллекта. Модератором сессии выступила Полина Давыдова, директор Ассоциации «Цифровой транспорт и логистика». Об этом CNews сообщили представители ??ТрансТелеКом».

Руководитель департамента услуг по информационной безопасности Компании «ТрансТелеКом» Александр Малявкин представил доклад, посвященный методам защиты от негативных сценариев применения искусственного интеллекта в транспортно-логистической отрасли. Эксперт рассказал о задачах, которые искусственный интеллект с успехом решает уже сейчас: анализирует трафик и загрузку транспортных магистралей, выстраивая оптимальные маршруты, помогает в автоматизации внутренних процессов. На смену традиционным перевозкам приходят автопилоты для грузовиков и дроны-доставщики, а складские операции все чаще выполняются роботами-сортировщиками под управлением ИИ. Еще один сценарий использования – предиктивное обслуживание транспорта, где анализ телеметрии с помощью ИИ позволяет предсказывать поломки до их возникновения.

Спикер подчеркнул, что вместе с новыми возможностями приходят и серьезные угрозы, прежде всего связанные с использованием внешних ИИ-платформ. Утечка данных через внешние ИИ-сервисы, отравление обучающих данных, при котором злоумышленники компрометируют информацию и тем самым искажают результаты работы модели, а также прямые и непрямые инъекции промптов, позволяющие обойти защитные механизмы, – все это формирует новый класс рисков.

При этом в отношении внутренних ИИ-платформ зачастую создается ложное чувство их безопасности. Однако данные системы также подвержены потенциальному отравлению данных (умышленному или неумышленному) или деградации за счёт ограничения возможностей дообучения. А самая существенная проблема кроется в том, что со временем, в случае расширения сфер применения внутренней платформы ИИ, она становится уникальным инструментом для злоумышленника. Уже сейчас многие из киберпреступников в первую очередь обращают внимание на поиск внутренних ИИ-платформ, которые могут дать им ответ о профиле и структуре компании, особенностях функционирования ИТ-инфраструктуры, количестве и составе используемых информационных систем и даже средствах защиты информации. Раньше потребовалось бы значительное время на сбор этой информации, а теперь все это будет в «одном окне».

В ответ на актуальные вызовы Александр Малявкин предложил комплексную стратегию защиты. На уровне данных речь идет о шифровании обучающих массивов и анонимизации персональной информации перед передачей в ИИ. На уровне моделей – о контроле доступа к параметрам, мониторинге актуальности данных и запрете неавторизованного дообучения. Сетевая безопасность обеспечивается сегментацией ИИ-контура, фильтрацией входных и выходных данных и мониторингом аномальных запросов, а инфраструктурная – резервным копированием моделей и данных и использованием отечественных платформ. Организационные меры включают регламент использования ИИ-сервисов, обучение сотрудников, перечень допустимых ИИ-инструментов и назначение ответственных за ИИ-безопасность. Наконец, регуляторный контур предполагает соответствие приказу ФСТЭК России № 117, моделирование угроз по БДУ ФСТЭК России, соблюдение 152-ФЗ и пр.

Подводя итоги, эксперт подчеркнул, что ИИ в транспортно-логистической сфере уже дает один из самых ощутимых экономических эффектов на рынке, но при этом требует комплексного контроля безопасности. Внешние ИИ-платформы создают риск утечки данных и блокировки доступа, поэтому требуется строгая регламентация. Внутренние ИИ-системы, в свою очередь, могут стать мощным оружием в руках киберпреступников.

«Защита должна выстраиваться последовательно – от данных и моделей к инфраструктуре, организационным мерам и регуляторному соответствию. Ключевой принцип – баланс между инновацией и безопасностью. Без надежной защиты ИИ становится не активом, а угрозой для транспортно-логистической компании», – сказал Александр Малявкин.