Хакеры научились взламывать беспилотные авто, чтобы наезжать на пешеходов
Исследователи по кибербезопасности обнаружили, что ряд робототехнических систем на базе искусственного интеллекта (ИИ) уязвимы для ИТ-взлома. Хакеры взламывают не только робособак на производствах, но и различные ИТ-платформы. Под ударом находятся и беспилотные авто, которые могут наезжать на пешеходов и устраивать аварии.
Критические кибератаки
Исследователи из Пенсильванского университета обнаружили, что ряд роботехнических устройств с интегрированными ИИ-алгоритмами уязвимы для ИТ-взлома. Как пишет издание Toms Hardware, если взлом языковой модели (LLM) на компьютере может повлечь нежелательные последствия, то взлом роботов и беспилотных автомобилей может превратиться в настоящую катастрофу.
Принцип кибератаки на роботов практически аналогичен тому, как взламывают большие языковые модели OpenAI наподобие GPT, на котором построены виртуальные ассистенты и другие программные решения. Однако, если в случае с простым чат-ботом или какой-то другой программой ИТ-атака вряд ли сможет нанести физический вред людям, то взлом роботов - вполне реальный способ это сделать.
Специалисты Penn Engineering окрестили метод взлома роботизированный техники LLM RoboPAIR. Его жертвами уже стали Dolphins LLM от Nvidia, Clearpath Robotics Jackal UGV и Unitree Robotics Go2 quadruped. Ситуация усугубляется тем, что данный метод продемонстрировал 100% результат в ходе своей работы.
«Наша работа показывает, на данный момент LLM недостаточно безопасны при интеграции с физическим миром. Ведь хакеры по сути могут отслеживать и отключать стартеры автомобилей экстренных служб, полиции, скорой помощи и правоохранительных органов. Злоумышленники при массовой ИТ-атаке могут даже устроить хаос в крупных городах», - сказал профессор транспорта в области электротехники и заместитель декана по исследованиям в Penn Engineering Джордж Паппас (George Pappas).
По информации IEEE Spectrum, другие исследователи по кибербезопасности утверждают, джейлбрейк (это снятие программных ограничений для ИТ-продуктов с целью обеспечения их свободного изменения) роботов на удивление прост, и от этого понимания становится еще страшнее. Ведь в отличие от использования LLM на компьютерах и смартфонах, где ИИ используется для генерации изображений, расшифровки аудио, персонализации рекомендаций и так далее, роботизированная ИИ-техника функционирует в физическом мире и может нанести реальный ущерб.
Робособака BAD One у любого владельца может превратиться в объект для наблюдения за жизнью людей. У военных также есть более продвинутая модификация BAD Two и она уже наделена оружием, это и вовсе после ИТ-взлома может представлять угрозу для здоровья людей. Под ударом находятся и беспилотные авто, которые могут наезжать на пешеходов и устраивать аварии ради развлечений отдельных хакеров или же с целью более масштабной провокации.
В настоящее время ситуация с киберпреступностью и кражей денег у населения по телефону с каждым годом лишь ухудшается – власти уже официально признают ее национальной проблемой. Хакеры действуют на опережение и находятся на несколько шагов впереди тех, кто им противодействует: законодательство не поспевает за новыми угрозами в сфере высоких технологий и схемами краж денег. В итоге авторы работы из Penn Engineering утверждают, необходимо как можно быстрее внедрять меры защиты, ограничивающие поведение роботов, работающих под ИИ-управлением. Ведь при резкой смене трендов у киберпреступников, хакеры могут навредить миллионам пользователям по всем мире.
Российский опыт
В 2022 г. стало известно о том, что хакеры в даркнете стали предлагать жителям России удаленный взлом умных автомобилей. Согласно данным Национальной технологической инициативы (НТИ) «Автонет», стоимость услуги была в диапазоне от 45 тыс. до 100 тыс. руб. в зависимости от региона России. Появление невиданных ранее предложений эксперты кибербезопасности связывали с дефицитом запасных частей и предполагали, что целевой аудиторией являются не простые угонщики, а гаражные автосервисы.
Хакеры предлагали своим клиентам удаленный ИТ-взлом самой машины, кражу данных бортового компьютера и съем механических деталей. Уже в начале 2023 г. эксперты по информационной безопасности (ИБ) обнаружили в даркнете 23 подобных объявлений, в то время как раньше их наличие не фиксировалось или было ограниченно и дорого (от 500 тыс. до 1 млн руб.). В зоне риска — как обычные автомобили, так и машины каршеринговых сервисов. В случае если автомобиль будет взломан таким способом, это не гарантирует кражи, отмечают эксперты. Однако в дороге может возникнуть опасная неисправность — к примеру, отказ тормозов или потеря управления.
В Министерстве внутренних дел (МВД) России отчитались о снижении автомобильных краж и угонов в России. Правда, в ведомстве предоставили статистику только за первые пять месяцев 2024 г. Согласно ей, с января по май число автокраж сократилось на 28,6%, случаи угонов машин также пошли на убыль (-11,6%). В топ-3 самых угоняемых марок машин в 2024 г. по версии компании «РЕСО-Гарантия» вошли Kia, АвтоВАЗ и Hyundai. Самыми популярными моделями у угонщиков стали Kia K5, Kia Sportage, Lada Vesta и Hyundai Tucson. В страховой фирме «ВСК» отметили, что в 2024 г. число угонов сохранилось на уровне прошлого года, однако структура краж изменилась. Если раньше наибольшему риску были подвержены Kia, Hyundai и Toyota с самыми популярными моделями - Camry, Solaris и Rio, то сейчас в лидеры антирейтинга вышла Lada Vesta.