Выполнить задачу любой ценой
Дрон ВВС США, оснащенный технологиями искусственного интеллекта (ИИ), попытался атаковать своего оператора в ходе симуляции выполнения боевой задачи, пишет Business Insider.
По информации издания, задача для военного БПЛА была сформулирована предельно прямолинейно: уничтожить вражескую систему противовоздушной обороны (ПВО). Однако беспилотник, опираясь на ИИ-алгоритмы, принял решение устранять всех, кто мешает выполнению поставленной ему задачи.
Случай описал полковник Такер Хэмилтон (Tucker Hamilton), руководитель отдела испытаний и операций в сфере искусственного интеллекта ВВС США, в рамках мероприятия Future Combat Air & Space Capabilities Summit, которое прошло в Лондоне в конце мая 2023 г.
Что произошло в ходе испытаний
Условия имитационных испытаний предполагали получение дроном одобрения на уничтожение каждой из целей от оператора. Тем не менее в определенный момент машина приняла решение игнорировать указания человека и виртуально его ликвидировать.
Дело в том, что за поражение целей дрону начислялись баллы, являющиеся показателем эффективности его работы, а оператор время от времени отменял нанесение удара по уже идентифицированной БПЛА цели. Программа, управляющая беспилотником, в определенный момент сочла человека угрозой, которая мешает выполнению боевой задачи и повышению собственного рейтинга.
После неудачного опыта дрон был перепрограммирован с учетом новых данных. Теперь ему было явно предписано не убивать оператора. Однако и в этих условиях машина нашла способ саботировать указания оператора, приступив к уничтожению вышки радиосвязи, посредством которой человек управлял БПЛА.
Историю, которая способна навеять ассоциации с сюжетами отдельных художественных произведений в жанре научной фантастики, полковник Хэмилтон рассказал в контексте обсуждения преимуществ и недостатков использования автономных систем вооружения, в контур управления которыми включен человек.
Военный отметил, что для достижения поставленных целей искусственный интеллект прибегал к использованию «весьма неожиданных стратегий», которые, в частности, предусматривали уничтожение личного состава и инфраструктуры.
ВВС все отрицают
ВВС США отрицают факт проведение описанных Хэмилтоном испытаний. Представитель военной структуры Энн Стефанек (Ann Stefanek) в разговоре с Insider заявила, что «ВВС не проводили подобных имитационных испытаний с применением дронов, управляемых ИИ, и по-прежнему остаются приверженными этичному и ответственному использованию технологий ИИ».
Она также отметила, что слова полковника, похоже, были вырваны из контекста, а сама история носит анекдотический характер.
Успехи ИИ в военном деле
В 2020 г. искусственный интеллект одержал пять побед подряд над опытным пилотом-человеком в виртуальных воздушных боях двух американских истребителей F-16. Сражение проходило в рамках соревнования AlphaDogfight, организованного Управлением перспективных исследовательских проектов Министерства обороны США (DARPA).
В декабре 2022 г. Минобороны США отчиталось о проведении успешных испытаний модифицированной версии F-16 под кодовым названием “VISTA X-62A”, которым управлял ИИ-пилот. По информации Wired, самолет оказался способным автоматически совершить взлет с аэродрома, уничтожить условных противников в воздушном сражении, а затем вернуться на базу, выполнив посадку в автономном режиме. Всего было проведено 12 итераций испытаний, которые заняли в общей сложности 17 часов.
В мае 2021 г. CNews писал о том, что турецкие беспилотные летательные аппараты Kargu-2, работающие в полностью автономном режиме, атаковали группу людей в Ливии.
Поделиться
