Шутка над беспилотными автомобилями выявила у машин серьезные проблемы

Исследовательская группа из Калифорнийского университета в Ирвайне (UCI) выяснила, что автономные транспортные средства можно легко заставить вести себя нежелательным образом. С этой целью ученые организовали шуточный эксперимент — они решили проверить реакцию беспилотных автомобилей, работающих под управлением систем с открытым исходным кодом Apollo и Autoware.

Для этого самые обычные предметы, такие как велосипеды, коробки, мусорные баки и дорожные конусы разместили по обеим сторонам дороги, где проезжали самоуправляемые автомобили. Это привело к тому, что беспилотные транспортные средства реагировали на них неустойчивым поведением во время езды. К сожалению, случались даже внезапные остановки, которые потенциально могли создать опасность на дороге или повлиять на доставку пассажиров и грузов.

Это означает, что беспилотные авто фактически беззащитны перед лицом физических атак типа «отказ в обслуживании» (DDoS), когда объект намеренно помещается на пути транспортного средства, чтобы вызвать сбои. Проще говоря, на дорогу можно специально бросить предмет наподобие коробки — и беспилотник с большой степенью вероятности в нее врежется.

Исследователи выяснили, что текущая версия автопилота Apollo использует так называемый «пространственный буфер» для предотвращения столкновений. То есть автомобиль резко тормозит, когда до препятствия остается определенное критическое расстояние. В конечном результате этот алгоритм может привести к неожиданной остановке из-за статических объектов, расположенных вне полосы движения, если дорога узкая. Этого можно было избежать, если бы «пространственный буфер» был не фиксированным, а динамическим и зависел от скорости транспортного средства.

В целом, исследователи считают, что проектировщики и разработчики систем автономного вождения должны больше задумываться о компромиссе, особенно с учетом сложности сценариев вождения.

Чтобы сделать окончательные выводы, такого эксперимента недостаточно —  потребуется более широкая выборка. В целом, автопроизводители все еще находятся на экспериментальной стадии, поскольку они пытаются научить автономные системы вождения работать в реальных условиях, где часто могут возникать нестандартные ситуации. Это требует времени, потому что в идеале беспилотные автомобили должны иметь настолько сложный уровень искусственного интеллекта, что могли бы экстраполировать опыт водителя-человека.

Чтобы добиться прогресса в обучении автопилота, разработчикам нужно рассмотреть возможность использования более разнообразных тестов, включающих подобные ситуации.  В конечном итоге, злоумышленники или просто шутники, целенаправленно пытающиеся сбросить автопилот, — это то, что автопроизводителям придется принять во внимание. Достаточно даже вспомнить другие примеры, когда светоотражающая лента, прикрепленная к дорожным знакам, блокировала беспилотные автомобили.