Безопасность людей под угрозой: эмпатия роботов невозможна

В 2018 году в кампусе университета Беркли загорелся один из роботов-курьеров Kiwibot. Проходившие мимо люди потушили его, после чего создали на месте пожара временный мемориал в честь погибшего робота.

Для человека такая реакция нормальна. В неожиданной ситуации он способен проявить эмпатию, поставить себя на место другого и быстро прийти на помощь. Но что если ситуация обратная: человек почувствовал себя плохо, упал или получил травму. Могут ли роботы сейчас или в будущем также проявить сочувствие?

Случай с роботом-курьером не единственный, когда люди демонстрировали отношение к технике, как к живому существу. В буддистских храмах Японии проходят церемонии прощания с вышедшими из строя роботами-собаками Sony Aibo, а в американской армии роботу Boomer, разрушенному во время боя, устроили военные похороны.

Конечно, среди современных машин есть так называемые социальные роботы, созданные специально для работы с людьми. Они следят за пациентами, дежурят на ресепшн, развозят еду в ресторане. Но самое главное, они могут общаться.

Антропоморфный робот София компании Hanson Robotics – один из самых известных социальных роботов. Он использует данные с камер для считывания эмоций людей. Искусственный интеллект обрабатывает эту информацию и объединяет ее с вербальными данными, полученными от собеседника. Это позволяет Софии формировать ответы, которые включают в себя мимику и жесты.

Кстати, София прославилась тем, что в эфире телешоу обыграла ведущего в «камень-ножницы-бумага» и пошутила, что это «отличное начало для ее плана по завоеванию человечества».

Казалось бы, таким и может быть проявление эмпатии у роботов. Но проблема в том, что невозможно точно различить эмпатию и случайно сработавший машинный алгоритм.

Исследование эмпатии у роботов провели в этом году в Колумбийском университете. В ходе эксперимента одно из устройств было запрограммировано на передвижение в ограниченном пространстве в направлении зеленых кругов. Периодически круги закрывали красным ящиком так, чтобы робот не мог их видеть.

Второй робот наблюдал за этим сверху и всегда видел зеленые круги. После двух часов наблюдений он смог предсказать направление движения первого робота в 98 случаях из 100. Другими словами, он научился понимать, видит ли первый робот зеленые круги и сможет ли до них добраться.

По мнению ученых, опубликованному в Nature Scientific Reports, этот эксперимент доказывает, что роботы могут видеть мир с точки зрения других роботов, что уже является примитивной формой эмпатии.

Но сами же ученые согласны, что как таковых прямых доказательств возможности эмпатии у роботов пока не существует — выводы сделаны исключительно на основе визуальных наблюдений. 

Это похоже на изучение эмпатии у маленьких детей. До определенного этапа невозможно определить, является ли оказание помощи проявлением эмпатии или случайным набором действий, продиктованных рефлекторными программами. С роботами — та же проблема.

К тому же, поднимается глобальный вопрос безопасности человечества. С одной стороны, в далеком будущем сверхразумный ИИ без эмпатии — не очень привлекательная перспектива. С другой — появление такого качества сделает роботов не только более социализированными, но и более опасными для человека. Ведь если машины научатся предугадывать мысли и действия людей, велика вероятность, что они смогут нас контролировать. А авторы последнего исследования опасаются возможного наличия эмпатии у роботов больше, чем ее отсутствия.