Ликбез RnD.CNews: чем нам грозит самообучение роботов

В начале мая ученые из AMOLF's Soft Robotic Matter group продемонстрировали автономных самообучающихся роботов, которые научились самостоятельно передвигаться. В эксперименте участвовали небольшие роботизированные модули, напоминающие тележки, которые перемещались по рельсам.

Направление движения не было запрограммировано, роботы выбрали его сами, также при изменении условий эксперимента они быстро к ним адаптировались. 

В 2020 году компания Google показала самообучающегося робота на четырех конечностях, который научился ходить всего за два часа. Эксперимент потребовал длительной подготовки, для которой использовались виртуальный двойник робота и смоделированная для него среда. 

В итоге был получен оптимальный базовый алгоритм, который загрузили в настоящего робота. После этого человеческое вмешательство было минимальным: опираясь исключительно на имеющиеся настройки, робот за два часа научился передвигаться в простой среде. В дальнейшем его планируют обучать в более сложных условиях: на неровной поверхности и среди препятствий.

Оба эксперимента демонстрируют новый этап в развитии самообучающихся роботов. Ранее роботы обучались методом проб и ошибок, что требовало вмешательства человека каждый раз, когда робот падал или выходил за пределы тренировочной площадки. Но в новых исследованиях вмешательство человека минимизировано. При этом процесс самообучения ускоряется, если в нем задействовано несколько роботов, ведь они могут обмениваться информацией.

Именно такое отсутствие контроля со стороны человека вызывают наибольшие опасения ученых. Не всегда понятно, как именно идет процесс обучения и какой информацией обмениваются роботы. На данный момент искусственный интеллект не способен понять человека, но есть опасность, что и человек вскоре не сможет понять, как именно работает и самообучается ИИ.

Речь, конечно, идет о высокоуровневом искусственном интеллекте – роботах, которые в перспективе смогут испытывать эмпатию и планировать свое поведение с учетом воздействия на окружающих, то есть выработают социальный интеллект. И главная опасность заключается в том, что высокоуровневый ИИ может оказаться враждебен человеку. 

Как только роботы смогут действительно эффективно себя программировать и обучать, появится риск возникновения так называемой технологической сингулярности или «интеллектуального взрыва». При этом велика вероятность, что машины смогут победить людей в потенциальной битве за ресурсы или самосохранение.

Однако это опасения, относящиеся к более длительной перспективе. На данный момент более актуальны краткосрочные последствия. Среди них — вытеснение людей с рабочих мест, потенциальное создание автономных военных роботов, взлом и перепрограммирование роботов. 

Кроме того, известно, что некоторые системы ИИ уже сейчас собирают и анализируют информацию о своих владельцах. Например, это делают умные колонки и голосовые помощники, способные выделять ключевые слова в речи для настройки рекламы.

Несмотря на все опасения, разработка самообучающихся роботов продолжается. При этом она должна подчиняться 23 тезисам, выработанным по итогам конференции Beneficial Al 2017 года, посвященной безопасности искусственного интеллекта. Фактически, это принципы робоэтики, согласно которым ИИ должен приносить пользу, а не вред, причем всему человечеству, а не отдельным странам или компаниям.

С другой стороны, у человечества все еще есть и скорее всего сохранится навсегда некоторое преимущество даже перед самым совершенным искусственным интеллектом. В отличие от роботов, люди многопоточны, то есть могут совершать действия и решать нескольких задач одновременно. Спасением для людей, в том числе от замещения роботами на рабочем месте, могут быть выраженные творческие способности и навыки межличностного общения, а также любое нестандартное мышление. Это те сферы, в которых роботы не сильны и вряд ли смогут научиться даже с помощью самого продвинутого самообучения. 

То есть в ближайшей перспективе стоит опасаться только замены на некоторых рабочих местах людей системами с низкоуровневым ИИ (это уже происходит в цехах и на складах некоторых компаний), а также взлома роботов, в том числе привычных нам умных устройств. О более масштабной угрозе думать, как минимум, рано.