Создатель Ethereum: Есть серьезный шанс, что ИИ станет доминантным видом и уничтожит человечество

Держите его семеро

«Искусственный сверхразум, если позволить ему действовать бесконтрольно, обладает «серьезными шансами» стать «доминантным видом» на планете, и избавиться от человечества», - считает один из создателей криптовалюты Ethereum Виталик Бутерин.

С его точки зрения, впрочем, все зависит от того, как люди будут контролировать разработки технологий искусственного интеллекта (ИИ).

В публикации от 27 ноября Бутерин, которого считают одним из главных лидеров мнений в сфере криптовалют, назвал ИИ изобретением, которое «фундаментально отличается» от других, таких как социальные медиа, контрацепция, авиация, огнестрельное оружие, печатный станок или даже колесо. ИИ, по мнению Бутерина, способен создать новый тип «разума», который восстанет против интересов человечества.

Бутерин считает, что уже сейчас ИИ стремительно «умнеет», и это делает возможным его превращение в новый доминантный вид. В отличие от природных или даже некоторых антропогенных катастроф - фатального изменения климата, пандемии или ядерной войны, искусственный суперинтеллект, который сочтет людей угрозой своему существованию, истребит их как вид поголовно.

«Даже на Марсе безопасно не будет», - говорит Бутерин.

В качестве аргумента он приводит опрос более 4 тыс. экспертов по машинному обучению, которые сходятся во мнении, что ИИ может убить человечество с вероятностью 5-10%.

Оригинальный способ противодействия

При этом сам автор публикации предлагает собственный способ бороться с такой напастью: по его мнению, человеко-машинные интерфейсы, вживляемые непосредственно в мозг, обеспечат людей большей степенью контроля над наиболее мощными формами вычислений и обучения со стороны ИИ.

Тем самым скорость обмена данными с машиной возрастет в тысячи раз, а главное, у людей сохранится некоторая «значимость» в этом мире.

В частности, у людей уменьшится стимул перекладывать ответственность за планирование самого высокого уровня на ИИ, а это снизит и вероятность того, что искусственный интеллект примет какие-то решения, идущие вразрез с интересами человечества как вида.

Сооснователь Ethereum также указал, что «активное намерение человека» - единственное, что гарантированно обеспечит развитие ИИ в благоприятном для человечества направлении. По его мнению, жажда нарастить доходы не всегда ведет нас по лучшему из возможных путей.

«Мы, люди, ярчайшая звезда», - написал Бутерин, имея в виду все человечество. Человек на протяжении тысячелетий создавал технологии, которые помогали раскрывать его потенциал, и «если два миллиарда лет спустя Земля - или любая другая часть вселенной - по-прежнему будет сохранять красоту земных форм жизней, это будет возможным только благодаря человеческим достижениям, таким как космические путешествия или геоинженерия», - добавил сооснователь Ethereum.

«Человечество не впервые сталкивается с экзистенциальной угрозой, исходящей от технологий», - говорит генеральный директор компании «Информационные технологии будущего» Дмитрий Гвоздев. Он считает, что в большинстве случаев эта угроза гипертрофируется средствами массовой информации и популяризаторами науки, например, как это произошло с ядерным оружием, которое на долгие годы стало главной страшилкой для обывателей во всем мире. «Теперь на смену пришел ИИ, который действительно может быть опасен, но мы вряд ли в принципе способны смоделировать как именно он будет действовать», - развивает мысль Дмитрий Гвоздев. По его словам, попытки внедрения этических стандартов в разработку помогут только как общий тормоз развития отрасли, например, как запрещение работы с определенным типом информации или корректировка формата выдачи результатов. «Но для движения вперед нельзя не рисковать - как самим исследователям, так и человечеству в целом», - подытожил Дмитрий Гвоздев.