Предупреждение эксперта
Нобелевский лауреат Джеффри Хинтон (Geoffrey Hinton), которого часто называют «крестным отцом» искусственного интеллекта (ИИ), заявил в интервью The Guardian, что уже в 2026 г. или в 2027 г. нейросети могут вызвать чрезвычайное происшествие (ЧП) глобального масштаба. По его словам, это может быть, например, серьезный сбой в работе энергетических или финансовых систем.
Джеффри Хинтону 78 лет, исследованиями ИИ-технологий он занимается около 44 лет. Еще в 1970 г. ученый заложил основы концепции нейронных сетей, а в 2023 г. покинул Google, чтобы свободно высказываться о потенциальных ИТ-угрозах ИИ-технологии. Его комментарии прозвучали перед премьерным показом документального фильма об ИИ, в котором приняли участие сам Хинтон и его бывший коллега Демис Хассабис (Demis Hassabis).
По оценке Хинтона, уже до 2040 г. - а возможно, и раньше - станет понятно, сможет ли общество взять под контроль риски, связанные с ИИ, и прийти к «радикальному изобилию». Однако, добавляет Хинтон, «возможно, нам было бы лучше вообще никогда не создавать ИИ».
Альтернативный сценарий предполагает резкий рост имущественного неравенства, культурные кризисы и массовую безработицу, как информировал CNews.
Вероятный «чернобыльский» инцидент
Хинтон допустил, что уже в конце 2026 г. или в 2027 г. может произойти серьезный инцидент. В качестве примеров он назвал кибератаку ИИ на энергосистему с последующим масштабным блэкаутом или сбой, способный на неделю парализовать финансовую систему, писал CNews. По силе «тревожного звонка» такое событие он сравнил с аварией на Чернобыльской атомной электростанции (АЭС).
Критика лидеров отрасли
Хинтон резко отозвался о руководителях ведущих ИИ-компаний, которые, по его мнению, прежде всего стремятся увеличить долю рынка и выпускают все более мощные ИИ-модели. Он заявил, что «совсем не доверяет» главе OpenAI Сэму Альтману (Sam Altman).
Ученый в адрес Альтмана, Марка Цукерберга (Mark Zuckerberg) и Илона Маска (Elon Musk) заметил: «Они понимают риски, но им наплевать - им нужны деньги».
Идея независимого регулирования
В качестве меры защиты Хинтон предлагает ввести обязательное независимое тестирование передовых ИИ-моделей перед их выпуском - по аналогии с процедурой одобрения лекарств.
«Нужно что-то вроде американского Управления по контролю за качеством пищевых продуктов и лекарственных препаратов, только для нейронных сетей: ИИ-компании должны доказать независимому органу, что ИИ-модель приносит больше пользы, чем вреда», - подчеркнул он, напомнив о трагедии с талидомидом.
Талидомид - лекарство, разработанное немецкой компанией Chemie Gr?nenthal в 1954 г. Его продавали как безопасное снотворное и средство от тошноты у беременных. Препарат считался настолько безвредным, что во многих странах отпускался без рецепта. Проблема обнаружилась слишком поздно: если женщина принимала талидомид на ранних сроках беременности (примерно с 34 по 50 день), у ребенка развивались тяжелые врожденные дефекты - чаще всего отсутствие или сильное укорочение конечностей (фокомелия, «тюленьи ласты»), а также пороки внутренних органов, глаз, ушей. По разным оценкам, в мире родилось до 12-20 тыс. детей с такими уродствами. Около половины из них умерли в младенчестве. Препарат продавался более чем в 40 странах.
При этом Джеффри Хинтон сохраняет осторожный оптимизм. «Мое чутье подсказывает, что мы все еще контролируем ситуацию», - заключил Хинтон.
Поделиться
