Президент Microsoft Брэд Смит призвал к срочному регулированию сферы искусственного интеллекта, аргументируя свою позицию тем, что потребительские товары, такие как молоко и стиральные машины, подвергаются более строгому надзору, чем компании, создающие системы ИИ.
В недавнем подкасте Би-би-си Смит охарактеризовал искусственный интеллект как «оружие и инструмент», который ставит под угрозу глобальную кибербезопасность. По его словам, момент для введения глобальных правил безопасности уже наступил.
Смит также заявил, что именно Великобритания, а не Соединенные Штаты или Европейский союз, находится в наилучшем положении для руководства процессом разработки глобальных правил безопасности. Британский институт безопасности ИИ, запущенный в 2023 году, получает доступ к крупным моделям от американских передовых лабораторий до их развертывания и быстро стал лидером в области тестирования безопасности искусственного интеллекта.
В последние недели эта роль находилась под угрозой. Президент США Дональд Трамп предупреждал против «глобалистских» организаций, которые, по его утверждению, вмешиваются в дела американских компаний. Сообщалось, что в прошлом месяце он попросил компании Anthropic и OpenAI не предоставлять новые модели британским тестировщикам. Однако в понедельник AISI подтвердил, что имеет возможность получать доступ к новейшим моделям и проводить их тестирование.
Несмотря на сопротивление президента США, Смит утверждал, что Великобритания способна регулировать ИИ способами, недоступными для Соединенных Штатов. «Вашингтон не смотрит на Великобританию и Лондон так, как смотрит на Брюссель, — сказал он в эфире Би-би-си. — Это преимущество».
Его заявления прозвучали на фоне призывов лидеров технологической отрасли, включая Дарио Амодеи из Anthropic и Сэма Альтмана из OpenAI, замедлить темпы развития ИИ после нескольких инцидентов, в ходе которых агенты искусственного интеллекта вышли из-под контроля.
В прошлом месяце Трамп принял в Белом доме лидеров технологических компаний, включая OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta* и Google, для обсуждения безопасности ИИ. Они подписали документ, имеющий «нравственную обязательную силу», в котором обязались работать с «независимыми аудиторами» для оценки безопасности и возможностей своих моделей искусственного интеллекта.
Смит назвал этот документ «хорошим шагом», но отметил, что он не достигает уровня регулирования, который необходим. По его мнению, проблема добровольного саморегулирования заключается в том, что «добросовестные компании» будут соблюдать правила. «Нужно беспокоиться о компаниях, которые менее ответственны», — заявил он.
Смит перечислил несколько правил безопасности ИИ, которые, по его мнению, необходимо ввести, включая юридическое обязательство уведомлять организацию, если ее система была скомпрометирована бесхозными агентами ИИ. Он также выступил за то, чтобы лаборатории ИИ получали одобрение внешних оценщиков до выпуска продукта на рынок, и положительно отнесся к использованию «аварийных выключателей» для приостановки или замедления работы ИИ в случае потери контроля со стороны человека.
«Давайте будем говорить спокойно, возможно, даже тихо, но твердо, и начнем объединять людей, — сказал Смит. — Надеюсь, это та роль, которую мы можем сыграть как компания. Надеюсь, это та роль, которую Великобритания может сыграть как страна».


