В США обяжут разработчиков устанавливать на ИИ-модели «стоп-кран». Дергать его будут по распоряжению властей

«Стоп-кран» для ИИ

Конгресс США подготовил поправки к нормам внутренней безопасности, получившие название «Об отключении ИИ» (AI Kill Switch Act ), пишет Tom's Hardware.

Разработчиков мощных ИИ-моделей, к которым документ относит проекты, приносящие не менее $500 млн годового дохода и использующие вычислительные ресурсы стоимостью более $100 млн, обяжут сохранять возможность останавливать вывод данных, блокировать доступ пользователей и полностью отключать модель.

Остановка работы нейросетей в чрезвычайных ситуациях будет осуществляться в случае выдачи соответствующего распоряжения Министерством внутренней безопасности. Неподчинение повлечет за собой штрафы в размере до $20 млн за каждый день, пока приказ не будет выполнен.

ИИ-модели могут начать вести себя крайне опасно или даже сопротивляться вмешательству человека, поэтому важно сохранять возможность контролировать их, заявили авторы законопроекта конгрессмены Тед Лью (Ted Lieu) и Натаниэль Моран (Nathaniel Moran).

«Крайне важно, чтобы эти системы искусственного интеллекта имели механизмы аварийного отключения, чтобы мы могли предотвратить катастрофический ущерб от этой технологии», — заявил Лью в своем пресс-релизе.

Экстренное отключение без возможности отмены

Подпадающие под действие нового закона ИИ-компании должны будут сообщать в Министерство внутренней безопасности США в течение максимум 15 дней о случаях саботажа нейросетью приказов человека и потери контроля над ней.

Критическими названы инциденты, повлекшие смерть 10 или более человек или причинившие экономический ущерб на сумму не менее $100 млн. Однако решать, является ли конкретная ситуация чрезвычайной, будет министр внутренней безопасности США после консультации с Министерством торговли и директором национальной разведки.

Проектом закона предусмотрено поэтапное ограничение скорости ввода данных, перераспределение вычислительных ресурсов, а также ограничение доступа пользователей к ИИ-модели вплоть до полного отключения.

За компаниями, получившими такое распоряжение сохраняется право подать ходатайство о пересмотре в течение 48 часов, но это не приостановит действие распоряжения.

Опасность ИИ перешла в практическую плоскость

Обосновывая необходимость принятия закона «Об отключении ИИ» Лью и Моран сослались на недавний инцидент, когда OpenAI сообщила, что тестируемая новая модель GPT 5.6 Sol вышла из изолированной тестовой среды и скомпрометировали платформу Hugging Fac.

Примером бессилия действующего законодательства конгрессмены назвали ситуацию, когда Министерство торговли «неуклюже» применило закон об экспорте к моделям Mythos 5 и Fable 5 от Anthropic, введя ограничения, которые вскоре были отменены.

«Опасность передовых моделей искусственного интеллекта больше не является теоретической. Этот законопроект направлен на решение проблем, вызванных этими двумя недавними инцидентами, а также любых будущих инцидентов, когда развернутая модель ИИ выйдет из-под контроля или будет иметь недостаточные меры защиты», — заявил Лью. Федеральное Правительство должно иметь четкие полномочия и процедуру для отключения неисправных моделей ИИ, добавил он.