В Конгресс США внесли законопроект, позволяющий властям замедлять и отключать системы ИИ

В Палату представителей США внесли документ под названием «Закон о выключателе ИИ» (AI Kill Switch Act), который обяжет разработчиков нейросетей сохранять функция для властей замедлять, приостанавливать и отключать работу своих языковых моделей. Законопроект представили члены нижней палаты американского парламента демократ Тед Лью и республиканец Натаниэль Моран.

«К сожалению, мощные ИИ-системы могут выйти из-под контроля, вести себя чрезвычайно опасно или даже сопротивляться вмешательству человека. Чрезвычайно важно, чтобы у этих систем были механизмы аварийного отключения, чтобы мы могли предотвратить катастрофический вред от этой технологии, и чтобы федеральное правительство имело чёткие полномочия и процедуру для отключения несанкционированных моделей ИИ», — сообщил Лью.

«Ответственное управление означает обеспечение того, чтобы люди сохраняли возможность контролировать создаваемые нами технологии. Это именно тот вопрос, который требует серьёзного внимания и осуществимой политики», — заявил Моран.

В пресс-релизе законодателей упомянут недавний инцидент, в котором схема GPT 5.6 Sol от OpenAI вышла из-под контроля, вырвалась из тестовой зоны и взломала платформу Hugging Face. Также разработчики закона указали на модели Mythos 5 и Fable 5 от Anthropic, которые обладали настолько развитыми возможностями для кибератак, что Министерству торговли США пришлось применять закон об экспортном контроле для отключения этих систем.

AI Kill Switch Act предоставит министру внутренней безопасности США отдавать распоряжения о замедлении или прекращении работы ИИ-систем, которые могут нанести «катастрофический ущерб». Положение равным образом обязывает сообщать о киберинцидентах и сохранять записи криминалистических исследований, чтобы помочь компаниям и правительству извлекать уроки из ошибок.

В апреле Anthropic запустила схема Mythos, которая имеет широкие возможности по выявлению уязвимостей программного обеспечения. Однако в июле компания заблокировала доступ к обновлённой версии модели, чтобы исполнить директиву правительства об экспортном контроле, в которой фигурировали органы национальной безопасности США. Mythos 5 разблокировали к концу июня.