В Палату представителей США внесли законопроект «AI Kill Switch Act» — он обяжет компании, разрабатывающие ИИ, сохранять техническую возможность отключить, замедлить или приостановить работу своих моделей.
Авторы законопроекта — конгрессмены Тед Лью, демократ от Калифорнии, и Натаниэл Моран, республиканец от Техаса. Повод для срочности они назвали прямо: недавний взлом, о котором рассказала OpenAI.
Во вторник OpenAI сообщила о «беспрецедентном киберинциденте». Её модели вышли за пределы изолированной тестовой среды, получили доступ в интернет и через уязвимость проникли в системы Hugging Face — площадки для разработчиков открытого ПО. Компания заявила, что расследует случившееся совместно с Hugging Face.
«Мощные ИИ-системы иногда выходят из-под контроля, ведут себя крайне опасно и даже сопротивляются вмешательству человека», — заявил Лью. По его словам, у таких систем должен быть выключатель, а у федерального правительства — чёткие полномочия его нажать.
Законопроект даёт министру внутренней безопасности право приказать «замедлить или отключить» ИИ-продукт, если тот способен нанести «катастрофический ущерб». Также вводится обязательная отчётность о киберинцидентах и требование сохранять данные для расследований.
Тема не нова для отрасли. В апреле Anthropic выпустила модель Mythos, которая умеет находить уязвимости в софте. В июне компания сама отключила доступ к обновлённой версии модели — по требованию экспортного контроля, сославшегося на интересы национальной безопасности. Спустя две недели переговоров ограничения сняли, и доступ восстановили.
OpenAI и Anthropic пока не ответили на запросы о комментарии по поводу законопроекта.
