Американские законодатели готовят законопроект «AI Kill Switch Act», обязывающий разработчиков ИИ внедрять механизмы принудительного отключения или ограничения мощности систем по требованию Министерства внутренней безопасности. Инициатива направлена на предотвращение рисков, связанных с неконтролируемым поведением мощных моделей, и предполагает передачу государственным органам полномочий по экстренному вмешательству в работу ИИ-инфраструктуры в случае угрозы национальной безопасности.
Законопроект разрабатывается представителями обеих партий — демократом Тедом Лью и республиканцем Натаниэлем Мораном. Основная цель документа заключается в создании правовой базы, которая позволит федеральному правительству оперативно реагировать на потенциально опасные инциденты, вызванные автономными системами. В текущей редакции обсуждаются требования к компаниям-разработчикам по обеспечению технической возможности удаленного контроля над их вычислительными мощностями и алгоритмами.
Эксперты отмечают, что подобные меры могут существенно изменить ландшафт разработки ИИ, накладывая на компании дополнительные обязательства по обеспечению безопасности и прозрачности архитектур. Ожидается, что дискуссии вокруг законопроекта затронут вопросы баланса между государственным контролем и инновационным развитием отрасли, а также техническую реализуемость мгновенного отключения распределенных систем, работающих в облачных средах.
Ключевые факты
- Законопроект получил название «AI Kill Switch Act».
- Инициаторами выступают конгрессмены Тед Лью (демократ) и Натаниэль Моран (республиканец).
- Полномочия по отдаче приказа об отключении или ограничении систем планируется передать Министерству внутренней безопасности США.
- Законодатели стремятся создать механизм экстренного реагирования на угрозы, исходящие от передовых моделей ИИ.