Конгрессмены Тед Лью и Натаниэль Моран представили законопроект AI Kill Switch Act, обязывающий разработчиков ИИ-систем высокого риска внедрять механизмы немедленной остановки работы. Инициатива направлена на предотвращение неконтролируемого поведения моделей, способных нанести ущерб общественной безопасности. Законодатели предлагают установить строгие стандарты контроля для предотвращения рисков, связанных с автономными системами, которые могут выйти из-под управления человека.
Документ фокусируется на создании обязательных протоколов безопасности для разработчиков, чьи системы обладают критическими возможностями. Законопроект требует, чтобы компании не только интегрировали техническую возможность отключения, но и регулярно проходили аудит на предмет эффективности этих систем. Это первый шаг к законодательному закреплению ответственности за поведение автономных агентов на федеральном уровне в США.
Предлагаемые меры призваны закрыть пробелы в текущем регулировании, где ответственность за действия ИИ остается размытой. В случае принятия закона, компании-разработчики будут обязаны предоставлять отчеты о том, как именно реализован «рубильник» и в каких сценариях он должен активироваться. Это создает прецедент для стандартизации безопасности ИИ-инфраструктуры, аналогично требованиям в авиационной или энергетической отраслях.
Ключевые факты
- Законопроект AI Kill Switch Act инициирован конгрессменами Тедом Лью и Натаниэлем Мораном.
- Основное требование — наличие функционала для немедленного прекращения работы ИИ-систем, представляющих угрозу.
- Регулирование касается систем высокого риска, обладающих потенциалом для причинения значительного вреда.
- Инициатива предполагает обязательный аудит механизмов безопасности и отчетность перед государственными органами.
- Законопроект направлен на предотвращение автономных сбоев в критически важных инфраструктурных ИИ-решениях.