Власти США рассматривают возможность создания независимого регулятора по образцу FINRA для контроля за разработкой передовых систем искусственного интеллекта. Новая структура может взять на себя функции аудита безопасности и оценки рисков наиболее мощных моделей перед их публичным релизом, чтобы предотвратить потенциальные угрозы национальной безопасности и общественной стабильности, связанные с неконтролируемым развитием технологий.
Инициатива предполагает создание системы обязательной сертификации, которая будет действовать по аналогии с финансовыми регуляторами, обеспечивая прозрачность процессов обучения и тестирования ИИ. Ожидается, что такой подход позволит государству оперативно реагировать на появление моделей, обладающих критическими возможностями, не замедляя при этом общие темпы инноваций в индустрии.
Обсуждение создания подобного надзорного органа отражает растущую обеспокоенность законодателей тем, что текущие добровольные обязательства компаний-разработчиков недостаточно эффективны. В случае реализации проекта, разработчики будут обязаны предоставлять доступ к данным о безопасности своих систем, что станет новым стандартом для индустрии ИИ в США.
Ключевые факты
- Регулятор будет функционировать по модели FINRA (Financial Industry Regulatory Authority), обеспечивая надзор за соблюдением стандартов безопасности.
- Основная цель — аудит наиболее мощных моделей ИИ до их выпуска на рынок.
- Инициатива направлена на минимизацию рисков, связанных с национальной безопасностью и неконтролируемым поведением алгоритмов.
- Новая структура может получить полномочия по принудительной проверке документации и методологий обучения, используемых ведущими ИИ-лабораториями.