Ведущие исследователи из OpenAI и Anthropic обратились к правительству США с призывом внедрить механизмы государственного контроля за темпами разработки мощных систем искусственного интеллекта. Специалисты настаивают на создании инструментов мониторинга и стандартизации, которые позволят отслеживать прогресс в создании моделей, способных превзойти человеческие возможности, чтобы минимизировать потенциальные риски для национальной безопасности и общества.
Инициатива подчеркивает растущую обеспокоенность внутри индустрии по поводу отсутствия прозрачности в процессе обучения крупномасштабных нейросетей. Ученые предлагают законодателям разработать систему отчетности, при которой компании будут обязаны предоставлять данные о вычислительных мощностях и результатах тестирования безопасности моделей перед их публичным релизом. Это должно стать фундаментом для ответственного масштабирования технологий.
Предложение включает создание независимых надзорных органов, обладающих технической экспертизой для оценки рисков на этапе разработки, а не только после выхода продукта на рынок. По мнению авторов обращения, текущая гонка вооружений в сфере ИИ требует внешнего регулирования, которое обеспечит соблюдение этических норм и предотвратит неконтролируемое распространение опасных возможностей моделей.
Ключевые факты
- В обращении участвуют эксперты из OpenAI и Anthropic, двух крупнейших разработчиков frontier-моделей.
- Основное требование — внедрение обязательной отчетности о вычислительных ресурсах, затраченных на обучение систем.
- Предлагается создание государственного надзорного органа для оценки безопасности моделей до их развертывания.
- Инициатива направлена на предотвращение рисков, связанных с созданием систем, превосходящих человеческий интеллект в критических задачах.