Генеральный директор Google DeepMind Демис Хассабис выступил с инициативой создания независимого американского органа по стандартизации ИИ, аналогичного финансовому регулятору FINRA. Предложение направлено на разработку протоколов оценки безопасности для наиболее мощных моделей и создание механизмов для замедления темпов разработки в случае возникновения рисков, при этом стартапы и исследовательские проекты предлагается оставить вне жесткого регулирования.
Хассабис подчеркивает, что текущая неопределенность в развитии технологий требует перехода от теоретических дискуссий к созданию реальных «защитных барьеров». Основная задача предлагаемого регулятора — установление единых стандартов тестирования, которые позволят выявлять опасные способности моделей до их широкого внедрения. По мнению главы DeepMind, такой подход обеспечит баланс между инновациями и общественной безопасностью.
Инициатива предполагает, что под надзор попадут только компании, работающие над «пограничными» моделями (frontier models), обладающими критическим уровнем вычислительных мощностей или потенциалом воздействия на инфраструктуру. Это должно предотвратить чрезмерное давление на небольшие компании и академические лаборатории, сохраняя конкурентную среду в индустрии.
Ключевые факты
- Регулятор должен быть смоделирован по образцу FINRA, контролирующей финансовые рынки США.
- Основная функция органа — разработка стандартизированных протоколов оценки безопасности для самых мощных ИИ-систем.
- Предлагается механизм принудительного замедления разработки в случае обнаружения критических рисков.
- Стартапы и научные исследовательские проекты будут освобождены от соблюдения данных регуляторных норм.
- Инициатива направлена на создание прозрачных правил игры для крупнейших игроков рынка ИИ.