Глава Google DeepMind Демис Хассабис выступил с инициативой создания международного надзорного органа для контроля за разработкой передовых систем искусственного интеллекта. По мнению эксперта, такой регулятор должен обладать полномочиями по приостановке исследований в случае возникновения экзистенциальных рисков, а лидерство в этом процессе должны взять на себя США как ключевой технологический и экономический центр.
Хассабис аргументирует необходимость централизованного контроля тем, что текущие темпы развития «пограничных» моделей требуют глобальной координации стандартов безопасности. В своем обращении он подчеркивает, что отсутствие единых правил игры может привести к неконтролируемым последствиям, поэтому создание структуры, аналогичной МАГАТЭ в ядерной энергетике, становится критически важным шагом для обеспечения безопасности человечества.
Предложение предполагает, что США обладают необходимыми ресурсами и инфраструктурой для формирования глобальной повестки в области ИИ-безопасности. Инициатива направлена на предотвращение гонки вооружений в сфере технологий и обеспечение прозрачности процессов обучения наиболее мощных моделей, которые могут представлять угрозу при неверном проектировании или отсутствии должного надзора.
Ключевые факты
- Демис Хассабис, сооснователь и CEO Google DeepMind, предложил создать международный орган для контроля за ИИ.
- Регулятор должен иметь право на принудительную остановку разработки моделей, если они признаются опасными.
- В качестве модели для подражания предлагается структура, схожая с Международным агентством по атомной энергии (МАГАТЭ).
- США рассматриваются как основной инициатор и лидер процесса из-за их доминирующего положения в мировой экономике и технологическом секторе.