Группа действующих и бывших сотрудников OpenAI, Anthropic и других ведущих ИИ-лабораторий опубликовала открытое письмо к властям США. Авторы призывают правительство внедрить механизмы надзора и контроля за разработкой передовых систем искусственного интеллекта. Основной акцент сделан на необходимости прозрачности процессов обучения и обеспечения безопасности при создании моделей, способных превзойти человеческие возможности в ключевых задачах.
Инициатива подчеркивает растущую обеспокоенность внутри индустрии темпами развития технологий, которые опережают текущие регуляторные рамки. Подписанты настаивают на создании независимых структур, которые могли бы проводить аудит безопасности моделей до их широкого релиза. По мнению авторов, добровольных обязательств компаний недостаточно для минимизации рисков, связанных с неконтролируемым масштабированием вычислительных мощностей и алгоритмической сложностью.
Документ также затрагивает вопросы защиты исследователей, которые сообщают о потенциальных угрозах безопасности внутри своих организаций. Авторы призывают законодателей обеспечить правовую защиту для «информаторов» (whistleblowers), чтобы эксперты могли открыто говорить о рисках, не опасаясь преследований или нарушения условий соглашений о неразглашении. Это предложение направлено на создание культуры ответственности в секторе, где конкуренция за лидерство часто идет в ущерб долгосрочной безопасности.
Ключевые факты
- В числе подписантов — сотрудники OpenAI, Anthropic и ряда других компаний, работающих над границами возможностей ИИ.
- Основное требование — создание системы государственного надзора за обучением моделей, требующих значительных вычислительных ресурсов.
- Письмо содержит призыв к внедрению законодательной защиты для сотрудников, раскрывающих информацию о рисках безопасности в ИИ-компаниях.
- Инициатива направлена на предотвращение потенциальных катастрофических рисков, связанных с неконтролируемым развитием «сверхразумных» систем.