Администрация США ведет переговоры с ведущими разработчиками ИИ, включая OpenAI и Meta (признана экстремистской организацией, деятельность запрещена в РФ), с целью введения поэтапного выпуска новых моделей. Власти стремятся снизить риски, связанные с неконтролируемым распространением мощных технологий, настаивая на более осторожном подходе к публичным релизам и предварительном тестировании безопасности перед широким внедрением.
Инициатива направлена на предотвращение потенциальных угроз, которые могут возникнуть при резком доступе общественности к продвинутым системам генеративного ИИ. Правительственные структуры опасаются, что текущие темпы выпуска моделей опережают возможности регуляторов по оценке их влияния на национальную безопасность и общественную стабильность. Обсуждения касаются как механизмов контроля за мощностью моделей, так и протоколов раскрытия информации о процессе их обучения.
Подобные шаги отражают глобальный тренд на усиление государственного надзора за индустрией ИИ. Власти США стремятся найти баланс между сохранением технологического лидерства страны и необходимостью минимизировать риски, связанные с дезинформацией, кибератаками и другими злоупотреблениями, которые могут быть усилены с помощью новых поколений нейросетей.
Ключевые факты
- Администрация США ведет переговоры с OpenAI и Meta (признана экстремистской организацией, деятельность запрещена в РФ) о замедлении темпов выпуска новых моделей.
- Основная цель инициативы — внедрение поэтапного релиза для обеспечения безопасности и оценки рисков перед широким доступом.
- Регуляторы обеспокоены тем, что скорость развития технологий опережает возможности контроля за их потенциальным негативным влиянием.
- Обсуждения включают требования к более прозрачному тестированию моделей до их официального выхода на рынок.