Администрация США инициировала пересмотр рамок кибербезопасности для разработчиков передовых моделей ИИ. В обсуждениях участвуют крупнейшие игроки индустрии, включая OpenAI, Google и Anthropic. Цель инициативы — закрепить обязательные стандарты защиты инфраструктуры от кибератак, предотвратить утечки весов моделей и минимизировать риски использования ИИ для создания вредоносного ПО или проведения масштабных цифровых диверсий.
Текущий диалог с технологическими компаниями направлен на формализацию требований, которые ранее носили рекомендательный характер. Правительство стремится создать единый протокол безопасности, который будет применяться на всех этапах жизненного цикла модели: от обучения на кластерах до развертывания в облачных средах. Особое внимание уделяется защите цепочек поставок данных и предотвращению несанкционированного доступа к вычислительным мощностям.
Разработка данных стандартов является частью более широкой стратегии по обеспечению национальной безопасности в условиях стремительного развития генеративного ИИ. Регуляторы опасаются, что отсутствие жестких протоколов может позволить злоумышленникам эксплуатировать уязвимости в архитектуре моделей для обхода встроенных ограничений безопасности или кражи интеллектуальной собственности.
Ключевые факты
- В переговорах участвуют представители OpenAI, Google, Anthropic и других ведущих разработчиков frontier-моделей.
- Основной фокус направлен на защиту весов моделей и предотвращение использования ИИ для кибератак.
- Инициатива опирается на положения исполнительного указа президента США об ответственном развитии ИИ.
- Обсуждаемые стандарты включают требования к прозрачности обучения и протоколы реагирования на инциденты безопасности.