OpenAI представила системную карту (System Card) для перспективных моделей GPT-5 и GPT-6, описывающую подходы к обеспечению безопасности и оценке рисков до их официального релиза. Документ детализирует методологию тестирования моделей на устойчивость к киберугрозам, биологическим рискам и попыткам манипуляции, подчеркивая переход компании к превентивному анализу возможностей ИИ-систем следующего поколения.
Системная карта фокусируется на процессе «подготовки к безопасности» (safety preparedness), который включает в себя создание специализированных групп по оценке рисков и проведение внешних аудитов. В документе рассматриваются механизмы контроля, позволяющие минимизировать вероятность нежелательного поведения моделей, включая генерацию вредоносного контента или помощь в проведении сложных атак. Особое внимание уделено итеративному процессу дообучения на основе выявленных уязвимостей.
Данный подход отражает стратегию OpenAI по внедрению стандартов безопасности на этапе проектирования архитектуры, а не только после завершения обучения. Компания стремится формализовать критерии, при которых модель считается готовой к развертыванию, учитывая потенциальное влияние технологий на критическую инфраструктуру и общественную безопасность. Это часть более широкой инициативы по повышению прозрачности процессов разработки мощных ИИ-систем.
Ключевые факты
- Документ охватывает методологию оценки безопасности для будущих итераций моделей GPT-5 и GPT-6.
- Внедрена система «Safety Preparedness Framework», направленная на выявление рисков до этапа обучения и выпуска.
- Основные области контроля включают кибербезопасность, химические и биологические угрозы, а также социальное влияние.
- Процесс оценки предполагает привлечение внешних экспертов для независимого тестирования моделей на устойчивость к злоупотреблениям.
- Публикация направлена на демонстрацию готовности компании к соблюдению международных стандартов безопасности ИИ.