OpenAI внедрила механизм шифрования системных инструкций для своих агентов на базе модели Codex, что делает невозможным их локальный аудит сторонними разработчиками. Это изменение ограничивает прозрачность работы агентных систем, лишая пользователей возможности отслеживать логику принятия решений и скрытые директивы, которые модель получает от разработчиков платформы в процессе выполнения задач.
Данный шаг вызвал обеспокоенность в сообществе разработчиков, так как отсутствие доступа к системному промпту затрудняет отладку и оценку безопасности ИИ-агентов. Ранее разработчики могли анализировать инструкции для выявления потенциальных уязвимостей, ошибок в логике или нежелательных паттернов поведения, однако теперь эти данные скрыты внутри закрытого контура инфраструктуры OpenAI.
Эксперты отмечают, что подобная практика «черного ящика» усложняет соблюдение стандартов комплаенса и безопасности в корпоративных средах. В условиях, когда агенты получают доступ к выполнению кода и управлению файлами, невозможность аудита инструкций становится критическим барьером для внедрения таких решений в критически важные бизнес-процессы, требующие полной прозрачности алгоритмов.
Ключевые факты
- OpenAI перевела системные инструкции агентов Codex в зашифрованный формат, недоступный для прямого чтения.
- Изменение лишает разработчиков возможности проводить локальный аудит того, какие именно директивы управляют поведением агента.
- Шифрование затрудняет выявление скрытых ограничений и потенциальных векторов атак, встроенных в системный промпт.
- Отсутствие прозрачности создает риски для компаний, использующих агентов в задачах с высокими требованиями к безопасности и аудируемости кода.