OpenAI сформировала специальную оперативную группу («war room») для устранения критических сбоев в работе модели Codex, связанных с некорректным подсчетом токенов. Проблема привела к неожиданным ограничениям доступа для пользователей и ошибкам в биллинге, что потребовало экстренного вмешательства инженеров компании для стабилизации инфраструктуры и восстановления нормальной работы API.
Ситуация возникла на фоне растущей нагрузки на вычислительные мощности компании и усложнения алгоритмов обработки запросов. Ошибки в системе тарификации привели к тому, что многие разработчики столкнулись с блокировками или списаниями средств, не соответствующими реальному потреблению ресурсов. Внутренняя команда сфокусирована на пересмотре логики подсчета токенов и оптимизации механизмов контроля лимитов в реальном времени.
Данный инцидент подчеркивает сложности масштабирования агентных систем и инструментов автодополнения кода, где точность учета токенов напрямую влияет на операционную деятельность бизнеса. Стабилизация системы является приоритетом для поддержания доверия корпоративных клиентов, использующих решения OpenAI в своих производственных пайплайнах.
Ключевые факты
- OpenAI организовала экстренную рабочую группу для исправления ошибок в системе учета токенов Codex.
- Сбои привели к некорректным ограничениям доступа и ошибкам в биллинге для пользователей API.
- Основная задача группы — переработка механизмов мониторинга потребления ресурсов в реальном времени.
- Проблема затронула стабильность работы инструментов, интегрированных в сторонние среды разработки.