Исследователи обнаружили критическую проблему в работе OpenAI Codex, приводящую к чрезмерной нагрузке на SSD-накопители. Из-за избыточных операций записи в процессе кэширования и логирования данных серверное оборудование выходит из строя значительно быстрее расчетного срока. Суммарный ущерб от преждевременного износа накопителей в инфраструктуре оценивается в миллионы долларов, что ставит вопрос об оптимизации процессов обработки данных в крупных ИИ-системах.
Технический анализ показал, что алгоритмы Codex генерируют аномально высокий объем временных файлов, которые постоянно перезаписываются на физические носители. В условиях высоконагруженных дата-центров, где используются массивы NVMe-накопителей, такой паттерн работы приводит к исчерпанию ресурса записи (TBW — Total Bytes Written) за считанные месяцы вместо запланированных лет эксплуатации.
Данная ситуация подчеркивает необходимость пересмотра стратегий управления данными и кэшированием при развертывании моделей с высокой частотой запросов. Инженерам приходится внедрять дополнительные уровни абстракции в файловые системы и переходить на использование оперативной памяти или специализированных распределенных хранилищ для временных логов, чтобы минимизировать физический износ оборудования.
Ключевые факты
- Избыточные операции записи при работе с Codex сокращают срок службы SSD в 5–10 раз относительно спецификаций производителя.
- Финансовые потери от преждевременной замены накопителей в масштабах инфраструктуры OpenAI оцениваются в миллионы долларов.
- Проблема вызвана неэффективным механизмом кэширования промежуточных состояний модели при обработке кода.
- Для решения проблемы требуется переход на RAM-диски или оптимизацию стратегий логирования на уровне системного ПО.