OpenAI внесла изменения в конфигурацию модели Codex, уменьшив размер доступного контекстного окна с 372 тысяч до 272 тысяч токенов. Это обновление отражено в последних коммитах репозитория проекта и напрямую влияет на объем данных, которые модель может обрабатывать за один запрос при генерации и анализе программного кода.
Данное изменение является значимым для разработчиков, использующих Codex в составе агентных систем или инструментов автодополнения кода. Сокращение контекста на 100 тысяч токенов требует пересмотра стратегий управления памятью и RAG-пайплайнов, так как теперь в рабочую область модели помещается меньше контекстной информации о проекте или документации.
Для систем, полагающихся на передачу больших объемов исходного кода в промпт, такое ограничение может привести к необходимости более агрессивной фильтрации данных или переходу на методы иерархического контекста. Разработчикам рекомендуется обновить параметры своих интеграций, чтобы избежать ошибок при превышении лимита токенов в текущих рабочих процессах.
Ключевые факты
- Размер контекстного окна сокращен с 372 000 до 272 000 токенов.
- Изменение зафиксировано в официальном репозитории OpenAI на GitHub.
- Уменьшение объема доступной памяти требует оптимизации промптов и контекстных данных.
- Обновление напрямую влияет на работу инструментов, использующих Codex для анализа крупных кодовых баз.