Hacker News · 18.07.2026 ·Данные и инжиниринг

OpenAI представила механизм компактизации для управления контекстом

OpenAI внедрила функцию компактизации (compaction) в свои API, позволяющую оптимизировать хранение и обработку длинных цепочек сообщений. Этот инструмент автоматически сжимает историю переписки, сохраняя ключевую семантическую информацию и сокращая количество используемых токенов. Решение направлено на повышение эффективности работы с долгосрочным контекстом в агентных системах и сложных диалоговых интерфейсах, снижая при этом затраты на инференс.

Механизм компактизации решает проблему «забывания» или переполнения контекстного окна при длительном взаимодействии с моделью. Вместо простого удаления старых сообщений, система анализирует историю и формирует сжатое представление данных, которое сохраняет контекст для последующих запросов. Это позволяет разработчикам поддерживать непрерывность диалога без необходимости вручную управлять историей сообщений или жертвовать качеством ответов из-за нехватки места в окне контекста.

Внедрение этого функционала упрощает архитектуру приложений, использующих LLM, так как перекладывает задачу оптимизации данных на уровень API. Это особенно актуально для сложных агентных сценариев, где требуется глубокая память о прошлых действиях пользователя или результатах выполнения задач, накопленных за длительный период времени.

Ключевые факты

Функция компактизации автоматизирует управление историей сообщений в API.
Инструмент направлен на оптимизацию потребления токенов при работе с длинным контекстом.
Механизм позволяет сохранять семантическую целостность данных при сжатии истории.
Решение снижает нагрузку на разработчиков по ручной очистке или суммаризации контекста.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Инфраструктура для агентов Context Warp Drive: детерминированное сжатие контекста для ИИ-агентов Context Warp Drive — это новый инструмент для управления контекстным окном LLM, предлагающий метод детерминированного «свертывания» (folding) данных. Решение позволяет агентам эффективно сжимать длинные истории диалогов и массивы данных, сохраняя при этом критически важную информацию для последующих итераций, что помогает оптимизировать использование токенов и повысить точность ответов в долгосрочных задачах. arXiv · Инфраструктура для агентов CompactionRL: оптимизация памяти для долгосрочных ИИ-агентов Исследователи представили метод CompactionRL, решающий проблему ограниченного контекстного окна у LLM при выполнении длительных задач. Алгоритм использует обучение с подкреплением для сжатия истории взаимодействий агента, позволяя сохранять критически важную информацию в компактном виде. Это позволяет агентам эффективно завершать сложные многошаговые процессы, не превышая лимиты токенов и сохраняя высокую точность принятия решений. Hacker News · Оркестрация агентов Проблема избыточной памяти в ИИ-агентах и методы оптимизации контекста Разработчики сталкиваются с проблемой «засорения» памяти ИИ-агентов нерелевантными данными из сессий. Постоянное сохранение всех транскриптов диалогов приводит к деградации качества ответов и росту затрат на токены. Для решения этой задачи предлагаются стратегии фильтрации контекста, которые позволяют агентам фокусироваться на значимой информации, игнорируя «шум» и случайные детали прошлых взаимодействий. arXiv · Память и RAG ACE: новый метод адаптивного управления контекстом для ИИ-агентов Исследователи представили ACE (Adaptive Context Elasticizer) — фреймворк для динамического управления контекстом в ИИ-агентах. В отличие от стандартных методов обрезки или суммаризации, ACE позволяет гибко сжимать и восстанавливать информацию в зависимости от сложности задачи. Это решает проблему ограниченного контекстного окна LLM при выполнении длинных цепочек рассуждений, сохраняя критически важные данные для агента. Hacker News · Инфраструктура для агентов Оптимизация контекста для снижения расхода токенов в ИИ-агентах Разработчики представили решение, позволяющее сократить потребление токенов более чем на 60% при выполнении агентных задач. Основной принцип работы заключается в автоматическом выявлении и удалении избыточного, повторяющегося контекста, который часто накапливается в ходе многошаговых рассуждений или длительных сессий взаимодействия с языковыми моделями. Hacker News · Инфраструктура для агентов OpenAI добавила поддержку сохранения цепочки рассуждений в API OpenAI обновила API, внедрив функцию сохранения контекста рассуждений (reasoning) между последовательными вызовами модели. Ранее промежуточные логические шаги моделей серии o1 отбрасывались после завершения генерации ответа. Теперь разработчики могут сохранять эти данные, что позволяет агентам опираться на предыдущие выводы, повышая точность выполнения сложных многошаговых задач и снижая вероятность галлюцинаций. Hacker News · Память и RAG Решение проблемы ограниченной контекстной памяти в AI-редакторах Разработчики столкнулись с тем, что популярные AI-редакторы кода, такие как Cursor, теряют контекст длительных сессий, забывая детали обсуждений спустя короткое время. Для решения этой проблемы была создана внешняя система управления памятью, которая индексирует историю диалогов и техническую документацию, обеспечивая модели доступ к релевантным данным на протяжении всего процесса разработки. Hacker News · Инфраструктура для агентов Проблема масштабирования контекста в агентных системах Масштабирование контекста в многоагентных системах становится критическим барьером для эффективности разработки. Традиционные подходы к передаче данных между агентами приводят к потере информации и избыточности, что замедляет работу. Новые архитектурные решения предлагают переосмыслить синхронизацию состояний, чтобы агенты могли обмениваться контекстом без дублирования усилий и потери связности в сложных рабочих процессах. Hacker News · Разработка и инструменты ContextOps: статический анализатор контекста для LLM-приложений ContextOps — это новый инструмент статического анализа, который помогает разработчикам контролировать использование контекста в LLM-приложениях. По аналогии с линтерами для кода, утилита сканирует кодовую базу на предмет потенциальных проблем с контекстным окном, избыточным потреблением токенов и неэффективной структурой промптов, позволяя оптимизировать производительность и стоимость инференса на этапе разработки, а не после деплоя. Hacker News · Инфраструктура для агентов Управление контекстом свыше 80 млн токенов без сжатия данных Разработчики представили решение, позволяющее ИИ-агентам обрабатывать контекстные окна объемом более 80 миллионов токенов без использования методов сжатия или суммаризации. Система обеспечивает прямой доступ к огромным массивам данных в рамках одной сессии, что радикально меняет подходы к работе с длинным контекстом и устраняет необходимость в сложных пайплайнах подготовки данных для RAG-систем.

← Все материалы