Hacker News · 14.07.2026 ·Инфраструктура для агентов

Управление контекстом свыше 80 млн токенов без сжатия данных

Разработчики представили решение, позволяющее ИИ-агентам обрабатывать контекстные окна объемом более 80 миллионов токенов без использования методов сжатия или суммаризации. Система обеспечивает прямой доступ к огромным массивам данных в рамках одной сессии, что радикально меняет подходы к работе с длинным контекстом и устраняет необходимость в сложных пайплайнах подготовки данных для RAG-систем.

Технология опирается на оптимизированную архитектуру работы с памятью, которая позволяет эффективно индексировать и извлекать информацию из терабайтных объемов текста. В отличие от традиционных подходов, где данные предварительно разбиваются на чанки или сжимаются, данный метод сохраняет целостность исходной информации, обеспечивая высокую точность ответов при работе с глубоко распределенными данными.

Такой подход открывает возможности для создания агентов, способных анализировать целые библиотеки технической документации, архивы переписки или огромные кодовые базы без потери контекста. Это снижает нагрузку на препроцессинг и позволяет моделям оперировать «сырыми» данными в реальном времени, что критично для сложных аналитических задач и автоматизации корпоративных процессов.

Ключевые факты

Поддержка контекстного окна объемом свыше 80 миллионов токенов в одной сессии.
Отказ от использования методов сжатия (compaction) или суммаризации контекста.
Прямая работа с большими массивами данных без необходимости предварительного разбиения на фрагменты.
Повышение точности извлечения информации за счет сохранения исходной структуры данных.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Инфраструктура для агентов Почему бесконечный контекст — не лучшее решение для ИИ-агентов в программировании Увеличение контекстного окна LLM не решает проблему эффективности ИИ-агентов при работе с крупными кодовыми базами. Вместо загрузки миллионов токенов в память, авторы предлагают сфокусироваться на архитектуре с активным поиском и структурированным доступом к данным. Такой подход позволяет агентам точнее находить нужные фрагменты кода, снижая затраты на инференс и повышая качество генерации. Hacker News · Инфраструктура для агентов Оптимизация контекста для снижения расхода токенов в ИИ-агентах Разработчики представили решение, позволяющее сократить потребление токенов более чем на 60% при выполнении агентных задач. Основной принцип работы заключается в автоматическом выявлении и удалении избыточного, повторяющегося контекста, который часто накапливается в ходе многошаговых рассуждений или длительных сессий взаимодействия с языковыми моделями. Hacker News · Память и RAG Новая архитектура памяти для ИИ-агентов Разработчики представили архитектуру памяти для ИИ-агентов, решающую проблему ограниченного контекстного окна и неэффективного извлечения данных. Система использует многоуровневый подход к хранению информации, разделяя её на краткосрочную и долгосрочную память с механизмом семантического поиска. Это позволяет агентам сохранять контекст диалогов и накопленный опыт в течение длительного времени, значительно повышая точность выполнения сложных задач. Hacker News · Память и RAG Масштабируемая работа с контекстом для ИИ-агентов в облачной инфраструктуре Amazon Web Services представила концепцию «контекстного интеллекта» для корпоративных систем, ориентированную на эффективную работу с данными в масштабах предприятия. Решение направлено на преодоление ограничений стандартных RAG-систем при обработке больших объемов неструктурированной информации. Основной упор сделан на интеграцию инструментов поиска, управления метаданными и семантического анализа, которые позволяют агентам извлекать релевантные фрагменты данных из разрозненных хранилищ в режиме реального времени. Hacker News · Память и RAG Инструмент для постоянной памяти агентов в кодовых репозиториях Разработчики представили решение для оптимизации работы ИИ-агентов с кодовой базой, внедряющее механизм «всегда свежей» памяти. Инструмент позволяет агентам сохранять контекст изменений в репозитории, исключая необходимость постоянного перечитывания всех файлов при каждом запросе. Это существенно снижает затраты на токены и ускоряет выполнение задач по анализу и модификации кода в агентных средах. Hacker News · Память и RAG Почему бесконечное контекстное окно — не панацея для работы с данными Разработчики всё чаще отказываются от идеи бесконечного расширения контекстного окна LLM в пользу архитектур с внешним управлением памятью. Вместо того чтобы загружать огромные массивы данных напрямую в модель, эффективнее использовать специализированные системы поиска и извлечения информации. Это позволяет снизить затраты на инференс, повысить точность ответов и избежать проблем с «забыванием» данных при длинных контекстах. Hacker News · Инфраструктура для агентов Построение ИИ-агентов на основе графов контекста Разработчики представили подход к созданию ИИ-агентов, использующих графы контекста вместо традиционных векторных баз данных. Метод позволяет агентам лучше понимать сложные взаимосвязи между сущностями и событиями, что критически важно для выполнения многошаговых задач. Использование графовых структур обеспечивает более точный контекстный поиск и повышает логическую связность действий агента при работе с большими массивами неструктурированных данных. Hacker News · Память и RAG Почему одной памяти недостаточно: управление контекстом в ИИ-агентах Для создания эффективных ИИ-агентов простой реализации памяти недостаточно. Разработчики сталкиваются с проблемой «зашумления» контекста, когда избыточная информация снижает точность ответов модели. Статья объясняет, почему управление контекстом — фильтрация, приоритизация и структурирование данных — становится критическим этапом в архитектуре агентных систем, позволяя моделям фокусироваться на актуальных задачах и избегать галлюцинаций при работе с большими массивами данных. arXiv · Память и RAG ACE: новый метод адаптивного управления контекстом для ИИ-агентов Исследователи представили ACE (Adaptive Context Elasticizer) — фреймворк для динамического управления контекстом в ИИ-агентах. В отличие от стандартных методов обрезки или суммаризации, ACE позволяет гибко сжимать и восстанавливать информацию в зависимости от сложности задачи. Это решает проблему ограниченного контекстного окна LLM при выполнении длинных цепочек рассуждений, сохраняя критически важные данные для агента. Hacker News · Инфраструктура для агентов Различия контекста и памяти при проектировании ИИ-агентов Эффективная работа ИИ-агентов требует четкого разделения между контекстным окном модели и внешними системами памяти. Контекст обеспечивает кратковременную рабочую область для текущих вычислений, тогда как память отвечает за долгосрочное хранение и извлечение релевантных данных. Понимание этих архитектурных различий критически важно для оптимизации производительности, стоимости запросов и точности ответов в сложных агентных системах.

← Все материалы