Hubmesh — это новый инструмент для организации многошагового поиска (multi-hop RAG), который позволяет извлекать контекст из сложных графовых структур данных без использования LLM на этапе запроса. Решение минимизирует задержки и снижает затраты на инференс, перенося логику навигации по связям между документами на уровень алгоритмической обработки графа.

Традиционные RAG-системы часто требуют участия языковой модели для интерпретации промежуточных шагов при поиске ответов на сложные вопросы. Hubmesh предлагает альтернативный подход, где поиск нужной информации происходит через обход графа связей, что исключает лишние вызовы API. Это позволяет значительно ускорить получение релевантных данных для последующей генерации ответа.

Архитектура системы ориентирована на сценарии, где данные имеют выраженную структуру связей, а точность извлечения критически важна для качества итогового ответа. Использование подхода без LLM на этапе поиска также помогает избежать галлюцинаций, связанных с неверной интерпретацией промежуточных звеньев в цепочке рассуждений.

Ключевые факты

  • Hubmesh реализует многошаговый поиск (multi-hop retrieval) без необходимости обращения к LLM в процессе запроса.
  • Основной механизм работы основан на навигации по графовым структурам данных для поиска релевантных фрагментов.
  • Инструмент направлен на снижение стоимости эксплуатации RAG-систем за счет уменьшения количества токенов, затрачиваемых на промежуточные шаги.
  • Решение доступно в формате open-source проекта для интеграции в существующие пайплайны обработки данных.