Компания Liquid AI выпустила обновленную линейку моделей LFM 2.5, ориентированную на эффективную обработку длинных контекстов при работе на центральных процессорах. Новая архитектура значительно снижает требования к вычислительным ресурсам, позволяя выполнять сложные задачи анализа данных и поиска в больших документах без использования дорогостоящих GPU, что критически важно для локальных агентных систем и периферийных вычислений.

Разработчики сфокусировались на оптимизации энкодеров, которые лежат в основе систем RAG и семантического поиска. В отличие от стандартных трансформеров, архитектура Liquid Foundation Models (LFM) использует принципы динамических систем, что обеспечивает линейное масштабирование по длине контекста. Это позволяет моделям обрабатывать массивы данных, которые ранее требовали значительных затрат оперативной памяти и времени процессора.

Переход на LFM 2.5 позволяет существенно сократить задержки при инференсе на стандартном серверном или пользовательском оборудовании. Интеграция данных моделей в пайплайны обработки документов упрощает создание автономных агентов, способных работать с большими базами знаний локально, обеспечивая при этом высокую скорость отклика и конфиденциальность данных за счет отсутствия необходимости отправки запросов во внешние облачные API.

Ключевые факты

  • Архитектура LFM 2.5 оптимизирована для работы на CPU, обеспечивая высокую пропускную способность при ограниченных аппаратных мощностях.
  • Модели демонстрируют линейную сложность обработки контекста, что устраняет «квадратичное замедление», характерное для классических трансформеров при увеличении длины входных данных.
  • Обновление включает специализированные энкодеры, предназначенные для задач семантического поиска и векторного представления данных в RAG-системах.
  • Решение ориентировано на снижение стоимости эксплуатации ИИ-инфраструктуры за счет отказа от обязательного использования GPU в задачах инференса.
  • Модели доступны для интеграции через экосистему Hugging Face, что упрощает их внедрение в существующие рабочие процессы обработки данных.