Hugging Face - Blog · 04.08.2026 ·Инференс и железо

Liquid AI представила компактную модель LFM-2.6B для локальных агентов

Компания Liquid AI выпустила модель LFM-2.6B, оптимизированную для эффективной работы на локальных устройствах. Архитектура модели ориентирована на высокую производительность при ограниченных вычислительных ресурсах, что делает её подходящим решением для развертывания автономных ИИ-агентов на клиентском оборудовании, смартфонах и периферийных устройствах без необходимости постоянного обращения к облачным серверам.

Модель построена на базе принципов Liquid Neural Networks, что позволяет ей демонстрировать высокую скорость обработки данных и низкое потребление памяти по сравнению с традиционными трансформерами аналогичного размера. Разработчики сфокусировались на балансе между способностью модели к рассуждению и её компактностью, что критически важно для сценариев, где требуется низкая задержка и приватность обработки данных.

Использование LFM-2.6B упрощает интеграцию интеллектуальных функций в локальные приложения. Благодаря небольшому весу, модель легко масштабируется в рамках существующих инфраструктурных решений для инференса, позволяя разработчикам создавать агентные системы, работающие полностью в офлайн-режиме или в условиях нестабильного интернет-соединения.

Ключевые факты

Модель LFM-2.6B содержит 2,6 миллиарда параметров, что обеспечивает оптимальное соотношение качества ответов и скорости работы.
Архитектура основана на Liquid Foundation Models, которые отличаются от стандартных трансформеров повышенной эффективностью вычислений.
Модель доступна для загрузки и локального развертывания через платформу Hugging Face.
Решение предназначено для запуска на устройствах с ограниченными ресурсами, включая мобильные платформы и edge-оборудование.

Источник: Hugging Face - Blog

Обсудить с ИИ

Похожие материалы

Hacker News · Модели и релизы Liquid AI представила компактную модель LFM-2.5 с 2.6 млрд параметров Компания Liquid AI выпустила LFM-2.5 — новую версию своей архитектуры с 2.6 млрд параметров, оптимизированную для эффективной работы на широком спектре устройств. Модель демонстрирует высокую производительность в задачах логического вывода и обработки данных, превосходя аналогичные по размеру решения за счет использования нетрадиционных подходов к архитектуре нейронных сетей, ориентированных на минимизацию вычислительных затрат. Hacker News · Инференс и железо Liquid AI представила компактную модель LFM-2.5 на 230 млн параметров Компания Liquid AI выпустила новую языковую модель LFM-2.5 с 230 миллионами параметров, оптимизированную для работы на устройствах с ограниченными ресурсами. Архитектура модели позволяет эффективно функционировать на смартфонах, одноплатных компьютерах типа Raspberry Pi и робототехнических системах, обеспечивая высокую скорость инференса при минимальном потреблении оперативной памяти и вычислительной мощности процессора. Hugging Face - Blog · Инференс и железо Liquid AI представила LFM 2.5: оптимизированные энкодеры для быстрого инференса на CPU Компания Liquid AI выпустила обновленную линейку моделей LFM 2.5, ориентированную на эффективную обработку длинных контекстов при работе на центральных процессорах. Новая архитектура значительно снижает требования к вычислительным ресурсам, позволяя выполнять сложные задачи анализа данных и поиска в больших документах без использования дорогостоящих GPU, что критически важно для локальных агентных систем и периферийных вычислений. MarkTechPost · Инференс и железо Liquid AI выпустила компактную модель LFM2.5-230M для локального запуска Компания Liquid AI представила LFM2.5-230M — свою самую компактную нейросеть с 230 млн параметров. Модель оптимизирована для работы на периферийных устройствах, демонстрируя высокую скорость генерации текста. Она поддерживает популярные фреймворки инференса, такие как llama.cpp и vLLM, и показывает превосходство над более крупными аналогами в задачах извлечения данных и выполнения инструкций. Hacker News · Инференс и железо Liquid AI представила LFM2.5-Encoders: высокая скорость при длинном контексте на CPU Компания Liquid AI выпустила семейство моделей LFM2.5-Encoders, оптимизированных для эффективной обработки длинных контекстов. Архитектура моделей позволяет достигать высокой производительности даже при запуске на центральных процессорах (CPU), что значительно снижает требования к аппаратному обеспечению для задач анализа больших объемов данных, поиска и извлечения информации в реальном времени. MarkTechPost · Машинное обучение Liquid AI представила компактные модели для многоязычного поиска Компания Liquid AI выпустила новые модели LFM2.5-Embedding-350M и LFM2.5-ColBERT-350M, предназначенные для эффективного семантического поиска. Решения базируются на архитектуре с 350 миллионами параметров и оптимизированы для работы на периферийных устройствах, что позволяет использовать их локально без обращения к облачным серверам. MarkTechPost · Модели и релизы Liquid AI представила компактные двунаправленные энкодеры LFM2.5 Компания Liquid AI выпустила две новые модели-энкодера: LFM2.5-Encoder-230M и LFM2.5-Encoder-350M. Эти модели построены на гибридной архитектуре LFM2 и поддерживают контекстное окно до 8192 токенов. Новинки демонстрируют высокую производительность при работе на центральных процессорах, обеспечивая эффективную обработку данных в задачах классификации и понимания текста без необходимости использования специализированных GPU-ускорителей. Hacker News · Инференс и железо Запуск мультимодальной модели LFM-2.0 через WebGPU в браузере Liquid AI представила реализацию мультимодальной модели LFM-2.0, работающую полностью в браузере через технологию WebGPU. Решение позволяет выполнять инференс нейросети на стороне клиента без необходимости обращения к серверным мощностям. Это открывает возможности для создания легковесных агентных интерфейсов и интерактивных приложений, требующих обработки изображений и текста непосредственно на устройстве пользователя с минимальной задержкой. Microsoft Research · Оркестрация агентов MagenticLite: агентная система для малых моделей от Microsoft Research Microsoft Research представила MagenticLite — агентную систему, оптимизированную для работы с малыми моделями. Она поддерживает выполнение задач как в браузере, так и в локальной файловой системе, что делает её универсальным решением для повседневных задач. Система объединяет специализированные модели и оркестрацию, что позволяет эффективно использовать ограниченные вычислительные ресурсы. Hacker News · Инференс и железо TensorSharp: новый движок для локального запуска LLM TensorSharp — это новый open-source движок для инференса больших языковых моделей, ориентированный на эффективную работу на локальном оборудовании. Проект предлагает оптимизированную среду для запуска LLM, минимизируя задержки и потребление ресурсов. Решение нацелено на разработчиков, которым требуется высокая производительность при развертывании моделей вне облачных инфраструктур, обеспечивая гибкость и контроль над вычислительными мощностями.

← Все материалы