Компания Liquid AI выпустила LFM-2.5 — компактную языковую модель с 2.6 млрд параметров, оптимизированную для работы на устройствах с ограниченными ресурсами. Архитектура модели ориентирована на высокую производительность при выполнении агентных задач, обеспечивая баланс между скоростью инференса и качеством генерации текста, что делает её подходящим решением для локального запуска в составе агентных систем.
Модель разработана с использованием принципов, позволяющих эффективно обрабатывать длинные контексты при минимальном потреблении оперативной памяти. В отличие от стандартных трансформеров, архитектура Liquid Foundation Models (LFM) нацелена на снижение вычислительных затрат, что критически важно для интеграции ИИ-агентов непосредственно в клиентские приложения или мобильные устройства без обращения к облачным API.
Релиз LFM-2.5 подчеркивает тренд на миниатюризацию моделей, способных выполнять сложные логические операции. Разработчики могут использовать данную модель для создания автономных агентов, работающих в офлайн-режиме или в условиях строгих требований к приватности данных, где передача запросов на внешние серверы нежелательна или невозможна.
Ключевые факты
- Размер модели составляет 2.6 миллиарда параметров, что позволяет запускать её на потребительском «железе».
- Архитектура LFM-2.5 оптимизирована специально для агентных сценариев использования.
- Модель демонстрирует высокую эффективность в задачах обработки контекста при ограниченных аппаратных ресурсах.
- Решение ориентировано на локальный инференс, снижая зависимость от облачных инфраструктур.