Liquid AI представила компактные двунаправленные энкодеры LFM2.5

Компания Liquid AI выпустила две новые модели-энкодера: LFM2.5-Encoder-230M и LFM2.5-Encoder-350M. Эти модели построены на гибридной архитектуре LFM2 и поддерживают контекстное окно до 8192 токенов. Новинки демонстрируют высокую производительность при работе на центральных процессорах, обеспечивая эффективную обработку данных в задачах классификации и понимания текста без необходимости использования специализированных GPU-ускорителей.

Модели предназначены для сценариев, где важна скорость и низкие требования к вычислительным ресурсам. Версия с 350 миллионами параметров показывает конкурентоспособные результаты, занимая четвертое место среди 14 протестированных моделей в комплексном бенчмарке, включающем наборы задач GLUE и SuperGLUE. Она уступает лишь значительно более крупным языковым моделям, сохраняя при этом компактный размер.

Техническая оптимизация позволяет версии на 230 миллионов параметров выполнять полный проход по контексту в 8 тысяч токенов на обычном CPU примерно за 28 секунд. Это делает данные энкодеры подходящим решением для локальных систем анализа данных, где критически важна предсказуемая задержка и возможность развертывания на стандартном серверном или пользовательском оборудовании.

Ключевые факты

• Представлены две модели: LFM2.5-Encoder-230M и LFM2.5-Encoder-350M.
• Поддержка контекстного окна составляет 8192 токена для обеих версий.
• Модель 350M занимает четвертое место в рейтинге из 14 моделей по результатам 17 задач GLUE и SuperGLUE.
• Время обработки 8K-контекста на CPU для версии 230M составляет около 28 секунд.
• Архитектура моделей базируется на гибридном «хребте» LFM2.