Компания Liquid AI выпустила новые модели LFM2.5-Embedding-350M и LFM2.5-ColBERT-350M, предназначенные для эффективного семантического поиска. Решения базируются на архитектуре с 350 миллионами параметров и оптимизированы для работы на периферийных устройствах, что позволяет использовать их локально без обращения к облачным серверам.
Разработчики объединили два подхода: плотный би-энкодер для быстрой первичной фильтрации и модель с «поздним взаимодействием» (late-interaction) типа ColBERT для уточнения результатов. Такая комбинация обеспечивает высокую точность ранжирования при сохранении низких требований к вычислительным ресурсам. Модели поддерживают работу с 11 языками, что расширяет возможности их применения в глобальных поисковых системах и локальных RAG-системах.
Использование подобных компактных моделей позволяет значительно ускорить обработку запросов в задачах поиска информации и классификации данных. Благодаря небольшому размеру, LFM2.5 подходят для интеграции в мобильные приложения и встраиваемые системы, где критически важны скорость отклика и конфиденциальность пользовательских данных.
