Meta (признана экстремистской организацией, деятельность запрещена в РФ) представила Muse Glimmer — специализированную модель с 30 миллиардами параметров, оптимизированную для запуска на потребительских графических процессорах. Релиз, опубликованный на платформе Hugging Face под лицензией Apache 2.0, ориентирован на создание автономных локальных агентов, выполнение функций, написание кода и использование модели в качестве независимого судьи для оценки других систем.
Модель разработана подразделением Superintelligence Labs и нацелена на снижение зависимости от облачных API при построении агентных систем. Запуск на локальном железе позволяет разработчикам обеспечивать высокую приватность данных и снижать задержки при выполнении сложных цепочек рассуждений, характерных для агентных рабочих процессов. Архитектура модели сбалансирована таким образом, чтобы эффективно использовать ресурсы современных видеокарт потребительского сегмента.
Интеграция Muse Glimmer в агентные фреймворки открывает возможности для создания инструментов, способных выполнять вычисления и принимать решения непосредственно на устройстве пользователя. Это упрощает внедрение LLM в сценарии, требующие работы в офлайн-режиме или обработки конфиденциальной информации, которую нельзя передавать на внешние серверы.
Ключевые факты
- Модель содержит 30 миллиардов параметров и распространяется под лицензией Apache 2.0.
- Веса модели доступны для скачивания на платформе Hugging Face.
- Основные сценарии использования включают локальную разработку кода, вызов функций (function calling) и агентную автоматизацию.
- Модель адаптирована для работы на потребительском GPU, что делает её доступной для широкого круга разработчиков без необходимости в серверных мощностях.