Компания Together.ai представила Mamba-3 — новую модель на основе архитектуры Selective State Spaces (SSM). Она предназначена для ускоренного инференса и превосходит трансформеры по скорости декодирования.

Mamba-3 демонстрирует более высокую производительность по сравнению с предыдущей версией Mamba-2. Разработчики отмечают, что модель открыта для использования с первого дня выпуска, что позволяет интегрировать её в различные проекты.

Архитектура SSM, на которой построена Mamba-3, обеспечивает эффективное управление состоянием и позволяет модели быстрее обрабатывать запросы. Это делает её перспективной для задач, требующих быстрого ответа, таких как чат-боты и виртуальные ассистенты.

Together.ai продолжает развивать технологии, связанные с инференсом, предлагая открытые решения для сообщества разработчиков. Mamba-3 может стать важным инструментом для создания более быстрых и эффективных ИИ-систем.