Qualcomm объявила о приобретении стартапа Nexa AI, специализирующегося на оптимизации локального запуска нейросетей. В рамках сделки компания открыла исходный код GenieX — специализированного рантайма, предназначенного для эффективного исполнения генеративных моделей на мобильных процессорах с использованием нейронных ускорителей Hexagon NPU. Это решение упрощает интеграцию LLM в устройства на базе архитектуры Snapdragon.
Технология GenieX позволяет разработчикам запускать современные модели напрямую на конечном оборудовании, минуя облачные вычисления. Это критически важно для обеспечения приватности данных и снижения задержек при работе ИИ-агентов на смартфонах, ноутбуках и IoT-устройствах. Инструментарий оптимизирует работу с весами моделей, обеспечивая высокую производительность при ограниченных ресурсах памяти и питания.
Интеграция наработок Nexa AI в экосистему Qualcomm направлена на стандартизацию процесса развертывания ИИ-решений на периферии. Открытый доступ к рантайму дает возможность инженерному сообществу адаптировать широкий спектр архитектур под специфику аппаратных ускорителей Hexagon, что ускоряет внедрение локальных ИИ-функций в потребительскую электронику.
Ключевые факты
- Qualcomm приобрела стартап Nexa AI для усиления позиций в области локального ИИ.
- GenieX — новый open-source рантайм для запуска генеративных моделей на NPU Hexagon.
- Инструмент ориентирован на оптимизацию инференса на мобильных и встраиваемых платформах Snapdragon.
- Решение позволяет снизить зависимость от облачных API и повысить энергоэффективность работы нейросетей на устройствах.