Разработчики реализовали полноценного голосового ИИ-агента, способного работать полностью офлайн на устройствах под управлением Android. Система использует модель FunctionGemma, обеспечивая выполнение задач при крайне ограниченных ресурсах — всего 1.2 ГБ оперативной памяти. Это решение демонстрирует возможность интеграции сложных агентных функций непосредственно на мобильные устройства без необходимости обращения к облачным серверам.
Техническая реализация опирается на оптимизированный стек, который объединяет распознавание речи, логический вывод модели и выполнение функций (function calling). Использование FunctionGemma позволяет агенту не только обрабатывать текстовые запросы, но и взаимодействовать с API устройства, выполняя команды пользователя в реальном времени. Такой подход минимизирует задержки и обеспечивает высокий уровень приватности, так как все данные обрабатываются локально.
Оптимизация под мобильные чипсеты стала возможной благодаря квантованию модели и эффективному управлению контекстом. Агент способен поддерживать связный диалог и управлять системными функциями смартфона, что открывает перспективы для создания персональных помощников, работающих без интернет-соединения и зависимости от внешних вычислительных мощностей.
Ключевые факты
- Потребление оперативной памяти составляет 1.2 ГБ, что позволяет запускать агента на большинстве современных смартфонов среднего сегмента.
- В основе системы лежит модель FunctionGemma, оптимизированная для выполнения специфических агентных задач и вызова внешних функций.
- Весь цикл обработки данных, включая распознавание голоса и генерацию ответа, происходит локально на устройстве без участия облачных сервисов.
- Решение демонстрирует жизнеспособность локальных LLM для управления системными функциями Android в режиме реального времени.