AMD представила серию процессоров Ryzen AI 300 с архитектурой Halo, ориентированную на высокопроизводительные вычисления и локальную работу с нейросетями. Чип оснащен обновленным NPU и мощной интегрированной графикой, что позволяет запускать современные LLM и модели компьютерного зрения непосредственно на ноутбуке без обращения к облачным серверам, обеспечивая высокую скорость инференса и конфиденциальность данных.
Архитектура Halo делает акцент на балансе между энергопотреблением и вычислительной мощностью, что критично для мобильных рабочих станций. Интегрированный NPU (нейронный процессор) оптимизирован для выполнения операций INT8, что является стандартом для большинства квантованных моделей. Это позволяет разработчикам и аналитикам использовать локальные инструменты для обработки данных в реальном времени, снижая задержки и затраты на облачную инфраструктуру.
Тестирование показывает, что новая платформа значительно превосходит предыдущие поколения Ryzen по количеству TOPS (триллионов операций в секунду), что напрямую влияет на скорость генерации токенов в LLM. Увеличенный объем кэш-памяти и пропускная способность оперативной памяти способствуют более эффективной работе с большими весами моделей, делая Ryzen AI Halo одним из наиболее перспективных решений для локального запуска агентных систем.
Ключевые факты
- Процессоры серии Ryzen AI 300 включают NPU с производительностью до 50 TOPS, что соответствует требованиям Microsoft для стандарта Copilot+ PC.
- Архитектура поддерживает работу с широким спектром локальных моделей, включая Llama 3 и Mistral, с минимальными задержками при инференсе.
- Улучшенная интеграция графического ядра Radeon 890M позволяет ускорять задачи компьютерного зрения и обработки видео с применением ИИ-фильтров.
- Платформа обеспечивает аппаратное ускорение для библиотек PyTorch и TensorFlow, упрощая развертывание моделей для локальных задач машинного обучения.