Simon Willison's Weblog · 04.08.2026 ·Инференс и железо

Портирование мультимодальной модели MiniMax-H3 на Apple Silicon через MLX

Разработчики адаптировали новую мультимодальную модель MiniMax-H3 для работы на устройствах Apple Silicon с помощью фреймворка MLX. Это позволяет локально запускать систему, способную обрабатывать текст, изображения, аудио и видео, а также генерировать 15-секундные видеоролики со звуковым сопровождением, используя вычислительные мощности процессоров Apple M-серии.

MiniMax-H3 позиционируется как универсальная генеративная система, ориентированная на обработку широкого спектра медиаданных. Использование библиотеки MLX обеспечивает оптимизированный инференс на чипах Apple, что делает возможным выполнение тяжелых мультимодальных задач без обращения к облачным API. Это открывает новые возможности для локальной работы с генеративным видео на потребительском оборудовании.

Портирование модели на MLX снижает порог входа для исследователей и разработчиков, желающих интегрировать возможности MiniMax-H3 в локальные пайплайны. Проект демонстрирует эффективность архитектуры MLX при работе с современными «омни-модальными» моделями, требующими значительных ресурсов для обработки видеопотока и синхронизации аудиовизуального контента.

Ключевые факты

MiniMax-H3 — мультимодальная модель, поддерживающая ввод и генерацию текста, изображений, аудио и видео.
Длительность генерируемых видеороликов составляет до 15 секунд, включая звуковую дорожку.
Реализация на MLX позволяет запускать модель локально на устройствах с Apple Silicon, включая чипы серии M.
Проект доступен в виде Python-пакета, адаптированного для работы с архитектурой Apple.

Источник: Simon Willison's Weblog

Обсудить с ИИ

Похожие материалы

Hacker News · Инференс и железо Распределенное обучение и инференс моделей с фреймворком MLX Apple представила технический разбор возможностей фреймворка MLX для масштабирования задач машинного обучения на устройствах компании. Основной фокус сделан на распределенных вычислениях, позволяющих объединять вычислительные мощности нескольких систем для ускорения обучения и инференса нейросетей. Инструментарий позволяет разработчикам эффективно использовать архитектуру Apple Silicon для работы с крупными моделями, оптимизируя передачу данных и синхронизацию состояний между узлами. Hacker News · Инференс и железо Запуск моделей Max на графических процессорах Apple Silicon Разработчики платформы Modular объявили о поддержке Apple Silicon для запуска моделей семейства Max. Теперь пользователи могут использовать графические процессоры (GPU) чипов Apple M-серии для высокопроизводительного инференса, что значительно расширяет возможности локальной работы с ИИ-моделями на устройствах Mac без необходимости использования облачных мощностей или специализированных ускорителей NVIDIA. MarkTechPost · Модели и релизы MiniMax представила мультимодальную модель H3 для генерации видео с аудио Китайский разработчик MiniMax выпустил модель H3 — универсальное мультимодальное решение, способное генерировать 15-секундные видеоролики в разрешении 2K с нативным стереозвуком. В отличие от узкоспециализированных инструментов, H3 обрабатывает текст, изображения, видео и аудио как единый контекст, что позволяет создавать видеоряд, синхронизированный с аудиодорожкой на уровне архитектуры модели. Hacker News · Инференс и железо MLX-Optiq: квантование LLM для Apple Silicon Команда MLX представила MLX-Optiq — инструмент для переноса больших языковых моделей (LLM) на устройства Apple Silicon с поддержкой смешанной точности. Это решение позволяет значительно сократить потребление памяти и вычислительных ресурсов при инференсе моделей, что особенно важно для мобильных и встраиваемых устройств. Hacker News · Инференс и железо Mlx-serve: высокопроизводительный сервер для запуска LLM на Apple Silicon Представлен Mlx-serve — специализированный сервер для инференса больших языковых моделей, оптимизированный для работы на чипах Apple Silicon. Проект написан на языке Zig, что обеспечивает высокую производительность и минимальные накладные расходы при выполнении нейросетевых вычислений. Решение ориентировано на разработчиков, которым требуется эффективный локальный запуск моделей с использованием возможностей графических ядер Apple. Hacker News · Инференс и железо Ускорение локального запуска LLM на Mac через движок MLX в Ollama Ollama интегрировала поддержку движка MLX от Apple, что позволило значительно повысить скорость генерации текста на компьютерах Mac с чипами Apple Silicon. Оптимизация позволяет моделям работать в два раза быстрее, эффективно используя возможности объединенной памяти и графических ядер архитектуры M-серии, что делает локальный запуск LLM более доступным для повседневных задач. Hugging Face - Blog · Инференс и железо Transformers переезжает на MLX для ускоренного инференса Hugging Face анонсировал переход библиотеки Transformers на MLX — фреймворк для ускоренного инференса моделей на Apple Silicon. Это важный шаг для разработчиков ИИ-агентов, так как позволяет запускать сложные модели на потребительских устройствах с минимальными затратами. GitHub · Инференс и железо Nativ: локальный запуск и управление MLX-моделями на macOS Nativ — это новое macOS-приложение для локальной работы с моделями машинного обучения, оптимизированными под архитектуру Apple Silicon через фреймворк MLX. Инструмент объединяет функции чат-интерфейса, локального сервера для обслуживания моделей, мониторинга ресурсов и управления подключениями, позволяя разработчикам запускать LLM непосредственно на своем устройстве без обращения к облачным API. Hacker News · Инференс и железо mlxsh: легковесный CLI для запуска нескольких локальных LLM на чипах Apple Silicon Инструмент mlxsh позволяет запускать и обслуживать несколько локальных языковых моделей на устройствах с процессорами Apple Silicon через интерфейс командной строки. Решение базируется на фреймворке MLX от Apple, обеспечивая эффективное использование ресурсов графического ядра при работе с LLM. Утилита упрощает управление инференсом, позволяя переключаться между моделями без сложной настройки окружения. Hacker News · Инфраструктура для агентов Запуск локального агента для кодинга на базе MLX Разработчики получили возможность запускать специализированных ИИ-агентов для написания кода локально, используя библиотеку MLX от Apple. Это решение позволяет обходить ограничения по количеству токенов в облачных API и обеспечивает полную конфиденциальность данных. Использование локальных моделей на чипах Apple Silicon позволяет эффективно автоматизировать рутинные задачи программирования без привязки к внешним сервисам и их лимитам.

← Все материалы