Hedos — это новое нативное приложение для macOS, объединяющее работу с локальными языковыми моделями и генераторами изображений в едином интерфейсе. Инструмент поддерживает движки llama.cpp, MLX и библиотеку diffusers, позволяя пользователям запускать современные нейросети непосредственно на железе Apple Silicon без необходимости настройки сложных окружений через терминал.
Приложение ориентировано на разработчиков и энтузиастов, которым требуется быстрый доступ к инференсу моделей с использованием оптимизаций Apple MLX. Архитектура решения позволяет переключаться между различными архитектурами моделей, обеспечивая эффективное использование оперативной памяти и графических ядер чипов M-серии. Это упрощает локальное тестирование и интеграцию нейросетевых функций в рабочие процессы без передачи данных на внешние серверы.
Интерфейс Hedos спроектирован как легковесная альтернатива консольным утилитам, предоставляя визуальный контроль над параметрами генерации и системными ресурсами. Поддержка популярных форматов весов и стандартов инференса делает его удобным инструментом для быстрой проверки гипотез и локальной работы с LLM и моделями диффузии.
Ключевые факты
- Поддерживает работу с движками llama.cpp, MLX и diffusers.
- Оптимизировано для работы на архитектуре Apple Silicon (чипы M1, M2, M3, M4).
- Обеспечивает полностью локальный инференс без отправки данных в облако.
- Позволяет управлять параметрами моделей через графический интерфейс macOS.
- Ориентировано на запуск как текстовых LLM, так и моделей для генерации изображений.