Команда LM Studio анонсировала Bionic — новую функциональность для своей платформы, которая превращает локальные LLM в полноценных ИИ-агентов. Инструмент позволяет моделям взаимодействовать с файловой системой, выполнять поиск в интернете и запускать код на компьютере пользователя, обеспечивая при этом полную конфиденциальность данных за счет работы исключительно на локальном оборудовании без обращения к облачным серверам.
Bionic интегрируется в существующую экосистему LM Studio, предоставляя пользователям интерфейс для настройки агентных возможностей. Система поддерживает выполнение задач через инструменты (tools), что позволяет моделям самостоятельно выбирать методы решения запросов. Это решение ориентировано на разработчиков и энтузиастов, которым требуется автоматизация рабочих процессов с использованием открытых весов моделей, таких как Llama 3 или Mistral, без передачи данных сторонним провайдерам.
Архитектура Bionic опирается на стандартные протоколы взаимодействия, что упрощает подключение новых функций и расширение возможностей агентов. Пользователи могут настраивать права доступа к локальным ресурсам, контролируя, какие именно файлы или системные команды доступны модели. Такой подход снижает порог входа для создания автономных систем, работающих в изолированной среде.
Ключевые факты
- Bionic позволяет локальным моделям выполнять поиск в интернете и манипуляции с файлами.
- Реализована поддержка выполнения кода непосредственно на машине пользователя для решения вычислительных задач.
- Система полностью исключает отправку данных на внешние серверы, обеспечивая приватность.
- Инструмент интегрирован в текущий десктопный клиент LM Studio для упрощения развертывания.
- Поддерживаются популярные открытые модели, доступные в библиотеке LM Studio.