Лаборатория Thinking Machines Lab, основанная Мирой Мурати, опубликовала манифест «Будущее, которое стоит строить — человеческое». В документе обосновывается необходимость перехода к децентрализованному подходу в разработке ИИ. Основной акцент сделан на участии человека в процессе обучения и возможности владения собственными весами моделей, что противопоставляется закрытым проприетарным системам крупных корпораций.
Техническая стратегия лаборатории базируется на использовании методов дообучения, таких как LoRA (Low-Rank Adaptation). Этот подход позволяет командам адаптировать базовые модели под специфические задачи, сохраняя контроль над весами внутри собственной инфраструктуры. Такой метод минимизирует зависимость от внешних API и позволяет настраивать поведение системы в соответствии с локальными требованиями и этическими стандартами конкретных пользователей.
Авторы подчеркивают, что «человекоцентричность» в ИИ — это не только вопрос интерфейса, но и вопрос архитектурного контроля. Децентрализация весов рассматривается как способ решения проблем алайнмента, когда пользователи могут самостоятельно корректировать модель, не полагаясь исключительно на централизованные фильтры безопасности разработчиков. Это создает основу для более прозрачных и подотчетных систем.
Ключевые факты
- Thinking Machines Lab выпустила программный документ «The Future Worth Building Is Human», определяющий технический вектор развития ИИ.
- Основным инструментом для кастомизации моделей предложен метод LoRA, позволяющий эффективно дообучать веса без значительных вычислительных затрат.
- Концепция предполагает отказ от монополии на веса моделей в пользу распределенного владения и локального развертывания.
- Децентрализованный алайнмент представлен как техническое решение для обеспечения контроля над поведением ИИ со стороны конечных пользователей.