Дистилляция ИИ, при которой мощные модели используются для обучения более компактных систем, вызывает опасения в контексте экспортного контроля и безопасности. Эксперты призывают к взвешенному подходу, утверждая, что попытки жесткого ограничения передачи весов моделей могут быть неэффективными, и предлагают сосредоточиться на мониторинге вычислительных мощностей и прозрачности цепочек поставок вместо тотальных запретов.
Технологический процесс дистилляции позволяет переносить знания из крупных моделей в небольшие, доступные для локального запуска. Это создает дилемму для регуляторов: с одной стороны, такие модели способствуют демократизации технологий, с другой — могут быть использованы для обхода ограничений на доступ к передовым ИИ-системам. Авторы исследования подчеркивают, что текущая стратегия контроля, сфокусированная исключительно на «весах» моделей, игнорирует тот факт, что архитектурные знания и методы обучения уже стали общедоступными.
Вместо введения жестких барьеров предлагается развивать систему «динамического регулирования». Она предполагает акцент на аудите крупных облачных провайдеров и производителей специализированного оборудования, а не на попытках отследить распространение кода или весов. Такой подход позволяет сохранить темпы инноваций, минимизируя риски неконтролируемого использования мощных моделей злоумышленниками.
Ключевые факты
- Дистилляция позволяет переносить способности крупных моделей в системы, работающие на потребительском «железе».
- Регуляторные меры, направленные только на ограничение доступа к весам моделей, признаны экспертами недостаточно эффективными из-за открытости методов обучения.
- Предлагается перенести фокус контроля с распространения весов на мониторинг использования вычислительных мощностей в крупных дата-центрах.
- Основная задача политики — сбалансировать национальную безопасность с необходимостью поддержания открытой научной среды и конкуренции в сфере ИИ.