Исследователи представили систематизированную таксономию методов адаптации моделей после обучения, охватывающую широкий спектр подходов: от классического дообучения и параметрически эффективной адаптации (PEFT) до методов «забывания» (unlearning) и калибровки. Работа призвана устранить фрагментацию знаний в области машинного обучения, предлагая единую структуру для классификации техник, оценки их рисков и применения в процессах управления ИИ-системами.
Современная практика разработки ИИ опирается на множество методов доработки базовых моделей, однако отсутствие единой терминологии и классификации затрудняет выбор оптимальных инструментов. Авторы выделяют шесть ключевых измерений, которые позволяют оценивать методы адаптации не только с технической точки зрения, но и через призму безопасности, предсказуемости поведения модели и соответствия регуляторным требованиям.
Данная таксономия помогает разработчикам и исследователям лучше понимать взаимосвязи между различными техниками, такими как RAG, настройка инструкций (Instruction Tuning) и редактирование моделей. Структурированный подход упрощает выбор стратегии адаптации для конкретных сценариев развертывания, минимизируя нежелательные побочные эффекты при модификации весов или архитектуры нейросетей.
Ключевые факты
- Предложена шестимерная модель классификации, учитывающая технические, функциональные и регуляторные аспекты адаптации.
- В обзор включены девять основных семейств методов: дообучение, PEFT, RAG, калибровка, редактирование моделей, «забывание» (unlearning) и другие.
- Исследование направлено на стандартизацию подходов к управлению жизненным циклом ИИ и повышению прозрачности процессов доработки моделей.
- Работа систематизирует разрозненные данные из академических публикаций, охватывая различные классы моделей и контексты их внедрения.