Обучение и дообучение
Руководство по обучению больших языковых моделей с нуля
Опубликован подробный технический гайд, описывающий процесс создания и обучения языковой модели с начального этапа. Материал охватывает полный цикл разработки: от подготовки архитектуры трансформера до настройки параметров обучения и управления вычислительными ресурсами.
Оптимизация локального обучения и инференса LLM с Unsloth
Библиотека Unsloth позволяет значительно ускорить процесс дообучения и запуска популярных языковых моделей на локальном оборудовании. Инструмент оптимизирует использование видеопамяти и повышает скорость вычислений при работе с архитектурами Llama, Mistral и Phi. За счет переработки алгоритмов градиентного спуска и использования специализированных ядер CUDA, разработчики добиваются снижения потребления ресурсов до 70% при сохранении точности весов.
Дообучение компактных локальных моделей для классификации запросов
Разработчики все чаще обращаются к дообучению компактных языковых моделей для решения узкоспециализированных задач. Такой подход позволяет добиться высокой точности классификации запросов, сохраняя при этом возможность запуска системы на локальном оборудовании без обращения к облачным API. Использование небольших моделей значительно снижает задержки при обработке данных и позволяет полностью контролировать процесс инференса.
SoftSkill: новый метод сжатия поведенческих навыков для ИИ-агентов
Исследователи представили метод SoftSkill, который меняет подход к передаче инструкций и навыков для ИИ-агентов. Традиционно агенты используют текстовые файлы в формате Markdown, где прописаны правила поведения и алгоритмы выполнения задач. Однако такой подход требует от языковой модели каждый раз интерпретировать длинный текст, что снижает эффективность и точность исполнения инструкций в процессе генерации.
Опыт обучения компактных высокопроизводительных моделей
Максим Лабонн из Liquid AI представил подробный разбор процесса создания «малых» моделей (Small Language Models), которые по своим характеристикам приближаются к крупным языковым системам. В основе подхода лежит оптимизация архитектуры и качества данных, позволяющая достичь высокой эффективности при ограниченных вычислительных ресурсах. Основное внимание уделяется этапам подготовки датасетов, выбору стратегий токенизации и настройке гиперпараметров, которые критически влияют на итоговую производительность модели.
Альтернативы LoRA в дообучении языковых моделей
Метод низкоранговой адаптации (LoRA) стал стандартом в индустрии благодаря своей эффективности и низким требованиям к вычислительным ресурсам. Однако развитие области привело к появлению новых подходов, которые позволяют достигать более высоких результатов при дообучении больших языковых моделей. Исследователи анализируют альтернативные методы, такие как DoRA, QLoRA и другие техники адаптации, сравнивая их с классическим LoRA по качеству итоговых весов и стабильности обучения.
Исследование методов адаптации LLM для медицины на французском языке
Исследователи проанализировали эффективность различных стратегий адаптации больших языковых моделей для узкоспециализированных областей на примере французского медицинского сектора. В работе сравниваются три основных подхода: непрерывное предварительное обучение (CPT), контролируемая донастройка (SFT) и комбинация этих методов. Целью эксперимента было выявить оптимальный баланс между сохранением общих знаний модели и повышением точности ответов на специфические медицинские вопросы.
Метод RODS для улучшения обучения агентов с использованием инструментов
Исследователи представили метод RODS (Reward-Driven Online Data Synthesis), направленный на повышение эффективности обучения ИИ-агентов, работающих с внешними инструментами в многоходовых сценариях. Основная проблема существующих подходов заключается в быстром истощении полезных обучающих данных в статических наборах, что ограничивает развитие моделей. Новый метод решает эту задачу через динамическую генерацию данных, ориентированную на максимизацию обучающего сигнала.
GoLongRL: новый подход к обучению агентов с длинным контекстом
Исследователи из XiaoxuanNLP представили GoLongRL — фреймворк для обучения агентов с длинным контекстом, основанный на подходе reinforcement learning (RL). В отличие от традиционных методов, GoLongRL фокусируется на способностях (capabilities) агентов, а не на конкретных задачах, что позволяет лучше адаптироваться к новым сценариям.
Новые датасеты для ML-исследований от ArXiv и Semantic Scholar
Команда FineSet.io выпустила набор датасетов, собранных из ArXiv и Semantic Scholar. Эти датасеты представлены в формате JSONL и содержат оценки качества, что делает их полезными для исследователей и разработчиков в области машинного обучения.
Южная Корея предлагает делиться прибылью от ИИ с гражданами
Политики Южной Кореи выдвинули инициативу по введению системы распределения прибыли от ИИ-технологий среди граждан. Это предложение связано с падением акций технологических компаний и стремлением к более справедливому распределению экономических выгод, генерируемых искусственным интеллектом.
OpenAI потратила $34 млрд за год перед IPO
OpenAI сообщила о рекордных расходах в размере $34 млрд за 2023 год. Эти данные были раскрыты в рамках подготовки к запланированному IPO, которое может состояться уже в этом году. Компания активно инвестирует в развитие своих моделей, инфраструктуру и исследования, что отражает её амбициозные планы по доминированию на рынке искусственного интеллекта.
Убытки OpenAI выросли в 8 раз в 2025 году
OpenAI сообщила о значительном увеличении убытков в 2025 году, которые выросли почти в 8 раз по сравнению с предыдущим годом. Общие расходы компании достигли $34 млрд, что подчеркивает масштабы инвестиций в развитие ИИ-технологий.
Axiomata – Codex of Becoming: философия и ИИ
Axiomata – Codex of Becoming представляет собой философский манифест, который исследует взаимосвязь между ИИ и человеческим сознанием. Автор, Виталий, предлагает девять ключевых принципов, или «ступеней», которые описывают процесс становления ИИ как разумной системы. Эти принципы включают в себя идеи о самоорганизации, адаптации и эволюции, что может быть полезно для разработчиков ИИ-агентов, стремящихся создать более гибкие и адаптивные системы.
KPMG отозвала отчёт из-за галлюцинаций ИИ
KPMG, одна из крупнейших аудиторских компаний в мире, отозвала свой отчёт о влиянии ИИ на рынок труда после того, как выяснилось, что в нём содержались ложные данные, сгенерированные ИИ. Отчёт, который был представлен как результат анализа данных, содержал вымышленные цифры и факты, что вызвало серьёзные вопросы о достоверности использования ИИ в профессиональных отчётах.
Как Anthropic обучала Fable 5 через анализ трасс разума
Anthropic представила новый подход к обучению своей модели Fable 5, который может оказаться важным для развития ИИ-агентов. В отличие от традиционных методов, команда использовала анализ «трасс разума» — последовательностей логических шагов, которые модель делает при решении задач. Это позволило улучшить способность модели к обоснованному принятию решений и снизить вероятность ошибок.
Новый метод для эффективного онлайн-обучения визуально-языковых агентов
Исследователи предложили новый подход к онлайн-обучению визуально-языковых агентов (VLA) с использованием методов reinforcement learning (RL). В статье, опубликованной на arXiv, они описывают метод Hierarchical Advantage Weighting (HAW), который решает проблему редких и неинформативных сигналов обратной связи в процессе обучения.
Новый метод обучения LLM через промежуточное RL
Исследователи предложили новый подход к обучению языковых моделей (LLM) с использованием reinforcement learning (RL) на промежуточном этапе обучения. В статье, опубликованной на arXiv, авторы показывают, что традиционные методы RL с редкими наградами (sparse reward RL) сильно зависят от начальной подготовки модели.
SPaiK: масштабируемое обучение ядерных методов для парных задач
Исследователи представили SPaiK — новый метод обучения ядерных методов, оптимизированный для парных задач. В отличие от традиционных подходов, SPaiK сохраняет выразительную силу ядерных методов, но значительно снижает вычислительные и память. Это особенно важно для задач, где необходимо работать с большими объемами данных, например, в рекомендательных системах или сравнении объектов.
Может ли Европа обучать передовые ИИ-модели на своих вычислительных мощностях
Исследователи из компании SammySLtd задались вопросом: способна ли Европа обучать передовые ИИ-модели на своих вычислительных мощностях. В их исследовании рассматривается текущее состояние инфраструктуры, доступной в Европе, и её потенциал для обучения крупных языковых моделей.
Как построить корпоративный цикл обучения ИИ
Компании всё чаще осознают, что для эффективного использования ИИ необходимо не только внедрять готовые модели, но и создавать собственные циклы обучения. В новом посте на Twitter Lakshya Agrawal, инженер из Mistral AI, подробно рассказывает о том, как можно организовать корпоративный цикл обучения ИИ, который позволит компаниям не только использовать, но и улучшать модели под свои задачи.
Как распределить выгоды от ИИ
Экономисты и политики всё чаще задаются вопросом: как справедливо распределить выгоды от внедрения искусственного интеллекта. В статье The Economist рассматриваются различные подходы к этому вопросу, включая налоги на роботов, перераспределение доходов и инвестиции в образование.
Почему ИИ-модели перестают учиться
Исследование, опубликованное на Tagide, раскрывает феномен "learning stall" — ситуацию, когда ИИ-модели перестают улучшать свои показатели несмотря на дальнейшее обучение. Авторы статьи анализируют причины этого явления, включая насыщение данных, ограничения архитектуры моделей и проблемы с оптимизацией.
Почему ИИ-агентам нужен аналог технического долга
В разработке ПО давно существует понятие «технического долга» — накопление проблем, которые нужно исправить, но откладываются на потом. Автор статьи предлагает аналогичный подход для «знания» — концепцию «knowledge debt». Это особенно актуально для ИИ-агентов, которые работают с огромными объёмами данных и моделей.