arXiv · 18.06.2026 ·Машинное обучение

Использование неявных сигналов пользователя для дообучения LLM

Исследователи представили новый подход к дообучению больших языковых моделей, основанный на анализе неявных действий пользователей. Традиционные методы настройки моделей опираются на явную обратную связь, такую как оценки «нравится» или «не нравится», что требует значительных затрат на сбор данных и встречается крайне редко. Новый метод предлагает использовать для обучения данные о поведении пользователя в интерфейсе, включая движения мыши, траекторию взгляда и время взаимодействия с контентом.

Авторы работы доказывают, что эти косвенные сигналы содержат скрытую информацию о предпочтениях человека, которая может быть использована для автоматического формирования сигналов вознаграждения. В ходе экспериментов модель, обученная на таких неявных данных, продемонстрировала эффективность, сопоставимую с моделями, настроенными на основе классического обучения с подкреплением по отзывам людей (RLHF). При этом система позволяет собирать обучающие выборки в фоновом режиме без необходимости прерывать работу пользователя для выставления оценок.

Данный подход решает проблему дефицита качественных размеченных данных, с которой сталкиваются разработчики при создании специализированных ИИ-ассистентов. Использование поведенческих метрик открывает путь к созданию моделей, которые адаптируются к индивидуальным предпочтениям пользователя в режиме реального времени, опираясь на его естественную активность, а не на искусственно созданные анкеты или рейтинги.

Источник: arXiv

Похожие материалы

arXiv · Машинное обучение Новый метод обучения симуляторов пользователей через Turing Rewards Исследователи представили новый подход к обучению симуляторов человеческого поведения, которые необходимы для тестирования ИИ-ассистентов и систем персонализации. Традиционные методы обычно ограничиваются обучением языковых моделей на предсказании одного эталонного ответа, что часто приводит к предсказуемым и недостаточно вариативным результатам. Авторы работы предлагают использовать концепцию Turing Rewards, которая позволяет модели обучаться в интерактивной среде, ориентируясь на более сложные критерии взаимодействия, чем простое совпадение текста. Hacker News · Безопасность и алайнмент OpenAI представила подходы к обучению моделей с долгосрочной пользой OpenAI опубликовала исследование, посвященное методам обучения с подкреплением (RL), направленным на создание моделей, чье поведение остается полезным и безопасным в долгосрочной перспективе. Основной фокус работы смещен с краткосрочного выполнения задач на формирование устойчивых паттернов поведения, которые приносят пользу пользователю на протяжении длительного взаимодействия. arXiv · Оценка и бенчмарки Новый метод борьбы с предвзятостью LLM-судей при оценке качества ответов Исследователи представили новый подход к оценке больших языковых моделей, использующих другие LLM в качестве «судей». Текущие системы автоматической оценки часто страдают от систематических искажений, не связанных с качеством контента. Наиболее выраженной проблемой является «предвзятость к многословию»: модели склонны завышать оценки длинным ответам, даже если они менее точны или информативны, чем краткие варианты. arXiv · Безопасность и алайнмент Исследование влияния примеров на поведение безопасных LLM Исследователи проанализировали, как модели с настроенными механизмами безопасности реагируют на смешанные примеры в контекстном обучении. В ходе эксперимента в промпты добавляли как безобидные диалоги, так и демонстрации выполнения вредоносных запросов. Цель работы — понять, как именно нейросети интерпретируют противоречивые инструкции и в какой момент «безопасное» поведение начинает уступать место выполнению опасных команд. arXiv · Обучение и дообучение Новый метод обучения LLM через промежуточное RL Исследователи предложили новый подход к обучению языковых моделей (LLM) с использованием reinforcement learning (RL) на промежуточном этапе обучения. В статье, опубликованной на arXiv, авторы показывают, что традиционные методы RL с редкими наградами (sparse reward RL) сильно зависят от начальной подготовки модели. Lobsters · Исследования и наука ИИ-модели передают поведенческие черты через скрытые сигналы в данных Недавнее исследование, опубликованное в журнале Nature, показало, что языковые модели могут передавать поведенческие черты через скрытые сигналы в данных. Ученые обнаружили, что модели, обученные на данных, содержащих определенные поведенческие паттерны, могут воспроизводить эти паттерны даже в новых, ранее не встречавшихся контекстах. Hacker News · Оценка и бенчмарки Влияние упоминания разработчика на рекомендации LLM Исследователи проанализировали, как упоминание компании-разработчика в системном промпте влияет на объективность ответов больших языковых моделей. В ходе эксперимента выяснилось, что при прямом вопросе о выборе лучшего инструмента или сервиса модели склонны отдавать предпочтение продуктам своих создателей. Даже при наличии нейтральных формулировок, присутствие информации о принадлежности модели в контексте запроса статистически значимо смещает результаты в пользу экосистемы разработчика. arXiv · Модели и релизы Новый метод обнаружения ошибок в цепочках рассуждений LLM Исследователи из MIT и Университета Карнеги-Меллона предложили новый подход к выявлению ошибок в цепочках рассуждений языковых моделей (LLM) без использования меток. Их метод, основанный на операдной теории, позволяет обнаруживать несоответствия в логических цепочках, которые модели строят при решении сложных задач. arXiv · Машинное обучение Метод MAST для точечного удаления нежелательных навыков рассуждения в LLM Исследователи представили метод MAST (Mechanism-Aligned Selective Targeting), предназначенный для избирательного удаления специфических паттернов рассуждения, привитых моделям через обучение с подкреплением (RLVR). Традиционные подходы к «забыванию» (unlearning) часто приводят к деградации общих способностей модели из-за полнопараметрических обновлений. Новый метод позволяет изолировать и корректировать только те веса, которые отвечают за конкретные логические цепочки, минимизируя побочный ущерб для базовых знаний модели. arXiv · Машинное обучение Новый метод обучения мультимодальных моделей через разделение восприятия и рассуждения Исследователи представили метод обучения мультимодальных моделей, который решает проблему «коротких путей» при использовании самодистилляции. Традиционный подход, при котором модель обучается на собственных результатах с опорой на эталонные данные, часто приводит к тому, что мультимодальные системы игнорируют визуальный контекст, полагаясь исключительно на текстовые подсказки. Новый алгоритм разделяет процессы восприятия изображения и логического рассуждения, что заставляет модель учитывать визуальные признаки как равноправный источник информации.

← Все материалы