Hacker News · 14.07.2026 ·Исследования и наука

GEPA: новый метод эволюции промптов превосходит обучение с подкреплением

Исследователи представили GEPA (Generative Evolutionary Prompt Adaptation) — метод оптимизации промптов, который позволяет моделям самостоятельно улучшать свои инструкции через рефлексию. В экспериментах подход показал более высокую эффективность, чем традиционное обучение с подкреплением (RL), обеспечивая качественные результаты при значительно меньших вычислительных затратах и отсутствии необходимости в сложных внешних алгоритмах оптимизации.

Метод базируется на итеративном процессе, где модель анализирует свои предыдущие ответы, выявляет ошибки и корректирует системный промпт для будущих итераций. В отличие от RL, требующего настройки функций вознаграждения и стабильности градиентов, GEPA использует естественные языковые способности LLM для «самообучения». Это делает процесс более прозрачным и доступным для адаптации моделей под конкретные задачи без глубокого дообучения весов.

Авторы протестировали GEPA на ряде задач, требующих логического вывода и следования сложным инструкциям. Результаты подтвердили, что рефлексивная эволюция промптов позволяет достичь показателей точности, сопоставимых или превосходящих специализированные методы обучения с подкреплением, при этом сохраняя гибкость настройки в рамках стандартного инференса.

Ключевые факты

GEPA использует механизм рефлексии для итеративной оптимизации промптов без изменения параметров модели.
Метод демонстрирует превосходство над классическим обучением с подкреплением (RL) в задачах на логический вывод.
Подход снижает вычислительную сложность процесса адаптации, исключая необходимость в сложных пайплайнах обучения.
Исследование подтверждает эффективность использования естественного языка как основного инструмента для улучшения производительности LLM.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Оркестрация агентов Оптимизация мультиагентных систем в DSPy с помощью GEPA GEPA (Generalized Evolutionary Program Optimization) представляет собой новый подход к автоматической настройке мультиагентных систем, построенных на фреймворке DSPy. Метод использует эволюционные алгоритмы для выбора оптимальных стратегий взаимодействия между агентами, позволяя динамически подбирать лучшие предикторы и параметры для каждой подзадачи, что значительно повышает точность и эффективность сложных агентных пайплайнов без ручного написания промптов. Hacker News · Машинное обучение Оптимизация процесса оценки моделей через эволюционные алгоритмы Вместо классического дообучения нейросетей исследователи предлагают сосредоточиться на эволюции «обвязки» (harness) — набора промптов, параметров и стратегий оценки. Такой подход позволяет значительно повысить производительность моделей на конкретных задачах без изменения весов самой нейросети, используя автоматизированный поиск оптимальных конфигураций для достижения целевых метрик качества в реальных бизнес-сценариях. arXiv · Машинное обучение Новый метод Process Advantage Signal Shaping для обучения LLM с рассуждениями Исследователи представили метод Process Advantage Signal Shaping (PASS), направленный на оптимизацию обучения LLM с использованием подкрепления (RL). Новый подход решает проблему нестабильности сигналов при использовании GRPO, позволяя более эффективно интегрировать пошаговые награды (PRM) в процесс обучения моделей, склонных к сложным логическим рассуждениям, что повышает точность итоговых ответов. arXiv · Обучение и дообучение Использование RL-обучения для улучшения агентных способностей LLM Исследователи обнаружили, что стандартное обучение с подкреплением (RL) при дообучении моделей уже содержит скрытый потенциал для улучшения агентных навыков. Авторы работы доказывают, что этот процесс позволяет эффективно оценивать пошаговые действия моделей без необходимости в сложных внешних системах вознаграждения, что критически важно для решения долгосрочных задач в стохастических средах, где традиционные методы аннотирования данных практически не работают. arXiv · Машинное обучение Метод Adaptive Trace Prefix Control для улучшения обучения моделей в задачах рассуждения Исследователи представили метод Adaptive Trace Prefix Control, решающий проблему застоя алгоритма GRPO при обучении моделей сложным логическим задачам. Когда ни один вариант генерации в группе не оказывается верным, градиент исчезает, и обучение останавливается. Новый подход динамически добавляет префиксы правильных решений, позволяя плавно регулировать сложность задач и обеспечивать стабильное обновление весов модели. Hacker News · Обучение и дообучение Практические уроки дообучения моделей с помощью обучения с подкреплением Исследователи опубликовали детальный разбор экспериментов по пост-тренировке языковых моделей с использованием обучения с подкреплением (RL). В работе проанализированы ключевые факторы, влияющие на стабильность процесса и итоговое качество ответов, включая выбор стратегий оптимизации, подбор параметров вознаграждения и методы предотвращения деградации модели при интенсивном обучении на предпочтениях пользователей. Hacker News · Исследования и наука HRM-Text: новый подход к эффективному дообучению языковых моделей Исследователи представили HRM-Text — метод повышения эффективности предобучения языковых моделей, который выходит за рамки простого увеличения вычислительных мощностей. Авторы предлагают оптимизированный подход к обработке данных и архитектурным изменениям, позволяющий достичь высокой производительности при меньших затратах ресурсов. Это значимый шаг в сторону оптимизации обучения LLM, делающий создание мощных моделей более доступным и экономически оправданным. arXiv · Обучение и дообучение Новый метод обучения LLM через промежуточное RL Исследователи предложили новый подход к обучению языковых моделей (LLM) с использованием reinforcement learning (RL) на промежуточном этапе обучения. В статье, опубликованной на arXiv, авторы показывают, что традиционные методы RL с редкими наградами (sparse reward RL) сильно зависят от начальной подготовки модели. arXiv · Исследования и наука RL-дообучение развивает навыки композиционного мышления у LLM Исследователи изучили, как обучение с подкреплением (RL) влияет на способность моделей к логическому выводу. Эксперименты в контролируемой среде показали, что RL не просто усиливает базовые навыки, а позволяет модели комбинировать их в сложные стратегии. Это доказывает, что пост-трейнинг способствует формированию новых высокоуровневых алгоритмов решения задач, выходящих за рамки исходных данных предварительного обучения. The latest research from Google · Исследования и наука Исследование Google: как цепочки рассуждений улучшают извлечение знаний из LLM Исследователи Google представили метод, который значительно повышает точность извлечения фактов из внутренней памяти больших языковых моделей. Вместо прямого запроса модель сначала генерирует цепочку рассуждений, что позволяет ей эффективнее активировать параметрические знания. Этот подход помогает преодолеть ограничения стандартных моделей при ответе на вопросы, требующие глубокого контекстного понимания или редких данных.

← Все материалы