Hacker News · 15.06.2026 ·Улучшение качества текста ИИ-агентов

Anti-slopping: метод для борьбы с шаблонными ответами ЛЛМ

Исследователи из Thoughtworks представили метод Anti-slopping, направленный на устранение шаблонных и банальных ответов, которые часто генерируют языковые модели. Проблема «сопливых» (sloppy) ответов — это распространённая жалоба пользователей ИИ-агентов, особенно в контексте чат-ботов и виртуальных ассистентов. Anti-slopping предлагает алгоритмический подход для выявления и исправления таких шаблонных фраз, что может значительно повысить качество взаимодействия с ИИ-агентами.

Ключевая идея метода заключается в анализе текста на предмет повторяющихся клише и их замене на более разнообразные и контекстуально уместные формулировки. Это особенно важно для агентов, которые работают в режиме диалога, где важна не только информативность, но и естественность общения. Исследование показывает, что применение Anti-slopping может снизить частоту шаблонных ответов на 30-40%, что делает его потенциально полезным инструментом для разработчиков ИИ-агентов.

Метод может быть интегрирован в существующие системы генерации текста, включая RAG (Retrieval-Augmented Generation) и другие подходы, где важна точность и разнообразие ответов. Thoughtworks планирует открыть исходный код Anti-slopping в ближайшее время, что позволит сообществу разработчиков адаптировать его под свои нужды. Для команды Jarv этот метод может стать важным инструментом для улучшения качества взаимодействия с пользователями, особенно в контексте сложных и многократных запросов.

Важно отметить, что Anti-slopping не заменяет собой другие методы улучшения качества текста, такие как fine-tuning или использование более мощных моделей. Однако он может стать важным дополнением к существующим подходам, особенно в условиях ограниченных вычислительных ресурсов. Исследование также подчеркивает необходимость постоянного мониторинга и обновления алгоритмов для поддержания высокого уровня качества текста.

Источник: Hacker News

Похожие материалы

arXiv · Диагностика ошибок в LLM Новый метод обнаружения ошибок в цепочках рассуждений LLM Исследователи из MIT и Университета Карнеги-Меллона предложили новый подход к выявлению ошибок в цепочках рассуждений языковых моделей (LLM) без использования меток. Их метод, основанный на операдной теории, позволяет обнаруживать несоответствия в логических цепочках, которые модели строят при решении сложных задач. arXiv · ИИ и наука ИИ автоматизирует проверку воспроизводимости исследований Учёные из Гарварда и MIT разработали метод, позволяющий использовать большие языковые модели (LLM) для автоматизированной оценки воспроизводимости исследований в социальных и поведенческих науках. Обычно проверка воспроизводимости требует ручного анализа данных независимыми исследователями, что занимает много времени и ресурсов. Новый подход позволяет значительно ускорить этот процесс, применяя LLM для анализа опубликованных данных и оценки их достоверности. arXiv · RAG и визуальные агенты Как RAG помогает бороться с галлюцинациями в мультимодальных моделях Исследователи из MIT и других ведущих университетов предложили новый подход к снижению визуальных галлюцинаций в мультимодальных языковых моделях (MLLMs). Эти системы, способные обрабатывать как текстовые, так и визуальные данные, часто демонстрируют уверенность в своих ответах, даже когда визуальные данные слабые или неоднозначные. Это приводит к так называемым "галлюцинациям" — выводам, не соответствующим реальности. arXiv · RAG и аналитическое мышление Как RAG помогает ИИ-агентам решать сложные задачи через аналогии Исследователи из MIT и Google Research предложили новый подход к улучшению способности языковых моделей решать сложные задачи через аналогии. В работе, опубликованной на arXiv, они демонстрируют, как Retrieval-Augmented Generation (RAG) может быть адаптирован для более эффективного решения задач, требующих нестандартного мышления. arXiv · Обработка длинных текстов Новый метод переранжирования ответов для NQA Исследователи предложили метод переранжирования ответов на основе самосогласованности для задачи narrative question answering (NQA). Эта задача требует от моделей понимания длинных текстов, выявления связей между событиями и генерации связных ответов. Hacker News · Безопасность ИИ-агентов Исследование: как пользовательский контент может отравить ИИ-агентов Исследователи из MIT и Университета Карнеги-Меллона опубликовали работу, в которой показано, как пользовательский контент может «отравить» ИИ-агентов, особенно тех, которые работают с глубокими исследованиями. В статье рассматриваются сценарии, в которых злоумышленники могут встраивать вредоносные данные в пользовательские запросы, что приводит к искажению работы агентов. The latest research from Google · Разумные агенты и байесовские сети Исследование Google: как обучить ИИ разумно рассуждать Исследователи Google представили новый подход к обучению языковых моделей разумному рассуждению на основе байесовских принципов. В статье, опубликованной на официальном блоге Google Research, описывается метод, который позволяет моделям лучше обрабатывать вероятностные данные и принимать решения в условиях неопределенности. Это особенно важно для разработки ИИ-агентов, которые должны работать в динамических и сложных средах, где точность и логичность рассуждений критически важны. arXiv · Самоулучшение ИИ-агентов Почему самоулучшающиеся модели могут деградировать на новых задачах Исследователи из Arxiv выявили проблему в популярном подходе к самоулучшению визуально-языковых моделей (VLM), основанном на DPO (Direct Preference Optimization). В таких системах «верфикатор» оценивает генерации модели, а на основе лучших и худших примеров происходит обучение. Авторы показали, что этот метод может привести к деградации модели на новых задачах, несмотря на улучшение на обучающих данных. arXiv · Математические основы для агентов Операды для композиционного рассуждения в ИИ-агентах Исследователи из MIT и Университета Ватерлоо предложили использовать операды — математическую структуру, моделирующую операции с несколькими входами и одним выходом, для формализации композиционного рассуждения в языковых моделях. В работе показано, как операды могут служить основой для разложения сложных запросов на подзапросы и их последующей композиции. Это особенно важно для ИИ-агентов, где точность и логическая последовательность ответов критичны. arXiv · Оптимизация работы с моделями кода Как улучшить точность небольших моделей кода без переобучения Исследователи из DeepSeek и других организаций представили новый подход к повышению точности небольших моделей кода без необходимости их переобучения. В работе рассматриваются так называемые «замороженные» модели кода (с параметрами ≤45 миллионов), которые не поддаются стандартным методам улучшения качества вывода.

← Все материалы