Исследователи представили новый метод повышения надежности больших языковых моделей (LLM) с помощью стратегии селективного предсказания (Selective Prediction). Подход позволяет модели самостоятельно определять случаи, в которых она с высокой вероятностью даст верный ответ, и отказываться от генерации при риске ошибки. Это критически важно для внедрения ИИ в системы принятия решений, где цена ошибки крайне высока.

Основная проблема современных LLM заключается в их склонности к галлюцинациям и уверенным, но неверным ответам. Предложенный метод фокусируется на оптимизации баланса между охватом (количеством обработанных запросов) и точностью. Вместо того чтобы пытаться ответить на любой вопрос, модель обучается оценивать степень своей уверенности и переходить в режим «не знаю» или перенаправлять запрос, если вероятность ошибки превышает заданный порог.

Авторы работы разработали алгоритмические способы настройки моделей, которые позволяют эффективно калибровать уверенность LLM без необходимости полной переобучки всей архитектуры. Это делает решение применимым для широкого спектра задач, от анализа юридических документов до медицинской диагностики, где точность ответов является приоритетным требованием перед объемом обработанных данных.

Ключевые факты

  • Метод селективного предсказания позволяет модели фильтровать ответы, основываясь на оценке вероятности правильности результата.
  • Стратегия направлена на минимизацию рисков в высоконагруженных системах, где требуется высокая степень достоверности ИИ-генераций.
  • Подход улучшает надежность моделей без существенного изменения их базовой архитектуры.
  • Исследование сфокусировано на решении проблемы «уверенных галлюцинаций», когда модель выдает неверную информацию с высокой степенью убедительности.