Исследователи представили метод FACTOR, направленный на повышение достоверности длинных текстов, создаваемых языковыми моделями. Основная проблема современных LLM заключается в склонности к генерации неподтвержденных утверждений, которые часто остаются незамеченными стандартными инструментами верификации. В отличие от существующих подходов, которые применяют одинаковые правила проверки ко всем частям текста, новая методика учитывает разную степень риска возникновения галлюцинаций для различных типов утверждений.
Система FACTOR динамически определяет, какие именно фрагменты сгенерированного контента требуют тщательной проверки с использованием внешних источников данных, а какие могут быть приняты с меньшим уровнем контроля. Такой адаптивный подход позволяет оптимизировать процесс верификации, снижая вычислительные затраты и повышая общую точность ответов. Метод фокусируется на разграничении критически важных фактов, где ошибка недопустима, и менее значимых деталей, что делает процесс генерации более сбалансированным.
Внедрение подобных механизмов оценки рисков позволяет значительно сократить количество фактических ошибок в сложных документах, отчетах и аналитических материалах. Разработка предлагает более гибкую архитектуру для систем, работающих с большими объемами данных, где критически важна точность каждой формулировки. Это решение помогает разработчикам создавать более надежные инструменты для автоматизации подготовки контента, минимизируя необходимость ручной проверки и повышая доверие к результатам работы моделей.