Исследователи представили метод DS4 (Deep Search, Deep Synthesis, Deep Selection, Deep Strategy), направленный на улучшение логического мышления языковых моделей. В отличие от стандартных подходов, DS4 фокусируется на латентном рассуждении, позволяя модели глубже анализировать контекст и избегать типичных когнитивных искажений, таких как гендерные стереотипы при решении логических задач.
Основная проблема современных LLM заключается в склонности к предсказанию наиболее вероятного токена, что часто приводит к ошибкам в задачах на здравый смысл. Метод DS4 вводит промежуточный этап «глубокого рассуждения», где модель сначала строит внутреннюю карту аргументации, прежде чем сформировать итоговый ответ. Это позволяет системе эффективно справляться с классическими загадками, где требуется преодолеть заученные шаблоны поведения.
Технология демонстрирует значительный прогресс в задачах, требующих многошаговой дедукции. Вместо того чтобы полагаться на статистические вероятности обучающей выборки, модель использует структуру DS4 для верификации собственных выводов. Это приближает поведение нейросетей к более осознанному анализу, снижая вероятность галлюцинаций в сложных логических цепочках.
Ключевые факты
- Метод DS4 включает четыре этапа: Deep Search, Deep Synthesis, Deep Selection и Deep Strategy.
- Основная цель разработки — устранение логических ошибок, вызванных статистическими смещениями в обучающих данных.
- Тестирование показало высокую эффективность в задачах на здравый смысл, где стандартные модели часто ошибаются из-за стереотипов.
- Подход позволяет моделям проводить верификацию промежуточных выводов до генерации финального текста.