Представлен Asker — агентный фреймворк для аудита и верификации ответов LLM, использующий метод «3D перекрестной проверки». Система имитирует сократический диалог, заставляя целевую модель аргументировать свои выводы с разных сторон. Это позволяет снизить вероятность галлюцинаций и повысить логическую связность ответов в сложных агентных цепочках, где критически важна точность и обоснованность каждого шага.
Метод 3D-верификации предполагает, что агент-аудитор анализирует запрос через три независимых измерения: логическую последовательность, фактическую точность и соответствие контексту. Вместо того чтобы просто проверять результат, Asker вступает в итеративный процесс уточнения, задавая наводящие вопросы, которые вынуждают основную модель пересматривать свои предположения и исправлять ошибки до того, как ответ будет передан пользователю или следующему звену системы.
Такой подход решает проблему «черного ящика», когда сложные агентные системы совершают логические ошибки в цепочках рассуждений (Chain-of-Thought). Использование сократического метода позволяет выявлять скрытые противоречия, которые не видны при стандартном тестировании или использовании простых промптов для самопроверки. Инструмент ориентирован на разработчиков, создающих критически важные агентные системы, где цена ошибки при генерации контента или принятии решений высока.
Ключевые факты
- Asker использует методологию сократического диалога для принудительной аргументации ответов LLM.
- Система внедряет 3D-верификацию, проверяющую логику, факты и контекстуальную релевантность.
- Фреймворк предназначен для минимизации галлюцинаций в многошаговых агентных процессах.
- Метод направлен на повышение прозрачности и обоснованности выводов, генерируемых нейросетевыми моделями.