Исследователи представили метод Deterministic Executability Gating, решающий проблему невыполнимых задач в агентных системах. В отличие от стандартного семантического поиска, новый пайплайн для ИИ-ассистента Wix Helpmate фильтрует навыки на основе их фактической исполнимости в текущем состоянии аккаунта пользователя. Это предотвращает выбор семантически подходящих, но технически недоступных функций, повышая надежность работы агента в реальных бизнес-сценариях.
Система состоит из трех этапов обработки запроса. На первом этапе семантический матчер отбирает релевантные навыки из обширной библиотеки. На втором этапе применяется детерминированный фильтр, который проверяет состояние аккаунта и доступность необходимых API или прав доступа. На финальном этапе модель ранжирует оставшиеся варианты, гарантируя, что предложенное действие не только соответствует теме, но и может быть успешно завершено.
Такой подход критически важен для масштабируемых агентных систем, где количество инструментов исчисляется десятками или сотнями. Использование жестких проверок на этапе выбора навыка снижает количество ошибок «галлюцинаций» и неудачных вызовов функций, которые возникают, когда модель полагается исключительно на близость векторов запроса и описания инструмента, игнорируя контекстные ограничения среды исполнения.
Ключевые факты
- Метод разработан для ИИ-ассистента Helpmate, используемого в поддержке клиентов Wix.
- Трехступенчатый пайплайн включает семантический поиск, детерминированный фильтр исполнимости и финальное ранжирование.
- Основная проблема, решаемая методом — несоответствие семантической релевантности и технической возможности выполнения действия в конкретном аккаунте.
- Подход позволяет масштабировать библиотеки навыков без потери точности выбора функций агентом.