Исследователи представили DT-Guard — метод обучения защитных механизмов для LLM, который сочетает эффективность классификаторов с глубиной рассуждений агентных систем. Подход использует «обучение с активным рассуждением», позволяя моделям-фильтрам распознавать скрытые намерения и неоднозначные запросы без необходимости запуска тяжелых LLM в режиме реального времени, что критично для низкозадержных систем.
Традиционные системы безопасности часто выбирают между быстрыми, но поверхностными классификаторами и точными, но медленными LLM-агентами. DT-Guard решает эту дилемму через процесс обучения, ориентированный на интенты (намерения). Модель учится выделять ключевые маркеры опасности в процессе рассуждения, которые затем «дистиллируются» в компактный и быстрый защитный слой, способный работать в продакшн-средах с жесткими требованиями к задержке.
Этот подход позволяет эффективно фильтровать сложные атаки, такие как джейлбрейки или завуалированные вредоносные инструкции, которые часто пропускают стандартные легковесные фильтры. Метод демонстрирует, что для обеспечения безопасности не обязательно жертвовать производительностью, если правильно интегрировать логику рассуждений на этапе подготовки модели.
Ключевые факты
- DT-Guard внедряет механизм Intent-Driven Reasoning-Active Training для повышения точности модерации.
- Метод направлен на устранение компромисса между скоростью работы защитного фильтра и его способностью распознавать сложные угрозы.
- Система оптимизирована для работы в условиях реального времени, где критически важна минимальная задержка при обработке запросов.
- Технология позволяет эффективно выявлять скрытые намерения пользователей, которые не считываются классическими классификаторами на основе ключевых слов.