Lenz представила API для автоматической проверки фактов в текстах, сгенерированных большими языковыми моделями. Сервис сопоставляет утверждения в контенте с актуальными данными из надежных источников, помогая снизить уровень галлюцинаций. Инструмент предназначен для интеграции в рабочие процессы компаний, которые используют генеративный ИИ для создания контента и нуждаются в верификации данных в реальном времени.
Проблема точности генеративного ИИ остается одним из главных барьеров для внедрения технологий в корпоративной среде. Традиционные методы проверки требуют значительных человеческих ресурсов, что замедляет публикацию материалов. Lenz автоматизирует этот процесс, предоставляя разработчикам возможность встраивать слой верификации непосредственно в пайплайны генерации текста.
Система работает путем извлечения ключевых утверждений из предоставленного текста и их последующей сверки с базой знаний. В случае обнаружения несоответствий или отсутствия подтверждающих данных, API возвращает отчет с указанием спорных моментов. Это позволяет автоматизировать контроль качества контента, минимизируя риски распространения недостоверной информации.
Ключевые факты
- Lenz предоставляет API для автоматизированной проверки фактов в сгенерированном ИИ-контенте.
- Сервис фокусируется на выявлении галлюцинаций и подтверждении утверждений через внешние источники данных.
- Инструмент ориентирован на интеграцию в существующие корпоративные системы генерации контента.
- Решение направлено на повышение надежности ИИ-систем в бизнес-процессах, требующих высокой точности данных.