Консалтинговая компания PwC столкнулась с критикой после публикации серии отчетов об использовании ИИ, в которых были обнаружены фактические ошибки и вымышленные данные. Анализ показал, что тексты содержали ссылки на несуществующие судебные дела и искаженные цитаты, что стало следствием бесконтрольного использования генеративных моделей при подготовке корпоративной аналитики и экспертных материалов для клиентов.
Инцидент подчеркивает риски, связанные с автоматизацией процессов создания контента в крупных консалтинговых структурах. Несмотря на активное продвижение ИИ-решений для бизнеса, отсутствие должной верификации данных приводит к репутационным потерям. Эксперты отмечают, что даже при использовании передовых языковых моделей «галлюцинации» остаются критической проблемой для профессиональной аналитики, требующей обязательного участия человека в проверке фактов.
Ситуация с PwC иллюстрирует разрыв между маркетинговыми обещаниями компаний по внедрению ИИ и реальным качеством генерируемого контента. В условиях, когда консалтинговые фирмы позиционируют себя как экспертов в области цифровой трансформации, подобные ошибки ставят под сомнение надежность методологий, предлагаемых ими для автоматизации бизнес-процессов в других отраслях.
Ключевые факты
- В отчетах PwC обнаружены ссылки на несуществующие судебные прецеденты, созданные ИИ.
- Ошибки затронули материалы, посвященные анализу рынка и стратегиям внедрения технологий.
- Компания признала наличие проблем и заявила о пересмотре внутренних процессов проверки контента.
- Инцидент вызвал дискуссию о необходимости жесткого контроля качества (Human-in-the-loop) при подготовке документов с помощью LLM.