Компания Meta (признана экстремистской организацией, деятельность запрещена в РФ) планирует к 2025 году заменить около 50% запросов на модерацию контента, обрабатываемых людьми, на решения на базе больших языковых моделей. В дальнейшем компания намерена довести этот показатель до 90% для определенных категорий контента, что вызывает обеспокоенность среди сотрудников относительно скорости внедрения технологий.
Переход на автоматизированные системы направлен на повышение эффективности обработки огромных объемов данных, поступающих в социальные сети компании, включая Instagram (принадлежит Meta, признанной экстремистской и запрещённой в РФ). Использование LLM позволяет быстрее реагировать на нарушения правил платформы, однако внутренние опасения связаны с рисками ошибок алгоритмов при принятии решений, требующих глубокого контекстуального понимания.
Масштабирование ИИ-модерации является частью стратегии по оптимизации операционных расходов и снижению нагрузки на человеческий персонал. Несмотря на критику со стороны части сотрудников, руководство настаивает на необходимости автоматизации для поддержания безопасности экосистемы в условиях постоянного роста пользовательского контента.
Ключевые факты
- К 2025 году Meta планирует автоматизировать половину всех запросов на модерацию контента.
- Целевой показатель автоматизации для отдельных типов контента к концу года превысит 90%.
- Основным инструментом замены человеческого труда выступают большие языковые модели.
- Сотрудники компании выразили обеспокоенность тем, что темпы внедрения ИИ-модерации являются чрезмерно высокими.