Reddit запускает набор инструментов на базе больших языковых моделей для автоматизации модерации контента. Система призвана помогать администраторам сообществ в управлении потоками публикаций и соблюдении правил платформы. В ближайшее время доступ к функционалу расширят для большего числа сабреддитов, а полноценный запуск всей экосистемы автоматизированной модерации запланирован на конец текущего года.
Новая система, получившая название «AI Rules Hub», позволяет модераторам настраивать специфические критерии фильтрации контента, которые ИИ будет применять в режиме реального времени. Это решение направлено на снижение нагрузки на волонтеров-модераторов, которые ежедневно обрабатывают огромные объемы пользовательского контента. Использование LLM позволяет системе лучше понимать контекст дискуссий и выявлять нарушения, которые ранее требовали ручной проверки.
Развертывание ИИ-инструментов происходит поэтапно. Сначала функционал стал доступен ограниченному кругу сообществ, однако компания планирует сделать его стандартом для всей платформы. Разработчики Reddit подчеркивают, что автоматизация не заменяет человеческий контроль, а выступает в роли вспомогательного слоя, позволяющего быстрее реагировать на токсичный контент или спам, сохраняя при этом специфику правил каждого отдельного сообщества.
Ключевые факты
- Reddit внедряет систему AI Rules Hub для автоматической модерации контента на базе LLM.
- Инструменты позволяют модераторам создавать кастомные правила, которые ИИ применяет к новым публикациям.
- Полноценный запуск системы для всех сообществ платформы запланирован на конец 2024 года.
- Основная цель внедрения — масштабирование процессов модерации и снижение нагрузки на администраторов сабреддитов.