Расследование 404 Media выявило масштабную сеть автоматизированных аккаунтов в TikTok, которые используют генеративный ИИ для создания низкокачественного контента. Эти «фабрики» продвигают биологически активные добавки, ранее отозванные FDA из-за несоответствия стандартам безопасности. Система опирается на массовую генерацию видеороликов, имитирующих отзывы реальных пользователей, для обхода алгоритмов модерации и привлечения трафика на маркетплейс.
Технологический процесс таких ферм включает автоматизированный монтаж видео, наложение синтетической озвучки и использование нейросетей для генерации сценариев, которые эксплуатируют страхи аудитории перед болезнями. Подобная модель позволяет злоумышленникам масштабировать продажи сомнительных товаров с минимальными затратами на производство контента, создавая иллюзию популярности продукта среди потребителей.
Использование ИИ в данном контексте демонстрирует новую угрозу для платформ электронной коммерции. Автоматизация позволяет обходить традиционные методы проверки качества рекламы, так как каждый ролик выглядит уникальным для алгоритмов соцсети. Это создает серьезные риски для здоровья потребителей, которые приобретают несертифицированные препараты, доверяя сгенерированным рекомендациям, которые выглядят как пользовательский контент.
Ключевые факты
- Сеть аккаунтов продвигала добавки, которые FDA (Управление по контролю за продуктами и лекарствами США) официально отозвало с рынка.
- Контент создавался с помощью инструментов генеративного ИИ для автоматической генерации видео и озвучки, имитирующих реальные отзывы.
- Схема направлена на перенаправление трафика в TikTok Shop для максимизации продаж товаров сомнительного качества.
- Использование ИИ позволило злоумышленникам массово производить контент, который сложно отследить стандартными алгоритмами модерации платформы.