Более 70% комментариев, поданных жителями Нидерландов в рамках общественных консультаций Европейского союза по ужесточению табачного законодательства, оказались сгенерированы ИИ. Анализ показал, что тысячи идентичных или почти идентичных сообщений были созданы с помощью инструмента, связанного с табачным гигантом Philip Morris International, для имитации массовой общественной поддержки позиции компании против новых ограничений.
Использование генеративного ИИ позволило организовать масштабную кампанию влияния, при которой тысячи уникальных на вид обращений создавались автоматически. Исследователи обнаружили, что многие пользователи, чьи имена фигурировали в отчетах, не были осведомлены о содержании отправленных от их лица писем или вовсе не давали согласия на участие в лоббистской активности. Это создает прецедент использования автоматизированных систем для искажения результатов демократических процедур.
Данный случай подчеркивает растущие риски для институтов гражданского общества, где автоматизация контента может быть использована для создания иллюзии общественного консенсуса. Регуляторы ЕС сталкиваются с необходимостью внедрения новых методов верификации участников консультаций, чтобы отличить реальные мнения граждан от скоординированных кампаний, запущенных корпоративными интересами через генеративные модели.
Ключевые факты
- Около 73% из 50 000 комментариев, поданных в Нидерландах, были созданы с помощью ИИ-инструмента.
- Кампания была направлена на противодействие планам ЕС по введению более строгих правил в отношении табачных изделий.
- Инструмент для генерации сообщений был связан с Philip Morris International, что подтверждается техническим анализом метаданных и структуры текстов.
- Многие участники консультаций заявили, что их личные данные были использованы без их ведома для отправки сгенерированных писем.
- Европейская комиссия рассматривает возможность ужесточения протоколов проверки подлинности участников для будущих общественных обсуждений.