Исследователь выявил критические уязвимости в системе рецензирования научных конференций по ИИ, намеренно подав две сгенерированные статьи с вымышленными авторами. Несмотря на очевидные признаки «мусорного» контента, обе работы получили статус устных докладов (orals). Этот эксперимент наглядно демонстрирует системный сбой в проверке качества публикаций на фоне бума генеративных моделей и перегрузки экспертного сообщества.
Автор эксперимента использовал инструменты для создания текста, имитирующего научный стиль, но лишенного реальной исследовательской ценности. В процессе подачи выяснилось, что рецензенты либо не проверяли биографии авторов, либо не проводили глубокий анализ методологии, полагаясь на поверхностные метрики или автоматизированные системы фильтрации. Подобные инциденты ставят под сомнение авторитет академических площадок, которые становятся площадками для публикации низкокачественного ИИ-контента.
Ситуация обнажает проблему масштабирования научных конференций: количество заявок растет экспоненциально, в то время как пул квалифицированных рецензентов остается ограниченным. Это вынуждает организаторов привлекать менее опытных специалистов или полагаться на автоматические системы, которые легко обходятся современными генеративными инструментами. В результате научное сообщество сталкивается с риском девальвации публикаций и затруднением поиска действительно значимых прорывов в потоке сгенерированного шума.
Ключевые факты
- Экспериментатор подал две статьи с полностью вымышленными именами авторов на крупные профильные конференции.
- Обе фальшивые работы были приняты в секцию устных докладов (orals), что является высшей категорией признания на подобных мероприятиях.
- Статьи содержали признаки «ИИ-мусора» (AI slop), включая бессвязные аргументы и отсутствие реальных данных, которые не были выявлены в ходе рецензирования.
- Проблема вызвана резким ростом числа заявок, который превышает возможности экспертного сообщества по качественной проверке материалов.