Новое моделирование, опубликованное в Nature, предсказывает, что массовое внедрение LLM в научную среду приведет к росту объема публикаций при одновременном снижении их качества. Ученые смогут обрабатывать больше данных и быстрее писать тексты, однако автоматизация может привести к поверхностному анализу, потере оригинальности и снижению глубины научных открытий в долгосрочной перспективе.
Исследователи использовали агентное моделирование для оценки того, как использование генеративного ИИ меняет динамику академической работы. Основной риск заключается в «инфляции» научной литературы: когда инструменты позволяют генерировать статьи с минимальными усилиями, научное сообщество сталкивается с переизбытком контента, в котором становится сложнее выделить действительно прорывные исследования. Это создает петлю обратной связи, где ИИ-модели обучаются на все более посредственных данных, что потенциально замедляет темпы фундаментального научного прогресса.
Авторы работы подчеркивают, что проблема не в технологии как таковой, а в системе академических стимулов. В условиях, когда метрики успеха (например, индекс цитируемости или количество публикаций) остаются неизменными, исследователи вынуждены использовать ИИ для количественного наращивания показателей. Это может привести к «загрязнению» научной базы данных, где автоматизированные ответы начинают доминировать над результатами эмпирических наблюдений и критического мышления.
Ключевые факты
- Исследование опубликовано в журнале Nature на основе агентного моделирования научной среды.
- Основной прогноз: рост количества публикаций при снижении их научной ценности и глубины проработки.
- Использование LLM способствует автоматизации рутинных задач, но создает риск «инфляции» литературы.
- Модель показывает, что текущая система академических стимулов поощряет количественные показатели, что усиливает негативный эффект от внедрения ИИ.
- Существует риск деградации качества обучающих данных для будущих поколений ИИ-моделей из-за накопления сгенерированного контента.