Новая научная работа анализирует способность больших языковых моделей к совершению подлинных научных открытий. Авторы утверждают, что текущие архитектуры LLM, основанные на предсказании следующего токена, ограничены в способности выходить за рамки существующих данных. Модели эффективно синтезируют накопленные знания, но испытывают фундаментальные трудности с генерацией принципиально новых гипотез, требующих выхода за пределы статистических закономерностей обучающей выборки.

В документе подчеркивается различие между «интерполяцией» знаний, в которой модели преуспевают, и «экстраполяцией», необходимой для научного прогресса. Исследователи указывают на то, что отсутствие у ИИ физического воплощения и способности к целенаправленному экспериментированию делает их скорее мощными инструментами для обработки информации, чем самостоятельными субъектами научного поиска.

Авторы также рассматривают проблему «галлюцинаций» как следствие вероятностной природы моделей, которая в контексте научного метода становится критическим барьером. Вместо того чтобы имитировать человеческий интеллект, предлагается сфокусироваться на использовании LLM в качестве ассистентов, которые автоматизируют рутинные этапы анализа данных, оставляя концептуальное проектирование и проверку гипотез за человеком.

Ключевые факты

  • Исследование фокусируется на фундаментальных ограничениях LLM в контексте научной инвенции и генерации новых знаний.
  • Основной тезис работы: модели ограничены статистическим воспроизведением данных и не способны к «прыжкам» в область неизвестного.
  • Разграничены понятия интерполяции (обработка существующих данных) и экстраполяции (создание нового знания), где модели демонстрируют низкую эффективность во втором случае.
  • Указано, что отсутствие эмпирической проверки и физического контекста препятствует полноценному участию ИИ в научном цикле.
  • Работа опубликована в PhilSci-Archive и предлагает пересмотреть ожидания от автономности ИИ в академической среде.