Новая научная работа анализирует способность больших языковых моделей к совершению подлинных научных открытий. Авторы утверждают, что текущие архитектуры LLM, основанные на предсказании следующего токена, ограничены в способности выходить за рамки существующих данных. Модели эффективно синтезируют накопленные знания, но испытывают фундаментальные трудности с генерацией принципиально новых гипотез, требующих выхода за пределы статистических закономерностей обучающей выборки.
В документе подчеркивается различие между «интерполяцией» знаний, в которой модели преуспевают, и «экстраполяцией», необходимой для научного прогресса. Исследователи указывают на то, что отсутствие у ИИ физического воплощения и способности к целенаправленному экспериментированию делает их скорее мощными инструментами для обработки информации, чем самостоятельными субъектами научного поиска.
Авторы также рассматривают проблему «галлюцинаций» как следствие вероятностной природы моделей, которая в контексте научного метода становится критическим барьером. Вместо того чтобы имитировать человеческий интеллект, предлагается сфокусироваться на использовании LLM в качестве ассистентов, которые автоматизируют рутинные этапы анализа данных, оставляя концептуальное проектирование и проверку гипотез за человеком.
Ключевые факты
- Исследование фокусируется на фундаментальных ограничениях LLM в контексте научной инвенции и генерации новых знаний.
- Основной тезис работы: модели ограничены статистическим воспроизведением данных и не способны к «прыжкам» в область неизвестного.
- Разграничены понятия интерполяции (обработка существующих данных) и экстраполяции (создание нового знания), где модели демонстрируют низкую эффективность во втором случае.
- Указано, что отсутствие эмпирической проверки и физического контекста препятствует полноценному участию ИИ в научном цикле.
- Работа опубликована в PhilSci-Archive и предлагает пересмотреть ожидания от автономности ИИ в академической среде.