Современные ИИ-агенты ограничены в проведении фундаментальных научных исследований из-за отсутствия способности к постановке нетривиальных гипотез и долгосрочному планированию. Несмотря на успехи в автоматизации рутинных задач, системы сталкиваются с трудностями при работе с открытыми задачами, требующими глубокого понимания контекста, критического анализа данных и способности выходить за рамки заданных алгоритмов и обучающих выборок.
Основная проблема заключается в том, что текущие агентные архитектуры опираются на предсказание следующего токена, что эффективно для генерации текста, но недостаточно для научного поиска. Исследователи отмечают, что для совершения прорывов агентам не хватает «интуиции» и способности к итеративному пересмотру стратегии в условиях высокой неопределенности. В отличие от человека, ИИ склонен к галлюцинациям при столкновении с данными, выходящими за пределы его тренировочного набора, что критично для экспериментальной науки.
Для преодоления этого барьера требуется переход от простых цепочек рассуждений к системам с глубокой интеграцией внешней памяти и инструментов верификации. Текущие модели часто теряют нить рассуждения в длинных исследовательских циклах, что делает их полезными лишь в качестве ассистентов для обработки литературы или написания кода, но не в качестве самостоятельных субъектов научной деятельности.
Ключевые факты
- Текущие LLM-агенты ограничены предсказательной природой архитектуры Transformer, что препятствует генерации принципиально новых научных концепций.
- Основным препятствием для автономных исследований является нехватка механизмов для оценки достоверности гипотез в условиях отсутствия размеченных данных.
- Автономность агентов в науке требует перехода от линейных цепочек действий к многоуровневым системам планирования с постоянной обратной связью.
- ИИ-агенты демонстрируют высокую эффективность в узких задачах, таких как поиск по базам данных или написание скриптов, но проваливаются при необходимости комплексного синтеза знаний из разных областей.