Исследователи изучили потенциал автономных ИИ-агентов в выполнении задач фундаментальной научной работы. В ходе эксперимента модели пытались самостоятельно формулировать гипотезы, планировать эксперименты и анализировать результаты в условиях открытого поиска. Результаты показывают, что текущие системы способны на выполнение отдельных этапов научного цикла, однако сталкиваются с серьезными ограничениями при долгосрочном планировании и проверке достоверности данных.
Авторы работы проанализировали способность агентов к «открытым» исследованиям, где нет заранее заданного алгоритма действий. Основное внимание уделялось тому, как модели справляются с неопределенностью и необходимостью корректировать стратегию на основе промежуточных выводов. Выяснилось, что хотя агенты эффективно справляются с рутинными задачами обработки информации, их способность к генерации принципиально новых научных идей остается ограниченной из-за склонности к галлюцинациям и трудностей с верификацией сложных логических цепочек.
Исследование подчеркивает разрыв между способностью ИИ к синтезу существующих знаний и созданием нового научного знания. Для полноценной автоматизации исследовательской деятельности требуется внедрение более совершенных механизмов самопроверки и интеграция с внешними инструментами для верификации гипотез в реальном времени. Текущие архитектуры пока не позволяют полностью исключить человеческий контроль из процесса научного поиска.
Ключевые факты
- Исследование сфокусировано на автономности ИИ-агентов в задачах, требующих формулирования гипотез и планирования экспериментов.
- Выявлена критическая зависимость эффективности агентов от качества инструментов верификации и механизмов самоконтроля.
- Основными барьерами для автономных исследований названы склонность к галлюцинациям и сложности при долгосрочном планировании.
- Работа подтверждает, что текущие модели эффективны в синтезе данных, но требуют участия человека для подтверждения научной новизны и достоверности выводов.