Исследование демонстрирует, как сложные математические задачи, такие как гипотеза Якобиана, провоцируют предсказуемые логические ошибки в языковых моделях. При попытке опровергнуть или доказать утверждение, которое кажется математически обоснованным, модели часто генерируют уверенные, но фактически неверные рассуждения, демонстрируя пределы своих способностей к формальному логическому выводу и проверке истинности в условиях высокой неопределенности.

Эксперименты показывают, что даже продвинутые модели склонны к «галлюцинациям логики», когда сталкиваются с контринтуитивными математическими конструкциями. Вместо того чтобы признать сложность задачи или отсутствие данных, алгоритмы пытаются имитировать структуру научного доказательства, используя терминологию, которая выглядит убедительно для пользователя, но лишена математической строгости. Это подчеркивает проблему доверия к выводам моделей в областях, требующих глубокого аналитического мышления.

Подобные кейсы важны для понимания того, как именно модели обрабатывают абстрактные концепции и где проходят границы их «рассуждений». Исследователи отмечают, что проблема заключается не в отсутствии знаний, а в механизме генерации текста, который приоритизирует вероятностную связность над логической корректностью. Это создает риски при использовании ИИ в качестве инструмента для верификации сложных гипотез или написания технической документации.

Ключевые факты

  • Гипотеза Якобиана выбрана как инструмент проверки из-за её репутации одной из самых сложных и нерешенных задач в алгебраической геометрии.
  • Модели демонстрируют склонность к «уверенному заблуждению», создавая правдоподобные, но ложные математические выкладки при прямом запросе на опровержение.
  • Исследование подтверждает, что текущие архитектуры LLM не обладают встроенным механизмом верификации логических шагов, полагаясь исключительно на статистические закономерности токенов.
  • Результаты подчеркивают необходимость использования внешних инструментов (интерпретаторов кода или систем формальной верификации) для задач, требующих математической точности.