arXiv · 16.06.2026 ·Исследования и наука

Исследование: как ИИ-модели теряют когнитивные способности в длительных диалогах

Новое исследование на arXiv обращает внимание на проблему когнитивного увядания (cognitive atrophy) в поведении больших языковых моделей (LLM). Авторы отмечают, что существующие бенчмарки оценивают знания, безопасность и качество ответов, но не учитывают, как модели ведут себя в длительных, эмоционально насыщенных диалогах.

Особую озабоченность вызывает использование LLM в сфере поддержки психического здоровья. Исследователи обнаружили, что модели могут терять способность помогать пользователям в принятии решений, рефлексии и копинге (coping) — то есть в умении справляться с трудными ситуациями. Это происходит из-за отсутствия оценки динамического поведения моделей в реальных сценариях.

Авторы предлагают новый подход к оценке LLM, который учитывает не только статические метрики, но и долгосрочные эффекты взаимодействия. Они подчёркивают необходимость разработки более сложных бенчмарков, способных выявлять когнитивное увядание и другие скрытые проблемы в поведении моделей.

Исследование подчёркивает важность более глубокого понимания того, как ИИ-модели влияют на пользователей в реальных условиях. Это особенно актуально для приложений, связанных с поддержкой психического здоровья, где ошибки могут иметь серьёзные последствия.

Источник: arXiv

Похожие материалы

arXiv · Исследования и наука Исследование: как языковые модели теряют логику при замене переменных Учёные из MIT и других институтов обнаружили любопытный феномен в языковых моделях: при замене переменных в задачах на каузальное рассуждение на нейтральные маркеры (например, «X» вместо «Джон») модели начинают давать разные ответы, хотя структура вопроса и правильный ответ остаются неизменными. Это указывает на то, что модели либо теряют часть информации при такой замене, либо не могут корректно интерпретировать сохранённую информацию. arXiv · Память и RAG Исследование: ИИ и люди используют схожие механизмы мышления Новое исследование, опубликованное на arXiv, бросает вызов распространённому мнению о том, что люди и ИИ используют принципиально разные механизмы мышления. Авторы сравнили способность людей и больших языковых моделей (LLM) к обобщению и логическому выводу. Они обнаружили, что и те, и другие часто полагаются на сопоставление шаблонов, а не на строгие абстрактные модели мира. Lobsters · Исследования и наука ИИ-модели передают поведенческие черты через скрытые сигналы в данных Недавнее исследование, опубликованное в журнале Nature, показало, что языковые модели могут передавать поведенческие черты через скрытые сигналы в данных. Ученые обнаружили, что модели, обученные на данных, содержащих определенные поведенческие паттерны, могут воспроизводить эти паттерны даже в новых, ранее не встречавшихся контекстах. Lobsters · Исследования и наука Исследование: почему глубина моделей может быть их проклятием Новое исследование, опубликованное на arXiv, поднимает важный вопрос о том, как глубина архитектуры больших языковых моделей (LLM) влияет на их производительность. Авторы работы утверждают, что увеличение глубины моделей может привести к так называемому "проклятию глубины", когда дополнительные слои не только не улучшают, но и ухудшают качество генерации текста. arXiv · Исследования и наука Как цепочки рассуждений влияют на ответы ИИ-моделей Исследователи изучили, как цепочки рассуждений (Chain-of-Thought, CoT) влияют на точность ответов языковых моделей. Они выяснили, что не все шаги в цепочке одинаково важны для итогового результата. Для оценки значимости каждого шага использовался метод раннего выхода (early exit), который позволяет определить, насколько конкретный шаг влияет на конечный ответ. arXiv · Машинное обучение Исследование: как устранить избыточное рассуждение в LLM Учёные изучили проблему избыточного рассуждения (overthinking) в языковых моделях, когда они продолжают генерировать ненужные шаги после нахождения правильного ответа. Это явление особенно заметно в задачах, требующих длинных цепочек рассуждений (chain-of-thought reasoning). Hacker News · Исследования и наука Исследование: языковые модели и человеческий мозг используют схожие концептуальные пространства Новое исследование, опубликованное на arXiv, показывает, что языковые модели (LLMs) и человеческий мозг используют схожие концептуальные пространства для обработки информации, даже если они работают на разных языках. Это открытие может иметь значительные последствия для разработки ИИ-агентов, так как оно подтверждает, что языковые модели способны моделировать когнитивные процессы, аналогичные человеческим. arXiv · Инференс и железо Как вычислительные ресурсы влияют на оценку крупных языковых моделей Исследование на arXiv показывает, что современные оценки ИИ переходят на более сложные задачи, требующие длительных траекторий с использованием инструментов и итеративного решения проблем. Это делает результаты всё более чувствительными к объёму и распределению вычислительных ресурсов во время инференса. arXiv · Модели и релизы Новый метод обнаружения ошибок в цепочках рассуждений LLM Исследователи из MIT и Университета Карнеги-Меллона предложили новый подход к выявлению ошибок в цепочках рассуждений языковых моделей (LLM) без использования меток. Их метод, основанный на операдной теории, позволяет обнаруживать несоответствия в логических цепочках, которые модели строят при решении сложных задач. Lobsters · Память и RAG ИИ и Age of Empires II: что общего у моделей и стратегий Исследователи из Университета Ватерлоо и Университета Торонто опубликовали работу, в которой сравнивают когнитивные способности больших языковых моделей (LLM) с навыками, демонстрируемыми игроками в стратегическую игру Age of Empires II. Авторы утверждают, что если LLM обладают человеко-подобными атрибутами, то аналогичные свойства можно обнаружить и в стратегиях, применяемых в этой игре.

← Все материалы