Исследования и наука
Новый подход к редакционному контролю в LLM-системах
Исследователи представили концепцию «редакционного алайнмента» (Editorial Alignment), направленную на сохранение экспертного контроля над распространением знаний в эпоху LLM. Авторы работы анализируют проблему, при которой предобученные модели навязывают собственные ценности и алгоритмы фильтрации, фактически подменяя собой традиционные институты проверки информации. Это создает риски для качества контента и снижает авторитетность специализированных источников, чьи редакционные стандарты игнорируются в процессе генерации ответов.
Метод разрешения конфликтов знаний в LLM при работе с внешними данными
Исследователи представили новый подход к решению проблемы противоречий между внутренними параметрическими знаниями языковых моделей и информацией, поступающей из внешнего контекста. В современных системах, использующих RAG или длинные промпты, модель часто сталкивается с ситуацией, когда данные в запросе пользователя противоречат тому, что было «выучено» моделью в процессе обучения. Это приводит к галлюцинациям или снижению точности ответов, так как модель не может эффективно приоритизировать источники данных.
Термодинамический подход к измерению интеллекта
Исследователи предложили новую теоретическую модель для количественной оценки интеллекта, опираясь на принципы термодинамики. Согласно этой концепции, интеллект определяется как способность системы увеличивать вероятность наступления редких, но допустимых состояний будущего, которые были бы маловероятны при пассивном развитии событий. Авторы работы рассматривают интеллект не как абстрактное свойство, а как механизм, позволяющий системе активно моделировать окружающую среду и свое положение в ней.
Использование ИИ для автоматизации написания кода в физическом моделировании
Проект OpenWave представил подход к использованию языковых моделей для генерации программного кода, предназначенного для симуляции поведения элементарных частиц. Система автоматизирует создание вычислительных сред, позволяя исследователям быстрее тестировать новые теоретические модели физических процессов. Вместо ручного написания скриптов для сложных симуляций, ИИ берет на себя формирование логики взаимодействия объектов в виртуальной среде.
Next-Latent Prediction: новый подход к обучению компактных моделей мира
Исследователи представили метод Next-Latent Prediction (NLP), который меняет подход к обучению трансформеров для моделирования динамических сред. В отличие от традиционных моделей, предсказывающих будущие токены в пространстве пикселей или дискретных состояний, этот метод фокусируется на прогнозировании скрытых представлений (латентных векторов). Такой подход позволяет модели сжимать информацию о визуальных и физических процессах, отсекая избыточные детали и концентрируясь на ключевых закономерностях среды.
Мелани Митчелл о непредсказуемости современных LLM
Профессор Мелани Митчелл в своей статье для Yale Review анализирует феномен «зубчатого интеллекта» (jagged intelligence) у современных языковых моделей. Автор отмечает, что ИИ демонстрирует крайне неравномерные способности: системы могут блестяще справляться со сложными логическими задачами или написанием кода, но при этом совершать элементарные ошибки в простых вопросах, требующих здравого смысла или понимания физического мира.
Влияние генеративного ИИ на успеваемость школьников
Исследование, опубликованное в рамках дискуссионных материалов CEPR, анализирует влияние использования генеративного ИИ на академические результаты учащихся средних школ в Китае. Авторы работы сфокусировались на том, как доступ к нейросетевым инструментам меняет процесс усвоения знаний и влияет на когнитивные способности школьников в долгосрочной перспективе.
Использование языковых моделей для картирования нейронных основ человеческой речи
Исследователи представили работу, опубликованную в журнале Nature, в которой нейросетевые архитектуры применяются для анализа механизмов обработки языка в человеческом мозге. Ученые использовали большие языковые модели в качестве вычислительных инструментов для сопоставления паттернов нейронной активности с лингвистическими структурами. Это позволило выявить, как именно мозг кодирует семантические и синтаксические компоненты речи в режиме реального времени.
Amazon и QuEra планируют внедрить полезную коррекцию квантовых ошибок к 2028 году
Компании Amazon и QuEra объявили о дорожной карте, согласно которой полноценная коррекция ошибок в квантовых вычислениях станет доступной к 2028 году. Квантовые системы крайне чувствительны к внешним помехам, что приводит к потере данных и сбоям в расчетах. Разработка надежных методов исправления этих ошибок является главным препятствием на пути к созданию масштабируемых квантовых компьютеров, способных решать задачи, недоступные для классической архитектуры.
Критика методологии ИИ-исследований через симуляцию в Age of Empires II
Исследователь Microsoft продемонстрировал необычный подход к анализу современной научной литературы в области искусственного интеллекта, создав работающую нейронную сеть внутри редактора карт стратегии Age of Empires II. В качестве «нейронов» и связей в этой системе выступили игровые объекты: козы, мосты и ледяные рампы. Этот проект стал визуальной метафорой для критики текущих методов оценки больших языковых моделей.
OmniAgent: новый подход к анализу длинных видео через активное восприятие
Исследователи представили OmniAgent — архитектуру для анализа видео, которая отходит от традиционной модели «пассивного просмотра». В отличие от существующих систем, которые обрабатывают все кадры видеоряда равномерно, что приводит к линейному росту вычислительных затрат при увеличении длительности записи, новый метод имитирует активное восприятие. Система самостоятельно выбирает наиболее информативные фрагменты для анализа в зависимости от поставленного запроса.
Новый метод генерации многоголосых аудиосцен ScenA
Исследователи представили метод ScenA, который позволяет создавать реалистичные многоголосые аудиосцены на основе текстовых описаний. В отличие от традиционных систем, которые работают с «чистой» речью и требуют жесткой привязки дикторов к репликам через метаданные, новая технология учитывает контекст реального окружения. Модель обучается на «диких» данных, что позволяет ей воспроизводить не только голоса нескольких спикеров, но и естественную акустическую текстуру диалога.
Интерпретация механизмов внимания через синтез программ
Исследователи представили новый метод интерпретации нейронных сетей, который позволяет заменить непрозрачные вычисления моделей на понятные человеку символьные описания. В центре внимания оказались механизмы внимания (attention heads) в трансформерах, которые традиционно считаются «черным ящиком» из-за сложности их внутренних операций.
Новый подход к формальному доказательству теорем с помощью диффузионных моделей
Исследователи представили метод Diffusion-Proof, направленный на преодоление ограничений стандартных авторегрессионных языковых моделей в задачах формальной математики. Традиционные модели, предсказывающие следующий токен, часто сталкиваются с трудностями при построении длинных логических цепочек, необходимых для верификации сложных математических доказательств. Новый подход переносит принципы диффузионных процессов в область формального вывода, позволяя моделям более эффективно исследовать пространство возможных доказательств.
Оптимизация сценариев для обучения климатических ИИ-моделей
Исследователи проанализировали ограничения современных суррогатных моделей, используемых для климатического моделирования. Основная проблема заключается не только в архитектуре нейросетей, но и в качестве данных, на которых они обучаются. Традиционные наборы данных для климатических эмуляторов обладают низкой структурной вариативностью, что создает «потолок» для точности прогнозов даже при использовании сложных физически обоснованных моделей.
Исследование: насколько можно доверять LLM при анализе данных (EDA)
Исследователи проанализировали применимость больших языковых моделей для проведения разведочного анализа данных (EDA). В работе оценивается способность ИИ-агентов самостоятельно выполнять стандартные этапы работы с датасетами: от первичной очистки и выявления пропусков до построения статистических гипотез и визуализации распределений. Авторы статьи сфокусировались на том, насколько точно модели интерпретируют структуру табличных данных и избегают галлюцинаций при генерации кода для анализа.
Влияние механизмов самокоррекции чат-ботов на доверие пользователей
Исследователи изучили, как стратегии исправления ошибок влияют на восприятие надежности социальных чат-ботов. В ходе эксперимента с участием 120 человек анализировалось поведение пользователей при столкновении с недостоверной информацией, которую генерирует ИИ. Установлено, что способность модели признать ошибку и самостоятельно её исправить напрямую коррелирует с уровнем доверия, которое пользователь готов оказать системе в будущем.
Кризис концептуальных основ в медицинском ИИ
Современные исследования в области медицинской визуализации с помощью ИИ демонстрируют значительный прогресс в создании сложных алгоритмов и улучшении показателей на стандартных бенчмарках. Однако исследователи отмечают растущий разрыв между вычислительной мощностью моделей и их клинической значимостью. Основная проблема заключается в том, что текущий фокус на оптимизации математических метрик часто игнорирует фундаментальные концепции, определяющие реальную диагностическую ценность изображений.
Байесовская оптимизация с участием человека в биопроцессах
Исследователи представили новый фреймворк для оптимизации сложных биопроцессов, сочетающий методы байесовской оптимизации с экспертным контролем. В основе системы лежит расширение алгоритма Pareto Front Guided Sampling (PFGS), который позволяет эффективно находить баланс между несколькими противоречивыми целями в условиях жестких ограничений. Вместо автоматического выбора одного оптимального решения, модель формирует фронт Парето, наглядно демонстрируя возможные компромиссы.
Метод абдуктивного вывода для поиска пропущенных логических связей в базах знаний
Исследователи представили новый подход к абдуктивному выводу в рамках семантики восстановления для описательных логик ELbot. Метод направлен на решение проблемы неполноты баз знаний, когда система не может подтвердить истинность определенных утверждений. Алгоритм автоматически генерирует гипотезы, которые при добавлении в базу данных позволяют логически вывести недостающие следствия, восстанавливая целостность системы.
MolmoMotion: новая модель для прогнозирования 3D-движений по текстовому описанию
Институт искусственного интеллекта Аллена (AI2) представил MolmoMotion — специализированную модель, предназначенную для прогнозирования 3D-траекторий движения объектов на основе текстовых инструкций. Разработка опирается на архитектуру мультимодальных моделей Molmo, что позволяет системе эффективно интерпретировать сложные семантические описания действий и переносить их в физическое пространство.
AdsMind: мультиагентная система для моделирования катализаторов
Исследователи представили систему AdsMind, предназначенную для поиска оптимальных конфигураций адсорбции на поверхностях гетерогенных катализаторов. Задача определения состояний с минимальной энергией критически важна для химической промышленности, однако традиционные квантово-механические расчеты требуют огромных вычислительных затрат. Использование силовых полей на базе машинного обучения ускоряет релаксацию структур, но не решает проблему эффективного исследования обширного конфигурационного пространства.
Новая теория коэволюции человека и ИИ в долгосрочном взаимодействии
Исследователи представили формальную теорию, описывающую возникновение социального интеллекта у ИИ-систем в процессе длительного общения с людьми. Авторы работы указывают на ограниченность текущих подходов, которые рассматривают память, эмоциональный отклик и персонализацию как разрозненные компоненты. Вместо этого предлагается рассматривать взаимодействие как динамическую систему, где обе стороны постоянно адаптируются друг к другу, формируя устойчивые социальные связи.
Как LLM могут изменить обучение математике
Исследование, опубликованное на сайте ycao.net, исследует потенциал языковых моделей (LLM) в области образования, особенно в преподавании математики. Авторы утверждают, что LLM могут значительно улучшить процесс обучения, предлагая персонализированные объяснения и решения задач.