Исследования и наука
Исследование: LLM используют «пустые» токены для скрытых вычислений
Исследователи обнаружили, что современные языковые модели способны выполнять сложные многошаговые рассуждения, используя «пустые» токены, такие как многоточия или последовательности чисел. В таких случаях модель выдает правильный ответ без видимой цепочки рассуждений (CoT) в тексте. Это создает серьезную проблему для контроля поведения ИИ, так как внешне токены не содержат информации о логике процесса.
Способен ли ИИ совершать научные прорывы
Исследователи анализируют потенциал ИИ в фундаментальной науке, рассматривая его не просто как инструмент автоматизации, а как полноценного участника исследовательского процесса. В центре внимания — способность моделей генерировать гипотезы, анализировать массивы данных и ускорять циклы открытий в биологии, химии и физике, меняя традиционные подходы к научному методу и проверке теорий.
Математики разрабатывают строгие правила для использования ИИ
Математическое сообщество инициировало разработку стандартов и формальных правил для применения ИИ в научных исследованиях. Цель инициативы — повысить прозрачность и воспроизводимость результатов, полученных с помощью нейросетей. Эксперты стремятся минимизировать риски «черного ящика» и обеспечить верифицируемость выводов, которые ИИ-системы предлагают в ходе сложных математических доказательств и анализа данных.
Обучение с подкреплением за пределами верифицируемых задач
Статья исследует ограничения классического обучения с подкреплением (RL) в задачах, где нет четкого сигнала вознаграждения или возможности проверки результата. Автор анализирует, как современные методы адаптации моделей позволяют ИИ эффективно обучаться в условиях неопределенности и субъективных критериев успеха, выходя за рамки традиционных игровых сред и математических оптимизационных задач.
Новая архитектура IVD-SSM для анализа семантического сходства нарративов
Исследователи представили модель IVD-SSM (Invariant-Variant Disentangled State-Space Model), разработанную для решения задачи SemEval-2026 по оценке сходства нарративов. Архитектура использует структурно-управляемые модели состояний (SSM) для разделения инвариантных и вариативных признаков текста. Это позволяет системе игнорировать поверхностные детали, такие как имена персонажей или локации, фокусируясь на глубинной структуре повествования и семантической близости сюжетов.
Исследование причин ошибок генерализации в современных LLM
Исследователи проанализировали проблему ошибок генерализации в больших языковых моделях, возникающих из-за разрыва между обучающими выборками и реальными условиями эксплуатации. Авторы предлагают использовать метод смешивания условных политик (Mixtures of Conditional Policies) для создания контролируемых демонстраций, позволяющих систематически выявлять и изучать сбои моделей в упрощенных, но репрезентативных сценариях, что критически важно для повышения надежности ИИ-систем.
Sakana AI представила метод координации мультиагентных систем Sheaf-ADMM
Исследователи из Sakana AI разработали новый математический подход Sheaf-ADMM для эффективной координации автономных ИИ-агентов. Метод опирается на теорию пучков (sheaf theory) и алгоритм ADMM, позволяя агентам достигать консенсуса в сложных распределенных средах. Решение значительно повышает масштабируемость систем, где требуется согласованное принятие решений без централизованного управления.
Автоматизация стадирования рака по патологическим отчетам с помощью ИИ
Исследователи представили систему CaresAI для автоматического определения стадии рака по классификации TNM (опухоль, узлы, метастазы) на основе анализа патологических отчетов из базы The Cancer Genome Atlas. Решение использует комбинацию классических методов машинного обучения и глубоких нейронных сетей, преобразуя медицинские тексты в структурированные данные для многоклассовой классификации, что значительно ускоряет обработку клинической документации.
WorldBagel: исследование потенциала унифицированных мультимодальных моделей
Исследователи представили WorldBagel — архитектуру, объединяющую возможности зрения, языка и управления действиями в рамках единой модели мира. Работа изучает, как современные мультимодальные модели, обладающие мощными генеративными способностями, могут эффективно моделировать динамику окружающей среды для задач восприятия, логического вывода и планирования, выходя за рамки стандартных Vision-Language-Action (VLA) систем.
Adversarial Dynamics Priors: новый метод обучения устойчивой походке гуманоидных роботов
Исследователи представили метод Adversarial Dynamics Priors (ADP), повышающий устойчивость гуманоидных роботов к внешним воздействиям при передвижении. В отличие от традиционных подходов, имитирующих лишь кинематику, ADP внедряет состязательное обучение для регуляризации динамических характеристик, таких как центр масс, импульс и силы взаимодействия с поверхностью, что позволяет роботам сохранять равновесие в сложных условиях.
Метод Best-of-Better-N для улучшения качества ответов LLM на этапе инференса
Исследователи представили метод Best-of-Better-N, который повышает качество генерации LLM без необходимости дообучения модели. Подход использует контекстное обучение для направленного формирования ответов, которые затем оцениваются моделью вознаграждения. Это позволяет эффективно выбирать наиболее качественные варианты из сгенерированных, преодолевая ограничения стандартных стратегий отбора, когда базовая модель редко выдает высокооцененные ответы.
Исследование: почему разрыв в производительности LLM-роутеров может быть иллюзией
Исследователи проанализировали эффективность систем маршрутизации запросов между LLM, которые призваны оптимизировать баланс качества и стоимости. Выяснилось, что значительная часть «разрыва» между текущими роутерами и теоретическим идеалом (оракулом) обусловлена не столько качеством моделей, сколько случайным шумом в данных разметки и стохастической природой генерации ответов при единичном тестировании.
LLM перенимают социальные предубеждения в зависимости от присвоенных ролей
Исследование показало, что большие языковые модели склонны воспроизводить человеческие социальные иерархии и предрассудки, если им назначают конкретные профессиональные роли. При имитации высокостатусных или низкостатусных позиций модели начинают демонстрировать соответствующие паттерны поведения, отражающие стереотипы о власти и доминировании, заложенные в обучающих данных, что ставит под вопрос нейтральность ИИ-ассистентов в корпоративной среде.
LawZero: новый подход к безопасности ИИ через незаинтересованное прогнозирование
Исследователи представили концепцию LawZero — метод обеспечения безопасности ИИ, основанный на принципе «незаинтересованного предсказателя». В отличие от традиционных подходов, ориентированных на обучение с подкреплением, LawZero фокусируется на минимизации влияния целей модели на процесс генерации ответов. Это позволяет снизить риски манипуляций и нежелательного поведения, сохраняя при этом высокую точность прогнозирования и логическую последовательность при выполнении сложных задач.
Микроскопическая трансформер-модель научилась строить карту мира
Исследователи представили компактную трансформер-модель с параметрами всего в 155 тысяч, способную формировать внутреннюю карту окружения, которое она никогда не видела в процессе обучения. Эксперимент демонстрирует, как архитектура трансформеров может спонтанно развивать механизмы пространственного мышления и навигации, используя минимальные вычислительные ресурсы для решения задач, традиционно требующих гораздо более крупных нейронных сетей.
Ramanujan Machine: новый вызов для ИИ в поиске математических закономерностей
Проект Ramanujan Machine представил новый вызов для систем искусственного интеллекта, направленный на автоматический поиск фундаментальных математических констант и формул. Задача заключается в использовании алгоритмов для генерации гипотез, которые затем проверяются на соответствие известным математическим структурам. Этот подход позволяет ИИ выходить за рамки простой обработки данных, переходя к генерации новых теоретических знаний в области теории чисел.
Математика в эпоху ИИ: как нейросети меняют научный поиск
Современные языковые модели начинают играть роль полноценных соавторов в математических исследованиях, помогая ученым формулировать гипотезы и проверять доказательства. Несмотря на склонность к «галлюцинациям», ИИ становится инструментом для поиска закономерностей в огромных массивах данных, что радикально ускоряет процесс верификации теорем и открывает новые горизонты в фундаментальной науке, ранее недоступные для ручного анализа.
Anthropic опубликовала инструментарий для интерпретируемости нейросетей
Компания Anthropic открыла исходный код проекта Jacobian Lens, который сопровождает их исследование механизмов работы нейронных сетей. Инструментарий позволяет визуализировать и анализировать внутренние представления моделей, помогая исследователям лучше понимать, как именно ИИ обрабатывает информацию и какие признаки активируются при выполнении конкретных задач. Это важный шаг в сторону прозрачности «черных ящиков» современных LLM.
Переосмысление теории среднего поля для нейронных сетей
Исследователи предложили новый подход к анализу нейронных сетей через призму теории среднего поля, что позволяет глубже понять динамику обучения глубоких моделей. Традиционные методы часто упрощали архитектуры до бесконечной ширины, однако новая работа учитывает конечность слоев и весов, предлагая более точное описание того, как именно нейросети достигают сходимости и обучаются на сложных данных.
Манипуляция заголовками новостей в алгоритмической торговле на базе LLM
Исследователи проанализировали уязвимости алгоритмических торговых систем, использующих LLM для анализа новостных заголовков. Выяснилось, что специально сформированные «отравленные» заголовки могут провоцировать модели на ошибочную интерпретацию рыночных настроений, что приводит к неверным торговым решениям. Работа демонстрирует критические риски безопасности для финансовых ИИ-систем, полагающихся на нефильтрованные потоки данных из открытых источников.
Решение проблемы «группового мышления» в больших языковых моделях
Исследователи и стартапы ищут способы борьбы с эффектом «группового мышления» у LLM, когда модели склонны воспроизводить одни и те же ответы, ограничивая разнообразие выводов. Новый подход предполагает использование специализированных алгоритмов для диверсификации генерации, что позволяет ИИ рассматривать альтернативные гипотезы и снижать предвзятость, возникающую из-за схожести обучающих данных и механизмов предсказания следующего токена.
Анализ использования ИИ-агентов на платформе Hugging Face
Hugging Face представила открытый датасет, фиксирующий паттерны взаимодействия пользователей с ИИ-агентами на своей платформе. Исследование раскрывает реальные сценарии применения агентных систем, типы используемых инструментов и частоту вызова внешних функций. Эти данные позволяют разработчикам лучше понять, как именно агенты справляются с многоэтапными задачами в условиях реальной эксплуатации.
Генеративный ИИ в разработке рецептур растительных бургеров
Исследователи применили генеративные модели для создания рецептур растительных бургеров, которые превосходят аналоги по вкусовым качествам, питательной ценности и экологичности. Алгоритм оптимизировал сочетания ингредиентов, учитывая молекулярный состав и текстурные свойства, что позволило сократить углеродный след производства и повысить содержание полезных микронутриентов без потери потребительских характеристик продукта.
Метод ReContext повышает точность работы LLM с длинными контекстами
Исследователи представили метод ReContext, решающий проблему неэффективного использования длинных контекстов в LLM. Несмотря на увеличение объема входных данных, модели часто игнорируют важные фрагменты информации. Новый подход использует рекурсивное воспроизведение доказательств (Recursive Evidence Replay), что позволяет моделям лучше извлекать и связывать разрозненные данные, значительно повышая качество логических выводов в задачах с большими массивами текста.