Исследования и наука
Выпущен датасет Cybersecurity AI (CAI) для обучения моделей в сфере кибербезопасности
Исследователи представили Cybersecurity AI (CAI) — специализированный набор данных, предназначенный для обучения и оценки языковых моделей в задачах кибербезопасности. Датасет включает структурированные примеры угроз, уязвимостей и сценариев защиты, что позволяет разработчикам точнее настраивать ИИ для автоматизированного анализа кода, обнаружения аномалий и реагирования на инциденты в реальных инфраструктурах.
Инструменты для «очеловечивания» текста снижают точность детекторов ИИ
Исследователи проанализировали эффективность специализированных инструментов, предназначенных для маскировки ИИ-сгенерированного контента. Эти сервисы перефразируют текст, изменяя статистические закономерности, на которые опираются детекторы. В результате точность систем распознавания ИИ-текста существенно падает, что создает серьезные проблемы для академической среды и платформ, требующих верификации авторства контента в условиях растущей доступности генеративных моделей.
Нобелевский лауреат возглавил лабораторию ИИ-материаловедения в Китае
Ари Уоршел, лауреат Нобелевской премии по химии, покинул США, чтобы возглавить новую лабораторию по разработке материалов с помощью искусственного интеллекта в Китае. Этот переход подчеркивает глобальную конкуренцию за лидерство в области вычислительной химии и ускорение внедрения генеративных моделей для синтеза новых соединений, что может радикально сократить циклы лабораторных исследований в фармацевтике и энергетике.
LLM научились предсказывать результаты социальных экспериментов
Исследователи выяснили, что большие языковые модели способны с высокой точностью предсказывать исходы социальных экспериментов, имитируя поведение участников. Анализ показал, что прогнозы ИИ коррелируют с реальными данными исследований, что открывает новые возможности для предварительного тестирования гипотез в социологии и психологии, позволяя ученым экономить ресурсы на проведении масштабных полевых испытаний.
Влияние «персон» на стратегическое поведение ИИ-агентов в теории игр
Исследователи изучили, как наделение LLM-агентов специфическими личностными характеристиками меняет их поведение в классической игре «Разделяй или забирай» (Split or Steal). Эксперименты показали, что изменение промптов, задающих «персону», статистически значимо влияет на склонность агентов к кооперации или эгоистичным действиям, что открывает новые возможности для управления агентным поведением в многопользовательских системах.
Исследование склонности LLM к стереотипному мышлению
Исследователи проанализировали склонность современных языковых моделей к воспроизведению социальных стереотипов. В ходе экспериментов выяснилось, что даже при нейтральных запросах нейросети демонстрируют устойчивые паттерны предвзятости, основанные на демографических и культурных данных. Работа подчеркивает сложность достижения объективности в генеративных системах, так как модели обучаются на массивах данных, содержащих исторические и общественные предубеждения.
Новый метод глубокого структурного рассуждения для материаловедения и химии
Исследователи представили метод глубокого нативного структурного рассуждения (Deep Native Structural Reasoning), позволяющий ИИ-моделям анализировать взаимосвязи между структурой и свойствами материалов. Подход объединяет принципы химии, биологии и физики, обеспечивая прозрачную интерпретацию пространственной организации молекул. Это позволяет автоматизировать предсказание физических и химических характеристик веществ с высокой точностью, опираясь на фундаментальные научные ограничения и симметрию.
Анализ линейной аппроксимации механизмов внимания в трансформерах
Исследователи представили метод анализа, позволяющий эффективно переводить квадратичные механизмы self-attention в линейные без существенной потери качества модели. Авторы работы выявили, что softmax-внимание опирается на зависимые от ключей ортогональные проекции ранга 1, что открывает путь к оптимизации инференса для длинных контекстов через строгий контроль дизайна обновлений состояния в замороженных архитектурах.
Agon: новый метод обучения моделей рассуждению через конкуренцию
Исследователи представили Agon — метод обучения с подкреплением, где две модели выступают взаимными оценщиками процесса рассуждения друг друга. В отличие от стандартных подходов, оценивающих только итоговый ответ, Agon анализирует цепочку логических шагов. Это позволяет моделям учиться качественному мышлению, а не просто увеличивать объем текста в попытке угадать правильный результат в сложных задачах.
Новый метод оптимизации физических систем на базе нейрооператоров
Исследователи представили метод Neural Operator-enabled Topology-informed Evolutionary Strategy (NOTES) для решения задач оптимизации, ограниченных дифференциальными уравнениями в частных производных (PDE). Подход объединяет нейрооператоры с эволюционными стратегиями, что позволяет эффективно преодолевать высокую размерность и невыпуклость пространства проектирования, обеспечивая более высокую надежность и переносимость решений по сравнению с традиционными генеративными моделями.
Исследование RoPE: как данные определяют использование частот в трансформерах
Исследователи проанализировали механизм Rotary Position Embeddings (RoPE) и выяснили, что модели используют частоты позиционного кодирования крайне неравномерно. Авторы работы доказали, что выбор частот напрямую зависит от структуры относительных расстояний в обучающей выборке. Это открытие объясняет, как данные влияют на способность моделей к обобщению по длине контекста и помогает оптимизировать архитектуру трансформеров для работы с длинными последовательностями.
MedPMC: новый подход к масштабированию медицинских мультимодальных данных
Исследователи представили MedPMC — систематический фреймворк для создания высококачественных мультимодальных датасетов на основе архива PubMed Central. Решение позволяет эффективно извлекать и связывать медицинские изображения с экспертными текстовыми описаниями, преодолевая проблему нехватки качественных данных для обучения фундаментальных моделей. Инструмент значительно повышает точность и достоверность данных, необходимых для развития специализированных систем в здравоохранении.
Анализ активаций нейросетей для предсказания галлюцинаций
Исследователи изучили, как внутренние активации языковых моделей Bielik позволяют предсказать вероятность галлюцинаций до генерации ответа. Анализ показал, что дисперсия активаций тесно связана с тем, насколько модель «знакома» с сущностью, что позволяет эффективно разделять случаи фактической надежности и потенциальных ошибок в ответах моделей разного масштаба.
Исследование DiaLLM: почему LLM понимают диалекты, но не говорят на них
Исследователи представили DiaLLM — метод адаптации языковых моделей к региональным диалектам английского языка. Несмотря на способность современных LLM распознавать диалектную речь, они по-прежнему генерируют ответы преимущественно на стандартном американском английском. Авторы работы применили непрерывное дообучение на корпусе International Corpus of English, чтобы сократить разрыв между пониманием диалектов и их воспроизведением в генерации.
Обзор методов рекурсивного самосовершенствования ИИ
Исследователи проанализировали 1250 научных работ, посвященных способности ИИ-систем к самостоятельному улучшению. Авторы систематизировали разрозненную терминологию, охватывающую процессы от итеративной доработки ответов до автономных исследовательских циклов. Работа классифицирует подходы к самообучению, выделяя фундаментальные различия между методами оптимизации, которые позволяют моделям адаптироваться без прямого участия человека в каждом цикле генерации данных или кода.
RL-дообучение развивает навыки композиционного мышления у LLM
Исследователи изучили, как обучение с подкреплением (RL) влияет на способность моделей к логическому выводу. Эксперименты в контролируемой среде показали, что RL не просто усиливает базовые навыки, а позволяет модели комбинировать их в сложные стратегии. Это доказывает, что пост-трейнинг способствует формированию новых высокоуровневых алгоритмов решения задач, выходящих за рамки исходных данных предварительного обучения.
Оптимизация глубины нейросетей через теорию оптимального управления
Исследователи предложили новый метод адаптации архитектуры нейронных сетей, основанный на теории оптимального управления. Рассматривая процесс обучения как задачу управления в непрерывном времени, авторы разработали систему апостериорной оценки ошибок. Это позволяет математически точно распределять вычислительную нагрузку по слоям и динамически изменять глубину модели в процессе обучения, повышая эффективность аппроксимации данных.
Исследование: поведение LLM определяется стилем обучения лабораторий, а не архитектурой
Новое исследование показывает, что современные большие языковые модели обладают уникальными «цифровыми отпечатками», которые зависят от методологии обучения конкретной лаборатории, а не от архитектурных особенностей модели. Анализ поведения систем вроде GPT и Claude выявил устойчивые паттерны ответов, позволяющие с высокой точностью идентифицировать разработчика, даже если модель была подвергнута дообучению или смене версии.
CARLA-GS: новый метод генерации критических ситуаций для беспилотного транспорта
Исследователи представили CARLA-GS — фреймворк для синтеза редких критических сценариев в симуляторах беспилотного вождения. Система разделяет визуальное представление, логическое рассуждение и физическое моделирование, что позволяет создавать фотореалистичные «corner cases» для тестирования безопасности. Подход значительно повышает эффективность обучения моделей управления, обеспечивая генерацию сложных дорожных ситуаций, которые трудно встретить в реальных данных при обычном вождении.
Исследование методов редактирования деревьев с помощью LLM
Исследователи проанализировали семь подходов к использованию больших языковых моделей для манипуляции древовидными структурами данных. Основная проблема заключается в нестабильности идентификаторов при генерации, что затрудняет итеративное редактирование. Авторы доказывают, что использование стабильных идентификаторов (Stable IDs) позволяет значительно повысить точность и предсказуемость изменений в сложных иерархических структурах, минимизируя ошибки при обновлении контента.
Математический подход к безопасности обучения моделей через Langevin Dynamics
Исследователи представили новый теоретический метод оценки рисков при обучении нейронных сетей, использующих стохастический градиентный спуск. Авторы рассматривают процесс обучения как передемпфированную динамику Ланжевена и выводят математические границы вероятности попадания параметров модели в «опасные зоны» (failure regions), что позволяет контролировать стабильность и безопасность весов в процессе оптимизации функции потерь.
ИИ в архитектурном проектировании: от генерации ответов к совместному творчеству
Исследователи представили концепцию взаимодействия человека и ИИ, ориентированную на структурное проектирование и архитектуру. В отличие от систем, выдающих готовый результат, предложенный подход фокусируется на итеративном процессе, где ИИ помогает пользователю визуализировать идеи, исследовать альтернативные варианты и уточнять частичные решения с учетом жестких пространственных и инженерных ограничений, характерных для строительного проектирования.
Исследование сходимости метода оптимистических экспоненциальных весов в играх
Исследователи проанализировали поведение метода оптимистических экспоненциальных весов (OEW) в биматричных играх двух игроков. Основным нововведением работы стало использование асимметричных шагов обучения для каждого игрока. Авторы доказали условия глобальной сходимости итераций к равновесию Нэша, что расширяет понимание динамики обучения в многоагентных системах и игровых моделях, где ранее требовались идентичные параметры шага.
Почему агентным системам необходима экспертиза узких специалистов
Современные ИИ-агенты часто сталкиваются с ограничениями при решении сложных задач, требующих глубоких предметных знаний. Автор анализирует, почему полагаться исключительно на общие LLM недостаточно для надежной автоматизации. Для повышения эффективности агентных систем необходимо внедрение специализированных экспертных модулей, которые обеспечивают точность, верифицируемость и соответствие профессиональным стандартам в узких областях деятельности.