Исследования и наука
Исследователи обнаружили «нейроны безопасности» в LLM для поиска уязвимостей в коде
Исследователи выявили специфические слои нейронов в архитектуре больших языковых моделей, которые отвечают за распознавание уязвимостей в программном коде. Анализ показал, что эти нейронные структуры активируются при обработке небезопасных паттернов, что позволяет использовать их для автоматизированного аудита безопасности. Открытие дает новый метод интерпретации внутренних механизмов принятия решений моделями при анализе кода.
Глубокое обучение выявило новый ЭКГ-биомаркер внезапной сердечной смерти
Исследователи применили методы глубокого обучения для анализа данных электрокардиограмм, что позволило обнаружить новый биомаркер, предсказывающий риск внезапной сердечной смерти. Модель анализирует тонкие паттерны в электрической активности сердца, которые остаются незаметными для традиционных методов диагностики, открывая новые возможности для раннего выявления пациентов из групп высокого риска и превентивной терапии сердечно-сосудистых заболеваний.
Критика квантовых достижений Microsoft в журнале Nature
В журнале Nature опубликована научная статья, ставящая под сомнение заявления Microsoft о прорыве в области квантовых вычислений. Исследователи подвергли критике технологию топологических кубитов, представленную компанией в феврале 2025 года в чипе Majorana 1. Авторы работы утверждают, что Microsoft преувеличила значимость своих результатов, что вызывает вопросы о надежности фундаментальной архитектуры их будущих квантовых систем.
Apple представила концепцию «супер-весов» для управления поведением LLM
Исследователи Apple представили метод «супер-весов» (Super Weights), позволяющий радикально менять поведение больших языковых моделей через модификацию одного конкретного параметра. Этот подход демонстрирует, что критически важные функции модели могут быть локализованы в минимальном наборе весов, что открывает новые пути для эффективной настройки поведения ИИ без необходимости полного переобучения всей архитектуры.
BPL: язык программирования для верификации ИИ-протоколов в биопроизводстве
Исследователи представили BPL (Biomanufacturing Protocol Language) — специализированный язык программирования, предназначенный для формальной верификации протоколов в автоматизированном биопроизводстве. Использование компилятора позволяет гарантировать корректность выполнения сложных биологических процессов, управляемых ИИ, минимизируя риски ошибок при масштабировании лабораторных экспериментов и переходе к промышленному синтезу сложных соединений.
Риски самодистилляции в обучении LLM: снижение разнообразия ответов
Исследователи обнаружили, что метод обучения on-policy self-distillation, использующий одну модель в качестве учителя и ученика, ведет к снижению разнообразия генераций. Несмотря на рост точности pass@1, модель теряет способность к вариативности ответов, что делает бесполезным увеличение количества попыток (pass@k) для улучшения итогового результата. Проблема кроется в накоплении ошибок при обучении на собственных демонстрациях.
Риски использования лексиконов для анализа риторики в социальных науках
Исследователи выявили критическую уязвимость в методах вычислительных социальных наук: использование ключевых слов для оценки риторической позиции часто приводит к ложным выводам. Анализ 85 интервью показал, что статистически значимые корреляции между эмоциональной окраской и уверенностью высказываний могут быть лишь артефактом инструмента измерения, а не реальной характеристикой текста, что ставит под сомнение точность многих текущих исследований.
Влияние синтетических данных на классификацию несбалансированных выборок
Исследователи представили теоретическую базу, объясняющую эффективность аугментации синтетическими данными при работе с несбалансированными классами. Работа фокусируется на метриках, основанных на оценках (score-based), таких как AUROC и AUPRC. Авторы определили условия, при которых генерация данных для миноритарных классов действительно улучшает качество классификации, помогая избежать переобучения и некорректной оптимизации пороговых значений в моделях машинного обучения.
Феномен «естественного разгроккинга»: почему модели забывают правила во время обучения
Исследователи обнаружили эффект «естественного разгроккинга» (natural ungrokking), при котором языковые модели в процессе обучения сначала усваивают определенные лингвистические правила, а затем внезапно «забывают» их, несмотря на наличие данных в обучающей выборке. Этот процесс асимметричного контроля над тем, какие закономерности сохраняются в весах модели, ставит под сомнение предсказуемость формирования знаний в ходе претренинга.
Применение машинного обучения для прогнозирования эффективности терапии аутизма
Исследователи применили алгоритмы машинного обучения для выявления пациентов с расстройствами аутистического спектра (РАС), которые могут положительно отреагировать на терапию буметанидом. Анализ данных позволил выделить биомаркеры и клинические характеристики, предсказывающие успех лечения, что открывает путь к персонализированному подходу в психиатрии и повышает точность выбора терапевтических стратегий для пациентов с различными нейробиологическими профилями.
Исследование: читатели предпочитают художественные переводы от людей, а не от ИИ
Исследователи проанализировали восприятие художественных текстов, переведенных с помощью ИИ и профессиональных переводчиков. Хотя алгоритмы успешно справляются с передачей базового смысла и грамматической точностью, читатели отмечают значительную разницу в погружении и литературной выразительности. Автоматические метрики качества оказались неспособны уловить тонкие эмоциональные аспекты, которые делают текст по-настоящему художественным и вовлекающим для аудитории.
Исследование Google: как цепочки рассуждений улучшают извлечение знаний из LLM
Исследователи Google представили метод, который значительно повышает точность извлечения фактов из внутренней памяти больших языковых моделей. Вместо прямого запроса модель сначала генерирует цепочку рассуждений, что позволяет ей эффективнее активировать параметрические знания. Этот подход помогает преодолеть ограничения стандартных моделей при ответе на вопросы, требующие глубокого контекстного понимания или редких данных.
Исследование устойчивости вариационного метода Монте-Карло в нейросетевых анзацах
Исследователи проанализировали устойчивость вариационного метода Монте-Карло (VMC), широко применяемого в теории электронной структуры для поиска основных состояний квантовых систем. Работа доказывает, что эффективность стохастической оптимизации в современных нейросетевых архитектурах, таких как FermiNet, напрямую зависит от узловой геометрии волновой функции, что создает фундаментальные ограничения для сходимости алгоритмов при работе с тяжелыми хвостами распределений.
Dziri Voicebot: система распознавания речи для алжирского диалекта
Исследователи представили Dziri Voicebot — комплексную систему преобразования речи в речь (S2S), разработанную специально для алжирского диалекта. Проект решает проблему нехватки данных для низкоресурсных языков, преодолевая сложности отсутствия стандартизированной орфографии и частого переключения кодов между арабским и французским языками, что открывает новые возможности для развития разговорного ИИ в региональных лингвистических контекстах.
Новый алгоритм для поиска равновесия Нэша в многопользовательских играх
Исследователи представили метод Variable Bound Tightening (VBT) для вычисления равновесия Нэша в многопользовательских играх с неполной информацией. В отличие от классических алгоритмов, таких как минимизация контрфактического сожаления, которые эффективны в играх для двух игроков, VBT позволяет точнее аппроксимировать стратегии в сложных многопользовательских сценариях, где традиционные подходы сталкиваются с ограничениями масштабируемости и сходимости.
Закон масштабирования для прогнозирования биржевых стаканов
Исследователи проанализировали применимость законов масштабирования (scaling laws) к задачам прогнозирования лимитных книг заявок (LOB). Изучив широкий спектр моделей — от простых деревьев решений до специализированных нейронных архитектур, таких как MLPLOB, — авторы установили, что зависимость между вычислительными затратами на инференс и точностью прогноза описывается степенным законом. Это позволяет оптимизировать архитектуры для высокочастотного трейдинга.
Новый подход к оценке интеллекта ИИ-агентов через теорию сжатия данных
Исследователи представили аналитическую модель оценки интеллекта агентных систем, основанную на принципе «интеллект как сжатие». Авторы предлагают измерять эффективность агентов через объем информации, необходимый для выполнения конкретных задач в заданных условиях. Этот подход позволяет количественно сравнивать способности моделей к использованию инструментов, поиску данных и многошаговому взаимодействию с внешней средой, переводя качественные характеристики агентов в измеримые биты.
SE-AGCNet: объединение улучшения речи и контроля громкости в единую нейросеть
Исследователи представили SE-AGCNet — архитектуру для обработки аудио в режиме реального времени, которая объединяет задачи улучшения речи (Speech Enhancement) и автоматической регулировки усиления (AGC). В отличие от традиционных каскадных систем, где модули работают независимо, предложенный метод позволяет одновременно подавлять шумы и нормализовать уровень громкости, избегая артефактов и потери качества сигнала.
ИИ способствует научной монокультуре: анализ цитирований
Исследование, опубликованное в Nature, указывает на риск снижения разнообразия в научной среде из-за повсеместного внедрения ИИ. Анализ миллионов публикаций показал, что использование алгоритмов для написания и обработки текстов приводит к стандартизации лексики и сужению тематического охвата. Это создает «научную монокультуру», где новые идеи вытесняются предсказуемыми результатами, соответствующими паттернам обучающих выборок моделей.
Ограничение памяти как способ улучшения обучения ИИ-моделей
Исследователи из Института психолингвистики Макса Планка выяснили, что искусственное ограничение объема памяти ИИ-моделей до 3–7 элементов значительно повышает эффективность усвоения языка. Аналогия с кратковременной памятью человека помогает нейросетям лучше обобщать правила грамматики и структуры, предотвращая переобучение на избыточных данных и способствуя более качественному формированию лингвистических навыков в процессе обучения.
Развитие эмоционального интеллекта в ИИ: от распознавания лиц к анализу контекста
Разработчики ИИ переходят от простого распознавания эмоций по мимике к более сложным системам, учитывающим социальный контекст и многомодальные данные. Современные модели учатся интерпретировать не только выражение лица, но и тон голоса, жесты и обстановку, что позволяет ИИ точнее оценивать эмоциональное состояние человека и адекватнее реагировать в процессе взаимодействия.
Почему LLM теряют точность при выполнении длинных циклических задач
Исследование выявило критическую проблему в работе больших языковых моделей при выполнении многошаговых итеративных процессов. С увеличением количества циклов вероятность ошибки возрастает экспоненциально из-за накопления отклонений от заданного протокола. Автор анализа вводит понятие «периода полураспада соблюдения протокола», объясняя, почему даже продвинутые модели склонны к деградации логики при выполнении длинных последовательностей действий.
ИИ-модели превзошли экспертов в навыках убеждения
Новое исследование показало, что современные языковые модели способны эффективнее убеждать людей в своей правоте, чем профессиональные эксперты. В ходе экспериментов участники, взаимодействовавшие с ИИ, чаще меняли свое мнение по сложным вопросам, чем те, кто обсуждал темы с подготовленными специалистами. Результаты подчеркивают растущую способность нейросетей влиять на человеческие убеждения и принимать участие в дискуссиях.
Геометрия шума: почему диффузионные модели могут работать без кондиционирования
Исследователи представили новый взгляд на работу диффузионных моделей, поставив под сомнение необходимость классического кондиционирования по уровню шума. Анализ показывает, что структура данных в процессе диффузии обладает геометрическими свойствами, которые позволяют моделям обучаться эффективно без явного указания временных шагов или параметров зашумления, что открывает путь к упрощению архитектур генеративных нейросетей.