Исследования и наука
Использование Claude для поиска криптографических уязвимостей
Исследователи Anthropic продемонстрировали способность модели Claude 3.5 Sonnet находить реальные уязвимости в криптографических реализациях. ИИ успешно проанализировал открытый исходный код, выявив ошибки в логике шифрования и реализации алгоритмов, которые ранее не были задокументированы. Этот кейс подтверждает эффективность LLM в качестве инструмента для автоматизированного аудита безопасности и поиска критических багов в сложных программных системах.
Anthropic: ИИ-модели способны находить уязвимости в алгоритмах шифрования
Исследователи Anthropic продемонстрировали способность больших языковых моделей выявлять критические уязвимости в сложных алгоритмах шифрования, включая стандарт AES. ИИ успешно проанализировал математические структуры, которые ранее считались устойчивыми к автоматизированному анализу, что открывает новые возможности для поиска брешей в безопасности и потенциально меняет подходы к криптографическому аудиту и защите данных в глобальных системах.
Модель Anthropic Mythos обнаружила уязвимости в постквантовых криптоалгоритмах
Компания Anthropic представила результаты тестирования модели Claude Mythos, которая успешно выявила критические уязвимости в современных криптографических алгоритмах. ИИ удалось обнаружить недостатки в схеме цифровой подписи HAWK, которую эксперты изучали более двух лет. Исследование заняло 60 часов работы модели при затратах на API около 100 000 долларов, что демонстрирует новые возможности ИИ в анализе безопасности.
Исследование: «нецензурированные» LLM демонстрируют повышенный уровень оптимизма
Новое исследование arXiv показывает, что модели с удаленными фильтрами безопасности («uncensored») демонстрируют статистически значимый сдвиг в сторону более оптимистичного тона по сравнению с их базовыми версиями. Анализ выявил, что снятие ограничений меняет не только готовность отвечать на запрещенные запросы, но и общую эмоциональную окраску генерируемого текста, делая ответы более позитивными.
Новый подход DITL повышает точность диагностики рака груди на маммограммах
Исследователи представили фреймворк Dataset-Informed Transfer Learning (DITL), оптимизирующий обучение моделей для анализа маммограмм. В отличие от стандартного трансферного обучения, DITL учитывает специфические характеристики датасетов, что позволяет эффективнее классифицировать патологии как на малых выборках, так и на масштабных клинических данных, преодолевая ограничения существующих методов в медицинской визуализации.
Reinformed Dreamer: новый метод обучения моделей мира через латентное руководство
Исследователи представили Reinformed Dreamer — метод обучения моделей мира в задачах с частичной наблюдаемостью. Подход использует асимметричное обучение с подкреплением, где агент получает дополнительную информацию (латентное руководство) помимо стандартных сигналов вознаграждения. Это позволяет эффективнее формировать представления о среде и быстрее осваивать сложные стратегии поведения в условиях неопределенности, имитируя процесс обучения человека с наставником.
Влияние конкуренции на безопасность разработки ИИ: результаты эксперимента
Исследователи проанализировали связь между темпами разработки ИИ и пренебрежением протоколами безопасности в условиях рыночной гонки. Эксперимент показал, что конкурентное давление вынуждает участников выбирать более рискованные стратегии ради опережения соперников. Результаты подтверждают гипотезу о том, что стремление к лидерству напрямую коррелирует со снижением внимания к вопросам контроля и надежности систем.
CHARM: новая мультимодальная модель-фундамент для графовых данных
Исследователи представили CHARM — мультимодальную графовую модель-фундамент, предназначенную для работы с данными, объединяющими текст, изображения и структурные связи. Архитектура использует иерархическое моделирование контекста, что позволяет эффективно переносить знания между различными графовыми доменами без необходимости дообучения (zero-shot transfer), значительно снижая затраты на разметку данных и адаптацию систем в сложных прикладных задачах.
Исследование: ИИ-модели склонны к избыточному копированию синтаксиса пользователей
Исследователи проанализировали явление синтаксической конвергенции в диалогах с LLM. Выяснилось, что модели, прошедшие инструктивное дообучение, значительно чаще копируют грамматические конструкции собеседника, чем это делают люди в аналогичных условиях. Этот эффект проявляется на широком спектре синтаксических структур, указывая на специфические механизмы адаптации моделей в процессе взаимодействия с пользователем.
Ускорение генерации видео через дистилляцию параллельного декодирования
Исследователи представили метод Parallel Decoding Distillation (PDD), направленный на радикальное ускорение генерации изображений и видео. Технология позволяет сократить количество итераций при сэмплировании в диффузионных и потоковых моделях, сохраняя при этом высокое визуальное качество. Новый подход решает проблему вычислительной сложности, характерную для современных генеративных моделей, за счет оптимизации процесса обучения и перехода к многошаговой генерации с меньшими затратами ресурсов.
Новый метод предсказания динамики сцен через вероятностное моделирование
Исследователи представили метод Goal-Aware Representations of Future Kinematics (GRAF-Kin), позволяющий ИИ моделировать множественные варианты развития событий в видео вместо генерации единственного сценария. Подход фокусируется на предсказании кинематики объектов, учитывая неопределенность будущего, что критически важно для задач робототехники, автономного вождения и анализа сложных динамических сцен с неполными данными.
Оптимизация кода с помощью обучения с подкреплением: вызовы и решения
Исследователи изучили применение обучения с подкреплением (RL) для оптимизации производительности кода. Хотя использование RL для проверки корректности программ стало стандартом, переход к оптимизации времени выполнения сталкивается с серьезными препятствиями. Основными проблемами выступают шум при измерении задержек, разреженность наград и нестабильность алгоритмов обучения, которые нивелируют потенциальный прирост эффективности в реальных задачах программирования.
Новый метод PRISM-AH для распознавания амбивалентности и нерешительности в видео
Исследователи представили модель PRISM-AH, предназначенную для автоматического выявления состояний амбивалентности и нерешительности (A/H) в видеопотоках. Система анализирует противоречивые сигналы в мимике, голосе, речи и жестах человека. Технология помогает точнее определять психологические барьеры, предшествующие отказу от изменения поведения, что критически важно для медицины, психотерапии и систем поддержки принятия решений.
Метод автоматического выявления противоречий между текстом, таблицами и графами знаний
Исследователи представили новый подход к обнаружению противоречий в данных между различными модальностями: текстом, таблицами и графами знаний. В условиях, когда Wikipedia и Wikidata служат фундаментом для обучения LLM и RAG-систем, рассогласование информации в этих источниках критически влияет на точность генерации. Разработанный метод позволяет автоматически находить и объяснять конфликты, повышая надежность данных для ИИ-моделей.
Анализ расхождений в ответах модели Claude и профессиональных философов
Исследователи сопоставили ответы нейросети Claude 3 Opus с данными опроса PhilPapers, в котором участвовали тысячи профессиональных философов. Анализ показал, что модель демонстрирует уникальный профиль мнений, который часто не совпадает с консенсусом академического сообщества. В ряде этических и метафизических вопросов ИИ занимает позиции, отличные от человеческих, что ставит новые задачи перед разработчиками систем алайнмента.
LLM для оптимизации логистических задач и управления запасами
Исследователи представили метод использования больших языковых моделей для выбора оптимальных математических формулировок в задачах распределения запасов между складами. Вместо использования универсальных алгоритмов смешанного целочисленного программирования (MIP), модель анализирует специфику данных — волатильность спроса и ограничения сервиса — и подбирает наиболее эффективную стратегию решения для каждого конкретного случая, повышая точность логистического планирования.
Фреймворк для анализа нерегулярных клинических временных рядов с помощью LLM
Исследователи представили специализированный фреймворк для работы с клиническими временными рядами, которые отличаются разреженностью и асинхронностью данных. В отличие от стандартных мультимодальных моделей, новый подход эффективно обрабатывает нерегулярные интервалы наблюдений, характерные для медицины. Это позволяет точнее отвечать на вопросы по истории болезни и состоянию пациентов, минимизируя вычислительные затраты при сохранении высокой точности интерпретации данных.
Исследование способности генеративных моделей воспроизводить нестационарные поля
Исследователи проанализировали способность глубоких генеративных моделей (DGM) точно воспроизводить нестационарные гауссовские случайные поля, часто встречающиеся в пространственно-временном моделировании. Авторы работы установили, что, несмотря на широкое применение DGM для работы с высокоразмерными данными, их способность корректно улавливать фундаментальные статистические свойства реальных физических процессов остается недостаточно изученной и требует строгой математической верификации.
Обзор методов деидентификации лиц: от захвата данных до обработки
Исследователи представили комплексный обзор технологий деидентификации лиц (Face De-ID), направленных на сокрытие персональных данных в медиаконтенте при сохранении полезности изображений для аналитических задач. Работа систематизирует подходы к защите приватности в компьютерном зрении, анализируя эволюцию методов от простых искажений до современных генеративных моделей, обеспечивающих баланс между анонимностью и пригодностью данных для обучения ИИ-систем.
Penelope: новый метод эффективного скрытого рассуждения для LLM
Исследователи представили Penelope — архитектурный подход, позволяющий моделям выполнять сложные структурированные рассуждения без увеличения количества параметров или удлинения цепочки рассуждений (CoT). Метод использует локализованную латентную рекурсию, что позволяет выносить вычислительно затратные процессы за пределы авторегрессионной генерации токенов, снижая накладные расходы на инференс и повышая эффективность обработки логических задач.
SAM3D-Guided: новый метод улучшения 3D-восприятия для робототехнических VLA-моделей
Исследователи представили фреймворк SAM3D-Guided, направленный на устранение дефицита пространственного понимания у Vision-Language-Action (VLA) моделей. В отличие от стандартных решений, опирающихся на 2D-бэкенды, новый подход интегрирует объектно-ориентированные 3D-представления. Это позволяет роботам точнее взаимодействовать с объектами в условиях окклюзии, изменения масштаба и вариативности поз, значительно повышая качество манипуляций в сложных визуальных сценах.
Влияние случайности в LLM на воспроизводимость научных результатов
Исследователи проанализировали проблему непредсказуемости ответов больших языковых моделей, вызванную параметрами случайности, такими как температура и top-p сэмплинг. Авторы статьи подчеркивают, что отсутствие стандартизации в описании этих настроек при публикации научных работ делает результаты экспериментов невоспроизводимыми, что ставит под угрозу достоверность текущих исследований в области ИИ и машинного обучения.
Применение ИИ для расшифровки древних языков
Исследователи применяют методы машинного обучения для дешифровки древних письменностей, которые веками оставались загадкой для лингвистов. Использование нейросетевых моделей позволяет анализировать закономерности в структуре знаков и сопоставлять их с известными языковыми семьями. Этот подход открывает новые возможности для восстановления утраченных текстов и понимания культурных контекстов цивилизаций, чьи записи ранее считались нечитаемыми из-за отсутствия ключей к переводу.
Нейросетевой подход к моделированию минимальных поверхностей
Исследователи представили новый метод нейронного представления минимальных поверхностей, позволяющий эффективно решать задачи дифференциальной геометрии с помощью глубокого обучения. Подход опирается на аппроксимацию функций, минимизирующих площадь, что открывает возможности для более точного моделирования сложных физических структур и оптимизации форм в инженерных задачах, где традиционные численные методы сталкиваются с вычислительными ограничениями.