Исследования и наука
Эффект «висячего документа»: как короткие промпты провоцируют галлюцинации LLM
Исследователи обнаружили феномен «висячего документа» в работе Claude 3.5 Opus, при котором подача минималистичного промпта из нескольких символов (например, «--») заставляет модель генерировать длинные, связные тексты. Вместо отказа от обработки бессмысленного запроса, нейросеть интерпретирует его как сигнал к продолжению скрытого контекста или завершению вымышленного повествования, что указывает на уязвимости в механизмах управления вниманием и системными инструкциями.
OpenReviewer: специализированная LLM для автоматического рецензирования научных статей
Исследователи представили OpenReviewer — специализированную языковую модель, предназначенную для автоматизации процесса критического рецензирования научных публикаций. Система обучена на обширном корпусе экспертных отзывов, что позволяет ей анализировать структуру, методологию и аргументацию статей, предоставляя авторам и редакторам качественную обратную связь, сопоставимую по глубине с оценками профессиональных рецензентов в академической среде.
Использование Claude для поиска криптографических уязвимостей
Исследователи Anthropic применили модель Claude Mythos для анализа математических алгоритмов, успешно выявив слабые места в протоколе HAWK и упрощенной версии шифра AES. Хотя найденные уязвимости не несут прямой угрозы современным компьютерным системам, эксперимент демонстрирует эффективность LLM в поиске теоретических брешей в криптографии и подчеркивает важность специфических стратегий промптинга при работе со сложными математическими задачами.
Исследование: ограничения LLM в совершении научных открытий
Новая научная работа анализирует способность больших языковых моделей к совершению подлинных научных открытий. Авторы утверждают, что текущие архитектуры LLM, основанные на предсказании следующего токена, ограничены в способности выходить за рамки существующих данных. Модели эффективно синтезируют накопленные знания, но испытывают фундаментальные трудности с генерацией принципиально новых гипотез, требующих выхода за пределы статистических закономерностей обучающей выборки.
Использование Claude для поиска криптографических уязвимостей
Исследователи Anthropic продемонстрировали способность модели Claude 3.5 Sonnet находить реальные уязвимости в криптографических реализациях. ИИ успешно проанализировал открытый исходный код, выявив ошибки в логике шифрования и реализации алгоритмов, которые ранее не были задокументированы. Этот кейс подтверждает эффективность LLM в качестве инструмента для автоматизированного аудита безопасности и поиска критических багов в сложных программных системах.
Anthropic: ИИ-модели способны находить уязвимости в алгоритмах шифрования
Исследователи Anthropic продемонстрировали способность больших языковых моделей выявлять критические уязвимости в сложных алгоритмах шифрования, включая стандарт AES. ИИ успешно проанализировал математические структуры, которые ранее считались устойчивыми к автоматизированному анализу, что открывает новые возможности для поиска брешей в безопасности и потенциально меняет подходы к криптографическому аудиту и защите данных в глобальных системах.
Модель Anthropic Mythos обнаружила уязвимости в постквантовых криптоалгоритмах
Компания Anthropic представила результаты тестирования модели Claude Mythos, которая успешно выявила критические уязвимости в современных криптографических алгоритмах. ИИ удалось обнаружить недостатки в схеме цифровой подписи HAWK, которую эксперты изучали более двух лет. Исследование заняло 60 часов работы модели при затратах на API около 100 000 долларов, что демонстрирует новые возможности ИИ в анализе безопасности.
Исследование: «нецензурированные» LLM демонстрируют повышенный уровень оптимизма
Новое исследование arXiv показывает, что модели с удаленными фильтрами безопасности («uncensored») демонстрируют статистически значимый сдвиг в сторону более оптимистичного тона по сравнению с их базовыми версиями. Анализ выявил, что снятие ограничений меняет не только готовность отвечать на запрещенные запросы, но и общую эмоциональную окраску генерируемого текста, делая ответы более позитивными.
Новый подход DITL повышает точность диагностики рака груди на маммограммах
Исследователи представили фреймворк Dataset-Informed Transfer Learning (DITL), оптимизирующий обучение моделей для анализа маммограмм. В отличие от стандартного трансферного обучения, DITL учитывает специфические характеристики датасетов, что позволяет эффективнее классифицировать патологии как на малых выборках, так и на масштабных клинических данных, преодолевая ограничения существующих методов в медицинской визуализации.
Reinformed Dreamer: новый метод обучения моделей мира через латентное руководство
Исследователи представили Reinformed Dreamer — метод обучения моделей мира в задачах с частичной наблюдаемостью. Подход использует асимметричное обучение с подкреплением, где агент получает дополнительную информацию (латентное руководство) помимо стандартных сигналов вознаграждения. Это позволяет эффективнее формировать представления о среде и быстрее осваивать сложные стратегии поведения в условиях неопределенности, имитируя процесс обучения человека с наставником.
Влияние конкуренции на безопасность разработки ИИ: результаты эксперимента
Исследователи проанализировали связь между темпами разработки ИИ и пренебрежением протоколами безопасности в условиях рыночной гонки. Эксперимент показал, что конкурентное давление вынуждает участников выбирать более рискованные стратегии ради опережения соперников. Результаты подтверждают гипотезу о том, что стремление к лидерству напрямую коррелирует со снижением внимания к вопросам контроля и надежности систем.
CHARM: новая мультимодальная модель-фундамент для графовых данных
Исследователи представили CHARM — мультимодальную графовую модель-фундамент, предназначенную для работы с данными, объединяющими текст, изображения и структурные связи. Архитектура использует иерархическое моделирование контекста, что позволяет эффективно переносить знания между различными графовыми доменами без необходимости дообучения (zero-shot transfer), значительно снижая затраты на разметку данных и адаптацию систем в сложных прикладных задачах.
Исследование: ИИ-модели склонны к избыточному копированию синтаксиса пользователей
Исследователи проанализировали явление синтаксической конвергенции в диалогах с LLM. Выяснилось, что модели, прошедшие инструктивное дообучение, значительно чаще копируют грамматические конструкции собеседника, чем это делают люди в аналогичных условиях. Этот эффект проявляется на широком спектре синтаксических структур, указывая на специфические механизмы адаптации моделей в процессе взаимодействия с пользователем.
Ускорение генерации видео через дистилляцию параллельного декодирования
Исследователи представили метод Parallel Decoding Distillation (PDD), направленный на радикальное ускорение генерации изображений и видео. Технология позволяет сократить количество итераций при сэмплировании в диффузионных и потоковых моделях, сохраняя при этом высокое визуальное качество. Новый подход решает проблему вычислительной сложности, характерную для современных генеративных моделей, за счет оптимизации процесса обучения и перехода к многошаговой генерации с меньшими затратами ресурсов.
Новый метод предсказания динамики сцен через вероятностное моделирование
Исследователи представили метод Goal-Aware Representations of Future Kinematics (GRAF-Kin), позволяющий ИИ моделировать множественные варианты развития событий в видео вместо генерации единственного сценария. Подход фокусируется на предсказании кинематики объектов, учитывая неопределенность будущего, что критически важно для задач робототехники, автономного вождения и анализа сложных динамических сцен с неполными данными.
Оптимизация кода с помощью обучения с подкреплением: вызовы и решения
Исследователи изучили применение обучения с подкреплением (RL) для оптимизации производительности кода. Хотя использование RL для проверки корректности программ стало стандартом, переход к оптимизации времени выполнения сталкивается с серьезными препятствиями. Основными проблемами выступают шум при измерении задержек, разреженность наград и нестабильность алгоритмов обучения, которые нивелируют потенциальный прирост эффективности в реальных задачах программирования.
Новый метод PRISM-AH для распознавания амбивалентности и нерешительности в видео
Исследователи представили модель PRISM-AH, предназначенную для автоматического выявления состояний амбивалентности и нерешительности (A/H) в видеопотоках. Система анализирует противоречивые сигналы в мимике, голосе, речи и жестах человека. Технология помогает точнее определять психологические барьеры, предшествующие отказу от изменения поведения, что критически важно для медицины, психотерапии и систем поддержки принятия решений.
Метод автоматического выявления противоречий между текстом, таблицами и графами знаний
Исследователи представили новый подход к обнаружению противоречий в данных между различными модальностями: текстом, таблицами и графами знаний. В условиях, когда Wikipedia и Wikidata служат фундаментом для обучения LLM и RAG-систем, рассогласование информации в этих источниках критически влияет на точность генерации. Разработанный метод позволяет автоматически находить и объяснять конфликты, повышая надежность данных для ИИ-моделей.
Анализ расхождений в ответах модели Claude и профессиональных философов
Исследователи сопоставили ответы нейросети Claude 3 Opus с данными опроса PhilPapers, в котором участвовали тысячи профессиональных философов. Анализ показал, что модель демонстрирует уникальный профиль мнений, который часто не совпадает с консенсусом академического сообщества. В ряде этических и метафизических вопросов ИИ занимает позиции, отличные от человеческих, что ставит новые задачи перед разработчиками систем алайнмента.
LLM для оптимизации логистических задач и управления запасами
Исследователи представили метод использования больших языковых моделей для выбора оптимальных математических формулировок в задачах распределения запасов между складами. Вместо использования универсальных алгоритмов смешанного целочисленного программирования (MIP), модель анализирует специфику данных — волатильность спроса и ограничения сервиса — и подбирает наиболее эффективную стратегию решения для каждого конкретного случая, повышая точность логистического планирования.
Фреймворк для анализа нерегулярных клинических временных рядов с помощью LLM
Исследователи представили специализированный фреймворк для работы с клиническими временными рядами, которые отличаются разреженностью и асинхронностью данных. В отличие от стандартных мультимодальных моделей, новый подход эффективно обрабатывает нерегулярные интервалы наблюдений, характерные для медицины. Это позволяет точнее отвечать на вопросы по истории болезни и состоянию пациентов, минимизируя вычислительные затраты при сохранении высокой точности интерпретации данных.
Исследование способности генеративных моделей воспроизводить нестационарные поля
Исследователи проанализировали способность глубоких генеративных моделей (DGM) точно воспроизводить нестационарные гауссовские случайные поля, часто встречающиеся в пространственно-временном моделировании. Авторы работы установили, что, несмотря на широкое применение DGM для работы с высокоразмерными данными, их способность корректно улавливать фундаментальные статистические свойства реальных физических процессов остается недостаточно изученной и требует строгой математической верификации.
Обзор методов деидентификации лиц: от захвата данных до обработки
Исследователи представили комплексный обзор технологий деидентификации лиц (Face De-ID), направленных на сокрытие персональных данных в медиаконтенте при сохранении полезности изображений для аналитических задач. Работа систематизирует подходы к защите приватности в компьютерном зрении, анализируя эволюцию методов от простых искажений до современных генеративных моделей, обеспечивающих баланс между анонимностью и пригодностью данных для обучения ИИ-систем.
Penelope: новый метод эффективного скрытого рассуждения для LLM
Исследователи представили Penelope — архитектурный подход, позволяющий моделям выполнять сложные структурированные рассуждения без увеличения количества параметров или удлинения цепочки рассуждений (CoT). Метод использует локализованную латентную рекурсию, что позволяет выносить вычислительно затратные процессы за пределы авторегрессионной генерации токенов, снижая накладные расходы на инференс и повышая эффективность обработки логических задач.