Машинное обучение
Singularity Space: новый подход к генерации сигналов через полюсно-вычетное представление
Исследователи представили Singularity Space — генеративный фреймворк для представления сигналов, который отходит от традиционных плотных сеток амплитуд. Вместо них модель использует комплексные сингулярности, опираясь на классическую теорию мероморфных функций. Такой подход позволяет точнее сохранять резкие переходные процессы, критически важные для корректного описания физических сигналов, которые часто размываются в стандартных генеративных архитектурах.
Обучение временным логическим спецификациям на основе неточных демонстраций
Исследователи представили новый метод обучения линейным временным логическим спецификациям (LTL) на основе демонстраций поведения систем. В отличие от существующих подходов, алгоритм учитывает неопределенность и неполноту данных, вызванные сбоями датчиков или ошибками измерений. Это позволяет надежно извлекать правила управления для критически важных систем, где точность формальной верификации имеет решающее значение для безопасности.
Метод NAILS для настройки рекомендательных систем под заданные атрибуты
Исследователи представили NAILS (Normative Alignment of Recommender Systems via Internal Label Shift) — масштабируемый метод для приведения выдачи рекомендательных систем в соответствие с целевыми распределениями атрибутов товаров. Подход позволяет корректировать работу алгоритмов, которые изначально оптимизированы только под вовлеченность пользователей, обеспечивая соблюдение критериев разнообразия, справедливости и редакционных стандартов без потери качества рекомендаций.
Систематический анализ методов оптимизации NL2SQL-пайплайнов
Исследователи представили комплексный анализ методов оптимизации конвейеров для перевода естественного языка в SQL-запросы (NL2SQL). Работа фокусируется на взаимодействии различных техник, включая использование промежуточного представления NatSQL, этапы предварительной обработки данных и дообучение моделей на синтетических датасетах. Целью исследования является создание более эффективных и легковесных моделей, способных стабильно работать в реальных бизнес-приложениях.
ZoRRO: безвесовая система рекомендаций новостей без обучения
Исследователи представили ZoRRO — фреймворк для персонализированных новостных рекомендаций, который работает без обучения и использования весовых коэффициентов. Система ориентирована на масштабируемое внедрение в реальных условиях. В ходе тестирования ZoRRO продемонстрировала эффективность, сопоставимую с современными глубокими нейронными сетями, при этом значительно снижая вычислительные затраты на развертывание и поддержку модели в продакшене.
Incremental Transformer для проектирования геополимерных смесей
Исследователи представили архитектуру Incremental Transformer (INCRT) для решения задач обратного проектирования в условиях ограниченных данных. Метод позволяет эффективно подбирать составы геополимерных смесей, учитывая физические ограничения и гетерогенные параметры материалов. Модель демонстрирует высокую точность в инженерных задачах, где традиционные подходы сталкиваются с нехваткой обучающих выборок и сложными зависимостями между переменными.
Новый метод Predictive Divergence Masks для стабилизации обучения LLM с подкреплением
Исследователи представили метод Predictive Divergence Masks, оптимизирующий процесс обучения LLM с подкреплением (RL). Новый подход заменяет стандартные маски доверительной области, используемые в PPO, более точными критериями близости и направления. Это позволяет эффективнее контролировать обновления политики, предотвращая деградацию модели при работе с off-policy данными и повышая общую стабильность обучения.
Метод Diachronic Sample Integration для оценки хвостовых рисков в генеративных моделях
Исследователи представили метод Diachronic Sample Integration (DSI), решающий проблему неточности генеративных моделей при оценке редких, но критических событий. В отличие от стандартных подходов, фокусирующихся на типичных данных, DSI позволяет более точно моделировать «тяжелые хвосты» распределений, что критически важно для финансового моделирования и принятия решений в условиях высокой неопределенности и дефицита исторических данных.
Новая нижняя граница сложности для алгоритмов онлайн-оптимизации с ограничениями
Исследователи представили теоретический анализ алгоритма OGD+Projection в задачах онлайн-выпуклой оптимизации с ограничениями (COCO). Работа устанавливает фундаментальные нижние границы для совокупного нарушения ограничений (CCV), доказывая, что при одновременной минимизации статического сожаления и нарушений невозможно достичь более высоких показателей эффективности, чем предложенные теоретические лимиты для данного класса вычислительных методов.
LM-Polygraph: библиотека для оценки неопределенности ответов LLM
Библиотека LM-Polygraph предоставляет инструменты для оценки уверенности языковых моделей в своих ответах, что критически важно для снижения галлюцинаций. Фреймворк позволяет вычислять метрики неопределенности для различных архитектур, помогая разработчикам определять, когда модель «не знает» ответа или склонна к генерации недостоверной информации, что повышает надежность ИИ-систем в реальных задачах.
ИИ обнаружил критическую уязвимость в коде, скрытую 15 лет
Исследователи применили специализированные алгоритмы машинного обучения для анализа устаревших кодовых баз, что привело к обнаружению критической уязвимости, остававшейся незамеченной в течение 15 лет. Этот кейс демонстрирует эффективность автоматизированных систем поиска багов в сложных программных проектах, где традиционные методы статического анализа и ручная проверка кода не смогли выявить проблему в течение длительного времени.
ИИ обнаружил критическую уязвимость в ядре Linux, скрывавшуюся 15 лет
Исследователи из Google применили специализированную модель машинного обучения для анализа исходного кода ядра Linux, что привело к обнаружению критической уязвимости типа «гонка» (race condition). Ошибка оставалась незамеченной разработчиками на протяжении 15 лет. Этот случай демонстрирует эффективность автоматизированных систем анализа кода в поиске сложных багов, которые ускользают от традиционных методов тестирования и ручного аудита.
Роль обучения с подкреплением в развитии современных LLM
Hugging Face представил подробный разбор обучения с подкреплением (RL) в контексте больших языковых моделей. Материал объясняет, как методы RL, включая PPO и DPO, позволяют настраивать поведение моделей в соответствии с предпочтениями человека. Это фундаментальный этап, превращающий базовые модели, обученные на предсказании следующего токена, в полезных и безопасных ИИ-ассистентов, способных следовать сложным инструкциям.
NVFP4: новый подход к обучению моделей с 4-битной точностью
Исследователи представили метод NVFP4 (NVIDIA Floating Point 4), оптимизирующий обучение нейросетей с использованием 4-битной точности. Технология решает проблему нестабильности градиентов при экстремальном квантовании, позволяя значительно снизить требования к памяти и ускорить вычисления без существенной потери качества моделей. Это открывает возможности для более эффективного обучения крупных архитектур на ограниченном аппаратном обеспечении.
Как понимать количество параметров в современных LLM
Автор статьи анализирует, что на самом деле означают миллиарды параметров в архитектуре нейросетей и как этот показатель соотносится с реальными возможностями моделей. Вместо абстрактных цифр предлагается интуитивный подход к оценке сложности моделей, учитывающий плотность знаний, эффективность сжатия информации и влияние архитектурных решений на итоговую производительность системы при выполнении различных задач.
Применение обучения с подкреплением для коррекции ошибок в квантовых процессорах
Исследователи разработали метод динамической калибровки квантовых процессоров с использованием обучения с подкреплением (reinforcement learning). Алгоритм в реальном времени анализирует данные об ошибках и автоматически корректирует управляющие параметры системы. Это позволяет поддерживать высокую точность вычислений, адаптируясь к деградации оборудования и внешним помехам, что является критическим шагом для масштабируемости квантовых вычислений и повышения стабильности работы кубитов.
Метод рассуждений LLM в латентном пространстве без декодирования
Исследователь представил подход к выполнению логических операций внутри латентного пространства языковой модели, минуя стадию декодирования токенов. Вместо генерации текста на каждом шаге рассуждения, модель оперирует скрытыми представлениями, что позволяет сократить вычислительные затраты и избежать накопления ошибок, характерных для авторегрессионных систем, где модель вынуждена опираться на свои предыдущие, возможно неверные, текстовые выводы.
ConceptSMILE: новый фреймворк для аудита объяснимого ИИ
Исследователи представили ConceptSMILE — универсальный фреймворк для проверки надежности концептуально-ориентированных методов объяснимого ИИ (XAI). Система позволяет оценивать достоверность интерпретаций модели, выявляя, насколько логика принятия решений соответствует заявленным концепциям. Инструмент работает независимо от архитектуры нейросети, расширяя методы возмущения данных для верификации того, как именно модель связывает входные признаки с человекочитаемыми понятиями.
Semantic Pareto-DQN: новый подход к выявлению финансовых аномалий
Исследователи представили Semantic Pareto-DQN — фреймворк многоцелевого обучения с подкреплением для обнаружения финансовых аномалий. Метод решает проблему дисбаланса классов, при которой алгоритмы склонны игнорировать редкие мошеннические операции. Вместо изменения данных система оптимизирует баланс между точностью выявления фрода и минимизацией ложных срабатываний, влияющих на пользовательский опыт, обеспечивая более гибкое управление рисками в реальном времени.
4DR360: новый подход к слиянию данных радара и камеры для автономного вождения
Исследователи представили 4DR360 — архитектуру для комплексного восприятия сцены в автономном вождении, объединяющую 3D-детекцию объектов и предсказание занятости пространства. Система использует 4D-радары миллиметрового диапазона в связке с камерами, решая проблему разреженности данных радара и обеспечивая высокую точность семантического анализа окружения, что критически важно для безопасной навигации беспилотных транспортных средств в сложных дорожных условиях.
PAC-ACT: новый метод обучения робототехнических моделей для промышленной манипуляции
Исследователи представили PAC-ACT (Post-training Actor-Critic) — метод дообучения моделей Action Chunking Transformers, оптимизированный для задач промышленной робототехники. Новый подход позволяет роботам эффективнее справляться с манипуляциями при изменении положения объектов и ограничениях по силе контакта, сохраняя при этом низкую задержку инференса, необходимую для работы в режиме реального времени.
Совместное проектирование ИИ-моделей и аппаратного обеспечения
NVIDIA представила концепцию совместного проектирования (co-design), объединяющую архитектуру LLM с возможностями графических процессоров. Подход фокусируется на балансе между точностью модели, пропускной способностью (токенов в секунду) и задержкой. Оптимизация структуры нейросети под конкретное «железо» позволяет значительно повысить эффективность инференса без потери качества генерации, что критично для масштабируемых ИИ-систем.
ИИ-модель для ускорения численного моделирования химической кинетики
Исследователи представили фреймворк машинного обучения, ускоряющий прямое численное моделирование турбулентных реагирующих потоков. Система заменяет ресурсоемкие вычисления химических источников суррогатной моделью, предсказывающей скорость реакций на основе термохимического состояния. Для обеспечения физической достоверности в процесс обучения интегрированы ограничения второго закона термодинамики, что повышает точность прогнозирования сложных химических процессов в динамических средах.
Метод TCLA для адаптации медицинских мультимодальных моделей без дообучения
Исследователи представили TCLA — метод адаптации медицинских Vision-Language моделей (VLM), который не требует дополнительного обучения параметров. Решение корректирует логиты на уровне классов, эффективно устраняя смещение домена и предвзятость, возникающие при работе с данными вне обучающей выборки. Подход показывает высокую стабильность в условиях крайне ограниченного количества примеров, включая сценарии one-shot, где традиционные методы дообучения часто демонстрируют нестабильность.