arXiv · 23.06.2026 ·Машинное обучение

EERLoss: новый метод оптимизации глубоких моделей для биометрии

Исследователи представили EERLoss — новую функцию потерь, разработанную для прямого обучения глубоких биометрических моделей. В отличие от традиционных подходов, которые оптимизируют косвенные показатели, EERLoss является субдифференцируемой аппроксимацией Equal Error Rate (EER). Это позволяет минимизировать разрыв между процессом обучения нейросети и итоговой метрикой качества, что критически важно для задач верификации пользователей по динамике нажатия клавиш.

Традиционные методы обучения биометрических систем часто сталкиваются с проблемой рассогласования целей: модель оптимизируется под одну функцию потерь, тогда как эффективность системы оценивается по EER. Новый подход устраняет этот барьер, предлагая математически обоснованную аппроксимацию, которая позволяет градиентному спуску напрямую влиять на точность верификации. Это значительно повышает надежность моделей, работающих с поведенческими данными.

Применение EERLoss в задачах динамики нажатия клавиш показало, что модель становится более устойчивой к вариативности пользовательского ввода. Метод обеспечивает высокую точность даже при ограниченном объеме данных, что делает его перспективным для внедрения в системы непрерывной аутентификации и защиты доступа, где требуется высокая чувствительность к индивидуальным особенностям поведения человека.

Ключевые факты

EERLoss представляет собой субдифференцируемую функцию, позволяющую напрямую оптимизировать метрику Equal Error Rate.
Метод решает проблему рассогласования между косвенными функциями потерь и целевыми показателями качества биометрических систем.
В качестве основного кейса исследования была выбрана задача верификации пользователей по динамике нажатия клавиш.
Предложенный подход обеспечивает высокую точность аппроксимации, что позволяет эффективнее обучать глубокие нейронные сети для биометрических задач.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

arXiv · Машинное обучение Новый метод оценки обобщающей способности моделей через PAC-Bayes Исследователи представили новый подход к дерандомизации PAC-Bayes оценок для функций потерь с высокой степенью гладкости. Традиционные методы оценки обобщающей способности моделей часто опираются на вероятностные предсказатели, что затрудняет их прямое применение к детерминированным алгоритмам. Авторы работы предлагают математический аппарат, позволяющий переносить теоретические гарантии с ансамблей типа Gibbs на конкретные детерминированные модели, используя свойства гладкости функции потерь и класса предсказателей. arXiv · Машинное обучение Новый метод стабилизации динамики обучения нейросетей через инерцию Исследователи предложили модификацию динамики Дирака-Френкеля, добавляющую инерцию для решения проблем неустойчивости при обучении нелинейно параметризованных моделей, таких как нейронные сети. Введение инерционного члена позволяет сохранять информацию о скорости изменения параметров из прошлых состояний, что делает процесс оптимизации более стабильным и предсказуемым даже при использовании избыточных архитектур. arXiv · Машинное обучение Новый метод оптимизируемых линейных релаксаций для функций активации Исследователи представили новый подход к формальной верификации нейронных сетей, основанный на использовании оптимизируемых линейных релаксаций для функций активации. Традиционные методы верификации, критически важные для обеспечения безопасности моделей в ответственных областях, часто требуют создания специализированных релаксаций вручную для каждой функции активации. Это ограничивает масштабируемость и затрудняет адаптацию к современным архитектурам. arXiv · Машинное обучение Новый взгляд на теорию плоских минимумов в глубоком обучении Исследователи поставили под сомнение устоявшееся в глубоком обучении представление о том, что стохастический градиентный спуск (SGD) естественным образом стремится к «плоским» минимумам функции потерь, которые обеспечивают лучшую обобщающую способность нейросетей. Основная проблема заключается в том, что традиционные метрики оценки плоскости, такие как след или максимальное собственное значение гессиана, зависят от конкретной параметризации модели. Это означает, что при изменении представления весов, не влияющем на итоговую функцию сети, показатели «плоскости» могут меняться, что делает их ненадежными инструментами для анализа. arXiv · Машинное обучение Новый метод обучения систем диагностики неисправностей при дефиците данных Исследователи представили новый подход к проектированию интеллектуальных систем диагностики неисправностей (IFDS), основанный на анализе вибрационных сигналов. Традиционные методы глубокого обучения с переносом (Deep Transfer Learning) требуют значительных объемов размеченных данных, что создает серьезные препятствия при мониторинге технического состояния промышленного оборудования. В условиях реальной эксплуатации получение больших выборок с описанием поломок часто затруднено или экономически невыгодно. arXiv · Исследования и наука Новый метод оценки интерпретируемости разреженных автокодировщиков (SAE) Исследователи представили фреймворк для оценки интерпретируемости разреженных автокодировщиков (SAE), используемых для анализа нейросетей. В отличие от существующих прокси-метрик, новый подход измеряет семантическое соответствие между латентными признаками модели и аннотированными человеком концептами. Это позволяет количественно оценивать, насколько точно внутренние представления ИИ отражают человеческие понятия, повышая прозрачность работы сложных моделей компьютерного зрения. arXiv · Модели и релизы Как улучшить точность небольших моделей кода без переобучения Исследователи из DeepSeek и других организаций представили новый подход к повышению точности небольших моделей кода без необходимости их переобучения. В работе рассматриваются так называемые «замороженные» модели кода (с параметрами ≤45 миллионов), которые не поддаются стандартным методам улучшения качества вывода. arXiv · Машинное обучение OrthoReg: новый метод обучения гибридных нейросимвольных моделей Исследователи представили метод OrthoReg, направленный на улучшение обучения гибридных динамических систем. Такие системы объединяют классические механистические модели, основанные на физических законах, с гибкими нейронными сетями. Традиционный подход к их созданию сталкивается с противоречием: символьные модели обладают высокой интерпретируемостью, но часто слишком упрощают реальные процессы, тогда как нейросетевые методы обеспечивают точность, но остаются «черными ящиками» без физического обоснования. Hacker News · Машинное обучение Метод Zero Weights Language Model для оптимизации весов нейросетей Исследователи представили метод MSE-GLM (Mean Squared Error General Language Model), направленный на радикальное сокращение количества активных параметров в языковых моделях. Основная идея заключается в принудительном обнулении весов, которые вносят минимальный вклад в итоговый результат предсказания, без существенной потери точности модели. Этот подход позволяет значительно уменьшить размер итоговых файлов весов, упрощая хранение и ускоряя загрузку нейросетей. Hacker News · Память и RAG Lifting E-Graphs: новый подход к рефакторингу кода Исследователи представили концепцию Lifting E-Graphs, которая предлагает новый способ оптимизации и рефакторинга кода. Этот метод позволяет автоматически находить и применять оптимизации, которые вручную могли бы занять много времени и усилий. Lifting E-Graphs использует графы выражений (e-graphs) для представления и манипуляции кодом, что делает процесс рефакторинга более эффективным и менее подверженным ошибкам.

← Все материалы