arXiv · 02.08.2026 ·Безопасность и алайнмент

Caliber: новый метод защиты API от кражи знаний через логиты

Исследователи представили Caliber — метод защиты API моделей от атак по извлечению знаний (model extraction). Система использует механизм добавления шума в выходные данные, который калибруется для баланса между точностью ответов и стоимостью восстановления оригинальных логитов злоумышленником. Это затрудняет обучение суррогатных моделей через дистилляцию знаний, сохраняя при этом полезность сервиса для легитимных пользователей.

Основная проблема, которую решает Caliber, заключается в том, что многие API возвращают не только финальные ответы, но и вероятностные распределения (логиты). Злоумышленники используют эти данные для обучения компактных моделей-копий, которые перенимают функциональность дорогостоящих проприетарных систем. Новый подход переводит задачу защиты в плоскость калибровки шума, где каждый запрос получает уникальную «стоимость» восстановления, делая процесс кражи экономически невыгодным.

В отличие от простых методов обфускации, Caliber позволяет математически доказать сложность восстановления чистых данных. Метод адаптируется под архитектуру модели и специфику запросов, минимизируя влияние на пользовательский опыт. Это решение направлено на защиту интеллектуальной собственности компаний, предоставляющих доступ к мощным LLM через публичные интерфейсы, предотвращая несанкционированное копирование их возможностей.

Ключевые факты

Caliber использует технику возмущения выходных данных (output-perturbation) для защиты от дистилляции знаний.
Метод формулирует выбор шума как задачу калибровки, связывая качество защиты с затратами атакующего на восстановление логитов.
Подход обеспечивает доказуемую стоимость восстановления для каждого конкретного запроса.
Технология направлена на противодействие атакам, использующим скоринговые API для обучения суррогатных моделей.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

arXiv · Безопасность и алайнмент Метод защиты LLM от отравления данных при дообучении Исследователи представили метод «Detect, Unlearn, Restore» для защиты моделей суммаризации текста от атак типа data poisoning. Техника позволяет выявлять вредоносные примеры в обучающей выборке, удалять их влияние на веса модели и восстанавливать исходную производительность системы. Это критически важно для защиты специализированных LLM, которые подвержены манипуляциям через небольшие наборы данных при дообучении. Hacker News · Безопасность и алайнмент Метод обфускации кода для защиты от анализа с помощью LLM Исследователи представили новый подход к защите исходного кода от анализа с помощью больших языковых моделей. Метод использует состязательную обфускацию, которая делает код нечитаемым или вводящим в заблуждение для ИИ-агентов, при этом сохраняя его функциональность для компиляторов. Это решение направлено на предотвращение автоматизированного реверс-инжиниринга и кражи интеллектуальной собственности, выполняемых с помощью LLM. Hacker News · Безопасность и алайнмент Исследование Leaky Language Models: кража архитектуры и оптимизаций инференса Исследователи представили метод «Leaky Language Models», позволяющий извлекать конфиденциальные параметры архитектуры и специфические оптимизации инференса из закрытых LLM. Через серию специально сконструированных запросов злоумышленники могут восстановить размер скрытых слоев, количество голов внимания и даже детали квантования, что ставит под угрозу интеллектуальную собственность компаний-разработчиков и их конкурентные преимущества в производительности моделей. arXiv · Машинное обучение Метод CACHE-UK для обновления знаний в квантованных LLM Исследователи представили метод CACHE-UK, решающий проблему деградации знаний при последовательном обновлении квантованных LLM. В динамичных финансовых средах модели часто теряют точность после внесения правок в 4-битные веса. Новый подход позволяет эффективно редактировать память модели, сохраняя стабильность и фактическую достоверность данных без необходимости полной переобучки системы при изменении рыночных условий или нормативных требований. Hacker News · Инфраструктура для агентов Оптимизация расходов на LLM через кэширование и проксирование Разработчик представил инструмент Qarinah, позволяющий сократить затраты на использование API Claude и других моделей до 90%. Решение базируется на интеллектуальном кэшировании запросов и ответов, что исключает повторную оплату идентичных или семантически близких обращений к LLM, значительно снижая общий счет за инференс в агентных системах. arXiv · Модели и релизы Knowledge Trap защищает модели от кражи знаний через ловушки Исследователи из MIT и других университетов предложили новый способ защиты языковых моделей от кражи знаний. В статье, опубликованной на arXiv, они описывают метод Knowledge Trap, который использует "медовые ловушки" для знаний (Honeypot Knowledge Graph, HKG) и хлебные крошки для направления атак на нерелевантные данные. Hacker News · Безопасность и алайнмент Новый метод защиты контента от парсинга ИИ через отравленные шрифты Разработчики представили инструмент Glaze-подобного типа, который защищает текстовый контент от несанкционированного обучения ИИ-моделей. Технология использует специально модифицированные шрифты, которые визуально остаются читаемыми для людей, но при попытке автоматизированного парсинга и распознавания текста (OCR) выдают искаженные данные, делая собранный датасет непригодным для качественного обучения нейросетей. arXiv · Исследования и наука CALMRec: новый метод борьбы с искажениями в рекомендательных системах на базе LLM Исследователи представили CALMRec — архитектуру для рекомендательных систем, которая разделяет долгосрочные предпочтения пользователя, сиюминутные намерения и влияние истории показов. В отличие от стандартных LLM-рекомендателей, склонных к формированию «петли обратной связи» из-за переоценки кликов, этот метод использует причинно-следственный анализ для более точного моделирования реального интереса пользователя и повышения качества долгосрочных прогнозов. Hacker News · Оценка и бенчмарки Caliper: инструмент для оценки надежности ИИ-кодинга через pass@k Caliper — это новый фреймворк для тестирования надежности ИИ-моделей при генерации программного кода. Инструмент позволяет оценивать качество работы ассистентов, таких как Claude Code или Codex, используя метрику pass@k. Это помогает разработчикам количественно измерять вероятность того, что хотя бы одно из k предложенных решений задачи окажется корректным и пройдет все тесты. arXiv · Безопасность и алайнмент Метод онлайн-мониторинга безопасности для LLM в реальном времени Исследователи представили новый подход к обеспечению безопасности LLM, позволяющий выявлять опасные генерации непосредственно в процессе работы модели. Метод использует внешний верификатор, который анализирует выходные данные и подает сигнал тревоги при превышении заданного порога риска. Такая система позволяет динамически контролировать безопасность ответов, даже если модель прошла стандартное обучение на соответствие заданным нормам.

← Все материалы