arXiv · 21.06.2026 ·Исследования и наука

Исследование уязвимостей в системах гомоморфного шифрования

Исследователи представили работу, посвященную анализу безопасности фреймворков для полностью гомоморфного шифрования (FHE). Эта технология позволяет проводить вычисления непосредственно над зашифрованными данными, исключая необходимость их расшифровки в процессе обработки. Метод считается перспективным для защиты конфиденциальной информации в облачных вычислениях, финансовом секторе и медицине, где требования к приватности данных являются критическими.

Несмотря на высокий потенциал, практическое внедрение FHE ограничено сложностью существующих схем и высокими вычислительными затратами. Авторы работы сфокусировались на выявлении специфических уязвимостей, возникающих при реализации алгоритмов шифрования в программных библиотеках. Анализ показал, что ошибки в проектировании криптографических примитивов могут привести к утечкам данных, даже если теоретическая модель шифрования остается стойкой.

В статье предложены методы систематического поиска уязвимостей в коде FHE-фреймворков, что помогает разработчикам повысить надежность систем до их развертывания в продакшене. Исследование подчеркивает необходимость стандартизации подходов к реализации гомоморфных вычислений, чтобы минимизировать риски, связанные с человеческим фактором и ошибками в реализации сложных математических алгоритмов. Полученные результаты могут стать основой для создания более защищенных инструментов обработки данных в условиях строгих регуляторных требований.

Источник: arXiv

Похожие материалы

arXiv · Машинное обучение Использование системных вызовов для обнаружения новых типов уязвимостей Исследователи представили новый подход к работе систем обнаружения вторжений (HIDS), основанный на анализе последовательностей системных вызовов. Традиционные методы обучения таких систем опираются на конкретные записи CVE (Common Vulnerabilities and Exposures), что ограничивает их эффективность при столкновении с новыми эксплойтами. Авторы работы предложили метод обобщения, позволяющий детектировать неизвестные угрозы, относящиеся к уже известным типам слабостей программного обеспечения. arXiv · Безопасность и алайнмент Исследование уязвимости моделей Anthropic к автоматическим атакам Учёные провели масштабное исследование устойчивости моделей Fable 5 и Opus 4.8 от Anthropic к автоматическим атакам. В ходе работы использовались четыре типа атак, направленных на 7 826 вредоносных намерений, охватывающих десять категорий потенциального вреда. arXiv · Память и RAG Фреймворк для аудита синтетических данных Исследователи из MIT и других ведущих университетов представили новый фреймворк для аудита синтетических данных, генерируемых с помощью ИИ. В работе, опубликованной на arXiv, авторы предлагают каузальный подход к выявлению утечек конфиденциальной информации в синтетических наборах данных. arXiv · Оценка и бенчмарки Новый бенчмарк CWE-Trace для проверки навыков LLM в поиске уязвимостей Исследователи представили фреймворк CWE-Trace, предназначенный для оценки способности больших языковых моделей обнаруживать уязвимости в системном программном обеспечении. Основная проблема существующих решений заключается в том, что модели часто показывают высокие результаты на тестах лишь благодаря заучиванию данных, а не реальному пониманию принципов безопасности. Новый набор данных включает 834 тщательно отобранных примера из ядра Linux, охватывающих 74 типа типичных ошибок программирования (CWE). arXiv · Безопасность и алайнмент GAS-Leak-LLM: генетический алгоритм для взлома LLM Исследователи из Университета Торонто и MIT представили новый метод взлома языковых моделей (LLM) — GAS-Leak-LLM. Этот подход использует генетические алгоритмы для оптимизации суффиксов в запросах, что позволяет обходить механизмы защиты и получать нежелательные ответы от моделей. Авторы демонстрируют, что даже хорошо защищённые коммерческие системы уязвимы к таким атакам. arXiv · Безопасность и алайнмент Верификация вероятностных политик безопасности для ИИ-агентов Исследователи представили новый метод верификации, позволяющий контролировать поведение ИИ-агентов в сложных цифровых средах с учетом вероятностных факторов. Ранее существующие системы мониторинга в реальном времени опирались на детерминированные политики, выраженные на языке Datalog, что ограничивало их применение в условиях неопределенности. Новый подход расширяет возможности формальной верификации, позволяя задавать правила безопасности для сценариев, где действия агента могут приводить к различным исходам с разной степенью вероятности. Hacker News · Безопасность и алайнмент Хакеры используют Claude и Codex для взлома компаний Исследователи обнаружили, что злоумышленники применяют модели Claude и Codex для взлома корпоративных систем. В утечках логов зафиксированы случаи, когда хакеры использовали эти ИИ-модели для генерации вредоносного кода и автоматизации атак. Hugging Face - Blog · Безопасность и алайнмент Исследование MosaicLeaks: уязвимости ИИ-агентов при работе с данными Исследователи представили проект MosaicLeaks, посвященный анализу безопасности автономных ИИ-агентов в условиях работы с конфиденциальными данными. В ходе экспериментов изучалось, насколько эффективно модели могут защищать приватную информацию при выполнении сложных задач, требующих доступа к внешним источникам и базам данных. Основное внимание было уделено сценариям, в которых агент может непреднамеренно раскрыть чувствительные сведения в процессе обработки запросов или при взаимодействии с API. arXiv · Исследования и наука DIPHINE: новый метод анализа информационных систем через диффузионные модели Исследователи представили DIPHINE (Diffusion-based Φ-ID Neural Estimator) — новый вычислительный метод для анализа сложных систем. В основе работы лежит фреймворк Φ-ID (Integrated Information Decomposition), который позволяет разделять динамику данных на 16 независимых компонентов. Эти компоненты описывают, как именно информация хранится, распределяется и интегрируется внутри многомерных систем с течением времени. arXiv · Инференс и железо Оптимизация INT8 вычислений для диффузионных трансформеров на потребительских GPU Исследователи из Ideogram представили новый подход к оптимизации инференса диффузионных трансформеров на потребительских GPU. В статье, опубликованной на arXiv, они показывают, что посттрейнинговая квантование в INT8 (W8A8) часто оказывается медленнее, чем альтернативы в FP8 и NF4, несмотря на ожидания. Это связано с тем, что в текущих реализациях веса и активации квантуются только для того, чтобы сразу же деквантоваться обратно в bf16 и выполнять матричное умножение в этом формате.

← Все материалы