Исследователи представили математическую модель, обеспечивающую «правдоподобное отрицание» для информаторов, сообщающих о нарушениях в организациях. Метод решает проблему идентификации аудиторов, когда проверяемая компания отслеживает процесс их выбора. В отличие от стандартной дифференциальной приватности, этот подход адаптирован под специфическую модель угроз, где организация-нарушитель пытается вычислить источник утечки данных через анализ метаданных аудита.
Система опирается на формальные гарантии приватности, которые позволяют аудиторам выполнять проверки, оставаясь защищенными от репрессий. Авторы работы предлагают алгоритмический способ сокрытия факта участия конкретного специалиста в процессе аудита, что критически важно для сохранения объективности при проверке крупных корпоративных структур, использующих ИИ-системы для внутреннего контроля или принятия решений.
Данное исследование направлено на создание инфраструктуры доверия в условиях, когда автоматизированные системы управления могут скрывать неэтичные практики. Математический аппарат позволяет минимизировать риски для сотрудников, выступающих в роли «информаторов», гарантируя, что их участие в аудите не будет напрямую связано с последующими разоблачениями или внутренними расследованиями против компании.
Ключевые факты
- Разработан протокол, обеспечивающий формальные гарантии анонимности для аудиторов в условиях враждебной среды.
- Метод защищает от идентификации информатора организацией, которая контролирует процесс выбора проверяющих лиц.
- Предложенный подход превосходит классические механизмы дифференциальной приватности за счет учета специфики корпоративных угроз.
- Исследование сфокусировано на предотвращении репрессий против сотрудников, сообщающих о нарушениях в работе ИИ-систем и корпоративных алгоритмов.