Исследователи представили Giskard — протокол для децентрализованного машинного обучения, который решает проблему одновременного обеспечения конфиденциальности данных и защиты от вредоносных узлов. В распределенных системах клиенты обучают модели локально, обмениваясь параметрами или градиентами с соседями. Традиционные подходы часто сталкиваются с конфликтом: методы защиты приватности, такие как дифференциальная приватность или шифрование, затрудняют выявление «византийских» атак, при которых участники сети намеренно передают искаженные данные для саботажа обучения.
Алгоритм Giskard использует механизмы агрегации, позволяющие сети эффективно фильтровать вредоносные обновления, сохраняя при этом конфиденциальность передаваемой информации. Разработчики применили математические методы, которые позволяют узлам сети проверять корректность вкладов других участников, не раскрывая при этом исходные параметры моделей. Это позволяет масштабировать процесс обучения на большое количество независимых устройств без риска компрометации данных или деградации качества итоговой модели из-за злонамеренных действий.
Предложенное решение направлено на повышение устойчивости федеративного обучения в условиях, когда доверие между участниками сети ограничено. Метод демонстрирует эффективность в сценариях, где необходимо объединять знания из разных источников, сохраняя строгие стандарты безопасности. Работа открывает возможности для создания более надежных систем распределенного обучения, способных противостоять как случайным ошибкам, так и целенаправленным атакам на целостность алгоритмов.