基于差分隱私與模型聚類的安全聯(lián)邦學(xué)習(xí)方案

摘要： 聯(lián)邦學(xué)習(xí)中的模型安全以及客戶隱私是亟待解決的重要挑戰(zhàn)。為了同時應(yīng)對這2大挑戰(zhàn)，提出了一項基于差分隱私與模型聚類的聯(lián)邦學(xué)習(xí)方案，該方案兼顧模型安全與隱私保護。通過在客戶更新中引入局部差分隱私擾亂客戶上傳的參數(shù)以保護客戶的隱私數(shù)據(jù)。為保證對加噪模型更新的精準聚類，首次定義余弦梯度作為聚類指標(biāo)，并根據(jù)聚類結(jié)果精準定位惡意模型。最后引入全局差分隱私以抵御潛在的后門攻擊。通過理論分析得到...