神經(jīng)網(wǎng)絡(luò)后門攻擊與防御綜述

摘要： 當(dāng)前，深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network, DNN)得到了迅速發(fā)展和廣泛應(yīng)用，由于其具有數(shù)據(jù)集龐大、模型架構(gòu)復(fù)雜的特點(diǎn)，用戶在訓(xùn)練模型的過程中通常需要依賴數(shù)據(jù)樣本、預(yù)訓(xùn)練模型等第三方資源.然而，不可信的第三方資源為神經(jīng)網(wǎng)絡(luò)模型的安全帶來了巨大的威脅，最典型的是神經(jīng)網(wǎng)絡(luò)后門攻擊.攻擊者通過修改數(shù)據(jù)集或模型的方式實(shí)現(xiàn)向模型中植入后門，該后門能夠與樣本中的觸發(fā)器（一...