面向圖像分析領(lǐng)域的黑盒對(duì)抗攻擊技術(shù)綜述

摘要： 圖像領(lǐng)域下的黑盒攻擊(Black-box Attack)已成為當(dāng)前深度神經(jīng)網(wǎng)絡(luò)對(duì)抗攻擊領(lǐng)域的熱點(diǎn)研究方向.黑盒攻擊的特點(diǎn)在于僅利用模型輸入與輸出的映射關(guān)系,而無(wú)需模型內(nèi)部參數(shù)信息及梯度信息,通過(guò)向圖像數(shù)據(jù)加入人類(lèi)難以察覺(jué)的微小擾動(dòng),進(jìn)而造成深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network,DNN)推理與識(shí)別失準(zhǔn),導(dǎo)致圖像分析任務(wù)的準(zhǔn)確率下降,因此由黑盒攻擊引起的魯棒性問(wèn)題成...