面向圖像分析領域的黑盒對抗攻擊技術綜述

摘要： 圖像領域下的黑盒攻擊(Black-box Attack)已成為當前深度神經網絡對抗攻擊領域的熱點研究方向.黑盒攻擊的特點在于僅利用模型輸入與輸出的映射關系,而無需模型內部參數信息及梯度信息,通過向圖像數據加入人類難以察覺的微小擾動,進而造成深度神經網絡(Deep Neural Network,DNN)推理與識別失準,導致圖像分析任務的準確率下降,因此由黑盒攻擊引起的魯棒性問題成...