神經網絡后門攻擊與防御綜述

摘要： 當前，深度神經網絡(Deep Neural Network, DNN)得到了迅速發展和廣泛應用，由于其具有數據集龐大、模型架構復雜的特點，用戶在訓練模型的過程中通常需要依賴數據樣本、預訓練模型等第三方資源.然而，不可信的第三方資源為神經網絡模型的安全帶來了巨大的威脅，最典型的是神經網絡后門攻擊.攻擊者通過修改數據集或模型的方式實現向模型中植入后門，該后門能夠與樣本中的觸發器（一...