近年來,機器學(xué)習(xí)極大地提升了圖像識別能力。然而研究表明即使決策可靠的深度神經(jīng)網(wǎng)絡(luò)模型也容易受到對抗性攻擊的影響。通過向合法樣本添加微小擾動形成的對抗樣本使模型產(chǎn)生缺乏可解釋性的錯誤輸出對系統(tǒng)的安全性造成嚴(yán)重地威脅。因此,本文利用注意力機制理解模型針對樣本的決策依據(jù),并從樣本注意力圖特征和注意力特征距離空間兩個角度實現(xiàn)對抗樣本檢測方法研究。這對于解釋對抗樣本使模型出錯的原因和實現(xiàn)對抗性防御具有實際意義。由于注意力機制針對合法樣本與對抗樣本的注意力圖展現(xiàn)出特征信息差異。因此,本文進(jìn)行基于注意力圖特征的對抗樣本檢測方法研究。在利用樣本單特征方面,本文設(shè)計基于注意力圖紋理特征的檢測方法。通過提取合法樣本與對抗樣本注意力圖的基于灰度共生矩陣的紋理特征繪制特征統(tǒng)計直方圖,并采用閾值策略。為了充分利用樣本注意力圖的特征信息,在利用樣本多特征方面,本文又設(shè)計基于注意力圖統(tǒng)計特征的檢測方法。從合法樣本與對抗樣本的注意力圖提取多種統(tǒng)計特征,包括均值、標(biāo)準(zhǔn)差、峰度,以及基于灰度共生矩陣的對比度、能量、相關(guān)性、熵,訓(xùn)練基于支持向量機的檢測器。在卷積神經(jīng)網(wǎng)絡(luò)多個隱藏層的前向傳遞過程中,由于對抗樣本具有不同于合法...

【文章頁數(shù)】：74 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖1-1合法樣本（左）添加擾動（中）生成對抗樣本（右）

窬??紓―eepNeuralNetwork，DNN）被應(yīng)用于許多環(huán)境，如圖像和視頻理解[1,2]、關(guān)系推理[3]、惡意軟件檢測[4]、自動內(nèi)容過濾[5]等，其中一些應(yīng)用環(huán)境對安全性要求較高。最近在深度學(xué)習(xí)和安全領(lǐng)域的研究表明，在圖像識別任務(wù)中，攻擊者可以通過對抗性攻擊制作對抗樣本....

圖2-1深度神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)

哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文-7-第2章對抗樣本檢測理論基礎(chǔ)本章主要介紹對抗樣本檢測的理論基矗首先，從對抗樣本的原理入手，介紹幾種主流的基于梯度的無目標(biāo)和有目標(biāo)對抗性攻擊方法；然后，論述多種對抗樣本檢測方法的檢測思路。并且，闡述了多種注意力機制方法，展示了合法樣本與基于梯度的對....

圖2-2對抗樣本生成框架圖

哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文-9-類似的DNN體系結(jié)構(gòu)訪問其參數(shù)值。定義一個范數(shù)||，用于描述DNN模型F的輸入域中各點間的差異，形式化對抗樣本的優(yōu)化問題如公式（2-1）所示。argmin|X|s.t.F(XX)Y*（2-1）圖2-2對抗樣本生成框架圖上述對抗樣本生成框架是通過....

圖2-3基于梯度的無目標(biāo)和有目標(biāo)攻擊的對抗樣本

哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文-11-積損失函數(shù)在梯度方向上的速度矢量加速梯度下降算法。為了在距離合法樣本的最大擾動附近找到對抗樣本，迭代的快速梯度符號法的動量變體可以表示為公式（2-8）。其中，GN使用衰減因子收集前N次迭代的梯度。對抗樣本XN1adv在GN1符號方向上，進(jìn)行步....

本文編號：3965066