深度神經(jīng)網(wǎng)絡在計算機視覺領域等諸多任務上已取得遠超傳統(tǒng)方法的性能。然而最近研究表明機器學習模型,尤其是深度神經(jīng)網(wǎng)絡容易遭受對抗樣本的攻擊。因此,對抗樣本的存在,給現(xiàn)有深度神經(jīng)網(wǎng)絡在安全敏感任務上的應用帶來了巨大挑戰(zhàn)。目前圖像領域?qū)箻颖镜纳?主要是通過在原始圖像上疊加人眼難以察覺的微小擾動而得到,以下簡稱微小擾動對抗樣本。這些微小擾動用以確保生成對抗樣本的自然真實性,但同時限制了其遷移能力,這使得在黑盒攻擊場景下,該方法所產(chǎn)生的對抗樣本攻擊能力偏弱,特別是當目標模型具有一定防御機制的情況下。針對這一情況,本文提出了結構模式和結構保持擾動的概念,并且基于這些概念,本文提出了一種基于結構保持的對抗攻擊,稱為結構保持攻擊（Structure-Preserving Attack,縮寫為SPA）,以產(chǎn)生強攻擊能力和高遷移能力的對抗樣本。SPA試圖產(chǎn)生和原始圖像保持相同結構的結構化對抗擾動。具體地,該方法限定圖像中位于同一結構的像素只能被施加以相同量的擾動,從而產(chǎn)生結構保持、自然的對抗樣本。通過考慮圖像的內(nèi)在結構,SPA放松了傳統(tǒng)攻擊中的微小擾動限制,因而產(chǎn)生的對抗樣本具有更強的遷移能力,進而在... 

【文章來源】：哈爾濱工業(yè)大學黑龍江省 211工程院校 985工程院校

【文章頁數(shù)】：58 頁

【學位級別】：碩士

【文章目錄】：
摘要
ABSTRACT
第1章 緒論
    1.1 課題研究背景及意義
    1.2 國內(nèi)外研究現(xiàn)狀
        1.2.1 對抗攻擊的研究現(xiàn)狀
        1.2.2 對抗防御的研究現(xiàn)狀
    1.3 主要研究內(nèi)容
    1.4 本文組織結構
第2章 相關研究綜述
    2.1 背景知識
        2.1.1 神經(jīng)網(wǎng)絡的一般表達形式
        2.1.2 對抗樣本定義
        2.1.3 對抗樣本攻擊類型
        2.1.4 對抗樣本的威脅模型
    2.2 白盒攻擊方法綜述
        2.2.1 基于微小擾動的白盒攻擊
        2.2.2 非微小擾動的白盒攻擊
    2.3 黑盒攻擊方法綜述
    2.4 對抗防御方法綜述
        2.4.1 基于對抗訓練的防御
        2.4.2 基于移除擾動的防御
        2.4.3 基于網(wǎng)絡本身的防御
        2.4.4 基于隨機化機制的防御
        2.4.5 基于對抗樣本檢測的防御
    2.5 本章小結
第3章 基于結構保持的對抗攻擊
    3.1 引言
    3.2 基于結構保持的對抗攻擊
        3.2.1 結構保持對抗攻擊的動機
        3.2.2 結構保持對抗攻擊的原理
        3.2.3 基于結構保持攻擊的對抗樣本生成算法
    3.3 對抗攻擊的攻擊空間分析
    3.4 本章小結
第4章 實驗結果與分析
    4.1 實驗環(huán)境和實驗數(shù)據(jù)介紹
        4.1.1 實驗環(huán)境
        4.1.2 實驗數(shù)據(jù)
    4.2 實驗設計
        4.2.1 評價指標
        4.2.2 基準攻擊和防御
        4.2.3 目標模型
    4.3 參數(shù)設置
        4.3.1 基準攻擊和防御的參數(shù)設置
        4.3.2 結構保持攻擊的參數(shù)設置
    4.4 結構保持攻擊的有效性驗證及分析
        4.4.1 白盒攻擊實驗結果
        4.4.2 黑盒攻擊和遷移能力實驗結果
        4.4.3 攻擊空間對攻擊能力影響的分析
        4.4.4 對抗樣本的示例
        4.4.5 基于結構保持攻擊的對抗訓練
    4.5 本章小結
結論
參考文獻
攻讀碩士學位期間發(fā)表的論文及其它成果
致謝


【參考文獻】：
期刊論文
[1]深度學習中的對抗性攻擊和防御[J]. 任奎,Tianhang Zheng,秦湛,Xue Liu.  Engineering. 2020(03)
[2]聚焦圖像對抗攻擊算法PS-MIFGSM[J]. 吳立人,劉政浩,張浩,岑悅亮,周維.  計算機應用. 2020(05)
[3]基于迭代自編碼器的深度學習對抗樣本防御方案[J]. 楊浚宇.  信息安全學報. 2019(06)
[4]人工智能系統(tǒng)安全與隱私風險[J]. 陳宇飛,沈超,王騫,李琦,王聰,紀守領,李康,管曉宏.  計算機研究與發(fā)展. 2019(10)
[5]基于GAN的對抗樣本生成研究[J]. 孫曦音,封化民,劉飚,張健毅.  計算機應用與軟件. 2019(07)



本文編號：3053779