深度神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺(jué)領(lǐng)域等諸多任務(wù)上已取得遠(yuǎn)超傳統(tǒng)方法的性能。然而最近研究表明機(jī)器學(xué)習(xí)模型,尤其是深度神經(jīng)網(wǎng)絡(luò)容易遭受對(duì)抗樣本的攻擊。因此,對(duì)抗樣本的存在,給現(xiàn)有深度神經(jīng)網(wǎng)絡(luò)在安全敏感任務(wù)上的應(yīng)用帶來(lái)了巨大挑戰(zhàn)。目前圖像領(lǐng)域?qū)箻颖镜纳?主要是通過(guò)在原始圖像上疊加人眼難以察覺(jué)的微小擾動(dòng)而得到,以下簡(jiǎn)稱微小擾動(dòng)對(duì)抗樣本。這些微小擾動(dòng)用以確保生成對(duì)抗樣本的自然真實(shí)性,但同時(shí)限制了其遷移能力,這使得在黑盒攻擊場(chǎng)景下,該方法所產(chǎn)生的對(duì)抗樣本攻擊能力偏弱,特別是當(dāng)目標(biāo)模型具有一定防御機(jī)制的情況下。針對(duì)這一情況,本文提出了結(jié)構(gòu)模式和結(jié)構(gòu)保持?jǐn)_動(dòng)的概念,并且基于這些概念,本文提出了一種基于結(jié)構(gòu)保持的對(duì)抗攻擊,稱為結(jié)構(gòu)保持攻擊（Structure-Preserving Attack,縮寫為SPA）,以產(chǎn)生強(qiáng)攻擊能力和高遷移能力的對(duì)抗樣本。SPA試圖產(chǎn)生和原始圖像保持相同結(jié)構(gòu)的結(jié)構(gòu)化對(duì)抗擾動(dòng)。具體地,該方法限定圖像中位于同一結(jié)構(gòu)的像素只能被施加以相同量的擾動(dòng),從而產(chǎn)生結(jié)構(gòu)保持、自然的對(duì)抗樣本。通過(guò)考慮圖像的內(nèi)在結(jié)構(gòu),SPA放松了傳統(tǒng)攻擊中的微小擾動(dòng)限制,因而產(chǎn)生的對(duì)抗樣本具有更強(qiáng)的遷移能力,進(jìn)而在... 

【文章來(lái)源】：哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校

【文章頁(yè)數(shù)】：58 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
ABSTRACT
第1章 緒論
    1.1 課題研究背景及意義
    1.2 國(guó)內(nèi)外研究現(xiàn)狀
        1.2.1 對(duì)抗攻擊的研究現(xiàn)狀
        1.2.2 對(duì)抗防御的研究現(xiàn)狀
    1.3 主要研究?jī)?nèi)容
    1.4 本文組織結(jié)構(gòu)
第2章 相關(guān)研究綜述
    2.1 背景知識(shí)
        2.1.1 神經(jīng)網(wǎng)絡(luò)的一般表達(dá)形式
        2.1.2 對(duì)抗樣本定義
        2.1.3 對(duì)抗樣本攻擊類型
        2.1.4 對(duì)抗樣本的威脅模型
    2.2 白盒攻擊方法綜述
        2.2.1 基于微小擾動(dòng)的白盒攻擊
        2.2.2 非微小擾動(dòng)的白盒攻擊
    2.3 黑盒攻擊方法綜述
    2.4 對(duì)抗防御方法綜述
        2.4.1 基于對(duì)抗訓(xùn)練的防御
        2.4.2 基于移除擾動(dòng)的防御
        2.4.3 基于網(wǎng)絡(luò)本身的防御
        2.4.4 基于隨機(jī)化機(jī)制的防御
        2.4.5 基于對(duì)抗樣本檢測(cè)的防御
    2.5 本章小結(jié)
第3章 基于結(jié)構(gòu)保持的對(duì)抗攻擊
    3.1 引言
    3.2 基于結(jié)構(gòu)保持的對(duì)抗攻擊
        3.2.1 結(jié)構(gòu)保持對(duì)抗攻擊的動(dòng)機(jī)
        3.2.2 結(jié)構(gòu)保持對(duì)抗攻擊的原理
        3.2.3 基于結(jié)構(gòu)保持攻擊的對(duì)抗樣本生成算法
    3.3 對(duì)抗攻擊的攻擊空間分析
    3.4 本章小結(jié)
第4章 實(shí)驗(yàn)結(jié)果與分析
    4.1 實(shí)驗(yàn)環(huán)境和實(shí)驗(yàn)數(shù)據(jù)介紹
        4.1.1 實(shí)驗(yàn)環(huán)境
        4.1.2 實(shí)驗(yàn)數(shù)據(jù)
    4.2 實(shí)驗(yàn)設(shè)計(jì)
        4.2.1 評(píng)價(jià)指標(biāo)
        4.2.2 基準(zhǔn)攻擊和防御
        4.2.3 目標(biāo)模型
    4.3 參數(shù)設(shè)置
        4.3.1 基準(zhǔn)攻擊和防御的參數(shù)設(shè)置
        4.3.2 結(jié)構(gòu)保持攻擊的參數(shù)設(shè)置
    4.4 結(jié)構(gòu)保持攻擊的有效性驗(yàn)證及分析
        4.4.1 白盒攻擊實(shí)驗(yàn)結(jié)果
        4.4.2 黑盒攻擊和遷移能力實(shí)驗(yàn)結(jié)果
        4.4.3 攻擊空間對(duì)攻擊能力影響的分析
        4.4.4 對(duì)抗樣本的示例
        4.4.5 基于結(jié)構(gòu)保持攻擊的對(duì)抗訓(xùn)練
    4.5 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表的論文及其它成果
致謝


【參考文獻(xiàn)】：
期刊論文
[1]深度學(xué)習(xí)中的對(duì)抗性攻擊和防御[J]. 任奎,Tianhang Zheng,秦湛,Xue Liu.  Engineering. 2020(03)
[2]聚焦圖像對(duì)抗攻擊算法PS-MIFGSM[J]. 吳立人,劉政浩,張浩,岑悅亮,周維.  計(jì)算機(jī)應(yīng)用. 2020(05)
[3]基于迭代自編碼器的深度學(xué)習(xí)對(duì)抗樣本防御方案[J]. 楊浚宇.  信息安全學(xué)報(bào). 2019(06)
[4]人工智能系統(tǒng)安全與隱私風(fēng)險(xiǎn)[J]. 陳宇飛,沈超,王騫,李琦,王聰,紀(jì)守領(lǐng),李康,管曉宏.  計(jì)算機(jī)研究與發(fā)展. 2019(10)
[5]基于GAN的對(duì)抗樣本生成研究[J]. 孫曦音,封化民,劉飚,張健毅.  計(jì)算機(jī)應(yīng)用與軟件. 2019(07)



本文編號(hào)：3053779