近年來,深度神經網絡在各個領域中都實現(xiàn)了先進的性能,如圖像分類、人臉識別、目標檢測等。然而最近的研究表明,深度神經網絡容易受到對抗樣本的攻擊。向原始圖像中加入精心設計的微小擾動,可以使深度神經網絡輸出錯誤的結果,這導致深度神經網絡的安全性與可靠性受到嚴重的質疑。為此,如何減輕對抗樣本的威脅,提高深度神經網絡的對抗魯棒性已成為迫切需要解決的問題。在深入研究現(xiàn)有對抗防御方法的基礎上,該文提出了三種新的防御方法,以使得深度神經網絡在圖像分類領域中具有更好的對抗魯棒性,主要的研究工作與創(chuàng)新點如下:1)提出基于自適應噪聲添加的對抗防御方法:以往利用噪聲添加的防御方法在訓練防御模型時向原始圖像中添加均勻噪聲,沒有考慮到神經網絡對圖像中不同區(qū)域的敏感性不同。為此,通過實驗分析了梯度與添加噪聲大小的關系,提出利用梯度指導噪聲添加的方式來訓練神經網絡,該方法在訓練深度神經網絡時向圖像中敏感性不同的區(qū)域添加不同大小的高斯噪聲。對于敏感性較大的區(qū)域添加較大的噪聲,以抑制神經網絡對輸入變化的敏感性,在敏感性較小的區(qū)域添加較小的噪聲,以提高神經網絡的分類準確率。實驗結果表明:該方法提高了深度神經網絡的對抗魯棒性... 

【文章頁數】：63 頁

【學位級別】：碩士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 研究背景及意義
    1.2 國內外研究現(xiàn)狀
        1.2.1 深度學習的發(fā)展
        1.2.2 對抗攻擊方法研究現(xiàn)狀
        1.2.3 對抗防御方法研究現(xiàn)狀
    1.3 論文研究主要內容
    1.4 論文組織結構
2 相關技術概述
    2.1 對抗學習的相關概念
    2.2 白盒對抗攻擊算法
        2.2.1 FGSM方法
        2.2.2 I-FGSM方法
        2.2.3 PGD方法
        2.2.4 MT-PGD方法
        2.2.5 ODI-PGD方法
    2.3 黑盒對抗攻擊方法
        2.3.1 MI-FGSM方法
        2.3.2 DI~2-FGSM方法
        2.3.3 TI-FGSM方法
    2.4 對抗防御方法
        2.4.1 基于輸入轉換的防御方法
        2.4.2 基于魯棒優(yōu)化的防御方法
    2.5 本章小結
3 基于自適應噪聲添加的對抗防御方法
    3.1 引言
    3.2 梯度指導噪聲添加的訓練算法
        3.2.1 梯度與添加噪聲的關系分析
        3.2.2 算法理論分析
        3.2.3 算法時間復雜度分析
        3.2.4 算法描述
    3.3 實驗結果及分析
        3.3.1 實驗設置
        3.3.2 GGNA方法和添加普通高斯噪聲方法的不同
        3.3.3 GGNA方法訓練時添加噪聲標準差對準確率的影響
        3.3.4 GGNA方法和普通對抗訓練方法訓練時間的對比
        3.3.5 不同防御方法的準確率比較
        3.3.6 不同攻擊方法下對抗樣本準確率的比較
    3.4 本章小結
4 基于多樣性初始化對抗訓練的防御方法
    4.1 引言
    4.2 經驗性分析
        4.2.1 從輸入空間的角度分析
        4.2.2 從輸出空間的角度分析
    4.3 提出方法
        4.3.1 熱重啟方法
        4.3.2 最小化正確類輸出多樣性初始化方法
        4.3.3 高效熱重啟的投影梯度下降方法
    4.4 對抗攻擊的實驗結果與分析
        4.4.1 實驗設置
        4.4.2 相同重啟次數下和現(xiàn)有的攻擊方法的比較
        4.4.3 相同準確率時,各攻擊方法重啟次數的比較
    4.5 消融實驗
        4.5.1 實驗設置
        4.5.2 MCC-ODI 方法與ODI 方法的比較
        4.5.3 熱重啟方法和冷重啟方法的比較
    4.6 基于多樣性初始化對抗訓練的防御方法
        4.6.1 算法描述
        4.6.2 實驗設置
        4.6.3 多樣性初始化對抗訓練的防御性能
    4.7 本章小結
5 基于多模型集成的對抗樣本防御方法
    5.1 引言
    5.2 多模型集成的對抗防御方法
    5.3 實驗結果及分析
        5.3.1 實驗設置
        5.3.2 對單個模型攻擊時集成模型和單個模型的性能比較
        5.3.3 對集成模型及單個模型攻擊時集成模型和單個模型的性能比較
    5.4 本章小結
6 總結與展望
    6.1 本文工作總結
    6.2 未來工作展望
致謝
參考文獻
個人簡歷、在學期間發(fā)表的學術論文及取得的研究成果



本文編號：3669073