近年來,深度學習技術在多個領域取得十分優(yōu)異的成就,如計算機視覺、自然語言處理和語音處理等,越來越多的相關應用出現(xiàn),這給人們的生活帶來了很多便利。然而,深度學習在表現(xiàn)優(yōu)異的同時,還存在易受攻擊的缺陷。攻擊方法通過在輸入樣本中增加一些微小的擾動,便可以讓深度學習模型做出錯誤判斷。這給深度學習應用帶來了巨大的安全問題。當前,已有很多關于防御對抗攻擊的研究成果出現(xiàn)。然而,多數(shù)防御策略只能應對特定的攻擊方法,普適性比較低,另外這些防御策略多為全局過濾擾動,浪費了大量算力。因此,本文針對上述缺點,試圖提出一種高效且普適性高的防御策略。本文主要從以下三個方面展開詳細研究:(1)首先詳細分析了多種經(jīng)典對抗攻擊方法,并對這些攻擊方法按照攻擊范圍分類。從分類中抽象出不同點與共同點,發(fā)現(xiàn)對抗擾動中存在敏感點,敏感點的波動影響深度學習模型的分類。受此啟發(fā),我們提出一種僅過濾對抗樣本中敏感點的防御策略,避免了對非敏感點的處理,減少了計算,提高了效率。(2)詳細研究了尋找敏感點與過濾敏感點的方法。為了提高防御策略的普適性,我們提出了一種基于差分進化算法尋找敏感點的方法,采用黑盒的方式去尋找對抗樣本中的敏感點,避免...

【文章頁數(shù)】：63 頁

【學位級別】：碩士

【文章目錄】：
摘要
Abstract
第1章 緒論
    1.1 研究背景和意義
    1.2 研究現(xiàn)狀
        1.2.1 數(shù)據(jù)層面防御
        1.2.2 模型層面防御
    1.3 主要研究內(nèi)容與組織結構
第2章 背景知識介紹
    2.1 深度學習
        2.1.1 卷積神經(jīng)網(wǎng)絡簡介
        2.1.2 深度學習經(jīng)典模型
    2.2 對抗攻擊
        2.2.1 對抗攻擊相關概念
        2.2.2 距離度量
        2.2.3 對抗攻擊方法介紹
    2.3 本章小結
第3章 基于對抗攻擊的防御策略
    3.1 全局攻擊
    3.2 局部攻擊
    3.3 防御策略
    3.4 本章小結
第4章 防御策略的設計與實現(xiàn)
    4.1 基于差分進化算法尋找敏感點
        4.1.1 引言
        4.1.2 問題描述
        4.1.3 問題求解
        4.1.4 實驗結果
    4.2 過濾敏感點
    4.3 實現(xiàn)防御策略
        4.3.1 配置實驗環(huán)境
        4.3.2 訓練網(wǎng)絡模型
        4.3.3 生成對抗樣本
        4.3.4 實驗結果與分析
    4.4 本章小結
結論
參考文獻
攻讀碩士學位期間發(fā)表的論文及其它成果
致謝



本文編號：3866639