隨著人工智能的廣泛應(yīng)用,人工智能安全也開始引起人們的關(guān)注,其中人工智能對(duì)抗攻擊已經(jīng)成為人工智能安全研究熱點(diǎn).為此,介紹了對(duì)抗攻擊的概念和產(chǎn)生對(duì)抗樣本的原因,主要因?yàn)槟Ｐ团袛噙吔缗c真實(shí)系統(tǒng)邊界的不一致導(dǎo)致對(duì)抗空間的存在;論述了幾種經(jīng)典生成對(duì)抗樣本的方法,包括快速梯度和雅克比映射攻擊,對(duì)抗攻擊的主要思路是尋找模型梯度變化最快方向,按這個(gè)方向加入擾動(dòng)從而導(dǎo)致模型誤判;論述了檢測(cè)對(duì)抗攻擊的方法和對(duì)抗攻擊的防御方法,并提出未來的一些研究方向. 

【文章來源】：上海交通大學(xué)學(xué)報(bào). 2018,52(10)北大核心EICSCD

【文章頁數(shù)】：9 頁

【文章目錄】：
1 對(duì)抗攻擊簡(jiǎn)介
    1.1 對(duì)抗攻擊概念
    1.2 對(duì)抗攻擊的分類
        1.2.1 對(duì)抗攻擊的目標(biāo)
        1.2.2 對(duì)抗攻擊的能力
2 對(duì)抗攻擊的方法
    2.1 快速梯度攻擊
    2.2 雅克比映射攻擊
    2.3 深度欺騙攻擊
    2.4 邊界攻擊
3 對(duì)抗攻擊的檢測(cè)
    3.1 基于魯棒性的檢測(cè)
    3.2 基于對(duì)抗樣本空間的檢測(cè)
    3.3 基于邊界傾斜的檢測(cè)
    3.4 基于線性對(duì)抗的檢測(cè)
    3.5 通用擾動(dòng)與檢測(cè)
4 對(duì)抗攻擊的防御方法
    4.1 修改訓(xùn)練數(shù)據(jù)/測(cè)試輸入
        4.1.1 對(duì)抗訓(xùn)練
        4.1.2 數(shù)據(jù)壓縮防御
        4.1.3 數(shù)據(jù)隨機(jī)化處理
    4.2 修改網(wǎng)絡(luò)模型結(jié)構(gòu)
        4.2.1 深度收縮網(wǎng)絡(luò) (DCN)
        4.2.2 梯度正則化與梯度遮蔽
        4.2.3 防御性蒸餾
        4.2.4 遮罩防御
    4.3 網(wǎng)絡(luò)附加工具
        4.3.1 針對(duì)全局?jǐn)_動(dòng)的防御
        4.3.2 基于對(duì)抗網(wǎng)絡(luò)的防御
5 結(jié)語



本文編號(hào)：3473926