發(fā)布時(shí)間：2020-07-27 18:33

【摘要】：對(duì)抗樣本是被惡意設(shè)計(jì)來(lái)攻擊機(jī)器學(xué)習(xí)模型的添加了擾動(dòng)或者噪聲的樣本,它們與真實(shí)樣本看上去幾乎是一模一樣的,但是機(jī)器學(xué)習(xí)模型會(huì)給出完全不同于真實(shí)樣本的錯(cuò)誤結(jié)果。這種攻擊可能會(huì)嚴(yán)重破壞深度學(xué)習(xí)模型支持的系統(tǒng)的安全,尤其是對(duì)安全性敏感的應(yīng)用。在本文的工作中,本文首先表明基于DCT的圖像表示對(duì)對(duì)抗性樣本具有一定的魯棒性。從這個(gè)發(fā)現(xiàn)出發(fā),本文提出了基于DCT編碼器和對(duì)抗訓(xùn)練的對(duì)抗性樣本防御模型。通過(guò)在模型中添加DCT編碼層,并由防御者人為地產(chǎn)生對(duì)抗性樣本加入到訓(xùn)練數(shù)據(jù)中,可以有效地提高模型的對(duì)抗性魯棒性。實(shí)驗(yàn)證明,與單純使用對(duì)抗訓(xùn)練相比,結(jié)合DCT編碼器和對(duì)抗訓(xùn)練的模型對(duì)基于FGSM、BIM和PGD的對(duì)抗性樣本的防御效果都有一定的提升。尤其是結(jié)合DCT編碼器和FGSM對(duì)抗訓(xùn)練的模型在計(jì)算效率和防御效果上產(chǎn)生了很好地平衡。這使得將這一模型運(yùn)用在大規(guī)模數(shù)據(jù)集上來(lái)抵御對(duì)抗性樣本成為可能。本文的主要貢獻(xiàn)為:1、使用快速梯度符號(hào)法、基本迭代法和投影梯度下降法對(duì)數(shù)據(jù)集MNIST、CIFAR-10以及ImageNet進(jìn)行攻擊,研究了同一算法生成的對(duì)抗樣本在相同數(shù)據(jù)集的不同模型中的泛化性。2、開發(fā)了一套針對(duì)對(duì)抗樣本的實(shí)驗(yàn)展示平臺(tái),使用Django后端框架和vue.js前端框架使得前后端完全分離,通過(guò)直接上傳或畫板作畫在線生成對(duì)抗樣本并識(shí)別結(jié)果。3、通過(guò)對(duì)抗訓(xùn)練的防御性機(jī)制提高了模型抵御對(duì)抗樣本的能力。并進(jìn)一步提出了基于DCT變換的對(duì)抗樣本防御方法。4、驗(yàn)證了基于DCT變換的對(duì)抗訓(xùn)練模型的較強(qiáng)對(duì)抗魯棒性,提升了對(duì)基于快速梯度符號(hào)法、基本迭代法和投影梯度下降法的對(duì)抗樣本的防御效果。制作了具有對(duì)抗魯棒性的圖像識(shí)別系統(tǒng)來(lái)直觀地展示模型防御對(duì)抗樣本的效果。
【學(xué)位授予單位】：哈爾濱工業(yè)大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2018
【分類號(hào)】：TP181;TP311.52
【圖文】：

如圖1-1 在熊貓的圖片中加入一個(gè)微小的噪聲，在人眼不易察覺(jué)的情況下使神經(jīng)網(wǎng)絡(luò)以高置信度分類為長(zhǎng)臂猿。這對(duì)基于深度學(xué)習(xí)的應(yīng)用領(lǐng)域安全性構(gòu)成一定威脅，如對(duì)于人臉識(shí)別系統(tǒng)，攻擊者通過(guò)對(duì)人臉圖像做精心設(shè)計(jì)的擾動(dòng)，使系統(tǒng)誤認(rèn)為是攻擊者想要的用戶身份；或者對(duì)于無(wú)人駕駛系統(tǒng)，稍微改動(dòng) STOP 標(biāo)志使得深度神經(jīng)網(wǎng)絡(luò)識(shí)別為別的標(biāo)志而不及時(shí)停車，造成交通事故。研究對(duì)抗樣本的生成過(guò)程，分析基于深度學(xué)習(xí)的系統(tǒng)存在的安全漏洞，有助于建立針對(duì)此類攻擊的更好的防范機(jī)制。圖 1-1 左圖被 57.7%地認(rèn)為是大熊貓，加入擾動(dòng)，右圖被 99.3%地認(rèn)為是長(zhǎng)臂猿

哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文藏層都要選擇一個(gè)激活函數(shù) σ。激活函數(shù)負(fù)責(zé)值壓縮到一個(gè)更小范圍，即一個(gè) Sigmoid 范圍d 這三個(gè)激活函數(shù)比較常用 。應(yīng)用激活函數(shù)讓神經(jīng)網(wǎng)絡(luò)能夠應(yīng)用到眾多的非線在物理意義上最為接近生物神經(jīng)元。Sigmoid 而被人熟知，值域在 0 到 1 之間。Sigmoid 激念。它的導(dǎo)數(shù)是非零的，并且很容易計(jì)算。Sigm以看到其兩側(cè)導(dǎo)數(shù)趨近于 0，容易導(dǎo)致過(guò)擬合

導(dǎo)數(shù)是非零的，并且很容易計(jì)算。Si其兩側(cè)導(dǎo)數(shù)趨近于 0，容易導(dǎo)致過(guò)擬圖 2-1 Sigmoid 激活函數(shù)坐標(biāo)圖完全可微分的奇函數(shù)。收斂速度要比可以看到兩側(cè)導(dǎo)數(shù)趨近于 0，從而造 ′ 1 2

【參考文獻(xiàn)】

相關(guān)期刊論文 前1條

1 武瑛;;DCT變換在圖像壓縮中的應(yīng)用[J];計(jì)算機(jī)與現(xiàn)代化;2013年04期

相關(guān)碩士學(xué)位論文 前1條

1 鄒曉藝;基于變換域特征與深度學(xué)習(xí)的圖像分類研究[D];華南理工大學(xué);2015年

本文編號(hào)：2772211