近年來,深度學(xué)習(xí)技術(shù)在許多方向上都取得了重大突破,而深度學(xué)習(xí)模型也被廣泛地運用于各個研究領(lǐng)域和部署到人們的生活當中。盡管深度學(xué)習(xí)在許多復(fù)雜問題上取得了優(yōu)秀的表現(xiàn),越來越多的研究表明,深度學(xué)習(xí)模型存在許多安全上的隱患,從而容易受到惡意者的攻擊,其中一個典型的攻擊就是對抗樣本。對抗樣本通過攻擊者有意添加擾動或噪聲得來,能讓機器學(xué)習(xí)和深度模型產(chǎn)生錯誤的輸出。如果對抗樣本上的擾動和噪聲被約束得足夠小,人眼或者系統(tǒng)將很難把對抗樣本與正常樣本區(qū)分出來。對抗樣本可能對基于深度學(xué)習(xí)模型構(gòu)建的系統(tǒng)產(chǎn)生嚴重的安全性威脅,尤其是在那些對于安全性要求較高的應(yīng)用上。在這篇論文中,我們介紹了機器學(xué)習(xí)與深度學(xué)習(xí)中的一些基本概念,并總結(jié)了對抗樣本近年來的研究成果。我們基于前人的文獻綜述和總結(jié),對對抗樣本的相關(guān)研究成果進行重新分類總結(jié)。在此之上,我們針對對抗樣本,提出了一個通過對抗樣本構(gòu)建的正面應(yīng)用:基于對抗樣本的隱寫機制。在這個機制中,我們將對抗樣本自身的對抗性看作一種信息,該信息只被特定的模型能夠解碼。我們?yōu)殡[寫機制設(shè)計了四種可行的隱寫方案,并通過實驗展示了四個方案在不同約束下的表現(xiàn)。在論文的最后,我們對該隱寫機制... 

【文章來源】：哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校

【文章頁數(shù)】：55 頁

【學(xué)位級別】：碩士

【部分圖文】：

對抗樣本實例[1]

哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文圖2-1全連接神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖卷積神經(jīng)網(wǎng)絡(luò)在圖像處理中尤其常用。相比于標準的前饋神經(jīng)網(wǎng)絡(luò)，卷積神經(jīng)網(wǎng)絡(luò)增加了卷積核及池化層等組件。這些組件通過共享參數(shù)，降采樣等方式，大大降低了神經(jīng)網(wǎng)絡(luò)的參數(shù)量，使得大規(guī)模的基于圖片的分類器模型的訓(xùn)練成為現(xiàn)實。圖2-2展示了一個標準的卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。圖2-2卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖此外，神經(jīng)網(wǎng)絡(luò)還包含循環(huán)神經(jīng)網(wǎng)絡(luò)[9]，遞歸神經(jīng)網(wǎng)絡(luò)[10]，以及短期記憶網(wǎng)絡(luò)[11]等諸多變種，因其未在本研究項目中使用，我們在此不再多做介紹。受益于近期來訓(xùn)練算法和硬件條件的發(fā)展，相比于之前只有數(shù)層的神經(jīng)網(wǎng)絡(luò)模型，深度學(xué)習(xí)中能夠?qū)崿F(xiàn)多達數(shù)十層乃至成百上千層的深度神經(jīng)網(wǎng)絡(luò)。通過層數(shù)的增加，深度神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力大大增強，能夠做到主動對數(shù)據(jù)進行表征學(xué)習(xí)的效果，從而減少研究人員在特征選擇上花的時間和精力，并取得更好的效果。與模型表現(xiàn)效果提升對應(yīng)的是，網(wǎng)絡(luò)層數(shù)的增加也帶來了訓(xùn)練難度的提升。此外，深度神經(jīng)網(wǎng)絡(luò)比起傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)層數(shù)增多，參數(shù)量增大，也給攻擊提供了更大的自由度，更容易受到對抗樣本的攻擊。-6-

哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文圖2-1全連接神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖卷積神經(jīng)網(wǎng)絡(luò)在圖像處理中尤其常用。相比于標準的前饋神經(jīng)網(wǎng)絡(luò)，卷積神經(jīng)網(wǎng)絡(luò)增加了卷積核及池化層等組件。這些組件通過共享參數(shù)，降采樣等方式，大大降低了神經(jīng)網(wǎng)絡(luò)的參數(shù)量，使得大規(guī)模的基于圖片的分類器模型的訓(xùn)練成為現(xiàn)實。圖2-2展示了一個標準的卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。圖2-2卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖此外，神經(jīng)網(wǎng)絡(luò)還包含循環(huán)神經(jīng)網(wǎng)絡(luò)[9]，遞歸神經(jīng)網(wǎng)絡(luò)[10]，以及短期記憶網(wǎng)絡(luò)[11]等諸多變種，因其未在本研究項目中使用，我們在此不再多做介紹。受益于近期來訓(xùn)練算法和硬件條件的發(fā)展，相比于之前只有數(shù)層的神經(jīng)網(wǎng)絡(luò)模型，深度學(xué)習(xí)中能夠?qū)崿F(xiàn)多達數(shù)十層乃至成百上千層的深度神經(jīng)網(wǎng)絡(luò)。通過層數(shù)的增加，深度神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力大大增強，能夠做到主動對數(shù)據(jù)進行表征學(xué)習(xí)的效果，從而減少研究人員在特征選擇上花的時間和精力，并取得更好的效果。與模型表現(xiàn)效果提升對應(yīng)的是，網(wǎng)絡(luò)層數(shù)的增加也帶來了訓(xùn)練難度的提升。此外，深度神經(jīng)網(wǎng)絡(luò)比起傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)層數(shù)增多，參數(shù)量增大，也給攻擊提供了更大的自由度，更容易受到對抗樣本的攻擊。-6-


本文編號：3235676