發(fā)布時(shí)間：2021-07-20 19:10

　　近年來(lái),人工智能技術(shù)的飛速發(fā)展,在計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、語(yǔ)音識(shí)別等多個(gè)領(lǐng)域展現(xiàn)出其強(qiáng)大的應(yīng)用價(jià)值,人工智能技術(shù)的安全性問(wèn)題也隨著這些應(yīng)用的推廣變得越來(lái)越受到重視,對(duì)抗樣本的存在也越來(lái)越引起相關(guān)研究者們的關(guān)注。通過(guò)對(duì)對(duì)抗樣本相關(guān)問(wèn)題的研究,可以更好地思考人工智能技術(shù),了解以深度學(xué)習(xí)為代表的第三次基于連接主義的人工智能浪潮中各種算法模型的本質(zhì)。通過(guò)對(duì)抗樣本的產(chǎn)生和防御等方面的研究,以更好地掌控人工智能技術(shù),在未來(lái)的人工智能技術(shù)進(jìn)一步落地時(shí),有更多的可能去盡力避免一些潛在的安全性問(wèn)題。自從2014年對(duì)抗樣本被發(fā)現(xiàn)以來(lái),國(guó)內(nèi)外研究者們提出了一系列的對(duì)抗樣本生成方法和防御方法,使得對(duì)抗樣本問(wèn)題的研究越來(lái)越深入。本文主要研究對(duì)抗文本的生成方法,通過(guò)借鑒傳統(tǒng)算法思想設(shè)計(jì)算法去攻擊一個(gè)表現(xiàn)良好的用于情感分析任務(wù)的卷積神經(jīng)網(wǎng)絡(luò),探尋在最短的時(shí)間內(nèi)找到最不容易被人類感知的對(duì)抗樣本。通過(guò)借鑒遺傳算法的思想,對(duì)遺傳算法的整個(gè)迭代過(guò)程,諸如種子種群生成、種群選擇、種群交叉、種群變異等階段針對(duì)生成對(duì)抗樣本這個(gè)問(wèn)題進(jìn)行針對(duì)性的設(shè)計(jì)。對(duì)適應(yīng)度函數(shù)的設(shè)計(jì)立足于被攻擊模型得分和改動(dòng)比例得分兩項(xiàng),盡力做到盡快找到好的對(duì)... 

【文章來(lái)源】：華中科技大學(xué)湖北省 211工程院校 985工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：49 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

遺傳算法流程圖

華 中 科 技 大 學(xué) 碩 士 學(xué) 位 論 文區(qū)分，并通過(guò)卷積的權(quán)值共享和池化操作來(lái)減少網(wǎng)絡(luò)參數(shù)[48]，是一類非常高效的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。2.2.2 卷積神經(jīng)網(wǎng)絡(luò)在文本分類上的應(yīng)用卷積神經(jīng)網(wǎng)絡(luò)不僅在圖像處理領(lǐng)域取得豐富的成果，也在自然語(yǔ)言處理領(lǐng)域取得了一些成果[49]。卷積神經(jīng)網(wǎng)絡(luò)通過(guò)先將包含每個(gè)句子的單詞轉(zhuǎn)化為向量表示再進(jìn)行輸入，從而形成輸入矩陣。在句子分類領(lǐng)域，卷積神經(jīng)網(wǎng)絡(luò)不需要特別復(fù)雜的結(jié)構(gòu)，便能取得相對(duì)傳統(tǒng)算法來(lái)說(shuō)非常不錯(cuò)的分類效果。甚至只用簡(jiǎn)單的單層卷積神經(jīng)網(wǎng)絡(luò)，便能在多個(gè)數(shù)據(jù)集上面取得最優(yōu)的結(jié)果[49]。用于句子分類任務(wù)的單層卷積神經(jīng)網(wǎng)絡(luò)如圖 2-2：

圖 2-3 對(duì)抗圖像的產(chǎn)生對(duì)抗樣本問(wèn)題不是深度學(xué)習(xí)模型所特有的，也不是特定模型所特有。甚至，已幾乎所有的機(jī)器學(xué)習(xí)模型的高維數(shù)據(jù)的輸入都廣泛地受到了對(duì)抗樣本的影響樣本不僅存在廣泛性，還存在遷移性，也就是在一個(gè)模型上面產(chǎn)生的對(duì)抗樣本擊另外一個(gè)模型，另外一個(gè)模型有可能仍會(huì)以一個(gè)很大的概率去產(chǎn)生錯(cuò)誤的分果。對(duì)抗樣本被發(fā)現(xiàn)以后，越來(lái)越多的研究開(kāi)始進(jìn)入該領(lǐng)域，對(duì)抗樣本問(wèn)題方研究也開(kāi)始變得逐漸深入。2 對(duì)抗圖像對(duì)抗樣本最先在圖像領(lǐng)域被發(fā)現(xiàn)，研究者們?cè)趯?duì)抗圖像領(lǐng)域已經(jīng)取得了一系究成果。研究者們已經(jīng)在圖像領(lǐng)域提出了一系列的對(duì)抗樣本產(chǎn)生方法，包括-constrained L-BFGS[16]、Fast Gradient Sign Method(FGSM)[17][18]、Jacobian-basncy Map Attack(JSMA)[20]、One Pixel Attack[7][21]等。同時(shí)，研究者們不僅在圖

【參考文獻(xiàn)】：
期刊論文
[1]遺傳算法研究綜述[J]. 葛繼科,邱玉輝,吳春明,蒲國(guó)林.  計(jì)算機(jī)應(yīng)用研究. 2008(10)
[2]遺傳算法研究綜述[J]. 吉根林.  計(jì)算機(jī)應(yīng)用與軟件. 2004(02)
[3]多維實(shí)數(shù)編碼遺傳算法[J]. 雷德明.  控制與決策. 2000(02)



本文編號(hào)：3293411