發(fā)布時(shí)間：2021-11-16 04:52

　　近些年,機(jī)器學(xué)習(xí)技術(shù)推動(dòng)了人工智能領(lǐng)域的飛速發(fā)展,在計(jì)算機(jī)視覺(jué)、醫(yī)療、自動(dòng)駕駛等領(lǐng)域得到了廣泛應(yīng)用。與此同時(shí),機(jī)器學(xué)習(xí)所帶來(lái)的信息安全問(wèn)題和隱私保護(hù)問(wèn)題引起了人們的關(guān)注。在安全方面,機(jī)器學(xué)習(xí)模型可能受到投毒攻擊、對(duì)抗樣本攻擊等,因而導(dǎo)致嚴(yán)重的安全事故;在隱私保護(hù)方面,因?yàn)闄C(jī)器學(xué)習(xí)模型的訓(xùn)練和預(yù)測(cè)都是在明文域上進(jìn)行的,用戶的數(shù)據(jù)隱私遭受著被泄露的威脅。本文調(diào)研了機(jī)器學(xué)習(xí)中的安全問(wèn)題和隱私保護(hù)問(wèn)題,對(duì)這些問(wèn)題進(jìn)行了分析和總結(jié)。針對(duì)眾多機(jī)器學(xué)習(xí)安全和隱私保護(hù)問(wèn)題,本文聚焦在兩個(gè)具體場(chǎng)景下的問(wèn)題。第一個(gè)問(wèn)題是交通標(biāo)志的對(duì)抗樣本攻擊,自動(dòng)駕駛的交通標(biāo)志識(shí)別系統(tǒng)基于神經(jīng)網(wǎng)絡(luò)模型,攻擊者通過(guò)在交通標(biāo)志上加入對(duì)抗樣本噪聲,就可以使識(shí)別系統(tǒng)發(fā)生故障并引發(fā)交通事故;第二個(gè)是云計(jì)算機(jī)器學(xué)習(xí)模型中用戶數(shù)據(jù)隱私泄露問(wèn)題,在用戶使用云計(jì)算機(jī)器學(xué)習(xí)服務(wù)時(shí),需要將自己的數(shù)據(jù)以明文的方式上傳至服務(wù)器,用戶的數(shù)據(jù)隱私可能被服務(wù)器泄露。本文對(duì)這兩個(gè)具體場(chǎng)景下的問(wèn)題提出了解決方案,主要貢獻(xiàn)如下:（1）對(duì)基于神經(jīng)網(wǎng)絡(luò)模型的交通標(biāo)志分類器遭受對(duì)抗樣本攻擊的問(wèn)題,我們提出了一種基于傳統(tǒng)圖像斑點(diǎn)檢測(cè)特征的防御方法。我們通過(guò)理論和實(shí)驗(yàn)... 

【文章來(lái)源】：西安電子科技大學(xué)陜西省 211工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：65 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

多層感知機(jī)每層的結(jié)構(gòu)和其整體結(jié)構(gòu)

[45]。圖2.2 激活函數(shù) ReLU，Sigmoid Function，Tanh 的函數(shù)圖像神經(jīng)網(wǎng)絡(luò)模型每一層的結(jié)構(gòu)以及整體結(jié)構(gòu)與多層感知機(jī)幾乎相同，但是，神經(jīng)網(wǎng)絡(luò)模型在每一層的神經(jīng)元計(jì)算中加入了激活函數(shù)。和多層感知機(jī)類似，每一層神經(jīng)網(wǎng)絡(luò)的計(jì)算先經(jīng)過(guò)線性變換，然后在將線性變換結(jié)果輸入下一層之前，需要經(jīng)過(guò)激活函數(shù)的計(jì)算，這也就是神經(jīng)網(wǎng)絡(luò)和多層感知機(jī)最大的不同。由于經(jīng)過(guò)了激活函數(shù)，神經(jīng)網(wǎng)絡(luò)就有了非線性擬合的能力。我們可以將神經(jīng)網(wǎng)絡(luò)的每一層計(jì)算表示為下面的公式：yj=f (∑Wij×xi+b) (2-2)其中的變量符號(hào)含義與多層感知機(jī)相同，其中的f ( )表示激活函數(shù)。經(jīng)過(guò)f ( )計(jì)算的結(jié)

邊為原始圖像的 SIFT 特征點(diǎn)，右邊為對(duì)抗樣本圖像的 SIFT 特征點(diǎn)。可以看出，雖然對(duì)抗樣本圖像的特征點(diǎn)多于原始圖像，但是很多特征點(diǎn)都是相似的。圖3.1 原始圖像和對(duì)抗樣本圖像圖3.2 原始圖像和對(duì)抗樣本圖像的 SURF 特征點(diǎn)進(jìn)一步，我們對(duì)這兩張圖像的 SIFT 特征點(diǎn)進(jìn)行匹配，如圖 3.3 所示，我們使用KNN 算法進(jìn)行匹配，圖中紅色的連線表示匹配到的特征點(diǎn)，我們可以直觀的看出匹

【參考文獻(xiàn)】：
期刊論文
[1]機(jī)器學(xué)習(xí)安全及隱私保護(hù)研究進(jìn)展.[J]. 宋蕾,馬春光,段廣晗.  網(wǎng)絡(luò)與信息安全學(xué)報(bào). 2018(08)



本文編號(hào)：3498184