近些年來,深度學(xué)習(xí)及其硬件計算電路的不斷發(fā)展和演進(jìn),使得越來越多的領(lǐng)域開始將基于深度學(xué)習(xí)算法的相關(guān)產(chǎn)品投入實際應(yīng)用。大量運(yùn)行深度學(xué)習(xí)推理算法的硬件計算電路產(chǎn)品被設(shè)計,生產(chǎn)和投放。以FPGA,GPU,ASIC為底層硬件的深度學(xué)習(xí)硬件計算平臺被廣泛的應(yīng)用。但是以該平臺為主的設(shè)計制造等多方環(huán)節(jié)都存在著巨大的安全隱患:一方面神經(jīng)網(wǎng)絡(luò)算法本身存在缺陷,使攻擊者利用網(wǎng)絡(luò)含有的漏洞進(jìn)行惡意攻擊;另一方面在硬件的生產(chǎn)制造過程中,存在不可信的第三方IP,工具和人員,都可能是攻擊者利用的潛在目標(biāo)。在此背景下,本課題對神經(jīng)網(wǎng)絡(luò)及其計算平臺的安全性問題進(jìn)行探究,分析神經(jīng)網(wǎng)絡(luò)算法及硬件電路在各個環(huán)節(jié)可能存在的安全漏洞和攻擊方式,在此基礎(chǔ)上總結(jié)深度學(xué)習(xí)計算平臺攻擊理論,并進(jìn)行實驗驗證,為該領(lǐng)域的相關(guān)安全問題的防護(hù)和檢測提供借鑒。本文首先介紹了深度學(xué)習(xí),硬件木馬和生成對抗網(wǎng)絡(luò)相關(guān)基礎(chǔ)知識,在此基礎(chǔ)上對卷積神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)流,專用硬件電路的設(shè)計,生產(chǎn)和制造過程中存在的漏洞進(jìn)行分析總結(jié),并針對上述漏洞,提出一種軟硬件結(jié)合的攻擊理論。然后利用Pynq框架進(jìn)行硬件電路的設(shè)計搭建,利用Vivado HLS工具進(jìn)行卷積和池化運(yùn)算... 

【文章來源】：電子科技大學(xué)四川省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：98 頁

【學(xué)位級別】：碩士

【部分圖文】：

線性分類器結(jié)構(gòu)

第二章相關(guān)技術(shù)基礎(chǔ)和理論研究92.1.1.2神經(jīng)元模型一個典型的神經(jīng)網(wǎng)絡(luò)主要包含，輸入層，中間層和輸出層三部分。輸入層和輸出層主要用來將外界數(shù)據(jù)按照格式接收并將處理后的結(jié)果按照想要的數(shù)據(jù)格式輸出。組成神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)稱之為神經(jīng)元，一個基本的神經(jīng)元如下圖所示：圖2-3神經(jīng)元結(jié)構(gòu)神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的最基礎(chǔ)單元，從上圖中，x1，x2，…，xn分別為輸入信號，箭頭表示數(shù)據(jù)的具體流向，w1，w2，…，wn分別表示與輸入信號相乘的系數(shù)權(quán)值，圖片中描述的關(guān)系可用如下公式具體表示：112()()2nny=ga=gwx+wx+...+wx(2-10)輸入信號x通過線性加權(quán)運(yùn)算得到結(jié)果a，a再經(jīng)過函數(shù)y=g(a)，得到最終的輸出結(jié)果。y=g(a)為激活函數(shù)（ActivationFunction），是一種非線性函數(shù)，主要是為了在輸出上引入非線性因素，保證其可以應(yīng)用于實際生活中的非線性問題。常見的激活函數(shù)有如下幾種：1.SigmoidSigmoid又叫做Logistic激活函數(shù)，它將輸入數(shù)據(jù)壓縮到0~1區(qū)間之內(nèi)，其函數(shù)如下：1()1xxeσ=+(2-11)該函數(shù)將較大的負(fù)數(shù)轉(zhuǎn)換成0，將大的正數(shù)轉(zhuǎn)換成1，其函數(shù)曲線如下所示：圖2-4Sigmoid函數(shù)曲線Sigmoid函數(shù)在數(shù)據(jù)區(qū)域0和1的時候，變化率會變得平坦，梯度會趨于0。故在利用Sigmoid函數(shù)進(jìn)行反向傳播時，當(dāng)輸出接近0和1的時候所計算出來的

電子科技大學(xué)碩士學(xué)位論文10梯度也會趨近于0，使得神經(jīng)元的權(quán)重和偏差更新變化微小，產(chǎn)生梯度消失。2.tanhtanh激活函數(shù)為雙曲正確函數(shù)，它與sigmoid函數(shù)相類似，tanh函數(shù)將輸入數(shù)據(jù)壓縮到-1~1之間，其函數(shù)表達(dá)式如下：tanh(x)=2σ(2x)1(2-12)在實際應(yīng)用中，tanh函數(shù)的使用率要高于sigmoid函數(shù)，該函數(shù)將在進(jìn)行數(shù)據(jù)壓縮的時候，其數(shù)據(jù)符號不發(fā)生改變。Tanh函數(shù)曲線圖如下所示：圖2-5Tanh函數(shù)曲線Tanh函數(shù)與sigmoid函數(shù)類似，故在數(shù)值接近-1和1的時候，都會存在梯度消失的情況。3.ReLU為了解決梯度消失的情況，引入了修正線性單元（rectifiedlinearunit，ReLU）函數(shù)，該函數(shù)可以很好的解決反向更新的時候存在的梯度消失問題，其函數(shù)表達(dá)式如下：f(x)=max(0,x)(2-13)當(dāng)輸入數(shù)據(jù)小于等于0時，輸出結(jié)果為0；當(dāng)輸入數(shù)據(jù)大于0時，則直接將輸入數(shù)據(jù)作為輸出結(jié)果。同時相比較于sigmoid函數(shù)和tanh函數(shù)，ReLU函數(shù)采用的計算更加簡單明了，提高了計算效率。其函數(shù)曲線圖如下所示：圖2-6ReLU函數(shù)曲線


本文編號：3309739