隨著神經(jīng)網(wǎng)絡(luò)的快速發(fā)展,它已在多個領(lǐng)域大放光彩,但是目前傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)多采用軟件方式在計算機上運行,在實現(xiàn)相同的任務(wù)如圖像識別等,相比于生物大腦,需要耗費大量的硬件資源與能源。在此基礎(chǔ)上,研究人員提出了神經(jīng)形態(tài)計算這一概念,旨在使用大規(guī)模的集成電路來模擬并實現(xiàn)神經(jīng)系統(tǒng)架構(gòu),一定程度上模擬生物神經(jīng)元與神經(jīng)系統(tǒng)。本文在神經(jīng)形態(tài)系統(tǒng)研究中主要進行了以下三個方面的工作。針對網(wǎng)絡(luò)算法模型,首先針對MNSIT手寫數(shù)字識別訓(xùn)練了一個三層人工神經(jīng)網(wǎng)絡(luò),并改變網(wǎng)絡(luò)大小和結(jié)構(gòu)得到了不同的識別率,當(dāng)網(wǎng)絡(luò)規(guī)模為784×784×10時,識別率最高為98.43%,在其基礎(chǔ)上,使用權(quán)值二值化以及脈沖頻率編碼等方法,轉(zhuǎn)化得到二值化脈沖神經(jīng)網(wǎng)絡(luò),識別率最高為87.31%。為便于后續(xù)進行神經(jīng)形態(tài)硬件研究,通過將二值化權(quán)值網(wǎng)絡(luò)映射到憶阻器交叉陣列中得到憶阻器脈沖計算電路模型,并使用Matlab對其進行仿真,仿真結(jié)果顯示在相同網(wǎng)絡(luò)規(guī)模下,憶阻器脈沖計算電路模型的識別率與二值化脈沖神經(jīng)網(wǎng)絡(luò)的識別率幾乎相等,識別率最高為87.28%。這表示該模型能正確運行�；贛atlab對憶阻器脈沖計算電路模型的行為仿真,進一步對其進行電路仿... 

【文章來源】： 羅鑫 電子科技大學(xué)

【文章頁數(shù)】：73 頁

【學(xué)位級別】：碩士

【部分圖文】：

三層前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖

基于脈沖的有監(jiān)督學(xué)習(xí)方法[37]主要有兩個方面,一方面是基于脈沖,這意味著使用時間信息來訓(xùn)練脈沖神經(jīng)網(wǎng)絡(luò),另一方面在于有監(jiān)督學(xué)習(xí),脈沖神經(jīng)網(wǎng)絡(luò)的有監(jiān)督學(xué)習(xí)是使用有標記的數(shù)據(jù)對脈沖神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,即輸入到網(wǎng)絡(luò)的脈沖序列有其對應(yīng)的輸出脈沖序列,在訓(xùn)練過程中,將網(wǎng)絡(luò)的輸出脈沖序列與已有的輸出脈沖序列進行對比,根據(jù)對比結(jié)果對突觸權(quán)值矩陣進行相應(yīng)的修改,如此往復(fù),直到輸出脈沖序列與對應(yīng)的目標脈沖序列兩者盡量接近或使得突觸權(quán)值收斂到某一確定值。圖2-2所示為監(jiān)督學(xué)習(xí)算法的基本框架,圖的左邊si(t)為樣本數(shù)據(jù)經(jīng)過一定編碼方式得到的輸入脈沖序列。在初始的權(quán)值矩陣W中,矩陣各個元素是任意生成的隨機數(shù),在初始權(quán)值矩陣W的作用下,得到第一次的實際輸出脈沖序列son(t),將實際輸出脈沖序列son(t)目標脈沖序列sdn(t)相比較,經(jīng)過計算便可得出此時神經(jīng)網(wǎng)絡(luò)的誤差,然后根據(jù)誤差和相應(yīng)的學(xué)習(xí)規(guī)則,對權(quán)值矩陣W進行更新:W←W+?W,更新后進行下一次輸入,再將所得脈沖輸出序列與目標脈沖序列相比較以更新權(quán)值矩陣,并將此過程不斷重復(fù),直到訓(xùn)練完成。

Hodgkin-Huxley(H-H)模型[39]出現(xiàn)于1952年,其采用一組四次非線性方程描述離子進出神經(jīng)元的行為,進而模擬生物神經(jīng)元的膜電位變化情況。H-H模型對應(yīng)的示意圖如圖2-3所示。圖中RNa、RK和Rl分別代表生物神經(jīng)元的鈉離子通道,鉀離子通道以及膜電位泄漏通道電阻,其中RNa,RK為可變電阻,Rl為固定電阻。相應(yīng)的ENa、EK和El分別表示神經(jīng)細胞膜內(nèi)外的鈉離子和鉀離子濃度差導(dǎo)致的鈉離子平衡電壓,鉀離子平衡電壓和漏電平衡電壓。電容C表示神經(jīng)細胞膜脂質(zhì)雙層的電容,膜電壓V表示神經(jīng)細胞膜內(nèi)外電壓差,通過對H-H模型進行行為仿真可以得到膜電壓V隨輸入脈沖的變化曲線,當(dāng)有脈沖輸入時,膜電壓V將升高并在達到閾值電壓時產(chǎn)生脈沖輸出。H-H模型膜電位變化過程可由圖2-4表示。圖中黃色虛線表示有脈沖輸入達到神經(jīng)元,圖中畫出了5個脈沖輸入,可以看出,從靜息狀態(tài)開始,當(dāng)有脈沖到來時,神經(jīng)元膜電位上升,但由于泄漏通道的存在,在脈沖間隔期,膜電位緩慢下降,直到下一個脈沖輸入到來時再上升,如此反復(fù),直到膜電位上升至閾值電壓Vth(圖中紅色虛線),此時神經(jīng)元產(chǎn)生一個輸出脈沖且膜電位V迅速放電下降然后逐漸恢復(fù)到平衡電壓El,若有持續(xù)脈沖輸入,則神經(jīng)元重復(fù)上述過程。當(dāng)外界多個脈沖輸入間隔較大時,神經(jīng)元將由于泄漏電流的存在而無法達到閾值。在脈沖發(fā)放到神經(jīng)元恢復(fù)到平衡電壓這一過程中,神經(jīng)元對脈沖輸入無反應(yīng),稱之為不應(yīng)期。H-H模型能非常精確地模擬生物神經(jīng)元的神經(jīng)沖動這一電生理動作,但另一方面,正是由于其追求高精度,這使得其方程計算特別復(fù)雜,運算量較大,當(dāng)神經(jīng)網(wǎng)絡(luò)規(guī)�？焖贁U大時,需要耗費巨量資源,因此難以實現(xiàn)大規(guī)模神經(jīng)網(wǎng)絡(luò)的實時仿真。

【參考文獻】：
期刊論文
[1]神經(jīng)形態(tài)器件研究進展與未來趨勢[J]. 王洋昊,劉昌,黃如,楊玉超.  科學(xué)通報. 2020(10)
[2]脈沖神經(jīng)網(wǎng)絡(luò)的監(jiān)督學(xué)習(xí)算法研究綜述[J]. 藺想紅,王向文,張寧,馬慧芳.  電子學(xué)報. 2015(03)



本文編號：2938279