在推動(dòng)人工智能技術(shù)發(fā)展的神經(jīng)形態(tài)計(jì)算領(lǐng)域,憶阻元件由于其非易失性、低功耗、存算一體化等特性被廣泛應(yīng)用于神經(jīng)網(wǎng)絡(luò)的推理加速,但目前大部分憶阻神經(jīng)網(wǎng)絡(luò)仍采用離線學(xué)習(xí),難以充分利用憶阻存內(nèi)運(yùn)算的優(yōu)勢。因此,憶阻神經(jīng)網(wǎng)絡(luò)在線學(xué)習(xí)電路設(shè)計(jì)受到廣泛關(guān)注,并有望進(jìn)一步提高網(wǎng)絡(luò)學(xué)習(xí)速率,降低功耗和面積,促進(jìn)神經(jīng)網(wǎng)絡(luò)算法在移動(dòng)設(shè)備上的應(yīng)用。本文首先提出了兩種憶阻模型的修改方法對(duì)新型憶阻元件進(jìn)行建模,為憶阻電路的設(shè)計(jì)與仿真打下基礎(chǔ)。接著,從新型神經(jīng)網(wǎng)絡(luò)的推理加速出發(fā),設(shè)計(jì)了基于3D憶阻交叉陣列的膠囊神經(jīng)網(wǎng)絡(luò)電路,實(shí)現(xiàn)了高度并行的卷積操作與矩陣-向量乘法,提高了運(yùn)算效率并應(yīng)用于字符識(shí)別。進(jìn)一步地,為實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的高效訓(xùn)練,在已有憶阻交叉陣列的基礎(chǔ)上設(shè)計(jì)了基于憶阻的單列存儲(chǔ)器、神經(jīng)元模塊、轉(zhuǎn)換模塊、控制模塊等輔助電路,完成了神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的前向傳播、反向傳播、權(quán)值更新等過程,實(shí)現(xiàn)了全連接網(wǎng)絡(luò)的在線學(xué)習(xí),減少了網(wǎng)絡(luò)訓(xùn)練中的數(shù)據(jù)傳輸和信號(hào)轉(zhuǎn)換,加快了學(xué)習(xí)速率,并成功應(yīng)用于分類任務(wù)。更進(jìn)一步地,為解決傳統(tǒng)訓(xùn)練算法對(duì)突觸權(quán)值高精度的要求與憶阻元件非理想性的沖突,設(shè)計(jì)了一種可用于層次時(shí)序記憶網(wǎng)絡(luò)的憶阻突觸電路,為層次時(shí)... 

【文章來源】：華中科技大學(xué)湖北省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：70 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

人工智能領(lǐng)域論文產(chǎn)出及其占全球論文總產(chǎn)出比例發(fā)展趨勢(單位：篇)

圖 1-2 神經(jīng)形態(tài)計(jì)算和神經(jīng)網(wǎng)絡(luò)硬件實(shí)現(xiàn)的研究成果發(fā)展趨勢圖[3]。神經(jīng)形態(tài)計(jì)算領(lǐng)域的器件級(jí)研究中，自旋材料、相變存儲(chǔ)器等新型非易常用來模擬生物突觸和神經(jīng)元的功能。但是，如圖 1-3 所示，其中最經(jīng)形態(tài)系統(tǒng)的元件是 Leon Chua[4]于 1971 年提出并由惠普實(shí)驗(yàn)室[5]在憶阻器。Leon Chua 將四個(gè)基本電路變量(電壓、電流、電荷和磁通量通量關(guān)聯(lián)起來，提出了憶阻的概念并建立了憶阻的理論模型。2008 年次制備出納米級(jí)實(shí)物憶阻元件，建立了憶阻的電路模型，為憶阻元件的

中 科 技 大 學(xué) 碩 士 學(xué) 位 論中矩陣-向量乘法的并行運(yùn)算。當(dāng)前可用于神經(jīng)網(wǎng)絡(luò)點(diǎn)乘列最大規(guī)�？梢赃_(dá)到128 64的交叉陣列[7]，而且該陣列除傳統(tǒng)神經(jīng)網(wǎng)絡(luò)算法的加速外，憶阻交叉陣列還可用時(shí)記憶網(wǎng)絡(luò)[8]、層次時(shí)序記憶網(wǎng)絡(luò)[9]等的硬件加速。因用于神經(jīng)形態(tài)系統(tǒng)構(gòu)建憶阻神經(jīng)網(wǎng)絡(luò)電路，對(duì)突破密集低、吞吐量損失等神經(jīng)網(wǎng)絡(luò)應(yīng)用的瓶頸具有重要意義。


本文編號(hào)：3513633