在推動人工智能技術發(fā)展的神經形態(tài)計算領域,憶阻元件由于其非易失性、低功耗、存算一體化等特性被廣泛應用于神經網絡的推理加速,但目前大部分憶阻神經網絡仍采用離線學習,難以充分利用憶阻存內運算的優(yōu)勢。因此,憶阻神經網絡在線學習電路設計受到廣泛關注,并有望進一步提高網絡學習速率,降低功耗和面積,促進神經網絡算法在移動設備上的應用。本文首先提出了兩種憶阻模型的修改方法對新型憶阻元件進行建模,為憶阻電路的設計與仿真打下基礎。接著,從新型神經網絡的推理加速出發(fā),設計了基于3D憶阻交叉陣列的膠囊神經網絡電路,實現(xiàn)了高度并行的卷積操作與矩陣-向量乘法,提高了運算效率并應用于字符識別。進一步地,為實現(xiàn)神經網絡的高效訓練,在已有憶阻交叉陣列的基礎上設計了基于憶阻的單列存儲器、神經元模塊、轉換模塊、控制模塊等輔助電路,完成了神經網絡訓練中的前向傳播、反向傳播、權值更新等過程,實現(xiàn)了全連接網絡的在線學習,減少了網絡訓練中的數(shù)據(jù)傳輸和信號轉換,加快了學習速率,并成功應用于分類任務。更進一步地,為解決傳統(tǒng)訓練算法對突觸權值高精度的要求與憶阻元件非理想性的沖突,設計了一種可用于層次時序記憶網絡的憶阻突觸電路,為層次時... 

【文章來源】：華中科技大學湖北省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：70 頁

【學位級別】：碩士

【部分圖文】：

人工智能領域論文產出及其占全球論文總產出比例發(fā)展趨勢(單位：篇)

圖 1-2 神經形態(tài)計算和神經網絡硬件實現(xiàn)的研究成果發(fā)展趨勢圖[3]。神經形態(tài)計算領域的器件級研究中，自旋材料、相變存儲器等新型非易常用來模擬生物突觸和神經元的功能。但是，如圖 1-3 所示，其中最經形態(tài)系統(tǒng)的元件是 Leon Chua[4]于 1971 年提出并由惠普實驗室[5]在憶阻器。Leon Chua 將四個基本電路變量(電壓、電流、電荷和磁通量通量關聯(lián)起來，提出了憶阻的概念并建立了憶阻的理論模型。2008 年次制備出納米級實物憶阻元件，建立了憶阻的電路模型，為憶阻元件的

中 科 技 大 學 碩 士 學 位 論中矩陣-向量乘法的并行運算。當前可用于神經網絡點乘列最大規(guī)�？梢赃_到128 64的交叉陣列[7]，而且該陣列除傳統(tǒng)神經網絡算法的加速外，憶阻交叉陣列還可用時記憶網絡[8]、層次時序記憶網絡[9]等的硬件加速。因用于神經形態(tài)系統(tǒng)構建憶阻神經網絡電路，對突破密集低、吞吐量損失等神經網絡應用的瓶頸具有重要意義。


本文編號：3513633