新興的憶阻交叉陣列由于非線性、非易失性、低功耗和高集成度等優(yōu)點(diǎn),在神經(jīng)形態(tài)計(jì)算系統(tǒng)(Neuromorphic Computing Systems,NCS)中具有很好的應(yīng)用前景。但是大多數(shù)大型神經(jīng)網(wǎng)絡(luò)都是稀疏的,這與憶阻陣列提供的高密度連接相矛盾;同時(shí)由于不成熟的制造工藝,目前可用的憶阻交叉陣列規(guī)模有限;且憶阻交叉陣列中存在一定比例的故障。針對(duì)上述問(wèn)題,本文面向NCS提出了憶阻交叉陣列上的大規(guī)模神經(jīng)網(wǎng)絡(luò)容錯(cuò)映射框架,主要工作如下:(1)本文設(shè)計(jì)了一種面向基于憶阻陣列的神經(jīng)形態(tài)計(jì)算系統(tǒng)的容錯(cuò)映射方法。該方法主要包括容錯(cuò)驅(qū)動(dòng)的神經(jīng)元譜聚類算法,采用0-1矩陣表示聚類神經(jīng)元間的突觸連接關(guān)系,通過(guò)基于海明距離的譜聚類距離定義,引導(dǎo)形成具有一定稀疏度的且行間海明距離最大化的神經(jīng)元突觸子矩陣,將容錯(cuò)問(wèn)題轉(zhuǎn)換為找到突觸子矩陣和憶阻陣列矩陣之間的有效映射問(wèn)題,提升通過(guò)映射階段的列置換方法對(duì)矩陣進(jìn)行重排列來(lái)避開故障憶阻器的可能性;通過(guò)基于二分匹配的啟發(fā)式算法,完成神經(jīng)突觸矩陣到故障憶阻陣列的映射。(2)為了實(shí)現(xiàn)一定規(guī)模憶阻陣列下的通用性設(shè)計(jì),本文設(shè)計(jì)了基于固定尺寸憶阻陣列的大規(guī)模容錯(cuò)聚類方法。該方法通過(guò)基于劃分算法的容錯(cuò)驅(qū)動(dòng)聚類方法將突觸連接聚類為大小相近的集群,擴(kuò)大了在可接受時(shí)間內(nèi)處理的神經(jīng)網(wǎng)絡(luò)規(guī)模;通過(guò)對(duì)突觸子矩陣到固定尺寸憶阻陣列映射成功概率的估計(jì),在保證一定映射成功率的條件下最大化突觸連接子矩陣,提升憶阻陣列的利用率;提出通過(guò)對(duì)半轉(zhuǎn)置方法,降低非對(duì)稱矩陣的行列差距,提升給定憶阻陣列可容納的突觸連接子矩陣規(guī)模,減少憶阻交叉陣列數(shù)目。最后根據(jù)聚類結(jié)果,通過(guò)蒙特卡洛方法來(lái)進(jìn)行模擬。模擬結(jié)果顯示,在固定故障的故障注入率一共為10.79%的情況下,FTNCS框架可以實(shí)現(xiàn)96.69%的映射成功率,FTDC-NCS框架的映射成功率更是達(dá)到了 99.52%,而且對(duì)于含有百萬(wàn)突觸的大規(guī)模神經(jīng)網(wǎng)絡(luò),相比于FTNCS,FTDC-NCS將運(yùn)行時(shí)間從6h減少到1500秒左右,同時(shí)提高了憶阻陣列的利用率。
【學(xué)位單位】：中國(guó)科學(xué)技術(shù)大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位年份】：2020
【中圖分類】：TN60;TP183
【部分圖文】：

?第１章緒論???第１章緒論??１．１研究背景及意義??近年來(lái)，人工智能得到了飛速的發(fā)展，對(duì)于信息處理和計(jì)算能力的要求也爆??炸式增長(zhǎng)。而傳統(tǒng)計(jì)算機(jī)中的中央處理器（ＣＰＵ）在物理上與存儲(chǔ)元件分離，這??種體系結(jié)構(gòu)造成了馮？諾依曼瓶頸，其固有的高數(shù)據(jù)傳輸開銷導(dǎo)致無(wú)法滿足高性??能計(jì)算的需求［１］。相對(duì)來(lái)說(shuō)，人腦是一個(gè)高效的存算一體的信息存儲(chǔ)與計(jì)算引擎，??它能存儲(chǔ)３．５?ＰＢ的數(shù)據(jù)，并提供２０?ｐｅｔａＦＬＯＰｓ的計(jì)算能力，卻僅僅消耗２０Ｗ的??功耗［２］。與人腦相比，基于ＣＭＯＳ的ＣＰＵ只能達(dá)到１．５?ＧＯＰｓ／Ｗ氣雖然隨著ＣＭＯＳ??器件尺寸的縮小和定制化設(shè)計(jì)的發(fā)展，能效逐漸提高，但是由于器件上的限制，??這種趨勢(shì)無(wú)法持續(xù)。??圖１．１大腦的層次結(jié)構(gòu)問(wèn)??人腦與傳統(tǒng)計(jì)算機(jī)之間巨大的能源效率差距使人們嘗試去探索其中的原因，??科學(xué)家通過(guò)研究發(fā)現(xiàn)，人類大腦擁有與眾不同的信息處理方式。人腦含有約１０＂??神經(jīng)元和１〇１５突觸其層次結(jié)構(gòu)如圖１．１所示，而對(duì)人腦的分析揭示了幾個(gè)重??要特征。首先，大腦是集存儲(chǔ)與計(jì)算于一體的，它可以并行地處理信息，克服了??眾所周知的“內(nèi)存墻”問(wèn)題，并減少了將數(shù)據(jù)從內(nèi)存?zhèn)鬏數(shù)接?jì)算單元所需的能量，??是一種非馮？諾依曼構(gòu)架。其次，大腦不是基于布爾代數(shù)的，而布爾代數(shù)是基于??１??

?第１章緒論???大規(guī)模集成（ＶＬＳＩ）與模擬生物神經(jīng)系統(tǒng)的模擬元件作為“神經(jīng)形態(tài)”系統(tǒng)，而最??近這個(gè)術(shù)語(yǔ)己經(jīng)包括了基于人工神經(jīng)網(wǎng)絡(luò)、生物啟發(fā)或非馮？諾依曼體系結(jié)構(gòu)的??實(shí)現(xiàn)。模仿神經(jīng)生物學(xué)結(jié)構(gòu)中的神經(jīng)網(wǎng)絡(luò)以實(shí)現(xiàn)神經(jīng)系統(tǒng)模型的硬件系統(tǒng)被稱作??神經(jīng)形態(tài)計(jì)算系統(tǒng)［４］。??神經(jīng)形態(tài)計(jì)算系統(tǒng)近年來(lái)經(jīng)常作為馮？諾依曼系統(tǒng)的補(bǔ)充體系結(jié)構(gòu)出現(xiàn)：在??傳統(tǒng)的馮？諾依曼體系結(jié)構(gòu)中，一個(gè)（或幾個(gè)并行）的邏輯核心對(duì)從內(nèi)存中獲取??的數(shù)據(jù)進(jìn)行順序操作：而神經(jīng)形態(tài)計(jì)算系統(tǒng)將計(jì)算和存儲(chǔ)同時(shí)分布在大量相對(duì)原??始的“神經(jīng)元”中，每個(gè)神經(jīng)元都與數(shù)百或數(shù)千個(gè)神經(jīng)元通信。因此神經(jīng)形態(tài)計(jì)??算系統(tǒng)通常是高度并行、廣泛連接的，并且消除了?ＣＰＵ計(jì)算能力和內(nèi)存帶寬之??間的差距。神經(jīng)形態(tài)計(jì)算涉及的領(lǐng)域相當(dāng)廣泛，包括如材料科學(xué)、神經(jīng)科學(xué)、電??氣工程、計(jì)算機(jī)工程和計(jì)算科學(xué)等。神經(jīng)形態(tài)計(jì)算擁有的諸多特性，使得人們開??始對(duì)它進(jìn)行研宄與開拓，如圖１．２是海德堡大學(xué)開發(fā)的第一個(gè)神經(jīng)形態(tài)芯片??Ｓｐｉｋｅｙ［４】。??圖１．２神經(jīng)形態(tài)芯片“Ｓｐｉｋｅｙ”?Ｗ??在神經(jīng)形態(tài)計(jì)算的早期研宄中，神經(jīng)形態(tài)系統(tǒng)的固有并行性是最普遍的研究??方向，這得益于在生物大腦中觀察到的并行性，但是該并行性是在單個(gè)芯片上實(shí)??現(xiàn)的。神經(jīng)形態(tài)系統(tǒng)強(qiáng)調(diào)了許多簡(jiǎn)單的處理組件（通常以神經(jīng)元的形式），它們??之間具有相對(duì)密集的互連（通常以突觸的形式），從而使它們與當(dāng)時(shí)的其他并行??計(jì)算平臺(tái)區(qū)分開。??３??

?第１章緒論???ＣＴ）和電感（的關(guān)聯(lián)時(shí)，通過(guò)數(shù)學(xué)概念從對(duì)稱性出發(fā)推導(dǎo)出的一種新基??本電路元件，可以用來(lái)表示ｇ和＜／＞之間缺失的關(guān)系，Ｌｅｏｎ?Ｃｈｕａ將其稱為憶阻器，??如圖１．３所示。但是直到２００８年，惠普公司才成功制作出了第一個(gè)實(shí)體憶阻器，??這是一個(gè)在兩個(gè)金屬板之間具有氧化鈦薄膜的雙端納米器件，它使憶阻器從理論??變成了現(xiàn)實(shí)。???￣－—??？—ＶＳＡｒ－＃?Ａ?？—｜?｜—？????電阻?ｆ?電荇??ｄｖ?－?Ｒｄｉ?芝?ｄｑ?＊?Ｃｄｖ??（７＾?＜???????■！?＝?ｉｄｔ??？－ｒｉｎｎｒ＃＞ｋ??電感?憶阻??ｄ（／＞?＝?Ｌｄｉ?＝?Ｍｄｑ??＞?ｒ????？ＧＨ???憶阻系統(tǒng)??圖１．３電阻、電感、電容及憶阻器間的關(guān)系Ｗ??憶阻器是一種具有動(dòng)態(tài)電阻的器件，其定義特性是通量（施加電壓的積分）??和電荷（通過(guò)它的電流的積分）之間的函數(shù)關(guān)系。如公式１．１所示，憶阻器的電??阻取決于流過(guò)它的電荷及其先前的電阻狀態(tài)，其中Ｍ?（ｇ）為憶阻值，具有電阻??的量綱。??ｄ（ｆ）?＝?Ｍ｛ｑ）ｄｑ?（１．１）??憶阻器與其他普通電阻器不同，具有非易失性。作為一種新型的兩端電路元??件，憶阻器還具有很多優(yōu)點(diǎn)：??１．憶阻器是納米級(jí)器件，其存儲(chǔ)密度大，使延續(xù)摩爾定律成為可能。??２．憶阻器具有連續(xù)的輸入輸出特性。??３．憶阻器的信息存儲(chǔ)速度要比在快閃內(nèi)存上快３個(gè)數(shù)量級(jí)，將憶阻器用作??存儲(chǔ)設(shè)備具有閃存、ＳＲＡＭ和ＤＲＡＭ的集體優(yōu)勢(shì)。??４．憶阻器有獨(dú)特的開關(guān)轉(zhuǎn)換機(jī)制，可以用作多層單元，還具有低功耗和天??然的記憶功能。??５．憶阻器是非線性的，而且可以與晶體
【參考文獻(xiàn)】

相關(guān)碩士學(xué)位論文 前2條

1 劉友超;基于近鄰相似圖的譜聚類算法研究與應(yīng)用[D];江南大學(xué);2019年

2 劉記朋;基于RRAM陣列的神經(jīng)形態(tài)計(jì)算訓(xùn)練電路設(shè)計(jì)[D];哈爾濱工業(yè)大學(xué);2016年

本文編號(hào)：2882379