一種基于第二代賽道存儲(chǔ)的面向卷積神經(jīng)網(wǎng)絡(luò)的高效內(nèi)存計(jì)算框架
發(fā)布時(shí)間:2020-08-10 17:45
【摘要】:內(nèi)存計(jì)算作為一種新興的技術(shù),支持?jǐn)?shù)據(jù)在存儲(chǔ)單元內(nèi)就地處理,減少了數(shù)據(jù)的移動(dòng)并增加了數(shù)據(jù)的并行處理,在一定程度上彌補(bǔ)了馮·諾伊曼架構(gòu)的缺陷。和傳統(tǒng)易失隨機(jī)存儲(chǔ)介質(zhì)相比,賽道型內(nèi)存(Racetrack Memory)具有密度大、非易失且靜態(tài)功耗低等特點(diǎn),支持高效的內(nèi)存計(jì)算。為解決卷積神經(jīng)網(wǎng)絡(luò)運(yùn)行過(guò)程中性能與功耗問(wèn)題,本文創(chuàng)新性地提出了基于斯格明子(Skyrmion)介質(zhì)的第二代賽道型內(nèi)存計(jì)算框架。該框架采用斯格明子賽道內(nèi)存(Skyrmion-based Racetrack Memory)作為存儲(chǔ)單元,采用基于斯格明子邏輯門構(gòu)成的加法/乘法器組成計(jì)算單元,無(wú)須大量CMOS電路輔助,設(shè)計(jì)復(fù)雜度大大降低。同時(shí)本文通過(guò)在器件層優(yōu)化存儲(chǔ)單元讀寫端口數(shù)目與在系統(tǒng)層改進(jìn)內(nèi)存地址映射方式等方式,大幅提高了該框架的運(yùn)行效率。針對(duì)卷積神經(jīng)網(wǎng)絡(luò)不同層次功能如何在基于第二代賽道存儲(chǔ)的內(nèi)存計(jì)算框架中實(shí)現(xiàn)的問(wèn)題,本文進(jìn)一步提出了特定的優(yōu)化實(shí)現(xiàn)方法。此方法能夠有效的支持卷積神經(jīng)網(wǎng)絡(luò)在新型內(nèi)存計(jì)算框架下的運(yùn)行,同時(shí)充分利用第二代賽道型存儲(chǔ)介質(zhì)的性能優(yōu)勢(shì)。本文主要貢獻(xiàn)如下:1.第二代賽道型內(nèi)存計(jì)算單元設(shè)計(jì)與優(yōu)化第二代賽道型存儲(chǔ)介質(zhì)不僅僅具有存儲(chǔ)功能,還天然地適用于實(shí)現(xiàn)計(jì)算功能。本文充分利用此特性設(shè)計(jì)了基于斯格明子介質(zhì)的內(nèi)存加法器和乘法器,以便在內(nèi)存中完成特定的計(jì)算操作。此種加法器和乘法器構(gòu)成的內(nèi)存計(jì)算單元,無(wú)需大量CMOS電路輔助,在大大降低了系統(tǒng)實(shí)現(xiàn)復(fù)雜度的同時(shí)也降低了系統(tǒng)功耗。2.第二代賽道型內(nèi)存存儲(chǔ)單元設(shè)計(jì)與優(yōu)化第二代賽道型存儲(chǔ)介質(zhì),作為一種新型非易失性存儲(chǔ),與傳統(tǒng)的隨機(jī)存取存儲(chǔ)器(Random Access Memory,RAM)從物理結(jié)構(gòu)上來(lái)說(shuō)有著本質(zhì)區(qū)別:除了傳統(tǒng)的讀和寫的操作外,還有位移的操作,因此無(wú)法將其直接替換現(xiàn)有的隨機(jī)存取存介質(zhì)。針對(duì)這些問(wèn)題,本文重新設(shè)計(jì)優(yōu)化了基于斯格明子賽道型存儲(chǔ)的非易失性存儲(chǔ)單元,同時(shí)提出一種專門用于這種新型存儲(chǔ)結(jié)構(gòu)的內(nèi)存地址映射方式,從而極大地減少了存儲(chǔ)系統(tǒng)讀取數(shù)據(jù)過(guò)程中的總移位操作,最終提高了整個(gè)內(nèi)存計(jì)算框架的運(yùn)行效率。3.基于新型內(nèi)存計(jì)算框架的卷積神經(jīng)網(wǎng)絡(luò)本文設(shè)計(jì)并實(shí)現(xiàn)了一種方法,使得通用的卷積神經(jīng)網(wǎng)絡(luò)能夠在第二代賽道型內(nèi)存計(jì)算框架中高效、正確的執(zhí)行。該方法通過(guò)將卷積神經(jīng)網(wǎng)絡(luò)按功能分層,并對(duì)不同層次的功能分別進(jìn)行處理。對(duì)于大部分較為簡(jiǎn)單的運(yùn)算,如矩陣點(diǎn)乘、求平均值等,分解為加法和乘法直接在內(nèi)存計(jì)算框架的計(jì)算單元中執(zhí)行;對(duì)于其它的無(wú)法分解的復(fù)雜運(yùn)算,如求導(dǎo)等,本文提出兩種實(shí)現(xiàn)方式:一種是將數(shù)據(jù)傳輸至通用處理器(CPU)中進(jìn)行處理,還有一種是使用查找表獲得一個(gè)近似值。最終實(shí)驗(yàn)結(jié)果表明,對(duì)于相同的卷積神經(jīng)網(wǎng)絡(luò),相比目前最先進(jìn)的基于磁疇壁的非易失性內(nèi)存計(jì)算框架,本文提出的框架最多可以在運(yùn)行時(shí)間上節(jié)省52.1%,同時(shí)在能耗上節(jié)省了40%。
【學(xué)位授予單位】:華東師范大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2018
【分類號(hào)】:TP333;TP183
本文編號(hào):2788420
【學(xué)位授予單位】:華東師范大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2018
【分類號(hào)】:TP333;TP183
【參考文獻(xiàn)】
相關(guān)期刊論文 前1條
1 沈志榮;薛巍;舒繼武;;新型非易失存儲(chǔ)研究[J];計(jì)算機(jī)研究與發(fā)展;2014年02期
本文編號(hào):2788420
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/2788420.html
最近更新
教材專著