基于憶阻器的PIM結(jié)構(gòu)實(shí)現(xiàn)深度卷積神經(jīng)網(wǎng)絡(luò)近似計(jì)算
本文關(guān)鍵詞:基于憶阻器的PIM結(jié)構(gòu)實(shí)現(xiàn)深度卷積神經(jīng)網(wǎng)絡(luò)近似計(jì)算 出處:《計(jì)算機(jī)研究與發(fā)展》2017年06期 論文類型:期刊論文
更多相關(guān)文章: 憶阻器 PIM 卷積神經(jīng)網(wǎng)絡(luò) 近似計(jì)算 模擬存儲
【摘要】:憶阻器(memristor)能夠?qū)⒋鎯陀?jì)算的特性融合,可用于構(gòu)建存儲計(jì)算一體化的PIM(processing-in-memory)結(jié)構(gòu).但是,由于計(jì)算陣列以及結(jié)構(gòu)映射方法的限制,基于憶阻器陣列的深度神經(jīng)網(wǎng)絡(luò)計(jì)算需要頻繁的AD/DA轉(zhuǎn)換以及大量的中間存儲,導(dǎo)致了顯著的能量和面積開銷.提出了一種新型的基于憶阻器的深度卷積神經(jīng)網(wǎng)絡(luò)近似計(jì)算PIM結(jié)構(gòu),利用模擬憶阻器大大增加數(shù)據(jù)密度,并將卷積過程分解到不同形式的憶阻器陣列中分別計(jì)算,增加了數(shù)據(jù)并行性,減少了數(shù)據(jù)轉(zhuǎn)換次數(shù)并消除了中間存儲,從而實(shí)現(xiàn)了加速和節(jié)能.針對該結(jié)構(gòu)中可能存在的精度損失,給出了相應(yīng)的優(yōu)化策略.對不同規(guī)模和深度的神經(jīng)網(wǎng)絡(luò)計(jì)算進(jìn)行仿真實(shí)驗(yàn)評估,結(jié)果表明,在相同計(jì)算精度下,該結(jié)構(gòu)可以最多降低90%以上的能耗,同時(shí)計(jì)算性能提升約90%.
[Abstract]:The memory device memristors can blend the features of storage and computing. It can be used to construct the PIMN processing-in-memory structure, however, due to the limitation of the computing array and the method of structure mapping. The computation of depth neural network based on resistive array requires frequent AD/DA conversion and a large amount of intermediate storage. A novel deep convolution neural network based on amnesizer is proposed to approximate calculate the PIM structure, which greatly increases the data density. The convolution process is decomposed into different forms of memory array, which increases the data parallelism, reduces the number of data conversion and eliminates the intermediate storage. In view of the possible loss of precision in the structure, the corresponding optimization strategy is given. The simulation results show that the neural network calculation with different sizes and depths is evaluated by simulation. Under the same calculation precision, the energy consumption of the structure can be reduced by more than 90%, and the computational performance can be improved by about 90 percent at the same time.
【作者單位】: 西北工業(yè)大學(xué)計(jì)算機(jī)學(xué)院;嵌入式系統(tǒng)集成教育部工程研究中心(西北工業(yè)大學(xué));
【基金】:國家自然科學(xué)基金項(xiàng)目(61472322) 中央高校基本科研業(yè)務(wù)費(fèi)專項(xiàng)資金項(xiàng)目(3102015BJ(Ⅱ)ZS018)~~
【分類號】:TN60;TP183
【正文快照】: 新型器件憶阻器(memristor)具有能夠?qū)⒂?jì)算和存儲功能相融合的特殊性質(zhì),因此,以憶阻器及其基本單元構(gòu)造的PIM(processing-in-memory)結(jié)構(gòu)被認(rèn)為是訪存瓶頸的有效解決途徑[1].同時(shí),由于歐姆定律和神經(jīng)網(wǎng)絡(luò)矩陣乘法運(yùn)算的高度契合,并且憶阻器的高存儲密度也能滿足神經(jīng)網(wǎng)絡(luò)的巨大
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 PaulJ Rose;;靈活的Hopfield神經(jīng)網(wǎng)絡(luò)ADC消除噪聲[J];電子設(shè)計(jì)技術(shù);2008年04期
2 趙凱;;基于神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法淺析[J];科技資訊;2008年13期
3 杜建華;張認(rèn)成;;LVQ神經(jīng)網(wǎng)絡(luò)的紅外光譜火災(zāi)早期預(yù)警算法[J];華僑大學(xué)學(xué)報(bào)(自然科學(xué)版);2011年06期
4 趙光權(quán);彭喜元;馬勛亮;;基于微分進(jìn)化神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷[J];測試技術(shù)學(xué)報(bào);2012年01期
5 王承;葉韻;梁海浪;何進(jìn);;基于多頻測試和神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷[J];計(jì)算機(jī)工程與應(yīng)用;2013年05期
6 張路;李志華;;優(yōu)化的神經(jīng)網(wǎng)絡(luò)在模擬電路故障診斷中的應(yīng)用[J];信息技術(shù);2013年01期
7 葉伯琦,顧小剛;光折變神經(jīng)網(wǎng)絡(luò)(英文)[J];光子學(xué)報(bào);1992年04期
8 李志良,松本,酒井,李夢龍,余般梅;神經(jīng)網(wǎng)絡(luò)擴(kuò)展濾波訓(xùn)練及色氨酸的選擇測定[J];光譜學(xué)與光譜分析;1997年03期
9 ;邊緣學(xué)科分支最新動(dòng)向[J];中國無線電電子學(xué)文摘;2000年05期
10 ;邊緣學(xué)科分支最新動(dòng)向[J];中國無線電電子學(xué)文摘;2000年02期
相關(guān)會議論文 前8條
1 李明亮;王祖朝;母景琴;李聚光;趙戰(zhàn)明;;基于神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷研究[A];第四屆中國測試學(xué)術(shù)會議論文集[C];2006年
2 彭勃;聞道秋;喻國榮;閆志躍;;基于BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)RTK電離層誤差改正模型研究[A];第三屆中國衛(wèi)星導(dǎo)航學(xué)術(shù)年會電子文集——S01北斗/GNSS導(dǎo)航應(yīng)用[C];2012年
3 趙新龍;譚永紅;;基于遲滯算子的壓電執(zhí)行器遲滯非線性的神經(jīng)網(wǎng)絡(luò)動(dòng)態(tài)模型[A];第二十九屆中國控制會議論文集[C];2010年
4 薛志強(qiáng);李毅;曹燕;;改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)在模擬電路故障診斷中的應(yīng)用研究[A];2011下一代自動(dòng)測試系統(tǒng)學(xué)術(shù)研討會論文集[C];2011年
5 楊中東;雷玉堂;;基于神經(jīng)網(wǎng)絡(luò)與光電檢測的方法識別鈔票真假的研究[A];中國光學(xué)學(xué)會2006年學(xué)術(shù)大會論文摘要集[C];2006年
6 墻威;曹陽;鄢媛媛;高洵;;神經(jīng)網(wǎng)絡(luò)在SoC高層次功耗估計(jì)中的應(yīng)用[A];2005中國通信集成電路技術(shù)與應(yīng)用研討會論文集[C];2005年
7 楊志剛;楊衛(wèi)東;錢俊磊;;基于FPGA的RBF神經(jīng)網(wǎng)絡(luò)硬件實(shí)現(xiàn)[A];冶金企業(yè)自動(dòng)化、信息化與創(chuàng)新——全國冶金自動(dòng)化信息網(wǎng)建網(wǎng)30周年論文集[C];2007年
8 潘中良;;一種電路測試的最優(yōu)神經(jīng)網(wǎng)絡(luò)與遺傳進(jìn)化方法[A];中國儀器儀表學(xué)會第三屆青年學(xué)術(shù)會議論文集(上)[C];2001年
相關(guān)博士學(xué)位論文 前10條
1 閆淑霞;基于神經(jīng)網(wǎng)絡(luò)的微波射頻器件建模[D];天津大學(xué);2015年
2 李建碩;微波加熱過程熱點(diǎn)與熱均勻性控制與優(yōu)化研究[D];重慶大學(xué);2016年
3 祝文姬;模擬電路故障診斷的神經(jīng)網(wǎng)絡(luò)方法及其應(yīng)用[D];湖南大學(xué);2011年
4 張維強(qiáng);小波和神經(jīng)網(wǎng)絡(luò)在模擬電路故障診斷中的應(yīng)用研究[D];西安電子科技大學(xué);2006年
5 謝濤;基于(多)小波(包)、神經(jīng)網(wǎng)絡(luò)及優(yōu)化的模擬電路故障診斷研究[D];湖南大學(xué);2011年
6 方葛豐;模擬電路故障診斷優(yōu)化理論與方法的研究[D];湖南大學(xué);2013年
7 劉美容;基于遺傳算法、小波與神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法[D];湖南大學(xué);2009年
8 譚陽紅;基于小波和神經(jīng)網(wǎng)絡(luò)的大規(guī)模模擬電路故障診斷研究[D];湖南大學(xué);2005年
9 李晴;基于優(yōu)化機(jī)器學(xué)習(xí)算法的模擬電路故障診斷研究[D];湖南大學(xué);2013年
10 李壽林;基于神經(jīng)網(wǎng)絡(luò)的微波射頻MOSFET器件建模[D];華東師范大學(xué);2011年
相關(guān)碩士學(xué)位論文 前10條
1 王含;兩類神經(jīng)網(wǎng)絡(luò)的CMOS模擬電路設(shè)計(jì)與研究[D];湘潭大學(xué);2015年
2 江明;基于構(gòu)造性神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷研究[D];安徽師范大學(xué);2015年
3 魏江濤;憶阻神經(jīng)網(wǎng)絡(luò)在有源電力濾波器中的應(yīng)用[D];太原科技大學(xué);2015年
4 羅永遙;基于級聯(lián)神經(jīng)網(wǎng)絡(luò)的預(yù)失真器設(shè)計(jì)[D];電子科技大學(xué);2016年
5 伏龍;SPI接口在神經(jīng)網(wǎng)絡(luò)加速器芯片中的設(shè)計(jì)與應(yīng)用[D];遼寧大學(xué);2016年
6 趙德贊;基于神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法的研究[D];大連工業(yè)大學(xué);2016年
7 高明;基于神經(jīng)網(wǎng)絡(luò)的FPGA架構(gòu)探索[D];天津大學(xué);2014年
8 歐陽星辰;基于卷積神經(jīng)網(wǎng)絡(luò)的MPPSK信號解調(diào)器[D];東南大學(xué);2016年
9 余磊;基于FPGA的大規(guī)模脈沖深度神經(jīng)網(wǎng)絡(luò)片上系統(tǒng)設(shè)計(jì)與研究[D];重慶大學(xué);2016年
10 劉洋;功率放大器的電磁優(yōu)化及可靠性研究[D];天津大學(xué);2014年
,本文編號:1418136
本文鏈接:http://sikaile.net/kejilunwen/dianzigongchenglunwen/1418136.html