【摘要】：全卷積神經網絡在計算機視覺應用中普遍存在,例如物體檢測,語義/圖像分割以及可以學習在語音、圖像、視頻和文本等多個應用領域中自動創(chuàng)建標記數據集的生成性對抗網絡。在一個全卷積網絡中,傳統(tǒng)卷積層和反卷積層都是計算復雜度的主要來源。然而,早期的深度學習加速器設計主要關注于卷積神經網絡的優(yōu)化,對于反卷積層的加速研究關注較少。目前的研究工作中,一種較為常見的方法是設計獨立的計算資源去處理反卷積層,但是這種方式會引起相當大的硬件資源開銷。在本文的研究中,對于反卷積層的加速設計進行了深入的探索。對于反卷積層的硬件加速器進行了深入的探索,最大化的利用廣泛使用的卷積加速器架構實現反卷積的加速,在卷積加速器的基礎上實現了全卷積神經網絡的加速。我們重新優(yōu)化了一維(點積)處理單元陣列和常規(guī)二維處理單元陣列的傳統(tǒng)卷積神經網絡加速器架構。對于一維陣列,本文提出一種計算模型將反卷積映射到加速器,其在一組代表性的研究應用中可實現1.6~3.9倍的加速,并且將能耗降低41.7%~72.3%。對于二維處理單元陣列,通過利用反卷積核局部性,該架構將片上存儲通信的消耗從24.79 GB減少到6.56 GB。與以往的反卷積加速設計方案相比,所提出的加速器在不同的基準應用中取得了1.3~2.7倍的加速并且將能耗降低了15.6%~63.5%。本文進而提出了一種新穎的反卷積層加速實現方案,完全采用軟件的轉換方式,這種方式重組了反卷積層的計算流程,把反卷積核拆分并轉化成多個小核,從而把反卷積運算視為卷積操作來實現。這種方案在不增加任何硬件修改的前提下,只利用現有CNN加速器來加速反卷積運算。所提出的數據流在一維陣列和常規(guī)二維陣列架構上實現,在一組基準應用中實現了2.4~4.3倍的性能加速并且將能耗降低了27.7%~54.5%。
【圖文】：

第二章 神經網絡及加速器紹了深度學習中的基礎神經網絡算法以及基礎人工神經網絡，接著比較了普通卷積映射反卷積的兩款加速器平臺（一維點積構。經網絡包含了輸入層、隱藏層以及輸出層，元如圖 2.1 所示[25]，對應的計算公式為（2個輸入值，每個輸入值都有對應的權重值（元的輸出是同一時刻在多個輸入共同作用（的那樣。

絡個神經網絡包含了輸入層、隱藏層以及輸出層，每一層本單元如圖 2.1 所示[25]，，對應的計算公式為（2.1）。每2等多個輸入值，每個輸入值都有對應的權重值（W）與神經元的輸出是同一時刻在多個輸入共同作用（求和））描述的那樣。圖 2. 1 人工神經網絡基本單元模型Fig. 2.1 The basic unit model of artificial neural networks
【學位授予單位】：合肥工業(yè)大學
【學位級別】：碩士
【學位授予年份】：2019
【分類號】：TP183;TP332

【相似文獻】

相關期刊論文 前10條

1 肖翱;徐楓;雍俊海;施侃樂;;針對虛擬現實眼鏡的近/遠視反卷積矯正算法[J];計算機輔助設計與圖形學學報;2017年07期

2 成謝鋒;陳鶴鳴;馬勇;黃勇林;;混沌卷積混合信號的預測重構盲反卷積方法[J];智能系統(tǒng)學報;2007年04期

3 劉明亮,高劍;基于改進的迭代增量頻域反卷積濾波器的圖像復原[J];電子學報;2004年12期

4 楊梅;反卷積技術及其在工程中的應用[J];成都電子機械高等�？茖W校學報;1999年03期

5 王寶祥;;時域數字反卷積[J];自動化技術與應用;1985年04期

6 劉明亮;施正豪;;用補償法獲得數字反卷積穩(wěn)定解[J];電子測量與儀器學報;1987年01期

7 王萬樹,孟衛(wèi)林;頻域數字反卷積新的迭代法[J];計量學報;1988年02期

8 張軼文;;反卷積法用于單光子發(fā)射計算機層析X射線攝影(SPECT)中散射補償與窗減法技術的比較[J];國外醫(yī)學.生物醫(yī)學工程分冊;1988年04期

9 孫圣和,鄭福春;一種改進的數字反卷積方程[J];電子學報;1989年01期

10 孫圣和,鄭福春;數字反卷積問題的Prony擬合法[J];電子學報;1989年02期

相關會議論文 前10條

1 吳新星;李明;李目海;單佩韋;;網絡微積分中最小加反卷積的研究[A];2008'中國信息技術與應用學術論壇論文集（一）[C];2008年

2 李棟棟;郭學彬;瞿安連;徐濤;;應用三維熒光反卷積顯微技術觀察活體細胞[A];中國生理學會第21屆全國代表大會暨學術會議論文摘要匯編[C];2002年

3 熊俊;李棟棟;瞿安連;;活體細胞四維圖像科學可視化方法的研究[A];中國生物醫(yī)學工程學會第六次會員代表大會暨學術會議論文摘要匯編[C];2004年

4 李娜;林建恒;孫軍平;江鵬飛;衣雪娟;蘭華林;;基于反卷積波束形成的船噪聲信噪比估計[A];2019年全國聲學大會論文集[C];2019年

5 吳義芳;湯俊雄;趙奕平;鄭樂民;;一種高分辨譜方法的建議——反卷積法[A];第五屆全國基礎光學學術報告會和交叉科學中的光學問題討論會論文集[C];1991年

6 李育杉;戴憲華;劉軍;;一種時變MIMO系統(tǒng)盲反卷積模型[A];第十屆全國信號處理學術年會（CCSP-2001）論文集[C];2001年

7 齊誠;王偉君;陳棋福;劉寧;;反卷積類干涉法對建筑物振動特性的研究[A];中國地球物理·2009[C];2009年

8 李棟棟;郭學彬;瞿安連;徐濤;;三維反卷積熒光顯微圖像恢復方法比較[A];第九次全國生物物理大會學術會議論文摘要集[C];2002年

9 謝旭飛;樊鐵栓;陳金象;袁熙;張興;李湘慶;;聚變中子譜儀液體閃爍體探測器的γ刻度及能譜反卷積研究[A];第十四屆全國核物理大會暨第十屆會員代表大會論文集[C];2010年

10 邢樹果;蘇彥;封劍青;李俊鐸;薛喜平;;基于最大熵方法月球表面亮溫度數據處理模擬[A];第十屆全國月球科學與比較行星學隕石學與天體化學學術研討會會議論文集[C];2012年

相關博士學位論文 前7條

1 盧憲凱;基于深度學習的目標跟蹤研究[D];上海交通大學;2018年

2 任冬偉;面向盲反卷積的模糊核估計與圖像復原方法研究[D];哈爾濱工業(yè)大學;2017年

3 婁帥;多尺度變換域圖像反卷積理論研究[D];哈爾濱工業(yè)大學;2010年

4 孫小君;最優(yōu)和自校正多傳感器信息融合白噪聲反卷積估值器[D];黑龍江大學;2010年

5 羅潔;基于逆問題的膜片鉗新技術研究[D];華中科技大學;2012年

6 楊航;圖像反卷積算法研究[D];吉林大學;2012年

7 李剛;航空成像去運動模糊技術研究[D];中國科學院研究生院（長春光學精密機械與物理研究所）;2011年

相關碩士學位論文 前10條

1 涂凱杰;基于傳統(tǒng)卷積神經網絡處理器的反卷積層加速研究[D];合肥工業(yè)大學;2019年

2 郭成雯;聲學成像優(yōu)化中的信號處理研究[D];南京大學;2019年

3 夏一鳴;基于反卷積的掃描電化學成像去拖尾算法[D];東北師范大學;2018年

4 郭喬鶴;基于雙線陣的船噪聲信號被動檢測技術研究[D];哈爾濱工程大學;2018年

5 吳小杰;基于反卷積網絡的圖像去噪及分類方法[D];長安大學;2018年

6 陳才慧;基于傅里葉變換的快速迭代收縮閾值反卷積聲源識別算法研究[D];重慶大學;2018年

7 王丙付;人臉識別中的眼鏡遮擋問題研究[D];合肥工業(yè)大學;2017年

8 孫艷茹;復雜場景下行人檢測算法研究[D];北方工業(yè)大學;2018年

9 周照靜;反卷積試井分析技術研究與應用[D];中國石油大學(華東);2015年

10 袁雪寒;基于反卷積網絡的圖像模式學習及應用[D];華南理工大學;2016年

本文編號：2665922