隨著深度學(xué)習(xí)技術(shù)在眾多領(lǐng)域的廣泛使用,作為其基礎(chǔ)模型的卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neutral Network,CNN）也越來(lái)越受重視,被廣泛應(yīng)用在圖像分類、人臉識(shí)別、語(yǔ)言檢測(cè)、文檔分析等諸多領(lǐng)域。但是僅用軟件方式加速卷積神經(jīng)網(wǎng)絡(luò)已經(jīng)不能滿足日益增長(zhǎng)的速度與功耗要求,如何利用硬件設(shè)計(jì)卷積神經(jīng)網(wǎng)絡(luò)加速器已經(jīng)成為學(xué)術(shù)領(lǐng)域的研究熱點(diǎn)。FPGA（Field-Programmable Gate Array）作為并行化的計(jì)算密集型加速硬件,擁有卓越的性能功耗比,對(duì)比GPU、ASIC具有獨(dú)特優(yōu)勢(shì)。但是實(shí)際使用中,如何高效地利用FPGA有限的片上資源,以較少的資源獲得更高的性能,如何設(shè)計(jì)出更通用的FPGA硬件架構(gòu)或模塊都存在巨大的挑戰(zhàn)。本文提出了一種高效卷積模塊ECM（Efficient Convolutional Module）,它包含4個(gè)PE（Processing Element）單元,每個(gè)PE單元負(fù)責(zé)一張輸出特征圖的計(jì)算,采用級(jí)聯(lián)串推的方式在PE單元間傳遞卷積數(shù)據(jù)和卷積參數(shù)。為了解決層串行模式反復(fù)讀寫外部存儲(chǔ)器的問(wèn)題,制定了雙緩沖的存儲(chǔ)機(jī)制用于將中間計(jì)算結(jié)果存儲(chǔ)到FPGA片內(nèi)。并... 

【文章來(lái)源】：江南大學(xué)江蘇省 211工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：67 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

生物神經(jīng)元及人工神經(jīng)元結(jié)構(gòu)

圖 2-2 多層全連接前向神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)卷積神經(jīng)網(wǎng)絡(luò)作為神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)模型之一，區(qū)別于一般網(wǎng)絡(luò)有兩大特點(diǎn)，一是不同于全連接網(wǎng)絡(luò)，卷積神經(jīng)網(wǎng)絡(luò)的各個(gè)神經(jīng)元之間采用稀疏連接的方式，二是同一層中的部分神經(jīng)元之間共享權(quán)值。這兩大特點(diǎn)大大減少了網(wǎng)絡(luò)的權(quán)值數(shù)量，并且降低了網(wǎng)絡(luò)的復(fù)雜度。將圖像直接作為輸入時(shí)卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)勢(shì)更大，免去了傳統(tǒng)圖像識(shí)別算法中繁瑣的數(shù)據(jù)重建和特征提取過(guò)程。圖像經(jīng)過(guò)多次的卷積核濾波和子抽樣后，便提取到了顯著的特征，而且卷積神經(jīng)網(wǎng)絡(luò)對(duì)圖像的變形如平移、縮放、傾斜等具有自適應(yīng)性。因此，多年來(lái)卷積神經(jīng)網(wǎng)絡(luò)一直是人工神經(jīng)網(wǎng)絡(luò)方面的研究熱點(diǎn)，在圖像識(shí)別，機(jī)器視覺(jué)，自動(dòng)翻譯等諸多領(lǐng)域得到了愈加廣泛的應(yīng)用。2.1.2 卷積神經(jīng)網(wǎng)絡(luò)基本網(wǎng)絡(luò)結(jié)構(gòu)卷積神經(jīng)網(wǎng)絡(luò)的典型網(wǎng)絡(luò)結(jié)構(gòu)如下圖2-3所示。通常圖像作為原始輸入，經(jīng)過(guò)交替出現(xiàn)的卷積層提取特征和池化層子抽樣后，得到多張?zhí)卣鲌D，在網(wǎng)絡(luò)的最后通過(guò)全連接層運(yùn)算得出結(jié)果。

圖 2-2 多層全連接前向神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)卷積神經(jīng)網(wǎng)絡(luò)作為神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)模型之一，區(qū)別于一般網(wǎng)絡(luò)有兩大特點(diǎn)，一是不同于全連接網(wǎng)絡(luò)，卷積神經(jīng)網(wǎng)絡(luò)的各個(gè)神經(jīng)元之間采用稀疏連接的方式，二是同一層中的部分神經(jīng)元之間共享權(quán)值。這兩大特點(diǎn)大大減少了網(wǎng)絡(luò)的權(quán)值數(shù)量，并且降低了網(wǎng)絡(luò)的復(fù)雜度。將圖像直接作為輸入時(shí)卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)勢(shì)更大，免去了傳統(tǒng)圖像識(shí)別算法中繁瑣的數(shù)據(jù)重建和特征提取過(guò)程。圖像經(jīng)過(guò)多次的卷積核濾波和子抽樣后，便提取到了顯著的特征，而且卷積神經(jīng)網(wǎng)絡(luò)對(duì)圖像的變形如平移、縮放、傾斜等具有自適應(yīng)性。因此，多年來(lái)卷積神經(jīng)網(wǎng)絡(luò)一直是人工神經(jīng)網(wǎng)絡(luò)方面的研究熱點(diǎn)，在圖像識(shí)別，機(jī)器視覺(jué)，自動(dòng)翻譯等諸多領(lǐng)域得到了愈加廣泛的應(yīng)用。2.1.2 卷積神經(jīng)網(wǎng)絡(luò)基本網(wǎng)絡(luò)結(jié)構(gòu)卷積神經(jīng)網(wǎng)絡(luò)的典型網(wǎng)絡(luò)結(jié)構(gòu)如下圖2-3所示。通常圖像作為原始輸入，經(jīng)過(guò)交替出現(xiàn)的卷積層提取特征和池化層子抽樣后，得到多張?zhí)卣鲌D，在網(wǎng)絡(luò)的最后通過(guò)全連接層運(yùn)算得出結(jié)果。

【參考文獻(xiàn)】：
期刊論文
[1]低資源語(yǔ)音識(shí)別中融合多流特征的卷積神經(jīng)網(wǎng)絡(luò)聲學(xué)建模方法[J]. 秦楚雄,張連海.  計(jì)算機(jī)應(yīng)用. 2016(09)
[2]深度卷積神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺(jué)中的應(yīng)用研究綜述[J]. 盧宏濤,張秦川.  數(shù)據(jù)采集與處理. 2016(01)
[3]卷積神經(jīng)網(wǎng)絡(luò)的FPGA并行加速方案設(shè)計(jì)[J]. 方睿,劉加賀,薛志輝,楊廣文.  計(jì)算機(jī)工程與應(yīng)用. 2015(08)
[4]基于卷積神經(jīng)網(wǎng)絡(luò)的手勢(shì)識(shí)別初探[J]. 蔡娟,蔡堅(jiān)勇,廖曉東,黃海濤,丁僑俊.  計(jì)算機(jī)系統(tǒng)應(yīng)用. 2015(04)
[5]基于ZYNQ的稠密光流法軟硬件協(xié)同處理[J]. 王芝斌,陽(yáng)文敏,張圓蒲,柴志雷.  計(jì)算機(jī)工程與應(yīng)用. 2014(18)
[6]基于OpenCL的FPGA設(shè)計(jì)優(yōu)化方法研究[J]. 范興山,彭軍,黃樂(lè)天.  電子技術(shù)應(yīng)用. 2014(01)
[7]FPGA結(jié)構(gòu)設(shè)計(jì)方法及EDA工具[J]. 張峰,李艷,陳亮,李明,于芳.  微電子學(xué)與計(jì)算機(jī). 2013(05)
[8]基于嵌入式GPU虛擬儀表圖形軟件的實(shí)現(xiàn)[J]. 郭云,康濤.  計(jì)算機(jī)系統(tǒng)應(yīng)用. 2012(10)
[9]基于GPU的多點(diǎn)觸控圖像處理技術(shù)[J]. 裘皓萍,馮瑞,萬(wàn)時(shí)華.  計(jì)算機(jī)工程. 2012(01)



本文編號(hào)：3594498