結(jié)合批歸一化的直通卷積神經(jīng)網(wǎng)絡(luò)圖像分類算法
本文選題:圖像分類 + 深度學(xué)習(xí); 參考:《計算機輔助設(shè)計與圖形學(xué)學(xué)報》2017年09期
【摘要】:為解決深度卷積神經(jīng)網(wǎng)絡(luò)由于梯度消失而導(dǎo)致訓(xùn)練困難的問題,提出一種基于批歸一化的直通卷積神經(jīng)網(wǎng)絡(luò)算法.首先對網(wǎng)絡(luò)所有卷積層的激活值進行批歸一化處理,然后利用可學(xué)習(xí)的重構(gòu)參數(shù)對歸一化后的數(shù)據(jù)進行還原,最后對重構(gòu)參數(shù)進行訓(xùn)練.在CIFAR-10,CIFAR-100和MNIST這3個標(biāo)準(zhǔn)圖像數(shù)據(jù)集上進行實驗的結(jié)果表明,文中算法分別取得了94.53%,73.40%和99.74%的分類準(zhǔn)確率,明顯優(yōu)于其他深度神經(jīng)網(wǎng)絡(luò)算法;該算法能夠有效地克服傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)中梯度消失的問題.
[Abstract]:In order to solve the problem that the deep convolution neural network is difficult to train due to the disappearance of the gradient, a direct convolution neural network algorithm based on batch normalization is proposed.First, the activation values of all convolution layers in the network are processed by batch normalization, then the normalized data is restored by using the learnable reconstruction parameters, and the reconstruction parameters are trained.The experimental results on CIFAR-10 CIFAR-100 and MNIST show that the classification accuracy of the proposed algorithm is 94.53% 73.40% and 99.74% respectively, which is obviously superior to other depth neural network algorithms.The algorithm can effectively overcome the problem of gradient disappearance in traditional convolution neural networks.
【作者單位】: 中國民航大學(xué)天津市智能信號與圖像處理重點實驗室;
【基金】:國家自然科學(xué)基金青年科學(xué)基金(11402294) 天津市智能信號與圖像處理重點實驗室開放基金(2015AFS03) 中國民航大學(xué)第六期波音基金(20160159209)
【分類號】:TP391.41
【相似文獻】
相關(guān)期刊論文 前10條
1 曠章輝;王甲海;周雅蘭;;用改進的競爭Hopfield神經(jīng)網(wǎng)絡(luò)求解多邊形近似問題[J];計算機科學(xué);2009年03期
2 高永建 ,吳健康;神經(jīng)網(wǎng)絡(luò)及其識別應(yīng)用簡介[J];電信科學(xué);1990年02期
3 謝國梁;;神經(jīng)網(wǎng)絡(luò):從希望到現(xiàn)實[J];激光與光電子學(xué)進展;1991年01期
4 鄭士貴;文獻自動閱讀神經(jīng)網(wǎng)絡(luò)[J];管理科學(xué)文摘;1996年08期
5 呂芬;趙生妹;;基于Hopfield神經(jīng)網(wǎng)絡(luò)的噪聲字母識別[J];計算機與信息技術(shù);2005年12期
6 李毅;童紅俊;宋貴寶;李冬;;神經(jīng)網(wǎng)絡(luò)在飛行器航跡仿真計算中的應(yīng)用[J];海軍航空工程學(xué)院學(xué)報;2006年05期
7 林鋼;;基于SOM神經(jīng)網(wǎng)絡(luò)對潛在客戶的挖掘[J];南寧職業(yè)技術(shù)學(xué)院學(xué)報;2006年04期
8 楊帆;陳勁杰;唐梅華;陳鑫;;簡論神經(jīng)網(wǎng)絡(luò)在搜索中的應(yīng)用[J];機械管理開發(fā);2008年01期
9 朱紅斌;;LVQ神經(jīng)網(wǎng)絡(luò)在交通事件檢測中的應(yīng)用[J];計算機工程與應(yīng)用;2008年34期
10 李彤巖;李興明;;神經(jīng)網(wǎng)絡(luò)在確定關(guān)聯(lián)規(guī)則挖掘算法權(quán)值中的應(yīng)用研究[J];計算機應(yīng)用研究;2008年05期
相關(guān)會議論文 前10條
1 陳文新;王長富;戴蓓倩;;基于神經(jīng)網(wǎng)絡(luò)的漢語四聲識別[A];第一屆全國語言識別學(xué)術(shù)報告與展示會論文集[C];1990年
2 李睿;李明軍;;一種模糊高斯基神經(jīng)網(wǎng)絡(luò)在數(shù)值逼近上的仿真[A];計算機技術(shù)與應(yīng)用進展——全國第17屆計算機科學(xué)與技術(shù)應(yīng)用(CACIS)學(xué)術(shù)會議論文集(上冊)[C];2006年
3 許旭萍;臧道青;;采用Hopfield神經(jīng)網(wǎng)絡(luò)實施缸蓋表面點陣字符識別[A];第十五屆全國汽車檢測技術(shù)年會論文集[C];2011年
4 朱長春;;神經(jīng)網(wǎng)絡(luò)用于線性時固有系統(tǒng)的廣義狀態(tài)轉(zhuǎn)移矩陣的識別[A];中國工程物理研究院科技年報(1999)[C];1999年
5 王玉斌;李永明;王穎;;用數(shù)據(jù)挖掘和神經(jīng)網(wǎng)絡(luò)技術(shù)預(yù)測工程造價[A];第十一屆全國電工數(shù)學(xué)學(xué)術(shù)年會論文集[C];2007年
6 應(yīng)捷;袁一方;;神經(jīng)網(wǎng)絡(luò)指紋特征點匹配算法的改進[A];2007'中國儀器儀表與測控技術(shù)交流大會論文集(二)[C];2007年
7 謝小良;符卓;;基于Hopfield神經(jīng)網(wǎng)絡(luò)的單周期船舶調(diào)度模型及算法[A];2008年全國開放式分布與并行計算機學(xué)術(shù)會議論文集(下冊)[C];2008年
8 陳意;;神經(jīng)網(wǎng)絡(luò)在船舶識別一個應(yīng)用[A];船舶航泊安全的新經(jīng)驗新技術(shù)論文集(上冊)[C];2007年
9 王輝;楊杰;黎明;蔡念;;一種基于神經(jīng)網(wǎng)絡(luò)的圖像復(fù)原方法[A];2006年全國光電技術(shù)學(xué)術(shù)交流會會議文集(D 光電信息處理技術(shù)專題)[C];2006年
10 賈睿;徐啟強;劉艷;;基于神經(jīng)網(wǎng)絡(luò)的網(wǎng)殼結(jié)構(gòu)近似分析研究[A];第二十一屆全國振動與噪聲高技術(shù)及應(yīng)用學(xué)術(shù)會議論文集[C];2008年
相關(guān)重要報紙文章 前1條
1 中國科技大學(xué)計算機系 邢方亮;神經(jīng)網(wǎng)絡(luò)挑戰(zhàn)人類大腦[N];計算機世界;2003年
相關(guān)博士學(xué)位論文 前10條
1 李曉剛;基于神經(jīng)網(wǎng)絡(luò)的碼垛機器人視覺位姿測量及伺服控制研究[D];北京林業(yè)大學(xué);2015年
2 戶保田;基于深度神經(jīng)網(wǎng)絡(luò)的文本表示及其應(yīng)用[D];哈爾濱工業(yè)大學(xué);2016年
3 沈旭;基于序列深度學(xué)習(xí)的視頻分析:建模表達與應(yīng)用[D];中國科學(xué)技術(shù)大學(xué);2017年
4 諸勇;正交回歸神經(jīng)網(wǎng)絡(luò)及其在控制系統(tǒng)中的應(yīng)用[D];浙江大學(xué);1998年
5 田景文;地下油藏的仿真與預(yù)測[D];哈爾濱工程大學(xué);2001年
6 彭宏京;基于稀疏RAM的神經(jīng)網(wǎng)絡(luò)及其人臉識別應(yīng)用研究[D];南京航空航天大學(xué);2002年
7 王吉權(quán);BP神經(jīng)網(wǎng)絡(luò)的理論及其在農(nóng)業(yè)機械化中的應(yīng)用研究[D];沈陽農(nóng)業(yè)大學(xué);2011年
8 郭海湘;石油儲層縱向預(yù)測軟硬計算融合的理論與方法研究[D];中國地質(zhì)大學(xué);2008年
9 葛利;基于過程神經(jīng)網(wǎng)絡(luò)的時序數(shù)據(jù)挖掘研究[D];哈爾濱工程大學(xué);2012年
10 柴冰華;色貌模型CIECAM02若干問題的研究[D];北京理工大學(xué);2006年
相關(guān)碩士學(xué)位論文 前10條
1 陳彥至;神經(jīng)網(wǎng)絡(luò)降維算法研究與應(yīng)用[D];華南理工大學(xué);2015年
2 蔡邦宇;人臉識別中單次ERP時空特征分析及其快速檢索的應(yīng)用[D];浙江大學(xué);2015年
3 鄭川;垃圾評論檢測算法的研究[D];西南交通大學(xué);2015年
4 汪濟民;基于卷積神經(jīng)網(wǎng)絡(luò)的人臉檢測和性別識別研究[D];南京理工大學(xué);2015年
5 彭玲玲;基于不確定理論與機器學(xué)習(xí)的行人檢測[D];長安大學(xué);2015年
6 楊陳東;BP-Fisher判別分析法[D];長安大學(xué);2015年
7 孟鑫;基于Hadoop云平臺下的客流量預(yù)測研究[D];長安大學(xué);2015年
8 張勇;深度卷積神經(jīng)網(wǎng)絡(luò)在車牌和人臉檢測領(lǐng)域的應(yīng)用研究[D];鄭州大學(xué);2015年
9 宋璐璐;財經(jīng)職業(yè)技術(shù)學(xué)院票務(wù)管理系統(tǒng)的設(shè)計與實現(xiàn)[D];西安工業(yè)大學(xué);2015年
10 陳銳浩;基于神經(jīng)網(wǎng)絡(luò)的口令屬性分析工具開發(fā)[D];上海交通大學(xué);2015年
,本文編號:1735337
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/1735337.html