本文關(guān)鍵詞：卷積神經(jīng)網(wǎng)絡(luò)在圖像分類中的應(yīng)用研究

  更多相關(guān)文章： 深度學(xué)習(xí) 卷積神經(jīng)網(wǎng)絡(luò) caffe 圖像分類

【摘要】：卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像分類是深度學(xué)習(xí)關(guān)于圖像處理的一個應(yīng)用,卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)點是能夠直接與圖像像素進(jìn)行卷積,從圖像像素中提取圖像特征,這種處理方式更加接近人類大腦視覺系統(tǒng)的處理方式。另外,卷積神經(jīng)網(wǎng)絡(luò)的權(quán)值共享屬性和pooling層使網(wǎng)絡(luò)需要訓(xùn)練的參數(shù)大大減小,簡化了網(wǎng)絡(luò)模型,提高了訓(xùn)練的效率。本論文主要圍繞卷積神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)設(shè)計和參數(shù)優(yōu)化兩個方面進(jìn)行深入的研究。卷積神經(jīng)網(wǎng)絡(luò)分類性能的好壞很大程度決取于網(wǎng)絡(luò)層數(shù)和網(wǎng)絡(luò)參數(shù),如何合理地設(shè)計卷積神經(jīng)網(wǎng)絡(luò)的卷積層,隱含層的數(shù)目和優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)是卷積神經(jīng)網(wǎng)絡(luò)關(guān)于圖像分類應(yīng)用研究中非常重要的環(huán)節(jié)。本論文主要在caffe框架平臺上進(jìn)行卷積神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計和參數(shù)優(yōu)化。首先設(shè)計了一個5層網(wǎng)絡(luò)層的淺層卷積神經(jīng)網(wǎng)絡(luò),分別使用mnist手寫圖像庫和cifar-10圖像庫進(jìn)行訓(xùn)練,測試和參數(shù)優(yōu)化。測試結(jié)果表明淺層卷積神經(jīng)網(wǎng)絡(luò)能夠很好地處理像mnist簡單的圖像分類任務(wù),但是對于比較復(fù)雜的cifar-10圖像庫分類效果并不理想。接著設(shè)計了一個9層網(wǎng)絡(luò)層的復(fù)雜卷積神經(jīng)網(wǎng)絡(luò),分別使用了cifar-10和cifar-100圖像庫對復(fù)雜卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,測試和參數(shù)優(yōu)化。測試結(jié)果表明復(fù)雜卷積神經(jīng)網(wǎng)絡(luò)能夠處理像cifar-10、cifar-100比較復(fù)雜的圖像庫分類任務(wù)。5層淺層網(wǎng)絡(luò)和9層復(fù)雜網(wǎng)絡(luò)的實驗結(jié)果說明了網(wǎng)絡(luò)層的深度對網(wǎng)絡(luò)的性能影響很大。本論文通過對網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)優(yōu)化的研究及在不同數(shù)據(jù)庫上的測試,分析總結(jié)了深度學(xué)習(xí)關(guān)于圖像分類的一些實踐性的規(guī)律,對于解決實際工程問題具有較好的指導(dǎo)作用,因為相同的深度學(xué)習(xí)網(wǎng)絡(luò),調(diào)參的好壞對性能具有非常大的影響。本論文的結(jié)論也可以用于其他領(lǐng)域的深度網(wǎng)絡(luò)。最后在本論文在總結(jié)的卷積神經(jīng)網(wǎng)絡(luò)用于圖像分類的實踐規(guī)律上實現(xiàn)了一個圖像分類演示系統(tǒng)。該系統(tǒng)簡單易用,圖像分類效果良好。
【關(guān)鍵詞】：深度學(xué)習(xí) 卷積神經(jīng)網(wǎng)絡(luò) caffe 圖像分類
【學(xué)位授予單位】：電子科技大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2015
【分類號】：TP391.41;TP183
【目錄】：

• 摘要5-6
• ABSTRACT6-10
• 第一章 緒論10-14
• 1.1 研究工作的背景與意義10-11
• 1.2 國內(nèi)外研究歷史與現(xiàn)狀11-12
• 1.3 本論文的主要工作內(nèi)容12-13
• 1.4 本論文的結(jié)構(gòu)安排13-14
• 第二章 卷積神經(jīng)網(wǎng)絡(luò)與其在圖像分類中的應(yīng)用分析14-27
• 2.1 反向傳播算法14-17
• 2.2 卷積神經(jīng)網(wǎng)絡(luò)的架構(gòu)17-18
• 2.3 卷積神經(jīng)網(wǎng)絡(luò)的相關(guān)運(yùn)算18-20
• 2.3.1 卷積運(yùn)算18-19
• 2.3.2 下采樣19-20
• 2.4 圖像分類關(guān)鍵技術(shù)的研究20-21
• 2.4.1 圖像預(yù)處理20
• 2.4.2 圖像特征提取20-21
• 2.4.3 圖像分類方法21
• 2.5 卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)點21-24
• 2.6 CAFFE簡介24-26
• 2.6.1 CAFFE的優(yōu)點24-25
• 2.6.2 CAFFE的基本數(shù)據(jù)結(jié)構(gòu)25
• 2.6.3 CAFFE的網(wǎng)絡(luò)配置25-26
• 2.7 本章小結(jié)26-27
• 第三章 淺層卷積神經(jīng)網(wǎng)絡(luò)的研究27-45
• 3.1 淺層卷積神經(jīng)網(wǎng)絡(luò)的設(shè)計27-33
• 3.1.1 淺層卷積神經(jīng)網(wǎng)絡(luò)的模型設(shè)計27-29
• 3.1.2 淺層卷積神經(jīng)網(wǎng)絡(luò)的改進(jìn)29-32
• 3.1.3 淺層卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練測試算法32-33
• 3.2 訓(xùn)練淺層卷積神經(jīng)網(wǎng)絡(luò)33-36
• 3.3 優(yōu)化網(wǎng)絡(luò)參數(shù)36-42
• 3.3.1 特征可視化36-37
• 3.3.2 激活函數(shù)的選擇37-39
• 3.3.3 DROPOUT優(yōu)化39-41
• 3.3.4 正則化約束41-42
• 3.4 圖像分類結(jié)果與分析42-43
• 3.4.1 MNIST圖像庫實驗分析42-43
• 3.4.2 CIFAR-10圖像庫實驗分析43
• 3.5 本章小結(jié)43-45
• 第四章 復(fù)雜卷積神經(jīng)網(wǎng)絡(luò)的研究45-67
• 4.1 復(fù)雜卷積神經(jīng)網(wǎng)絡(luò)的設(shè)計45-52
• 4.1.1 復(fù)雜卷積神經(jīng)網(wǎng)絡(luò)的模型設(shè)計45-49
• 4.1.1.1 conv1卷積層設(shè)計45-46
• 4.1.1.2 conv2卷積層設(shè)計46
• 4.1.1.3 conv3卷積層設(shè)計46-47
• 4.1.1.4 conv4卷積層設(shè)計47
• 4.1.1.5 conv5卷積層設(shè)計47-48
• 4.1.1.6 fc6全連接層設(shè)計48
• 4.1.1.7 fc7全連接層設(shè)計48
• 4.1.1.8 輸出分類層設(shè)計48-49
• 4.1.2 復(fù)雜卷積神經(jīng)網(wǎng)絡(luò)的改進(jìn)49-51
• 4.1.3 復(fù)雜卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練測試算法51-52
• 4.2 優(yōu)化網(wǎng)絡(luò)參數(shù)52-64
• 4.2.1 特征可視化52-60
• 4.2.2 BATCH值的設(shè)定60-61
• 4.2.3 局部響應(yīng)歸一化61-62
• 4.2.4 DROPCONNECT的設(shè)計62-63
• 4.2.5 MOMENTUM動量值的設(shè)定63
• 4.2.6 擴(kuò)增訓(xùn)練數(shù)據(jù)集63-64
• 4.3 圖像分類結(jié)果與分析64-65
• 4.3.1 CIFAR-10數(shù)據(jù)庫實驗分析64-65
• 4.3.2 CIFAR-100數(shù)據(jù)庫實驗分析65
• 4.4 本章小結(jié)65-67
• 第五章 圖像分類系統(tǒng)的實現(xiàn)67-80
• 5.1 圖像分類系統(tǒng)的設(shè)計67-69
• 5.1.1 圖像分類系統(tǒng)的需求分析67-68
• 5.1.2 圖像分類系統(tǒng)的整體架構(gòu)68
• 5.1.3 圖像分類系統(tǒng)的工作流程68-69
• 5.2 圖像分類系統(tǒng)主界面的實現(xiàn)69-70
• 5.3 圖像分類系統(tǒng)中各層的實現(xiàn)70-76
• 5.3.1 卷積層的實現(xiàn)70-71
• 5.3.2 POOLING層的實現(xiàn)71-72
• 5.3.3 全連接層的實現(xiàn)72-73
• 5.3.4 SOFTMAX層的實現(xiàn)73-74
• 5.3.5 網(wǎng)絡(luò)參數(shù)優(yōu)化方法的實現(xiàn)74-75
• 5.3.6 可視化的實現(xiàn)75-76
• 5.4 圖像分類系統(tǒng)76-79
• 5.5 圖像分類結(jié)果79
• 5.6 本章小結(jié)79-80
• 第六章 總結(jié)80-82
• 6.1 全文總結(jié)80
• 6.2 后續(xù)工作展望80-82
• 致謝82-83
• 參考文獻(xiàn)83-87

【相似文獻(xiàn)】

中國期刊全文數(shù)據(jù)庫 前10條

1 陳戲墨,徐紅兵,李志銘,謝鉉洋,李曦,李揚(yáng)彬;數(shù)據(jù)挖掘在醫(yī)學(xué)圖像分類中的應(yīng)用[J];現(xiàn)代計算機(jī)(專業(yè)版);2005年01期

2 冀翠萍;孟祥增;;基于內(nèi)容的圖像分類體系[J];電腦知識與技術(shù)(學(xué)術(shù)交流);2007年07期

3 楊杰;陳曉云;;圖像分類方法比較研究[J];微計算機(jī)應(yīng)用;2007年06期

4 楊文潮;姜志堅;;圖像分類技術(shù)研究[J];福建電腦;2008年08期

5 葛寒娟;邱桃榮;王劍;盧強(qiáng);李北;劉韜;聶斌;;一種基于相容信息粒原理的圖像分類方法[J];廣西師范大學(xué)學(xué)報(自然科學(xué)版);2008年03期

6 王軍;王員云;;粒計算及其在圖像分類中的應(yīng)用研究[J];計算機(jī)工程與科學(xué);2009年03期

7 吳軍;王士同;;基于正負(fù)模糊規(guī)則的相結(jié)合的圖像分類[J];計算機(jī)應(yīng)用;2011年01期

8 吳軍;王士同;趙鑫;;正負(fù)模糊規(guī)則系統(tǒng)、極限學(xué)習(xí)機(jī)與圖像分類[J];中國圖象圖形學(xué)報;2011年08期

9 郝永寬;王威;聶維同;王德強(qiáng);;圖像分類與聚類分析[J];數(shù)字技術(shù)與應(yīng)用;2011年12期

10 蔣玲芳;張偉;司夢;;基于詞袋模型的電子報圖像分類方法研究[J];信陽師范學(xué)院學(xué)報(自然科學(xué)版);2013年01期

中國重要會議論文全文數(shù)據(jù)庫 前10條

1 鄭海紅;曾平;;一種基于圖像分類的逆半調(diào)算法[A];’2004計算機(jī)應(yīng)用技術(shù)交流會議論文集[C];2004年

2 文振q;歐陽杰;朱為總;;基于語義特征與支持向量機(jī)的圖像分類[A];中國電子學(xué)會第十六屆信息論學(xué)術(shù)年會論文集[C];2009年

3 王海峰;管亮;;基于顏色特征的圖像分類技術(shù)在油品分析中的應(yīng)用[A];中國儀器儀表學(xué)會第六屆青年學(xué)術(shù)會議論文集[C];2004年

4 陳思坤;吳洪;;基于圖分塊并利用空間金字塔的醫(yī)學(xué)圖像分類[A];第六屆和諧人機(jī)環(huán)境聯(lián)合學(xué)術(shù)會議（HHME2010)、第19屆全國多媒體學(xué)術(shù)會議（NCMT2010）、第6屆全國人機(jī)交互學(xué)術(shù)會議（CHCI2010）、第5屆全國普適計算學(xué)術(shù)會議（PCC2010）論文集[C];2010年

5 張淑雅;趙曉宇;趙一鳴;李均利;;基于SVM的圖像分類[A];第十三屆全國圖象圖形學(xué)學(xué)術(shù)會議論文集[C];2006年

6 李博;韓萍;;基于壓縮感知和SVM的極化SAR圖像分類[A];第二十七屆中國（天津）2013IT、網(wǎng)絡(luò)、信息技術(shù)、電子、儀器儀表創(chuàng)新學(xué)術(shù)會議論文集[C];2013年

7 朱松豪;胡娟娟;孫偉;;基于非歐空間高階統(tǒng)計的圖像分類方法[A];第25屆中國控制與決策會議論文集[C];2013年

8 潘海為;李建中;張煒;;基于像素聚類的腦部醫(yī)學(xué)圖像分類[A];第二十屆全國數(shù)據(jù)庫學(xué)術(shù)會議論文集（研究報告篇）[C];2003年

9 吳霜;張一飛;修非;王大玲;鮑玉斌;于戈;;基于興趣點特征提取的醫(yī)學(xué)圖像分類[A];第二十四屆中國數(shù)據(jù)庫學(xué)術(shù)會議論文集（研究報告篇）[C];2007年

10 武進(jìn);尹愷;王長明;張家才;;SVDM在蔬菜病害圖像分類中的應(yīng)用[A];圖像圖形技術(shù)與應(yīng)用進(jìn)展——第三屆圖像圖形技術(shù)與應(yīng)用學(xué)術(shù)會議論文集[C];2008年

中國博士學(xué)位論文全文數(shù)據(jù)庫 前10條

1 胡堯;基于低秩矩陣估計的機(jī)器學(xué)習(xí)算法分析[D];浙江大學(xué);2015年

2 李昌英(Ri ChangYong);基于上下文信息的語義圖像分類研究[D];浙江大學(xué);2014年

3 陳博;基于集成學(xué)習(xí)和特征選擇的極化SAR地物分類[D];西安電子科技大學(xué);2015年

4 王曉東;基于稀疏特征學(xué)習(xí)的復(fù)雜圖像分類[D];西安電子科技大學(xué);2014年

5 顧迎節(jié);面向圖像分類的主動學(xué)習(xí)算法研究[D];南京理工大學(xué);2015年

6 趙鑫;圖像分類中的判別性增強(qiáng)研究[D];中國科學(xué)技術(shù)大學(xué);2013年

7 楊冰;基于藝術(shù)風(fēng)格的繪畫圖像分類研究[D];浙江大學(xué);2013年

8 丁建睿;基于多示例學(xué)習(xí)的淺表器官超聲圖像分類方法研究[D];哈爾濱工業(yè)大學(xué);2012年

9 賈世杰;基于內(nèi)容的商品圖像分類方法研究[D];大連理工大學(xué);2013年

10 李曉旭;基于概率主題模型的圖像分類和標(biāo)注的研究[D];北京郵電大學(xué);2012年

中國碩士學(xué)位論文全文數(shù)據(jù)庫 前10條

1 張明靜;基于改進(jìn)遺傳算法的分塊綜合特征加權(quán)圖像分類研究[D];華南理工大學(xué);2015年

2 李函怡;融合主動學(xué)習(xí)的半監(jiān)督技術(shù)在圖像分類中的應(yīng)用研究[D];西南大學(xué);2015年

3 王亞鳳;基于多特征的主動學(xué)習(xí)方法在圖像分類中的應(yīng)用研究[D];河北工程大學(xué);2015年

4 陳榮安;基于改進(jìn)的Bag-of-Features模型的圖像分類研究[D];蘭州大學(xué);2015年

5 鐘畏丹;基于HSV和紋理特征的圖像分類[D];華中師范大學(xué);2015年

6 焦陽;基于主動學(xué)習(xí)的多標(biāo)簽圖像分類方法研究[D];蘇州大學(xué);2015年

7 王騰川;基于主動學(xué)習(xí)的SAR圖像分類方法研究[D];上海交通大學(xué);2015年

8 NGUYEN QUANG KHANH;基于極化SAR目標(biāo)信息提取與SVM分類[D];哈爾濱工業(yè)大學(xué);2015年

9 王朔琛;基于半監(jiān)督支持向量機(jī)的圖像分類方法研究[D];陜西師范大學(xué);2015年

10 楊東坡;基于深度學(xué)習(xí)的商品圖像分類[D];大連交通大學(xué);2015年

，

本文編號：931856