本文關(guān)鍵詞：基于卷積神經(jīng)網(wǎng)絡(luò)的景物標(biāo)記

  更多相關(guān)文章： 深度學(xué)習(xí) 卷積神經(jīng)網(wǎng)絡(luò) 景物標(biāo)記 多尺度

【摘要】：本文研究卷積神經(jīng)網(wǎng)絡(luò)在入臉-背景二分類(lèi)識(shí)別、手寫(xiě)數(shù)字識(shí)別、多類(lèi)圖像分類(lèi)識(shí)別和景物標(biāo)記中的應(yīng)用。本文采用具有不同特征抽取過(guò)濾層的卷積神經(jīng)網(wǎng)絡(luò)與其他優(yōu)化模型相結(jié)合的方法,獲得相同圖像在不同尺度卷積核的圖像信息。探究了基于多尺度卷積神經(jīng)網(wǎng)絡(luò)模型的多景物圖像標(biāo)記問(wèn)題,同時(shí)將改進(jìn)后的多尺度卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于Stanford Background數(shù)據(jù)集與SIFT Flow數(shù)據(jù)集的景物標(biāo)記實(shí)驗(yàn)中,提高了景物標(biāo)記的正確率。本文的主要工作如下：(1)采用具有不同特征抽取過(guò)濾層的卷積神經(jīng)網(wǎng)絡(luò)方法分別進(jìn)行了人臉-背景二分類(lèi)實(shí)驗(yàn)、手寫(xiě)數(shù)字識(shí)別實(shí)驗(yàn)和多類(lèi)圖像分類(lèi)實(shí)驗(yàn),同時(shí)和其他訓(xùn)練模型的結(jié)果作對(duì)比,還探究了一下卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)特征。其中,人臉-背景二分類(lèi)實(shí)驗(yàn)所得的平均分類(lèi)正確率達(dá)到了99.785%：手寫(xiě)數(shù)字識(shí)別實(shí)驗(yàn)中,在各種結(jié)構(gòu)下的訓(xùn)練模型中卷積神經(jīng)網(wǎng)絡(luò)與隨機(jī)梯度下降法的組合平均分類(lèi)正確率最高達(dá)到了96.7%,比平均正確率次高的雙層神經(jīng)網(wǎng)絡(luò)與隨機(jī)梯度下降法的組合提升了8.1%;多類(lèi)圖像分類(lèi)實(shí)驗(yàn)中,在各結(jié)構(gòu)下的訓(xùn)練模型中卷積神經(jīng)網(wǎng)絡(luò)與隨機(jī)梯度下降法的組合平均分類(lèi)正確率最高達(dá)到了66.7%,比平均正確率次高的雙層神經(jīng)網(wǎng)絡(luò)與隨機(jī)梯度下降法的組合提升了52.3%。同時(shí)在此實(shí)驗(yàn)中還探究了線(xiàn)性校對(duì)單元與池化方式分別對(duì)卷積神經(jīng)網(wǎng)絡(luò)提取圖像特征的影響。(2)針對(duì)圖像的景物標(biāo)記問(wèn)題,本文探究了一種多尺度卷積神經(jīng)網(wǎng)絡(luò),即使用不同尺度的卷積核來(lái)提取圖像特征,以獲得相同圖像在不同尺度卷積核下的圖像信息并將這些圖像特征用于對(duì)測(cè)試集圖像的景物標(biāo)記。在Stanford Background數(shù)據(jù)集的景物標(biāo)記實(shí)驗(yàn)中,運(yùn)用多尺度預(yù)處理圖像與卷積神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法將景物標(biāo)記的正確率提高了33.5%。后將改進(jìn)后的多尺度卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于SIFT Flow數(shù)據(jù)集的景物標(biāo)記實(shí)驗(yàn)中,將景物標(biāo)記的正確率提高了36.3%。實(shí)驗(yàn)驗(yàn)證了卷積神經(jīng)網(wǎng)絡(luò)在解決圖像標(biāo)記問(wèn)題時(shí)可以通過(guò)提取圖像特征的不同尺度來(lái)達(dá)到提高訓(xùn)練正確率的效果。實(shí)驗(yàn)還驗(yàn)證了線(xiàn)性校正單元與Dropout對(duì)卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練的泛化作用。
【關(guān)鍵詞】：深度學(xué)習(xí) 卷積神經(jīng)網(wǎng)絡(luò) 景物標(biāo)記 多尺度
【學(xué)位授予單位】：北京交通大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2016
【分類(lèi)號(hào)】：TP391.41;TP183
【目錄】：

• 致謝5-6
• 摘要6-7
• ABSTRACT7-11
• 1 引言11-21
• 1.1 人工神經(jīng)網(wǎng)絡(luò)的發(fā)展11-13
• 1.2 深度學(xué)習(xí)技術(shù)的發(fā)展13-17
• 1.3 卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展17-18
• 1.4 圖像標(biāo)記技術(shù)的發(fā)展18-19
• 1.5 論文主要工作與章節(jié)安排19-20
• 1.6 本章小節(jié)20-21
• 2 卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與算法21-36
• 2.1 卷積神經(jīng)網(wǎng)絡(luò)21-31
• 2.1.1 神經(jīng)元與人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)21-23
• 2.1.2 前向傳導(dǎo)23
• 2.1.3 反向傳導(dǎo)23-25
• 2.1.4 卷積神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)25-26
• 2.1.5 卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程26-28
• 2.1.6 卷積神經(jīng)網(wǎng)絡(luò)的核心思想28-31
• 2.2 神經(jīng)網(wǎng)絡(luò)的優(yōu)化方法31-35
• 2.2.1 損失函數(shù)31-32
• 2.2.2 線(xiàn)性校對(duì)單元與Dropout32-34
• 2.2.3 CUDA編程34-35
• 2.3 本章小節(jié)35-36
• 3 卷積神經(jīng)網(wǎng)絡(luò)在圖像分類(lèi)上的實(shí)驗(yàn)36-51
• 3.1 Torch框架簡(jiǎn)介36-37
• 3.2 人臉-背景二分類(lèi)實(shí)驗(yàn)37-39
• 3.2.1 face-detector人臉數(shù)據(jù)集37-38
• 3.2.2 訓(xùn)練模型38-39
• 3.2.3 實(shí)驗(yàn)結(jié)果及分析39
• 3.3 手寫(xiě)數(shù)字識(shí)別實(shí)驗(yàn)39-44
• 3.3.1 MNIST手寫(xiě)數(shù)字集39-40
• 3.3.2 訓(xùn)練模型40-44
• 3.3.3 實(shí)驗(yàn)結(jié)果及分析44
• 3.4 圖像分類(lèi)實(shí)驗(yàn)44-50
• 3.4.1 CIFAR-10圖像分類(lèi)數(shù)據(jù)集44-45
• 3.4.2 訓(xùn)練模型45-47
• 3.4.3 實(shí)驗(yàn)結(jié)果及分析47-50
• 3.5 本章小節(jié)50-51
• 4 多尺度卷積神經(jīng)網(wǎng)絡(luò)在景物標(biāo)記上的實(shí)驗(yàn)51-61
• 4.1 Stanford Background實(shí)驗(yàn)51-56
• 4.1.1 Stanford Background數(shù)據(jù)集51-52
• 4.1.2 實(shí)驗(yàn)設(shè)計(jì)52-54
• 4.1.3 實(shí)驗(yàn)結(jié)果54-55
• 4.1.4 結(jié)果分析55-56
• 4.2 SIFT Flow實(shí)驗(yàn)56-59
• 4.2.1 SIFT Flow數(shù)據(jù)集56-57
• 4.2.2 實(shí)驗(yàn)設(shè)計(jì)57-58
• 4.2.3 實(shí)驗(yàn)結(jié)果58
• 4.2.4 結(jié)果分析58-59
• 4.3 本章小節(jié)59-61
• 5 總結(jié)與展望61-63
• 5.1 總結(jié)61-62
• 5.2 展望62-63
• 參考文獻(xiàn)63-67
• 作者簡(jiǎn)歷及攻讀碩士學(xué)位期間取得的研究成果67-69
• 學(xué)位論文數(shù)據(jù)集69

【相似文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條

1 云中客;新的神經(jīng)網(wǎng)絡(luò)來(lái)自于仿生學(xué)[J];物理;2001年10期

2 唐春明,高協(xié)平;進(jìn)化神經(jīng)網(wǎng)絡(luò)的研究進(jìn)展[J];系統(tǒng)工程與電子技術(shù);2001年10期

3 李智;一種基于神經(jīng)網(wǎng)絡(luò)的煤炭調(diào)運(yùn)優(yōu)化方法[J];長(zhǎng)沙鐵道學(xué)院學(xué)報(bào);2003年02期

4 程科,王士同,楊靜宇;新型模糊形態(tài)神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];計(jì)算機(jī)工程與應(yīng)用;2004年21期

5 王凡,孟立凡;關(guān)于使用神經(jīng)網(wǎng)絡(luò)推定操作者疲勞的研究[J];人類(lèi)工效學(xué);2004年03期

6 周麗暉;從統(tǒng)計(jì)角度看神經(jīng)網(wǎng)絡(luò)[J];統(tǒng)計(jì)教育;2005年06期

7 趙奇 ,劉開(kāi)第 ,龐彥軍;灰色補(bǔ)償神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];微計(jì)算機(jī)信息;2005年14期

8 袁婷;;神經(jīng)網(wǎng)絡(luò)在股票市場(chǎng)預(yù)測(cè)中的應(yīng)用[J];軟件導(dǎo)刊;2006年05期

9 尚晉;楊有;;從神經(jīng)網(wǎng)絡(luò)的過(guò)去談科學(xué)發(fā)展觀[J];重慶三峽學(xué)院學(xué)報(bào);2006年03期

10 楊鐘瑾;;神經(jīng)網(wǎng)絡(luò)的過(guò)去、現(xiàn)在和將來(lái)[J];青年探索;2006年04期

中國(guó)重要會(huì)議論文全文數(shù)據(jù)庫(kù) 前10條

1 徐春玉;;基于泛集的神經(jīng)網(wǎng)絡(luò)的混沌性[A];1996中國(guó)控制與決策學(xué)術(shù)年會(huì)論文集[C];1996年

2 周樹(shù)德;王巖;孫增圻;孫富春;;量子神經(jīng)網(wǎng)絡(luò)[A];2003年中國(guó)智能自動(dòng)化會(huì)議論文集（上冊(cè)）[C];2003年

3 羅山;張琳;范文新;;基于神經(jīng)網(wǎng)絡(luò)和簡(jiǎn)單規(guī)劃的識(shí)別融合算法[A];2009系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)會(huì)議論文集[C];2009年

4 郭愛(ài)克;馬盡文;丁康;;序言(二)[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

5 鐘義信;;知識(shí)論:神經(jīng)網(wǎng)絡(luò)的新機(jī)遇——紀(jì)念中國(guó)神經(jīng)網(wǎng)絡(luò)10周年[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

6 許進(jìn);保錚;;神經(jīng)網(wǎng)絡(luò)與圖論[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

7 金龍;朱詩(shī)武;趙成志;陳寧;;數(shù)值預(yù)報(bào)產(chǎn)品的神經(jīng)網(wǎng)絡(luò)釋用預(yù)報(bào)應(yīng)用[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

8 田金亭;;神經(jīng)網(wǎng)絡(luò)在中學(xué)生創(chuàng)造力評(píng)估中的應(yīng)用[A];第十二屆全國(guó)心理學(xué)學(xué)術(shù)大會(huì)論文摘要集[C];2009年

9 唐墨;王科俊;;自發(fā)展神經(jīng)網(wǎng)絡(luò)的混沌特性研究[A];2009年中國(guó)智能自動(dòng)化會(huì)議論文集（第七分冊(cè)）[南京理工大學(xué)學(xué)報(bào)（增刊）][C];2009年

10 張廣遠(yuǎn);萬(wàn)強(qiáng);曹海源;田方濤;;基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的故障診斷方法研究[A];第十二屆全國(guó)設(shè)備故障診斷學(xué)術(shù)會(huì)議論文集[C];2010年

中國(guó)重要報(bào)紙全文數(shù)據(jù)庫(kù) 前10條

1 美國(guó)明尼蘇達(dá)大學(xué)社會(huì)學(xué)博士 密西西比州立大學(xué)國(guó)家戰(zhàn)略規(guī)劃與分析研究中心資深助理研究員 陳心想;維護(hù)好創(chuàng)新的“神經(jīng)網(wǎng)絡(luò)硬件”[N];中國(guó)教師報(bào);2014年

2 盧業(yè)忠;腦控電腦 驚世駭俗[N];計(jì)算機(jī)世界;2001年

3 葛一鳴 路邊文;人工神經(jīng)網(wǎng)絡(luò)將大顯身手[N];中國(guó)紡織報(bào);2003年

4 中國(guó)科技大學(xué)計(jì)算機(jī)系　邢方亮;神經(jīng)網(wǎng)絡(luò)挑戰(zhàn)人類(lèi)大腦[N];計(jì)算機(jī)世界;2003年

5 記者 孫剛;“神經(jīng)網(wǎng)絡(luò)”：打開(kāi)復(fù)雜工藝“黑箱”[N];解放日?qǐng)?bào);2007年

6 本報(bào)記者 劉霞;美用DNA制造出首個(gè)人造神經(jīng)網(wǎng)絡(luò)[N];科技日?qǐng)?bào);2011年

7 健康時(shí)報(bào)特約記者　 張獻(xiàn)懷;干細(xì)胞移植：修復(fù)受損的神經(jīng)網(wǎng)絡(luò)[N];健康時(shí)報(bào);2006年

8 劉力;我半導(dǎo)體神經(jīng)網(wǎng)絡(luò)技術(shù)及應(yīng)用研究達(dá)國(guó)際先進(jìn)水平[N];中國(guó)電子報(bào);2001年

9 ;神經(jīng)網(wǎng)絡(luò)和模糊邏輯[N];世界金屬導(dǎo)報(bào);2002年

10 鄒麗梅 陳耀群;江蘇科大神經(jīng)網(wǎng)絡(luò)應(yīng)用研究通過(guò)鑒定[N];中國(guó)船舶報(bào);2006年

中國(guó)博士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條

1 楊旭華;神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用研究[D];浙江大學(xué);2004年

2 李素芳;基于神經(jīng)網(wǎng)絡(luò)的無(wú)線(xiàn)通信算法研究[D];山東大學(xué);2015年

3 石艷超;憶阻神經(jīng)網(wǎng)絡(luò)的混沌性及幾類(lèi)時(shí)滯神經(jīng)網(wǎng)絡(luò)的同步研究[D];電子科技大學(xué);2014年

4 王新迎;基于隨機(jī)映射神經(jīng)網(wǎng)絡(luò)的多元時(shí)間序列預(yù)測(cè)方法研究[D];大連理工大學(xué);2015年

5 付愛(ài)民;極速學(xué)習(xí)機(jī)的訓(xùn)練殘差、穩(wěn)定性及泛化能力研究[D];中國(guó)農(nóng)業(yè)大學(xué);2015年

6 李輝;基于粒計(jì)算的神經(jīng)網(wǎng)絡(luò)及集成方法研究[D];中國(guó)礦業(yè)大學(xué);2015年

7 王衛(wèi)蘋(píng);復(fù)雜網(wǎng)絡(luò)幾類(lèi)同步控制策略研究及穩(wěn)定性分析[D];北京郵電大學(xué);2015年

8 張海軍;基于云計(jì)算的神經(jīng)網(wǎng)絡(luò)并行實(shí)現(xiàn)及其學(xué)習(xí)方法研究[D];華南理工大學(xué);2015年

9 李艷晴;風(fēng)速時(shí)間序列預(yù)測(cè)算法研究[D];北京科技大學(xué);2016年

10 陳輝;多維超精密定位系統(tǒng)建模與控制關(guān)鍵技術(shù)研究[D];東南大學(xué);2015年

中國(guó)碩士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條

1 陳少吉;基于神經(jīng)網(wǎng)絡(luò)血壓預(yù)測(cè)研究與系統(tǒng)實(shí)現(xiàn)[D];華南理工大學(xué);2015年

2 張韜;幾類(lèi)時(shí)滯神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];渤海大學(xué);2015年

3 邵雪瑩;幾類(lèi)時(shí)滯不確定神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[D];渤海大學(xué);2015年

4 胡婷;改進(jìn)QGA-BP模型及其在彌苴河總氮量預(yù)測(cè)中的應(yīng)用[D];昆明理工大學(xué);2015年

5 劉俊輝;基于數(shù)據(jù)清洗方法的河道水位預(yù)測(cè)研究[D];昆明理工大學(xué);2015年

6 劉波;短期風(fēng)電功率預(yù)測(cè)方法研究[D];南京信息工程大學(xué);2015年

7 蔡邦宇;人臉識(shí)別中單次ERP時(shí)空特征分析及其快速檢索的應(yīng)用[D];浙江大學(xué);2015年

8 鄭川;垃圾評(píng)論檢測(cè)算法的研究[D];西南交通大學(xué);2015年

9 李菊;BP神經(jīng)網(wǎng)絡(luò)在房地產(chǎn)批量評(píng)估中的應(yīng)用研究[D];昆明理工大學(xué);2015年

10 馬亮;降水點(diǎn)分類(lèi)預(yù)測(cè)方法研究[D];中國(guó)地質(zhì)大學(xué)(北京);2015年

，

本文編號(hào)：1094837