基于集成學(xué)習(xí)的目標(biāo)感知與應(yīng)用
【學(xué)位單位】:北京交通大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位年份】:2019
【中圖分類】:TP18;TP391.41
【部分圖文】:
ImageNet2015競(jìng)賽的冠軍,ResNet網(wǎng)絡(luò)創(chuàng)新性的提出了基于跳層的殘差塊結(jié)構(gòu),??并在一定程度解決了由于網(wǎng)絡(luò)深度增加而導(dǎo)致的過(guò)擬合和梯度消失的問(wèn)題,使得??訓(xùn)練超大深度的深度神經(jīng)網(wǎng)絡(luò)成為可能。殘差網(wǎng)絡(luò)中典型的殘差模塊結(jié)構(gòu)如圖2-1??所示:??Weight?layer??m?\??Weight?layer??脅x??relu??圖2-1殘差模塊??Figure?2-1?Residual?Block??8??
?(2-16)??所以每一個(gè)非線性層都需要去擬合輸出和輸入的殘差,這也是其稱之為殘差神經(jīng)網(wǎng)??絡(luò)的原因,我們以標(biāo)準(zhǔn)的為ImageNet設(shè)計(jì)的18層殘差神經(jīng)網(wǎng)絡(luò)為例,基于圖2-2,??殘差神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)進(jìn)行簡(jiǎn)要分析。我們將上述結(jié)構(gòu)拆解為4個(gè)模塊分別是??conv_l,conv_2,conv_3,conv_4?和?conv_5?五部分組成,conv_l?是由固定的?64??個(gè)7X7卷積核組成,在C〇nv_l后有一個(gè)固定的池化層來(lái)對(duì)conv_l輸出的特征圖??的尺寸進(jìn)行減半。其中corw_2可以拆解為兩個(gè)子模塊,每個(gè)子模塊可以拆解為64??個(gè)3?X?3的卷積核組成,每個(gè)模塊的第一個(gè)卷積層通過(guò)將步長(zhǎng)調(diào)整為2將feature?map??的尺寸減半。在conv_2到conv_4同樣都是可以拆解為兩個(gè)子模塊
進(jìn)行改進(jìn)的,通過(guò)將原來(lái)的16,?32,?64卷積核數(shù)量設(shè)計(jì)進(jìn)行it倍的擴(kuò)展來(lái)提升泛化??性能,此外這種網(wǎng)絡(luò)結(jié)構(gòu)僅僅需要很淺的層數(shù)設(shè)計(jì),避免了過(guò)深的ResNet大部分??殘差塊學(xué)不到有價(jià)值信息的問(wèn)題,具體的網(wǎng)絡(luò)結(jié)構(gòu)如圖2-4所示。??此外谷歌對(duì)WideResNet的最新研宄表明它在梯度下降過(guò)程中和線性模型??的表現(xiàn)幾乎一致,無(wú)限寬的深度網(wǎng)絡(luò)可以看作一個(gè)高斯過(guò)程,這種網(wǎng)絡(luò)不僅在理??論上易于證明,而且在泛化性能表現(xiàn)上也更好。??10??
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 王一賓;田文泉;程玉勝;;基于標(biāo)記分布學(xué)習(xí)的異態(tài)集成學(xué)習(xí)算法[J];模式識(shí)別與人工智能;2019年10期
2 徐繼偉;楊云;;集成學(xué)習(xí)方法:研究綜述[J];云南大學(xué)學(xué)報(bào)(自然科學(xué)版);2018年06期
3 武玉英;嚴(yán)勇;蔣國(guó)瑞;;基于動(dòng)態(tài)選擇性集成學(xué)習(xí)的供應(yīng)鏈產(chǎn)銷協(xié)商優(yōu)化策略[J];計(jì)算機(jī)工程;2017年05期
4 張滄生;崔麗娟;楊剛;倪志宏;;集成學(xué)習(xí)算法的比較研究[J];河北大學(xué)學(xué)報(bào)(自然科學(xué)版);2007年05期
5 郭福亮;周鋼;;集成學(xué)習(xí)中預(yù)測(cè)精度的影響因素分析[J];兵工自動(dòng)化;2019年01期
6 曾一平;;基于集成學(xué)習(xí)的小麥識(shí)別研究[J];現(xiàn)代商貿(mào)工業(yè);2019年17期
7 米碩;孫瑞彬;李欣;明曉;;集成學(xué)習(xí)在文本分類問(wèn)題中的應(yīng)用[J];中國(guó)新通信;2018年09期
8 李曄;劉勝利;張兆林;;基于漂移檢測(cè)和集成學(xué)習(xí)的木馬檢測(cè)模型[J];信息工程大學(xué)學(xué)報(bào);2017年06期
9 徐桂云;陳躍;張曉光;劉云楷;;基于選擇性集成學(xué)習(xí)的焊接缺陷識(shí)別研究[J];中國(guó)礦業(yè)大學(xué)學(xué)報(bào);2011年06期
10 張春霞;張講社;;選擇性集成學(xué)習(xí)算法綜述[J];計(jì)算機(jī)學(xué)報(bào);2011年08期
相關(guān)博士學(xué)位論文 前10條
1 張巧生;基于組學(xué)數(shù)據(jù)的癌癥生物學(xué)通路分析方法研究[D];哈爾濱工業(yè)大學(xué);2019年
2 李艷秋;基于集成學(xué)習(xí)的人臉識(shí)別研究[D];合肥工業(yè)大學(xué);2018年
3 趙鶴;面向高維大數(shù)據(jù)的子空間集成學(xué)習(xí)方法研究[D];中國(guó)科學(xué)院大學(xué)(中國(guó)科學(xué)院深圳先進(jìn)技術(shù)研究院);2017年
4 劉天羽;基于特征選擇技術(shù)的集成學(xué)習(xí)方法及其應(yīng)用研究[D];上海大學(xué);2007年
5 侯勇;特征提取與集成學(xué)習(xí)算法的研究及應(yīng)用[D];北京科技大學(xué);2015年
6 孫永宣;集成學(xué)習(xí)下的圖像分析關(guān)鍵問(wèn)題研究[D];合肥工業(yè)大學(xué);2013年
7 尹華;面向高維和不平衡數(shù)據(jù)分類的集成學(xué)習(xí)研究[D];武漢大學(xué);2012年
8 阿里木·賽買提(Alim.Samat);基于集成學(xué)習(xí)的全極化SAR圖像分類研究[D];南京大學(xué);2015年
9 劉沖;模擬電路故障診斷AdaBoost集成學(xué)習(xí)方法研究[D];大連海事大學(xué);2011年
10 鈕冰;基于集成學(xué)習(xí)算法的若干生物信息學(xué)問(wèn)題研究[D];上海大學(xué);2009年
相關(guān)碩士學(xué)位論文 前10條
1 尹伊人;基于集成學(xué)習(xí)的列車能耗預(yù)測(cè)方法研究及系統(tǒng)設(shè)計(jì)[D];北京交通大學(xué);2019年
2 江政;融合集成學(xué)習(xí)與解釋性方法的老年健康知識(shí)發(fā)現(xiàn)研究[D];合肥工業(yè)大學(xué);2019年
3 謝若鵬;基于有效特征探索和集成學(xué)習(xí)模型的賴氨酸丙二;稽c(diǎn)分析與預(yù)測(cè)[D];桂林電子科技大學(xué);2019年
4 何沂娟;基于集成學(xué)習(xí)的非平衡惡意文本檢測(cè)[D];電子科技大學(xué);2019年
5 金妙然;基于語(yǔ)義向量的集成學(xué)習(xí)研究與應(yīng)用[D];電子科技大學(xué);2019年
6 詹樂(lè);基于集成學(xué)習(xí)的推薦算法及優(yōu)化研究[D];桂林電子科技大學(xué);2019年
7 馬浩天;集成學(xué)習(xí)在網(wǎng)絡(luò)入侵檢測(cè)中的應(yīng)用[D];電子科技大學(xué);2019年
8 盧勇全;基于集成學(xué)習(xí)的偏標(biāo)記學(xué)習(xí)算法研究[D];桂林電子科技大學(xué);2019年
9 呂克敵;基于集成學(xué)習(xí)與進(jìn)化算法的停車位預(yù)測(cè)算法研究[D];吉林大學(xué);2019年
10 董鳳偉;基于集成學(xué)習(xí)的傳染性肝病輔助診斷系統(tǒng)的研究與實(shí)現(xiàn)[D];江蘇大學(xué);2019年
本文編號(hào):2865479
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/2865479.html