【摘要】：卷積神經(jīng)網(wǎng)絡(luò)(CNN)作為目前計(jì)算機(jī)視覺(jué)領(lǐng)域中的主流模型,在圖像分類(lèi)、圖像分割以及超分辨等領(lǐng)域得到成功應(yīng)用。卷積網(wǎng)絡(luò)通常采用全連接層或全局平均池化層聚合卷積層輸出的特征圖,然而這些方法并不能充分建模特征圖中所蘊(yùn)含的豐富信息。為進(jìn)一步增強(qiáng)網(wǎng)絡(luò)的表達(dá)能力,通過(guò)在CNN架構(gòu)中設(shè)計(jì)并嵌入建模能力更強(qiáng)的結(jié)構(gòu)層對(duì)特征圖進(jìn)行聚合,成為一種新的思路。其中,二階建模憑借自身建模能力強(qiáng)的優(yōu)越性,受到學(xué)者們的廣泛關(guān)注。本文重點(diǎn)研究如何在CNN中設(shè)計(jì)嵌入二階建模結(jié)構(gòu)層,并針對(duì)現(xiàn)有二階建模方法的不足進(jìn)行改進(jìn),提出了三種基于二階建模的卷積網(wǎng)絡(luò)模型。雙線性卷積網(wǎng)絡(luò)(B-CNN)通過(guò)對(duì)特征圖計(jì)算外積,建模了特征圖分布的二階統(tǒng)計(jì)信息。然而,外積聚合僅能捕捉特征圖中通道間的線性關(guān)系,無(wú)法建模通道間的非線性關(guān)系,不能充分利用特征圖所蘊(yùn)含的有效信息。針對(duì)該問(wèn)題,本文首先提出了一種核化雙線性卷積網(wǎng)絡(luò)。該網(wǎng)絡(luò)采用核函數(shù)的方式建模通道間的非線性關(guān)系,充分利用特征圖中的有效信息,從而得到更具判別力的圖像表達(dá)。本文提出了三種核化雙線性聚合的方式,并給出反向傳播的梯度求導(dǎo)公式,以嵌入到CNN架構(gòu)中進(jìn)行端到端的訓(xùn)練。利用注意力機(jī)制能夠有效地對(duì)特征圖中信息進(jìn)行校正,增強(qiáng)網(wǎng)絡(luò)的表達(dá)能力。本文提出了一種基于二階建模的通道注意力模塊,該模塊通過(guò)計(jì)算通道間的相關(guān)性,并作為權(quán)重對(duì)特征圖中的通道進(jìn)行加權(quán)求和,從而更好地對(duì)特征圖的通道信息進(jìn)行校正,提升網(wǎng)絡(luò)的分類(lèi)性能。不同于SENet中通道注意力模塊僅利用一階信息,本文方法更有效地建模了通道間的相互關(guān)系。同時(shí),相較于非局部卷積網(wǎng)絡(luò)利用特征間的相關(guān)性作為權(quán)重,本文提出的注意力模塊更適用于圖像分類(lèi)任務(wù)。受到端到端的局部聚合描述子網(wǎng)絡(luò)(NetVLAD)的啟發(fā),本文提出了一種基于特征空間的局部二階聚合網(wǎng)絡(luò)(LSOP)。LSOP網(wǎng)絡(luò)首先利用聚類(lèi)的方式對(duì)特征空間進(jìn)行局部劃分,并在每個(gè)聚類(lèi)空間內(nèi)部進(jìn)行二階建模,從而細(xì)致地刻畫(huà)特征分布的局部二階統(tǒng)計(jì)信息。該方法解決了目前卷積網(wǎng)絡(luò)中,二階建模僅能獲取特征分布的全局二階統(tǒng)計(jì)信息的問(wèn)題。同時(shí),針對(duì)二階建模維度高的不足,該方法進(jìn)一步采用基于張量速寫(xiě)的降維措施,顯著降低了圖像表達(dá)的維度。本文對(duì)提出的三種方法進(jìn)行了詳細(xì)地實(shí)驗(yàn)評(píng)估。實(shí)驗(yàn)結(jié)果表明本文方法在多個(gè)圖像分類(lèi)數(shù)據(jù)庫(kù)上均優(yōu)于相關(guān)方法,其中核化雙線性卷積網(wǎng)絡(luò)更是達(dá)到了領(lǐng)先的性能。LSOP網(wǎng)絡(luò)則不僅取得了具有競(jìng)爭(zhēng)力的性能表現(xiàn),其圖像表達(dá)維度也顯著低于相關(guān)方法。
【學(xué)位授予單位】：大連理工大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2019
【分類(lèi)號(hào)】：TP391.41;TP183

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 陶筱嬌;王鑫;;基于深度學(xué)習(xí)算法的圖像分類(lèi)方法[J];微型電腦應(yīng)用;2019年03期

2 李會(huì)民;馬桂英;王延倉(cāng);;基于深度學(xué)習(xí)網(wǎng)絡(luò)的水質(zhì)圖像分類(lèi)[J];北華航天工業(yè)學(xué)院學(xué)報(bào);2018年04期

3 彭娟;;特征選擇和聚類(lèi)分析的圖像分類(lèi)模型[J];現(xiàn)代電子技術(shù);2017年19期

4 田凱;杜鵬;;基于C#的圖像分類(lèi)系統(tǒng)實(shí)現(xiàn)[J];數(shù)碼世界;2017年08期

5 王科平;張志剛;;基于特征加權(quán)的自動(dòng)圖像分類(lèi)方法[J];微型電腦應(yīng)用;2014年01期

6 汪煜浩;華瑞林;;山地衛(wèi)星圖像分類(lèi)制圖方法研究[J];遙感信息;1987年04期

7 吳健;賈宏宇;;基于遷移學(xué)習(xí)的圖像分類(lèi)方法研究[J];河南科技;2018年31期

8 武慧瓊;張素蘭;張繼福;胡立華;;一種基于三支決策的花卉圖像分類(lèi)[J];小型微型計(jì)算機(jī)系統(tǒng);2019年07期

9 林澤文;;深度學(xué)習(xí)及其在圖像分類(lèi)識(shí)別中的運(yùn)用探討[J];信息與電腦(理論版);2018年12期

10 李舒;吳磊;;數(shù)據(jù)挖掘在醫(yī)學(xué)圖像分類(lèi)中的應(yīng)用[J];醫(yī)學(xué)信息學(xué)雜志;2014年08期

相關(guān)會(huì)議論文 前10條

1 吳楠;李曉曦;宋方敏;;圖像挖掘及其在醫(yī)學(xué)圖像分類(lèi)中的應(yīng)用[A];2006年全國(guó)理論計(jì)算機(jī)科學(xué)學(xué)術(shù)年會(huì)論文集[C];2006年

2 朱松豪;劉佳偉;胡榮林;;一種圖像分類(lèi)的新方法[A];第26屆中國(guó)控制與決策會(huì)議論文集[C];2014年

3 文振q;歐陽(yáng)杰;朱為總;;基于語(yǔ)義特征與支持向量機(jī)的圖像分類(lèi)[A];中國(guó)電子學(xué)會(huì)第十六屆信息論學(xué)術(shù)年會(huì)論文集[C];2009年

4 武文;李昊;王曉軍;吳永輝;;極化誤差對(duì)圖像分類(lèi)的影響分析[A];全國(guó)第20屆計(jì)算機(jī)技術(shù)與應(yīng)用學(xué)術(shù)會(huì)議（CACIS·2009）暨全國(guó)第1屆安全關(guān)鍵技術(shù)與應(yīng)用學(xué)術(shù)會(huì)議論文集（上冊(cè)）[C];2009年

5 范海地;謝鳳英;;基于卷積神經(jīng)網(wǎng)絡(luò)的皮膚鏡圖像分類(lèi)[A];第十五屆中國(guó)體視學(xué)與圖像分析學(xué)術(shù)會(huì)議論文集[C];2017年

6 吳霜;張一飛;修非;王大玲;鮑玉斌;于戈;;基于興趣點(diǎn)特征提取的醫(yī)學(xué)圖像分類(lèi)[A];第二十四屆中國(guó)數(shù)據(jù)庫(kù)學(xué)術(shù)會(huì)議論文集（研究報(bào)告篇）[C];2007年

7 蘆穎;倪維平;嚴(yán)衛(wèi)東;邊輝;;基于改進(jìn)極化目標(biāo)分解算法的POLSAR圖像分類(lèi)[A];國(guó)家安全地球物理叢書(shū)（十一）——地球物理應(yīng)用前沿[C];2015年

8 潘海為;李建中;張煒;;基于像素聚類(lèi)的腦部醫(yī)學(xué)圖像分類(lèi)[A];第二十屆全國(guó)數(shù)據(jù)庫(kù)學(xué)術(shù)會(huì)議論文集（研究報(bào)告篇）[C];2003年

9 佘杰;;基于BP神經(jīng)網(wǎng)絡(luò)的煤巖圖像分類(lèi)識(shí)別[A];第23屆全國(guó)煤礦自動(dòng)化與信息化學(xué)術(shù)會(huì)議暨第5屆中國(guó)煤礦信息化與自動(dòng)化高層論壇論文集[C];2013年

10 武進(jìn);尹愷;王長(zhǎng)明;張家才;;SVDM在蔬菜病害圖像分類(lèi)中的應(yīng)用[A];圖像圖形技術(shù)與應(yīng)用進(jìn)展——第三屆圖像圖形技術(shù)與應(yīng)用學(xué)術(shù)會(huì)議論文集[C];2008年

相關(guān)博士學(xué)位論文 前10條

1 張璐;基于深度空間特征學(xué)習(xí)的極化SAR圖像分類(lèi)[D];西安電子科技大學(xué);2019年

2 楊寶慶;基于字典學(xué)習(xí)的圖像分類(lèi)算法及應(yīng)用研究[D];上海交通大學(xué);2017年

3 鄭昱;面向大規(guī)模圖像分類(lèi)的層次化多任務(wù)學(xué)習(xí)算法研究[D];西安電子科技大學(xué);2017年

4 郭雨薇;基于超像素表征和模糊特征學(xué)習(xí)的圖像分類(lèi)與識(shí)別[D];西安電子科技大學(xué);2017年

5 李曉;基于遷移學(xué)習(xí)的跨域圖像分類(lèi)方法研究[D];西安電子科技大學(xué);2017年

6 滑文強(qiáng);小樣本下的極化SAR圖像分類(lèi)問(wèn)題研究[D];西安電子科技大學(xué);2018年

7 張姝茵;基于判別性特征學(xué)習(xí)的極化SAR圖像分類(lèi)[D];西安電子科技大學(xué);2018年

8 丁擁科;基于先驗(yàn)信息輔助的高分辨率SAR圖像分類(lèi)方法研究[D];上海交通大學(xué);2017年

9 侯賽輝;圖像物體的精細(xì)化分類(lèi)方法研究[D];中國(guó)科學(xué)技術(shù)大學(xué);2019年

10 呂恩輝;基于卷積神經(jīng)網(wǎng)絡(luò)的圖像分類(lèi)研究[D];中國(guó)礦業(yè)大學(xué);2019年

相關(guān)碩士學(xué)位論文 前10條

1 梁澤志;基于CNN-ELM的冷凍電鏡單顆粒圖像分類(lèi)研究[D];湘潭大學(xué);2019年

2 邰旭鳴;基于深度學(xué)習(xí)的多標(biāo)簽圖像分類(lèi)系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[D];南京師范大學(xué);2019年

3 張燁;基于風(fēng)格遷移的圖像分類(lèi)技術(shù)研究[D];哈爾濱工業(yè)大學(xué);2019年

4 艾爾（ARERO WARIYO GODANA）;基于區(qū)域的卷積神經(jīng)網(wǎng)絡(luò)在SAR圖像分類(lèi)中的應(yīng)用[D];哈爾濱工業(yè)大學(xué);2019年

5 付琰;基于樣本生成的多任務(wù)圖像分類(lèi)方法研究[D];哈爾濱工業(yè)大學(xué);2018年

6 林開(kāi)東;基于網(wǎng)絡(luò)涉恐?jǐn)?shù)據(jù)Logo識(shí)別技術(shù)的研究與實(shí)現(xiàn)[D];重慶郵電大學(xué);2019年

7 萬(wàn)博洋;基于深度學(xué)習(xí)的煙霧檢測(cè)算法研究[D];江西科技師范大學(xué);2018年

8 李明;基于深度學(xué)習(xí)的工業(yè)圖像分類(lèi)與檢測(cè)系統(tǒng)設(shè)計(jì)[D];西安工程大學(xué);2019年

9 張宇維;城市排水管內(nèi)窺圖像分類(lèi)與病害智能檢測(cè)研究[D];廣東工業(yè)大學(xué);2019年

10 葛可適;基于神經(jīng)網(wǎng)絡(luò)和密度峰值聚類(lèi)的單顆粒冷凍電鏡圖像分類(lèi)技術(shù)研究[D];國(guó)防科技大學(xué);2017年

，

本文編號(hào)：2676127