發(fā)布時(shí)間：2020-10-30 23:38

　　 物體識(shí)別與檢測(cè)是計(jì)算機(jī)視覺領(lǐng)域中的兩個(gè)基本任務(wù)。在物體識(shí)別任務(wù)中,對(duì)于輸入圖像,需要通過算法判斷圖像中的物體屬于預(yù)定義的多個(gè)類別中的哪一個(gè)類別;而物體檢測(cè)任務(wù)需要同時(shí)確定圖像中出現(xiàn)的物體類別及其所在的位置。隨著近年來深度學(xué)習(xí)技術(shù)的飛速發(fā)展,使用深度神經(jīng)網(wǎng)絡(luò)進(jìn)行物體識(shí)別與檢測(cè)實(shí)現(xiàn)了遠(yuǎn)超傳統(tǒng)方法的性能。然而,在將高性能的物體識(shí)別與檢測(cè)模型部署至資源受限場(chǎng)景時(shí),深度神經(jīng)網(wǎng)絡(luò)自身參數(shù)規(guī)模大、計(jì)算復(fù)雜度高的缺點(diǎn)開始逐漸顯現(xiàn)。為了進(jìn)一步擴(kuò)展深度神經(jīng)網(wǎng)絡(luò)模型的應(yīng)用場(chǎng)景,本文針對(duì)面向物體識(shí)別與檢測(cè)的高效率的深度神經(jīng)網(wǎng)絡(luò)模型,從兩個(gè)不同角度開展了研究:1)針對(duì)現(xiàn)有的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行壓縮;2)根據(jù)目標(biāo)任務(wù)特點(diǎn)設(shè)計(jì)新的高效率神經(jīng)網(wǎng)絡(luò)模型。本文主要工作和創(chuàng)新點(diǎn)包括如下三個(gè)方面:第一,針對(duì)物體識(shí)別模型中濾波器間存在相關(guān)性導(dǎo)致參數(shù)量和計(jì)算量冗余的問題,提出了一種基于網(wǎng)絡(luò)參數(shù)去相關(guān)約束的網(wǎng)絡(luò)模型壓縮方法,與稀疏約束共同使用時(shí)可以得到稀疏度更高的網(wǎng)絡(luò)模型。本文從現(xiàn)有的稀疏約束壓縮方法入手,通過分析稀疏約束生成的稀疏網(wǎng)絡(luò),得到對(duì)稀疏網(wǎng)絡(luò)進(jìn)行進(jìn)一步壓縮與網(wǎng)絡(luò)濾波器相關(guān)性之間的聯(lián)系。之后提出通過去相關(guān)約束減少網(wǎng)絡(luò)濾波器相關(guān)性,并引入了稀疏掩碼操作,以解決稀疏約束與去相關(guān)約束聯(lián)合優(yōu)化困難的問題。考慮到網(wǎng)絡(luò)初始化時(shí)的初始參數(shù)對(duì)優(yōu)化過程會(huì)產(chǎn)生影響,提出了去相關(guān)初始化方法以輔助網(wǎng)絡(luò)去相關(guān)訓(xùn)練,進(jìn)一步減小網(wǎng)絡(luò)計(jì)算復(fù)雜度。在多個(gè)常用數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果證明了提出的方法可以實(shí)現(xiàn)比現(xiàn)有稀疏約束方法更高的網(wǎng)絡(luò)壓縮效果。第二,針對(duì)基于角點(diǎn)的物體檢測(cè)模型存在的角點(diǎn)特征錯(cuò)位問題,提出了一種基于角點(diǎn)特征增強(qiáng)知識(shí)蒸餾的網(wǎng)絡(luò)模型壓縮方法,通過提供更有效的角點(diǎn)特征監(jiān)督信息,在相近的模型復(fù)雜度下實(shí)現(xiàn)了更高的檢測(cè)性能,擴(kuò)展了知識(shí)蒸餾方法在物體檢測(cè)模型中的應(yīng)用范圍。考慮到基于角點(diǎn)的物體檢測(cè)算法對(duì)角點(diǎn)特征的強(qiáng)依賴性,在提出的知識(shí)蒸餾方法中,將教師網(wǎng)絡(luò)的角點(diǎn)特征圖使用物體全局特征進(jìn)行增強(qiáng),并使用增強(qiáng)后的特征圖后作為額外監(jiān)督信息訓(xùn)練學(xué)生網(wǎng)絡(luò),以此幫助學(xué)生網(wǎng)絡(luò)生成包含更多物體全局信息的角點(diǎn)特征圖。同時(shí)為了進(jìn)一步提升學(xué)生網(wǎng)絡(luò)的角點(diǎn)特征提取能力,將角點(diǎn)位置作為先驗(yàn)信息加入可變形卷積中,提出了角點(diǎn)可變形卷積。相比現(xiàn)有的角點(diǎn)池化操作,角點(diǎn)可變形卷積可以更好地在角點(diǎn)處提取物體整體特征。實(shí)驗(yàn)結(jié)果顯示,使用提出的方法可以使學(xué)生網(wǎng)絡(luò)學(xué)習(xí)到更好的角點(diǎn)特征表達(dá)。第三,針對(duì)物體檢測(cè)模型對(duì)物體尺度變化敏感的問題,提出了一種尺度解耦特征金字塔網(wǎng)絡(luò)設(shè)計(jì)方法,通過對(duì)骨干網(wǎng)絡(luò)與特征融合模塊進(jìn)行聯(lián)合設(shè)計(jì),在顯著提升模型對(duì)尺度變化魯棒性的同時(shí)避免了計(jì)算復(fù)雜度的大幅增加。為了緩解特征金字塔網(wǎng)絡(luò)中高層特征圖受到不同尺度監(jiān)督信息干擾的問題,使用多分支結(jié)構(gòu)生成針對(duì)不同尺度物體的高層特征圖,并在每個(gè)分支內(nèi)分別進(jìn)行特征融合,使用融合后得到的特征金字塔對(duì)不同尺度物體進(jìn)行檢測(cè)。由于保持了輸出特征圖和后續(xù)檢測(cè)頭網(wǎng)絡(luò)與傳統(tǒng)特征金字塔網(wǎng)絡(luò)相同,沒有增加頭網(wǎng)絡(luò)與后處理部分的計(jì)算復(fù)雜度。為了進(jìn)一步提升不同分支對(duì)不同尺度物體的適應(yīng)能力,提出使用雙線性插值將卷積空洞率轉(zhuǎn)化為可學(xué)習(xí)參數(shù)進(jìn)行優(yōu)化。為了避免由于使用雙線性插值而帶來計(jì)算復(fù)雜度增加,引入了梯度直通估計(jì)以直接學(xué)習(xí)整數(shù)值卷積空洞率,在網(wǎng)絡(luò)計(jì)算復(fù)雜度和檢測(cè)性能之間取得了更好的平衡。在多個(gè)物體檢測(cè)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果顯示,使用提出的方法在不同物體尺度上都帶來了明顯的性能提升。
【學(xué)位單位】：中國(guó)科學(xué)技術(shù)大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位年份】：2020
【中圖分類】：TP391.41;TP183
【部分圖文】：

常用的丨ｍａｇｅＮｅｔ數(shù)據(jù)集為丨ｍａｇｅＮｅｔ－２０１２物體識(shí)別數(shù)據(jù)集，數(shù)??據(jù)集被劃分為包括約１２８萬張圖片的訓(xùn)練集，包含５００００張圖片的驗(yàn)證集??和包含１００００張圖片的測(cè)試集。其中測(cè)試集的圖片標(biāo)簽并未公布，因此對(duì)??不同模型通常比較驗(yàn)證集性能。丨ｍａｇｅＮｅｔ數(shù)據(jù)集中的圖片沒有統(tǒng)一分辨率，??圖片平均分辨率為４８２?Ｘ?４１８。??Ｄｓｙ＿＿ａ?■摩■■■?ａｍ??？■■■■?Ｌ：瀾■■?■■??ＣＩＦＡＲ－１０?ＣＩＦＡＲ－１００?丨?ｍａｇｅＮｅｔ－２０１２??圖１．２物體識(shí)別任務(wù)常用數(shù)據(jù)集中的圖像樣例。??物體識(shí)別任務(wù)中常用的評(píng)價(jià)標(biāo)準(zhǔn)為Ｔｏｐ－１識(shí)別準(zhǔn)確率和Ｔｏｐ－５識(shí)別準(zhǔn)確率，??其中Ｔｏｐ－１識(shí)別準(zhǔn)確率為根據(jù)模型預(yù)測(cè)得分最高的類別與真實(shí)類別相同的圖片??數(shù)量占測(cè)試集圖片總數(shù)的比例。Ｔｏｐ－５識(shí)別準(zhǔn)確率為真實(shí)類別包含在模型輸出的??得分最高的前５個(gè)類別中的圖片數(shù)量占測(cè)試集圖片總數(shù)的比例，相比于Ｔｏｐ－１準(zhǔn)??確率，Ｔｏｐ－５準(zhǔn)確率可以更好評(píng)估語義信息有歧義的測(cè)試圖片。??在物體檢測(cè)任務(wù)中，常用的數(shù)據(jù)集包括：??？?Ｐａｓｃａ卜ＶＯＣ１７７】：?Ｐａｓｃａｌ－ＶＯＣ數(shù)據(jù)集為由Ｐａｓｃａ丨組織舉辦的Ｐａｓｃａｌ－ＶＯＣ挑??戰(zhàn)賽中使用的數(shù)據(jù)集。Ｐａｓｃａｌ?ＶＯＣ比賽從２００５年至２０１２年每年舉辦一次，??其中包括物體識(shí)別、物體檢測(cè)、語義分割、動(dòng)作識(shí)別等項(xiàng)目。在物體檢測(cè)??任務(wù)中常用的數(shù)據(jù)集包括ＶＯＣ０７數(shù)據(jù)集和ＶＯＣ１２數(shù)據(jù)集，其中ＶＯＣ０７??８??

??數(shù)據(jù)集圖片中包含８０個(gè)類別的物體，每個(gè)物體均有對(duì)應(yīng)的框和分割掩碼??標(biāo)注。相比于Ｐａｓｃａｌ－ＶＯＣ數(shù)據(jù)集平均每張圖片只有１．４個(gè)類別和２．３個(gè)物??體，ＭＳ－ＣＯＣＯ數(shù)據(jù)集中每張圖片平均包含３．５個(gè)類別和７．７個(gè)物體，因此??ＭＳ－ＣＯＣＯ數(shù)據(jù)集不僅在數(shù)據(jù)量上超過了?Ｐａｓｃａｌ－ＶＯＣ數(shù)據(jù)集，同時(shí)在類別??和物體數(shù)量上也多于Ｐａｓｃａｌ－ＶＯＣ數(shù)據(jù)集，這使得ＭＳ－ＣＯＣＯ數(shù)據(jù)集成為??了當(dāng)前用于評(píng)估物體檢測(cè)模型的最常用數(shù)據(jù)集。??Ｐａｓｃａｌ?ＶＯＣ?ＭＳ－ＣＯＣＯ??圖１．３物體檢測(cè)任務(wù)常用數(shù)據(jù)集中的圖像樣例。??在物體檢測(cè)任務(wù)中，常用基于準(zhǔn)確率（Ｐｒｅｃｉｓｉｏｎ）和召回率（Ｒｅｃａｌｌ）計(jì)算得??到的ｍＡＰ作為性能指標(biāo)。其中準(zhǔn)確率為正確檢測(cè)到的正樣本數(shù)量占預(yù)測(cè)到的正??９??

集??上分別計(jì)算了針對(duì)孝中、大尺度物體的ｍＡＰ，其中面積小于３２２的物體定義??為小物體，面積大于３２２小于９６２的物體定義為中物體，面積大于９６２的物體定??義為大物體。??１．３論文貢獻(xiàn)與章節(jié)安排??＠體．識(shí)別＊?基于去相關(guān)約束的稀疏神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法??（―？?神經(jīng)網(wǎng)絡(luò)壓縮?一????＞?面向物體角點(diǎn)檢測(cè)的神經(jīng)網(wǎng)絡(luò)知識(shí)蒸餾方法??高效率深度神＿??經(jīng)＠絡(luò)模型＿??－物體檢測(cè)??？神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)?？基于自適應(yīng)空洞卷積的尺度解耦特征金字塔網(wǎng)絡(luò)??圖１．４本文工作結(jié)構(gòu)示意圖。??在本論文中，圍繞高效率的物體識(shí)別與檢測(cè)這一主題，從網(wǎng)絡(luò)壓縮和網(wǎng)絡(luò)結(jié)??構(gòu)設(shè)計(jì)兩方面入手進(jìn)行物體識(shí)別與檢測(cè)模型的研究。在物體識(shí)別任務(wù)中，設(shè)計(jì)了??用于網(wǎng)絡(luò)壓縮的去相關(guān)約束以得到具有結(jié)構(gòu)稀疏性的深度神經(jīng)網(wǎng)絡(luò)模型。在物??體檢測(cè)任務(wù)中，提出將網(wǎng)絡(luò)壓縮中的知識(shí)蒸餾方法應(yīng)用于基于角點(diǎn)的物體檢測(cè)??模型中，使用經(jīng)過角點(diǎn)增強(qiáng)的特征圖作為額外監(jiān)督信息訓(xùn)練檢測(cè)模型，并設(shè)計(jì)了??角點(diǎn)可變形卷積以更有效地提取角點(diǎn)特征。為了提升物體檢測(cè)模型對(duì)尺度變化??的魯棒性，提出了基于多分支結(jié)構(gòu)的尺度解耦特征金字塔網(wǎng)絡(luò)，并利用雙線性插??值進(jìn)行卷積層空洞率的學(xué)習(xí)，使網(wǎng)絡(luò)不同分支可以更好適應(yīng)不同尺度物體的檢??測(cè)。本文各個(gè)研宄內(nèi)容間的關(guān)系示意圖展示于圖１．４中。??本論文的主要貢獻(xiàn)如下：??１０??
【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 蔡路;劉怡俊;;物體檢測(cè)算法綜述[J];電腦編程技巧與維護(hù);2019年02期

2 李澤華;;深度神經(jīng)網(wǎng)絡(luò)模型在智慧廣電應(yīng)用中的設(shè)計(jì)與驗(yàn)證[J];廣播電視信息;2020年04期

3 劉崇陽;劉勤讓;;一種神經(jīng)網(wǎng)絡(luò)模型剪枝后泛化能力的驗(yàn)證方法[J];計(jì)算機(jī)工程;2019年10期

4 張寶錄;羅丹婷;胡鵬;樊舉;景超;;一種基于深度神經(jīng)網(wǎng)絡(luò)模型的測(cè)井曲線生成方法[J];電子測(cè)量技術(shù);2020年11期

5 詹武平;鄭永煌;王金霞;;基于深度神經(jīng)網(wǎng)絡(luò)模型的雷達(dá)目標(biāo)識(shí)別[J];現(xiàn)代雷達(dá);2018年01期

6 黃仕鑫;浦科學(xué);桑祎瑩;羅亞玲;;基于GA-BP神經(jīng)網(wǎng)絡(luò)模型鑒別2型糖尿病性周圍神經(jīng)病變的分類模型研究[J];解放軍醫(yī)學(xué)雜志;2020年01期

7 韓姝;李國(guó)成;;求解緊凸集上非光滑優(yōu)化問題的神經(jīng)網(wǎng)絡(luò)模型[J];北京信息科技大學(xué)學(xué)報(bào)(自然科學(xué)版);2020年01期

8 王玥;;基于神經(jīng)網(wǎng)絡(luò)模型的大學(xué)生二手市場(chǎng)調(diào)查分析[J];市場(chǎng)研究;2020年07期

9 祖來克孜·米吉提;;神經(jīng)網(wǎng)絡(luò)模型在分類與預(yù)測(cè)中的應(yīng)用研究[J];喀什大學(xué)學(xué)報(bào);2018年03期

10 陳海華;;基于神經(jīng)網(wǎng)絡(luò)模型的高速公路交通量短時(shí)預(yù)測(cè)方法[J];中國(guó)交通信息化;2017年08期

相關(guān)博士學(xué)位論文 前10條

1 朱小天;面向物體識(shí)別與檢測(cè)的高效率深度神經(jīng)網(wǎng)絡(luò)模型研究[D];中國(guó)科學(xué)技術(shù)大學(xué);2020年

2 楊繼偉;多特征融合的行人重識(shí)別算法研究及其加速[D];中國(guó)科學(xué)技術(shù)大學(xué);2019年

3 張國(guó)校;基于深層神經(jīng)網(wǎng)絡(luò)模型的淺層語義解析統(tǒng)計(jì)研究[D];暨南大學(xué);2017年

4 周彥辰;事故條件下放射性廢液污染預(yù)測(cè)的機(jī)理性神經(jīng)網(wǎng)絡(luò)模型研究[D];武漢大學(xué);2015年

5 王雨農(nóng);基于視覺注意機(jī)制的神經(jīng)網(wǎng)絡(luò)模型研究及應(yīng)用[D];中國(guó)科學(xué)技術(shù)大學(xué);2017年

6 喻維;軟件缺陷報(bào)告管理關(guān)鍵技術(shù)研究[D];華南理工大學(xué);2018年

7 李翠平;解l_1-范數(shù)問題的神經(jīng)網(wǎng)絡(luò)模型研究[D];陜西師范大學(xué);2018年

8 袁朝暉;二元離散神經(jīng)網(wǎng)絡(luò)模型的動(dòng)力學(xué)分析[D];湖南大學(xué);2003年

9 王軍平;幾類離散神經(jīng)網(wǎng)絡(luò)模型的動(dòng)力學(xué)分析[D];復(fù)旦大學(xué);2006年

10 沈喜生;優(yōu)化計(jì)算的神經(jīng)網(wǎng)絡(luò)模型及其穩(wěn)定性分析[D];廈門大學(xué);2006年

相關(guān)碩士學(xué)位論文 前10條

1 李政;基于盲水印的深度神經(jīng)網(wǎng)絡(luò)模型知識(shí)產(chǎn)權(quán)保護(hù)框架[D];山東大學(xué);2020年

2 張文博;基于神經(jīng)網(wǎng)絡(luò)模型的車險(xiǎn)索賠頻率問題研究[D];西南財(cái)經(jīng)大學(xué);2019年

3 謝忱宇;基于LSTM神經(jīng)網(wǎng)絡(luò)模型的因子選股策略研究[D];遼寧大學(xué);2019年

4 張婷婷;三類時(shí)滯細(xì)胞神經(jīng)網(wǎng)絡(luò)模型的穩(wěn)定性分析[D];東北林業(yè)大學(xué);2019年

5 許棟武;基于多任務(wù)學(xué)習(xí)的車輛再識(shí)別算法研究[D];北京交通大學(xué);2019年

6 王超;優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)模型在隧道探地雷達(dá)實(shí)測(cè)數(shù)據(jù)分類中的研究及應(yīng)用[D];長(zhǎng)安大學(xué);2019年

7 徐峰;基于改進(jìn)神經(jīng)網(wǎng)絡(luò)模型的鋰電池SOC預(yù)測(cè)方法研究[D];重慶郵電大學(xué);2018年

8 韓德鵬;基于SCADA運(yùn)行數(shù)據(jù)的風(fēng)電機(jī)組健康狀況評(píng)價(jià)[D];華北電力大學(xué);2019年

9 劉莉;兒童室性早搏計(jì)算機(jī)卷積神經(jīng)網(wǎng)絡(luò)模型的建立和評(píng)價(jià)[D];上海交通大學(xué);2018年

10 邢扣子;基于CPU-FPGA的容錯(cuò)神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練系統(tǒng)[D];合肥工業(yè)大學(xué);2019年

本文編號(hào)：2863158