物體識別與檢測是計算機視覺領(lǐng)域中的兩個基本任務(wù)。在物體識別任務(wù)中,對于輸入圖像,需要通過算法判斷圖像中的物體屬于預定義的多個類別中的哪一個類別;而物體檢測任務(wù)需要同時確定圖像中出現(xiàn)的物體類別及其所在的位置。隨著近年來深度學習技術(shù)的飛速發(fā)展,使用深度神經(jīng)網(wǎng)絡(luò)進行物體識別與檢測實現(xiàn)了遠超傳統(tǒng)方法的性能。然而,在將高性能的物體識別與檢測模型部署至資源受限場景時,深度神經(jīng)網(wǎng)絡(luò)自身參數(shù)規(guī)模大、計算復雜度高的缺點開始逐漸顯現(xiàn)。為了進一步擴展深度神經(jīng)網(wǎng)絡(luò)模型的應(yīng)用場景,本文針對面向物體識別與檢測的高效率的深度神經(jīng)網(wǎng)絡(luò)模型,從兩個不同角度開展了研究:1)針對現(xiàn)有的神經(jīng)網(wǎng)絡(luò)模型進行壓縮;2)根據(jù)目標任務(wù)特點設(shè)計新的高效率神經(jīng)網(wǎng)絡(luò)模型。本文主要工作和創(chuàng)新點包括如下三個方面:第一,針對物體識別模型中濾波器間存在相關(guān)性導致參數(shù)量和計算量冗余的問題,提出了一種基于網(wǎng)絡(luò)參數(shù)去相關(guān)約束的網(wǎng)絡(luò)模型壓縮方法,與稀疏約束共同使用時可以得到稀疏度更高的網(wǎng)絡(luò)模型。本文從現(xiàn)有的稀疏約束壓縮方法入手,通過分析稀疏約束生成的稀疏網(wǎng)絡(luò),得到對稀疏網(wǎng)絡(luò)進行進一步壓縮與網(wǎng)絡(luò)濾波器相關(guān)性之間的聯(lián)系。之后提出通過去相關(guān)約束減少網(wǎng)絡(luò)濾波器相關(guān)性,并引入了稀疏掩碼操作,以解決稀疏約束與去相關(guān)約束聯(lián)合優(yōu)化困難的問題�？紤]到網(wǎng)絡(luò)初始化時的初始參數(shù)對優(yōu)化過程會產(chǎn)生影響,提出了去相關(guān)初始化方法以輔助網(wǎng)絡(luò)去相關(guān)訓練,進一步減小網(wǎng)絡(luò)計算復雜度。在多個常用數(shù)據(jù)集上的實驗結(jié)果證明了提出的方法可以實現(xiàn)比現(xiàn)有稀疏約束方法更高的網(wǎng)絡(luò)壓縮效果。第二,針對基于角點的物體檢測模型存在的角點特征錯位問題,提出了一種基于角點特征增強知識蒸餾的網(wǎng)絡(luò)模型壓縮方法,通過提供更有效的角點特征監(jiān)督信息,在相近的模型復雜度下實現(xiàn)了更高的檢測性能,擴展了知識蒸餾方法在物體檢測模型中的應(yīng)用范圍�？紤]到基于角點的物體檢測算法對角點特征的強依賴性,在提出的知識蒸餾方法中,將教師網(wǎng)絡(luò)的角點特征圖使用物體全局特征進行增強,并使用增強后的特征圖后作為額外監(jiān)督信息訓練學生網(wǎng)絡(luò),以此幫助學生網(wǎng)絡(luò)生成包含更多物體全局信息的角點特征圖。同時為了進一步提升學生網(wǎng)絡(luò)的角點特征提取能力,將角點位置作為先驗信息加入可變形卷積中,提出了角點可變形卷積。相比現(xiàn)有的角點池化操作,角點可變形卷積可以更好地在角點處提取物體整體特征。實驗結(jié)果顯示,使用提出的方法可以使學生網(wǎng)絡(luò)學習到更好的角點特征表達。第三,針對物體檢測模型對物體尺度變化敏感的問題,提出了一種尺度解耦特征金字塔網(wǎng)絡(luò)設(shè)計方法,通過對骨干網(wǎng)絡(luò)與特征融合模塊進行聯(lián)合設(shè)計,在顯著提升模型對尺度變化魯棒性的同時避免了計算復雜度的大幅增加。為了緩解特征金字塔網(wǎng)絡(luò)中高層特征圖受到不同尺度監(jiān)督信息干擾的問題,使用多分支結(jié)構(gòu)生成針對不同尺度物體的高層特征圖,并在每個分支內(nèi)分別進行特征融合,使用融合后得到的特征金字塔對不同尺度物體進行檢測。由于保持了輸出特征圖和后續(xù)檢測頭網(wǎng)絡(luò)與傳統(tǒng)特征金字塔網(wǎng)絡(luò)相同,沒有增加頭網(wǎng)絡(luò)與后處理部分的計算復雜度。為了進一步提升不同分支對不同尺度物體的適應(yīng)能力,提出使用雙線性插值將卷積空洞率轉(zhuǎn)化為可學習參數(shù)進行優(yōu)化。為了避免由于使用雙線性插值而帶來計算復雜度增加,引入了梯度直通估計以直接學習整數(shù)值卷積空洞率,在網(wǎng)絡(luò)計算復雜度和檢測性能之間取得了更好的平衡。在多個物體檢測數(shù)據(jù)集上的實驗結(jié)果顯示,使用提出的方法在不同物體尺度上都帶來了明顯的性能提升。
【學位單位】：中國科學技術(shù)大學
【學位級別】：博士
【學位年份】：2020
【中圖分類】：TP391.41;TP183
【部分圖文】：

常用的丨ｍａｇｅＮｅｔ數(shù)據(jù)集為丨ｍａｇｅＮｅｔ－２０１２物體識別數(shù)據(jù)集，數(shù)??據(jù)集被劃分為包括約１２８萬張圖片的訓練集，包含５００００張圖片的驗證集??和包含１００００張圖片的測試集。其中測試集的圖片標簽并未公布，因此對??不同模型通常比較驗證集性能。丨ｍａｇｅＮｅｔ數(shù)據(jù)集中的圖片沒有統(tǒng)一分辨率，??圖片平均分辨率為４８２?Ｘ?４１８。??Ｄｓｙ＿＿ａ?■摩■■■?ａｍ??？■■■■?Ｌ：瀾■■?■■??ＣＩＦＡＲ－１０?ＣＩＦＡＲ－１００?丨?ｍａｇｅＮｅｔ－２０１２??圖１．２物體識別任務(wù)常用數(shù)據(jù)集中的圖像樣例。??物體識別任務(wù)中常用的評價標準為Ｔｏｐ－１識別準確率和Ｔｏｐ－５識別準確率，??其中Ｔｏｐ－１識別準確率為根據(jù)模型預測得分最高的類別與真實類別相同的圖片??數(shù)量占測試集圖片總數(shù)的比例。Ｔｏｐ－５識別準確率為真實類別包含在模型輸出的??得分最高的前５個類別中的圖片數(shù)量占測試集圖片總數(shù)的比例，相比于Ｔｏｐ－１準??確率，Ｔｏｐ－５準確率可以更好評估語義信息有歧義的測試圖片。??在物體檢測任務(wù)中，常用的數(shù)據(jù)集包括：??？?Ｐａｓｃａ卜ＶＯＣ１７７】：?Ｐａｓｃａｌ－ＶＯＣ數(shù)據(jù)集為由Ｐａｓｃａ丨組織舉辦的Ｐａｓｃａｌ－ＶＯＣ挑??戰(zhàn)賽中使用的數(shù)據(jù)集。Ｐａｓｃａｌ?ＶＯＣ比賽從２００５年至２０１２年每年舉辦一次，??其中包括物體識別、物體檢測、語義分割、動作識別等項目。在物體檢測??任務(wù)中常用的數(shù)據(jù)集包括ＶＯＣ０７數(shù)據(jù)集和ＶＯＣ１２數(shù)據(jù)集，其中ＶＯＣ０７??８??

??數(shù)據(jù)集圖片中包含８０個類別的物體，每個物體均有對應(yīng)的框和分割掩碼??標注。相比于Ｐａｓｃａｌ－ＶＯＣ數(shù)據(jù)集平均每張圖片只有１．４個類別和２．３個物??體，ＭＳ－ＣＯＣＯ數(shù)據(jù)集中每張圖片平均包含３．５個類別和７．７個物體，因此??ＭＳ－ＣＯＣＯ數(shù)據(jù)集不僅在數(shù)據(jù)量上超過了?Ｐａｓｃａｌ－ＶＯＣ數(shù)據(jù)集，同時在類別??和物體數(shù)量上也多于Ｐａｓｃａｌ－ＶＯＣ數(shù)據(jù)集，這使得ＭＳ－ＣＯＣＯ數(shù)據(jù)集成為??了當前用于評估物體檢測模型的最常用數(shù)據(jù)集。??Ｐａｓｃａｌ?ＶＯＣ?ＭＳ－ＣＯＣＯ??圖１．３物體檢測任務(wù)常用數(shù)據(jù)集中的圖像樣例。??在物體檢測任務(wù)中，常用基于準確率（Ｐｒｅｃｉｓｉｏｎ）和召回率（Ｒｅｃａｌｌ）計算得??到的ｍＡＰ作為性能指標。其中準確率為正確檢測到的正樣本數(shù)量占預測到的正??９??

集??上分別計算了針對孝中、大尺度物體的ｍＡＰ，其中面積小于３２２的物體定義??為小物體，面積大于３２２小于９６２的物體定義為中物體，面積大于９６２的物體定??義為大物體。??１．３論文貢獻與章節(jié)安排??＠體．識別＊?基于去相關(guān)約束的稀疏神經(jīng)網(wǎng)絡(luò)訓練方法??（―？?神經(jīng)網(wǎng)絡(luò)壓縮?一????＞?面向物體角點檢測的神經(jīng)網(wǎng)絡(luò)知識蒸餾方法??高效率深度神＿??經(jīng)＠絡(luò)模型＿??－物體檢測??？神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計?？基于自適應(yīng)空洞卷積的尺度解耦特征金字塔網(wǎng)絡(luò)??圖１．４本文工作結(jié)構(gòu)示意圖。??在本論文中，圍繞高效率的物體識別與檢測這一主題，從網(wǎng)絡(luò)壓縮和網(wǎng)絡(luò)結(jié)??構(gòu)設(shè)計兩方面入手進行物體識別與檢測模型的研究。在物體識別任務(wù)中，設(shè)計了??用于網(wǎng)絡(luò)壓縮的去相關(guān)約束以得到具有結(jié)構(gòu)稀疏性的深度神經(jīng)網(wǎng)絡(luò)模型。在物??體檢測任務(wù)中，提出將網(wǎng)絡(luò)壓縮中的知識蒸餾方法應(yīng)用于基于角點的物體檢測??模型中，使用經(jīng)過角點增強的特征圖作為額外監(jiān)督信息訓練檢測模型，并設(shè)計了??角點可變形卷積以更有效地提取角點特征。為了提升物體檢測模型對尺度變化??的魯棒性，提出了基于多分支結(jié)構(gòu)的尺度解耦特征金字塔網(wǎng)絡(luò)，并利用雙線性插??值進行卷積層空洞率的學習，使網(wǎng)絡(luò)不同分支可以更好適應(yīng)不同尺度物體的檢??測。本文各個研宄內(nèi)容間的關(guān)系示意圖展示于圖１．４中。??本論文的主要貢獻如下：??１０??
【相似文獻】

相關(guān)期刊論文 前10條

1 蔡路;劉怡俊;;物體檢測算法綜述[J];電腦編程技巧與維護;2019年02期

2 李澤華;;深度神經(jīng)網(wǎng)絡(luò)模型在智慧廣電應(yīng)用中的設(shè)計與驗證[J];廣播電視信息;2020年04期

3 劉崇陽;劉勤讓;;一種神經(jīng)網(wǎng)絡(luò)模型剪枝后泛化能力的驗證方法[J];計算機工程;2019年10期

4 張寶錄;羅丹婷;胡鵬;樊舉;景超;;一種基于深度神經(jīng)網(wǎng)絡(luò)模型的測井曲線生成方法[J];電子測量技術(shù);2020年11期

5 詹武平;鄭永煌;王金霞;;基于深度神經(jīng)網(wǎng)絡(luò)模型的雷達目標識別[J];現(xiàn)代雷達;2018年01期

6 黃仕鑫;浦科學;桑祎瑩;羅亞玲;;基于GA-BP神經(jīng)網(wǎng)絡(luò)模型鑒別2型糖尿病性周圍神經(jīng)病變的分類模型研究[J];解放軍醫(yī)學雜志;2020年01期

7 韓姝;李國成;;求解緊凸集上非光滑優(yōu)化問題的神經(jīng)網(wǎng)絡(luò)模型[J];北京信息科技大學學報(自然科學版);2020年01期

8 王玥;;基于神經(jīng)網(wǎng)絡(luò)模型的大學生二手市場調(diào)查分析[J];市場研究;2020年07期

9 祖來克孜·米吉提;;神經(jīng)網(wǎng)絡(luò)模型在分類與預測中的應(yīng)用研究[J];喀什大學學報;2018年03期

10 陳海華;;基于神經(jīng)網(wǎng)絡(luò)模型的高速公路交通量短時預測方法[J];中國交通信息化;2017年08期

相關(guān)博士學位論文 前10條

1 朱小天;面向物體識別與檢測的高效率深度神經(jīng)網(wǎng)絡(luò)模型研究[D];中國科學技術(shù)大學;2020年

2 楊繼偉;多特征融合的行人重識別算法研究及其加速[D];中國科學技術(shù)大學;2019年

3 張國校;基于深層神經(jīng)網(wǎng)絡(luò)模型的淺層語義解析統(tǒng)計研究[D];暨南大學;2017年

4 周彥辰;事故條件下放射性廢液污染預測的機理性神經(jīng)網(wǎng)絡(luò)模型研究[D];武漢大學;2015年

5 王雨農(nóng);基于視覺注意機制的神經(jīng)網(wǎng)絡(luò)模型研究及應(yīng)用[D];中國科學技術(shù)大學;2017年

6 喻維;軟件缺陷報告管理關(guān)鍵技術(shù)研究[D];華南理工大學;2018年

7 李翠平;解l_1-范數(shù)問題的神經(jīng)網(wǎng)絡(luò)模型研究[D];陜西師范大學;2018年

8 袁朝暉;二元離散神經(jīng)網(wǎng)絡(luò)模型的動力學分析[D];湖南大學;2003年

9 王軍平;幾類離散神經(jīng)網(wǎng)絡(luò)模型的動力學分析[D];復旦大學;2006年

10 沈喜生;優(yōu)化計算的神經(jīng)網(wǎng)絡(luò)模型及其穩(wěn)定性分析[D];廈門大學;2006年

相關(guān)碩士學位論文 前10條

1 李政;基于盲水印的深度神經(jīng)網(wǎng)絡(luò)模型知識產(chǎn)權(quán)保護框架[D];山東大學;2020年

2 張文博;基于神經(jīng)網(wǎng)絡(luò)模型的車險索賠頻率問題研究[D];西南財經(jīng)大學;2019年

3 謝忱宇;基于LSTM神經(jīng)網(wǎng)絡(luò)模型的因子選股策略研究[D];遼寧大學;2019年

4 張婷婷;三類時滯細胞神經(jīng)網(wǎng)絡(luò)模型的穩(wěn)定性分析[D];東北林業(yè)大學;2019年

5 許棟武;基于多任務(wù)學習的車輛再識別算法研究[D];北京交通大學;2019年

6 王超;優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)模型在隧道探地雷達實測數(shù)據(jù)分類中的研究及應(yīng)用[D];長安大學;2019年

7 徐峰;基于改進神經(jīng)網(wǎng)絡(luò)模型的鋰電池SOC預測方法研究[D];重慶郵電大學;2018年

8 韓德鵬;基于SCADA運行數(shù)據(jù)的風電機組健康狀況評價[D];華北電力大學;2019年

9 劉莉;兒童室性早搏計算機卷積神經(jīng)網(wǎng)絡(luò)模型的建立和評價[D];上海交通大學;2018年

10 邢扣子;基于CPU-FPGA的容錯神經(jīng)網(wǎng)絡(luò)模型訓練系統(tǒng)[D];合肥工業(yè)大學;2019年

本文編號：2863158