近年來,隨著神經(jīng)網(wǎng)絡(luò)的快速發(fā)展,卷積神經(jīng)網(wǎng)絡(luò)在車型識別領(lǐng)域任務(wù)中取得了最先進(jìn)的結(jié)果。然而,由于傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)模型計算復(fù)雜度過高、模型參數(shù)量巨大等不足,使得其難以部署在資源有限的移動端設(shè)備中,如何開發(fā)出可以移植到移動端設(shè)備的車輛識別模型具有重要的意義。本文的目標(biāo)是設(shè)計并實現(xiàn)移動端車型識別加速平臺,主要工作包含輕量級車型識別模型的開發(fā)、壓縮以及基于ARM平臺的計算加速三個方面,具體的工作如下:（1）對比目前主流的輕量級卷積神經(jīng)網(wǎng)絡(luò)MobileNet、SqueezeNet、ShuffleNet在車型識別任務(wù)上的優(yōu)劣,并針對車型識別任務(wù)的需求對網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行了改進(jìn)。針對triple loss難以訓(xùn)練的缺點,提出綜合使用softmax loss和center loss進(jìn)行訓(xùn)練。針對輕量級網(wǎng)絡(luò)特征提取能力較弱的缺點,提出使用密集連接結(jié)構(gòu)加強信息在卷積層之間的流動,提高了車型識別的準(zhǔn)確率。（2）提出一種基于通道信息熵的逐層剪枝框架,通過計算每一層中各個通道特征張量的熵值,并以此為依據(jù)評估該通道包含信息量的大小,進(jìn)而評估該通道的重要性,對熵值進(jìn)行排序,剪除熵值比較低的通道。為了降低剪枝對模型準(zhǔn)確率的... 

【文章來源】：山東大學(xué)山東省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：80 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖１－１算法性能對比??鑒于神經(jīng)網(wǎng)絡(luò)在計算機視覺領(lǐng)域的巨大優(yōu)勢，研宄運用神經(jīng)網(wǎng)絡(luò)實現(xiàn)車型識??別的方法對構(gòu)建智能交通系統(tǒng)，實現(xiàn)國家建設(shè)智慧型新城市的目標(biāo)具有重大的意??

ｔｅｒ?！?〇?７￣?２：?Ｌ５〇??Ｍ?＾???！?Ｖ－?＾?．１Ｍ｜：－ｉ．?〇３?０?３?１?０?１?：■■?ＬＫ０４ｊ??１．４９?３?１?２?２?０：；－！．００?－０－９７：??ｇｒａｄｉｅｎｔ?ｘＩｒ??３［?ｍ??０２?Ｂｉ?Ｇｒｏｕｐ?ｂｙ?０．０３?０?０１?＿０．０２?：?０．０２??一?響二］１００２?｜??＿＿?—?—?ｉ￣＿??１?－°?°２?－０．０１?－０．０２?－０．０１?０．０ｉ?．０?Ｑ３??圖１－２模型壓縮??第三步，針對量化后的模型使用變長的ｈｕｆｆｍａｎ編碼進(jìn)一步壓縮。根據(jù)論文??數(shù)據(jù)，在不降低準(zhǔn)確率的情況下，壓縮后模型的參數(shù)量降低到原來的１／４９？１／３５。??２０１４年，Ｈｉｎｔｏｎ［４］等人在ＮＩＰＳ發(fā)表論文首次提出運用知識蒸餾的方法進(jìn)行??模型壓縮。該方法首先在較大的訓(xùn)練集上訓(xùn)練得到一個教師網(wǎng)絡(luò)（ｔｅａｃｈｅｒ??ｎｅｔｗｏｒｋ：復(fù)雜、但推理性能優(yōu)越），然后將教師網(wǎng)絡(luò)的輸出作為總的損失函數(shù)的一??部分去誘導(dǎo)學(xué)生網(wǎng)絡(luò)的訓(xùn)練。得到學(xué)生網(wǎng)絡(luò)作為最終推理使用的模型。Ａｄｒｉａｎａ??Ｒ〇ｍｅｒ〇［５］等人提出一種更加有效利用教師網(wǎng)絡(luò)信息的方法，文章認(rèn)為原始的知識??蒸餾僅僅利用教師網(wǎng)絡(luò)最終的輸出做知識遷移不能充分利用其有效信息，因此將??教師網(wǎng)絡(luò)中間層的特征圖作為指導(dǎo)信息去誘導(dǎo)學(xué)生網(wǎng)絡(luò)的訓(xùn)練，得到了效果更好??的模型。??Ｓｅｒｇｅｙ＾等人對知識蒸餾方法做了進(jìn)一步改進(jìn)，指出將教師網(wǎng)絡(luò)的特征圖輸??．?出做為總的損失函數(shù)的一部分去誘導(dǎo)學(xué)生網(wǎng)絡(luò)的訓(xùn)練太過生硬，效果不好，因此??將注意力圖作為知識從教師網(wǎng)絡(luò)轉(zhuǎn)移到到學(xué)生網(wǎng)絡(luò)，利

?山東大學(xué)碩士學(xué)位論文???Ｆｅａｔｕｒｅ?ｍａｐ?Ｆｉｌｔｅｒ?Ｏｕｔｐｕｔ??叫丨２判??６．＿＿?｜?小?ｈ??Ａ????????１１?１２?１３?２＾２?４?５?６??＾??７?８?９??２?３?１??７?８?９??Ｗｌｒ＾ｉ?：Ｗ?＇?????１?２?３??１２?１３?１４??????２＾２?４?５?６??？????７?８．９．??圖２－１卷積運算??２．１．２池化層??池化又稱為欠采樣或下采樣，其主要目的是特征降維，可以有效減少特征圖??尺寸。按照池化的方法不同，可以分為最大池化、平均池化和隨機池化３種。其??中最大池化操作最為簡單，是當(dāng)前使用的最多的池化層。圖２－７是３種池化操作??的示意圖。從圖中可以看出，通過池化操作不僅可以減小特征圖的尺寸，同時可??以增強特征的平移、旋轉(zhuǎn)、縮放不變性，增強了網(wǎng)絡(luò)的抗干擾能力。??１０??

【參考文獻(xiàn)】：
期刊論文
[1]基于車前臉HOG特征的車型識別方法研究與實現(xiàn)[J]. 張紅兵,李海林,黃曉婷,馬守磊.  計算機仿真. 2015(12)
[2]基于視頻圖像Harris角點檢測的車型識別[J]. 周愛軍,杜宇人.  揚州大學(xué)學(xué)報(自然科學(xué)版). 2008(01)

碩士論文
[1]基于深度卷積神經(jīng)網(wǎng)絡(luò)的車型識別[D]. 鄧柳.西南交通大學(xué) 2015



本文編號：3459871