圖像檢測與識別任務(wù)的性能很大程度上取決于特征的表達(dá)能力,好的特征應(yīng)該能丟棄無關(guān)信息,并將圖像中與任務(wù)相關(guān)的要素充分的抽象出來。傳統(tǒng)的描述子受到表達(dá)能力的限制,成為圖像檢測與識別任務(wù)中的瓶頸。而近年來迅速發(fā)展的特征學(xué)習(xí)模型能夠從數(shù)據(jù)中學(xué)習(xí)圖像的特征,將圖像檢測與識別算法的能力推向了一個新的高度。在特征學(xué)習(xí)算法中,通過對特征的池化（pooling）操作,可以生成一個更有效、包含了重要信息的新特征,同時拋棄一些無關(guān)細(xì)節(jié)。池化能夠使特征產(chǎn)生一些較為復(fù)雜的特性,因此有研究者也將特征學(xué)習(xí)模型中的池化,與哺乳動物復(fù)雜視覺細(xì)胞相對應(yīng)。在神經(jīng)科學(xué)中,這些復(fù)雜視覺細(xì)胞對于輸入信號的響應(yīng)具有局部性、帶通性和選擇性,上述性質(zhì)也被稱作復(fù)雜視覺細(xì)胞的感受野。本文的主要工作,圍繞面向圖像檢測和識別任務(wù)的特征學(xué)習(xí)展開,旨在通過對池化模型的改進,進一步地提高特征的表達(dá)能力。一些研究者將池化模型上的學(xué)習(xí)方法稱為感受野學(xué)習(xí)。本文對特征詞袋（Bag-of-features,BoF）模型和卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks, CNN）模型上的池化展開研究,主要工作和貢獻(xiàn)包含以下四個方面:1... 

【文章來源】：電子科技大學(xué)四川省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：125 頁

【學(xué)位級別】：博士

【部分圖文】：

圖１－１面向圖像識別的Ｂａｇ－ｏｆ－ｆｅａｔｕｒｅｓ模型框架圖??

?為獲得更加豐富的特征空間上的分布信息，許多子區(qū)域的分割方式如規(guī)則網(wǎng)??格結(jié)構(gòu)、空間金字塔［３８］、超完備（如圖１－３）等方案被相繼提出，使ＢｏＦ特征??包含更為豐富的局部信息。??■?■■■??■?■?■?■?ｉｂ＇??■?■■■?■■■■■■＿■■國??■?■■■雇＿?？鼉?ＳＳＳ５ＩＳＳＥ５Ｓ??■?：：：５：：Ｓ：ＳＳ??ＯＴ?ＩＨ?ｍ?ＷＫｔ?■■■■■■■■■■??ｕｍｕｍ?歷■■醒?ｓｓａｓｓｓｓｓｓ：??（ａ）?（ｂ）?（ｃ）??圖１－３池化區(qū)域。（ａ）規(guī)則網(wǎng)格；（ｂ）空間金字塔；（ｃ）超完備??除了減少特征的數(shù)量之外，池化還能夠為特征表達(dá)帶來一些非常有用的特性，??比如平移不變性。這意味著即使將圖像進行一個小的平移，所產(chǎn)生的特征表達(dá)也??不發(fā)生變化。??１．２．２卷積神經(jīng)網(wǎng)絡(luò)??卷積神經(jīng)網(wǎng)絡(luò)（ＣＮＮ）是一種廣泛應(yīng)用的神經(jīng)網(wǎng)絡(luò)模型。其最早的設(shè)想源于??２０世紀(jì)６０年代，Ｈｕｂｅｉ和Ｗｉｅｓｅｌ在研究貓視覺皮層細(xì)胞［２７］時，發(fā)現(xiàn)產(chǎn)生局部敏感??性和方向選擇性的神經(jīng)元組成了一個特別的網(wǎng)絡(luò)結(jié)構(gòu)，提出了感受野（ｒｅｃｅｐｔｉｖｅ??ｆｉｅｌｄ）的概念。據(jù)此，Ｋ．Ｆｕｋｕｓｈｉｍａ在１９８０年提出的神經(jīng)認(rèn)知機（ｎｅｏｃｏｇｎｉｔｒｏｎ）??被認(rèn)為是卷積神經(jīng)網(wǎng)絡(luò)的原型【２８］。１９８９年Ｙ．ＬｅＣｕｎ將ＢＰ?（Ｂａｃｋ－Ｐｒｏｐａｇａｔｉｏｎ）算??法同卷積神經(jīng)網(wǎng)絡(luò)結(jié)合進行圖像識別，該模型被認(rèn)為是第一個現(xiàn)代意義的卷積神??經(jīng)網(wǎng)絡(luò)［２９］。??一般來說，ＣＮＮ包括兩種基本結(jié)構(gòu)，一個是卷積層，每個神經(jīng)元與上一層的??局部感受野相連接

ＬｅＮｅｔ－５是ＬｅＣｕｎ等人于１９８９年提出的一個用于手寫字體識別的卷積神經(jīng)網(wǎng)??絡(luò)［２９］，是卷積神經(jīng)網(wǎng)絡(luò)發(fā)展過程中一個具有里程碑意義的經(jīng)典模型。ＬｅＮｅｔ－５網(wǎng)絡(luò)??由７層組成，每一層都包含了可訓(xùn)練的參數(shù)，具體模型結(jié)構(gòu)如圖１－４所示。與當(dāng)前??主流的卷積神經(jīng)網(wǎng)絡(luò)較為不同的一點是，池化層Ｓ２特征圖與卷積層Ｃ３特征圖之??間的連接采用了部分連接的方式。對此，ＬｅＣｉｍ等人提出了兩點原因：首先，不??完全的連接能夠控制參數(shù)的數(shù)量；其次，打破網(wǎng)絡(luò)的對稱性，有利于特征圖能夠??學(xué)習(xí)到多樣化的特征。??Ｃ３：?ｆ．?ｍａｐｓ?１６＠１０ｘ１０??ＩＫ１ｐｉ，Ｔ?Ｃ１：?ｆｅａｔｕｒｅ?ｍａｐｓ?Ｓ４：?ｆ．?ｍａｐｓ?１６＠５ｘ５??Ｆｕｌｌ?ｃｏｎｈｅｃｔｉｏｎ?｜?Ｇａｕｓｓｉａｎ??Ｃｏｎｖｏｌｕｔｉｏｎｓ?Ｓｕｂｓａｍｐｌｉｎｇ?Ｃｏｎｖｏｌｕｔｉｏｎｓ?Ｓｕｂｓａｍｐｌｉｎｇ?Ｆｕｌｌ?ｃｏｎｎｅｃｔｉｏｎ??圖１－４?ＬｅＮｅｔ－５網(wǎng)絡(luò)結(jié)構(gòu)［２９］??ＡｌｅｘＮｅｔ是由Ｈｉｎｔｏｎ的學(xué)生Ａｌｅｘ?Ｋｒｉｚｈｅｖｓｋｙ于２０１２年提出的一種卷積神經(jīng)網(wǎng)??絡(luò)模型該模型Ｔ〇Ｐ５的錯誤率為１５．３％，與之前最好的算法相比，錯誤率下降??了近一半，在當(dāng)年的ＩｍａｇｅＮｅｔ圖像識別競賽中獲得了冠軍。由于該算法的出色性??能，引起了學(xué)術(shù)界和工業(yè)界對于深度學(xué)習(xí)算法的強烈關(guān)注，成為深度學(xué)習(xí)發(fā)展的??一個轉(zhuǎn)折點。ＡｌｅｘＮｅｔ由５個卷積層、３個池化層和２個全連接層組成。模型采用??了?２２４ｘ２２４的三通道圖像作為輸入


本文編號：3508400