隨著社會(huì)的快速發(fā)展,模式識(shí)別已在各行各業(yè)受到了廣泛地關(guān)注,并已成為當(dāng)今社會(huì)生活中的實(shí)際應(yīng)用。模式識(shí)別研究?jī)?nèi)容包括了數(shù)學(xué)、機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、人工智能、神經(jīng)科學(xué)以及認(rèn)知科學(xué)等多門(mén)學(xué)科,是一個(gè)具有挑戰(zhàn)性的理論研究難點(diǎn),也是一個(gè)快速發(fā)展的挑戰(zhàn)性應(yīng)用問(wèn)題。作為模式識(shí)別的核心內(nèi)容,特征提取主要研究如何從高維觀測(cè)數(shù)據(jù)中學(xué)習(xí)到有利于識(shí)別任務(wù)的判別屬性,特征提取模型的質(zhì)量直接決定著模式識(shí)別的性能。特征提取研究是當(dāng)前模式識(shí)別領(lǐng)域的熱點(diǎn)問(wèn)題之一。現(xiàn)有模型基本是在歐式距離下取得數(shù)據(jù)的最優(yōu)低維表示,沒(méi)有考慮隱藏在高維數(shù)據(jù)中的非線性流形結(jié)構(gòu)。而且基于歐式距離的模型不能保證把具有較大內(nèi)在曲率的流形結(jié)構(gòu)映射到本征維嵌入空間中。本文采用核密度估計(jì)方法來(lái)近似隱藏在高維數(shù)據(jù)空間中的本征維流形結(jié)構(gòu),提出了多個(gè)基于分布保持嵌入學(xué)習(xí)的非線性特征提取模型來(lái)消除數(shù)據(jù)較大內(nèi)在曲率,并分別從監(jiān)督分類,無(wú)監(jiān)督聚類,半監(jiān)督分類的角度來(lái)驗(yàn)證這些特征提取模型性能。論文的主要內(nèi)容和創(chuàng)新點(diǎn)可歸納如下:（1）基于邊緣平滑的分布保持超球嵌入學(xué)習(xí)提出了一種基于邊緣平滑的分布保持超球面嵌入模型,并應(yīng)用于高光譜數(shù)據(jù)特征提取中。具體是在用光譜特征向量估計(jì)每... 

【文章來(lái)源】：重慶大學(xué)重慶市 211工程院校 985工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：115 頁(yè)

【學(xué)位級(jí)別】：博士

【部分圖文】：

典型的模式識(shí)別系統(tǒng)

褂成淶揭桓鯠維空間中[29]。顯然，內(nèi)在曲率的存在給基于距離的特征提取模型帶來(lái)了極大的挑戰(zhàn)。J.K.Mose在研究[30]中表明：滿足一定條件的兩個(gè)流形之間存在著一個(gè)同胚變換(homeomorphictransformation)，該變換可保持二者局部體積不變。同胚變換可消除較大的內(nèi)在曲率，并找到嵌入在高維數(shù)據(jù)空間中的低維流形結(jié)構(gòu)，在不破壞數(shù)據(jù)流形拓?fù)浣Y(jié)構(gòu)的情況下使得樣本在低維嵌入空間中具有非常簡(jiǎn)潔的幾何結(jié)構(gòu)。雖然同胚變換整個(gè)過(guò)程可通過(guò)旋轉(zhuǎn)、拉伸、壓縮等操作來(lái)達(dá)到近似的目的，然而如何代數(shù)化這一抽象變換過(guò)程卻顯得比較困難。圖1.2給出了一個(gè)簡(jiǎn)單的示意圖，三維觀測(cè)空間中的瑞士卷(Swissroll)表現(xiàn)出了較大內(nèi)在曲率，同胚變換可消除這些復(fù)雜內(nèi)在曲率，并把三維觀測(cè)數(shù)據(jù)映射到具有清晰幾何平面結(jié)構(gòu)的本征維流形空間中。圖1.2同胚變換示意圖。Fig.1.2Theschematicdiagramofhomeomorphictransformation.在低維嵌入空間中保持高維數(shù)據(jù)流形結(jié)構(gòu)是特征提取的重要目的，而同胚變換是能夠使得拓?fù)浣Y(jié)構(gòu)不變的連續(xù)映射。Moser定理及其推論給出了實(shí)現(xiàn)同胚變換的代數(shù)化方案，即通過(guò)使得原始觀測(cè)數(shù)據(jù)空間和低維嵌入空間中的數(shù)據(jù)分布保持一

重慶大學(xué)博士學(xué)位論文20(|)()DijijDhhchhghhbb(2.24)圖2.3基于邊緣平滑的分布保持超球面嵌入框架的示意圖。(b)和(c)中的垂直坐標(biāo)軸表示條件密度。其中，(b)和(c)中的條件密度(|)是0，非零值只是為了便于顯示。Fig.2.3.Schematicdiagramoftheproposededgesmoothing-baseddistributionpreservinghypersphericalembeddingframework.Theverticalaxisin(b)and(c)denotetheconditionaldensity.Notethattheconditionaldensities(|)in(b)and(c)are0andthenonzerovaluesarejustforeasytodisplay.2.3.4優(yōu)化設(shè)計(jì)最小化任意點(diǎn)對(duì)i,j在兩個(gè)空間中條件密度的不一致性有助于保持原始數(shù)據(jù)的流形結(jié)構(gòu)不變，為了在低維空間中呈現(xiàn)高光譜數(shù)據(jù)的曲線和非線性結(jié)構(gòu)，需給最后求得的低維嵌入施加一個(gè)超球限制，最終，本章方法的目標(biāo)函數(shù)表達(dá)式如下，2((|)(|))ijijijOghhfxx2..1isth(2.25)實(shí)際上，上述約束目標(biāo)函數(shù)是一個(gè)非凸問(wèn)題，因此難以實(shí)現(xiàn)全局優(yōu)化。拉格朗日乘子法，系數(shù)歸一化法，切線梯度法等都適用于最小化上述約束目標(biāo)函數(shù)[46]。目標(biāo)函數(shù)O相對(duì)于ih的偏導(dǎo)數(shù)為，1212((|)(|))"()DNDijijijDijijhhODchhghhfxxhhhbb(2.26)


本文編號(hào)：3143074