無監(jiān)督極限學(xué)習(xí)機(jī)降維方法研究
發(fā)布時間:2022-01-02 13:48
極限學(xué)習(xí)機(jī)最早被提出用于訓(xùn)練單隱層前饋神經(jīng)網(wǎng)絡(luò),與傳統(tǒng)的前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法相比,不僅學(xué)習(xí)速度快,還能找到全局最優(yōu)解,為回歸和多分類任務(wù)提供了一種簡單而有效的方法。近年來,雖然越來越多的學(xué)者對ELM的理論和應(yīng)用研究產(chǎn)生了廣泛的興趣,但研究重點(diǎn)仍主要集中在有監(jiān)督學(xué)習(xí)任務(wù)上。而實(shí)際應(yīng)用中帶類標(biāo)簽的數(shù)據(jù)不易獲得,因此將ELM推廣到無監(jiān)督學(xué)習(xí)任務(wù)中是非常有必要的。本文以極限學(xué)習(xí)機(jī)為基礎(chǔ),針對降維方法展開研究,提出三種極限學(xué)習(xí)機(jī)降維模型,主要完成如下工作:1、子空間方法認(rèn)為高維數(shù)據(jù)分布于多個線性子空間中,同類樣本分布在同一個線性子空間中,不同類樣本分布在不同的線性子空間中。因此,高維數(shù)據(jù)的多線性子空間結(jié)構(gòu)中蘊(yùn)含著判別信息。為使ELM降維過程中不丟失這一信息,本文提出基于子空間結(jié)構(gòu)保持的極限學(xué)習(xí)機(jī)降維方法。該方法利用子空間技術(shù)學(xué)習(xí)高維數(shù)據(jù)的子空間結(jié)構(gòu),并在極限學(xué)習(xí)機(jī)投影過程中保持子空間結(jié)構(gòu)。2、流形正則思想經(jīng)常被用于降維方法中,如無監(jiān)督極限學(xué)習(xí)機(jī)(US-ELM),其本質(zhì)是使原空間中距離近的樣本投影后也越接近。然而,在高維空間中樣本間距離度量的類區(qū)分性隨著維數(shù)增加而減弱。針對這一問題,本文對US-E...
【文章來源】:福州大學(xué)福建省 211工程院校
【文章頁數(shù)】:57 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖2-1?ELM網(wǎng)絡(luò)結(jié)構(gòu)示意圖??1?=.."_?=
將8個數(shù)據(jù)集映射到不同維度特征空間時的聚類準(zhǔn)確率
并且隨著投影維數(shù)的增加聚類準(zhǔn)確率總體上呈現(xiàn)先上升后下降的趨勢。??3.4.3參數(shù)分析??LRP-ELM和SP-ELM模型均有兩個參數(shù);I和V,圖3-2和圖3-3分別描述了??兩個參數(shù)變化對LRP-ELM和SP-ELM算法降維后聚類的準(zhǔn)確率的影響。其中,??每個數(shù)據(jù)的維數(shù)設(shè)置為取得最高聚類準(zhǔn)確率時的投影維數(shù)即表3-1中的維數(shù)。從??圖3-2和圖3-3可以看出LRP-ELM和SP-ELM算法均在參數(shù);I取值較小時,可??以取得較理想的聚類結(jié)果。對于參數(shù)…兩個算法取得較理想的聚類效果時不同??的數(shù)據(jù)集對應(yīng)的;7取值相差較大。??LeukemiaO?Leukemial??_?S??4?J?J?-V?l8'?*?^?3?^??Leukemia2?SRBCT??、?-3??DLBCL?ProstaleO??_?_??心?4?^?^?4,3??16??
【參考文獻(xiàn)】:
期刊論文
[1]潛在最小二乘回歸子空間分割方法[J]. 陳曉云,陳慧娟. 模式識別與人工智能. 2016(01)
[2]局部子空間聚類[J]. 劉展杰,陳曉云. 自動化學(xué)報. 2016(08)
本文編號:3564289
【文章來源】:福州大學(xué)福建省 211工程院校
【文章頁數(shù)】:57 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖2-1?ELM網(wǎng)絡(luò)結(jié)構(gòu)示意圖??1?=.."_?=
將8個數(shù)據(jù)集映射到不同維度特征空間時的聚類準(zhǔn)確率
并且隨著投影維數(shù)的增加聚類準(zhǔn)確率總體上呈現(xiàn)先上升后下降的趨勢。??3.4.3參數(shù)分析??LRP-ELM和SP-ELM模型均有兩個參數(shù);I和V,圖3-2和圖3-3分別描述了??兩個參數(shù)變化對LRP-ELM和SP-ELM算法降維后聚類的準(zhǔn)確率的影響。其中,??每個數(shù)據(jù)的維數(shù)設(shè)置為取得最高聚類準(zhǔn)確率時的投影維數(shù)即表3-1中的維數(shù)。從??圖3-2和圖3-3可以看出LRP-ELM和SP-ELM算法均在參數(shù);I取值較小時,可??以取得較理想的聚類結(jié)果。對于參數(shù)…兩個算法取得較理想的聚類效果時不同??的數(shù)據(jù)集對應(yīng)的;7取值相差較大。??LeukemiaO?Leukemial??_?S??4?J?J?-V?l8'?*?^?3?^??Leukemia2?SRBCT??、?-3??DLBCL?ProstaleO??_?_??心?4?^?^?4,3??16??
【參考文獻(xiàn)】:
期刊論文
[1]潛在最小二乘回歸子空間分割方法[J]. 陳曉云,陳慧娟. 模式識別與人工智能. 2016(01)
[2]局部子空間聚類[J]. 劉展杰,陳曉云. 自動化學(xué)報. 2016(08)
本文編號:3564289
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3564289.html
最近更新
教材專著