局部線性嵌入算法的改進(jìn)與研究
本文關(guān)鍵詞:局部線性嵌入算法的改進(jìn)與研究
更多相關(guān)文章: 流形學(xué)習(xí) 局部線性嵌入 降維 局部鄰域
【摘要】:自本世紀(jì)初以來,流形學(xué)習(xí)作為一種有效的數(shù)據(jù)降維方法越來越受到學(xué)者們的重視。局部線性嵌入算法(LLE)作為引領(lǐng)流形學(xué)習(xí)快速發(fā)展的降維方式之一,它能有效的解決數(shù)據(jù)“維數(shù)災(zāi)難”問題,但是仍然不能很好的處理稀疏、非均勻數(shù)據(jù)集,為了更大程度的提升LLE算法處理數(shù)據(jù)的能力、提高降維效果,我們提出了基于局部線性嵌入算法的改進(jìn)方法,主要研究點如下:首先,提出了基于高斯核函數(shù)的局部鄰域優(yōu)化方法,傳統(tǒng)局部鄰域選擇方式存在鄰域選取過大或過小的問題,我們引入高斯核函數(shù),通過在核空間內(nèi)結(jié)合樣本的類別信息來改進(jìn)樣本距離度量方式,以相似性度量函數(shù)來實現(xiàn)局部鄰域選擇方法的改進(jìn)。其次,提出了基于樣本密度信息的權(quán)重向量的改進(jìn),重構(gòu)權(quán)重向量的選取對算法結(jié)果影響非常大,但是傳統(tǒng)的局部線性嵌入算法在計算重構(gòu)權(quán)重向量的時候并沒有考慮到樣本密度和流形彎曲度這兩個因素的影響,我們結(jié)合樣本密度信息和流形彎曲度信息對權(quán)重向量的選取方案作進(jìn)一步改進(jìn),使算法對樣本的密度具有較強(qiáng)的魯棒性。最后,我們提出了對算法兩個主要問題的聯(lián)合優(yōu)化,傳統(tǒng)局部線性嵌入算法通過保持權(quán)重向量不變,把高維空間數(shù)據(jù)嵌入到低維空間,以此來保證數(shù)據(jù)的近鄰特性,這樣權(quán)重向量就簡單的由高維源數(shù)據(jù)空間決定,然而考慮到權(quán)重向量可以由高維源數(shù)據(jù)空間和低維目標(biāo)數(shù)據(jù)空間共同決定,該方法仍有較大的改進(jìn)空間,所以我們對算法流程進(jìn)行了改進(jìn)并且通過實驗證明了改進(jìn)方法的有效性。
【關(guān)鍵詞】:流形學(xué)習(xí) 局部線性嵌入 降維 局部鄰域
【學(xué)位授予單位】:南京郵電大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2016
【分類號】:TP181;TP311.13
【目錄】:
- 摘要4-5
- Abstract5-8
- 第一章 緒論8-16
- 1.1 本章概述8
- 1.2 研究背景介紹8-10
- 1.3 國內(nèi)外研究現(xiàn)狀10-13
- 1.4 本文主要工作及創(chuàng)新點13-14
- 1.5 全文的組織結(jié)構(gòu)14-16
- 第二章 相關(guān)背景知識介紹16-26
- 2.1 本章概述16
- 2.2 全局方法16-20
- 2.2.1 主成分分析算法(PCA)16-17
- 2.2.2 線性鑒別分析算法(LDA)17-18
- 2.2.3 多維尺度變換算法(MDS)18-19
- 2.2.4 等距離映射方法(ISOMAP)19-20
- 2.3 局部方法20-24
- 2.3.1 局部線性嵌入算法(LLE)20-21
- 2.3.2 局部稀疏線性嵌入算法(LSLE)21-22
- 2.3.3 拉普拉斯特征映射算法(LE)22-23
- 2.3.4 海塞局部線性嵌入算法(HLLE)23-24
- 2.3.5 局部切空間算法(LTSA)24
- 2.4 本章小結(jié)24-26
- 第三章 基于高斯核函數(shù)的局部鄰域優(yōu)化26-35
- 3.1 本章概述26
- 3.2 傳統(tǒng)的局部鄰域選擇26-27
- 3.2.1 LLE局部鄰域選擇26
- 3.2.2 LSLE局部鄰域選擇26-27
- 3.3 基于高斯核函數(shù)的距離度量方法改進(jìn)27-29
- 3.3.1 有監(jiān)督距離度量方法27-28
- 3.3.2 有監(jiān)督高斯核函數(shù)的距離度量28-29
- 3.4 局部鄰域選擇的優(yōu)化29-31
- 3.4.1 構(gòu)造相似性度量函數(shù)29-30
- 3.4.2 局部鄰域選擇30-31
- 3.5 本章實驗31-34
- 3.5.1 AR人臉數(shù)據(jù)庫介紹31
- 3.5.2 AR數(shù)據(jù)庫上實驗與分析31-32
- 3.5.3 ORL人臉數(shù)據(jù)庫介紹32-33
- 3.5.4 ORL數(shù)據(jù)庫實驗與分析33-34
- 3.6 本章小結(jié)34-35
- 第四章 基于樣本密度信息的權(quán)重向量改進(jìn)35-44
- 4.1 本章概述35
- 4.2 局部鄰域大小對算法效果的影響分析35-36
- 4.3 局部鄰域樣本密度分析36-37
- 4.3.1 樣本密度信息36-37
- 4.3.2 樣本密度信息度量37
- 4.4 局部鄰域流形彎曲度分析37-38
- 4.4.1 流形彎曲度分析37-38
- 4.4.2 流形彎曲度度量38
- 4.5 基于樣本密度和流形彎曲度的鄰域選擇改進(jìn)38-39
- 4.6 基于樣本密度信息的權(quán)重向量改進(jìn)39-40
- 4.7 本章實驗40-43
- 4.7.1 ORL數(shù)據(jù)庫實驗與分析40-41
- 4.7.2 Swiss roll數(shù)據(jù)集降維實驗分析41-43
- 4.8 本章小結(jié)43-44
- 第五章 兩個優(yōu)化問題的改進(jìn)44-55
- 5.1 本章概述44
- 5.2 傳統(tǒng)LLE算法流程分析44-45
- 5.3 兩個優(yōu)化問題的分析45-47
- 5.3.1 高維空間優(yōu)化問題分析45-46
- 5.3.2 低維空間優(yōu)化問題分析46-47
- 5.4 重構(gòu)誤差函數(shù)的優(yōu)化47
- 5.5 優(yōu)化的算法流程47-48
- 5.6 我們的改進(jìn)方法48-50
- 5.6.1 算法整體改進(jìn)思路48
- 5.6.2 算法步驟及其數(shù)學(xué)描述48-50
- 5.7 本章實驗50-53
- 5.7.1 S曲面數(shù)據(jù)集降維仿真實驗50-51
- 5.7.2 Swiss roll曲面數(shù)據(jù)集降維仿真實驗51-52
- 5.7.3 AR人臉數(shù)據(jù)庫降維嵌入仿真實驗52-53
- 5.8 本章小結(jié)53-55
- 第六章 人臉識別對比實驗分析55-61
- 6.1 本章概述55
- 6.2 AR數(shù)據(jù)庫實驗55-58
- 6.2.1 AR人臉數(shù)據(jù)庫實驗一55-56
- 6.2.2 AR人臉數(shù)據(jù)庫實驗二56-58
- 6.3 ORL數(shù)據(jù)庫實驗58-60
- 6.3.1 ORL人臉數(shù)據(jù)庫實驗一58-59
- 6.3.2 ORL人臉數(shù)據(jù)庫實驗二59-60
- 6.4 本章小結(jié)60-61
- 第七章 總結(jié)與展望61-66
- 7.1 工作總結(jié)61-64
- 7.2 研究展望64-66
- 參考文獻(xiàn)66-70
- 附錄1 攻讀碩士學(xué)位期間撰寫的論文70-71
- 致謝71
【參考文獻(xiàn)】
中國期刊全文數(shù)據(jù)庫 前10條
1 鄔偉三;;高維數(shù)據(jù)中幾種常用的統(tǒng)計分類方法[J];白城師范學(xué)院學(xué)報;2015年11期
2 陳宇;劉培玉;孟凡龍;;基于加權(quán)直覺模糊集合的核聚類方法研究[J];山東師范大學(xué)學(xué)報(自然科學(xué)版);2015年02期
3 于文勇;康曉東;葛文杰;王昊;;基于模糊核聚類的圖像SVM分類辨識[J];計算機(jī)科學(xué);2015年03期
4 胡舜耕;魏進(jìn)武;;大數(shù)據(jù)及其在電信運(yùn)營中的應(yīng)用研究[J];電信技術(shù);2015年01期
5 楊靜林;唐林波;宋丹;趙保軍;;基于自適應(yīng)聚類流形學(xué)習(xí)的增量樣本降維與識別[J];系統(tǒng)工程與電子技術(shù);2015年01期
6 劉銀龍;;“大數(shù)據(jù)”背景下的計算機(jī)信息處理技術(shù)分析[J];電子技術(shù)與軟件工程;2015年01期
7 冷亦琴;張莉;楊季文;;一種基于局部稀疏線性嵌入的降維方法及其應(yīng)用[J];南京大學(xué)學(xué)報(自然科學(xué)版);2013年04期
8 ;Denoising of seismic data via multi-scale ridgelet transform[J];Earthquake Science;2009年05期
9 文貴華;陸庭輝;江麗君;文軍;;基于相對流形的局部線性嵌入[J];軟件學(xué)報;2009年09期
10 王磊;杜文莉;祁榮賓;錢鋒;;基于樣本密度信息與競爭網(wǎng)絡(luò)的聚類中心點獲取算法[J];華東理工大學(xué)學(xué)報(自然科學(xué)版);2009年04期
,本文編號:864843
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/864843.html