基于Group Lasso的稀疏主成分分析
發(fā)布時(shí)間:2021-01-31 01:58
在處理高維數(shù)據(jù)時(shí),由于過(guò)多引入變量會(huì)嚴(yán)重影響模型的預(yù)測(cè)精度和可解釋性,因此如何從眾多變量中準(zhǔn)確篩選出對(duì)響應(yīng)變量具有重要影響的自變量就顯得格外重要。Tibshirani提出的Lasso方法通過(guò)懲罰函數(shù)對(duì)系數(shù)進(jìn)行壓縮來(lái)實(shí)現(xiàn)變量選擇,因其良好的稀疏性和運(yùn)算速度使之成為基本的變量選擇方法之一。之后眾多學(xué)者在Lasso方法的基礎(chǔ)上提出了許多新的變量選擇方法,其中Group Lasso是在考慮變量具有群組效應(yīng)時(shí)對(duì)Lasso的一種推廣。眾所周知,主成分分析(PCA)通過(guò)使用少于變量個(gè)數(shù)的主成分來(lái)達(dá)到降維的目的,然而由于每一個(gè)主成分都是所有原始變量的線性組合,導(dǎo)致主成分的含義往往難以解釋。稀疏主成分分析(SPCA)在PCA的基礎(chǔ)之上,結(jié)合Lasso的懲罰函數(shù)實(shí)現(xiàn)主成分結(jié)果的稀疏性,大大提高了結(jié)果的可解釋性。同時(shí)SPCA的思想也為PCA與變量選擇之間構(gòu)建了橋梁?紤]到SPCA及Group Lasso同Lasso之間的聯(lián)系,我們將Group Lasso與SPCA合理結(jié)合,提出一種基于Group Lasso的稀疏主成分分析方法。本文第二章首先從幾種經(jīng)典的變量選擇方法著手,介紹了這些方法的基本定義與性質(zhì)。然后...
【文章來(lái)源】:山東大學(xué)山東省 211工程院校 985工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:66 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 研究背景及意義
1.2 文獻(xiàn)綜述
1.2.1 變量選擇方法
1.2.2 稀疏主成分分析
1.3 論文寫作結(jié)構(gòu)
第二章 變量選擇方法
2.1 最小二乘估計(jì)及性質(zhì)
2.2 嶺回歸
2.3 Lasso
2.3.1 Lasso的定義
2.3.2 正交情形下的Lasso
2.4 Group Lasso
2.4.1 Group Lasso的定義
2.4.2 Group Lasso的懲罰函數(shù)
2.4.3 Group Lasso的求解
2.5 Sparse Group Lasso
第三章 稀疏主成分分析
3.1 主成分分析
3.1.1 主成分分析的定義
3.1.2 實(shí)例分析
3.2 稀疏主成分分析
3.2.1 稀疏主成分分析的定義
3.2.2 數(shù)值解法
3.2.3 實(shí)例分析
第四章 基于Group Lasso的稀疏主成分分析
4.1 GSPCA的定義
4.2 數(shù)值解法
4.3 實(shí)證分析
4.4 數(shù)值模擬
第五章 總結(jié)與展望
參考文獻(xiàn)
致謝
附錄A
學(xué)位論文評(píng)閱及答辯情況表
【參考文獻(xiàn)】:
期刊論文
[1]基于fused懲罰的稀疏主成分分析[J]. 張波,劉曉倩. 統(tǒng)計(jì)研究. 2019(04)
本文編號(hào):3010002
【文章來(lái)源】:山東大學(xué)山東省 211工程院校 985工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:66 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 研究背景及意義
1.2 文獻(xiàn)綜述
1.2.1 變量選擇方法
1.2.2 稀疏主成分分析
1.3 論文寫作結(jié)構(gòu)
第二章 變量選擇方法
2.1 最小二乘估計(jì)及性質(zhì)
2.2 嶺回歸
2.3 Lasso
2.3.1 Lasso的定義
2.3.2 正交情形下的Lasso
2.4 Group Lasso
2.4.1 Group Lasso的定義
2.4.2 Group Lasso的懲罰函數(shù)
2.4.3 Group Lasso的求解
2.5 Sparse Group Lasso
第三章 稀疏主成分分析
3.1 主成分分析
3.1.1 主成分分析的定義
3.1.2 實(shí)例分析
3.2 稀疏主成分分析
3.2.1 稀疏主成分分析的定義
3.2.2 數(shù)值解法
3.2.3 實(shí)例分析
第四章 基于Group Lasso的稀疏主成分分析
4.1 GSPCA的定義
4.2 數(shù)值解法
4.3 實(shí)證分析
4.4 數(shù)值模擬
第五章 總結(jié)與展望
參考文獻(xiàn)
致謝
附錄A
學(xué)位論文評(píng)閱及答辯情況表
【參考文獻(xiàn)】:
期刊論文
[1]基于fused懲罰的稀疏主成分分析[J]. 張波,劉曉倩. 統(tǒng)計(jì)研究. 2019(04)
本文編號(hào):3010002
本文鏈接:http://sikaile.net/shoufeilunwen/benkebiyelunwen/3010002.html
最近更新
教材專著