帶有懲罰項(xiàng)的似然方法是超高維變量選擇的基礎(chǔ).在過(guò)去的20年里,變量選擇的正則化方法已經(jīng)得到了很好的發(fā)展,但是目前對(duì)于具有U統(tǒng)計(jì)量結(jié)構(gòu)的成對(duì)偽似然函數(shù)的正則化的研究卻很少.在本篇論文中,我們首先介紹了核是無(wú)界的U統(tǒng)計(jì)量的Hoe?ding不等式.其次,當(dāng)樣本量和參數(shù)維度趨于無(wú)窮時(shí),我們證明了半?yún)?shù)廣義線性模型下回歸系數(shù)的正則化估計(jì)不僅有稀疏性,還具有相合性和漸近正態(tài)性.最后,通過(guò)綜合的模擬研究以及真實(shí)數(shù)據(jù)分析,我們驗(yàn)證了半?yún)?shù)廣義線性模型下正則化估計(jì)的實(shí)用性.我們的結(jié)論不僅適用于LASSO,也適用于非凹懲罰項(xiàng),比如SCAD和MCP. 

【文章來(lái)源】：吉林大學(xué)吉林省 211工程院校 985工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：67 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

在所有方法中,L2損失,L1損失,#S,FN以及FP的箱線圖,其中x軸代表不同的方法,參數(shù)維度p=25表4.1在所有方法中,L2損失,L1損失,#S,FN以及FP的中位數(shù)(標(biāo)準(zhǔn)差),參數(shù)維度p=25

第四章實(shí)驗(yàn)?zāi)M差.中位數(shù)是用來(lái)評(píng)價(jià)估計(jì)的優(yōu)劣,從表4.1中可以看出SCAD和MCP相比于LASSO的估計(jì)效果更好,LASSO選擇了更復(fù)雜的模型.標(biāo)準(zhǔn)差是用來(lái)評(píng)價(jià)估計(jì)的波動(dòng)情況,對(duì)于L2損失和L1損失,從表4.1中可以看出LASSO相比于其他方法得到的估計(jì)更加穩(wěn)定一些.圖4.2在所有方法中,L2損失,L1損失,#S,FN以及FP的箱線圖,其中x軸代表不同的方法,參數(shù)維度p=100表4.2在所有方法中,L2損失,L1損失,#S,FN以及FP的中位數(shù)(標(biāo)準(zhǔn)差),參數(shù)維度p=100LASSOSCADMCPOracleL2loss4.402(0.355)1.348(0.994)1.234(0.986)0.856(0.771)L1loss10.127(0.633)2.913(2.575)2.541(2.462)1.608(1.679)#S9.000(4.123)6.000(1.365)5.000(1.065)5.000(0.000)FN0.000(0.778)0.000(0.181)0.000(0.109)0.000(0.000)FP5.000(3.596)1.000(1.382)0.000(1.075)0.000(0.000)14


本文編號(hào)：3584770