發(fā)布時間：2020-05-25 02:06

【摘要】：變量選擇可以幫助我們從大量的數(shù)據(jù)中提取出有價值的信息,提高模型的預(yù)測精度.如何高效地從眾多的協(xié)變量中選出對因變量有重要作用的變量是統(tǒng)計推斷中的重要問題.1996年,統(tǒng)計學(xué)家Tibshirani提出了重要的方法——Lasso,該方法可以使模型產(chǎn)生稀疏解,但不具備Oracle性質(zhì).因此,Zou在Lasso的基礎(chǔ)上進(jìn)一步提出了 adaptive Lasso,此方法對不同的系數(shù)進(jìn)行不同程度的壓縮,更容易挑選出重要的變量,并且此方法具備Oracle性質(zhì).很多高維數(shù)據(jù)中變量之間存在相關(guān)性,此時Lasso方法就不能充分反映變量之間的關(guān)系,于是彈性網(wǎng)(Elastic-net)方法應(yīng)運而生,此方法能夠使高度相關(guān)的變量同時進(jìn)入模型或從模型中剔除,但此方法不具有Oracle性質(zhì).因此,在Elastie-net和adaptive Lasso的基礎(chǔ)上提出了具有Oracle性質(zhì)的自適應(yīng)彈性網(wǎng)(adaptive Elastic-net)方法.以上這幾種方法都是基于最小二乘的懲罰變量選擇方法.當(dāng)數(shù)據(jù)中出現(xiàn)異常值或重尾分布時,基于傳統(tǒng)的最小二乘的懲罰變量選擇方法將不再適用,需要尋求更穩(wěn)健的估計方法.而M估計在穩(wěn)健統(tǒng)計推斷領(lǐng)域中已經(jīng)被廣泛研究.此外,隨著科學(xué)技術(shù)的快速發(fā)展,實際生活中產(chǎn)生了大量的數(shù)據(jù),這些數(shù)據(jù)呈現(xiàn)高維度,強(qiáng)相關(guān),多冗余的現(xiàn)象.因此,在穩(wěn)健估計的基礎(chǔ)上還需要尋求能夠有效處理數(shù)據(jù)共線性問題的變量選擇方法.綜合以上問題,本文提出了一種帶懲罰函數(shù)的M估計,即基于標(biāo)準(zhǔn)誤調(diào)整的自適應(yīng)彈性網(wǎng)的懲罰M估計.本文內(nèi)容主要研究基于標(biāo)準(zhǔn)誤調(diào)整的自適應(yīng)彈性網(wǎng)的懲罰M估計方法,該方法以M估計和它的標(biāo)準(zhǔn)誤作為權(quán)重代替普通的最小二乘估計,并給出此方法的相合性和漸近正態(tài)性及其理論證明.對于高維情況的變量選擇,在保持估計的準(zhǔn)確性和處理多重共線性問題的同時,使用多個調(diào)整參數(shù).這可以通過迭代來實現(xiàn),其中每一步迭代都使用單獨的調(diào)整參數(shù),這就是MSA-Enet(the multi-step adaptive Elastic-net)的思想.本文用這種方法對超高維數(shù)據(jù)進(jìn)行降維,使數(shù)據(jù)維數(shù)pn降至小于樣本量n,然后再運用本文提出的方法進(jìn)行變量的選擇和參數(shù)的估計.最后,通過數(shù)值模擬分析和實例分析對本文所提出的方法進(jìn)行驗證,模擬和實例分析結(jié)果顯示本文提出的方法比其它常用的變量選擇方法有一定的優(yōu)勢.
【圖文】：

例（ＬＳＴＡＴ）．逡逑本文中采用基于標(biāo)準(zhǔn)誤調(diào)整的自適應(yīng)彈性網(wǎng)的懲罰Ｍ估計方法對標(biāo)準(zhǔn)化后的數(shù)據(jù)進(jìn)逡逑行擬合，分析圖４．５．１可知響應(yīng)變量（ＬＭＶ）中存在異常值．對于每種方法，，隨機(jī)抽�。福埃ュ义希ǎ矗埃皞�樣本）作為訓(xùn)練集，另２０％邋（１０６個樣本）作為獨立測試集．ＳＭＳ代表選擇的模型大逡逑小，ＭＡＥ代表平均預(yù)測絕對誤差，其計算公式為＾邋詠－沾丨，重復(fù)１00次求其均值．這逡逑里選用邋Ｌａｓｓｏ邋和邋Ｅｌａｓｔｉｃ－ｎｅｔ邋（Ｅｎｅｔ）與邋ＬＳ－ＡＥｎｅｔ，ＬＡＤ－ＡＥｎｅｔ，邋Ｈｕｂｅｒ－ＡＥｎｅｔ邋進(jìn)行比較．通逡逑過表４．５．１可知這幾種方法的預(yù)測誤差相差不大，但是ＬＡＤ－ＡＥｎｅｔ和Ｈｕｂｅｒ－ＡＥｎｅｔ得到逡逑的模型更稀疏且Ｈｕｂｅｒ－ＡＥｎｅｔ有比較小的誤差．而Ｅｌａｓｔｉｃ－ｎｅｔ比Ｌａｓｓｏ選擇出的變量多．逡逑８邋］邐１逡逑ｓ邐N逡逑Ｓ邋－邐：逡逑Ｓ邋－逡逑0邋＿邐：逡逑圖４．５N響應(yīng)變量ＬＭＶ的箱線圖逡逑邐表４．５．１：波士頓住房數(shù)據(jù)分析結(jié)果邐逡逑方法邐ＬＳ－ＡＥｎｅｔ邐ＬＡＤ－ＡＥｎｅｔ邐Ｈｕｂｅｒ－ＡＥｎｅｔ邐Ｅｎｅｔ邐Ｌａｓｓｏ逡

0邋＿邐：逡逑圖４．５N響應(yīng)變量ＬＭＶ的箱線圖逡逑邐表４．５．１：波士頓住房數(shù)據(jù)分析結(jié)果邐逡逑方法邐ＬＳ－ＡＥｎｅｔ邐ＬＡＤ－ＡＥｎｅｔ邐Ｈｕｂｅｒ－ＡＥｎｅｔ邐Ｅｎｅｔ邐Ｌａｓｓｏ逡逑ＳＭＳ邐１０．９７邐０３邐１０．（３９邐Ｋ３邐１２．５１逡逑ＭＡＥ邐０．３６９
【學(xué)位授予單位】：曲阜師范大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2019
【分類號】：C81

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 閆懋博;田茂再;;基于變量選擇事件的新彈性網(wǎng)方法[J];數(shù)學(xué)的實踐與認(rèn)識;2019年12期

2 李靜;王金甲;李慧;;融合腦電特征的彈性網(wǎng)特征選擇和分類[J];生物醫(yī)學(xué)工程學(xué)雜志;2016年03期

3 ;彈性網(wǎng)結(jié)構(gòu)的流體動力學(xué)性狀[J];漁業(yè)現(xiàn)代化;2014年06期

4 ;NIKE夏至FRESH新品登場[J];體育世界(酷玩);2007年07期

5 吳筱菁;;彈性網(wǎng)回歸在功能磁共振成像數(shù)據(jù)分析中的應(yīng)用綜述[J];臨床醫(yī)藥文獻(xiàn)電子雜志;2017年98期

6 芮小平;張立強(qiáng);;基于彈性網(wǎng)的多維信息可視化研究[J];系統(tǒng)仿真學(xué)報;2010年02期

7 王沛立;李恩平;;我國居民醫(yī)療負(fù)擔(dān)及其影響因素分析——基于彈性網(wǎng)方法的實證研究[J];數(shù)學(xué)的實踐與認(rèn)識;2019年14期

8 楊宏暉;高潔宇;于傳林;;基于彈性網(wǎng)回歸的水下目標(biāo)無監(jiān)督特征選擇算法[J];數(shù)字海洋與水下攻防;2018年01期

9 朱星紅,陳爾瑜,余匯洋,李振強(qiáng),糜建紅;狗股動脈彈性纖維的構(gòu)筑[J];解剖學(xué)報;1998年02期

10 張淑清;楊振寧;張立國;苑世鈺;王志義;;基于彈性網(wǎng)降維及花授粉算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測[J];儀器儀表學(xué)報;2019年07期

相關(guān)會議論文 前2條

1 閆麗娜;王彤;;懲罰COX模型和彈性網(wǎng)技術(shù)在高維數(shù)據(jù)生存分析中的應(yīng)用[A];2011年中國衛(wèi)生統(tǒng)計學(xué)年會會議論文集[C];2011年

2 趙海亮;馮彥成;王立芹;;自適應(yīng)彈性網(wǎng)方法在Cox模型中的應(yīng)用[A];2017年中國衛(wèi)生統(tǒng)計學(xué)學(xué)術(shù)年會論文集[C];2017年

相關(guān)博士學(xué)位論文 前3條

1 王靜;電阻抗成像的幾種正則化方法研究[D];哈爾濱工業(yè)大學(xué);2015年

2 付光輝;高維的強(qiáng)相關(guān)數(shù)據(jù)的模型選擇[D];中南大學(xué);2011年

3 周正華;基于神經(jīng)網(wǎng)絡(luò)和稀疏表示的幾何造型理論與方法研究[D];上海大學(xué);2015年

相關(guān)碩士學(xué)位論文 前10條

1 施怡;基于彈性網(wǎng)的面板數(shù)據(jù)的分位數(shù)回歸方方法及實證研究[D];杭州師范大學(xué);2019年

2 胡文婷;基于標(biāo)準(zhǔn)誤調(diào)整的自適應(yīng)彈性網(wǎng)的懲罰M估計[D];曲阜師范大學(xué);2019年

3 石峗萍;基于互信息測度和彈性網(wǎng)罰的Logistic模型研究[D];蘭州大學(xué);2019年

4 王爽;Lasso及改進(jìn)的Lasso方法在幾類模型變量選擇中的應(yīng)用[D];廣西師范學(xué)院;2018年

5 王黎明;基于彈性網(wǎng)邏輯回歸算法的內(nèi)容點擊率預(yù)估系統(tǒng)的設(shè)計與實現(xiàn)[D];北京交通大學(xué);2018年

6 王丹;基于稀疏和低秩約束的人臉識別算法研究[D];陜西師范大學(xué);2018年

7 葉愿;核彈性網(wǎng)正則化算法的推廣性能[D];湖北大學(xué);2018年

8 徐娜娜;帶彈性網(wǎng)懲罰的光滑化分位數(shù)回歸[D];北京交通大學(xué);2017年

9 趙海亮;自適應(yīng)彈性網(wǎng)方法在Cox模型中的應(yīng)用[D];河北醫(yī)科大學(xué);2017年

10 王琳琳;基于結(jié)構(gòu)磁共振成像的性別分類研究[D];北京交通大學(xué);2017年

本文編號：2679377