發(fā)布時(shí)間：2017-09-26 05:22

  本文關(guān)鍵詞：部分線性模型中差分估計(jì)與SCAD的比較及帶有異常點(diǎn)的非負(fù)變量選擇

  更多相關(guān)文章： 懲罰函數(shù) 差分估計(jì) SCAD 壓縮異常點(diǎn) 非負(fù)約束

【摘要】：變量選擇在現(xiàn)代統(tǒng)計(jì)學(xué)中占有越來(lái)越重要的地位,近年來(lái)由Tibshirani提出來(lái)的LASSO方法受到了極大的關(guān)注。LASSO中懲罰函數(shù)的方法已經(jīng)被用于各種模型中來(lái)解決實(shí)際問(wèn)題。本文的研究主要分為兩個(gè)部分:首先是在部分線性回歸模型中比較了差分估計(jì)和SCAD,主要為了研究變量選擇估計(jì)在其他更復(fù)雜的模型中的表現(xiàn),研究其優(yōu)劣性;其次是在線性模型中討論了LASSO式懲罰函數(shù)在更復(fù)雜的數(shù)據(jù)集中的運(yùn)用,本篇文章是將懲罰函數(shù)的思想運(yùn)用到帶有異常點(diǎn)的數(shù)據(jù)中,使懲罰函數(shù)思想的方法運(yùn)用到更加實(shí)際的模型及數(shù)據(jù)集。本文主要是從變量選擇的兩個(gè)方面進(jìn)行了深入的研究。(1)部分線性回歸模型中改進(jìn)的差分估計(jì)與SCAD的比較:本文考慮了部分線性回歸模型中回歸參數(shù)向量估計(jì)的問(wèn)題,提出了具有更好性質(zhì)的壓縮差分估計(jì),并且研究了它的漸近性質(zhì)以及其風(fēng)險(xiǎn)函數(shù)。本部分還將SCAD的懲罰函數(shù)運(yùn)用到模型中得到SCAD估計(jì),然后通過(guò)Monte Carlo模擬了壓縮差分估計(jì)和SCAD估計(jì)的相關(guān)結(jié)果,并對(duì)它們之間的優(yōu)劣進(jìn)行了比較。從我們的模擬結(jié)果中可以發(fā)現(xiàn),在樣本量較小的時(shí)候,SCAD估計(jì)的效果并不如成熟的差分估計(jì)和本文提出的壓縮估計(jì);但隨著樣本量的增加,SCAD估計(jì)的效果卻越來(lái)越好。SCAD與眾差分估計(jì)的比較將用表格和箱線圖的形式展現(xiàn)出來(lái)。(2)在線性模型中研究帶有異常點(diǎn)的非負(fù)變量選擇的研究:本部分在SROS估計(jì)的基礎(chǔ)上,介紹了SROS估計(jì)的相關(guān)性質(zhì):a、SROS估計(jì)是幾乎回歸等變的;b、SROS估計(jì)與ROS估計(jì)具有相同的失效值,并且ROS估計(jì)具有最大的失效值。在此基礎(chǔ)上提出了非負(fù)SROS估計(jì),并證明了在非負(fù)SROS不可忽略條件下,非負(fù)SROS是具有變量選擇相合性的。在模擬部分,在三種不同的數(shù)據(jù)集中,通過(guò)殘差平方和對(duì)比參數(shù)值分別比較了LTS估計(jì),ROS估計(jì),LAD-lasso估計(jì),SROS估計(jì)以及非負(fù)SROS估計(jì)的效果。通過(guò)模擬可以發(fā)現(xiàn),本文提出的非負(fù)SROS估計(jì),在要求參數(shù)為非負(fù)的情況下,具有比較好的表現(xiàn),模擬出的參數(shù)值也是這幾個(gè)估計(jì)中最為接近真實(shí)值的。另外,在比較的過(guò)程中可以看到LAD-lasso估計(jì)也具有可取的優(yōu)勢(shì)。具體的結(jié)果將在后面的表格和分析中展現(xiàn)出來(lái)。
【關(guān)鍵詞】：懲罰函數(shù) 差分估計(jì) SCAD 壓縮異常點(diǎn) 非負(fù)約束
【學(xué)位授予單位】：重慶大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2015
【分類號(hào)】：O212.1
【目錄】：

• 中文摘要3-4
• 英文摘要4-8
• 1 緒論8-13
• 1.1 模型的簡(jiǎn)介8
• 1.2 國(guó)內(nèi)外研究狀況8-11
• 1.2.1 非負(fù)最小二乘的發(fā)展與現(xiàn)狀9
• 1.2.2 變量選擇的發(fā)展與現(xiàn)狀9-10
• 1.2.3 穩(wěn)健估計(jì)的發(fā)展與現(xiàn)狀10-11
• 1.3 本文研究的主要內(nèi)容及結(jié)構(gòu)11-13
• 2 預(yù)備知識(shí)13-15
• 2.1 數(shù)學(xué)符號(hào)13
• 2.2 矩陣論13-15
• 3 部分線性回歸模型中改進(jìn)的差分估計(jì)與SCAD估計(jì)15-29
• 3.1 引言15
• 3.2 基于差分估計(jì)的改進(jìn)15-16
• 3.3 壓縮估計(jì)的構(gòu)造16-17
• 3.4 漸近分布偏差和漸近分布風(fēng)險(xiǎn)17-18
• 3.5 估計(jì)值的ADR分析18-20
• 3.6 LASSO思想在模型(3.6)中的運(yùn)用20-21
• 3.7 數(shù)值模擬21-26
• 3.8 實(shí)證分析26-29
• 4 帶有異常點(diǎn)的非負(fù)變量選擇的研究29-44
• 4.1 提出帶有異常點(diǎn)的非負(fù)變量選擇的意義29
• 4.2 ROS估計(jì)及其性質(zhì)29-32
• 4.2.1 ROS估計(jì)的失效值30-32
• 4.2.2 ROS估計(jì)的漸近性32
• 4.3 稀疏估計(jì)的最優(yōu)失效值32-35
• 4.4 SROS估計(jì)和非負(fù)SROS估計(jì)35-41
• 4.4.1 SROS估計(jì)和非負(fù)SROS估計(jì)的性質(zhì)36-40
• 4.4.2 SROS估計(jì)和非負(fù)SROS估計(jì)的算法40-41
• 4.5 數(shù)值模擬41-44
• 5 結(jié)論與展望44-45
• 致謝45-46
• 參考文獻(xiàn)46-51
• 附錄51

【相似文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條

1 楊麗霞;魏立力;;基于粗糙集方法的有序尺度變量選擇[J];寧夏大學(xué)學(xué)報(bào)(自然科學(xué)版);2009年02期

2 趙宇;黃思明;;帶有變量選擇過(guò)程的分類模型誤差分析[J];數(shù)學(xué)的實(shí)踐與認(rèn)識(shí);2010年17期

3 樊亞莉;徐群芳;;穩(wěn)健的變量選擇方法及其應(yīng)用[J];上海理工大學(xué)學(xué)報(bào);2013年03期

4 陶靖軒;多元分析中的變量選擇問(wèn)題研究[J];中國(guó)計(jì)量學(xué)院學(xué)報(bào);2001年01期

5 李樹軍,紀(jì)宏金;對(duì)應(yīng)聚類分析與變量選擇[J];地球物理學(xué)進(jìn)展;2005年03期

6 陳黎明;趙永紅;;轉(zhuǎn)換函數(shù)未知時(shí)轉(zhuǎn)換模型的變量選擇[J];四川大學(xué)學(xué)報(bào)(自然科學(xué)版);2011年05期

7 劉民千,張潤(rùn)楚;超飽和設(shè)計(jì)的變量選擇[J];南開大學(xué)學(xué)報(bào)(自然科學(xué)版);2000年03期

8 王進(jìn);;聚類分析中的距離與變量選擇[J];山西財(cái)經(jīng)大學(xué)學(xué)報(bào);2007年S1期

9 張波;方國(guó)斌;;高維面板數(shù)據(jù)降維與變量選擇方法研究[J];統(tǒng)計(jì)與信息論壇;2012年06期

10 高仁祥,張世英,劉豹;基于神經(jīng)網(wǎng)絡(luò)的變量選擇方法[J];系統(tǒng)工程學(xué)報(bào);1998年02期

中國(guó)重要會(huì)議論文全文數(shù)據(jù)庫(kù) 前6條

1 張俊華;方偉武;;調(diào)查表分析中變量選擇的一些方法(英文)[A];中國(guó)運(yùn)籌學(xué)會(huì)第六屆學(xué)術(shù)交流會(huì)論文集（下卷）[C];2000年

2 李洪東;梁逸曾;;高維數(shù)據(jù)變量選擇新方法研究[A];中國(guó)化學(xué)會(huì)第27屆學(xué)術(shù)年會(huì)第15分會(huì)場(chǎng)摘要集[C];2010年

3 李慷;席裕庚;;復(fù)雜過(guò)程系統(tǒng)中操作變量選擇與定位的方法研究[A];1993年控制理論及其應(yīng)用年會(huì)論文集[C];1993年

4 云永歡;王為婷;梁逸曾;;迭代的保留有信息變量來(lái)篩選最佳變量子集的一種多元校正變量選擇方法[A];中國(guó)化學(xué)會(huì)第29屆學(xué)術(shù)年會(huì)摘要集——第19分會(huì)：化學(xué)信息學(xué)與化學(xué)計(jì)量學(xué)[C];2014年

5 徐登;范偉;梁逸曾;;紫外光譜結(jié)合變量選擇和偏最小二乘回歸同時(shí)測(cè)定水中重金屬鎘、鋅、鈷[A];中國(guó)化學(xué)會(huì)第29屆學(xué)術(shù)年會(huì)摘要集——第19分會(huì)：化學(xué)信息學(xué)與化學(xué)計(jì)量學(xué)[C];2014年

6 梁逸曾;李洪東;許青松;曹東升;張志敏;;灰色化學(xué)建模與模型集群分析——兼論過(guò)擬合、穩(wěn)健估計(jì)、變量選擇與模型評(píng)價(jià)[A];中國(guó)化學(xué)會(huì)第27屆學(xué)術(shù)年會(huì)第15分會(huì)場(chǎng)摘要集[C];2010年

中國(guó)博士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條

1 王大榮;分散度量模型中的變量選擇[D];北京工業(yè)大學(xué);2009年

2 王明秋;高維數(shù)據(jù)下若干回歸模型的變量選擇問(wèn)題研究[D];大連理工大學(xué);2012年

3 劉吉彩;生存數(shù)據(jù)統(tǒng)計(jì)模型的變量選擇方法[D];華東師范大學(xué);2014年

4 樊亞莉;穩(wěn)健變量選擇方法的若干問(wèn)題研究[D];復(fù)旦大學(xué);2013年

5 唐凱臨;變量選擇和變換的新方法研究[D];同濟(jì)大學(xué);2008年

6 董瑩;高維共線性統(tǒng)計(jì)模型的參數(shù)估計(jì)與變量選擇[D];大連理工大學(xué);2014年

7 葉飛;相對(duì)誤差準(zhǔn)則下的估計(jì)理論和變量選擇方法的研究[D];清華大學(xué);2013年

8 袁晶;貝葉斯方法在變量選擇問(wèn)題中的應(yīng)用[D];山東大學(xué);2013年

9 王樹云;基于Bayes方法和圖限制下正規(guī)化方法的變量選擇問(wèn)題及其在基因組數(shù)據(jù)中的應(yīng)用[D];山東大學(xué);2010年

10 姬永剛;分位數(shù)回歸中的貝葉斯變量選擇[D];東北師范大學(xué);2012年

中國(guó)碩士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條

1 趙冬琦;基于變量選擇的股指期貨對(duì)股票市場(chǎng)影響的實(shí)證研究[D];蘭州大學(xué);2015年

2 程勇;多水平模型的變量選擇在農(nóng)戶人均收入數(shù)據(jù)中的應(yīng)用[D];云南財(cái)經(jīng)大學(xué);2015年

3 鄧秋玲;SCAD和ADS方法在比例風(fēng)險(xiǎn)模型中的應(yīng)用[D];廣西大學(xué);2015年

4 韋新星;幾種變量選擇方法在Cox模型中的應(yīng)用[D];廣西大學(xué);2015年

5 王唯;部分線性模型的變量選擇問(wèn)題研究[D];湘潭大學(xué);2015年

6 徐國(guó)盛;若干模型的分位數(shù)變量選擇[D];浙江財(cái)經(jīng)大學(xué);2016年

7 郭雪梅;部分線性模型中差分估計(jì)與SCAD的比較及帶有異常點(diǎn)的非負(fù)變量選擇[D];重慶大學(xué);2015年

8 王艷;復(fù)共線性及異方差線性模型中的參數(shù)估計(jì)與變量選擇[D];重慶大學(xué);2015年

9 楊成敏;廣義線性模型中的參數(shù)估計(jì)及變量選擇方法研究[D];重慶大學(xué);2015年

10 鐘冬梅;線性模型中的變量選擇及股票市場(chǎng)實(shí)證研究[D];重慶大學(xué);2015年

，

本文編號(hào)：921722