本文關鍵詞：部分線性模型中差分估計與SCAD的比較及帶有異常點的非負變量選擇

  更多相關文章： 懲罰函數(shù) 差分估計 SCAD 壓縮異常點 非負約束

【摘要】：變量選擇在現(xiàn)代統(tǒng)計學中占有越來越重要的地位,近年來由Tibshirani提出來的LASSO方法受到了極大的關注。LASSO中懲罰函數(shù)的方法已經(jīng)被用于各種模型中來解決實際問題。本文的研究主要分為兩個部分:首先是在部分線性回歸模型中比較了差分估計和SCAD,主要為了研究變量選擇估計在其他更復雜的模型中的表現(xiàn),研究其優(yōu)劣性;其次是在線性模型中討論了LASSO式懲罰函數(shù)在更復雜的數(shù)據(jù)集中的運用,本篇文章是將懲罰函數(shù)的思想運用到帶有異常點的數(shù)據(jù)中,使懲罰函數(shù)思想的方法運用到更加實際的模型及數(shù)據(jù)集。本文主要是從變量選擇的兩個方面進行了深入的研究。(1)部分線性回歸模型中改進的差分估計與SCAD的比較:本文考慮了部分線性回歸模型中回歸參數(shù)向量估計的問題,提出了具有更好性質的壓縮差分估計,并且研究了它的漸近性質以及其風險函數(shù)。本部分還將SCAD的懲罰函數(shù)運用到模型中得到SCAD估計,然后通過Monte Carlo模擬了壓縮差分估計和SCAD估計的相關結果,并對它們之間的優(yōu)劣進行了比較。從我們的模擬結果中可以發(fā)現(xiàn),在樣本量較小的時候,SCAD估計的效果并不如成熟的差分估計和本文提出的壓縮估計;但隨著樣本量的增加,SCAD估計的效果卻越來越好。SCAD與眾差分估計的比較將用表格和箱線圖的形式展現(xiàn)出來。(2)在線性模型中研究帶有異常點的非負變量選擇的研究:本部分在SROS估計的基礎上,介紹了SROS估計的相關性質:a、SROS估計是幾乎回歸等變的;b、SROS估計與ROS估計具有相同的失效值,并且ROS估計具有最大的失效值。在此基礎上提出了非負SROS估計,并證明了在非負SROS不可忽略條件下,非負SROS是具有變量選擇相合性的。在模擬部分,在三種不同的數(shù)據(jù)集中,通過殘差平方和對比參數(shù)值分別比較了LTS估計,ROS估計,LAD-lasso估計,SROS估計以及非負SROS估計的效果。通過模擬可以發(fā)現(xiàn),本文提出的非負SROS估計,在要求參數(shù)為非負的情況下,具有比較好的表現(xiàn),模擬出的參數(shù)值也是這幾個估計中最為接近真實值的。另外,在比較的過程中可以看到LAD-lasso估計也具有可取的優(yōu)勢。具體的結果將在后面的表格和分析中展現(xiàn)出來。
【關鍵詞】：懲罰函數(shù) 差分估計 SCAD 壓縮異常點 非負約束
【學位授予單位】：重慶大學
【學位級別】：碩士
【學位授予年份】：2015
【分類號】：O212.1
【目錄】：

• 中文摘要3-4
• 英文摘要4-8
• 1 緒論8-13
• 1.1 模型的簡介8
• 1.2 國內外研究狀況8-11
• 1.2.1 非負最小二乘的發(fā)展與現(xiàn)狀9
• 1.2.2 變量選擇的發(fā)展與現(xiàn)狀9-10
• 1.2.3 穩(wěn)健估計的發(fā)展與現(xiàn)狀10-11
• 1.3 本文研究的主要內容及結構11-13
• 2 預備知識13-15
• 2.1 數(shù)學符號13
• 2.2 矩陣論13-15
• 3 部分線性回歸模型中改進的差分估計與SCAD估計15-29
• 3.1 引言15
• 3.2 基于差分估計的改進15-16
• 3.3 壓縮估計的構造16-17
• 3.4 漸近分布偏差和漸近分布風險17-18
• 3.5 估計值的ADR分析18-20
• 3.6 LASSO思想在模型(3.6)中的運用20-21
• 3.7 數(shù)值模擬21-26
• 3.8 實證分析26-29
• 4 帶有異常點的非負變量選擇的研究29-44
• 4.1 提出帶有異常點的非負變量選擇的意義29
• 4.2 ROS估計及其性質29-32
• 4.2.1 ROS估計的失效值30-32
• 4.2.2 ROS估計的漸近性32
• 4.3 稀疏估計的最優(yōu)失效值32-35
• 4.4 SROS估計和非負SROS估計35-41
• 4.4.1 SROS估計和非負SROS估計的性質36-40
• 4.4.2 SROS估計和非負SROS估計的算法40-41
• 4.5 數(shù)值模擬41-44
• 5 結論與展望44-45
• 致謝45-46
• 參考文獻46-51
• 附錄51

【相似文獻】

中國期刊全文數(shù)據(jù)庫 前10條

1 楊麗霞;魏立力;;基于粗糙集方法的有序尺度變量選擇[J];寧夏大學學報(自然科學版);2009年02期

2 趙宇;黃思明;;帶有變量選擇過程的分類模型誤差分析[J];數(shù)學的實踐與認識;2010年17期

3 樊亞莉;徐群芳;;穩(wěn)健的變量選擇方法及其應用[J];上海理工大學學報;2013年03期

4 陶靖軒;多元分析中的變量選擇問題研究[J];中國計量學院學報;2001年01期

5 李樹軍,紀宏金;對應聚類分析與變量選擇[J];地球物理學進展;2005年03期

6 陳黎明;趙永紅;;轉換函數(shù)未知時轉換模型的變量選擇[J];四川大學學報(自然科學版);2011年05期

7 劉民千,張潤楚;超飽和設計的變量選擇[J];南開大學學報(自然科學版);2000年03期

8 王進;;聚類分析中的距離與變量選擇[J];山西財經(jīng)大學學報;2007年S1期

9 張波;方國斌;;高維面板數(shù)據(jù)降維與變量選擇方法研究[J];統(tǒng)計與信息論壇;2012年06期

10 高仁祥,張世英,劉豹;基于神經(jīng)網(wǎng)絡的變量選擇方法[J];系統(tǒng)工程學報;1998年02期

中國重要會議論文全文數(shù)據(jù)庫 前6條

1 張俊華;方偉武;;調查表分析中變量選擇的一些方法(英文)[A];中國運籌學會第六屆學術交流會論文集（下卷）[C];2000年

2 李洪東;梁逸曾;;高維數(shù)據(jù)變量選擇新方法研究[A];中國化學會第27屆學術年會第15分會場摘要集[C];2010年

3 李慷;席裕庚;;復雜過程系統(tǒng)中操作變量選擇與定位的方法研究[A];1993年控制理論及其應用年會論文集[C];1993年

4 云永歡;王為婷;梁逸曾;;迭代的保留有信息變量來篩選最佳變量子集的一種多元校正變量選擇方法[A];中國化學會第29屆學術年會摘要集——第19分會：化學信息學與化學計量學[C];2014年

5 徐登;范偉;梁逸曾;;紫外光譜結合變量選擇和偏最小二乘回歸同時測定水中重金屬鎘、鋅、鈷[A];中國化學會第29屆學術年會摘要集——第19分會：化學信息學與化學計量學[C];2014年

6 梁逸曾;李洪東;許青松;曹東升;張志敏;;灰色化學建模與模型集群分析——兼論過擬合、穩(wěn)健估計、變量選擇與模型評價[A];中國化學會第27屆學術年會第15分會場摘要集[C];2010年

中國博士學位論文全文數(shù)據(jù)庫 前10條

1 王大榮;分散度量模型中的變量選擇[D];北京工業(yè)大學;2009年

2 王明秋;高維數(shù)據(jù)下若干回歸模型的變量選擇問題研究[D];大連理工大學;2012年

3 劉吉彩;生存數(shù)據(jù)統(tǒng)計模型的變量選擇方法[D];華東師范大學;2014年

4 樊亞莉;穩(wěn)健變量選擇方法的若干問題研究[D];復旦大學;2013年

5 唐凱臨;變量選擇和變換的新方法研究[D];同濟大學;2008年

6 董瑩;高維共線性統(tǒng)計模型的參數(shù)估計與變量選擇[D];大連理工大學;2014年

7 葉飛;相對誤差準則下的估計理論和變量選擇方法的研究[D];清華大學;2013年

8 袁晶;貝葉斯方法在變量選擇問題中的應用[D];山東大學;2013年

9 王樹云;基于Bayes方法和圖限制下正規(guī)化方法的變量選擇問題及其在基因組數(shù)據(jù)中的應用[D];山東大學;2010年

10 姬永剛;分位數(shù)回歸中的貝葉斯變量選擇[D];東北師范大學;2012年

中國碩士學位論文全文數(shù)據(jù)庫 前10條

1 趙冬琦;基于變量選擇的股指期貨對股票市場影響的實證研究[D];蘭州大學;2015年

2 程勇;多水平模型的變量選擇在農(nóng)戶人均收入數(shù)據(jù)中的應用[D];云南財經(jīng)大學;2015年

3 鄧秋玲;SCAD和ADS方法在比例風險模型中的應用[D];廣西大學;2015年

4 韋新星;幾種變量選擇方法在Cox模型中的應用[D];廣西大學;2015年

5 王唯;部分線性模型的變量選擇問題研究[D];湘潭大學;2015年

6 徐國盛;若干模型的分位數(shù)變量選擇[D];浙江財經(jīng)大學;2016年

7 郭雪梅;部分線性模型中差分估計與SCAD的比較及帶有異常點的非負變量選擇[D];重慶大學;2015年

8 王艷;復共線性及異方差線性模型中的參數(shù)估計與變量選擇[D];重慶大學;2015年

9 楊成敏;廣義線性模型中的參數(shù)估計及變量選擇方法研究[D];重慶大學;2015年

10 鐘冬梅;線性模型中的變量選擇及股票市場實證研究[D];重慶大學;2015年

，

本文編號：921722