發(fā)布時(shí)間：2020-05-05 08:32

【摘要】：隨著計(jì)算機(jī)能力和科學(xué)技術(shù)的快速發(fā)展,人們獲得的數(shù)據(jù)所包含的信息越來(lái)越多,高維數(shù)據(jù)的統(tǒng)計(jì)推斷問(wèn)題研究已經(jīng)成為十幾年來(lái)炙手可熱的研究熱點(diǎn).在一些實(shí)際問(wèn)題中,除了樣本信息之外,通常人們還可以獲得有關(guān)回歸系數(shù)的相關(guān)信息.利用這些回歸系數(shù)的信息,很大程度上可以提高估計(jì)的效率,進(jìn)而提高模型的效率.另外,在許多回歸問(wèn)題中,我們需要找出對(duì)預(yù)測(cè)響應(yīng)變量起重要作用的解釋因素,而這些因素通常具有組結(jié)構(gòu)的特點(diǎn).常見(jiàn)的例子包括:回歸中的多水平類(lèi)別型協(xié)變量需要用一組啞變量來(lái)表示;非參數(shù)回歸中,將變量的光滑函數(shù)用一組基函數(shù)來(lái)表示.因此,有關(guān)組結(jié)構(gòu)變量的選擇方法的研究有著非常重要的理論意義和應(yīng)用價(jià)值.第一章介紹了本文的研究背景和預(yù)備知識(shí).作為一個(gè)最經(jīng)典、最簡(jiǎn)單、最流行的回歸分析方法,線(xiàn)性回歸分析是研究響應(yīng)變量和一組協(xié)變量之間統(tǒng)計(jì)關(guān)系的一種至關(guān)重要的方法.然而,在實(shí)際數(shù)據(jù)分析中,我們不可能知道真實(shí)的模型結(jié)構(gòu).如果響應(yīng)變量和協(xié)變量之間真實(shí)的關(guān)系不是線(xiàn)性的,那么用線(xiàn)性模型進(jìn)行推斷則會(huì)造成模型設(shè)定的偏差,進(jìn)而導(dǎo)致錯(cuò)誤結(jié)論的出現(xiàn).非參數(shù)回歸模型對(duì)模型的假設(shè)相對(duì)弱很多,可以擬合數(shù)據(jù)中變量的非線(xiàn)性關(guān)系.這類(lèi)模型的優(yōu)點(diǎn)在于回歸函數(shù)的形式相對(duì)靈活,能根據(jù)數(shù)據(jù)的特點(diǎn)較好的擬合出變量之間的關(guān)系.但當(dāng)協(xié)變量的維數(shù)較大時(shí),此類(lèi)模型會(huì)產(chǎn)生維數(shù)禍根的問(wèn)題.半?yún)?shù)回歸模型即含有參數(shù)部分又含有非參數(shù)部分,在保留參數(shù)回歸模型簡(jiǎn)單性的同時(shí)又具有非參數(shù)回歸模型靈活性的特點(diǎn).因此半?yún)?shù)回歸模型在實(shí)際中具有非常廣泛的應(yīng)用.在部分線(xiàn)性回歸模型的框架下,第二章研究了參數(shù)部分的維數(shù)發(fā)散時(shí)參數(shù)部分回歸系數(shù)滿(mǎn)足某些線(xiàn)性約束條件下的統(tǒng)計(jì)推斷.對(duì)非參數(shù)部分的估計(jì)我們使用B樣條基函數(shù)的方法.本文考慮用B樣條基函數(shù)的方法來(lái)估計(jì)未知函數(shù),因?yàn)榇朔椒ㄔ谟?jì)算上效率是非常高的,估計(jì)的精度也比較高.而且B樣條基函數(shù)方法是一種全局光滑法.因此,系數(shù)的估計(jì)可以一步實(shí)現(xiàn),而核方法在計(jì)算上非常耗時(shí),因?yàn)樗枰獙?duì)每個(gè)數(shù)據(jù)點(diǎn)或多個(gè)數(shù)據(jù)點(diǎn)進(jìn)行重復(fù).理論上,在某些常規(guī)條件下給出了約束輪廓最小二乘估計(jì)的相合性和漸近正態(tài)性.并通過(guò)數(shù)值模擬來(lái)驗(yàn)證估計(jì)的有限樣本表現(xiàn).模擬結(jié)果說(shuō)明如果回歸參數(shù)向量滿(mǎn)足某些先驗(yàn)信息,利用這些先驗(yàn)信息得到的約束估計(jì)比無(wú)約束估計(jì)更有效.第三章將第二章的部分線(xiàn)性回歸模型推廣到部分線(xiàn)性可加回歸模型,由于含有多個(gè)非參數(shù)函數(shù),部分線(xiàn)性可加回歸模型具有更廣泛的應(yīng)用.本章考慮了線(xiàn)性部分的參數(shù)個(gè)數(shù)發(fā)散且滿(mǎn)足某些線(xiàn)性約束條件時(shí)的相關(guān)統(tǒng)計(jì)推斷問(wèn)題.首先,對(duì)非參數(shù)部分的函數(shù)利用B樣條基函數(shù)進(jìn)行估計(jì)后,給出參數(shù)部分的約束輪廓最小二乘估計(jì).在常規(guī)條件下建立了約束輪廓最小二乘估計(jì)的相合性和漸近正態(tài)性.其次,為了檢驗(yàn)參數(shù)部分的線(xiàn)性約束條件是否成立,我們給出了輪廓似然比檢驗(yàn)統(tǒng)計(jì)量,并證明了在原假設(shè)和備擇假設(shè)分別成立的條件下輪廓似然比檢驗(yàn)統(tǒng)計(jì)量的極限分布為卡方分布.最后,利用數(shù)值模擬和實(shí)例分析驗(yàn)證輪廓最小二乘估計(jì)和輪廓似然比檢驗(yàn)統(tǒng)計(jì)量的樣本表現(xiàn).數(shù)值結(jié)果說(shuō)明在各種情況下約束估計(jì)的表現(xiàn)比無(wú)約束估計(jì)的表現(xiàn)好很多,輪廓似然比統(tǒng)計(jì)量對(duì)備擇假設(shè)是很敏感的.第四章考慮了參數(shù)部分的協(xié)變量具有組結(jié)構(gòu)情況的高維部分線(xiàn)性回歸模型.我們提出了自適應(yīng)group bridge方法來(lái)實(shí)現(xiàn)參數(shù)部分的組變量選擇問(wèn)題,同時(shí)我們考慮了自適應(yīng)group bridge方法中參數(shù)γ的選擇.利用leave-one-observation-out交叉驗(yàn)證方法選擇調(diào)整參數(shù)λ和bridge中的參數(shù)γ.通過(guò)推導(dǎo),該方法與標(biāo)準(zhǔn)的交叉驗(yàn)證方法相比可以大大的降低計(jì)算量.理論上,我們給出了目標(biāo)函數(shù)的全局最小值點(diǎn),同時(shí)證明了該最小值點(diǎn)的相合性、收斂速度以及漸近正態(tài)分布.數(shù)值模擬結(jié)果說(shuō)明自適應(yīng)group bridge方法表現(xiàn)良好,同時(shí)通過(guò)對(duì)工人工資數(shù)據(jù)的實(shí)例分析說(shuō)明該方法給出的預(yù)測(cè)誤差相比group Lasso和group bridge來(lái)說(shuō)要小.因此,自適應(yīng)group bridge在組變量選擇的問(wèn)題中是一中非常好的方法.局部線(xiàn)性逼近算法是一個(gè)非常有效的算法,用來(lái)求解非凹懲罰問(wèn)題的全局最優(yōu)解.然而該方法的有效性高度依賴(lài)于一個(gè)相當(dāng)好的初始估計(jì).當(dāng)變量間存在多重共線(xiàn)性問(wèn)題時(shí),局部線(xiàn)性逼近算法就失效了.本文第五章提出了一個(gè)新的局部線(xiàn)性逼近嶺算法來(lái)解決變量的多重共線(xiàn)性.取嶺回歸估計(jì)作為初始估計(jì),局部線(xiàn)性逼近嶺算法在求解估計(jì)時(shí)穩(wěn)定并且有效.并且從理論上證明了算法的收斂性以及參數(shù)估計(jì)的Oracle性質(zhì).數(shù)值模擬通過(guò)多個(gè)例子驗(yàn)證局部線(xiàn)性逼近嶺算法的有效性.由模擬結(jié)果可知,在多重共線(xiàn)性存在的情況下,我們提出的算法表現(xiàn)要遠(yuǎn)遠(yuǎn)好于局部線(xiàn)性逼近算法.第六章對(duì)全文工作進(jìn)行了總結(jié),同時(shí)給出了下一步將要開(kāi)展的研究?jī)?nèi)容.
【圖文】：

Ｃ圖２．３．２：綠色虛線(xiàn)是參數(shù)無(wú)約束情況下函數(shù)ｙ的估計(jì)，藍(lán)色點(diǎn)線(xiàn)是參數(shù)有約束情況下函數(shù)．（；的估逡逑計(jì)，黑色實(shí)線(xiàn)是真實(shí)函數(shù)邋ｐ．邋（ａ）邋（ｎ，ｐｎ）邋＝邋（１００，９）；邋（ｂ）邋（ｎ，，％）邋＝邋（２００，１１）；邋（ｃ）邋（ｎ，ｐｎ）邋＝邋（３００，１３）．逡逑

圖３．４．１：邋ＭＳＥｓ的盒形圖，／７二１００；邋ｍｓｃ：表示無(wú)約束估計(jì)的ＭＳＥｓ；邋ｎｎｓｃ：表示約束估計(jì)的ＭＳＥｓ．逡逑（ａ）邋ｐｎ＝邋６；邋（ｂ）邋ｐｎ＝邋１０．逡逑
【學(xué)位授予單位】：曲阜師范大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位授予年份】：2019
【分類(lèi)號(hào)】：C815

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 馮三營(yíng);薛留根;范承華;;非線(xiàn)性半?yún)?shù)回歸模型中參數(shù)的經(jīng)驗(yàn)似然置信域[J];數(shù)學(xué)物理學(xué)報(bào);2009年05期

2 劉運(yùn)航;宋力杰;;病態(tài)半?yún)?shù)回歸模型的嶺估計(jì)求解[J];海洋測(cè)繪;2008年04期

3 薛留根;半?yún)?shù)回歸模型中誤差方差估計(jì)之分布的非一致性收斂速度[J];應(yīng)用數(shù)學(xué)學(xué)報(bào);2004年02期

4 邱瑾;刪失場(chǎng)合半?yún)?shù)回歸模型的二階段估計(jì)[J];高校應(yīng)用數(shù)學(xué)學(xué)報(bào)A輯(中文版);1998年03期

5 易東,王文昌,張蔚,許汝福;半?yún)?shù)回歸模型介紹[J];中國(guó)衛(wèi)生統(tǒng)計(jì);1998年04期

6 潘建敏;截尾數(shù)據(jù)半?yún)?shù)回歸模型的估計(jì)理論[J];杭州大學(xué)學(xué)報(bào)(自然科學(xué)版);1996年02期

7 陳蘭祥,李生文;半?yún)?shù)回歸模型參數(shù)的Bayes估計(jì)[J];同濟(jì)大學(xué)學(xué)報(bào)(自然科學(xué)版);1997年06期

8 高集體,洪圣巖,梁華,施沛德;半?yún)?shù)回歸模型研究的若干進(jìn)展[J];應(yīng)用概率統(tǒng)計(jì);1994年01期

9 吳鳳妹;;潛半?yún)?shù)回歸模型的變量選擇(英文)[J];四川大學(xué)學(xué)報(bào)(自然科學(xué)版);2011年02期

10 鄧輝;;半?yún)?shù)模型估計(jì)方法概述[J];現(xiàn)代商貿(mào)工業(yè);2010年05期

相關(guān)博士學(xué)位論文 前10條

1 王秀麗;高維半?yún)?shù)回歸模型的統(tǒng)計(jì)推斷及相關(guān)問(wèn)題研究[D];曲阜師范大學(xué);2019年

2 田瑞琴;縱向數(shù)據(jù)下半?yún)?shù)回歸模型的統(tǒng)計(jì)推斷[D];北京工業(yè)大學(xué);2014年

3 杜江;穩(wěn)健頻率模型平均與半?yún)?shù)回歸模型的估計(jì)[D];北京工業(yè)大學(xué);2013年

4 王曉佳;基于數(shù)據(jù)分析的預(yù)測(cè)理論與方法研究[D];合肥工業(yè)大學(xué);2012年

5 黃振生;含指標(biāo)項(xiàng)半?yún)?shù)回歸模型的估計(jì)與檢驗(yàn)[D];華東師范大學(xué);2010年

6 呂晶;幾類(lèi)半?yún)?shù)回歸模型的穩(wěn)健估計(jì)與變量選擇[D];重慶大學(xué);2015年

7 周曉堯;光電探測(cè)系統(tǒng)目標(biāo)定位誤差分析與修正問(wèn)題研究[D];國(guó)防科學(xué)技術(shù)大學(xué);2011年

8 韋程?hào)|;混合誤差過(guò)程回歸模型小波估計(jì)Berry-Esseen界[D];武漢大學(xué);2013年

9 肖燕婷;含非線(xiàn)性函數(shù)的半?yún)?shù)回歸模型的經(jīng)驗(yàn)似然推斷[D];西北工業(yè)大學(xué);2015年

10 嚴(yán)國(guó)義;縱向數(shù)據(jù)與生存數(shù)據(jù)的半?yún)?shù)聯(lián)合模型研究[D];武漢大學(xué);2013年

相關(guān)碩士學(xué)位論文 前10條

1 賈子璇;污染數(shù)據(jù)半?yún)?shù)回歸模型的最小一乘局部線(xiàn)性估計(jì)[D];吉林大學(xué);2019年

2 桑婧;帶有不可忽略缺失數(shù)據(jù)的半?yún)?shù)回歸模型的統(tǒng)計(jì)推斷[D];云南大學(xué);2018年

3 俞小飛;基于ρˉ混合序列的半?yún)?shù)回歸模型估計(jì)的相合性[D];吉林大學(xué);2018年

4 金偉華;長(zhǎng)江流域通航環(huán)境對(duì)油耗影響的半?yún)?shù)回歸模型效應(yīng)分析[D];武漢理工大學(xué);2016年

5 袁婷;基于半?yún)?shù)模型的新疆發(fā)電量實(shí)證分析與預(yù)測(cè)[D];伊犁師范學(xué)院;2018年

6 陳濤;我國(guó)外匯儲(chǔ)備影響因素的線(xiàn)性與半?yún)?shù)回歸模型對(duì)比及實(shí)證研究[D];江西財(cái)經(jīng)大學(xué);2018年

7 梅莉;誤差為時(shí)間序列的半?yún)?shù)回歸模型的刀切型小波估計(jì)[D];湖北師范學(xué)院;2012年

8 常素英;半?yún)?shù)回歸模型的漸進(jìn)性質(zhì)及其應(yīng)用[D];武漢科技大學(xué);2009年

9 董小娟;半?yún)?shù)回歸模型的一些理論研究[D];西北工業(yè)大學(xué);2002年

10 倪偉才;半?yún)?shù)回歸模型的相合性[D];浙江大學(xué);2002年

本文編號(hào)：2649828