本文選題：K綜合主成分估計(jì) + 函數(shù)型嶺估計(jì)　； 參考：《山東大學(xué)》2015年碩士論文

【摘要】：線性回歸模型作為統(tǒng)計(jì)學(xué)科中最基礎(chǔ)、應(yīng)用最廣泛的數(shù)學(xué)模型,是探求變量間關(guān)系、分析數(shù)據(jù)有效性的有力工具。本文主要圍繞：線性回歸模型參數(shù)估計(jì)方法、線性回歸模型異常點(diǎn)檢測(cè)方法兩部分展開研究,針對(duì)各自的研究方法給予了理論上的改進(jìn)與程序上的實(shí)現(xiàn)�；貧w模型建立的目的在于得到變量之間的相關(guān)關(guān)系,即參數(shù)估計(jì)。經(jīng)典的參數(shù)估計(jì)思想是使估計(jì)偏差的平方最小,稱為最小二乘估計(jì)。在Gauss-Markou假設(shè)下,最小二乘估計(jì)是無偏估計(jì)類中方差最小的估計(jì)方法。當(dāng)自變量之間存在某種近似的線性關(guān)系時(shí),會(huì)導(dǎo)致最小二乘估計(jì)的均方誤差很大。前人針對(duì)傳統(tǒng)方法的不足,提出了主成分估計(jì)與嶺估計(jì)。本文對(duì)上述方法進(jìn)行了綜合與改進(jìn),提出了K綜合主成分估計(jì)。該方法將特征值矩陣A按照矩陣XrX特征值的大小劃分為人1和人2兩部分,并在包含少部分信息的人2中加上K=diag(kq+1,…,kp),其中常數(shù)kj≥0,j=q+1,...,p.然后給出了K綜合主成分估計(jì)在均方誤差意義下優(yōu)于最小二乘估計(jì)以及廣義嶺估計(jì)的條件。傳統(tǒng)的嶺估計(jì)只考慮對(duì)特征值加同一個(gè)常數(shù)k的情況,未考慮對(duì)不同特征值加不同常數(shù)的情況。本文又提出了函數(shù)型嶺估計(jì),在特征值矩陣人1中加上關(guān)于K的函數(shù)矩陣F(K)=diag(f1(k1),f2(k2),…,fq(kq)),其中已知函數(shù)fi(ki),i=1,...,q滿足一定的非負(fù)與可微性條件。理論上證明了函數(shù)型嶺估計(jì)在均方誤差意義下優(yōu)于主成分估計(jì)和最小二乘估計(jì)的條件,以及在廣義均方誤差意義下優(yōu)于最小二乘估計(jì)的條件�；貧w模型建立時(shí)需要剔除與原定模型偏差大的數(shù)據(jù),即異常點(diǎn)檢驗(yàn)。本文對(duì)異常點(diǎn)檢驗(yàn)的常用方法進(jìn)行了細(xì)致的討論與研究。在數(shù)據(jù)刪除模型中,刪除一行或多行樣本數(shù)據(jù),會(huì)遇到設(shè)計(jì)陣X為非列滿秩的情況。而最小二乘估計(jì)是基于設(shè)計(jì)陣列滿秩的假設(shè)下進(jìn)行參數(shù)估計(jì)的。若不滿足,則矩陣XTX無法求逆。為了克服這種情況,本文考慮利用廣義逆的思想,通過奇異值分解的方法來求矩陣XTX的廣義逆；在均值漂移模型中,t統(tǒng)計(jì)量是判斷異常點(diǎn)的常用統(tǒng)計(jì)量。本文利用MATLAB軟件編程,隨機(jī)生成了自變量和誤差項(xiàng)的樣本數(shù)據(jù),根據(jù)給定的回歸模型計(jì)算因變量的值,得到參數(shù)的最小二乘估計(jì)。并利用對(duì)樣本點(diǎn)施加“擾動(dòng)”的思想,對(duì)t統(tǒng)計(jì)量的靈敏度進(jìn)行了模擬評(píng)估；在異方差模型中,本文將經(jīng)典的Lagrange乘子法引入異常點(diǎn)檢驗(yàn)。將齊方差性假設(shè)作為加權(quán)最小二乘估計(jì)的約束條件,根據(jù)Lagrange乘子法的核心思想將此約束最優(yōu)化問題轉(zhuǎn)化為無約束最優(yōu)化問題,不再需要構(gòu)造檢驗(yàn)統(tǒng)計(jì)量和計(jì)算分布函數(shù)。最后,本文通過實(shí)例進(jìn)行了方法實(shí)現(xiàn)。
[Abstract]:The linear regression model is the most basic and widely used mathematical model in the statistical discipline . It is a powerful tool for finding out the relationship between variables and analyzing the validity of data .
In the mean - drift model , the t - statistic is a common statistic for judging the abnormal points . In this paper , the sample data of arguments and error terms are randomly generated by using MATLAB software , and the value of the dependent variable is calculated according to a given regression model , and the least square estimation of the parameters is obtained . The sensitivity of the t statistic is simulated by applying the idea of " disturbance " to the sample points ;
In the heteroscedasticity model , the classical Lagrange multiplier method is introduced into the anomaly point test . As the constraint of weighted least square estimation , the constraint optimization problem is transformed into unconstrained optimization problem according to the core idea of Lagrange multiplier method , and it is no longer necessary to construct the test statistic and the calculation distribution function . Finally , the method is implemented by way of example .

【學(xué)位授予單位】：山東大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2015
【分類號(hào)】：O212.1

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 張二艷;許燕;;利用配方法求解最小二乘估計(jì)的的應(yīng)用研究[J];北京印刷學(xué)院學(xué)報(bào);2009年06期

2 吳慎言;;最小二乘估計(jì)器存在性的研究[J];西安工程科技學(xué)院學(xué)報(bào);1992年01期

3 吳劉倉,黃文亮,詹金龍;最小二乘估計(jì)的有效性[J];昆明理工大學(xué)學(xué)報(bào)(自然科學(xué)版);2001年02期

4 崔博文,陳劍,陳心昭,任章;復(fù)參數(shù)最小二乘估計(jì)方法[J];安徽大學(xué)學(xué)報(bào)(自然科學(xué)版);2005年03期

5 肖庭延;張培培;閻金華;;正則化的最小二乘估計(jì)及其應(yīng)用[J];高等學(xué)校計(jì)算數(shù)學(xué)學(xué)報(bào);2005年S1期

6 車金銳;梁剛;陳敏茹;;基于小波測(cè)量預(yù)處理的最小二乘估計(jì)[J];數(shù)學(xué)的實(shí)踐與認(rèn)識(shí);2006年04期

7 劉湘蓉;;最小二乘估計(jì)關(guān)于誤差分布的穩(wěn)健性[J];應(yīng)用概率統(tǒng)計(jì);2006年04期

8 李兵;朱寧;唐文芳;段復(fù)建;;改進(jìn)的最小二乘估計(jì)確定高精度參數(shù)模型[J];統(tǒng)計(jì)與決策;2007年23期

9 吳如光;;約束最小二乘估計(jì)關(guān)于誤差分布的穩(wěn)健性[J];西安文理學(xué)院學(xué)報(bào)(自然科學(xué)版);2008年02期

10 藺煥泉;;普通最小二乘估計(jì)方差表達(dá)式的等價(jià)性[J];長(zhǎng)春大學(xué)學(xué)報(bào);2010年02期

相關(guān)會(huì)議論文 前5條

1 陳歡;楊德森;時(shí)勝國;;最小二乘估計(jì)的矢量陣近場(chǎng)虛擬聚焦算法[A];2008年全國聲學(xué)學(xué)術(shù)會(huì)議論文集[C];2008年

2 范龍;白鴿;;基于抗差最小二乘估計(jì)的載體速度計(jì)算方法[A];第二屆中國衛(wèi)星導(dǎo)航學(xué)術(shù)年會(huì)電子文集[C];2011年

3 張崇高;;Fuzzy變量的配方回歸模型的最小二乘估計(jì)[A];模糊集理論與模糊應(yīng)用專輯——中國系統(tǒng)工程學(xué)會(huì)模糊數(shù)學(xué)與模糊系統(tǒng)委員會(huì)第十屆年會(huì)論文選集[C];2000年

4 崔博文;陳劍;陳心昭;任章;;基于U-D分解的復(fù)參數(shù)最小二乘估計(jì)方法[A];第二十三屆中國控制會(huì)議論文集（上冊(cè)）[C];2004年

5 劉娜;張端金;楊林;;基于SVD的偏差補(bǔ)償最小二乘估計(jì)算法[A];2011年中國智能自動(dòng)化學(xué)術(shù)會(huì)議論文集（第一分冊(cè)）[C];2011年

相關(guān)博士學(xué)位論文 前1條

1 趙媛媛;信號(hào)模型中若干參數(shù)估計(jì)問題的研究[D];中國科學(xué)技術(shù)大學(xué);2011年

相關(guān)碩士學(xué)位論文 前10條

1 蘇千葉;線性回歸模型參數(shù)估計(jì)及異常點(diǎn)檢測(cè)方法的改進(jìn)[D];山東大學(xué);2015年

2 盧冬暉;約束泛最小二乘估計(jì)及其影響分析[D];湖北師范學(xué)院;2014年

3 桂詠新;奇異增長(zhǎng)曲線模型中參數(shù)陣的最優(yōu)估計(jì)及最小二乘估計(jì)的有效性[D];華中師范大學(xué);2003年

4 于家富;回歸系數(shù)的混合估計(jì)和最小二乘估計(jì)的相對(duì)效率[D];山東師范大學(xué);2006年

5 劉洪偉;線性模型最小二乘估計(jì)遞推算法[D];東北林業(yè)大學(xué);2012年

6 王劍;線性回歸系數(shù)的Stein估計(jì)[D];華中科技大學(xué);2007年

7 尤太林;EV模型的正交回歸分析[D];貴州財(cái)經(jīng)學(xué)院;2011年

8 詹小平;工具變量回歸中的估計(jì)問題[D];東北師范大學(xué);2006年

9 黃超;推廣增長(zhǎng)曲線模型中協(xié)差陣的最小二乘估計(jì)及其優(yōu)良性[D];華中師范大學(xué);2001年

10 王曉光;序約束下ARCH模型最小二乘估計(jì)[D];吉林大學(xué);2004年

，

本文編號(hào)：1742342