【摘要】：由于最小絕對收縮和選擇算子(LASSO)模型在高維數(shù)據(jù)中應用的廣泛性,LASSO模型流行開來,一些推廣的LASSO模型也被提出來了.稀疏組LASSO是一個重要的LASSO類模型,這個模型是用來求解變量有分組性質(zhì)的線性回歸問題,而且這個模型求出的未知系數(shù)解不僅有組間稀疏性也有組內(nèi)稀疏性.同時,我們知道當噪聲服從重尾分布或有奇異值時,最小一乘是一個有用的模型.本文,我們將結合這兩種經(jīng)典的思想,提出一個稀疏組LAD模型.我們將證明,在一定條件下,稀疏組LAD模型的估計量有near oracle性質(zhì),即估計誤差L2范數(shù)的階達到O(√klogp/n)將以大概率成立.而且,利用線性化技巧,我們推廣了線性化乘子交替方向法來求解稀疏組LAD估計量,并證明此算法的收斂性.數(shù)值實驗用于說明所提出算法的有效性.
[Abstract]:Because of the universality of the minimum absolute contraction and the selection operator (LASSO) model applied in high dimensional data, some generalized LASSO models have been proposed. Sparse group LASSO is an important LASSO class model, which is used to solve linear regression problems of variables with grouping properties. Moreover, the unknown coefficient solutions obtained by this model have not only inter-group sparsity but also intra-group sparsity. At the same time, we know that the minimum multiplication is a useful model when the noise is distributed from the heavy tail or has a singular value. In this paper, we propose a sparse group LAD model combining these two classical ideas. We will prove that under certain conditions, the estimator of sparse set of LAD models has near oracle property, that is, the order of L _ 2 norm of estimation error O (klogp/n) will hold in large probability. Furthermore, by using the linearization technique, we extend the linearized multiplier alternating direction method to solve the sparse LAD estimators, and prove the convergence of the algorithm. Numerical experiments are used to illustrate the effectiveness of the proposed algorithm.
【學位授予單位】：北京交通大學
【學位級別】：碩士
【學位授予年份】：2017
【分類號】：O212.1

【相似文獻】

相關期刊論文 前10條

1 康金章;交替方向法迭代參數(shù)的確定[J];福州大學學報;1962年02期

2 孫敏;;求解結構型單調(diào)變分不等式的投影類交替方向法[J];安徽大學學報(自然科學版);2009年02期

3 曾文平;多維振動問題的交替方向法[J];福州大學學報;1982年04期

4 浦志勤;;解線性變分不等式問題的一個簡單交替方向法(英文)[J];南京師大學報(自然科學版);2007年03期

5 周瑾;交替方向法求解帶線性約束的變分不等式[J];高等學校計算數(shù)學學報;1999年02期

6 黎景;;求解一類非對稱單調(diào)變分不等式的非精確自適應交替方向法[J];數(shù)學理論與應用;2007年03期

7 胡伯霞;;一類非對稱單調(diào)變分不等式的自適應交替方向法[J];衡陽師范學院學報;2008年03期

8 陶敏;唐誠;;缺失信息的主成份分析[J];南京郵電大學學報(自然科學版);2013年01期

9 藍健朋;樂仲;劉光泓;申呈潔;;基于交替方向法的混合l_(2,1)-正規(guī)化的組稀疏優(yōu)化算法[J];科技信息;2013年17期

10 李建宇;解非線性方程組的單調(diào)牛頓-交替方向法[J];高等學校計算數(shù)學學報;1982年02期

相關會議論文 前1條

1 李敏;何炳生;;求解帶約束的min-max問題的預測校正交替方向法[A];2006年中國運籌學會數(shù)學規(guī)劃分會代表會議暨第六屆學術會議論文集[C];2006年

相關博士學位論文 前4條

1 晁綿濤;帶回代乘子交替方向法與誤差界研究[D];北京工業(yè)大學;2015年

2 王金江;乘子交替方向法與函數(shù)二階增長條件[D];哈爾濱工業(yè)大學;2016年

3 郭科;非凸優(yōu)化問題Douglas-Rachford分裂方法的收斂性分析[D];南京師范大學;2017年

4 賈澤慧;優(yōu)化問題分裂算法及早高峰擁堵問題研究[D];南京師范大學;2017年

相關碩士學位論文 前10條

1 郭來鵬;求解H權重的最近相關系數(shù)矩陣問題的交替方向法[D];大連理工大學;2015年

2 竇莉峰;用交替方向法求解離散線性二次最優(yōu)控制問題[D];河北工業(yè)大學;2015年

3 宋永存;求解帶Stokes方程約束最優(yōu)控制問題的交替方向法[D];吉林大學;2016年

4 吳中明;解可分離凸優(yōu)化問題的線性化交替方向法[D];南京師范大學;2016年

5 王慧芳;線性化乘子交替方向法求解稀疏組最小一乘模型[D];北京交通大學;2017年

6 王艷艷;交替方向法及其改進算法的研究[D];重慶大學;2013年

7 黎蕾;求解凸最優(yōu)化問題的近似交替方向法[D];重慶師范大學;2013年

8 黎景;求解一類單調(diào)變分不等式的交替方向法[D];湖南大學;2008年

9 李玉勝;交替方向法及其應用[D];中國科學技術大學;2015年

10 胡伯霞;求解一類非對稱單調(diào)變分不等式的交替方向法[D];湖南大學;2006年

，

本文編號：2188451