本文關鍵詞：改進的隨機交替方向乘子方法，，由筆耕文化傳播整理發(fā)布。

【摘要】：最近,隨著信息技術的高速發(fā)展和大數據時代的到來,在解決優(yōu)化問題時,我們常常會遇到大規(guī)模的問題.因此,能夠找到一個有效的方法去解決此類問題變得越來越重要.交替方向乘子方法是適合可分離結構凸優(yōu)化問題的一個簡單但很強大的算法.它的主要思想是將復雜的大規(guī)模優(yōu)化問題分解成多個子問題,通過交替地求解一系列子問題而得出原問題的解.因為它應用的廣泛性與有效性,吸引了許多學者們的關注.目前對此方法已經有了很多的推廣和改進算法,其中隨機交替方向乘子方法也已經成為近期優(yōu)化領域的研究熱點.本文主要提出了一個新的改進的隨機交替方向乘子方法,并且給出了此算法相應的收斂性分析.同時,數值實驗結果也驗證了該算法的有效性.本文的結構安排如下：第一章：主要介紹了最優(yōu)化問題的一些理論知識和部分研究背景.針對帶有線性約束的大規(guī)模凸優(yōu)化問題模型,簡要地介紹了最近提出的幾類隨機交替方向乘子方法的應用背景及其優(yōu)缺點,隨后介紹本論文的主要內容和章節(jié)安排.第二章：針對目標函數是兩個可分凸函數和的大規(guī)模凸優(yōu)化問題,我們提出了一個新的改進的隨機交替方向乘子方法,并給出了此方法的迭代格式以及相應的具體算法.第三章：對于第二章提出的新的算法,我們分別用兩種不同的迭代平均方式,從理論上證明了新提出算法相應的收斂速率.第四章：針對廣義的Lasso模型,我們對該算法以及參考文獻中最近提出的幾類隨機算法進行了數值實驗.然后通過對它們的數值結果進行比較,驗證了該算法的可行性和有效性.第五章：總結全文,并給出接下來可以考慮的幾個問題.
【關鍵詞】：凸優(yōu)化 ADMM算法 隨機交替方向乘子方法 收斂速率
【學位授予單位】：上海大學
【學位級別】：碩士
【學位授予年份】：2016
【分類號】：O224
【目錄】：

• 摘要5-6
• ABSTRACT6-8
• 第一章 緒論8-19
• 1.1 最優(yōu)化理論與算法8-15
• 1.1.1 無約束最優(yōu)化9-11
• 1.1.2 約束最優(yōu)化11-15
• 1.2 隨機ADMM算法的研究簡介15-18
• 1.3 本論文的主要工作以及內容安排18-19
• 第二章 改進的隨機交替方向乘子方法19-23
• 2.1 SVR-ADMM算法19-22
• 2.2 本章小結22-23
• 第三章 收斂性分析23-33
• 3.1 收斂性分析23-31
• 3.2 本章小結31-33
• 第四章 數值實驗33-40
• 4.1 數值實驗33-39
• 4.2 本章小結39-40
• 第五章 總結和展望40-41
• 參考文獻41-46
• 攻讀碩士學位期間發(fā)表的文章46-47
• 致謝47

【相似文獻】

中國期刊全文數據庫 前10條

1 方紅衛(wèi);交替方向的三維有限分析方法[J];水動力學研究與進展(A輯);1994年05期

2 袁益讓;三維油水運移聚集數值模擬的交替方向格式和分析[J];數學物理學報;1999年02期

3 張爭茹;帶有遷移的瘧疾病與瘧蚊數學模型的交替方向有限元法及其數值分析[J];生物數學學報;2003年01期

4 黎麗梅;;交替方向隱式歐拉方法在偏積分微分方程中的應用[J];北華大學學報(自然科學版);2012年02期

5 袁益讓,趙衛(wèi)東,程愛杰,韓玉笈;油水運移聚集數值模擬和分析[J];應用數學和力學;1999年04期

6 那順布和,蘇志勛,張志躍;一個血吸蟲病數學模型的交替方向有限元分析[J];生物數學學報;2004年03期

7 高夫征;一類非線性拋物型方程組的交替方向多步法及其理論分析[J];山東大學學報(理學版);2005年04期

8 來翔;袁益讓;;一類三維擬線性雙曲型方程交替方向有限元法[J];計算數學;2010年01期

9 黎麗梅;;交替方向隱式差分法在分數次微分方程中的應用[J];湖南理工學院學報(自然科學版);2012年03期

10 陳蔚;三維含彌散可壓核廢料污染問題的交替方向有限元方法[J];系統科學與數學;2003年02期

中國重要會議論文全文數據庫 前4條

1 曹淵;王鐵良;郭永輝;田宙;;三維飽和——非飽和滲流的交替方向隱式求解算法[A];第十六屆全國流體力學數值方法研討會2013論文集[C];2013年

2 張寶琳;;交替差分塊方法及其差分圖[A];中國工程物理研究院科技年報（1998）[C];1998年

3 劉波;高本慶;薛正輝;胡瀝;;交替方向隱式FDTD法[A];全國電磁兼容學術會議論文集[C];2001年

4 王燕;田振夫;魏劍英;;Navier-Stokes方程組的一種四階緊致交替方向隱式差分方法[A];第七屆全國水動力學學術會議暨第十九屆全國水動力學研討會文集（上冊）[C];2005年

中國博士學位論文全文數據庫 前4條

1 黎麗梅;分數階偏微分方程交替方向有限元誤差分析[D];湖南師范大學;2013年

2 鄧定文;高精度交替方向隱式差分法的理論與應用[D];華中科技大學;2012年

3 來翔;幾類雙曲型方程交替方向有限元分析[D];山東大學;2007年

4 馬寧;發(fā)展型方程的高階正交配置方法[D];山東大學;2006年

中國碩士學位論文全文數據庫 前9條

1 何宜盛;Lasso問題以及其在證券指數稀疏回歸中的應用[D];南京大學;2016年

2 楊森;大數據下城市應急藥品的藥店選擇規(guī)劃[D];吉林大學;2016年

3 李瑩瑩;改進的隨機交替方向乘子方法[D];上海大學;2016年

4 張t;雙曲方程的交替方向隱式差分方法[D];中國海洋大學;2004年

5 許浩鋒;基于交替方向乘子法的分布式在線學習算法[D];中國科學技術大學;2015年

6 張伶伶;幾類發(fā)展方程的有限差分方法[D];青島科技大學;2007年

7 趙繼偉;拋物問題的區(qū)域分解和交替方向有限差分算法[D];山東大學;2013年

8 王偉敏;二維廣義有阻尼Sine-Gordon方程的交替方向差分方法[D];河南師范大學;2012年

9 吳威威;Cahn-Allen方程與Cahn-Hilliard方程半隱的交替方向discontinuous Galerkin方法[D];上海交通大學;2012年

  本文關鍵詞：改進的隨機交替方向乘子方法，由筆耕文化傳播整理發(fā)布。

本文編號：478220