矩陣優(yōu)化問題的數(shù)值算法
發(fā)布時間:2017-04-16 18:09
本文關(guān)鍵詞:矩陣優(yōu)化問題的數(shù)值算法,由筆耕文化傳播整理發(fā)布。
【摘要】:矩陣優(yōu)化問題(Matrix Optimization Problems)是指目標(biāo)函數(shù)或約束函數(shù)中含有矩陣變量的優(yōu)化問題,這類問題大量出現(xiàn)在工程計算、金融分析、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、高維統(tǒng)計等領(lǐng)域.伴隨著大數(shù)據(jù)時代的來臨,矩陣優(yōu)化(Matrix Optimization)逐漸成為最優(yōu)化領(lǐng)域的一個重要分支.在本論文中我們研究了三類矩陣優(yōu)化問題的數(shù)值算法,包括求解一類l22-lpp矩陣極小化問題的光滑化Majorization方法、求解一類半定二次規(guī)劃逆問題的交替方向方法、求解一類阻尼陀螺特征值逆問題的基于加速鄰近梯度策略的增廣Lagrange算法.本論文的主要內(nèi)容概括如下:1.論文的第三章研究了求解一類l22-lpp矩陣極小化問題的光滑化Majorization方法,其中ι22-ιpp模型是求解矩陣秩極小化問題的一類非凸正則化模型.首先,借助問題的一階和二階必要條件給出了問題局部最優(yōu)解處非零奇異值的下界估計.然后,使用光滑化技術(shù)和Majorization算法來改善lpp矩陣擬范數(shù)的分析性質(zhì),同時構(gòu)造對應(yīng)的光滑化模型、設(shè)計光滑化Majorization算法.收斂性定理表明:由算法生成的迭代點列的任一聚點均滿足ι22-ιpp矩陣極小化問題的一階必要條件.最后,將提出的算法與非零奇異值的下界估計相結(jié)合應(yīng)用于求解矩陣完整化問題.2.論文的第四章研究了一類半定二次規(guī)劃逆問題,并且針對此問題提出了一個交替方向方法.在這一方法中,一個方向的子問題具有顯式解,而另一方向的子問題可以在一些假設(shè)條件下轉(zhuǎn)化為一個定義在低維半正定錐上的嚴(yán)格凸半定二次規(guī)劃問題.進(jìn)一步給出了求解此矩陣優(yōu)化子問題的譜投影梯度算法并證明了其收斂性.數(shù)值結(jié)果表明:與牛頓類算法相比,本論文提出的算法容易操作和編寫相應(yīng)程序,能夠快速地得到問題的最優(yōu)解.3.論文的第五章在增廣Lagrange算法框架下考慮阻尼陀螺特征值逆問題的求解算法,其中子問題用加速鄰近梯度算法求解.在通常的假設(shè)條件下,證明了算法的全局收斂性.在沒有任何正則性條件的假設(shè)下,通過分析算法的迭代復(fù)雜度得到:算法僅需要至多O(log(ε-1))次迭代和至多0(ε-1)次加速鄰近梯度計算就能得到問題ε可行、ε最優(yōu)的數(shù)值解.
【關(guān)鍵詞】:矩陣優(yōu)化 l_2~2-l_p~p矩陣極小化問題 光滑化Majorization方法 半定二次規(guī)劃逆問題 交替方向方法 阻尼陀螺特征值逆問題 加速鄰近梯度算法 增廣Lagrange算法
【學(xué)位授予單位】:大連理工大學(xué)
【學(xué)位級別】:博士
【學(xué)位授予年份】:2015
【分類號】:O151.21
【目錄】:
- 摘要4-5
- Abstract5-11
- 圖目錄11
- 表目錄11-12
- 主要符號表12-13
- 1 緒論13-23
- 1.1 矩陣優(yōu)化問題的簡介13-15
- 1.2 矩陣優(yōu)化問題的研究現(xiàn)狀15-21
- 1.2.1 矩陣秩優(yōu)化問題的算法研究現(xiàn)狀16-17
- 1.2.2 半定二次規(guī)劃逆問題的算法研究現(xiàn)狀17-20
- 1.2.3 阻尼陀螺特征值逆問題的算法研究現(xiàn)狀20-21
- 1.3 本論文的主要內(nèi)容21-23
- 2 預(yù)備知識23-31
- 2.1 變分分析中的基本概念和結(jié)論23-25
- 2.2 矩陣分解的相關(guān)結(jié)論25-26
- 2.3 對稱矩陣譜函數(shù)的性質(zhì)26-28
- 2.4 算法的基本思想28-31
- 2.4.1 交替方向算法28-29
- 2.4.2 譜投影梯度算法29
- 2.4.3 Majorization算法29-31
- 3 求解一類l_2~2-l_p~p矩陣極小化問題的光滑化Majorization方法31-57
- 3.1 引言31-32
- 3.2 下界分析32-37
- 3.3 光滑化模型37-42
- 3.4 光滑化Majorization算法42-48
- 3.5 數(shù)值實驗48-55
- 3.5.1 矩陣完整化問題49-52
- 3.5.2 算法比較52-55
- 3.6 本章小結(jié)55-57
- 4 求解一類半定二次規(guī)劃逆問題的交替方向方法57-75
- 4.1 引言57
- 4.2 交替方向方法57-71
- 4.2.1 子問題(4.8)的求解60
- 4.2.2 子問題(4.9)的求解60-65
- 4.2.3 求解子問題(4.28)的譜投影梯度算法65-70
- 4.2.4 交替方向方法的停止準(zhǔn)則70-71
- 4.3 數(shù)值實驗71-74
- 4.3.1 算法ADM-ISDQP的測試72
- 4.3.2 算法比較72-74
- 4.4 本章小結(jié)74-75
- 5 求解一類阻尼陀螺特征值逆問題的增廣Lagrange算法75-103
- 5.1 引言75-78
- 5.2 基于加速鄰近梯度策略的增廣Lagrange算法78-84
- 5.2.1 求解子問題(P~v)的加速鄰近梯度算法81-83
- 5.2.2 關(guān)于停止準(zhǔn)則ITER-stop和GARD-stop的討論83-84
- 5.3 收斂性結(jié)果84-90
- 5.4 迭代復(fù)雜度分析90-96
- 5.5 數(shù)值實驗96-102
- 5.5.1 求解子問題的線搜索算法96-100
- 5.5.2 算法比較100-101
- 5.5.3 求解結(jié)構(gòu)化工程問題中阻尼陀螺特征值逆問題101-102
- 5.6 本章小結(jié)102-103
- 6 結(jié)論與展望103-105
- 6.1 結(jié)論103
- 6.2 創(chuàng)新點103-104
- 6.3 展望104-105
- 參考文獻(xiàn)105-111
- 附錄111-115
- 攻讀博士學(xué)位期間發(fā)表學(xué)術(shù)論文情況115-117
- 致謝117-119
- 作者簡介119
本文關(guān)鍵詞:矩陣優(yōu)化問題的數(shù)值算法,,由筆耕文化傳播整理發(fā)布。
本文編號:311367
本文鏈接:http://sikaile.net/shoufeilunwen/jckxbs/311367.html
最近更新
教材專著