一類凸優(yōu)化問題的隨機下降算法及其應用
發(fā)布時間:2020-04-04 19:44
【摘要】:近年來,最優(yōu)化問題的研究和發(fā)展得到了廣泛的關注.隨著大數(shù)據(jù)時代的到來,源于工程、信息、生物等很多應用問題中,所求模型可以被歸納為等式約束優(yōu)化問題.由于目標函數(shù)可能非光滑、問題規(guī)模又特別巨大,傳統(tǒng)的內(nèi)點算法等往往不適合,這些問題可以使用增廣拉格朗日算法或者ADMM算法等一階算法求解更為適合.其中,ADMM算法利用目標函數(shù)關于兩塊變量的可分性,把一個規(guī)模較大的子問題轉化為兩個規(guī)模較小的子問題求解,大大簡化了子問題的計算量.由于這些問題的重要應用價值,近十幾年,學者們提出了一系列ADMM的改進算法.其中,ADMM下降算法(DADMM)可以在保持每步計算量基本不變的前提下,通過對部分變量進行延拓,提高了ADMM的收斂速度.另一方面,有學者提出利用隨機步長加快投影收縮算法的收斂速度.本文在ADMM下降算法的基礎之上,結合了隨機步長的思想,提出了隨機步長ADMM下降算法(RDADMM),進一步提高了收斂速度.同時,針對目標函數(shù)具有特殊結構的情形,有學者提出了線性化ADMM算法,利用目標函數(shù)的結構,通過對ADMM子問題進行線性化等改造使其有顯式解,簡化了子問題求解.基于此算法,又有學者將線性化ADMM算法和ADMM下降算法相結合,提出了線性化ADMM下降算法,在保持子問題有顯式解的前提之下提升了線性化ADMM算法的收斂速度.本文結合隨機步長思想,提出了隨機步長的線性化ADMM下降算法(RDLADMM).通過求解帶等式約束的二次規(guī)劃數(shù)值實驗,新算法的計算效率得到了驗證.本文具體研究內(nèi)容安排如下:第一章,主要介紹了選題背景和研究意義,以及ADMM算法的國內(nèi)外研究現(xiàn)狀,并闡述了本文的主要工作.第二章,介紹本文的研究成果.針對求解帶有兩塊變量的結構型凸優(yōu)化問題,我們提出了兩種新算法,即RDADMM算法和RDLADMM算法.第三章,給出了本文新算法的收斂性分析和證明.第四章,證明了本文新算法收斂速率為O(1/t).第五章,數(shù)值實驗.將RDADMM算法應用于求解帶有兩塊變量結構型凸優(yōu)化問題,驗證其計算效率.第六章,對本文的研究進行總結和展望.
【學位授予單位】:南京財經(jīng)大學
【學位級別】:碩士
【學位授予年份】:2018
【分類號】:O224
本文編號:2613997
【學位授予單位】:南京財經(jīng)大學
【學位級別】:碩士
【學位授予年份】:2018
【分類號】:O224
【參考文獻】
相關期刊論文 前3條
1 徐海文;;一類凸優(yōu)化的混合下降算法[J];計算數(shù)學;2012年01期
2 徐海文;;一類單調(diào)非線性變分不等式的前向加速收縮算法[J];數(shù)值計算與計算機應用;2011年04期
3 徐海文;;一類變分不等式的隨機步長收縮算法[J];工程數(shù)學學報;2011年04期
,本文編號:2613997
本文鏈接:http://sikaile.net/kejilunwen/yysx/2613997.html
最近更新
教材專著