發(fā)布時(shí)間：2018-06-21 14:29

  本文選題：乘子交替方向法 + Kurdyka-Lojasiewicz不等式　； 參考：《南京師范大學(xué)》2017年博士論文

【摘要】：在本文中,我們研究了 Douglas-Rachford算子分裂方法求解非凸優(yōu)化問(wèn)題的收斂性分析.論文由四部分構(gòu)成,結(jié)構(gòu)如下:第一、二章,給出了本文的研究背景及所要用到的一些預(yù)備知識(shí).第三章,我們考慮乘子交替方向法求解線性約束非凸優(yōu)化問(wèn)題的收斂性分析.本質(zhì)上,乘子交替方向法可以看作Douglas-Rachford分裂方法應(yīng)用到兩塊線性約束可分凸優(yōu)化問(wèn)題的對(duì)偶問(wèn)題.對(duì)于許多應(yīng)用問(wèn)題中的大規(guī)�？煞謨�(yōu)化問(wèn)題,目標(biāo)函數(shù)為凸函數(shù)或是非凸函數(shù),利用經(jīng)典的乘子交替方向法來(lái)求解是非常有效的.雖然對(duì)于凸目標(biāo)函數(shù)的情形已經(jīng)有了非常多的收斂性分析結(jié)果,目標(biāo)函數(shù)為非凸的情形仍然是一個(gè)公開(kāi)問(wèn)題,這方面的研究仍在初期.我們考慮三種問(wèn)題,即線性約束兩塊可分非凸優(yōu)化問(wèn)題,線性約束多塊可分非凸優(yōu)化問(wèn)題,具有耦合目標(biāo)函數(shù)的線性約束非凸優(yōu)化問(wèn)題.通過(guò)假定相應(yīng)的增廣拉格朗日函數(shù)滿足Kurdyka-Lojasiewicz不等式,當(dāng)增廣拉格朗日函數(shù)中的罰參數(shù)充分大時(shí),我們證明了用乘子交替方向法求解這些問(wèn)題產(chǎn)生的迭代序列收斂到增廣拉格朗日函數(shù)的穩(wěn)定點(diǎn).在一些更多的假設(shè)下,我們分析了該算法的收斂速率.第四章,我們考慮利用Douglas-Rachford分裂方法求解極小化一個(gè)強(qiáng)凸函數(shù)與一個(gè)弱凸函數(shù)和的優(yōu)化問(wèn)題的收斂性分析.該模型有非常多的應(yīng)用,特別是某些稀疏性驅(qū)動(dòng)的問(wèn)題,可以避免通常用凸的罰項(xiàng)產(chǎn)生的偏差估計(jì).若目標(biāo)函數(shù)中的兩個(gè)函數(shù)都是凸函數(shù),Douglas-Rachford分裂方法的收斂性已經(jīng)有了非常多地研究.然而當(dāng)目標(biāo)函數(shù)中含有非凸函數(shù)時(shí),包括“強(qiáng)凸+弱凸”的情形,該算法的收斂性研究仍在初期.與現(xiàn)有的文獻(xiàn)相比,我們?cè)谙鄬?duì)較弱的假設(shè)下證明了 Douglas-Rachford分裂方法求解“強(qiáng)凸+弱凸”問(wèn)題的收斂性.更多地,我們證明了Douglas-Rachford算子的漸近正則速率,并且在度量次正則性假設(shè)下,我們證明了該算法的局部線性收斂速率.
[Abstract]:In this paper we study the convergence analysis of the Douglas-Rachford operator splitting method for solving nonconvex optimization problems. The paper is composed of four parts. The structure is as follows: the first and second chapters give the research background and some preparatory knowledge to be used in this paper. In chapter 3, we consider the convergence analysis of the linear constrained nonconvex optimization problem with the multiplicator alternating direction method. In essence, the multiplier alternating direction method can be considered as a dual problem for two linear constrained separable convex optimization problems by using the Douglas Rachford splitting method. For the large scale separable optimization problems in many applications, the objective function is convex function or non-convex function, so it is very effective to solve the problem by using the classical alternating direction method of multipliers. Although there are many convergence analysis results for convex objective functions, the case where the objective functions are non-convex is still an open problem, and the research on this aspect is still in its infancy. We consider three kinds of problems, namely, linear constraint two block separable nonconvex optimization problem, linear constraint multi block separable nonconvex optimization problem, linear constrained nonconvex optimization problem with coupling objective function. By assuming that the corresponding augmented Lagrange function satisfies the Kurdyka-Lojasiewicz inequality, when the penalty parameters in the augmented Lagrangian function are sufficiently large, We prove that the iterative sequence generated by the method of alternating direction of multipliers converges to the stable point of the augmented Lagrange function. Under some more assumptions, we analyze the convergence rate of the algorithm. In chapter 4, we consider the convergence analysis of minimization of a strongly convex function and a weak convex function sum by using the Douglas -Rachford splitting method. This model has a lot of applications, especially for some sparse driving problems, which can avoid the deviation estimation caused by convex penalty term. If both of the objective functions are convex, the convergence of the Douglas Rachford splitting method has been studied. However, when the objective function contains a non-convex function, including the case of "strong convexity and weak convexity", the convergence of the algorithm is still in its infancy. Compared with the existing literatures, we prove the convergence of the Douglas-Rachford splitting method for solving "strong convex and weak convex" problems under relatively weak assumptions. Furthermore, we prove the asymptotic regular rate of the Douglas Rachford operator, and we prove the local linear convergence rate of the algorithm under the assumption of metric subregularity.
【學(xué)位授予單位】：南京師范大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位授予年份】：2017
【分類(lèi)號(hào)】：O224

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 康金章;交替方向法迭代參數(shù)的確定[J];福州大學(xué)學(xué)報(bào);1962年02期

2 孫敏;;求解結(jié)構(gòu)型單調(diào)變分不等式的投影類(lèi)交替方向法[J];安徽大學(xué)學(xué)報(bào)(自然科學(xué)版);2009年02期

3 曾文平;多維振動(dòng)問(wèn)題的交替方向法[J];福州大學(xué)學(xué)報(bào);1982年04期

4 浦志勤;;解線性變分不等式問(wèn)題的一個(gè)簡(jiǎn)單交替方向法(英文)[J];南京師大學(xué)報(bào)(自然科學(xué)版);2007年03期

5 周瑾;交替方向法求解帶線性約束的變分不等式[J];高等學(xué)校計(jì)算數(shù)學(xué)學(xué)報(bào);1999年02期

6 黎景;;求解一類(lèi)非對(duì)稱單調(diào)變分不等式的非精確自適應(yīng)交替方向法[J];數(shù)學(xué)理論與應(yīng)用;2007年03期

7 胡伯霞;;一類(lèi)非對(duì)稱單調(diào)變分不等式的自適應(yīng)交替方向法[J];衡陽(yáng)師范學(xué)院學(xué)報(bào);2008年03期

8 陶敏;唐誠(chéng);;缺失信息的主成份分析[J];南京郵電大學(xué)學(xué)報(bào)(自然科學(xué)版);2013年01期

9 藍(lán)健朋;樂(lè)仲;劉光泓;申呈潔;;基于交替方向法的混合l_(2,1)-正規(guī)化的組稀疏優(yōu)化算法[J];科技信息;2013年17期

10 李建宇;解非線性方程組的單調(diào)牛頓-交替方向法[J];高等學(xué)校計(jì)算數(shù)學(xué)學(xué)報(bào);1982年02期

相關(guān)會(huì)議論文 前2條

1 李敏;何炳生;;求解帶約束的min-max問(wèn)題的預(yù)測(cè)校正交替方向法[A];2006年中國(guó)運(yùn)籌學(xué)會(huì)數(shù)學(xué)規(guī)劃分會(huì)代表會(huì)議暨第六屆學(xué)術(shù)會(huì)議論文集[C];2006年

2 陳翰馥;;論收斂性分析中的ODE方法[A];1993年控制理論及其應(yīng)用年會(huì)論文集[C];1993年

相關(guān)博士學(xué)位論文 前8條

1 郭科;非凸優(yōu)化問(wèn)題Douglas-Rachford分裂方法的收斂性分析[D];南京師范大學(xué);2017年

2 晁綿濤;帶回代乘子交替方向法與誤差界研究[D];北京工業(yè)大學(xué);2015年

3 王金江;乘子交替方向法與函數(shù)二階增長(zhǎng)條件[D];哈爾濱工業(yè)大學(xué);2016年

4 李立峰;模糊一致凸規(guī)劃的最優(yōu)性與對(duì)偶性研究[D];西安電子科技大學(xué);2016年

5 王淑紅;幾類(lèi)廣義凸函數(shù)及其積分不等式[D];大連理工大學(xué);2016年

6 孫明保;[D];南京理工大學(xué);2004年

7 林國(guó)琛;非凸函數(shù)的凸化方法[D];廈門(mén)大學(xué);2008年

8 顧劍;非凸二階錐規(guī)劃問(wèn)題的非線性重新尺度化方法[D];大連理工大學(xué);2009年

相關(guān)碩士學(xué)位論文 前10條

1 郭來(lái)鵬;求解H權(quán)重的最近相關(guān)系數(shù)矩陣問(wèn)題的交替方向法[D];大連理工大學(xué);2015年

2 竇莉峰;用交替方向法求解離散線性二次最優(yōu)控制問(wèn)題[D];河北工業(yè)大學(xué);2015年

3 宋永存;求解帶Stokes方程約束最優(yōu)控制問(wèn)題的交替方向法[D];吉林大學(xué);2016年

4 吳中明;解可分離凸優(yōu)化問(wèn)題的線性化交替方向法[D];南京師范大學(xué);2016年

5 王慧芳;線性化乘子交替方向法求解稀疏組最小一乘模型[D];北京交通大學(xué);2017年

6 王艷艷;交替方向法及其改進(jìn)算法的研究[D];重慶大學(xué);2013年

7 黎蕾;求解凸最優(yōu)化問(wèn)題的近似交替方向法[D];重慶師范大學(xué);2013年

8 黎景;求解一類(lèi)單調(diào)變分不等式的交替方向法[D];湖南大學(xué);2008年

9 李玉勝;交替方向法及其應(yīng)用[D];中國(guó)科學(xué)技術(shù)大學(xué);2015年

10 胡伯霞;求解一類(lèi)非對(duì)稱單調(diào)變分不等式的交替方向法[D];湖南大學(xué);2006年

，

本文編號(hào)：2049038