本文主要研究了求解兩分塊凸優(yōu)化問題的廣義Peaceman-Rachford分裂方法和求解三分塊優(yōu)化問題的廣義交替方向乘子法.首先,由于原有的廣義Peaceman-Rachford分裂方法并未對(duì)其收斂率作出分析,本文在原有的基礎(chǔ)上,進(jìn)一步補(bǔ)充了這方面的內(nèi)容,在遍歷和非遍歷情況下,建立了廣義Peaceman-Rachford分裂方法的最壞情形O（1/t）迭代復(fù)雜性.此外,通過數(shù)值實(shí)驗(yàn)來深入地闡述該算法的收斂速率.其次,在求解兩分塊凸優(yōu)化問題的線性化廣義交替方向乘子法基礎(chǔ)上,將該算法推廣到三塊的情形.然而,對(duì)于求解三分塊的優(yōu)化問題,算法在不添加其他相關(guān)的條件下,無法保證它的收斂性.本文在目標(biāo)函數(shù)的約束條件任意兩個(gè)正交且加速因子有界時(shí),證明了該算法是收斂的.基于上述條件,在遍歷和非遍歷情況下建立了該算法的最壞情形O（1/t）收斂率.進(jìn)一步地,通過舉出一個(gè)不滿足上述條件的例子使得算法發(fā)散;數(shù)值實(shí)驗(yàn)表明,該算法在解一類矩陣優(yōu)化問題時(shí)是一種有效的方法. 

【文章來源】：重慶師范大學(xué)重慶市

【文章頁數(shù)】：60 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖２．１?ｃｖ和ｐ在不同取值下目標(biāo)函數(shù)數(shù)值的變化??從圖２．１可以看到，ａ趨近于２時(shí)的目標(biāo)函數(shù)值比趨近于１時(shí)下降得塊；同時(shí)通過給罰??

?２廣義Ｐｅａｃｅｍａｎ－Ｒａｃｈｆｏｒｄ分裂法的迭代復(fù)雜性??實(shí)際上，圖２．２中畫出了罰參＃ａｃｐｕ時(shí)間之間的變化關(guān)系，其中７?ｅ?（０．１：０．９）．同時(shí)??可以看到ａ趨近１．２時(shí)比ａ趨近０．１所需迭代次數(shù)要少．??ＧＰＲＳＭ?Ｒｕｎｎｉｎｇ?Ｔｉｍｅ??２〇「????４．、、、?—ａ＝０．１??、－、?＿和－ｏｔ＝０．４??１６?＿?、＇?ａ＝０．７??１４－?、、、、?＾－０＝１．２??ｆ１２—?＼??卜－?＼、????？一？??…Ｓｓ???????????????????—??????????二二?■一?？????§．１?０２?＇?０．３?０．４?０．５?６＾?０７?０８?ａ９??Ｙ??圖２．２不同ａ取值下ＣＰＵ時(shí)間和罰參的變化關(guān)系??然而實(shí)驗(yàn)中發(fā)現(xiàn)，當(dāng)ａ大于１．２并逐漸趨近于２的過程中，該算法的收斂效果將變差，因??此將ａ的區(qū)間取定在（０：１．２］．與此同時(shí)，盡管與文獻(xiàn)［１８］類似，實(shí)驗(yàn)中也考慮了罰參７在趨??近于０．９時(shí)的收斂效果會(huì)更好，但進(jìn)一步地探討了加速因子＾對(duì)算法收斂速度的影響．??２．３?．２矩陣優(yōu)化問題??本節(jié)利用算法（１．２．５）來校正協(xié)方差矩陣．??首先考慮下面的矩陣優(yōu)化問題．??ｍｉｎ?｛豆１１義?一?ＣＩｌｌ＇ＩＸ?ｅ?５＾?Ｈ?辦｝，?（２．３．７）??其中??Ｓｌ＾｛Ｈ?ｅ?Ｒｎｘｎ＼ＨＪ?＝?Ｈ，Ｈｙ〇｝，??并且??Ｓｂ?＝?｛Ｈｅ?Ｒｎｘｎ＼ＨＴ?＝?Ｈ

?２廣義Ｐｅａｃｅｍａｎ－Ｒａｃｈｆｏｒｄ分裂法的迭代復(fù)雜性??實(shí)際上，圖２．２中畫出了罰參＃ａｃｐｕ時(shí)間之間的變化關(guān)系，其中７?ｅ?（０．１：０．９）．同時(shí)??可以看到ａ趨近１．２時(shí)比ａ趨近０．１所需迭代次數(shù)要少．??ＧＰＲＳＭ?Ｒｕｎｎｉｎｇ?Ｔｉｍｅ??２〇「????４．、、、?—ａ＝０．１??、－、?＿和－ｏｔ＝０．４??１６?＿?、＇?ａ＝０．７??１４－?、、、、?＾－０＝１．２??ｆ１２—?＼??卜－?＼、????？一？??…Ｓｓ???????????????????—??????????二二?■一?？????§．１?０２?＇?０．３?０．４?０．５?６＾?０７?０８?ａ９??Ｙ??圖２．２不同ａ取值下ＣＰＵ時(shí)間和罰參的變化關(guān)系??然而實(shí)驗(yàn)中發(fā)現(xiàn)，當(dāng)ａ大于１．２并逐漸趨近于２的過程中，該算法的收斂效果將變差，因??此將ａ的區(qū)間取定在（０：１．２］．與此同時(shí)，盡管與文獻(xiàn)［１８］類似，實(shí)驗(yàn)中也考慮了罰參７在趨??近于０．９時(shí)的收斂效果會(huì)更好，但進(jìn)一步地探討了加速因子＾對(duì)算法收斂速度的影響．??２．３?．２矩陣優(yōu)化問題??本節(jié)利用算法（１．２．５）來校正協(xié)方差矩陣．??首先考慮下面的矩陣優(yōu)化問題．??ｍｉｎ?｛豆１１義?一?ＣＩｌｌ＇ＩＸ?ｅ?５＾?Ｈ?辦｝，?（２．３．７）??其中??Ｓｌ＾｛Ｈ?ｅ?Ｒｎｘｎ＼ＨＪ?＝?Ｈ，Ｈｙ〇｝，??并且??Ｓｂ?＝?｛Ｈｅ?Ｒｎｘｎ＼ＨＴ?＝?Ｈ


本文編號(hào)：2923320