本文選題：共軛梯度法 + 自適應(yīng)共軛條件�。� 參考：《西安電子科技大學(xué)》2015年博士論文

【摘要】：無約束優(yōu)化問題廣泛應(yīng)用于經(jīng)濟計劃、工程設(shè)計、生產(chǎn)管理、國防與航空航天等重要領(lǐng)域,因此構(gòu)造大規(guī)模優(yōu)化問題的計算方法,研究這些方法的理論性質(zhì)及其實際數(shù)值表現(xiàn)具有重要的理論意義和實際應(yīng)用價值.存儲量小和迭代簡單的特點使共軛梯度法在求解大規(guī)模問題的算法中脫穎而出.在過去的20年中,充分下降條件和共軛性使得共軛梯度法在優(yōu)化領(lǐng)域更為活躍.本文在總結(jié)己有非線性共軛梯度算法的基礎(chǔ)上,從實用角度出發(fā),設(shè)計出若干能滿足上述兩個條件的白適應(yīng)共軛梯度法.主要具體工作如下：1.我們引入了兩類白適應(yīng)的共軛梯度法,該法在每步迭代可滿足充分下降條件.與現(xiàn)有方法不同的是,本文提出新的共軛條件是動態(tài)調(diào)整的,它可視作HS共軛性和DL共軛性的繼承與發(fā)展.在適當(dāng)情況下,可證明該法對一般函數(shù)全局收斂.2.我們對六類基本共軛梯度法進行了修正,其中的搜索方向滿足不依賴于任何搜索條件的充分下降條件.此外,我們提出了一個一般形式的共軛梯度法,對應(yīng)的搜索方向總是充分下降方向.該方法無須Yuan提出的”步長要有正的下界”的假設(shè)條件,可以建立算法的全局收斂性.3.我們構(gòu)造了一個非一致凸的二維函數(shù),它可以說明這樣一種可能性,即無論TTCG方法在極小化我們提出的函數(shù)時是否收斂,TTCG方法的收斂性分析中關(guān)于‘sTKyKτ(τ0是常數(shù))”這一充分條件都不成立.主要原因在于在數(shù)量上,sTkyk是恢||2的高階無窮小.此外,我們提出了一類具有一般形式的三項共軛梯度法,它的搜索方向同時滿足白適應(yīng)共軛條件和充分下降條件.4.原TTDES方法中的某些結(jié)果因為參數(shù)選取不當(dāng)需要修正,我們在迭代矩陣條件數(shù)最小的意義下找至TTDES方法的最優(yōu)參數(shù).具體地,既然該迭代矩陣既非對稱也不正則,在討論條件數(shù)時,一種謹(jǐn)慎而合理的策略是采取奇異值分析而非特征值分析.5.我們通過不同搜索方向之間的仿射組合而得到新的Hestenes-Stiefel類型不Polak-Ribiere-Polyak類型的三項共軛梯度法.在迭代過程中,搜索方向滿足充分下降條件,并能接近擬牛頓方向或滿足共軛條件.算法在Wolfe搜索下收斂.6.數(shù)值結(jié)果顯示,本文提出的上述方法適于求解大型優(yōu)化問題,從而是有效的.白適應(yīng)的算法機制不僅有益于共軛梯度法的理論與計算,隨著時間的推移,它將展示出更有意義的重要性.
[Abstract]:Unconstrained optimization problems are widely used in important fields such as economic planning, engineering design, production management, national defense and aerospace. It is of great theoretical significance and practical application value to study the theoretical properties and practical numerical expression of these methods. The characteristics of small storage and simple iteration make the conjugate gradient method stand out in the algorithm for solving large-scale problems. In the past 20 years, the sufficient descent condition and conjugacy make the conjugate gradient method more active in the optimization field. On the basis of summarizing the existing nonlinear conjugate gradient algorithm and from the practical point of view, this paper designs some white adaptive conjugate gradient methods which can satisfy the above two conditions. The main specific work is as follows: 1. We introduce two classes of white adaptive conjugate gradient method, which can satisfy the sufficient descent condition at each step iteration. Different from the existing methods, the new conjugate condition is dynamically adjusted, which can be regarded as the inheritance and development of HS conjugacy and DL conjugacy. It is proved that the global convergence of the method for general functions. 2. We modify six basic conjugate gradient methods in which the search direction satisfies the sufficient descent condition which does not depend on any search conditions. In addition, we propose a general form of conjugate gradient method, the corresponding search direction is always sufficient descent direction. This method does not need the assumption that the step size should have a positive lower bound, and the global convergence of the algorithm can be established by using the assumption of "step size must have positive lower bound" proposed by Yuan. We construct a nonuniformly convex two-dimensional function that illustrates the possibility, That is, no matter whether the TTCG method converges or not in the minimization of the functions proposed by us, the sufficient condition that the TKK 蟿 (蟿 0 is a constant) in the analysis of the convergence of the TTCG method does not hold true. The main reason is that s Tkyk is the higher order infinitesimal of Hui 2 in quantity. In addition, we propose a class of three-term conjugate gradient method with general form, whose search direction satisfies both the white adaptive conjugate condition and the sufficient descent condition .4. Some results in the original TTDES method need to be corrected because of improper selection of parameters. We find the optimal parameters of the TTDES method in the sense of the minimum number of conditions of the iterative matrix. Specifically, since the iterative matrix is neither asymmetric nor regular, a prudent and reasonable strategy for discussing condition numbers is to adopt singular value analysis rather than eigenvalue analysis .5. By affine combinations between different search directions, we obtain a new three-term conjugate gradient method of Hestenes-Stiefel type non- type. In the iterative process the search direction satisfies the sufficient descent condition and can approach the quasi-Newtonian direction or satisfy the conjugate condition. The algorithm converges. 6 under Wolfe search. Numerical results show that the proposed method is suitable for solving large scale optimization problems. The algorithm mechanism of white adaptation is not only beneficial to the theory and calculation of conjugate gradient method, but also shows more significance over time.
【學(xué)位授予單位】：西安電子科技大學(xué)
【學(xué)位級別】：博士
【學(xué)位授予年份】：2015
【分類號】：O224

【相似文獻】

相關(guān)期刊論文 前10條

1 王斌;;共軛梯度法[J];黑龍江科技信息;2010年29期

2 張艷君;趙金玲;徐爾;;求解多集分裂可行問題的一種共軛梯度法[J];數(shù)值計算與計算機應(yīng)用;2013年04期

3 解惠青;共軛梯度法的一個計算公式[J];南京航空航天大學(xué)學(xué)報;2000年06期

4 雷偉華;一類帶非精確線搜索的共軛梯度法之收斂性[J];南寧師范高等專科學(xué)校學(xué)報;2000年03期

5 劉云,梁玉梅;幾類非精確線搜索下共軛梯度法的收斂條件(英文)[J];廣西科學(xué);2001年01期

6 莫降濤;修正Hestenes-Stiefel共軛梯度法及其收斂性[J];廣西大學(xué)學(xué)報(自然科學(xué)版);2001年01期

7 梁玉梅,劉云;一類新共軛梯度法在幾種非精確線搜索下的收斂性(英文)[J];廣西大學(xué)學(xué)報(自然科學(xué)版);2001年02期

8 譚欣星,席光;共軛梯度法在三維復(fù)雜流動數(shù)值分析中的應(yīng)用[J];水動力學(xué)研究與進展(A輯);2002年01期

9 徐澤水;一類新的共軛梯度法(英文)[J];數(shù)學(xué)雜志;2002年01期

10 杜守強,陳元媛;一類在新的線搜索下的共軛梯度法[J];濱州師專學(xué)報;2002年04期

相關(guān)會議論文 前10條

1 姚馨;倪勤;;解大規(guī)模優(yōu)化問題的錐模型共軛梯度法[A];中國運籌學(xué)會第十屆學(xué)術(shù)交流會論文集[C];2010年

2 孫樹立;陳璞;;求解多右端向量方程組的塊共軛梯度法及其相關(guān)研究進展[A];計算爆炸力學(xué)進展[C];2006年

3 霍偉娜;倪勤;;一個新的條件預(yù)優(yōu)共軛梯度法[A];中國運籌學(xué)會第十屆學(xué)術(shù)交流會論文集[C];2010年

4 王川龍;朱金香;;非單調(diào)混合共軛梯度法[A];管理科學(xué)與系統(tǒng)科學(xué)進展——全國青年管理科學(xué)與系統(tǒng)科學(xué)論文集（第4卷）[C];1997年

5 陳瓏;劉興高;;一種基于PRP共軛梯度法的新型動態(tài)優(yōu)化方法及其應(yīng)用[A];PCC2009—第20屆中國過程控制會議論文集[C];2009年

6 李梅霞;王長鈺;劉茜;;帶擾動項的FR共軛梯度法[A];2006年中國運籌學(xué)會數(shù)學(xué)規(guī)劃分會代表會議暨第六屆學(xué)術(shù)會議論文集[C];2006年

7 王晨;張秀軍;徐安農(nóng);;一類共軛梯度法的全局收斂性[A];第八屆中國青年運籌信息管理學(xué)者大會論文集[C];2006年

8 陳璞;肖梃松;孫樹立;袁明武;;預(yù)條件共軛梯度法的實現(xiàn)以及一些改進[A];第七屆全國結(jié)構(gòu)工程學(xué)術(shù)會議論文集（第Ⅰ卷）[C];1998年

9 連淑君;王長鈺;;在Armijo型線搜索下共軛梯度法簇的全局收斂性[A];中國運籌學(xué)會第七屆學(xué)術(shù)交流會論文集（上卷）[C];2004年

10 支希哲;孟光;徐松平;;多級隔振系統(tǒng)優(yōu)化設(shè)計的共軛梯度法[A];數(shù)學(xué)·物理·力學(xué)·高新技術(shù)研究進展（一九九六·第六期）——中國數(shù)學(xué)力學(xué)物理學(xué)高新技術(shù)交叉研究會第6屆學(xué)術(shù)研討會論文集[C];1996年

相關(guān)博士學(xué)位論文 前5條

1 黃元元;求解無約束優(yōu)化問題及非線性方程組的共軛梯度法[D];西安電子科技大學(xué);2014年

2 董曉亮;自適應(yīng)共軛梯度法的研究[D];西安電子科技大學(xué);2015年

3 鄧松海;若干新型譜共軛梯度算法及應(yīng)用研究[D];中南大學(xué);2013年

4 戴志鋒;非線性共軛梯度法與魯棒最優(yōu)投資組合[D];湖南大學(xué);2013年

5 鐘萍;Newton-PCG型算法的效率分析[D];中國農(nóng)業(yè)大學(xué);2002年

相關(guān)碩士學(xué)位論文 前10條

1 曾維強;含有多個參數(shù)的非線性共軛梯度法研究[D];廣東技術(shù)師范學(xué)院;2015年

2 李雙安;共軛梯度法在大規(guī)模信號重構(gòu)問題中的應(yīng)用[D];桂林電子科技大學(xué);2015年

3 鞠靜潔;幾類優(yōu)化問題的算法研究[D];青島大學(xué);2015年

4 屈明恩;無約束優(yōu)化問題的共軛梯度法研究[D];西安電子科技大學(xué);2014年

5 關(guān)哲;Wolfe線搜索下的共軛梯度法[D];渤海大學(xué);2016年

6 汪丹戎;非線性共軛梯度法及全局收斂性分析[D];長江大學(xué);2016年

7 鄭麗;幾種共軛梯度法的研究[D];重慶大學(xué);2009年

8 鄧小紅;一類新型的雜交共軛梯度法[D];廣西大學(xué);2007年

9 姚馨;解大規(guī)模優(yōu)化問題的錐模型共軛梯度法[D];南京航空航天大學(xué);2010年

10 張穎;有關(guān)共軛梯度法的一些研究[D];大連理工大學(xué);2012年

，

本文編號：1788404