min-max問題是一類重要的非光滑優(yōu)化問題,在投資組合、工程設(shè)計、大型故障診斷等很多實踐領(lǐng)域中有著廣泛的應(yīng)用。對于求解無約束min-max問題的凝聚光滑化方法的研究盡管取得了非常豐富的成果,但是隨著大數(shù)據(jù)時代的到來,計算技術(shù)的進(jìn)步和數(shù)據(jù)收集、傳輸和存儲技術(shù)的不斷升級,使得實際面臨問題的規(guī)模越來越大,因此,研究大規(guī)模min-max問題的高效求解方法仍然是一個重要的課題。本文主要研究了求解大維數(shù)且?guī)в写罅拷M成函數(shù)的min-max問題的凝聚光滑擬牛頓法,及引入凝聚光滑技術(shù)訓(xùn)練帶有min和max邏輯算子的模糊神經(jīng)網(wǎng)絡(luò)。我們通過深入研究求解min-max問題的截斷凝聚光滑牛頓法,利用擬牛頓修正公式獲得近似的Hessian矩陣,結(jié)合簡單的凝聚參數(shù)調(diào)整準(zhǔn)則,提出高效的求解大規(guī)模的無約束min-max問題的擬牛頓法。并且通過引入凝聚光滑技術(shù),研究帶有min和max算子的模糊神經(jīng)網(wǎng)絡(luò)的光滑梯度法,提出了漸進(jìn)光滑的梯度凝聚光滑訓(xùn)練算法,有效的減緩算法病態(tài)現(xiàn)象的發(fā)生,克服了以往光滑訓(xùn)練算法使得網(wǎng)絡(luò)訓(xùn)練過早停止或訓(xùn)練過慢的問題。本文的主要內(nèi)容概括為以下幾個方面:1.在第一章中,主要介紹本文所研究的min-m... 

【文章來源】：大連理工大學(xué)遼寧省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：117 頁

【學(xué)位級別】：博士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 研究問題及其應(yīng)用背景
    1.2 相關(guān)理論與算法介紹
    1.3 本文的研究動機(jī)及研究思路
    1.4 本文的結(jié)構(gòu)安排
2 解min-max問題的截斷凝聚光滑擬牛頓法
    2.1 背景介紹
    2.2 預(yù)備知識
        2.2.1 凝聚光滑
        2.2.2 截斷凝聚光滑
    2.3 截斷凝聚光滑擬牛頓法
        2.3.1 Armijo線搜索下的截斷凝聚光滑擬牛頓法
        2.3.2 截斷凝聚光滑對稱秩-1信賴域法
    2.4 數(shù)值實驗
    2.5 小結(jié)
3 解大規(guī)模凸min-max問題的截斷凝聚光滑BFGS法
    3.1 背景介紹
    3.2 截斷凝聚光滑BFGS法
        3.2.1 一個新的截斷凝聚光滑BFGS算法
        3.2.2 幾個重要結(jié)果
        3.2.3 算法的全局收斂性
        3.2.4 內(nèi)迭代序列的R-線性收斂和超線性收斂
        3.2.5 數(shù)值實驗中ε_j的選擇
    3.3 數(shù)值實驗
    3.4 小結(jié)
4 漸進(jìn)近似框架下的凝聚光滑max-min模糊神經(jīng)網(wǎng)絡(luò)梯度算法
    4.1 背景介紹
    4.2 max-min模糊神經(jīng)網(wǎng)絡(luò)輸出的光滑近似
        4.2.1 max-min模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)
        4.2.2 max-min函數(shù)的二次凝聚光滑近似
        4.2.3 帶有漸進(jìn)近似框架的凝聚光滑梯度訓(xùn)練算法
    4.3 算法的收斂性結(jié)果
    4.4 數(shù)值模擬結(jié)果
    4.5 算法的收斂性結(jié)果證明
        4.5.1 預(yù)備知識
        4.5.2 算法的全局收斂性
    4.6 小結(jié)
5 結(jié)論和展望
參考文獻(xiàn)
攻讀博士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝
作者簡介


【參考文獻(xiàn)】：
期刊論文
[1]不等式約束極大極小問題的一個新型模松弛強(qiáng)次可行SQCQP算法[J]. 王福勝,張瑞.  計算數(shù)學(xué). 2018(01)
[2]不等式約束極大極小問題的可行下降束方法[J]. 簡金寶,唐春明,唐菲.  中國科學(xué):數(shù)學(xué). 2015(12)
[3]An entropy based central cutting plane algorithm for convex min-max semi-infinite programming problems[J]. ZHANG LiPing,FANG Shu-Cherng,WU Soon-Yi.  Science China（Mathematics）. 2013(01)
[4]一類極大極小優(yōu)化問題的信賴域算法[J]. 歐宜貴,鄧謀杰,洪世煌.  工程數(shù)學(xué)學(xué)報. 2004(08)
[5]A Combined Homotopy Interior Point Method for Nonconvex Programming with Pseudo Cone Condition[J]. 于波,劉慶懷,馮果忱,孫以豐.  Northeastern Mathematical Journal. 2000(04)
[6]An Interior Point Path-following Method for Nonconvex Programming With Quasi Normal Cone Condition[J]. 劉慶懷,于波,馮果忱.  數(shù)學(xué)進(jìn)展. 2000(04)
[7]AN AGGREGATE FUNCTION METHOD FOR NONLINEAR PROGRAMMING[J]. 李興斯.  Science in China,Ser.A. 1991(12)

博士論文
[1]幾類非光滑問題的光滑化算法研究[D]. 葉峰.西安電子科技大學(xué) 2012
[2]解幾類數(shù)學(xué)規(guī)劃問題的光滑化同倫方法[D]. 周正勇.大連理工大學(xué) 2011
[3]min-max-min規(guī)劃的凝聚同倫方法及其在數(shù)據(jù)挖掘中的應(yīng)用[D]. 熊慧娟.大連理工大學(xué) 2009
[4]有限、半無限和廣義半無限極大極小問題的若干算法[D]. 張淑婷.吉林大學(xué) 2006

碩士論文
[1]約束極大極小問題的一類非線性Lagrange方法的研究[D]. 劉翔鋒.武漢理工大學(xué) 2016



本文編號：3449188