具有可分結(jié)構(gòu)非凸問(wèn)題在實(shí)際生活中屢見(jiàn)不鮮,這其中包括氣象預(yù)測(cè),人工神經(jīng)網(wǎng)絡(luò)(ANN),風(fēng)險(xiǎn)投資預(yù)測(cè),集群信息研究等。由于該問(wèn)題存在著變量大,數(shù)據(jù)存儲(chǔ)困難的特點(diǎn),采用已有的經(jīng)典優(yōu)化算法(如最速下降法,牛頓法,擬牛頓法)都不能有效的解決該問(wèn)題。近幾十年,對(duì)于針對(duì)可分問(wèn)題(如函數(shù)可分,變量區(qū)域可分等)的理論研究引起了學(xué)者們的關(guān)注�，F(xiàn)有的求解該問(wèn)題的主要方法包括增量學(xué)習(xí)算法,并行計(jì)算(如并行算法)和分布式優(yōu)化算法。在這些方法中,增量學(xué)習(xí)算法和并行計(jì)算在求解可分問(wèn)題中得到廣泛應(yīng)用。當(dāng)目標(biāo)函數(shù)是非凸(可能不可微)的情形時(shí),求解這類(lèi)可分問(wèn)題的全局最優(yōu)解就會(huì)變得更加困難。因此,如何快速求解這樣問(wèn)題的一個(gè)穩(wěn)定解成為大家熱議的話(huà)題。基于這一點(diǎn),一些研究者針對(duì)非凸可分問(wèn)題提出了特殊的包含局部強(qiáng)凸逼近算法SCA,結(jié)合增量學(xué)習(xí)算法或者并行算法來(lái)設(shè)計(jì)能求解原問(wèn)題的局部?jī)?yōu)化方法。本文,針對(duì)非凸函數(shù)可分問(wèn)題,我們?cè)噲D采用增量學(xué)習(xí)的思想框架,結(jié)合更加特殊的包含原函數(shù)二階信息的序列強(qiáng)凸逼近算法;對(duì)變量區(qū)域可分問(wèn)題,則采用改進(jìn)的算法BCD。值得注意的是,針對(duì)這種問(wèn)題,我們?cè)O(shè)計(jì)了一種新的局部偽凸逼近方法,并結(jié)合了不同種類(lèi)的選...

【文章頁(yè)數(shù)】：71 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
中文摘要
英文摘要
1 緒論
    1.1 引言
    1.2 增量算法
    1.3 并行計(jì)算及并行算法
        1.3.1 并行計(jì)算
        1.3.2 并行算法
    1.4 序列逼近函數(shù)
        1.4.1 MM算法
        1.4.2 算法Successive Convex Approximation
    1.5 本論文的研究思路及工作
2 對(duì)目標(biāo)函數(shù)可分問(wèn)題的隨機(jī)增量算法
    2.1 引言
    2.2 預(yù)備知識(shí)
    2.3 一個(gè)隨機(jī)增量二次逼近算法:RIQAM
    2.4 數(shù)值算例
    2.5 小結(jié)
3 對(duì)非凸變量可分問(wèn)題的局部偽凸逼近算法
    3.1 引言
    3.2 預(yù)備知識(shí)
    3.3 多項(xiàng)式約束多項(xiàng)式規(guī)劃問(wèn)題的最優(yōu)化方法
        3.3.1 偽凸逼近
    3.4 對(duì)于特殊非凸問(wèn)題偽凸逼近算法
        3.4.1 隨機(jī)的偽凸逼近算法
        3.4.2 混合隨機(jī)并行的的偽凸逼近算法
    3.5 數(shù)值算例
        3.5.1 DC問(wèn)題
        3.5.2 Styblinski-Tang Function問(wèn)題
    3.6 小結(jié)
4 對(duì)非凸非光滑函數(shù)的改進(jìn)隨機(jī)二次BCD算法和并行隨機(jī)弱凸逼近算法
    4.1 引言
    4.2 預(yù)備知識(shí)
    4.3 局部逼近的環(huán)坐標(biāo)下降算法
        4.3.1 局部強(qiáng)逼近的環(huán)狀坐標(biāo)下降算法
        4.3.2 局部弱凸逼近的環(huán)坐標(biāo)下降算法
    4.4 數(shù)值算例
        4.4.1 非光滑Styblinski-Tang Function問(wèn)題
        4.4.2 非光滑Rastrigin Function問(wèn)題
    4.5 小結(jié)
5 結(jié)論及展望
參考文獻(xiàn)
附錄A:作者攻讀碩士學(xué)位期間發(fā)表論文及科研情況
致謝



本文編號(hào)：3800559