復值神經(jīng)網(wǎng)絡是人工神經(jīng)網(wǎng)絡的重要分支,在工程、生物醫(yī)學以及物理學等領域已有廣泛應用。按照激活函數(shù)的不同,可將復值神經(jīng)網(wǎng)絡劃分為分離復值神經(jīng)網(wǎng)絡和全復神經(jīng)網(wǎng)絡。分離復值神經(jīng)網(wǎng)絡中使用有界但不解析的分離復值激活函數(shù),可克服全復神經(jīng)網(wǎng)絡的奇點問題,但不能有效捕捉信道間的耦合信息,因此本文研究更具優(yōu)勢的全復神經(jīng)網(wǎng)絡。復梯度學習算法是復值神經(jīng)網(wǎng)絡的一種重要學習算法,但是該算法仍有許多不足,無法避免慢收斂和極易陷入局部極小值等問題。為了進一步提高復梯度學習算法的性能,本文面向全復神經(jīng)網(wǎng)絡提出了一種帶有Barzilai-Borwein步長的復值Fletcher-Reeves共軛梯度算法和兩種復值譜共軛梯度算法�；赪irtinger梯度算子下建立了所提算法的全局收斂性理論。論文主要按照以下三個方面展開:（1）采用復Barzilai-Borwein步長和復值Fletcher-Reeves共軛系數(shù)對復值Fletcher-Reeves共軛梯度算法進行構造。結合復值Wolfe線搜索技術和共軛梯度算法的收斂準則,我們從理論上證明了帶有Barzilai-Borwein步長的復值FR共軛梯度算法的全局收斂性。（2... 

【文章頁數(shù)】：70 頁

【學位級別】：碩士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 論文的研究背景與意義
        1.1.1 實值神經(jīng)網(wǎng)絡
        1.1.2 分離復值神經(jīng)網(wǎng)絡
        1.1.3 全復值神經(jīng)網(wǎng)絡
    1.2 復值神經(jīng)網(wǎng)絡國內(nèi)外研究現(xiàn)狀
    1.3 論文的主要內(nèi)容
2 相關理論知識
    2.1 Wirtinger算子
    2.2 常用復變量實值函數(shù)的優(yōu)化方法及線搜索規(guī)則
        2.2.1 梯度學習算法
            2.2.1.1 復梯度
            2.2.1.2 復梯度下降算法
            2.2.1.3 復值Barzilai-Borwein梯度法
        2.2.2 共軛梯度學習算法
            2.2.2.1 三種常用復值共軛梯度法
            2.2.2.2 復值譜共軛梯度法
        2.2.3 幾類線搜索技術的復表述
            2.2.3.1 精確線搜索
            2.2.3.2 Armijo型線搜索
            2.2.3.3 Wolfe型線搜索
    2.3 本章小結
3 帶有Barzilai-Borwein步長的復值Fletcher-Reeves共軛梯度法
    3.1 引言
    3.2 網(wǎng)絡結構
    3.3 算法描述
    3.4 全局收斂性
    3.5 數(shù)值實驗
        3.5.1 回歸問題
            3.5.1.1 實例一: 非線性信號問題
            3.5.1.2 實例二: 酒精含量預測問題
        3.5.2 分類問題
            3.5.2.1 實例三: 復值非最小相位通道模型
            3.5.2.2 實例四: UCI數(shù)據(jù)集
    3.6 本章小結
4 兩種復值譜共軛梯度算法
    4.1 引言
    4.2 網(wǎng)絡結構
    4.3 算法描述
        4.3.1 復值譜共軛梯度算法
        4.3.2 帶有Barzilai-Borwein步長的復值譜共軛梯度算法
    4.4 全局收斂性
    4.5 數(shù)值實驗
        4.5.1 回歸問題
            4.5.1.1 實例一: 非線性信號問題
            4.5.1.2 實例二: 酒精含量預測問題
        4.5.2 分類問題
            4.5.2.1 實例三: 復值非最小相位通道模型
            4.5.2.2 實例四: UCI數(shù)據(jù)集
    4.6 本章小結
結論
參考文獻
致謝
作者簡歷及攻讀碩士學位期間的科研成果


【參考文獻】：
期刊論文
[1]人工神經(jīng)網(wǎng)絡在數(shù)據(jù)挖掘中的應用研究[J]. 梁春華.  無線互聯(lián)科技. 2019(22)
[2]人工神經(jīng)網(wǎng)絡及其在機械工程領域中的應用研究[J]. 柴偉杰.  南方農(nóng)機. 2018(22)
[3]神經(jīng)網(wǎng)絡技術在計算機通信中的運用[J]. 陳效軍.  電子技術與軟件工程. 2017(08)
[4]鉆孔雷達探測地下不良地質(zhì)體的正演模擬及其復信號分析[J]. 李堯,李術才,劉斌,聶利超,張鳳凱,徐磊,王傳武.  巖土力學. 2017(01)
[5]基于BP算法的多層感知器網(wǎng)絡原理及程序?qū)崿F(xiàn)[J]. 黃志華.  嘉應學院學報. 2015(08)
[6]基于BP神經(jīng)網(wǎng)絡的土體細觀力學參數(shù)反演分析[J]. 李澄清,劉天為,張海洋,徐文杰.  工程地質(zhì)學報. 2015(04)
[7]Wolfe線搜索下一種修正的HS共軛梯度法及其全局收斂性[J]. 王安平,陳忠.  安徽大學學報(自然科學版). 2015(04)
[8]DIS中的坐標系統(tǒng)及坐標轉(zhuǎn)換[J]. 周云,華祖耀,黃柯棣,陳傳巖,張代兵.  計算機仿真. 2000(06)

博士論文
[1]Barzilai-Borwein梯度法及其在優(yōu)化算法中的應用[D]. 鄭燏濤.蘭州大學 2018
[2]前饋神經(jīng)網(wǎng)絡梯度訓練算法的幾個收斂性結果[D]. 張會生.大連理工大學 2009

碩士論文
[1]基于復值神經(jīng)網(wǎng)絡的信號增強處理方法[D]. 鄭乃君.西安電子科技大學 2018
[2]復數(shù)值神經(jīng)網(wǎng)絡訓練算法的研究與應用[D]. 劉元山.蘇州大學 2015
[3]增強型復值神經(jīng)網(wǎng)絡的學習算法研究[D]. 費舟瑩.哈爾濱工程大學 2015



本文編號：3678733