人工神經網(wǎng)絡在現(xiàn)代科學發(fā)展的多個領域都展現(xiàn)出了巨大的潛力,以誤差反向傳播算法（BP算法）作為學習算法的BP神經網(wǎng)絡應用十分廣泛,而在BP算法中添加動量項也已經是一種很常見的改進BP算法的方法,可以稱之為動量BP算法。影響動量BP算法學習效率的因素有很多,包括網(wǎng)絡的層數(shù)、激活函數(shù)和誤差函數(shù)等,在實際應用中,經常通過不斷嘗試改變一些因素來使算法表現(xiàn)得更好,但是關于改變因素后算法的收斂性分析往往不能第一時間跟上。在本文中,我們首先對包含多隱藏層的帶動量項的BP神經網(wǎng)絡算法的收斂性進行了分析。當學習率為常數(shù),動量系數(shù)在滿足一定條件下自適應變化時,我們給出了算法的弱收斂結果以及強收斂結果,并對這兩種收斂結果都給出了相應的理論證明。之后我們又進一步對帶懲罰項的動量BP算法的收斂性進行分析,同樣地,我們也給出了算法的弱收斂結果以及強收斂結果,并對收斂結果進行了理論證明。 

【文章來源】：華東理工大學上海市 211工程院校 教育部直屬院校

【文章頁數(shù)】：42 頁

【學位級別】：碩士

【文章目錄】：
摘要
abstract
第1章 緒論
    1.1 研究背景
    1.2 概念說明
    1.3 問題描述及文章結構
第2章 含雙隱藏層的動量BP算法
    2.1 算法展開
    2.2 收斂情況
第3章 收斂性證明
    3.1 誤差函數(shù)展開
    3.2 一些有用的引理
    3.3 定理證明
第4章 帶懲罰項的動量BP算法
    4.1 算法展開及收斂情況
    4.2 一些有用的引理
    4.3 定理證明
第5章 結束語
參考文獻
致謝
發(fā)表及完成論文


【參考文獻】：
期刊論文
[1]改進的BP神經網(wǎng)絡算法的研究與應用[J]. 富宇,李倩,劉澎.  計算機與數(shù)字工程. 2019(05)
[2]基于BP神經網(wǎng)絡輔助的組合導航算法研究[J]. 李小燕,李杰,馮凱強,楊雁宇,晁正正.  電子器件. 2018(06)
[3]基于BP神經網(wǎng)絡PID算法的風力擺控制系統(tǒng)的設計[J]. 袁建平,施一萍,江鵬,蔣宇,賈日晶,姚德亮.  測控技術. 2018(11)
[4]BP神經網(wǎng)絡算法的改進及應用[J]. 王美玲,王念平,李曉.  計算機工程與應用. 2009(35)
[5]一種具有自適應動量因子的BP算法[J]. 張會生,吳微.  大連海事大學學報. 2008(04)
[6]CONVERGENCE OF GRADIENT METHOD WITH MOMENTUM FOR BACK-PROPAGATION NEURAL NETWORKS[J]. Wei Wu Department of Applied Mathematics,Dalian University of Technology,Dalian 116024,China Naimin Zhang Mathematics and Information Science College,Wenzhou University,Wenzhou 325035,China Zhengxue Li Long Li Department of Applied Mathematics,Dalian University o.f Technology,Dalian 116024,China Yan Liu College of Information Science and Engineering,Dalian Institute of Light Industry,Dalian 116034,China.  Journal of Computational Mathematics. 2008(04)
[7]帶懲罰項與隨機輸入的BP神經網(wǎng)絡在線梯度學習算法的收斂性[J]. 魯慧芳,吳微,李正學.  數(shù)學研究與評論. 2007(03)
[8]基于改進BP神經網(wǎng)絡算法的管道缺陷漏磁信號識別[J]. 金濤,闕沛文,陳天璐,李亮.  上海交通大學學報. 2005(07)
[9]快速收斂的BP神經網(wǎng)絡算法[J]. 王赟松,許洪國.  吉林大學學報(工學版). 2003(04)
[10]神經網(wǎng)絡的泛化能力與結構優(yōu)化算法研究[J]. 武妍,張立明.  計算機應用研究. 2002(06)



本文編號：3511678