基于進(jìn)化算法的神經(jīng)網(wǎng)絡(luò)研究與優(yōu)化
發(fā)布時間:2020-03-26 15:07
【摘要】:隨著智能計算的快速發(fā)展,進(jìn)化算法與神經(jīng)網(wǎng)絡(luò)作為智能計算的重要組成部分已得到越來越普及的應(yīng)用。其中,以BP神經(jīng)網(wǎng)絡(luò)及其改良模型的應(yīng)用較為普遍。BP神經(jīng)網(wǎng)絡(luò)是一個遵循誤差逆向傳播,并訓(xùn)練的前向神經(jīng)網(wǎng)絡(luò)。其采用梯度下降法進(jìn)行學(xué)習(xí),經(jīng)過不停地修正權(quán)值與閾值,達(dá)到誤差最小。BP神經(jīng)網(wǎng)絡(luò)具有拓?fù)浣Y(jié)構(gòu)簡單,非線性處理能力及自我學(xué)習(xí)等特點(diǎn)。盡管BP神經(jīng)網(wǎng)絡(luò)具有很多顯著的長處,但是在現(xiàn)實應(yīng)用中也留有一些缺陷:網(wǎng)絡(luò)結(jié)構(gòu)較難確定,網(wǎng)絡(luò)訓(xùn)練參數(shù)較難設(shè)定,網(wǎng)絡(luò)的權(quán)值較難選取,訓(xùn)練算法較難選擇,訓(xùn)練精度較低,易墜入局部極值等。針對BP神經(jīng)網(wǎng)絡(luò)存在的以上問題,多種優(yōu)化的方法與調(diào)優(yōu)的模型相繼被提出。其中,采用進(jìn)化算法結(jié)合BP神經(jīng)網(wǎng)絡(luò)來調(diào)優(yōu)性能,已經(jīng)得到越來越多學(xué)者們的重視。然而在此類方法中,多數(shù)只采用進(jìn)化算法結(jié)合逆向傳播算法,而忽視了神經(jīng)網(wǎng)絡(luò)本身結(jié)構(gòu)與其算法的優(yōu)化。在本文中,首先在神經(jīng)網(wǎng)絡(luò)訓(xùn)練的基礎(chǔ)上,根據(jù)網(wǎng)絡(luò)每次訓(xùn)練的誤差值自適應(yīng)選取隱含層節(jié)點(diǎn)個數(shù),從而避免人工設(shè)定網(wǎng)絡(luò)結(jié)構(gòu)的盲目性。其次,針對進(jìn)化算法結(jié)合神經(jīng)網(wǎng)絡(luò),其易產(chǎn)生局部最優(yōu)的問題,提出改進(jìn)的遺傳算法與改進(jìn)的粒子群優(yōu)化算法。其中,主要包括改進(jìn)的遺傳算法結(jié)合網(wǎng)絡(luò)訓(xùn)練,并選取最佳訓(xùn)練參數(shù);及改進(jìn)的粒子群優(yōu)化算法結(jié)合網(wǎng)絡(luò)訓(xùn)練,并選取最佳的權(quán)值矩陣,從而提高神經(jīng)網(wǎng)絡(luò)的訓(xùn)練精度。最終,基于優(yōu)化的算法結(jié)合BP神經(jīng)網(wǎng)絡(luò)構(gòu)建IGAPSONN模型,并將其運(yùn)用于現(xiàn)實問題中。本文主要工作與創(chuàng)新點(diǎn)如下:(1)針對神經(jīng)網(wǎng)絡(luò)的隱含層節(jié)點(diǎn)個數(shù)較難選取的問題,根據(jù)網(wǎng)絡(luò)每次訓(xùn)練的均方誤差值,提出自適應(yīng)選取網(wǎng)絡(luò)隱含層節(jié)點(diǎn)數(shù)的算法。該算法綜合考慮網(wǎng)絡(luò)輸入與輸出節(jié)點(diǎn)個數(shù)對隱含層節(jié)點(diǎn)個數(shù)的影響,限定隱含層節(jié)點(diǎn)個數(shù)的范圍,并且自適應(yīng)選取使網(wǎng)絡(luò)誤差最小的隱含層節(jié)點(diǎn)個數(shù),從而避免了人工設(shè)定節(jié)點(diǎn)個數(shù)的盲目性。(2)針對神經(jīng)網(wǎng)絡(luò)訓(xùn)練參數(shù)學(xué)習(xí)率與動量因子難以確定的問題,提出改進(jìn)的遺傳算法結(jié)合網(wǎng)絡(luò)訓(xùn)練,動態(tài)選取學(xué)習(xí)率與動量因子的算法。在網(wǎng)絡(luò)訓(xùn)練中,該算法根據(jù)學(xué)習(xí)率與動量因子的參數(shù)范圍,并設(shè)定染色體結(jié)構(gòu)。在進(jìn)化過程中加入多點(diǎn)交叉與多點(diǎn)變異的操作使每個個體可以得到完全的進(jìn)化,使網(wǎng)絡(luò)訓(xùn)練參數(shù)動態(tài)被選取,從而避免手動設(shè)定參數(shù)的盲目性。(3)針對神經(jīng)網(wǎng)絡(luò)權(quán)值選取不精確的問題,提出改進(jìn)的粒子群優(yōu)化算法結(jié)合網(wǎng)絡(luò)訓(xùn)練,并動態(tài)選取權(quán)值矩陣的算法。在網(wǎng)絡(luò)訓(xùn)練中,該算法提出動態(tài)慣性權(quán)重與參數(shù)制約使參數(shù)自適應(yīng)選取,平衡算法的局部搜索性能與全局搜索性能。同時,該算法結(jié)合傳統(tǒng)的差分進(jìn)化算法使粒子進(jìn)行變異,并且提出在動態(tài)鄰域內(nèi)粒子進(jìn)行交叉操作,增加粒子間的交互,減少聚集,有利于粒子跳出局部最優(yōu),并提升粒子多樣性,動態(tài)選取精確的權(quán)值,從而避免神經(jīng)網(wǎng)絡(luò)訓(xùn)練精度低。(4)本文基于隱含層節(jié)點(diǎn)數(shù)自適應(yīng)選取算法,學(xué)習(xí)率與動量因子動態(tài)選取算法,改進(jìn)的粒子群優(yōu)化算法,以上結(jié)合BP神經(jīng)網(wǎng)絡(luò)構(gòu)建IGAPSONN模型,并運(yùn)用該模型于實際問題中。相比當(dāng)前通用的神經(jīng)網(wǎng)絡(luò)模型,仿真實驗分別從模型的訓(xùn)練精度,正確率及算法性能三方面驗證了所提模型的精確性與有效性。
【學(xué)位授予單位】:安徽大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:TP183
【學(xué)位授予單位】:安徽大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:TP183
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 蔣進(jìn);;基于神經(jīng)網(wǎng)絡(luò)的風(fēng)功率組合預(yù)測[J];工程技術(shù)研究;2017年10期
2 余z緩,
本文編號:2601606
本文鏈接:http://sikaile.net/kejilunwen/sousuoyinqinglunwen/2601606.html
最近更新
教材專著