基于群智能優(yōu)化的核極限學習機模型選擇方法研究及應用
發(fā)布時間:2020-12-31 17:36
單隱層前饋神經(jīng)網(wǎng)絡(SLFN)以其良好的學習能力在諸多領域中得到了廣泛的應用,然而SLFN需要權(quán)值和閾值的迭代修正,因此SLFN固有的訓練速度慢、泛化性能差等一些缺點,成為限制其發(fā)展應用的主要瓶頸。極限學習機(ELM)算法是一種較新的SLFN,ELM隨機產(chǎn)生輸入層與隱含層的連接權(quán)值以及隱含層神經(jīng)元的閾值,該算法具有學習速度快、泛化性能好等優(yōu)點,核極限學習機(KELM)是將核函數(shù)引入極限學習機中,是一種比常規(guī)ELM模型魯棒性更強、泛化性能更好的決策模型。然而KELM在實際應用中,其性能受到模型中的重要參數(shù)所影響。本文對KELM的模型選擇問題,即核參數(shù)優(yōu)化和特征選擇等問題展開研究,提出了基于以群智能優(yōu)化算法為基礎的KELM模型選擇方法及其在金融破產(chǎn)預測與疾病智能診斷中的應用。群智能算法是借鑒自然界中的生物的群體獵食行為抽象出的計算方法;依莾(yōu)化算法(GWO)、飛蛾優(yōu)化算法(MFO)和鯨魚優(yōu)化算法(WOA)作為新的智能優(yōu)化方法,因具有較強的全局搜索能力,受到科學研究者和工程技術人員的廣泛關注。為了進一步提升群智能算法在KELM模型選擇方面的能力,本文特此提出了基于反向?qū)W習的GWO算法、混沌M...
【文章來源】:溫州大學浙江省
【文章頁數(shù)】:111 頁
【學位級別】:碩士
【部分圖文】:
單層前饋神經(jīng)網(wǎng)絡結(jié)構(gòu)圖
梯度下降算法被用于該類型網(wǎng)絡的構(gòu)建學習中[51],但是學習過程緩慢、極易陷入到局部最小值的問題,前饋神經(jīng)網(wǎng)-2。圖 2-1 單層前饋神經(jīng)網(wǎng)絡結(jié)構(gòu)圖Fig. 2-1 Single layer feedforward neural network structure diagram
溫州大學碩士學位論文與傳統(tǒng)的前饋神經(jīng)網(wǎng)絡不同,新加坡南洋理工大學教授黃廣斌等人[8]提出限學習機(Extreme Learning Machine, ELM)的 SLFNs,ELM 學習速度較傳學習算法,有大幅度的提高,且具有更好的泛化能力,通過證明該算法在隱神經(jīng)元個數(shù)與訓練樣本數(shù)量相等時可以零誤差逼近訓練樣本,且當隱藏神經(jīng)數(shù)小于訓練樣本數(shù)量時 ELM 的訓練誤差可以逼近一個任意大于 0 的值。EL習算法的隱藏節(jié)點類似神經(jīng)元[52, 53]。ELM 結(jié)構(gòu)形式如圖 2-3:
【參考文獻】:
期刊論文
[1]Spectral-spatial classification for hyperspectral imagery: a novel combination method based on affinity scoring[J]. Zhao CHEN,Bin WANG. Science China(Information Sciences). 2016(10)
[2]粒子群優(yōu)化算法求解旅行商問題[J]. 黃嵐,王康平,周春光,龐巍,董龍江,彭利. 吉林大學學報(理學版). 2003(04)
本文編號:2950030
【文章來源】:溫州大學浙江省
【文章頁數(shù)】:111 頁
【學位級別】:碩士
【部分圖文】:
單層前饋神經(jīng)網(wǎng)絡結(jié)構(gòu)圖
梯度下降算法被用于該類型網(wǎng)絡的構(gòu)建學習中[51],但是學習過程緩慢、極易陷入到局部最小值的問題,前饋神經(jīng)網(wǎng)-2。圖 2-1 單層前饋神經(jīng)網(wǎng)絡結(jié)構(gòu)圖Fig. 2-1 Single layer feedforward neural network structure diagram
溫州大學碩士學位論文與傳統(tǒng)的前饋神經(jīng)網(wǎng)絡不同,新加坡南洋理工大學教授黃廣斌等人[8]提出限學習機(Extreme Learning Machine, ELM)的 SLFNs,ELM 學習速度較傳學習算法,有大幅度的提高,且具有更好的泛化能力,通過證明該算法在隱神經(jīng)元個數(shù)與訓練樣本數(shù)量相等時可以零誤差逼近訓練樣本,且當隱藏神經(jīng)數(shù)小于訓練樣本數(shù)量時 ELM 的訓練誤差可以逼近一個任意大于 0 的值。EL習算法的隱藏節(jié)點類似神經(jīng)元[52, 53]。ELM 結(jié)構(gòu)形式如圖 2-3:
【參考文獻】:
期刊論文
[1]Spectral-spatial classification for hyperspectral imagery: a novel combination method based on affinity scoring[J]. Zhao CHEN,Bin WANG. Science China(Information Sciences). 2016(10)
[2]粒子群優(yōu)化算法求解旅行商問題[J]. 黃嵐,王康平,周春光,龐巍,董龍江,彭利. 吉林大學學報(理學版). 2003(04)
本文編號:2950030
本文鏈接:http://sikaile.net/kejilunwen/sousuoyinqinglunwen/2950030.html
最近更新
教材專著