一種基于遺傳算法的脈沖神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)新算法
發(fā)布時間:2021-12-30 10:12
人工神經(jīng)網(wǎng)絡(luò)(ANNs)中的神經(jīng)元特征在于單個靜態(tài)的連續(xù)值激活。然而,生物神經(jīng)元使用離散脈沖尖峰來計算和傳輸信息,除了脈沖速率之外,脈沖時間也很重要。因此,脈沖神經(jīng)網(wǎng)絡(luò)(SNNs)比人工神經(jīng)網(wǎng)絡(luò)在生物學(xué)上更具現(xiàn)實性,如果想要了解大腦如何在神經(jīng)元描述水平上進(jìn)行計算,可以說它是唯一可行的選擇。生物神經(jīng)元的脈沖在時間和空間上都是稀疏的,并且是事件驅(qū)動的。結(jié)合生物合理的局部學(xué)習(xí)規(guī)則,這使得為脈沖神經(jīng)網(wǎng)絡(luò)構(gòu)建低功耗神經(jīng)形態(tài)硬件變得更加容易。脈沖神經(jīng)元的傳遞函數(shù)通常是不可微分的,這阻止了使用反向傳播。近年來,SNNs學(xué)習(xí)算法也在被不斷地探索。SNNs中的無監(jiān)督學(xué)習(xí)通常將STDP作為其學(xué)習(xí)機制的一部分。最常見的生物STDP形式具有非常直觀的解釋。如果突觸前神經(jīng)元在突觸后神經(jīng)元之前短暫地發(fā)射,則連接它們的權(quán)重會增強。如果突觸前神經(jīng)元在突觸后神經(jīng)元后短暫發(fā)射,則時間事件之間的因果關(guān)系是虛假的,并且權(quán)重減弱。大多數(shù)現(xiàn)有的監(jiān)督學(xué)習(xí)算法都是基于具有固有缺陷,例如局部最優(yōu)和過度擬合,的梯度下降學(xué)習(xí)算法。于是,在脈沖網(wǎng)絡(luò)上尋找具有全局最優(yōu)解的學(xué)習(xí)算法成為當(dāng)前研究熱門問題。在本文中,我們研究了涉及模擬退火機制的遺傳...
【文章來源】:大連理工大學(xué)遼寧省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:49 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
Abstract
1 緒論
1.1 選題背景及意義
1.2 脈沖神經(jīng)網(wǎng)絡(luò)監(jiān)督學(xué)習(xí)的研究現(xiàn)狀
1.3 脈沖神經(jīng)網(wǎng)絡(luò)的基本理論
1.3.1 脈沖神經(jīng)元模型概述
1.3.2 脈沖序列信息編碼
2 基于遺傳算法的脈沖網(wǎng)絡(luò)算法
2.1 脈沖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
2.2 脈沖響應(yīng)模型
2.3 引入模擬退火機制的遺傳算法
2.4 基于遺傳算法的脈沖網(wǎng)絡(luò)算法
3 脈沖序列的學(xué)習(xí)過程
3.1 單任務(wù)脈沖序列學(xué)習(xí)過程
3.1.1 脈沖序列學(xué)習(xí)流程設(shè)計
3.1.2 脈沖序列學(xué)習(xí)效果
3.2 多任務(wù)脈沖序列學(xué)習(xí)過程
3.2.1 脈沖序列學(xué)習(xí)流程設(shè)計
3.2.2 脈沖序列學(xué)習(xí)效果
4 數(shù)值實驗
4.1 高斯擾動的Exclusive-OR問題
4.1.1 實驗過程
4.1.2 實驗參數(shù)分析
4.2 Iris分類問題
4.2.1 實驗過程
4.2.2 實驗參數(shù)分析
4.3 Hepatitis分類問題
4.3.1 實驗過程
4.3.2 實驗參數(shù)分析
結(jié)論
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝
【參考文獻(xiàn)】:
期刊論文
[1]脈沖神經(jīng)網(wǎng)絡(luò)的監(jiān)督學(xué)習(xí)算法研究綜述[J]. 藺想紅,王向文,張寧,馬慧芳. 電子學(xué)報. 2015(03)
[2]引入模擬退火機制的新型遺傳算法[J]. 張暉,吳斌,余張國. 電子科技大學(xué)學(xué)報. 2003(01)
本文編號:3557990
【文章來源】:大連理工大學(xué)遼寧省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:49 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
Abstract
1 緒論
1.1 選題背景及意義
1.2 脈沖神經(jīng)網(wǎng)絡(luò)監(jiān)督學(xué)習(xí)的研究現(xiàn)狀
1.3 脈沖神經(jīng)網(wǎng)絡(luò)的基本理論
1.3.1 脈沖神經(jīng)元模型概述
1.3.2 脈沖序列信息編碼
2 基于遺傳算法的脈沖網(wǎng)絡(luò)算法
2.1 脈沖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
2.2 脈沖響應(yīng)模型
2.3 引入模擬退火機制的遺傳算法
2.4 基于遺傳算法的脈沖網(wǎng)絡(luò)算法
3 脈沖序列的學(xué)習(xí)過程
3.1 單任務(wù)脈沖序列學(xué)習(xí)過程
3.1.1 脈沖序列學(xué)習(xí)流程設(shè)計
3.1.2 脈沖序列學(xué)習(xí)效果
3.2 多任務(wù)脈沖序列學(xué)習(xí)過程
3.2.1 脈沖序列學(xué)習(xí)流程設(shè)計
3.2.2 脈沖序列學(xué)習(xí)效果
4 數(shù)值實驗
4.1 高斯擾動的Exclusive-OR問題
4.1.1 實驗過程
4.1.2 實驗參數(shù)分析
4.2 Iris分類問題
4.2.1 實驗過程
4.2.2 實驗參數(shù)分析
4.3 Hepatitis分類問題
4.3.1 實驗過程
4.3.2 實驗參數(shù)分析
結(jié)論
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝
【參考文獻(xiàn)】:
期刊論文
[1]脈沖神經(jīng)網(wǎng)絡(luò)的監(jiān)督學(xué)習(xí)算法研究綜述[J]. 藺想紅,王向文,張寧,馬慧芳. 電子學(xué)報. 2015(03)
[2]引入模擬退火機制的新型遺傳算法[J]. 張暉,吳斌,余張國. 電子科技大學(xué)學(xué)報. 2003(01)
本文編號:3557990
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3557990.html
最近更新
教材專著