基于STDP的脈沖神經(jīng)網(wǎng)絡(luò)圖像識(shí)別算法研究
發(fā)布時(shí)間:2023-12-29 18:39
大腦具有驚人的計(jì)算能力,而且計(jì)算功耗非常低。在大腦的啟發(fā)下,人們先后構(gòu)建了淺層人工神經(jīng)網(wǎng)絡(luò)和深度人工神經(jīng)網(wǎng)絡(luò),這些網(wǎng)絡(luò)在模式識(shí)別上也表現(xiàn)出優(yōu)秀的性能。但是,盡管這些神經(jīng)網(wǎng)絡(luò)的靈感來源于大腦,但是其本質(zhì)與實(shí)際的大腦模型卻相差甚遠(yuǎn)。在信息的表達(dá)上,淺層或深層人工神經(jīng)網(wǎng)絡(luò)使用的是數(shù)值信息,而在真實(shí)的生物神經(jīng)網(wǎng)絡(luò)中使用的是脈沖(動(dòng)作電位);在單個(gè)神經(jīng)元模型上,淺層或深層人工神經(jīng)網(wǎng)絡(luò)使用的是與時(shí)間無(wú)關(guān)的計(jì)算模型,而在真實(shí)的大腦網(wǎng)絡(luò)中使用的是脈沖神經(jīng)元模型,該模型對(duì)時(shí)間具有很強(qiáng)的依賴性;學(xué)習(xí)算法上,淺層或深層人工神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)算法是反向傳播算法,而大腦的學(xué)習(xí)算法與一種無(wú)監(jiān)督學(xué)習(xí)機(jī)制STDP有很大關(guān)系。由于這些差異,使得淺層或深層人工神經(jīng)網(wǎng)絡(luò)的功耗和計(jì)算能力都遠(yuǎn)不如大腦。因此越來越多的研究者對(duì)大腦的計(jì)算本質(zhì)產(chǎn)生了興趣。要理解大腦的計(jì)算本質(zhì),我們需要關(guān)注兩點(diǎn),一是生物合理性,二是對(duì)模式識(shí)別任務(wù)的良好性能。正是基于這樣的考慮,本文提出了一個(gè)用于圖像識(shí)別的脈沖神經(jīng)網(wǎng)絡(luò),它不僅在神經(jīng)元模型、突觸模型、學(xué)習(xí)機(jī)制上具有很強(qiáng)的生物合理性,而且在圖像識(shí)別上也表現(xiàn)出了良好的性能。與有監(jiān)督系統(tǒng)不同,本文在學(xué)習(xí)算法上使用...
【文章頁(yè)數(shù)】:81 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
符號(hào)對(duì)照表
縮略語(yǔ)對(duì)照表
第一章 緒論
1.1 課題研究背景和發(fā)展現(xiàn)狀
1.2 課題研究意義
1.3 本文主要內(nèi)容和創(chuàng)新點(diǎn)
1.4 本文章節(jié)結(jié)構(gòu)安排
第二章 神經(jīng)元模型研究
2.1 傳統(tǒng)人工神經(jīng)元模型
2.1.1 感知器單元
2.1.2 線性單元
2.1.3 可微閾值單元
2.2 脈沖神經(jīng)元模型
2.2.1 霍奇金–赫胥黎模型
2.2.2 Leaky Integrate and Fire Model(LIF)
2.2.3 Izhikevich Model
2.2.4 Spike Response Model (SRM)
2.2.5 Thorpe Model
2.2.6 本論文采用的神經(jīng)元模型
2.3 本章小結(jié)
第三章 神經(jīng)編碼
3.1 引言
3.2 頻率編碼
3.2.1 頻率為脈沖計(jì)數(shù)(對(duì)時(shí)間的平均)
3.2.2 頻率為脈沖密度(對(duì)運(yùn)行次數(shù)平均)
3.2.3 頻率為集群活動(dòng)(對(duì)許多神經(jīng)元求平均)
3.3 脈沖編碼
3.3.1 Time-to-First-Spike
3.3.2 相位
3.3.3 相關(guān)性和同步性
3.4 本章小結(jié)
第四章 STDP學(xué)習(xí)機(jī)制研究
4.1 引言
4.2 二脈沖STDP
4.3 三脈沖STDP
4.4 脈沖配對(duì)方案
4.5 本章小結(jié)
第五章 網(wǎng)絡(luò)結(jié)構(gòu)研究
5.1 引言
5.2 Hamming網(wǎng)絡(luò)
5.2.1 Hamming網(wǎng)絡(luò)結(jié)構(gòu)
5.2.2 Hamming網(wǎng)絡(luò)側(cè)抑制過程
5.2.3 Hamming網(wǎng)絡(luò)學(xué)習(xí)過程
5.3 競(jìng)爭(zhēng)性脈沖神經(jīng)網(wǎng)絡(luò)
5.4 本論文所采用網(wǎng)絡(luò)
5.5 本章小結(jié)
第六章 基于STDP的脈沖神經(jīng)網(wǎng)絡(luò)在數(shù)字識(shí)別中的應(yīng)用
6.1 MNIST數(shù)據(jù)庫(kù)介紹
6.2 Brian脈沖神經(jīng)網(wǎng)絡(luò)仿真器介紹
6.3 訓(xùn)練、分配標(biāo)簽和測(cè)試過程
6.3.1 訓(xùn)練過程
6.3.2 分配標(biāo)簽過程
6.3.3 測(cè)試過程
6.4 兩種分類方法的比較
6.5 不同神經(jīng)元時(shí)識(shí)別結(jié)果對(duì)比
6.6 本章小結(jié)
第七章 總結(jié)與展望
7.1 總結(jié)
7.2 展望
參考文獻(xiàn)
致謝
作者簡(jiǎn)介
【部分圖文】:
–赫胥黎模型圖2.3 霍奇金-赫胥黎模型這個(gè)模型可以追溯到 1952 年兩個(gè)人的工作,一位是勞倫·勞埃德·霍奇金(AlanLloyd Hodgkin),另一位是安德魯·赫胥黎(Andrew Huxley),他們?cè)跒踬\的巨軸突上進(jìn)行了實(shí)驗(yàn)。鑒于他們對(duì)神經(jīng)科學(xué)的貢獻(xiàn),兩人都獲得了 1....
|0order jiji ij f j tif firedu tw m else ,jiw 是突觸前神經(jīng)元 j的權(quán)值, f j 是神經(jīng)元 j的發(fā)放時(shí)間, i m 數(shù),即調(diào)節(jié)因子。函數(shù) order j 代表神經(jīng)元 j發(fā)放脈沖的等級(jí)。比元i的所有突觸前神經(jīng)元....
一旦有一個(gè)神經(jīng)元競(jìng)爭(zhēng)獲勝,該神經(jīng)元將會(huì)使其它神經(jīng)元不能發(fā)放脈沖。第二層興奮性神經(jīng)元與抑制性神經(jīng)元的連接是固定的,僅僅起到側(cè)抑制的作用,而不會(huì)進(jìn)行訓(xùn)練。圖5.3 一種基于 STDP 的脈沖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖[64]該網(wǎng)絡(luò)中神經(jīng)元模型采用漏型累積發(fā)放模型: rest e exc i ....
本文編號(hào):3876209
【文章頁(yè)數(shù)】:81 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
符號(hào)對(duì)照表
縮略語(yǔ)對(duì)照表
第一章 緒論
1.1 課題研究背景和發(fā)展現(xiàn)狀
1.2 課題研究意義
1.3 本文主要內(nèi)容和創(chuàng)新點(diǎn)
1.4 本文章節(jié)結(jié)構(gòu)安排
第二章 神經(jīng)元模型研究
2.1 傳統(tǒng)人工神經(jīng)元模型
2.1.1 感知器單元
2.1.2 線性單元
2.1.3 可微閾值單元
2.2 脈沖神經(jīng)元模型
2.2.1 霍奇金–赫胥黎模型
2.2.2 Leaky Integrate and Fire Model(LIF)
2.2.3 Izhikevich Model
2.2.4 Spike Response Model (SRM)
2.2.5 Thorpe Model
2.2.6 本論文采用的神經(jīng)元模型
2.3 本章小結(jié)
第三章 神經(jīng)編碼
3.1 引言
3.2 頻率編碼
3.2.1 頻率為脈沖計(jì)數(shù)(對(duì)時(shí)間的平均)
3.2.2 頻率為脈沖密度(對(duì)運(yùn)行次數(shù)平均)
3.2.3 頻率為集群活動(dòng)(對(duì)許多神經(jīng)元求平均)
3.3 脈沖編碼
3.3.1 Time-to-First-Spike
3.3.2 相位
3.3.3 相關(guān)性和同步性
3.4 本章小結(jié)
第四章 STDP學(xué)習(xí)機(jī)制研究
4.1 引言
4.2 二脈沖STDP
4.3 三脈沖STDP
4.4 脈沖配對(duì)方案
4.5 本章小結(jié)
第五章 網(wǎng)絡(luò)結(jié)構(gòu)研究
5.1 引言
5.2 Hamming網(wǎng)絡(luò)
5.2.1 Hamming網(wǎng)絡(luò)結(jié)構(gòu)
5.2.2 Hamming網(wǎng)絡(luò)側(cè)抑制過程
5.2.3 Hamming網(wǎng)絡(luò)學(xué)習(xí)過程
5.3 競(jìng)爭(zhēng)性脈沖神經(jīng)網(wǎng)絡(luò)
5.4 本論文所采用網(wǎng)絡(luò)
5.5 本章小結(jié)
第六章 基于STDP的脈沖神經(jīng)網(wǎng)絡(luò)在數(shù)字識(shí)別中的應(yīng)用
6.1 MNIST數(shù)據(jù)庫(kù)介紹
6.2 Brian脈沖神經(jīng)網(wǎng)絡(luò)仿真器介紹
6.3 訓(xùn)練、分配標(biāo)簽和測(cè)試過程
6.3.1 訓(xùn)練過程
6.3.2 分配標(biāo)簽過程
6.3.3 測(cè)試過程
6.4 兩種分類方法的比較
6.5 不同神經(jīng)元時(shí)識(shí)別結(jié)果對(duì)比
6.6 本章小結(jié)
第七章 總結(jié)與展望
7.1 總結(jié)
7.2 展望
參考文獻(xiàn)
致謝
作者簡(jiǎn)介
【部分圖文】:
–赫胥黎模型圖2.3 霍奇金-赫胥黎模型這個(gè)模型可以追溯到 1952 年兩個(gè)人的工作,一位是勞倫·勞埃德·霍奇金(AlanLloyd Hodgkin),另一位是安德魯·赫胥黎(Andrew Huxley),他們?cè)跒踬\的巨軸突上進(jìn)行了實(shí)驗(yàn)。鑒于他們對(duì)神經(jīng)科學(xué)的貢獻(xiàn),兩人都獲得了 1....
|0order jiji ij f j tif firedu tw m else ,jiw 是突觸前神經(jīng)元 j的權(quán)值, f j 是神經(jīng)元 j的發(fā)放時(shí)間, i m 數(shù),即調(diào)節(jié)因子。函數(shù) order j 代表神經(jīng)元 j發(fā)放脈沖的等級(jí)。比元i的所有突觸前神經(jīng)元....
一旦有一個(gè)神經(jīng)元競(jìng)爭(zhēng)獲勝,該神經(jīng)元將會(huì)使其它神經(jīng)元不能發(fā)放脈沖。第二層興奮性神經(jīng)元與抑制性神經(jīng)元的連接是固定的,僅僅起到側(cè)抑制的作用,而不會(huì)進(jìn)行訓(xùn)練。圖5.3 一種基于 STDP 的脈沖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖[64]該網(wǎng)絡(luò)中神經(jīng)元模型采用漏型累積發(fā)放模型: rest e exc i ....
本文編號(hào):3876209
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3876209.html
最近更新
教材專著