脈沖神經(jīng)網(wǎng)絡(luò)模型優(yōu)化及其應(yīng)用
發(fā)布時(shí)間:2020-12-13 22:09
20世紀(jì)中期,通過(guò)模擬人類(lèi)大腦來(lái)創(chuàng)建計(jì)算模型的觀點(diǎn)被提出,同時(shí)也被用于一些實(shí)際應(yīng)用場(chǎng)合中,這種模型被稱為“人工神經(jīng)網(wǎng)絡(luò)”,并逐漸流行起來(lái),然而隨后幾年又被簡(jiǎn)單的人工智能模型所取代。由于較多的改進(jìn)帶來(lái)了更豐富的神經(jīng)元模型和更具生物學(xué)現(xiàn)實(shí)性的網(wǎng)絡(luò)設(shè)計(jì),神經(jīng)網(wǎng)絡(luò)領(lǐng)域的研究再次引起了人們的興趣。脈沖神經(jīng)網(wǎng)絡(luò)是一類(lèi)特殊的人工神經(jīng)網(wǎng)絡(luò),它模擬的生物神經(jīng)元模型以發(fā)放神經(jīng)脈沖(動(dòng)作電位)的形式進(jìn)行相互間的通訊。與傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)相比,脈沖神經(jīng)網(wǎng)絡(luò)以更具生物可解釋性的方式模擬大腦的動(dòng)態(tài)性能與學(xué)習(xí)能力。但是,由于收斂速度慢、識(shí)別準(zhǔn)確率低、權(quán)值不穩(wěn)定以及網(wǎng)絡(luò)不穩(wěn)定等問(wèn)題的存在,訓(xùn)練脈沖神經(jīng)網(wǎng)絡(luò)仍然存在諸多問(wèn)題。本篇論文在目前已有的研究成果的基礎(chǔ)上,重點(diǎn)針對(duì)脈沖神經(jīng)網(wǎng)絡(luò)監(jiān)督學(xué)習(xí)算法的收斂速度、分類(lèi)與預(yù)測(cè)準(zhǔn)確率和網(wǎng)絡(luò)穩(wěn)定性等方面進(jìn)行優(yōu)化,同時(shí)開(kāi)展利用脈沖神經(jīng)網(wǎng)絡(luò)對(duì)腦電信號(hào)進(jìn)行情感識(shí)別的研究等,主要工作包括:1.首先介紹課題的研究背景,包括課題的由來(lái)與主要研究?jī)?nèi)容,并且給出了本文的創(chuàng)新點(diǎn)。然后描述了傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)與脈沖神經(jīng)網(wǎng)絡(luò)的基本知識(shí),并通過(guò)對(duì)比闡述了脈沖神經(jīng)網(wǎng)絡(luò)的優(yōu)勢(shì)。接著詳細(xì)介紹了脈沖神經(jīng)網(wǎng)絡(luò)的發(fā)展、基...
【文章來(lái)源】:廣西師范大學(xué)廣西壯族自治區(qū)
【文章頁(yè)數(shù)】:68 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
Izhikevich模型不同的放電模式
圖 2-17 內(nèi)部脈沖間隔編碼法學(xué)習(xí)算法是脈沖神經(jīng)網(wǎng)絡(luò)能夠完成訓(xùn)練的保證。將學(xué)習(xí)算法應(yīng)用整突觸權(quán)值實(shí)現(xiàn)輸入與輸出之間的理想映射。傳統(tǒng)的網(wǎng)絡(luò)訓(xùn)練方雜時(shí)空信息的需求。近年來(lái),出現(xiàn)了較多的學(xué)習(xí)算法,按照網(wǎng)絡(luò)形式可分為無(wú)監(jiān)督學(xué)習(xí)與監(jiān)督學(xué)習(xí)兩種。督學(xué)習(xí)算法督訓(xùn)練中,輸入數(shù)據(jù)是向網(wǎng)絡(luò)提供的唯一數(shù)據(jù)。由于系統(tǒng)的期望輸?shù)妮斎胂蛄糠纸M,以便使相同的輸入模式產(chǎn)生相同的輸出。因此中提取統(tǒng)計(jì)數(shù)據(jù),并將它們分組到相應(yīng)類(lèi)別中。因此,應(yīng)用任意該類(lèi)別相關(guān)的特定輸出。這種類(lèi)型的學(xué)習(xí)方式被認(rèn)為是一種更具模擬生物數(shù)據(jù)時(shí)非常有用[30]。無(wú)監(jiān)督學(xué)習(xí)方法為無(wú)監(jiān)督 STDP 規(guī)則。STDP 規(guī)則進(jìn)一步提出了
因子適應(yīng)動(dòng)量因子35 16 17.2 1.2適應(yīng)學(xué)習(xí)率51 16 15.3 0.7圖表可知,自適應(yīng)學(xué)習(xí)率與動(dòng)態(tài)動(dòng)量因子相結(jié)合的方法具有最小的雖不是最少,但已明顯優(yōu)于原算法;從執(zhí)行步數(shù)層面考慮,自適應(yīng)誤差不是最小,但也明顯優(yōu)于原算法。癌細(xì)胞數(shù)據(jù)集驗(yàn)證細(xì)胞數(shù)據(jù)集也被應(yīng)用于本文所介紹的算法中,該數(shù)據(jù)集由威斯康星果分類(lèi)為良性與惡性癌腫瘤[37]。完整的數(shù)據(jù)集中包含 699 個(gè)樣本,的信息有所遺落,因此在實(shí)驗(yàn)中將這些數(shù)據(jù)移除。余下的 683 個(gè)樣本數(shù)據(jù)與 239 個(gè)惡性腫瘤數(shù)據(jù)。圖 3-3 給出了數(shù)據(jù)集的表面圖,以更的難度。 由此圖可以看出,各個(gè)類(lèi)別之間存在顯著差異。
【參考文獻(xiàn)】:
期刊論文
[1]基于混合結(jié)構(gòu)卷積神經(jīng)網(wǎng)絡(luò)的目標(biāo)快速檢測(cè)算法[J]. 林封笑,陳華杰,姚勤煒,張杰豪. 計(jì)算機(jī)工程. 2018(12)
[2]基于進(jìn)化算法和模糊控制的機(jī)器人路徑規(guī)劃[J]. 張俊溪,米國(guó)際,王鑫,蔣江紅. 計(jì)算機(jī)技術(shù)與發(fā)展. 2018(06)
[3]ReLU激活函數(shù)優(yōu)化研究[J]. 蔣昂波,王維維. 傳感器與微系統(tǒng). 2018(02)
[4]脈沖神經(jīng)元脈沖序列學(xué)習(xí)方法綜述[J]. 徐彥,熊迎軍,楊靜. 計(jì)算機(jī)應(yīng)用. 2018(06)
[5]基于循環(huán)和卷積神經(jīng)網(wǎng)絡(luò)的文本分類(lèi)研究[J]. 劉騰飛,于雙元,張洪濤,尹鴻峰. 軟件. 2018(01)
[6]脈沖神經(jīng)網(wǎng)絡(luò):模型、學(xué)習(xí)算法與應(yīng)用[J]. 程龍,劉洋. 控制與決策. 2018(05)
[7]感知機(jī)理論研究綜述[J]. 張?zhí)煨? 電子技術(shù)與軟件工程. 2017(22)
[8]基于無(wú)監(jiān)督學(xué)習(xí)的移動(dòng)心電信號(hào)異常診斷研究[J]. 李鋒,謝嗣弘. 計(jì)算機(jī)科學(xué). 2017(S2)
[9]脈沖神經(jīng)網(wǎng)絡(luò)中STDP學(xué)習(xí)算法的穩(wěn)定性[J]. 阮承妹,劉持標(biāo),邱錦明. 榆林學(xué)院學(xué)報(bào). 2017(06)
[10]Spiking神經(jīng)元輸入脈沖擾動(dòng)敏感性研究[J]. 楊靜,徐彥,趙欣. 計(jì)算機(jī)工程與應(yīng)用. 2017(02)
碩士論文
[1]基于FHN神經(jīng)元改進(jìn)模型的隨機(jī)共振機(jī)制及其在圖像處理中的應(yīng)用研究[D]. 李丹菁.杭州電子科技大學(xué) 2015
[2]脈沖神經(jīng)網(wǎng)絡(luò)的噪聲擾動(dòng)分析[D]. 王博.大連理工大學(xué) 2013
本文編號(hào):2915259
【文章來(lái)源】:廣西師范大學(xué)廣西壯族自治區(qū)
【文章頁(yè)數(shù)】:68 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
Izhikevich模型不同的放電模式
圖 2-17 內(nèi)部脈沖間隔編碼法學(xué)習(xí)算法是脈沖神經(jīng)網(wǎng)絡(luò)能夠完成訓(xùn)練的保證。將學(xué)習(xí)算法應(yīng)用整突觸權(quán)值實(shí)現(xiàn)輸入與輸出之間的理想映射。傳統(tǒng)的網(wǎng)絡(luò)訓(xùn)練方雜時(shí)空信息的需求。近年來(lái),出現(xiàn)了較多的學(xué)習(xí)算法,按照網(wǎng)絡(luò)形式可分為無(wú)監(jiān)督學(xué)習(xí)與監(jiān)督學(xué)習(xí)兩種。督學(xué)習(xí)算法督訓(xùn)練中,輸入數(shù)據(jù)是向網(wǎng)絡(luò)提供的唯一數(shù)據(jù)。由于系統(tǒng)的期望輸?shù)妮斎胂蛄糠纸M,以便使相同的輸入模式產(chǎn)生相同的輸出。因此中提取統(tǒng)計(jì)數(shù)據(jù),并將它們分組到相應(yīng)類(lèi)別中。因此,應(yīng)用任意該類(lèi)別相關(guān)的特定輸出。這種類(lèi)型的學(xué)習(xí)方式被認(rèn)為是一種更具模擬生物數(shù)據(jù)時(shí)非常有用[30]。無(wú)監(jiān)督學(xué)習(xí)方法為無(wú)監(jiān)督 STDP 規(guī)則。STDP 規(guī)則進(jìn)一步提出了
因子適應(yīng)動(dòng)量因子35 16 17.2 1.2適應(yīng)學(xué)習(xí)率51 16 15.3 0.7圖表可知,自適應(yīng)學(xué)習(xí)率與動(dòng)態(tài)動(dòng)量因子相結(jié)合的方法具有最小的雖不是最少,但已明顯優(yōu)于原算法;從執(zhí)行步數(shù)層面考慮,自適應(yīng)誤差不是最小,但也明顯優(yōu)于原算法。癌細(xì)胞數(shù)據(jù)集驗(yàn)證細(xì)胞數(shù)據(jù)集也被應(yīng)用于本文所介紹的算法中,該數(shù)據(jù)集由威斯康星果分類(lèi)為良性與惡性癌腫瘤[37]。完整的數(shù)據(jù)集中包含 699 個(gè)樣本,的信息有所遺落,因此在實(shí)驗(yàn)中將這些數(shù)據(jù)移除。余下的 683 個(gè)樣本數(shù)據(jù)與 239 個(gè)惡性腫瘤數(shù)據(jù)。圖 3-3 給出了數(shù)據(jù)集的表面圖,以更的難度。 由此圖可以看出,各個(gè)類(lèi)別之間存在顯著差異。
【參考文獻(xiàn)】:
期刊論文
[1]基于混合結(jié)構(gòu)卷積神經(jīng)網(wǎng)絡(luò)的目標(biāo)快速檢測(cè)算法[J]. 林封笑,陳華杰,姚勤煒,張杰豪. 計(jì)算機(jī)工程. 2018(12)
[2]基于進(jìn)化算法和模糊控制的機(jī)器人路徑規(guī)劃[J]. 張俊溪,米國(guó)際,王鑫,蔣江紅. 計(jì)算機(jī)技術(shù)與發(fā)展. 2018(06)
[3]ReLU激活函數(shù)優(yōu)化研究[J]. 蔣昂波,王維維. 傳感器與微系統(tǒng). 2018(02)
[4]脈沖神經(jīng)元脈沖序列學(xué)習(xí)方法綜述[J]. 徐彥,熊迎軍,楊靜. 計(jì)算機(jī)應(yīng)用. 2018(06)
[5]基于循環(huán)和卷積神經(jīng)網(wǎng)絡(luò)的文本分類(lèi)研究[J]. 劉騰飛,于雙元,張洪濤,尹鴻峰. 軟件. 2018(01)
[6]脈沖神經(jīng)網(wǎng)絡(luò):模型、學(xué)習(xí)算法與應(yīng)用[J]. 程龍,劉洋. 控制與決策. 2018(05)
[7]感知機(jī)理論研究綜述[J]. 張?zhí)煨? 電子技術(shù)與軟件工程. 2017(22)
[8]基于無(wú)監(jiān)督學(xué)習(xí)的移動(dòng)心電信號(hào)異常診斷研究[J]. 李鋒,謝嗣弘. 計(jì)算機(jī)科學(xué). 2017(S2)
[9]脈沖神經(jīng)網(wǎng)絡(luò)中STDP學(xué)習(xí)算法的穩(wěn)定性[J]. 阮承妹,劉持標(biāo),邱錦明. 榆林學(xué)院學(xué)報(bào). 2017(06)
[10]Spiking神經(jīng)元輸入脈沖擾動(dòng)敏感性研究[J]. 楊靜,徐彥,趙欣. 計(jì)算機(jī)工程與應(yīng)用. 2017(02)
碩士論文
[1]基于FHN神經(jīng)元改進(jìn)模型的隨機(jī)共振機(jī)制及其在圖像處理中的應(yīng)用研究[D]. 李丹菁.杭州電子科技大學(xué) 2015
[2]脈沖神經(jīng)網(wǎng)絡(luò)的噪聲擾動(dòng)分析[D]. 王博.大連理工大學(xué) 2013
本文編號(hào):2915259
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/2915259.html
最近更新
教材專(zhuān)著