脈沖神經(jīng)網(wǎng)絡(luò)的算法與實(shí)現(xiàn)研究
發(fā)布時(shí)間:2021-01-02 09:22
深度學(xué)習(xí)在圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等任務(wù)上均獲得了優(yōu)異的結(jié)果,但是深度學(xué)習(xí)利用連續(xù)的實(shí)值在神經(jīng)元之間進(jìn)行通信,且使用反向傳播算法學(xué)習(xí)權(quán)重,并不具有生物合理性,且能耗過高。而脈沖神經(jīng)網(wǎng)絡(luò)模型則是受大腦啟發(fā),神經(jīng)元之間使用脈沖通信,表現(xiàn)出了替代深度學(xué)習(xí)的潛力。然而,脈沖神經(jīng)網(wǎng)絡(luò)的研究仍處于初級(jí)階段,性能上暫無法與深度學(xué)習(xí)相提并論,且缺乏較為成熟的編程框架。因此,本文探索了脈沖神經(jīng)網(wǎng)絡(luò)的算法與實(shí)現(xiàn),提出了一種靈活高效的脈沖神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)方法,以及一種全新的針對(duì)語(yǔ)音識(shí)別任務(wù)的脈沖神經(jīng)網(wǎng)絡(luò)模型。本文首先介紹了脈沖神經(jīng)網(wǎng)絡(luò)的研究現(xiàn)狀、現(xiàn)有模型以及相關(guān)實(shí)驗(yàn)。然后,對(duì)比并測(cè)評(píng)了脈沖神經(jīng)網(wǎng)絡(luò)的不同編程框架,并提出了一種利用NumPy/PyCUDA實(shí)現(xiàn)脈沖神經(jīng)網(wǎng)絡(luò)的新方法。最后,本文提出了一種卷積脈沖神經(jīng)網(wǎng)絡(luò)模型,利用突觸可塑性作為學(xué)習(xí)規(guī)則完成語(yǔ)音識(shí)別的任務(wù),并達(dá)到與傳統(tǒng)方法相當(dāng)?shù)男阅堋?nbsp;
【文章來源】:哈爾濱理工大學(xué)黑龍江省
【文章頁(yè)數(shù)】:69 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
不同的神經(jīng)編碼Fig.2-1Differentneuralcodingschemes
圖 2-2 使用 STDP 無監(jiān)督學(xué)習(xí)的淺層脈沖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.2-2 Shallow spiking neural network unsupervisedly learned by STD用 400 個(gè)神經(jīng)元,達(dá)到 90% 左右的準(zhǔn)確率,如圖 2-3所示。,模型的準(zhǔn)確率開始收斂到 90%。與此同時(shí),權(quán)重的方差增
準(zhǔn)確率收斂曲線
本文編號(hào):2953103
【文章來源】:哈爾濱理工大學(xué)黑龍江省
【文章頁(yè)數(shù)】:69 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
不同的神經(jīng)編碼Fig.2-1Differentneuralcodingschemes
圖 2-2 使用 STDP 無監(jiān)督學(xué)習(xí)的淺層脈沖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.2-2 Shallow spiking neural network unsupervisedly learned by STD用 400 個(gè)神經(jīng)元,達(dá)到 90% 左右的準(zhǔn)確率,如圖 2-3所示。,模型的準(zhǔn)確率開始收斂到 90%。與此同時(shí),權(quán)重的方差增
準(zhǔn)確率收斂曲線
本文編號(hào):2953103
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/2953103.html
最近更新
教材專著