隨著人工神經(jīng)網(wǎng)絡的快速發(fā)展,受生物啟發(fā)的脈沖神經(jīng)網(wǎng)絡近些年來受到越來越多的關注。由更具生物真實性的脈沖神經(jīng)元模型為基本單元構(gòu)成的脈沖神經(jīng)網(wǎng)絡,應用脈沖序列表示與處理信息,這種編碼方式整合了信息的多個方面,如時間、頻率和相位等。生物大腦具有多層次的網(wǎng)絡結(jié)構(gòu),這種結(jié)構(gòu)可以對信號的特征進行逐層變換和抽象,根據(jù)這種思想,研究者提出了具有深層結(jié)構(gòu)的神經(jīng)網(wǎng)絡及其深度學習方法。結(jié)合脈沖神經(jīng)網(wǎng)絡的信息處理方式與深度神經(jīng)網(wǎng)絡的計算模式,構(gòu)造具有廣泛適用性的脈沖神經(jīng)網(wǎng)絡的深度學習方法,將是機器學習研究中極富挑戰(zhàn)性的任務。由于脈沖神經(jīng)元內(nèi)部狀態(tài)不可微的性質(zhì)使得在傳統(tǒng)神經(jīng)網(wǎng)絡上應用很成功的基于微分的優(yōu)化方法不再適用于脈沖神經(jīng)網(wǎng)絡,因此,盡管脈沖神經(jīng)網(wǎng)絡在理論上被認為比傳統(tǒng)神經(jīng)網(wǎng)絡具有更高的計算能力,但如何有效訓練深度脈沖神經(jīng)網(wǎng)絡仍是一個難題。一些脈沖神經(jīng)網(wǎng)絡使用反向傳播實現(xiàn)了深度學習,但顯而易見的是它們?nèi)匀粺o法避免反向傳播算法在生物上不合理的權(quán)值運輸問題;更多的深度脈沖神經(jīng)網(wǎng)絡是從傳統(tǒng)神經(jīng)網(wǎng)絡轉(zhuǎn)換而來,但在轉(zhuǎn)換過程中難免會出現(xiàn)精度下降、神經(jīng)元欠激活或者過激活、負值無法表示和增加網(wǎng)絡復雜度等一系列問題。針對上述...

【文章頁數(shù)】：61 頁

【學位級別】：碩士

【部分圖文】：

圖2-4不同學習

西北師范大學碩士學位論文202.5.4實驗參數(shù)分析在本節(jié)，我們用不同的學習率、脈沖發(fā)放頻率inr和脈沖序列長度來測試并比較本章所研究的DLSTIP算法及其簡化算法SDLSTIP的學習性能。首先，分析不同的學習率對研究的DLSTIP算法及其簡化算法SDLSTIP的學習性能的影響。圖....

圖2-5在不同脈沖

第2章基于脈沖序列內(nèi)積的DSNN監(jiān)督學習算法21然后，分析不同的輸入脈沖頻率inr對研究的DLSTIP算法及其簡化算法SDLSTIP的學習性能的影響。實驗中輸入脈沖序列的發(fā)放頻率以間隔10Hz從10Hz增加到100Hz，其他設置保持不變。圖2-5顯示了DLSTIP算法及其簡化算法....

圖2-6在不同脈沖序

西北師范大學碩士學位論文22脈沖序列長度是評估一個算法性能的重要參考因素，不同的脈沖序列長度能測試網(wǎng)絡解決復雜時空模式學習的能力。圖2-6顯示了本章研究的DLSTIP算法及其簡化算法SDLSTIP在不同的脈沖序列長度下的學習結(jié)果。在實驗中，脈沖序列以50ms的間隔從50ms增加到....

圖3-4SDNFA算法的脈

第3章基于反饋對齊機制的DSNN監(jiān)督學習算法33穩(wěn)定。經(jīng)過54個學習周期，學習精度C達到1.0。學習之前和之后的突觸權(quán)值分別在圖3-4（c）、（d）中示出。這些學習結(jié)果表明，使用研究的SDNFA算法，脈沖神經(jīng)網(wǎng)絡可以成功學習輸出所需的脈沖序列。（a）脈沖序列學習過程（c）學習前的....

本文編號：3925266