本文以深度回聲狀態(tài)網(wǎng)絡(luò)為研究課題,相比于回聲狀態(tài)網(wǎng)絡(luò),深度回聲狀態(tài)網(wǎng)絡(luò)具有較豐富的動(dòng)態(tài)特性、較強(qiáng)的短期記憶存儲(chǔ)能力、較精確的時(shí)序預(yù)測(cè)能力。但是,深度回聲狀態(tài)網(wǎng)絡(luò)仍然存在共線性、不適定、數(shù)值穩(wěn)定性差等問(wèn)題,因此,研究深度回聲狀態(tài)網(wǎng)絡(luò)的優(yōu)化方案,對(duì)深度回聲狀態(tài)網(wǎng)絡(luò)的進(jìn)一步發(fā)展并且應(yīng)用于精度和穩(wěn)定性要求更高的行業(yè)領(lǐng)域中具有重要的意義。本文從內(nèi)存長(zhǎng)度的改變、激活函數(shù)的改變和儲(chǔ)層狀態(tài)矩陣維度的改變研究了深度回聲狀態(tài)網(wǎng)絡(luò)的性能變化。首先提出了內(nèi)存長(zhǎng)度可變的深度回聲狀態(tài)網(wǎng)絡(luò),其儲(chǔ)層的狀態(tài)更新直接與多個(gè)歷史儲(chǔ)層狀態(tài)相關(guān),可以記住更長(zhǎng)時(shí)間內(nèi)的信息。其次提出了一種新的激活函數(shù)作為深度回聲狀態(tài)網(wǎng)絡(luò)的激活函數(shù),該新激活函數(shù)由五種Sigmoid函數(shù)組成,通過(guò)改變每個(gè)Sigmoid函數(shù)的系數(shù)可以改變新激活函數(shù)的有效區(qū)域。改變激活函數(shù)是從深度回聲狀態(tài)網(wǎng)絡(luò)的人工神經(jīng)元設(shè)計(jì)方面進(jìn)行的改變,降低深度回聲狀態(tài)網(wǎng)絡(luò)儲(chǔ)層狀態(tài)矩陣的維度是從深度回聲狀態(tài)網(wǎng)絡(luò)訓(xùn)練方面進(jìn)行的改變�？紤]到深度回聲狀態(tài)網(wǎng)絡(luò)的訓(xùn)練非常依賴儲(chǔ)層狀態(tài)矩陣,當(dāng)儲(chǔ)層狀態(tài)矩陣是病態(tài)矩陣時(shí),訓(xùn)練的深度回聲狀態(tài)網(wǎng)絡(luò)對(duì)輸入非常敏感,數(shù)值穩(wěn)定性也差,因此采用了拉普拉斯特征映... 

【文章頁(yè)數(shù)】：75 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
abstract
第一章 緒論
    1.1 研究工作的背景與意義
    1.2 國(guó)內(nèi)外研究歷史與現(xiàn)狀
        1.2.1 回聲狀態(tài)網(wǎng)絡(luò)
        1.2.2 深度回聲狀態(tài)網(wǎng)絡(luò)
        1.2.3 時(shí)間序列應(yīng)用
    1.3 本文的主要貢獻(xiàn)與創(chuàng)新
    1.4 本論文的結(jié)構(gòu)安排
第二章 內(nèi)存長(zhǎng)度可變的深度回聲狀態(tài)網(wǎng)絡(luò)
    2.1 網(wǎng)絡(luò)模型與回聲狀態(tài)性質(zhì)
    2.2 轉(zhuǎn)換穩(wěn)定性
    2.3 仿真分析
        2.3.1 擾動(dòng)影響分析
        2.3.2 轉(zhuǎn)換穩(wěn)定性分析
        2.3.3 時(shí)序預(yù)測(cè)分析
        2.3.4 記憶容量分析
    2.4 本章小結(jié)
第三章 多函數(shù)激活的深度回聲狀態(tài)網(wǎng)絡(luò)
    3.1 多函數(shù)激活基礎(chǔ)
    3.2 網(wǎng)絡(luò)模型與回聲狀態(tài)性質(zhì)
    3.3 仿真分析
        3.3.1 擾動(dòng)影響分析
        3.3.2 轉(zhuǎn)換穩(wěn)定性分析
        3.3.3 時(shí)序預(yù)測(cè)分析
        3.3.4 記憶容量分析
    3.4 本章小結(jié)
第四章 拉普拉斯深度回聲狀態(tài)網(wǎng)絡(luò)
    4.1 拉普拉斯特征映射降維算法基礎(chǔ)
    4.2 拉普拉斯深度回聲狀態(tài)網(wǎng)絡(luò)
        4.2.1 回聲狀態(tài)性質(zhì)分析
        4.2.2 目標(biāo)子空間維度分析
    4.3 仿真分析
        4.3.1 擾動(dòng)影響分析
        4.3.2 轉(zhuǎn)換穩(wěn)定性分析
        4.3.3 時(shí)序預(yù)測(cè)分析
        4.3.4 記憶容量分析
    4.4 本章小結(jié)
第五章 全文總結(jié)與展望
    5.1 全文總結(jié)
    5.2 后續(xù)工作展望
致謝
參考文獻(xiàn)
攻讀碩士學(xué)位期間取得的成果



本文編號(hào)：3703010