本文關(guān)鍵詞：基于回聲狀態(tài)網(wǎng)絡(luò)的多元時(shí)間序列預(yù)測研究

  更多相關(guān)文章： 多元 時(shí)間序列 回聲狀態(tài)網(wǎng)絡(luò) 預(yù)測

【摘要】：復(fù)雜系統(tǒng)廣泛存在于氣象、水文等眾多領(lǐng)域,具有多變量動(dòng)態(tài)演化行為和多層次結(jié)構(gòu),大多呈現(xiàn)出混沌特性,無法建立精確的解析模型。在此背景下,多元時(shí)間序列分析與建模技術(shù)應(yīng)運(yùn)而生,為復(fù)雜系統(tǒng)研究提供一條新的途徑。近年來,回聲狀態(tài)網(wǎng)絡(luò)引起了國內(nèi)外學(xué)者的廣泛關(guān)注,成為時(shí)間序列預(yù)測領(lǐng)域新的研究熱點(diǎn),但是關(guān)于其訓(xùn)練過程和結(jié)構(gòu)優(yōu)化的研究尚未成熟。本文以回聲狀態(tài)網(wǎng)絡(luò)為多元時(shí)間序列的主要預(yù)測模型,改進(jìn)其學(xué)習(xí)算法和結(jié)構(gòu),建立組合預(yù)測模型,以提高預(yù)測精度、實(shí)現(xiàn)多步預(yù)測和在線預(yù)測。主要內(nèi)容包括：1、針對(duì)儲(chǔ)備池狀態(tài)矩陣規(guī)模龐大、現(xiàn)有基于降維方法的回聲狀態(tài)網(wǎng)絡(luò)模型計(jì)算復(fù)雜的問題,提出新型的降維預(yù)測模型�；芈暊顟B(tài)網(wǎng)絡(luò)具有成百上千個(gè)隱層節(jié)點(diǎn),其產(chǎn)生的大規(guī)模儲(chǔ)備池狀態(tài)矩陣通常具有病態(tài)特性,可以采用降維方法提取大規(guī)模矩陣的子空間,子空間代替原始大規(guī)模病態(tài)矩陣求解輸出權(quán)值。但已有的研究如主成分分析等方法涉及到大規(guī)模稠密矩陣特征值分解問題,計(jì)算復(fù)雜度高。為解決上述問題,本文首先采用小規(guī)模三對(duì)角矩陣的特征值逼近原始大規(guī)模矩陣特征值,建立快速子空間回聲狀態(tài)網(wǎng)絡(luò)模型,降低模型計(jì)算復(fù)雜度,提高預(yù)測精度。其次,考慮到大規(guī)模儲(chǔ)備池狀態(tài)變量間相關(guān)系數(shù)較大、近似共線性嚴(yán)重的問題,本文采用因子分析方法將大量具有線性相關(guān)關(guān)系的儲(chǔ)備池變量歸結(jié)為少量綜合因子,利用公因子代替原狀態(tài)矩陣求解輸出權(quán)值。最后,由于實(shí)際數(shù)據(jù)中含有噪聲,引入具有局部保持特性的Laplacian特征圖還原回聲狀態(tài)網(wǎng)絡(luò)隱層節(jié)點(diǎn)的非線性連接關(guān)系,提取狀態(tài)矩陣的低維流形特征。在此基礎(chǔ)上,分析模型的瞬態(tài)穩(wěn)定性、局部可控性和局部可觀測性。2、針對(duì)儲(chǔ)備池狀態(tài)變量存在冗余成分的問題,提出稀疏正則化回聲狀態(tài)網(wǎng)絡(luò)模型。為去除冗余成分、降低儲(chǔ)備池狀態(tài)變量間相關(guān)性,同時(shí)減小輸出權(quán)值的幅值,對(duì)輸出權(quán)值施加自適應(yīng)L1范數(shù)懲罰項(xiàng)和L2范數(shù)懲罰項(xiàng),建立自適應(yīng)彈性網(wǎng)回聲狀態(tài)網(wǎng)絡(luò)模型。L1范數(shù)懲罰可以使得冗余成分對(duì)應(yīng)的輸出權(quán)值幅值收縮為零,L2范數(shù)懲罰可以連續(xù)收縮變量間的相關(guān)性,減小非零輸出權(quán)值的幅值,自適應(yīng)項(xiàng)則可以減小較大輸出權(quán)值處的偏差,提高模型的預(yù)測精度。由于自適應(yīng)懲罰系數(shù)的計(jì)算會(huì)增加算法的計(jì)算復(fù)雜度,進(jìn)一步研究具有更好稀疏性的L1/2范數(shù)正則化,建立基于L1/2范數(shù)與L2范數(shù)的混合正則化模型,只需很小的正則化系數(shù)就可以得到稀疏的輸出權(quán)值,且幅值較小。由于正則化系數(shù)較小,引入的模型偏差很小,無需額外施加自適應(yīng)懲罰系數(shù),算法計(jì)算簡單,泛化性能好,預(yù)測精度高。為實(shí)現(xiàn)多步預(yù)測,利用Lyapunov指數(shù)計(jì)算混沌時(shí)間序列的可預(yù)測尺度,在可預(yù)測尺度內(nèi),混合正則化預(yù)測模型能夠取得較高的預(yù)測精度。3、針對(duì)單一改進(jìn)回聲狀態(tài)網(wǎng)絡(luò)不足以映射多元時(shí)間序列復(fù)雜統(tǒng)計(jì)特性的問題,提出新型的回聲狀態(tài)網(wǎng)絡(luò)組合預(yù)測模型。為避免病態(tài)解問題和冗余成分問題,需減少隱層節(jié)點(diǎn)數(shù),因此,要求神經(jīng)元具有很強(qiáng)的表示能力。基于此,將小波分析與回聲狀態(tài)網(wǎng)絡(luò)融合,建立對(duì)角結(jié)構(gòu)小波回聲狀態(tài)網(wǎng)絡(luò)模型。為豐富神經(jīng)元的多樣性,激活函數(shù)選為Sigmoid型函數(shù)與小波基函數(shù)的復(fù)合函數(shù)。考慮到時(shí)間序列中既存在線性特征又存在非線性特征,而且誤差序列中仍含有一定的規(guī)律,提出基于誤差補(bǔ)償?shù)念A(yù)測方法。首先采用ARMA模型預(yù)測線性特征,得到服從弱高斯分布的殘差序列,然后采用嶺回歸回聲狀態(tài)網(wǎng)絡(luò)預(yù)測殘差序列,最后將殘差預(yù)測值補(bǔ)償?shù)紸RMA模型預(yù)測值中。此外,由于復(fù)雜系統(tǒng)特性隨時(shí)間發(fā)生變化,觀測到的混沌時(shí)間序列呈現(xiàn)出非平穩(wěn)特性,提出非線性卡爾曼濾波回聲狀態(tài)網(wǎng)絡(luò)模型,實(shí)時(shí)調(diào)整網(wǎng)絡(luò)參數(shù)。采用不同復(fù)雜系統(tǒng)中觀測到的時(shí)間序列進(jìn)行仿真實(shí)驗(yàn),結(jié)果表明,所提模型具有很好的適應(yīng)性,并且具有較高的在線預(yù)測精度。
【學(xué)位授予單位】：大連理工大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位授予年份】：2016
【分類號(hào)】：O211.61

【相似文獻(xiàn)】

中國期刊全文數(shù)據(jù)庫 前10條

1 吳鵬;劉振;陳月輝;;基于神經(jīng)樹的時(shí)間序列預(yù)測[J];山東科學(xué);2007年01期

2 沈浩;鄧夢曦;;預(yù)則立——時(shí)間序列預(yù)測技術(shù)之廣電業(yè)務(wù)應(yīng)用[J];中國數(shù)字電視;2011年10期

3 許繼平;劉載文;那靖;;司法消噪與多技術(shù)融合的時(shí)間序列預(yù)測[J];計(jì)算機(jī)工程與應(yīng)用;2010年24期

4 王剛,胡德文;基于時(shí)間序列預(yù)測的獨(dú)立分量排序[J];國防科技大學(xué)學(xué)報(bào);2005年05期

5 楊久婷;張海望;;基于小波分解與自回歸樹的時(shí)間序列預(yù)測新方法[J];科技信息;2009年31期

6 張弦;王宏力;;具有選擇與遺忘機(jī)制的極端學(xué)習(xí)機(jī)在時(shí)間序列預(yù)測中的應(yīng)用[J];物理學(xué)報(bào);2011年08期

7 邢蕾;;基于小波分析時(shí)間序列預(yù)測技術(shù)進(jìn)展[J];吉林金融研究;2009年04期

8 肖凡;馬捷中;任嵐昆;;基于小波分析與支持向量機(jī)的時(shí)間序列預(yù)測[J];航空計(jì)算技術(shù);2011年06期

9 楊玫;趙秀麗;劉瑜;;時(shí)間序列預(yù)測問題中小波分解的應(yīng)用研究[J];信息技術(shù)與信息化;2011年02期

10 丁紅;武招云;龔若愚;廖文凱;;小波分析在徑流時(shí)間序列預(yù)測的應(yīng)用[J];柳州師專學(xué)報(bào);2012年03期

中國重要會(huì)議論文全文數(shù)據(jù)庫 前4條

1 陳宇;唐常杰;鐘義嘯;段磊;喬少杰;普東航;;基于基因表達(dá)式編程和時(shí)變強(qiáng)度的時(shí)間序列預(yù)測[A];第二十二屆中國數(shù)據(jù)庫學(xué)術(shù)會(huì)議論文集（技術(shù)報(bào)告篇）[C];2005年

2 王亮;鐘登華;葛曉冬;;預(yù)測方法綜述[A];全國青年管理科學(xué)與系統(tǒng)科學(xué)論文集（第1卷）[C];1991年

3 尤華;王建東;;機(jī)場噪聲的時(shí)間序列預(yù)測[A];2011年通信與信息技術(shù)新進(jìn)展——第八屆中國通信學(xué)會(huì)學(xué)術(shù)年會(huì)論文集[C];2011年

4 王棟;陳勇;徐建良;;基于預(yù)測的BitTorrent種子評(píng)估方法[A];2008'中國信息技術(shù)與應(yīng)用學(xué)術(shù)論壇論文集（二）[C];2008年

中國博士學(xué)位論文全文數(shù)據(jù)庫 前5條

1 王威娜;基于模糊理論的時(shí)間序列預(yù)測研究[D];大連理工大學(xué);2016年

2 張冬青;非線性非高斯時(shí)間序列預(yù)測研究[D];南京航空航天大學(xué);2008年

3 劉大同;基于Online SVR的在線時(shí)間序列預(yù)測方法及其應(yīng)用研究[D];哈爾濱工業(yè)大學(xué);2010年

4 熊濤;基于EMD的時(shí)間序列預(yù)測混合建模技術(shù)及其應(yīng)用研究[D];華中科技大學(xué);2014年

5 王軍;基于局部模型的時(shí)間序列預(yù)測方法研究[D];哈爾濱工業(yè)大學(xué);2007年

中國碩士學(xué)位論文全文數(shù)據(jù)庫 前10條

1 陳詩語;基于網(wǎng)絡(luò)的時(shí)間序列預(yù)測[D];西南大學(xué);2015年

2 黃杰;SOM在時(shí)間序列預(yù)測中的應(yīng)用研究[D];蘭州交通大學(xué);2015年

3 胡海峰;泄漏積分型回聲狀態(tài)網(wǎng)的優(yōu)化及其在時(shí)間序列預(yù)測中的應(yīng)用[D];渤海大學(xué);2016年

4 朱成璋;基于機(jī)器學(xué)習(xí)的時(shí)間序列預(yù)測關(guān)鍵技術(shù)研究[D];國防科學(xué)技術(shù)大學(xué);2014年

5 顧蘭蘭;基于BP神經(jīng)網(wǎng)絡(luò)的模糊時(shí)間序列預(yù)測[D];大連理工大學(xué);2016年

6 侯效永;多尺度時(shí)間序列預(yù)測[D];蘇州大學(xué);2013年

7 王麗賢;時(shí)間序列預(yù)測技術(shù)研究[D];天津理工大學(xué);2012年

8 王權(quán);基于選擇策略的時(shí)間序列預(yù)測研究[D];南京航空航天大學(xué);2011年

9 宋玉強(qiáng);人工神經(jīng)網(wǎng)絡(luò)在時(shí)間序列預(yù)測中的應(yīng)用研究[D];西安建筑科技大學(xué);2005年

10 張慧;自適應(yīng)模糊時(shí)間序列預(yù)測模型的研究[D];大連海事大學(xué);2012年

，

本文編號(hào)：1305412