發(fā)布時(shí)間：2021-12-12 02:12

　　時(shí)間序列分析是一門針對一定時(shí)間間隔下的時(shí)序數(shù)據(jù)進(jìn)行數(shù)據(jù)處理和建模的科學(xué)。它在許多領(lǐng)域都發(fā)揮著至關(guān)重要的作用,如金融、醫(yī)療、氣象觀測、人口普查、網(wǎng)站流量和交通領(lǐng)域等。時(shí)間序列預(yù)測作為時(shí)間序列分析的核心任務(wù)之一,它根據(jù)時(shí)間序列的發(fā)展、趨勢進(jìn)行推理、延展,進(jìn)而預(yù)測下一系列時(shí)刻的狀態(tài)。隨著海量數(shù)據(jù)的產(chǎn)生,時(shí)序預(yù)測問題由簡單的單一序列預(yù)測變?yōu)槎嘈蛄蓄A(yù)測,由低維時(shí)序特征變?yōu)楦呔S復(fù)雜的時(shí)序特征。時(shí)序預(yù)測模型也根據(jù)數(shù)據(jù)特征的變化由經(jīng)典的自回歸模型逐步向復(fù)雜的非線性模型轉(zhuǎn)變,如采用卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)等深度學(xué)習(xí)模型。深度學(xué)習(xí)中的序列模型與時(shí)序中多步預(yù)測問題有著緊密的聯(lián)系,兩者均要求根據(jù)已知序列進(jìn)行建模,輸出不等長的新序列�！熬幋a-解碼”框架是處理序列模型的有效方式之一,編碼和解碼兩個(gè)階段均可采用不同的網(wǎng)絡(luò)模型進(jìn)行處理。本文在編碼階段除了采用循環(huán)神經(jīng)網(wǎng)絡(luò)GRU,還利用時(shí)間卷積網(wǎng)絡(luò)擴(kuò)展輸入數(shù)據(jù)的跨度,增加GRU每個(gè)神經(jīng)元節(jié)點(diǎn)所覆蓋的歷史信息。在“編碼-解碼”框架的基礎(chǔ)上,本文還引入了多個(gè)Attention機(jī)制使模型關(guān)注局部特征。一種是在編碼階段增加自注意力層,根據(jù)輸入向量自身的相關(guān)性生成自注意力特征。... 

【文章來源】：華中科技大學(xué)湖北省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：55 頁

【學(xué)位級別】：碩士

【部分圖文】：

嵌套交叉驗(yàn)證示意圖

華 中 科 技 大 學(xué) 碩 士 學(xué) 位 論 文碼的過程本質(zhì)是信息壓縮的過程，壓縮代表著信息有所損失，先輸入信息容易被后輸入的信息稀釋。為解決信息稀釋這個(gè)問題，Attention來在模型輸出時(shí)產(chǎn)生一個(gè)注意力范圍，也就是注意力權(quán)重。將注意力間向量中，使得不同解碼時(shí)刻對應(yīng)不同的輸入序列，根據(jù)新序列產(chǎn)生

圖 3-2 基于 Attention 機(jī)制的“編碼-解碼”框架本文對 Attention 機(jī)制思想的描述主要基于文獻(xiàn)[41]，并根據(jù)文獻(xiàn)[42]把其原理應(yīng)用到時(shí)間序列預(yù)測中。利用解碼器進(jìn)行解碼時(shí)的映射函數(shù)如下：( ) ( )1 2 1 1, , , , ,,,t t t t t ty G c X y y y g y s c . (3-6)其中，每個(gè)解碼時(shí)刻的中間狀態(tài)是編碼器中每時(shí)刻隱藏狀態(tài)的加權(quán)平均值，定義如下：Tt tj jjc h. (3-7)每一時(shí)刻的隱藏層狀態(tài)的系數(shù)由能量分?jǐn)?shù)經(jīng)過softmax層轉(zhuǎn)換而得，定義如下：( )( )tjtj Ttkkexp eexp e . (3-8)以及能量分?jǐn)?shù)由一個(gè)評分函數(shù)得到，該評分函數(shù)可以是一個(gè)前饋神經(jīng)網(wǎng)絡(luò)也可


本文編號：3535814