股市行情隨眾多影響因子不斷變化,現(xiàn)有基于時間序列預(yù)測的方法難以捕捉該非線性動力系統(tǒng)的復(fù)雜變化規(guī)律,預(yù)測效果并不理想。本文提出基于Attention機制的GRU預(yù)測模型,捕捉關(guān)鍵時間點特征信息以解決對時間特征不敏感導(dǎo)致預(yù)測精度不高的問題以提升預(yù)測精確度。首先使用LSTM和GRU構(gòu)建基礎(chǔ)預(yù)測模型;然后對輸入特征進(jìn)行統(tǒng)計處理和篩選,選取更能反映股價變動規(guī)律的特征;最后基于編碼器-解碼器框架,在GRU模型上加入Attention機制,使模型聚焦于重要時間點的股票特征信息。本文在科大訊飛股票數(shù)據(jù)上進(jìn)行實驗,實驗結(jié)果表明基于Attention機制的GRU模型在MAPE,RMSE,R2 score三個評價指標(biāo)上均優(yōu)于其他模型,Attention機制能夠捕捉重要時間點局部特征,對預(yù)測模型的優(yōu)化是可行和有效的。 

【文章來源】：系統(tǒng)工程. 2020年05期 北大核心CSSCI

【文章頁數(shù)】：7 頁

【部分圖文】：

圖２數(shù)據(jù)集構(gòu)造??４模型優(yōu)化??

會有較大的影響。??傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡(luò)對所有時間點的輸人值都賦予??相同的權(quán)重，即認(rèn)為其影響度是相同的。八ｔｔｅｎｔｉｏｎ機制??可以很好地給不同位置的特征賦予不同的注意力權(quán)重，從??而捕捉到不同時間的特征影響度。本文基于Ａｔｔｅｎｔｉｏｎ機??制優(yōu)化模型，基于評分函數(shù)計算每個時間點對預(yù)測值的影??響程度大小，為每個時間點賦予對應(yīng)權(quán)值，使得模型聚焦??于重要時間點輸人。此外Ａｔｔｅｎｔｉｏｎ機制可以處理更長的??時間序列，避免了較長時間間隔導(dǎo)致的信息損失。所構(gòu)建??模型的架構(gòu)如圖３所示。??（：⑷⑷⑷……（０??圖３模型架構(gòu)圖??基于編碼器一解碼器框架構(gòu)建預(yù)測模型。先將時間??序列（Ｕ２…，輸人編碼器（Ｅｎｃｏｄｅｒ）內(nèi)進(jìn)行編??碼，獲得中間隱藏層編碼向量（／＾，，／ｉ．５，…，）。然后??通過Ａｔｔｅｎｔｉｏｎ層對編碼向量處理，得到每個編碼向量對??應(yīng)的權(quán)值（ａ＾，ａ２，ａ３，…，ａ？?）。用計算的權(quán)值對中間隱藏??層編碼向量進(jìn)行加權(quán)作為解碼器（Ｄｅｃｏｄｅｒ）的輸人，最后??通過解碼器得到模型的預(yù)測值編碼器和解碼器均基??于ＧＲＵ模型實現(xiàn)，得到的中間隱藏層編碼向量即ＧＲＵ??模型中間隱藏層的輸出。每個時間點的編碼向量還結(jié)合??了該時間點以前的股價特征，即考慮了上下文來編碼當(dāng)前??時刻信息。八ｔｔｅｎｔｉｏｎ層用于決定不同時間點輸人的重要??程度，通過評分函數(shù)衡量這種重要度并將其量化，圖４說??明了注意力權(quán)值的計算過程。??用Ｅｎｃｏｄｅｒ最后一個時刻的隱藏層輸出與其他每??個時刻的隱藏層輸出Ｉ比較，通過函數(shù)Ｓｃｏｒｅ?ｄ，Ａｎ?）獲??取其相似度＆，最后經(jīng)過Ｓｏｆｔｍａｘ得到每個時間點的注意??力

層對編碼向量處理，得到每個編碼向量對??應(yīng)的權(quán)值（ａ＾，ａ２，ａ３，…，ａ？?）。用計算的權(quán)值對中間隱藏??層編碼向量進(jìn)行加權(quán)作為解碼器（Ｄｅｃｏｄｅｒ）的輸人，最后??通過解碼器得到模型的預(yù)測值編碼器和解碼器均基??于ＧＲＵ模型實現(xiàn)，得到的中間隱藏層編碼向量即ＧＲＵ??模型中間隱藏層的輸出。每個時間點的編碼向量還結(jié)合??了該時間點以前的股價特征，即考慮了上下文來編碼當(dāng)前??時刻信息。八ｔｔｅｎｔｉｏｎ層用于決定不同時間點輸人的重要??程度，通過評分函數(shù)衡量這種重要度并將其量化，圖４說??明了注意力權(quán)值的計算過程。??用Ｅｎｃｏｄｅｒ最后一個時刻的隱藏層輸出與其他每??個時刻的隱藏層輸出Ｉ比較，通過函數(shù)Ｓｃｏｒｅ?ｄ，Ａｎ?）獲??取其相似度＆，最后經(jīng)過Ｓｏｆｔｍａｘ得到每個時間點的注意??力權(quán)值。函數(shù)，／ｉ？?）采用加性注意力的方法，通過??一個多層感知機實現(xiàn)，如式（６）所示。??ｓｃｏｒｃ（Ａｚ－）?＝?ｒｃｌｕ（Ｗ［／ｉｊ?；／ｉｚ?］?＋?６）?（６．）??這里，Ｗ是參數(shù)矩陣，６是偏置。本文構(gòu)建的模型與傳統(tǒng)??八ｔｔｅｎｔｉｏｎ機制的用法不同，傳統(tǒng)Ａｔｔｅｎｔｉｏｎ機制計算得出??權(quán)值后計算中間編碼向量的加權(quán)和，作為解碼器輸人。??本文將加權(quán)后的中間編碼向量序列作為新的輸人，經(jīng)過??Ｄｅｃｏｄｅｒ得到預(yù)測結(jié)果。??圖４?Ａｔｔｒｉｔｉｏｎ權(quán)值計算過程??５實驗結(jié)果和分析??本節(jié)介紹了實驗設(shè)置，模型評價指標(biāo)，最后對實驗結(jié)??果進(jìn)行分析。??５．１實驗設(shè)置??利用科大訊飛（００２２３０）的歷史股票數(shù)據(jù)作為數(shù)據(jù)集，??對模型進(jìn)行實驗分析。以天為單位收集科大訊飛近３年??股票歷史行情數(shù)據(jù)，從２０１６年

【參考文獻(xiàn)】：
期刊論文
[1]基于人工智能的證券金融服務(wù)創(chuàng)新研究[J]. 程娟,周雄偉.  金融科技時代. 2018(10)
[2]基于BP神經(jīng)網(wǎng)絡(luò)構(gòu)建的分類器模型財務(wù)分析領(lǐng)域的應(yīng)用[J]. 程書強,羅娟,王念東.  自動化與儀器儀表. 2018(01)
[3]基于灰色GARCH模型和BP神經(jīng)網(wǎng)絡(luò)的股票價格預(yù)測[J]. 曹曉,孫紅兵.  軟件. 2017(11)
[4]基于微博信息的股票交易預(yù)測研究[J]. 胡婧,葉建木.  財政監(jiān)督. 2017(05)
[5]基于自適應(yīng)遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)股票價格預(yù)測[J]. 郝繼升,任浩然,井文紅.  河南科學(xué). 2017(02)
[6]BP神經(jīng)網(wǎng)絡(luò)在股票指數(shù)預(yù)測中的應(yīng)用[J]. 黃宏運,吳禮斌,李詩爭.  通化師范學(xué)院學(xué)報. 2016(10)
[7]移動平均線分析法及其交易策略研究[J]. 陳標(biāo)金,陳文杰.  商業(yè)研究. 2015(07)
[8]基于模糊K線序列比對的股市技術(shù)分析模型[J]. 徐信喆.  計算機應(yīng)用與軟件. 2010(09)
[9]基于支持向量機的股票預(yù)測[J]. 張晨希,張燕平,張迎春,陳潔,萬忠.  計算機技術(shù)與發(fā)展. 2006(06)
[10]股票價格指數(shù)的投資功能[J]. 劉長虎,陶建格,崔衍秋.  市場論壇. 2004(06)



本文編號：2953765