股市行情隨眾多影響因子不斷變化,現(xiàn)有基于時間序列預測的方法難以捕捉該非線性動力系統(tǒng)的復雜變化規(guī)律,預測效果并不理想。本文提出基于Attention機制的GRU預測模型,捕捉關鍵時間點特征信息以解決對時間特征不敏感導致預測精度不高的問題以提升預測精確度。首先使用LSTM和GRU構建基礎預測模型;然后對輸入特征進行統(tǒng)計處理和篩選,選取更能反映股價變動規(guī)律的特征;最后基于編碼器-解碼器框架,在GRU模型上加入Attention機制,使模型聚焦于重要時間點的股票特征信息。本文在科大訊飛股票數(shù)據(jù)上進行實驗,實驗結果表明基于Attention機制的GRU模型在MAPE,RMSE,R2 score三個評價指標上均優(yōu)于其他模型,Attention機制能夠捕捉重要時間點局部特征,對預測模型的優(yōu)化是可行和有效的。 

【文章來源】：系統(tǒng)工程. 2020年05期 北大核心CSSCI

【文章頁數(shù)】：7 頁

【部分圖文】：

圖２數(shù)據(jù)集構造??４模型優(yōu)化??

會有較大的影響。??傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡對所有時間點的輸人值都賦予??相同的權重，即認為其影響度是相同的。八ｔｔｅｎｔｉｏｎ機制??可以很好地給不同位置的特征賦予不同的注意力權重，從??而捕捉到不同時間的特征影響度。本文基于Ａｔｔｅｎｔｉｏｎ機??制優(yōu)化模型，基于評分函數(shù)計算每個時間點對預測值的影??響程度大小，為每個時間點賦予對應權值，使得模型聚焦??于重要時間點輸人。此外Ａｔｔｅｎｔｉｏｎ機制可以處理更長的??時間序列，避免了較長時間間隔導致的信息損失。所構建??模型的架構如圖３所示。??（：⑷⑷⑷……（０??圖３模型架構圖??基于編碼器一解碼器框架構建預測模型。先將時間??序列（Ｕ２…，輸人編碼器（Ｅｎｃｏｄｅｒ）內(nèi)進行編??碼，獲得中間隱藏層編碼向量（／＾，，／ｉ．５，…，）。然后??通過Ａｔｔｅｎｔｉｏｎ層對編碼向量處理，得到每個編碼向量對??應的權值（ａ＾，ａ２，ａ３，…，ａ？?）。用計算的權值對中間隱藏??層編碼向量進行加權作為解碼器（Ｄｅｃｏｄｅｒ）的輸人，最后??通過解碼器得到模型的預測值編碼器和解碼器均基??于ＧＲＵ模型實現(xiàn)，得到的中間隱藏層編碼向量即ＧＲＵ??模型中間隱藏層的輸出。每個時間點的編碼向量還結合??了該時間點以前的股價特征，即考慮了上下文來編碼當前??時刻信息。八ｔｔｅｎｔｉｏｎ層用于決定不同時間點輸人的重要??程度，通過評分函數(shù)衡量這種重要度并將其量化，圖４說??明了注意力權值的計算過程。??用Ｅｎｃｏｄｅｒ最后一個時刻的隱藏層輸出與其他每??個時刻的隱藏層輸出Ｉ比較，通過函數(shù)Ｓｃｏｒｅ?ｄ，Ａｎ?）獲??取其相似度＆，最后經(jīng)過Ｓｏｆｔｍａｘ得到每個時間點的注意??力

層對編碼向量處理，得到每個編碼向量對??應的權值（ａ＾，ａ２，ａ３，…，ａ？?）。用計算的權值對中間隱藏??層編碼向量進行加權作為解碼器（Ｄｅｃｏｄｅｒ）的輸人，最后??通過解碼器得到模型的預測值編碼器和解碼器均基??于ＧＲＵ模型實現(xiàn)，得到的中間隱藏層編碼向量即ＧＲＵ??模型中間隱藏層的輸出。每個時間點的編碼向量還結合??了該時間點以前的股價特征，即考慮了上下文來編碼當前??時刻信息。八ｔｔｅｎｔｉｏｎ層用于決定不同時間點輸人的重要??程度，通過評分函數(shù)衡量這種重要度并將其量化，圖４說??明了注意力權值的計算過程。??用Ｅｎｃｏｄｅｒ最后一個時刻的隱藏層輸出與其他每??個時刻的隱藏層輸出Ｉ比較，通過函數(shù)Ｓｃｏｒｅ?ｄ，Ａｎ?）獲??取其相似度＆，最后經(jīng)過Ｓｏｆｔｍａｘ得到每個時間點的注意??力權值。函數(shù)，／ｉ？?）采用加性注意力的方法，通過??一個多層感知機實現(xiàn)，如式（６）所示。??ｓｃｏｒｃ（Ａｚ－）?＝?ｒｃｌｕ（Ｗ［／ｉｊ?；／ｉｚ?］?＋?６）?（６．）??這里，Ｗ是參數(shù)矩陣，６是偏置。本文構建的模型與傳統(tǒng)??八ｔｔｅｎｔｉｏｎ機制的用法不同，傳統(tǒng)Ａｔｔｅｎｔｉｏｎ機制計算得出??權值后計算中間編碼向量的加權和，作為解碼器輸人。??本文將加權后的中間編碼向量序列作為新的輸人，經(jīng)過??Ｄｅｃｏｄｅｒ得到預測結果。??圖４?Ａｔｔｒｉｔｉｏｎ權值計算過程??５實驗結果和分析??本節(jié)介紹了實驗設置，模型評價指標，最后對實驗結??果進行分析。??５．１實驗設置??利用科大訊飛（００２２３０）的歷史股票數(shù)據(jù)作為數(shù)據(jù)集，??對模型進行實驗分析。以天為單位收集科大訊飛近３年??股票歷史行情數(shù)據(jù)，從２０１６年

【參考文獻】：
期刊論文
[1]基于人工智能的證券金融服務創(chuàng)新研究[J]. 程娟,周雄偉.  金融科技時代. 2018(10)
[2]基于BP神經(jīng)網(wǎng)絡構建的分類器模型財務分析領域的應用[J]. 程書強,羅娟,王念東.  自動化與儀器儀表. 2018(01)
[3]基于灰色GARCH模型和BP神經(jīng)網(wǎng)絡的股票價格預測[J]. 曹曉,孫紅兵.  軟件. 2017(11)
[4]基于微博信息的股票交易預測研究[J]. 胡婧,葉建木.  財政監(jiān)督. 2017(05)
[5]基于自適應遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡股票價格預測[J]. 郝繼升,任浩然,井文紅.  河南科學. 2017(02)
[6]BP神經(jīng)網(wǎng)絡在股票指數(shù)預測中的應用[J]. 黃宏運,吳禮斌,李詩爭.  通化師范學院學報. 2016(10)
[7]移動平均線分析法及其交易策略研究[J]. 陳標金,陳文杰.  商業(yè)研究. 2015(07)
[8]基于模糊K線序列比對的股市技術分析模型[J]. 徐信喆.  計算機應用與軟件. 2010(09)
[9]基于支持向量機的股票預測[J]. 張晨希,張燕平,張迎春,陳潔,萬忠.  計算機技術與發(fā)展. 2006(06)
[10]股票價格指數(shù)的投資功能[J]. 劉長虎,陶建格,崔衍秋.  市場論壇. 2004(06)



本文編號：2953765