發(fā)布時間：2020-07-22 04:36

【摘要】：近年來數(shù)字化進程發(fā)展迅猛,將各類信息數(shù)據(jù)化,能更好的發(fā)現(xiàn)其本質(zhì)特點和變化規(guī)律。時間序列數(shù)據(jù)便是一類具有代表性的數(shù)據(jù),對于大部分實際數(shù)據(jù)來說,由于所受影響因素眾多,其往往是非線性的時間序列數(shù)據(jù),所以對于非線性時間序列的預測問題的分析和研究是十分重要的。本文對Monte Carlo方法和長短期記憶算法進行了探討和分析,對實驗數(shù)據(jù)進行清理,并根據(jù)長短期記憶算法建立了一種預測非線性時間序列數(shù)據(jù)的模型,依據(jù)Monte Carlo方法的原理設置了預測效果的度量標準。首先,對Monte Carlo方法和長短期記憶算法的原理和優(yōu)缺點進行探究,并對有監(jiān)督機器學習中的過擬合問題產(chǎn)生的原因和相應解決辦法通過結(jié)合實例的方式進行總結(jié)和分析。其次,對收集到的人口數(shù)據(jù)和股票數(shù)據(jù)進行預處理(異常數(shù)據(jù)的刪除和填補、歸一化),并結(jié)合平安銀行股票數(shù)據(jù)的實例來展示數(shù)據(jù)清理過程中異常數(shù)據(jù)的處理方式,初步確定預測算法的Keras框架結(jié)構(gòu),并依據(jù)Monte Carlo方法的原理設定預測準確率的計算方式。最后,以一組隨機生成的服從正弦分布的數(shù)據(jù)點來測試算法框架的實際預測效果。并對清理后的哈爾濱市歷年人口數(shù)據(jù)應用不同結(jié)構(gòu)的算法進行預測,通過對比不同結(jié)構(gòu)的算法框架的預測效果來確定最終長短期記憶算法的框架結(jié)構(gòu),并對東風汽車股票和平安銀行股票的5個特征數(shù)據(jù)進行預測分析和準確率的計算。本文的實證分析選取了2002年到2018年平安銀行股票和東風汽車股票的每日數(shù)據(jù),實證結(jié)果表明:結(jié)合了長短期記憶算法和Monte Carlo方法的預測框架,對于非線性的時間序列數(shù)據(jù)的預測有較好的效果,能夠很好的學習數(shù)據(jù)的整體變化趨勢和細節(jié)特征;通過Monte Carlo方法的原理來設置并計算的準確率,更加貼近數(shù)據(jù)的實際預測效果,有利于對算法框架內(nèi)部參數(shù)進行調(diào)節(jié)。
【學位授予單位】：哈爾濱工業(yè)大學
【學位級別】：碩士
【學位授予年份】：2019
【分類號】：F832.51;F224
【圖文】：

哈爾濱工業(yè)大學應用統(tǒng)計碩士專業(yè)學位論文的隨機，其得到隨機序列其實是具有一定周期的偽隨機數(shù)Monte Carlo 方法的原理來設置實驗預測的準確度，從而得ulli 大數(shù)定律：limn→∞P* ( ) + = 1, 0 重伯努利試驗中成功的次數(shù)； (0 1)為每次試驗成記憶算法來源于循環(huán)神經(jīng)網(wǎng)絡算法，由于數(shù)據(jù)在循環(huán)神經(jīng)行雙向傳遞時存在傳遞誤差,6-，所以導致在進行數(shù)據(jù)預測失和梯度爆炸等問題，而長短期記憶算法運用輸入控制,7-來避免這類問題有十分顯著的效果。其結(jié)構(gòu)如圖 1-1 所示

章主要對神經(jīng)網(wǎng)絡領(lǐng)域的相關(guān)預測模型（CNN、RNN、LSTM）的行總結(jié)說明和論證分析。主要包括：神經(jīng)網(wǎng)絡基本結(jié)構(gòu)、過擬合問法、卷積神經(jīng)網(wǎng)絡、分類神經(jīng)網(wǎng)絡和長短期記憶算法的結(jié)構(gòu)和存經(jīng)網(wǎng)絡基本結(jié)構(gòu)工神經(jīng)網(wǎng)絡模型是高度模仿生物神經(jīng)網(wǎng)絡的一類計算機實現(xiàn)模型的神經(jīng)元間的突觸關(guān)系進行固定，并以計算機進行結(jié)構(gòu)搭建實現(xiàn)模型的結(jié)構(gòu)和生物神經(jīng)網(wǎng)絡的結(jié)構(gòu)一樣，由多個不同分工的神經(jīng)又由多個細胞體組成,28-。人工神經(jīng)網(wǎng)絡是依靠正向和反向傳播相神經(jīng)層內(nèi)部的眾多細胞體內(nèi)部參數(shù)的運算模型。一般情況下，由直輸入層（input layer）、處理數(shù)據(jù)的隱藏層（hiden layer）、數(shù)據(jù)輸出層所組成。通常情況下神經(jīng)網(wǎng)絡中的輸入層和輸出層的數(shù)量都為 1，目并不是固定不變的。人工神經(jīng)網(wǎng)絡的基本結(jié)構(gòu)如圖 3-1 所示：輸入層 隱藏層 隱藏層 輸出層

圖 3-1 神經(jīng)網(wǎng)絡信息加工過程圖在神經(jīng)網(wǎng)絡中，數(shù)據(jù)信息的各層交換的實質(zhì)是各神經(jīng)層內(nèi)部的權(quán)值和偏置值的交換,29-，首先數(shù)據(jù)傳入輸入層，輸入層會以隨機數(shù)的方式為各個細胞賦予初始的權(quán)值和偏置值，然后數(shù)據(jù)傳入隱藏層，隱藏層獲取相應的權(quán)值和偏置值，之后以處理過的權(quán)值和偏置值進行新的數(shù)據(jù)計算，并將數(shù)據(jù)傳到梯度下降結(jié)構(gòu)，通過梯度下降結(jié)構(gòu)來計算下一步梯度的變化情況并將之前的權(quán)值和偏置進行更新，就這樣循環(huán)往復，不斷更新優(yōu)化相應的權(quán)值和偏置值，最后得到最佳的權(quán)值和偏置來對數(shù)據(jù)進行預測�，F(xiàn)階段眾多優(yōu)化算法的核心都是對于梯度下降結(jié)構(gòu)（優(yōu)化器）中權(quán)值的更新公式進行調(diào)整,30-。在梯度下降結(jié)構(gòu)中，傳統(tǒng)更新公式見式（3-1）. = （3-1）其中， 為被更新的權(quán)值， 為學習效率， 為調(diào)整幅度的取值。整合多步的學習效率的 momentum 更新方法見式（3-2）至（3-3）.= L （3-2）

【相似文獻】

相關(guān)期刊論文 前10條

1 許書;;電擊能夠幫助你改善記憶?[J];科普童話;2017年01期

2 本刊編輯部;;你的“短期記憶”如何影響世界[J];福建教育;2016年15期

3 羅輯思維;;如何成為學新東西最快的那個人[J];初中生世界;2019年Z5期

4 林心明;小學生短期記憶與數(shù)學教學[J];河北教育;1994年01期

5 李飛弋;;工作記憶中語音短期記憶在二語學習中的作用[J];黑河學院學報;2017年02期

6 雷中華;;交替?zhèn)髯g教學中的短期記憶訓練[J];語文學刊;2007年03期

7 ;英國一男子因喪失短期記憶能力忘記吃飯洗澡[J];心血管病防治知識(科普版);2013年09期

8 齊丹;;交傳過程中強化短期記憶與筆記法輔助相結(jié)合的可行性研究[J];校園英語;2019年01期

9 李錚;D.A.Norman;;國外短期記憶的研究和理論[J];外國心理學;1982年02期

10 李榮;減輕短期記憶負荷,提高整體獲取信息能力[J];前沿;1995年07期

相關(guān)會議論文 前2條

1 李琪;李寧真;李婷婷;孫艷秋;陳銳;;中青年阻塞性睡眠呼吸暫停低通氣綜合征患者的注意力及短期記憶損傷特點及影響因素分析[A];中國睡眠研究會第十屆全國學術(shù)年會匯編[C];2018年

2 高根德;李輝;;中藥聞香促進記憶的臨床研究[A];2011年浙江省物理醫(yī)學與康復學學術(shù)年會暨康復新進展學習班論文匯編[C];2011年

相關(guān)重要報紙文章 前2條

1 記者 趙鳳華　通訊員 顧淑霞;清華博士《細胞》發(fā)文闡述果蠅短期記憶遺忘機理[N];科技日報;2010年

2 記者 淑霞　通訊員 一春;清華師生《細胞》發(fā)文闡述果蠅短期記憶遺忘機理[N];新清華;2010年

相關(guān)博士學位論文 前1條

1 祝小軍;英語詞匯教學中母語翻譯的作用[D];上海外國語大學;2014年

相關(guān)碩士學位論文 前10條

1 李琪;中青年阻塞性睡眠呼吸暫停低通氣綜合征患者的注意力及短期記憶損傷特點及影響因素分析[D];蘇州大學;2018年

2 赫明輝;深度學習長短期記憶算法和Monte Carlo方法的分析及應用[D];哈爾濱工業(yè)大學;2019年

3 陳斌;基于長短期記憶網(wǎng)絡的事件抽取研究與應用[D];中國礦業(yè)大學;2019年

4 李科嘉;基于長短期記憶模型的期貨價格預測[D];中國科學技術(shù)大學;2018年

5 安曉霖;短期記憶在聯(lián)絡口譯中的應用[D];成都理工大學;2016年

6 滕飛;基于長短期記憶多維主題微博情感傾向性分析[D];南昌大學;2016年

7 林映;藝術(shù)思維與交替?zhèn)髯g短期記憶之間的關(guān)聯(lián)[D];四川外國語大學;2017年

8 張梅;TD-LTE全球發(fā)展組織領(lǐng)導委員會電話會議口譯實踐報告[D];河北師范大學;2015年

9 楊璐;中日互譯過程中的記憶策略探索[D];廣東外語外貿(mào)大學;2014年

10 孫_g;記數(shù)字筆記是否能幫助提高同傳中數(shù)字的準確率[D];上海外國語大學;2011年

本文編號：2765335