深度學習長短期記憶算法和Monte Carlo方法的分析及應用
【學位授予單位】:哈爾濱工業(yè)大學
【學位級別】:碩士
【學位授予年份】:2019
【分類號】:F832.51;F224
【圖文】:
哈爾濱工業(yè)大學應用統(tǒng)計碩士專業(yè)學位論文的隨機,其得到隨機序列其實是具有一定周期的偽隨機數Monte Carlo 方法的原理來設置實驗預測的準確度,從而得ulli 大數定律:limn→∞P* ( ) + = 1, 0 重伯努利試驗中成功的次數; (0 1)為每次試驗成記憶算法來源于循環(huán)神經網絡算法,由于數據在循環(huán)神經行雙向傳遞時存在傳遞誤差,6-,所以導致在進行數據預測失和梯度爆炸等問題,而長短期記憶算法運用輸入控制,7-來避免這類問題有十分顯著的效果。其結構如圖 1-1 所示
章主要對神經網絡領域的相關預測模型(CNN、RNN、LSTM)的行總結說明和論證分析。主要包括:神經網絡基本結構、過擬合問法、卷積神經網絡、分類神經網絡和長短期記憶算法的結構和存經網絡基本結構工神經網絡模型是高度模仿生物神經網絡的一類計算機實現(xiàn)模型的神經元間的突觸關系進行固定,并以計算機進行結構搭建實現(xiàn)模型的結構和生物神經網絡的結構一樣,由多個不同分工的神經又由多個細胞體組成,28-。人工神經網絡是依靠正向和反向傳播相神經層內部的眾多細胞體內部參數的運算模型。一般情況下,由直輸入層(input layer)、處理數據的隱藏層(hiden layer)、數據輸出層所組成。通常情況下神經網絡中的輸入層和輸出層的數量都為 1,目并不是固定不變的。人工神經網絡的基本結構如圖 3-1 所示:輸入層 隱藏層 隱藏層 輸出層
圖 3-1 神經網絡信息加工過程圖在神經網絡中,數據信息的各層交換的實質是各神經層內部的權值和偏置值的交換,29-,首先數據傳入輸入層,輸入層會以隨機數的方式為各個細胞賦予初始的權值和偏置值,然后數據傳入隱藏層,隱藏層獲取相應的權值和偏置值,之后以處理過的權值和偏置值進行新的數據計算,并將數據傳到梯度下降結構,通過梯度下降結構來計算下一步梯度的變化情況并將之前的權值和偏置進行更新,就這樣循環(huán)往復,不斷更新優(yōu)化相應的權值和偏置值,最后得到最佳的權值和偏置來對數據進行預測。現(xiàn)階段眾多優(yōu)化算法的核心都是對于梯度下降結構(優(yōu)化器)中權值的更新公式進行調整,30-。在梯度下降結構中,傳統(tǒng)更新公式見式(3-1). = (3-1)其中, 為被更新的權值, 為學習效率, 為調整幅度的取值。整合多步的學習效率的 momentum 更新方法見式(3-2)至(3-3).= L (3-2)
【相似文獻】
相關期刊論文 前10條
1 許書;;電擊能夠幫助你改善記憶?[J];科普童話;2017年01期
2 本刊編輯部;;你的“短期記憶”如何影響世界[J];福建教育;2016年15期
3 羅輯思維;;如何成為學新東西最快的那個人[J];初中生世界;2019年Z5期
4 林心明;小學生短期記憶與數學教學[J];河北教育;1994年01期
5 李飛弋;;工作記憶中語音短期記憶在二語學習中的作用[J];黑河學院學報;2017年02期
6 雷中華;;交替?zhèn)髯g教學中的短期記憶訓練[J];語文學刊;2007年03期
7 ;英國一男子因喪失短期記憶能力忘記吃飯洗澡[J];心血管病防治知識(科普版);2013年09期
8 齊丹;;交傳過程中強化短期記憶與筆記法輔助相結合的可行性研究[J];校園英語;2019年01期
9 李錚;D.A.Norman;;國外短期記憶的研究和理論[J];外國心理學;1982年02期
10 李榮;減輕短期記憶負荷,提高整體獲取信息能力[J];前沿;1995年07期
相關會議論文 前2條
1 李琪;李寧真;李婷婷;孫艷秋;陳銳;;中青年阻塞性睡眠呼吸暫停低通氣綜合征患者的注意力及短期記憶損傷特點及影響因素分析[A];中國睡眠研究會第十屆全國學術年會匯編[C];2018年
2 高根德;李輝;;中藥聞香促進記憶的臨床研究[A];2011年浙江省物理醫(yī)學與康復學學術年會暨康復新進展學習班論文匯編[C];2011年
相關重要報紙文章 前2條
1 記者 趙鳳華 通訊員 顧淑霞;清華博士《細胞》發(fā)文闡述果蠅短期記憶遺忘機理[N];科技日報;2010年
2 記者 淑霞 通訊員 一春;清華師生《細胞》發(fā)文闡述果蠅短期記憶遺忘機理[N];新清華;2010年
相關博士學位論文 前1條
1 祝小軍;英語詞匯教學中母語翻譯的作用[D];上海外國語大學;2014年
相關碩士學位論文 前10條
1 李琪;中青年阻塞性睡眠呼吸暫停低通氣綜合征患者的注意力及短期記憶損傷特點及影響因素分析[D];蘇州大學;2018年
2 赫明輝;深度學習長短期記憶算法和Monte Carlo方法的分析及應用[D];哈爾濱工業(yè)大學;2019年
3 陳斌;基于長短期記憶網絡的事件抽取研究與應用[D];中國礦業(yè)大學;2019年
4 李科嘉;基于長短期記憶模型的期貨價格預測[D];中國科學技術大學;2018年
5 安曉霖;短期記憶在聯(lián)絡口譯中的應用[D];成都理工大學;2016年
6 滕飛;基于長短期記憶多維主題微博情感傾向性分析[D];南昌大學;2016年
7 林映;藝術思維與交替?zhèn)髯g短期記憶之間的關聯(lián)[D];四川外國語大學;2017年
8 張梅;TD-LTE全球發(fā)展組織領導委員會電話會議口譯實踐報告[D];河北師范大學;2015年
9 楊璐;中日互譯過程中的記憶策略探索[D];廣東外語外貿大學;2014年
10 孫_g;記數字筆記是否能幫助提高同傳中數字的準確率[D];上海外國語大學;2011年
本文編號:2765335
本文鏈接:http://sikaile.net/jingjilunwen/hongguanjingjilunwen/2765335.html