本文關(guān)鍵詞：深度學(xué)習(xí)在回歸預(yù)測(cè)中的研究及應(yīng)用　出處：《山東農(nóng)業(yè)大學(xué)》2017年碩士論文　論文類(lèi)型：學(xué)位論文

  更多相關(guān)文章： 深度學(xué)習(xí) 有監(jiān)督學(xué)習(xí) 超參數(shù)優(yōu)化 小麥蚜蟲(chóng) 預(yù)測(cè)預(yù)報(bào)

【摘要】：人工神經(jīng)網(wǎng)絡(luò)是通過(guò)對(duì)人腦神經(jīng)元的信息處理機(jī)制進(jìn)行模擬而構(gòu)建的一種機(jī)器學(xué)習(xí)模型,具有自學(xué)習(xí)、自適應(yīng)、高容錯(cuò)性等優(yōu)勢(shì)。但是隨著人工神經(jīng)網(wǎng)絡(luò)隱藏層的層數(shù)增加,梯度彌散現(xiàn)象嚴(yán)重,導(dǎo)致多隱藏層的人工神經(jīng)網(wǎng)絡(luò)的優(yōu)化成為難題。2006年,Hinton等人提出的貪婪逐層無(wú)監(jiān)督預(yù)訓(xùn)練策略,使得深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練成為可能,從而開(kāi)啟了深度學(xué)習(xí)的時(shí)代。深度學(xué)習(xí)利用多隱藏層的結(jié)構(gòu),對(duì)低層特征進(jìn)行高度抽象,從而實(shí)現(xiàn)特征的自動(dòng)提取。本文針對(duì)適用于回歸預(yù)測(cè)的深度學(xué)習(xí)算法展開(kāi)研究并將其應(yīng)用于小麥蚜蟲(chóng)的短期預(yù)測(cè)中。主要研究?jī)?nèi)容如下:(1)逐層無(wú)監(jiān)督預(yù)訓(xùn)練策略在深度學(xué)習(xí)的預(yù)訓(xùn)練過(guò)程中發(fā)揮著重要的作用,但樣本標(biāo)簽所提供的監(jiān)督信息是無(wú)法替代的。面對(duì)數(shù)據(jù)量較少的回歸預(yù)測(cè)問(wèn)題,無(wú)監(jiān)督學(xué)習(xí)的優(yōu)勢(shì)并不明顯。將堆疊降噪自動(dòng)編碼器的特征提取模塊改為有監(jiān)督學(xué)習(xí),提出基于有監(jiān)督預(yù)訓(xùn)練的堆疊降噪自動(dòng)編碼器,充分利用樣本標(biāo)簽提供的監(jiān)督信息,彌補(bǔ)數(shù)據(jù)量不足的劣勢(shì)。通過(guò)在UCI回歸數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果表明改進(jìn)的堆疊降噪自動(dòng)編碼器回歸預(yù)測(cè)誤差更小,泛化能力更強(qiáng)。(2)超參數(shù)的設(shè)置對(duì)深度學(xué)習(xí)模型的預(yù)測(cè)性能有很大的影響,而目前對(duì)于超參數(shù)的設(shè)置缺乏明確的理論指導(dǎo)。本文在網(wǎng)格搜索算法的基礎(chǔ)上,從提高時(shí)間效率和預(yù)測(cè)準(zhǔn)確性?xún)蓚�(gè)方面對(duì)網(wǎng)格搜索進(jìn)行改進(jìn),提出了分塊網(wǎng)格搜索和分塊變網(wǎng)格搜索。為了驗(yàn)證改進(jìn)的超參數(shù)優(yōu)化算法的有效性,在UCI回歸數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)。Concrete數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明:使用分塊網(wǎng)格搜索和分塊變網(wǎng)格搜索對(duì)超參數(shù)進(jìn)行優(yōu)化的時(shí)間性能遠(yuǎn)遠(yuǎn)優(yōu)于網(wǎng)格搜索,并且SDAE3模型的預(yù)測(cè)能力優(yōu)于SDAE2模型。對(duì)Slice數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),SDAE0模型的均方誤差為66.19,而使用分塊網(wǎng)格搜索對(duì)超參數(shù)進(jìn)行優(yōu)化得到SDAE2模型的均方誤差降低到2.98。Housing數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果表明,使用分塊網(wǎng)格搜索和分塊變網(wǎng)格搜索對(duì)超參數(shù)進(jìn)行優(yōu)化的得到DBN2和DBN3模型的預(yù)測(cè)結(jié)果均優(yōu)于支持向量回歸以及局部支持向量回歸(LSVR)模型。(3)小麥蚜蟲(chóng)是危害小麥產(chǎn)量和品質(zhì)的主要蟲(chóng)害之一,通過(guò)對(duì)小麥蚜蟲(chóng)的發(fā)生情況進(jìn)行及時(shí)準(zhǔn)確的預(yù)測(cè),可以提早預(yù)防,降低損失。本文將深度信念網(wǎng)絡(luò)與局部支持向量回歸進(jìn)行結(jié)合,提出了DBN_LSVR模型,并將其用于小麥蚜蟲(chóng)發(fā)生情況的短期預(yù)測(cè)。其中深度信念網(wǎng)絡(luò)主要用于小麥蚜蟲(chóng)的特征學(xué)習(xí)階段,局部支持向量回歸主要用于回歸模型的構(gòu)建。通過(guò)在小麥蚜蟲(chóng)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果表明,DBN_LSVR模型對(duì)百株蚜量的預(yù)測(cè)誤差為649.2,對(duì)發(fā)生程度的預(yù)測(cè)準(zhǔn)確率達(dá)到83.33%。通過(guò)與LSVR、DBN等模型進(jìn)行對(duì)比,實(shí)驗(yàn)結(jié)果表明,DBN_LSVR模型對(duì)小麥蚜蟲(chóng)發(fā)生情況的預(yù)測(cè)優(yōu)于其它對(duì)比模型,為小麥蚜蟲(chóng)以及其它蟲(chóng)害的預(yù)測(cè)預(yù)報(bào)提供了一種可行的方案。
【學(xué)位授予單位】：山東農(nóng)業(yè)大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2017
【分類(lèi)號(hào)】：TP18;O212.1

【參考文獻(xiàn)】

相關(guān)期刊論文 前10條

1 樊恒;徐俊;鄧勇;向金海;;基于深度學(xué)習(xí)的人體行為識(shí)別[J];武漢大學(xué)學(xué)報(bào)(信息科學(xué)版);2016年04期

2 張?chǎng)?王文偉;;基于局部二值模式和深度學(xué)習(xí)的人臉識(shí)別[J];計(jì)算機(jī)應(yīng)用;2015年05期

3 王山海;景新幸;楊海燕;;基于深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的孤立詞語(yǔ)音識(shí)別的研究[J];計(jì)算機(jī)應(yīng)用研究;2015年08期

4 靳然;李生才;;基于小波神經(jīng)網(wǎng)絡(luò)的麥蚜發(fā)生量預(yù)測(cè)研究[J];天津農(nóng)業(yè)科學(xué);2015年04期

5 張建明;詹智財(cái);成科揚(yáng);詹永照;;深度學(xué)習(xí)的研究與發(fā)展[J];江蘇大學(xué)學(xué)報(bào)(自然科學(xué)版);2015年02期

6 夏春江;王培良;張媛;;基于深度學(xué)習(xí)的木材含水率預(yù)測(cè)[J];杭州電子科技大學(xué)學(xué)報(bào)(自然科學(xué)版);2015年01期

7 鄭毅;朱成璋;;基于深度信念網(wǎng)絡(luò)的PM_(2.5)預(yù)測(cè)[J];山東大學(xué)學(xué)報(bào)(工學(xué)版);2014年06期

8 余濱;李紹滋;徐素霞;紀(jì)榮嶸;;深度學(xué)習(xí):開(kāi)啟大數(shù)據(jù)時(shí)代的鑰匙[J];工程研究-跨學(xué)科視野中的工程;2014年03期

9 梁軍;柴玉梅;原慧斌;昝紅英;劉銘;;基于深度學(xué)習(xí)的微博情感分析[J];中文信息學(xué)報(bào);2014年05期

10 梁淑芬;劉銀華;李立琛;;基于LBP和深度學(xué)習(xí)的非限制條件下人臉識(shí)別算法[J];通信學(xué)報(bào);2014年06期

相關(guān)碩士學(xué)位論文 前6條

1 蘇一峰;基于物聯(lián)網(wǎng)的小麥病蟲(chóng)害動(dòng)態(tài)氣象模型和遠(yuǎn)程診斷方法研究[D];中國(guó)農(nóng)業(yè)科學(xué)院;2016年

2 岳永鵬;深度無(wú)監(jiān)督學(xué)習(xí)算法研究[D];西南石油大學(xué);2015年

3 張建華;基于深度學(xué)習(xí)的語(yǔ)音識(shí)別應(yīng)用研究[D];北京郵電大學(xué);2015年

4 王恒歡;基于深度學(xué)習(xí)的圖像識(shí)別算法研究[D];北京郵電大學(xué);2015年

5 李飛騰;卷積神經(jīng)網(wǎng)絡(luò)及其應(yīng)用[D];大連理工大學(xué);2014年

6 游前慧;基于核密度的半監(jiān)督學(xué)習(xí)算法在視頻語(yǔ)義標(biāo)注中的應(yīng)用[D];北京交通大學(xué);2008年

，

本文編號(hào)：1330201