發(fā)布時間：2018-01-08 11:04

  本文關(guān)鍵詞：隨機受限玻爾茲曼機組設(shè)計　出處：《上海交通大學(xué)學(xué)報》2017年10期 　論文類型：期刊論文

  更多相關(guān)文章： 機器學(xué)習(xí) 深度學(xué)習(xí) 受限玻爾茲曼機 深度玻爾茲曼機

【摘要】：為提高受限玻爾茲曼機(Restricted Boltzmann Machine,RBM)數(shù)據(jù)學(xué)習(xí)能力和抑制訓(xùn)練的特征同質(zhì)化問題,提出一種隨機受限玻爾茲曼機組(Random-RBM Group,R-RBMG)設(shè)計.對觀測數(shù)據(jù)進(jìn)行隨機維度組合,在隨機維度組合的基礎(chǔ)上構(gòu)建子RBM群組并實施訓(xùn)練,隨后依據(jù)神經(jīng)網(wǎng)絡(luò)的層數(shù)選擇模型特征組合方式,針對淺層結(jié)構(gòu)設(shè)置為均值組合方式,針對深層模型設(shè)置為隱單元疊加方式.理論分析表明,隨著組內(nèi)模型數(shù)目的增加,R-RBMG所要學(xué)習(xí)的訓(xùn)練目標(biāo)將逐漸接近于標(biāo)準(zhǔn)RBM的訓(xùn)練目標(biāo),并且能夠有效減少特征同質(zhì)化帶來的影響;實驗結(jié)果表明,與衰落機制相比,R-RBMG能夠有效提高RBM的特征學(xué)習(xí)能力,應(yīng)用所組建的淺層結(jié)構(gòu)和深層結(jié)構(gòu)特征,將MNIST(Mixed National Institute of Standards and Technology)數(shù)據(jù)庫實驗的分類準(zhǔn)確率分別提高了2%和0.4%.
[Abstract]:In order to improve the data learning ability of constrained Boltzmann machine restricted Boltzmann Machine (RBM) and the problem of feature homogeneity of suppression training. A random constrained Boltzmann unit Random-RBM Group R-RBMG design is proposed. The random dimension combination of observation data is carried out. On the basis of the random dimension combination, the sub-#en0# group is constructed and trained. Then, according to the layer number of neural network, the model feature combination mode is selected, and the shallow structure is set to mean combination mode. The theoretical analysis shows that the training target of R-RBMG will be close to the standard RBM training target with the increase of the number of models in the group. And it can effectively reduce the influence brought by the homogenization of characteristics; The experimental results show that compared with the fading mechanism, R-RBMG can effectively improve the feature learning ability of RBM, and apply the constructed shallow and deep structure features. MNIST(Mixed National Institute of Standards and Technology. The classification accuracy of database experiment was improved by 2% and 0.4 respectively.
【作者單位】： 海軍航空大學(xué)基礎(chǔ)實驗部;海軍航空大學(xué)信息融合所;
【基金】：國家自然科學(xué)基金(61102167) 泰山學(xué)者工程專項經(jīng)費(No.st201511020)資助
【分類號】：TP181
【正文快照】： 目前,以受限玻爾茲曼機(Restricted Boltz-mann Machine,RBM)為基礎(chǔ)的深度學(xué)習(xí)模型已經(jīng)在數(shù)據(jù)降維、圖像分類、跨媒體檢索和時間序列分析等機器學(xué)習(xí)領(lǐng)域得到了較好應(yīng)用.與此同時,對RBM進(jìn)行優(yōu)化以提高深度模型數(shù)據(jù)學(xué)習(xí)能力也一直是深度學(xué)習(xí)領(lǐng)域的研究熱點.RBM在訓(xùn)練過程中存在

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 劉建偉;劉媛;羅雄麟;;玻爾茲曼機研究進(jìn)展[J];計算機研究與發(fā)展;2014年01期

2 劉來福，唐志宇，，匡錦瑜;向量玻爾茲曼機[J];北京師范大學(xué)學(xué)報(自然科學(xué)版);1996年04期

3 夏潤海,王開顏;機器學(xué)習(xí)與智能決策支持系統(tǒng)[J];濰坊學(xué)院學(xué)報;2003年02期

4 張明玉,倪志偉;基于機器學(xué)習(xí)的智能決策支持系統(tǒng)[J];淮南師范學(xué)院學(xué)報;2005年03期

5 楊凌霄;武建平;;機器學(xué)習(xí)方法在人臉檢測中的應(yīng)用[J];計算機與數(shù)字工程;2008年03期

6 ;第十一屆中國機器學(xué)習(xí)會議[J];智能系統(tǒng)學(xué)報;2008年02期

7 ;第14屆中國機器學(xué)習(xí)會議[J];智能系統(tǒng)學(xué)報;2012年06期

8 費宗銘;呂建;王志堅;陳道蓄;徐家福;;機器學(xué)習(xí)[J];計算機科學(xué);1991年01期

9 趙沁平;魏華;王軍玲;;機器學(xué)習(xí)技術(shù)與機器學(xué)習(xí)系統(tǒng)[J];計算機科學(xué);1993年05期

10 姚敏;機器學(xué)習(xí)及其發(fā)展方向[J];計算機時代;1994年04期

相關(guān)會議論文 前7條

1 王玨;;歸納機器學(xué)習(xí)[A];2001年中國智能自動化會議論文集（上冊）[C];2001年

2 吳滄浦;;智能系統(tǒng)與機器學(xué)習(xí)的新領(lǐng)域[A];西部大開發(fā) 科教先行與可持續(xù)發(fā)展——中國科協(xié)2000年學(xué)術(shù)年會文集[C];2000年

3 周晴杰;徐立鴻;吳啟迪;;機器學(xué)習(xí)串級結(jié)構(gòu)的初步探討[A];1998年中國控制會議論文集[C];1998年

4 李剛;郭崇慧;林鴻飛;楊志豪;唐煥文;;基于詞典法和機器學(xué)習(xí)法相結(jié)合的蛋白質(zhì)名識別[A];大連理工大學(xué)生物醫(yī)學(xué)工程學(xué)術(shù)論文集（第2卷）[C];2005年

5 蔡健平;林世平;;基于機器學(xué)習(xí)的詞語和句子極性分析[A];第三屆全國信息檢索與內(nèi)容安全學(xué)術(shù)會議論文集[C];2007年

6 黃金鐵;李景銀;周建常;;對高爐爐況評價模型參數(shù)的機器學(xué)習(xí)——一個三類線性模式分類器的實現(xiàn)[A];1995中國控制與決策學(xué)術(shù)年會論文集[C];1995年

7 程國建;蔡磊;潘華賢;;核向量機在大規(guī)模機器學(xué)習(xí)中的應(yīng)用[A];第十一屆中國青年信息與管理學(xué)者大會論文集[C];2009年

相關(guān)重要報紙文章 前3條

1 IBM大數(shù)據(jù)專家 James Kobielus　范范 編譯;機器學(xué)習(xí)已成為大數(shù)據(jù)基石[N];網(wǎng)絡(luò)世界;2014年

2 本報記者 房琳琳;合久必分：分布式“機器學(xué)習(xí)”應(yīng)運而生[N];科技日報;2014年

3 雨辰;機器學(xué)習(xí)類圖書為什么火爆[N];中華讀書報;2014年

相關(guān)博士學(xué)位論文 前10條

1 趙曉朝;玻爾茲曼機的參數(shù)選擇理論及應(yīng)用[D];天津大學(xué);2016年

2 董春茹;機器學(xué)習(xí)中的權(quán)重學(xué)習(xí)與差分演化[D];華南理工大學(xué);2015年

3 姚明臣;機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中的若干問題研究[D];大連理工大學(xué);2016年

4 杜宇;基于深度機器學(xué)習(xí)的體態(tài)與手勢感知計算關(guān)鍵技術(shù)研究[D];浙江大學(xué);2017年

5 鐘錦紅;群智學(xué)習(xí)若干問題研究[D];中國科學(xué)技術(shù)大學(xué);2017年

6 趙東;基于群智能優(yōu)化的機器學(xué)習(xí)方法研究及應(yīng)用[D];吉林大學(xué);2017年

7 趙玉鵬;機器學(xué)習(xí)的哲學(xué)探索[D];大連理工大學(xué);2010年

8 胡巍;面向格結(jié)構(gòu)的機器學(xué)習(xí)[D];上海交通大學(xué);2009年

9 張義榮;基于機器學(xué)習(xí)的入侵檢測技術(shù)研究[D];國防科學(xué)技術(shù)大學(xué);2005年

10 錢線;快速精確的結(jié)構(gòu)化機器學(xué)習(xí)方法研究[D];復(fù)旦大學(xué);2010年

相關(guān)碩士學(xué)位論文 前10條

1 李娟;基于RBM的小分子活性及選擇性研究[D];蘭州大學(xué);2015年

2 萬程;自適應(yīng)基數(shù)受限玻爾茲曼機[D];清華大學(xué);2015年

3 張艷霞;基于受限玻爾茲曼機的深度學(xué)習(xí)模型及其應(yīng)用[D];電子科技大學(xué);2016年

4 朱常寶;基于深度玻爾茲曼機的特征學(xué)習(xí)算法研究[D];北京化工大學(xué);2016年

5 張怡康;基于受限玻爾茲曼機的深度學(xué)習(xí)方法研究[D];北京化工大學(xué);2016年

6 糜帥;基于曲率信息的受限玻爾茲曼機訓(xùn)練算法[D];天津大學(xué);2016年

7 王海麟;通過信息幾何方法挖掘玻爾茲曼機的不變性[D];天津大學(xué);2014年

8 陳召陽;基于機器學(xué)習(xí)的改性麥槽吸附重金屬構(gòu)效關(guān)系模型研究[D];江西理工大學(xué);2014年

9 王成;基于半監(jiān)督機器學(xué)習(xí)的文本情感分析技術(shù)[D];南京理工大學(xué);2015年

10 孫科;基于Spark的機器學(xué)習(xí)應(yīng)用框架研究與實現(xiàn)[D];上海交通大學(xué);2015年

本文編號：1396828