【摘要】：目前大部分受限玻爾茲曼機(jī)(Restricted Boltzmann machines,RBMs)訓(xùn)練算法都是以多步Gibbs采樣為基礎(chǔ)的采樣算法.本文針對多步Gibbs采樣過程中出現(xiàn)的采樣發(fā)散和訓(xùn)練速度過慢的問題,首先,對問題進(jìn)行實(shí)驗(yàn)描述,給出了問題的具體形式;然后,從馬爾科夫采樣的角度對多步Gibbs采樣的收斂性質(zhì)進(jìn)行了理論分析,證明了多步Gibbs采樣在受限玻爾茲曼機(jī)訓(xùn)練初期較差的收斂性質(zhì)是造成采樣發(fā)散和訓(xùn)練速度過慢的主要原因;最后,提出了動(dòng)態(tài)Gibbs采樣算法,給出了對比仿真實(shí)驗(yàn).實(shí)驗(yàn)結(jié)果表明,動(dòng)態(tài)Gibbs采樣算法可以有效地克服采樣發(fā)散的問題,并且能夠以微小的運(yùn)行時(shí)間為代價(jià)獲得更高的訓(xùn)練精度.

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 李彥,王國紅,盧虎;基于Matlab的“Gibbs現(xiàn)象”的仿真研究[J];西安石油學(xué)院學(xué)報(bào)(自然科學(xué)版);2000年03期

2 黃靜;馬建華;路利軍;畢一鳴;陳武凡;;基于廣義Gibbs先驗(yàn)的優(yōu)質(zhì)PET成像[J];電子學(xué)報(bào);2010年04期

3 黃河,李政,倪維斗;Gibbs反應(yīng)器模型及其計(jì)算機(jī)實(shí)現(xiàn)[J];動(dòng)力工程;2004年06期

4 ;Cimatron將在德國銷售Gibbs CAM[J];現(xiàn)代制造;2008年40期

5 朱成文;李兵;胡奎;;HMM參數(shù)估計(jì)的Gibbs抽樣算法[J];計(jì)算機(jī)工程與應(yīng)用;2012年18期

6 馬曉川,侯朝煥,趙榮椿;一種新的紋理圖像Gibbs模型[J];計(jì)算機(jī)學(xué)報(bào);1998年S1期

7 馬建華;黃靜;陳陽;陳凌劍;陳武凡;;基于廣義Gibbs先驗(yàn)的低劑量X-CT優(yōu)質(zhì)重建研究[J];計(jì)算機(jī)工程與應(yīng)用;2008年16期

8 江貴平;黃鑫;馮衍秋;陳武凡;;一種適用于真實(shí)人體數(shù)據(jù)能有效消除Gibbs偽影的MR重建新算法[J];計(jì)算機(jī)學(xué)報(bào);2007年11期

9 周壽軍,梁斌,陳武凡;一種基于模糊Gibbs隨機(jī)場的運(yùn)動(dòng)估計(jì)新算法[J];中國圖象圖形學(xué)報(bào);2004年06期

10 馮前進(jìn);黃鑫;馮衍秋;;基于Chebyshev多項(xiàng)式的消除Gibbs偽影的快速算法[J];中國圖象圖形學(xué)報(bào);2006年08期

相關(guān)會議論文 前1條

1 劉文忠;張沅;;貝葉斯方差組分估計(jì)中Gibbs鏈的收斂診斷[A];中國青年農(nóng)業(yè)科學(xué)學(xué)術(shù)年報(bào)[C];2002年

相關(guān)博士學(xué)位論文 前2條

1 林亞忠;基于Gibbs隨機(jī)場模型的醫(yī)學(xué)圖像分割新算法研究[D];第一軍醫(yī)大學(xué);2004年

2 王秀麗;Gibbs系綜Monte Carlo方法研究流體相平衡[D];天津大學(xué);2004年

相關(guān)碩士學(xué)位論文 前8條

1 逄榮榮;基于Gibbs抽樣法及模擬過濾法對前饋環(huán)調(diào)控速率的估計(jì)[D];蘇州大學(xué);2010年

2 惠豐;乙烯—醋酸體系汽液相平衡的Gibbs系綜蒙特卡羅模擬研究[D];天津大學(xué);2012年

3 唐n，

本文編號：2571295