基于E-MS算法的高斯圖模型選擇
本文選題:高斯圖模型 + E-MS算法 ; 參考:《長春工業(yè)大學(xué)》2017年碩士論文
【摘要】:圖模型是處理高維復(fù)雜問題的有力工具,已被廣泛應(yīng)用于生物信息學(xué)、機(jī)器學(xué)習(xí)等各個(gè)領(lǐng)域。圖模型的模型選擇作為圖模型研究中的一個(gè)重要而具有挑戰(zhàn)性的問題,倍受到了廣大學(xué)者的關(guān)注。針對完全數(shù)據(jù)情形,Meinshausen and Bühlmann(2006),Yuan and Lin(2007)和Friedmam,Hastie and Tibshirani(2008)等提出了一系列最大化懲罰似然的圖模型選擇方法。針對缺失數(shù)據(jù)情形,St?dler and Bühlmann(2012)利用EM算法最大化懲罰觀測似然;Thai,Hunter and Akametalu(2014)等提出了m-CCCP算法,該算法比EM收斂速度更快。然而,Jiang,Nguyen and Rao(2015)指出傳統(tǒng)的基于EM的模型選擇方法在處理這類問題時(shí)存在一定的局限性,并提出了比基于EM的模型選擇方法更為有效E-MS算法,在一定的條件下證明了其相合性。在本文中,我們將利用E-MS算法進(jìn)行含缺失數(shù)據(jù)情形下的高斯圖模型的模型選擇。首先我們介紹E-MS算法,然后給出基于E-MS算法的模型選擇的具體步驟及相應(yīng)的理論推導(dǎo)。對于圖模型頂點(diǎn)個(gè)數(shù)為3、4和5的情形,我們通過模擬研究,比較了E-MS算法和傳統(tǒng)的EM結(jié)合BIC方法的效果,驗(yàn)證了E-MS算法在處理高斯圖模型選擇問題時(shí)具有更高的準(zhǔn)確度。但隨著圖模型頂點(diǎn)個(gè)數(shù)的增加,候選模型的數(shù)量呈指數(shù)級(jí)增加。E-MS算法每一次迭代的MS步中,最佳模型很難被選出。對于高維的高斯圖模型選擇問題,我們將用模擬退火(SA)算法對E-MS算法的MS步進(jìn)行優(yōu)化,通過隨機(jī)搜索的方法找出當(dāng)前迭代的最佳模型。我們給出了具體的優(yōu)化方法和步驟,并通過數(shù)值模擬驗(yàn)證了E-MS結(jié)合SA方法的可行性。
[Abstract]:Graph model is a powerful tool to deal with high dimensional complex problems. It has been widely used in many fields such as bioinformatics machine learning and so on. As an important and challenging problem in the research of graph model, the model selection of graph model has attracted the attention of many scholars. In this paper, we propose a series of graph model selection methods for complete data such as and B 眉 hlmannn 2006 / Yuan and Linn 2007 and Friedmamn Hastie and Tibshirani 2008). In this paper, we propose a new m-CCCP algorithm for missing data, such as Standler and B 眉 hlmann (2012), using EM algorithm to maximize the penalty of observed likelihood, and so on. The proposed m-CCCP algorithm is faster than EM in convergence speed. However, Jiang Nguyen and Rao / 2015) points out that the traditional model selection method based on EM has some limitations in dealing with this kind of problems, and proposes a more effective E-MS algorithm than the model selection method based on EM, and proves its consistency under certain conditions. In this paper, we will use E-MS algorithm to select the model of the Gaustmap model with missing data. First, we introduce the E-MS algorithm, then give the specific steps of model selection based on E-MS algorithm and the corresponding theoretical derivation. For the case where the number of vertices of graph model is 3 ~ 4 and 5, we compare the effect of E-MS algorithm and traditional EM combined with BIC method, and verify that E-MS algorithm has higher accuracy in dealing with the problem of model selection of Gao Si graph. However, with the increase of vertex number of graph model, the number of candidate models increases exponentially. E-MS algorithm is difficult to select the best model in each iteration of MS step. For the high-dimensional model selection problem, we will use simulated annealing algorithm to optimize the MS step of E-MS algorithm, and find out the best model of the current iteration by random search method. The specific optimization methods and steps are given, and the feasibility of E-MS combined with SA method is verified by numerical simulation.
【學(xué)位授予單位】:長春工業(yè)大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2017
【分類號(hào)】:O157.5
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 張維,劉豹;模型選擇準(zhǔn)則的漸近性質(zhì)與選擇檢驗(yàn)[J];系統(tǒng)工程學(xué)報(bào);1995年04期
2 黃東遠(yuǎn);陳曉云;;一種新的支持向量回歸機(jī)的模型選擇方法[J];福州大學(xué)學(xué)報(bào)(自然科學(xué)版);2011年04期
3 李根;鄒國華;張新雨;;高維模型選擇方法綜述[J];數(shù)理統(tǒng)計(jì)與管理;2012年04期
4 盛守照,王道波;基于預(yù)測風(fēng)險(xiǎn)最小化的模型選擇理論與方法研究[J];系統(tǒng)工程;2004年04期
5 黃光遠(yuǎn),朱月秋;森林火災(zāi)的模型及其撲滅問題[J];系統(tǒng)工程理論與實(shí)踐;1988年02期
6 張維群;多目標(biāo)抽樣調(diào)查的模型選擇[J];統(tǒng)計(jì)與信息論壇;1999年04期
7 陶長琪;楊海文;;空間計(jì)量模型選擇及其模擬分析[J];統(tǒng)計(jì)研究;2014年08期
8 梅凡民,張小曳,鹿化煜,沈振興,趙錦慧;若干風(fēng)蝕粉塵釋放模型述評(píng)[J];中國沙漠;2004年06期
9 馬盡文;;有限混合體模型上的自動(dòng)模型選擇:一種嶄新的數(shù)據(jù)建模方式(英文)[J];工程數(shù)學(xué)學(xué)報(bào);2007年04期
10 陳向華;薛英;白曉東;;多發(fā)風(fēng)險(xiǎn)模型的負(fù)盈余持續(xù)時(shí)間分布的計(jì)算[J];內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報(bào)(自然科學(xué)版);2008年03期
相關(guān)會(huì)議論文 前9條
1 張維;;模型選擇:現(xiàn)狀與發(fā)展[A];全國青年管理科學(xué)與系統(tǒng)科學(xué)論文集(第1卷)[C];1991年
2 金偉;周浩;于永利;;維修管理IDSS的設(shè)計(jì)方法[A];設(shè)備維修與改造技術(shù)論文集[C];2000年
3 曾菊英;許冰;;制度變遷及其模型選擇[A];21世紀(jì)數(shù)量經(jīng)濟(jì)學(xué)(第10卷)[C];2009年
4 廖冬初;秦壽康;;縣級(jí)規(guī)劃總體優(yōu)化模型及其計(jì)算方法[A];發(fā)展戰(zhàn)略與系統(tǒng)工程——第五屆系統(tǒng)工程學(xué)會(huì)年會(huì)論文集[C];1986年
5 張維;;關(guān)于模型選擇中的若干理論問題[A];科學(xué)決策與系統(tǒng)工程——中國系統(tǒng)工程學(xué)會(huì)第六次年會(huì)論文集[C];1990年
6 戰(zhàn)明華;李生校;;貨幣與產(chǎn)出的關(guān)系(1995~2003):不同模型的分析結(jié)果及其比較[A];中國金融學(xué)會(huì)第八屆優(yōu)秀論文評(píng)選獲獎(jiǎng)?wù)撐募痆C];2005年
7 王樹盛;;Probit模型及其在交通方式分擔(dān)中的應(yīng)用研究[A];可持續(xù)發(fā)展的中國交通——2005全國博士生學(xué)術(shù)論壇(交通運(yùn)輸工程學(xué)科)論文集(下冊)[C];2005年
8 戴鋒;梁玲;李興兵;馮俊濤;;經(jīng)濟(jì)增長的動(dòng)態(tài)進(jìn)程模型及實(shí)證研究[A];第十四屆中國管理科學(xué)學(xué)術(shù)年會(huì)論文集(上冊)[C];2012年
9 韓珂;尹勤;;大學(xué)生手機(jī)話費(fèi)模型的建立和分析[A];江蘇省現(xiàn)場統(tǒng)計(jì)研究會(huì)第十次學(xué)術(shù)年會(huì)論文集[C];2006年
相關(guān)重要報(bào)紙文章 前3條
1 建南;幫你建立有效客戶關(guān)系[N];中國商報(bào);2001年
2 首創(chuàng)期貨研發(fā)中心金融工程組 徐澤平;方差-協(xié)方差法的VaR計(jì)量模型選擇[N];期貨日報(bào);2007年
3 證券時(shí)報(bào)記者 楊波 金燁 程俊琳;量化投資走在中國 六年學(xué)步漸入佳境[N];證券時(shí)報(bào);2010年
相關(guān)博士學(xué)位論文 前10條
1 夏小超;統(tǒng)計(jì)檢驗(yàn)與模型選擇相關(guān)問題研究[D];重慶大學(xué);2015年
2 朱素玲;模型選擇與模型平均研究[D];蘭州大學(xué);2014年
3 房小兆;基于稀疏和低秩約束的模型學(xué)習(xí)研究[D];哈爾濱工業(yè)大學(xué);2016年
4 呂子昂;模型選擇的曲率方法研究[D];北京交通大學(xué);2012年
5 常群;支持向量機(jī)的核方法及其模型選擇[D];哈爾濱工業(yè)大學(xué);2007年
6 賀利堅(jiān);多Agent系統(tǒng)中信任和信譽(yù)模型的研究[D];北京交通大學(xué);2011年
7 張立明;結(jié)合可滿足的基于模型等價(jià)性驗(yàn)證及不一致診斷問題研究[D];吉林大學(xué);2012年
8 毛文濤;支持向量回歸機(jī)模型選擇研究及在綜合力學(xué)環(huán)境預(yù)示中的應(yīng)用[D];西安交通大學(xué);2011年
9 劉靖旭;支持向量回歸的模型選擇及應(yīng)用研究[D];國防科學(xué)技術(shù)大學(xué);2006年
10 劉勇;基于積分算子譜分析的核方法模型選擇[D];天津大學(xué);2016年
相關(guān)碩士學(xué)位論文 前10條
1 張亞楠;基于宏微觀模型推斷鋼構(gòu)件強(qiáng)度的無損檢測技術(shù)研究[D];中國礦業(yè)大學(xué);2015年
2 單昕彤;認(rèn)知診斷中模型—資料的測驗(yàn)擬合檢驗(yàn)統(tǒng)計(jì)量研究[D];江西師范大學(xué);2015年
3 孫志濱;LDA模型的研究及其在推薦系統(tǒng)中的應(yīng)用[D];浙江大學(xué);2016年
4 仝景景;“碎片化數(shù)據(jù)”的模型平均方法[D];華東師范大學(xué);2016年
5 肖馨梅;融合Lasso罰模型的理論與應(yīng)用研究[D];燕山大學(xué);2016年
6 尹瀟瀟;Meta分析中的模型選擇與模型平均[D];云南財(cái)經(jīng)大學(xué);2016年
7 陳笑弟;交互效應(yīng)下的模型選擇[D];中國科學(xué)技術(shù)大學(xué);2016年
8 孫式雪;高維數(shù)據(jù)在直接控制FDR下的模型選擇[D];華中師范大學(xué);2016年
9 劉菲菲;模型選取準(zhǔn)則的若干討論[D];揚(yáng)州大學(xué);2016年
10 陳星;TVWS頻段的SPM模型海上傳播校正研究[D];海南大學(xué);2016年
,本文編號(hào):1892752
本文鏈接:http://sikaile.net/shoufeilunwen/benkebiyelunwen/1892752.html