貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)與應(yīng)用研究
本文選題:貝葉斯網(wǎng)絡(luò) + 結(jié)構(gòu)學(xué)習(xí)。 參考:《中國(guó)科學(xué)技術(shù)大學(xué)》2017年博士論文
【摘要】:進(jìn)入到21世紀(jì)以來,人們對(duì)于人工智能領(lǐng)域的研究取得了極大的進(jìn)步。作為表示不確定性知識(shí)的一種重要方法,貝葉斯網(wǎng)絡(luò)已經(jīng)成為了人工智能研究中的熱點(diǎn)和重要成果之一,建立有效的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)也是學(xué)習(xí)和應(yīng)用貝葉斯網(wǎng)絡(luò)的基礎(chǔ)和核心。在貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)方面,以傳統(tǒng)的專家知識(shí)構(gòu)建結(jié)構(gòu)為代表的方法已經(jīng)逐漸被通過數(shù)據(jù)學(xué)習(xí)結(jié)構(gòu)的方法取代。然而,由于可能的網(wǎng)絡(luò)結(jié)構(gòu)數(shù)多,會(huì)導(dǎo)致搜索空間巨大。通過訓(xùn)練數(shù)據(jù)學(xué)習(xí)貝葉斯網(wǎng)絡(luò)的方法通常存在著精度低或復(fù)雜度高等問題,使得所學(xué)習(xí)的結(jié)構(gòu)與實(shí)際相差較大,從而對(duì)貝葉斯網(wǎng)絡(luò)的推理及實(shí)際應(yīng)用帶來很大的影響,因此研究合適的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法具有重要的理論和實(shí)際應(yīng)用的意義。本文針對(duì)貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)學(xué)習(xí)及應(yīng)用問題進(jìn)行研究。主要圍繞根據(jù)結(jié)構(gòu)的復(fù)雜性,提出相應(yīng)的結(jié)構(gòu)學(xué)習(xí)方法,進(jìn)一步地將貝葉斯網(wǎng)絡(luò)知識(shí)應(yīng)用于多標(biāo)簽分類中。本文的主要工作和創(chuàng)新性可以概括如下。第一,針對(duì)搜索評(píng)分的結(jié)構(gòu)學(xué)習(xí)方法存在著搜索效率低以及容易陷入到局部最優(yōu)結(jié)構(gòu)問題,提出一種基于離散人工蜂群的結(jié)構(gòu)學(xué)習(xí)方法。首先,將貝葉斯網(wǎng)絡(luò)的有向無(wú)環(huán)圖結(jié)構(gòu)抽象成人工蜂群中的食物源,這樣將結(jié)構(gòu)學(xué)習(xí)問題轉(zhuǎn)化成人工蜂群算法中尋找最優(yōu)食物源問題;然后采用人工蜂群的搜索框架,結(jié)合差分進(jìn)化算法中的變異、交叉算子,從可能的搜索空間中尋找評(píng)分最高的食物源;同時(shí)利用深度優(yōu)先搜索的方法,提出一種有環(huán)圖修正算法;最后通過建立對(duì)應(yīng)的馬爾科夫鏈對(duì)算法的搜索過程進(jìn)行描述,理論上分析算法能夠依概率1收斂到最優(yōu)結(jié)構(gòu)。實(shí)驗(yàn)仿真表明所提的基于離散人工蜂群的結(jié)構(gòu)學(xué)習(xí)算法學(xué)習(xí)到的結(jié)構(gòu)評(píng)分更優(yōu),且收斂性更好。第二,針對(duì)結(jié)點(diǎn)數(shù)龐大會(huì)導(dǎo)致搜索評(píng)分的結(jié)構(gòu)學(xué)習(xí)方法復(fù)雜度高的問題,提出一種混合約束與搜索評(píng)分的結(jié)構(gòu)學(xué)習(xí)方法。首先,利用條件獨(dú)立性測(cè)試從數(shù)據(jù)中學(xué)習(xí)出結(jié)點(diǎn)所對(duì)應(yīng)的無(wú)向獨(dú)立圖結(jié)構(gòu);然后利用遞歸的思想對(duì)無(wú)向獨(dú)立圖進(jìn)行遞歸分解,從而構(gòu)建出多個(gè)子圖結(jié)構(gòu);對(duì)于每個(gè)子無(wú)向圖結(jié)構(gòu),利用搜索評(píng)分的方法來確定出結(jié)構(gòu)中的邊及其對(duì)應(yīng)的方向;最后,提出子結(jié)構(gòu)合成規(guī)則將這些子結(jié)構(gòu)重新組合成對(duì)應(yīng)的有向無(wú)環(huán)圖結(jié)構(gòu)。實(shí)驗(yàn)仿真表明混合約束和搜索評(píng)分的方法能夠更有效地處理結(jié)點(diǎn)數(shù)眾多的結(jié)構(gòu)學(xué)習(xí)問題。第三,考慮到多標(biāo)簽分類中標(biāo)簽之間存在著相關(guān)性的問題,提出基于貝葉斯網(wǎng)絡(luò)的多標(biāo)簽分類方法。首先利用訓(xùn)練數(shù)據(jù)學(xué)習(xí)標(biāo)簽貝葉斯網(wǎng)絡(luò)模型,其中每個(gè)結(jié)點(diǎn)代表著一類標(biāo)簽,結(jié)點(diǎn)間的邊和條件概率分布描述標(biāo)簽之間的相關(guān)程度;然后利用最大似然估計(jì)的參數(shù)學(xué)習(xí)方法學(xué)習(xí)結(jié)構(gòu)中的參數(shù);對(duì)于每個(gè)測(cè)試集,通過計(jì)算其與訓(xùn)練樣本的歐式距離來選擇與其相鄰的樣本集,并將相鄰樣本集中的標(biāo)簽類別信息作為證據(jù)輸入到標(biāo)簽貝葉斯網(wǎng)絡(luò)中;最后利用聯(lián)合樹推理來預(yù)測(cè)測(cè)試集最可能屬于哪些類標(biāo)簽中。
[Abstract]:Since twenty-first Century, people have made great progress in the field of artificial intelligence. As an important way to express uncertain knowledge, Bayesian networks have become one of the hotspots and important achievements in the research of artificial intelligence. The establishment of an effective Bayesian network structure is also the learning and application of Bayesian networks. The foundation and core. In the Bias network structure, the method represented by traditional expert knowledge construction has gradually been replaced by the method of data learning structure. However, the number of possible network structures can lead to a huge search space. The method of learning the Bias network through training data usually has a low precision. The problem of high degree of complexity makes the difference between the structure and the reality, which has a great influence on the reasoning and practical application of Bayesian network. Therefore, it is of great significance to study the proper Bayesian network structure learning method. This paper aims at the structure learning and application of Bayesian network. The main work and innovation of this paper can be summarized as follows. The main work and innovation of this paper can be summarized as follows. First, the structure learning method for the search score is low in search efficiency and easy to fall into the part of Bias. A structure learning method based on the discrete artificial bee colony is proposed. First, the Bias network's directed acyclic graph structure is used to abstract the food source of the adult worker swarm. In this way, the structure learning problem is transformed into the adult worker swarm algorithm to find the optimal food source problem. The mutation and crossover operator in the evolutionary algorithm search for the highest grade food source from the possible search space; at the same time, we use the method of depth first search to propose a loop graph correction algorithm. Finally, the search process of the algorithm is described by establishing the corresponding Markov chain, and the theoretical analysis algorithm can converge to the probability 1. The experimental simulation shows that the structure learning algorithm based on the discrete artificial bee colony learning algorithm has better structure and better convergence. Second, a structural learning method with mixed and search scores is proposed for the problem of high complexity of the structure learning method which can lead to the search score. Using the conditional independence test, the undirected independent graph structure corresponding to the node is learned from the data. Then the recursive idea is used to decompose the undirected independent graph, and then the multiple subgraph structure is constructed. For each subgraph structure, the edge and its corresponding direction in the structure are determined by the method of search score. Finally, The substructure synthesis rules are proposed to recombine these substructures into corresponding directed acyclic graphs. Experimental simulation shows that the method of mixed constraint and search score can deal with many structural learning problems more effectively. Third, considering the problem of correlation among tags in multi label classification, it is proposed based on bainite leaf. The multi label classification method of the network. First, we use training data to learn the label Bayesian network model, in which each node represents a class of tags, the edge of the node and the conditional probability distribution describe the correlation between the tags; then the parameter learning method of the maximum likelihood estimation is used to learn the parameters of the structure; for each test set, each test set is used. By calculating the Euclidean distance from the training sample, we choose the sample set adjacent to it, and input the label category information of the adjacent samples into the label Bayesian network. Finally, the joint tree reasoning is used to predict which class labels are most likely to belong to the test set.
【學(xué)位授予單位】:中國(guó)科學(xué)技術(shù)大學(xué)
【學(xué)位級(jí)別】:博士
【學(xué)位授予年份】:2017
【分類號(hào)】:TP18
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 賈海洋;陳娟;劉大有;;貝葉斯網(wǎng)結(jié)構(gòu)學(xué)習(xí)搜索空間分析[J];計(jì)算機(jī)工程與科學(xué);2010年09期
2 王雙成;林士敏;陸玉昌;;貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)分析[J];計(jì)算機(jī)科學(xué);2000年10期
3 高曉光;肖秦琨;;非平穩(wěn)隨機(jī)系統(tǒng)動(dòng)態(tài)貝葉斯結(jié)構(gòu)學(xué)習(xí)關(guān)系網(wǎng)[J];航空學(xué)報(bào);2007年06期
4 冀俊忠;張鴻勛;胡仁兵;劉椿年;;基于禁忌搜索的貝葉斯網(wǎng)結(jié)構(gòu)學(xué)習(xí)算法[J];北京工業(yè)大學(xué)學(xué)報(bào);2011年08期
5 周本達(dá);田旭;;基于遺傳算法和強(qiáng)化學(xué)習(xí)的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)算法[J];微型機(jī)與應(yīng)用;2007年S1期
6 張少中,王秀坤;基于約束最大信息熵的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)算法[J];小型微型計(jì)算機(jī)系統(tǒng);2005年06期
7 馬壯,楊善林,胡小建;貝葉斯網(wǎng)結(jié)構(gòu)學(xué)習(xí)的研究現(xiàn)狀及發(fā)展趨勢(shì)[J];合肥工業(yè)大學(xué)學(xué)報(bào)(自然科學(xué)版);2005年08期
8 程澤凱;秦鋒;徐浩;;TANC-BIC結(jié)構(gòu)學(xué)習(xí)算法的改進(jìn)[J];計(jì)算機(jī)技術(shù)與發(fā)展;2006年05期
9 肖秦琨;高曉光;高嵩;王海蕓;;DBN結(jié)構(gòu)學(xué)習(xí)度量分解性能分析[J];系統(tǒng)工程與電子技術(shù);2009年04期
10 郭文強(qiáng);高曉光;任佳;;分段平穩(wěn)變結(jié)構(gòu)DBN模型區(qū)域內(nèi)的結(jié)構(gòu)學(xué)習(xí)[J];系統(tǒng)工程與電子技術(shù);2012年04期
相關(guān)會(huì)議論文 前3條
1 鄧志東;張秀葦;;具有結(jié)構(gòu)學(xué)習(xí)的神經(jīng)模糊推理模型及其在fRNA基因預(yù)測(cè)中的應(yīng)用[A];2005年中國(guó)智能自動(dòng)化會(huì)議論文集[C];2005年
2 劉向南;王浩;姚宏亮;;一種基于x~2測(cè)試的貪婪搜索結(jié)構(gòu)學(xué)習(xí)算法[A];2011中國(guó)儀器儀表與測(cè)控技術(shù)大會(huì)論文集[C];2011年
3 程澤凱;泰鋒;;貝葉斯網(wǎng)絡(luò)分類器結(jié)構(gòu)學(xué)習(xí):基于啟發(fā)式的G2算法[A];2005年“數(shù)字安徽”博士科技論壇論文集[C];2005年
相關(guān)博士學(xué)位論文 前4條
1 曹杰;貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)與應(yīng)用研究[D];中國(guó)科學(xué)技術(shù)大學(xué);2017年
2 張韜政;結(jié)構(gòu)學(xué)習(xí)中的輔助問題研究[D];北京郵電大學(xué);2011年
3 雷菊陽(yáng);復(fù)雜環(huán)境下動(dòng)態(tài)系統(tǒng)結(jié)構(gòu)學(xué)習(xí)[D];上海交通大學(xué);2009年
4 李剛;知識(shí)發(fā)現(xiàn)的圖模型方法[D];中國(guó)科學(xué)院軟件研究所;2001年
相關(guān)碩士學(xué)位論文 前10條
1 趙夢(mèng)夢(mèng);同調(diào)結(jié)構(gòu)學(xué)習(xí)算法及其應(yīng)用研究[D];蘇州大學(xué);2015年
2 許晴;基于Finsler幾何的結(jié)構(gòu)學(xué)習(xí)算法研究[D];蘇州大學(xué);2015年
3 劉培娜;基于非負(fù)編碼和SPNs結(jié)構(gòu)學(xué)習(xí)的圖像分類算法研究[D];哈爾濱工業(yè)大學(xué);2015年
4 張順;不完全數(shù)據(jù)圖模型的結(jié)構(gòu)學(xué)習(xí)[D];山東師范大學(xué);2016年
5 李國(guó)梁;貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)的混合優(yōu)化方法研究[D];西北工業(yè)大學(xué);2015年
6 李碩豪;基于圖分塊的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)研究[D];國(guó)防科學(xué)技術(shù)大學(xué);2014年
7 曾杰鵬;基于繼承的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)算法研究與應(yīng)用[D];華南理工大學(xué);2012年
8 胡仁兵;動(dòng)態(tài)貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)的研究[D];北京工業(yè)大學(xué);2009年
9 張鴻勛;基于K2評(píng)分的貝葉斯網(wǎng)結(jié)構(gòu)學(xué)習(xí)算法的研究[D];北京工業(yè)大學(xué);2009年
10 胡謙謙;Markov邏輯網(wǎng)及其在社會(huì)網(wǎng)絡(luò)中的應(yīng)用研究[D];北京交通大學(xué);2010年
,本文編號(hào):1874085
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/1874085.html