樸素貝葉斯與決策樹混合分類方法的研究
本文關(guān)鍵詞:樸素貝葉斯與決策樹混合分類方法的研究,,由筆耕文化傳播整理發(fā)布。
【摘要】:數(shù)據(jù)挖掘是致力于數(shù)據(jù)分析和理解、揭示數(shù)據(jù)內(nèi)部蘊(yùn)藏知識的技術(shù),并且能有效地從低信噪比數(shù)據(jù)中挖掘有價值的信息。分類的模型主要包括樸素貝葉斯、決策樹、支持向量機(jī)等。樸素貝葉斯和決策樹以算法簡單、計(jì)算量小以及分類結(jié)果對噪音魯棒等特點(diǎn)而得到廣泛運(yùn)用。本文從以下幾個方面著眼,改進(jìn)樸素貝葉斯和決策樹算法:(1)盡管樸素貝葉斯的分類結(jié)果受到廣泛承認(rèn),但是面對某些特殊情形,依然存在兩個缺陷,即屬性間必須滿足獨(dú)立的條件,以及概率估計(jì)方式粗糙的問題。針對樸素貝葉斯概率估計(jì)粗糙的問題,本文提出了基于樸素貝葉斯的概率優(yōu)化算法。將概率優(yōu)化函數(shù)運(yùn)用到樸素貝葉斯中,充分考慮到樸素貝葉斯中條件概率為零的屬性,從而避免了樸素貝葉斯易下溢和過度擬合的問題。本文采用了UCI數(shù)據(jù)集進(jìn)行了多組驗(yàn),與傳統(tǒng)分類算法進(jìn)行比較。實(shí)驗(yàn)結(jié)果表明在高維數(shù)據(jù)中,基于樸素貝葉斯的概率優(yōu)化算法算法提高了分類準(zhǔn)確率,表現(xiàn)出了優(yōu)良的性能。(2)在針對多類標(biāo)簽的分類問題上,文中介紹了樸素貝葉斯與決策樹的混合分類算法,由于在訓(xùn)練集中存在有噪聲矛盾的實(shí)例,將使決策樹遭遇過度擬合并且致使精確度下降。在構(gòu)造決策樹之前運(yùn)用本文提出的樸素貝葉斯的概率優(yōu)化算法進(jìn)行預(yù)處理,來移除訓(xùn)練集中的噪音實(shí)例,從而避免決策樹算法的過度擬合。本文采用UCI數(shù)據(jù)集,采用10倍交叉驗(yàn)證的方法,對論文中提出的算法進(jìn)行實(shí)驗(yàn)。通過大量對比實(shí)驗(yàn)顯示,本文中提出的方法產(chǎn)生了較好的結(jié)果。樸素貝葉斯與決策樹的混合算法還允許我們自動的從擁有高維屬性的噪聲數(shù)據(jù)中抽取最具有代表性和高質(zhì)量的數(shù)據(jù)集,并且根據(jù)不同的實(shí)例特征挑選出重要的屬性。(3)本文將提出的樸素貝葉斯的概率優(yōu)化算法和樸素貝葉斯與決策樹的混合算法應(yīng)用在冠心病中醫(yī)輔助診療系統(tǒng)中,成功地對病人病癥進(jìn)行了分類,在冠心病的診療過程中起到了有效的輔助作用。
【關(guān)鍵詞】:分類算法 樸素貝葉斯 概率估計(jì) 決策樹
【學(xué)位授予單位】:大連海事大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2016
【分類號】:TP18;TP311.13
【目錄】:
- 摘要5-6
- ABSTRACT6-10
- 第1章 緒論10-18
- 1.1 課題研究背景和意義10-11
- 1.2 國內(nèi)外研究現(xiàn)狀11-16
- 1.2.1 樸素貝葉斯分類算法的研究現(xiàn)狀11-14
- 1.2.2 決策樹算法的研究現(xiàn)狀14-16
- 1.2.3 樸素貝葉斯與其他算法結(jié)合的研究現(xiàn)狀16
- 1.3 論文主要工作和組織結(jié)構(gòu)16-18
- 第2章 相關(guān)理論概述18-26
- 2.1 數(shù)據(jù)挖掘的概述18-19
- 2.1.1 數(shù)據(jù)挖掘的主要任務(wù)18
- 2.1.2 數(shù)據(jù)挖掘的流程18-19
- 2.2 分類的定義19-21
- 2.2.1 分類器的評估方法19-20
- 2.2.2 常見的分類器的介紹20-21
- 2.3 樸素貝葉斯分類方法21-24
- 2.3.1 貝葉斯理論21-22
- 2.3.2 樸素貝葉斯方法22-24
- 2.4 決策樹分類方法24-26
- 第3章 基于樸素貝葉斯的概率估計(jì)優(yōu)化算法26-39
- 3.1 引言26
- 3.2 樸素貝葉斯中的概率修正方法介紹26-28
- 3.2.1 Laplace方法26-27
- 3.2.2 m-估計(jì)方法27
- 3.2.3 健壯性概率估計(jì)方法27-28
- 3.3 優(yōu)化函數(shù)的介紹28-30
- 3.4 基于樸素貝葉斯的概率估計(jì)優(yōu)化算法30-32
- 3.5 實(shí)驗(yàn)與結(jié)果分析32-37
- 3.5.1 數(shù)據(jù)集描述32-33
- 3.5.2 實(shí)驗(yàn)設(shè)計(jì)33-34
- 3.5.3 實(shí)驗(yàn)結(jié)果分析34-37
- 3.6 本章小結(jié)37-39
- 第4章 樸素貝葉斯與決策樹混合分類算法39-51
- 4.1 引言39
- 4.2 決策樹算法C5.039-41
- 4.3 樸素貝葉斯與決策樹混合分類算法41-42
- 4.4 實(shí)驗(yàn)與結(jié)果分析42-50
- 4.4.1 數(shù)據(jù)集描述42-43
- 4.4.2 實(shí)驗(yàn)設(shè)計(jì)43-45
- 4.4.3 實(shí)驗(yàn)結(jié)果分析45-50
- 4.5 本章小結(jié)50-51
- 第5章 樸素貝葉斯與決策樹混合分類算法的實(shí)際應(yīng)用系統(tǒng)51-55
- 5.1 引言51
- 5.2 應(yīng)用系統(tǒng)的實(shí)現(xiàn)51-54
- 5.2.1 系統(tǒng)框架設(shè)計(jì)52
- 5.2.2 系統(tǒng)開發(fā)工具與平臺52-53
- 5.2.3 應(yīng)用系統(tǒng)的呈現(xiàn)53-54
- 5.3 本章小結(jié)54-55
- 第6章 總結(jié)與展望55-58
- 6.1 總結(jié)55-56
- 6.2 未來展望56-58
- 參考文獻(xiàn)58-64
- 致謝64
【相似文獻(xiàn)】
中國期刊全文數(shù)據(jù)庫 前10條
1 錢穎能;胡運(yùn)發(fā);;用樸素貝葉斯分類法選股[J];計(jì)算機(jī)應(yīng)用與軟件;2007年06期
2 歐陽澤華;郭華平;范明;;在逐漸縮小的空間上漸進(jìn)學(xué)習(xí)樸素貝葉斯參數(shù)[J];計(jì)算機(jī)應(yīng)用;2012年01期
3 裴亞輝;熊盛武;;樸素貝葉斯及其擴(kuò)展模型[J];網(wǎng)絡(luò)安全技術(shù)與應(yīng)用;2007年08期
4 趙彥琦;謝小西;荀宇暢;;樸素貝葉斯分類法的應(yīng)用[J];電子制作;2013年07期
5 菅小艷;崔彩霞;;基于樸素貝葉斯的文本分類[J];電腦開發(fā)與應(yīng)用;2013年12期
6 王實(shí);高文;;增強(qiáng)型樸素貝葉斯學(xué)習(xí)[J];計(jì)算機(jī)科學(xué);2000年04期
7 楊忠強(qiáng);秦亮曦;;一種基于屬性加權(quán)的樸素貝葉斯改進(jìn)算法[J];廣西大學(xué)學(xué)報(bào)(自然科學(xué)版);2013年05期
8 張彩麗;楊帆;張玉杰;;柴油機(jī)供油系統(tǒng)狀態(tài)的樸素貝葉斯診斷方法研究[J];計(jì)算機(jī)測量與控制;2008年08期
9 白耀輝;陳明;王舉群;;利用樸素貝葉斯方法實(shí)現(xiàn)異常檢測[J];計(jì)算機(jī)工程與應(yīng)用;2005年34期
10 王雙成;冷翠平;侯彩虹;;操作風(fēng)險等級預(yù)測的樸素貝葉斯方法研究[J];計(jì)算機(jī)工程與應(yīng)用;2008年12期
中國重要會議論文全文數(shù)據(jù)庫 前2條
1 石志偉;吳功宜;;改善樸素貝葉斯在文本分類中的穩(wěn)定性[A];NCIRCS2004第一屆全國信息檢索與內(nèi)容安全學(xué)術(shù)會議論文集[C];2004年
2 李海軍;王鉦旋;王利民;苑森淼;;基于主成分分析提升樸素貝葉斯[A];中國儀器儀表學(xué)會第六屆青年學(xué)術(shù)會議論文集[C];2004年
中國碩士學(xué)位論文全文數(shù)據(jù)庫 前10條
1 李Pr;基于樸素貝葉斯的文本分類研究及其在微博分類中的應(yīng)用[D];北京理工大學(xué);2015年
2 李冬梅;樸素貝葉斯與決策樹混合分類方法的研究[D];大連海事大學(xué);2016年
3 胡為成;基于遺傳算法的樸素貝葉斯分類研究[D];合肥工業(yè)大學(xué);2006年
4 劉勇華;基于樸素貝葉斯的中文段落情感分析[D];太原理工大學(xué);2015年
5 周龍;基于樸素貝葉斯的分類方法研究[D];安徽大學(xué);2006年
6 王翔;基于樸素貝葉斯和One-R的入侵檢測問題研究[D];合肥工業(yè)大學(xué);2008年
7 周遠(yuǎn)陽;基于樸素貝葉斯方法的新聞分類系統(tǒng)的實(shí)現(xiàn)[D];暨南大學(xué);2012年
8 李忠波;基于改進(jìn)樸素貝葉斯的蛋白質(zhì)提純方法選擇[D];大連理工大學(xué);2014年
9 孫秀亮;基于屬性加權(quán)的選擇性樸素貝葉斯分類研究[D];哈爾濱工程大學(xué);2013年
10 華林森;中文文本情感分類研究[D];重慶大學(xué);2014年
本文關(guān)鍵詞:樸素貝葉斯與決策樹混合分類方法的研究,由筆耕文化傳播整理發(fā)布。
本文編號:291356
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/291356.html