隨著大數(shù)據(jù)時代的來臨,人們面臨著怎樣從大量的數(shù)據(jù)中得到他們想要的有價值的知識的問題。在這一需求之下數(shù)據(jù)挖掘隨之誕生,并迅速成為了一個熱門的研究課題。數(shù)據(jù)分類作為數(shù)據(jù)挖掘中重要的一節(jié),通過采用高效的分類算法分析數(shù)據(jù)找出其中存在的聯(lián)系,從而盡可能準(zhǔn)確的預(yù)測待測樣本的類別。其中支持向量機(jī)SVM算法因其在實際應(yīng)用中能夠有效解決數(shù)據(jù)分類過程中遇到的非線性、高維度、過學(xué)習(xí)等問題而具有較明顯的優(yōu)勢,成為目前比較流行的數(shù)據(jù)分類算法。但是傳統(tǒng)SVM算法在學(xué)習(xí)階段計算量與樣本數(shù)量成正比,因此在處理海量數(shù)據(jù)時,計算量巨大,在學(xué)習(xí)階段耗費過多的時間;學(xué)習(xí)樣本中存在的噪聲數(shù)據(jù)影響分類超平面的正確劃分,從而降低該算法的分類精度。而且在測試階段,分類超平面附近易發(fā)生錯分。本文針對SVM分類方法中存在的不足給出了改進(jìn)的方案。首先對原始學(xué)習(xí)數(shù)據(jù)集根據(jù)密度做裁剪預(yù)處理,把處理后的數(shù)據(jù)集作為新的學(xué)習(xí)數(shù)據(jù)集,在新的學(xué)習(xí)數(shù)據(jù)集上進(jìn)行SVM參數(shù)尋優(yōu)操作,通過學(xué)習(xí)獲得最佳分類決策函數(shù)。然后在測試階段,將待測樣本帶入決策函數(shù)中,若函數(shù)值大于設(shè)定的閾值,則以SVM預(yù)測的類別作為待測樣本的類別,反之使用AdaBoost.M1-KNN算法重新預(yù)測。由于在預(yù)處理階段有效地裁剪掉大量的多余的學(xué)習(xí)樣本,包括大部分的噪聲樣本也被裁剪掉,因此有效地降低了學(xué)習(xí)階段的計算量,使分類超平面的劃分更準(zhǔn)確,從而提高了SVM的分類準(zhǔn)確率。對于出現(xiàn)在SVM分類超平面附近的待測樣本不能被正確分類的情況,引入AdaBoost.M1-KNN分類算法,使得分類準(zhǔn)確率進(jìn)一步提高。將該算法應(yīng)用到10組UCI數(shù)據(jù)集上,實驗結(jié)果表明:本文提出的基于密度裁剪的SVM與AdaBoost.M1-KNN結(jié)合的分類算法同傳統(tǒng)SVM分類算法相比有效地提高了分類準(zhǔn)確率,且降低了SVM的學(xué)習(xí)時間,因此該方案是可行有效的。
【學(xué)位單位】：青島大學(xué)
【學(xué)位級別】：碩士
【學(xué)位年份】：2019
【中圖分類】：TP181
【文章目錄】：
摘要
abstract
第一章 緒論
    1.1 研究背景和意義
    1.2 國內(nèi)外研究現(xiàn)狀
    1.3 本文工作和內(nèi)容結(jié)構(gòu)
    1.4 本章小結(jié)
第二章 相關(guān)技術(shù)綜述
    2.1 SVM算法
        2.1.1 SVM方法的基本思想
        2.1.2 SVM的形式化描述
        2.1.3 SVM的多類別預(yù)測識別
        2.1.4 SVM參數(shù)
    2.2 KNN算法
        2.2.1 KNN算法簡介
        2.2.2 KNN算法流程
    2.3 AdaBoost系列算法
        2.3.1 AdaBoost算法
        2.3.2 Adaboost.M1算法
    2.4 本章小結(jié)
第三章 基于密度裁剪的SVM算法
    3.1 算法提出的背景
    3.2 密度裁剪算法
        3.2.1 密度裁剪原理
        3.2.2 密度裁剪算法步驟
        3.2.3 參數(shù)確定
    3.3 基于密度裁剪的SVM算法實現(xiàn)
    3.4 實驗結(jié)果與分析
    3.5 本章小結(jié)
第四章 AdaBoost-KNN算法
    4.1 AdaBoost-KNN算法
    4.2 AdaBoost-KNN算法實現(xiàn)
    4.3 AdaBoost.M1-KNN算法實現(xiàn)
    4.4 實驗結(jié)果與分析
        4.4.1 數(shù)據(jù)集采集
        4.4.2 數(shù)據(jù)預(yù)處理
        4.4.3 算法評判標(biāo)準(zhǔn)
        4.4.4 AdaBoost-KNN預(yù)測識別結(jié)果
        4.4.5 三個分類算法的預(yù)測識別結(jié)果
    4.5 本章小結(jié)
第五章 基于密度裁剪的SVM與AdaBoost-KNN結(jié)合的分類算法
    5.1 SVM參數(shù)優(yōu)化
        5.1.1 遺傳算法
        5.1.2 粒子群算法
        5.1.3 網(wǎng)格搜索算法
        5.1.4 算法小結(jié)
    5.2 基于密度裁剪的SVM與AdaBoost-KNN結(jié)合的預(yù)測識別算法
        5.2.1 算法的學(xué)習(xí)階段
        5.2.2 算法的測試階段
    5.3 實驗結(jié)果與分析
    5.4 本章小結(jié)
第六章 總結(jié)與展望
    6.1 本文的主要工作總結(jié)
    6.2 展望
參考文獻(xiàn)
攻讀學(xué)位期間研究成果
致謝

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 蔣焰;丁曉青;;基于多步校正的改進(jìn)AdaBoost算法[J];清華大學(xué)學(xué)報(自然科學(xué)版)網(wǎng)絡(luò).預(yù)覽;2008年10期

2 王奕然;張新峰;;基于AdaBoost級聯(lián)框架的舌色分類[J];北京生物醫(yī)學(xué)工程;2020年01期

3 李軍;閆佳佳;;基于KELM-AdaBoost方法的短期風(fēng)電功率預(yù)測（英文）[J];控制工程;2019年03期

4 王倫;;Adaboost-SVM多因子選股模型[J];經(jīng)濟(jì)研究導(dǎo)刊;2019年10期

5 葉曉波;秦海菲;呂永林;;一種改進(jìn)的Adaboost-BP算法在手寫數(shù)字識別中的研究[J];大理大學(xué)學(xué)報;2019年06期

6 嚴(yán)智;張鵬;謝川;張鈺林;李保軍;;一種快速AdaBoost.RT集成算法時間序列預(yù)測研究[J];電子測量與儀器學(xué)報;2019年06期

7 李聞;王顯博;;基于Adaboost算法的人臉檢測的研究[J];中外企業(yè)家;2019年26期

8 李偉;嚴(yán)珂;陸慧娟;葉敏超;;基于Adaboost.RT算法的隧道沉降時間序列預(yù)測研究[J];中國計量大學(xué)學(xué)報;2019年03期

9 王玲娣;徐華;;AdaBoost的多樣性分析及改進(jìn)[J];計算機(jī)應(yīng)用;2018年03期

10 杜瑞超;華繼學(xué);翟夕陽;李志鵬;;基于改進(jìn)Real AdaBoost算法的軟件可靠性預(yù)測[J];空軍工程大學(xué)學(xué)報(自然科學(xué)版);2018年01期

相關(guān)博士學(xué)位論文 前10條

1 劉沖;模擬電路故障診斷AdaBoost集成學(xué)習(xí)方法研究[D];大連海事大學(xué);2011年

2 Ebenezer Owusu;[D];江蘇大學(xué);2014年

3 習(xí)文星;移動背景下視覺的行人檢測、識別與跟蹤技術(shù)研究[D];中國科學(xué)院研究生院(上海技術(shù)物理研究所);2015年

4 盧金娜;基于優(yōu)化算法的徑向基神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)及應(yīng)用[D];中北大學(xué);2015年

5 盧巖;交通監(jiān)控中的運動人體目標(biāo)檢測與跟蹤[D];中國科學(xué)院研究生院（長春光學(xué)精密機(jī)械與物理研究所）;2011年

6 王小明;可變光照下人臉檢測與識別研究[D];華東師范大學(xué);2010年

7 孫元;多媒體語義檢索關(guān)鍵問題研究[D];吉林大學(xué);2010年

8 王穎;成熟microRNA識別及其功能預(yù)測方法研究[D];哈爾濱工程大學(xué);2016年

9 吳暾華;面向中醫(yī)面診診斷信息提取的若干關(guān)鍵技術(shù)研究[D];廈門大學(xué);2008年

10 高常鑫;基于上下文的目標(biāo)檢測與識別方法研究[D];華中科技大學(xué);2010年

相關(guān)碩士學(xué)位論文 前10條

1 李陽;基于卷積神經(jīng)網(wǎng)絡(luò)與AdaBoost算法的實時行人檢測系統(tǒng)研究[D];重慶郵電大學(xué);2019年

2 孟亞瓊;改進(jìn)的Adaboost算法在基因表達(dá)數(shù)據(jù)中的應(yīng)用[D];中國計量大學(xué);2018年

3 孫結(jié)冰;基于Adaboost人臉檢測算法的多人標(biāo)識系統(tǒng)研發(fā)[D];黑龍江大學(xué);2019年

4 范支菊;基于密度裁剪的SVM與AdaBoost-KNN結(jié)合的分類算法研究[D];青島大學(xué);2019年

5 秦潤蒙;基于SVM和KNN算法的地理標(biāo)志大米摻假鑒別模型研究[D];吉林農(nóng)業(yè)大學(xué);2019年

6 鄭偉華;基于MCP懲罰的AdaBoost集成剪枝技術(shù)的研究[D];江西財經(jīng)大學(xué);2019年

7 趙晉川;融合AdaBoost和GRU方法的地質(zhì)分層識別研究[D];華北電力大學(xué)(北京);2019年

8 趙云紅;基于Adaboost改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)地表沉陷預(yù)測研究[D];西安科技大學(xué);2019年

9 陳天昕;基于AdaBoost與SVM集成算法的高爐爐溫狀態(tài)解析[D];江西財經(jīng)大學(xué);2019年

10 劉樹燦;基于BP_Adaboost算法的軌面狀態(tài)識別研究[D];湖南工業(yè)大學(xué);2019年

本文編號：2840754