改進(jìn)的支持向量機(jī)的理論研究及應(yīng)用
本文關(guān)鍵詞:改進(jìn)的支持向量機(jī)的理論研究及應(yīng)用,由筆耕文化傳播整理發(fā)布。
【摘要】:分類問題是機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘中經(jīng)常遇到的重要問題,支持向量機(jī)模型是針對(duì)小樣本分類問題提出來的,由于其極小化結(jié)構(gòu)風(fēng)險(xiǎn),避免維數(shù)災(zāi)難和核函數(shù)的巧妙結(jié)合等特點(diǎn)成為目前解決分類問題中最有效的機(jī)器學(xué)習(xí)算法之一.但傳統(tǒng)的支持向量機(jī)模型的目標(biāo)函數(shù)是單一的,產(chǎn)生一個(gè)分類超平面,當(dāng)訓(xùn)練的樣本數(shù)據(jù)過小時(shí)容易產(chǎn)生過擬合現(xiàn)象,且不適用于數(shù)據(jù)量較大的樣本.為了改善上述情況,近幾年出現(xiàn)了一些改進(jìn)的支持向量機(jī)模型,本文主要是研究此類支持向量機(jī)模型的理論和應(yīng)用.本文研究的內(nèi)容主要有四部分.首先,從支持向量機(jī)模型中目標(biāo)函數(shù)的個(gè)數(shù)不同,劃分為單目標(biāo)函數(shù)的支持向量機(jī)模型和雙目標(biāo)函數(shù)的支持向向量機(jī)模型.接著,進(jìn)行理論分析:在單目標(biāo)函數(shù)的支持向量機(jī)模型中,主要研究了最基本的支持向量機(jī)和C-支持向量機(jī);在雙目標(biāo)函數(shù)的支持向量機(jī)中,重點(diǎn)研究了孿生支持向量(TWSVM)和非平行支持向量機(jī)(NPSVM),從理論上分析了傳統(tǒng)的支持向量機(jī)模型和改進(jìn)的支持向量機(jī)的區(qū)別和聯(lián)系,并進(jìn)一步指出了改進(jìn)的支持向量機(jī)模型在理論上和實(shí)際應(yīng)用中的優(yōu)點(diǎn)和不足.然后,為了突出改進(jìn)的支持向量機(jī)模型應(yīng)用到分類問題的優(yōu)點(diǎn),本文對(duì)文本分類和情感分析兩個(gè)分類問題進(jìn)行試驗(yàn),其中情感分析應(yīng)用領(lǐng)域的研究是一個(gè)創(chuàng)新點(diǎn).最后,為了拓寬研究思路,作者將支持向量機(jī)與深度學(xué)習(xí)做簡(jiǎn)要的對(duì)比.本文的主要結(jié)果如下:1.改進(jìn)的支持向量機(jī)模型是產(chǎn)生兩個(gè)分類超平面,使得同一類樣本盡可能在同一個(gè)超平面內(nèi),并且盡可能遠(yuǎn)離另一類樣本所在的超平面,從理論上比傳統(tǒng)的支持向量機(jī)模型更能擬合數(shù)據(jù)的分布.2.改進(jìn)的支持向量機(jī)將傳統(tǒng)的支持向量機(jī)中的一個(gè)凸優(yōu)化問題轉(zhuǎn)化成兩個(gè)小的凸優(yōu)化問題來解決,從理論上分析得出改進(jìn)的支持向量機(jī)模型的運(yùn)行速度要比傳統(tǒng)的支持向量機(jī)快將近4倍.3.從實(shí)驗(yàn)運(yùn)行分類精度的結(jié)果來看,我們可以發(fā)現(xiàn)TWSVM和NPSVM在小樣本數(shù)據(jù)以及樣本數(shù)據(jù)較大的情況下要比傳統(tǒng)的支持向量機(jī)的分類準(zhǔn)確度要高1%至10%,且樣本越大,差距越明顯.4.從對(duì)同一標(biāo)準(zhǔn)數(shù)據(jù)集上,訓(xùn)練集所占的不同百分比分類精度結(jié)果所繪制的圖來看,改進(jìn)的支持向量機(jī)的穩(wěn)定性和精度比傳統(tǒng)的支持向量機(jī)具有明顯的優(yōu)勢(shì).5.支持向量機(jī)模型也是一種單層的神經(jīng)網(wǎng)絡(luò),將深度學(xué)習(xí)的模型與支持向量機(jī)模型結(jié)合起來,可以結(jié)合兩者的優(yōu)點(diǎn),在分類應(yīng)用問題上會(huì)取得更好的分類效果.
【關(guān)鍵詞】:分類問題 機(jī)器學(xué)習(xí) 支持向量機(jī) 雙目標(biāo)函數(shù) 深度學(xué)習(xí)
【學(xué)位授予單位】:西北農(nóng)林科技大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2016
【分類號(hào)】:TP18
【目錄】:
- 摘要5-6
- ABSTRACT6-10
- 第一章 文獻(xiàn)綜述10-16
- 1.1 對(duì)所述研究方向研究背景和狀況10-12
- 1.2 研究?jī)?nèi)容12-15
- 1.2.1 最原始的支持向量機(jī)12-13
- 1.2.2 C-支持向量機(jī)13
- 1.2.3 雙目標(biāo)函數(shù)的支持向量機(jī)13-14
- 1.2.4 支持向量機(jī)的應(yīng)用14-15
- 1.2.5 深度學(xué)習(xí)15
- 1.3 小結(jié)15-16
- 第二章 改進(jìn)的支持向量機(jī)模型16-37
- 2.1 準(zhǔn)備知識(shí)16-21
- 2.1.1 分類問題的介紹16
- 2.1.2 VC維數(shù)16-17
- 2.1.3 結(jié)構(gòu)風(fēng)險(xiǎn)最小化(Structural Risk Minimination)17-18
- 2.1.4 核函數(shù)18-20
- 2.1.5 損失函數(shù)20
- 2.1.6 KKT條件20-21
- 2.2 傳統(tǒng)支持向量機(jī)的模型21-27
- 2.2.1 標(biāo)準(zhǔn)的支持向量機(jī)模型及求解過程21-24
- 2.2.2 C-SVM24-26
- 2.2.3 求解支持向量機(jī)算法SMO26-27
- 2.2.4 小結(jié)27
- 2.3 基于雙目標(biāo)函數(shù)的支持向量機(jī)27-36
- 2.3.1 孿生支持向量機(jī)(TWSVM)27-31
- 2.3.2 非平行支持向量機(jī)(NPSVM)31-36
- 2.4 小結(jié)36-37
- 第三章 改進(jìn)的支持向量機(jī)的應(yīng)用37-42
- 3.1 支持向量機(jī)在情感分析的應(yīng)用37-39
- 3.1.1 情感分析的介紹37
- 3.1.2 數(shù)據(jù)的介紹37-38
- 3.1.3 實(shí)驗(yàn)過程38
- 3.1.4 實(shí)驗(yàn)結(jié)果及分析38-39
- 3.2 改進(jìn)的支持向量機(jī)在文本分類中的應(yīng)用39-41
- 3.2.1 文本分類的介紹39-40
- 3.2.2 數(shù)據(jù)類型的介紹40
- 3.2.3 實(shí)驗(yàn)過程40
- 3.2.4 實(shí)驗(yàn)結(jié)果和分析40-41
- 3.3 小結(jié)41-42
- 第四章 支持向量機(jī)和深度學(xué)習(xí)的簡(jiǎn)單對(duì)比42-46
- 4.1 深度學(xué)習(xí)的發(fā)展42-43
- 4.2 人工網(wǎng)絡(luò)理論簡(jiǎn)單介紹43-44
- 4.3 兩者之間在理論上的關(guān)系和應(yīng)用領(lǐng)域的分析44-45
- 4.4 小結(jié)45-46
- 第五章 總結(jié)和展望46-47
- 參考文獻(xiàn)47-50
- 附件50-63
- 致謝63-64
- 作者簡(jiǎn)介64
【相似文獻(xiàn)】
中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條
1 吳娟;范玉妹;王麗;;關(guān)于改進(jìn)的支持向量機(jī)的研究[J];攀枝花學(xué)院學(xué)報(bào);2006年05期
2 劉碩明;劉佳;楊海濱;;一種新的多類支持向量機(jī)算法[J];計(jì)算機(jī)應(yīng)用;2008年S2期
3 尹傳環(huán);牟少敏;田盛豐;黃厚寬;;單類支持向量機(jī)的研究進(jìn)展[J];計(jì)算機(jī)工程與應(yīng)用;2012年12期
4 王云英;閻滿富;;C-支持向量機(jī)及其改進(jìn)[J];唐山師范學(xué)院學(xué)報(bào);2012年05期
5 李逢煥;;試述不確定支持向量機(jī)應(yīng)用分析及改進(jìn)思路[J];中國(guó)證券期貨;2012年12期
6 邵惠鶴;支持向量機(jī)理論及其應(yīng)用[J];自動(dòng)化博覽;2003年S1期
7 曾嶸,蔣新華,劉建成;基于支持向量機(jī)的異常值檢測(cè)的兩種方法[J];信息技術(shù);2004年05期
8 張凡,賀蘇寧;模糊判決支持向量機(jī)在自動(dòng)語種辨識(shí)中的研究[J];計(jì)算機(jī)工程與應(yīng)用;2004年21期
9 魏玲,張文修;基于支持向量機(jī)集成的分類[J];計(jì)算機(jī)工程;2004年13期
10 沈翠華,鄧乃揚(yáng),肖瑞彥;基于支持向量機(jī)的個(gè)人信用評(píng)估[J];計(jì)算機(jī)工程與應(yīng)用;2004年23期
中國(guó)重要會(huì)議論文全文數(shù)據(jù)庫(kù) 前10條
1 余樂安;姚瀟;;基于中心化支持向量機(jī)的信用風(fēng)險(xiǎn)評(píng)估模型[A];第六屆(2011)中國(guó)管理學(xué)年會(huì)——商務(wù)智能分會(huì)場(chǎng)論文集[C];2011年
2 劉希玉;徐志敏;段會(huì)川;;基于支持向量機(jī)的創(chuàng)新分類器[A];山東省計(jì)算機(jī)學(xué)會(huì)2005年信息技術(shù)與信息化研討會(huì)論文集(一)[C];2005年
3 史曉濤;劉建麗;駱玉榮;;一種抗噪音的支持向量機(jī)學(xué)習(xí)方法[A];全國(guó)第19屆計(jì)算機(jī)技術(shù)與應(yīng)用(CACIS)學(xué)術(shù)會(huì)議論文集(下冊(cè))[C];2008年
4 何琴淑;劉信恩;肖世富;;基于支持向量機(jī)的系統(tǒng)辨識(shí)方法研究及應(yīng)用[A];中國(guó)力學(xué)大會(huì)——2013論文摘要集[C];2013年
5 劉駿;;基于支持向量機(jī)方法的衢州降雪模型[A];第五屆長(zhǎng)三角氣象科技論壇論文集[C];2008年
6 王婷;胡秀珍;;基于組合向量的支持向量機(jī)方法預(yù)測(cè)膜蛋白類型[A];第十一次中國(guó)生物物理學(xué)術(shù)大會(huì)暨第九屆全國(guó)會(huì)員代表大會(huì)摘要集[C];2009年
7 趙晶;高雋;張旭東;謝昭;;支持向量機(jī)綜述[A];全國(guó)第十五屆計(jì)算機(jī)科學(xué)與技術(shù)應(yīng)用學(xué)術(shù)會(huì)議論文集[C];2003年
8 周星宇;王思元;;智能數(shù)學(xué)與支持向量機(jī)[A];2005年中國(guó)智能自動(dòng)化會(huì)議論文集[C];2005年
9 顏根廷;馬廣富;朱良寬;宋斌;;一種魯棒支持向量機(jī)算法[A];2006中國(guó)控制與決策學(xué)術(shù)年會(huì)論文集[C];2006年
10 侯澍e,
本文編號(hào):270231
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/270231.html