本文選題：孿生支持向量機 + 多分類��； 參考：《中國礦業(yè)大學》2017年碩士論文

【摘要】：孿生支持向量機是支持向量機的一種改進算法。與支持向量機相比,孿生支持向量機不但保持了較高的分類準確率而且具有更快的訓練速度。孿生支持向量機最初是為解決二分類問題而提出的,然而實際應用中所面臨的大多是多分類問題。鑒于孿生支持向量機的優(yōu)秀性能和多分類問題的廣泛性,多分類孿生支持向量機的研究越來越受到人們的重視。多生支持向量機是最近被提出的一種新型多分類孿生支持向量機。該算法因在處理類別較多的多分類問題時具有較快的訓練速度而受到關注。但是,與一對一多分類孿生支持向量機等算法相比,該算法分類準確率有待提高。此外,多生支持向量機在訓練過程中需要求解二次規(guī)劃問題,訓練速度也有提升的空間。機器學習算法所采用的損失函數(shù)直接關系到算法的性能和效率。本文從多生支持向量機的損失項入手,結(jié)合粒度計算理論,改進多生支持向量機,提升算法的性能。本文的主要研究內(nèi)容如下:研究了基于加權(quán)線性損失函數(shù)的多生支持向量機。為了進一步提升多生支持向量機的訓練速度,本文使用加權(quán)線性損失函數(shù)近似替代Hinge損失函數(shù),提出了加權(quán)線性損失多生支持向量機。加權(quán)線性損失多生支持向量機利用加權(quán)線性損失函數(shù)重新構(gòu)造多生支持向量機模型的目標函數(shù),使得算法以加權(quán)線性損失項而非Hinge損失項評估經(jīng)驗風險。通過推導,加權(quán)線性損失多生支持向量機的優(yōu)化問題可以轉(zhuǎn)化為線性方程組。因此,加權(quán)線性損失多生支持向量機的訓練過程僅需求解線性方程組,而原始多生支持向量機需要求解二次規(guī)劃,這使得加權(quán)線性損失多生支持向量機的算法速度明顯快于原始多生支持向量機。UCI數(shù)據(jù)集上的實驗結(jié)果表明所提算法在保持分類準確率的基礎上提高了多生支持向量機的訓練速度。研究了Ramp損失多生支持向量機。原始的多生支持向量機中采用的Hinge損失函數(shù)沒有上界,因此對噪聲點依然敏感。為了提升多生支持向量機的魯棒性,本文將具有上下界的Ramp損失函數(shù)與多生支持向量機模型結(jié)合得到Ramp損失多生支持向量機。Ramp損失函數(shù)的使用使得Ramp損失多生支持向量機的數(shù)學模型成為非凸的二次規(guī)劃問題,如果使用常規(guī)的優(yōu)化工具進行求解,得到的解往往精度不高。為了保證模型求解的準確性,本文通過凹凸過程算法求解Ramp多生支持向量機的優(yōu)化問題。針對所提出的Ramp損失多生支持向量機,通過實驗測試了其分類性能,并將其與多生支持向量機、多生最小二乘支持向量機以及加權(quán)線性損失多生支持向量機作了詳細對比。研究了粒度多生支持向量機。為了進一步提升所研究算法的分類準確率,本文參考粒度支持向量機的原理,將粒度思想引入多生支持向量機、多生最小二乘支持向量機、加權(quán)線性損失多生支持向量機和Ramp損失多生支持向量機提出了四種粒度多生支持向量機。粒度多生支持向量機首先通過粒度劃分得到一系列信息粒,然后在每個包含多類樣本的信息粒上建立僅涉及該信息粒上訓練數(shù)據(jù)的子分類器,最后結(jié)合所有粒上子分類器獲得最終的決策結(jié)果。實驗表明,相對于原算法,多生粒度支持向量機、最小二乘粒度多生向量機、加權(quán)線性損失粒度多生支持向量機和Ramp損失粒度多生支持向量機的分類性能得到了提升。
[Abstract]:In order to improve the training speed of the multi - generation support vector machine , this paper proposes a new kind of multi - generation support vector machine which is based on weighted linear loss function .
【學位授予單位】：中國礦業(yè)大學
【學位級別】：碩士
【學位授予年份】：2017
【分類號】：TP18

【參考文獻】

相關期刊論文 前10條

1 王振武;孫佳駿;于忠義;卜異亞;;基于支持向量機的遙感圖像分類研究綜述[J];計算機科學;2016年09期

2 周哲;楊志霞;;基于凹凸過程的雙支持向量機[J];重慶理工大學學報(自然科學);2014年10期

3 儲茂祥;王安娜;鞏榮芬;;一種改進的最小二乘孿生支持向量機分類算法[J];電子學報;2014年05期

4 Mao-xiang CHU;An-na WANG;Rong-fen GONG;Mo SHA;;Multi-class Classification Methods of Enhanced LS-TWSVM for Strip Steel Surface Defects[J];Journal of Iron and Steel Research(International);2014年02期

5 TIAN YingJie;JU XuChan;QI ZhiQuan;SHI Yong;;Improved twin support vector machine[J];Science China(Mathematics);2014年02期

6 丁世飛;黃華娟;史忠植;;加權(quán)光滑CHKS孿生支持向量機[J];軟件學報;2013年11期

7 聶盼盼;臧洌;劉雷雷;;基于對支持向量機的多類分類算法在入侵檢測中的應用[J];計算機應用;2013年02期

8 賴英超;曾劍銘;沈海斌;;基于連筆消除的空間手寫字符識別方法[J];計算機工程;2012年19期

9 丁世飛;齊丙娟;譚紅艷;;支持向量機理論與算法研究綜述[J];電子科技大學學報;2011年01期

10 李武軍;王崇駿;張煒;陳世福;;人臉識別研究綜述[J];模式識別與人工智能;2006年01期

相關博士學位論文 前1條

1 黃華娟;孿生支持向量機關鍵問題的研究[D];中國礦業(yè)大學;2014年

相關碩士學位論文 前1條

1 邱建坤;基于孿生支持向量機的特征選擇與多類分類算法研究[D];燕山大學;2015年

，

本文編號：1932882