雙LSSVM的增量學(xué)習(xí)和稀疏算法研究
發(fā)布時(shí)間:2021-01-04 21:24
最小二乘雙支持向量機(jī)(雙LSSVM)是雙支持向量機(jī)(TSVM)的一種變形,被廣泛的應(yīng)用于分類與回歸問題中。與TSVM解二次規(guī)劃問題相比,LSSVM可轉(zhuǎn)化為解一組線性方程組,從而提高了訓(xùn)練速度,但是失去了解的稀疏性,導(dǎo)致測試速度變慢,不適用于大規(guī)模數(shù)據(jù)集,所以稀疏化雙LSSVM成了重中之重。本文主要是在雙LSSVM的基礎(chǔ)上提出兩種改進(jìn)方法:增量學(xué)習(xí)算法和稀疏化算法,主要工作包括以下兩個(gè)方面。一方面,針對(duì)在求解雙LSSVM目標(biāo)函數(shù)時(shí)會(huì)出現(xiàn)對(duì)非滿秩矩陣求逆的問題,本文提出改進(jìn)的雙LSSVM(雙ILSSVM),即利用經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則避免病態(tài)解的產(chǎn)生。在訓(xùn)練過程中,利用Sherman-Morrison定理對(duì)矩陣的逆進(jìn)行分解,然后重組矩陣的逆,得到一種結(jié)構(gòu)相對(duì)簡單、計(jì)算量小的迭代求解算法,又因?yàn)樵隽繉W(xué)習(xí)降低了對(duì)時(shí)間和空間的需求,所以本文提出基于Sherman-Morrison定理和增量學(xué)習(xí)的雙ILSSVM算法,即SMI-雙ILSSVM算法。該方法通過選取不同樣本子集大小k來控制測試準(zhǔn)確率和訓(xùn)練時(shí)間隨迭代次數(shù)的變化情況。最后通過UCI數(shù)據(jù)集上的實(shí)驗(yàn)表明,本文提出的SMI-ILSTSVM增量學(xué)習(xí)算法...
【文章來源】:西安電子科技大學(xué)陜西省 211工程院校 教育部直屬院校
【文章頁數(shù)】:65 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
SVM的分類示意圖
西安電子科技大學(xué)碩士學(xué)位論文持向量機(jī)7 年,Jayadeva 等人基于 GEPSVM 理論以及非平行超平面理論對(duì) S進(jìn)而提出了雙支持向量機(jī)[18,19](Twin Support Vector Machines,TSV紹其原理:數(shù)據(jù)集有m個(gè)n維的樣本,分為左右兩類,其中有1m 左類點(diǎn)(+1)-1)。用矩陣 A表示左類1m n維數(shù)據(jù)集,用矩陣 B 表示右類2m 本思想[24]是通過構(gòu)造兩個(gè)超平面來進(jìn)行分類,每個(gè)超平面擬合一類樣一類樣本,如圖 2.2 所示。
【參考文獻(xiàn)】:
期刊論文
[1]一種新的超球SVDD增量學(xué)習(xí)方法[J]. 段修生,曹健,孫世宇,張澤建. 計(jì)算機(jī)應(yīng)用與軟件. 2015(02)
[2]基于TWSVM的圖像分類[J]. 朱志賓,丁世飛. 南京師大學(xué)報(bào)(自然科學(xué)版). 2014(03)
[3]一種改進(jìn)的最小二乘孿生支持向量機(jī)分類算法[J]. 儲(chǔ)茂祥,王安娜,鞏榮芬. 電子學(xué)報(bào). 2014(05)
[4]最小二乘雙支持向量機(jī)的在線學(xué)習(xí)算法[J]. 穆曉霞,陳留院,李鈞濤. 計(jì)算機(jī)仿真. 2012(03)
[5]基于支持向量機(jī)的人臉識(shí)別技術(shù)研究[J]. 于真. 計(jì)算機(jī)仿真. 2011(12)
[6]最小二乘支持向量機(jī)分類的稀疏化方法研究[J]. 陳圣磊,陳耿,薛暉. 計(jì)算機(jī)工程. 2011(22)
[7]基于SVM的靜態(tài)手寫簽名識(shí)別方法研究[J]. 肖亞紅. 微電子學(xué)與計(jì)算機(jī). 2011(09)
[8]構(gòu)造稀疏最小二乘支持向量機(jī)的快速剪枝算法[J]. 周欣然,滕召勝,易釗. 電機(jī)與控制學(xué)報(bào). 2009(04)
[9]最小二乘支持向量機(jī)變型算法研究[J]. 杜喆,劉三陽. 西安電子科技大學(xué)學(xué)報(bào). 2009(02)
[10]基于最小二乘支持向量機(jī)的復(fù)雜金融時(shí)間序列預(yù)測[J]. 辛治運(yùn),顧明. 清華大學(xué)學(xué)報(bào)(自然科學(xué)版). 2008(07)
博士論文
[1]孿生支持向量機(jī)關(guān)鍵問題的研究[D]. 黃華娟.中國礦業(yè)大學(xué) 2014
[2]基于支持向量機(jī)的聚類及文本分類研究[D]. 平源.北京郵電大學(xué) 2012
碩士論文
[1]基于KFCM的模糊最小二乘SVM研究[D]. 薛松.南京郵電大學(xué) 2015
[2]雙支持向量機(jī)的改進(jìn)及其應(yīng)用[D]. 劉凱.蘭州大學(xué) 2013
[3]基于支持向量機(jī)的文本自動(dòng)分類器的研究與應(yīng)用[D]. 黃瑜青.廣東工業(yè)大學(xué) 2012
[4]基于SVM與AdaBoost組合的分類算法研究[D]. 陳春萍.西安電子科技大學(xué) 2012
[5]基于SVM的基因表達(dá)譜分析和函數(shù)集VC維研究[D]. 高潔.華東師范大學(xué) 2011
[6]應(yīng)用機(jī)器學(xué)習(xí)對(duì)保險(xiǎn)公司歷史訂單整合進(jìn)行的研究[D]. 謝昉.上海交通大學(xué) 2008
[7]基于支持向量機(jī)的漢語語音端點(diǎn)檢測和聲韻分離[D]. 蔡魁杰.哈爾濱工程大學(xué) 2007
本文編號(hào):2957393
【文章來源】:西安電子科技大學(xué)陜西省 211工程院校 教育部直屬院校
【文章頁數(shù)】:65 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
SVM的分類示意圖
西安電子科技大學(xué)碩士學(xué)位論文持向量機(jī)7 年,Jayadeva 等人基于 GEPSVM 理論以及非平行超平面理論對(duì) S進(jìn)而提出了雙支持向量機(jī)[18,19](Twin Support Vector Machines,TSV紹其原理:數(shù)據(jù)集有m個(gè)n維的樣本,分為左右兩類,其中有1m 左類點(diǎn)(+1)-1)。用矩陣 A表示左類1m n維數(shù)據(jù)集,用矩陣 B 表示右類2m 本思想[24]是通過構(gòu)造兩個(gè)超平面來進(jìn)行分類,每個(gè)超平面擬合一類樣一類樣本,如圖 2.2 所示。
【參考文獻(xiàn)】:
期刊論文
[1]一種新的超球SVDD增量學(xué)習(xí)方法[J]. 段修生,曹健,孫世宇,張澤建. 計(jì)算機(jī)應(yīng)用與軟件. 2015(02)
[2]基于TWSVM的圖像分類[J]. 朱志賓,丁世飛. 南京師大學(xué)報(bào)(自然科學(xué)版). 2014(03)
[3]一種改進(jìn)的最小二乘孿生支持向量機(jī)分類算法[J]. 儲(chǔ)茂祥,王安娜,鞏榮芬. 電子學(xué)報(bào). 2014(05)
[4]最小二乘雙支持向量機(jī)的在線學(xué)習(xí)算法[J]. 穆曉霞,陳留院,李鈞濤. 計(jì)算機(jī)仿真. 2012(03)
[5]基于支持向量機(jī)的人臉識(shí)別技術(shù)研究[J]. 于真. 計(jì)算機(jī)仿真. 2011(12)
[6]最小二乘支持向量機(jī)分類的稀疏化方法研究[J]. 陳圣磊,陳耿,薛暉. 計(jì)算機(jī)工程. 2011(22)
[7]基于SVM的靜態(tài)手寫簽名識(shí)別方法研究[J]. 肖亞紅. 微電子學(xué)與計(jì)算機(jī). 2011(09)
[8]構(gòu)造稀疏最小二乘支持向量機(jī)的快速剪枝算法[J]. 周欣然,滕召勝,易釗. 電機(jī)與控制學(xué)報(bào). 2009(04)
[9]最小二乘支持向量機(jī)變型算法研究[J]. 杜喆,劉三陽. 西安電子科技大學(xué)學(xué)報(bào). 2009(02)
[10]基于最小二乘支持向量機(jī)的復(fù)雜金融時(shí)間序列預(yù)測[J]. 辛治運(yùn),顧明. 清華大學(xué)學(xué)報(bào)(自然科學(xué)版). 2008(07)
博士論文
[1]孿生支持向量機(jī)關(guān)鍵問題的研究[D]. 黃華娟.中國礦業(yè)大學(xué) 2014
[2]基于支持向量機(jī)的聚類及文本分類研究[D]. 平源.北京郵電大學(xué) 2012
碩士論文
[1]基于KFCM的模糊最小二乘SVM研究[D]. 薛松.南京郵電大學(xué) 2015
[2]雙支持向量機(jī)的改進(jìn)及其應(yīng)用[D]. 劉凱.蘭州大學(xué) 2013
[3]基于支持向量機(jī)的文本自動(dòng)分類器的研究與應(yīng)用[D]. 黃瑜青.廣東工業(yè)大學(xué) 2012
[4]基于SVM與AdaBoost組合的分類算法研究[D]. 陳春萍.西安電子科技大學(xué) 2012
[5]基于SVM的基因表達(dá)譜分析和函數(shù)集VC維研究[D]. 高潔.華東師范大學(xué) 2011
[6]應(yīng)用機(jī)器學(xué)習(xí)對(duì)保險(xiǎn)公司歷史訂單整合進(jìn)行的研究[D]. 謝昉.上海交通大學(xué) 2008
[7]基于支持向量機(jī)的漢語語音端點(diǎn)檢測和聲韻分離[D]. 蔡魁杰.哈爾濱工程大學(xué) 2007
本文編號(hào):2957393
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/2957393.html
最近更新
教材專著