基于Lasso的對(duì)偶稀疏支持向量機(jī)
發(fā)布時(shí)間:2023-04-01 13:46
支持向量機(jī)(Support Vector Machine,SVM)是Vapnik等人提出的一種以統(tǒng)計(jì)學(xué)習(xí)理論為基礎(chǔ)、以解決有限樣本為目標(biāo)的機(jī)器學(xué)習(xí)新方法,因其泛化能力強(qiáng)等特點(diǎn)而廣泛使用.通過轉(zhuǎn)化SVM的目標(biāo)函數(shù)、優(yōu)化等式約束,可將其簡化為最小二乘支持向量機(jī)(Least Squares SVM,LSSVM).這一改進(jìn)有效的降低了計(jì)算復(fù)雜度,但是LSSVM使得幾乎所有的樣本點(diǎn)都作為支持向量參與計(jì)算,解向量稀疏性的喪失將影響分類速度.因此,LSSVM模型的稀疏性問題逐漸被大家關(guān)注并研究.目前已出現(xiàn)一些稀疏化方法,包括L0和L1稀疏化方法,但如何高效的實(shí)現(xiàn)解向量的稀疏性仍是需要進(jìn)一步研究的問題;同時(shí),模型中罰參數(shù)的選擇問題也是很有價(jià)值的一個(gè)研究方向.本文考慮了分類問題的對(duì)偶稀疏支持向量機(jī)模型,理論上首次給出了該分類模型中L1-罰參數(shù)選擇的上界.此外,對(duì)大規(guī)模數(shù)據(jù)集給出了一種新的樣本篩選方法,該方法適用于類中心連線與分類超平面較為垂直的情況.最后,利用UCI數(shù)據(jù)庫中的5個(gè)數(shù)據(jù)集及雙曲螺旋樣本完成了初步的數(shù)值實(shí)驗(yàn),并將其應(yīng)用到了博文...
【文章頁數(shù)】:47 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
1 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 文本分類研究現(xiàn)狀
1.2.2 SVM與LSSVM研究現(xiàn)狀
1.3 論文主要研究內(nèi)容及結(jié)構(gòu)安排
2 最小二乘支持向量機(jī)及三種稀疏模型
2.1 最小二乘支持向量機(jī)
2.2 簡化稀疏最小二乘支持向量機(jī)
2.3 L0-稀疏對(duì)偶支持向量機(jī)
2.4 L1-稀疏對(duì)偶支持向量機(jī)
3 基于Lasso的對(duì)偶稀疏支持向量機(jī)模型
3.1 基于Lasso的對(duì)偶稀疏支持向量機(jī)及L1罰參數(shù)的上界
3.2 大規(guī)模數(shù)據(jù)集的樣本篩選
4 模型應(yīng)用與數(shù)值實(shí)驗(yàn)
4.1 UCI數(shù)據(jù)集的分類效果
4.1.1 數(shù)據(jù)處理及參數(shù)選擇
4.1.2 L1罰參數(shù)上界的數(shù)值驗(yàn)證
4.1.3 分類實(shí)驗(yàn)結(jié)果
4.2 雙曲螺旋樣本的分類效果
4.2.1 數(shù)據(jù)處理及參數(shù)選擇
4.2.2 分類實(shí)驗(yàn)結(jié)果
4.3 預(yù)處理后的大規(guī)模數(shù)據(jù)集Waveform上的分類效果
4.3.1 數(shù)據(jù)處理及參數(shù)選擇
4.3.2 分類實(shí)驗(yàn)結(jié)果
4.4 博文內(nèi)容判別
4.4.1 數(shù)據(jù)處理及參數(shù)選擇
4.4.2 博文內(nèi)容判別實(shí)驗(yàn)結(jié)果
結(jié)論與展望
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝
本文編號(hào):3777250
【文章頁數(shù)】:47 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
1 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 文本分類研究現(xiàn)狀
1.2.2 SVM與LSSVM研究現(xiàn)狀
1.3 論文主要研究內(nèi)容及結(jié)構(gòu)安排
2 最小二乘支持向量機(jī)及三種稀疏模型
2.1 最小二乘支持向量機(jī)
2.2 簡化稀疏最小二乘支持向量機(jī)
2.3 L0-稀疏對(duì)偶支持向量機(jī)
2.4 L1-稀疏對(duì)偶支持向量機(jī)
3 基于Lasso的對(duì)偶稀疏支持向量機(jī)模型
3.1 基于Lasso的對(duì)偶稀疏支持向量機(jī)及L1罰參數(shù)的上界
3.2 大規(guī)模數(shù)據(jù)集的樣本篩選
4 模型應(yīng)用與數(shù)值實(shí)驗(yàn)
4.1 UCI數(shù)據(jù)集的分類效果
4.1.1 數(shù)據(jù)處理及參數(shù)選擇
4.1.2 L1罰參數(shù)上界的數(shù)值驗(yàn)證
4.1.3 分類實(shí)驗(yàn)結(jié)果
4.2 雙曲螺旋樣本的分類效果
4.2.1 數(shù)據(jù)處理及參數(shù)選擇
4.2.2 分類實(shí)驗(yàn)結(jié)果
4.3 預(yù)處理后的大規(guī)模數(shù)據(jù)集Waveform上的分類效果
4.3.1 數(shù)據(jù)處理及參數(shù)選擇
4.3.2 分類實(shí)驗(yàn)結(jié)果
4.4 博文內(nèi)容判別
4.4.1 數(shù)據(jù)處理及參數(shù)選擇
4.4.2 博文內(nèi)容判別實(shí)驗(yàn)結(jié)果
結(jié)論與展望
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝
本文編號(hào):3777250
本文鏈接:http://sikaile.net/guanlilunwen/tongjijuecelunwen/3777250.html
最近更新
教材專著