基于Lasso的對偶稀疏支持向量機
發(fā)布時間:2023-04-01 13:46
支持向量機(Support Vector Machine,SVM)是Vapnik等人提出的一種以統(tǒng)計學(xué)習(xí)理論為基礎(chǔ)、以解決有限樣本為目標的機器學(xué)習(xí)新方法,因其泛化能力強等特點而廣泛使用.通過轉(zhuǎn)化SVM的目標函數(shù)、優(yōu)化等式約束,可將其簡化為最小二乘支持向量機(Least Squares SVM,LSSVM).這一改進有效的降低了計算復(fù)雜度,但是LSSVM使得幾乎所有的樣本點都作為支持向量參與計算,解向量稀疏性的喪失將影響分類速度.因此,LSSVM模型的稀疏性問題逐漸被大家關(guān)注并研究.目前已出現(xiàn)一些稀疏化方法,包括L0和L1稀疏化方法,但如何高效的實現(xiàn)解向量的稀疏性仍是需要進一步研究的問題;同時,模型中罰參數(shù)的選擇問題也是很有價值的一個研究方向.本文考慮了分類問題的對偶稀疏支持向量機模型,理論上首次給出了該分類模型中L1-罰參數(shù)選擇的上界.此外,對大規(guī)模數(shù)據(jù)集給出了一種新的樣本篩選方法,該方法適用于類中心連線與分類超平面較為垂直的情況.最后,利用UCI數(shù)據(jù)庫中的5個數(shù)據(jù)集及雙曲螺旋樣本完成了初步的數(shù)值實驗,并將其應(yīng)用到了博文...
【文章頁數(shù)】:47 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
Abstract
1 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 文本分類研究現(xiàn)狀
1.2.2 SVM與LSSVM研究現(xiàn)狀
1.3 論文主要研究內(nèi)容及結(jié)構(gòu)安排
2 最小二乘支持向量機及三種稀疏模型
2.1 最小二乘支持向量機
2.2 簡化稀疏最小二乘支持向量機
2.3 L0-稀疏對偶支持向量機
2.4 L1-稀疏對偶支持向量機
3 基于Lasso的對偶稀疏支持向量機模型
3.1 基于Lasso的對偶稀疏支持向量機及L1罰參數(shù)的上界
3.2 大規(guī)模數(shù)據(jù)集的樣本篩選
4 模型應(yīng)用與數(shù)值實驗
4.1 UCI數(shù)據(jù)集的分類效果
4.1.1 數(shù)據(jù)處理及參數(shù)選擇
4.1.2 L1罰參數(shù)上界的數(shù)值驗證
4.1.3 分類實驗結(jié)果
4.2 雙曲螺旋樣本的分類效果
4.2.1 數(shù)據(jù)處理及參數(shù)選擇
4.2.2 分類實驗結(jié)果
4.3 預(yù)處理后的大規(guī)模數(shù)據(jù)集Waveform上的分類效果
4.3.1 數(shù)據(jù)處理及參數(shù)選擇
4.3.2 分類實驗結(jié)果
4.4 博文內(nèi)容判別
4.4.1 數(shù)據(jù)處理及參數(shù)選擇
4.4.2 博文內(nèi)容判別實驗結(jié)果
結(jié)論與展望
參考文獻
攻讀碩士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝
本文編號:3777250
【文章頁數(shù)】:47 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
Abstract
1 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 文本分類研究現(xiàn)狀
1.2.2 SVM與LSSVM研究現(xiàn)狀
1.3 論文主要研究內(nèi)容及結(jié)構(gòu)安排
2 最小二乘支持向量機及三種稀疏模型
2.1 最小二乘支持向量機
2.2 簡化稀疏最小二乘支持向量機
2.3 L0-稀疏對偶支持向量機
2.4 L1-稀疏對偶支持向量機
3 基于Lasso的對偶稀疏支持向量機模型
3.1 基于Lasso的對偶稀疏支持向量機及L1罰參數(shù)的上界
3.2 大規(guī)模數(shù)據(jù)集的樣本篩選
4 模型應(yīng)用與數(shù)值實驗
4.1 UCI數(shù)據(jù)集的分類效果
4.1.1 數(shù)據(jù)處理及參數(shù)選擇
4.1.2 L1罰參數(shù)上界的數(shù)值驗證
4.1.3 分類實驗結(jié)果
4.2 雙曲螺旋樣本的分類效果
4.2.1 數(shù)據(jù)處理及參數(shù)選擇
4.2.2 分類實驗結(jié)果
4.3 預(yù)處理后的大規(guī)模數(shù)據(jù)集Waveform上的分類效果
4.3.1 數(shù)據(jù)處理及參數(shù)選擇
4.3.2 分類實驗結(jié)果
4.4 博文內(nèi)容判別
4.4.1 數(shù)據(jù)處理及參數(shù)選擇
4.4.2 博文內(nèi)容判別實驗結(jié)果
結(jié)論與展望
參考文獻
攻讀碩士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝
本文編號:3777250
本文鏈接:http://sikaile.net/guanlilunwen/tongjijuecelunwen/3777250.html
最近更新
教材專著