基于變分不等式的支持向量機算法研究
發(fā)布時間:2017-05-01 14:08
本文關鍵詞:基于變分不等式的支持向量機算法研究,由筆耕文化傳播整理發(fā)布。
【摘要】:支持向量機算法是當下機器學習的研究熱點之一,它在處理數(shù)據(jù)分類問題時具有其獨到的優(yōu)勢,并且能夠推廣應用到其他的機器學習問題中。傳統(tǒng)的支持向量機算法在處理大規(guī)模數(shù)據(jù)分類問題時,有時會出現(xiàn)訓練時間過長或是運算量過大等問題,這也是算法需要進行優(yōu)化的原因之一。本文將支持向量機中的凸優(yōu)化問題轉(zhuǎn)化成等價的變分不等式問題進行求解,并基于定制鄰近點算法、交替方向法、慣性臨近點算法以及帶交替步長的慣性鄰近點算法這四種算法的思想,分別構造了四種新的優(yōu)化迭代算法對等價的變分不等式進行求解。本文證明了這四種算法均能夠收斂到變分不等式的解,并且都具有穩(wěn)定的o(1/k)的收斂速度。文章最后采用了UCI上的多組數(shù)據(jù)集進行數(shù)值實驗,選擇了廣泛被使用的支持向量機序列最小化(SMO)算法進行對比實驗,證明了這四種改進的算法具有更好的實際效果。
【關鍵詞】:變分不等式 支持向量機 鄰近點算法 交替方向法 慣性鄰近點算法
【學位授予單位】:南京大學
【學位級別】:碩士
【學位授予年份】:2016
【分類號】:TP181
【目錄】:
- 摘要6-7
- Abstract7-8
- 第一章 引言8-12
- 1.1 支持向量機問題介紹8-10
- 1.2 支持向量機研究現(xiàn)狀10
- 1.3 序列最小化算法10-11
- 1.4 本文工作11-12
- 第二章 變分不等式問題12-14
- 2.1 零空間法簡化優(yōu)化問題12-13
- 2.2 支持向量機中的變分不等式問題13-14
- 第三章 算法描述及收斂性分析14-25
- 3.1 定制鄰近點算法14-17
- 3.2 交替方向乘子算法17-19
- 3.3 慣性鄰近點算法19-25
- 3.3.1 一般的慣性鄰近點算法19-20
- 3.3.2 交替步長的慣性鄰近點算法20-21
- 3.3.3 慣性鄰近點算法解變分不等式21-25
- 第四章 算法實現(xiàn)25-30
- 4.1 基于CPPA的SVM算法25-26
- 4.2 基于ADMM的SVM算法26-27
- 4.3 基于IPPA的SVM算法27-28
- 4.4 基于交替步長IPPA的SVM算法28-30
- 第五章 數(shù)值實驗30-37
- 5.1 二維數(shù)據(jù)分類效果30-34
- 5.2 高維數(shù)據(jù)分類效果34-37
- 第六章 總結與展望37-38
- 參考文獻38-41
- 致謝41-42
【參考文獻】
中國期刊全文數(shù)據(jù)庫 前4條
1 馮昌;李子達;廖士中;;一種大規(guī)模支持向量機的高效求解算法[J];計算機科學;2015年09期
2 姚程寬;許建華;;雙正則化參數(shù)的L_2-SVM參數(shù)選擇[J];計算機工程與應用;2014年08期
3 CAI XingJu;GU GuoYong;HE BingSheng;YUAN XiaoMing;;A proximal point algorithm revisit on the alternating direction method of multipliers[J];Science China(Mathematics);2013年10期
4 ;Online LS-SVM for function estimation and classification[J];Journal of University of Science and Technology Beijing(English Edition);2003年05期
本文關鍵詞:基于變分不等式的支持向量機算法研究,,由筆耕文化傳播整理發(fā)布。
本文編號:339088
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/339088.html
最近更新
教材專著