【摘要】：支持向量機(jī)作為數(shù)據(jù)挖掘十大經(jīng)典算法之一,能在理論上解出全局最優(yōu)解,在解決小規(guī)模、非線性及高維度數(shù)據(jù)問題中效果顯著,至今仍廣受學(xué)術(shù)界和工業(yè)界的關(guān)注。在實(shí)際使用過程中,支持向量機(jī)中一個(gè)關(guān)鍵的問題是需要人工選定模型超參數(shù),該選擇對模型效果影響很大。常用的參數(shù)選擇算法是網(wǎng)格搜索,但執(zhí)行效率比較低。此外,在參數(shù)選擇中常常需要評估不同參數(shù)下支持向量機(jī)模型的優(yōu)劣。常用的模型選擇算法是交叉驗(yàn)證,然而針對支持向量機(jī)的交叉驗(yàn)證過程比較耗時(shí)。為此,本文針對支持向量機(jī)的模型選擇和參數(shù)選擇過程分別提出了對應(yīng)的優(yōu)化算法。針對模型選擇過程,我們提出了優(yōu)化交叉驗(yàn)證算法的Alpha Seeding算法。針對參數(shù)選擇過程,我們提出了優(yōu)化網(wǎng)格搜索算法的Warm Start算法。具體說來文本的主要工作包括如下五點(diǎn):1)本文對支持向量機(jī)的基礎(chǔ)知識和理論進(jìn)行了詳細(xì)介紹,并對已有的基于支持向量機(jī)的模型選擇和參數(shù)選擇算法做了整理和分析。2)提出了支持向量機(jī)模型選擇的Alpha Seeding算法,并在此算法基礎(chǔ)上設(shè)計(jì)了三個(gè)不同的優(yōu)化策略,即文中提到的ATO,MIR和SIR。3)提出了支持向量機(jī)參數(shù)選擇的Warm Start算法,并在此算法基礎(chǔ)上設(shè)計(jì)了OVA和PUA兩種不同的優(yōu)化策略,為了進(jìn)一步加速參數(shù)選擇過程,我們實(shí)現(xiàn)了WarmStart的GPU版本。4)對提出的Alpha Seeding算法和Warm Start算法做了一定的理論分析,說明算法的科學(xué)合理性。5)最后,通過設(shè)計(jì)多組對比實(shí)驗(yàn),在算法效率、迭代次數(shù)、能處理的數(shù)據(jù)規(guī)模等角度證實(shí)了Alpha Seeding和Warm Start算法的可用性和有效性。
【學(xué)位授予單位】：華南理工大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2018
【分類號】：TP181
【圖文】：

來表示，即該超平面由法向由正例還是負(fù)例構(gòu)成的邊界，其到超平大，我們就需要正負(fù)例邊界之間的間隔等價(jià)于最小化 ，考慮到樣本點(diǎn)可以轉(zhuǎn)化成一個(gè)典型的二次規(guī)劃問題， ( ) ≥ 看出，如果訓(xùn)練數(shù)據(jù)集是線性可分的。由于利用分類誤差最小化策略求超平解出最優(yōu)且唯一的超平面。

第三章 基于 Alpha Seeding 的支持向量機(jī)交叉驗(yàn)證優(yōu)化條件。接著我們仔細(xì)觀察一下交叉驗(yàn)證流程，我們用 折交叉驗(yàn)證為例，如圖 3-1 中所示。 折交叉驗(yàn)證將數(shù)據(jù)集均勻分成 份，為了選擇出一個(gè)較好的模型，我著訓(xùn)練 個(gè)模型，然后評估訓(xùn)練出來的這 個(gè)模型。在每一輪訓(xùn)練中，依次選擇數(shù)據(jù)作為測試集 ，同時(shí)其余( )份數(shù)據(jù)構(gòu)成訓(xùn)練集 ，用訓(xùn)練集 訓(xùn)練模試集 來評估該模型的性能。

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 江少杰;寧紀(jì)鋒;李云松;;加權(quán)間隔結(jié)構(gòu)化支持向量機(jī)目標(biāo)跟蹤算法[J];中國圖象圖形學(xué)報(bào);2017年09期

2 李娜;孫樂;胡一楠;李笑;王亞南;;模糊型支持向量機(jī)及其在入侵檢測中的應(yīng)用[J];科技創(chuàng)新與應(yīng)用;2018年11期

3 邵元海;楊凱麗;劉明增;王震;李春娜;陳偉杰;;從支持向量機(jī)到非平行支持向量機(jī)[J];運(yùn)籌學(xué)學(xué)報(bào);2018年02期

4 高欽姣;張勝剛;賈曉薇;;基于支持向量機(jī)的股票價(jià)格預(yù)測模型研究與應(yīng)用[J];課程教育研究;2016年28期

5 林香亮;袁瑞;孫玉秋;王超;陳長勝;;支持向量機(jī)的基本理論和研究進(jìn)展[J];長江大學(xué)學(xué)報(bào)(自科版);2018年17期

6 安悅tD;丁世飛;胡繼普;;孿生支持向量機(jī)綜述[J];計(jì)算機(jī)科學(xué);2018年11期

7 梁武;蘇燕;;一種新的基于類內(nèi)不平衡數(shù)據(jù)學(xué)習(xí)支持向量機(jī)算法[J];科技通報(bào);2017年09期

8 吳青;梁勃;;分段熵光滑支持向量機(jī)性能研究[J];計(jì)算機(jī)工程與設(shè)計(jì);2015年08期

9 牛r

本文編號：2722279