本文關(guān)鍵詞：基于集合卡爾曼濾波的SVM參數(shù)優(yōu)化方法研究，，由筆耕文化傳播整理發(fā)布。

【摘要】：支持向量機(jī)(SVM)是常用的機(jī)器學(xué)習(xí)算法。實(shí)現(xiàn)性能最優(yōu)的SVM模型需要進(jìn)行參數(shù)優(yōu)化,這里的參數(shù)包括SVM算法的超參數(shù)、數(shù)據(jù)特征權(quán)重、訓(xùn)練過(guò)程中的Lagrange乘子,以及模型閾值。隨著數(shù)據(jù)規(guī)模增長(zhǎng),給SVM應(yīng)用帶來(lái)挑戰(zhàn)。為此,論文提出集合卡爾曼濾波(En KF)算法用于參數(shù)優(yōu)化和特征優(yōu)化,提高SVM優(yōu)化效率和模型性能,En KF算法主要用于地球科學(xué)領(lǐng)域的數(shù)據(jù)同化。同時(shí),根據(jù)SVM模型訓(xùn)練和參數(shù)優(yōu)化特點(diǎn),提出級(jí)聯(lián)式技術(shù)用于加速SVM在參數(shù)優(yōu)化過(guò)程中的模型訓(xùn)練。此外,論文以引力波噪聲事件分析為主要應(yīng)用對(duì)象,提出分層模型和ROC塊算法,提供SVM模型的分類性能。論文工作包括:(1)提出基于En KF的SVM超參數(shù)優(yōu)化方法。該方法包含多種優(yōu)化技術(shù),其中多集合用于避免局部最優(yōu),集合進(jìn)化用于擴(kuò)大搜索范圍,集合歸并算法用于提高集合表示能力,基于Householder變換的UR分解方法降低En KF計(jì)算開(kāi)銷。在此基礎(chǔ)上建立En KF優(yōu)化框架。實(shí)驗(yàn)結(jié)果表明,在限定參數(shù)采樣條件下,與現(xiàn)有的三種貝葉斯優(yōu)化算法比較,En KF方法優(yōu)化效果更好。(2)提出基于En KF的特征選擇和特征加權(quán)方法。針對(duì)高維空間,提出混合策略,采用過(guò)濾式技術(shù)進(jìn)行降維,并且指導(dǎo)集合生成,同時(shí)建立兩階段的集合進(jìn)化流程提高搜索效率。此外,En KF方法能夠同時(shí)處理參數(shù)優(yōu)化和特征優(yōu)化。實(shí)驗(yàn)結(jié)果表明,在限定參數(shù)采樣條件下,En KF方法能夠大大減少特征數(shù)量,同時(shí)在一些數(shù)據(jù)集上實(shí)現(xiàn)性能提升。(3)提出級(jí)聯(lián)式加速技術(shù)用于降低SVM在超參數(shù)優(yōu)化過(guò)程中的訓(xùn)練開(kāi)銷。該技術(shù)利用低效維度特性,在不同訓(xùn)練任務(wù)之間建立級(jí)聯(lián),將已有模型結(jié)果作為初始條件用于SVM模型訓(xùn)練,減少計(jì)算過(guò)程中工作集選擇。實(shí)驗(yàn)結(jié)果表明,在網(wǎng)格搜索中SVM的計(jì)算開(kāi)銷降低29.6%到84.5%,其它優(yōu)化方法中SVM的計(jì)算開(kāi)銷平均降低21.9%到62.7%。(4)提出SVM分層模型用于引力波噪聲事件分析。該應(yīng)用為代價(jià)敏感的二分類問(wèn)題。該模型基于非平衡樹(shù)結(jié)構(gòu),通過(guò)逐層分類對(duì)噪聲事件進(jìn)行識(shí)別。同時(shí),提出ROC塊算法用于模型閾值選擇和模型性能可視化。實(shí)驗(yàn)結(jié)果表明,在給定誤警條件下,分層模型能夠提高大約10%的識(shí)別性能。
【關(guān)鍵詞】：集合卡爾馬曼濾波 支持向量機(jī) 參數(shù)優(yōu)化 特征選擇 特征加權(quán) 分層模型 受試者工作特征曲線
【學(xué)位授予單位】：清華大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位授予年份】：2015
【分類號(hào)】：TP181
【目錄】：

• 摘要3-4
• Abstract4-10
• 第1章 引言10-23
• 1.1 研究背景10-19
• 1.1.1 支持向量機(jī)參數(shù)優(yōu)化10-13
• 1.1.2 參數(shù)優(yōu)化問(wèn)題描述13-14
• 1.1.3 引力波數(shù)據(jù)分析14-19
• 1.2 論文主要工作和組織結(jié)構(gòu)19-23
• 1.2.1 論文主要工作和創(chuàng)新點(diǎn)19-21
• 1.2.2 論文組織結(jié)構(gòu)21-23
• 第2章 背景技術(shù)23-49
• 2.1 支持向量機(jī)23-26
• 2.1.1 理論基礎(chǔ)23-25
• 2.1.2 訓(xùn)練算法25-26
• 2.2 參數(shù)優(yōu)化26-35
• 2.2.1 常用方法26-28
• 2.2.2 數(shù)值優(yōu)化方法28-31
• 2.2.3 智能優(yōu)化方法31-35
• 2.3 特征優(yōu)化35-39
• 2.3.1 特征選擇35-38
• 2.3.2 特征加權(quán)38-39
• 2.4 集合卡爾曼濾波39-49
• 2.4.1 經(jīng)典卡爾曼濾波原理40-43
• 2.4.2 擴(kuò)展卡爾曼濾波原理43-46
• 2.4.3 集合卡爾曼濾波原理46-49
• 第3章 一種基于集合卡爾曼濾波的參數(shù)優(yōu)化方法49-88
• 3.1 引言49-51
• 3.2 相關(guān)工作51-52
• 3.3 基于En KF的參數(shù)優(yōu)化方法52-58
• 3.3.1 現(xiàn)有方法的問(wèn)題52-54
• 3.3.2 方法論證54-55
• 3.3.3 方法定義55-58
• 3.4 基于En KF的參數(shù)優(yōu)化框架58-75
• 3.4.1 框架設(shè)計(jì)60-64
• 3.4.2 集合歸并算法64
• 3.4.3 計(jì)算優(yōu)化64-72
• 3.4.4 其它實(shí)現(xiàn)72-75
• 3.5 實(shí)驗(yàn)結(jié)果與分析75-86
• 3.5.1 SVM參數(shù)75-76
• 3.5.2 實(shí)驗(yàn)配置76-79
• 3.5.3 實(shí)驗(yàn)結(jié)果79-86
• 3.6 本章小結(jié)86-88
• 第4章 一種基于集合卡爾曼濾波的特征優(yōu)化方法88-111
• 4.1 引言88-90
• 4.2 相關(guān)工作90-92
• 4.3 基于En KF的特征優(yōu)化方法92-101
• 4.3.1 現(xiàn)有方法的不足92-93
• 4.3.2 方法定義93-96
• 4.3.3 優(yōu)化方案96-101
• 4.4 實(shí)驗(yàn)結(jié)果與分析101-109
• 4.4.1 實(shí)驗(yàn)配置101-102
• 4.4.2 性能比較102-107
• 4.4.3 過(guò)擬合問(wèn)題107-109
• 4.5 本章總結(jié)109-111
• 第5章 一種針對(duì)SVM參數(shù)優(yōu)化的加速技術(shù)111-133
• 5.1 引言111-112
• 5.2 背景技術(shù)112-117
• 5.2.1 SVM參數(shù)優(yōu)化112-114
• 5.2.2 SVM算法 優(yōu)化114-117
• 5.3 級(jí)聯(lián)式加速技術(shù)117-123
• 5.3.1 參數(shù)優(yōu)化特征117-119
• 5.3.2 兩個(gè)優(yōu)化問(wèn)題119-120
• 5.3.3 方法定義120-122
• 5.3.4 方法實(shí)現(xiàn)122-123
• 5.4 實(shí)驗(yàn)評(píng)測(cè)123-131
• 5.4.1 實(shí)驗(yàn)配置123-124
• 5.4.2 實(shí)驗(yàn)結(jié)果124-131
• 5.5 本章總結(jié)131-133
• 第6章 一種針對(duì)引力波噪聲事件分析的分層模型133-153
• 6.1 引言133-134
• 6.2 背景技術(shù)134-138
• 6.2.1 分層模型134-136
• 6.2.2 ROC曲線136-138
• 6.3 針對(duì)引力波數(shù)據(jù)的分層模型138-141
• 6.3.1 問(wèn)題描述138
• 6.3.2 方法定義138-140
• 6.3.3 實(shí)際應(yīng)用140-141
• 6.4 兩種性能度量技術(shù)141-144
• 6.4.1 特定AUC度 量141
• 6.4.2 ROC塊 算法141-144
• 6.5 實(shí)驗(yàn)結(jié)果與分析144-151
• 6.5.1 實(shí)驗(yàn)配置144-145
• 6.5.2 實(shí)驗(yàn)結(jié)果145-151
• 6.6 本章總結(jié)151-153
• 第7章 總結(jié)與展望153-156
• 7.1 論文總結(jié)153-154
• 7.2 工作展望154-156
• 參考文獻(xiàn)156-167
• 致謝167-169
• 個(gè)人簡(jiǎn)歷、在學(xué)期間發(fā)表的學(xué)術(shù)論文與研究成果169-170

【相似文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條

1 孫偉;周陽(yáng)花;奚茂龍;;非線性PID控制器參數(shù)優(yōu)化方法[J];計(jì)算機(jī)工程與應(yīng)用;2010年28期

2 謝攀;譚功全;張昌華;;一種簡(jiǎn)單的低階時(shí)滯過(guò)程PID參數(shù)優(yōu)化方法[J];自動(dòng)化儀表;2013年06期

3 張建;;PID控制參數(shù)優(yōu)化方法及基于MATLAB的仿真[J];信息通信;2013年02期

4 曾蓉;;基于MATLAB的PID參數(shù)優(yōu)化方法的比較[J];重慶電力高等�？茖W(xué)校學(xué)報(bào);2003年01期

5 門昌騫;王文劍;王平;;一種基于數(shù)據(jù)的核參數(shù)優(yōu)化方法[J];電腦開(kāi)發(fā)與應(yīng)用;2006年01期

6 裴玉玲;;基于免疫原理的控制器參數(shù)優(yōu)化方法(英文)[J];機(jī)床與液壓;2012年12期

7 鄭寇全;雷英杰;王睿;王毅;申曉勇;;基于BP算法的IFPN參數(shù)優(yōu)化方法[J];控制與決策;2013年12期

8 王佳;徐蔚鴻;;基于動(dòng)量粒子群的混合核SVM參數(shù)優(yōu)化方法[J];計(jì)算機(jī)應(yīng)用;2011年02期

9 孫春來(lái);;窄帶AMR參數(shù)優(yōu)化方法及對(duì)MOS的影響[J];移動(dòng)通信;2012年S2期

10 孫小丹;侯陽(yáng)青;;光譜異質(zhì)性參數(shù)優(yōu)化方法及其在QuickBird影像中的應(yīng)用[J];福建林業(yè)科技;2012年04期

中國(guó)博士學(xué)位論文全文數(shù)據(jù)庫(kù) 前2條

1 季穎生;基于集合卡爾曼濾波的SVM參數(shù)優(yōu)化方法研究[D];清華大學(xué);2015年

2 吳菁;基于虛擬加工車削參數(shù)優(yōu)化方法的研究[D];哈爾濱工業(yè)大學(xué);2009年

  本文關(guān)鍵詞：基于集合卡爾曼濾波的SVM參數(shù)優(yōu)化方法研究，由筆耕文化傳播整理發(fā)布。

本文編號(hào)：260068