線性判別分析與多平面支持向量機魯棒模型研究
發(fā)布時間:2023-05-31 21:18
線性判別分析(Linear Discriminant Analysis,LDA)和多平面支持向量機(Multisurface Support Vector Machine,MSVM)作為最有效的特征提取與支持向量機分類器之一,已經取得了長足的發(fā)展。然而不論是LDA還是MSVM,其目標函數均采用平方L2-范數作為距離度量。由于平方操作容易夸大異常值的影響,會使得投影偏離于理想的方向,進而降低了模型的分類性能。近幾年,雖然有研究人員提出了許多魯棒的LDA和MSVM方法,但仍然無法保證模型足夠的魯棒判別能力。為了緩解此問題,本文重點研究幾種經典的魯棒LDA和MSVM方法的工作機理,并通過分析它們的不足,提出了三種新穎的LDA和MSVM方法,旨在進一步提高模型的魯棒性與泛化能力。本文主要工作概括如下:1)鑒于L1-范數非貪婪線性判別分析(NLDA-L1)算法的優(yōu)異表現(xiàn),在其基礎上進一步提出了一種靈活非貪婪魯棒判別分析(NLDA-Lp)算法。具體來說,它不僅保持了NLDAL1非貪婪求解的優(yōu)點,而且利用Lp與Lq-范數分別對類內距離與類間距離進行度量,改善了算法的魯棒性和靈活性。同時,還設計了一個...
【文章頁數】:73 頁
【學位級別】:碩士
【文章目錄】:
致謝
摘要
abstract
第一章 緒論
1.1 研究背景與意義
1.2 國內外研究現(xiàn)狀
1.2.1 特征提取
1.2.2 多平面支持向量機
1.3 本文主要工作及創(chuàng)新點
1.4 本文結構安排
第二章 相關工作簡述
2.1 特征提取
2.1.1 主成分分析(PCA)
2.1.2 線性判別分析(LDA)
2.1.3 基于L1-范數的線性判別分析(LDA-L1)
2.1.4 基于L1-范數的非貪婪線性判別分析(NLDA-L1)
2.2 多平面支持向量機
2.2.1 基于廣義特征值的近似支持向量機(GEPSVM)
2.2.2 對支持向量機(TSVM)
2.2.3 增強型多投影支持向量機(EMVSVM)
2.2.4 基于L1-范數的投影對支持向量機(TPSVM-L1)
2.3 本章小結
第三章 靈活非貪婪魯棒線性判別分析
3.1 NLDA-Lp的目標函數及求解過程
3.2 收斂性證明
3.3 實驗與結果分析
3.4 本章小結
第四章 基于L2,1-范數的多權向量投影支持向量機
4.1 范數定義
4.2 L2,1-EMVSVM的目標函數及求解過程
4.3 收斂性證明
4.4 實驗與結果分析
4.5 本章小結
第五章 靈活魯棒雙邊對支持向量機
5.1 基于Pinball損失的對支持向量機(Pin-TSVM)
5.2 非平行支持向量機(NSVM)
5.3 最佳擬合超平面分類器(BFHC)
5.4 FRTSVM的目標函數及求解過程
5.5 收斂性證明
5.6 實驗與結果分析
5.7 本章小結
第六章 結束語
6.1 總結
6.2 未來工作展望
攻讀學位期間研究成果及發(fā)表的學術論文
參考文獻
本文編號:3826019
【文章頁數】:73 頁
【學位級別】:碩士
【文章目錄】:
致謝
摘要
abstract
第一章 緒論
1.1 研究背景與意義
1.2 國內外研究現(xiàn)狀
1.2.1 特征提取
1.2.2 多平面支持向量機
1.3 本文主要工作及創(chuàng)新點
1.4 本文結構安排
第二章 相關工作簡述
2.1 特征提取
2.1.1 主成分分析(PCA)
2.1.2 線性判別分析(LDA)
2.1.3 基于L1-范數的線性判別分析(LDA-L1)
2.1.4 基于L1-范數的非貪婪線性判別分析(NLDA-L1)
2.2 多平面支持向量機
2.2.1 基于廣義特征值的近似支持向量機(GEPSVM)
2.2.2 對支持向量機(TSVM)
2.2.3 增強型多投影支持向量機(EMVSVM)
2.2.4 基于L1-范數的投影對支持向量機(TPSVM-L1)
2.3 本章小結
第三章 靈活非貪婪魯棒線性判別分析
3.1 NLDA-Lp的目標函數及求解過程
3.2 收斂性證明
3.3 實驗與結果分析
3.4 本章小結
第四章 基于L2,1-范數的多權向量投影支持向量機
4.1 范數定義
4.2 L2,1-EMVSVM的目標函數及求解過程
4.3 收斂性證明
4.4 實驗與結果分析
4.5 本章小結
第五章 靈活魯棒雙邊對支持向量機
5.1 基于Pinball損失的對支持向量機(Pin-TSVM)
5.2 非平行支持向量機(NSVM)
5.3 最佳擬合超平面分類器(BFHC)
5.4 FRTSVM的目標函數及求解過程
5.5 收斂性證明
5.6 實驗與結果分析
5.7 本章小結
第六章 結束語
6.1 總結
6.2 未來工作展望
攻讀學位期間研究成果及發(fā)表的學術論文
參考文獻
本文編號:3826019
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3826019.html