基于L2P范數(shù)距離度量的算法魯棒性與稀疏性研究
發(fā)布時(shí)間:2020-12-22 04:41
傳統(tǒng)模式識(shí)別算法中距離度量往往是基于平方L2范數(shù)距離度量。而在實(shí)際應(yīng)用中平方L2范數(shù)距離度量往往會(huì)放大噪聲數(shù)據(jù)在整體數(shù)據(jù)距離中占比,導(dǎo)致算法的魯棒性較差;谄椒絃2范數(shù)距離度量魯棒性缺陷,本文在研究分類(lèi)和特征選擇問(wèn)題時(shí)分別采用L2P范數(shù)距離和L21范數(shù)距離度量來(lái)提高算法的魯棒性。孿生支持向量機(jī)(Twin Support Vector Machine)是一種特別適用于異或數(shù)據(jù)的有效分類(lèi)器,通常基于平方L2范數(shù)距離度量來(lái)研究該分類(lèi)器算法。由于平方L2范數(shù)距離度量容易受到異常值的影響,因此TWSVM需要一個(gè)更加有效的、魯棒性強(qiáng)的距離度量。由于L2P范數(shù)距離度量比L1范數(shù)距離度量或平方L2范數(shù)距離度量能夠更好地抑制異常值的影響,因此本文提出了一種基于L2P范數(shù)距離度量且魯棒性強(qiáng)的孿生支持向量機(jī)。由于目標(biāo)函數(shù)不光滑性和非凸性,基于L2P范數(shù)距離度量導(dǎo)致目標(biāo)問(wèn)題解決難度大。本文系統(tǒng)地給出一種有效的迭代算法,解決了基于L2P范數(shù)距離度量的目標(biāo)最小化問(wèn)題。理論研究證明了這個(gè)迭代算法基于L2P范數(shù)距離度量取代平方L2范數(shù)距離來(lái)改進(jìn)TWSVM是有效的。實(shí)驗(yàn)表明,基于L2P范數(shù)距離度量的孿生支持向量機(jī)(p...
【文章來(lái)源】:南京林業(yè)大學(xué)江蘇省
【文章頁(yè)數(shù)】:66 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
異或數(shù)據(jù)實(shí)驗(yàn)分類(lèi)平面
(傳統(tǒng) TWSVM) (L2P 范數(shù)距離 TWSVM)圖 4-2: 存在野值的異或數(shù)據(jù)實(shí)驗(yàn)分類(lèi)平面Fig.4-2 classfication surfaces on XOR data with noise data從圖 4-2 中我們可以發(fā)現(xiàn) TWSVM 和 L2P 范數(shù)距離 TWSVM 的分類(lèi)表平面在結(jié)構(gòu)的,并且 pTWSVM 提供了更好的分類(lèi)效果。 這證明 pTWSVM 比 TWSVM 更不值影響,并且具有良好的魯棒性。2 精度比較在本節(jié)中,本文收集了幾種不同的公共數(shù)據(jù)集,以比較不同分類(lèi)算法的性能。 了數(shù)據(jù)集的描述。表格 4-1 數(shù)據(jù)集描述Tab.4-1 Datasets Description數(shù)據(jù)集名稱(chēng) 樣本個(gè)數(shù) 樣本維度heart 270 13australian 690 14pima 768 8
圖 4-3:不同 p 值下算法正確率折線圖Fig.4-3: Accuracy line with different p4.4.4 算法收斂性分析由于該算法是一種迭代算法,因此算法的收斂性是一個(gè)重要的問(wèn)題。 在前文中,從理論上嚴(yán)格證明了它的收斂性,現(xiàn)在從實(shí)驗(yàn)中研究它的收斂性。 本文用以下幾個(gè)數(shù)據(jù)集進(jìn)行試驗(yàn),并且固定 p 值,算法在每次迭代中的目標(biāo)值繪制在圖 4-4 中。
【參考文獻(xiàn)】:
期刊論文
[1]基于流行學(xué)習(xí)LPP算法與Dijkstra算法結(jié)合的交通路徑控制研究[J]. 黃石青. 科技創(chuàng)新與應(yīng)用. 2013(31)
[2]多分類(lèi)最大間隔孿生支持向量機(jī)[J]. 高斌斌,王建軍. 西南師范大學(xué)學(xué)報(bào)(自然科學(xué)版). 2013(10)
[3]基于近似零范數(shù)的稀疏核主成成分算法[J]. 譚龍,何改云,潘靜,龐彥偉. 電子測(cè)量技術(shù). 2013(09)
[4]改進(jìn)孿生支持向量機(jī)的一種快速分類(lèi)算法[J]. 高斌斌,劉霞,李秋林. 重慶理工大學(xué)學(xué)報(bào)(自然科學(xué)). 2012(11)
[5]L1范數(shù)正則化SVM聚類(lèi)算法[J]. 劉建偉,李雙成,付捷,羅雄麟. 計(jì)算機(jī)工程. 2012(12)
[6]基于L1范數(shù)凸包數(shù)據(jù)描述的多觀測(cè)樣本分類(lèi)算法[J]. 胡正平,王玲麗. 電子與信息學(xué)報(bào). 2012(01)
[7]一種模糊加權(quán)的孿生支持向量機(jī)算法[J]. 李凱,李娜,盧霄霞. 計(jì)算機(jī)工程與應(yīng)用. 2013(04)
[8]基于簡(jiǎn)單特征值問(wèn)題的修正GEPSVM[J]. 徐金寶,業(yè)巧林,業(yè)寧. 計(jì)算機(jī)工程. 2009(21)
[9]數(shù)據(jù)降維方法分析與研究[J]. 吳曉婷,閆德勤. 計(jì)算機(jī)應(yīng)用研究. 2009(08)
[10]半監(jiān)督型廣義特征值最接近支持向量機(jī)[J]. 楊緒兵,潘志松,陳松燦. 模式識(shí)別與人工智能. 2009(03)
博士論文
[1]線性投影分析的理論與算法及其在特征抽取中的應(yīng)用研究[D]. 楊健.南京理工大學(xué) 2002
本文編號(hào):2931148
【文章來(lái)源】:南京林業(yè)大學(xué)江蘇省
【文章頁(yè)數(shù)】:66 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
異或數(shù)據(jù)實(shí)驗(yàn)分類(lèi)平面
(傳統(tǒng) TWSVM) (L2P 范數(shù)距離 TWSVM)圖 4-2: 存在野值的異或數(shù)據(jù)實(shí)驗(yàn)分類(lèi)平面Fig.4-2 classfication surfaces on XOR data with noise data從圖 4-2 中我們可以發(fā)現(xiàn) TWSVM 和 L2P 范數(shù)距離 TWSVM 的分類(lèi)表平面在結(jié)構(gòu)的,并且 pTWSVM 提供了更好的分類(lèi)效果。 這證明 pTWSVM 比 TWSVM 更不值影響,并且具有良好的魯棒性。2 精度比較在本節(jié)中,本文收集了幾種不同的公共數(shù)據(jù)集,以比較不同分類(lèi)算法的性能。 了數(shù)據(jù)集的描述。表格 4-1 數(shù)據(jù)集描述Tab.4-1 Datasets Description數(shù)據(jù)集名稱(chēng) 樣本個(gè)數(shù) 樣本維度heart 270 13australian 690 14pima 768 8
圖 4-3:不同 p 值下算法正確率折線圖Fig.4-3: Accuracy line with different p4.4.4 算法收斂性分析由于該算法是一種迭代算法,因此算法的收斂性是一個(gè)重要的問(wèn)題。 在前文中,從理論上嚴(yán)格證明了它的收斂性,現(xiàn)在從實(shí)驗(yàn)中研究它的收斂性。 本文用以下幾個(gè)數(shù)據(jù)集進(jìn)行試驗(yàn),并且固定 p 值,算法在每次迭代中的目標(biāo)值繪制在圖 4-4 中。
【參考文獻(xiàn)】:
期刊論文
[1]基于流行學(xué)習(xí)LPP算法與Dijkstra算法結(jié)合的交通路徑控制研究[J]. 黃石青. 科技創(chuàng)新與應(yīng)用. 2013(31)
[2]多分類(lèi)最大間隔孿生支持向量機(jī)[J]. 高斌斌,王建軍. 西南師范大學(xué)學(xué)報(bào)(自然科學(xué)版). 2013(10)
[3]基于近似零范數(shù)的稀疏核主成成分算法[J]. 譚龍,何改云,潘靜,龐彥偉. 電子測(cè)量技術(shù). 2013(09)
[4]改進(jìn)孿生支持向量機(jī)的一種快速分類(lèi)算法[J]. 高斌斌,劉霞,李秋林. 重慶理工大學(xué)學(xué)報(bào)(自然科學(xué)). 2012(11)
[5]L1范數(shù)正則化SVM聚類(lèi)算法[J]. 劉建偉,李雙成,付捷,羅雄麟. 計(jì)算機(jī)工程. 2012(12)
[6]基于L1范數(shù)凸包數(shù)據(jù)描述的多觀測(cè)樣本分類(lèi)算法[J]. 胡正平,王玲麗. 電子與信息學(xué)報(bào). 2012(01)
[7]一種模糊加權(quán)的孿生支持向量機(jī)算法[J]. 李凱,李娜,盧霄霞. 計(jì)算機(jī)工程與應(yīng)用. 2013(04)
[8]基于簡(jiǎn)單特征值問(wèn)題的修正GEPSVM[J]. 徐金寶,業(yè)巧林,業(yè)寧. 計(jì)算機(jī)工程. 2009(21)
[9]數(shù)據(jù)降維方法分析與研究[J]. 吳曉婷,閆德勤. 計(jì)算機(jī)應(yīng)用研究. 2009(08)
[10]半監(jiān)督型廣義特征值最接近支持向量機(jī)[J]. 楊緒兵,潘志松,陳松燦. 模式識(shí)別與人工智能. 2009(03)
博士論文
[1]線性投影分析的理論與算法及其在特征抽取中的應(yīng)用研究[D]. 楊健.南京理工大學(xué) 2002
本文編號(hào):2931148
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/2931148.html
最近更新
教材專(zhuān)著