基于組合凸線器的多類分類方法研究
發(fā)布時(shí)間:2021-03-10 03:36
隨著互聯(lián)網(wǎng)、計(jì)算機(jī)技術(shù)的快速發(fā)展以及智能手機(jī)的普及,人們生活更加數(shù)字化和智能化,與此同時(shí),各種文本或日志數(shù)據(jù)等在爆炸式地增長。如何快速地對(duì)這些數(shù)據(jù)進(jìn)行有效分類并從中挖掘出有用的價(jià)值信息逐漸成為人們?nèi)找骊P(guān)心的問題。自動(dòng)分類技術(shù)已經(jīng)成為機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn),因?yàn)樗芸焖俚剡M(jìn)行分類,減少人工進(jìn)行分類的成本,提高工作效率。針對(duì)樣本類別數(shù)較少、數(shù)據(jù)量較大的多類分類問題,提出了一種基于1-a-1和組合凸線器的多類分類算法。該算法對(duì)于有N個(gè)類別的訓(xùn)練樣本,用1-a-1的方法訓(xùn)練N(N-1)/2個(gè)組合凸線器二分類器,對(duì)于每一個(gè)待分類樣本,用所有的二分類器去進(jìn)行分類,最終根據(jù)每個(gè)類別所得的票數(shù)決定所屬類別。在Reuters 21578數(shù)據(jù)集上進(jìn)行的分類實(shí)驗(yàn)結(jié)果表明,相對(duì)于支持向量機(jī)1-a-1算法,本文算法在保證分類精度和訓(xùn)練速度的同時(shí),分類速度有了顯著提高。針對(duì)樣本類別數(shù)較多、數(shù)據(jù)量較少的多類分類問題,提出了一種基于1-a-r和組合凸顯器方法的多類分類算法。該算法對(duì)于有N個(gè)類別的訓(xùn)練樣本,采用一對(duì)其余的方法訓(xùn)練N個(gè)組合凸線器二分類器,對(duì)于每一個(gè)待分類樣本,用所有的二分類器去進(jìn)行分類,最終根據(jù)樣本的票數(shù)...
【文章來源】:渤海大學(xué)遼寧省
【文章頁數(shù)】:52 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2-1最優(yōu)超平面??
圖2-2軟間隔SVMs的幾何解釋??
?潮海大學(xué)碩士學(xué)位論文???一個(gè)高維特征空間,在低維樣本空間中需要學(xué)習(xí)的是超曲面模型,但是映射到高維空間后,??需要學(xué)習(xí)的是超平面模型。如圖2-3所示。這樣,分類學(xué)習(xí)任務(wù)通過在特征空間中求解線??性支持向量機(jī)就可以完成。??樣本空間?個(gè)Z3?特征空間??XI????'滅、?.??參?春?21????????x2?Z2,,??圖2-3樣本空間到特征空間的非線性映射??線性支持向量機(jī)式(2-10)的對(duì)偶問題為??j?N?N?N??min??a?^?/=i?y=i?/=i??N??s-t.?'少,=0??/=1??0?<??,?<?C?,?i?=?U,…,N?(2-15)??求解該對(duì)偶問題的最優(yōu)解a*?=?和w_?=乞,選擇a*的一個(gè)分量a;適合??條件0<〇;)<。,計(jì)算^/=>^-藝>|乂(\:,.1,),分離超平面濃'.1:?+?^/?=?0等價(jià)于??Za,V,(x.x,)?+?Z>*=0?(2-16)??/=1??和分類決策函數(shù);(:?+?/:/)等價(jià)于??〔N?、??f(x)?=?sign?YJa'y,{x'x,)+b,■?(2_17)??V,=i?7??觀察可知,在式(2-15)的對(duì)偶問題中的目標(biāo)函數(shù)和式(2-17)的決策函數(shù)中,都僅僅是??涉及到輸入樣本之間的內(nèi)積計(jì)算,因此,如果用核函數(shù)XU,x,)?=?)??)來代替內(nèi)積,??上述對(duì)偶問題中的目標(biāo)函數(shù)就變成??min?(2_18)??a?^?;=1?y=l?/=1??同樣分類決策函數(shù)變成??11??
【參考文獻(xiàn)】:
期刊論文
[1]Hadamard糾錯(cuò)碼結(jié)合支持向量機(jī)在多分類問題中的應(yīng)用[J]. 尹安容,謝湘,匡鏡明. 電子學(xué)報(bào). 2008(01)
[2]貝葉斯學(xué)習(xí)、貝葉斯網(wǎng)絡(luò)與數(shù)據(jù)采掘[J]. 林士敏,田鳳占,陸玉昌. 計(jì)算機(jī)科學(xué). 2000(10)
[3]文語轉(zhuǎn)換系統(tǒng)中基于語料的漢語自動(dòng)分詞研究[J]. 應(yīng)志偉,柴佩琪,陳其暉. 計(jì)算機(jī)應(yīng)用. 2000(02)
博士論文
[1]組合凸線器框架下分片線性分類器的構(gòu)造方法研究[D]. 冷強(qiáng)奎.北京工業(yè)大學(xué) 2015
[2]基于支持向量機(jī)的文本分類算法研究[D]. 秦玉平.大連理工大學(xué) 2008
本文編號(hào):3073987
【文章來源】:渤海大學(xué)遼寧省
【文章頁數(shù)】:52 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2-1最優(yōu)超平面??
圖2-2軟間隔SVMs的幾何解釋??
?潮海大學(xué)碩士學(xué)位論文???一個(gè)高維特征空間,在低維樣本空間中需要學(xué)習(xí)的是超曲面模型,但是映射到高維空間后,??需要學(xué)習(xí)的是超平面模型。如圖2-3所示。這樣,分類學(xué)習(xí)任務(wù)通過在特征空間中求解線??性支持向量機(jī)就可以完成。??樣本空間?個(gè)Z3?特征空間??XI????'滅、?.??參?春?21????????x2?Z2,,??圖2-3樣本空間到特征空間的非線性映射??線性支持向量機(jī)式(2-10)的對(duì)偶問題為??j?N?N?N??min??a?^?/=i?y=i?/=i??N??s-t.?'少,=0??/=1??0?<??,?<?C?,?i?=?U,…,N?(2-15)??求解該對(duì)偶問題的最優(yōu)解a*?=?和w_?=乞,選擇a*的一個(gè)分量a;適合??條件0<〇;)<。,計(jì)算^/=>^-藝>|乂(\:,.1,),分離超平面濃'.1:?+?^/?=?0等價(jià)于??Za,V,(x.x,)?+?Z>*=0?(2-16)??/=1??和分類決策函數(shù);(:?+?/:/)等價(jià)于??〔N?、??f(x)?=?sign?YJa'y,{x'x,)+b,■?(2_17)??V,=i?7??觀察可知,在式(2-15)的對(duì)偶問題中的目標(biāo)函數(shù)和式(2-17)的決策函數(shù)中,都僅僅是??涉及到輸入樣本之間的內(nèi)積計(jì)算,因此,如果用核函數(shù)XU,x,)?=?)??)來代替內(nèi)積,??上述對(duì)偶問題中的目標(biāo)函數(shù)就變成??min?(2_18)??a?^?;=1?y=l?/=1??同樣分類決策函數(shù)變成??11??
【參考文獻(xiàn)】:
期刊論文
[1]Hadamard糾錯(cuò)碼結(jié)合支持向量機(jī)在多分類問題中的應(yīng)用[J]. 尹安容,謝湘,匡鏡明. 電子學(xué)報(bào). 2008(01)
[2]貝葉斯學(xué)習(xí)、貝葉斯網(wǎng)絡(luò)與數(shù)據(jù)采掘[J]. 林士敏,田鳳占,陸玉昌. 計(jì)算機(jī)科學(xué). 2000(10)
[3]文語轉(zhuǎn)換系統(tǒng)中基于語料的漢語自動(dòng)分詞研究[J]. 應(yīng)志偉,柴佩琪,陳其暉. 計(jì)算機(jī)應(yīng)用. 2000(02)
博士論文
[1]組合凸線器框架下分片線性分類器的構(gòu)造方法研究[D]. 冷強(qiáng)奎.北京工業(yè)大學(xué) 2015
[2]基于支持向量機(jī)的文本分類算法研究[D]. 秦玉平.大連理工大學(xué) 2008
本文編號(hào):3073987
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3073987.html
最近更新
教材專著