本文關(guān)鍵詞：核矩陣近似的研究及其在支持向量機(jī)中的應(yīng)用，由筆耕文化傳播整理發(fā)布。

【摘要】：近年來,由于互聯(lián)網(wǎng)技術(shù)的快速發(fā)展,人工智能越來越受到人們的重視。然而由于數(shù)據(jù)的爆炸式增長,機(jī)器學(xué)習(xí)所面臨的問題規(guī)模也越來越大,大規(guī)模核矩陣的計算和存儲已經(jīng)成為了主要核方法如支持向量機(jī)泛化能力的主要瓶頸。針對這一問題,研究人員提出了各種方法對核矩陣進(jìn)行逼近。核矩陣近似算法的核心思想是用部分采樣取代所有的數(shù)據(jù)計算核矩陣,這樣就大大減少了所需要的時間和內(nèi)存空間,其中最簡單并且使用最多的就是Nystrom矩陣逼近方法。然而由于這種方法選取的樣本點是隨機(jī)抽樣的,因此不可避免對逼近誤差造成了較大影響。因此,研究者提出了一些改進(jìn)算法,如集成Nystrom,其主要思想為增加采樣點來減少誤差；同時,也有一些其他方法,將聚類的思路融入到Nystrom方法中,同時考慮了核矩陣的低秩結(jié)構(gòu)和聚類結(jié)構(gòu),如MEKA方法�？梢钥闯�,核矩陣近似方法的重點在于兩方面,一方面是如何取樣,另一方面是能否利用核矩陣的其他信息。因此,根據(jù)支持向量機(jī)的特點,將類標(biāo)信息和決策邊界信息作為核矩陣近似算法的參考依據(jù),以提高支持向量機(jī)的效率是一個值得嘗試的思路。本文詳細(xì)介紹了支持向量機(jī)的思想和原理,以及已有幾種主要的核矩陣近似方法,并且提出了一種基于協(xié)同聚類的Nystrom核矩陣近似算法,協(xié)同聚類是一種基于k-means聚類的算法,它可以在訓(xùn)練數(shù)據(jù)集中找到小規(guī)模最可能成為支持向量的樣本點。通過協(xié)同聚類方法,可以使原始Nystrom算法中選取的樣本點基本不丟失分類信息,這可以在保證分類精度基本不變的前提下,明顯提高支持向量機(jī)算法的學(xué)習(xí)效率。雖然相對于原始Nystrom算法,這種方法會使時間復(fù)雜度稍有上升,但是相對于原始Nystrom算法,這種方法也擁有更高的分類準(zhǔn)確率,基本與計算完整的核矩陣相當(dāng)。此外,本文也將MEKA核矩陣近似算法應(yīng)用于支持向量機(jī)中,利用類標(biāo)信息將樣本重新聚類,并且重新計算各角塊之間的關(guān)系,實驗表明這種算法可以明顯降低原始MEKA算法的時間復(fù)雜度。
【關(guān)鍵詞】：支持向量機(jī) 核矩陣近似 協(xié)同聚類
【學(xué)位授予單位】：北京交通大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2015
【分類號】：TP18;O151.21
【目錄】：

• 致謝5-6
• 摘要6-7
• ABSTRACT7-11
• 1 引言11-18
• 1.1 研究背景11-13
• 1.2 國內(nèi)外研究現(xiàn)狀13-15
• 1.2.1 支持向量機(jī)的研究14-15
• 1.2.2 核矩陣近似的研究15
• 1.3 問題的提出及研究意義15-16
• 1.4 論文主要工作16-17
• 1.5 本章小結(jié)17-18
• 2 支持向量機(jī)18-27
• 2.1 支持向量機(jī)理論基礎(chǔ)18-19
• 2.2 支持向量機(jī)原理19-22
• 2.3 線性不可分與核函數(shù)22-24
• 2.4 多核支持向量機(jī)24-26
• 2.5 本章小結(jié)26-27
• 3 核矩陣近似27-38
• 3.1 Nystrom核矩陣近似方法27-30
• 3.1.1 Nystrom方法近似特征函數(shù)27-28
• 3.1.2 Nystrom方法近似核矩陣28-30
• 3.2 幾種改進(jìn)的Nystrom核矩陣近似算法30-33
• 3.2.1 集成Nystrom算法(Ensemble Nystrom)30-31
• 3.2.2 利用隨機(jī)SVD的Nystrom算法31-33
• 3.3 MEKA核矩陣近似方法33-37
• 3.4 本章小結(jié)37-38
• 4 基于改進(jìn)核矩陣近似算法的支持向量機(jī)38-53
• 4.1 協(xié)同聚類38-45
• 4.1.1 聚類相關(guān)概念38-39
• 4.1.2 k-means聚類算法39-40
• 4.1.3 協(xié)同聚類算法40-45
• 4.2 基于協(xié)同聚類Nystrom算法的支持向量機(jī)45-48
• 4.2.1 協(xié)同聚類Nystrom算法45-46
• 4.2.2 算法實驗驗證46-48
• 4.3 基于類標(biāo)MEKA算法的支持向量機(jī)48-51
• 4.3.1 嵌入類標(biāo)信息的MEKA算法48-49
• 4.3.2 算法實驗驗證49-51
• 4.4 本章小結(jié)51-53
• 5 結(jié)論53-56
• 5.1 研究內(nèi)容總結(jié)53-54
• 5.2 對未來工作的展望54-56
• 參考文獻(xiàn)56-60
• 作者簡歷及攻讀碩士學(xué)位期間取得的研究成果60-62
• 學(xué)位論文數(shù)據(jù)集62

【相似文獻(xiàn)】

中國博士學(xué)位論文全文數(shù)據(jù)庫 前3條

1 門昌騫;基于矩陣近似的機(jī)器學(xué)習(xí)算法加速研究[D];山西大學(xué);2013年

2 劉松華;核矩陣低秩分解與核空間信息能度量研究及應(yīng)用[D];西安電子科技大學(xué);2011年

3 賈磊;核方法模型選擇與模型組合的譜方法[D];天津大學(xué);2010年

中國碩士學(xué)位論文全文數(shù)據(jù)庫 前3條

1 張宸鳴;核矩陣近似的研究及其在支持向量機(jī)中的應(yīng)用[D];北京交通大學(xué);2015年

2 介文博;基于多核學(xué)習(xí)的高性能核分類方法研究[D];華東理工大學(xué);2012年

3 陳鵬;圖像Sobel處理的FPGA多核矩陣實現(xiàn)[D];沈陽理工大學(xué);2013年

  本文關(guān)鍵詞：核矩陣近似的研究及其在支持向量機(jī)中的應(yīng)用，，由筆耕文化傳播整理發(fā)布。

本文編號：330221