作為一種最主要的機(jī)器學(xué)習(xí)技術(shù),核方法提供了一個(gè)強(qiáng)大且統(tǒng)一的學(xué)習(xí)框架。它使得研究者專注于算法設(shè)計(jì)而無(wú)需考慮數(shù)據(jù)本身的屬性,如字符串、向量、文本、圖等。正因?yàn)榫哂写藘?yōu)點(diǎn),核方法被廣泛應(yīng)用于不同的學(xué)習(xí)任務(wù)中,如分類、回歸、聚類、排序等。核方法的性能極大地依賴于核及其參數(shù)的選擇。如何選擇核(核矩陣)及其參數(shù)仍然是一個(gè)開放性的問題。因此,對(duì)核算法的探索研究有著極其重要的理論和應(yīng)用價(jià)值。本文將每個(gè)核矩陣視為一個(gè)視圖,主要工作集中于設(shè)計(jì)有效的多視圖聚類算法以提高聚類性能,其貢獻(xiàn)可以概括為如下四個(gè)方面:1.提出了基于矩陣范數(shù)導(dǎo)出正則化的多視圖聚類算法。它通過(guò)衡量每一對(duì)視圖之間的相關(guān)性來(lái)減少被選中核的冗余并同時(shí)增加其多樣性。我們算法也提供了嵌入矩陣范數(shù)導(dǎo)出正則化方法的理論解釋,而且本文提出的算法通過(guò)針對(duì)給定的聚類任務(wù)設(shè)計(jì)合適的矩陣范數(shù)導(dǎo)出正則化項(xiàng)即可很容易地實(shí)現(xiàn)擴(kuò)展。提出了一種有效的算法以解決合成優(yōu)化問題并證明了其收斂性。我們?cè)谖鍌�(gè)多視圖學(xué)習(xí)標(biāo)準(zhǔn)數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn),結(jié)果表明本文算法可以有效地提高多視圖K均值算法的性能,在所有測(cè)試數(shù)據(jù)集上都獲得了比當(dāng)前最佳算法更好的效果,這也驗(yàn)證了嵌入矩陣范數(shù)導(dǎo)出正則化項(xiàng)的有效性和有用性。2.提出了一種最優(yōu)的鄰居核聚類算法來(lái)增強(qiáng)所學(xué)最優(yōu)核表示能力。本文提出的算法允許最優(yōu)核落在其鄰域內(nèi),而并不嚴(yán)格要求它是基核的線性組合。這樣我們的算法可以有效地?cái)U(kuò)大最優(yōu)核的選擇區(qū)域,因此相比于傳統(tǒng)方法可以為聚類找到一個(gè)更合適的核。另外,從理論上證明了我們算法學(xué)習(xí)得到的最優(yōu)核同時(shí)依賴于基核的線性組合和之前迭代獲得的聚類結(jié)果。這表明我們的算法能夠增強(qiáng)最優(yōu)核和自動(dòng)聚類之間的聯(lián)系,這兩個(gè)學(xué)習(xí)過(guò)程相互平衡從而獲得更好地聚類效果。針對(duì)提出的最優(yōu)鄰居多核聚類算法,我們?cè)O(shè)計(jì)了其優(yōu)化目標(biāo)函數(shù),同時(shí)提出解決優(yōu)化問題的有效方法,并證明其是收斂的。多個(gè)公共數(shù)據(jù)集和醫(yī)學(xué)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果驗(yàn)證了提出的最優(yōu)鄰居核學(xué)習(xí)算法的有效性和優(yōu)越性。3.提出了一種缺失多視圖K-均值算法。該算法能夠?qū)⑻钛a(bǔ)和聚類融合成一個(gè)統(tǒng)一的優(yōu)化程序。在我們的算法中,每一輪迭代的聚類結(jié)果將指引缺失核元素的填補(bǔ),這將用于后續(xù)進(jìn)一步的聚類,這兩個(gè)流程交替進(jìn)行直至收斂。這樣填補(bǔ)和聚類過(guò)程可以無(wú)縫連接,從而達(dá)到最佳的聚類效果。我們也觀察到這種算法沒有充分考慮到每個(gè)視圖的填充可以從其它核矩陣收益,雖然它們可能是不完整的。隨后,我們通過(guò)缺失核矩陣間的相互填充進(jìn)一步改善了所提出的確實(shí)核的K-均值算法。所提缺失核的多核聚類算法的目標(biāo)函數(shù)經(jīng)過(guò)精心設(shè)計(jì),提出兩種三步交替優(yōu)化方法來(lái)解決兩個(gè)優(yōu)化問題。在13個(gè)多核學(xué)習(xí)數(shù)據(jù)集上評(píng)估了我們所提算法的性能,實(shí)驗(yàn)表明我們提出的存在缺失核情況下的多核K-均值算法明顯好于現(xiàn)有現(xiàn)有兩階段填補(bǔ)方法,在缺失率高時(shí)的改善效果更為明顯。同時(shí),我們提出的另一個(gè)衍生算法,即帶有互填充的缺失核多核聚類算法,進(jìn)一步改善了缺失核多核聚類算法。多個(gè)公共數(shù)據(jù)集和醫(yī)學(xué)數(shù)據(jù)集上的分類結(jié)果驗(yàn)證了該算法的有效性。而且,實(shí)驗(yàn)結(jié)果表明,缺失比率越高,我們算法的優(yōu)越性越明顯。4.提出了一種矩陣范數(shù)正則化的局部缺失多視圖K-均值算法。區(qū)別于強(qiáng)制性地迫使所有樣本對(duì)被均勻地對(duì)準(zhǔn)到相同的理想相似度,我們的算法僅要求樣本與其k個(gè)最近的鄰居的相似性與理想的相似性矩陣對(duì)齊。這種對(duì)齊將有助于聚類過(guò)程中更能集中在更近的樣本對(duì),并且避免了對(duì)于較遠(yuǎn)的樣本對(duì)的不可靠的相似性評(píng)估。此外,引入矩陣范數(shù)正則化能夠減少多核的冗余并增強(qiáng)所選擇的核的多樣性,使多核能夠更好地用于聚類。對(duì)8個(gè)多核學(xué)習(xí)標(biāo)準(zhǔn)數(shù)據(jù)集進(jìn)行了廣泛的實(shí)驗(yàn)研究,以評(píng)估我們算法的聚類性能。我們的算法顯著地優(yōu)于現(xiàn)有的兩階填充方法和新提出的算法,以此驗(yàn)證最大化局部核對(duì)齊和矩陣引導(dǎo)正則化的有效性。
【學(xué)位單位】：西安電子科技大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位年份】：2018
【中圖分類】：TP181
【文章目錄】：
摘要
ABSTRACT
符號(hào)對(duì)照表
縮略語(yǔ)對(duì)照表
第一章 緒論
    1.1 研究背景
    1.2 研究現(xiàn)狀
        1.2.1 現(xiàn)有的多視圖聚類算法
    1.3 研究?jī)?nèi)容
        1.3.1 考慮視圖相關(guān)性的多視圖聚類算法
        1.3.2 最優(yōu)鄰居核聚類算法
        1.3.3 具有缺失視圖的多視圖聚類算法
        1.3.4 具有矩陣范數(shù)正則化的局部多核聚類算法
第二章 矩陣范數(shù)導(dǎo)出正則化的多視圖聚類算法
    2.1 簡(jiǎn)介
    2.2 相關(guān)工作
        2.2.1 核k-means聚類（KKM）
        2.2.2 多核k-means聚類（MKKM）
    2.3 帶有矩陣范數(shù)導(dǎo)出正則化的MKKM聚類
        2.3.1 算法公式化描述
        2.3.2 交替優(yōu)化
        2.3.3 討論與擴(kuò)展
    2.4 實(shí)驗(yàn)結(jié)果
        2.4.1 數(shù)據(jù)集
        2.4.2 比較的相關(guān)算法
        2.4.3 實(shí)驗(yàn)設(shè)置
        2.4.4 實(shí)驗(yàn)結(jié)果
        2.4.5 參數(shù)和收斂性分析
    2.5 結(jié)論
第三章 基于最優(yōu)鄰居核的多視圖聚類算法
    3.1 引言
    3.2 相關(guān)工作
        3.2.1 多核k-均值聚類（MKKM）
        3.2.2 矩陣導(dǎo)出正則化MKKM（MKKM-MR）
    3.3 本文提出的最優(yōu)鄰居多核聚類算法
        3.3.1 我們的算法
        3.3.2 交替優(yōu)化
        3.3.3 討論和擴(kuò)展
    3.4 實(shí)驗(yàn)
        3.4.1 數(shù)據(jù)集
        3.4.2 參與對(duì)比的算法
        3.4.3 實(shí)驗(yàn)設(shè)置
        3.4.4 實(shí)驗(yàn)結(jié)果
        3.4.5 參數(shù)選擇與收斂
    3.5 結(jié)論
第四章 缺失多視圖聚類算法
    4.1 簡(jiǎn)介
    4.2 相關(guān)工作
        4.2.1 核k-均值聚類
        4.2.2 多核k-均值聚類
    4.3 我們提出的算法
        4.3.1 有缺失的多核k-均值算法描述
        4.3.2 缺失條件下的核互補(bǔ)齊多核k均值算法（MKKM-IK-MKC）
        4.3.3 擴(kuò)展
    4.4 實(shí)驗(yàn)結(jié)果
        4.4.1 實(shí)驗(yàn)設(shè)置
        4.4.2 在WebKB數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果
        4.4.3 在Caltech101數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果
        4.4.4 在數(shù)據(jù)集Flower17和Flower102上的實(shí)驗(yàn)結(jié)果
        4.4.5 在數(shù)據(jù)集CCV上的實(shí)驗(yàn)結(jié)果
        4.4.6 原始核與填補(bǔ)核之間的對(duì)齊
        4.4.7 收斂和參數(shù)敏感度
    4.5 總結(jié)
第五章 局部化缺失多視圖聚類算法
    5.1 簡(jiǎn)介
    5.2 相關(guān)工作
        5.2.1 多核k-means算法（MKKM）
        5.2.2 MKKM和缺失核（MKKM-IK）
    5.3 LI-MKKM-MR算法
        5.3.1 公式表達(dá)
        5.3.2 交替優(yōu)化
    5.4 實(shí)驗(yàn)
        5.4.1 實(shí)驗(yàn)設(shè)置
        5.4.2 實(shí)驗(yàn)結(jié)果
        5.4.3 參數(shù)敏感性
    5.5 結(jié)論
第六章 總結(jié)與展望
    6.1 工作總結(jié)
    6.2 工作展望
參考文獻(xiàn)
致謝
作者簡(jiǎn)介

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 小米;;818型海警巡邏艦多視圖[J];軍事文摘;2016年18期

2 段桂江;孫飛;唐曉青;;集成質(zhì)量系統(tǒng)與企業(yè)資源計(jì)劃系統(tǒng)的多視圖融合機(jī)制研究[J];計(jì)算機(jī)集成制造系統(tǒng);2005年12期

3 鄧強(qiáng);楊燕;王浩;;一種改進(jìn)的多視圖聚類集成算法[J];計(jì)算機(jī)科學(xué);2017年01期

4 羅愛民;羅雪山;黃力;;基于多視圖的信息系統(tǒng)體系結(jié)構(gòu)描述方法研究[J];計(jì)算機(jī)科學(xué);2007年02期

5 李波;趙健康;戴金海;;飛行器設(shè)計(jì)并行工程中多視圖響應(yīng)分析[J];計(jì)算機(jī)仿真;2006年09期

6 胡樹根,李漲生,卓守鵬,董進(jìn);一種基于約束的多視圖尺寸驅(qū)動(dòng)方法及實(shí)現(xiàn)[J];中國(guó)機(jī)械工程;1998年07期

7 石艷玲;單文檔多視圖的多種實(shí)現(xiàn)方式[J];計(jì)算機(jī)應(yīng)用研究;1999年10期

8 邱立坤;金澎;王厚峰;;基于依存語(yǔ)法構(gòu)建多視圖漢語(yǔ)樹庫(kù)[J];中文信息學(xué)報(bào);2015年03期

9 任振娜;;怎樣在VC++中創(chuàng)建基于SDI多框架多視圖[J];電腦編程技巧與維護(hù);2009年03期

10 夏鈕琛;胡潔;王偉明;彭穎紅;詹振飛;戚進(jìn);;基于轉(zhuǎn)換表的物料清單多視圖映射方法[J];上海交通大學(xué)學(xué)報(bào);2008年04期

相關(guān)博士學(xué)位論文 前10條

1 王岳青;多視圖學(xué)習(xí)算法和應(yīng)用研究[D];國(guó)防科學(xué)技術(shù)大學(xué);2017年

2 朱信忠;多視圖聚類算法研究[D];西安電子科技大學(xué);2018年

3 吳飛;多視圖特征學(xué)習(xí)方法研究[D];南京郵電大學(xué);2016年

4 沈肖波;多視圖嵌入學(xué)習(xí)方法及其應(yīng)用研究[D];南京理工大學(xué);2017年

5 錢強(qiáng);復(fù)雜場(chǎng)景下的多視圖學(xué)習(xí)方法研究[D];南京航空航天大學(xué);2013年

6 李晉;基于多視圖鑒別特征學(xué)習(xí)的分類算法[D];中國(guó)礦業(yè)大學(xué)(北京);2016年

7 田文;多視圖圖像的快速三維場(chǎng)景重建[D];華中科技大學(xué);2010年

8 楊琬琪;多視圖特征選擇與降維方法及其應(yīng)用研究[D];南京大學(xué);2015年

9 段春梅;基于多視圖的三維模型重建方法研究[D];山東大學(xué);2009年

10 蘇樹智;多視圖典型相關(guān)分析的理論研究和應(yīng)用[D];江南大學(xué);2017年

相關(guān)碩士學(xué)位論文 前10條

1 張屹然;基于劃分模型的多視圖聚類算法研究[D];南京師范大學(xué);2018年

2 楊克;基于DWH模型對(duì)多模態(tài)數(shù)據(jù)的多視圖度量學(xué)習(xí)方法研究[D];華南理工大學(xué);2018年

3 關(guān)俊鵬;圖學(xué)習(xí)多視圖聚類[D];蘭州大學(xué);2018年

4 吳銘;基于多視圖的霧霾數(shù)據(jù)分析方法[D];浙江大學(xué);2017年

5 朱玲玲;基于噪聲估計(jì)的多視圖三維重建技術(shù)研究[D];華中科技大學(xué);2016年

6 于航;基于生產(chǎn)管控系統(tǒng)的BOM多視圖的研究與應(yīng)用[D];吉林大學(xué);2017年

7 卜哲;基于多視圖的半監(jiān)督特征選擇算法研究[D];山東師范大學(xué);2017年

8 趙琴琴;多視圖學(xué)習(xí)方法研究[D];西安電子科技大學(xué);2017年

9 何夢(mèng)嬌;基于非負(fù)矩陣分解的多視圖聚類研究[D];西南交通大學(xué);2017年

10 劉彥勛;多視圖學(xué)習(xí)研究及其算法改進(jìn)[D];西安電子科技大學(xué);2015年

本文編號(hào)：2862767