【摘要】：近年來(lái),隨著大數(shù)據(jù)和人工智能的迅速發(fā)展,標(biāo)記學(xué)習(xí)成為重點(diǎn)研究領(lǐng)域之一。其中,多示例多標(biāo)記學(xué)習(xí)(Multi-Instance Multi-Label Learning,MIML)作為一種新型的學(xué)習(xí)范式,拓展了多示例學(xué)習(xí)(Multi-Instance Learning,MIL)和多標(biāo)記學(xué)習(xí)(Multi-Label Learning,MLL)。MIML對(duì)于現(xiàn)實(shí)世界中許多復(fù)雜和模糊對(duì)象具有更好的表示能力,同時(shí)示例的表達(dá)方式也更加契合對(duì)象所存在的多義性。因此,MIML學(xué)習(xí)框架成為模式識(shí)別與標(biāo)記學(xué)習(xí)重點(diǎn)研究課題之一,眾多學(xué)者提出了大量MIML分類算法,并在文本、圖像、音頻和生物信息等多領(lǐng)域數(shù)據(jù)分析處理中取得較大成功。本文將主要針對(duì)基于MIML框架進(jìn)行多領(lǐng)域數(shù)據(jù)分類問(wèn)題研究,通過(guò)對(duì)MIML的深入學(xué)習(xí)探究,實(shí)現(xiàn)對(duì)于MIML分類算法中退化策略算法、分類算法和端到端分類算法的改進(jìn),主要研究工作如下:(1)目前基于K-Medoids聚類退化MIML算法將各示例間視為相互獨(dú)立,退化過(guò)程可能造成較多的信息丟失,且K-Medoids聚類需聚類簇K的先驗(yàn)知識(shí),不同的K值對(duì)分類結(jié)果影響較大。針對(duì)該問(wèn)題,提出了一種改進(jìn)均值漂移算法的多示例多標(biāo)記分類算法,通過(guò)帶有權(quán)值且為非參數(shù)聚類算法的均值漂移退化MIML,考慮示例間的相關(guān)性,盡可能減少退化過(guò)程信息的丟失。實(shí)驗(yàn)進(jìn)一步驗(yàn)證了算法的有效性。(2)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)算法需要較多的網(wǎng)絡(luò)參數(shù)設(shè)置,在求解最優(yōu)解時(shí)很有可能出現(xiàn)局部最優(yōu)解,而無(wú)法得到全局最優(yōu)解。而極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)是一種高效且具有優(yōu)化學(xué)習(xí)算法的單隱層前饋神經(jīng)網(wǎng)絡(luò),求解時(shí)只需設(shè)置隱藏層節(jié)點(diǎn)數(shù),并隨機(jī)初始化權(quán)值和偏置就可求解出全局最優(yōu)解。但傳統(tǒng)ELM算法需設(shè)置隱藏層節(jié)點(diǎn)數(shù),并且需初始隨機(jī)權(quán)值和偏置,易受隨機(jī)值的影響導(dǎo)致計(jì)算結(jié)果并不穩(wěn)定,采用核ELM則可以解決這一問(wèn)題。因此,提出將回歸核極限學(xué)習(xí)機(jī)作為基分類器的MIML分類算法,在保證分類精度的同時(shí)降低了分類的時(shí)間消耗。通過(guò)對(duì)比實(shí)驗(yàn)表明了算法了可靠性。(3)近年來(lái)隨著計(jì)算機(jī)硬件的飛速發(fā)展,深度學(xué)習(xí)技術(shù)也得到了廣泛的應(yīng)用。但目前基于卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)的MIML分類算法多使用Softmax函數(shù)進(jìn)行分類,但此函數(shù)將類與類之間視為互斥事件,并不符合MIML學(xué)習(xí)框架。因此,提出將CNN網(wǎng)絡(luò)中Softmax函數(shù)替換為ELM分類器,構(gòu)造出一種端到端的圖像分類算法。將所提CNN-ELM-MIML模型與原始CNN進(jìn)行對(duì)比,表明所提算法的合理性。
【圖文】：

圖 1.1 多標(biāo)記學(xué)習(xí)樣例 1其中，多標(biāo)記學(xué)習(xí)[10]是將一個(gè)示例同時(shí)分配給多個(gè)標(biāo)記，每個(gè)對(duì)象由一量和一組二元標(biāo)記向量來(lái)表示。如圖 1.1 所示，在多標(biāo)記學(xué)習(xí)中將一張圖個(gè)示例，通過(guò)特征提取構(gòu)成特征向量，同時(shí)將圖片中的“太陽(yáng)”、“白云”和“喬治”等多個(gè)標(biāo)記構(gòu)成標(biāo)記向量。相比于單標(biāo)記學(xué)習(xí)，多標(biāo)記學(xué)習(xí)例表達(dá)方式更加契合現(xiàn)實(shí)世界對(duì)象的多義性，因此多標(biāo)記學(xué)習(xí)成為模式記學(xué)習(xí)重點(diǎn)研究課題之一，并已成功應(yīng)用于文本分類[28,29]、圖像識(shí)別學(xué)習(xí)[31]和情感分析[32,33]等領(lǐng)域。目前，在多標(biāo)記學(xué)習(xí)問(wèn)題中，諸多學(xué)者已研究并提出多種多標(biāo)記學(xué)習(xí)算些方法大致可以分為兩類，即問(wèn)題轉(zhuǎn)換法和算法適應(yīng)法。其中問(wèn)題轉(zhuǎn)換標(biāo)記學(xué)習(xí)任務(wù)轉(zhuǎn)換為一個(gè)或者多個(gè)相應(yīng)單標(biāo)記學(xué)習(xí)任務(wù)，然后再通過(guò)傳學(xué)習(xí)方法進(jìn)行處理，典型算法包括 BR[34]、LP[35]、PPT[36]和 RAkEL[37法適應(yīng)法通過(guò)擴(kuò)展特定單標(biāo)記學(xué)習(xí)算法，修改其約束條件從而可以直接記學(xué)習(xí)任務(wù)，代表算法有 ML-KNN[38]、MLNB[39]、Rank-SVMRBF[41]和 ML-EKELM[42]等。而這些適應(yīng)型算法就是將最近鄰（k-N

圖 1.2 多示例學(xué)習(xí)樣例 2多示例學(xué)習(xí)框架是由 Dietterich et al. [43]進(jìn)行分子活性分析時(shí)提出的。而習(xí)可以看成是傳統(tǒng)單標(biāo)記學(xué)習(xí)的一種演化，區(qū)別在于多示例中各數(shù)據(jù)用每個(gè)包中含有多個(gè)示例，且只有一個(gè)標(biāo)記與該包相關(guān)聯(lián)，包中各示例均將整張圖片視為一個(gè)包，而圖片被切割成若干塊即為多個(gè)示例，整個(gè)圖包具有一個(gè)類別標(biāo)記，但圖片中各塊示例則無(wú)類別標(biāo)記。如圖 1.2 所示，成多個(gè)示例，，但各單獨(dú)示例并不擁有類別標(biāo)記，而只有包具有類別標(biāo)記豬佩奇”。因此，多示例學(xué)習(xí)能夠更好考慮對(duì)象中各元素之間的內(nèi)在關(guān)系分類任務(wù)中較單示例學(xué)習(xí)具有更好的效果。近年來(lái)，在多示例學(xué)習(xí)中，學(xué)者們相繼提出了多種學(xué)習(xí)算法。Foulds 和 Fra Amores[45]給出了多示例學(xué)習(xí)的綜述性分析，對(duì)于多示例學(xué)習(xí)中示例空間和嵌入空間等作出詳細(xì)介紹。Langone 和 Suykens[46]提出通過(guò)集體假和包信息結(jié)合進(jìn)行聚合特征學(xué)習(xí)。Qiao et al. [47]為了將包級(jí)別的標(biāo)記和的特征表示結(jié)合，提出多樣性字典來(lái)學(xué)習(xí)此類信息。為了解決大規(guī)模的，Wei et al. [48]提出了 miVLAD 和 miFV 兩種高效且可擴(kuò)展的 MIL 算法
【學(xué)位授予單位】：安慶師范大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2019
【分類號(hào)】：C81

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 王延停;歸慶明;田新來(lái);;基于均值漂移模型的抗差估計(jì)[J];大地測(cè)量與地球動(dòng)力學(xué);2014年06期

2 潘紅艷;;融合均值漂移和區(qū)域合并的彩色圖像分割方法[J];計(jì)算機(jī)工程與應(yīng)用;2009年22期

3 姜忠民;趙建民;朱信忠;徐慧英;;基于均值漂移與卡爾曼預(yù)測(cè)相結(jié)合的視頻運(yùn)動(dòng)目標(biāo)跟蹤算法[J];計(jì)算機(jī)時(shí)代;2010年02期

4 羅海勇;李錦濤;趙方;林以明;;基于均值漂移和聯(lián)合粒子濾波的移動(dòng)節(jié)點(diǎn)定位算法[J];傳感技術(shù)學(xué)報(bào);2009年03期

5 劉寶弟;王延江;馬海;王武禮;;基于均值漂移算法的人臉自適應(yīng)跟蹤[J];中國(guó)石油大學(xué)學(xué)報(bào)(自然科學(xué)版);2007年04期

6 林路;數(shù)據(jù)刪除模型和均值漂移模型對(duì)嶺估計(jì)的影響[J];邵陽(yáng)師專學(xué)報(bào);1994年02期

7 孔輝;;基于自適應(yīng)帶寬的均值漂移方法的高分辨率遙感影像分類[J];數(shù)字技術(shù)與應(yīng)用;2018年07期

8 雷飛;趙曉霞;宮君樂;;基于均值漂移算法的水下視頻目標(biāo)跟蹤[J];制造業(yè)自動(dòng)化;2011年12期

9 左軍毅;趙春暉;梁彥;潘泉;張洪才;;一種具有跟蹤外觀變化目標(biāo)能力的均值漂移算法[J];計(jì)算機(jī)科學(xué);2007年10期

10 趙豪;蔡延光;;基于卡爾曼的均值漂移抗遮擋移動(dòng)目標(biāo)追蹤算法[J];電子世界;2018年08期

相關(guān)會(huì)議論文 前10條

1 沈佳潔;容茜;;基于均值漂移算法的高分辨率遙感圖像分割方法研究[A];全國(guó)測(cè)繪科技信息網(wǎng)中南分網(wǎng)第二十八次學(xué)術(shù)信息交流會(huì)論文集[C];2014年

2 宮軼松;歸慶明;李保利;張靈敏;;基于均值漂移的粒子濾波算法設(shè)計(jì)及其在導(dǎo)航數(shù)據(jù)處理中的應(yīng)用[A];第二屆中國(guó)衛(wèi)星導(dǎo)航學(xué)術(shù)年會(huì)電子文集[C];2011年

3 翟勇;李洪海;苑麗偉;李青霞;路寬;蘇東亮;任興輝;張榮貴;;基于均值漂移聚類算法的數(shù)據(jù)清洗方法研究[A];第三屆智能電網(wǎng)會(huì)議論文集[C];2018年

4 郝元宏;朱元武;盧志剛;樊興;劉禎;支東升;;基于目標(biāo)位置引導(dǎo)的快速部件檢測(cè)算法[A];第十屆全國(guó)信號(hào)和智能信息處理與應(yīng)用學(xué)術(shù)會(huì)議�？痆C];2016年

5 金哲豪;劉安東;仇翔;俞立;;基于RGB-D傳感器的移動(dòng)目標(biāo)跟蹤算法設(shè)計(jì)[A];第37屆中國(guó)控制會(huì)議論文集（D）[C];2018年

6 任紹美;都云程;王濤;呂學(xué)強(qiáng);;基于均值漂移的自適應(yīng)視頻場(chǎng)景分割[A];2011年全國(guó)電子信息技術(shù)與應(yīng)用學(xué)術(shù)會(huì)議論文集[C];2011年

7 方晶;劉雅琨;劉煜文;;一種無(wú)人水下系統(tǒng)對(duì)水面船舶探測(cè)方法[A];鰲山論壇“2019年水下無(wú)人系統(tǒng)技術(shù)高峰論壇”——水下無(wú)人系統(tǒng)智能技術(shù)會(huì)議論文集[C];2019年

8 李朋成;黃宗維;陳蘭康;;遙感圖像分割方法的研究[A];全國(guó)測(cè)繪科技信息網(wǎng)中南分網(wǎng)第三十次學(xué)術(shù)信息交流會(huì)論文集[C];2016年

9 曾安敏;張敏利;陳春旺;;重力數(shù)據(jù)的粗差剔除方法[A];《大地測(cè)量與地球動(dòng)力學(xué)進(jìn)展》論文集[C];2004年

10 王立琦;陳海云;燕小強(qiáng);;一種改進(jìn)的粒子濾波視頻跟蹤算法[A];第13屆中國(guó)系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)年會(huì)論文集[C];2011年

相關(guān)重要報(bào)紙文章 前1條

1 凌善康;六西格瑪：后ISO9000的新寵[N];中國(guó)國(guó)門時(shí)報(bào);2003年

相關(guān)博士學(xué)位論文 前10條

1 賈倪;礦井視頻人員目標(biāo)跟蹤與煤巖圖像識(shí)別方法研究[D];中國(guó)礦業(yè)大學(xué)(北京);2015年

2 王雷光;基于非模糊均值漂移的高空間分辨率遙感影像區(qū)域分割算法研究[D];武漢大學(xué);2009年

3 劉冬生;基于神經(jīng)網(wǎng)絡(luò)方法的自相關(guān)過(guò)程控制研究[D];天津大學(xué);2007年

4 王娟;復(fù)雜場(chǎng)景中的目標(biāo)跟蹤優(yōu)化算法研究[D];燕山大學(xué);2014年

5 孫鑫;運(yùn)用先驗(yàn)導(dǎo)向主動(dòng)輪廓的目標(biāo)跟蹤方法研究[D];哈爾濱工業(yè)大學(xué);2015年

6 韓明;基于水平集表示和均值漂移的運(yùn)動(dòng)目標(biāo)檢測(cè)與跟蹤研究[D];燕山大學(xué);2015年

7 戴淵明;視頻序列圖像中目標(biāo)跟蹤技術(shù)研究[D];浙江大學(xué);2012年

8 夏瑜;視覺跟蹤新方法及其應(yīng)用研究[D];江南大學(xué);2013年

9 徐旭;復(fù)雜環(huán)境下的車輛目標(biāo)跟蹤技術(shù)研究[D];吉林大學(xué);2013年

10 蔣良衛(wèi);圖像序列中目標(biāo)跟蹤技術(shù)研究[D];華中科技大學(xué);2013年

相關(guān)碩士學(xué)位論文 前10條

1 裴根生;基于多示例多標(biāo)記的多領(lǐng)域數(shù)據(jù)分類[D];安慶師范大學(xué);2019年

2 包澄澄;基于光視覺的無(wú)人艇的目標(biāo)檢測(cè)與跟蹤[D];哈爾濱工程大學(xué);2019年

3 鄭凱凱;基于四通道不可分小波的均值漂移跟蹤[D];湖北大學(xué);2018年

4 李成龍;基于非線性濾波和均值漂移的運(yùn)動(dòng)目標(biāo)跟蹤方法研究[D];武漢理工大學(xué);2017年

5 劉響;基于均值漂移和GrowCut的彩色圖像自動(dòng)分割研究[D];江蘇大學(xué);2018年

6 王香蓮;基于多特征融合的均值漂移視頻目標(biāo)跟蹤算法研究[D];貴州大學(xué);2018年

7 王晉麗;基于均值漂移的目標(biāo)跟蹤算法的研究及應(yīng)用[D];南京郵電大學(xué);2015年

8 成偉;均值漂移算法在視頻目標(biāo)跟蹤中的應(yīng)用[D];重慶大學(xué);2009年

9 程平;基于視頻信息的運(yùn)動(dòng)多車輛追蹤的量子均值漂移算法研究[D];廣東工業(yè)大學(xué);2013年

10 鄭勇;基于聯(lián)合均值漂移的單幅圖像去霧算法研究及其硬件實(shí)現(xiàn)[D];西安電子科技大學(xué);2014年

本文編號(hào)：2673618