主動(dòng)學(xué)習(xí)在機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、模式識(shí)別等領(lǐng)域備受業(yè)內(nèi)人士的關(guān)注,主要解決標(biāo)記實(shí)例開銷大的問(wèn)題。主動(dòng)學(xué)習(xí)方法首先使用少量已標(biāo)記實(shí)例集學(xué)習(xí)分類器,然后根據(jù)實(shí)例選擇算法從未標(biāo)記數(shù)據(jù)中獲取信息,最后由專家標(biāo)注系統(tǒng)標(biāo)記選取的實(shí)例并更新分類器。主動(dòng)學(xué)習(xí)的核心問(wèn)題是如何設(shè)計(jì)實(shí)例選擇算法來(lái)選擇質(zhì)量和數(shù)量均佳的實(shí)例。目前主動(dòng)學(xué)習(xí)的研究仍還集中在單標(biāo)記分類問(wèn)題上,多標(biāo)記分類是數(shù)據(jù)分析中普遍存在的一個(gè)問(wèn)題,多標(biāo)記實(shí)例的標(biāo)注通常比單標(biāo)記實(shí)例的標(biāo)注花費(fèi)的時(shí)間更多、代價(jià)更高。在多標(biāo)記分類問(wèn)題中,如何更加精確地找出更適合分類的標(biāo)記集合加入到屬性空間中,這是提升多標(biāo)記分類算法性能的關(guān)鍵。另外,已有的實(shí)例選擇算法考慮噪聲數(shù)據(jù)的情況較少,而且其選擇策略比較單一。針對(duì)上述問(wèn)題,本文從實(shí)例選擇算法和多標(biāo)記屬性選擇這兩個(gè)方面展開了研究,本文貢獻(xiàn)如下:(1)針對(duì)實(shí)例信息度量方式比較困難的問(wèn)題,提出了一種基于不確定性采樣的主動(dòng)學(xué)習(xí)算法。首先,本文使用多個(gè)二分類的支持向量機(jī)分類器,將多標(biāo)記實(shí)例的正負(fù)標(biāo)記分離,正負(fù)標(biāo)記值之間的距離稱為分離裕度。實(shí)例選擇算法將分類結(jié)果中分離裕度的值最小的實(shí)例視為不確定性高、信息豐富的實(shí)例。這里本文提出基于偏值項(xiàng)的分離裕度的主動(dòng)學(xué)習(xí)算法,在選擇實(shí)例時(shí),使用偏置項(xiàng)作為衡量分離裕度的因素,選取分離裕度的值趨向于偏置項(xiàng)大小且非噪聲的實(shí)例。其次,在此基礎(chǔ)上,該算法使用標(biāo)準(zhǔn)差的方式度量實(shí)例的離散度情況,選取高離散度的實(shí)例。最后,通過(guò)多個(gè)多標(biāo)記數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果證明了該算法的有效性。(2)針對(duì)分類器出現(xiàn)分類錯(cuò)誤的情況下實(shí)例選擇算法極有可能誤選實(shí)例以及考慮標(biāo)記間相關(guān)性的問(wèn)題,提出了一種基于最大相關(guān)性的多標(biāo)記主動(dòng)學(xué)習(xí)算法。首先,使用實(shí)例與標(biāo)記值之間的相關(guān)性來(lái)度量實(shí)例的不確定性,并將其與已有的最小置信度策略結(jié)合使用。其次,該算法采用改進(jìn)的兩層多標(biāo)記模型,選擇基分類器分類結(jié)果中高于閾值的標(biāo)記值擴(kuò)展屬性空間。最后,將改進(jìn)的兩層多標(biāo)記模型與實(shí)例選擇算法綜合使用,提升最終分類器的性能。同樣,通過(guò)多個(gè)多標(biāo)記數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果證明了該算法的有效性。
【學(xué)位單位】：北京交通大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位年份】：2019
【中圖分類】：TP181
【部分圖文】：

??另外，除了考慮不確定性度量之外，還可以考慮到實(shí)例的相關(guān)性，也就是說(shuō)??可以通過(guò)考慮實(shí)例之間的相關(guān)性來(lái)挑選實(shí)例。圖２－１給出了一則玩具的例子，它展??示了實(shí)例選擇算法在挑選實(shí)例時(shí)不確定性和相關(guān)性這兩種度量策略之間的區(qū)別。??圖中圓環(huán)和三角形表示兩類實(shí)例，實(shí)心圓和三角形表示有標(biāo)記的實(shí)例，剩下的表??示未標(biāo)記的實(shí)例。實(shí)線表示真實(shí)的決策邊界，虛線表示學(xué)習(xí)器根據(jù)所選實(shí)例學(xué)習(xí)??的決策邊界。圖２－１?ａ）代表從６個(gè)有標(biāo)記的實(shí)例中學(xué)習(xí)出來(lái)的決策邊界，圖２－１?ｂ）??代表通過(guò)標(biāo)注６個(gè)最不確定的實(shí)例，使得學(xué)習(xí)器得到的決策邊界更接近于真實(shí)的??決策邊界。圖２－１?ｃ）通過(guò)考慮實(shí)例之間的多樣性，學(xué)習(xí)器學(xué)習(xí)到的決策邊界明顯??優(yōu)于前面兩種情況。因此，正確估計(jì)實(shí)例之間的多樣性對(duì)于在主動(dòng)學(xué)習(xí)方法中選??擇最具信息性的實(shí)例是非常重要的。??？參?＂?？?６??？?＇?Ｊ?＿????．二?？馨?ｖ＾．—ｒ＇．二?？????■??－：：ｚ—一〇匕?。工一－匕?。二??ｕ?〇?：?厶?°?ｃ?；?Ａ?ａ?Ａ?°?ｃ▲?Ａ??ｏ?＾?ｃ?／?厶?Ｌ?Ａ?ｃ?ｃ？卜Ａ，．厶?；?Ａ?Ａ?贏?ｔｓ?ｈ、??：ｊ?ｖ＇＞?Ａ?Ａ?。一▲Ａ?°?〇?＇■?Ｖｔ：?Ｌ?＾??

Ｒｅｌｅｖａｎｃｅ）、Ｓｔａｃｋｉｎｇ策略。二值相關(guān)法是一種將多標(biāo)記分類問(wèn)題轉(zhuǎn)化為多個(gè)單標(biāo)??記二值分類問(wèn)題［５５］；?Ｓｔａｃｋｉｎｇ策略是一種在二值相關(guān)法策略中引入標(biāo)記間關(guān)系的策??略網(wǎng)，圖２－４是Ｓｔａｃｋｉｎｇ策略的示例。??訓(xùn)練集??—??訓(xùn)練＾＿?基分?基分?基分??過(guò)程類器?類器?類器??，＿１??新數(shù)！?ｎ?預(yù)測(cè)?預(yù)測(cè)?預(yù)測(cè)??據(jù)集’￣?結(jié)果?結(jié)果?結(jié)果??元分類器??最終?，?廣?Ｉ分類??結(jié)果?Ｊ?＾＾?Ｉ結(jié)果??圖２－４?Ｓ／ａｃｆｏＷｇ分類器示例??Ｆｉｇｕｒｅ?２－４?Ｅｘａｍｐｌｅ?ｏｆ?ｓｔａｃｋｉｎｇ?ｃｌａｓｓｉｆｉｅｒ??目前，已經(jīng)提出了很多方法來(lái)解決多標(biāo)記分類問(wèn)題，這些方法可以被寬泛的??分為兩類：?jiǎn)栴}轉(zhuǎn)化方法和算法轉(zhuǎn)化方法。問(wèn)題轉(zhuǎn)化方法通常是通過(guò)某種方法對(duì)??數(shù)據(jù)進(jìn)行預(yù)處理，使之貼合一個(gè)或一組單標(biāo)記分類模型，從而對(duì)多標(biāo)記做出預(yù)測(cè)。??Ｘｉｅ等人提出一種基于標(biāo)記條件炮的排序方法（ｔｈｅ?Ｅｎｔｒｏｐｙ?ｂａｓｅｄ?Ｃｌａｓｓｉｆｉｅｒ?Ｃｈａｉｎｓ，??ＥｂＣＣ），該方法生成單個(gè)排序而不是多個(gè)排序。該方法不同于現(xiàn)有的排序方法，??１５??

使用某一種單標(biāo)記的分類器訓(xùn)練分類函數(shù)。對(duì)于一個(gè)標(biāo)記未知的實(shí)例，算法將特??征向量輸入每一個(gè)獨(dú)立的分類器，將輸出１的分類器對(duì)應(yīng)的標(biāo)記合并，得到最終??的結(jié)果集合。圖３－１為利用二值相關(guān)法對(duì)某一個(gè)數(shù)據(jù)集中｛＾，ｐ，乃｝三個(gè)標(biāo)記進(jìn)行??分類的示意圖。??１９??
【參考文獻(xiàn)】

相關(guān)期刊論文 前1條

1 郭虎升;王文劍;;基于主動(dòng)學(xué)習(xí)的模式類別挖掘模型[J];計(jì)算機(jī)研究與發(fā)展;2014年10期

本文編號(hào)：2853031