【摘要】：移動互聯(lián)網(wǎng)的快速發(fā)展給統(tǒng)計學(xué)習(xí)的研究帶來了全新的挑戰(zhàn),該背景下由智能手機所采集的海量數(shù)據(jù)具有三個特點,一是高維度,二是弱相關(guān),三是海量的無標簽樣本點與有限的有標簽樣本點相結(jié)合。針對這一些問題,論文梳理了高維統(tǒng)計分類算法的幾個主要類型,并結(jié)合特征和目標之間的弱相關(guān)特點,著重介紹了一種最新的能夠解決弱相關(guān)特征降維問題的非參數(shù)特征擴充及選擇算法(Feature Augmentation via Nonparametrics and Selection,FANS)。論文基于FANS算法和帶有一范數(shù)懲罰項的Logistic回歸算法,構(gòu)建一種新的集成半監(jiān)督學(xué)習(xí)算法:對抗性用戶識別算法。該方法的核心機制是,利用兩種算法的分歧性,以及FANS在冷啟動上的核心優(yōu)勢,序貫訓(xùn)練兩個算法,它們都會從無標簽樣本組中挑選置信度最高的樣本點,賦予其相應(yīng)的標簽,加入到對方的訓(xùn)練數(shù)據(jù)集中。從半監(jiān)督學(xué)習(xí)的角度而言,向初始訓(xùn)練集中添加偽標注數(shù)據(jù),必然會引入誤標注噪音,那么必然就存在兩個相互矛盾的目標,一方面是希望添加更多的偽標注數(shù)據(jù),擴充訓(xùn)練集,而另一方面則是希望添加更少的偽標注數(shù)據(jù),以減少引入的噪音水平。半監(jiān)督學(xué)習(xí)算法方面的文獻普遍沒有解決這一矛盾,而論文發(fā)掘歷史文獻,發(fā)現(xiàn)80年代所提出的基于訓(xùn)練集中有噪音的情況下的統(tǒng)計學(xué)習(xí)方法——噪音學(xué)習(xí)理論可以有效解決這一問題�；谠胍魧W(xué)習(xí)理論,可以評估每一個輪次添加的偽標簽樣本組的準確率是否超過可容忍的下界,進而為超參數(shù)的設(shè)定給出指導(dǎo)性的建議。最終,論文實現(xiàn)了一個可以對高維弱相關(guān)且具有海量無標簽樣本的數(shù)據(jù)集進行學(xué)習(xí)的分類算法——對抗性用戶識別算法,該算法的優(yōu)點是:一,可以提高總體的分類精確性;二,可以從無標簽樣本組中識別出高置信樣本組,并給出該組樣本分類準確率的下界;三,可以根據(jù)高置信組規(guī)模是否收斂,給出超參數(shù)調(diào)節(jié)策略。
【圖文】：

圖１．１文章框架結(jié)構(gòu)逡逑１．５創(chuàng)新之處逡逑論文在整個研宄過程中有三個核心創(chuàng)新點，第一，引入了一種較新的高維分類算Ｓ算法，該算法的在高置信區(qū)域具有極高的準確率，而且它與Ｌｏｇｉｓｔｉｃ回歸給出的

＝１式的Ｌｏｇｉｓｔｉｃ回歸會受到“維度災(zāi)難”的困擾，難以產(chǎn)生特征排除，，給出更有效的學(xué)習(xí)模型，需要在誤差函數(shù)中添加罰項按照形式的不同可以分為一范數(shù)懲罰項和二范數(shù)懲罰項ｇｍｉｎｗ邋＾／３ｗＴｗ邋＋邋Ｘｉｌ＝ｉｌ0ｇ［ｅｘｐ（－ｙｉ（ＸｉＭ＾邋＋邋ｃ））邋＋邋ｌ］逡逑ｍｉｎｗ邋＾Ｗｗｌ＾邋＋邋Ｈｆ＝１ｌ0ｇ［ｅｘｐ（－ｙｊ（ＸｊＭ／邋＋邋ｃ））邋＋邋ｌ］逡逑懲罰項可以起到系數(shù)收縮的作用，但是并不能將某一些無效所以在高維問題中適合使用帶有一范數(shù)懲罰項的Ｌｏｇｉｓｔｉｃ在誤差函數(shù)中增加了一范數(shù)懲罰項之后，誤差函數(shù)不可微，適用的求解方法包括坐標上升算法一種變體“ＳＡＧＡ”算法。逡逑２．邋３帶ＤｒｏｐＯｕｔ層的稀疏神經(jīng)網(wǎng)絡(luò)分類算法逡逑
【學(xué)位授予單位】：天津財經(jīng)大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2018
【分類號】：C819

【相似文獻】

相關(guān)期刊論文 前10條

1 屠恩美;楊杰;;半監(jiān)督學(xué)習(xí)理論及其研究進展概述[J];上海交通大學(xué)學(xué)報;2018年10期

2 唐曉亮;韓敏;;一種基于極端學(xué)習(xí)機的半監(jiān)督學(xué)習(xí)方法[J];大連理工大學(xué)學(xué)報;2010年05期

3 張晨光;李玉擰;;哈希圖半監(jiān)督學(xué)習(xí)方法及其在圖像分割中的應(yīng)用[J];自動化學(xué)報;2010年11期

4 張燕;張晨光;張夏歡;;平衡化圖半監(jiān)督學(xué)習(xí)方法[J];系統(tǒng)科學(xué)與數(shù)學(xué);2016年08期

5 李聰;黃俊爽;朱明明;李相儉;;初探半監(jiān)督學(xué)習(xí)在腦白質(zhì)纖維束辨識中的應(yīng)用[J];科技信息;2010年10期

6 周志華;;半監(jiān)督學(xué)習(xí)�？把訹J];軟件學(xué)報;2008年11期

7 姜震;詹永照;;基于差異半監(jiān)督學(xué)習(xí)的相關(guān)理論分析[J];模式識別與人工智能;2014年10期

8 張建欣;;基于半監(jiān)督學(xué)習(xí)的在線評論挖掘應(yīng)用[J];計算機光盤軟件與應(yīng)用;2012年20期

9 王曉波;;基于可信點的聯(lián)合半監(jiān)督學(xué)習(xí)[J];哈爾濱商業(yè)大學(xué)學(xué)報(自然科學(xué)版);2016年01期

10 索南楞智;劉靜靜;劉萍;;結(jié)合圖模型和分層查詢的半監(jiān)督學(xué)習(xí)方法[J];計算機工程與設(shè)計;2017年05期

相關(guān)會議論文 前10條

1 趙玲玲;周水生;王雪巖;;基于集成算法的半監(jiān)督學(xué)習(xí)[A];第十四屆全國信號處理學(xué)術(shù)年會(CCSP-2009)論文集[C];2009年

2 陳耀東;王挺;陳火旺;;半監(jiān)督學(xué)習(xí)和主動學(xué)習(xí)相結(jié)合的淺層語義分析[A];第三屆全國信息檢索與內(nèi)容安全學(xué)術(shù)會議論文集[C];2007年

3 吳龍飛;孫浩;計科峰;;基于集成映射的半監(jiān)督圖像分類方法[A];第八屆全國信號和智能信息處理與應(yīng)用學(xué)術(shù)會議會刊[C];2014年

4 滑文強;王爽;;基于協(xié)同學(xué)習(xí)的半監(jiān)督極化SAR分類[A];第三屆高分辨率對地觀測學(xué)術(shù)年會（天基對地觀測技術(shù)分會）優(yōu)秀論文集[C];2014年

5 林良憲;利德江;蔡孟璇;邱政賢;;針對小樣本分類的半監(jiān)督式學(xué)習(xí)法[A];第25屆全國灰色系統(tǒng)會議論文集[C];2014年

6 朱松豪;梁志偉;;用半監(jiān)督學(xué)習(xí)方法實現(xiàn)圖像檢索[A];第二十九屆中國控制會議論文集[C];2010年

7 謝永芳;蔣有為;唐明珠;;一種基于數(shù)據(jù)剪輯的半監(jiān)督最鄰近分類算法[A];Proceedings of the 2011 Chinese Control and Decision Conference（CCDC）[C];2011年

8 孫濤;劉靜;劉青山;盧漢清;;半監(jiān)督譜判別式分析[A];第六屆和諧人機環(huán)境聯(lián)合學(xué)術(shù)會議（HHME2010)、第19屆全國多媒體學(xué)術(shù)會議（NCMT2010）、第6屆全國人機交互學(xué)術(shù)會議（CHCI2010）、第5屆全國普適計算學(xué)術(shù)會議（PCC2010）論文集[C];2010年

9 何正焱;王厚峰;;商品品牌名稱挖掘[A];中國計算語言學(xué)研究前沿進展（2009-2011）[C];2011年

10 蔣翠清;王齊林;劉士喜;丁勇;劉堯;;中文社會媒體環(huán)境下半監(jiān)督學(xué)習(xí)的汽車缺陷識別方法[A];第十六屆中國管理科學(xué)學(xué)術(shù)年會論文集[C];2014年

相關(guān)博士學(xué)位論文 前10條

1 王紹凱;屬性網(wǎng)絡(luò)的半監(jiān)督學(xué)習(xí)方法研究[D];哈爾濱工業(yè)大學(xué);2018年

2 唐曉亮;基于神經(jīng)網(wǎng)絡(luò)的半監(jiān)督學(xué)習(xí)方法研究[D];大連理工大學(xué);2009年

3 桂杰;基于圖的半監(jiān)督學(xué)習(xí)和維數(shù)約簡方法及其應(yīng)用研究[D];中國科學(xué)技術(shù)大學(xué);2010年

4 孫博良;在線半監(jiān)督學(xué)習(xí)理論、算法與應(yīng)用研究[D];國防科學(xué)技術(shù)大學(xué);2014年

5 吳夢麟;基于半監(jiān)督學(xué)習(xí)的醫(yī)學(xué)圖像檢索研究[D];南京理工大學(xué);2015年

6 潘俊;基于圖的半監(jiān)督學(xué)習(xí)及其應(yīng)用研究[D];浙江大學(xué);2011年

7 黃鵬;基于廣義半監(jiān)督學(xué)習(xí)方法的軟件質(zhì)量預(yù)測研究[D];上海交通大學(xué);2010年

8 楊晨雪;圖像特征學(xué)習(xí)方法與應(yīng)用研究[D];電子科技大學(xué);2016年

9 姜震;基于差異的半監(jiān)督學(xué)習(xí)中有關(guān)算法和理論研究[D];復(fù)旦大學(xué);2012年

10 呂佳;基于局部學(xué)習(xí)的半監(jiān)督分類問題研究[D];內(nèi)蒙古大學(xué);2012年

相關(guān)碩士學(xué)位論文 前10條

1 張偉健;互聯(lián)網(wǎng)背景下基于集成半監(jiān)督學(xué)習(xí)的用戶對抗性識別[D];天津財經(jīng)大學(xué);2018年

2 吳春葉;基于半監(jiān)督學(xué)習(xí)的觀點挖掘算法的研究與實現(xiàn)[D];北京郵電大學(xué);2019年

3 陳子嵐;基于廣義可加模型的半監(jiān)督學(xué)習(xí)方法[D];廈門大學(xué);2018年

4 祝宏玉;基于不確定性的代價敏感半監(jiān)督學(xué)習(xí)[D];深圳大學(xué);2018年

5 董豪晨;復(fù)雜半監(jiān)督學(xué)習(xí)場景的研究[D];南京大學(xué);2019年

6 金蘭依;基于半監(jiān)督階梯網(wǎng)絡(luò)的肝臟CT影像分割方法[D];吉林大學(xué);2018年

7 賈曉亮;基于半監(jiān)督學(xué)習(xí)模型的不文明微博帖識別方法研究[D];華中師范大學(xué);2018年

8 孫旭明;基于半監(jiān)督學(xué)習(xí)的文本分類關(guān)鍵技術(shù)研究[D];哈爾濱工業(yè)大學(xué);2018年

9 符春曉;基于階梯網(wǎng)絡(luò)的半監(jiān)督深度學(xué)習(xí)方法及其應(yīng)用研究[D];國防科學(xué)技術(shù)大學(xué);2016年

10 梁瑩;基于深度半監(jiān)督學(xué)習(xí)的極化SAR圖像地物分類方法[D];西安電子科技大學(xué);2018年

本文編號：2637163