發(fā)布時(shí)間：2018-03-29 22:05

  本文選題：度量學(xué)習(xí)　切入點(diǎn)：相似性學(xué)習(xí)　出處：《南京航空航天大學(xué)》2016年博士論文

【摘要】：近來大數(shù)據(jù)概念十分火熱,機(jī)器學(xué)習(xí)作為其中的關(guān)鍵技術(shù),相關(guān)研究正受到越來越多的重視,并在實(shí)踐中得到了廣泛應(yīng)用。相似性度量是機(jī)器學(xué)習(xí)中一個(gè)非常重要的概念,很多主流機(jī)器學(xué)習(xí)方法如最近鄰分類、支持向量機(jī)分類和K-Means聚類等,它們的性能都與樣本間相似性度量函數(shù)緊密相關(guān)�，F(xiàn)成的度量函數(shù)如歐式距離等未必能很好地捕獲數(shù)據(jù)樣本間的相似性,一個(gè)好的度量函數(shù)應(yīng)該是與具體任務(wù)相適應(yīng)的。然而手工選擇或構(gòu)造一個(gè)好的相似度量通常十分困難,因而近年來度量學(xué)習(xí)成為了一個(gè)熱門的研究主題,它旨在利用數(shù)據(jù)監(jiān)督信息,自動(dòng)地學(xué)習(xí)一個(gè)好的相似度度量函數(shù),從而提升學(xué)習(xí)系統(tǒng)的性能。目前已經(jīng)有許多度量學(xué)習(xí)方法被提出,典型的是利用樣本間的相似約束作為監(jiān)督信息學(xué)習(xí)一個(gè)以矩陣為參數(shù)的相似度量函數(shù),從而在特定問題中更好地捕獲樣本間潛在的相似特性。本文關(guān)注的重點(diǎn)是如何通過度量學(xué)習(xí)提升后續(xù)學(xué)習(xí)任務(wù)的性能,因?yàn)槎攘繉W(xué)習(xí)的目的不僅是為了獲得好的相似性函數(shù),更是期望結(jié)果學(xué)習(xí)器能依據(jù)所學(xué)度量獲得性能更好的預(yù)測(cè)模型,對(duì)此仍有很多問題亟待解決。目前有監(jiān)督的相似性度量學(xué)習(xí)方法主要是一類兩步式學(xué)習(xí),即先學(xué)習(xí)相似度函數(shù),再將其放入結(jié)果學(xué)習(xí)器中訓(xùn)練得到最終的預(yù)測(cè)模型。這里的結(jié)果學(xué)習(xí)器是指根據(jù)任務(wù)選擇的不同學(xué)習(xí)方法,如最近鄰分類等。在兩步式學(xué)習(xí)中,相似度量的學(xué)習(xí)和結(jié)果學(xué)習(xí)器的訓(xùn)練實(shí)際是分開的,盡管許多經(jīng)驗(yàn)結(jié)果表明這類方法能提升最近鄰分類這種局部近鄰模型的性能,但仍需從理論上給出更多的解釋;為了提升度量有效性,目前的方法常利用大量數(shù)據(jù)進(jìn)行學(xué)習(xí),而在大數(shù)據(jù)背景下新數(shù)據(jù)常常是逐步收集獲得,對(duì)應(yīng)地,度量學(xué)習(xí)將在增量式場(chǎng)景下進(jìn)行,如何準(zhǔn)確而快速地更新度量,仍需設(shè)計(jì)有效的算法;此外,目前兩步式方法并不能保證所學(xué)度量能提升支持向量機(jī)等全局學(xué)習(xí)模型的性能,因而近期的研究越來越關(guān)注單步式的相似度量學(xué)習(xí),即如何將相似度量函數(shù)和結(jié)果學(xué)習(xí)器有機(jī)結(jié)合進(jìn)行聯(lián)合學(xué)習(xí),也有待進(jìn)一步探索。針對(duì)上述的一些問題,本文開展了初步的研究與探索,主要的研究成果如下:1、度量學(xué)習(xí)在最近鄰分類中的間隔分布解釋:兩步式度量學(xué)習(xí)方法常用最近鄰分類器評(píng)估其有效性,盡管經(jīng)驗(yàn)結(jié)果表明能提高最近鄰分類精度,但尚未從理論上給出所學(xué)度量與最近鄰分類器性能之間的聯(lián)系,本文從間隔分布的角度做了解釋,給出了最近鄰分類器關(guān)于所學(xué)度量的泛化誤差上界,表明這類方法是通過增大最近鄰的間隔分布,提升分類性能。這一解釋在已有方法上進(jìn)行了實(shí)驗(yàn)驗(yàn)證,并且可用于設(shè)計(jì)新的度量學(xué)習(xí)算法。2、基于支持向量方法的增量式度量學(xué)習(xí):對(duì)于現(xiàn)實(shí)環(huán)境下增量獲得的數(shù)據(jù),度量函數(shù)應(yīng)根據(jù)新數(shù)據(jù)增量更新,而現(xiàn)有方法往往不夠靈活。為此,提出一種基于支持向量方法的增量式度量學(xué)習(xí)算法,它將用于分類的支持向量學(xué)習(xí)推廣應(yīng)用到度量學(xué)習(xí)場(chǎng)景中,使度量函數(shù)能根據(jù)新信息靈活地更新。文中證明了增量更新所得度量與批學(xué)習(xí)所得度量是一致的,給出了算法的可行性與收斂性理論證明,并通過實(shí)驗(yàn)驗(yàn)證了算法有效性。3、針對(duì)回歸任務(wù)的核嵌入式的度量學(xué)習(xí):針對(duì)回歸任務(wù),提出一種核嵌入式的單步式度量學(xué)習(xí)算法。該方法結(jié)合支持向量回歸,將相似度量嵌入核函數(shù),聯(lián)合優(yōu)化度量和訓(xùn)練支持向量回歸。由于真實(shí)數(shù)據(jù)中可能存在噪聲或者冗余特征,算法通過對(duì)度量矩陣的稀疏約束,降低噪聲或冗余特征的影響,并通過度量的集成學(xué)習(xí),提升算法泛化性能。該算法在標(biāo)準(zhǔn)數(shù)據(jù)集上得到了驗(yàn)證,并應(yīng)用于機(jī)場(chǎng)噪聲預(yù)測(cè)問題。4、相似特征嵌入的相似度量學(xué)習(xí):從相似空間學(xué)習(xí)的角度提出一種新的單步式相似度算法,每個(gè)樣本均用自身與代表樣本間的相似度刻畫特征,考慮到這一學(xué)習(xí)過程中,既需要好的度量函數(shù),也要選擇合適的代表樣本使構(gòu)造的相似特征具有判別性。為此,算法將相似度量與lasso聯(lián)合學(xué)習(xí),在學(xué)習(xí)相似度函數(shù)的同時(shí)選擇有效的代表樣本。且所學(xué)度量矩陣無半正定約束,相似函數(shù)更靈活。文中從理論上分析了算法泛化性能,并得到了實(shí)驗(yàn)驗(yàn)證。
[Abstract]:......
【學(xué)位授予單位】：南京航空航天大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位授予年份】：2016
【分類號(hào)】：TP181

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 李紅美;;論網(wǎng)絡(luò)教育環(huán)境下學(xué)習(xí)者學(xué)習(xí)動(dòng)機(jī)的激發(fā)[J];繼續(xù)教育;2006年11期

2 李秀英;;網(wǎng)絡(luò)環(huán)境下學(xué)生學(xué)習(xí)的特點(diǎn)[J];教師;2009年04期

3 夏定海,黃智英;教會(huì)學(xué)習(xí) 學(xué)會(huì)學(xué)習(xí) 終身學(xué)習(xí)[J];發(fā)明與革新;2000年06期

4 黃啟兵;汪芳;;論網(wǎng)絡(luò)時(shí)代學(xué)習(xí)與創(chuàng)新的統(tǒng)一[J];教學(xué)研究;2002年03期

5 陳相安;把檔案部門建成學(xué)習(xí)型組織[J];中國(guó)檔案;2003年09期

6 顧新,蔡兵,李久平;學(xué)習(xí)與學(xué)習(xí)型社會(huì)[J];軟科學(xué);2004年02期

7 鄭軍;試論編輯的學(xué)習(xí)特征[J];中國(guó)編輯;2005年06期

8 邱曉榮,孔一童;試論網(wǎng)絡(luò)環(huán)境中的合作學(xué)習(xí)[J];當(dāng)代教育論壇;2005年02期

9 冷平,王仁蓉,刁永鋒;網(wǎng)絡(luò)學(xué)習(xí)的成功要素探析[J];教育信息化;2005年03期

10 張建光;朱秀娥;張笑雙;;網(wǎng)絡(luò)學(xué)習(xí)社區(qū)的特征和構(gòu)建[J];中國(guó)教育技術(shù)裝備;2006年03期

相關(guān)會(huì)議論文 前10條

1 韓文;;讓合作學(xué)習(xí)在逆境中重生[A];中華教育理論與實(shí)踐科研論文成果選編（第2卷）[C];2010年

2 呂啟春;;淺談小學(xué)數(shù)學(xué)中的小組合作學(xué)習(xí)[A];2014年1月現(xiàn)代教育教學(xué)探索學(xué)術(shù)交流會(huì)論文集[C];2014年

3 杜俊娟;;用學(xué)習(xí)動(dòng)機(jī)培養(yǎng)策略課題的學(xué)習(xí)對(duì)體育教師進(jìn)行研究性學(xué)習(xí)培養(yǎng)的實(shí)驗(yàn)研究[A];第七屆全國(guó)體育科學(xué)大會(huì)論文摘要匯編（一）[C];2004年

4 瞿春波;;淺議合作學(xué)習(xí)之誤區(qū)[A];校園文學(xué)編輯部寫作教學(xué)年會(huì)論文集[C];2007年

5 時(shí)龍;;把握分析學(xué)情是改進(jìn)教學(xué)和促進(jìn)學(xué)習(xí)的基礎(chǔ)[A];2012·學(xué)術(shù)前沿論叢——科學(xué)發(fā)展：深化改革與改善民生（下）[C];2012年

6 韋彩紅;;如何組織學(xué)生共享學(xué)習(xí)成果[A];中華教育理論與實(shí)踐科研論文成果選編（第2卷）[C];2010年

7 格保耿;;培養(yǎng)學(xué)生學(xué)習(xí)物理的興趣[A];2014年5月現(xiàn)代教育教學(xué)探索學(xué)術(shù)交流會(huì)論文集[C];2014年

8 鈕榮榮;;關(guān)于小學(xué)數(shù)學(xué)教學(xué)中小組合作學(xué)習(xí)的幾點(diǎn)思考[A];2014年6月現(xiàn)代教育教學(xué)探索學(xué)術(shù)交流會(huì)論文集[C];2014年

9 陳妙;;讓數(shù)學(xué)課堂效率得到真正的提高——淺談新課改下學(xué)生學(xué)習(xí)興趣的培養(yǎng)[A];中華教育理論與實(shí)踐科研論文成果選編（第3卷）[C];2010年

10 黃春妙;;淺談?wù)Z文課堂合作學(xué)習(xí)的有效把握[A];中華教育理論與實(shí)踐科研論文成果選編（第3卷）[C];2010年

相關(guān)重要報(bào)紙文章 前10條

1 農(nóng)行浙江東陽(yáng)支行 吳新國(guó) 周龍飛;銀行如何創(chuàng)建學(xué)習(xí)型組織[N];上海金融報(bào);2003年

2 西北師范大學(xué) 李瑾瑜;校長(zhǎng)：如何引領(lǐng)和促進(jìn)教師學(xué)習(xí)[N];中國(guó)教育報(bào);2008年

3 永壽縣店頭中學(xué) 劉俊鋒;大力提倡合作學(xué)習(xí) 全面促進(jìn)有效教學(xué)[N];咸陽(yáng)日?qǐng)?bào);2009年

4 本報(bào)評(píng)論員;要在真學(xué)習(xí)上下功夫[N];酒泉日?qǐng)?bào);2009年

5 本報(bào)記者 李天然;學(xué)習(xí)應(yīng)該是一種終身行為[N];大連日?qǐng)?bào);2010年

6 劉繼芳;淺議建設(shè)學(xué)習(xí)型黨組織中的“學(xué)習(xí)”內(nèi)涵[N];伊犁日?qǐng)?bào)(漢);2010年

7 哈爾濱市第五醫(yī)院 蒙碩;淺談醫(yī)院創(chuàng)建學(xué)習(xí)型黨組織[N];黑龍江日?qǐng)?bào);2010年

8 翟愛霞;淺談如何深入推進(jìn)學(xué)習(xí)型黨組織建設(shè)[N];太行日?qǐng)?bào);2011年

9 李振 上海交通大學(xué)國(guó)際與公共事務(wù)學(xué)院;制度變遷中的制度學(xué)習(xí)[N];中國(guó)社會(huì)科學(xué)報(bào);2012年

10 重慶市教育評(píng)估院院長(zhǎng)、中國(guó)高等教育學(xué)會(huì)學(xué)習(xí)科學(xué)研究分會(huì)常務(wù)副會(huì)長(zhǎng) 龔春燕;實(shí)施新學(xué)習(xí)，建設(shè)學(xué)習(xí)型社會(huì)[N];中國(guó)教育報(bào);2013年

相關(guān)博士學(xué)位論文 前10條

1 徐峰;基于社會(huì)網(wǎng)絡(luò)的大學(xué)生學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)研究[D];江西財(cái)經(jīng)大學(xué);2014年

2 付亦寧;本科生深層學(xué)習(xí)過程及其教學(xué)策略研究[D];蘇州大學(xué);2014年

3 馮子勇;基于深度學(xué)習(xí)的圖像特征學(xué)習(xí)和分類方法的研究及應(yīng)用[D];華南理工大學(xué);2016年

4 王星;關(guān)系分類模型的學(xué)習(xí)界限與應(yīng)用[D];哈爾濱工業(yè)大學(xué);2015年

5 潘劍寒;基于多潛在空間的遷移學(xué)習(xí)算法研究[D];合肥工業(yè)大學(xué);2016年

6 楊春;反饋類型對(duì)大學(xué)生學(xué)習(xí)成績(jī)的影響：自我調(diào)節(jié)學(xué)習(xí)的中介作用[D];東北師范大學(xué);2016年

7 王浩宇;資源整合、創(chuàng)業(yè)學(xué)習(xí)與新創(chuàng)企業(yè)創(chuàng)新的關(guān)系研究[D];吉林大學(xué);2017年

8 田青;有序?qū)W習(xí)及在圖像分析中的應(yīng)用研究[D];南京航空航天大學(xué);2016年

9 鄒朋成;有監(jiān)督的相似性度量學(xué)習(xí)研究與應(yīng)用[D];南京航空航天大學(xué);2016年

10 楊南昌;學(xué)習(xí)科學(xué)視域中的設(shè)計(jì)研究[D];華東師范大學(xué);2008年

相關(guān)碩士學(xué)位論文 前10條

1 王以宣;感知教師支持、基本心理需要滿足與初中學(xué)生英語(yǔ)學(xué)習(xí)倦怠的關(guān)系[D];上海師范大學(xué);2015年

2 李榮敬;不同情緒狀態(tài)對(duì)學(xué)習(xí)判斷的影響[D];河北師范大學(xué);2015年

3 李蘭翠;M00C學(xué)習(xí)平臺(tái)的應(yīng)用研究[D];上海師范大學(xué);2015年

4 孫航;農(nóng)民工隨遷子女學(xué)習(xí)生態(tài)研究[D];上海師范大學(xué);2015年

5 左揚(yáng)揚(yáng);碎片化時(shí)代下企業(yè)微課程設(shè)計(jì)與應(yīng)用[D];上海師范大學(xué);2015年

6 戚政霞;基于翻轉(zhuǎn)課堂的小學(xué)語(yǔ)文教學(xué)設(shè)計(jì)研究[D];上海師范大學(xué);2015年

7 蘇治芳;小學(xué)中高年級(jí)“微課題式”語(yǔ)文學(xué)習(xí)的實(shí)踐研究[D];上海師范大學(xué);2015年

8 張華;提高中職生語(yǔ)文課堂學(xué)習(xí)動(dòng)力的策略研究[D];上海師范大學(xué);2015年

9 強(qiáng)敏;“學(xué)困生”的現(xiàn)狀調(diào)查與教育轉(zhuǎn)化途徑研究[D];寧夏師范學(xué)院;2015年

10 謝平;對(duì)初中學(xué)困生學(xué)習(xí)素質(zhì)提高的情感教育研究[D];河北大學(xué);2014年

，

本文編號(hào)：1683046