【摘要】：從大規(guī)模數(shù)據(jù)中提取有用的信息是人工智能面臨的一個主要挑戰(zhàn)。作為一種有效的信息過濾和數(shù)據(jù)摘要手段,子集選擇方法通過從大規(guī)模數(shù)據(jù)中選取一個最具信息量的子集來代表整個數(shù)據(jù)集以減小需要處理的數(shù)據(jù)規(guī)模。此外,子集選擇方法也用于改進(jìn)相關(guān)領(lǐng)域中的模型以提高其泛化性能。本文主要研究基于組稀疏的子集選擇方法在多核學(xué)習(xí)和多任務(wù)學(xué)習(xí)中的應(yīng)用,其中在多核學(xué)習(xí)中分別利用具有代表性的核來減少不同相似性度量和不同數(shù)據(jù)源信息的冗余,而在多任務(wù)學(xué)習(xí)中則利用具有代表性的任務(wù)來充分發(fā)掘任務(wù)的潛在聚類結(jié)構(gòu)。首先,本文提出了一種有效的多核聚類方法,其通過選擇具有代表性的核函數(shù)來增強基礎(chǔ)核之間的多樣性。具體來說,我們首先設(shè)計一種策略從預(yù)先指定的核函數(shù)中選擇一個具有代表性的子集,然后將這種代表性核選擇策略合并到多核聚類的目標(biāo)函數(shù)中,最后提出一種交替優(yōu)化方法來優(yōu)化聚類成員和核函數(shù)的權(quán)重。特別地,我們設(shè)計了一種定制的優(yōu)化方法,通過交替方向乘子法來減少優(yōu)化核權(quán)重的時間復(fù)雜度�；鶞�(zhǔn)數(shù)據(jù)集和實際數(shù)據(jù)集上的實驗結(jié)果驗證了所提出的方法的有效性。與現(xiàn)有方法相比,所提方法的優(yōu)勢表明由代表性核選擇誘導(dǎo)的正則化可以有效改善組合核函數(shù)的質(zhì)量。接著,基于非負(fù)矩陣分解,本文在多核學(xué)習(xí)框架下提出了一種新穎的數(shù)據(jù)融合方法來整合來自不同數(shù)據(jù)源的表示信息以得到高質(zhì)量的數(shù)據(jù)表示。不同于直接以凸方式組合多個不同數(shù)據(jù)源的信息對應(yīng)的核矩陣,我們引入正則化項來表征這些成對核矩陣之間的相似性以減少不同數(shù)據(jù)源的信息中存在的冗余。值得注意的是,得到的目標(biāo)函數(shù)可以被視為代表性核選擇的變體。接著,一種基于交替方向乘子法的優(yōu)化方法被設(shè)計用于目標(biāo)函數(shù)的求解。我們通過人臉識別任務(wù)來評估所提方法,其在三個數(shù)據(jù)集上的實驗結(jié)果證明了多樣性數(shù)據(jù)融合的優(yōu)勢。最后,基于假設(shè)——多任務(wù)學(xué)習(xí)中每個任務(wù)可以通過一些具有代表性的任務(wù)的線性組合來表示,本文通過選擇具有代表性的任務(wù)為聚類多任務(wù)學(xué)習(xí)提供了一種魯棒的任務(wù)分組方法。具體而言,我們通過選擇與其它任務(wù)共享最多信息的代表性任務(wù)來發(fā)掘任務(wù)的潛在聚類結(jié)構(gòu)�；诠蚕淼拇硇匀蝿�(wù),相關(guān)任務(wù)被劃分為不同的組,使得組內(nèi)任務(wù)之間可以在一定程度上共享信息。此外,魯棒的損失函數(shù)用于度量每個任務(wù)與其代表性任務(wù)線性組合得到的表示之間的誤差,這可以有效減小異常任務(wù)的影響。人工和實際數(shù)據(jù)集上的實驗結(jié)果表明所提出的方法優(yōu)于許多現(xiàn)有的多任務(wù)學(xué)習(xí)方法。
【圖文】：

的特征不僅可以縮短學(xué)習(xí)算法的訓(xùn)練時間，而且可以減少過度擬合以提高模型逡逑的泛化性能。數(shù)據(jù)樣本子集選擇［１４，邋１７］有助于總結(jié)和可視化文檔、圖像以及視逡逑頻等數(shù)據(jù)集，因此，其能夠幫助數(shù)據(jù)分析師提供大規(guī)模數(shù)據(jù)的可解釋性。圖１．１給逡逑出了視頻摘要和文檔摘要的圖示。模型子集選擇［１８］有助于用少量模型來有效逡逑１逡逑

務(wù)學(xué)習(xí)的性能。因此，本文拓寬了基于組稀疏的子集選擇方法的應(yīng)用范圍。逡逑１．４本文結(jié)構(gòu)安排逡逑本文的結(jié)構(gòu)安排如圖１．２所示。第１章首先介紹本文的研宄背景和研宄意義，逡逑然后概述國內(nèi)外研宄現(xiàn)狀，包括子集選擇方法和基于組稀疏子集選擇方法的應(yīng)逡逑用，，最后介紹本文的研究內(nèi)容和方法。第２章是相關(guān)工作介紹，包括線性模型及逡逑其正則化、基于組稀疏的子集選擇方法、多核學(xué)習(xí)和多任務(wù)學(xué)習(xí)。第３至５章為本逡逑文主要工作。具體來說，第３章和第４章分別討論基于組稀疏的子集選擇方法在多逡逑核學(xué)習(xí)的兩種情形下的應(yīng)用：基于組稀疏子集選擇的多核聚類和基于多核非負(fù)逡逑矩陣分解的數(shù)據(jù)融合；第５章討論基于組稀疏子集選擇的聚類多任務(wù)學(xué)習(xí)。最后，逡逑第６章總結(jié)本文工作并給出對未來工作的展望。逡逑７逡逑
【學(xué)位授予單位】：中國科學(xué)技術(shù)大學(xué)
【學(xué)位級別】：博士
【學(xué)位授予年份】：2019
【分類號】：TP18

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 謝超蘭;;高中英語任務(wù)型閱讀教學(xué)初探[J];青少年日記(教育教學(xué)研究);2016年08期

2 楊玲麗;;優(yōu)化方式,自主探究——“任務(wù)學(xué)習(xí)單”在綜合實踐活動中的運用[J];華夏教師;2014年S1期

3 華芳;;例談用好“任務(wù)學(xué)習(xí)單”[J];七彩語文(教師論壇);2015年08期

4 ;介紹Jane Willis著《任務(wù)學(xué)習(xí)法概覽》[J];外語教學(xué)與研究;1998年04期

5 許棣華;王志堅;;基于多任務(wù)學(xué)習(xí)的郵件過濾系統(tǒng)的研究[J];計算機技術(shù)與發(fā)展;2010年10期

6 李松林,甘健侯;基于任務(wù)學(xué)習(xí)法的素質(zhì)教育研究[J];學(xué)術(shù)探索;2002年02期

7 余傳明;李浩男;安璐;;基于多任務(wù)深度學(xué)習(xí)的文本情感原因分析[J];廣西師范大學(xué)學(xué)報(自然科學(xué)版);2019年01期

8 韓鳳娟;肖春靜;王歡;;基于多任務(wù)學(xué)習(xí)的微博流行度預(yù)測[J];河南大學(xué)學(xué)報(自然科學(xué)版);2017年05期

9 馬愷;;基于樹結(jié)構(gòu)的多任務(wù)學(xué)習(xí)算法[J];福建電腦;2017年09期

10 嚴(yán)育洪;;設(shè)計好“大任務(wù)”,讓學(xué)生看見“知識就是力量”[J];小學(xué)教學(xué)(數(shù)學(xué)版);2018年03期

相關(guān)會議論文 前4條

1 ;任務(wù)驅(qū)動式教學(xué)法[A];中學(xué)教育科研2017年5-6期（總第216-217期）[C];2017年

2 張宇;張鵬遠(yuǎn);顏永紅;;基于注意力LSTM和多任務(wù)學(xué)習(xí)的遠(yuǎn)場語音識別[A];第十四屆全國人機語音通訊學(xué)術(shù)會議（NCMMSC’2017）論文集[C];2017年

3 雷加美;;英語教學(xué)中的任務(wù)型閱讀模式研究[A];十三五規(guī)劃科研成果匯編(第二卷)[C];2017年

4 田滿紅;;中級工數(shù)學(xué)課程與專業(yè)結(jié)合的教學(xué)實踐[A];中國職協(xié)2016年度優(yōu)秀科研成果獲獎?wù)撐募▽W(xué)校二等獎）[C];2016年

相關(guān)重要報紙文章 前5條

1 江蘇省無錫市錫山教師進(jìn)修學(xué)校 嚴(yán)育洪;尋找撬起課堂的支點[N];中國教師報;2017年

2 記者 徐愛龍;緊抓首要政治任務(wù)學(xué)習(xí)宣傳貫徹好十八大精神 緊密聯(lián)系自身實際主動服務(wù)全面小康社會建設(shè)[N];甘肅日報;2012年

3 記者 徐愛龍;緊抓首要政治任務(wù)學(xué)習(xí)宣傳貫徹好十八大精神 緊密聯(lián)系自身實際主動服務(wù)全面小康社會建設(shè)[N];甘肅法制報;2012年

4 本報記者 朱穎婕;課堂如何跟上“超越課本”的學(xué)生[N];文匯報;2018年

5 撰稿 段麗 策劃 吉奉剛;MVP注入發(fā)展新動力[N];中國郵政報;2012年

相關(guān)博士學(xué)位論文 前7條

1 姚亞強;基于組稀疏的子集選擇應(yīng)用研究[D];中國科學(xué)技術(shù)大學(xué);2019年

2 張曉彤;多任務(wù)聚類研究[D];大連理工大學(xué);2018年

3 宋錦華;強化學(xué)習(xí)遷移中的源任務(wù)選擇研究[D];南京大學(xué);2018年

4 李聰;基于多核與多任務(wù)學(xué)習(xí)的雷達(dá)目標(biāo)識別方法研究[D];西安電子科技大學(xué);2018年

5 李亞;多任務(wù)學(xué)習(xí)的研究[D];中國科學(xué)技術(shù)大學(xué);2018年

6 浦劍;多任務(wù)學(xué)習(xí)算法研究[D];復(fù)旦大學(xué);2013年

7 楊名;矩陣廣義逆高斯分布在多任務(wù)學(xué)習(xí)中的應(yīng)用[D];浙江大學(xué);2014年

相關(guān)碩士學(xué)位論文 前10條

1 龐磊;基于多任務(wù)學(xué)習(xí)的面部信息分析系統(tǒng)研究與實現(xiàn)[D];北京郵電大學(xué);2019年

2 楊榮欽;基于多任務(wù)學(xué)習(xí)的密集注意力網(wǎng)絡(luò)在機器閱讀上的應(yīng)用[D];浙江大學(xué);2019年

3 馬建陽;基于多任務(wù)學(xué)習(xí)的數(shù)據(jù)分類方法研究[D];北京交通大學(xué);2018年

4 李學(xué)兵;異構(gòu)多任務(wù)學(xué)習(xí)以及任務(wù)分組效率研究[D];燕山大學(xué);2018年

5 金鳳;多視角的構(gòu)建及其在單任務(wù)學(xué)習(xí)和多任務(wù)學(xué)習(xí)中的應(yīng)用[D];華東師范大學(xué);2010年

6 黃艾青;基于疊加模型的多任務(wù)學(xué)習(xí)及應(yīng)用[D];中國科學(xué)技術(shù)大學(xué);2015年

7 劉凌波;基于多任務(wù)學(xué)習(xí)的年齡估計研究[D];中南大學(xué);2012年

8 戴美銀;基于動態(tài)模糊集的半監(jiān)督多任務(wù)學(xué)習(xí)[D];蘇州大學(xué);2012年

9 周茜;基于多任務(wù)學(xué)習(xí)的人臉識別方法[D];西北大學(xué);2013年

10 鄒亮;基于多任務(wù)學(xué)習(xí)的微博信息流重排序研究[D];西安電子科技大學(xué);2017年

本文編號：2706806