【摘要】：從大規(guī)模數據中提取有用的信息是人工智能面臨的一個主要挑戰(zhàn)。作為一種有效的信息過濾和數據摘要手段,子集選擇方法通過從大規(guī)模數據中選取一個最具信息量的子集來代表整個數據集以減小需要處理的數據規(guī)模。此外,子集選擇方法也用于改進相關領域中的模型以提高其泛化性能。本文主要研究基于組稀疏的子集選擇方法在多核學習和多任務學習中的應用,其中在多核學習中分別利用具有代表性的核來減少不同相似性度量和不同數據源信息的冗余,而在多任務學習中則利用具有代表性的任務來充分發(fā)掘任務的潛在聚類結構。首先,本文提出了一種有效的多核聚類方法,其通過選擇具有代表性的核函數來增強基礎核之間的多樣性。具體來說,我們首先設計一種策略從預先指定的核函數中選擇一個具有代表性的子集,然后將這種代表性核選擇策略合并到多核聚類的目標函數中,最后提出一種交替優(yōu)化方法來優(yōu)化聚類成員和核函數的權重。特別地,我們設計了一種定制的優(yōu)化方法,通過交替方向乘子法來減少優(yōu)化核權重的時間復雜度�；鶞蕯祿蛯嶋H數據集上的實驗結果驗證了所提出的方法的有效性。與現有方法相比,所提方法的優(yōu)勢表明由代表性核選擇誘導的正則化可以有效改善組合核函數的質量。接著,基于非負矩陣分解,本文在多核學習框架下提出了一種新穎的數據融合方法來整合來自不同數據源的表示信息以得到高質量的數據表示。不同于直接以凸方式組合多個不同數據源的信息對應的核矩陣,我們引入正則化項來表征這些成對核矩陣之間的相似性以減少不同數據源的信息中存在的冗余。值得注意的是,得到的目標函數可以被視為代表性核選擇的變體。接著,一種基于交替方向乘子法的優(yōu)化方法被設計用于目標函數的求解。我們通過人臉識別任務來評估所提方法,其在三個數據集上的實驗結果證明了多樣性數據融合的優(yōu)勢。最后,基于假設——多任務學習中每個任務可以通過一些具有代表性的任務的線性組合來表示,本文通過選擇具有代表性的任務為聚類多任務學習提供了一種魯棒的任務分組方法。具體而言,我們通過選擇與其它任務共享最多信息的代表性任務來發(fā)掘任務的潛在聚類結構�；诠蚕淼拇硇匀蝿�,相關任務被劃分為不同的組,使得組內任務之間可以在一定程度上共享信息。此外,魯棒的損失函數用于度量每個任務與其代表性任務線性組合得到的表示之間的誤差,這可以有效減小異常任務的影響。人工和實際數據集上的實驗結果表明所提出的方法優(yōu)于許多現有的多任務學習方法。
【圖文】：

的特征不僅可以縮短學習算法的訓練時間，而且可以減少過度擬合以提高模型逡逑的泛化性能。數據樣本子集選擇［１４，邋１７］有助于總結和可視化文檔、圖像以及視逡逑頻等數據集，因此，其能夠幫助數據分析師提供大規(guī)模數據的可解釋性。圖１．１給逡逑出了視頻摘要和文檔摘要的圖示。模型子集選擇［１８］有助于用少量模型來有效逡逑１逡逑

務學習的性能。因此，本文拓寬了基于組稀疏的子集選擇方法的應用范圍。逡逑１．４本文結構安排逡逑本文的結構安排如圖１．２所示。第１章首先介紹本文的研宄背景和研宄意義，逡逑然后概述國內外研宄現狀，包括子集選擇方法和基于組稀疏子集選擇方法的應逡逑用，，最后介紹本文的研究內容和方法。第２章是相關工作介紹，包括線性模型及逡逑其正則化、基于組稀疏的子集選擇方法、多核學習和多任務學習。第３至５章為本逡逑文主要工作。具體來說，第３章和第４章分別討論基于組稀疏的子集選擇方法在多逡逑核學習的兩種情形下的應用：基于組稀疏子集選擇的多核聚類和基于多核非負逡逑矩陣分解的數據融合；第５章討論基于組稀疏子集選擇的聚類多任務學習。最后，逡逑第６章總結本文工作并給出對未來工作的展望。逡逑７逡逑
【學位授予單位】：中國科學技術大學
【學位級別】：博士
【學位授予年份】：2019
【分類號】：TP18

【相似文獻】

相關期刊論文 前10條

1 謝超蘭;;高中英語任務型閱讀教學初探[J];青少年日記(教育教學研究);2016年08期

2 楊玲麗;;優(yōu)化方式,自主探究——“任務學習單”在綜合實踐活動中的運用[J];華夏教師;2014年S1期

3 華芳;;例談用好“任務學習單”[J];七彩語文(教師論壇);2015年08期

4 ;介紹Jane Willis著《任務學習法概覽》[J];外語教學與研究;1998年04期

5 許棣華;王志堅;;基于多任務學習的郵件過濾系統的研究[J];計算機技術與發(fā)展;2010年10期

6 李松林,甘健侯;基于任務學習法的素質教育研究[J];學術探索;2002年02期

7 余傳明;李浩男;安璐;;基于多任務深度學習的文本情感原因分析[J];廣西師范大學學報(自然科學版);2019年01期

8 韓鳳娟;肖春靜;王歡;;基于多任務學習的微博流行度預測[J];河南大學學報(自然科學版);2017年05期

9 馬愷;;基于樹結構的多任務學習算法[J];福建電腦;2017年09期

10 嚴育洪;;設計好“大任務”,讓學生看見“知識就是力量”[J];小學教學(數學版);2018年03期

相關會議論文 前4條

1 ;任務驅動式教學法[A];中學教育科研2017年5-6期（總第216-217期）[C];2017年

2 張宇;張鵬遠;顏永紅;;基于注意力LSTM和多任務學習的遠場語音識別[A];第十四屆全國人機語音通訊學術會議（NCMMSC’2017）論文集[C];2017年

3 雷加美;;英語教學中的任務型閱讀模式研究[A];十三五規(guī)劃科研成果匯編(第二卷)[C];2017年

4 田滿紅;;中級工數學課程與專業(yè)結合的教學實踐[A];中國職協2016年度優(yōu)秀科研成果獲獎論文集（學校二等獎）[C];2016年

相關重要報紙文章 前5條

1 江蘇省無錫市錫山教師進修學校 嚴育洪;尋找撬起課堂的支點[N];中國教師報;2017年

2 記者 徐愛龍;緊抓首要政治任務學習宣傳貫徹好十八大精神 緊密聯系自身實際主動服務全面小康社會建設[N];甘肅日報;2012年

3 記者 徐愛龍;緊抓首要政治任務學習宣傳貫徹好十八大精神 緊密聯系自身實際主動服務全面小康社會建設[N];甘肅法制報;2012年

4 本報記者 朱穎婕;課堂如何跟上“超越課本”的學生[N];文匯報;2018年

5 撰稿 段麗 策劃 吉奉剛;MVP注入發(fā)展新動力[N];中國郵政報;2012年

相關博士學位論文 前7條

1 姚亞強;基于組稀疏的子集選擇應用研究[D];中國科學技術大學;2019年

2 張曉彤;多任務聚類研究[D];大連理工大學;2018年

3 宋錦華;強化學習遷移中的源任務選擇研究[D];南京大學;2018年

4 李聰;基于多核與多任務學習的雷達目標識別方法研究[D];西安電子科技大學;2018年

5 李亞;多任務學習的研究[D];中國科學技術大學;2018年

6 浦劍;多任務學習算法研究[D];復旦大學;2013年

7 楊名;矩陣廣義逆高斯分布在多任務學習中的應用[D];浙江大學;2014年

相關碩士學位論文 前10條

1 龐磊;基于多任務學習的面部信息分析系統研究與實現[D];北京郵電大學;2019年

2 楊榮欽;基于多任務學習的密集注意力網絡在機器閱讀上的應用[D];浙江大學;2019年

3 馬建陽;基于多任務學習的數據分類方法研究[D];北京交通大學;2018年

4 李學兵;異構多任務學習以及任務分組效率研究[D];燕山大學;2018年

5 金鳳;多視角的構建及其在單任務學習和多任務學習中的應用[D];華東師范大學;2010年

6 黃艾青;基于疊加模型的多任務學習及應用[D];中國科學技術大學;2015年

7 劉凌波;基于多任務學習的年齡估計研究[D];中南大學;2012年

8 戴美銀;基于動態(tài)模糊集的半監(jiān)督多任務學習[D];蘇州大學;2012年

9 周茜;基于多任務學習的人臉識別方法[D];西北大學;2013年

10 鄒亮;基于多任務學習的微博信息流重排序研究[D];西安電子科技大學;2017年

本文編號：2706806