本文關(guān)鍵詞：屬性學習若干重要問題的研究及應用

  更多相關(guān)文章： 屬性 屬性學習 屬性關(guān)系 特征選擇 成對約束 代價敏感學習 結(jié)構(gòu)屬性 腦影像分類

【摘要】：作為對目標類的一種高層特征描述,屬性學習成為近年來機器學習和模式識別領(lǐng)域一個新的研究熱點。與傳統(tǒng)基于統(tǒng)計信息的低層特征(如顏色直方圖等)相比,屬性表示具有描述靈活度高、可解釋性好、推廣能力強等優(yōu)點�，F(xiàn)有研究表明,屬性的引入有助于簡化數(shù)據(jù)表示、降低模型復雜度,并顯著提高模型的精確度和魯棒性。雖然屬性學習在很多實際問題中取得了良好性能,但仍存在如下幾個重要問題有待解決:1)僅考慮了屬性和目標類之間的關(guān)系,忽略了對屬性和屬性間(相關(guān))關(guān)系的建模;2)沒有充分考慮高維特征對屬性學習帶來的困難;3)沒有足夠重視屬性分類任務(wù)中存在的類別不平衡所帶來的不利;4)缺乏特定的有效屬性表示方法,以對具有明顯結(jié)構(gòu)特點的圖像進行屬性描述。本文圍繞屬性學習方法中存在的上述若干重要問題進行深入研究,通過充分挖掘和利用與屬性相關(guān)的先驗信息,探討了屬性表示、屬性關(guān)系學習、屬性特征選擇和屬性分類模型設(shè)計等方法,并將上述模型和方法應用于解決目標識別和腦影像分析等實際問題。本文主要貢獻總結(jié)如下:(1)由于不同屬性從不同角度描述了同一目標類,因此這些屬性之間存在一定的相關(guān)關(guān)系。為了從數(shù)據(jù)中自動挖掘出這種屬性關(guān)系,本文提出了屬性學習一般框架下的自動屬性關(guān)系學習模型(attribute relationship learning,ARL)。具體地,在ARL模型中利用逆協(xié)方差矩陣來反映屬性之間的相關(guān)關(guān)系,并將其作為正則化項置入多屬性分類器的聯(lián)合學習目標之中,實現(xiàn)了屬性關(guān)系的顯式和自動建模。此外,為了充分利用從數(shù)據(jù)中學習到的這種屬性關(guān)系,本文設(shè)計了一種屬性關(guān)系嵌入方法,將ARL模型學得的屬性關(guān)系自然地嵌入到傳統(tǒng)(即不考慮屬性關(guān)系)屬性分類器的建模中,以提高傳統(tǒng)屬性分類器的學習性能。在四個標準屬性數(shù)據(jù)集上的實驗表明,所提方法不僅能夠精確刻畫屬性之間的相關(guān)關(guān)系,而且有助于提高屬性分類器在目標類信息嚴重不充分場景下的學習性能。(2)現(xiàn)有屬性學習方法通常利用多種低層特征,而這些低層特征往往維數(shù)較高。直接利用這些特征不僅會帶來巨大的存儲和計算負擔,而且會惡化模型的泛化性能。為此,本文提出了一種成對約束誘導的屬性特征選擇方法(pairwise constraint guided sparse feature selection,CGS),其利用給定的成對屬性約束信息對目標進行屬性描述,并提出了兩個基于成對約束誘導的正則化項用于屬性特征選擇。進一步地,本文提出了CGS的兩種變體,即半監(jiān)督CGS(semi-supervised CGS,SCGS)方法和集成CGS(ensemble CGS,ECGS)方法。實驗結(jié)果表明,所提方法可以有效降低屬性分類任務(wù)中的特征維數(shù),并顯著提高了監(jiān)督和半監(jiān)督場景下的屬性分類性能。(3)現(xiàn)有屬性學習方法中,所有目標類通常共享一組公共屬性。由于在某些特定屬性上可能只有較少的目標類有響應,因此共享屬性表示的方法會導致嚴重的類別不平衡問題。針對這一問題,本文提出了一種雙重代價敏感的屬性分類模型(two-stage cost-sensitive learning,TSCS),即在特征選擇階段和分類器設(shè)計階段分別引入代價敏感信息。具體地,在第一階段提出了三種基于代價敏感信息的特征選擇方法,旨在選擇能使誤分類代價最小的特征子集;在第二階段,利用代價敏感分類器進行屬性分類,旨在使分類器不會被大量的負例樣本所主導。實驗結(jié)果表明,與傳統(tǒng)方法相比,本文所提方法能在不降低屬性分類精度的前提下大幅度降低誤分類總代價。(4)現(xiàn)有屬性表示方法主要利用語義屬性、視覺屬性和判別性屬性對目標類進行描述,無法對具有明顯結(jié)構(gòu)信息的圖像進行有效表達。受計算機視覺領(lǐng)域中屬性定義方法的啟發(fā),本文首先提出腦影像的結(jié)構(gòu)屬性表示方法,然后提出一種通過聚類方式自動確定結(jié)構(gòu)屬性的算法,并由此形成了一套通用的基于結(jié)構(gòu)屬性表示的腦影像分類框架。該框架涉及:1)利用多種結(jié)構(gòu)屬性實現(xiàn)對腦影像的特征表示,2)通過關(guān)系誘導的特征選擇模型進行特征選擇,3)通過基于多結(jié)構(gòu)屬性的集成分類方法對腦影像進行自動分類等。在標準數(shù)據(jù)集上的實驗驗證了所提方法的有效性。
【關(guān)鍵詞】：屬性 屬性學習 屬性關(guān)系 特征選擇 成對約束 代價敏感學習 結(jié)構(gòu)屬性 腦影像分類
【學位授予單位】：南京航空航天大學
【學位級別】：博士
【學位授予年份】：2015
【分類號】：TP18
【目錄】：

• 摘要4-6
• ABSTRACT6-15
• 第一章 緒論15-27
• 1.1 引言15-16
• 1.2 屬性學習16-23
• 1.2.1 基本概念16-17
• 1.2.2 屬性學習一般框架17-18
• 1.2.3 研究現(xiàn)狀18-21
• 1.2.4 面臨的挑戰(zhàn)21-23
• 1.3 本文的主要研究工作23-25
• 1.4 本文的內(nèi)容安排25-27
• 第二章 屬性關(guān)系自動學習27-45
• 2.1 引言27-28
• 2.2 屬性關(guān)系自動學習模型28-32
• 2.2.1 動機28-29
• 2.2.2 模型29-30
• 2.2.3 優(yōu)化算法30-31
• 2.2.4 核擴展31-32
• 2.3 基于屬性關(guān)系學習的零樣本分類框架32-35
• 2.3.1 直接屬性預測模型32-34
• 2.3.2 基于屬性關(guān)系的零樣本分類34-35
• 2.4 數(shù)據(jù)集及實驗設(shè)置35-37
• 2.4.1 數(shù)據(jù)集35-37
• 2.4.2 實驗設(shè)置37
• 2.5 屬性分類實驗及分析37-41
• 2.5.1 所學到的屬性關(guān)系38-39
• 2.5.2 屬性分類結(jié)果39-41
• 2.6 零樣本分類實驗及分析41-43
• 2.6.1 AWA數(shù)據(jù)集上的實驗41-42
• 2.6.2 TWA數(shù)據(jù)集上的實驗42-43
• 2.7 本章小結(jié)43-44
• 本章部分內(nèi)容出自以下論文44-45
• 第三章 基于成對約束的屬性特征選擇45-69
• 3.1 引言45-46
• 3.2 特征選擇相關(guān)工作46-48
• 3.2.1 全監(jiān)督和半監(jiān)督特征選擇46-47
• 3.2.2 基于成對約束的特征選擇47-48
• 3.2.3 基于L1-范數(shù)的稀疏特征選擇48
• 3.3 成對約束誘導的稀疏特征選擇模型48-54
• 3.3.1 動機與建模48-50
• 3.3.2 優(yōu)化算法50-52
• 3.3.3 半監(jiān)督擴展52
• 3.3.4 集成擴展52-54
• 3.4 實驗及分析54-64
• 3.4.1 數(shù)據(jù)集54-55
• 3.4.2 實驗設(shè)置55-56
• 3.4.3 CGS選到的特征56-57
• 3.4.4 全監(jiān)督分類實驗57-59
• 3.4.5 半監(jiān)督分類實驗59-60
• 3.4.6 集成分類實驗60-61
• 3.4.7 屬性分類實驗61-64
• 3.5 討論64-66
• 3.5.1 參數(shù)對實驗結(jié)果的影響64-65
• 3.5.2 成對約束數(shù)目對實驗結(jié)果的影響65-66
• 3.5.3 與稀疏分類器的比較66
• 3.6 本章小結(jié)66-67
• 本章部分內(nèi)容出自以下論文67-69
• 第四章 雙重代價敏感屬性分類69-85
• 4.1 引言69
• 4.2 背景知識69-71
• 4.2.1 類別不平衡問題69-70
• 4.2.2 代價敏感學習70-71
• 4.3 雙重代價敏感學習71-74
• 4.3.1 動機71
• 4.3.2 框架71-73
• 4.3.3 代價敏感特征選擇73-74
• 4.4 實驗及分析74-81
• 4.4.1 數(shù)據(jù)集74-75
• 4.4.2 實驗設(shè)置75-77
• 4.4.3 雙重代價敏感屬性分類實驗77-79
• 4.4.4 雙重代價敏感與單階段代價敏感分類實驗79-81
• 4.4.5 基于代價敏感特征選擇的分類實驗81
• 4.5 討論81-83
• 4.5.1 特征選擇對實驗結(jié)果的影響81-82
• 4.5.2 代價比對實驗結(jié)果的影響82-83
• 4.6 本章小結(jié)83
• 本章部分內(nèi)容出自以下論文83-85
• 第五章 基于結(jié)構(gòu)屬性的腦影像分類85-101
• 5.1 引言85-86
• 5.2 腦影像的結(jié)構(gòu)屬性表示86-88
• 5.3 基于結(jié)構(gòu)屬性的阿爾茨海默病分類88-91
• 5.3.1 一般框架88-89
• 5.3.2 特征提取89
• 5.3.3 特征選擇89-91
• 5.3.4 分類器集成91
• 5.4 實驗及分析91-98
• 5.4.1 數(shù)據(jù)集91-92
• 5.4.2 實驗設(shè)置92-93
• 5.4.3 基于單結(jié)構(gòu)屬性的分類實驗93-94
• 5.4.4 基于多結(jié)構(gòu)屬性的分類實驗94-97
• 5.4.5 與當前流行方法的比較97-98
• 5.5 討論98-100
• 5.5.1 參數(shù)對實驗結(jié)果的影響98-99
• 5.5.2 分類器集成的多樣性分析99-100
• 5.6 本章小結(jié)100
• 本章部分內(nèi)容出自以下論文100-101
• 第六章 結(jié)束語101-103
• 6.1 本文工作總結(jié)101-102
• 6.2 進一步的研究工作102-103
• 參考文獻103-115
• 致謝115-117
• 在學期間的研究成果及發(fā)表的學術(shù)論文117-118

【相似文獻】

中國期刊全文數(shù)據(jù)庫 前10條

1 孫霞;鄭慶華;;一種面向非平衡數(shù)據(jù)的鄰居詞特征選擇方法[J];小型微型計算機系統(tǒng);2008年12期

2 蔣盛益;鄭琪;張倩生;;基于聚類的特征選擇方法[J];電子學報;2008年S1期

3 王加龍;朱顥東;;結(jié)合類別相關(guān)性和辨識集的特征選擇方法[J];微型機與應用;2009年23期

4 朱顥東;周姝;鐘勇;;結(jié)合差別對象對集的綜合性特征選擇方法[J];計算機工程與設(shè)計;2010年03期

5 姜慧研;柴天佑;;基于可信間隔的特征選擇方法研究[J];控制與決策;2011年08期

6 姚旭;王曉丹;張玉璽;權(quán)文;;特征選擇方法綜述[J];控制與決策;2012年02期

7 王志昊;王中卿;李壽山;李培峰;;不平衡情感分類中的特征選擇方法研究[J];中文信息學報;2013年04期

8 張玉紅;周全;胡學鋼;;面向跨領(lǐng)域情感分類的特征選擇方法[J];模式識別與人工智能;2013年11期

9 李敏;卡米力·木依丁;;特征選擇方法與算法的研究[J];計算機技術(shù)與發(fā)展;2013年12期

10 申清明;閆利軍;高建民;趙靜;;基于混沌搜索的特征選擇方法[J];兵工學報;2013年12期

中國重要會議論文全文數(shù)據(jù)庫 前6條

1 徐燕;王斌;李錦濤;孫春明;;知識增益：文本分類中一種新的特征選擇方法[A];第三屆全國信息檢索與內(nèi)容安全學術(shù)會議論文集[C];2007年

2 肖婷;唐雁;;文本分類中特征選擇方法及應用[A];2008年計算機應用技術(shù)交流會論文集[C];2008年

3 徐燕;孫春明;王斌;李錦濤;;基于詞條頻率的特征選擇算法研究[A];中文信息處理前沿進展——中國中文信息學會二十五周年學術(shù)會議論文集[C];2006年

4 陳慶軒;鄭德權(quán);鄭博文;趙鐵軍;李生;;中文文本分類中基于文檔頻度分布的特征選擇方法[A];黑龍江省計算機學會2009年學術(shù)交流年會論文集[C];2010年

5 顧成杰;張順頤;劉凱;黃河;;基于粗糙集和禁忌搜索的特征選擇方法[A];江蘇省電子學會2010年學術(shù)年會論文集[C];2010年

6 王秀娟;郭軍;鄭康鋒;;基于互信息可信度的特征選擇方法[A];2006通信理論與技術(shù)新進展——第十一屆全國青年通信學術(shù)會議論文集[C];2006年

中國博士學位論文全文數(shù)據(jù)庫 前4條

1 劉明霞;屬性學習若干重要問題的研究及應用[D];南京航空航天大學;2015年

2 毛勇;基于支持向量機的特征選擇方法的研究與應用[D];浙江大學;2006年

3 尹留志;關(guān)于非平衡數(shù)據(jù)特征問題的研究[D];中國科學技術(shù)大學;2014年

4 裴志利;數(shù)據(jù)挖掘技術(shù)在文本分類和生物信息學中的應用[D];吉林大學;2008年

中國碩士學位論文全文數(shù)據(jù)庫 前10條

1 曹晉;基于SVDD的特征選擇方法研究及其應用[D];蘇州大學;2015年

2 張強;靜態(tài)圖像上的行人檢測方法研究[D];中國科學技術(shù)大學;2015年

3 張曉梅;基于融合特征的微博主客觀分類方法研究[D];山西大學;2014年

4 王君;基于SVM-RFE的特征選擇方法研究[D];大連理工大學;2015年

5 于海珠;面向文本聚類的特征選擇方法及應用研究[D];大連理工大學;2015年

6 趙世琛;文本分類中特征選擇方法研究[D];山西大學;2014年

7 王丹;特征選擇算法研究及其在異常檢測中的應用[D];電子科技大學;2014年

8 林艷峰;中文文本分類特征選擇方法的研究與實現(xiàn)[D];西安電子科技大學;2014年

9 盧志浩;基于GEP的kNN算法改進研究[D];廣西師范學院;2015年

10 王立鵬;面向圖數(shù)據(jù)的特征選擇方法及其應用研究[D];南京航空航天大學;2015年

，

本文編號：797741