隨著大數(shù)據(jù)時代的到來,不斷革新的科技產(chǎn)品產(chǎn)生了海量的數(shù)據(jù)。數(shù)據(jù)的維度和復雜程度也隨科技的進步而不斷的增長,從而導致維度詛咒問題。但是這些高維數(shù)據(jù)中蘊含在少數(shù)數(shù)據(jù)維度之間的有效信息才是人類日常生活中所需的,這導致數(shù)據(jù)維度隨技術的發(fā)展增長和人類為了獲取有效信息而降低數(shù)據(jù)維度的矛盾。為幫助各領域有序的發(fā)展,特征選擇算法應運而生。特征選擇是通過一定的技術手段從原始的數(shù)據(jù)特征集中選擇最優(yōu)的特征子集,然后利用該子集進行后續(xù)的數(shù)據(jù)分析。特征選擇方法可以降低算法的復雜度,提高算法的執(zhí)行效率,因此成為處理高維度數(shù)據(jù)的一項有效手段。通常根據(jù)數(shù)據(jù)標簽的存在情況可以將特征選擇算法分為有監(jiān)督特征選擇（Supervised Feature Selection）、弱監(jiān)督特征選擇（Weakly Supervised Feature Selection）和無監(jiān)督特征選擇（Unsupervised Feature Selection）。根據(jù)特征選擇和分類學習算法的關系可以將特征選擇分成過濾式（Filter）、包裹式（Wrapper）和嵌入式（Embedded）。在我們的方法中,由于著重考慮標簽空間中的有效信息,因此在我們... 

【文章來源】：吉林大學吉林省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：68 頁

【學位級別】：碩士

【部分圖文】：

過濾式模型與學習算法關系圖

第1章緒論5分類性能較高，缺點是計算成本大。其中遞歸式的特征消除法(RecursiveFeatureEliminationAlgorithm)屬于經(jīng)典的包裹式方法。嵌入式(Embedded)模型考慮了過濾式和包裹式模型的優(yōu)缺點，然后直接將特征選擇過程嵌入到后續(xù)的分類學習算法中，再利用各種正則化技術對損失函數(shù)和正則化約束項進行設計和改進，開發(fā)適當?shù)膬?yōu)化算法進行優(yōu)化求解。嵌入式特征選擇模型常常從整體角度選擇出一個最優(yōu)的特征子集。經(jīng)典的算法包括分類決策樹算法及其相關變體算法C4.5等[18]。近期，聶飛平等人提出矩陣的L1范數(shù)和L2范數(shù)的巧妙組合形成新的L2,1范數(shù)在嵌入式特征選擇中展現(xiàn)出極佳的性能，因而被廣泛關注[11]。整體上來說，嵌入式方法計算成本沒有包裹式模型高，而泛化能力比過濾式強。這三種特征選擇算法模型與后續(xù)的學習算法的關系通過如下所示的圖1.1,1.2,1.3展示：圖1.1過濾式模型與學習算法關系圖圖1.2包裹式模型與學習算法關系圖圖1.3嵌入式模型與學習算法關系圖

第1章緒論5分類性能較高，缺點是計算成本大。其中遞歸式的特征消除法(RecursiveFeatureEliminationAlgorithm)屬于經(jīng)典的包裹式方法。嵌入式(Embedded)模型考慮了過濾式和包裹式模型的優(yōu)缺點，然后直接將特征選擇過程嵌入到后續(xù)的分類學習算法中，再利用各種正則化技術對損失函數(shù)和正則化約束項進行設計和改進，開發(fā)適當?shù)膬?yōu)化算法進行優(yōu)化求解。嵌入式特征選擇模型常常從整體角度選擇出一個最優(yōu)的特征子集。經(jīng)典的算法包括分類決策樹算法及其相關變體算法C4.5等[18]。近期，聶飛平等人提出矩陣的L1范數(shù)和L2范數(shù)的巧妙組合形成新的L2,1范數(shù)在嵌入式特征選擇中展現(xiàn)出極佳的性能，因而被廣泛關注[11]。整體上來說，嵌入式方法計算成本沒有包裹式模型高，而泛化能力比過濾式強。這三種特征選擇算法模型與后續(xù)的學習算法的關系通過如下所示的圖1.1,1.2,1.3展示：圖1.1過濾式模型與學習算法關系圖圖1.2包裹式模型與學習算法關系圖圖1.3嵌入式模型與學習算法關系圖

【參考文獻】：
期刊論文
[1]A brief introduction to weakly supervised learning[J]. Zhi-Hua Zhou.  National Science Review. 2018(01)
[2]特征選擇方法綜述[J]. 姚旭,王曉丹,張玉璽,權文.  控制與決策. 2012(02)

博士論文
[1]弱監(jiān)督多標記學習[D]. 徐淼.南京大學 2017



本文編號：3227318