發(fā)布時間：2025-02-15 10:35

　　隨著現(xiàn)代數(shù)字信息技術的飛速發(fā)展,各行各業(yè)都生成并存儲了海量數(shù)據(jù),對這些海量數(shù)據(jù)的準確分類是對數(shù)據(jù)后續(xù)有效分析的基礎。由于個人隱私和安全問題,在一些信息保密性高的行業(yè)僅能獲得少量的存儲數(shù)據(jù),并且標注大量數(shù)據(jù)的人工成本過大,這使得可利用的數(shù)據(jù)是非常有限的。研究表明,深度學習模型對訓練數(shù)據(jù)需求較大,在一些小規(guī)模數(shù)據(jù)的任務上易出現(xiàn)過擬合問題,因此,研究小數(shù)據(jù)集分類問題具有深遠的影響價值。深度森林模型因其可理解性高和自動確定級聯(lián)層數(shù)的特點,在處理小數(shù)據(jù)集分類任務中具有明顯的優(yōu)勢。小數(shù)據(jù)集樣本量少通常會存在類別不均衡和多樣性差等問題,類別不均衡會影響隨機森林不能有效學習到類別間的準確區(qū)分特征,數(shù)據(jù)多樣性差會導致模型學習不到原始數(shù)據(jù)的整體數(shù)據(jù)分布,從而可能導致深度森林模型出現(xiàn)過擬合現(xiàn)象,使得模型的分類性能不佳。本文針對這兩個問題作了如下深入分析:1)針對小數(shù)據(jù)集類別不均衡問題,研究了多粒度掃描部分的按類建樹策略,提出了跳躍森林(Skip Connection Forest,SCForest)模型。通過在深度森林級聯(lián)層中加入跳躍連接,有效緩解了特征向量后向傳播時易出現(xiàn)特征消失或特征爆炸現(xiàn)象,并且級聯(lián)層采...

【文章頁數(shù)】：59 頁

【學位級別】：碩士

【部分圖文】：

圖2-1選擇禮物問題的一顆決策樹

彩薔霾呤骷?傻囊恢旨?裳?埃?哂心Ｐ統(tǒng)?問?�、模型竻矀�?低、可并行操作等優(yōu)點。這一部分從決策樹擴展到集成學習，逐步擴展到深度森林模型原理。2.1.1決策樹原理決策樹是一種常見的基于樹結構的學習方法。決策樹中的每個內(nèi)部節(jié)點表示特征屬性的選取試驗，每個分支表示屬性的試驗結果，葉結點....

圖2-3集成學習框架

第2章基本理論基礎9Gini（D）是從數(shù)據(jù)集D中隨機抽取兩個樣品的結果，以及類別標記不相符的可能性。也就是說，Gini（D）越小D的純度越校在此基礎上，將屬性a的基尼指數(shù)定義為：1||_,（）||VvvvDGiniindexDaGiniDD2.6然后選擇候選集....

圖2-4Stacking算法框架

??蠐λ婊?≡衿渲?一個。加權表決與加權平均數(shù)相似。標準的絕對多數(shù)表決方法為“可靠性預測”提供了一種選擇。學習方法：如果有大量的訓練數(shù)據(jù)，適合用“學習方法”來結合學習者。stacking[47]是學習方法的典型代表。如圖2-4所示，Stacking是一個綜合性的分層模型框架，通常....

圖2-5深度森林的多粒度滑窗框架

第2章基本理論基礎13究表明，將學習者的輸出類概率作為二級學習者的輸入屬性，MRL作為二級學習算法[58]和MLR中的各種屬性集[49]是比較好的。2.1.3深度森林原理深度森林是一種新的決策樹集成方法。這一方法提供了一種串聯(lián)結構深層森林的集成，從而能夠學習數(shù)據(jù)特性。如果輸入較大....

本文編號：4034173