基于成員分類器選擇優(yōu)化的集成極端學習機的研究
本文關鍵詞:基于成員分類器選擇優(yōu)化的集成極端學習機的研究,由筆耕文化傳播整理發(fā)布。
【摘要】:極端學習機(ELM:Extreme Learning Machine)因其良好的性能得到廣泛的應用,且集成ELM相比于單個ELM在收斂性和泛化性能上取得更好的效果。然而ELM因隨機初始化輸入權值和偏置導致算法的穩(wěn)定性偏低,從而直接影響到集成ELM中基分類器之間的差異度和準確率。因此,本文在初始ELM庫中利用K均值算法(K-means)和錦標賽選擇算子(Tournament Selection)對成員ELM進行分類和選擇。并進一步將選擇出的ELM集群劃分為兩個群體,根據(jù)群體的不同收斂特性利用多樣性自適應控制的吸引排斥微粒群算法(ARPSO:Attractive and Repulsive PSO)分別對其進行優(yōu)化,取得較優(yōu)的性能。本文的主要工作如下:(1)提出一種基于K均值算法和遺傳算法的集成ELM算法—KGA-DOEELM。該算法根據(jù)ELM的輸入輸出權重和偏置,利用K均值聚類將初始ELM分成多個簇;在不同的簇中錦標賽選擇算子根據(jù)成員ELM間的準確率和差異度雙重選擇出最優(yōu)的成員ELM,組成新的ELM集群。在多個數(shù)據(jù)集上的實驗結果表明,構建的集成系統(tǒng)比其他的集成ELM和單一的ELM具有較高的系統(tǒng)差異度,保證了系統(tǒng)準確率。(2)在KGA-DOEELM基礎上,提出基于多子群優(yōu)化的集成極端學習機 M-KGA-DOEELM。該算法主要針對算法KGA-DOEELM對初期成員ELM選擇后的遺漏進行補充,首先利用K均值算法將初始ELM集群分類后,錦標賽選擇算子依次從不同簇中選出適應度值最優(yōu)和適應度值次優(yōu)的成員ELM形成兩個的群體,稱為最優(yōu)群體和一般的群體。對于最優(yōu)群體依然按照ARPSO優(yōu)化的步驟進行迭代;對于表現(xiàn)一般的群體,在使用ARPSO優(yōu)化的過程中加入收斂評價標準動態(tài)調整慣性權值,保證了算法的收斂性。實驗證明基于多種群優(yōu)化的KGA-DOEELM保證集成系統(tǒng)準確率和差異性的同時,較大提高系統(tǒng)的穩(wěn)定性。
【關鍵詞】:極端學習機 吸引排斥微粒群算法 K均值聚類 錦標賽選擇算子
【學位授予單位】:江蘇大學
【學位級別】:碩士
【學位授予年份】:2016
【分類號】:TP18
【目錄】:
- 摘要4-5
- Abstract5-9
- 第一章 緒論9-17
- 1.1 研究背景和意義9-10
- 1.2 集成學習算法國內外研究現(xiàn)狀10-12
- 1.3 集成ELM國內外研究現(xiàn)狀12-14
- 1.4 研究內容14-15
- 1.5 章節(jié)安排15-17
- 第二章 相關技術17-26
- 2.1 極端學習機17-19
- 2.2 集成極端學習機19-22
- 2.3 微粒群算法22-26
- 2.3.1 標準微粒群算法22-24
- 2.3.2 吸引排斥微粒群算法24-26
- 第三章 基于K-means和遺傳算法的集成極端學習機26-39
- 3.1 引言26
- 3.2 基于K均值聚類和遺傳算法的集成極端學習機26-29
- 3.2.1 K均值聚類算法對成員分類器的分類26-28
- 3.2.2 錦標賽選擇算子對成員分類器的選擇28-29
- 3.3 算法思想及步驟29-32
- 3.4 實驗結果與討論32-38
- 3.4.1 數(shù)據(jù)集32
- 3.4.2 實驗結果及討論32-38
- 3.5 本章小結38-39
- 第四章 基于多群體的KGA-ARPSO優(yōu)化的集成極端學習機39-50
- 4.1 引言39
- 4.2 基于多群體和收斂評價標準的集成極端學習機39-43
- 4.2.1 多子群優(yōu)化的收斂程度評價標準41
- 4.2.2 基于多子群雙重優(yōu)化的集成極端學習機41-43
- 4.3 實驗結果與討論43-49
- 4.4 本章小結49-50
- 第五章 總結和展望50-52
- 5.1 總結50
- 5.2 展望50-52
- 參考文獻52-57
- 致謝57-58
- 攻讀碩士學位期間發(fā)表的學術論文與參與的科研項目58
【相似文獻】
中國期刊全文數(shù)據(jù)庫 前10條
1 呂岳,施鵬飛,趙宇明;多分類器組合的投票表決規(guī)則[J];上海交通大學學報;2000年05期
2 韓宏;楊靜宇;;多分類器組合及其應用[J];計算機科學;2000年01期
3 陳剛,戚飛虎;多分類器結合的人臉識別[J];上海交通大學學報;2001年02期
4 韓宏,楊靜宇,婁震;基于層次的分類器組合[J];南京理工大學學報(自然科學版);2002年01期
5 趙誼虹,程國華,史習智;多分類器融合中一種新的加權算法[J];上海交通大學學報;2002年06期
6 王正群,葉暉,孫興華,楊靜宇;模糊多分類器組合[J];小型微型計算機系統(tǒng);2003年01期
7 楊利英,覃征,王向華;多分類器融合實現(xiàn)機型識別[J];計算機工程與應用;2004年15期
8 楊利英,覃征,王衛(wèi)紅;多分類器融合系統(tǒng)設計與應用[J];計算機工程;2005年05期
9 陳湘;;1-范數(shù)軟間隔分類器的風險[J];湖北大學學報(自然科學版);2006年02期
10 秦鋒;楊波;程澤凱;;分類器性能評價標準研究[J];計算機技術與發(fā)展;2006年10期
中國重要會議論文全文數(shù)據(jù)庫 前10條
1 王占一;徐蔚然;劉東鑫;郭軍;;一種基于兩級分類器的垃圾短信過濾方法[A];第五屆全國信息檢索學術會議論文集[C];2009年
2 翟靜;李海宏;唐常杰;陳敏敏;李智;;可驗證對象集分類器的再訓練演進[A];第十九屆全國數(shù)據(jù)庫學術會議論文集(研究報告篇)[C];2002年
3 陳繼航;劉家鋒;趙巍;唐降龍;;聯(lián)機手寫識別筆段特征分類器的學習方法[A];黑龍江省計算機學會2009年學術交流年會論文集[C];2010年
4 穆明生;;基于特征集的多種分類器模型的在線筆跡認證[A];第十屆全國信號處理學術年會(CCSP-2001)論文集[C];2001年
5 彭濤;左萬利;赫楓齡;;基于鏈接上下文的分類器主題爬行技術(英文)[A];第二十三屆中國數(shù)據(jù)庫學術會議論文集(技術報告篇)[C];2006年
6 王嵐;陳珂;遲惠生;;基于多特征組合多分類器的方法用于“與文本無關”的說話人辨認[A];第四屆全國人機語音通訊學術會議論文集[C];1996年
7 謝秋玲;;應用于心電圖分類的KNN-SVM分類器研究[A];2006中國控制與決策學術年會論文集[C];2006年
8 胡瓊;汪榮貴;胡韋偉;孫見青;;基于級聯(lián)分類器的快速人臉檢測方法[A];計算機技術與應用進展·2007——全國第18屆計算機技術與應用(CACIS)學術會議論文集[C];2007年
9 李蘭春;王雙成;杜瑞杰;;認知結構評估的動態(tài)貝葉斯網絡分類器方法[A];2011年中國智能自動化學術會議論文集(第一分冊)[C];2011年
10 邵小健;段華;賀國平;;一種改進的最少核分類器[A];中國運籌學會第七屆學術交流會論文集(上卷)[C];2004年
中國重要報紙全文數(shù)據(jù)庫 前1條
1 黃明;精子分類器決定生男生女[N];廣東科技報;2000年
中國博士學位論文全文數(shù)據(jù)庫 前10條
1 張非;對抗逃避攻擊的防守策略研究[D];華南理工大學;2015年
2 張文博;多類別智能分類器方法研究[D];西安電子科技大學;2014年
3 許勁松;智能交通中目標檢測與分類關鍵技術研究[D];南京理工大學;2014年
4 余家林;普通場景視頻人臉檢測與識別的關鍵技術研究[D];浙江大學;2016年
5 劉明;分類器組合技術研究及其在人機交互系統(tǒng)中的應用[D];北京交通大學;2008年
6 嚴志永;在劃分數(shù)據(jù)空間的視角下基于決策邊界的分類器研究[D];浙江大學;2011年
7 王U,
本文編號:271580
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/271580.html