基于深度學習的極限學習機算法研究
發(fā)布時間:2017-06-01 15:16
本文關鍵詞:基于深度學習的極限學習機算法研究,由筆耕文化傳播整理發(fā)布。
【摘要】:人工神經網絡的最大缺點是訓練時間太長從而限制其實時應用范圍,近年來,極限學習機(Extreme Learning Machine, ELM)的提出使得前饋神經網絡的訓練時間大大縮短,然而當原始數(shù)據(jù)混雜入大量噪聲變量時,或者當輸入數(shù)據(jù)維度非常高時,極限學習機算法的綜合性能會受到很大的影響。深度學習算法的核心是特征映射,它能夠摒除原始數(shù)據(jù)中的噪聲,并且當向低維度空間進行映射時,能夠很好的起到對數(shù)據(jù)降維的作用,因此我們思考利用深度學習的優(yōu)勢特性來彌補極限學習機的弱勢特性從而改善極限學習機的性能。在本文中,首先介紹了基于自編碼器的極限學習機(Auto Encode based Extreme Learning Machine, AE-ELM),它使用第一層自編碼網絡對輸入數(shù)據(jù)進行降維除噪處理,再使用第二層自編碼算法確定ELM輸入權值以提升ELM有效性,最后使用最小二乘法確定ELM輸出層權值。這種方法主要解決數(shù)據(jù)維度偏高且含有噪聲時的情況,最后實驗驗證了AE-ELM在噪聲數(shù)據(jù)下很好的提升了算法的性能。其次,詳細介紹了基于極限學習機的自編碼器(Extreme Learning Machine Auto Encode, ELM-AE),它能夠對原始特征進行等維度,高維度,及低維度的特征映射,為ELM在超高維度下的應用奠定了基礎。論文中對由多層ELM-AE組成的深度極限學習機自編碼器(Deep Extreme Learning Machine Auto Encode, DELM-AE)進行了實驗驗證,結果DELM-AE耗費更少的時間并能取得更好的識別率最后本文用ELM-AE算法對基于Gabor特征的稀疏表達算法(GSRC)進行改進,得到新的識別算法-基于分層特征的稀疏表達算法(HSR),該算法包含三部分:首先用一系列Gabor濾波器提取特征,再用ELM-AE進行降維,最后用SRC進行識別。并對SRC, GSRC,和HSR在無遮擋人臉圖片庫和有遮擋人臉圖片庫進行實驗仿真驗證,發(fā)現(xiàn)HSR能夠使用更低的學習耗時得到更高的識別率,從而驗證了ELM-AE在算法HSR中的必要性。
【關鍵詞】:極限學習機 深度學習 極限學習機自編碼器 識別率
【學位授予單位】:中國海洋大學
【學位級別】:碩士
【學位授予年份】:2015
【分類號】:TP181
【目錄】:
- 摘要5-6
- Abstract6-10
- 1 緒論10-15
- 1.1 引言10
- 1.2 極限學習機的研究背景及研究應用現(xiàn)狀10-12
- 1.3 深度學習的起源發(fā)展12-13
- 1.4 基于深度學習的極限學習機13
- 1.5 本文工作和內容安排13-15
- 2 極限學習機算法15-27
- 2.1 單隱藏層前饋神經網絡15-17
- 2.2 極限學習機理論知識17-20
- 2.3 極限學習機性能實驗20-23
- 2.3.1 擬合實驗20-22
- 2.3.2 回歸實驗22-23
- 2.4 極限學習機延伸算法23-26
- 2.4.1 在線序列極限學習機23-24
- 2.4.2 增量極限學習機24-25
- 2.4.3 剪枝型極限學習機25
- 2.4.4 極限學習機集成模型25-26
- 2.5 本章小結26-27
- 3 深度學習算法27-36
- 3.1 深度學習算法起源及簡介27
- 3.2 深度學習的網絡結構及訓練方法27-29
- 3.3 常用深度學習算法29-35
- 3.3.1 自編碼器與稀疏編碼29-30
- 3.3.2 受限波爾茲曼機30-32
- 3.3.3 深度置信網絡32-33
- 3.3.4 卷積神經網絡33-35
- 3.4 本章小結35-36
- 4 基于深度學習的極限學習機36-45
- 4.1 基于自編碼的極限學習機36-40
- 4.1.1 基于白編碼機的極限學習機的理論37-39
- 4.1.2 基于自編碼機的極限學習機的性能實驗39-40
- 4.2 深度極限學習機自編碼器40-44
- 4.2.1 極限學習機自編碼器原理40-42
- 4.2.2 深度極限學習機自編碼器42-43
- 4.2.3 深度極限學習機自編碼器的性能試驗43-44
- 4.3 本章小結44-45
- 5 分層特征選擇的稀疏表達算法45-58
- 5.1 分層特征選擇的稀疏表達算法理論45-51
- 5.1.1 Gabor濾波和ELM-AE45-49
- 5.1.2 SRC,GSR,HSR49-51
- 5.2 實驗結果51-56
- 5.2.1 無遮擋人臉識別51-54
- 5.2.2 有遮擋人臉識別54-56
- 5.3 本章小結56-58
- 6 總結與展望58-59
- 參考文獻59-62
- 致謝62-63
- 個人簡歷63-64
- 攻讀碩士期間發(fā)表的學士論文與研究成果64
【參考文獻】
中國期刊全文數(shù)據(jù)庫 前1條
1 周志華,陳世福;神經網絡集成[J];計算機學報;2002年01期
本文關鍵詞:基于深度學習的極限學習機算法研究,由筆耕文化傳播整理發(fā)布。
,本文編號:412873
本文鏈接:http://sikaile.net/shoufeilunwen/xixikjs/412873.html
最近更新
教材專著