發(fā)布時(shí)間：2017-06-01 15:16

  本文關(guān)鍵詞：基于深度學(xué)習(xí)的極限學(xué)習(xí)機(jī)算法研究，由筆耕文化傳播整理發(fā)布。

【摘要】：人工神經(jīng)網(wǎng)絡(luò)的最大缺點(diǎn)是訓(xùn)練時(shí)間太長(zhǎng)從而限制其實(shí)時(shí)應(yīng)用范圍,近年來(lái),極限學(xué)習(xí)機(jī)(Extreme Learning Machine, ELM)的提出使得前饋神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間大大縮短,然而當(dāng)原始數(shù)據(jù)混雜入大量噪聲變量時(shí),或者當(dāng)輸入數(shù)據(jù)維度非常高時(shí),極限學(xué)習(xí)機(jī)算法的綜合性能會(huì)受到很大的影響。深度學(xué)習(xí)算法的核心是特征映射,它能夠摒除原始數(shù)據(jù)中的噪聲,并且當(dāng)向低維度空間進(jìn)行映射時(shí),能夠很好的起到對(duì)數(shù)據(jù)降維的作用,因此我們思考利用深度學(xué)習(xí)的優(yōu)勢(shì)特性來(lái)彌補(bǔ)極限學(xué)習(xí)機(jī)的弱勢(shì)特性從而改善極限學(xué)習(xí)機(jī)的性能。在本文中,首先介紹了基于自編碼器的極限學(xué)習(xí)機(jī)(Auto Encode based Extreme Learning Machine, AE-ELM),它使用第一層自編碼網(wǎng)絡(luò)對(duì)輸入數(shù)據(jù)進(jìn)行降維除噪處理,再使用第二層自編碼算法確定ELM輸入權(quán)值以提升ELM有效性,最后使用最小二乘法確定ELM輸出層權(quán)值。這種方法主要解決數(shù)據(jù)維度偏高且含有噪聲時(shí)的情況,最后實(shí)驗(yàn)驗(yàn)證了AE-ELM在噪聲數(shù)據(jù)下很好的提升了算法的性能。其次,詳細(xì)介紹了基于極限學(xué)習(xí)機(jī)的自編碼器(Extreme Learning Machine Auto Encode, ELM-AE),它能夠?qū)υ继卣鬟M(jìn)行等維度,高維度,及低維度的特征映射,為ELM在超高維度下的應(yīng)用奠定了基礎(chǔ)。論文中對(duì)由多層ELM-AE組成的深度極限學(xué)習(xí)機(jī)自編碼器(Deep Extreme Learning Machine Auto Encode, DELM-AE)進(jìn)行了實(shí)驗(yàn)驗(yàn)證,結(jié)果DELM-AE耗費(fèi)更少的時(shí)間并能取得更好的識(shí)別率最后本文用ELM-AE算法對(duì)基于Gabor特征的稀疏表達(dá)算法(GSRC)進(jìn)行改進(jìn),得到新的識(shí)別算法-基于分層特征的稀疏表達(dá)算法(HSR),該算法包含三部分：首先用一系列Gabor濾波器提取特征,再用ELM-AE進(jìn)行降維,最后用SRC進(jìn)行識(shí)別。并對(duì)SRC, GSRC,和HSR在無(wú)遮擋人臉圖片庫(kù)和有遮擋人臉圖片庫(kù)進(jìn)行實(shí)驗(yàn)仿真驗(yàn)證,發(fā)現(xiàn)HSR能夠使用更低的學(xué)習(xí)耗時(shí)得到更高的識(shí)別率,從而驗(yàn)證了ELM-AE在算法HSR中的必要性。
【關(guān)鍵詞】：極限學(xué)習(xí)機(jī) 深度學(xué)習(xí) 極限學(xué)習(xí)機(jī)自編碼器 識(shí)別率
【學(xué)位授予單位】：中國(guó)海洋大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2015
【分類號(hào)】：TP181
【目錄】：

• 摘要5-6
• Abstract6-10
• 1 緒論10-15
• 1.1 引言10
• 1.2 極限學(xué)習(xí)機(jī)的研究背景及研究應(yīng)用現(xiàn)狀10-12
• 1.3 深度學(xué)習(xí)的起源發(fā)展12-13
• 1.4 基于深度學(xué)習(xí)的極限學(xué)習(xí)機(jī)13
• 1.5 本文工作和內(nèi)容安排13-15
• 2 極限學(xué)習(xí)機(jī)算法15-27
• 2.1 單隱藏層前饋神經(jīng)網(wǎng)絡(luò)15-17
• 2.2 極限學(xué)習(xí)機(jī)理論知識(shí)17-20
• 2.3 極限學(xué)習(xí)機(jī)性能實(shí)驗(yàn)20-23
• 2.3.1 擬合實(shí)驗(yàn)20-22
• 2.3.2 回歸實(shí)驗(yàn)22-23
• 2.4 極限學(xué)習(xí)機(jī)延伸算法23-26
• 2.4.1 在線序列極限學(xué)習(xí)機(jī)23-24
• 2.4.2 增量極限學(xué)習(xí)機(jī)24-25
• 2.4.3 剪枝型極限學(xué)習(xí)機(jī)25
• 2.4.4 極限學(xué)習(xí)機(jī)集成模型25-26
• 2.5 本章小結(jié)26-27
• 3 深度學(xué)習(xí)算法27-36
• 3.1 深度學(xué)習(xí)算法起源及簡(jiǎn)介27
• 3.2 深度學(xué)習(xí)的網(wǎng)絡(luò)結(jié)構(gòu)及訓(xùn)練方法27-29
• 3.3 常用深度學(xué)習(xí)算法29-35
• 3.3.1 自編碼器與稀疏編碼29-30
• 3.3.2 受限波爾茲曼機(jī)30-32
• 3.3.3 深度置信網(wǎng)絡(luò)32-33
• 3.3.4 卷積神經(jīng)網(wǎng)絡(luò)33-35
• 3.4 本章小結(jié)35-36
• 4 基于深度學(xué)習(xí)的極限學(xué)習(xí)機(jī)36-45
• 4.1 基于自編碼的極限學(xué)習(xí)機(jī)36-40
• 4.1.1 基于白編碼機(jī)的極限學(xué)習(xí)機(jī)的理論37-39
• 4.1.2 基于自編碼機(jī)的極限學(xué)習(xí)機(jī)的性能實(shí)驗(yàn)39-40
• 4.2 深度極限學(xué)習(xí)機(jī)自編碼器40-44
• 4.2.1 極限學(xué)習(xí)機(jī)自編碼器原理40-42
• 4.2.2 深度極限學(xué)習(xí)機(jī)自編碼器42-43
• 4.2.3 深度極限學(xué)習(xí)機(jī)自編碼器的性能試驗(yàn)43-44
• 4.3 本章小結(jié)44-45
• 5 分層特征選擇的稀疏表達(dá)算法45-58
• 5.1 分層特征選擇的稀疏表達(dá)算法理論45-51
• 5.1.1 Gabor濾波和ELM-AE45-49
• 5.1.2 SRC,GSR,HSR49-51
• 5.2 實(shí)驗(yàn)結(jié)果51-56
• 5.2.1 無(wú)遮擋人臉識(shí)別51-54
• 5.2.2 有遮擋人臉識(shí)別54-56
• 5.3 本章小結(jié)56-58
• 6 總結(jié)與展望58-59
• 參考文獻(xiàn)59-62
• 致謝62-63
• 個(gè)人簡(jiǎn)歷63-64
• 攻讀碩士期間發(fā)表的學(xué)士論文與研究成果64

【參考文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前1條

1 周志華,陳世福;神經(jīng)網(wǎng)絡(luò)集成[J];計(jì)算機(jī)學(xué)報(bào);2002年01期

  本文關(guān)鍵詞：基于深度學(xué)習(xí)的極限學(xué)習(xí)機(jī)算法研究，由筆耕文化傳播整理發(fā)布。

，

本文編號(hào)：412873