在線順序超限學(xué)習(xí)機的改進及其應(yīng)用
發(fā)布時間:2022-01-27 16:22
近年來,數(shù)字化信息爆炸式增長,如何高效快速采集、處理、分析有效信息成為社會關(guān)注熱點。人工神經(jīng)網(wǎng)絡(luò)憑借強大的數(shù)據(jù)處理能力成為眾多學(xué)者研究的對象。與此同時,各種機器學(xué)習(xí)算法紛紛涌現(xiàn)。在線順序超限學(xué)習(xí)機是一種快速準(zhǔn)確的在線順序?qū)W習(xí)算法,屬于單隱層前饋神經(jīng)網(wǎng)絡(luò)的一種,它可以逐個學(xué)習(xí)數(shù)據(jù),也可以學(xué)習(xí)具有固定或者大小變化的數(shù)據(jù)塊。其輸入權(quán)重和偏置都是隨機生成的,不需要迭代,并且可以只學(xué)習(xí)沒有接受訓(xùn)練的新數(shù)據(jù),因此和基于梯度下降法的算法,例如反向傳播算法、支持向量機等相比大大縮短了訓(xùn)練時間,且準(zhǔn)確率也有所提高。然而,在線順序超限學(xué)習(xí)機在某些方面仍舊存有不足。為了解決單個在線超限學(xué)習(xí)機處理數(shù)據(jù)分類的問題效果欠佳、硬件電路實現(xiàn)困難、隨機產(chǎn)生的輸入權(quán)重和偏置分布不均勻、以及對實驗對象的特征獲取不足等問題。本文對在線順序超限學(xué)習(xí)機算法進行了深入研究,首先,提出一種基于交叉驗證的集成在線順序超限學(xué)習(xí)機,彌補單個在線順序超限學(xué)習(xí)機處理分類問題的不足;其次通過推算,提出一種基于憶阻器的新類型的激活函數(shù),并將其應(yīng)用到在線順序超限學(xué)習(xí)機中,為硬件實現(xiàn)提供可能;再次,將原始直接生成學(xué)習(xí)參數(shù)的方式改為分段隨機生成,增強了...
【文章來源】:西南大學(xué)重慶市211工程院校教育部直屬院校
【文章頁數(shù)】:66 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
Abstract
第一章 引言
1.1 論文研究背景及意義
1.2 在線順序超限學(xué)習(xí)機研究現(xiàn)狀和發(fā)展趨勢
1.3 論文研究內(nèi)容及創(chuàng)新點
1.4 論文結(jié)構(gòu)安排
第二章 理論基礎(chǔ)
2.1 在線順序超限學(xué)習(xí)機
2.1.1 超限學(xué)習(xí)機
2.1.2 在線順序超限學(xué)習(xí)機
2.2 憶阻器
2.3 本章小結(jié)
第三章 基于交叉驗證的集成在線順序超限學(xué)習(xí)機
3.1 引言
3.2 集成學(xué)習(xí)原理和交叉驗證基礎(chǔ)概念
3.3 基于交叉驗證的集成在線順序超限學(xué)習(xí)機
3.4 實驗結(jié)果和對比
3.4.1 模型選擇
3.4.2 性能比較
3.5 本章小結(jié)
第四章 基于憶阻激活函數(shù)和分段學(xué)習(xí)參數(shù)的在線順序超限學(xué)習(xí)機
4.1 引言
4.2 憶阻激活函數(shù)
4.3 分段參數(shù)
4.4 基于憶阻激活函數(shù)和分段學(xué)習(xí)參數(shù)的在線順序超限學(xué)習(xí)機
4.5 圖像的壓縮重建實驗及其分析
4.5.1 基于憶阻激活函數(shù)和分段參數(shù)的在線順序超限學(xué)習(xí)機對圖像的壓縮與重構(gòu)
4.5.2 圖像的壓縮評價標(biāo)準(zhǔn)
4.5.3 圖像壓縮實驗及分析
4.6 本章小結(jié)
第五章 基于多層感知器的在線順序超限學(xué)習(xí)機
5.1 引言
5.2 基于多層感知器的在線順序超限學(xué)習(xí)機
5.2.1 MOS-ELM框架
5.2.2 MOS-ELM稀疏自動編碼器
5.3 MOS-ELM與OS-ELM算法、ENOS-ELM的實驗對比
5.4 MOS-ELM與MLP算法的實驗對比
5.5 本章小結(jié)
第六章 總結(jié)與展望
6.1 本文主要工作
6.2 未來研究工作和展望
參考文獻
致謝
攻讀碩士期間已發(fā)表的論文
攻讀碩士期間參加的科研項目
【參考文獻】:
期刊論文
[1]一種基于憶阻激活函數(shù)的遞歸神經(jīng)網(wǎng)絡(luò)及其聯(lián)想記憶[J]. 郭騰騰,王麗丹,周夢哲,段書凱. 中國科學(xué):信息科學(xué). 2017(09)
[2]基于極限學(xué)習(xí)機的圖像壓縮算法[J]. 劉作志,劉歡,林耀海. 計算機技術(shù)與發(fā)展. 2015(05)
[3]神經(jīng)網(wǎng)絡(luò)在彩色圖像壓縮中的應(yīng)用[J]. 張堯,胡駿,宋美榮,王琛玨,曹鴻鈞. 計算機技術(shù)與發(fā)展. 2012(11)
[4]神經(jīng)網(wǎng)絡(luò)集成[J]. 周志華,陳世福. 計算機學(xué)報. 2002(01)
本文編號:3612741
【文章來源】:西南大學(xué)重慶市211工程院校教育部直屬院校
【文章頁數(shù)】:66 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
Abstract
第一章 引言
1.1 論文研究背景及意義
1.2 在線順序超限學(xué)習(xí)機研究現(xiàn)狀和發(fā)展趨勢
1.3 論文研究內(nèi)容及創(chuàng)新點
1.4 論文結(jié)構(gòu)安排
第二章 理論基礎(chǔ)
2.1 在線順序超限學(xué)習(xí)機
2.1.1 超限學(xué)習(xí)機
2.1.2 在線順序超限學(xué)習(xí)機
2.2 憶阻器
2.3 本章小結(jié)
第三章 基于交叉驗證的集成在線順序超限學(xué)習(xí)機
3.1 引言
3.2 集成學(xué)習(xí)原理和交叉驗證基礎(chǔ)概念
3.3 基于交叉驗證的集成在線順序超限學(xué)習(xí)機
3.4 實驗結(jié)果和對比
3.4.1 模型選擇
3.4.2 性能比較
3.5 本章小結(jié)
第四章 基于憶阻激活函數(shù)和分段學(xué)習(xí)參數(shù)的在線順序超限學(xué)習(xí)機
4.1 引言
4.2 憶阻激活函數(shù)
4.3 分段參數(shù)
4.4 基于憶阻激活函數(shù)和分段學(xué)習(xí)參數(shù)的在線順序超限學(xué)習(xí)機
4.5 圖像的壓縮重建實驗及其分析
4.5.1 基于憶阻激活函數(shù)和分段參數(shù)的在線順序超限學(xué)習(xí)機對圖像的壓縮與重構(gòu)
4.5.2 圖像的壓縮評價標(biāo)準(zhǔn)
4.5.3 圖像壓縮實驗及分析
4.6 本章小結(jié)
第五章 基于多層感知器的在線順序超限學(xué)習(xí)機
5.1 引言
5.2 基于多層感知器的在線順序超限學(xué)習(xí)機
5.2.1 MOS-ELM框架
5.2.2 MOS-ELM稀疏自動編碼器
5.3 MOS-ELM與OS-ELM算法、ENOS-ELM的實驗對比
5.4 MOS-ELM與MLP算法的實驗對比
5.5 本章小結(jié)
第六章 總結(jié)與展望
6.1 本文主要工作
6.2 未來研究工作和展望
參考文獻
致謝
攻讀碩士期間已發(fā)表的論文
攻讀碩士期間參加的科研項目
【參考文獻】:
期刊論文
[1]一種基于憶阻激活函數(shù)的遞歸神經(jīng)網(wǎng)絡(luò)及其聯(lián)想記憶[J]. 郭騰騰,王麗丹,周夢哲,段書凱. 中國科學(xué):信息科學(xué). 2017(09)
[2]基于極限學(xué)習(xí)機的圖像壓縮算法[J]. 劉作志,劉歡,林耀海. 計算機技術(shù)與發(fā)展. 2015(05)
[3]神經(jīng)網(wǎng)絡(luò)在彩色圖像壓縮中的應(yīng)用[J]. 張堯,胡駿,宋美榮,王琛玨,曹鴻鈞. 計算機技術(shù)與發(fā)展. 2012(11)
[4]神經(jīng)網(wǎng)絡(luò)集成[J]. 周志華,陳世福. 計算機學(xué)報. 2002(01)
本文編號:3612741
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3612741.html
最近更新
教材專著