極限學(xué)習(xí)機(jī)理論與算法研究
發(fā)布時間:2023-01-25 19:06
極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)算法是近幾年出現(xiàn)的一種新的單隱含層前饋神經(jīng)網(wǎng)絡(luò)(SLFNs)學(xué)習(xí)算法。與傳統(tǒng)的BP學(xué)習(xí)算法相比,具有結(jié)構(gòu)簡單,學(xué)習(xí)速度快以及良好的全局尋優(yōu)能力,成為機(jī)器學(xué)習(xí)領(lǐng)域研究的一個前沿方向,正受到越來越廣泛的關(guān)注。核極限學(xué)習(xí)機(jī)是將核函數(shù)引入到極限學(xué)習(xí)機(jī)中,大大減小了計算復(fù)雜度,可以得到最小平方優(yōu)化解,具有更穩(wěn)定的、更好的泛化性能。本文在全面學(xué)習(xí)極限學(xué)習(xí)機(jī)和核極限學(xué)習(xí)機(jī)知識的基礎(chǔ)上,提出了一種新的核極限學(xué)習(xí)機(jī)算法,并將其用在基于視頻圖像的人體動作識別中。論文完成的研究工作如下:首先,本文從優(yōu)化角度,分析了支持向量機(jī)(SVM)、最小二乘支持向量機(jī)(LS-SVM)和極限學(xué)習(xí)機(jī)之間的關(guān)系,得出:LS-SVM是基于原始SVM的一種,其實際上是核極限學(xué)習(xí)機(jī)簡化的實現(xiàn)結(jié)構(gòu)。核極限學(xué)習(xí)機(jī)將SVM和LS-SVM包含和統(tǒng)一起來,提供了廣義的SLFNs的統(tǒng)一解,為后續(xù)新算法的提出提供了指導(dǎo)意義。其次,從縮短核參數(shù)優(yōu)化時間角度出發(fā),基于埃爾米特正交多項式,提出了一種三角埃爾米特核極限學(xué)習(xí)機(jī)(TriH-KELM)方法,將三角埃爾米...
【文章頁數(shù)】:71 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
Abstract
第1章 緒論
1.1 極限學(xué)習(xí)機(jī)的研究背景及意義
1.2 極限學(xué)習(xí)機(jī)的國內(nèi)外研究現(xiàn)狀
1.3 核極限學(xué)習(xí)機(jī)的國內(nèi)外研究現(xiàn)狀
1.3.1 內(nèi)積核函數(shù)與平移不變核函數(shù)
1.3.2 基于正交多項式的核函數(shù)
1.4 本文研究內(nèi)容及主要工作
第2章 極限學(xué)習(xí)機(jī)理論
2.1 廣義單隱含層前饋神經(jīng)網(wǎng)絡(luò)(SLFNs)模型
2.1.1 SLFNs的逼近問題
2.1.2 基于梯度的學(xué)習(xí)算法
2.1.3 SLFNs的最小范數(shù)最小二乘解——極限學(xué)習(xí)機(jī)算法
2.2 核極限學(xué)習(xí)機(jī)(Kernel Extreme Learning Machine, KELM)
2.3 核極限學(xué)習(xí)機(jī)統(tǒng)一支持向量機(jī)和最小二乘支持向量機(jī)
2.3.1 支持向量機(jī)
2.3.2 最小二乘支持向量機(jī)
2.3.3 核極限學(xué)習(xí)機(jī)和SVM、LS-SVM的關(guān)系
2.4 核函數(shù)的性質(zhì)
2.4.1 平移不變核的性質(zhì)
2.4.2 旋轉(zhuǎn)不變核的性質(zhì)
2.4.3 卷積核的性質(zhì)
2.4.4 核函數(shù)的其他性質(zhì)
第3章 三角埃爾米特核極限學(xué)習(xí)機(jī)
3.1 引言
3.2 三角埃爾米特核極限學(xué)習(xí)機(jī)
3.2.1 三角核函數(shù)的構(gòu)建
3.2.2 廣義埃爾米特Dirichlet核函數(shù)的構(gòu)建
3.2.3 三角埃爾米特核極限學(xué)習(xí)機(jī)
3.3 建立實驗結(jié)果與分析
3.3.1 在雙螺旋線數(shù)據(jù)集上的分類
3.3.2 在Banana數(shù)據(jù)集上的分類對比
3.3.3 在標(biāo)準(zhǔn)UCI數(shù)據(jù)集上的分類對比
3.3.4 在標(biāo)準(zhǔn)UCI數(shù)據(jù)集上的回歸對比
3.4 本章小結(jié)
第4章 基于深度數(shù)據(jù)和極限學(xué)習(xí)機(jī)的人體動作識別
4.1 引言
4.2 動作特征提取
4.2.1 深度圖的Gist特征提取
4.2.2 RGB圖的Gist特征提取
4.2.3 混合特征描述符
4.3 基于三角埃爾米特核極限學(xué)習(xí)機(jī)的動作分類
4.4 實驗結(jié)果分析
4.4.1 數(shù)據(jù)集介紹
4.4.2 MSR Action 3D數(shù)據(jù)集實驗結(jié)果與分析
4.4.3 DHA數(shù)據(jù)集實驗結(jié)果與分析
4.5 本章小結(jié)
結(jié)論
參考文獻(xiàn)
致謝
攻讀碩士期間發(fā)表(含錄用)的學(xué)術(shù)論文和取得的科研成果
【參考文獻(xiàn)】:
期刊論文
[1]極限學(xué)習(xí)機(jī)在圖像分割中的應(yīng)用[J]. 李作仁,王佳玉,安雨桐,祁欣. 電腦知識與技術(shù). 2016(03)
[2]核函數(shù)的概念、性質(zhì)及構(gòu)造[J]. 李傳科,許苗村. 電腦知識與技術(shù). 2015(32)
[3]一類改進(jìn)的埃爾米特核函數(shù)[J]. 田萌,王文劍. 計算機(jī)科學(xué). 2014(05)
[4]基于正交多項式的核函數(shù)性質(zhì)研究[J]. 田萌,王文劍. 模式識別與人工智能. 2014(05)
[5]一類新的基于拉蓋爾正交多項式的核函數(shù)[J]. 張瑞,王文劍,王嘉琦,王玉嬌. 計算機(jī)工程與應(yīng)用. 2012(36)
[6]基于支持向量機(jī)分類問題的勒讓德核函數(shù)[J]. 張瑞,王文劍,張亞丹,孫芳玲. 計算機(jī)科學(xué). 2012(07)
[7]一類新的支持向量機(jī)核函數(shù)——埃爾米特核函數(shù)[J]. 張瑞,高紅,張立偉. 山西大學(xué)學(xué)報(自然科學(xué)版). 2012(01)
[8]行為分析算法綜述[J]. 谷軍霞,丁曉青,王生進(jìn). 中國圖象圖形學(xué)報. 2009(03)
[9]視角無關(guān)的動作識別[J]. 黃飛躍,徐光祐. 軟件學(xué)報. 2008(07)
博士論文
[1]核極限學(xué)習(xí)機(jī)的理論與算法及其在圖像處理中的應(yīng)用[D]. 李小冬.浙江大學(xué) 2014
碩士論文
[1]基于深度信息的人體動作識別[D]. 趙競雄.上海交通大學(xué) 2015
[2]極限學(xué)習(xí)機(jī)的研究與應(yīng)用[D]. 甘露.西安電子科技大學(xué) 2014
[3]基于極限學(xué)習(xí)機(jī)的圖像分類新算法研究[D]. 陳建原.福州大學(xué) 2014
[4]支持向量機(jī)核函數(shù)的研究[D]. 劉琰.西安電子科技大學(xué) 2012
[5]BP神經(jīng)網(wǎng)絡(luò)的改進(jìn)研究及應(yīng)用[D]. 劉天舒.東北農(nóng)業(yè)大學(xué) 2011
本文編號:3731690
【文章頁數(shù)】:71 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
Abstract
第1章 緒論
1.1 極限學(xué)習(xí)機(jī)的研究背景及意義
1.2 極限學(xué)習(xí)機(jī)的國內(nèi)外研究現(xiàn)狀
1.3 核極限學(xué)習(xí)機(jī)的國內(nèi)外研究現(xiàn)狀
1.3.1 內(nèi)積核函數(shù)與平移不變核函數(shù)
1.3.2 基于正交多項式的核函數(shù)
1.4 本文研究內(nèi)容及主要工作
第2章 極限學(xué)習(xí)機(jī)理論
2.1 廣義單隱含層前饋神經(jīng)網(wǎng)絡(luò)(SLFNs)模型
2.1.1 SLFNs的逼近問題
2.1.2 基于梯度的學(xué)習(xí)算法
2.1.3 SLFNs的最小范數(shù)最小二乘解——極限學(xué)習(xí)機(jī)算法
2.2 核極限學(xué)習(xí)機(jī)(Kernel Extreme Learning Machine, KELM)
2.3 核極限學(xué)習(xí)機(jī)統(tǒng)一支持向量機(jī)和最小二乘支持向量機(jī)
2.3.1 支持向量機(jī)
2.3.2 最小二乘支持向量機(jī)
2.3.3 核極限學(xué)習(xí)機(jī)和SVM、LS-SVM的關(guān)系
2.4 核函數(shù)的性質(zhì)
2.4.1 平移不變核的性質(zhì)
2.4.2 旋轉(zhuǎn)不變核的性質(zhì)
2.4.3 卷積核的性質(zhì)
2.4.4 核函數(shù)的其他性質(zhì)
第3章 三角埃爾米特核極限學(xué)習(xí)機(jī)
3.1 引言
3.2 三角埃爾米特核極限學(xué)習(xí)機(jī)
3.2.1 三角核函數(shù)的構(gòu)建
3.2.2 廣義埃爾米特Dirichlet核函數(shù)的構(gòu)建
3.2.3 三角埃爾米特核極限學(xué)習(xí)機(jī)
3.3 建立實驗結(jié)果與分析
3.3.1 在雙螺旋線數(shù)據(jù)集上的分類
3.3.2 在Banana數(shù)據(jù)集上的分類對比
3.3.3 在標(biāo)準(zhǔn)UCI數(shù)據(jù)集上的分類對比
3.3.4 在標(biāo)準(zhǔn)UCI數(shù)據(jù)集上的回歸對比
3.4 本章小結(jié)
第4章 基于深度數(shù)據(jù)和極限學(xué)習(xí)機(jī)的人體動作識別
4.1 引言
4.2 動作特征提取
4.2.1 深度圖的Gist特征提取
4.2.2 RGB圖的Gist特征提取
4.2.3 混合特征描述符
4.3 基于三角埃爾米特核極限學(xué)習(xí)機(jī)的動作分類
4.4 實驗結(jié)果分析
4.4.1 數(shù)據(jù)集介紹
4.4.2 MSR Action 3D數(shù)據(jù)集實驗結(jié)果與分析
4.4.3 DHA數(shù)據(jù)集實驗結(jié)果與分析
4.5 本章小結(jié)
結(jié)論
參考文獻(xiàn)
致謝
攻讀碩士期間發(fā)表(含錄用)的學(xué)術(shù)論文和取得的科研成果
【參考文獻(xiàn)】:
期刊論文
[1]極限學(xué)習(xí)機(jī)在圖像分割中的應(yīng)用[J]. 李作仁,王佳玉,安雨桐,祁欣. 電腦知識與技術(shù). 2016(03)
[2]核函數(shù)的概念、性質(zhì)及構(gòu)造[J]. 李傳科,許苗村. 電腦知識與技術(shù). 2015(32)
[3]一類改進(jìn)的埃爾米特核函數(shù)[J]. 田萌,王文劍. 計算機(jī)科學(xué). 2014(05)
[4]基于正交多項式的核函數(shù)性質(zhì)研究[J]. 田萌,王文劍. 模式識別與人工智能. 2014(05)
[5]一類新的基于拉蓋爾正交多項式的核函數(shù)[J]. 張瑞,王文劍,王嘉琦,王玉嬌. 計算機(jī)工程與應(yīng)用. 2012(36)
[6]基于支持向量機(jī)分類問題的勒讓德核函數(shù)[J]. 張瑞,王文劍,張亞丹,孫芳玲. 計算機(jī)科學(xué). 2012(07)
[7]一類新的支持向量機(jī)核函數(shù)——埃爾米特核函數(shù)[J]. 張瑞,高紅,張立偉. 山西大學(xué)學(xué)報(自然科學(xué)版). 2012(01)
[8]行為分析算法綜述[J]. 谷軍霞,丁曉青,王生進(jìn). 中國圖象圖形學(xué)報. 2009(03)
[9]視角無關(guān)的動作識別[J]. 黃飛躍,徐光祐. 軟件學(xué)報. 2008(07)
博士論文
[1]核極限學(xué)習(xí)機(jī)的理論與算法及其在圖像處理中的應(yīng)用[D]. 李小冬.浙江大學(xué) 2014
碩士論文
[1]基于深度信息的人體動作識別[D]. 趙競雄.上海交通大學(xué) 2015
[2]極限學(xué)習(xí)機(jī)的研究與應(yīng)用[D]. 甘露.西安電子科技大學(xué) 2014
[3]基于極限學(xué)習(xí)機(jī)的圖像分類新算法研究[D]. 陳建原.福州大學(xué) 2014
[4]支持向量機(jī)核函數(shù)的研究[D]. 劉琰.西安電子科技大學(xué) 2012
[5]BP神經(jīng)網(wǎng)絡(luò)的改進(jìn)研究及應(yīng)用[D]. 劉天舒.東北農(nóng)業(yè)大學(xué) 2011
本文編號:3731690
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3731690.html
最近更新
教材專著