【摘要】：機(jī)器學(xué)習(xí)在人工智能領(lǐng)域中扮演著極為重要的角色,它使得機(jī)器能夠?qū)Ω鞣N事物構(gòu)建模型,通過(guò)這些模型,機(jī)器就能夠?qū)ξ覀兊氖澜缧纬伞罢J(rèn)識(shí)”。近年來(lái),機(jī)器學(xué)習(xí)能力得到了突飛猛進(jìn)的發(fā)展,一方面歸功于計(jì)算機(jī)硬件技術(shù)迅速發(fā)展使得存儲(chǔ)成本大幅降低、計(jì)算速度大幅提升;更重要的是關(guān)于機(jī)器學(xué)習(xí)算法的研究獲得了突破性進(jìn)展,尤其是近年深度學(xué)習(xí)算法的提出,使得機(jī)器對(duì)世界的認(rèn)識(shí)能力有了質(zhì)的飛躍。深度自動(dòng)編碼器是深度學(xué)習(xí)算法之一,它是一種深層神經(jīng)網(wǎng)絡(luò),其最大的特點(diǎn)就是通過(guò)一種非監(jiān)督的逐層預(yù)訓(xùn)練使得網(wǎng)絡(luò)有一個(gè)較好的初始值,再通過(guò)有監(jiān)督的微調(diào)訓(xùn)練調(diào)整整個(gè)網(wǎng)絡(luò)的權(quán)值,最終能夠有效地提取數(shù)據(jù)中關(guān)鍵信息,形成特征。本文在研究深度自動(dòng)編碼器算法的同時(shí),也注重研究各類(lèi)常用特征提取算法與分類(lèi)器算法,通過(guò)實(shí)驗(yàn)比較各類(lèi)算法差異,并探索改進(jìn)深度自動(dòng)編碼器的方式。本論文主要研究?jī)?nèi)容如下:(1)研究了多種征特征提取算法,包括經(jīng)典的特征提取算法:主成分分析、線性判別分析、核主成分分析,為區(qū)別深度學(xué)習(xí)算法,本文中將其概括為“淺層”學(xué)習(xí)算法。除了深度自動(dòng)編碼器外,本文還研究了基于受限玻爾茲曼機(jī)的深度學(xué)習(xí)算法,包括自動(dòng)編碼器的幾種改進(jìn)。通過(guò)圖像識(shí)別實(shí)驗(yàn)對(duì)各個(gè)算法性能進(jìn)行比較。(2)研究了多種分類(lèi)器,包括Softmax、支持向量機(jī)以及K最近鄰。將深度自動(dòng)編碼器與各種分類(lèi)器結(jié)合,通過(guò)實(shí)驗(yàn)比較分類(lèi)性能。(3)為了進(jìn)一步提升深度自動(dòng)編碼器的特征學(xué)習(xí)能力,提出一種基于棧式去噪自動(dòng)編碼器的邊際Fisher分析算法,該算法將邊際Fisher分析運(yùn)用于深度自動(dòng)編碼器有監(jiān)督微調(diào)階段,通過(guò)描述同類(lèi)樣本緊湊性的本征圖與描述異類(lèi)樣本分離性的懲罰圖來(lái)優(yōu)化數(shù)據(jù)到特征空間的映射關(guān)系,通過(guò)實(shí)驗(yàn)驗(yàn)證了該方法可行性。
【圖文】：

圖 2.1 LDA 投影圖與 PCA 不同，LDA 是一種有監(jiān)督的學(xué)習(xí)方法，，因此要求帶標(biāo)簽的訓(xùn)練數(shù)據(jù)定的數(shù)據(jù)樣本集tt,其中 y 為數(shù)據(jù)標(biāo)簽，用于標(biāo)記該樣本的類(lèi)別，據(jù)集類(lèi)別為兩類(lèi)，則 h t 。令 、 、 分別表示 h t 類(lèi)樣本的集合

圖 2.2 BM 與 RBM 模型M 是一種基于能量(Energy-based)的模型，假設(shè)一個(gè) RBM 有 n 個(gè)可見(jiàn)單，用向量 v 和 h 分別表示可見(jiàn)單元和隱單元的狀態(tài)，那么，對(duì)于一組給RBM 模型所具備的能量定義為：t t t 多 (2.29
【學(xué)位授予單位】：長(zhǎng)沙理工大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2016
【分類(lèi)號(hào)】：TP391.41;TP18

【參考文獻(xiàn)】

相關(guān)期刊論文 前5條

1 張春霞;姬楠楠;王冠偉;;受限波爾茲曼機(jī)[J];工程數(shù)學(xué)學(xué)報(bào);2015年02期

2 孫志軍;薛磊;許陽(yáng)明;;基于深度學(xué)習(xí)的邊際Fisher分析特征提取算法[J];電子與信息學(xué)報(bào);2013年04期

3 李森;劉希玉;;MFASSC:基于間隔Fisher分析的半監(jiān)督聚類(lèi)方法[J];計(jì)算機(jī)應(yīng)用研究;2012年11期

4 孫志軍;薛磊;許陽(yáng)明;王正;;深度學(xué)習(xí)研究綜述[J];計(jì)算機(jī)應(yīng)用研究;2012年08期

5 孫霞;王自強(qiáng);;基于自適應(yīng)核邊際費(fèi)希爾分析的人臉識(shí)別算法[J];計(jì)算機(jī)工程;2012年11期

相關(guān)博士學(xué)位論文 前1條

1 戴金波;基于視覺(jué)信息的圖像特征提取算法研究[D];吉林大學(xué);2013年

相關(guān)碩士學(xué)位論文 前6條

1 施徐敢;基于深度學(xué)習(xí)的人臉表情識(shí)別[D];浙江理工大學(xué);2015年

2 敖道敢;無(wú)監(jiān)督特征學(xué)習(xí)結(jié)合神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像識(shí)別[D];華南理工大學(xué);2014年

3 雒玉璽;稀疏自動(dòng)編碼器及其加速算法的研究[D];蘭州大學(xué);2014年

4 梁靜;基于深度學(xué)習(xí)的語(yǔ)音識(shí)別研究[D];北京郵電大學(xué);2014年

5 吳婷;基于PCA和SVM的中國(guó)多民族人臉識(shí)別研究[D];中央民族大學(xué);2013年

6 林妙真;基于深度學(xué)習(xí)的人臉識(shí)別研究[D];大連理工大學(xué);2013年

本文編號(hào)：2522342