基于深度學(xué)習(xí)的自組織分類算法
本文關(guān)鍵詞:基于深度學(xué)習(xí)的自組織分類算法
更多相關(guān)文章: 聯(lián)想生成 條件反射 自組織分類 深信度網(wǎng)絡(luò) 特征提取
【摘要】:通過(guò)對(duì)語(yǔ)言形成過(guò)程的學(xué)習(xí),我們發(fā)現(xiàn)大腦可以接收不同信號(hào)源,經(jīng)聯(lián)想、模式識(shí)別等操作,將同類事物的不同表達(dá)方式提取出共同特征從而建立聯(lián)系,最終將同類型事物自組織分類。同時(shí),巴甫洛夫?qū)嶒?yàn)證明了我們生物體具有著基本的條件反射能力,當(dāng)經(jīng)?吹揭恍┫嚓P(guān)聯(lián)的事物時(shí),我們可以做出快速的反應(yīng),比如“談梅生津”指的就是當(dāng)我們聽(tīng)到梅子時(shí)就會(huì)流口水。神經(jīng)網(wǎng)絡(luò)作為人工智能領(lǐng)域一個(gè)舉足輕重的領(lǐng)域,在發(fā)展歷程中經(jīng)歷了從淺層學(xué)習(xí)到深度學(xué)習(xí)的浪潮。2006年之前,人工神經(jīng)網(wǎng)絡(luò)反向傳播算法的提出使得機(jī)器學(xué)習(xí)取得巨大成功,我們可以通過(guò)使用人工神經(jīng)網(wǎng)絡(luò)從大量訓(xùn)練樣本中找到統(tǒng)計(jì)規(guī)律,然后進(jìn)行預(yù)測(cè)、分類。隨后,由于理論分析的難度和訓(xùn)練過(guò)程的繁復(fù),人工神經(jīng)網(wǎng)絡(luò)進(jìn)入低谷期,而支持向量機(jī)、最大熵方法等模型取得了巨大成功。2006年,加拿大多倫多大學(xué)教授Geoffrey Hinton在《科學(xué)》發(fā)表了關(guān)于深度學(xué)習(xí)的一篇文章,表明含隱藏層的神經(jīng)網(wǎng)絡(luò)可以學(xué)習(xí)到數(shù)據(jù)的特征,并且訓(xùn)練過(guò)程可以通過(guò)逐層初始化解決。自此,深度學(xué)習(xí)開(kāi)始對(duì)學(xué)術(shù)界和工業(yè)界產(chǎn)生巨大影響。本文研究的主要內(nèi)容就是通過(guò)建立一個(gè)多路信號(hào)聯(lián)想生成模型,從而將同類事物進(jìn)行自組織分類的算法來(lái)模擬大腦的能力。該算法主要基于限制波爾茲曼機(jī)、深信度網(wǎng)絡(luò)以及自組織映射算法,首先使用深信度網(wǎng)絡(luò)對(duì)多路輸入信號(hào)源進(jìn)行特征提取,隨后通過(guò)限制波爾茲曼機(jī)將特征融合產(chǎn)生共同特征,最終采用自組織映射算法將事物分類。在學(xué)習(xí)語(yǔ)言及文字的過(guò)程中,人類可以通過(guò)將相同含義但不同語(yǔ)言的文字建立聯(lián)系,能夠靈活的將不同語(yǔ)言不同文字相互轉(zhuǎn)換。深度學(xué)習(xí)算法出現(xiàn)之前,我們通過(guò)淺層學(xué)習(xí)算法可以做到從一類信號(hào)輸入源中識(shí)別文字,但很少有將不同信號(hào)源建立聯(lián)系的算法。本文實(shí)驗(yàn)中我們將利用基于深度學(xué)習(xí)的自組織分類算法實(shí)現(xiàn)漢字?jǐn)?shù)字圖片同阿拉伯?dāng)?shù)字圖片建立關(guān)聯(lián),最終在網(wǎng)絡(luò)中產(chǎn)生分類。通過(guò)實(shí)驗(yàn)證明,使用基于深度學(xué)習(xí)的自組織分類算法可以將同類事物的不同表達(dá)方式建立聯(lián)系,隨后產(chǎn)生條件反射效果;同時(shí)我們將學(xué)習(xí)到聯(lián)想記憶通過(guò)完全無(wú)監(jiān)督的自組織分類算法,成功學(xué)習(xí)到統(tǒng)一概念,達(dá)到了學(xué)習(xí)知識(shí)的效果。
【關(guān)鍵詞】:聯(lián)想生成 條件反射 自組織分類 深信度網(wǎng)絡(luò) 特征提取
【學(xué)位授予單位】:吉林大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2016
【分類號(hào)】:TP18
【目錄】:
- 摘要4-6
- Abstract6-10
- 第1章 緒論10-16
- 1.1 研究背景10-11
- 1.2 研究意義11-12
- 1.3 研究現(xiàn)狀12-14
- 1.4 研究?jī)?nèi)容及創(chuàng)新點(diǎn)14-15
- 1.5 本文組織結(jié)構(gòu)15-16
- 第2章 深度學(xué)習(xí)及自組織分類理論和算法基礎(chǔ)16-24
- 2.1 引言16-18
- 2.2 神經(jīng)網(wǎng)絡(luò)概述18-21
- 2.2.1 感知機(jī)18-19
- 2.2.2 前饋型神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法19-20
- 2.2.3 反饋型神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法20-21
- 2.3 限制波爾茲曼機(jī)21
- 2.4 深信度網(wǎng)絡(luò)21-22
- 2.5 自組織映射網(wǎng)絡(luò)22-23
- 2.6 本章小結(jié)23-24
- 第3章 基于深度學(xué)習(xí)的自組織分類算法24-34
- 3.1 引言24-25
- 3.2 自組織分類算法模型25-26
- 3.3 算法基礎(chǔ)26-29
- 3.3.1 對(duì)比散度算法與Gibbs采樣26-28
- 3.3.2 過(guò)擬合和dropout方法28
- 3.3.3 Mini-batch算法28-29
- 3.4 模型訓(xùn)練及驗(yàn)證算法29-32
- 3.4.1 模型訓(xùn)練29-32
- 3.4.2 模型驗(yàn)證32
- 3.5 本章小結(jié)32-34
- 第4章 實(shí)驗(yàn)及結(jié)果34-43
- 4.1 引言34-35
- 4.2 數(shù)據(jù)集35-36
- 4.3 實(shí)驗(yàn)?zāi)P图敖Y(jié)果分析36-41
- 4.3.1 聯(lián)想生成結(jié)果分析37-39
- 4.3.2 自組織分類結(jié)果分析39-41
- 4.4 本章小結(jié)41-43
- 第5章 總結(jié)與展望43-45
- 5.1 總結(jié)43
- 5.2 結(jié)論與展望43-45
- 參考文獻(xiàn)45-48
- 作者簡(jiǎn)介及在學(xué)期間所取得的科研成果48-49
- 致謝49
【相似文獻(xiàn)】
中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條
1 王萍;;圖書館的自組織序[J];圖書館;2006年01期
2 喬?hào)|枝;;圖書館核心競(jìng)爭(zhēng)力的自組織研究[J];科技情報(bào)開(kāi)發(fā)與經(jīng)濟(jì);2007年16期
3 方天宇;張佳琳;;自組織網(wǎng)絡(luò)中的智能容錯(cuò)導(dǎo)航算法研究[J];雞西大學(xué)學(xué)報(bào);2012年06期
4 寧錄游,張中兆;自組織通信網(wǎng)技術(shù)[J];通信技術(shù);2002年01期
5 楊甫;肖前香;;按需自組織路由算法的設(shè)計(jì)[J];信息安全與通信保密;2006年06期
6 曹薊光;;自組織網(wǎng)絡(luò)技術(shù)的發(fā)展趨勢(shì)[J];電信網(wǎng)技術(shù);2007年07期
7 于坤;吳國(guó)新;方群;;基于二階聲譽(yù)測(cè)度的自組織網(wǎng)絡(luò)合作激勵(lì)機(jī)制[J];東南大學(xué)學(xué)報(bào)(自然科學(xué)版);2008年06期
8 孫韓林;金躍輝;崔毅東;蔣硯軍;;自組織網(wǎng)絡(luò)的元指標(biāo)體系[J];計(jì)算機(jī)系統(tǒng)應(yīng)用;2008年09期
9 彭寧波;;信息自組織的產(chǎn)生、形成和發(fā)展探析[J];圖書館學(xué)研究;2010年07期
10 李燕;淺談自組織無(wú)線網(wǎng)絡(luò)技術(shù)[J];甘肅科技;2005年10期
中國(guó)重要會(huì)議論文全文數(shù)據(jù)庫(kù) 前10條
1 黃進(jìn)永;;自組織網(wǎng)絡(luò)可靠性分析技術(shù)[A];2010第十五屆可靠性學(xué)術(shù)年會(huì)論文集[C];2010年
2 譚矛;孫江輝;;一種自組織式車-車通訊技術(shù)的研究[A];2013中國(guó)汽車工程學(xué)會(huì)年會(huì)論文集[C];2013年
3 趙寧;;軍用自組織網(wǎng)絡(luò)體系結(jié)構(gòu)研究[A];開(kāi)創(chuàng)新世紀(jì)的通信技術(shù)——第七屆全國(guó)青年通信學(xué)術(shù)會(huì)議論文集[C];2001年
4 蔡曉晗;;城市規(guī)劃的多元力量——以舊住房自組織改建為例[A];多元與包容——2012中國(guó)城市規(guī)劃年會(huì)論文集(06.住房建設(shè)與社區(qū)規(guī)劃)[C];2012年
5 袁倩;;國(guó)家退出之后:基于農(nóng)村自組織的公共產(chǎn)品供給機(jī)制——對(duì)趙壩“農(nóng)民議會(huì)”的案例研究[A];上海青年政治學(xué)年度報(bào)告2013[C];2013年
6 梅林;謝薇;鐘雪霞;王建;;淺談應(yīng)急通信自組織網(wǎng)絡(luò)技術(shù)[A];2013第一屆中國(guó)指揮控制大會(huì)論文集[C];2013年
7 朱脈勇;王瑩;黃潔;龔輝;刁國(guó)旺;;表面活性劑對(duì)鎳納米粒子的形貌及自組織的影響[A];中國(guó)化學(xué)會(huì)第27屆學(xué)術(shù)年會(huì)第04分會(huì)場(chǎng)摘要集[C];2010年
8 邵澤才;丁丁;劉磊;黃宇紅;;自組織移動(dòng)通信網(wǎng)絡(luò)研究概述[A];2008年中國(guó)通信學(xué)會(huì)無(wú)線及移動(dòng)通信委員會(huì)學(xué)術(shù)年會(huì)論文集[C];2008年
9 王進(jìn)富;張穎穎;;協(xié)同創(chuàng)新網(wǎng)絡(luò)形成的自組織機(jī)理[A];第十一屆中國(guó)技術(shù)管理(2014`MOT)年會(huì)論文集[C];2014年
10 張蓉茜;陳曉曙;;一種分級(jí)多跳自組織無(wú)線通信網(wǎng)絡(luò)的研究[A];江蘇省通信學(xué)會(huì)2004年學(xué)術(shù)年會(huì)論文集[C];2004年
中國(guó)博士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條
1 范紹帥;自組織網(wǎng)絡(luò)智能化控制與優(yōu)化策略研究[D];北京郵電大學(xué);2015年
2 孫瑜;鄉(xiāng)村自組織運(yùn)作過(guò)程中能人現(xiàn)象研究[D];清華大學(xué);2014年
3 郭毅;基于政策的自組織軟件系統(tǒng)及其構(gòu)造和運(yùn)行技術(shù)研究[D];國(guó)防科學(xué)技術(shù)大學(xué);2013年
4 陳曦;自組織蜂窩通信系統(tǒng)若干關(guān)鍵技術(shù)研究[D];解放軍信息工程大學(xué);2007年
5 王非;自組織網(wǎng)絡(luò)信譽(yù)模型及其應(yīng)用研究[D];華中科技大學(xué);2008年
6 魏W,
本文編號(hào):647953
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/647953.html