基于深度學習的自組織分類算法
本文關鍵詞:基于深度學習的自組織分類算法
更多相關文章: 聯想生成 條件反射 自組織分類 深信度網絡 特征提取
【摘要】:通過對語言形成過程的學習,我們發(fā)現大腦可以接收不同信號源,經聯想、模式識別等操作,將同類事物的不同表達方式提取出共同特征從而建立聯系,最終將同類型事物自組織分類。同時,巴甫洛夫實驗證明了我們生物體具有著基本的條件反射能力,當經常看到一些相關聯的事物時,我們可以做出快速的反應,比如“談梅生津”指的就是當我們聽到梅子時就會流口水。神經網絡作為人工智能領域一個舉足輕重的領域,在發(fā)展歷程中經歷了從淺層學習到深度學習的浪潮。2006年之前,人工神經網絡反向傳播算法的提出使得機器學習取得巨大成功,我們可以通過使用人工神經網絡從大量訓練樣本中找到統(tǒng)計規(guī)律,然后進行預測、分類。隨后,由于理論分析的難度和訓練過程的繁復,人工神經網絡進入低谷期,而支持向量機、最大熵方法等模型取得了巨大成功。2006年,加拿大多倫多大學教授Geoffrey Hinton在《科學》發(fā)表了關于深度學習的一篇文章,表明含隱藏層的神經網絡可以學習到數據的特征,并且訓練過程可以通過逐層初始化解決。自此,深度學習開始對學術界和工業(yè)界產生巨大影響。本文研究的主要內容就是通過建立一個多路信號聯想生成模型,從而將同類事物進行自組織分類的算法來模擬大腦的能力。該算法主要基于限制波爾茲曼機、深信度網絡以及自組織映射算法,首先使用深信度網絡對多路輸入信號源進行特征提取,隨后通過限制波爾茲曼機將特征融合產生共同特征,最終采用自組織映射算法將事物分類。在學習語言及文字的過程中,人類可以通過將相同含義但不同語言的文字建立聯系,能夠靈活的將不同語言不同文字相互轉換。深度學習算法出現之前,我們通過淺層學習算法可以做到從一類信號輸入源中識別文字,但很少有將不同信號源建立聯系的算法。本文實驗中我們將利用基于深度學習的自組織分類算法實現漢字數字圖片同阿拉伯數字圖片建立關聯,最終在網絡中產生分類。通過實驗證明,使用基于深度學習的自組織分類算法可以將同類事物的不同表達方式建立聯系,隨后產生條件反射效果;同時我們將學習到聯想記憶通過完全無監(jiān)督的自組織分類算法,成功學習到統(tǒng)一概念,達到了學習知識的效果。
【關鍵詞】:聯想生成 條件反射 自組織分類 深信度網絡 特征提取
【學位授予單位】:吉林大學
【學位級別】:碩士
【學位授予年份】:2016
【分類號】:TP18
【目錄】:
- 摘要4-6
- Abstract6-10
- 第1章 緒論10-16
- 1.1 研究背景10-11
- 1.2 研究意義11-12
- 1.3 研究現狀12-14
- 1.4 研究內容及創(chuàng)新點14-15
- 1.5 本文組織結構15-16
- 第2章 深度學習及自組織分類理論和算法基礎16-24
- 2.1 引言16-18
- 2.2 神經網絡概述18-21
- 2.2.1 感知機18-19
- 2.2.2 前饋型神經網絡訓練方法19-20
- 2.2.3 反饋型神經網絡訓練方法20-21
- 2.3 限制波爾茲曼機21
- 2.4 深信度網絡21-22
- 2.5 自組織映射網絡22-23
- 2.6 本章小結23-24
- 第3章 基于深度學習的自組織分類算法24-34
- 3.1 引言24-25
- 3.2 自組織分類算法模型25-26
- 3.3 算法基礎26-29
- 3.3.1 對比散度算法與Gibbs采樣26-28
- 3.3.2 過擬合和dropout方法28
- 3.3.3 Mini-batch算法28-29
- 3.4 模型訓練及驗證算法29-32
- 3.4.1 模型訓練29-32
- 3.4.2 模型驗證32
- 3.5 本章小結32-34
- 第4章 實驗及結果34-43
- 4.1 引言34-35
- 4.2 數據集35-36
- 4.3 實驗模型及結果分析36-41
- 4.3.1 聯想生成結果分析37-39
- 4.3.2 自組織分類結果分析39-41
- 4.4 本章小結41-43
- 第5章 總結與展望43-45
- 5.1 總結43
- 5.2 結論與展望43-45
- 參考文獻45-48
- 作者簡介及在學期間所取得的科研成果48-49
- 致謝49
【相似文獻】
中國期刊全文數據庫 前10條
1 王萍;;圖書館的自組織序[J];圖書館;2006年01期
2 喬東枝;;圖書館核心競爭力的自組織研究[J];科技情報開發(fā)與經濟;2007年16期
3 方天宇;張佳琳;;自組織網絡中的智能容錯導航算法研究[J];雞西大學學報;2012年06期
4 寧錄游,張中兆;自組織通信網技術[J];通信技術;2002年01期
5 楊甫;肖前香;;按需自組織路由算法的設計[J];信息安全與通信保密;2006年06期
6 曹薊光;;自組織網絡技術的發(fā)展趨勢[J];電信網技術;2007年07期
7 于坤;吳國新;方群;;基于二階聲譽測度的自組織網絡合作激勵機制[J];東南大學學報(自然科學版);2008年06期
8 孫韓林;金躍輝;崔毅東;蔣硯軍;;自組織網絡的元指標體系[J];計算機系統(tǒng)應用;2008年09期
9 彭寧波;;信息自組織的產生、形成和發(fā)展探析[J];圖書館學研究;2010年07期
10 李燕;淺談自組織無線網絡技術[J];甘肅科技;2005年10期
中國重要會議論文全文數據庫 前10條
1 黃進永;;自組織網絡可靠性分析技術[A];2010第十五屆可靠性學術年會論文集[C];2010年
2 譚矛;孫江輝;;一種自組織式車-車通訊技術的研究[A];2013中國汽車工程學會年會論文集[C];2013年
3 趙寧;;軍用自組織網絡體系結構研究[A];開創(chuàng)新世紀的通信技術——第七屆全國青年通信學術會議論文集[C];2001年
4 蔡曉晗;;城市規(guī)劃的多元力量——以舊住房自組織改建為例[A];多元與包容——2012中國城市規(guī)劃年會論文集(06.住房建設與社區(qū)規(guī)劃)[C];2012年
5 袁倩;;國家退出之后:基于農村自組織的公共產品供給機制——對趙壩“農民議會”的案例研究[A];上海青年政治學年度報告2013[C];2013年
6 梅林;謝薇;鐘雪霞;王建;;淺談應急通信自組織網絡技術[A];2013第一屆中國指揮控制大會論文集[C];2013年
7 朱脈勇;王瑩;黃潔;龔輝;刁國旺;;表面活性劑對鎳納米粒子的形貌及自組織的影響[A];中國化學會第27屆學術年會第04分會場摘要集[C];2010年
8 邵澤才;丁丁;劉磊;黃宇紅;;自組織移動通信網絡研究概述[A];2008年中國通信學會無線及移動通信委員會學術年會論文集[C];2008年
9 王進富;張穎穎;;協(xié)同創(chuàng)新網絡形成的自組織機理[A];第十一屆中國技術管理(2014`MOT)年會論文集[C];2014年
10 張蓉茜;陳曉曙;;一種分級多跳自組織無線通信網絡的研究[A];江蘇省通信學會2004年學術年會論文集[C];2004年
中國博士學位論文全文數據庫 前10條
1 范紹帥;自組織網絡智能化控制與優(yōu)化策略研究[D];北京郵電大學;2015年
2 孫瑜;鄉(xiāng)村自組織運作過程中能人現象研究[D];清華大學;2014年
3 郭毅;基于政策的自組織軟件系統(tǒng)及其構造和運行技術研究[D];國防科學技術大學;2013年
4 陳曦;自組織蜂窩通信系統(tǒng)若干關鍵技術研究[D];解放軍信息工程大學;2007年
5 王非;自組織網絡信譽模型及其應用研究[D];華中科技大學;2008年
6 魏W,
本文編號:647953
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/647953.html