當(dāng)前,深度學(xué)習(xí)與群體智能優(yōu)化算法都是比較熱門的研究課題。其中,非監(jiān)督深度學(xué)習(xí)能夠獲得數(shù)據(jù)中抽象、本質(zhì)的特征,群體智能優(yōu)化算法可以應(yīng)用在高維數(shù)據(jù)的聚類研究中。本文選擇深度信念網(wǎng)絡(luò)作為研究的非監(jiān)督深度學(xué)習(xí)模型,蝙蝠算法作為聚類應(yīng)用的算法。為了使得深度信念網(wǎng)絡(luò)模型獲得更本質(zhì)的特征,蝙蝠算法聚類應(yīng)用獲得更好結(jié)果,本文提出非監(jiān)督深度學(xué)習(xí)與群體智能優(yōu)化一體化算法,最終根據(jù)一體化算法獲得一個(gè)精簡(jiǎn)的深度信念網(wǎng)絡(luò)結(jié)構(gòu)與較好的蝙蝠算法聚類應(yīng)用結(jié)果。本文研究?jī)?nèi)容主要包括以下幾個(gè)方面內(nèi)容:1、改進(jìn)的蝙蝠算法。為了使得本文提出的一體化算法中優(yōu)化的聚類應(yīng)用能夠獲得較高的聚類準(zhǔn)確率,提出一種改進(jìn)的蝙蝠算法。改進(jìn)的蝙蝠算法中,蝙蝠個(gè)體朝著適應(yīng)度值較低的某個(gè)個(gè)體移動(dòng),這樣可以避免陷入某個(gè)局部極值。那些被更新的蝙蝠個(gè)體也存在全局最優(yōu)解,所以保留部分被更新的蝙蝠個(gè)體指導(dǎo)蝙蝠種群尋優(yōu)。適應(yīng)度值較高的個(gè)體周圍存在全局最優(yōu)解的概率較低,所以每次迭代后隨機(jī)初始化1/3種群代替那些適應(yīng)度值較高的蝙蝠個(gè)體。選擇UCI中的Iris,Wine,Sonar,MNIST中部分?jǐn)?shù)據(jù)集作為改進(jìn)的蝙蝠算法與原始蝙蝠算法、差分進(jìn)化算法等智能算法聚類應(yīng)... 

【文章來(lái)源】：江南大學(xué)江蘇省 211工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：77 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 非監(jiān)督深度學(xué)習(xí)與優(yōu)化算法背景及意義
        1.1.1 非監(jiān)督深度學(xué)習(xí)研究背景
        1.1.2 優(yōu)化算法研究背景
        1.1.3 研究的意義和目的
    1.2 國(guó)內(nèi)外研究現(xiàn)狀
        1.2.1 非監(jiān)督深度學(xué)習(xí)的國(guó)內(nèi)外研究現(xiàn)狀
        1.2.2 優(yōu)化算法的國(guó)內(nèi)外研究現(xiàn)狀
    1.3 本文的研究?jī)?nèi)容及結(jié)構(gòu)安排
        1.3.1 研究?jī)?nèi)容
        1.3.2 結(jié)構(gòu)安排
    1.4 本章小結(jié)
第二章 非監(jiān)督深度學(xué)習(xí)與優(yōu)化算法相關(guān)理論
    2.1 深度學(xué)習(xí)
        2.1.1 深度學(xué)習(xí)優(yōu)勢(shì)
        2.1.2 深度學(xué)習(xí)結(jié)構(gòu)
    2.2 非監(jiān)督深度學(xué)習(xí)
        2.2.1 自動(dòng)編碼器
        2.2.2 深度信念網(wǎng)絡(luò)
        2.2.3 深度玻爾茲曼機(jī)
    2.3 優(yōu)化理論基本概念
        2.3.1 優(yōu)化問(wèn)題數(shù)學(xué)建模
        2.3.2 優(yōu)化算法搜索目標(biāo)
    2.4 優(yōu)化算法
        2.4.1 遺傳算法
        2.4.2 差分進(jìn)化算法
        2.4.3 粒子群優(yōu)化算法
        2.4.4 蝙蝠算法
    2.5 本章小結(jié)
第三章 改進(jìn)的蝙蝠算法
    3.1 蝙蝠算法描述
        3.1.1 蝙蝠算法全局尋優(yōu)
        3.1.2 蝙蝠算法局部尋優(yōu)
    3.2 蝙蝠算法實(shí)現(xiàn)步驟
    3.3 蝙蝠算法存在的問(wèn)題
    3.4 IDBA算法
        3.4.1 IDBA算法全局尋優(yōu)策略
        3.4.2 IDBA算法指引方向分析
        3.4.3 IDBA算法局部尋優(yōu)策略
        3.4.4 IDBA算法響度和脈沖率更新
        3.4.5 IDBA算法優(yōu)勝劣汰策略
    3.5 IDBA算法聚類應(yīng)用實(shí)現(xiàn)步驟
    3.6 實(shí)驗(yàn)及結(jié)果分析
        3.6.1 數(shù)據(jù)集
        3.6.2 聚類準(zhǔn)則及聚類評(píng)價(jià)指標(biāo)
        3.6.3 算法參數(shù)設(shè)置
        3.6.4 實(shí)驗(yàn)1
        3.6.5 實(shí)驗(yàn)2
        3.6.6 實(shí)驗(yàn)分析
    3.7 本章小結(jié)
第四章 基于蝙蝠算法的DBN網(wǎng)絡(luò)結(jié)構(gòu)確定方法研究
    4.1 受限玻爾茲曼機(jī)（RBM）
        4.1.1 受限玻爾茲曼機(jī)結(jié)構(gòu)
        4.1.2 RBM無(wú)監(jiān)督訓(xùn)練
    4.2 深度信念網(wǎng)絡(luò)（DBN）
        4.2.1 深度信念網(wǎng)絡(luò)結(jié)構(gòu)
        4.2.2 深度信念網(wǎng)絡(luò)訓(xùn)練
    4.3 基于蝙蝠算法的DBN網(wǎng)絡(luò)結(jié)構(gòu)確定算法
        4.3.1 DBN網(wǎng)絡(luò)結(jié)構(gòu)模型評(píng)價(jià)標(biāo)準(zhǔn)
        4.3.2 DBN結(jié)構(gòu)確定與優(yōu)化一體化算法
        4.3.3 DBN結(jié)構(gòu)確定與優(yōu)化一體化算法流程圖
    4.4 實(shí)驗(yàn)結(jié)果與分析
        4.4.1 數(shù)據(jù)集
        4.4.2 相關(guān)參數(shù)
        4.4.3 極大值標(biāo)準(zhǔn)化處理原始數(shù)據(jù)聚類
        4.4.4 DBN結(jié)構(gòu)確定與IDBA一體化算法中的聚類
        4.4.5 實(shí)驗(yàn)分析
    4.5 本章小結(jié)
第五章 基于DBNSD算法的DBN網(wǎng)絡(luò)結(jié)構(gòu)確定方法研究
    5.1 Lipschitz連續(xù)條件下的收斂
    5.2 DBNSD算法增加隱含層神經(jīng)元
        5.2.1 隨機(jī)設(shè)定的隱含層神經(jīng)元個(gè)數(shù)
        5.2.2 單個(gè)樣本角度增加隱含層神經(jīng)元
        5.2.3 所有樣本角度增加隱含層神經(jīng)元
        5.2.4 DBNSD算法中層數(shù)增加方法
    5.3 一體化算法中優(yōu)化算法的聚類應(yīng)用
    5.4 DBN結(jié)構(gòu)確定與優(yōu)化一體化算法流程圖
    5.5 實(shí)驗(yàn)及結(jié)果分析
        5.5.1 數(shù)據(jù)集
        5.5.2 相關(guān)參數(shù)
        5.5.3 對(duì)歸一化的數(shù)據(jù)聚類測(cè)試
        5.5.4 文獻(xiàn)[70]方法提取的特征對(duì)應(yīng)的聚類測(cè)試
        5.5.5 一體化算法中的聚類測(cè)試
        5.5.6 實(shí)驗(yàn)分析
    5.6 本章小結(jié)
總結(jié)與展望
    主要結(jié)論
    展望
致謝
參考文獻(xiàn)
附錄：作者在攻讀碩士學(xué)位期間發(fā)表的論文


【參考文獻(xiàn)】：
期刊論文
[1]基于動(dòng)態(tài)Gibbs采樣的RBM訓(xùn)練算法研究[J]. 李飛,高曉光,萬(wàn)開方.  自動(dòng)化學(xué)報(bào). 2016(06)
[2]基于遺傳算法的RBM優(yōu)化設(shè)計(jì)[J]. 劉凱,張立民,孫永威.  微電子學(xué)與計(jì)算機(jī). 2015(06)
[3]基于禁忌搜索的蝙蝠算法[J]. 羅波,袁嵩,朱合志.  計(jì)算機(jī)時(shí)代. 2014(12)
[4]函數(shù)優(yōu)化的量子蝙蝠算法[J]. 李枝勇,馬良,張惠珍.  系統(tǒng)管理學(xué)報(bào). 2014(05)
[5]一種改進(jìn)的自適應(yīng)變異蝙蝠算法[J]. 盛孟龍,賀興時(shí),王慧敏.  計(jì)算機(jī)技術(shù)與發(fā)展. 2014(10)
[6]深度學(xué)習(xí)研究進(jìn)展[J]. 劉建偉,劉媛,羅雄麟.  計(jì)算機(jī)應(yīng)用研究. 2014(07)
[7]基于DE算法改進(jìn)的蝙蝠算法的研究及應(yīng)用[J]. 肖輝輝,段艷明.  計(jì)算機(jī)仿真. 2014(01)
[8]機(jī)器學(xué)習(xí)面臨的挑戰(zhàn)[J]. 張長(zhǎng)水.  中國(guó)科學(xué):信息科學(xué). 2013(12)
[9]新型全局優(yōu)化蝙蝠算法[J]. 李煜,馬良.  計(jì)算機(jī)科學(xué). 2013(09)
[10]深度學(xué)習(xí)的昨天、今天和明天[J]. 余凱,賈磊,陳雨強(qiáng),徐偉.  計(jì)算機(jī)研究與發(fā)展. 2013(09)

博士論文
[1]量子行為粒子群優(yōu)化算法研究[D]. 孫俊.江南大學(xué) 2009



本文編號(hào)：2949164