監(jiān)督學(xué)習(xí)的精度極大依賴(lài)于標(biāo)簽樣本數(shù)量,人工標(biāo)記樣本的成本很高,利用大量無(wú)標(biāo)簽樣本及有限數(shù)量標(biāo)簽樣本的半監(jiān)督學(xué)習(xí)成為提升算法精度的有效方法。深度學(xué)習(xí)的生成模型僅利用輸入樣本本身作監(jiān)督,在半監(jiān)督學(xué)習(xí)中可以幫助學(xué)習(xí)器利用大量無(wú)標(biāo)簽樣本數(shù)據(jù)學(xué)習(xí)樣本的分布情況,成為半監(jiān)督學(xué)習(xí)領(lǐng)域的新方法。本文在詳細(xì)研究了對(duì)抗自編碼器（AAE）模型結(jié)構(gòu)及訓(xùn)練過(guò)程后發(fā)現(xiàn):在半監(jiān)督分類(lèi)任務(wù)中,模型具有兩個(gè)不同的判別器,兩種約束在訓(xùn)練過(guò)程中會(huì)削弱彼此的正則化能力;同時(shí)在半監(jiān)督分類(lèi)任務(wù)中,并不關(guān)心解碼器生成樣本的樣式問(wèn)題,并且實(shí)驗(yàn)證明,對(duì)標(biāo)簽變量進(jìn)行約束的同時(shí)也能夠使得隱變量分布向高斯分布靠攏。因此,本文對(duì)AAE模型進(jìn)行優(yōu)化,提出了半監(jiān)督對(duì)抗自編碼器SSAAE（Semi-Supervised Adversarial Auto-Encoder）模型。SSAAE模型僅通過(guò)對(duì)標(biāo)簽變量進(jìn)行正則化約束,消除了AAE模型中隱變量判別器和標(biāo)簽變量判別器兩個(gè)判別器對(duì)正則化的影響問(wèn)題。在MNIST數(shù)據(jù)集、SVHN數(shù)據(jù)集以及醫(yī)學(xué)圖像上實(shí)驗(yàn),分類(lèi)結(jié)果優(yōu)于AAE模型,且優(yōu)化后的模型更易訓(xùn)練,收斂速度更快。AAE模型以多層感知機(jī)作為網(wǎng)絡(luò)的基礎(chǔ)結(jié)構(gòu)... 

【文章來(lái)源】：青島大學(xué)山東省

【文章頁(yè)數(shù)】：56 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
abstract
第一章 緒論
    1.1 研究背景及意義
    1.2 半監(jiān)督學(xué)習(xí)研究現(xiàn)狀
    1.3 本文組織結(jié)構(gòu)
第二章 相關(guān)基礎(chǔ)知識(shí)
    2.1 神經(jīng)網(wǎng)絡(luò)
        2.1.1 感知機(jī)模型
        2.1.2 前向和反向傳播
    2.2 自編碼器
        2.2.1 傳統(tǒng)自編碼器
        2.2.2 變分自編碼器
    2.3 生成式對(duì)抗網(wǎng)絡(luò)
        2.3.1 GAN的基本原理
        2.3.2 條件生成式對(duì)抗網(wǎng)絡(luò)
    2.4 對(duì)抗自編碼器
        2.4.1 對(duì)抗自編碼器模型
        2.4.2 編碼器的選擇
        2.4.3 訓(xùn)練過(guò)程
    2.5 本章小結(jié)
第三章 基于對(duì)抗自編碼器的半監(jiān)督分類(lèi)模型研究
    3.1 對(duì)抗自編碼器與半監(jiān)督的結(jié)合
    3.2 半監(jiān)督對(duì)抗自編碼器的研究
        3.2.1 問(wèn)題分析
        3.2.2 半監(jiān)督對(duì)抗自編碼器
    3.3 半監(jiān)督深度卷積對(duì)抗自編碼器的研究
        3.3.1 問(wèn)題分析
        3.3.2 深度卷積生成式對(duì)抗網(wǎng)絡(luò)
        3.3.3 半監(jiān)督深度卷積對(duì)抗自編碼器
    3.4 本章小結(jié)
第四章 基于對(duì)抗自編碼器的半監(jiān)督分類(lèi)模型實(shí)驗(yàn)分析
    4.1 實(shí)驗(yàn)環(huán)境及數(shù)據(jù)集
        4.1.1 實(shí)驗(yàn)環(huán)境
        4.1.2 實(shí)驗(yàn)數(shù)據(jù)集
    4.2 模型設(shè)計(jì)及參數(shù)設(shè)置
    4.3 實(shí)驗(yàn)結(jié)果與分析
        4.3.1 半監(jiān)督分類(lèi)準(zhǔn)確率
        4.3.2 編碼器輸出分布比較
        4.3.3 重構(gòu)輸出比較
    4.4 醫(yī)學(xué)圖像上的分類(lèi)
        4.4.1 實(shí)驗(yàn)數(shù)據(jù)及預(yù)處理
        4.4.2 模型設(shè)計(jì)
        4.4.3 實(shí)驗(yàn)結(jié)果分析
    4.5 本章小結(jié)
第五章 總結(jié)與展望
參考文獻(xiàn)
攻讀學(xué)位期間的研究成果
致謝


【參考文獻(xiàn)】：
期刊論文
[1]半監(jiān)督學(xué)習(xí)理論及其研究進(jìn)展概述[J]. 屠恩美,楊杰.  上海交通大學(xué)學(xué)報(bào). 2018(10)
[2]基于半監(jiān)督學(xué)習(xí)生成對(duì)抗網(wǎng)絡(luò)的人臉還原算法研究[J]. 曹志義,牛少彰,張繼威.  電子與信息學(xué)報(bào). 2018(02)
[3]基于深度學(xué)習(xí)的語(yǔ)音識(shí)別技術(shù)現(xiàn)狀與展望[J]. 戴禮榮,張仕良,黃智穎.  數(shù)據(jù)采集與處理. 2017(02)
[4]面向自然語(yǔ)言處理的深度學(xué)習(xí)研究[J]. 奚雪峰,周?chē)?guó)棟.  自動(dòng)化學(xué)報(bào). 2016(10)
[5]人工神經(jīng)網(wǎng)絡(luò)的發(fā)展及應(yīng)用[J]. 梁燁妮.  硅谷. 2014(12)
[6]具有噪聲過(guò)濾功能的協(xié)同訓(xùn)練半監(jiān)督主動(dòng)學(xué)習(xí)算法[J]. 詹永照,陳亞必.  模式識(shí)別與人工智能. 2009(05)



本文編號(hào)：3138951