對于分類問題,基于大量有標簽數(shù)據(jù)的監(jiān)督學習研究已經(jīng)取得了很多成果,但現(xiàn)實中想要獲取充足的有標簽樣本非常困難.實際我們能獲得的大部分數(shù)據(jù)都是無標簽的或者所含標簽值是絕大部分缺失的,所以關(guān)于通過學習大量無標簽數(shù)據(jù)中的數(shù)據(jù)信息來幫助提高模型泛化能力的半監(jiān)督學習算法一直是我們研究的熱點與難點.半監(jiān)督學習解決了標簽值不足時監(jiān)督學習算法泛化能力不強與缺少樣本標簽引導時無監(jiān)督學習算法不準確的問題.半監(jiān)督學習常見的算法可以分為低密度分割法、基于圖的研究、基于分歧的方法與生成式方法,其中生成式方法中的生成式對抗網(wǎng)絡就是本文研究的對象.作為目前機器學習研究的熱點,生成式對抗網(wǎng)絡（GAN）使用的是零和博弈的思想.構(gòu)成GAN模型的判別器和生成器通過不斷博弈優(yōu)化各自的模型,判別器輸出輸入的數(shù)據(jù)屬于真實數(shù)據(jù)的概率值,生成器學習真實數(shù)據(jù)的分布.由神經(jīng)網(wǎng)絡組成的判別器根據(jù)分配給真實數(shù)據(jù)低概率值而分配給生成數(shù)據(jù)高概率值形成的損失來梯度下降更新參數(shù),同樣是神經(jīng)網(wǎng)絡的生成器根據(jù)判別器分配給生成數(shù)據(jù)低概率值形成的損失來梯度下降更新參數(shù),判別器與生成器交替優(yōu)化,最終達到納什平衡,也就是判別器無法區(qū)分輸入的數(shù)據(jù)是真實數(shù)據(jù)還是生成... 

【文章來源】：浙江工商大學浙江省

【文章頁數(shù)】：65 頁

【學位級別】：碩士

【部分圖文】：

BP神經(jīng)網(wǎng)絡

浙江工商大學碩士論文2.1.2卷積神經(jīng)網(wǎng)絡本文模型中的神經(jīng)網(wǎng)絡結(jié)構(gòu)大都基于卷積神經(jīng)網(wǎng)絡(CNN)構(gòu)建的,卷積神經(jīng)網(wǎng)絡在處理網(wǎng)格型結(jié)構(gòu)數(shù)據(jù)方面有著很好的表現(xiàn).在機器學習領(lǐng)域,神經(jīng)網(wǎng)絡是處理圖像數(shù)據(jù)必不可少的工具,網(wǎng)絡中的神經(jīng)元局部連接方式使得每一個神經(jīng)元不是和上一層的每一個神經(jīng)元相連,而是采用與一組卷積核的權(quán)值共享方式使得一組神經(jīng)元連接共享權(quán)值,相比全連接網(wǎng)絡(多層感知機)它需要的參數(shù)相對更少,減少過擬合的可能性.圖2.2為一個CNN的結(jié)構(gòu)示例,其層級結(jié)構(gòu)主要包括:數(shù)據(jù)輸入層、卷積計算層、ReLU激勵層、池化層、全連接層和批正則化層(可能會有),也叫BN層[48].圖2.2卷積神經(jīng)網(wǎng)絡示例圖卷積計算層中的卷積操作可以看做輸入的圖片被若干個卷積核處理,生成若干張?zhí)卣鲌D,是一種線性映射,樣例見圖2.3.圖2.3二維多通道卷積示例圖假設輸入圖片樣本(,,)有個通道,卷積核(,,)有個10

浙江工商大學碩士論文2.1.2卷積神經(jīng)網(wǎng)絡本文模型中的神經(jīng)網(wǎng)絡結(jié)構(gòu)大都基于卷積神經(jīng)網(wǎng)絡(CNN)構(gòu)建的,卷積神經(jīng)網(wǎng)絡在處理網(wǎng)格型結(jié)構(gòu)數(shù)據(jù)方面有著很好的表現(xiàn).在機器學習領(lǐng)域,神經(jīng)網(wǎng)絡是處理圖像數(shù)據(jù)必不可少的工具,網(wǎng)絡中的神經(jīng)元局部連接方式使得每一個神經(jīng)元不是和上一層的每一個神經(jīng)元相連,而是采用與一組卷積核的權(quán)值共享方式使得一組神經(jīng)元連接共享權(quán)值,相比全連接網(wǎng)絡(多層感知機)它需要的參數(shù)相對更少,減少過擬合的可能性.圖2.2為一個CNN的結(jié)構(gòu)示例,其層級結(jié)構(gòu)主要包括:數(shù)據(jù)輸入層、卷積計算層、ReLU激勵層、池化層、全連接層和批正則化層(可能會有),也叫BN層[48].圖2.2卷積神經(jīng)網(wǎng)絡示例圖卷積計算層中的卷積操作可以看做輸入的圖片被若干個卷積核處理,生成若干張?zhí)卣鲌D,是一種線性映射,樣例見圖2.3.圖2.3二維多通道卷積示例圖假設輸入圖片樣本(,,)有個通道,卷積核(,,)有個10


本文編號：3486266