對于分類問題,基于大量有標(biāo)簽數(shù)據(jù)的監(jiān)督學(xué)習(xí)研究已經(jīng)取得了很多成果,但現(xiàn)實(shí)中想要獲取充足的有標(biāo)簽樣本非常困難.實(shí)際我們能獲得的大部分?jǐn)?shù)據(jù)都是無標(biāo)簽的或者所含標(biāo)簽值是絕大部分缺失的,所以關(guān)于通過學(xué)習(xí)大量無標(biāo)簽數(shù)據(jù)中的數(shù)據(jù)信息來幫助提高模型泛化能力的半監(jiān)督學(xué)習(xí)算法一直是我們研究的熱點(diǎn)與難點(diǎn).半監(jiān)督學(xué)習(xí)解決了標(biāo)簽值不足時(shí)監(jiān)督學(xué)習(xí)算法泛化能力不強(qiáng)與缺少樣本標(biāo)簽引導(dǎo)時(shí)無監(jiān)督學(xué)習(xí)算法不準(zhǔn)確的問題.半監(jiān)督學(xué)習(xí)常見的算法可以分為低密度分割法、基于圖的研究、基于分歧的方法與生成式方法,其中生成式方法中的生成式對抗網(wǎng)絡(luò)就是本文研究的對象.作為目前機(jī)器學(xué)習(xí)研究的熱點(diǎn),生成式對抗網(wǎng)絡(luò)（GAN）使用的是零和博弈的思想.構(gòu)成GAN模型的判別器和生成器通過不斷博弈優(yōu)化各自的模型,判別器輸出輸入的數(shù)據(jù)屬于真實(shí)數(shù)據(jù)的概率值,生成器學(xué)習(xí)真實(shí)數(shù)據(jù)的分布.由神經(jīng)網(wǎng)絡(luò)組成的判別器根據(jù)分配給真實(shí)數(shù)據(jù)低概率值而分配給生成數(shù)據(jù)高概率值形成的損失來梯度下降更新參數(shù),同樣是神經(jīng)網(wǎng)絡(luò)的生成器根據(jù)判別器分配給生成數(shù)據(jù)低概率值形成的損失來梯度下降更新參數(shù),判別器與生成器交替優(yōu)化,最終達(dá)到納什平衡,也就是判別器無法區(qū)分輸入的數(shù)據(jù)是真實(shí)數(shù)據(jù)還是生成... 

【文章來源】：浙江工商大學(xué)浙江省

【文章頁數(shù)】：65 頁

【學(xué)位級別】：碩士

【部分圖文】：

BP神經(jīng)網(wǎng)絡(luò)

浙江工商大學(xué)碩士論文2.1.2卷積神經(jīng)網(wǎng)絡(luò)本文模型中的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)大都基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)構(gòu)建的,卷積神經(jīng)網(wǎng)絡(luò)在處理網(wǎng)格型結(jié)構(gòu)數(shù)據(jù)方面有著很好的表現(xiàn).在機(jī)器學(xué)習(xí)領(lǐng)域,神經(jīng)網(wǎng)絡(luò)是處理圖像數(shù)據(jù)必不可少的工具,網(wǎng)絡(luò)中的神經(jīng)元局部連接方式使得每一個(gè)神經(jīng)元不是和上一層的每一個(gè)神經(jīng)元相連,而是采用與一組卷積核的權(quán)值共享方式使得一組神經(jīng)元連接共享權(quán)值,相比全連接網(wǎng)絡(luò)(多層感知機(jī))它需要的參數(shù)相對更少,減少過擬合的可能性.圖2.2為一個(gè)CNN的結(jié)構(gòu)示例,其層級結(jié)構(gòu)主要包括:數(shù)據(jù)輸入層、卷積計(jì)算層、ReLU激勵(lì)層、池化層、全連接層和批正則化層(可能會(huì)有),也叫BN層[48].圖2.2卷積神經(jīng)網(wǎng)絡(luò)示例圖卷積計(jì)算層中的卷積操作可以看做輸入的圖片被若干個(gè)卷積核處理,生成若干張?zhí)卣鲌D,是一種線性映射,樣例見圖2.3.圖2.3二維多通道卷積示例圖假設(shè)輸入圖片樣本(,,)有個(gè)通道,卷積核(,,)有個(gè)10

浙江工商大學(xué)碩士論文2.1.2卷積神經(jīng)網(wǎng)絡(luò)本文模型中的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)大都基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)構(gòu)建的,卷積神經(jīng)網(wǎng)絡(luò)在處理網(wǎng)格型結(jié)構(gòu)數(shù)據(jù)方面有著很好的表現(xiàn).在機(jī)器學(xué)習(xí)領(lǐng)域,神經(jīng)網(wǎng)絡(luò)是處理圖像數(shù)據(jù)必不可少的工具,網(wǎng)絡(luò)中的神經(jīng)元局部連接方式使得每一個(gè)神經(jīng)元不是和上一層的每一個(gè)神經(jīng)元相連,而是采用與一組卷積核的權(quán)值共享方式使得一組神經(jīng)元連接共享權(quán)值,相比全連接網(wǎng)絡(luò)(多層感知機(jī))它需要的參數(shù)相對更少,減少過擬合的可能性.圖2.2為一個(gè)CNN的結(jié)構(gòu)示例,其層級結(jié)構(gòu)主要包括:數(shù)據(jù)輸入層、卷積計(jì)算層、ReLU激勵(lì)層、池化層、全連接層和批正則化層(可能會(huì)有),也叫BN層[48].圖2.2卷積神經(jīng)網(wǎng)絡(luò)示例圖卷積計(jì)算層中的卷積操作可以看做輸入的圖片被若干個(gè)卷積核處理,生成若干張?zhí)卣鲌D,是一種線性映射,樣例見圖2.3.圖2.3二維多通道卷積示例圖假設(shè)輸入圖片樣本(,,)有個(gè)通道,卷積核(,,)有個(gè)10


本文編號：3486266