生成對(duì)抗網(wǎng)絡(luò)(GAN)模型優(yōu)化方法研究
發(fā)布時(shí)間:2022-12-23 04:32
雖然生成對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Network,簡(jiǎn)稱GAN)已經(jīng)被廣泛應(yīng)用于很多實(shí)際領(lǐng)域,但是GAN仍然存在缺陷導(dǎo)致無(wú)法生成高質(zhì)量的模擬數(shù)據(jù)。雖然當(dāng)前GAN的變體嘗試解決這個(gè)問(wèn)題,但是他們?cè)趯?shí)際運(yùn)用中仍然存在不少問(wèn)題,F(xiàn)存的GAN的變體或存在梯度負(fù)數(shù)(如WGAN)或者生成的數(shù)據(jù)仍然存在相同圖片或者圖片模糊等問(wèn)題(如MGAN)。本文研究的對(duì)象主要是在三個(gè)方面,即如何解決GAN小樣本生成及評(píng)估問(wèn)題,如何解決GAN存在的模型崩潰和梯度消失問(wèn)題。(1)本文提出了一個(gè)新的規(guī)范化懲罰函數(shù)來(lái)迫使生成器生成帶有極小異常點(diǎn)的負(fù)樣本,以及將Droupout函數(shù)和生成器融合以此生成高維稀疏數(shù)據(jù)。另外,針對(duì)不同領(lǐng)域數(shù)據(jù)特點(diǎn),本文設(shè)計(jì)了不同的生成數(shù)據(jù)評(píng)估模型。首先,本文研究了如何把GAN應(yīng)用在小樣本數(shù)據(jù)(包括工業(yè)領(lǐng)域的布匹和氣缸缸體數(shù)據(jù)以及醫(yī)療領(lǐng)域的癌癥基因數(shù)據(jù))。這兩個(gè)數(shù)據(jù)的共同點(diǎn)是可用數(shù)據(jù)搜集十分昂貴,這就導(dǎo)致很難在實(shí)際工作中訓(xùn)練一個(gè)機(jī)器人去替代人的工作。不同點(diǎn)是,工業(yè)領(lǐng)域中的數(shù)據(jù)屬于imbalanced dataset,即不平衡數(shù)據(jù)。其意味著次品數(shù)量非常少而正品數(shù)量非常多。...
【文章頁(yè)數(shù)】:107 頁(yè)
【學(xué)位級(jí)別】:博士
【文章目錄】:
摘要
Abstract
1.緒論
1.1 引言
1.2 相關(guān)方法
1.2.1 修改損失函數(shù)
1.2.2 修改網(wǎng)絡(luò)結(jié)構(gòu)
1.2.3 修改隱空間Z
1.3 待研究問(wèn)題
1.4 本文工作
2.GAN模型及其問(wèn)題介紹
2.1 生成對(duì)抗網(wǎng)絡(luò)
2.2 GAN的模型崩潰問(wèn)題
2.3 GAN的梯度消失問(wèn)題
3.小樣本數(shù)據(jù)生成
3.1 極不平衡數(shù)據(jù)(Extremely Imbalanced Data)增強(qiáng)及評(píng)價(jià)
3.1.1 極不平衡數(shù)據(jù)定義及描述
3.1.2 IDA-GAN—極不平衡數(shù)據(jù)增強(qiáng)方法
3.1.3 IDA-GAN的評(píng)估
3.1.4 實(shí)驗(yàn)驗(yàn)證
3.1.5 討論
3.2 稀疏矩陣(Sparse Matrix)的生成和評(píng)估
3.2.1 稀疏矩陣的定義及描述
3.2.2 稀疏矩陣模擬數(shù)據(jù)的生成
3.2.3 基于領(lǐng)域知識(shí)的稀疏數(shù)據(jù)模擬數(shù)據(jù)的評(píng)估
3.2.4 實(shí)驗(yàn)驗(yàn)證
3.2.5 討論
4.GAN模型梯度消失問(wèn)題解決
4.1 如何構(gòu)造Sketch
4.2 生成器設(shè)計(jì)
4.3 SEGAN算法和數(shù)學(xué)基礎(chǔ)
4.3.1 SEGAN的函數(shù)及其算法流程
4.3.2 SEGAN的數(shù)學(xué)基礎(chǔ)
4.4 實(shí)驗(yàn)驗(yàn)證
4.4.1 生成數(shù)據(jù)質(zhì)量比較
4.4.2 實(shí)驗(yàn)驗(yàn)證梯度消失問(wèn)題的解決
4.4.3 r值對(duì)SEGAN模型的影響
4.4.4 SEGAN效率分析
4.5 SEGAN討論
5.GAN模型崩潰問(wèn)題解決
5.1 MIM-GAN
5.2 MIM-GAN學(xué)習(xí)數(shù)據(jù)流形
5.3 實(shí)驗(yàn)驗(yàn)證
5.3.1 MNIST數(shù)據(jù)集
5.3.2 CIFAR10
5.3.3 Celeba數(shù)據(jù)集
5.4 討論
6.結(jié)論與展望
參考文獻(xiàn)
攻讀博士期間的科研成果
致謝
本文編號(hào):3724720
【文章頁(yè)數(shù)】:107 頁(yè)
【學(xué)位級(jí)別】:博士
【文章目錄】:
摘要
Abstract
1.緒論
1.1 引言
1.2 相關(guān)方法
1.2.1 修改損失函數(shù)
1.2.2 修改網(wǎng)絡(luò)結(jié)構(gòu)
1.2.3 修改隱空間Z
1.3 待研究問(wèn)題
1.4 本文工作
2.GAN模型及其問(wèn)題介紹
2.1 生成對(duì)抗網(wǎng)絡(luò)
2.2 GAN的模型崩潰問(wèn)題
2.3 GAN的梯度消失問(wèn)題
3.小樣本數(shù)據(jù)生成
3.1 極不平衡數(shù)據(jù)(Extremely Imbalanced Data)增強(qiáng)及評(píng)價(jià)
3.1.1 極不平衡數(shù)據(jù)定義及描述
3.1.2 IDA-GAN—極不平衡數(shù)據(jù)增強(qiáng)方法
3.1.3 IDA-GAN的評(píng)估
3.1.4 實(shí)驗(yàn)驗(yàn)證
3.1.5 討論
3.2 稀疏矩陣(Sparse Matrix)的生成和評(píng)估
3.2.1 稀疏矩陣的定義及描述
3.2.2 稀疏矩陣模擬數(shù)據(jù)的生成
3.2.3 基于領(lǐng)域知識(shí)的稀疏數(shù)據(jù)模擬數(shù)據(jù)的評(píng)估
3.2.4 實(shí)驗(yàn)驗(yàn)證
3.2.5 討論
4.GAN模型梯度消失問(wèn)題解決
4.1 如何構(gòu)造Sketch
4.2 生成器設(shè)計(jì)
4.3 SEGAN算法和數(shù)學(xué)基礎(chǔ)
4.3.1 SEGAN的函數(shù)及其算法流程
4.3.2 SEGAN的數(shù)學(xué)基礎(chǔ)
4.4 實(shí)驗(yàn)驗(yàn)證
4.4.1 生成數(shù)據(jù)質(zhì)量比較
4.4.2 實(shí)驗(yàn)驗(yàn)證梯度消失問(wèn)題的解決
4.4.3 r值對(duì)SEGAN模型的影響
4.4.4 SEGAN效率分析
4.5 SEGAN討論
5.GAN模型崩潰問(wèn)題解決
5.1 MIM-GAN
5.2 MIM-GAN學(xué)習(xí)數(shù)據(jù)流形
5.3 實(shí)驗(yàn)驗(yàn)證
5.3.1 MNIST數(shù)據(jù)集
5.3.2 CIFAR10
5.3.3 Celeba數(shù)據(jù)集
5.4 討論
6.結(jié)論與展望
參考文獻(xiàn)
攻讀博士期間的科研成果
致謝
本文編號(hào):3724720
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3724720.html
最近更新
教材專著