自編碼網(wǎng)絡(luò)優(yōu)化及其應(yīng)用
發(fā)布時間:2021-06-01 01:39
自編碼網(wǎng)絡(luò)是最有效的機(jī)器學(xué)習(xí)算法之一,它具有非常強(qiáng)的非線性擬合能力和容錯能力,能自動提取數(shù)據(jù)中的有效信息,并將其植入網(wǎng)絡(luò)權(quán)值,取得良好的自適應(yīng)效果。隨著互聯(lián)網(wǎng)的飛速發(fā)展,大量無標(biāo)簽和標(biāo)簽不確定的圖片分類問題急需解決,由于自編碼網(wǎng)絡(luò)具有無監(jiān)督學(xué)習(xí)的特性,受到越來越多重視,在圖像重構(gòu)和分類上得到了廣泛的應(yīng)用。在自編碼網(wǎng)絡(luò)中,增加網(wǎng)絡(luò)層數(shù)可以提取不同級別的特征,但同時帶來了計算復(fù)雜度,重構(gòu)圖片主觀感知效果較差和提取聚類特征不理想等問題。針對這些問題,本文主要從網(wǎng)絡(luò)結(jié)構(gòu)和損失度量兩個方面對自編碼網(wǎng)絡(luò)進(jìn)行優(yōu)化:1.實現(xiàn)了基于子像素全卷積網(wǎng)絡(luò)的自編碼算法。針對自編碼網(wǎng)絡(luò)在解碼層由于空間分辨率逐層增加引起的誤差累積問題,使用基于子像素卷積網(wǎng)絡(luò)替換解碼層,先提取特征,然后在最后一層通過子像素卷積神經(jīng)網(wǎng)絡(luò)直接還原成輸入數(shù)據(jù)。針對全連接層丟失空間位置信息的問題,用卷積層替換全連接層。實驗表明,基于子像素全卷積的自編碼網(wǎng)絡(luò)在圖像重構(gòu)中PSNR提高了2.93%,SSIM提高了6.60%,運行時間提高了47.40%。2.提出了基于對抗MSE(Mean Square Error,MSE)度量的自編碼網(wǎng)絡(luò)算法。針對...
【文章來源】:深圳大學(xué)廣東省
【文章頁數(shù)】:57 頁
【學(xué)位級別】:碩士
【部分圖文】:
monarch原圖及其細(xì)節(jié)圖
(a) DenseNet (b) 細(xì)節(jié)圖圖 3- 11 與表 3-3 對應(yīng)解碼圖及細(xì)節(jié)圖由表 3-3 可以看出,DenseNet 的圖片重構(gòu)結(jié)果和聚類性能明顯優(yōu)于其他 CNN 網(wǎng)構(gòu),這也進(jìn)一步驗證了 DenseNet 的有效性,而對應(yīng)的計算復(fù)雜度隨之增加,這主 DenseNet 的高層網(wǎng)絡(luò)需要將前面層的所有輸入都進(jìn)行加權(quán),因此增加了相應(yīng)的計雜度。圖 3-11 的實驗結(jié)果再次表明更好的 CNN 網(wǎng)絡(luò)結(jié)構(gòu)能夠有效提升自編碼網(wǎng)絡(luò)像細(xì)節(jié)信息的保留。.4.2 不同網(wǎng)絡(luò)結(jié)構(gòu)在不同數(shù)據(jù)庫上的性能比較表 3- 4 不同數(shù)據(jù)集、不同網(wǎng)絡(luò)網(wǎng)絡(luò)結(jié)構(gòu)對自編碼網(wǎng)絡(luò)性能、聚類結(jié)果的影響網(wǎng)絡(luò)結(jié)構(gòu) 自編碼網(wǎng)絡(luò) 子像素網(wǎng)絡(luò)優(yōu)化 全卷積網(wǎng)絡(luò)優(yōu)化子像素全卷積網(wǎng)絡(luò)優(yōu)化
Zebra PSNR=31.15SSIM=0.923PSNR=31.49SSIM=0.931PSNR=32.56SSIM=0.942圖 4- 3 基于對抗 MSE 的自編碼網(wǎng)絡(luò)在不同權(quán)重生成網(wǎng)絡(luò)下的重構(gòu)結(jié)果為了進(jìn)一步分析,基于對抗 MSE 的自編碼網(wǎng)絡(luò),圖 4- 4 給出了權(quán)重生成網(wǎng)絡(luò)最終得到的權(quán)重圖。由圖 4-4 可以看出,權(quán)重生成網(wǎng)絡(luò)得到的權(quán)重不僅能夠表征圖像中的平滑區(qū)域和非平滑區(qū)域的分布情況,而且能夠在一定程度上反映重構(gòu)結(jié)果。例如,Baboon圖像對應(yīng)的權(quán)重圖中的大部分權(quán)重都具有較大的值,這意味著圖像中的大部分區(qū)域都比較難以重構(gòu),因此對應(yīng)的重構(gòu)結(jié)果較差,而 Lena 圖像則與之相反。comicbaboonlennazebra
本文編號:3209401
【文章來源】:深圳大學(xué)廣東省
【文章頁數(shù)】:57 頁
【學(xué)位級別】:碩士
【部分圖文】:
monarch原圖及其細(xì)節(jié)圖
(a) DenseNet (b) 細(xì)節(jié)圖圖 3- 11 與表 3-3 對應(yīng)解碼圖及細(xì)節(jié)圖由表 3-3 可以看出,DenseNet 的圖片重構(gòu)結(jié)果和聚類性能明顯優(yōu)于其他 CNN 網(wǎng)構(gòu),這也進(jìn)一步驗證了 DenseNet 的有效性,而對應(yīng)的計算復(fù)雜度隨之增加,這主 DenseNet 的高層網(wǎng)絡(luò)需要將前面層的所有輸入都進(jìn)行加權(quán),因此增加了相應(yīng)的計雜度。圖 3-11 的實驗結(jié)果再次表明更好的 CNN 網(wǎng)絡(luò)結(jié)構(gòu)能夠有效提升自編碼網(wǎng)絡(luò)像細(xì)節(jié)信息的保留。.4.2 不同網(wǎng)絡(luò)結(jié)構(gòu)在不同數(shù)據(jù)庫上的性能比較表 3- 4 不同數(shù)據(jù)集、不同網(wǎng)絡(luò)網(wǎng)絡(luò)結(jié)構(gòu)對自編碼網(wǎng)絡(luò)性能、聚類結(jié)果的影響網(wǎng)絡(luò)結(jié)構(gòu) 自編碼網(wǎng)絡(luò) 子像素網(wǎng)絡(luò)優(yōu)化 全卷積網(wǎng)絡(luò)優(yōu)化子像素全卷積網(wǎng)絡(luò)優(yōu)化
Zebra PSNR=31.15SSIM=0.923PSNR=31.49SSIM=0.931PSNR=32.56SSIM=0.942圖 4- 3 基于對抗 MSE 的自編碼網(wǎng)絡(luò)在不同權(quán)重生成網(wǎng)絡(luò)下的重構(gòu)結(jié)果為了進(jìn)一步分析,基于對抗 MSE 的自編碼網(wǎng)絡(luò),圖 4- 4 給出了權(quán)重生成網(wǎng)絡(luò)最終得到的權(quán)重圖。由圖 4-4 可以看出,權(quán)重生成網(wǎng)絡(luò)得到的權(quán)重不僅能夠表征圖像中的平滑區(qū)域和非平滑區(qū)域的分布情況,而且能夠在一定程度上反映重構(gòu)結(jié)果。例如,Baboon圖像對應(yīng)的權(quán)重圖中的大部分權(quán)重都具有較大的值,這意味著圖像中的大部分區(qū)域都比較難以重構(gòu),因此對應(yīng)的重構(gòu)結(jié)果較差,而 Lena 圖像則與之相反。comicbaboonlennazebra
本文編號:3209401
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3209401.html
最近更新
教材專著