近些年,深度神經(jīng)網(wǎng)絡(luò)極大地推進(jìn)了人工智能在一些領(lǐng)域上的發(fā)展,包括計(jì)算機(jī)視覺、語音識別、自然語言處理等,生成式對抗網(wǎng)絡(luò)（Generative Adversarial Network,GAN）更是成為了當(dāng)前人工智能界一個(gè)熱門的研究方向。GAN的核心思想來源于博弈論中的納什均衡,它由一個(gè)生成器和一個(gè)判別器組成,通過對抗博弈的方式進(jìn)行訓(xùn)練和學(xué)習(xí),在圖像生成等領(lǐng)域取得了驚艷的效果。受到生成對抗網(wǎng)絡(luò)的啟發(fā),我們將對抗博弈的思想應(yīng)用到語音和語言相關(guān)的任務(wù)上。本文圍繞對抗網(wǎng)絡(luò)在語音分離和自然語言推理兩個(gè)任務(wù)上開展研究工作,具體包括:1、使用對抗網(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí)提升語音分離的效果針對傳統(tǒng)的單通道語音分離神經(jīng)網(wǎng)絡(luò),我們提出一種基于對抗網(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí)的分離框架。由生成式對抗網(wǎng)絡(luò)啟發(fā)而產(chǎn)生的對抗模塊的目的是通過評估分離結(jié)果和真實(shí)目標(biāo)之間的差異,使兩者有一樣的數(shù)據(jù)分布。同時(shí),為了使模型分離結(jié)果偏向于期望的評價(jià)指標(biāo),并且減少訓(xùn)練損失（比如均方誤差）和測試指標(biāo)（比如:SDR,聲源失真比）之間的差異,我們提出基于強(qiáng)化學(xué)習(xí)的未來期望方法以解決這些問題,既我們直接優(yōu)化性能指標(biāo)來實(shí)現(xiàn)這一點(diǎn)。該框架將對抗網(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí)相結(jié)合,... 

【文章來源】：哈爾濱理工大學(xué)黑龍江省

【文章頁數(shù)】：54 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖１－３?Ｘｕ等人提出的ＡＳＡＭ系統(tǒng)的結(jié)構(gòu)??Ｆｉｇ．?１－３?Ｔｈｅ?ｓｔｒｕｃｔｕｒｅ?ｏｆ?ｔｈｅ?ｐｒｏｐｏｓｅｄ?ＡＳＡＭ?ｓｙｓｔｅｍ?ｂｙＸｕ?ｅｔ?ａｌ．??

?句子對之間使用注意力機(jī)制進(jìn)行交互的推理方法。??第一類方法，如圖１－４所示，首先使用參數(shù)共享的神經(jīng)網(wǎng)絡(luò)句子語義編碼??器來表征前提語句和假設(shè)語句，然后使用神經(jīng)網(wǎng)絡(luò)分類器來判別句子對之間的??邏輯關(guān)系。在己有的ＮＬＩ相關(guān)研宄中，很多工作使用卷積神經(jīng)網(wǎng)絡(luò)（Ｃｏｎｖｏｌｕｔｉｏｎ??ｎｅｕｒａｌ?ｎｅｔｗｏｒｋ，?ＣＮＮ?）和長短時(shí)記憶網(wǎng)絡(luò)（Ｌｏｎｇ?ｓｈｏｒｔ－ｔｉｍｅ?ｍｅｍｏｒｙ，?ＬＳＴＭ）作??為構(gòu)建模塊，比如Ｍｏｕ等人提出基于樹的ＣＮＮ句子編碼結(jié)構(gòu)％，Ｌｉｕ等人％??提出基于雙向長短時(shí)記憶網(wǎng)絡(luò)（Ｂｉｄｉｒｅｃｔｉｏｎａｌ?ＬＳＴＭ，?ＢｉＬＳＴＭ）的句子編碼結(jié)構(gòu)。??也有很多使用更加復(fù)雜的神經(jīng)網(wǎng)絡(luò)進(jìn)行句子嵌入的研宄工作，比如Ｙｕ等人提??出ＮＳＥ?（Ｎｅｕｒａｌ?ｓｅｍａｎｔｉｃ?ｅｎｃｏｄｅｒ，?ＮＳＥ）的記憶增強(qiáng)神經(jīng)網(wǎng)絡(luò)［３４】，用于自然語言??推理任務(wù)。最近一些研宄者開始探索應(yīng)用于句子嵌入表示的自注意力機(jī)制。Ｓｈｅｎ??等人提出（Ｄｉｒｅｃｔｉｏｎａｌ?ｓｅｌｆ－ａｔｔｅｎｔｉｏｎ?ｎｅｔｗｏｒｋ

２．２生成式對抗網(wǎng)絡(luò)相關(guān)研究??隨著深度學(xué)習(xí)研究的深入，Ｇｏｏｄｆｅｌｌｏｗ等人ｍ提出生成對抗網(wǎng)絡(luò)（ＧＡＮ）??作為一種學(xué)習(xí)數(shù)據(jù)分布的新方式，如圖２－１所示。生成對抗網(wǎng)絡(luò)包含一個(gè)生成??－１１－??


本文編號：3532992