韻律結(jié)構(gòu)預(yù)測作為語音合成系統(tǒng)中的一個關(guān)鍵步驟,其結(jié)果直接影響合成語音的自然度和可懂度.本文提出了一種基于預(yù)訓(xùn)練語言表示模型的韻律結(jié)構(gòu)預(yù)測方法,以字為建模單位,在預(yù)訓(xùn)練語言模型的基礎(chǔ)上對每個韻律層級設(shè)置了獨立的輸出層,利用韻律標(biāo)注數(shù)據(jù)對預(yù)訓(xùn)練模型進行微調(diào).另外在此基礎(chǔ)上額外增加了分詞任務(wù),通過多任務(wù)學(xué)習(xí)的方法對各韻律層級間的關(guān)系及韻律與詞間的關(guān)系建模,實現(xiàn)對輸入文本各級韻律邊界的同時預(yù)測.實驗首先證明了多輸出結(jié)構(gòu)設(shè)置的合理性及使用預(yù)訓(xùn)練模型的有效性,并驗證了分詞任務(wù)的加入可以進一步提升模型性能;將最優(yōu)的結(jié)果與設(shè)置的兩個基線模型相比,在韻律詞和韻律短語預(yù)測的F1值上與條件隨機場模型相比分別有2.48%和4.50%的絕對提升,而與雙向長短時記憶網(wǎng)絡(luò)相比分別有6.2%和5.4%的絕對提升;最后實驗表明該方法可以在保證預(yù)測性能的同時減少對訓(xùn)練數(shù)據(jù)量的需求.

【文章頁數(shù)】：7 頁


本文編號：3809617