近年來,深度學(xué)習(xí)技術(shù)獲得了快速發(fā)展,機(jī)器翻譯領(lǐng)域中的相關(guān)研究也不斷深入。其中,前幾年出現(xiàn)的基于注意力機(jī)制的編碼器-解碼器神經(jīng)機(jī)器翻譯框架,在效果上徹底超越了傳統(tǒng)的統(tǒng)計(jì)機(jī)器翻譯框架。而最新的Transformer框架,更是將神經(jīng)機(jī)器翻譯的效果提升到了新的臺(tái)階。由于受到訓(xùn)練方法的限制,這些先進(jìn)的框架在翻譯的過程當(dāng)中都是將句子作為一個(gè)整體來考慮的,而在實(shí)際的翻譯過程中,我們面對(duì)的文本往往是由多個(gè)句子組成的語篇。由于語篇的獨(dú)立特性,這些句子層級(jí)的模型在語篇翻譯的任務(wù)上的譯文往往會(huì)缺乏連貫性和銜接性。因此本文的目標(biāo)就是提出一個(gè)篇章級(jí)的改進(jìn)框架,提升神經(jīng)機(jī)器翻譯模型在語篇翻譯任務(wù)上的效果。本文的工作借鑒了當(dāng)今前沿的神經(jīng)機(jī)器翻譯模型跨句研究,結(jié)合了兩種研究思路的特點(diǎn),提出了基于緩存模型的篇章級(jí)神經(jīng)機(jī)器翻譯改進(jìn)模型。我們的模型以編碼器-解碼器框架為基礎(chǔ),將語篇作為一個(gè)整體來考慮,在每個(gè)句子翻譯步驟之間使用一個(gè)緩存模型來記憶源端文本的歷史編碼器狀態(tài)。除語篇首句翻譯之外,我們都使用一個(gè)多頭注意力網(wǎng)絡(luò)和門控結(jié)構(gòu),將緩存中的歷史編碼器狀態(tài)作為上下文信息引入當(dāng)前步驟的解碼器當(dāng)中,以提升翻譯效果。另外,改進(jìn)模型中...

【文章頁數(shù)】：75 頁

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 研究背景和意義
    1.2 相關(guān)研究綜述
        1.2.1 深度學(xué)習(xí)研究綜述
        1.2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
        1.2.3 機(jī)器翻譯技術(shù)的發(fā)展
        1.2.4 神經(jīng)機(jī)器翻譯中的跨句建模研究
    1.3 本文研究?jī)?nèi)容
    1.4 本文的組織結(jié)構(gòu)
第二章 基于緩存模型的篇章級(jí)NMT改進(jìn)模型
    2.1 整體思路
        2.1.1 目標(biāo)問題
        2.1.2 改進(jìn)工作
    2.2 篇章級(jí)NMT模型基本結(jié)構(gòu)
    2.3 NMT模型中的上下文信息引入方法
    2.4 NMT模型中的篇章級(jí)數(shù)據(jù)構(gòu)造與迭代方法
第三章 結(jié)合序列標(biāo)注方法的跨句緩存模型
    3.1 整體思路
    3.2 緩存模型的結(jié)構(gòu)與工作機(jī)制
    3.3 基于雙向LSTM的篇章結(jié)構(gòu)標(biāo)注模型
        3.3.1 篇章結(jié)構(gòu)標(biāo)注語料準(zhǔn)備
        3.3.2 序列標(biāo)注網(wǎng)絡(luò)和邏輯斯蒂回歸模型的聯(lián)合訓(xùn)練方法
第四章 實(shí)驗(yàn)結(jié)果與分析
    4.1 篇章結(jié)構(gòu)標(biāo)注模型實(shí)驗(yàn)與結(jié)果分析
        4.1.1 數(shù)據(jù)集說明
        4.1.2 實(shí)驗(yàn)詳細(xì)設(shè)置
        4.1.3 實(shí)驗(yàn)結(jié)果與分析
    4.2 篇章級(jí)NMT模型實(shí)驗(yàn)與結(jié)果分析
        4.2.1 數(shù)據(jù)集說明
        4.2.2 實(shí)驗(yàn)詳細(xì)設(shè)置
        4.2.3 實(shí)驗(yàn)結(jié)果與分析
        4.2.4 結(jié)果展示
第五章 總結(jié)與展望
    5.1 總結(jié)
    5.2 未來研究方向
參考文獻(xiàn)
致謝



本文編號(hào)：3963732