隨著人工智能技術(shù)的快速發(fā)展以及信息數(shù)據(jù)的不斷增長(zhǎng),以數(shù)據(jù)驅(qū)動(dòng)為核心的深度學(xué)習(xí)技術(shù)在不斷更新發(fā)展,與人們生活息息相關(guān)的交互方式在不斷的變化。為人們提供便捷、快速的服務(wù)成為了時(shí)代的趨勢(shì),對(duì)話系統(tǒng)應(yīng)運(yùn)而生。越來(lái)越多的智能產(chǎn)品通過(guò)對(duì)話的交互方式在改變?nèi)藗兊纳?比如通過(guò)語(yǔ)音預(yù)訂機(jī)票、預(yù)訂餐廳、規(guī)劃行車(chē)路線、智能客服等。通過(guò)和系統(tǒng)進(jìn)行交流獲取到自己想要的服務(wù)。在這些便捷的產(chǎn)品背后需要一個(gè)包含自然語(yǔ)言生成的對(duì)話系統(tǒng)支撐。在這些針對(duì)特定領(lǐng)域設(shè)定出來(lái)的對(duì)話系統(tǒng)中,自然語(yǔ)言生成模塊需要將特定的語(yǔ)義信息轉(zhuǎn)換成用戶習(xí)慣的自然語(yǔ)言形式的句子。傳統(tǒng)的基于規(guī)則模板的生成方式由于遷移性差、回復(fù)單一死板正在慢慢被取代,而基于神經(jīng)網(wǎng)絡(luò)的生成方式由于其靈活性和通用性好受到了越來(lái)越多的重視。針對(duì)任務(wù)型對(duì)話系統(tǒng)中系統(tǒng)詢(xún)問(wèn)的問(wèn)題單一死板的問(wèn)題,我們探索一種基于模板的序列到序列(Seq2Seq)生成模型來(lái)生成多樣的問(wèn)題。針對(duì)目前一些基于神經(jīng)網(wǎng)絡(luò)的生成模型語(yǔ)義對(duì)齊能力差、多輪對(duì)話過(guò)程中語(yǔ)義表達(dá)不準(zhǔn)確的問(wèn)題,本論文提出一種基于LSTM和Seq2Seq的多層次注意力機(jī)制自然語(yǔ)言生成模型,設(shè)計(jì)一個(gè)上下文編碼器對(duì)上下文信息進(jìn)行編碼建模,提...

【文章頁(yè)數(shù)】：60 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 研究背景及意義
    1.2 研究現(xiàn)狀
        1.2.1 對(duì)話系統(tǒng)研究現(xiàn)狀
        1.2.2 面向任務(wù)的自然語(yǔ)言生成研究現(xiàn)狀
    1.3 本文的主要研究?jī)?nèi)容
    1.4 論文的組織結(jié)構(gòu)
第二章 相關(guān)理論和技術(shù)
    2.1 引言
    2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
    2.3 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)
    2.4 基于編碼-解碼的序列到序列架構(gòu)
    2.5 注意力機(jī)制
    2.6 本章小結(jié)
第三章 基于模板的Seq2Seq問(wèn)題生成
    3.1 問(wèn)題生成任務(wù)描述
    3.2 基于模板的問(wèn)題生成
        3.2.1 問(wèn)題模板收集
        3.2.2 選擇生成
    3.3 基于模板的Seq2Seq問(wèn)題生成方法
        3.3.1 DA編碼器
        3.3.2 基于模板的解碼器
    3.4 實(shí)驗(yàn)結(jié)果及分析
    3.5 本章小結(jié)
第四章 基于LSTM和 Seq2Seq的多層次注意力機(jī)制自然語(yǔ)言生成模型
    4.1 自然語(yǔ)言生成任務(wù)描述
    4.2 基于LSTM的 Seq2Seq生成模型
    4.3 使用上下文信息和層級(jí)注意力機(jī)制的生成模型
        4.3.1 模型結(jié)構(gòu)
        4.3.2 編碼過(guò)程(encoder)
        4.3.3 層次的注意力機(jī)制
        4.3.4 解碼過(guò)程(decoder)
    4.4 實(shí)驗(yàn)及結(jié)果分析
        4.4.1 實(shí)驗(yàn)數(shù)據(jù)
        4.4.2 實(shí)驗(yàn)方案和參數(shù)設(shè)計(jì)
        4.4.3 評(píng)價(jià)標(biāo)準(zhǔn)
        4.4.4 實(shí)驗(yàn)結(jié)果及分析
    4.5 本章小結(jié)
第五章 總結(jié)與展望
    5.1 本文的工作總結(jié)
    5.2 未來(lái)研究工作展望
參考文獻(xiàn)
攻讀碩士學(xué)位期間取得的研究成果
致謝
附件



本文編號(hào)：3821306