隨著人工智能的發(fā)展,人機對話系統(tǒng)成為了學(xué)術(shù)研究的熱點。廣泛應(yīng)用于任務(wù)型對話系統(tǒng)的方法是基于模塊化的思想,將系統(tǒng)劃分為自然語言理解、對話管理以及自然語言生成三個子模塊。這種分而治之的方式保證了每個子任務(wù)獨立建模,簡單易于實現(xiàn),但同時也存在三個問題:一是模塊之間的依賴性強,數(shù)據(jù)的更新會帶動所有模塊進行調(diào)整以保證系統(tǒng)的全局優(yōu)化;二是每個模塊的訓(xùn)練需要大量獨立的標(biāo)簽數(shù)據(jù);三是子模塊的設(shè)計跟特定領(lǐng)域相關(guān),導(dǎo)致模型的領(lǐng)域移植性差。近年來,大量研究嘗試使用基于端到端的對話框架來解決上述問題,然而現(xiàn)有的端到端模型多集中于非面向任務(wù)的對話系統(tǒng),缺少對自然語言理解的建模及領(lǐng)域知識的應(yīng)用。針對上述問題,本論文設(shè)計與實現(xiàn)了一個基于端對端方法的任務(wù)型對話系統(tǒng)。具體來說,本文的主要研究內(nèi)容包括:（1）在自然語言理解的意圖識別任務(wù)上,分別介紹了基于CNN、RNN以及兩者混合的意圖識別模型,其中重點提出了一種帶有自注意力機制（self attention）的RNN模型。最后,實驗結(jié)果對比表明帶有加性自注意力的BiLSTM模型表現(xiàn)效果最好。（2）在自然語言理解的槽位填充任務(wù)上,分別介紹了基于統(tǒng)計機器學(xué)習(xí)、基于神經(jīng)網(wǎng)絡(luò)以及...

【文章頁數(shù)】：69 頁

【學(xué)位級別】：碩士

【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 研究背景
    1.2 研究目標(biāo)
        1.2.1 基于模塊化的任務(wù)型對話系統(tǒng)概述
        1.2.2 基于端到端的任務(wù)型對話系統(tǒng)概述
        1.2.3 研究意義
    1.3 研究現(xiàn)狀
        1.3.1 基于模塊化的任務(wù)型對話系統(tǒng)研究現(xiàn)狀
        1.3.2 基于端到端的任務(wù)型對話系統(tǒng)研究現(xiàn)狀
    1.4 本論文的研究內(nèi)容
    1.5 本論文的章節(jié)安排
    1.6 本章小結(jié)
第二章 基于神經(jīng)網(wǎng)絡(luò)的意圖識別任務(wù)研究
    2.1 意圖識別任務(wù)描述
    2.2 基于神經(jīng)網(wǎng)絡(luò)的意圖識別模型
        2.2.1 基于CNN的意圖識別模型
        2.2.2 基于RNN的意圖識別模型
        2.2.3 基于CNN和 RNN的多層意圖識別模型
    2.3 實驗結(jié)果及分析
        2.3.1 實驗數(shù)據(jù)及預(yù)處理
        2.3.2 實驗評價指標(biāo)
        2.3.3 實驗參數(shù)設(shè)置
        2.3.4 實驗結(jié)果對比分析
    2.4 本章小結(jié)
第三章 基于神經(jīng)網(wǎng)絡(luò)的槽位填充任務(wù)研究
    3.1 槽位填充任務(wù)描述
    3.2 基于統(tǒng)計機器學(xué)習(xí)的序列標(biāo)注模型
        3.2.1 隱馬爾可夫模型
        3.2.2 最大熵隱馬爾可夫模型
        3.2.3 條件隨機場模型
    3.3 基于深度學(xué)習(xí)的序列標(biāo)注模型
        3.3.1 基于Stacked_CNN的序列標(biāo)注模型
        3.3.2 基于BiLSTM的序列標(biāo)注模型
    3.4 基于深度學(xué)習(xí)與統(tǒng)計學(xué)習(xí)相結(jié)合的序列標(biāo)注模型
    3.5 實驗結(jié)果及分析
        3.5.1 實驗數(shù)據(jù)集及預(yù)處理
        3.5.2 實驗評價指標(biāo)
        3.5.3 實驗參數(shù)設(shè)置
        3.5.4 實驗結(jié)果對比分析
    3.6 本章小結(jié)
第四章 基于端到端方法的任務(wù)型對話系統(tǒng)
    4.1 基于端到端方法的任務(wù)型對話系統(tǒng)模型
        4.1.1 基于端到端方法的任務(wù)型對話系統(tǒng)架構(gòu)
        4.1.2 文本的特征表示
        4.1.3 命名實體識別與狀態(tài)跟蹤
        4.1.4 基于RNN的對話策略網(wǎng)絡(luò)
    4.2 自然語言理解模型的引入與聯(lián)合建模
        4.2.1 端到端模型的特征表示中引入自然語言理解
        4.2.2 自然語言理解與對話管理的聯(lián)合建模
    4.3 模型實驗
        4.3.1 實驗數(shù)據(jù)集及預(yù)處理
        4.3.2 評價指標(biāo)
        4.3.3 參數(shù)設(shè)置
        4.3.4 實驗結(jié)果對比分析
    4.4 本章小結(jié)
總結(jié)與展望
    總結(jié)
    展望
參考文獻
攻讀碩士學(xué)位期間取得的研究成果
致謝
附件



本文編號：4016455