在互聯(lián)網(wǎng)和人工智能技術(shù)快速發(fā)展的時代,對話系統(tǒng)以其自然友好的交互方式,促進了人和信息的連接。而在開放領(lǐng)域下構(gòu)建的聊天對話系統(tǒng),更有著廣闊的研究價值和應(yīng)用前景�，F(xiàn)有的閑聊對話系統(tǒng)基于神經(jīng)網(wǎng)絡(luò)技術(shù)構(gòu)建,往往難以控制對話回復(fù)里的屬性,如生成帶有高興情感的回復(fù)。目前還不夠成熟的回復(fù)可控性大大限制了對話系統(tǒng)的進一步研究和應(yīng)用推廣。因此,可控的閑聊對話生成在對話系統(tǒng)研究中有著重要的意義。閑聊對話系統(tǒng)主要基于神經(jīng)網(wǎng)絡(luò)的編碼器-解碼器結(jié)構(gòu),在大規(guī)模語料上以端到端的方式訓(xùn)練。這樣的模型往往難以控制回復(fù)的特定屬性,如情感,句式。具體的,情感對話控制生成是根據(jù)給定的對話輸入和目標(biāo)情感類別,生成符合該情感的回復(fù);而回復(fù)句式一般分為疑問句、感嘆句、陳述句和祈使句,控制句式的生成可以達到不同的回復(fù)語氣和目的。因此,本文從具有代表性的情感和句式這兩個可控閑聊對話生成任務(wù)為研究切入點,探索實驗了如何建模輸入消息和控制條件,并做出了以下工作內(nèi)容和研究成果:（1）作為情感對話場景下的情感詞向量,設(shè)計了基于多任務(wù)學(xué)習(xí)的情感詞向量訓(xùn)練模型。模型結(jié)合了語言模型和情感分類任務(wù),通過預(yù)訓(xùn)練-微調(diào)的方式有效的融合了語義和情感在詞向量... 

【文章來源】：北京郵電大學(xué)北京市 211工程院校 教育部直屬院校

【文章頁數(shù)】：66 頁

【學(xué)位級別】：碩士

【文章目錄】：
摘要
ABSTRACT
第一章 緒論
    1.1 課題研究背景及意義
    1.2 國內(nèi)外研究現(xiàn)狀
    1.3 論文主要工作
    1.4 論文的組織架構(gòu)
第二章 閑聊對話系統(tǒng)及其關(guān)鍵技術(shù)
    2.1 閑聊對話系統(tǒng)概述
    2.2 生成式對話基礎(chǔ)技術(shù)
        2.2.1 詞向量和語言模型
        2.2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
        2.2.3 基于注意力機制的序列到序列框架
        2.2.4 條件變分自動編碼器框架
    2.3 可控文本生成技術(shù)
        2.3.1 知識引導(dǎo)的KgCVAE框架
        2.3.2 情感對話生成ECM框架
        2.3.3 文本控制生成的VAE模型
        2.3.4 長文本生成的LeakGAN模型
    2.4 本章小結(jié)
第三章 情感詞向量和情感對話控制生成研究
    3.1 引言
    3.2 對話系統(tǒng)中的詞向量語義專業(yè)化
    3.3 情感詞向量的研究
        3.3.1 情感詞向量模型的結(jié)構(gòu)
        3.3.2 模型的損失函數(shù)
        3.3.3 實驗數(shù)據(jù)
        3.3.4 超參數(shù)的設(shè)置和實驗指標(biāo)
        3.3.5 實驗結(jié)果和分析
    3.4 情感控制的對話生成
        3.4.1 情感和內(nèi)容的解耦表示
        3.4.2 內(nèi)容和情感的融合生成
        3.4.3 訓(xùn)練的損失函數(shù)
    3.5 實驗
        3.5.1 實驗數(shù)據(jù)集
        3.5.2 超參數(shù)設(shè)置
        3.5.3 評價指標(biāo)
        3.5.4 實驗結(jié)果分析
    3.6 本章小結(jié)
第四章 句式控制的閑聊對話系統(tǒng)研究
    4.1 引言
    4.2 句式控制對話生成相關(guān)工作
        4.2.1 Type-CVAE的編碼器
    4.3 層級控制信號引導(dǎo)的HCVAE模型
        4.3.1 HCVAE的編碼器和解碼器
        4.3.2 控制信號建模
        4.3.3 模型的訓(xùn)練
    4.4 實驗
        4.4.1 實驗數(shù)據(jù)集
        4.4.2 超參數(shù)設(shè)置
        4.4.3 評價指標(biāo)
        4.4.4 實驗結(jié)果分析
    4.5 本章小結(jié)
第五章 總結(jié)和展望
    5.1 總結(jié)
    5.2 展望
參考文獻
致謝
攻讀學(xué)位期間取得的研究成果



本文編號：3192147