發(fā)布時間：2021-11-06 02:22

　　答案選擇任務(wù)定義為給定問題及與其對應(yīng)的一組候選答案,從該候選答案集中挑選出問題的正確答案,因此可以看成建模問答句子間相似度的匹配問題。本課題主要研究通過深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)將問答數(shù)據(jù)集的上下文信息引入模型中,并構(gòu)建知識網(wǎng)絡(luò)的方式,對問答句子進(jìn)行重新表示,驗證這些補充信息的效果。通過設(shè)計對比實驗最終證明了模型的有效性。本文研究的主要工作有以下四點:1.對目前答案選擇任務(wù)的預(yù)處理方式進(jìn)行改進(jìn),通過構(gòu)建模型判別數(shù)據(jù)集內(nèi)所有問題,充分利用現(xiàn)有數(shù)據(jù)集的同時減少人工成本,增強模型的實用性。2.采用神經(jīng)網(wǎng)絡(luò)將同一候選集中的上下文語義引入答案句子的編碼中,對每個候選答案進(jìn)行重新表示,提高神經(jīng)網(wǎng)絡(luò)建模問題和答案之間語義關(guān)聯(lián)的能力。3.通過構(gòu)建知識記憶網(wǎng)絡(luò),引入知識權(quán)重向量,完成問題、答案句子的編碼表示,實驗結(jié)果證明模型能更好學(xué)習(xí)問答對之間重要的語義信息。4.將上下文信息和知識網(wǎng)絡(luò)相結(jié)合,對候選答案進(jìn)行重新表示,并通過實驗數(shù)據(jù)驗證了任務(wù)指標(biāo)上的提升。

【文章來源】： 北京郵電大學(xué)北京市 211工程院校 教育部直屬院校

【文章頁數(shù)】：72 頁

【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 課題介紹
        1.1.1 研究背景
        1.1.2 研究意義
    1.2 課題工作
        1.2.1 主要研究內(nèi)容
        1.2.2 研究創(chuàng)新點
    1.3 論文框架
第二章 相關(guān)技術(shù)原理介紹
    2.1 文本向量化
        2.1.1 離散表示
        2.1.2 分布式表示
    2.2 語言模型
        2.2.1 基于共現(xiàn)概率的語言模型
        2.2.2 基于文檔詞集合的語言模型
        2.2.3 神經(jīng)網(wǎng)絡(luò)語言模型
    2.3 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
        2.3.1 循環(huán)神經(jīng)網(wǎng)絡(luò)
    2.4 注意力機制
    2.5 文中其他指標(biāo)介紹
        2.5.1 詞頻-逆文檔頻率
        2.5.2 評價指標(biāo)
        2.5.3 余弦距離計算方法
    2.6 本章小結(jié)
第三章 引入上下文語義的改進(jìn)模型
    3.1 答案選擇任務(wù)介紹
        3.1.1 研究背景
        3.1.2 基礎(chǔ)框架
    3.2 基于向量表示的答案選擇模型
        3.2.1 卷積神經(jīng)網(wǎng)絡(luò)向量表示
        3.2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)向量表示
        3.2.3 聯(lián)合卷積與循環(huán)網(wǎng)絡(luò)的向量表示
    3.3 上下文引入方式
        3.3.1 模型整體構(gòu)造
        3.3.2 句子編碼方式
    3.4 實驗數(shù)據(jù)與分析
        3.4.1 數(shù)據(jù)集介紹
        3.4.2 實驗設(shè)置
        3.4.3 實驗結(jié)果分析
    3.5 實驗示例
    3.6 本章小結(jié)
第四章 基于知識記憶網(wǎng)絡(luò)的答案選擇模型
    4.1 任務(wù)介紹
    4.2 知識網(wǎng)絡(luò)模型
        4.2.1 知識向量的表示
        4.2.2 包含知識的問題表示
        4.2.3 包含知識的答案表示
        4.2.4 使用知識表示問答對
    4.3 相關(guān)實驗與結(jié)果
        4.3.1 驗證知識記憶網(wǎng)絡(luò)有效性
        4.3.2 上下文語義的作用效果
        4.3.3 樣例分析
    4.4 中文數(shù)據(jù)集實驗結(jié)果
        4.4.4 數(shù)據(jù)集介紹
        4.4.5 實驗設(shè)置與結(jié)果分析
    4.5 本章小結(jié)
第五章 總結(jié)
    5.1 工作總結(jié)
    5.2 工作展望
參考文獻(xiàn)
致謝
攻讀學(xué)位期間取得的研究成果


【參考文獻(xiàn)】：
期刊論文
[1]基于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)算法綜述 [J]. 劉俊一.  中國新通信. 2018(06)



本文編號：3478970