問答系統(tǒng)是自然語言處理中一項十分重要而具有挑戰(zhàn)性的任務(wù),其中的答案選擇任務(wù)是問答系統(tǒng)的關(guān)鍵環(huán)節(jié)。答案選擇任務(wù)為給定一個問題和一系列候選答案,從中選擇出其中最匹配的答案。當(dāng)前對于答案選擇任務(wù)的大部分工作,都將其建模成問題和答案的語義匹配,比較兩個句子之間的語義相關(guān)程度來決定正確問題。本文主要研究基于語義匹配式的答案選擇算法,針對當(dāng)前基于注意力機(jī)制的工作,對于語義匹配部分提出了一些存在的問題,并且設(shè)計實現(xiàn)了解決的方案,并在答案選擇數(shù)據(jù)集上通過實驗來證明其有效性。本文的工作可以總結(jié)為兩點:1、設(shè)計實現(xiàn)了局部語義和詞的聯(lián)合語義匹配對齊模型。針對當(dāng)前答案選擇任務(wù)的模型中,對于語義信息匹配對象的不足,僅僅通過詞級別的信息無法對句子語義進(jìn)行充分比較的問題,提出了抽取語句的局部語義信息并且與詞級別信息進(jìn)行聯(lián)合對齊的模型。設(shè)計并實現(xiàn)了多種抽取局部語義信息的方式和不同的局部語義信息與詞對齊的方法。2、設(shè)計實現(xiàn)了基于傳統(tǒng)注意力機(jī)制的動態(tài)語義閾值網(wǎng)絡(luò)。針對傳統(tǒng)注意力機(jī)制在兩個句子間語義對齊時,由于歸一化權(quán)重再加權(quán)的方式,引入不相關(guān)甚至負(fù)相關(guān)語義信息帶來的噪聲問題,并且指出一些靜態(tài)語義閾值方法存在的不足,實現(xiàn)了... 

【文章頁數(shù)】：70 頁

【學(xué)位級別】：碩士

【文章目錄】：
摘要
ABSTRACT
第一章 緒論
    1.1 課題研究背景及意義
    1.2 主要研究內(nèi)容
    1.3 論文主要結(jié)構(gòu)
第二章 答案選擇相關(guān)技術(shù)
    2.1 詞向量及詞向量模型
        2.1.1 基于詞嵌入的詞向量模型
        2.1.2 基于矩陣的詞向量模型
    2.2 神經(jīng)網(wǎng)絡(luò)
    2.3 注意力機(jī)制
        2.3.1 注意力機(jī)制在NLP任務(wù)中的應(yīng)用
    2.4 答案選擇任務(wù)中的語義匹配方式
    2.5 答案選擇中的評價指標(biāo)
    2.6 本章小結(jié)
第三章 詞與局部語義信息聯(lián)合對齊的語義匹配模型
    3.1 語義對齊模型中詞信息單獨(dú)對齊的問題
    3.2 局部語義信息的建模方式
    3.3 答案選擇中的Compare-Aggregate語義對齊框架
        3.3.1 基于語義的答案選擇的發(fā)展
        3.3.2 語義對齊框架Compare-Aggregate
    3.4 聯(lián)合詞和局部語義信息對齊的答案選擇模型
        3.4.1 局部語義信息的抽取
        3.4.2 詞級別信息和局部語義信息的對齊
    3.5 實驗和結(jié)果分析
        3.5.1 實驗數(shù)據(jù)集
        3.5.2 實驗設(shè)置
        3.5.3 實驗結(jié)果和樣例分析
    3.6 本章小結(jié)
第四章 基于注意力的動態(tài)語義閾值機(jī)制
    4.1 答案選擇中的傳統(tǒng)注意力機(jī)制存在的問題
    4.2 引入動態(tài)語義閾值的注意力機(jī)制
        4.2.1 動態(tài)閾值網(wǎng)絡(luò)
        4.2.2 動態(tài)閾值在注意力機(jī)制中的使用
    4.3 實驗和結(jié)果分析
        4.3.1 實驗數(shù)據(jù)集
        4.3.2 實驗設(shè)置
        4.3.3 實驗結(jié)果
        4.3.4 樣例分析
    4.4 本章小結(jié)
第五章 總結(jié)和展望
    5.1 總結(jié)
    5.2 展望
參考文獻(xiàn)
致謝
攻讀學(xué)位期間取得的研究成果


【參考文獻(xiàn)】：
碩士論文
[1]基于字詞對齊的中文字詞向量表示方法[D]. 徐健.中國科學(xué)技術(shù)大學(xué) 2017



本文編號：3730916