發(fā)布時(shí)間：2023-01-15 09:50

　　問(wèn)答系統(tǒng)是自然語(yǔ)言處理中一項(xiàng)十分重要而具有挑戰(zhàn)性的任務(wù),其中的答案選擇任務(wù)是問(wèn)答系統(tǒng)的關(guān)鍵環(huán)節(jié)。答案選擇任務(wù)為給定一個(gè)問(wèn)題和一系列候選答案,從中選擇出其中最匹配的答案。當(dāng)前對(duì)于答案選擇任務(wù)的大部分工作,都將其建模成問(wèn)題和答案的語(yǔ)義匹配,比較兩個(gè)句子之間的語(yǔ)義相關(guān)程度來(lái)決定正確問(wèn)題。本文主要研究基于語(yǔ)義匹配式的答案選擇算法,針對(duì)當(dāng)前基于注意力機(jī)制的工作,對(duì)于語(yǔ)義匹配部分提出了一些存在的問(wèn)題,并且設(shè)計(jì)實(shí)現(xiàn)了解決的方案,并在答案選擇數(shù)據(jù)集上通過(guò)實(shí)驗(yàn)來(lái)證明其有效性。本文的工作可以總結(jié)為兩點(diǎn):1、設(shè)計(jì)實(shí)現(xiàn)了局部語(yǔ)義和詞的聯(lián)合語(yǔ)義匹配對(duì)齊模型。針對(duì)當(dāng)前答案選擇任務(wù)的模型中,對(duì)于語(yǔ)義信息匹配對(duì)象的不足,僅僅通過(guò)詞級(jí)別的信息無(wú)法對(duì)句子語(yǔ)義進(jìn)行充分比較的問(wèn)題,提出了抽取語(yǔ)句的局部語(yǔ)義信息并且與詞級(jí)別信息進(jìn)行聯(lián)合對(duì)齊的模型。設(shè)計(jì)并實(shí)現(xiàn)了多種抽取局部語(yǔ)義信息的方式和不同的局部語(yǔ)義信息與詞對(duì)齊的方法。2、設(shè)計(jì)實(shí)現(xiàn)了基于傳統(tǒng)注意力機(jī)制的動(dòng)態(tài)語(yǔ)義閾值網(wǎng)絡(luò)。針對(duì)傳統(tǒng)注意力機(jī)制在兩個(gè)句子間語(yǔ)義對(duì)齊時(shí),由于歸一化權(quán)重再加權(quán)的方式,引入不相關(guān)甚至負(fù)相關(guān)語(yǔ)義信息帶來(lái)的噪聲問(wèn)題,并且指出一些靜態(tài)語(yǔ)義閾值方法存在的不足,實(shí)現(xiàn)了... 

【文章頁(yè)數(shù)】：70 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
ABSTRACT
第一章 緒論
    1.1 課題研究背景及意義
    1.2 主要研究?jī)?nèi)容
    1.3 論文主要結(jié)構(gòu)
第二章 答案選擇相關(guān)技術(shù)
    2.1 詞向量及詞向量模型
        2.1.1 基于詞嵌入的詞向量模型
        2.1.2 基于矩陣的詞向量模型
    2.2 神經(jīng)網(wǎng)絡(luò)
    2.3 注意力機(jī)制
        2.3.1 注意力機(jī)制在NLP任務(wù)中的應(yīng)用
    2.4 答案選擇任務(wù)中的語(yǔ)義匹配方式
    2.5 答案選擇中的評(píng)價(jià)指標(biāo)
    2.6 本章小結(jié)
第三章 詞與局部語(yǔ)義信息聯(lián)合對(duì)齊的語(yǔ)義匹配模型
    3.1 語(yǔ)義對(duì)齊模型中詞信息單獨(dú)對(duì)齊的問(wèn)題
    3.2 局部語(yǔ)義信息的建模方式
    3.3 答案選擇中的Compare-Aggregate語(yǔ)義對(duì)齊框架
        3.3.1 基于語(yǔ)義的答案選擇的發(fā)展
        3.3.2 語(yǔ)義對(duì)齊框架Compare-Aggregate
    3.4 聯(lián)合詞和局部語(yǔ)義信息對(duì)齊的答案選擇模型
        3.4.1 局部語(yǔ)義信息的抽取
        3.4.2 詞級(jí)別信息和局部語(yǔ)義信息的對(duì)齊
    3.5 實(shí)驗(yàn)和結(jié)果分析
        3.5.1 實(shí)驗(yàn)數(shù)據(jù)集
        3.5.2 實(shí)驗(yàn)設(shè)置
        3.5.3 實(shí)驗(yàn)結(jié)果和樣例分析
    3.6 本章小結(jié)
第四章 基于注意力的動(dòng)態(tài)語(yǔ)義閾值機(jī)制
    4.1 答案選擇中的傳統(tǒng)注意力機(jī)制存在的問(wèn)題
    4.2 引入動(dòng)態(tài)語(yǔ)義閾值的注意力機(jī)制
        4.2.1 動(dòng)態(tài)閾值網(wǎng)絡(luò)
        4.2.2 動(dòng)態(tài)閾值在注意力機(jī)制中的使用
    4.3 實(shí)驗(yàn)和結(jié)果分析
        4.3.1 實(shí)驗(yàn)數(shù)據(jù)集
        4.3.2 實(shí)驗(yàn)設(shè)置
        4.3.3 實(shí)驗(yàn)結(jié)果
        4.3.4 樣例分析
    4.4 本章小結(jié)
第五章 總結(jié)和展望
    5.1 總結(jié)
    5.2 展望
參考文獻(xiàn)
致謝
攻讀學(xué)位期間取得的研究成果


【參考文獻(xiàn)】：
碩士論文
[1]基于字詞對(duì)齊的中文字詞向量表示方法[D]. 徐健.中國(guó)科學(xué)技術(shù)大學(xué) 2017



本文編號(hào)：3730916