融合外部知識(shí)庫(kù)信息的文本推理研究
發(fā)布時(shí)間:2021-04-24 12:47
文本推理是自然語(yǔ)言處理領(lǐng)域中一項(xiàng)基礎(chǔ)而又非常重要的研究,它的研究對(duì)象是兩段文本描述,通常稱之為前提和假設(shè),推理的目的是根據(jù)常識(shí)信息判斷這兩段文本之間是否存在某種邏輯關(guān)系,由于文本描述是由一個(gè)或者多個(gè)句子組合而成的,所以文本推理也可以表示為句子間邏輯關(guān)系的識(shí)別。文本推理這項(xiàng)任務(wù)的特殊性在于很難僅僅憑借訓(xùn)練集中的數(shù)據(jù)將模型訓(xùn)練到一個(gè)很理想的程度,因?yàn)槿祟愒诿鎸?duì)同樣問(wèn)題時(shí),會(huì)根據(jù)大量語(yǔ)料之外的常識(shí)性信息進(jìn)行綜合判斷,并且根據(jù)句子表示形式還有句子間可能存在的邏輯關(guān)系的不同,所需要的常識(shí)性信息種類也是不同的。因此,讓機(jī)器在句子間邏輯關(guān)系識(shí)別的時(shí)候也可以將豐富的外部知識(shí)信息考慮進(jìn)去是目前提升模型推理能力非常重要的思路。近幾年隨著深度神經(jīng)網(wǎng)絡(luò)的迅速發(fā)展,也給推理提供了很多融合信息表示的途徑,進(jìn)而大大提升了對(duì)應(yīng)任務(wù)的準(zhǔn)確性。然而傳統(tǒng)的文本推理方法普遍關(guān)注于通過(guò)對(duì)訓(xùn)練集的學(xué)習(xí),進(jìn)而找到一種完成推理的通用方法,可是在測(cè)試集中有很多關(guān)鍵信息并沒(méi)有出現(xiàn)在訓(xùn)練集當(dāng)中。為了彌補(bǔ)這一缺陷,論文在完善模型的基礎(chǔ)之上引入了知識(shí)圖譜和事理圖譜這兩種在推理過(guò)程當(dāng)中至關(guān)重要的外部知識(shí)庫(kù)信息:1.利用知識(shí)圖譜信息,本論文研究了...
【文章來(lái)源】:北京郵電大學(xué)北京市 211工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:69 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 文本推理任務(wù)
1.1.1 文本推理任務(wù)的定義
1.1.2 句子間蘊(yùn)含關(guān)系識(shí)別
1.1.3 句子間因果關(guān)系識(shí)別
1.2 研究現(xiàn)狀與難點(diǎn)
1.3 本論文主要研究?jī)?nèi)容
1.4 論文創(chuàng)新點(diǎn)
1.5 論文組織結(jié)構(gòu)
第二章 文本推理相關(guān)技術(shù)介紹
2.1 引言
2.2 基于特征收集的推理模型相關(guān)技術(shù)
2.2.1 WordNet介紹
2.2.2 事理圖譜介紹
2.3 基于句子編碼的推理模型相關(guān)技術(shù)
2.3.1 詞向量表示方法
2.3.2 神經(jīng)網(wǎng)絡(luò)模型
2.3.3 注意力機(jī)制
2.4 文本推理模型介紹
第三章 融合知識(shí)圖譜的句子間蘊(yùn)含關(guān)系識(shí)別研究
3.1 引言
3.2 知識(shí)圖譜源信息介紹
3.3 融合知識(shí)圖譜的句子間蘊(yùn)含關(guān)系識(shí)別模型
3.3.1 語(yǔ)義信息編碼層
3.3.2 軟對(duì)齊層
3.3.3 信息收集層
3.3.4 信息融合層
3.3.5 任務(wù)判別層
3.4 實(shí)驗(yàn)及結(jié)果分析
3.4.1 實(shí)驗(yàn)設(shè)計(jì)
3.4.2 實(shí)驗(yàn)數(shù)據(jù)
3.4.3 數(shù)據(jù)預(yù)處理
3.4.4 實(shí)驗(yàn)結(jié)果
3.4.5 實(shí)驗(yàn)結(jié)果分析
3.5 本章小節(jié)
第四章 基于事理圖譜的句子因果關(guān)系識(shí)別研究
4.1 模型概述
4.2 事件抽取模塊
4.2.1 事件鏈的定義
4.2.2 事件鏈的抽取
4.2.3 事件鏈的融合
4.3 事理圖譜構(gòu)建模塊
4.3.1 事理圖的構(gòu)建
4.3.2 事理圖譜節(jié)點(diǎn)的初始化表示
4.3.3 事件圖學(xué)習(xí)模型
4.4 基于事件預(yù)測(cè)的句子間因果關(guān)系識(shí)別
4.5 實(shí)驗(yàn)
4.5.1 數(shù)據(jù)
4.5.2 事理圖譜結(jié)構(gòu)構(gòu)建結(jié)果
4.5.3 EG-CR模型實(shí)驗(yàn)效果分析
4.5.4 事件向量初始化方式實(shí)驗(yàn)與分析
4.5.5 事件圖學(xué)習(xí)方式效果分析
4.5.6 句子間因果關(guān)系識(shí)別方法實(shí)驗(yàn)與分析
第五章 總結(jié)與展望
參考文獻(xiàn)
致謝
攻讀學(xué)位期間取得的學(xué)術(shù)成果及參加課題情況
【參考文獻(xiàn)】:
期刊論文
[1]文本蘊(yùn)含關(guān)系識(shí)別與知識(shí)獲取研究進(jìn)展及展望[J]. 郭茂盛,張宇,劉挺. 計(jì)算機(jī)學(xué)報(bào). 2017(04)
[2]基于事件語(yǔ)義特征的中文文本蘊(yùn)含識(shí)別[J]. 劉茂福,李妍,姬東鴻. 中文信息學(xué)報(bào). 2013(05)
[3]文本蘊(yùn)涵研究現(xiàn)狀和發(fā)展趨勢(shì)[J]. 倪盛儉. 云南民族大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版). 2013(04)
[4]文本蘊(yùn)涵的推理模型與識(shí)別模型[J]. 袁毓林,王明華. 中文信息學(xué)報(bào). 2010(02)
[5]自然語(yǔ)言的計(jì)算機(jī)處理[J]. 馮志偉. 中文信息. 1997(04)
碩士論文
[1]文本蘊(yùn)含識(shí)別研究[D]. 王志浩.北京郵電大學(xué) 2015
[2]基于馬爾可夫邏輯網(wǎng)的文本推理技術(shù)[D]. 曹零.復(fù)旦大學(xué) 2014
本文編號(hào):3157387
【文章來(lái)源】:北京郵電大學(xué)北京市 211工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:69 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 文本推理任務(wù)
1.1.1 文本推理任務(wù)的定義
1.1.2 句子間蘊(yùn)含關(guān)系識(shí)別
1.1.3 句子間因果關(guān)系識(shí)別
1.2 研究現(xiàn)狀與難點(diǎn)
1.3 本論文主要研究?jī)?nèi)容
1.4 論文創(chuàng)新點(diǎn)
1.5 論文組織結(jié)構(gòu)
第二章 文本推理相關(guān)技術(shù)介紹
2.1 引言
2.2 基于特征收集的推理模型相關(guān)技術(shù)
2.2.1 WordNet介紹
2.2.2 事理圖譜介紹
2.3 基于句子編碼的推理模型相關(guān)技術(shù)
2.3.1 詞向量表示方法
2.3.2 神經(jīng)網(wǎng)絡(luò)模型
2.3.3 注意力機(jī)制
2.4 文本推理模型介紹
第三章 融合知識(shí)圖譜的句子間蘊(yùn)含關(guān)系識(shí)別研究
3.1 引言
3.2 知識(shí)圖譜源信息介紹
3.3 融合知識(shí)圖譜的句子間蘊(yùn)含關(guān)系識(shí)別模型
3.3.1 語(yǔ)義信息編碼層
3.3.2 軟對(duì)齊層
3.3.3 信息收集層
3.3.4 信息融合層
3.3.5 任務(wù)判別層
3.4 實(shí)驗(yàn)及結(jié)果分析
3.4.1 實(shí)驗(yàn)設(shè)計(jì)
3.4.2 實(shí)驗(yàn)數(shù)據(jù)
3.4.3 數(shù)據(jù)預(yù)處理
3.4.4 實(shí)驗(yàn)結(jié)果
3.4.5 實(shí)驗(yàn)結(jié)果分析
3.5 本章小節(jié)
第四章 基于事理圖譜的句子因果關(guān)系識(shí)別研究
4.1 模型概述
4.2 事件抽取模塊
4.2.1 事件鏈的定義
4.2.2 事件鏈的抽取
4.2.3 事件鏈的融合
4.3 事理圖譜構(gòu)建模塊
4.3.1 事理圖的構(gòu)建
4.3.2 事理圖譜節(jié)點(diǎn)的初始化表示
4.3.3 事件圖學(xué)習(xí)模型
4.4 基于事件預(yù)測(cè)的句子間因果關(guān)系識(shí)別
4.5 實(shí)驗(yàn)
4.5.1 數(shù)據(jù)
4.5.2 事理圖譜結(jié)構(gòu)構(gòu)建結(jié)果
4.5.3 EG-CR模型實(shí)驗(yàn)效果分析
4.5.4 事件向量初始化方式實(shí)驗(yàn)與分析
4.5.5 事件圖學(xué)習(xí)方式效果分析
4.5.6 句子間因果關(guān)系識(shí)別方法實(shí)驗(yàn)與分析
第五章 總結(jié)與展望
參考文獻(xiàn)
致謝
攻讀學(xué)位期間取得的學(xué)術(shù)成果及參加課題情況
【參考文獻(xiàn)】:
期刊論文
[1]文本蘊(yùn)含關(guān)系識(shí)別與知識(shí)獲取研究進(jìn)展及展望[J]. 郭茂盛,張宇,劉挺. 計(jì)算機(jī)學(xué)報(bào). 2017(04)
[2]基于事件語(yǔ)義特征的中文文本蘊(yùn)含識(shí)別[J]. 劉茂福,李妍,姬東鴻. 中文信息學(xué)報(bào). 2013(05)
[3]文本蘊(yùn)涵研究現(xiàn)狀和發(fā)展趨勢(shì)[J]. 倪盛儉. 云南民族大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版). 2013(04)
[4]文本蘊(yùn)涵的推理模型與識(shí)別模型[J]. 袁毓林,王明華. 中文信息學(xué)報(bào). 2010(02)
[5]自然語(yǔ)言的計(jì)算機(jī)處理[J]. 馮志偉. 中文信息. 1997(04)
碩士論文
[1]文本蘊(yùn)含識(shí)別研究[D]. 王志浩.北京郵電大學(xué) 2015
[2]基于馬爾可夫邏輯網(wǎng)的文本推理技術(shù)[D]. 曹零.復(fù)旦大學(xué) 2014
本文編號(hào):3157387
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3157387.html
最近更新
教材專著