基于循環(huán)神經(jīng)網(wǎng)絡(luò)的關(guān)系抽取方法研究
發(fā)布時間:2023-02-25 20:30
隨著互聯(lián)網(wǎng)急劇發(fā)展,大量非結(jié)構(gòu)文本數(shù)據(jù)日益增多,如何結(jié)構(gòu)化這些文本數(shù)據(jù)成為一個亟待解決的問題,而自然語言處理任務(wù)的研究對象正是這些非結(jié)構(gòu)化的數(shù)據(jù)。其中關(guān)系抽取是自然語言處理任務(wù)中的一項重要基礎(chǔ)任務(wù)。關(guān)系抽取任務(wù)是問答系統(tǒng)、知識圖譜、信息檢索等人工智能及其相關(guān)研究領(lǐng)域的基礎(chǔ)任務(wù)之一。關(guān)系抽取任務(wù)通過獲取句子中實體詞之間的關(guān)系,從而能夠自動化構(gòu)建句子中存在的知識,便于研究者構(gòu)建知識圖譜。傳統(tǒng)的關(guān)系抽取方式極為依賴人工經(jīng)驗,需要熟練且有相關(guān)知識的研究者手動選取特征,這樣不僅導(dǎo)致特征選擇效率低下,而且易出錯。但是近年來隨著深度學(xué)習(xí)的發(fā)展,更多的深度學(xué)習(xí)方法被應(yīng)用于自然語言處理任務(wù)中,并且獲得了很大的成功。但是這些使用深度學(xué)習(xí)方法的相關(guān)研究文獻仍存在一些不足之處。針對具體存在的問題,本論文提出了三個基于深度學(xué)習(xí)的關(guān)系抽取模型,主要包含如下三個方面:(1)大多數(shù)關(guān)系抽取模型只使用了一種深度學(xué)習(xí)模型的,并不能將多種模型的優(yōu)點集于一身,因此本文提出一種基于雙通道自注意力的關(guān)系抽取模型,該模型通過使用卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)分別提取數(shù)據(jù)特征,使模型能夠有效利用兩個網(wǎng)絡(luò)模型的優(yōu)點,彌補兩個模型各自的不足...
【文章頁數(shù)】:59 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 命名實體識別
1.2.2 傳統(tǒng)的關(guān)系抽取方法
1.2.3 基于深度學(xué)習(xí)的關(guān)系抽取方法
1.3 本文主要內(nèi)容
1.4 本文章節(jié)安排
第2章 相關(guān)背景和技術(shù)
2.1 詞向量
2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.3 卷積神經(jīng)網(wǎng)絡(luò)
2.4 本章小結(jié)
第3章 基于雙通道自注意力的關(guān)系抽取模型
3.1 雙通道自注意力模型
3.1.1 雙向長短時記憶層
3.1.2 自注意力層
3.2 數(shù)據(jù)及數(shù)據(jù)預(yù)處理
3.3 實驗及結(jié)果分析
3.3.1 評價標準
3.3.2 模型訓(xùn)練及參數(shù)調(diào)整
3.3.3 實驗結(jié)果及分析
3.4 本章小結(jié)
第4章 基于輔助模型的關(guān)系抽取模型
4.1 網(wǎng)絡(luò)模型結(jié)構(gòu)
4.2 實驗數(shù)據(jù)及環(huán)境
4.3 實驗及結(jié)果分析
4.3.1 模型訓(xùn)練及參數(shù)設(shè)置
4.3.2 實驗結(jié)果及分析
4.4 本章小結(jié)
第5章 基于選擇門網(wǎng)絡(luò)的關(guān)系抽取模型
5.1 選擇門網(wǎng)絡(luò)模型
5.1.1 網(wǎng)絡(luò)模型結(jié)構(gòu)
5.1.2 注意力層結(jié)構(gòu)
5.2 實驗結(jié)果及分析
5.2.1 模型訓(xùn)練及參數(shù)設(shè)置
5.2.2 實驗結(jié)果及分析
5.3 本章小結(jié)
第6章 總結(jié)與展望
參考文獻
致謝
攻讀學(xué)位期間發(fā)表的學(xué)術(shù)論文目錄
本文編號:3749142
【文章頁數(shù)】:59 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 命名實體識別
1.2.2 傳統(tǒng)的關(guān)系抽取方法
1.2.3 基于深度學(xué)習(xí)的關(guān)系抽取方法
1.3 本文主要內(nèi)容
1.4 本文章節(jié)安排
第2章 相關(guān)背景和技術(shù)
2.1 詞向量
2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.3 卷積神經(jīng)網(wǎng)絡(luò)
2.4 本章小結(jié)
第3章 基于雙通道自注意力的關(guān)系抽取模型
3.1 雙通道自注意力模型
3.1.1 雙向長短時記憶層
3.1.2 自注意力層
3.2 數(shù)據(jù)及數(shù)據(jù)預(yù)處理
3.3 實驗及結(jié)果分析
3.3.1 評價標準
3.3.2 模型訓(xùn)練及參數(shù)調(diào)整
3.3.3 實驗結(jié)果及分析
3.4 本章小結(jié)
第4章 基于輔助模型的關(guān)系抽取模型
4.1 網(wǎng)絡(luò)模型結(jié)構(gòu)
4.2 實驗數(shù)據(jù)及環(huán)境
4.3 實驗及結(jié)果分析
4.3.1 模型訓(xùn)練及參數(shù)設(shè)置
4.3.2 實驗結(jié)果及分析
4.4 本章小結(jié)
第5章 基于選擇門網(wǎng)絡(luò)的關(guān)系抽取模型
5.1 選擇門網(wǎng)絡(luò)模型
5.1.1 網(wǎng)絡(luò)模型結(jié)構(gòu)
5.1.2 注意力層結(jié)構(gòu)
5.2 實驗結(jié)果及分析
5.2.1 模型訓(xùn)練及參數(shù)設(shè)置
5.2.2 實驗結(jié)果及分析
5.3 本章小結(jié)
第6章 總結(jié)與展望
參考文獻
致謝
攻讀學(xué)位期間發(fā)表的學(xué)術(shù)論文目錄
本文編號:3749142
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3749142.html
最近更新
教材專著