基于卷積神經(jīng)網(wǎng)絡(luò)的知識(shí)圖譜補(bǔ)全研究
發(fā)布時(shí)間:2022-01-26 09:31
知識(shí)圖譜補(bǔ)全是通過預(yù)測實(shí)體之間的隱藏關(guān)系來獲取新的知識(shí),從而使知識(shí)圖譜更加完善。目前將知識(shí)圖譜中的實(shí)體和關(guān)系嵌入到連續(xù)低維向量空間中成為知識(shí)圖譜補(bǔ)全的一種有效方法,應(yīng)用卷積神經(jīng)網(wǎng)絡(luò)的ConvE等模型和應(yīng)用圖卷積神經(jīng)網(wǎng)絡(luò)的KBAT等模型在知識(shí)圖譜嵌入中取得了較好的性能。但是,KBAT等模型不能對(duì)實(shí)體間的雙向語義關(guān)系進(jìn)行建模,并且無法獲取豐富的多跳鄰居特征,ConvE等模型難以獲取三元組的深層特征。針對(duì)以上問題,本文通過對(duì)圖卷積神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn),給出了多跳雙向注意力模型MBGAT和基于殘差卷積神經(jīng)網(wǎng)絡(luò)模型Res DE,提高了知識(shí)圖譜補(bǔ)全的準(zhǔn)確率。本文主要研究內(nèi)容如下:(1)分析了目前主要的三類知識(shí)圖譜補(bǔ)全方法,包括基于張量分解的知識(shí)圖譜補(bǔ)全方法,基于翻譯模型的知識(shí)圖譜補(bǔ)全方法,基于深度學(xué)習(xí)的知識(shí)圖譜補(bǔ)全方法。比較了他們的優(yōu)缺點(diǎn),并分析了其中存在的問題。(2)針對(duì)KBAT等模型存在的問題,給出一種基于編碼器-解碼器結(jié)構(gòu)的多跳雙向注意力模型MBGAT。該模型能夠?qū)W習(xí)到實(shí)體更大鄰域內(nèi)的信息,并且獲取到實(shí)體間的雙向語義關(guān)系,提升了實(shí)體聚合鄰域信息的豐富度,提高實(shí)體和關(guān)系的嵌入質(zhì)量。在...
【文章來源】:桂林電子科技大學(xué)廣西壯族自治區(qū)
【文章頁數(shù)】:62 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
第一章 緒論
1.1 研究背景與意義
1.2 知識(shí)圖譜補(bǔ)全方法研究現(xiàn)狀
1.2.1 基于張量分解的知識(shí)圖譜補(bǔ)全方法
1.2.2 基于翻譯模型的知識(shí)圖譜補(bǔ)全方法
1.2.3 基于深度學(xué)習(xí)的知識(shí)圖譜補(bǔ)全方法
1.3 研究內(nèi)容
1.4 論文組織結(jié)構(gòu)
第二章 相關(guān)知識(shí)介紹
2.1 符號(hào)定義
2.2 知識(shí)圖譜補(bǔ)全
2.3 卷積神經(jīng)網(wǎng)絡(luò)
2.3.1 卷積和池化操作
2.3.2 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
2.4 圖卷積神經(jīng)網(wǎng)絡(luò)
2.4.1 頻域圖卷積神經(jīng)網(wǎng)絡(luò)
2.4.2 空域圖卷積神經(jīng)網(wǎng)絡(luò)
2.5 激活函數(shù)
2.5.1 S型激活函數(shù)
2.5.2 ReLU系列激活函數(shù)
第三章 基于多跳雙向注意力機(jī)制的補(bǔ)全模型
3.1 動(dòng)機(jī)和目的
3.2 MBGAT模型
3.2.1 相關(guān)概念
3.2.2 多跳雙向注意力層
3.2.3 編碼器訓(xùn)練目標(biāo)
3.2.4 MBGAT模型解碼器
3.3 實(shí)驗(yàn)及結(jié)果分析
3.3.1 實(shí)驗(yàn)數(shù)據(jù)
3.3.2 評(píng)價(jià)指標(biāo)及基準(zhǔn)
3.3.3 模型訓(xùn)練及參數(shù)
3.3.4 實(shí)驗(yàn)結(jié)果分析
3.3.5 MBGAT模型分析
3.4 本章小結(jié)
第四章 基于殘差卷積神經(jīng)網(wǎng)絡(luò)的補(bǔ)全模型
4.1 動(dòng)機(jī)和目的
4.2 ResDE模型
4.2.1 ResDE模型結(jié)構(gòu)
4.2.2 ResDE模型訓(xùn)練
4.3 實(shí)驗(yàn)及結(jié)果分析
4.3.1 ResDE模型設(shè)置
4.3.2 模型參數(shù)和對(duì)比模型
4.3.3 ResDE獨(dú)立實(shí)驗(yàn)分析
4.3.4 ResDE解碼器實(shí)驗(yàn)分析
4.4 本章小結(jié)
第五章 結(jié)束語
5.1 研究工作總結(jié)
5.2 研究工作展望
參考文獻(xiàn)
致謝
作者在攻讀碩士期間的主要研究成果
本文編號(hào):3610254
【文章來源】:桂林電子科技大學(xué)廣西壯族自治區(qū)
【文章頁數(shù)】:62 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
第一章 緒論
1.1 研究背景與意義
1.2 知識(shí)圖譜補(bǔ)全方法研究現(xiàn)狀
1.2.1 基于張量分解的知識(shí)圖譜補(bǔ)全方法
1.2.2 基于翻譯模型的知識(shí)圖譜補(bǔ)全方法
1.2.3 基于深度學(xué)習(xí)的知識(shí)圖譜補(bǔ)全方法
1.3 研究內(nèi)容
1.4 論文組織結(jié)構(gòu)
第二章 相關(guān)知識(shí)介紹
2.1 符號(hào)定義
2.2 知識(shí)圖譜補(bǔ)全
2.3 卷積神經(jīng)網(wǎng)絡(luò)
2.3.1 卷積和池化操作
2.3.2 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
2.4 圖卷積神經(jīng)網(wǎng)絡(luò)
2.4.1 頻域圖卷積神經(jīng)網(wǎng)絡(luò)
2.4.2 空域圖卷積神經(jīng)網(wǎng)絡(luò)
2.5 激活函數(shù)
2.5.1 S型激活函數(shù)
2.5.2 ReLU系列激活函數(shù)
第三章 基于多跳雙向注意力機(jī)制的補(bǔ)全模型
3.1 動(dòng)機(jī)和目的
3.2 MBGAT模型
3.2.1 相關(guān)概念
3.2.2 多跳雙向注意力層
3.2.3 編碼器訓(xùn)練目標(biāo)
3.2.4 MBGAT模型解碼器
3.3 實(shí)驗(yàn)及結(jié)果分析
3.3.1 實(shí)驗(yàn)數(shù)據(jù)
3.3.2 評(píng)價(jià)指標(biāo)及基準(zhǔn)
3.3.3 模型訓(xùn)練及參數(shù)
3.3.4 實(shí)驗(yàn)結(jié)果分析
3.3.5 MBGAT模型分析
3.4 本章小結(jié)
第四章 基于殘差卷積神經(jīng)網(wǎng)絡(luò)的補(bǔ)全模型
4.1 動(dòng)機(jī)和目的
4.2 ResDE模型
4.2.1 ResDE模型結(jié)構(gòu)
4.2.2 ResDE模型訓(xùn)練
4.3 實(shí)驗(yàn)及結(jié)果分析
4.3.1 ResDE模型設(shè)置
4.3.2 模型參數(shù)和對(duì)比模型
4.3.3 ResDE獨(dú)立實(shí)驗(yàn)分析
4.3.4 ResDE解碼器實(shí)驗(yàn)分析
4.4 本章小結(jié)
第五章 結(jié)束語
5.1 研究工作總結(jié)
5.2 研究工作展望
參考文獻(xiàn)
致謝
作者在攻讀碩士期間的主要研究成果
本文編號(hào):3610254
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3610254.html
最近更新
教材專著