知識圖譜表示學習也稱知識圖譜嵌入,旨在挖掘知識圖譜中涵蓋的有效信息并轉變?yōu)橄蛄勘硎?從而更方便地被應用于機器學習和深度學習模型之中,并應用于檢索、推薦、推理等目的。提高知識圖譜表示學習模型的表達能力主要從兩方面入手。1)知識圖譜表示學習模型的改進。在傳統(tǒng)知識圖譜表示模型的基礎上結合卷積神經(jīng)網(wǎng)絡模型、注意力機制以及目前備受關注的圖神經(jīng)網(wǎng)絡等模型的優(yōu)勢針對模型架構設計進行優(yōu)化。2)擴充知識庫。由于只通過知識圖譜的結構數(shù)據(jù)無法對圖譜信息進行完整建模,因而試圖通過一些外部的知識庫信息來擴充知識圖譜,并設計相應的知識增強模型來充分挖掘知識圖譜的內(nèi)容信息,從而達到提升性能的目的。本文主要研究內(nèi)容包括:1)針對上述兩個方面對知識圖譜表示學習算法進行優(yōu)化,提出了基于圖注意網(wǎng)絡的文本增強知識圖譜表示學習模型TGAT,并基于WN18RR和FB15K-237數(shù)據(jù)集驗證了TGAT模型在鏈接預測任務上的性能表現(xiàn);2)為了驗證算法在真實場景中的表現(xiàn),我們結合保險行業(yè)的核保任務場景,構建了保險醫(yī)療知識圖譜數(shù)據(jù)集MI225,驗證了TGAT模型在MI225數(shù)據(jù)集上的性能表現(xiàn);3)為了研究知識表示模型和深度學習模型的有機... 

【文章來源】：華東師范大學上海市 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：90 頁

【學位級別】：碩士

【部分圖文】：

知識圖譜可視化示例

。然而，知識圖譜的研究應用還尚處于初級階段，一方面，知識圖譜遭受缺失實體和關系的不完整性的困擾；另一方面，知識圖譜中蘊含的的信息沒有被充分挖掘和利用；導致知識圖譜應用于信息抽娶關系預測、搜索推薦、大數(shù)據(jù)分析等任務中還面臨著決策能力欠佳等劣勢。知識表示研究是為了利用計算符號來表示人腦中的知識，利用符號運算模擬知識推理的過程，通過學習到更好的表示策略從而更好的服務于下游應用。因此激起了許多研究者對知識圖譜表示學習的相關研究。知識表示主要分為基于離散符號和基于連續(xù)向量的知識表示模型。如圖1-2所示，基于離散符號表示的方法通過構建數(shù)據(jù)模型并制定一些規(guī)則來描述一條知識，視力下降是糖尿病的并發(fā)癥，這樣一條知識被預定義好的數(shù)據(jù)模型表示并存儲。而基于連續(xù)向量表示的方法將實體以及關系表示為分布式向量或張量。圖1-2知識的離散符號表示以及連續(xù)向量表示圖示基于離散符號的知識表示模型包括資源描述框架(ResourceDescriptionFramework,RDF)、網(wǎng)絡本體語言(WebOntologyLanguage,OWL)以及查詢語言(SPARQL)�；谶B續(xù)向量的知識表示模型也稱知識圖譜表示學習或者知識圖譜嵌入，主要是把知識圖譜中稀疏的的實體、關系表示映射為低維稠密的向量表示，經(jīng)典的方法例如TransE[4]、ComplEx[5]、SME[6]等。雖然基于離散符號的表示方法能夠顯式的表達知識，并具備可解釋性，但其高稀疏性、高計算復雜性以及不能直接對接神經(jīng)網(wǎng)絡等機器學習工具導致其應用局限；而基于連續(xù)向量的知識表示具有較弱的邏輯約束，通過將實體和關系轉換為連續(xù)的向量，簡化操作的同時保

華東師范大學碩士學位論文基于圖注意網(wǎng)絡的文本增強知識圖譜表示學習5AttentionNetwork,GAT)[26]。圖注意網(wǎng)絡模型通過分配給!跳鄰域中不同實體不同權重，從而全面捕獲了多跳鄰域中的實體和關系特征以及語義相似的關系。1.3本文的章節(jié)安排本文的工作主要是研究并改進知識圖譜表示學習算法；在經(jīng)典公開數(shù)據(jù)集上（如FreeBase、WordNet）對經(jīng)典任務（鏈接預測）進行驗證；針對模型不同層進行消融實驗研究；結合應用場景構建知識圖譜數(shù)據(jù)集并驗證模型性能；同時為了讓知識表示模型賦能深度學習任務，我們設計了基于知識表示的深度學習模型，從而將知識圖譜表示模型賦能下游應用。本文的工作安排如下：圖1-3章節(jié)安排框架第一章主要介紹了知識圖譜的概念、發(fā)展、應用以及知識圖譜表示學習的研究背景、研究現(xiàn)狀和研究意義。在此基礎上通過對知識圖譜表示學習算法進行調(diào)研總結，形成國內(nèi)外在知識圖譜表示學習領域的研究現(xiàn)狀分析，最后引出全文的章節(jié)安排。第二章為知識圖譜表示學習模型算法研究。本章通過將多種不同的知識圖譜表示學習算法進行歸類，分別針對平移距離模型、語義匹配模型以及基于卷積神


本文編號：3335503