互聯(lián)網(wǎng)的極速發(fā)展帶來了信息的爆炸式增長及其結(jié)構(gòu)的雜亂無章。為此,知識圖譜應運而生并獲得了長足的發(fā)展�，F(xiàn)如今,知識圖譜被普遍應用于搜索引擎,推薦系統(tǒng),智能問答,對話系統(tǒng)等領域中。本文主要側(cè)重于知識圖譜在任務型對話系統(tǒng)中的應用。在實際應用中,一個任務型對話系統(tǒng)一般會涉及多個領域的知識,分別對應著不同領域的知識庫。這些知識庫往往有著不同的來源。這些不同的知識源往往會由不同的技術人員進行維護,且具有異構(gòu)的分布和屬性。這會導致知識庫很難甚至無法直接應用于任務型對話系統(tǒng)中。所以,我們需要借助于知識融合模型,將這些異源的知識庫融合為一個知識庫,然后再將融合后的知識庫應用于任務型對話系統(tǒng)中。在任務型對話系統(tǒng)中,用戶的意圖識別具有非常重要的作用。準確地理解用戶的意圖可以加快解決用戶的問題,提升用戶的對話體驗。然而,當前很多研究選擇采用深度神經(jīng)網(wǎng)絡作為意圖識別分類器。這種分類器是一個黑匣子,缺乏可解釋性。而知識圖譜則富含大量的結(jié)構(gòu)化的知識,為意圖識別模型的可解釋性提供了可能。因此,在基于知識圖譜的任務型對話系統(tǒng)中,知識融合和基于知識圖譜的用戶的意圖識別成為了兩個至關重要的技術。其中,知識融合是構(gòu)建基于知識圖譜的對話系統(tǒng)的理論基礎。用戶的意圖識別則是任務型對話中不可或缺的一部分。于是,本文主要對知識融合和基于知識圖譜的用戶意圖識別展開研究。首先,本文以融合具有部分-整體關系的知識圖譜為例,對具有大量完全獨立的連通分支,并且訓練集和測試集之間沒有重疊實體的知識圖譜融合進行研究。為了解決此類問題,我們引入了相似度作為輔助信息,并提出了一種基于三元組張量和相似度矩陣進行聯(lián)合分解的模型。其中,由于知識圖譜中關系的獨立性,模型使用RESCAL方法對三元組張量進行分解。之后,我們采用交替方向乘子法(Alternating Direction Method of Multipliers,ADMM)對模型進行優(yōu)化。在實驗中,通過和RESCAL模型以及TransE系列的模型進行對比,本文提出的模型在準確率上表現(xiàn)了最好的效果,很好地解決了即將融合的知識圖譜中具有大量完全獨立的連通分支,以及訓練集和測試集之間沒有重疊實體的問題。借助于知識融合技術,我們可以將多個領域的知識庫融合為一個知識庫,并應用于任務型對話系統(tǒng)中。在任務型對話系統(tǒng)中,知識圖譜能夠幫助系統(tǒng)快速準確地識別用戶的意圖,并使得系統(tǒng)具有很強的可解釋性。因此,本文提出了基于意圖圖譜的用戶意圖識別模型。該模型將融合后的多領域知識庫轉(zhuǎn)換為表示用戶意圖的知識圖譜,即意圖圖譜。然后,模型使用強化學習的方法在圖譜中進行推理來獲取合適的路徑。該路徑中的最后一個節(jié)點即為用戶的意圖。在實驗中,通過和監(jiān)督學習的模型對比,該模型在表現(xiàn)出較高的意圖識別準確率的同時,具備了很強的可解釋性。這有助于我們能夠快速了解模型產(chǎn)生的錯誤樣例,并及時提出方法進行改進。綜上所述,本文主要圍繞知識圖譜在任務型對話系統(tǒng)中的兩個關鍵技術展開研究。這兩個技術為知識融合和基于知識圖譜的用戶意圖識別。其中,知識融合是構(gòu)建基于知識圖譜的對話系統(tǒng)的理論基礎。為了便于在任務型對話中使用多領域知識庫,我們使用知識融合技術將多領域知識庫融合為一個知識庫。用戶的意圖識別則是任務型對話中不可或缺的一部分。知識圖譜的應用使得用戶的意圖識別模型具有很強的可解釋性。首先,我們提出了張量和矩陣的聯(lián)合分解模型,對具有大量完全獨立的連通分支,并且訓練集和測試集之間沒有重疊實體的知識圖譜進行融合。之后,我們基于融合后的知識圖譜提出了用戶的意圖識別模型。該模型將融合后的多領域知識庫轉(zhuǎn)換意圖圖譜,并使用了強化學習的方式生成路徑,對應于用戶的意圖。這兩種模型都具有很好的實驗結(jié)果。不過它們還有很多的提升空間。例如知識融合模型產(chǎn)生的一些錯誤樣例是有悖于常識;意圖識別模型在準確率上仍然不如監(jiān)督學習模型等。這些都需要我們進一步的深入研究。
【學位單位】：山東大學
【學位級別】：碩士
【學位年份】：2020
【中圖分類】：TP391.1;TP181
【部分圖文】：

的形式存在。其基本格式為【實體／，關??系，實體２】或者【概念，屬性，屬性值】。在本文中，我們統(tǒng)一使用【頭部實體，關??系，尾部實體】來表不。??Ｉ???知＿識融合ｉ?｜?任筘型Ａ活系統(tǒng)Ｉ??Ｉ?Ｉ?Ｉ??知識庫２￣＾?？［知識圖譜２１—知識圖譜）卜聽Ｈ對話狀１——＞１對話策略學習１１??，知識庫ｉ?圖譜ｎ?１￣?ｉ?！?［?］?Ｉ自然語＇言生成１?ｉ??ｉ?????????????！?Ｉ?????????????！??圖１．１：基于知識圖譜的多輪對話流程??由于知識圖譜能夠?qū)χR進行結(jié)構(gòu)化，便于人們方便獲取并理解知識，所以知識??圖譜有著很廣泛的應用［２］，包括搜索引擎，推薦系統(tǒng)，智能問答，對話系統(tǒng)等應用??方向。本文則重點關注于知識圖譜在任務型對話系統(tǒng)中的應用。然而，如圖１．１所示，??一個任務型對話系統(tǒng)往往需要多個領域的知識，這些知識都分別對應著不同領域的??知識庫。而且這些知識通常出自于不同的來源。例如在企業(yè)的智能客服系統(tǒng)中，我們??需要知識圖譜涵蓋著該企業(yè)中所有業(yè)務的知識。每個業(yè)務的知識圖譜通常由不同的??業(yè)務組維護。這些不同的知識源往往會具有異構(gòu)的分布和屬性。這會需要系統(tǒng)將多個??一?１?－??

為了解決具有大量完全獨立連通分支，并且訓練和測試集實體之間沒有重疊的??知識圖譜之間的融合，我們提出了使用三階張量模型去預測頭部實體和尾部實體之??間的關系。這個三階張量表示為ＸｅＲｈｈｘ。根據(jù)第１．２．１節(jié)中所講述的，我們額外??添加了實體之間的相似度量作為輔助信息，幫助模型去預測實體之間的關系。這些相??似信息是以相似度矩陣表現(xiàn)的，用符號表示為Ｐ?ｅ?Ｒ〃７。??３．１模型介紹??圖３．１展示了使用頭部實體ｘ尾部實體ｘ關系三元組張量和頭部實體ｘ尾部實??體相似度矩陣進行聯(lián)合分解的模型圖。??

？＾ｄｏｇ＾???ｐａｒｔ?ｏｆ?＾ｌｅｇ＾??ｐａｒｔ?ｒｆ?＂＾ｄｏｇ＾ｊ???ｐａｒｔ?ｏｆ?＾ｄｏｇ＾ｊ??ｊｓａ?＿?■?＿＋?相ｆ５Ｓ＊??＾ｎｏｓｏ＾?ｐａｒｔ?ｏｆ??ｐａｒｔ?ｏｆ?＾ｎ〇Ｂｅ＾?ｐ？ｒｔ?ｏｆ?＾?＾ｎｏｓｅ＾?ｐ？ｒｔ?ｏｆ???Ｉ?Ｉ?Ｉ???ｉ???ｉ???＿ｉ＿???＾ｎｏｇｅ＾?ｌ？ｔ?ｏｆ?？＾ｄｏｇ＾?＾ｎ〇Ｂｅ＾｜?ｐａｒｔ?ｏｆ?＾ｎｏｓｅ＾ｊ?ｐａｒｔ?ｏｆ?？＾ｄｏｇ＾??（ａ）?（ｂ）??圖３．２：?（ａ）知識圖譜補全方法示例。左圖為輸入實例，右圖展示了由于知識圖譜缺??乏連接導致實體間的關系無法預測的實例。（ｂ）?—個由本文提出的模型進行預測的??實例。??度的模型（ＬＩＮ和ＪＣＮ）在準確率方面表現(xiàn)得非常不好。??錯誤分析最后，我們發(fā)現(xiàn)，本文提出的知識融合模型中的某些錯誤情況是由不正??確的歸納導致的。例如頭部實體“ｔａｉｌ．ｎ．０１”（動物的尾巴）和尾部實體“ａｎｔ．ｎ．Ｏｌ”（螞??蟻），根據(jù)相似度矩陣，它們會被模型預測為彳關系。然而，根據(jù)常識得??知，螞蟻并沒有尾巴。我們認為，這類錯誤是由于不正確的歸納導致的。這也可能是??因為相似度連接是無向的。在將來的工作中，我們可以考慮修改相似度矩陣或合并其??他約束來避免此類錯誤。??３．６本章小結(jié)??知識融合方法在整個基于知識圖譜的任務型對話系統(tǒng)中具有關鍵作用，是其理??論基矗由于一個對話系統(tǒng)中往往會包含多個領域的知識圖譜。這些知識圖譜通常具??有不同的結(jié)構(gòu)，由不同的人員維護。因此，在知識圖譜應用于對話系統(tǒng)前，我們需要??使用知識融合方法將多個領域的知識圖譜融合為一個知識
【相似文獻】

相關期刊論文 前10條

1 張觀林;歐陽純萍;鄒銀鳳;周志鋒;;知識圖譜及其在醫(yī)療領域的應用[J];湖南科技學院學報;2016年10期

2 黃薇;;知識圖譜應用于學科知識服務初探[J];福建圖書館理論與實踐;2014年03期

3 武斌;張賓;周晶;孫博;賈江凱;;知識圖譜在電力領域的應用與思考[J];科技經(jīng)濟導刊;2020年16期

4 宋卿;戚成琳;張鵬洲;;知識圖譜技術在新聞領域中的應用思考[J];中國傳媒科技;2016年05期

5 先興平;吳濤;;知識圖譜與網(wǎng)絡表示學習[J];產(chǎn)業(yè)與科技論壇;2016年17期

6 翟倩;祝琳琳;;基于文獻計量的國內(nèi)知識圖譜研究綜述[J];圖書館學研究;2016年18期

7 林強;;知識圖譜在檔案學中的應用綜述與評價[J];檔案與建設;2014年11期

8 吳運兵;楊帆;賴國華;林開標;;知識圖譜學習和推理研究進展[J];小型微型計算機系統(tǒng);2016年09期

9 李暢;;構(gòu)建操作系統(tǒng)教程知識圖譜[J];電腦知識與技術;2020年02期

10 劉芳;謝靖;;以藏品為核心的知識圖譜設計與應用[J];數(shù)字圖書館論壇;2020年06期

相關博士學位論文 前10條

1 麗麗;蒙古文化知識圖譜的構(gòu)建與研究[D];內(nèi)蒙古大學;2020年

2 趙宇;知識圖譜自動演進算法研究[D];北京郵電大學;2017年

3 王楨;基于嵌入模型的知識圖譜補全[D];中山大學;2017年

4 武國勝;福建省生態(tài)環(huán)境時空格局信息圖譜研究[D];福建師范大學;2006年

5 王莉;基于知識圖譜的城市軌道交通建設安全管理智能知識支持研究[D];中國礦業(yè)大學;2019年

6 劉偉;人腦三維彌散張量影像數(shù)字化統(tǒng)計圖譜研究[D];中國科學技術大學;2012年

7 蔣菲;新世紀中國課程與教學論的知識圖譜研究[D];湖南師范大學;2014年

8 陳曦;面向大規(guī)模知識圖譜的彈性語義推理方法研究及應用[D];浙江大學;2017年

9 汪洋;山地人居環(huán)境空間信息圖譜—理論與實證[D];重慶大學;2012年

10 芮建勛;基于遙感影像的城市景觀信息圖譜及其模型系統(tǒng)研究[D];華東師范大學;2006年

相關碩士學位論文 前10條

1 郝增光;基于張量分解的知識圖譜融合研究及其在對話中的應用[D];山東大學;2020年

2 胡超杰;基于知識圖譜的幾何問題自動求解系統(tǒng)設計與實現(xiàn)[D];電子科技大學;2020年

3 孫馳;基于微博的知識圖譜的構(gòu)建與研究[D];西華大學;2015年

4 李光明;初中化學學科知識圖譜的構(gòu)建與可視化查詢系統(tǒng)的實現(xiàn)[D];上海師范大學;2020年

5 胡瑾;幼兒園音樂圖譜的運用研究[D];山東師范大學;2015年

6 王三珊;學術機構(gòu)知識圖譜的構(gòu)建研究[D];安徽財經(jīng)大學;2012年

7 王一博;基于知識圖譜的計算機領域勝任力研究與應用[D];吉林大學;2020年

8 郭雪純;知識圖譜中的圖聚集方法研究[D];東南大學;2019年

9 陳晨;基于實驗研究不同標注方式對醫(yī)學圖譜識別效率的影響[D];第四軍醫(yī)大學;2015年

10 謝曉娟;潘懷素《南宋樂星圖譜研究》初探[D];溫州大學;2015年

本文編號：2867138