【摘要】：知識就是力量。知識對于人類的生活至關(guān)重要,同時知識也是人工智能的基石。形成知識的過程本質(zhì)就是在建立認(rèn)知乃至理解世界。因為人類有獲取、形成以及升華知識的能力,所以人類才可以不斷進(jìn)步。目前來說,機(jī)器可以從海量的數(shù)據(jù)中學(xué)出感知能力,包括視覺能力、聽覺能力和語言輸出能力。但是讓機(jī)器學(xué)會具備認(rèn)知能力卻是非常之難的,比如讓機(jī)器學(xué)會邏輯推理能力以及舉一反三能力對目前來說是不太現(xiàn)實的。我們的目標(biāo)是使機(jī)器完全理解知識以至于能達(dá)到靈活應(yīng)用的效果。將知識應(yīng)用到人工智能應(yīng)用中分為三個階段:知識抽取、知識表示以及知識應(yīng)用。知識抽取的目標(biāo)是能夠從大規(guī)模非結(jié)構(gòu)化文本中自動地抽取結(jié)構(gòu)化知識。目前知識抽取任務(wù)具有以下第(1)點不足�；诜栠壿嫷闹R表示對于人類來說是很好理解的。但是這種表示形式對于機(jī)器來說特別難理解。因此,近年來大量的工作開始研究分布式向量表示學(xué)習(xí)(又稱嵌入表示學(xué)習(xí))。對于概念圖譜嵌入表示學(xué)習(xí)和知識圖譜嵌入表示學(xué)習(xí),目前具有以下第(2)點不足。關(guān)于知識應(yīng)用方面,我們選擇兩個應(yīng)用場景來驗證我們的想法:相似問題檢索以及關(guān)系分類。這兩個工作在目前的學(xué)習(xí)過程中都沒有好好的利用知識信息,目前來說具有以下第(3)點不足。(1)目前,知識庫經(jīng)常表示為三元組形式(主語,謂詞,賓語)。然而在某些情況下給定主語和謂詞,賓語并不是唯一的。傳統(tǒng)的基于知識庫的自動問答系統(tǒng)通常對具有相似意圖但條件不同的問題提供相同的答案。(2)在目前的概念嵌入表示學(xué)習(xí)過程中,只有兩個詞出現(xiàn)在一個上下文窗口時,對應(yīng)的概念信息才會被考慮。在知識圖譜嵌入工作中,知識圖譜中的邏輯結(jié)構(gòu)信息有很強(qiáng)的推理能力,但是在目前的知識圖譜嵌入工作中被忽略了。(3)目前沒有一個框架能同時解決相似問題檢索任務(wù)中五個方面的挑戰(zhàn):同義性、多義性、詞序、問題長度和數(shù)據(jù)稀疏性。對于關(guān)系分類任務(wù),現(xiàn)有的模型都將其視為一個普通的分類任務(wù),而忽略了三元組信息。在本文中,我們提出了一系列解決上述局限性的方法。綜上所述,本文的貢獻(xiàn)如下:(1)為解決第一點缺陷,我們從問答數(shù)據(jù)和搜索日志中構(gòu)建了條件型知識庫,并搭建了一個基于條件型知識庫的對話系統(tǒng)和用戶進(jìn)行聊天并補(bǔ)充用戶提問中缺失的條件。同時我們提出了一種新的網(wǎng)絡(luò)嵌入表示學(xué)習(xí)方法對具有兩種不同關(guān)系的網(wǎng)絡(luò)進(jìn)行編碼。(2)為解決第二點缺陷,我們提出了同時從依賴于上下文的視角和獨立于上下文的視角來學(xué)習(xí)概念和詞的向量表示。同時我們提出了一種基于邏輯結(jié)構(gòu)分布式編碼的知識圖譜嵌入表示學(xué)習(xí)的框架來增強(qiáng)推理能力,它可以很容易地與任何基于翻譯的知識圖譜嵌入模型相結(jié)合。(3)為解決第三點缺陷,我們使用一個基于高階特征嵌入表示~1的卷積語義模型直接學(xué)習(xí)問題向量表示。同時我們提出一種基于值卷積的注意力機(jī)制來加強(qiáng)卷積語義模型。最后,我們提出使用一種基于多視圖學(xué)習(xí)的方法來訓(xùn)練卷積語義模型從而解決數(shù)據(jù)稀疏性問題。為了使知識圖譜編碼到關(guān)系分類中,我們提出了一種基于知識圖譜驅(qū)動的關(guān)系分類方法。該方法可以很容易地與現(xiàn)有的基于pairwise排序損失函數(shù)的神經(jīng)網(wǎng)絡(luò)模型結(jié)合使用。同時我們提出一種數(shù)據(jù)增強(qiáng)的方法能夠使用一個句子樣本同時學(xué)習(xí)關(guān)系的向量表示以及逆向關(guān)系的向量表示。在把知識應(yīng)用到人工智能應(yīng)用的每個階段中,我們進(jìn)行了大量的實驗并通過和多個基準(zhǔn)模型對比來驗證每個階段中我們所提出的模型算法。我們的實驗結(jié)果表明我們提出的方法均能提高相應(yīng)任務(wù)的性能。
【學(xué)位授予單位】：華南理工大學(xué)
【學(xué)位級別】：博士
【學(xué)位授予年份】：2018
【分類號】：TP182
【圖文】：

圖 1-1 知識圖譜的發(fā)展歷史知識抽取本身是一項龐大的任務(wù)，包括命名實體識別、歧義消除、關(guān)系抽取等多個子任務(wù)[14]。一個命名實體通常是一個表示特定現(xiàn)實世界對象的詞或詞組。例如，巴拉克 奧巴馬（Barack Obama）是一個命名實體，并且其在如下句子中被特別的提到“BarackObama is visiting India in January, 2015”。一個句子中的實體指稱可以使用實體名字本身（巴拉克·奧巴馬），也可以使用其代表性名詞（美國總統(tǒng)）或者代詞（他）。命名實體通常被分為不同的通用類型：人（PERSON）、組織（ORGANIZATION/ORG）、地點（LOCATION）、日期（DATE）、時間（TIME）、郵政編碼（ZIPCODE）、電子郵箱（EMAIL）、網(wǎng)頁地址（URL）以及賬戶（AMOUNT）等。其他通用的實體類別包括:電影標(biāo)題以及書名等。在一些細(xì)粒度的分類中，人還可以分為政治家、科學(xué)家、體育明星、電影明星以及音樂家等。領(lǐng)域相關(guān)的實體又包括專業(yè)的一些類別。比如，在生物領(lǐng)域中包括蛋白質(zhì)、酶、基因以及細(xì)胞等命名實體。在制造領(lǐng)域內(nèi)包括制造商、產(chǎn)品、品牌以及特色等。關(guān)系通常表示兩個或多個實體之間定義的關(guān)系。比如，人和組織之間的“成員-從屬”

第二章 基于模板的條件型知識和醫(yī)療知識抽取時在這次工作中，我們只關(guān)心缺少單個條件的情況，將來會推廣到多條件缺失的任務(wù)中。表 2-3 條件型知識庫示例主語 謂詞 賓語（答案） 條件Windows 10 change_login_screen press Ctrl+Alt+Delete, and then click Change... password|pwd|pinWindows 10 change_login_screen Find the “disable lock screen” option first, then... background|wallpaperOffice 365 download download office 365 on the official website... windows_8|win7Office 365 download download office 365 from apple app store iphone|iphone_6Bed wash_surface clear the surface with a damp cloth baking_varnish|paintingBed wash_surface better to use a dry cloth to scrub or ask for... stickers|paper2.2.2 條件型知識庫搭建

μ跫鋿蛄勘硎鏡撓鏌騫叵擔(dān)嚅頤怯?t-SNE 工具5[131]在圖2-4 中的二維空間中顯示了條件對應(yīng)的字符云。t-SNE 是一種降維的算法。從圖 2-4 中,我們可以看到,不同的字面表達(dá)但是具有相似語義含義的條件被聚合在一起。5http://lvdmaaten.github.io/tsne/

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 劉從軍;夏永鋒;;模板方法模式在回溯算法中的應(yīng)用[J];微計算機(jī)信息;2009年21期

2 閆偉華;;模板方法模式的改進(jìn)[J];計算機(jī)應(yīng)用;2011年S1期

3 崔元;張琢;;基于大規(guī)模網(wǎng)絡(luò)日志的模板提取研究[J];計算機(jī)科學(xué);2017年S2期

4 陳淑鑫;孫偉民;孔嘯;;LAMOST恒星分類模板間相似性度量分析[J];光譜學(xué)與光譜分析;2018年06期

5 王永剛;;模板模式在OOP中的應(yīng)用[J];福建信息技術(shù)教育;2006年01期

6 劉從軍;;GOF的模板方法及其在回溯算法中應(yīng)用研究[J];現(xiàn)代電子技術(shù);2009年20期

7 于新瑞,王石剛,關(guān)柏青,王穎峰;一種快速檢測圓的抗干擾變形模板方法[J];光學(xué)學(xué)報;2004年08期

8 張潔;;設(shè)計模式在游戲框架設(shè)計中的應(yīng)用[J];科技傳播;2011年20期

9 張曉東,巫新春,張立,張軍,肖尚喜;四種提取單純皰疹病毒核酸模板方法比較[J];安徽醫(yī)學(xué);1998年02期

10 郭江;軟件重用的模板方法[J];計算機(jī)應(yīng)用研究;1993年02期

相關(guān)會議論文 前2條

1 李藝;裴仙鳳;陳玉霞;李寶宗;楊永剛;;通過單一模板方法合成二氧化硅納米蠶繭[A];第十五屆全國分子篩學(xué)術(shù)大會論文集[C];2009年

2 方志煒;于水源;杜利民;;基于短語本位語法體系的混合模板漢語生成[A];第二屆全國學(xué)生計算語言學(xué)研討會論文集[C];2004年

相關(guān)博士學(xué)位論文 前2條

1 王鵬偉;基于模板學(xué)習(xí)和深度學(xué)習(xí)的知識抽取和表示學(xué)習(xí)的研究與應(yīng)用[D];華南理工大學(xué);2018年

2 邱園;多級孔HZSM-5中大孔、介孔的硬模板可控構(gòu)建及其催化性能[D];天津大學(xué);2017年

相關(guān)碩士學(xué)位論文 前4條

1 楊曉霞;聯(lián)合特征驅(qū)動方法和模板方法預(yù)測蛋白質(zhì)的核酸綁定殘基[D];華中農(nóng)業(yè)大學(xué);2015年

2 崔元;面向大規(guī)模網(wǎng)絡(luò)日志的主動故障檢測方法的研究[D];東北師范大學(xué);2017年

3 劉素蘋;一種提高指紋識別率的多模板方法的研究與實現(xiàn)[D];西安電子科技大學(xué);2015年

4 符娟;搜索算法庫的研制[D];武漢理工大學(xué);2007年

本文編號：2799699