知識圖譜是當(dāng)今大數(shù)據(jù)時代至關(guān)重要的信息數(shù)據(jù)庫,未來將在零售、供應(yīng)鏈、金融等領(lǐng)域持續(xù)發(fā)揮信息的檢索和推理作用。知識圖譜雖然已經(jīng)對知識信息進(jìn)行了結(jié)構(gòu)化的表示,但在實際生產(chǎn)應(yīng)用中如何利用這些信息仍然是一個巨大的挑戰(zhàn)。而知識圖譜表示學(xué)習(xí)為知識圖譜實際應(yīng)用信息的使用提供了重要的解決途徑。知識圖譜表示學(xué)習(xí)技術(shù)逐漸成為知識圖譜應(yīng)用到生產(chǎn)領(lǐng)域的關(guān)鍵一環(huán),可以應(yīng)用于推薦系統(tǒng)、知識問答、自然語言理解等眾多領(lǐng)域。大多數(shù)現(xiàn)有的知識圖譜表示學(xué)習(xí)方法都將目光集中于知識圖譜中現(xiàn)有的三元組內(nèi)部所蘊(yùn)含的信息。近年來,許多研究顯示,知識圖譜中實體之間的上下文信息,諸如實體間隱藏的聯(lián)系、鄰域信息、路徑信息等都可以對知識圖譜表示學(xué)習(xí)任務(wù)起到十分可觀的作用。本文著重對實體間隱藏的聯(lián)系和鄰域信息進(jìn)行了研究和實驗,探討了它們在知識圖譜表示學(xué)習(xí)的中的影響。對于實體間隱藏的聯(lián)系,我們提出一種結(jié)合注意力機(jī)制的知識圖譜表示學(xué)習(xí)翻譯模型。我們在添加非線性映射的Trans D的基礎(chǔ)上,將實體與其他實體之間使用注意力機(jī)制聯(lián)系起來,進(jìn)一步增強(qiáng)了模型的效果。此外我們的模型復(fù)雜度相對神經(jīng)網(wǎng)絡(luò)模型較低,但是依然具有不差于神經(jīng)網(wǎng)絡(luò)模型的效果。對于鄰域信息...

【文章頁數(shù)】：75 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖1.1:知識圖譜結(jié)構(gòu)圖[51]

第一章緒論華東師范大學(xué)研究生碩士學(xué)位論文常重要的角色，在文本翻譯、資料查詢、智能服務(wù)、自動建議、互聯(lián)網(wǎng)購物、財務(wù)風(fēng)控、刑事案件調(diào)查、司法審理等具體應(yīng)用方面都起著至關(guān)重要的支柱作用。許多特定的用途和應(yīng)用都依賴于知識圖譜，例如根據(jù)上下文的內(nèi)容推薦，知識圖譜驅(qū)動的藥物發(fā)現(xiàn)、語義搜索、投....

圖2.1:典型的生物神經(jīng)網(wǎng)絡(luò)

第二章相關(guān)知識和技術(shù)2.1神經(jīng)網(wǎng)絡(luò)和注意力機(jī)制2.1.1神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)，簡稱神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)的概念近十幾年來在計算機(jī)領(lǐng)域十分火熱，其主要是受生物學(xué)啟發(fā)通過模仿人類神經(jīng)細(xì)胞結(jié)構(gòu)來進(jìn)行數(shù)據(jù)的計算和傳遞。神經(jīng)網(wǎng)絡(luò)通常是模仿構(gòu)建人類神經(jīng)結(jié)構(gòu)的計算網(wǎng)絡(luò)，類似于人類神經(jīng)系統(tǒng)中的結(jié)構(gòu)相....

圖2.2:典型的人工神經(jīng)網(wǎng)絡(luò)

第二章相關(guān)知識和技術(shù)華東師范大學(xué)研究生碩士學(xué)位論文圖2.2:典型的人工神經(jīng)網(wǎng)絡(luò)表2.1:生物神經(jīng)網(wǎng)絡(luò)與人工神經(jīng)網(wǎng)絡(luò)對應(yīng)關(guān)系生物神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)樹突（Dendrite）輸入（Input）細(xì)胞核（CellNucleus）節(jié)點(diǎn)（Node）突觸（Synapse）權(quán)重（Weight）軸....

圖2.3:神經(jīng)網(wǎng)絡(luò)三層結(jié)構(gòu)

第二章相關(guān)知識和技術(shù)華東師范大學(xué)研究生碩士學(xué)位論文圖2.3:神經(jīng)網(wǎng)絡(luò)三層結(jié)構(gòu)以一個傳遞函數(shù)的形式表示。n∑i=1WiXi+b其中W為權(quán)重，X為輸入，b為偏差，該函數(shù)計算得到的權(quán)重總計將作為輸入傳遞給一個激活函數(shù)以生成輸出。激活函數(shù)決定一個節(jié)點(diǎn)是否應(yīng)被觸發(fā)，只有那些被激活的節(jié)點(diǎn)才能....

本文編號：3973009