網(wǎng)絡(luò)表示學(xué)習(xí)是復(fù)雜信息網(wǎng)絡(luò)分析的基礎(chǔ),旨在將網(wǎng)絡(luò)中的節(jié)點(diǎn)（節(jié)點(diǎn)級(jí)）或者整個(gè)網(wǎng)絡(luò)（圖級(jí)）表示為低維稠密的實(shí)值向量,以期應(yīng)用于節(jié)點(diǎn)分類、鏈接預(yù)測、圖分類等實(shí)際任務(wù)。近年來,對網(wǎng)絡(luò)表示學(xué)習(xí)的研究受到了越來越多研究者的關(guān)注,其中,基于深度學(xué)習(xí)的圖神經(jīng)網(wǎng)絡(luò)在網(wǎng)絡(luò)表示學(xué)習(xí)領(lǐng)域發(fā)揮著越來越重要的作用。然而,高階鄰域信息不能被有效利用是大多數(shù)現(xiàn)有的圖神經(jīng)網(wǎng)絡(luò)存在的問題。本文針對該問題進(jìn)行了研究,并在節(jié)點(diǎn)級(jí)和圖級(jí)網(wǎng)絡(luò)表示學(xué)習(xí)任務(wù)中提出了相應(yīng)的解決方案,主要研究內(nèi)容總結(jié)為以下兩點(diǎn):（1）在節(jié)點(diǎn)表示學(xué)習(xí)任務(wù)中,提出了基于注意力機(jī)制的融合多階鄰域信息的圖卷積網(wǎng)絡(luò)。我們首先在注意力機(jī)制中使用不同的屏蔽矩陣,提取融合了不同階鄰域信息的節(jié)點(diǎn)表示;然后提出了一種融合機(jī)制,將節(jié)點(diǎn)的多種表示融合成一個(gè)統(tǒng)一的表示。不同階鄰域信息的使用是獨(dú)立進(jìn)行的,避免了堆疊多個(gè)圖卷積層引起的過度平滑問題。具體來說,本文使用輸入圖的鄰接矩陣的冪作為屏蔽矩陣,將注意力權(quán)值矩陣相應(yīng)位置置為0,以提取不同階鄰域的局部信息;另外,在融合過程中使用動(dòng)態(tài)路由算法自適應(yīng)地確定不同的節(jié)點(diǎn)表示對最終節(jié)點(diǎn)表示的貢獻(xiàn),以學(xué)習(xí)更有效的節(jié)點(diǎn)表示。在引文網(wǎng)絡(luò)數(shù)據(jù)集上的... 

【文章來源】：中國科學(xué)技術(shù)大學(xué)安徽省 211工程院校 985工程院校

【文章頁數(shù)】：74 頁

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
ABSTRACT
第1章 緒論
    1.1 研究背景與意義
    1.2 問題定義
        1.2.1 網(wǎng)絡(luò)表示學(xué)習(xí)問題
        1.2.2 網(wǎng)絡(luò)表示學(xué)習(xí)的數(shù)學(xué)定義
    1.3 研究現(xiàn)狀
        1.3.1 網(wǎng)絡(luò)表示學(xué)習(xí)方法分類
        1.3.2 基于注意力機(jī)制的網(wǎng)絡(luò)表示學(xué)習(xí)相關(guān)工作
    1.4 面臨的挑戰(zhàn)與研究動(dòng)機(jī)
        1.4.1 高階鄰域信息在注意力機(jī)制中的有效利用
        1.4.2 同時(shí)保留網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)信息和節(jié)點(diǎn)屬性信息
    1.5 研究內(nèi)容及主要貢獻(xiàn)
    1.6 本文組織結(jié)構(gòu)安排
第2章 基于注意力機(jī)制的節(jié)點(diǎn)級(jí)網(wǎng)絡(luò)表示學(xué)習(xí)方法
    2.1 引言
    2.2 相關(guān)工作
        2.2.1 基于頻譜的方法
        2.2.2 基于空間的方法
        2.2.3 基于注意力機(jī)制的方法
    2.3 基于注意力機(jī)制的節(jié)點(diǎn)級(jí)網(wǎng)絡(luò)表示學(xué)習(xí)方法
        2.3.1 多注意力圖卷積層
        2.3.2 隱狀態(tài)聚合層
        2.3.3 模型訓(xùn)練
    2.4 實(shí)驗(yàn)結(jié)果與分析
        2.4.1 數(shù)據(jù)集
        2.4.2 實(shí)驗(yàn)設(shè)置
        2.4.3 節(jié)點(diǎn)分類實(shí)驗(yàn)結(jié)果
        2.4.4 參數(shù)敏感性分析
        2.4.5 可視化
        2.4.6 與其他模型的對比分析
    2.5 本章小結(jié)
第3章 基于注意力機(jī)制的圖級(jí)網(wǎng)絡(luò)表示學(xué)習(xí)方法
    3.1 引言
    3.2 相關(guān)工作
        3.2.1 圖核方法
        3.2.2 圖池化方法
        3.2.3 基于注意力機(jī)制的方法
    3.3 基于注意力機(jī)制的圖級(jí)網(wǎng)絡(luò)表示學(xué)習(xí)方法
        3.3.1 注意力Mask
        3.3.2 池化
        3.3.3 模型架構(gòu)
        3.3.4 模型訓(xùn)練
    3.4 實(shí)驗(yàn)結(jié)果與分析
        3.4.1 數(shù)據(jù)集
        3.4.2 實(shí)驗(yàn)設(shè)置
        3.4.3 圖分類實(shí)驗(yàn)結(jié)果
        3.4.4 參數(shù)敏感性分析
        3.4.5 與其他模型的對比分析
    3.5 本章小結(jié)
第4章 總結(jié)與展望
    4.1 主要工作與成果
    4.2 未來展望
參考文獻(xiàn)
致謝
在讀期間發(fā)表的學(xué)術(shù)論文與取得的研究成果



本文編號(hào)：3203704