信息時代的急速發(fā)展使得人們在互聯(lián)網(wǎng)上存儲及運用的文本數(shù)據(jù)規(guī)模急劇增加。為了從海量的文本中發(fā)現(xiàn)目標信息,信息抽取技術應運而生。作為信息抽取領域重要的研究課題,針對實體關系抽取的研究,其根本目的在于從半結(jié)構(gòu)文本或非結(jié)構(gòu)文本中發(fā)現(xiàn)實體之間的語義關系,以便人們快速的理解復雜文本中的隱藏信息。具有較強的研究價值和研究意義。本文主要研究了在遠程監(jiān)督數(shù)據(jù)集上的關系抽取任務的實現(xiàn),基于深度學習技術與遠程監(jiān)督思想提出了一種新的實體關系抽取方法。針對遠程監(jiān)督數(shù)據(jù)的特點,在總結(jié)現(xiàn)有的研究基礎上,本文分別從實體關系特征提取和抑制噪音數(shù)據(jù)影響兩個方面開展研究。在實體關系特征提取方面,以往的關系抽取研究中深度學習模型通常只包含淺層卷積神經(jīng)網(wǎng)絡結(jié)構(gòu),設計的模型只能提取到淺層的語義信息,因此本文從網(wǎng)絡深度的角度出發(fā),通過引入深度殘差網(wǎng)絡技術以提取更高層的特征語義信息使模型可以學習到更豐富的關系特征,設計了多層網(wǎng)絡模型實驗以探索更適合的模型深度;在抑制噪音數(shù)據(jù)影響方面,現(xiàn)有的研究偏重于引入句法結(jié)構(gòu)等信息,需要大量的專家知識,而本文從句子信息對目標關系的重要性角度出發(fā),在池化層引入注意力機制用以自動捕捉更加關鍵的特征信息... 

【文章頁數(shù)】：61 頁

【學位級別】：碩士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 研究背景
    1.2 研究意義
    1.3 國內(nèi)外研究概況
    1.4 研究內(nèi)容
    1.5 本文的組織結(jié)構(gòu)
2 相關理論與技術分析
    2.1 遠程監(jiān)督
    2.2 實體關系抽取
    2.3 遠程監(jiān)督數(shù)據(jù)集及評價標準
    2.4 本章小結(jié)
3 基于Res Net的遠程監(jiān)督關系抽取
    3.1 引言
    3.2 卷積神經(jīng)網(wǎng)絡
    3.3 CNN模型設計
    3.4 Res Net模型設計
    3.5 實驗與分析
        3.5.1 實驗流程
        3.5.2 多層網(wǎng)絡模型實驗設計
        3.5.3 層數(shù)加深的效應分析
    3.6 本章小結(jié)
4 基于Attention Pooling的遠程監(jiān)督關系抽取
    4.1 引言
    4.2 NLP中的注意力機制
    4.3 Attention Pooling學習模型
    4.4 實驗與分析
        4.4.1 實驗流程
        4.4.2 Attention Pooling Model實驗設計
        4.4.3 注意力機制對噪音數(shù)據(jù)的抑制效應分析
    4.5 本章小結(jié)
5 結(jié)合注意力機制與深度殘差網(wǎng)絡的遠程監(jiān)督關系抽取
    5.1 引言
    5.2 遠程監(jiān)督數(shù)據(jù)預處理
        5.2.1 詞嵌入
        5.2.2 位置嵌入
        5.2.3 數(shù)據(jù)填充
    5.3 ARCNN學習模型
        5.3.1 輸入映射層
        5.3.2 Convolution,Res Net
        5.3.3 Attention Pooling,Softmax Output
        5.3.4 訓練和優(yōu)化策略
    5.4 實驗與分析
        5.4.1 實驗流程
        5.4.2 ARCNN模型實驗設計
        5.4.3 ARCNN模型性能分析
    5.5 本章小結(jié)
6 總結(jié)與展望
    6.1 論文總結(jié)
    6.2 未來展望
參考文獻
致謝
附錄1 攻讀碩士學位期間參與的項目和發(fā)表的論文



本文編號：3734418