實(shí)體關(guān)系抽取是信息抽取的一個(gè)子任務(wù),能夠判別給定文本中實(shí)體對之間存在的關(guān)系,在自然語言處理領(lǐng)域有著非常重要的地位。完全依賴人工建立實(shí)體關(guān)系抽取語料費(fèi)時(shí)費(fèi)力,而利用遠(yuǎn)程監(jiān)督可以便捷地建立大型的語料,但是遠(yuǎn)程監(jiān)督無法避免的標(biāo)注錯(cuò)誤帶來了嚴(yán)重的數(shù)據(jù)噪聲。為了解決這一問題,很多方法應(yīng)運(yùn)而生,其中表現(xiàn)最突出的就是基于多示例學(xué)習(xí)的注意力網(wǎng)絡(luò)模型。但是目前的大多數(shù)方法將所有的實(shí)體關(guān)系獨(dú)立看待,無法利用實(shí)體關(guān)系的內(nèi)部聯(lián)系,以及實(shí)體關(guān)系定義中豐富的語義信息,嚴(yán)重限制了模型的整體性能,特別是對其中缺乏訓(xùn)練數(shù)據(jù)的長尾實(shí)體關(guān)系的抽取性能。本文針對當(dāng)前注意力機(jī)制在遠(yuǎn)程監(jiān)督實(shí)體關(guān)系抽取任務(wù)的應(yīng)用中,包級別的注意力計(jì)算中的查詢向量中缺乏實(shí)體關(guān)系的層級結(jié)構(gòu)信息與語義信息,導(dǎo)致模型無法學(xué)習(xí)到合理的注意力權(quán)重的問題,提出了實(shí)體關(guān)系注意力網(wǎng)絡(luò)（Entity Relation Attention Networks,ERAN）模型。ERAN模型使用雙向GRU（Gated Recurrent Unit,GRU）編碼實(shí)體關(guān)系定義生成實(shí)體關(guān)系的上下文表示,使用自定義的點(diǎn)積注意力機(jī)制計(jì)算注意力分?jǐn)?shù),能夠充分利用GRU編碼得到的所有隱藏... 

【文章來源】：華南理工大學(xué)廣東省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：76 頁

【學(xué)位級別】：碩士

【部分圖文】：

卷積操作

最大池化

平均池化

【參考文獻(xiàn)】：
期刊論文
[1]卷積神經(jīng)網(wǎng)絡(luò)研究綜述[J]. 周飛燕,金林鵬,董軍.  計(jì)算機(jī)學(xué)報(bào). 2017(06)
[2]基于多通道卷積神經(jīng)網(wǎng)的實(shí)體關(guān)系抽取[J]. 肜博輝,付琨,黃宇,王洋.  計(jì)算機(jī)應(yīng)用研究. 2017(03)
[3]依存句法分析研究綜述[J]. 石翠.  智能計(jì)算機(jī)與應(yīng)用. 2013(06)
[4]基于Deep Belief Nets的中文名實(shí)體關(guān)系抽取[J]. 陳宇,鄭德權(quán),趙鐵軍.  軟件學(xué)報(bào). 2012(10)
[5]基于樹核函數(shù)的實(shí)體語義關(guān)系抽取方法研究[J]. 莊成龍,錢龍華,周國棟.  中文信息學(xué)報(bào). 2009(01)



本文編號：3381009