語(yǔ)義分析是對(duì)非結(jié)構(gòu)文本進(jìn)行理解的一種重要手段,對(duì)自然語(yǔ)言處理領(lǐng)域中的多項(xiàng)應(yīng)用具有重要意義。語(yǔ)義角色標(biāo)注是文本語(yǔ)義分析的重要工具,且作為語(yǔ)義分析中的一種淺層分析技術(shù),一直是自然語(yǔ)言處理領(lǐng)域的研究熱點(diǎn)。語(yǔ)義角色標(biāo)注的主要目標(biāo)是識(shí)別出給定句子中的“謂語(yǔ)-論元”結(jié)構(gòu),并為所有論元分配在謂語(yǔ)所指事件中擔(dān)任的語(yǔ)義角色。以往的語(yǔ)義角色標(biāo)注研究大多基于傳統(tǒng)的機(jī)器學(xué)習(xí)算法,這些方法依賴于句法分析的結(jié)果,進(jìn)而選取有效的特征及特征組合。特征工程是一項(xiàng)費(fèi)時(shí)費(fèi)力的人工經(jīng)驗(yàn)性任務(wù),且句法分析器的錯(cuò)誤分析結(jié)果會(huì)影響語(yǔ)義角色標(biāo)注模型的性能。隨著深度神經(jīng)網(wǎng)絡(luò)的強(qiáng)勢(shì)崛起,越來(lái)越多的研究者開始使用深度神經(jīng)網(wǎng)絡(luò)來(lái)完成語(yǔ)義角色標(biāo)注,通過(guò)模型自動(dòng)提取特征來(lái)減少對(duì)人工構(gòu)造特征的依賴。雖然現(xiàn)有的許多深度神經(jīng)網(wǎng)絡(luò)模型已在語(yǔ)義角色標(biāo)注上取得不錯(cuò)的成績(jī),但這些模型仍存在一些問(wèn)題:一、如何更好地利用詞性和語(yǔ)義角色間的語(yǔ)義依賴關(guān)系;二、如何有效地將依存樹中的依存句法信息加入到語(yǔ)義角色標(biāo)注任務(wù)中;三、忽視了選擇性偏好信息能夠?yàn)檎Z(yǔ)義角色標(biāo)注提供豐富的語(yǔ)義信息。（1）針對(duì)如何更好地利用詞性和語(yǔ)義角色間的語(yǔ)義依賴關(guān)系的問(wèn)題,提出了一種將詞性和語(yǔ)義角色... 

【文章來(lái)源】：河南大學(xué)河南省

【文章頁(yè)數(shù)】：78 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

共享編碼層的Bi-LSTM層數(shù)對(duì)語(yǔ)義角色標(biāo)注結(jié)果的影響

基于深度神經(jīng)網(wǎng)絡(luò)的語(yǔ)義角色標(biāo)注研究30圖3-4主輔任務(wù)的交替訓(xùn)練次數(shù)比對(duì)語(yǔ)義角色標(biāo)注任務(wù)性能的影響當(dāng)主輔任務(wù)的訓(xùn)練次數(shù)比為1時(shí)，相當(dāng)于依次交替訓(xùn)練，損失值逐漸下降但很快穩(wěn)定，與其他兩個(gè)設(shè)定相比最大；當(dāng)主輔任務(wù)的訓(xùn)練次數(shù)比為2時(shí)，損失值下降很快且明顯小于次數(shù)比為1時(shí)的損失值；當(dāng)設(shè)定訓(xùn)練次數(shù)比為3時(shí)，損失值下降速度慢于次數(shù)比為2時(shí)，但最終損失變化穩(wěn)定時(shí)，其損失值為三種設(shè)定中最低。所以本文將主要任務(wù)與輔助任務(wù)的交替訓(xùn)練次數(shù)比設(shè)定為3。對(duì)于模型中的其他關(guān)鍵參數(shù)，本文采用相同的辦法逐一確定參數(shù)值，最終本模型的超參數(shù)設(shè)定如表3-3所示。表3-3本模型的超參數(shù)表參數(shù)名參數(shù)值詞嵌入維度300Bi-LSTM隱藏層神經(jīng)元數(shù)300Bi-LSTM層數(shù)3學(xué)習(xí)率0.0001丟失率0.5批處理大小1283.3.2模型訓(xùn)練時(shí)間的對(duì)比在評(píng)價(jià)一個(gè)深度神經(jīng)網(wǎng)絡(luò)模型的性能時(shí)，模型的訓(xùn)練時(shí)間是一個(gè)重要的衡量指標(biāo)。近幾年來(lái)，深度神經(jīng)網(wǎng)絡(luò)的不斷發(fā)展為圖像、語(yǔ)音和自然語(yǔ)言處理領(lǐng)域中的各項(xiàng)任務(wù)帶來(lái)跨越式提升。在圖像處理領(lǐng)域中，考驗(yàn)?zāi)Ｐ驮诖髷?shù)據(jù)集上訓(xùn)練速度的基準(zhǔn)為：在

圖4-5雙向長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)隱藏層神經(jīng)元個(gè)數(shù)對(duì)模型損失值的影響

【參考文獻(xiàn)】：
期刊論文
[1]多任務(wù)學(xué)習(xí)[J]. 張鈺,劉建偉,左信.  計(jì)算機(jī)學(xué)報(bào). 2020(07)
[2]語(yǔ)義角色標(biāo)注研究綜述[J]. 李業(yè)剛,孫福振,李鑒柏,呂新宇.  山東理工大學(xué)學(xué)報(bào)(自然科學(xué)版). 2011(06)
[3]語(yǔ)義角色標(biāo)注中句法特征的研究[J]. 李軍輝,王紅玲,周國(guó)棟,朱巧明,錢培德.  中文信息學(xué)報(bào). 2009(06)
[4]基于語(yǔ)義組塊分析的漢語(yǔ)語(yǔ)義角色標(biāo)注[J]. 丁偉偉,常寶寶.  中文信息學(xué)報(bào). 2009(05)
[5]基于最大熵分類器的語(yǔ)義角色標(biāo)注[J]. 劉挺,車萬(wàn)翔,李生.  軟件學(xué)報(bào). 2007(03)



本文編號(hào)：3597198