人們經(jīng)常在博客、論壇、在線評論、電子商務(wù)平臺等社會媒體中對于某些事物表達個人觀點、態(tài)度和情感,這些評論是準消費者決斷的重要資源,也是產(chǎn)品或服務(wù)提供者汲取意見的重要依據(jù)。本文針對大規(guī)模產(chǎn)品評論文本進行細粒度的情感分析研究,旨在有效抽取出評論文本中的顯式和隱式的評價對象、觀點詞并進一步判斷出用戶表達的情感,本文提出一種基于多任務(wù)聯(lián)合學(xué)習(xí)方式捕獲不同任務(wù)間的語義關(guān)聯(lián)信息,有效地提高了系統(tǒng)識別地準確率。這種細粒度的屬性級情感分析研究對情感分析任務(wù)具有重要的學(xué)術(shù)價值和應(yīng)用價值。本文主要研究工作如下:1.基于改進記憶網(wǎng)絡(luò)的屬性級情感極性分類方法。記憶網(wǎng)絡(luò)在解決面向評價對象的情感分類時,只關(guān)注了詞級簡單語義,且忽略了序列自身語義信息。本文提出使用卷積多頭自注意模塊提取記憶,再用評價對象的向量表示做多跳注意力計算,從而彌補了記憶網(wǎng)絡(luò)存在的缺陷。在Sem Eval-2014 Restaurant（AT）、Sem Eval-2014 Laptop、Sem Eval-2014 Restaurant（AC）、Sem Eval-2016 Tweet四個數(shù)據(jù)集上超過所有基線方法達到最優(yōu),準確率分別提高了3.10%... 

【文章來源】：哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校

【文章頁數(shù)】：64 頁

【學(xué)位級別】：碩士

【部分圖文】：

一個關(guān)于ABSA各項子任務(wù)的例子本文對多任務(wù)的研究，包括屬性詞屬性類同時識別（ATE-ACD）、屬性詞及其

哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文-8-圖1-2本課題關(guān)于ABSA任務(wù)的研究概況在第四章中，本文引入觀點詞信息，對三個重要情感要素：觀點詞、屬性詞、屬性詞情感進行了一站式抽取研究。本文使用Bi-GRU提供不同的三種底層特征，使用增加了位置感知的Transformer編碼器提取高層特征交互，并提出異化學(xué)習(xí)和預(yù)感知學(xué)習(xí)來提高特征交互效率，本部分還基于ABSA任務(wù)對位置感知的注意力機制進行了討論，希望為后續(xù)研究提供有用的結(jié)論。此外，本文還對ATE-OTE聯(lián)合任務(wù)進行了研究，可提供用于比較的基線方法。

助網(wǎng)絡(luò)正確識別屬性詞，及幾種大規(guī)模預(yù)訓(xùn)練語言模型的效果驗證，包括BERT[62]、ERNIE2.0[63]、XLNet[64]。對于ACD的研究，本課題嘗試了多個分類模型（one-vs-all）建模方式、概率回歸任務(wù)建模方式、多標簽分類建模方式，使用CNN、RNN、Transformer三種編碼器進行了實驗。ATE、ACD的研究希望為后續(xù)多任務(wù)研究提供比較基礎(chǔ)和多任務(wù)有效性驗證依據(jù)。2.2研究方法2.2.1基于多標簽分類聯(lián)合學(xué)習(xí)模型的屬性類識別因為一段文本中可能提及到多個屬性類，所以目前大部分研究將屬性類識別（ACD）任務(wù)作為多標簽分類來完成。如圖2-1所示，本課題探究三種建模方法。第一種方法是訓(xùn)練一組one-vs-all的分類器，這些分類器各自學(xué)習(xí)某一個屬性類別的信息而不關(guān)注其它屬性類，即每個分類器完成一個二分類任務(wù)，考慮是否把這個屬性類分配給這個文本。第二種方法是訓(xùn)練一個回歸任務(wù)模型，即將最后的高層特征表示映射為一個維度為屬性類別個數(shù)的向量，這個向量每個維度上的數(shù)值表示這段文本提及對應(yīng)屬性類的概率，我們只需要設(shè)置一個概率閾值來判斷是否將這個屬性類分配給這段文本。第三種方法是建立一個聯(lián)合學(xué)習(xí)模型，對于每個屬性類別，我們使其底層特征表示和特征提取組件共享，而用不同的全連接層映射到不同屬性類，然后將他們的損失值加在一起共同優(yōu)化。(a)one-vs-all方式(b)回歸任務(wù)方式(c)聯(lián)合學(xué)習(xí)方式圖2-1例如屬性類別數(shù)為4時，完成ACD任務(wù)的三種建模方式輸入句子={1,2,…,}包含個單詞，Embedding層將所有單詞映射為低維稠密向量，設(shè)為維，則Embedding輸出為∈×。經(jīng)過編碼層提取特征后，用全連接層進行線性變換：=(,)(2-1)=(+)(2-2)


本文編號：3008439