基于特征融合的文本情感分析
發(fā)布時間:2021-07-17 21:20
互聯(lián)網(wǎng)技術(shù)一日千里,推動社交網(wǎng)絡(luò)等互聯(lián)網(wǎng)領(lǐng)域快速的發(fā)展,特別重要的是日趨完善的移動端互聯(lián)網(wǎng)技術(shù),使得用戶可以方便地在網(wǎng)上發(fā)表自己的觀點以及發(fā)布自己身邊有趣的事情,并且這些大都是文本結(jié)構(gòu)的信息,對文本信息進(jìn)行情感分析可以幫助企業(yè)等組織了解用戶的喜好,調(diào)整發(fā)展的方向以適應(yīng)市場。本文研究內(nèi)容針對如何提高文本情感分析的分類效果,從文檔級文本情感分析和方面級文本情感分析進(jìn)行研究,主要內(nèi)容如下:一方面,文檔級文本情感分析,構(gòu)建混合神經(jīng)網(wǎng)絡(luò)層-利用基于注意力機制的膠囊網(wǎng)絡(luò)(Capsule Network,CapNets)模型和雙向門循環(huán)單元(Bi-directional Gate Recurrent Unit,BiGRU)模型充分提取局部特征信息和全局特征信息,自適應(yīng)地感知上下文信息并提取影響文本情感分析的特征信息,將模型學(xué)習(xí)的特征信息進(jìn)行融合。接著,兩種不同詞向量(Word Vector)表示的文本信息分別經(jīng)過混合神經(jīng)網(wǎng)絡(luò)層,并將結(jié)果進(jìn)一步融合,用Softmax對融合結(jié)果進(jìn)行分類。本模型與基準(zhǔn)模型比較分析,模型的運行結(jié)果說明提出的模型具有可行性。另一方面,方面級文本情感分析,考慮方面項位置信息的影...
【文章來源】:大連海事大學(xué)遼寧省 211工程院校
【文章頁數(shù)】:73 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖2.?1?CBOW模型架構(gòu)??Fig.?2.1?CBOW?Model?Architecture??-13?-??
?基于特征融合的文本情感分析???多個單詞的上下文CBOW模型如圖2.2所示。??§?'?Input?layer??:??°?\\??:vvvwVV??oj?\??〇i?\?llidclpn?layer?*aycr??f????^-一〇??t??-、,筒????X3k?〇?O??:Z,、、#?:??:?K-d呻??-W^/????f?/?’??2K?Cx?^-dim??圖2.?2多個單詞上下文的CBOW模型??Fig.?2.2?CBOW?Model?of?Multiple?Word?Contexts??輸入層:由w;領(lǐng)域半徑r內(nèi)的文本單詞{;q,;c2,…,xe}組成,單詞是用One-Hot編碼??表示輸入,C為大小,7為詞匯表的詞匯數(shù)。??隱藏層:iV維的向量,輸入向量利用FX/V維的權(quán)重矩陣W計算隱藏層。隱藏層的輸??出計算/I是輸入向量的加權(quán)平均。??h丄妒.([c?x?)??C?(“1?"?(2.6)??輸出層:輸出單詞y,同樣是用One-Hot編碼方式表示,利用一個iVxK維的權(quán)重矩??陣VT計算輸出層。輸出層每個節(jié)點輸入u;,其中是輸出矩陣M/'的第/列。??w?=(v'?)?-h??J?V?(2.7)??,?、?exp(?w?.)?|??叉.,廣叫…羚卜 ̄ ̄??>?exp?w?.??^J=l?V?W?(2.8)??權(quán)重矩陣W與14/用隨機值進(jìn)行初始化,使用反向傳播(Back?Propagation,?BP)算法糾??正并更新權(quán)重矩陣。??(2)?Skip-gram?模型??Skip-gram模型與CBOW模型過程是相反的,給定中心詞w;
大連海事大學(xué)碩士學(xué)位論文???seat?your?love?upon?a?precipice?because?it?is?high.”輸入“upon”,窗口大小為?3,則輸出是??{?“seat”,?“your”,“love”,“a”,“precipice”?/‘because’’},Skip-gram?模型架構(gòu)如圖?2.3?所示。??IIMF?UT?F*ROJHOTI〇M?OUTF?UX??我?w(l-2)??W(l>?i?\?^??Vs??SKip>gram??圖2.?3?Skim-gram模型架構(gòu)??Fig.?2.3?Skim-gram?Model?Architecture??多個單詞的上下文的Skip-gram模型結(jié)構(gòu)如圖2.4所示。??〇?Output?layer??/卜??Input?layer?/?W?^???5I?-?,?l-lidden?layer/?n????'?^?'????**?°?h,?a?;<?w^-K?°??〇l?-?^?JV-dimS.?"?''?'x:?^?l〇j??r?aim?\w?SS??\j-??O*?f^dinn??圖2.?4多個單詞上下文的Skim-gram模型??Fig.?2.4?Skim-gram?Model?of?Multiple?Word?Contexts??輸入層:單詞w的One-Hot表示&,??隱藏層:隱藏層的輸出/i利用y?x?iv維的權(quán)重矩陣w計算隱藏層。??h?=?xIW?=?'.:=vw!?(2?9)??輸出層:上一層的輸出yd,利用一個況XK維的權(quán)重矩陣14/'計算輸出層。輸??出層單詞共享權(quán)重,故1^/=
【參考文獻(xiàn)】:
期刊論文
[1]基于并行混合神經(jīng)網(wǎng)絡(luò)模型的短文本情感分析[J]. 陳潔,邵志清,張歡歡,費佳慧. 計算機應(yīng)用. 2019(08)
[2]基于深度學(xué)習(xí)的社交網(wǎng)絡(luò)平臺細(xì)粒度情感分析[J]. 李陽輝,謝明,易陽. 計算機應(yīng)用研究. 2017(03)
[3]基于領(lǐng)域情感詞典的中文微博情感分析[J]. 肖江,丁星,何榮杰. 電子設(shè)計工程. 2015(12)
[4]中文微博情感詞典構(gòu)建方法[J]. 周詠梅,陽愛民,林江豪. 山東大學(xué)學(xué)報(工學(xué)版). 2014(03)
[5]基于HowNet的詞匯語義傾向計算[J]. 朱嫣嵐,閔錦,周雅倩,黃萱菁,吳立德. 中文信息學(xué)報. 2006(01)
本文編號:3288953
【文章來源】:大連海事大學(xué)遼寧省 211工程院校
【文章頁數(shù)】:73 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖2.?1?CBOW模型架構(gòu)??Fig.?2.1?CBOW?Model?Architecture??-13?-??
?基于特征融合的文本情感分析???多個單詞的上下文CBOW模型如圖2.2所示。??§?'?Input?layer??:??°?\\??:vvvwVV??oj?\??〇i?\?llidclpn?layer?*aycr??f????^-一〇??t??-、,筒????X3k?〇?O??:Z,、、#?:??:?K-d呻??-W^/????f?/?’??2K?Cx?^-dim??圖2.?2多個單詞上下文的CBOW模型??Fig.?2.2?CBOW?Model?of?Multiple?Word?Contexts??輸入層:由w;領(lǐng)域半徑r內(nèi)的文本單詞{;q,;c2,…,xe}組成,單詞是用One-Hot編碼??表示輸入,C為大小,7為詞匯表的詞匯數(shù)。??隱藏層:iV維的向量,輸入向量利用FX/V維的權(quán)重矩陣W計算隱藏層。隱藏層的輸??出計算/I是輸入向量的加權(quán)平均。??h丄妒.([c?x?)??C?(“1?"?(2.6)??輸出層:輸出單詞y,同樣是用One-Hot編碼方式表示,利用一個iVxK維的權(quán)重矩??陣VT計算輸出層。輸出層每個節(jié)點輸入u;,其中是輸出矩陣M/'的第/列。??w?=(v'?)?-h??J?V?(2.7)??,?、?exp(?w?.)?|??叉.,廣叫…羚卜 ̄ ̄??>?exp?w?.??^J=l?V?W?(2.8)??權(quán)重矩陣W與14/用隨機值進(jìn)行初始化,使用反向傳播(Back?Propagation,?BP)算法糾??正并更新權(quán)重矩陣。??(2)?Skip-gram?模型??Skip-gram模型與CBOW模型過程是相反的,給定中心詞w;
大連海事大學(xué)碩士學(xué)位論文???seat?your?love?upon?a?precipice?because?it?is?high.”輸入“upon”,窗口大小為?3,則輸出是??{?“seat”,?“your”,“love”,“a”,“precipice”?/‘because’’},Skip-gram?模型架構(gòu)如圖?2.3?所示。??IIMF?UT?F*ROJHOTI〇M?OUTF?UX??我?w(l-2)??W(l>?i?\?^??Vs??SKip>gram??圖2.?3?Skim-gram模型架構(gòu)??Fig.?2.3?Skim-gram?Model?Architecture??多個單詞的上下文的Skip-gram模型結(jié)構(gòu)如圖2.4所示。??〇?Output?layer??/卜??Input?layer?/?W?^???5I?-?,?l-lidden?layer/?n????'?^?'????**?°?h,?a?;<?w^-K?°??〇l?-?^?JV-dimS.?"?''?'x:?^?l〇j??r?aim?\w?SS??\j-??O*?f^dinn??圖2.?4多個單詞上下文的Skim-gram模型??Fig.?2.4?Skim-gram?Model?of?Multiple?Word?Contexts??輸入層:單詞w的One-Hot表示&,??隱藏層:隱藏層的輸出/i利用y?x?iv維的權(quán)重矩陣w計算隱藏層。??h?=?xIW?=?'.:=vw!?(2?9)??輸出層:上一層的輸出yd,利用一個況XK維的權(quán)重矩陣14/'計算輸出層。輸??出層單詞共享權(quán)重,故1^/=
【參考文獻(xiàn)】:
期刊論文
[1]基于并行混合神經(jīng)網(wǎng)絡(luò)模型的短文本情感分析[J]. 陳潔,邵志清,張歡歡,費佳慧. 計算機應(yīng)用. 2019(08)
[2]基于深度學(xué)習(xí)的社交網(wǎng)絡(luò)平臺細(xì)粒度情感分析[J]. 李陽輝,謝明,易陽. 計算機應(yīng)用研究. 2017(03)
[3]基于領(lǐng)域情感詞典的中文微博情感分析[J]. 肖江,丁星,何榮杰. 電子設(shè)計工程. 2015(12)
[4]中文微博情感詞典構(gòu)建方法[J]. 周詠梅,陽愛民,林江豪. 山東大學(xué)學(xué)報(工學(xué)版). 2014(03)
[5]基于HowNet的詞匯語義傾向計算[J]. 朱嫣嵐,閔錦,周雅倩,黃萱菁,吳立德. 中文信息學(xué)報. 2006(01)
本文編號:3288953
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3288953.html
最近更新
教材專著