基于特征融合的文本情感分析
發(fā)布時(shí)間:2021-07-17 21:20
互聯(lián)網(wǎng)技術(shù)一日千里,推動(dòng)社交網(wǎng)絡(luò)等互聯(lián)網(wǎng)領(lǐng)域快速的發(fā)展,特別重要的是日趨完善的移動(dòng)端互聯(lián)網(wǎng)技術(shù),使得用戶可以方便地在網(wǎng)上發(fā)表自己的觀點(diǎn)以及發(fā)布自己身邊有趣的事情,并且這些大都是文本結(jié)構(gòu)的信息,對(duì)文本信息進(jìn)行情感分析可以幫助企業(yè)等組織了解用戶的喜好,調(diào)整發(fā)展的方向以適應(yīng)市場(chǎng)。本文研究?jī)?nèi)容針對(duì)如何提高文本情感分析的分類效果,從文檔級(jí)文本情感分析和方面級(jí)文本情感分析進(jìn)行研究,主要內(nèi)容如下:一方面,文檔級(jí)文本情感分析,構(gòu)建混合神經(jīng)網(wǎng)絡(luò)層-利用基于注意力機(jī)制的膠囊網(wǎng)絡(luò)(Capsule Network,CapNets)模型和雙向門循環(huán)單元(Bi-directional Gate Recurrent Unit,BiGRU)模型充分提取局部特征信息和全局特征信息,自適應(yīng)地感知上下文信息并提取影響文本情感分析的特征信息,將模型學(xué)習(xí)的特征信息進(jìn)行融合。接著,兩種不同詞向量(Word Vector)表示的文本信息分別經(jīng)過(guò)混合神經(jīng)網(wǎng)絡(luò)層,并將結(jié)果進(jìn)一步融合,用Softmax對(duì)融合結(jié)果進(jìn)行分類。本模型與基準(zhǔn)模型比較分析,模型的運(yùn)行結(jié)果說(shuō)明提出的模型具有可行性。另一方面,方面級(jí)文本情感分析,考慮方面項(xiàng)位置信息的影...
【文章來(lái)源】:大連海事大學(xué)遼寧省 211工程院校
【文章頁(yè)數(shù)】:73 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2.?1?CBOW模型架構(gòu)??Fig.?2.1?CBOW?Model?Architecture??-13?-??
?基于特征融合的文本情感分析???多個(gè)單詞的上下文CBOW模型如圖2.2所示。??§?'?Input?layer??:??°?\\??:vvvwVV??oj?\??〇i?\?llidclpn?layer?*aycr??f????^-一〇??t??-、,筒????X3k?〇?O??:Z,、、#?:??:?K-d呻??-W^/????f?/?’??2K?Cx?^-dim??圖2.?2多個(gè)單詞上下文的CBOW模型??Fig.?2.2?CBOW?Model?of?Multiple?Word?Contexts??輸入層:由w;領(lǐng)域半徑r內(nèi)的文本單詞{;q,;c2,…,xe}組成,單詞是用One-Hot編碼??表示輸入,C為大小,7為詞匯表的詞匯數(shù)。??隱藏層:iV維的向量,輸入向量利用FX/V維的權(quán)重矩陣W計(jì)算隱藏層。隱藏層的輸??出計(jì)算/I是輸入向量的加權(quán)平均。??h丄妒.([c?x?)??C?(“1?"?(2.6)??輸出層:輸出單詞y,同樣是用One-Hot編碼方式表示,利用一個(gè)iVxK維的權(quán)重矩??陣VT計(jì)算輸出層。輸出層每個(gè)節(jié)點(diǎn)輸入u;,其中是輸出矩陣M/'的第/列。??w?=(v'?)?-h??J?V?(2.7)??,?、?exp(?w?.)?|??叉.,廣叫…羚卜 ̄ ̄??>?exp?w?.??^J=l?V?W?(2.8)??權(quán)重矩陣W與14/用隨機(jī)值進(jìn)行初始化,使用反向傳播(Back?Propagation,?BP)算法糾??正并更新權(quán)重矩陣。??(2)?Skip-gram?模型??Skip-gram模型與CBOW模型過(guò)程是相反的,給定中心詞w;
大連海事大學(xué)碩士學(xué)位論文???seat?your?love?upon?a?precipice?because?it?is?high.”輸入“upon”,窗口大小為?3,則輸出是??{?“seat”,?“your”,“love”,“a”,“precipice”?/‘because’’},Skip-gram?模型架構(gòu)如圖?2.3?所示。??IIMF?UT?F*ROJHOTI〇M?OUTF?UX??我?w(l-2)??W(l>?i?\?^??Vs??SKip>gram??圖2.?3?Skim-gram模型架構(gòu)??Fig.?2.3?Skim-gram?Model?Architecture??多個(gè)單詞的上下文的Skip-gram模型結(jié)構(gòu)如圖2.4所示。??〇?Output?layer??/卜??Input?layer?/?W?^???5I?-?,?l-lidden?layer/?n????'?^?'????**?°?h,?a?;<?w^-K?°??〇l?-?^?JV-dimS.?"?''?'x:?^?l〇j??r?aim?\w?SS??\j-??O*?f^dinn??圖2.?4多個(gè)單詞上下文的Skim-gram模型??Fig.?2.4?Skim-gram?Model?of?Multiple?Word?Contexts??輸入層:?jiǎn)卧~w的One-Hot表示&,??隱藏層:隱藏層的輸出/i利用y?x?iv維的權(quán)重矩陣w計(jì)算隱藏層。??h?=?xIW?=?'.:=vw!?(2?9)??輸出層:上一層的輸出yd,利用一個(gè)況XK維的權(quán)重矩陣14/'計(jì)算輸出層。輸??出層單詞共享權(quán)重,故1^/=
【參考文獻(xiàn)】:
期刊論文
[1]基于并行混合神經(jīng)網(wǎng)絡(luò)模型的短文本情感分析[J]. 陳潔,邵志清,張歡歡,費(fèi)佳慧. 計(jì)算機(jī)應(yīng)用. 2019(08)
[2]基于深度學(xué)習(xí)的社交網(wǎng)絡(luò)平臺(tái)細(xì)粒度情感分析[J]. 李陽(yáng)輝,謝明,易陽(yáng). 計(jì)算機(jī)應(yīng)用研究. 2017(03)
[3]基于領(lǐng)域情感詞典的中文微博情感分析[J]. 肖江,丁星,何榮杰. 電子設(shè)計(jì)工程. 2015(12)
[4]中文微博情感詞典構(gòu)建方法[J]. 周詠梅,陽(yáng)愛民,林江豪. 山東大學(xué)學(xué)報(bào)(工學(xué)版). 2014(03)
[5]基于HowNet的詞匯語(yǔ)義傾向計(jì)算[J]. 朱嫣嵐,閔錦,周雅倩,黃萱菁,吳立德. 中文信息學(xué)報(bào). 2006(01)
本文編號(hào):3288953
【文章來(lái)源】:大連海事大學(xué)遼寧省 211工程院校
【文章頁(yè)數(shù)】:73 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2.?1?CBOW模型架構(gòu)??Fig.?2.1?CBOW?Model?Architecture??-13?-??
?基于特征融合的文本情感分析???多個(gè)單詞的上下文CBOW模型如圖2.2所示。??§?'?Input?layer??:??°?\\??:vvvwVV??oj?\??〇i?\?llidclpn?layer?*aycr??f????^-一〇??t??-、,筒????X3k?〇?O??:Z,、、#?:??:?K-d呻??-W^/????f?/?’??2K?Cx?^-dim??圖2.?2多個(gè)單詞上下文的CBOW模型??Fig.?2.2?CBOW?Model?of?Multiple?Word?Contexts??輸入層:由w;領(lǐng)域半徑r內(nèi)的文本單詞{;q,;c2,…,xe}組成,單詞是用One-Hot編碼??表示輸入,C為大小,7為詞匯表的詞匯數(shù)。??隱藏層:iV維的向量,輸入向量利用FX/V維的權(quán)重矩陣W計(jì)算隱藏層。隱藏層的輸??出計(jì)算/I是輸入向量的加權(quán)平均。??h丄妒.([c?x?)??C?(“1?"?(2.6)??輸出層:輸出單詞y,同樣是用One-Hot編碼方式表示,利用一個(gè)iVxK維的權(quán)重矩??陣VT計(jì)算輸出層。輸出層每個(gè)節(jié)點(diǎn)輸入u;,其中是輸出矩陣M/'的第/列。??w?=(v'?)?-h??J?V?(2.7)??,?、?exp(?w?.)?|??叉.,廣叫…羚卜 ̄ ̄??>?exp?w?.??^J=l?V?W?(2.8)??權(quán)重矩陣W與14/用隨機(jī)值進(jìn)行初始化,使用反向傳播(Back?Propagation,?BP)算法糾??正并更新權(quán)重矩陣。??(2)?Skip-gram?模型??Skip-gram模型與CBOW模型過(guò)程是相反的,給定中心詞w;
大連海事大學(xué)碩士學(xué)位論文???seat?your?love?upon?a?precipice?because?it?is?high.”輸入“upon”,窗口大小為?3,則輸出是??{?“seat”,?“your”,“love”,“a”,“precipice”?/‘because’’},Skip-gram?模型架構(gòu)如圖?2.3?所示。??IIMF?UT?F*ROJHOTI〇M?OUTF?UX??我?w(l-2)??W(l>?i?\?^??Vs??SKip>gram??圖2.?3?Skim-gram模型架構(gòu)??Fig.?2.3?Skim-gram?Model?Architecture??多個(gè)單詞的上下文的Skip-gram模型結(jié)構(gòu)如圖2.4所示。??〇?Output?layer??/卜??Input?layer?/?W?^???5I?-?,?l-lidden?layer/?n????'?^?'????**?°?h,?a?;<?w^-K?°??〇l?-?^?JV-dimS.?"?''?'x:?^?l〇j??r?aim?\w?SS??\j-??O*?f^dinn??圖2.?4多個(gè)單詞上下文的Skim-gram模型??Fig.?2.4?Skim-gram?Model?of?Multiple?Word?Contexts??輸入層:?jiǎn)卧~w的One-Hot表示&,??隱藏層:隱藏層的輸出/i利用y?x?iv維的權(quán)重矩陣w計(jì)算隱藏層。??h?=?xIW?=?'.:=vw!?(2?9)??輸出層:上一層的輸出yd,利用一個(gè)況XK維的權(quán)重矩陣14/'計(jì)算輸出層。輸??出層單詞共享權(quán)重,故1^/=
【參考文獻(xiàn)】:
期刊論文
[1]基于并行混合神經(jīng)網(wǎng)絡(luò)模型的短文本情感分析[J]. 陳潔,邵志清,張歡歡,費(fèi)佳慧. 計(jì)算機(jī)應(yīng)用. 2019(08)
[2]基于深度學(xué)習(xí)的社交網(wǎng)絡(luò)平臺(tái)細(xì)粒度情感分析[J]. 李陽(yáng)輝,謝明,易陽(yáng). 計(jì)算機(jī)應(yīng)用研究. 2017(03)
[3]基于領(lǐng)域情感詞典的中文微博情感分析[J]. 肖江,丁星,何榮杰. 電子設(shè)計(jì)工程. 2015(12)
[4]中文微博情感詞典構(gòu)建方法[J]. 周詠梅,陽(yáng)愛民,林江豪. 山東大學(xué)學(xué)報(bào)(工學(xué)版). 2014(03)
[5]基于HowNet的詞匯語(yǔ)義傾向計(jì)算[J]. 朱嫣嵐,閔錦,周雅倩,黃萱菁,吳立德. 中文信息學(xué)報(bào). 2006(01)
本文編號(hào):3288953
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3288953.html
最近更新
教材專著