隨著社交網絡的快速發(fā)展以及移動網絡設備的普及,互聯網用戶群體數量顯著遞增,社交媒體逐漸豐富多樣。人們習慣于在各種社交媒體上通過文字、圖像和視頻等交互數據表達自己的思想和觀點。在眾多社交媒體平臺中,新浪微博擁有覆蓋面廣的忠實用戶群體。通過對新浪微博社交網絡產生的海量短文本數據分析文本背后隱含的用戶情感和情緒,厘清孕育負向輿情的社交網絡局部環(huán)境,對我國思政、公共突發(fā)事件應對、公眾情感情緒預判、輿情傳播預測和輿情處置等具有積極意義。本文的研究主題分為兩部分,短文本情感分析和基于文本的輿情引導方案。第一,本文以新浪微博歷史短文本數據為研究對象,探究其潛在的用戶情感,采用深度學習語言模型實現短文本情感分類任務。傳統(tǒng)的情感分析主要有:基于字典和基于簡單深度學習的方法。傳統(tǒng)方法存在著一些問題,例如,基于字典的情感分類方法依賴于所構造詞典的質量;簡單的深度學習模型計算精度達不到工程化需求,模型本身也存在著缺陷,無法很好地解決上下文信息的語義理解相關任務。本文采用深度學習語言模型研究情感分析任務,提出了一類基于BERT（Bidirectional Encoder Representation from ... 

【文章來源】：西華大學四川省

【文章頁數】：67 頁

【學位級別】：碩士

【部分圖文】：

反向傳播圖示

基于BERT的微博文本情感引導10圖2.2RNN結構圖示Fig.2.2RNNstructurediagram圖2.2顯示了RNN擴展成完整網絡后的結構。這里表達的意思是整個序列的網絡結構。圖為隱藏層的級別擴展。t-1,t,t+1表示時間序列.X表示輸入的樣本.St=f(W*St1+U*Xt)表示樣本在時間t處的的記憶。W表示輸入的權重,U表示此刻輸入的樣本的權重,V表示輸出的樣本權重。在t=1時刻,一般初始化輸入S0=0,隨機初始化W,U,V,進行下面的公式計算:h1101(2.1)11其中,f和g均為激活函數，f可以是Tanh,Relu,Sigmoid等激活函數，g通常是Softmax。時間向前推進，此時的狀態(tài)1作為時刻1的記憶狀態(tài)將參與下一個時刻的預測活動，也就是:1(2.2)以此類推，可以得到最終的輸出值為：(2.3)這里W，U，V在每個時刻都相等，也就是說，所有權值共享。隱藏狀態(tài)可以理解為：S=f（現有輸入+過去記憶疊加）。以上是RNN前向的傳播方法。接下來，我們引入RNN反向傳播的方法來更新權重參數。

西華大學碩士學位論文11每一次的輸出值Ot都會產生一個誤差值Et,總的誤差可以表示為Etet。損失函數通常采用交叉熵損失函數或者平方誤差損失函數。要注意，每一步的輸出依賴于當前步和前一步的網絡狀態(tài)，因此這種BP算法被稱為時間反向傳播（BackPropagationTroughTime,BPTT），即在輸出端通過反向誤差值梯度下降法進行更新。所需參數的梯度如下：UV(2.4)W首先，我們求解W的更新方法，W的更新公式表現為每個時刻的偏導數之和。以時間步t=3為例。依據公式s3fUx3Ws，s3除了和W有關，還和前一時刻s有關，于是，我們有：30333333(2.5)類似的，可以獲得U的更新規(guī)則如下：303333333(2.6)最后，我們給出V的更新公式（V只與輸出o有關）3333(2.7)雖然RNN對時間序列問題有很好的效果，但由于BP算法對時間序列的長期依賴性，存在著梯度消失或梯度爆炸等問題。基于此的改進模型LSTM是最成功的方法之一。Schmidhuber院士在1997年提出了LSTM模型。具體模型介紹如下：圖2.3LSTM模型結構Fig.2.3LSTMmodelstructure

【參考文獻】：
期刊論文
[1]中國房地產網絡輿情分析[J]. 朱建平,謝邦昌,駱翔宇,范新妍,曾武雄,鄭陳璐.  數理統(tǒng)計與管理. 2016(04)
[2]基于領域情感詞典的中文微博情感分析[J]. 肖江,丁星,何榮杰.  電子設計工程. 2015(12)

碩士論文
[1]基于情感詞典與句型分類的中文微博情感分析研究[D]. 周杰.寧夏大學 2016
[2]基于情感詞典的中文微博情感傾向分析研究[D]. 陳曉東.華中科技大學 2012



本文編號：3096095