互聯(lián)網的快速發(fā)展方便了人們的溝通交流,眾多的網民通過微博,微信等公開平臺發(fā)表自己的言論,由此產生大量具有主觀情緒的社交網絡數(shù)據。情感分析技術通過分析、研究大量社交網絡數(shù)據,挖掘出其潛在的信息,以此來分析網民對社會熱點話題的關注度和情感傾向情況,從而為相關部門的政策制定提供支持及正確引導網民的情緒傳播。早期情感分析領域研究的文本主要集中在新聞,博客等長文本數(shù)據,隨著新浪微博,微信等社交網絡的迅速發(fā)展,基于產品評論、電影評論、社會熱點事件評論等短文本情感分析逐漸成為情感分析領域的研究熱點之一。伴隨著研究的不斷深入,針對短文本的粗粒度情感分析現(xiàn)已較為完善,但細粒度的情感分析還有很大的發(fā)展空間。然而,針對細粒度的中文評論情感分析數(shù)據集還很缺乏。基于這一問題,本文以新浪微博平臺中的社會熱點話題的微博評論為研究對象,分別爬取了不同話題的評論數(shù)據,包括計劃生育二胎政策、扶貧政策、環(huán)保事件以及霧霾事件,并依據一定的數(shù)據處理準則和標注標準對數(shù)據集進行了預處理和細粒度的情感標注,從而得到了面向不同話題的情感分析數(shù)據集。在此基礎上,本文構建了基于卷積神經網絡(CNN)和雙向長短期記憶網絡(BLSTM)特征融合的情感分析模型CNN-BLSTM,該模型基于現(xiàn)有模型中將卷積神經網絡建模和循環(huán)神經網絡(RNN)建模分離的狀況,提出將CNN提取的短語特征和BLSTM提取的序列特征結合,用于有效地增強對文本信息的提取能力。鑒于文本中特定情感詞對文本情感分析具有更重要的影響,本文在CNN-BLSTM模型的基礎上,進一步提出CNN-BLSTMATT模型,該模型通過引入注意力(attention)機制,將CNN提取的局部特征表示引入到BLSTM模塊的情感特征表示上,有效增強了BLSTM對情感語義信息的捕獲能力,從而達到文本情感特征增強效果。最后,在構建的數(shù)據集和公開的英文數(shù)據集Stanford Sentiment Treebank(SST)[1]上的實驗結果表明,本文提出的CNN-BLSTM模型比使用單一的CNN或者BLSTM模型能取得更好的實驗效果。此外,本文提出的(CNN-BLSTMATT模型相較于CNN-BLSTM模型,在顯式情感表達的文本中具有更好的情感分類精度。
【學位單位】：華中師范大學
【學位級別】：碩士
【學位年份】：2019
【中圖分類】：TP391.1;TP18
【部分圖文】：

圖２－１卷積神經網絡結構圖??確定了輸入矩陣后，模型通過不同的卷積窗口對輸入矩陣進行卷積，從而得到??不同的局部特征。如圖２－１所示，假設卷積窗口為２和３，每個卷積核的個數(shù)為１０。??那么卷積窗口為２的卷積核大小為２＊６，經過一個卷積核的卷積后，一個維度為９＊６??的矩陣被映射為一個９＊１的矩陣（假設我們用的是寬卷積），那么１０個卷積核對輸??入文本進行卷積操作后，模型會得到１０個９＊１的矩陣。通過卷積操作后，我們得??到了該文本的局部特征，接下來，卷積神經網絡通過池化操作來獲取卷積后特征矩??陣的最大值得到最大局部特征（假設模型用的是最大池化），將１０個卷積核的池化??值進行拼接，我們得到卷積窗口為２的文本的最終語義表示向量的維度為丨０＊１。同??理，卷積窗口為３的卷積池化后也得到一個維度為１０＊１的向量表示。最后模型將??高維向量進行拼接

圖２－２?ＬＳＴＭ神經網絡結構圖??每一個ＬＳＴＭ細胞由三個門（輸入門、遺忘門、輸出門）和一個細胞狀態(tài)組成。??如圖２－３所示，每一個細胞在接收到上一個細胞的隱藏層狀態(tài)ｈｔｙ和本細胞輸入ｘｔ后，??通過一個遺忘門輸出一個在０到１的數(shù)值給細胞狀態(tài)ｃｔ＿ｉ，由此來決定應該從細胞狀??態(tài)中丟棄什么。輸入門則決定什么新信息被存放到當前細胞中。這里首先通過輸入??門來決定模型將要更新什么信息，然后ｔａｎｈ層生成一個新的候選向量加入到細胞中。??最后模型根據更新后的細胞狀態(tài)和輸出門的輸出生成當前的隱藏層向量。??？?？?？??．?Ｔ一―?Ｉ?——??Ｉ?Ａ?ｒｌ?ｒｌＬ［＾?Ａ?ｔ??？?？?？??圖２－３?ＬＳＴＭ內部結構圖??２．３．５注意力機制的使用??（１）注意力機制在ＲＮＮ中的使用??注意力機制在ＮＬＰ領域中最早使用在機器翻譯中的Ｓｅｑ２Ｓｅｑ模型中，隨著深度??學習在情感分析領域的發(fā)展，人們也開始在文本分類任務中嘗試注意力機制，并取??１６??

＃］＾ｉ?＼ｍｈ２?（＃??？?＿?參Ｉ?＞］？??？?！？?魯＃??？?Ｔ?Ｔ??ＬＳＴＭ?Ｈ?ＬＳＴＭ?｜－＞?…－＾｜?ＬＳＴＭ??春攀??？?參?參??？?？?？??Ｗ｜?Ｗ２??圖２－２?ＬＳＴＭ神經網絡結構圖??每一個ＬＳＴＭ細胞由三個門（輸入門、遺忘門、輸出門）和一個細胞狀態(tài)組成。??如圖２－３所示，每一個細胞在接收到上一個細胞的隱藏層狀態(tài)ｈｔｙ和本細胞輸入ｘｔ后，??通過一個遺忘門輸出一個在０到１的數(shù)值給細胞狀態(tài)ｃｔ＿ｉ，由此來決定應該從細胞狀??態(tài)中丟棄什么。輸入門則決定什么新信息被存放到當前細胞中。這里首先通過輸入??門來決定模型將要更新什么信息，然后ｔａｎｈ層生成一個新的候選向量加入到細胞中。??最后模型根據更新后的細胞狀態(tài)和輸出門的輸出生成當前的隱藏層向量。??
【參考文獻】

相關期刊論文 前2條

1 柳位平;朱艷輝;栗春亮;向華政;文志強;;中文基礎情感詞詞典構建方法研究[J];計算機應用;2009年10期

2 王素格;李德玉;魏英杰;宋曉雷;;基于同義詞的詞匯情感傾向判別方法[J];中文信息學報;2009年05期

本文編號：2890511