天堂国产午夜亚洲专区-少妇人妻综合久久蜜臀-国产成人户外露出视频在线-国产91传媒一区二区三区

當前位置:主頁 > 科技論文 > 自動化論文 >

基于注意力機制及深度學習的文本情感分析研究

發(fā)布時間:2021-02-01 01:46
  隨著互聯(lián)網(wǎng)行業(yè)的發(fā)展,電商評論和社交平臺的推廣,積累了大量的文本數(shù)據(jù)。通過提取這些文本信息中蘊含的觀點和情感,能夠幫助人們做一些決策和推廣。文本情感分析已經(jīng)成為自然語言處理領域中國內(nèi)外研究的熱點方向。傳統(tǒng)的文本情感分析模型需要在人工標注的特征工程基礎上,并結(jié)合語法規(guī)則才能取得不錯的效果。隨著深度學習模型在處理文本序列上的發(fā)展,在沒有人工標注的特征工程前提下,引入注意力機制,關注文本信息中關鍵部分,在文本情感分析任務中有著優(yōu)異的表現(xiàn)。本文主要是以文本情感極性分類和不同主題文本情感分類為研究出發(fā)點,構(gòu)建了正反向序列AT-LSTM模型和融合主題特征的深層注意力的LSTM模型(deeper attention LSTM with aspect embedding,AE-DATT-LSTM)來處理文本情感分析任務。針對文本情感極性分類研究,首先在LSTM網(wǎng)絡的模型基礎上,為了關注文本中的關鍵信息,引入注意力機制,構(gòu)建AT-LSTM模型,采用預訓練好的Glove詞向量,同時將文本的正反向序列采用注意力機制進行分析,然后進行特征融合和分類處理,構(gòu)建了正反向序列的AT-LSTM模型。在SemEval-... 

【文章來源】:華北電力大學河北省 211工程院校 教育部直屬院校

【文章頁數(shù)】:60 頁

【學位級別】:碩士

【部分圖文】:

基于注意力機制及深度學習的文本情感分析研究


研究方向框架圖

概率分布,模型結(jié)構(gòu),華北電力大學,碩士學位論文


華北電力大學碩士學位論文練結(jié)果的準確率和加速訓練過程,與 CBOW 相同tive Sampling 兩種方式進行優(yōu)化。主要對 Hierarc構(gòu)如圖 2-2 所示,該模型去掉了映射層,直接將輸相連接。輸出層的概率分布轉(zhuǎn)變成 Huffman 樹,每,非葉子節(jié)點是將詞向量分類到具體的孩子節(jié)點上

模型圖,情感信息,模型,文本


V 表示語料的大小,iv 表示iw 作為目標詞的詞向量,jv 表示jw 作為上下文詞的詞向量,ib 表示詞向量 的偏移量,jb 表示詞向量jw 的偏移量, ijf X 表示權(quán)重計算函數(shù),對于詞頻越高的單詞在損失函數(shù)中所起到的作用應該越大,因此將 f x 的定義為 maxmax,1,xx xf xxotherwise     (2-7)其中, 和maxx 都是根據(jù)語料情況待設定的參數(shù)。2.2.4 蘊含情感信息的詞向量在文本序列的處理過程中,通過傳統(tǒng)的詞向量模型獲取到的文本語義信息,對于情感詞匯的使用還比較欠缺。Collobert 等人[42]在 2011 年提出 C&W 模型,能夠獲取到文本中包含的語義信息,Tang 等人[43]在 2014 年對 C&W 模型進行了改進,提出 SSWE 模型能夠獲取到文本中包含的情感詞信息。C&W、hSSWE 和uSSWE 三個模型的結(jié)構(gòu)如圖 2-3 所示。

【參考文獻】:
期刊論文
[1]基于多注意力卷積神經(jīng)網(wǎng)絡的特定目標情感分析[J]. 梁斌,劉全,徐進,周倩,章鵬.  計算機研究與發(fā)展. 2017(08)
[2]基于SVM和CRF多特征組合的微博情感分析[J]. 李婷婷,姬東鴻.  計算機應用研究. 2015(04)
[3]混合激活函數(shù)對BP算法收斂速度的影響[J]. 周玲,孫軍,袁宇波,丁曉群.  河海大學學報(自然科學版). 1999(05)

碩士論文
[1]基于深度學習的微博評論情感傾向性分析[D]. 胡西祥.哈爾濱工業(yè)大學 2017
[2]基于貝葉斯算法的多語言文檔分類[D]. 朱娟.蘇州大學 2016
[3]基于Attention-Based LSTM模型的文本分類技術(shù)的研究[D]. 張沖.南京大學 2016
[4]基于深度學習的情感詞向量及文本情感分析的研究[D]. 張志華.華東師范大學 2016
[5]基于LSTM的語義關系分類研究[D]. 胡新辰.哈爾濱工業(yè)大學 2015



本文編號:3011972

資料下載
論文發(fā)表

本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3011972.html


Copyright(c)文論論文網(wǎng)All Rights Reserved | 網(wǎng)站地圖 |

版權(quán)申明:資料由用戶6754d***提供,本站僅收錄摘要或目錄,作者需要刪除請E-mail郵箱bigeng88@qq.com