天堂国产午夜亚洲专区-少妇人妻综合久久蜜臀-国产成人户外露出视频在线-国产91传媒一区二区三区

當(dāng)前位置:主頁(yè) > 科技論文 > 自動(dòng)化論文 >

基于注意力機(jī)制及深度學(xué)習(xí)的文本情感分析研究

發(fā)布時(shí)間:2021-02-01 01:46
  隨著互聯(lián)網(wǎng)行業(yè)的發(fā)展,電商評(píng)論和社交平臺(tái)的推廣,積累了大量的文本數(shù)據(jù)。通過(guò)提取這些文本信息中蘊(yùn)含的觀點(diǎn)和情感,能夠幫助人們做一些決策和推廣。文本情感分析已經(jīng)成為自然語(yǔ)言處理領(lǐng)域中國(guó)內(nèi)外研究的熱點(diǎn)方向。傳統(tǒng)的文本情感分析模型需要在人工標(biāo)注的特征工程基礎(chǔ)上,并結(jié)合語(yǔ)法規(guī)則才能取得不錯(cuò)的效果。隨著深度學(xué)習(xí)模型在處理文本序列上的發(fā)展,在沒(méi)有人工標(biāo)注的特征工程前提下,引入注意力機(jī)制,關(guān)注文本信息中關(guān)鍵部分,在文本情感分析任務(wù)中有著優(yōu)異的表現(xiàn)。本文主要是以文本情感極性分類(lèi)和不同主題文本情感分類(lèi)為研究出發(fā)點(diǎn),構(gòu)建了正反向序列AT-LSTM模型和融合主題特征的深層注意力的LSTM模型(deeper attention LSTM with aspect embedding,AE-DATT-LSTM)來(lái)處理文本情感分析任務(wù)。針對(duì)文本情感極性分類(lèi)研究,首先在LSTM網(wǎng)絡(luò)的模型基礎(chǔ)上,為了關(guān)注文本中的關(guān)鍵信息,引入注意力機(jī)制,構(gòu)建AT-LSTM模型,采用預(yù)訓(xùn)練好的Glove詞向量,同時(shí)將文本的正反向序列采用注意力機(jī)制進(jìn)行分析,然后進(jìn)行特征融合和分類(lèi)處理,構(gòu)建了正反向序列的AT-LSTM模型。在SemEval-... 

【文章來(lái)源】:華北電力大學(xué)河北省 211工程院校 教育部直屬院校

【文章頁(yè)數(shù)】:60 頁(yè)

【學(xué)位級(jí)別】:碩士

【部分圖文】:

基于注意力機(jī)制及深度學(xué)習(xí)的文本情感分析研究


研究方向框架圖

概率分布,模型結(jié)構(gòu),華北電力大學(xué),碩士學(xué)位論文


華北電力大學(xué)碩士學(xué)位論文練結(jié)果的準(zhǔn)確率和加速訓(xùn)練過(guò)程,與 CBOW 相同tive Sampling 兩種方式進(jìn)行優(yōu)化。主要對(duì) Hierarc構(gòu)如圖 2-2 所示,該模型去掉了映射層,直接將輸相連接。輸出層的概率分布轉(zhuǎn)變成 Huffman 樹(shù),每,非葉子節(jié)點(diǎn)是將詞向量分類(lèi)到具體的孩子節(jié)點(diǎn)上

模型圖,情感信息,模型,文本


V 表示語(yǔ)料的大小,iv 表示iw 作為目標(biāo)詞的詞向量,jv 表示jw 作為上下文詞的詞向量,ib 表示詞向量 的偏移量,jb 表示詞向量jw 的偏移量, ijf X 表示權(quán)重計(jì)算函數(shù),對(duì)于詞頻越高的單詞在損失函數(shù)中所起到的作用應(yīng)該越大,因此將 f x 的定義為 maxmax,1,xx xf xxotherwise     (2-7)其中, 和maxx 都是根據(jù)語(yǔ)料情況待設(shè)定的參數(shù)。2.2.4 蘊(yùn)含情感信息的詞向量在文本序列的處理過(guò)程中,通過(guò)傳統(tǒng)的詞向量模型獲取到的文本語(yǔ)義信息,對(duì)于情感詞匯的使用還比較欠缺。Collobert 等人[42]在 2011 年提出 C&W 模型,能夠獲取到文本中包含的語(yǔ)義信息,Tang 等人[43]在 2014 年對(duì) C&W 模型進(jìn)行了改進(jìn),提出 SSWE 模型能夠獲取到文本中包含的情感詞信息。C&W、hSSWE 和uSSWE 三個(gè)模型的結(jié)構(gòu)如圖 2-3 所示。

【參考文獻(xiàn)】:
期刊論文
[1]基于多注意力卷積神經(jīng)網(wǎng)絡(luò)的特定目標(biāo)情感分析[J]. 梁斌,劉全,徐進(jìn),周倩,章鵬.  計(jì)算機(jī)研究與發(fā)展. 2017(08)
[2]基于SVM和CRF多特征組合的微博情感分析[J]. 李婷婷,姬東鴻.  計(jì)算機(jī)應(yīng)用研究. 2015(04)
[3]混合激活函數(shù)對(duì)BP算法收斂速度的影響[J]. 周玲,孫軍,袁宇波,丁曉群.  河海大學(xué)學(xué)報(bào)(自然科學(xué)版). 1999(05)

碩士論文
[1]基于深度學(xué)習(xí)的微博評(píng)論情感傾向性分析[D]. 胡西祥.哈爾濱工業(yè)大學(xué) 2017
[2]基于貝葉斯算法的多語(yǔ)言文檔分類(lèi)[D]. 朱娟.蘇州大學(xué) 2016
[3]基于Attention-Based LSTM模型的文本分類(lèi)技術(shù)的研究[D]. 張沖.南京大學(xué) 2016
[4]基于深度學(xué)習(xí)的情感詞向量及文本情感分析的研究[D]. 張志華.華東師范大學(xué) 2016
[5]基于LSTM的語(yǔ)義關(guān)系分類(lèi)研究[D]. 胡新辰.哈爾濱工業(yè)大學(xué) 2015



本文編號(hào):3011972

資料下載
論文發(fā)表

本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3011972.html


Copyright(c)文論論文網(wǎng)All Rights Reserved | 網(wǎng)站地圖 |

版權(quán)申明:資料由用戶(hù)6754d***提供,本站僅收錄摘要或目錄,作者需要?jiǎng)h除請(qǐng)E-mail郵箱bigeng88@qq.com