基于注意力機(jī)制的中文情感分析
發(fā)布時(shí)間:2023-01-30 19:07
情感分析,也稱意見挖掘,是指對(duì)一段文本的感情進(jìn)行分類,并在此基礎(chǔ)上對(duì)文義進(jìn)行歸納和推理的過程,例如對(duì)某一電影評(píng)論或某一商品評(píng)價(jià)在感情上如積極、消極或中立等進(jìn)行分類,以此對(duì)電影或商品的受歡迎程度進(jìn)行分析。研究情感分析,對(duì)于個(gè)人,企業(yè)甚至是國家來說,都有著非常重要的意義。情感分析是一個(gè)有監(jiān)督學(xué)習(xí)中的分類問題,同時(shí)也是一個(gè)序列建模的問題。但值得注意的是,目前國內(nèi)外大部分情感分析方法在英文文本的應(yīng)用上較為成熟和有效,而對(duì)于中文文本分析的相關(guān)應(yīng)用研究相對(duì)較少。究其原因主要是中文文本的測(cè)評(píng)資源比較匱乏且雜亂;同時(shí)相較英文而言,中文因分詞的復(fù)雜度高因而在處理上存在著巨大的挑戰(zhàn)。因此,本課題將基于注意力機(jī)制建立一個(gè)針對(duì)中文情感分析的有效模型,著重研究中文文本的情感分析。本文通過對(duì)中文的情感分析數(shù)據(jù)集進(jìn)行測(cè)試,探索并提出了一種不同于卷積神經(jīng)網(wǎng)絡(luò)或者循環(huán)神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)模塊—SAE(自我注意力網(wǎng)絡(luò))。論文將介紹兩種自我注意力的網(wǎng)絡(luò)架構(gòu),稱為SAE和SAE2。SAE是在SAN的工作上進(jìn)行開發(fā)的,SAN的目標(biāo)是創(chuàng)建最簡(jiǎn)單的SAN架構(gòu),使其可以與基本的循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)進(jìn)行比較。SAE2是我們SA...
【文章頁數(shù)】:69 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 課題背景及研究的目的和意義
1.2 國內(nèi)外研究現(xiàn)狀
1.3 本文貢獻(xiàn)
1.4 本文結(jié)構(gòu)
1.5 本章小結(jié)
第2章 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)
2.1 前饋神經(jīng)網(wǎng)絡(luò)
2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.3 注意力機(jī)制
2.3.1 模型集成應(yīng)用
2.3.2 門控應(yīng)用
2.3.3 預(yù)訓(xùn)練模型應(yīng)用
2.4 卷積神經(jīng)網(wǎng)絡(luò)
2.5 本章小結(jié)
第3章 注意力機(jī)制模型
3.1 自我注意力機(jī)制
3.2 Transformer架構(gòu)
3.3 BERT模型
3.4 Universal Transformer模型
3.5 Transformer-XL模型
3.6 本章小結(jié)
第4章 自我注意力網(wǎng)絡(luò)
4.1 自我注意力網(wǎng)絡(luò)編碼(SAE)
4.2 拓展的自我注意力網(wǎng)絡(luò)編碼(SAE2)
4.3 本文創(chuàng)新點(diǎn)
4.4 本章小結(jié)
第5章 情感分析
5.1 構(gòu)建模塊的比較
5.1.1 實(shí)驗(yàn)細(xì)節(jié)
5.1.2 結(jié)果分析
5.1.3 模型特征
5.1.4 討論
5.2 數(shù)據(jù)集的最新結(jié)果
5.2.1 實(shí)驗(yàn)細(xì)節(jié)
5.2.2 結(jié)果與討論
5.2.3 模型特征
5.3 本章小結(jié)
結(jié)論
參考文獻(xiàn)
致謝
【參考文獻(xiàn)】:
期刊論文
[1]基于深層注意力的LSTM的特定主題情感分析[J]. 胡朝舉,梁寧. 計(jì)算機(jī)應(yīng)用研究. 2019(04)
[2]基于雙重注意力模型的微博情感分析方法[J]. 張仰森,鄭佳,黃改娟,蔣玉茹. 清華大學(xué)學(xué)報(bào)(自然科學(xué)版). 2018(02)
[3]基于卷積神經(jīng)網(wǎng)絡(luò)和注意力模型的文本情感分析[J]. 馮興杰,張志偉,史金釧. 計(jì)算機(jī)應(yīng)用研究. 2018(05)
本文編號(hào):3733364
【文章頁數(shù)】:69 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 課題背景及研究的目的和意義
1.2 國內(nèi)外研究現(xiàn)狀
1.3 本文貢獻(xiàn)
1.4 本文結(jié)構(gòu)
1.5 本章小結(jié)
第2章 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)
2.1 前饋神經(jīng)網(wǎng)絡(luò)
2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.3 注意力機(jī)制
2.3.1 模型集成應(yīng)用
2.3.2 門控應(yīng)用
2.3.3 預(yù)訓(xùn)練模型應(yīng)用
2.4 卷積神經(jīng)網(wǎng)絡(luò)
2.5 本章小結(jié)
第3章 注意力機(jī)制模型
3.1 自我注意力機(jī)制
3.2 Transformer架構(gòu)
3.3 BERT模型
3.4 Universal Transformer模型
3.5 Transformer-XL模型
3.6 本章小結(jié)
第4章 自我注意力網(wǎng)絡(luò)
4.1 自我注意力網(wǎng)絡(luò)編碼(SAE)
4.2 拓展的自我注意力網(wǎng)絡(luò)編碼(SAE2)
4.3 本文創(chuàng)新點(diǎn)
4.4 本章小結(jié)
第5章 情感分析
5.1 構(gòu)建模塊的比較
5.1.1 實(shí)驗(yàn)細(xì)節(jié)
5.1.2 結(jié)果分析
5.1.3 模型特征
5.1.4 討論
5.2 數(shù)據(jù)集的最新結(jié)果
5.2.1 實(shí)驗(yàn)細(xì)節(jié)
5.2.2 結(jié)果與討論
5.2.3 模型特征
5.3 本章小結(jié)
結(jié)論
參考文獻(xiàn)
致謝
【參考文獻(xiàn)】:
期刊論文
[1]基于深層注意力的LSTM的特定主題情感分析[J]. 胡朝舉,梁寧. 計(jì)算機(jī)應(yīng)用研究. 2019(04)
[2]基于雙重注意力模型的微博情感分析方法[J]. 張仰森,鄭佳,黃改娟,蔣玉茹. 清華大學(xué)學(xué)報(bào)(自然科學(xué)版). 2018(02)
[3]基于卷積神經(jīng)網(wǎng)絡(luò)和注意力模型的文本情感分析[J]. 馮興杰,張志偉,史金釧. 計(jì)算機(jī)應(yīng)用研究. 2018(05)
本文編號(hào):3733364
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3733364.html
最近更新
教材專著