基于深度學(xué)習(xí)的方面級(jí)情感分析算法研究
發(fā)布時(shí)間:2023-12-11 18:30
隨著互聯(lián)網(wǎng)和智能終端的普及,網(wǎng)絡(luò)文本信息量增長(zhǎng)迅速。傳統(tǒng)的文檔級(jí)、句子級(jí)情感分析已經(jīng)無(wú)法滿足當(dāng)前文本研究對(duì)細(xì)粒度情感傾向的需求。方面級(jí)情感分析可以對(duì)實(shí)體進(jìn)行多方面、全方位的情感描述,但由于文本語(yǔ)言環(huán)境的復(fù)雜性,現(xiàn)有方法在泛化等性能上仍然存在不足,本文從方面目標(biāo)情感分析和方面類別情感分析子任務(wù)入手,以深度學(xué)習(xí)為基礎(chǔ)展開(kāi)研究,主要工作和貢獻(xiàn)如下:(1)針對(duì)于現(xiàn)有方面目標(biāo)情感分析模型存在的參數(shù)量過(guò)大、局部語(yǔ)義特征缺失以及標(biāo)準(zhǔn)訓(xùn)練樣本較少而導(dǎo)致泛化能力不足的問(wèn)題,本文基于輕量化的ALBERT模型設(shè)計(jì)了一種新型的卷積ALBERT結(jié)構(gòu),在大幅度降低參數(shù)量的同時(shí),通過(guò)在Transformer結(jié)構(gòu)中加入多層逐點(diǎn)卷積模塊,以提升其對(duì)于局部信息的捕獲能力。然后在訓(xùn)練過(guò)程中引入對(duì)抗訓(xùn)練的方式,對(duì)詞嵌入層添加損失梯度的擾動(dòng),生成對(duì)抗樣例攻擊網(wǎng)絡(luò)模型,進(jìn)而提升模型的泛化能力。(2)針對(duì)現(xiàn)有方面類別情感分析模型存在無(wú)法利用句法依存類型信息和方面類別檢測(cè)能力不足的問(wèn)題,本文提出了一種基于層級(jí)類型感知圖卷積的方面類別情感分析模型。首先根據(jù)句法依存信息生成了類型依存圖,隨后進(jìn)一步構(gòu)建了一種層級(jí)類型感知圖卷積結(jié)構(gòu)。該結(jié)構(gòu)...
【文章頁(yè)數(shù)】:66 頁(yè)
【文章目錄】:
中文摘要
英文摘要
1 緒論
1.1 研究背景及意義
1.2 研究現(xiàn)狀
1.2.1 傳統(tǒng)研究方法
1.2.2 深度學(xué)習(xí)研究方法
1.3 本文研究?jī)?nèi)容
1.3.1 研究問(wèn)題
1.3.2 研究?jī)?nèi)容
1.4 本文組織結(jié)構(gòu)
2 相關(guān)理論基礎(chǔ)
2.1 深度學(xué)習(xí)理論基礎(chǔ)
2.1.1 卷積神經(jīng)網(wǎng)絡(luò)
2.1.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.2 詞向量表征模型
2.2.1 CBOW
2.2.2 Skip-Gram
2.2.3 GloVe
2.2.4 ELMo
2.2.5 BERT
2.3 注意力機(jī)制
2.3.1 全局注意力機(jī)制
2.3.2 局部注意力機(jī)制
2.3.3 自注意力機(jī)制
2.4 評(píng)價(jià)標(biāo)準(zhǔn)
2.5 本章小節(jié)
3 基于對(duì)抗訓(xùn)練和卷積ALBERT的方面目標(biāo)情感分析
3.1 問(wèn)題分析
3.2 對(duì)抗訓(xùn)練的卷積ALBERT
3.2.1 詞嵌入層
3.2.2 多層卷積的ALBERT編碼器
3.2.3 分類層
3.2.4 對(duì)抗訓(xùn)練
3.2.5 損失函數(shù)
3.3 實(shí)驗(yàn)結(jié)果分析
3.3.1 數(shù)據(jù)集
3.3.2 實(shí)驗(yàn)設(shè)置
3.3.3 實(shí)驗(yàn)對(duì)比
3.3.4 不同擾動(dòng)因子μ的影響
3.3.5 消融實(shí)驗(yàn)
3.3.6 綜合性能分析
3.4 本章小結(jié)
4 基于層級(jí)類型感知圖卷積的方面類別情感分析
4.1 問(wèn)題分析
4.2 層級(jí)類型感知圖神經(jīng)網(wǎng)絡(luò)
4.2.1 詞嵌入層
4.2.2 編碼器
4.2.3 類型依存圖
4.2.4 層級(jí)類型感知圖卷積網(wǎng)絡(luò)
4.2.5 分類層
4.2.6 損失函數(shù)
4.3 實(shí)驗(yàn)結(jié)果分析
4.3.1 數(shù)據(jù)集
4.3.2 實(shí)驗(yàn)設(shè)置
4.3.3 實(shí)驗(yàn)對(duì)比
4.3.4 超參數(shù)α的影響
4.3.5 消融實(shí)驗(yàn)
4.3.6 案例分析
4.4 本章小結(jié)
5 總結(jié)與展望
5.1 本文總結(jié)
5.2 工作展望
參考文獻(xiàn)
本文編號(hào):3873117
【文章頁(yè)數(shù)】:66 頁(yè)
【文章目錄】:
中文摘要
英文摘要
1 緒論
1.1 研究背景及意義
1.2 研究現(xiàn)狀
1.2.1 傳統(tǒng)研究方法
1.2.2 深度學(xué)習(xí)研究方法
1.3 本文研究?jī)?nèi)容
1.3.1 研究問(wèn)題
1.3.2 研究?jī)?nèi)容
1.4 本文組織結(jié)構(gòu)
2 相關(guān)理論基礎(chǔ)
2.1 深度學(xué)習(xí)理論基礎(chǔ)
2.1.1 卷積神經(jīng)網(wǎng)絡(luò)
2.1.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.2 詞向量表征模型
2.2.1 CBOW
2.2.2 Skip-Gram
2.2.3 GloVe
2.2.4 ELMo
2.2.5 BERT
2.3 注意力機(jī)制
2.3.1 全局注意力機(jī)制
2.3.2 局部注意力機(jī)制
2.3.3 自注意力機(jī)制
2.4 評(píng)價(jià)標(biāo)準(zhǔn)
2.5 本章小節(jié)
3 基于對(duì)抗訓(xùn)練和卷積ALBERT的方面目標(biāo)情感分析
3.1 問(wèn)題分析
3.2 對(duì)抗訓(xùn)練的卷積ALBERT
3.2.1 詞嵌入層
3.2.2 多層卷積的ALBERT編碼器
3.2.3 分類層
3.2.4 對(duì)抗訓(xùn)練
3.2.5 損失函數(shù)
3.3 實(shí)驗(yàn)結(jié)果分析
3.3.1 數(shù)據(jù)集
3.3.2 實(shí)驗(yàn)設(shè)置
3.3.3 實(shí)驗(yàn)對(duì)比
3.3.4 不同擾動(dòng)因子μ的影響
3.3.5 消融實(shí)驗(yàn)
3.3.6 綜合性能分析
3.4 本章小結(jié)
4 基于層級(jí)類型感知圖卷積的方面類別情感分析
4.1 問(wèn)題分析
4.2 層級(jí)類型感知圖神經(jīng)網(wǎng)絡(luò)
4.2.1 詞嵌入層
4.2.2 編碼器
4.2.3 類型依存圖
4.2.4 層級(jí)類型感知圖卷積網(wǎng)絡(luò)
4.2.5 分類層
4.2.6 損失函數(shù)
4.3 實(shí)驗(yàn)結(jié)果分析
4.3.1 數(shù)據(jù)集
4.3.2 實(shí)驗(yàn)設(shè)置
4.3.3 實(shí)驗(yàn)對(duì)比
4.3.4 超參數(shù)α的影響
4.3.5 消融實(shí)驗(yàn)
4.3.6 案例分析
4.4 本章小結(jié)
5 總結(jié)與展望
5.1 本文總結(jié)
5.2 工作展望
參考文獻(xiàn)
本文編號(hào):3873117
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3873117.html
最近更新
教材專著