發(fā)布時(shí)間：2021-06-26 17:31

　　現(xiàn)有的情感分析方法主要分為基于情感詞典的情感分析方法和基于機(jī)器學(xué)習(xí)的情感分析方法,而在基于機(jī)器學(xué)習(xí)的方法中,基于深度學(xué)習(xí)的方法最為流行�；谇楦性~典的方法十分依賴情感詞典的質(zhì)量及覆蓋度,而基于深度學(xué)習(xí)的方法需要大量的標(biāo)注數(shù)據(jù)集。在數(shù)據(jù)集較小時(shí),基于深度學(xué)習(xí)的模型容易產(chǎn)生過擬合,多任務(wù)學(xué)習(xí)技術(shù)同時(shí)對(duì)多個(gè)任務(wù)進(jìn)行訓(xùn)練,通過利用相關(guān)任務(wù)中的領(lǐng)域特有信息來提升模型的泛化能力,在一定程度上緩解了過擬合問題。本文對(duì)主流的多任務(wù)學(xué)習(xí)技術(shù)進(jìn)行研究后發(fā)現(xiàn)以下幾個(gè)問題:（1）現(xiàn)有多任務(wù)學(xué)習(xí)模型多使用基于LSTM的模型進(jìn)行情感分析,并使用單層LSTM的最后一個(gè)隱藏狀態(tài)作為文本的隱含特征,這一方法特征提取能力有限且存在有偏表示問題;（2）在文本包含多個(gè)情感詞且語法結(jié)構(gòu)復(fù)雜的情況下,現(xiàn)有方法無法準(zhǔn)確識(shí)別出整個(gè)句子的情感傾向;（3）LSTM由于其循環(huán)特性,當(dāng)前時(shí)間步的輸入依賴于上個(gè)時(shí)間步的輸出,其并行效率較低,很難完全發(fā)揮出GPU的性能;（4）現(xiàn)有多任務(wù)學(xué)習(xí)模型將特征空間分為私有和共享兩部分,每個(gè)任務(wù)都擁有一個(gè)獨(dú)立的私有空間,其內(nèi)存消耗與任務(wù)數(shù)量呈線性關(guān)系,在任務(wù)數(shù)較多時(shí)十分耗費(fèi)內(nèi)存。針對(duì)以上問題,本文進(jìn)行了以下... 

【文章來源】：華南理工大學(xué)廣東省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：68 頁

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
ABSTRACT
第一章 緒論
    1.1 研究背景和意義
    1.2 研究現(xiàn)狀
        1.2.1 基于情感詞典的情感分析
        1.2.2 基于深度學(xué)習(xí)的情感分析
        1.2.3 多任務(wù)學(xué)習(xí)
    1.3 主要研究工作
    1.4 論文結(jié)構(gòu)
第二章 相關(guān)技術(shù)
    2.1 基于情感詞典的情感分析
        2.1.1 情感詞典
        2.1.2 VADER模型及其語法規(guī)則
    2.2 基于深度學(xué)習(xí)的情感分析
        2.2.1 深度學(xué)習(xí)相關(guān)技術(shù)
        2.2.2 文本表示模型
        2.2.3 文本分類模型
    2.3 多任務(wù)學(xué)習(xí)
    2.4 本章小結(jié)
第三章 基于ASP-MTL模型的研究和改進(jìn)
    3.1 AASP-MTL模型概述
    3.2 模型結(jié)構(gòu)
        3.2.1 特征提取層
        3.2.2 對(duì)抗層及正交性約束
        3.2.3 特定任務(wù)層
    3.3 歸因分析
    3.4 本章小結(jié)
第四章 基于DT的多任務(wù)情感分析模型
    4.1 DT模型
        4.1.1 輸入層
        4.1.2 多模塊自注意力
        4.1.3 前饋神經(jīng)網(wǎng)絡(luò)層
        4.1.4 短路連接及層標(biāo)準(zhǔn)化
        4.1.5 輸出層
    4.2 基于DT的多任務(wù)情感分析模型
        4.2.1 標(biāo)準(zhǔn)化策略
        4.2.2 參數(shù)初始化
    4.3 本章小結(jié)
第五章 實(shí)驗(yàn)與結(jié)果分析
    5.1 數(shù)據(jù)集與預(yù)處理
    5.2 基準(zhǔn)模型
    5.3 評(píng)價(jià)指標(biāo)
        5.3.1 情感分析任務(wù)性能評(píng)價(jià)指標(biāo)
        5.3.2 模型并行性能評(píng)價(jià)指標(biāo)
    5.4 AASP-MTL實(shí)驗(yàn)
        5.4.1 超參數(shù)設(shè)置
        5.4.2 實(shí)驗(yàn)結(jié)果
        5.4.3 消融分析
        5.4.4 可視化分析
        5.4.5 性能歸因分析
    5.5 DT-MTL實(shí)驗(yàn)
        5.5.1 超參數(shù)設(shè)置
        5.5.2 實(shí)驗(yàn)結(jié)果
        5.5.3 AASP-MTL和 DT-MTL并行性能對(duì)比
    5.6 本章小結(jié)
第六章 總結(jié)與展望
    6.1 總結(jié)
    6.2 展望
參考文獻(xiàn)
攻讀碩士學(xué)位期間取得的研究成果
致謝
附件


【參考文獻(xiàn)】：
碩士論文
[1]基于深度學(xué)習(xí)的多任務(wù)文本分類技術(shù)研究[D]. 陳震鴻.華南理工大學(xué) 2018



本文編號(hào)：3251767