發(fā)布時間：2023-06-01 20:00

　　情感分析是指挖掘文本中人們對某一實體的觀點、情感、情緒、態(tài)度等�？珙I域情感分析是指利用源域的有標簽數(shù)據(jù)作為訓練集,協(xié)助訓練目標域的情感分析模型,并在目標域的數(shù)據(jù)上測試。當需要訓練一個全新領域的情感分類器時,標注數(shù)據(jù)往往是成本最高的一部分,限制了著整個模型的開發(fā)流程。使用跨領域情感分析方法,能夠使用目前已有的其他領域標注數(shù)據(jù),訓練全新領域上的情感分類器,大大減小了標注成本和開發(fā)時間。注意力機制能夠幫助模型獲得到更好的文本語義表示,且運算簡便快捷。將注意力機制添加到跨領域情感分析任務中,能夠促使模型獲取到更加準確的文本語義表示,從而更好的對齊源域特征和目標域特征,達到更好的遷移效果。本文首先提出基于跨領域注意力機制的層次注意力遷移網(wǎng)絡,解決了現(xiàn)有方法中對所有數(shù)據(jù)無區(qū)分對待,無法強化訓練領域特有數(shù)據(jù)的缺點�？珙I域注意力機制根據(jù)數(shù)據(jù)特點,給予每條數(shù)據(jù)不同的損失權重,對于領域特有數(shù)據(jù),給予較大的權重,對于非領域特有數(shù)據(jù),給予較小的權重,從而對源域中的特有數(shù)據(jù)進行強化訓練,著重學習特有數(shù)據(jù)中的特征對情感分析的影響。實驗表明,基于跨領域注意力機制的層次注意力遷移網(wǎng)絡在20個遷移任務中的17個任務上超...

【文章頁數(shù)】：71 頁

【學位級別】：碩士

【文章目錄】：
摘要
ABSTRACT
第1章 緒論
    1.1 課題背景及研究的目的和意義
    1.2 相關工作的研究概況
        1.2.1 語言表示方法研究概括
        1.2.2 注意力機制研究概括
        1.2.3 跨領域情感分析的研究概括
    1.3 本文的主要研究內(nèi)容
    1.4 論文的主要組織結構
第2章 層次注意力遷移網(wǎng)絡在跨領域情感分析中的性能分析
    2.1 跨領域情感分析任務設置
    2.2 層次注意力網(wǎng)絡介紹及性能分析
        2.2.1 層次注意力網(wǎng)絡介紹
        2.2.2 層次注意力網(wǎng)絡在情感分析任務中的性能分析
    2.3 層次注意力遷移網(wǎng)絡介紹及性能分析
        2.3.1 層次注意力遷移網(wǎng)絡介紹
        2.3.2 層次注意力遷移網(wǎng)絡在跨領域情感分析任務中的性能分析
    2.4 基線模型性能瓶頸
    2.5 本章小結
第3章 結合跨領域注意力機制的遷移網(wǎng)絡
    3.1 相關基礎技術
        3.1.1 word2vec模型
        3.1.2 相關性對齊損失
    3.2 基于跨領域注意力機制的層次注意力遷移網(wǎng)絡
        3.2.1 相關性對齊損失
        3.2.2 跨領域注意力機制
        3.2.3 基于跨領域注意力機制的層次注意力遷移網(wǎng)絡
    3.3 基于跨領域注意力機制的層次注意力遷移網(wǎng)絡定量分析
    3.4 基于跨領域注意力機制的層次注意力遷移網(wǎng)絡可視化分析
    3.5 本章小結
第4章 結合注意力機制預訓練語言模型的遷移網(wǎng)絡
    4.1 相關基礎技術
        4.1.1 注意力機制
        4.1.2 BERT預訓練語言模型
    4.2 基于注意力機制預訓練語言模型的遷移網(wǎng)絡
    4.3 基于注意力機制預訓練語言模型的遷移網(wǎng)絡的實驗分析
    4.4 基于注意力機制預訓練語言模型的多源域遷移網(wǎng)絡及實驗分析
        4.4.1 基于注意力機制預訓練語言模型的多源域遷移網(wǎng)絡
        4.4.2 實驗結果分析
    4.5 本章小結
結論
參考文獻
攻讀碩士學位期間發(fā)表的學術論文及其他成果
致謝



本文編號：3826950