近年來(lái),神經(jīng)網(wǎng)絡(luò)(深度學(xué)習(xí))研究發(fā)展迅猛,自然語(yǔ)言處理作為一個(gè)實(shí)用領(lǐng)域,是神經(jīng)網(wǎng)絡(luò)的主要攻堅(jiān)對(duì)象之一。雖然神經(jīng)網(wǎng)絡(luò)在自然語(yǔ)言處理領(lǐng)域已經(jīng)取得了非常喜人的成績(jī),但是需求與發(fā)展是無(wú)止盡的,在最基礎(chǔ)的文本分類與情感分類任務(wù)中,仍有大量問(wèn)題亟需解決。大多數(shù)分類模型對(duì)特征十分敏感,特征的優(yōu)劣直接決定了分類器的分類效果。分布式特征表示是一種特征表示方法,也是神經(jīng)網(wǎng)絡(luò)的研究核心之一。在自然語(yǔ)言處理任務(wù)中,由于單詞等自然語(yǔ)言特征具有離散性質(zhì),使用分布式表示對(duì)特征建模十分重要。本文以某公司的具體輿情分析需求為背景,以自然語(yǔ)言情感分類任務(wù)為目標(biāo),針對(duì)情感分類任務(wù)中的特征表示方法進(jìn)行了一系列研究。本文的主要研究?jī)?nèi)容與貢獻(xiàn)如下:1.針對(duì)情感分類任務(wù),提出了一種單詞表示(詞向量)調(diào)整方法�，F(xiàn)有的大多數(shù)詞向量沒(méi)有針對(duì)特定任務(wù)進(jìn)行進(jìn)一步調(diào)整。本文提出了詞向量情感分量的概念,并嘗試用情感分量解釋詞向量中攜帶的情感信息,最后利用情感詞典和情感分量調(diào)整詞向量。本文使用RT、IMDB兩個(gè)情感分類任務(wù)測(cè)試詞向量調(diào)整效果,相比遷移初始詞向量,遷移調(diào)整后的詞向量在多個(gè)模型上均有不同程度的效果提升。2.針對(duì)短文本,提出了一種多層級(jí)...

【文章頁(yè)數(shù)】：96 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
abstract
符號(hào)表示
常見(jiàn)函數(shù)
第一章 緒論
    1.1 研究背景與意義
    1.2 本文工作與貢獻(xiàn)
    1.3 本文架構(gòu)
第二章 單詞特征表示研究綜述
    2.1 第一階段
        2.1.1 共現(xiàn)信息建模
        2.1.2 神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型建模
        2.1.3 配分函數(shù)優(yōu)化
    2.2 第二階段
        2.2.1 獨(dú)立訓(xùn)練詞向量模型
        2.2.2 詞向量理論研究
        2.2.3 詞向量類推性質(zhì)
    2.3 第三階段
    2.4 本章總結(jié)
第三章 針對(duì)情感分類的詞向量調(diào)整研究
    3.1 相關(guān)工作
    3.2 詞向量情感信息調(diào)整
        3.2.1 情感主成分與情感分量
        3.2.2 情感信息調(diào)整
    3.3 實(shí)驗(yàn)與效果分析
        3.3.1 詞向量情感信息分析實(shí)驗(yàn)
        3.3.2 詞向量混合比例實(shí)驗(yàn)
        3.3.3 情感分類器詞向量遷移實(shí)驗(yàn)
    3.4 本章總結(jié)
第四章 多層級(jí)情感分類方案
    4.1 需求分析與數(shù)據(jù)準(zhǔn)備
        4.1.1 問(wèn)題定義
        4.1.2 數(shù)據(jù)集準(zhǔn)備
        4.1.3 數(shù)據(jù)預(yù)處理
    4.2 短文本分類器
        4.2.1 LSTM-Attn模型
        4.2.2 DAN模型
        4.2.3 基模型集成
    4.3 新聞文本分類器
    4.4 實(shí)驗(yàn)與效果分析
        4.4.1 模型超參數(shù)
        4.4.2 基模型縱向性能比較實(shí)驗(yàn)
        4.4.3 基模型集成實(shí)驗(yàn)
        4.4.4 新聞文本分類器性能實(shí)驗(yàn)
        4.4.5 短文本案例分析
    4.5 本章總結(jié)
第五章 總結(jié)與展望
    5.1 工作總結(jié)
    5.2 未來(lái)展望
致謝
攻讀碩士學(xué)位期間發(fā)表論文、參與科研和獲得榮譽(yù)情況



本文編號(hào)：3840962