在當(dāng)今社會(huì)生活中,機(jī)器學(xué)習(xí)已經(jīng)成為一個(gè)重要的研究話題和應(yīng)用趨勢(shì)。而在機(jī)器學(xué)習(xí)領(lǐng)域內(nèi),對(duì)于文本進(jìn)行分類處理與分析是重要的研究方向并且具有實(shí)際應(yīng)用價(jià)值。多任務(wù)學(xué)習(xí)通過利用多學(xué)習(xí)任務(wù)中所有有效的信息來緩解數(shù)據(jù)稀疏性問題,從而幫助每個(gè)任務(wù)提升學(xué)習(xí)能力,得到更為準(zhǔn)確的結(jié)果。同時(shí),通過學(xué)習(xí)任務(wù)之間可以互相利用的信息,分析未來數(shù)據(jù),來幫助緩解數(shù)據(jù)稀疏性問題。從理論分析和實(shí)際應(yīng)用中,多任務(wù)學(xué)習(xí)都要比單獨(dú)學(xué)習(xí)這些任務(wù)表現(xiàn)的更具優(yōu)勢(shì)。目前,針對(duì)現(xiàn)有的傳統(tǒng)多任務(wù)文本分類學(xué)習(xí)模型不能夠?qū)ξ谋咎卣鬟M(jìn)行有效提取的問題,以及容易忽略輸入信息重要程度的問題,本文將注意力機(jī)制與對(duì)抗多任務(wù)學(xué)習(xí)相結(jié)合,從評(píng)論文本數(shù)據(jù)輸入處入手,引入注意力機(jī)制,提出基于注意力的對(duì)抗多任務(wù)文本分類模型。注意力機(jī)制是依靠權(quán)重對(duì)文本數(shù)據(jù)中能夠反映文本特征的重要的文本信息進(jìn)行重點(diǎn)關(guān)注,并達(dá)到對(duì)文本數(shù)據(jù)特征有效提取的目的。以往的注意力機(jī)制較為普遍地應(yīng)用于圖像處理任務(wù)上,近幾年才開始在文本處理等任務(wù)上引入。注意力機(jī)制通過訓(xùn)練權(quán)值,加權(quán)計(jì)算,合理表示文本數(shù)據(jù)信息,按照重要程度學(xué)習(xí)文本信息,對(duì)后續(xù)學(xué)習(xí)任務(wù)有顯著幫助。通過對(duì)比四種多任務(wù)文本分類學(xué)習(xí)模型的最高... 

【文章來源】：大連理工大學(xué)遼寧省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：58 頁

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 研究背景及意義
        1.1.1 文本分類的應(yīng)用和挑戰(zhàn)
        1.1.2 多任務(wù)文本分類的意義
        1.1.3 本文的研究問題
    1.2 國內(nèi)外研究現(xiàn)狀
        1.2.1 文本分類問題的研究
        1.2.2 多任務(wù)文本分類的研究
    1.3 本文研究?jī)?nèi)容及文章結(jié)構(gòu)
2 相關(guān)理論基礎(chǔ)和技術(shù)
    2.1 循環(huán)神經(jīng)網(wǎng)絡(luò)
        2.1.1 基本結(jié)構(gòu)和原理
        2.1.2 長(zhǎng)短期記憶單元
        2.1.3 門循環(huán)單元
    2.2 多任務(wù)學(xué)習(xí)模型
    2.3 本章小結(jié)
3 基于注意力機(jī)制的對(duì)抗多任務(wù)學(xué)習(xí)
    3.1 用于文本分類的多任務(wù)學(xué)習(xí)
    3.2 對(duì)抗多任務(wù)學(xué)習(xí)
    3.3 基于注意力的對(duì)抗多任務(wù)文本分類
        3.3.1 用于文本處理的注意力機(jī)制
        3.3.2 基于注意力的對(duì)抗多任務(wù)文本分類學(xué)習(xí)
    3.4 實(shí)驗(yàn)及分析
        3.4.1 實(shí)驗(yàn)數(shù)據(jù)及處理
        3.4.2 實(shí)驗(yàn)結(jié)果及分析
    3.5 本章小結(jié)
結(jié)論
參考文獻(xiàn)
附錄 A 附錄內(nèi)容名稱
攻讀碩士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝



本文編號(hào)：3609999