在如今的互聯(lián)網(wǎng)時(shí)代,互聯(lián)網(wǎng)產(chǎn)生的文本數(shù)據(jù)呈爆發(fā)式增長(zhǎng),面對(duì)大量的文本數(shù)據(jù),如何快速地組織和分類(lèi)這些文本數(shù)據(jù)并挖掘其背后的價(jià)值具有重要的意義。在此背景下,文本分類(lèi)技術(shù)應(yīng)運(yùn)而生,文本分類(lèi)方法通過(guò)理解文本的語(yǔ)義并概況出文本的主題內(nèi)容,進(jìn)而將文本歸類(lèi)到其所屬的類(lèi)別中,能夠幫助用戶快速準(zhǔn)確的找到所需的信息。目前的文本分類(lèi)方法大多是基于神經(jīng)網(wǎng)絡(luò)的方法,例如CNN、RNN和LSTM,雖然取得了很好的文本分類(lèi)效果,但仍然面臨著很多挑戰(zhàn),在預(yù)訓(xùn)練的詞嵌入表示方面,如何從海量的文本數(shù)據(jù)中訓(xùn)練出蘊(yùn)含更全面語(yǔ)義的詞嵌入表示是非常重要的,高效的詞嵌入方法一直是自然語(yǔ)言處理領(lǐng)域所需要的。在文本表示方面,當(dāng)前的文本表示方法往往只考慮了前面的上下文,忽略了后面的上下文和整段文本的交互表示,導(dǎo)致部分的語(yǔ)義丟失。在文本特征提取方面,標(biāo)簽在最后的文本分類(lèi)中起著核心作用,但標(biāo)簽在文本分類(lèi)中的作用并沒(méi)有被充分利用。在此背景下,針對(duì)上述問(wèn)題,本文主要做了三個(gè)方面的工作:(1)提出了基于雙向長(zhǎng)短期記憶網(wǎng)絡(luò)和標(biāo)簽嵌入的文本分類(lèi)算法針對(duì)上面文本分類(lèi)面臨的三個(gè)挑戰(zhàn),提出了改進(jìn)的基于雙向長(zhǎng)短期記憶網(wǎng)絡(luò)和標(biāo)簽嵌入的文本分類(lèi)算法,首先使用預(yù)訓(xùn)...

【文章頁(yè)數(shù)】：61 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
ABSTRACT
第一章 緒論
    1.1 研究背景和研究意義
    1.2 研究現(xiàn)狀及分析
        1.2.1 國(guó)內(nèi)外研究現(xiàn)狀
        1.2.2 文本分類(lèi)方法
    1.3 研究?jī)?nèi)容
    1.4 論文組織結(jié)構(gòu)
    1.5 本章小結(jié)
第二章 相關(guān)理論
    2.1 預(yù)訓(xùn)練模型
    2.2 注意力機(jī)制
    2.3 自交互注意力
    2.4 標(biāo)簽嵌入
    2.5 本章小結(jié)
第三章 基于標(biāo)簽嵌入和自交互注意力的文本分類(lèi)算法研究
    3.1 基于雙向長(zhǎng)短期記憶網(wǎng)絡(luò)和標(biāo)簽嵌入的文本分類(lèi)算法改進(jìn)
        3.1.1 算法流程
        3.1.2 BiLSTM和注意力機(jī)制
        3.1.3 詞和標(biāo)簽的聯(lián)合嵌入學(xué)習(xí)
        3.1.4 分類(lèi)學(xué)習(xí)
    3.2 基于標(biāo)簽嵌入和自交互注意力的文本分類(lèi)算法改進(jìn)
        3.2.1 算法流程
        3.2.2 自交互注意力機(jī)制
        3.2.3 詞和標(biāo)簽的聯(lián)合嵌入學(xué)習(xí)
        3.2.4 文本分類(lèi)任務(wù)
    3.3 實(shí)驗(yàn)設(shè)計(jì)與分析
        3.3.1 數(shù)據(jù)集和基線模型
        3.3.2 試驗(yàn)參數(shù)設(shè)置
        3.3.3 整體分類(lèi)結(jié)果與分析
        3.3.4 標(biāo)簽嵌入的影響
        3.3.5 不同的預(yù)訓(xùn)練模型和每一部分的影響
    3.4 本章小結(jié)
第四章 基于標(biāo)簽嵌入和自交互注意力的文本分類(lèi)系統(tǒng)應(yīng)用
    4.1 相關(guān)技術(shù)和理論
        4.1.1 文本數(shù)據(jù)采集
        4.1.2 系統(tǒng)技術(shù)與框架
    4.2 系統(tǒng)設(shè)計(jì)
        4.2.1 系統(tǒng)概要設(shè)計(jì)
        4.2.2 系統(tǒng)功能設(shè)計(jì)
        4.2.3 數(shù)據(jù)庫(kù)設(shè)計(jì)
    4.3 系統(tǒng)實(shí)現(xiàn)
        4.3.1 瀏覽器端實(shí)現(xiàn)
        4.3.2 服務(wù)端實(shí)現(xiàn)
    4.4 系統(tǒng)測(cè)試
        4.4.1 測(cè)試環(huán)境和方法
        4.4.2 測(cè)試結(jié)果
    4.5 本章小結(jié)
第五章 總結(jié)與展望
    5.1 全文總結(jié)
    5.2 未來(lái)工作展望
參考文獻(xiàn)
攻讀碩士學(xué)位期間的主要成果
致謝



本文編號(hào)：3754404