發(fā)布時(shí)間：2024-11-01 23:38

　　文本分類(lèi)任務(wù)作為文本挖掘的核心,已成為自然語(yǔ)言處理領(lǐng)域的一個(gè)關(guān)鍵問(wèn)題。面對(duì)互聯(lián)網(wǎng)上的文本資源爆炸式增長(zhǎng)的趨勢(shì),如何有效的利用文本數(shù)據(jù),挖掘其背后的商業(yè)價(jià)值和研究?jī)r(jià)值,具有非常重要的意義。在此背景下,本文以序列型文本數(shù)據(jù)作為研究對(duì)象,提出了兩種融合上下文信息的文本分類(lèi)算法。近年來(lái),深度學(xué)習(xí)技術(shù)在特征提取和表示方面已經(jīng)有了很大進(jìn)展,且在大多數(shù)自然語(yǔ)言處理任務(wù)中獲得了令人滿意的成果。但是,結(jié)合國(guó)內(nèi)外研究現(xiàn)狀,在目前對(duì)深度學(xué)習(xí)的研究中,大多數(shù)的文本分類(lèi)算法沒(méi)有考慮到文本的上下文句子信息,并將其作為額外信息的補(bǔ)充利用,然而,如果給出一個(gè)沒(méi)有任何語(yǔ)境的句子,即使人為的判斷類(lèi)別也有一定的困難。針對(duì)以上問(wèn)題,本文提出了兩種分類(lèi)算法,一種是基于CNN的注意力機(jī)制融合上下文信息的文本分類(lèi)算法,另外一種的基于BLSTM的注意力機(jī)制融合上下文信息的文本分類(lèi)算法,通過(guò)從句子層面和詞層面分別設(shè)計(jì)的注意力結(jié)構(gòu)將上下文信息融合進(jìn)最終的特征表示中,增加了特征信息的多樣性。同時(shí)為了驗(yàn)證兩種算法的可行性,本文首先使用了開(kāi)源對(duì)話數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),驗(yàn)證了兩個(gè)模型在時(shí)間效率和準(zhǔn)確性方面各自的優(yōu)勢(shì),然后將分類(lèi)模型應(yīng)用于電網(wǎng)故障案例文本...

【文章頁(yè)數(shù)】：72 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

?第二章相關(guān)理論與技術(shù)???２．２．１卷積神經(jīng)網(wǎng)絡(luò)??卷積神經(jīng)網(wǎng)絡(luò)作為多層網(wǎng)絡(luò)模型，是一種人工神經(jīng)網(wǎng)絡(luò)，由于卷積神經(jīng)網(wǎng)??絡(luò)在語(yǔ)音和圖像識(shí)別領(lǐng)域己經(jīng)被成功訓(xùn)練且取得了巨大突破，使其已經(jīng)成為一個(gè)??熱門(mén)的研究點(diǎn)。卷積神經(jīng)網(wǎng)絡(luò)的核心特色是是：局部連接、權(quán)值共享和下采樣這??三種思想的....

ＬＳＴＭ在處理文本向量序列數(shù)據(jù)時(shí)，能夠從一定程度上體現(xiàn)文本數(shù)據(jù)上下文之間??的抽象語(yǔ)義關(guān)系。這主要依賴(lài)于它引入了門(mén)機(jī)制用于控制特征的流通和損失。??ＬＳＴＭ是由一系列的ＬＳＴＭ單元組成，其鏈?zhǔn)浇Y(jié)構(gòu)如下圖２－２［？］：??＠?＠?＠??ｔ?ｔ?ｔ??／?Ｎ?＾?ｒ??Ａ?隊(duì)?Ａ?＋....

ＬＳＴＭ在處理文本向量序列數(shù)據(jù)時(shí)，能夠從一定程度上體現(xiàn)文本數(shù)據(jù)上下文之間??的抽象語(yǔ)義關(guān)系。這主要依賴(lài)于它引入了門(mén)機(jī)制用于控制特征的流通和損失。??ＬＳＴＭ是由一系列的ＬＳＴＭ單元組成，其鏈?zhǔn)浇Y(jié)構(gòu)如下圖２－２［？］：??＠?＠?＠??ｔ?ｔ?ｔ??／?Ｎ?＾?ｒ??Ａ?隊(duì)?Ａ?＋....

Ｃｔ?＝?ｆｔ＊?Ｃｔ＿ａ?＋?ｉｔ＊Ｃｔ?（２?－?１０）??其中ｔａｎｈ激活函數(shù)的曲線圖［４３］如下圖２－４：??１．０?■????０．５?－／??．－??；??！??＜?Ｉ?？?？?？?Ｉ?？?ｔ?１?１?．?．?．?１?Ｉ?？?？?ｔ?．?Ｉ??－１０?－５?ｒ?５?１０....

本文編號(hào)：4008675