短文本分類是自然語言處理領(lǐng)域中的一項基礎(chǔ)研究任務(wù)。該任務(wù)旨在從預(yù)定義的類別標(biāo)簽中自動地為給定的短文本指派目標(biāo)標(biāo)簽。然而,短文本往往缺乏足夠的詞共現(xiàn)以及上下文特征,導(dǎo)致傳統(tǒng)的文本表示存在特征稀疏問題。目前,采用分布式詞向量表征能夠較好地緩解這一問題,但是現(xiàn)有的結(jié)合短文本語言特性來設(shè)計分類方法的研究仍然較少,且分類性能仍有一定的提升空間。因此,本文結(jié)合短文本的語言特性分析各方法在短文本分類上的適用性,并對在短文本分類上性能表現(xiàn)較佳的模型展開優(yōu)化研究,具體內(nèi)容如下,(1)短文本分類模型架構(gòu)分析基于統(tǒng)計特征的傳統(tǒng)分類方法和基于神經(jīng)網(wǎng)絡(luò)的分類方法在短文本分類任務(wù)上各有優(yōu)勢與不足,本文結(jié)合短文本的語言特性,對上述兩類方法中具有代表性的分類方法展開分析,并根據(jù)各方法的具體實驗結(jié)果展開討論,從而選擇適合短文本的分類方法,為后續(xù)的優(yōu)化研究做鋪墊。實驗證明,基于卷積神經(jīng)網(wǎng)絡(luò)的分類方法更適合短文本分類任務(wù)。(2)基于卷積特征自適應(yīng)的短文本分類方法短文本具有用詞精煉、包含多角度信息的語言特性。角度信息是指具有領(lǐng)域特性并能夠指導(dǎo)短文本主題分類的用詞。由于每個角度信息對短文本表示的重要程度不同,若直接拼接各角度特...

【文章頁數(shù)】：67 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖２－１傳統(tǒng)分類方法的基本框架??

短文本的特性，適合用于短文本分類??的研宄任務(wù)。表２－１、表２－２分別給出了ＮＬＰＣＣ語料的規(guī)模統(tǒng)計以及具體類別。??表２－１?ＮＬＰＣＣ語料統(tǒng)計??語料名稱?訓(xùn)練集?驗證集?測試集??ＮＬＰＣＣ?１５６，０００?３６，０００?３６，０００??表２－２?ＮＬＰＣＣ語料的類別標(biāo)簽統(tǒng)....

圖２－２神經(jīng)網(wǎng)絡(luò)分類方法的基本框架??

基于卷積特征編碼與注意力機制的短文本分類方法研究?第二章短文本分類概述??圖２－１外層虛線框內(nèi)的內(nèi)容表示分類模型的訓(xùn)練過程，包括訓(xùn)練數(shù)據(jù)的預(yù)處理、??特征工程、分類器的訓(xùn)練三部分。圖２－１中內(nèi)層虛框的特征工程為方法一提供文本表??示。特征工程是傳統(tǒng)分類方法的重要環(huán)節(jié)，抽取的特征越....

圖３－丨長短期記憶單元的結(jié)構(gòu)??

基于卷積特征編碼與注意力機制的短文本分類方法研究?第三章短文本分類模型架構(gòu)分析??「???ｎ?ｐ４＞Ｋ＋）￡ｌ０Ｈ＞７＿＾＿??１？＾，！??Ｉ???ｊ??圖３－丨長短期記憶單元的結(jié)構(gòu)??ＬＳＴＭ單元利用輸入丨＇?ｊ／，、遺忘門．／；及輸出門〇，控制當(dāng)前時刻的記憶細(xì)胞〇以及隱藏?....

圖３－２門控循環(huán)單元的結(jié)構(gòu)??

＾－１？．一其中，例３－１明顯存在語法不規(guī)范的問題，ＬＳＴＭ仍可以為該句子抽取整體的語義特征，??并能將其與“賈窟軍表廣少／衣三光立你辦龍類＂歸為同一主題。例３－２則存在缺少顯著??信息的問題，ＬＳＴＭ則可以利用門控機制保留有用信息并進(jìn)一步實現(xiàn)特征的抽象化。??３．１．３結(jié)合短文....

本文編號：3981598