短文本分類是自然語(yǔ)言處理領(lǐng)域中的一項(xiàng)基礎(chǔ)研究任務(wù)。該任務(wù)旨在從預(yù)定義的類別標(biāo)簽中自動(dòng)地為給定的短文本指派目標(biāo)標(biāo)簽。然而,短文本往往缺乏足夠的詞共現(xiàn)以及上下文特征,導(dǎo)致傳統(tǒng)的文本表示存在特征稀疏問(wèn)題。目前,采用分布式詞向量表征能夠較好地緩解這一問(wèn)題,但是現(xiàn)有的結(jié)合短文本語(yǔ)言特性來(lái)設(shè)計(jì)分類方法的研究仍然較少,且分類性能仍有一定的提升空間。因此,本文結(jié)合短文本的語(yǔ)言特性分析各方法在短文本分類上的適用性,并對(duì)在短文本分類上性能表現(xiàn)較佳的模型展開(kāi)優(yōu)化研究,具體內(nèi)容如下,(1)短文本分類模型架構(gòu)分析基于統(tǒng)計(jì)特征的傳統(tǒng)分類方法和基于神經(jīng)網(wǎng)絡(luò)的分類方法在短文本分類任務(wù)上各有優(yōu)勢(shì)與不足,本文結(jié)合短文本的語(yǔ)言特性,對(duì)上述兩類方法中具有代表性的分類方法展開(kāi)分析,并根據(jù)各方法的具體實(shí)驗(yàn)結(jié)果展開(kāi)討論,從而選擇適合短文本的分類方法,為后續(xù)的優(yōu)化研究做鋪墊。實(shí)驗(yàn)證明,基于卷積神經(jīng)網(wǎng)絡(luò)的分類方法更適合短文本分類任務(wù)。(2)基于卷積特征自適應(yīng)的短文本分類方法短文本具有用詞精煉、包含多角度信息的語(yǔ)言特性。角度信息是指具有領(lǐng)域特性并能夠指導(dǎo)短文本主題分類的用詞。由于每個(gè)角度信息對(duì)短文本表示的重要程度不同,若直接拼接各角度特...

【文章頁(yè)數(shù)】：67 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖２－１傳統(tǒng)分類方法的基本框架??

短文本的特性，適合用于短文本分類??的研宄任務(wù)。表２－１、表２－２分別給出了ＮＬＰＣＣ語(yǔ)料的規(guī)模統(tǒng)計(jì)以及具體類別。??表２－１?ＮＬＰＣＣ語(yǔ)料統(tǒng)計(jì)??語(yǔ)料名稱?訓(xùn)練集?驗(yàn)證集?測(cè)試集??ＮＬＰＣＣ?１５６，０００?３６，０００?３６，０００??表２－２?ＮＬＰＣＣ語(yǔ)料的類別標(biāo)簽統(tǒng)....

圖２－２神經(jīng)網(wǎng)絡(luò)分類方法的基本框架??

基于卷積特征編碼與注意力機(jī)制的短文本分類方法研究?第二章短文本分類概述??圖２－１外層虛線框內(nèi)的內(nèi)容表示分類模型的訓(xùn)練過(guò)程，包括訓(xùn)練數(shù)據(jù)的預(yù)處理、??特征工程、分類器的訓(xùn)練三部分。圖２－１中內(nèi)層虛框的特征工程為方法一提供文本表??示。特征工程是傳統(tǒng)分類方法的重要環(huán)節(jié)，抽取的特征越....

圖３－丨長(zhǎng)短期記憶單元的結(jié)構(gòu)??

基于卷積特征編碼與注意力機(jī)制的短文本分類方法研究?第三章短文本分類模型架構(gòu)分析??「???ｎ?ｐ４＞Ｋ＋）￡ｌ０Ｈ＞７＿＾＿??１？＾，！??Ｉ???ｊ??圖３－丨長(zhǎng)短期記憶單元的結(jié)構(gòu)??ＬＳＴＭ單元利用輸入丨＇?ｊ／，、遺忘門(mén)．／；及輸出門(mén)〇，控制當(dāng)前時(shí)刻的記憶細(xì)胞〇以及隱藏?....

圖３－２門(mén)控循環(huán)單元的結(jié)構(gòu)??

＾－１？．一其中，例３－１明顯存在語(yǔ)法不規(guī)范的問(wèn)題，ＬＳＴＭ仍可以為該句子抽取整體的語(yǔ)義特征，??并能將其與“賈窟軍表廣少／衣三光立你辦龍類＂歸為同一主題。例３－２則存在缺少顯著??信息的問(wèn)題，ＬＳＴＭ則可以利用門(mén)控機(jī)制保留有用信息并進(jìn)一步實(shí)現(xiàn)特征的抽象化。??３．１．３結(jié)合短文....

本文編號(hào)：3981598