本文選題：短文本 + 短信�。� 參考：《鄭州大學》2017年碩士論文

【摘要】：當前社會上用于信息交互的各種社交平臺、即時通訊工具日益普及。這些用來信息交流的平臺工具目前主要使用短文本作為信息傳播與交互的載體,其方便、快捷、高效的特點適合當今信息化、快節(jié)奏的生活。所謂短文本主要是指手機短信、微博、商品評論、論壇帖子等一類長度較短,字數(shù)有限的文本。在該類短文本中,往往存在著大量的違反信息交互平臺使用規(guī)定的違法的垃圾類文本,例如垃圾短信、廣告微博、虛假評論等。由于短文本長度較短,字數(shù)有限,編輯來源廣泛且內容編輯存在諸多不規(guī)范。因此,對其進行二分類,識別其中的垃圾類短文本時將會面臨三個問題:(1)數(shù)據(jù)噪聲大;(2)訓練數(shù)據(jù)集不平衡;(3)如果直接采用基于詞表的向量空間模型來表示短文本,將會導致特征向量過于稀疏且維度較高。針對以上三個問題,本文主要進行了以下研究:1)提出了適用于短文本的預處理方法,對短文本數(shù)據(jù)進行規(guī)范化處理,主要包括“錯別字糾正”、“繁體字轉換”、“大小寫字母的轉換”、“同類信息的統(tǒng)一化表示”等,在一定程度上減少數(shù)據(jù)集中存在的噪聲。2)從短文本內容的編輯語法、用詞特點等及非內容的結構屬性,即多個角度來提取特征,避免采用基于詞表的向量空間模型表示短文本時,特征向量過于稀疏且維度較高。3)提出了隨機森林與Adaboost相結合的“隨機森林+Adaboost”集成分類方法,該方法將隨機森林作為Adaboost算法的基分類器,用來降低數(shù)據(jù)噪聲及數(shù)據(jù)不平衡所帶來的影響。由于短信與商品評論在內容上具有較大相似性,故本文通過選取短信、商品評論作為研究對象,采用本文所提出的方法進行垃圾短文本的識別研究工作。最后,在由中國移動提供的大量短信數(shù)據(jù)集及COAE 2015任務四的評論數(shù)據(jù)集上進行實驗,結果表明本文所提出的方法是有效的,而且“隨機森林+Adaboost”集成算法相對于其它分類算法具備一定的優(yōu)越性。
[Abstract]:At present, various social platforms for information exchange, instant messaging tools are increasingly popular. These platform tools for information exchange currently mainly use short text book as the carrier of information dissemination and interaction. Its convenient, fast and efficient characteristics are suitable for today's information-based, fast-paced life. Short text mainly refers to text messages, Weibo, commodity reviews, forum posts and other short, limited words. In this kind of short text, there are often a large number of illegal spam texts, such as spam SMS, advertising Weibo, false comments and so on, which violate the rules of information exchange platform. Due to the short length and limited number of words, the short text has a wide range of editing sources and a lot of irregularities in content editing. Therefore, if we use vector space model based on thesaurus to express the short text, we will face three problems when we classify it two times, and we will face three problems: 1) 1) the data noise is very large and 2) the training data set is unbalanced (3) if we use the vector space model based on word table directly to express the short text, The feature vector is too sparse and the dimension is high. In view of the above three problems, this paper mainly carries on the following research: 1) put forward the preprocessing method suitable for short text, and normalizes the data of short text, mainly includes "correcting the wrong character", "converting the traditional characters", "conversion of letters between case and case", "uniform representation of similar information", etc., to a certain extent, reduces the noise existing in the data set) from the editorial syntax of short text content, the features of words, etc., and the structural attributes of non-content, etc. That is, to extract features from multiple angles and avoid using vector space model based on word table to represent short text, the feature vector is too sparse and the dimension is high. 3) an integrated classification method of "random forest Adaboost", which combines stochastic forest and Adaboost, is proposed. In this method, random forest is used as the base classifier of Adaboost algorithm to reduce the effect of data noise and data imbalance. Because of the similarity between short message and commodity comment, this paper chooses short message and commodity comment as the object of study, and adopts the method proposed in this paper to study the identification of short junk text. Finally, experiments are carried out on a large number of short message data sets provided by China Mobile and the comment data set of COAE 2015 Task 4. The results show that the proposed method is effective. Moreover, the "random forest Adaboost" ensemble algorithm has some advantages over other classification algorithms.
【學位授予單位】：鄭州大學
【學位級別】：碩士
【學位授予年份】：2017
【分類號】：TP391.1

【相似文獻】

相關期刊論文 前10條

1 陳敏,湯曉安;在Microsoft Access中引入文本文件[J];微型電腦應用;1995年02期

2 李盛瑜;何文;;一種對聊天文本進行特征選取的方法研究[J];計算機科學;2007年05期

3 蔣志方;祝翠玲;吳強;;一個對不帶類別標記文本進行分類的方法[J];計算機工程;2007年12期

4 趙鋼;;從復雜文本中導入數(shù)據(jù)的方法[J];中國審計;2007年18期

5 易樹鴻;張為群;;一種基于粗集的文本數(shù)據(jù)特征信息的挖掘方法[J];計算機科學;2002年08期

6 李建中,楊艷,張艷秋;并行文本管理原型系統(tǒng)PDoc的功能與總體框架[J];哈爾濱工業(yè)大學學報;2004年09期

7 覃曉;元昌安;彭昱忠;丁超;;基于基因表達式編程的Web文本分類研究[J];網絡安全技術與應用;2009年03期

8 諶志群;;文本趨勢挖掘綜述[J];情報科學;2010年02期

9 王亞民;劉洋;;含附件文本的分類算法研究[J];情報雜志;2012年08期

10 江偉;潘昊;;基于優(yōu)化的多核學習方法的Web文本分類的研究[J];計算機技術與發(fā)展;2013年10期

相關會議論文 前10條

1 許君;王朝坤;劉立超;王建民;劉璋;;云環(huán)境中的近似復制文本檢測[A];第29屆中國數(shù)據(jù)庫學術會議論文集（B輯）（NDBC2012）[C];2012年

2 易天元;葉春生;;工業(yè)鍋爐圖紙輸入的文本數(shù)據(jù)處理[A];1997中國控制與決策學術年會論文集[C];1997年

3 胡蓉;唐常杰;陳敏敏;欒江;;關聯(lián)規(guī)則制導的遺傳算法在文本分類中的應用[A];第十九屆全國數(shù)據(jù)庫學術會議論文集（研究報告篇）[C];2002年

4 李文波;孫樂;黃瑞紅;馮元勇;張大鯤;;基于Labeled-LDA模型的文本分類新算法[A];第三屆全國信息檢索與內容安全學術會議論文集[C];2007年

5 黃云平;孫樂;李文波;;基于上下文圖模型文本表示的文本分類研究[A];第四屆全國信息檢索與內容安全學術會議論文集（上）[C];2008年

6 蔣勇;陳曉靜;;一種多方向手寫文本行提取方法[A];第二十七屆中國控制會議論文集[C];2008年

7 Wen Feng;;A Novel Lips Detection Method Combined Adaboost Algorithm and Camshift Algorithm[A];2012年計算機應用與系統(tǒng)建模國際會議論文集[C];2012年

8 張超;苗振江;;基于AdaBoost的面部信息感知[A];第十三屆全國信號處理學術年會（CCSP-2007）論文集[C];2007年

9 郭翌;汪源源;;基于Adaboost算法的頸動脈粥樣硬化判別方法[A];中國儀器儀表學會第十一屆青年學術會議論文集[C];2009年

10 張紅梅;高海華;王行愚;;抑制樣本噪聲的AdaBoost算法及其在入侵檢測中的應用[A];2007年中國智能自動化會議論文集[C];2007年

相關重要報紙文章 前1條

1 戴洪玲;向Excel中快速輸入相同文本[N];中國電腦教育報;2004年

相關博士學位論文 前10條

1 宋歌;基于聚類森林的文本流分類方法研究[D];哈爾濱工業(yè)大學;2014年

2 韓開旭;基于支持向量機的文本情感分析研究[D];東北石油大學;2014年

3 鄭立洲;短文本信息抽取若干技術研究[D];中國科學技術大學;2016年

4 韓磊;漢語句義結構模型分析及其文本表示方法研究[D];北京理工大學;2016年

5 劉林;面向論壇文本的大學生情緒識別研究[D];華中師范大學;2016年

6 張博宇;基于局部特征的場景文本分析方法研究[D];哈爾濱工業(yè)大學;2015年

7 胡明涵;面向領域的文本分類與挖掘關鍵技術研究[D];東北大學　;2009年

8 孫曉華;基于聚類的文本機會發(fā)現(xiàn)關鍵問題研究[D];哈爾濱工程大學;2010年

9 尚文倩;文本分類及其相關技術研究[D];北京交通大學;2007年

10 霍躍紅;典籍英譯譯者文體分析與文本的譯者識別[D];大連理工大學;2010年

相關碩士學位論文 前10條

1 畢銀龍;中文垃圾短文本的自動識別研究[D];鄭州大學;2017年

2 王軼霞;基于半監(jiān)督遞歸自編碼的情感分類研究[D];內蒙古大學;2015年

3 金傳鑫;氣象文本分類特征選擇方法及其在MapReduce上的實現(xiàn)[D];南京信息工程大學;2015年

4 李少卿;不良文本及其變體信息的檢測過濾技術研究[D];復旦大學;2014年

5 董秦濤;基于文本的個人情感狀態(tài)分析研究[D];蘭州大學;2015年

6 鐘文波;搜索引擎中關鍵詞分類方法評估及推薦應用[D];華南理工大學;2015年

7 黃晨;基于新詞識別和時間跨度的微博熱點研究[D];上海交通大學;2015年

8 陳紅陽;中文微博話題發(fā)現(xiàn)技術研究[D];重慶理工大學;2015年

9 王s，

本文編號：1885433