互聯(lián)網(wǎng)的迅速發(fā)展加劇了信息時代的進步,短文本作為一種簡單高效的表達方式廣泛存在于各種社交網(wǎng)站中,如微博、新聞標題、商品評論、論壇、朋友圈等,想要從這些海量的文本資源中挖掘出有用的信息變得愈加困難。由于短文本具有稀疏性、即時性、海量性、不規(guī)則性等特點,傳統(tǒng)的分類方法仍然存在文本語義信息提取不足和嚴重的數(shù)據(jù)稀疏問題。目前,引入外部知識庫來擴展短文本的語義信息是較為熱點的研究方向,如何才能獲得文本中多層語義表達,并且消除短文本中不相關(guān)術(shù)語的影響,成為當前短文本分類研究的一個重要課題。針對上述問題并參考已有的研究成果,本文引入語義特征擴展的思想,將Probase語義網(wǎng)絡(luò)作為外部知識庫,通過詞語概念化和增加語義共現(xiàn)詞的方式對短文本進行擴充,使其能夠更好地表達短文本中隱含的信息,達到消歧的效果。然后再結(jié)合Word2vec模型訓練語義信息詞向量,很好地解決了文本表示所面臨的數(shù)據(jù)稀疏性和詞語之間語義不足的問題,在傳統(tǒng)分類模型的基礎(chǔ)上,提出了一種基于語義擴展的短文本分類方法。本文首先仔細分析了短文本獨有的特點和傳統(tǒng)短文本分類技術(shù),指出了傳統(tǒng)短文本分類模型中存在的缺陷,確定了Probase知識庫相較于其他... 

【文章來源】：西安電子科技大學陜西省 211工程院校 教育部直屬院校

【文章頁數(shù)】：75 頁

【學位級別】：碩士

【部分圖文】：

最優(yōu)分類超平面

圖 2.3 NNLM 原理模型圖NNLM 采 用 輸 入 層 、 隱 藏 層 和 輸 出 層 的 神 經(jīng) 網(wǎng) 絡(luò) 結(jié) 構(gòu) 。 輸 入 層( 1) ( 2) 1, , ,n k n kw w ，這種形式能夠靈活展現(xiàn)任意 N 元詞組，完美的避免了傳語言模型中遇到的數(shù)據(jù)稀疏問題。每個詞都對應一個向量： ( )kc w 。故輸入層的矩陣如公式（2-37）所示。( 1) ( 2) 2 1( ), ( ), , ( ), ( ) k n k n k k x C w C w C w C w （2-隱藏層等同于 BP 神經(jīng)網(wǎng)絡(luò)一樣，可以直接使用d Hx計算，然后通過tanh數(shù)。其中 y 的計算公式如（2-38）所示。y b Wx U tanh( d Hx )（2-輸出層總共有 V 個元素， ( )iy w 表示元素值中詞語的所有可能性，由于輸出元素值之和不為 1，因此，輸出層處理完之后需要加上 softmax 函數(shù)對概率進

ConceptAttribute concept;attribute;score 概念和屬性的關(guān)系ConcepClusterString Cluster id;center names;concept names 概念與概念之間的關(guān)系ConceptDict Concept;id 概念詞典InstanceDictinstance;id;ambiguity_level;ambiguity_score實例詞典Isa_CoreConcept;entity;frequency;popularity;conceptFrequency概念和實例的關(guān)系StopConcept stopTerms 概念停用詞StopInstance stopTerms 實例停用詞在語義構(gòu)建過程中，經(jīng)過 Probase 語義網(wǎng)絡(luò)豐富之后的短文本擁有大量的概念和實例，這些都會被收錄在“Isa_Core”中，根據(jù) 3.2 節(jié)和 3.3 節(jié)中的公式進行概念詞和共現(xiàn)詞的選取，最后生成可識別的“txt”格式文件，處理之后的文檔部分示例如圖 5.2所示，為短文本的后續(xù)操作奠定良好的基礎(chǔ)。


本文編號：3248571