本文關(guān)鍵詞：基于深度神經(jīng)網(wǎng)絡(luò)的嵌入式向量及話題模型

  更多相關(guān)文章： 話題模型 遞歸神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí) 反饋機制 嵌入式

【摘要】：在對文檔集合進(jìn)行話題分析的過程中,為描述文檔中單詞間的依賴關(guān)系,提高話題分析的效果,提出一種基于反饋遞歸神經(jīng)網(wǎng)絡(luò)的嵌入式向量生成及話題模型。在將單詞表示為One-hot向量后,采用遞歸神經(jīng)網(wǎng)絡(luò)將文檔嵌入在低維的向量空間。在文檔的嵌入式向量計算過程中,采用LSTM(long short-term memory)描述單詞間的前向依賴關(guān)系,提出一種反饋神經(jīng)網(wǎng)絡(luò)用于描述單詞間的后向依賴關(guān)系。在話題分析模型中,采用原文檔和變異文檔對作為正樣本,采用原文檔和隨機文檔對作為負(fù)樣本進(jìn)行模型的訓(xùn)練。實驗結(jié)果表明,該方法時間和空間復(fù)雜度低,具有更好的話題分析效果。
【作者單位】： 河南工程學(xué)院計算機學(xué)院;北京理工大學(xué)計算機學(xué)院;
【關(guān)鍵詞】： 話題模型 遞歸神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí) 反饋機制 嵌入式
【基金】：河南省高等學(xué)校重點科研基金項目(15A520054) 河南省科技廳科技計劃課題基金項目(112102310550)
【分類號】：TP391.1;TP183
【正文快照】： 0引言自然語言處理[1,2]是一門關(guān)于語言學(xué)、統(tǒng)計學(xué)、計算機科學(xué)、人工智能等研究領(lǐng)域的交叉學(xué)科,采用統(tǒng)計學(xué)的相關(guān)原理對語言文本進(jìn)行分析是當(dāng)前研究人員普遍采用的工具之一。采用詞頻向量對文檔的話題進(jìn)行分析時,常用的方法有潛在語義分析(latent semantic analysis,LSA)[3]

【參考文獻(xiàn)】

中國期刊全文數(shù)據(jù)庫 前6條

1 陳永恒;左祥麟;林耀進(jìn);;在線增量標(biāo)簽主題模型[J];吉林大學(xué)學(xué)報(理學(xué)版);2015年05期

2 陳永恒;左萬利;林耀進(jìn);;作者標(biāo)簽主題模型在科技文獻(xiàn)中的應(yīng)用[J];計算機應(yīng)用;2015年04期

3 李生;;自然語言處理的研究與發(fā)展[J];燕山大學(xué)學(xué)報;2013年05期

4 張晨逸;孫建伶;丁軼群;;基于MB-LDA模型的微博主題挖掘[J];計算機研究與發(fā)展;2011年10期

5 徐戈;王厚峰;;自然語言處理中主題模型的發(fā)展[J];計算機學(xué)報;2011年08期

6 黃承慧;印鑒;侯f ;;一種結(jié)合詞項語義信息和TF-IDF方法的文本相似度量方法[J];計算機學(xué)報;2011年05期

【共引文獻(xiàn)】

中國期刊全文數(shù)據(jù)庫 前10條

1 何永強;秦勤;王俊鵬;;基于深度神經(jīng)網(wǎng)絡(luò)的嵌入式向量及話題模型[J];計算機工程與設(shè)計;2016年12期

2 胡菊香;呂學(xué)強;徐麗萍;;面向?qū)＠募夹g(shù)主題檢測[J];計算機工程與設(shè)計;2016年12期

3 王華秋;殷志恒;;采用自適應(yīng)聚類的教學(xué)視頻關(guān)鍵幀研究[J];計算機時代;2016年12期

4 高章敏;何祥;劉嘉勇;湯殿華;;基于主題模型的中文詞義歸納[J];四川大學(xué)學(xué)報(自然科學(xué)版);2016年06期

5 邵華;李楊;丁遠(yuǎn);劉鳳臣;;基于詞對主題模型的中分辨率遙感影像土地利用分類[J];農(nóng)業(yè)工程學(xué)報;2016年22期

6 王亞民;胡悅;;基于BTM的微博輿情熱點發(fā)現(xiàn)[J];情報雜志;2016年11期

7 王華秋;聶珍;;快速搜索密度峰值聚類在圖像檢索中的應(yīng)用[J];計算機工程與設(shè)計;2016年11期

8 依不拉音·烏斯曼;王悅;;面向維吾爾跨文字搜索引擎的統(tǒng)一轉(zhuǎn)換機制設(shè)計[J];計算機科學(xué);2016年S2期

9 Yonggan Li;Xueguang Zhou;Yan Sun;Huanguo Zhang;;Design and Implementation of Weibo Sentiment Analysis Based on LDA and Dependency Parsing[J];中國通信;2016年11期

10 袁m;;微博用戶關(guān)系提取與推薦的軟件系統(tǒng)[J];電子科學(xué)技術(shù);2016年06期

【二級參考文獻(xiàn)】

中國期刊全文數(shù)據(jù)庫 前7條

1 史慶偉;李艷妮;郭朋亮;;科技文獻(xiàn)中作者研究興趣動態(tài)發(fā)現(xiàn)[J];計算機應(yīng)用;2013年11期

2 胡艷麗;白亮;張維明;;網(wǎng)絡(luò)輿情中一種基于OLDA的在線話題演化方法[J];國防科技大學(xué)學(xué)報;2012年01期

3 單斌;李芳;;基于LDA話題演化研究方法綜述[J];中文信息學(xué)報;2010年06期

4 曹娟;張勇東;李錦濤;唐勝;;一種基于密度的自適應(yīng)最優(yōu)LDA模型選擇方法[J];計算機學(xué)報;2008年10期

5 石晶;胡明;石鑫;戴國忠;;基于LDA模型的文本分割[J];計算機學(xué)報;2008年10期

6 李文波;孫樂;張大鯤;;基于Labeled-LDA模型的文本分類新算法[J];計算機學(xué)報;2008年04期

7 劉桃;劉秉權(quán);徐志明;王曉龍;;領(lǐng)域術(shù)語自動抽取及其在文本分類中的應(yīng)用[J];電子學(xué)報;2007年02期

【相似文獻(xiàn)】

中國期刊全文數(shù)據(jù)庫 前10條

1 金仁貴;;帶有偏差單元的遞歸神經(jīng)網(wǎng)絡(luò)在故障診斷方面的應(yīng)用[J];電腦知識與技術(shù);2006年29期

2 陳鋼;王占山;;連續(xù)時間遞歸神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[J];沈陽理工大學(xué)學(xué)報;2007年02期

3 汪曉夢;;帶有偏差單元的遞歸神經(jīng)網(wǎng)絡(luò)在故障診斷方面的應(yīng)用優(yōu)化[J];甘肅聯(lián)合大學(xué)學(xué)報(自然科學(xué)版);2010年05期

4 杜艷可;徐瑞;;具有時滯的遞歸神經(jīng)網(wǎng)絡(luò)動力學(xué)研究進(jìn)展[J];北華大學(xué)學(xué)報(自然科學(xué)版);2012年01期

5 蔣洪睿,莫瑋,李麗;遞歸神經(jīng)網(wǎng)絡(luò)自適應(yīng)均衡抗突發(fā)干擾研究[J];電訊技術(shù);2000年01期

6 宋軼民,余躍慶,張策,馬文貴;動態(tài)遞歸神經(jīng)網(wǎng)絡(luò)及其在機敏機構(gòu)辨識中的應(yīng)用[J];機械科學(xué)與技術(shù);2001年04期

7 張奇志,賈永樂,周雅莉;噪聲有源控制的遞歸神經(jīng)網(wǎng)絡(luò)方法[J];控制與決策;2001年03期

8 李峰,李樹榮;基于動態(tài)遞歸神經(jīng)網(wǎng)絡(luò)的動態(tài)矩陣控制[J];石油大學(xué)學(xué)報(自然科學(xué)版);2001年03期

9 唐普英,李紹榮,黃順吉;一種新的復(fù)值遞歸神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法及其應(yīng)用[J];信號處理;2001年06期

10 文敦偉,蔡自興;遞歸神經(jīng)網(wǎng)絡(luò)的模糊隨機學(xué)習(xí)算法[J];高技術(shù)通訊;2002年01期

中國重要會議論文全文數(shù)據(jù)庫 前10條

1 房毅憲;王寶文;王永茂;;基于偏差遞歸神經(jīng)網(wǎng)絡(luò)的股價預(yù)測(英文)[A];計算機技術(shù)與應(yīng)用進(jìn)展——全國第17屆計算機科學(xué)與技術(shù)應(yīng)用（CACIS）學(xué)術(shù)會議論文集（上冊）[C];2006年

2 劉勇;沈毅;胡恒章;;遞歸神經(jīng)網(wǎng)絡(luò)自適應(yīng)濾波器[A];1998年中國智能自動化學(xué)術(shù)會議論文集（上冊）[C];1998年

3 趙英凱;蔡寧;;基于對角遞歸神經(jīng)網(wǎng)絡(luò)的肟化投酮量在線預(yù)估[A];1998年中國智能自動化學(xué)術(shù)會議論文集（上冊）[C];1998年

4 李樹榮;李峰;;基于動態(tài)遞歸神經(jīng)網(wǎng)絡(luò)的非線性系統(tǒng)重構(gòu)[A];1998年中國控制會議論文集[C];1998年

5 史志偉;韓敏;;應(yīng)用遞歸神經(jīng)網(wǎng)絡(luò)建立非線性結(jié)構(gòu)系統(tǒng)模型[A];第二十三屆中國控制會議論文集（下冊）[C];2004年

6 叢爽;戴誼;;遞歸神經(jīng)網(wǎng)絡(luò)逼近性能的研究[A];'2006系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)交流會論文集[C];2006年

7 呂進(jìn);郭晨;劉雨;;基于不完全遞歸神經(jīng)網(wǎng)絡(luò)的二階導(dǎo)數(shù)多步預(yù)測模糊控制及應(yīng)用[A];2007年中國智能自動化會議論文集[C];2007年

8 蒲興成;;時變時滯不確定遞歸神經(jīng)網(wǎng)絡(luò)漸近穩(wěn)定的一個充分條件[A];2008’“先進(jìn)集成技術(shù)”院士論壇暨第二屆儀表、自動化與先進(jìn)集成技術(shù)大會論文集[C];2008年

9 仉寶玉;吳志敏;;基于對角遞歸神經(jīng)網(wǎng)絡(luò)的智能PID控制[A];'2003系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)交流會論文集[C];2003年

10 沈艷;謝美萍;;基于遞歸神經(jīng)網(wǎng)絡(luò)的船舶運動極短期建模預(yù)報[A];第二屆全國信息獲取與處理學(xué)術(shù)會議論文集[C];2004年

中國博士學(xué)位論文全文數(shù)據(jù)庫 前10條

1 趙永昌;一類時滯靜態(tài)遞歸神經(jīng)網(wǎng)絡(luò)的動力學(xué)行為研究[D];中國海洋大學(xué);2010年

2 高海賓;擾動作用下遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性研究[D];燕山大學(xué);2006年

3 黃玉嬌;具有廣義分段線性激活函數(shù)的遞歸神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性分析[D];東北大學(xué);2014年

4 徐東坡;遞歸神經(jīng)網(wǎng)絡(luò)梯度學(xué)習(xí)算法的收斂性[D];大連理工大學(xué);2009年

5 于佳麗;遞歸神經(jīng)網(wǎng)絡(luò)的連續(xù)吸引子與模糊控制[D];電子科技大學(xué);2009年

6 王芬;遞歸神經(jīng)網(wǎng)絡(luò)的動力學(xué)行為分析[D];武漢科技大學(xué);2011年

7 季策;時滯遞歸神經(jīng)網(wǎng)絡(luò)的動態(tài)特性研究[D];東北大學(xué);2005年

8 徐軍;遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];浙江大學(xué);2007年

9 張銳;幾類遞歸神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性及其應(yīng)用研究[D];東北大學(xué);2010年

10 張益軍;時滯遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析及網(wǎng)絡(luò)化同步控制[D];東華大學(xué);2008年

中國碩士學(xué)位論文全文數(shù)據(jù)庫 前10條

1 柳玉華;一種遞歸神經(jīng)網(wǎng)絡(luò)方法研究及其在非線性系統(tǒng)跟蹤控制中的應(yīng)用[D];江西理工大學(xué);2015年

2 羅威威;全局指數(shù)穩(wěn)定的遞歸神經(jīng)網(wǎng)絡(luò)的魯棒性分析[D];中國礦業(yè)大學(xué);2015年

3 楊渺渺;具有時滯的遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];電子科技大學(xué);2015年

4 崔志超;基于產(chǎn)品特征的中文評論情感分析系統(tǒng)設(shè)計與實現(xiàn)[D];河北科技大學(xué);2015年

5 余仕敏;基于遞歸神經(jīng)網(wǎng)絡(luò)的廣告點擊率預(yù)估[D];浙江理工大學(xué);2016年

6 宛立達(dá);基于振動信號分析的故障診斷理論與應(yīng)用[D];東北石油大學(xué);2010年

7 李克強;基于Spark的大規(guī)模RNNLM系統(tǒng)[D];江蘇大學(xué);2016年

8 謝偉浩;基于多尺度時間遞歸神經(jīng)網(wǎng)絡(luò)的人群異常檢測[D];廣東工業(yè)大學(xué);2016年

9 葛洋;多時滯遞歸神經(jīng)網(wǎng)絡(luò)的指數(shù)穩(wěn)定性研究[D];曲阜師范大學(xué);2010年

10 張欣;遞歸神經(jīng)網(wǎng)絡(luò)的研究及在非線性動態(tài)系統(tǒng)辨識中的應(yīng)用[D];太原理工大學(xué);2005年

，

本文編號：618039