本文關(guān)鍵詞：基于深度神經(jīng)網(wǎng)絡(luò)的嵌入式向量及話題模型

  更多相關(guān)文章： 話題模型 遞歸神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí) 反饋機(jī)制 嵌入式

【摘要】：在對(duì)文檔集合進(jìn)行話題分析的過程中,為描述文檔中單詞間的依賴關(guān)系,提高話題分析的效果,提出一種基于反饋遞歸神經(jīng)網(wǎng)絡(luò)的嵌入式向量生成及話題模型。在將單詞表示為One-hot向量后,采用遞歸神經(jīng)網(wǎng)絡(luò)將文檔嵌入在低維的向量空間。在文檔的嵌入式向量計(jì)算過程中,采用LSTM(long short-term memory)描述單詞間的前向依賴關(guān)系,提出一種反饋神經(jīng)網(wǎng)絡(luò)用于描述單詞間的后向依賴關(guān)系。在話題分析模型中,采用原文檔和變異文檔對(duì)作為正樣本,采用原文檔和隨機(jī)文檔對(duì)作為負(fù)樣本進(jìn)行模型的訓(xùn)練。實(shí)驗(yàn)結(jié)果表明,該方法時(shí)間和空間復(fù)雜度低,具有更好的話題分析效果。
【作者單位】： 河南工程學(xué)院計(jì)算機(jī)學(xué)院;北京理工大學(xué)計(jì)算機(jī)學(xué)院;
【關(guān)鍵詞】： 話題模型 遞歸神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí) 反饋機(jī)制 嵌入式
【基金】：河南省高等學(xué)校重點(diǎn)科研基金項(xiàng)目(15A520054) 河南省科技廳科技計(jì)劃課題基金項(xiàng)目(112102310550)
【分類號(hào)】：TP391.1;TP183
【正文快照】： 0引言自然語(yǔ)言處理[1,2]是一門關(guān)于語(yǔ)言學(xué)、統(tǒng)計(jì)學(xué)、計(jì)算機(jī)科學(xué)、人工智能等研究領(lǐng)域的交叉學(xué)科,采用統(tǒng)計(jì)學(xué)的相關(guān)原理對(duì)語(yǔ)言文本進(jìn)行分析是當(dāng)前研究人員普遍采用的工具之一。采用詞頻向量對(duì)文檔的話題進(jìn)行分析時(shí),常用的方法有潛在語(yǔ)義分析(latent semantic analysis,LSA)[3]

【參考文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前6條

1 陳永恒;左祥麟;林耀進(jìn);;在線增量標(biāo)簽主題模型[J];吉林大學(xué)學(xué)報(bào)(理學(xué)版);2015年05期

2 陳永恒;左萬(wàn)利;林耀進(jìn);;作者標(biāo)簽主題模型在科技文獻(xiàn)中的應(yīng)用[J];計(jì)算機(jī)應(yīng)用;2015年04期

3 李生;;自然語(yǔ)言處理的研究與發(fā)展[J];燕山大學(xué)學(xué)報(bào);2013年05期

4 張晨逸;孫建伶;丁軼群;;基于MB-LDA模型的微博主題挖掘[J];計(jì)算機(jī)研究與發(fā)展;2011年10期

5 徐戈;王厚峰;;自然語(yǔ)言處理中主題模型的發(fā)展[J];計(jì)算機(jī)學(xué)報(bào);2011年08期

6 黃承慧;印鑒;侯f ;;一種結(jié)合詞項(xiàng)語(yǔ)義信息和TF-IDF方法的文本相似度量方法[J];計(jì)算機(jī)學(xué)報(bào);2011年05期

【共引文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條

1 何永強(qiáng);秦勤;王俊鵬;;基于深度神經(jīng)網(wǎng)絡(luò)的嵌入式向量及話題模型[J];計(jì)算機(jī)工程與設(shè)計(jì);2016年12期

2 胡菊香;呂學(xué)強(qiáng);徐麗萍;;面向?qū)＠募夹g(shù)主題檢測(cè)[J];計(jì)算機(jī)工程與設(shè)計(jì);2016年12期

3 王華秋;殷志恒;;采用自適應(yīng)聚類的教學(xué)視頻關(guān)鍵幀研究[J];計(jì)算機(jī)時(shí)代;2016年12期

4 高章敏;何祥;劉嘉勇;湯殿華;;基于主題模型的中文詞義歸納[J];四川大學(xué)學(xué)報(bào)(自然科學(xué)版);2016年06期

5 邵華;李楊;丁遠(yuǎn);劉鳳臣;;基于詞對(duì)主題模型的中分辨率遙感影像土地利用分類[J];農(nóng)業(yè)工程學(xué)報(bào);2016年22期

6 王亞民;胡悅;;基于BTM的微博輿情熱點(diǎn)發(fā)現(xiàn)[J];情報(bào)雜志;2016年11期

7 王華秋;聶珍;;快速搜索密度峰值聚類在圖像檢索中的應(yīng)用[J];計(jì)算機(jī)工程與設(shè)計(jì);2016年11期

8 依不拉音·烏斯曼;王悅;;面向維吾爾跨文字搜索引擎的統(tǒng)一轉(zhuǎn)換機(jī)制設(shè)計(jì)[J];計(jì)算機(jī)科學(xué);2016年S2期

9 Yonggan Li;Xueguang Zhou;Yan Sun;Huanguo Zhang;;Design and Implementation of Weibo Sentiment Analysis Based on LDA and Dependency Parsing[J];中國(guó)通信;2016年11期

10 袁m;;微博用戶關(guān)系提取與推薦的軟件系統(tǒng)[J];電子科學(xué)技術(shù);2016年06期

【二級(jí)參考文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前7條

1 史慶偉;李艷妮;郭朋亮;;科技文獻(xiàn)中作者研究興趣動(dòng)態(tài)發(fā)現(xiàn)[J];計(jì)算機(jī)應(yīng)用;2013年11期

2 胡艷麗;白亮;張維明;;網(wǎng)絡(luò)輿情中一種基于OLDA的在線話題演化方法[J];國(guó)防科技大學(xué)學(xué)報(bào);2012年01期

3 單斌;李芳;;基于LDA話題演化研究方法綜述[J];中文信息學(xué)報(bào);2010年06期

4 曹娟;張勇東;李錦濤;唐勝;;一種基于密度的自適應(yīng)最優(yōu)LDA模型選擇方法[J];計(jì)算機(jī)學(xué)報(bào);2008年10期

5 石晶;胡明;石鑫;戴國(guó)忠;;基于LDA模型的文本分割[J];計(jì)算機(jī)學(xué)報(bào);2008年10期

6 李文波;孫樂;張大鯤;;基于Labeled-LDA模型的文本分類新算法[J];計(jì)算機(jī)學(xué)報(bào);2008年04期

7 劉桃;劉秉權(quán);徐志明;王曉龍;;領(lǐng)域術(shù)語(yǔ)自動(dòng)抽取及其在文本分類中的應(yīng)用[J];電子學(xué)報(bào);2007年02期

【相似文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條

1 金仁貴;;帶有偏差單元的遞歸神經(jīng)網(wǎng)絡(luò)在故障診斷方面的應(yīng)用[J];電腦知識(shí)與技術(shù);2006年29期

2 陳鋼;王占山;;連續(xù)時(shí)間遞歸神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[J];沈陽(yáng)理工大學(xué)學(xué)報(bào);2007年02期

3 汪曉夢(mèng);;帶有偏差單元的遞歸神經(jīng)網(wǎng)絡(luò)在故障診斷方面的應(yīng)用優(yōu)化[J];甘肅聯(lián)合大學(xué)學(xué)報(bào)(自然科學(xué)版);2010年05期

4 杜艷可;徐瑞;;具有時(shí)滯的遞歸神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)研究進(jìn)展[J];北華大學(xué)學(xué)報(bào)(自然科學(xué)版);2012年01期

5 蔣洪睿,莫瑋,李麗;遞歸神經(jīng)網(wǎng)絡(luò)自適應(yīng)均衡抗突發(fā)干擾研究[J];電訊技術(shù);2000年01期

6 宋軼民,余躍慶,張策,馬文貴;動(dòng)態(tài)遞歸神經(jīng)網(wǎng)絡(luò)及其在機(jī)敏機(jī)構(gòu)辨識(shí)中的應(yīng)用[J];機(jī)械科學(xué)與技術(shù);2001年04期

7 張奇志,賈永樂,周雅莉;噪聲有源控制的遞歸神經(jīng)網(wǎng)絡(luò)方法[J];控制與決策;2001年03期

8 李峰,李樹榮;基于動(dòng)態(tài)遞歸神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)矩陣控制[J];石油大學(xué)學(xué)報(bào)(自然科學(xué)版);2001年03期

9 唐普英,李紹榮,黃順吉;一種新的復(fù)值遞歸神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法及其應(yīng)用[J];信號(hào)處理;2001年06期

10 文敦偉,蔡自興;遞歸神經(jīng)網(wǎng)絡(luò)的模糊隨機(jī)學(xué)習(xí)算法[J];高技術(shù)通訊;2002年01期

中國(guó)重要會(huì)議論文全文數(shù)據(jù)庫(kù) 前10條

1 房毅憲;王寶文;王永茂;;基于偏差遞歸神經(jīng)網(wǎng)絡(luò)的股價(jià)預(yù)測(cè)(英文)[A];計(jì)算機(jī)技術(shù)與應(yīng)用進(jìn)展——全國(guó)第17屆計(jì)算機(jī)科學(xué)與技術(shù)應(yīng)用（CACIS）學(xué)術(shù)會(huì)議論文集（上冊(cè)）[C];2006年

2 劉勇;沈毅;胡恒章;;遞歸神經(jīng)網(wǎng)絡(luò)自適應(yīng)濾波器[A];1998年中國(guó)智能自動(dòng)化學(xué)術(shù)會(huì)議論文集（上冊(cè)）[C];1998年

3 趙英凱;蔡寧;;基于對(duì)角遞歸神經(jīng)網(wǎng)絡(luò)的肟化投酮量在線預(yù)估[A];1998年中國(guó)智能自動(dòng)化學(xué)術(shù)會(huì)議論文集（上冊(cè)）[C];1998年

4 李樹榮;李峰;;基于動(dòng)態(tài)遞歸神經(jīng)網(wǎng)絡(luò)的非線性系統(tǒng)重構(gòu)[A];1998年中國(guó)控制會(huì)議論文集[C];1998年

5 史志偉;韓敏;;應(yīng)用遞歸神經(jīng)網(wǎng)絡(luò)建立非線性結(jié)構(gòu)系統(tǒng)模型[A];第二十三屆中國(guó)控制會(huì)議論文集（下冊(cè)）[C];2004年

6 叢爽;戴誼;;遞歸神經(jīng)網(wǎng)絡(luò)逼近性能的研究[A];'2006系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)交流會(huì)論文集[C];2006年

7 呂進(jìn);郭晨;劉雨;;基于不完全遞歸神經(jīng)網(wǎng)絡(luò)的二階導(dǎo)數(shù)多步預(yù)測(cè)模糊控制及應(yīng)用[A];2007年中國(guó)智能自動(dòng)化會(huì)議論文集[C];2007年

8 蒲興成;;時(shí)變時(shí)滯不確定遞歸神經(jīng)網(wǎng)絡(luò)漸近穩(wěn)定的一個(gè)充分條件[A];2008’“先進(jìn)集成技術(shù)”院士論壇暨第二屆儀表、自動(dòng)化與先進(jìn)集成技術(shù)大會(huì)論文集[C];2008年

9 仉寶玉;吳志敏;;基于對(duì)角遞歸神經(jīng)網(wǎng)絡(luò)的智能PID控制[A];'2003系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)交流會(huì)論文集[C];2003年

10 沈艷;謝美萍;;基于遞歸神經(jīng)網(wǎng)絡(luò)的船舶運(yùn)動(dòng)極短期建模預(yù)報(bào)[A];第二屆全國(guó)信息獲取與處理學(xué)術(shù)會(huì)議論文集[C];2004年

中國(guó)博士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條

1 趙永昌;一類時(shí)滯靜態(tài)遞歸神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為研究[D];中國(guó)海洋大學(xué);2010年

2 高海賓;擾動(dòng)作用下遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性研究[D];燕山大學(xué);2006年

3 黃玉嬌;具有廣義分段線性激活函數(shù)的遞歸神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性分析[D];東北大學(xué);2014年

4 徐東坡;遞歸神經(jīng)網(wǎng)絡(luò)梯度學(xué)習(xí)算法的收斂性[D];大連理工大學(xué);2009年

5 于佳麗;遞歸神經(jīng)網(wǎng)絡(luò)的連續(xù)吸引子與模糊控制[D];電子科技大學(xué);2009年

6 王芬;遞歸神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為分析[D];武漢科技大學(xué);2011年

7 季策;時(shí)滯遞歸神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)特性研究[D];東北大學(xué);2005年

8 徐軍;遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];浙江大學(xué);2007年

9 張銳;幾類遞歸神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性及其應(yīng)用研究[D];東北大學(xué);2010年

10 張益軍;時(shí)滯遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析及網(wǎng)絡(luò)化同步控制[D];東華大學(xué);2008年

中國(guó)碩士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條

1 柳玉華;一種遞歸神經(jīng)網(wǎng)絡(luò)方法研究及其在非線性系統(tǒng)跟蹤控制中的應(yīng)用[D];江西理工大學(xué);2015年

2 羅威威;全局指數(shù)穩(wěn)定的遞歸神經(jīng)網(wǎng)絡(luò)的魯棒性分析[D];中國(guó)礦業(yè)大學(xué);2015年

3 楊渺渺;具有時(shí)滯的遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];電子科技大學(xué);2015年

4 崔志超;基于產(chǎn)品特征的中文評(píng)論情感分析系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[D];河北科技大學(xué);2015年

5 余仕敏;基于遞歸神經(jīng)網(wǎng)絡(luò)的廣告點(diǎn)擊率預(yù)估[D];浙江理工大學(xué);2016年

6 宛立達(dá);基于振動(dòng)信號(hào)分析的故障診斷理論與應(yīng)用[D];東北石油大學(xué);2010年

7 李克強(qiáng);基于Spark的大規(guī)模RNNLM系統(tǒng)[D];江蘇大學(xué);2016年

8 謝偉浩;基于多尺度時(shí)間遞歸神經(jīng)網(wǎng)絡(luò)的人群異常檢測(cè)[D];廣東工業(yè)大學(xué);2016年

9 葛洋;多時(shí)滯遞歸神經(jīng)網(wǎng)絡(luò)的指數(shù)穩(wěn)定性研究[D];曲阜師范大學(xué);2010年

10 張欣;遞歸神經(jīng)網(wǎng)絡(luò)的研究及在非線性動(dòng)態(tài)系統(tǒng)辨識(shí)中的應(yīng)用[D];太原理工大學(xué);2005年

，

本文編號(hào)：618039