意圖識(shí)別是自然語言處理的重要組成部分,其中微博發(fā)布者的發(fā)文內(nèi)容通常隱含著社交意圖,為了準(zhǔn)確識(shí)別微博發(fā)布者的社交意圖,提出一種基于詞、句聯(lián)合訓(xùn)練的編碼器解碼器的社交意圖識(shí)別與分類的建模方法,方法綜合考慮了微博用戶的微博內(nèi)容在詞、句基礎(chǔ)上的意圖信息.實(shí)驗(yàn)表明,該模型的訓(xùn)練方法在社交意圖識(shí)別數(shù)據(jù)集上取得了93.176%的準(zhǔn)確率.
【部分圖文】：

所提模型整體結(jié)構(gòu)分為3個(gè)部分:第一部分編碼器是由BLSTM與self-attention組合的網(wǎng)絡(luò)結(jié)構(gòu)對(duì)輸入序列的每個(gè)詞進(jìn)行編碼表示,BLSTM提取輸入序列上下文的相關(guān)的全局特征,重點(diǎn)關(guān)注詞的上下文語義與語法信息,self-attention給每個(gè)詞賦予不同的權(quán)重,通過attention提取重要特征;第二部分解碼器是單向LSTM.對(duì)于輸入序列中的每一個(gè)詞進(jìn)行解碼,對(duì)每一個(gè)詞均進(jìn)行意圖識(shí)別;第三部分是輸入序列中每一個(gè)詞編碼器的隱藏狀態(tài)及解碼器的隱藏狀態(tài)加和求平均得到整個(gè)句子的隱藏狀態(tài),對(duì)句子進(jìn)行意圖識(shí)別,最終整個(gè)句子的意圖類別通過每個(gè)詞加句子的意圖結(jié)果進(jìn)行投票決定.圖1給出了模型結(jié)構(gòu).2.1 編碼器

LSTM(Long Short-Term Memory, LSTM)是一種增加了記憶功能的循環(huán)神經(jīng)網(wǎng)絡(luò)模型,在處理序列的長期依賴問題上更有優(yōu)勢(shì).一般的,LSTM單元由輸入門、遺忘門、輸出門3個(gè)門組成,輸入門決定哪些新輸入的信息允許被更新,或者被保存到記憶單元,遺忘門用于控制記憶單元是否記住或者丟棄之前的狀態(tài),輸出門決定記憶單元中哪些信息允許被輸出.一般的LSTM網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示.在t時(shí)刻LSTM單元更新的公式如(1),(2)和(3):
【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 李秀娟;田川;馮欣;;數(shù)據(jù)挖掘分類技術(shù)研究與分析[J];現(xiàn)代電子技術(shù);2010年20期

2 楊思春;戴新宇;陳家駿;;面向開放域問答的問題分類技術(shù)研究進(jìn)展[J];電子學(xué)報(bào);2015年08期

3 ;第2屆中國分類技術(shù)及應(yīng)用學(xué)術(shù)會(huì)議(CCTA2007)征文通知[J];計(jì)算機(jī)研究與發(fā)展;2006年12期

4 田艷玲;張維桐;張鍥石;路綱;吳曉軍;;圖像場(chǎng)景分類技術(shù)綜述[J];電子學(xué)報(bào);2019年04期

5 董志強(qiáng);呂鳳娟;;基于關(guān)鍵詞的Flash分類技術(shù)研究[J];中小學(xué)電教(下);2011年01期

6 黎仁國;;分類技術(shù)在數(shù)據(jù)挖掘中的應(yīng)用研究[J];科技信息;2010年24期

7 張淳;;數(shù)據(jù)挖掘分類技術(shù)在高校教學(xué)中的應(yīng)用[J];電腦知識(shí)與技術(shù);2009年24期

8 段巍巍;許海濱;;基于分類技術(shù)的目標(biāo)客戶輔助定位方法研究[J];江蘇通信;2008年03期

9 謝琰嵩;朱曉蓮;;數(shù)據(jù)流分類技術(shù)分析[J];計(jì)算機(jī)與現(xiàn)代化;2010年01期

10 倪現(xiàn)君;;基于數(shù)據(jù)挖掘分類技術(shù)的高校教學(xué)方法研究[J];科學(xué)技術(shù)與工程;2006年04期

相關(guān)博士學(xué)位論文 前5條

1 杭文龍;有監(jiān)督智能聚類與分類技術(shù)及其應(yīng)用研究[D];江南大學(xué);2017年

2 張良力;面向安全預(yù)警的機(jī)動(dòng)車駕駛意圖識(shí)別方法研究[D];武漢理工大學(xué);2011年

3 付博;面向社會(huì)媒體的用戶消費(fèi)意圖分析關(guān)鍵技術(shù)研究[D];哈爾濱工業(yè)大學(xué);2015年

4 才智杰;藏文詞向量表示關(guān)鍵技術(shù)研究[D];青海師范大學(xué);2018年

5 方蘭婷;基于機(jī)器學(xué)習(xí)的自然語言處理和傳輸技術(shù)的研究[D];東南大學(xué);2018年

相關(guān)碩士學(xué)位論文 前10條

1 楊保國;基于關(guān)鍵詞的文本流分類技術(shù)研究[D];西北農(nóng)林科技大學(xué);2011年

2 鄭錦濤;基于GPU的高性能包分類技術(shù)的研究與實(shí)現(xiàn)[D];湖南大學(xué);2016年

3 智洪欣;基于深度學(xué)習(xí)的視頻分類技術(shù)研究[D];戰(zhàn)略支援部隊(duì)信息工程大學(xué);2018年

4 黃學(xué)輝;數(shù)據(jù)挖掘分類技術(shù)在企業(yè)人才招聘中的應(yīng)用研究[D];中國海洋大學(xué);2010年

5 楊傳耀;數(shù)字圖書館及其分類技術(shù)的研究[D];福州大學(xué);2004年

6 王紅;基于內(nèi)容的中文垃圾短信分類技術(shù)的研究[D];安徽大學(xué);2011年

7 翟海濤;基于交通視頻的車輛檢測(cè)跟蹤及分類技術(shù)研究[D];蘇州大學(xué);2010年

8 王國華;智能監(jiān)控中目標(biāo)檢測(cè)與分類技術(shù)的研究[D];安徽大學(xué);2012年

9 張海笑;數(shù)據(jù)挖掘分類技術(shù)在高校教學(xué)中的應(yīng)用研究[D];廣東工業(yè)大學(xué);2005年

10 譚海龍;多維時(shí)間序列的分類技術(shù)研究[D];浙江大學(xué);2015年

本文編號(hào)：2882435