結(jié)合領(lǐng)域知識(shí)的情感原因發(fā)現(xiàn)研究
發(fā)布時(shí)間:2021-12-19 13:29
社交媒體已經(jīng)從官方的消息發(fā)布平臺(tái)發(fā)展成為大眾交流和情感表達(dá)平臺(tái)。基于自然語言處理技術(shù)的社交媒體分析、觀點(diǎn)抽取和情感分析等研究顯得愈發(fā)重要。在發(fā)現(xiàn)社交媒體文本中蘊(yùn)含的情感狀態(tài)基礎(chǔ)上,旨在深入探究情感觸發(fā)機(jī)制的情感原因發(fā)現(xiàn)問題具有重大的學(xué)術(shù)價(jià)值和應(yīng)用前景,F(xiàn)有的情感原因發(fā)現(xiàn)方法主要包括基于規(guī)則的方法、基于機(jī)器學(xué)習(xí)的方法和基于深度學(xué)習(xí)的方法;谝(guī)則的方法受限于人工總結(jié)的規(guī)則質(zhì)量和覆蓋率。基于機(jī)器學(xué)習(xí)的方法依賴于人工篩選的特征,不易建立端到端的學(xué)習(xí)模型。基于深度學(xué)習(xí)的方法則存在學(xué)習(xí)過程不易控制、可解釋性差和對(duì)高質(zhì)量標(biāo)注數(shù)據(jù)依賴的不足。針對(duì)以上問題,本文在現(xiàn)有的深度學(xué)習(xí)模型基礎(chǔ)上引入層次注意力機(jī)制以進(jìn)一步提高文本的表示能力,同時(shí)通過知識(shí)蒸餾技術(shù)引入領(lǐng)域知識(shí),從而改善模型的可控性,F(xiàn)有的情感原因發(fā)現(xiàn)方法往往存在忽略子句序列關(guān)系特征的不足。為此,本文提出一種結(jié)合位置編碼和殘差結(jié)構(gòu)的層次注意力網(wǎng)絡(luò)模型。該模型采用層次結(jié)構(gòu)的雙向門限循環(huán)單元(Bidirectional Gated Recurrent Unit,Bi-GRU)捕獲詞級(jí)和子句級(jí)的序列特征,利用注意力機(jī)制捕獲子句與情感表達(dá)之間的潛層語義表示...
【文章來源】:哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校
【文章頁數(shù)】:77 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
本文研究?jī)?nèi)容框架
哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文-12-圖2-1深度神經(jīng)網(wǎng)絡(luò)模型框架Tang等人采用一種層次結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)對(duì)文檔級(jí)別的文本建模。他們首先使用一個(gè)CNN或LSTM學(xué)習(xí)句子的向量表示,接著采用另一個(gè)LSTM編碼句子的語義信息以及句子之間的關(guān)系信息,最終獲得整個(gè)文檔的向量表示。這種自下而上的結(jié)構(gòu)更符合文本的組成結(jié)構(gòu),模型整體框架如圖2-2所示:圖2-2基于層級(jí)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的文檔級(jí)別情感分類模型[21]Wang等人使用LSTM進(jìn)行Twitter情感分類。借助LSTM中的門結(jié)構(gòu),模型可以靈活地學(xué)習(xí)單詞之間的交互信息。與傳統(tǒng)的RNN相比,LSTM中的門結(jié)構(gòu)使得詞向量之間有著更加靈活的乘性運(yùn)算而非加性運(yùn)算,可以調(diào)節(jié)序
哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文-12-圖2-1深度神經(jīng)網(wǎng)絡(luò)模型框架Tang等人采用一種層次結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)對(duì)文檔級(jí)別的文本建模。他們首先使用一個(gè)CNN或LSTM學(xué)習(xí)句子的向量表示,接著采用另一個(gè)LSTM編碼句子的語義信息以及句子之間的關(guān)系信息,最終獲得整個(gè)文檔的向量表示。這種自下而上的結(jié)構(gòu)更符合文本的組成結(jié)構(gòu),模型整體框架如圖2-2所示:圖2-2基于層級(jí)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的文檔級(jí)別情感分類模型[21]Wang等人使用LSTM進(jìn)行Twitter情感分類。借助LSTM中的門結(jié)構(gòu),模型可以靈活地學(xué)習(xí)單詞之間的交互信息。與傳統(tǒng)的RNN相比,LSTM中的門結(jié)構(gòu)使得詞向量之間有著更加靈活的乘性運(yùn)算而非加性運(yùn)算,可以調(diào)節(jié)序
【參考文獻(xiàn)】:
期刊論文
[1]基于多任務(wù)深度學(xué)習(xí)的文本情感原因分析[J]. 余傳明,李浩男,安璐. 廣西師范大學(xué)學(xué)報(bào)(自然科學(xué)版). 2019(01)
[2]基于情感詞向量的微博情感分類[J]. 杜慧,徐學(xué)可,伍大勇,劉悅,余智華,程學(xué)旗. 中文信息學(xué)報(bào). 2017(03)
[3]知識(shí)表示學(xué)習(xí)研究進(jìn)展[J]. 劉知遠(yuǎn),孫茂松,林衍凱,謝若冰. 計(jì)算機(jī)研究與發(fā)展. 2016(02)
[4]基于領(lǐng)域知識(shí)和聚類的關(guān)聯(lián)規(guī)則深層知識(shí)發(fā)現(xiàn)研究[J]. 張玲玲,周全亮,唐廣文,李興森,石勇. 中國管理科學(xué). 2015(02)
[5]基于序列標(biāo)注模型的情緒原因識(shí)別方法[J]. 李逸薇,李壽山,黃居仁,高偉. 中文信息學(xué)報(bào). 2013(05)
[6]文本情感分析[J]. 趙妍妍,秦兵,劉挺. 軟件學(xué)報(bào). 2010(08)
[7]語義關(guān)系的表達(dá)和知識(shí)系統(tǒng)的建造[J]. 董振東. 語言文字應(yīng)用. 1998(03)
[8]情感詞匯本體的構(gòu)造[J]. 徐琳宏,林鴻飛,潘宇,任惠,陳建美. 情報(bào)學(xué)報(bào). 2008 (02)
本文編號(hào):3544500
【文章來源】:哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校
【文章頁數(shù)】:77 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
本文研究?jī)?nèi)容框架
哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文-12-圖2-1深度神經(jīng)網(wǎng)絡(luò)模型框架Tang等人采用一種層次結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)對(duì)文檔級(jí)別的文本建模。他們首先使用一個(gè)CNN或LSTM學(xué)習(xí)句子的向量表示,接著采用另一個(gè)LSTM編碼句子的語義信息以及句子之間的關(guān)系信息,最終獲得整個(gè)文檔的向量表示。這種自下而上的結(jié)構(gòu)更符合文本的組成結(jié)構(gòu),模型整體框架如圖2-2所示:圖2-2基于層級(jí)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的文檔級(jí)別情感分類模型[21]Wang等人使用LSTM進(jìn)行Twitter情感分類。借助LSTM中的門結(jié)構(gòu),模型可以靈活地學(xué)習(xí)單詞之間的交互信息。與傳統(tǒng)的RNN相比,LSTM中的門結(jié)構(gòu)使得詞向量之間有著更加靈活的乘性運(yùn)算而非加性運(yùn)算,可以調(diào)節(jié)序
哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文-12-圖2-1深度神經(jīng)網(wǎng)絡(luò)模型框架Tang等人采用一種層次結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)對(duì)文檔級(jí)別的文本建模。他們首先使用一個(gè)CNN或LSTM學(xué)習(xí)句子的向量表示,接著采用另一個(gè)LSTM編碼句子的語義信息以及句子之間的關(guān)系信息,最終獲得整個(gè)文檔的向量表示。這種自下而上的結(jié)構(gòu)更符合文本的組成結(jié)構(gòu),模型整體框架如圖2-2所示:圖2-2基于層級(jí)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的文檔級(jí)別情感分類模型[21]Wang等人使用LSTM進(jìn)行Twitter情感分類。借助LSTM中的門結(jié)構(gòu),模型可以靈活地學(xué)習(xí)單詞之間的交互信息。與傳統(tǒng)的RNN相比,LSTM中的門結(jié)構(gòu)使得詞向量之間有著更加靈活的乘性運(yùn)算而非加性運(yùn)算,可以調(diào)節(jié)序
【參考文獻(xiàn)】:
期刊論文
[1]基于多任務(wù)深度學(xué)習(xí)的文本情感原因分析[J]. 余傳明,李浩男,安璐. 廣西師范大學(xué)學(xué)報(bào)(自然科學(xué)版). 2019(01)
[2]基于情感詞向量的微博情感分類[J]. 杜慧,徐學(xué)可,伍大勇,劉悅,余智華,程學(xué)旗. 中文信息學(xué)報(bào). 2017(03)
[3]知識(shí)表示學(xué)習(xí)研究進(jìn)展[J]. 劉知遠(yuǎn),孫茂松,林衍凱,謝若冰. 計(jì)算機(jī)研究與發(fā)展. 2016(02)
[4]基于領(lǐng)域知識(shí)和聚類的關(guān)聯(lián)規(guī)則深層知識(shí)發(fā)現(xiàn)研究[J]. 張玲玲,周全亮,唐廣文,李興森,石勇. 中國管理科學(xué). 2015(02)
[5]基于序列標(biāo)注模型的情緒原因識(shí)別方法[J]. 李逸薇,李壽山,黃居仁,高偉. 中文信息學(xué)報(bào). 2013(05)
[6]文本情感分析[J]. 趙妍妍,秦兵,劉挺. 軟件學(xué)報(bào). 2010(08)
[7]語義關(guān)系的表達(dá)和知識(shí)系統(tǒng)的建造[J]. 董振東. 語言文字應(yīng)用. 1998(03)
[8]情感詞匯本體的構(gòu)造[J]. 徐琳宏,林鴻飛,潘宇,任惠,陳建美. 情報(bào)學(xué)報(bào). 2008 (02)
本文編號(hào):3544500
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3544500.html
最近更新
教材專著