本文關(guān)鍵詞：基于表示學(xué)習(xí)的情感分析關(guān)鍵技術(shù)研究　出處：《哈爾濱工業(yè)大學(xué)》2017年博士論文　論文類型：學(xué)位論文

  更多相關(guān)文章： 情感分析 表示學(xué)習(xí) 詞向量 深度神經(jīng)網(wǎng)絡(luò)

【摘要】：文本情感分析技術(shù)可以挖掘互聯(lián)網(wǎng)文本中蘊(yùn)含的情感信息,使我們高效的了解人們針對某實(shí)體的觀點(diǎn),并根據(jù)這些觀點(diǎn)做出決策。然而當(dāng)今互聯(lián)網(wǎng)應(yīng)用中的文本特點(diǎn)卻對傳統(tǒng)情感分析技術(shù)形成了挑戰(zhàn):首先,無標(biāo)注文本的數(shù)量越來越多,標(biāo)注文本卻始終稀缺,如何利用無標(biāo)注數(shù)據(jù)提高情感分析方法的性能,是目前亟待解決的問題;此外,文本變得簡潔且隨意,這使得基于詞袋的傳統(tǒng)特征面臨嚴(yán)重的稀疏性問題;另外,不同應(yīng)用場景的互聯(lián)網(wǎng)產(chǎn)品層出不窮,針對性的特征工程耗時(shí)較長,難以適應(yīng)快速迭代的文本的分析需求。詞向量特征(即詞的分布式特征表示)可利用無監(jiān)督方法訓(xùn)練得到,可以有效利用大量無標(biāo)注數(shù)據(jù);相似的詞對應(yīng)的詞向量相似,因而,詞向量作為特征可以起到平滑的作用,緩解稀疏性問題;基于深度神經(jīng)網(wǎng)絡(luò)的方法可以組合詞向量,自動(dòng)學(xué)習(xí)文本的抽象表示,無需耗費(fèi)人力設(shè)計(jì)特征。因而,基于分布式特征表示和深度神經(jīng)網(wǎng)絡(luò)的表示學(xué)習(xí)技術(shù),具有解決文本情感分析所面臨的一系列問題的潛力。論文主要研究如何利用表示學(xué)習(xí)技術(shù)解決情感分析中的若干關(guān)鍵問題。具體的,我們研究了利用含有門控操作的循環(huán)神經(jīng)網(wǎng)絡(luò)組合模型進(jìn)行句子表示、句子序列的表示、詞表示的方法以及詞表示的改進(jìn)策略,并將其應(yīng)用于情感分析中的句子情感極性分類、情感表達(dá)抽取、情感對象屬性抽取和多輪對話中的情緒預(yù)測四個(gè)任務(wù)。本文的主要內(nèi)容包括以下四個(gè)方面。針對互聯(lián)網(wǎng)短文本表達(dá)多樣且規(guī)范性差帶來的極性分類特征稀疏問題,本文提出了利用基于門控操作的循環(huán)網(wǎng)絡(luò)組合模型進(jìn)行情感語義表示學(xué)習(xí)的方法,并利用情感信息的抽象表示進(jìn)行情感極性分類。實(shí)驗(yàn)表明,這一方法可以有效識別文本的極性類別。此外,文本對網(wǎng)絡(luò)訓(xùn)練過程中的詞向量變化進(jìn)行了研究,并結(jié)合長短時(shí)記憶單元的內(nèi)部結(jié)構(gòu),對二者協(xié)同作用,模擬詞與詞間交互的機(jī)制進(jìn)行了探討。文本中的情感表達(dá)方式多種多樣,難以總結(jié)其共性,隱式的情感表達(dá)往往不含情感詞,更不易被傳統(tǒng)的詞袋特征所覆蓋,且現(xiàn)有表示學(xué)習(xí)方法靈活性不足。為了解決這一問題,本文提出了基于長短時(shí)記憶網(wǎng)絡(luò)的序列標(biāo)注方法,以學(xué)習(xí)詞的抽象語義表示,進(jìn)而完成識別和抽取。實(shí)驗(yàn)表明,通過引入雙向連接網(wǎng)絡(luò)結(jié)構(gòu),長短時(shí)記憶網(wǎng)絡(luò)可以有效提高情感表達(dá)的抽取性能。此外,還針對長短時(shí)記憶網(wǎng)絡(luò)有能力進(jìn)行信號分離和信息選擇的特點(diǎn)進(jìn)行了研究,探討了該結(jié)構(gòu)在序列標(biāo)注過程中的優(yōu)勢。情感對象的屬性識別與候選文本中的詞的聯(lián)系密切,因而,詞向量的質(zhì)量直接影響著抽取的性能,但詞向量作為詞的分布式表示,本身存在諸多問題:其向量表示與對應(yīng)詞的功能間存在鴻溝,統(tǒng)計(jì)信息缺失,且具有意義上和功能上的歧義性。為解決這些問題,論文針對性的引入了基于依存句法的詞向量和基于外積矩陣的擴(kuò)展方法,并提出了基于長短時(shí)記憶單元特化輸入門的詞向量特化策略。實(shí)驗(yàn)表明,這些方法能夠有效改善詞向量,并提高屬性抽取模型的性能。發(fā)現(xiàn)人機(jī)多輪對話中的用戶負(fù)面情緒,可以為對話技術(shù)的評價(jià)和改進(jìn)提供依據(jù)。然而,現(xiàn)有人機(jī)交互的方式使得我們難以直接獲得用戶的負(fù)面反饋。通過多輪對話的上下文預(yù)測用戶的情緒則是獲得此類信息的一種方法。我們對多輪對話的已知句子中可能影響用戶情緒的多種因素提出假設(shè),并針對性的建立了神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)這些因素的抽象表示,用以預(yù)測用戶的情緒反饋。實(shí)驗(yàn)結(jié)果表明,基于卷積循環(huán)神經(jīng)網(wǎng)絡(luò)的方法可以有效表示多輪對話中的文本序列和關(guān)系序列,從而并對用戶情緒做出有效預(yù)測。
【學(xué)位授予單位】：哈爾濱工業(yè)大學(xué)
【學(xué)位級別】：博士
【學(xué)位授予年份】：2017
【分類號】：TP391.1

【相似文獻(xiàn)】

中國期刊全文數(shù)據(jù)庫 前10條

1 楊曉帥 ,付玫;神經(jīng)網(wǎng)絡(luò)技術(shù)讓管理更輕松[J];軟件世界;2000年11期

2 云中客;新的神經(jīng)網(wǎng)絡(luò)來自于仿生學(xué)[J];物理;2001年10期

3 唐春明,高協(xié)平;進(jìn)化神經(jīng)網(wǎng)絡(luò)的研究進(jìn)展[J];系統(tǒng)工程與電子技術(shù);2001年10期

4 李智;一種基于神經(jīng)網(wǎng)絡(luò)的煤炭調(diào)運(yùn)優(yōu)化方法[J];長沙鐵道學(xué)院學(xué)報(bào);2003年02期

5 程科,王士同,楊靜宇;新型模糊形態(tài)神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];計(jì)算機(jī)工程與應(yīng)用;2004年21期

6 王凡,孟立凡;關(guān)于使用神經(jīng)網(wǎng)絡(luò)推定操作者疲勞的研究[J];人類工效學(xué);2004年03期

7 周麗暉;從統(tǒng)計(jì)角度看神經(jīng)網(wǎng)絡(luò)[J];統(tǒng)計(jì)教育;2005年06期

8 趙奇 ,劉開第 ,龐彥軍;灰色補(bǔ)償神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];微計(jì)算機(jī)信息;2005年14期

9 袁婷;;神經(jīng)網(wǎng)絡(luò)在股票市場預(yù)測中的應(yīng)用[J];軟件導(dǎo)刊;2006年05期

10 尚晉;楊有;;從神經(jīng)網(wǎng)絡(luò)的過去談科學(xué)發(fā)展觀[J];重慶三峽學(xué)院學(xué)報(bào);2006年03期

中國重要會議論文全文數(shù)據(jù)庫 前10條

1 徐春玉;;基于泛集的神經(jīng)網(wǎng)絡(luò)的混沌性[A];1996中國控制與決策學(xué)術(shù)年會論文集[C];1996年

2 周樹德;王巖;孫增圻;孫富春;;量子神經(jīng)網(wǎng)絡(luò)[A];2003年中國智能自動(dòng)化會議論文集（上冊）[C];2003年

3 羅山;張琳;范文新;;基于神經(jīng)網(wǎng)絡(luò)和簡單規(guī)劃的識別融合算法[A];2009系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)會議論文集[C];2009年

4 郭愛克;馬盡文;丁康;;序言(二)[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學(xué)術(shù)會議論文集[C];1999年

5 鐘義信;;知識論:神經(jīng)網(wǎng)絡(luò)的新機(jī)遇——紀(jì)念中國神經(jīng)網(wǎng)絡(luò)10周年[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學(xué)術(shù)會議論文集[C];1999年

6 許進(jìn);保錚;;神經(jīng)網(wǎng)絡(luò)與圖論[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學(xué)術(shù)會議論文集[C];1999年

7 金龍;朱詩武;趙成志;陳寧;;數(shù)值預(yù)報(bào)產(chǎn)品的神經(jīng)網(wǎng)絡(luò)釋用預(yù)報(bào)應(yīng)用[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學(xué)術(shù)會議論文集[C];1999年

8 田金亭;;神經(jīng)網(wǎng)絡(luò)在中學(xué)生創(chuàng)造力評估中的應(yīng)用[A];第十二屆全國心理學(xué)學(xué)術(shù)大會論文摘要集[C];2009年

9 唐墨;王科俊;;自發(fā)展神經(jīng)網(wǎng)絡(luò)的混沌特性研究[A];2009年中國智能自動(dòng)化會議論文集（第七分冊）[南京理工大學(xué)學(xué)報(bào)（增刊）][C];2009年

10 張廣遠(yuǎn);萬強(qiáng);曹海源;田方濤;;基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的故障診斷方法研究[A];第十二屆全國設(shè)備故障診斷學(xué)術(shù)會議論文集[C];2010年

中國重要報(bào)紙全文數(shù)據(jù)庫 前10條

1 美國明尼蘇達(dá)大學(xué)社會學(xué)博士 密西西比州立大學(xué)國家戰(zhàn)略規(guī)劃與分析研究中心資深助理研究員 陳心想;維護(hù)好創(chuàng)新的“神經(jīng)網(wǎng)絡(luò)硬件”[N];中國教師報(bào);2014年

2 盧業(yè)忠;腦控電腦 驚世駭俗[N];計(jì)算機(jī)世界;2001年

3 葛一鳴 路邊文;人工神經(jīng)網(wǎng)絡(luò)將大顯身手[N];中國紡織報(bào);2003年

4 中國科技大學(xué)計(jì)算機(jī)系　邢方亮;神經(jīng)網(wǎng)絡(luò)挑戰(zhàn)人類大腦[N];計(jì)算機(jī)世界;2003年

5 記者 孫剛;“神經(jīng)網(wǎng)絡(luò)”：打開復(fù)雜工藝“黑箱”[N];解放日報(bào);2007年

6 本報(bào)記者 劉霞;美用DNA制造出首個(gè)人造神經(jīng)網(wǎng)絡(luò)[N];科技日報(bào);2011年

7 健康時(shí)報(bào)特約記者　 張獻(xiàn)懷;干細(xì)胞移植：修復(fù)受損的神經(jīng)網(wǎng)絡(luò)[N];健康時(shí)報(bào);2006年

8 劉力;我半導(dǎo)體神經(jīng)網(wǎng)絡(luò)技術(shù)及應(yīng)用研究達(dá)國際先進(jìn)水平[N];中國電子報(bào);2001年

9 ;神經(jīng)網(wǎng)絡(luò)和模糊邏輯[N];世界金屬導(dǎo)報(bào);2002年

10 鄒麗梅 陳耀群;江蘇科大神經(jīng)網(wǎng)絡(luò)應(yīng)用研究通過鑒定[N];中國船舶報(bào);2006年

中國博士學(xué)位論文全文數(shù)據(jù)庫 前10條

1 王鑫;基于表示學(xué)習(xí)的情感分析關(guān)鍵技術(shù)研究[D];哈爾濱工業(yè)大學(xué);2017年

2 楊旭華;神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用研究[D];浙江大學(xué);2004年

3 李素芳;基于神經(jīng)網(wǎng)絡(luò)的無線通信算法研究[D];山東大學(xué);2015年

4 石艷超;憶阻神經(jīng)網(wǎng)絡(luò)的混沌性及幾類時(shí)滯神經(jīng)網(wǎng)絡(luò)的同步研究[D];電子科技大學(xué);2014年

5 王新迎;基于隨機(jī)映射神經(jīng)網(wǎng)絡(luò)的多元時(shí)間序列預(yù)測方法研究[D];大連理工大學(xué);2015年

6 付愛民;極速學(xué)習(xí)機(jī)的訓(xùn)練殘差、穩(wěn)定性及泛化能力研究[D];中國農(nóng)業(yè)大學(xué);2015年

7 李輝;基于粒計(jì)算的神經(jīng)網(wǎng)絡(luò)及集成方法研究[D];中國礦業(yè)大學(xué);2015年

8 王衛(wèi)蘋;復(fù)雜網(wǎng)絡(luò)幾類同步控制策略研究及穩(wěn)定性分析[D];北京郵電大學(xué);2015年

9 張海軍;基于云計(jì)算的神經(jīng)網(wǎng)絡(luò)并行實(shí)現(xiàn)及其學(xué)習(xí)方法研究[D];華南理工大學(xué);2015年

10 李艷晴;風(fēng)速時(shí)間序列預(yù)測算法研究[D];北京科技大學(xué);2016年

中國碩士學(xué)位論文全文數(shù)據(jù)庫 前10條

1 章穎;混合不確定性模塊化神經(jīng)網(wǎng)絡(luò)與高校效益預(yù)測的研究[D];華南理工大學(xué);2015年

2 賈文靜;基于改進(jìn)型神經(jīng)網(wǎng)絡(luò)的風(fēng)力發(fā)電系統(tǒng)預(yù)測及控制研究[D];燕山大學(xué);2015年

3 李慧芳;基于憶阻器的渦卷混沌系統(tǒng)及其電路仿真[D];西南大學(xué);2015年

4 陳彥至;神經(jīng)網(wǎng)絡(luò)降維算法研究與應(yīng)用[D];華南理工大學(xué);2015年

5 董哲康;基于憶阻器的組合電路及神經(jīng)網(wǎng)絡(luò)研究[D];西南大學(xué);2015年

6 武創(chuàng)舉;基于神經(jīng)網(wǎng)絡(luò)的遙感圖像分類研究[D];昆明理工大學(xué);2015年

7 李志杰;基于神經(jīng)網(wǎng)絡(luò)的上證指數(shù)預(yù)測研究[D];華南理工大學(xué);2015年

8 陳少吉;基于神經(jīng)網(wǎng)絡(luò)血壓預(yù)測研究與系統(tǒng)實(shí)現(xiàn)[D];華南理工大學(xué);2015年

9 張韜;幾類時(shí)滯神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];渤海大學(xué);2015年

10 邵雪瑩;幾類時(shí)滯不確定神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[D];渤海大學(xué);2015年

，

本文編號：1312204