面向聊天機(jī)器人的情緒識(shí)別技術(shù)研究
【文章頁(yè)數(shù)】:55 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2-2RNN模型時(shí)間展開(kāi)結(jié)構(gòu)示意圖
哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文圖2-2RNN模型時(shí)間展開(kāi)結(jié)構(gòu)示意圖長(zhǎng)久的應(yīng)用實(shí)踐表明,RNN能有效處理時(shí)間序列相關(guān)問(wèn)題,但是RNN同前饋神經(jīng)網(wǎng)絡(luò)一樣,也存在梯度消失的問(wèn)題,而RNN模型的變種LSTM則較好的解決了這個(gè)問(wèn)題。2.2.2長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)RNN十分適合處理時(shí)間序列相關(guān)問(wèn)題....
圖2-3LSTM單元結(jié)構(gòu)示意圖
哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文圖2-3LSTM單元結(jié)構(gòu)示意圖輸入門(mén)對(duì)應(yīng)圖2-3中的i(t),具體負(fù)責(zé)控制有多少新信息可以流入當(dāng)前時(shí)刻的單元狀態(tài)c(t),定義如公式(2-4)所示:i(t)=σ(Wih(t1)+Uix(t)+bi)(2-4)輸入門(mén)控制下流入的新信息對(duì)應(yīng)圖2-3中的a....
圖4-3Luong等人提出的局部注意力的結(jié)構(gòu)圖[42]
哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文x1x2x3xT+αt,1αt,2αt,3αt,Tyt-1yth1h2h3hTh1h2h3hTst-1st圖4-2Bahdanau等人將注意力機(jī)制應(yīng)用到編碼器-解碼器框架的模型結(jié)構(gòu)圖[39]可以無(wú)視距離直接進(jìn)行兩兩交互,并且利用掩碼矩陣還可以實(shí)現(xiàn)僅保....
本文編號(hào):3949836
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3949836.html