發(fā)布時(shí)間：2020-12-20 04:33

　　隨著移動互聯(lián)網(wǎng)的不斷發(fā)展與普及,傳統(tǒng)的客服越來越不能滿足當(dāng)前的業(yè)務(wù)需求,基于語言技術(shù)的智能客服系統(tǒng)應(yīng)運(yùn)而生。在智能客服問答系統(tǒng)中,用戶的問題具有咨詢意圖復(fù)雜、上下文相關(guān)性弱、問題多樣、指代缺失、口語化嚴(yán)重等問題,造成智能客服在計(jì)算問句相似度的準(zhǔn)確率不高,容易出現(xiàn)答非所問的情況�；谠~匹配相似度計(jì)算,只從單個(gè)詞的字面意思考慮,忽略了文本的語義信息�；谠~向量相似度的方法雖然可以有效表達(dá)詞匯之間的語義關(guān)系,但忽略了兩個(gè)句子在特定語義環(huán)境下的相互作用。為了解決上述問題,本文提出了將深度學(xué)習(xí)中的一些模型引入到智能客服問題相似度識別中來。首先,本文提出基于多交互注意力卷積神經(jīng)網(wǎng)絡(luò)MA-CNN（Multi-Attention-CNN）。MA-CNN通過兩個(gè)不同位置的注意力機(jī)制,綜合考慮了兩個(gè)句子間的詞語層次、句子級別的深層語義信息,幫助智能客服多層次、多角度、多粒度地理解用戶的問題。從而改善了基于詞向量的相似度計(jì)算方法只關(guān)注了句子間詞語之間的關(guān)系,而忽略了不同句子間整體的語義聯(lián)系的問題。其次,在交互注意力機(jī)制的研究基礎(chǔ)上,本文提出一種基于雙向多注意力多循環(huán)神經(jīng)網(wǎng)絡(luò)BMA-GRU（Bilateral... 

【文章來源】：中國民航大學(xué)天津市

【文章頁數(shù)】：57 頁

【學(xué)位級別】：碩士

【部分圖文】：

CBOW模型

Skip-Gram 模型BOW 模型依然是通過目標(biāo)詞的上下文預(yù)測目標(biāo)詞的學(xué)習(xí)過程中到詞，我們通過目標(biāo)詞對目標(biāo)詞的上下文的學(xué)習(xí)過程中學(xué)習(xí)到詞向ram。Skip-Gram 模型去掉了中間隱層，簡化了結(jié)構(gòu)，減少了計(jì)算圖 2-3。公式（2.9）是 Skip-Gram 模型形式化表達(dá)。0e( | )eo io ju Vi u VjP w w = 中，iV 為iw 的輸入向量，jU 為jw 的輸出向量。輸入層W(t-2)隱層 輸出層

圖 2-5 LSTM 模型1 2{ , ,......, }mx x x 作為輸入，輸入第 t 時(shí)刻的特征，得到第 t 時(shí)刻的 LSTM態(tài)的特征值公式如下：xf t hf t 1fσW x W h b （ + +） (1( )xi t hi t iσW x W h b + + (1tanh( )xc t hc t cW x W h b + +(t t 1t tf c i + ⊙ ⊙C (1 1( )xo t ho t co t oσW x W h W c b + + + (tanh( )t t o ⊙ c(W 為 LSTM 的權(quán)值矩陣，b 為 LSTM 的偏置向量，σ 為 sigmoid 函數(shù)，⊙


本文編號：2927214