隨著移動互聯(lián)網(wǎng)的發(fā)展,每天各行各業(yè)都有大量的交互數(shù)據(jù)產(chǎn)生。通過對這些數(shù)據(jù)的利用,不斷涌現(xiàn)出以便利人們生活為宗旨的智能輔助決策系統(tǒng),如百度地圖的智能導(dǎo)航系統(tǒng)、蘋果公司的siri等。然而在電信行業(yè)中這種智能輔助決策的功能還在起步階段,在此背景下,中國移動期望通過對客戶的來電意圖進行分析以合理的制定業(yè)務(wù),改善業(yè)務(wù)體系,建設(shè)智能語音客服系統(tǒng)以便更好的服務(wù)客戶。因此,本人設(shè)計并實現(xiàn)了一種通過對客服語料進行意圖分析進而輔助中國移動進行業(yè)務(wù)決策的系統(tǒng)。本系統(tǒng)的核心任務(wù)是意圖分析,分為兩個部分。一部分對人人對話的來電原因進行分類,該數(shù)據(jù)是一種結(jié)構(gòu)化的數(shù)據(jù)。通過對數(shù)據(jù)的分析,針對這種類型的數(shù)據(jù),本文提出以具有層級結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型為基礎(chǔ),增加多元化的詞表示,并使用模型融合的方式進行分類。另一部分是對人機對話進行意圖識別,包括兩個子任務(wù),分別是意圖分類和槽值對的提取。針對短文本的意圖分類,本文使用多個簡單的分類模型從不同維度進行建模,并使用模型融合的方式得到最終的意圖分類結(jié)果。對于槽值對的提取,根據(jù)中國移動的業(yè)務(wù)規(guī)定所設(shè)定的語義槽,本文采用對大規(guī)模語料進行話術(shù)總結(jié),最終使用規(guī)則的方式進行提取。本文在對于對... 

【文章來源】：北京交通大學(xué)北京市 211工程院校 教育部直屬院校

【文章頁數(shù)】：121 頁

【學(xué)位級別】：碩士

【部分圖文】：

cBOW模型結(jié)構(gòu)

（１）取消了神經(jīng)網(wǎng)絡(luò)語言模型（Ｎｅｕｒａｌ?Ｎｅｔ?Ｌａｎｇｕａｇｅ?Ｍｏｄｅｌ，ＮＮＬＭ）中的隱??層，直接將輸入層和輸出層相連。??（２）求語境上下文向量的時候，語境內(nèi)的詞序己經(jīng)被丟棄。??（３）最終的目標(biāo)函數(shù)仍然是語言模型的目標(biāo)函數(shù)，所以需要順序遍歷語料中??每一個詞。??這三個特點保證了?ｗｏｒｄ２ｖｅＣ詞矢量訓(xùn)練的快捷性和有效性。??．３?ＣＮＮ算法描述??卷積神經(jīng)網(wǎng)絡(luò)最早是應(yīng)用在圖像識別領(lǐng)域中的。其廣泛的應(yīng)用來自于對人識??圖像的機制的擬合，從局部感知野到權(quán)值共享到采樣結(jié)構(gòu)，都是擬合人在識別??像時的某種生理機制。與圖像處理不同，對于自然語言處理任務(wù)來說，卷積神??網(wǎng)絡(luò)的應(yīng)用更多的是對輸入句子或文本的詞與詞之間特征的表示行為。以Ｋｉｍ［１２］??文本分類使用的卷積網(wǎng)絡(luò)為例，簡單描述ＣＮＮ如何處理ＮＬＰ任務(wù)。??

?北京交通大學(xué)碩士專業(yè)學(xué)位論文???２．４?ＬＳＴＭ算法描述??ＬＳＴＭ是一種特殊的ＲＮＮ，它能夠?qū)W習(xí)長期依賴關(guān)系，對于長文本分類或者??具有結(jié)構(gòu)化的數(shù)據(jù)能夠較好的學(xué)習(xí)詞與詞之間的關(guān)系，目前被廣泛應(yīng)用于ＮＬＰ問??題中。ＬＳＴＭ之所以能夠解決長時依賴問題，與其內(nèi)部所含的三個門結(jié)構(gòu)密切相關(guān)，??使用三個門來控制ＬＳＴＭ中細(xì)胞的狀態(tài)，來控制信息的通過或遺忘，下面將詳細(xì)??描述ＬＳＴＭ的內(nèi)部構(gòu)造。??如圖２－５所示，該圖分別包括四個子圖，分別代表ＬＳＴＭ的遺忘門，輸入門，??狀態(tài)更新以及最終的輸出門。對于每一個門其中所涉及的計算單元都加粗表示了，??表示上一時刻的輸出，；ｃ，表示當(dāng)前時刻的輸入，是上一時刻ＬＳＴＭ的細(xì)胞??狀態(tài)。而Ｃ，和／ｚ，則分別表示當(dāng)前的細(xì)胞狀態(tài)和當(dāng)前細(xì)胞的輸出。??

【參考文獻(xiàn)】：
期刊論文
[1]試談前后端分離及基于前端MVC框架的開發(fā)[J]. 林嘉婷.  電腦編程技巧與維護. 2016(23)
[2]基于Docker容器的Web集群設(shè)計與實現(xiàn)[J]. 劉熙,胡志勇.  電子設(shè)計工程. 2016(08)
[3]企業(yè)IT基礎(chǔ)架構(gòu)設(shè)計原則研究[J]. 劉晨鑫.  黑龍江科技信息. 2016(10)
[4]基于Django和Python的Web開發(fā)[J]. 王冉陽.  電腦編程技巧與維護. 2009(02)
[5]英文文語轉(zhuǎn)換系統(tǒng)中基于決策樹的詞性標(biāo)注的非監(jiān)督學(xué)習(xí)[J]. 王永生,柴佩琪.  計算機應(yīng)用. 2006(03)
[6]使用最大熵模型進行中文文本分類[J]. 李榮陸,王建會,陳曉云,陶曉鵬,胡運發(fā).  計算機研究與發(fā)展. 2005(01)
[7]MVC模式研究的綜述[J]. 任中方,張華,閆明松,陳世福.  計算機應(yīng)用研究. 2004(10)
[8]數(shù)據(jù)倉庫與數(shù)據(jù)發(fā)掘的應(yīng)用[J]. 許向東,張全壽.  計算機系統(tǒng)應(yīng)用. 1998(04)



本文編號：3522991