隨著智能手機(jī)、智能音箱等智慧終端在生活中的不斷普及,人們對(duì)這些設(shè)備的依賴(lài)逐步增加,智慧終端也發(fā)揮了越來(lái)越重要的作用。與此同時(shí),人們也面臨著數(shù)據(jù)爆炸的問(wèn)題。據(jù)估計(jì),到2025年,人類(lèi)每天將產(chǎn)生4630億字節(jié)的數(shù)據(jù)。數(shù)據(jù)的快速增長(zhǎng)導(dǎo)致現(xiàn)有的檢索信息的方式顯得繁瑣且低效。用戶借助智慧終端和互聯(lián)網(wǎng)實(shí)現(xiàn)機(jī)票預(yù)訂、外賣(mài)預(yù)訂等各項(xiàng)任務(wù),并使用備忘錄等記下各類(lèi)事務(wù),但各個(gè)應(yīng)用和軟件的信息存儲(chǔ)與查詢(xún)方式各不相同,不同的交互界面令人眼花繚亂,許多條數(shù)據(jù)羅列在一起讓人找不到頭緒。想要在短時(shí)間內(nèi)找到自己想要的記錄甚至想要的結(jié)果顯得十分困難。本課題研究一種簡(jiǎn)單、便捷、高效的方法,能以自然語(yǔ)言的形式對(duì)結(jié)構(gòu)化和非結(jié)構(gòu)化文本進(jìn)行記憶和查詢(xún)交互。可以應(yīng)用于智慧終端的智能語(yǔ)音助手,提高用戶體驗(yàn)。記憶型對(duì)話包含兩項(xiàng)任務(wù):被動(dòng)記憶任務(wù)和主動(dòng)記憶任務(wù)。被動(dòng)記憶任務(wù)的核心是自然語(yǔ)言理解,需要對(duì)查詢(xún)中意圖和語(yǔ)義槽等信息進(jìn)行有效地抽取,我們?cè)O(shè)計(jì)了意圖識(shí)別和槽位抽取聯(lián)合模型來(lái)解決。主動(dòng)記憶的核心任務(wù)是文檔檢索和閱讀理解。我們提出并構(gòu)建了主動(dòng)記憶和被動(dòng)記憶的知識(shí)庫(kù)和語(yǔ)料庫(kù),來(lái)訓(xùn)練和調(diào)整系統(tǒng)模型參數(shù),并驗(yàn)證系統(tǒng)的可行性。其中知識(shí)庫(kù)是數(shù)據(jù)庫(kù)... 

【文章來(lái)源】：哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校

【文章頁(yè)數(shù)】：61 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

基于流水線的面向任務(wù)的對(duì)話系統(tǒng)

哈爾濱工業(yè)大學(xué)工程碩士學(xué)位論文-10-圖2-1任務(wù)型對(duì)話中的對(duì)話狀態(tài)被動(dòng)記憶任務(wù)定義如下：（1）對(duì)自然語(yǔ)言查詢(xún)，識(shí)別其所在領(lǐng)域和意圖，識(shí)別所包含的非提問(wèn)槽={1,2,…,}和提問(wèn)槽，令p′=(,,)。其中=:，表示語(yǔ)義槽，表示對(duì)應(yīng)值。（2）對(duì)于給定的對(duì)話狀態(tài)集合={1,2,…,}，找到符合條件p′的對(duì)話狀態(tài)p。如果沒(méi)有則為，用戶修改查詢(xún)條件，返回（1）。如果有多條符合，則用戶修改查詢(xún)條件，直到找到唯一的對(duì)話狀態(tài)繼續(xù)。（3）對(duì)（1）的，找到（2）中相應(yīng)的，作為最終結(jié)果。2.1.2主動(dòng)記憶任務(wù)定義主動(dòng)記憶任務(wù)的目的是處理非結(jié)構(gòu)化文本的查詢(xún)，并不設(shè)定特定領(lǐng)域和任務(wù)，故是定義在通用領(lǐng)域上的。主動(dòng)記憶任務(wù)定義如下：（1）對(duì)自然語(yǔ)言查詢(xún)，給定文檔集合={1,2,…,}，找到與之最相關(guān)的文檔。（2）對(duì)于具有相關(guān)性的和，在中找到一個(gè)連續(xù)文本片段，S={,+1,…,}使之能回答的問(wèn)題，其中∈。如果找不到則拒識(shí)，回復(fù)為空。

胗衷叢床歡系乇患尤氪傭?靡越?�。因此RNN呈現(xiàn)一定的時(shí)間相關(guān)性。問(wèn)題隨即出現(xiàn)，隨著時(shí)間的推移，之前的信息在不斷的更新中被稀釋。直觀上感受，當(dāng)前時(shí)刻與頭時(shí)刻距離越遠(yuǎn)，其保留之前的信息量越少。但是在輸入序列中，可能恰好這兩者之間存在很強(qiáng)的相關(guān)性，RNN這處理這種相關(guān)性和長(zhǎng)距離依賴(lài)上，表現(xiàn)不佳。從公式上去理解，當(dāng)計(jì)算梯度回傳時(shí)，由于其在時(shí)間維度上的展開(kāi)特性，和其計(jì)算偏導(dǎo)時(shí)激活函數(shù)和矩陣的重復(fù)性，很容易導(dǎo)致矩陣的高次冪相乘和激活函數(shù)偏導(dǎo)連乘。這樣會(huì)導(dǎo)致不論誤差是大于還是小于1，都會(huì)因?yàn)橄嗤倪B圖3-1單層基礎(chǔ)RNN隨時(shí)間展開(kāi)圖

【參考文獻(xiàn)】：
期刊論文
[1]深度文本匹配綜述[J]. 龐亮,蘭艷艷,徐君,郭嘉豐,萬(wàn)圣賢,程學(xué)旗.  計(jì)算機(jī)學(xué)報(bào). 2017(04)



本文編號(hào)：3037376