近年來,人機(jī)對(duì)話系統(tǒng)作為人工智能的一項(xiàng)基礎(chǔ)應(yīng)用,越來越受到學(xué)術(shù)界和工業(yè)界的重視。人機(jī)對(duì)話系統(tǒng)主要分為兩類:面向任務(wù)的人機(jī)對(duì)話系統(tǒng)可以完成基礎(chǔ)的重復(fù)工作,節(jié)省人力成本;非任務(wù)型人機(jī)對(duì)話系統(tǒng)能夠提供更加智能,更加擬人的對(duì)話體驗(yàn)。非任務(wù)型人機(jī)對(duì)話系統(tǒng)主要采用序列到序列的模型,然而標(biāo)準(zhǔn)的序列到序列模型傾向于生成高頻萬能回復(fù),且缺少足夠的有用信息,難以給用戶提供實(shí)際幫助。引入外部知識(shí)可以豐富模型生成應(yīng)答的信息量,提升應(yīng)答的多樣性,緩解高頻萬能回復(fù)問題。本論文設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)基于知識(shí)的端到端人機(jī)對(duì)話模型,在標(biāo)準(zhǔn)基于注意力機(jī)制的序列到序列模型基礎(chǔ)上,引入了知識(shí)編碼器、知識(shí)注意力機(jī)制和相關(guān)知識(shí)排序模塊,使得外部結(jié)構(gòu)化的知識(shí)信息可以在模型解碼過程中指導(dǎo)應(yīng)答的生成,提升模型生成應(yīng)答中包含的信息量,間接提升模型應(yīng)答的多樣性;此外通過引入層次化對(duì)話歷史編碼器,提升模型在真實(shí)復(fù)雜對(duì)話數(shù)據(jù)上的建模能力,進(jìn)而提升模型在復(fù)雜對(duì)話場景下生成應(yīng)答的質(zhì)量。最后在電影領(lǐng)域的模擬對(duì)話數(shù)據(jù)和公開對(duì)話數(shù)據(jù)集上對(duì)本文提出的模型有效性進(jìn)行了驗(yàn)證,實(shí)驗(yàn)表明本文提出的模型能夠生成包含更多知識(shí),信息更豐富的應(yīng)答。另外,本論文設(shè)計(jì)并實(shí)現(xiàn)了基于... 

【文章來源】：北京郵電大學(xué)北京市 211工程院校 教育部直屬院校

【文章頁數(shù)】：84 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖１?－?１?一個(gè)典型的面向任務(wù)的人機(jī)對(duì)話系統(tǒng)結(jié)構(gòu)??

多層感知機(jī)、卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)。??２．１．１多層感知機(jī)??一個(gè)典型的多層感知機(jī)的結(jié)構(gòu)如圖２－１所示，網(wǎng)絡(luò)中由不同的節(jié)點(diǎn)構(gòu)成了輸??入層、若干隱藏層和輸出層。網(wǎng)絡(luò)中每個(gè)節(jié)點(diǎn)包含對(duì)應(yīng)的權(quán)重和激活函數(shù)，常用??的激活函數(shù)有雙曲正切函數(shù)（ｔａｎｈ）和ｓｉｇｍｏｉｄ函數(shù)（下文中記為（Ｔ函數(shù)），其中雙曲??正切函數(shù)如式２－１所示，其取值范圍為－１到１，ｓｉｇｍｏｉｄ函數(shù)如式２－２所示，其取??值范圍為０到１，且雙曲正切函數(shù)值和ｓｉｇｍｏｉｄ函數(shù)值存在著變換關(guān)系，如式２－??３所示。??磁⑷＝：＋■：■；?（２?－?１｝??１??ｓｉｇｍｏｉｄ（ｘ）?－?１?＋?ｅ＿ｘ?（２－２）??ｔａｎｈ（ａｃ）?＝?２ｃｒ（２ｘ）?—?１?（２?—?３）??多層感知機(jī)中相鄰兩層節(jié)點(diǎn)之間互相連接，在網(wǎng)絡(luò)前向傳播過程中，信息經(jīng)??過輸入層、隱藏層，傳遞到輸出層，每層的輸出只由當(dāng)前層的輸入決定。每一層??包含獨(dú)立的權(quán)重和激活函數(shù)，不同感知機(jī)之間網(wǎng)絡(luò)結(jié)構(gòu)、權(quán)重和激活函數(shù)的不同??使得感知機(jī)能夠擬合不同的函數(shù)。??９??

?列到序列模型［４Ｇ］等。采用卷積神經(jīng)網(wǎng)絡(luò)對(duì)自然語言句子進(jìn)行特征抽取和分類的??典型結(jié)構(gòu)如圖２－２所示，包含輸入層、卷積層、池化層和輸出層四部分：??］）輸入層，將輸入的離散文本信息通過詞嵌入（ＷｏｒｄＥｍｂｅｄｄｉｎｇ）［４１噪作轉(zhuǎn)??換為低維連續(xù)特征向量。具體來講：首先初始化Ｅｍｂｅｄｄｉｎｇ的參數(shù)矩陣??，其中Ｖ是詞表大小，Ｍ是詞向量維度，該參數(shù)Ｅ隨著模型??一起優(yōu)化；然后對(duì)于每一個(gè)詞在Ｅｍｂｅｄｄｉｎｇ參數(shù)矩陣中找到對(duì)應(yīng)的Ｍ??維向量，即為轉(zhuǎn)換后的連續(xù)低維特征向量。假設(shè)文本長度為Ｎ，通過詞??嵌入操作后會(huì)得到一個(gè)ｉＶ?ｘ?Ｍ的二維矩陣。??２）

【參考文獻(xiàn)】：
期刊論文
[1]關(guān)于人機(jī)對(duì)話系統(tǒng)的思考[J]. 王小捷.  中興通訊技術(shù). 2017(04)
[2]語音識(shí)別的研究與發(fā)展[J]. 何湘智.  計(jì)算機(jī)與現(xiàn)代化. 2002(03)



本文編號(hào)：3523270