隨著大數(shù)據(jù)時代的到來,傳統(tǒng)的基于關(guān)鍵字并返回一系列網(wǎng)頁的搜索方式漸漸不能滿足人們獲取信息的需求。問答系統(tǒng)在一定程度上彌補(bǔ)了搜索引擎的不足,是目前自然語言處理領(lǐng)域的研究熱點(diǎn)。近年來,深度學(xué)習(xí)技術(shù)的不斷發(fā)展,又為智能問答領(lǐng)域帶來了諸多突破。由此,基于深度學(xué)習(xí)的問答系統(tǒng)成為了自然語言處理中最熱門的研究方向。本文旨在運(yùn)用深度學(xué)習(xí)技術(shù)構(gòu)建基于深度學(xué)習(xí)模型的限定領(lǐng)域問答系統(tǒng)。首先利用深度學(xué)習(xí)模型完成問句理解中的意圖識別和槽位提取,進(jìn)而將問句轉(zhuǎn)為知識庫可理解的結(jié)構(gòu)化查詢語句,最終從構(gòu)建的電影領(lǐng)域知識圖譜中進(jìn)行答案檢索。具體的研究內(nèi)容如下:本文首先介紹了本課題的研究背景與意義,對問答系統(tǒng)的分類進(jìn)行了簡要闡述,提出了本文要研究的基于知識圖譜的限定領(lǐng)域問答系統(tǒng),同時介紹了問答系統(tǒng)的國內(nèi)外發(fā)展現(xiàn)狀以及基于知識圖譜的問答系統(tǒng)的幾種實(shí)現(xiàn)方式。在接下來的兩章,本文開始研究基于深度學(xué)習(xí)方式的問答系統(tǒng)中的問句理解部分。在第二章,本文采用基于Word2Vec的卷積神經(jīng)網(wǎng)絡(luò)模型實(shí)現(xiàn)問句的意圖識別,首先訓(xùn)練詞向量模型完成詞的分布式表示,接著搭建CNN模型提取問句特征并完成問句的意圖分類,最后通過與其它分類模型的對比實(shí)驗(yàn)證明... 

【文章來源】：西南交通大學(xué)四川省 211工程院校 教育部直屬院校

【文章頁數(shù)】：75 頁

【學(xué)位級別】：碩士

【部分圖文】：

CBoW與Skip-Gram模型結(jié)構(gòu)示意圖

西南交通大學(xué)碩士研究生學(xué)位論文 第 10頁CBoW 和 Skip-Gram 模型都含有三層結(jié)構(gòu)：輸入層、投影層（中間層）和輸出層。CBow 模型主要是根據(jù)上下文詞語來預(yù)測當(dāng)前詞語的概率[44]。而 Skip-Gram 與之相反，主要是根據(jù)當(dāng)前詞語來推測上下文詞語出現(xiàn)的概率[45]。在 CBoW 模型的輸入層，輸入的是主題詞附近的詞的 one-hot 編碼，投影層只對輸出值進(jìn)行簡單的權(quán)值加法，最終輸出值與輸入值維度相同。而 Skip-Gram 模型的輸入層，輸入內(nèi)容為中心詞的 one-hot 編碼，投影層只做簡單的線性變換，最終輸出內(nèi)容是經(jīng) softmax 轉(zhuǎn)換后的概率。以Skip-Gram 模型為例，其神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖 2-2 所示。

圖 2-2 Skip-Gram 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Word2vec 是一種簡單的神經(jīng)網(wǎng)絡(luò)模型，通過給定的輸入輸出訓(xùn)練網(wǎng)絡(luò)，最終目是得到隱藏層的權(quán)重矩陣，即詞向量矩陣。有了詞向量矩陣，便可以通過詞的 one-h編碼在隱藏層進(jìn)行詞嵌入，即取得相應(yīng)詞向量。如圖2-3所示，詞嵌入時直接根據(jù)one-h編碼中 1 的位置尋找詞向量矩陣的相應(yīng)行，無需進(jìn)行矩陣乘法運(yùn)算。

【參考文獻(xiàn)】：
期刊論文
[1]基于Bi-LSTM和CRF的中文網(wǎng)購評論中商品屬性提取[J]. 張詩林.  計算機(jī)與現(xiàn)代化. 2019(02)
[2]文本向量化表示方法的總結(jié)與分析[J]. 冀宇軒.  電子世界. 2018(22)
[3]深度學(xué)習(xí)算法在問句意圖分類中的應(yīng)用研究[J]. 楊志明,王來奇,王泳.  計算機(jī)工程與應(yīng)用. 2019(10)
[4]基于BI-LSTM-CRF模型的限定領(lǐng)域知識庫問答系統(tǒng)[J]. 程樹東,胡鷹.  計算機(jī)與現(xiàn)代化. 2018(07)
[5]基于BiLSTM-CRF的關(guān)鍵詞自動抽取[J]. 陳偉,吳友政,陳文亮,張民.  計算機(jī)科學(xué). 2018(S1)
[6]專業(yè)領(lǐng)域智能問答系統(tǒng)設(shè)計與實(shí)現(xiàn)[J]. 陶永芹.  計算機(jī)應(yīng)用與軟件. 2018(05)
[7]基于Bi-LSTM-CRF網(wǎng)絡(luò)的語義槽識別[J]. 徐梓翔,車萬翔,劉挺.  智能計算機(jī)與應(yīng)用. 2017(06)
[8]基于深度神經(jīng)網(wǎng)絡(luò)的命名實(shí)體識別方法研究[J]. GUL Khan Safi Qamas,尹繼澤,潘麗敏,羅森林.  信息網(wǎng)絡(luò)安全. 2017(10)
[9]面向限定領(lǐng)域問答系統(tǒng)的自然語言理解方法綜述[J]. 王東升,王衛(wèi)民,王石,符建輝,諸峰.  計算機(jī)科學(xué). 2017(08)
[10]基于Web的問答系統(tǒng)綜述[J]. 李舟軍,李水華.  計算機(jī)科學(xué). 2017(06)

碩士論文
[1]基于Word2vec的中文Web智能問答系統(tǒng)的研究與設(shè)計[D]. 徐成章.電子科技大學(xué) 2018
[2]基于中文知識圖譜的智能問答系統(tǒng)設(shè)計與實(shí)現(xiàn)[D]. 張淼.華中師范大學(xué) 2018
[3]基于細(xì)粒度詞表示的序列標(biāo)注模型研究[D]. 林廣和.大連理工大學(xué) 2018
[4]社交媒體短文本分類方法研究[D]. 文永.電子科技大學(xué) 2018
[5]基于分布式的智能問答系統(tǒng)的設(shè)計與實(shí)現(xiàn)[D]. 劉明博.北京郵電大學(xué) 2018
[6]基于深度學(xué)習(xí)的智能問答系統(tǒng)的研究與實(shí)現(xiàn)[D]. 卓越.沈陽師范大學(xué) 2018
[7]基于卷積神經(jīng)網(wǎng)絡(luò)的問句分類研究[D]. 謝文杰.安徽大學(xué) 2018
[8]卷積神經(jīng)網(wǎng)絡(luò)在問句分類中的研究與應(yīng)用[D]. 籍祥.昆明理工大學(xué) 2018
[9]基于深度學(xué)習(xí)和知識表示的問答系統(tǒng)的研究與實(shí)現(xiàn)[D]. 張為明.北京郵電大學(xué) 2018
[10]基于深度學(xué)習(xí)的智能聊天機(jī)器人的研究[D]. 梁苗苗.浙江理工大學(xué) 2018



本文編號：3354273