問答系統(tǒng)是自然語言處理(Natural Language Processing,NLP)領(lǐng)域重要的一個(gè)分支,自“圖靈測(cè)試”的提出至今,實(shí)現(xiàn)問答系統(tǒng)的算法和框架多種多樣,大致的實(shí)現(xiàn)流程為構(gòu)建數(shù)據(jù)集、文本特征提取、問題分類、問句分析、信息檢索、語句匹配、抽取或者生成答案。每個(gè)步驟都有很多種算法或方法進(jìn)行實(shí)現(xiàn),如文本體征提取有基于概率統(tǒng)計(jì)的、有基于向量空間的、有基于神經(jīng)網(wǎng)絡(luò)的等;問句分類有樸素貝葉斯、支持向量機(jī)、決策樹、KNN等;信息檢索有數(shù)據(jù)庫查詢語言、MultiText算法、IBM的算法、SiteQ算法、哈希函數(shù)等。在具體的實(shí)現(xiàn)過程中,根據(jù)使用不同的算法和應(yīng)用場(chǎng)景,有些步驟會(huì)被簡(jiǎn)化或者過濾,本文在標(biāo)注型數(shù)據(jù)集的基礎(chǔ)上構(gòu)建出一個(gè)基于詞向量和CNN輕量級(jí)問答系統(tǒng),主要工作如下:1.選取三種不同的語料庫和三種維度(30維,60維,90維)訓(xùn)練出多個(gè)詞向量模型,經(jīng)過不同的對(duì)比實(shí)驗(yàn),尋找出最適合本文CNN模型的詞向量。2.CNN運(yùn)用于自然語言處理的傳統(tǒng)方法是通過CNN對(duì)問句和答句分別提取文本特征,然后使用余弦值或者歐氏距離來匹配兩句話的語義相似度。為了保留更加完整的原始語義,本文采取問句和答句原始...

【文章頁數(shù)】：56 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖2-2改進(jìn)的結(jié)構(gòu)化問答系統(tǒng)

于關(guān)鍵詞技術(shù)數(shù)據(jù)形式的問答系統(tǒng)對(duì)于語句要求具有多種表達(dá)方式，為了解決這一問題，基于一個(gè)或多個(gè)關(guān)鍵詞可以代表整個(gè)語句的對(duì)關(guān)鍵詞進(jìn)行檢索，這樣可以解決結(jié)構(gòu)技術(shù)的方式有兩種：第一種是在結(jié)構(gòu)化工標(biāo)注和抽取，進(jìn)行信息檢索時(shí)也會(huì)出現(xiàn)行篩選，顯然這種方式耗時(shí)又費(fèi)力；第練，訓(xùn)練過程中會(huì)過濾掉停用....

圖2-3關(guān)鍵詞問答系統(tǒng)結(jié)構(gòu)圖

圖2-3關(guān)鍵詞問答系統(tǒng)結(jié)構(gòu)圖優(yōu)點(diǎn)：以關(guān)鍵詞來代替整個(gè)語句的語義可以加快系統(tǒng)的運(yùn)行效率也解決了結(jié)構(gòu)化問答的笨重問題；使用以詞袋模型為基礎(chǔ)的形式可以直接對(duì)語句進(jìn)行關(guān)鍵詞抽取，并且解結(jié)構(gòu)化問答系統(tǒng)人工標(biāo)注的的問題。缺點(diǎn)：詞袋模型使基于概率統(tǒng)計(jì)的，所有的詞匯和語句并沒有象現(xiàn)實(shí)生活中的....

圖2-4語義問答系統(tǒng)結(jié)構(gòu)圖

圖2-4語義問答系統(tǒng)結(jié)構(gòu)圖點(diǎn)：語義問答系統(tǒng)在準(zhǔn)確率方面比關(guān)鍵詞問答系統(tǒng)高很多；關(guān)鍵詞問答系統(tǒng)采用存儲(chǔ)詞匯和語句，語義問答系統(tǒng)采用分布式稠密向量存儲(chǔ)詞匯或語句，這樣可以要的空間浪費(fèi)也可以提升運(yùn)算效率；語義問答系統(tǒng)可以兼容關(guān)鍵詞問答系統(tǒng)。點(diǎn)：語義問答系統(tǒng)的訓(xùn)練時(shí)間會(huì)更長(zhǎng)；目前語義....

圖2-5LSA奇異值分解示意圖

圖2-5LSA奇異值分解示意圖是詞袋模型的延伸，既可以使用詞袋模型直接訓(xùn)練LSA，也上訓(xùn)練LSA。一般來說直接使用TF-IDF模型來訓(xùn)練LSA得到，本文采用2.1小節(jié)生成TF-IDF模型進(jìn)行LSA生成，使用models.LsiModel()函數(shù)生....

本文編號(hào)：3923268