發(fā)布時間：2021-10-01 23:54

　　隨著互聯(lián)網(wǎng)技術(shù)的高速發(fā)展,網(wǎng)絡信息數(shù)據(jù)指數(shù)式增長。在信息大數(shù)據(jù)時代,在面對海量的信息時,如何迅速準確地獲取所需要的信息是用戶的迫切需求。相對于搜索引擎,智能問答系統(tǒng)可以根據(jù)用戶提出的自然語言問句,直接返回用戶所需要的答案信息,減少用戶的獲取信息的時間成本。深度學習技術(shù)日新月異,在自然語言處理領(lǐng)域已開始廣泛應用,智能問答處理系統(tǒng)作為自然語言處理的重要應用形式,逐漸受到關(guān)注。本文首先對所用到的深度學習技術(shù)進行分析研究。針對標準門控循環(huán)單元GRU進行語義向量表示學習時不能完整學習語句含義的問題,引入雙向門控循環(huán)單元Bi-GRU進行語義編碼,得到較完整的語義理解向量。根據(jù)注意力思想,構(gòu)建語句級別的多步注意力機制,提升神經(jīng)網(wǎng)絡模型在獲取答案相關(guān)的文本信息向量的準確性。隨后結(jié)合Bi-GRU和多步注意力機制,構(gòu)建智能問答神經(jīng)網(wǎng)絡模型,并通過實驗驗證了模型根據(jù)問題對信息文本向量提取后生成答案的準確性。最后本文對智能問答系統(tǒng)的功能和架構(gòu)進行分析,對模型訓練和問答服務進行分離式設(shè)計,保證問答系統(tǒng)的可用性和穩(wěn)定性。 

【文章來源】：廣西大學廣西壯族自治區(qū) 211工程院校

【文章頁數(shù)】：60 頁

【學位級別】：碩士

【部分圖文】：

圖２－３詞向量的二維可視化??Ｆｉｇ．２－３?２Ｄ?ｖｉｓｕａｌｉｚａｔｉｏｎ?ｏｆ?ｗｏｒｄ?ｖｅｃｔｏｒｓ??可以看到語義相近的詞，在二維平面的位置相近

層是輸入層，最后一層是輸出層，而中間的層都是隱藏層。前饋神經(jīng)網(wǎng)絡中的每一層之??間都是是全連接的，也就是說第ｉ層的任意一個神經(jīng)元不僅與ｉ－ｌ層的所有祌經(jīng)元相連??接，也與ｉ＋１層的所有神經(jīng)元相連。三層前饋神經(jīng)網(wǎng)絡模型的結(jié)構(gòu)如圖２－３所示：??輸Ａｇ?隱賴?輸出層??圖２－３三層前饋神經(jīng)網(wǎng)絡模型??Ｆｉｇ．２－３?Ｔｈｒｅｅ－ｌａｙｅｒ?ｆｅｅｄｆｏｒｗａｒｄ?ｎｅｕｒａｌ?ｎｅｔｗｏｒｋ?ｍｏｄｅｌ??前饋祌經(jīng)網(wǎng)絡前向傳播根據(jù)以下公式進行數(shù)據(jù)計算：??Ｚ？?＝?Ｗ（ｌ）Ａ＾?＋?（２－１）??Ａ（ｉ）?＝?（２－２）??其中，Ａ（ｌ－１〕是上一層網(wǎng)絡的激活函數(shù)值，和ｂ（１）是第１層的權(quán)重參數(shù)和偏置值。??ｆｉ（ｘ）是第１層的激活函數(shù)。??前饋神經(jīng)網(wǎng)絡通過調(diào)整祌經(jīng)元的參數(shù)來找出輸入和輸出之間的線性或者非線性的??數(shù)學映射關(guān)系。由于前饋祌經(jīng)網(wǎng)絡具有模擬和處理復雜非線性過程的能力，擅長識別非??結(jié)構(gòu)化數(shù)據(jù)中的模式，在特征識別和分類任務上效果較好，因此在各類學科中都有許多??應用。前饋祌經(jīng)網(wǎng)絡結(jié)構(gòu)簡單，可以構(gòu)建大規(guī)模的祌經(jīng)網(wǎng)絡模型，特征學習能力強大，??但是由于輸出層神經(jīng)單元數(shù)量固定，不能很好地應對變長序列數(shù)據(jù)。因此在自然語言處??理任務中，前饋祌經(jīng)網(wǎng)絡通常作為深度祌經(jīng)網(wǎng)絡模型的全連接層

圖像處理須域，其在圖像的分類、識別等任務上遠超傳統(tǒng)機器學習算法模型，近年來也??廣泛地應ｎｉ到文本、語音處理等須域。一個用于語言文本特征學習的基礎(chǔ)卷積神經(jīng)網(wǎng)絡??模型示意圖如圖２￣４所示：??我■■睡?ｒ．?■??喜歡?１?■?１?－??北極?》?—ｓ?＞１??的??風景??輸入?卷積層?池化層?全連接層輸出層??圖２－４卷積神經(jīng)網(wǎng)絡模型??Ｆｉｇ．２－４?Ｃｏｎｖｏｌｕｔｉｏｎａｌ?ｎｅｕｒａｌ?ｎｅｔｗｏｒｋ?ｍｏｄｅｌ??輸入是由詞向量纟Ｕ成的向量矩陣，每一行向量代表－個間語。由＞１個詞語組成的矩??陣的向量矩陣表示為：??Ｘ?＝?［ｘ１（ｘ２，?．．，ｘｎ］?（２－３）??卷積層：卷積層－般由多個卷積過濾器組成，不同的卷積過濾器可以從輸入中學習??不同的特征，并且深層的卷積層可以在淺層的學習基礎(chǔ)上進一步學習復雜的特征。卷積??運算的目的是從輸入中學習局部的特征，每一步的卷積計算如下：??４＝八〇丨?＋?辦）?（２－４）??其中Ｗ和ｂ是卷積過濾器的權(quán)重參數(shù)和偏置值，通過反向傳播好法付卷枳過濾器??的權(quán)重參數(shù)進行學習優(yōu)化可以實現(xiàn)特定的特征提取功能。ｆ（ｘ）是激沾函數(shù)。Ａ＇度為ｈ的??卷積過濾器在－步卷積ｉｌ？算中對ｈ個詞進行特征提取，經(jīng)過多步卷積操作后完成對整個??句子的處理

【參考文獻】：
期刊論文
[1]銀行領(lǐng)域漢語自動問答系統(tǒng)BAQS的研究與實現(xiàn)[J]. 樊孝忠,李宏喬,李良富,葉江.  北京理工大學學報. 2004(06)
[2]基于網(wǎng)絡的中文問答系統(tǒng)及信息抽取算法研究[J]. 崔桓,蔡東風,苗雪雷.  中文信息學報. 2004(03)
[3]自動問答綜述[J]. 鄭實福,劉挺,秦兵,李生.  中文信息學報. 2002(06)



本文編號：3417589