發(fā)布時(shí)間：2021-07-18 18:57

　　如今是信息技術(shù)蓬勃發(fā)展的時(shí)代,人們通過(guò)互聯(lián)網(wǎng)可即時(shí)瀏覽所關(guān)注的信息。隨著科技的飛速發(fā)展以及互聯(lián)網(wǎng)的繁榮,現(xiàn)在每天在互聯(lián)網(wǎng)上所產(chǎn)生的數(shù)據(jù)量是以前傳統(tǒng)文本時(shí)代所遠(yuǎn)不能及的。豐富的信息資源雖然可以滿(mǎn)足人民對(duì)于知識(shí)的渴求,但是如何快速篩選獲取有價(jià)值的信息也成為當(dāng)前面臨的難題。自動(dòng)問(wèn)答系統(tǒng)能夠挖掘句子中潛在語(yǔ)義信息快速的匹配問(wèn)題和候選答案之間的聯(lián)系,快速且準(zhǔn)確的查找到最佳答案,滿(mǎn)足用戶(hù)想要精確定位答案的需求。本課題研究自動(dòng)問(wèn)答系統(tǒng)中的答案選擇技術(shù),本任務(wù)的具體流程如下:給定問(wèn)題和多個(gè)候選答案,通過(guò)深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的方式從候選答案集中找出與問(wèn)題最相關(guān)的答案。本任務(wù)的關(guān)鍵技術(shù)為計(jì)算問(wèn)題與候選答案之間的相似程度。深度神經(jīng)網(wǎng)絡(luò)無(wú)需人工提取特征、語(yǔ)言工具或外部知識(shí)等輔助手段,使用網(wǎng)絡(luò)自身提取語(yǔ)義關(guān)系。本文采用深度神經(jīng)網(wǎng)絡(luò)用以研究答案選擇技術(shù)。本論文所采用的的基本模型為:基于注意力機(jī)制的單層BiLSTM網(wǎng)絡(luò)模型。在此模型的基礎(chǔ)上,本文從注意力機(jī)制和使用多層網(wǎng)絡(luò)提取特征兩個(gè)角度分別進(jìn)行了改進(jìn)。首先,對(duì)于注意力機(jī)制,本文提出了一種雙向的注意力機(jī)制在問(wèn)題和答案之間分步進(jìn)行共現(xiàn)特征以突出問(wèn)題與答案中的重要部分。其次... 

【文章來(lái)源】：北方工業(yè)大學(xué)北京市

【文章頁(yè)數(shù)】：66 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

神經(jīng)元結(jié)構(gòu)

第二章相關(guān)基礎(chǔ)理論知識(shí)研究7圖2-2Relu函數(shù)神經(jīng)元完整的操作過(guò)程就是獲得輸入數(shù)據(jù)后，跟初始化的參數(shù)權(quán)重經(jīng)過(guò)加權(quán)求和后輸入到節(jié)點(diǎn)中，在節(jié)點(diǎn)內(nèi)經(jīng)過(guò)激活函數(shù)進(jìn)行非線(xiàn)性變換，最后經(jīng)過(guò)輸出層輸出。神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程其實(shí)就是通過(guò)將權(quán)重的值調(diào)整使得損失函數(shù)的值達(dá)到閾值，從而使得網(wǎng)絡(luò)的預(yù)測(cè)效果達(dá)到最優(yōu)。前饋神經(jīng)網(wǎng)絡(luò)作為最基礎(chǔ)的深度學(xué)習(xí)模型值得我們深入了解。前饋神經(jīng)網(wǎng)絡(luò)分為三個(gè)組成部分。如圖2-3所示，前饋神經(jīng)網(wǎng)絡(luò)一般由輸入層（inputlayer）、隱藏層(hiddenlayer)和輸出層(outputlayer)三部分組成。從輸入層開(kāi)始，每一層都有若干個(gè)神經(jīng)節(jié)點(diǎn)，同一層的神經(jīng)節(jié)點(diǎn)互相之間沒(méi)有聯(lián)系，上一層的輸入經(jīng)過(guò)計(jì)算后的輸出作為下一層的輸入，直到傳遞到輸出層為止。圖2-3前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

第二章相關(guān)基礎(chǔ)理論知識(shí)研究7圖2-2Relu函數(shù)神經(jīng)元完整的操作過(guò)程就是獲得輸入數(shù)據(jù)后，跟初始化的參數(shù)權(quán)重經(jīng)過(guò)加權(quán)求和后輸入到節(jié)點(diǎn)中，在節(jié)點(diǎn)內(nèi)經(jīng)過(guò)激活函數(shù)進(jìn)行非線(xiàn)性變換，最后經(jīng)過(guò)輸出層輸出。神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程其實(shí)就是通過(guò)將權(quán)重的值調(diào)整使得損失函數(shù)的值達(dá)到閾值，從而使得網(wǎng)絡(luò)的預(yù)測(cè)效果達(dá)到最優(yōu)。前饋神經(jīng)網(wǎng)絡(luò)作為最基礎(chǔ)的深度學(xué)習(xí)模型值得我們深入了解。前饋神經(jīng)網(wǎng)絡(luò)分為三個(gè)組成部分。如圖2-3所示，前饋神經(jīng)網(wǎng)絡(luò)一般由輸入層（inputlayer）、隱藏層(hiddenlayer)和輸出層(outputlayer)三部分組成。從輸入層開(kāi)始，每一層都有若干個(gè)神經(jīng)節(jié)點(diǎn)，同一層的神經(jīng)節(jié)點(diǎn)互相之間沒(méi)有聯(lián)系，上一層的輸入經(jīng)過(guò)計(jì)算后的輸出作為下一層的輸入，直到傳遞到輸出層為止。圖2-3前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

【參考文獻(xiàn)】：
期刊論文
[1]知識(shí)表示學(xué)習(xí)研究進(jìn)展[J]. 劉知遠(yuǎn),孫茂松,林衍凱,謝若冰.  計(jì)算機(jī)研究與發(fā)展. 2016(02)

碩士論文
[1]基于淺層語(yǔ)義分析的文本摘要方法研究與實(shí)現(xiàn)[D]. 李寶程.電子科技大學(xué) 2016
[2]自動(dòng)問(wèn)答系統(tǒng)的研究與應(yīng)用[D]. 王肖磊.北京郵電大學(xué) 2015



本文編號(hào)：3290168