機(jī)器閱讀理解是語(yǔ)言處理的一個(gè)重要分支,目的是讓機(jī)器理解文本的語(yǔ)義并推理相關(guān)結(jié)論。機(jī)器閱讀理解的主要過(guò)程是通過(guò)輸入給定的文章和問(wèn)題,輸出與問(wèn)題相匹配的答案。相對(duì)于傳統(tǒng)的問(wèn)答系統(tǒng),機(jī)器閱讀理解不依賴(lài)于強(qiáng)大的知識(shí)庫(kù)系統(tǒng),而是從小范圍的文章中尋找各個(gè)單元之間的關(guān)系。此類(lèi)任務(wù)的數(shù)據(jù)集是從人類(lèi)語(yǔ)言能力測(cè)試題的閱讀理解這一類(lèi)題型得到的。對(duì)此類(lèi)任務(wù)的探索有助于機(jī)器更好地模擬人類(lèi)的思考方式,是達(dá)到高級(jí)人工智能的重要一步。目前已有的機(jī)器閱讀理解方法在文本表示和推理機(jī)制上的兩方面不足�，F(xiàn)階段的文本表示問(wèn)題通常使用詞向量來(lái)解決,傳統(tǒng)的詞向量不僅缺少對(duì)一詞多義的區(qū)分,而且對(duì)于機(jī)器閱讀理解任務(wù),預(yù)訓(xùn)練的詞向量往往會(huì)引入外部知識(shí)的關(guān)系。從目前的機(jī)器閱讀理解答案推理模型來(lái)看,大多數(shù)基于單類(lèi)型的注意力機(jī)制進(jìn)行語(yǔ)義理解和答案推理,對(duì)于文本內(nèi)部關(guān)系的深度挖掘還有一定的不足。我們基于機(jī)器閱讀理解任務(wù)的兩方面提出改進(jìn),分別是文本表示和推理答案兩方面�；谝环N多級(jí)語(yǔ)義表示模型,分別通過(guò)字符水平表示、詞嵌入表示、特征工程表示以及上下文嵌入表示,使得文本表示能夠適應(yīng)機(jī)器閱讀理解的特定任務(wù)。其次,實(shí)現(xiàn)了兩種混合注意力機(jī)制模型去解決該類(lèi)... 

【文章頁(yè)數(shù)】：64 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 研究背景與意義
    1.2 國(guó)內(nèi)外研究概況
    1.3 論文的主要研究?jī)?nèi)容
2 關(guān)鍵技術(shù)研究
    2.1 感知器和激活函數(shù)
    2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
    2.3 自然語(yǔ)言處理的預(yù)訓(xùn)練和詞向量
    2.4 端到端模型和注意力機(jī)制
    2.5 機(jī)器閱讀理解的任務(wù)形式
    2.6 本章小結(jié)
3 多級(jí)語(yǔ)義表示和混合注意力機(jī)制
    3.1 模型概述
    3.2 基于多級(jí)語(yǔ)義的文本表示模型
    3.3 基于混合注意力機(jī)制的語(yǔ)義理解模型
    3.4 本章小結(jié)
4 實(shí)驗(yàn)
    4.1 數(shù)據(jù)集
    4.2 評(píng)價(jià)指標(biāo)
    4.3 數(shù)據(jù)預(yù)處理和表示
    4.4 模型訓(xùn)練
    4.5 結(jié)果分析
    4.6 本章小結(jié)
5 總結(jié)與展望
    5.1 全文總結(jié)
    5.2 展望
致謝
參考文獻(xiàn)


【參考文獻(xiàn)】：
期刊論文
[1]基于雙線性函數(shù)注意力Bi-LSTM模型的機(jī)器閱讀理解[J]. 劉飛龍,郝文寧,陳剛,靳大尉,宋佳星.  計(jì)算機(jī)科學(xué). 2017(S1)



本文編號(hào)：3652087