語(yǔ)義推理技術(shù)是自然語(yǔ)言處理中的一項(xiàng)基礎(chǔ)而重要的技術(shù),能夠幫助我們更好地理解文章的內(nèi)容及上下文的語(yǔ)義推理關(guān)系。語(yǔ)義推理一般分為論據(jù)和論點(diǎn)兩部分,論據(jù)是從文章內(nèi)容中提取的支撐文章論點(diǎn)的材料,是用來證明論點(diǎn)的理由和根據(jù);論點(diǎn)是對(duì)所論述的論據(jù)的正確理解,是對(duì)文章中所提出的某一個(gè)主要的思想觀點(diǎn)的概括。語(yǔ)義推理技術(shù)是判斷論點(diǎn)和論據(jù)之間的語(yǔ)義信息是否存在蘊(yùn)含關(guān)系。提高語(yǔ)義推理的準(zhǔn)確率有助于增強(qiáng)人工智能對(duì)自然語(yǔ)言的理解能力。在自然語(yǔ)言發(fā)展的初期,人們通常使用詞典、語(yǔ)法樹或邏輯表達(dá)式的方式獲取文本之間的淺在的語(yǔ)義推理關(guān)系。隨著神經(jīng)網(wǎng)絡(luò)在自然語(yǔ)言處理上的應(yīng)用以及注意力機(jī)制和遷移學(xué)習(xí)的快速發(fā)展,人們開始側(cè)重于挖掘文本之間更深層的語(yǔ)義推理關(guān)系。并且希望通過相似任務(wù)之間的知識(shí)共享,從而加快并優(yōu)化模型的學(xué)習(xí)效率。在此基礎(chǔ)上,本文主要從以下三個(gè)方面進(jìn)行語(yǔ)義推理技術(shù)的研究:1.基于長(zhǎng)短期記憶網(wǎng)絡(luò)的語(yǔ)義推理技術(shù)。主要使用長(zhǎng)短期記憶網(wǎng)絡(luò)對(duì)論點(diǎn)和論據(jù)進(jìn)行語(yǔ)義向量編碼,使用雙線性或者全連接計(jì)算論點(diǎn)和論據(jù)的語(yǔ)義推理關(guān)系。2.基于長(zhǎng)短期網(wǎng)絡(luò)和注意力機(jī)制的語(yǔ)義推理技術(shù)。首先使用長(zhǎng)短期記憶網(wǎng)絡(luò)對(duì)論點(diǎn)和論據(jù)進(jìn)行語(yǔ)義向量編碼。之后使用注... 

【文章來源】：哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校

【文章頁(yè)數(shù)】：71 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
ABSTRACT
第1章 緒論
    1.1 課題研究的背景和意義
    1.2 國(guó)內(nèi)外研究現(xiàn)狀
        1.2.1 基于特征工程的國(guó)內(nèi)外研究現(xiàn)狀
        1.2.2 基于深度學(xué)習(xí)的國(guó)內(nèi)外研究現(xiàn)狀
        1.2.3 基于遷移學(xué)習(xí)的國(guó)內(nèi)外研究現(xiàn)狀
    1.3 實(shí)驗(yàn)數(shù)據(jù)簡(jiǎn)介
        1.3.2 數(shù)據(jù)集簡(jiǎn)介
        1.3.3 評(píng)價(jià)標(biāo)準(zhǔn)
        1.3.4 系統(tǒng)基線選擇
    1.4 本文的主要研究?jī)?nèi)容
        1.4.1 問題定義
        1.4.2 本文主要研究思路
    1.5 本文的內(nèi)容安排
第2章 基于長(zhǎng)短期記憶網(wǎng)絡(luò)的語(yǔ)義推理技術(shù)
    2.1 引言
    2.2 語(yǔ)義向量表示模型
        2.2.1 循環(huán)神經(jīng)網(wǎng)絡(luò)
        2.2.2 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)
        2.2.3 基于長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的語(yǔ)義表示模型
    2.3 語(yǔ)義推理關(guān)系模型
        2.3.3 基于全連接的語(yǔ)義推理模型
        2.3.4 基于雙線性的語(yǔ)義推理模型
    2.4 實(shí)驗(yàn)結(jié)果與分析
        2.4.1 數(shù)據(jù)預(yù)處理
        2.4.2 損失函數(shù)
        2.4.3 模型優(yōu)化及參數(shù)設(shè)置
        2.4.4 模型實(shí)驗(yàn)結(jié)果與分析
    2.5 本章小結(jié)
第3章 基于注意力機(jī)制的語(yǔ)義推理技術(shù)
    3.1 引言
    3.2 基于注意力機(jī)制的語(yǔ)義推理模型
        3.2.1 注意力機(jī)制
        3.2.2 基于序列注意力機(jī)制的語(yǔ)義推理模型
        3.2.3 基于逐字注意力機(jī)制的語(yǔ)義推理模型
        3.2.4 基于自身注意力機(jī)制的語(yǔ)義推理模型
    3.3 實(shí)驗(yàn)結(jié)果與分析
    3.4 本章小結(jié)
第4章 基于遷移學(xué)習(xí)與模型融合的語(yǔ)義推理技術(shù)
    4.1 引言
    4.2 基于殘差的語(yǔ)義推理網(wǎng)絡(luò)
        4.2.1 殘差網(wǎng)絡(luò)相關(guān)技術(shù)
        4.2.2 融合殘差網(wǎng)絡(luò)語(yǔ)義推理模型
    4.3 基于遷移學(xué)習(xí)的語(yǔ)義推理網(wǎng)絡(luò)
        4.3.1 遷移學(xué)習(xí)相關(guān)技術(shù)
        4.3.2 融合遷移學(xué)習(xí)的語(yǔ)義推理模型
    4.4 基于集成的語(yǔ)義推理網(wǎng)絡(luò)
        4.4.1 特征工程
        4.4.3 集成的語(yǔ)義推理模型
    4.5 實(shí)驗(yàn)結(jié)果與分析
        4.5.1 模型實(shí)驗(yàn)結(jié)果與分析
        4.5.2 遷移學(xué)習(xí)實(shí)驗(yàn)分析
    4.6 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀博士學(xué)位期間發(fā)表的論文及其它成果
致謝



本文編號(hào)：2922335