天堂国产午夜亚洲专区-少妇人妻综合久久蜜臀-国产成人户外露出视频在线-国产91传媒一区二区三区

基于注意力機(jī)制的答案選擇排序研究

發(fā)布時(shí)間:2023-10-06 11:37
  搜索引擎的使用方便了人們的生活,但其查詢結(jié)果仍需要人工篩選。給定一個(gè)問題,如何精準(zhǔn)地獲取正確答案顯得至關(guān)重要。答案選擇排序是解決該問題的一個(gè)切入點(diǎn),其關(guān)鍵就是問題答案句子之間的語義相似度計(jì)算。在語義相似度計(jì)算方法一定的條件下,問題答案句子之間的語義相似度主要取決于問題答案句子內(nèi)部的語法語義信息以及問題答案句子之間的語義信息。本課題基于語義相關(guān)度距離概念假設(shè),構(gòu)建新的答案選擇排序模型,并且從以上兩個(gè)方面提升模型性能。本課題研究的主要貢獻(xiàn)如下:1.提出了問題答案句子語義相關(guān)度距離的概念假設(shè),詳細(xì)詮釋了如何將候選答案集合中的正確答案和錯(cuò)誤答案區(qū)分開,從而把正確答案選擇出來。然后,依據(jù)該理論構(gòu)建了新的答案選擇排序模型。2.針對(duì)答案選擇排序任務(wù),使用統(tǒng)計(jì)和深度學(xué)習(xí)相結(jié)合的方法提取句子詞性特征。先使用深度學(xué)習(xí)模型進(jìn)行句子上下文語義捕獲,再使用統(tǒng)計(jì)模型進(jìn)行標(biāo)注并解決未登錄詞的標(biāo)注問題。然后通過集成兩種模型的優(yōu)勢進(jìn)行高效地詞性特征提取,并進(jìn)行實(shí)驗(yàn)性能驗(yàn)證。最后將問題答案句子詞性特征與排序模型融合,增強(qiáng)問題答案句子內(nèi)部語法語義信息。3.通過詞性與原始語料融合后的語義引入注意力機(jī)制。區(qū)別于針對(duì)原始語料或者...

【文章頁數(shù)】:64 頁

【學(xué)位級(jí)別】:碩士

【文章目錄】:
摘要
ABSTRACT
第一章 緒論
    1.1 研究的背景和意義
    1.2 研究現(xiàn)狀
        1.2.1 詞性特征提取
        1.2.2 注意力機(jī)制
        1.2.3 答案選擇排序
    1.3 研究內(nèi)容
    1.4 研究方案
    1.5 文章組織結(jié)構(gòu)
第二章 相關(guān)技術(shù)概述
    2.1 詞性標(biāo)注
        2.1.1 基于詞典查找的詞性標(biāo)注
        2.1.2 基于規(guī)則和統(tǒng)計(jì)的詞性標(biāo)注
        2.1.3 基于深度學(xué)習(xí)的詞性標(biāo)注
    2.2 注意力機(jī)制
        2.2.1 硬注意力機(jī)制和軟注意力機(jī)制
        2.2.2 全局注意力機(jī)制和局部注意力機(jī)制
        2.2.3 自注意力機(jī)制
    2.3 答案選擇排序
        2.3.1 Pointwise
        2.3.2 Pairwise
        2.3.3 Listwise
    2.4 本章總結(jié)
第三章 基于統(tǒng)計(jì)和深度學(xué)習(xí)的詞性標(biāo)注模型
    3.1 引言
    3.2 模型
        3.2.1 標(biāo)注模型架構(gòu)
        3.2.2 條件隨機(jī)場處理層
        3.2.3 維特比算法解碼標(biāo)注序列
    3.3 實(shí)驗(yàn)
        3.3.1 實(shí)驗(yàn)數(shù)據(jù)
        3.3.2 實(shí)驗(yàn)設(shè)置
        3.3.3 評(píng)估指標(biāo)
    3.4 結(jié)果與分析
        3.4.1 模型實(shí)驗(yàn)結(jié)果
        3.4.2 不同模型對(duì)比
    3.5 本章總結(jié)
第四章 融合詞性與注意力的答案選擇排序模型
    4.1 引言
    4.2 模型
        4.2.1 排序模型架構(gòu)
        4.2.2 詞性特征融合
        4.2.3 注意力矩陣構(gòu)造
    4.3 實(shí)驗(yàn)
        4.3.1 實(shí)驗(yàn)數(shù)據(jù)
        4.3.2 實(shí)驗(yàn)設(shè)置
        4.3.3 評(píng)估指標(biāo)
    4.4 結(jié)果與分析
        4.4.1 詞性和注意力對(duì)模型的改進(jìn)
        4.4.2 相似任務(wù)模型對(duì)比
    4.5 本章總結(jié)
第五章 結(jié)論與展望
    5.1 主要結(jié)論
    5.2 研究展望
參考文獻(xiàn)
在學(xué)期間的研究成果
致謝



本文編號(hào):3851781

資料下載
論文發(fā)表

本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3851781.html


Copyright(c)文論論文網(wǎng)All Rights Reserved | 網(wǎng)站地圖 |

版權(quán)申明:資料由用戶412cd***提供,本站僅收錄摘要或目錄,作者需要?jiǎng)h除請(qǐng)E-mail郵箱bigeng88@qq.com