近年來(lái),人工智能技術(shù)發(fā)展迅猛,不少成熟的商業(yè)產(chǎn)品已經(jīng)在我們身邊切實(shí)落地。在人工智能技術(shù)中,自然語(yǔ)言處理是一項(xiàng)至關(guān)重要的技術(shù)手段,它可以有效幫助計(jì)算機(jī)理解人類的自然語(yǔ)言,進(jìn)而進(jìn)行有效的人機(jī)交互或是數(shù)據(jù)挖掘。因此,自然語(yǔ)言處理技術(shù)在這數(shù)十年來(lái)被廣泛關(guān)注,并且進(jìn)行了大量的研究。自然語(yǔ)言處理中包含了許多研究方向,包括機(jī)器翻譯,它是一種語(yǔ)言互譯的系統(tǒng),用以幫助不同語(yǔ)言的人群得以方便交流;自動(dòng)問(wèn)答系統(tǒng),它是一種人機(jī)交互系統(tǒng),用以與用戶交流,快速幫助客戶解決相應(yīng)領(lǐng)域的問(wèn)題。在本文中,我們著重于自然語(yǔ)言處理中的序列標(biāo)注的任務(wù)。序列標(biāo)注技術(shù)主要用于語(yǔ)義分析、命名實(shí)體識(shí)別等語(yǔ)義理解任務(wù)中。通過(guò)序列標(biāo)注技術(shù),可以有效從句子中抽取出相對(duì)應(yīng)的成分,幫助計(jì)算機(jī)理解句子組成。在一個(gè)自然語(yǔ)言處理任務(wù)中,序列標(biāo)注技術(shù)往往是一個(gè)預(yù)處理步驟,其性能的好壞直接影響著下游任務(wù)的性能。所以,構(gòu)建一個(gè)高效的序列標(biāo)注模型至關(guān)重要。在這個(gè)動(dòng)機(jī)下,本文首先提出了一種層次注意力的神經(jīng)網(wǎng)絡(luò)半馬爾可夫條件隨機(jī)場(chǎng)模型。該模型使用層次結(jié)構(gòu)來(lái)結(jié)合字符級(jí)別和字級(jí)別信息,并將注意力機(jī)制應(yīng)用于兩個(gè)層次。我們?cè)谌齻�(gè)序列標(biāo)注任務(wù)上評(píng)估了提出的模型,驗(yàn)證了模型... 

【文章來(lái)源】：哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校

【文章頁(yè)數(shù)】：61 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
ABSTRACT
第1章 緒論
    1.1 研究背景
        1.1.1 人工智能
        1.1.2 自然語(yǔ)言處理
    1.2 研究目的與意義
    1.3 相關(guān)研究現(xiàn)狀
        1.3.1 序列標(biāo)注模型
        1.3.2 研究現(xiàn)狀總結(jié)
    1.4 具體研究?jī)?nèi)容和主要貢獻(xiàn)
        1.4.1 基于深度學(xué)習(xí)的半馬爾科夫條件隨機(jī)場(chǎng)
        1.4.2 基于編碼模式的隱變量馬爾科夫模型
        1.4.3 基于深度學(xué)習(xí)的編碼超圖模型
    1.5 本文的組織結(jié)構(gòu)
第2章 基于深度學(xué)習(xí)的層次注意力半馬爾科夫條件隨機(jī)場(chǎng)
    2.1 預(yù)備知識(shí)和問(wèn)題定義
        2.1.1 半馬爾科夫條件隨機(jī)場(chǎng)概念
        2.1.2 長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)
        2.1.3 基于神經(jīng)網(wǎng)絡(luò)的半馬爾科夫條件隨機(jī)場(chǎng)
    2.2 層次注意力神經(jīng)網(wǎng)絡(luò)半馬爾科夫條件隨機(jī)場(chǎng)
        2.2.1 字符級(jí)別編碼器
        2.2.2 字級(jí)別編碼器
        2.2.3 半馬爾科夫條件隨機(jī)場(chǎng)層
    2.3 實(shí)驗(yàn)結(jié)果和分析
        2.3.1 實(shí)驗(yàn)設(shè)置和數(shù)據(jù)集介紹
        2.3.2 命名實(shí)體識(shí)別
        2.3.3 淺層語(yǔ)義分析
        2.3.4 引文分析
    2.4 本章小結(jié)
第3章 基于編碼模式的隱變量條件隨機(jī)場(chǎng)模型的序列標(biāo)注研究
    3.1 預(yù)備知識(shí)和問(wèn)題定義
        3.1.1 隱變量條件隨機(jī)場(chǎng)
        3.1.2 編碼模式
        3.1.3 問(wèn)題定義
    3.2 基于編碼模式的隱變量條件隨機(jī)場(chǎng)
        3.2.1 隱變量條件隨機(jī)場(chǎng)I
        3.2.2 隱變量條件隨機(jī)場(chǎng)II
        3.2.3 訓(xùn)練過(guò)程
    3.3 實(shí)驗(yàn)結(jié)果和分析
        3.3.1 實(shí)驗(yàn)設(shè)置和數(shù)據(jù)集介紹
        3.3.2 命名實(shí)體識(shí)別
        3.3.3 淺層語(yǔ)義分析
        3.3.4 參考文獻(xiàn)解析
    3.4 本章小結(jié)
第4章 基于深度學(xué)習(xí)的編碼超圖模型的序列標(biāo)注研究
    4.1 預(yù)備知識(shí)和問(wèn)題定義
        4.1.1 超圖模型
        4.1.2 基于神經(jīng)網(wǎng)絡(luò)的超圖模型
        4.1.3 問(wèn)題定義
    4.2 基于神經(jīng)網(wǎng)絡(luò)的編碼超圖模型
        4.2.1 Mention Hyphergraph模型
        4.2.2 神經(jīng)網(wǎng)絡(luò)編碼超圖模型
        4.2.3 神經(jīng)網(wǎng)絡(luò)編碼超圖模型
    4.3 實(shí)驗(yàn)結(jié)果和分析
        4.3.1 實(shí)驗(yàn)設(shè)置和數(shù)據(jù)集介紹
        4.3.2 ACE2004 數(shù)據(jù)集
        4.3.3 ACE2005 數(shù)據(jù)集
        4.3.4 GENIA數(shù)據(jù)集
    4.4 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀學(xué)位期間發(fā)表的論文
致謝



本文編號(hào)：3438324