自然語(yǔ)言生成是計(jì)算語(yǔ)言學(xué)與人工智能領(lǐng)域的重要分支�，F(xiàn)有的語(yǔ)言生成系統(tǒng)結(jié)構(gòu)冗余、人為參與度較高的問(wèn)題亟待解決。由于生成對(duì)抗網(wǎng)絡(luò)在序列生成方向上逐漸受到關(guān)注,同時(shí)為更好地使計(jì)算機(jī)具有人一樣的表達(dá)和寫(xiě)作能力,基于目標(biāo)導(dǎo)向的生成方法提供了新的生成角度,不同于語(yǔ)言分析逆過(guò)程的生成方式,提升生成內(nèi)容的可控性。現(xiàn)有的用于序列生成的策略梯度算法中,真實(shí)環(huán)境提供的獎(jiǎng)勵(lì)規(guī)則沒(méi)有被很好的近似,即用訓(xùn)練模型本身生成的數(shù)據(jù)作為環(huán)境模型生成的結(jié)果,并當(dāng)成反饋獎(jiǎng)勵(lì)參與計(jì)算。判別器沒(méi)能提供生成目標(biāo)的獎(jiǎng)勵(lì),讓生成器根據(jù)強(qiáng)化學(xué)習(xí)的方式進(jìn)行訓(xùn)練,使對(duì)抗生成網(wǎng)絡(luò)中的語(yǔ)言生成模型不能基于目標(biāo)詞引導(dǎo)進(jìn)行訓(xùn)練。本文提出的目標(biāo)導(dǎo)向的序列對(duì)抗生成網(wǎng)絡(luò)（Goal-directed Sequence Generative Adversarial Network,G-SeqGAN）模型,主要實(shí)現(xiàn)了強(qiáng)化學(xué)習(xí)方法與對(duì)抗生成網(wǎng)絡(luò)的組合訓(xùn)練,通過(guò)獎(jiǎng)勵(lì)引導(dǎo)并使用滾動(dòng)計(jì)算方法實(shí)現(xiàn)目標(biāo)序列生成,進(jìn)一步增強(qiáng)了生成對(duì)抗網(wǎng)絡(luò)中自然語(yǔ)言生成任務(wù)的可控性。分析了在使用強(qiáng)化學(xué)習(xí)方法時(shí)容易忽略的環(huán)境要素,總結(jié)環(huán)境的私有狀態(tài),為自然語(yǔ)言生成方法提供一種新的分析視角,并為... 

【文章來(lái)源】：大連理工大學(xué)遼寧省 211工程院校 985工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：59 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 研究背景
    1.2 國(guó)內(nèi)外研究現(xiàn)狀及發(fā)展動(dòng)態(tài)分析
        1.2.1 自然語(yǔ)言生成的最新進(jìn)展
        1.2.2 序列對(duì)抗生成網(wǎng)絡(luò)發(fā)展情況
        1.2.3 仿生學(xué)語(yǔ)言研究分析
    1.3 本文的研究動(dòng)機(jī)與主要貢獻(xiàn)
    1.4 本文組織結(jié)構(gòu)
2 相關(guān)技術(shù)
    2.1 生成對(duì)抗網(wǎng)絡(luò)
    2.2 強(qiáng)化學(xué)習(xí)基本概念與方法
        2.2.1 強(qiáng)化學(xué)習(xí)基礎(chǔ)知識(shí)
        2.2.2 決策過(guò)程與方法
        2.2.3 方法分類(lèi)
    2.3 神經(jīng)網(wǎng)絡(luò)模型
        2.3.1 遞歸神經(jīng)網(wǎng)絡(luò)
        2.3.2 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)
        2.3.3 卷積神經(jīng)網(wǎng)絡(luò)
    2.4 本章小結(jié)
3 G-SeqGAN模型
    3.1 模型描述
    3.2 模型重點(diǎn)論述
        3.2.1 目標(biāo)引導(dǎo)獎(jiǎng)勵(lì)
        3.2.2 環(huán)境估計(jì)可視性
        3.2.3 訓(xùn)練算法流程
    3.3 實(shí)驗(yàn)驗(yàn)證
        3.3.1 基本設(shè)置
        3.3.2 評(píng)估指標(biāo)
        3.3.3 預(yù)訓(xùn)練模擬環(huán)境實(shí)驗(yàn)
        3.3.4 模型穩(wěn)定性分析
        3.3.5 模型實(shí)值數(shù)據(jù)實(shí)驗(yàn)
        3.3.6 模型參數(shù)調(diào)研
    3.4 本章小結(jié)
4 改進(jìn)的G-Seq GAN模型
    4.1 模型描述
    4.2 模型改進(jìn)論述
        4.2.1 預(yù)訓(xùn)練策略
        4.2.2 參數(shù)調(diào)研與設(shè)置
    4.3 實(shí)驗(yàn)驗(yàn)證
        4.3.1 生成基本評(píng)估指標(biāo)測(cè)試
        4.3.2 實(shí)值數(shù)據(jù)實(shí)驗(yàn)
    4.4 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表學(xué)術(shù)論文情況
致謝


【參考文獻(xiàn)】：
期刊論文
[1]基于協(xié)同圖排序的對(duì)比新聞自動(dòng)摘要[J]. 黃小江,萬(wàn)小軍,肖建國(guó).  北京大學(xué)學(xué)報(bào)(自然科學(xué)版). 2013(01)
[2]自然語(yǔ)言生成的哲學(xué)探索——論語(yǔ)言的生物性、語(yǔ)言與心腦關(guān)系以及語(yǔ)言生成機(jī)制[J]. 武冬艷.  外語(yǔ)學(xué)刊. 2012(02)
[3]自然語(yǔ)言生成綜述[J]. 張建華,陳家駿.  計(jì)算機(jī)應(yīng)用研究. 2006(08)



本文編號(hào)：3191686