隨著近年來深度學(xué)習(xí)技術(shù)的迅猛發(fā)展,基于深度學(xué)習(xí)的文本自動(dòng)生成受到了廣泛關(guān)注。將深度神經(jīng)網(wǎng)絡(luò)應(yīng)用于自然語言生成領(lǐng)域,實(shí)現(xiàn)了生成文本質(zhì)量的突破性提升。然而,相較于人類創(chuàng)作的文本,機(jī)器生成的文本往往缺少相應(yīng)的人格特征,現(xiàn)有的基于統(tǒng)計(jì)語言模型的自然語言生成系統(tǒng)并未考慮這方面的因素。針對(duì)這個(gè)問題,本文提出了一種基于用戶大五人格的微博文本生成模型,該模型將輸入的大五人格五個(gè)維度的極性特征向量作為全局上下文,控制長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)生成符合相應(yīng)人格特征的微博文本。同時(shí),為了得到帶有大五人格標(biāo)注的語料,本文訓(xùn)練了一個(gè)基于卷積神經(jīng)網(wǎng)絡(luò)的文本分類模型,可實(shí)現(xiàn)對(duì)微博文本大五人格極性的預(yù)測(cè)。實(shí)驗(yàn)結(jié)果表明,該生成模型生成的樣本在文本質(zhì)量與人格特質(zhì)的可區(qū)分性等方面的表現(xiàn)均優(yōu)于未加入人格條件控制的生成模型。此外,針對(duì)當(dāng)前藝術(shù)文體生成系統(tǒng)在語言學(xué)規(guī)律與作品情感方面控制的缺失,本文提出了一種基于語言學(xué)規(guī)律與情感控制的歌詞生成模型。該模型以Sequence to Sequence模型為基礎(chǔ),通過輸入模式的改變實(shí)現(xiàn)了對(duì)生成歌詞內(nèi)容、結(jié)構(gòu)與押韻的控制,并在網(wǎng)絡(luò)的解碼器端加入了卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),通過對(duì)生成文本進(jìn)行情感分類的誤差回傳,... 

【文章來源】：北京郵電大學(xué)北京市 211工程院校 教育部直屬院校

【文章頁數(shù)】：68 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖２－１神經(jīng)概率語言糢型網(wǎng)絡(luò)結(jié)構(gòu)圖【｜９］??如上圖所示，神經(jīng)概率語言模型同樣基于ｎ－ｌ階馬爾可夫假設(shè)，用圖中最??下方的ｗｔ＿ｎ＋１，，?ｗｔ＿２，?Ｗｇ，即ｖｖｔ的前ｎ?—?１?

即提取的是詞的組合特征，相當(dāng)于由網(wǎng)絡(luò)自己提取了?Ｎ－ｇｒａｍ特征，因此非??常適用于自然語言處理領(lǐng)域的部分應(yīng)用場(chǎng)景。??以Ｙａｎｎ?ＬｅＣｕｎ等人提出的ＬｅＮｅｔ為例，圖２－２給出了一個(gè)典型的卷積神經(jīng)??網(wǎng)絡(luò)結(jié)構(gòu)：??８??

Ｃｏｎｖｏｌｕｔｉｏｎｓ?Ｓｕｂｓａｍｐｌｉｎｇ?Ｃｏｎｖｏｌｕｔｉｏｎｓ?Ｓｕｂｓａｍｐｌｉｎｇ?Ｆｕｌｌ?ｃｏｎｎｅｃｔｉｏｎ??圖２－２卷枳神經(jīng)網(wǎng)絡(luò)應(yīng)用于手寫體識(shí)別——ＬｅＮｅｔ網(wǎng)絡(luò)結(jié)構(gòu)圖冏??如上圖所示，一個(gè)典型的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，由卷積層（Ｃｏｎｖｏｌｕｔｉｏｎａ丨Ｌａｙｅｒ）、??下米樣層（Ｓｕｂｓａｍｐｌｉｎｇ?Ｌａｙｅｒ）、全連接層（Ｆｕｌｌ?Ｃｏｎｎｅｃｔｉｏｎ?Ｌａｙｅｒ）組成。??卷積層的參數(shù)由一組可學(xué)習(xí)的濾波器（Ｆｉｌｔｅｒ）組成。在前饋網(wǎng)絡(luò)中，每個(gè)濾??波器對(duì)輸入進(jìn)行卷積，計(jì)算濾波器和輸入之間的點(diǎn)積，得到該濾波器的激活圖，??提取更高層次的特征。該操作是受局部感受野概念的啟發(fā)，模擬單個(gè)神經(jīng)元對(duì)視??覺刺激的響應(yīng)，每個(gè)卷積神經(jīng)元只處理其接收野的數(shù)據(jù)。卷積運(yùn)算減少了自由參??數(shù)的數(shù)量，解決了與全連接前饋神經(jīng)網(wǎng)絡(luò)需要計(jì)算大量權(quán)重的問題，從而得以用??較少的參數(shù)訓(xùn)練更深的網(wǎng)絡(luò)［２４］。??下采樣層，也稱池化層，是一種非線性下采樣形式。通常下采樣層是以每個(gè)??鄰域中的最大值或平均值作為該鄰域的特征

【參考文獻(xiàn)】：
碩士論文
[1]現(xiàn)代流行歌詞的寫作策略[D]. 王帥.湖南師范大學(xué) 2015



本文編號(hào)：3131554