基于情感與內容特征的對話生成研究
發(fā)布時間:2021-12-17 21:10
人機對話系統(tǒng)具有方便、快捷、高效等眾多優(yōu)點,被視為未來重要的人機交互形式之一,其發(fā)展得到了學術界和工業(yè)界的高度重視。作為對話系統(tǒng)重要組成部分的對話生成,它的目標是根據(jù)用戶的對話消息生成回復,其質量的好壞直接影響著用戶的使用體驗。隨著深度學習技術的不斷進步,為對話生成研究的發(fā)展提供了新動力。然而在面向開放領域的對話生成研究中,基礎對話生成模型存在傾向于生成如“不知道”等一類缺乏內容回復和生成的回復趣味性與可持續(xù)性低的問題。語言的表達需要情感與內容的支撐,情感與內容可以使語言更加生動自然、充實、富有感染力。在對話生成中考慮上下文中的情感和內容,不但可以為對話提供情感的潤色和內容上的填充,緩解系統(tǒng)易于生成缺乏內容回復的問題,同時提升回復的情感與內容的多樣性,可以增加對話的趣味性、可持續(xù)性。本文將研究基于情感與內容特征的對話生成,即在對話生成的過程中,根據(jù)用戶消息中所蘊含情感與內容特征,采用心理學“情感共情”機制和情感與內容特征在真實對話中的轉換關系,引導深度學習模型生成滿足用戶情感需求且內容相關的回復。本文主要研究工作如下:(1)提出融合情感與內容特征的對話生成模型(CECF-DG)。為了獲...
【文章來源】:華中師范大學湖北省 211工程院校 教育部直屬院校
【文章頁數(shù)】:62 頁
【學位級別】:碩士
【部分圖文】:
圖2.1卷積神經(jīng)網(wǎng)絡結構圖??(1)特征提取??特征提取就是利用卷積層中的卷積核(Kemal)以一定的步長(Filter)與輸??
丨碩士學位論文??MASTER'S?THESIS??廣\、??Xl???(?wml?\?bm??vA??.t.^?\??v??xn???(?W.W,?r??v_y??圖2.2卷積神經(jīng)元結構圖。??在卷積層中,一個卷積核也就是一個神經(jīng)元,神經(jīng)元將各個接收到的輸入??(^,X2^3進行求和計算,并加上偏置項得到結果輸入激活函數(shù),最終??得到最終的輸出項&。計算過程如公式2.1、2.2所示。??Fm=?Wrnl*X1?+?Wm2*X2?+?-?+?Wmn*Xn?+?bm?(公式?2.1)??Ym?=?fdFm)?(公式?2.2)??其中,/為激活函數(shù),&表示第m個卷積核經(jīng)過卷積計算得到的特征圖??(Feature?Map),W^n為卷積核,*為卷積運算符。??目前比較常見的激活函數(shù)[37][53]有13他函數(shù)、sigmoid函數(shù)、ReLU函數(shù)。??sigmoid(z)?=—^?(公式?2.3)??l+e_z??dvenw>?J<*l;a???t.O?.????〇,???41-??7\??e?ti?!?,/?OKJ?.?\??^?-j?/?ais?\??t?J?m?\????■?y?〇〇fi?.???,???j?i???,?,?,?,?,?.???■?■>??.10?-s?0?5?10?-4?-3?-2?-1?0'?1?3?3?4??如圖2.3?sigmoid激活函和導數(shù)的幾何圖像??sigmoid激活函數(shù)的計算如公式2.3所示,其中,z為激活函數(shù)輸入的數(shù)值,??函數(shù)可以將輸入的數(shù)值映射到[〇,1]區(qū)間范圍內,其函數(shù)和導
丨碩士學位論文??MASTER'S?THESIS??廣\、??Xl???(?wml?\?bm??vA??.t.^?\??v??xn???(?W.W,?r??v_y??圖2.2卷積神經(jīng)元結構圖。??在卷積層中,一個卷積核也就是一個神經(jīng)元,神經(jīng)元將各個接收到的輸入??(^,X2^3進行求和計算,并加上偏置項得到結果輸入激活函數(shù),最終??得到最終的輸出項&。計算過程如公式2.1、2.2所示。??Fm=?Wrnl*X1?+?Wm2*X2?+?-?+?Wmn*Xn?+?bm?(公式?2.1)??Ym?=?fdFm)?(公式?2.2)??其中,/為激活函數(shù),&表示第m個卷積核經(jīng)過卷積計算得到的特征圖??(Feature?Map),W^n為卷積核,*為卷積運算符。??目前比較常見的激活函數(shù)[37][53]有13他函數(shù)、sigmoid函數(shù)、ReLU函數(shù)。??sigmoid(z)?=—^?(公式?2.3)??l+e_z??dvenw>?J<*l;a???t.O?.????〇,???41-??7\??e?ti?!?,/?OKJ?.?\??^?-j?/?ais?\??t?J?m?\????■?y?〇〇fi?.???,???j?i???,?,?,?,?,?.???■?■>??.10?-s?0?5?10?-4?-3?-2?-1?0'?1?3?3?4??如圖2.3?sigmoid激活函和導數(shù)的幾何圖像??sigmoid激活函數(shù)的計算如公式2.3所示,其中,z為激活函數(shù)輸入的數(shù)值,??函數(shù)可以將輸入的數(shù)值映射到[〇,1]區(qū)間范圍內,其函數(shù)和導
本文編號:3540948
【文章來源】:華中師范大學湖北省 211工程院校 教育部直屬院校
【文章頁數(shù)】:62 頁
【學位級別】:碩士
【部分圖文】:
圖2.1卷積神經(jīng)網(wǎng)絡結構圖??(1)特征提取??特征提取就是利用卷積層中的卷積核(Kemal)以一定的步長(Filter)與輸??
丨碩士學位論文??MASTER'S?THESIS??廣\、??Xl???(?wml?\?bm??vA??.t.^?\??v??xn???(?W.W,?r??v_y??圖2.2卷積神經(jīng)元結構圖。??在卷積層中,一個卷積核也就是一個神經(jīng)元,神經(jīng)元將各個接收到的輸入??(^,X2^3進行求和計算,并加上偏置項得到結果輸入激活函數(shù),最終??得到最終的輸出項&。計算過程如公式2.1、2.2所示。??Fm=?Wrnl*X1?+?Wm2*X2?+?-?+?Wmn*Xn?+?bm?(公式?2.1)??Ym?=?fdFm)?(公式?2.2)??其中,/為激活函數(shù),&表示第m個卷積核經(jīng)過卷積計算得到的特征圖??(Feature?Map),W^n為卷積核,*為卷積運算符。??目前比較常見的激活函數(shù)[37][53]有13他函數(shù)、sigmoid函數(shù)、ReLU函數(shù)。??sigmoid(z)?=—^?(公式?2.3)??l+e_z??dvenw>?J<*l;a???t.O?.????〇,???41-??7\??e?ti?!?,/?OKJ?.?\??^?-j?/?ais?\??t?J?m?\????■?y?〇〇fi?.???,???j?i???,?,?,?,?,?.???■?■>??.10?-s?0?5?10?-4?-3?-2?-1?0'?1?3?3?4??如圖2.3?sigmoid激活函和導數(shù)的幾何圖像??sigmoid激活函數(shù)的計算如公式2.3所示,其中,z為激活函數(shù)輸入的數(shù)值,??函數(shù)可以將輸入的數(shù)值映射到[〇,1]區(qū)間范圍內,其函數(shù)和導
丨碩士學位論文??MASTER'S?THESIS??廣\、??Xl???(?wml?\?bm??vA??.t.^?\??v??xn???(?W.W,?r??v_y??圖2.2卷積神經(jīng)元結構圖。??在卷積層中,一個卷積核也就是一個神經(jīng)元,神經(jīng)元將各個接收到的輸入??(^,X2^3進行求和計算,并加上偏置項得到結果輸入激活函數(shù),最終??得到最終的輸出項&。計算過程如公式2.1、2.2所示。??Fm=?Wrnl*X1?+?Wm2*X2?+?-?+?Wmn*Xn?+?bm?(公式?2.1)??Ym?=?fdFm)?(公式?2.2)??其中,/為激活函數(shù),&表示第m個卷積核經(jīng)過卷積計算得到的特征圖??(Feature?Map),W^n為卷積核,*為卷積運算符。??目前比較常見的激活函數(shù)[37][53]有13他函數(shù)、sigmoid函數(shù)、ReLU函數(shù)。??sigmoid(z)?=—^?(公式?2.3)??l+e_z??dvenw>?J<*l;a???t.O?.????〇,???41-??7\??e?ti?!?,/?OKJ?.?\??^?-j?/?ais?\??t?J?m?\????■?y?〇〇fi?.???,???j?i???,?,?,?,?,?.???■?■>??.10?-s?0?5?10?-4?-3?-2?-1?0'?1?3?3?4??如圖2.3?sigmoid激活函和導數(shù)的幾何圖像??sigmoid激活函數(shù)的計算如公式2.3所示,其中,z為激活函數(shù)輸入的數(shù)值,??函數(shù)可以將輸入的數(shù)值映射到[〇,1]區(qū)間范圍內,其函數(shù)和導
本文編號:3540948
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3540948.html
最近更新
教材專著