隨著計(jì)算機(jī)技術(shù)的不斷進(jìn)步,人機(jī)交互方式由單一的文字交互發(fā)展為文字,手勢(shì)和語(yǔ)音等多種交互方式。交互方式的增加給人機(jī)交流帶來(lái)的更多的便利,同時(shí)也給計(jì)算機(jī)帶來(lái)了巨大的挑戰(zhàn)�，F(xiàn)階段的語(yǔ)音交互,除了簡(jiǎn)單場(chǎng)景是直接利用語(yǔ)音信號(hào)進(jìn)行識(shí)別以外,絕大多數(shù)場(chǎng)景都是將語(yǔ)音信號(hào)轉(zhuǎn)換為文字,然后再進(jìn)行相應(yīng)的研究分析。但是現(xiàn)在語(yǔ)音轉(zhuǎn)錄引擎轉(zhuǎn)錄的文本并不包含標(biāo)點(diǎn)符號(hào),而標(biāo)點(diǎn)符號(hào)對(duì)于人類(lèi)情感的表達(dá)往往起著重要的作用,同樣一句話被標(biāo)上不同的標(biāo)點(diǎn)符號(hào),所表達(dá)的情感往往不同。所以給文本標(biāo)記正確的標(biāo)點(diǎn)符號(hào),對(duì)于計(jì)算機(jī)理解人類(lèi)的真實(shí)意圖,實(shí)現(xiàn)更好的人機(jī)交互有著重要的作用。在自然語(yǔ)言處理早期,人工規(guī)則是處理自然語(yǔ)言的主要方法。隨著數(shù)據(jù)量的增加,基于統(tǒng)計(jì)的研究方法逐漸成為主流,而隨著深度學(xué)習(xí)技術(shù)的發(fā)展和數(shù)據(jù)量的進(jìn)一步增大,深度學(xué)習(xí)技術(shù)被逐步的運(yùn)用到自然語(yǔ)言領(lǐng)域,并且取得了不錯(cuò)的效果。但是在標(biāo)點(diǎn)預(yù)測(cè)方面,大部分方法扔停留在使用傳統(tǒng)方法或者通過(guò)音頻,音調(diào)等信息進(jìn)行預(yù)測(cè),雖然在一定程度上可以完成標(biāo)點(diǎn)預(yù)測(cè)任務(wù),但是整體的準(zhǔn)確率不高,效果不盡人意。為了解決這些問(wèn)題和困難,本文提出深度學(xué)習(xí)方法來(lái)解決問(wèn)題,并取得了不錯(cuò)的處理效果。本文的主要?jiǎng)?chuàng)新...

【文章頁(yè)數(shù)】：53 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖２．３ＬＳＴＭ網(wǎng)絡(luò)結(jié)構(gòu)??Ｉ??Ｆｉｇｕｒｅ?２．３?Ｔｈｅ?ｎｅｔｗｏｒｋ?ｓｔｒｕｃｔｕｒｅ?ｏｆ?ＬＳＴＭ??Ｉ??長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)（ＬＳＴＭ）?１｜６１使用目的內(nèi)存單元來(lái)存儲(chǔ)信息，這是為丫克服上??

基于深度學(xué)習(xí)的中文語(yǔ)音轉(zhuǎn)錄標(biāo)點(diǎn)預(yù)測(cè)研究??爆炸的問(wèn)題［１５］，它只能訪問(wèn)有限的上下文范圍，所以提出了?ＬＳＴＭ的結(jié)構(gòu)，如??圖２．３所示。??Ｖ?！??Ｏｕｔｐｕｔ?Ｇａｔｅ?“??＼?＠??＼?“??＼?Ｆｏｒｇｅｔ?Ｇａｔｅ??／?Ｖ?／??、一’??Ｉｎｐｕｔ?Ｇａｔｅ?“....

圖2.1隱馬可夫過(guò)程

圖2.1隱馬可夫過(guò)程Figure2.1HiddenMarkovprocess示例共分為兩層。第一層是馬爾科夫轉(zhuǎn)移過(guò)程，第二層是該行的輸出，也就以觀測(cè)的輸出。通常把馬爾可夫過(guò)程第一層轉(zhuǎn)移過(guò)程的狀態(tài)叫做隱藏狀態(tài)，層可以被觀察到的輸出叫做觀察狀態(tài)。隱馬爾科夫是一個(gè)更強(qiáng)的假設(shè)....

圖2.2跳躍模型

圖2.2跳躍模型Figure2.2Skip-gramip-gram的運(yùn)行方式主要有以下幾步驟:對(duì)單詞生成one-hot輸入向量xkxk得到上下文的嵌入詞向量vc=Vxvc=Vx通過(guò)u=Uucu=Uuc產(chǎn)生2m個(gè)得分向量ucm,...,uc1,uc....

圖4.1tanh激活函數(shù)Figure4.1tanhactivationfunction觀察圖像可以發(fā)現(xiàn)tanh激活函數(shù)在兩端導(dǎo)數(shù)無(wú)限接近0

圖4.1tanh激活函數(shù)Figure4.1tanhactivationfunction觀察圖像可以發(fā)現(xiàn)tanh激活函數(shù)在兩端導(dǎo)數(shù)無(wú)限接近0。當(dāng)兩端繼續(xù)向外擴(kuò)散時(shí)，導(dǎo)數(shù)就更加趨近于0。當(dāng)出現(xiàn)這種情況時(shí)，便可以把這種情況稱(chēng)作神經(jīng)單元已經(jīng)飽和。由于它們梯度變?yōu)?，....

本文編號(hào)：3929072