【摘要】：基于計(jì)算機(jī)技術(shù)快速發(fā)展,特別是近些年來(lái)圖像處理單元(GPU)的投入使用,神經(jīng)網(wǎng)絡(luò)已經(jīng)不再像剛被提出時(shí)那樣遙不可及。神經(jīng)機(jī)器翻譯(NMT)就是將神經(jīng)網(wǎng)絡(luò)應(yīng)用到傳統(tǒng)的機(jī)器翻譯領(lǐng)域來(lái),利用神經(jīng)網(wǎng)絡(luò)的特性實(shí)現(xiàn)機(jī)器自主學(xué)習(xí)翻譯規(guī)則,代替人類執(zhí)行語(yǔ)言翻譯任務(wù)。在深度學(xué)習(xí)技術(shù)浪潮的沖擊之下,機(jī)器翻譯的研究者們開始思考以新的角度來(lái)推進(jìn)以前尚未解決的問(wèn)題。本研究課題就是在這樣的背景下,嘗試使用多分支的樹形深度學(xué)習(xí)網(wǎng)絡(luò)來(lái)研究學(xué)術(shù)論文的機(jī)器翻譯問(wèn)題。本課題的研究是一次探索嘗試過(guò)程,希望能對(duì)后期其他的研究以啟發(fā)。通過(guò)對(duì)傳統(tǒng)神經(jīng)機(jī)器翻譯網(wǎng)絡(luò)的研究,以及對(duì)樹形深度學(xué)習(xí)網(wǎng)絡(luò)的應(yīng)用分析。本研究意在構(gòu)建一個(gè)結(jié)合傳統(tǒng)神經(jīng)網(wǎng)絡(luò)和樹形深度學(xué)習(xí)網(wǎng)絡(luò)的多分支樹形神經(jīng)機(jī)器翻譯機(jī)網(wǎng)絡(luò)(MbTbNMT),通過(guò)對(duì)神經(jīng)網(wǎng)絡(luò)的重新建模來(lái)捕捉學(xué)術(shù)論文語(yǔ)句中的語(yǔ)法、語(yǔ)義信息。首先,本文在最開始對(duì)傳統(tǒng)的神經(jīng)機(jī)器翻譯和樹形深度學(xué)習(xí)網(wǎng)絡(luò)進(jìn)行了介紹,介紹主要以樹形長(zhǎng)短期記憶網(wǎng)絡(luò)(Tree-LSTM)為重點(diǎn),詳細(xì)說(shuō)明了它的原理和構(gòu)建過(guò)程。針對(duì)需要的用到的算法只作了簡(jiǎn)單的介紹。然后,詳細(xì)介紹了所研究的MbTbNMT模型實(shí)現(xiàn)方法,通過(guò)對(duì)LSTM編碼器的隱狀態(tài)節(jié)點(diǎn)進(jìn)行樹形建模,使得上級(jí)節(jié)點(diǎn)含有更多子節(jié)點(diǎn)信息。結(jié)合Attention機(jī)制使模型能夠提取到學(xué)術(shù)論文的語(yǔ)法信息。接下來(lái),介紹了一種新的基于網(wǎng)絡(luò)爬蟲的訓(xùn)練語(yǔ)料構(gòu)建方法。本研究在Tensorflow深度學(xué)習(xí)平臺(tái)上搭建并實(shí)現(xiàn),利用新的訓(xùn)練語(yǔ)料對(duì)搭建模型進(jìn)行訓(xùn)練。檢測(cè)該模型對(duì)學(xué)術(shù)論文語(yǔ)料的翻譯性能,實(shí)驗(yàn)結(jié)果表明其翻譯性能有所提升。訓(xùn)練時(shí),為了加快收斂過(guò)程,我們采用了隨機(jī)梯度下降(SGD)對(duì)模型進(jìn)行了優(yōu)化。最后,同一語(yǔ)料上對(duì)比分析了MbTbNMT與兩種經(jīng)典機(jī)器翻譯模型的翻譯結(jié)果。相比于經(jīng)典模型,MbTbNMT不僅能更多地提取到學(xué)術(shù)論文語(yǔ)法信息,而且系統(tǒng)困惑度更低,更好地實(shí)現(xiàn)了學(xué)術(shù)論文的機(jī)器翻譯。
【圖文】：

圖 2-8 LSTM 內(nèi)部原理STM 神經(jīng)網(wǎng)絡(luò)核心思想是通過(guò)在網(wǎng)絡(luò)單元中添加“門閥”，，控制當(dāng)前息，從而傳遞到下一單元。每個(gè) LSTM 神經(jīng)網(wǎng)絡(luò)單元內(nèi)共有 3 個(gè)門閥記門和輸出門。輸入門是決定什么樣的信息將被保存在單元狀態(tài)中。

待爬取的網(wǎng)頁(yè)截圖
【學(xué)位授予單位】：華中科技大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2018
【分類號(hào)】：H085;TP391.1

【參考文獻(xiàn)】

相關(guān)期刊論文 前1條

1 熊忠陽(yáng);藺顯強(qiáng);張玉芳;牙漫;;結(jié)合網(wǎng)頁(yè)結(jié)構(gòu)與文本特征的正文提取方法[J];計(jì)算機(jī)工程;2013年12期

相關(guān)碩士學(xué)位論文 前1條

1 杜健;融合統(tǒng)計(jì)機(jī)器翻譯特征的蒙漢神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯技術(shù)[D];內(nèi)蒙古大學(xué);2017年

本文編號(hào)：2611605