天堂国产午夜亚洲专区-少妇人妻综合久久蜜臀-国产成人户外露出视频在线-国产91传媒一区二区三区

基于映射的無(wú)監(jiān)督跨語(yǔ)言詞向量模型研究

發(fā)布時(shí)間:2024-06-25 19:01
  詞向量(Word Embedding)是現(xiàn)今單詞的主流表示方法;谟成涞臒o(wú)監(jiān)督跨語(yǔ)言詞向量(Unsupervised Cross-lingual Emeddings)旨在不使用任何跨語(yǔ)言知識(shí),將源語(yǔ)言和目標(biāo)語(yǔ)言的詞向量映射到同一向量空間中,使得不同語(yǔ)言下語(yǔ)義相同的詞具有較高的相似度。研究該問(wèn)題對(duì)于解決資源匱乏的語(yǔ)言的信息鴻溝問(wèn)題和跨語(yǔ)言自然語(yǔ)言處理任務(wù)有著重大意義。近年來(lái),各國(guó)學(xué)者在該方向上的研究取得了許多成果。不過(guò)現(xiàn)有的無(wú)監(jiān)督方法存在著兩個(gè)不足(1)沒(méi)有處理一次多義的問(wèn)題;(2)模型在實(shí)際應(yīng)用場(chǎng)景中的魯棒性不足,尤其是對(duì)于距離遙遠(yuǎn)的語(yǔ)言對(duì)。針對(duì)以上問(wèn)題,本文的主要研究工作包含以下內(nèi)容:1.分析了造成無(wú)監(jiān)督魯棒性不足的原因,發(fā)現(xiàn)無(wú)監(jiān)督方法所依賴的同構(gòu)性假設(shè)在實(shí)際應(yīng)用場(chǎng)景中是不成立的。之后量化的分析了無(wú)監(jiān)督方法的魯棒性,并提出了語(yǔ)言詞向量模型的距離度量方法。該度量方法成功地表現(xiàn)出了語(yǔ)言模型在語(yǔ)言學(xué)知識(shí)下的距離性質(zhì),不同語(yǔ)系的語(yǔ)言較同一語(yǔ)系下的語(yǔ)言有著更大的距離值。然后研究表明了語(yǔ)言距離與無(wú)監(jiān)督模型的性能存在著線性關(guān)系,關(guān)系較遠(yuǎn)的語(yǔ)言在無(wú)監(jiān)督模型的件能上有著明顯的下降。2.本文提出從構(gòu)建...

【文章頁(yè)數(shù)】:62 頁(yè)

【學(xué)位級(jí)別】:碩士

【部分圖文】:

圖1-1英語(yǔ)和西班牙語(yǔ)中數(shù)字詞向最與動(dòng)物詞向鋒之間的呈現(xiàn)了相似的幾何關(guān)??系[2】??

圖1-1英語(yǔ)和西班牙語(yǔ)中數(shù)字詞向最與動(dòng)物詞向鋒之間的呈現(xiàn)了相似的幾何關(guān)??系[2】??

?〇???〇?*??}??J???.?.?1?〇do>(two)??"j*???'????U?M?M?t;?"Xi?I??J???13??#?'???4r?IS??〇?horse?〇?cabalo?(horse)???,?,J?ovaca?(cow)??m?‘?〇?cow?(J....


圖2-1?Word2Vec的連續(xù)詞袋模型和跳字模型結(jié)構(gòu)圖[55]??(1)?Skip-gram?模型??

圖2-1?Word2Vec的連續(xù)詞袋模型和跳字模型結(jié)構(gòu)圖[55]??(1)?Skip-gram?模型??

FastText模型。??2.3.1.1?Word2Vec??谷歌(Google)公司在2013年開(kāi)源發(fā)布了一種可以將單詞轉(zhuǎn)換為向量形式??的計(jì)算工具W〇rd2VeC[2],它基于分布假設(shè)的思想,可以根據(jù)詞忙間的距離或相似??度表示出單詞間的關(guān)系,從而發(fā)掘出語(yǔ)言詞?I:結(jié)構(gòu)和關(guān)系....


圖2-2?Word2Vec下的跳寺模型[55]??如圖2-2所示,Skip-gram可以看做是由輸入層、隱藏層(也稱為投射層)、??輸出M構(gòu)成的三雇網(wǎng)絡(luò):輸入層是由中心詞構(gòu)成的V維的獨(dú)熱編碼的向量s中??

圖2-2?Word2Vec下的跳寺模型[55]??如圖2-2所示,Skip-gram可以看做是由輸入層、隱藏層(也稱為投射層)、??輸出M構(gòu)成的三雇網(wǎng)絡(luò):輸入層是由中心詞構(gòu)成的V維的獨(dú)熱編碼的向量s中??

?哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文???它距離不超過(guò)2的背景詞“method”、“for”、“word”、“embeddings”的條件概率。??/〇?Output?layer??T?,?Awt??Input?layer?/?/??layer/??〇?wrxJV?ht?i??F-d....


圖2-3?Word2Vec的連續(xù)詞袋模型[55]??_?skip-gram模III類(lèi)似,CBOW模塑的結(jié)構(gòu)同枰是一個(gè)三屬的全連接神經(jīng)網(wǎng)??絡(luò),同樣它只有一個(gè)隱藏層

圖2-3?Word2Vec的連續(xù)詞袋模型[55]??_?skip-gram模III類(lèi)似,CBOW模塑的結(jié)構(gòu)同枰是一個(gè)三屬的全連接神經(jīng)網(wǎng)??絡(luò),同樣它只有一個(gè)隱藏層

?哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文???Input?layer??J\??^^mdde^^g011,iayer??X2k?〇?^ht?^'n^V?〇?yj????/?/?F-dim??%?w^/??-;/??5/?CxF-dim??圖2-3?Word2Vec的連續(xù)詞袋模型[55]?....



本文編號(hào):3995763

資料下載
論文發(fā)表

本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3995763.html


Copyright(c)文論論文網(wǎng)All Rights Reserved | 網(wǎng)站地圖 |

版權(quán)申明:資料由用戶96974***提供,本站僅收錄摘要或目錄,作者需要?jiǎng)h除請(qǐng)E-mail郵箱bigeng88@qq.com
日本高清不卡一二三区| 亚洲一区二区三区三区| 国内九一激情白浆发布| 日韩精品免费一区三区| 国产精品涩涩成人一区二区三区| 亚洲精品国产精品日韩| 国产一区二区三区香蕉av| 色一情一伦一区二区三| 国产一级性生活录像片| 办公室丝袜高跟秘书国产| 精品女同一区二区三区| 欧洲一区二区三区蜜桃| 日韩精品人妻少妇一区二区| 中日韩美女黄色一级片| 欧美日韩在线观看自拍| 日韩在线免费看中文字幕| 日韩精品成区中文字幕| 午夜国产成人福利视频| 亚洲中文字幕视频在线观看| 久久久精品日韩欧美丰满| 精品人妻一区二区三区四区久久| 日韩在线视频精品中文字幕| 日韩特级黄色大片在线观看| 国产对白老熟女正在播放| 日本黄色高清视频久久| 亚洲一区二区三区精选| 亚洲欧美一二区日韩高清在线| 欧美又大又黄刺激视频| 久久国产精品亚州精品毛片| 在线懂色一区二区三区精品| 国产综合香蕉五月婷在线| 色婷婷亚洲精品综合网| 欧美极品欧美精品欧美| 日本淫片一区二区三区| 99热九九热这里只有精品| 国产免费一区二区不卡| 精品少妇人妻av一区二区蜜桃| 日韩精品一区二区一牛| 欧美激情区一区二区三区| 日本人妻精品有码字幕| 日本免费一本一二区三区|