近年來美國對(duì)中國發(fā)起貿(mào)易戰(zhàn),又一次揮起知識(shí)產(chǎn)權(quán)保護(hù)的大棒,對(duì)中國施加壓力。知識(shí)產(chǎn)權(quán)作為美國的核心競爭力,美國為了維護(hù)其自身的技術(shù)和經(jīng)濟(jì)優(yōu)勢不惜手段的遏制競爭對(duì)手,防止技術(shù)被趕超。我國作為后發(fā)的追趕者被美國處處針對(duì),專利作為知識(shí)產(chǎn)權(quán)中高科技領(lǐng)域的代表更是如此。中國的專利保護(hù)發(fā)展時(shí)間短、情況復(fù)雜,并且專利文本的非結(jié)構(gòu)化程度高、數(shù)據(jù)量龐大,使專利分析工作大量依賴于專業(yè)人士,提高了專利分析保護(hù)的門檻。知識(shí)圖譜作為大數(shù)據(jù)時(shí)代下強(qiáng)有力的分析檢索工具,已經(jīng)成熟的被廣泛應(yīng)用于各個(gè)領(lǐng)域,因此本文嘗試將知識(shí)圖譜與專利保護(hù)領(lǐng)域結(jié)合,研究專利文本的知識(shí)圖譜構(gòu)建與基于專利文本的知識(shí)圖譜檢索系統(tǒng)。在專利知識(shí)圖譜的構(gòu)建方面,本文對(duì)現(xiàn)有模型字詞向量的輸入方式進(jìn)行研究,在現(xiàn)有求和與拼接兩種效果最好字詞結(jié)合輸入的基礎(chǔ)上,結(jié)合Bert模型,對(duì)字詞結(jié)合進(jìn)行改進(jìn),得到四種字詞結(jié)合的模型輸入方式。在此基礎(chǔ)上,本文通過設(shè)計(jì)了合理的對(duì)比實(shí)驗(yàn),根據(jù)實(shí)驗(yàn)結(jié)果,Bert操作的順序?qū)?shí)驗(yàn)結(jié)果有很大的影響。字詞向量同時(shí)進(jìn)行Bert操作不會(huì)明顯增大字詞向量之間的特征差異,對(duì)結(jié)果提升作用較弱。而分別進(jìn)行Bert操作可以增大字詞向量間的特征差異,對(duì)...

【文章頁數(shù)】：72 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖２．２展示，圖中藍(lán)色框線內(nèi)的Ｅｎｃｏｄｅｒ和Ｄｅｃｏｄｅｒ具有６層相同的結(jié)構(gòu)

?力機(jī)制＾？?Ｔ－?１?遮掩的多頭注意Ｌ??Ｓｅｌｆ－Ａｔｔｅｎｔｉｏｎ???力機(jī)制?廣｜??■＿?０＾０??－——４＾＝＝ｉ?????＾?１—１位置編碼??Ｉｎｐｕｔ?Ｅｍｂｅｄｄｉｎｇ?Ｏｕｔｐｕｔ???ｘ??Ｅｍｂｅｄｄｉｎｇ??Ｉｎｐｕｔｓ?ｆ??１?Ｉ?Ｏｕｔｐｕｔｓ?....

圖２．４基于規(guī)則和字典的命名實(shí)體抽取??為了解決以上問題，首先，相關(guān)領(lǐng)域的專家需要對(duì)領(lǐng)域內(nèi)的命名實(shí)體對(duì)象建立專業(yè)的字??典

進(jìn)行對(duì)??外的擴(kuò)展，只能適用于小范圍的領(lǐng)域。另外，盡管基于規(guī)則的方法具有對(duì)結(jié)構(gòu)化的數(shù)據(jù)的高??識(shí)別準(zhǔn)確率，但是受規(guī)則的覆蓋范圍的限制，根本不能對(duì)規(guī)則之外的情況進(jìn)行處理。如果制??定太多規(guī)則，則會(huì)導(dǎo)致規(guī)則之間沖突，規(guī)則與規(guī)則可能會(huì)相互制約。??；數(shù)據(jù)１?：＾??？■實(shí)體１??丨?丨....

圖２．６Ｂｉ－ＬＳＴＭ網(wǎng)絡(luò)結(jié)構(gòu)圖??１６??

?杭州電子科技大學(xué)碩士學(xué)位論文???的記錄信息進(jìn)行選擇性的保留，一定程度上解決了?ＲＮＮ模型中的梯度問題，同時(shí)保留了?ＲＮＮ??模型對(duì)信息的記錄能力。??迪忘門??Ｘｔ?Ｃｆ?Ｊ￣＾??／?輸出門??輸入門??Ｘｔ?ｘｔ?＼??圖２．５ＬＳＴＭ單元結(jié)構(gòu)圖??ＬＳＴＭ網(wǎng)絡(luò)模型在ＲＮ....

圖２．５ＬＳＴＭ單元結(jié)構(gòu)圖??ＬＳＴＭ網(wǎng)絡(luò)模型在ＲＮＮ網(wǎng)絡(luò)模型的基礎(chǔ)上，通過增加輸入門，輸出門以及遺忘門的機(jī)??制，通過控制每個(gè)神經(jīng)單元是否記錄與保存結(jié)果，來解決ＲＮＮ網(wǎng)絡(luò)中的梯度爆炸和消失的問??題

?杭州電子科技大學(xué)碩士學(xué)位論文???的記錄信息進(jìn)行選擇性的保留，一定程度上解決了?ＲＮＮ模型中的梯度問題，同時(shí)保留了?ＲＮＮ??模型對(duì)信息的記錄能力。??迪忘門??Ｘｔ?Ｃｆ?Ｊ￣＾??／?輸出門??輸入門??Ｘｔ?ｘｔ?＼??圖２．５ＬＳＴＭ單元結(jié)構(gòu)圖??ＬＳＴＭ網(wǎng)絡(luò)模型在ＲＮ....

本文編號(hào)：3899597