近年來美國對中國發(fā)起貿(mào)易戰(zhàn),又一次揮起知識產(chǎn)權(quán)保護的大棒,對中國施加壓力。知識產(chǎn)權(quán)作為美國的核心競爭力,美國為了維護其自身的技術(shù)和經(jīng)濟優(yōu)勢不惜手段的遏制競爭對手,防止技術(shù)被趕超。我國作為后發(fā)的追趕者被美國處處針對,專利作為知識產(chǎn)權(quán)中高科技領(lǐng)域的代表更是如此。中國的專利保護發(fā)展時間短、情況復雜,并且專利文本的非結(jié)構(gòu)化程度高、數(shù)據(jù)量龐大,使專利分析工作大量依賴于專業(yè)人士,提高了專利分析保護的門檻。知識圖譜作為大數(shù)據(jù)時代下強有力的分析檢索工具,已經(jīng)成熟的被廣泛應用于各個領(lǐng)域,因此本文嘗試將知識圖譜與專利保護領(lǐng)域結(jié)合,研究專利文本的知識圖譜構(gòu)建與基于專利文本的知識圖譜檢索系統(tǒng)。在專利知識圖譜的構(gòu)建方面,本文對現(xiàn)有模型字詞向量的輸入方式進行研究,在現(xiàn)有求和與拼接兩種效果最好字詞結(jié)合輸入的基礎(chǔ)上,結(jié)合Bert模型,對字詞結(jié)合進行改進,得到四種字詞結(jié)合的模型輸入方式。在此基礎(chǔ)上,本文通過設(shè)計了合理的對比實驗,根據(jù)實驗結(jié)果,Bert操作的順序?qū)嶒灲Y(jié)果有很大的影響。字詞向量同時進行Bert操作不會明顯增大字詞向量之間的特征差異,對結(jié)果提升作用較弱。而分別進行Bert操作可以增大字詞向量間的特征差異,對...

【文章頁數(shù)】：72 頁

【學位級別】：碩士

【部分圖文】：

圖２．２展示，圖中藍色框線內(nèi)的Ｅｎｃｏｄｅｒ和Ｄｅｃｏｄｅｒ具有６層相同的結(jié)構(gòu)

?力機制＾？?Ｔ－?１?遮掩的多頭注意Ｌ??Ｓｅｌｆ－Ａｔｔｅｎｔｉｏｎ???力機制?廣｜??■＿?０＾０??－——４＾＝＝ｉ?????＾?１—１位置編碼??Ｉｎｐｕｔ?Ｅｍｂｅｄｄｉｎｇ?Ｏｕｔｐｕｔ???ｘ??Ｅｍｂｅｄｄｉｎｇ??Ｉｎｐｕｔｓ?ｆ??１?Ｉ?Ｏｕｔｐｕｔｓ?....

圖２．４基于規(guī)則和字典的命名實體抽取??為了解決以上問題，首先，相關(guān)領(lǐng)域的專家需要對領(lǐng)域內(nèi)的命名實體對象建立專業(yè)的字??典

進行對??外的擴展，只能適用于小范圍的領(lǐng)域。另外，盡管基于規(guī)則的方法具有對結(jié)構(gòu)化的數(shù)據(jù)的高??識別準確率，但是受規(guī)則的覆蓋范圍的限制，根本不能對規(guī)則之外的情況進行處理。如果制??定太多規(guī)則，則會導致規(guī)則之間沖突，規(guī)則與規(guī)則可能會相互制約。??；數(shù)據(jù)１?：＾??？■實體１??丨?丨....

圖２．６Ｂｉ－ＬＳＴＭ網(wǎng)絡結(jié)構(gòu)圖??１６??

?杭州電子科技大學碩士學位論文???的記錄信息進行選擇性的保留，一定程度上解決了?ＲＮＮ模型中的梯度問題，同時保留了?ＲＮＮ??模型對信息的記錄能力。??迪忘門??Ｘｔ?Ｃｆ?Ｊ￣＾??／?輸出門??輸入門??Ｘｔ?ｘｔ?＼??圖２．５ＬＳＴＭ單元結(jié)構(gòu)圖??ＬＳＴＭ網(wǎng)絡模型在ＲＮ....

圖２．５ＬＳＴＭ單元結(jié)構(gòu)圖??ＬＳＴＭ網(wǎng)絡模型在ＲＮＮ網(wǎng)絡模型的基礎(chǔ)上，通過增加輸入門，輸出門以及遺忘門的機??制，通過控制每個神經(jīng)單元是否記錄與保存結(jié)果，來解決ＲＮＮ網(wǎng)絡中的梯度爆炸和消失的問??題

?杭州電子科技大學碩士學位論文???的記錄信息進行選擇性的保留，一定程度上解決了?ＲＮＮ模型中的梯度問題，同時保留了?ＲＮＮ??模型對信息的記錄能力。??迪忘門??Ｘｔ?Ｃｆ?Ｊ￣＾??／?輸出門??輸入門??Ｘｔ?ｘｔ?＼??圖２．５ＬＳＴＭ單元結(jié)構(gòu)圖??ＬＳＴＭ網(wǎng)絡模型在ＲＮ....

本文編號：3899597