本文關(guān)鍵詞：基于NoSQL的時空數(shù)據(jù)模型構(gòu)建和存儲方案研究

  更多相關(guān)文章： 時空數(shù)據(jù) 非關(guān)系型數(shù)據(jù)庫 Hadoop MongoDB Neo4j

【摘要】：隨著人類社會不斷信息化、數(shù)字化和智能化,時空數(shù)據(jù)在國民經(jīng)濟與日常生活中發(fā)揮著日益重要的作用,不斷被應用于各個領(lǐng)域,如事件預測、環(huán)境監(jiān)測、城市演化、交通管理、地震救援、全球或區(qū)域氣候、物流配送、實時GIS、面向大數(shù)據(jù)的時空數(shù)據(jù)挖掘與分析等。時空數(shù)據(jù)系統(tǒng)是一種對數(shù)據(jù)進行采集、儲存、分析處理和可視化的信息系統(tǒng),既是對現(xiàn)實世界的模擬和進行空間數(shù)據(jù)分析處理的手段,也是一門對時空數(shù)據(jù)信息處理分析的科學技術(shù)。怎樣在大數(shù)據(jù)環(huán)境下解決時空數(shù)據(jù)的存儲和分析計算是業(yè)界的研究熱點。時空數(shù)據(jù)庫作為時空數(shù)據(jù)系統(tǒng)的核心,是時空數(shù)據(jù)系統(tǒng)進行存儲和計算的基礎(chǔ),由于傳統(tǒng)時空數(shù)據(jù)模型基于關(guān)系型數(shù)據(jù)庫構(gòu)建和存儲,所以必須將問題領(lǐng)域模型轉(zhuǎn)換成關(guān)系結(jié)構(gòu),轉(zhuǎn)換代價較高,存儲時將空間信息和時間信息割裂開來,同時關(guān)系型數(shù)據(jù)庫受范式限制難于擴展、靈活性差、對于較為復雜的查詢涉及大量連接操作,導致效率急劇下降。因此需要尋找能夠?qū)r空數(shù)據(jù)統(tǒng)一建模和存儲的解決方案。No SQL是大數(shù)據(jù)環(huán)境下發(fā)展起來的非關(guān)系型、可水平擴展的、分布式的數(shù)據(jù)庫,能夠處理半結(jié)構(gòu)化、結(jié)構(gòu)化的數(shù)據(jù),支持高并發(fā)的讀寫,存儲模型包含鍵值、列族、文檔、圖等。No SQL擺脫了關(guān)系型數(shù)據(jù)庫范式限制和ACID約束,沒有固定表結(jié)構(gòu)和低效的連接操作,基于CAP理論、BASE并發(fā)事務模型和最終一致性,因此具有更好的伸縮性和靈活性。No SQL為海量數(shù)據(jù)的存儲和云計算環(huán)境下的數(shù)據(jù)分析與計算提供了堅實的基礎(chǔ),能夠有效存儲格式多樣、數(shù)據(jù)量大、關(guān)系復雜的時空數(shù)據(jù)。本文首先對主流的時空數(shù)據(jù)模型和存儲方案進行了系統(tǒng)的分析,介紹了國內(nèi)外研究現(xiàn)狀;然后詳細介紹了時空數(shù)據(jù)特點和代表性數(shù)據(jù)模型,闡述了No SQL數(shù)據(jù)庫的理論、數(shù)據(jù)模型以及相對于關(guān)系型數(shù)據(jù)庫的優(yōu)勢;提出了基于No SQL的時空數(shù)據(jù)模型和存儲的總體架構(gòu),分析了Hadoop結(jié)合Mongo DB的時空數(shù)據(jù)模型構(gòu)建與存儲,針對柵格數(shù)據(jù)與矢量數(shù)據(jù)特征結(jié)合Mongo DB基于文檔存儲模型,設(shè)計了相應的數(shù)據(jù)轉(zhuǎn)換模塊和柵格數(shù)據(jù)、矢量數(shù)據(jù)存儲模型,結(jié)合Hadoop對大數(shù)據(jù)的處理能力,介紹了基于Mongo DB存儲和Hadoop分析、計算的典型應用;利用Neo4j對具有復雜關(guān)系的時空數(shù)據(jù)進行建模和存儲,提出了基于圖數(shù)據(jù)庫的時空數(shù)據(jù)時間表達和空間表達方法,應用實例說明了該模型的可行性,并且介紹了Neo4j Spatial庫在時空數(shù)據(jù)處理方面的高效性和Neo4j集群架構(gòu);最后,基于曙光的XDATA-HADOOP平臺搭建了Mongo DB與Neo4j,對論文提出的架構(gòu)搭建了原型系統(tǒng),在原型系統(tǒng)上進行了測試,測試結(jié)果分析表明了論文提出的基于No SQL的時空數(shù)據(jù)模型和架構(gòu)的可行性與有效性。
【關(guān)鍵詞】：時空數(shù)據(jù) 非關(guān)系型數(shù)據(jù)庫 Hadoop MongoDB Neo4j
【學位授予單位】：重慶大學
【學位級別】：碩士
【學位授予年份】：2015
【分類號】：P208
【目錄】：

• 中文摘要3-5
• 英文摘要5-10
• 1 緒論10-14
• 1.1 課題研究的背景和意義10-11
• 1.2 國內(nèi)外研究現(xiàn)狀11-12
• 1.2.1 時空數(shù)據(jù)模型國內(nèi)外研究現(xiàn)狀11-12
• 1.2.2 NoSQL研究現(xiàn)狀12
• 1.3 本文的主要工作12-13
• 1.4 本文的結(jié)構(gòu)安排13-14
• 2 時空數(shù)據(jù)概念、特點與模型14-30
• 2.1 時空數(shù)據(jù)概念與特點14-17
• 2.1.1 空間信息及其語義表達15-16
• 2.1.2 時間信息及其語義表達16-17
• 2.2 時空數(shù)據(jù)模型與存儲17-23
• 2.2.1 序列快照模型18
• 2.2.2 基態(tài)修正和時空復合模型18-20
• 2.2.3 面向?qū)ο蟮臅r空數(shù)據(jù)模型20-21
• 2.2.4 基于事件的時空數(shù)據(jù)模型21-22
• 2.2.5 基于圖的時空數(shù)據(jù)模型22-23
• 2.3 NoSQL數(shù)據(jù)庫23-29
• 2.3.1 NoSQL概述23
• 2.3.2 NoSQL的優(yōu)勢23-24
• 2.3.3 CAP, ACID與BASE理論24-26
• 2.3.4 NoSQL數(shù)據(jù)模型及分類26-29
• 2.4 本章小結(jié)29-30
• 3 基于NoSQL的時空數(shù)據(jù)模型與存儲架構(gòu)30-34
• 3.1 總體要求與功能30-31
• 3.1.1 總體要求30
• 3.1.2 功能設(shè)計30-31
• 3.2 總體架構(gòu)31-33
• 3.2.1 數(shù)據(jù)源31-32
• 3.2.2 存儲層32
• 3.2.3 接口層32-33
• 3.3 本章小結(jié)33-34
• 4 基于Hadoop和MongoDB的時空模型與存儲34-58
• 4.1 Hadoop簡述34-41
• 4.1.1 HDFS Federation35-38
• 4.1.2 YARN(MapReduce NextGen)38-41
• 4.2 MongoDB介紹41-45
• 4.2.1 MongoDB基本概念與特點41
• 4.2.2 MongoDB集群41-45
• 4.3 結(jié)合Hadoop和Mongodb的時空數(shù)據(jù)模型構(gòu)建45-56
• 4.3.1 總體設(shè)計45-46
• 4.3.2 時空數(shù)據(jù)建模46-52
• 4.3.3 時空數(shù)據(jù)計算模型52-56
• 4.4 本章小結(jié)56-58
• 5 基于Neo4j圖數(shù)據(jù)庫的時空模型58-70
• 5.1 圖數(shù)據(jù)庫簡述58-60
• 5.2 基于Neo4j圖數(shù)據(jù)庫的時空數(shù)據(jù)模型構(gòu)建60-62
• 5.2.1 基于圖數(shù)據(jù)庫的時間表達60-61
• 5.2.2 基于圖數(shù)據(jù)庫的空間表達61-62
• 5.3 基于圖數(shù)據(jù)庫的時空數(shù)據(jù)模型應用62-68
• 5.3.1 時空數(shù)據(jù)圖模型構(gòu)建62-64
• 5.3.2 時空數(shù)據(jù)計算和分析64-65
• 5.3.3 Neo4j Spatial在時空數(shù)據(jù)處理中的應用65-66
• 5.3.4 基于Neo4j時空數(shù)據(jù)處理的架構(gòu)66-68
• 5.4 本章小結(jié)68-70
• 6 原型系統(tǒng)搭建與測試70-84
• 6.1 原型系統(tǒng)搭建70-77
• 6.2 測試過程與分析77-81
• 6.3 本章小結(jié)81-84
• 7 總結(jié)與展望84-86
• 7.1 工作總結(jié)84
• 7.2 工作展望84-86
• 致謝86-88
• 參考文獻88-92
• 附錄92
• A. 作者在攻讀學位期間內(nèi)發(fā)表的論文目錄92

【相似文獻】

中國期刊全文數(shù)據(jù)庫 前10條

1 鄭扣根,余青怡,潘云鶴;基于事件對象的時空數(shù)據(jù)模型的擴展與實現(xiàn)[J];計算機工程與應用;2001年03期

2 林廣發(fā),馮學智,王雷,都金康;以事件為核心的面向?qū)ο髸r空數(shù)據(jù)模型[J];測繪學報;2002年01期

3 蔡砥,徐建華;基于Kevin-Ian 3D模型的緊致時空數(shù)據(jù)模型[J];測繪學報;2002年01期

4 尹章才,李霖,艾自興;基于圖論的時空數(shù)據(jù)模型研究[J];測繪學報;2003年02期

5 盧炎生,秦川,唐波;基于屬性標識位的面向?qū)ο髸r空數(shù)據(jù)模型[J];華中科技大學學報(自然科學版);2003年03期

6 崔偉宏,史文中,李小娟;基于特征的時空數(shù)據(jù)模型研究及在土地利用變化動態(tài)監(jiān)測中的應用[J];測繪學報;2004年02期

7 林廣發(fā);基于事件的時空數(shù)據(jù)模型研究[J];測繪學報;2004年03期

8 佘江峰,馮學智,都金康;時空數(shù)據(jù)模型的研究進展評述[J];南京大學學報(自然科學版);2005年03期

9 王宏勇,翟中敏,郭建星;時空數(shù)據(jù)模型及其在空間運動對象管理中的應用[J];地理空間信息;2005年05期

10 滕龍妹;劉仁義;劉南;;基于雙效機制的時空數(shù)據(jù)模型研究[J];遙感學報;2005年06期

中國重要會議論文全文數(shù)據(jù)庫 前10條

1 張英;邵峰晶;孫仁誠;;面向?qū)ο蟮乃脑M時空數(shù)據(jù)模型[A];第四屆中國軟件工程大會論文集[C];2007年

2 林廣發(fā);馮學智;江輝仙;;時空數(shù)據(jù)模型建模方法研究[A];中國地理信息系統(tǒng)協(xié)會第八屆年會論文集[C];2004年

3 崔偉宏;史文中;李小娟;;基于特征的時空數(shù)據(jù)模型研究及在土地利用變化動態(tài)監(jiān)測中的應用[A];全國地圖學與GIS學術(shù)會議論文集[C];2004年

4 林廣發(fā);陳友飛;黃萬里;;一種時空數(shù)據(jù)模型的分類方法[A];全國地圖學與GIS學術(shù)會議論文集[C];2004年

5 汪衛(wèi);王宇君;施伯樂;;基于約束的時空數(shù)據(jù)模型和查詢語言[A];第十六屆全國數(shù)據(jù)庫學術(shù)會議論文集[C];1999年

6 朱麗云;唐中實;牟博超;尹平;;城市規(guī)劃時空數(shù)據(jù)模型設(shè)計[A];中國地理信息系統(tǒng)協(xié)會第九屆年會論文集[C];2005年

7 秦其明;王洪慶;劉海濤;李U，

本文編號：850727