海量空間數(shù)據(jù)的分布式存儲管理及并行處理技術研究
發(fā)布時間:2022-07-13 12:14
隨著空間數(shù)據(jù)規(guī)模的不斷增長,空間分析和處理技術的復雜程度不斷增加,使得對海量空間數(shù)據(jù)進行高效管理和處理的難度不斷加大,迫切需要新的技術和方法來管理和處理海量空間數(shù)據(jù)。分布式存儲和并行計算為解決上述問題提供了一種新的方法。本文針對當前空間數(shù)據(jù)存儲和處理方法存在的若干不足,在總結應用問題和需求的基礎上,著重在基于HBase的海量空間數(shù)據(jù)管理技術和海量空間數(shù)據(jù)并行處理方法等方面進行深入研究,主要取得了以下研究成果:(1)深入研究了空間數(shù)據(jù)存儲系統(tǒng)與并行處理方法,為并行空間數(shù)據(jù)的存儲與處理提供具體的理論指導,并指出了傳統(tǒng)方法存儲和處理海量空間數(shù)據(jù)存在的不足。(2)深入研究了架構在分布式文件系統(tǒng)上的存儲系統(tǒng)HBase,為空間數(shù)據(jù)的分布式存儲管理提供技術支撐。設計了適合分布式存儲的并行索引,提出了基于HBase的空間數(shù)據(jù)管理方法,并通過與傳統(tǒng)存儲方法的對比實驗,驗證了HBase在海量空間數(shù)據(jù)分布式存儲方面性能的優(yōu)越性。(3)設計并實現(xiàn)了基于Map Reduce并行編程框架的海量空間數(shù)據(jù)并行處理引擎Map ReduceGIS。由于Map Reduce不直接支持空間數(shù)據(jù)的關系連接,設計了一種基于Map...
【文章頁數(shù)】:68 頁
【學位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 課題背景和來源
1.2 國內外研究現(xiàn)狀
1.2.1 空間數(shù)據(jù)存儲技術研究現(xiàn)狀
1.2.2 并行計算技術研究現(xiàn)狀
1.3 論文研究內容和論文組織結構
第二章 分布式存儲與并行處理相關技術
2.1 空間數(shù)據(jù)存儲系統(tǒng)概述
2.1.1 空間數(shù)據(jù)庫
2.1.2 分布式數(shù)據(jù)庫系統(tǒng)
2.1.3 Hadoop 分布式文件系統(tǒng)
2.2 并行處理方法概述
2.2.1 Map Reduce
2.2.2 并行查詢
2.2.3 GIS 標準庫
2.3 現(xiàn)有技術的不足
2.3.1 空間數(shù)據(jù)存儲系統(tǒng)
2.3.2 地理信息系統(tǒng)
2.4 本章小結
第三章 基于HBase 的海量空間數(shù)據(jù)管理技術
3.1 HBase 體系分析
3.1.1 HBase 數(shù)據(jù)模型
3.1.2 HBase 實現(xiàn)機制
3.2 并行Hilbert R-Tree 索引設計
3.2.1 基于Hilbert 空間填充曲線的數(shù)據(jù)劃分
3.2.2 并行Hilbert R-Tree 索引設計
3.3 基于HBase 的海量空間數(shù)據(jù)管理
3.3.1 空間數(shù)據(jù)管理流程
3.3.2 矢量數(shù)據(jù)管理
3.3.3 柵格數(shù)據(jù)管理
3.4 HBase 與關系數(shù)據(jù)庫的對比實驗
3.4.1 HBase 與關系數(shù)據(jù)庫的區(qū)別
3.4.2 測試實驗
3.5 本章小結
第四章 海量空間數(shù)據(jù)并行處理方法的設計與實現(xiàn)
4.1 需求分析
4.2 Map ReduceGIS 設計
4.2.1 體系結構
4.2.2 流程分析
4.3 Map ReduceGIS 實現(xiàn)
4.3.1 Map ReduceGIS 環(huán)境搭建
4.3.2 核心模塊實現(xiàn)
4.3.3 操作模塊實現(xiàn)
4.3.4 索引模塊實現(xiàn)
4.3.5 其它模塊實現(xiàn)
4.4 基于Map Reduce 的并行空間連接
4.4.1 并行空間連接處理體系結構
4.4.2 Map 階段
4.4.3 Reduce 階段
4.5 本章小結
第五章 并行處理實驗結果與分析
5.1 實驗配置
5.2 Map ReduceGIS 操作實驗
5.2.1 新增實驗
5.2.2 讀取實驗
5.2.3 最近鄰實驗
5.3 可用性分析
5.3.1 執(zhí)行性評估
5.3.2 編程能力評估
5.3.3 可擴展能力評估
5.4 本章小結
第六章 結論與展望
6.1 主要研究成果
6.2 下一步工作
致謝
參考文獻
攻讀碩士學位期間取得的學術成果
【參考文獻】:
期刊論文
[1]并行計算的一體化研究現(xiàn)狀與發(fā)展趨勢[J]. 陳國良,孫廣中,徐云,龍柏. 科學通報. 2009(08)
[2]一種面向并行空間數(shù)據(jù)庫的數(shù)據(jù)劃分算法研究[J]. 趙春宇,孟令奎,林志勇. 武漢大學學報(信息科學版). 2006(11)
[3]基于Oracle Spatial的Shapefile數(shù)據(jù)存儲研究[J]. 孫榮輝,劉先林,趙文吉. 首都師范大學學報(自然科學版). 2006(05)
[4]海量影像數(shù)據(jù)庫管理系統(tǒng)關鍵技術研究[J]. 樊小泊,陳紅. 計算機工程與應用. 2006(30)
[5]海量影像無縫數(shù)據(jù)庫管理系統(tǒng)的設計及實現(xiàn)[J]. 楊忠德,李明祿,李魯群. 計算機工程與應用. 2004(30)
[6]淺談柵格數(shù)據(jù)結構及其壓縮編碼方法[J]. 劉於勛,李國偉,馬麗. 鄭州工業(yè)高等專科學校學報. 2004(03)
[7]Shapefile文件轉換為GML文件的方法[J]. 張竟,陸嶸,吳健平. 地理與地理信息科學. 2004(01)
[8]大型GIS海量數(shù)據(jù)分布式組織與管理[J]. 馬榮華,黃杏元. 南京大學學報(自然科學版). 2003(06)
[9]分布式并行計算環(huán)境:MPI[J]. 王萃寒,趙晨,許小剛,吳國新. 計算機科學. 2003(01)
[10]ShapeFile圖形文件的數(shù)據(jù)導出方法研究[J]. 胡順全,譚向農. 石油工業(yè)計算機應用. 2001(04)
博士論文
[1]基于對象—關系模型的空間數(shù)據(jù)建模研究[D]. 趙俊美.中國地質大學(北京) 2007
碩士論文
[1]海量遙感影像數(shù)據(jù)存儲技術研究[D]. 劉偉.國防科學技術大學 2007
[2]全球海量遙感影像數(shù)據(jù)的分布式管理技術研究[D]. 劉露.國防科學技術大學 2007
本文編號:3660023
【文章頁數(shù)】:68 頁
【學位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 課題背景和來源
1.2 國內外研究現(xiàn)狀
1.2.1 空間數(shù)據(jù)存儲技術研究現(xiàn)狀
1.2.2 并行計算技術研究現(xiàn)狀
1.3 論文研究內容和論文組織結構
第二章 分布式存儲與并行處理相關技術
2.1 空間數(shù)據(jù)存儲系統(tǒng)概述
2.1.1 空間數(shù)據(jù)庫
2.1.2 分布式數(shù)據(jù)庫系統(tǒng)
2.1.3 Hadoop 分布式文件系統(tǒng)
2.2 并行處理方法概述
2.2.1 Map Reduce
2.2.2 并行查詢
2.2.3 GIS 標準庫
2.3 現(xiàn)有技術的不足
2.3.1 空間數(shù)據(jù)存儲系統(tǒng)
2.3.2 地理信息系統(tǒng)
2.4 本章小結
第三章 基于HBase 的海量空間數(shù)據(jù)管理技術
3.1 HBase 體系分析
3.1.1 HBase 數(shù)據(jù)模型
3.1.2 HBase 實現(xiàn)機制
3.2 并行Hilbert R-Tree 索引設計
3.2.1 基于Hilbert 空間填充曲線的數(shù)據(jù)劃分
3.2.2 并行Hilbert R-Tree 索引設計
3.3 基于HBase 的海量空間數(shù)據(jù)管理
3.3.1 空間數(shù)據(jù)管理流程
3.3.2 矢量數(shù)據(jù)管理
3.3.3 柵格數(shù)據(jù)管理
3.4 HBase 與關系數(shù)據(jù)庫的對比實驗
3.4.1 HBase 與關系數(shù)據(jù)庫的區(qū)別
3.4.2 測試實驗
3.5 本章小結
第四章 海量空間數(shù)據(jù)并行處理方法的設計與實現(xiàn)
4.1 需求分析
4.2 Map ReduceGIS 設計
4.2.1 體系結構
4.2.2 流程分析
4.3 Map ReduceGIS 實現(xiàn)
4.3.1 Map ReduceGIS 環(huán)境搭建
4.3.2 核心模塊實現(xiàn)
4.3.3 操作模塊實現(xiàn)
4.3.4 索引模塊實現(xiàn)
4.3.5 其它模塊實現(xiàn)
4.4 基于Map Reduce 的并行空間連接
4.4.1 并行空間連接處理體系結構
4.4.2 Map 階段
4.4.3 Reduce 階段
4.5 本章小結
第五章 并行處理實驗結果與分析
5.1 實驗配置
5.2 Map ReduceGIS 操作實驗
5.2.1 新增實驗
5.2.2 讀取實驗
5.2.3 最近鄰實驗
5.3 可用性分析
5.3.1 執(zhí)行性評估
5.3.2 編程能力評估
5.3.3 可擴展能力評估
5.4 本章小結
第六章 結論與展望
6.1 主要研究成果
6.2 下一步工作
致謝
參考文獻
攻讀碩士學位期間取得的學術成果
【參考文獻】:
期刊論文
[1]并行計算的一體化研究現(xiàn)狀與發(fā)展趨勢[J]. 陳國良,孫廣中,徐云,龍柏. 科學通報. 2009(08)
[2]一種面向并行空間數(shù)據(jù)庫的數(shù)據(jù)劃分算法研究[J]. 趙春宇,孟令奎,林志勇. 武漢大學學報(信息科學版). 2006(11)
[3]基于Oracle Spatial的Shapefile數(shù)據(jù)存儲研究[J]. 孫榮輝,劉先林,趙文吉. 首都師范大學學報(自然科學版). 2006(05)
[4]海量影像數(shù)據(jù)庫管理系統(tǒng)關鍵技術研究[J]. 樊小泊,陳紅. 計算機工程與應用. 2006(30)
[5]海量影像無縫數(shù)據(jù)庫管理系統(tǒng)的設計及實現(xiàn)[J]. 楊忠德,李明祿,李魯群. 計算機工程與應用. 2004(30)
[6]淺談柵格數(shù)據(jù)結構及其壓縮編碼方法[J]. 劉於勛,李國偉,馬麗. 鄭州工業(yè)高等專科學校學報. 2004(03)
[7]Shapefile文件轉換為GML文件的方法[J]. 張竟,陸嶸,吳健平. 地理與地理信息科學. 2004(01)
[8]大型GIS海量數(shù)據(jù)分布式組織與管理[J]. 馬榮華,黃杏元. 南京大學學報(自然科學版). 2003(06)
[9]分布式并行計算環(huán)境:MPI[J]. 王萃寒,趙晨,許小剛,吳國新. 計算機科學. 2003(01)
[10]ShapeFile圖形文件的數(shù)據(jù)導出方法研究[J]. 胡順全,譚向農. 石油工業(yè)計算機應用. 2001(04)
博士論文
[1]基于對象—關系模型的空間數(shù)據(jù)建模研究[D]. 趙俊美.中國地質大學(北京) 2007
碩士論文
[1]海量遙感影像數(shù)據(jù)存儲技術研究[D]. 劉偉.國防科學技術大學 2007
[2]全球海量遙感影像數(shù)據(jù)的分布式管理技術研究[D]. 劉露.國防科學技術大學 2007
本文編號:3660023
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/3660023.html
最近更新
教材專著