一種分布式環(huán)境下的時空數(shù)據(jù)存儲與多維混合索引方法
【文章頁數(shù)】:96 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖2.2?Spark任務(wù)運(yùn)行流程圖(懷特,2017)??當(dāng)Spark運(yùn)行一個計算任務(wù),整體任務(wù)核心的運(yùn)行層次如圖2.2所示
?/??圖2.2?Spark任務(wù)運(yùn)行流程圖(懷特,2017)??當(dāng)Spark運(yùn)行一個計算任務(wù),整體任務(wù)核心的運(yùn)行層次如圖2.2所示。其中,??Job代表運(yùn)行計算的整體任務(wù),Stage作為Job的基本調(diào)度單位,Task則是細(xì)分后??的多個子任務(wù)。??1.
圖2.5協(xié)處理器模式中指令運(yùn)行機(jī)制(George?L,2013)??列族數(shù)據(jù)庫由于底層架構(gòu)的分離設(shè)計,難以直接對表數(shù)據(jù)進(jìn)行初步計算、統(tǒng)計??
周期的變化,每個生命周期狀態(tài)將與鉤子函數(shù)進(jìn)行鏈接,例如prePut、preScan等??數(shù)據(jù)庫存取存取操作被框架隱式調(diào)用,客戶端指令操作在協(xié)處理器模式中運(yùn)行機(jī)??制如圖2.5所示。??客戶端?數(shù)據(jù)分區(qū)??Scan?-|?協(xié)處理器?1????PreScanOpen?????I???....
圖2.6分布式時空數(shù)據(jù)存儲表結(jié)構(gòu)設(shè)計??按照如圖2.6所示,時空數(shù)據(jù)的存儲目錄被劃分為元數(shù)據(jù)表、多屬性索引表、??
時空線、面索引??圖2.6分布式時空數(shù)據(jù)存儲表結(jié)構(gòu)設(shè)計??按照如圖2.6所示,時空數(shù)據(jù)的存儲目錄被劃分為元數(shù)據(jù)表、多屬性索引表、??空間索引表和時空索引表:元數(shù)據(jù)表存儲了整個時空數(shù)據(jù)表目錄的分布結(jié)構(gòu),記錄??了查詢索引對應(yīng)的表名和部分用戶自定義參數(shù);屬性索引表針對多維屬性建立合?....
圖2.7時空數(shù)據(jù)整體存儲架構(gòu)??通過對時空數(shù)據(jù)存儲結(jié)構(gòu)的設(shè)計,HBase分別為每種索引表進(jìn)行分布式存儲
表示為線性關(guān)系,而檢索記錄行鍵或與時間呈對數(shù)關(guān)系,這使得系統(tǒng)不會因為讀寫??操作性能而影響系統(tǒng)擴(kuò)展能力。??查詢引擎整體架構(gòu)如圖2.8所示,在HBase的協(xié)處理器機(jī)制之上,由客戶端??和服務(wù)端兩部分構(gòu)成?蛻舳朔矫妫ㄟ^池化客戶端管理對象,將數(shù)據(jù)庫操作指令??批量傳入服務(wù)端,解決....
本文編號:3977499
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3977499.html