基于云計算的冠字號碼存儲與查詢系統(tǒng)中的關鍵技術研究與實現(xiàn)
發(fā)布時間:2021-01-17 11:43
冠字號碼由冠號和數(shù)字編號兩個部分組成,是人民幣的身份標識。金融部門對冠字號碼統(tǒng)計歸檔可以有效監(jiān)管紙幣的流通情況。冠字號碼數(shù)據(jù)在掌握錢幣來源去向、揭示資金關聯(lián)、發(fā)現(xiàn)問題錢幣等方面發(fā)揮著重要的作用。現(xiàn)金設備采集的冠字號碼記錄主要由文本與圖片兩部分數(shù)據(jù)組成,數(shù)據(jù)量巨大。關系型數(shù)據(jù)庫在處理海量冠字號碼數(shù)據(jù)時面臨巨大的挑戰(zhàn),系統(tǒng)成本高,難度大。而基于云計算的技術雖然在很多海量數(shù)據(jù)的存儲與查詢中得到了應用,但是對于冠字號碼實際應用中的多維查詢、索引構建、小文件存儲與查詢等具體問題,現(xiàn)有的云平臺也存在著一些不足。本文設計并實現(xiàn)了基于云計算的冠字號碼存儲與查詢系統(tǒng),并對其中的部分關鍵技術進行了研究。冠字號碼文本記錄的查詢常常會涉及到多個查詢條件,而基于云計算的NoSql數(shù)據(jù)庫采用Key-Value結構,只支持主鍵的快速查詢,對于多個非主鍵的查詢很有可能會造成全表掃描操作,查詢效率不高。本文提出了一種基于HBase的多維索引框架來實現(xiàn)冠字號碼文本信息的快速查詢。該索引框架首先設計了粗細粒度結合的多維空間索引,實現(xiàn)多維數(shù)據(jù)向一維上的投影;然后通過每個時間段內的記錄條數(shù)對生成數(shù)據(jù)區(qū)塊的大小進行限制,在控制H...
【文章來源】:南京理工大學江蘇省 211工程院校
【文章頁數(shù)】:68 頁
【學位級別】:碩士
【部分圖文】:
圖2-1?Hadoop生態(tài)系統(tǒng)??在Hadoop中有兩個核心模塊,分別是HDFS和MapReduce
HDFS、管理表中的數(shù)據(jù)。Client直接通過HRegionServer讀寫數(shù)據(jù),具體方式是從HMaster??中獲取元數(shù)據(jù),找到RowKey所在的HRegionServer后進行操作。??HBase系統(tǒng)架構如圖2-3所示。??.?Z?.、、、、???HRegsonS^ver?i?HR?g?onSefveT??-???n?丨丨丨,.議.丨????.丨丨■丨丨:{廣1…?.....丨丨.丨?????丨?"""??"?、'??HRegion?I?s?HRegion??髮?—]SJafe??>?^SkKC?1?I?f?1?f?Sioffi?Q^nSiSreT]?Ssore??|?I?1I'"?i?j?III?|-?^?卜,…??工?U?1丄[丄—i?Jj?j?j?||?[?ji}?\^i?it?1^1?J?jlUnFtel?J?J?.]??i?^?^?>
通過RowKey定位到查詢結果所在的Region以及該Region對應的HRegionServer。??其中,-META表中記錄了用戶表中的Region信息,而-ROOT表中存儲了-META??表中的信息。當發(fā)生查詢請求時,采用類似于B+樹的三層查詢結構。查詢流程如圖2-4??所示。??12??
本文編號:2982816
【文章來源】:南京理工大學江蘇省 211工程院校
【文章頁數(shù)】:68 頁
【學位級別】:碩士
【部分圖文】:
圖2-1?Hadoop生態(tài)系統(tǒng)??在Hadoop中有兩個核心模塊,分別是HDFS和MapReduce
HDFS、管理表中的數(shù)據(jù)。Client直接通過HRegionServer讀寫數(shù)據(jù),具體方式是從HMaster??中獲取元數(shù)據(jù),找到RowKey所在的HRegionServer后進行操作。??HBase系統(tǒng)架構如圖2-3所示。??.?Z?.、、、、???HRegsonS^ver?i?HR?g?onSefveT??-???n?丨丨丨,.議.丨????.丨丨■丨丨:{廣1…?.....丨丨.丨?????丨?"""??"?、'??HRegion?I?s?HRegion??髮?—]SJafe??>?^SkKC?1?I?f?1?f?Sioffi?Q^nSiSreT]?Ssore??|?I?1I'"?i?j?III?|-?^?卜,…??工?U?1丄[丄—i?Jj?j?j?||?[?ji}?\^i?it?1^1?J?jlUnFtel?J?J?.]??i?^?^?>
通過RowKey定位到查詢結果所在的Region以及該Region對應的HRegionServer。??其中,-META表中記錄了用戶表中的Region信息,而-ROOT表中存儲了-META??表中的信息。當發(fā)生查詢請求時,采用類似于B+樹的三層查詢結構。查詢流程如圖2-4??所示。??12??
本文編號:2982816
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/2982816.html
最近更新
教材專著