本文關(guān)鍵詞：“云”時代企業(yè)危機傳播機理及管理研究，由筆耕文化傳播整理發(fā)布。

《河北工程大學》 2015年

基于Hadoop的分布式副本策略研究

馮漢超  

【摘要】：隨著互聯(lián)網(wǎng)的快速發(fā)展,網(wǎng)絡(luò)中產(chǎn)生的數(shù)據(jù)量呈指數(shù)級增長趨勢,如何對海量數(shù)據(jù)進行高效的存取已經(jīng)成了計算機領(lǐng)域的一個研究熱點。HDFS(Hadoop Distributed File System)是Hadoop的一個分布式文件系統(tǒng),它可以部署運行在普通的硬件服務(wù)器上。HDFS具有高可靠性,支持海量數(shù)據(jù)的高效存取。HDFS放開了部分POSIX約束,支持以流的形式讀寫數(shù)據(jù)。HDFS仍是一個處在發(fā)展和完善階段的云存儲系統(tǒng),現(xiàn)有的數(shù)據(jù)管理策略依然存在許多不足之處。HDFS現(xiàn)有的副本管理策略在創(chuàng)建副本時,創(chuàng)建的副本個數(shù)是固定的;創(chuàng)建的副本在選取存儲節(jié)點Datanode時,采用的是隨機選取的算法�，F(xiàn)有的副本管理策略存在系統(tǒng)存儲空間的浪費,集群負載不均衡,性能不高等問題。本文通過對HDFS分布式文件系統(tǒng)的存儲原理進行分析,結(jié)合云存儲領(lǐng)域的相關(guān)知識、理論,對HDFS現(xiàn)有的副本管理策略進行了改進。主要包括以下方面的內(nèi)容:(1)對HDFS默認的副本放置策略進行了改進。HDFS默認的數(shù)據(jù)放置策略是隨機選取Datanode節(jié)點進行副本存放。然而集群中每個Datanode節(jié)點的性能和負載是不一致的,集群中有些節(jié)點處于高負荷狀態(tài),有些節(jié)點處于低負荷狀態(tài),有一些節(jié)點是新加入的;隨機的選取Datanode節(jié)點進行副本存放,集群容易產(chǎn)生負載不均衡。改進后的副本放置策略通過對Datanode節(jié)點的性能和負載進行分析,根據(jù)得到的權(quán)值選擇最優(yōu)的節(jié)點進行副本的放置。(2)對HDFS默認的副本創(chuàng)建策略進行了改進。改進后的策略通過對文件最近一段時間的訪問熱度和訪問趨勢進行統(tǒng)計分析,根據(jù)文件的訪問熱度值和訪問趨勢動態(tài)的調(diào)整副本的個數(shù);根據(jù)系統(tǒng)的可靠性要求和副本的可用性計算副本的默認創(chuàng)建個數(shù)。改進后的策略使得集群的整體性能和數(shù)據(jù)處理效率得到了進一步的提升。(3)搭建HDFS分布式存儲環(huán)境,分別對改進的副本放置策略和副本創(chuàng)建策略進行實驗驗證。實驗結(jié)果表明改進后的副本管理策略充分利用了集群中各個Datanode節(jié)點的性能,提高了集群的可靠性和處理速度,更好的實現(xiàn)了集群的負載均衡。

【關(guān)鍵詞】：
【學位授予單位】：河北工程大學
【學位級別】：碩士
【學位授予年份】：2015
【分類號】：TP333
【目錄】：

下載全文 更多同類文獻

CAJ全文下載

(如何獲取全文？ 歡迎：購買知網(wǎng)充值卡、在線充值、在線咨詢)

CAJViewer閱讀器支持CAJ、PDF文件格式

【參考文獻】

中國期刊全文數(shù)據(jù)庫 前3條

1 崔杰;李陶深;蘭紅星;;基于Hadoop的海量數(shù)據(jù)存儲平臺設(shè)計與開發(fā)[J];計算機研究與發(fā)展;2012年S1期

2 李喬;鄭嘯;;云計算研究現(xiàn)狀綜述[J];計算機科學;2011年04期

3 多雪松;張晶;高強;;基于Hadoop的海量數(shù)據(jù)管理系統(tǒng)[J];微計算機信息;2010年13期

中國博士學位論文全文數(shù)據(jù)庫 前1條

1 安寶宇;云存儲中數(shù)據(jù)完整性保護關(guān)鍵技術(shù)研究[D];北京郵電大學;2012年

中國碩士學位論文全文數(shù)據(jù)庫 前4條

1 董昌坤;基于HDFS的分布式云存儲系統(tǒng)的設(shè)計與實現(xiàn)[D];北京郵電大學;2013年

2 趙少鋒;云存儲系統(tǒng)關(guān)鍵技術(shù)研究[D];鄭州大學;2013年

3 潘富斌;基于Hadoop的安全云存儲系統(tǒng)研究與實現(xiàn)[D];電子科技大學;2013年

4 張富政;云存儲安全技術(shù)的研究[D];長春理工大學;2014年

【共引文獻】

中國期刊全文數(shù)據(jù)庫 前10條

1 徐鵬;陳思;蘇森;;互聯(lián)網(wǎng)應(yīng)用PaaS平臺體系結(jié)構(gòu)[J];北京郵電大學學報;2012年01期

2 孫傳明;路紅;廖龍龍;;基于云操作系統(tǒng)的網(wǎng)絡(luò)互動學習平臺開發(fā)研究[J];中國遠程教育;2012年06期

3 王琴;王寶俊;;基于云計算的虛擬多媒體教室的研究與架構(gòu)[J];電化教育研究;2012年01期

4 陳小燕;;云計算的應(yīng)用與研究[J];電腦編程技巧與維護;2012年12期

5 韓志宏;曾慶燕;杜彥濤;王子虎;章歡樂;;云終端電子閱覽室架構(gòu)的經(jīng)濟性分析與實踐[J];電腦知識與技術(shù);2012年03期

6 付艷娟;李國平;趙海武;滕國偉;王國中;李萍;;基于云計算的數(shù)字電視前端系統(tǒng)的研究與實現(xiàn)[J];電視技術(shù);2012年10期

7 白麗瑞;李彤;謝仲文;宋琛;;基于成本利潤Petri網(wǎng)的應(yīng)用云計費模式分析[J];電信科學;2012年01期

8 吳俊;徐溟;;公有云服務(wù)計費模式比較研究[J];電信科學;2012年01期

9 李秀娟;;從專利保護規(guī)則看多方參與云計算專利[J];電子知識產(chǎn)權(quán);2011年12期

10 孫福權(quán);張達偉;程勖;劉超;;基于Hadoop企業(yè)私有云存儲平臺的構(gòu)建[J];遼寧工程技術(shù)大學學報(自然科學版);2011年06期

中國博士學位論文全文數(shù)據(jù)庫 前10條

1 李韌;基于Hadoop的大規(guī)模語義Web本體數(shù)據(jù)查詢與推理關(guān)鍵技術(shù)研究[D];重慶大學;2013年

2 馮振乾;云計算數(shù)據(jù)中心的網(wǎng)絡(luò)帶寬隔離技術(shù)研究[D];國防科學技術(shù)大學;2012年

3 伍琦;云環(huán)境下數(shù)據(jù)存儲安全技術(shù)研究[D];江西財經(jīng)大學;2013年

4 曹盈盈;10G以太無源光網(wǎng)絡(luò)前向糾錯等關(guān)鍵技術(shù)的研究[D];北京郵電大學;2013年

5 王寧;云計算環(huán)境下數(shù)據(jù)管理與任務(wù)調(diào)度優(yōu)化策略研究[D];北京科技大學;2015年

6 余日季;基于AR技術(shù)的非物質(zhì)文化遺產(chǎn)數(shù)字化開發(fā)研究[D];武漢大學;2014年

7 杜欽生;高維空間的K最近鄰查詢及連接問題研究[D];吉林大學;2015年

8 王金金;云計算服務(wù)模式下的知識產(chǎn)權(quán)保護研究[D];中國科學技術(shù)大學;2015年

9 李宇昕;地質(zhì)勘查物流與信息流融合關(guān)鍵技術(shù)與應(yīng)用研究[D];中國地質(zhì)大學(北京);2015年

10 劉奕;“云”時代企業(yè)危機傳播機理及管理研究[D];東華大學;2015年

中國碩士學位論文全文數(shù)據(jù)庫 前10條

1 李芳芳;個人數(shù)據(jù)空間管理系統(tǒng)中數(shù)據(jù)抽取及語義關(guān)聯(lián)構(gòu)建[D];北京交通大學;2011年

2 張梓鈞;基于HADOOP架構(gòu)的社保項目網(wǎng)絡(luò)日志分析系統(tǒng)的研究[D];電子科技大學;2011年

3 蘇奎;云計算平臺下的電子政務(wù)基礎(chǔ)設(shè)施研究[D];山東師范大學;2012年

4 張喜;海量數(shù)據(jù)存儲模式的研究[D];廣東工業(yè)大學;2012年

5 陳玲玲;基于Hadoop的Web文本挖掘的關(guān)鍵技術(shù)研究[D];浙江理工大學;2012年

6 王學新;第四方物流在云計算環(huán)境下的區(qū)域整合研究[D];大連海事大學;2012年

7 張鈺培;基于云計算平臺的網(wǎng)絡(luò)運行管理系統(tǒng)的設(shè)計與實現(xiàn)[D];吉林大學;2012年

8 劉菲軍;云計算下虛擬機部署機制的研究[D];太原理工大學;2012年

9 李秋紅;中國云計算技術(shù)開發(fā)的問題與對策研究[D];渤海大學;2012年

10 周進;物聯(lián)網(wǎng)數(shù)據(jù)中心模式的電池化成測試系統(tǒng)控制技術(shù)研究[D];武漢理工大學;2012年

【二級參考文獻】

中國期刊全文數(shù)據(jù)庫 前10條

1 楊亞平,李偉琴;基于SSL的數(shù)據(jù)安全傳輸系統(tǒng)的設(shè)計與實現(xiàn)[J];北京航空航天大學學報;2001年04期

2 馮常青;師明珠;;多線程文件斷點續(xù)傳[J];電腦編程技巧與維護;2006年08期

3 何海釗;王虎奇;;數(shù)據(jù)庫連接與訪問技術(shù)的研究與應(yīng)用[J];電腦知識與技術(shù);2009年01期

4 唐箭;;云存儲系統(tǒng)的分析與應(yīng)用研究[J];電腦知識與技術(shù);2009年20期

5 蔡鍵;王樹梅;;基于Google的云計算實例分析[J];電腦知識與技術(shù);2009年25期

6 郭鋒;劉建偉;;基于Socket的局域網(wǎng)絡(luò)通信軟件開發(fā)[J];電子科技;2009年05期

7 黃勤,谷振宇,劉易良;PKI/CA系統(tǒng)互操作技術(shù)實現(xiàn)模型分析[J];重慶大學學報(自然科學版);2003年12期

8 李向軍;;基于云計算的數(shù)據(jù)存儲系統(tǒng)研究[J];硅谷;2010年19期

9 辛大欣;劉飛;;Hadoop集群性能優(yōu)化技術(shù)研究[J];電腦知識與技術(shù);2011年22期

10 張曉明;姜本臣;;一種AJAX結(jié)合CGI的嵌入式瘦Web服務(wù)器的研究[J];信息技術(shù);2011年12期

中國博士學位論文全文數(shù)據(jù)庫 前1條

1 吳吉義;基于DHT的開放對等云存儲服務(wù)系統(tǒng)研究[D];浙江大學;2011年

中國碩士學位論文全文數(shù)據(jù)庫 前10條

1 張唯維;云計算用戶數(shù)據(jù)傳輸與存儲安全方案研究[D];北京郵電大學;2011年

2 康利山;云安全中基于身份的認證機制研究[D];云南大學;2011年

3 楊勇;基于DFS的構(gòu)建服務(wù)器集群技術(shù)的研究與實現(xiàn)[D];成都理工大學;2011年

4 楊坤;基于Hadoop的云存儲系統(tǒng)客戶端的設(shè)計與實現(xiàn)[D];華中科技大學;2011年

5 王雁;Windows環(huán)境下的一種安全磁盤[D];四川大學;2006年

6 呂寧;基于REST架構(gòu)的Atom Feed存儲集群研究與設(shè)計[D];北京交通大學;2008年

7 孫楊;基于REST風格構(gòu)建Web服務(wù)的研究與應(yīng)用[D];電子科技大學;2009年

8 林海元;基于Windows文件系統(tǒng)微過濾驅(qū)動模型的文件透明加解密系統(tǒng)的研究與實現(xiàn)[D];浙江工業(yè)大學;2009年

9 陳勉;基于新一代過濾驅(qū)動框架的安全文件內(nèi)核開發(fā)[D];西南交通大學;2009年

10 劉賢斌;虛擬盤安全存儲研究[D];華中科技大學;2008年

【相似文獻】

中國期刊全文數(shù)據(jù)庫 前10條

1 李紅;藍光存儲系統(tǒng) 光盤容量高達23G[J];信息記錄材料;2004年01期

2 ;存儲系統(tǒng) 金融行業(yè)應(yīng)用卓越獎 醫(yī)療行業(yè)應(yīng)用卓越獎[J];每周電腦報;2004年20期

3 諾拉;EMC Symmetrix DMX-3存儲系統(tǒng) 超大容量 高速存取[J];中國計算機用戶;2005年31期

4 謝世誠;;浪潮推出4Gb光纖存儲系統(tǒng)[J];微型機與應(yīng)用;2006年07期

5 ;昆騰分級存儲系統(tǒng)[J];軟件世界;2009年11期

6 ;超低功耗云存儲系統(tǒng)或被地方政府看好[J];中國有線電視;2013年08期

7 湯赫男;;云存儲系統(tǒng)的分析與應(yīng)用研究[J];計算機光盤軟件與應(yīng)用;2013年24期

8 諶偉;;云存儲系統(tǒng)的分析與應(yīng)用探討[J];數(shù)字技術(shù)與應(yīng)用;2013年10期

9 雅君;跟上企業(yè)的匆匆腳步——利用HP SureStoreEXP256構(gòu)筑企業(yè)存儲系統(tǒng)[J];中國計算機用戶;2000年08期

10 賈莉;;Symmetrix8000實現(xiàn)19TB存儲[J];每周電腦報;2000年18期

中國重要會議論文全文數(shù)據(jù)庫 前10條

1 趙志剛;;存儲系統(tǒng)在企業(yè)信息化中的應(yīng)用[A];2005年安徽通信論文集[C];2006年

2 黃曉峰;張杰;;礦井信息中心存儲系統(tǒng)設(shè)計[A];安全高效礦井機電裝備及信息化技術(shù)——陜西省煤炭學會學術(shù)年會論文集（2011）[C];2011年

3 孫哲;李昌銀;;構(gòu)建核電高可用云存儲系統(tǒng)[A];2012電力行業(yè)信息化年會優(yōu)秀論文專輯[C];2012年

4 焦超;周天彤;李祥學;李建華;;面向災(zāi)備的高性能可信存儲系統(tǒng)設(shè)計[A];第十一屆保密通信與信息安全現(xiàn)狀研討會論文集[C];2009年

5 汪位龍;;設(shè)計院存儲系統(tǒng)建設(shè)初探[A];中國公路學會計算機應(yīng)用分會2004年年會學術(shù)論文集[C];2004年

6 梅松竹;李宗伯;;Storage 7000系列混合存儲系統(tǒng)分析[A];2009年中國高校通信類院系學術(shù)研討會論文集[C];2009年

7 王克敏;張璽;胡江凱;王毅濤;;NWP資料歸檔方法及其存儲系統(tǒng)的應(yīng)用[A];中國氣象學會2006年年會“中尺度天氣動力學、數(shù)值模擬和預(yù)測”分會場論文集[C];2006年

8 孫哲;李昌銀;;DeDu:基于云計算的冗余刪除存儲系統(tǒng)[A];電力行業(yè)新一代信息技術(shù)研討會論文集[C];2011年

9 高小伍;黨齊民;林晨;;校園網(wǎng)存儲系統(tǒng)的研究與實現(xiàn)[A];中國高等教育學會教育信息化分會第十次學術(shù)年會論文集[C];2010年

10 宮海林;郭長國;苑洪亮;王懷民;;支持事務(wù)的非結(jié)構(gòu)化數(shù)據(jù)聚合存儲系統(tǒng)GSL[A];2006年全國開放式分布與并行計算機學術(shù)會議論文集（三）[C];2006年

中國重要報紙全文數(shù)據(jù)庫 前10條

1 ;[N];中國高新技術(shù)產(chǎn)業(yè)導(dǎo)報;2005年

2 本報記者 薛斐;[N];計算機世界;2002年

3 單群一;[N];中國稅務(wù)報;2007年

4 ;[N];人民郵電;2006年

5 ;[N];人民郵電;2006年

6 郭;[N];計算機世界;2007年

7 陳耀光;[N];中國企業(yè)報;2001年

8 ;[N];網(wǎng)絡(luò)世界;2009年

9 ;[N];網(wǎng)絡(luò)世界;2009年

10 臨履;[N];網(wǎng)絡(luò)世界;2001年

中國博士學位論文全文數(shù)據(jù)庫 前10條

1 陸承濤;存儲系統(tǒng)性能管理問題的研究[D];華中科技大學;2010年

2 聶雪軍;內(nèi)容感知存儲系統(tǒng)中信息信息生命周期管理關(guān)鍵技術(shù)研究[D];華中科技大學;2011年

3 羅東健;大規(guī)模存儲系統(tǒng)高可靠性關(guān)鍵技術(shù)研究[D];華中科技大學;2011年

4 聶雪軍;內(nèi)容感知存儲系統(tǒng)中信息生命周期管理關(guān)鍵技術(shù)研究[D];華中科技大學;2010年

5 王鵬;低密度奇偶校驗碼應(yīng)用于存儲系統(tǒng)的關(guān)鍵技術(shù)研究[D];華中科技大學;2013年

6 刁瑩;用數(shù)學建模方法評價存儲系統(tǒng)性能[D];哈爾濱工程大學;2013年

7 符青云;面向大規(guī)模流媒體服務(wù)的高性能存儲系統(tǒng)研究[D];電子科技大學;2009年

8 王玉林;多節(jié)點容錯存儲系統(tǒng)的數(shù)據(jù)與緩存組織研究[D];電子科技大學;2010年

9 田敬;對等存儲系統(tǒng)中的數(shù)據(jù)可用性與安全性研究[D];北京大學;2007年

10 李懷陽;進化存儲系統(tǒng)數(shù)據(jù)組織模式研究[D];華中科技大學;2006年

中國碩士學位論文全文數(shù)據(jù)庫 前10條

1 馮漢超;基于Hadoop的分布式副本策略研究[D];河北工程大學;2015年

2 張明;IaaS中基于熱點數(shù)據(jù)的存儲系統(tǒng)研究與實現(xiàn)[D];哈爾濱工業(yè)大學;2015年

3 蔣靜遠;基于數(shù)據(jù)通道的非結(jié)構(gòu)化數(shù)據(jù)多存儲系統(tǒng)[D];浙江大學;2015年

4 郭暉;面向高清視頻監(jiān)控的流存儲系統(tǒng)設(shè)計與實現(xiàn)[D];電子科技大學;2015年

5 朱海濤;嵌入式網(wǎng)絡(luò)存儲系統(tǒng)的設(shè)計與應(yīng)用[D];大連理工大學;2010年

6 王如軍;模塊化柔性存儲系統(tǒng)[D];長春光學精密機械學院;2001年

7 趙靖;片段存儲系統(tǒng)[D];上海交通大學;2007年

8 郅斌;一種私有云存儲系統(tǒng)的設(shè)計與實現(xiàn)[D];北京郵電大學;2011年

9 祝青;混合存儲系統(tǒng)研究[D];上海交通大學;2013年

10 張達;河北電視臺高清新聞網(wǎng)存儲系統(tǒng)分析[D];華北電力大學;2011年

  本文關(guān)鍵詞：“云”時代企業(yè)危機傳播機理及管理研究，，由筆耕文化傳播整理發(fā)布。

本文編號：188564