本文關(guān)鍵詞：云存儲(chǔ)系統(tǒng)中副本放置策略研究

  更多相關(guān)文章： 云存儲(chǔ)系統(tǒng) 數(shù)據(jù)復(fù)制 分簇 副本放置 小文件

【摘要】：近年來(lái),隨著計(jì)算、存儲(chǔ)及通信技術(shù)的發(fā)展,全球數(shù)據(jù)量呈現(xiàn)出爆炸式增長(zhǎng)。面對(duì)當(dāng)前PB級(jí)的海量存儲(chǔ)需求,云存儲(chǔ)技術(shù)已經(jīng)成為當(dāng)前互聯(lián)網(wǎng)中共享存儲(chǔ)和數(shù)據(jù)服務(wù)的基礎(chǔ)技術(shù),云存儲(chǔ)系統(tǒng)普遍利用數(shù)據(jù)復(fù)制來(lái)提高數(shù)據(jù)可用性,增強(qiáng)系統(tǒng)容錯(cuò)能力和改善系統(tǒng)性能。副本放置技術(shù)是云存儲(chǔ)系統(tǒng)數(shù)據(jù)復(fù)制過(guò)程中的關(guān)鍵技術(shù)。然而,副本的引入也帶來(lái)了存儲(chǔ)帶寬開銷、副本布局、負(fù)載均衡等諸多問(wèn)題。本文從兩個(gè)不同的角度分別設(shè)計(jì)了副本放置策略。(1)針對(duì)云存儲(chǔ)系統(tǒng)中節(jié)點(diǎn)間的負(fù)載均衡問(wèn)題,本文提出了一種基于分簇的數(shù)據(jù)復(fù)制策略,該策略包括產(chǎn)生數(shù)據(jù)復(fù)制的時(shí)機(jī)判斷、復(fù)制副本數(shù)量的決定以及如何放置復(fù)制所產(chǎn)生的數(shù)據(jù)副本。在放置數(shù)據(jù)副本時(shí),本文設(shè)計(jì)了一種基于分簇的負(fù)載均衡副本放置方法。相關(guān)的仿真試驗(yàn)表明,本文提出的基于分簇的負(fù)載均衡副本放置方法是可行的,并且具有良好的性能。(2)針對(duì)云存儲(chǔ)系統(tǒng)中存在的海量小文件問(wèn)題,本文提出了讀寫分離模式的小文件存儲(chǔ)模型,基于該模型設(shè)計(jì)了一個(gè)D2I副本放置策略,該策略包括小文件副本的合并、小文件副本的層級(jí)設(shè)定以及小文件副本的動(dòng)態(tài)層級(jí)調(diào)整。相關(guān)的仿真實(shí)驗(yàn)表明,本文提出的面向小文件的副本放置策略可以有效地提升文件的讀取效率。最后設(shè)計(jì)并實(shí)現(xiàn)了云存儲(chǔ)系統(tǒng),同時(shí)設(shè)計(jì)了相應(yīng)的數(shù)據(jù)庫(kù),并將本文提出了副本放置策略應(yīng)用在云存儲(chǔ)系統(tǒng)的節(jié)點(diǎn)控制模塊與小文件處理模塊,為OpenStack云管理平臺(tái)提供了存儲(chǔ)服務(wù),實(shí)現(xiàn)了云存儲(chǔ)的基礎(chǔ)功能,實(shí)際證明了副本放置算法的可行性以及系統(tǒng)的穩(wěn)定性。
【關(guān)鍵詞】：云存儲(chǔ)系統(tǒng) 數(shù)據(jù)復(fù)制 分簇 副本放置 小文件
【學(xué)位授予單位】：南京郵電大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2015
【分類號(hào)】：TP333
【目錄】：

• 摘要4-5
• Abstract5-8
• 第一章 緒論8-12
• 1.1 課題背景8-9
• 1.2 課題來(lái)源及論文的主要內(nèi)容9-10
• 1.3 論文的組織結(jié)構(gòu)10-12
• 第二章 云存儲(chǔ)中的數(shù)據(jù)復(fù)制與副本放置技術(shù)12-20
• 2.1 云存儲(chǔ)概述12-15
• 2.1.1 云計(jì)算的定義12-13
• 2.1.2 云存儲(chǔ)的定義13
• 2.1.3 云存儲(chǔ)的體系結(jié)構(gòu)13-15
• 2.2 數(shù)據(jù)復(fù)制概述15-17
• 2.2.1 數(shù)據(jù)復(fù)制的定義15
• 2.2.2 數(shù)據(jù)復(fù)制的模式15-16
• 2.2.3 數(shù)據(jù)副本的管理策略16-17
• 2.3 云存儲(chǔ)系統(tǒng)中副本放置技術(shù)17-19
• 2.3.1 副本放置技術(shù)的研究點(diǎn)17-19
• 2.3.2 副本放置存在的問(wèn)題與挑戰(zhàn)19
• 2.4 本章小結(jié)19-20
• 第三章 基于負(fù)載均衡的副本放置策略研究20-33
• 3.1 系統(tǒng)模型及問(wèn)題描述20-22
• 3.2 確定數(shù)據(jù)何時(shí)復(fù)制及復(fù)制數(shù)量22-24
• 3.3 基于分簇的負(fù)載均衡副本放置方法24-28
• 3.3.1 分簇24-26
• 3.3.2 副本放置方法26-28
• 3.4 性能分析28-32
• 3.5 本章小結(jié)32-33
• 第四章 面向小文件的副本放置策略研究33-50
• 4.1 云存儲(chǔ)系統(tǒng)中小文件存儲(chǔ)需求分析33-36
• 4.1.1 小文件的定義33-34
• 4.1.2 小文件的存儲(chǔ)需求34-35
• 4.1.3 小文件存儲(chǔ)存在的問(wèn)題35-36
• 4.2 小文件副本合并36-39
• 4.2.1 小文件分類36-37
• 4.2.2 小文件合并規(guī)則37-38
• 4.2.3 小文件合并流程38-39
• 4.3 小文件副本存儲(chǔ)策略39-45
• 4.3.1 小文件副本存儲(chǔ)模型40-41
• 4.3.2 小文件的讀寫流程41-44
• 4.3.3 小文件副本放置算法44-45
• 4.4 性能分析45-49
• 4.5 本章小結(jié)49-50
• 第五章 基于副本技術(shù)的云存儲(chǔ)系統(tǒng)優(yōu)化與實(shí)現(xiàn)50-70
• 5.1 OpenStack簡(jiǎn)介與環(huán)境搭建50-55
• 5.1.1 OpenStack簡(jiǎn)介50-51
• 5.1.2 安裝前準(zhǔn)備工作51-52
• 5.1.3 使用Galera管理MySQL集群52-55
• 5.2 云存儲(chǔ)的設(shè)計(jì)與實(shí)現(xiàn)55-59
• 5.2.1 系統(tǒng)架構(gòu)設(shè)計(jì)56-57
• 5.2.2 數(shù)據(jù)庫(kù)設(shè)計(jì)與實(shí)現(xiàn)57-59
• 5.3 副本放置策略的實(shí)現(xiàn)59-64
• 5.3.1 選擇目標(biāo)節(jié)點(diǎn)放置副本59-60
• 5.3.2 選擇最優(yōu)路徑傳輸數(shù)據(jù)60-61
• 5.3.3 小文件副本放置的優(yōu)化61-64
• 5.4 云存儲(chǔ)功能實(shí)現(xiàn)與測(cè)試64-69
• 5.4.1 創(chuàng)建登錄賬戶65
• 5.4.2 創(chuàng)建和刪除文件夾65-67
• 5.4.3 上傳和刪除對(duì)象67-69
• 5.5 本章小結(jié)69-70
• 第六章 總結(jié)與展望70-72
• 6.1 總結(jié)70
• 6.2 展望70-72
• 參考文獻(xiàn)72-75
• 附錄1 攻讀碩士學(xué)位期間撰寫的論文75-76
• 附錄2 攻讀碩士學(xué)位期間申請(qǐng)的專利76-77
• 附錄3 攻讀碩士學(xué)位期間參加的科研項(xiàng)目77-78
• 致謝78

【相似文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條

1 李紅;藍(lán)光存儲(chǔ)系統(tǒng) 光盤容量高達(dá)23G[J];信息記錄材料;2004年01期

2 ;存儲(chǔ)系統(tǒng) 金融行業(yè)應(yīng)用卓越獎(jiǎng) 醫(yī)療行業(yè)應(yīng)用卓越獎(jiǎng)[J];每周電腦報(bào);2004年20期

3 諾拉;EMC Symmetrix DMX-3存儲(chǔ)系統(tǒng) 超大容量 高速存取[J];中國(guó)計(jì)算機(jī)用戶;2005年31期

4 謝世誠(chéng);;浪潮推出4Gb光纖存儲(chǔ)系統(tǒng)[J];微型機(jī)與應(yīng)用;2006年07期

5 ;昆騰分級(jí)存儲(chǔ)系統(tǒng)[J];軟件世界;2009年11期

6 ;超低功耗云存儲(chǔ)系統(tǒng)或被地方政府看好[J];中國(guó)有線電視;2013年08期

7 湯赫男;;云存儲(chǔ)系統(tǒng)的分析與應(yīng)用研究[J];計(jì)算機(jī)光盤軟件與應(yīng)用;2013年24期

8 諶偉;;云存儲(chǔ)系統(tǒng)的分析與應(yīng)用探討[J];數(shù)字技術(shù)與應(yīng)用;2013年10期

9 雅君;跟上企業(yè)的匆匆腳步——利用HP SureStoreEXP256構(gòu)筑企業(yè)存儲(chǔ)系統(tǒng)[J];中國(guó)計(jì)算機(jī)用戶;2000年08期

10 賈莉;;Symmetrix8000實(shí)現(xiàn)19TB存儲(chǔ)[J];每周電腦報(bào);2000年18期

中國(guó)重要會(huì)議論文全文數(shù)據(jù)庫(kù) 前10條

1 趙志剛;;存儲(chǔ)系統(tǒng)在企業(yè)信息化中的應(yīng)用[A];2005年安徽通信論文集[C];2006年

2 黃曉峰;張杰;;礦井信息中心存儲(chǔ)系統(tǒng)設(shè)計(jì)[A];安全高效礦井機(jī)電裝備及信息化技術(shù)——陜西省煤炭學(xué)會(huì)學(xué)術(shù)年會(huì)論文集（2011）[C];2011年

3 孫哲;李昌銀;;構(gòu)建核電高可用云存儲(chǔ)系統(tǒng)[A];2012電力行業(yè)信息化年會(huì)優(yōu)秀論文專輯[C];2012年

4 焦超;周天彤;李祥學(xué);李建華;;面向?yàn)?zāi)備的高性能可信存儲(chǔ)系統(tǒng)設(shè)計(jì)[A];第十一屆保密通信與信息安全現(xiàn)狀研討會(huì)論文集[C];2009年

5 汪位龍;;設(shè)計(jì)院存儲(chǔ)系統(tǒng)建設(shè)初探[A];中國(guó)公路學(xué)會(huì)計(jì)算機(jī)應(yīng)用分會(huì)2004年年會(huì)學(xué)術(shù)論文集[C];2004年

6 梅松竹;李宗伯;;Storage 7000系列混合存儲(chǔ)系統(tǒng)分析[A];2009年中國(guó)高校通信類院系學(xué)術(shù)研討會(huì)論文集[C];2009年

7 王克敏;張璽;胡江凱;王毅濤;;NWP資料歸檔方法及其存儲(chǔ)系統(tǒng)的應(yīng)用[A];中國(guó)氣象學(xué)會(huì)2006年年會(huì)“中尺度天氣動(dòng)力學(xué)、數(shù)值模擬和預(yù)測(cè)”分會(huì)場(chǎng)論文集[C];2006年

8 孫哲;李昌銀;;DeDu:基于云計(jì)算的冗余刪除存儲(chǔ)系統(tǒng)[A];電力行業(yè)新一代信息技術(shù)研討會(huì)論文集[C];2011年

9 高小伍;黨齊民;林晨;;校園網(wǎng)存儲(chǔ)系統(tǒng)的研究與實(shí)現(xiàn)[A];中國(guó)高等教育學(xué)會(huì)教育信息化分會(huì)第十次學(xué)術(shù)年會(huì)論文集[C];2010年

10 宮海林;郭長(zhǎng)國(guó);苑洪亮;王懷民;;支持事務(wù)的非結(jié)構(gòu)化數(shù)據(jù)聚合存儲(chǔ)系統(tǒng)GSL[A];2006年全國(guó)開放式分布與并行計(jì)算機(jī)學(xué)術(shù)會(huì)議論文集（三）[C];2006年

中國(guó)重要報(bào)紙全文數(shù)據(jù)庫(kù) 前10條

1 ;第三季度中國(guó)存儲(chǔ)系統(tǒng)市場(chǎng)達(dá)19.1億元[N];中國(guó)高新技術(shù)產(chǎn)業(yè)導(dǎo)報(bào);2005年

2 本報(bào)記者 薛斐;服務(wù)：存儲(chǔ)系統(tǒng)的靈魂[N];計(jì)算機(jī)世界;2002年

3 單群一;惠普推出全新一體化存儲(chǔ)系統(tǒng)[N];中國(guó)稅務(wù)報(bào);2007年

4 ;浪潮推出4Gb光纖存儲(chǔ)系統(tǒng)[N];人民郵電;2006年

5 ;今年第二季度 存儲(chǔ)系統(tǒng)市場(chǎng)價(jià)值達(dá)12.6億元[N];人民郵電;2006年

6 郭;日立推出普及型存儲(chǔ)系統(tǒng)[N];計(jì)算機(jī)世界;2007年

7 陳耀光;朗登 扛起存儲(chǔ)系統(tǒng)設(shè)計(jì)院的大旗[N];中國(guó)企業(yè)報(bào);2001年

8 ;富士通存儲(chǔ)系統(tǒng)全面升級(jí)[N];網(wǎng)絡(luò)世界;2009年

9 ;EMC亞洲生產(chǎn)制造中心落戶深圳[N];網(wǎng)絡(luò)世界;2009年

10 臨履;存儲(chǔ)系統(tǒng)有了“設(shè)計(jì)院”[N];網(wǎng)絡(luò)世界;2001年

中國(guó)博士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條

1 陸承濤;存儲(chǔ)系統(tǒng)性能管理問(wèn)題的研究[D];華中科技大學(xué);2010年

2 聶雪軍;內(nèi)容感知存儲(chǔ)系統(tǒng)中信息信息生命周期管理關(guān)鍵技術(shù)研究[D];華中科技大學(xué);2011年

3 羅東健;大規(guī)模存儲(chǔ)系統(tǒng)高可靠性關(guān)鍵技術(shù)研究[D];華中科技大學(xué);2011年

4 聶雪軍;內(nèi)容感知存儲(chǔ)系統(tǒng)中信息生命周期管理關(guān)鍵技術(shù)研究[D];華中科技大學(xué);2010年

5 王鵬;低密度奇偶校驗(yàn)碼應(yīng)用于存儲(chǔ)系統(tǒng)的關(guān)鍵技術(shù)研究[D];華中科技大學(xué);2013年

6 刁瑩;用數(shù)學(xué)建模方法評(píng)價(jià)存儲(chǔ)系統(tǒng)性能[D];哈爾濱工程大學(xué);2013年

7 符青云;面向大規(guī)模流媒體服務(wù)的高性能存儲(chǔ)系統(tǒng)研究[D];電子科技大學(xué);2009年

8 王玉林;多節(jié)點(diǎn)容錯(cuò)存儲(chǔ)系統(tǒng)的數(shù)據(jù)與緩存組織研究[D];電子科技大學(xué);2010年

9 田敬;對(duì)等存儲(chǔ)系統(tǒng)中的數(shù)據(jù)可用性與安全性研究[D];北京大學(xué);2007年

10 李懷陽(yáng);進(jìn)化存儲(chǔ)系統(tǒng)數(shù)據(jù)組織模式研究[D];華中科技大學(xué);2006年

中國(guó)碩士學(xué)位論文全文數(shù)據(jù)庫(kù) 前10條

1 馮漢超;基于Hadoop的分布式副本策略研究[D];河北工程大學(xué);2015年

2 張明;IaaS中基于熱點(diǎn)數(shù)據(jù)的存儲(chǔ)系統(tǒng)研究與實(shí)現(xiàn)[D];哈爾濱工業(yè)大學(xué);2015年

3 蔣靜遠(yuǎn);基于數(shù)據(jù)通道的非結(jié)構(gòu)化數(shù)據(jù)多存儲(chǔ)系統(tǒng)[D];浙江大學(xué);2015年

4 郭暉;面向高清視頻監(jiān)控的流存儲(chǔ)系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[D];電子科技大學(xué);2015年

5 許孟杰;嵌入式快速存儲(chǔ)模塊的研究與實(shí)現(xiàn)[D];中國(guó)艦船研究院;2015年

6 何潔和;面向POI的分布式結(jié)構(gòu)化存儲(chǔ)系統(tǒng)存儲(chǔ)引擎設(shè)計(jì)與實(shí)現(xiàn)[D];電子科技大學(xué);2014年

7 王曉;混合存儲(chǔ)系統(tǒng)高效快照技術(shù)研究[D];北京理工大學(xué);2015年

8 邱登峰;基于Hadoop可公共審計(jì)云存儲(chǔ)的設(shè)計(jì)與實(shí)現(xiàn)[D];大連理工大學(xué);2015年

9 張致元;電子商品存儲(chǔ)系統(tǒng)設(shè)計(jì)與研究[D];復(fù)旦大學(xué);2014年

10 劉秉煦;云存儲(chǔ)環(huán)境下的混合存儲(chǔ)算法研究與實(shí)現(xiàn)[D];上海交通大學(xué);2015年

，

本文編號(hào)：1124718