基于混合云的存儲網(wǎng)關(guān)系統(tǒng)的設(shè)計與實現(xiàn)
發(fā)布時間:2020-04-09 10:25
【摘要】:在這個大數(shù)據(jù)的時代,數(shù)據(jù)呈爆發(fā)式增長態(tài)勢,各個企業(yè)面臨著如何存儲海量數(shù)據(jù)的空前挑戰(zhàn)。由于傳統(tǒng)數(shù)據(jù)存儲主要是磁盤陣列和NAS、SAN等本地存儲服務(wù)提供,具有設(shè)備價格昂貴、維護成本高等缺點。云計算推動了云存儲的產(chǎn)生和發(fā)展,它集合了大量的存儲設(shè)備來提供存儲服務(wù)。云存儲具有高擴展性、高可靠性、按需購買和成本低等優(yōu)點。盡管云存儲具有很大的優(yōu)勢和潛力,且正處于飛速發(fā)展中,但是仍存在本地存儲服務(wù)和云存儲服務(wù)無法實現(xiàn)無縫銜接、接口不統(tǒng)一、訪問延遲高等缺陷。為解決這些問題,存儲網(wǎng)關(guān)是當下普遍使用的一種解決方案,經(jīng)過研究現(xiàn)有的存儲網(wǎng)關(guān)解決方案后,本文提出了獨特的設(shè)計方案,并根據(jù)設(shè)計方案實現(xiàn)了該系統(tǒng)原型。該存儲網(wǎng)關(guān)系統(tǒng)實現(xiàn)了多云平臺的統(tǒng)一管理和跨平臺的數(shù)據(jù)容災(zāi)備份,并通過選擇合適的數(shù)據(jù)結(jié)構(gòu)、存儲技術(shù)和查詢?nèi)ブ厮惴ㄒ蕴岣咴拼鎯Φ脑L問速度。本文提出的存儲網(wǎng)關(guān)由管控模塊和數(shù)據(jù)模塊兩個模塊構(gòu)成。管控模塊部署在級聯(lián)層上,主要負責混合云的統(tǒng)一管控和接口轉(zhuǎn)換。數(shù)據(jù)模塊部署在被級聯(lián)層上,是通過磁盤卷過濾驅(qū)動來實現(xiàn)的,主要負責截獲虛擬機的I/O信息,處理I/O的讀、寫和回放操作,以及管理分布式帶外存儲的元數(shù)據(jù)。該存儲網(wǎng)關(guān)基于寫時拷貝COW技術(shù)實現(xiàn)了磁盤快照功能,基于快照增量實現(xiàn)了磁盤備份功能,基于對I/O的實時拷貝實現(xiàn)了磁盤的復(fù)制功能,并通過快照、備份和復(fù)制功能對磁盤數(shù)據(jù)進行容災(zāi)備份。除此以外,存儲網(wǎng)關(guān)還使用Journal來保證異步復(fù)制過程中數(shù)據(jù)一致性,并通過篩選去重算法來加速云存儲的訪問速度。對存儲網(wǎng)關(guān)的功能和性能進行了詳細的測試,結(jié)果表明,存儲網(wǎng)關(guān)可以實現(xiàn)跨云平臺的容災(zāi)備份,多云平臺的統(tǒng)一管理,在保證數(shù)據(jù)一致性的同時有效的提高了云存儲的訪問速率。通過系統(tǒng)功能和性能測試可以證明存儲網(wǎng)關(guān)系統(tǒng)是一種行之有效的混合云存儲解決方案。
【圖文】:
AWS Storage Gateway 是一種混合存儲服務(wù),內(nèi)部應(yīng)用程序可以借助它來無縫地使用 AWS 云存儲,它提供了備份、存檔、災(zāi)難恢復(fù)、云突增、存儲分層和遷移功能。應(yīng)用程序可以使用 NFS、iSCSI 等標準存儲協(xié)議通過網(wǎng)關(guān)設(shè)備連接到該服務(wù)。網(wǎng)關(guān)會連接到 Amazon S3、Amazon Glacier、Amazon EBS 等 AWS 存儲服務(wù),這些服務(wù)為 AWS 中的文件、卷和虛擬磁帶提供存儲。該服務(wù)包含高度優(yōu)化的數(shù)據(jù)傳輸機制,能夠進行帶寬管理、自動實現(xiàn)網(wǎng)絡(luò)彈性、高效傳輸數(shù)據(jù),并為活動數(shù)據(jù)的低延遲本地訪問提供本地緩存[8]。AWS Storage Gateway 為數(shù)據(jù)提供了全套的安全和管理服務(wù),它將數(shù)據(jù)緩存在本地,為最活躍的數(shù)據(jù)提供本地磁盤和網(wǎng)絡(luò)性能,同時在后臺通過壓縮、加密和帶寬管理優(yōu)化云存儲層的數(shù)據(jù)傳輸。用戶和應(yīng)用程序可繼續(xù)使用本地存儲模式,同時還能獲得云后端的優(yōu)勢。AWS Storage Gateway 還可根據(jù)用戶的參數(shù)來管理將本地緩存卸載到云中的過程,使用戶能夠更細致地平衡工作負載的延時和規(guī)模,只會傳輸更改過的數(shù)據(jù),從而優(yōu)化網(wǎng)絡(luò)帶寬[9]。
)阿里云存儲網(wǎng)關(guān) Cloud Storage Gateway云存儲網(wǎng)關(guān)是基于軟件實現(xiàn)的混合云存儲產(chǎn)品。它的后端存儲采用象存儲,為用戶系統(tǒng)提供行業(yè)標準的文件存儲(NAS)服務(wù)。它以為后臺,將 OSS Bucket 的對象目錄結(jié)構(gòu)與 NAS 文件系統(tǒng)建立映射標準的的 NFS 和 CIFS 協(xié)議就可以讀寫 OSS 上的所有對象。同時作為讀寫緩存,使用戶在享受 OSS Bucket 海量空間的同時,擁有吞吐低延遲性能[10]。云存儲網(wǎng)關(guān)可靈活部署,即可部署在用戶自己的數(shù)據(jù)中心,,又支端部署。跨平臺支持,兼容主流文件協(xié)議,支持 NFS 和 CIFS 協(xié)議indows 和 Linux 系統(tǒng)[11]。具有高性能緩存策略,提供本地緩存模式,異步多線程的方式將數(shù)據(jù)同步到云端。支持斷點續(xù)傳,自動根據(jù)一致性。
【學(xué)位授予單位】:華中科技大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:TP333
【圖文】:
AWS Storage Gateway 是一種混合存儲服務(wù),內(nèi)部應(yīng)用程序可以借助它來無縫地使用 AWS 云存儲,它提供了備份、存檔、災(zāi)難恢復(fù)、云突增、存儲分層和遷移功能。應(yīng)用程序可以使用 NFS、iSCSI 等標準存儲協(xié)議通過網(wǎng)關(guān)設(shè)備連接到該服務(wù)。網(wǎng)關(guān)會連接到 Amazon S3、Amazon Glacier、Amazon EBS 等 AWS 存儲服務(wù),這些服務(wù)為 AWS 中的文件、卷和虛擬磁帶提供存儲。該服務(wù)包含高度優(yōu)化的數(shù)據(jù)傳輸機制,能夠進行帶寬管理、自動實現(xiàn)網(wǎng)絡(luò)彈性、高效傳輸數(shù)據(jù),并為活動數(shù)據(jù)的低延遲本地訪問提供本地緩存[8]。AWS Storage Gateway 為數(shù)據(jù)提供了全套的安全和管理服務(wù),它將數(shù)據(jù)緩存在本地,為最活躍的數(shù)據(jù)提供本地磁盤和網(wǎng)絡(luò)性能,同時在后臺通過壓縮、加密和帶寬管理優(yōu)化云存儲層的數(shù)據(jù)傳輸。用戶和應(yīng)用程序可繼續(xù)使用本地存儲模式,同時還能獲得云后端的優(yōu)勢。AWS Storage Gateway 還可根據(jù)用戶的參數(shù)來管理將本地緩存卸載到云中的過程,使用戶能夠更細致地平衡工作負載的延時和規(guī)模,只會傳輸更改過的數(shù)據(jù),從而優(yōu)化網(wǎng)絡(luò)帶寬[9]。
)阿里云存儲網(wǎng)關(guān) Cloud Storage Gateway云存儲網(wǎng)關(guān)是基于軟件實現(xiàn)的混合云存儲產(chǎn)品。它的后端存儲采用象存儲,為用戶系統(tǒng)提供行業(yè)標準的文件存儲(NAS)服務(wù)。它以為后臺,將 OSS Bucket 的對象目錄結(jié)構(gòu)與 NAS 文件系統(tǒng)建立映射標準的的 NFS 和 CIFS 協(xié)議就可以讀寫 OSS 上的所有對象。同時作為讀寫緩存,使用戶在享受 OSS Bucket 海量空間的同時,擁有吞吐低延遲性能[10]。云存儲網(wǎng)關(guān)可靈活部署,即可部署在用戶自己的數(shù)據(jù)中心,,又支端部署。跨平臺支持,兼容主流文件協(xié)議,支持 NFS 和 CIFS 協(xié)議indows 和 Linux 系統(tǒng)[11]。具有高性能緩存策略,提供本地緩存模式,異步多線程的方式將數(shù)據(jù)同步到云端。支持斷點續(xù)傳,自動根據(jù)一致性。
【學(xué)位授予單位】:華中科技大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:TP333
【參考文獻】
相關(guān)期刊論文 前10條
1 陳天;陳楠;黃志蘭;樊勇兵;賴培源;;基于OpenStack的異構(gòu)混合云解決方案[J];電信科學(xué);2015年07期
2 房秉毅;楊紹光;;SDN技術(shù)在混合云網(wǎng)絡(luò)架構(gòu)中的應(yīng)用研究[J];郵電設(shè)計技術(shù);2015年07期
3 張龍;;一種高效的虛擬機磁盤快照系統(tǒng)[J];電腦編程技巧與維護;2015年10期
4 駱怡航;房秉毅;張志明;亓亞p
本文編號:2620633
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/2620633.html
最近更新
教材專著