面向節(jié)能與可靠性的混合文件系統(tǒng)的研究與設(shè)計(jì)
發(fā)布時(shí)間:2020-05-14 05:46
【摘要】:目前,數(shù)據(jù)中心存儲(chǔ)容量逐年增加,能耗消耗也在逐年提高。雖然對(duì)于節(jié)能存儲(chǔ)研究也一直在繼續(xù),但是節(jié)能存儲(chǔ)技術(shù)仍然面臨著許多問(wèn)題。首先,能量節(jié)省與可靠性的對(duì)立面難以打破;其次,在節(jié)能的同時(shí)保證系統(tǒng)的可靠性也是一個(gè)研究難點(diǎn)。本文通過(guò)對(duì)現(xiàn)有技術(shù)的分析,以及開源系統(tǒng)的利用,提出了一個(gè)面向節(jié)能與可靠性的混合存儲(chǔ)方案,并實(shí)現(xiàn)了相應(yīng)的原型系統(tǒng)。主要工作如下:第一,本文設(shè)計(jì)并提出了一個(gè)面向節(jié)能與可靠性的混合存儲(chǔ)方案。本方案將基于固態(tài)硬盤的文件系統(tǒng)以及基于機(jī)械磁盤的文件系統(tǒng)無(wú)縫整合在一起,并通過(guò)一個(gè)統(tǒng)一的中間層系統(tǒng),為上層應(yīng)用提供數(shù)據(jù)訪問(wèn)支持。因?yàn)閮蓚(gè)文件系統(tǒng)之間相互獨(dú)立,所以對(duì)于系統(tǒng)可靠性影響并不大。本方案可以根據(jù)數(shù)據(jù)的訪問(wèn)頻率,將數(shù)據(jù)分發(fā)到不同的文件系統(tǒng)中,以達(dá)到加速文件讀取的目的。此外,通過(guò)調(diào)整基于機(jī)械磁盤的文件系統(tǒng)所在節(jié)點(diǎn)的功率,可以達(dá)到節(jié)點(diǎn)級(jí)的節(jié)能效果。第二,本文實(shí)現(xiàn)了一個(gè)面向節(jié)能與可靠性的混合存儲(chǔ)方案的原型系統(tǒng)。此系統(tǒng)的核心是一個(gè)用戶態(tài)文件系統(tǒng),對(duì)上通過(guò)FUSE掛載在操作系統(tǒng)上,可以為用戶提供POSIX的標(biāo)準(zhǔn)接口,對(duì)下通過(guò)調(diào)用并行文件系統(tǒng)接口,將數(shù)據(jù)存儲(chǔ)在物理設(shè)備上。此系統(tǒng)配置了兩個(gè)底層的并行文件系統(tǒng),一個(gè)是基于固態(tài)硬盤的并行文件系統(tǒng),它可以存儲(chǔ)訪問(wèn)頻率較高的數(shù)據(jù),另外一個(gè)是基于機(jī)械磁盤的并行文件系統(tǒng),它用來(lái)存儲(chǔ)訪問(wèn)頻率較低的數(shù)據(jù)。當(dāng)系統(tǒng)整體工作負(fù)載處于較低的水平時(shí),可以通過(guò)調(diào)整基于機(jī)械磁盤的文件系統(tǒng)所在節(jié)點(diǎn)功率,來(lái)達(dá)到節(jié)能的效果。通過(guò)對(duì)于試驗(yàn)結(jié)果的分析,系統(tǒng)性能基本達(dá)到了設(shè)計(jì)預(yù)期。實(shí)驗(yàn)的I/O性能曲線顯示,與對(duì)照組系統(tǒng)模型相比,此系統(tǒng)的帶寬提高了 60%左右。在能耗方面,兩個(gè)底層文件系統(tǒng)同時(shí)提供數(shù)據(jù)訪問(wèn)支持時(shí),可以節(jié)省大約30%-40%的能量消耗,如果只對(duì)訪問(wèn)頻率較高的數(shù)據(jù)提供支持,則可以節(jié)省70%以上的能量消耗。由于采用了調(diào)整功率的節(jié)能措施,此系統(tǒng)在可靠性方面付出了大約15%的代價(jià)。
【圖文】:
文件系統(tǒng)邐內(nèi)核驅(qū)動(dòng)逡逑圖2.3邋FUSE模塊整體結(jié)構(gòu)[47]逡逑如圖2.3所展示的FUSE的整體結(jié)構(gòu)。當(dāng)一個(gè)進(jìn)程對(duì)通過(guò)FUSE掛載的系統(tǒng)進(jìn)逡逑行操作時(shí),Linux的虛擬文件系統(tǒng)(VFS)會(huì)捕獲這些操作,并將其轉(zhuǎn)發(fā)給FUSE的逡逑內(nèi)核驅(qū)動(dòng)。此驅(qū)動(dòng)會(huì)分配一個(gè)FUSE請(qǐng)求結(jié)構(gòu)體,并將其壓入到FUSE隊(duì)列中。一逡逑般情況下,剛壓入隊(duì)列的FUSE請(qǐng)求被標(biāo)記為等待狀態(tài)。然后用戶態(tài)守護(hù)進(jìn)程通過(guò)逡逑讀。洌澹觯妫酰螅鍓K設(shè)備,獲得內(nèi)核隊(duì)列中的FUSE請(qǐng)求,并對(duì)此請(qǐng)求進(jìn)行相應(yīng)的處理。逡逑18逡逑
以及N-1段頁(yè)(N-l邋Segment)模式,這兩個(gè)N-1模式都是多個(gè)進(jìn)程共享同一個(gè)逡逑檢查點(diǎn)文件,但在細(xì)節(jié)上又各有不同,下面就具體介紹這種三種檢查點(diǎn)文件模式。逡逑如圖2.4所示,,每個(gè)子圖中的矩形區(qū)域代表一個(gè)計(jì)算機(jī)節(jié)點(diǎn),矩形內(nèi)的圓形代逡逑表進(jìn)程,進(jìn)程下方的陰影部分代表該進(jìn)程的數(shù)據(jù)塊,節(jié)點(diǎn)下方的圓柱體為底層并行逡逑文件系統(tǒng)。每個(gè)子圖描述了三個(gè)節(jié)點(diǎn),一共六個(gè)進(jìn)程,每個(gè)進(jìn)程三個(gè)數(shù)據(jù)塊,進(jìn)行逡逑檢查點(diǎn)寫入的過(guò)程。在N-N模式下,每個(gè)進(jìn)程都擁有自己獨(dú)立的檢查點(diǎn)文件,并按逡逑照時(shí)間的順序?qū)⑦M(jìn)程的數(shù)據(jù)塊寫入到各自的文件中,因此六個(gè)進(jìn)程就需要在文件系逡逑統(tǒng)中創(chuàng)建六個(gè)文件。在N-1邋Segment模式下,所有進(jìn)程共享同一個(gè)檢查點(diǎn)文件,此文逡逑件會(huì)為每個(gè)進(jìn)程預(yù)先分配各自的數(shù)據(jù)區(qū)域,每個(gè)進(jìn)程只允許將各自的數(shù)據(jù)塊寫入到逡逑分配好的區(qū)域內(nèi),各個(gè)進(jìn)程的數(shù)據(jù)塊之間不會(huì)出現(xiàn)交叉重疊的現(xiàn)象。在N-lstrided逡逑模式下
【學(xué)位授予單位】:湖南大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2018
【分類號(hào)】:TP333
本文編號(hào):2662893
【圖文】:
文件系統(tǒng)邐內(nèi)核驅(qū)動(dòng)逡逑圖2.3邋FUSE模塊整體結(jié)構(gòu)[47]逡逑如圖2.3所展示的FUSE的整體結(jié)構(gòu)。當(dāng)一個(gè)進(jìn)程對(duì)通過(guò)FUSE掛載的系統(tǒng)進(jìn)逡逑行操作時(shí),Linux的虛擬文件系統(tǒng)(VFS)會(huì)捕獲這些操作,并將其轉(zhuǎn)發(fā)給FUSE的逡逑內(nèi)核驅(qū)動(dòng)。此驅(qū)動(dòng)會(huì)分配一個(gè)FUSE請(qǐng)求結(jié)構(gòu)體,并將其壓入到FUSE隊(duì)列中。一逡逑般情況下,剛壓入隊(duì)列的FUSE請(qǐng)求被標(biāo)記為等待狀態(tài)。然后用戶態(tài)守護(hù)進(jìn)程通過(guò)逡逑讀。洌澹觯妫酰螅鍓K設(shè)備,獲得內(nèi)核隊(duì)列中的FUSE請(qǐng)求,并對(duì)此請(qǐng)求進(jìn)行相應(yīng)的處理。逡逑18逡逑
以及N-1段頁(yè)(N-l邋Segment)模式,這兩個(gè)N-1模式都是多個(gè)進(jìn)程共享同一個(gè)逡逑檢查點(diǎn)文件,但在細(xì)節(jié)上又各有不同,下面就具體介紹這種三種檢查點(diǎn)文件模式。逡逑如圖2.4所示,,每個(gè)子圖中的矩形區(qū)域代表一個(gè)計(jì)算機(jī)節(jié)點(diǎn),矩形內(nèi)的圓形代逡逑表進(jìn)程,進(jìn)程下方的陰影部分代表該進(jìn)程的數(shù)據(jù)塊,節(jié)點(diǎn)下方的圓柱體為底層并行逡逑文件系統(tǒng)。每個(gè)子圖描述了三個(gè)節(jié)點(diǎn),一共六個(gè)進(jìn)程,每個(gè)進(jìn)程三個(gè)數(shù)據(jù)塊,進(jìn)行逡逑檢查點(diǎn)寫入的過(guò)程。在N-N模式下,每個(gè)進(jìn)程都擁有自己獨(dú)立的檢查點(diǎn)文件,并按逡逑照時(shí)間的順序?qū)⑦M(jìn)程的數(shù)據(jù)塊寫入到各自的文件中,因此六個(gè)進(jìn)程就需要在文件系逡逑統(tǒng)中創(chuàng)建六個(gè)文件。在N-1邋Segment模式下,所有進(jìn)程共享同一個(gè)檢查點(diǎn)文件,此文逡逑件會(huì)為每個(gè)進(jìn)程預(yù)先分配各自的數(shù)據(jù)區(qū)域,每個(gè)進(jìn)程只允許將各自的數(shù)據(jù)塊寫入到逡逑分配好的區(qū)域內(nèi),各個(gè)進(jìn)程的數(shù)據(jù)塊之間不會(huì)出現(xiàn)交叉重疊的現(xiàn)象。在N-lstrided逡逑模式下
【學(xué)位授予單位】:湖南大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2018
【分類號(hào)】:TP333
【參考文獻(xiàn)】
相關(guān)期刊論文 前2條
1 林闖;田源;姚敏;;綠色網(wǎng)絡(luò)和綠色評(píng)價(jià):節(jié)能機(jī)制、模型和評(píng)價(jià)[J];計(jì)算機(jī)學(xué)報(bào);2011年04期
2 谷立靜;周伏秋;孟輝;;我國(guó)數(shù)據(jù)中心能耗及能效水平研究[J];中國(guó)能源;2010年11期
相關(guān)博士學(xué)位論文 前3條
1 葛雄資;基于預(yù)取的磁盤存儲(chǔ)系統(tǒng)節(jié)能技術(shù)研究[D];華中科技大學(xué);2012年
2 謝曉玲;磁盤存儲(chǔ)系統(tǒng)節(jié)能關(guān)鍵技術(shù)研究[D];華南理工大學(xué);2012年
3 岳銀亮;存儲(chǔ)系統(tǒng)低能耗數(shù)據(jù)布局技術(shù)研究[D];華中科技大學(xué);2010年
相關(guān)碩士學(xué)位論文 前2條
1 宋馳;基于異構(gòu)存儲(chǔ)服務(wù)器的節(jié)能調(diào)度機(jī)制的研究[D];華中科技大學(xué);2015年
2 楊雷;面向新聞大數(shù)據(jù)的節(jié)能存儲(chǔ)策略研究[D];重慶大學(xué);2015年
本文編號(hào):2662893
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/2662893.html
最近更新
教材專著