海量存儲(chǔ)系統(tǒng)的性能管理與監(jiān)測(cè)方法研究
發(fā)布時(shí)間:2019-09-19 04:30
【摘要】:信息技術(shù)的不斷發(fā)展使得現(xiàn)代社會(huì)環(huán)境下生產(chǎn)和生活過程中產(chǎn)生的各類信息和數(shù)據(jù)越來越多,對(duì)信息存儲(chǔ)的容量要求也日益增大,存儲(chǔ)系統(tǒng)的規(guī)模已經(jīng)在向著PB以及更高級(jí)別的方向發(fā)展,海量存儲(chǔ)系統(tǒng)就在這種條件下應(yīng)運(yùn)而生,它對(duì)數(shù)據(jù)實(shí)行條帶化的分割方式,有效的對(duì)信息數(shù)據(jù)進(jìn)行了組織和存儲(chǔ),良好充分的利用了設(shè)備的存儲(chǔ)空間,同時(shí)采用并行化的文件系統(tǒng)和訪問協(xié)議,能夠在保證低開銷和低延遲的情況下為外界提供強(qiáng)大的并發(fā)訪問的能力。此外,為了保證數(shù)據(jù)和系統(tǒng)安全,還實(shí)現(xiàn)了信息備份和冗余。負(fù)載均衡以及數(shù)據(jù)遷移等功能。 我們需要實(shí)時(shí)了解海量存儲(chǔ)系統(tǒng)的運(yùn)行狀態(tài),因此需要設(shè)置一套監(jiān)控系統(tǒng)來對(duì)它的節(jié)點(diǎn)和服務(wù)進(jìn)行監(jiān)視。海量存儲(chǔ)系統(tǒng)有其自身的很多特點(diǎn):首先是節(jié)點(diǎn)擴(kuò)張,系統(tǒng)無法預(yù)料到什么時(shí)候在什么地方會(huì)有新的節(jié)點(diǎn)被加進(jìn)來或者被移除出去,監(jiān)控系統(tǒng)需要對(duì)節(jié)點(diǎn)的存在與否做到自動(dòng)發(fā)現(xiàn),其次是節(jié)點(diǎn)失效,單個(gè)節(jié)點(diǎn)的小概率事件在超大規(guī)模的海量存儲(chǔ)系統(tǒng)中就會(huì)變得普遍存在,監(jiān)控系統(tǒng)需要在節(jié)點(diǎn)發(fā)生故障時(shí)對(duì)系統(tǒng)進(jìn)行報(bào)警,還要易于擴(kuò)展,監(jiān)控系統(tǒng)對(duì)海量存儲(chǔ)系統(tǒng)中新加入的系統(tǒng)服務(wù)和狀態(tài)能夠及時(shí)的表現(xiàn)出來,此外還有低開銷等要求,保證監(jiān)控組件的運(yùn)行不會(huì)占用太多的資源,不會(huì)影響到海量存儲(chǔ)系統(tǒng)本身。經(jīng)過深入考慮和對(duì)比,最終選擇出了一個(gè)適用于海量存儲(chǔ)系統(tǒng)的監(jiān)控模型。 之后針對(duì)海量存儲(chǔ)系統(tǒng)的實(shí)際情況,找到和發(fā)現(xiàn)模型自身還存在的缺陷和不足,從擴(kuò)展性。可靠性。管理性。安全性。功能性。以及系統(tǒng)開銷六大方面對(duì)模型進(jìn)行了優(yōu)化和改進(jìn),經(jīng)過完善的模型可以為海量存儲(chǔ)系統(tǒng)提供更加全面而且可靠的服務(wù),系統(tǒng)節(jié)點(diǎn)組織更為方便,監(jiān)控信息的存儲(chǔ)與訪問更加安全,系統(tǒng)功能更為強(qiáng)大,同時(shí)通過內(nèi)部結(jié)構(gòu)的優(yōu)化使得監(jiān)控系統(tǒng)造成的運(yùn)行時(shí)開銷可以進(jìn)一步的減少,最后驗(yàn)證了模型的正確性,改進(jìn)后的模型為海量存儲(chǔ)系統(tǒng)的運(yùn)行提供了一個(gè)可靠的保障。
【圖文】:
圖 2-1 海量存Figure 2-1 Framework上圖即為海量存儲(chǔ)系統(tǒng)的一個(gè)示意端為數(shù)據(jù)節(jié)點(diǎn)和管理節(jié)點(diǎn) 應(yīng)用服務(wù)器給給管理節(jié)點(diǎn),管理節(jié)點(diǎn)進(jìn)行處理和查后將信息回饋給服務(wù)器,然后服務(wù)器就需要的數(shù)據(jù)和內(nèi)容 這樣做可以大大降時(shí)更加有效的利用節(jié)點(diǎn)的計(jì)算資源,提鍵也最重要的一個(gè)設(shè)計(jì)就是并行存儲(chǔ)的訪問協(xié)議兩部分 并行文件系統(tǒng)將元數(shù)訪問文件信息的時(shí)候才與元數(shù)據(jù)服務(wù)器據(jù)節(jié)點(diǎn)上進(jìn)行,這就大大的減輕了元數(shù)來自外接的請(qǐng)求 同時(shí)它使得數(shù)據(jù)在存?zhèn)浯娣乓恍〔糠值奈募䞍?nèi)容,這樣做就實(shí)現(xiàn)并發(fā)的訪問和讀寫,提高系統(tǒng)處理
圖 2-2 海量存儲(chǔ)系統(tǒng)訪問協(xié)議Figure 2-2 Access Protocal of Mass Storage System數(shù)據(jù)冗余就是通常所講的數(shù)據(jù)備份,一份數(shù)據(jù)在存儲(chǔ)節(jié)點(diǎn)上不能只有一份拷貝,這樣會(huì)存在丟失數(shù)據(jù)的風(fēng)險(xiǎn) 很多情況比如說節(jié)點(diǎn)失效或者數(shù)據(jù)遭到意外破壞的情況下就將造成永久的損壞而無法復(fù)原 因此,數(shù)據(jù)冗余就是將數(shù)據(jù)進(jìn)行多個(gè)備份,備份的空間可以選擇其他數(shù)據(jù)節(jié)點(diǎn),同時(shí)可以將數(shù)據(jù)分散備份,這樣不論哪個(gè)節(jié)點(diǎn)失效,受損的數(shù)據(jù)都可以最大限度的恢復(fù)過來,提高系統(tǒng)的可靠性 狀態(tài)監(jiān)測(cè)的意思是要在運(yùn)行過程中實(shí)時(shí)監(jiān)測(cè)海量存儲(chǔ)系統(tǒng)的運(yùn)行時(shí)狀態(tài),以便發(fā)現(xiàn)問題及時(shí)修正或者根據(jù)系統(tǒng)的運(yùn)行情況作出合理的判斷 監(jiān)測(cè)項(xiàng)目一般包括系統(tǒng) CPU 內(nèi)存使用情況 節(jié)點(diǎn)空間利用率 tcp/ip 的連接等 狀態(tài)監(jiān)測(cè)是海量存儲(chǔ)系統(tǒng)的一塊很重要的內(nèi)容,我們通過運(yùn)行軟件將實(shí)時(shí)數(shù)據(jù)收集起來,同時(shí)繪制成各種各樣的圖表,以方便系統(tǒng)管理員的查看,而且在系統(tǒng)出現(xiàn)故障或者運(yùn)行不良時(shí)要發(fā)出報(bào)警通知管理員進(jìn)行處理
【學(xué)位授予單位】:上海交通大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2012
【分類號(hào)】:TP333
本文編號(hào):2537877
【圖文】:
圖 2-1 海量存Figure 2-1 Framework上圖即為海量存儲(chǔ)系統(tǒng)的一個(gè)示意端為數(shù)據(jù)節(jié)點(diǎn)和管理節(jié)點(diǎn) 應(yīng)用服務(wù)器給給管理節(jié)點(diǎn),管理節(jié)點(diǎn)進(jìn)行處理和查后將信息回饋給服務(wù)器,然后服務(wù)器就需要的數(shù)據(jù)和內(nèi)容 這樣做可以大大降時(shí)更加有效的利用節(jié)點(diǎn)的計(jì)算資源,提鍵也最重要的一個(gè)設(shè)計(jì)就是并行存儲(chǔ)的訪問協(xié)議兩部分 并行文件系統(tǒng)將元數(shù)訪問文件信息的時(shí)候才與元數(shù)據(jù)服務(wù)器據(jù)節(jié)點(diǎn)上進(jìn)行,這就大大的減輕了元數(shù)來自外接的請(qǐng)求 同時(shí)它使得數(shù)據(jù)在存?zhèn)浯娣乓恍〔糠值奈募䞍?nèi)容,這樣做就實(shí)現(xiàn)并發(fā)的訪問和讀寫,提高系統(tǒng)處理
圖 2-2 海量存儲(chǔ)系統(tǒng)訪問協(xié)議Figure 2-2 Access Protocal of Mass Storage System數(shù)據(jù)冗余就是通常所講的數(shù)據(jù)備份,一份數(shù)據(jù)在存儲(chǔ)節(jié)點(diǎn)上不能只有一份拷貝,這樣會(huì)存在丟失數(shù)據(jù)的風(fēng)險(xiǎn) 很多情況比如說節(jié)點(diǎn)失效或者數(shù)據(jù)遭到意外破壞的情況下就將造成永久的損壞而無法復(fù)原 因此,數(shù)據(jù)冗余就是將數(shù)據(jù)進(jìn)行多個(gè)備份,備份的空間可以選擇其他數(shù)據(jù)節(jié)點(diǎn),同時(shí)可以將數(shù)據(jù)分散備份,這樣不論哪個(gè)節(jié)點(diǎn)失效,受損的數(shù)據(jù)都可以最大限度的恢復(fù)過來,提高系統(tǒng)的可靠性 狀態(tài)監(jiān)測(cè)的意思是要在運(yùn)行過程中實(shí)時(shí)監(jiān)測(cè)海量存儲(chǔ)系統(tǒng)的運(yùn)行時(shí)狀態(tài),以便發(fā)現(xiàn)問題及時(shí)修正或者根據(jù)系統(tǒng)的運(yùn)行情況作出合理的判斷 監(jiān)測(cè)項(xiàng)目一般包括系統(tǒng) CPU 內(nèi)存使用情況 節(jié)點(diǎn)空間利用率 tcp/ip 的連接等 狀態(tài)監(jiān)測(cè)是海量存儲(chǔ)系統(tǒng)的一塊很重要的內(nèi)容,我們通過運(yùn)行軟件將實(shí)時(shí)數(shù)據(jù)收集起來,同時(shí)繪制成各種各樣的圖表,以方便系統(tǒng)管理員的查看,而且在系統(tǒng)出現(xiàn)故障或者運(yùn)行不良時(shí)要發(fā)出報(bào)警通知管理員進(jìn)行處理
【學(xué)位授予單位】:上海交通大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2012
【分類號(hào)】:TP333
【共引文獻(xiàn)】
相關(guān)期刊論文 前2條
1 胡新海;;云存儲(chǔ)數(shù)據(jù)縮減技術(shù)研究[J];長(zhǎng)春工程學(xué)院學(xué)報(bào)(自然科學(xué)版);2012年02期
2 白英彩;金崇英;;海量存儲(chǔ)系統(tǒng)的研究與應(yīng)用[J];軟件產(chǎn)業(yè)與工程;2010年05期
相關(guān)會(huì)議論文 前1條
1 趙曉南;李戰(zhàn)懷;曾雷杰;張曉;;分級(jí)存儲(chǔ)管理技術(shù)研究[A];2010年第16屆全國(guó)信息存儲(chǔ)技術(shù)大會(huì)(IST2010)論文集[C];2010年
相關(guān)碩士學(xué)位論文 前3條
1 朱俊潔;海量存儲(chǔ)系統(tǒng)中高可用服務(wù)管理的設(shè)計(jì)與實(shí)現(xiàn)[D];上海交通大學(xué);2011年
2 張夏添;基于IP-SAN的數(shù)字圖書館的實(shí)現(xiàn)[D];南昌大學(xué);2012年
3 何磊;虛擬磁帶庫中重復(fù)數(shù)據(jù)刪除技術(shù)的研究與設(shè)計(jì)[D];西南交通大學(xué);2013年
,本文編號(hào):2537877
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/2537877.html
最近更新
教材專著