綠色CDN緩存節(jié)點(diǎn)系統(tǒng)
發(fā)布時(shí)間:2022-01-12 21:49
隨著互聯(lián)網(wǎng)流量的不斷增長,CDN的規(guī)模也日漸龐大。如何建設(shè)一個(gè)高效綠色的CDN緩存節(jié)點(diǎn)系統(tǒng)已成為各大CDN系統(tǒng)運(yùn)營者必須面對的問題。綠色的概念代表著"高效、節(jié)能、經(jīng)濟(jì)與穩(wěn)定可靠",文章闡述如何實(shí)現(xiàn)CDN緩存節(jié)點(diǎn)系統(tǒng)的綠色理念。
【文章來源】:信息通信. 2020,(06)
【文章頁數(shù)】:2 頁
【部分圖文】:
綠色CDN緩存節(jié)點(diǎn)系統(tǒng)架構(gòu)
采用訪問速度快的存儲(chǔ)介質(zhì)可有效提高I/O效率,但以SSD為代表的高速存儲(chǔ)介質(zhì)成本較高,因此,將根據(jù)用戶訪問模式判斷熱點(diǎn)數(shù)據(jù),并綜合訪問頻率、遷移開銷等因素將熱點(diǎn)數(shù)據(jù)從普通存儲(chǔ)磁盤遷移到高速存儲(chǔ)介質(zhì)進(jìn)行存儲(chǔ),而訪問頻率較低的數(shù)據(jù)則放入SATA等成本較低的磁盤中。具體的遷移判定準(zhǔn)則為freq/size。freq為數(shù)據(jù)的訪問頻度,記錄在對象文件系統(tǒng)的存儲(chǔ)索引中,根據(jù)數(shù)據(jù)的訪問次數(shù)進(jìn)行更新,存儲(chǔ)索引在系統(tǒng)運(yùn)行時(shí)被全部導(dǎo)入內(nèi)存,以便快速檢索到哪些數(shù)據(jù)是熱度變高或降低。freq越高,數(shù)據(jù)就越應(yīng)該往高級別的磁盤上遷移。為文件的大小,決定了遷移一個(gè)文件的開銷。為權(quán)重,決定遷移開銷所占的比重,一般來說,緩存系統(tǒng)認(rèn)為數(shù)據(jù)訪問頻度的重要性大過文件大小,按照經(jīng)驗(yàn),將改值設(shè)定為0.8。圖2給出了一個(gè)簡單的SATA/SSD兩級存儲(chǔ)的遷移示例,分別為每種存儲(chǔ)介質(zhì)定義了到上一級(或到下一級)的遷移閥值。如,當(dāng)發(fā)現(xiàn)SATA硬盤某數(shù)據(jù)的freq/size值大于遷移到SSD硬盤的閥值,則寫入SSD的memory中。stripe是寫磁盤的一個(gè)基本單位,待一個(gè)stripe被填滿時(shí),再進(jìn)行磁盤I/O,寫入SSD硬盤。該方式的優(yōu)點(diǎn)是可以盡量減少磁盤I/O次數(shù),避免磁盤I/O過于頻繁而造成的壽命降低。當(dāng)數(shù)據(jù)熱度降低時(shí),數(shù)據(jù)又會(huì)從高級別的SSD硬盤寫入低級別的SATA硬盤。2.2 基于一致性hash的熱點(diǎn)擴(kuò)展
目前,七層負(fù)載均衡主要通過一致性hash的調(diào)度策略[3],將接收到的請求調(diào)度到后端各緩存系統(tǒng)上,原理如圖3所示。七層負(fù)載均衡代理維持一個(gè)一致性hash環(huán),后端服務(wù)器都會(huì)映射到環(huán)上的若干個(gè)節(jié)點(diǎn),當(dāng)接收到請求時(shí),七層代理通過相同的hash算法基于url計(jì)算生成一個(gè)hash值。這個(gè)hash值一定落在HASH環(huán)上,然后按照順時(shí)針的方向可以找到最近的一個(gè)緩存系統(tǒng)。這樣,任何緩存系統(tǒng)的加入或者退出都只會(huì)影響hash環(huán)上臨近的節(jié)點(diǎn)。同時(shí),選擇合適的hash算法來保證不同的url會(huì)計(jì)算出不同的hash值。只要選擇得當(dāng),大多數(shù)情況下可以保證負(fù)載均衡地落入不同的緩存系統(tǒng)節(jié)點(diǎn)。根據(jù)一致性hash的調(diào)度策略,每個(gè)經(jīng)過七層負(fù)載均衡的請求都會(huì)被固定調(diào)度到相應(yīng)的緩存系統(tǒng)上。由于數(shù)據(jù)訪問存在熱點(diǎn),各個(gè)緩存系統(tǒng)的負(fù)載將會(huì)不均勻,甚至導(dǎo)致某些緩存系統(tǒng)無法承受。節(jié)點(diǎn)系統(tǒng)將對這種結(jié)構(gòu)進(jìn)行熱點(diǎn)擴(kuò)展,當(dāng)某存儲(chǔ)節(jié)點(diǎn)的請求負(fù)載高到一定程度時(shí),將把負(fù)載動(dòng)態(tài)遷移到hash環(huán)的下一個(gè)節(jié)點(diǎn),同時(shí)進(jìn)行數(shù)據(jù)的動(dòng)態(tài)復(fù)制,以分擔(dān)壓力。當(dāng)熱點(diǎn)轉(zhuǎn)移時(shí),再把所有請求回退到原有緩存系統(tǒng),并刪除數(shù)據(jù)副本,這樣,高請求負(fù)載壓力被分?jǐn)偟耐瑫r(shí)最小化了存儲(chǔ)負(fù)載。
本文編號:3585501
【文章來源】:信息通信. 2020,(06)
【文章頁數(shù)】:2 頁
【部分圖文】:
綠色CDN緩存節(jié)點(diǎn)系統(tǒng)架構(gòu)
采用訪問速度快的存儲(chǔ)介質(zhì)可有效提高I/O效率,但以SSD為代表的高速存儲(chǔ)介質(zhì)成本較高,因此,將根據(jù)用戶訪問模式判斷熱點(diǎn)數(shù)據(jù),并綜合訪問頻率、遷移開銷等因素將熱點(diǎn)數(shù)據(jù)從普通存儲(chǔ)磁盤遷移到高速存儲(chǔ)介質(zhì)進(jìn)行存儲(chǔ),而訪問頻率較低的數(shù)據(jù)則放入SATA等成本較低的磁盤中。具體的遷移判定準(zhǔn)則為freq/size。freq為數(shù)據(jù)的訪問頻度,記錄在對象文件系統(tǒng)的存儲(chǔ)索引中,根據(jù)數(shù)據(jù)的訪問次數(shù)進(jìn)行更新,存儲(chǔ)索引在系統(tǒng)運(yùn)行時(shí)被全部導(dǎo)入內(nèi)存,以便快速檢索到哪些數(shù)據(jù)是熱度變高或降低。freq越高,數(shù)據(jù)就越應(yīng)該往高級別的磁盤上遷移。為文件的大小,決定了遷移一個(gè)文件的開銷。為權(quán)重,決定遷移開銷所占的比重,一般來說,緩存系統(tǒng)認(rèn)為數(shù)據(jù)訪問頻度的重要性大過文件大小,按照經(jīng)驗(yàn),將改值設(shè)定為0.8。圖2給出了一個(gè)簡單的SATA/SSD兩級存儲(chǔ)的遷移示例,分別為每種存儲(chǔ)介質(zhì)定義了到上一級(或到下一級)的遷移閥值。如,當(dāng)發(fā)現(xiàn)SATA硬盤某數(shù)據(jù)的freq/size值大于遷移到SSD硬盤的閥值,則寫入SSD的memory中。stripe是寫磁盤的一個(gè)基本單位,待一個(gè)stripe被填滿時(shí),再進(jìn)行磁盤I/O,寫入SSD硬盤。該方式的優(yōu)點(diǎn)是可以盡量減少磁盤I/O次數(shù),避免磁盤I/O過于頻繁而造成的壽命降低。當(dāng)數(shù)據(jù)熱度降低時(shí),數(shù)據(jù)又會(huì)從高級別的SSD硬盤寫入低級別的SATA硬盤。2.2 基于一致性hash的熱點(diǎn)擴(kuò)展
目前,七層負(fù)載均衡主要通過一致性hash的調(diào)度策略[3],將接收到的請求調(diào)度到后端各緩存系統(tǒng)上,原理如圖3所示。七層負(fù)載均衡代理維持一個(gè)一致性hash環(huán),后端服務(wù)器都會(huì)映射到環(huán)上的若干個(gè)節(jié)點(diǎn),當(dāng)接收到請求時(shí),七層代理通過相同的hash算法基于url計(jì)算生成一個(gè)hash值。這個(gè)hash值一定落在HASH環(huán)上,然后按照順時(shí)針的方向可以找到最近的一個(gè)緩存系統(tǒng)。這樣,任何緩存系統(tǒng)的加入或者退出都只會(huì)影響hash環(huán)上臨近的節(jié)點(diǎn)。同時(shí),選擇合適的hash算法來保證不同的url會(huì)計(jì)算出不同的hash值。只要選擇得當(dāng),大多數(shù)情況下可以保證負(fù)載均衡地落入不同的緩存系統(tǒng)節(jié)點(diǎn)。根據(jù)一致性hash的調(diào)度策略,每個(gè)經(jīng)過七層負(fù)載均衡的請求都會(huì)被固定調(diào)度到相應(yīng)的緩存系統(tǒng)上。由于數(shù)據(jù)訪問存在熱點(diǎn),各個(gè)緩存系統(tǒng)的負(fù)載將會(huì)不均勻,甚至導(dǎo)致某些緩存系統(tǒng)無法承受。節(jié)點(diǎn)系統(tǒng)將對這種結(jié)構(gòu)進(jìn)行熱點(diǎn)擴(kuò)展,當(dāng)某存儲(chǔ)節(jié)點(diǎn)的請求負(fù)載高到一定程度時(shí),將把負(fù)載動(dòng)態(tài)遷移到hash環(huán)的下一個(gè)節(jié)點(diǎn),同時(shí)進(jìn)行數(shù)據(jù)的動(dòng)態(tài)復(fù)制,以分擔(dān)壓力。當(dāng)熱點(diǎn)轉(zhuǎn)移時(shí),再把所有請求回退到原有緩存系統(tǒng),并刪除數(shù)據(jù)副本,這樣,高請求負(fù)載壓力被分?jǐn)偟耐瑫r(shí)最小化了存儲(chǔ)負(fù)載。
本文編號:3585501
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/3585501.html
最近更新
教材專著