CPU與GPU混合虛擬化資源高效調(diào)度策略
本文關(guān)鍵詞: 虛擬化 混合負載 反饋控制 服務(wù)等級協(xié)議 資源調(diào)度 出處:《上海交通大學(xué)》2015年碩士論文 論文類型:學(xué)位論文
【摘要】:目前工業(yè)界,由多核CPU和擁有大量核數(shù)的GPU組成的系統(tǒng)架構(gòu)已經(jīng)成為云計算中處理混合負載的強有力的平臺。然而多個虛擬機之間共享CPU和GPU資源依然存在亟待解決的難題。有效的GPU資源調(diào)度策略的缺乏造成GPU密集型負載的性能混亂和GPU資源的浪費。其次負載的異構(gòu)性使CPU密集型的負載占用大量的CPU和IO資源,這會影響GPU密集型負載的性能。如果對每一個負載定義各自的服務(wù)等級協(xié)議(Service Level Agreement,簡稱SLA),那么在混合負載情況下它們的SLA是很難被保證的。最后,由于云計算數(shù)據(jù)中心需要和用戶維持大量的網(wǎng)絡(luò)連接,而有限的網(wǎng)絡(luò)帶寬資源成為影響用戶體驗的重要瓶頸。針對上述三個問題,本文提出了一種基于虛擬化的分布式拓撲結(jié)構(gòu),這是一個能夠高效合理地處理GPU與CPU混合資源調(diào)度的輕量級框架。該框架由兩部分組成,其中第一部分運行在單個物理節(jié)點中并負責(zé)GPU、CPU和網(wǎng)絡(luò)帶寬資源調(diào)度。它采用微軟的鉤(Hook)技術(shù),通過攔截相關(guān)的應(yīng)用程序編程接口(Application Programming Interface)對虛擬機內(nèi)應(yīng)用程序申請的資源進行調(diào)度,全過程不對客戶操作系統(tǒng)、宿主操作系統(tǒng)、底層驅(qū)動程序以及負載程序進行任何修改?蚣艿牡诙糠质怯瑟毩⒌闹骺貦C器(master)運行,接受外來的用戶請求并自動做出仲裁,向受控機器(slave)發(fā)出響應(yīng)指令,最終該受控機器會自動啟動新的虛擬機和用戶建立起網(wǎng)絡(luò)連接,響應(yīng)用戶請求。本框架集成了若干資源調(diào)度策略,即兩個CPU資源調(diào)度算法和兩個網(wǎng)絡(luò)帶寬資源調(diào)度算法。它們分別是開環(huán)控制調(diào)度策略、自適應(yīng)控制調(diào)度策略、基于公平的資源調(diào)度策略、基于共享的資源調(diào)度策略。前兩者針對CPU資源的調(diào)度,后兩者針對網(wǎng)絡(luò)帶寬資源的調(diào)度。調(diào)度策略在實現(xiàn)中引入了自動控制技術(shù),增強了負載運行時性能的穩(wěn)定性和健壯性,有效控制混合負載的QoS水平。最后實驗驗證,本文所提出的框架適用于實際混合負載計算場景。主控機器有效地控制受控機器響應(yīng)用戶請求?蚣芗傻馁Y源調(diào)度策略能有效地在運行多個GPU和CPU密集型負載的服務(wù)器上進行混合資源的調(diào)度,其性能符合設(shè)計目標(biāo)。
[Abstract]:At present, industry. The system architecture composed of multi-core CPU and GPU with a large number of cores has become a powerful platform for handling mixed loads in cloud computing. However, the sharing of CPU and GPU resources among multiple virtual machines still exists. The lack of effective GPU resource scheduling strategy leads to the confusion of GPU intensive load performance and the waste of GPU resources. Secondly, the heterogeneity of the load makes CPU intensive load occupy a lot. For CPU and IO resources. This affects the performance of GPU intensive loads, if you define a service Level agreement for each load. In the case of mixed load, their SLA is difficult to guarantee. Finally, because the cloud computing data center needs to maintain a large number of network connections with users. Limited network bandwidth resources have become an important bottleneck to affect the user experience. In view of the above three problems, this paper proposes a distributed topology based on virtualization. This is a lightweight framework that can efficiently and reasonably handle the scheduling of GPU and CPU mixed resources. The framework consists of two parts, the first part of which runs in a single physical node and is responsible for GPU. CPU and network bandwidth resource scheduling. It uses Microsoft Hook technology. The application Programming interface is used to schedule the resources requested by the application in the virtual machine by intercepting the related application programming interface. The entire process does not make any changes to the client operating system, the host operating system, the underlying driver, and the load program. The second part of the framework is run by an independent master machine. Accept requests from outside users and automatically arbitrate and issue response instructions to the controlled machine, which will automatically start the new virtual machine and establish a network connection with the user. In response to user requests, this framework integrates several resource scheduling strategies, namely, two CPU resource scheduling algorithms and two network bandwidth resource scheduling algorithms, which are open-loop control scheduling strategies. Adaptive control scheduling strategy, based on fair resource scheduling strategy, based on shared resource scheduling strategy. The first two for CPU resources scheduling. The latter two are aimed at the scheduling of network bandwidth resources. The scheduling strategy introduces automatic control technology to enhance the stability and robustness of load runtime performance. Effectively control the QoS level of the mixed load. The framework proposed in this paper is suitable for the actual mixed load computing scenario. The master control machine can effectively control the controlled machine to respond to user requests. The integrated resource scheduling strategy of the framework can effectively run multiple GPU and CPU dense. Scheduling of mixed resources on a server with a centralized load. Its performance conforms to the design goal.
【學(xué)位授予單位】:上海交通大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2015
【分類號】:TP391.41;TP332
【相似文獻】
相關(guān)期刊論文 前10條
1 王];鄭樹琴;;調(diào)度策略在并行機調(diào)度仿真的應(yīng)用[J];機械管理開發(fā);2013年01期
2 王浩,鐘玉琢;一種新的基于流合并的調(diào)度策略[J];計算機學(xué)報;2001年03期
3 張麗曉,袁立強,徐煒民;基于任務(wù)類型的集群調(diào)度策略[J];計算機工程;2004年13期
4 寧凝;錢省三;孟志雷;;帶有工藝約束的并行多機調(diào)度策略[J];工業(yè)工程;2008年02期
5 劉宴兵;李秉智;幸云輝;;寬帶路由器輸入排隊調(diào)度策略的綜合研究[J];計算機科學(xué);2002年03期
6 楊祥茂;譚曦;;基于網(wǎng)絡(luò)資源消費者模型的調(diào)度策略[J];計算機科學(xué);2003年09期
7 黃敏;姚正林;劉金剛;;網(wǎng)絡(luò)QoS調(diào)度策略的分析與研究[J];計算機工程與應(yīng)用;2006年29期
8 方泳;袁召云;;環(huán)行穿梭車調(diào)度策略的仿真研究[J];物流技術(shù)與應(yīng)用;2012年04期
9 胡敏,陶洋;基于網(wǎng)絡(luò)配置管理的調(diào)度策略分析[J];數(shù)字通信;1999年04期
10 王振凱,劉斌,徐光yP;核心無狀態(tài)虛擬時鐘調(diào)度策略[J];清華大學(xué)學(xué)報(自然科學(xué)版);2003年01期
相關(guān)會議論文 前10條
1 胡子敬;李紅燕;;一種資源共享情況下的連續(xù)查詢算子調(diào)度策略[A];第二十一屆中國數(shù)據(jù)庫學(xué)術(shù)會議論文集(技術(shù)報告篇)[C];2004年
2 林志紅;;照口水電廠優(yōu)化調(diào)度策略的分析[A];福建省科學(xué)技術(shù)協(xié)會第八屆學(xué)術(shù)年會分會場——提高水電站水庫調(diào)度技術(shù) 推進海西經(jīng)濟建設(shè)研討會論文集[C];2008年
3 黃錦濤;何加銘;陳平;賈德祥;;基于移動中間件抽象層調(diào)度策略研究[A];浙江省電子學(xué)會2010學(xué)術(shù)年會論文集[C];2010年
4 王冰;谷寒雨;席裕庚;;大規(guī)模單機靜態(tài)調(diào)度的終端約束滾動策略[A];第二十二屆中國控制會議論文集(下)[C];2003年
5 趙千川;鄭大鐘;;一類HDS的事件反饋型最優(yōu)調(diào)度策略[A];1996年中國控制會議論文集[C];1996年
6 趙千川;鄭大鐘;;CLB調(diào)度策略的性能估計[A];1998年中國控制會議論文集[C];1998年
7 方劍;席裕庚;;動態(tài)環(huán)境下的Job Shop周期性滾動調(diào)度策略[A];1996中國控制與決策學(xué)術(shù)年會論文集[C];1996年
8 淡圖南;朱立平;顏紀迅;;一種基于時間觸發(fā)的安全關(guān)鍵操作系統(tǒng)混合調(diào)度策略[A];全面建成小康社會與中國航空發(fā)展——2013首屆中國航空科學(xué)技術(shù)大會論文集[C];2013年
9 郭紅星;彭嘉麗;盛濤;田婷;張愛華;;無線多用戶視頻流中支持內(nèi)容感知的包調(diào)度策略[A];第四屆和諧人機環(huán)境聯(lián)合學(xué)術(shù)會議論文集[C];2008年
10 李茂增;王丹;杜東明;;一種數(shù)據(jù)流查詢操作符的調(diào)度策略[A];第二十四屆中國數(shù)據(jù)庫學(xué)術(shù)會議論文集(技術(shù)報告篇)[C];2007年
相關(guān)重要報紙文章 前1條
1 戈;國華集群負載優(yōu)化系統(tǒng)具備八項功能[N];電腦商報;2007年
相關(guān)博士學(xué)位論文 前8條
1 周瀏陽;網(wǎng)絡(luò)控制系統(tǒng)中調(diào)度策略的設(shè)計與延時的處理[D];哈爾濱工業(yè)大學(xué);2015年
2 Rabee Furkan Hassan Saleh;[D];電子科技大學(xué);2015年
3 張曄;基于模塊的調(diào)度策略及其對多處理器系統(tǒng)的支持[D];中國科學(xué)技術(shù)大學(xué);2009年
4 曾碧卿;分布式計算中并行I/O調(diào)度策略研究[D];中南大學(xué);2005年
5 何忠賀;切換服務(wù)網(wǎng)絡(luò)的穩(wěn)定性及交通信號控制應(yīng)用[D];北京工業(yè)大學(xué);2013年
6 王文樂;基于替代/補償?shù)膶崟r事務(wù)處理策略研究[D];江西財經(jīng)大學(xué);2013年
7 王書舉;車輛控制系統(tǒng)局域網(wǎng)絡(luò)(CAN)調(diào)度策略研究[D];東北大學(xué);2011年
8 張金藝;可重構(gòu)SoC DFT架構(gòu)與TLB測試調(diào)度策略研究[D];上海大學(xué);2009年
相關(guān)碩士學(xué)位論文 前10條
1 丁富淮;嵌入式Linux系統(tǒng)的二級調(diào)度策略優(yōu)化技術(shù)及應(yīng)用[D];蘇州大學(xué);2015年
2 成先鏡;公共自行車兩階段調(diào)度策略與模型及求解方法研究[D];南京師范大學(xué);2015年
3 趙金濤;虛擬單元制造中考慮隨機擾動的多級動態(tài)穩(wěn)健調(diào)度策略研究[D];江蘇科技大學(xué);2015年
4 張晏;OpenStack的拓撲可視化監(jiān)控技術(shù)研究與實現(xiàn)[D];電子科技大學(xué);2014年
5 殷洪海;云環(huán)境下基于改進蟻群算法的資源調(diào)度策略[D];電子科技大學(xué);2014年
6 王潤澤;CPU與GPU混合虛擬化資源高效調(diào)度策略[D];上海交通大學(xué);2015年
7 李振雙;云計算環(huán)境下資源調(diào)度策略的研究與實現(xiàn)[D];北京郵電大學(xué);2014年
8 何林;面向網(wǎng)格計算的多集群間作業(yè)調(diào)度策略的設(shè)計與實現(xiàn)[D];哈爾濱工業(yè)大學(xué);2012年
9 游九龍;自適應(yīng)集群的資源調(diào)度策略研究[D];西安電子科技大學(xué);2013年
10 韓增波;適用于周期事務(wù)模型的二重調(diào)度策略[D];江西財經(jīng)大學(xué);2009年
,本文編號:1483681
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/1483681.html