云計(jì)算應(yīng)用中的任務(wù)調(diào)度與資源分配的協(xié)同優(yōu)化
本文選題:云計(jì)算 + 任務(wù)調(diào)度 ; 參考:《中國(guó)科學(xué)技術(shù)大學(xué)》2017年博士論文
【摘要】:隨著業(yè)務(wù)的發(fā)展,越來(lái)越多的企業(yè)或組織開始采用基于多數(shù)據(jù)中心的云環(huán)境甚至多云環(huán)境為用戶提供服務(wù)。多數(shù)據(jù)中心或多云可以為不同地理位置的用戶提供時(shí)延更短、帶寬更高、成本更低的服務(wù),同時(shí)多數(shù)據(jù)中心間可構(gòu)建互為容災(zāi)備份機(jī)制,從而提供高可靠的服務(wù)。多數(shù)據(jù)中心在提供更好的服務(wù)性能的同時(shí),也增加了云應(yīng)用管理的復(fù)雜性和挑戰(zhàn)性。一方面,多數(shù)據(jù)中心環(huán)境將出現(xiàn)大規(guī)模的用戶到數(shù)據(jù)中心(U2D)和數(shù)據(jù)中心到數(shù)據(jù)中心(D2D)的任務(wù),這些任務(wù)通常包含大量待處理數(shù)據(jù),有較高的計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等多維資源的需求。另一方面,多數(shù)據(jù)中心或多云環(huán)境存在大量不同類型、不同粒度的異構(gòu)資源,這些資源的配置、性能、費(fèi)用模型都不盡相同。隨著基礎(chǔ)設(shè)施地資源規(guī)模和異構(gòu)性地增加,越來(lái)越多的企業(yè)將基礎(chǔ)設(shè)施的管理和應(yīng)用開發(fā)分離,使得應(yīng)用開發(fā)人員可以敏捷開發(fā),從而快速地應(yīng)對(duì)用戶需求和市場(chǎng)變化。這必將導(dǎo)致任務(wù)調(diào)度和資源分配分離,會(huì)帶來(lái)一定程度的資源浪費(fèi)和應(yīng)用性能下降,F(xiàn)有的調(diào)度策略也未能充分考慮多數(shù)據(jù)中心環(huán)境的資源異構(gòu)性以及云任務(wù)的特性,難以做到針對(duì)性的優(yōu)化。因此,研究多數(shù)據(jù)中心云環(huán)境下的任務(wù)調(diào)度和資源分配的協(xié)同優(yōu)化具有重要的理論和現(xiàn)實(shí)意義。針對(duì)多數(shù)據(jù)中心環(huán)境下云任務(wù)調(diào)度的問(wèn)題,本文從U2D和D2D云任務(wù)的特征出發(fā),圍繞其在多數(shù)據(jù)中心環(huán)境下的調(diào)度機(jī)制和資源分配方式展開研究。本文的主要工作包括以下三個(gè)方面:·首先,本文研究了多數(shù)據(jù)中心環(huán)境下的U2D任務(wù)調(diào)度問(wèn)題。為了更好地應(yīng)對(duì)資源異構(gòu)性,這里選取了較為復(fù)雜的混合云環(huán)境進(jìn)行研究。首先針對(duì)不同區(qū)域的用戶請(qǐng)求和多數(shù)據(jù)中心環(huán)境進(jìn)行建模,設(shè)計(jì)了基于混合云的U2D任務(wù)服務(wù)模型和效益最大化優(yōu)化模型。然后,分別針對(duì)靜態(tài)和動(dòng)態(tài)場(chǎng)景做具體分析,并設(shè)計(jì)相應(yīng)的分布式調(diào)度算法實(shí)現(xiàn)各區(qū)域的任務(wù)調(diào)度、私有云和公有云數(shù)據(jù)中心上的任務(wù)調(diào)度和資源分配。該算法分層分布式地實(shí)現(xiàn)了混合云中的任務(wù)調(diào)度和異構(gòu)資源分配,可以應(yīng)對(duì)大規(guī)模的U2D任務(wù)請(qǐng)求。仿真結(jié)果表明,該算法能夠保證任務(wù)時(shí)延需求,相對(duì)于基于提前預(yù)知的T-slot算法可以實(shí)現(xiàn)較高的服務(wù)效益,并顯著降低算法運(yùn)行時(shí)間!て浯,本文研究了多數(shù)據(jù)中心環(huán)境下的D2D任務(wù)調(diào)度問(wèn)題。數(shù)據(jù)中心間網(wǎng)絡(luò)(Inter-DC)存在大量的數(shù)據(jù)同步或備份任務(wù),這些任務(wù)通常具有任播特性,并且可以通過(guò)存儲(chǔ)-轉(zhuǎn)發(fā)機(jī)制實(shí)現(xiàn)數(shù)據(jù)傳輸。本研究首先結(jié)合上述這兩個(gè)特性,提出GlobalAMny傳輸機(jī)制,動(dòng)態(tài)地全局選擇任播目的數(shù)據(jù)中心。然后,本文設(shè)計(jì)了效益最大化模型,并利用BackPressure算法提出了逐跳的GlobalAny傳輸算法。為了降低傳輸時(shí)延,本文還綜合逐跳傳輸和直接傳輸?shù)奶攸c(diǎn),設(shè)計(jì)了數(shù)據(jù)傳輸?shù)募铀偎惴℅lobalAny_Ext。仿真結(jié)果表明,GlobalAny算法提高了平均服務(wù)效益,降低了算法運(yùn)行時(shí)間,而傳輸加速方案GlobalAny_Ext則顯著降低了任務(wù)的時(shí)延!ぷ詈,本文研究了多層Inter-DC光網(wǎng)絡(luò)(ML-IDCON)中的DoT任務(wù)調(diào)度問(wèn)題。區(qū)別于普通IP網(wǎng)絡(luò),光網(wǎng)絡(luò)擁有較大帶寬,但需要提前建立光路,并且資源分配粒度較大,因此ML-IDCON成為大型云服務(wù)商的選擇。針對(duì)ML-IDCON中的DoT調(diào)度問(wèn)題,本研究首先嘗試?yán)肐P層剩余的帶寬資源實(shí)現(xiàn)數(shù)據(jù)傳輸,即通過(guò)時(shí)間擴(kuò)展網(wǎng)絡(luò)(TEN)方法將多數(shù)據(jù)中心環(huán)境中動(dòng)態(tài)的網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)資源分配問(wèn)題轉(zhuǎn)化為靜態(tài)的網(wǎng)絡(luò)流問(wèn)題,并采用最小費(fèi)用最大流算法來(lái)降低任務(wù)調(diào)度成本。若IP層資源不足,本研究將利用寬度優(yōu)先搜索方法,迭代地在傳輸路徑上找到成本最低的光路建立方案,并實(shí)現(xiàn)DoT調(diào)度和處理。仿真結(jié)果表明,對(duì)于DoT調(diào)度,靈活柵格ML-IDCON在阻塞概率,收發(fā)器的能量消耗和DC存儲(chǔ)使用均優(yōu)于固定柵格ML-IDCON。該算法在略微增加能耗的基礎(chǔ)上,顯著地降低了請(qǐng)求阻塞率、數(shù)據(jù)存儲(chǔ)需求以及算法運(yùn)行時(shí)間。
[Abstract]:With the development of business, more and more enterprises or organizations have begun to provide services to users based on multi data center cloud environment or even multi cloud environment. Multi data center or multi cloud can provide shorter time delay, higher bandwidth and lower cost service for different geographic users, and multiple data centers can be built and compatible with each other. Multiple data centers, while providing better service performance, also increase the complexity and challenge of cloud application management. On the one hand, the multi data center environment will have large-scale users to data center (U2D) and data center to data center (D2D). These tasks usually contain large numbers of tasks. On the other hand, there are a large number of different types, different granularity and heterogeneous resources, and the allocation, performance and cost model of these resources are not the same. With the increase of infrastructure resources and heterogeneity, more and more The enterprise separations the management of infrastructure and application and development so that the application developers can be developed quickly, which can quickly respond to user needs and market changes. This will lead to the separation of task scheduling and resource allocation, which will bring a certain degree of waste of resources and lower application performance. The existing scheduling strategy also fails to consider the majority of the majority. According to the resource heterogeneity of the central environment and the characteristics of the cloud task, it is difficult to optimize the target. Therefore, it is of great theoretical and practical significance to study the cooperative optimization of task scheduling and resource allocation under the cloud environment of multi data center. In view of the problem of cloud task scheduling in the multi data center environment, this paper from the U2D and D2D cloud tasks The main work of this paper includes the following three aspects: first, this paper studies the U2D task scheduling problem in the multi data center environment. In order to better cope with the heterogeneity of resources, a more complex mixed cloud environment is selected. Firstly, the U2D task service model and the benefit maximization optimization model based on mixed cloud are designed to model the user requests and multi data center environment in different regions. Then, the static and dynamic scenarios are analyzed, and the corresponding distributed scheduling algorithms are designed to implement the task scheduling in each region. Task scheduling and resource allocation on the cloud and public cloud data center. This algorithm realizes the task scheduling and heterogeneous resource allocation in the mixed cloud, and can deal with large-scale U2D task requests. The simulation results show that the algorithm can guarantee the task delay requirement, and the phase based T-slot algorithm based on pre prediction can be implemented. Higher service benefits and significantly lower algorithm running time. Secondly, this paper studies the D2D task scheduling problem under the multi data center environment. The data center network (Inter-DC) has a large number of data synchronization or backup tasks. These tasks usually have the character of the broadcast, and the data transmission can be realized through the storage and forwarding mechanism. First, the GlobalAMny transmission mechanism is proposed to dynamically select the data center of the destination. Then, the benefit maximization model is designed, and the hop by hop GlobalAny transmission algorithm is proposed by using the BackPressure algorithm. In order to reduce the transmission time delay, this paper also combines the hop by hop transmission and direct transmission. GlobalAny_Ext. simulation results of the acceleration algorithm of data transmission have been designed to show that the GlobalAny algorithm improves the average service efficiency and reduces the running time of the algorithm, while the transmission acceleration scheme GlobalAny_Ext reduces the task delay significantly. Finally, this paper studies the scheduling problem of DoT task in the multi-layer Inter-DC optical network (ML-IDCON). Unlike ordinary IP networks, optical networks have large bandwidth, but need to establish optical paths ahead of time, and the granularity of resource allocation is large. So ML-IDCON becomes the choice of large cloud service providers. In view of the DoT scheduling problem in ML-IDCON, this study first attempts to use the remaining bandwidth resources of IP layer to realize data transmission, that is, through the time extended network (TEN). Methods the dynamic network, computing, storage resource allocation problem in the multi data center environment is transformed into a static network flow problem, and the minimum cost maximum flow algorithm is used to reduce the cost of task scheduling. If the IP layer is insufficient, this research will use the width first search method to find the lowest cost path on the transmission path. Establish and implement the DoT plan, scheduling and processing. The simulation results show that for DoT scheduling, flexible grid ML-IDCON in blocking probability, energy consumption and DC storage were better than the fixed grid transceiver using the algorithm ML-IDCON. based on the increase in energy consumption slightly, significantly reduce the request blocking rate, data storage requirements and running time of the algorithm.
【學(xué)位授予單位】:中國(guó)科學(xué)技術(shù)大學(xué)
【學(xué)位級(jí)別】:博士
【學(xué)位授予年份】:2017
【分類號(hào)】:TP3
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 張松慧;熊錦江;;一種針對(duì)非平穩(wěn)網(wǎng)絡(luò)任務(wù)調(diào)度防沖突算法研究[J];科技通報(bào);2013年10期
2 孟憲福;基于優(yōu)先級(jí)的任務(wù)調(diào)度與負(fù)載均衡模型研究[J];小型微型計(jì)算機(jī)系統(tǒng);2005年09期
3 廖曉文;廖京盛;;時(shí)間觸發(fā)模式的任務(wù)調(diào)度與分解策略[J];單片機(jī)與嵌入式系統(tǒng)應(yīng)用;2006年07期
4 樊曉香;;任務(wù)調(diào)度問(wèn)題機(jī)制設(shè)計(jì)[J];計(jì)算機(jī)技術(shù)與發(fā)展;2008年07期
5 黃漾;;分布式環(huán)境下任務(wù)調(diào)度探討[J];電腦知識(shí)與技術(shù);2011年19期
6 陳軍;謝立;孫鐘秀;;分布式任務(wù)調(diào)度研究的新趨向[J];計(jì)算機(jī)研究與發(fā)展;1990年04期
7 陳艇;;基于混沌最優(yōu)博弈的網(wǎng)絡(luò)任務(wù)調(diào)度算法仿真[J];計(jì)算機(jī)仿真;2013年11期
8 李陶深;李明麗;張希翔;;云計(jì)算環(huán)境下任務(wù)調(diào)度技術(shù)的研究進(jìn)展[J];玉林師范學(xué)院學(xué)報(bào);2014年02期
9 劉雄文,陸鑫達(dá);元計(jì)算環(huán)境中任務(wù)調(diào)度的深入分析[J];計(jì)算機(jī)工程與應(yīng)用;2002年17期
10 羅紅,慕德俊,鄧智群,王曉東;網(wǎng)格計(jì)算中任務(wù)調(diào)度研究綜述[J];計(jì)算機(jī)應(yīng)用研究;2005年05期
相關(guān)會(huì)議論文 前10條
1 劉培培;李連;叢海鵬;謝勇;;基于多代理協(xié)商機(jī)制的任務(wù)調(diào)度系統(tǒng)研究[A];2006北京地區(qū)高校研究生學(xué)術(shù)交流會(huì)——通信與信息技術(shù)會(huì)議論文集(下)[C];2006年
2 張磊;馬軍;;描述短時(shí)資源混雜占用型任務(wù)調(diào)度的數(shù)學(xué)模型與算法[A];2005年全國(guó)理論計(jì)算機(jī)科學(xué)學(xué)術(shù)年會(huì)論文集[C];2005年
3 王軍;巢玉強(qiáng);彭釗軼;;基于任務(wù)調(diào)度的電能量計(jì)量采集系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[A];2006電力系統(tǒng)自動(dòng)化學(xué)術(shù)交流研討大會(huì)論文集[C];2006年
4 張志強(qiáng);王萬(wàn)玉;王建平;李凡;袁剛;;多站多星任務(wù)調(diào)度優(yōu)化模型研究[A];第二十三屆全國(guó)空間探測(cè)學(xué)術(shù)交流會(huì)論文摘要集[C];2010年
5 韓云;于炯;張偉;王命全;;基于負(fù)載均衡的任務(wù)調(diào)度改進(jìn)算法[A];2010年全國(guó)開放式分布與并行計(jì)算機(jī)學(xué)術(shù)會(huì)議論文集[C];2010年
6 王全民;王靚;許智宏;;網(wǎng)格環(huán)境中基于蟻群算法的批量任務(wù)調(diào)度的研究[A];2006北京地區(qū)高校研究生學(xué)術(shù)交流會(huì)——通信與信息技術(shù)會(huì)議論文集(上)[C];2006年
7 張曉云;岳繼光;楊麟祥;;零星任務(wù)調(diào)度在多控制任務(wù)系統(tǒng)中的應(yīng)用[A];第16屆中國(guó)過(guò)程控制學(xué)術(shù)年會(huì)暨第4屆全國(guó)故障診斷與安全性學(xué)術(shù)會(huì)議論文集[C];2005年
8 劉宇;劉玉榮;周冰;;基于WCF的環(huán)境減災(zāi)星座運(yùn)控任務(wù)調(diào)度系統(tǒng)[A];第二十五屆全國(guó)空間探測(cè)學(xué)術(shù)研討會(huì)摘要集[C];2012年
9 黃文澤;邵峰晶;孫仁誠(chéng);;基于雙總線安全結(jié)構(gòu)的操作系統(tǒng)任務(wù)調(diào)度[A];2009全國(guó)計(jì)算機(jī)網(wǎng)絡(luò)與通信學(xué)術(shù)會(huì)議論文集[C];2009年
10 楊艦;黃道平;李小亞;;GDCS任務(wù)調(diào)度的SPN模型研究[A];第二十六屆中國(guó)控制會(huì)議論文集[C];2007年
相關(guān)重要報(bào)紙文章 前2條
1 王波;Linux與服務(wù)器集群技術(shù)[N];中國(guó)計(jì)算機(jī)報(bào);2002年
2 龔漢坤;資源分配尊重歷史 引水調(diào)水依法依規(guī)[N];云南政協(xié)報(bào);2014年
相關(guān)博士學(xué)位論文 前10條
1 陸平;云計(jì)算應(yīng)用中的任務(wù)調(diào)度與資源分配的協(xié)同優(yōu)化[D];中國(guó)科學(xué)技術(shù)大學(xué);2017年
2 趙凡宇;航天器多目標(biāo)觀測(cè)任務(wù)調(diào)度與規(guī)劃方法研究[D];北京理工大學(xué);2015年
3 孫明明;云計(jì)算平臺(tái)上任務(wù)調(diào)度算法的研究[D];中國(guó)科學(xué)技術(shù)大學(xué);2015年
4 張旭;面向網(wǎng)絡(luò)服務(wù)的傳輸協(xié)議設(shè)計(jì)與任務(wù)調(diào)度優(yōu)化[D];中國(guó)科學(xué)技術(shù)大學(xué);2017年
5 汪昌健;面向MapReduce計(jì)算模型的調(diào)度技術(shù)研究[D];國(guó)防科學(xué)技術(shù)大學(xué);2015年
6 郭力爭(zhēng);云計(jì)算環(huán)境下資源部署與任務(wù)調(diào)度研究[D];東華大學(xué);2015年
7 黃萬(wàn)偉;基于服務(wù)屬性區(qū)分的可重構(gòu)任務(wù)調(diào)度研究[D];解放軍信息工程大學(xué);2009年
8 瞿進(jìn);可重構(gòu)系統(tǒng)軟硬功能劃分及任務(wù)調(diào)度技術(shù)研究[D];解放軍信息工程大學(xué);2011年
9 周雙娥;實(shí)時(shí)分布容錯(cuò)系統(tǒng)的任務(wù)調(diào)度技術(shù)研究[D];哈爾濱工程大學(xué);2003年
10 柴亞輝;基于FPGA的高性能計(jì)算架構(gòu)硬件任務(wù)與資源模型研究[D];上海大學(xué);2012年
相關(guān)碩士學(xué)位論文 前10條
1 張巧龍;云計(jì)算環(huán)境下任務(wù)調(diào)度問(wèn)題的研究[D];江南大學(xué);2015年
2 徐彬;云環(huán)境下基于動(dòng)態(tài)融合遺傳蟻群算法的DAG任務(wù)調(diào)度研究[D];南京信息工程大學(xué);2015年
3 鐘瀟柔;基于動(dòng)態(tài)遺傳算法的云計(jì)算任務(wù)節(jié)能調(diào)度策略研究[D];哈爾濱工業(yè)大學(xué);2015年
4 李婷;分布式爬蟲任務(wù)調(diào)度與AJAX頁(yè)面抓取研究[D];電子科技大學(xué);2015年
5 趙彬;基于任務(wù)調(diào)度和動(dòng)態(tài)資源調(diào)整的云計(jì)算節(jié)能機(jī)制及能效分析[D];廣西大學(xué);2015年
6 楊鏡;基于人工免疫系統(tǒng)的云平臺(tái)動(dòng)態(tài)任務(wù)調(diào)度[D];電子科技大學(xué);2014年
7 王一冰;基于ASP.NET的任務(wù)調(diào)度管理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D];電子科技大學(xué);2013年
8 白晶晶;云環(huán)境下安全和可靠性驅(qū)動(dòng)的工作流任務(wù)調(diào)度研究[D];新疆大學(xué);2015年
9 呂信科;基于多核陣列的任務(wù)調(diào)度技術(shù)研究[D];電子科技大學(xué);2015年
10 溫宇昂;單階段差異化多機(jī)可拆分任務(wù)調(diào)度優(yōu)化方法[D];東北大學(xué);2013年
,本文編號(hào):2039923
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/2039923.html