面向工作流任務的云計算資源多目標與容錯調度研究
本文選題:云計算 + 資源調度。 參考:《東華大學》2016年博士論文
【摘要】:近年來,云計算由于其高可擴展性、較強的通用性和按需提供服務等特點,已經得到了政府和行業(yè)越來越多的認可和使用。隨著云計算應用的普及,云數據中心所承擔的工作勢必將越來越繁重。面對愈加繁重的任務,如何對大量異構資源進行合理的調度以保證云數據中心高效、穩(wěn)定的運行就顯得尤為重要,特別是當處理的任務是各任務間具有依賴關系的工作流任務時,因為它直接關系到云計算的服務質量和效益以及用戶的滿意程度。本論文針對任務間具有依賴關系的工作流任務,分別研究了多目標和容錯要求下的云計算資源調度問題,主要內容包括如下幾個方面:(1)針對多目標要求,設計了一種內分泌-多種群協(xié)作進化啟發(fā)的多目標優(yōu)化算法(ECMSMOO),并將其應用到面向工作流任務的云計算資源多目標調度之中。ECMSMOO采用多個種群實現(xiàn)多目標優(yōu)化,每個種群以一個優(yōu)化目標為主進行優(yōu)化。同時,ECMSMOO還設計了一種種群間的競爭與合作機制來實現(xiàn)種群之間的信息交流與合作,從而使其能夠搜索到更好的前沿面。為了避免粒子陷入局部最優(yōu)解,受內分泌系統(tǒng)中促激素和釋放激素工作機制的啟發(fā),ECMSMOO還嵌入了一個受內分泌啟發(fā)的進化策略,從而更好地利用外部檔案集中的粒子。最后通過對比驗證,證明了ECMSMOO在云計算資源多目標調度中的有效性。(2)針對容錯的要求,受免疫系統(tǒng)工作機理的啟發(fā),設計了一種面向工作流的云計算資源重調度算法(IRW)。IRW模擬免疫系統(tǒng)的工作機制,由監(jiān)測模塊、應答模塊、學習模塊和記憶模塊等四個模塊相互協(xié)同工作,從而為工作流執(zhí)行過程中因資源故障而不能順利執(zhí)行的任務提供相應的重調度策略,特別適用于相同故障再次發(fā)生的情況。為了提高搜索速度,IRW采用K-means算法將資源池中的可用資源進行聚類,從而縮小抗體查找的范圍。同時,針對資源池中資源不能滿足重調度服務質量要求的情況,IRW還利用虛擬化技術創(chuàng)建新的虛擬機來滿足任務對服務質量的要求。最后,通過實驗驗證了IRW的可行性和有效性。(3)針對容錯的要求,基于Primary-Backup(PB)模式設計了一種面向工作流任務的云計算資源彈性容錯調度算法(FTESW)。算法首先分析了云計算環(huán)境中任務之間的依賴關系對基于PB模式的容錯調度的約束,然后分析了容錯調度對虛擬機遷移的約束。基于這些工作,在保證容錯的需求下,算法設計了云計算環(huán)境中面向工作流任務的彈性資源提供策略,包括資源擴展策略和資源整合策略,然后設計了相應的任務主本彈性容錯調度策略和任務副本彈性容錯調度策略。最后通過仿真實驗驗證了FTESW能夠在實現(xiàn)容錯的前提下,可有效的提高系統(tǒng)的資源利用率。(4)同樣針對容錯要求,提出了一種面向不平衡工作流的云計算資源容錯策略的自適應選擇算法(IMWSFW)。該算法將復制和重調度兩個容錯策略有效地結合起來,以發(fā)揮它們各自在容錯中的優(yōu)勢,并盡量滿足工作的軟期限。IMWSFW首先對工作流的軟期限進行了劃分,使得每個任務均有自身的子期限。然后基于任務子期限的不平衡性和云計算資源性能的異構性,為每個任務從復制和重調度中選擇相應的容錯策略。然后,結合云計算系統(tǒng)資源按需提供的特點,IMWSFW為每個任務選擇相應的虛擬機并預定相應的服務時間間隔。對于選擇重調度作為其容錯策略的任務,當其在首次執(zhí)行過程中遇到故障時,IMWSFW通過在線重調度為其提供相應的容錯策略。為了充分利用任務間的時間間隔,在任務執(zhí)行過程中,IMWSFW還通過在線預留調整機制來擴展部分未執(zhí)行任務的子截止期。最后通過仿真實驗驗證了所提的IMWSFW算法能夠提供較好的容錯調度策略,且比重調度容錯策略具有更高的任務完成率;同時比副本復制容錯調度策略具有更高的資源利用率。最后,對全論文的研究工作進行了總結,指出了其中的不足,并對下一步的研究工作和方向進行了展望。
[Abstract]:In recent years, cloud computing has gained more and more recognition and use by the government and industry because of its high scalability, strong generality and service on demand. With the popularization of cloud computing applications, the work potential of the cloud data center will become more and more heavy. Reasonable scheduling is particularly important to ensure the efficient and stable operation of the cloud data center, especially when the task is a workflow task with dependency between various tasks, because it is directly related to the service quality and efficiency of the cloud computing and the satisfaction of the users. This paper is dependent on the dependency relationship between the tasks. The task of workflow task is to study the problem of cloud computing resource scheduling under multi-objective and fault-tolerant requirements. The main contents include the following aspects: (1) a multi-objective optimization algorithm (ECMSMOO) is designed for multi-objective requirements, and it is applied to the cloud computing resources for workflow tasks. In multi-objective scheduling,.ECMSMOO uses multiple populations to achieve multi-objective optimization, and each population is optimized by an optimization goal. At the same time, ECMSMOO also designs a variety of groups of competition and cooperation mechanisms to achieve information exchange and cooperation among populations, so that they can search for better frontiers. In order to avoid particle subsidence. In the local optimal solution, inspired by the mechanism of hormone and releasing hormone in the endocrine system, ECMSMOO also embeds an evolutionary strategy inspired by endocrinology to make better use of the particles in the external archives. Finally, the effectiveness of ECMSMOO in multi-objective scheduling of cloud computing resources is proved by comparison and verification. (2) fault tolerance is aimed at fault tolerance. Inspired by the working mechanism of the immune system, the work mechanism of a workflow based cloud computing resource rescheduling algorithm (IRW).IRW simulation immune system is designed, which are worked together by four modules, such as monitoring module, response module, learning module and memory module. In order to improve the search speed, IRW uses the K-means algorithm to cluster the available resources in the resource pool to reduce the range of antibody search. At the same time, the resources in the resource pool can not meet the quality requirements of the rescheduling service. In addition, IRW also uses virtualization technology to create new virtual machines to meet the requirements of service quality. Finally, the feasibility and effectiveness of IRW are verified by experiments. (3) based on the requirement of fault tolerance, a flexible fault tolerant scheduling algorithm for cloud computing resources for workflow tasks (FTESW) is designed based on the Primary-Backup (PB) model. The method first analyzes the constraints of the dependencies between tasks in the cloud computing environment to the PB based fault-tolerant scheduling, and then analyzes the constraints of the fault-tolerant scheduling on the migration of the virtual machine. Based on these tasks, the algorithm designs a flexible resource provision strategy for the work flow task in the cloud computing environment under the requirement of fault tolerance. Source extension strategy and resource integration strategy, then the corresponding task master resilient fault-tolerant scheduling strategy and task replica resilient fault-tolerant scheduling strategy are designed. Finally, the simulation experiments show that FTESW can effectively improve the resource utilization of the system under the premise of fault tolerance. (4) a kind of face is also proposed for the fault tolerance requirements. The adaptive selection algorithm (IMWSFW) for the fault-tolerant strategy of cloud computing resources to unbalanced workflow. This algorithm combines duplication and rescheduling two fault-tolerant strategies effectively to give full play to their respective advantages in fault tolerance, and to meet the soft deadline of work as far as possible..IMWSFW is first divided into the soft deadline of the workflow, which makes every appointment. It has its own submission. Then, based on the imbalances of the task submission and the heterogeneity of the performance of the cloud computing resources, the corresponding fault tolerant strategies for each task are selected for each task from replication and rescheduling. Then, combining the features provided by the cloud computing system resources on demand, IMWSFW selects the corresponding virtual machine for each task and preorders the corresponding service. Time interval. For the task of selecting rescheduling as its fault tolerant strategy, IMWSFW provides a corresponding fault tolerance strategy by on-line rescheduling when it has a fault in the first execution process. In order to make full use of the interval between tasks, IMWSFW also extends the part by online reservation adjustment mechanism during the task execution process. The simulation experiment shows that the proposed IMWSFW algorithm can provide a better fault-tolerant scheduling strategy, and the specific gravity scheduling fault tolerant strategy has a higher task completion rate. At the same time, it has a higher resource utilization ratio than the replica replication fault-tolerant scheduling strategy. Finally, the research work of the whole paper is summarized. It pointed out the shortcomings and prospected the next research work and direction.
【學位授予單位】:東華大學
【學位級別】:博士
【學位授予年份】:2016
【分類號】:TP393.09;TP301.6
【相似文獻】
相關期刊論文 前10條
1 李紅信,范玉順;分布式工作流執(zhí)行服務的設計與實現(xiàn)[J];計算機工程與應用;2003年24期
2 劉向前,王曉琳,曾廣周;基于協(xié)調機制的多工作流過程合并方法[J];計算機工程;2003年02期
3 覃俊,康立山,陳毓屏,吳仁杰;遠程工作流的安全機制[J];計算機應用研究;2003年07期
4 吳世貴;淺談工作流技術[J];建材技術與應用;2003年05期
5 李紅玲,朱錦泉;基于工作流技術圖書館自動化管理系統(tǒng)的設計與實現(xiàn)[J];長春理工大學學報;2005年02期
6 ;你工作流了嗎?[J];軟件世界;2006年23期
7 蘇軍;薛順利;李尊朝;;工作流項目的代理安全機制[J];西安工程科技學院學報;2006年06期
8 付偉;;工作流技術綜述[J];河北北方學院學報(自然科學版);2007年01期
9 李燕;馮玉強;;工作流挖掘:一種新型工作流自動化建模方法[J];計算機工程;2007年04期
10 楊洪波;;工作流:三分天下[J];軟件世界;2007年10期
相關會議論文 前10條
1 常群;王海洋;;基于長短事務分離的工作流事務模型[A];第十九屆全國數據庫學術會議論文集(研究報告篇)[C];2002年
2 馬帥;王海洋;王文;;事務工作流及其錯誤處理策略[A];第十七屆全國數據庫學術會議論文集(研究報告篇)[C];2000年
3 劉慶;劉英博;王建民;;基于工作流日志的層次化角色挖掘[A];第二十四屆中國數據庫學術會議論文集(技術報告篇)[C];2007年
4 袁征;肖宇;;基于事例處理的工程項目工作流管理[A];土木建筑學術文庫(第12卷)[C];2009年
5 王飛;李郴;薛清龍;胡曉鑫;;基于工作流技術的銀行影像系統(tǒng)的研究和開發(fā)[A];煤礦自動化與信息化——第19屆全國煤礦自動化與信息化學術會議暨中國礦業(yè)大學(北京)百年校慶學術會議論文集[C];2009年
6 劉建勛;陳海燕;;工作流管理系統(tǒng)中基于組織結構約束的授權研究[A];全國第16屆計算機科學與技術應用(CACIS)學術會議論文集[C];2004年
7 魏連;許榕生;;基于工作流技術的手機取證系統(tǒng)的設計與實現(xiàn)[A];第13屆全國計算機、網絡在現(xiàn)代科學技術領域的應用學術會議論文集[C];2007年
8 壽志勤;李樂明;崇大志;;一個面向政務流程的工作流管理系統(tǒng)分析與構建[A];中國行政管理學會2005年年會暨“政府行政能力建設與構建和諧社會”研討會論文集[C];2005年
9 鄒盟軍;黃煒;;基于組件的工作流管理平臺的設計與實現(xiàn)[A];廣東省電機工程學會2003-2004年度優(yōu)秀論文集[C];2005年
10 張博;楊帆;;基于表單的工作流管理系統(tǒng)設計[A];第十四屆中國科協(xié)年會第5分會場:綠色船舶與海洋裝備創(chuàng)新發(fā)展及產業(yè)化論壇論文集[C];2012年
相關重要報紙文章 前10條
1 何進偉;還工作流管理一個說法[N];中國計算機報;2003年
2 徐昊;工作流是下一個“金礦”[N];中國計算機報;2003年
3 ;《工作流管理——模型、方法和系統(tǒng)》出版[N];中華讀書報;2004年
4 胡長城;工作流:國內國際兩極分化[N];計算機世界;2007年
5 工作流資深專家 游青華;如何選擇一個適合的工作流平臺[N];中國計算機報;2007年
6 劉喜喜;超越工作流管理[N];中國計算機報;2006年
7 ;北京商能 實現(xiàn)電子化工作流體系[N];中國計算機報;2009年
8 劉錟;Lotus Domino/Notes工作流在辦公自動化中的應用[N];計算機世界;2005年
9 蔣明煒 戴寶純 吳英;工作流管理使企業(yè)系統(tǒng)實現(xiàn)集成[N];中國鄉(xiāng)鎮(zhèn)企業(yè)報;2004年
10 沈建苗 編譯;基于Spring創(chuàng)建工作流引擎[N];計算機世界;2006年
相關博士學位論文 前5條
1 沈虹;多約束復雜工作流的調度優(yōu)化[D];東南大學;2016年
2 姚光順;面向工作流任務的云計算資源多目標與容錯調度研究[D];東華大學;2016年
3 王朝霞;數據感知工作流的建模與驗證[D];清華大學;2012年
4 盧偉倬;建設項目工作流精益管理研究[D];哈爾濱工業(yè)大學;2008年
5 楊曉輝;基于服務組織的開放Agent社會研究[D];天津大學;2012年
相關碩士學位論文 前10條
1 侯美玲;基于工作流技術的管理信息系統(tǒng)開發(fā)研究[D];太原理工大學;2006年
2 顏超;基于工作流技術的稅務管理系統(tǒng)的設計與實現(xiàn)[D];上海交通大學;2015年
3 吳伯然;基于工作流的電網公司黨務管理系統(tǒng)的設計與實現(xiàn)[D];山東大學;2015年
4 朱星鎮(zhèn);基于J2EE和工作流技術的質量管理系統(tǒng)設計與開發(fā)[D];電子科技大學;2013年
5 榮鈺;基于工作流的政府行政審批平臺的設計與實現(xiàn)[D];電子科技大學;2014年
6 蒙煥;面向財務共享服務中心的財務報賬系統(tǒng)設計與實現(xiàn)[D];上海交通大學;2014年
7 彭德安;面向SAP的備件分配和下單軟件的設計與實現(xiàn)[D];上海交通大學;2014年
8 李佳;面向云工作流的切片與調度方法[D];大連理工大學;2015年
9 戴潔;異構系統(tǒng)多工作流在線調度算法研究[D];大連理工大學;2015年
10 陳征;通信感知的DAG工作流費用優(yōu)化模型及算法[D];大連理工大學;2015年
,本文編號:1977365
本文鏈接:http://sikaile.net/guanlilunwen/ydhl/1977365.html