高性能云計算平臺存儲系統(tǒng)配置關(guān)鍵技術(shù)研究
發(fā)布時間:2020-11-06 14:16
結(jié)合云計算優(yōu)點、專門針對高性能應(yīng)用而設(shè)計的云平臺近幾年來受到廣泛關(guān)注。相比于傳統(tǒng)云計算平臺,高性能云平臺獨占式分配虛擬機從而避免性能干擾,采用萬兆以太網(wǎng)而非千兆以太網(wǎng)互聯(lián),集成高性能服務(wù)器專用處理器、更大的內(nèi)存、容量更大的本地塊存儲設(shè)備。研究表明,對大量計算密集型和內(nèi)存密集型高性能計算程序,高性能云平臺的計算資源及服務(wù)能提供可比本地集群的性能。但是,高性能云平臺往往沒有直接提供支持并行讀寫的服務(wù),用戶通常需要在虛擬集群上自行搭建存儲系統(tǒng)。普通用戶根據(jù)應(yīng)用程序的特點配置存儲系統(tǒng)變成可能,但是如何選取優(yōu)化配置十分具有挑戰(zhàn)性。本文的主要研究工作從定義高性能云平臺存儲系統(tǒng)的可配置性出發(fā),建立自動化選取優(yōu)化配置的預(yù)測模型,最后提出并實現(xiàn)一個快速、有效的評測方法。 本文的主要工作包括: (1)系統(tǒng)地定義了高性能云平臺存儲系統(tǒng)的可配置性,并首次提出利用該可配置性優(yōu)化性能或降低成本。本文以亞馬遜高性能云平臺為例,量化分析了存儲系統(tǒng)的可配置空間,發(fā)現(xiàn)不同存儲系統(tǒng)配置對不同應(yīng)用程序具有顯著的性能和成本差異,因此用戶在高性能云平臺上進行配置時需要分析并結(jié)合目標(biāo)應(yīng)用程序的行為特征實現(xiàn)優(yōu)化配置。 (2)基于部分代表性數(shù)據(jù),建立了輸入輸出負(fù)載特征到存儲系統(tǒng)優(yōu)化配置的映射模型,可根據(jù)用戶輸入的負(fù)載特征預(yù)測優(yōu)化配置。為建立預(yù)測模型,本文提出基于眾包方式漸進式探索可配置空間,并給出一種從可配置探索空間中收集代表性數(shù)據(jù)的方法。在該方法指導(dǎo)下,本文從真實云平臺上收集了初始可用數(shù)據(jù)集,建立了面向特定應(yīng)用程序負(fù)載特征的優(yōu)化配置預(yù)測模型,集成并評估了兩種成熟的機器學(xué)習(xí)算法。 (3)首次設(shè)計并實現(xiàn)自動生成精簡程序的原型系統(tǒng)。本文利用程序切片方法自動從原始程序中抽取輸入輸出操作的相關(guān)語句,生成和原始應(yīng)用輸入輸出負(fù)載特征一致的精簡程序,用于對高性能云平臺存儲系統(tǒng)配置的快速、有效評測。
【學(xué)位單位】:清華大學(xué)
【學(xué)位級別】:博士
【學(xué)位年份】:2014
【中圖分類】:TP333
【文章目錄】:
摘要
Abstract
主要符號對照表
第1章 引言
1.1 論文背景及意義
1.1.1 高性能云計算平臺的發(fā)展
1.1.2 高性能云計算平臺存儲系統(tǒng)的配置
1.1.3 高性能云計算平臺存儲系統(tǒng)的性能評測
1.2 高性能云計算平臺存儲系統(tǒng)配置面臨的關(guān)鍵問題
1.3 本文研究的主要內(nèi)容和貢獻
1.3.1 本文的研究內(nèi)容
1.3.2 本文的主要貢獻
第2章 相關(guān)工作
2.1 高性能云平臺相關(guān)研究
2.2 存儲系統(tǒng)管理相關(guān)研究
2.3 高性能存儲系統(tǒng)性能評測相關(guān)研究
2.4 存儲系統(tǒng)基準(zhǔn)測試程序生成方法相關(guān)研究
第3章 高性能云計算平臺存儲系統(tǒng)的可配置性
3.1 高性能云計算平臺:以亞馬遜為例
3.2 高性能云計算平臺的存儲系統(tǒng)配置的探索空間
3.2.1 高性能云平臺存儲系統(tǒng)可配置棧
3.2.2 高性能程序存儲行為分析
3.2.3 總探索空間的定義
3.3 探索可配置空間的必要性
3.4 探索空間參數(shù)重要性分析
3.5 小結(jié)
第4章 高性能云計算平臺存儲系統(tǒng)優(yōu)化配置預(yù)測方法
4.1 系統(tǒng)框架
4.2 訓(xùn)練數(shù)據(jù)采集方法
4.3 優(yōu)化配置預(yù)測模型
4.3.1 分類和回歸的決策樹模型
4.3.2 基于排名算法的預(yù)測模型
4.4 實驗結(jié)果
4.4.1 應(yīng)用程序
4.4.2 事實最優(yōu)配置分析
4.4.3 預(yù)測結(jié)果評價
4.4.4 參數(shù)敏感性分析
4.4.5 成本分析
4.5 案例分析:與手動配置比較
4.6 小結(jié)
第5章 高性能云計算平臺存儲系統(tǒng)快速評測技術(shù)
5.1 高性能云平臺存儲系統(tǒng)評測方法
5.2 基于程序切片的測試程序自動生成方法
5.2.1 方法介紹
5.2.2 舉例介紹
5.2.3 設(shè)計和實現(xiàn)
5.2.4 評測程序源代碼生成
5.3 切片效果分析
5.3.1 實驗環(huán)境
5.3.2 初步實驗結(jié)果
5.4 小結(jié)
第6章 總結(jié)與展望
6.1 本文解決的問題和解決方法
6.2 進一步工作:挑戰(zhàn)和機遇并存
參考文獻
致謝
附錄A 性能預(yù)測模型采用的決策樹
個人簡歷、在學(xué)期間發(fā)表的學(xué)術(shù)論文與研究成果
【參考文獻】
本文編號:2873249
【學(xué)位單位】:清華大學(xué)
【學(xué)位級別】:博士
【學(xué)位年份】:2014
【中圖分類】:TP333
【文章目錄】:
摘要
Abstract
主要符號對照表
第1章 引言
1.1 論文背景及意義
1.1.1 高性能云計算平臺的發(fā)展
1.1.2 高性能云計算平臺存儲系統(tǒng)的配置
1.1.3 高性能云計算平臺存儲系統(tǒng)的性能評測
1.2 高性能云計算平臺存儲系統(tǒng)配置面臨的關(guān)鍵問題
1.3 本文研究的主要內(nèi)容和貢獻
1.3.1 本文的研究內(nèi)容
1.3.2 本文的主要貢獻
第2章 相關(guān)工作
2.1 高性能云平臺相關(guān)研究
2.2 存儲系統(tǒng)管理相關(guān)研究
2.3 高性能存儲系統(tǒng)性能評測相關(guān)研究
2.4 存儲系統(tǒng)基準(zhǔn)測試程序生成方法相關(guān)研究
第3章 高性能云計算平臺存儲系統(tǒng)的可配置性
3.1 高性能云計算平臺:以亞馬遜為例
3.2 高性能云計算平臺的存儲系統(tǒng)配置的探索空間
3.2.1 高性能云平臺存儲系統(tǒng)可配置棧
3.2.2 高性能程序存儲行為分析
3.2.3 總探索空間的定義
3.3 探索可配置空間的必要性
3.4 探索空間參數(shù)重要性分析
3.5 小結(jié)
第4章 高性能云計算平臺存儲系統(tǒng)優(yōu)化配置預(yù)測方法
4.1 系統(tǒng)框架
4.2 訓(xùn)練數(shù)據(jù)采集方法
4.3 優(yōu)化配置預(yù)測模型
4.3.1 分類和回歸的決策樹模型
4.3.2 基于排名算法的預(yù)測模型
4.4 實驗結(jié)果
4.4.1 應(yīng)用程序
4.4.2 事實最優(yōu)配置分析
4.4.3 預(yù)測結(jié)果評價
4.4.4 參數(shù)敏感性分析
4.4.5 成本分析
4.5 案例分析:與手動配置比較
4.6 小結(jié)
第5章 高性能云計算平臺存儲系統(tǒng)快速評測技術(shù)
5.1 高性能云平臺存儲系統(tǒng)評測方法
5.2 基于程序切片的測試程序自動生成方法
5.2.1 方法介紹
5.2.2 舉例介紹
5.2.3 設(shè)計和實現(xiàn)
5.2.4 評測程序源代碼生成
5.3 切片效果分析
5.3.1 實驗環(huán)境
5.3.2 初步實驗結(jié)果
5.4 小結(jié)
第6章 總結(jié)與展望
6.1 本文解決的問題和解決方法
6.2 進一步工作:挑戰(zhàn)和機遇并存
參考文獻
致謝
附錄A 性能預(yù)測模型采用的決策樹
個人簡歷、在學(xué)期間發(fā)表的學(xué)術(shù)論文與研究成果
【參考文獻】
相關(guān)期刊論文 前1條
1 ;New generation of multi-scale NWP system (GRAPES):general scientific design[J];Chinese Science Bulletin;2008年22期
本文編號:2873249
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/2873249.html
最近更新
教材專著