集群計(jì)算環(huán)境全局通訊優(yōu)化的研究與實(shí)現(xiàn)
發(fā)布時(shí)間:2020-04-25 23:50
【摘要】: 隨著高速網(wǎng)絡(luò)技術(shù)和高性能微處理器技術(shù)的發(fā)展,集群計(jì)算從局域網(wǎng)擴(kuò)展到園區(qū)網(wǎng)甚至廣域網(wǎng),它正成為一種極具吸引力和挑戰(zhàn)性的分布式并行計(jì)算平臺(tái)。集群計(jì)算要達(dá)到實(shí)用化,首先需要解決的關(guān)鍵技術(shù)是提高通訊性能,包括點(diǎn)對(duì)點(diǎn)通訊和全局通訊的性能。本文主要研究如何在不改變硬件的前提下提高全局通訊性能。全局通訊的性能受計(jì)算機(jī)結(jié)點(diǎn)性能、網(wǎng)絡(luò)性能、網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)、全局通訊路徑等因素影響,其中優(yōu)化全局通訊路徑是提高全局通訊性能的一個(gè)重要手段,尤其是對(duì)消息傳遞庫的設(shè)計(jì)者而言。在集群環(huán)境中,計(jì)算機(jī)結(jié)點(diǎn)和網(wǎng)絡(luò)存在著異構(gòu)性,主要表現(xiàn)為計(jì)算機(jī)結(jié)點(diǎn)性能和網(wǎng)絡(luò)性能各有差異、網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)也不規(guī)則。這種異構(gòu)性增加了全局通訊路徑有效優(yōu)化的難度。如果在優(yōu)化全局通訊路徑時(shí)不加以充分考慮,忽略了某些因素,,往往會(huì)導(dǎo)致優(yōu)化的效果不佳,甚至在某些情況下出現(xiàn)相反的效果,反而降低全局通訊的性能。而常見的消息傳遞庫大多存在著這個(gè)問題。針對(duì)此問題,我們提出了全局通訊的多粒度優(yōu)化解決方案,它包括LobP通訊模型、HLC(Hierachical Label Cluster)拓?fù)浣Y(jié)構(gòu)模型、多粒度優(yōu)化MGO算法(Multi-Granularity Optimization)、全局通訊模擬器CCSim以及多粒度優(yōu)化的MPICH-MGO實(shí)現(xiàn)。本文從理論研究和工程實(shí)現(xiàn)兩方面系統(tǒng)地描述了我們所做的上述工作。 通訊模型描述了通訊的基本過程,它是全局通訊優(yōu)化的基礎(chǔ)。本文首先對(duì)通訊模型進(jìn)行分析,指出已有通訊模型在完備性、描述的層次一致性等方面的不足,提出了LobP通訊模型。 拓?fù)浣Y(jié)構(gòu)模型描述了網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu),它是全局通訊優(yōu)化的重要依據(jù)。在分析兩層結(jié)構(gòu)及簡(jiǎn)單多層結(jié)構(gòu)的基礎(chǔ)上,根據(jù)分布式集群環(huán)境物理拓?fù)浣Y(jié)構(gòu)的特點(diǎn)以及全局通訊優(yōu)化的需求,本文提出了適合于分布式集群全局通訊優(yōu)化的HLC拓?fù)浣Y(jié)構(gòu)模型,并描述了實(shí)現(xiàn)該模型的算法。 基于LobP通訊模型和HLC拓?fù)浣Y(jié)構(gòu)模型,本文提出了全局通訊的多粒度優(yōu)化算法,簡(jiǎn)稱MGO算法。MGO算法經(jīng)過優(yōu)化分別生成廣播、分布、聚合、全聚合等全局通訊操作的通訊路徑。在優(yōu)化時(shí)MGO算法利用LobP通訊模型和HLC拓?fù)浣Y(jié)構(gòu)模型,充分考慮了集群中計(jì)算機(jī)結(jié)點(diǎn)性能、網(wǎng)絡(luò)性能以及網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu),適用于分布式集群環(huán)境。 我們實(shí)現(xiàn)了多粒度優(yōu)化的全局通訊庫MPICH-MGO。MPICH-MGO基于MPICH,是對(duì)MPICH原有全局通訊層的修改和擴(kuò)充,使得它能夠通過分布式測(cè)試獲得集群的計(jì)算機(jī)結(jié)點(diǎn)性能、網(wǎng)絡(luò)性能以及網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)等信息,利用這些信息進(jìn)行全局通訊路徑的多粒度優(yōu)化,并根據(jù)優(yōu)化結(jié)果對(duì)涉及全局通訊的消息進(jìn)行路由。 我們還實(shí)現(xiàn)了針對(duì)集群環(huán)境全局通訊的模擬器CCSim。模擬器CCSim可以生成不同配置的集群,調(diào)用不同的全局通訊優(yōu)化算法來優(yōu)化生成相應(yīng)的全局通訊路徑,并利用全局通訊路徑模擬全局通訊過程的執(zhí)行。利用該模擬器可以比較不同優(yōu)化算法在不同集群配置下的優(yōu)化效果,它已成為我們研究集群環(huán)境下全局通訊優(yōu)化的一個(gè)重要分析工具。 模擬結(jié)果表明MGO算法優(yōu)化效果顯著。MGO算法與相關(guān)的BT、FEF、FCEF、LA算法相比,在廣播、分布、聚合、全聚合等全局通訊操作的性能上,均有不同程 國(guó)防科學(xué)技術(shù)大學(xué)研究生院學(xué)位論文 度的提高,并且性能提高百分比基本上隨著集群中計(jì)算機(jī)結(jié)點(diǎn)數(shù)目的增加而加大。
【學(xué)位授予單位】:國(guó)防科學(xué)技術(shù)大學(xué)
【學(xué)位級(jí)別】:博士
【學(xué)位授予年份】:2001
【分類號(hào)】:TP338
本文編號(hào):2640836
【學(xué)位授予單位】:國(guó)防科學(xué)技術(shù)大學(xué)
【學(xué)位級(jí)別】:博士
【學(xué)位授予年份】:2001
【分類號(hào)】:TP338
【引證文獻(xiàn)】
相關(guān)期刊論文 前1條
1 曾小薈;劉清;羅文浪;康繼昌;;基于FC-TR網(wǎng)絡(luò)的MPI通信性能優(yōu)化研究[J];計(jì)算機(jī)應(yīng)用研究;2011年04期
本文編號(hào):2640836
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/2640836.html
最近更新
教材專著