基于CPU-GPU異構(gòu)計(jì)算的負(fù)載能效優(yōu)化的設(shè)計(jì)與實(shí)現(xiàn)
發(fā)布時間:2021-09-05 20:29
隨著云計(jì)算、大數(shù)據(jù)、人工智能等技術(shù)的高速發(fā)展,CPU-GPU異構(gòu)的高性能計(jì)算方式越來越多地被數(shù)據(jù)中心采用,這樣的計(jì)算方式具有更高的并行度、計(jì)算峰值和靈活性,但是其能耗峰值也明顯增加。在異構(gòu)計(jì)算的環(huán)境下,當(dāng)單個負(fù)載運(yùn)行時,在滿足性能需求的前提下,保持最高的GPU核心頻率可能會造成大量的能耗浪費(fèi);當(dāng)混合負(fù)載運(yùn)行時,若混合負(fù)載對GPU資源形成競爭,則會導(dǎo)致性能損失。因此需要合理地調(diào)度負(fù)載,在不違反性能約束的情況下,提高整體效率,從而提升能效。針對上述問題,首先通過實(shí)際測量手段,在特定的硬件平臺上運(yùn)行14種代表性負(fù)載,找到單個負(fù)載運(yùn)行的最佳頻率;進(jìn)而使用DVFS調(diào)整頻率,獲得負(fù)載的性能損失和能耗效果。通過實(shí)驗(yàn)分析,發(fā)現(xiàn)實(shí)際調(diào)度效果明顯依賴于負(fù)載類型,但傳統(tǒng)內(nèi)存/計(jì)算密集二元分類法不適合此類異構(gòu)平臺。基于此,通過關(guān)鍵參數(shù)(例如內(nèi)存停頓、GPU利用率、GPU帶寬和負(fù)載執(zhí)行時間等)對于實(shí)際測試結(jié)果的分類訓(xùn)練,從而把負(fù)載分為六類。與傳統(tǒng)的負(fù)載分類效果相比,每個類別的負(fù)載在使用DVFS時呈現(xiàn)相似的性能和功耗特性,從而得到較為準(zhǔn)確的性能能效模型;诖四P,能夠?qū)τ诨旌县?fù)載進(jìn)行有效調(diào)度,從而提升混合負(fù)載的...
【文章來源】:華中科技大學(xué)湖北省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:65 頁
【學(xué)位級別】:碩士
【部分圖文】:
CPU與GPU結(jié)構(gòu)的區(qū)別CPU的指令執(zhí)行過程采用流水線技術(shù),先取指令,然后指令譯碼,最后是指令
并沒有將 GPU 視為系統(tǒng)的一部分,所以他們的方法不能直接應(yīng)用于 CPU-GPU 異構(gòu)架構(gòu)。Kai Ma 等人[19]提出了一種 GPU-CPU 異構(gòu)系統(tǒng),在幾個標(biāo)準(zhǔn)測試集上達(dá)到了平均節(jié)能 21.04%的效果,取名為 GreenGPU。GreenGPU 的結(jié)構(gòu)設(shè)計(jì)如圖 1.2 所示。圖 1.2 GreenGPU 內(nèi)部結(jié)構(gòu)設(shè)計(jì)圖 1.2 的下半部分展示了典型的 GPU-CPU 異構(gòu)平臺邏輯結(jié)構(gòu)。CPU、主存儲器和 GPU 通過系統(tǒng)總線連接,其中 CPU 作為主設(shè)備工作,GPU 在這個系統(tǒng)中作為協(xié)同設(shè)備工作。雖然 GPU 是一個協(xié)處理器,但它可以直接訪問 DMA,以提供內(nèi)存容量。CPU 和 GPU 的架構(gòu)非常不同,與 CPU 相比,GPU 有很多流處理器(SP),并且這些流處理器會組成流式多處理器(SM)
圖 2.1 Nvidia Titan Xp GPU 架構(gòu)性負(fù)載 中實(shí)驗(yàn)使用的負(fù)載均來自于 Rodinia 測試集[26][27]、Polybench GP9][30]和 CUDA SDK Samples[31],還有 Parboil 測試集[32]也是
【參考文獻(xiàn)】:
期刊論文
[1]CPU-GPU異構(gòu)多核系統(tǒng)的動態(tài)任務(wù)調(diào)度算法[J]. 裴頌文,寧靜,張俊格. 計(jì)算機(jī)應(yīng)用研究. 2016(11)
本文編號:3386036
【文章來源】:華中科技大學(xué)湖北省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:65 頁
【學(xué)位級別】:碩士
【部分圖文】:
CPU與GPU結(jié)構(gòu)的區(qū)別CPU的指令執(zhí)行過程采用流水線技術(shù),先取指令,然后指令譯碼,最后是指令
并沒有將 GPU 視為系統(tǒng)的一部分,所以他們的方法不能直接應(yīng)用于 CPU-GPU 異構(gòu)架構(gòu)。Kai Ma 等人[19]提出了一種 GPU-CPU 異構(gòu)系統(tǒng),在幾個標(biāo)準(zhǔn)測試集上達(dá)到了平均節(jié)能 21.04%的效果,取名為 GreenGPU。GreenGPU 的結(jié)構(gòu)設(shè)計(jì)如圖 1.2 所示。圖 1.2 GreenGPU 內(nèi)部結(jié)構(gòu)設(shè)計(jì)圖 1.2 的下半部分展示了典型的 GPU-CPU 異構(gòu)平臺邏輯結(jié)構(gòu)。CPU、主存儲器和 GPU 通過系統(tǒng)總線連接,其中 CPU 作為主設(shè)備工作,GPU 在這個系統(tǒng)中作為協(xié)同設(shè)備工作。雖然 GPU 是一個協(xié)處理器,但它可以直接訪問 DMA,以提供內(nèi)存容量。CPU 和 GPU 的架構(gòu)非常不同,與 CPU 相比,GPU 有很多流處理器(SP),并且這些流處理器會組成流式多處理器(SM)
圖 2.1 Nvidia Titan Xp GPU 架構(gòu)性負(fù)載 中實(shí)驗(yàn)使用的負(fù)載均來自于 Rodinia 測試集[26][27]、Polybench GP9][30]和 CUDA SDK Samples[31],還有 Parboil 測試集[32]也是
【參考文獻(xiàn)】:
期刊論文
[1]CPU-GPU異構(gòu)多核系統(tǒng)的動態(tài)任務(wù)調(diào)度算法[J]. 裴頌文,寧靜,張俊格. 計(jì)算機(jī)應(yīng)用研究. 2016(11)
本文編號:3386036
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/3386036.html
最近更新
教材專著