發(fā)布時間：2024-03-12 04:51

　　為了延緩摩爾定律的終結(jié),人們開始從半導(dǎo)體技術(shù)以外的方向來提升芯片的性能。在這些新方向中,堆疊技術(shù)和異構(gòu)眾核加速技術(shù)已經(jīng)逐漸被認(rèn)可,并得到了廣泛的應(yīng)用。堆疊異構(gòu)系統(tǒng)如今已成為數(shù)據(jù)中心重要的硬件基礎(chǔ),隨著云計(jì)算的不斷發(fā)展和廣泛應(yīng)用,堆疊異構(gòu)系統(tǒng)開始為云計(jì)算提供強(qiáng)大的計(jì)算加速能力。然而,云計(jì)算的軟硬件資源以服務(wù)的形式同時提供給大量租戶,而多租戶之間完全隔離。用戶難以從純軟件角度在云環(huán)境中針對硬件特征進(jìn)行性能優(yōu)化。因此,應(yīng)用透明的性能優(yōu)化策略顯得尤為重要。本文針對堆疊異構(gòu)系統(tǒng)中的內(nèi)存超額配置造成的性能驟降問題、多任務(wù)搶占的上下文切換高開銷問題和堆疊互連網(wǎng)絡(luò)結(jié)構(gòu)的負(fù)載不均衡問題,提出了一系列應(yīng)用透明的策略,在不修改應(yīng)用程序代碼的前提下,高效地優(yōu)化應(yīng)用程序的性能。本文的主要研究成果及創(chuàng)新點(diǎn)如下:(1)提出了一種內(nèi)存超額配置管理框架如今云服務(wù)提供商往往將超出其硬件資源的服務(wù)提供給用戶,以提高資源利用率。但是,對于一些對資源需求較高的用戶(如深度學(xué)習(xí)訓(xùn)練),很容易出現(xiàn)內(nèi)存緊缺的問題。當(dāng)代GPU已經(jīng)能夠支持內(nèi)存超額配置,但是我們實(shí)驗(yàn)發(fā)現(xiàn)在內(nèi)存超額配置的情況下,應(yīng)用程序遭受了嚴(yán)重的性能損失,亟需一種應(yīng)用透...

【文章頁數(shù)】：130 頁

【學(xué)位級別】：博士

【部分圖文】：

圖1.1研究框架概述

本文解決的三大問題主要位于堆疊異構(gòu)系統(tǒng)的應(yīng)用調(diào)度、網(wǎng)絡(luò)和存儲三部分。這三部分相互獨(dú)立,但并不沖突。這些應(yīng)用透明策略的共同應(yīng)用,有助于緩解堆疊異構(gòu)系統(tǒng)在不同層次的瓶頸,提升堆疊異構(gòu)系統(tǒng)的性能。在數(shù)據(jù)中心系統(tǒng)中,有助于優(yōu)化多租戶下的系統(tǒng)性能,同時對程序員的要求較低。1.4論文組織結(jié)....

圖2.12.5維堆疊集成電路

三維堆疊集成技術(shù)可以將存儲器直接堆疊在處理器晶圓之上。不同于三維堆疊集成技術(shù),如圖2.1所示,2.5維堆疊策略的解決方案則是分別把存儲器和處理器相鄰地堆疊在硅中介層上,通過硅中介層的連線進(jìn)行通信�；诠柚薪閷拥�2.5維堆疊技術(shù)雖然是一代進(jìn)化技術(shù),但其能夠在存儲帶寬和容量、熱問題以....

圖2.2CPU和GPU典型結(jié)構(gòu)的抽象圖

現(xiàn)代GPU由許多計(jì)算核組成。NVIDIA將這些計(jì)算核心稱為流式多處理器(StreamMultiprocessor,SM),AMD將其稱為計(jì)算單元(ComputeUnit,CU)。每個GPU計(jì)算核執(zhí)行與已經(jīng)啟動以在GPU上運(yùn)行的內(nèi)核函數(shù)相對應(yīng)的單指令多線程(SIMT)程序。GP....

圖2.3C代碼版本的SAXPY計(jì)算

圖2.4則提供了相應(yīng)的SAXPY的CUDA版本,可以在CPU和GPU之間分別執(zhí)行相應(yīng)部分的代碼。與傳統(tǒng)的C或C++應(yīng)用程序類似,圖2.4中的代碼通過在CPU上運(yùn)行main()函數(shù)開始執(zhí)行。我們將重點(diǎn)放在GPU部分執(zhí)行的代碼。在GPU上執(zhí)行的線程是由函數(shù)指定的計(jì)算內(nèi)核函數(shù)(kern....

本文編號：3926570