人工智能技術(shù)的長足發(fā)展對于云計算的算力提出了更高的要求,云服務(wù)提供商在數(shù)據(jù)中心內(nèi)添置了擁有大量并行計算單元的加速器,這些加速器需要與已有的虛擬化平臺相結(jié)合以進行計算資源的劃分.當(dāng)前主流的加速器虛擬化方案是通過PCI透傳的方式,但是該方式不支持細(xì)粒度的資源劃分;部分特定型號的加速器還支持了時分復(fù)用的方案,通過硬件與虛擬機監(jiān)視器配合劃分計算資源和時間片,但是該方案可移植性差,對于任何新型加速器的適配都要重新開發(fā),固定的資源劃分策略也導(dǎo)致可擴展性有限;另有基于API轉(zhuǎn)發(fā)的方案,通過分離式驅(qū)動的模式將虛擬機的請求轉(zhuǎn)發(fā)給后端驅(qū)動處理,而轉(zhuǎn)發(fā)通信的過程中存在著性能瓶頸.提出了Wormhole,一種基于C/S架構(gòu)的、支持跨虛擬機快速代理執(zhí)行的加速器虛擬化框架,旨在為上層用戶提供高效、透明的加速器API轉(zhuǎn)發(fā)虛擬化的同時保障多用戶間的強隔離性.該框架利用硬件虛擬化技術(shù),允許CPU控制流在虛擬機間快速切換而不觸發(fā)任何下陷,大幅降低了虛擬機間通信帶來的虛擬化性能開銷.實驗結(jié)果表明,Wormhole的原型系統(tǒng)相較于具有代表性的開源虛擬化方案Gvirtu S,在經(jīng)典模型的訓(xùn)練測試中能夠有高達(dá)5倍的性能提升.

【文章頁數(shù)】：19 頁


本文編號：3873806