TensorFlow平臺(tái)深度學(xué)習(xí)任務(wù)的資源調(diào)度問題研究
發(fā)布時(shí)間:2021-06-11 12:19
從AlphaGo與人類對弈以來,人工智能得到了極大的發(fā)展。從語音識(shí)別領(lǐng)域的語音助手,計(jì)算機(jī)視覺應(yīng)用中的人臉識(shí)別,自然語言處理的機(jī)器翻譯等多方面給我們帶來便利,這依靠的是深度學(xué)習(xí)技術(shù)。深度學(xué)習(xí)的過程需要進(jìn)行神經(jīng)網(wǎng)絡(luò)的構(gòu)建和訓(xùn)練數(shù)據(jù)特征的提取,借鑒人腦結(jié)構(gòu)特點(diǎn)通過將大規(guī)模的數(shù)據(jù)在多層神經(jīng)網(wǎng)絡(luò)上不斷的訓(xùn)練,從多層的訓(xùn)練中不斷得到抽象程度更高的數(shù)據(jù)特征,便于復(fù)雜問題的解決,帶給深度學(xué)習(xí)巨大的發(fā)展空間。各大計(jì)算機(jī)巨頭也紛紛開源其深度學(xué)習(xí)框架例如Caffe、Torch、MXNet。其中Google的Tensor Flow因其高可用,工作流程簡單,社區(qū)支持活躍而優(yōu)勢很大。深度學(xué)習(xí)投入應(yīng)用僅僅依靠TensorFlow來進(jìn)行模型訓(xùn)練是不夠的,應(yīng)用過程要考慮到數(shù)據(jù)的存儲(chǔ)與處理、資源的管理和調(diào)度、應(yīng)用的部署等方面。同時(shí)深度學(xué)習(xí)訓(xùn)練過程資源消耗大,更需要合理的調(diào)度。為此,需要借助云計(jì)算相關(guān)技術(shù)搭建云深度學(xué)習(xí)平臺(tái),通過虛擬化技術(shù)實(shí)現(xiàn)資源的統(tǒng)一管理,通過集成各種框架保證深度學(xué)習(xí)應(yīng)用的正常運(yùn)行。為了提升深度學(xué)習(xí)任務(wù)訓(xùn)練過程的資源利用率,本文從以下兩個(gè)方面展開,進(jìn)行了分析和論證:(1)改進(jìn)粒子群算法應(yīng)用到云深度學(xué)習(xí)平...
【文章來源】:電子科技大學(xué)四川省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:80 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
abstract
第一章 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.3 論文主要工作
1.4 論文組織結(jié)構(gòu)
第二章 相關(guān)技術(shù)介紹
2.1 深度學(xué)習(xí)相關(guān)技術(shù)
2.1.1 深度學(xué)習(xí)
2.1.2 TensorFlow深度學(xué)習(xí)框架
2.2 云計(jì)算相關(guān)技術(shù)
2.2.1 云計(jì)算架構(gòu)
2.2.2 虛擬化技術(shù)
2.2.3 云計(jì)算體系結(jié)構(gòu)和資源調(diào)度模型
2.3 典型的資源調(diào)度算法
2.4 本章小結(jié)
第三章 改進(jìn)粒子群算法
3.1 啟發(fā)式算法
3.2 粒子群算法
3.2.1 粒子群算法的數(shù)學(xué)描述
3.2.2 粒子群算法的實(shí)現(xiàn)
3.2.3 粒子群算法的參數(shù)與組成分析
3.2.4 粒子群算法的優(yōu)缺點(diǎn)
3.3 粒子群算法的改進(jìn)
3.4 改進(jìn)粒子群算法的性能分析
3.5 粒子群算法應(yīng)用資源調(diào)度的可行性分析
3.6 本章小結(jié)
第四章 資源調(diào)度策略分析與設(shè)計(jì)
4.1 TensorFlow深度學(xué)習(xí)任務(wù)分析
4.1.1 深度學(xué)習(xí)應(yīng)用思路
4.1.2 深度學(xué)習(xí)的主資源分析
4.1.3 深度學(xué)習(xí)任務(wù)的執(zhí)行時(shí)間預(yù)估
4.1.4 TensorFlow模型的保存與恢復(fù)
4.2 調(diào)度算法的性能評價(jià)指標(biāo)
4.3 云深度學(xué)習(xí)平臺(tái)的資源調(diào)度算法
4.3.1 調(diào)度問題描述
4.3.2 適應(yīng)度函數(shù)
4.3.3 粒子的編碼方式
4.3.4 粒子初始化過程
4.3.5 應(yīng)用算法的執(zhí)行流程
4.4 GPU服務(wù)器的資源調(diào)度策略
4.4.1 GPU的硬件指標(biāo)
4.4.2 TensorFlow使用GPU的方式
4.4.3 GPU服務(wù)器的資源調(diào)度策略
4.5 本章小結(jié)
第五章 實(shí)驗(yàn)驗(yàn)證與分析
5.1 CloudSim概述
5.1.1 CloudSim體系結(jié)構(gòu)
5.1.2 CloudSim系統(tǒng)的調(diào)度模型
5.1.3 仿真實(shí)驗(yàn)的實(shí)現(xiàn)過程
5.2 改進(jìn)后的粒子群算法在云平臺(tái)資源調(diào)度的應(yīng)用
5.2.1 實(shí)驗(yàn)環(huán)境
5.2.2 實(shí)驗(yàn)結(jié)果與分析
5.3 多卡多任務(wù)下GPU資源調(diào)度策略
5.3.1 實(shí)驗(yàn)環(huán)境
5.3.2 實(shí)驗(yàn)結(jié)果分析
5.4 本章小結(jié)
第六章 總結(jié)與展望
6.1 總結(jié)
6.2 展望
致謝
參考文獻(xiàn)
【參考文獻(xiàn)】:
期刊論文
[1]大數(shù)據(jù)與云計(jì)算[J]. 何清. 科技促進(jìn)發(fā)展. 2014(01)
[2]云計(jì)算:體系架構(gòu)與關(guān)鍵技術(shù)[J]. 羅軍舟,金嘉暉,宋愛波,東方. 通信學(xué)報(bào). 2011(07)
[3]慣性權(quán)值對粒子群算法收斂性的影響及改進(jìn)[J]. 黃翀鵬,熊偉麗,徐保國. 計(jì)算機(jī)工程. 2008(12)
[4]蟻群算法理論及應(yīng)用研究的進(jìn)展[J]. 段海濱,王道波,朱家強(qiáng),黃向華. 控制與決策. 2004(12)
[5]具有變異特征的蟻群算法[J]. 吳慶洪,張紀(jì)會(huì),徐心和. 計(jì)算機(jī)研究與發(fā)展. 1999(10)
碩士論文
[1]基于多GPU的多層神經(jīng)網(wǎng)絡(luò)并行加速訓(xùn)練算法的研究[D]. 畢占甲.哈爾濱工業(yè)大學(xué) 2015
本文編號(hào):3224522
【文章來源】:電子科技大學(xué)四川省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:80 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
abstract
第一章 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.3 論文主要工作
1.4 論文組織結(jié)構(gòu)
第二章 相關(guān)技術(shù)介紹
2.1 深度學(xué)習(xí)相關(guān)技術(shù)
2.1.1 深度學(xué)習(xí)
2.1.2 TensorFlow深度學(xué)習(xí)框架
2.2 云計(jì)算相關(guān)技術(shù)
2.2.1 云計(jì)算架構(gòu)
2.2.2 虛擬化技術(shù)
2.2.3 云計(jì)算體系結(jié)構(gòu)和資源調(diào)度模型
2.3 典型的資源調(diào)度算法
2.4 本章小結(jié)
第三章 改進(jìn)粒子群算法
3.1 啟發(fā)式算法
3.2 粒子群算法
3.2.1 粒子群算法的數(shù)學(xué)描述
3.2.2 粒子群算法的實(shí)現(xiàn)
3.2.3 粒子群算法的參數(shù)與組成分析
3.2.4 粒子群算法的優(yōu)缺點(diǎn)
3.3 粒子群算法的改進(jìn)
3.4 改進(jìn)粒子群算法的性能分析
3.5 粒子群算法應(yīng)用資源調(diào)度的可行性分析
3.6 本章小結(jié)
第四章 資源調(diào)度策略分析與設(shè)計(jì)
4.1 TensorFlow深度學(xué)習(xí)任務(wù)分析
4.1.1 深度學(xué)習(xí)應(yīng)用思路
4.1.2 深度學(xué)習(xí)的主資源分析
4.1.3 深度學(xué)習(xí)任務(wù)的執(zhí)行時(shí)間預(yù)估
4.1.4 TensorFlow模型的保存與恢復(fù)
4.2 調(diào)度算法的性能評價(jià)指標(biāo)
4.3 云深度學(xué)習(xí)平臺(tái)的資源調(diào)度算法
4.3.1 調(diào)度問題描述
4.3.2 適應(yīng)度函數(shù)
4.3.3 粒子的編碼方式
4.3.4 粒子初始化過程
4.3.5 應(yīng)用算法的執(zhí)行流程
4.4 GPU服務(wù)器的資源調(diào)度策略
4.4.1 GPU的硬件指標(biāo)
4.4.2 TensorFlow使用GPU的方式
4.4.3 GPU服務(wù)器的資源調(diào)度策略
4.5 本章小結(jié)
第五章 實(shí)驗(yàn)驗(yàn)證與分析
5.1 CloudSim概述
5.1.1 CloudSim體系結(jié)構(gòu)
5.1.2 CloudSim系統(tǒng)的調(diào)度模型
5.1.3 仿真實(shí)驗(yàn)的實(shí)現(xiàn)過程
5.2 改進(jìn)后的粒子群算法在云平臺(tái)資源調(diào)度的應(yīng)用
5.2.1 實(shí)驗(yàn)環(huán)境
5.2.2 實(shí)驗(yàn)結(jié)果與分析
5.3 多卡多任務(wù)下GPU資源調(diào)度策略
5.3.1 實(shí)驗(yàn)環(huán)境
5.3.2 實(shí)驗(yàn)結(jié)果分析
5.4 本章小結(jié)
第六章 總結(jié)與展望
6.1 總結(jié)
6.2 展望
致謝
參考文獻(xiàn)
【參考文獻(xiàn)】:
期刊論文
[1]大數(shù)據(jù)與云計(jì)算[J]. 何清. 科技促進(jìn)發(fā)展. 2014(01)
[2]云計(jì)算:體系架構(gòu)與關(guān)鍵技術(shù)[J]. 羅軍舟,金嘉暉,宋愛波,東方. 通信學(xué)報(bào). 2011(07)
[3]慣性權(quán)值對粒子群算法收斂性的影響及改進(jìn)[J]. 黃翀鵬,熊偉麗,徐保國. 計(jì)算機(jī)工程. 2008(12)
[4]蟻群算法理論及應(yīng)用研究的進(jìn)展[J]. 段海濱,王道波,朱家強(qiáng),黃向華. 控制與決策. 2004(12)
[5]具有變異特征的蟻群算法[J]. 吳慶洪,張紀(jì)會(huì),徐心和. 計(jì)算機(jī)研究與發(fā)展. 1999(10)
碩士論文
[1]基于多GPU的多層神經(jīng)網(wǎng)絡(luò)并行加速訓(xùn)練算法的研究[D]. 畢占甲.哈爾濱工業(yè)大學(xué) 2015
本文編號(hào):3224522
本文鏈接:http://sikaile.net/guanlilunwen/shequguanli/3224522.html
最近更新
教材專著