異構(gòu)分布式集群的視頻轉(zhuǎn)碼與優(yōu)化
發(fā)布時(shí)間:2021-07-07 10:14
視頻正不斷以更多的表示格式,更多的設(shè)備類型和多種多樣的網(wǎng)絡(luò)環(huán)境進(jìn)行制作和使用。視頻轉(zhuǎn)碼是將一種視頻編碼格式轉(zhuǎn)換為另一種視頻編碼格式的過程。然而,大多數(shù)時(shí)候,轉(zhuǎn)碼是一個(gè)計(jì)算密集型的過程。人們常常利用分布式計(jì)算技術(shù)來高效利用多機(jī)器,多核CPU和分布式計(jì)算資源在特定設(shè)施,家庭或?qū)S梅植际交A(chǔ)架構(gòu)中可用的計(jì)算資源來處理復(fù)雜任務(wù)。在分布式集群中,視頻被分割成多個(gè)分片,在多個(gè)機(jī)器上實(shí)現(xiàn)并行轉(zhuǎn)碼。Hadoop是分布式計(jì)算技術(shù)中的一個(gè)非常流行的編程框架,為分布式系統(tǒng)提供了高可擴(kuò)展性,滿足了視頻轉(zhuǎn)碼的高可擴(kuò)展性需求。在分布式集群中,機(jī)器之間的計(jì)算能力不一定會(huì)相同,計(jì)算能力的異構(gòu)性是分布式系統(tǒng)中非常普遍的特性。本文從任務(wù)調(diào)度和系統(tǒng)架構(gòu)的角度研究了異構(gòu)分布式集群的視頻轉(zhuǎn)碼加速問題。主要的工作和創(chuàng)新點(diǎn)如下:(1)異構(gòu)集群的負(fù)載不均衡使得集群的計(jì)算資源利用不合理,導(dǎo)致視頻轉(zhuǎn)碼作業(yè)的執(zhí)行時(shí)間遠(yuǎn)高于理想值。因此,一個(gè)負(fù)載均衡的任務(wù)調(diào)度算法能夠?qū)崿F(xiàn)分布式視頻轉(zhuǎn)碼加速。Max-MCT和MLFT任務(wù)調(diào)度算法的模型沒有考慮視頻分片的傳輸開銷,使得任務(wù)調(diào)度模型不夠精確,PLTS算法考慮了分片傳輸開銷但是沒有平衡分片轉(zhuǎn)碼時(shí)間和...
【文章來源】:湖南大學(xué)湖南省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:72 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
016.12-2017.12網(wǎng)絡(luò)視頻/手機(jī)網(wǎng)絡(luò)視頻用戶規(guī)模及使用率
圖 2. 13 Alluxio 在大數(shù)據(jù)技術(shù)中的層次工作節(jié)點(diǎn)1主節(jié)點(diǎn)底層文件系統(tǒng)元數(shù)據(jù)修改/查詢節(jié)點(diǎn)狀態(tài)數(shù)據(jù)I/OMemSSDHDDNode1工作節(jié)點(diǎn)2MemSSDHDD工作節(jié)點(diǎn)3MemSSDHDD客戶端Node2 Node3
也避免了一次磁盤讀寫。通過減少兩次分片的上傳操作數(shù),加速了視頻轉(zhuǎn)碼流程。 Alluxio 的 Hadoop 視頻轉(zhuǎn)碼系統(tǒng)設(shè)計(jì)adoop 視頻轉(zhuǎn)碼系統(tǒng)中,設(shè)計(jì)的主要思路是,系統(tǒng)環(huán)境搭mat, Mapper 階段設(shè)計(jì), Reducer 階段設(shè)計(jì)。統(tǒng)環(huán)境搭建的 Hadoop 視頻轉(zhuǎn)碼系統(tǒng)的環(huán)境包括 FFmpeg 環(huán)境、Hado文件系統(tǒng)搭建。FFmpeg 用于視頻分割、視頻分片轉(zhuǎn)碼和轉(zhuǎn)碼并。Hadoop 作為分布式集群的基礎(chǔ)框架,提供了分布式分 布 式 計(jì) 算 框 架 MapReduce、資 源 管理 和 作 業(yè) 調(diào) 度 平 臺(tái)作為 HDFS 的替代品,為視頻轉(zhuǎn)碼系統(tǒng)提供內(nèi)存級(jí)別視頻分片
【參考文獻(xiàn)】:
期刊論文
[1]Hadoop云計(jì)算平臺(tái)在視頻轉(zhuǎn)碼上的應(yīng)用[J]. 張浩,孫淑霞. 電腦與電信. 2011(12)
[2]分布式系統(tǒng)Hadoop平臺(tái)的視頻轉(zhuǎn)碼[J]. 楊帆,沈奇威. 計(jì)算機(jī)系統(tǒng)應(yīng)用. 2011(11)
[3]視頻轉(zhuǎn)碼技術(shù)研究[J]. 林杰聰,黃祥林,楊占昕. 中國傳媒大學(xué)學(xué)報(bào)(自然科學(xué)版). 2006(03)
碩士論文
[1]基于Hadoop的離線視頻數(shù)據(jù)處理技術(shù)研究與應(yīng)用[D]. 高東海.北京郵電大學(xué) 2014
本文編號(hào):3269448
【文章來源】:湖南大學(xué)湖南省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:72 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
016.12-2017.12網(wǎng)絡(luò)視頻/手機(jī)網(wǎng)絡(luò)視頻用戶規(guī)模及使用率
圖 2. 13 Alluxio 在大數(shù)據(jù)技術(shù)中的層次工作節(jié)點(diǎn)1主節(jié)點(diǎn)底層文件系統(tǒng)元數(shù)據(jù)修改/查詢節(jié)點(diǎn)狀態(tài)數(shù)據(jù)I/OMemSSDHDDNode1工作節(jié)點(diǎn)2MemSSDHDD工作節(jié)點(diǎn)3MemSSDHDD客戶端Node2 Node3
也避免了一次磁盤讀寫。通過減少兩次分片的上傳操作數(shù),加速了視頻轉(zhuǎn)碼流程。 Alluxio 的 Hadoop 視頻轉(zhuǎn)碼系統(tǒng)設(shè)計(jì)adoop 視頻轉(zhuǎn)碼系統(tǒng)中,設(shè)計(jì)的主要思路是,系統(tǒng)環(huán)境搭mat, Mapper 階段設(shè)計(jì), Reducer 階段設(shè)計(jì)。統(tǒng)環(huán)境搭建的 Hadoop 視頻轉(zhuǎn)碼系統(tǒng)的環(huán)境包括 FFmpeg 環(huán)境、Hado文件系統(tǒng)搭建。FFmpeg 用于視頻分割、視頻分片轉(zhuǎn)碼和轉(zhuǎn)碼并。Hadoop 作為分布式集群的基礎(chǔ)框架,提供了分布式分 布 式 計(jì) 算 框 架 MapReduce、資 源 管理 和 作 業(yè) 調(diào) 度 平 臺(tái)作為 HDFS 的替代品,為視頻轉(zhuǎn)碼系統(tǒng)提供內(nèi)存級(jí)別視頻分片
【參考文獻(xiàn)】:
期刊論文
[1]Hadoop云計(jì)算平臺(tái)在視頻轉(zhuǎn)碼上的應(yīng)用[J]. 張浩,孫淑霞. 電腦與電信. 2011(12)
[2]分布式系統(tǒng)Hadoop平臺(tái)的視頻轉(zhuǎn)碼[J]. 楊帆,沈奇威. 計(jì)算機(jī)系統(tǒng)應(yīng)用. 2011(11)
[3]視頻轉(zhuǎn)碼技術(shù)研究[J]. 林杰聰,黃祥林,楊占昕. 中國傳媒大學(xué)學(xué)報(bào)(自然科學(xué)版). 2006(03)
碩士論文
[1]基于Hadoop的離線視頻數(shù)據(jù)處理技術(shù)研究與應(yīng)用[D]. 高東海.北京郵電大學(xué) 2014
本文編號(hào):3269448
本文鏈接:http://sikaile.net/kejilunwen/wltx/3269448.html
最近更新
教材專著