基于Hadoop的分布式視頻處理
本文選題:視頻處理 + Hadoop ; 參考:《科研信息化技術(shù)與應(yīng)用》2016年04期
【摘要】:中國(guó)科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心與青海湖保護(hù)區(qū)管理局合作,共同建設(shè)了青海湖野外網(wǎng)絡(luò)視頻監(jiān)控。如何高效地處理每天產(chǎn)出的超過(guò)100GB的視頻數(shù)據(jù)成為了一個(gè)難題,F(xiàn)在的視頻處理系統(tǒng)采用計(jì)算和存儲(chǔ)相分離的架構(gòu),這需要配置較高的專門(mén)服務(wù)器進(jìn)行支撐,本文基于廉價(jià)擴(kuò)展性能較好的Hadoop平臺(tái)對(duì)視頻處理做出了分布式的實(shí)現(xiàn),并對(duì)單個(gè)視頻文件做出了分布式轉(zhuǎn)碼的實(shí)現(xiàn)。同時(shí),本文將基于Hadoop的分布式視頻處理的實(shí)現(xiàn)和基于HTCondor的分布式視頻的批處理實(shí)現(xiàn)進(jìn)行了對(duì)比,實(shí)驗(yàn)證明,在不損失視頻處理效率的條件下,基于Hadoop的分布式視頻處理的實(shí)現(xiàn)擁有分布式文件系統(tǒng)支撐、完善的任務(wù)監(jiān)控等優(yōu)勢(shì)。
[Abstract]:The computer Network Information Center of the Chinese Academy of Sciences and the Qinghai Lake Reserve Administration have jointly built the Qinghai Lake Field Network Video Surveillance. How to efficiently deal with the daily output of more than 100GB video data has become a difficult problem. The current video processing system uses a separate architecture of computing and storage, which needs to be supported by a special server with high configuration. This paper makes a distributed implementation of video processing based on the Hadoop platform, which has good performance of cheap expansion. A distributed transcoding implementation for a single video file is presented. At the same time, the realization of distributed video processing based on Hadoop and batch processing of distributed video based on HTCondor are compared. The implementation of distributed video processing based on Hadoop has the advantages of distributed file system support, perfect task monitoring and so on.
【作者單位】: 中國(guó)科學(xué)院大學(xué);中國(guó)科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心;中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心;
【基金】:國(guó)家自然科學(xué)基金(61361126011)
【分類號(hào)】:TP391.41
【參考文獻(xiàn)】
相關(guān)期刊論文 前2條
1 謝慕哲;羅澤;閻保平;;視頻鳥(niǎo)類行為研究中基于尺度不變特征變換的形態(tài)分類算法[J];科研信息化技術(shù)與應(yīng)用;2014年03期
2 郭紹忠,黃永忠,余麗瓊;機(jī)群作業(yè)管理系統(tǒng)Condor綜述[J];信息工程大學(xué)學(xué)報(bào);2004年01期
相關(guān)碩士學(xué)位論文 前1條
1 高東海;基于Hadoop的離線視頻數(shù)據(jù)處理技術(shù)研究與應(yīng)用[D];北京郵電大學(xué);2014年
【共引文獻(xiàn)】
相關(guān)期刊論文 前5條
1 卞濤;羅澤;馬永征;;基于Hadoop的分布式視頻處理[J];科研信息化技術(shù)與應(yīng)用;2016年04期
2 鄒杰;許濤;林茂;李鐵;雷宏聲;;基于PBS的勘探數(shù)據(jù)處理作業(yè)管理[J];計(jì)算機(jī)與現(xiàn)代化;2014年02期
3 李媛;張建林;張銳;宋鳳珍;;集群作業(yè)管理系統(tǒng)SGE及其應(yīng)用[J];計(jì)算機(jī)工程與設(shè)計(jì);2009年12期
4 段新華;王宏勇;丁汨;;集群作業(yè)管理系統(tǒng)的關(guān)鍵技術(shù)分析及比較[J];計(jì)算機(jī)技術(shù)與發(fā)展;2009年02期
5 歐陽(yáng)婭;孫瑞志;楊璐;;基于Condor的密集數(shù)據(jù)處理系統(tǒng)的實(shí)現(xiàn)[J];計(jì)算機(jī)應(yīng)用;2007年S2期
相關(guān)碩士學(xué)位論文 前1條
1 羅新高;基于SimHash的海量視頻檢索研究[D];湘潭大學(xué);2015年
【二級(jí)參考文獻(xiàn)】
相關(guān)期刊論文 前4條
1 賈君霞;王小鵬;任恩恩;;基于全局特征的圖像檢索技術(shù)[J];自動(dòng)化與儀器儀表;2011年01期
2 袁方;周志勇;宋鑫;;初始聚類中心優(yōu)化的k-means算法[J];計(jì)算機(jī)工程;2007年03期
3 趙文彬;張艷寧;;角點(diǎn)檢測(cè)技術(shù)綜述[J];計(jì)算機(jī)應(yīng)用研究;2006年10期
4 李榮陸,胡運(yùn)發(fā);基于密度的kNN文本分類器訓(xùn)練樣本裁剪方法[J];計(jì)算機(jī)研究與發(fā)展;2004年04期
相關(guān)碩士學(xué)位論文 前1條
1 郭奕希;基于Hadoop的視頻轉(zhuǎn)碼系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[D];華中科技大學(xué);2011年
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 姜丹;張素卿;;視頻處理在智能交通中的應(yīng)用現(xiàn)狀及發(fā)展趨勢(shì)[J];電視技術(shù);2013年S2期
2 王欣;視頻處理三劍客[Pinnacle MovieBox DV/Dazzle Digital Video Creator150/SuperSonic夢(mèng)幻制作大師][J];個(gè)人電腦;2003年07期
3 郭建偉;;視頻處理講技巧 玩出精彩咱有招[J];電腦愛(ài)好者;2012年23期
4 高翔;李琦;;視頻處理與制作[J];科技信息(學(xué)術(shù)研究);2007年05期
5 李科;肖軍;;程序優(yōu)化在視頻處理中的應(yīng)用[J];中國(guó)新技術(shù)新產(chǎn)品;2011年10期
6 許保庚;;彩色攝像技術(shù)連載(六) 第六章 視頻處理電路(一)[J];電視技術(shù);1984年02期
7 畢偉;彭宗舉;;一種新的深度視頻處理方法[J];寧波大學(xué)學(xué)報(bào)(理工版);2013年02期
8 ;優(yōu)秀的家庭視頻處理解決方案[J];電腦采購(gòu)周刊;1999年50期
9 金良磊;視頻處理我能行——Windows movie maker實(shí)戰(zhàn)技巧[J];電腦知識(shí)與技術(shù);2005年19期
10 ;PrimeTime TV二合一卡[J];多媒體世界;1995年04期
相關(guān)會(huì)議論文 前4條
1 于生全;張榮輝;姜海濱;;基于空間應(yīng)用的多通道視頻處理電路研究[A];第二十三屆全國(guó)空間探測(cè)學(xué)術(shù)交流會(huì)論文摘要集[C];2010年
2 趙文義;;淺談多媒體音頻視頻處理實(shí)驗(yàn)設(shè)計(jì)[A];大珩先生九十華誕文集暨中國(guó)光學(xué)學(xué)會(huì)2004年學(xué)術(shù)大會(huì)論文集[C];2004年
3 李農(nóng);;超高清視頻處理及拼接系統(tǒng)[A];2010全國(guó)LED顯示應(yīng)用技術(shù)交流暨產(chǎn)業(yè)發(fā)展研討會(huì)文集[C];2010年
4 陳富權(quán);;意大利VILLA醫(yī)用X線電視視頻處理電路分析與檢修[A];中華醫(yī)學(xué)會(huì)醫(yī)學(xué)工程學(xué)分會(huì)第一次醫(yī)學(xué)影像設(shè)備應(yīng)用技術(shù)研討會(huì)論文集[C];1999年
相關(guān)重要報(bào)紙文章 前10條
1 江蘇 葉洪濤 徐進(jìn);電視發(fā)射機(jī)視頻處理電路原理及維修[N];電子報(bào);2009年
2 ericwarn;七嘴八舌話裝機(jī)[N];中國(guó)電腦教育報(bào);2004年
3 廣西 趙俊明;七喜BL2015E彩顯視頻處理電路維修資料[N];電子報(bào);2007年
4 梁紅兵;康佳視訊:進(jìn)軍LED燈飾及背光源行業(yè)[N];中國(guó)電子報(bào);2008年
5 ;最佳組合[N];電腦報(bào);2005年
6 本報(bào)記者 馮健;3D視頻處理:FPGA唱主角 ASIC急需標(biāo)準(zhǔn)[N];中國(guó)電子報(bào);2010年
7 計(jì)算機(jī)世界實(shí)驗(yàn)室 吳挺;AMD的新武器[N];計(jì)算機(jī)世界;2009年
8 趙建;三款實(shí)用的視頻處理工具[N];中國(guó)電腦教育報(bào);2004年
9 廣州 秦福忠;視頻處理利器[N];電子報(bào);2003年
10 愛(ài)測(cè)機(jī);來(lái)自ARM的VPU與DPU[N];電腦報(bào);2014年
相關(guān)博士學(xué)位論文 前3條
1 景巍;粒子濾波理論及其在視頻處理中的應(yīng)用研究[D];東北大學(xué);2014年
2 劉坤杰;可配置可擴(kuò)展媒體處理器設(shè)計(jì)[D];浙江大學(xué);2007年
3 胡宏宇;基于視頻處理的交通事件識(shí)別方法研究[D];吉林大學(xué);2010年
相關(guān)碩士學(xué)位論文 前10條
1 黃紹榮;視頻處理功能在線可配置的嵌入式攝像頭軟件系統(tǒng)設(shè)計(jì)[D];華南理工大學(xué);2015年
2 ,
本文編號(hào):1967140
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/1967140.html