基于Spark Streaming的視頻/圖像流處理與新的性能評估方法
發(fā)布時間:2021-06-05 23:05
智能視頻監(jiān)控技術(shù)在公共安全、交通管理、智慧城市等方面有著廣泛的運用前景,需求日益增長。隨著攝像頭安裝的數(shù)量越來越多,采集的圖像數(shù)據(jù)量越來越大,靠單臺計算機(jī)處理已經(jīng)遠(yuǎn)遠(yuǎn)不能滿足需求了。分布式計算的興起與發(fā)展為解決大規(guī)模的數(shù)據(jù)處理問題提供了很好的途徑。使用一種基于Spark Streaming的視頻/圖像流處理的測試平臺,闡述了平臺的構(gòu)成和工作流程,深入研究各個參數(shù)對集群性能的影響,創(chuàng)新性地提出了CPU時間占用率作為性能評估指標(biāo),與總的處理時間結(jié)合,更為全面反映集群性能和資源利用率。
【文章來源】:計算機(jī)工程與科學(xué). 2015,37(11)北大核心CSCD
【文章頁數(shù)】:6 頁
【部分圖文】:
圖1測試平臺的組成Figure1Compositionofthetestingplatforms
OpenCV庫,圖像信息需要進(jìn)一步解碼和轉(zhuǎn)換得到OpenCV對應(yīng)的Mat類型再進(jìn)行處理。整個數(shù)據(jù)的序列化以及傳輸采用的是byte[]基本類型數(shù)組。本文采用圖像的HOG(HistogramofOrien-tedGradient)[8]特征檢測作為測試,HOG特征已經(jīng)被廣泛運用在圖像識別中,特別是在行人檢測方面獲得了很大的成功。如圖2所示為HOG特征行人檢測的效果圖,方框為檢測的結(jié)果。Figure2ResultoftheHOGdetection圖2HOG特征檢測效果圖2.3數(shù)據(jù)存儲數(shù)據(jù)存儲采用多種存儲結(jié)合的方式,針對不同的應(yīng)用采取不同的存儲方式,主要有本地存儲、Hadoop分布式存儲HDFS和分布式數(shù)據(jù)庫HBase等。如網(wǎng)頁應(yīng)用可以將結(jié)果返回集群的Driver的本地存儲,這樣可以快速獲取結(jié)果。2.4數(shù)據(jù)包設(shè)計數(shù)據(jù)包的組織形式如圖3所示。Figure3Formatofdatapackets圖3數(shù)據(jù)包的格式(1)Block(0):數(shù)據(jù)包頭部,整型,四個字節(jié),記錄后面一個數(shù)據(jù)的總長度;(2)Block(2k+1):整型,四個字節(jié),記錄Block(2k+2)的字節(jié)長度(k=0,1,2,…,n);(3)Block(2k+2):任意長的字節(jié)數(shù)組,是真正的數(shù)據(jù)(k=0,1,2,…,n);(4)Block(2k+3):CRC校驗,一個字節(jié)。2.5RDD中的數(shù)據(jù)包數(shù)據(jù)包在RDD(ResilientDistributedData-sets)中的抽象如圖4所示。在Receive
別中,特別是在行人檢測方面獲得了很大的成功。如圖2所示為HOG特征行人檢測的效果圖,方框為檢測的結(jié)果。Figure2ResultoftheHOGdetection圖2HOG特征檢測效果圖2.3數(shù)據(jù)存儲數(shù)據(jù)存儲采用多種存儲結(jié)合的方式,針對不同的應(yīng)用采取不同的存儲方式,主要有本地存儲、Hadoop分布式存儲HDFS和分布式數(shù)據(jù)庫HBase等。如網(wǎng)頁應(yīng)用可以將結(jié)果返回集群的Driver的本地存儲,這樣可以快速獲取結(jié)果。2.4數(shù)據(jù)包設(shè)計數(shù)據(jù)包的組織形式如圖3所示。Figure3Formatofdatapackets圖3數(shù)據(jù)包的格式(1)Block(0):數(shù)據(jù)包頭部,整型,四個字節(jié),記錄后面一個數(shù)據(jù)的總長度;(2)Block(2k+1):整型,四個字節(jié),記錄Block(2k+2)的字節(jié)長度(k=0,1,2,…,n);(3)Block(2k+2):任意長的字節(jié)數(shù)組,是真正的數(shù)據(jù)(k=0,1,2,…,n);(4)Block(2k+3):CRC校驗,一個字節(jié)。2.5RDD中的數(shù)據(jù)包數(shù)據(jù)包在RDD(ResilientDistributedData-sets)中的抽象如圖4所示。在Receiver接收到數(shù)據(jù)包之后會保存到ArrayBuffer中,ArrayBuffer最終會被包裝成ReceivedBlock并保存在Block-Manager中。在提交Job的時候這些Received-Block會抽象成RDD,每個ReceivedBlock對應(yīng)一個partition并
【參考文獻(xiàn)】:
期刊論文
[1]智能視頻監(jiān)控技術(shù)綜述[J]. 黃凱奇,陳曉棠,康運鋒,譚鐵牛. 計算機(jī)學(xué)報. 2015(06)
本文編號:3213092
【文章來源】:計算機(jī)工程與科學(xué). 2015,37(11)北大核心CSCD
【文章頁數(shù)】:6 頁
【部分圖文】:
圖1測試平臺的組成Figure1Compositionofthetestingplatforms
OpenCV庫,圖像信息需要進(jìn)一步解碼和轉(zhuǎn)換得到OpenCV對應(yīng)的Mat類型再進(jìn)行處理。整個數(shù)據(jù)的序列化以及傳輸采用的是byte[]基本類型數(shù)組。本文采用圖像的HOG(HistogramofOrien-tedGradient)[8]特征檢測作為測試,HOG特征已經(jīng)被廣泛運用在圖像識別中,特別是在行人檢測方面獲得了很大的成功。如圖2所示為HOG特征行人檢測的效果圖,方框為檢測的結(jié)果。Figure2ResultoftheHOGdetection圖2HOG特征檢測效果圖2.3數(shù)據(jù)存儲數(shù)據(jù)存儲采用多種存儲結(jié)合的方式,針對不同的應(yīng)用采取不同的存儲方式,主要有本地存儲、Hadoop分布式存儲HDFS和分布式數(shù)據(jù)庫HBase等。如網(wǎng)頁應(yīng)用可以將結(jié)果返回集群的Driver的本地存儲,這樣可以快速獲取結(jié)果。2.4數(shù)據(jù)包設(shè)計數(shù)據(jù)包的組織形式如圖3所示。Figure3Formatofdatapackets圖3數(shù)據(jù)包的格式(1)Block(0):數(shù)據(jù)包頭部,整型,四個字節(jié),記錄后面一個數(shù)據(jù)的總長度;(2)Block(2k+1):整型,四個字節(jié),記錄Block(2k+2)的字節(jié)長度(k=0,1,2,…,n);(3)Block(2k+2):任意長的字節(jié)數(shù)組,是真正的數(shù)據(jù)(k=0,1,2,…,n);(4)Block(2k+3):CRC校驗,一個字節(jié)。2.5RDD中的數(shù)據(jù)包數(shù)據(jù)包在RDD(ResilientDistributedData-sets)中的抽象如圖4所示。在Receive
別中,特別是在行人檢測方面獲得了很大的成功。如圖2所示為HOG特征行人檢測的效果圖,方框為檢測的結(jié)果。Figure2ResultoftheHOGdetection圖2HOG特征檢測效果圖2.3數(shù)據(jù)存儲數(shù)據(jù)存儲采用多種存儲結(jié)合的方式,針對不同的應(yīng)用采取不同的存儲方式,主要有本地存儲、Hadoop分布式存儲HDFS和分布式數(shù)據(jù)庫HBase等。如網(wǎng)頁應(yīng)用可以將結(jié)果返回集群的Driver的本地存儲,這樣可以快速獲取結(jié)果。2.4數(shù)據(jù)包設(shè)計數(shù)據(jù)包的組織形式如圖3所示。Figure3Formatofdatapackets圖3數(shù)據(jù)包的格式(1)Block(0):數(shù)據(jù)包頭部,整型,四個字節(jié),記錄后面一個數(shù)據(jù)的總長度;(2)Block(2k+1):整型,四個字節(jié),記錄Block(2k+2)的字節(jié)長度(k=0,1,2,…,n);(3)Block(2k+2):任意長的字節(jié)數(shù)組,是真正的數(shù)據(jù)(k=0,1,2,…,n);(4)Block(2k+3):CRC校驗,一個字節(jié)。2.5RDD中的數(shù)據(jù)包數(shù)據(jù)包在RDD(ResilientDistributedData-sets)中的抽象如圖4所示。在Receiver接收到數(shù)據(jù)包之后會保存到ArrayBuffer中,ArrayBuffer最終會被包裝成ReceivedBlock并保存在Block-Manager中。在提交Job的時候這些Received-Block會抽象成RDD,每個ReceivedBlock對應(yīng)一個partition并
【參考文獻(xiàn)】:
期刊論文
[1]智能視頻監(jiān)控技術(shù)綜述[J]. 黃凱奇,陳曉棠,康運鋒,譚鐵牛. 計算機(jī)學(xué)報. 2015(06)
本文編號:3213092
本文鏈接:http://sikaile.net/kejilunwen/wltx/3213092.html
最近更新
教材專著