天堂国产午夜亚洲专区-少妇人妻综合久久蜜臀-国产成人户外露出视频在线-国产91传媒一区二区三区

當(dāng)前位置:主頁(yè) > 科技論文 > 路橋論文 >

一種基于Kafka的數(shù)據(jù)采集與實(shí)時(shí)處理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)

發(fā)布時(shí)間:2021-07-06 07:54
  近年來(lái),隨著互聯(lián)網(wǎng)行業(yè)的迅猛發(fā)展和居民生活水平的提高,人們對(duì)生活的安全感和環(huán)境的質(zhì)量要求越來(lái)越高,越來(lái)越多的人們選擇非機(jī)動(dòng)車輛出行,大家都希望生活在文明有序、平安和諧的環(huán)境中。與此同時(shí),各地政府部門都在推進(jìn)“互聯(lián)網(wǎng)+”建設(shè),提高監(jiān)管服務(wù)效能。論文選題來(lái)源于“城市車輛智能防控系統(tǒng)”項(xiàng)目。系統(tǒng)通過(guò)給每輛電動(dòng)車發(fā)放電子車牌和在各區(qū)縣主干道安裝傳感設(shè)備的方式,來(lái)采集城市電動(dòng)車的信息,解決城市電動(dòng)車輛的監(jiān)控、管理和被盜追查等問(wèn)題,為某市公安局提供城市電動(dòng)車輛的統(tǒng)一管理。由于區(qū)縣內(nèi)電動(dòng)車數(shù)據(jù)接收量越來(lái)越大,因此車輛數(shù)據(jù)接收和實(shí)時(shí)數(shù)據(jù)處理成為當(dāng)前項(xiàng)目中的一個(gè)難題。本論文針對(duì)“城市車輛智能防控系統(tǒng)”項(xiàng)目中數(shù)據(jù)接收量越來(lái)越大,導(dǎo)致數(shù)據(jù)處理中存在響應(yīng)延遲、數(shù)據(jù)丟失以及過(guò)高的內(nèi)存負(fù)載等問(wèn)題,利用Kafka具備的高可靠性、異步通信和橫向擴(kuò)展能力,以及Netty減少資源消耗、充分提高資源利用率的能力,和Spark Streaming對(duì)數(shù)據(jù)進(jìn)行快速分析并實(shí)時(shí)響應(yīng)的能力,對(duì)數(shù)據(jù)采集及數(shù)據(jù)處理模塊進(jìn)行優(yōu)化,實(shí)現(xiàn)一個(gè)具有高可靠性、低延時(shí)性的數(shù)據(jù)采集與實(shí)時(shí)處理系統(tǒng)。本文通過(guò)對(duì)現(xiàn)有項(xiàng)目背景和相關(guān)技術(shù)的分析,主要工作內(nèi)容如下... 

【文章來(lái)源】:西安電子科技大學(xué)陜西省 211工程院校 教育部直屬院校

【文章頁(yè)數(shù)】:77 頁(yè)

【學(xué)位級(jí)別】:碩士

【部分圖文】:

一種基于Kafka的數(shù)據(jù)采集與實(shí)時(shí)處理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)


Netty邏輯架構(gòu)圖

部署圖,測(cè)試環(huán)境,三臺(tái),實(shí)時(shí)處理系統(tǒng)


第五章 系統(tǒng)測(cè)試與分析本章主要給出了該數(shù)據(jù)采集與實(shí)時(shí)處理系統(tǒng)需要的測(cè)試環(huán)境,然后根據(jù)相應(yīng)需求進(jìn)行系統(tǒng)測(cè)試和分析,驗(yàn)證該系統(tǒng)性能指標(biāo)以及業(yè)務(wù)功能的正確性。同時(shí)將原有的系統(tǒng)和使用該系統(tǒng)架構(gòu)的系統(tǒng)進(jìn)行數(shù)據(jù)接入、處理時(shí)間等多個(gè)維度的對(duì)比分析,以圖表的形式進(jìn)一步直觀地展示測(cè)試結(jié)果。5.1測(cè)試環(huán)境說(shuō)明本數(shù)據(jù)采集與實(shí)時(shí)處理系統(tǒng)測(cè)試環(huán)境需要十六臺(tái)虛擬機(jī),其中一臺(tái)用于部署智能終端接收程序,一臺(tái)用于部署 RFID 車輛接收程序,三臺(tái)用于部署 Redis 主從復(fù)制、哨兵監(jiān)控,三臺(tái)用于部署 Kafka 集群,四臺(tái)用于部署 Spark,一臺(tái)用于部署關(guān)系型數(shù)據(jù)庫(kù),三臺(tái)用于非關(guān)系型數(shù)據(jù)庫(kù)。實(shí)驗(yàn)室測(cè)試環(huán)境的系統(tǒng)部署圖如圖 5.1 所示。

采集設(shè)備,上線,功能測(cè)試


圖 5.3 采集設(shè)備上線功能測(cè)試截圖從圖 5.3 可以看出,采集設(shè)備通過(guò)上傳心跳記錄,當(dāng)數(shù)據(jù)處理模塊接收到該記錄后,發(fā)現(xiàn) Redis 中 heartbeat 表沒(méi)有對(duì)應(yīng)采集設(shè)備的心跳信息,將生成一條采集設(shè)備上線消息,更新對(duì)應(yīng)采集設(shè)備的狀態(tài)信息。如果 heartbeat 表中維護(hù)的采集設(shè)備超過(guò)某一時(shí)間間隔仍未收到相應(yīng)的心跳數(shù)據(jù),則認(rèn)定該采集設(shè)備已下線,生成對(duì)應(yīng)采集設(shè)備下線記錄,結(jié)果圖如圖 5.4 所示。

【參考文獻(xiàn)】:
期刊論文
[1]智能網(wǎng)聯(lián)汽車高并發(fā)數(shù)據(jù)采集平臺(tái)的研究[J]. 單澤萌,任女爾,蔡建軍.  計(jì)算機(jī)產(chǎn)品與流通. 2019(01)
[2]窄帶物聯(lián)網(wǎng)NB-IoT技術(shù)特點(diǎn)及在電動(dòng)自行車聯(lián)網(wǎng)管理方面的應(yīng)用[J]. 王少鋒.  數(shù)字通信世界. 2019(01)
[3]公共電動(dòng)自行車智能管理系統(tǒng)的設(shè)計(jì)[J]. 肖旻,江福椿.  信息系統(tǒng)工程. 2018(12)
[4]基于LTE專網(wǎng)的物聯(lián)網(wǎng)電動(dòng)車防盜管控平臺(tái)研發(fā)[J]. 李國(guó)政,李少波.  有線電視技術(shù). 2018(11)
[5]基于Spark Streaming的實(shí)時(shí)交通數(shù)據(jù)處理平臺(tái)[J]. 譚亮,周靜.  計(jì)算機(jī)系統(tǒng)應(yīng)用. 2018(10)
[6]高并發(fā)訪問(wèn)量下網(wǎng)絡(luò)I/O模型選擇的研究[J]. 常正超.  電腦知識(shí)與技術(shù). 2016(19)
[7]一種分布式消息隊(duì)列的可靠性研究[J]. 楊冬暉.  電腦知識(shí)與技術(shù). 2015(21)
[8]基于Netty的交通卡口數(shù)據(jù)交互中間件研究[J]. 于曉昀.  電腦知識(shí)與技術(shù). 2015(12)
[9]分布式流處理技術(shù)綜述[J]. 崔星燦,禹曉輝,劉洋,呂朝陽(yáng).  計(jì)算機(jī)研究與發(fā)展. 2015(02)
[10]面向大規(guī)模分布式計(jì)算發(fā)布訂閱系統(tǒng)核心技術(shù)[J]. 馬建剛,黃濤,汪錦嶺,徐罡,葉丹.  軟件學(xué)報(bào). 2006(01)

碩士論文
[1]車聯(lián)網(wǎng)大數(shù)據(jù)處理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 宋秉華.中國(guó)科學(xué)院大學(xué)(中國(guó)科學(xué)院工程管理與信息技術(shù)學(xué)院) 2017
[2]基于Kafka和Storm的實(shí)時(shí)日志流處理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 周敏菲.貴州大學(xué) 2017
[3]Redis集群可靠性的研究與優(yōu)化[D]. 李燚.中國(guó)科學(xué)技術(shù)大學(xué) 2017
[4]基于Kafka的大規(guī)模流數(shù)據(jù)分布式緩存與分析平臺(tái)[D]. 牛牧.吉林大學(xué) 2016
[5]基于Spark平臺(tái)的實(shí)時(shí)流計(jì)算推薦系統(tǒng)的研究與實(shí)現(xiàn)[D]. 張賢德.江蘇大學(xué) 2016
[6]基于RFID技術(shù)的車輛防盜備案智能報(bào)警系統(tǒng)的研究與實(shí)現(xiàn)[D]. 金凱濤.浙江工商大學(xué) 2015
[7]基于混合存儲(chǔ)的電動(dòng)自行車管理系統(tǒng)研究與實(shí)現(xiàn)[D]. 康景龍.西安電子科技大學(xué) 2015
[8]基于Netty的高可服務(wù)消息中間件的研究與實(shí)現(xiàn)[D]. 崔曉旻.電子科技大學(xué) 2014
[9]基于hadoop云存儲(chǔ)平臺(tái)的車輛監(jiān)控服務(wù)系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 王仁陽(yáng).北京郵電大學(xué) 2013
[10]NIO高性能框架的研究與應(yīng)用[D]. 劉蓬.湖南大學(xué) 2013



本文編號(hào):3267844

資料下載
論文發(fā)表

本文鏈接:http://sikaile.net/kejilunwen/daoluqiaoliang/3267844.html


Copyright(c)文論論文網(wǎng)All Rights Reserved | 網(wǎng)站地圖 |

版權(quán)申明:資料由用戶623aa***提供,本站僅收錄摘要或目錄,作者需要?jiǎng)h除請(qǐng)E-mail郵箱bigeng88@qq.com