高速鐵路接觸網(wǎng)在線監(jiān)測系統(tǒng)實時數(shù)據(jù)庫關(guān)鍵技術(shù)研究
發(fā)布時間:2020-12-21 00:50
在高鐵接觸網(wǎng)安全評估體系和科學(xué)維護體系的建設(shè)過程中,鐵路行業(yè)中使用的傳統(tǒng)實時數(shù)據(jù)庫系統(tǒng)已經(jīng)不能滿足接觸網(wǎng)狀態(tài)在線監(jiān)測中海量實時數(shù)據(jù)的處理需求。為解決存在的問題,本文對接觸網(wǎng)在線監(jiān)測系統(tǒng)的應(yīng)用場景和需求進行了詳細的分析,結(jié)合分布式系統(tǒng)和實時數(shù)據(jù)庫的相關(guān)理論和技術(shù),設(shè)計了適用于接觸網(wǎng)在線監(jiān)測的分布式實時數(shù)據(jù)庫系統(tǒng)架構(gòu)和服務(wù)模型。通過研究分布式緩存、分布式消息隊列、分布式歷史數(shù)據(jù)存儲等機制提高了系統(tǒng)的擴展性、實時性和可靠性。具體研究結(jié)果如下:(1)分析現(xiàn)有鐵路行業(yè)傳統(tǒng)實時數(shù)據(jù)庫的問題和接觸網(wǎng)在線監(jiān)測系統(tǒng)的實際需求設(shè)計了系統(tǒng)的架構(gòu)和服務(wù)模型,提出基于Raft帶負載評估的主從節(jié)點選舉策略在負載不均衡情況下選舉出可靠的節(jié)點。(2)針對分布式實時數(shù)據(jù)庫系統(tǒng)的實時性特點,設(shè)計了本地高速緩存隊列和分布式消息隊列,提高系統(tǒng)的高并發(fā)、大數(shù)據(jù)場景下的處理能力和數(shù)據(jù)容災(zāi)能力。提出了基于Redis的分布式數(shù)據(jù)緩存系統(tǒng)滿足了海量實時數(shù)據(jù)的即時查詢需求。(3)針對海量歷史數(shù)據(jù)存儲和快速查詢的需求,設(shè)計了基于OpenTSDB的海量歷史數(shù)據(jù)存儲服務(wù)。通過引入Elasticsearch搜索引擎解決OpenTSDB在多條件組...
【文章來源】:浙江科技學(xué)院浙江省
【文章頁數(shù)】:93 頁
【學(xué)位級別】:碩士
【部分圖文】:
接觸網(wǎng)在線監(jiān)測系統(tǒng)架構(gòu)
管工區(qū)上進行獨立的實時數(shù)據(jù)存儲與處理,各個數(shù)據(jù)服務(wù)器都是物理隔離的,不同層級的管理部門根據(jù)需求通過客戶端向指定的服務(wù)器獲取數(shù)據(jù)。各服務(wù)器的功能角色、客戶端與服務(wù)器的路由關(guān)系均需要由人工手動定義和分配。這種系統(tǒng)具有容易實現(xiàn),故障容易排查[27]等優(yōu)點?蛻舳伺c服務(wù)器的連接需要通過公用網(wǎng)絡(luò),網(wǎng)絡(luò)的抖動、延遲均容易造成數(shù)據(jù)同步失;隨著電氣化鐵路監(jiān)測需求的增大,傳統(tǒng)的實時數(shù)據(jù)庫系統(tǒng)難以進行靈活擴展,大量的連接和配置需要人工操作很容易導(dǎo)致失誤,在每個維管工區(qū)安裝的服務(wù)器數(shù)據(jù)不方便進行服務(wù)器和計算資源統(tǒng)一調(diào)配的維護管理,容易形成不必要的冗余,造成服務(wù)器和運營維護資源的極大浪費。針對傳統(tǒng)實時數(shù)據(jù)庫系統(tǒng)存在的問題,本章分析了接觸網(wǎng)在線監(jiān)測的場景特點,根據(jù)鐵路運營部門的實際需求,結(jié)合當(dāng)前熱門的大數(shù)據(jù)技術(shù)和物聯(lián)網(wǎng)[28]相關(guān)技術(shù),提出基于中心化的實時數(shù)據(jù)庫系統(tǒng)架構(gòu)和服務(wù)模型。
門應(yīng)用的傳統(tǒng)實時數(shù)據(jù)庫系統(tǒng)缺點,結(jié)合本課題的應(yīng)用特點和必須實現(xiàn)的核心功能,而且系統(tǒng)運行時還有以下特點:1) 保證數(shù)據(jù)訪問的實時性,本質(zhì)上分布式實時數(shù)據(jù)庫系統(tǒng)是一個寫密集的系統(tǒng),寫入耗時高于采樣周期都是不可取的。2)歷史存檔數(shù)據(jù)的最終一致性,同一時刻不同節(jié)點的數(shù)據(jù)不保證相同,但經(jīng)過多次同步之后,不同節(jié)點上的數(shù)據(jù)最終保持一致。3)實時緩存數(shù)據(jù)的強一致性,同一時刻不同節(jié)點的數(shù)據(jù)必須保持相同,因為不一致的實時數(shù)據(jù)對操作人員分析判斷不具有任何意義。4)監(jiān)控集群各節(jié)點狀態(tài)。為保證系統(tǒng)有序運行,需要確保系統(tǒng)中各節(jié)點的狀態(tài)可控;谏鲜隹紤],選用中心化的系統(tǒng)模型構(gòu)建面向接觸網(wǎng)在線監(jiān)測的中心化分布式實時數(shù)據(jù)庫系統(tǒng),如下圖 2-2 所示。
【參考文獻】:
期刊論文
[1]Hadoop分布式存儲架構(gòu)的性能分析[J]. 王凌暉,解云月,周美華. 現(xiàn)代電子技術(shù). 2018(18)
[2]高速鐵路牽引供電系統(tǒng)大數(shù)據(jù)平臺及應(yīng)用[J]. 王維廣. 電氣化鐵道. 2018(04)
[3]實時數(shù)據(jù)庫技術(shù)探究[J]. 唐宇. 鐵路通信信號工程技術(shù). 2018(06)
[4]內(nèi)存數(shù)據(jù)庫實現(xiàn)原理探討[J]. 黃偉梅. 電腦知識與技術(shù). 2018(15)
[5]鐵路現(xiàn)場巡檢作業(yè)可視化智能管理系統(tǒng)的研究[J]. 金其炳,朱忠德. 上海鐵道科技. 2018(01)
[6]淺析RAFT分布式算法[J]. 魯子元. 信息技術(shù). 2017(09)
[7]針對Redis主從復(fù)制[J]. 楊雪嬋. 網(wǎng)絡(luò)安全和信息化. 2017(03)
[8]我國高速鐵路固定設(shè)備維護體制模式研究[J]. 程學(xué)慶,李月,舒繼承,邢穎,王鑫. 鐵道科學(xué)與工程學(xué)報. 2017(02)
[9]Hadoop MapReduce新舊架構(gòu)的對比研究綜述[J]. 于金良,朱志祥,李聰穎. 計算機與數(shù)字工程. 2017(01)
[10]中國高速鐵路的可持續(xù)發(fā)展戰(zhàn)略(英文)[J]. Ping TAN,Ji-en MA,Jing ZHOU,You-tong FANG. Journal of Zhejiang University-Science A(Applied Physics & Engineering). 2016(12)
博士論文
[1]流程工業(yè)分布式實時數(shù)據(jù)庫研究與應(yīng)用[D]. 李德文.浙江大學(xué) 2016
碩士論文
[1]基于分布式Kafka隊列和流計算集群的鐵道供電監(jiān)控實時處理研究[D]. 王群峰.華東交通大學(xué) 2018
[2]霧計算環(huán)境下的資源緩存機制研究[D]. 趙晟偉.山東大學(xué) 2018
[3]基于網(wǎng)絡(luò)爬蟲的排行榜系統(tǒng)設(shè)計與實現(xiàn)[D]. 劉全偉.北京郵電大學(xué) 2018
[4]大規(guī)模集群狀態(tài)時序數(shù)據(jù)采集、存儲與分析[D]. 劉金.北京郵電大學(xué) 2018
[5]面向關(guān)系數(shù)據(jù)庫的數(shù)據(jù)起源研究與設(shè)計[D]. 林悅邦.華南理工大學(xué) 2017
[6]基于混合內(nèi)存的緩存策略優(yōu)化研究[D]. 謝宏天辰.杭州電子科技大學(xué) 2017
[7]面向SOA架構(gòu)的缺陷管理系統(tǒng)的設(shè)計與實現(xiàn)[D]. 莫其凡.南京大學(xué) 2016
[8]基于Redis Cluster的分布式內(nèi)存數(shù)據(jù)庫研究與應(yīng)用[D]. 王紹東.華南理工大學(xué) 2016
[9]一種基于OpenTSDB的海量實時數(shù)據(jù)存儲系統(tǒng)[D]. 單若琦.華南理工大學(xué) 2016
[10]基于LSM樹的NoSQL數(shù)據(jù)庫索引研究[D]. 付佳.北京理工大學(xué) 2016
本文編號:2928875
【文章來源】:浙江科技學(xué)院浙江省
【文章頁數(shù)】:93 頁
【學(xué)位級別】:碩士
【部分圖文】:
接觸網(wǎng)在線監(jiān)測系統(tǒng)架構(gòu)
管工區(qū)上進行獨立的實時數(shù)據(jù)存儲與處理,各個數(shù)據(jù)服務(wù)器都是物理隔離的,不同層級的管理部門根據(jù)需求通過客戶端向指定的服務(wù)器獲取數(shù)據(jù)。各服務(wù)器的功能角色、客戶端與服務(wù)器的路由關(guān)系均需要由人工手動定義和分配。這種系統(tǒng)具有容易實現(xiàn),故障容易排查[27]等優(yōu)點?蛻舳伺c服務(wù)器的連接需要通過公用網(wǎng)絡(luò),網(wǎng)絡(luò)的抖動、延遲均容易造成數(shù)據(jù)同步失;隨著電氣化鐵路監(jiān)測需求的增大,傳統(tǒng)的實時數(shù)據(jù)庫系統(tǒng)難以進行靈活擴展,大量的連接和配置需要人工操作很容易導(dǎo)致失誤,在每個維管工區(qū)安裝的服務(wù)器數(shù)據(jù)不方便進行服務(wù)器和計算資源統(tǒng)一調(diào)配的維護管理,容易形成不必要的冗余,造成服務(wù)器和運營維護資源的極大浪費。針對傳統(tǒng)實時數(shù)據(jù)庫系統(tǒng)存在的問題,本章分析了接觸網(wǎng)在線監(jiān)測的場景特點,根據(jù)鐵路運營部門的實際需求,結(jié)合當(dāng)前熱門的大數(shù)據(jù)技術(shù)和物聯(lián)網(wǎng)[28]相關(guān)技術(shù),提出基于中心化的實時數(shù)據(jù)庫系統(tǒng)架構(gòu)和服務(wù)模型。
門應(yīng)用的傳統(tǒng)實時數(shù)據(jù)庫系統(tǒng)缺點,結(jié)合本課題的應(yīng)用特點和必須實現(xiàn)的核心功能,而且系統(tǒng)運行時還有以下特點:1) 保證數(shù)據(jù)訪問的實時性,本質(zhì)上分布式實時數(shù)據(jù)庫系統(tǒng)是一個寫密集的系統(tǒng),寫入耗時高于采樣周期都是不可取的。2)歷史存檔數(shù)據(jù)的最終一致性,同一時刻不同節(jié)點的數(shù)據(jù)不保證相同,但經(jīng)過多次同步之后,不同節(jié)點上的數(shù)據(jù)最終保持一致。3)實時緩存數(shù)據(jù)的強一致性,同一時刻不同節(jié)點的數(shù)據(jù)必須保持相同,因為不一致的實時數(shù)據(jù)對操作人員分析判斷不具有任何意義。4)監(jiān)控集群各節(jié)點狀態(tài)。為保證系統(tǒng)有序運行,需要確保系統(tǒng)中各節(jié)點的狀態(tài)可控;谏鲜隹紤],選用中心化的系統(tǒng)模型構(gòu)建面向接觸網(wǎng)在線監(jiān)測的中心化分布式實時數(shù)據(jù)庫系統(tǒng),如下圖 2-2 所示。
【參考文獻】:
期刊論文
[1]Hadoop分布式存儲架構(gòu)的性能分析[J]. 王凌暉,解云月,周美華. 現(xiàn)代電子技術(shù). 2018(18)
[2]高速鐵路牽引供電系統(tǒng)大數(shù)據(jù)平臺及應(yīng)用[J]. 王維廣. 電氣化鐵道. 2018(04)
[3]實時數(shù)據(jù)庫技術(shù)探究[J]. 唐宇. 鐵路通信信號工程技術(shù). 2018(06)
[4]內(nèi)存數(shù)據(jù)庫實現(xiàn)原理探討[J]. 黃偉梅. 電腦知識與技術(shù). 2018(15)
[5]鐵路現(xiàn)場巡檢作業(yè)可視化智能管理系統(tǒng)的研究[J]. 金其炳,朱忠德. 上海鐵道科技. 2018(01)
[6]淺析RAFT分布式算法[J]. 魯子元. 信息技術(shù). 2017(09)
[7]針對Redis主從復(fù)制[J]. 楊雪嬋. 網(wǎng)絡(luò)安全和信息化. 2017(03)
[8]我國高速鐵路固定設(shè)備維護體制模式研究[J]. 程學(xué)慶,李月,舒繼承,邢穎,王鑫. 鐵道科學(xué)與工程學(xué)報. 2017(02)
[9]Hadoop MapReduce新舊架構(gòu)的對比研究綜述[J]. 于金良,朱志祥,李聰穎. 計算機與數(shù)字工程. 2017(01)
[10]中國高速鐵路的可持續(xù)發(fā)展戰(zhàn)略(英文)[J]. Ping TAN,Ji-en MA,Jing ZHOU,You-tong FANG. Journal of Zhejiang University-Science A(Applied Physics & Engineering). 2016(12)
博士論文
[1]流程工業(yè)分布式實時數(shù)據(jù)庫研究與應(yīng)用[D]. 李德文.浙江大學(xué) 2016
碩士論文
[1]基于分布式Kafka隊列和流計算集群的鐵道供電監(jiān)控實時處理研究[D]. 王群峰.華東交通大學(xué) 2018
[2]霧計算環(huán)境下的資源緩存機制研究[D]. 趙晟偉.山東大學(xué) 2018
[3]基于網(wǎng)絡(luò)爬蟲的排行榜系統(tǒng)設(shè)計與實現(xiàn)[D]. 劉全偉.北京郵電大學(xué) 2018
[4]大規(guī)模集群狀態(tài)時序數(shù)據(jù)采集、存儲與分析[D]. 劉金.北京郵電大學(xué) 2018
[5]面向關(guān)系數(shù)據(jù)庫的數(shù)據(jù)起源研究與設(shè)計[D]. 林悅邦.華南理工大學(xué) 2017
[6]基于混合內(nèi)存的緩存策略優(yōu)化研究[D]. 謝宏天辰.杭州電子科技大學(xué) 2017
[7]面向SOA架構(gòu)的缺陷管理系統(tǒng)的設(shè)計與實現(xiàn)[D]. 莫其凡.南京大學(xué) 2016
[8]基于Redis Cluster的分布式內(nèi)存數(shù)據(jù)庫研究與應(yīng)用[D]. 王紹東.華南理工大學(xué) 2016
[9]一種基于OpenTSDB的海量實時數(shù)據(jù)存儲系統(tǒng)[D]. 單若琦.華南理工大學(xué) 2016
[10]基于LSM樹的NoSQL數(shù)據(jù)庫索引研究[D]. 付佳.北京理工大學(xué) 2016
本文編號:2928875
本文鏈接:http://sikaile.net/kejilunwen/jiaotonggongchenglunwen/2928875.html
教材專著