基于Spark的云平臺管控追責系統(tǒng)的設計與實現(xiàn)
發(fā)布時間:2021-03-21 11:54
隨著云計算的高速發(fā)展,云計算的應用已深入到社會生活的方方面面,但云平臺中的數(shù)據(jù)安全問題也隨之而來,并成為當前云計算繼續(xù)發(fā)展的阻礙。國內(nèi)外學者已針對云安全現(xiàn)狀及安全策略做了大量的研究,但多數(shù)是利用加密等技術對云平臺中的靜態(tài)數(shù)據(jù)進行事前防御,以及數(shù)據(jù)污染后采用災備措施進行恢復,關于事后責任定位方面的研究比較少。事后追責可以幫助云平臺定位責任人,進而可以針對該責任人執(zhí)行權限限制等控制措施,這對于云平臺安全穩(wěn)定運維和發(fā)展具有重要意義。針對這一需求,本文設計并實現(xiàn)了基于Spark的云平臺管控追責系統(tǒng)。本課題目的在于實現(xiàn)一個針對云平臺數(shù)據(jù)污染的可信管控追責系統(tǒng),通過對當前相關技術的研究分析,明確了系統(tǒng)將要實現(xiàn)的功能,提出了通過為請求數(shù)據(jù)分配安全標記,并根據(jù)安全標記實現(xiàn)對該請求執(zhí)行敏感性判斷及污染操作的責任定位功能,并最終生成追責證據(jù)鏈展示到Web端。同時對Spark大數(shù)據(jù)處理框架及其他相關優(yōu)秀技術進行了深入學習,以完成了對本系統(tǒng)的設計與實現(xiàn)。在課題的研究與實現(xiàn)過程中,作者所做的主要工作如下:1.通過對當前云平臺安全的研究現(xiàn)狀分析及相關安全技術的學習,本文闡述了基于Spark的云平臺追責管控系統(tǒng)的研...
【文章來源】:北京郵電大學北京市 211工程院校 教育部直屬院校
【文章頁數(shù)】:75 頁
【學位級別】:碩士
【部分圖文】:
圖2-1?Spark運行架構圖??
圖2-2?SpringMVC工作流程??
Flume?目前提供?OG?(originalgeneration)和?NG?(next?generation)兩個版本,??NG是在0G基礎上重構形成的代碼簡單、架構簡潔的更具適應性的版本其??架構如圖2-3所示。??I??I??Put事務|?Take事務???1????I???攔選?|??截擇?|?—^??器器?I?WFS??Agent?????I??I??圖2-3?Flume-NG架構圖??如圖2.3所示,Agent是Flume中最小的獨立執(zhí)行單位,一個Agent由Source、??Channel、Sink三部分組成。Source負責對原始數(shù)據(jù)的采集;Channel則為數(shù)據(jù)提??供臨時緩存通道,緩解壓力,確保數(shù)據(jù)的可靠傳輸;Sink負責數(shù)據(jù)的輸出,指定??數(shù)據(jù)的下沉類型及位置。數(shù)據(jù)在Channel中以Event的形式保存,Event是Hume??內(nèi)部數(shù)據(jù)傳輸?shù)幕締卧,一條數(shù)據(jù)加一個可選頭部Header信息構成一個Event,??可選頭部存儲時間等數(shù)據(jù)相關的信息,頭部信息可被Flume配置文件直接獲取,??也可有開發(fā)者編輯,以便針對每條Event做預處理。三種組件可以靈活配置應對??開發(fā)者系統(tǒng)的數(shù)據(jù)采集與簡單預處理,本課題將通過Flume實現(xiàn)管控數(shù)據(jù)的實??時采集并存儲到HDFS中以供后續(xù)管控及追責
【參考文獻】:
期刊論文
[1]基于Flume和HDFS的大數(shù)據(jù)采集系統(tǒng)的研究與實現(xiàn)[J]. 方中純,趙江鵬. 內(nèi)蒙古科技大學學報. 2018(03)
[2]Spark性能優(yōu)化技術研究綜述[J]. 廖湖聲,黃珊珊,徐俊剛,劉仁峰. 計算機科學. 2018(07)
[3]基于全同態(tài)MAC的消息認證算法設計[J]. 潘釗,張躍軍,丁代魯. 電子技術應用. 2018(01)
[4]基于Spark平臺的聚類算法的研究和實現(xiàn)[J]. 胡可,姜學軍. 電子世界. 2017(23)
[5]基于SSM框架的客戶管理系統(tǒng)設計與實現(xiàn)[J]. 劉昊,李民. 軟件導刊. 2017(07)
[6]Spark 2.0平臺在大數(shù)據(jù)處理中的應用研究[J]. 周顯春,肖衡. 軟件導刊. 2017(05)
[7]Spark DAG優(yōu)化MapReduce協(xié)同過濾算法[J]. 廖彬,張?zhí)?于炯,國冰磊,張旭光,劉炎. 中山大學學報(自然科學版). 2017(03)
[8]基于Spark Streaming的實時數(shù)據(jù)分析系統(tǒng)及其應用[J]. 韓德志,陳旭光,雷雨馨,戴永濤,張肖. 計算機應用. 2017(05)
[9]Spark的圖計算框架:GraphX[J]. 孫海. 現(xiàn)代計算機(專業(yè)版). 2017(09)
[10]一種基于安全標記的多租戶訪問控制方法[J]. 彭勇,侯超平,童遙,申光. 中興通訊技術. 2017(01)
博士論文
[1]云計算平臺下數(shù)據(jù)安全與版權保護技術研究[D]. 黃勤龍.北京郵電大學 2014
[2]信息系統(tǒng)等級保護中的多級安全技術研究[D]. 高朝勤.北京工業(yè)大學 2012
碩士論文
[1]基于Redis技術的分布式緩存電商平臺設計與實現(xiàn)[D]. 歐陽文臣.南昌大學 2018
[2]云數(shù)據(jù)安全標記的研究[D]. 楊小寧.北京交通大學 2018
[3]云平臺環(huán)境下實時日志管理系統(tǒng)的研究與實現(xiàn)[D]. 蔡金鉆.電子科技大學 2018
[4]基于MVC的P2P網(wǎng)絡借貸系統(tǒng)的設計與實現(xiàn)[D]. 張翔.北京交通大學 2017
[5]基于Spark的Web日志分析處理系統(tǒng)[D]. 董劍.西安理工大學 2016
[6]基于Web應用的日志采集與分析系統(tǒng)的設計與實現(xiàn)[D]. 于靜.北京交通大學 2016
[7]基于HDFS的文件存儲與讀取的優(yōu)化策略研究與應用[D]. 張程.北京工業(yè)大學 2016
[8]基于SpringMVC和MyBatis框架的炒股比賽系統(tǒng)的設計與實現(xiàn)[D]. 吳婉楠.南京大學 2016
[9]云存儲中數(shù)據(jù)完整性驗證及去重技術研究[D]. 李志科.廣東工業(yè)大學 2015
[10]云計算環(huán)境下虛擬機逃逸問題研究[D]. 劉宏.上海大學 2015
本文編號:3092819
【文章來源】:北京郵電大學北京市 211工程院校 教育部直屬院校
【文章頁數(shù)】:75 頁
【學位級別】:碩士
【部分圖文】:
圖2-1?Spark運行架構圖??
圖2-2?SpringMVC工作流程??
Flume?目前提供?OG?(originalgeneration)和?NG?(next?generation)兩個版本,??NG是在0G基礎上重構形成的代碼簡單、架構簡潔的更具適應性的版本其??架構如圖2-3所示。??I??I??Put事務|?Take事務???1????I???攔選?|??截擇?|?—^??器器?I?WFS??Agent?????I??I??圖2-3?Flume-NG架構圖??如圖2.3所示,Agent是Flume中最小的獨立執(zhí)行單位,一個Agent由Source、??Channel、Sink三部分組成。Source負責對原始數(shù)據(jù)的采集;Channel則為數(shù)據(jù)提??供臨時緩存通道,緩解壓力,確保數(shù)據(jù)的可靠傳輸;Sink負責數(shù)據(jù)的輸出,指定??數(shù)據(jù)的下沉類型及位置。數(shù)據(jù)在Channel中以Event的形式保存,Event是Hume??內(nèi)部數(shù)據(jù)傳輸?shù)幕締卧,一條數(shù)據(jù)加一個可選頭部Header信息構成一個Event,??可選頭部存儲時間等數(shù)據(jù)相關的信息,頭部信息可被Flume配置文件直接獲取,??也可有開發(fā)者編輯,以便針對每條Event做預處理。三種組件可以靈活配置應對??開發(fā)者系統(tǒng)的數(shù)據(jù)采集與簡單預處理,本課題將通過Flume實現(xiàn)管控數(shù)據(jù)的實??時采集并存儲到HDFS中以供后續(xù)管控及追責
【參考文獻】:
期刊論文
[1]基于Flume和HDFS的大數(shù)據(jù)采集系統(tǒng)的研究與實現(xiàn)[J]. 方中純,趙江鵬. 內(nèi)蒙古科技大學學報. 2018(03)
[2]Spark性能優(yōu)化技術研究綜述[J]. 廖湖聲,黃珊珊,徐俊剛,劉仁峰. 計算機科學. 2018(07)
[3]基于全同態(tài)MAC的消息認證算法設計[J]. 潘釗,張躍軍,丁代魯. 電子技術應用. 2018(01)
[4]基于Spark平臺的聚類算法的研究和實現(xiàn)[J]. 胡可,姜學軍. 電子世界. 2017(23)
[5]基于SSM框架的客戶管理系統(tǒng)設計與實現(xiàn)[J]. 劉昊,李民. 軟件導刊. 2017(07)
[6]Spark 2.0平臺在大數(shù)據(jù)處理中的應用研究[J]. 周顯春,肖衡. 軟件導刊. 2017(05)
[7]Spark DAG優(yōu)化MapReduce協(xié)同過濾算法[J]. 廖彬,張?zhí)?于炯,國冰磊,張旭光,劉炎. 中山大學學報(自然科學版). 2017(03)
[8]基于Spark Streaming的實時數(shù)據(jù)分析系統(tǒng)及其應用[J]. 韓德志,陳旭光,雷雨馨,戴永濤,張肖. 計算機應用. 2017(05)
[9]Spark的圖計算框架:GraphX[J]. 孫海. 現(xiàn)代計算機(專業(yè)版). 2017(09)
[10]一種基于安全標記的多租戶訪問控制方法[J]. 彭勇,侯超平,童遙,申光. 中興通訊技術. 2017(01)
博士論文
[1]云計算平臺下數(shù)據(jù)安全與版權保護技術研究[D]. 黃勤龍.北京郵電大學 2014
[2]信息系統(tǒng)等級保護中的多級安全技術研究[D]. 高朝勤.北京工業(yè)大學 2012
碩士論文
[1]基于Redis技術的分布式緩存電商平臺設計與實現(xiàn)[D]. 歐陽文臣.南昌大學 2018
[2]云數(shù)據(jù)安全標記的研究[D]. 楊小寧.北京交通大學 2018
[3]云平臺環(huán)境下實時日志管理系統(tǒng)的研究與實現(xiàn)[D]. 蔡金鉆.電子科技大學 2018
[4]基于MVC的P2P網(wǎng)絡借貸系統(tǒng)的設計與實現(xiàn)[D]. 張翔.北京交通大學 2017
[5]基于Spark的Web日志分析處理系統(tǒng)[D]. 董劍.西安理工大學 2016
[6]基于Web應用的日志采集與分析系統(tǒng)的設計與實現(xiàn)[D]. 于靜.北京交通大學 2016
[7]基于HDFS的文件存儲與讀取的優(yōu)化策略研究與應用[D]. 張程.北京工業(yè)大學 2016
[8]基于SpringMVC和MyBatis框架的炒股比賽系統(tǒng)的設計與實現(xiàn)[D]. 吳婉楠.南京大學 2016
[9]云存儲中數(shù)據(jù)完整性驗證及去重技術研究[D]. 李志科.廣東工業(yè)大學 2015
[10]云計算環(huán)境下虛擬機逃逸問題研究[D]. 劉宏.上海大學 2015
本文編號:3092819
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3092819.html
最近更新
教材專著