基于Spark Streaming的實時日志分析與信息管理系統(tǒng)的設(shè)計與實現(xiàn)
發(fā)布時間:2021-08-16 16:43
隨著互聯(lián)網(wǎng)流量的爆發(fā)式增長,網(wǎng)絡(luò)應(yīng)用的不斷涌現(xiàn)使得網(wǎng)絡(luò)環(huán)境日益復(fù)雜。同時,這樣給開展網(wǎng)絡(luò)安全分析工作帶來了越來越大的難度。與以往相比,網(wǎng)絡(luò)攻擊具有更強的隱蔽性、形式更加復(fù)雜、檢測難度越來越大從而更加難以防范,大規(guī)模的具有針對性的惡意網(wǎng)絡(luò)攻擊也越來越普遍;ヂ(lián)網(wǎng)公司運營了大量的產(chǎn)品服務(wù)器來為用戶提供豐富的網(wǎng)絡(luò)服務(wù)。在這種情況下,一旦遭遇巨大的流量數(shù)據(jù)流的攻擊,造成產(chǎn)品服務(wù)器的各方面性能的下降或者是服務(wù)器宕機,從而沒有辦法繼續(xù)提供高效并且穩(wěn)定的網(wǎng)絡(luò)服務(wù)。因此互聯(lián)網(wǎng)公司需要一個可以實時分析日志來檢測DDo S(Distributed Denial of Service)攻擊的系統(tǒng)來為產(chǎn)品服務(wù)器提供安全檢測,當(dāng)發(fā)生DDo S攻擊時,能夠及時的提出應(yīng)對方案以減少受到的損害。本文以能夠?qū)崟r并且準(zhǔn)確的分析日志來檢測是否發(fā)生DDo S攻擊為目的,提出了一種基于Spark Streaming的實時日志分析方法,同時提出了一種基于信息熵結(jié)合聚類的DDo S檢測方法,實時檢測是否發(fā)生了DDo S攻擊,如果發(fā)生了攻擊時則及時給客戶告警消息。在本文中,對基于Spark Streaming的實時日志分析與信息管理...
【文章來源】:哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校
【文章頁數(shù)】:72 頁
【學(xué)位級別】:碩士
【部分圖文】:
信息管理圖
1、提示無法配置清洗服務(wù)器,權(quán)限不足。預(yù)期結(jié)果 2、彈出清洗服務(wù)器列表。3、提示無法配置清洗服務(wù)器,權(quán)限不足。測試結(jié)果1、提示無法配置清洗服務(wù)器,權(quán)限不足。2、彈出清洗服務(wù)器列表。3、提示無法配置清洗服務(wù)器,權(quán)限不足。4.3.2 服務(wù)器管理模塊測試服務(wù)器管理模塊主要分為清洗服務(wù)器、WEB 服務(wù)器、調(diào)度服務(wù)器以及其他服務(wù)器四種服務(wù)器,但是在該測試部分主要是針對清洗服務(wù)器進行對添加、修改以及刪除進行測試(其他服務(wù)器與清洗服務(wù)器相同)。表 4-6 為服務(wù)器管理模塊測試的測試用例以及結(jié)果。服務(wù)器管理如圖 4-2 所示:
4.3.3 服務(wù)信息模塊下載功能測試服務(wù)信息展示模塊業(yè)務(wù)組子模塊中有功能為文件下載。該文件記錄了下發(fā)任務(wù)的相關(guān)信息。其中最為重要的是業(yè)務(wù)組 ID,客戶配置規(guī)則 ID 以及清洗服務(wù)器相關(guān)信息。在該部分測試過程中,需要外網(wǎng)開發(fā)人員配合測試。表 4-7 為服務(wù)信息展示模塊測試的測試用例以及結(jié)果。防護資源管理如圖 4-3 所示測試結(jié)果器。4、提示請確保輸入的 IP 地址的格式是正確的。5、提示修改成功,并且在展示表格中不存在 IP 為 192.168.98.12 的清洗服務(wù)器,改變?yōu)?IP 為 192.168.98.23 的清洗服務(wù)器。6、提示刪除成功,并且展示表格中不存在 IP 為 192.168.98.23 的清洗服務(wù)器。
【參考文獻】:
期刊論文
[1]基于Spring MVC+MyBatis的加油站安全貼業(yè)務(wù)管理系統(tǒng)的設(shè)計與實現(xiàn)[J]. 李平富,高麗金. 電腦知識與技術(shù). 2017(29)
[2]基于SSM框架的Web系統(tǒng)研究與應(yīng)用[J]. 鄒紅霆. 湖南理工學(xué)院學(xué)報(自然科學(xué)版). 2017(01)
[3]一種基于Kafka的可靠的Consumer的設(shè)計方案[J]. 王巖,王純. 軟件. 2016(01)
[4]使用Spark Streaming的自適應(yīng)實時DDoS檢測和防御技術(shù)[J]. 方峰,蔡志平,肇啟佳,林加潤,朱明. 計算機科學(xué)與探索. 2016(05)
[5]Hive日志分析的大數(shù)據(jù)存儲優(yōu)化探討[J]. 王悅. 信息通信. 2015(10)
[6]基于Spark Streaming的實時日志處理平臺設(shè)計與實現(xiàn)[J]. 薛瑞,朱曉民. 電信工程技術(shù)與標(biāo)準(zhǔn)化. 2015(09)
[7]Redis在高速緩存系統(tǒng)中的應(yīng)用[J]. 曾超宇,李金香. 微型機與應(yīng)用. 2013(12)
[8]基于Spring MVC框架的Web研究與應(yīng)用[J]. 薛峰,梁鋒,徐書勛,王彪任. 合肥工業(yè)大學(xué)學(xué)報(自然科學(xué)版). 2012(03)
[9]基于Hadoop的分布式日志分析系統(tǒng)[J]. 陳文波,張秀娟,李林,唐鈞. 廣西大學(xué)學(xué)報(自然科學(xué)版). 2011(S1)
[10]基于Hadoop的Web日志挖掘[J]. 程苗,陳華平. 計算機工程. 2011(11)
博士論文
[1]應(yīng)用層DDoS攻擊檢測算法研究及實現(xiàn)[D]. 徐川.重慶大學(xué) 2012
[2]DDoS Flooding攻擊檢測技術(shù)研究[D]. 劉運.國防科學(xué)技術(shù)大學(xué) 2011
碩士論文
[1]SDN中基于深度學(xué)習(xí)混合模型的DDOS攻擊檢測與防御技術(shù)研究[D]. 孫正君.浙江工商大學(xué) 2018
[2]k-means聚類算法的改進研究及應(yīng)用[D]. 王菲菲.蘭州交通大學(xué) 2017
[3]基于自適應(yīng)聚類算法的DDoS攻擊檢測方法研究[D]. 李少東.湖南大學(xué) 2011
[4]基于信息熵聚類的DDOS異常檢測技術(shù)研究[D]. 趙慧明.中南大學(xué) 2010
[5]網(wǎng)絡(luò)環(huán)境下異構(gòu)日志信息獲取和預(yù)處理研究[D]. 王秀鋒.哈爾濱工程大學(xué) 2010
[6]DDoS攻擊防御新技術(shù)及模型研究[D]. 陳鵬.電子科技大學(xué) 2009
[7]大規(guī)模DDoS攻擊的防御研究[D]. 李俊.華東師范大學(xué) 2007
[8]分布式拒絕服務(wù)DDoS攻擊檢測與防范方法研究[D]. 羅淇方.廣西大學(xué) 2006
本文編號:3346031
【文章來源】:哈爾濱工業(yè)大學(xué)黑龍江省 211工程院校 985工程院校
【文章頁數(shù)】:72 頁
【學(xué)位級別】:碩士
【部分圖文】:
信息管理圖
1、提示無法配置清洗服務(wù)器,權(quán)限不足。預(yù)期結(jié)果 2、彈出清洗服務(wù)器列表。3、提示無法配置清洗服務(wù)器,權(quán)限不足。測試結(jié)果1、提示無法配置清洗服務(wù)器,權(quán)限不足。2、彈出清洗服務(wù)器列表。3、提示無法配置清洗服務(wù)器,權(quán)限不足。4.3.2 服務(wù)器管理模塊測試服務(wù)器管理模塊主要分為清洗服務(wù)器、WEB 服務(wù)器、調(diào)度服務(wù)器以及其他服務(wù)器四種服務(wù)器,但是在該測試部分主要是針對清洗服務(wù)器進行對添加、修改以及刪除進行測試(其他服務(wù)器與清洗服務(wù)器相同)。表 4-6 為服務(wù)器管理模塊測試的測試用例以及結(jié)果。服務(wù)器管理如圖 4-2 所示:
4.3.3 服務(wù)信息模塊下載功能測試服務(wù)信息展示模塊業(yè)務(wù)組子模塊中有功能為文件下載。該文件記錄了下發(fā)任務(wù)的相關(guān)信息。其中最為重要的是業(yè)務(wù)組 ID,客戶配置規(guī)則 ID 以及清洗服務(wù)器相關(guān)信息。在該部分測試過程中,需要外網(wǎng)開發(fā)人員配合測試。表 4-7 為服務(wù)信息展示模塊測試的測試用例以及結(jié)果。防護資源管理如圖 4-3 所示測試結(jié)果器。4、提示請確保輸入的 IP 地址的格式是正確的。5、提示修改成功,并且在展示表格中不存在 IP 為 192.168.98.12 的清洗服務(wù)器,改變?yōu)?IP 為 192.168.98.23 的清洗服務(wù)器。6、提示刪除成功,并且展示表格中不存在 IP 為 192.168.98.23 的清洗服務(wù)器。
【參考文獻】:
期刊論文
[1]基于Spring MVC+MyBatis的加油站安全貼業(yè)務(wù)管理系統(tǒng)的設(shè)計與實現(xiàn)[J]. 李平富,高麗金. 電腦知識與技術(shù). 2017(29)
[2]基于SSM框架的Web系統(tǒng)研究與應(yīng)用[J]. 鄒紅霆. 湖南理工學(xué)院學(xué)報(自然科學(xué)版). 2017(01)
[3]一種基于Kafka的可靠的Consumer的設(shè)計方案[J]. 王巖,王純. 軟件. 2016(01)
[4]使用Spark Streaming的自適應(yīng)實時DDoS檢測和防御技術(shù)[J]. 方峰,蔡志平,肇啟佳,林加潤,朱明. 計算機科學(xué)與探索. 2016(05)
[5]Hive日志分析的大數(shù)據(jù)存儲優(yōu)化探討[J]. 王悅. 信息通信. 2015(10)
[6]基于Spark Streaming的實時日志處理平臺設(shè)計與實現(xiàn)[J]. 薛瑞,朱曉民. 電信工程技術(shù)與標(biāo)準(zhǔn)化. 2015(09)
[7]Redis在高速緩存系統(tǒng)中的應(yīng)用[J]. 曾超宇,李金香. 微型機與應(yīng)用. 2013(12)
[8]基于Spring MVC框架的Web研究與應(yīng)用[J]. 薛峰,梁鋒,徐書勛,王彪任. 合肥工業(yè)大學(xué)學(xué)報(自然科學(xué)版). 2012(03)
[9]基于Hadoop的分布式日志分析系統(tǒng)[J]. 陳文波,張秀娟,李林,唐鈞. 廣西大學(xué)學(xué)報(自然科學(xué)版). 2011(S1)
[10]基于Hadoop的Web日志挖掘[J]. 程苗,陳華平. 計算機工程. 2011(11)
博士論文
[1]應(yīng)用層DDoS攻擊檢測算法研究及實現(xiàn)[D]. 徐川.重慶大學(xué) 2012
[2]DDoS Flooding攻擊檢測技術(shù)研究[D]. 劉運.國防科學(xué)技術(shù)大學(xué) 2011
碩士論文
[1]SDN中基于深度學(xué)習(xí)混合模型的DDOS攻擊檢測與防御技術(shù)研究[D]. 孫正君.浙江工商大學(xué) 2018
[2]k-means聚類算法的改進研究及應(yīng)用[D]. 王菲菲.蘭州交通大學(xué) 2017
[3]基于自適應(yīng)聚類算法的DDoS攻擊檢測方法研究[D]. 李少東.湖南大學(xué) 2011
[4]基于信息熵聚類的DDOS異常檢測技術(shù)研究[D]. 趙慧明.中南大學(xué) 2010
[5]網(wǎng)絡(luò)環(huán)境下異構(gòu)日志信息獲取和預(yù)處理研究[D]. 王秀鋒.哈爾濱工程大學(xué) 2010
[6]DDoS攻擊防御新技術(shù)及模型研究[D]. 陳鵬.電子科技大學(xué) 2009
[7]大規(guī)模DDoS攻擊的防御研究[D]. 李俊.華東師范大學(xué) 2007
[8]分布式拒絕服務(wù)DDoS攻擊檢測與防范方法研究[D]. 羅淇方.廣西大學(xué) 2006
本文編號:3346031
本文鏈接:http://sikaile.net/guanlilunwen/yunyingzuzhiguanlilunwen/3346031.html
最近更新
教材專著