基于矩陣補全理論的網(wǎng)絡(luò)流量估計與異常檢測算法研究
發(fā)布時間:2020-03-24 01:02
【摘要】:隨著信息技術(shù)的飛速發(fā)展,IP網(wǎng)絡(luò)規(guī)模呈現(xiàn)指數(shù)式增長,并且已經(jīng)發(fā)展成為一種異構(gòu)開放的復(fù)雜網(wǎng)絡(luò)。作為網(wǎng)絡(luò)運營和網(wǎng)絡(luò)管理最重要的數(shù)據(jù)源之一,網(wǎng)絡(luò)流量數(shù)據(jù)蘊含著豐富的網(wǎng)絡(luò)行為信息。然而,獲取完整而準確的流量數(shù)據(jù)卻極其困難,原因在于:1)對于大規(guī)模網(wǎng)絡(luò)環(huán)境,直接測量全部流量數(shù)據(jù)代價太高,通常只能采樣部分數(shù)據(jù),因此獲取的流量矩陣中存在大量的缺失值;2)網(wǎng)絡(luò)流量是由用戶多種通信行為共同產(chǎn)生的,流量數(shù)據(jù)中存在不同類型的流量異常。因此,如何對部分采樣的流量數(shù)據(jù)進行缺失值估計和異常檢測成為了網(wǎng)絡(luò)管理和流量監(jiān)測領(lǐng)域的熱點問題。國內(nèi)外研究者針對以上問題提出了諸多網(wǎng)絡(luò)流量估計和異常檢測算法,雖然這些算法在其各自的數(shù)據(jù)集上表現(xiàn)出了良好的性能,但它們在網(wǎng)絡(luò)流量估計的準確性、異常檢測的精確性、適用問題的規(guī)模性以及某些OD(Origin-Destination)對數(shù)據(jù)完全缺失的流量估計等方面仍然存在不足。針對上述不足,本文首先基于流量矩陣所固有的近似低秩性和時空相關(guān)性,引入了低秩矩陣補全理論,將流量矩陣估計和異常檢測問題建模為一類融合異常流量先驗結(jié)構(gòu)信息的范數(shù)正則化矩陣補全模型,并采用機器學習領(lǐng)域中流行的ADMM(Alternating Direction Method of Multipliers)方法進行優(yōu)化求解。仿真實驗表明該算法能夠有效地解決網(wǎng)絡(luò)流量矩陣中所存在的數(shù)據(jù)缺失和異常檢測問題。其次,考慮到傳統(tǒng)的ADMM本質(zhì)上仍屬于串行優(yōu)化方法,難以適用于大規(guī)模問題求解,我們進一步引入并行多塊ADMM和SPGD(Stochastic Proximal Gradient Descent)來改進模型的求解效率,提出了一種基于并行多塊ADMM的大規(guī)模網(wǎng)絡(luò)流量估計和異常檢測算法,該算法有效地解決了流量矩陣估計和異常檢測的大規(guī)模問題。仿真結(jié)果表明,與主流的流量估計算法相比,我們所提出的算法具有更好的估計性能。此外,本文所提出的算法還可以對野值異常和結(jié)構(gòu)化異常進行準確定位,這是大規(guī)模網(wǎng)絡(luò)異常診斷的前提。最后,基于歸納型矩陣補全理論,本文還設(shè)計出了可以在某些OD對數(shù)據(jù)完全缺失情況下進行大規(guī)模流量估計和異常檢測的算法,并且在合成數(shù)據(jù)集上取得了很好的效果。
【圖文】:
圖 3.3 Abilene 網(wǎng)絡(luò)拓撲結(jié)構(gòu)異常矩陣的總流量矩陣0 0 0X +S D。根據(jù) 3.1 小節(jié)的問題建模所述,可以通過 Internet2 路由矩陣30 132R 與0 0 0X +S D相乘得到。最后,,pling Rate)對總流量矩陣0 0 0X S D進行隨機獨立的采樣,可以得到0 0 0P ( X S D) 。本課題的目標就是從完整的鏈路負載矩陣Y 和部分0 0 0 S D) 中估計出正常的流量矩陣數(shù)據(jù),同時檢測出其中不同類型的算法性能評價指標介紹網(wǎng)絡(luò)流量矩陣估計算法的評價指標;然后,介紹網(wǎng)絡(luò)流量異常檢量矩陣估計的錯誤率學術(shù)界在網(wǎng)絡(luò)流量矩陣估計問題上常用的算法性能評價指標是流量矩
【學位授予單位】:南京郵電大學
【學位級別】:碩士
【學位授予年份】:2018
【分類號】:TP393.06
【圖文】:
圖 3.3 Abilene 網(wǎng)絡(luò)拓撲結(jié)構(gòu)異常矩陣的總流量矩陣0 0 0X +S D。根據(jù) 3.1 小節(jié)的問題建模所述,可以通過 Internet2 路由矩陣30 132R 與0 0 0X +S D相乘得到。最后,,pling Rate)對總流量矩陣0 0 0X S D進行隨機獨立的采樣,可以得到0 0 0P ( X S D) 。本課題的目標就是從完整的鏈路負載矩陣Y 和部分0 0 0 S D) 中估計出正常的流量矩陣數(shù)據(jù),同時檢測出其中不同類型的算法性能評價指標介紹網(wǎng)絡(luò)流量矩陣估計算法的評價指標;然后,介紹網(wǎng)絡(luò)流量異常檢量矩陣估計的錯誤率學術(shù)界在網(wǎng)絡(luò)流量矩陣估計問題上常用的算法性能評價指標是流量矩
【學位授予單位】:南京郵電大學
【學位級別】:碩士
【學位授予年份】:2018
【分類號】:TP393.06
【參考文獻】
相關(guān)期刊論文 前5條
1 李宇
本文編號:2597549
本文鏈接:http://sikaile.net/guanlilunwen/ydhl/2597549.html
最近更新
教材專著