基于改進(jìn)VGG16神經(jīng)網(wǎng)絡(luò)的異常檢測模型研究
發(fā)布時(shí)間:2021-04-10 19:00
近年來,互聯(lián)網(wǎng)在不斷快速發(fā)展,對網(wǎng)絡(luò)的管理顯得愈加重要,從業(yè)人員愈加重視網(wǎng)絡(luò)安全問題。異常檢測模型可對網(wǎng)絡(luò)攻擊進(jìn)行檢測,對ImageNet VGG16模型進(jìn)行改進(jìn),建立一種基于改進(jìn)VGG16的異常檢測模型,并在ISCX2012數(shù)據(jù)集上進(jìn)行訓(xùn)練,通過計(jì)算F1值,取得不錯(cuò)的訓(xùn)練效果。
【文章來源】:現(xiàn)代計(jì)算機(jī). 2020,(30)
【文章頁數(shù)】:6 頁
【部分圖文】:
ISCX2012數(shù)據(jù)集中的一條請求(XML格式)22.2訓(xùn)練環(huán)境
熵(CrossEntropy),基于Model模塊的Summary函數(shù)可對VGG16模型的各層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行可視化,表1所示為模型中各層結(jié)構(gòu)與參數(shù)(以流量灰度圖分辨率75×75為例)。22.4仿真檢測實(shí)驗(yàn)及結(jié)果訓(xùn)練完成后,如圖6所示為不同輸入圖像分辨率下的誤差情況,共計(jì)進(jìn)行迭代3000次。圖像分辨率為256×256和128×128時(shí),效果并不理想。當(dāng)輸入圖像的分辨率為75×75時(shí),進(jìn)行到2800次迭代時(shí),模型能達(dá)到最小誤差。表1VGG16結(jié)構(gòu)及參數(shù)情況圖6不同圖像分辨率下的誤差情況如圖7所示為模型的準(zhǔn)確率情況。分辨率為128×128和256×256的輸入圖像在迭代次數(shù)為2500次時(shí),達(dá)到最高準(zhǔn)確率大約為75%,而流量灰度圖分辨率為75×75時(shí),在經(jīng)歷2850次迭代后,準(zhǔn)確率達(dá)到91%。綜合模型準(zhǔn)確率和模型誤差的分析,因此流量灰度圖分辨率為75×75時(shí),模型的訓(xùn)練效果最佳。圖7不同圖像分辨率下的準(zhǔn)確率情況
榭魷攏??值為0。通過模型損失函數(shù)的迭代與計(jì)算,參數(shù)將進(jìn)一步優(yōu)化,直到小于指定誤差或達(dá)到最大迭代次數(shù)為止。11.3模型的不足與優(yōu)化在VGG16卷積神經(jīng)網(wǎng)絡(luò)中,每一層網(wǎng)絡(luò)的權(quán)重和結(jié)點(diǎn)值都需要進(jìn)行訓(xùn)練,包含三個(gè)全連接層,而前兩個(gè)全連接層每層都擁有多達(dá)4096個(gè)結(jié)點(diǎn),造成全連接層的訓(xùn)練時(shí)間過長,同時(shí)全連接層也可能會破壞輸入圖片的空間結(jié)構(gòu)。Softmax分類層可分類的數(shù)量為1000,并不符合異常檢測二分類的特點(diǎn)。本文對傳統(tǒng)VGG16模型進(jìn)行改進(jìn),提出改進(jìn)VGG16神經(jīng)網(wǎng)絡(luò)的異常檢測模型,如圖2所示。圖2改進(jìn)后的VGG16異常檢測模型首先,傳統(tǒng)的VGG16深度卷積神經(jīng)網(wǎng)絡(luò)是基于ImageNet圖片數(shù)據(jù)集訓(xùn)練而成,擁有十分強(qiáng)大的特征學(xué)習(xí)能力,特別是卷積層對于輸入圖片的曲線、邊緣和輪廓的提取,在每一層中都擁有已經(jīng)訓(xùn)練好的參數(shù)和權(quán)重。本文將訓(xùn)練好的ImageNet模型作為預(yù)訓(xùn)練模型,使用遷移學(xué)習(xí)將原模型的卷積層參數(shù)移植到本模型。其次,異常檢測模型的輸出分類結(jié)果為異常與正常,改進(jìn)后的模型使用二分類的Softmax來代替原網(wǎng)絡(luò)的Softmax分類層。第三,針對異常檢測的特點(diǎn)對原模型全連接層進(jìn)行改進(jìn),將一個(gè)128結(jié)點(diǎn)的全連接層替代原模型的前兩個(gè)全連接層。第四,為了加快模型的訓(xùn)練速度同時(shí)保證模型準(zhǔn)確率,學(xué)習(xí)率的優(yōu)化方法采用RMS(RootMeanSquare),此方法進(jìn)一步優(yōu)化了損失函數(shù)在更新過程中所存在的擺動幅度過大的問題,并加快了函數(shù)的收斂速度,RMS算法對偏置和權(quán)重使用了微分平分加權(quán)平均數(shù)的方法。2訓(xùn)練結(jié)果與分析22.1數(shù)據(jù)集數(shù)據(jù)集選擇為ISCX2012,此數(shù)據(jù)集是由紐布倫斯威克大學(xué)所開發(fā)出的網(wǎng)絡(luò)安全數(shù)據(jù)集,數(shù)據(jù)集內(nèi)包含不同形式的攻擊請求與
【參考文獻(xiàn)】:
期刊論文
[1]基于BP神經(jīng)網(wǎng)絡(luò)的汽車售后業(yè)務(wù)成本預(yù)測[J]. 褚福舜,吳奇石,王浩雨. 現(xiàn)代計(jì)算機(jī). 2019(20)
[2]基于單分類支持向量機(jī)和主動學(xué)習(xí)的網(wǎng)絡(luò)異常檢測研究[J]. 劉敬,谷利澤,鈕心忻,楊義先. 通信學(xué)報(bào). 2015(11)
碩士論文
[1]數(shù)據(jù)驅(qū)動的配件價(jià)值鏈庫存管控技術(shù)研究[D]. 王浩雨.西南交通大學(xué) 2019
[2]基于隱馬爾可夫模型的網(wǎng)絡(luò)安全態(tài)勢預(yù)測方法研究[D]. 張晴.河北師范大學(xué) 2019
[3]基于聚類分析的入侵檢測系統(tǒng)研究與改進(jìn)[D]. 李景超.西安電子科技大學(xué) 2019
本文編號:3130170
【文章來源】:現(xiàn)代計(jì)算機(jī). 2020,(30)
【文章頁數(shù)】:6 頁
【部分圖文】:
ISCX2012數(shù)據(jù)集中的一條請求(XML格式)22.2訓(xùn)練環(huán)境
熵(CrossEntropy),基于Model模塊的Summary函數(shù)可對VGG16模型的各層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行可視化,表1所示為模型中各層結(jié)構(gòu)與參數(shù)(以流量灰度圖分辨率75×75為例)。22.4仿真檢測實(shí)驗(yàn)及結(jié)果訓(xùn)練完成后,如圖6所示為不同輸入圖像分辨率下的誤差情況,共計(jì)進(jìn)行迭代3000次。圖像分辨率為256×256和128×128時(shí),效果并不理想。當(dāng)輸入圖像的分辨率為75×75時(shí),進(jìn)行到2800次迭代時(shí),模型能達(dá)到最小誤差。表1VGG16結(jié)構(gòu)及參數(shù)情況圖6不同圖像分辨率下的誤差情況如圖7所示為模型的準(zhǔn)確率情況。分辨率為128×128和256×256的輸入圖像在迭代次數(shù)為2500次時(shí),達(dá)到最高準(zhǔn)確率大約為75%,而流量灰度圖分辨率為75×75時(shí),在經(jīng)歷2850次迭代后,準(zhǔn)確率達(dá)到91%。綜合模型準(zhǔn)確率和模型誤差的分析,因此流量灰度圖分辨率為75×75時(shí),模型的訓(xùn)練效果最佳。圖7不同圖像分辨率下的準(zhǔn)確率情況
榭魷攏??值為0。通過模型損失函數(shù)的迭代與計(jì)算,參數(shù)將進(jìn)一步優(yōu)化,直到小于指定誤差或達(dá)到最大迭代次數(shù)為止。11.3模型的不足與優(yōu)化在VGG16卷積神經(jīng)網(wǎng)絡(luò)中,每一層網(wǎng)絡(luò)的權(quán)重和結(jié)點(diǎn)值都需要進(jìn)行訓(xùn)練,包含三個(gè)全連接層,而前兩個(gè)全連接層每層都擁有多達(dá)4096個(gè)結(jié)點(diǎn),造成全連接層的訓(xùn)練時(shí)間過長,同時(shí)全連接層也可能會破壞輸入圖片的空間結(jié)構(gòu)。Softmax分類層可分類的數(shù)量為1000,并不符合異常檢測二分類的特點(diǎn)。本文對傳統(tǒng)VGG16模型進(jìn)行改進(jìn),提出改進(jìn)VGG16神經(jīng)網(wǎng)絡(luò)的異常檢測模型,如圖2所示。圖2改進(jìn)后的VGG16異常檢測模型首先,傳統(tǒng)的VGG16深度卷積神經(jīng)網(wǎng)絡(luò)是基于ImageNet圖片數(shù)據(jù)集訓(xùn)練而成,擁有十分強(qiáng)大的特征學(xué)習(xí)能力,特別是卷積層對于輸入圖片的曲線、邊緣和輪廓的提取,在每一層中都擁有已經(jīng)訓(xùn)練好的參數(shù)和權(quán)重。本文將訓(xùn)練好的ImageNet模型作為預(yù)訓(xùn)練模型,使用遷移學(xué)習(xí)將原模型的卷積層參數(shù)移植到本模型。其次,異常檢測模型的輸出分類結(jié)果為異常與正常,改進(jìn)后的模型使用二分類的Softmax來代替原網(wǎng)絡(luò)的Softmax分類層。第三,針對異常檢測的特點(diǎn)對原模型全連接層進(jìn)行改進(jìn),將一個(gè)128結(jié)點(diǎn)的全連接層替代原模型的前兩個(gè)全連接層。第四,為了加快模型的訓(xùn)練速度同時(shí)保證模型準(zhǔn)確率,學(xué)習(xí)率的優(yōu)化方法采用RMS(RootMeanSquare),此方法進(jìn)一步優(yōu)化了損失函數(shù)在更新過程中所存在的擺動幅度過大的問題,并加快了函數(shù)的收斂速度,RMS算法對偏置和權(quán)重使用了微分平分加權(quán)平均數(shù)的方法。2訓(xùn)練結(jié)果與分析22.1數(shù)據(jù)集數(shù)據(jù)集選擇為ISCX2012,此數(shù)據(jù)集是由紐布倫斯威克大學(xué)所開發(fā)出的網(wǎng)絡(luò)安全數(shù)據(jù)集,數(shù)據(jù)集內(nèi)包含不同形式的攻擊請求與
【參考文獻(xiàn)】:
期刊論文
[1]基于BP神經(jīng)網(wǎng)絡(luò)的汽車售后業(yè)務(wù)成本預(yù)測[J]. 褚福舜,吳奇石,王浩雨. 現(xiàn)代計(jì)算機(jī). 2019(20)
[2]基于單分類支持向量機(jī)和主動學(xué)習(xí)的網(wǎng)絡(luò)異常檢測研究[J]. 劉敬,谷利澤,鈕心忻,楊義先. 通信學(xué)報(bào). 2015(11)
碩士論文
[1]數(shù)據(jù)驅(qū)動的配件價(jià)值鏈庫存管控技術(shù)研究[D]. 王浩雨.西南交通大學(xué) 2019
[2]基于隱馬爾可夫模型的網(wǎng)絡(luò)安全態(tài)勢預(yù)測方法研究[D]. 張晴.河北師范大學(xué) 2019
[3]基于聚類分析的入侵檢測系統(tǒng)研究與改進(jìn)[D]. 李景超.西安電子科技大學(xué) 2019
本文編號:3130170
本文鏈接:http://sikaile.net/guanlilunwen/ydhl/3130170.html
最近更新
教材專著