隨著深度學習的不斷發(fā)展,深度學習已經(jīng)在圖像、語言、文本各方面得到比較廣泛的應用。在如今的社會中,深度學習也利用在許多對安全嚴苛的環(huán)境中,在個人的財產(chǎn)和隱私方面也已經(jīng)廣泛的利用到深度學習。目前的研究發(fā)現(xiàn)對抗樣例能夠比較容易欺騙深度學習網(wǎng)絡,能夠使深度學習網(wǎng)絡出現(xiàn)錯誤的分類結(jié)果,甚至能夠產(chǎn)生攻擊者想要的分類結(jié)果,同時人們對對抗樣例的分辨是非常困難的,很多攻擊者產(chǎn)生的對抗樣例是人眼很難分辨的。對抗樣本的脆弱性成為在安全關鍵的情況下應用深度神經(jīng)網(wǎng)絡的主要風險之一。本文以此為前提背景,設計了面向深度學習模型的安全測試平臺,充分解決了人們對深度學習安全問題的知識的不足。本文主要對整個平臺做出仔細的分析,對系統(tǒng)的整體架構(gòu)做出總結(jié),并總結(jié)了目前比較流行的深度學習模型攻擊算法,在此基礎上開發(fā)面向深度學習模型的安全測試平臺。面向深度學習模型的安全測試平臺主要包括用戶登陸注冊模塊、深度學習攻擊模塊、防御模塊、以及評估模塊,攻擊模塊和防御模塊使用當今比較流行的算法。其中利用深度學習模型進行圖片預測產(chǎn)生預測正確的圖片,利用攻擊算法產(chǎn)生對抗樣例,并提供用戶下載。防御模塊利用防御算法產(chǎn)生防御增強模型,使模型能夠更加...

【文章頁數(shù)】：90 頁

【學位級別】：碩士

【部分圖文】：

圖２－１所示：??用???????，???Ｓ?卜型上＃?Ｉ?丨模型防御１丨模型評佔１??面???．．個?

?山東大學碩士學位論文???２．２面向深度學習模型的安全測試平臺描述??２．２．１業(yè)務流程分析??為了方便用戶使用該系統(tǒng)，本節(jié)主要對各個�？爝M行流程分析，并利用流程??圖的方式詳細的描述。首先是系統(tǒng)整體描述，系統(tǒng)主要包括數(shù)據(jù)集層，深度學習??模型的利用以及評估的方法的指標，評估的....

圖２－２攻擊流程圖??攻擊模塊主要是使用深度學習模型預測正確的數(shù)據(jù)集，利用現(xiàn)有的攻擊算法??生成對抗樣例，然后通過這些對抗樣例進行評估，系統(tǒng)設計了對于攻擊的衡量標??

就是用戶的界??面進行各種的操作，操作易上手。??（２）攻擊模塊流程圖??用戶需要登陸系統(tǒng)后才能使用系統(tǒng)所提供的該模塊的功能。用戶可以選擇上??傳自己的深度學習模型，選擇使用攻擊的算法。使用攻擊算法時，主要是利用用??戶上傳的深度學習模型保存文件，系統(tǒng)支持ｐｙｔｏｒｃｈ保存的模型....

圖２－３防御流程圖??用戶登陸后才能夠使用防御模塊的功能，防御模塊主要是實現(xiàn)對模型的防御

影響深度學習模型的預測結(jié)果，展示??出深度學習模型的脆弱性。??在預測完成后，系統(tǒng)設置評估的標準主要包括：ＭＲ：?錯誤分類的概率、??ＡＣＡＣ：對錯誤類的平均預測置信度、ＡＣＴＣ：對正確類的平均預測置信度、ＡＬＤ：??平均Ｌ１或者Ｌ２或者Ｌ無窮范式的失真度量、ＡＳＳ：平均結(jié)構(gòu)的相....

圖２￣４評估流程圖??２．２．２功能性需求??根據(jù)上節(jié)所述，該平臺主要包括普通用戶和管理員兩種角色

?山東大學碩士學位論文???（’開始?１?（?Ｓｉ?、）????．、、?－Ｊ??＜????Ｊ??????????用戶登陸?否?生成對抗樣例——？?——？查看評估效果??：?ｆ￣￣?￣ｆ＾?＾Ｔ￣??否否是??上傳深度學習模?Ｌ?不???型圖片?口??圖２￣４評估流程圖??２．２．....

本文編號：3920532