基于深度學習模型的圖像分類器具有優(yōu)良分類能力,但同時存在安全隱患,例如在原始圖像樣本上疊加微小擾動會使分類器產(chǎn)生分類偏差,攻擊者利用該隱患對目標模型分類器進行攻擊,稱為對抗樣本攻擊,疊加擾動后的樣本稱為對抗樣本。對抗攻擊的本質(zhì)是尋求最優(yōu)擾動,使得對抗樣本既能誤導目標模型分類器且失真程度最小,即同時優(yōu)化對抗攻擊能力及對抗樣本視覺質(zhì)量。多數(shù)攻擊場景下,攻擊者對目標模型的了解十分有限,導致攻擊者只能進行黑盒攻擊。一類通用的黑盒攻擊算法基于迭代尋優(yōu)思想,通過不斷查詢目標模型分類器的分類結(jié)果動態(tài)調(diào)整擾動,最終實現(xiàn)對抗攻擊。如何在有限次數(shù)的訪問查詢目標模型分類器的基礎上獲得最優(yōu)擾動是實現(xiàn)對抗攻擊的關(guān)鍵所在。針對現(xiàn)有黑盒攻擊算法難以同時優(yōu)化對抗攻擊能力及對抗樣本視覺質(zhì)量的問題,本文提出基于多目標進化的圖像對抗樣本生成框架（MOEA-AEGF）。框架將對抗擾動編碼成染色體個體,基于Pareto多目標進化理論尋優(yōu),尋優(yōu)結(jié)果為一組具有多樣性的Pareto最優(yōu)擾動,攻擊者能夠根據(jù)主觀偏好制定篩選策略最終確定對抗擾動進而實施對抗攻擊。本文對所提框架中的個體編碼、個體適應度評估、進化策略等模塊展開研究,提出了M... 

【文章來源】：哈爾濱工業(yè)大學黑龍江省 211工程院校 985工程院校

【文章頁數(shù)】：68 頁

【學位級別】：碩士

【部分圖文】：

切比雪夫聚合法進化示意圖

3.2 基于多目標進化模型的黑盒圖像對抗攻擊框架 基于多目標進化模型的黑盒圖像對抗攻擊框架（An Adversarial Examples Generation Framework Based on A Multi-objective Evolutionary，MOEA-AEGF）。針對圖像分類問題，對抗樣本的生成可以通過在原始圖像上疊加擾動噪聲實現(xiàn)，擾動噪聲影響分類器過程中的計算結(jié)果從而使分類器最終造成誤分類。在實際攻擊場景下，攻擊者期望生成的對抗樣本與原始樣本盡可能的相似，來保證對抗樣本的視覺質(zhì)量，由此可知，對抗樣本生成過程的關(guān)鍵問題是如何尋求得到最優(yōu)的對抗擾動。 種群初始化

多樣性的輔助策略等內(nèi)容；最后在 3.4 節(jié)中對本章所研究內(nèi)容進行簡短的總結(jié)。 3.2 基于多目標進化模型的黑盒圖像對抗攻擊框架 基于多目標進化模型的黑盒圖像對抗攻擊框架（An Adversarial Examples Generation Framework Based on A Multi-objective Evolutionary，MOEA-AEGF）。針對圖像分類問題，對抗樣本的生成可以通過在原始圖像上疊加擾動噪聲實現(xiàn)，擾動噪聲影響分類器過程中的計算結(jié)果從而使分類器最終造成誤分類。在實際攻擊場景下，攻擊者期望生成的對抗樣本與原始樣本盡可能的相似，來保證對抗樣本的視覺質(zhì)量，由此可知，對抗樣本生成過程的關(guān)鍵問題是如何尋求得到最優(yōu)的對抗擾動。 種群初始化

【參考文獻】：
期刊論文
[1]基于深度學習的工業(yè)車輛駕駛行為識別[J]. 李俊杰,鄧海勤,高志勇,張勇.  信息通信技術(shù). 2019(01)
[2]多目標優(yōu)化問題的研究概述[J]. 肖曉偉,肖迪,林錦國,肖玉峰.  計算機應用研究. 2011(03)



本文編號：3532173