卷積神經(jīng)網(wǎng)絡(luò)作為神經(jīng)網(wǎng)絡(luò)模型中的一個(gè)重要分支,由于其良好的性能而被廣泛的應(yīng)用在圖像識(shí)別、自動(dòng)駕駛、癌癥檢測(cè)以及語義分析等領(lǐng)域。然而由于當(dāng)前對(duì)于網(wǎng)絡(luò)內(nèi)部的運(yùn)行機(jī)理并沒有完善的解釋,使用者利用神經(jīng)網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)分析時(shí)普遍將模型視為一個(gè)“黑箱”,這會(huì)導(dǎo)致當(dāng)實(shí)際需求發(fā)生變化時(shí),使用者難以對(duì)模型做出相應(yīng)的修改以達(dá)到滿意的效果。常用的提高模型性能的方法之一是對(duì)模型的相關(guān)參數(shù)值進(jìn)行修改,該方法操作簡(jiǎn)單,可行性較高,然而目前關(guān)于參數(shù)對(duì)于網(wǎng)絡(luò)的影響方式并沒有完善的解釋,因此修改參數(shù)的工作大部分時(shí)候都處于一種“試錯(cuò)”的狀態(tài)。為了解決上述問題,本文設(shè)計(jì)并實(shí)現(xiàn)了一種基于差異分析的卷積神經(jīng)網(wǎng)絡(luò)可視化分析系統(tǒng)DiffCNNVis,旨在幫助用戶理解卷積網(wǎng)絡(luò)的各種參數(shù)是通過何種形式來影響網(wǎng)絡(luò)的。本文的核心思想在于通過單一變量實(shí)驗(yàn)對(duì)比兩個(gè)參數(shù)不同的卷積神經(jīng)網(wǎng)絡(luò)的內(nèi)部信息,并對(duì)相應(yīng)信息差異進(jìn)行可視化展示來反映該參數(shù)對(duì)網(wǎng)絡(luò)的作用方式。本文設(shè)計(jì)了用于對(duì)照的基準(zhǔn)網(wǎng)絡(luò),并且在此網(wǎng)絡(luò)的基礎(chǔ)上對(duì)例如激活函數(shù)、卷積層結(jié)構(gòu)、學(xué)習(xí)率、丟棄率等參數(shù)進(jìn)行修改,以此獲取實(shí)驗(yàn)對(duì)照網(wǎng)絡(luò),之后在實(shí)驗(yàn)中提取網(wǎng)絡(luò)內(nèi)部例如卷積核張量以及卷積層輸出特征等隱藏信... 

【文章來源】：浙江工業(yè)大學(xué)浙江省

【文章頁數(shù)】：59 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

CNNVis界面圖

圖 1-2 RNNVis 界面圖[48]Figure 1-2 .RNNVis interface diagram[48]Wongsuphasawat 等設(shè)計(jì)實(shí)現(xiàn)了 TensorFlow 機(jī)器學(xué)習(xí)框架[51]中的可視化插件TesnsorFlow Graph Visualizer。他們通過一系列的圖形轉(zhuǎn)換，使得標(biāo)準(zhǔn)布局技術(shù)能夠生成清晰的可交互圖形，包括將網(wǎng)絡(luò)中的關(guān)鍵節(jié)點(diǎn)與非關(guān)鍵節(jié)點(diǎn)進(jìn)行分離以分解網(wǎng)絡(luò)，使用原代碼中的注釋層次結(jié)構(gòu)來構(gòu)建集群圖表以提供概覽，使用邊捆綁實(shí)現(xiàn)高穩(wěn)定且響應(yīng)靈敏的聚類擴(kuò)展方式以支持層次化的探索需求，對(duì)重復(fù)結(jié)構(gòu)進(jìn)行檢測(cè)和高亮展示以強(qiáng)調(diào)網(wǎng)絡(luò)的模塊組成結(jié)構(gòu)等。該工作能夠幫助使用者調(diào)試和理解網(wǎng)絡(luò)模型結(jié)構(gòu)。Strobelt 等[52]設(shè)計(jì)實(shí)現(xiàn)了 LSTM 網(wǎng)絡(luò)的可視化分析工具 LSTMVis。他們給出了 RNN 中域的相關(guān)描述并且分析了網(wǎng)絡(luò)中各個(gè)模塊的任務(wù)和職責(zé)，在這些概念的基礎(chǔ)上，該工具允許使用者設(shè)置假設(shè)的輸入范圍以獲取局部特征值的變化，并對(duì)這些狀態(tài)的變化情況與大數(shù)據(jù)集中的類似模式相匹配以進(jìn)行更進(jìn)一步的分析。上述提到的深度神經(jīng)網(wǎng)絡(luò)可視分析相關(guān)工作從各個(gè)角度對(duì)網(wǎng)絡(luò)的內(nèi)部運(yùn)行機(jī)理進(jìn)行了解釋，包括展示網(wǎng)絡(luò)的運(yùn)行結(jié)構(gòu)圖、給出網(wǎng)絡(luò)的隱藏層信息、對(duì)提取

浙江工業(yè)大學(xué)碩士學(xué)位論文第二章 卷積神經(jīng)網(wǎng)絡(luò)可視分析相關(guān)技術(shù)2.1 卷積神經(jīng)網(wǎng)絡(luò)相關(guān)原理2.1.1 神經(jīng)網(wǎng)絡(luò)的定義和運(yùn)行原理神經(jīng)網(wǎng)絡(luò)是一種受到生物神經(jīng)系統(tǒng)的啟發(fā)可以自主進(jìn)行參數(shù)擬合調(diào)整的函數(shù)模型，神經(jīng)網(wǎng)絡(luò)模型由多個(gè)神經(jīng)元組成，神經(jīng)元是網(wǎng)絡(luò)的基本計(jì)算單元，外部的輸入信號(hào)進(jìn)入神經(jīng)元后會(huì)產(chǎn)生相應(yīng)的輸出，兩個(gè)神經(jīng)元之間的連接都表示通過該連接的信號(hào)的加權(quán)值。當(dāng)信號(hào)加權(quán)傳入到神經(jīng)元內(nèi)部后，神經(jīng)元會(huì)對(duì)其進(jìn)行計(jì)算，過程如圖 2-1 所示。


本文編號(hào)：2977897