近年來人工智能技術(shù)得到了快速發(fā)展,深度學(xué)習(xí)作為人工智能研究領(lǐng)域的一個(gè)重要方法,在人臉識(shí)別、圖像分類等方面取得了許多突破性的進(jìn)展,但同時(shí)面臨著模型結(jié)構(gòu)復(fù)雜、參數(shù)量級(jí)高、測(cè)試數(shù)據(jù)量大等難題,在一定程度上限制了深度學(xué)習(xí)方法的快速推廣。深度學(xué)習(xí)的可視化技術(shù)能夠提升神經(jīng)網(wǎng)絡(luò)的可讀性,簡(jiǎn)化網(wǎng)絡(luò)的理解過程,可以加快深度學(xué)習(xí)領(lǐng)域的研究進(jìn)展,然而現(xiàn)有的可視化技術(shù)只能實(shí)現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)的圖形化,存在功能單一、框架依賴度高等缺點(diǎn),使得深度學(xué)習(xí)算法研究的有效性受到抑制。為了有效提升深度學(xué)習(xí)算法研究的快速性和便捷性,論文在探索網(wǎng)絡(luò)模型訓(xùn)練與分析的可視化方案基礎(chǔ)上,提出了一種針對(duì)Caffe深度學(xué)習(xí)架構(gòu)的網(wǎng)絡(luò)編輯與模型訓(xùn)練分析的可視化解決方案CaffePanel。論文主要工作有以下幾點(diǎn):（1）獨(dú)創(chuàng)地設(shè)計(jì)了Caffe框架在Web平臺(tái)上的網(wǎng)絡(luò)解析與圖形化編輯模型,融合模板語法特性與虛擬文檔思想優(yōu)化圖形化速度,提出高速Caffe網(wǎng)絡(luò)可視化與編輯機(jī)制;（2）結(jié)合前后端交互技術(shù)形成了可視化、可監(jiān)控的Caffe網(wǎng)絡(luò)訓(xùn)練調(diào)試機(jī)制,針對(duì)網(wǎng)絡(luò)訓(xùn)練過程中的收斂性進(jìn)行研究,設(shè)計(jì)了一種網(wǎng)絡(luò)隱藏層的收斂性評(píng)估算法;（3）CaffePanel方案的... 

【文章來源】：東南大學(xué)江蘇省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：80 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

010~2016年NIPS投稿論文數(shù)量[7]

第一章緒論31.2國內(nèi)外研究現(xiàn)狀深度學(xué)習(xí)涉及的數(shù)據(jù)十分龐大，層次結(jié)構(gòu)非常復(fù)雜，因此不論是對(duì)訓(xùn)練結(jié)果的研究，還是對(duì)每個(gè)卷積層濾波效果的分析都存在一定的困難。同時(shí)復(fù)雜的網(wǎng)絡(luò)模型僅通過文本開發(fā)的方式，也難以確保開發(fā)人員編輯的準(zhǔn)確性，更難以讓其他人員快速理解網(wǎng)絡(luò)模型結(jié)構(gòu)�？梢暬椒ㄍㄟ^對(duì)模型和數(shù)據(jù)進(jìn)行統(tǒng)計(jì)與轉(zhuǎn)換，生成易于理解的結(jié)果報(bào)告，可便于開發(fā)人員進(jìn)行快速學(xué)習(xí)與改進(jìn)。因此，深度學(xué)習(xí)可視化一直是該領(lǐng)域內(nèi)的一個(gè)重要的研究方向。(1)可視化。深度學(xué)習(xí)的可視化研究和開發(fā)主要分為兩大類：1、網(wǎng)絡(luò)模型可視化/2、訓(xùn)練、預(yù)測(cè)的數(shù)據(jù)可視化。針對(duì)網(wǎng)絡(luò)模型的可視化，不同的深度學(xué)習(xí)框架集成了各自特有的的可視化方案。目前主流的深度學(xué)習(xí)框架都有自帶的專有可視化工具，如TensorFlow[11]使用TensorBoard，Keras[12]使用graphviz進(jìn)行可視化，具有本地分割模型、生成網(wǎng)絡(luò)框圖等功能，便于開發(fā)者理解網(wǎng)絡(luò)模型的整體結(jié)構(gòu)。TensorBoard是谷歌發(fā)布的TensorFlow深度學(xué)習(xí)框架的可視化插件。Tensor意為流動(dòng)的張量，從圖1-2中，使用者能夠直接地看到數(shù)據(jù)在設(shè)計(jì)的模型中是如何流動(dòng)的，從而理解流動(dòng)張量的意義。對(duì)于訓(xùn)練、預(yù)測(cè)的數(shù)據(jù)可視化，目前主要采用經(jīng)典的可視化工具，如OpenCV，Matlab等。這類工具發(fā)展相對(duì)完善，不論在C++、Python還是java語言下都有相對(duì)應(yīng)的移植庫，OpenCV更是圖像方面深度學(xué)習(xí)必不可少的工具之一，很多模型中都需要使用OpenCV對(duì)數(shù)據(jù)集進(jìn)行預(yù)處理[13]。然而對(duì)于初學(xué)者來說使用上相對(duì)麻煩，不僅需要自己圖1-2Tensorboard模型可視化網(wǎng)絡(luò)

東南大學(xué)碩士學(xué)位論文4從框架中提取出數(shù)據(jù)，還需要自己通過大段代碼實(shí)現(xiàn)所需功能，從而增加了額外的學(xué)習(xí)成本。圖1-3展示了對(duì)訓(xùn)練過程模型損失的可視化分析。圖1-3訓(xùn)練過程模型損失的數(shù)據(jù)可視化(2)基于Web平臺(tái)的可視化研究。隨著互聯(lián)網(wǎng)的高速發(fā)展，Web平臺(tái)憑借其高兼容、無需安裝直接運(yùn)行的特性，吸引越來越多的應(yīng)用轉(zhuǎn)移到Web端進(jìn)行開發(fā)，在Web平臺(tái)上，基于點(diǎn)圖模塊Canvas和可縮放矢量圖形（SVG），誕生了眾多的可視化工具，如最常用的D3js，此外還有更多的集成庫在D3js的基礎(chǔ)上進(jìn)一步封裝，共同構(gòu)建出符合應(yīng)用需要的開發(fā)頁面[14]。因此，針對(duì)深度學(xué)習(xí)理論和技術(shù)使用Web平臺(tái)進(jìn)行可視化開發(fā)技術(shù)正處在快速發(fā)展中。(3)深度學(xué)習(xí)框架(Caffe)在Web平臺(tái)上的可視化研究現(xiàn)狀Caffe作為一款開源的深度學(xué)習(xí)框架，與其他框架相比代碼開源，訓(xùn)練加速效果較好，上手更加快速，社區(qū)更成熟，是目前較為主流經(jīng)典的一種，得到了廣泛地運(yùn)用，因此有更多的開發(fā)者基于Caffe進(jìn)行深度學(xué)習(xí)的可視化研究，針對(duì)Caffe深度學(xué)習(xí)框架的Web可視化研究已有一定的進(jìn)展[15]。目前運(yùn)用較廣泛的是一個(gè)Web平臺(tái)上的模型分析工具NetScope，它能在Web上分析Caffe框架的模型，并進(jìn)行可視化排列。在github上也出現(xiàn)了其他開發(fā)者對(duì)NetScope的拓展，主要是添加了網(wǎng)絡(luò)層的參數(shù)分析。NetScope對(duì)模型的解析，采用了ChristophKrner的prototxt-parser庫，ChristophKrner自己在2017年末也完成過Caffejs的設(shè)計(jì)[16]。Caffejs不僅利用了NetScope的部分功能，它還整合了convnetjs，實(shí)現(xiàn)了在線預(yù)測(cè)，通過下載訓(xùn)練好的分類模型，用Web瀏覽器來預(yù)測(cè)圖片內(nèi)容。盡管如此，現(xiàn)有Caffe的可視化方案還存在許多不足之處，比如只能實(shí)現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)的圖形化，存在功能單一、框架依賴度高等缺點(diǎn)，使得深度學(xué)習(xí)算

【參考文獻(xiàn)】：
期刊論文
[1]基于MongoDB的數(shù)據(jù)分片與分配策略研究[J]. 熊峰,劉宇.  計(jì)算機(jī)與數(shù)字工程. 2019(04)
[2]基于Python語言及Flask框架的微機(jī)實(shí)驗(yàn)室管理系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[J]. 艾纓東,李建兵,韓英杰.  信息與電腦(理論版). 2019(06)
[3]基于Web的數(shù)據(jù)可視化教學(xué)系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[J]. 劉霞,張威.  電子設(shè)計(jì)工程. 2019(05)
[4]基于卷積神經(jīng)網(wǎng)絡(luò)圖像識(shí)別算法的加速實(shí)現(xiàn)方法[J]. 秦東輝,周輝,趙雄波,柳柱.  航天控制. 2019(01)
[5]基于Python的數(shù)據(jù)分析概述[J]. 翟高粵.  甘肅科技縱橫. 2018(11)
[6]2018年核心信息技術(shù)展望[J]. 樊凱.  互聯(lián)網(wǎng)經(jīng)濟(jì). 2018(Z1)
[7]Web前端開發(fā)技術(shù)的演化與MVVM設(shè)計(jì)模式研究[J]. 李嘉,趙凱強(qiáng),李長(zhǎng)云.  電腦知識(shí)與技術(shù). 2018(02)
[8]深度學(xué)習(xí)算法在智能裝備中的應(yīng)用[J]. 沈玉玲,楊俊杰,丘盛昌.  裝備機(jī)械. 2017(04)
[9]Python語言的Web開發(fā)應(yīng)用[J]. 朱贇.  電腦知識(shí)與技術(shù). 2017(32)
[10]深度學(xué)習(xí)在目標(biāo)視覺檢測(cè)中的應(yīng)用進(jìn)展與展望[J]. 張慧,王坤峰,王飛躍.  自動(dòng)化學(xué)報(bào). 2017(08)



本文編號(hào)：3595837