神經(jīng)網(wǎng)絡(luò)雖然在眾多模式識(shí)別任務(wù)中取得了巨大的成功,但是由于其多層的非線性變換結(jié)構(gòu),使得人們難以直觀理解和高效準(zhǔn)確地使用這類模型,該問題在當(dāng)前廣泛使用的深度神經(jīng)網(wǎng)絡(luò)中表現(xiàn)得尤為突出�？梢暬夹g(shù)以其簡(jiǎn)潔直觀的特點(diǎn)成為我們理解復(fù)雜模型工作機(jī)制的重要手段,這使得神經(jīng)網(wǎng)絡(luò)可視化技術(shù)成為深度學(xué)習(xí)中一個(gè)學(xué)術(shù)研究熱點(diǎn)。本文著眼于全連接神經(jīng)網(wǎng)絡(luò)對(duì)原始特征空間的剖分過程,從特征變換、剖分、編碼三個(gè)角度分析了全連接神經(jīng)網(wǎng)絡(luò)在分類過程中的作用。對(duì)網(wǎng)絡(luò)最小的分類單元——胞腔的形成和分解過程進(jìn)行了分析和可視化。借助本文提出的激活編碼的方式,使得我們對(duì)于無法直觀可視化的高維空間的剖分情況能夠進(jìn)行一定程度的了解,并能夠成為定義與討論"壓縮"與"自正則"兩種現(xiàn)象的一種工具。通過分析相同訓(xùn)練數(shù)據(jù)下不同網(wǎng)絡(luò)結(jié)構(gòu)的表現(xiàn)以及相同網(wǎng)絡(luò)結(jié)構(gòu)在不同訓(xùn)練數(shù)據(jù)上的表現(xiàn),揭示了自正則、胞腔數(shù)量以及網(wǎng)絡(luò)學(xué)習(xí)能力之間的聯(lián)系。 

【文章來源】：信號(hào)處理. 2020,36(04)北大核心CSCD

【文章頁(yè)數(shù)】：9 頁(yè)

【部分圖文】：

“同心圓”模擬數(shù)據(jù)示意圖

網(wǎng)絡(luò)結(jié)構(gòu)示意圖

特征空間的分類結(jié)果


本文編號(hào)：3567774