基于感受野集成的卷積神經(jīng)網(wǎng)絡訓練方法研究
發(fā)布時間:2023-06-16 18:49
平移變換是一種在卷積神經(jīng)網(wǎng)絡訓練過程當中廣泛使用的數(shù)據(jù)增強方法。本文用數(shù)學方法分析了平移變換的物理含義,發(fā)現(xiàn)了平移變換的方法會使卷積神經(jīng)網(wǎng)絡在訓練過程當中關注于訓練圖片中心區(qū)域的特征,從而使得卷積神經(jīng)網(wǎng)絡的感受野變得不均勻。如果用厚度表示感受野各區(qū)域被關注的程度,則平移變換使卷積神經(jīng)網(wǎng)絡在訓練過程當中的感受野呈現(xiàn)出中間高、四周低的“金字塔”型分布。人類的視網(wǎng)膜的感受野各區(qū)域的分辨率是不相同的:中心的中央黃斑區(qū)提供了整個視網(wǎng)膜最高的分辨率,而其它區(qū)域的分辨率顯著地低于中央黃斑區(qū)。本文對普遍意義上的圖像各區(qū)域所包含的特征的關鍵性進行了分析,并提出了如下假設:相比于邊緣區(qū)域,圖像的中心區(qū)域更有可能包含關鍵性的特征。本文通過較為完備的實驗驗證了這個假設。以這個假設為基礎,通過運用平移變換的方法,本文設計了一種新的針對卷積神經(jīng)網(wǎng)絡圖像分類器的感受野集成訓練方法。這種訓練方法將整個訓練過程劃分為若干階段,每個階段對應于不同的感受野和學習率。具體地說,在訓練的開始階段,卷積神經(jīng)網(wǎng)絡關注于圖像最中心區(qū)域的特征,此時學習率最高;隨著訓練的進行,卷積神經(jīng)網(wǎng)絡關注的區(qū)域由中心向其它區(qū)域擴散,此時學習率逐漸降...
【文章頁數(shù)】:54 頁
【學位級別】:碩士
【文章目錄】:
摘要
Abstract
第一章 緒論
1.1 研究背景與意義
1.1.1 研究背景
1.1.2 研究意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 研究現(xiàn)狀
1.2.2 存在的問題
1.3 主要研究內(nèi)容與創(chuàng)新點
1.4 論文組織結構
第二章 平移變換的數(shù)據(jù)增強方法及其對感受野的影響
2.1 平移變換的數(shù)據(jù)增強方法
2.2 平移變換的實現(xiàn)方式
2.3 平移變換對感受野的影響
2.4 本章小結
第三章 圖像不同區(qū)域信息關鍵性分析
3.1 視網(wǎng)膜與感受野
3.2 驗證假設的方式
3.3 兩種不同結構的卷積神經(jīng)網(wǎng)絡
3.4 實驗設計
3.5 實驗結果及其分析
3.6 本章小結
第四章 感受野集成的訓練方法
4.1 神經(jīng)網(wǎng)絡訓練的不同階段
4.2 方法提出的動機
4.3 方法的實現(xiàn)
4.4 實驗設計
4.5 實驗結果及其分析
4.6 感受野集成的訓練方法的實質
4.7 本章小結
第五章 總結與展望
5.1 論文總結
5.2 研究展望
參考文獻
攻讀碩士學位期間完成的科研成果
致謝
本文編號:3833777
【文章頁數(shù)】:54 頁
【學位級別】:碩士
【文章目錄】:
摘要
Abstract
第一章 緒論
1.1 研究背景與意義
1.1.1 研究背景
1.1.2 研究意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 研究現(xiàn)狀
1.2.2 存在的問題
1.3 主要研究內(nèi)容與創(chuàng)新點
1.4 論文組織結構
第二章 平移變換的數(shù)據(jù)增強方法及其對感受野的影響
2.1 平移變換的數(shù)據(jù)增強方法
2.2 平移變換的實現(xiàn)方式
2.3 平移變換對感受野的影響
2.4 本章小結
第三章 圖像不同區(qū)域信息關鍵性分析
3.1 視網(wǎng)膜與感受野
3.2 驗證假設的方式
3.3 兩種不同結構的卷積神經(jīng)網(wǎng)絡
3.4 實驗設計
3.5 實驗結果及其分析
3.6 本章小結
第四章 感受野集成的訓練方法
4.1 神經(jīng)網(wǎng)絡訓練的不同階段
4.2 方法提出的動機
4.3 方法的實現(xiàn)
4.4 實驗設計
4.5 實驗結果及其分析
4.6 感受野集成的訓練方法的實質
4.7 本章小結
第五章 總結與展望
5.1 論文總結
5.2 研究展望
參考文獻
攻讀碩士學位期間完成的科研成果
致謝
本文編號:3833777
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3833777.html
最近更新
教材專著