神經(jīng)網(wǎng)絡(luò)算法的一種自適應(yīng)卷積核
發(fā)布時(shí)間:2023-04-10 01:50
隨著計(jì)算機(jī)的發(fā)展以及大數(shù)據(jù)時(shí)代的到來(lái),深度學(xué)習(xí)技術(shù)廣泛應(yīng)用于圖像識(shí)別、目標(biāo)檢測(cè)和自動(dòng)駕駛等眾多人工智能的相關(guān)領(lǐng)域。卷積神經(jīng)網(wǎng)絡(luò)作為最重要的深度學(xué)習(xí)模型,能夠自動(dòng)提取二維數(shù)據(jù)當(dāng)中的特征,取代傳統(tǒng)方法的繁雜人工特征設(shè)計(jì),相比傳統(tǒng)的全連接極大的減少模型的參數(shù)。本文針對(duì)卷積神經(jīng)網(wǎng)絡(luò),主要研究一種自適應(yīng)卷積核。首先,設(shè)計(jì)了一種新的自適應(yīng)卷積核。傳統(tǒng)卷積核的參數(shù)由全局特征信息決定,較難提取局部特征信息,從而導(dǎo)致一定程度的特征圖的信息模糊化等問題。為此,本文提出一種新的自適應(yīng)卷積核,其核參數(shù)自適應(yīng)依賴特征圖的局部信息,能夠很好地提高卷積核提取局部細(xì)節(jié)特征的能力,從而有效地克服了傳統(tǒng)卷積核的不足。其次,推導(dǎo)了基于自適應(yīng)卷積核的網(wǎng)絡(luò)層的反向傳播算法。我們考慮5×5的灰度圖作為輸入,以大小為3×3的自適應(yīng)卷積核為例,給出了其核參數(shù)的梯度計(jì)算公式,并詳細(xì)推導(dǎo)了自適應(yīng)卷積層的誤差反向傳播公式。最后,基于mnist手寫數(shù)據(jù)集,通過與傳統(tǒng)卷積網(wǎng)絡(luò)模型的比較,驗(yàn)證了基于自適應(yīng)卷積核的卷積神經(jīng)網(wǎng)絡(luò)模型的有效性。我們研究了卷積核大小、卷積步長(zhǎng)、卷積核個(gè)數(shù)、卷積核參數(shù)的影響,結(jié)果表明其在精度上優(yōu)于傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)模型。進(jìn)...
【文章頁(yè)數(shù)】:65 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
abstract
第1章 緒論
1.1 研究背景
1.2 研究現(xiàn)狀
1.3 主要工作和內(nèi)容結(jié)構(gòu)
1.3.1 主要工作
1.3.2 內(nèi)容結(jié)構(gòu)
第2章 預(yù)備知識(shí)
2.1 神經(jīng)網(wǎng)絡(luò)
2.1.1 神經(jīng)網(wǎng)絡(luò)的基本概念
2.1.2 神經(jīng)網(wǎng)絡(luò)的反向傳播算法
2.2 卷積神經(jīng)網(wǎng)絡(luò)
2.2.1 卷積神經(jīng)網(wǎng)絡(luò)基本概念
2.2.2 卷積神經(jīng)網(wǎng)絡(luò)的反向傳播算法
2.3 數(shù)據(jù)集介紹
2.3.1 數(shù)據(jù)集簡(jiǎn)介
2.3.2 數(shù)據(jù)預(yù)處理
2.4 本章小結(jié)
第3章 自適應(yīng)卷積核
3.1 自適應(yīng)卷積核的設(shè)計(jì)
3.2 自適應(yīng)卷積層的前向傳播算法
3.3 自適應(yīng)卷積層的反向傳播算法
3.3.1 自適應(yīng)卷積核參數(shù)的梯度計(jì)算
3.3.2 自適應(yīng)卷積層的誤差反向傳播
3.4 本章小結(jié)
第4章 數(shù)值實(shí)驗(yàn)
4.1 實(shí)驗(yàn)1:不同卷積核大小對(duì)比實(shí)驗(yàn)
4.2 實(shí)驗(yàn)2:較大卷積步長(zhǎng)對(duì)比實(shí)驗(yàn)
4.3 實(shí)驗(yàn)3:多核卷積對(duì)比實(shí)驗(yàn)
4.4 實(shí)驗(yàn)4:同卷積核參數(shù)對(duì)比實(shí)驗(yàn)
4.5 實(shí)驗(yàn)5:卷積特征圖對(duì)比實(shí)驗(yàn)
4.6 實(shí)驗(yàn)6:經(jīng)典網(wǎng)絡(luò)LeNet對(duì)比實(shí)驗(yàn)
4.7 本章小結(jié)
第5章 總結(jié)與展望
5.1 總結(jié)
5.2 展望
參考文獻(xiàn)
致謝
本文編號(hào):3788110
【文章頁(yè)數(shù)】:65 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
abstract
第1章 緒論
1.1 研究背景
1.2 研究現(xiàn)狀
1.3 主要工作和內(nèi)容結(jié)構(gòu)
1.3.1 主要工作
1.3.2 內(nèi)容結(jié)構(gòu)
第2章 預(yù)備知識(shí)
2.1 神經(jīng)網(wǎng)絡(luò)
2.1.1 神經(jīng)網(wǎng)絡(luò)的基本概念
2.1.2 神經(jīng)網(wǎng)絡(luò)的反向傳播算法
2.2 卷積神經(jīng)網(wǎng)絡(luò)
2.2.1 卷積神經(jīng)網(wǎng)絡(luò)基本概念
2.2.2 卷積神經(jīng)網(wǎng)絡(luò)的反向傳播算法
2.3 數(shù)據(jù)集介紹
2.3.1 數(shù)據(jù)集簡(jiǎn)介
2.3.2 數(shù)據(jù)預(yù)處理
2.4 本章小結(jié)
第3章 自適應(yīng)卷積核
3.1 自適應(yīng)卷積核的設(shè)計(jì)
3.2 自適應(yīng)卷積層的前向傳播算法
3.3 自適應(yīng)卷積層的反向傳播算法
3.3.1 自適應(yīng)卷積核參數(shù)的梯度計(jì)算
3.3.2 自適應(yīng)卷積層的誤差反向傳播
3.4 本章小結(jié)
第4章 數(shù)值實(shí)驗(yàn)
4.1 實(shí)驗(yàn)1:不同卷積核大小對(duì)比實(shí)驗(yàn)
4.2 實(shí)驗(yàn)2:較大卷積步長(zhǎng)對(duì)比實(shí)驗(yàn)
4.3 實(shí)驗(yàn)3:多核卷積對(duì)比實(shí)驗(yàn)
4.4 實(shí)驗(yàn)4:同卷積核參數(shù)對(duì)比實(shí)驗(yàn)
4.5 實(shí)驗(yàn)5:卷積特征圖對(duì)比實(shí)驗(yàn)
4.6 實(shí)驗(yàn)6:經(jīng)典網(wǎng)絡(luò)LeNet對(duì)比實(shí)驗(yàn)
4.7 本章小結(jié)
第5章 總結(jié)與展望
5.1 總結(jié)
5.2 展望
參考文獻(xiàn)
致謝
本文編號(hào):3788110
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3788110.html
最近更新
教材專著