一種應(yīng)用于遙感圖像分類的遷移學(xué)習(xí)算法
發(fā)布時(shí)間:2021-11-07 05:53
針對(duì)遙感圖像分類中數(shù)據(jù)集小以及數(shù)據(jù)集無(wú)標(biāo)簽等問(wèn)題,利用深度遷移學(xué)習(xí)的思想,將遷移學(xué)習(xí)方法應(yīng)用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練中,以實(shí)現(xiàn)對(duì)遙感圖像數(shù)據(jù)進(jìn)行特征提取及分類。本文結(jié)合殘差網(wǎng)絡(luò)(RTN)和深度相關(guān)對(duì)齊方法(CORAL)將Alexnet模型遷移至遙感圖像分類問(wèn)題中,使得學(xué)習(xí)到的特征不僅具有可分類性,同時(shí)具備域不變性。通過(guò)與Deep CORAL和RTN算法對(duì)比,本文提出的算法具有更好的遷移效果。
【文章來(lái)源】:網(wǎng)絡(luò)新媒體技術(shù). 2020,9(06)
【文章頁(yè)數(shù)】:6 頁(yè)
【部分圖文】:
本文網(wǎng)絡(luò)架構(gòu)圖
目標(biāo)分類器的網(wǎng)絡(luò)結(jié)構(gòu)圖
在深度學(xué)習(xí)中,一個(gè)epoch表示訓(xùn)練集樣本全部完成了一次前向傳播和反向傳播,epoch的大小決定網(wǎng)絡(luò)需要對(duì)訓(xùn)練集的全部樣本進(jìn)行訓(xùn)練的次數(shù)。當(dāng)訓(xùn)練集校本次數(shù)epoch太小時(shí),網(wǎng)絡(luò)訓(xùn)練次數(shù)很少,網(wǎng)絡(luò)無(wú)法擬合到最佳分類狀態(tài);當(dāng)訓(xùn)練集校本次數(shù)epoch太大時(shí),此時(shí)網(wǎng)絡(luò)訓(xùn)練次數(shù)已經(jīng)足夠,網(wǎng)絡(luò)性能也很早便達(dá)到最佳,這時(shí),太大的epoch會(huì)導(dǎo)致運(yùn)行時(shí)間過(guò)長(zhǎng),甚至?xí)斐删W(wǎng)絡(luò)過(guò)擬合現(xiàn)象。因此選擇合適的epoch是非常必要的。圖3為網(wǎng)絡(luò)每次訓(xùn)練后的測(cè)試準(zhǔn)確度,實(shí)驗(yàn)結(jié)果表明當(dāng)訓(xùn)練次數(shù)達(dá)到200次時(shí),神經(jīng)網(wǎng)絡(luò)的測(cè)試準(zhǔn)確度逐漸趨于穩(wěn)定,網(wǎng)絡(luò)的性能不再隨著訓(xùn)練次數(shù)的增加而改善。由實(shí)驗(yàn)結(jié)果可知將訓(xùn)練次數(shù)設(shè)置為200次左右是較合適的,此時(shí)網(wǎng)絡(luò)性能已經(jīng)穩(wěn)定,同時(shí)也避免了較大訓(xùn)練次數(shù)所引起的訓(xùn)練時(shí)間過(guò)長(zhǎng)等問(wèn)題。此外,由于目標(biāo)域的訓(xùn)練樣本和測(cè)試樣本的特征分布不是完全相同的,因此,過(guò)大的訓(xùn)練次數(shù)可能使網(wǎng)絡(luò)過(guò)于擬合訓(xùn)練樣本,存在測(cè)試準(zhǔn)確度降低的可能。所以選擇合適的訓(xùn)練次數(shù)很重要。
【參考文獻(xiàn)】:
期刊論文
[1]遷移學(xué)習(xí)研究進(jìn)展[J]. 莊福振,羅平,何清,史忠植. 軟件學(xué)報(bào). 2015(01)
本文編號(hào):3481292
【文章來(lái)源】:網(wǎng)絡(luò)新媒體技術(shù). 2020,9(06)
【文章頁(yè)數(shù)】:6 頁(yè)
【部分圖文】:
本文網(wǎng)絡(luò)架構(gòu)圖
目標(biāo)分類器的網(wǎng)絡(luò)結(jié)構(gòu)圖
在深度學(xué)習(xí)中,一個(gè)epoch表示訓(xùn)練集樣本全部完成了一次前向傳播和反向傳播,epoch的大小決定網(wǎng)絡(luò)需要對(duì)訓(xùn)練集的全部樣本進(jìn)行訓(xùn)練的次數(shù)。當(dāng)訓(xùn)練集校本次數(shù)epoch太小時(shí),網(wǎng)絡(luò)訓(xùn)練次數(shù)很少,網(wǎng)絡(luò)無(wú)法擬合到最佳分類狀態(tài);當(dāng)訓(xùn)練集校本次數(shù)epoch太大時(shí),此時(shí)網(wǎng)絡(luò)訓(xùn)練次數(shù)已經(jīng)足夠,網(wǎng)絡(luò)性能也很早便達(dá)到最佳,這時(shí),太大的epoch會(huì)導(dǎo)致運(yùn)行時(shí)間過(guò)長(zhǎng),甚至?xí)斐删W(wǎng)絡(luò)過(guò)擬合現(xiàn)象。因此選擇合適的epoch是非常必要的。圖3為網(wǎng)絡(luò)每次訓(xùn)練后的測(cè)試準(zhǔn)確度,實(shí)驗(yàn)結(jié)果表明當(dāng)訓(xùn)練次數(shù)達(dá)到200次時(shí),神經(jīng)網(wǎng)絡(luò)的測(cè)試準(zhǔn)確度逐漸趨于穩(wěn)定,網(wǎng)絡(luò)的性能不再隨著訓(xùn)練次數(shù)的增加而改善。由實(shí)驗(yàn)結(jié)果可知將訓(xùn)練次數(shù)設(shè)置為200次左右是較合適的,此時(shí)網(wǎng)絡(luò)性能已經(jīng)穩(wěn)定,同時(shí)也避免了較大訓(xùn)練次數(shù)所引起的訓(xùn)練時(shí)間過(guò)長(zhǎng)等問(wèn)題。此外,由于目標(biāo)域的訓(xùn)練樣本和測(cè)試樣本的特征分布不是完全相同的,因此,過(guò)大的訓(xùn)練次數(shù)可能使網(wǎng)絡(luò)過(guò)于擬合訓(xùn)練樣本,存在測(cè)試準(zhǔn)確度降低的可能。所以選擇合適的訓(xùn)練次數(shù)很重要。
【參考文獻(xiàn)】:
期刊論文
[1]遷移學(xué)習(xí)研究進(jìn)展[J]. 莊福振,羅平,何清,史忠植. 軟件學(xué)報(bào). 2015(01)
本文編號(hào):3481292
本文鏈接:http://sikaile.net/guanlilunwen/gongchengguanli/3481292.html
最近更新
教材專著