基于小樣本學(xué)習(xí)的高光譜遙感圖像分類算法
發(fā)布時(shí)間:2021-03-10 16:49
高光譜圖像(Hyperspectral Image,HSI)具有豐富的地物空間信息和光譜信息,為地物的精細(xì)分類提供了有利條件.當(dāng)前高光譜遙感圖像分類方法,在標(biāo)記樣本較少的情況下,其分類性能相對(duì)有限.那么,如何充分發(fā)揮小樣本學(xué)習(xí)領(lǐng)域的相關(guān)理論與方法,以提升高光譜遙感圖像分類性能,是一個(gè)意義重要且具有挑戰(zhàn)性的問(wèn)題.為此,本文以標(biāo)記的小樣本為背景,對(duì)現(xiàn)有基于深度學(xué)習(xí)的高光譜遙感圖像分類算法進(jìn)行改進(jìn),其核心思路在于:利用基于深度三維神經(jīng)網(wǎng)絡(luò)的嵌入模型從訓(xùn)練數(shù)據(jù)集中學(xué)習(xí)投影函數(shù),進(jìn)而將視覺(jué)特征映射到語(yǔ)義表示,同時(shí)通過(guò)最小化損失函數(shù)使其類內(nèi)間距較小、類間間距較大,再使用訓(xùn)練好的網(wǎng)絡(luò)嵌入模型將每個(gè)未標(biāo)記的目標(biāo)類表示在相同的嵌入空間中,最后,分別選用歐氏距離和卷積神經(jīng)網(wǎng)絡(luò)作為距離度量方式,計(jì)算嵌入空間中嵌入與類原型之間的距離,從而實(shí)現(xiàn)投影后的樣本分類.本文在印第安松、薩利納斯和帕維亞大學(xué)數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn),其結(jié)果表明改進(jìn)的算法具有較好的高光譜遙感圖像分類性能.
【文章來(lái)源】:聊城大學(xué)學(xué)報(bào)(自然科學(xué)版). 2020,33(06)
【文章頁(yè)數(shù)】:11 頁(yè)
【部分圖文】:
網(wǎng)絡(luò)模型結(jié)構(gòu)
在小樣本分類任務(wù)中,關(guān)鍵在于使用中間層語(yǔ)義表示來(lái)使得源域數(shù)據(jù)與目標(biāo)域數(shù)據(jù)在語(yǔ)義上相關(guān),而這些語(yǔ)義表示通常編碼在高維向量空間中.常見(jiàn)的語(yǔ)義表示包括語(yǔ)義屬性和語(yǔ)義詞向量.給定一個(gè)預(yù)定義的語(yǔ)義表示,各類均能表示為一個(gè)屬性向量或一個(gè)語(yǔ)義詞向量,即類原型.語(yǔ)義表示通常是通用且共享的,可以用來(lái)在訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集之間傳遞知識(shí),從而識(shí)別新的、不可見(jiàn)的類.使用嵌入模型從訓(xùn)練數(shù)據(jù)集中學(xué)習(xí)投影函數(shù),投影函數(shù)將視覺(jué)特征映射為語(yǔ)義表示.利用學(xué)習(xí)到的投影函數(shù)將不可見(jiàn)類的未標(biāo)記樣本表示在同一個(gè)嵌入空間.然后通過(guò)計(jì)算嵌入空間中嵌入與類原型的相似度使用分類模型對(duì)每個(gè)投影后的樣本進(jìn)行分類.受此啟發(fā),基于深度學(xué)習(xí)的HSI小樣本分類算法大致可分為三個(gè)階段.首先,使用基于深度殘差三維卷積神經(jīng)網(wǎng)絡(luò)的嵌入模型從訓(xùn)練數(shù)據(jù)集中學(xué)習(xí)到一個(gè)投影函數(shù),學(xué)習(xí)到的投影函數(shù)能夠?qū)⒁曈X(jué)特征映射到可泛化特征,在訓(xùn)練過(guò)程中通過(guò)最小化損失函數(shù)令投影函數(shù)得到的嵌入特征類內(nèi)間距較小且類間間距較大,且這個(gè)投影函數(shù)將對(duì)訓(xùn)練中沒(méi)有出現(xiàn)的類也執(zhí)行相同的操作.其次,利用預(yù)先訓(xùn)練好的網(wǎng)絡(luò)提取測(cè)試集中每個(gè)樣本的特征.最后,通過(guò)計(jì)算嵌入空間中嵌入與類原型之間的歐氏距離使用最近鄰分類器對(duì)每個(gè)投影后的樣本進(jìn)行分類.之所以算法采用簡(jiǎn)單的最近鄰分類器來(lái)避免搜索額外參數(shù),是因?yàn)閮H有少數(shù)標(biāo)記樣本可用,而常用的分類器(如SVM)需要使用交叉驗(yàn)證來(lái)確定最優(yōu)參數(shù).基于深度學(xué)習(xí)的HSI小樣本分類算法結(jié)構(gòu)如圖1所示.
為了使習(xí)得的投影函數(shù)適用于小樣本分類場(chǎng)景,算法使用抽樣小批量(episode)來(lái)模擬小樣本任務(wù).從訓(xùn)練數(shù)據(jù)集中隨機(jī)抽取一個(gè)類子集形成一個(gè)訓(xùn)練批次來(lái)計(jì)算梯度并更新網(wǎng)絡(luò)參數(shù).對(duì)于每一訓(xùn)練批次,從每一個(gè)類中隨機(jī)抽取一個(gè)樣本作為支持集以模擬測(cè)試數(shù)據(jù)集上進(jìn)行的小樣本分類任務(wù),剩余樣本的子集作為查詢集.將支持集和查詢集的樣本輸入到網(wǎng)絡(luò)中,通過(guò)網(wǎng)絡(luò)提取其嵌入特征.對(duì)于查詢集的每一個(gè)樣本,其類分布函數(shù)基于嵌入空間中與支持集樣本的距離由式(1)[28]計(jì)算得到其中ck表示支持集第k類的深層特征,x表示查詢集樣本的嵌入特征,y表示x的類標(biāo)簽,d(·)為歐氏距離函數(shù).損失函數(shù)如式(2)[28]所示,最小化損失函數(shù)會(huì)使得查詢集樣本的嵌入特征fφ(x)與該樣本對(duì)應(yīng)類k類原型ck之間的距離盡可能小,而與各個(gè)類原型之間的距離盡可能大.
本文編號(hào):3074954
【文章來(lái)源】:聊城大學(xué)學(xué)報(bào)(自然科學(xué)版). 2020,33(06)
【文章頁(yè)數(shù)】:11 頁(yè)
【部分圖文】:
網(wǎng)絡(luò)模型結(jié)構(gòu)
在小樣本分類任務(wù)中,關(guān)鍵在于使用中間層語(yǔ)義表示來(lái)使得源域數(shù)據(jù)與目標(biāo)域數(shù)據(jù)在語(yǔ)義上相關(guān),而這些語(yǔ)義表示通常編碼在高維向量空間中.常見(jiàn)的語(yǔ)義表示包括語(yǔ)義屬性和語(yǔ)義詞向量.給定一個(gè)預(yù)定義的語(yǔ)義表示,各類均能表示為一個(gè)屬性向量或一個(gè)語(yǔ)義詞向量,即類原型.語(yǔ)義表示通常是通用且共享的,可以用來(lái)在訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集之間傳遞知識(shí),從而識(shí)別新的、不可見(jiàn)的類.使用嵌入模型從訓(xùn)練數(shù)據(jù)集中學(xué)習(xí)投影函數(shù),投影函數(shù)將視覺(jué)特征映射為語(yǔ)義表示.利用學(xué)習(xí)到的投影函數(shù)將不可見(jiàn)類的未標(biāo)記樣本表示在同一個(gè)嵌入空間.然后通過(guò)計(jì)算嵌入空間中嵌入與類原型的相似度使用分類模型對(duì)每個(gè)投影后的樣本進(jìn)行分類.受此啟發(fā),基于深度學(xué)習(xí)的HSI小樣本分類算法大致可分為三個(gè)階段.首先,使用基于深度殘差三維卷積神經(jīng)網(wǎng)絡(luò)的嵌入模型從訓(xùn)練數(shù)據(jù)集中學(xué)習(xí)到一個(gè)投影函數(shù),學(xué)習(xí)到的投影函數(shù)能夠?qū)⒁曈X(jué)特征映射到可泛化特征,在訓(xùn)練過(guò)程中通過(guò)最小化損失函數(shù)令投影函數(shù)得到的嵌入特征類內(nèi)間距較小且類間間距較大,且這個(gè)投影函數(shù)將對(duì)訓(xùn)練中沒(méi)有出現(xiàn)的類也執(zhí)行相同的操作.其次,利用預(yù)先訓(xùn)練好的網(wǎng)絡(luò)提取測(cè)試集中每個(gè)樣本的特征.最后,通過(guò)計(jì)算嵌入空間中嵌入與類原型之間的歐氏距離使用最近鄰分類器對(duì)每個(gè)投影后的樣本進(jìn)行分類.之所以算法采用簡(jiǎn)單的最近鄰分類器來(lái)避免搜索額外參數(shù),是因?yàn)閮H有少數(shù)標(biāo)記樣本可用,而常用的分類器(如SVM)需要使用交叉驗(yàn)證來(lái)確定最優(yōu)參數(shù).基于深度學(xué)習(xí)的HSI小樣本分類算法結(jié)構(gòu)如圖1所示.
為了使習(xí)得的投影函數(shù)適用于小樣本分類場(chǎng)景,算法使用抽樣小批量(episode)來(lái)模擬小樣本任務(wù).從訓(xùn)練數(shù)據(jù)集中隨機(jī)抽取一個(gè)類子集形成一個(gè)訓(xùn)練批次來(lái)計(jì)算梯度并更新網(wǎng)絡(luò)參數(shù).對(duì)于每一訓(xùn)練批次,從每一個(gè)類中隨機(jī)抽取一個(gè)樣本作為支持集以模擬測(cè)試數(shù)據(jù)集上進(jìn)行的小樣本分類任務(wù),剩余樣本的子集作為查詢集.將支持集和查詢集的樣本輸入到網(wǎng)絡(luò)中,通過(guò)網(wǎng)絡(luò)提取其嵌入特征.對(duì)于查詢集的每一個(gè)樣本,其類分布函數(shù)基于嵌入空間中與支持集樣本的距離由式(1)[28]計(jì)算得到其中ck表示支持集第k類的深層特征,x表示查詢集樣本的嵌入特征,y表示x的類標(biāo)簽,d(·)為歐氏距離函數(shù).損失函數(shù)如式(2)[28]所示,最小化損失函數(shù)會(huì)使得查詢集樣本的嵌入特征fφ(x)與該樣本對(duì)應(yīng)類k類原型ck之間的距離盡可能小,而與各個(gè)類原型之間的距離盡可能大.
本文編號(hào):3074954
本文鏈接:http://sikaile.net/guanlilunwen/gongchengguanli/3074954.html
最近更新
教材專著