高光譜圖像分類一直是遙感領(lǐng)域的研究熱點(diǎn),高光譜遙感圖像包含地物的光譜信息及空間信息,可以利用這些信息對(duì)地物進(jìn)行分類與識(shí)別。在過去的20年中,提出了很多分類及特征提取方法,例如最近鄰分類器、支持向量機(jī)分類器、基于主成分分析的線性降維以及基于流形學(xué)習(xí)的非線性降維等方法。但是無論是分類器還是特征提取,都處于淺層的級(jí)別。如何提取深層的特征,使得特征更加抽象更易于分類,是當(dāng)今機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn)。深度學(xué)習(xí)便是解決這個(gè)問題的新方向,也是近年來機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn)。深度學(xué)習(xí)可以構(gòu)建深度網(wǎng)絡(luò),增大模型的參數(shù)量,使模型可以記住更多的訓(xùn)練數(shù)據(jù)。同時(shí),如何針對(duì)具體的問題構(gòu)建網(wǎng)絡(luò),也是深度學(xué)習(xí)的研究?jī)?nèi)容之一。隨著網(wǎng)絡(luò)層數(shù)的增多,以往的訓(xùn)練方法可能無法訓(xùn)練出更好的網(wǎng)絡(luò)參數(shù),新的訓(xùn)練技術(shù)是解決問題的根本。除此之外,網(wǎng)絡(luò)模型變大也同樣增加了計(jì)算量,降低了使用時(shí)的效率,如何提高網(wǎng)絡(luò)執(zhí)行的速度也是實(shí)際應(yīng)用中很重要的環(huán)節(jié)。論文首先介紹自編碼器這種經(jīng)典的深度學(xué)習(xí)網(wǎng)絡(luò)模型；其次,基于多層感知器模型,討論多種網(wǎng)絡(luò)優(yōu)化策略,以提高網(wǎng)絡(luò)執(zhí)行效率以及提高網(wǎng)絡(luò)分類性能,并基于這種優(yōu)化的多層感知器對(duì)高光譜遙感圖像進(jìn)行分類；然后,針對(duì)高光譜遙感圖像的特點(diǎn),綜合利用數(shù)據(jù)光譜信息和空間信息,基于兩種深度網(wǎng)絡(luò)模型(優(yōu)化的多層感知器和卷積神經(jīng)網(wǎng)絡(luò))對(duì)高光譜圖像進(jìn)行分類；最后對(duì)多時(shí)相高光譜遙感圖像分類問題,基于優(yōu)化的多層感知器,加入類心對(duì)齊策略,構(gòu)造深度遷移網(wǎng)絡(luò),實(shí)現(xiàn)遷移學(xué)習(xí)的目的。論文主要研究工作如下：首先介紹深度學(xué)習(xí)領(lǐng)域的經(jīng)典算法：棧式自編碼器,這種算法很好地闡述了預(yù)訓(xùn)練與微調(diào)的作用。自編碼器通過逐層的無監(jiān)督預(yù)訓(xùn)練來初始化網(wǎng)絡(luò)的模型參數(shù),再通過有監(jiān)督的微調(diào)使網(wǎng)絡(luò)適用于特定的任務(wù),其中無監(jiān)督預(yù)訓(xùn)練所確定的參數(shù),通常比隨機(jī)初始化的要好。但自編碼器的預(yù)訓(xùn)練降低了網(wǎng)絡(luò)訓(xùn)練的效率,需要通過預(yù)訓(xùn)練跟微調(diào)兩個(gè)環(huán)節(jié)才能訓(xùn)練完整個(gè)網(wǎng)絡(luò)。并且,不同網(wǎng)絡(luò)訓(xùn)練技術(shù)的使用,對(duì)于網(wǎng)絡(luò)的分類效果有較大影響,因此,深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的優(yōu)化對(duì)于提高分類效果起著非常重要的作用。論文基于多層感知器模型,討論了幾種新的有效的網(wǎng)絡(luò)訓(xùn)練技術(shù),包括ReLU神經(jīng)元,防止過擬合策略,以及網(wǎng)絡(luò)權(quán)值優(yōu)化算法,利用這些技術(shù),能夠更加高效地訓(xùn)練深度網(wǎng)絡(luò),提高分類效果。其次,在高光譜圖像分類領(lǐng)域中,通常只利用地物的光譜信息,而缺少對(duì)空間信息的利用,研究表明,利用空間信息可以降低分類“噪聲”,提高高光譜遙感圖像的分類精度。因此,論文基于第三章給出的優(yōu)化的多層感知器,結(jié)合圖像空間信息,進(jìn)一步提高分類效果。另外,卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)中非常成功的模型,但是還沒有應(yīng)用到高光譜遙感圖像分類領(lǐng)域,論文基于卷積神經(jīng)網(wǎng)絡(luò),設(shè)計(jì)兩種方式,把每個(gè)像素點(diǎn)的空間鄰域信息作為卷積神經(jīng)網(wǎng)絡(luò)的輸入,應(yīng)用于高光譜遙感圖像分類。最后,對(duì)于多時(shí)相高光譜遙感影像,假如我們對(duì)其中一幅影像(稱為源域數(shù)據(jù))已經(jīng)有足夠多的標(biāo)記樣本,那么如果能夠重新利用這些知識(shí),對(duì)新來的缺乏標(biāo)記樣本的遙感影像(稱為目標(biāo)域數(shù)據(jù))進(jìn)行分類,能夠減少新影像分類的人工成本,提高圖像分類的自動(dòng)化水平。如何把已有知識(shí)有效運(yùn)用到新環(huán)境中是遷移學(xué)習(xí)要解決的問題。論文基于深度學(xué)習(xí)網(wǎng)絡(luò),采用類心對(duì)齊策略,實(shí)現(xiàn)遷移學(xué)習(xí),應(yīng)用于多時(shí)相高光譜遙感影像分類。論文在深度學(xué)習(xí)網(wǎng)絡(luò)目標(biāo)函數(shù)中,加入兩個(gè)域數(shù)據(jù)類心特征相似的約束,通過深度學(xué)習(xí)網(wǎng)絡(luò)對(duì)兩個(gè)域數(shù)據(jù)做非線性變換,以達(dá)到變換后兩個(gè)域數(shù)據(jù)特征相似的目的,從而可以直接利用變換后的源域標(biāo)記數(shù)據(jù)對(duì)變換后的目標(biāo)域數(shù)據(jù)進(jìn)行分類。論文的創(chuàng)新點(diǎn)包括：(1)論文第三章把當(dāng)前最新的一些網(wǎng)絡(luò)優(yōu)化策略加入到多層感知器算法中,應(yīng)用于高光譜遙感圖像分類,提高了網(wǎng)絡(luò)執(zhí)行效率以及分類性能。(2)論文第四章將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于高光譜遙感圖像分類,并結(jié)合高光譜遙感圖像空間信息,設(shè)計(jì)兩種網(wǎng)絡(luò)輸入數(shù)據(jù)的方式,以適應(yīng)卷積操作,進(jìn)一步提高卷積神經(jīng)網(wǎng)絡(luò)對(duì)高光譜圖像分類的性能。(3)論文第五章針對(duì)多時(shí)相高光譜遙感圖像分類問題,在優(yōu)化的多層感知器算法中,加入源域數(shù)據(jù)和目標(biāo)域數(shù)據(jù)的類心對(duì)齊策略,使得網(wǎng)絡(luò)具有遷移學(xué)習(xí)的能力。
【學(xué)位單位】：中國(guó)地質(zhì)大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位年份】：2016
【中圖分類】：TP751
【部分圖文】：

ｉ〇?邢晨；基于深度學(xué)習(xí)的高光譜遙感圖像分類成編碼與解碼兩部分，輸入數(shù)據(jù)經(jīng)過編碼部分后可得到編碼后的特征，特征碼后重構(gòu)成原始數(shù)據(jù)，所Ｗ整個(gè)網(wǎng)絡(luò)通過輸入數(shù)據(jù)作為重構(gòu)誤差，訓(xùn)練調(diào)整絡(luò)的參數(shù)，使網(wǎng)絡(luò)達(dá)到編解碼的目的。訓(xùn)練調(diào)整網(wǎng)絡(luò)的參數(shù)，這樣就可１＾得的不同表示，隱含層的輸出即為輸入的不同表示，而這些表示就是特征。如所示，整個(gè)過程可Ｗ拆分成一個(gè)編解碼的過程，隱含層的輸出是編碼，輸出碼。這樣，整個(gè)網(wǎng)絡(luò)由輸入到隱含層可Ｗ看作是個(gè)編碼器，從隱含層到輸出Ｗ看作是一個(gè)解碼器。??

碼后重構(gòu)成原始數(shù)據(jù)，所Ｗ整個(gè)網(wǎng)絡(luò)通過輸入數(shù)據(jù)作為重構(gòu)誤差，訓(xùn)練調(diào)整整個(gè)網(wǎng)??絡(luò)的參數(shù)，使網(wǎng)絡(luò)達(dá)到編解碼的目的。訓(xùn)練調(diào)整網(wǎng)絡(luò)的參數(shù)，這樣就可１＾得到輸入??的不同表示，隱含層的輸出即為輸入的不同表示，而這些表示就是特征。如圖２．２??所示，整個(gè)過程可Ｗ拆分成一個(gè)編解碼的過程，隱含層的輸出是編碼，輸出層是解??碼。這樣，整個(gè)網(wǎng)絡(luò)由輸入到隱含層可Ｗ看作是個(gè)編碼器，從隱含層到輸出層則可??Ｗ看作是一個(gè)解碼器。??輸入批巧Ｉ?ｊｊｍｉｉｉｉｉ餘ｍ?１??‘文旁！??巧據(jù)標(biāo)簽?＼?Ｉ??圖２．１有監(jiān)督訓(xùn)練模型??Ｉ?．０??圖２．２無監(jiān)督編解碼流程??一個(gè)ＡＥ的網(wǎng)絡(luò)結(jié)構(gòu)及參數(shù)如圖２．３所示。輸入層Ｘ為輸入數(shù)據(jù)，其節(jié)點(diǎn)個(gè)數(shù)??為輸入數(shù)據(jù)Ｘ的維數(shù)。ｈ為隱含層數(shù)據(jù)，即編碼結(jié)果或特征，如果隱含層節(jié)點(diǎn)數(shù)小??于輸入數(shù)據(jù)維數(shù)，這個(gè)ＡＥ網(wǎng)絡(luò)就是對(duì)數(shù)據(jù)降維，反之為升維。Ｗ，跟ｂ，是編碼部??分的權(quán)重跟偏置，Ｗ２跟ｂ；是解碼部分的權(quán)重跟偏置。ｙ為輸出層，也可Ｗ叫重構(gòu)，??ｙ是解碼之后的數(shù)據(jù)，根據(jù)ＡＥ網(wǎng)絡(luò)的重構(gòu)目標(biāo)，應(yīng)該使ｙ？ｘ來訓(xùn)練ＡＥ網(wǎng)絡(luò)。??圖２．３為ＡＥ網(wǎng)絡(luò)模型

這種堆疊的訓(xùn)練過程也稱作無監(jiān)督預(yù)訓(xùn)練，整個(gè)訓(xùn)練過程每次只無監(jiān)督訓(xùn)練一??層。一旦前Ａ層訓(xùn)練好之后，就可訓(xùn)練Ａ＋７層，因?yàn)榭桑ǎ蓿崩们懊娴膶佑?jì)算的??特征作為下一層的輸入。ＳＡＥ的訓(xùn)練流程如圖２．５所示，此圖是一個(gè)Ｈ層ＳＡＥ網(wǎng)??絡(luò)的訓(xùn)練，圖中每個(gè)圈圈代表一個(gè)節(jié)點(diǎn)，輸入層中節(jié)點(diǎn)的；Ｃ。為輸入數(shù)據(jù)的第ｎ維??特征，同理Ａ。及為隱含層及輸出層的第ｎ維特征。特征表達(dá)２中的上角標(biāo)代表??訓(xùn)練的ＡＥ數(shù)。當(dāng)?shù)谝粚拥模粒庞?xùn)練完之后，去掉解碼層，為特征作為第二??個(gè)ＡＥ網(wǎng)絡(luò)的輸入數(shù)據(jù)訓(xùn)練第二個(gè)ＡＥ，ｔｉｌ此類推，再訓(xùn)練第Ｈ個(gè)ＡＥ。當(dāng)所??有Ｈ個(gè)ＡＥ訓(xùn)練好之后，就組成了一個(gè)Ｈ層的神經(jīng)網(wǎng)絡(luò)，將原始數(shù)據(jù)Ｘ輸入到第一?古??層的ＡＥ網(wǎng)絡(luò)，前向傳播口３］到第Ｈ層輸出，最終得到第Ｈ層網(wǎng)絡(luò)的特征。整個(gè)多層??的ＳＡＥ是無監(jiān)督訓(xùn)練的。??＊入??Ｍｍ??輸入??＊征化Ｉ??圖２．５?ＳＡＥ訓(xùn)練流程??幾十年前人們就發(fā)現(xiàn)了多層的神經(jīng)網(wǎng)絡(luò)在理論上的簡(jiǎn)潔性和較強(qiáng)的表達(dá)能力，??但仍存在一些問題
【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 劉慶生,劉高煥,藺啟忠,王志剛;基于邏輯斯蒂模型的遙感圖像分類[J];國(guó)土資源遙感;2001年01期

2 譚衢霖,邵蕓;雷達(dá)遙感圖像分類新技術(shù)發(fā)展研究[J];國(guó)土資源遙感;2001年03期

3 杜鳳蘭,田慶久,夏學(xué)齊;遙感圖像分類方法評(píng)析與展望[J];遙感技術(shù)與應(yīng)用;2004年06期

4 李石華,王金亮,畢艷,陳姚,朱妙園,楊帥,朱佳;遙感圖像分類方法研究綜述[J];國(guó)土資源遙感;2005年02期

5 付小勇;楊建祥;譚靖;;基于統(tǒng)計(jì)的遙感圖像分類方法[J];林業(yè)調(diào)查規(guī)劃;2005年06期

6 王一達(dá);沈熙玲;謝炯;;遙感圖像分類方法綜述[J];遙感信息;2006年05期

7 李華;曹衛(wèi)彬;劉姣娣;;土地監(jiān)測(cè)中提高遙感圖像分類精度的方法研究[J];安徽農(nóng)學(xué)通報(bào);2008年22期

8 岳昔娟;張勇;黃國(guó)滿;;改進(jìn)的直方圖均衡化在遙感圖像分類中的應(yīng)用[J];四川測(cè)繪;2008年04期

9 曾聯(lián)明;吳湘濱;劉鵬;;感興趣區(qū)域遙感圖像分類與支持向量機(jī)應(yīng)用研究[J];計(jì)算機(jī)工程與應(yīng)用;2009年06期

10 金良;于鳳鳴;;計(jì)算機(jī)遙感圖像分類法在天然草原土地利用現(xiàn)狀研究中的應(yīng)用[J];科技資訊;2010年36期

相關(guān)博士學(xué)位論文 前4條

1 劉小芳;基于核理論的遙感圖像分類方法研究[D];電子科技大學(xué);2011年

2 王佐成;基于紋理的遙感圖像分類研究[D];西南交通大學(xué);2007年

3 許凱;云模型支持下的遙感圖像分類粒計(jì)算方法研究[D];武漢大學(xué);2010年

4 張雁;基于機(jī)器學(xué)習(xí)的遙感圖像分類研究[D];北京林業(yè)大學(xué);2014年

相關(guān)碩士學(xué)位論文 前10條

1 林丹;基于小波變換的K-means算法在遙感圖像分類中的應(yīng)用研究[D];河北工程大學(xué);2015年

2 姜瑋;張量空間FCM算法研究及其在高光譜遙感圖像分類中的應(yīng)用[D];西南交通大學(xué);2015年

3 付建東;粒子群神經(jīng)網(wǎng)絡(luò)在遙感影像分類中的應(yīng)用研究[D];東華理工大學(xué);2015年

4 孫寧;基于高光譜遙感圖像分類的水域變化檢測(cè)[D];南昌工程學(xué)院;2015年

5 左亞青;基于主動(dòng)深度學(xué)習(xí)的遙感圖像分類[D];燕山大學(xué);2016年

6 邢晨;基于深度學(xué)習(xí)的高光譜遙感圖像分類[D];中國(guó)地質(zhì)大學(xué);2016年

7 崔亮;基于蟻群算法的遙感圖像分類研究[D];華中科技大學(xué);2007年

8 李昕;基于分形理論的遙感圖像分類方法研究[D];湖南大學(xué);2009年

9 王方方;利用融合方法的遙感圖像分類研究[D];西安電子科技大學(xué);2009年

10 陳敏;基于紋理特征的遙感圖像分類技術(shù)研究[D];福州大學(xué);2005年

本文編號(hào)：2837917