基于大數(shù)據(jù)的定標方法研究與初步應用
發(fā)布時間:2021-02-07 15:59
隨著衛(wèi)星載荷數(shù)量、功能、種類的不斷增加,定標任務量持續(xù)上升,傳統(tǒng)的定標方法和技術,越來越難以滿足多參數(shù)、高時效和高頻次的定標需求,以及難以提高定標時效性和頻次,本文結合全球定標場網(wǎng)和自動化定標等新定標手段的應用,針對定標過程中多源、異構和巨量定標數(shù)據(jù)的獲取、存儲、管理和處理等問題,調研了國內(nèi)外定標多源數(shù)據(jù)存儲與管理方法,引入了基于分布式文件存儲系統(tǒng)、分布式數(shù)據(jù)庫和分布式計算等大數(shù)據(jù)技術,建立大數(shù)據(jù)定標數(shù)據(jù)庫,為高頻次定標提供時間連續(xù)的定標基礎參量,增加遙感衛(wèi)星過頂定標場地次數(shù),提高在軌輻射定標頻次。本文以Hadoop系統(tǒng)為基礎,搭建大數(shù)據(jù)定標的原型系統(tǒng),實現(xiàn)分布式存儲與分布式計算功能。采用HTML5+JavaScript+React構建大數(shù)據(jù)定標平臺前端頁面,采用Java語言+Spring boot構建平臺后端服務,并通過SWIG調用C/C++庫、GDAL庫、HDF4庫和HDF5庫,實現(xiàn)了基于B/S架構和類似于SAAS的數(shù)據(jù)和定標服務。為了增加地表和大氣等定標參數(shù)的時間連續(xù)性,本文設計了類似于網(wǎng)絡爬蟲的定標多源數(shù)據(jù)自動獲取功能,實現(xiàn)水汽、臭氧和地表等定標多源數(shù)據(jù)的爬取、預處理和存儲,為...
【文章來源】:中國科學技術大學安徽省 211工程院校 985工程院校
【文章頁數(shù)】:157 頁
【學位級別】:博士
【部分圖文】:
圖1.1遙感技術原理圖??遙感技術經(jīng)過幾十年的不斷發(fā)展,在很多領域的作用越來越重要
量是定量化應用的基礎[8]。輻射定標是在一系列的測量過程中決定儀器在空間域、??時間域和光譜域的轄射性能,它的輸出是一個與輻射量真實值相關的數(shù)值??根據(jù)平臺或者時期的差異,輻射定標可分為多類,如圖1.2所示。??輻射定標??發(fā)射前定標?替代定標?星上定標??I??1?I?ill?III??i?外交場/?5?■月告??;?場叉地場f?5亮¥??I?定定定景i?^?i??^?標標標素S標S??iii??反輻輻??射亮照??率度度??法法法??圖1.2輻射定標類別??1.?1.?1發(fā)射前定標??為了確定系統(tǒng)的響應模型和儀器參數(shù),載荷在發(fā)射前通常會進行較為全面的??實驗室定標。發(fā)射前定標結果是判斷載荷在軌期間各項性能參數(shù)是否衰變,以及??衡量衰變程度的依據(jù)[11]。在太陽反射波段,發(fā)射前定標可分為實驗室定標和外場??定標。發(fā)射前的實驗室定標使用穩(wěn)定光源在實驗室對載荷進行輻射定標[121發(fā)射??前的外場定標使用經(jīng)過參考板的反射太陽光對載荷進行輻射定標[1\??1.?1.2星上定標??星上定標一般用于載荷從升空到退役的整個階段,是監(jiān)測載荷各項性能參數(shù)??的有效技術[14?]。星上定標過程類似實驗室定標過程,是為了獲得載荷的各項參??數(shù)性能和定標系數(shù),從而標定載荷的輻射、空間和光譜特性[16_181。由于各種因素??的限制實驗室定標儀器難以布設在衛(wèi)星上,因此需要簡化實驗室定標裝置或者采??用其它合理有效的方法來完成定標。星上定標光源分為內(nèi)置燈和太陽光兩種。??內(nèi)置燈定標包含燈+漫射板和燈+積分球兩類
與觀測地物光譜分布相近,所以太陽光源可作為標準源。由于太空中無大氣衰減,??太陽照射的能量太大,無法直接進行觀測,一般都需要衰減太陽光到可實現(xiàn)定標??為止,哀減的方式有兩種:漫射板和哀減板+漫射板,如圖1.4所不。Aqua和Terra??衛(wèi)星上搭載的中分辨率成像光譜儀(MODIS)、ENVIST上搭載的中分辨率成像??光譜儀(MERIS)、Landsat8上搭載的業(yè)務型陸地成像儀(OLI)、FY-2C上搭載??的多通道掃描輻射計(MCRS)、SeaStar上搭載的海洋寬視場載荷(SeaWiFS)等??均采用了?“太陽+太陽漫反射板”的星上定標方式。??^星載傳感器?星載傳感器??X?IJ?漫射板\??漫射板\??圖1.4太陽光定標:太陽+漫反射板(左),太陽+衰減板+漫反射板(右)??圖1.4中的兩種定標方法很好地彌補了內(nèi)置燈定標的不足,即全光路和光譜??分布差異,并在國內(nèi)外很多衛(wèi)星上得到應用。??3??
【參考文獻】:
期刊論文
[1]淺談Python爬蟲技術的網(wǎng)頁數(shù)據(jù)抓取與分析[J]. 吳永聰. 計算機時代. 2019(08)
[2]Real-time intelligent big data processing:technology, platform, and applications[J]. Tongya ZHENG,Gang CHEN,Xinyu WANG,Chun CHEN,Xingen WANG,Sihui LUO. Science China(Information Sciences). 2019(08)
[3]Linux高性能計算集群SSH安全遠程登錄的研究[J]. 金能智,文洮,安文婷,楊博超. 現(xiàn)代信息科技. 2019(13)
[4]基于三次樣條插值的智能汽車酒駕測控系統(tǒng)設計[J]. 羅春林,崔浩,舒朝君,王亞. 現(xiàn)代電子技術. 2019(10)
[5]基于分布式文件系統(tǒng)的海量數(shù)據(jù)存儲專利技術綜述[J]. 倪賽華. 中國新通信. 2019(03)
[6]常見數(shù)據(jù)預處理技術分析[J]. 周泉錫. 通訊世界. 2019(01)
[7]基于NoSQL的特色數(shù)據(jù)庫系統(tǒng)研究[J]. 趙永強. 圖書館工作與研究. 2018(S1)
[8]面向空間大數(shù)據(jù)的分布式存儲策略[J]. 唐桂文,韓嘉福,李洪省. 計算機技術與發(fā)展. 2019(03)
[9]關于國際工程測量的UTM投影變形及抵償?shù)难芯縖J]. 張麗娜,靳自強. 河南建材. 2018(06)
[10]無人值守的太陽反射波段超光譜輻照度儀的光機系統(tǒng)設計[J]. 張權,李新,張艷娜,翟文超,劉恩超,鄭小兵. 光學學報. 2019(03)
博士論文
[1]場地反射率直接法觀測系統(tǒng)的研制與測試[D]. 張權.中國科學技術大學 2019
[2]空間高光譜遙感儀器輻射定標技術研究[D]. 孫立微.中國科學院大學(中國科學院長春光學精密機械與物理研究所) 2018
[3]國產(chǎn)光學衛(wèi)星遙感數(shù)據(jù)VNIR波段交叉輻射定標方法與體系研究[D]. 楊愛霞.中國科學院大學(中國科學院遙感與數(shù)字地球研究所) 2017
[4]星上比輻射定標器及性能評估方法研究[D]. 李孟凡.中國科學技術大學 2017
[5]大數(shù)據(jù)環(huán)境下遙感圖譜應用方法研究[D]. 葉思菁.中國農(nóng)業(yè)大學 2016
碩士論文
[1]基于Hadoop的分布式網(wǎng)絡爬蟲的研究與實現(xiàn)[D]. 劉星辰.西安理工大學 2019
[2]BRDF測量系統(tǒng)控制軟件設計與敦煌場地實測數(shù)據(jù)處理及分析[D]. 余譚其.中國科學技術大學 2018
[3]基于Hadoop的分布式中文微博情感分析研究與實現(xiàn)[D]. 馮月華.蘭州大學 2017
[4]基于HDFS的影像數(shù)據(jù)金字塔構建及存儲技術研究[D]. 林峰.東北林業(yè)大學 2016
[5]基于Hadoop的分布式遙感圖像處理研究[D]. 殷兵.華東師范大學 2015
[6]基于Hadoop和SVM算法的中文文本分類的研究與實現(xiàn)[D]. 張磊磊.昆明理工大學 2015
[7]遙感陸表特征參量產(chǎn)品真實性檢驗關鍵技術研究與系統(tǒng)實現(xiàn)[D]. 張良.電子科技大學 2015
[8]太陽磁場圖像的實時采集和分布式存儲系統(tǒng)研究與實現(xiàn)[D]. 沈洋斌.昆明理工大學 2014
[9]基于MapReduce的分布式空間連接查詢研究[D]. 劉杰.江西理工大學 2013
[10]基于Hadoop云計算平臺的聚類算法并行化研究[D]. 張亞楠.內(nèi)蒙古科技大學 2013
本文編號:3022465
【文章來源】:中國科學技術大學安徽省 211工程院校 985工程院校
【文章頁數(shù)】:157 頁
【學位級別】:博士
【部分圖文】:
圖1.1遙感技術原理圖??遙感技術經(jīng)過幾十年的不斷發(fā)展,在很多領域的作用越來越重要
量是定量化應用的基礎[8]。輻射定標是在一系列的測量過程中決定儀器在空間域、??時間域和光譜域的轄射性能,它的輸出是一個與輻射量真實值相關的數(shù)值??根據(jù)平臺或者時期的差異,輻射定標可分為多類,如圖1.2所示。??輻射定標??發(fā)射前定標?替代定標?星上定標??I??1?I?ill?III??i?外交場/?5?■月告??;?場叉地場f?5亮¥??I?定定定景i?^?i??^?標標標素S標S??iii??反輻輻??射亮照??率度度??法法法??圖1.2輻射定標類別??1.?1.?1發(fā)射前定標??為了確定系統(tǒng)的響應模型和儀器參數(shù),載荷在發(fā)射前通常會進行較為全面的??實驗室定標。發(fā)射前定標結果是判斷載荷在軌期間各項性能參數(shù)是否衰變,以及??衡量衰變程度的依據(jù)[11]。在太陽反射波段,發(fā)射前定標可分為實驗室定標和外場??定標。發(fā)射前的實驗室定標使用穩(wěn)定光源在實驗室對載荷進行輻射定標[121發(fā)射??前的外場定標使用經(jīng)過參考板的反射太陽光對載荷進行輻射定標[1\??1.?1.2星上定標??星上定標一般用于載荷從升空到退役的整個階段,是監(jiān)測載荷各項性能參數(shù)??的有效技術[14?]。星上定標過程類似實驗室定標過程,是為了獲得載荷的各項參??數(shù)性能和定標系數(shù),從而標定載荷的輻射、空間和光譜特性[16_181。由于各種因素??的限制實驗室定標儀器難以布設在衛(wèi)星上,因此需要簡化實驗室定標裝置或者采??用其它合理有效的方法來完成定標。星上定標光源分為內(nèi)置燈和太陽光兩種。??內(nèi)置燈定標包含燈+漫射板和燈+積分球兩類
與觀測地物光譜分布相近,所以太陽光源可作為標準源。由于太空中無大氣衰減,??太陽照射的能量太大,無法直接進行觀測,一般都需要衰減太陽光到可實現(xiàn)定標??為止,哀減的方式有兩種:漫射板和哀減板+漫射板,如圖1.4所不。Aqua和Terra??衛(wèi)星上搭載的中分辨率成像光譜儀(MODIS)、ENVIST上搭載的中分辨率成像??光譜儀(MERIS)、Landsat8上搭載的業(yè)務型陸地成像儀(OLI)、FY-2C上搭載??的多通道掃描輻射計(MCRS)、SeaStar上搭載的海洋寬視場載荷(SeaWiFS)等??均采用了?“太陽+太陽漫反射板”的星上定標方式。??^星載傳感器?星載傳感器??X?IJ?漫射板\??漫射板\??圖1.4太陽光定標:太陽+漫反射板(左),太陽+衰減板+漫反射板(右)??圖1.4中的兩種定標方法很好地彌補了內(nèi)置燈定標的不足,即全光路和光譜??分布差異,并在國內(nèi)外很多衛(wèi)星上得到應用。??3??
【參考文獻】:
期刊論文
[1]淺談Python爬蟲技術的網(wǎng)頁數(shù)據(jù)抓取與分析[J]. 吳永聰. 計算機時代. 2019(08)
[2]Real-time intelligent big data processing:technology, platform, and applications[J]. Tongya ZHENG,Gang CHEN,Xinyu WANG,Chun CHEN,Xingen WANG,Sihui LUO. Science China(Information Sciences). 2019(08)
[3]Linux高性能計算集群SSH安全遠程登錄的研究[J]. 金能智,文洮,安文婷,楊博超. 現(xiàn)代信息科技. 2019(13)
[4]基于三次樣條插值的智能汽車酒駕測控系統(tǒng)設計[J]. 羅春林,崔浩,舒朝君,王亞. 現(xiàn)代電子技術. 2019(10)
[5]基于分布式文件系統(tǒng)的海量數(shù)據(jù)存儲專利技術綜述[J]. 倪賽華. 中國新通信. 2019(03)
[6]常見數(shù)據(jù)預處理技術分析[J]. 周泉錫. 通訊世界. 2019(01)
[7]基于NoSQL的特色數(shù)據(jù)庫系統(tǒng)研究[J]. 趙永強. 圖書館工作與研究. 2018(S1)
[8]面向空間大數(shù)據(jù)的分布式存儲策略[J]. 唐桂文,韓嘉福,李洪省. 計算機技術與發(fā)展. 2019(03)
[9]關于國際工程測量的UTM投影變形及抵償?shù)难芯縖J]. 張麗娜,靳自強. 河南建材. 2018(06)
[10]無人值守的太陽反射波段超光譜輻照度儀的光機系統(tǒng)設計[J]. 張權,李新,張艷娜,翟文超,劉恩超,鄭小兵. 光學學報. 2019(03)
博士論文
[1]場地反射率直接法觀測系統(tǒng)的研制與測試[D]. 張權.中國科學技術大學 2019
[2]空間高光譜遙感儀器輻射定標技術研究[D]. 孫立微.中國科學院大學(中國科學院長春光學精密機械與物理研究所) 2018
[3]國產(chǎn)光學衛(wèi)星遙感數(shù)據(jù)VNIR波段交叉輻射定標方法與體系研究[D]. 楊愛霞.中國科學院大學(中國科學院遙感與數(shù)字地球研究所) 2017
[4]星上比輻射定標器及性能評估方法研究[D]. 李孟凡.中國科學技術大學 2017
[5]大數(shù)據(jù)環(huán)境下遙感圖譜應用方法研究[D]. 葉思菁.中國農(nóng)業(yè)大學 2016
碩士論文
[1]基于Hadoop的分布式網(wǎng)絡爬蟲的研究與實現(xiàn)[D]. 劉星辰.西安理工大學 2019
[2]BRDF測量系統(tǒng)控制軟件設計與敦煌場地實測數(shù)據(jù)處理及分析[D]. 余譚其.中國科學技術大學 2018
[3]基于Hadoop的分布式中文微博情感分析研究與實現(xiàn)[D]. 馮月華.蘭州大學 2017
[4]基于HDFS的影像數(shù)據(jù)金字塔構建及存儲技術研究[D]. 林峰.東北林業(yè)大學 2016
[5]基于Hadoop的分布式遙感圖像處理研究[D]. 殷兵.華東師范大學 2015
[6]基于Hadoop和SVM算法的中文文本分類的研究與實現(xiàn)[D]. 張磊磊.昆明理工大學 2015
[7]遙感陸表特征參量產(chǎn)品真實性檢驗關鍵技術研究與系統(tǒng)實現(xiàn)[D]. 張良.電子科技大學 2015
[8]太陽磁場圖像的實時采集和分布式存儲系統(tǒng)研究與實現(xiàn)[D]. 沈洋斌.昆明理工大學 2014
[9]基于MapReduce的分布式空間連接查詢研究[D]. 劉杰.江西理工大學 2013
[10]基于Hadoop云計算平臺的聚類算法并行化研究[D]. 張亞楠.內(nèi)蒙古科技大學 2013
本文編號:3022465
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3022465.html
最近更新
教材專著