網(wǎng)絡(luò)上的分布式自適應(yīng)估計算法研究
本文選題:分布式信息處理 + 自適應(yīng)估計; 參考:《浙江大學》2016年博士論文
【摘要】:網(wǎng)絡(luò)上的分布式數(shù)據(jù)收集與分析有極其廣泛的應(yīng)用范圍。網(wǎng)絡(luò)上的分布式估計是指一個區(qū)域內(nèi)的各個節(jié)點基于其收集的數(shù)據(jù)合作地估計所感興趣的參數(shù)。在實際應(yīng)用中,分布式信息處理存在著節(jié)點存儲空間有限等約束,而自適應(yīng)信息處理采用流式的信息處理方式,且只需存儲少量的實時數(shù)據(jù),因而能夠節(jié)約存儲空間。在本文中,作者考慮了網(wǎng)絡(luò)上分布式自適應(yīng)估計算法的研究問題。對于該問題,作者不僅考慮了線性數(shù)據(jù)模型而且考慮了非線性數(shù)據(jù)模型。在線性數(shù)據(jù)模型下,作者進一步地考慮了數(shù)據(jù)特性與參數(shù)特性。在大多數(shù)的分布式自適應(yīng)估計算法中,研究者假設(shè)只有輸出數(shù)據(jù)是有噪聲的,而輸入數(shù)據(jù)是完全精確的。但是,在實際環(huán)境中,輸入輸出數(shù)據(jù)可能都是有噪聲的。因而噪聲只加載在輸入數(shù)據(jù)上的假設(shè)是不切實際的。當輸入輸出都有噪聲時,總體最小二乘法能夠最小化輸入輸出數(shù)據(jù)的擾動,因而會比最小二乘法有更好的性能。對于參數(shù)特性,許多自然以及人造信號都有很高的稀疏性。研究表明利用稀疏性能夠提高學習性能。本文中,作者使用l1或者l0范數(shù)稀疏懲罰項來考慮待估矢量的稀疏性。另外,不同于單任務(wù)估計問題,作者進一步地考慮了不同節(jié)點的待估參數(shù)可以不同的情況,即多任務(wù)估計問題。對于多任務(wù)問題,雖然不同節(jié)點的任務(wù)可能不同,但是不同的任務(wù)間可能存在相似性。因而,不同任務(wù)間的合作能夠提高學習性能。顯然,設(shè)計任務(wù)間的合作策略是多任務(wù)估計問題的關(guān)鍵點。在本文中,作者提出一種自適應(yīng)的任務(wù)間的合作策略,以提高算法對不同程度的任務(wù)間差異性的魯棒性。對于多任務(wù)分布式估計問題,作者還考慮了待估參數(shù)的聯(lián)合稀疏性。作者使用l2,1或者l2,o混合范數(shù)來利用各個任務(wù)相同的結(jié)構(gòu)信息。在非線性數(shù)據(jù)模型下,基于極限學習機理論,作者把分布式非線性學習問題轉(zhuǎn)化為線性學習問題,并提出分布式極限學習機算法。需要注意算法構(gòu)建輸入輸出間的非線性映射的能力并沒有改變;谏鲜龅挠懻摽芍,分布式非線性自適應(yīng)算法的設(shè)計與性能分析與分布式線性自適應(yīng)算法的設(shè)計與性能分析非常類似。對于本文所提出的分布式自適應(yīng)估計算法,作者給出了均值及均方性能分析。這些算法的性能分析與現(xiàn)存的分布式算法的性能分析不同,并且比現(xiàn)存的分布式算法的性能分析更加困難。因而,這些算法的性能分析是本文的主要貢獻。另外,作者給出仿真實驗來驗證這些算法的有效性及優(yōu)點。
[Abstract]:Distributed data collection and analysis on the network has a wide range of applications. Distributed estimation on a network refers to the cooperative estimation of the parameters of interest by each node in a region based on the collected data. In practical applications, distributed information processing has some constraints such as limited storage space of nodes, while adaptive information processing adopts streaming information processing mode, and only a small amount of real-time data is stored, so it can save storage space. In this paper, the author considers the distributed adaptive estimation algorithm on the network. For this problem, the author considers not only the linear data model but also the nonlinear data model. In the linear data model, the author further considers the characteristics of data and parameters. In most distributed adaptive estimation algorithms, researchers assume that only the output data is noisy and the input data is completely accurate. However, in a real environment, input and output data may be noisy. Therefore, the assumption that the noise is only loaded on the input data is impractical. When there is noise in the input and output, the global least square method can minimize the disturbance of the input and output data, so it has better performance than the least square method. Many natural and artificial signals are highly sparse for parameter characteristics. The study shows that using sparsity can improve learning performance. In this paper, the sparse penalty term of L _ 1 or l _ 0 norm is used to consider the sparsity of the vector to be estimated. In addition, different from the single-task estimation problem, the author further considers that the parameters to be estimated at different nodes can be different, that is, the multi-task estimation problem. For multitask problems, although the tasks of different nodes may be different, there may be similarities among different tasks. Therefore, the cooperation between different tasks can improve learning performance. Obviously, the key point of multi-task estimation is to design a cooperative strategy between tasks. In this paper, the author proposes an adaptive inter-task cooperation strategy to improve the robustness of the algorithm to different degrees of inter-task differences. For the multitask distributed estimation problem, the joint sparsity of the parameters to be estimated is also considered. The authors use the mixed norm of L _ 2N _ 1 or L _ 2O to utilize the same structural information for each task. Based on the theory of extreme learning machine, the distributed nonlinear learning problem is transformed into a linear learning problem under nonlinear data model, and a distributed extreme learning machine algorithm is proposed. It is important to note that the ability of the algorithm to construct nonlinear mapping between inputs and outputs has not changed. Based on the above discussion, it can be seen that the design and performance analysis of the distributed nonlinear adaptive algorithm is very similar to the design and performance analysis of the distributed linear adaptive algorithm. For the distributed adaptive estimation algorithm proposed in this paper, the mean and mean square performance analysis are given. The performance analysis of these algorithms is different from that of existing distributed algorithms and is more difficult than that of existing distributed algorithms. Therefore, the performance analysis of these algorithms is the main contribution of this paper. In addition, the author gives a simulation experiment to verify the effectiveness and advantages of these algorithms.
【學位授予單位】:浙江大學
【學位級別】:博士
【學位授予年份】:2016
【分類號】:TP301.6
【相似文獻】
相關(guān)期刊論文 前10條
1 葛磊;武芳;王鵬波;張冬林;;3維建筑綜合中基于最小特征的面平移算法[J];測繪科學技術(shù)學報;2009年02期
2 駱雯,孫延明,陳振威,陳錦昌;判斷點與封閉多邊形相對關(guān)系的改進算法[J];機械;1999年03期
3 李林;盧顯良;;一種基于切割映射的規(guī)則沖突消除算法[J];電子學報;2008年02期
4 劉巧玲;張紅英;林茂松;;一種簡單快速的圖像去霧算法[J];計算機應(yīng)用與軟件;2013年07期
5 林亞平,楊小林;快速概率分析進化算法及其性能研究[J];電子學報;2001年02期
6 章郡鋒;吳曉紅;黃曉強;何小海;;基于暗原色先驗去霧的改進算法[J];電視技術(shù);2013年23期
7 楊鐵軍;靳婷;;一種動態(tài)整周模糊值求解算法及其仿真分析[J];系統(tǒng)工程與電子技術(shù);2007年01期
8 周秀玲;郭平;陳寶維;王靜;;幾種計算超體積算法的比較研究[J];計算機工程;2011年03期
9 吳一戎,胡東輝,彭海良;Chirp Scaling SAR成象算法及其實現(xiàn)[J];電子科學學刊;1995年03期
10 王貴竹;一種產(chǎn)生單向分解值的算法[J];安徽大學學報(自然科學版);2001年03期
相關(guān)會議論文 前10條
1 尹冀鋒;;一種新的圖象自適應(yīng)增強算法[A];四川省通信學會一九九二年學術(shù)年會論文集[C];1992年
2 寧春平;田家瑋;郭延輝;王影;張英濤;鄭桂霞;劉研;;計算機輔助增強、分割算法在鑒別乳腺良、惡性腫塊中的應(yīng)用價值[A];中華醫(yī)學會第十次全國超聲醫(yī)學學術(shù)會議論文匯編[C];2009年
3 謝麗聰;;SVB查詢改寫算法的改進[A];第二十一屆中國數(shù)據(jù)庫學術(shù)會議論文集(研究報告篇)[C];2004年
4 鄭存紅;;復(fù)雜背景下相關(guān)跟蹤算法研究及DSP實現(xiàn)[A];中國光學學會2010年光學大會論文集[C];2010年
5 楊文杰;吳軍;;RFID抗沖突算法研究[A];2008通信理論與技術(shù)新進展——第十三屆全國青年通信學術(shù)會議論文集(上)[C];2008年
6 高山;畢篤彥;魏娜;;一種基于UPF的小目標TBD算法[A];第十四屆全國圖象圖形學學術(shù)會議論文集[C];2008年
7 周磊;張衛(wèi)華;王曉奇;張軍;;基于流水算法的智能路障機器人設(shè)計[A];2011年全國電子信息技術(shù)與應(yīng)用學術(shù)會議論文集[C];2011年
8 潘巍;李戰(zhàn)懷;陳群;索博;李衛(wèi)榜;;面向MapReduce的非對稱分片復(fù)制連接算法優(yōu)化技術(shù)研究[A];第29屆中國數(shù)據(jù)庫學術(shù)會議論文集(B輯)(NDBC2012)[C];2012年
9 李偉偉;蔡康穎;鄭新;王文成;;3D模型中重復(fù)結(jié)構(gòu)的多尺度快速檢測算法[A];第六屆和諧人機環(huán)境聯(lián)合學術(shù)會議(HHME2010)、第19屆全國多媒體學術(shù)會議(NCMT2010)、第6屆全國人機交互學術(shù)會議(CHCI2010)、第5屆全國普適計算學術(shù)會議(PCC2010)論文集[C];2010年
10 楊任爾;陳懇;勵金祥;;基于棱邊方向檢測的運動自適應(yīng)去隔行算法[A];Proceedings of 2010 Chinese Control and Decision Conference[C];2010年
相關(guān)重要報紙文章 前1條
1 國泰君安資產(chǎn)管理部;“算法交易”是道指暴跌罪魁禍首?[N];上海證券報;2010年
相關(guān)博士學位論文 前10條
1 馮輝;網(wǎng)絡(luò)化的并行與分布式優(yōu)化算法研究及應(yīng)用[D];復(fù)旦大學;2013年
2 許玉杰;云計算環(huán)境下海量數(shù)據(jù)的并行聚類算法研究[D];大連海事大學;2014年
3 李琰;基于貓群算法的高光譜遙感森林類型識別研究[D];東北林業(yè)大學;2015年
4 陳加順;海洋環(huán)境下聚類算法的研究[D];南京航空航天大學;2014年
5 王洋;基于群體智能的通信網(wǎng)絡(luò)告警關(guān)聯(lián)規(guī)則挖掘算法研究[D];太原理工大學;2015年
6 雷雨;面向考試時間表問題的啟發(fā)式進化算法研究[D];西安電子科技大學;2015年
7 熊霖;大數(shù)據(jù)下的數(shù)據(jù)選擇與學習算法研究[D];西安電子科技大學;2015年
8 周雷;基于圖結(jié)構(gòu)的目標檢測與分割算法研究[D];上海交通大學;2014年
9 王冰;人工蜂群算法的改進及相關(guān)應(yīng)用的研究[D];北京理工大學;2015年
10 蔣亦樟;多視角和遷移學習識別方法和智能建模研究[D];江南大學;2015年
相關(guān)碩士學位論文 前10條
1 姚鑫宇;EMD去噪與MUSIC算法在DOA估計中的聯(lián)合應(yīng)用[D];昆明理工大學;2015年
2 陸進;面向含噪數(shù)據(jù)聚類相關(guān)算法的研究[D];復(fù)旦大學;2014年
3 葉一舟;紅外弱小目標檢測算法研究[D];上海交通大學;2015年
4 王繼重;基于Hadoop和Mahout的K-Means算法設(shè)計與實現(xiàn)[D];大連海事大學;2016年
5 何靜;遙感圖像的快速壓縮算法研究[D];北京交通大學;2016年
6 章華燕;鋼軌擦傷檢測算法研究[D];北京交通大學;2016年
7 王一博;MODIS地震熱異常的數(shù)據(jù)處理與算法研究[D];中國石油大學(華東);2014年
8 成鑫;基于組合優(yōu)化問題的多目標模因算法的研究[D];南京航空航天大學;2015年
9 傅致暉;基于協(xié)同分割的視頻目標分割算法研究[D];上海交通大學;2015年
10 張媛;運動車輛檢測與跟蹤算法的研究與實現(xiàn)[D];大連海事大學;2016年
,本文編號:1873331
本文鏈接:http://sikaile.net/shoufeilunwen/xxkjbs/1873331.html