面向物聯(lián)網(wǎng)隱私數(shù)據(jù)分析的分布式彈性網(wǎng)絡(luò)回歸學(xué)習(xí)算法
發(fā)布時(shí)間:2021-10-11 03:01
為了解決基于集中式算法的傳統(tǒng)物聯(lián)網(wǎng)數(shù)據(jù)分析處理方式易引發(fā)網(wǎng)絡(luò)帶寬壓力過大、延遲過高以及數(shù)據(jù)隱私安全等問題,該文針對(duì)彈性網(wǎng)絡(luò)回歸這一典型的線性回歸模型,提出一種面向物聯(lián)網(wǎng)(IoT)的分布式學(xué)習(xí)算法。該算法基于交替方向乘子法(ADMM),將彈性網(wǎng)絡(luò)回歸目標(biāo)優(yōu)化問題分解為多個(gè)能夠由物聯(lián)網(wǎng)節(jié)點(diǎn)利用本地?cái)?shù)據(jù)進(jìn)行獨(dú)立求解的子問題。不同于傳統(tǒng)的集中式算法,該算法并不要求物聯(lián)網(wǎng)節(jié)點(diǎn)將隱私數(shù)據(jù)上傳至服務(wù)器進(jìn)行訓(xùn)練,而僅僅傳遞本地訓(xùn)練的中間參數(shù),再由服務(wù)器進(jìn)行簡單整合,以這樣的協(xié)作方式經(jīng)過多輪迭代獲得最終結(jié)果�;趦蓚€(gè)典型數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果表明:該算法能夠在幾十輪迭代內(nèi)快速收斂到最優(yōu)解。相比于由單個(gè)節(jié)點(diǎn)獨(dú)立訓(xùn)練模型的本地化算法,該算法提高了模型結(jié)果的有效性和準(zhǔn)確性;相比于集中式算法,該算法在確保計(jì)算準(zhǔn)確性和可擴(kuò)展性的同時(shí),可有效地保護(hù)個(gè)體隱私數(shù)據(jù)的安全性。
【文章來源】:電子與信息學(xué)報(bào). 2020,42(10)北大核心EICSCD
【文章頁數(shù)】:9 頁
【部分圖文】:
圖1分布式彈性網(wǎng)絡(luò)回歸學(xué)習(xí)算法計(jì)算流程
N,ρ,u1,u2ρρu1u2u1RMSE值作為算法性能的評(píng)價(jià)指標(biāo),在保證其他參數(shù)固定不變的條件下,分別評(píng)估參數(shù)對(duì)算法性能的影響。其中參數(shù)N對(duì)算法性能的影響如圖6所示,可以發(fā)現(xiàn)當(dāng)N取不同值時(shí),算法均能收斂,而且N值越小時(shí),算法的收斂速度越快,但最終均能得到相同的目標(biāo)函數(shù)值和RMSE值,表明算法具備較好的可擴(kuò)展性。參數(shù)對(duì)算法性能的影響如圖7所示,可以發(fā)現(xiàn)值較小時(shí),算法可以更快地收斂,目標(biāo)函數(shù)值和RMSE值較大。參數(shù)和對(duì)算法性能的影響分別如圖8和圖9所示,說明對(duì)算法的收斂速度影響較小,但對(duì)目標(biāo)函數(shù)值和RMSEu1u1u2u2u2值影響較大,值越小,目標(biāo)函數(shù)值和RMSE值就越�。慌c相似,值越小,目標(biāo)函數(shù)值和RMSE值也越小,不同的是,對(duì)算法的收斂速度影響較大,值越大,算法的收斂速度越快。4.2.3與其它方法性能比較R2aN=1相比于分布式算法,本地化算法的性能很大程度上與單個(gè)物聯(lián)網(wǎng)節(jié)點(diǎn)處理的本地?cái)?shù)據(jù)集規(guī)模大小相關(guān),因此將數(shù)據(jù)集隨機(jī)均勻地劃分為N個(gè)訓(xùn)練子集,即由N個(gè)節(jié)點(diǎn)獨(dú)立訓(xùn)練,并以和RMSE值作為評(píng)價(jià)指標(biāo),比較在N的不同取值下兩種算法的性能。值得注意的是,當(dāng)時(shí)本地化算法等同于集中式算法。R2a圖10(a)、圖10(b)分別表示不同N值下兩種算法的RMSE值和值比較。由圖10(a)可以發(fā)現(xiàn),圖2目標(biāo)函數(shù)值隨迭代次數(shù)變化圖3原始?xì)埐詈蛯?duì)偶?xì)埐铍S迭代次數(shù)變化圖4RMSE值隨迭代次數(shù)變化R2a圖5調(diào)整復(fù)相關(guān)系數(shù)值隨迭代次數(shù)變化圖6參數(shù)N對(duì)算法性能的影響2408電子與信息學(xué)報(bào)第42卷
圖10分布式算法與本地化算法之間的性能比較圖7參數(shù)ρ對(duì)算法性能的影響圖8參數(shù)u1對(duì)算法性能的影響圖9參數(shù)u2對(duì)算法性能的影響第10期方維維等:面向物聯(lián)網(wǎng)隱私數(shù)據(jù)分析的分布式彈性網(wǎng)絡(luò)回歸學(xué)習(xí)算法2409
【參考文獻(xiàn)】:
期刊論文
[1]車聯(lián)網(wǎng)中基于移動(dòng)邊緣計(jì)算的內(nèi)容感知分類卸載算法研究[J]. 趙海濤,朱銀陽,丁儀,朱洪波. 電子與信息學(xué)報(bào). 2020(01)
[2]邊緣計(jì)算:現(xiàn)狀與展望[J]. 施巍松,張星洲,王一帆,張慶陽. 計(jì)算機(jī)研究與發(fā)展. 2019(01)
[3]面向智能監(jiān)控?cái)z像頭的監(jiān)控視頻大數(shù)據(jù)分析處理[J]. 邵振峰,蔡家駿,王中元,馬照亭. 電子與信息學(xué)報(bào). 2017(05)
本文編號(hào):3429657
【文章來源】:電子與信息學(xué)報(bào). 2020,42(10)北大核心EICSCD
【文章頁數(shù)】:9 頁
【部分圖文】:
圖1分布式彈性網(wǎng)絡(luò)回歸學(xué)習(xí)算法計(jì)算流程
N,ρ,u1,u2ρρu1u2u1RMSE值作為算法性能的評(píng)價(jià)指標(biāo),在保證其他參數(shù)固定不變的條件下,分別評(píng)估參數(shù)對(duì)算法性能的影響。其中參數(shù)N對(duì)算法性能的影響如圖6所示,可以發(fā)現(xiàn)當(dāng)N取不同值時(shí),算法均能收斂,而且N值越小時(shí),算法的收斂速度越快,但最終均能得到相同的目標(biāo)函數(shù)值和RMSE值,表明算法具備較好的可擴(kuò)展性。參數(shù)對(duì)算法性能的影響如圖7所示,可以發(fā)現(xiàn)值較小時(shí),算法可以更快地收斂,目標(biāo)函數(shù)值和RMSE值較大。參數(shù)和對(duì)算法性能的影響分別如圖8和圖9所示,說明對(duì)算法的收斂速度影響較小,但對(duì)目標(biāo)函數(shù)值和RMSEu1u1u2u2u2值影響較大,值越小,目標(biāo)函數(shù)值和RMSE值就越�。慌c相似,值越小,目標(biāo)函數(shù)值和RMSE值也越小,不同的是,對(duì)算法的收斂速度影響較大,值越大,算法的收斂速度越快。4.2.3與其它方法性能比較R2aN=1相比于分布式算法,本地化算法的性能很大程度上與單個(gè)物聯(lián)網(wǎng)節(jié)點(diǎn)處理的本地?cái)?shù)據(jù)集規(guī)模大小相關(guān),因此將數(shù)據(jù)集隨機(jī)均勻地劃分為N個(gè)訓(xùn)練子集,即由N個(gè)節(jié)點(diǎn)獨(dú)立訓(xùn)練,并以和RMSE值作為評(píng)價(jià)指標(biāo),比較在N的不同取值下兩種算法的性能。值得注意的是,當(dāng)時(shí)本地化算法等同于集中式算法。R2a圖10(a)、圖10(b)分別表示不同N值下兩種算法的RMSE值和值比較。由圖10(a)可以發(fā)現(xiàn),圖2目標(biāo)函數(shù)值隨迭代次數(shù)變化圖3原始?xì)埐詈蛯?duì)偶?xì)埐铍S迭代次數(shù)變化圖4RMSE值隨迭代次數(shù)變化R2a圖5調(diào)整復(fù)相關(guān)系數(shù)值隨迭代次數(shù)變化圖6參數(shù)N對(duì)算法性能的影響2408電子與信息學(xué)報(bào)第42卷
圖10分布式算法與本地化算法之間的性能比較圖7參數(shù)ρ對(duì)算法性能的影響圖8參數(shù)u1對(duì)算法性能的影響圖9參數(shù)u2對(duì)算法性能的影響第10期方維維等:面向物聯(lián)網(wǎng)隱私數(shù)據(jù)分析的分布式彈性網(wǎng)絡(luò)回歸學(xué)習(xí)算法2409
【參考文獻(xiàn)】:
期刊論文
[1]車聯(lián)網(wǎng)中基于移動(dòng)邊緣計(jì)算的內(nèi)容感知分類卸載算法研究[J]. 趙海濤,朱銀陽,丁儀,朱洪波. 電子與信息學(xué)報(bào). 2020(01)
[2]邊緣計(jì)算:現(xiàn)狀與展望[J]. 施巍松,張星洲,王一帆,張慶陽. 計(jì)算機(jī)研究與發(fā)展. 2019(01)
[3]面向智能監(jiān)控?cái)z像頭的監(jiān)控視頻大數(shù)據(jù)分析處理[J]. 邵振峰,蔡家駿,王中元,馬照亭. 電子與信息學(xué)報(bào). 2017(05)
本文編號(hào):3429657
本文鏈接:http://sikaile.net/kejilunwen/xinxigongchenglunwen/3429657.html
最近更新
教材專著