基于Q-learning的工業(yè)互聯(lián)網(wǎng)資源優(yōu)化調(diào)度
發(fā)布時間:2021-10-31 09:36
面對5G與工業(yè)互聯(lián)網(wǎng)中日益增長的數(shù)據(jù)傳輸與計算需求,移動邊緣計算已逐漸成為一種新興的解決方法,可有效應對工業(yè)互聯(lián)網(wǎng)設備自身計算能力的不足,并充分緩解網(wǎng)絡擁塞等問題.然而,當數(shù)量龐大的設備同時發(fā)送計算請求時,往往會超出邊緣計算服務器的計算負載.此外,工業(yè)互聯(lián)網(wǎng)設備通常僅裝配有限的能量供給,無法承受能源消耗過多的任務,且龐大的設備數(shù)量還決定了網(wǎng)絡連接、數(shù)據(jù)計算等系統(tǒng)開銷.因此,面向工業(yè)互聯(lián)網(wǎng)場景中機器類型通信設備的計算任務卸載問題,提出一種基于Q-learning的計算任務卸載決策方法,綜合考慮任務卸載過程中的網(wǎng)絡環(huán)境和服務器狀態(tài),并聯(lián)合優(yōu)化卸載過程產(chǎn)生的時延、能耗和經(jīng)濟開銷.仿真結果表明,所提優(yōu)化框架可有效減少計算任務卸載系統(tǒng)的時延、能耗和經(jīng)濟的總開銷.
【文章來源】:北京工業(yè)大學學報. 2020,46(11)北大核心CSCD
【文章頁數(shù)】:9 頁
【部分圖文】:
系統(tǒng)單項開銷與任務數(shù)據(jù)量關系
圖6分別展示了本文所提基于Q-learning的計算任務卸載策略產(chǎn)生的任務平均時延、能耗和經(jīng)濟開銷受加權系數(shù)的影響,任務的復雜度為固定值1 300兆輪. 上文中提到,總開銷Asum由時延、能耗和經(jīng)濟開銷分別與各自加權系數(shù)Wd、We、Wm相乘后相加得到,且各權值系數(shù)相加值為1. 如圖6所示,各權值參數(shù)Wd、We、Wm分別設置為0.33、0.50和0.80,受此影響,卸載系統(tǒng)對各指標的優(yōu)化程度均有顯著差異. 權值參數(shù)越高,對于對應指標的優(yōu)化程度越顯著. 當匹配更高的權值參數(shù)時,同樣的系統(tǒng)開銷會被放大,agent因此會偏向于對該指標的優(yōu)化.以圖6中任務平均經(jīng)濟開銷為例,當權值達到0.80時,系統(tǒng)卸載策略甚至傾向于將全部任務置于本地處理,以減少其產(chǎn)生的經(jīng)濟開銷. 但可預見,在提高某一項權值參數(shù)進行補償優(yōu)化時,其開銷雖明顯減少,但其余種類開銷將有所增加. 因此,在實際場景中,需根據(jù)實際需求和限制調(diào)整各指標所對應的權值參數(shù).綜上所述,相比于無優(yōu)化的5種已有卸載決策方法,本文框架可有效減少任務處理時產(chǎn)生的加權總開銷,并可根據(jù)實際需求調(diào)整對應的權值參數(shù),著重優(yōu)化時延、能耗、經(jīng)濟開銷中的某一特定開銷.
本文所提工業(yè)互聯(lián)網(wǎng)網(wǎng)絡結構模型如圖1所示. 此場景下包含N個用戶和M個WiFi節(jié)點. 同時,小區(qū)內(nèi)還部署1個裝配有MEC服務器的基站. 假設用戶需處理一批計算密集型任務,可選擇于本地處理,也可選擇卸載至MEC服務器或中心云服務器處理. MEC服務器的最大計算負載量為L. 用戶上傳任務數(shù)據(jù)時,既可選擇通過移動網(wǎng)絡傳輸,也可通過WiFi網(wǎng)絡傳輸.本文暫不考慮移動網(wǎng)絡與WiFi網(wǎng)絡的相互干擾. 在上傳任務數(shù)據(jù)時,每個用戶都擁有相同的信道帶寬. 當用戶通過移動網(wǎng)絡傳輸時,擁有固定的傳輸速率rb. 當用戶通過WiFi網(wǎng)絡傳輸時,首先在一定范圍內(nèi)獲取區(qū)域內(nèi)WiFi節(jié)點的傳輸功率pw1,pw2,…,pwm,…,pwM,根據(jù)
【參考文獻】:
期刊論文
[1]Energy-Efficient Computation Offloading and Resource Allocation in Fog Computing for Internet of Everything[J]. Qiuping Li,Junhui Zhao,Yi Gong,Qingmiao Zhang. 中國通信. 2019(03)
[2]強化學習研究綜述[J]. 馬騁乾,謝偉,孫偉杰. 指揮控制與仿真. 2018(06)
[3]基于車聯(lián)網(wǎng)和移動邊緣計算的時延可容忍數(shù)據(jù)傳輸[J]. 李萌,司鵬搏,孫恩昌,張延華. 北京工業(yè)大學學報. 2018(04)
本文編號:3467892
【文章來源】:北京工業(yè)大學學報. 2020,46(11)北大核心CSCD
【文章頁數(shù)】:9 頁
【部分圖文】:
系統(tǒng)單項開銷與任務數(shù)據(jù)量關系
圖6分別展示了本文所提基于Q-learning的計算任務卸載策略產(chǎn)生的任務平均時延、能耗和經(jīng)濟開銷受加權系數(shù)的影響,任務的復雜度為固定值1 300兆輪. 上文中提到,總開銷Asum由時延、能耗和經(jīng)濟開銷分別與各自加權系數(shù)Wd、We、Wm相乘后相加得到,且各權值系數(shù)相加值為1. 如圖6所示,各權值參數(shù)Wd、We、Wm分別設置為0.33、0.50和0.80,受此影響,卸載系統(tǒng)對各指標的優(yōu)化程度均有顯著差異. 權值參數(shù)越高,對于對應指標的優(yōu)化程度越顯著. 當匹配更高的權值參數(shù)時,同樣的系統(tǒng)開銷會被放大,agent因此會偏向于對該指標的優(yōu)化.以圖6中任務平均經(jīng)濟開銷為例,當權值達到0.80時,系統(tǒng)卸載策略甚至傾向于將全部任務置于本地處理,以減少其產(chǎn)生的經(jīng)濟開銷. 但可預見,在提高某一項權值參數(shù)進行補償優(yōu)化時,其開銷雖明顯減少,但其余種類開銷將有所增加. 因此,在實際場景中,需根據(jù)實際需求和限制調(diào)整各指標所對應的權值參數(shù).綜上所述,相比于無優(yōu)化的5種已有卸載決策方法,本文框架可有效減少任務處理時產(chǎn)生的加權總開銷,并可根據(jù)實際需求調(diào)整對應的權值參數(shù),著重優(yōu)化時延、能耗、經(jīng)濟開銷中的某一特定開銷.
本文所提工業(yè)互聯(lián)網(wǎng)網(wǎng)絡結構模型如圖1所示. 此場景下包含N個用戶和M個WiFi節(jié)點. 同時,小區(qū)內(nèi)還部署1個裝配有MEC服務器的基站. 假設用戶需處理一批計算密集型任務,可選擇于本地處理,也可選擇卸載至MEC服務器或中心云服務器處理. MEC服務器的最大計算負載量為L. 用戶上傳任務數(shù)據(jù)時,既可選擇通過移動網(wǎng)絡傳輸,也可通過WiFi網(wǎng)絡傳輸.本文暫不考慮移動網(wǎng)絡與WiFi網(wǎng)絡的相互干擾. 在上傳任務數(shù)據(jù)時,每個用戶都擁有相同的信道帶寬. 當用戶通過移動網(wǎng)絡傳輸時,擁有固定的傳輸速率rb. 當用戶通過WiFi網(wǎng)絡傳輸時,首先在一定范圍內(nèi)獲取區(qū)域內(nèi)WiFi節(jié)點的傳輸功率pw1,pw2,…,pwm,…,pwM,根據(jù)
【參考文獻】:
期刊論文
[1]Energy-Efficient Computation Offloading and Resource Allocation in Fog Computing for Internet of Everything[J]. Qiuping Li,Junhui Zhao,Yi Gong,Qingmiao Zhang. 中國通信. 2019(03)
[2]強化學習研究綜述[J]. 馬騁乾,謝偉,孫偉杰. 指揮控制與仿真. 2018(06)
[3]基于車聯(lián)網(wǎng)和移動邊緣計算的時延可容忍數(shù)據(jù)傳輸[J]. 李萌,司鵬搏,孫恩昌,張延華. 北京工業(yè)大學學報. 2018(04)
本文編號:3467892
本文鏈接:http://sikaile.net/kejilunwen/xinxigongchenglunwen/3467892.html
最近更新
教材專著