聯(lián)邦邊緣學(xué)習(xí)的低功耗帶寬分配與用戶調(diào)度

周天依，潘春雨，鄭 鏞，李學(xué)華

(北京信息科技大學(xué) 信息與通信工程學(xué)院，北京 100101)

0 引言

隨著移動通信和物聯(lián)網(wǎng)的發(fā)展，智能手機和物聯(lián)網(wǎng)傳感器等設(shè)備產(chǎn)生的邊緣數(shù)據(jù)量呈爆炸式增長的趨勢。而傳統(tǒng)集中式的機器學(xué)習(xí)算法，需要將大量數(shù)據(jù)上傳至中心節(jié)點，導(dǎo)致較大的傳輸時延和上行鏈路擁塞[1]。聯(lián)邦邊緣學(xué)習(xí)(federated edge learning,FEL)的提出為上述問題提供了解決方案。FEL允許智能邊緣設(shè)備利用本地數(shù)據(jù)集進行模型訓(xùn)練，且只需上傳本地模型參數(shù)至服務(wù)器。服務(wù)器對局部模型參數(shù)進行聚合，更新全局模型后，下發(fā)給智能邊緣設(shè)備[2-4]。FEL算法減少了數(shù)據(jù)的傳輸，減輕了上行鏈路的壓力。與傳統(tǒng)的分布式機器學(xué)習(xí)算法相比，參與FEL的邊緣設(shè)備無需共享本地數(shù)據(jù)集，邊緣服務(wù)器無法干預(yù)各邊緣設(shè)備的自主訓(xùn)練過程，因此對于數(shù)據(jù)隱私的保護更具優(yōu)勢[5-7]。

然而，在邊緣設(shè)備中執(zhí)行聯(lián)邦學(xué)習(xí)算法并上傳模型參數(shù)，對邊緣設(shè)備的能耗以及上行鏈路資源的合理分配提出了嚴峻挑戰(zhàn)。與此同時，邊緣設(shè)備的異構(gòu)性將導(dǎo)致局部模型在訓(xùn)練完成時間上存在差異，影響全局模型的聚合，增大每輪的迭代時延及系統(tǒng)能耗[8]。近年來，已有相關(guān)工作對FEL的無線傳輸進行了研究。Tran等[9]提出了一種針對通信時延和計算資源分配的聯(lián)合優(yōu)化算法。Ghasempour等[10]提出了3種不同的調(diào)度策略來加速聯(lián)邦學(xué)習(xí)算法的收斂性，以最小化系統(tǒng)能耗。Chen等[11]旨在最小化無線通信影響下的全局聯(lián)邦學(xué)習(xí)損失函數(shù)，但并沒有考慮聯(lián)邦學(xué)習(xí)局部模型的傳輸時延。Vu等[12]聯(lián)合考慮了算法的局部模型訓(xùn)練精度、發(fā)射功率和設(shè)備的處理頻率，以此來最小化訓(xùn)練時間。Wadu[13]等在不完全信道狀態(tài)信息的場景中，聯(lián)合優(yōu)化了聯(lián)邦學(xué)習(xí)中的用戶調(diào)度和無線資源分配，以減小聯(lián)邦學(xué)習(xí)模型的損耗。綜上所述，現(xiàn)有針對FEL無線傳輸?shù)南嚓P(guān)研究，較少聯(lián)合考慮多服務(wù)場景下的信道干擾以及本地用戶訓(xùn)練延遲對FEL系統(tǒng)性能造成的影響。

本文考慮在多服務(wù)器共存的移動邊緣網(wǎng)絡(luò)中，通過聯(lián)合優(yōu)化無線資源和用戶調(diào)度來最大化網(wǎng)絡(luò)收益。針對一個由宏基站和多個小基站組成的移動邊緣計算(mobile edge computing，MEC)網(wǎng)絡(luò)中低功耗無線資源分配優(yōu)化問題復(fù)雜非凸，難以直接求解[14]的情況，使用低功耗的帶寬分配(bandwidth allocation,BA)策略推導(dǎo)出了能耗最小化的最優(yōu)策略收斂形式的解析解；使用用戶調(diào)度策略對參與參數(shù)上傳的邊緣設(shè)備進行篩選，減少設(shè)備全局模型聚合的等待時間，降低了系統(tǒng)的傳輸功率。

1 系統(tǒng)模型

本文研究一個由多個宏基站和多個小基站構(gòu)成的多服務(wù)器的FEL系統(tǒng)，每個宏基站配備一個邊緣服務(wù)器，進行全局模型的聚合和更新。FEL的迭代過程分為以下兩個步驟：邊緣設(shè)備利用本地數(shù)據(jù)進行局部模型訓(xùn)練，并通過上行鏈路將局部模型參數(shù)傳輸至邊緣服務(wù)器；邊緣服務(wù)器收集各邊緣設(shè)備上傳的局部模型參數(shù)后，聚合參數(shù)，生成全局模型，并將更新后的全局模型下發(fā)至邊緣設(shè)備。假設(shè)邊緣服務(wù)器可以通過反饋獲得模型大小、多用戶信道增益和本地計算能力等信息。邊緣服務(wù)器利用上述信息確定每次迭代過程的帶寬分配及用戶調(diào)度策略。

1.1 計算任務(wù)模型

1.2 參數(shù)上傳任務(wù)模型

(1)

(2)

(3)

(4)

?u∈U

(5)

2 低功耗的帶寬分配策略

(6)

(6a)

0≤tu≤Tu?u∈U

(6b)

引理1問題(6)的目標函數(shù)是關(guān)于tu和δu的非增函數(shù)，?u∈U。

定理1最優(yōu)的BA策略可表示為

(7)

式中:W(·)是朗伯W函數(shù)；v*為拉格朗日乘子；e為歐拉數(shù)。

因為上述問題是個凸問題，通過對不等式約束δ0，其中δ=[δ1,δ2,…，δu]T,引入拉格朗日乘子μ*=u，KKT約束可以被寫為：

通過求解上述等式，可以得到

證畢。

接下來，為了易于求解，給出一個推論。

證畢。

由推論1易知，計算能力較弱的邊緣設(shè)備，即Tu較小的邊緣設(shè)備將限制模型參數(shù)的同步更新，故為實現(xiàn)能耗最小化應(yīng)給該類邊緣設(shè)備分配較大帶寬。具體而言，通過分配較大帶寬，可使計算能力較弱的設(shè)備在傳輸約束時間內(nèi)完成模型參數(shù)上傳的同時，降低傳輸功率。此外，不難看出，對于信道狀態(tài)較差的設(shè)備應(yīng)分配更大帶寬。克服信道條件較差問題可以通過提高傳輸功率或增大帶寬來解決，本文采用增大帶寬的辦法來實現(xiàn)能耗最小化的目標。

3 低功耗的用戶調(diào)度算法

低功耗的用戶調(diào)度算法通過用戶調(diào)度和選擇，減少異構(gòu)設(shè)備局部模型參數(shù)上傳的時間差，提高全局模型的聚合效率。該算法的主要思想是基于邊緣服務(wù)器和邊緣設(shè)備的雙向反饋，在保證局部模型和全局模型精度的基礎(chǔ)上，高效調(diào)度本地設(shè)備完成局部模型參數(shù)上傳和全局模型聚合，降低邊緣設(shè)備能耗。

3.1 時間平均篩選算法

時間平均篩選算法主要面向邊緣設(shè)備本地數(shù)據(jù)量差異較大的場景。假設(shè)該場景下，設(shè)備訓(xùn)練時間在較大區(qū)間內(nèi)服從均勻分布。算法描述如下：

1)邊緣服務(wù)器生成初始化全局模型。通過反饋獲得邊緣設(shè)備本地數(shù)據(jù)量、多用戶信道增益和本地計算能力。

2)預(yù)測該單元內(nèi)所有邊緣設(shè)備的本地訓(xùn)練時延后，計算平均訓(xùn)練時延。

3)選擇預(yù)測時延小于平均訓(xùn)練時延的用戶進行局部模型訓(xùn)練，并上傳模型參數(shù)。

4)選定設(shè)備進行實際訓(xùn)練后反饋訓(xùn)練時延，滿足時延限制則允許上傳，否則舍棄。

3.2 時間峰值篩選算法

時間峰值篩選算法主要面向部分邊緣設(shè)備本地數(shù)據(jù)量近似的場景?？紤]該場景下，單元內(nèi)的設(shè)備訓(xùn)練時間滿足正態(tài)分布。算法描述如下：

1)邊緣服務(wù)器生成初始化全局模型。通過反饋獲得邊緣設(shè)備本地數(shù)據(jù)量、多用戶信道增益和本地計算能力。

2)預(yù)測該單元內(nèi)所有邊緣設(shè)備的本地訓(xùn)練時延后，根據(jù)正態(tài)分布3σ準則，劃定時間篩選范圍為(μ-σ,μ+σ)。

3)選擇預(yù)測時延在限定時間范圍內(nèi)的用戶進行局部模型訓(xùn)練，并上傳模型參數(shù)。

4)選定設(shè)備進行實際訓(xùn)練后反饋訓(xùn)練時延，滿足時延限制則允許上傳，否則舍棄。

4 仿真實驗

4.1 低功耗的帶寬分配策略評估

將本文提出的BA策略的實用性能與平均帶寬分配、隨機帶寬分配等算法進行比較。平均帶寬分配策略將上行鏈路帶寬平均分配給參與上傳的邊緣設(shè)備，所有設(shè)備具有相同的上行鏈路帶寬；隨機分配帶寬策略，將上行鏈路帶寬以隨機比例分配給參與上傳的邊緣設(shè)備。根據(jù)推論1，本文從最大傳輸時間和信道狀態(tài)兩方面驗證BA策略的有效性。

1)邊緣設(shè)備的上傳功率Pu、上傳能耗Eu與傳輸時間T的關(guān)系曲線分別如圖1和圖2所示。從圖中可以看出，3種帶寬分配策略下，功率和能耗均隨著T的增大而減小，傳輸時間越長能耗越小。

圖1 邊緣設(shè)備的上傳功率Pu與傳輸時間T的關(guān)系曲線

圖2 邊緣設(shè)備的上傳能耗Eu與傳輸時間T的關(guān)系曲線

圖3 邊緣設(shè)備的上傳功率Pu與上行鏈路增益的關(guān)系曲線

圖4 邊緣設(shè)備的上傳能耗Eu與上行鏈路增益的關(guān)系曲線

從圖1～4中可以看出，優(yōu)化BA策略的傳輸功率和傳輸能耗均低于其他兩種算法。該算法通過為計算能力較弱及信道狀態(tài)較差的設(shè)備分配較大的帶寬，使其在傳輸約束時間內(nèi)完成模型參數(shù)上傳的同時，降低傳輸功率。與隨機帶寬分配策略相比，優(yōu)化BA策略傳輸功率最大降低了43.5%，傳輸能耗最大降低了17.7%；與平均帶寬分配策略基線相比，優(yōu)化BA策略傳輸功率最大降低了27.4%,傳輸能耗最大降低了9.3%。

4.2 低功耗的用戶調(diào)度算法評估

由于本地邊緣設(shè)備存在異構(gòu)的特性，針對邊緣設(shè)備數(shù)據(jù)量差異較大和數(shù)據(jù)量近似相等兩類不同場景，分別采用時間平均篩選算法以及時間峰值篩選算法進行仿真評估。

1)本地邊緣設(shè)備的數(shù)據(jù)量差異較大時，本地訓(xùn)練時間的差異也會變大。由于基站覆蓋范圍內(nèi)邊緣設(shè)備較多，假設(shè)本地訓(xùn)練時間在較大時間范圍(0～0.7 s)內(nèi)服從均勻分布。圖5和圖6分別為邊緣設(shè)備的上傳功率Pu、上傳能耗Eu與傳輸時間T的關(guān)系曲線。從圖中可以看出，利用時間平均篩選算法后，僅選擇部分設(shè)備上傳本地模型參數(shù)，相對于等待全部設(shè)備完成訓(xùn)練后再進行參數(shù)上傳，設(shè)備傳輸功率和傳輸能耗都有大幅下降，分別降低34.7%和14.6%。

圖5 是否采用用戶調(diào)度算法的參數(shù)上傳功率對比

圖6 是否采用用戶調(diào)度算法的參數(shù)上傳能耗對比

2)針對實際應(yīng)用場景中部分設(shè)備本地數(shù)據(jù)量近似相等的情況，本文分別利用時間平均篩選算法和峰值篩選算法進行優(yōu)化測試。假設(shè)設(shè)備的訓(xùn)練時間大多分布在0～10 ms之間，用戶本地訓(xùn)練時間通過μ=0.5，σ2=0.5的正態(tài)分布進行模擬。圖7和圖8分別為邊緣設(shè)備的上傳功率Pu、上傳能耗Eu與傳輸時間T的關(guān)系曲線。兩類調(diào)度篩選優(yōu)化算法相對于等待全部設(shè)備完成訓(xùn)練后再進行參數(shù)上傳的方法，設(shè)備傳輸功率和傳輸能耗都有大幅度的下降，且均值優(yōu)化的效果要比峰值優(yōu)化的效果更好。這是因為采用均值優(yōu)化后的設(shè)備具有相對近似的局部模型訓(xùn)練時間以及相對嚴格的時間閾值，參數(shù)上傳的時間差較?。环逯祪?yōu)化為了保證全局模型精度，基于正態(tài)分布3σ準則進行用戶調(diào)度，傳輸時間差相對較大，等待時間較長進而導(dǎo)致了更大能耗。本地邊緣設(shè)備數(shù)據(jù)量近似的場景下，與未篩選的設(shè)備進行對比，峰值優(yōu)化后的設(shè)備傳輸功率降低了13.42%，設(shè)備傳輸能耗則降低了5%；而均值優(yōu)化后的設(shè)備，其設(shè)備傳輸功率則是降低了56.5%，設(shè)備傳輸能耗降低了22%。

圖7 不同模式下的參數(shù)上傳功率對比

圖8 不同模式下的參數(shù)上傳能耗對比

綜上所述，本文提出的兩類用戶調(diào)度篩選優(yōu)化算法，在提高全局模型聚合速率的基礎(chǔ)上，降低了邊緣設(shè)備能耗，且時間平均優(yōu)化算法具有更好的優(yōu)化效果。

5 結(jié)束語

本文提出了一種在多服務(wù)器的智能邊緣網(wǎng)絡(luò)中用于FEL的無線資源分配和用戶調(diào)度聯(lián)合優(yōu)化策略。首先，在多服務(wù)器干擾的基礎(chǔ)上，通過適應(yīng)邊緣設(shè)備的信道狀態(tài)及計算能力來調(diào)節(jié)帶寬分配，該策略為計算能力較弱、信道條件較差的邊緣設(shè)備提供了更大帶寬，可以有效降低邊緣設(shè)備的能耗。為了加快聯(lián)邦學(xué)習(xí)的全局模型聚合速度，進一步降低系統(tǒng)能耗，又提出了低功耗的用戶調(diào)度策略。針對兩類不同場景，分別采用時間平均篩選算法和時間峰值篩選算法對用戶調(diào)度進行優(yōu)化，仿真結(jié)果顯示了兩類算法的有效性，與參考算法相比，系統(tǒng)能耗得到了顯著的降低。在未來的研究中，可以進一步考慮用戶調(diào)度對模型精度的影響，在保證收斂速度和低功耗的前提下，優(yōu)化聯(lián)邦學(xué)習(xí)算法的全局模型精度。