基于多任務(wù)學(xué)習(xí)的非侵入式負(fù)荷分解

劉輝 江煦成

［收稿日期］2022-03-10

［基金項(xiàng)目］國(guó)家自然科學(xué)基金項(xiàng)目（61903129）

［第一作者］劉??? 輝（1962-），男，湖北武漢人，湖北工業(yè)大學(xué)教授，研究方向?yàn)殡娋W(wǎng)控制與智能制造

［通信作者］江煦成（1996-），男，湖北黃岡人，湖北工業(yè)大學(xué)碩士研究生，研究方向?yàn)榉乔秩胧截?fù)荷分解

［文章編號(hào)］1003-4684（2023）02-0001-06

［摘要］為解決目前非侵入式負(fù)荷分解研究中存在的模型數(shù)量多及訓(xùn)練時(shí)間長(zhǎng)等問題，將多任務(wù)學(xué)習(xí)引入到非侵入式負(fù)荷分解研究中，提出一種基于多門多專家模型的非侵入式負(fù)荷分解方法，首先通過seq2point模型將用電設(shè)備的功率分解轉(zhuǎn)換為總功率序列與用電設(shè)備在序列中點(diǎn)時(shí)刻功率值的映射關(guān)系，其次利用MMoE模型的門控函數(shù)及共用的Expert網(wǎng)絡(luò)組兼顧不同用電設(shè)備功率分解任務(wù)的獨(dú)特性和關(guān)聯(lián)性，最終通過單個(gè)MMoE模型同時(shí)完成多個(gè)用電設(shè)備的功率分解。在公開數(shù)據(jù)集上進(jìn)行驗(yàn)證，測(cè)試算例驗(yàn)證了方法的有效性。

［關(guān)鍵詞］非侵入式負(fù)荷分解；多任務(wù)學(xué)習(xí)；MMoE；seq2point

［中圖分類號(hào)］TM714? ［文獻(xiàn)標(biāo)識(shí)碼］A

目前主流的非侵入式負(fù)荷分解（Non-intrusive Load Decomposition ， NILD）研究中，通過低頻采樣的功率、電流、電壓等數(shù)據(jù)，使用不同算法得到總負(fù)荷數(shù)據(jù)序列與不同用電設(shè)備的負(fù)荷數(shù)據(jù)序列之間的映射關(guān)系，實(shí)現(xiàn)對(duì)不同用電設(shè)備運(yùn)行情況的識(shí)別，在深度學(xué)習(xí)首次引入NILD研究取得很好效果之后[1]，越來越多的學(xué)者開始使用深度學(xué)習(xí)模型構(gòu)建NILD模型，通過深度模型使用回歸或者分類的方法實(shí)現(xiàn)對(duì)不同電器功率的識(shí)別，例如時(shí)序卷積網(wǎng)絡(luò)[2]，卷積注意力塊模型[3]，以及seq2seq模型[4]。以上研究，都是通過單任務(wù)學(xué)習(xí)模型，不同用電設(shè)備使用不同結(jié)構(gòu)的模型進(jìn)行負(fù)荷分解。雖然能做到較高的準(zhǔn)確率，但不同用電設(shè)備負(fù)荷分解任務(wù)需要重新構(gòu)造模型，操作較為繁瑣，也存在訓(xùn)練單個(gè)模型時(shí)間較長(zhǎng)的問題。

解決上述問題，可以將用電設(shè)備的負(fù)荷分解作為不同的子任務(wù)導(dǎo)入至多任務(wù)學(xué)習(xí)模型，通過訓(xùn)練單個(gè)多任務(wù)學(xué)習(xí)同時(shí)對(duì)多個(gè)用電設(shè)備進(jìn)行負(fù)荷分解。但是一般多任務(wù)學(xué)習(xí)模型訓(xùn)練中，不同任務(wù)之間的相關(guān)性對(duì)單個(gè)任務(wù)的最終結(jié)果有很大的影響，在任務(wù)之間相關(guān)性較弱時(shí)，多任務(wù)學(xué)習(xí)模型的表現(xiàn)并不比單任務(wù)模型更好[5]，主要原因在于基于深度神經(jīng)網(wǎng)絡(luò)的多任務(wù)學(xué)習(xí)模型對(duì)數(shù)據(jù)分布差別與任務(wù)之間的關(guān)系較為敏感[6]，且真實(shí)數(shù)據(jù)模型比較復(fù)雜，很難明確各個(gè)任務(wù)之間的區(qū)別，即使不需要明確任務(wù)差別的模型，為適應(yīng)不同的任務(wù)，其模型參數(shù)也較多，計(jì)算成本較高[7]。

綜上所述，本文提出一種基于MMoE模型的非侵入式負(fù)荷監(jiān)測(cè)方法，MMoE通過建模來描述不同用電設(shè)備分解任務(wù)之間的相關(guān)性，利用共享表示學(xué)習(xí)各分解任務(wù)特定的函數(shù)，同時(shí)自動(dòng)分配模型參數(shù)去捕捉任務(wù)共享或者任務(wù)獨(dú)有的信息，避免參數(shù)增多的同時(shí)，也能提高不同用電設(shè)備識(shí)別任務(wù)的準(zhǔn)確度。最后在公開數(shù)據(jù)集上驗(yàn)證本文所提方法的有效性。

1??? 非侵入式負(fù)荷分解模型

1.1??? 模型流程圖

本文的非侵入式負(fù)荷分解模型如圖1所示。

本文所需的數(shù)據(jù)為低頻采樣的有功功率數(shù)據(jù)，首先通過滑動(dòng)窗口順序讀取總功率數(shù)據(jù)，同時(shí)對(duì)應(yīng)讀取滑動(dòng)窗口中點(diǎn)時(shí)刻不同用電設(shè)備的功率值，之后拼接多個(gè)總功率序列得到總功率矩陣，以及不同用電設(shè)備功率序列，將多個(gè)電器的負(fù)荷分解作為多個(gè)任務(wù)，將總功率矩陣及不同用電設(shè)備功率序列輸入到多任務(wù)學(xué)習(xí)模型中進(jìn)行訓(xùn)練，最后輸入待識(shí)別的總功率矩陣至訓(xùn)練好的多任務(wù)學(xué)習(xí)模型，輸出得到各用電設(shè)備功率序列。

1.2??? seq2point模型

本文采用seq2point模型來實(shí)現(xiàn)負(fù)荷分解，具體原理如下式：

xτ=F（Yt：t+w－1）（1）

式中：Yt：t+w-1=[yt，yt+1，…，yt+w-1]是一段總功率序列，其中總功率為不同用電器功率總和，w為滑動(dòng)窗口長(zhǎng)度，yt為t時(shí)刻對(duì)應(yīng)的總功率值，xSymboltA@為窗口中心時(shí)刻不同用電設(shè)備的有功功率值，其中SymboltA@=t+w/2，F(xiàn)表示xSymboltA@與Yt：t+w-1的映射關(guān)系。

本文通過訓(xùn)練多任務(wù)模型，找出如式（1）的映射關(guān)系，通過輸入總功率序列數(shù)據(jù)至網(wǎng)絡(luò)，輸出得到對(duì)應(yīng)序列中點(diǎn)時(shí)刻不同用電設(shè)備的功率值。

1.3??? MMoE模型

本文使用的多任務(wù)學(xué)習(xí)模型為MMoE[7]。為了更好說明MMoE的改進(jìn)原理，先介紹傳統(tǒng)的共享底層網(wǎng)絡(luò)模型（Shared-Bottom Model ， SBM）[8]，如圖2所示

圖 2??? 共享底層模型

圖2表明當(dāng)有兩個(gè)任務(wù)的時(shí)候，傳統(tǒng)的多任務(wù)學(xué)習(xí)模型結(jié)構(gòu)，模型的輸入層之后接一個(gè)共享底層網(wǎng)絡(luò)，之后與兩個(gè)塔層網(wǎng)絡(luò)相連，塔層網(wǎng)絡(luò)對(duì)共享底層輸出的數(shù)據(jù)處理之后，得到不同任務(wù)的結(jié)果。

當(dāng)有k個(gè)任務(wù)時(shí)，共享底層網(wǎng)絡(luò)與k個(gè)塔層網(wǎng)絡(luò)連接，假設(shè)輸入網(wǎng)絡(luò)的數(shù)據(jù)為x，則第k個(gè)任務(wù)的輸出

yk=hk（f（x））（2）

式中：hk為第k個(gè)塔層網(wǎng)絡(luò)的函數(shù)表示，f為共享底層的函數(shù)表示。

基于共享底層的網(wǎng)絡(luò)結(jié)構(gòu)可以減少模型過擬合的風(fēng)險(xiǎn)，但是由于所有的任務(wù)共同使用共享底層的參數(shù)集，所以任務(wù)之間的差異容易導(dǎo)致模型優(yōu)化沖突，雖然已有學(xué)者通過加設(shè)約束條件等做法來改善這種情況[9]，但是隨著任務(wù)數(shù)目增多，模型中的參數(shù)也大大增加，進(jìn)一步帶來了需要加大數(shù)據(jù)集等問題，且實(shí)驗(yàn)證明，在任務(wù)之間相關(guān)性不高時(shí)，傳統(tǒng)的共享底層網(wǎng)絡(luò)表現(xiàn)不佳。

為解決上述問題，有學(xué)者提出將混合專家網(wǎng)絡(luò)（Mixture-of-Experts ， MoE）層替換傳統(tǒng)網(wǎng)絡(luò)中的共享底層，同時(shí)對(duì)每一個(gè)任務(wù)都對(duì)應(yīng)配對(duì)一個(gè)門控網(wǎng)絡(luò)，得到MMoE網(wǎng)絡(luò)，其具體結(jié)構(gòu)如圖3所示，MMoE網(wǎng)絡(luò)將傳統(tǒng)網(wǎng)絡(luò)中，共享底層網(wǎng)絡(luò)被替換為一組專家網(wǎng)絡(luò)，與輸入層以及塔層網(wǎng)絡(luò)連接，每個(gè)專家網(wǎng)絡(luò)為前向網(wǎng)絡(luò)。當(dāng)有k個(gè)任務(wù)時(shí)，輸入層也同時(shí)與k個(gè)門控網(wǎng)絡(luò)進(jìn)行連接，輸入數(shù)據(jù)x至MMoE模型，得到第k個(gè)任務(wù)的輸出可以表示為：

yk=hk（∑ni=1gk（x）ifi（x））（3）

∑ni=1gk（x）i=1（4）

式（3）中： fi為第i個(gè)專家網(wǎng)絡(luò)的函數(shù)表示，gki表示第k個(gè)門控網(wǎng)絡(luò)在第i個(gè)專家網(wǎng)絡(luò)上的概率分布，且滿足式（4），hk為第k個(gè)塔層網(wǎng)絡(luò)的函數(shù)表示，門控網(wǎng)絡(luò)為一層softmax變換器，對(duì)輸入數(shù)據(jù)進(jìn)行線性變換：

gk（x）=softmax（Wgkx）（5）

式中：Wgk∈Rn×d為待訓(xùn)練矩陣，n為專家網(wǎng)絡(luò)數(shù)量，d為特征維度。

圖 3??? MMoE模型

通過替換MoE層與對(duì)應(yīng)增加門控網(wǎng)絡(luò)之后，MMoE結(jié)構(gòu)可以根據(jù)不同任務(wù)的實(shí)際數(shù)據(jù)情況，根據(jù)式（5）調(diào)整各自門控網(wǎng)絡(luò)矩陣參數(shù)，得到不同的概率分布并對(duì)應(yīng)轉(zhuǎn)換為加權(quán)數(shù)，最后每個(gè)任務(wù)的輸出為不同專家網(wǎng)絡(luò)的加權(quán)和表示，這種做法能夠充分考慮單獨(dú)任務(wù)的特殊性。同時(shí)由于多個(gè)任務(wù)共用一組專家網(wǎng)絡(luò)，在一定程度上也能兼顧任務(wù)之間的相關(guān)性。故MMoE網(wǎng)絡(luò)相比于傳統(tǒng)的多任務(wù)學(xué)習(xí)模型魯棒性更好，對(duì)于關(guān)聯(lián)性較差的任務(wù)的訓(xùn)練效果也更好。

2??? 非侵入式負(fù)荷分解

由于實(shí)際生活中，不同用電設(shè)備的運(yùn)行并沒有很大的關(guān)聯(lián)性，故使用MMoE模型可以很好的解決NILM問題。

2.1??? 數(shù)據(jù)讀取

假設(shè)通過對(duì)總功率序列使用滑動(dòng)窗進(jìn)行數(shù)據(jù)讀取，將每次讀取的短序列總功率數(shù)據(jù)以及用電設(shè)備在滑動(dòng)窗中點(diǎn)時(shí)刻對(duì)應(yīng)的功率數(shù)據(jù)進(jìn)行存儲(chǔ)，最終得到總功率數(shù)據(jù)矩陣X及用電設(shè)備m的功率序列Y：

X=x1x2…xwx2x3…xw+1…xnxn+1…xx+w－1（6）

Ym=y1y2yn（7）

式（6）中：xi為i時(shí)刻總功率值，w為滑動(dòng)窗口長(zhǎng)度，n為樣本數(shù)量。式（7）中：m為用電設(shè)備編號(hào)，yj為j個(gè)總功率短序列樣本對(duì)應(yīng)滑動(dòng)窗中點(diǎn)時(shí)刻用電設(shè)備m的功率值。之后將X與Y數(shù)據(jù)標(biāo)準(zhǔn)化，導(dǎo)入到MMoE模型中進(jìn)行訓(xùn)練及測(cè)試。

2.2??? 基于MMoE的非侵入式負(fù)荷分解

為解決不同用電設(shè)備如式（1）的非侵入式負(fù)荷分解任務(wù)，將標(biāo)準(zhǔn)化后的總功率數(shù)據(jù)矩陣X以及不同用電器的功率序列Y輸入到MMoE模型進(jìn)行訓(xùn)練及測(cè)試，其具體流程見圖4。

首先設(shè)定好MMoE模型的相關(guān)參數(shù)和訓(xùn)練迭代數(shù)T之后，將總功率數(shù)據(jù)矩陣X以及多個(gè)用電設(shè)備的功率序列Y至網(wǎng)絡(luò)。網(wǎng)絡(luò)通過遍歷每個(gè)分解任務(wù)的訓(xùn)練集樣本數(shù)據(jù)，更新各分解任務(wù)中式（5）所示的門控網(wǎng)絡(luò)數(shù)據(jù)矩陣Wgk以及專家網(wǎng)絡(luò)參數(shù)，計(jì)算各用電設(shè)備分解任務(wù)的輸出結(jié)果、各任務(wù)的損失函數(shù)值及整體損失函數(shù)值。迭代次數(shù)到達(dá)最大迭代數(shù)T之后，導(dǎo)出訓(xùn)練好的網(wǎng)絡(luò)，輸入待識(shí)別的總功率數(shù)據(jù)矩陣，網(wǎng)絡(luò)輸出識(shí)別的各用電設(shè)備的功率序列，完成負(fù)荷分解。

本文能夠設(shè)置的網(wǎng)絡(luò)參數(shù)為專家網(wǎng)絡(luò)的數(shù)量以及單元數(shù)以及訓(xùn)練迭代次數(shù)。通過多次實(shí)驗(yàn)，本文設(shè)置專家網(wǎng)絡(luò)數(shù)量為270，每個(gè)專家網(wǎng)絡(luò)中含有的神經(jīng)單元數(shù)為350，迭代數(shù)為150，優(yōu)化器選用Adam，學(xué)習(xí)率設(shè)為10-5。

3??? 算例分析

本文選用REDD[11]數(shù)據(jù)集來驗(yàn)證本文所提模型的有效性，REDD數(shù)據(jù)集包含了6個(gè)家庭的家用電器功率能耗數(shù)據(jù)，功率采樣頻率為1/6 Hz。本文選用數(shù)據(jù)集中冰箱、洗碗機(jī)、浴室電器以及微波爐的有功功率數(shù)據(jù)。

3.1??? 數(shù)據(jù)預(yù)處理

選取的用電設(shè)備其運(yùn)行情況各有特點(diǎn)，冰箱屬于長(zhǎng)時(shí)間運(yùn)行變狀態(tài)設(shè)備，洗碗機(jī)運(yùn)行具有多狀態(tài)及變狀態(tài)組合的特點(diǎn)，浴室電器和微波爐皆為啟停狀態(tài)設(shè)備，但是浴室電器的高峰大小并不一致，啟動(dòng)運(yùn)行功率不穩(wěn)定，微波爐則相對(duì)穩(wěn)定。

為最大限度利用數(shù)據(jù)，本文取用各電器450 000個(gè)采樣點(diǎn)數(shù)據(jù)進(jìn)行重采樣處理，每個(gè)采樣點(diǎn)功率數(shù)據(jù)計(jì)算平均值，得到的平均功率作為新的采樣點(diǎn)數(shù)據(jù)，將每個(gè)設(shè)備的原始功率序列轉(zhuǎn)換為長(zhǎng)度為30 000的功率序列，并將幾個(gè)用電器的功率序列求和，得到長(zhǎng)度為30 000的總和功率序列。

本文通過多次實(shí)驗(yàn)，設(shè)置滑動(dòng)窗口長(zhǎng)度為5，同時(shí)在總功率序列首端和末端補(bǔ)零，通過滑動(dòng)窗取值，得到一共30 000條總功率短序列，通過拼接短序列，得到大小為（30 000，5）輸入數(shù)據(jù)矩陣，同時(shí)得到4個(gè)用電設(shè)備長(zhǎng)度為30 000的功率序列。將數(shù)據(jù)集的80%作為訓(xùn)練集，10%作為驗(yàn)證集，10%作為測(cè)試集。各設(shè)備功率數(shù)據(jù)信息如表1所示。

3.2??? 負(fù)荷分解評(píng)價(jià)指標(biāo)

本文選用平均絕對(duì)誤差MAE，歸一化信號(hào)誤差SAE以及標(biāo)準(zhǔn)化分解誤差NDE來評(píng)價(jià)實(shí)驗(yàn)結(jié)果，如下：

MAE=1M∑mi=1（i－yi）（8）

NDE=∑i（i－yi）2∑iy2i（9）

SAE=∑ii－∑iyi∑iyi（10）

式中：yi表示用電設(shè)備在i時(shí)刻的真實(shí)功率值，i表示用電設(shè)備在i時(shí)刻的預(yù)測(cè)功率值。

3.3??? 實(shí)驗(yàn)結(jié)果對(duì)比

本文選用One-gate Mixture-of-Experts（OMoE）模型[7]、傳統(tǒng)多任務(wù)學(xué)習(xí)模型（SBM）[8]來做多任務(wù)學(xué)習(xí)模型的實(shí)驗(yàn)結(jié)果對(duì)比，常規(guī)seq2seq預(yù)測(cè)模型，LSTM預(yù)測(cè)模型做單任務(wù)學(xué)習(xí)模型的實(shí)驗(yàn)結(jié)果進(jìn)行對(duì)比。得到的MAE結(jié)果見表2。

由表2可知，MMoE模型大部分電器識(shí)別結(jié)果的MAE值都較低，說明了MMoE模型識(shí)別結(jié)果擬合較好，準(zhǔn)確度更高。相對(duì)于其他模型，OMoE模型的MAE結(jié)果與MMoE較為接近，即OMoE識(shí)別的準(zhǔn)確性較高，模型識(shí)別的擬合程度較好，故本文重點(diǎn)比較兩個(gè)模型的功率分解結(jié)果，洗碗機(jī)功率分解結(jié)果對(duì)比圖5，其余電器對(duì)比結(jié)果見圖6～圖8。

由圖5～圖8知，MMoE模型相比于OMoE模型能更準(zhǔn)確識(shí)別電器的狀態(tài)變化，如圖5中洗碗機(jī)的運(yùn)行狀態(tài)識(shí)別，MMoE模型能夠更加準(zhǔn)確判斷電器的運(yùn)行情況，同時(shí)分解功率值更接近于電器真實(shí)運(yùn)行時(shí)的功率值。MMoE模型與各模型功率分解結(jié)果的SAE及NDE指標(biāo)數(shù)據(jù)見表3及表4。

由表3可知，MMoE模型功率分解結(jié)果的NDE指標(biāo)相對(duì)于其他模型均較低，即MMoE功率分解曲線的離散程度較小，更符合實(shí)際的功率運(yùn)行情況。

由表4的SAE指標(biāo)結(jié)果可知，MMoE模型對(duì)浴室用電的分解結(jié)果精度較OMoE模型分解結(jié)果有所下降，但是其他電器的分解結(jié)果精度則相較OMoE分解結(jié)果較好且整體也均優(yōu)于單任務(wù)學(xué)習(xí)模型，即MMoE模型的分解精度結(jié)果更好。綜上，MMoE在曲線擬合程度上更好，分解精度也較高，負(fù)荷分解的效果更好。

由于深度學(xué)習(xí)存在模型訓(xùn)練時(shí)間長(zhǎng)短的差別，本文將MMoE模型訓(xùn)練時(shí)間與對(duì)照模型的訓(xùn)練時(shí)間進(jìn)行對(duì)比見表5。

訓(xùn)練時(shí)間選擇的對(duì)照模型為單任務(wù)學(xué)習(xí)模型，不同用電設(shè)備的分解選用參數(shù)不同的模型進(jìn)行訓(xùn)練，訓(xùn)練時(shí)間為訓(xùn)練不同參數(shù)模型所用時(shí)間的總和。由表5可知，相對(duì)于單任務(wù)學(xué)習(xí)模型，MMoE模型可以同時(shí)分解多個(gè)用電設(shè)備的功率且用時(shí)最短，效率更高。且由表2、表3及表4的實(shí)驗(yàn)結(jié)果，MMoE模型的功率分解結(jié)果擬合效果更好，離散度更小，精度更高，模型更具優(yōu)越性。

3.4??? 泛化性驗(yàn)證

為驗(yàn)證本文模型的泛化性，通過提取其他房間相同電器的功率數(shù)據(jù)及對(duì)應(yīng)的總功率數(shù)據(jù)，進(jìn)行相同的數(shù)據(jù)處理操作，一共得到20000條功率數(shù)據(jù)，以及大小為（20000，5）的總功率數(shù)據(jù)矩陣，輸入之前實(shí)驗(yàn)訓(xùn)練完成的MMoE模型，得到MMoE模型對(duì)其他房間用電設(shè)備識(shí)別結(jié)果，并計(jì)算相關(guān)指標(biāo)，且由不同實(shí)驗(yàn)指標(biāo)結(jié)果中，OMoE模型的實(shí)驗(yàn)結(jié)果與MMoE實(shí)驗(yàn)結(jié)果較為接近，故本文重點(diǎn)對(duì)兩模型的泛化性實(shí)驗(yàn)結(jié)果進(jìn)行對(duì)比，具體結(jié)果見圖9。

（b）OMoE分解結(jié)果圖 9??? 泛化性實(shí)驗(yàn)結(jié)果對(duì)比

由圖9所示，雖然相對(duì)于原房間的測(cè)試結(jié)果各指標(biāo)都有所下降，但是也仍然維持在較高水平，且也基本優(yōu)于OMoE模型，證明本文所提的模型具有良好的泛化性。

4?? ?結(jié)論

本文提出一種基于MMoE模型的非侵入式負(fù)荷分解方法，首先將低頻采樣的功率數(shù)據(jù)進(jìn)行預(yù)處理，通過滑動(dòng)窗讀取用電設(shè)備及總功率數(shù)據(jù)之后，將不同用電設(shè)備的分解作為不同的任務(wù)，通過訓(xùn)練MMoE模型，輸入總功率數(shù)據(jù)矩陣，同時(shí)得到多個(gè)用電設(shè)備的功率序列，實(shí)現(xiàn)負(fù)荷分解。通過在REDD上進(jìn)行實(shí)驗(yàn)，可以得到本文所提模型相對(duì)于其他多任務(wù)學(xué)習(xí)模型具有較高的分解精度以及準(zhǔn)確性，同時(shí)相對(duì)于單任務(wù)學(xué)習(xí)模型，多任務(wù)學(xué)習(xí)模型具有更短的訓(xùn)練時(shí)間，更具有實(shí)用性。但大功率用電設(shè)備運(yùn)行時(shí)，對(duì)其他用電設(shè)備的分解影響，未來的研究將進(jìn)一步解決這個(gè)問題，也將進(jìn)一步研究提高模型泛化性的方法。

［參考文獻(xiàn)］

［1］KELLY J， KNOTTENBELT W J. Neural NILM：deep neural networksapplied to energy disaggregation[C].∥Proceedings of the 2nd ACMInternational Conference on Embedded Systems for Energy-Efficient Built Environments .Seoul，Korea： ACM，2015，55-64.

[2]劉仲民，侯坤福，高敬更.基于時(shí)間卷積神經(jīng)網(wǎng)絡(luò)的非侵入式居民用電負(fù)荷分解方法[J].電力建設(shè)，2021，42（03）：97-106.

[3]徐曉會(huì)，趙書濤，崔克彬.基于卷積塊注意力模型的非侵入式負(fù)荷分解算法[J/OL].電網(wǎng)技術(shù)：1-8[2021-09-06].https：//doi.org/10.13335/j.1000-3673.pst.2020.1487.].

[4]王軻，鐘海旺，余南鵬，等．基于 seq2seq 和 Attention 機(jī)制的居民用戶非侵入式負(fù)荷分解[J]．中國(guó)電機(jī)工程學(xué)報(bào)，2019，39（01）：75-83．

[5]YANG Y， HOSPEDALES T. Deep multi-task representation learning： a tensor factorisation approach[J/OL]. （2022-03-09）.https：∥arxiv.org/abs/1605.06391.

[6]MISRA I， SHRIVASTAVA A， GUPTA A， et al. Cross-stitch networks for multi-task learning[C].∥2016 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. IEEE， 2016.

[7]MA J， ZHAO Z， YI X， et al. Modeling task relationships in multi-task learning with multi-gate mixture-of-experts[C]. ACM， 2018.[8]Rich Caruana. 1998. Multitask learning. In Learning to learn. Springer， 95-133.

[8]CARUANA R. Multitask learning： a knowledge-based source of inductive bias[C].∥Machine Learning， Proceedings of the Tenth International Conference， University of Massachusetts， Amherst， MA， USA， June 27-29， 1993. DBLP， 1993.

[9]EIGEN D， RANZATO M， SUTSKEVER I. Learning factored representations in a deep mixture of experts[J/OL].（2022-03-09）.https：//arxiv.org/abs/1312.4314.

[10]JACOBS R， JORDAN M， NOWLAN S， et al. Adaptive mixtures of local experts[J]. Neural Computation， 2014， 3（01）：79-87.

[11]KOLTER J Z， Johnson M J. REDD： A public data set for energydisaggregation research[C].∥Workshop on Data Mining Applicationsin Sustainability（SIGKDD）， San Diego， CA. 2011， 25（Citeseer）： 59-62.

Non-intrusive Load Decomposition Based on Multi-task Learning

LIU Hui， JIANG Xucheng

（Hubei Collaborative Innovation Centerfor Efficient Use of Solar Energy，Hubei Univ. of Tech.， Wuhan 430068，China）

Abstract：Non-intrusive load decomposition is one of the key technologies for obtaining user electricity information in the construction of the power grid. In order to solve the problems of the large number of models and long training time in the current non-intrusive load decomposition research， this paper introduces multi-task learning In the study of non-intrusive load decomposition， a non-intrusive load decomposition method based on the Multi-gate Mixture of-Experts （MMoE） model is proposed. First， the power of the electrical equipment is decomposed and converted through the seq2point model. It is the mapping relationship between the total power sequence and the power value of the electrical equipment at the midpoint of the sequence. Secondly， the gating function of the MMoE model and the shared Expert network group are used to take into account the uniqueness and relevance of the power decomposition tasks of different electrical equipment， and finally pass A single MMoE model completes the power decomposition of multiple electrical equipment at the same time. This article verifies the method proposed in this article on the public data set， and the test case verifies the effectiveness of the method in this article.

Keywords：non-intrusive load decomposition; multi-task learning; mmoe; seq2point

［責(zé)任編校： 張巖芳］