考慮變分模態(tài)分解殘差量的電力負(fù)荷預(yù)測(cè)研究

張 蓮，李 濤，宮 宇，楊洪杰，張尚德，賈 浩

(1.重慶市能源互聯(lián)網(wǎng)工程技術(shù)研究中心， 重慶 400054; 2.重慶理工大學(xué) 電氣與電子工程學(xué)院， 重慶 400054)

隨著我國(guó)社會(huì)和經(jīng)濟(jì)的發(fā)展，電力市場(chǎng)化改革成為必然的趨勢(shì)和要求，節(jié)能減排，實(shí)現(xiàn)碳達(dá)峰、碳中和是國(guó)家的重要目標(biāo)。在這樣的背景下，提高電力負(fù)荷預(yù)測(cè)的精度對(duì)于電力供需平衡、電力系統(tǒng)穩(wěn)定、合理安排發(fā)電計(jì)劃、減少不必要的能源消耗有著重要意義[1-2]。

相關(guān)研究者對(duì)電力負(fù)荷預(yù)測(cè)做了大量研究，提出了多種預(yù)測(cè)方法，例如自回歸積分滑動(dòng)平均法[3]、隨機(jī)森林法[4-5]、支持向量機(jī)法[6]、神經(jīng)網(wǎng)絡(luò)法[7-11]等方法。隨著深度學(xué)習(xí)的興起與發(fā)展，各種具有深度學(xué)習(xí)功能的神經(jīng)網(wǎng)絡(luò)被廣泛應(yīng)用于電力負(fù)荷預(yù)測(cè)領(lǐng)域。張宇帆等[12]利用深度長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)負(fù)荷功率，展示了深度LSTM神經(jīng)網(wǎng)絡(luò)在負(fù)荷數(shù)據(jù)特征學(xué)習(xí)方面的優(yōu)越性。在以往的淺層神經(jīng)網(wǎng)絡(luò)中，只有隱藏層的神經(jīng)元數(shù)量可以改變，而在LSTM神經(jīng)網(wǎng)絡(luò)中，可以改變網(wǎng)絡(luò)的寬度和深度，因此在傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中的局部最優(yōu)問題可以通過預(yù)訓(xùn)練的方式得到緩解。

對(duì)于具有高度隨機(jī)、波動(dòng)等特性的電力負(fù)荷序列，采用單一的預(yù)測(cè)方法往往不容易達(dá)到理想的預(yù)測(cè)精度。目前，各種組合預(yù)測(cè)方法在電力負(fù)荷預(yù)測(cè)領(lǐng)域得到了廣泛應(yīng)用，其中經(jīng)驗(yàn)?zāi)B(tài)分解(EMD)算法可以有效地對(duì)原始負(fù)荷序列進(jìn)行分解，達(dá)到平滑序列和非平滑序列互相分離的目的，然后再結(jié)合預(yù)測(cè)方法分別預(yù)測(cè)各個(gè)本征模態(tài)[13-14]分量。但是，EMD分解算法容易造成模態(tài)混疊，并生成虛假IMF分量，會(huì)對(duì)預(yù)測(cè)結(jié)果產(chǎn)生不利影響。文獻(xiàn)[15]采用變分模態(tài)分解算法將負(fù)荷數(shù)據(jù)分解為具有不同特征的模態(tài)函數(shù)，可有效避免模態(tài)混疊，提升了信號(hào)的分析效果。

然而，以往采取VMD分解算法建立的組合預(yù)測(cè)模型直接拋棄了信息豐富的VMD分解后剩余殘差量，這限制了模型的預(yù)測(cè)準(zhǔn)確性。因此，提出了考慮VMD殘差量的VMD-LSTM組合預(yù)測(cè)模型，改善VMD-LSTM組合模型的整體預(yù)測(cè)精度。

1 基本原理

1.1 VMD算法

2014年，Konstantin團(tuán)隊(duì)提出了一種自適應(yīng)的數(shù)據(jù)處理算法——變分模態(tài)分解[16]，該算法通過迭代搜索變分模態(tài)的最優(yōu)解，每個(gè)模態(tài)函數(shù)和中心頻率不斷更新，進(jìn)而得到一系列具有一定帶寬的模態(tài)函數(shù)。變分模態(tài)分解是對(duì)EMD算法的改進(jìn)，可更好地避免模態(tài)混疊和端點(diǎn)效應(yīng)等問題。

VMD算法將信號(hào)分解為預(yù)先定義的K個(gè)本征模態(tài)分量IMF，即IMF被重新定義為一個(gè)輸入信號(hào)的模態(tài)函數(shù)uk(t)：

uk(t)=Ak(t)cos(φk(t))

(1)

式中：Ak(t)為瞬時(shí)幅值，Ak(t)≥0；φk(t)為相位。

φk(t)對(duì)t求1階微分，得到uk(t)的瞬時(shí)頻率ωk(t)：

(2)

具體的步驟如下：

步驟1對(duì)分解得到的每個(gè)uk(t)做HHT變換來(lái)計(jì)算其相關(guān)的解析信號(hào)及邊際譜：

(3)

式中：δ(t)為單位脈沖函數(shù)。

步驟2 通過加入一個(gè)預(yù)估的中心頻率e-jωkt，將各個(gè)uk(t)的頻譜變換到其對(duì)應(yīng)的基帶；

(4)

步驟3 通過計(jì)算梯度的L2范數(shù)的平方來(lái)估計(jì)相應(yīng)模態(tài)的帶寬，構(gòu)造出如下的約束變分問題：

(5)

式中：{uk}表示分解后的模態(tài)集合{u1,u2,…,uk}；{ωk}表示分解后的各模態(tài)對(duì)應(yīng)的中心頻率集合{ω1,ω2,…,ωk}； *為卷積符號(hào)；f(t)為輸入信號(hào)。

步驟4 為了求解式(5)，引入二次懲罰項(xiàng)α和Lagrange乘數(shù)λ(t)，由此把問題轉(zhuǎn)換成如下的無(wú)約束的變分問題：

(6)

(7)

(8)

(9)

式中：n為迭代次數(shù)。

步驟5 規(guī)定最大的迭代次數(shù)為N，使得正數(shù)n滿足n≤N，存在任意ε>0，滿足：

(10)

時(shí)，完成迭代，否則返回步驟4。然后對(duì)式(7)求解得到的K個(gè)IMF的頻域結(jié)果進(jìn)行反傅里葉變換，得到時(shí)域信號(hào)。

1.2 LSTM神經(jīng)網(wǎng)絡(luò)算法

在LSTM神經(jīng)網(wǎng)絡(luò)中有3個(gè)稱之為“門”的控制結(jié)構(gòu)，分別是遺忘門、輸入門和輸出門。其中輸入門和遺忘門對(duì)LSTM神經(jīng)網(wǎng)絡(luò)能夠記憶長(zhǎng)期依賴關(guān)系至關(guān)重要。LSTM網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示[17]。

遺忘門決定了將丟棄多少過去的狀態(tài)信息，其利用Sigmiod函數(shù)參考前面的結(jié)果和目前的內(nèi)容：

ft=σ(Wf[ht-1,xt]+bf)

(11)

式中：ft為遺忘門的狀態(tài)；ht-1表示上一次輸出的結(jié)果；xt表示當(dāng)前輸入的信息；Wf和bf為遺忘門權(quán)重矩陣和偏置項(xiàng)；σ表示Sigmiod函數(shù)。當(dāng)ft的值愈加接近于0，被遺忘的信息越多。

圖1 LSTM網(wǎng)絡(luò)結(jié)構(gòu)示意圖

輸入門決定了記憶單元中將保存多少當(dāng)前時(shí)刻網(wǎng)絡(luò)的狀態(tài)信息：

it=σ(Wi[ht-1,xt]+bi)

(12)

(13)

(14)

式中：ct為當(dāng)前時(shí)刻的記憶單元；符號(hào)“°”表示哈達(dá)瑪乘。

最后，輸出門決定了當(dāng)前時(shí)刻內(nèi)部狀態(tài)中將輸出多少信息給外部狀態(tài)：

ot=σ(Wo[ht-1,xt]+bo)

(15)

式中：ot為輸出門的狀態(tài)；Wo和bo為輸出門權(quán)重矩陣和偏置項(xiàng)。ot值越趨近于1，則當(dāng)前時(shí)刻的外部狀態(tài)ht就會(huì)從當(dāng)前時(shí)刻的細(xì)胞狀態(tài)ct中接收越多的信息。

2 建立模型

如前文所述，電力負(fù)荷序列通常具有非平滑、非線性和其他復(fù)雜的特性，使用單一的預(yù)測(cè)方法精度有限。VMD分解技術(shù)可以將復(fù)雜的信號(hào)分解成多個(gè)正則模態(tài)分量，降低原信號(hào)的復(fù)雜程度。因此，如果采取常規(guī)預(yù)測(cè)方法對(duì)VMD分解后的各個(gè)模態(tài)分量進(jìn)行預(yù)測(cè)建模，那么預(yù)測(cè)精度會(huì)大幅度提高[18-19]。然而，以往的研究沒有考慮VMD分解后殘差量仍然含有的豐富信息，直接拋棄了殘差量，從而降低了模型的預(yù)測(cè)精度。本文中提出在VMD分解的基礎(chǔ)上充分考慮分解剩余殘差量，結(jié)合LSTM神經(jīng)網(wǎng)絡(luò)的組合預(yù)測(cè)模型，其建模流程如圖2所示。詳細(xì)建模步驟如下：

步驟1對(duì)輸入電力負(fù)荷序列數(shù)據(jù)進(jìn)行歸一化處理。

步驟2采用VMD算法分解歸一化后的電力負(fù)荷序列，得到各個(gè)IMF，然后用分解前負(fù)荷序列數(shù)據(jù)減去各IMF數(shù)據(jù)之和，得到VMD分解剩余殘差量。

步驟3對(duì)分解后的各IMF和殘差量數(shù)據(jù)劃分出合適的訓(xùn)練樣本與測(cè)試樣本，輸入LSTM神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，得到各IMF和殘差量的預(yù)測(cè)結(jié)果。

步驟4將各IMF及殘差量的預(yù)測(cè)結(jié)果疊加并反歸一化后得到最終預(yù)測(cè)結(jié)果。

圖2 預(yù)測(cè)模型流程框圖

3 算例分析

3.1 實(shí)驗(yàn)數(shù)據(jù)和實(shí)驗(yàn)平臺(tái)

實(shí)驗(yàn)以2016年電工數(shù)學(xué)建模競(jìng)賽[20]中提供的某地區(qū)2014年4月7日—22日的電力負(fù)荷為原始負(fù)荷數(shù)據(jù)，數(shù)據(jù)的采樣周期為15 min，每天產(chǎn)生96組數(shù)據(jù)，共1 536組數(shù)據(jù)。以2014年4月7日—20日數(shù)據(jù)為L(zhǎng)STM神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本，以2014年4月21日的負(fù)荷數(shù)據(jù)為L(zhǎng)STM神經(jīng)網(wǎng)絡(luò)測(cè)試樣本。預(yù)測(cè)2014年4月22日的電力負(fù)荷，并與實(shí)際負(fù)荷進(jìn)行對(duì)比。

使用Intel Core I5處理器，16G內(nèi)存，512G固態(tài)硬盤作為實(shí)驗(yàn)所用的硬件設(shè)備；使用Windows平臺(tái)的Python3.8語(yǔ)言實(shí)現(xiàn)各種算法，采用Keras框架下的LSTM模型。

3.2 電力負(fù)荷數(shù)據(jù)歸一化及分析

神經(jīng)網(wǎng)絡(luò)采用基于梯度下降的反向傳播算法進(jìn)行訓(xùn)練，數(shù)據(jù)過大或過小都難以尋找到最優(yōu)解[21]。因此，采取歸一化處理將樣本數(shù)據(jù)轉(zhuǎn)化為無(wú)量綱的純數(shù)值，這樣不僅能夠提升模型的收斂速度，而且可以提升模型的精度。歸一化公式為：

(16)

式中：Z′為歸一化后的樣本值；Z為原樣本值；Zmax為原樣本集中的最大值；Zmin為原樣本集中的最小值。歸一化后的原始電力負(fù)荷數(shù)據(jù)如圖3所示。

圖3 原始電力負(fù)荷數(shù)據(jù)曲線

從圖3中可以看出，電力負(fù)荷數(shù)據(jù)有相似的波動(dòng)規(guī)律，總體上與時(shí)間存在一定的周期關(guān)系。

3.3 評(píng)價(jià)指標(biāo)

目前用于評(píng)價(jià)負(fù)荷預(yù)測(cè)結(jié)果的主要評(píng)價(jià)指標(biāo)為平均絕對(duì)百分誤差和均方根誤差，其中MAPE反映了模型的擬合度，RMSE反映了預(yù)測(cè)的準(zhǔn)確性。這兩個(gè)指標(biāo)的數(shù)值越小，模型的預(yù)測(cè)效果越好[22]，2種評(píng)價(jià)指標(biāo)的表達(dá)式如下：

(17)

(18)

3.4 實(shí)驗(yàn)分析

通過多次實(shí)驗(yàn)測(cè)試，VMD算法參數(shù)設(shè)置如下：模態(tài)個(gè)數(shù)K=4；懲罰因子α=2 000；收斂判據(jù)r=10-7；起始中心頻率ω=0。歸一化后的電力負(fù)荷數(shù)據(jù)由VMD算法進(jìn)行分解，分解后得到各模態(tài)如圖4所示，殘差量如圖5所示。

圖4 VMD分解后的模態(tài)曲線

圖5 VMD分解后的殘差量曲線

從圖4中可以看出，經(jīng)過VMD算法分解后各模態(tài)分量的規(guī)律性比圖3中原始負(fù)荷的規(guī)律性更強(qiáng)，更有利于神經(jīng)網(wǎng)絡(luò)對(duì)電力負(fù)荷數(shù)據(jù)特征的學(xué)習(xí)。從圖5中可以看出，分解殘差量介于模態(tài)分量IMF3與IMF4之間，殘差量中含有豐富的信息，如果在建立模型時(shí)直接拋棄殘差量，將會(huì)對(duì)模型的預(yù)測(cè)效果造成不利影響。

通過多次訓(xùn)練對(duì)比，選取LSTM模型參數(shù)值如表1所示。

Dropout參數(shù)隨機(jī)拋棄每個(gè)輸入的一些特征來(lái)增強(qiáng)模型的魯棒性。這是通過不斷改變網(wǎng)絡(luò)的結(jié)構(gòu)，使神經(jīng)網(wǎng)絡(luò)記住隱藏在數(shù)據(jù)中有規(guī)律的特征，而不是訓(xùn)練數(shù)據(jù)本身。在輸入中使用過擬合參數(shù)，即輸入到每個(gè)LSTM模塊的數(shù)據(jù)將以一定的概率在正向激活和反向權(quán)值更新過程中失去其特征。

表1 網(wǎng)絡(luò)主要超差數(shù)值

將分解后的各分量輸入LSTM預(yù)測(cè)模型進(jìn)行預(yù)測(cè)，得到各分量的初始預(yù)測(cè)值；然后，對(duì)初始預(yù)測(cè)值反歸一化得到實(shí)際預(yù)測(cè)值；最后，各成分的預(yù)測(cè)值相互疊加，得到最終的預(yù)測(cè)結(jié)果。

為了評(píng)估模型的精確度，進(jìn)行LSTM模型、VMD-LSTM模型和考慮分解殘差量的VMD-LSTM模型預(yù)測(cè)值與實(shí)際值曲線對(duì)比，如圖6所示。

圖6 3種模型預(yù)測(cè)曲線

經(jīng)計(jì)算，得到3種預(yù)測(cè)模型預(yù)測(cè)結(jié)果的MAPE值和RMSE值，如圖7所示。

圖7 3種模型預(yù)測(cè)結(jié)果的直方圖

從圖6、7可以看出，在考慮VMD分解殘差量時(shí)的VMD-LSTM預(yù)測(cè)模型預(yù)測(cè)效果最好，MAPE值為1.460 2%，RMSE值為138.112 6 MW，驗(yàn)證了使用該方法預(yù)測(cè)精度有一定提升。

4 結(jié)論

針對(duì)電力負(fù)荷特性建立了考慮VMD分解殘差量的VMD-LSTM預(yù)測(cè)模型。采用VMD算法對(duì)電力負(fù)荷進(jìn)行分解，得到不同頻率的IMF分量和分解殘差量。使用LSTM神經(jīng)網(wǎng)絡(luò)對(duì)分解的各IMF分量和殘差量數(shù)據(jù)進(jìn)行預(yù)測(cè)，將預(yù)測(cè)結(jié)果疊加，得到電力負(fù)荷預(yù)測(cè)結(jié)果。實(shí)驗(yàn)結(jié)果表明，該預(yù)測(cè)模型具有較高的預(yù)測(cè)精度，電力負(fù)荷的趨勢(shì)預(yù)測(cè)更加準(zhǔn)確。下一步，將對(duì)研究方法做進(jìn)一步改進(jìn)和完善，在模型輸入中加入氣象、節(jié)日等影響負(fù)荷變化的因素，使預(yù)測(cè)效果更加符合實(shí)際需求。