基于TCN和高斯過程殘差建模學(xué)習的凈負荷概率預(yù)測方法

摘 要：提出一種基于時間卷積神經(jīng)網(wǎng)絡(luò)（TCN）和高斯過程（GP）的凈負荷預(yù)測方法，可提供精確的點預(yù)測和概率預(yù)測結(jié)果。首先，TCN被用來提取大量的歷史數(shù)據(jù)中凈負荷的變化規(guī)律，TCN優(yōu)秀的時間序列建模能力可發(fā)現(xiàn)凈負荷預(yù)測任務(wù)輸入輸出之間的復(fù)雜映射關(guān)系。然后，為高斯過程設(shè)計一個復(fù)合核函數(shù)對TCN的預(yù)測殘差進行建模學(xué)習，該過程可在TCN預(yù)測的基礎(chǔ)上進一步提升點預(yù)測的精度，同時也可利用高斯過程的不確定性量化能力對凈負荷預(yù)測的不確定性進行量化。最后，通過在真實凈負荷數(shù)據(jù)集上和大量先進的模型進行比較，驗證該文提出方法的有效性。

關(guān)鍵詞：預(yù)測模型；光伏出力；概率密度函數(shù)；殘差神經(jīng)網(wǎng)絡(luò)；時間卷積神經(jīng)網(wǎng)絡(luò)

中圖分類號：TM743 " " " " " " " " 文獻標志碼：A

0 引 言

在碳達峰、碳中和戰(zhàn)略目標的指導(dǎo)下，大量分布式光伏從用戶側(cè)入網(wǎng)，可再生能源的使用一定程度上緩解了能源短缺的困境，但其發(fā)電的間歇性和不確定性也給電力系統(tǒng)帶來了挑戰(zhàn)［1］。準確的凈負荷預(yù)測可降低電力系統(tǒng)運營商的管理、運營和維護成本［2］。因此，電力系統(tǒng)的規(guī)劃和運行中需考慮凈負荷的影響。

傳統(tǒng)負荷預(yù)測可分為點預(yù)測方法和概率預(yù)測方法兩類。點預(yù)測方法中支持向量機（support vector regression，SVR）［3-4］、長短期記憶（long short-term memory，LSTM）［5-6］、卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural network，CNN）［7-8］捕捉了負荷需求的不確定性；概率預(yù)測方法中分位數(shù)回歸（quantile regression，QR）［9-10］、標準高斯過程（standard Gaussian process，SGP）［11］等量化了負荷需求的不確定性。

凈負荷預(yù)測是負荷預(yù)測問題的一個新興分支，包含了可再生能源出力和負荷需求兩方面的不確定性。文獻［12］提出基于自注意力編碼器和深度神經(jīng)網(wǎng)絡(luò)的凈負荷預(yù)測模型；文獻［13］利用支持向量機提高了光伏預(yù)測精度；文獻［14］通過經(jīng)驗?zāi)B(tài)分解和深度信念網(wǎng)絡(luò)進行了用戶側(cè)的凈負荷預(yù)測；文獻［15］將歷史數(shù)據(jù)經(jīng)變分模態(tài)分解，得到更具規(guī)律性的模態(tài)作為自適應(yīng)進化極限學(xué)習機的輸入分別進行預(yù)測。這些方法借助來自消費者的大量歷史數(shù)據(jù)捕獲用電模式的隨機不確定性，并建立從歷史信息到未來負荷的映射?？煽闯?，大多數(shù)凈負荷預(yù)測的文獻均嘗試尋找一個普遍的負荷預(yù)測最佳方法。但能應(yīng)用在各種場景下的最佳單一預(yù)測模型是不存在的［16］，對于不同的負荷模式和光伏條件，預(yù)測模型的構(gòu)建可能會有所不同。深度神經(jīng)網(wǎng)絡(luò)等參數(shù)化模型具有偶然不確定性（數(shù)據(jù)不確定性）和認知不確定性（模型不確定性）［17］，這些不確定性會導(dǎo)致預(yù)測結(jié)果并不可靠。特別是在凈負荷預(yù)測領(lǐng)域，凈負荷本身具有多重不確定性，當采用深度神經(jīng)網(wǎng)絡(luò)等參數(shù)化模型時很難直接找到能準確構(gòu)建凈負荷預(yù)測模型的有效特征和最優(yōu)參數(shù)。所以，具有認知不確定性的單一參數(shù)模型并不能很好地勝任凈負荷預(yù)測問題。此外，當前凈負荷預(yù)測的研究主要針對于點預(yù)測。但由于可再生能源的普及和市場競爭的增加，越來越需要概率預(yù)測方法量化凈負荷預(yù)測的不確定性［18］。

因而，如何降低凈負荷預(yù)測結(jié)果的多重不確定性，并對其進行量化是本文研究的重要課題。高斯過程回歸（Gaussian process regression，GPR）是一種基于貝葉斯理論的非參數(shù)化方法［19］，區(qū)別于參數(shù)化模型對樣本數(shù)量的需求，高斯過程回歸更適用于小樣本的回歸分析。利用高斯過程回歸建立預(yù)測殘差模型并修正預(yù)測模型的結(jié)果能提高原始模型的準確性，應(yīng)對模型的認知不確定性，有效提升系統(tǒng)的魯棒性，保證系統(tǒng)安全規(guī)劃和運行。此外，GPR通過預(yù)測區(qū)間來量化凈負荷的隨機不確定性，處理不確定因素的干擾。這對電力系統(tǒng)的規(guī)劃和運行具有重要價值。

本文的主要貢獻總結(jié)如下：

1）提出一種基于時間卷積神經(jīng)網(wǎng)絡(luò)（temporal conrolutional network，TCN）和高斯過程（Gaussian process，GP）殘差建模學(xué)習（residual modeling learning，RML）的凈負荷概率預(yù)測方法。首先，通過TCN網(wǎng)絡(luò)發(fā)現(xiàn)凈負荷預(yù)測輸入輸出之間的映射關(guān)系。然后，通過GP對預(yù)測誤差進行建模，以捕捉預(yù)訓(xùn)練網(wǎng)絡(luò)的預(yù)測行為。所采用的復(fù)合核使得所提方法在TCN網(wǎng)絡(luò)的基礎(chǔ)上實現(xiàn)更準確的點預(yù)測。

2）貝葉斯特性使得基于TCN和高斯過程殘差建模學(xué)習的凈負荷概率預(yù)測方法能有效量化凈負荷的預(yù)測不確定性，也使得該模型區(qū)別于現(xiàn)有的確定性凈負荷預(yù)測方法。現(xiàn)有的確定性凈負荷預(yù)測方法在處理高不確定性問題時可能會出現(xiàn)較大偏差。

1 TCN和高斯過程殘差建模學(xué)習方法

為降低并量化凈負荷預(yù)測的多重不確定性，本文提出一種基于TCN和高斯過程殘差建模學(xué)習的概率負荷預(yù)測方法，并提供點預(yù)測和概率預(yù)測結(jié)果。所提方法的示意圖如圖1所示。首先，利用TCN學(xué)習從特征到未來凈負荷的映射。然后，利用RML修正TCN輸出的點預(yù)測結(jié)果并對這個結(jié)果的不確定性進行量化得到概率預(yù)測結(jié)果。

1.1 模型輸入與輸出

本節(jié)中采用模型的輸入變量記為[xi]，包括歷史負荷數(shù)據(jù)、氣象數(shù)據(jù)和時間信息；模型的輸出變量為未來的負荷數(shù)據(jù)記為[yi]。[xi]和[yi]共同構(gòu)成數(shù)據(jù)集[T=xi，yini=1]，其中[n]表示訓(xùn)練樣本的數(shù)量。通過學(xué)習[yi]與[xi]之間的映射可得到點預(yù)測結(jié)果。然而，負荷的歷史數(shù)據(jù)包含了發(fā)電和需求兩方面的不確定性，點預(yù)測結(jié)果可能存在較大的預(yù)測誤差。在不改變預(yù)測模型和網(wǎng)絡(luò)結(jié)構(gòu)的基礎(chǔ)上，本文提出一種基于神經(jīng)網(wǎng)絡(luò)和貝葉斯理論的預(yù)測方法，對映射函數(shù)的分布進行估計，用以衡量預(yù)測結(jié)果的不確定性。在訓(xùn)練中，考慮一個大樣本訓(xùn)練數(shù)據(jù)集[T=xi， yini=1]和一個小樣本訓(xùn)練數(shù)據(jù)集[Tr=xi， yiRi=n]。對大樣本訓(xùn)練集采用TCN進行訓(xùn)練，學(xué)習一個初始的點預(yù)測模型，利用小樣本訓(xùn)練數(shù)據(jù)集[Tr]構(gòu)建殘差建模學(xué)習模型對點預(yù)測模型進行修正。實現(xiàn)細節(jié)將在下文中具體展開。

1.2 TCN

TCN是用于時間序列問題的卷積神經(jīng)網(wǎng)絡(luò)模型，該網(wǎng)絡(luò)在時序網(wǎng)絡(luò)中引入了卷積運算，在時序問題上獲得了很好的預(yù)測精度。時序卷積網(wǎng)絡(luò)的核心是擴張因果卷積，該結(jié)構(gòu)由一系列精心設(shè)計的一維卷積層堆疊而成，這些層在保持輸入輸出長度一致的同時，融合了擴張與因果性的原則。為應(yīng)對深度網(wǎng)絡(luò)訓(xùn)練中常見的梯度消失問題，并預(yù)防模型性能的退化，該網(wǎng)絡(luò)創(chuàng)新性地采用了殘差連接技術(shù)，有效提升了訓(xùn)練過程的穩(wěn)定性，并加速了網(wǎng)絡(luò)的收斂進程。具體到因果卷積層，其工作機制是確保輸出序列中每一個元素（例如第[i]個元素）僅依賴于其之前（即索引從0到[i]-1）的輸入序列元素，嚴格遵循僅利用歷史數(shù)據(jù)、不引入未來信息的原則。為實現(xiàn)輸入輸出長度的精確匹配，網(wǎng)絡(luò)在輸入張量的起始端進行了零填充處理，這一策略在不存在擴張因子的情況下，所需填充的零元素數(shù)量恰好等于卷積核的尺寸減去1，從而保證了數(shù)據(jù)處理的連續(xù)性和效率。

綜上所述，時序卷積網(wǎng)絡(luò)憑借其獨特的擴張因果卷積設(shè)計和殘差連接機制，成為處理時間序列數(shù)據(jù)的有效工具。其不僅能有效捕捉數(shù)據(jù)中的時間依賴性，還通過優(yōu)化訓(xùn)練過程，為處理復(fù)雜時序任務(wù)提供了強有力的支持。

因果卷積中上層網(wǎng)絡(luò)感受野的大小有限，因而引入擴張卷積實現(xiàn)類似于池化或跨步卷積的功能，這一步驟可擴大感受野。通常隨著網(wǎng)絡(luò)深度的增大，擴張因子d也隨之增大。一維擴張因果卷積定義如下：

[F（s）=i=0β-1f（i）xs-di] （1）

式中：[x]——輸入序列；[f]——過濾器；[d]——擴張系數(shù)；[β]——卷積核大??；[s-di]——保證模型只對過去的輸入做卷積操作，與未來輸入無關(guān)。

殘差單元通過其獨特的結(jié)構(gòu)配置——擴張因果卷積、權(quán)重歸一化、ReLU激活以及Dropout正則化，構(gòu)建了一個既能捕捉長期依賴又具備強大泛化能力的深度學(xué)習組件，非常適用于處理復(fù)雜序列數(shù)據(jù)的任務(wù)。

1.3 具有RML復(fù)合核的高斯過程

[X，y]表示訓(xùn)練數(shù)據(jù)集[Tr=xi，yiRi=n]，[X?，y?]表示測試數(shù)據(jù)集[Ts=Xi，yiSi=R]，其中[X]和y是訓(xùn)練數(shù)據(jù)集的輸入和輸出，[X?]和[y?]是測試數(shù)據(jù)集的輸入和輸出，可得到：

[y=f（X）+ε] （2）

[y?=fX?+ε] （3）

式中：[ε～N0，σ2n]——高斯白噪聲；[f（?）]——高斯映射。

高斯過程是一種非參數(shù)概率模型，被定義為隨機變量的集合，其中任何有限的子集都具有聯(lián)合高斯分布［20］?？蓪P定義為：

[fx～GPm（x），kx，x'] （4）

式中：均值函數(shù)[m（x）]——輸入[x]處的預(yù)期值，[mx=Efx]；協(xié)方差函數(shù)[kx，x']——不同輸入點[x]和[x']處函數(shù)值之間的依賴關(guān)系：

[kx，x'=Efx-mxfx'-mx'] （5）

函數(shù)[k]通常被稱為高斯過程的內(nèi)核。使用徑向基函數(shù)（radial basis function，RBF）作為核函數(shù)時被定義為：

[kx，x'=σ2exp-x-x'2/2l2] （6）

式中：[σ2]和l——超參數(shù)。

[X?]是測試集輸入，每一行都有一個新的輸入點[x?i]，[i=1，…，n]，[X?]中所有輸入之間的協(xié)方差矩陣[KX*， X*]為：

[KX*， X*=kx*1，x*1kx*1，x*2…kx*1，x*nkx*2，x*1kx*2，x*2…kx*2，x*n…………kx*n，x*1kx*n，x*2…kx*n，x*n] （7）

通常選擇先驗均值函數(shù)[m（x）=0]來簡化式（4），然后可通過從多元正態(tài)分布中抽樣獲得輸入[X?]處預(yù)測值的映射[f*～N0，KX*，X*]，其中[f?=fx?1，…，fx?nT]。

已知訓(xùn)練數(shù)據(jù)[X，y]，根據(jù)定義，先前的y和[f?]遵循聯(lián)合（多元）正態(tài)分布。那么可通過式（8）得到聯(lián)合先驗分布：

[yf?～N0，K（X， X）+σ2εIKX， X?KX?， XKX?， X?] （8）

式中：[X]——訓(xùn)練數(shù)據(jù)輸入矩陣；[K（X， X）]——訓(xùn)練數(shù)據(jù)之間的協(xié)方差矩陣；[KX?， X?]——測試數(shù)據(jù)之間的協(xié)方差矩陣；[KX?， X]——測試數(shù)據(jù)與訓(xùn)練數(shù)據(jù)之間的協(xié)方差矩陣；[KX， X?]——訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)之間的協(xié)方差矩陣；I——單位矩陣； [σ2ε]——假設(shè)的觀察噪聲水平（即ε的方差）。

與典型的高斯過程對輸入和輸出之間的關(guān)系進行建模不同，殘差建模學(xué)習旨在對標簽和預(yù)測值之間的殘差進行建模。訓(xùn)練數(shù)據(jù)實際值[yi]和TCN預(yù)測值[yi]之間的殘差可寫為：

[ri=yi-yi， i=1，2，…，n] （9）

令[Y]和[R]分別表示時序卷積網(wǎng)絡(luò)輸出的點預(yù)測結(jié)果向量以及所有的殘差。訓(xùn)練一個具有復(fù)合核的高斯過程，假設(shè)[R～N0，Kc（（X，Y），（X，Y））+σ2nI]，其中[Kc（（X，Y），（X，Y））]表示所有數(shù)據(jù)點的協(xié)方差矩陣。訓(xùn)練集中所有數(shù)據(jù)點的協(xié)方差矩陣[Kc]基于以下復(fù)合核[kc]：

[kcxi，yi，xj，yj=kin xi，xj+kout yi，yj， "i=1， 2， …， n]

（10）

假設(shè)RBF同時用于輸入有關(guān)的核[kin ?]，輸出有關(guān)的核[kout ?]。那么復(fù)合核可表示為：

[kcxi，yi，xj，yj=σ2in exp-xi-xj2/2l2in + " " " " " " " " " " " " " " " " " "σ2out exp-yi-yj2/2l2out ] （11）

式中：[σin 、σout 、lin 、lout ]——在學(xué)習過程中需要優(yōu)化的參數(shù)，這些參數(shù)參照式（12）通過最大化對數(shù)邊際似然函數(shù)來更新。

[lnp（R∣X，Y）=-12RTKc+σ2nI-1R-12lnKc+σ2nI-n2lg2π] （12）

新輸入點[x?i]的殘差分布為：

[r?∣X，Y，r，x?，y?～Nr?，varr?] （13）

[r?=kT*Kc（（X，Y），（X，Y））+σ2nI-1R] （14）

[varr*=kcx*，y*，x*，y*-kT*Kc（（X，Y），（X，Y））+σ2nI-1k*] （15）

然后利用計算出的殘差對時序卷積網(wǎng)絡(luò)的點預(yù)測結(jié)果進行修正。修正后的預(yù)測結(jié)果為：

[y′*～Ny*+r*，varr*] （16）

時序卷積網(wǎng)絡(luò)對時序輸入進行特征提取是解決時序問題的有效模型，相比于循環(huán)神經(jīng)網(wǎng)絡(luò)，該模型不需要面對梯度消失和梯度爆炸問題，且共享卷積核使得模型占用的內(nèi)存較低。在點預(yù)測的基礎(chǔ)上，利用殘差建模學(xué)習方法對預(yù)測結(jié)果的不確定性進行量化。此外，殘差建模學(xué)習還能提高確定性預(yù)測結(jié)果的準確性。所提方法的詳細訓(xùn)練過程如下：

2 仿真驗證

本文使用東南某省配電網(wǎng)智能電表數(shù)據(jù)集驗證所提模型的有效性，該數(shù)據(jù)集包含300戶居民區(qū)精準光伏智能電表的負荷需求和光伏發(fā)電數(shù)據(jù)，采樣周期為0.5 h，時間跨度為2021年7月1日—2022年6月30日。數(shù)據(jù)集中90%的數(shù)據(jù)用做訓(xùn)練集，10%用做測試集。對于所提方法，訓(xùn)練數(shù)據(jù)集將分為95%的數(shù)據(jù)作為[T]，5%的數(shù)據(jù)作為[Tr]。本文中的凈負荷預(yù)測任務(wù)是提前12 h預(yù)測。[T]中的訓(xùn)練樣本用于訓(xùn)練原始預(yù)測模型，而[Tr]中的樣本用于修正原始模型的性能。所選特征包括以下變量：1）時間信息，包含有關(guān)一天中的小時、一周中的一天和一年中的月份的信息，本文采用獨熱編碼方法對時間信息進行編碼；2）歷史負荷和光伏數(shù)據(jù)，包含過去兩天同一時間步長的負荷數(shù)據(jù)；3）將接近預(yù)測時間（12 h以內(nèi)）的數(shù)據(jù)作為特征[H]，將距離預(yù)測時間較遠（12 h以外）的數(shù)據(jù)作為特征[S]。

2.1 評價指標與模型配置

點預(yù)測和概率預(yù)測用來衡量模型預(yù)測性能的評價指標不同。

2.1.1 點預(yù)測

在評估模型預(yù)測精度的過程中，采用平均絕對誤差（mean absolute error， MAE）以及均方根誤差（root mean square error， RMSE）這兩項關(guān)鍵指標來衡量預(yù)測值與真實值之間的差異。這兩種度量方式不僅有助于量化模型的預(yù)測誤差，還為模型的性能優(yōu)化提供了明確的方向。

[ＥMAE=1Ni=1Nyi-yi] （17）

[ＥRMSE=1Ni=1Nyi-yi2] （18）

式中：[yi]——第[i]個樣本的實際值；[yi]——第[i]個樣本的預(yù)測值；[N]——測試數(shù)據(jù)集中的樣本數(shù)量；[ＥMAE]——預(yù)測誤差的平均大?。籟ＥRMSE]——將均方根誤差開平方，保持了與目標變量相同的度量單位。MAE和RMSE對異常值和離群點具有良好的魯棒性。相比之下，平均絕對誤差在實際值為0時結(jié)果會不穩(wěn)定。

2.1.2 概率預(yù)測

為了在評估中考慮清晰度和分辨率，必須評估預(yù)測的每個分位數(shù)，彈球損失（Pinball）能對每個分位數(shù)進行綜合評估。此外，當處理具有類似準確覆蓋水平的多種方法時，傾向于選擇產(chǎn)生最窄區(qū)間的模型。溫克勒區(qū)間分數(shù)（Winkler）可聯(lián)合評覆蓋率和區(qū)間寬度。因此，本文采用Pinball和Winkler來量化基于TCN和高斯過程殘差建模學(xué)習的凈負荷概率預(yù)測性能，Pinball和Winkler都可綜合評估概率預(yù)測的區(qū)間可靠性和區(qū)間寬度。具體計算表達式為：

[EPinball =（1-q）yi，q-yi， "yilt;yi，qqyi-yi，q， "yi≥yi，q] （19）

式中：[EPinball ]——模型的彈球損失；[yi，q]——第[q]個分位數(shù)的負荷預(yù)測值。

對于[（1-α）×100%]預(yù)測區(qū)間，[Winkler]指標定義為：

[EWinkler=Ut，α-Lt，α+2Lt，α-yt/α， "ytlt;Lt，αUt，α-Lt，α， "Lt，α≤yt≤Ut，αUt，α-Lt，α+2yt-Ut，α/α， "ytgt;Ut，α] （20）

式中：[EWinkler]——模型的溫克勒區(qū)間分數(shù)；[Lt，α]——[100（1-α）%]預(yù)測區(qū)間在時間[t]的下限；[Ut，α]——[100（1-α）%]預(yù)測區(qū)間在時間[t]的上限。

為了更好地展示TCN和高斯過程殘差建模學(xué)習模型凈負荷預(yù)測性能，選擇4個點預(yù)測模型和2個預(yù)測模型與之比較。在點預(yù)測上選擇一個機器學(xué)習模型SVR［3］和3個深度學(xué)習模型LSTM［6］、CNN［8］、TCN作為基線模型與所提模型進行比較。上述網(wǎng)絡(luò)模型中SVR模型的核函數(shù)采用徑向基函數(shù)。LSTM模型隱藏層神經(jīng)元數(shù)量為512，使用ADAM優(yōu)化器來訓(xùn)練。CNN模型的卷積層數(shù)為3。TCN卷積核為1×5，擴張因子d為8。對于概率預(yù)測方法，選擇QR［9］和SGP［11］作為基線模型，其中QR是通過梯度提升回歸方法實現(xiàn)的。SVR是非參數(shù)模型，具有較強的統(tǒng)計建模能力和較好的魯棒性；LSTM適用于處理序列數(shù)據(jù)，能捕捉長期依賴關(guān)系；CNN和TCN則特別適合處理具有局部相關(guān)性的序列數(shù)據(jù)。通過與這些模型進行比較，可更好地了解所提模型的特點、適用性和改進之處。QR通過估計多個分位數(shù)來對概率分布進行建模，提供了對負荷分布不同區(qū)域的預(yù)測能力。SGP在負荷概率預(yù)測中利用稀疏高斯過程模型來處理數(shù)據(jù)的稀疏性，提高建模效率和預(yù)測性能。這些模型是在負荷預(yù)測領(lǐng)域中具有良好表現(xiàn)和廣泛應(yīng)用的模型。將所提模型與這些經(jīng)典模型進行比較，可更準確地評估所提模型的性能和改進效果。所有程序都使用Python實現(xiàn)，并在配置RTX A5000顯卡，16核Intel? Xeon? Platinum 8350C CPU的計算機上執(zhí)行。

2.2 直接預(yù)測與間接預(yù)測

凈負荷為負荷需求減去光伏出力，因此預(yù)測分為直接預(yù)測和間接預(yù)測兩種。直接預(yù)測即利用歷史凈負荷數(shù)據(jù)直接預(yù)測未來凈負荷；間接預(yù)測即先預(yù)測未來光伏產(chǎn)出和未來電力消耗，然后再相減得到未來凈負荷。本節(jié)利用直接預(yù)測和間接預(yù)測的方式分別對凈負荷進行預(yù)測，在5個模型上進行驗證，如表1所示。

從表1可看出，直接預(yù)測和間接預(yù)測對模型性能的影響不大。考慮到間接預(yù)測的建模復(fù)雜度更高、調(diào)參難度大以及時間成本高的問題，該模型基于TCN和高斯過程殘差建模學(xué)習采用直接預(yù)測的方式對凈負荷進行預(yù)測。

2.3 點預(yù)測結(jié)果

為證明參數(shù)化方法的模型不確定性，說明所提模型的優(yōu)越性，本節(jié)進行重復(fù)實驗和比較試驗。表2列出了不同模型在相同實驗條件下4次重復(fù)實驗預(yù)測結(jié)果的MAE和RMSE。QR的結(jié)果是分位數(shù)設(shè)置為50%時的預(yù)測值。

從表2可看出，除SVR之外的基于深度學(xué)習的方法在重復(fù)實驗中表現(xiàn)出不同的性能。在上述神經(jīng)網(wǎng)絡(luò)方法中，TCN是在MAE和RMAE指標上性能最好的模型，這可能是由于TCN模型具有更強的表示能力，可更準確地提取凈負荷的模式。CNN、LSTM和TCN在重復(fù)訓(xùn)練實驗中評估指標的波動比QR更劇烈，這是因為基于深度學(xué)習的方法是參數(shù)化的，很難找到最優(yōu)參數(shù)集，隨機參數(shù)初始化和dropout也會使得訓(xùn)練初期性能不同。這也表明模型訓(xùn)練中的多重不確定性會影響預(yù)測模型的結(jié)果，不同的任務(wù)最佳的模型可能不同。因此，本文未探索最佳的TCN模型結(jié)構(gòu)和訓(xùn)練方法，而是利用基于RML的方法進一步學(xué)習最新的凈負荷模式并增強原始模型的性能，這種設(shè)計保證了模型具有較強的泛化能力。本文提出的模型通過殘差建模學(xué)習過程顯著提高了TCN模型的預(yù)測準確性，這使得所提方法能在重復(fù)實驗中始終優(yōu)于其他方法。

為進一步分析所提模型的性能，圖2繪制了采用不同算法時測試集上的預(yù)測曲線和真實曲線，可看到本文所提方法的預(yù)測值最貼合實際值，尤其是在曲線的峰谷階段對實際負荷曲線的擬合度更高。此外，在波谷［50，60］時段光伏出力出現(xiàn)非常規(guī)變化，使得凈負荷模式發(fā)生改變。由于訓(xùn)練數(shù)據(jù)中缺少這種模式，其他方法無法檢測到這種變化。相比之下，所提方法可以反映這種變化。本文所提方法結(jié)合了深度模型和概率模型的優(yōu)勢，提高了凈負荷點預(yù)測精度。

2.4 概率預(yù)測結(jié)果

為量化所提方法在概率凈負荷預(yù)測方面的表現(xiàn)，在表2中以QR和SGP作為基線模型列出測試集上的Pinball、Winkler評價指標，以此綜合評估所提模型凈負荷概率預(yù)測的區(qū)間可靠性和區(qū)間寬度。

從表3可看出，與現(xiàn)有方法相比所提模型在Pinball和Winkler分數(shù)上表現(xiàn)更好，可提供更好的概率預(yù)測結(jié)果。通過復(fù)合核函數(shù)對原始模型的結(jié)果與實際值之間的殘差進行建模并用RML來修改原始模型的結(jié)果以及捕獲結(jié)果的不確定性，使得所提方法能夠結(jié)合非參數(shù)和參數(shù)模型的優(yōu)點?？煽闯觯崮Ｐ涂刹蹲蕉唐趦糌摵深A(yù)測任務(wù)的不確定性。

所提方法的Pinball性能為5.98，比SGP 方法的性能高8.03%。當[α=0.1]時，所提方法的Winkler為2067，與SGP和QR方法相比，性能分別提高9.85%和10.56%。結(jié)果表明，所提方法的預(yù)測結(jié)果更為準確且可靠。

圖3顯示了在測試數(shù)據(jù)集中不同方法的預(yù)測值、真實值和95%、90%、80%、70%置信區(qū)間。如圖3b和圖3c所示，SGP和QR方法的95%置信區(qū)間并不能覆蓋全部實際凈負荷，這說明它們對凈負荷預(yù)測的可靠性不足。相較于其他方法，所提模型創(chuàng)新性地運用了TCN來提取關(guān)鍵特征，并據(jù)此

構(gòu)建概率預(yù)測模型，其生成的置信區(qū)間有效囊括了實測值的主要范圍，彰顯了極高的預(yù)測可靠性。具體而言，該模型所預(yù)測的區(qū)間不僅實現(xiàn)了對真實值的高置信覆蓋，還顯著縮小了預(yù)測區(qū)間的寬度，其預(yù)測的精確性與細節(jié)刻畫能力超越了傳統(tǒng)概率預(yù)測手段，特別是在電力負荷波動的極端點（如波峰與波谷）處表現(xiàn)尤為突出。這一特性對于電力系統(tǒng)的穩(wěn)定運行與優(yōu)化調(diào)度具有至關(guān)重要的意義，為決策者提供了更為精準可靠的預(yù)測依據(jù)。這可能是由于原始預(yù)測模型在凈負荷的波峰波谷有更好的表現(xiàn)。在這種情況下，所提方法可保持TCN的性能優(yōu)勢，并為凈負荷提供有效的不確定性量化結(jié)果。

圖4a和圖4b顯示了波峰和波谷的預(yù)測結(jié)果?？煽闯?，普通的機器學(xué)習方法（如CNN、LSTM和SVR）不能提供準確的點預(yù)測結(jié)果和有用的不確定性信息。與其他方法相比，所提方法的預(yù)測結(jié)果更接近實際凈負荷。SGP方法對凈負荷的峰值和谷值的概率密度曲線表現(xiàn)得不那么陡峭。這可能是由于SGP在波峰和波谷時特征提取能力不夠。相比之下，所提方法在原有預(yù)測模型的基礎(chǔ)上量化了凈負荷的不確定性，這使得所提模型能獲得更可靠的預(yù)測區(qū)間。

3 結(jié) 論

針對短期凈負荷預(yù)測問題，本文提出一種基于TCN和高斯過程殘差建模學(xué)習的概率凈負荷預(yù)測模型。通過在真實數(shù)據(jù)集上與其他點預(yù)測和概率預(yù)測方法的比較，結(jié)果表明：1）所提模型可取得比基線模型更好的點預(yù)測結(jié)果，尤其是在凈負荷的峰谷階段；2）所提方法比基線方法具有更好的不確定性量化能力，它具有更有效的預(yù)測區(qū)間；3）所提方法可在不改變原有模型結(jié)構(gòu)和訓(xùn)練過程的情況下提高原有預(yù)測模型的性能，表明所該方法在一定程度上可解決認知不確定性問題并優(yōu)化預(yù)測模型。

［參考文獻］

［1］ 馬釗， 張恒旭， 趙浩然， 等. 雙碳目標下配用電系統(tǒng)的新使命和新挑戰(zhàn)［J］. 中國電機工程學(xué)報， 2022， 42（19）： 6931-6945.

MA Z， ZHANG H X， ZHAO H R， et al. New mission and challenge of power distribution and consumption system under dual-carbon target［J］. Proceedings of the CSEE， 2022， 42（19）： 6931-6945.

［2］ ALIPOUR M， AGHAEI J， NOROUZI M， et al. A novel electrical net-load forecasting model based on deep neural networks and wavelet transform integration［J］. Energy， 2020， 205： 118106.

［3］ 趙登福， 龐文晨， 張講社， 等. 基于貝葉斯理論和在線學(xué)習支持向量機的短期負荷預(yù)測［J］. 中國電機工程學(xué)報， 2005， 25（13）： 8-13.

ZHAO D F， PANG W C， ZHANG J S， et al. Based on Bayesian theory and online learning svm for short term load forecasting［J］. Proceedings of the CSEE， 2005， 25（13）： 8-13.

［4］ LEE J Y， CHO Y. National-scale electricity peak load forecasting： traditional， machine learning， or hybrid model？［J］. Energy， 2022， 239： 122366.

［5］ 肖白， 高文瑞， 李道明， 等. 基于3σ-CEEMDAN-LSTM的空間負荷預(yù)測方法［J］. 電力自動化設(shè)備， 2023， 43（3）： 159-165.

XIAO B， GAO W R， LI D M， et al. Spatial load forecasting "method "based "on "3σ-CEEMDAN-LSTM［J］. Electric power automation equipment， 2023， 43（3）： 159-165.

［6］ 歐陽靜， 楊呂， 尹康， 等. 基于ALIF-LSTM多任務(wù)學(xué)習的綜合能源系統(tǒng)短期負荷預(yù)測［J］. 太陽能學(xué)報， 2022， 43（9）： 499-507.

OUYANG J， YANG L， YIN K， et al. Short-term load forecasting method for integrated energy system based on ALIF-LSTM and multi-task learning［J］. Acta energiae solaris sinica， 2022， 43（9）： 499-507.

［7］ 鄒智， 吳鐵洲， 張曉星， 等. 基于貝葉斯優(yōu)化CNN-BiGRU混合神經(jīng)網(wǎng)絡(luò)的短期負荷預(yù)測［J］. 高電壓技術(shù)， 2022， 48（10）： 3935-3945.

ZOU Z， WU T Z， ZHANG X X， et al. Short-term load forecast based on Bayesian optimized CNN-BiGRU hybrid neural networks［J］. High voltage engineering， 2022， 48（10）： 3935-3945.

［8］ 陸繼翔， 張琪培， 楊志宏， 等. 基于CNN-LSTM混合神經(jīng)網(wǎng)絡(luò)模型的短期負荷預(yù)測方法［J］. 電力系統(tǒng)自動化， 2019， 43（8）： 131-137.

LU J X， ZHANG Q P， YANG Z H， et al. Short-term load forecasting method based on CNN-LSTM hybrid neural network model［J］. Automation of electric power systems， 2019， 43（8）： 131-137.

［9］ BRACALE A， CARAMIA P， DE FALCO P， et al. Multivariate quantile regression for short-term probabilistic load forecasting［J］. IEEE transactions on power systems， 2020， 35（1）： 628-638.

［10］ MUNKHAMMAR J， VAN DER MEER D， WIDéN J. Very short term load forecasting of residential electricity consumption using the Markov-chain mixture distribution （MCM） model［J］. Applied energy， 2021， 282： 116180.

［11］ WEN H L， MA J H， GU J， et al. Sparse variational Gaussian process based day-ahead probabilistic wind power forecasting［J］. IEEE transactions on sustainable energy， 2022， 13（2）： 957-970.

［12］ 王煒， 馮斌， 黃剛， 等. 基于自注意力編碼器和深度神經(jīng)網(wǎng)絡(luò)的短期凈負荷預(yù)測［J］. 中國電機工程學(xué)報， 2023， 43（23）： 9072-9084.

WANG W， FENG B， HUANG G， et al. Short-term net load forecasting based on self-attention encoder and deep neural network［J］. Proceedings of the CSEE， 2023， 43（23）： 9072-9084.

［13］ SUN M Y， ZHANG T Q， WANG Y， et al. Using Bayesian deep learning to capture uncertainty for residential net load forecasting［J］. "IEEE "transactions "on "power "systems， 2020， 35（1）： 188-201.

［14］ 劉友波， 吳浩， 劉挺堅， 等. 集成經(jīng)驗?zāi)B(tài)分解與深度學(xué)習的用戶側(cè)凈負荷預(yù)測算法［J］. 電力系統(tǒng)自動化， 2021， 45（24）： 57-64.

LIU Y B， WU H， LIU T J， et al. User-side net load forecasting method integrating empirical mode decomposition "and "deep "learning［J］. "Automation "of electric power systems， 2021， 45（24）： 57-64.

［15］ 王曉東， 張一龍， 劉穎明， 等. 基于雙時間尺度凈負荷預(yù)測的儲能調(diào)峰控制策略［J］. 太陽能學(xué)報， 2021， 42（7）： 58-64.

WANG X D， ZHANG Y L， LIU Y M， et al. Double time scale power prediction based peaking shaving control strategy of energy storage system［J］. Acta energiae solaris sinica， 2021， 42（7）： 58-64.

［16］ TAGASOVSKA N， LOPEZ-PAZ D. Single-model uncertainties "for "deep "learning［EB/OL］. "2018： "DOI：10.48550/arXiv.1811.00908.

［17］ 余建明， 龐傳軍. 考慮數(shù)據(jù)和模型不確定性的短期風電功率概率預(yù)測［J］. 電網(wǎng)技術(shù)， 2022， 46（5）： 1926-1933.

YU J M， PANG C J. Short-term wind power probabilistic prediction considering data and model uncertainties［J］. Power system technology， 2022， 46（5）： 1926-1933.

［18］ 趙長飛. 新能源電力系統(tǒng)概率預(yù)測-決策一體化研究［D］. 杭州： 浙江大學(xué)， 2022.

ZHAO C F. Integrated probabilistic forecasting and decision for power system with renewables［D］. Hangzhou： Zhejiang University， 2022.

［19］ 王萍， 范凌峰， 程澤. 基于健康特征參數(shù)的鋰離子電池SOH和RUL聯(lián)合估計方法［J］. 中國電機工程學(xué)報， 2022， 42（4）： 1523-1534.

WANG P， FAN L F， CHENG Z. A joint state of health and remaining useful life estimation approach for lithium-ion " batteries " based " on " health " factor " parameter［J］. Proceedings of the CSEE， 2022， 42（4）： 1523-1534.

［20］ RASMUSSEN C E， WILLIAMS C K I. Gaussian processes for machine learning［M］. Cambridge， MA： MIT Press， 2006.

PROBABILISTIC NET LOAD FORECASTING BASED ON TCN AND GAUSSIAN PROCESS-ENABLED RESIDUAL MODELING

LEARNING APPROACH

Zhao Hongshan，Wu Yuchen，Pan Sichao，Wen Kaiyun

（Key Laboratory of Distributed Energy Storage and Microgrid of Hebei Province（North China Electric Power University）， Baoding 071003， China）

Abstract：Net load forecasting is of great importance for grid operation and management with high penetration of renewable energy. This paper proposes a net load prediction method based on temporal convolutional network （TCN） and Gaussian process （GP）， which can provide accurate point prediction and probabilistic prediction results. First， TCN is used to extract the variation pattern of net load from a large amount of historical data， and the excellent time series modeling capability of TCN can discover the complex mapping relationship between the input and output of the net load forecasting task. Then， a composite kernel function is designed for the Gaussian process to correct the prediction residuals of TCN， which can further improve the accuracy of point prediction based on TCN prediction， and also quantify the uncertainty of net load prediction by using the uncertainty quantification ability of Gaussian process. Finally， experiments are conducted on real net load datasets， and the effectiveness of the proposed method is illustrated by comparing it with a large number of state-of-the-art models.

Keywords：prediction models； photovoltaic output； probability density function； residual neural networks； temporal convolutional network（TCN）