基于LSTM深度網絡的售電量預測研究

齊正超

（國網黑龍江省電力有限公司賓縣供電分公司，黑龍江 哈爾濱 150400）

在我國國民經濟的各產業(yè)門類中，電力行業(yè)作為其他產業(yè)最重要的能源供給，具有十分重要的地位。由于電力供給部門屬性的特殊性，因此其行業(yè)競爭壓力比較小。在這種情況下，電力行業(yè)尤其是電能銷售都被認為是簡單的。對于售電量的估計不足，常會導致電力行業(yè)利潤的整體虧損。一方面，由國家統(tǒng)一管控電價，不能通過價格波動來調整電力行業(yè)的收益。另一方面，電能的實際需求存在波動，電能一旦產出且不能被有效使用，就會導致浪費。因此準確地估計售電量直接決定了電能產出規(guī)模的準確性，也是盡可能地減少電能浪費的最有效途徑。目前估計售電量都是基于人為的經驗進行判斷，缺少有力的量化模型，估計結果有時會嚴重偏離實際情況，從而導致估計誤差過大。深度學習技術興起后，其強大的學習能力和準確預測能力提高了數據估計的準確性[1]。LSTM 網絡是一種針對時間序列數據進行學習的深度網絡，在估計售電量方面具有非常好的針對性。因此，該文建立一種基于LSTM網絡的售電量預測方法，并通過試驗加以驗證。

1 基于LSTM 網絡的售電量預測模型

1.1 基于LSTM 網絡的售電量預測結構設計

預測電力部門的售電量，要充分依托已經完成的歷史數據、正在進行的當前數據和各數據之間的關聯(lián)性[2]。因此，售電量的準確預測結果與這些數據之間的關聯(lián)性密切相關。該文為準確預測售電量，以LSTM 網絡為核心，設計了基于深度學習的預測框架，期間包括輸入的處理、注意力機制，最終得到的售電量預測深度模型如圖1 所示。

圖1 售電量預測的深度學習模型結構

如圖1 所示，售電量的歷史數據、售電量的當前數據、數據之間的關聯(lián)性同時作為輸入，在引入整個深度學習模型中，經過數據輸入模塊處理，形成時間分支數據、關聯(lián)分支數據，進一步通過注意力模塊削減無效數據，最終送入LSTM 網絡進行深度訓練和學習，從而形成售電量未來的預測結果。

1.2 注意力機制部分的相應處理

根據圖1 可知，在售電量預測的過程中，分別使用售電量的歷史數據、售電量的當前數據以及數據之間的關聯(lián)性這3 類數據?？梢杂靡粋€矩陣來表達這些數據，如公式（1）所示。

式中：H1為第一組售電量的歷史數據信息；H2為第二組售電量的歷史數據信息；Hn為第n組售電量的歷史數據信息；D1為第一組售電量的當前數據信息；D2為第二組售電量的當前數據信息，Dn為第n組售電量的當前數據信息；R1為第一組售電量的歷史數據信息和第一組售電量的當前數據信息的關聯(lián)性；R2為第二組售電量的歷史數據信息和第二組售電量的當前數據信息的關聯(lián)性；Rn為第n組售電量的歷史數據信息和第n組售電量的當前數據信息的關聯(lián)性。

對售電量的歷史數據、售電量的當前數據和數據之間的關聯(lián)性這3 類數據都進行分支處理，分別形成時間分支和關聯(lián)性分支，再送給注意力機制部分進行處理。注意力機制處理部分根據自身處理建立不同數據和預測結果之間的權重矩陣，其處理過程如圖2 所示。

圖2 售電量預測的注意力機制處理

對售電量預測過程的時間分支數據來說，采用注意力機制處理后可以得到對應的權重，如公式（2）所示。

式中：xi為第i個售電量的時間分支數據；xj為第j個售電量的時間分支數據；αi為第i個售電量的時間分支數據的權重；softmax（）為注意力機制處理的函數。

售電量的時間分支數據進行權重融合后，得到時間分支數據權重矩陣，如公式（3）所示。

式中：A為售電量的時間分支數據的權重矩陣；αit為第i個售電量的時間分支數據在t時刻的權重；αnt為第n個售電量的時間分支數據在t時刻的權重。

對售電量預測過程的關聯(lián)分支數據來說，采用注意力機制處理后可以得到對應的權重，如公式（4）所示。

式中：fi為第i個售電量的關聯(lián)分支數據；fj為第j個售電量的關聯(lián)分支數據；βi為第i個售電量的關聯(lián)分支數據的權重；softmax（）為注意力機制處理的函數。

對售電量的關聯(lián)分支數據進行權重融合后，得到時間分支數據權重矩陣，如公式（5）所示。

式中：B為售電量的關聯(lián)分支數據的權重矩陣；βit為第i個售電量的關聯(lián)分支數據在t時刻的權重；βnt為第n個售電量的時間分支數據在t時刻的權重。

1.3 基于LSTM 的售電量預測

售電量預測的序列數據體現(xiàn)為時間分支上連續(xù)并且具有關聯(lián)屬性的數據[3]。因此，采用LSTM 網絡進行最終的學習和預測，具有最佳的針對性。在該文中，LSTM 環(huán)節(jié)的預測結構如圖3 所示。

圖3 售電量預測模型中LSTM 環(huán)節(jié)的預測結構

如圖3 所示，LSTM 學習的過程是根據售電量沿著時間軸線的起伏變化，并且售電量歷史數據和未來數據間存在密切的關聯(lián)性。隨著LSTM 網絡不斷擴張，對售電量曲線波動變化的學習能力會不斷增強，其進一步的預測結果也更接近未來可能發(fā)生的真實情況。雖然LSTM 網絡規(guī)模擴大，但占用的硬件資源增幅卻非常微弱，顯示了非常高的深度學習效率。在該文的LSTM 網絡中，對售電量序列數據的學習處理如公式（6）所示。

式中：X={x1，x2，…，xt}為售電量的時間分支數據；K={k1，k2，…，kn}為LSTM 網絡的時間卷積核函數；n為時間卷積核的總量；d為LSTM 網絡的擴張率。

2 售電量預測試驗結果與分析

在前面的研究工作中，對售電量預測的背景、現(xiàn)狀進行分析，進而結合數據預測的深度學習理念，構建基于LSTM 網絡的售電量預測模型。在這個模型中，綜合考慮售電量的歷史數據、售電量的當前數據以及數據之間的關聯(lián)性，設計了注意力機制模塊和四層次的LSTM 結構。在這部分工作中，為驗證該文提出的基于LSTM 深度網絡的售電量預測方法的有效性，將分別選擇SVM 方法、CNN 方法以及RNN 方法作為比較方法，以10 000 個售電量數據為試驗對象，該文將其中9 000 個作為訓練數據，將1 000 個數據作為預測數據的參考真值，去觀察該文方法的有效性。首先，觀察4 種方法預測結果的平均絕對誤差EMAE和均方根誤差ERMSE，如果預測結果越接近真實值，那么這2 個指標都會越小。4 種方法預測結果對比如圖4 所示。

圖4 4 種方法售電量預測結果的對比

4 種方法的柱狀圖對比如下：從售電量預測結果的評價指標來看，無論是EMAE還是ERMSE指標，所提出的方法都明顯低于其他3種方法，從而證實了方法對售電量預測，可以達到更好的效果。在方法執(zhí)行深度學習過程中，其售電量預測過程的損失函數變化，結果如圖5 所示。

圖5 售電量預測過程中的損失函數變化

從圖中的曲線變化情況可知，在方法執(zhí)行深度學習和訓練的過程中，損失函數值一直處于比較低的水平。隨著迭代過程繼續(xù)，損失函數值迅速減少，當迭代50 次時，損失函數值已經降至0.01。隨著迭代過程進一步延續(xù)，損失函數值持續(xù)降低，當迭代200 次時，損失函數值已經趨近于0。

3 結論

準確預測售電量有利于平衡電能供給和電能需求間的關系，最大限度地減少電網供應中的電能浪費。該文對售電量預測的背景、現(xiàn)狀進行分析，結合數據預測的深度學習理念，構建基于LSTM 網絡的售電量預測模型。在該模型中，綜合考慮了售電量的歷史數據、售電量的當前數據和數據間的關聯(lián)性這3 類數據，設計注意力機制模塊和四層次的LSTM結構。分別選取SVM 方法、RNN 方法以及CNN 方法作為參照方法，以10000 個數據為訓練數據和真值參照數據進行預測試驗，預測結果顯示：LSTM 方法預測結果更接近真值，平均絕對誤差、均方根誤差兩類指標在4 種方法中都是最小的。進一步對方法的深度學習效率進行測試，結果顯示，當迭代學習為200 次時，LSTM 方法的損失函數已經趨近于0，學習效率非常高。