鄧 斌,張 楠,王 江,葛磊蛟
基于LTC-RNN模型的中長(zhǎng)期電力負(fù)荷預(yù)測(cè)方法
鄧 斌,張 楠,王 江,葛磊蛟
(天津大學(xué)電氣自動(dòng)化與信息工程學(xué)院,天津 300072)
針對(duì)中長(zhǎng)期電力負(fù)荷預(yù)測(cè)受限于天氣、溫度、節(jié)假日等多重不確定性因素影響而精度不高的難題,本文采用一種基于液體時(shí)間常數(shù)的遞歸神經(jīng)網(wǎng)絡(luò),實(shí)現(xiàn)了中長(zhǎng)期電力負(fù)荷的精準(zhǔn)預(yù)測(cè),為電力系統(tǒng)規(guī)劃設(shè)計(jì)奠定較好基礎(chǔ).基于液體時(shí)間常數(shù)的遞歸神經(jīng)網(wǎng)絡(luò)使用膜積分器改進(jìn)了神經(jīng)元的狀態(tài)方程,并使用半隱式歐拉算法完成對(duì)神經(jīng)元狀態(tài)迭代更新,解決遞歸神經(jīng)網(wǎng)絡(luò)的自我修正能力弱和易陷入局部最優(yōu)的問(wèn)題.本文以天氣、溫度、節(jié)假日等外在影響因素作為網(wǎng)絡(luò)輸入,構(gòu)建了以遞歸神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)架構(gòu)的中長(zhǎng)期電力負(fù)荷預(yù)測(cè)模型,并通過(guò)隱藏層的擴(kuò)展計(jì)算獲得輸入-輸出的映射關(guān)系,以通過(guò)時(shí)間的反向傳播算法實(shí)現(xiàn)對(duì)模型的訓(xùn)練,完成對(duì)神經(jīng)網(wǎng)絡(luò)參數(shù)的優(yōu)化.實(shí)驗(yàn)中,以北方某地區(qū)的實(shí)際電網(wǎng)數(shù)據(jù)為例,驗(yàn)證該預(yù)測(cè)方法的準(zhǔn)確性與高效性.研究結(jié)果發(fā)現(xiàn),基于液體時(shí)間常數(shù)的遞歸神經(jīng)網(wǎng)絡(luò)對(duì)中長(zhǎng)期電力負(fù)荷的預(yù)測(cè)準(zhǔn)確率可達(dá)到95.3%.本模型相較于長(zhǎng)短期記憶和連續(xù)時(shí)間遞歸神經(jīng)網(wǎng)絡(luò)具有更穩(wěn)定的訓(xùn)練結(jié)果與更高的預(yù)測(cè)準(zhǔn)確度.
中長(zhǎng)期電力負(fù)荷預(yù)測(cè);遞歸神經(jīng)網(wǎng)絡(luò);電力系統(tǒng)
在當(dāng)今的電力系統(tǒng)中,科學(xué)的電力負(fù)荷預(yù)測(cè)能為合理的規(guī)劃設(shè)計(jì)提供重要的基礎(chǔ)數(shù)據(jù).其中,精準(zhǔn)的中長(zhǎng)期電力負(fù)荷預(yù)測(cè)可以為系統(tǒng)管理、用電機(jī)組啟停、發(fā)電機(jī)組維護(hù)等計(jì)劃提供指導(dǎo)性的依據(jù)[1].但是,中長(zhǎng)期電力負(fù)荷不僅會(huì)受到節(jié)假日的影響,還會(huì)受到當(dāng)日的溫度、天氣等不確定性因素的影響,是具有隨機(jī)性的非線性時(shí)間序列[2].因此,設(shè)計(jì)一種精準(zhǔn)、高效的中長(zhǎng)期電力負(fù)荷預(yù)測(cè)方法非常有必要,值得深入研究.
中長(zhǎng)期電力負(fù)荷預(yù)測(cè)方法主要包括基于統(tǒng)計(jì)策略的傳統(tǒng)預(yù)測(cè)方法與基于機(jī)器學(xué)習(xí)的現(xiàn)代智能方 法[3].在諸多傳統(tǒng)負(fù)荷預(yù)測(cè)方法中,回歸分析法作為經(jīng)典方法之一,是通過(guò)電力負(fù)荷的歷史數(shù)據(jù)來(lái)尋找規(guī)律,預(yù)測(cè)未來(lái)的電荷數(shù)據(jù).但這種方法一方面無(wú)法周全地考慮各種不確定性因素造成的影響,另一方面模型的參數(shù)初始化也難以實(shí)現(xiàn)[4].現(xiàn)代智能方法在預(yù)測(cè)非線性電力負(fù)荷序列時(shí),表現(xiàn)出了優(yōu)于傳統(tǒng)預(yù)測(cè)方法的性能.其中,Kandil等[5]構(gòu)建了電力負(fù)荷的知識(shí)庫(kù),以較高的精度預(yù)測(cè)了長(zhǎng)期電力負(fù)荷數(shù)據(jù).但是這種專家系統(tǒng)方法難以實(shí)現(xiàn)自主學(xué)習(xí),且數(shù)據(jù)庫(kù)的構(gòu)建十分困難.徐晶等[6]使用改進(jìn)的支持向量機(jī)方法準(zhǔn)確預(yù)測(cè)了短期商業(yè)電力負(fù)荷.但是在處理中長(zhǎng)期電力負(fù)荷這種大規(guī)模數(shù)據(jù)時(shí),支持向量機(jī)方法會(huì)出現(xiàn)訓(xùn)練時(shí)間過(guò)長(zhǎng)、內(nèi)存空間消耗過(guò)大的問(wèn)題.
遞歸神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)及其改進(jìn)模型具有拓?fù)浣Y(jié)構(gòu)可變和全節(jié)點(diǎn)權(quán)重共享的特點(diǎn),易于學(xué)會(huì)非線性時(shí)間序列的內(nèi)在規(guī)律,可以較好地實(shí)現(xiàn)對(duì)未來(lái)數(shù)據(jù)的預(yù)測(cè).程換新等[7]使用粒子群算法改進(jìn)的RNN成功預(yù)測(cè)了熱電廠的短期電力負(fù)荷.但預(yù)測(cè)中長(zhǎng)期電力負(fù)荷時(shí),RNN會(huì)出現(xiàn)樣本需求大和收斂速度慢等問(wèn)題.長(zhǎng)短期記憶(long short-term memory,LSTM)模型在RNN的神經(jīng)元狀態(tài)方程中引入了人腦的注意力機(jī)制,使得神經(jīng)元上一時(shí)刻的狀態(tài)成為當(dāng)前時(shí)刻狀態(tài)的組成部分,從而在樣本較少的情況下實(shí)現(xiàn)了較為準(zhǔn)確的電力負(fù)荷預(yù)測(cè).但LSTM未充分利用隱藏層的歷史狀態(tài),導(dǎo)致其在預(yù)測(cè)過(guò)程中對(duì)錯(cuò)誤的修正能力較弱[8].此外,連續(xù)時(shí)間RNN(continuous-time recurrent neural network,CTRNN)也廣泛應(yīng)用于非線性時(shí)序數(shù)據(jù)的預(yù)測(cè)領(lǐng)域.與LSTM不同的是,CTRNN僅使用3個(gè)神經(jīng)元便實(shí)現(xiàn)了序列的生成,加快了模型的收斂速度.但是由于參與運(yùn)算的神經(jīng)元數(shù)目過(guò)少,CTRNN十分容易陷入局部最優(yōu)[9].為了解決LSTM自我修正能力弱和CTRNN易陷入局部最優(yōu)的問(wèn)題,本文尋求一種更優(yōu)的改進(jìn)方案完成對(duì)中長(zhǎng)期電力負(fù)荷的精準(zhǔn)預(yù)測(cè).
Ramin等[10]根據(jù)對(duì)神經(jīng)動(dòng)力學(xué)的數(shù)理研究,改進(jìn)了RNN隱藏層神經(jīng)元的狀態(tài)方程,構(gòu)建了液體時(shí)間常數(shù)神經(jīng)元與基于液體時(shí)間常數(shù)的遞歸神經(jīng)網(wǎng)絡(luò)(liquid time constant-recurrent neural network,LTC-RNN).LTC-RNN具有較強(qiáng)的自我修正能力和尋找全局最優(yōu)解的能力.首先,LTC-RNN使用半隱式歐拉方法計(jì)算了液體時(shí)間常數(shù)神經(jīng)元的常微分方程(ordinary differential equation,ODE).在計(jì)算過(guò)程中,神經(jīng)元過(guò)去的狀態(tài)會(huì)參與當(dāng)前狀態(tài)的計(jì)算,從而增強(qiáng)網(wǎng)絡(luò)的自我修正能力和尋找全局最優(yōu)解的能力.此外,LTC-RNN使用通過(guò)時(shí)間的反向傳播(back propagation through time,BPTT)算法完成訓(xùn)練,通過(guò)優(yōu)化網(wǎng)絡(luò)的參數(shù)實(shí)現(xiàn)對(duì)中長(zhǎng)期電力負(fù)荷數(shù)據(jù)內(nèi)在規(guī)律的學(xué)習(xí).LTC-RNN在解決天氣條件影響下的車流量預(yù)測(cè)、溫度影響下的臭氧含量預(yù)測(cè)、節(jié)假日影響下的房間占用率預(yù)測(cè)等預(yù)測(cè)問(wèn)題時(shí)[11],占用的內(nèi)存空間較少,且預(yù)測(cè)的準(zhǔn)確率較高.
基于以上問(wèn)題,本文以天氣、溫度、節(jié)假日等外在影響因素作為網(wǎng)絡(luò)輸入,以電力負(fù)荷數(shù)據(jù)作為網(wǎng)絡(luò)輸出,采用LTC-RNN構(gòu)建了中長(zhǎng)期電力負(fù)荷預(yù)測(cè)模型.進(jìn)一步,使用北方某地區(qū)電力系統(tǒng)的中長(zhǎng)期電荷數(shù)據(jù)驗(yàn)證了該模型的預(yù)測(cè)高效性與準(zhǔn)確性.最后,對(duì)比了同等規(guī)模LSTM和CTRNN的預(yù)測(cè)效果,證明LTC-RNN具有較強(qiáng)的穩(wěn)定性,能產(chǎn)生更準(zhǔn)確的預(yù)測(cè)結(jié)果.
以預(yù)測(cè)的時(shí)間長(zhǎng)度作為劃分標(biāo)準(zhǔn),一年或者幾年的電力負(fù)荷可以稱為中長(zhǎng)期電力負(fù)荷.中長(zhǎng)期電力負(fù)荷的預(yù)測(cè)結(jié)果有助于發(fā)電部門制定電力系統(tǒng)的計(jì)劃.但是,由于需要預(yù)測(cè)的時(shí)間跨度較大,影響中長(zhǎng)期電力負(fù)荷的不確定性因素也會(huì)更多.因此,在實(shí)現(xiàn)中長(zhǎng)期電力負(fù)荷預(yù)測(cè)時(shí),需要全面考慮包括天氣、溫度、節(jié)假日在內(nèi)的多種影響因素.
RNN是一類通過(guò)狀態(tài)反饋機(jī)制來(lái)學(xué)習(xí)時(shí)序數(shù)據(jù)內(nèi)在動(dòng)力學(xué)的人工神經(jīng)網(wǎng)絡(luò).因此,RNN可以較好地構(gòu)建從條件數(shù)據(jù)到記錄數(shù)據(jù)的映射.即將條件數(shù)據(jù)輸入給RNN,就可以輸出該條件對(duì)應(yīng)下的電荷數(shù)據(jù).根據(jù)此功能,在解決多條件影響下的時(shí)序數(shù)據(jù)預(yù)測(cè)問(wèn)題時(shí),RNN獲得了廣泛的應(yīng)用.于是本文基于RNN的網(wǎng)絡(luò)結(jié)構(gòu),實(shí)現(xiàn)了對(duì)天氣、溫度、節(jié)假日等影響因素下,中長(zhǎng)期電力負(fù)荷的預(yù)測(cè).
典型的RNN結(jié)構(gòu)使用輸入層接收外界的輸入數(shù)據(jù),利用隱藏層神經(jīng)元的狀態(tài)來(lái)編碼時(shí)序數(shù)據(jù)的內(nèi)在規(guī)律,采用輸出層產(chǎn)生預(yù)測(cè)的數(shù)據(jù).RNN在訓(xùn)練的過(guò)程中,能將隱藏層神經(jīng)元的狀態(tài)按照運(yùn)算的階段實(shí)現(xiàn)展開,本文構(gòu)建的RNN結(jié)構(gòu)見圖1.
圖1 RNN結(jié)構(gòu)
在此,本文介紹了RNN的計(jì)算方程.RNN中神經(jīng)元的狀態(tài)能通過(guò)離散變換序列來(lái)定義,即
神經(jīng)狀態(tài)的離散化使得RNN在學(xué)習(xí)過(guò)程中能有效地接收誤差,保證了訓(xùn)練的有效性.但是,狀態(tài)離散化的有限性限制了神經(jīng)元的表達(dá)能力.增加隱藏層的展開步驟可以有效地提高離散精度,但也會(huì)導(dǎo)致網(wǎng)絡(luò)層數(shù)的增加,使得網(wǎng)絡(luò)出現(xiàn)過(guò)量的計(jì)算,引起計(jì)算能力退化[12].在此,通過(guò)向神經(jīng)元的計(jì)算方程中增加過(guò)去狀態(tài)的線性分量,以增強(qiáng)RNN的計(jì)算能力.于是獲得神經(jīng)ODE的離散方程如下.
根據(jù)ODE的歐拉離散化方式能將式(2)轉(zhuǎn)換為連續(xù)方程[13],即
使用RNN實(shí)現(xiàn)對(duì)中長(zhǎng)期電力負(fù)荷的預(yù)測(cè)時(shí),會(huì)出現(xiàn)數(shù)據(jù)需求量過(guò)大和收斂速度過(guò)慢的問(wèn)題.因此,需要改進(jìn)RNN的神經(jīng)元狀態(tài)方程,以提高網(wǎng)絡(luò)的計(jì)算能力.但是,現(xiàn)今比較流行的LSTM對(duì)神經(jīng)元?dú)v史狀態(tài)的利用不足,導(dǎo)致該模型的自我修正能力較弱.而CTRNN在訓(xùn)練過(guò)程中參與計(jì)算的神經(jīng)元較少,容易陷入局部最優(yōu).為解決這些問(wèn)題,本文構(gòu)建了具有較強(qiáng)自我修正能力和全局最優(yōu)解尋找能力的LTC-RNN,以實(shí)現(xiàn)對(duì)中長(zhǎng)期電力負(fù)荷的精準(zhǔn)預(yù)測(cè).
進(jìn)一步,根據(jù)式(9)可以獲得能夠表示神經(jīng)系統(tǒng)非線性動(dòng)力學(xué)的時(shí)間常數(shù)為
該非線性時(shí)間常數(shù)使得RNN隱藏層中的每個(gè)神經(jīng)元都能識(shí)別輸入所具有的動(dòng)力學(xué)特征.根據(jù)這個(gè)特性,將該神經(jīng)元模型構(gòu)建的網(wǎng)絡(luò)稱為液體時(shí)間常數(shù)遞歸神經(jīng)網(wǎng)絡(luò).
液體時(shí)間常數(shù)神經(jīng)元以膜積分器模型為基礎(chǔ),充分考慮了突觸電流、膜電容、漏電導(dǎo)等自然調(diào)節(jié)因素,放寬了神經(jīng)ODE施加的限制,使得模型內(nèi)的控制參數(shù)可以形成因果結(jié)構(gòu),以此提高神經(jīng)網(wǎng)絡(luò)的表達(dá)能力,使得LTC-RNN能夠更好地學(xué)習(xí)中長(zhǎng)期電力負(fù)荷的內(nèi)在規(guī)律.
LTC-RNN的隱藏層神經(jīng)元狀態(tài)可以使用任意的常微分方程求解器來(lái)完成計(jì)算.為了加快LTC神經(jīng)元狀態(tài)的計(jì)算過(guò)程,本文使用半隱式歐拉方法來(lái)實(shí) 現(xiàn)狀態(tài)求解,并給出該混合求解器下的神經(jīng)元狀態(tài) 方程.
接下來(lái),本文用式(3)來(lái)探討顯式歐拉方法與隱式歐拉方法在求解過(guò)程中所具備的優(yōu)點(diǎn)與缺點(diǎn).
顯式歐拉方法將式(3)等號(hào)右側(cè)變?yōu)樾甭史匠虂?lái)實(shí)現(xiàn)求解,即
圖3 LTC神經(jīng)元結(jié)構(gòu)
已有研究表明,電力系統(tǒng)的負(fù)荷會(huì)受到包括人為因素、氣象因素等多種不確定性因素的影響,進(jìn)而產(chǎn)生隨機(jī)的波動(dòng)[14].因此,在選擇模型輸入時(shí),應(yīng)全面地考慮能對(duì)電力負(fù)荷造成影響的因素,以提高預(yù)測(cè)模型的精確度.
根據(jù)對(duì)影響電力負(fù)荷波動(dòng)的因素研究[15-16],本文共整理出7個(gè)關(guān)鍵變量:①是否為法定節(jié)假日;②是否為工作日;③記錄電荷的時(shí)刻(年/月/日,時(shí)/分/秒);④溫度(℃);⑤云覆蓋量(%);⑥降雨量(mL);⑦降雪量(mL).
在訓(xùn)練之前,需要使用歸一化方法將輸入的訓(xùn)練負(fù)荷數(shù)據(jù)整合在(-1,1)的區(qū)間內(nèi),以方便模型的訓(xùn)練.歸一化方法的計(jì)算公式為
此外,還需對(duì)所選取的7種影響因素對(duì)應(yīng)的時(shí)序數(shù)據(jù)進(jìn)行預(yù)處理.其中,輸入的溫度、降雨量、降雪量和云覆蓋量按照式(15)所示的歸一化方法進(jìn)行處理.對(duì)于記錄的時(shí)間數(shù)據(jù)則根據(jù)具體的日期辨識(shí)是否為工作日或法定節(jié)假日,并使用二值序列來(lái)描述.
根據(jù)式(14)獲得的LTC神經(jīng)元結(jié)構(gòu),本文使用網(wǎng)絡(luò)連接權(quán)重將32個(gè)LTC神經(jīng)元連接起來(lái),構(gòu)建能夠預(yù)測(cè)中長(zhǎng)期電力負(fù)荷的LTC-RNN,其結(jié)構(gòu)如圖4所示.網(wǎng)絡(luò)的輸入會(huì)同時(shí)傳遞給網(wǎng)絡(luò)中的每一個(gè)神經(jīng)元,每個(gè)神經(jīng)元的狀態(tài)與對(duì)應(yīng)的權(quán)重完成卷積,在卷積結(jié)果的基礎(chǔ)上增加常數(shù)偏置,最終獲得網(wǎng)絡(luò)的輸出.本文使用BPTT算法來(lái)訓(xùn)練網(wǎng)絡(luò),即根據(jù)網(wǎng)絡(luò)輸出與實(shí)際數(shù)據(jù)的誤差調(diào)整模型的連接權(quán)重,使得網(wǎng)絡(luò)能夠?qū)崿F(xiàn)輸入-輸出的映射關(guān)系.
圖4 LTC神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu)
基于LTC-RNN構(gòu)建的中長(zhǎng)期電力負(fù)荷預(yù)測(cè)模型的訓(xùn)練流程如圖5所示.首先需要收集數(shù)據(jù),收集的數(shù)據(jù)包括電力負(fù)荷數(shù)據(jù)、當(dāng)日節(jié)假日情況、當(dāng)日溫度數(shù)據(jù)、當(dāng)日氣象數(shù)據(jù).從收集到的數(shù)據(jù)中提取需要傳入給LTC-RNN的關(guān)鍵影響因素,并進(jìn)行預(yù)處理.對(duì)于處理后的多組數(shù)據(jù),按照20∶3∶1將數(shù)據(jù)劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集.在網(wǎng)絡(luò)訓(xùn)練之前使用高斯隨機(jī)分布對(duì)網(wǎng)絡(luò)的權(quán)值進(jìn)行初始化,并采用Adam算法完成對(duì)網(wǎng)絡(luò)連接權(quán)值的更新.訓(xùn)練過(guò)程中,利用訓(xùn)練集的誤差來(lái)進(jìn)行反傳,使用驗(yàn)證集的誤差防止模型出現(xiàn)過(guò)擬合.訓(xùn)練結(jié)束后,使用測(cè)試集驗(yàn)證模型的訓(xùn)練效果.
圖5 LTC-RNN訓(xùn)練流程
本文使用我國(guó)北部某地區(qū)的實(shí)際電網(wǎng)數(shù)據(jù)實(shí)現(xiàn)對(duì)LTC-RNN預(yù)測(cè)效果的驗(yàn)證.該數(shù)據(jù)記錄了某年12月到次年12月的數(shù)據(jù),數(shù)據(jù)包含每天整點(diǎn)時(shí)刻的電力負(fù)荷實(shí)際值,完成了共計(jì)8784組條件數(shù)據(jù)以及電荷數(shù)據(jù)的采集.
本文涉及到的LSTM、CTRNN以及LTC-RNN電力負(fù)荷預(yù)測(cè)模型均在Python下完成搭建.
為了測(cè)試該模型中長(zhǎng)期電力負(fù)荷的訓(xùn)練與預(yù)測(cè)效果,本文按照20∶3∶1將數(shù)據(jù)劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集.在這里選擇每天12:00時(shí)的測(cè)試條件與電力負(fù)荷值作為測(cè)試數(shù)據(jù)集.
圖6(a)所示的LTC-RNN對(duì)測(cè)試數(shù)據(jù)集的預(yù)測(cè)結(jié)果表明,該模型可以比較準(zhǔn)確地預(yù)測(cè)出一年內(nèi)電力負(fù)荷的變化趨勢(shì).圖6(a)中淺灰色曲線表示訓(xùn)練數(shù)據(jù)集在一年內(nèi)的變化趨勢(shì),虛線表示測(cè)試數(shù)據(jù)集的電力負(fù)荷數(shù)據(jù),黑色實(shí)線表示LTC-RNN預(yù)測(cè)獲得的電力負(fù)荷數(shù)據(jù).該北方數(shù)據(jù)反映出,在3—4月份電力負(fù)荷會(huì)出現(xiàn)明顯的下降,而在11月份會(huì)出現(xiàn)顯著的上升.這種顯著的變化趨勢(shì)可能與北方1—3月份、11—12月份天氣比較寒冷,且日照時(shí)間較短有關(guān),更多的電能被用于取暖與照明,導(dǎo)致電力負(fù)荷的消耗較大.LTC-RNN模型的預(yù)測(cè)結(jié)果表明,該模型能夠較好地預(yù)測(cè)出這一年內(nèi)電力負(fù)荷的變化趨勢(shì).
此外,本文還使用了同等規(guī)模的LSTM和CTRNN對(duì)相同的電力負(fù)荷數(shù)據(jù)集進(jìn)行了訓(xùn)練,來(lái)對(duì)比這幾種改進(jìn)RNN的預(yù)測(cè)能力.根據(jù)圖6(b)和6(c)中預(yù)測(cè)結(jié)果可以看出,LSTM和CTRNN可以較好地預(yù)測(cè)出較平穩(wěn)的電力負(fù)荷趨勢(shì),但是對(duì)于3—4月份與11月份出現(xiàn)的大幅度變化卻無(wú)法做出準(zhǔn)確的預(yù)測(cè).由此可見,LTC-RNN可以很好地預(yù)測(cè)多種不確定性因素影響下的中長(zhǎng)期電力負(fù)荷變化趨勢(shì),其預(yù)測(cè)準(zhǔn)確度明顯優(yōu)于LSTM和CTRNN.
圖6 對(duì)某年電力負(fù)荷進(jìn)行預(yù)測(cè)的結(jié)果
表1 中長(zhǎng)期負(fù)荷預(yù)測(cè)模型評(píng)價(jià)
最后,本文對(duì)比了3種模型在訓(xùn)練過(guò)程中的模型損失和準(zhǔn)確度.根據(jù)圖7(a)所示,在訓(xùn)練的過(guò)程中,LTC-RNN、LSTM、CTRNN的驗(yàn)證集損失可以準(zhǔn)確地跟隨訓(xùn)練集的損失,這說(shuō)明3種模型在計(jì)算過(guò)程中未出現(xiàn)過(guò)擬合現(xiàn)象.但是LSTM的損失曲線在訓(xùn)練過(guò)程中出現(xiàn)了明顯的大幅波動(dòng),這說(shuō)明LSTM的訓(xùn)練過(guò)程極不穩(wěn)定.而LTC-RNN和CTRNN的損失曲線都出現(xiàn)了持續(xù)下降的趨勢(shì),且LTC-RNN在快速下降后到達(dá)了穩(wěn)定狀態(tài),這說(shuō)明LTC-RNN的訓(xùn)練過(guò)程收斂速度較快,收斂后的穩(wěn)定性較好.圖7(b)則對(duì)比了3種模型對(duì)于測(cè)試集的預(yù)測(cè)準(zhǔn)確度.圖7(b)中可以發(fā)現(xiàn),LTC-RNN可以在極短的訓(xùn)練回合內(nèi)到達(dá)90%以上的準(zhǔn)確度,LSTM與CTRNN在相同的時(shí)間只能達(dá)到60%左右的準(zhǔn)確度,表明LTC-RNN在計(jì)算的效率方面更具優(yōu)勢(shì).此外,在整個(gè)訓(xùn)練過(guò)程中,LTC-RNN在到達(dá)一定的準(zhǔn)確度后,曲線的上升趨勢(shì)變緩,準(zhǔn)確率的增加幅度明顯降低.CTRNN的準(zhǔn)確度曲線一直處于上升階段,LSTM的準(zhǔn)確度曲線在到達(dá)一定高度時(shí)出現(xiàn)了明顯的波動(dòng).這說(shuō)明LTC-RNN可以在較短的訓(xùn)練過(guò)程中得到全局最優(yōu)解,其穩(wěn)定性明顯優(yōu)于LSTM與CTRNN.
圖7 負(fù)荷預(yù)測(cè)模型評(píng)價(jià)
在當(dāng)今的電力系統(tǒng)規(guī)劃設(shè)計(jì)中,發(fā)電系統(tǒng)的維護(hù)、發(fā)電機(jī)組的分配安排、增容維護(hù)等,都需要科學(xué)的中長(zhǎng)期電力負(fù)荷的預(yù)測(cè)來(lái)提供數(shù)據(jù)支持.于是,本文采用LTC-RNN構(gòu)建了中長(zhǎng)期電力負(fù)荷的預(yù)測(cè)模型,能夠精準(zhǔn)預(yù)測(cè)受天氣、溫度、節(jié)假日等不確定性因素影響的電網(wǎng)負(fù)荷.并使用北方某地區(qū)電網(wǎng)的實(shí)際電力負(fù)荷驗(yàn)證了該方法的準(zhǔn)確性與高效性.依據(jù)本文的研究可得到結(jié)論如下.
(1) LTC-RNN以膜積分器為參考,改進(jìn)了RNN神經(jīng)元的狀態(tài)方程,利用神經(jīng)元的歷史狀態(tài)計(jì)算隱藏層神經(jīng)元的狀態(tài),增強(qiáng)了模型的自我修正能力.本文對(duì)實(shí)際案例的分析證實(shí),LTC-RNN可以快速穩(wěn)定地到達(dá)最優(yōu)參數(shù),具有計(jì)算的高效性.
(2) LTC-RNN采用半隱式歐拉求解器計(jì)算隱藏層神經(jīng)元狀態(tài),使得模型易于尋找到全局最優(yōu)解.本文對(duì)實(shí)際案例的預(yù)測(cè)結(jié)果證實(shí),LTC-RNN可以精確地預(yù)測(cè)電網(wǎng)的中長(zhǎng)期電力負(fù)荷.
(3) LTC-RNN充分學(xué)習(xí)了天氣、溫度、節(jié)假日等不確定性因素與中長(zhǎng)期電力負(fù)荷的內(nèi)在聯(lián)系.根據(jù)影響因素的數(shù)據(jù),LTC-RNN可以準(zhǔn)確地預(yù)測(cè)出對(duì)應(yīng)的電力負(fù)荷.本文中的案例中,該模型對(duì)中長(zhǎng)期電力負(fù)荷的預(yù)測(cè)準(zhǔn)確率可達(dá)95.3%,優(yōu)于LSTM和CTRNN的預(yù)測(cè)效果.
在此指出,對(duì)該模型的驗(yàn)證主要使用了北方某地區(qū)的電力系統(tǒng)數(shù)據(jù),未來(lái)考慮將LTC-RNN應(yīng)用于更多具有不同負(fù)荷變化趨勢(shì)的地區(qū),以此來(lái)驗(yàn)證該模型的廣泛應(yīng)用效果.
[1] Lindberg K B,Seljom P,Madsen H,et al. Long-term electricity load forecasting:Current and future trends[J]. Utilities Policy,2019,58:102-119.
[2] 徐憲東,單文亮,蔡云帆,等. 流程工業(yè)綜合能源系統(tǒng)用電靈活性綜述[J]. 天津大學(xué)學(xué)報(bào)(自然科學(xué)與工程技術(shù)版),2021,54(12):1212-1220.
Xu Xiandong,Shan Wenliang,Cai Yunfan,et al. A perspective on electricity flexibility of integrated energy systems in processing industries[J]. Journal of Tianjin University(Science and Technology),2021,54(12):1212-1220(in Chinese).
[3] 張 志,杜延菱,崔慧軍,等. 考慮關(guān)聯(lián)因素的智能化中長(zhǎng)期電力負(fù)荷預(yù)測(cè)方法[J]. 電力系統(tǒng)保護(hù)與控制,2019,47(2):24-35.
Zhang Zhi,Du Yanling,Cui Huijun,et al. Intelligent mid-long electricity load forecast method considering associated factors[J]. Power System Protection and Control,2019,47(2):24-35(in Chinese).
[4] 夏 博,楊 超,李 沖. 電力系統(tǒng)短期負(fù)荷預(yù)測(cè)方法研究綜述[J]. 電力大數(shù)據(jù),2018,21(7):22-28.
Xia Bo,Yang Chao,Li Chong. Review of the short-term load forcasting methods of electric power system[J]. Power Systems and Big Data,2018,21(7):22-28(in Chinese).
[5] Kandil M S,Debeiky S M,Hasanien N E. The implementation of long-term forecasting strategies using ac-knowledge-based expert system[J]. Electric Power Sys-tem Research,2001,58(1):19-25.
[6] 徐 晶,遲福建,葛磊蛟,等. 基于SARIMA-GRNN-SVM的短期商業(yè)電力負(fù)荷組合預(yù)測(cè)方法[J]. 電力系統(tǒng)及其自動(dòng)化學(xué)報(bào),2020,32(2):85-91.
Xu Jing,Chi Fujian,Ge Leijiao,et al. Short-term combined commercial load forecasting method based on SARIMA-GRNN-SVM[J]. Proceedings of the CSU-EPSA,2020,32(2):85-91(in Chinese).
[7] 程換新,黃 震. 基于改進(jìn)PSO優(yōu)化RNN的短期電力負(fù)荷預(yù)測(cè)模型[J]. 電子測(cè)量技術(shù),2019,42(20):94-98.
Cheng Huanxin,Huang Zhen. Short-term electric load forecasting method based on improved PSO optimized RNN[J]. Electronic Measurement Technology,2019,42(20):94-98(in Chinese).
[8] 葛磊蛟,劉航旭,趙 康,等. 面向商業(yè)和居民混合的配電網(wǎng)短期負(fù)荷預(yù)測(cè)HGWOACOA-LSTMN 方法[J]. 天津大學(xué)學(xué)報(bào)(自然科學(xué)與工程技術(shù)版),2021,54(12):1269-1279.
Ge Leijiao,Liu Hangxu,Zhao Kang,et al. An HGWOACOA-LSTMN method for short-term load fore-casting of distribution network for commercial and resi-dential users[J]. Journal of Tianjin University(Science and Technology),2021,54(12):1269-1279(in Chi-nese).
[9] Henaff P,Scesa V,Ouezdou F B,et al. Real time implementation of CTRNN and BPTT algorithm to learn on-line biped robot balance:Experiments on the stand-ing posture[J]. Control Engineering Practice,2011,19(1):89-99.
[10] Ramin H,Mathias L,Alexander A,et al. Liquid time-constant networks[EB/OL]. https://arxiv. org/abs/2006. 04439v2,2020-09-12.
[11] Ramin H. Interpretable Recurrent Neural Networks In Continuous Time Control Environments[D]. Wien:Technische Universit?t Wien,2020.
[12] 王超洋,張藍(lán)宇,劉 錚,等. 基于特征挖掘的indRNN光伏發(fā)電功率預(yù)測(cè)[J]. 電力系統(tǒng)及其自動(dòng)化學(xué)報(bào),2021,33(4):17-22.
Wang Chaoyang,Zhang Lanyu,Liu Zheng,et al. Fea-ture mining based indRNN photovoltaic power genera-tion prediction[J]. Proceedings of the CSU-EPSA,2021,33(4):17-22(in Chinese).
[13] 楊文強(qiáng),吳文淵. 線性常微分方程的全局誤差估計(jì)和優(yōu)化求解方法[J]. 中國(guó)科學(xué):數(shù)學(xué),2021,51(1):239-256.
Yang Wenqiang,Wu Wenyuan. Global error estimation for linear ordinary differential equations and their nu-merical optimal solutions[J]. Scientia Sinica:Mathematica,2021,51(1):239-256(in Chinese).
[14] 肖 峻,耿 芳,杜柏均,等. 基于關(guān)聯(lián)規(guī)則的城市電力負(fù)荷預(yù)測(cè)模型智能推薦[J]. 天津大學(xué)學(xué)報(bào),2010,43(12):1079-1085.
Xiao Jun,Geng Fang,Du Bojun,et al. Intelligent recommendation of urban power load forecasting models based on association rules[J]. Journal of Tianjin Univer-sity,2010,43(12):1079-1085(in Chinese).
[15] 崔和瑞,彭 旭. 基于ARIMAX模型的夏季短期電力負(fù)荷預(yù)測(cè)[J]. 電力系統(tǒng)保護(hù)與控制,2015,43(4):108-114.
Cui Herui,Peng Xu. Summer short-term load forcasting based on ARIMAX model[J]. Power System Protection and Control,2015,43(4):108-114(in Chinese).
[16] 張振高,楊正瓴. 短期負(fù)荷預(yù)測(cè)中的負(fù)荷求導(dǎo)法及天氣因素的使用[J]. 電力系統(tǒng)及其自動(dòng)化學(xué)報(bào),2006,18(5):79-83.
Zhang Zhengao,Yang Zhengling. Load derivation in short term forcasting using weather factor[J]. Proceed-ings of the CSU-EPSA,2006,18(5):79-83(in Chi-nese).
Medium- and Long-Term Power Load Forecasting Method Based on LTC-RNN Model
Deng Bin,Zhang Nan,Wang Jiang,Ge Leijiao
(School of Electrical and Information Engineering,Tianjin University,Tianjin 300072,China)
Owing to various uncertainties,such as weather,temperature,and holidays,predicting long-term power load remains difficult. This paper introduces a liquid time constant-recurrent neural network to accurately predict medium- and long-term power load,which is the fundamental work for power system planning and design. The liquid time constant-recurrent neural network improves the equation of neural states and uses a semi-implicit Euler algorithm to complete the iterative updating of the neural states,which solves the problem that the recurrent neural network has poor self-correction ability and is prone to falling into local optimum. A recurrent neural network-based model for forecasting medium- and long-term power load is constructed using network inputs such as weather,temperature,and holidays. The mapping from input to output is then obtained using extended computation in hidden layers,and the parameters of the neural network are optimized using a time algorithm via backpropagation. Actual power grid data from a specific area in North China are used to validate the accuracy and efficiency of the proposed method. The experimental results show that the liquid time of the constant-recurrent neural network can reach 95.3% accuracy for predicting medium- and long-term power load. With better stability during training and higher accuracy in the prediction phase,this model outperforms the long short-term memory algorithm and continuous-time recurrent neural network.
medium- and long-term power load forecasting;recurrent neural network;power system
TK715
A
0493-2137(2022)10-1026-08
10.11784/tdxbz202112006
2021-12-03;
2022-02-20.
鄧 斌(1979— ),男,博士,教授,dengbin@tju.edu.cn.
葛磊蛟,legendglj99@tju.edu.cn.
國(guó)家自然科學(xué)基金資助項(xiàng)目(51807134).
the National Natural Science Foundation of China(No. 51807134).
(責(zé)任編輯:孫立華)