基于互信息理論與遞歸神經(jīng)網(wǎng)絡(luò)的短期風(fēng)速預(yù)測(cè)模型

王 巖，陳耀然，韓兆龍,b,c，周 岱,b,c, 包 艷,b,c

(上海交通大學(xué) a.船舶海洋與建筑工程學(xué)院；b.海洋工程國(guó)家重點(diǎn)實(shí)驗(yàn)室；c.水動(dòng)力學(xué)教育部重點(diǎn)實(shí)驗(yàn)室，上海 200240)

風(fēng)能是一種清潔、經(jīng)濟(jì)的可再生能源.但是，風(fēng)速的間歇性和波動(dòng)性導(dǎo)致風(fēng)力發(fā)電機(jī)的輸出功率難以預(yù)測(cè)，進(jìn)而為風(fēng)電并網(wǎng)、能源輸送和風(fēng)電場(chǎng)制定交易計(jì)劃等造成困難[1].開展風(fēng)電場(chǎng)短期(未來1 h內(nèi))風(fēng)速預(yù)測(cè)成為解決上述問題的關(guān)鍵[2].

目前，主要利用統(tǒng)計(jì)方法進(jìn)行風(fēng)電場(chǎng)的短期風(fēng)速預(yù)測(cè)[3].該方法利用歷史風(fēng)速數(shù)據(jù)，建立歷史風(fēng)速與未來風(fēng)速之間的統(tǒng)計(jì)模型而預(yù)測(cè)風(fēng)速，具體方法包括時(shí)間序列和機(jī)器學(xué)習(xí)等[4].時(shí)間序列模型是線性統(tǒng)計(jì)模型，而風(fēng)速序列模型是波動(dòng)性和隨機(jī)性較強(qiáng)的非線性統(tǒng)計(jì)模型，因此時(shí)間序列法預(yù)測(cè)風(fēng)速的效果不佳[5].

機(jī)器學(xué)習(xí)是人工智能的一個(gè)分支，其在風(fēng)速預(yù)測(cè)方面具有較強(qiáng)的非線性建模能力.人工神經(jīng)網(wǎng)絡(luò)(ANN)是典型的機(jī)器學(xué)習(xí)方法，其從信息處理的角度對(duì)人腦神經(jīng)元網(wǎng)絡(luò)進(jìn)行抽象表達(dá)，進(jìn)而建立非線性數(shù)學(xué)模型[6].Santhosh等[7]利用經(jīng)驗(yàn)?zāi)B(tài)分解，將原始風(fēng)速分解為多個(gè)子序列，并利用ANN分別對(duì)子序列進(jìn)行建模預(yù)測(cè).結(jié)果顯示，相較于基于時(shí)間序列法的風(fēng)速預(yù)測(cè)模型，基于ANN的模型的預(yù)測(cè)誤差顯著降低.支持向量機(jī)(SVM)作為另一種機(jī)器學(xué)習(xí)方法，其主要思想為先利用一個(gè)預(yù)設(shè)函數(shù)將原始輸入和輸出數(shù)據(jù)映射到高維特征空間，然后在該空間進(jìn)行線性回歸，使誤差最小化.范曼萍等[8]利用SVM建立歷史風(fēng)速與未來風(fēng)速之間的數(shù)學(xué)模型，并利用改進(jìn)粒子群算法優(yōu)化SVM的參數(shù)，通過收縮因子改進(jìn)粒子速度更新方式.結(jié)果顯示，基于SVM風(fēng)速預(yù)測(cè)結(jié)果的平均相對(duì)誤差為3.72%，預(yù)測(cè)精度顯著提高.然而，ANN和SVM等傳統(tǒng)機(jī)器學(xué)習(xí)方法模型僅將歷史數(shù)據(jù)進(jìn)行統(tǒng)一輸入，而未充分考慮風(fēng)速序列隨時(shí)間的變化趨勢(shì)，因此難以得到關(guān)于時(shí)間序列問題的高精度風(fēng)速預(yù)測(cè)結(jié)果.

針對(duì)上述問題，提出一種風(fēng)電場(chǎng)短期風(fēng)速預(yù)測(cè)組合新模型，即基于互信息(MI)和遞歸神經(jīng)網(wǎng)絡(luò)(RNN)的短期風(fēng)速預(yù)測(cè)模型(MI-RNN).將該模型應(yīng)用于美國(guó)加利福尼亞州某風(fēng)電場(chǎng)的2個(gè)風(fēng)速數(shù)據(jù)集，進(jìn)行數(shù)值實(shí)驗(yàn)，并與ANN和SVM進(jìn)行比較分析，評(píng)價(jià)模型的預(yù)測(cè)精度.不同于上述機(jī)器學(xué)習(xí)方法，該模型中RNN加入t時(shí)刻的隱藏狀態(tài)作為記憶單元，該隱藏狀態(tài)中記錄著t時(shí)刻的輸出值，同時(shí)作為下一時(shí)刻的輸入值，由此可以更有效地解決時(shí)間序列問題[9].該模型的創(chuàng)新點(diǎn)包括：①利用MI選擇用于預(yù)測(cè)未來風(fēng)速的歷史風(fēng)速長(zhǎng)度，能夠更有效地利用歷史信息且無冗余數(shù)據(jù)，進(jìn)而顯著提高預(yù)測(cè)精度；②利用帶記憶單元的RNN提取歷史風(fēng)速數(shù)據(jù)與未來風(fēng)速之間的映射關(guān)系，歷史信息提取能力更高.

1 理論方法

1.1 輸入變量選擇與MI理論

輸入變量的選擇對(duì)模型的預(yù)測(cè)能力有重要影響.針對(duì)建立的風(fēng)速預(yù)測(cè)模型，給定歷史風(fēng)速序列(Ft-1,Ft-2, …,Ft-τ)，進(jìn)行下一時(shí)刻風(fēng)速(Ft)的預(yù)測(cè)，歷史風(fēng)速序列的長(zhǎng)度(τ)由選擇的輸入變量決定.若τ太短，則歷史數(shù)據(jù)中包含的信息太少，模型精度低；若τ太長(zhǎng)，則模型參數(shù)優(yōu)化困難且包含冗余歷史信息，模型精度低且訓(xùn)練時(shí)間長(zhǎng).

MI理論能夠衡量一個(gè)隨機(jī)變量中包含另一個(gè)隨機(jī)變量的信息量.假設(shè)2個(gè)隨機(jī)變量(X1,Y1)的聯(lián)合分布為p(x1,y1)，邊緣分布為p(x1)和p(y1)，則互信息I(x1;y1)為聯(lián)合分布和邊緣分布的相對(duì)熵[10]：

(1)

1.2 遞歸神經(jīng)網(wǎng)絡(luò)

RNN是用于解決時(shí)間序列問題的機(jī)器學(xué)習(xí)模型，一個(gè)時(shí)間序列中的時(shí)間點(diǎn)對(duì)應(yīng)一個(gè)普通前饋神經(jīng)網(wǎng)絡(luò)，并在每個(gè)時(shí)間點(diǎn)加入一個(gè)記憶單元記錄其輸出值，將輸出值傳遞給下一時(shí)刻[11]，數(shù)學(xué)表達(dá)式為

ht=σ(UXt+Wht-1)

(2)

Ot=f(ht)

(3)

式中：h為狀態(tài)值；σ(·)為狀態(tài)激活函數(shù)；U為t時(shí)刻輸入的權(quán)重；W為t-1時(shí)刻狀態(tài)的權(quán)重；X和O為神經(jīng)網(wǎng)絡(luò)的輸入值和輸出值；f(·)為生成神經(jīng)網(wǎng)絡(luò)輸出值的函數(shù).

圖1為τ=3的RNN模型圖，時(shí)間序列中共包括3個(gè)時(shí)刻(t-1,t,t+1)的神經(jīng)網(wǎng)絡(luò).本文將風(fēng)速作為神經(jīng)網(wǎng)絡(luò)的輸入值，Ot+1為RNN的最終預(yù)測(cè)值.每個(gè)時(shí)刻計(jì)算得到的隱藏層狀態(tài)Ot-1均將傳給下一時(shí)刻，從而保證前一時(shí)刻提取的歷史信息可以傳遞到下一時(shí)刻.因此，圖中Ot-1應(yīng)為Xt的預(yù)測(cè)值，當(dāng)采用每τ個(gè)風(fēng)速預(yù)測(cè)一步時(shí)，則會(huì)產(chǎn)生τ個(gè)輸出值，只保留最后一個(gè)輸出值作為最終預(yù)測(cè)值.

圖1 RNN模型結(jié)構(gòu)圖

模型的訓(xùn)練過程即確定參數(shù)W和U的過程.訓(xùn)練過程的本質(zhì)為優(yōu)化，優(yōu)化目標(biāo)為縮小預(yù)測(cè)值與觀測(cè)值的誤差.利用誤差函數(shù)對(duì)W和U求梯度，訓(xùn)練過程中逐漸降低梯度值至0附近，從而確定模型參數(shù).然后，將歷史數(shù)據(jù)輸入到RNN中并輸出最終預(yù)測(cè)結(jié)果.

2 MI-RNN模型

2.1 模型基本信息

圖2 MI-RNN流程圖

為了實(shí)現(xiàn)帶有風(fēng)向的風(fēng)電場(chǎng)風(fēng)速預(yù)測(cè)，將風(fēng)速數(shù)據(jù)進(jìn)行正交分解：

(4)

式中：i=1, 2, …,t-1.然后使用MI-RNN模型預(yù)測(cè)t-1+β時(shí)刻的風(fēng)速并進(jìn)行組合：

(5)

2.2 基于MI理論選擇時(shí)間步長(zhǎng)

圖3為I(τ)-τ變化曲線.其中，I(τ)為Ft和Ft-τ之間的互信息，是一個(gè)遞減函數(shù).可以通過選擇互信息閾值(IC)來確定τ值大小.通常依據(jù)經(jīng)驗(yàn)選擇IC，本文選擇IC=2，確定時(shí)間步長(zhǎng)τ= 6.

圖3 I(τ)-τ曲線

2.3 RNN模型訓(xùn)練

將歷史風(fēng)速觀測(cè)值數(shù)據(jù)以某時(shí)刻為界劃分為訓(xùn)練集和測(cè)試集，訓(xùn)練集用于訓(xùn)練RNN模型，測(cè)試集用于測(cè)試模型的預(yù)測(cè)結(jié)果是否準(zhǔn)確.當(dāng)模型訓(xùn)練完成后，輸入τ個(gè)新歷史風(fēng)速序列，RNN模型將輸出新的風(fēng)速預(yù)測(cè)值.

3 數(shù)值算例

3.1 算例1

為驗(yàn)證MI-RNN模型的性能，選擇SVM和 ANN作為比較模型，討論MI-RNN模型的風(fēng)速預(yù)測(cè)精度.利用Adam優(yōu)化算法進(jìn)行模型訓(xùn)練，3個(gè)模型均使用scikit-learn機(jī)器學(xué)習(xí)庫[12]和PyTorch框架[13].

圖4 觀測(cè)間隔為15 min的風(fēng)速數(shù)據(jù)集

3.1.2模型評(píng)估指標(biāo) 模型評(píng)估指標(biāo)能夠評(píng)價(jià)模型預(yù)測(cè)結(jié)果的精度.分別利用均方根誤差(RMSE)、平均絕對(duì)誤差(MAE)和決定系數(shù)(R2)對(duì)模型點(diǎn)預(yù)測(cè)結(jié)果進(jìn)行統(tǒng)計(jì).

RMSE和MAE用于描述預(yù)測(cè)值與觀測(cè)值的誤差情況，但區(qū)別在于：RMSE對(duì)預(yù)測(cè)值與觀測(cè)值的偏差進(jìn)行了一次平方，容易將誤差放大[14]；R2用于評(píng)價(jià)風(fēng)速預(yù)測(cè)模型的平均預(yù)測(cè)精度[15].公式如下：

(6)

(7)

(8)

式中：Te為總觀測(cè)量.RMSE和MAE越接近0，R2越接近于1，則模型的預(yù)測(cè)精度越高.

3.1.3結(jié)果與討論 為加強(qiáng)模型預(yù)測(cè)結(jié)果的可視化，對(duì)3個(gè)模型的預(yù)測(cè)和評(píng)估結(jié)果作圖，如圖5～8所示.

圖5 預(yù)測(cè)誤差統(tǒng)計(jì)

圖5中，MI-RNN模型的預(yù)測(cè)誤差平均值的絕對(duì)值最小(小于0.1 m/s)，SVM模型次之(約為 0.2 m/s)，ANN模型最大(大于0.3 m/s).3個(gè)模型預(yù)測(cè)誤差的中位數(shù)和平均值相差較小，1/4～3/4分位數(shù)據(jù)范圍的寬度相差較小(約為1.2 m/s).MI-RNN 和ANN模型的預(yù)測(cè)誤差均有大于0的離群值，但MI-RNN模型的離群值較少.結(jié)果表明：與ANN和SVM模型相比，MI-RNN模型預(yù)測(cè)結(jié)果的平均誤差最小，且離群值較少，預(yù)測(cè)精度更佳.

圖6中，MI-RNN模型的預(yù)測(cè)值與觀測(cè)值相差較小，且在風(fēng)速小或大的情況下均能夠精準(zhǔn)預(yù)測(cè).而ANN和SVM模型的預(yù)測(cè)值與觀測(cè)值相差較大，存在明顯預(yù)測(cè)誤差.其中，SVM模型在風(fēng)速較小時(shí)誤差較大，在風(fēng)速較大時(shí)誤差更大；ANN模型在風(fēng)速小或大時(shí)誤差均較大.結(jié)果表明：與ANN和SVM模型相比，MI-RNN模型的預(yù)測(cè)精度更高，且在不同風(fēng)速范圍下的預(yù)測(cè)穩(wěn)定性更佳.

圖6 觀測(cè)間隔為15 min的風(fēng)速預(yù)測(cè)結(jié)果

圖7中，MI-RNN模型的RMSE和MAE值均最小，R2值最大，說明MI-RNN模型的預(yù)測(cè)精度最高.3個(gè)模型在3個(gè)評(píng)估指標(biāo)下的詳細(xì)統(tǒng)計(jì)結(jié)果如圖表2所示.其中，MI-RNN模型的R2值最大，且其RMSE和MAE值比ANN模型的均降低了50%以上，比SVM模型的分別降低了約21%和41%.進(jìn)一步表明MI-RNN模型在提高預(yù)測(cè)精度方面的優(yōu)勢(shì)明顯.

圖7 模型在不同指標(biāo)下的評(píng)估結(jié)果

表2 模型在不同指標(biāo)下的統(tǒng)計(jì)結(jié)果

圖8中，直線由預(yù)測(cè)值等于觀測(cè)值的數(shù)據(jù)點(diǎn)組成，MI-RNN的預(yù)測(cè)結(jié)果均勻地分布在直線附近，數(shù)據(jù)點(diǎn)距離直線較近，表明MI-RNN模型的預(yù)測(cè)結(jié)果更接近于觀測(cè)值，且不受風(fēng)速大小影響.而ANN模型的預(yù)測(cè)結(jié)果距離直線較遠(yuǎn)，且在直線下方的數(shù)據(jù)點(diǎn)較多，說明ANN模型的預(yù)測(cè)誤差較大，且預(yù)測(cè)結(jié)果更容易低于觀測(cè)值.在風(fēng)速較大時(shí)，SVM模型的數(shù)據(jù)點(diǎn)更多地集中在直線下方，說明其預(yù)測(cè)結(jié)果在風(fēng)速較大時(shí)更容易低于觀測(cè)值.

圖8 風(fēng)速預(yù)測(cè)結(jié)果分布圖

綜上所述，相比于ANN和SVM模型，MI-RNN模型能夠顯著提高風(fēng)速預(yù)測(cè)精度，且預(yù)測(cè)穩(wěn)定性良好，可以更精準(zhǔn)地預(yù)測(cè)未來風(fēng)速.

3.2 算例2

探討不同預(yù)報(bào)提前量條件下MI-RNN模型的預(yù)測(cè)效果以及風(fēng)向預(yù)測(cè)性能.

表3 觀測(cè)間隔為5 min的風(fēng)速數(shù)據(jù)集的統(tǒng)計(jì)信息

3.2.2結(jié)果與討論 為加強(qiáng)模型預(yù)測(cè)結(jié)果的可視化，選擇測(cè)試集中前96個(gè)時(shí)間點(diǎn)的數(shù)據(jù)進(jìn)行結(jié)果展示.對(duì)3個(gè)模型在不同預(yù)報(bào)提前量下的預(yù)測(cè)誤差結(jié)果作圖，如圖9所示.當(dāng)預(yù)測(cè)間隔為5 min時(shí)，MI-RNN模型的風(fēng)速預(yù)測(cè)結(jié)果如圖10所示，其矢量圖如圖11所示.

圖9 模型在不同預(yù)報(bào)提前量下的RMSE對(duì)比

圖10 預(yù)測(cè)間隔為5 min的風(fēng)速預(yù)測(cè)結(jié)果

圖11 風(fēng)速預(yù)測(cè)結(jié)果矢量圖

圖10中，MI-RNN模型的風(fēng)速預(yù)測(cè)值與觀測(cè)值相差很小，在不同風(fēng)速變化區(qū)間表現(xiàn)穩(wěn)定，預(yù)測(cè)精準(zhǔn)；在圖11中，MI-RNN模型的預(yù)測(cè)風(fēng)向與觀測(cè)風(fēng)向值之間的誤差也較小.說明MI-RNN模型不僅能夠降低風(fēng)速預(yù)測(cè)誤差，還能夠精確地預(yù)測(cè)未來風(fēng)向信息.

4 結(jié)論

風(fēng)速的波動(dòng)性和隨機(jī)性給風(fēng)電并網(wǎng)造成安全隱患，影響風(fēng)能利用質(zhì)量，高精度的風(fēng)速預(yù)測(cè)是解決該問題的方法之一.本文提出MI-RNN模型，并將MI-RNN模型應(yīng)用于美國(guó)加利福尼亞州某風(fēng)電場(chǎng)真實(shí)數(shù)據(jù)集，驗(yàn)證模型的預(yù)測(cè)精度，同時(shí)使用RMSE、MAE和R2等指標(biāo)評(píng)估模型的點(diǎn)預(yù)測(cè)結(jié)果，主要結(jié)論如下：

(1)ANN和SVM模型對(duì)風(fēng)速在不同變化區(qū)間的預(yù)測(cè)精度不穩(wěn)定；在風(fēng)速較大時(shí)，易出現(xiàn)預(yù)測(cè)值小于觀測(cè)值的情況.

(2)相對(duì)于ANN和SVM模型，MI-RNN模型在不同預(yù)報(bào)提前量下的預(yù)測(cè)結(jié)果誤差均最小，風(fēng)速預(yù)測(cè)精度更高，且風(fēng)速越大其精度提升越顯著；同時(shí)能夠準(zhǔn)確預(yù)測(cè)未來風(fēng)向.

(3)MI-RNN模型能夠應(yīng)用于風(fēng)電場(chǎng)短期(未來1 h內(nèi))風(fēng)速預(yù)測(cè)，提高風(fēng)電場(chǎng)輸出功率預(yù)測(cè)精度，降低大規(guī)模風(fēng)電并網(wǎng)安全隱患.

文中研究了單個(gè)空間點(diǎn)的風(fēng)速預(yù)測(cè)，下一步將研究深度學(xué)習(xí)方法在含空間維度的風(fēng)電場(chǎng)風(fēng)速預(yù)測(cè)中的應(yīng)用.