Elman神經(jīng)網(wǎng)絡在水電站入庫流量短期預測中的應用

李強，唐鋒，陳卓，胡晨賀

（雅礱江流域水電開發(fā)有限公司，成都 610000）

Elman神經(jīng)網(wǎng)絡在水電站入庫流量短期預測中的應用

李強，唐鋒，陳卓，胡晨賀

（雅礱江流域水電開發(fā)有限公司，成都 610000）

Elman神經(jīng)網(wǎng)絡具有適應時變特性的能力，對歷史數(shù)據(jù)具有敏感性，具備自主學習的優(yōu)勢，能以任意精度逼近任意非線性映射。梯度下降法可使函數(shù)具有單調遞減性、梯度收斂于0等特點。采用梯度下降法和Elman神經(jīng)網(wǎng)絡相結合的方法進行水電站入庫流量短期預測，比傳統(tǒng)的Back Propagation神經(jīng)網(wǎng)絡預測精度具有明顯的優(yōu)勢。

Elman；神經(jīng)網(wǎng)絡；梯度下降法；預測；入庫流量

0 引言

入庫流量是汛期運行人員重點關注的數(shù)據(jù)之一，防洪度汛方案的編制、梯級水庫調度圖編制、洪水預測、電站水位控制及發(fā)電經(jīng)濟效益評價都需要參考入庫流量［1］。入庫流量受27類氣象因子、11個海區(qū)等不確定因素影響［2］，且在不同時期受到的影響程度不同，并具有非線性、動態(tài)性的特點。雅礱江流域氣候屬于川西高原氣候，由于該流域跨越7個多緯度，加之二灘水電站上游地形復雜，谷嶺高差懸殊，影響二灘水電站入庫流量的因素多變而復雜。

1 Elman神經(jīng)網(wǎng)絡

Elman神經(jīng)網(wǎng)絡是在Back Propagation（BP）神經(jīng)網(wǎng)絡的基礎上，在前饋式網(wǎng)絡的隱含層中增加了1個承接層，每個隱單元通過反饋狀態(tài)向量到所有隱單元［3-5］。BP神經(jīng)網(wǎng)絡拓撲結構如圖1所示。

圖1 BP神經(jīng)網(wǎng)絡拓撲結構

Elman的輸入層、隱含層、輸出層的連接類似于BP前饋式網(wǎng)絡［6］，而承接層用來記憶隱含層單元前一時刻的輸出值，并返回給網(wǎng)絡的輸入，是1個1步延時算子，使系統(tǒng)具有適應時變特性的能力，能直接動態(tài)地反映系統(tǒng)動態(tài)過程的特性。Elman的優(yōu)點在于承接層延時與存儲了來自隱含層的輸出，并作為隱含層的輸入，形成一種閉環(huán)。這種網(wǎng)絡結構對以往數(shù)據(jù)具有敏感性，加強了網(wǎng)絡本身分析動態(tài)信息的能力。此外，Elman神經(jīng)網(wǎng)絡能夠以任意精度逼近任意非線性映射。

Elman網(wǎng)絡結構如圖2所示，以圖2為例，Elman神經(jīng)網(wǎng)絡的非線性狀態(tài)空間表達式為

圖2 Elman網(wǎng)絡結構

隱含層的輸入［7］

隱含層的輸出

網(wǎng)絡的輸出

式中：y為m維輸出結點向量；x為n維中間層結點單元向量；u為r維輸入向量；xc為n維反饋狀態(tài)量；w1為承接層到隱含層連接權值；w2為輸入層到隱含層連接權值；w3為隱含層到輸出層連接權值；g（x）為輸出神經(jīng)元的傳遞函數(shù)，是中間層輸出的線性組合；f（x）為中間層神經(jīng)元的傳遞函數(shù)。

2 梯度下降法

式中：E（w*）為最小學習指標函數(shù)；E（w）為學習指標函數(shù)。

采用梯度下降法能大大提高網(wǎng)絡的訓練速度，又能克服網(wǎng)絡不能在全局中尋找極小點的缺點，網(wǎng)絡學習的結果是用訓練數(shù)據(jù)的實際值和預測值的差值來修改權值，使輸出層的誤差平方和最小。梯度下降學習法的Elman神經(jīng)網(wǎng)絡同樣采用BP算法進行權值修正，學習指標函數(shù)采用誤差平方和函數(shù)。

式中：yk為輸入向量；ydk為目標輸入向量。

任意給定初始權值w0，生成權值序列wk，則

式中：η為學習率，k取自然數(shù)。

E（w）分別對w1，w2，w3求偏倒數(shù)，可得權值修正值?w1，?w2，?w3［6］，優(yōu)化原來訓練過程中的權值，即

最終，梯度下降學習法的Elman神經(jīng)網(wǎng)絡誤差函數(shù)的梯度收斂于0［7］，權值序列收斂于固定點。

3 入庫流量短期預測

一般來說，電站側每日至少掌握3次入庫流量數(shù)據(jù)，運用梯度下降法和Elman神經(jīng)網(wǎng)絡相結合的方法預測二灘水電站2014年4月1日至20日00：00，08：00及16：00的入庫流量。

實際入庫流量見表1，表中數(shù)據(jù)已經(jīng)過歸一化處理。利用前9 d的數(shù)據(jù)作為網(wǎng)絡的訓練樣本，前3天的數(shù)據(jù)作為輸入向量u（k-1），第4天的數(shù)據(jù)作為目標向量y（k），這樣可以得到6組訓練樣本。第6，7，8天的數(shù)據(jù)作為測試輸入樣本，第9天的數(shù)據(jù)作為測試輸出樣本。為了檢驗梯度下降法的Elman神經(jīng)網(wǎng)絡的預測效果，運用梯度下降法的Elman神經(jīng)網(wǎng)絡和BP神經(jīng)網(wǎng)絡同時預測第9天的數(shù)據(jù)，并將預測結果對比分析。

表1 2014年4月二灘水電站入庫流量

建立Elman神經(jīng)網(wǎng)絡和BP神經(jīng)網(wǎng)絡，試設不同隱藏層神經(jīng)元個數(shù)分別為9，11，13，14，設置神經(jīng)網(wǎng)絡訓練精度GOAL為0.005。初始化Elman神經(jīng)網(wǎng)絡，并采用動態(tài)自適應學習率的梯度下降算法訓練Elman神經(jīng)網(wǎng)絡。預測值均方根誤差見表2。

表2 Elman，BP神經(jīng)網(wǎng)絡預測值均方根誤差

由表2可見，梯度下降法的Elman網(wǎng)絡預測值均方根誤差比BP網(wǎng)絡預測值均方根誤差小，說明梯度下降法的Elman網(wǎng)絡預測效果比BP網(wǎng)絡預測效果好。含有9個神經(jīng)元的Elman網(wǎng)絡和含有14個神經(jīng)元的BP網(wǎng)絡預測效果好。采用Elman神經(jīng)網(wǎng)絡、BP神經(jīng)網(wǎng)絡預測4月10日至20日的入庫流量及其誤差值，見表3。

表3 Elman神經(jīng)網(wǎng)絡、BP神經(jīng)網(wǎng)絡的預測值和預測誤差（2014年4月）

由表3可知，Elman神經(jīng)網(wǎng)絡預測誤差明顯小于BP神經(jīng)網(wǎng)格，Elman神經(jīng)網(wǎng)絡預測入庫流量效果更優(yōu)。由表1可知，從4月16日起，00：00及16：00入庫流量較前幾日變化較大。但由表3可知，Elman網(wǎng)絡快速適應入庫流量變化，預測誤差值有明顯減小的趨勢；BP網(wǎng)絡適應入庫流量變化很慢，預測誤差值偏差較大且減小趨勢緩慢。

4 結束語

影響入庫流量的因素多變且復雜，入庫流量變化具有非線性、時變性、動態(tài)性，雅礱江流域的不斷科學化開發(fā)以及其他變化條件，均對二灘水電站短期入庫流量預報提出了更加嚴峻的挑戰(zhàn)。Elman神經(jīng)網(wǎng)絡的輸入包含了輸入層和承接層的反饋，類似一個閉環(huán)調節(jié)，最終達到一個神經(jīng)元狀態(tài)不變的穩(wěn)定態(tài)，可以以任意精度逼近任一非線性函數(shù)，具有通過學習歷史數(shù)據(jù)建模的特點。從上面的試驗結果也能看出，該方法可以指導二灘水電公司預測短期入庫流量，為探索流域梯級電站入庫流量短期預測提供一種新的思路。

［1］唐海華，陳森林，趙云發(fā).三峽水庫入庫流量計算方法研究［J］.中國農村水利水電，2008（4）：26-28.

［2］葛朝霞，王會容，曹麗青，等.柘溪水庫月入庫流量預報方案的建立與對比分析［J］.河海大學學報：自然科學版，2004，32（5）：508-511.

［3］JEFFREY L Elman.Finding structure in time［J］.Cognitive Science，1990（14）：179-211.

［4］TSOIA C，BACK A D.Locally recurrent globally feedforward networks：a critical review of architectures［J］.IEEE transactions on neural networks，1994，5（2）：229-239.

［5］AHALT S C，LIU Xiaomei，WANG Deliang.On temporal generalization of simple recurrent networks［J］.Neural networks，1996，9（7）：1099-1118.

［6］任麗娜.基于Elman神經(jīng)網(wǎng)絡的中期電力負荷預測模型研究［D］.蘭州：蘭州理工大學，2007.

［7］吳微，徐東坡，李正學.Elman網(wǎng)絡梯度學習法的收斂性［J］.應用數(shù)學和力學，2008（9）：1117-1123.

［8］劉穎超，張紀元.梯度下降法［J］.南京理工大學學報：自然科學版，1993（2）：12-16，22.

［9］李太福，熊雋迪.基于梯度下降法的自適應模糊控制系統(tǒng)研究［J］.系統(tǒng)仿真學報，2007，19（6）：1265-1268，1273.

（本文責編：弋洋）

TK 730

A

1674-1951（2015）07-0001-03

李強（1987—），男，四川綿陽人，助理工程師，從事電廠運行及設備狀態(tài)檢修方面的工作（E-mail：314962840＠qq. com）。

2014-12-24；

2015-06-05