基于相關(guān)向量機(jī)和殘差分析的短期風(fēng)速預(yù)測

平善明 趙玲玲 蘇小紅

文章編號： 2095-2163（2018）03-0240-04中圖分類號： 文獻(xiàn)標(biāo)志碼： A

摘要： 關(guān)鍵詞： （School of Computer Science and Technology， Harbin Institute of Technology， Harbin 150001， China）

Abstract： With the depletion of fossil energy， renewable energy such as wind power is in development in recent years. Due to the intermittence and variability of wind speed， wind power generation is also intermittent and unstable， and wind power integration in electrical power systems will do harm to the electrical power systems. Accurate short-term wind speed forecasting could be a guide to wind farm management. Using machine learning method to predict wind speed is popular， and it creates residual sequence. If it is not a white noise， information could be extracted from it， which could lead to a two-layer model. Experimental results show compared with single-layer machine learning method such as SVR（Support Vector Machine）， RVM（Relevance Vector Machine）， the proposed method in this paper is efficiently improved.

Key words：

作者簡介：

收稿日期： 引言

由于化石能源儲量有限，而需求不斷增加，化石能源面臨著枯竭的困境。同時，由于化石能源引起的氣候變暖以及環(huán)境污染問題也日益嚴(yán)重，對生態(tài)系統(tǒng)、社會經(jīng)濟(jì)以及人類健康均構(gòu)成嚴(yán)重威脅。相較于化石能源，太陽能和風(fēng)能等綠色可再生能源有許多優(yōu)勢，發(fā)揮著越來越重要的作用。2016年結(jié)束后，全球風(fēng)力發(fā)電裝機(jī)容量已達(dá)到486.7 GW。

由于風(fēng)本身的不穩(wěn)定性等問題，風(fēng)力發(fā)電具有波動性和間歇性，風(fēng)電入網(wǎng)將對電力系統(tǒng)造成危害，阻礙了風(fēng)能的進(jìn)一步發(fā)展。隨著風(fēng)力發(fā)電在電力供應(yīng)中所占比例越來越大，這一問題愈加突出。目前，解決該問題的重要方向就是對未來的風(fēng)電輸出進(jìn)行預(yù)測。短期預(yù)測的結(jié)果能夠?yàn)殡娋W(wǎng)的合理調(diào)度、機(jī)組組合操作以及在合適階段對風(fēng)機(jī)實(shí)施維護(hù)提供基礎(chǔ)、及重要依據(jù)[1]。

根據(jù)預(yù)測過程使用數(shù)據(jù)的不同，風(fēng)速預(yù)測可以分為兩類。一類是用歷史風(fēng)速數(shù)據(jù)預(yù)測未來的風(fēng)速，另一類是使用更多種類的數(shù)據(jù)進(jìn)行風(fēng)速預(yù)測，如壓力、溫度、濕度等。本次研究只使用風(fēng)速的歷史數(shù)據(jù)，后續(xù)研究將探討使用更多種類的數(shù)據(jù)預(yù)測風(fēng)速，可以預(yù)期，更多種類的數(shù)據(jù)將帶來更好的預(yù)測結(jié)果，因?yàn)槠渲邪烁嗟男畔ⅰ?/p>

根據(jù)建模原理的不同，短期風(fēng)速預(yù)測方法可分為物理方法、統(tǒng)計(jì)方法和學(xué)習(xí)方法三大類。具體來說，物理方法使用數(shù)值天氣預(yù)報(bào)[2]預(yù)測風(fēng)速。統(tǒng)計(jì)方法基于隨機(jī)過程理論和數(shù)理統(tǒng)計(jì)方法對風(fēng)速序列的統(tǒng)計(jì)規(guī)律進(jìn)行分析[3]。持續(xù)法是最簡單的統(tǒng)計(jì)方法，通過使用當(dāng)前風(fēng)速作為風(fēng)速的預(yù)測，隨著預(yù)報(bào)時間的增加其性能迅速降低，但在短期風(fēng)速預(yù)測中，其效果尚可，因此通常被用來作為衡量其他模型性能的一個基準(zhǔn)方法。學(xué)習(xí)方法是利用機(jī)器學(xué)習(xí)方法實(shí)現(xiàn)數(shù)據(jù)建模，如人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）[4-7]、支持向量機(jī)（Support Vector Machine，SVM）[8-11]等，通常這些機(jī)器學(xué)習(xí)模型都是非線性模型。

目前，人工神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)的應(yīng)用正日趨廣闊。研究可知，支持向量機(jī)在解決小樣本、非線性和高維模式識別方面占據(jù)獨(dú)特優(yōu)勢，受到眾多研究者的推崇與青睞。但卻也呈現(xiàn)出一些內(nèi)在缺陷，例如，其效果高度依賴于超參數(shù)的調(diào)整，只能使用梅西核函數(shù)，不能給出分類的概率等不足。而相關(guān)向量機(jī)（Relevance Vector Machine，RVM）[12]是一個基于貝葉斯框架的稀疏概率模型，是機(jī)器學(xué)習(xí)領(lǐng)域中的研究熱點(diǎn)。與其他機(jī)器學(xué)習(xí)算法相比，具有更強(qiáng)的非線性映射能力與泛化能力。因此，正逐漸普及應(yīng)用于各個領(lǐng)域的設(shè)計(jì)研發(fā)中。

在本文中，使用一個基于相關(guān)向量機(jī)和殘差分析的雙層模型預(yù)測下一時刻的風(fēng)速。過程中使用相關(guān)向量機(jī)作為第一層進(jìn)行風(fēng)速預(yù)測，用另一種方法來處理殘差，作為第二層，最后將這兩層組合在一起，得到最終結(jié)果。第二層使用的方法不是確定的，因而研究建立了多種不同的模型來探索不同方法的性能。

1技術(shù)設(shè)計(jì)方法

1.1相關(guān)向量機(jī)

綜上論述可知，與支持向量機(jī)存在的方案缺陷不同，Tipping提出了相關(guān)向量機(jī)的方法，就充分改善了支持向量機(jī)的性能不足，且已取得了良好運(yùn)行實(shí)效。

對于輸入向量{xn}Nn=1 和目標(biāo)向量{tn}Nn=1，使用訓(xùn)練集，可以學(xué)習(xí)得到一個模型。該模型能夠刻畫輸入和輸出的關(guān)系，因此，可使用這個模型來對從未見過的輸入x進(jìn)行預(yù)測得到t。假設(shè)p（t|x）服從高斯分布N（t|y（x），σ2），并且對于一個給定的x，這個分布的均值可以被y（x）建模，y（x）的數(shù)學(xué)定義如式（1）所示：y（x）=∑Nn=1wnK（x， xn）+w0（1）其中，wn是權(quán)重，K（·，·）是核函數(shù)。這和支持向量機(jī)是相同的。

數(shù)據(jù)集的似然函數(shù)可以寫成公式（2），如下所示：p（t|w，σ2）=（2πσ2）-N/2exp{-12σ2‖t-Φw‖2}（2）其中，t=（t1，…，tN），w=（w0，…，wN），Φ是N×（N+1）維的矩陣，數(shù)學(xué)定義是 Φnm=K（xn，xm-1），Φn1=1。

模型參數(shù)可以通過最大化這個似然函數(shù)來得到，但是這通常會導(dǎo)致嚴(yán)重的過擬合。為此，在權(quán)重上定義一個自動相關(guān)決策機(jī)制高斯先驗(yàn)如公式（3）所示：p（w|α）=∏Ni=0N（wi|0， α-1i）（3）其中，α是N+1維的超參數(shù)。

通過貝葉斯法則，可以得到權(quán)重的后驗(yàn)概率，計(jì)算公式如下：p（w|t， α， σ2）=（2π）-（N+1）/2|Σ|-1/2·

exp{-12（w-μ）TΣ-1（w-μ）}（4）

Σ=（ΦTBΦ+A）-1（5）

μ=ΣΦTBt（6）其中，A=diag（α0，α1，…，αN）， B=σ-2IN。

將權(quán)重帶入，推導(dǎo)得到超參數(shù)的邊際似然函數(shù)，其數(shù)學(xué)表述如下：

p（t|α，σ2）=（2π）-N/2|B-1+ΦA(chǔ)-1ΦT|-1/2·

exp{-12tT（B-1+ΦA(chǔ)-1ΦT）-1t}（7）

最大化公式（7）就可以得到α和σ2的值，但是最大化公式（7）不能以封閉形式得到，所以就采取了一種實(shí)用程序的方法。在實(shí)踐中，研究發(fā)現(xiàn)很多αi會趨向于無窮，根據(jù)公式（4），p（wi|t，α， σ2）就會無限趨近于0，對于剩下的權(quán)重不趨于0的向量，則稱其為相關(guān)向量。

1.2提出的模型

有很多原因?qū)е聠我荒Ｐ筒荒軠?zhǔn)確預(yù)測風(fēng)速，研究人員正在轉(zhuǎn)向到使用復(fù)合模型對風(fēng)速進(jìn)行預(yù)測。構(gòu)造復(fù)合模型的方法多種多樣，如先將信號分解，并展開預(yù)測后再將結(jié)果組合在一起。但在實(shí)際中發(fā)現(xiàn)，使用單一模型對風(fēng)速進(jìn)行預(yù)測時，如果其性能較差，那么仍有信息存留在殘差里。殘差也是一個未知的序列，通過深入分析可以獲得更多的信息，從而使預(yù)測臻至理想。同時，使用LBQ（Ljung-Box-Pierce Q-Test）檢驗(yàn)來測定殘差是否為白噪聲：如果不是白噪聲，就使用機(jī)器學(xué)習(xí)的方法來預(yù)測殘差，然后結(jié)合這2次預(yù)測的結(jié)果，就可以得到最終的預(yù)測；如果是白噪聲，就使用模型一的結(jié)果作為最終預(yù)測。模型的結(jié)構(gòu)流程如圖1所示。

圖1中的2個模型可以是各種機(jī)器學(xué)習(xí)模型。本文構(gòu)建了4個兩層預(yù)測模型，分別是RVR-RVR、RVR-SVR、SVR-RVR和SVR-SVR，并針對不同模型的性能給出了研究對照。

2實(shí)驗(yàn)

2.1數(shù)據(jù)

本文研究使用從美國國家數(shù)據(jù)浮標(biāo)中心[13]檢索到的風(fēng)速數(shù)據(jù)，這些監(jiān)測站點(diǎn)都位于美國。實(shí)驗(yàn)中使用了2個數(shù)據(jù)集，屬于不同的位置。一個是在夏威夷北部的51 000站，另一個是位于普利茅斯島西南部的42 060站，這2個監(jiān)測站都在海洋里。數(shù)據(jù)集中的物理量包括WDIR、WSPD、GDR和GST。WDIR是每10 min的平均風(fēng)向，使用從正北開始的順時針角度度量；WSPD是每10 min的平均風(fēng)速，單位是m/s。GDR和GST數(shù)據(jù)值多為99或999，這意味著數(shù)據(jù)丟失了，所以可利用的數(shù)據(jù)只有風(fēng)向和風(fēng)速。如果考慮風(fēng)速，這是風(fēng)速矢量預(yù)測的問題。但是，這里首先不考慮風(fēng)速，而只研究標(biāo)量風(fēng)速預(yù)測的問題，因此，待研究的數(shù)據(jù)是風(fēng)速序列。

過程中，對每個位置選擇5段數(shù)據(jù)進(jìn)行實(shí)驗(yàn)。每段數(shù)據(jù)被劃分成2部分：90%用于訓(xùn)練，10%用于測試。在訓(xùn)練集中有5 400個樣本，在測試集中有600個樣本。預(yù)測下一時刻的風(fēng)速，即10 min后的風(fēng)速。

2.2實(shí)驗(yàn)結(jié)果

在訓(xùn)練RVR和SVR時，使用網(wǎng)格搜索法提高泛化能力和避免過度擬合。在測試時，使用均方根誤差（RMSE）度量模型性能。這些模型在2個位置的預(yù)測誤差分別可見表1和表2。為了使分析簡單，進(jìn)一步計(jì)算每個模型在所有組實(shí)驗(yàn)中的平均相對誤差，可見表3。

3分析

從表1和表2可以看到，RVM和SVR的結(jié)果大部分時候是類似的，在某些情況下，RVM比SVR好。從表3則可以看出，單層模型中，RVM比SVR好。RVM-RVM和RVM-SVR性能最好，兩層模型都優(yōu)于單層模型。

3結(jié)束語

在本文中，設(shè)計(jì)提出了一個兩層模型來預(yù)測短期風(fēng)速，通過從殘差中提取信息，以提高風(fēng)速預(yù)測的準(zhǔn)確性。論文研究了4個兩層模型和2個單層模型，根據(jù)RMSE對這些模型進(jìn)行了比較，并可推得結(jié)論如下：

（1）RVM-RVM和RVM-SVR性能最好。

（2）RVM優(yōu)于SVR。

（3）從平均意義上來說，兩層模型好于單層模型。

本文只使用了歷史風(fēng)速數(shù)據(jù)進(jìn)行預(yù)測，在后續(xù)研究中，將使用更多數(shù)據(jù)如氣溫、氣壓和濕度等氣象信息，以及其它站點(diǎn)的數(shù)據(jù)，共同預(yù)測某一個站點(diǎn)未來的風(fēng)速，旨在從這些數(shù)據(jù)中挖掘出更多信息，從而對風(fēng)速做出更為科學(xué)、準(zhǔn)確的預(yù)測。

參考文獻(xiàn)

[1] LOWERY C， O'MALLEY M. Impact of wind forecast error statistics upon unit commitment[J]. IEEE Transactions on Sustainable Energy， 2012， 3（4）： 760-768.

[2] CASSOLA F， BURLANDO M. Wind speed and wind energy forecast through Kalman filtering of numerical weather prediction model output[J]. Applied energy， 2012， 99： 154-166.

[3] CADENAS E， RIVERA W. Wind speed forecasting in three different regions of Mexico， using a hybrid ARIMA–ANN model[J]. Renewable Energy， 2010， 35（12）： 2732-2738.

[4] AKINCI T C. Short term wind speed forecasting with ANN in Batman， Turkey[J]. Elektronika ir Elektrotechnika， 2015， 107（1）： 41-45.

[5] WANG Jianzhong， HU Jianming， MA Kailiang， et al. A self-adaptive hybrid approach for wind speed forecasting[J]. Renewable Energy， 2015， 78： 374-385.

[6] YOUSEFI M， HOOSHYAR D， YOUSEFI M， et al. An artificial neural network hybrid with wavelet transform for short-term wind speed forecasting： A preliminary case study[C]//Science in Information Technology （ICSITech）， 2015 International Conference on. Yogyakarta， Indonesia：IEEE， 2015： 95-99.

[7] SHUKUR O B， LEE M H. Daily wind speed forecasting through hybrid KF-ANN model based on ARIMA[J]. Renewable Energy， 2015， 76： 637-647.

[8] MOHANDES M A， HALAWANI T O， REHMAN S， et al. Support vector machines for wind speed prediction[J]. Renewable Energy， 2004， 29（6）： 939-947.

[9] ZHOU Junyi， SHI Jing， LI Gong. Fine tuning support vector machines for short-term wind speed forecasting[J]. Energy Conversion and Management， 2011， 52（4）： 1990-1998.

[10]DU Ying， LU Jiping， LI Qing， et al. Short-term wind speed forecasting of wind farm based on least square-support vector machine[J]. Power System Technology， 2008， 32（15）： 62-66.

[11]LIU Da， NIU Dongxiao， WANG Hui， et al. Short-term wind speed forecasting using wavelet transform and support vector machines optimized by genetic algorithm[J]. Renewable Energy， 2014， 62： 592-597.

[12]MICHAEL E. Sparse Bayesian learning and the relevance vector machine[J]. Journal of machine learning research， 2001， 1（3）： 211-244.

[13]National Data Buoy Center. Historical Data [EB/OL]. [2017-12-05]. http：//www.ndbc.noaa.gov.（上接第239頁）