黎津池
(西南交通大學(xué)電氣工程學(xué)院,四川 成都 610031)
?
基于PSO-LSSVM的短期電力負(fù)荷預(yù)測
黎津池
(西南交通大學(xué)電氣工程學(xué)院,四川 成都610031)
摘要:提出一種基于粒子群優(yōu)化-最小二乘支持向量機(particle swarm optimization-least squares support vector machine,PSO-LSSVM)的短期負(fù)荷預(yù)測的方法。采用PSO算法對LSSVM的模型參數(shù)進(jìn)行尋優(yōu),實現(xiàn)LSSVM參數(shù)的自動優(yōu)化選取,進(jìn)而得到比單一LSSVM更準(zhǔn)確的短期負(fù)荷預(yù)測模型。實際算例結(jié)果驗證了所提預(yù)測方法可行性,與其他方法預(yù)測結(jié)果的對比進(jìn)一步突出了所提方法的有效性。
關(guān)鍵詞:短期負(fù)荷預(yù)測;最小二乘支持向量機;粒子群優(yōu)化算法
Abstract:A short-term load forecasting method based on particle swarm optimization-least squares support vector machine (PSO-LSSVM) is proposed. In this method, PSO is adopted to optimize the parameters of LSSVM model, thus to achieve automatic optimization of the parameters of LSSVM and further to obtain the more accurate short-term load forecasting model than a single LSSVM model. The simulation results show the feasibility of the proposed method, and the comparative results with other methods verify the effectiveness of the proposed method.
Key words:short-term load forecasting; least squares support vector machine; particle swarm optimization
0引言
短期負(fù)荷預(yù)測是電力系統(tǒng)的重要工作之一。準(zhǔn)確的負(fù)荷預(yù)測可以經(jīng)濟(jì)合理地安排電網(wǎng)內(nèi)部發(fā)電機組的啟動和停止,保持電網(wǎng)運行的安全穩(wěn)定, 減少不必要的旋轉(zhuǎn)儲備容量,合理安排機組檢修計劃, 有效地降低發(fā)電成本, 提高經(jīng)濟(jì)效益和社會效益。
負(fù)荷預(yù)測的準(zhǔn)確性與多種因素有關(guān)[1](如歷史負(fù)荷數(shù)據(jù)和天氣因素),而這些因素大部分具有隨機性、動態(tài)開放性等不確定性特點。因此,未來負(fù)荷與所能利用的影響變量之間存在復(fù)雜的非線性關(guān)系。這就難以用簡單的數(shù)學(xué)模型來描述,隨著機器學(xué)習(xí)理論的發(fā)展,一些非線性模型如神經(jīng)網(wǎng)絡(luò)模型在短期負(fù)荷時間序列預(yù)測中已取得比較成功的應(yīng)用[2-6]。但神經(jīng)網(wǎng)絡(luò)模型本身存在著難以克服的缺陷,如易陷入局部極小,網(wǎng)絡(luò)結(jié)構(gòu)難以確定,而且它基于的是經(jīng)驗風(fēng)險最小化原則,易導(dǎo)致過學(xué)習(xí)現(xiàn)象的產(chǎn)生。支持向量機(support vector machine ,SVM)根據(jù)結(jié)構(gòu)風(fēng)險最小化準(zhǔn)則取得最小的實際風(fēng)險,其拓?fù)浣Y(jié)構(gòu)由支持向量決定,克服了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)(權(quán)值及隱層數(shù))的選擇在很大程度上依賴設(shè)計者經(jīng)驗的缺點,較好地解決了小樣本、非線性、高維數(shù)和局部極小點等實際問題,具有很強的泛化能力[7],并成功地應(yīng)用于分類、回歸和時間序列預(yù)測等方面[8-9]。最小二乘支持向量機(least square SVM,LSSVM)是標(biāo)準(zhǔn)支持向量機的一種擴展,優(yōu)化指標(biāo)采用平方項,并用等式約束代替標(biāo)準(zhǔn)支持向量機的不等式約束,即將二次規(guī)劃問題轉(zhuǎn)化為線性方程組求解,降低了計算復(fù)雜性,加快了求解速度。然而,采用LSSVM模型進(jìn)行負(fù)荷預(yù)測時,LSSVM中的兩個參數(shù)對模型有很大影響[1],而目前參數(shù)的選取依然是基于經(jīng)驗[10]上的,預(yù)測的誤差就會很大。
所以,提出一種基于粒子群優(yōu)化-最小二乘支持向量機(particle swarm optimization-least squares support vector machine, PSO-LSSVM)的短期負(fù)荷預(yù)測的方法,其結(jié)構(gòu)圖如圖1所示。先采用PSO算法對模型參數(shù)進(jìn)行尋優(yōu),將SVM的參數(shù)選擇問題視為在給定空間的全局搜索問題,以測試樣本集的平均誤差作為算法結(jié)束的判斷條件,實現(xiàn)了支持向量機參數(shù)的自動優(yōu)化選取。最后將優(yōu)化好的參數(shù)輸入已建好的LSSVM模型中實現(xiàn)負(fù)荷的預(yù)測,并對預(yù)測結(jié)果進(jìn)行誤差分析。
圖1 所提方法結(jié)構(gòu)圖
1LSSVM的基本原理
LSSVM是支持向量機的改進(jìn),與標(biāo)準(zhǔn)SVM模型比較,該方法優(yōu)勢明顯:1)用等式約束代替標(biāo)準(zhǔn)SVM算法中的不等式約束;2)將求解二次規(guī)劃問題轉(zhuǎn)化為直接求解線性方程組。下面介紹最小二乘支持向量機的實現(xiàn)原理并將其運用于時間序列的預(yù)測以驗證其有效性。其基本原理[1, 8-9]如下:
對于給定數(shù)據(jù)樣本(xi,yi),i=1,2……,l,xi∈Rn是與預(yù)測量密切相關(guān)的影響因素,如歷史負(fù)荷數(shù)據(jù)、氣象因素等,對非線性負(fù)荷預(yù)測模型,回歸函數(shù)變?yōu)?/p>
f(x)=ω·φ(x)+b
(1)
式中:ω為權(quán)值向量;b是閾值,φ(x)是從輸入空間到高維特征空間的非線性映射。LS-SVM優(yōu)化目標(biāo)可表示為
(2)
s.t.yi=ω·φ(xi)+b+ei,i=1,2…,l
式中:ei為誤差;e∈Rl×1λ∈Rl×1為誤差向量;C是正規(guī)化參數(shù),用以控制對誤差的懲罰程度。引入Lagrange函數(shù),式(2)可轉(zhuǎn)化為
(3)
式中,αi∈Rl×1為Lagrange乘子。根據(jù)KKT (Karush-Kuhn-Tucker)最優(yōu)條件,可得
(4)
消去ω和e,則式(4)的解為
(5)
式中:α=[α1,α2,…,αl]T;Q=[1,1,…,1]T;I為單位矩陣;Y=[y1,y2,…,yl]T;K(xi,yi)為合適的核函數(shù)。對于非線性回歸,使用一個非線性映射φ(x)將數(shù)據(jù)映射到一個高維特征空間,再在高維特征空間中進(jìn)行線性回歸,其關(guān)鍵問題是核函數(shù)的選取,核函數(shù)是核技巧的基礎(chǔ),而核技巧是支持向量機的重要組成部分,核技巧是用原來輸入空間中2個模式的簡單函數(shù)的求值來代替高維空間中2個點的內(nèi)積計算,不需知道具體的映射φ(x)是什么,只需求出內(nèi)積,即使得K(xi,yi)=φ(xi)·φ(xj)。滿足Mercer條件[11]的函數(shù)都可以作為核函數(shù)。目前常用的核函數(shù)有多項式核函數(shù)、Sigmoid核函數(shù)和高斯徑向核函數(shù)3種,分別為
(6)
(7)
K(x,xi)=exp(-‖x-xi‖/2σ2)
(8)
Sigmoid核函數(shù)有一定的局限性,因為該核函數(shù)中的參數(shù)b、c只對某些值滿足Mercer條件,多項式核函數(shù)中有2個可控參數(shù)θ和d,而高斯核函數(shù)中只有1個參數(shù)σ。通過對各核函數(shù)的測試,選取高斯核函數(shù)。確定了核函數(shù),LSSVM的預(yù)測模型表示為
(9)
式中,αi與b可由解式(5)的線性方程求出。
2基于PSO-LSSVM的負(fù)荷預(yù)測模型
短期電力負(fù)荷預(yù)測對精確度有很高的要求,隨著研究不斷深入,電力負(fù)荷的預(yù)測理論和方法有了很大的進(jìn)展,基于統(tǒng)計學(xué)習(xí)理論的LSSVM被用于負(fù)荷預(yù)測中。不過在實際應(yīng)用LSSVM過程中,一些關(guān)鍵的參數(shù),如懲罰系數(shù)C與核寬度系數(shù)σ對模型有很大的影響,應(yīng)該如何設(shè)置關(guān)鍵的參數(shù),是這里要完成的任務(wù)。為此,首先需要完成輸入樣本的確定,然后建立基于PSO算法尋優(yōu)的LSSVM模型,最后給出負(fù)荷預(yù)測步驟。
2.1輸入樣本的確定
通過將母線歷史負(fù)荷數(shù)據(jù)歸一化處理后得到的母線負(fù)荷時間序列可表示為
選取預(yù)測時刻的前四個時刻、前一天的相同時刻及前一天相同時刻的前后兩個時刻的負(fù)荷值作為輸入樣本的一部分。
(10)
根據(jù)負(fù)荷的周期性,將一個星期劃分成不同的類型[1],所以考慮了星期類型值Wi(周一設(shè)Wi=0.7,周二到周五設(shè)Wi=0.8,周六記Wi=0.4,周日記Wi=0.3,節(jié)假日記Wi=0.1)作為輸入樣本一部分。則預(yù)測第i天第t時刻的負(fù)荷Yi(t),其輸入樣本可表示為
Xi(t)=[Γi,Wi,L24·(i-1)+t-4∶L24·(i-1)+t-1,L24·(i-2)+t-1∶L24·(i-2)+t+1,Γi-1,Wi-1],i=3,4,…
(11)
2.2基于PSO搜索的最優(yōu)參數(shù)的確定及模型的建立
上面已經(jīng)確定了徑向基核函數(shù),對于LSSVM來說,現(xiàn)在需要做的就是選取合適的參數(shù),只有確定了參數(shù)σ和C,才能得到高精度的預(yù)測模型。這里引入了標(biāo)準(zhǔn)的PSO算法[1]進(jìn)行尋優(yōu)。
2.2.1標(biāo)準(zhǔn)PSO算法原理
假設(shè)在一個d維的搜索空間中,第i個粒子在d維的搜索空間中的位置是xi,定義為
Xi=(xi1,xi2,…,xid),i=1,2,…,m
(12)
其飛行速度向量為
Vi=(vi1,vi2…,vid)
(13)
通過搜索定義目前種群局部的最優(yōu)位置
Pi=(Pi1,Pi2,…,Pid)
(14)
整個種群中的最優(yōu)位置為
Pg=(Pg1,Pg2,…,Pgd)
(15)
微粒速度和位置更新[1, 12]如下式:
(16)
(17)
式中:m為微粒數(shù);d為解空間的維數(shù);c1和c2是兩個非負(fù)常數(shù),稱為加速常數(shù);r1和r2是隨機在[0,1]之間選取的;w為慣性權(quán)重系數(shù)。在PSO搜索的時候,用線性遞減權(quán)重策略來處理動態(tài)慣性權(quán)重,會獲得比較好的結(jié)果,方法如下:
(18)
式中:Tmax為最大進(jìn)化代數(shù);wmax為初始慣性權(quán)重;wmin為進(jìn)化至最大代數(shù)時的慣性權(quán)重。
2.2.2最優(yōu)參數(shù)的確定及模型的建立
設(shè)定PSO算法的搜索范圍為C∈[0.1,150],σ∈[0.1,10],這里粒子數(shù)m取20個。粒子數(shù)目越多,就更容易發(fā)現(xiàn)全局最優(yōu)解,20個粒子數(shù)相較于所取的樣本數(shù)目已經(jīng)足夠了。最大迭代次數(shù)Tmax取為10。權(quán)重w∈[0.4,0.9],學(xué)習(xí)因子c1和c2都取2。利用PSO算法優(yōu)化選擇LSSVM的參數(shù),并進(jìn)行最終的預(yù)測,其流程圖如圖2所示。具體步驟如下:
1)輸入歷史數(shù)據(jù),對數(shù)據(jù)進(jìn)行預(yù)處理,形成訓(xùn)練樣本矩陣;
2)初始化粒子群,并設(shè)置各個參數(shù);
3)計算各個粒子當(dāng)前的適應(yīng)值
(19)
并作比較,設(shè)置Pibest和Gbest;
4)更新粒子的速度和位置,利用PSO算法完成種群的進(jìn)化;
5)計算進(jìn)化后的種群各個粒子新的適應(yīng)值,分別對Pibest和Gbest完成尋優(yōu)替換;
6)若達(dá)到Tmax,則結(jié)束優(yōu)化,輸出優(yōu)化的參數(shù),否則,令t=t+1,轉(zhuǎn)步驟3);
7)將優(yōu)化的參數(shù)給LSSVM,得到優(yōu)化的預(yù)測模型,完成預(yù)測;
8)將預(yù)測負(fù)荷與實際負(fù)荷進(jìn)行比較,得到該日的負(fù)荷平均相對誤差。
圖2 基于粒子群優(yōu)化算法的預(yù)測模型流程圖
3算例分析
所采用的歷史負(fù)荷數(shù)據(jù)為某地區(qū)2009年2月14日到2009年3月27日(共計42×24=1 008 h)的時負(fù)荷數(shù)據(jù),使用LSSVM預(yù)測模型與PSO-LSSVM預(yù)測模型對3月25日至27日每天的24個時刻負(fù)荷進(jìn)行預(yù)測,計算出負(fù)荷預(yù)測的平均相對誤差,對比兩種方法的優(yōu)劣,最后進(jìn)行誤差分析。
3.1誤差評價指標(biāo)
1)相對誤差(relative error,RE)
(20)
2)平均相對誤差(mean absolute percentage error,MAPE)
(21)
3.2預(yù)測結(jié)果及誤差分析
用LSSVM模型進(jìn)行預(yù)測時,根據(jù)經(jīng)驗,其參數(shù)C取值為30,σ取值為2,27日預(yù)測結(jié)果如表1所示,預(yù)測日負(fù)荷曲線與實際負(fù)荷曲線比較如圖3所示。LSSVM模型參數(shù)經(jīng)過PSO優(yōu)化后自動獲取值及每天預(yù)測結(jié)果的平均相對誤差如表2所示。
表1 負(fù)荷預(yù)測結(jié)果比較
表2 負(fù)荷預(yù)測平均相對誤差的比較
圖3 3月27日日預(yù)測負(fù)荷曲線與實際負(fù)荷曲線比較
從以上預(yù)測的結(jié)果可以看出經(jīng)過PSO算法優(yōu)化LSSVM參數(shù)后所得預(yù)測結(jié)果的精度要明顯高于基于經(jīng)驗選取LSSVM參數(shù)所得預(yù)測結(jié)果的精度。
4結(jié)論
針對LSSVM效率極低的靠經(jīng)驗選取參數(shù)的問題,選定了PSO算法作為優(yōu)化策略,利用PSO算法基于種群的并行搜索策略特點來迭代搜索最優(yōu)的目標(biāo)函數(shù)值,以求尋找到最優(yōu)的LSSVM參數(shù),達(dá)到自動優(yōu)化選取關(guān)鍵參數(shù)的目的,使用基于PSO-LSSVM的模型對負(fù)荷進(jìn)行了預(yù)測。預(yù)測結(jié)果驗證了所提方法的可行性,通過與不經(jīng)優(yōu)化的LSSVM的預(yù)測結(jié)果進(jìn)行了對比,進(jìn)一步突出了所提方法的有效性和準(zhǔn)確性。
參考文獻(xiàn)
[1]康操. 基于最小二乘支持向量機的短期電力負(fù)荷預(yù)測模型的研究[D].成都: 西南交通大學(xué), 2012.
[2]楊毅強,劉天琪. BP人工神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測模型的L-M訓(xùn)練算法[J]. 四川電力技術(shù),2006,29(3): 29-31.
[3]Daneshdoost M, Lotfalian M, Bumroonggit G, et al. Neural Network with Fuzzy Set-based Classification for Short-term Load Forecasting[J].Power Systems, IEEE Transactions on. 1998, 13(4):1386-1391.
[4]趙宇紅,唐耀庚,張韻輝. 基于神經(jīng)網(wǎng)絡(luò)和模糊理論的短期負(fù)荷預(yù)測[J]. 高電壓技術(shù),2006,31(5):107-110.
[5]劉絢,劉天琪. 基于小波變換和遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測[J].四川電力技術(shù),2010,33(3):15-18.
[6]周林,呂厚軍. 人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于電力系統(tǒng)短期負(fù)荷預(yù)測的研究[J]. 四川電力技術(shù),2008,31(6):68-72.
[7]丁世飛,齊丙娟,譚紅艷. 支持向量機理論與算法研究綜述[J].電子科技大學(xué)學(xué)報,2011,40(1):2-10.
[8]李元誠,方廷健,于爾鏗. 短期負(fù)荷預(yù)測的支持向量機方法研究[J]. 中國電機工程學(xué)報,2003,23(6):55-59.
[9]張林,劉先珊,陰和俊. 基于時間序列的支持向量機在負(fù)荷預(yù)測中的應(yīng)用[J]. 電網(wǎng)技術(shù),2004,28(19):38-41.
[10]侯賀飛,劉俊勇. 最小二乘支持向量機短期負(fù)荷預(yù)測研究[J].四川電力技術(shù),2009(S1):11-15.
[11]羅娜. 數(shù)據(jù)挖掘中的新方法——支持向量機[J].軟件導(dǎo)刊,2008(10): 30-31.
[12]Xinxin H, Lijin W, Yiwen Z. An Improved Particle Swarm Optimization Algorithm for Site Index Curve Model[C].Internatioal Conference on Business Management & Electronic Information,2011,3:838-842.
基金項目:國家自然基金資助項目(61373047)
中圖分類號:TM715
文獻(xiàn)標(biāo)志碼:A
文章編號:1003-6954(2016)02-0006-04
作者簡介:
黎津池(1988),碩士研究生, 研究方向為基于短期負(fù)荷預(yù)測含分布式發(fā)電的電力系統(tǒng)狀態(tài)估計。
(收稿日期:2016-01-28)