時(shí)序回歸支持向量機(jī)在衛(wèi)星振動(dòng)預(yù)測中的應(yīng)用

第一作者付忠廣男，教授，1963年生

時(shí)序回歸支持向量機(jī)在衛(wèi)星振動(dòng)預(yù)測中的應(yīng)用

付忠廣, 曹宏芳, 齊敏芳

(華北電力大學(xué)能源動(dòng)力與機(jī)械工程學(xué)院，北京102206)

摘要：將支持向量機(jī)算法與時(shí)間序列原理相結(jié)合，可構(gòu)造出基于時(shí)間序列的支持向量機(jī)模型。通過對大量遙感衛(wèi)星振動(dòng)數(shù)據(jù)進(jìn)行分析，得出該衛(wèi)星振動(dòng)規(guī)律為有隨機(jī)波動(dòng)成分的簡諧振動(dòng)。應(yīng)用時(shí)間序列的原理，動(dòng)態(tài)更新模型訓(xùn)練集和預(yù)測集，構(gòu)建基于時(shí)序回歸的支持向量機(jī)在線預(yù)測模型。模型測試結(jié)果表明，這種方法可以比較準(zhǔn)確有效地實(shí)現(xiàn)振動(dòng)趨勢的提前預(yù)測，為振動(dòng)抑制措施的快速實(shí)現(xiàn)提供幫助。

關(guān)鍵詞：遙感衛(wèi)星振動(dòng)；支持向量機(jī)；時(shí)間序列；ARMA模型；在線預(yù)測

基金項(xiàng)目：國家自然科學(xué)基金項(xiàng)目(50776029, 51036002)；中央高?；究蒲袠I(yè)務(wù)費(fèi)專項(xiàng)資金資助(13XS12)

收稿日期：2014-07-08修改稿收到日期：2014-08-29

中圖分類號:V233.7

文獻(xiàn)標(biāo)志碼：A

DOI:10.13465/j.cnki.jvs.2015.17.023

Abstract:A support vector machine (SVM) model based on the time series principle can be constructed with the support vector machine algorithm and the time series principle. Through analyzing a large number of a remote sensing satellite’s vibration data, it was shown that its vibration law is a simple harmonic vibration with some random wave components. Training set and prediction set of its model were dynamically updated by using the principle of time series, and then a SVM online prediction model was built based on the time sequence regression. The model test results showed that this method can effectively predict a remote sensing satellite’s vibration trends in advance, and give helps to realize rapid vibration suppression measures.

A remote sensing satellite’s vibration prediction based on time sequence regression and SVM algorithm

FUZhong-guang,CAOHong-fang,QIMin-fang(School of Energy Power and Mechanical Engineering, North China Electric Power University, Beijing 102206, China)

Key words:remote sensing satellite vibration; SVM; time series; ARMA model; online prediction

安裝在高分辨率遙感衛(wèi)星上的空間相機(jī)對振動(dòng)十分敏感。衛(wèi)星姿態(tài)變化等擾振源產(chǎn)生的振動(dòng)會使相機(jī)視線發(fā)生抖動(dòng)，導(dǎo)致其獲取的圖像產(chǎn)生扭曲、模糊等現(xiàn)象，無法達(dá)到預(yù)期的分辨能力[1]，所以對衛(wèi)星振動(dòng)的控制有重要意義。為了實(shí)現(xiàn)振動(dòng)快速抑制，目前很多學(xué)者在振動(dòng)智能控制方面進(jìn)行了大量的研究，文獻(xiàn)[2]利用Takagi-Sugeno模糊控制原理，構(gòu)造了模糊變結(jié)構(gòu)控制器以削弱抖振。文獻(xiàn)[3]利用帶有非線性阻尼器的自適應(yīng)控制方法對航天器振動(dòng)進(jìn)行預(yù)測，大大減少了抑制時(shí)間。文獻(xiàn)[4]對參數(shù)未知線性系統(tǒng)提出一種直接自適應(yīng)分層模糊廣義預(yù)測控制方法，實(shí)現(xiàn)了撓性航天器低頻振動(dòng)的快速抑制。為了實(shí)現(xiàn)快速抑制，本文對采集到的某高分辨率遙感衛(wèi)星空間相機(jī)的大量振動(dòng)數(shù)據(jù)進(jìn)行分析，提出利用支持向量機(jī)構(gòu)建模型對遙感衛(wèi)星振動(dòng)進(jìn)行提前預(yù)測。支持向量機(jī)是一種較穩(wěn)定的非線性回歸算法，在城市用水量[5]，股票預(yù)測[6]，發(fā)電能源[7]等方面得到廣泛的應(yīng)用。本文將支持向量機(jī)和時(shí)間序列原理引入到衛(wèi)星的振動(dòng)預(yù)測中，通過對振動(dòng)的提前預(yù)測實(shí)現(xiàn)快速控制，同時(shí)也為航天器的振動(dòng)控制問題引入了一種新的方法。

1支持向量機(jī)回歸原理

支持向量機(jī)(Support Vector Machine,SVM)是由Vapnik提出的一種學(xué)習(xí)型的機(jī)制[8-9]，是基于統(tǒng)計(jì)學(xué)原理結(jié)構(gòu)風(fēng)險(xiǎn)最小化的近似實(shí)現(xiàn)，其中學(xué)習(xí)機(jī)器在測試數(shù)據(jù)上的誤差率以訓(xùn)練誤差率和一個(gè)依賴于VC維數(shù)(Vapnik-Chervonenkis dimension)的項(xiàng)的和為界，在可分模式情況下，對前一項(xiàng)的值為零，并使第二項(xiàng)最小化。支持向量機(jī)可用于處理模式分類和回歸擬合問題，即支持向量分類機(jī)和支持向量回歸機(jī)(SVR)，本文主要用到SVR算法。

(1)

2時(shí)間序列原理

將事物隨時(shí)間變化的規(guī)律按照時(shí)間順序記錄成一系列的數(shù)據(jù)就構(gòu)成了一個(gè)時(shí)間序列，充分利用這些數(shù)據(jù)，便可分析出這些數(shù)據(jù)隨時(shí)間變化的規(guī)律。其中ARMA(Auto-Regression Moving Average)模型是一種常用的隨機(jī)時(shí)間序列預(yù)測方法[12]，它將預(yù)測對象隨時(shí)間變化形成的序列看作一個(gè)隨機(jī)序列，也即，除偶然原因引起的個(gè)別序列值外，時(shí)間序列是依賴于時(shí)間t的一族隨機(jī)變量。

在多元回歸分析中，當(dāng)預(yù)測對象的影響因素有多個(gè)時(shí)，且影響因素間相互獨(dú)立時(shí)，可以建立因變量與自變量相關(guān)關(guān)系如下：

Y=b0+b1X1+b2X2+…+biXk+e

(2)

Yt=b0+b1Yt-1+b2Yt-2+…+bkYt-k+et

(3)

而在通常的時(shí)間序列中，每個(gè)變量之間通常并非簡單的線性關(guān)系，假設(shè)預(yù)測對象的歷史數(shù)據(jù)有一種水平樣式，另外還含有隨機(jī)波動(dòng)成分，那么則可以采用簡單指數(shù)平滑法進(jìn)行短期預(yù)測，預(yù)測公式如下所示：

Ft+1=Ft+α(Yt-Ft)=Ft+α(et)

(4)

Ft=Ft-1+α(Yt-1-Ft-1)

(5)

Ft+1=Ft-1+α(et-1)+α(et)

(6)

所以平滑模型是利用前期預(yù)測誤差對模型進(jìn)行修正，從而得到下一期的預(yù)測值。以此類推，便可得到時(shí)間序列{Yt}的隨機(jī)波動(dòng)Ft可以用過去不同時(shí)期的誤差項(xiàng)表示，如式(7)所示：

Ft=θ0+θ1et-1+θ2et-2+…+θket-k+et

(7)

將式(7)與式(3)結(jié)合，便可以得出ARMA模型如下：

Yt=b0+b1Yt-1+b2Yt-2+…+bkYt-k+

Ft-θ0-θ1et-1-θ2et-2-…-θket-k

(8)

其中:b0,b1,b2,…,bk為自回歸系數(shù)，k為自回歸階數(shù)，θ1,θ2,…,θk為移動(dòng)平均系數(shù)。由此可見，時(shí)間序列中的數(shù)據(jù)都可表示成為只與序列內(nèi)數(shù)據(jù)和預(yù)測誤差相關(guān)的數(shù)據(jù)。

3在線預(yù)測模型

3.1模型數(shù)據(jù)介紹

表1中所示數(shù)據(jù)為某衛(wèi)星振動(dòng)的數(shù)據(jù)，由于篇幅限制，表1中只列出了采樣時(shí)間20 ms內(nèi)的數(shù)據(jù)，從中可以看出振動(dòng)幅值相對較小。為了更加清楚的分析振動(dòng)規(guī)律，利用1 000個(gè)采樣數(shù)據(jù)作圖，見圖1和圖2。

圖1　X方向振動(dòng)曲線 Fig.1 The vibration curve of X direction

圖2　Y方向振動(dòng)曲線 Fig.2 Thevibration curve of Y direction

從圖1，圖2中可以看出，衛(wèi)星的振動(dòng)可以看作有隨機(jī)干擾項(xiàng)的不規(guī)則簡諧波振動(dòng)，每時(shí)刻的振動(dòng)數(shù)據(jù)與此時(shí)刻之前的振動(dòng)數(shù)據(jù)有關(guān)，按照時(shí)間采集的數(shù)據(jù)符合ARMA規(guī)律。從圖中還可以看出，X方向和Y方向的振動(dòng)規(guī)律基本相似，所以本文主要選擇X方向的振動(dòng)數(shù)據(jù)進(jìn)行研究。

表1　振動(dòng)幅值隨時(shí)間的情況

3.2模型結(jié)構(gòu)分析

見圖3,即為SVM預(yù)測模型的結(jié)構(gòu)圖。在模型中，隨著新數(shù)據(jù)的輸入，不斷滾動(dòng)更新最近一次訓(xùn)練集和預(yù)測集，同時(shí)舍棄此前的舊值，從而保證在整個(gè)過程中，訓(xùn)練集和預(yù)測集窗口長度不變，以便完成實(shí)時(shí)預(yù)測和提高預(yù)測精度。

在本模型中選用的滑動(dòng)窗口長度為500，且輸入變量個(gè)數(shù)為5，輸出變量個(gè)數(shù)為1，如表2中所示。即假設(shè)Ft為t時(shí)刻的數(shù)據(jù)，整個(gè)關(guān)系可表示為：Ft=g(Ft-1,Ft-2,Ft-3,Ft-4,Ft-5)。

由于振動(dòng)數(shù)據(jù)的采樣頻率較高，為了使振動(dòng)預(yù)測過程更加有效進(jìn)行，采用時(shí)間延遲法[13]，對預(yù)測模型數(shù)據(jù)重新采樣，設(shè)Δt為原始空間的采樣間隔，τ為重構(gòu)空間序列的采樣間隔，τ=m·Δt(m為整數(shù))。為了衡量預(yù)測模型的精度，選擇正規(guī)化均方誤差作為評價(jià)標(biāo)準(zhǔn)，稱為確定性因子：

(9)

圖3　SVM預(yù)測模型結(jié)構(gòu) Fig3 SVM prediction model structure

樣本輸入集序列/μm輸出集/μm11.3701.1801.1501.3201.6702.13022.1302.5802.9002.9702.7402.20032.2001.4400.599-0.157-0.675-0.8594-0.859-0.686-0.2170.4191.0601.55051.5501.7601.6601.2700.6780.01460.014-0.586-1.010-1.200-1.150-0.908…………………

模型中首先利用如表2中所示的1～500組樣本對模型進(jìn)行訓(xùn)練，訓(xùn)練結(jié)束后，利用訓(xùn)練好的模型對第2～501組樣本的輸入序列進(jìn)行預(yù)測，可得到預(yù)測輸出序列，其中的第500個(gè)數(shù)據(jù)即為第501組樣本的預(yù)測值。然后滑動(dòng)窗口向后移動(dòng)一個(gè)樣本,更新訓(xùn)練集為2～501組樣本數(shù)據(jù)，對模型進(jìn)行訓(xùn)練，在模型進(jìn)行訓(xùn)練的同時(shí)對預(yù)測集輸入序列進(jìn)行更新，訓(xùn)練完成后對更新的第3～502組預(yù)測輸入序列進(jìn)行預(yù)測，得出第502組樣本的預(yù)測值，依次遞推。所以預(yù)測模型得到的預(yù)測值是對應(yīng)大量采樣數(shù)據(jù)中的第2 506 ms，2 511 ms，…，(2 501+5n)ms，n=1，2，3，…，n表示預(yù)測的次數(shù)。此外SVM模型中采用的核函數(shù)為徑向基函數(shù)，懲罰參數(shù)C和核函數(shù)中系數(shù)g的選擇方法采用的是交叉驗(yàn)證方法[14]。

3.3數(shù)據(jù)歸一化處理

從表1中的數(shù)據(jù)可以看出，有些數(shù)據(jù)數(shù)量級相差比較大，所以為了取消各維數(shù)據(jù)間數(shù)量級差別，避免因?yàn)檩斎胼敵鰯?shù)據(jù)的數(shù)量級差別較大而引起預(yù)測誤差大，對輸入集和輸出集進(jìn)行歸一化處理[15]，映射如下，

(10)

其中:xmin為數(shù)據(jù)序列中的最小值，xmax為數(shù)據(jù)序列中的最大值，歸一化的效果是將原始數(shù)據(jù)規(guī)整到[-1，1]范圍內(nèi)。

3.4模型結(jié)果分析

本文中利用上述的模型進(jìn)行試驗(yàn)，得到預(yù)測20次的預(yù)測結(jié)果，也即按照時(shí)間先后順序預(yù)測得到第2 506到2 601個(gè)數(shù)據(jù)。如表3中所示為預(yù)測得到的預(yù)測值與采集到的真實(shí)值對比。圖4為預(yù)測值與真實(shí)值對比圖，圖5為預(yù)測結(jié)果絕對誤差曲線，其中絕對誤差為預(yù)測值與真實(shí)值之差。

圖4 預(yù)測值與真實(shí)值比較Fig.4Comparisonofthepredictedvalueandthetruevalue圖5 預(yù)測值與真實(shí)值的絕對誤差Fig.5Absoluteerrorofthepredictedvalueandtherealvalue圖6 預(yù)測點(diǎn)值在振動(dòng)曲線上的表示Fig.6PredictionPointonvibrationcurve

表3　SVM預(yù)測模型預(yù)測結(jié)果

從表3中得到，基于本文所述模型預(yù)測得到的20個(gè)時(shí)刻的振動(dòng)預(yù)測數(shù)據(jù)與真實(shí)數(shù)據(jù)相差非常小，所得的絕對誤差都比真實(shí)數(shù)據(jù)小1到2個(gè)數(shù)量級，最小的達(dá)到0.002 μm，最大的也只有0.057 μm，測試精度非常高，基本可以實(shí)現(xiàn)預(yù)測的目標(biāo)。為了使測試結(jié)果更加一目了然，圖4中給出真實(shí)值和預(yù)測值的對比圖表，從圖中可見預(yù)測值與真實(shí)值擬合非常好。圖5為絕對誤差曲線，可見絕對誤差都很小，滿足精度要求。鑒于本模型是每隔5個(gè)點(diǎn)進(jìn)行一次預(yù)測，圖6中則描述了這些時(shí)刻預(yù)測值與真實(shí)振動(dòng)曲線的關(guān)系，從圖中可以看出，這些點(diǎn)對整個(gè)曲線的振動(dòng)過程有一定的代表性，對這些點(diǎn)進(jìn)行準(zhǔn)確預(yù)測即可以滿足對振動(dòng)趨勢的整體預(yù)測，表明了該模型的適用性。

4結(jié)論

(1)本文通過對大量的高分辨率遙感衛(wèi)星的振動(dòng)數(shù)據(jù)進(jìn)行挖掘，利用時(shí)間序列中ARMA的思想，對這些數(shù)據(jù)進(jìn)行分析，得出每個(gè)時(shí)間點(diǎn)的振動(dòng)數(shù)據(jù)受此刻之前5個(gè)時(shí)間點(diǎn)的振動(dòng)影響最大。在此基礎(chǔ)上，構(gòu)建了支持向量機(jī)模型，并且針對時(shí)間序列中數(shù)據(jù)不斷更新的特點(diǎn)，動(dòng)態(tài)的更新訓(xùn)練集和測試集，為遙感衛(wèi)星振動(dòng)預(yù)測引入了一種新方法。

(2)此外本文采用了每隔5個(gè)點(diǎn)進(jìn)行一次預(yù)測的方法，在模型訓(xùn)練的同時(shí)更新預(yù)測集。雖然在預(yù)測精度上稍有降低，但是可以實(shí)現(xiàn)模型訓(xùn)練時(shí)間和數(shù)據(jù)采集時(shí)間的匹配，使在線預(yù)測模型能及時(shí)更新又不會因模型的訓(xùn)練造成預(yù)測中斷，從而實(shí)現(xiàn)了對振動(dòng)數(shù)據(jù)的實(shí)時(shí)預(yù)測。利用上述模型對采集的數(shù)據(jù)進(jìn)行預(yù)測，驗(yàn)證了這種模型的準(zhǔn)確性和可行性，適用于遙感衛(wèi)星振動(dòng)的在線預(yù)測。

參考文獻(xiàn)

[1]關(guān)新.高分辨率遙感衛(wèi)星隔振與姿態(tài)控制一體化設(shè)計(jì)[D].北京：清華大學(xué),2012.

[2]白圣建.撓性航天器的建模與控制方法研究[D].長沙:國防科技大學(xué),2005.

[3]王曉磊,吳宏鑫.撓性航天器振動(dòng)抑制的自適應(yīng)方法及實(shí)驗(yàn)研究[J].宇航學(xué)報(bào),2005,26(3):75-81.

WANG Xiao-lei, WU Hong-xin. Adaptive control scheme and experiment for vibrationsuppression of flexible spacecraft[J]. Journal of Astronautics, 2005,26(3):75-81.

[4]孫多青.分層模糊廣義預(yù)測控制及其在撓性航天器振動(dòng)抑制中的應(yīng)用[J].宇航學(xué)報(bào),2009,30(4):37-43.

SUN Duo-qing. Hierarchical fuzzy generalized predictive control and its application in vibration suppression of flexible spacecraft[J]. Journal of Astronautics, 2009,30(4):37-43.

[5]張清周,黃源,趙明.SVM的信息粒化時(shí)序回歸預(yù)測城市用水量[J].供水技術(shù),2012,6(4):43-46.

ZHANG Qing-zhou, HUANG Yuan,ZHAO Ming. Prediction of urban water consumption by SVM information granulation within time sequence regression[J].Water Technology,2012,6(4):43-46.

[6]喻勝華,肖雨峰.基于信息?；椭С窒蛄繖C(jī)的股票價(jià)格預(yù)測[J].財(cái)經(jīng)理論與實(shí)踐,2011,32(174):44-47.

YU Sheng-hua, XIAO Yu-feng.Forecasting method of stock price based on information granulation and support vector machine[J].The Theory and Practice of Finance and Economic.,2011,32(174):44-47.

[7]付忠廣,黎瑜春,欒東存. 基于組合模型的轉(zhuǎn)子振動(dòng)在線預(yù)測[J].汽輪機(jī)技術(shù),2012,54(4):75-78.

FU Zhong-guang,LI Yu-chun,LUAN Dong-cun. A hybrid model for rotor vibration online forecasting[J]. Turbine Technology,2012,54(4):75-78.

[8]楊紅,孫卓,劉夏平,等.基于多最小二乘支持向量機(jī)的橋梁溫度撓度效應(yīng)的分離[J].振動(dòng)與沖擊,2014,33(1):71-76.

YANG Hong,SUN Zhuo,LIU Xia-ping,et al.Separation of bridge temperature deflection effect based on M-LS-SVM[J]. Journal of Vibration and Shock,2014,33(1):71-76.

[9]陳金鳳.支持向量機(jī)回歸算法的研究與應(yīng)用[D].無錫：江南大學(xué),2008.

[10]鄭嚴(yán),程文明,程躍.基于支持向量機(jī)回歸的結(jié)構(gòu)可靠性分析[J].機(jī)械科學(xué)與技術(shù),2011,30(1),52-54.

ZHENG Yan, CHENG Wen-ming,CHENG Yue.Structural reliability analysis based on support vector regression[J].Mechanical Science and Technology for Aerospace Engineering,2011,30(1):52-54.

[11]易丹輝.時(shí)間序列分析方法與應(yīng)用[M].北京：中國人民大學(xué)出版社,2011.

[12]景源.電站鍋爐入爐煤質(zhì)發(fā)熱量的反向建模研究[D].北京：華北電力大學(xué),2012.

[13]戈志華.基于非線性理論的汽輪機(jī)軸系振動(dòng)故障研究[D].北京：華北電力大學(xué),2000.

[14]袁勝發(fā)，褚福磊.支持向量機(jī)及其在機(jī)械故障診斷中的應(yīng)用[J]. 振動(dòng)與沖擊,2007, 26(11): 29-35.

YUAN Sheng-fa,CHU Fu-lei.The application of SVM in mechanical fault dignosis[J]. Journal of Vibration and Shock, 2007, 26(11): 29-35.

[15]MATLAB中文論壇.MATLAB神經(jīng)網(wǎng)絡(luò)30個(gè)案例分析[M].北京：北京航天航空大學(xué)出版社,2010.