劉建新,楊慶玲
ABC算法優(yōu)化SVR的磨損故障預(yù)測(cè)模型
劉建新1,楊慶玲2
(1.煙臺(tái)工程職業(yè)技術(shù)學(xué)院,山東 煙臺(tái) 264001;2.煙臺(tái)職業(yè)學(xué)院,山東 煙臺(tái) 264001)
為了提高故障預(yù)測(cè)的精度,針對(duì)支持向量回歸SVR(Support vector machine for regression,SVR)參數(shù)選擇困難的問(wèn)題,提出一種采用人工蜂群 (artificial bee colony,ABC)算法優(yōu)化支持向量回歸(SVR)的故障預(yù)測(cè)模型(ABC-SVR)。該模型先對(duì)樣本數(shù)據(jù)進(jìn)行重構(gòu),然后將故障預(yù)測(cè)誤差(適應(yīng)度)作為優(yōu)化目標(biāo),通過(guò)ABC算法尋優(yōu)找到最優(yōu)的SVR參數(shù),建立故障預(yù)測(cè)模型。最后通過(guò)實(shí)例仿真驗(yàn)證模型的優(yōu)越性。采用ABC算法優(yōu)化的SVR故障預(yù)測(cè)模型進(jìn)行時(shí)間序列預(yù)測(cè),能夠較好地跟蹤發(fā)動(dòng)機(jī)滑油金屬元素濃度的變化過(guò)程,并且能夠提前2個(gè)取樣時(shí)間預(yù)測(cè)異常情況的出現(xiàn)。ABC-SVR模型有效解決了SVR參數(shù)選擇難題,能夠更加準(zhǔn)確地表現(xiàn)故障變化規(guī)律,提高了故障預(yù)測(cè)精度。
磨損故障;人工蜂群優(yōu)化算法;支持向量回歸;預(yù)測(cè)模型
支持向量回歸(Support vector machine for regression,SVR)是在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上發(fā)展起來(lái)的一種新的通用學(xué)習(xí)方法,通過(guò)建立線(xiàn)性函數(shù)來(lái)實(shí)現(xiàn)線(xiàn)性回歸,用核函數(shù)代替線(xiàn)性方程中的線(xiàn)性項(xiàng)來(lái)實(shí)現(xiàn)非線(xiàn)性回歸,適用于對(duì)有限樣本數(shù)據(jù)的回歸分析,已被廣泛用于數(shù)據(jù)分類(lèi)、預(yù)測(cè)等各個(gè)領(lǐng)域。在使用SVR進(jìn)行預(yù)測(cè)的過(guò)程中,它的不敏感損失函數(shù)參數(shù)、懲罰系數(shù)、核函數(shù)及其參數(shù)等模型參數(shù)的選擇對(duì)預(yù)測(cè)結(jié)果具有很大的影響[1]。目前常用遺傳算法、粒子群優(yōu)化算法等對(duì)SVR預(yù)測(cè)模型的參數(shù)進(jìn)行優(yōu)化,但這些優(yōu)化算法在尋優(yōu)過(guò)程中常常不同程度的陷入局部最優(yōu),難以達(dá)到理想的預(yù)測(cè)效果[2-3]。人工蜂群算法(Artificial Bee Colony,ABC)是由Karaboga于2005年提出的一種新的基于群智能的全局優(yōu)化算法。其直觀(guān)背景來(lái)源于蜂群的采蜜行為,蜜蜂根據(jù)各自的分工進(jìn)行不同的活動(dòng),并實(shí)現(xiàn)蜂群信息的共享和交流,解決了擴(kuò)展新解域與在已知解域進(jìn)行精細(xì)搜索之間的矛盾,在很大程度上避免了陷入局部最優(yōu)解問(wèn)題,從而找到問(wèn)題的最優(yōu)解[4-5]。因此,文中提出一種基于支持向量機(jī)回歸和人工蜂群優(yōu)化算法的故障預(yù)測(cè)方法,以提高故障預(yù)測(cè)的準(zhǔn)確性。
人工蜂群(ABC)算法的原理就是模擬實(shí)際蜜蜂的采蜜機(jī)制。它將人工蜂群分為觀(guān)察蜂、采蜜蜂和偵察蜂3類(lèi),整個(gè)蜂群的目標(biāo)是尋找花蜜量最大的蜜源。采蜜蜂利用先前的蜜源信息尋找新的蜜源并與觀(guān)察蜂分享蜜源信息;觀(guān)察蜂在蜂房中等待并依據(jù)采蜜蜂分享的信息尋找新的蜜源;偵查蜂的任務(wù)是尋找一個(gè)新的有價(jià)值的蜜源,它們?cè)诜浞扛浇S機(jī)地尋找蜜源。在ABC算法中,食物源(蜜源)的位置用解空間中的點(diǎn)來(lái)替代,蜜蜂采蜜(尋找食物源)的過(guò)程也就是搜尋最優(yōu)解的過(guò)程。每個(gè)蜜源的位置代表問(wèn)題的一個(gè)可行解,蜜源的花蜜量對(duì)應(yīng)于相應(yīng)的解的適應(yīng)度,尋找并采集蜜源的速度對(duì)應(yīng)問(wèn)題求解的速度[6-8]。
假設(shè)ABC算法包含個(gè)初始解,其中為食物源數(shù)目。每個(gè)解x=(x1,x2,…,x)為一個(gè)維的向量(=1,2,…,,以及為優(yōu)化參數(shù)的個(gè)數(shù))。然后,觀(guān)察蜂、采蜜蜂和偵察蜂開(kāi)始進(jìn)行循環(huán)搜索,循環(huán)次數(shù)為MCN。先由觀(guān)察蜂對(duì)相應(yīng)的食物源(可行解)進(jìn)行一次鄰域搜索,當(dāng)觀(guān)察蜂尋找到的食物源(可行解)的花蜜數(shù)量(解的適應(yīng)度)優(yōu)于之前的,這時(shí)就用新的食物源位置(可行解)替代原來(lái)的食物源位置,否則食物源位置保持不變。當(dāng)所有的觀(guān)察蜂完成搜索之后,觀(guān)察蜂跳擺尾舞與采蜜蜂共享蜜源信息。采蜜蜂依據(jù)得到的蜜源信息在一定的概率條件下選擇食物源。花蜜量越大(適應(yīng)度越優(yōu))的食物源(可行解),被選擇的概率越大。當(dāng)采蜜蜂選中食物源后,也要進(jìn)行一次鄰域搜索,然后把它搜索的結(jié)果與觀(guān)察蜂進(jìn)行比較,當(dāng)采蜜蜂的搜索解優(yōu)于觀(guān)察蜂的解時(shí),此時(shí)可行解進(jìn)行更新,即替換原觀(guān)察蜂的解,完成角色互換;反之,保留有觀(guān)察蜂的解。ABC算法求解的過(guò)程,就是通過(guò)反復(fù)搜索可行解來(lái)最終找到最優(yōu)解的過(guò)程。
觀(guān)察蜂和采蜜蜂按照式(1)進(jìn)行鄰域搜索來(lái)完成蜜源(食物源)位置的更新[9]:
采蜜蜂按照概率p對(duì)第個(gè)食物源進(jìn)行選擇,當(dāng)對(duì)函數(shù)最大值尋優(yōu)時(shí),p依據(jù)式(2)進(jìn)行確定:
此外,ABC算法中的控制參數(shù)limit,表示某個(gè)可行解被更新的次數(shù)[10]。在尋優(yōu)過(guò)程中,如果某個(gè)可行解連續(xù)經(jīng)過(guò)limit次循環(huán)之后仍然沒(méi)有被更新,此時(shí)這個(gè)解陷入了局部最優(yōu),與這個(gè)解相對(duì)應(yīng)的觀(guān)察蜂也轉(zhuǎn)變?yōu)閭刹旆?,這個(gè)食物源位置(可行解)就要被放棄。假設(shè)被放棄的解是x,則由偵查蜂通過(guò)式(4)隨機(jī)產(chǎn)生一個(gè)新的解來(lái)代替x。
根據(jù)支持向量機(jī)(Support Vector Machine,SVM)的構(gòu)造原理可知[11-13],支持向量回歸模型(SVR)就是對(duì)目標(biāo)函數(shù)求極值,可通過(guò)式(5)表示:
引入Lagrange函數(shù):
s.t
s.t
與之對(duì)應(yīng),回歸函數(shù)也做相應(yīng)變化,式(11)可表示為:
通過(guò)式(13)就可建立支持向量機(jī)的回歸模型(SVR)。
根據(jù)式(8),可建立SVR回歸預(yù)測(cè)模型:
在ABC算法中,蜂群采蜜行為對(duì)應(yīng)著預(yù)測(cè)問(wèn)題,見(jiàn)表1。食物源(蜜源)的位置對(duì)應(yīng)預(yù)測(cè)問(wèn)題的一個(gè)可行解,即預(yù)測(cè)模型中需要優(yōu)化選擇的參數(shù);食物源的花蜜量大小對(duì)應(yīng)預(yù)測(cè)模型的預(yù)測(cè)誤差大??;搜尋食物源和采蜜的速度對(duì)應(yīng)參數(shù)優(yōu)化問(wèn)題的求解速度;當(dāng)?shù)玫阶畲蠡哿繒r(shí)表示取得了最佳的預(yù)測(cè)效果,即此時(shí)預(yù)測(cè)誤差達(dá)到最小。
表1 蜂群采蜜行為與預(yù)測(cè)問(wèn)題對(duì)應(yīng)關(guān)系
ABC算法中,進(jìn)行參數(shù)優(yōu)化的依據(jù)是適應(yīng)度,其過(guò)程是根據(jù)適應(yīng)度的大小來(lái)評(píng)判食物源位置(可行解)的優(yōu)劣[16-17]。進(jìn)行參數(shù)優(yōu)化的目的是使預(yù)測(cè)模型的預(yù)測(cè)總誤差達(dá)到最小,因此,適應(yīng)度通常通過(guò)預(yù)測(cè)總誤差來(lái)表示:
基于人工蜂群優(yōu)化算法和SVR的預(yù)測(cè)方法的使用過(guò)程可分為以下幾個(gè)步驟[18-19]。
第二步,觀(guān)察蜂依據(jù)式(1)進(jìn)行領(lǐng)域搜索,當(dāng)搜索到的食物源的適應(yīng)度比前面的更優(yōu)時(shí),則用對(duì)食物源位置進(jìn)行更新,否則保持食物源位置不變。
第三步,求取所有食物源的適應(yīng)度,并按照式(3)計(jì)算發(fā)生概率,采蜜蜂依據(jù)概率大小選擇食物源(可行解),并進(jìn)行領(lǐng)域搜索,根據(jù)食物源的適應(yīng)度對(duì)食物源的位置進(jìn)行更新,并完成與觀(guān)察蜂的角色互換。
第四步,在經(jīng)過(guò)limit次循環(huán)之后,判斷是否存在局部最優(yōu)解。若存在局部最優(yōu)解,則偵察蜂根據(jù)式(4)對(duì)食物源位置進(jìn)行更新。
在進(jìn)行發(fā)動(dòng)機(jī)磨損故障預(yù)測(cè)時(shí),通常采用監(jiān)測(cè)發(fā)動(dòng)機(jī)滑油中金屬元素的含量的方式來(lái)實(shí)現(xiàn)?,F(xiàn)對(duì)某型航空發(fā)動(dòng)機(jī)滑油中金屬元素Mg的濃度進(jìn)行分析,采用光譜分析方法來(lái)實(shí)現(xiàn)。依據(jù)采樣時(shí)間的先后順序,將獲得的Mg濃度數(shù)據(jù)進(jìn)行排列,形成一個(gè)Mg濃度時(shí)間序列(94個(gè)數(shù)據(jù)點(diǎn)),如圖1所示??梢钥闯觯诘?4次取樣時(shí),Mg的濃度值發(fā)生了大幅度升高,據(jù)此可以判斷該發(fā)動(dòng)機(jī)內(nèi)部發(fā)生了異常磨損?,F(xiàn)在采用基于ABC算法優(yōu)化的SVR預(yù)測(cè)模型對(duì)該時(shí)間序列進(jìn)行分析,前60個(gè)數(shù)據(jù)作為訓(xùn)練樣本,后34個(gè)數(shù)據(jù)作為測(cè)試樣本,其預(yù)測(cè)結(jié)果如圖2所示。其中,圖2b預(yù)測(cè)殘差結(jié)果,預(yù)測(cè)殘差表示實(shí)測(cè)值減去預(yù)測(cè)值之后的數(shù)值??梢钥闯觯?0到90之間取樣時(shí),預(yù)測(cè)誤差相對(duì)較小,基于ABC算法優(yōu)化的SVR預(yù)測(cè)模型能夠很好地跟蹤正常狀態(tài)下系統(tǒng)的變化過(guò)程。在第92次取樣時(shí),預(yù)測(cè)殘差陡然增大,這說(shuō)明從第92次取樣之后發(fā)動(dòng)機(jī)內(nèi)部就進(jìn)入了磨損異常狀態(tài)。因此采用ABC算法優(yōu)化的SVR故障預(yù)測(cè)模型進(jìn)行時(shí)間序列預(yù)測(cè),能夠較好地跟蹤發(fā)動(dòng)機(jī)滑油金屬元素濃度的變化過(guò)程,并且能夠提前2個(gè)取樣時(shí)間預(yù)測(cè)異常情況的出現(xiàn)(故障的發(fā)生)。
圖1 Mg元素濃度的時(shí)間序列
圖2 測(cè)試數(shù)據(jù)的預(yù)測(cè)結(jié)果
文中利用支持向量回歸和人工蜂群算法的優(yōu)點(diǎn),提出了ABC-SVR的故障預(yù)測(cè)模型。結(jié)果表明,該方法利用人工蜂群算法能夠克服局部最優(yōu)解,解決了SVR參數(shù)選擇的難題,能夠提前較好的預(yù)測(cè)故障的發(fā)生,具有廣泛的應(yīng)用前景。
[1] FERREIRA J P, CRISOSTOMO M M, COIMBRA A P. SVR Versus Neural-fuzzy Network Controllers for the Sagittal Balance of a Biped Robot[J]. IEEE Transactions on Neural Networks, 2009, 20(12): 1885-1897.
[2] MAO Y, ZHOU X, PI D, et al. Parameters Selection in Gene Selection Using Gaussian Kernel Support Vector Machines by Genetic Algorithm[J]. Journal of Zhejiang University SCI-ENCE, 2005, 68(10): 961-973.
[3] MING GAO, XIA HONG, SHENG CHEN. A Combined SMOTE and PSO Based RBF Classifier for Two-class Imbalanced Problems[J]. Neurocomputing, 2011, 74(17): 3456-3466.
[4] ZHU G, KWONG S. Gbest-guided Artificial Bee Colony Algorithm for Numerical Function Optimization[J]. Applied Mathematics and Computation, 2010, 217(7): 3166- 3173.
[5] OMAKAR S N, SENTHILNATH J, KHANDELWAL R, et al. Artificial Bee Colony(ABC) for Multi-objective Design Optimization of Composite Structure[J]. Applied Soft Computing, 2011, 11(1): 489-499.
[6] KARABOGA D, BASTURK B. On the Performance of Artificial Bee Colony(ABC)Algorithm[J]. Applied Soft Computing, 2008, 8(1): 687-697.
[7] KARABOGA D, AKAY B. A Comparative Study of Artificial Bee Colony Algorithm[J]. Applied Mathematics and Computation, 2009, 214(1): 108-132.
[8] PAN Q K, TASGETIREN M F, SUGANTHAN P N. A Discrete Artificial Bee Colony Algorithm for the Lot- streaming Flow Shop Scheduling Problem[J]. Information Sciences, 2011(181): 2455-2468.
[9] SINGH A. An Artificial Bee Colony Algorithm for the Leaf Constrained Minimum Spanning Tree Problem[J]. Applied Soft Computing, 2008, 9(2): 625-631.
[10] KARABOGA D, BASTURK B. A Powerful and Efficient Algorithm for Numerical Function Optimization: Artificial Bee Colony(ABC)Algorithm[J]. Journal of Global Optimization, 2007, 39(3): 459-471.
[11] KARABOGA D, BASTURK B. A Comparative Study of Artificial Bee Colony Algorithm[J]. Applied Mathematics and Computation, 2009, 214(1): 108-132.
[12] LORENZI L, MERCIER G, MELGANI F. Support Vector Regression with Kernel Combination for Missing Data Reconstruction[J]. IEEE Transactions on Geosciences and Remote Sensing Letters, 2012, 10(2): 367-371.
[13] CAMPS-VALLS G, BRUZZONE L, ROIO-ALAVREZ J L, et al. Robust Support Vector Regression for Biophysical Variable Estimation from Remotely Sensed Images[J]. IEEE Geosci Remote Sens Lett, 2009, 3(3): 339-343.
[14] ELATTAR E E, GOULERMAS J, WU Q H. Electric Load Forecasting Based on Locally Weighted Support Vector Regression[J]. IEEE Transactions on Systems, Man, and Cybernetics, 2010, 40(1): 438-447.
[15] 王坤, 員曉陽(yáng), 王力. 基于改進(jìn)模糊支持向量回歸模型的機(jī)場(chǎng)能源需求預(yù)測(cè)[J]. 計(jì)算機(jī)應(yīng)用, 2016, 36(5): 1458-1463.
[16] 朱志潔, 張宏偉, 王春明. 基于人工蜂群算法優(yōu)化支持向量機(jī)的采場(chǎng)底板破壞深度預(yù)測(cè)[J]. 重慶大學(xué)學(xué)報(bào), 2015, 38(6): 37-43.
[17] 陳健飛, 蔣剛, 楊劍鋒. 改進(jìn)ABC-SVM的參數(shù)優(yōu)化及應(yīng)用[J]. 機(jī)械設(shè)計(jì)與制造, 2016(1): 24-28.
[18] 施俊, 高正夏, 徐嵚崳. 基于ABC-SVM的軟基沉降預(yù)測(cè)研究[J]. 河南科學(xué), 2016, 34(5): 741-745.
[19] 高相銘, 楊世鳳, 潘三博. 基于EMD和ABC-SVM的光伏并網(wǎng)系統(tǒng)輸出功率預(yù)測(cè)研究[J]. 電力系統(tǒng)保護(hù)與控制, 2015, 43(11): 86-92.
Wear Fault Prediction Model Based on SVR Optimized by ABC
LIU Jian-xin, YANG Qing-ling
(1.Yantai Engineering & Technology College, Yantai 264001, China; 2.Yantai Vocational College, Yantai 264001, China)
To improve the prediction accuracy of wear faults, a wear fault prediction model (ABC-SVR), which was based on support vector machine for regression (SVR) optimized by artificial bee colony(ABC) algorithm was proposed.The model reconstructed the time series of wear faults and took the wear fault prediction accuracy as the optimization objective to find out the optimal SVR parameters by ABC algorithm and build prediction model of wear faults. Finally, the simulative contrasting experiment was applied to test the performance of the model.Time series prediction with SVR forecasting model optimized by ABC algorithm could track the concentration change process of metallic element in engine lubricating oil and predict the presence of the abnormal situation ahead of 2 sampling time.ABC-SVR solves the problem of SVR parameter optimization, can describe the complicated change rules of wear faults accurately, and improves the accuracy of wear faults prediction.
wear faults; artificial bee colony optimization algorithm; support vector machine for regression; prediction model
10.7643/ issn.1672-9242.2017.11.020
TJ01
A
1672-9242(2017)11-0098-05
2017-07-04;
2017-08-09
劉建新(1967—),山東煙臺(tái)人,碩士,副教授,主要研究方向?yàn)闄C(jī)械設(shè)計(jì)與制造。