基于K－L特征提取與支持向量機的油浸式變壓器故障診斷模型研究

方 飚

(四川省電力工業(yè)調(diào)整試驗所，四川成都 610072)

變壓器是電力系統(tǒng)中的重要設(shè)備，其運行狀態(tài)直接影響到系統(tǒng)的安全性。油中溶解氣體分析(dissolved gas analysis，DGA)是目前診斷充油電氣設(shè)備故障的重要手段，已作為變壓器內(nèi)部潛伏性故障的主要試驗項目列于DL/T 596－1996變壓器試驗項目的首位［1］。DGA往往能夠較準確、可靠地發(fā)現(xiàn)逐步發(fā)展的潛伏性故障，防止由此引起重大事故。近年來的研究已將各種人工智能技術(shù)如神經(jīng)網(wǎng)絡(luò)、粗糙集、聚類算法、支持向量機等引入到變壓器的故障診斷當中。

支持向量機算法［2－5］是在統(tǒng)計學(xué)理論基礎(chǔ)上發(fā)展起來的一種新的模式識別方法。它是由Vapnik等人于1995年提出的從統(tǒng)計學(xué)習(xí)理論發(fā)展出的一種模式識別方法，是目前較為流行的適用于小樣本訓(xùn)練的大邊緣分類器。

K－L變換是經(jīng)典的傳統(tǒng)方法，適用于任何概率分布，它能保留原樣本中方差最大的數(shù)據(jù)分量，所以K－L變換起了減小相關(guān)性、突出差異性的效果，因此是在均方誤差最小的意義下獲得數(shù)據(jù)降維的最佳變換。

這里針對變壓器的5種運行模式(4種故障模式與1種正常運行模式)提出了建立基于支持向量機與K－L特征提取技術(shù)的變壓器故障診斷模型。該模型的基本思想是在訓(xùn)練數(shù)據(jù)預(yù)選取階段采用基于Mercer核函數(shù)的歐式距離的查詢策略選取最能代表各類的樣本數(shù)據(jù)，從而能夠更加準確地構(gòu)造SVM分類器，減少訓(xùn)練樣本數(shù)和縮短訓(xùn)練時間。同時利用K－L變換的特征提取技術(shù)在系統(tǒng)分類精度不降低的情況下將樣本數(shù)據(jù)由六維降到三維，提取了樣本數(shù)據(jù)集的特征值，同時通過三維圖表示了降為三維的樣本數(shù)據(jù)，從而為進一步提高分類正確率奠定了基礎(chǔ)。

1 支持向量機分類原理

1.1 線性情況

當訓(xùn)練樣本集線性可分時，分類超平面的描述為

式(1)中，向量ω為分類超平面的權(quán)系數(shù);b是分類閾值。最優(yōu)分類超平面可通過解下面的凸二次優(yōu)化問題獲得。

通過求解，得到最優(yōu)分類超平面的分類判別函數(shù)為

其中，αi為拉氏乘子，拉氏乘子不為0的解向量為支持向量。

1.2 非線性情況

對于非線性問題，SVMs通過選擇適當?shù)姆蔷€性變換，將輸入空間X中的訓(xùn)練樣本映射到某個高維特征空間F，使得在目標高維空間中這些樣本線性可分。根據(jù)泛函的有關(guān)理論，若核函數(shù)K(x，xi)滿足Mercer條件，則對應(yīng)某一變換空間中的內(nèi)積〈φ(xi)·φ(x)〉，函數(shù)φ∶x→F是一個從非線性輸入空間X到高維特征空間F的映射，所以求映射φ∶x→F只要知道如何由輸入x、xi計算內(nèi)積〈φ(xi)·φ(x)〉即可，由

將式(4)重寫，即可得到對應(yīng)高維空間的分類函數(shù)為

2 核距離與K－L變換

根據(jù)SVM分類原理，經(jīng)向量化處理的變壓器DGA數(shù)據(jù)可直接作為訓(xùn)練樣本數(shù)據(jù)，但此方法使得SVM訓(xùn)練算法速度比較慢，這是因為訓(xùn)練樣本的數(shù)量決定了二次規(guī)劃問題目標函數(shù)中矩陣的維數(shù)，使得求解規(guī)劃問題的速度與維數(shù)呈指數(shù)增長。為了提高訓(xùn)練速度，減少學(xué)習(xí)樣本數(shù)，縮短訓(xùn)練時間，則采取主動選擇對于確立分類器最重要的新樣本進行訓(xùn)練，來進一步設(shè)計新的分類器，從而使得可以用盡可能少的標注樣本數(shù)來實現(xiàn)較高的分類精度。

支持向量機學(xué)習(xí)算法包括兩個獨立的部分＜c，f＞，c是一個SVM多類分類器，f是一個查詢函數(shù)，決定應(yīng)從候選集中選擇哪些樣本進行訓(xùn)練。由于檢測變壓器運行模式是一個多分類的模式識別問題，因此在這里SVM分類器采用的是1－a－r方法。這里通過引λ類質(zhì)心和基于Mercer核函數(shù)的歐式距離等概念來定義查詢函數(shù)f。其查詢策略是通過調(diào)節(jié)基于Mercer核函數(shù)歐式距離的選擇范圍來選擇最能代表各類的樣本數(shù)據(jù)。這種策略最大程度地縮減了訓(xùn)練樣本數(shù)據(jù)，降低了算法的運算量。

2.1 基于Mercer核函數(shù)的歐式距離

Mercer核函數(shù)的原理是將輸入樣本數(shù)據(jù)空間非線性映射到新的特征空間。

蘆曉飛表示，有機農(nóng)業(yè)替代化學(xué)農(nóng)業(yè)成為當前農(nóng)業(yè)轉(zhuǎn)型升級的主要出路，利用土壤微生物技術(shù)是當前撬動我國農(nóng)業(yè)可持續(xù)發(fā)展、提高農(nóng)產(chǎn)品質(zhì)量的有力杠桿。奧特奇具備技術(shù)優(yōu)勢主要體現(xiàn)在以下三個方面：一是獨一無二的酶制劑保障土壤健康；二是領(lǐng)先的有機礦物元素技術(shù)為植物提供充足的營養(yǎng)；三是獨特的微生物提取物和植物抗誘劑技術(shù)促進農(nóng)作物健康生長，重建土壤健康生態(tài)。

樣本數(shù)據(jù)空間中的歐式距離在新的特征空間H里可以表示為

根據(jù)Mercer核映射φ的性質(zhì)，輸入空間的點積在新的特征空間H中可以用Mercer核函數(shù)來表示，即

由式(7)和式(8)可以表示為

2.2 基于K－L變換的特征提取

K－L特征提取［6］是通過映射(或變換)的方法把高維特征向量變換為低維特征向量。通過特征提取獲得的特征是原始特征集的某種組合，即A∶Y→X，可見，新的特征中包含了原有全體特征的信息。特征提取的關(guān)鍵問題是求出最佳變換矩陣，使得變換后的m維模式空間中，類別可分性準則值最大。

設(shè)x為n維隨機向量，x可以用n個正交基向量的加權(quán)和來表示為

式中，αi為加權(quán)系數(shù);φi為正交基向量，滿足

從n個特征向量中取出m個組成變換矩陣A，即 A=(φ1，φ2，…，φm)(m ＜ n)，這時，A 是一個 n ×m維矩陣，x為n維向量，經(jīng)過ATx變換，得到降維為m的新向量。通過選取m個特征向量構(gòu)成變換矩陣A，使降維的新向量在最小均方誤差準則下接近原來的向量x。

對于式(12)現(xiàn)在只取m項，對略去的項用預(yù)先選定的常數(shù)bj來代替，這時對x的估計值為

由此產(chǎn)生的誤差為

均方誤差為

式中，λj是x的自相關(guān)矩陣R的第j個特征值;φj是與λj對應(yīng)的特征向量。顯然所選的λj值越小，均方誤差也越小。

綜上所述，基于K－L變換的特征提取的步驟如下［6］:(1)平移坐標系，將模式總體的均值向量作為新坐標系的原點;(2)求出自相關(guān)矩陣R;(3)求出R的特征值λ1，λ2，…λn及其對應(yīng)的特征向量φ1，φ2，…，φn;(4)將特征值從大到小排序，如 λ1≥λ2≥…≥λm≥…≥λn，取前m個大的特征值所對應(yīng)的特征向量構(gòu)成變換矩陣 A=(φ1，φ2，…，φm);(5)將n維的原向量變換成m維的新向量y=ATx。

利用K－L變換方法完成了對輸入樣本的特征值提取，降低了輸入樣本維數(shù)，使SVM能夠快速分類。

3 故障診斷流程

(3)對得到的每類基于核函數(shù)的歐拉距離按一定序列排序。如低溫過熱故障所得的基于核函數(shù)的歐拉距離采用降序排列;而高溫過熱故障所得的基于核函數(shù)的歐拉距離采用升序排列。

(5)得到的5類數(shù)據(jù)集即可作為訓(xùn)練集。

(6)通過K－L變換對所選取的訓(xùn)練集進行特征提取，將其降為三維以降低運算量。

(7)將測試數(shù)據(jù)代入訓(xùn)練好的分類器中進行試驗，如果測試誤差較大，返回步驟(3)。

(8)達到精度即可作為故障分類器。

4 變壓器故障診斷及分析

通過所提學(xué)習(xí)方法選取29例正常模式、12例低能放電模式、8例低溫過熱模式、9例高溫過熱模式和20例高能放電模式訓(xùn)練樣本組成訓(xùn)練集。同時與通過傳統(tǒng)學(xué)習(xí)方法隨機選擇等量的樣本數(shù)據(jù)作為訓(xùn)練集進行比較，測試數(shù)據(jù)如表1所示。

圖1是訓(xùn)練集的相對位置關(guān)系圖。圖中實線表示正常運行模式，虛線表示高能放電模式，星號表示低能放電模式，加號表示高溫過熱模式，棱形表示低溫過熱模式。從圖中可知，所得的訓(xùn)練集的三維圖正確地反映了油浸式變壓器實際的運行模式。高能放電模式樣本數(shù)據(jù)與低能放電模式樣本數(shù)據(jù)位置緊密但較易區(qū)分;而高溫過熱模式樣本數(shù)據(jù)與低溫過熱模式樣本數(shù)據(jù)混淆嚴重，由此推斷，這兩種故障模式較難區(qū)分。表1顯示了兩種方法訓(xùn)練的分類器對測試數(shù)據(jù)正確診斷率的仿真結(jié)果。同時為檢驗參數(shù)尋優(yōu)對分類結(jié)果的影響，對基于經(jīng)驗選取參數(shù)(p1=0.1，C=100)的多類SVM模型與基于最優(yōu)參數(shù)的多類SVM模型的分類結(jié)果進行了對比。

表1 兩種方法診斷的結(jié)果對比

圖1 訓(xùn)練集三維圖

從表1對測試樣本的檢測率可知，通過所提方法獲得的訓(xùn)練集構(gòu)造的分類器比傳統(tǒng)方法構(gòu)造的分類器更精確。因此故障診斷正確率更高。同時可知通過尋優(yōu)所得的基于最優(yōu)參數(shù)的故障診斷模型比基于經(jīng)驗的參數(shù)模型具有更高的檢測正確率。

通過對變壓器油中氣體容量(×10－6)的現(xiàn)場測試，具體值為:φ(H2)=127，φ(CH4)=107，φ(C2H2)=244，φ(C2H4)=154，φ(C2H6)=11，φ(CO)=174.通過所提方法建立的診斷模型，診斷結(jié)果為高能放電。通過實際的檢測，故障是由于次級線圈放電從而造成整個線圈的損壞。

5 結(jié)論

提出了將支持向量機學(xué)習(xí)算法與基于K－L特征提取技術(shù)應(yīng)用于變壓器故障診斷模型的新算法。通過主動選擇各類數(shù)據(jù)集中能正確代表各類相對關(guān)系的樣本數(shù)據(jù)來訓(xùn)練分類器，因此提出的主動學(xué)習(xí)方法能夠在縮減訓(xùn)練樣本和計算量的情況下仍能達到傳統(tǒng)方法的檢測精度。同時引入了基于K－L變換的特征提取技術(shù)，使能夠?qū)崿F(xiàn)樣本數(shù)據(jù)從六維降到三維，并通過Matlab作圖將其顯示在三維圖中。實驗表明，采用所提方法相對于傳統(tǒng)方法具有更高的故障診斷率。在仿真實驗中，分類的準確度與核函數(shù)類型的選擇和相應(yīng)參數(shù)的選取密切相關(guān)，因此下一步工作是從SVM的分類機理出發(fā)對模型的參數(shù)選擇與精確度的提高可以展開進一步的研究。

［1］DL/T 596－1996，電力設(shè)備預(yù)防性試驗規(guī)程［S］.

［2］Warmuth M K，Liao J，Ratsch G et a1.Active Learning with Support Vector Machines in the Drug Discovery Process［J］.Journal of Chemical Information and Computer Sciences，2003，43(2):667 －673.

［3］Hsu C W，Chang C C，Lin C J.A Practical Guide to Support Vector Classification［Z］.2003 － 07.http://www.csie.ntu.edu.tw/cjlin/papers/guide/guide.pdf.

［4］Wang Liguo，Zhang Ye，GU Yanfeng.The Research of Simplification of Support of Structure of Multi－class Classifier Vector Machine［J］.Journal of Image and Graphics，2005，10(5):572 －574.

［5］Cortes C，Vapnik V.Support Vector Networks［J］.Machine Learning，1995，20(1):273－297.

［6］肖建華.智能模式識別方法［M］.廣州:華南理工大學(xué)出版社，2006.

［7］Wilson D R，Tony R M.Improved Heterogeneous Distance Functions［J］.Journal of Artificial Intelligence Research，1997，6(1):1－34.

［8］段丹青，陳松喬，楊衛(wèi)平.基于SVM主動學(xué)習(xí)的入侵檢測系統(tǒng)［J］.計算機工程，2007，33(1):153－155.

［9］Vapnik V.An Overview of Statistical Learning Theory［J］.IEEE Transactions on Neural Networks，1999，10(5):988－999.

［10］Cui Jiang，Wang You－ren.Analog Circuit Faults Diagnosis Based on Clustering Preprocess and SVM［J］.Computer Applications，2006，26(8):1977 －1979.