全局靈敏度分析的支持向量機(jī)方法

張航，李洪雙

(南京航空航天大學(xué) 飛行器先進(jìn)設(shè)計(jì)技術(shù)國防重點(diǎn)學(xué)科實(shí)驗(yàn)室，南京 210016)

0 引 言

結(jié)構(gòu)系統(tǒng)不確定性分析問題主要包括兩個(gè)方面：結(jié)構(gòu)輸出性能的可靠性分析(Reliability Analysis)和輸入隨機(jī)參數(shù)的靈敏度分析(Sensitivity Analysis)。其中，靈敏度分析主要是指分析各輸入變量的不確定性對(duì)結(jié)構(gòu)系統(tǒng)性能響應(yīng)量的影響[1]。靈敏度分析通常分為局部靈敏度分析[2]和全局靈敏度分析[3]。局部靈敏度分析定義為輸入變量取名義值時(shí)功能函數(shù)對(duì)該變量的偏導(dǎo)數(shù)[2]，其不能反映輸入變量的整個(gè)不確定性范圍對(duì)輸出響應(yīng)不確定性的影響；全局靈敏度分析則可以從輸入變量的整個(gè)定義范圍來衡量該變量對(duì)輸出不確定性的貢獻(xiàn)程度，在工程實(shí)際問題上應(yīng)用更為廣泛。

在眾多全局靈敏度研究中，最典型的兩類方法：一是以A.Saltelli[3]和I.M.Sobol[4]為代表的基于方差的靈敏度分析方法；二是以E.Borgonovo[5]和M.H.Chun等[6]為代表的矩獨(dú)立靈敏度分析方法。在結(jié)構(gòu)可靠性分析中，通常采用失效概率來評(píng)估其可靠性，而在結(jié)構(gòu)可靠性設(shè)計(jì)中，則更關(guān)心輸入變量對(duì)結(jié)構(gòu)可靠度或失效概率的影響程度的大小。因此，如果能在得到失效概率的同時(shí)得到輸入變量對(duì)失效概率的靈敏度排序是研究人員所期望的。Li L等[7]提出了基于失效概率的全局靈敏度分析方法，并推導(dǎo)了其與基于方差的靈敏度指標(biāo)之間的關(guān)系，為可靠性評(píng)估與全局靈敏度分析建立了重要聯(lián)系。

目前，基于失效概率的全局靈敏度分析的求解方法主要有兩種——數(shù)值模擬方法[7]和代理模型方法[8]。Wei P等[9]給出了三種計(jì)算基于失效概率的全局重要度的數(shù)值模擬法，包括直接蒙特卡羅法、重要抽樣法(Importance Sampling，簡(jiǎn)稱IS)和截?cái)嘀匾闃臃?Truncated Importance Sampling，簡(jiǎn)稱TIS)。對(duì)于航空航天等領(lǐng)域中大型的、復(fù)雜的、隱式的結(jié)構(gòu)靈敏度問題，直接蒙特卡洛方法其輸出響應(yīng)通常需要采用有限元軟件得到，計(jì)算量大且計(jì)算效率較低。重要抽樣法和截?cái)嘀匾闃臃?，雖然計(jì)算效率較高，但是設(shè)計(jì)點(diǎn)個(gè)數(shù)及其位置的求解困難，致使重要抽樣函數(shù)難以確定[10]，同時(shí)還需要大量的樣本量進(jìn)行計(jì)算。代理模型方法僅需少量樣本構(gòu)建近似模型來描述輸入輸出關(guān)系，之后基于代理模型，直接計(jì)算靈敏度指標(biāo)，該方法可有效避免數(shù)值模擬方法需要調(diào)用大量有限元計(jì)算的問題，極大地提高了計(jì)算效率，且其計(jì)算精度僅依賴于代理模型本身的近似精度。在結(jié)構(gòu)可靠性設(shè)計(jì)與靈敏度分析領(lǐng)域，常用的代理模型方法有響應(yīng)面法[11]、Kriging模型[12]和支持向量機(jī)[13]等，其中支持向量機(jī)因其具有較強(qiáng)的小樣本學(xué)習(xí)能力和泛化能力，已被廣泛應(yīng)用于工程結(jié)構(gòu)設(shè)計(jì)和分析中。

目前，雖然對(duì)支持向量機(jī)理論的相關(guān)研究較多，但將其作為代理模型應(yīng)用于結(jié)構(gòu)靈敏度分析的研究卻比較少。因此，本文通過基于支持向量機(jī)代理模型的方法對(duì)結(jié)構(gòu)進(jìn)行靈敏度分析，并對(duì)所建立的方法進(jìn)行計(jì)算精度和效率方面的驗(yàn)證，以期為失效概率全局靈敏度分析提供一種新的可選方法。

1 基于失效概率的全局靈敏度指標(biāo)

(1)

式(1)中靈敏度指標(biāo)涉及到的兩個(gè)失效概率PfY和PfY|xi，可通過數(shù)值模擬方法求解。

PfY可改寫為

=E(IF)

(2)

式中：Rn為n維變量空間；IF為指示函數(shù)，當(dāng)g(x)≤0，其值為1，反之，其值為0。

同理，PfY|xi可改寫為

PfY|xi=E(IF|xi)

(3)

將式(2)～式(3)代入式(1)，可得

=Var[E(IF|xi)]

(4)

結(jié)合全方差公式和式(2)，可以定義基于失效概率的矩獨(dú)立靈敏度指標(biāo)為

(5)

式中：Si為主效應(yīng)。

(6)

式中：x～i為輸入變量x中除去xi的其他分量的集合。

2 基于支持向量機(jī)的全局靈敏度分析

2.1 支持向量機(jī)方法

支持向量機(jī)方法(Support Vector Machine，簡(jiǎn)稱SVM)是基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則，并建立在統(tǒng)計(jì)學(xué)習(xí)理論的VC維理論的一種機(jī)器學(xué)習(xí)方法。其基本思想為： 對(duì)于線性不可分的樣本，通過非線性映射φ(·)可以隱式地將歐式空間Rn中的訓(xùn)練數(shù)據(jù)x映射到高維特征空間Z，從而在高維特征空間上線性可分，如式(7)所示。

Rn→Z,x→φ(x)

(7)

輸入向量與輸出響應(yīng)可表示為

(8)

式中：N為訓(xùn)練樣本數(shù)；wi和b為SVM控制參數(shù)；φi(x)為映射所需的函數(shù)。

對(duì)于任意樣本點(diǎn)x，SVM決策函數(shù)可以用該點(diǎn)與訓(xùn)練樣本之間的映射函數(shù)內(nèi)積<φ(xi)·φ(x)>表示

(9)

SVM控制參數(shù)根據(jù)結(jié)構(gòu)風(fēng)險(xiǎn)最小化來確定，通過引入拉格朗日乘子，構(gòu)造與原始問題對(duì)偶的非線性規(guī)劃問題并求解得到。

當(dāng)非線性映射φ(x)滿足Mercer條件時(shí)，可用核函數(shù)K(xi,x)代替該內(nèi)積運(yùn)算，常用核函數(shù)為徑向基核函數(shù)K(xi,xj)=exp(-‖xi-xj‖2/δ2)，δ為徑向基寬度。

因此，式(9)可表示為

(10)

2.2 支持向量機(jī)近似模型的構(gòu)建

綜上可知，SVM模型可近似為輸入變量x=(x1,x2,…,xn)與輸出響應(yīng)Y的關(guān)系，其表達(dá)式為

(11)

式中：e為誤差。

(12)

訓(xùn)練樣本的選取對(duì)支持向量機(jī)近似模型的精度具有重要影響。對(duì)于結(jié)構(gòu)靈敏度問題而言，各隨機(jī)變量通常服從某一種概率分布。逆變換法是目前應(yīng)用最為廣泛的隨機(jī)變量產(chǎn)生方法。令隨機(jī)變量xi的累積分布函數(shù)為FX(xi)，根據(jù)定義，F(xiàn)X(xi)∈[0,1]，令ui為區(qū)間[0,1]上均勻分布的隨機(jī)數(shù)，則由逆分布函數(shù)F-1(ui)求得隨機(jī)變量xi為

xi=F-1(ui)

(13)

直接MCS方法根據(jù)隨機(jī)變量的概率分布進(jìn)行抽樣，可能多次抽樣都不出現(xiàn)失效點(diǎn)，而不包含失效點(diǎn)的SVM訓(xùn)練樣本集不能全面獲取極限狀態(tài)函數(shù)的信息，難以保證近似精度。因此采用拉丁超立方抽樣方法在d維[0,1]區(qū)間得到樣本點(diǎn)后，不采用逆變化方法得到xi，而是將其映射到區(qū)間[μi-mσi,μi+mσi]中，以獲得更多的失效樣本點(diǎn)，從而構(gòu)建更高精度的代理模型。其中μi和σi分別為隨機(jī)變量xi的均值和標(biāo)準(zhǔn)差。m值的大小應(yīng)保證樣本中包含一定數(shù)量的失效樣本點(diǎn)。

為了避免不同量綱的輸入變量對(duì)SVM訓(xùn)練結(jié)果的影響，有必要對(duì)樣本點(diǎn)進(jìn)行數(shù)據(jù)預(yù)處理，歸一化公式為

(14)

2.3 全局靈敏度指標(biāo)的求解

采用支持向量機(jī)方法代替MCS方法求解全局靈敏度的步驟如下：

(1) 根據(jù)輸入變量的概率密度函數(shù)fX(x)生成兩組樣本——N×n的隨機(jī)樣本矩陣A和B。其中，N為樣本數(shù)目，數(shù)量為幾百到幾千不等；n為輸入變量的維數(shù)。這兩組樣本可通過簡(jiǎn)單隨機(jī)抽樣、拉丁方抽樣、Sobol序列抽樣[15]得到，一般多采用Sobol序列抽樣。矩陣陣A和B可表示為

(15)

(16)

(2) 得到另一組N×n的樣本矩陣Ci(i=1,2,…,n)，其中Ci的第i列來自于矩陣A，其余的n-1列來自于矩陣B。

(17)

(18)

(19)

(20)

(21)

(22)

(23)

(24)

(25)

(26)

(27)

(28)

(29)

(30)

3 算例分析

為了驗(yàn)證本文所提出的方法的性能，對(duì)兩個(gè)數(shù)值算例和一個(gè)工程算例進(jìn)行分析。將蒙特卡洛法的結(jié)果作為精確解，通過對(duì)比失效概率和靈敏度指標(biāo)的計(jì)算結(jié)果，以及所使用的樣本量來衡量方法的計(jì)算精度和計(jì)算效率。

3.1 算例1

考慮一個(gè)結(jié)構(gòu)系統(tǒng)，其極限狀態(tài)函數(shù)為：

(31)

式中：x1,x2和x3均服從標(biāo)準(zhǔn)正態(tài)分布。

使用直接蒙特卡洛法，全局靈敏度排序?yàn)椋簒3>x2>x1。將此結(jié)果作為參照解。

分別采用直接蒙特卡洛方法(MCS)、交叉熵方法[16](Cross Entropy Method，簡(jiǎn)稱CE)、支持向機(jī)結(jié)合蒙特卡洛方法(SVM-MCS)計(jì)算輸入變量的靈敏度指標(biāo)。SVM訓(xùn)練樣本點(diǎn)為200，映射參數(shù)m取4，SVM控制參數(shù)采用交叉驗(yàn)證方法獲得?；?00次獨(dú)立運(yùn)算得到靈敏度指標(biāo)及失效概率的均值如表1所示。靈敏度主指標(biāo)計(jì)算結(jié)果的箱線圖如圖1所示。

表1 算例1計(jì)算結(jié)果對(duì)比

圖1 算例1主靈敏度指標(biāo)箱線圖

從表1可以看出：本文所提方法與參照解吻合較好，比CE方法更接近參照解，證明了所提方法的有效性；而且本文所提方法調(diào)用極限狀態(tài)函數(shù)的次數(shù)也遠(yuǎn)少于MCS方法和CE方法，表明SVM-MCS方法的計(jì)算效率更高。

從圖1可以看出：CE方法的數(shù)據(jù)方差更大，同時(shí)有較多的異常數(shù)據(jù)點(diǎn)，而MCS和SVM-MCS方法明顯方差更小，且非常接近，表明所提方法的魯棒性較高。

綜上所述，輸入隨機(jī)變量的靈敏度排序?yàn)閤3>x2>x1，因此，若能減少輸入變量x3的不確定性，便可有效降低結(jié)構(gòu)系統(tǒng)的失效概率。

3.2 算例2

考慮一個(gè)包含三角函數(shù)的Ishigami函數(shù)[17]，其表達(dá)式為

(32)

式中：x1,x2和x3相互獨(dú)立且都服從(-π,π)的均勻分布，令a=5,b=0.1。

同樣采樣三種不同的方法計(jì)算靈敏度指標(biāo)，分別獨(dú)立計(jì)算100次。SVM訓(xùn)練樣本點(diǎn)為300，映射參數(shù)m取4，SVM控制參數(shù)采用交叉驗(yàn)證方法獲得，計(jì)算結(jié)果如表2所示(表2計(jì)算結(jié)果是基于100次獨(dú)立運(yùn)算得到靈敏度指標(biāo)及失效概率的均值)。靈敏度主指標(biāo)計(jì)算結(jié)果的箱線圖如圖2所示。

表2 算例2計(jì)算結(jié)果對(duì)比

圖2 算例2主靈敏度指標(biāo)箱線圖

從表2可以看出：本文方法計(jì)算結(jié)果、計(jì)算誤差與參照解更為接近，而CE方法計(jì)算結(jié)果雖然也較為接近，但其計(jì)算誤差較大。

從圖2可以看出：本文方法的方差較小，具有較高的穩(wěn)定性。

綜上所述，輸入隨機(jī)變量的靈敏度排序?yàn)閤2>x1>x3，因此，若能減少變量x2的不確定性，便可有效降低極限狀態(tài)函數(shù)的失效概率。

3.3 算例3

考慮如圖3所示的九盒段機(jī)翼結(jié)構(gòu)[16]，該結(jié)構(gòu)由64個(gè)桿單元與42個(gè)板單元構(gòu)成，材料為鋁合金，已知外載荷P與各個(gè)單元的強(qiáng)度Ri均為正態(tài)隨機(jī)變量，分布如表3所示。原始數(shù)據(jù)取自文獻(xiàn)[18]。通過失效模式的枚舉方法可以得到該結(jié)構(gòu)的典型失效模式，對(duì)應(yīng)的極限狀態(tài)函數(shù)為如(式(33))所示。

圖3 翼盒示意圖

變量分布類型均值/kg變異系數(shù)R68Normal83.50.12R77Normal83.50.12R78Normal83.50.12RNormal1500.25

g(R68,R77,R78,P)= 4.0R68-3.999 8R77+

4.0R78-P

(33)

采用三種不同的方法計(jì)算得到的靈敏度指標(biāo)結(jié)果如表4所示(靈敏度指標(biāo)計(jì)算結(jié)果均值)。所有計(jì)算結(jié)果基于獨(dú)立計(jì)算100次所得到。SVM訓(xùn)練樣本點(diǎn)為400，映射參數(shù) 取3.5，SVM控制參數(shù)采用交叉驗(yàn)證方法獲得。靈敏度主指標(biāo)計(jì)算結(jié)果的箱線圖如圖4所示。

表4 算例3計(jì)算結(jié)果對(duì)比

圖4 算例3主靈敏度指標(biāo)箱線圖

以 MCS 法的計(jì)算結(jié)果作為參照解， 從表4可以看出：三種方法的結(jié)果吻合很好。 無論是靈敏度排序還是失效概率結(jié)果，本文所提方法與MCS 法均一致。從圖4可以看出：本文方法的方差較CE方法小，與MCS方法方差接近。但本文所提方法需要調(diào)用的極限狀態(tài)函數(shù)僅需400次，相當(dāng)于CE方法1/65的計(jì)算量，MCS方法的1/37 500。因此本文所提方法的計(jì)算效率更高。避免了在工程實(shí)際問題中，調(diào)用大量的、昂貴的有限元計(jì)算。

4 結(jié) 論

針對(duì)基于失效概率的全局靈敏度分析，提出基于支持向量機(jī)和蒙特卡洛方法相結(jié)合的組合算法。支持向量機(jī)方法在小樣本下具有較好的泛化能力，能較好的擬合輸入變量與輸出響應(yīng)之間的關(guān)系，適用于非線性和隱式極限狀態(tài)函數(shù)的靈敏度問題。同時(shí)使用均勻映射的方法可以使得更多的樣本點(diǎn)落入失效域，提高抽樣效率。

通過支持向量機(jī)方法與蒙特卡洛方法相結(jié)合的組合算法，建立對(duì)基于失效概率的全局靈敏度分析框架，可以同時(shí)得到失效概率與靈敏度排序，且訓(xùn)練樣本少，計(jì)算時(shí)間短，能夠有效的提高計(jì)算效率。通過三個(gè)算例，驗(yàn)證了所提方法的計(jì)算效率和精度，為工程全局可靠性靈敏度分析提供了新工具。

[1] Saltelli A. Global sensitivity analysis: the primer[M]. John Wiley, 2008,304.

[2] 呂震宙. 結(jié)構(gòu)機(jī)構(gòu)可靠性及可靠性靈敏度分析[M]. 北京: 科學(xué)出版社, 2009.

Lü Zhenzhou. Reliability and reliability sensitivity analysis of structural mechanism[M]. Beijing: Science Press, 2009.(in Chinese)

[3] Saltelli A. Sensitivity analysis for importance assessment[J]. Risk Analysis, 2002, 22(3): 579-590.

[4] Sobol I M. Sensitivity estimates for nonlinear mathematical models[J]. Matem Mod, 1993, 2(1): 112-118.

[5] Borgonovo E. A new uncertainty importance measure[J]. Reliability Engineering & System Safety, 2007, 92(6): 771-784.

[6] Chun M H, Han S J, Tak N I. An uncertainty importance measure using a distance metric for the change in a cumulative distribution function[J]. Reliability Engineering & System Safety, 2000, 70(3): 313-321.

[7] Li L, Lu Z, Feng J, et al. Moment-independent importance measure of basic variable and its state dependent parameter solution[J]. Structural Safety, 2012, 38(38): 40-47.

[8] Borgonovo E, Castaings W, Tarantola S. Model emulation and moment-independent sensitivity analysis: an application toenvironmental modelling[J]. Environmental Modelling & Software, 2012, 34(8): 105-115.

[9] Wei P, Lu Z, Hao W, et al. Efficient sampling methods for global reliability sensitivity analysis[J]. Computer Physics Communications, 2012, 183(8): 1728-1743.

[10] 任超, 李洪雙. 基于失效概率的全局重要性測(cè)度分析的交叉熵方法[J]. 西北工業(yè)大學(xué)學(xué)報(bào), 2017, 35(3): 536-544.

Ren Chao, Li Hongshuang. Cross-entropy method for failure probability based global importance measure analysis[J]. Journal of Northwestern Polytechnical University, 2017, 35(3): 536-544.(in Chinese)

[11] 閆明, 孫志禮, 楊強(qiáng). 基于響應(yīng)面方法的可靠性靈敏度分析方法[J]. 機(jī)械工程學(xué)報(bào), 2007, 43(10): 67-71.

Yan Ming, Sun Zhili, Yang Qiang. Analysis method of reliability sensitivity based on response surface methods[J]. Chinese Journal of Mechanical Engineering, 2007, 43(10): 67-71.(in Chinese)

[12] Lee I, Choi K K, Zhao L. Sampling-based RBDO using the stochastic sensitivity analysis and dynamic kriging method[J]. Structural & Multidisciplinary Optimization, 2011, 44(3): 299-317.

[13] 馬超, 呂震宙. 基于支持向量機(jī)回歸的結(jié)構(gòu)系統(tǒng)可靠性及靈敏度分析方法[J]. 固體力學(xué)學(xué)報(bào), 2007, 28(4): 415-419.

Ma Chao, Lü Zhenzhou. Reliability and sensitivity analysis method of structural system based on support vector machine regression[J]. Journal of Solid Mechanics, 2007, 28(4): 415-419.(in Chinese)

[14] Cui L J. Moment-independent importance measure of basic random variable and its probability density evolution solution[J]. Chinese Science: Technical Science, 2010, 53(4): 1138-1145.

[15] Sobol I M. Uniformly distributed sequences with an additional uniform property[J]. Ussr Computational Mathematics & Mathematical Physics, 1976, 16(5): 1332-1337.

[16] 呂震宙. 不確定性結(jié)構(gòu)系統(tǒng)的重要性分析理論與求解方法[M]. 北京: 科學(xué)出版社, 2015.

Lü Zhenzhou. The importance analysis theory and solution method of uncertain structural system[M]. Beijing: Science Press, 2015.(in Chinese)

[17] Steiner G, Zangl H, Watzenig D. Generic statistical circuit design based on the unscented transformation and its application to capacitive sensor instrumentation[C]. IEEE International Conference on Industrial Technology, 2005.

[18] 宋筆鋒. 結(jié)構(gòu)體系失效概率計(jì)算方法研究[D]. 西安: 西北工業(yè)大學(xué), 1994.

Song Bifeng. Study on failure probability calculation method of structural system[D]. Xi’an: Northwestern Polytechnical University,1994.(in Chinese)