基于LS-SVM的第一類積分方程的近似解法

曹秀梅，朱明月，吳自庫

(青島農(nóng)業(yè)大學理學與信息科學學院，山東青島 266109)

很多力學、工程等學科中的問題都可以歸結(jié)為積分方程，例如電磁問題[1]、位勢問題[2]。近年來，無論在理論上[3]，還是在數(shù)值解法上[4]，對積分方程的研究都取得了豐碩的成果。就數(shù)值解而言，一些新方法被不斷推出，如Hermite配置方法[5]、互補解法[6]、譜正則化方法[7]等。但由于積分方程本身的復雜性，特別是第一類積分方程的突出特性——不適定性[8-9]，導致第一類積分方程的求解存在很多困難，因此探討第一類積分方程的數(shù)值解法成為學者的一個研究方向。一些學者嘗試利用機器學習方法求解積分方程，人工神經(jīng)網(wǎng)絡方法是采用較多的一種[10-11]，但該方法的兩個缺點(隱含層數(shù)難確定、容易陷入局部極小值)對克服第一類積分方程的不適定性不利。最小二乘支持向量機(least squares support vector machine，LS-SVM)[12]能較好地克服這兩個缺點，并已成功地應用于解微分方程及其反問題[13-16]。LS-SVM作為一種機器學習方法，在求解積分方程方面的研究還不是很多，尤其在求解第一類積分方程方面。本文嘗試將該方法用于求解第一類Volterra和Fredholm積分方程。

1 解法機制

1.1 基于LS-SVM的第一類Volterra積分方程的解法機制

研究如下形式的第一類Volterra積分方程：

(1)

(2)

利用復化梯形求積公式，將式(2)代入到方程(1)有：

(3)

這里

為引入的偏差。

根據(jù)LS-SVM原理可將參數(shù)估計問題轉(zhuǎn)換為如下的二次規(guī)劃問題進行求解：

(4)

其中γ為正則化因子。二次規(guī)劃問題(4)可通過拉格朗日乘子法求解，引入拉格朗日乘子μT=[μ0,μ1,μ2,…,μN]，拉格朗日函數(shù)為：

(5)

由Karush-Kuhn-Tucker(KKT)條件可以得到如下方程組：

(6)

其中N1=N+1；D11=IN1(N1階單位矩陣

D33=(0)1×1；Z=(0)N1×1，U=[-η·g(xi)]N1×1。

定理1：在給定可調(diào)參數(shù)σ和γ條件下，方程組(6)有唯一解。

(7)

1.2 基于LS-SVM的第一類Fredholm積分方程的解法機制

研究如下形式的第一類Fredholm積分方程：

(8)

方程(8)同方程(1)區(qū)別在于方程(8)上限為常數(shù)，因而與第一類Volterra積分方程相比，其解法機制并沒有本質(zhì)區(qū)別。采用復化Simpson求積公式對定積分部分進行數(shù)值積分。將區(qū)間[a,b]進行N=2M等分，步長

xk=a+k·h1，則復化Simpson求積公式如下：

未知函數(shù)f(x)仍然取公式(2)的形式，最終可以將參數(shù)估計問題轉(zhuǎn)化為如下形式的二次規(guī)劃問題：

(9)

這里

其他符號的意義同1.1節(jié)。則二次規(guī)劃問題(9)的拉格朗日函數(shù)為：

(10)

由拉格朗日乘子法，二次規(guī)劃問題(9)為如下方程組的解：

(11)

其中

C23=[F(xi)]N1×1；C31=(0)1×N1，C32=[F(xi)]1×N1，C33=(0)1×1；Z=(0)N1×1，U=[-η·g(xi)]N1×1。

定理2：在給定可調(diào)參數(shù)σ和γ條件下，方程組(11)有唯一解。

方程組(6)和(11)形式上完全一樣，可以統(tǒng)一為AX=B。在實際應用中為了增加穩(wěn)定性，可以改寫為：

[ATA+εI]X=ATB

(12)

當ε→0+時收斂于原問題的解。之所以采用公式(12)的形式，是為了避免方程組病態(tài)。

2 數(shù)值算例

為驗證本文算法的有效性，選取4個數(shù)值例子。為便于比較，4個數(shù)值例子均取自文獻[17-19]。將積分區(qū)間[a,b]100等分，101個節(jié)點為訓練點集；再將積分區(qū)間150等分，151個節(jié)點為測試樣本點。選取最大誤差和均方根誤差為比較指標?？紤]到正則化因子γ的作用，取為常數(shù)(1.0×108)，因而核寬度參數(shù)σ是唯一可調(diào)參數(shù)，這是本方法的優(yōu)點之一。具體數(shù)值算例如下。

數(shù)值算例的數(shù)值結(jié)果見表1，圖1是對應的解析解與數(shù)值解誤差曲線。從數(shù)值結(jié)果來看，本方法用于數(shù)值求解第一類積分方程完全可行，達到或超過了原文獻的精度。此外，本方法克服了問題的不適定性，數(shù)值解穩(wěn)定，而且是閉式解析解。

表1 數(shù)值結(jié)果Table 1 Numerical results

3 結(jié)論

積分方程數(shù)值解法是積分方程領(lǐng)域的研究熱點之一，然而基于機器學習理論的積分方程數(shù)值解法尚不多見。本文成功地將LS-SVM方法用于解第一類線性積分方程，在理論上給出了解法機制，數(shù)值結(jié)果表明本方法可行且具有較高的精度。下一步，如何求解其他類型的積分方程尤其是非線性積分方程，是本方法的重要研究方向。

A.例1；B.例2；C.例3；D.例4。圖1 數(shù)值解的誤差曲線Fig.1 The error curves of numerical solution