利用機(jī)器學(xué)習(xí)技術(shù)確定同倫分析解中的收斂控制參數(shù)

周童暉 柳銀萍

摘要： 同倫分析方法是求解強(qiáng)非線(xiàn)性問(wèn)題解析近似解的有效方法 ， 已被廣泛應(yīng)用于解決科學(xué)研究和工程技術(shù)中的一些重要問(wèn)題. 相對(duì)于其他已有的解析近似方法 ， 同倫分析方法通過(guò)引入若干個(gè)輔助參數(shù)和輔助函數(shù)來(lái)控制級(jí)數(shù)解的收斂區(qū)域和收斂速度.針對(duì)現(xiàn)有的同倫分析方法中收斂控制參數(shù)的選擇問(wèn)題 ， 采用了一種根據(jù)機(jī)器學(xué)習(xí)的參數(shù)選擇算法 ， 首次將同倫分析方法和機(jī)器學(xué)習(xí)技術(shù)結(jié)合起來(lái) ， 求解非線(xiàn)性數(shù)學(xué)物理方程收斂性更好的解析近似解. 通過(guò)將該算法應(yīng)用到具體的實(shí)例中 ， 可以看出 ， 所獲得的同倫分析解明顯優(yōu)于已有的同倫分析解 ， 同時(shí) ， 該算法更具普適性和靈活性.

關(guān)鍵詞：同倫分析方法;? 輔助函數(shù);? 控制參數(shù);? 機(jī)器學(xué)習(xí)

中圖分類(lèi)號(hào)： O175.14??? 文獻(xiàn)標(biāo)志碼： A??? DOI： 10.3969/j.issn.1000-5641.2022.02.005

Determination of convergence control parameters in homotopy analysis solutions based on machine learning technique

ZHOU Tonghui1 ，? LIU Yinping2，3

（1. School of Computer Science and Technology， East China Normal University， Shanghai? 200062， China;

2. School of Mathematical Sciences， East China Normal University， Shanghai 200241， China;

3. Shanghai Key Laboratory of PMMP， East China Normal University， Shanghai 200241， China）

Abstract： Homotopy? analysis? method? is? an? effective? method? for? constructing? approximate? analytical solutions to strongly nonlinear problems. The technique has been widely? applied to solve important problems in scientific research and engineering technology. Compared with other existing techniques， this method leverages auxiliary parameters and functions to adjust and control the convergence region and convergence speed of approximate analytical solutions. In this paper， we present a parameter selection algorithm based on machine learning techniques to determine the optimal values of convergence control parameters for homotopy analysis solutions. This marks the first time that homotopy analysis method and machine learning techniques have been combined to obtain approximate analytical method with better convergence for strongly nonlinear mathematical and physical equations. By applying the method to several examples， we show that the convergence of solutions using the proposed method is better than those obtained from existing homotopy analysis methods. In addition， our algorithm is both more universal and flexible.

Keywords： homotopy analysis method;? auxiliary function;? control parameter;? machine learning

0? 引言

微分方程是描述自然現(xiàn)象最常用的數(shù)學(xué)模型.因此 ， 微分方程的解法研究是數(shù)學(xué)物理領(lǐng)域的常青樹(shù) .19世紀(jì)以后 ， 線(xiàn)性微分方程的求解方法已經(jīng)發(fā)展得較為成熟 ， 然而自然界中的絕大多數(shù)現(xiàn)象都是非線(xiàn)性的.相對(duì)于線(xiàn)性微分方程 ， 非線(xiàn)性微分方程的求解要困難得多.現(xiàn)代計(jì)算機(jī)技術(shù)的不斷發(fā)展和各種數(shù)學(xué)軟件的日益成熟為微分方程的求解提供了強(qiáng)有力的工具.微分方程的解法 ， 根據(jù)解的類(lèi)型可分為：精確解法、數(shù)值解法和解析近似解法.由于許多非線(xiàn)性微分方程無(wú)法獲得其精確解， 因此數(shù)值解法是工程技術(shù)中常用的方法 ， 但數(shù)值解法無(wú)法給出解的具體表達(dá)形式.

攝動(dòng)方法[1-3]是一種被廣泛使用的解析近似方法 ， 這種方法已被許多杰出的學(xué)者用來(lái)解決實(shí)際工程中的很多問(wèn)題.但因?yàn)閿z動(dòng)法的使用需要系統(tǒng)中有物理小參數(shù) ， 這在很大程度上限制了其適用范圍[4-5]. 為了打破這個(gè)限制 ， Lyapunov 分解算法和 Adomian 分解法等相繼誕生[6-7] ， 這些方法雖然克服了對(duì)物理小參數(shù)的依賴(lài) ， 但往往解的收斂性沒(méi)法得到保證. 為了從根本上解決解析近似方法的物理小參數(shù)依賴(lài)性強(qiáng)和收斂區(qū)間小的問(wèn)題 ， 廖世俊[8]基于拓?fù)淅碚撝械耐瑐惛拍钐岢隽艘环N新的求解非線(xiàn)性微分方程的解析近似方法—同倫分析方法.該方法不依賴(lài)于物理小參數(shù) ， 且總能將非線(xiàn)性問(wèn)題轉(zhuǎn)化為一系列的線(xiàn)性子問(wèn)題 ， 通過(guò)自由選取線(xiàn)性算子和基函數(shù)列 ， 方便了線(xiàn)性子問(wèn)題求解 ， 并且能通過(guò)輔助參數(shù)和輔助函數(shù)來(lái)控制級(jí)數(shù)解的收斂區(qū)域和收斂速度 ， 確保所獲得的解析近似解具有較高的精度.該方法引起了國(guó)內(nèi)外很多學(xué)者的關(guān)注 ， 這些學(xué)者的不斷探索和研究使得同倫分析方法的理論基礎(chǔ)更加牢固 ， 例如 ， Odibat[9]給出了同倫級(jí)數(shù)解收斂的一個(gè)充分條件 ， Yabushita 等[10]使用余量的平方度量近似解析解的準(zhǔn)確度.文獻(xiàn)[11-12]初步研究了輔助線(xiàn)性算子和收斂控制參數(shù)的選取.趙銀龍[13]通過(guò)定義逆算子進(jìn)一步提高了高階形變方程的求解效率等.

本文將同倫分析方法和機(jī)器學(xué)習(xí)技術(shù)相結(jié)合 ， 首先 ， 應(yīng)用同倫分析方法求得非線(xiàn)性系統(tǒng)的m （m >0）階帶參數(shù)的解析近似解.然后 ， 將所獲得的解代入非線(xiàn)性微分方程中 ， 進(jìn)一步將所獲得的余量作為目標(biāo)函數(shù) ， 采用機(jī)器學(xué)習(xí)技術(shù)中常用的小批量梯度下降法（Mini-Batch Gradient Descant）進(jìn)行優(yōu)化[14] ， 獲得余量最優(yōu)的參數(shù)值. 最后 ， 獲得原方程精度很高的解析近似解.本文所提出的方法不僅可以通過(guò)訓(xùn)練集范圍來(lái)調(diào)節(jié)解析近似解在不同的自變量區(qū)間的逼近效果 ， 還可以同時(shí)對(duì)多個(gè)參數(shù)進(jìn)行優(yōu)化.另外 ， 對(duì)于部分算例 ， 本文將輔助函數(shù)進(jìn)行了二階加權(quán)展開(kāi) ， 以此來(lái)獲得更優(yōu)的輔助函數(shù)和收斂性更好的解析近似解.實(shí)驗(yàn)表明， 對(duì)于大部分非線(xiàn)性方程， 本文所提出的方法可以獲得精度更高的解析近似解.

1? 算法原理

1.1? 同倫分析解的構(gòu)造思路簡(jiǎn)述

考慮一個(gè)非線(xiàn)性微分方程

N[u（x）]= 0. （1）

式（1）中： N 為非線(xiàn)性微分算子; u（x）為所要求解的未知函數(shù). 該系統(tǒng)中可能還包含若干個(gè)未知的物理參數(shù) ， 如頻率、振幅等. 采用同倫分析方法求解式（1）， 首先要構(gòu)造所謂的零階形變方程

（1? q）L[Φ（x， q）? V0（x）]= qhH（x）N[Φ（x， q）].? （2）

式（2）中： L 為輔助線(xiàn)性算子; h 為輔助參數(shù); H（x）為輔助函數(shù);Φ（x， q）為 x， q 的函數(shù); V0（x）為初始猜測(cè)解; q ∈[0， 1]為嵌入?yún)?shù). 由式（2）可知 ， 由于 h? 0且 H（x）? 0 ， 當(dāng) q =0 時(shí) ， 式（2）的解為Φ（x， q）= V0（x）;當(dāng) q =1 時(shí) ， 式（2）的解變?yōu)棣担▁， 1）= u（x）. 由此可見(jiàn) ， 當(dāng) q 從0 變化到1 時(shí) ， Φ（x， q）從初始猜測(cè)解演化到u（x）. 根據(jù)泰勒展開(kāi)定理 ， 將Φ（x， q）關(guān)于q 展開(kāi)成如下冪級(jí)數(shù)

（3）

令

Vi（x）=? i！·???? ?qi?????? q=0 ， （4）

根據(jù)式（4）， 可將式（3）簡(jiǎn)化為

Φ（x， q）= V0（x）+? Vm（x）qm .

利用Φ（x， 1）= u（x） ， 可得到解的級(jí)數(shù)展開(kāi)式

u（x）= V0（x）+? Vm（x）.

對(duì)零階形變方程式（2）的兩邊關(guān)于q 求m 階導(dǎo)數(shù) ， 再令q =0 ， 得到m 階形變方程

式（5）中：

Rm（Vm ?1）= （m ?1）！·?????? ?qm ?1????????? q=0;

依次迭代求解高階形變方程（5）， 則可得到u（x）的m 階解析近似表達(dá)式

式（6）即為所求系統(tǒng)的 m 階解析近似解.需要說(shuō)明的是 ， 所獲得的解中含有收斂控制參數(shù)和輔助函數(shù) ， 收斂控制參數(shù)可以調(diào)節(jié)和控制解的收斂區(qū)域和收斂速度 ， 輔助函數(shù)可以確保所獲得的解符合解表達(dá)法則. 另外 ， 式（6）的解中可能還包含有系統(tǒng)中未知的物理參數(shù) ， 如何確定式（6）的解表達(dá)式中的未知參數(shù)和未知函數(shù) ， 使所獲得的解收斂性更好呢？同倫分析方法本身提供了若干個(gè)法則來(lái)確定解中的未知物理參數(shù) ， 但是該思路并不具有普適性， 需要針對(duì)不同的系統(tǒng)進(jìn)行分析.本文將機(jī)器學(xué)習(xí)技術(shù)應(yīng)用到同倫分析方法中 ， 應(yīng)用機(jī)器學(xué)習(xí)技術(shù)中的小批量梯度下降法來(lái)確定同倫分析解中的未知參數(shù) ， 以獲得收斂性較好的解及系統(tǒng)中未知的物理參數(shù)值.

1.2? 利用機(jī)器學(xué)習(xí)的收斂控制參數(shù)確定算法

在上述算法所獲得的同倫分析解中包含有未知的收斂控制參數(shù)和輔助函數(shù) ， 也可能包含未知的物理參數(shù). 如何確定這些未知參數(shù)和未知函數(shù)？本文應(yīng)用機(jī)器學(xué)習(xí)方法中的小批量梯度下降法對(duì)同倫分析解中的未知參數(shù)進(jìn)行優(yōu)化.

令θ= {h， ω} ， h 為式（2）中出現(xiàn)的輔助參數(shù) ， ω表示線(xiàn)性輔助算子 L 、初始猜測(cè)解 V0（x）以及輔助函數(shù) H（x）中用以加速收斂與控制收斂范圍的其他控制參數(shù) ， 該集合中也可能會(huì)包含其他的未知參數(shù). N[V（x0， θ）]2作為余量的平方度量了以上解析近似解 V（x0， θ）趨于u（x0）的程度 ， 當(dāng) N[V（x0， θ）]2 →0 時(shí) ， 有V（x0， θ）→ u（x0） ， 因此最小化r?N[V（x， θ）]2dx 得到的θ可以使解析近似解收斂得更快、更好.定義目標(biāo)函數(shù)

式（7）中x ∈? ， ?是訓(xùn)練集取值集合 ， 其為定義域的真子集.

繼而問(wèn)題轉(zhuǎn)化為對(duì)式（7）中θ的優(yōu)化 ， 考慮到利用 ReLU （Rectified Linear Unit）函數(shù)進(jìn)行梯度截?cái)鄟?lái)解決梯度爆炸問(wèn)題會(huì)導(dǎo)致訓(xùn)練數(shù)據(jù)分布不均 ， 且函數(shù)需要的參數(shù)自適應(yīng)性能力弱 ， 本文使用 Adam 梯度下降法避免這一問(wèn)題[15] ， 解決梯度爆炸問(wèn)題的同時(shí)也加速了收斂 ， 如算法1 所示.

算法1 梯度下降法

輸入：訓(xùn)練集 X

輸出：迭代優(yōu)化后的參數(shù)θ

1：初始化學(xué)習(xí)參數(shù)ρ1 =0.9 ， ρ2 =0.999 ， δ= 10?8 ， 迭代參數(shù) k =1 ， s0 =0 ， r0 =0 ， 最高迭代次數(shù) K

2：生成隨機(jī)點(diǎn)數(shù)據(jù)集 X ??

3：設(shè)定學(xué)習(xí)率α ， 初始參數(shù)θ0

4： Repeat

5：隨機(jī)選取訓(xùn)練集的子集Xk = {x1， x2 ， ·· · ， xn} ， Xk ? X

6：計(jì)算梯度： g =? ?θk J （xi， θk）

7：計(jì)算一階矩和二階矩 sk+1 =ρ1sk + （1? ρ1）g， rk+1 =ρ2rk + （1? ρ2）g · g

8：修正一階矩和二階矩： s^=? ， r^=

9：以一階矩為梯度 ， 用二階矩調(diào)整學(xué)習(xí)速度 ， 更新參數(shù)：θk+1 =θk ?? s^

10：k = k +1

11： Until k ? K? or θ收斂

本文方法利用 Python 的流處理框架 Tensorflow， 方便進(jìn)行算法策略的調(diào)整， 訓(xùn)練集根據(jù)非線(xiàn)性系統(tǒng)的定義域? ， 生成指定范圍內(nèi)的64位浮點(diǎn)數(shù).

2? 應(yīng)用實(shí)例

例1? 考慮無(wú)量綱化后的空氣中自由下落球體方程

根據(jù)式（8）定義非線(xiàn)性算子

N[Φ（t， q）]=?????????? +Φ2（t， q）? 1.

選擇解表達(dá)形式

選取線(xiàn)性算子 L， 輔助函數(shù) H 和初始猜測(cè)解 V0分別為

應(yīng)用同倫分析方法 ， 依次迭代求解高階形變方程 ， 獲得近似解的前 m 項(xiàng)：

從而得到帶參數(shù)的近似解

取 m =4所得的解析近似解表達(dá)式 ， 使用梯度下降的 Adam 算法優(yōu)化 ， 設(shè)初值h =1 ;單次迭代點(diǎn)集大小 n =50; 學(xué)習(xí)率 a =1.0× 10?3; 訓(xùn)練集范圍為（0， 1）. 經(jīng)過(guò)約4 ×105次迭代 ， h 收斂于 –0.764附近 ， 選取驗(yàn)證集誤差最小的h =?0.7644 .表1給出了m =4 時(shí) ， h 和余量的均方誤差 MSE （Mean Squared Error）隨著迭代次數(shù)增加而產(chǎn)生的變化 ， 表2將本文所獲得的解析近似解與文獻(xiàn)[4]中所獲得的解析近似解（h =? 1）及精確解的平均絕對(duì)誤差 MAE （Mean Absolute Error）進(jìn)行比較.

從表 1可知， 隨著迭代次數(shù)的增加， h 的值趨于收斂 ， 且余量的均方誤差 MSE也隨之顯著下降.從表 2可知 ， 本文所獲得的解析近似解明顯優(yōu)于文獻(xiàn)[4]中的解析近似解 ， 并且本文所獲得的解析近似解的平均絕對(duì)誤差明顯小于文獻(xiàn)[4]中的解析近似解的平均絕對(duì)誤差.

例2? 考慮空間 Duffing 振子滿(mǎn)足的非線(xiàn)性方程

式（9）中 L 為邊界條件常量. 引入變換

在該變換下 ， 方程（9）轉(zhuǎn)換為

v′′（x）+ ε（v ? v3）= 0， v（0）= v（π）= 0.

假設(shè) A 為波的振幅 ， 令v（x）= Au（x） ， 則得到

式（10）中A = v（π/2）. 對(duì)非線(xiàn)性系統(tǒng)（10）應(yīng)用同倫分析方法求解 ， 定義非線(xiàn)性算子

N[Φ（x， q）， α（q）]=???????????? +ε（Φ（x， q）? α2（q）Φ3（x， q））.

對(duì)該系統(tǒng)構(gòu)造零階形變方程

當(dāng)q 從0 變化到1 時(shí) ， α（q）從初值 A0演化到 A .根據(jù)非線(xiàn)性算子的性質(zhì) ， 選用以下解表達(dá)形式

u（x）=? bisin[（2i +1）x].（11）

根據(jù)解表達(dá)式（11）， 定義輔助線(xiàn)性算子 L 和選取初始猜測(cè)解 V0（x）為

L[Φ（x， q）]=???????????? +Φ（x， q），

式中線(xiàn)性算子具有性質(zhì) L（C1sin x + C2cos x）= 0 ， C1 ， C2為任意常數(shù). 對(duì)該非線(xiàn)性系統(tǒng) ， 文獻(xiàn)[4]給出了多個(gè)可行的輔助函數(shù)

H（x）= 1， H（x）= sin2x， H（x）= cos2x， H（x）= cos（2x）.? （12）

本文將式（12）中的可選 H（x）作基函數(shù)加權(quán)展開(kāi) ， 去除其中的線(xiàn)性相關(guān)項(xiàng) ， 得到假設(shè)形式

例2 中除了要求u（x） ， 還要求出振幅 A .故除了對(duì)Φ（x， q）進(jìn)行泰勒展開(kāi) ， 同樣地需要對(duì)α（q）進(jìn)行泰勒展開(kāi)

由此可得到高階形變方程

式（14）中

Rm（Vm ?1， Am ?1）= （m ?1）???? ?qm ?1? q=0.

由于h 總是以hH（x）形式出現(xiàn)在解分量中 ， 故令h =1 即可.當(dāng)C1 =0 時(shí) ， 對(duì)C0進(jìn)行訓(xùn)練等價(jià)于當(dāng) H（x）= 1時(shí)對(duì)h 進(jìn)行訓(xùn)練.

根據(jù)解表達(dá)形式與同倫分析方法的解封閉原則[4] ， 式（14）的右端不應(yīng)含有 sin x 項(xiàng) ， 在求解第 i 階形變方程之前 ， 通過(guò)令sin x 項(xiàng)的系數(shù)為零得到關(guān)于Ai ?1 的代數(shù)方程 ， 求解該方程即可確定 Ai–1 ， 然后根據(jù)高階形變方程（14）求解Vi（x） ， 這樣即可獲得該系統(tǒng)的解析近似解及振幅 A 的近似值.

令ε= 10 ， m =4 ， 求得4 階解析近似解后 ， 使用基于梯度下降的 Adam 算法進(jìn)一步確定解表達(dá)式中的未知參數(shù). 構(gòu)造目標(biāo)函數(shù)并設(shè)置相關(guān)參數(shù)：?jiǎn)未蔚c(diǎn)集大小n =50; 學(xué)習(xí)率a =1.0× 10?4; 參數(shù)x ∈（0， 1） ， 訓(xùn)練集大小為106.

在式（13）中 ， 令 C1 =0得到一階輔助函數(shù) H（x）= C0 ， 選擇最優(yōu)誤差對(duì)應(yīng)的參數(shù) C0 =?0.439 ， 對(duì)于二階輔助函數(shù) ， C0和 C1分別收斂于?0.56035346和 ?0.41409920附近 ， 將所得結(jié)果代入所得的解析近似解中， 得到基于不同輔助函數(shù)的余量平方曲線(xiàn)（ 圖1）.

從圖 1可以看出梯度下降法在選擇控制參數(shù)的最優(yōu)值時(shí)更具優(yōu)越性 ， 特別地 ， 基于二階展開(kāi)的輔助函數(shù)所獲得的近似解精度更高.

根據(jù)解表達(dá)式（11）可知 ， 近似解是周期 T =2π的奇函數(shù) ， 所以在（0， π）上進(jìn)行參數(shù)訓(xùn)練即可獲得定義域上的最優(yōu)參數(shù)結(jié)果. 表3列出了本文根據(jù)不同訓(xùn)練集得到的參數(shù)結(jié)果 ， 比較了其對(duì)應(yīng)余量函數(shù)的定積分 ， 其中{C0， C1}（a，b）表示在訓(xùn)練集（a， b）上訓(xùn)練得到的最優(yōu)化參數(shù)值的集合.

從表3可知 ， 可通過(guò)選擇不同訓(xùn)練集區(qū)間 ， 調(diào)整收斂控制參數(shù) ， 從而獲得相應(yīng)區(qū)間內(nèi)的最優(yōu)近似解.

例2 驗(yàn)證了本文所提出的二階加權(quán)展開(kāi)的輔助函數(shù)對(duì)于近似解收斂性的進(jìn)一步優(yōu)化 ， 并使用本文的方法進(jìn)行參數(shù)選擇 ， 得到了比文獻(xiàn)[4]中的單一輔助參數(shù)選擇后的近似解更優(yōu)的結(jié)果. 通過(guò)對(duì)不同訓(xùn)練區(qū)間上的近似解結(jié)果進(jìn)行余量積分的比較 ， 證明了本文算法的確可以根據(jù)不同訓(xùn)練區(qū)間來(lái)尋找相應(yīng)區(qū)間內(nèi)更優(yōu)的解析近似解.

例3? 考慮具有奇非線(xiàn)性保守系統(tǒng)的自由振動(dòng)方程

式（15）中：ε 為人工小參數(shù); a 為振幅. 假設(shè) w 為頻率 ， 引入變換x = wt ， U（t）= u（x） ， 則非線(xiàn)性系統(tǒng)（15）轉(zhuǎn)換為

（16）

根據(jù)非線(xiàn)性算子的性質(zhì)選取解表達(dá)形式

u（x）=? bicos（ix）.（17）

式（17）中bi為待定系數(shù). 進(jìn)一步選取輔助線(xiàn)性算子與初始猜測(cè)解

L[Φ（x， q）]= w [+ Φ（x， q）] ，???? （18）

V0（x）= acos x.?? （19）

式（18）中線(xiàn)性算子具有性質(zhì) L（C1sin x + C2cos x）= 0 ， C1 ， C2為任意常數(shù). 根據(jù)解表達(dá)形式可知輔助函數(shù)具有以下形式

H（x）= cos（2kx），? k =0， 1， 2， 3， ·· ·.

將 H（x）利用基函數(shù)列進(jìn)行加權(quán)展開(kāi)為

H（x）= C1+ C2cos（2x）.? （20）

與例2 的求解思路相同， 根據(jù)式（16）—（20）求出u（x）的m 階解析近似解.

令ε= 10 ， a =1 ， m =4 ， 設(shè)初值C0 =1 ， C1 =1 ;單次迭代點(diǎn)集大小n =50; 學(xué)習(xí)率a =1.0× 10?3; 訓(xùn)練集范圍為（0， 20）;訓(xùn)練集大小為106; 訓(xùn)練選取最小驗(yàn)證集均方誤差對(duì)應(yīng)的結(jié)果C0 =?0.180577，C1 =?0.261701. 圖 2將本文結(jié)果與文獻(xiàn)[4]中的單一同倫分析解進(jìn)行了比較.

從圖 2可知， 本文所獲得的解析近似解較文獻(xiàn)[4]中的同倫分析解具有更高的精度.該實(shí)例所獲得的結(jié)果進(jìn)一步驗(yàn)證了基于二階加權(quán)展開(kāi)輔助函數(shù)所獲得的同倫分析解具有更好的收斂性.

例4 考慮 Thomas-Fermi 方程

根據(jù)漸進(jìn)性質(zhì)分析[16-17] ， 引入變換

式中λ 為引入?yún)?shù). 則方程（21）轉(zhuǎn)換為

利用文獻(xiàn)[13]中引入的多個(gè)收斂控制參數(shù) ， 使用解表達(dá)式（23）， 初始猜測(cè)解式（24）， 輔助線(xiàn)性算子式 （25）和輔助函數(shù)式（26）， 其中輔助線(xiàn)性算子式（25）是文獻(xiàn)[13]中帶參數(shù)輔助線(xiàn)性算子優(yōu)化后的結(jié)果， 本文著重對(duì)引入的控制參數(shù)λ ， ε以及輔助參數(shù)h 進(jìn)行優(yōu)化.

式中：輔助線(xiàn)性算子（25）具有性質(zhì) L（tj）= 0 ， j =15 ， ?3 ， ?4.

根據(jù)式（22）—（26）， 利用同倫分析方法可求出 g（t）的 m 階近似解 gm（t） ， 根據(jù)變換 um（x）= g （1+ λ） 得到u（x）的m 階近似解

文獻(xiàn)[13]利用約2 000個(gè)間隔點(diǎn)的誤差和構(gòu)造了關(guān)于控制參數(shù)的函數(shù) ， 并根據(jù) Mathematica 中的 Nminimize 命令獲得了最優(yōu)結(jié)果λ= 5/16 ， ε= ?86/17 ， h =? 11/8. 本文取m =6 的解析近似解表達(dá)式 ， 設(shè)初值 h =1 ， ε= ?1 ， λ= 1; 單次迭代點(diǎn)集大小n =10; 學(xué)習(xí)率a =1.0× 10? 1; 訓(xùn)練集范圍為 （0， 100）. 例4 使用負(fù)冪級(jí)數(shù)表示解 ， 為了使結(jié)果更精確 ， 例4 在訓(xùn)練時(shí)將梯度修改為x2g ， 通過(guò)這種等價(jià)于修改訓(xùn)練集概率密度的方式 ， 解決了x 較大時(shí) N[u（x， θ）]對(duì)θ的導(dǎo)數(shù)過(guò)小而導(dǎo)致的均方誤差有效數(shù)字溢出問(wèn)題. 在此調(diào)整的基礎(chǔ)上 ， 訓(xùn)練得到驗(yàn)證集均方誤差最小時(shí)所對(duì)應(yīng)的參數(shù)λ= 0.33546 ， ε= ?4.4623677 ， h =? 1.360267. 表 4比較了選定點(diǎn)上數(shù)值解、文獻(xiàn)[13]近似解和本文近似解 ， 表 5比較了本文近似解與文獻(xiàn)[13]中近似解在選定點(diǎn)上的均方誤差， 表 6給出了本文近似解得到的導(dǎo)數(shù)值u′（0）與文獻(xiàn)[13]中相應(yīng)結(jié)果的比較 ， 注意由于例4 所使用的解表達(dá)是負(fù)冪級(jí)數(shù)的形式 ， 需要進(jìn)行高精度計(jì)算， 表 4—6的結(jié)果都是在 Maple 2018高精度環(huán)境下計(jì)算得到.

從表 4—6 可知 ， 本文所獲得的同倫分析解要優(yōu)于文獻(xiàn)[13]中的同倫分析解.例 4基于文獻(xiàn)[13]中所引入的多個(gè)收斂控制參數(shù) ， 同時(shí)對(duì)同倫分析解中的多個(gè)參數(shù)進(jìn)行優(yōu)化 ， 計(jì)算結(jié)果表明 ， 本文所提出的方法在確定參數(shù)的最優(yōu)值時(shí)較文獻(xiàn)[13]中所使用的方法更具普適性和靈活性.

3? 總結(jié)

同倫分析方法是構(gòu)造非線(xiàn)性微分方程解析近似解的有效方法 ， 該方法最大的優(yōu)點(diǎn)在于通過(guò)引入控制參數(shù)來(lái)調(diào)節(jié)和控制級(jí)數(shù)解的收斂區(qū)域和收斂速度 ， 但控制參數(shù)的選擇缺少系統(tǒng)的方法 ， 本文使用機(jī)器學(xué)習(xí)技術(shù)來(lái)確定控制參數(shù)的最優(yōu)值. 計(jì)算結(jié)果表明 ， 基于本文算法所得到的參數(shù)值在級(jí)數(shù)解的收斂速度上有更好的表現(xiàn) ， 這為同倫分析方法的參數(shù)確定開(kāi)拓了一種新的途徑 ， 并且機(jī)器學(xué)習(xí)算法的發(fā)展非常迅速， 因此， 本文所提出的參數(shù)選擇算法具有較好的發(fā)展和應(yīng)用前景.

[參考文獻(xiàn)]

[1] VAN DYKE M. Perturbation Methods in Fluid Mechanics [M]. Stanford： Parabolic Press， 1975.

[2] NAYFEH A H. Introduction to Perturbation Techniques [M]. New York： John Wiley & Sons， 1981.

[3] NAYFEH A H. Perturbation Methods [M]. New York： John Wiley & Sons， 2008.

[4] LIAO S J. Beyond Perturbation： Introduction to the Homotopy Analysis Method [M]. Boca Raton， Florida： CRC Press， 2004.

[5] LIAO S J. Homotopy Analysis Method in Nonlinear Differential Equations [M]. Beijing： Higer Education Press， 2012.

[6] LYAPUNOV A M. The general problem of the stability of motion [J]. International Journal of Control， 1992， 55（3）：531-534.

[7] ADOMIAN G. Nonlinear Stochastic Operator Equations [M]. Orlando： Academic Press， 1986.

[8]廖世俊.求解非線(xiàn)性問(wèn)題的同倫分析方法[D].上海：上海交通大學(xué)， 1992.

[9] ODIBAT Z M. A study on the convergence of homotopy analysis method [J]. Applied Mathematics and Computation， 2010， 217（2）：782-789.

[10] YABUSHITA K， YAMASHITA M， TSUBOI K. An analytic solution of projectile motion with the quadratic resistance law using thehomotopy analysis method [J]. Journal of Physics A： Mathematical and Theoretical， 2007， 40（29）：8403-8416.

[11] LIAO S J. Advances in the Homotopy Analysis Method [M]. Singapore： World Scientific， 2014.

[12] VAN GORDER R A， VAJRAVELU K. On the selection of auxiliary functions， operators， and convergence control parameters in theapplication of the homotopy analysis method to nonlinear differential equations： A general approach [J]. Communications in Nonlinear Science and Numerical Simulation， 2009， 14（12）：4078-4089.

[13] 趙銀龍.同倫分析方法之改進(jìn)及其在非線(xiàn)性邊值問(wèn)題之應(yīng)用[D].上海：上海交通大學(xué)， 2015.

[14] ROUX N L， SCHMIDT M， BACH F. A stochastic gradient method with an exponential convergence rate for finite training sets [EB/OL].（2013-03-11）[2020-07-26]. https：//arxiv.org/pdf/1202.6258.pdf.

[15] KINGMA D P， BA J L . Adam： A method for stochastic optimization [EB/OL].（2015-07-23）[2020-08-27]. https：//arxiv.org/pdf/1412.6980v8.pdf.

[16] FEYNMAN R P， METROPOLIS N， TELLER E. Equations of state of elements based on the generalized Fermi-Thomas theory [J].Physical Review， 1949， 75（10）：1561-1573.

[17] COULSON C A， MARCH N H. Momenta in atoms using the Thomas-Fermi method [J]. Proceedings of the Physical Society， 1950，63（4）：367-374.

[18] KOBAYASHI S， NAGAI S， UMEDA K. Accurate value of the initial slope of the ordinary TF function [J]. Journal of the PhysicalSociety of Japan， 1955， 10（9）：759-762.

[19] FERNáNDEZ F M. Rational approximation to the Thomas-Fermi equations [J]. Applied Mathematics and Computation， 2011，217（13）：6433-6436.

（責(zé)任編輯：陳麗貞）