基于機(jī)器學(xué)習(xí)的高速復(fù)雜流場(chǎng)流動(dòng)控制效果預(yù)測(cè)分析

余柏楊，呂宏強(qiáng)，周巖，羅振兵，劉學(xué)軍

1.南京航空航天大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院/人工智能學(xué)院模式分析與機(jī)器智能工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室，南京 211106

2.空氣動(dòng)力學(xué)國家重點(diǎn)實(shí)驗(yàn)室，綿陽 621000

3.氣動(dòng)噪聲控制重點(diǎn)實(shí)驗(yàn)室，綿陽 621000

4.軟件新技術(shù)與產(chǎn)業(yè)化協(xié)同創(chuàng)新中心，南京 210023

5.南京航空航天大學(xué) 航空學(xué)院，南京 210016

6.國防科技大學(xué) 空天科學(xué)學(xué)院，長沙 410073

0 引 言

流動(dòng)控制技術(shù)是流體力學(xué)研究的前沿和熱點(diǎn)之一，高效的流動(dòng)控制系統(tǒng)能夠顯著提高飛行器動(dòng)力性能、節(jié)約大量燃料、降低碳排放。流動(dòng)控制技術(shù)主要分為被動(dòng)控制和主動(dòng)控制2 種方式。被動(dòng)控制[1]不需要額外的能量，具有控制簡單、易于實(shí)現(xiàn)、設(shè)計(jì)制造成本低的特點(diǎn)。主動(dòng)控制[2]則是引入輔助能量的控制方式。主動(dòng)流動(dòng)控制技術(shù)發(fā)展的核心問題是研制高性能的流動(dòng)控制激勵(lì)器[3]，在不同的應(yīng)用條件和控制目的下，對(duì)激勵(lì)器的工作性能要求也有所不同，因此獲得激勵(lì)器工作性能參數(shù)變化規(guī)律，對(duì)激勵(lì)器優(yōu)化設(shè)計(jì)和實(shí)際應(yīng)用意義重大。

在激勵(lì)器工作性能參數(shù)研究實(shí)驗(yàn)中，傳統(tǒng)的方法需要對(duì)每個(gè)工況參數(shù)設(shè)置不同數(shù)值，通過大量的對(duì)比實(shí)驗(yàn)來研究各個(gè)不同參數(shù)對(duì)實(shí)驗(yàn)結(jié)果的影響程度，需耗費(fèi)大量的時(shí)間和資源。機(jī)器學(xué)習(xí)[4]的快速發(fā)展為流動(dòng)控制技術(shù)提供了新的發(fā)展方向。Minelli 等[5]通過遺傳算法實(shí)現(xiàn)了高雷諾數(shù)鈍體繞流開環(huán)控制的最優(yōu)參數(shù)預(yù)測(cè)。Ren 等[6]采用格子Boltzmann 方法求解器第一次還原了層流條件下的控制效果，并對(duì)湍流條件下圓柱繞流減阻進(jìn)行了探究。Rabault 等[7]使用近端策略優(yōu)化方法完成了圓柱減阻的閉環(huán)主動(dòng)控制。侯宏等[8]在邊界層轉(zhuǎn)捩的主動(dòng)控制中使用了神經(jīng)網(wǎng)絡(luò)模型構(gòu)建了抽吸速度和邊界層轉(zhuǎn)捩位置之間的映射關(guān)系。這些基于機(jī)器學(xué)習(xí)的主動(dòng)流動(dòng)控制技術(shù)都取得了比較理想的效果，但其中分析激勵(lì)器參數(shù)對(duì)控制效果參數(shù)影響的工作較少。因此，本文重點(diǎn)通過已有實(shí)驗(yàn)數(shù)據(jù)研究激勵(lì)器參數(shù)和控制效果參數(shù)之間的關(guān)系，分析影響控制效果參數(shù)的重要因素，指導(dǎo)實(shí)驗(yàn)中激勵(lì)器參數(shù)的設(shè)置。

本文從有限的實(shí)驗(yàn)數(shù)據(jù)（樣本容量小于30）中挖掘數(shù)據(jù)之間的關(guān)系，屬于小樣本機(jī)器學(xué)習(xí)問題[9]。在機(jī)器學(xué)習(xí)中對(duì)小樣本問題的處理一般有3 個(gè)步驟：1）使用不易過擬合的模型（如非參數(shù)化模型）；2）簡化問題，采用特征重要性分析方法，若存在重要性較弱的特征，可將其刪除；3）交叉驗(yàn)證（適用于小樣本數(shù)據(jù)集的模型驗(yàn)證方法）。

高斯過程回歸（Gaussian Process Regression，GPR）是一種非參數(shù)化機(jī)器學(xué)習(xí)模型，已廣泛應(yīng)用于小樣本的非線性問題。羅亦泳等[10]構(gòu)建了基于GPR的GPS 高程轉(zhuǎn)換模型，將GPR 與其他擬合模型進(jìn)行對(duì)比，通過將17 個(gè)GPS 點(diǎn)劃分為不同比例的訓(xùn)練和測(cè)試數(shù)據(jù)集，分析了不同比例的訓(xùn)練數(shù)據(jù)集對(duì)不同GPS 高程轉(zhuǎn)換模型精度的影響。羅亦泳[11]將64 期大壩變形觀測(cè)數(shù)據(jù)劃分為50 期訓(xùn)練數(shù)據(jù)和14 期測(cè)試數(shù)據(jù)，通過GPR 構(gòu)建了大壩變形預(yù)測(cè)模型，并建立了預(yù)測(cè)結(jié)果的方差及置信區(qū)間的估計(jì)方法，對(duì)預(yù)測(cè)結(jié)果進(jìn)行了可靠性分析。孫斌等[12]為了提高風(fēng)速預(yù)測(cè)的精度，采用了一種基于GPR 的風(fēng)速預(yù)測(cè)模型，并將GPR 與支持向量機(jī)、最小二乘支持向量機(jī)和BP 神經(jīng)網(wǎng)絡(luò)進(jìn)行了比較。這些工作均證明了GPR 模型能夠成功地對(duì)小樣本回歸問題進(jìn)行建模，具有較好的推廣性。

特征重要性分析是分析監(jiān)督學(xué)習(xí)中不同輸入?yún)?shù)對(duì)輸出參數(shù)影響程度的方法，可獲得重要特征參數(shù)，降低數(shù)據(jù)中冗余信息的干擾，改善模型的性能。常用的方法包括卷積神經(jīng)網(wǎng)絡(luò)、LASSO 回歸、自動(dòng)關(guān)聯(lián)確定（Automatic Relevance Determination，ARD）和隨機(jī)森林（Random Forest，RF）等。張韶輝等[13]利用LASSO 回歸分析篩選出了與冠心病密切相關(guān)的血脂指標(biāo)。黃梅等[14]在分類挖掘中采用了基于隨機(jī)森林的特征重要性分析方法。劉鑫童[15]基于深度卷積神經(jīng)網(wǎng)絡(luò)對(duì)甲狀腺超聲圖像進(jìn)行了系統(tǒng)分析并提取了重要特征。Sun 等[16]使用spalart allmaras湍流模型生成的訓(xùn)練數(shù)據(jù)對(duì)ANN 湍流模型進(jìn)行訓(xùn)練，使用optimal brain surgeon 算法確定輸入特征的相關(guān)性。已有的這些工作表明：通過特征重要性分析，有效提高了研究者對(duì)有監(jiān)督學(xué)習(xí)問題的理解；有針對(duì)性地利用好重要特征，可以提高模型預(yù)測(cè)精度。通過特征重要性分析，刪除重要性較弱的特征適用于小樣本問題中樣本容量小于特征維度的情況，而本文數(shù)據(jù)的樣本容量大于特征維度，滿足高斯過程回歸模型對(duì)樣本數(shù)量的要求，因此本文保留所有特征，重點(diǎn)分析不同激勵(lì)器參數(shù)對(duì)控制效果參數(shù)的影響程度。

為了驗(yàn)證小樣本機(jī)器學(xué)習(xí)中模型的泛化性能，通常采用交叉驗(yàn)證方法將原始數(shù)據(jù)集劃分為訓(xùn)練集和測(cè)試集，避免為追求高準(zhǔn)確率而在訓(xùn)練集上產(chǎn)生過擬合，保證模型在樣本外數(shù)據(jù)上的預(yù)測(cè)準(zhǔn)確率。訓(xùn)練集和測(cè)試集數(shù)據(jù)的不同劃分，會(huì)使模型準(zhǔn)確率發(fā)生明顯的變化，為了消除這一變化因素，通常采用K 折交叉驗(yàn)證實(shí)現(xiàn)模型驗(yàn)證。胡偉杰等[17]通過GPR 對(duì)180 個(gè)樣本采用5 折交叉驗(yàn)證，預(yù)測(cè)了導(dǎo)彈氣動(dòng)性能，對(duì)比了不同數(shù)據(jù)劃分比例下GPR 模型的預(yù)測(cè)結(jié)果和穩(wěn)定性。高赫等[18]基于GPR 對(duì)2 578 個(gè)樣本采用了5 折交叉驗(yàn)證，控制了連續(xù)式風(fēng)洞馬赫數(shù)，采用了隨機(jī)劃分?jǐn)?shù)據(jù)集與分組劃分?jǐn)?shù)據(jù)集2 種策略進(jìn)行建模。Nematzadeh 等[19]采用不同的機(jī)器學(xué)習(xí)算法作為分類器，對(duì)原始乳腺癌和預(yù)后性威斯康辛乳腺癌進(jìn)行分類，利用K 折交叉驗(yàn)證對(duì)不同機(jī)器學(xué)習(xí)算法進(jìn)行了乳腺癌分類比較分析。

在超聲速條件下，本文利用逆向等離子體合成射流流動(dòng)控制技術(shù)[20]進(jìn)行半球體激波控制實(shí)驗(yàn)[21]。實(shí)驗(yàn)數(shù)據(jù)包括15 個(gè)樣本，每個(gè)樣本的參數(shù)包括控制對(duì)象參數(shù)（頭錐直徑）、主動(dòng)激勵(lì)參數(shù)（腔體體積、電極間距、放電電容、出口直徑、擊穿電壓）和控制效果參數(shù)（最大脫體距離）。每個(gè)樣本的電極間距和擊穿電壓都是相同的，回歸模型無法學(xué)習(xí)這2 個(gè)參數(shù)與最大脫體距離的映射關(guān)系，故實(shí)驗(yàn)中不考慮該參數(shù)。采用GPR[22]學(xué)習(xí)得到激勵(lì)器參數(shù)（頭錐直徑、腔體體積、放電電容、出口直徑）到控制效果參數(shù)（最大脫體距離）的映射規(guī)律，利用K 折交叉驗(yàn)證中的留一交叉驗(yàn)證法評(píng)估GPR 模型的預(yù)測(cè)結(jié)果，采用特征重要性分析方法分析各激勵(lì)器參數(shù)對(duì)最大脫體距離的影響程度，分析激勵(lì)器參數(shù)影響程度與控制效果預(yù)測(cè)精度的關(guān)系。本文工作對(duì)激勵(lì)器控制對(duì)象參數(shù)和主動(dòng)激勵(lì)參數(shù)實(shí)驗(yàn)設(shè)計(jì)具有一定參考價(jià)值。

1 研究方案

本文研究方案（圖1）可分為4 部分：第1 部分是工程實(shí)驗(yàn)環(huán)節(jié)，使用逆向等離子體合成射流流動(dòng)控制技術(shù)，設(shè)置不同的激勵(lì)器參數(shù)進(jìn)行實(shí)驗(yàn)，獲得不同參數(shù)組合對(duì)應(yīng)的控制效果，并對(duì)各個(gè)參數(shù)屬性值進(jìn)行標(biāo)準(zhǔn)化處理；第2 部分使用高斯過程回歸對(duì)數(shù)據(jù)進(jìn)行建模，得到重要的激勵(lì)器參數(shù)與控制效果參數(shù)之間的映射關(guān)系；第3 部分采用特征重要性分析對(duì)各個(gè)激勵(lì)器參數(shù)進(jìn)行特征重要性排序；第4 部分使用建立好的回歸模型對(duì)控制效果參數(shù)進(jìn)行預(yù)測(cè)，并評(píng)估模型的預(yù)測(cè)性能，分析激勵(lì)器參數(shù)影響程度與控制效果預(yù)測(cè)精度的關(guān)系。若預(yù)測(cè)精度不足，則需要重新調(diào)整實(shí)驗(yàn)設(shè)置，根據(jù)激勵(lì)器參數(shù)影響程度和控制效果預(yù)測(cè)精度的關(guān)系增加實(shí)驗(yàn)樣本；若預(yù)測(cè)精度滿足要求，則可用于指導(dǎo)后續(xù)主動(dòng)流動(dòng)控制實(shí)驗(yàn)。

圖1 研究方案Fig.1 Research program

1.1 實(shí)驗(yàn)數(shù)據(jù)

如表1所示，實(shí)驗(yàn)采集的數(shù)據(jù)包含控制對(duì)象參數(shù)（頭錐直徑）、主動(dòng)激勵(lì)參數(shù)（腔體體積、電極間距、放電電容、出口直徑、擊穿電壓）和控制效果參數(shù)（最大脫體距離）。激勵(lì)器頭錐直徑會(huì)影響等離子體合成射流的速度和流場(chǎng)結(jié)構(gòu)。激勵(lì)器腔體體積[23]是影響射流流場(chǎng)特性的重要結(jié)構(gòu)參數(shù)，反映激勵(lì)器工作氣體質(zhì)量，決定腔內(nèi)氣體溫度及壓力的變化，并最終影響流場(chǎng)發(fā)展及射流速度。電極間距[24]是造成不同等離子體分布的關(guān)鍵結(jié)構(gòu)參數(shù)，不同電極間距下外電場(chǎng)分布形態(tài)和數(shù)值的差異是形成2 種典型分布（類彌散和離散通道）模式的直接原因。放電電容[25]與等離子體合成射流速度呈正相關(guān)：大電容產(chǎn)生更多的能量沉積，實(shí)現(xiàn)腔體的充分加熱，可產(chǎn)生速度更大的等離子體射流和強(qiáng)度更大的前驅(qū)激波；小電容所產(chǎn)生的等離子體射流流場(chǎng)內(nèi)壓縮波數(shù)增加，前驅(qū)激波強(qiáng)度減弱。出口直徑[25]會(huì)影響等離子體合成射流的速度和耗散時(shí)間，且與前驅(qū)激波的強(qiáng)度呈正相關(guān)。激勵(lì)器工作擊穿電壓[23]與激勵(lì)器所處環(huán)境壓強(qiáng)呈正相關(guān)，與放電頻率呈負(fù)相關(guān)。

表1 實(shí)驗(yàn)數(shù)據(jù)Table 1 Experimental data

在一個(gè)開有出口孔縫的小腔體內(nèi)放電產(chǎn)生等離子體，通過加熱腔內(nèi)氣體使等離子體增壓膨脹并高速噴出，產(chǎn)生速度高達(dá)數(shù)百米每秒的高能射流，即等離子體合成射流。射流鋒面前方有一道呈球?qū)ΨQ的結(jié)構(gòu)，為前驅(qū)激波的強(qiáng)壓縮波。前驅(qū)激波與射流出口孔縫之間的距離即為脫體距離。當(dāng)高能射流達(dá)到最大長度時(shí)，前驅(qū)激波與射流出口孔縫之間達(dá)到最大脫體距離。拍攝等離子體合成射流流場(chǎng)的發(fā)展過程，截取高能射流達(dá)到最大長度時(shí)的一幀圖像作為最大脫體距離圖像，如圖2所示。通過在圖像中測(cè)量前驅(qū)激波最遠(yuǎn)點(diǎn)與射流出口孔縫2 個(gè)像素點(diǎn)之間的距離得到本研究所需的最大脫體距離。

圖2 最大脫體距離圖像示例Fig.2 An example image of maximum out of body distance

將控制對(duì)象參數(shù)和主動(dòng)激勵(lì)參數(shù)作為高斯過程回歸模型的輸入、控制效果參數(shù)作為高斯過程回歸模型的輸出，其參數(shù)設(shè)置同表1。圖2即顯示了一組控制效果參數(shù)的實(shí)驗(yàn)結(jié)果。

在將數(shù)據(jù)輸入機(jī)器學(xué)習(xí)的模型之前，為避免參數(shù)數(shù)值范圍不同對(duì)建模效果產(chǎn)生影響，需要將數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理。標(biāo)準(zhǔn)化公式為：

1.2 基于GPR 的控制效果參數(shù)預(yù)測(cè)模型

本文針對(duì)激勵(lì)器控制效果預(yù)測(cè)的小樣本回歸問題，提出了基于高斯過程回歸的預(yù)測(cè)模型，模型框架如圖3所示。以逆向等離子體合成射流實(shí)驗(yàn)為例，輸入為4 維參數(shù)向量（頭錐直徑、放電電容、腔體體積和出口直徑）。首先將4 維參數(shù)向量作為輸入數(shù)據(jù)輸入到GPR 模型中訓(xùn)練模型，然后將GPR 模型輸出的預(yù)測(cè)值與實(shí)驗(yàn)獲得的最大脫體距離真實(shí)值進(jìn)行對(duì)比，使用誤差評(píng)估方法計(jì)算最大脫體距離的真實(shí)值與預(yù)測(cè)值之間的誤差，得到GPR 模型的預(yù)測(cè)精度。本文的樣本數(shù)為15，特征維度為4，滿足使用高斯過程回歸模型的最低樣本容量要求[26]。

圖3 基于GPR 的控制效果參數(shù)預(yù)測(cè)模型框架Fig.3 The framework of control effect parameter prediction model based on GPR

1.2.1 GPR 的模型假設(shè)

高斯過程可視為定義在函數(shù)f（x）上的一個(gè)分布，其性質(zhì)由均值函數(shù)和協(xié)方差函數(shù)決定：

式中：x、x′ ∈Rd，為d維輸入向量；m（x）為均值函數(shù)；k（x，x′）為協(xié)方差函數(shù)。

假設(shè)訓(xùn)練集為{（xi，yi）|i=1，···，n}，n 為訓(xùn)練集樣本數(shù)。對(duì)于回歸問題，模型如下：

式中：ε～N（0，）為高斯噪聲；xi為第i個(gè)輸入向量，xi ∈Rd；yi為對(duì)應(yīng)的觀測(cè)值，yi∈R。為計(jì)算方便，將yi中心化，均值設(shè)置0，這時(shí)所有觀測(cè)值構(gòu)成的列向量y=[y1，y2，···，yn]T的先驗(yàn)概率分布為：

式中：X為特征矩陣，矩陣中每一行代表一個(gè)輸入向量；K（X，X）=Kn=（kij）n×n為n×n階對(duì)稱正定協(xié)方差矩陣，矩陣元素kij=k（xi，xj）；In為n階單位矩陣。

1.2.2 GPR 的訓(xùn)練

假設(shè)一個(gè)協(xié)方差函數(shù)的超參數(shù)集合為θ=，m為超參數(shù)的數(shù)量，通常采用極大似然法確定θ的最優(yōu)值。觀測(cè)值y的邊緣概率分布為：

通過式（7）可以得到訓(xùn)練集的負(fù)對(duì)數(shù)邊際似然函數(shù)為：

式中，C=K（X，X）+，|C|為矩陣C的行列式。GPR 模型的優(yōu)化目標(biāo)為：

計(jì)算L（θ）關(guān)于各超參數(shù)θi的偏導(dǎo)數(shù)，然后采用共軛梯度下降法等優(yōu)化算法迭代更新超參數(shù)來最小化L（θ）。

1.2.3 協(xié)方差函數(shù)的選擇

本文使用的協(xié)方差函數(shù)有Polynomial（Poly）核、Squared exponential isotropic（SEiso）核、Squared exponential automatic relevance determination（SEard）核、Stationary+Matern（SM）核和Additive（Add）核[27]。

Poly 是一種非標(biāo)準(zhǔn)核函數(shù)，比較適用于正交歸一化后的數(shù)據(jù)。根據(jù)平方指數(shù)協(xié)方差函數(shù)的超參數(shù)取值，可以分為2 種核函數(shù)：當(dāng)向量對(duì)應(yīng)的各個(gè)維度帶寬取值相同時(shí)，得到的核函數(shù)就是各向同性的平方指數(shù)核，即SEiso 核；當(dāng)向量對(duì)應(yīng)的各個(gè)維度帶寬取值不同時(shí)，得到的核函數(shù)就是各向異性的平方指數(shù)核，即SEard 核。SM 協(xié)方差函數(shù)是將多種單一的核函數(shù)相加構(gòu)成的復(fù)雜協(xié)方差函數(shù)。Add 作為加性協(xié)方差函數(shù)，在輸入向量的各個(gè)維度定義基本的協(xié)方差函數(shù)。

1.2.4 GPR 的預(yù)測(cè)

對(duì)于測(cè)試集中的一個(gè)樣本x*，其對(duì)應(yīng)的預(yù)測(cè)值f*與觀測(cè)值y的聯(lián)合先驗(yàn)分布為：

通過式（10）和一些矩陣運(yùn)算，可以得到預(yù)測(cè)值f*的條件概率分布為：

式中：

式（12）為預(yù)測(cè)值，式（13）為預(yù)測(cè)的方差，可以評(píng)估預(yù)測(cè)的不確定度。

1.3 特征重要性分析

本文使用的特征重要性分析[28]方法有LASSO回歸、隨機(jī)森林和自動(dòng)關(guān)聯(lián)確定。不同的特征重要性分析方法的準(zhǔn)則不同，通過綜合比較多種特征重要性分析方法的結(jié)果，增加分析結(jié)果的置信程度。

1.3.1 LASSO 回歸

數(shù)據(jù)集D={（x1，y1），（x2，y2），···，（xN，yN）}，其中N 為數(shù)據(jù)集樣本數(shù)。考慮最簡單的線性回歸模型，以平方誤差作為損失函數(shù)，則優(yōu)化目標(biāo)為：

式中，w 為權(quán)重向量。當(dāng)樣本特征很多而樣本數(shù)相對(duì)較少時(shí)，式（14）很容易陷入過擬合。為了緩解過擬合問題，對(duì)式（14）引入L1 正則：

式中，λ ＞0，為正則化參數(shù)。式（15）為LASSO 的優(yōu)化目標(biāo)[29]。LASSO 采用L1 正則，可以產(chǎn)生稀疏解（w 許多分量為0）。根據(jù)這一特性進(jìn)行特征選擇，權(quán)重絕對(duì)值大的分量對(duì)結(jié)果的影響大。

1.3.2 隨機(jī)森林

隨機(jī)森林[30]是以決策樹[31]為基學(xué)習(xí)器構(gòu)建的模型。RF 可以用于特征重要性分析，計(jì)算特征重要性的方法主要有2 種：

1）采用平均不純度減少準(zhǔn)則

通過不純度能夠確定節(jié)點(diǎn)，即最優(yōu)條件。一個(gè)森林能夠計(jì)算每個(gè)特征平均減少的不純度，并把平均減少的不純度作為特征重要性分析的值。

2）采用平均準(zhǔn)確性減少準(zhǔn)則

RF 在構(gòu)建每一棵基決策樹時(shí)，使用bootstrap的方式對(duì)樣本進(jìn)行有放回采樣，因此每次都會(huì)有一些樣本不參與決策樹的構(gòu)建，這些樣本即為袋外數(shù)據(jù)（out of bag data），可以利用這些數(shù)據(jù)進(jìn)行特征重要性評(píng)估。對(duì)于RF 中的每一棵基決策樹，先利用袋外數(shù)據(jù)進(jìn)行測(cè)試得到測(cè)試誤差，然后將這些測(cè)試數(shù)據(jù)[e1，e2，···，em]的某個(gè)特征順序打亂（改變測(cè)試樣本特征值）再得到m 個(gè)測(cè)試誤差，將其作為該特征的重要性。若一個(gè)特征發(fā)生改變對(duì)預(yù)測(cè)結(jié)果影響很大，則說明該特征比較重要。

1.3.3 自動(dòng)關(guān)聯(lián)確定

假設(shè)輸入空間是二維，x=（x（1），x（2）） ，ARD 核的形式為：

可以看出，隨著特定ηi（對(duì)輸入空間距離的伸縮變換參數(shù)）的減小，函數(shù)受輸入變量x（i）的影響變小。將x=（x（1），x（2））代入式（16）得到 ：

假設(shè)η2很小，則即：

此時(shí)核函數(shù)的取值幾乎不受輸入變量x（2）的影響，說明x（2）對(duì)最終輸出的影響不大。利用ARD 協(xié)方差函數(shù)的這個(gè)性質(zhì)，可以判斷出不同特征對(duì)結(jié)果的影響大小，并且整個(gè)過程無需人為干預(yù)，模型可自適應(yīng)地從數(shù)據(jù)中學(xué)得這種關(guān)系。

2 實(shí)驗(yàn)結(jié)果及分析

2.1 預(yù)測(cè)性能評(píng)估

采用均方根誤差（RMSE）作為訓(xùn)練和測(cè)試誤差：

模型驗(yàn)證采用K 折交叉驗(yàn)證，其本質(zhì)是創(chuàng)建一系列訓(xùn)練集和測(cè)試集，先計(jì)算模型在每個(gè)測(cè)試集上的準(zhǔn)確率，再計(jì)算平均值。具體步驟如下：1）將原始數(shù)據(jù)集劃分為相等的K 部分；2）將第1 部分作為測(cè)試集，其余作為訓(xùn)練集；3）訓(xùn)練模型，計(jì)算模型在測(cè)試集上的準(zhǔn)確率；4）每次用不同的部分作為測(cè)試集，重復(fù)步驟2）和3） K 次；5）將平均準(zhǔn)確率作為最終的模型準(zhǔn)確率。留一交叉驗(yàn)證法是K 折交叉驗(yàn)證的一個(gè)特例，將數(shù)據(jù)子集劃分的數(shù)量與樣本數(shù)相同（K=N），每次只留一個(gè)樣本用于測(cè)試，這種方法適用于小樣本的情況。由于本文屬于小樣本問題，且樣本的參數(shù)取值跨度很大，參數(shù)的分布密度較低，因此采用原始數(shù)據(jù)的4 個(gè)激勵(lì)器參數(shù)特征、15 個(gè)樣本進(jìn)行留一交叉驗(yàn)證實(shí)驗(yàn)，即每次選取14 個(gè)樣本作為訓(xùn)練數(shù)據(jù)，留一個(gè)樣本來評(píng)估模型預(yù)測(cè)的結(jié)果，重復(fù)實(shí)驗(yàn)15 次，取15 次實(shí)驗(yàn)結(jié)果的平均RMSE 評(píng)價(jià)模型性能。

不同核函數(shù)的訓(xùn)練均方根誤差盒狀圖如圖4所示，測(cè)試誤差均值如表2所示。由圖4可知，SM 和Add 核訓(xùn)練誤差明顯比其他核函數(shù)低，表明其對(duì)訓(xùn)練數(shù)據(jù)的擬合程度更好。但由表2可知，這2 種核函數(shù)的測(cè)試誤差明顯高于其他核函數(shù)，而二次多項(xiàng)式核函數(shù)Poly2 雖然在訓(xùn)練數(shù)據(jù)集上誤差高于SM 和Add 核，但在測(cè)試數(shù)據(jù)集上獲得了最高的預(yù)測(cè)精度。這是由于SM 和Add 核所含超參數(shù)較多，在樣本數(shù)較少的情況下容易產(chǎn)生過擬合。多項(xiàng)式核、SEiso核和SEard 核都只含有2 個(gè)超參數(shù)，在小樣本訓(xùn)練的情況下具有較好的泛化性能。

圖4 訓(xùn)練數(shù)據(jù)集上GPR 不同核函數(shù)對(duì)應(yīng)的預(yù)測(cè)RMSE 盒狀圖Fig.4 Boxplot of RMSE for models with different kernel functions of GPR on training data set

表2 測(cè)試數(shù)據(jù)集上GPR 不同核函數(shù)對(duì)應(yīng)的預(yù)測(cè)RMSE 均值Table 2 Mean RMSE for models with different kernel functions of GPR on test data set

2.2 相關(guān)性分析

2.2.1 皮爾遜相關(guān)系數(shù)

皮爾遜相關(guān)系數(shù)[32]可以衡量2 個(gè)變量（x（1），x（2））的線性相關(guān)程度，其值介于-1 和1 之間，計(jì)算公式如下：

式中，μ為樣本均值，σ為標(biāo)準(zhǔn)差。通過計(jì)算逆向射流數(shù)據(jù)不同特征和最大脫體距離之間的皮爾遜相關(guān)系數(shù)，得到如圖5所示的相關(guān)性熱圖?？梢钥闯觯^錐直徑、放電電容與最大脫體距離相關(guān)性較強(qiáng)，且呈正相關(guān)；腔體體積、出口直徑與最大脫體距離呈負(fù)相關(guān)，且出口直徑與最大脫體距離之間的線性相關(guān)性最弱。

圖5 皮爾遜相關(guān)系數(shù)Fig.5 Pearson correlation coefficients

2.2.2 特征重要性分析

通過皮爾遜相關(guān)系數(shù)可以初步得出各個(gè)特征與最大脫體距離之間的線性相關(guān)性，但復(fù)雜流場(chǎng)的頭錐直徑、腔體體積、放電電容、出口直徑與最大脫體距離之間并不是簡單的線性關(guān)系。為了進(jìn)一步挖掘它們之間的關(guān)系，利用ARD、LASSO、RF 這3 種特征重要性分析方法得到各個(gè)特征的重要性，如圖6～8 所示。

ARD 核函數(shù)自適應(yīng)可以確定重要特征的特點(diǎn)，通過高斯過程回歸得到各個(gè)維度的帶寬L（歸一化后），L 越大，則特征對(duì)結(jié)果的影響越小。定義特征重要性為L–1。由圖6可知，頭錐直徑對(duì)結(jié)果的影響最大，出口直徑對(duì)結(jié)果的影響最小。這也從某種角度為后期實(shí)驗(yàn)指明了方向：對(duì)結(jié)果影響較小的特征，實(shí)驗(yàn)過程中的采樣數(shù)量可以盡量少；相反，對(duì)結(jié)果影響較大的特征，實(shí)驗(yàn)過程中的采樣數(shù)量可以盡量多。這樣可以最大限度地減少實(shí)驗(yàn)次數(shù)，增加數(shù)據(jù)的多樣性，從有限的數(shù)據(jù)中挖掘盡可能多的有用信息。

圖6 ARD 特征重要性分析結(jié)果Fig.6 Results of feature importance analysis from ARD

由皮爾遜相關(guān)系數(shù)可知，頭錐直徑、腔體體積、放電電容和出口直徑之間無明顯的線性相關(guān)性，所以此時(shí)可以利用LASSO 來分析特征重要性。將LASSO 的正則化參數(shù)設(shè)為0.1，得到各個(gè)特征權(quán)重的絕對(duì)值。從圖7可以看出，利用LASSO 得到的特征重要性分析結(jié)果與ARD 方法的結(jié)果完全一致。

圖7 LASSO 特征重要性分析結(jié)果Fig.7 Results of feature importance analysis from LASSO

RF 有2 種計(jì)算特征重要性的方式，在本實(shí)驗(yàn)中采用平均準(zhǔn)確性減少準(zhǔn)則，因?yàn)槠骄患兌葴p少準(zhǔn)則對(duì)取值個(gè)數(shù)較多的特征存在一定的偏好，會(huì)使特征重要性估計(jì)不準(zhǔn)確。由于本文只有4 個(gè)特征，所以在訓(xùn)練RF 時(shí)并沒有引入屬性擾動(dòng)，為了增加結(jié)果的穩(wěn)定性，將基決策樹的個(gè)數(shù)設(shè)為100。由圖8可知，與前述2 種方法一樣，RF 的結(jié)果也是頭錐直徑對(duì)最大脫體距離影響最大，而出口直徑對(duì)最大脫體距離影響最小。

圖8 RF 特征重要性分析結(jié)果Fig.8 Results of feature importance analysis from RF

上述特征重要性分析方法針對(duì)實(shí)驗(yàn)樣本的參數(shù)進(jìn)行，而樣本的數(shù)量有限，因此實(shí)驗(yàn)結(jié)果只適用于樣本的參數(shù)取值范圍（頭錐直徑30～70 mm，腔體體積250～3 000 mm3，放電電容80～640 nF，出口直徑1.5～9.0 mm）。 由特征重要性分析結(jié)果可知：相對(duì)而言，頭錐直徑對(duì)最大脫體距離影響最大；其次是腔體體積和放電電容，這2 個(gè)參數(shù)對(duì)最大脫體距離的影響相差不大；出口直徑影響最小。

2.3 特征與預(yù)測(cè)結(jié)果的關(guān)系分析

圖9和表3顯示了最大脫體距離的預(yù)測(cè)結(jié)果，其中紅框、綠框和藍(lán)框標(biāo)注出了預(yù)測(cè)不夠準(zhǔn)確的樣本。對(duì)應(yīng)表3中的實(shí)驗(yàn)數(shù)據(jù)可以發(fā)現(xiàn)，紅色方框中樣本的頭錐直徑分別為30 和70 mm，藍(lán)色方框中樣本的放電電容分別為80 和160 nF，綠色方框中樣本的腔體體積分別為3000、500 和250 mm3。頭錐直徑作為最大脫體距離最重要的影響特征，放電電容和腔體體積作為次重要的特征，實(shí)驗(yàn)數(shù)據(jù)在這3 個(gè)特征上分布密度較低，導(dǎo)致模型的預(yù)測(cè)不夠準(zhǔn)確。對(duì)比發(fā)現(xiàn)黃框中樣本的預(yù)測(cè)相對(duì)準(zhǔn)確（真實(shí)值與預(yù)測(cè)值誤差的均值最?。?，對(duì)應(yīng)于采樣密度較低的出口直徑。由于出口直徑是重要性最小的特征，因此對(duì)最大脫體距離預(yù)測(cè)精度的影響較小。除顏色框中的樣本外，其余樣本在各個(gè)特征維度上的分布密度較大，因此預(yù)測(cè)結(jié)果均較為準(zhǔn)確。根據(jù)以上分析，為提高模型預(yù)測(cè)精度，設(shè)計(jì)實(shí)驗(yàn)時(shí)應(yīng)加大對(duì)控制效果參數(shù)影響較大的激勵(lì)器參數(shù)的設(shè)置密度，減少對(duì)控制效果參數(shù)影響較小的激勵(lì)器參數(shù)的設(shè)置密度，以減少實(shí)驗(yàn)次數(shù)，最大程度利用實(shí)驗(yàn)資源。

圖9 最大脫體距離真實(shí)值和預(yù)測(cè)值Fig.9 Real and predicted values of maximum out of body distance

表3 實(shí)驗(yàn)數(shù)據(jù)及預(yù)測(cè)結(jié)果Table 3 Experimental data and prediction results

3 結(jié) 論

1）使用逆向等離子體合成射流激波控制實(shí)驗(yàn)數(shù)據(jù)對(duì)激勵(lì)器參數(shù)和控制效果參數(shù)之間的映射關(guān)系進(jìn)行建模，建立了高斯過程回歸模型。對(duì)比多種核函數(shù)下高斯過程回歸的預(yù)測(cè)效果，采用二次多項(xiàng)式核函數(shù)Poly2 的高斯過程回歸預(yù)測(cè)效果最好，因此對(duì)于樣本量少的數(shù)據(jù)集，使用“簡單”的核函數(shù)能夠得到更為準(zhǔn)確的預(yù)測(cè)結(jié)果。

2）采用3 種特征重要性分析方法（ARD、LASSO、RF）分析各個(gè)激勵(lì)器參數(shù)特征對(duì)最大脫體距離的影響程度，結(jié)果發(fā)現(xiàn)頭錐直徑對(duì)最大脫體距離的影響程度最大，放電電容和腔體體積的影響次之且相近，出口直徑的影響最小。

3）對(duì)結(jié)果影響比較大的特征（如頭錐直徑、放電電容和腔體體積）應(yīng)增加其采樣數(shù)量；反之，對(duì)結(jié)果影響較小的特征（如出口直徑）可以減少其采樣數(shù)量，以減少實(shí)驗(yàn)次數(shù)。

4）本文提出的應(yīng)用于逆向等離子體合成射流激波控制實(shí)驗(yàn)的控制效果分析方法，也適用于工程設(shè)計(jì)中其他類似控制問題研究。通過對(duì)少量實(shí)驗(yàn)數(shù)據(jù)內(nèi)隱含的激勵(lì)器參數(shù)和控制效果參數(shù)之間的映射關(guān)系建模，并對(duì)激勵(lì)器參數(shù)進(jìn)行重要性分析，可以得到合理的實(shí)驗(yàn)參數(shù)設(shè)置方式，提高實(shí)驗(yàn)效率和控制效果預(yù)測(cè)精度。