機(jī)器學(xué)習(xí)算法在燃料棒溫度性能預(yù)測中的應(yīng)用

洪亮，金鑫，劉虓瀚，衛(wèi)小艷

中廣核研究院有限公司，廣東深圳518026

機(jī)器學(xué)習(xí)是人工智能研究的核心技術(shù)，它從數(shù)據(jù)中自動分析獲得規(guī)律（模型），并利用規(guī)律對未知數(shù)據(jù)進(jìn)行預(yù)測.機(jī)器學(xué)習(xí)算法能夠處理大量數(shù)據(jù)，自動調(diào)節(jié)各因素權(quán)重，建立數(shù)據(jù)與認(rèn)知之間的直接映射，跳出了“知識”的束縛.隨著計算能力的提升、新學(xué)習(xí)工具的出現(xiàn)和算法的不斷改進(jìn)，機(jī)器學(xué)習(xí)（包括神經(jīng)網(wǎng)絡(luò)）逐漸在工業(yè)領(lǐng)域得到更加廣泛的應(yīng)用［1-6］.

在核電領(lǐng)域，機(jī)器學(xué)習(xí)現(xiàn)已廣泛用于堆芯物理參數(shù)計算、核素含量預(yù)測和堆芯事故診斷等過程.周劍東等［7］基于決策樹的模式識別方法對堆芯物理參數(shù)進(jìn)行預(yù)測，實現(xiàn)了參數(shù)的快速預(yù)測并取得了較好的預(yù)測精度.黃禹等［8］采用誤差反向傳播（back propagation，BP）算法基于堆芯核功率、入口溫度、流量和壓力等變量對堆芯偏離泡核沸騰比（departure from nucleate boiling ratio，DNBR）進(jìn)行快速預(yù)測，并得到了較好的準(zhǔn)確性.BAE等［9］采用神經(jīng)網(wǎng)絡(luò)在給定初始富集度和燃耗條件下預(yù)測壓水堆（pressurized water reactor，PWR）的乏燃料的同位素成分.李仕鮮等［10］采用神經(jīng)網(wǎng)絡(luò)方法對核電廠的失水事故（loss of coolant accident，LOCA）進(jìn)行診斷和預(yù)測，證明神經(jīng)網(wǎng)絡(luò)對破口位置和尺寸的診斷準(zhǔn)確率較高且診斷穩(wěn)定性較好.

燃料棒是反應(yīng)堆的第1道安全屏障，也是反應(yīng)堆產(chǎn)熱的唯一源泉，其性能直接影響反應(yīng)堆的安全性、可靠性和經(jīng)濟(jì)性，因此，正確預(yù)測燃料棒在堆內(nèi)輻照行為是燃料設(shè)計和性能評價的基本要求.由于燃料棒在堆內(nèi)行為復(fù)雜，且各種行為相互耦合，常需要開發(fā)專業(yè)的燃料棒性能分析軟件來預(yù)測燃料棒的性能.此類軟件的開發(fā)過程涉及大量試驗數(shù)據(jù)、復(fù)雜的模型建立和模型驗證與確認(rèn)，開發(fā)周期通常在10 a左右.其中，包殼外表面溫度和芯塊中心溫度是燃料棒設(shè)計需著重關(guān)注的重要性能參數(shù).

針對燃料棒性能分析軟件開發(fā)投入巨大和研發(fā)周期漫長的特點，本研究采用機(jī)器學(xué)習(xí)算法構(gòu)建基于芯塊材料類型、包殼材料類型、燃料棒軸向高度、軸向局部功率、堆芯入口溫度和包殼水側(cè)腐蝕厚度6個物理特征參數(shù)的包殼外表面溫度和芯塊中心溫度性能參數(shù)（目標(biāo)參數(shù)）預(yù)測模型.采用機(jī)器學(xué)習(xí)方法不需要進(jìn)行復(fù)雜的熱力耦合模型開發(fā)，而是通過建立特征數(shù)據(jù)與性能數(shù)據(jù)之間的對應(yīng)關(guān)系進(jìn)行參數(shù)預(yù)測，從而縮短軟件開發(fā)周期，節(jié)約研發(fā)成本.用于機(jī)器學(xué)習(xí)算法訓(xùn)練和測試的數(shù)據(jù)集要求的數(shù)據(jù)量大且維度多，一般實驗數(shù)據(jù)無法滿足該要求.因此，本研究主要關(guān)注基于機(jī)器學(xué)習(xí)算法的燃料棒溫度模型的訓(xùn)練和測試，探討機(jī)器學(xué)習(xí)算法在燃料棒性能分析中的應(yīng)用，采用燃料棒性能分析軟件JASMINE［11］的計算結(jié)果作為訓(xùn)練和測試數(shù)據(jù)集.所用機(jī)器學(xué)習(xí)算法分別為k近鄰（k-nearest neighbor，kNN）［12］、決策樹（decision tree，DT）［13］和集成學(xué)習(xí)算法AdaBoost［14］.kNN算法是基于距離樣本特征最近的k個樣本的目標(biāo)平均值來進(jìn)行預(yù)測，參數(shù)k對預(yù)測準(zhǔn)確性有影響.DT算法是基于迭代二叉樹3 代（iterative dichotomiser 3，ID3）、C4.5 或分類回歸樹（classification and regression tree，CART）算法在每個節(jié)點上對特征進(jìn)行判斷，從而形成的一種樹型結(jié)構(gòu)，本研究采用CART 算法.AdaBoost 算法是一種有效且實用的提升（boosting）算法，其算法原理是通過調(diào)整樣本權(quán)重和弱學(xué)習(xí)器權(quán)值，從訓(xùn)練出的弱學(xué)習(xí)器中篩選出權(quán)值系數(shù)最小的弱學(xué)習(xí)器組合成一個最終強(qiáng)學(xué)習(xí)器.

1 模型框架

基于Python 的集成開發(fā)環(huán)境PyCharm，使用Scikit-learn 工具包進(jìn)行數(shù)據(jù)處理、模型訓(xùn)練和模型預(yù)測.圖1為本研究構(gòu)建的基于JASMINE軟件數(shù)據(jù)預(yù)測包殼外表面溫度和芯塊中心溫度的模型框架.該模型由數(shù)據(jù)集構(gòu)建、模型訓(xùn)練和模型預(yù)測與評估3部分構(gòu)成.

圖1 基于JASMINE軟件數(shù)據(jù)預(yù)測包殼外表面溫度和芯塊中心溫度的模型框架Fig.1 Model framework for prediction of cladding outside surface temperature and pellet center temperature based on JASMINE software.

數(shù)據(jù)集構(gòu)建.采用JASMINE軟件的輸入?yún)?shù)和輸出結(jié)果作為機(jī)器學(xué)習(xí)算法訓(xùn)練和測試數(shù)據(jù)集，建立輸入?yún)?shù)與輸出結(jié)果之間的函數(shù)關(guān)系.JASMINE軟件的輸入?yún)?shù)和輸出結(jié)果作為原始數(shù)據(jù)必須先進(jìn)行處理，再采用保留法被劃分為訓(xùn)練集和測試集.本研究中訓(xùn)練集和測試集規(guī)模的比例為3∶1.

模型訓(xùn)練和測試，即建立模型并對模型的參數(shù)進(jìn)行調(diào)優(yōu).kNN 算法的目標(biāo)函數(shù)是歐式距離.DT算法的目標(biāo)函數(shù)是平方誤差，AdaBoost算法采用的損失函數(shù)是指數(shù)損失.本研究采用遍歷的方法優(yōu)化kNN算法的參數(shù)k，采用網(wǎng)格搜索對DT算法和模型的參數(shù)進(jìn)行整體調(diào)優(yōu).

模型預(yù)測和評估，通過分別計算模型的均方誤差和平均絕對誤差，評估模型預(yù)測的準(zhǔn)確性.為展示模型的真實預(yù)測情況，對比誤差最小的模型的預(yù)測值與目標(biāo)值，并分別計算兩者的最大偏差.

2 數(shù)據(jù)集構(gòu)建

本研究基于某核電廠燃料棒的典型輸入算例，通過修改芯塊類型、包殼類型和堆芯入口溫度等參數(shù)構(gòu)建算例.冷卻劑入口溫度依次設(shè)計為286、288、290、292和294 ℃.

JASMINE是中廣核自主研發(fā)的用于壓水堆燃料棒Ⅰ類和Ⅱ類性能分析計算的軟件.本研究采用JASMINE 軟件對20 個輸入算例（2 種芯塊× 2 種包殼×5 種冷卻劑入口溫度）進(jìn)行計算，并在由輸入?yún)?shù)和輸出結(jié)果形成的原始數(shù)據(jù)中進(jìn)行數(shù)據(jù)的特征工程，分別構(gòu)成模型的訓(xùn)練數(shù)據(jù)集和測試數(shù)據(jù)集.按照此方法，本研究共構(gòu)建了12 040 個樣本數(shù)據(jù)，其中訓(xùn)練數(shù)據(jù)9 030個，測試數(shù)據(jù)3 010個.數(shù)據(jù)集芯塊類型、包殼類型、局部功率、軸向段高度、堆芯入口溫度和腐蝕層厚度6個特征參數(shù)，以及包殼外表面溫度和芯塊中心溫度2 個目標(biāo)參數(shù).其中，芯塊類型包括UO2和Gd2O3-UO2；包殼類型為Zr-4和M5；局部功率取值范圍為0～40 kW/m；軸向段高度取值范圍為0～3 600 mm；堆芯入口溫度取值范圍為286～294 ℃；腐蝕層厚度為0～90 μm.

3 模型訓(xùn)練和測試

分別建立kNN、DT和AdaBoost 3種算法的模型并進(jìn)行參數(shù)調(diào)優(yōu).回歸模型一般采用R2方法來衡量模型的擬合度（即準(zhǔn)確性），因此，本研究采用R2來確定模型的最佳參數(shù).R2計算公式為

其中，u為殘差平方和，；v為總平方和，；N為樣本數(shù)量；i為數(shù)據(jù)樣本編號；fi為模型預(yù)測值；yi為樣本點i實際的數(shù)據(jù)標(biāo)簽（即包殼外表面溫度或者芯塊中心溫度）；為實際數(shù)據(jù)標(biāo)簽的平均值.

3.1 kNN算法

分別計算當(dāng)k取不同值時采用kNN 算法構(gòu)建的預(yù)測模型對包殼外表面溫度和芯塊中心溫度預(yù)測的準(zhǔn)確性（R2），結(jié)果如圖2.由圖2 可見，當(dāng)k=2時，模型對包殼外表面溫度和芯塊中心溫度的預(yù)測準(zhǔn)確性最佳.

圖2 kNN算法參數(shù)k對（a）包殼外表面溫度和（b）芯塊中心溫度預(yù)測的準(zhǔn)確性趨勢Fig.2 Trend charts of parameter k to forecast accuracy R2 for(a)cladding outside surface temperature and(b)pellet center temperature.

3.2 DT算法

圖3展示了DT算法的預(yù)測準(zhǔn)確性（R2）分別隨決策樹最大深度（max_depth）、葉子節(jié)點需要的最小樣本數(shù)（min_samples_leaf）和執(zhí)行分裂所需最小不純度減少量（min_impurity_decrease）變化的趨勢.由圖3 可知，隨著max_depth 增加，預(yù)測準(zhǔn)確性逐漸增加，并且當(dāng)max_depth 增大到一定數(shù)值后預(yù)測準(zhǔn)確性不再增加.隨著min_samples_leaf 和min_impurity_descrease 增大，預(yù)測準(zhǔn)確性逐漸降低.為優(yōu)化這3 個參數(shù)，本研究采用網(wǎng)格搜索（GridSearch）的方法進(jìn)行整體調(diào)優(yōu).DT 算法的模型最佳參數(shù)如表1.

圖3 DT算法性能預(yù)測準(zhǔn)確性R2隨參數(shù)（a）max_depth、（b）min_sample_leaf和（c）min_impurity_decrease變化趨勢Fig.3 Trend charts of performance prediction accuracy R2 of DT algorithm with parameter(a)max_depth,(b)min_sample_leaf,and(c)min_impurity_decrease.The triangle is the cladding outside surface temperature,and the circle is the pellet center temperature.

表1 DT算法預(yù)測性能的最佳參數(shù)Table 1 Optimal parameters for predicting performance of DT algorithm

3.3 AdaBoost算法

對于AdaBoost算法，本研究只針對最大弱學(xué)習(xí)器個數(shù)（n_estimator）和學(xué)習(xí)率（learning_rate）進(jìn)行調(diào)參，其他參數(shù)采用默認(rèn)值.AdaBoost算法的預(yù)測準(zhǔn)確性（R2）分別隨n_estimator 和learning_rate 變化的趨勢如圖4.由圖4 可見，隨著n_estimator 增加，R2將有少量提高，并且當(dāng)n_estimator增至50以后，預(yù)測準(zhǔn)確性增加非常少；隨著learning_rate增加，R2值變化非常小.但是，n_estimator和learning_rate的取值還會影響模型訓(xùn)練時間，因此需要權(quán)衡考慮.本研究采用網(wǎng)格搜索（GridSearch）得到模型的最佳參數(shù)，即包殼外表面溫度的目標(biāo)參數(shù)learning_rate=1，n_estimators=300；芯塊中心溫度的目標(biāo)參數(shù)learning_rate=1，n_estimators=300.

圖4 AdaBoost算法性能預(yù)測準(zhǔn)確性R2隨參數(shù)（a）n_estimator和（b）learning_rate變化趨勢Fig.4 Trend charts of performance prediction accuracy R2 of AdaBoost algorithm with parameter(a)n_estimator and(b)learning_rate.The triangle is the cladding outside surface temperature and the circle is the pellet center temperature.

4 模型預(yù)測和評估

4.1 預(yù)測誤差

為有效評估模型的預(yù)測能力，分別計算kNN、DT 和Adaboost 算法預(yù)測結(jié)果的均方誤差（mean square error，MSE）和平均絕對誤差（mean absolute error，MAE），計算公式分別為

3 種算法預(yù)測包殼外表面遇變和芯塊中心溫度的結(jié)果的誤差如表2.由表2 可知，AdaBoost 算法的預(yù)測誤差最小.

表2 三種算法的模型預(yù)測誤差對比Table 2 Comparison of model prediction errors of the three algorithms

4.2 結(jié)果評價

為直觀地展示模型對包殼外表面溫度和芯塊中心溫度的預(yù)測情況，圖5給出了AdaBoost 算法的預(yù)測值和目標(biāo)值，以及采用AdaBoost進(jìn)行預(yù)測的偏差(預(yù)測值-目標(biāo)值).由于樣本量大，圖中僅展示芯塊為UO2，包殼材料為Zr-4合金，軸向段為第13段的一種入口溫度的樣本數(shù)據(jù).

由圖5（a）可見，AdaBoost算法對包殼外表面溫度預(yù)測的最大偏差為3 ℃，且大部分偏差為0，說明AdaBoost 算法對包殼外表面溫度預(yù)測偏差非常小.由圖5（b）可見，芯塊中心溫度的預(yù)測偏差大部分＜10 ℃，表明AdaBoost 對芯塊中心溫度的預(yù)測效果良好.綜上分析，AdaBoost算法對包殼外表面溫度和芯塊中心溫度具有較高的預(yù)測精度.

圖5 AdaBoost算法對（a）包殼外表面溫度和（b）芯塊中心溫度性能預(yù)測Fig.5 Prediction of(a)cladding outer surface temperature and(b)pellet center temperature performance by AdaBoost algorithm.The square is target value,the triangle is predictive value,and the circle is the differente between predictive value and the target value.

結(jié)語

1）分別采用kNN、DT 和AdaBoost 3 種機(jī)器學(xué)習(xí)算法實現(xiàn)對包殼外表面溫度和芯塊中心溫度的預(yù)測.實驗結(jié)果表明，AdaBoost 算法的預(yù)測精度最高.

2）參數(shù)優(yōu)化后的AdaBoost 算法對包殼外表面溫度和芯塊中心溫度的均方誤差分別為0.605 ℃和8.347 ℃，平均絕對誤差分別為0.273 ℃和3.814 ℃，預(yù)測效果良好.

3）基于Adaboost 算法建立的芯塊和包殼溫度計算模型與燃料棒性能分析軟件的計算結(jié)果進(jìn)行了對比驗證，但是模型在應(yīng)用之前還需要根據(jù)試驗數(shù)據(jù)進(jìn)行確認(rèn).

該模型只能對溫度性能參數(shù)進(jìn)行預(yù)測，而燃料棒性能分析軟件包含對熱學(xué)、力學(xué)、腐蝕吸氫、材料物性及輻照性能等進(jìn)行計算分析，其中熱力學(xué)是相互耦合，建模相對復(fù)雜.若將所提模型嵌入到JASMINE 軟件，替換其中的燃料棒溫度計算部分，則可以簡化燃料棒性能分析軟件的模型框架.