基于機器學(xué)習(xí)的整體穿刺加壓參數(shù)預(yù)測方法

楊景朝， 蔣秀明,2， 董九志,2， 陳云軍， 梅寶龍

(1. 天津工業(yè)大學(xué) 機械工程學(xué)院， 天津 300387； 2. 天津工業(yè)大學(xué) 天津市現(xiàn)代機電裝備技術(shù)重點實驗室，天津 300387； 3. 天津工業(yè)大學(xué) 電氣工程與自動化學(xué)院， 天津 300387)

整體穿刺是制造立體織物的一種技術(shù)，最早由美國AVCO公司研究成功[1]。立體織物的密度對復(fù)合材料的性能有重要影響[2]，整體穿刺加壓密實過程中碳布平均層高要控制在合理工藝要求范圍內(nèi)。國內(nèi)朱建勛團隊最早在2003年研制成功了液壓驅(qū)動整體穿刺機[3]；為提高設(shè)備自動化程度及控制精度，2013年南京玻璃纖維研究院與江蘇機械研究設(shè)計院合作使用可編程邏輯控制器(PLC)和觸摸屏對整體穿刺機進(jìn)行了技術(shù)改造[4]。使用油缸驅(qū)動整體穿刺機精度易受油溫影響，且適用范圍受到一定限制，2015年天津工業(yè)大學(xué)團隊研制由電動機驅(qū)動整體穿刺樣機[5]，具有較高的重復(fù)定位精度，實現(xiàn)了對正交疊層機織碳布進(jìn)行整體穿刺與加壓密實功能。以上研究中使用PLC閉環(huán)控制、自適應(yīng)PID 控制算法等提高了加壓過程的控制執(zhí)行精度，但未考慮穿刺模板離開后織物存在反彈情況。

平均層高波動范圍較大可導(dǎo)致產(chǎn)品一致性較差，立體織物纖維密度的變化也會影響產(chǎn)品的熱力學(xué)性能[6]。周鈺博等[7]采用4種絲束軌跡特性函數(shù)和 2種絲束截面建立了8種穿刺織物結(jié)構(gòu)的三維數(shù)字模型。立體織物的不同的工藝參數(shù)(如碳布類型、加壓間隔、當(dāng)前層數(shù)等)組合時，需要通過加壓和時間組合實現(xiàn)控制目標(biāo)，參數(shù)之間的建模涉及纖維材料學(xué)、彈性力學(xué)、控制工程、理論力學(xué)等多個學(xué)科，尚無一套成熟的理論模型可較好地表征這個過程。

機器學(xué)習(xí)理論在金融、生物、醫(yī)療、健康、營銷等研究領(lǐng)域的應(yīng)用已取得了巨大的成功[8]。智能制造系統(tǒng)可通過機器學(xué)習(xí)技術(shù)發(fā)現(xiàn)大量基礎(chǔ)數(shù)據(jù)背后的規(guī)律，機器學(xué)習(xí)的模型是整個學(xué)習(xí)過程取得成功的關(guān)鍵[9]。線性模型簡單、快捷，可根據(jù)高等數(shù)學(xué)、概率論等充分解釋預(yù)測模型是如何影響輸出結(jié)果的[10]；然而現(xiàn)實環(huán)境中的很多問題是很復(fù)雜的，各因素之間同時存在著線性和非線性關(guān)系[11]。研究中僅使用線性模型進(jìn)行回歸分析有很大的局限性，對比線性和非線性不同模型的預(yù)測性能，本文提出基于機器學(xué)習(xí)理論對整體穿刺加壓參數(shù)進(jìn)行實時預(yù)測的方法,通過訓(xùn)練并優(yōu)化出1個能有助于降低產(chǎn)品平均層高波動范圍的預(yù)測模型，部署到生產(chǎn)實驗環(huán)境中后可根據(jù)累積數(shù)據(jù)不斷自學(xué)習(xí)，持續(xù)動態(tài)優(yōu)化對加壓參數(shù)的預(yù)測性能。

1 整體穿刺加壓參數(shù)預(yù)測建模

1.1 整體穿刺工藝流程

正交疊層機織碳布的整體穿刺過程包含Z向鋼針布放、整體穿刺、加壓密實、鋼針置換等環(huán)節(jié)[12]。碳布置于Z向鋼針矩陣上端，在穿刺模板推動下，與Z向鋼針矩陣整體穿刺，并沿鋼針下移、加壓密實。重復(fù)以上過程至設(shè)定高度后，再由碳纖維逐一替代Z向鋼針，制成整體穿刺預(yù)成型體[13]。整體穿刺立體織物工藝流程如圖1所示。

天津工業(yè)大學(xué)研制的數(shù)字化整體穿刺樣機采用電動機驅(qū)動曲軸，帶動穿刺孔板沿定位光軸上下往復(fù)運動[5]，在整體穿刺過程中需要對碳布加壓保持一段時間，以確保整體穿刺的立體織物平均層高滿足工藝要求。加壓密實結(jié)構(gòu)如圖2所示。

圖2 整體穿刺加壓示意圖Fig.2 Schematic diagram of pressurized compaction and integrated piercing

1.2 基于機器學(xué)習(xí)的參數(shù)之間關(guān)系建模

整體穿刺過程中積累了大量的生產(chǎn)數(shù)據(jù)，產(chǎn)品生產(chǎn)過程中參數(shù)列表為：產(chǎn)品編號、碳布類型、助劑類型、加壓循環(huán)、加壓間隔、當(dāng)前層數(shù)、壓力增加、壓力設(shè)定、時間增加、時間設(shè)定、當(dāng)前高度值、平均層高。其中“壓力設(shè)定”“時間設(shè)定”為整體穿刺的加壓控制參數(shù)，其他為工藝參數(shù)。為方便研究將參數(shù)列表按順序定義，如表1所示。

預(yù)測壓力值時將參數(shù)“壓力設(shè)定”定義為輸出特征y，其他參數(shù)為輸入特征x；預(yù)測保壓時間時將參數(shù)“保壓時間”定義為輸出特征y,其他參數(shù)為輸入特征x。引入機器學(xué)習(xí)中的有監(jiān)督的學(xué)習(xí)方式，通過對現(xiàn)有數(shù)據(jù)集的學(xué)習(xí)，試圖學(xué)得一個函數(shù)關(guān)系f:X→Y,確保f(x)可以很好地預(yù)測對應(yīng)的y,即

表1 機器學(xué)習(xí)建模變量定義Tab.1 Definition of modeling variables for machine learning

注：m為樣本數(shù)量。

y=f(x)

式中：x為輸入特征；y為輸出特征；f為映射函數(shù)。樣本的輸出特征變量是連續(xù)的，可以將此問題轉(zhuǎn)化為機器學(xué)習(xí)中監(jiān)督學(xué)習(xí)的回歸問題。監(jiān)督式機器學(xué)習(xí)流程如圖3所示。

圖3 監(jiān)督學(xué)習(xí)流程示意圖Fig.3 Schematic diagram of supervised learning process

使用訓(xùn)練好的機器模型進(jìn)行預(yù)測時，參數(shù)“平均層高”的取值為工藝控制目標(biāo)值k，其他輸入?yún)?shù)從可編程邏輯控制器中實時采集獲得。

1.3 學(xué)習(xí)算法的評估指標(biāo)和方法

為研究整體穿刺過程中機織碳布的壓縮性能，選用八枚三飛經(jīng)面緞紋碳布進(jìn)行正交疊層整體穿刺加壓實驗，并將加壓參數(shù)和碳布層高數(shù)據(jù)實時保存到數(shù)據(jù)庫中，機織碳布整體穿刺成預(yù)制體后在數(shù)據(jù)庫中形成一個完整的數(shù)據(jù)樣本。每個預(yù)制體整體穿刺過程的數(shù)據(jù)樣本可在Python中轉(zhuǎn)換為一個訓(xùn)練樣本，從中選擇50個樣本作為訓(xùn)練樣本，20個樣本作為試驗樣樣本。

歐洲化妝品及其他商品有效性評估專家機構(gòu)（EEMCO）關(guān)于皮膚顏色評估指導(dǎo)指出，計算 ITA°似乎是安全預(yù)測用于確定MED的紫外線劑量范圍的最準(zhǔn)確方法。數(shù)字顏色比語言更精確地表達(dá)顏色，目前的儀器方法已被證明既敏感又可靠。而目前ITA°與MED的相關(guān)性數(shù)據(jù)但在世界范圍內(nèi)已經(jīng)引起重視，但在中國人群特別是南方人群中目前文獻(xiàn)還比較少，數(shù)據(jù)來源于外國，我們將具有非常大的局限性，極大地限制了該方法在我國SPF值檢測工作中的實際應(yīng)用。因此，十分有必要進(jìn)行中國人群皮膚膚色與最小紅斑量的相關(guān)性的研究，并建立相關(guān)的數(shù)據(jù)庫，將有助于更快速、更經(jīng)濟、更準(zhǔn)確地進(jìn)行防曬化妝品防曬指數(shù)SPF值的檢測。

從50個訓(xùn)練樣本中隨機抽取1個樣本，使用線性回歸、5階多項式線性回歸、30階多項式線性回歸3個模型對壓力和層高的特征關(guān)系進(jìn)行擬合訓(xùn)練，層數(shù)與壓力的擬合關(guān)系如圖4所示?？梢钥闯?，線性模型未能很好地擬合訓(xùn)練樣本，預(yù)測新樣本時必然無法準(zhǔn)確預(yù)測數(shù)據(jù)，會出現(xiàn)欠擬合；30階多項式回歸模型訓(xùn)練過度擬合了訓(xùn)練數(shù)據(jù)，包含了部分樣本的個性特征或隨機噪音，在預(yù)測新樣本時會導(dǎo)致過擬合。

圖4 過擬合和擬合對比圖Fig.4 Comparison diagram of under fitting and over fitting

針對50個訓(xùn)練樣本使用3種回歸模型對全部特征數(shù)據(jù)進(jìn)行訓(xùn)練，層數(shù)與壓力2個特征擬合關(guān)系如圖5所示。

圖5 全特征的多模型擬合圖Fig.5 Multi models fitting diagram with full features

回歸訓(xùn)練中仍存在過擬合和欠擬合的情況，擬合訓(xùn)練中加入了多個特征，對層高與壓力的擬合關(guān)系產(chǎn)生了影響。圖5中的曲線波動幅度與圖4相比明顯減弱，但二維圖對多維度回歸關(guān)系的展示存在不足，不能直接得出回歸擬合效果有本質(zhì)提升的結(jié)論。為解決二維圖對包含多特征的擬合關(guān)系判斷效果不佳的問題，對全特征的多樣本模型訓(xùn)練效果引入性能度量。在回歸分析中常通過對比新的樣本在模型上的預(yù)測值和真實值之間的誤差，來計算模型性能度量：

式中：f為模型預(yù)測函數(shù)；y(i)為樣本的真實值；f(x(i))為樣本的預(yù)測值；i為樣本序號；m為樣本數(shù)。50個樣本訓(xùn)練后性能度量得分如表2所示。

表2 多樣本在3種模型下的均方誤差得分表Tab.2 MSE score table of multiple samples based on three models

通過對比圖4和表2說明，3種模型在單特征、單樣本情況下和全特征、多樣本情況下的擬合效果基本一致。

2 整體穿刺加壓參數(shù)預(yù)測模型訓(xùn)練

2.1 基于機器學(xué)習(xí)的加壓參數(shù)預(yù)測流程

機器學(xué)習(xí)是致力于研究如何通過計算的手段，利用經(jīng)驗來改善系統(tǒng)自身的性能。計算機系統(tǒng)中“經(jīng)驗”通常以“數(shù)據(jù)”形式存在，機器學(xué)習(xí)研究的是計算機從數(shù)據(jù)中產(chǎn)生“模型”，通過將經(jīng)驗數(shù)據(jù)提供給學(xué)習(xí)算法產(chǎn)生模型，在新的數(shù)據(jù)到來時就可以進(jìn)行預(yù)測或判斷[15]。機器學(xué)習(xí)流程如圖6所示。加壓參數(shù)預(yù)測問題可轉(zhuǎn)化為機器學(xué)習(xí)中的監(jiān)督學(xué)習(xí)，從數(shù)據(jù)集中學(xué)習(xí)出一個目標(biāo)函數(shù)，當(dāng)新的數(shù)據(jù)到來時可根據(jù)這個函數(shù)預(yù)測結(jié)果。

圖6 機器學(xué)習(xí)流程示意圖Fig.6 Schematic diagram of machine learning process

2.2 數(shù)據(jù)特征處理

2.2.1 數(shù)據(jù)特征轉(zhuǎn)換

通過特征提取得到的未經(jīng)處理特征存在2個問題：一是定性特征不能直接使用；二是多個特征值不屬于同一量綱。按照算法模型分別轉(zhuǎn)換數(shù)據(jù)有助于提高算法模型的準(zhǔn)確度。

表3 數(shù)據(jù)特征的標(biāo)簽編碼Tab.3 Label encoding of data features

使用獨熱編碼將離散特征的取值擴展到歐式空間，離散特征的某個取值就對應(yīng)歐式空間的某個點。編碼后的特征每一維度都可看作是連續(xù)的特征，可對其進(jìn)行歸一化處理。對于線性模型來說，獨熱編碼處理可達(dá)到非線性的效果。數(shù)據(jù)特征獨熱編碼后處理的結(jié)果如表4所示。

表4 數(shù)據(jù)特征的獨熱編碼Tab.4 One-Hot encoding of data features

2.2.2 數(shù)據(jù)特征選擇

特征處理時需考慮2個方面：一是特征是否發(fā)散，不發(fā)散則對樣本的區(qū)分無意義；二是特征與目標(biāo)的相關(guān)性，相關(guān)性高的特征應(yīng)優(yōu)先選擇。

本文對碳布類型、助劑類型、加壓間隔3個特征進(jìn)行獨熱編碼，特征值只有0和1。計算特征方差后，對于85%以上實取值都是1或0的特征進(jìn)行移除。用低方差移除特征的處理結(jié)果如表5所示。

單變量特征選擇是分別單獨計算每個變量的某個指標(biāo)，根據(jù)該指標(biāo)來判斷指標(biāo)重要性，刪除次要指標(biāo)。F回歸對矩陣X的第3個列向量X[:,i]和y進(jìn)行計算，其值越大相關(guān)性越強。F回歸公式為

表5 移除低方差的數(shù)據(jù)特征Tab.5 Removing data features with low variance

式中，len(y)為計算列向量y的元素個數(shù)。ρi使用如下公式進(jìn)行計算：

式中：mean(X[:,i])和mean[y]分別為x和y的平均值；std(X[:,i])和std(y)分別為x和y的數(shù)據(jù)的標(biāo)準(zhǔn)差。

用皮爾遜系數(shù)進(jìn)行特征選擇的標(biāo)準(zhǔn)如表6所示。

表6 皮爾遜系數(shù)相關(guān)程度分類表Tab.6 Correlation degree classification table of Pearson coefficient

綜合考慮皮爾遜系數(shù)和F回歸2種標(biāo)準(zhǔn)作為單變量特征選擇的標(biāo)準(zhǔn)，處理結(jié)果如表7所示。

表7 單變量特征選擇處理結(jié)果Tab.7 Processing results of univariate feature selection

2.3 模型選擇

模型選擇是從成熟算法中選取適合當(dāng)前項目需求的算法并建立模型，一般通過性能度量對模型的泛化性進(jìn)行評估。在scikit-learn中，不使用成本函數(shù)來表達(dá)模型性能，而使用分?jǐn)?shù)來表達(dá)，分?jǐn)?shù)值在[0,1]之間，數(shù)值越大說明模型準(zhǔn)確性越好。本文研究中評估模型用到均方誤差(MSE)、平均絕對誤差(MAE)、R2這3種評價標(biāo)準(zhǔn)，MAE和MSE越小，R2越大，則說明預(yù)測模型描述實驗數(shù)據(jù)具有更好精確度。對4種線性回歸算法線性回歸、嶺回歸、套索回歸、彈性網(wǎng)絡(luò)回歸和2種非線性算法K近鄰和支持向量機進(jìn)行評估，結(jié)果如表8所示。

表8 6種模型在3種準(zhǔn)則下的評估矩陣Tab.8 Evaluation matrices of six models under three kinds of criteria

根據(jù)預(yù)測性能得分，保留線性算法的嶺回歸和非線性算法的K近鄰回歸，為觀察得分的分布情況，對 2種保留模型預(yù)測得分做箱線圖，結(jié)果如圖7所示?？芍琄近鄰回歸的偏差小于嶺回歸，K近鄰回歸的方差大于嶺回歸。說明K近鄰回歸整體表現(xiàn)優(yōu)于嶺回歸，選擇K近鄰回歸為基學(xué)習(xí)器。

圖7 2種模型在3種評估準(zhǔn)則下的箱線圖Fig.7 Box Line chart of two models under three kinds of criteria

2.4 優(yōu)化模型

機器學(xué)習(xí)中可通過裝袋、提升等集成算法提高模型的性能[15]。集成算法通過構(gòu)建多個學(xué)習(xí)器來完成學(xué)習(xí)任務(wù)，一般結(jié)構(gòu)是先產(chǎn)生1組個體學(xué)習(xí)器，再用某種策略把他們組合起來。裝袋(Bagging)算法適用于強模型，方差較大偏差較小的情況。Bagging算法采樣出T個含m個訓(xùn)練樣本的采樣集，對每個采樣集訓(xùn)練出1個基學(xué)習(xí)器，回歸預(yù)測中采用平均T個基學(xué)習(xí)器預(yù)測結(jié)果的方法。使用集成算法訓(xùn)練后預(yù)測性能評價得分如表9所示。

表9 集成算法提升模型預(yù)測性能的結(jié)果Tab.9 Improved results of model prediction performance using integrated algorithms

3 參數(shù)預(yù)測模型的實驗驗證

機器學(xué)習(xí)模型序列化部署到Web API(網(wǎng)絡(luò)應(yīng)用程序)服務(wù)器上，通過實驗可驗證預(yù)測模型的準(zhǔn)確性和泛化性能，機器學(xué)習(xí)模型可為整體穿刺過程提供加壓參數(shù)的實時預(yù)測服務(wù)。模型部署過程中序列化和反序列化模型時，需要使用相同的Python、SciPy、scikit-learn類庫版本；如需在scikit-learn中或其他平臺重現(xiàn)這個模型，則需要手動序列化算法參數(shù)。

3.1 控制參數(shù)預(yù)測的實驗參數(shù)與設(shè)備

機器學(xué)習(xí)預(yù)測模型為整體穿刺提供加壓參數(shù)實時預(yù)測服務(wù)，機器學(xué)習(xí)預(yù)測方法在經(jīng)典PID閉環(huán)控制的基礎(chǔ)上考慮了碳布反彈動態(tài)影響因素。工藝要求加壓循環(huán)過程中壓力值和保壓時間依次交替增加，在奇數(shù)加壓周期保壓時間不變，壓力值可增加；在偶數(shù)加壓周期壓力值不變，保壓時間可增加，平均層高設(shè)定目標(biāo)為2.5 mm。實驗工藝參數(shù)如表10所示。

表10 整體穿刺加壓預(yù)測的工藝參數(shù)Tab.10 Process parameters of integrated piercing pressure prediction

整體穿刺機加壓參數(shù)預(yù)測系統(tǒng)及硬件如圖8所示。

圖8 整體穿刺加壓參數(shù)預(yù)測系統(tǒng)Fig.8 Parameter prediction system of integral piercing pressure. (a) System architecture;(b) Machine

PLC控制伺服電動機并實時獲取傳感器數(shù)據(jù)，上位機采用ModBus_TCP協(xié)議與PLC通信，上位機調(diào)用Web API接口，Web API反序列化預(yù)測模型并加載上位機提供的實時工藝參數(shù)，得到預(yù)測結(jié)果反饋給上位機軟件，上位機軟件按工藝控制規(guī)則處理后下發(fā)PLC執(zhí)行，數(shù)據(jù)自動保存到MySql數(shù)據(jù)庫。

3.2 實驗結(jié)果分析與討論

選取經(jīng)典控制方法50個樣本數(shù)據(jù)和機器學(xué)習(xí)方法20個樣本的加壓過程平均層高數(shù)據(jù)。基于matplotlib繪制了使用機器學(xué)習(xí)前后加壓循環(huán)平均層高多樣本均值變化趨勢，如圖9所示。

圖9 機器學(xué)習(xí)預(yù)測模型前后的平均層高Fig.9 Comparison of average layer height before and after machine learning prediction model

分析加壓參數(shù)對整體穿刺過程中產(chǎn)品密度一致性的影響，由圖9可知，平均層高在工藝目標(biāo)2.5 mm上下波動且隨層數(shù)增加逐漸增大，其波動范圍反映了使用機器學(xué)習(xí)方法前后控制精度方面的差別。從曲線可看出，使用預(yù)測模型控制先于經(jīng)典控制方法對生產(chǎn)參數(shù)變化趨勢做出反應(yīng)，使得最終產(chǎn)品的平均層高均值明顯低于經(jīng)典控制方法。

使用Seaborn的displot繪制，并利用機器學(xué)習(xí)前后的立體織物平均層高分布規(guī)律直方圖和kde核函數(shù)估計圖，結(jié)果如圖10所示。

圖10 機器學(xué)習(xí)預(yù)測模型前后產(chǎn)品平均層高Fig.10 Comparison of average layer height before and after machine learning prediction model

分析機器學(xué)習(xí)方法對控制平均層高穩(wěn)定性的效果，由圖10可知，立體織物平均層高的數(shù)據(jù)分布基本滿足正態(tài)分布，使用機器學(xué)習(xí)預(yù)測加壓參數(shù)方法后，樣本平均層高的均值公差從12.0%降低到了6.8%，標(biāo)準(zhǔn)差(σ)由0.008 3降低到了0.006 6；分布曲線在均值(μ±σ)附近有拐點。使用該預(yù)測加壓參數(shù)方法后提高了產(chǎn)品平均層高控制的穩(wěn)定性和產(chǎn)品一致性。

4 結(jié)束語

本文基于scikit-learn機器學(xué)習(xí)類庫訓(xùn)練了1個可對整體穿刺過程加壓參數(shù)進(jìn)行實時預(yù)測的模型，并部署到生產(chǎn)環(huán)境為PLC提供加壓參數(shù)實時預(yù)測服務(wù)。實驗結(jié)果表明，機器學(xué)習(xí)方法應(yīng)用到整體穿刺控制中，提升了平均層高的控制精度和產(chǎn)品一致性。機器學(xué)習(xí)理論與傳統(tǒng)紡織設(shè)備的結(jié)合對于推進(jìn)智能制造具有重要意義，兼具學(xué)術(shù)研究和產(chǎn)業(yè)應(yīng)用價值，但基于監(jiān)督式的學(xué)習(xí)方式對于訓(xùn)練樣本的數(shù)據(jù)質(zhì)量要求較高，預(yù)測模型遷移和擴展時受到一定限制。

FZXB