基于Group-BiLSTM-LightGBM的物料配送需求量預測*

崔 凱，郭 宇，錢偉偉，張 浩，查珊珊，劉金山

(1.南京航空航天大學機電學院，南京 210016；2.中國電子科技集團公司第三十八研究所，合肥 230031；3.北京衛(wèi)星制造廠，北京 100190)

0 引言

隨著新一代網(wǎng)絡信息技術的快速發(fā)展，制造業(yè)面臨的市場環(huán)境和社會環(huán)境發(fā)生了重大變化，多品種、變批量、定制化已成為當前典型的生產(chǎn)特征，顯著增加了物料配送系統(tǒng)的復雜性。保證車間物料在合適的時間、以正確的數(shù)量配送至所需的工位對于提升車間制造水平具有重要意義。

為了解決制造車間物料準確配送問題，近年來眾多學者對其進行了廣泛研究。如宋江[1]在JIT(just in time)理論的基礎上提出了JIS(just in sequence)配送模式，能夠進一步降低庫存量，滿足個性化定制的裝配需求。沈維蕾等[2]針對不確定加工時間下裝配過程物料配送問題，提出一種基于實時信息驅動的物料配送模式。CHOI等[3]開發(fā)一套用于汽車裝配過程的動態(tài)零件進給系統(tǒng)，以動態(tài)估計零件消耗量，為離散制造車間物料配送提供了思路。張連超等[4]提出一種基于灰色理論的衛(wèi)星總裝數(shù)字孿生車間物料需求時間預測方法，以揭示物料需求時間變化的內在規(guī)律。明菲菲[5]通過建立BP神經(jīng)網(wǎng)絡對總裝車間生產(chǎn)物流系統(tǒng)中的物料配送時間進行預測以確保不會因為物料未上線而出現(xiàn)裝配停止的現(xiàn)象。江東[6]采用BP神經(jīng)網(wǎng)絡對發(fā)動機物料需求進行預測并取得了較好的效果。周炳海等[7]等提出基于知識庫和神經(jīng)網(wǎng)絡的調度方法，有效解決了裝配線中多載量小車物料配送的動態(tài)調度問題。黃雪思[8]提出基于物料消耗率的LSTM(long short term memory)模型，實現(xiàn)準確的物料需求時間預測，從而達到物料的精準配送。

綜上所述，國內外在物料配送模式和系統(tǒng)方面進行了大量的研究，并且有學者開始將人工智能技術在物料配送問題進行應用，取得了良好的效果，但是還存在物料配送準確性差的問題。因此，本文提出基于Group-BiLSTM-LightGBM的物料需求量預測方法，將Group-BiLSTM網(wǎng)絡和LightGBM(light gradient boosting machine)模型的輸出結果進行集成，獲得最終的車間物料需求量預測值。該集成模型可獲得較高的預測精度且具有良好的泛化性能。

1 問題描述

車間內N個工位所需物料均由一個配送中心提供，每個工位都有一個物料緩存區(qū)，其對應物料W的存儲容量范圍為[Qmin,Qmax]。工位的物料消耗速度動態(tài)變化，通過車間部署的智能感知設備實時監(jiān)控各工位的物料消耗速度和緩存區(qū)容量，并據(jù)此動態(tài)調整每一次配送過程各工位的物料配送時間窗口[Tlow,Thigh]，其中，Tlow為最早配送時間，Thigh為最晚配送時間。以緩存區(qū)容量不為0為前提，確定工位服務時間窗的區(qū)間長度[9]，工位Ni(i=0,1,…,N)物料W的時間窗長度的計算公式為：

L=Qmin×ci

(1)

式中，Qmin為工位Ni物料W緩存區(qū)的最小容量；ci為單位物料W在工位Ni的消耗時間。

在每一次配送過程中，根據(jù)工位緩存區(qū)的當前容量，確定工位Ni每次配送的配送量，工位Ni物料W的配送量計算公式為：

(2)

(3)

(4)

為了描述不同節(jié)拍下的生產(chǎn)，使用?來衡量車間的節(jié)拍，將一天的時間劃分。以?=30 min為例，將每天24 h分為48個時段，采取如下方式表示，具體為1表示(0:00～0:30)，2表示(0:30～1:00)，以此類推，并且預測每天8:30～18:30期間每個工位每種物料未來?的需求量。

2 基于Group-BiLSTM和LightGBM的物料需求量預測

2.1 數(shù)據(jù)描述和預處理

考慮和物料需求量相關的特征，針對工位Ni、物料W的配送需求，本文的輸入數(shù)據(jù)Xi主要由以下特征組成，可描述為：

步驟1：進行歸一化預處理，計算公式為：

(5)

2.2 基于Group-BiLSTM的物料需求量預測

ft=σ(Wf[ht-1,xt]+bf)

(6)

(7)

(8)

(9)

(10)

(11)

為了能同時提取時序特征，分析數(shù)據(jù)在向前、向后兩個時間方向上的未知關聯(lián)，從正反兩個方向挖掘時序特征，相互約束以形成信息閉環(huán)。改進后的Group-BiLSTM網(wǎng)絡結構如圖1所示，詳細計算公式如式(12)～式(15)所示。該網(wǎng)絡使用多個BiLSTM去挖掘每個特征以及時序特征之間隱含的規(guī)律，獲得更加準確的物料需求量的預測值。

圖1 Group-BiLSTM的網(wǎng)絡結構

(12)

式中，BiLSTM(·)表示式(9)～式(11)定義的BiLSTM操作。

(13)

將抽取的時序特征fa,fo,fl,...,fm_d作為全連接層FC_1的輸入，計算公式為：

YFC_1=FC(fa,fo,fl,...,fm_d)

(14)

式中，F(xiàn)C(·)表示全連接層操作。

(15)

2.3 基于LightGBM的物料需求量預測

圖2 LightGBM模型的預測過程

LightGBM模型是一種分布式梯度提升決策樹增強框架[12]。由于LightGBM模型是決策樹模型，與Group-BiLSTM不同，不需要對輸入特征做歸一化操作，另外，LightGBM模型可以直接處理類別特征(例如，節(jié)假日信息特征)以及數(shù)據(jù)特征缺失問題，無須對其進行編碼?；贚ightGBM模型物料需求的預測過程如圖2所示。

(16)

最佳基礎模型ft對應最佳樹的結構q(x)，對于任意一棵回歸樹都可以表示為wq(x),q∈{1,2,…,J}。其中，J表示葉子節(jié)點數(shù)量；q表示樹的決策規(guī)則；w是表示葉子節(jié)點樣本權重的向量。LightGBM以加法形式進行訓練，其中第t步訓練過程的計算公式為：

(17)

目標函數(shù)用牛頓法快速逼近，最終是尋找一個合理的ft，使Γt盡可能小，為了簡化問題，可將公式轉化為式(18)。

(18)

式中，gi和hi表示損失函數(shù)的一階和二階梯度值，式(18)可以被轉化為式(19)。

(19)

(20)

(21)

通過貪心法，即在某個已有的可劃分節(jié)點中加入一個分割，并通過計算分割前后的增益值決定是否剪枝，從而挑選出使J(ft)達到最小的最佳的樹結構q，增益的計算公式為：

(22)

式中，GL和HL為某節(jié)點分割后對應的左支樣本點的導函數(shù)值；GR和HR為某節(jié)點分割后對應右支樣本點的導函數(shù)值。

(23)

式中，fT(X)表示最終的模型；ft(X)為第Ti(0≤Ti≤T)棵回歸樹的輸出值。

2.4 基于最優(yōu)加權組合的物料需求量模型集成

在Group-BiLSTM網(wǎng)絡和LightGBM模型預測得出物料需求量結果的基礎上，采用最優(yōu)加權組合的方法確定權重系數(shù)[13]，將兩者進行有效集成，組合預測的流程如圖3所示。

圖3 組合預測流程

由圖可知，組合預測流程包括Group-BiLSTM網(wǎng)絡和LightGBM模型分別訓練、驗證、預測和有效集成，其中最優(yōu)加權組合步驟是為了分別獲得模型權重系數(shù)，權重系數(shù)的詳細求解步驟如下：

首先，求出偏差矩陣E，即：

(24)

式中，N*為物料需求量驗證集采樣總數(shù)；e1t和e2t分別為Group-BiLSTM和LightGBM模型在t時刻的預測值與真實值的誤差。

其次，令R=[1,1]T，則組合系數(shù)約束條件為RTK=1，通過拉格朗日乘子法可以求出最優(yōu)權重，計算公式為：

(25)

式中，K=[w1w2]T；w1和w2分別為Group-BiLSTM和LightGBM模型的權重系數(shù)，滿足w1+w2=1。

最后，模型集成后的物料需求量計算公式為：

(26)

3 實驗分析

本文選取某航天裝配車間作為驗證對象，該車間包含10個工位，通過智能采集設備獲得25 469條帶有標簽的車間制造數(shù)據(jù)。按照8:1:1的比例分為訓練集、驗證集和測試集。采用的硬件平臺配置為Intel Core i9-10980XE CPU和NVDIA GTX 3090Ti GPU。軟件采用Python語言實現(xiàn)。

3.1 參數(shù)設置

超參數(shù)的設置對于LSTM網(wǎng)絡和LightGBM模型的收斂速度及預測效果有著重要的影響，本實驗采用文獻[14]所提出的超參數(shù)搜索方法，設置的參數(shù)如表1所示。

表1 Group-BiLSTM和LightGBM的參數(shù)設置

3.2 實驗結果與分析

為了驗證本文所提模型的性能，選取平均絕對百分比誤差EMAPE和均方根誤差ERMSE作為實驗的評價指標，計算公式分別為：

(27)

(28)

式中，yt為t時刻物料需求量的真實值；Ntest為測試集的樣本數(shù)。

分別采用不同組合模型對現(xiàn)場采集的實時數(shù)據(jù)進行物料需求預測，實驗結果如表2所示。

表2 不同模型的結果比較

表中一天對應的值是指測試集中2020年11月1日～2020年11月30日中模型評價指標的平均值，同理，半小時對應的值是指測試集中2020年11月1日～2020年11月30日中每半個小時模型評價指標的平均值。由表2可知， Group-BiLSTM-LightGBM在EMAPE的評價指標下的按照半小時和一天的時間間隔預測性能最優(yōu)，分別達到了0.203和0.047。在ERMSE的評價指標下按照半小時和一天的時間間隔預測性能也最優(yōu)，分別達到了17.26和259.938。

對比不同模型對2020年11月2日工作時間每半小時的物料需求量預測值，結果如圖4所示。

圖4 單一和組合模型的預測對比

由圖4可知，通過不同模型的對比，Group-BiLSTM-LightGBM預測效果總體最優(yōu)，LightGBM和Group-BiLSTM預測效果較優(yōu)，BiLSTM預測效果總體上最差。對實際值發(fā)生突變的點(如12點)，Group-BiLSTM-LightGBM集成模型仍具有較高的精確度，說明本文所提Group-BiLSTM-LightGBM集成模型具有物料需求量預測精度高和魯棒性強的優(yōu)勢。

對比不同組合模型對2020年11月2日工作時間每半小時的物料需求量預測值，結果如圖5所示。

圖5 不同組合模型的預測對比

由圖5可知，在不同組合模型的對比中，Group-BiLSTM模型的誤差最大，在實際值發(fā)生突變的點(如12點)ARIMA-LightGBM和Group-BiLSTM-ARIMA組合模型的預測效果相對單個模型較好，Group-BiLSTM-LightGBM的預測效果總體均保持在較高的水平，且誤差變化更加平穩(wěn)，能夠更好的地預測出車間物料需求量的變化趨勢。

4 結束語

本文研究了基于Group-BiLSTM-LightGBM的物料配送需求量預測方法，主要貢獻如下：①提出了一種改進的Group-BiLSTM網(wǎng)絡架構。②提出一種將Group-BiLSTM和LightGBM集成的物料配送需求量預測方法，并采用Optuna進行超參數(shù)優(yōu)化，使得模型能夠獲得精確的預測值。③實驗驗證表明，本文所提方法能夠滿足物料配送需求量預測要求，具有良好的性能，較為明顯提升車間物料配送量需求量預測能力。

綜合考慮本文的研究內容和領域的發(fā)展，在后續(xù)研究中，可以考慮增加更多的關聯(lián)特征，如增加工序、故障等其它特征，并對各個特征進行特征選擇，得出最佳特征集。此外，可以考慮車間的突發(fā)狀況數(shù)據(jù)，進一步提高模型的魯棒性，以期提升物料配送水平。