基于知識圖譜嵌入和補(bǔ)全的電梯故障預(yù)測

侯靖琳，仇潤鶴+，薛季愛，王 晨，蔣學(xué)芹

(1.東華大學(xué) 信息科學(xué)與技術(shù)學(xué)院，上海 261620；2.上海市特種設(shè)備監(jiān)督檢驗(yàn)技術(shù)研究院， 上海 200062；3.數(shù)字化紡織服裝技術(shù)教育部工程研究中心，上海 261620)

0 引 言

隨著“智慧城市”和“智慧電梯”的發(fā)展需求，電梯運(yùn)行系統(tǒng)故障預(yù)測問題已受到廣泛關(guān)注和討論。李娟等從宏觀上設(shè)計(jì)電梯故障預(yù)測平臺技術(shù)標(biāo)準(zhǔn)框架[1]；朱明等根據(jù)環(huán)境對電梯故障率的影響建立電梯故障預(yù)測模型以及診斷方法[2]；徐斌等將預(yù)警平臺分3層構(gòu)建并分別對故障數(shù)據(jù)進(jìn)行預(yù)處理和挖掘以及結(jié)果預(yù)測[3]；張翼等根據(jù)電梯部件的特征值及變化趨勢進(jìn)行故障的預(yù)測[4]；曾夢琦提出將數(shù)據(jù)立方體與Apriori思想結(jié)合的方法來進(jìn)行故障預(yù)測[5]。但電梯故障數(shù)據(jù)存在的數(shù)據(jù)重復(fù)駁雜、數(shù)據(jù)關(guān)系薄弱等問題還需解決，目前已有學(xué)者提出基于知識圖譜進(jìn)行故障預(yù)測工作，如方冰等提出基于規(guī)則驅(qū)動的故障預(yù)測方法[6]，但該方法是對裝備故障進(jìn)行的預(yù)測，目前基于知識圖譜預(yù)測電梯故障的方法還未被提出。而王鑫等對知識圖譜的數(shù)據(jù)模型進(jìn)行分析[7]，為知識推理、嵌入和補(bǔ)全提供支持。故本文對電梯故障的知識圖譜進(jìn)行更深層次的應(yīng)用，針對電梯故障預(yù)測需求，提出使用規(guī)則推理、知識圖譜嵌入[8]和知識圖譜補(bǔ)全[9]實(shí)現(xiàn)電梯故障預(yù)測的方法，將電梯故障預(yù)測轉(zhuǎn)化為知識圖譜補(bǔ)全任務(wù)以實(shí)現(xiàn)故障預(yù)測，為完善電梯的故障預(yù)測平臺提供保障。

1 電梯故障預(yù)測模型及知識圖譜構(gòu)建

1.1 電梯故障預(yù)測模型

圖1是基于知識圖譜的電梯故障預(yù)測的模型，將原始的電梯故障數(shù)據(jù)進(jìn)行簡單的整理并收集到普通的數(shù)據(jù)集合，通過直接映射或R2RML規(guī)則映射成為知識圖譜三元組，結(jié)合本體層形成知識圖譜。將電梯故障預(yù)測轉(zhuǎn)化為知識圖譜補(bǔ)全任務(wù)，并考慮一種混合的電梯故障預(yù)測方法，即組合傳統(tǒng)規(guī)則推理方法與知識圖譜嵌入方法進(jìn)行電梯故障預(yù)測，鑒于兩種方法在預(yù)測中的效率和準(zhǔn)確度，選擇以知識圖譜嵌入為主要的預(yù)測方法，傳統(tǒng)的規(guī)則推理為輔助預(yù)測方法，如圖1所示，知識圖譜嵌入技術(shù)在構(gòu)建知識圖譜之后經(jīng)Trans系列翻譯模型實(shí)現(xiàn)三元組的向量表示，通過ProjE模型實(shí)現(xiàn)知識圖譜補(bǔ)全任務(wù)；規(guī)則推理方法則通過構(gòu)建規(guī)則實(shí)現(xiàn)推理預(yù)測。

圖1 基于知識圖譜的電梯故障預(yù)測模型

1.2 電梯故障知識圖譜構(gòu)建

電梯故障知識圖譜的構(gòu)建過程主要包含知識的提取、融合以及加工等步驟，從半結(jié)構(gòu)化的數(shù)據(jù)如表格數(shù)據(jù)中提取三元組結(jié)構(gòu)化信息，通過融合將三元組的實(shí)體間的歧義消除，以得到一系列基本的表達(dá)，之后通過知識加工初步構(gòu)建出電梯故障的知識圖譜。

知識圖譜的基本元素用描述兩個實(shí)體之間關(guān)系的三重事實(shí)表示，即(頭實(shí)體h，關(guān)系r，尾實(shí)體t)，并將其存儲到資源描述框架據(jù)庫中。電梯故障知識圖譜如圖2所示，該圖展現(xiàn)對于電梯故障知識圖譜模式層和數(shù)據(jù)層的構(gòu)建。知識圖譜分為模式層和數(shù)據(jù)層，其中模式層主要表現(xiàn)電梯故障信息中概念本體與本體之間的上下位關(guān)系以及本體與屬性的類型定義，數(shù)據(jù)層則是模式層中本體和關(guān)系的實(shí)例化，即實(shí)體和關(guān)系，如，數(shù)據(jù)層的電梯A是模式層中本體電梯ID的一個實(shí)例化的實(shí)體，數(shù)據(jù)層中實(shí)體電梯A的屬性類型由模式層電梯ID及其屬性來定義。模式層定義數(shù)據(jù)層中大部分概念，將相應(yīng)已經(jīng)提取、融合、加工的數(shù)據(jù)進(jìn)行規(guī)約映射入數(shù)據(jù)層即可得到相應(yīng)的三元組。之后對于電梯故障預(yù)測的具體操作則針對數(shù)據(jù)層進(jìn)行，如圖2中虛線所示的故障預(yù)測，通過本文提出的方法可實(shí)現(xiàn)對相應(yīng)電梯進(jìn)行故障發(fā)生的預(yù)測。

圖2 電梯故障知識圖譜

2 基于知識圖譜嵌入和補(bǔ)全的電梯故障預(yù)測

2.1 傳統(tǒng)規(guī)則推理的電梯故障輔助預(yù)測

本文提出一種傳統(tǒng)規(guī)則推理的電梯故障輔助預(yù)測方法——針對關(guān)系的規(guī)則。該方法中的規(guī)則庫是根據(jù)電梯運(yùn)行經(jīng)驗(yàn)和應(yīng)用中典型的輸入輸出制定，而庫中的規(guī)則對知識圖譜的推理進(jìn)行擾動和影響。規(guī)則可采用事件-條件-動作模型進(jìn)行相應(yīng)的表述，輸入變量為 [C1,C2,C3,C4,C5,…], 輸出變量為E，即，電梯日常運(yùn)行中運(yùn)行速度C1、溫度C2、濕度C3、載重量C4、曳引機(jī)振動值C5等輸入的變量值對于電梯故障即輸出變量E的影響強(qiáng)度較大，且在 [C1,C2,C3,C4,C5,…] 處于某范圍時較易出現(xiàn)某故障即輸出變量E，則輸出變量E的值計(jì)算如下

(1)

其中，C=ω1·C1+ω2·C2+ω3·C3+…,ωi為相應(yīng)權(quán)重，輸出變量E為故障現(xiàn)象或描述，規(guī)則中將輸入變量根據(jù)日常統(tǒng)計(jì)進(jìn)行加權(quán)平均得到相應(yīng)的輸出變量，之后將數(shù)據(jù)集中相應(yīng)的環(huán)境實(shí)體和故障實(shí)體進(jìn)行輸入和輸出的匹配，具體規(guī)則根據(jù)日常統(tǒng)計(jì)進(jìn)行編寫，之后規(guī)則引擎通過匹配和推理完成預(yù)設(shè)條件下的動作執(zhí)行，其基本結(jié)構(gòu)形式為：

Rule<規(guī)則名>[<參數(shù)…]

When(Event)

If<[C1,C2,C3,C4,C5,…]>then

End-rule[<規(guī)則名>]

通過以上規(guī)則庫中的規(guī)則，并設(shè)置相應(yīng)的區(qū)間，可通過規(guī)則引擎的推理進(jìn)行相應(yīng)的故障匹配，從而進(jìn)一步發(fā)現(xiàn)實(shí)體間隱含關(guān)系，如，同一廠商、同一年份中列裝的電梯，根據(jù)其中一個電梯曾出現(xiàn)故障現(xiàn)象時檢測到的運(yùn)行速度C1、溫度C2、濕度C3、載重量C4、曳引機(jī)振動值C5以及層站C6等這類電梯的狀態(tài)值和相應(yīng)的電梯故障，可進(jìn)行知識推理，當(dāng)某電梯A出現(xiàn)類似狀態(tài)值的情況時，推理出可能出現(xiàn)故障的電梯系統(tǒng)或者原因，其規(guī)則可表示如下：

Rule[<電梯注冊代碼(ID)>、<制造單位>、<電梯歷史故障狀態(tài)>、<電梯歷史故障記錄>、<電梯當(dāng)前的狀態(tài)>]

When(Event(elevator_a))

If<[C1,C2,C3,C4,C5,…](elevator_a)≈[C1,C2,C3,C4,C5,…](elevator_a)>then

End-rule []

其中，Event(elevator_a)表示電梯A的故障現(xiàn)象， [C1,C2,C3,C4,C5,…](elevator_a) 表示電梯A的輸入變量數(shù)組，E(elevator_a)表示電梯A的輸出變量；電梯B同理。

根據(jù)上述規(guī)則，經(jīng)過推理可在此知識圖譜上加入一個新的事實(shí)三元組(電梯A，發(fā)生，故障現(xiàn)象)。添加規(guī)則后進(jìn)行的故障推理預(yù)測如圖3所示。

圖3 添加規(guī)則后進(jìn)行推理預(yù)測

由于傳統(tǒng)規(guī)則推理不僅要求日常數(shù)據(jù)的統(tǒng)計(jì)，更要求投入較大人力資源進(jìn)行規(guī)則庫的編寫，且規(guī)則庫維護(hù)成本高，故本文在基于知識圖譜進(jìn)行的電梯故障預(yù)測的實(shí)現(xiàn)方面，將傳統(tǒng)規(guī)則推理作為輔助預(yù)測的方法進(jìn)行設(shè)計(jì)，可降低維護(hù)頻率和故障預(yù)測對于人力資源的依賴。為提高準(zhǔn)確率，同時減少對人力資源的消耗和依賴，將知識圖譜嵌入方向作為主要切入點(diǎn)，以傳統(tǒng)規(guī)則推理為輔助，通過主輔兩種方法進(jìn)行電梯故障預(yù)測。

2.2 知識圖譜嵌入和補(bǔ)全的電梯故障鏈接預(yù)測

知識圖譜可以有效地表示結(jié)構(gòu)化數(shù)據(jù)[10]，而知識圖譜三元組對于故障預(yù)測的兼容可通過知識圖譜嵌入技術(shù)實(shí)現(xiàn)。由此，知識圖譜嵌入的電梯故障鏈接預(yù)測是將知識圖譜三元組進(jìn)行向量化，將實(shí)體和關(guān)系轉(zhuǎn)化為連續(xù)的向量空間，從而簡化操作，同時保留知識圖譜的原有的結(jié)構(gòu)。主要方法上，本文從知識圖譜嵌入和補(bǔ)全方向?qū)﹄娞莨收项A(yù)測進(jìn)行實(shí)現(xiàn)，將故障預(yù)測問題轉(zhuǎn)化為知識圖譜補(bǔ)全中鏈接預(yù)測任務(wù)中的實(shí)體預(yù)測問題，即對于未知是否故障或未知故障原因的電梯實(shí)體，預(yù)測該電梯實(shí)體的尾部實(shí)體是某個故障或故障原因?qū)嶓w。該方法要求將知識圖譜所構(gòu)成的三元組進(jìn)行向量化表示，之后進(jìn)行知識圖譜補(bǔ)全任務(wù)的實(shí)現(xiàn)。

2.2.1 TransE模型進(jìn)行向量化表示

對于每個事實(shí)三元組 (h,r,t)， TransE模型[11]將實(shí)體和關(guān)系表示為同一空間中，把關(guān)系向量r看作為頭實(shí)體向量h和尾實(shí)體向量t之間的平移即h+r≈t，即通過平移不變性可得到其它頭、尾實(shí)體與之相同的關(guān)系的向量表示[12]。TransE模型有較多變體，但由于本文對于電梯故障知識圖譜進(jìn)行鏈接預(yù)測的實(shí)體多為一對一，且TransE本體模型的參數(shù)較少，計(jì)算的復(fù)雜度低，故本文選擇TransE本體翻譯模型進(jìn)行知識圖譜嵌入，實(shí)現(xiàn)三元組的低維稠密向量表示，即，對于給定的事實(shí)，用本文中的知識圖譜進(jìn)行演示， (h,r,t) 分別代表三元組(電梯A，發(fā)生，門系統(tǒng)故障)中的頭實(shí)體、關(guān)系和尾實(shí)體，經(jīng)過TransE訓(xùn)練可以得到 (h,r,t) 的低維向量h,r,t，且h+r≈t，其模型如圖4所示，正確的三元組向量滿足這種關(guān)系，而不滿足這種關(guān)系的則視為錯誤的三元組向量h′,r,t′。

圖4 TransE模型

TransE損失函數(shù)為

(2)

其中，γ是常數(shù)，表示正負(fù)樣本之間的間距， d(h+r,t) 表示L1或L2范數(shù)， [x]+表示x的正部分,S和S′表示h,r,t和h′,r,t′的集合。

2.2.2 ProjE模型進(jìn)行知識圖譜補(bǔ)全的鏈接預(yù)測任務(wù)

根據(jù)電梯故障預(yù)測中電梯實(shí)體與某故障實(shí)體間關(guān)系未知的本質(zhì)，將電梯故障預(yù)測任務(wù)視作在兩個實(shí)體之間進(jìn)行知識圖譜補(bǔ)全的鏈接預(yù)測任務(wù)，通過ProjE模型實(shí)現(xiàn)知識圖譜補(bǔ)全的鏈接預(yù)測[13]，預(yù)測出知識圖譜中缺失的故障部分，使電梯故障知識圖譜趨于完整。同時，使用ProjE模型將知識圖譜補(bǔ)全問題轉(zhuǎn)化為一項(xiàng)排名任務(wù)[14]，并優(yōu)化候選故障實(shí)體列表的總體分?jǐn)?shù)，為得到候選實(shí)體總體分?jǐn)?shù)，提出一個組合運(yùn)算符，該運(yùn)算符從輸入數(shù)據(jù)中創(chuàng)建目標(biāo)向量，使用候選向量嵌入投影函數(shù)將候選實(shí)體分別投影到相同的目標(biāo)向量上，將候選向量嵌入投影函數(shù)視作排名分?jǐn)?shù)函數(shù)，該排名分?jǐn)?shù)函數(shù)顯示相似度得分標(biāo)量即候選故障實(shí)體列表的總體分?jǐn)?shù)，之后對候選實(shí)體總體分?jǐn)?shù)進(jìn)行排名并接納排名靠前的實(shí)體。

為簡化描述，此處僅給定兩個輸入嵌入，同時將預(yù)測任務(wù)視為排名問題，其中排名最高的候選者是正確的實(shí)體。為了生成這種排名列表，將每個候選項(xiàng)投影到由兩個輸入嵌入的通過組合運(yùn)算符定義的目標(biāo)向量上，得到排名分?jǐn)?shù)。

其組合運(yùn)算符定義為

e⊕r=De·e+Dr·r+bc

(3)

其中，De和Dr分別是全局實(shí)體和關(guān)系的k×k對角矩陣，bc是組合偏差，e表示實(shí)體向量，r表示關(guān)系向量。

使用該組合算子，可將候選向量嵌入投影函數(shù)即排名分?jǐn)?shù)函數(shù)定義為

R(e,r)=g(Wc·f(e⊕r)+bp)

(4)

其中，f(·)和g(·)表示稍后定義的激活函數(shù)，Wc表示候選實(shí)體矩陣，bp表示投影偏差， R(e,r) 代表因變量為向量e和r的排名分?jǐn)?shù)函數(shù)，其值表示W(wǎng)c中某些候選實(shí)體與組合輸入e⊕r之間的相似性。

可將ProjE視為具有組合層和投影(即輸出)層的神經(jīng)網(wǎng)絡(luò)，如圖5所示，圖中給定示例“電梯A”的頭部實(shí)體和“發(fā)生”關(guān)系，即(電梯A，發(fā)生，？)和兩個候選項(xiàng)，此處任務(wù)為計(jì)算每個尾部實(shí)體的排名分?jǐn)?shù)。TransE模型進(jìn)行嵌入，形成實(shí)體和關(guān)系向量矩陣，“●”節(jié)點(diǎn)表示來自實(shí)體嵌入矩陣WE的行向量，“■”節(jié)點(diǎn)表示來自關(guān)系嵌入矩陣WR的行向量；“▲”節(jié)點(diǎn)表示作為對角矩陣的組合運(yùn)算符。

ProjE模型選擇ProjE_pointwise排名方法，通過對函數(shù)R(e,r) 中的g(·)和f(·)使用激活函數(shù)實(shí)現(xiàn)排名分?jǐn)?shù)的計(jì)算，該方法分別將sigmoid和tanh作為g(·)和f(·)的激活函數(shù)。g(·)和f(·)的激活函數(shù)部署后，第i個候選實(shí)體的排名分?jǐn)?shù)函數(shù)為

(5)

3 實(shí)驗(yàn)訓(xùn)練及測試結(jié)果分析

采用本文提出的基于知識圖譜嵌入和補(bǔ)全技術(shù)的故障預(yù)測方法進(jìn)行實(shí)測電梯數(shù)據(jù)故障預(yù)測的實(shí)驗(yàn)訓(xùn)練及測試。根據(jù)提出的故障預(yù)測方法，將本次實(shí)驗(yàn)分為三元組向量化表示和故障預(yù)測兩個階段進(jìn)行。

3.1 實(shí)驗(yàn)設(shè)置

實(shí)驗(yàn)數(shù)據(jù)主要來源于上海市特種設(shè)備監(jiān)督檢驗(yàn)技術(shù)研究院，數(shù)據(jù)包含故障實(shí)體及其屬性、故障現(xiàn)象和原因等。本實(shí)驗(yàn)以電梯故障及故障原因等實(shí)體為側(cè)重點(diǎn)，訓(xùn)練數(shù)據(jù)包含故障電梯實(shí)體69 560條，故障部件實(shí)體46條，故障描述實(shí)體1363條。在TransE模型的三元組向量化表示階段，將故障實(shí)體和關(guān)系根據(jù)其特有的屬性在TransE模型中進(jìn)行向量化表示，實(shí)體向量和關(guān)系向量的維度設(shè)置為100。隨后將生成的實(shí)體矩陣和關(guān)系矩陣各3/4分為訓(xùn)練組、1/4分為測試組。

故障預(yù)測階段使用ProjE模型對已向量表示的三元組進(jìn)行訓(xùn)練，即進(jìn)行實(shí)體預(yù)測的任務(wù)，使用Adam作為具有默認(rèn)超參數(shù)設(shè)置的隨機(jī)優(yōu)化器[15]：β1=0.9，β2=0.999。在訓(xùn)練時，對ProjE中的所有參數(shù)應(yīng)用一個L1正則化器，并在組合運(yùn)算符的頂部應(yīng)用一個dropout層，以防止過度擬合。ProjE中的超參數(shù)是學(xué)習(xí)率lr，嵌入大小k，最小批量大小b，正則化器權(quán)重α，丟失概率pd和否定候選采樣py的成功概率。對于實(shí)體預(yù)測任務(wù)，設(shè)置實(shí)驗(yàn)參數(shù)見表1。在ProjE模型中使用sigmoid和tanh作為g(·)和f(·)的激活函數(shù),得出的排名分?jǐn)?shù)函數(shù)即為式(5)。

圖5 用于實(shí)體預(yù)測的ProjE模型

表1 實(shí)體預(yù)測任務(wù)參數(shù)設(shè)置

3.2 實(shí)驗(yàn)訓(xùn)練過程

在通過TransE模型進(jìn)行向量化表示階段，將電梯故障知識圖譜中的實(shí)體和關(guān)系三元組導(dǎo)出三元組文件以train命名，文件中以(頭實(shí)體，尾實(shí)體，關(guān)系)形式排列，并為三元組中實(shí)體和關(guān)系進(jìn)行id編號，輸出為entity2id.txt以及relation2id.txt文件，文件中記述實(shí)體與關(guān)系相對應(yīng)的id值。將上述3個文件輸入TransE模型進(jìn)行訓(xùn)練，如圖6所示，打開cpp代碼文件，編譯并運(yùn)行TransE模型。

圖6 TransE訓(xùn)練代碼局部

編譯完成后如圖7所示，生成一個2.3 M的exe可執(zhí)行文件，自動運(yùn)行可執(zhí)行文件進(jìn)行三元組的向量化表示，并迭代設(shè)定好的循環(huán)次數(shù)以避免誤差。

圖7 編譯并運(yùn)行TransE

如圖8(a)、圖8(b)所示，三元組經(jīng)TransE模型運(yùn)算導(dǎo)出實(shí)體矩陣WE文件和關(guān)系矩陣WR文件，矩陣文件中向量維度與實(shí)驗(yàn)設(shè)置一致。

圖8 實(shí)體矩陣和關(guān)系矩陣文件

向量化表示階段完成之后，將兩個實(shí)體矩陣文件放在指定Elevator文件夾中并進(jìn)行ProjE訓(xùn)練實(shí)驗(yàn)，在Bash中輸入運(yùn)行指令進(jìn)行訓(xùn)練，其參數(shù)與實(shí)驗(yàn)設(shè)置相對應(yīng)，并進(jìn)行若干次迭代，最終使用測試組對訓(xùn)練所得模型進(jìn)行檢驗(yàn)。

3.3 實(shí)驗(yàn)測試結(jié)果

對于電梯故障預(yù)測，通過對知識圖譜中的所有實(shí)體進(jìn)行排名來預(yù)測給定三元組 (h,r,t) 的缺失h(或t)，實(shí)驗(yàn)采用均值秩(Mean Rank)和HITS@k兩個指標(biāo)來評價該預(yù)測方法的性能。均值秩衡量正確實(shí)體的平均等級，而HITS@k衡量在前k個元素中是否出現(xiàn)正確的實(shí)體(類比為召回率)。濾波后的均值等級和濾波后的HITS@k會忽略結(jié)果中的所有其它真實(shí)實(shí)體，而僅查看目標(biāo)實(shí)體，即排除真實(shí)實(shí)體對預(yù)測排名的干擾。

本次實(shí)驗(yàn)使用實(shí)體預(yù)測任務(wù)評估該模型，并使用實(shí)驗(yàn)程序ProjE_sigmoid.py、數(shù)據(jù)集和在之前相關(guān)工作中建立的指標(biāo)確定其性能。其訓(xùn)練結(jié)果見表2，實(shí)驗(yàn)結(jié)果顯示使用ProjE進(jìn)行電梯故障實(shí)體預(yù)測訓(xùn)練在過濾后的均值秩為76，HITS@10為86.6%。實(shí)驗(yàn)結(jié)果表明，對于目標(biāo)實(shí)體的平均預(yù)測次數(shù)為76，同時HITS@10表示在預(yù)測排名完成后排名前10位的預(yù)測實(shí)體中出現(xiàn)目標(biāo)實(shí)體的平均概率為86.6%，可對電梯故障預(yù)測和維保提供參考。

表2 實(shí)驗(yàn)預(yù)測結(jié)果

4 結(jié)束語

本文提出基于規(guī)則推理和基于知識圖譜嵌入的預(yù)測方法，將電梯故障預(yù)測視作知識圖譜補(bǔ)全任務(wù)，旨在通過改進(jìn)的組合模型實(shí)現(xiàn)電梯故障預(yù)測，利用TransE進(jìn)行向量轉(zhuǎn)化，通過ProjE模型對電梯故障進(jìn)行預(yù)測訓(xùn)練及測試。實(shí)驗(yàn)結(jié)果表明，將知識圖譜應(yīng)用到電梯故障預(yù)測任務(wù)中是可行的。

應(yīng)用知識圖譜嵌入并輔以傳統(tǒng)規(guī)則推理的方法進(jìn)行電梯故障預(yù)測平臺的搭建，可實(shí)現(xiàn)搭建電梯的安全預(yù)警平臺，建立電梯安全預(yù)警及維修保障機(jī)制，以減少維保資源的浪費(fèi)、提高電梯設(shè)備的維保質(zhì)量和效率。