自動(dòng)化故障對(duì)操作者綜合績(jī)效的影響及應(yīng)對(duì)措施

陳樹(shù)駿

（通號(hào)通信信息集團(tuán)有限公司，北京 100070）

隨著自動(dòng)化等技術(shù)的發(fā)展，人-機(jī)協(xié)同任務(wù)中“機(jī)”的部分正在變得越來(lái)越自動(dòng)化，在各個(gè)領(lǐng)域得到了廣泛的應(yīng)用，逐漸將人工操作者從任務(wù)的直接執(zhí)行者變?yōu)榱巳蝿?wù)的監(jiān)控者。在自動(dòng)駕駛領(lǐng)域，駕駛自動(dòng)化可以減少由人為錯(cuò)誤造成的交通事故、提高交通效率，并有望改變?nèi)祟?lèi)駕駛員的角色。如采用了較低水平的自動(dòng)駕駛系統(tǒng)和復(fù)雜的自動(dòng)駕駛輔助系統(tǒng)的特斯拉Model S 和沃爾沃S90 要求駕駛員監(jiān)測(cè)道路情況和自動(dòng)化系統(tǒng)的狀態(tài)[1]，駕駛員的主要任務(wù)從駕駛轉(zhuǎn)變?yōu)榱吮O(jiān)控，因此需要了解自動(dòng)化的功能和故障，以便在系統(tǒng)遇到功能限制時(shí)及時(shí)進(jìn)行干預(yù)，進(jìn)而保證駕駛安全。采用自動(dòng)化技術(shù)不僅可以把人從繁重的體力勞動(dòng)、部分腦力勞動(dòng)及惡劣、危險(xiǎn)的工作環(huán)境中解放出來(lái)，而且能擴(kuò)展人的器官功能，較大程度地提高勞動(dòng)效率。

誠(chéng)然，自動(dòng)化技術(shù)的使用帶來(lái)了多方面的益處，但是也導(dǎo)致了諸多負(fù)面影響，引起了人們的高度關(guān)注。實(shí)際上，并不存在一種完全可靠、永不出錯(cuò)的自動(dòng)化系統(tǒng)，自動(dòng)化功能也會(huì)出現(xiàn)故障或失效的情況。自動(dòng)化故障/失效指的是自動(dòng)化系統(tǒng)出現(xiàn)差錯(cuò)，自動(dòng)化的故障模式可以分為3 種類(lèi)型：漏檢（發(fā)生但是沒(méi)有被檢測(cè)到的故障）、誤報(bào)（未發(fā)生但是被檢測(cè)到的故障）和診斷錯(cuò)誤（檢測(cè)到故障，但是類(lèi)別被診斷錯(cuò)誤的故障）[2]。偶發(fā)性的自動(dòng)化系統(tǒng)故障動(dòng)輒會(huì)造成無(wú)法彌補(bǔ)的災(zāi)難性后果，比如1985 年中華航空358 號(hào)班機(jī)空難：飛行過(guò)程中4 號(hào)引擎的推力減弱且無(wú)法重啟，導(dǎo)致機(jī)身不平衡時(shí)，本就處于超負(fù)荷工作狀態(tài)的機(jī)長(zhǎng)們做出了錯(cuò)誤的判斷和應(yīng)對(duì)操作，加速了飛機(jī)的失速墜落，好在最后在不到609.6 m 的高度將一架俯沖姿勢(shì)的飛機(jī)改為正常運(yùn)行并迫降舊金山機(jī)場(chǎng)，挽救了200 多名乘客的生命；但飛機(jī)的機(jī)身嚴(yán)重受損，機(jī)尾的狀態(tài)極為不好，左側(cè)的水平翼也被折斷，液壓系統(tǒng)已經(jīng)完全被破壞。

經(jīng)過(guò)文獻(xiàn)調(diào)研發(fā)現(xiàn)，目前的研究大多數(shù)是分析自動(dòng)化功能的故障對(duì)于操作者某一方面的影響，并未進(jìn)行多維度的闡述。本文以有自動(dòng)化參與的運(yùn)行工況為背景，從自動(dòng)化信任、操作績(jī)效、情境意識(shí)和工作負(fù)荷在內(nèi)的具體維度評(píng)估自動(dòng)化功能的故障/失效對(duì)操作者綜合績(jī)效的影響，并提出了應(yīng)對(duì)措施。

1 自動(dòng)化故障對(duì)操作者綜合績(jī)效的影響

本文分別從自動(dòng)化信任、操作績(jī)效、情境意識(shí)和工作負(fù)荷的維度闡述自動(dòng)化功能的故障/失效對(duì)操作者綜合績(jī)效的影響。

1.1 自動(dòng)化故障與自動(dòng)化信任

在自動(dòng)化背景下，操作者對(duì)自動(dòng)化系統(tǒng)的信任是其依賴(lài)復(fù)雜自動(dòng)化系統(tǒng)執(zhí)行任務(wù)的基本決定因素之一。自動(dòng)化信任是指在以不確定性和脆弱性為特征的情況下，自動(dòng)化系統(tǒng)將代替操作者實(shí)現(xiàn)操作目標(biāo)的一種態(tài)度，自動(dòng)化系統(tǒng)的可靠性便是其影響因素之一。操作者對(duì)系統(tǒng)主觀感知的信任程度會(huì)影響其對(duì)自動(dòng)化系統(tǒng)的客觀行為上的依賴(lài)程度，信任程度過(guò)高或過(guò)低分別會(huì)導(dǎo)致操作者對(duì)自動(dòng)化系統(tǒng)的過(guò)度依賴(lài)和棄用的不良現(xiàn)象，均不利于人機(jī)交互。

自動(dòng)化故障或失效等異常情況的發(fā)生會(huì)降低操作者對(duì)當(dāng)前執(zhí)行任務(wù)的自動(dòng)化系統(tǒng)的信任程度。LEE 等以一個(gè)駕駛模擬器為實(shí)驗(yàn)設(shè)備，讓56 名司機(jī)完成了他們對(duì)自動(dòng)化的信任程度的問(wèn)卷調(diào)查，對(duì)數(shù)據(jù)的統(tǒng)計(jì)分析結(jié)果表明，違背用戶對(duì)自動(dòng)化性能期望的自動(dòng)化故障會(huì)導(dǎo)致駕駛員的信任水平暫時(shí)下降，之后經(jīng)歷了無(wú)錯(cuò)誤的自動(dòng)化之后，減少的信任會(huì)得到一定程度的恢復(fù)。這表明自動(dòng)化系統(tǒng)本身的可靠性是影響駕駛員對(duì)其信任程度的重要因素。除此之外，某系統(tǒng)的自動(dòng)化功能故障除了會(huì)降低操作者對(duì)該系統(tǒng)的信任程度之外，也會(huì)導(dǎo)致其對(duì)其他100%可靠的自動(dòng)化設(shè)備的可靠性的質(zhì)疑，影響其信任和依賴(lài)水平，稱(chēng)為“擴(kuò)散效應(yīng)”[3]。向駕駛員提供有關(guān)自動(dòng)化系統(tǒng)的信息，以保持駕駛員在監(jiān)督控制中與自動(dòng)化系統(tǒng)本身的持續(xù)交互，是保持駕駛員對(duì)自動(dòng)化系統(tǒng)信任的一種有效手段[4]。

1.2 自動(dòng)化故障與操作績(jī)效

操作績(jī)效是對(duì)作業(yè)者完成任務(wù)好壞程度的客觀度量，是自動(dòng)化系統(tǒng)中需要關(guān)注的重要指標(biāo)。自動(dòng)化系統(tǒng)大多是為正常工況設(shè)計(jì)的，會(huì)不可避免地發(fā)生故障，以至于影響作業(yè)者的操作績(jī)效水平。

SAUER 等模擬了一個(gè)可以在航天飛機(jī)上自動(dòng)將二氧化碳、氧氣、壓力等的參數(shù)保持在設(shè)定的目標(biāo)范圍內(nèi)的管理空氣質(zhì)量的生命維持系統(tǒng)，參與者在實(shí)驗(yàn)中經(jīng)歷了包括氧氣閥門(mén)泄露等在內(nèi)的15 種故障場(chǎng)景。分析結(jié)果表明，系統(tǒng)中主要任務(wù)的自動(dòng)化功能故障會(huì)顯著降低次要任務(wù)的績(jī)效水平，對(duì)主要任務(wù)的績(jī)效會(huì)帶來(lái)負(fù)面影響也得到了實(shí)驗(yàn)驗(yàn)證。

對(duì)于空中交通管制員來(lái)說(shuō)，當(dāng)自動(dòng)化不可靠時(shí)，與信息采集自動(dòng)化相比，所有自動(dòng)化類(lèi)型檢測(cè)即將發(fā)生的碰撞的時(shí)間要長(zhǎng)得多，會(huì)顯著降低工作效率[5]。對(duì)于駕駛模擬無(wú)人機(jī)通過(guò)一系列任務(wù)航段，并且執(zhí)行搜索目標(biāo)和監(jiān)控系統(tǒng)參數(shù)的操作者來(lái)說(shuō)，具有較低可靠性的自動(dòng)化輔助系統(tǒng)會(huì)顯著降低發(fā)生故障的任務(wù)及并發(fā)任務(wù)的績(jī)效水平[6]。

綜上可以看出，自動(dòng)化系統(tǒng)某一功能的自動(dòng)化發(fā)生故障，會(huì)對(duì)該任務(wù)及當(dāng)前并發(fā)任務(wù)或次要任務(wù)的績(jī)效帶來(lái)負(fù)面影響。

1.3 自動(dòng)化故障與情境意識(shí)

作業(yè)者對(duì)工作環(huán)境和系統(tǒng)狀態(tài)的了解程度是影響其能否做出正確決策和是否能防止事故發(fā)生的重要因素，這一因素被稱(chēng)為“情境意識(shí)”。1989 年，美國(guó)國(guó)家運(yùn)輸安全委員會(huì)（National Transportation Safety Board，NTSB）對(duì)361 起通用航空事故進(jìn)行分析并得出結(jié)論，97%的可能原因是飛行員的失誤[7]，而大多數(shù)原因都與飛行員的情境意識(shí)相關(guān)。

具有較高的可靠性和較強(qiáng)的功能是自動(dòng)化系統(tǒng)設(shè)計(jì)的主要目標(biāo)，但是自動(dòng)化系統(tǒng)的可靠性越高、功能越強(qiáng)大，操作者就越有可能將其注意力轉(zhuǎn)移到與當(dāng)前執(zhí)行任務(wù)無(wú)關(guān)的事情上，比如，駕駛員在監(jiān)控汽車(chē)進(jìn)行自動(dòng)駕駛的過(guò)程中很有可能出現(xiàn)打電話等行為，這便是較高程度的自動(dòng)化導(dǎo)致的駕駛員“人在環(huán)外”行為，也可以理解為駕駛員的注意力分散。2018 年，美國(guó)約有250 萬(wàn)人在車(chē)禍中受傷，其中近16%的受傷是由于司機(jī)分心[8]。

2016-02-14，在美國(guó)加州山景城，Google 一輛自動(dòng)駕駛汽車(chē)Lexus 與公交車(chē)發(fā)生的碰撞事故中，駕駛員在汽車(chē)自動(dòng)行駛過(guò)程中沒(méi)有對(duì)汽車(chē)進(jìn)行不間斷監(jiān)控，當(dāng)緊急事件發(fā)生，自動(dòng)化系統(tǒng)失效后，需要人來(lái)接管駕駛?cè)蝿?wù)，但是駕駛員很難在2 s 的時(shí)間內(nèi)做出正確應(yīng)對(duì)，導(dǎo)致這起事故發(fā)生的原因是自動(dòng)化系統(tǒng)的介入在一定程度上降低了駕駛員手動(dòng)操作技能及情境意識(shí)[9]，以至于在系統(tǒng)失效時(shí)不能進(jìn)行有效應(yīng)對(duì)。在鐵路運(yùn)輸系統(tǒng)中，列車(chē)運(yùn)行自動(dòng)控制系統(tǒng)將乘務(wù)員的主要職責(zé)從駕駛轉(zhuǎn)為了監(jiān)控列車(chē)的運(yùn)行狀態(tài)，但是，這種長(zhǎng)期且單調(diào)的監(jiān)控任務(wù)非常不適合人為操作，主要原因在于長(zhǎng)時(shí)間的單調(diào)工作容易導(dǎo)致列車(chē)乘務(wù)員的警覺(jué)性下降，即“單調(diào)效應(yīng)”。

所以，正常工況設(shè)計(jì)的自動(dòng)化系統(tǒng)出現(xiàn)故障或功能失效時(shí)，處于較低情境意識(shí)水平的駕駛員很有可能無(wú)法做出及時(shí)、正確的應(yīng)對(duì)操作，甚至發(fā)生交通事故。

1.4 自動(dòng)化故障與工作負(fù)荷

在人機(jī)系統(tǒng)領(lǐng)域，工作負(fù)荷一直是研究者們關(guān)注的主要指標(biāo)，設(shè)計(jì)自動(dòng)化系統(tǒng)的目標(biāo)之一是在一定程度上降低操作者的工作負(fù)荷。

與完全可靠的自動(dòng)化系統(tǒng)相比，自動(dòng)化故障會(huì)影響操作員的認(rèn)知需求，出現(xiàn)自動(dòng)化故障時(shí)，操作者會(huì)體驗(yàn)到更高的工作負(fù)荷水平。

在航空領(lǐng)域，數(shù)據(jù)通信（Data Communication）是空中交通管制員和機(jī)組人員使用的通信工具，允許操作人員共享實(shí)時(shí)空間、天氣和安全等信息，可以實(shí)現(xiàn)信息的定向傳輸，減少了語(yǔ)音通信引起的錯(cuò)誤。但是，當(dāng)數(shù)據(jù)通信出現(xiàn)故障時(shí)，空中交通管制員與機(jī)組人員之間就需要進(jìn)行口頭溝通，增加了工作負(fù)荷，同時(shí)還占用了操作者的情境意識(shí)資源，降低其績(jī)效水平。汽車(chē)在自動(dòng)駕駛模式下因自動(dòng)駕駛功能限制或計(jì)算機(jī)等的功能限制而發(fā)生故障時(shí)，被要求恢復(fù)對(duì)車(chē)輛控制的駕駛員會(huì)比在手動(dòng)駕駛狀態(tài)下經(jīng)歷更高的腦力負(fù)荷。所以駕駛一輛可能需要隨時(shí)干預(yù)的高度自動(dòng)化汽車(chē)需要駕駛員具有持續(xù)的注意力、保持高度警惕，以便及時(shí)發(fā)現(xiàn)何時(shí)需要恢復(fù)手動(dòng)控制。

2 緩解自動(dòng)化故障帶來(lái)的負(fù)面影響的技術(shù)手段

本文按照故障發(fā)生前、故障發(fā)生時(shí)和故障發(fā)生后的時(shí)間節(jié)點(diǎn)，分別提出對(duì)應(yīng)的技術(shù)手段以緩解自動(dòng)化故障/失效對(duì)操作者綜合績(jī)效的負(fù)面影響，包括提供后備方案、預(yù)防維護(hù)措施和培訓(xùn)；提高系統(tǒng)信息透明度；構(gòu)建故障診斷系統(tǒng)。

2.1 提供故障后備方案、預(yù)防維護(hù)措施

正所謂“未雨綢繆”，對(duì)特定系統(tǒng)提供后備方案、制定對(duì)應(yīng)的故障預(yù)防維護(hù)措施，對(duì)操作人員提供相關(guān)故障培訓(xùn)不失為可行的方式。

在列車(chē)自動(dòng)運(yùn)行的背景下，蘇靖棋提出了3 級(jí)自動(dòng)化運(yùn)行下故障后備方案中可能的人-機(jī)協(xié)作方式，即：傳統(tǒng)的人-人協(xié)作，采用ETCS（European Train Control System，歐洲列車(chē)控制系統(tǒng)）、無(wú)需ATO（Automatic Train Operation，列車(chē)自動(dòng)運(yùn)行系統(tǒng)）的列車(chē)員自主駕駛，有控制中心操作員參與、無(wú)需ATO系統(tǒng)的人-機(jī)協(xié)作，采用ATO 系統(tǒng)、無(wú)需ETCS 系統(tǒng)的列車(chē)員自主駕駛，有控制中心操作員參與、無(wú)需ETCS系統(tǒng)的人機(jī)協(xié)作，同時(shí)采用ETCS 系統(tǒng)和ATO 系統(tǒng)的列車(chē)員自主駕駛。

分級(jí)預(yù)防和生命周期預(yù)防的故障預(yù)防措施、增加自動(dòng)化診斷技術(shù)和規(guī)范維護(hù)工作和管理工作的故障維護(hù)措施，毫無(wú)疑問(wèn)也是保證化工行業(yè)自動(dòng)化儀表等設(shè)備高水平運(yùn)行的有效手段。

除了對(duì)自動(dòng)化系統(tǒng)提供預(yù)防維護(hù)措施之外，還可以對(duì)操作者提供自動(dòng)化故障的相關(guān)培訓(xùn)，即讓操作人員為實(shí)際的情況做好準(zhǔn)備，以便能夠應(yīng)對(duì)意外事件，對(duì)操作者關(guān)于自動(dòng)化故障的相關(guān)培訓(xùn)經(jīng)驗(yàn)也會(huì)提高操作者在故障發(fā)生時(shí)所正在執(zhí)行的次要任務(wù)的績(jī)效水平。

2.2 提高系統(tǒng)信息透明度

上述提供故障后備方案和預(yù)防維護(hù)措施會(huì)在一定程度上降低自動(dòng)化故障/失效發(fā)生的概率，并非可以保證故障永不會(huì)發(fā)生。

NORMAN 認(rèn)為，高水平自動(dòng)化與執(zhí)行監(jiān)控任務(wù)的操作者之間缺乏持續(xù)的反饋和互動(dòng)是故障發(fā)生的原因之一。提高系統(tǒng)信息透明度是一種在操作者與系統(tǒng)之間提供持續(xù)的反饋和互動(dòng)的有效措施。關(guān)于透明度的概念，最根本的思想是將有關(guān)于自動(dòng)化系統(tǒng)運(yùn)行的某些信息以某種方式呈現(xiàn)給操作者，適當(dāng)增加操作者獲得的信息量。

以提高系統(tǒng)信息透明度的手段來(lái)緩解自動(dòng)化功能偶發(fā)性的故障或失效對(duì)作業(yè)者綜合績(jī)效的負(fù)面影響或許也不失為一種可行的方法。以自動(dòng)駕駛為例，讓駕駛員及早意識(shí)到自動(dòng)化功能故障的發(fā)生，及時(shí)介入并接管駕駛?cè)蝿?wù)以處理潛在的危險(xiǎn)后果是至關(guān)重要的。SHAHINI 以駕駛模擬器為設(shè)備，探究合適的接管時(shí)間預(yù)算（Take Over Time Budgets，TOTB），即接管請(qǐng)求和即將發(fā)生的故障之間的時(shí)間差，結(jié)果顯示，自動(dòng)駕駛系統(tǒng)在故障發(fā)生的10 s 之前告知駕駛員會(huì)顯著降低其工作負(fù)荷。但是，一方面，應(yīng)該考慮到更高水平的透明度可以提供更豐富的信息以輔助操作者決策，會(huì)在一定程度上減少操作者的工作負(fù)荷；另一方面，為增加透明度而提供的信息可能需要額外的認(rèn)知資源來(lái)處理，這便會(huì)增加操作者的腦力負(fù)荷。因此，需要根據(jù)實(shí)際的應(yīng)用場(chǎng)景提供適當(dāng)?shù)耐该鞫刃畔ⅰ?/p>

2.3 構(gòu)建故障診斷系統(tǒng)

故障發(fā)生后，“亡羊補(bǔ)牢，為時(shí)未晚”，應(yīng)及時(shí)收集相關(guān)的故障數(shù)據(jù)，建立故障數(shù)據(jù)庫(kù)，與正常數(shù)據(jù)進(jìn)行對(duì)比，構(gòu)建復(fù)雜自動(dòng)化控制系統(tǒng)故障診斷系統(tǒng)。

信息化、自動(dòng)化技術(shù)的進(jìn)步促使了自動(dòng)故障診斷系統(tǒng)的出現(xiàn)，實(shí)現(xiàn)了在線檢測(cè)、診斷機(jī)械故障。自動(dòng)故障診斷系統(tǒng)獲取到設(shè)備的診斷數(shù)據(jù)，運(yùn)用檢測(cè)定位技術(shù)，分析收集到的數(shù)據(jù)并判斷設(shè)備的故障，主要包括基于知識(shí)領(lǐng)域的專(zhuān)家診斷系統(tǒng)、基于神經(jīng)網(wǎng)絡(luò)的專(zhuān)家診斷系統(tǒng)。明先承等通過(guò)數(shù)據(jù)罩篩引擎進(jìn)行數(shù)據(jù)的收集、整理、分析及模型的創(chuàng)建，用運(yùn)行單元?jiǎng)討B(tài)判斷模塊和多因素基準(zhǔn)庫(kù)的配合改進(jìn)了故障診斷方法，解決了傳統(tǒng)診斷方法中存在的在多數(shù)據(jù)環(huán)境下故障診斷率低、多因素分析算法跟進(jìn)力不足等問(wèn)題。之后，5G 技術(shù)、視覺(jué)處理和AR 增強(qiáng)現(xiàn)實(shí)的融入可以促進(jìn)自動(dòng)化故障診斷系統(tǒng)朝著高性價(jià)比的方向發(fā)展。

3 結(jié)束語(yǔ)

本文以自動(dòng)化技術(shù)在人和自動(dòng)化領(lǐng)域引起的“自動(dòng)化諷刺”現(xiàn)象和自動(dòng)化功能的偶發(fā)故障導(dǎo)致的災(zāi)難性后果為切入點(diǎn)，著重分析了系統(tǒng)自動(dòng)化功能的故障/失效對(duì)操作者綜合績(jī)效的影響，并分別從自動(dòng)化信任、操作績(jī)效、情境意識(shí)和工作負(fù)荷的維度進(jìn)行分析與論證。最后基于文獻(xiàn)調(diào)研的方法，以故障發(fā)生前、正在發(fā)生和故障發(fā)生后的時(shí)間節(jié)點(diǎn)為依據(jù)，總結(jié)并提出了降低自動(dòng)化故障/失效對(duì)操作者綜合績(jī)效帶來(lái)負(fù)面影響的技術(shù)手段，包括提供后備方案、預(yù)防維護(hù)措施和培訓(xùn)；提高系統(tǒng)信息透明度；構(gòu)建故障診斷系統(tǒng)。

本文分析了自動(dòng)化故障對(duì)操作者綜合績(jī)效的影響及應(yīng)對(duì)措施，分析了多個(gè)領(lǐng)域文獻(xiàn)的調(diào)研結(jié)果。但本文畢竟是以查閱、分析文獻(xiàn)的方法為基礎(chǔ)進(jìn)行闡述的，因此還存在以下不足：本文的分析基礎(chǔ)是查閱文獻(xiàn)，缺少相應(yīng)的實(shí)驗(yàn)結(jié)果支撐；后續(xù)應(yīng)針對(duì)具體的應(yīng)用場(chǎng)景，設(shè)計(jì)嚴(yán)謹(jǐn)?shù)娜艘蚬ばW(xué)實(shí)驗(yàn)，從實(shí)驗(yàn)的角度分析某個(gè)領(lǐng)域的某個(gè)場(chǎng)景下自動(dòng)化功能的失效對(duì)操作者綜合績(jī)效指標(biāo)的影響。