五論以用戶為中心的設(shè)計：從自動化到智能時代的自主化以及自動駕駛車

(浙江大學(xué)心理科學(xué)研究中心,杭州 310058)

1 引 言

1.1 從自動化到自主化技術(shù)的應(yīng)用

自動化(automation)技術(shù)已經(jīng)廣泛地應(yīng)用在人們的工作和生活中,從簡單的室內(nèi)恒溫器，到復(fù)雜的工業(yè)自動化生產(chǎn)線、飛機駕駛艙自動化飛行系統(tǒng)以及航天在軌設(shè)備等。自動化技術(shù)為提高人機系統(tǒng)可靠性和效率、降低操作員體力工作負荷等方面帶來了許多益處。隨著技術(shù)的日益成熟，自動化技術(shù)已經(jīng)觸碰到了其發(fā)展的“天花板”,尤其在一些特殊操作環(huán)境中(例如，不需要或者無法人工干預(yù)、設(shè)計無法預(yù)料的操作場景)，人們需要自適應(yīng)、智能化、個性化和更高水平“自動化”的技術(shù)系統(tǒng)。

智能時代的自主化(autonomy)技術(shù)應(yīng)運而生。自主化技術(shù)采用了人工智能(AI)等技術(shù)，具有學(xué)習(xí)、自我導(dǎo)向、獨立執(zhí)行等能力，在特定的場景下可以自主地完成獨立于人工干預(yù)的一些特定任務(wù)。目前，我們開始進入一個逐漸充滿自主化技術(shù)的世界，越來越多的自主化系統(tǒng)(autonomous systems)開始投入使用或者正在開發(fā)。例如，采用軟件自主代理和基于語音輸入的智能音箱、智能決策支持系統(tǒng)、大型智能無人機、智能機器人、自動駕駛車(具有高等級自動駕駛功能)、空間行走機器人(月球車、火星車等)自主武器系統(tǒng)，甚至包括網(wǎng)上自主傳播的Stuxnet病毒軟件等。

1.2 基于自主化技術(shù)的自動駕駛車安全問題

目前許多企業(yè)投入了大量資金來研發(fā)基于AI等自主智能技術(shù)的自動駕駛車(autonomous vehicles，根據(jù)智能技術(shù)和英文原文，應(yīng)該嚴格地稱之為自主駕駛車)，希望在未來能夠開發(fā)出全自主化的無人駕駛車。在美國與汽車駕駛相關(guān)的交通死亡事故中，約94%是由駕駛員的人為差錯所導(dǎo)致，美國國家公路交通安全管理局(NHTSA)(2018)希望未來的無人駕駛車可以通過消除這些人為差錯來大幅度減少死亡事故。然而，Lee & Kolodge(2018)的研究表明，在被調(diào)查的8571名美國司機中，35%的司機表示他們肯定或不太會相信自動駕駛車在沒有駕駛員控制情況下具備安全運行的能力。CARAVAN(2018)的民意調(diào)查也表明，在1005名受調(diào)查的美國司機中，64%的司機出于對安全的擔(dān)心而表示不愿意與自動駕駛車分享道路,63%的司機不支持降低目前聯(lián)邦道路安全標準以便讓更多的自動駕駛車上路。另外，近幾年在美國發(fā)生了多起自動駕駛車致命事故(NTSB，2017；Endsley,2018)。

在人因?qū)W(Human Factors)界，一些資深人因?qū)W家表達了對自主化技術(shù)的應(yīng)用可能引起的安全問題的擔(dān)心，尤其是對自動駕駛車的安全的擔(dān)心(de Visser et al.2018;Endsley,2019a,2019b;Hancock,2017,2019;Lee,2019;Waterson,2019;Woods,2016)。Hancock(2019)將當(dāng)前的自動駕駛車研發(fā)熱潮形容為“就像一匹馬已離開馬廄”，而Salmon(2019)認為“人因?qū)W再次發(fā)現(xiàn)自己處在一個相似的境地：追逐一匹已經(jīng)真正開始狂奔的馬”。社會目前正在引入與傳統(tǒng)自動化技術(shù)不同的更加獨立的自主化技術(shù)，這些新技術(shù)的研發(fā)正在快速進行，但是人因?qū)W問題、安全和對大眾心理的負面影響等因素沒有引起足夠的重視(Hancock，2017,2019;Endsley,2019a;Salmon,2019)。

1.3 問題的提出

綜上所述，繼自動化技術(shù)后，自主化技術(shù)正在走進人們的工作和生活。一方面，許多企業(yè)雄心勃勃地投資于自動駕駛車等自主化系統(tǒng)的研發(fā)；另一方面，大眾信任度較低，一些致命事故相繼發(fā)生，人因?qū)W家們對自動駕駛車的安全表達了很大的擔(dān)憂。并且，已有人開始混淆自動化和自主化的概念，這可能導(dǎo)致對技術(shù)不恰當(dāng)?shù)钠谕驼`用(Kaber，2018；Bradshaw et al.2013)，因此，及時開展這方面的人因?qū)W研究是非常必要的。

本文要回答的主要問題是：自主化與自動化各自的人因?qū)W特征和區(qū)別是什么？為提高自主化系統(tǒng)的安全性，我們應(yīng)該從以往人因?qū)W針對自動化的研究中得到什么啟發(fā)？在自主化系統(tǒng)(包括自動駕駛車)的研發(fā)中，應(yīng)該如何發(fā)揮人因?qū)W的學(xué)科作用？針對這些問題，本文基于以用戶為中心的設(shè)計理念(許為，2003a)，即以人為中心的設(shè)計理念，從自主化系統(tǒng)人類操作員的需求和利益等因素出發(fā)，綜述相關(guān)的人因?qū)W研究，討論、分析以及提供針對自主化系統(tǒng)和自動駕駛車研發(fā)的人因?qū)W解決方案。

2 自動化和自主化的人因?qū)W分析

2.1 人-自動化交互的人因?qū)W研究

自動化系統(tǒng)通常依賴于固定的邏輯規(guī)則和算法來執(zhí)行定義好的任務(wù)，并產(chǎn)生確定的操作結(jié)果，它的操作需要人類操作員啟動、設(shè)置控制模式以及編制任務(wù)計劃等，在一些特殊操作環(huán)境中(例如，設(shè)計無法預(yù)料的操作場景，非正?；驊?yīng)急狀態(tài))，需要人工干預(yù)來控制系統(tǒng)的運行。自動化通常不會完全取代操作員的崗位，但是它將人類工作的性質(zhì)從直接操作轉(zhuǎn)變?yōu)楦弑O(jiān)控性質(zhì)的操作，并且許多自動化系統(tǒng)可以設(shè)置為不同的自動化水平。例如，現(xiàn)代大型民用飛機駕駛艙裝備了自動化飛行系統(tǒng)后，飛行員可以設(shè)置全自動飛行狀態(tài)，由飛行管理系統(tǒng)(FMS)來完成所有飛行階段的任務(wù)(除起飛以外),或者啟動自動飛行指導(dǎo)儀來采用半自動飛行操作，飛行員的主要任務(wù)是監(jiān)控性質(zhì)的飛行操作。但是，自動化系統(tǒng)本身沒有自主能力(Kaber，2018)，F(xiàn)MS功能的實現(xiàn)是基于飛行員預(yù)先編程的飛行計劃，F(xiàn)MS本身沒有能力來制定和啟動飛行任務(wù)，在非正常的操作場景或者應(yīng)急狀態(tài)時，飛行員必須立刻斷開自動飛行系統(tǒng)，人工干預(yù)接管對飛機的操控。

在過去的幾十年中，人因?qū)W界已經(jīng)對一些復(fù)雜領(lǐng)域(航空航天、核電、工業(yè)制造等)中的人-自動化交互開展了廣泛的人因?qū)W研究，評估自動化技術(shù)和操作對操作員的情境意識(SA)、自動化模式識別、心理模型、警戒水平、信任、工作負荷、工作績效等的影響，這些研究結(jié)果已達到基本一致的共識(例如，Sarter & Woods，1995；Endsley，2017a；許為，2003b)。自動化操作中的監(jiān)控作業(yè)雖然減少了操作員的體力工作負荷，但實際上會提高認知工作負荷(Grubb,et al.,1994),導(dǎo)致操作員警戒水平的降低(Hancock,2013)，操作員往往會產(chǎn)生過度信任(自滿)，并且過度依賴自動化(Parasuraman & Riley，1997)。研究發(fā)現(xiàn)許多自動化系統(tǒng)存在脆弱性，在設(shè)計所規(guī)定的操作情況下系統(tǒng)運行良好，但是在遇到意外事件需要人工干預(yù)時，可能導(dǎo)致操作員的“自動化驚訝”(automation surprise)和自動模式混淆等問題(Sarter & Woods，1995)。操作員可能無法理解自動化正在做什么，為什么要這樣做，為什么它會意外地從一種自動化模式轉(zhuǎn)換到另一種模式。

自動化水平也影響操作員的工作績效、工作負荷和SA(Kaber，2018)。Endsley & Kiris(1995)的研究證明全自動化所導(dǎo)致的SA損失可以通過使用中等程度的自動化來減少。Onnasch et al.(2014)通過對18項研究的元分析，發(fā)現(xiàn)自動化程度的提高，有利于操作員工作績效的提升和工作負荷的下降,但是操作員的SA和手動技能也下降。Bainbridge(1983)在總結(jié)了以往研究的基礎(chǔ)上提出了一個經(jīng)典的現(xiàn)象，即“ironies of automation”(自動化的諷刺)：自動化程度越高，操作員的介入越少，對系統(tǒng)的關(guān)注度就越低,在應(yīng)急狀態(tài)下，操作員就越不容易通過人工干預(yù)來操控系統(tǒng)。

由此可見，許多因素會導(dǎo)致操作員SA的下降，產(chǎn)生“人在閉環(huán)外”(out-of-the-loop)效應(yīng)、診斷問題的準確性和效率降低的問題，從而可能會做出錯誤的人工干預(yù)(Endsley,2015；Endsley & Kiris,1995；Wickens & Kessel，1979；Young,1969)。自動化的這種脆弱性給操作員的工作績效和系統(tǒng)安全帶來了挑戰(zhàn)，在民用航空領(lǐng)域，由于這些原因駕駛艙自動化導(dǎo)致了多起重大飛行事故(Endsley,2015；Xu,2007)。

針對以上這些自動化問題，人因?qū)W提出了許多解決方案。例如，提倡以人為中心的自動化設(shè)計理念、開發(fā)有效的自動化界面人機交互設(shè)計、優(yōu)化系統(tǒng)設(shè)計、加強操作員培訓(xùn)、改進操作程序等(Billings,1996；Xu,2007)。Endsley(2017)綜合以往的研究提出了一個人-自動系統(tǒng)監(jiān)督(HASO)模型，該模型概括了產(chǎn)生自動化人因?qū)W問題的主要因素，并且為實現(xiàn)有效的自動化系統(tǒng)開發(fā)提供了一個綜合的人因?qū)W解決方案。

2.2 自主化與半自主化

不同于自動化，基于AI等智能技術(shù)的自主化系統(tǒng)具有學(xué)習(xí)等能力，可以在沒有人工干預(yù)的情況下自我導(dǎo)向，獨立執(zhí)行任務(wù)，并且可以在一些未預(yù)期的條件下成功執(zhí)行任務(wù)，從而能在更廣泛的操作條件下提供更多的高水平“自動化”系統(tǒng)功能(den Broek，et al.，2017；Kaber,2018)。自主化的定義是基于特定場景和上下文環(huán)境中的特定任務(wù)(Madni & Madni，2018；Kaber,2018)。比如，一輛裝備L3等級自動駕駛功能的自動駕駛車，基于專門的AI算法和機器學(xué)習(xí)訓(xùn)練，能夠在一個特定場景中(工業(yè)園區(qū)內(nèi)),根據(jù)操作設(shè)計領(lǐng)域(ODD)參數(shù)(比如,不超過25英里/小時的速度)，自主獨立地執(zhí)行特定的任務(wù)(沿著固定的線路接送人員)。顯然這輛自動駕駛車無法在園區(qū)外運行，因為該自主智能系統(tǒng)還沒有學(xué)習(xí)和訓(xùn)練掌握園區(qū)外更為復(fù)雜的交通環(huán)境。

我們距離全自主化技術(shù)的實現(xiàn)還有相當(dāng)一段路要走?，F(xiàn)有的自主化系統(tǒng)實際上是只能在有限的場景中自主完成有限任務(wù)的半自主化系統(tǒng)(semi-autonomous systems)，這里的“半”字沒有量化的意義，僅代表一個具有有限自主化能力的系統(tǒng)。實現(xiàn)全自主化技術(shù)的困難除了系統(tǒng)復(fù)雜性的增加會提高系統(tǒng)故障發(fā)生的概率以外，主要有兩方面：一方面，許多自主化系統(tǒng)基于AI深度學(xué)習(xí)等算法構(gòu)建，這些算法擅長模式識別，但目前缺乏在新條件下預(yù)期操作所需的因果推理能力(Pearl & Mackenzie 2018)；另一方面，在開發(fā)中，設(shè)計者不可能預(yù)測到一個系統(tǒng)可能面臨的與所有場景和任務(wù)相關(guān)的變量條件,只能基于對已知場景和任務(wù)的有限了解、潛在操作和結(jié)果的假設(shè)來設(shè)計，當(dāng)對抗真實環(huán)境時，系統(tǒng)可能遇到設(shè)計師從未考慮過的情況而無法執(zhí)行正確的操作(Endsley，2015；Kaber,2018)。

以自動駕駛車為例，國際汽車工程師協(xié)會(SAE)J3016條例主導(dǎo)了對自動駕駛等級的定義(SAE,2018)，包括L0到L5的六個自動駕駛等級：L0-無自動化、L1-駕駛輔助、L2-部分自動化、L3-有條件自動化、L4-高度自動化以及L5-完全自動化。目前正在研發(fā)的自動駕駛車主要裝備L2和L3等級的自動駕駛功能。中國人工智能學(xué)會(CAAI)理事長李德勤院士(2017)認為當(dāng)前應(yīng)該采用務(wù)實的方法，集中開發(fā)基于各種固定場景下的L3等級自動駕駛車，這些場景包括園區(qū)觀光、市區(qū)定點接駁和定點物流等相對簡單的場景，然后在安全和技術(shù)成熟的基礎(chǔ)上再逐漸地向L4等級拓展。擁有全球首個自主駕駛車封閉試驗場的密歇根大學(xué)M-city實驗室主任彭暉(2019)認為企業(yè)界在未來幾十年之內(nèi)應(yīng)該集中開發(fā)L4級別(含)以下的自動駕駛車，在這個范圍內(nèi)保證安全和最低成本，一個負責(zé)的企業(yè)目前不應(yīng)該去追求設(shè)計L5等級全自動化的自動駕駛車。

由此可見，目前還沒有成熟的技術(shù)能夠?qū)崿F(xiàn)完全自主化的系統(tǒng)，我們所面對的都是一些半自主化系統(tǒng)。因此，本文所討論的重點是針對這些半自主化系統(tǒng)的人因?qū)W解決方案。

2.3 自主化人因?qū)W解決方案的切入點

基于以上討論，表1進一步比較了自動化、半自主化、全自主化之間的主要人因?qū)W特征。由表1可知，一方面，從“機器智能”的角度來說，不同于自動化技術(shù)，自主化系統(tǒng)具有一定的認知(知覺整合、模式識別、學(xué)習(xí)、推理、決策等)、對不可預(yù)測環(huán)境的自適應(yīng)等方面的機器智能特征，AI學(xué)界將具有這些機器智能特征的軟件或者硬件實體稱為智能代理或自主代理(intelligent /autonomous agent),也有人開始稱之為認知代理(cognitive agent)。從人因?qū)W的角度出發(fā)，本文統(tǒng)一稱之為自主化認知代理(以下簡稱為認知代理)，因為這些自主化系統(tǒng)已經(jīng)具備一定程度上的類似人類的認知能力，有些甚至已經(jīng)超越人類(例如，谷歌的阿爾發(fā)狗圍棋機器人)。相反，基于自動化技術(shù)的自動化系統(tǒng)無論怎樣先進(例如，現(xiàn)代大型民用飛機駕駛艙中的自動化飛行系統(tǒng))，它們都不具備這些認知能力，不具有獨立執(zhí)行操作以及對不可預(yù)測環(huán)境的自適應(yīng)等特征，這是由自動化技術(shù)本身的系統(tǒng)原理、架構(gòu)和功能等決定的。NASA和Rockwell-Collins在針對未來單人操縱智能化民用飛機駕駛艙的概念性預(yù)備研究報告中指出，未來單人操縱智能化駕駛艙的技術(shù)不是在目前自動化駕駛艙的基礎(chǔ)上去尋求更加自動化的機載技術(shù)，而是需要智能化的、能夠與飛行員開展有效合作的自主化系統(tǒng)(Bailey,et al.,2018)。因此，從人因?qū)W來看，自動化和自主化之間的區(qū)別不是在自動化水平上遞進的關(guān)系，有沒有基于智能技術(shù)的認知等能力是兩者之間本質(zhì)上的區(qū)別。

表1 自動化和自主化之間人因?qū)W特征的比較

另一方面，從“操作獨立性”的角度來說，半自主化系統(tǒng)的獨立執(zhí)行操作性能是針對特定場景和任務(wù)，在應(yīng)急狀態(tài)下，操作員必須通過人工干預(yù)方法來掌控系統(tǒng)的控制權(quán)。半自主化系統(tǒng)在運行操作中與自動化系統(tǒng)一樣需要人工監(jiān)控和必要的人工干預(yù)，這就意味著在人-自動化交互中發(fā)生的人因?qū)W問題有可能在人-自主化交互中發(fā)生。對近幾年在美國發(fā)生的多起自動駕駛車致命事故的調(diào)查結(jié)果清楚地表明，類似于自動化中的人因?qū)W問題，駕駛員對基于自主化系統(tǒng)的自動駕駛車(盡管自主化程度低)的過度信任、參與度低以及注意力不集中，同時人機界面設(shè)計不能有效地支持人工監(jiān)控，這些原因?qū)е埋{駛員未能在緊急情況下采取快速有效的人工干預(yù)來接管車輛(NTSB，2017；Endsley,2018)。駕駛員行為受他們對自動駕駛車的信任、期望等因素的影響。有些制造商似乎高估了當(dāng)前自動駕駛車自主化的性能，低估了人因?qū)W問題的嚴重性。一些市場宣傳信息可能導(dǎo)致一些消費者對自動駕駛車的不恰當(dāng)期望和操作行為。自主化技術(shù)潛在的操作獨立性可能也會造成人們對自主化技術(shù)產(chǎn)生類似于對自動化過度依賴和信任(自滿)的典型人因?qū)W現(xiàn)象(Parasuraman & Riley，1997)。這些事故的調(diào)查結(jié)果也清楚地表明，類似于自動化中的人因?qū)W問題，自主化(半自主化)系統(tǒng)使用中有效的人機交互和人工干預(yù)對安全也具有極其重要的作用。即使某一天我們能夠?qū)崿F(xiàn)全自主化的系統(tǒng)，從以人為中心的設(shè)計理念出發(fā)，同時考慮到自主化系統(tǒng)操作結(jié)果潛在的不確定性(見表1)，人因?qū)W強調(diào)人類操作員應(yīng)該是系統(tǒng)的最終決策操縱者。

因此，對自主化與自動化人因?qū)W特征的比較表明：(1)自主化(包括半自主化)與自動化之間在認知能力等方面存在本質(zhì)上的差異；(2)自主化(主要指半自主化)與自動化相似，在操作獨立性方面都需要必要的人工監(jiān)控和干預(yù)。這種差異性和相似性對人因?qū)W研究以及應(yīng)用具有極其重要的意義，是尋找自主化人因?qū)W解決方案的切入點。這意味著針對這種差異性人因?qū)W解決方案，既要采用有效的人因?qū)W思路，來找到具有針對性的途徑和方法；同時針對這種相似性，人因?qū)W解決方案可以考慮利用以往自動化人因?qū)W的方法和結(jié)果。

3 自主化的人因?qū)W解決方案

3.1 人-自主化交互的人因?qū)W分析

針對人-自主化交互的人因?qū)W研究目前處于起步階段，主要是基于以往人-自動化交互的人因?qū)W研究成果。Endsley(2017a)將人-自動化交互的人因?qū)W問題總結(jié)為“自動化難題(automation conundrum)”：隨著系統(tǒng)中添加更多的自動化功能，自動化水平提高，自動化任務(wù)序列的持續(xù)時間更長，操作員更可能信任系統(tǒng)，更可能失去或降低SA，越來越可能在監(jiān)控作業(yè)中抓不住關(guān)鍵信息，需要時就越不容易快速準確地人工干預(yù)來接管對系統(tǒng)的操控。自動化難題類似于經(jīng)典的“自動化的諷刺”現(xiàn)象(Bainbridge,1983)。

Endsley(2017a)認為“自動化難題”會對自主化造成根本性的障礙。在自主化系統(tǒng)中，隨著單個功能“自動化”水平的提高、整體系統(tǒng)的自主化以及可靠性的增加，操作員對這些功能的關(guān)注度和SA降低，在應(yīng)急狀態(tài)下出現(xiàn)“人在閉環(huán)外”的可能性也增加。針對基于自主化技術(shù)的自動駕駛車人因?qū)W研究以及近幾年發(fā)生的多起自動駕駛車致命事故，進一步核實了影響自動駕駛車安全的人因?qū)W問題(Navarro,2018；NHTSA，2017；Zhang，et al.，2019；Endlsey 2017b,2018)，包括人機界面設(shè)計問題、降低的SA、自動化模式混淆、“人在閉環(huán)外”、低參與度、過度依賴或信任、手動操作技能的退化以及缺乏基本的駕駛員培訓(xùn)等,這些問題正是以往人-自動化交互中的典型人因?qū)W問題。

另外，具有學(xué)習(xí)等認知能力的自主化系統(tǒng)隨著在不同環(huán)境中的使用會不斷提升自身的能力，自主化系統(tǒng)的操作結(jié)果所具有的不確定性意味著系統(tǒng)有可能以意想不到的方式發(fā)展，因此自主化有可能比自動化給操作員帶來更強烈的類似“自動化驚奇”的體驗(Sarter & Woods，1995;Woods,2016)。這些效應(yīng)可能進一步放大以上這些人因?qū)W問題的影響程度，這種現(xiàn)象被稱為“l(fā)umberjack”效應(yīng)(Onnasch et al.2014)。此外，與自動化相比，自主化還可能會導(dǎo)致操作員高度情緒化的反應(yīng)，一些社會因素更容易對操作員的心理產(chǎn)生影響(Clare，et al.,2015;de Visser,et al.,2018)。

由此可見，雖然自動化技術(shù)中人因?qū)W問題的出現(xiàn)和被人們充分認識經(jīng)歷了一個長期的過程，經(jīng)典的“ironies of automation”現(xiàn)象在30多年后仍然沒有得到徹底的解決(Strauch，2017)。但是，目前隨著AI等智能技術(shù)催生了新的自主化技術(shù)，我們又遇到了一個新的“irony”。就如同當(dāng)年自動化新技術(shù)在民用飛機駕駛艙設(shè)計中剛剛應(yīng)用的時候，人們在對新技術(shù)歡呼雀躍的同時，并沒有充分意識到這些新技術(shù)也可能帶來對安全的潛在威脅。今天，人因?qū)W有責(zé)任提醒工程技術(shù)界和公眾必須對智能時代的自主化新技術(shù)保持一定的冷靜和敬畏的態(tài)度，人因?qū)W要發(fā)揮自己的學(xué)科影響力。

3.2 自主化帶來的新型人機合作關(guān)系:人機組隊

除了上面討論的人-自主化交互中的人因?qū)W問題，自主化技術(shù)的引進還帶來了智能時代人機關(guān)系的重大轉(zhuǎn)變。表2總結(jié)了在不同的技術(shù)發(fā)展階段,人機關(guān)系、人機角色以及作業(yè)性質(zhì)的演變。其中，智能時代自主化技術(shù)所帶來的新型人機關(guān)系必然帶來智能時代對人因?qū)W研究、應(yīng)用和設(shè)計范式的新思考，人因?qū)W必須充分考慮人類操作員和機器角色的新變化：(1)在人-自動化交互(人機交互，HCI)中，人類操作員作為監(jiān)控員，而機器充當(dāng)輔助工具;(2)在人-自主化(半自主化)交互中，同為認知代理的人類操作員和機器作為隊友而合作，機器擁有的“輔助工具+合作隊友”雙重新角色是自主化所特有的，這種機器角色的轉(zhuǎn)變代表了智能時代人機關(guān)系的重大轉(zhuǎn)變。

表2 不同技術(shù)發(fā)展階段中人機關(guān)系、作業(yè)性質(zhì)以及人機角色的演變

已有人因?qū)W研究者洞察到了智能技術(shù)的引入正在改變傳統(tǒng)的人機關(guān)系，“人機組隊”(human-machine teaming,HMT)在一些研究中正在替換傳統(tǒng)的“人機交互”(human-computer interaction,HCI)(例如，Chen & Barnes 2014；Brill,et al.2018)。在HCI中，基于計算技術(shù)的機器是通過“交互”來支持人類操作的一種工具(例如，基于計算技術(shù)的自動化)。當(dāng)基于自主化技術(shù)的機器獲取一定的認知能力后，機器從一種支持人類操作的工具發(fā)展為一個具有一定認知能力的自主化智能體,因此人與機器之間的關(guān)系演變成為一個團隊合作的隊友關(guān)系，即人-自主化組隊(Human-Autonomy Teaming,HAT)(Brandt,et al.,2018;Shively,et al.,2018)。在HCI中，也存在一定程度的人機合作(協(xié)作)，但是HCI的人機合作與人機組隊合作之間有著本質(zhì)上的差別。理由如下：

第一，正如自主化與自動化之間人因?qū)W特征的比較所表明的(見2.3和表1)，基于智能技術(shù)的自主化系統(tǒng)是具備一定認知能力、獨立執(zhí)行能力、對不可預(yù)測環(huán)境的自適應(yīng)能力的認知代理；在HCI中，基于一般計算技術(shù)的機器(例如，自動化系統(tǒng))不具備任何這些認知能力。兩者之間在認知能力(“有”與“沒有”)上的區(qū)別決定了兩種合作在本質(zhì)上的差別。

第二，在人機組隊中，兩個認知代理(人與自主化系統(tǒng))之間的合作是主動的(即人機各自可以啟動激活人機之間的合作)、雙向分享的(即人機之間各自可以擁有自己的但是可分享的情境意識、信任、意圖、決策控制等)、智能互補的(即人類的生物智能——認知信息加工能力；機器智能——由AI等技術(shù)實現(xiàn))。在HCI的人機合作中，作為輔助工具的自動化系統(tǒng)是被動的(即只有人可以啟動激活，機器只能以“刺激-反應(yīng)”式的、依賴于由人事先固定設(shè)計的邏輯規(guī)則和算法來響應(yīng)人類操作員的指令)、單向非分享的(即只有人針對機器單方向的信任、情境意識、決策控制等)、非智能互補的(即只有人類的生物智能)。

第三，人機組隊(human-machine teaming)(而不是人機團隊，human-machine team)中的“組隊”和“teaming”(中英文動名詞)可以被認為是表征了一種人與代表自主化系統(tǒng)的認知代理之間雙向地、主動地尋求合作的動態(tài)過程。認知代理的這種合作主動性是由自主化系統(tǒng)所特有的認知能力、獨立執(zhí)行操作、對不可預(yù)測環(huán)境的自適應(yīng)等機器智能的本質(zhì)特征所決定的，這也是一般非智能計算技術(shù)(例如，自動化技術(shù))所望塵莫及的。

因此，HAT是一種更加高效的人機合作。但是，HAT的人機合作也是一把雙刃劍。一方面，人機雙方是強強組合，例如，基于AI智能技術(shù)的自主化系統(tǒng)的認知代理，利用大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)可以整合來自大量專家知識的智慧，主動地幫助人類操作員在非正常的場景中解決以往單個人類操作員所不能解決的問題，這是一般的HCI或者自動化系統(tǒng)中的人機合作所無法達到的；另一方面，如果HAT設(shè)計中沒能保證人擁有系統(tǒng)的最終決策控制權(quán)的話，基于AI技術(shù)的自主化系統(tǒng)有可能帶來安全的隱患。因此，HAT既是人因?qū)W的新機遇，也是新挑戰(zhàn)。這種新型的人機合作關(guān)系要求人因?qū)W人員超越以往的設(shè)計思維,在自主智能化技術(shù)人因?qū)W研究和應(yīng)用中，充分考慮這種新型人機合作關(guān)系，從而為自主化技術(shù)提供有效的人因?qū)W學(xué)科支持和完整的人因?qū)W解決方案。

目前，有關(guān)HAT在概念層面上的人因?qū)W研究已在一些領(lǐng)域初步展開。例如，空中智能交通管理系統(tǒng)中的空管員-空管自主化組隊(Kistan,et al.,2018),特殊操作環(huán)境中的操作員-智能機器人組隊(Calhoun，et al.,2018),智能飛機駕駛艙中飛行員-機載自主化組隊(Brandt,et al.,2018)，未來高等級自動駕駛車中的駕駛員-車載自主化組隊(de Visser et al.，2018;Navarro,2018)。也有研究者提出人-自動化組隊(human-automation teaming)的概念(Christoffersen & Woods，2002,Mosier,et al.,2017)。根據(jù)以上針對“組隊”的討論，人-自動化組隊是不成立的，因為不具備認知等能力的自動化系統(tǒng)只能以一種輔助工具的方式存在于人機系統(tǒng)中，最多以一般意義上的被動式、單向非分享式、非智能互補的形式存在，并且這種人機合作是相對低效的。

3.3 自主化人因?qū)W解決方案的問題空間

如前所討論，自動化完全不具有基于機器智能的認知等能力，而自主化擁有基于機器智能的認知等能力，自主化的程度取決于基于機器智能的認知等能力水平，可見自動化與自主化之間是正交的關(guān)系。另外，人因?qū)W的理念是以人為中心的設(shè)計，研究的對象是人機關(guān)系，人因?qū)W重點關(guān)心在操作條件下人類操作員與機器的關(guān)系。在自主化和自動化的操作領(lǐng)域中，人因?qū)W視人類操作員的人工干預(yù)是人機系統(tǒng)安全的極其重要的保證，是自主化和自動化系統(tǒng)在應(yīng)急操作場景中最后的安全保障。人工干預(yù)與自主化和自動化程度之間分別存在著一對一的關(guān)系，即隨著自主化和自動化程度的提高，人工干預(yù)的需求隨之減少，可見，人工干預(yù)是以上兩個平面(即人工干預(yù)×自主化，人工干預(yù)×自動化)所共有的一個維度。因此，自主化、自動化、人工干預(yù)三個變量可以用來表征三者之間的一個三維空間關(guān)系。

圖1示意了自主化、自動化與人工干預(yù)三者之間關(guān)系的一個三維空間概念模型。如圖1所示，A點代表一個完全需要人工操作而沒有任何自動化和自主化能力的系統(tǒng);B點代表一個具有針對特定場景的全自動化功能、沒有任何自主化能力，但是仍然需要人工干預(yù)的系統(tǒng);C點代表未來理想的全自主化系統(tǒng)，工程技術(shù)上有可能實現(xiàn)不需要人工干預(yù)，但是人因?qū)W強調(diào)人類操作員應(yīng)該是系統(tǒng)的最終決策控制者，所以需要必要的人工干預(yù)。平面ABO示意了具有不同自動化水平但沒有自主化的系統(tǒng)(即沒有任何基于機器智能的認知能力的自動化系統(tǒng))。隨著自動化水平的提高，人工干預(yù)減少，但即使系統(tǒng)達到完全自動化(B點)，也仍然需要一定程度的人工干預(yù)，這是由自動化系統(tǒng)的特征所決定的(見表1)。平面ACO示意了具有不同自主化程度的系統(tǒng)，但沒有自動化的系統(tǒng)(在現(xiàn)實中不存在)，所以該界面是開環(huán)邊界，隨著自主化程度的提高，人工干預(yù)的需求下降至全自主化(C點)，并且保留一定程度上的人工干預(yù)來保證人對系統(tǒng)的最終控制權(quán)。

圖1 自主化、自動化與人工干預(yù)三者之間關(guān)系的概念模型

重要的是，在圖1的概念模型中，介于四個平面(ABC，ABO，ACO和BCO)之間的三維空間。在實現(xiàn)全自主化之前，半自主化系統(tǒng)一般都擁有相當(dāng)程度的自動化技術(shù)，正如“高等級自動駕駛車不僅僅是自動的，更應(yīng)該是自主的”(李德毅，2019)。自動化的操作以及半自主化系統(tǒng)的操作都需要不同程度的人工干預(yù)，在各種操作條件下，人-自動化交互和人-自主化交互在這個三維空間內(nèi)共存。

總結(jié)以上的討論以及表1和圖1，可以得到以下三點：

(1)半自主化系統(tǒng)與自動化系統(tǒng)類似，需要人工監(jiān)控和干預(yù)，人與半自主化之間存在交互，在實現(xiàn)全自主化之前，人-半自主化交互(本文以下簡稱人-自主化交互)必然長期存在，如同自動化人因?qū)W問題一樣，人-自主化交互中的人因?qū)W問題也將長期存在。

(2)人-自動化交互伴隨人-自主化交互，共存于一個問題空間，如同半自主化系統(tǒng)中一定有自動化技術(shù)的支撐。這意味著半自主化系統(tǒng)可能遇到與人-自動化交互中類似的人因?qū)W問題，以往豐富的人-自動化交互人因?qū)W研究成果可能有助于解決人-自主化交互中的部分人因?qū)W問題。

(3)人-自主化交互與人-自主化組隊(HAT)互為包容，共存于同一個問題空間中，因為HAT合作需要人-自主化交互的支持，而人-自主化之間的“交互”是為了人機之間的有效合作。比如，人機之間通過雙向信任和分享SA等的人機組隊合作需要有效的人-自主化交互的支持(例如，人機界面上的信息交互，人類操作員在應(yīng)急狀態(tài)下通過有效的人工干預(yù)接管系統(tǒng)的操控等)。

因此，圖1所示意的三維空間包括了人-自動化交互、人-自主化交互、人-自主化組隊，這個三維空間表征了自主化人因?qū)W的問題空間，也正是目前人因?qū)W面臨的挑戰(zhàn)和機遇所在。作為人因?qū)W學(xué)科理念的“以人為中心的設(shè)計”應(yīng)該就是在這個問題空間內(nèi)探尋人因?qū)W解決方案過程中應(yīng)該遵循的理念。

3.4 自主化人因?qū)W解決方案的理念：以人為中心的設(shè)計

在歷史上,許多自動化系統(tǒng)的研發(fā)最初是按照以技術(shù)為中心的途徑進行,然后因為人因?qū)W的干預(yù)而逐漸轉(zhuǎn)向以人為中心的設(shè)計。一個典型的例子就是現(xiàn)代大型民用飛機駕駛艙的自動化飛行系統(tǒng),它的發(fā)展從一開始就是以技術(shù)為導(dǎo)向，而并非遵循以人(飛行員)為中心的人因?qū)W理念，導(dǎo)致自動駕駛系統(tǒng)人機界面上過分復(fù)雜的自動化模式和控制方式設(shè)計等人因?qū)W問題。當(dāng)自動化系統(tǒng)帶來系統(tǒng)可靠性、操作準確性、飛行員體力工作負荷、經(jīng)濟效益和安全等方面益處的同時，也帶來產(chǎn)生人為差錯的隱患，直接或間接地導(dǎo)致了一些重大飛機解體事故的發(fā)生(Billings,1996；Xu,2007；許為，2014)。盡管航空人因?qū)W界一直在努力，但是受設(shè)計兼容性、飛行員培訓(xùn)成本、適航風(fēng)險等因素的影響，這種以技術(shù)為導(dǎo)向的設(shè)計給后續(xù)新機型人機界面設(shè)計的改進帶來許多挑戰(zhàn)。這是人因?qū)W對自動化技術(shù)干預(yù)所受到挑戰(zhàn)的一個典型案例。

如前面所討論，今天我們面對新一波的自主化技術(shù)，首先是一系列半自主化系統(tǒng)。從以人為中心設(shè)計的理念出發(fā)，根據(jù)自動化人因?qū)W研究的成果和教訓(xùn)，半自主化系統(tǒng)的設(shè)計必須通過有效的人機交互設(shè)計，在所定義的特定場景和任務(wù)操作環(huán)境中始終保證人類操作員的“人在閉環(huán)中”(in-the-loop)狀態(tài)，從而確保人類操作員擁有較高的SA和參與度，能夠在任何時候?qū)ο到y(tǒng)進行人工干預(yù)。在工程技術(shù)上，即使能夠?qū)崿F(xiàn)半自主化系統(tǒng)的非人工干預(yù)手段，以人為中心設(shè)計理念強調(diào)在任何時候人類操作員都應(yīng)該能夠進行有效的人工干預(yù)?；诮鼛啄甓嗥鹱詣玉{駛車致命事故的教訓(xùn)(NTSB，2017；Endsley,2018)，這是人因?qū)W對人的生命和系統(tǒng)安全的承諾，是人因?qū)W對AI、工程技術(shù)界的呼吁。

盡管目前全自主化系統(tǒng)在現(xiàn)實中并不存在，以人為中心設(shè)計的理念強調(diào)，如果將來某一天實現(xiàn)了全自主化系統(tǒng)，并且工程上可以實現(xiàn)非人工干預(yù)手段，系統(tǒng)設(shè)計仍然必須保證，作為系統(tǒng)的最終決策操控者的人類操作員在任何時候都可以實現(xiàn)有效的人工干預(yù)。正如作者在上一篇系列文章《四論以用戶為中心的設(shè)計:以人為中心的人工智能》中所提出的“以人為中心的AI”設(shè)計理念模型，該模型強調(diào)AI的下一個前沿不能僅僅是技術(shù)，它也必須是合乎道德倫理的、惠及人類的；AI是增強人類的能力而不是取代人(許為，2019b)。已有多名知名科學(xué)家和高科技企業(yè)家(包括史蒂芬·霍金、伊隆·馬斯克等)通過發(fā)表公開信表達了對未來智能系統(tǒng)可能傷害人類(甚至毀滅人類)的極大擔(dān)憂(Russell,et al.2015)。以人為中心設(shè)計的理念強調(diào)人應(yīng)該是在任何條件下、任何時候、對任何智能系統(tǒng)(包括全自主化系統(tǒng))最終的決策控制者(見表1)。

從人-自主化組隊的新型人機合作關(guān)系的角度來看,在人機兩個認知代理之間雙向的、分享的、主動的、智能互補的合作關(guān)系中,以人為中心設(shè)計的理念同樣要求保證人類操作員在任何時候具有對系統(tǒng)的最終決策操縱權(quán)。只不過這種設(shè)計理念在人-自主化組隊情境下的實現(xiàn)更加智能化，更加體現(xiàn)出人機兩個認知代理之間的無縫合作，從而大大提高人機系統(tǒng)整體的可靠性和安全性。例如，在未來單人操縱的大型智能化民用飛機駕駛艙中，在正常操作狀態(tài)下，自主化系統(tǒng)操縱飛行，人-自主化系統(tǒng)之間的雙向信任、共享的SA等可以保證系統(tǒng)的最終控制權(quán)始終在人類操作員的手中，比如在應(yīng)急狀態(tài)下，自主化系統(tǒng)將系統(tǒng)操控權(quán)快速有效地交付給人類操作員。當(dāng)人類操作員處于失能狀態(tài)(即喪失認知和操控能力)時，自主化系統(tǒng)通過情景模型能夠迅速查詢到人類操作員的當(dāng)前狀態(tài)(包括認知、生理和行為等)，基于人-自主化組隊合作過程中已經(jīng)建立起的人機雙向信任，分享的操作任務(wù)、意圖和目的，自主化系統(tǒng)可以迅速有效地掌控系統(tǒng)的最終操控權(quán)，將損失降到最低的程度(例如，尋找安全的著陸地點，或者啟動針對特殊飛機的彈射離艙救生系統(tǒng))。這種人機之間機器最終操控權(quán)的分配轉(zhuǎn)移是建立在人機之間優(yōu)先權(quán)分配、系統(tǒng)備份設(shè)計、人機之間雙向信任、雙向SA、分享的任務(wù)意圖等人-自主化組隊合作的基礎(chǔ)上所產(chǎn)生的對系統(tǒng)操控權(quán)的分享。這是一種升級版的以人為中心設(shè)計理念在人-自主化組隊情境下的有效實現(xiàn)。

因此，以人為中心設(shè)計的理念提醒人們從自動化系統(tǒng)設(shè)計的演化進程中吸取歷史教訓(xùn)，希望人因?qū)W在社會進入一個自主化技術(shù)世界的初期，旗幟鮮明地表明自己的學(xué)科理念和立場，與AI、工程技術(shù)界密切合作，盡最大努力去影響自主化系統(tǒng)的研發(fā)。

4 人-自主化組隊的人因?qū)W研究

4.1 人-自主化組隊人因?qū)W研究的思路

作為一種新的研究對象，HAT需要借助成熟的研究理論和框架，有研究者推崇人-人團隊的理論(Madhavan & Wiegmann,2007;de Visser,2018)。人-人團隊理論為HAT人因?qū)W研究提供的啟示是要考慮類似于人-人團隊合作的一些關(guān)鍵特征：人與自主化認知代理之間的溝通、協(xié)調(diào)和合作等(Salas，et al.,2005)；人與自主化認知代理之間共享的心理模型、雙向績效監(jiān)測、團隊適應(yīng)性、團隊領(lǐng)導(dǎo)力、信任修復(fù)以及校準(Mosier,et al.,2017)。

其他一些理論框架也為HAT研究提供了工作思路。借用協(xié)同認知系統(tǒng)(Joint Cognitive Systems)的概念(Hollnagel & Woods,2005)，HAT中的人類操作員和自主化認知代理可被認為是同一認知協(xié)同系統(tǒng)中兩個合作的認知代理，人類的生物智能(認知信息加工能力)與機器智能(由AI等技術(shù)實現(xiàn))通過深度整合和兩個認知代理之間的協(xié)作實現(xiàn)了智能互補。從彈性工程(Resilience Engineering)的角度(Woods,et al.,2012)，HAT需要一種能夠主動預(yù)測和處理錯誤的彈性工程方法，HAT必須不斷適應(yīng)操作場景，其成功取決于兩個隊友在預(yù)測和管理潛在風(fēng)險的能力，當(dāng)失敗時，積極修復(fù)信任應(yīng)該是HAT和自主化設(shè)計的基本要求之一(de Visser,et al.,2018))。最后，交互式團隊認知(ITC)理論強調(diào)在團隊認知活動中在團隊層面上開展針對團隊工作效率的測量和建模工作(Cooke,et al.,2013)。

針對HAT的人因?qū)W研究，目前主要集中在概念層面和工作思路等方面。研究者開始在航空航天(Kistan,et al.,2018；Brandt,et al.,2018)、軍事(Calhoun，et al.,2018)以及自動駕駛車(de Visser et al.，2018;Navarro,2018)等領(lǐng)域內(nèi)探索HAT的應(yīng)用。從研究思路上來說，人-人團隊理論是目前HAT人因?qū)W研究的主要框架。根據(jù)人-人團隊理論，研究者為HAT的人因?qū)W研究制定了一些基本原則：雙向的(溝通、信任等)、共享的(目標、情境意識、語言、意圖、決策、自主化控制等)、協(xié)商的責(zé)任以及可控的工作負荷等(Madni & Madni,2018;Shively,et al.,2018;Ho,et al.,2017)。本節(jié)以下的內(nèi)容主要基于人-人團隊理論的框架，重點總結(jié)三個方面的研究。

4.2 人-自主化組隊的人因?qū)W研究

4.2.1 人機共享的情景意識

不同于以往人類操作員個體針對自動化系統(tǒng)和操作環(huán)境的單向式情景意識(SA),HAT的SA是雙向分享式的團隊SA，人因?qū)W可以借助人-人團隊SA模型來開展研究(Endsley & Jones,2001)。從Endsley(1995)的SA三水平信息加工模型出發(fā)：在感知階段,人類操作員和自主化認知代理都需要了解對方的狀態(tài),分享與任務(wù)、行動、目標分配優(yōu)先權(quán)等相關(guān)信息的感知；在理解階段,人類操作員要理解自身作業(yè)以及對自主化作業(yè)的影響,自主化認知代理同樣如此，并且相互共享對任務(wù)、環(huán)境、系統(tǒng)等信息的理解；在預(yù)測階段,兩者協(xié)同定義工作的策略和預(yù)測可能的行動。

在航空領(lǐng)域應(yīng)用中，飛行員與未來智能駕駛艙中的自主化系統(tǒng)之間應(yīng)該高度共享SA，確保兩者之間協(xié)調(diào)功能分配、目標調(diào)整和行動方案，例如，目前正在處于概念研究階段的未來民用飛機單人操縱智能化駕駛艙(Bailey,et al.,2018)。在高等級自動駕駛車中，駕駛員與自主駕駛系統(tǒng)共享的SA信息應(yīng)該包括當(dāng)前駕駛軌跡、彼此的能力、各種與評估和計劃行動相關(guān)的信息(比如目標，優(yōu)先級)等(Endsley,2017)。有研究從人機交互透明度的角度來尋找如何利用共享SA幫助構(gòu)建有效的HAT，例如，Chen et al.(2017)提出了基于HAT中SA分享的代理透明度模型(SAT)，來達到滿足雙向透明度的團隊合作范式的需要。

開展HAT團隊共享SA的研究具有一些挑戰(zhàn)。以往人因?qū)W的SA研究大多集中在針對個體SA方面，針對人-人團隊SA的研究已引起關(guān)注，不僅取決于團隊每個成員的SA水平，同時更依賴于成員之間共享的SA水平，但是團隊SA測量仍未完全解決(孫向紅等，2011)。共享SA是團隊成員擁有相同的并且有助于跨角色作決策所需的SA(Endsley & Jones,2001)，針對HAT團隊共享SA的研究更有待于開展。在應(yīng)用中，自主化代理在技術(shù)上可以通過傳感器所輸入的信息源和計算模型得到針對人類操作員、系統(tǒng)本身以及環(huán)境的SA，該模型化的SA可能與人類操作員的SA不同，會導(dǎo)致雙方對決策所需的SA信息有不同的評估,因此人類操作員和自主化認知代理之間的SA模型需要有效的雙向溝通。在復(fù)雜操作環(huán)境中，為確保高效的HAT，今后的研究需要開發(fā)針對自主化系統(tǒng)的情境模型(Endsley,2015)。

4.2.2 人機雙向的信任

如同人-人團隊的合作，信任是HAT合作的基本特征之一。在人-自動化交互中，信任只是人針對自動化的單向信任，大量的人因?qū)W研究已經(jīng)清楚表明操作員對自動化的過度信任(自滿)或者缺乏信任都會影響人機績效(例如，Parasuraman & Riley，1997)。在HAT中，兩個認知代理(人類操作員與自主化)之間的信任是雙向的，兩者之間是否保持對對方適當(dāng)?shù)男湃嗡綍苯佑绊慔AT的團隊績效。例如，在未來空中智能交通指揮系統(tǒng)中，交通管制員與自主指揮系統(tǒng)之間維持適當(dāng)?shù)男湃斡兄趦烧咧g有效地協(xié)調(diào)管理(Kistan,et al.,2018)。作為人機交互設(shè)計的方案之一，將人類操作員保持“人在閉環(huán)中”狀態(tài)的設(shè)計就是維持自主化系統(tǒng)對人類操作員信任的一種手段。例如，在自動駕駛車運行中，如果駕駛員雙手離開方向盤，自主化系統(tǒng)可以認為目前駕駛員在監(jiān)管上是不可信任的，打破了人機組隊合作的信任，從而系統(tǒng)應(yīng)該主動地啟動某種人機交互方式(比如多模態(tài)的告警信號)將駕駛員拉回“人在閉環(huán)中”的信任狀態(tài)。

除了人-人信任中常遇到的因素(比如，完整性、可預(yù)測性和不確定性)以外，自主化認知代理面臨一些基于AI的機器智能體所共有的問題，包括缺乏類似人的“思考”、缺乏透明度、無法解釋其推理決策過程等(許為，2019b)。另外，機器智能體也缺乏心理模型、價值觀和信仰來激勵自我(Marquez，et al.，2013)。這些特殊因素給人-自主化信任的研究和應(yīng)用帶來了一些新的考慮。

Kistan,et al.(2018)認為HAT雙向信任的人因?qū)W研究應(yīng)該著重考慮信任測量、建模、修復(fù)以及校正。從系統(tǒng)設(shè)計角度來說，人機界面透明度、可解釋性和可理解性有利于人-自主化信任的建立，比如，系統(tǒng)應(yīng)該有足夠的透明度來支持和促進信任校準(Chen & Barnes,2014;Mercado et al.2016)，而Chen et al.(2017)認為他們提出的代理透明度模型(SAT)可用作為一個校準團隊信任和促進共同理解的有效工具。但是需要多少透明度和傳達哪些信息需要進一步研究(Pelegrini Morita et al.,2014)。de Visser et al.(2018)認為發(fā)生錯誤后積極開展信任修復(fù)應(yīng)該是HAT設(shè)計的基本問題,并提出了一些選擇信任修復(fù)的策略。

已有研究者針對自動駕駛車中的信任修復(fù)展開了初步研究。de Visser et al.(2018)建議在司機-自主駕駛系統(tǒng)交互中，當(dāng)系統(tǒng)失敗時(比如，選擇非最佳的路線)，簡單地向司機通知或解釋可能無法修復(fù)信任，需要采取一定的行為措施。Kohn et al.(2018)設(shè)法了解人們?nèi)绾慰创詣玉{駛汽車所犯的錯誤以及合適的信任修復(fù)類型。該研究發(fā)現(xiàn)在HAT中人機之間的道歉行為在修復(fù)信任方面比一些否認式行為更有效，一個具有信任修復(fù)能力的自主化系統(tǒng)應(yīng)該能夠維護和修復(fù)HAT的合作伙伴關(guān)系，這方面的問題需要進一步的研究。

4.2.3 人機共享的自主化系統(tǒng)控制權(quán)

自主化系統(tǒng)控制權(quán)的選擇和共享有助于構(gòu)建有效的HAT和保障人機系統(tǒng)的安全。目前還沒有自主化系統(tǒng)可以在所有條件下完美地工作，靈活的自主化系統(tǒng)控制權(quán)分配將允許任務(wù)、功能和整個系統(tǒng)(比如，車輛的控制)的控制在人類操作員和自主化認知代理之間分享(接管或交付)?？刂茩?quán)轉(zhuǎn)移取決于雙方的信任、共享SA、風(fēng)險、需求以及合作關(guān)系等因素。在應(yīng)用中，需要保證“人在閉環(huán)中”的設(shè)計和人類操作員掌握系統(tǒng)最終控制權(quán)。在特殊情況下(例如，人類操作員失去意識)，通過監(jiān)測人類操作員的認知、生理狀態(tài)等，必要時自主認知代理需要快速有效地接管系統(tǒng)的控制權(quán)(Endsley，2015)。

針對人機共享的自主化系統(tǒng)控制權(quán)的人因?qū)W研究尚處在概念階段。在自動駕駛車研究領(lǐng)域，美國MIT的自主車研究項目提出了以人為中心的自主車(HCAV)共享自主化研發(fā)范式(Fridman,2018)。HCAV項目認為自主化系統(tǒng)控制權(quán)不是一個單獨的機制，需要人機之間的合作(HAT),包括互相分享的SA、信任等的支持。其中，分享的SA由HCAV的“駕駛員感知”功能實現(xiàn)，“駕駛員感知”采用多模態(tài)的測量來評估駕駛員的身體功能特征(包括分心、疲勞、認知、情緒狀態(tài)等)；分享的信任是通過算法對外部環(huán)境的建模產(chǎn)生風(fēng)險評估，然后視覺化地呈現(xiàn)給人類駕駛員。HCAV通過人機合作、分享的SA、風(fēng)險評估等方法，保證車輛控制權(quán)在人機之間的有效過渡，自主化系統(tǒng)負責(zé)絕大部分的操作，駕駛員承擔(dān)對車輛的最終的控制權(quán)。該研究估計將HCAV的共享控制權(quán)方法用在裝備特斯拉Autopilot(L2等級)的自動駕駛車上，可將目前較低的Autopilot(自動駕駛)平均使用率從約占總里程的30%提高到50%以上。

人們還試圖尋找其他有效的方法來實現(xiàn)人機之間自主化系統(tǒng)控制權(quán)共享的途徑，例如，自適應(yīng)控制的方法。Muslim & Itoh(2018)遵循以人為中心的理念對自動駕駛車研發(fā)提出由自適應(yīng)控制來共享車輛控制權(quán)的方法，并且定義了人機之間動態(tài)切換控制權(quán)限的自適應(yīng)轉(zhuǎn)換策略。該策略保證人類操作員擁有對系統(tǒng)的最終權(quán)限，從原理上提出了如何以及何時可以在人機之間轉(zhuǎn)換控制的建議。Madni & Madni(2018)認為自適應(yīng)的HAT需要解決協(xié)同人機績效、SA共享、人機知識共享、動態(tài)任務(wù)分配以及人機決策共享等問題，提出了一個用于航空領(lǐng)域的自適應(yīng)HAT架構(gòu)。

4.3 人-自主化組隊人因?qū)W研究的展望

HAT研究需要跨學(xué)科的合作和方法,包括AI、計算科學(xué)以及認知學(xué)科等領(lǐng)域(McNeese,et al,2019)。在前面有關(guān)HAT人因?qū)W研究討論的基礎(chǔ)上，展望今后HAT人因?qū)W研究總的工作思路。

首先,開展針對基于HAT的新型人機合作的人因?qū)W基本問題研究。例如，如何更好地理解HCI與HAT的區(qū)別；如何有效定義和設(shè)計智能系統(tǒng)中動態(tài)化人機功能分配來支持HAT；在HAT中，人-自主化交互與HAT之間的關(guān)系，人-自主化交互和組隊合作的優(yōu)化組合受哪些因素影響；自主化程度對HAT合作和團隊績效的影響；如何構(gòu)造可解釋和可協(xié)商的自主化系統(tǒng)；人機之間決策權(quán)的分配；人機之間知識的獲取和管理，例如，機器需要什么樣的人類行為表征(比如隱性知識)才能有效地理解人類操作員的意圖。

開展對HAT中一些重要因素的量化研究。例如，在人-人團隊信任研究的基礎(chǔ)上，如何確定和量化HAT中雙方之間動態(tài)功能交換所需的信任程度；以往許多研究集中在個體SA,近年來已有針對團隊SA以及測量的研究，但是大多集中在人-人團隊場景中。針對HAT的共享SA，未來的研究要針對HAT建立有效的方法來評估和量化共享SA(Endsley,2017a)。另外,Sheridan(2019)將三種現(xiàn)有模型擴展到自動化信任的量化分析，這種方法或許給HAT的量化信任研究提供了一種工作思路。

開展HAT的人因?qū)W計算建模研究。例如，通過生物識別技術(shù)(視覺追蹤,人臉識別,腦電圖信號等)的有效指標來測量人類操作員狀態(tài)(認知工作負荷，疲勞和情緒狀態(tài)等)，建立自主認知代理對人類操作員的行為評估模型(Madni & Madni,2018)。今后人因?qū)W的一項重要工作是基于以往人類SA的研究，為自主認知代理的機器情境模型定義認知架構(gòu)，從而支持創(chuàng)建HAT的共享SA(Endsley,2015)。此外，這種模型還需要評估在特定操作條件下人類能力的局限性，有助于確定何時以及在何種程度上系統(tǒng)的操控權(quán)應(yīng)該在兩者之間動態(tài)地分配轉(zhuǎn)換。

開展HAT中人機交互的研究。首先解決自主化系統(tǒng)中人機交互的基本問題，包括可解釋和可理解的HAT人機界面等(許為，2019b)。針對HAT的人機合作特征，考慮基于任務(wù)場景的動態(tài)化人機界面設(shè)計，比如，在高等級自動駕駛車中，針對正常狀態(tài)下(自主化系統(tǒng)控制)與應(yīng)急狀態(tài)下(人類操作員人工接管)的兩種場景，研究如何提供有效的、多模態(tài)、余度化和差異化的人機交互設(shè)計，貫徹以人為中心的設(shè)計理念，從而保證“人在閉環(huán)中”和充分的SA。另外，開展復(fù)雜領(lǐng)域中HAT的人機交互研究，例如，Calhoun，et al.(2018)針對未來單人操作員與多個自主代理(空中，地面和海面多場景)組成的全領(lǐng)域HAT應(yīng)用，采用生態(tài)界面設(shè)計(EID)方法(Vicente & Rasmussen,1992)，構(gòu)造全域多場景、人機雙向溝通的HAT人機界面設(shè)計。

開展HAT中人機共享的自主化系統(tǒng)控制權(quán)的研究。研究如何提供適當(dāng)程度的自主化選擇來支持人機之間的接管或交付；自主化認知代理是否、如何以及何時可以接管或者將功能切換到人類操作員。例如，空中交通管制員與未來自主交通管制系統(tǒng)如何在兩者之間動態(tài)地交換功能，可否依據(jù)團隊中人和機器的可信度，將權(quán)限與“獲得的信任級別”相匹配，然后執(zhí)行適當(dāng)?shù)那袚Q控制(Kistan,et al.,2018)。自主化系統(tǒng)控制權(quán)的分配和轉(zhuǎn)移取決于眾多因素，包括圍繞HAT的一系列研究問題，有待于今后系統(tǒng)化的人因?qū)W研究。

最后，除了采用人-人團隊理論的框架來開展HAT的研究，同時也要采用協(xié)同認知系統(tǒng)、彈性工程、交互式團隊認知等理論框架，多方面開展HAT的人因?qū)W研究。例如，根據(jù)協(xié)同認知系統(tǒng)理論，如何利用人類的生物智能和機器智能在不同程度上的深度組合以及互補來支持基于人機組隊合作的自主化系統(tǒng)創(chuàng)新設(shè)計。

5 自主化人因?qū)W解決方案的個案分析：自動駕駛車

自動駕駛車是目前基于AI等智能技術(shù)的一個典型的自主化系統(tǒng)產(chǎn)品，而且受到各方面的關(guān)注。與此同時，近幾年也發(fā)生了一些安全事故(NTSB，2017；Endsley,2018)，人因?qū)W問題、安全和對大眾心理的影響等因素沒有引起足夠的重視(Hancock，2017,2019;Endsley,2019a;Salmon,2019)?；谝陨厢槍ψ灾骰艘?qū)W解決方案的討論和分析，本節(jié)進一步集中討論自動駕駛車研發(fā)中人因?qū)W的解決方案。由于人因?qū)W在自動駕駛車研發(fā)中的應(yīng)用尚未全面展開，本文討論初步的工作思路。其中，以人為中心的設(shè)計是人因?qū)W在自動駕駛車研發(fā)中的設(shè)計理念，各方面的工作都是圍繞這個理念展開。

首先，要充分評估自動駕駛車的自主化技術(shù)對駕駛員操作角色、心理期望和操作行為等的影響。不同于傳統(tǒng)汽車的操作作業(yè)，自動駕駛車駕駛員從事多重作業(yè)，包括駕駛、監(jiān)控操作以及可能的非駕駛作業(yè)(手機或車載娛樂系統(tǒng)等)。從安全角度來說，現(xiàn)有自動駕駛技術(shù)要求駕駛員時刻處于監(jiān)控狀態(tài)(比如，特斯拉L2等級的Autopilot要求駕駛員雙手放在方向盤上)，隨時準備接管手動駕駛，然而駕駛員行為受他們對自動駕駛車的信任、期望等因素的影響。有些制造商似乎高估了當(dāng)前自動駕駛車自主化的性能，低估了人因?qū)W問題的嚴重性，他們所發(fā)布的一些容易引起混淆的市場信息，會導(dǎo)致一些消費者對自動駕駛車的不恰當(dāng)期望和操作行為。近幾年發(fā)生的多起自動駕駛車致命事故的調(diào)查結(jié)果揭示了類似的人因?qū)W問題：過度信任，參與度低以及注意力不集中，導(dǎo)致未能在緊急情況下快速接管駕駛(NHTSA，2017；Endsley,2018)。

人因?qū)W要積極參與自動駕駛車的研發(fā)。首先，在研發(fā)策略上，應(yīng)該提倡漸進穩(wěn)重的研發(fā)策略，優(yōu)先研發(fā)適合于特定場景、自主化技術(shù)可行、安全的以及大眾可接受的L3等級的自動駕駛功能，然后逐步拓展到其他場景以及L4等級。其次，在研發(fā)流程方面，人因?qū)W需要盡早介入研發(fā)的早期階段,貫徹“以人為中心的設(shè)計”理念，將人(包括駕駛員、乘客以及行人)的需要和安全貫穿于研發(fā)的各個環(huán)節(jié)(Hancock，2017)。再則，在人機交互設(shè)計中，參照現(xiàn)有的自動駕駛車人機交互設(shè)計指南(HFES,2018)和人因?qū)W的專家建議(Endsley，2017a,2017b)，通過有效的人因?qū)W設(shè)計來解決“人在閉環(huán)外”、低參與度和低SA等問題(Navarro，2018)。最后，從應(yīng)用和設(shè)計范式上，在高等級自動駕駛車中，需要從HAT合作的角度來考慮人機交互以及人機界面的設(shè)計。

在人因?qū)W的應(yīng)用中，要盡量消除潛在的安全隱患對安全設(shè)計的影響。已有研究者質(zhì)疑SAE(2018)J3016條例對自動駕駛等級的分類沒有充分考慮以人為中心的設(shè)計理念(Hancock，2019)。從設(shè)計需求、可靠性、度量方法、安全管理和標準化等方面來說，SAE J3016條例對自動駕駛等級的分類是不嚴格的。SAE J3016條例認為當(dāng)自動駕駛車裝備高等級(L4-L5)自動駕駛功能運行時，不需要駕駛員監(jiān)控和人工干預(yù)，人因?qū)W認為這種定義(至少對L4等級的自動駕駛功能)可能留下了安全的隱患，對車輛的安全設(shè)計和操作有誤導(dǎo)作用。人因?qū)W需要通過有效的人因?qū)W實驗來獲取足夠的實證數(shù)據(jù)，幫助完善自動駕駛等級的分類、符合安全的系統(tǒng)需求以及自動駕駛技術(shù)的認證標準等。

在人因?qū)W研究方面，采納HAT的研究范式開展對高等級的自動駕駛車人因?qū)W研究。SAE J3016條例中對自動化和自主化之間的區(qū)別是比較含糊不清的，可能會導(dǎo)致設(shè)計中對HAT新型人機合作關(guān)系、自主化人因?qū)W問題的忽略。借助于HAT的新型研究范式，人因?qū)W研究需要能夠超越對自動化研究的思維方式，為自主化技術(shù)提供全面的人因?qū)W解決方案。李德毅(2019)將自動駕駛車形容為“一個會學(xué)習(xí)的輪式機器人”，建議開發(fā)一個物化駕駛員在線認知的智能代理(駕駛腦)。另外，以人為中心的自主車設(shè)計理念也為自動駕駛車的自主化人因?qū)W研究提供了一個工作思路(Fridman,2018；Muslim & Itoh，2018)。

最后，從宏觀工效學(xué)的角度看，自動駕駛車的研發(fā)不僅僅是一個工程技術(shù)項目，它對整個社會產(chǎn)生廣泛的影響，需要從社會技術(shù)系統(tǒng)大視野為自主化技術(shù)的應(yīng)用做好全面的準備，包括自主化技術(shù)、設(shè)計標準、道路交通基礎(chǔ)設(shè)施、法律、倫理、交通規(guī)則、智聯(lián)網(wǎng)/5G、企業(yè)投資回報、大眾信任度和接受度、駕駛員技能以及自動駕駛車技術(shù)認證等。因此，開發(fā)安全的、技術(shù)可行的、大眾信任和接受的自動駕駛車是一個系統(tǒng)工程，需要多學(xué)科以及跨部門(企業(yè)、政府、科研單位等)的通力合作。

6 總結(jié)與展望

(1)基于AI的智能技術(shù)促進了自主化技術(shù)的應(yīng)用，自主化表現(xiàn)出與自動化不同的人因?qū)W特征。人-自主化(半自主化)交互將長期存在，人-自主化交互中出現(xiàn)的一些人因?qū)W問題類似于人-自動化交互，利用以往人-自動化交互人因?qū)W研究的成果有助于解決一部分自主化人因?qū)W問題。本文通過建立一個自主化、自動化與人工干預(yù)三者之間關(guān)系的概念空間模型表征了自主化人因?qū)W的問題空間。

(2)不同于自動化，智能化技術(shù)的加入使得智能時代的人機關(guān)系發(fā)生了新的轉(zhuǎn)變，帶來了人與自主化系統(tǒng)兩個隊友之間的新型人機合作關(guān)系。智能時代這種新型人機合作關(guān)系必定帶來對人因?qū)W研究和應(yīng)用的新考慮，促使重新評估現(xiàn)有的人因?qū)W理論和方法，開展必要的人因?qū)W研究，從而能夠為自主化技術(shù)的應(yīng)用提供有效的人因?qū)W學(xué)科支持和完整的人因?qū)W解決方案。

(3)針對人-自主化組隊(HAT)的人因?qū)W工作，需要采用有效的研究和應(yīng)用范式。需要開展跨學(xué)科的協(xié)同合作，開展對智能時代新型人機合作關(guān)系的人因?qū)W基本問題(人-自主化雙向信任、共享SA、共享的自主化系統(tǒng)控制權(quán)等)、HAT中一些重要因素的量化、針對HAT的人因?qū)W建模以及人機交互設(shè)計等方面的研究和應(yīng)用。

(4)作為自主化技術(shù)的應(yīng)用，自動駕駛車的研發(fā)正方興未艾，人因?qū)W的初步研究和事故調(diào)查揭示了目前自動駕駛車設(shè)計中的一些人因?qū)W問題，人因?qū)W對當(dāng)前自動駕駛車研發(fā)的學(xué)科作用和影響力遠遠不夠。我們呼吁在自動駕駛車研發(fā)中要重視人因?qū)W問題，人因?qū)W界要主動融入自動駕駛車的研發(fā)，基于以人為中心的設(shè)計理念,從研發(fā)策略、流程整合、人機交互、設(shè)計范式、HAT研究以及社會技術(shù)系統(tǒng)等方面著手，充分發(fā)揮人因?qū)W的學(xué)科作用和影響力。

(5)自動化技術(shù)中人因?qū)W問題的出現(xiàn)到被人們充分認識經(jīng)歷了一個長期的過程，經(jīng)典的“ironies of automation”現(xiàn)象在30多年后仍然沒有得到徹底的解決。今天，隨著AI等智能技術(shù)催生了新的自主化技術(shù)，在當(dāng)前的社會技術(shù)系統(tǒng)大環(huán)境中，我們又遇到了一個新的“irony”，需要跨學(xué)科的協(xié)同合作去迎接和克服新的挑戰(zhàn)，人因?qū)W任重而道遠。