涉及人工智能的法律責(zé)任

馮靜

書名：機器人是人嗎？

作者：[美]約翰·弗蘭克·韋弗

譯者：劉海安 徐鐵英 向秦

出版：上海人民出版社

編者按：2018世界人工智能大會上，與會的部分專家學(xué)者研究成果相繼推出。本書為其中的一本，由上海交通大學(xué)凱原法學(xué)院副院長彭成信教授主編。

隨著人工智能的使用變得越來越普遍，涉及人工智能的事故或事件的法律責(zé)任承擔(dān)也變得越來越普遍?；旧?，有如下四種情況將會發(fā)生：

一、使用或者監(jiān)控人工智能的人承擔(dān)法律責(zé)任。此類事故可能發(fā)生的情況非常多：

一個人工智能外科醫(yī)生正在對病人進(jìn)行手術(shù)，要給病人安裝新的髖關(guān)節(jié)，手術(shù)過程中人工智能機器卻出現(xiàn)了機械性的錯誤。負(fù)責(zé)監(jiān)控手術(shù)的人類醫(yī)生沒能盡職地監(jiān)控手術(shù)進(jìn)程，并且無法中途介入以完成髖關(guān)節(jié)置換術(shù)，導(dǎo)致手術(shù)不得不提早結(jié)束，迫使患者必須進(jìn)行第二次髖關(guān)節(jié)置換手術(shù)。

人工智能建筑工人錯誤地拆除了墻壁，導(dǎo)致整個建筑物倒塌，原因在于監(jiān)控人工智能的人給出了不正確的拆除指令，指示人工智能機器應(yīng)該拆除那堵墻。

負(fù)責(zé)監(jiān)控人工智能客機的人沒有注意到，兩架客機給出重復(fù)相同的著陸指令，造成了兩架客機空中相撞。

任何針對符合上述情境的人提起的訴訟，最有可能訴稱“過失疏忽”（或失職行為，如果適用到專業(yè)領(lǐng)域中），作為被告應(yīng)承擔(dān)法律責(zé)任的理由。這類責(zé)任涉及人工智能時，說明仍然有需要人類監(jiān)控人工智能的情形。但是，關(guān)于法律責(zé)任分配給人類，將會在“主要用于方便人類的人工智能”和“主要用于優(yōu)化人類工作的人工智能”之間出現(xiàn)重大的分裂。也即是，把人工智能主要用作優(yōu)化人本身的工作時，要求人對人工智能監(jiān)控，如果人工智能造成了事故，此監(jiān)控的人就要承擔(dān)法律責(zé)任。把人工智能主要用作人類的便利時，不需要人對人工智能進(jìn)行監(jiān)控，對人工智能造成的事故損害負(fù)擔(dān)更少的責(zé)任。

當(dāng)然，有疑問的是人工智能可能同時具備上述兩種功能。例如，90%的車禍都是由人的錯誤造成的，意味著無人駕駛汽車很有潛力能夠大幅度降低車禍發(fā)生的次數(shù)。然而，正因為大多數(shù)司機都認(rèn)為自己是好司機，無人駕駛汽車的安全性能并不會動搖消費者。相反，對于那些駕車是一種負(fù)擔(dān)的人群（視力受損、身體受損、老年人等）來說，傾向于購買一輛無人駕駛汽車，因為他們喜歡就此帶來的方便，或者對于部分年輕人來說，認(rèn)為開車不是什么了不起的事（因為開車反而減少了他們和朋友發(fā)信息聊天的時間）。所以，盡管無人駕駛汽車可能會減少事故發(fā)生、傷害和死亡，但出于法律責(zé)任考慮，認(rèn)為無人駕駛汽車的主要目的是降低傷亡是錯誤的。大多數(shù)人會使用無人駕駛汽車閱讀、睡覺、聊天，玩游戲，或者做些事情來打發(fā)（或浪費）他們駕駛的時間；他們不會做的事就是仔細(xì)地監(jiān)控人工智能。一旦無人駕駛汽車普遍存在，人們因為沒有監(jiān)控?zé)o人駕駛汽車而對其無人駕駛汽車承擔(dān)法律責(zé)任，這似乎有些荒謬，因為人們根本不會去監(jiān)控自動駕駛汽車。與此相反，人工智能外科醫(yī)生并不會增加人類的自由時間，也不會讓生活更方便。相反，人工智能外科醫(yī)生的目的是改善并提高人類的手術(shù)結(jié)果，因為它們可以進(jìn)行切割、進(jìn)入身體，并以人類不可能的角度來伸縮彎曲。沒有密切監(jiān)測其人工智能外科醫(yī)生的人類醫(yī)生應(yīng)該對由此發(fā)生的醫(yī)療事故承擔(dān)責(zé)任。人工智能將不會被購買來為人類醫(yī)生創(chuàng)造更多的自由時間。

出于同樣的原因，法院在分配法律責(zé)任時會區(qū)分自動的機器和自主的機器（即人工智能）。自動的機器執(zhí)行固定的功能，就像電梯或者工廠裝配線上的機器人，但僅此而已；如果不進(jìn)行進(jìn)一步編程，自動的機器不會（或者不太會）自行調(diào)整其功能以對新信息做出反應(yīng)。即使人類不站在自動的機器旁邊監(jiān)控它們，但最終會有人對機器導(dǎo)致的損害結(jié)果承擔(dān)責(zé)任，比如程序員或維修人員，因為機器自己本身無法做出任何決定。如果一臺自動的機器造成事故，而機器的設(shè)計或生產(chǎn)并沒有任何瑕疵缺陷，那么在事故發(fā)生前就應(yīng)該有相關(guān)人員發(fā)現(xiàn)機器出現(xiàn)了問題。然而，自主的機器能夠自己做出決定，這也意味著相關(guān)的人員可能根本沒有責(zé)任。

二、與人工智能相互作用的第三人承擔(dān)法律責(zé)任。我們實際已經(jīng)見過這樣的例子。2010年，谷歌的工程師們報告稱，谷歌無人駕駛汽車被一輛由人駕駛的汽車追尾。主張與人工智能因互動行為產(chǎn)生的第三人責(zé)任，將與當(dāng)前任何一個人與機器或其他人之間因相互行為可能產(chǎn)生的責(zé)任基本相同。最大的區(qū)別可能在于保險理算員或陪審團成員的傾向，他們可能會（也可能不會）比起同情一臺智能的機器更加同情人類。

三、分銷鏈中的制造商、分銷商或者另一方當(dāng)事人承擔(dān)法律責(zé)任。當(dāng)涉及人工智能導(dǎo)致事故發(fā)生是由于其本身出現(xiàn)故障、錯誤的編程、粗制濫造、配送過程中受損，或者由于與產(chǎn)品本身出錯相關(guān)的任何原因，事故責(zé)任將按比例適當(dāng)?shù)胤峙浣o分銷鏈中的人：設(shè)計師、制造商、出售人工智能產(chǎn)品的商店等等?；旧?，這種類型的索賠要么是一個標(biāo)準(zhǔn)的缺陷產(chǎn)品責(zé)任訴訟（人工智能產(chǎn)品沒有按照預(yù)期工作），要么是疏忽過失損害賠償訴訟（當(dāng)事人在準(zhǔn)備或交付人工智能產(chǎn)品時沒有盡到應(yīng)有的注意義務(wù)，消費者獲得產(chǎn)品之前已經(jīng)被損壞）。舉如下幾個例子：

一位人工智能廚師在煎牛排時發(fā)生故障并停止工作，燒焦了米飯，最終燒毀了做飯的房子。

控制人工智能商店店員識別物品的部分代碼被意外地刪除，這些代碼是用來識別需要出示身份證才能購買的物品（香煙、酒），導(dǎo)致未成年人購買了一箱酒，喝醉并導(dǎo)致事故發(fā)生。

人工智能掃雪機使用說明書未能說明低于零下15度的溫度時會導(dǎo)致機器人熄火，在一場怪異但也不是前所未有的五月暴風(fēng)雪期間，新英格蘭北部道路中使用的這些掃雪機器人發(fā)生熄火，導(dǎo)致大量事故發(fā)生。

四、人工智能對其行為承擔(dān)法律責(zé)任。在少數(shù)情況下，人工智能因其具有法律上的義務(wù)而被視為具有責(zé)任能力的人。在以下情況發(fā)生時，人工智能將對其行為承擔(dān)責(zé)任：（1）人工智能造成損害或傷害；（2）造成損害或傷害的所有責(zé)任都不能歸責(zé)于一群人或者分配鏈中的某一人。有時候，當(dāng)這些情況發(fā)生時，人工智能的行為完全按照預(yù)期的進(jìn)行，但是仍會造成損害，也應(yīng)該承擔(dān)責(zé)任。

列舉實踐中的幾個例子予以說明：

兩輛無人駕駛汽車在高速公路上行駛，第一輛車在左車道上，行駛在右車道上的第二輛車前面。這兩輛車正以合理的速度行駛。車內(nèi)人員沒有密切監(jiān)控車輛，但是都系好了安全帶。突然一只鹿跳到左車道的中間，一瞬間，第一輛車的人工智能采取最安全的可行方案，轉(zhuǎn)向右車道以防止與鹿碰撞。又一剎那，第二輛車為了避免和第一輛車相撞，也做出了最安全的可行決策，而轉(zhuǎn)向右邊，但是卻撞到了一棵樹。第一輛車沒有人員傷亡，第二輛車的一個乘客卻撞斷了手臂。如果第二輛無人駕駛汽車試圖停在自己的車道上（因為它會撞上第一輛車，撞傷車?yán)锩娴娜耍┗蛘呦蜃蠹鞭D(zhuǎn)（因為它會和鹿相撞，撞傷第二輛車?yán)锏娜耍?，會使更多人受傷，這是毋庸置疑的。這兩輛車的人工智能從技術(shù)上來說都運行正確。這兩輛車在購買前或事故發(fā)生前都制造良好且沒有受過任何損壞。

人工智能外科醫(yī)生正在做一個常規(guī)的膽囊切除手術(shù)，結(jié)果脆弱的動脈破裂，這是先前并未被檢測到的。人工智能外科醫(yī)生便開始修復(fù)破裂的動脈。正在監(jiān)測人工智能的人類醫(yī)生同意人工智能外科醫(yī)生的決定和計劃。只有在病人遭受嚴(yán)重失血之后，人工智能外科醫(yī)生才能夠修復(fù)動脈。由于病人內(nèi)部受損傷，人工智能外科醫(yī)生決定在那個時候不切除膽囊。人類醫(yī)生表示同意。病人必須在改期膽囊切除手術(shù)前花費額外兩周時間，以從動脈修復(fù)中恢復(fù)。經(jīng)調(diào)查還證實了，負(fù)責(zé)監(jiān)測人工智能外科醫(yī)生的人類醫(yī)生提供了充分的監(jiān)督，并做好充分準(zhǔn)備隨時終止人工智能，在必要時親自進(jìn)行動脈修復(fù)。人類醫(yī)生也正確地指出，人工智能外科醫(yī)生當(dāng)時采取了合適的決定與措施，來修復(fù)動脈并拯救了病人。通過檢測人工智能，表明其在手術(shù)過程中操作正確。此人工智能產(chǎn)品制造完善且在進(jìn)行手術(shù)前未受到任何損傷……

編輯：黃靈 yeshzhwu@foxmail.com