智能機器人的倫理困境

趙欣

摘 要：智能機器人在給人類生活帶來日新月異變化的同時，給人類帶來新的倫理挑戰(zhàn)。智能機器人智能性的提高，促使人類在與其互動中更深刻地思考人的本質。智能機器人替代部分人類社會角色從事繁重危險的工作，解放勞動力的同時也引發(fā)人們對智能機器人的警惕和擔憂。腦-機接口、人機交互技術使人機關系從對立走向融合。智能機器人與人在技術實踐中構成共同的道德行動者，但目前，智能機器人仍然是弱人工智能，無法獨立承擔道德責任，不能成為和人類同等地位的道德主體，破解智能機器人的倫理困境，需要建立人-機責任共同體。

關鍵詞：智能機器人;機器倫理;道德能動者

“人工智能”一詞最初在1956年達特默斯學會上提出，這次會議被看作是人工智能誕生的標志。人類在進入計算機時代后，計算機技術的飛速發(fā)展為機器模擬人的某種思維和行為提供了必要的技術支撐，使人工智能的實現(xiàn)成為可能。人類希望能夠用計算機構造出復雜的、達到同等甚至超越人類智慧的機器。如今人工智能融合計算機科學、認知科學、哲學以及其他自然學科，在相互融合、相互滲透的基礎上，逐漸發(fā)展為新型的綜合性研究領域。智能機器人是人工智能的應用領域之一。近年來，教育機器人、保姆機器人、軍用機器人、超聲機器人等在使用中的突出表現(xiàn)不斷刷新著人們對人工智能的認知和期待。但是，在享受智能科技給生活帶來日新月異的變化的同時，由此引發(fā)的倫理道德問題也給人類帶來了困擾。

一、“智能機器人”的概念

人工智能的本質是對人的意識、思維的信息過程的模擬。約翰·塞爾最早將人工智能劃分為弱人工智能與強人工智能。弱人工智能認為人工智能模擬人類心靈的價值原則是為我們提供一個強有力的工具。而強人工智能則認為計算機在能夠給出合適的程序的意義上，可以被理解為擁有其他種類的認知狀態(tài)，應該被視為一個心靈[1]。塞爾的區(qū)分得到很多人的支持。弱人工智能是擅長特定單方面的智能，沒有完全自主性，服從于人的某種需要，并不真正擁有智能。強人工智能擁有和人類同等的心靈理解力，具備心靈的人工智能能夠產(chǎn)生自我意識，具有意向性，獨立思考問題，進行自主抉擇，承擔行為責任。強人工智能具有道德主體地位。強人工智能的進階是超級人工智能。牛津大學未來人類研究院主任Nick Bostrom把超級人工智能定義為在幾乎所有領域都比最聰明人類的大腦聰明很多。超級人工智能在各個方面強于人類，是超越人類的智能。雷·庫茲韋爾在《奇點臨近》中認為“該技術性特異點將會在2045年這個不遠的將來出現(xiàn)，人工智能跨過‘奇點，計算和思維能力將遠超人腦?！?/p>

捷克劇作家Karl Capek在戲劇作品中創(chuàng)造了robot這個名詞。這個詞源于捷克語的robota，意思是“勞役、苦工”。國際標準化組織將機器人定義為一種自動的、位置可控的、具有編程能力的多功能操作機，這種操作機具有幾個軸，能夠借助可編程操作來處理各種材料、零件、工具和專用裝置，以執(zhí)行各種任務[2]。機器人是人造的機器，根據(jù)智能性程度一般分為簡單機器人和智能機器人。簡單機器人多用于工業(yè)中，比如，工廠生產(chǎn)流水線上的機械臂、汽車制造過程中運用的噴漆機器人和搬運機器人，以及適應電商的迅速發(fā)展出現(xiàn)的倉儲物流機器人等。它通過簡單的計算機編程，依靠人類的指令，在特定的工作領域完成重復性動作。智能是智力和能力的總稱，核心是思維，智能機器人的中央處理器嵌入人工智能程序，相當于人類發(fā)達的大腦，能夠自主判斷和決策，是人工智能在真實世界中應用的載體。

二、作為道德能動者的智能機器人

1998年荷蘭學派創(chuàng)始人彼得·克洛斯和安東尼·梅耶斯提出“技術哲學的經(jīng)驗轉向”，把經(jīng)驗轉向作為荷蘭技術哲學研究的立派范式，也促逼著技術哲學研究轉換到經(jīng)驗語境中[3]。所謂技術哲學的經(jīng)驗轉向是指與經(jīng)典技術哲學主要關注技術作為整體現(xiàn)象的“條件”不同——與之相伴隨的是“技術決定社會”“技術支配或將統(tǒng)治人類社會”的恐慌——當代技術哲學則更加關注具體的技術如何影響人類生活本身，技術如何通過“物質性”的手段或方式對人類的行動和體驗進行塑形。技術哲學的經(jīng)驗轉向實質上開辟了技術與倫理相結合的研究方式。技術觀的變化反映了不同歷史時期人對技術實踐的認識和反思。人類紀元的開端伴隨著技術的出現(xiàn)，它體現(xiàn)了人類從被動適應環(huán)境到主動征服自然的轉變。經(jīng)典技術哲學或者把技術看作實現(xiàn)人的目的的工具，認為技術本身不負載道德意義和道德價值，只是人類用來達到特定目的的工具，技術本身無善惡而言，因人的不同使用而造成善惡結果。工業(yè)革命后，人類飽嘗技術發(fā)展給環(huán)境生態(tài)帶來的惡果，片面夸大技術的自主性，對技術持悲觀主義態(tài)度，認為人被技術所奴役。技術建構論看到了技術工具論和實體論的缺陷，提出技術與社會之間是互相建構，互相影響的。20世紀末，技術哲學的經(jīng)驗轉向關注技術本身，在實踐中理解技術，使人與技術之間形成經(jīng)驗上的動態(tài)互動機制。傳統(tǒng)倫理學建立在人本主義的基礎之上，倫理學被看作是人類的專屬領域，獨立的個體的人占據(jù)著倫理反思的核心地位。但是隨著經(jīng)濟和社會的發(fā)展，人類技術不斷地攀登一個又一個高峰，技術人工物不僅種類越來越多，其智能性也越來越高。技術已經(jīng)開始以各種各樣的方式調節(jié)人類的實踐和體驗，影響我們對外在世界的感知和行為方式，構建著道德選擇的環(huán)境。倫理學已經(jīng)不再完全只是關乎于人類，技術的發(fā)展呼吁與之相適的倫理學的出現(xiàn)。倫理學問題只發(fā)生在如何使用知識時，科學研究引起的倫理學問題實質上是倫理學本身不發(fā)達。重建理性化的倫理學，當納入不了時應該修改理論體系，而不是削足適履，拒絕現(xiàn)實[4]。

實際上，自機器人誕生之初，學者們就圍繞著機器人的倫理展開廣泛討論。圖靈認為測試者同時向一臺計算機和一個人提出問題，如果測試者從得到的答案中不能區(qū)分計算機和人，那么該機器就可以被看作是可以思維的（從而具有心靈和自由意志）。德雷福斯認為人類推理依賴于本能與直覺，智能機器依賴于算法與程序，算法和程序是人類的編程，智能機器不可能具有人類一樣的道德主體地位。道德的前提是自由意志，如果將道德賦予技術物，那么技術物就必須具備兩個必要條件：即形成意向的能力以及實現(xiàn)意向的自由。意向性即心智指向某物，是理解人與世界關系的核心概念。人與世界之間存在著密不可分的關聯(lián)，人的一切活動總是指向某物。在技術實踐中，人的意向性總是指向技術人工物，通過技術人工物得以實現(xiàn)，又或是在技術人工物的背景下得以形成。同時，被意向性指向的人工物反過來影響人的意向性。減速帶提醒駕駛員要減速，攝像頭能夠震懾到犯罪分子。因此，意向性并非人類獨有，技術人工物擁有“非人”部分的意向性。道德決定和行動是人與技術人工物共同努力的結果。維貝克認為技術意向性是在人與非人的關聯(lián)中產(chǎn)生的，是一種“雜交意向性”或者“復合意向性”。在理解技術與自由的關系上，維貝克從自由作為道德活動必要條件的現(xiàn)實性入手，認為對于一個能應對行動的主體來說，擁有自由的某些度就夠了，無論是人還是非人，絕對的自由都是不可能的。維貝克將自由理解為行動者與外在影響因素建立起聯(lián)系的能力，處于人—技術的關聯(lián)中，從而將技術物納入自由的維度中[5]。人類活動的自由也是有限度的，總是受到各種內外因素的制約。人類設計智能機器人的編程代碼和運算規(guī)則，使機器人在算法框架內運行，但是智能機器人在面對復雜狀況時，能夠在多種可能性中選擇執(zhí)行，每一種可能性的選擇與周圍環(huán)境和人之間形成的互動聯(lián)結都會有所不同。智能機器人的程序是預先設定的，但是機器人的行為選擇與外在因素之間的關聯(lián)可能性結果是不確定的、變動的。盡管有程序的預先設定，智能機器人在行為中總是會出現(xiàn)各種偏差，偏離對智能機器人的運行初衷，這與人類行為的不合目的性和多樣性基本一致。機器人的自主性與人類的自主性在可能性上是等量齊觀的[6]。另一方面，大數(shù)據(jù)、人工神經(jīng)網(wǎng)絡、深度學習等智能技術使智能機器人不斷重新組織已有知識結構和信息，改善自身性能，在信息不足的情況下做出預測推理，人類對機器人知識能到達的峰值尚未可知，對智能機器人可能的行為發(fā)生也不完全可控。

擁有意向性和自由的技術人工物在技術實踐中與人構成共同的道德能動者，拉圖爾在行動者網(wǎng)絡中認為，道德行動者以多種方式相互交互，行動者既可能是人，也可能是非人。但是智能機器人不具備和人類同等的道德主體地位。布瑞提出作為道德主體應該符合三個基本特征：“有能力根據(jù)對錯進行推理、判斷和行動;對自己的行為應當遵守道德規(guī)范;對自己的行為及后果負責?！盵7]智能機器人以道德能動者身份參與到人類倫理體系中，使機器人與人之間互相界定，影響人類道德判斷，構建人類道德決策環(huán)境，調節(jié)人類道德實踐。但是，就智能機器人的目前發(fā)展水平而言，智能機器人仍然處于弱人工智能水平，雖然具有一定程度的意向性和一定限度的自由，但是不能對自己的行為負責，不能承擔道德責任的主體不能成為完全的道德主體。

三、智能機器人帶來的倫理風險

智能機器人發(fā)展不斷沖擊“人”的概念。法國唯物主義的自然主義人性論者認為人的本質就在于人自身，即人的自然本性。拉美特里宣稱人是機器。近代資產(chǎn)階級理性主義認為人的本質是理性，而理性也就是自由。康德認為，人只有不受感覺世界的支配，服從自己理性發(fā)出的“絕對命令”，才是一個自己主宰自己的真正意義上的人。馬克思的實踐的唯物主義立足于現(xiàn)實的人和現(xiàn)實的人類社會，表明了人的本質的兩個方面，一是“勞動創(chuàng)造了人本身”，一是人的本質“在其現(xiàn)實性上，它是一切社會關系的總和”[8]。人在本質上是自然屬性和社會屬性上的統(tǒng)一。從自然維度上來說，人的自然屬性是人的生物學特性，人具有稱之為“人”的外部形態(tài)特征、內部機體構成、思維意識形態(tài)以與其他物種區(qū)分。在社會維度上，人與人之間在實踐過程中產(chǎn)生出各種關系，在社會性交往中互相規(guī)定，形成“人之為人”的倫理綱常規(guī)范。技術上的成熟使智能機器人與人之間外在上的相似度越來越接近，甚至于高度仿真的類人機器人使人陷入“恐怖谷”理論，人的自然外表特征不再為人類所獨有。此外，完整健全的人擁有頭部、軀體、四肢，而因為各種原因導致肢體殘缺者也稱為“殘疾人”。隨著智能科技的發(fā)展，人工假肢、人工內臟器官應用在臨床醫(yī)學，接受人工器官移植的人不再是傳統(tǒng)生物學意義上純粹的“自然人”，人與智能技術物相結合，成為“賽博格人”。如果科技足夠發(fā)達，人的全身器官都可以替換，那么，人和智能機器人之間區(qū)分的界限在哪里？界限的模糊難免使人陷入“忒修斯之船”悖論。此外，在社會實踐中，人與智能機器人之間形成了各種各樣的關系，如伴侶、寵物等。機器人智能性的提高，不斷挑戰(zhàn)人類的尊嚴，使人類更深刻地反思自己的主體地位，思考人的本質。

智能機器人對社會角色的替代引起倫理爭論。智能機器人在實踐中的應用產(chǎn)生正負兩方面的效應。智能機器人把人從繁勞的工作中解放出來，剩余勞動時間增多，從而尋求人的自由全面發(fā)展。智能機器人也用于代替人從事危險指數(shù)高的工作，比如掃雷機器人、勘察機器人、軍事機器人等。在新冠肺炎疫情中，醫(yī)院借助5G網(wǎng)絡，利用超聲機器人為新型冠狀病毒感染的肺炎疑似患者開出遠程超聲診斷書;一批戰(zhàn)疫機器人在防疫一線24小時工作;使用消毒機器人殺滅病菌;利用送餐機器人為病人服務等。智能機器人在新冠肺炎疫情的防控工作中大放異彩，在壓縮人力資源成本的同時，降低了醫(yī)院的交叉感染率，守護醫(yī)生和病人的生命。此外，智能機器人具有補位社會角色的作用，例如養(yǎng)老機器人替代子女看護老人，監(jiān)測老人健康狀況，即使子女不在身旁，老人也可以得到照顧;治療精神病患者的陪伴機器人可以替代人不厭其煩地與其進行溝通，幫助進行康復治療;學習機器人能夠在家長繁忙或者能力有限時輔導孩子學習。但是，智能機器人對部分人力的替代引發(fā)失業(yè)恐慌，尤其是低端體力勞動的從業(yè)者，這部分人本身社會技能欠缺，跟不上智能技術的步伐，會被淘汰在科技洪流外，增加社會負擔。另一方面，智能機器人依靠內外部傳感器檢測自身狀態(tài)感知外部世界，通過感知和思維，規(guī)劃和確定任務。內部計算編程偏失、外部環(huán)境的多樣性以及復雜性導致智能機器人在替代人進行活動過程中因判斷誤差導致不良后果，后果的責任劃分難以厘清。智能機器人對社會角色的補位也會淡化人的責任意識。如護理機器人進入家庭代替或幫助子女為父母養(yǎng)老，解決了未來社會養(yǎng)老問題。然而，護理機器人補位子女養(yǎng)老會導致孝養(yǎng)關系疏離化、孝道降階化等倫理風險[9]。

智能機器人的發(fā)展誘發(fā)對人-機關系的思考。一般機器是受控于人類，實現(xiàn)人類目的的工具性技術物。智能機器人不同于其他技術物。首先，智能機器人是對人類本體的模擬，具有人類的基本特征，如外觀、動作、語言等，人往往對類人機器人有特殊的情感。智能機器人以“類人”角色進入人類世界，人不止把機器人當作工具，機器人也是人類的伙伴。人對普通機器的人為損毀習以為常，但是智能機器人的肢體破壞卻讓大部分人極為不適，人對智能機器人的特殊道德情感，導致在處理問題時會有情感偏袒。其次，智能機器人的綜合性能遠超人類，得益于智能技術的發(fā)展，智能機器人的自主性越來越高，人類擔心機器人某天會反過來控制人類。2014年Elon Musk在麻省理工學院的一場公開訪談上提出“研究人工智能就像召喚惡魔一樣”?；艚鹨苍岢鋈斯ぶ悄芡{論。假如“不受控”機器人出現(xiàn)，使得自然人不是以主體對待客體的方式，而是以主體對待主體的方式對待機器人，也就是說，自然人和機器人之間的關系不是主客體關系，而是主體間關系，不是人機關系，而是跨人際主體間的關系[10]。此外，“腦-機接口”技術打通人腦智能與機器智能之間的聯(lián)結，實現(xiàn)人工智能植入人腦，人腦與智能機器之間交互連接構成新型生物人工智能網(wǎng)絡。人與機器人的關系從人機分離的隔離狀態(tài)發(fā)展到人機協(xié)作的混合環(huán)境。智能機器人的開發(fā)和應用帶來的一系列倫理風險呼吁建立與之相適應的機器人倫理，規(guī)范和引導智能機器人發(fā)展。

四、構建人-機責任共同體

就目前發(fā)展水平而言，智能機器人仍然處于弱人工智能水平，不能獨立承擔道德責任，需要建立人-機責任共同體，使智能機器人與人在技術實踐上始終處于動態(tài)互動中，共同承擔道德責任。在設計階段，專注于特定類型的智能機器人設計，把所有利益相關者的利益和相關涉的倫理問題都暴露出來，進行充分討論分析，把技術實踐與人文關懷充分結合，制造出合乎社會道德規(guī)范的智能機器人。在使用過程中，設計者、生產(chǎn)者與用戶之間有效協(xié)調，對智能機器人的行為及時調整，政府充當監(jiān)督者角色，使智能機器人在合乎倫理的框架內行動。不能成為道德主體的智能機器人在法律上也不具有主體地位，智能機器人只能承擔部分道德責任，責任后果需要在設計者、生產(chǎn)者、用戶之間進行權責劃分。歐盟議會提出賦予人工智能“電子人”的法律主體地位，由人工智能對其造成的損害直接承擔責任[11]。弱人工智能是無法獨立承擔道德責任的，我們期待人工智能的進一步發(fā)展，使強人工智能成為獨立的道德主體。

參考文獻：

[1][日]松尾豐.人工智能狂潮：機器人會超越人類嗎？ [M].趙函宏，高華彬，譯.北京： 機械工業(yè)出版社，2011：1.

[2]苑亞欽.云計算概念及發(fā)展歷程[J].科技信息，2011（20）：229.

[3]劉寶杰.試論技術哲學的荷蘭學派[J].科學技術哲學研究，2012，29（4）：64-68.

[4]趙南元.認知科學解密 [M].北京：清華大學出版社，2002：5.

[5]彼得·保羅·維貝克. 將技術道德化——理解與設計物的道德[M].上海：上海交通大學出版社，2016.

[6]張正清，黃曉偉.作為“他者”而承擔道德責任的智能機器——一種人工智能成為道德能動者的可能性[J].道德與文明，2018（4）：26-33.

[7]閆坤如.人工智能機器具有道德主體地位嗎？[J].自然辯證法研究，2019，35（5）：47-51.

[8]鄧曉芒，趙林.西方哲學史 [M].北京：高等教育出版社，2005：4.

[9]王健，林津如.護理機器人補位子女養(yǎng)老的倫理風險及其防范[J].道德與文明，2019（3）：131-137.

[10]程廣云.從人機關系到跨人際主體間關系——人工智能的定義和策略[J].自然辯證法通訊，2019，41（1）：9-14.

[11]吳高臣.人工智能法律主體資格研究[J].自然辯證法通訊，2020，42（6）：20-26.