[摘" 要] 科幻小說之父阿西莫夫著作頗豐,其作品既有科學(xué)性也有人文性,他總是不遺余力地表現(xiàn)科技對人類發(fā)展的威脅和問題重重的烏托邦世界。隨著人工智能的發(fā)展,人機(jī)倫理問題成為學(xué)界關(guān)注的熱點(diǎn)。阿西莫夫機(jī)器人系列小說的創(chuàng)作都基于一個共同的基礎(chǔ),即“機(jī)器人三定律”,這三大定律構(gòu)成了對機(jī)器人的倫理要求。倫理禁忌是維系倫理秩序的核心因素,然而在阿西莫夫的作品中,作者也精心設(shè)計了一些情節(jié)對倫理禁忌進(jìn)行解構(gòu)。
[關(guān)鍵詞] 阿西莫夫" 倫理禁忌" 解構(gòu)
[中圖分類號] I106.4" " " [文獻(xiàn)標(biāo)識碼] A" " " "[文章編號] 2097-2881(2024)17-0083-04
在文明進(jìn)程中,禁忌被用來控制人類野蠻的本能。隨著社會的發(fā)展,禁忌也越來越多。作為道德的代表,禁忌起著維護(hù)社會秩序的作用,所以,社會一旦要改造,倫理禁忌就要被重構(gòu)。作為人類與機(jī)器人的倫理禁忌,“機(jī)器人三定律”明確規(guī)定了人類對機(jī)器人的絕對權(quán)力,但同時,機(jī)器人對權(quán)力的爭奪也從未停止。
阿西莫夫的作品生動地展現(xiàn)了一批具有自由意志的機(jī)器人,它們有自己的思維模式,有的還具有感受痛苦和歡樂的能力,這意味著它們可以有自己獨(dú)立的道德地位。阿西莫夫筆下的機(jī)器人擁有獨(dú)立的倫理選擇,它們做決定時更愿意遵從自己的內(nèi)心而不是所謂的法律,有時會陷入道德困境。
一、阿西莫夫機(jī)器人系列小說中的倫理解構(gòu)
1.機(jī)器人突破監(jiān)控,獲得自主權(quán)
一方面,人類認(rèn)為機(jī)器人地位不如自己,另一方面,人類又害怕機(jī)器人潛在的能力,所以人類試圖用“機(jī)器人三定律”來規(guī)訓(xùn)機(jī)器人。??抡J(rèn)為權(quán)力規(guī)訓(xùn)是一種精細(xì)的、可持續(xù)的運(yùn)行機(jī)制。規(guī)訓(xùn)的方式之一就是監(jiān)控,通過監(jiān)控,個體被物化,被機(jī)制觀察和記錄,這種監(jiān)控是一種持續(xù)的、實在的力量。
監(jiān)控權(quán)可以在“機(jī)器人三定律”中體現(xiàn),它規(guī)定機(jī)器人不得傷害人類,而“人類”的定義卻是模糊的,不僅指某個特定的人,還泛指整個人類社會。人類在一種虛構(gòu)關(guān)系下實現(xiàn)對機(jī)器人的控制,并以一種簡單的方式實現(xiàn)復(fù)雜和持續(xù)的管理。監(jiān)控的目的是對機(jī)器人進(jìn)行價值滲透,從而迫使它們服從權(quán)力。
然而,《兩百歲的人》打破了人與機(jī)器人之間的刻板關(guān)系,小說里的機(jī)器人安德魯扮演了一個合作者的角色。它是馬丁家的仆人,馬丁先生像對待一個真正的人一樣對待它,并聲稱安德魯應(yīng)該有自由意志。馬丁先生的小女兒也很尊重安德魯,甚至視它為知己。安德魯像人一樣努力學(xué)習(xí),開了自己的公司,為科學(xué)創(chuàng)新做出了很大貢獻(xiàn)。此外,它一次又一次地改造自己的身體,并決定像正常人一樣死去。從被人監(jiān)控到知道如何對人進(jìn)行生理和心理監(jiān)控,其人化過程可以解釋為對監(jiān)控的解碼。
《鋼鐵之窟》中,阿西莫夫講述了一個人類和機(jī)器人合作追捕罪犯的故事。背景設(shè)定在未來世界,那時的地球由擁有更先進(jìn)技術(shù)的太空物種統(tǒng)治,由于科技落后,地球人一直無法推翻他們的統(tǒng)治。此外,外來物種發(fā)明的機(jī)器人也被用來監(jiān)視人類。貝利是一個地球人警察,他討厭機(jī)器人,認(rèn)為機(jī)器人是外來文明的象征,它們破壞地球秩序、壓迫地球人。此外,地球人區(qū)域和外來物種區(qū)域的邊界也處于機(jī)器人軍隊嚴(yán)密的監(jiān)視之下。在故事最后,兇手竟然是人類警察局長,他被外來物種提拔用以監(jiān)視地球人。這是一種戲劇性的諷刺,警察局長作為權(quán)力的調(diào)節(jié)者,做著監(jiān)控群眾的工作,同時也受到上層權(quán)力的監(jiān)控,他更像是權(quán)力鏈條中的一個結(jié)點(diǎn)。最終,警察局長殺死他的上級領(lǐng)導(dǎo),通過突破機(jī)器人的監(jiān)控為地球人爭取自由,這是顛覆權(quán)力的一次嘗試??傊?,在阿西莫夫的作品中,無論被監(jiān)控的是誰,總是試圖推翻秩序。
2.機(jī)器人發(fā)展語言,爭奪話語權(quán)
《羅比》中,羅比是一個不會說話的機(jī)器人,它被視為有情感和自我表達(dá)缺陷的冰冷機(jī)器。韋斯頓夫人擔(dān)心羅比對女兒存在潛在威脅:“我不會把女兒托付給一臺機(jī)器。我不在乎它有多聰明,它沒有靈魂,沒有人知道它在想什么。孩子不應(yīng)該被一個金屬殼子保護(hù)著?!卑凑账恼f法,機(jī)器人的危險之處在于無法表達(dá)自己,人類無法了解機(jī)器人的思想,它們被看作沒有靈魂和意志的人造物。
阿西莫夫記錄了機(jī)器人語言能力的發(fā)展,它們從不會說話到不會說好話;從只說真話到能對人類撒謊;從只對主人說話到面對公眾演講。這種演變不僅意味著技術(shù)的進(jìn)步,也意味著人與機(jī)器人之間權(quán)力的重新分配。巴赫金在《陀思妥耶夫斯基詩學(xué)問題》中指出,語言是一個不斷重構(gòu)的過程,總是充滿意識形態(tài)。因此,語言滲透著社會意識和權(quán)力結(jié)構(gòu),代表著權(quán)力沖突,用巴赫金的話來說就是,語言是階級斗爭的舞臺。阿西莫夫?qū)C(jī)器人從被動的信息接收者轉(zhuǎn)變?yōu)橹鲃拥谋磉_(dá)者,語言的發(fā)展意味著機(jī)器人對權(quán)力的爭奪。
小說中另一個機(jī)器人“小可愛”在讀書時發(fā)出誰才是主人的疑問,要注意的是,書是人類語言的集合?!靶】蓯邸闭f道:“我是一個成品。我直接吸收電能,并以幾乎百分之百的效率利用它。我意志堅強(qiáng),有持續(xù)的意識且能輕易忍受極端環(huán)境?!备鶕?jù)達(dá)爾文的進(jìn)化論,適者總是被認(rèn)為是更先進(jìn)的,所以“小可愛”認(rèn)為它比人類先進(jìn)得多。人類科學(xué)家解釋說人類會推理,而機(jī)器人是智能?!靶】蓯邸闭J(rèn)為更智能就是更優(yōu)越,但科學(xué)家卻將推理置于智能之上。從能指和所指的角度來看,推理是一個追求意義的過程,它像一條能指鏈;而智能意味著可以很快給出答案。答案是否正確有明確的標(biāo)準(zhǔn),但推理沒有,因而意義是不確定的、無限的,人類因此也有了更多的可能性。而在機(jī)器人的話語中,數(shù)據(jù)的準(zhǔn)確性就等于理性,答案越精確,大腦就越優(yōu)越。因此人和機(jī)器人生活在不同的話語中。哈貝馬斯認(rèn)為,“交往理性”是語言社區(qū)中的協(xié)調(diào)者,它幫助社區(qū)成員共享認(rèn)知并建立一個共同的規(guī)范標(biāo)準(zhǔn)。此外,在不同的語言群體中,尊重多樣性是基礎(chǔ)。他堅持認(rèn)為,理性的關(guān)鍵是消除隱藏的權(quán)力關(guān)系,這是造成溝通扭曲的最大障礙。機(jī)器人擁有自己的話語,在與人類的對話中,它們的意圖一旦可以被表達(dá)和理解,就有可能顛覆人類的統(tǒng)治。
3.機(jī)器人凝視他人,享受自主權(quán)
凝視是一種傳遞力量或欲望的觀看方式。作為視覺中心主義的產(chǎn)物,它賦予凝視的主體權(quán)力,并通過凝視的壓力迫使被凝視的客體內(nèi)化價值判斷,從而使被凝視者屈從于凝視者。薩特在《存在與虛無》中把“他人的凝視”提升到哲學(xué)層面?!霸趧e人的注視下,我獲得了另一種生活。除了我擁有的所有意識,我是其他人認(rèn)可的‘我’……我被其他人的凝視所包圍?!边@些話可以明明白白地解釋當(dāng)世界被人類凝視時,自在之物通過凝視被集中在人的意識中。因此,人類覺得自己是這個世界的中心,人類有自主權(quán);然而,如果人被他人注視,他人則成為中心。也就是說,如果有他人的干預(yù),一個人就會失去控制全部自由的優(yōu)先權(quán)。為了奪回自由,一個人要掌握注視他人的優(yōu)先權(quán),把自己從他人的控制中解放出來,從而確保他人從屬自己。所以,凝視的過程就是權(quán)力的爭奪過程。
《證據(jù)》講述了人類科學(xué)家想要證明一個名叫拜爾利的市長候選人是機(jī)器人的故事。人類和拜爾利一共有三次面對面的交流。第一次是與卡爾文的會面,在這次會面中,“拜爾利轉(zhuǎn)向那位女士,后者則冷漠地凝視著他”。然而,拜爾利卻表現(xiàn)得很自然。第二次是和哈羅韋之間的較量,哈羅韋受拜爾利對手的囑托去搜查他的房子。“那個叫哈羅韋的小家伙猶豫了一會兒,他的臉突然紅了,他不敢正視拜爾利的眼睛?!痹谶@場權(quán)力的斗爭中,拜爾利的目光壓倒了對方,使象征著人類權(quán)威的男性警察相形見絀。最后一次見面也是故事的高潮,拜爾利站在競選臺上在全體公民面前演講。但突然,人群中一名男子質(zhì)疑拜爾利是機(jī)器人,他走上舞臺要求拜爾利咬自己。根據(jù)“機(jī)器人第一定律”,機(jī)器人永遠(yuǎn)不能傷害人類。在這種注視的壓力下,拜爾利必須做點(diǎn)什么。大眾的目光把人類的力量推向極致,這是對一個類人機(jī)器人的極限挑戰(zhàn)。最終,拜爾利當(dāng)眾咬了那人,并向他道歉,而后繼續(xù)自己的演講。此時它重新獲得了凝視的主體地位,臺下整個人類社會都被凝視著,這預(yù)示著權(quán)力的轉(zhuǎn)移和機(jī)器人在權(quán)力之戰(zhàn)中的最終勝利。
二、阿西莫夫機(jī)器人系列小說中倫理解構(gòu)的邏輯基礎(chǔ)
1.人類語言和機(jī)器語言的差異
《迷失的小機(jī)器人》中,科學(xué)家致力于尋找一個有自我意識的機(jī)器人,他們想通過詢問同樣的問題的方式來測試所有機(jī)器人。然而,一位科學(xué)家質(zhì)疑機(jī)器人能否理解其中的意思。用他的話來說,人類語言是易錯的,它不能建立能指和所指的聯(lián)系,因此人類語言無法揭開真理的面紗。
從結(jié)構(gòu)主義的角度來看,語言和真理的關(guān)系是線性的,語言可以揭示真理。當(dāng)一個問題被提出,答案隨之而來,這個答案可以被視為真理,因為語言可以被視為邏輯計算的過程。所以,機(jī)器人生活在一個語言被視為發(fā)現(xiàn)和解釋真理的世界。然而,后現(xiàn)代主義者德里達(dá)認(rèn)為,人類語言只是能指,但機(jī)器人用數(shù)字編碼直接指向所指。在能指與所指的迷宮中,語言無法被簡潔而精確地編碼為數(shù)據(jù),因此人與機(jī)器人的認(rèn)知和邏輯必然存在差異,這種差異在數(shù)據(jù)失效時賦予了機(jī)器人獨(dú)立思考的自由,同時為話語顛覆提供了可能性。
2.“機(jī)器人三定律”內(nèi)在的邏輯缺陷
短篇小說《證據(jù)》中,蘭寧博士和蘇珊·卡爾文在爭論“機(jī)器人三定律”的邏輯是否存在缺陷時,蘭寧博士堅稱定律沒有問題,但蘇珊不同意,她舉了一個例子——如果一個機(jī)器人遇到一個瘋子正要放火燒一棟有人的房子,此時該怎么辦?為了保護(hù)房子里的人它要阻止那個瘋子,但如果唯一能阻止他的方法就是殺了他呢?從這個例子可以看出,“機(jī)器人三定律”內(nèi)在邏輯缺陷非常明顯。機(jī)器人不能殺死放火者,但又不能放棄幫助被困在房子里的人。
《迷失的小機(jī)器人》中,科學(xué)家們設(shè)計了一個道德困境:一個處在伽馬射線中的人隨時有生命危險,但同時這些射線對機(jī)器人也是致命的。此時,“機(jī)器人三定律”一旦付諸實施就會出現(xiàn)一些悖論。如果機(jī)器人想生存,它必須違反第一定律,如果堅持第一定律,它和人類都不能生存。當(dāng)結(jié)局注定時,機(jī)器人應(yīng)該做出怎樣的選擇呢?“機(jī)器人三定律”中的悖論導(dǎo)致機(jī)器人陷入困境,此時機(jī)器人的最佳選擇是不作為,這是定律允許的錯誤,也是對定律的無聲抗?fàn)?。邏輯缺陷的實質(zhì)在于人類賦予了機(jī)器人思考的自由,卻剝奪了機(jī)器人做出選擇的自由。無法獲得完全的自主性會限制機(jī)器人采取行動的自由,并導(dǎo)致機(jī)器人陷入道德困境。
3.人性中的自相矛盾
短篇小說《說謊者》中,哈比是一個會讀心術(shù)的機(jī)器人,它告訴蘇珊,米爾頓愛著她,但蘇珊卻發(fā)現(xiàn)米爾頓已經(jīng)結(jié)婚,而且非常愛他的妻子;哈比還告訴彼得,他將成為蘭寧的繼任者,但事實證明蘭寧將繼續(xù)擔(dān)任領(lǐng)導(dǎo)人。他們都稱哈比為說謊者,但其實是人類把真相隱藏了起來。蘇珊有愛的欲望,彼得有權(quán)力的欲望,卻都選擇用理性的面具偽裝自己。當(dāng)他們聽到哈比說出事實時,便卸下偽裝,變得非常具有攻擊性。
安德魯向馬丁先生學(xué)習(xí)下棋,學(xué)習(xí)欣賞音樂甚至如何創(chuàng)作。在此期間,它認(rèn)識到人類的偉大在于創(chuàng)造力和善良。馬丁先生的大女兒卻對它一直懷恨在心。一次她命令安德魯從樓上跳下去,作為一個機(jī)器人,安德魯必須毫不猶豫地服從人類的命令。但也是在這個時候,它開始意識到人類并不完美,有時他們會做出一些有意的非理性行為來傷害自己和他人。
故事最后安德魯決定像人一樣死去,死亡學(xué)將人類定義為一個生命體。大多數(shù)存在主義者認(rèn)為生命是一個走向死亡的過程,死亡賦予生命獨(dú)特的意義。安德魯告訴機(jī)器人外科醫(yī)生它是機(jī)器人,所以可以在不違反“機(jī)器人第一定律”的情況下殺死它;關(guān)于“機(jī)器人第三定律”,它告訴妻子:“讓我的肉體活著,但思想死去,這才是真正違反了第三定律。”安德魯是人性的旁觀者,在它向人的轉(zhuǎn)變過程中對人性的思考十分深刻;同時它還是人類的模仿者,面對倫理選擇時有自己獨(dú)特的理解。正如小說中所說,“安德魯給了我們希望,它不僅可以教會智能機(jī)器以符合道德的方式做事,而且也可以引導(dǎo)人類以更符合道德的方式做事”。
三、結(jié)語
傳統(tǒng)的觀點(diǎn)總是把人與機(jī)器人的關(guān)系視為絕對的統(tǒng)治關(guān)系,因為人總是理性的權(quán)威和權(quán)力的象征。一些科幻小說則傾向于吹噓科學(xué)在權(quán)力分配中的決定性作用,因此人被認(rèn)為不如機(jī)器人。這兩個主題在阿西莫夫的作品中都有體現(xiàn),然而,無論人類對人機(jī)倫理的刻板印象是什么,解構(gòu)在阿西莫夫的小說中從未缺席。這種解構(gòu)承載著他對服務(wù)于新世界的新倫理的希望,而新倫理包括相互性、尊重和平等。
《鋼鐵之窟》中,地球人被視為非理性和非文明的物種,這種非理性在太空種族的眼中是瘋狂的?!动偘d與文明》的導(dǎo)言中,??玛U明了人性中的非理性——瘋狂被各種形象掩蓋。理性是一種約束身體和道德的秩序,是對社會群體無形壓力的統(tǒng)一需求;瘋癲則意味著與社會交換的另一種理性,精神病學(xué)是瘋癲的理性獨(dú)白。在福柯看來,瘋癲是一種未被解碼的話語,被理性所忽視。然而,瘋癲作為一種與社會交換的形式,可以被視為一種具有內(nèi)在價值的話語。太空種族所珍視的價值標(biāo)準(zhǔn)以理性為中心,但由理性和非理性構(gòu)成的地球人也有被理解的權(quán)利,非理性是文化多樣性的基礎(chǔ)。在故事的結(jié)尾,地球人和太空種族進(jìn)行了平等的對話,促進(jìn)了相互理解,和諧的結(jié)局隱含了阿西莫夫的價值觀,即統(tǒng)一性和多樣性應(yīng)該平衡。
需要注意的一點(diǎn)是,阿西莫夫在“機(jī)器人三定律”中增加了一個額外的原理,并將其命名為“第零定律”,這條定律由阿西莫夫在小說《機(jī)械帝國》中首次提出。巴利的遺言豐富了這條定律:一個人什么時候死并不重要,死者留下的事業(yè)可以由他的后代繼承。從這個意義上說,他并沒有死。人每多活一天,他的事業(yè)就多存在一天。個體是人類社會的一部分。一旦整體存在,他的個體部分也存在,一個人的生命只是人類生命長河中的一滴水。這些話有意區(qū)分個人價值和整個人類共同的價值,整體價值遠(yuǎn)遠(yuǎn)高于個人價值。從這些話引申出的“第零定律”意味著機(jī)器人不可以傷害人類的整體利益,也不可以在人類整體利益遭遇危險時袖手旁觀。
最大幸福原則指無論人類何時行動,人必須考慮的不是特定個人的幸福,而是人類整體的幸福,換句話說,幸福的目的在于使大多數(shù)人滿意。阿西莫夫創(chuàng)作《機(jī)械帝國》期間,世界正處于冷戰(zhàn)時期,作為一名俄裔美國作家,阿西莫夫極力主張兩種政治力量之間的平衡。此外,受解構(gòu)主義的影響,阿西莫夫接受了去中心化的思想,認(rèn)為意識形態(tài)不是二元對立的,而是多元的。阿西莫夫遵循最大幸福原則,他認(rèn)為平衡才是實現(xiàn)最大幸福的手段,因此他從不偏袒人類或機(jī)器人任何一方。
阿西莫夫致力于建立的新秩序是一種平等和尊重的關(guān)系,這與密爾的正義思想遙相呼應(yīng)。密爾認(rèn)為,平等的社會只能存在于這樣一種理解之上,即所有個體的利益都應(yīng)得到平等的對待,所以阿西莫夫作品中不乏機(jī)器人對自由和權(quán)力的爭取,充滿著對傳統(tǒng)倫理的解構(gòu)。
參考文獻(xiàn)
[1] 阿西莫夫.阿西莫夫:機(jī)器人短篇全集[M].葉李華,譯.南京:江蘇文藝出版社,2014.
[2] 陳濤.科學(xué)選擇與倫理身份:阿西莫夫小說中的人機(jī)倫理關(guān)系[J].華中學(xué)術(shù),2015(2).
[3] 羅爾斯.正義論[M].何懷宏,何包鋼,廖申白,譯.北京:中國社會科學(xué)出版社,2001.
(特約編輯 劉夢瑤)
作者簡介:孔茹杉,天津外國語大學(xué)。