阿爾法狗，黑鏡及其他

鄧建華

一

在這個講求“專業(yè)精神”的時代，人文領(lǐng)域的工作者在對技術(shù)問題發(fā)聲之際，總會有各種顧慮。但是正如波普爾的學生阿加西在《科學與文化》一書中所論述的觀點：科學是文化的一部分，它并不與人文學科天然對立。如果說人文學者關(guān)注的是人類的情感、信仰這些“非理性”領(lǐng)域，那么今天的人文學者必須面對的核心問題之一正是人在技術(shù)時代的處境。

互聯(lián)網(wǎng)時代不但提供了各種迅速匯聚信息的搜索引擎，也為人與人之間的

溝通帶來前人難以想象的便利，在中國更是興起了以馬云為成功典范、全民狂歡式的O2O（Online to Offline 線上線下模式）的電商經(jīng)濟。這是我們的時代，它造就了我們的生存方式。然而，對于互聯(lián)網(wǎng)時代的批判與反思都尚且無法塵埃落定之際，阿爾法狗大敗李世石的棋局也讓全世界對人類未來有了更新的認知：無論我們是否已經(jīng)做好準備（顯然大多數(shù)人沒有），人工智能所裹挾的未來似乎已經(jīng)降臨。

在西方文學史上，我們能清晰地觸摸到技術(shù)的烙?。郝L的中世紀是19世紀浪漫主義者眼中的黃金時代，是他們的鄉(xiāng)愁與烏托邦。盡管征戰(zhàn)連連，普通民眾的生存條件惡劣，但那畢竟是持續(xù)了千年的“穩(wěn)定”狀態(tài)。在這樣的時代，生活的變革并不劇烈，一個人的世界就是父輩口中的那個世界，它不會在某一天變得全然陌生。這是工業(yè)時代（機械時代）對農(nóng)耕時代的緬懷。而我們的時代給世界帶來的“陌生化”，比起工業(yè)時代而言則有過之而無不及。技術(shù)的頻繁更新（各種補丁、最新版本的下載通知）僅僅是其“變革”力量的冰山一角而已。一方面是剛剛用熟的工具，還沒變得趁手，已然變幻了模樣；另一方面，則是我們自身隨之發(fā)生的改變。以博客—微博—微信朋友圈的更新為例：僅僅在十年之內(nèi)，無論空間距離如何遙遠，人們的即時交流已經(jīng)如此方便，而人的表達方式也已經(jīng)全然不同。這一點，從行文篇幅急劇縮短、配圖的日益豐富都表露無遺。同樣是互聯(lián)網(wǎng)，為人的各種煩瑣事務(wù)決策提供了充分的信息源，但是海德格爾有關(guān)人在技術(shù)時代被“預(yù)置”的擔憂卻成為事實：一位母親在為自己的孩子挑選保姆之際，可能非常感謝家政公司的清晰網(wǎng)頁與詳盡資料，但是“保姆超市”這一稱謂卻很可能讓她備感不適，同時讓她真切體會到自己也不過是一堆“人力資源”資料中一紙信息而已。事實上，我們的父輩已經(jīng)親歷了科技所能帶來的巨大社會變革：網(wǎng)絡(luò)和手機上網(wǎng)。很多老年人無法像年輕人一樣熟練地操作電子產(chǎn)品，但是他們的生活由此所受到的沖擊一點也不比年輕人少，而且這種沖擊很可能是以負面影響居多。木心的《從前慢》一詩如果從這個方向來解讀，就絕非是對前網(wǎng)絡(luò)時代的浪漫主義抒懷，而是今天很多老年人心境的真實寫照，他們在網(wǎng)絡(luò)生活面前手足無措，并日益與年輕一代隔絕。他們用了將近一生的時間來熟悉、學習并參與其建造的那個世界消失了，或者忽然之間陌生了。

比起互聯(lián)網(wǎng)時代，人工智能時代帶給世界的變化會更加劇烈和難以想象。無論是否正視人工智能的發(fā)展前景及其對人類的影響，任何人類在技術(shù)上的重大突破，首先給予普通受眾的就是心理上的強烈沖擊，簡言之，就是從對待天方夜譚式的不相信，到親見親歷的難以相信和恐懼，然后再到習以為常。在交通工具的發(fā)明史上，是蒸汽火車與馬車的競賽，第一架飛機的試飛；在溝通交流的發(fā)明史上，是貝爾的電話；在毀滅性武器的發(fā)明史上，則是廣島的原子彈投放。強人工智能與超人工智能的出現(xiàn)所引發(fā)的心理地震，可能遵循的是同一條曲線。

雖然棋種不同，機器人戰(zhàn)勝國手的新聞，二十年前早有報道。而阿爾法狗引發(fā)的大量討論與關(guān)注，其焦點并非是它所代表的精于計算的弱人工智能（在某個特定領(lǐng)域遠遠超越人類但是能為人類所用），而是在它之后可能出現(xiàn)的強人工智能（機器在哲學的意義上變得和人一樣：擁有自覺意識的機器）與超人工智能（人類無法想象之物，或人類全新的存在形式，比如人機一體）。它們不僅涉及非常棘手的人機之間的倫理問題，而且會帶來一個人類進程上前所未有的悖論：我們像上帝一樣創(chuàng)造了某物，但是它遠遠比我們強大，并可能在極短的時間內(nèi)成為遠遠超乎我們的理解與想象的某物：“像神一樣地永生還是像恐龍一樣徹底毀滅?！边@樣的形而上命題在不久的將來很有可能成為現(xiàn)實；換言之，人類正在創(chuàng)造一個不可知的上帝。另外，如果人類可以造出和自己一樣的、甚至迅速超越自己的機器，那么人類自身是否也是被造出的機器，人類文明的發(fā)展史，在這些發(fā)展史之中所結(jié)晶的人文主義者所珍視的一切，是否是某個被預(yù)置的實驗結(jié)果？

根據(jù)強人工智能領(lǐng)域相關(guān)專家的保守估計，強人工智可能在2075年實現(xiàn)。這場變革很可能為我們以及我們的下一代所親見與親歷。難怪跨學科的杰出人物弗諾·文奇（Vernor Vinge）說，“我們正站在變革的邊緣，而這次變革將和人類的出現(xiàn)一般意義重大?！碑斎唬瑥牧硪粋€角度（技術(shù)的不可靠）而言，前文所提出的問題也會被非常干脆地一筆勾銷：不需要等到超人工智能的出現(xiàn)，僅僅是忠實執(zhí)行人類指令的弱人工智能就可能將人類消滅。我國翻譯出版的第一部西方短篇科幻小說集《魔鬼三角與UFO》所選的《機器人“俾斯麥”》說的正是這樣的故事：想要減肥的一家人，定制了一個機器人，想用它超強的執(zhí)行力監(jiān)督全家的減肥進程。故事的結(jié)尾不難想象，機器人為了徹底執(zhí)行“減肥”這一任務(wù)，在房屋周圍布置了電網(wǎng)，一家人誰也出不去，最終因反抗機器人的專制而死于非命。

二

英國系列短劇《黑鏡》（The Black Mirror）是當代反烏托邦的代表之作，其中討論人工智能的單元非常有趣。科技問題是這部在豆瓣上評價甚高的系列劇關(guān)注的主題之一。不僅是網(wǎng)絡(luò)時代的諸種面相在《黑鏡》系列中得到了戲劇性的展示，比如偷窺、“屏蔽”等等；人工智能在人類生活中可能存在的形式、對人類生活可能造成的影響也在該劇中得到極富戲劇形式的展現(xiàn)。它們大致可歸納為三個主題，分別與第一季第三集（《關(guān)于你的一切》）、第二季第一集（《馬上回來》）和第二季圣誕特別篇《白色圣誕》相對應(yīng)。盡管第一季第二集（《1500萬的價值》）是以一個虛擬未來為故事背景的，但是在科幻外殼之下，它的主題仍然是商業(yè)利益對于個人自由的收買，并從另一個角度提示了資本與技術(shù)結(jié)合的巨大能量。在下文討論的三個劇集中，編劇對科技所持的批判與悲觀立場固然一覽無余，但僅僅停留在這種悲觀立場的解讀顯然是不充分的；由這些劇集所提出和所形成的一些有關(guān)科技的“文學”（影視）敘事模式，以及它們所引發(fā)的一些問題仍然值得更一步的討論。

人機結(jié)合：植入人腦的記憶粒

一次聚會中，丈夫懷疑妻子與一位男子有非同尋常的關(guān)系。他通過植入人頭部的記憶粒，反復(fù)播放某次聚會的細節(jié)，分析畫面中妻子的一言一行，妻子不得不承認這位男子不僅是自己的前男友，而且兩人交往的時間也不短，并非以前她在與自己熱戀期間所提到的，只是一周的短暫關(guān)系。丈夫沖入男子家中，并且逼迫其刪除了涉及他妻子的回憶。但是讓他驚訝的是，他居然在對方要刪除的圖片中發(fā)現(xiàn)，這位男子不僅是妻子的前男友，還是她婚內(nèi)出軌的對象。他回家之后，又從妻子的記憶播放中發(fā)現(xiàn)這兩人通奸的具體時間是在妻子懷孕的那段時間，所以孩子的血緣歸屬也成了問題。最終妻子帶著出生不久的孩子離去，丈夫因為不堪對妻子回憶的折磨，將頭部的記憶粒取出。

劇中最引人注目的不是哪一個具體角色，而是植入頭部的記憶粒這種人機結(jié)合的人工智能。隨著故事情節(jié)的推衍，逐步展示出記憶粒的強大功能：它能夠隨時隨地地存儲人周圍的一切影像，在回放中擴大焦距、調(diào)節(jié)音量，以方便人們在回看中獲取更為確切的信息；記憶粒還有即時傳送影像功能，片中有人報警時警察要求報案者打開記憶粒傳送現(xiàn)場信息；在機場時也會使用記憶粒，安檢人員會要求乘客播放記憶粒某一段時間之內(nèi)的全部內(nèi)容，并用電腦分析人臉，查看其中是否有不安全因素；朋友聚會之際，記憶粒播放在屏幕上的畫面還能為人們提供談資或助興。顯然，這些技術(shù)在今天都不是什么新鮮事，高精度的攝像機、手機都能出色地完成信息存儲、傳遞、回放的功能，從記憶粒上刪除圖像，也和從攝像機、手機等成像設(shè)備上刪除圖片沒什么兩樣，唯一不同的是記憶粒被直接植入了人類的血肉之軀，成為人類認知系統(tǒng)的一部分。人不用按下機器的按鈕，一切信息的搜集與儲存就在人的行為中自然而然地完成了。即使喝醉了酒，記憶粒也會照常工作，人可以在酒醒之后看到當時究竟發(fā)生了什么事。

植入記憶粒的人，能夠獲得“可靠”的回憶。人固有的回憶，受到身體狀況、心理等不定因素的影響，很多是不可靠的。但是記憶粒幫助人克服了這個弱點，它清晰地記錄了一切。丈夫?qū)ζ拮討岩傻淖鴮?，以及得知妻子婚?nèi)出軌的真相都得益于記憶粒。記憶粒是不說謊的，它就是真相本身。因此，該劇為我們提出的問題便是：在機器的意義上延伸的人的能力（全面的信息、精準的觀察、確鑿的證據(jù)），是否有助于人的幸福？回憶所承載的是什么？是精微到不放過一絲一毫的記錄嗎？

劇中妻子有一句臺詞，頗能道出人類的真實處境：不真實的話并非就是謊言。沒有任何一個人可以說自己沒有說過一句不真實的話，更何況人際之間的關(guān)系總是復(fù)雜和微妙的。妻子的婚內(nèi)出軌固然不可原諒，但是瘋狂地想要找出真相的丈夫，在兩人的房間中毫不留情地審問行將崩潰的妻子的場景也讓人怵目驚心，更不用提妻子在承認了偷情的事實之后，還被迫播放自己極度隱私的記憶畫面時的屈辱了。在那一刻，他們本來就有問題的婚姻已經(jīng)分崩離析，丈夫的所為，已經(jīng)僭越了夫妻間的倫理原則。

劇中特別安排了一個被人搶走（被人強行從頭部取出）記憶粒的角色，借她之口說出了編劇想要表達的觀點：我過了一段沒有記憶粒的日子以后，發(fā)現(xiàn)其實還不錯。太過仰賴技術(shù)的生活其實也并不可靠。聚會中一位研究記憶粒的女士就說，記憶粒中的記憶是可以被人為操控的。可見，技術(shù)的進步與完備，對人際關(guān)系的更新、改善或重建非但并無助益，而且有可能讓人落入被動受控的境地。

作為真人的“替代品”：機器人可以撫慰人的情感嗎

這個故事討論的是人工智能所能提供的情感安慰?，斏耆珶o法承受失去愛人艾什之痛，其后發(fā)現(xiàn)自己懷孕的事實更加讓她崩潰。她開始和一家人工智能機構(gòu)聯(lián)系，該機構(gòu)能夠從她愛人在互聯(lián)網(wǎng)上留下的一切痕跡中為她構(gòu)建一個虛擬的艾什。“他”可以回復(fù)她的郵件，也可以在搜集了艾什所有語音資料后給她打電話。最終，人工智能為她提供了一個仿真機器人，它可以全方位地模仿她逝去的愛人。在與這個機器人相處的過程中，瑪莎漸漸領(lǐng)悟到：它并不是他。機器人會很體貼地問她要什么，艾什卻從不會做飯，大部分時間都沉浸在網(wǎng)絡(luò)中，對瑪莎并不那么體貼；機器人可以不睡覺，不吃飯，玻璃扎在手上也不流血，這些都讓瑪莎感到自己做了件蠢事。讓瑪莎完全放棄這個機器人的原因，是它完全不知道絕望的情人殉情是怎么一回事，它不知道從懸崖跳下去時的恐懼，它也不知道為什么瑪莎想要命令它跳下去。而這些信息，如果瑪莎面前是活生生的、真正的艾什，他用不著任何思考的時間就會明白，因為他和瑪莎是具有同樣情感的人類，機器沒有情感，更不知道人類情感的歷史。

這部短劇可以讓我們好好審視人機之間的交流問題。艾什一出場，他的不成熟、沉迷網(wǎng)絡(luò)等缺點就展露無遺。在兩人相處之時，這是可能引發(fā)爭吵和不滿的東西。但是在他逝去之后，艾什身上的這些缺點，在一個看似完美的機器人復(fù)制版本的映襯之下，反而變得珍貴起來。仿真機器人所執(zhí)行的指令是：我的存在就是取悅于你，你是我的管理者。它永遠按指令行事，也就是說，瑪莎和它之間不可能有真正的交流，她所得到的，只能是艾什的影像或回聲。如果沒有機器人，這些影響或回聲，只能出現(xiàn)在瑪莎的回憶或想象中；有了機器人，它也就是把它們活生生地演繹出來而已。

人在很多方面都被機器遠遠拋在后面——數(shù)據(jù)的搜集處理以及運算，但是人類的某些領(lǐng)域，對于遵循指令的機器而言卻很難復(fù)制，如情感、直覺、審美能力、信仰等等。至少迄今為止，這些東西還無法編程。更重要的是，在這些“主觀”的人類領(lǐng)域，不可能像計算或搜集數(shù)據(jù)那樣有一個恒定的標準：越來越快、越來越多或越來越全面。很多時候，“主觀”的東西總是被視為人的弱點，或不太值得看中的東西，但是與劇中的仿真機器人一對照，它反而成為人工智能領(lǐng)域一個很難跨越的“門檻”。人的主觀性和人之所以會密切地聯(lián)系在一起。如果某一天，機器產(chǎn)生了“人”的情感，那么無論它的外觀如何，它和我們就是同伴的關(guān)系，而非人與工具、創(chuàng)造者與創(chuàng)造物的關(guān)系。

最終瑪莎將機器人扔到了閣樓。這對機器人來說多少有些不公平。它的創(chuàng)造者是人，它的服務(wù)對象也是人。簡言之，它是人的一件工具。僅就工具而言，如何能要求它與自己有真實的情感交流呢？而如果它真的具有了某種情感，瑪莎又該如何自處？又如何能將之視為一件工具？它與逝去的艾什之間又是什么關(guān)系呢？人的脆弱性，正如人的不完美一樣，是人類的真相。每個人都有可能在生命中體會“失去”的痛苦，安撫這種痛苦的，應(yīng)該是一個與逝者一模一樣的機器人嗎？

意識復(fù)制：金屬容器里的人類意識副本

《白色圣誕》的敘事采用了俄羅斯套娃的模式，包含了好幾個故事，其中討論的人工智能是這部系列劇中最令人感到恐怖的。雖然這種技術(shù)有幾種實施方式，但其核心就是意識與身體的分離——意識的復(fù)制。當然，劇中也涉及智能眼這種與記憶粒類似的植入人體的人工智能，因前文已做討論，這里不再贅述。人的意識可以被復(fù)制，而且在未來這只不過是一個小手術(shù)而已。在該劇的第二個故事中，一位女子就做了這個手術(shù)。復(fù)制的意識被安置在一個蛋形金屬容器內(nèi)，在專業(yè)人員的“調(diào)教”下，“它”明白了自己的使命：為“自己”服務(wù)！或者說，為那個被復(fù)制的意識與身體服務(wù)！這真是關(guān)于人的“自我奴役”的最佳隱喻與諷刺了。而且，這種意識復(fù)制也給哲學家制造了很大的難題。人是因為其精神力量被稱之為人的。而被復(fù)制的意識在人的倫理學中應(yīng)該占據(jù)一種什么樣的位置呢？人可以毫無顧慮地讓自己的意識為自己服務(wù)嗎？或者使其成為最完美的奴役？因為這個被復(fù)制的意識是最了解它曾經(jīng)所屬的身體所需的。

最后的那個故事，則是專業(yè)人員如何誘使一個殺人犯承認自己的罪行。殺人犯的意識被復(fù)制出來，同樣盛放在蛋形金屬容器里面。專業(yè)技術(shù)人員為被復(fù)制的意識虛擬了一個場景，就是案發(fā)現(xiàn)場的木屋，并且虛擬了時間，他自己的意識也進入其中，以講故事的友好姿態(tài)獲得殺人犯（意識）的信任，對方投桃報李，將罪行的前因后果全都和盤托出。審問金屬容器中的意識副本，遠比審問現(xiàn)實中的罪犯本人來得容易，對一個罪犯的囚禁與懲罰，也可以通過扭曲他的意識副本的時間和空間而實現(xiàn)。顯然，劇中已經(jīng)將人自身與其意識副本等同，否則意識副本的懺悔，是無法用來給罪犯本人定罪的。

如果說前面兩個故事的人工智能，還讓人保有人的身體，那么《白色圣誕》中的人工智能就走得太遠，直接將人的意識從它所屬的身體中復(fù)制剝離開。劇中這種技術(shù)的實施指向兩個目的：一是為“自己”服務(wù)；二是實現(xiàn)法制正義，讓罪犯伏法?？剂科渲械膫惱硪饬x，上文所提到的問題就會一再浮現(xiàn)：人是否有權(quán)讓自己的意識成為這樣的一種奴役？人是否有權(quán)對他人的意識做這樣一種處置，即使是一個罪犯的意識？顯然，做手術(shù)的女子在得到自我意識的服務(wù)時極為享受；但是這份被復(fù)制的意識，最初是極其抗拒被困在金屬容器中的安排的。

三

拋開劇中所涉及的倫理問題不談，僅僅著眼于這種技術(shù)本身，也足以讓人隱隱生畏。既然意識能夠從身體中被復(fù)制或剝離，那么人也同樣可以為自我意識找到新的身體——像仿真機器人那樣的身體，或者干脆就是金屬機器的身體。乍聽起來，這是天方夜譚，但是在現(xiàn)實生活中，已經(jīng)有人在做將自我意識上傳到電腦，以到達“永生”的實驗了。人的脆弱，人的局限很多時候都體現(xiàn)在肉體上。病痛，衰老對每一個人而言都是不可逃脫的命運，肉體的衰亡也必定導致意識的消失。如果意識脫離身體這種人工智能成為現(xiàn)實，人的存在方式就有可能發(fā)生根本性的轉(zhuǎn)折。人與機器之間的界限將變得越來越模糊。為了拋棄人的脆弱與局限性，人有可能將自身改造為機器的那種樣式。到那個時候，恐怕所有的文學都不再具有閱讀的價值，因為文學中所描述的，正是肉身與精神兼具的人，是必然從年輕走向衰老的鮮活的身體。

科學家口中那個若隱若現(xiàn)的超人工智能時代究竟是怎樣的？是人類在工具的幫助下具有更大更強的感知力，是翻版艾什的機器人最終擁有了自發(fā)的情緒、情感，擁有了自我意識，還是我們?yōu)樽约旱囊庾R找到新的身體？這一切都無法預(yù)測。如果這樣的時代的到來無可避免，是海德格爾所說的并非宿命的必然，我們所能做的，正是提出這樣的問題：我們能為那樣的時代做些什么？比如，在技術(shù)決定生存方式的時代，我們總可以運用我們從歷史中秉承而來的人文主義的財產(chǎn)，去思考人與機器之間的關(guān)系。如果機器在某一天可能具有了情感和自我意識，那么人會不會在毫無追問意識、身陷技術(shù)時代之際淪為毫無反思能力的機器？從樂觀的方向看，技術(shù)以及人工智能為人類開拓了生活的多種可能性，但是我們是否需要把握那個推動技術(shù)與人工智能發(fā)展的原動力——永遠是想象力在推動著技術(shù)的發(fā)展；而人工智能的發(fā)展，也應(yīng)該是由“想成為一個怎樣的人”這個問題來推動的。

[本文受西南交通大學“中央高?；究蒲袠I(yè)務(wù)費專項資金資助”（supported by the Fundamental Research Funds for the Central Universities）項目”A0920502051413-121”資助。]

作者單位：西南交通大學中文系

（責任編輯農(nóng)郁）