《三體》系列小說關(guān)于算法的信任危機(jī)與倫理建構(gòu)

周建瓊

(上海師范大學(xué) 人文學(xué)院，上海 200030；武夷學(xué)院 人文與教師教育學(xué)院，福建 武夷山 354300)

隨著數(shù)字信息技術(shù)的飛速發(fā)展，基于數(shù)字信息技術(shù)的算法逐漸滲透到人類社會(huì)的各個(gè)方面，由此導(dǎo)致人類信任關(guān)系的種種危機(jī)，如何建立安全可靠的信任機(jī)制，保證人類活動(dòng)高效有序開展是人類迫切需要解決的問題。當(dāng)算法介入人類信任關(guān)系，一種全新的社會(huì)信任關(guān)系——算法信任出現(xiàn)，這正是信息技術(shù)時(shí)代社會(huì)信任關(guān)系變革發(fā)展的必然產(chǎn)物。與以價(jià)值理性為基礎(chǔ)的人格信任和制度信任相比，建立在工具理性上以計(jì)算機(jī)信息技術(shù)為基礎(chǔ)的算法信任模式，為信任關(guān)系提供了一種可靠的保障機(jī)制，但也不可避免地隱藏著誘發(fā)人類社會(huì)異化的危機(jī)。《三體》系列小說在對“三體文明”進(jìn)行想象時(shí)或隱或現(xiàn)現(xiàn)代科學(xué)技術(shù)的魅影，不僅充盈著物理學(xué)、天文學(xué)前沿技術(shù)的植入，作家還將浩渺宇宙中的“三體文明”引入一個(gè)后人類的算法世界，生動(dòng)展現(xiàn)了被算法操縱的信任關(guān)系形態(tài)，“試驗(yàn)了人類個(gè)體對他者、外來文化的接受程度”，“展現(xiàn)了人與技術(shù)、人與他人的永恒緊張關(guān)系”、“試圖通過一連串的情節(jié)變化，找到解決的可行的融合方法和融合點(diǎn)”。[1]為現(xiàn)算法信任危機(jī)與倫理建構(gòu)提供了科幻現(xiàn)實(shí)主義的觀察方式。

一、算法形態(tài)的“三體文明”與信任關(guān)系

“三體文明”作為劉慈欣構(gòu)想出來的一種有別于人類文明的他者文明形態(tài)，貫穿于《三體》、《黑暗森林》和《死神永生》三部曲之中，與地球人類的博弈構(gòu)成了故事發(fā)展的主線，將人類社會(huì)信任關(guān)系置于特定的時(shí)空語境與陌生化的場域之中?！叭w文明”被設(shè)定為銀河系中一個(gè)孤立存在的星球，坐落于距離地球極度遙遠(yuǎn)的“半人馬座α星系”，同時(shí)，“三體文明”的生存環(huán)境極為惡劣，三顆太陽不規(guī)則的運(yùn)動(dòng)著，導(dǎo)致三體人不得不在恒紀(jì)元與亂紀(jì)元的無序交替中生存，并且時(shí)刻承受了星球毀滅、文明消失的威脅。為了計(jì)算出三顆太陽的運(yùn)動(dòng)規(guī)律，改變?yōu)l臨滅亡的生存境遇，三體人構(gòu)成了一個(gè)龐大的人列計(jì)算機(jī)，“三體文明”進(jìn)入到后人類的算法文明之中。這正是作家在數(shù)字信息技術(shù)、信息控制論等科技靈感激發(fā)下，構(gòu)建起一個(gè)算法圖景，這個(gè)圖景正如著名的后人類學(xué)家凱瑟琳·海勒說描述的：“人類就是計(jì)算機(jī)?！祟愊喈?dāng)于計(jì)算機(jī)中的機(jī)器代碼，自由意志和主體性不再發(fā)揮作用，他們都是執(zhí)行程序的內(nèi)存?！盵2]

在三體人的算法社會(huì)形態(tài)中，作為社會(huì)成員的三體人進(jìn)化成了一種具有超強(qiáng)計(jì)算能力的信息主體生物，這是為保證人列計(jì)算機(jī)高效運(yùn)行的必要結(jié)果。計(jì)算機(jī)的運(yùn)行需要以一個(gè)根本性的編碼層次為基礎(chǔ)，在這個(gè)根本的編碼層上，所有一切都簡化成信息的生產(chǎn)、存儲(chǔ)和傳播。廣大三體人被化約成數(shù)據(jù)代碼，構(gòu)成了人列計(jì)算機(jī)中的根本性編碼層。后人類信息主體的一大特點(diǎn)是去具身化，不受人類軀體的限制，能夠擺脫肉身的束縛。三體人作為后人類信息主體的一種想象，劉慈欣從來沒有對三體人的外形特征進(jìn)行過具體描述，三體人的軀體可以隨著三體世界環(huán)境的變化而改變。當(dāng)亂紀(jì)元到來時(shí)，三體人的軀體可以通過自我脫水變成一層軟皮，卷曲起來進(jìn)行保存或攜帶，“放在巖石上將他(它)卷起來，就像卷一只放了氣的皮球一樣”，“在水里泡一會(huì)兒，他就會(huì)恢復(fù)原狀活過來，就像泡干蘑菇那樣”。[3]41三體人的去具身化特征，使得他們的思想意識(shí)能夠不依托軀體而自由流動(dòng)，他們沒有任何的交流器官，大腦不再是思維信息的載體，完全透明，至多不過是一個(gè)顯示器。正如三體人通過字幕對伊文斯說，“我們沒有交流器官，我們的大腦可以把思維向外界顯示出現(xiàn)，這樣就實(shí)現(xiàn)了交流”。[4]8

在劉慈欣的筆下，“三體文明”被塑造成一個(gè)算法社會(huì)，數(shù)字信息技術(shù)的操控隨處可見，甚至滲透進(jìn)了社會(huì)主體——三體人之中。社會(huì)形態(tài)的發(fā)展直接決定了信任關(guān)系的形態(tài)，在不同的社會(huì)形態(tài)中，有著不同核心的信任模式，當(dāng)社會(huì)發(fā)展到信息技術(shù)時(shí)代，算法信任也將隨之產(chǎn)生。在三體文明的算法社會(huì)中，三體人的信任關(guān)系呈現(xiàn)如下特點(diǎn)：由于每個(gè)三體人都是網(wǎng)絡(luò)中的一個(gè)數(shù)據(jù)節(jié)點(diǎn)，由此構(gòu)成了點(diǎn)對點(diǎn)的、分布式的信息傳遞和存儲(chǔ)方式。這種分布式方式使得三體人在進(jìn)行信息的獲取、傳播時(shí)不再出現(xiàn)權(quán)力中心，每個(gè)節(jié)點(diǎn)都有權(quán)力獲得、掌握、處理和維護(hù)信息。同時(shí)，三體人的思維信息可以自由流動(dòng)，通過全透明的大腦予以顯示，由于沒有語言本身的限制，避免了自然語言的模糊含混性，同時(shí)也不受任何第三方中介影響，從而保證了思維信息的公開透明。

在人類社會(huì)傳統(tǒng)的信任關(guān)系中，倫理與人性是影響信任關(guān)系的重要因素。算法信任，作為一種新興信任模式，在信任關(guān)系中用數(shù)字代碼取代人性與倫理，建立起分布式去中心化的代碼模式，保障數(shù)據(jù)的公開透明，從而建立起可靠的信任體系。這種三體人之間分布式去中心化的信息傳遞模式，是基于三體人化約成數(shù)據(jù)代碼而形成的，“三體文明”的信任關(guān)系是對算法信任的文學(xué)想象?！叭w文明”的算法信任模式，在一定程度上彌補(bǔ)和解決了建立在人性以及契約關(guān)系上的傳統(tǒng)信任模式的缺陷，使三體社會(huì)建立起了安全可靠的信任關(guān)系，在“三體文明”中，三體人宣稱：“欺騙和撒謊這兩個(gè)詞我們一直難以理解”。[4]10

二、算法烏托邦的信任危機(jī)與科技祛魅

傳統(tǒng)的人類社會(huì)信任關(guān)系是依據(jù)倫理道德規(guī)范來維系的，而算法信任將倫理道德驅(qū)逐，以數(shù)據(jù)信息取而代之,試圖建構(gòu)起基于客觀理性數(shù)據(jù)信息上的信任關(guān)系。算法信任的背后隱藏著科技決定論的邏輯底色，同時(shí)也表達(dá)出對信任關(guān)系中人性倫理的忽視與遮蔽。三體算法社會(huì)中的信任關(guān)系，不再由個(gè)體或者制度來驅(qū)動(dòng)，三體人變成了數(shù)據(jù)代碼，信任的生產(chǎn)過程被化約為信息的生產(chǎn)和流通過程，信息的真實(shí)性由被視為沒有人類情感的冰冷理性的科技來檢測和證明等等。從“三體文明”的信任關(guān)系中不難發(fā)現(xiàn)，三體人認(rèn)為科技能夠解決一切的社會(huì)問題，包括信任問題。事實(shí)上，劉慈欣一方面通過“三體文明”社會(huì)沒有欺騙和謊言，人類社會(huì)的信任關(guān)系卻危機(jī)重重，建構(gòu)出一個(gè)看似美好的算法信任烏托邦；另一方面，又通過三體人的悲劇和地球人求助三體后的災(zāi)難，暗示著算法烏托邦的局限和風(fēng)險(xiǎn)。

在三體人的算法社會(huì)中，算法信任帶來了安全可靠的信任關(guān)系，致使社會(huì)沒有欺騙和謊言，社會(huì)信息公開透明，但是其目的是為了讓人列計(jì)算機(jī)高速高效運(yùn)轉(zhuǎn)。處于人列計(jì)算機(jī)數(shù)據(jù)節(jié)點(diǎn)中的三體人，必須受到中心處理的塊狀結(jié)構(gòu)支配，不可避免地處在高壓統(tǒng)治之下。可以說，過分強(qiáng)調(diào)算法控制的信任關(guān)系，必然會(huì)出現(xiàn)“為了應(yīng)對亂紀(jì)元的災(zāi)難而產(chǎn)生的集權(quán)體制”。[5]148同時(shí)，在算法信任中，人性和倫理被驅(qū)逐，只剩下冰冷的技術(shù)，三體人的主體意識(shí)被完全剝奪，只能是毫無情感和精神世界的代碼，三體人之間的關(guān)系也冷漠空虛，社會(huì)一片死氣沉沉。正如三體世界的一位地球監(jiān)聽員所言，三體文明“為了整個(gè)文明的生存，對個(gè)體的尊重幾乎不存在”，“精神生活單一和枯竭。沒有文學(xué)沒有藝術(shù)，沒有對美的追求和享受，甚至連愛情也不能傾訴”。[3]268這位監(jiān)聽員在與羅輯的交談中悲嘆到：“三體世界也是有愛的，但因其不利于文明的整體生存而被抑制在萌芽狀態(tài)”，并希望“有一天，燦爛的陽光能照進(jìn)黑暗森林”。[4]469-470

在劉慈欣看來，算法信任引發(fā)的危機(jī)，不僅在于三體文明本身，同時(shí)還涉及到地球人類。受算法操控的信任機(jī)制無法從根本上解決人類社會(huì)的信任危機(jī)，甚至?xí)o地球人類帶來毀滅性打擊。當(dāng)?shù)厍蛉祟愒诿媾R社會(huì)中出現(xiàn)的信任危機(jī)之時(shí)，地球三體叛軍由此產(chǎn)生并且開始向“三體文明”求助，試圖通過三體人的幫助，重建可靠的人類信任關(guān)系。在他們看來，“三體文明”由于其高度發(fā)展的科學(xué)技術(shù)，必然擁有更高的文明程度。葉文潔在紅岸基地接收了三體文明發(fā)來的信號(hào)，她深信“如果他們能夠跨越星際來到我們的世界，說明他們的科學(xué)已經(jīng)發(fā)展到了相當(dāng)?shù)母叨?，一個(gè)科學(xué)如此昌明的社會(huì)，必然擁有更高的文明和道德水準(zhǔn)”。[3]260事實(shí)上，三體文明進(jìn)入人類社會(huì)非但沒有解決人類的信任危機(jī)，反而為了占有地球開始對地球人類實(shí)施殘忍的毀滅計(jì)劃。起初他們計(jì)劃在進(jìn)入地球后將地球人滅絕，后來在威懾時(shí)期與地球人開展了大規(guī)模信息交流之后，雖然放棄了人類滅絕計(jì)劃，但是依然沒有放棄殖民地球的計(jì)劃，在太陽系為人類劃出保留地，只容許地球人類生活在“地球上的澳大利亞，火星的三分之一領(lǐng)土”，“人類必須解除武裝，進(jìn)行裸移民，在移民中不能攜帶任何重型武器和設(shè)備”。[5]149在算法信任關(guān)系的維度思考三體文明與地球人類的對抗沖突時(shí)，不難發(fā)現(xiàn)，三體文明對人類地球的入侵及其殘酷毀滅，隱喻了信息技術(shù)對人類信任關(guān)系不斷僭越之后，必然導(dǎo)致人類的異化甚至滅亡。

在人類社會(huì)的信任問題上，算法能否解決人類社會(huì)的信任問題？通過信息技術(shù)實(shí)現(xiàn)了數(shù)據(jù)的公開透明和去中心化，能否真正建立起可靠的信任關(guān)系？答案是否定的，這需要對信任關(guān)系中算法操控背后的科技至上論進(jìn)行祛魅，看到技術(shù)本身的局限性。劉慈欣自稱為科技狂熱者，但是對科技的局限性有著清醒的認(rèn)識(shí)。他在展示科技高度發(fā)展的各種心態(tài)和優(yōu)勢的同時(shí)，也呈現(xiàn)了科技的不堪一擊，比如整個(gè)宇宙航空艦會(huì)因?yàn)橐活w水滴而毀滅，人類科技的發(fā)展被三體文明發(fā)射的質(zhì)子便能封鎖，科技在面對降維打擊時(shí)無能為力等等。面對信任關(guān)系中算法信任背后的科技至上論，劉慈欣是通過塑造了一群作為科技烏托邦者的地球三體叛軍來實(shí)現(xiàn)祛魅的。在科技烏托邦者看來，科技可以預(yù)料未來，預(yù)防災(zāi)難，使人們避免苦難，甚至可以使人長生不老。[6]地球人類叛軍們相信科技就是一切，人類已經(jīng)無法依靠自身力量“解決自己的問題”、“抑制自己的瘋狂”，只能靠被稱為“主”的三體文明，對人類“強(qiáng)制性的監(jiān)督和改造”以創(chuàng)造“全新的、光明完善的人類文明”。[3]242正是由于地球叛軍的科技狂熱，地球人類才與三體文明相遭遇。三體文明不是地球人類的拯救者，非但沒有解決人類的信任問題，反而給地球人類帶來了災(zāi)難?？梢哉f，劉慈欣“三體”危機(jī)的敘述背后是對科學(xué)技術(shù)本身的祛魅。

三、算法信任模式的道德倫理建構(gòu)

在劉慈欣的《三體》系列小說中，算法信任被置于“三體文明”的算法世界中，為討論算法時(shí)代的信任關(guān)系提出了可能。算法問題不僅僅涉及到信任與信息技術(shù)的關(guān)系問題，同時(shí)還必須面對倫理道德在信任關(guān)系中是否能夠被取代的問題。社會(huì)學(xué)的相關(guān)研究認(rèn)為，人類社會(huì)關(guān)系的主體是人類，各種社會(huì)關(guān)系中出現(xiàn)的問題，特別是信任問題其解決的關(guān)鍵還是在人本身。信任就其本質(zhì)而言，是信任方與被信任方之間的一種倫理結(jié)構(gòu)關(guān)系。倫理是信任的典型屬性。[7]無論是三體文明的算法信任模式，還是人類文明的倫理信任模式，劉慈欣都試圖將倫理的維度引入信任關(guān)系的討論之中。

三體文明的算法信任，將信任關(guān)系建立在信息技術(shù)的基礎(chǔ)上，而試圖對人性倫理因素進(jìn)行驅(qū)逐。三體人通過全透明思維，靠思維腦電波直接傳達(dá)信息，實(shí)現(xiàn)信息公開化，從而建立了可靠的信任體系?？墒钱?dāng)三體人與地球人類接觸時(shí)，三體文明通過算法建構(gòu)起來的信任體系卻在人性面前不堪一擊。當(dāng)他們通過降臨派領(lǐng)袖伊文斯得知人類具有欺騙性和虛偽性時(shí)，三體人恐懼地說我害怕你們。建立在科技基礎(chǔ)上的信任在面對人性之惡時(shí)徹底失效。而且在威懾紀(jì)年時(shí)期，人類文明和三體文明相互交流，三體人在接受了人類文明成果的同時(shí)，也學(xué)會(huì)了隱藏和欺騙?？梢?，人性和倫理是算法信任無法回避的。正如上文所論述，“三體文明”的算法社會(huì)是一個(gè)集權(quán)社會(huì)，算法信任能否建立起安全可靠的信任關(guān)系還關(guān)系到背后的集權(quán)統(tǒng)治者。在現(xiàn)實(shí)技術(shù)領(lǐng)域，算法信任承載著技術(shù)主體的道德取向和動(dòng)機(jī)，在信任機(jī)制的生產(chǎn)和實(shí)踐中，不可避免地會(huì)受到技術(shù)主體的人性趨利性的影響。在三體社會(huì)中，算法信任的倫理屬性則通過三體元首體現(xiàn)出來。三體元首作為集權(quán)者專制殘暴，比如他在發(fā)現(xiàn)一個(gè)地球監(jiān)聽者向地球人類發(fā)出警告之后，將監(jiān)聽系統(tǒng)中大約六千人“脫水，在首都中心廣場燒掉”，并將監(jiān)聽系統(tǒng)的執(zhí)政官當(dāng)了“引火物”。[3]269三體元首控制著整個(gè)三體算法世界，在沒有倫理道德的規(guī)約下，將會(huì)導(dǎo)致三體文明中的算法信任失效。

在人類社會(huì)中，劉慈欣同樣將倫理道德置于信任關(guān)系的討論中。葉文潔親身經(jīng)歷了親情、友情和愛情的背叛，對人類信任關(guān)系徹底失去信心。如果說葉文潔面對父親葉哲泰在妻子和大女兒的誣告下被活活打死，從而對人與人的信任關(guān)系感到失望，那么在大興安嶺中，白沐霖為了自保而對葉文潔的栽贓陷害則讓葉文潔對人與人之間的信任徹底絕望。作為地球叛軍的另一個(gè)領(lǐng)袖伊文斯同樣經(jīng)歷了人與自然之間信任關(guān)系的崩塌，人類出于個(gè)人利益對自然界進(jìn)行破壞掠奪。由此可見，人類信任危機(jī)的產(chǎn)生根源在于人性的扭曲。如何在信任關(guān)系中規(guī)約人性的欲望，劉慈欣通過主人公程心的敘述淋漓盡致地指向了倫理道德。程心是人性的代表，她始終帶著“圣母”光環(huán)，正是她人性中的良心和善良，導(dǎo)致了人類的毀滅，同時(shí)也正是其人性的責(zé)任與良知使其成為拯救宇宙的唯一希望。劉慈欣正是通過程心這一主人公的人性悖論，指出倫理道德的重要性。劉慈欣通過程心這一人物的塑造，在不斷反思人性的良心與善良的同時(shí)，通過戲劇性的反轉(zhuǎn)寫法，將責(zé)任倫理呈現(xiàn)在讀者的面前。在劉欣慈看來，唯有程心人性中的責(zé)任良知美德才是拯救宇宙的唯一希望，同樣也是重建信任關(guān)系的希望。

可見，無論是在三體世界還是在人類世界，解決信任問題的關(guān)鍵在于對人性和倫理的關(guān)切。信任問題唯有在倫理的基礎(chǔ)上才能夠得到最持久的且真正的解決。正如有學(xué)者所言，具有德性的信任會(huì)比其他形式的信任更能經(jīng)受挫折。[8]以三體文明為代表的宇宙文明，雖然擁有著先進(jìn)的科學(xué)技術(shù)水平，但是他們卻往往沒有倫理道德的維度，甚至整個(gè)宇宙都處于黑暗森林法則之中，即零道德宇宙。劉慈欣建構(gòu)的零道德宇宙，并不意味著在后人類時(shí)代道德倫理被徹底驅(qū)逐，而是試圖通過懸置現(xiàn)實(shí)，將有關(guān)倫理道德拷問推向一種極致的可能——零道德，進(jìn)而引發(fā)人類對倫理道德的重構(gòu)。在三體的算法模式中，算法信任驅(qū)逐了倫理道德，從而使三體文明處于零道德之中，這一語境也實(shí)現(xiàn)了對信任關(guān)系中倫理道德的召喚。

綜上所述，具有現(xiàn)代性品質(zhì)的科幻小說必然關(guān)注科技，思考科技引起的變革及局限性，當(dāng)這些焦慮投射到文本當(dāng)中，就形成了以科幻參與科技活動(dòng)的特殊方式。[9]劉慈欣《三體》系列小說中充滿了對信息技術(shù)的想象，關(guān)注信息科技在人類未來世界中的角色和地位，正如上述所討論的算法時(shí)代的人類信任關(guān)系問題?？苹眯≌f的主要形式技巧源自間離的態(tài)度，[10]39也即一種陌生化的手段。劉慈欣的《三體》系列小說中通過陌生化的方式，在“三體文明”中構(gòu)想出一種基于現(xiàn)代數(shù)字信息技術(shù)的信任關(guān)系，即以去中心化分布式信息代碼系統(tǒng)為核心的算法信任；身處算法信任體系之中的“三體人”往往陷入算法操控困境，無法從根本上解決人類社會(huì)的信任危機(jī)，甚至給地球人類帶來毀滅性打擊。正如有學(xué)者所言，“科幻小說家才是"真正意義上的思想實(shí)驗(yàn)的專業(yè)制造者。科幻小說"常常暗含了對當(dāng)下的批評和當(dāng)今社會(huì)趨勢下未來可能發(fā)展結(jié)果的猜想。”[11]算法介入人類的信任關(guān)系，以理性的數(shù)據(jù)信息取代人類的倫理道德，從技術(shù)層面為信任關(guān)系信息溝通的透明公正高效提供有效的保障。但是，劉慈欣在小說中展示了“三體文明”算法信任引發(fā)的各種危機(jī)，并對隱藏在算法信任背后的科技至上論進(jìn)行祛魅。當(dāng)然，信任關(guān)系是以人為核心的，人性和倫理在信任關(guān)系之中無法回避，在這個(gè)意義上，算法只能作為完善信任關(guān)系體系的一種工具，劉慈欣通過對“三體文明”與人類文明的信任關(guān)系展開各種想象，啟發(fā)讀者的是解決信任關(guān)系的根本路徑是人性倫理的回歸。