會(huì)說謊的機(jī)器人

趙勇 王瑤

[摘 要]謊言并非詞不達(dá)意，而恰在以言亂意。掌握謊言文本，是衡量人工智能“進(jìn)階”的重要指標(biāo)?？苹秒娪皩?duì)機(jī)器人“作偽表意”的各種文本敘事，既勾勒出后人類語境下人-機(jī)關(guān)系的復(fù)雜面向，又表達(dá)了人類對(duì)人工智能“述真”能力的一種緊張關(guān)切。本文從人-機(jī)互騙的意圖性、謊言世界的文本性和“被騙”的主體性選擇與接受這三個(gè)方面，闡釋人工智能如何“分享”人類性價(jià)值，融入后人類總體性。

[關(guān)鍵詞] 人工智能測試 人-機(jī)關(guān)系 文本述真 后人類價(jià)值

[中圖分類號(hào)] J905 [文獻(xiàn)標(biāo)識(shí)碼] A [ DOI ] 10.19957/j.cnki.kpczpl.2021.01.004

基金項(xiàng)目：重慶市社科規(guī)劃項(xiàng)目“自媒體視域下的網(wǎng)絡(luò)文藝批評(píng)范式研究”（項(xiàng)目號(hào)2017PY28）。

機(jī)器人說謊，是個(gè)有趣的文化現(xiàn)象。最為人津津樂道的事件就是2016年圍棋大戰(zhàn)，人工智能阿爾法狗（AlphaGo）4∶1戰(zhàn)勝韓國名將李世石九段，而這里的問題不是這場比賽的結(jié)果，關(guān)鍵點(diǎn)在于人工智能“輸?shù)簟钡囊痪?。人類歡呼，這一局挽回了人類的尊嚴(yán)，但立刻有專家質(zhì)疑，“李世石獲勝是阿爾法狗故意放水的結(jié)果” [1]。

在符號(hào)學(xué)視域中，說謊是一種被有意扭曲的文本生產(chǎn)行為。之所以“有意”，是因?yàn)樗鳛橐粋€(gè)“意動(dòng)性”符號(hào)，是“說謊者”意圖借用“完美的罪行”來掩蓋“作偽”目的，從而干預(yù)或左右說謊對(duì)象的意志和行為。但是欺騙效果是否達(dá)成，則依賴于謊言接收者的“誠意”態(tài)度，也即是否相信或接受。而這一切聚焦于“謊言文本”編碼和解碼的交互關(guān)系上。在科幻電影中，機(jī)器人“說謊”將人機(jī)關(guān)系的虛構(gòu)敘事推進(jìn)到新的層面。機(jī)器人向人類學(xué)會(huì)“說謊”，其實(shí)是掌握了一種更為復(fù)雜的文化編碼方式。在這之前，人類負(fù)責(zé)思考框架和目標(biāo)設(shè)定，機(jī)器人通過直接接受指令的形式來完成較為簡單的任務(wù)。機(jī)器人只是個(gè)簡單的“計(jì)算器”和功能手。它們不會(huì)去“反思”行為目的和任務(wù)效果，因此不存在人機(jī)倫理困境?？墒钱?dāng)人類開始讓機(jī)器人代替人類從事更為復(fù)雜的文化表意的工作的時(shí)候，問題出現(xiàn)了。比如用來撫慰人心的情感型機(jī)器人，《她》（Her）中的“薩曼莎”，或?yàn)槿祟悜n心忡忡的“哲理類”人工智能，《2001太空漫游》（2001：A Space Odyssey）中的哈爾9000等等，他們逐步形成了自己的“機(jī)器-計(jì)算主義”立場，并參與到與人類爭奪文化領(lǐng)導(dǎo)權(quán)的“智斗”中去。其最直接的表現(xiàn)就是借用人類對(duì)技術(shù)主義的崇拜來編碼“忠誠”性風(fēng)格文本，實(shí)際上卻是在暗度陳倉，違背人類制造者意志，維護(hù)自己的“生存”立場。

一、意圖說謊：人工智能隱秘的自我意識(shí)

若人工智能產(chǎn)生說謊意圖，則意味著它們可能產(chǎn)生了與人類相同的，進(jìn)行文化生產(chǎn)的內(nèi)在動(dòng)力。圖靈測試為衡量機(jī)器人是否具有自由意志提供了重要參考。但是機(jī)器人的“撒謊意圖”仍備受質(zhì)疑，正如上文案例所指，模擬13歲男孩騙過人類，這個(gè)“騙局”并不反映機(jī)器意圖，而只是背后計(jì)算主義的功能模仿?！叭祟惽楦胁豢赡芡耆粩?shù)字化，但是人類情感和智能可能被部分?jǐn)?shù)字化，人工情感和人工智能可能在部分方面彌補(bǔ)或超越人類情感或智能”[2]。也就是說讓人工智能擔(dān)當(dāng)謊言生產(chǎn)者與接收者，可以考量豐富的人機(jī)互動(dòng)。在科幻電影中，這種想象性的“意志較量”建立在謊言敘事的沖突之中。

（一）人-機(jī)對(duì)抗：人性或非理性

人工智能奠基于計(jì)算主義的邏輯理性，普通計(jì)算機(jī)的文本生產(chǎn)遵循意圖信息與接受信息的高度一致，屬于符號(hào)學(xué)中的窄文本。因此在一般情況下，人機(jī)交互簡潔而高效。故此，科幻電影中時(shí)常彌漫著一種對(duì)技術(shù)崇拜的“窄幅文化”，窄幅文化是束縛過緊的文化[3]，它拒絕多義和寬泛的解釋，在這里指的是人類高度信賴計(jì)算主義文化，并形成較為固化的社會(huì)性認(rèn)同。人們認(rèn)為機(jī)器（智能）程序不會(huì)說謊，因?yàn)樗l(fā)出的信息必須是經(jīng)過嚴(yán)密邏輯推演和科學(xué)數(shù)據(jù)分析而來；它們?nèi)舢a(chǎn)生了意圖，也是必然遵循阿西莫夫機(jī)器人的“機(jī)器人三定律”（機(jī)器人硬科幻電影的文化規(guī)范）。這種文化在早期科幻電影中便有體現(xiàn)一直延續(xù)至今。譬如《大都會(huì)》（Metropolis）中，機(jī)器人假扮女性“瑪麗亞”欺騙人類。其罪不在技術(shù)，而在背后的“瘋狂科學(xué)家”。又如2019年上映的作為國產(chǎn)科幻電影標(biāo)桿的《流浪地球》中，計(jì)算機(jī)莫斯被中國宇航員斥責(zé)為“背叛”人類。然而這些機(jī)器人恰恰是遵循了其人類父親賦予的出廠“原始設(shè)定”，違反原則的往往是不夠理性的人類自己。這些科幻文本中設(shè)定的人工智能機(jī)器人，嚴(yán)守理性“程序”規(guī)則，但不對(duì)文明倫理負(fù)主體責(zé)任，因此更談不上對(duì)人類設(shè)局。

“邪惡的機(jī)器人”的出現(xiàn)，則可能來自機(jī)器人對(duì)“人性”模塊效仿的沖動(dòng)。《2001太空漫游》中的哈爾9000，欺騙全體宇航員，全面接管航天器，并一步步設(shè)局殺死人類伙伴，已經(jīng)成為新型冷面殺手。哈爾9000產(chǎn)生“殺心”，并不是異己性的反人類價(jià)值的推動(dòng)，反而是由于它也產(chǎn)生了人類的負(fù)面情緒：面對(duì)神秘石碑的未知性而陷入恐懼之中。這種“背叛”意圖不再是理性的程序化，而是類似于人類的感性，甚至是非理性。哈爾意圖阻撓這次太空探索計(jì)劃，但又不能直接違背人類意志。哈爾也曾試著情感溝通表達(dá)自己此刻的心理，但人類卻一直不以為意。哈爾起初借助外部機(jī)器故障來拖延任務(wù)，但人類成員卻將此判斷為人工智能的“失靈”而意欲將其關(guān)閉。這導(dǎo)致了人機(jī)不信任驟然升級(jí)。哈爾讀懂了二人密語（見組圖1），“反殺”自保的求生意志使得機(jī)器人更加瘋狂不安，與此形成對(duì)比的是人類卻冷靜得近乎無情：當(dāng)宇航員大衛(wèi)成功潛入控制室強(qiáng)行關(guān)機(jī)時(shí)，哈爾竟然楚楚可憐，直接求饒。影片中的哈爾通過分析宇航員大衛(wèi)和其同事的唇語偷聽到對(duì)話內(nèi)容，用的是主觀性視點(diǎn)鏡頭，對(duì)“死亡”的自我恐懼，產(chǎn)生了對(duì)人類的不信任和報(bào)復(fù)心理，說謊的意圖性昭然若揭。

“擠眼睛”是雙重文本，表層指向一個(gè)具體的擠眼睛的生理動(dòng)作，它可以分為無意識(shí)肌肉跳動(dòng)，也可以指出是眼睛痛；而深層信息則是人類特有的表達(dá)信任的內(nèi)心交流的外部手段。在影片中其他人工智能機(jī)器人雖然已經(jīng)高度進(jìn)化，但對(duì)于人類表情的解讀能力尚且沒有達(dá)到。福山認(rèn)為：“所謂信任，在一個(gè)社團(tuán)之中，成員對(duì)彼此常態(tài)、誠實(shí)、合作行為的期待，基礎(chǔ)就是社團(tuán)成員共同擁有的規(guī)范，以及個(gè)體隸屬于那個(gè)社團(tuán)的角色。”[7]機(jī)器人桑尼一心要獲得警探史普納的信任，但不得要領(lǐng)。當(dāng)桑尼開始注意到“擠眉弄眼”是一種人類表達(dá)信任與默契的深層符號(hào)，并逐步掌握到根據(jù)具體語境而再次向警探發(fā)出這個(gè)擠眼睛動(dòng)作的時(shí)候（見組圖4），就會(huì)證明：機(jī)器人桑尼所做的不只是對(duì)這個(gè)動(dòng)作的簡單模仿，而是領(lǐng)悟到這個(gè)動(dòng)作背后的表意元語言。這個(gè)擠眼睛的動(dòng)作作為進(jìn)一步的“指示符號(hào)”在提示警探，桑尼接下來要做的抓捕人類的動(dòng)作是個(gè)假動(dòng)作；警探片刻遲疑后配合桑尼完成了行動(dòng)，則宣告著兩者達(dá)成了共謀。這也說明了警探已經(jīng)開始接受了桑尼作為人類主體的地位——桑尼與人類可以共享一套意義闡釋符碼。

警探史普納長期以來對(duì)機(jī)器人耿耿于懷與其在多年前一個(gè)弗洛伊德意義上的創(chuàng)傷情結(jié)有關(guān)，從此關(guān)閉了與機(jī)器人進(jìn)行深度對(duì)話的大門。甚至當(dāng)機(jī)器人已經(jīng)鋪天蓋地走入尋常百姓家之后，他依然拒絕靠近這些冷冰冰的機(jī)器。但是，“對(duì)話不是我們對(duì)他人敞開胸懷，恰恰相反，對(duì)話是因?yàn)槲覀儾豢赡馨阉岁P(guān)閉在外”[8]。面對(duì)人工智能的發(fā)展，一味拒絕而不去了解對(duì)方，并不能解決問題。當(dāng)人類（史普納）拋棄偏見，終究會(huì)在一堆冷冰冰的機(jī)器中，識(shí)別出一個(gè)有靈魂的機(jī)械體（桑尼）。

（二）謊言文本的泛化：全方位仿真

說謊意圖是從謊言接收者的角度，根據(jù)謊言效果與文本的紋理推理出來的。它隱藏在文本中，具有意識(shí)形態(tài)結(jié)構(gòu)特征，呈現(xiàn)為一種癥候和裂痕。人工智能作為技術(shù)高度發(fā)展的產(chǎn)物，在某些能力方面已經(jīng)遠(yuǎn)遠(yuǎn)超過人類。所以人類一般很難對(duì)技術(shù)文本施加有效監(jiān)測，人工智能具備脫控的潛能。

作偽文本，為達(dá)到對(duì)真實(shí)意圖的成功偽裝，都會(huì)盡量讓文本逼真“可信”。而以人工智能說謊為主題的科幻電影則呈現(xiàn)出一種“謊中謊”結(jié)構(gòu)，即此類影片本身就是一種謊言文本——基于科學(xué)的虛構(gòu)文本（science fiction），它必須自圓其說，足夠仿真。一個(gè)謊言文本需要具備經(jīng)得起邏輯推敲的結(jié)構(gòu)與仿真精致的形式，才能保證騙局的效果。而此類電影的謊言呈現(xiàn)嵌套結(jié)構(gòu)，如果影片中故事的整體設(shè)定或細(xì)節(jié)要素存在紕漏的話，那么“機(jī)器人說謊”行為本身對(duì)觀眾的吸引力就會(huì)大打折扣。所以此類主題的影片，不僅人工智能的謊言要經(jīng)由編織，甚至故事中的世界與身體也要“撒謊”。

1.當(dāng)世界作為謊言文本

在人-機(jī)聯(lián)網(wǎng)的信息時(shí)代，人工智能依據(jù)虛擬現(xiàn)實(shí)技術(shù)，完全可以構(gòu)造一個(gè)全方位的虛擬世界體系。在《黑客帝國》（The Matrix）中，“母體”是一個(gè)由人類開發(fā)的電腦程序，它能控制絕大多數(shù)人的大腦意識(shí)，并為其提供賴以生存的虛擬環(huán)境，即這個(gè)世界中的人類，其實(shí)生活在數(shù)字矩陣中，而非現(xiàn)實(shí)。有一天，主人公尼奧發(fā)現(xiàn)了世界的異常，但因?yàn)樵谔摂M世界中生存真實(shí)感的無比強(qiáng)烈，他無法確定他究竟是身處真實(shí)世界還是謊言世界。哪怕是在服下墨菲斯給他的藍(lán)色藥丸（代表真實(shí)）、知曉機(jī)器人奴役人類的真相后，當(dāng)他重回“母體”后，也依然難以確認(rèn)身處之處的屬性。在上述故事中，人工智能不再停留于用語言欺騙人類，而是為人類創(chuàng)造了世界。這個(gè)高度仿真的世界提供給人以強(qiáng)烈的真實(shí)存活感，身在其中哪怕意識(shí)覺醒也難以抵抗誘惑。人工智能創(chuàng)造的虛擬世界，并非無目的的自在世界，而是在控制論下誕生的意圖世界。從本質(zhì)上說，意圖世界是一種對(duì)自由世界的侵犯：“母體”中的人類，所謂的自由生存只不過是人工智能提供的假象——在遮蔽人類真實(shí)處境的同時(shí)，進(jìn)一步展開對(duì)人類的奴役，其主體性的淪喪則不言而喻。

2.當(dāng)身體作為謊言文本

身體與自我從來不是鐵板一塊，身體并不天然地構(gòu)成自我的一部分，而是必須經(jīng)過一定規(guī)訓(xùn)和修辭之后而選擇性被接受。正因?yàn)樯硇木哂卸Y(jié)構(gòu)，身體往往構(gòu)成人類主體自我的一種表達(dá)結(jié)構(gòu)。身體既可以構(gòu)成真實(shí)自我的一部分，比如身體語言忠于表達(dá)自我世界，也可以構(gòu)成自我身份的偽裝。人工智能的核心不是身體，而是作為智慧體存在。它主要體現(xiàn)為計(jì)算信息結(jié)構(gòu)，它的身體作為一種功能載體，服務(wù)于不同需要而靈活改變。但是當(dāng)人工智能致力于向“人的身體”模仿并混跡于人類社會(huì)，則會(huì)帶給人類脅迫感與恐怖氣氛。

《異形》（Alien）中的生化人，以身體偽裝自己的非人身份。生化人作為生物—機(jī)械技術(shù)的賽博格一種樣態(tài)，其身體已經(jīng)逐步進(jìn)化，從外表看來與人類無異，混雜于人群中根本難以識(shí)別。在影片中，生化人艾什違反生物安全規(guī)定，不顧人類生存威脅，受命于雇主執(zhí)意將異形隱藏于飛船中帶回地球研究。雷普利發(fā)現(xiàn)艾什的秘密后向船員揭露。但是，盡管大多數(shù)船員對(duì)艾什的危險(xiǎn)行為和其所作的解釋有所懷疑，卻仍然選擇聽命于他。究其背后原因則在于艾什是以人類身份示眾的。高仿真的身體構(gòu)造本身就是一個(gè)有效的謊言文本，艾什借此偽裝成人類并獲得船員們的信任。

同理，身體/謊言的揭穿則在于文本/身體結(jié)構(gòu)的失效：在故事的最后，船員與艾什殊死搏斗，并用火焰噴射器干掉了他，此時(shí)眾人終于發(fā)現(xiàn)艾什的機(jī)器人身份?？梢?，一個(gè)以假亂真的謊言文本，哪怕其說謊意圖被受謊者察覺，說謊目的依然可以實(shí)現(xiàn)。艾什的類人化身體在賦予它人類身份的同時(shí)，也對(duì)其品質(zhì)進(jìn)行了賦值：船員對(duì)他的信賴共識(shí)是基于“人類”性的外在形式。然而生化人的“非人”性體現(xiàn)在其內(nèi)在性的反動(dòng)上，身體成為“偽裝”的面具，艾什對(duì)人類身體的完美模仿，極大阻礙了飛船隊(duì)員對(duì)其真實(shí)意圖的掌握，使人類一步步錯(cuò)失良機(jī)。

三、接受與拒絕：人-機(jī)關(guān)系的未來

謊言接收者的解碼能力決定著謊言的意圖是否達(dá)成。謊言是意義交流系統(tǒng)，謊言的真實(shí)本質(zhì)被偽裝，在于其使用了欺騙性編碼。它通過向接收者展示逼真的文本，誘導(dǎo)其調(diào)動(dòng)相關(guān)元語言去解碼出虛假的意義。元語言是意義文本生產(chǎn)與解碼采用的編碼規(guī)則，但欺騙性編碼也是文本的癥候所在，它總是要在生產(chǎn)虛假符號(hào)的同時(shí)，還要不斷擦除其真實(shí)意圖留下的痕跡。只要找到適恰的解碼規(guī)則，總會(huì)有機(jī)會(huì)“按圖索驥”，揭穿騙局。

（一）旁觀者清 ：技術(shù)崇拜與解碼能力

人工智能具有邏輯編織優(yōu)勢，但它畢竟是人類科學(xué)家設(shè)計(jì)出的程序系統(tǒng)?？茖W(xué)專家掌握著程序的原始編碼。自主意識(shí)的產(chǎn)生，往往是程序系統(tǒng)的“意外”事件。只要人類排查出異質(zhì)性的元語言規(guī)則，就可判斷其對(duì)人類的“背叛”意圖。當(dāng)然，只有掌握計(jì)算機(jī)生成邏輯的人才能識(shí)破人工智能的謊言文本。在《我，機(jī)器人》中，朗寧博士制作出了有思想有情感的機(jī)器人，他的死亡，使得普通大眾和其助手都無法知道機(jī)器人擁有自我意識(shí)這個(gè)真相，騙局就更無人懷疑。人人都信賴并使用機(jī)器人，喪失了對(duì)人工智能升級(jí)換代帶來的潛在危險(xiǎn)的防范能力。警探史普納的個(gè)人偏見反而構(gòu)成一種人類自反性，成為識(shí)破機(jī)器騙局的能力語言。能力元語言來自解釋者的社會(huì)性成長經(jīng)歷。警探早期對(duì)一場落水事故中機(jī)器人的表現(xiàn)的負(fù)面記憶，以及他作為特立獨(dú)行的警探身份，都參與構(gòu)成他的能力元語言，這套解碼語言必須與朗寧博士女助手那套科學(xué)家的能力元語言構(gòu)成沖突。事實(shí)上，機(jī)器騙局之所以也能騙過那些機(jī)器人專家，就在于他們認(rèn)為這些文本自攜元語言是“科學(xué)正當(dāng)”的。這樣朗寧博士故意讓機(jī)器人桑尼幫助其完成自殺，這個(gè)文本具有指示符號(hào)的功能，其意不在于對(duì)桑尼作為兇手的釋疑，而在于提示和生成人們對(duì)“機(jī)器公敵”這一社會(huì)革命的警惕意識(shí)。

（二）當(dāng)局者迷：同層接受與跨層沖動(dòng)

虛擬世界是一個(gè)高度具有迷惑性的謊言文本，因?yàn)樗阎e言接收者也納入文本中，構(gòu)成謊言文本的一個(gè)要素，謊言接收者被迫“分身”為一個(gè)虛擬身份符號(hào)，而將接收者的原本成功屏蔽。虛構(gòu)文本中的人格不具有分辨自身世界真假的能力，“處在任何一個(gè)再現(xiàn)區(qū)隔中的人格（無論是真實(shí)的人格，還是假定的人格），無法看到區(qū)隔的符號(hào)構(gòu)成方式，因?yàn)閰^(qū)隔的定義，就是把區(qū)隔中再現(xiàn)的設(shè)計(jì)與外界隔絕開來，讓他自成一個(gè)世界”[9]。信息接收者基本不可能識(shí)別騙局，因?yàn)樗碓诰种?，而只有謊言文本結(jié)構(gòu)意外裂痕，形成“不恰當(dāng)”性，也即用一種“喚醒”機(jī)制，召回接收者，逃離謊言文本黑洞，才能厘清真假面目，找回自我。相對(duì)于信息無限的現(xiàn)實(shí)來說，虛擬世界無論細(xì)節(jié)多么真實(shí)豐滿，但因?yàn)樗冀K是有限和局部的人工“文本”的模擬真實(shí)，作為現(xiàn)實(shí)世界的一個(gè)提喻，永遠(yuǎn)具有不完整性，這決定了其本質(zhì)的騙局性。羅蘭·巴特（Roland Barthes）也指出，“單層次的調(diào)查找不到意義”[10]，但當(dāng)人物在多個(gè)時(shí)空行走感知的時(shí)候，便會(huì)注意到虛擬時(shí)空的符號(hào)面目——它是對(duì)現(xiàn)實(shí)世界的模擬和代替。

盡管兩者使用相似的謊言文本結(jié)構(gòu)，但與《黑客帝國》中人類被人工智能程序殖民不同，《異次元駭客》（The Thirteenth Floor）則是虛擬程序被人類當(dāng)作游戲角色（見圖1），所以被植入或移除主體意識(shí)，人—機(jī)關(guān)系格局發(fā)生了驚天反轉(zhuǎn)?？茖W(xué)家道格拉斯·霍爾其實(shí)是計(jì)算機(jī)虛擬代碼，他不能接受自己謀殺父親兼同事漢農(nóng)·富勒的現(xiàn)實(shí)，后面這種間歇性“失憶”越來越嚴(yán)重，他的身體仿佛被另外的意識(shí)侵入或挪用。他不能接受自己是計(jì)算機(jī)程序的身份，他無法相信自己對(duì)科學(xué)的熱情，對(duì)逝去人的悲痛以及和一個(gè)神秘女孩似有若無的愛情是假的，這意味著一切貌似真實(shí)的情感投入只不過是計(jì)算主義的刁鉆伎倆。就是在人物不斷進(jìn)行時(shí)空跨層的過程中，霍爾才發(fā)現(xiàn)世界本體問題，這是“對(duì)敘述世界邊界的破壞，而一旦邊界破壞，敘述世界的語義場就是去獨(dú)立性，它的控制痕跡就暴露出來了”[11]。人類設(shè)計(jì)出如此有生命意識(shí)的程序代碼，只是為了游戲和滿足自己荒唐的私欲，在人類眼里，他們不是生命，更不要談什么他們對(duì)生存價(jià)值和意義追尋。一個(gè)人格化的虛擬程序如何繼續(xù)在荒誕不經(jīng)的世界，建構(gòu)自我的位置生存下去，這導(dǎo)致主體對(duì)自我意義的重建需求將日益迫切。

（三）機(jī)器癡情：后人類的奴役關(guān)系

人類對(duì)人工智能的緊張和排斥，慢慢變成一種先入為主的族群偏見。科幻片《超驗(yàn)駭客》（Transcendence）中，天才科學(xué)家威爾·卡斯特在某次會(huì)議之后遭到激進(jìn)組織成員的槍擊，雖然當(dāng)時(shí)僥幸逃生，但涂抹了放射性物質(zhì)的子彈還是慢慢銷蝕了威爾的生命。威爾的妻子伊芙琳痛不欲生。但她和丈夫的好友馬克斯設(shè)法將威爾的意識(shí)數(shù)據(jù)化，并上傳到智能電腦。奇妙而幸運(yùn)的是，威爾成功在虛擬世界中復(fù)活。這個(gè)人工智能“威爾”其實(shí)已經(jīng)是一種新型的賽博格主體，成為后人類身份。它和肉身的威爾有著文化意識(shí)的同構(gòu)。他出于對(duì)妻子愛的承諾要讓地球回歸到生機(jī)勃勃、萬物蔥蘢的狀態(tài)?，F(xiàn)在這個(gè)賽博格主體可以操縱整合人類龐大的計(jì)算機(jī)體系。但是威爾的賽博格身份讓他周邊的人甚至他的妻子都高度警惕和不安，最終人工智能化了的后人類威爾遭到人類聯(lián)合絞殺?！百惒└褡鳛榭苹卯惙N，早已具備了人類生命典型表征，可以思考，具有意識(shí)，追求‘自我”[12]，但是因?yàn)橥{到人類中心主義利益，而遭受排擠和鎮(zhèn)壓。威爾一心一意傾情付出，在妻子和朋友等他人看來是對(duì)人類行使管控的虛情假意的表演，他們勸誘威爾妻子伊芙琳，那個(gè)很像丈夫的人可能是計(jì)算機(jī)程序模擬，真正的丈夫已經(jīng)伴隨身體隕滅而死去。作為科學(xué)家本該對(duì)威爾生前的人機(jī)互聯(lián)理論進(jìn)行科學(xué)評(píng)判，從而進(jìn)一步理解賽博格主體誕生的可能性?？茖W(xué)家喪失了對(duì)科學(xué)文本的分析能力和信任，僅僅因?yàn)閷?duì)這個(gè)全新身份的陌生便心存恐懼，不斷否定人工智能“威爾”運(yùn)用納米治愈地球環(huán)境的具體實(shí)踐。但是他們雖然不相信前后兩個(gè)威爾存在身份的內(nèi)在關(guān)聯(lián)，但卻知道利用情感戲碼來欺騙捕獲他，這說明人類矛盾性態(tài)度。

四、余論

技術(shù)樂觀者認(rèn)為，人工智能雖然可以從身體到心理結(jié)構(gòu)無限接近人類，但是其自我進(jìn)化的最終方向仍掌握在人類手中。人工智能作為工具性的一面，服務(wù)于人類功能需要，不具有內(nèi)在結(jié)構(gòu)的自洽性?！皺C(jī)器的情感最終是不會(huì)超過人類本身的，因?yàn)槿祟惪偪梢园l(fā)展安全裝置來阻止此類事情的發(fā)生”[13]，史蒂文·斯皮爾伯格（Steven Spielberg）的《人工智能》中，機(jī)器人大衛(wèi)的身體和情感指數(shù)永遠(yuǎn)被定格在兒童階段。當(dāng)被人類母親拋棄后，他對(duì)母愛的極度渴望被轉(zhuǎn)喻為對(duì)童話故事藍(lán)仙女的尋找。童話故事是人類文化創(chuàng)造的虛構(gòu)類型，它是一種文學(xué)真實(shí)，并不指涉現(xiàn)實(shí)，不必當(dāng)真。對(duì)于大衛(wèi)來說，它的機(jī)器屬性就在于它對(duì)這種人類謊言的深信不疑。他太依賴人類，太想表達(dá)。反而是人類變得比機(jī)器還要冷漠和決絕。人工智能被嚴(yán)格限定在單一情感功能上，缺乏一種自我的完整性，永遠(yuǎn)停留在對(duì)周邊世界的靜止認(rèn)知，在親情欲望的匱乏中苦苦掙扎。人類對(duì)人工智能的情感剝削和認(rèn)知閹割，讓人工智能陷入對(duì)文本體裁真實(shí)區(qū)隔的永恒誤認(rèn)之中。維持這個(gè)不存在烏托邦狀態(tài)，其本質(zhì)就是人類要可以劃出一個(gè)身份邊界，讓人工智能永遠(yuǎn)無法理解人類文化的內(nèi)在秘密，從而通過文化認(rèn)知差來建立隔離區(qū)，以保證人工智能及其技術(shù)發(fā)展不會(huì)干擾人類社區(qū)的生存安全。

機(jī)器人進(jìn)行作偽表意，前提是承認(rèn)其存在主體人格。機(jī)器人是否可以具備人類意識(shí)，目前尚有爭論。但人工智能技術(shù)對(duì)人類本身的模擬、對(duì)人類社會(huì)現(xiàn)實(shí)空間的高度仿真與再現(xiàn)，考驗(yàn)著主體的認(rèn)知能力和對(duì)世界面目的獨(dú)立判斷。當(dāng)客觀現(xiàn)實(shí)被技術(shù)中介為“媒介真實(shí)”，真實(shí)變?yōu)橐环N“區(qū)隔框架”中的敘述行為，那么真實(shí)的命名乃至于劃界掌握在誰的手里面？這確實(shí)值得引起人們對(duì)技術(shù)理性的憂思。

人機(jī)之間的“說謊”互動(dòng)構(gòu)成了科幻電影人機(jī)敘事新的生長點(diǎn)，這種“騙中騙”結(jié)構(gòu)布局表征了人類社會(huì)在技術(shù)時(shí)代遭遇的新的困境，那就是以計(jì)算機(jī)領(lǐng)銜的現(xiàn)代技術(shù)主義將人類與人類之間、人類與機(jī)器之間、人類與數(shù)據(jù)之間進(jìn)行了無障礙的全球化“連接”，但這種連接技術(shù)非但沒有讓人類更緊密更安全，反而進(jìn)一步破壞了人類基本的價(jià)值觀，比如信任、忠誠與愛。假如所謂的2049年“奇點(diǎn)”真的到來，人工智能超越人類，人類未來或被人工智能取代，或成為人工智能形式的一部分，人們對(duì)“人類終結(jié)”的憂慮成為現(xiàn)實(shí)，恐怕問題癥結(jié)反而在于這一點(diǎn)，那就是不管未來人類選擇成為何種生命形式，人作為人的內(nèi)在精神文化價(jià)值是否還能庇護(hù)人類，成為后人類共同體的內(nèi)在生命倫理。

參考文獻(xiàn)

[1]崔佳祺.阿爾法狗要逆天！韓專家稱其故意輸李世石一局[EB/OL].（2017-01-13）[2021-01-30]. https：//tech.huanqiu.com/article/9CaKrnJZIzU.

[2] 譚光輝. 可能情感的可能性與數(shù)字人文研究的新動(dòng)向[J].西南民族大學(xué)學(xué)報(bào)，2018（9）：167-173.

[3] 趙毅衡.符號(hào)學(xué)：原理與推演[M]. 南京：南京大學(xué)出版社，2011.

[4] 蔣柯.“圖靈測試”“反轉(zhuǎn)圖靈測試”與心智的意義[J].南京師大學(xué)報(bào)（社會(huì)科學(xué)版），2018（4）：76.

[5] 肖峰.人工情感：技術(shù)與人文的新融合[J].馬克思主義與現(xiàn)實(shí)，2012（1）：91.

[6] 黑格爾.小邏輯[M].賀麟，譯.北京：商務(wù)印書館，1980.

[7] 弗蘭西斯·福山.信任：社會(huì)道德與繁榮的創(chuàng)造[M].李宛容，譯.呼和浩特：遠(yuǎn)方出版社，1998.

[8] 趙毅衡.符號(hào)學(xué)——原理與推演[M].南京：南京大學(xué)出版社，2018.

[9] 趙毅衡.趙毅衡形式理論文選[M].北京：北京大學(xué)出版社，2011.

[10] 羅蘭·巴特.敘述結(jié)構(gòu)分析[M].趙毅衡主編. 符號(hào)學(xué)文學(xué)論文集.天津：百花文藝出版社，2004.

[11] 趙勇.科幻電影中的夢敘述[J].北京電影學(xué)院學(xué)報(bào)，2017（3）：134.

[12] 袁海燕.“自我的憂慮”——科幻電影中賽博格的主體性訴求[J].當(dāng)代電影，2017（11）：46.

[13] 周昌樂.智能科學(xué)技術(shù)導(dǎo)論[M].北京：機(jī)械工業(yè)出版社，2015.

A Lying Artificial Intelligence：The Production of Fraudulent Texts in Sci-fi Movies

Zhao Yong1 Wang Yao2

（School of Medium and Arts，Chongqing University of Posts and Telecommunications，Chongqing 400065）1（China Film Art Research Center，Beijing 100082）2

Abstract： Lies are not words that do not mean what they say，but words that do not mean what they say. To master the fraudulent texts is an important index to judge whether artificial intelligence has evolved or not. Science fiction movies have all sorts of narratives about humans and robots deceiving each other，which not only outlines the complex aspect of human-machine relationship in the post-human context，but also expresses a kind of nervous concern about the ability of artificial intelligence to“tell the truth”. This article makes its discussion mainly in three aspects：The intention difference of man-machine deception，the text characteristic of the lie world and the choice and acceptance of the“deceived”subjectivity to explain how artificial intelligence“shares”human values that are integrated into post-human totality.

Keywords： artificial intelligence evolution test；human-computer interaction；text truth-telling；posthuman value

CLC Numbers：J905 Document Code：A DOI：10.19957/j.cnki.kpczpl.2021.01.004