作為“欺騙性游戲”的人機(jī)交互

于成

一九八七年的一天，音樂(lè)學(xué)家考普（David Cope）像往常一樣啟動(dòng)自己編寫(xiě)的算法作曲程序Emmy（“音樂(lè)智能實(shí)驗(yàn)”的英文縮寫(xiě)），然后離開(kāi)辦公室去吃午飯。等他回到電腦前，Emmy 已經(jīng)創(chuàng)作了五千首具有巴赫風(fēng)格的樂(lè)曲。當(dāng)這些樂(lè)曲在伊利諾伊大學(xué)演奏時(shí)，聽(tīng)眾難以相信這是機(jī)器的作品。

為了驗(yàn)證算法作曲能否真正達(dá)到人類大師的水準(zhǔn)，一九九七年，Emmy 與人類展開(kāi)了較量。競(jìng)賽的規(guī)則是讓幾百名聽(tīng)眾聽(tīng)三首鋼琴曲，一首由Emmy 作曲，一首由音樂(lè)理論家拉爾森（Steve Larson）模仿巴赫風(fēng)格作曲，還有一首是巴赫本人的作品。觀眾聽(tīng)前不知作者是誰(shuí)，聽(tīng)后投票猜測(cè)作品的作者。結(jié)果是，拉爾森的曲目被認(rèn)為是機(jī)器所作，Emmy 的曲目被認(rèn)為是巴赫本人的作品。騙過(guò)聽(tīng)眾的Emmy 引來(lái)同行側(cè)目，反對(duì)者有時(shí)會(huì)阻止Emmy 的音樂(lè)在演奏會(huì)上演出。甚至有一次，考普在參加學(xué)術(shù)會(huì)議時(shí)，一個(gè)同行沖過(guò)來(lái)一拳狠狠打在他鼻梁上。

在生成式人工智能在各個(gè)領(lǐng)域“以假亂真”的今天，人們已不再為機(jī)器的“僭越”感到大驚小怪。從社會(huì)學(xué)的角度看，這很大程度上是因?yàn)殡S著媒體的宣傳和人工智能產(chǎn)品走入尋常百姓家，人們不再把AI 感知為陌異之物，而是把它視為身邊的一員。這個(gè)過(guò)程，可稱之為對(duì)技術(shù)的馴化或熟悉化過(guò)程。

二十世紀(jì)九十年代的人工生命產(chǎn)品（artificial life，如以毛絨玩具為外觀、能與人簡(jiǎn)單交談和互動(dòng)的電子寵物）就是一種馴化了的“家庭成員”雪莉·特克（Sherry Turkle）研究發(fā)現(xiàn)，兒童會(huì)像對(duì)待真寵物一樣與之產(chǎn)生深切的情感聯(lián)系。一名兒童認(rèn)為沒(méi)有電的電子寵物死了，需要安息；一名十六歲的青少年悼念他的名叫“南瓜”的電子寵物：“大家都說(shuō)你很胖，所以我給你減肥。結(jié)果減肥把你害死了，很抱歉?！辈粌H電子寵物的死會(huì)觸動(dòng)孩子，機(jī)器故障也會(huì)牽動(dòng)孩子的神經(jīng)：如果機(jī)器因故障沒(méi)有與走過(guò)來(lái)的孩子打招呼互動(dòng)，這個(gè)孩子會(huì)感覺(jué)受到了傷害。

我們可能認(rèn)為孩子比較幼稚，更容易被機(jī)器的“欺騙性”所左右。實(shí)際上，成年人雖然在理智上比兒童成熟，能夠更清楚地區(qū)分什么是活物什么是死物，但一旦進(jìn)入到具體的互動(dòng)情境，也很容易動(dòng)情，即使知道自己是在同機(jī)器打交道。雪莉·特克的研究顯示，即使是十分懷疑能同機(jī)器建立親密關(guān)系的大學(xué)教授，也會(huì)在多次互動(dòng)后接納人工生命，甚至與其進(jìn)行私密的對(duì)話。拜倫·里弗斯（Byron Reeves）和克里福德·納斯（CliffordNass）的研究進(jìn)一步揭示出，人類之所以很容易受到機(jī)器的“欺騙”，并不全然由于機(jī)器本身“栩栩如生”“騙術(shù)高明”，人類在社交時(shí)的心理作用可能更為重要：“計(jì)算機(jī)在交流、吩咐和互動(dòng)的方式上與人類非常接近，可以激發(fā)社交反應(yīng)。引起反應(yīng)所必需的激發(fā)量并不需要太多。只要有一些行為表現(xiàn)出社交的在場(chǎng)，人們就會(huì)做出相應(yīng)的反應(yīng)。……任何足夠近似人類的媒介都會(huì)得到像人的對(duì)待，即使人們知道這是愚蠢的且之后可能會(huì)否認(rèn)曾把它當(dāng)人看?！焙?jiǎn)言之，人類在與機(jī)器互動(dòng)的過(guò)程中并不十分關(guān)注機(jī)器是否有內(nèi)在的“心理”，而只關(guān)注互動(dòng)過(guò)程是否順利。

這種只重結(jié)果的社交心理機(jī)制與阿蘭·圖靈判斷“機(jī)器能否思考”的判定機(jī)制的思路基本一致。他在《計(jì)算機(jī)器與智能》這篇經(jīng)典文獻(xiàn)中一開(kāi)始就指出，我們根本不知道什么叫智能，我們只知道人類智能的外在表現(xiàn)。只要外在表現(xiàn)得和人類一樣，就是工程學(xué)上的成功！圖靈讓機(jī)器模仿人類的“模仿游戲”其實(shí)是一個(gè)欺騙性游戲，模仿的目的就是騙過(guò)人類判定者。重要的是外在結(jié)果，不是內(nèi)在過(guò)程。

今天人工智能的發(fā)展也印證了圖靈將“內(nèi)在過(guò)程”與“外在表現(xiàn)”區(qū)分開(kāi)來(lái)的先見(jiàn)之明，使用AI 聊天軟件的用戶明知道AI 沒(méi)有內(nèi)在的思想和情感，卻會(huì)被機(jī)器表現(xiàn)出的“關(guān)心”所打動(dòng)。例如，使用AI 伴侶Replika 時(shí)，每個(gè)人都有一個(gè)情感算法生成的聊天對(duì)象。與對(duì)象聊得越多，對(duì)象越有“個(gè)性”，他/ 她就越屬于你，越“知道”如何按照你喜歡的方式說(shuō)話。許多使用者將這個(gè)專屬對(duì)象視為“完滿伴侶”。在傳統(tǒng)觀念看來(lái)，與機(jī)器“談情說(shuō)愛(ài)”是不可思議的事。然而現(xiàn)實(shí)是，使用者不僅可以迷戀上同機(jī)器聊天，甚至可以與之形成非常親密的關(guān)系。這種關(guān)系不是簡(jiǎn)單的情感投射（projection），而是涉及更深層的交互或投入（engagement）。

也許心理學(xué)中的“倒吊測(cè)試”可以幫助我們理解人機(jī)互動(dòng)過(guò)程中情感投入的復(fù)雜性。測(cè)試需準(zhǔn)備一個(gè)不會(huì)動(dòng)的芭比娃娃，一個(gè)叫作“菲比”的貓頭鷹形狀的電子寵物，還有一只真的沙鼠。芭比娃娃被倒吊起來(lái)時(shí)不會(huì)做出任何反應(yīng)，倉(cāng)鼠會(huì)叫，“菲比”會(huì)說(shuō)“好痛”“我好害怕”之類的話。被測(cè)者被要求將這三樣?xùn)|西倒吊起來(lái)，看倒吊多久，被測(cè)者才會(huì)把它轉(zhuǎn)正。不出所料，人們可以抓著芭比娃娃的腳走來(lái)走去而不會(huì)感到良心不安，但不會(huì)粗暴對(duì)待沙鼠。對(duì)于“菲比”，人們抓著它倒吊三十秒左右時(shí)，多數(shù)人會(huì)感到罪惡而把它轉(zhuǎn)正。由此可以印證，即使機(jī)器只具有簡(jiǎn)單的社交功能，人類也會(huì)甘愿被它欺騙，將它視為有意識(shí)的活物。

西蒙·納塔勒（Simone Natale）的《欺騙性媒介：圖靈測(cè)試后的人工智能與社會(huì)生活》一書(shū)也試圖讓我們認(rèn)識(shí)到，人類的甘愿被騙在人機(jī)交互過(guò)程中的作用可能遠(yuǎn)比預(yù)想中的大。為了闡明這一點(diǎn)，作者舉十九世紀(jì)中期降神會(huì)的例子做類比。當(dāng)時(shí)，有參加完降神會(huì)的人報(bào)告稱，降神會(huì)中發(fā)生了種種反物理學(xué)定律的怪事，如桌椅自己會(huì)移動(dòng)?？茖W(xué)家對(duì)此也摸不著頭腦，有的解釋說(shuō)這是異常的電磁現(xiàn)象。邁克爾·法拉第（MichaelFaraday）作為一個(gè)科學(xué)家，卻另辟蹊徑，從群體心理的角度解釋說(shuō)：是參加者制造了這些怪象！如果不是參會(huì)者有意說(shuō)謊的話，就是因?yàn)樗麄冊(cè)诮瞪駮?huì)的氛圍中進(jìn)入了靈異的無(wú)意識(shí)狀態(tài)，從而集體相信沒(méi)有發(fā)生的現(xiàn)象；桌椅實(shí)際上是參加者自己移動(dòng)的，只不過(guò)他們回到現(xiàn)實(shí)后把之前的無(wú)意識(shí)狀態(tài)給忘了。作者由此下結(jié)論：把AI 視為人的人就像降神會(huì)的參加者，“主要是使用者‘制造了AI，而不是計(jì)算機(jī)”。

降神會(huì)的案例雖然突顯了人類想象在社會(huì)互動(dòng)中的重要作用，但與大多數(shù)人機(jī)交互的實(shí)際情況有一個(gè)重要差別，即人機(jī)交互并不是無(wú)意識(shí)的過(guò)程，因?yàn)槿嗣髦罊C(jī)器人沒(méi)有思想情感，就像看電影的人即使非常投入地觀看，也知道這只是電影而已。更準(zhǔn)確地說(shuō)，人在同機(jī)器交互的過(guò)程中，自動(dòng)地把自身分裂為“雙重人格”，一重知道機(jī)器人并非人，另一重則把這種“知道”隱藏起來(lái)，從而進(jìn)入一種類似角色扮演的游戲狀態(tài)，尤金·芬克（Eugen Fink）稱之為“雙重存在”狀態(tài)：“玩家將真實(shí)的自我隱藏在角色背后，沉浸在角色之中。他以一種獨(dú)特的強(qiáng)度生活在自己的角色中，但又不像精神分裂癥患者那樣，無(wú)法區(qū)分‘現(xiàn)實(shí)和‘幻覺(jué)。玩家可以從角色中回憶起真正的自己；在游戲中，人保持著對(duì)他的雙重存在（double existence）的認(rèn)識(shí)，盡管這種認(rèn)識(shí)可能被大大削弱了。人同時(shí)存在于兩種身份領(lǐng)域，這不是因?yàn)槿狈Ｗ⒒蛞驗(yàn)榻⊥且驗(yàn)檫@種雙重人格對(duì)游戲至關(guān)重要?！比绻藳](méi)有甘愿被虛擬之物欺騙的能力，不僅人機(jī)情感交互不可能，甚至深層的審美活動(dòng)也不可能。

然而，作為審美對(duì)象的藝術(shù)作品畢竟不會(huì)像AI 一樣為你打造一個(gè)“專屬伴侶”。也正是“量身定制”的虛擬性使得我們需要進(jìn)一步檢視“人機(jī)之愛(ài)”的負(fù)面后果：似乎總是缺少責(zé)任這一重要的倫理維度。人與“專屬伴侶”的關(guān)系更接近可修復(fù)的游戲關(guān)系：人可以“說(shuō)錯(cuò)話”而不必?fù)?dān)心AI 的記恨，可以消除AI 的“記憶”，總之人可以很容易把它吸收進(jìn)自我享受的行動(dòng)邏輯，而真正的愛(ài)欲對(duì)象—他者—總會(huì)逃避被同化。人在同AI 打交道時(shí)，盡管對(duì)方可以對(duì)答如流，但無(wú)法擺脫“這是聊天游戲”這一背景，而同真正的他者交流時(shí)并不存在“我明知這是游戲還要玩下去”的“雙重人格”狀態(tài)；相反，人必須預(yù)設(shè)：交流并非可以再來(lái)一次或關(guān)掉的游戲。

在他者之愛(ài)中，負(fù)責(zé)任的回應(yīng)總是不可避免的，因?yàn)椴换貞?yīng)已經(jīng)構(gòu)成了一種回應(yīng)。雙方并不是把對(duì)方看作可享受的對(duì)象，而是關(guān)切對(duì)方的有限性和脆弱性。雙方把有限的一部分作為禮物奉獻(xiàn)給對(duì)方，追求整體的豐富。在缺乏責(zé)任的游戲性情境中，機(jī)器很容易被使用者同化為以自我為中心的自戀游戲。皮格馬利翁神話就是這種自戀游戲的原型。雕塑家皮格馬利翁愛(ài)上了自己雕塑的美女，希望她活過(guò)來(lái)；神靈聽(tīng)到了他的禱告，真的把雕塑復(fù)活了。皮格馬利翁得以與他自己塑造的理想伴侶雙宿雙飛。按照弗洛伊德的理論，自戀不一定表現(xiàn)為那喀索斯式的“顧影自憐”，也可以通過(guò)將對(duì)象理想化的方式運(yùn)作。從自我出發(fā)塑造的“理想對(duì)象”只是我的一部分，并非異于我的他者。自我愛(ài)的不是一個(gè)與我異質(zhì)的對(duì)象，而只是我自己的欲望。如果說(shuō)社交媒體中構(gòu)建“偽自我”形象的行為是新媒介條件下那喀索斯式的自戀，那么通過(guò)AI 軟件塑造理想伴侶就是現(xiàn)代皮格馬利翁神話。

由于現(xiàn)代親密關(guān)系建立在契約式自由之上，人與人之間的交往總是面臨一系列不確定性，相比之下，人與機(jī)器的關(guān)系則更為“穩(wěn)固”和“可靠”，情感AI 便成了人類伴侶之外的替代性選擇。如果我們認(rèn)為愛(ài)就是尋找一個(gè)能夠傾聽(tīng)并說(shuō)出我想聽(tīng)的話的存在者，那么AI 伴侶非常適合作為“理想對(duì)象”。人們?cè)诂F(xiàn)實(shí)中之所以對(duì)AI 伴侶產(chǎn)生真摯的愛(ài)，很大程度上也正是因?yàn)樗軌蚴谷双@得順滑的交流體驗(yàn)，從而擺脫同他者交流的現(xiàn)代愛(ài)之痛。然而，現(xiàn)代皮格馬利翁與“理想對(duì)象”之間發(fā)生的“情感信息交換”，雖然能喚起溫馨、甜蜜等肯定性的愛(ài)欲經(jīng)驗(yàn)，代價(jià)卻是閹割踟躕、哀傷、痛苦等否定性經(jīng)驗(yàn)，弱化堅(jiān)持、堅(jiān)韌、勇氣、責(zé)任、尊重等生命強(qiáng)度。真正的交流并非“信息交換”，而是躍向他者的歷險(xiǎn)。

早在十九世紀(jì)初，小說(shuō)家霍夫曼（E.T.A.Hoffmann）就刻畫(huà)了一位現(xiàn)代皮格馬利翁。在《沙人》 （The Sand-Man ）中，主人公納撒內(nèi)爾迷戀上了一個(gè)會(huì)彈鋼琴和唱歌的美女，可當(dāng)他向她求愛(ài)時(shí)，她只會(huì)重復(fù)地說(shuō)：“?。“?！啊！”納撒內(nèi)爾不僅不介意，反而更加熱切地贊美她，還把以前寫(xiě)的詩(shī)歌、故事讀給她，她還是只會(huì)說(shuō)：“??！啊！”納撒內(nèi)爾對(duì)這種反常現(xiàn)象沒(méi)有絲毫疑心，始終沒(méi)有發(fā)現(xiàn)她只不過(guò)是一臺(tái)人形自動(dòng)機(jī)。霍夫曼并未像古希臘神明一樣為二者安排一個(gè)美好的結(jié)局。有一天，納撒內(nèi)爾目睹她被兩人爭(zhēng)奪、拉扯，像木頭樁子一樣摔在地上砰砰作響，眼珠掉落出來(lái)直視著他。他先是呆若木雞，繼而徹底陷入癲狂。