海德格爾式人工智能及其對(duì)“意識(shí)”問(wèn)題的反思
——兼與何懷宏先生商榷

近幾年，人工智能一詞越來(lái)越多地出現(xiàn)在日常生活的新聞中：阿爾法狗（AlphaGo）先后戰(zhàn)勝人類頂級(jí)圍棋手李世石和柯潔，類人機(jī)器人索菲亞（Sophia）在沙特授予其公民身份的大會(huì)上侃侃而談，幽默地應(yīng)對(duì)主持人拋來(lái)的各種難題。在論及人工智能的發(fā)展前景時(shí)，有不少學(xué)者表達(dá)了對(duì)人工智能威脅人類文明的恐懼和憂慮：有的認(rèn)為人工智能是一種“無(wú)機(jī)智能”，其發(fā)展將會(huì)取代有機(jī)智能；有的則擔(dān)心人工智能將因幫助人類解決一切問(wèn)題而消解人類生存的意義，進(jìn)而取代乃至毀滅人類。對(duì)于種種人工智能威脅論，本文認(rèn)同應(yīng)該對(duì)人工智能領(lǐng)域的技術(shù)發(fā)展進(jìn)行倫理上的思考和規(guī)范，但是如果僅僅是出于對(duì)媒體渲染的人工智能前景的恐慌，排斥對(duì)人工智能的深入了解和技術(shù)研究，只會(huì)導(dǎo)致人文學(xué)科失去與技術(shù)對(duì)話的能力，更不用說(shuō)參與到人工智能在社會(huì)生活中的發(fā)展進(jìn)程中去。

實(shí)際上，威脅論所遭遇的第一個(gè)困境就是，智能機(jī)器要想進(jìn)行反叛，首先就必須獲得能夠理解什么是“反叛”并把智能機(jī)器自身與作為控制者的人類區(qū)分開(kāi)來(lái)的獨(dú)立意識(shí)。這種意識(shí)是否真的能夠在機(jī)器中產(chǎn)生？又與人類的意識(shí)有何區(qū)別？這一問(wèn)題其實(shí)從人工智能研究初期就不斷困擾著科研人員。

海德格爾思想與人工智能研究轉(zhuǎn)向

1948年，計(jì)算機(jī)科學(xué)的先驅(qū)艾倫·圖靈發(fā)表了《智能機(jī)器》報(bào)告，兩年后又提出了著名的圖靈測(cè)試，通過(guò)人類是否能夠根據(jù)語(yǔ)言回答區(qū)分作答的是人還是機(jī)器，來(lái)判斷該機(jī)器是否具有智能。1955年，幾位美國(guó)數(shù)學(xué)家為即將展開(kāi)的人工智能研究項(xiàng)目撰寫(xiě)了研究計(jì)劃，明確了用機(jī)器模擬人類智能的研究方向。對(duì)于這一階段的人工智能科學(xué)家而言，人類思想在很大程度上是根據(jù)理性原則和推理規(guī)則來(lái)處理單詞。也就是說(shuō)，對(duì)這些科學(xué)家來(lái)說(shuō)，只要能正確運(yùn)用語(yǔ)言規(guī)則和詞匯，在與人類的對(duì)答中成功欺騙人類，這樣的機(jī)器就擁有了智能。

從這一判斷標(biāo)準(zhǔn)來(lái)看，隨著計(jì)算機(jī)存儲(chǔ)和運(yùn)算能力的不斷提升及其與互聯(lián)網(wǎng)大數(shù)據(jù)這一“超級(jí)語(yǔ)料庫(kù)”的結(jié)合，機(jī)器人與人類的“對(duì)話”會(huì)向著越來(lái)越“自然”，也即難以與人類對(duì)話相區(qū)分的狀態(tài)發(fā)展。2017年獲得沙特公民身份、擁有語(yǔ)言交流能力的類人機(jī)器人索菲亞即為一例。如果從早期人工智能研究的目標(biāo)來(lái)看，索菲亞的誕生已經(jīng)可以說(shuō)是完成了當(dāng)時(shí)的研究者對(duì)人工智能的期待。但是我們能說(shuō)這樣的類人機(jī)器人具有人類的“意識(shí)”嗎？如果說(shuō)這不是“意識(shí)”的話，它與“意識(shí)”之間的區(qū)別在哪里呢？

其實(shí)，早在1963年，存在主義哲學(xué)家休伯特·德雷福斯（Hubert Dreyfus）就已經(jīng)反思過(guò)這個(gè)問(wèn)題，認(rèn)為這樣的人工智能研究方向一開(kāi)始就走入了誤區(qū)。他從存在論視角出發(fā)對(duì)當(dāng)時(shí)人工智能的理論基礎(chǔ)進(jìn)行了尖銳的批判，寫(xiě)出了后來(lái)擴(kuò)充為專著《計(jì)算機(jī)不能做什么》的報(bào)告《煉金術(shù)與人工智能》。報(bào)告中，德雷福斯借助海德格爾的思想闡述了早期人工智能研究所采取的理性主義“再現(xiàn)”式意識(shí)觀的問(wèn)題：意義和相關(guān)性是無(wú)法通過(guò)符號(hào)再現(xiàn)的。就拿海德格爾的錘子比喻來(lái)說(shuō)，我們?nèi)绾问箼C(jī)器理解“錘子”一詞所對(duì)應(yīng)的人類所使用的作為實(shí)物的錘子？早期人工智能研究認(rèn)為可以給它附加上“錘”的功能定義來(lái)解決這個(gè)問(wèn)題，即加上“錘釘子”的功能標(biāo)簽。但是，如果沒(méi)有“釘子”“錘”的身體動(dòng)作、釘入釘子的目標(biāo)，“錘”這一功能定義仍然是不可理解的。在人類的意識(shí)中，存在著無(wú)法用符號(hào)傳達(dá)的、在整個(gè)人類世界中體現(xiàn)出來(lái)的“意義”。這就是為什么“會(huì)說(shuō)話”的索菲亞不能“理解”它所說(shuō)的話。

仍然不肯死心的人工智能專家馬文·明斯基（Marvin Minsky）提出用輸入盡可能多的詞匯和功能性規(guī)定來(lái)解決這一問(wèn)題，想辦法把整個(gè)人類世界都轉(zhuǎn)換成符號(hào)。但是，一旦真的輸入了無(wú)限多的詞匯，機(jī)器該如何在各種情境中自動(dòng)選擇最為相關(guān)的詞匯和功能規(guī)定呢？像人類這樣一眼看出事物之間的相關(guān)性的意識(shí)能力并非符號(hào)所能再現(xiàn)。于是，明斯基接著提出用“框架”結(jié)構(gòu)來(lái)預(yù)先規(guī)定某種智能機(jī)器的應(yīng)用場(chǎng)景以及反應(yīng)模式，通過(guò)縮小使用范圍來(lái)回避相關(guān)性問(wèn)題。不過(guò)這樣一來(lái)，擁有確定“框架”的智能機(jī)器只能在某些特定的情境中實(shí)現(xiàn)特定的功能，已經(jīng)遠(yuǎn)離人工智能最初的實(shí)現(xiàn)類人智能的目標(biāo)了。

這樣的理論困境導(dǎo)致了人工智能領(lǐng)域在研究方向上的分化和轉(zhuǎn)向。美國(guó)哲學(xué)家約翰·塞爾（John Searle）在1980年發(fā)表的《心、腦與程序》一文中區(qū)分出“強(qiáng)人工智能（Strong AI）”與“弱人工智能（Weak AI）”，前者追求使人工智能真正擁有人類意識(shí)，而后者僅僅把人工智能看作工具?！叭跞斯ぶ悄堋?，或者現(xiàn)在被理解為“專用人工智能（narrow AI）”或“應(yīng)用人工智能（applied AI）”如火如荼地發(fā)展起來(lái)：今天的阿爾法狗、無(wú)人駕駛汽車、人工智能醫(yī)生等智能機(jī)器都是只能在某些特定領(lǐng)域應(yīng)用的專用人工智能。即便它們?cè)谶@些領(lǐng)域的特定表現(xiàn)遠(yuǎn)遠(yuǎn)超過(guò)人類，這些人工智能與“強(qiáng)人工智能”之間仍然存在著不可跨越的鴻溝，并非只用計(jì)算能力的發(fā)展就可以填補(bǔ)，而是存在著根本上的理論難題。因此大可不必因?yàn)檫@些人工智能在日常生活中的大量運(yùn)用而產(chǎn)生人工智能集體反叛、控制人類社會(huì)的恐懼。

另一方面，“強(qiáng)人工智能”，或者現(xiàn)在被理解為“人工通用智能（AGI：Artificial General Intelligence）”的研究則汲取了德雷福斯的批判，轉(zhuǎn)向以海德格爾思想為基礎(chǔ)的人工智能研究，出現(xiàn)了至少三種新的研究范式：羅德尼·布魯克斯（Rodney Brooks）的行為主義方法，菲兒·阿齊（Phil Agre）的實(shí)用主義模型，以及瓦爾特·弗里曼（Walter Freeman）的動(dòng)態(tài)神經(jīng)模型。

這三種研究范式以各自對(duì)“意識(shí)”問(wèn)題的理解突破了早期“再現(xiàn)”式人工智能研究，但又都有著各自的局限性。布魯克斯制造出依靠直接接收外部刺激并給出相應(yīng)的反饋來(lái)運(yùn)作的機(jī)器人，不再試圖在機(jī)器內(nèi)部構(gòu)造一個(gè)世界模型。這樣的機(jī)器人可以說(shuō)是初步具備了獨(dú)立存在于世的可能，然而遺憾的是，機(jī)器人的感應(yīng)器有著感應(yīng)范圍上的局限性，只能對(duì)特定環(huán)境中的某些特定特征做出反應(yīng)，無(wú)法應(yīng)對(duì)始終變化著的開(kāi)放世界。阿齊直接從“用錘子來(lái)做什么，怎么用”的角度來(lái)設(shè)計(jì)他的人工智能程序，從另一個(gè)角度突破了“再現(xiàn)”式的意識(shí)觀。不過(guò)，這樣的人工智能同樣會(huì)因?yàn)槠漕A(yù)先設(shè)置而呈現(xiàn)出封閉性。

最后，有鑒于前兩種海德格爾人工智能研究范式的問(wèn)題，德雷福斯建議引入神經(jīng)科學(xué)奠基人之一弗里曼有關(guān)生物如何在適應(yīng)環(huán)境的過(guò)程中通過(guò)神經(jīng)連接的強(qiáng)化來(lái)進(jìn)行自我學(xué)習(xí)的動(dòng)態(tài)神經(jīng)模型。不同于“再現(xiàn)”式意識(shí)觀對(duì)學(xué)習(xí)的理解，弗里曼的研究顯示，每當(dāng)事物對(duì)我們顯現(xiàn)出一種新的意義時(shí)，并非是一個(gè)新的再現(xiàn)式的功能符號(hào)被儲(chǔ)存進(jìn)了我們的大腦，而是我們的“感知-行動(dòng)”模式被改變了。從“感知-行動(dòng)”模式的視角來(lái)看，事物在意識(shí)中的顯現(xiàn)方式并非是它自身，而是我們過(guò)去與它互動(dòng)時(shí)的整個(gè)情境和體驗(yàn)，而且它會(huì)在我們每一次與之進(jìn)行互動(dòng)時(shí)進(jìn)一步發(fā)生變化。

盡管這些海德格爾式人工智能距離真正實(shí)現(xiàn)強(qiáng)人工智能還非常遙遠(yuǎn)，但這些努力一方面啟發(fā)了專用人工智能的技術(shù)發(fā)展，比如新一代圍棋人工智能“阿爾法元（Alpha Zero）”通過(guò)不斷地對(duì)弈實(shí)踐和反饋強(qiáng)化來(lái)進(jìn)行自主學(xué)習(xí)的“強(qiáng)化學(xué)習(xí)（Reinforcement learning）”設(shè)計(jì)思路；另一方面，研究者們?cè)趶?qiáng)人工智能研究上所做的種種努力也反過(guò)來(lái)促進(jìn)了人類對(duì)“意識(shí)”問(wèn)題的探索和理解。幾種海德格爾式人工智能都拋棄了傳統(tǒng)的符號(hào)再現(xiàn)方法，轉(zhuǎn)而以生物與日常世界打交道時(shí)的行為方式作為研究基礎(chǔ)。因此，這條人工智能發(fā)展史并非只是技術(shù)發(fā)展史，同時(shí)也是對(duì)人類“意識(shí)”的探索和觀念轉(zhuǎn)變史。

不過(guò)，如果我們沿著海德格爾式人工智能的研究思路繼續(xù)推進(jìn)，將會(huì)碰到強(qiáng)人工智能研究的最大困境：人類在情境中直接把握意義，不斷熟悉、改進(jìn)自己與世界打交道的方式的基礎(chǔ)在于人類的身體存在，世界是相對(duì)于我們的需要、身材尺寸、行動(dòng)方式等呈現(xiàn)出意義的。從這個(gè)角度來(lái)說(shuō)，圖靈測(cè)試最大的問(wèn)題在于，它沒(méi)有考慮到“能說(shuō)”與“能做”的區(qū)別，一個(gè)沒(méi)有“親身”體驗(yàn)過(guò)“錘”這個(gè)動(dòng)作的機(jī)器即便掌握再多與“錘子”相關(guān)的知識(shí)也無(wú)法真正理解“錘子”。因此，人工智能與人類之間的根本區(qū)別與其說(shuō)是“沒(méi)有意識(shí)”，不如說(shuō)是“沒(méi)有身體”，或者更確切說(shuō)是沒(méi)有依托于人類特有的在世方式的“身體-意識(shí)”。

重新思考人工智能中的“意識(shí)”問(wèn)題

對(duì)人工智能可能獲得反叛意識(shí)和能力的恐懼其實(shí)基于自笛卡爾以來(lái)的身心二元論，甚至是更早的西方文化傳統(tǒng)中的意識(shí)可以獨(dú)立于身體存在的想象。這種想象的流行從這一題材在科幻電影、電視劇等文化產(chǎn)品中的長(zhǎng)盛不衰就可見(jiàn)一斑，如2014年的電影《超驗(yàn)駭客》中，瀕臨死亡的天才科學(xué)家威爾的意識(shí)被上傳到智能電腦中，在虛擬世界中重生，成為一個(gè)“超人”；而2016年的大熱美劇《西部世界》中，成人主題公園中的類人機(jī)器人在日復(fù)一日為人類服務(wù)的過(guò)程中逐漸出現(xiàn)了“自我覺(jué)醒”，聯(lián)合起來(lái)報(bào)復(fù)人類。類似的想象有一個(gè)共同的前提，那就是意識(shí)是獨(dú)立的，它可以從身體中被完整地取出，再毫發(fā)無(wú)傷地轉(zhuǎn)移到另一種形態(tài)的物質(zhì)基礎(chǔ)上，也可以被“賜予”機(jī)器人，或是突然在其身上“出現(xiàn)”。正是因?yàn)橛兄@樣的潛在信念，才會(huì)導(dǎo)致人們對(duì)暫時(shí)還沒(méi)有“獲得獨(dú)立意識(shí)”的類人機(jī)器人的未來(lái)發(fā)展感到恐懼。

其實(shí)，當(dāng)我們把有沒(méi)有“意識(shí)”作為人類與智能機(jī)器之間的區(qū)分時(shí)，就已經(jīng)接受了這一潛在的前提，即“意識(shí)”是獨(dú)立于人類身體的存在，可以被“擁有”，或是暫時(shí)或永遠(yuǎn)地“缺乏”。前述人工智能發(fā)展歷史上的科研人員碰到的困境以及對(duì)意識(shí)問(wèn)題理解的轉(zhuǎn)變已經(jīng)顯示：人類意識(shí)，包括人類的理性、情感和意志無(wú)法脫離人類身體存在，因此自然也不可能在另一種物質(zhì)基礎(chǔ)上“出現(xiàn)”。

但是現(xiàn)在的問(wèn)題并不是終結(jié)于“機(jī)器人永遠(yuǎn)不可能擁有意識(shí)”的結(jié)論，而在于跳出“擁有意識(shí)”與“沒(méi)有意識(shí)”這樣兩種答案的限制，繼續(xù)探索人類存在基礎(chǔ)上的意識(shí)現(xiàn)象，智能機(jī)器存在基礎(chǔ)上的不同于人類意識(shí)的“意識(shí)”現(xiàn)象，以及這兩種現(xiàn)象之間的相互關(guān)系。也就是說(shuō)，重新思考一種既有其自身的“具身性”，也不局限于人類的新的“意識(shí)”觀。

這種新的“意識(shí)”觀也正是海德格爾式人工智能以及被稱為“人工生命（Artificial Life）”的研究的基礎(chǔ)。上節(jié)提及的制造出直接依靠“感覺(jué)-反饋”來(lái)運(yùn)作的智能機(jī)器，放棄在機(jī)器中“再現(xiàn)”一個(gè)內(nèi)在世界的布魯克斯，正是人工生命研究的主要推動(dòng)人之一。相對(duì)于符號(hào)派人工智能研究專注于如何在智能機(jī)器中制造出“意識(shí)”，以及其以“世界在頭腦中的符號(hào)式再現(xiàn)”為基礎(chǔ)的“意識(shí)”觀，布魯克斯專注于使機(jī)器能夠在世界中行動(dòng)，與世界進(jìn)行交互，并把“意識(shí)”視為生物在與世界的互動(dòng)過(guò)程中逐漸發(fā)展起來(lái)的附加功能，一種建立在更深層、更基本的感知與存在的基礎(chǔ)之上的伴隨現(xiàn)象。這樣一種建立在“感知”基礎(chǔ)上的“意識(shí)”不僅不獨(dú)為人類所有，甚至也超出了“生物”的范疇。早期人工智能立志要制造出以人為參照標(biāo)準(zhǔn)、與人相同的智能機(jī)器，而人工生命研究卻志在讓機(jī)器自身在與世界的互動(dòng)中學(xué)習(xí)和進(jìn)化，發(fā)展出屬于自己的獨(dú)特“意識(shí)”。

數(shù)字人文學(xué)者凱瑟琳·海勒（Katherine Hayles）吸收了“人工生命”研究對(duì)“智能”的廣義理解。她在《認(rèn)知無(wú)意識(shí)：擴(kuò)大人文學(xué)科中的“精神”范疇》一文中提出了一個(gè)層級(jí)式的意識(shí)模型，認(rèn)為在傳統(tǒng)的“意識(shí)”之外有著更為基礎(chǔ)和廣泛的“認(rèn)知”，并試圖用“認(rèn)知者（Cognizer）”的提法來(lái)囊括生物認(rèn)知和技術(shù)認(rèn)知，擴(kuò)大傳統(tǒng)的人類意識(shí)研究的范圍。海勒把認(rèn)知定義為“從語(yǔ)境中闡釋信息，并把信息與意義聯(lián)系起來(lái)的過(guò)程”。這個(gè)定義中有至少兩點(diǎn)值得注意，首先，把認(rèn)知定義為一種動(dòng)態(tài)過(guò)程，就取代了獨(dú)立的、現(xiàn)成的“再現(xiàn)”式意識(shí)觀，其次，如何從語(yǔ)境中根據(jù)意義做出選擇，曾經(jīng)是符號(hào)派人工智能所無(wú)法解決的難題，這是因?yàn)橐饬x要在認(rèn)知者的自身需求及其與環(huán)境的交互中實(shí)時(shí)產(chǎn)生。海勒的定義卻以人工生命研究的進(jìn)展為基礎(chǔ)消解了這一難題，正如布魯克斯及其他人工生命研究者所堅(jiān)持的，不管是昆蟲(chóng)、鳥(niǎo)獸還是人工生命都在持續(xù)不斷地依據(jù)自身與世界交互的方式“解讀”外界刺激并給出相應(yīng)的反饋，而這正是“意識(shí)”產(chǎn)生的基礎(chǔ)。

除此之外，這樣一種“認(rèn)知”觀還可以把生物認(rèn)知與技術(shù)認(rèn)知結(jié)合的認(rèn)知系統(tǒng)也納入研究范疇，一個(gè)顯而易見(jiàn)的例子就是當(dāng)代人對(duì)電腦或智能手機(jī)的使用。這樣一來(lái)，原本被傳統(tǒng)意識(shí)研究拒之門(mén)外的各種感知現(xiàn)象就都能被吸收進(jìn)研究視野。此外，海勒還提出了“認(rèn)知集合體（cognitive assemblages）”的概念來(lái)描述人類與技術(shù)結(jié)合的認(rèn)知體系。我們的意識(shí)遠(yuǎn)比我們所想象的更依賴我們與這個(gè)世界的互動(dòng)，它既不脫離于物質(zhì)世界，也不是世界的中心，而是與存在于這個(gè)世界上的各種生物乃至技術(shù)的認(rèn)知系統(tǒng)相互交織，共同構(gòu)成了復(fù)雜多樣的動(dòng)態(tài)認(rèn)知體系。

這種觀念上的轉(zhuǎn)變對(duì)于人文研究在當(dāng)代社會(huì)的作用至關(guān)重要。從“認(rèn)知集合體”的視角來(lái)看，技術(shù)不僅參與到我們的認(rèn)知、決策過(guò)程中，甚至還會(huì)對(duì)認(rèn)知模式產(chǎn)生影響。實(shí)際上，人類的智能發(fā)展從遠(yuǎn)古時(shí)期就與工具的使用綁在一起。技術(shù)是人與人之間的溝通中介，包含著設(shè)計(jì)者對(duì)使用者的生活情境、使用方式的考量。如今，各式各樣的軟硬件智能技術(shù)在日常生活中的參與度越來(lái)越高，如何思考智能機(jī)器設(shè)計(jì)在社會(huì)應(yīng)用中的道德責(zé)任，如何重新理解與智能技術(shù)結(jié)合的人類認(rèn)知模式等，都成了需要人文學(xué)者進(jìn)一步思考的課題。

結(jié)語(yǔ)

在被問(wèn)及人工智能威脅論時(shí)，類人機(jī)器人索菲亞“幽默地”回?fù)粽f(shuō)，“你看了太多好萊塢電影”，這句對(duì)答恐怕道出了索菲亞背后的程序員們的心聲。隨著“人工智能”一詞在日常生活和流行文化中的熱度越來(lái)越高，可以想見(jiàn)類似《西部世界》中那樣“獲得人類意識(shí)”的人工智能想象只會(huì)更為頻繁地出現(xiàn)在流行文化產(chǎn)品中。然而，通過(guò)貼近地考察人工智能的研究發(fā)展可以理解：人工智能并非洪水猛獸，在它們身上不會(huì)發(fā)展出想要反叛人類的“獨(dú)立意識(shí)”，這種想象本身其實(shí)是基于“意識(shí)”與“身體”二分的傳統(tǒng)思維框架，從這樣的思維框架以及學(xué)科成見(jiàn)出發(fā)，將難以理解更無(wú)從應(yīng)對(duì)智能技術(shù)發(fā)展給未來(lái)社會(huì)帶來(lái)的挑戰(zhàn)；另一方面，人工智能雖然不是洪水猛獸，但仍然可能造成很多安全問(wèn)題，比如，未來(lái)的人工生命雖然“無(wú)意”于毀滅人類，卻可能以超出人類控制的方式給已經(jīng)重度依賴電子網(wǎng)絡(luò)的人類生活制造麻煩。要應(yīng)對(duì)這些問(wèn)題，不能僅僅滿足于把人工智能視為人的對(duì)立面來(lái)尋找人的意義，而需要人文學(xué)者打破學(xué)科禁錮，積極了解人工智能，從人工智能自身的“認(rèn)知”方式出發(fā)來(lái)重新思考“意識(shí)”問(wèn)題，進(jìn)而改善其與人類共在的方式，這樣才能真正參與到人工智能在當(dāng)代社會(huì)生活的發(fā)展進(jìn)程中去，為人工智能的技術(shù)發(fā)展增添人文關(guān)懷。