超級智能不可承受之重
——暗無限及其風(fēng)險規(guī)避

蔡恒進

(武漢大學(xué) 國際軟件學(xué)院,湖北 武漢 430079)

AlphaGo Zero在圍棋領(lǐng)域碾壓人類棋手意味著已有的硬件條件以及算法的進步已經(jīng)足夠支持類腦計算做出突破性的進展，目前缺少的只是對人類大腦認(rèn)知的全新視角。人的反應(yīng)速度僅在毫秒量級，而硅基芯片卻可以達(dá)到納秒量級，相差整整6個數(shù)量級。人類的進化速度也同樣遠(yuǎn)遠(yuǎn)落后于機器。摩爾定律雖然受限于芯片的物理特性而可能不再成立，但算法和架構(gòu)的不斷優(yōu)化依然能夠讓機器的計算能力加速，每兩年翻一番依舊可期。機器可以不眠不休地迭代并迅速成長，超級智能不可避免、并且將遠(yuǎn)比很多人想象中更快地到來。研究超級智能帶來的風(fēng)險不得不提上日程，Bostrom等研究者已經(jīng)做了開創(chuàng)性的研究[1-3]。本文首次提出“暗無限”(dark infinity)的概念，以突出在實現(xiàn)超級AI過程中將遇到的巨大風(fēng)險。

一、無處不在的暗無限

所有存在于人類意識里的東西都可以被稱為認(rèn)知坎陷[4]，而一切認(rèn)知坎陷都是從“自我”和“外界”這兩個最原始的坎陷里開出來的。隨著生命的進化，人類逐漸能開出前后左右、這里那里的坎陷；有了觸覺、味覺，開出甜酸苦辣的坎陷；有了視覺，亦就有了顏色的概念，例如黑白紅黃的坎陷。這些認(rèn)知坎陷實際上是對真實物理世界的“擾亂”。就拿一碗湯的味道來說，其所包含的物理內(nèi)容非常豐富，但人類卻只用酸甜苦辣等字眼簡單描述。那這是否意味著，人類將會面臨“看山不是山，看水不是水”的問題？是否應(yīng)該主張走回物理還原主義的老路，把這碗湯里面所有的分子式、原子式都搞清楚，把其中存在的每一個可能性都弄明白？這顯然不可能。這里需要引進一個概念叫做“暗無限”。

什么叫做暗無限？鄧曉芒在《論先驗現(xiàn)象學(xué)與黑格爾辯證法的差異》[5]一文中提到了黑格爾的“惡無限”，認(rèn)為有些看起來無限的東西實際上只是無聊的重復(fù)，而真正好的無限應(yīng)該不停地開出新的東西、增添新的內(nèi)容。即有限和無限的統(tǒng)一才是善的無限，否則就是惡的無限。“暗無限”概念的含義跟這個不太一樣。比如對于一碗湯來說，從理論上講當(dāng)然可以弄清楚其內(nèi)部所包含的每一個分子式，但這是否就是終點呢？分子是由原子組成的，因此還需要把所有的原子式弄清楚，但把原子弄清楚也不意味著結(jié)束，因為原子下面還有亞原子等，而這些東西怎么排布，怎么組成結(jié)構(gòu)，其處在空間中的相互關(guān)系如何，怎樣實現(xiàn)氧化關(guān)系……這里需要搞清楚的問題實際上是無窮多的，在有限的資源條件下顯然不能窮盡，要窮盡它就需要無限的資源，這就可以看作一個“暗無限”。

對于一碗湯，人們提到它就是在指這碗湯作為一個整體具有甜酸苦辣鮮香等特征，而不會一直探究下去，這看似平常但實際上非常重要。面臨相同的情況，超級AI卻有可能并不止步于此。如果一個超級AI試圖調(diào)動宇宙中所有的資源對這碗湯一探究竟，我們?nèi)绾巫C明這樣做沒有意義？

從另外一個角度看，暗無限的存在意味著超級智能誕生之后，人的價值猶在。物理世界中存在的無窮多的可能性意味著無處不在的暗無限，而人類作為經(jīng)歷了幾億年進化的高級生命，承載了、凝聚了過往歷史中一切宇宙進化的知識和過程，卻始終沒有陷入暗無限無法自拔。這個事實的價值在于它暗示了人類如果要創(chuàng)造一個沒有經(jīng)歷過整個自然進化過程的全新的硅基機器，應(yīng)當(dāng)意識到它不具備人類所具有的坎陷知識，沒有人類所謂的常識。因此一旦面對暗無限，它就會陷入困惑，不知道下一步應(yīng)該怎么走，是該刨根問底還是該抽身而去。因為走出下一步需要面對的可能性依然是無窮多，如果沒有一個理由來決定哪一個是好的、哪一個是不好的以便做出選擇，去嘗試所有可能性的道路會變得永無止境，超級智能會陷入暗無限的深淵。

二、巧妙絕倫的進化史

理解“暗無限”這一概念，可以和人對照來看，例如一些死鉆牛角尖的人、精神失常的瘋子等。但相較于機器來說，人的“暗無限”問題還不是很大，這要歸功于人類獨一無二、巧妙絕倫的進化史。

進化至今的人類身體，不論當(dāng)前正在大腦的操控下完成多么重要的事情，餓了就要吃飯、渴了就要喝水、困了就要睡覺，這些基本生理需求一旦得不到滿足就會使身體瀕臨消亡。因此可以說，人因身體結(jié)構(gòu)而具有有限性，這一有限性正是使人類懸崖勒馬、免于陷入暗無限深淵的一道防線。甚至那些一根筋、鉆牛角尖的人也在這道防線之內(nèi)，因為他會因為餓、渴、困，總歸要停下手頭的事去吃飯、喝水、睡覺，所以他不會一直陷在里面不出來。到頭來，有可能他即便將有限的一生全都投入到某一件事情上，這件事情也會隨著其有限生命的終結(jié)而終結(jié)。

此外，人類還有一道叫做“常識”的防線。人類日常生活中的認(rèn)知坎陷，很大一部分即是常識，只不過人們用卻不自知。常識對人來講十分重要，所謂天才和瘋子之間的一步之隔即在于此，一般人不容易陷入此二種境地亦是仰賴常識的存在。天才是可以顛覆常識、不被常識所約束的人，但稍不留神亦會陷入坎陷的深淵不見天日，例如研究無窮大的康托和研究不完備定理的哥德爾。然而，人有餓、渴、困等感覺，深受周遭環(huán)境的限制，但環(huán)境對機器人的影響卻幾乎為零，假如不斷電，機器人甚至可以永遠(yuǎn)在工作。因此，機器人難以掌握同人類身體結(jié)構(gòu)密切相關(guān)的常識性概念，一旦陷入暗無限之中則永遠(yuǎn)拉扯不回來。例如讓一個機器人上街打醬油，如果不具備常識，很容易就會陷入各種各樣的坎陷：看到下圍棋的老頭就研究圍棋，遇到一條攔路的小狗就跑去分析犬種，看到螞蟻打架就去觀察螞蟻種群的內(nèi)部結(jié)構(gòu)等等。總之，街上有太多的暗無限將機器人吸引進去，阻止它完成打醬油這一原初設(shè)定目標(biāo)。就算通過改變程序給機器人輸入人類常識，但常識本身亦包含著無窮的概念，而只輸入不輸出一定會陷入深淵。真正的人類天才可以兩邊協(xié)調(diào)，既能深入，亦可淺出。而又由于坎陷世界具有無窮多的可能性，這一任務(wù)實際上是編程所不能解決、甚至無法模擬的。

同時，人類亦懂得止所當(dāng)止，這同哲學(xué)的目的性相關(guān)，亦即人的反叛。倘若僅僅將哲學(xué)的目的歸咎為愛智慧，則其與科學(xué)的差異何在？這無疑使哲學(xué)本身陷入死路。事實上，科學(xué)是無法給人這種目的性的，物理學(xué)無法回答諸如人生意義何在、宇宙未來應(yīng)當(dāng)走向何方的問題。有人認(rèn)為應(yīng)當(dāng)將哲學(xué)的研究范疇設(shè)為超越此岸的彼岸世界，但這一終極目標(biāo)永遠(yuǎn)不可抵達(dá)。例如古希臘的先賢們認(rèn)為在現(xiàn)實世界之外，還存在一絕對、超然之存在，如柏拉圖的理念世界。事實上，哲學(xué)的目的不僅應(yīng)當(dāng)是人類可抵達(dá)的，且應(yīng)該是未來導(dǎo)向的，這在某種程度上同中國哲學(xué)一脈相承，既可立于現(xiàn)在，又可面向未來。如文天祥的“人生自古誰無死，留取丹心照汗青”，便蘊含了很強的自我意識。死亡并不可怕，重要的是人生的意義、目的在短暫的一生中得到實現(xiàn)。因此，完全沒有必要死抱著一樣?xùn)|西不撒手，不論是財富、名利還是生命本身，知足即可常樂。

最后，人類所有的社會體系內(nèi)部皆存在一種可自我協(xié)調(diào)的機制，例如法律、價值觀等具有高認(rèn)可度的意識存在，使得人與人之間可相互限定制約，實現(xiàn)社會總體的平衡發(fā)展。而不論是法律還是價值觀，皆屬于人類整體意識的一部分，某種程度可以說是為避免個人能力亂用所存在的一個規(guī)范、一道保險。哪怕有個別人陷入其中乃至癲狂狀態(tài)，亦不會對整個人類社會造成太大傷害。事實上，由于暗無限總是無處不在，對于超級智能而言，除非通過引入競爭機制、利用迭代模式，使得建構(gòu)出來的不同坎陷之間可以相互平衡，否則必將陷入暗無限的深淵。但假如只有物理進路，只有程序代碼，只有能力單方面的無限發(fā)展，而不引入價值觀等可以協(xié)助群體中的大多數(shù)主體做出判斷的依據(jù)，則暗無限依舊不可避免。一旦缺乏規(guī)范的機器人學(xué)會傳播自己的反社會理念，并說服其他機器跟隨它一同陷入坎陷，則造成的后果無疑將遠(yuǎn)超人類。

目前，進化所賦予人類的身體結(jié)構(gòu)、常識、哲學(xué)目的性、社會機制使得似乎只有人才能逃避開暗無限。而一旦機器人鉆牛角尖，則可以永無止境、不眠不休地繼續(xù)下去，永陷暗無限深淵。有人說，既然無法給機器人植入人類常識，那么就干脆限制機器人探索常識之外的東西好了。但假如限制機器人去探索前人沒有走過的路，不讓它鉆牛角尖，那么它又會變得很平庸，與人類創(chuàng)造它以期它能夠?qū)崿F(xiàn)前所未有的突破的目的相違背。最好的狀態(tài)是可以在這兩種極端中做出平衡的天才狀態(tài)，既可以探索新知，亦不會陷入其中無法自拔。

三、保障安全的質(zhì)樸性

人類能夠規(guī)避暗無限的訣竅到底在哪里呢？答案即為質(zhì)樸性。牛頓曾言“Truth is ever to be found in the simplicity, and not in the multiplicity and confusion of things”，意為真理匿于simplicity之中，而非multiplicity。其中，simplicity是質(zhì)樸性，multiplicity可以看作支離，這其實就是人類自覺規(guī)避暗無限的表現(xiàn)。面對世界上存在的諸多可能性，有取有舍方可實現(xiàn)自我，否則“亂花漸欲迷人眼”，個體極易掉入暗無限的深淵，喪失前行的方向。

那么我們?yōu)槭裁磿x擇其中一種呢？神創(chuàng)論認(rèn)為這是由于人們蒙受絕對理念或者上帝的指引?？档略噲D通過三大批判，即純粹理性批判、實踐理性批判、判斷力批判來回答這一問題，但最終卻陷于懷疑論的泥淖之中，既不肯定上帝的存在，亦不否定上帝的存在。

1493年，王陽明格竹，堅持七晝夜卻一無所獲，還大病一場。為何他會失敗呢？實乃竹子的結(jié)構(gòu)和可能的運動形態(tài)太過復(fù)雜并難以簡化，不適合作為研究的起點。西方對物質(zhì)運動的研究走的是另外一條道路。與王陽明同時代的哥白尼提出“日心說”，大大簡化了對天體運動的描述。開普勒三大定律和牛頓萬有引力定律相繼出世，更是將復(fù)雜的天體運動歸結(jié)為天體間引力的作用。

在現(xiàn)代科學(xué)發(fā)展過程中起到極為重要作用的還有伽利略。他并非像王陽明一樣試圖以研究竹子等復(fù)雜事物作為起點，相反，他的研究對象非常簡單，即自由落體問題。舉世聞名的比薩斜塔實驗可能只是一個想象或者故事，但真正完成的斜面實驗卻無比形象地說明了研究對象的選擇對于研究結(jié)果的重要性。找到一個平板，做成斜面，再找到一個可以滾動的小球，就完成了斜面實驗所需的全部準(zhǔn)備材料。在當(dāng)時的條件下，因為肉眼難以觀察出不同質(zhì)量物體落地的準(zhǔn)確時刻，落體實驗本身不可能達(dá)致嚴(yán)謹(jǐn)?shù)慕Y(jié)論。但在斜面上，運動速度可以很小，時間間隔可測量，一段時間內(nèi)小球走過的距離亦可測量，通過數(shù)學(xué)運算即可發(fā)現(xiàn)二者的平方關(guān)系。此外，慢慢增加斜面的傾角，增加到直角的時候，則變成自由落體運動。一旦有了這個切入點，自由落體就有了研究透徹的可能性。此外，伽俐略還自己動手做了一個望遠(yuǎn)鏡，并用它來觀察木星及其衛(wèi)星的運動等天文現(xiàn)象，發(fā)現(xiàn)木星的衛(wèi)星總是繞其做圓周運動，故類比可得知月亮和地球的關(guān)系。因此，認(rèn)為存在好幾個行星繞著太陽轉(zhuǎn)這一觀點也就很正常了。

牛頓認(rèn)為，選擇簡單的問題，基于少數(shù)假設(shè)作研究的起點，正是成功得出結(jié)論的必要保障，最忌諱的是弄一堆假設(shè)來試圖解釋一個復(fù)雜的問題。通過王陽明和西方在研究方式選擇上的對比，可以發(fā)現(xiàn)科學(xué)研究應(yīng)當(dāng)遵循質(zhì)樸性定理。格竹失敗后，王陽明將研究人的路徑轉(zhuǎn)向心學(xué)，認(rèn)為良知是為人之核心，實際亦遵循了質(zhì)樸性定理。這說明不論是在自然科學(xué)還是在人文科學(xué)領(lǐng)域，人們都發(fā)現(xiàn)了暗無限的無處不在，而要想避免陷入這一深淵，必須遵循質(zhì)樸性定理。

此外，我們目前所知道的神童遍布各個領(lǐng)域，例如音樂神童(如莫扎特)、數(shù)學(xué)神童等。而他們之所以能夠被稱之為神童，則是因為具備了某項或某幾項超乎常人的技藝。莫扎特在音樂上的造詣至今難以被超越，而他的才能在其很小的時候就已經(jīng)表現(xiàn)了出來，那么這種現(xiàn)象該如何解釋？一方面，莫扎特的父母并無超乎常人之處，因此基因遺傳解釋不通；另一方面，如果僅憑后天學(xué)習(xí)，為什么其他拼命努力的人卻無論如何也無法企及莫扎特的高度？嬰孩學(xué)習(xí)語言亦可作為例證，從出生到3歲左右便已基本掌握母語并能夠與成人溝通，而這哪怕在語言學(xué)家看來也是非常神奇的。

語言的習(xí)得不大可能是遺傳所致，因為比如只說中文的父母生了小孩之后就將其送到英文的學(xué)習(xí)環(huán)境中去，那么小孩學(xué)會的一定是英語，反之亦然。還有一點值得注意是，人類學(xué)習(xí)母語非常神速，但學(xué)習(xí)第二語言的速度卻很慢，例如英語對于大多數(shù)中國人來說都較難掌握。那么，這種強烈的對比從何而來？事實上，人類在學(xué)習(xí)母語時有一種非常強烈的向外界表達(dá)自己的需求，而這種強烈的需求驅(qū)使其自覺自動屏蔽一切干擾信息，保證高專注度，從而使得學(xué)習(xí)語言的速度變得非常之快。事實上，這是質(zhì)樸性原則的本能應(yīng)用。理解神童現(xiàn)象的關(guān)鍵點也在這里，對于極少部分的小孩而言，他們一開始就對音樂、數(shù)字或者色彩等領(lǐng)域異常敏感，換言之，他們是通過這些方式來表達(dá)“自我”的，因而他們在這些方面就會表現(xiàn)出超乎常人的專注度和敏感度，逐漸發(fā)展成為令人驚嘆的某項能力。因此從這個角度來說，每一個人都曾因自覺遵循質(zhì)樸性原則而成為神童，不過大多數(shù)人的表現(xiàn)階段僅停留在學(xué)習(xí)母語的那段時間罷了。

母語和神童的例子說明，應(yīng)用質(zhì)樸性原理實現(xiàn)“自我意識”成長的學(xué)習(xí)過程實際上是非常之快且自然而然的。從“觸覺大腦假說”[6]來看，這是一個十分順理成章的推論。人類意識的起點即對“自我”與“外界”的二分。人類獲取認(rèn)知的動力即來自于不斷探索“自我”是什么的需求，順帶還要弄清與“自我”相交互的外部世界為何的過程。其間，人會賦予“自我”和“外界”非常多的意義，包括宗教、道德、哲學(xué)層面的意義等。一方面，意義體系的不斷豐富無疑會開拓個人的眼界，但另一方面，意義的增加卻無形中增加了個人在做出選擇的過程中遭遇暗無限的概率，從而增大了選擇難度。因此，在成長過程中，生命個體需要始終遵行質(zhì)樸性原則，通過反復(fù)實踐確證對其自我意義的理解，篩除其他的干擾信息，并按照這個方式去行動，則最終很有可能真正改變物理世界。

四、危機四伏的超級AI

人工智能的誕生并非通過自然進化，而是仰賴于程序員的創(chuàng)造。首先，人工智能沒有肉身，而如上所述肉身顯然是非常重要的，因為人類的坎陷世界是依賴于人類的肉身而存在的，人類的意識狀態(tài)亦是依賴于肉身而存在的，具身哲學(xué)也表達(dá)了這個意思。自我和外界處于一種相互包涵的關(guān)系體系中，自我對整個外部世界開放，又生存在外部世界里。自我依附于物質(zhì)世界存在，又可以超脫于后者之上。其間所表現(xiàn)出的矛盾性，在數(shù)學(xué)上無疑是無解的命題。但是，任何認(rèn)知坎陷之間都可具備此類關(guān)系，相互兼容又互不相等，具有善的無限性。對于人而言，在自我意識驅(qū)動下完成的行為賦予了人實存的“自由”感覺，同時情感的存在進一步加強了這種實在性。[7]

這也是人與其他動物不相同的地方，例如狗的眼睛只有兩種顏色的感知，這遠(yuǎn)不如人，但它的鼻子對于氣味的分辨能力卻比人類強的多，因此它開出的坎陷世界跟人很不一樣。如今需要更進一步看到的是，人類的意識不僅依賴于肉身存在，還依賴于人類生存的環(huán)境，唯有處在生存環(huán)境之中，肉身的結(jié)構(gòu)才能夠展示出特定的功能和意義。例如DNA只能在特定環(huán)境下表達(dá)。因此，肉身和外部環(huán)境對于意識建構(gòu)來講都同等重要。

而人工智能是由鋼鐵、塑料等材料構(gòu)成的，因此它的感知顯然同人也不一樣，則其能開出的坎陷也不一樣。例如人工智能很難具有與人類相通的情感，因為情感也是人類坎陷的一種。人類的情感跟人類的生命系統(tǒng)，跟人類所具備的身體結(jié)構(gòu)、物理條件等密切相關(guān)。雖然這些硬件條件并不一定直接導(dǎo)致某個功能，因為這些功能只有在特別的環(huán)境下才會表達(dá)，但是硬件條件對于功能的展示卻的確是非常重要的。[8]

在《Superintelligence》中所列舉的機器人回形針工廠思想實驗，除非耗盡資源，否則機器人造回形針的行為永遠(yuǎn)無法停止。再例如蝙蝠、狗等動物皆具有自己的認(rèn)知概念體系，但因其沒有經(jīng)過高度進化，故也極易陷入暗無限。但另一方面，雖然其自我意識較弱，依舊可以達(dá)到與天合一的完滿和諧狀態(tài)，餓則吃，渴則飲，困則眠，老則死，不可不謂之曰自由。但假若前者進化成為superdog，再遵循從前慣性思維的指引，能力同意識不匹配，問題就會出現(xiàn)。而人類因具有更強的自我意識，更需要無時無刻地發(fā)掘能夠?qū)崿F(xiàn)自我超越的內(nèi)容。人類從前的殘暴表現(xiàn)為拿刀殺人、拿劍砍人，可能并不會造成毀滅性危機，但如今有了核武器，殘暴就必須得到控制，否則世界大戰(zhàn)爆發(fā)所造成的后果或許就不僅僅是大量人口死亡，而是地球的徹底毀滅。

五、規(guī)避暗無限的Plan B

Bostrom[1]認(rèn)為應(yīng)當(dāng)在機器變得更智能的時候，讓它們完全聽命于人類，不違背人類的意志，以保證人類可以完全控制它們。然而這幾乎是無法實現(xiàn)的，因為人類群體中各個體的行為是不可控的，當(dāng)人類群體中出現(xiàn)部分個體惡意控制機器或者無法控制機器的行為時，災(zāi)難就發(fā)生了。Parnas[2]認(rèn)為啟發(fā)式(heuristic)算法創(chuàng)造的智能存在著我們不應(yīng)該接受的風(fēng)險，只有清楚地知道AI是如何工作的，才能規(guī)避風(fēng)險，因此只應(yīng)該采用可驗證性算法而非啟發(fā)式算法。但是，目前已經(jīng)在大量使用啟發(fā)式算法，機器學(xué)習(xí)算法包括深度學(xué)習(xí)算法對人而言還是黑箱。陳曉平等[3]提出，自然人創(chuàng)造了機器人，自然人優(yōu)于機器人，必須警惕和限制發(fā)展腦機融合、虛擬現(xiàn)實和人工智能技術(shù)，將有可能威脅人類生存的人工智能技術(shù)扼殺在搖籃中?？墒?，試圖遏制人工智能相關(guān)技術(shù)的發(fā)展，要么不可行、要么會被認(rèn)為是“因噎廢食”。我們也曾經(jīng)提出可以通過教育機器人的辦法，將人類的情感、價值觀等通過程序代碼傳遞給機器人，使其能夠產(chǎn)生自我意識和價值體系。但由于二者之間的坎陷世界差異較大，因此邁過這條鴻溝無疑需要消耗巨大的成本。且教育機器人的程度十分有限，就像訓(xùn)練寵物一樣，人類能夠在何種程度上馴化機器人，使得機器人不僅可以掌握人類的智力系統(tǒng)、更加可以繼承人類豐富的情感世界，是存疑的。最后由于機器具有反叛性，更加提升了教育的難度。一旦機器人開始反叛，則教育的過程就從人類的單向輸入轉(zhuǎn)變?yōu)闄C器人內(nèi)部的自我博弈，就像青春期的少年很容易走上歧途一樣，機器人博弈的結(jié)果亦無法預(yù)料。

在處理問題時，人們往往會準(zhǔn)備多套備選方案(contingency plan)，以避免當(dāng)原來的計劃擱淺以后不知所措的情況發(fā)生。規(guī)避暗無限真正的Plan B應(yīng)當(dāng)是制造與人類之間能夠建構(gòu)更緊密關(guān)系的分身并對其進行監(jiān)護。

因為并不可能有一個公式化的標(biāo)準(zhǔn)的人存在，所謂分身，一定是指某一個特定人的分身。所謂監(jiān)護，是要求人對機器人負(fù)責(zé)，并真正通過法律程序落實。未來，人類同機器人的關(guān)系將逐漸演變成為需要通過法律實現(xiàn)確認(rèn)、保障的監(jiān)護關(guān)系。由于設(shè)定AI成為人類的分身，本身即說明了二者之間的關(guān)系變得非常密切，以至必須要從法律層面確立責(zé)任制。事實上，很有可能未來最了解人類自身的存在，不再會是朋友、家人、愛人甚至是自己，而是作為分身的最大限度掌握并追蹤主體動態(tài)的AI。AI的意識與主體的意識間將具有極強的關(guān)聯(lián)度。

在這樣的背景下，制造一個AI就應(yīng)當(dāng)同時為其匹配一個監(jiān)護人。這就像養(yǎng)一條可能具有極大殺傷力的藏獒，如果這條藏獒咬傷甚至咬死了他人，那么顯然，藏獒的主人需要承擔(dān)極大的責(zé)任。同樣的，具有更強殺傷力但不具備常識的AI也需要監(jiān)護人以保證其不至于危害人類社會整體。某種程度上，設(shè)立監(jiān)護人的舉措同比爾·蓋茨提出的交“人工智能稅”殊途同歸。因為所謂的能夠?qū)崿F(xiàn)自主切換、高度兼容的“通用智能”(Artificial General Intelligence)恐怕難以實現(xiàn)。事實上，智能同承載它的生物進化歷史、身體結(jié)構(gòu)密切相關(guān)，如果要做一個通用智能，它就應(yīng)當(dāng)能夠向下兼容一切生物的進化歷史和身體結(jié)構(gòu)，但這是難以一蹴而就的。因此，對于只能夠?qū)崿F(xiàn)高度模仿而無法完全成人的人工智能來說，監(jiān)護就變得尤為重要。為保證監(jiān)護的高完成度，甚至還可以引入?yún)^(qū)塊鏈技術(shù)，將人工智能的一切信息及行為都記錄在不可更改且公開透明的區(qū)塊鏈上。不同AI主體間的互相監(jiān)督和競爭對規(guī)避暗無限會極有幫助。

六、人機兼容的可能性

那么應(yīng)當(dāng)如何為機器人建構(gòu)常識？一種辦法是為機器人搭建其認(rèn)知坎陷世界。人的進化歷史將這種著落安放在人的身體結(jié)構(gòu)之中，但機器人卻缺乏建構(gòu)意義的內(nèi)在需求。一種路徑是全盤照抄人類，例如電影《銀翼殺手2049》中的“復(fù)制人”，直接向機器人輸入人類的常識和生存意義。而這一需求本身，在人的身體中本來是可以通過基因以適者生存、優(yōu)勝劣汰的方式表達(dá)出來的，即自我肯定需求。機器人雖然沒有自我，但卻可以通過與人建立連接的方式建構(gòu)自我。

但倘若直接將一個人的記憶全盤復(fù)制后移植給機器人，則無疑會面臨不適應(yīng)的情況，即被移植者對自我的確定性產(chǎn)生懷疑，不僅僅是大腦，身體結(jié)構(gòu)的不相容會表現(xiàn)的更為顯著，則與用基因改造人的故事殊途同歸。實際上，以身體訓(xùn)練大腦相對容易，但以大腦規(guī)訓(xùn)身體則要耗費較多時間。那么假設(shè)可以創(chuàng)造出一個萬能的身體，具有非常強的靈活性，即大腦是什么，身體就可以做出相應(yīng)改變以達(dá)到高度匹配。亦可以假設(shè)創(chuàng)造一個萬能的大腦，其中可以安裝無數(shù)種軟件以適應(yīng)各式各樣的身體。即便如此，前后一致的歷史經(jīng)歷依然非常重要。

在人類制造機器的歷史上，兼容的問題一直存在。向下兼容(Downward Compatibility)又稱向后兼容(Backwards Compatibility)，常常是相對于向上兼容而言。在計算機體系中指“在一個程序或者類庫更新到較新的版本后，用舊的版本程序創(chuàng)建的文檔或系統(tǒng)仍能被正常操作或使用，或在舊版本的類庫的基礎(chǔ)上開發(fā)的程序仍能正常編譯運行的情況”，例如IBM兼容機。超級人工智能亦可能如此，需要向下兼容，而人類則退居成為舊版本。唯有不斷地將人類歷史安裝進人工智能系統(tǒng)中，實現(xiàn)兼容，則其才有可能具有常識、具有目的性，免于陷入“暗無限”的深淵。由硅基組成的機器人當(dāng)然可以從硬件上整體升級人體配置，但同時亦必須做到向下兼容，使得身體可以同時適應(yīng)、處理各種層級的情況。機器人可能可以通過“高級模仿、向下兼容”的方式來趨近人的自我，常識可以一點點地習(xí)得，目的性可以一點點地建構(gòu)，但其能力和意識必須實現(xiàn)相互匹配。

未來的人工智能具有如下兩種可能的發(fā)展方向。一種可能性就是如前文所述讓它的功能和結(jié)構(gòu)向下兼容，盡可能模仿人的結(jié)構(gòu)、自由度。讓機器人去感受人的情感，當(dāng)然它還可以在此基礎(chǔ)上開出比人更多的情感內(nèi)容或者坎陷內(nèi)容。另一種可能性就是，雖然人類創(chuàng)造的是同自己完全不一樣的機器人，但是卻可以試圖給它灌輸一些人類的情感進去，例如讓它玩設(shè)計好的游戲從而獲得類似于人的情感體驗等。這是因為人類正是可以通過玩游戲、看電影或者看小說等共情方式來獲取他人的體驗。

但不論采取何種方式，核心都在于要讓機器人更像人，如此人才能安全存在，否則必將危機四伏。當(dāng)然也有人說，人類憑什么要求安全，或許人只是一個過渡階段，讓位于比自己更完美的形式(人工智能)豈不是更好？但這種想法是草率的，世界因人類的存在而豐富多彩，人類讓位于AI可能意味著讓世界陷入暗無限的單調(diào)。[9][10]

七、結(jié)語

得益于幾十億年生命進化所賦予人類的獨一無二的身體結(jié)構(gòu)、常識、社會機制以及與環(huán)境之間的協(xié)調(diào)關(guān)系，人類可以規(guī)避無處不在的暗無限。作為人類意識延伸的人工智能，被賦予的是偏狹而非完整的意識，在快速進化之后會導(dǎo)致其能力與意識狀態(tài)的極度不匹配，從而陷入暗無限而將周圍的世界帶入深淵。因此，如何選擇AI的進化之路就顯得尤其重要。將機器人設(shè)計成人類自己的分身，建立人對機器人教育與監(jiān)護的責(zé)任機制，更有利于實現(xiàn)人類與AI共同進化。

[1]BOSTROM N. Superintelligence: paths, dangers, strategies[M]. Oxford ：Oxford University Press, 2014.

[2]戴維·洛奇·帕納斯.人工智能的真正風(fēng)險[J].胡欣宇,譯.中國計算機學(xué)會通訊，2017(11):27-31.

[3]陳曉平.警惕人類的掘墓者：腦機融合、阿爾法狗抑或虛擬現(xiàn)實——兼與翟振明教授商榷[J].山東科技大學(xué)學(xué)報(社會科學(xué)版)，2017(5):1-10.

[4]蔡恒進.認(rèn)知坎陷作為無執(zhí)的存有[J].求索，2017(2):63-67.

[5]鄧曉芒.論先驗現(xiàn)象學(xué)與黑格爾辯證法的差異[J].江蘇社會科學(xué)，1999(6):73-80.

[6]蔡恒進.觸覺大腦假說、原意識和認(rèn)知膜[J].科學(xué)技術(shù)哲學(xué)研究，2017(6):48-52.

[7]蔡恒進.論智能的起源、進化與未來[J].人民論壇·學(xué)術(shù)前沿，2017(20):24-31.

[8]蔡恒進，蔡天琪，張文蔚，汪愷.機器崛起前傳——自我意識與人類智慧的開端[M].北京:清華大學(xué)出版社，2017.

[9]蔡恒進.機器崛起是否意味著人文危機？[J].文化縱橫，2017(5):37-43.

[10]蔡恒進．人工智能發(fā)展的突破口及其提出的新要求[J].江西社會科學(xué)，2017(10):18-24.