人工智能與自然愚蠢

尤瓦爾·赫拉利

一個(gè)好消息是，至少在未來(lái)幾十年里，我們不用擔(dān)心科幻小說(shuō)里那種人工智能產(chǎn)生意識(shí)、殺光或奴役人類的噩夢(mèng)會(huì)變成現(xiàn)實(shí)。我們會(huì)越來(lái)越依賴算法為我們做決定，但算法并不太可能開始有意識(shí)地操縱人類。事實(shí)上，它們不會(huì)有任何意識(shí)。

科幻小說(shuō)常把智能與意識(shí)混為一談，并認(rèn)為如果要有與人類相當(dāng)甚至更高的智能，計(jì)算機(jī)就必須發(fā)展出意識(shí)。幾乎所有關(guān)于人工智能的電影和小說(shuō)，基本情節(jié)都圍繞著計(jì)算機(jī)或機(jī)器人產(chǎn)生意識(shí)的那個(gè)神奇時(shí)刻。而一旦它們有了意識(shí)，不是人類主角愛(ài)上機(jī)器人，就是機(jī)器人打算殺光所有人類，或者二者兼而有之。

但實(shí)際上，我們并沒(méi)有理由相信人工智能會(huì)獲得意識(shí)，因?yàn)橹悄芎鸵庾R(shí)是天差地別的兩種概念。智能是解決問(wèn)題的能力，意識(shí)則是能夠感受痛苦、喜悅、愛(ài)和憤怒等情緒的能力。我們之所以會(huì)二者不分，是因?yàn)閷?duì)于人類和其他哺乳動(dòng)物來(lái)說(shuō)，智能與意識(shí)會(huì)攜手同行。哺乳動(dòng)物處理大多數(shù)問(wèn)題時(shí)靠的是“感覺(jué)”，但計(jì)算機(jī)是用完全不同的方式來(lái)解決問(wèn)題的。

提高智能的路其實(shí)有好幾條，其中只有一條需要靠意識(shí)。就像飛機(jī)不用羽毛，但飛行速度比鳥更快；計(jì)算機(jī)也不用具備哺乳動(dòng)物所需要的感受，就更擅長(zhǎng)解決問(wèn)題。確實(shí)，人工智能必須準(zhǔn)確分析人類的感受，才能好好替人類治病、找出人類的恐怖分子、為人類推薦另一半、在滿是行人的街道上行車，但是這一切并不需要它自己有任何感覺(jué)。算法只需要學(xué)會(huì)辨別猿類在快樂(lè)、憤怒或恐懼下的生化模式，而不需要它自己感受到快樂(lè)、憤怒或恐懼。

當(dāng)然，人工智能并不是絕對(duì)不可能發(fā)展出感受。我們目前對(duì)意識(shí)的了解還不足以下定論，大致而言，需要考慮3種可能：

1.意識(shí)在某種程度上與有機(jī)生化相關(guān)，因此只要是非有機(jī)體的系統(tǒng)，就不可能創(chuàng)造出意識(shí)；

2.意識(shí)與有機(jī)生化無(wú)關(guān)，而與智能有關(guān)。這樣一來(lái)，計(jì)算機(jī)就能夠發(fā)展出意識(shí)，而且如果計(jì)算機(jī)要跨過(guò)某種智能門檻，就必須發(fā)展出意識(shí)；

3.意識(shí)與有機(jī)生化或高智能并無(wú)重要關(guān)聯(lián)。這樣一來(lái)，計(jì)算機(jī)確實(shí)可能發(fā)展出意識(shí)，但并非絕對(duì)。計(jì)算機(jī)有可能具備極高的智能，但同時(shí)仍然完全不具有意識(shí)。

就目前人類掌握的知識(shí)來(lái)看，這些可能都無(wú)法排除。然而，正因?yàn)槲覀儗?duì)意識(shí)所知太少，短時(shí)間內(nèi)似乎并不可能設(shè)計(jì)出有意識(shí)的計(jì)算機(jī)。因此，雖然人工智能具有巨大的力量，但在可預(yù)見(jiàn)的未來(lái)，人工智能的運(yùn)用在一定程度上還是以人類的意識(shí)為準(zhǔn)。

真正的危險(xiǎn)之處在于，如果我們太注重發(fā)展人工智能而又太不注意發(fā)展人類的意識(shí)，那么計(jì)算機(jī)有了極先進(jìn)的人工智能之后，可能只會(huì)增強(qiáng)人類的“自然愚蠢”。在未來(lái)幾十年內(nèi)，我們不太可能碰到機(jī)器人叛亂的問(wèn)題，但機(jī)器人可能會(huì)比你的父母更知道怎樣可以觸動(dòng)你的情緒，并且會(huì)運(yùn)用這種神奇的能力來(lái)對(duì)你進(jìn)行推銷，讓你想買某輛車、想把選票投給某個(gè)人，或是想接受某種意識(shí)形態(tài)。這些機(jī)器人能夠找出我們最深層的恐懼、仇恨和渴望，再用它們來(lái)對(duì)付我們。從最近全球的選舉和公投就可以預(yù)見(jiàn)未來(lái)：黑客通過(guò)分析選民數(shù)據(jù)，運(yùn)用選民現(xiàn)有的偏見(jiàn)，就能知道怎樣操縱單個(gè)選民?？苹皿@悚片常常上演的是烈火濃煙、轟轟烈烈的末日景象，但實(shí)際上，末日景象可能是在一次又一次的點(diǎn)擊當(dāng)中悄悄而且平凡地來(lái)臨。

想避免這種后果，每投入一美元、一分鐘來(lái)提升人工智能，就應(yīng)該同樣投入一美元、一分鐘來(lái)提升人類意識(shí)。但很遺憾，目前對(duì)于人類意識(shí)的研究和開發(fā)并不多。我們對(duì)于人類能力的研發(fā)，主要都是為了滿足目前經(jīng)濟(jì)和政治體制下的迫切需求，而不是為了讓人類在很久之后仍然是一種保有意識(shí)的生物。上司希望我回復(fù)電子郵件越快越好，但他對(duì)我品嘗和欣賞食物的能力毫無(wú)興趣。結(jié)果就是我連吃飯的時(shí)候都在收電子郵件，也就慢慢失去了重視自己感官感受的能力。整個(gè)經(jīng)濟(jì)體系逼著我要擴(kuò)大投資組合，讓投資更多元，但完全沒(méi)讓我有動(dòng)機(jī)去擴(kuò)大同理心，讓我的同理心更多元。于是，我投入大量心力想了解證券交易的種種奧秘，但幾乎不花什么心思來(lái)了解痛苦背后深層成因是什么。

在此，人類就像其他經(jīng)過(guò)馴化的家畜。例如我們培育的奶牛，性情溫順、乳量驚人，但在其他方面遠(yuǎn)遠(yuǎn)不及其野生祖先，沒(méi)那么靈活，沒(méi)那么好奇，也沒(méi)那么懂得變通。我們現(xiàn)在也正在培育一種馴化的人類，產(chǎn)生的數(shù)據(jù)量驚人，而且能夠像海量數(shù)據(jù)處理裝置中的高效芯片一樣運(yùn)轉(zhuǎn)，然而這些“數(shù)據(jù)?！苯^對(duì)稱不上發(fā)揮了人類的最大潛能。事實(shí)上，因?yàn)槲覀冞€太不了解人類的心智，根本無(wú)從得知人類的最大潛能是什么模樣。然而，我們幾乎沒(méi)有投入什么心力來(lái)探索人類的心智，只一心想著提升網(wǎng)絡(luò)連接的速度及大數(shù)據(jù)算法的效率。如果再不注意，最后的局面就會(huì)是退化的人類濫用進(jìn)化的計(jì)算機(jī)，傷害自己，也傷害世界。

未來(lái)的危險(xiǎn)還不止數(shù)字獨(dú)裁一項(xiàng)。自由主義秩序背后的價(jià)值觀除了自由之外，也很重視平等。自由主義一直強(qiáng)調(diào)政治上的平等，也慢慢發(fā)現(xiàn)經(jīng)濟(jì)上的平等幾乎同樣重要。如果沒(méi)有社會(huì)安全網(wǎng)的機(jī)制與一定的經(jīng)濟(jì)平等，自由就毫無(wú)意義。然而，正因?yàn)榇髷?shù)據(jù)算法可能會(huì)抹去自由，同時(shí)也就可能創(chuàng)造出歷史上最不平等的社會(huì)，讓所有的財(cái)富和權(quán)力集中在一小群社會(huì)精英手中。大多數(shù)人類的痛苦將不再是受到剝削，而是面對(duì)更糟的局面：再也無(wú)足輕重。