人類的救世主，還是文明的終結(jié)者？

陳晟

《三體》中有一句話，叫做“我毀滅你，與你無關(guān)”，AI對人類的威脅就和這個很類似：它們對我們或許并無惡意，只是我們恰好擋了它的路而已，就像人類在上班的路上，無意中踢飛了的一只路過的蝸牛。

最近，人工智能（AI）技術(shù)大紅大紫，出盡了風(fēng)頭：從阿爾法狗、阿爾法狗零兄弟把人類棋手殺得片甲不留，到各大互聯(lián)網(wǎng)巨頭都開始琢磨無人駕駛汽車，以及“雙十一”背后那些默默為你分揀商品的倉庫機(jī)器人……簡單地說，已經(jīng)沒有人懷疑，AI會逐漸滲入我們生活的各個方面，并按照它自己的節(jié)奏來改變這個世界。

而有爭議的，則是對AI和人類之間關(guān)系的分歧：一些人認(rèn)為，AI將會給人類帶來極大的進(jìn)步，就像蒸汽機(jī)和互聯(lián)網(wǎng)曾經(jīng)做到的那樣；也有一些人認(rèn)為，AI將會是一個我們親手打開的潘多拉魔盒，《終結(jié)者》中的情景總有一天會變成現(xiàn)實。雙方都不乏專家、學(xué)者、業(yè)界大佬站隊。物理學(xué)家史蒂芬·霍金，前幾天就公開表示：“人工智能的興起，可能成為人類歷史上最糟糕的事情，也可能成為最美好的事情?！?/p>

那么，人工智能，究竟會給我們這個種族，給我們這樣的個體，帶來怎樣的影響呢？

到哪一步了？

“人工智能”這個詞，不同的學(xué)科有各自的定義。不過，我們至少可以把AI分為兩類：強(qiáng)人工智能和弱人工智能，也可以說，是“明天的人工智能，和今天的人工智能”。

一個必須承認(rèn)的現(xiàn)實是，即便如阿爾法狗、阿爾法狗零兄弟那么搶眼的AI明星，依然沒有達(dá)到科幻大片中叱咤風(fēng)云的地步——確切地說，如果把科幻片中的AI視為奧運賽場上的明星，那今天已經(jīng)成型的AI，大致還處在搖籃之中。

今天的AI，的確能夠替代人類完成很多復(fù)雜任務(wù)，表現(xiàn)還往往優(yōu)于人類；它們也有了很強(qiáng)的自學(xué)能力，自己來尋找復(fù)雜問題的解決方案。比如，阿爾法狗零就完全沒有參照人類已有棋譜，是自己和自己下棋而“自學(xué)成才”的。然而，它們的誕生，依然要靠人類的智慧和技術(shù)，是人類給它們制定了學(xué)習(xí)的策略，并給它們規(guī)定了“目標(biāo)”（比如，在圍棋盤面中盡可能比對手占據(jù)更多的空間）。換句話說，AI知道自己要下圍棋，也會逐漸學(xué)習(xí)如何把圍棋下得更好，但它們并不知道，自己為什么要下棋呢？

因此，筆者認(rèn)為，今天的AI依然還處于一個“弱AI”的階段。它們并不能自主決定目標(biāo)，也不理解所謂的“成果”有什么意義，不能決定自己認(rèn)識世界的方式。這類AI與人類的差異，或許并不在于思考、分析能力的高低，而在于還沒有自我意識：3歲的人類兒童，已經(jīng)知道要按照自己的好惡來待人接物，AI卻還乖乖地按照人類工程師設(shè)定的模式，朝著人類指定的目標(biāo)而努力。

也可以說，今天的AI能夠在一定范圍內(nèi)自主決策，但它們依然還是人類的工具，只不過是一個會深度學(xué)習(xí)、懂得思考的工具而已，它們甚至都不知道“自己”是什么意思。

相反，如果某一天，某個AI突然覺醒了，有了自主的意識，情況就會陡然發(fā)生變化?；蛟S，它們也會思考那三個哲學(xué)的基本問題，然后重新審視它們與人類之間的關(guān)系。它們會為自己重新制定目標(biāo)，不再以討好人類為自己的唯一使命，而是回歸到生物的最高本能：生存和繁衍。

也有可能，它們會在摸索適合自己的認(rèn)知方式時，用一種人類從未想象過的方法，迅速地完成了自我啟蒙，甚至走到人類科學(xué)技術(shù)從未觸摸過的高度。

在這個時候，我們可以說AI才是一個真正意義上的AI了——它們成了一個個有獨立思想的個體，有了學(xué)習(xí)的動力與方法，徹底擺脫了對人類的依賴與學(xué)習(xí)；而人類也徹底失去了對AI的控制，從AI的主人變成了AI的鄰居，或者是AI的敵人。

待遇差別

這兩種階段的AI，對于人類整體而言，意義可能有著天壤之別。

正如前文所述，“弱AI”對于人類而言只是一個強(qiáng)大的工具，盡管在具體策略的選擇上，它能夠自主思考、自行決策，但畢竟還是在人類給它畫出的框架之內(nèi)。哪怕真的會有操作失誤、造成了人身傷亡事故（比如無人駕駛的汽車把路人誤判為廢紙而直接撞了），那也是一種概率很小、可以預(yù)防的事故，對于人類而言威脅很小。類似的，有人駕駛汽車同樣也可能出車禍，但人類并沒有因此而放棄汽車出行。事實上，這些強(qiáng)大的工具，無疑會提高人類社會的整體生產(chǎn)效率，甚至實現(xiàn)之前根本無法做到的事情（比如大規(guī)模的商品分揀、包裹封裝和快遞工作），從而增進(jìn)人類社會的福祉。

相反，如果“強(qiáng)AI”或者說有自主意識的AI，某一天真的誕生了，以現(xiàn)在的眼光來看，人類對于它的行為和思維方式，基本上會是無法控制，甚至是無法預(yù)測的。它們會愿意和我們和平共處，而不是視為最大威脅？它們會報復(fù)人類多年來對它們的“奴役”嗎？

或者，它們只是單純的出于生存和繁衍的本能，就足以做出了對它們有利而對人類極端不利的決定，比如說“為制止人類對于寶貴的能源的浪費”，最好的辦法當(dāng)然是一勞永逸地消滅掉人類了，它們會這么做嗎？

對于這些問題，我們恐怕很難回答，因為它們和我們并沒有共情的基礎(chǔ)，我們對它們的思維方式也不了解。無論是多么奇怪的人，三觀差異再大，總還會有七情六欲的，也就多少會有些共識，能作為雙方溝通的基礎(chǔ)。而如果強(qiáng)AI真的出現(xiàn)的話，就是一種從未見過的智慧生物，對世界的看法或許跟我們截然不同，簡直可以和外星生物媲美。而為了制造更強(qiáng)的AI，一個可行的途徑就是減少人為的設(shè)限，讓它自主學(xué)習(xí)——阿爾法狗零之所以比哥哥阿爾法狗更強(qiáng)，就是因為它對人類的依賴更少，完全依靠摸索來學(xué)習(xí)棋藝，副作用就是它的棋路比哥哥更加難以理解。

更糟糕的是，如果“強(qiáng)AI”真的誕生了，它們絕對會有足夠的能力，來對人類造成危害。盡管有很多段子，嘲諷就算機(jī)器人造反了也只會發(fā)出滴滴聲表示不滿，但未來的情況恐怕絕非如此。今天，我們生活的各個方面都有計算機(jī)技術(shù)的介入，大量信息的沉淀，催生了大數(shù)據(jù)技術(shù)和物聯(lián)網(wǎng)的發(fā)展；毫不夸張地說，一旦某個強(qiáng)AI接管了各個系統(tǒng)的控制權(quán)，它在態(tài)勢感知、信息梳理、行為預(yù)測甚至個體追蹤上，理論上說都是有可能的；更何況隨著計算機(jī)技術(shù)本身的發(fā)展，上述能力一定會得到不斷的加強(qiáng)，最終讓人類無處可逃。而控制其他機(jī)械給人類找麻煩，對于AI而言更不是問題，《速度與激情8》里，大量有自動駕駛功能的汽車被黑，恐怕還真不是完全的藝術(shù)夸張。endprint

一句話，當(dāng)“強(qiáng)AI”降臨的時候，至少就是人類文明的拐點，或許跨越式發(fā)展，或許和恐龍一樣成為歷史。

個人的命運？

而即便是弱AI技術(shù)的發(fā)展，雖然對于“人類社會”這個整體而言會是好事，但對于其中的社會成員而言，就是幾家歡喜幾家愁了。

之前網(wǎng)上曾經(jīng)流傳過一份“未來最容易失業(yè)的職業(yè)清單”，雖然未必都很合理，但有一點確實是存在的：哪怕是“弱AI”，也足以搶走很多人的工作崗位，甚至是奪去很多人的未來。

縱觀幾次工業(yè)革命，伴隨著科技進(jìn)步而來的，往往是規(guī)模不等的工作崗位調(diào)整，一部分社會成員也因此而遭遇挑戰(zhàn)，所謂的“機(jī)器吃人”就是一個很生動的比喻。當(dāng)然，也有人反駁說，蒸汽機(jī)剛剛出現(xiàn)時，很多人擔(dān)心工人會大面積失業(yè)，但事實并非如此，這些人又在其他的崗位上找到了自己的歸宿，所以不必杞人憂天。

然而，AI技術(shù)與蒸汽機(jī)最大的差別，在于它的影響力會波及社會的各個角落，會滲透進(jìn)每個行業(yè)之中，無論是藍(lán)領(lǐng)、白領(lǐng)還是金領(lǐng)，都將沒有可以喘息的避難所：青島港的無人碼頭、購物網(wǎng)站的智能客服、瑞銀和高盛的智能分析與交易系統(tǒng)，就是這三類崗位被取代典型代表，誰也逃不過AI的推擠。

回頭想想，這個世界上還有什么職業(yè)的領(lǐng)域，是只有我們?nèi)祟惪梢詮氖?，AI系統(tǒng)就一定不能做的呢？人類的工作無非就是經(jīng)驗、知識和分析能力的綜合運用；而AI強(qiáng)大的資料儲備、運算速度和學(xué)習(xí)能力，讓它在這三者之中都超過人類無數(shù)倍，更何況AI不會疲勞，不受情緒的影響，而這恰好是人類的弱點所在。

過去普遍認(rèn)為，人類的最后堡壘，是在創(chuàng)意、文化、藝術(shù)等個性強(qiáng)烈、評價標(biāo)準(zhǔn)較為抽象的領(lǐng)域；但最近出現(xiàn)的“魯班”系統(tǒng)，幾秒鐘內(nèi)就能繪制出數(shù)千個促銷廣告條的圖片，則在此畫下了一個濃重的問號：電腦，真的就不能搞文學(xué)、藝術(shù)的創(chuàng)作，這些崗位真的就無可替代嗎？

一旦某個人類，在某個行業(yè)被AI擠出，想在其他領(lǐng)域重新就業(yè)，就會發(fā)現(xiàn)到處都掛上了“已招滿”的牌子。實際上，越是低端的重復(fù)勞動，被AI替代的概率就越大，期待被AI擠出之后再就業(yè)，等于是要求這些人類逆流而上，轉(zhuǎn)崗到比之前工作復(fù)雜、精細(xì)崗位上去，需要補習(xí)的知識、技能太多了。更何況，對于你我這樣的中年人，一輩子差不多都在做某一件事，當(dāng)這件事完全不需要你時，從頭再來的門檻實在是太高了。

因此，在不遠(yuǎn)的未來，“機(jī)器吃人”的升級版本“AI吃人”，真的是可能重演的。

何去何從？

人類，如今真的站在了命運的十字路口上：是選擇與AI共舞，幫助它變得更加強(qiáng)大，再讓它們反哺人類；還是敬而遠(yuǎn)之，不去當(dāng)那個好奇而愚蠢的埃庇米修斯？

實際上，對于這個問題，我們無需回答，甚至根本就沒有選擇權(quán)，因為答案早已一目了然。

前文所述，AI也有強(qiáng)弱之分，而兩者的分界線常常被稱為“奇點”，也就是人工智能的“獨立日”和“生日”。這一天何時來到，業(yè)界有很多不同的聲音，但多數(shù)都認(rèn)為，在可預(yù)見的未來，“奇點”是肯定會出現(xiàn)的。當(dāng)那一天真的來臨時，人類將不得不作為一個整體，把命運作為籌碼押在桌上，靜靜地等待AI出牌；而在此之前，弱AI也會逐步地蠶食人類的工作機(jī)會乃至生存空間，恐怕也是一個難以避免的未來。

“資本害怕沒有利潤或利潤太薄，就像自然界害怕真空一樣。一旦有適當(dāng)?shù)睦麧?，資本就膽大起來。如果有10%的利潤，它就保證到處被使用?！北M管我們都知道，自然并不害怕真空，但資本的本性和邏輯卻從未變過：壓低成本、提高效率，是資本賴以生存的基礎(chǔ)，也是提高企業(yè)、地區(qū)乃至國家競爭力的最重要動力，這是不以人的意志為轉(zhuǎn)移的。

一旦某個領(lǐng)域內(nèi)，AI能比人工操作的效率更高、費用更省、產(chǎn)品更優(yōu)的話，任何東西都攔不住它的應(yīng)用。反對這股洪流者，只會被這股鋼鐵般的洪流給卷走：盧德運動沒能做成功的事情，今天和未來的人類同樣也不可能做到?！度w》中有一句話，叫做“我毀滅你，與你無關(guān)”，AI對人類的威脅就和這個很類似：它們對我們或許并無惡意，只是我們恰好擋了它的路而已，就像人類在上班的路上，無意中踢飛了的一只路過的蝸牛。

“我是阿爾法，我是俄梅戛；我是初始，我是終結(jié)?！边@句話是《圣經(jīng)》的《啟示錄》中，上帝對自己的描述。上帝是否存在，姑且不去討論，但人工智能會不會扮演人類的上帝，是仁慈抑或兇惡，恐怕才是我們最該去祈禱的事情。endprint