從“反身性理論”看人工智能未來

周杰

AlphaGo 4∶1戰(zhàn)勝李世石讓人工智能熱迅速向大眾層面蔓延。的確，這場比賽說明，隨著計算能力的爆發(fā)式增長，人工智能又上了一個新臺階。

但在大家而歡呼雀躍的時候，有些人一直對人工智能表示深深的擔憂，并且對大家提出警告。這些人包括：霍金、比爾·蓋茨，馬斯克為什么這些世界上最聰明的人會如此擔憂？

他山之石，可以攻玉。本文想比照金融市場的“反身性理論”（Theory Of Reflexivity），來看看人工智能如何影響人類發(fā)展。索羅斯是一位眾所周知的金融大鱷，他曾經(jīng)多次抓住市場巨大波動的機會獲得巨額財富。索羅斯的核心投資理論就是“反身性理論”。

根據(jù)百度百科，所謂反身性理論，就是在政治、經(jīng)濟領域存在自我加強現(xiàn)象，自我加強到最后，會以快速調整結束。反身性理論對于金融市場的直接指導意義在于，能夠讓你更了解市場變化的曲線，在走向繁榮或崩潰的情況下爭取獲利。反身性理論的提出和最成功的執(zhí)行者就是量子基金的創(chuàng)始人索羅斯。

簡單地說，反身性理論的本質就是中國的古語“物極必反”。在股市里，股民的購買能夠推動股價的上升，反過來股價上升的賺錢效應也會吸引更多股民購買股票。在牛市時，這兩種行為形成股價的正反饋加強，當這種正反饋被極度放大時，股價遠遠脫離了基本面，這時一個偶然事件就可能導致股市崩盤?；仡欀型夤墒袣v史上的大崩盤，其過程莫不是如此。

對比來看，人類的發(fā)展和科技的進步也正是一組正反饋：科技的進步使人們懂得更多，懂得更多的人類推動科技更快地發(fā)展。人類從狩獵時代到農(nóng)業(yè)時代，用了十幾萬年；從農(nóng)業(yè)時代到工業(yè)時代用了幾千年；從工業(yè)時代到原子時代，只用了二百年；從原子時代到信息時代，只用了幾十年。想想看，現(xiàn)在尋常百姓手中智能手機的計算能力，竟然超越了1969年NASA登月時所擁有的計算能力的總和！

在這個越來越快的正反饋加速度過程中，人類會有hold不住的那一天嗎？我能想到兩個場景（實際場景肯定更多）：

1）當擁有可以毀滅地球能力的門檻足夠低時，少數(shù)人的瘋狂或一時沖動就可以觸發(fā)滅亡。在科技的加速發(fā)展中，這個場景正變得越來越現(xiàn)實。比如，以前只有中美俄這樣的大國才能制造原子彈，現(xiàn)在連朝鮮這樣貧瘠且被封鎖的小國竟然也能制造了。

2）在向更高科技水平探索的過程中，因為無知而無意中觸發(fā)了引發(fā)災難的開關。例如，大型強子對撞機的實驗會不會產(chǎn)生人造黑洞？

可能絕大多數(shù)人看到這里，都會覺得上面的假設是杞人憂天，這種感覺與牛市中股民對股市崩盤預言的態(tài)度其實并無二致。然而，從反身性理論看，持續(xù)的正反饋加強最終一定會帶來災難。而且，由于我們在指數(shù)式的加速發(fā)展，而人類對未來的預測往往是線性的，這一天的到來也許比大家想的還要早。

這里順便插一句，為什么我們到現(xiàn)在還沒有發(fā)現(xiàn)外星文明？我有一個解釋：因為宇宙中的文明普遍具有指數(shù)式加速發(fā)展的特性，所以文明往往都是短暫的，就像一顆流星一樣一閃而過。例如，人類能夠探索太空的歷史到目前為止才不過幾十年，即使從地球的歷史長度來看，這都太短暫了。整個宇宙中無疑存在過很多文明，但是它們往往像一顆顆流星。要想讓兩顆流星正好碰到一起，實在太不容易了。

那么，我們該怎么辦呢？坦率地講，我不覺得我們可以避免最后的終點，但是也許我們可以推遲這個終點。我比較認同霍金、蓋茨、馬斯克他們給出的建議：

1）對于已經(jīng)可以預見到災難的科技，要及早控制它的發(fā)展。例如，他們建議，禁止人工智能武器的法令必須盡快頒布。

2）向外星移民。為危機來臨時的人類的生存提供更多機會。

最后的建議：珍惜當下。

作者為她社區(qū)CEO，原谷歌技術總監(jiān)