少想“終結(jié)者”，多考慮“少數(shù)派報告”

亞歷山大·弗里德曼（Alexander Friedman）

人們普遍認(rèn)為，人類將會受到人工智能發(fā)展的威脅，其具體表現(xiàn)可能是《終結(jié)者》里的惡意機(jī)器人。然而，當(dāng)進(jìn)入千禧年的第三個十年時，我們正在迅速研發(fā)實打?qū)嵉淖x心術(shù)，而沒有任何關(guān)于如何控制這種技術(shù)的規(guī)則。

進(jìn)化沒有使我們得以讀懂他人的心思，因為這種力量可能使我們這一物種走向滅絕。隨著我們的遠(yuǎn)古祖先們開始群體生活以獲庇護(hù)，我們大多數(shù)人學(xué)會哪些話可以說，而哪些話則不能。它構(gòu)成了我們現(xiàn)在所謂的情商的核心部分。

然而，科技現(xiàn)在開始從根本上威脅這種必要的進(jìn)化適應(yīng)。

第一階段已經(jīng)發(fā)生在社交媒體上。俄羅斯人操縱Facebook影響2016年美國總統(tǒng)大選，便體現(xiàn)了這一趨勢。而Twitter則使用戶快速記錄一閃而過的想法或情感，然后可能與數(shù)百萬人分享，從而放大了這一趨勢。想象一下朝鮮領(lǐng)導(dǎo)人如何努力地嘗試去理解特朗普總統(tǒng)關(guān)于核武器“火與怒”的推文。這是來自新晉且不穩(wěn)定的美國領(lǐng)導(dǎo)人的真正威脅，還是一時的沖動和一閃而過的念頭，所以應(yīng)該最好被忽略？早在雙極格局的超級大國時代，就產(chǎn)生了標(biāo)志性的美蘇熱線電話，以澄清雙方的意圖，以免由于一些誤解而使世界消失于核蘑菇云下。

今天，在我們更加復(fù)雜的多極化和非對稱威脅驅(qū)動的世界中，社交媒體為所有愿意使用一個巨型且未經(jīng)校訂的擴(kuò)音器的人們提供了便利。社交媒體已成為意圖破壞民主者的工具。但是，與我們現(xiàn)在面臨的情況相比，這只是兒戲而已。

從初創(chuàng)企業(yè)到跨國企業(yè)集團(tuán)，最近都宣布了令人震驚的創(chuàng)新技術(shù)，使人們能夠讀懂心靈。馬斯克的公司Neuralink正在尋求對植入用戶大腦以讀取其思想的設(shè)備進(jìn)行人體試驗的批準(zhǔn)。日產(chǎn)汽車開發(fā)了“從腦到車”的技術(shù)，使汽車能夠從駕駛員的腦海中讀取指令。Facebook已經(jīng)資助了使用腦電波來解碼語音的科學(xué)家?？茖W(xué)期刊《自然》上的一篇最新論文，解釋了人工智能如何通過分析大腦信號來創(chuàng)建語音。哥倫比亞大學(xué)的研究人員，開發(fā)了可以分析大腦活動以確定用戶想要什么，并通過合成器表達(dá)這些愿望的技術(shù)。

顯然，這些進(jìn)步可以帶來真正的好處，包括幫助癱瘓或神經(jīng)系統(tǒng)疾病的患者。早期的神經(jīng)假體，例如幫助聾人恢復(fù)聽覺的人工耳蝸，或有望使盲人重見光明的裝置等，已經(jīng)投入使用。

但是，潛在的應(yīng)用有著暗黑的一面，例如使廣告商能夠微調(diào)其產(chǎn)品以滿足個人的潛意識，或者使雇主監(jiān)視他們的工人，或者使警察能夠大規(guī)模監(jiān)視公民可能的犯罪意圖。一個早期的警告是，最近曝出阿聯(lián)酋政府一直在使用社交媒體應(yīng)用程序ToTok監(jiān)視用戶。如果讀心術(shù)設(shè)備被黑客入侵，會發(fā)生什么？很難想象有比人腦更重要的“數(shù)據(jù)隱私”領(lǐng)域。

馬斯克認(rèn)為，大腦接口對于人類跟上人工智能必不可少。這使我們回到了菲利普·迪克的科幻恐怖故事《少數(shù)派報告》（2002年電影由此改編）。如果警察可以通過閱讀腦波來“評估”一個人的意圖，那么他或她在犯罪發(fā)生之前就制止犯罪，將面臨何等棘手的道德、法律和社會秩序問題？

技術(shù)創(chuàng)新的主要挑戰(zhàn)是，它通常需要社會花費很長時間來跟上，了解如何使用新技術(shù)，并提供適當(dāng)?shù)姆珊头ㄒ?guī)框架來規(guī)范其行為。

在本世紀(jì)的第二個十年中，社交媒體從一種工具轉(zhuǎn)變?yōu)榫哂袀鞑ブe言和操縱選舉能力的平臺。社會正在努力解決如何利用這項創(chuàng)新的優(yōu)勢，同時減輕其被濫用的可能性。也許，在我們甚至還沒有弄清楚這一點之前，千禧年的第三個十年將使我們面臨更為嚴(yán)峻的技術(shù)挑戰(zhàn)。

本文由Project Syndicate授權(quán)《南風(fēng)窗》獨家刊發(fā)中文版。亞歷山大·弗里德曼是瑞銀（UBS）的首席投資官、比爾和梅琳達(dá)·蓋茨基金會的首席財務(wù)官。