大數(shù)據(jù)和人工智能時(shí)代的社會情景

思 羽/編譯

大數(shù)據(jù)和人工智能時(shí)代的社會情景

思 羽/編譯

● 我們正處在一場技術(shù)劇變之中，這場劇變將會改造社會的組織方式。我們必須現(xiàn)在就做出正確的決定。

數(shù)字化革命如火如荼。它會怎樣改變我們的世界？我們產(chǎn)生的數(shù)據(jù)量每年都會翻番。用另一種說法：2016年我們產(chǎn)生的數(shù)據(jù)量和人類直至2015年的整段歷史的數(shù)據(jù)量相同。每一分鐘，我們都會制造出幾十萬次的谷歌搜索和臉譜網(wǎng)帖文。這些數(shù)據(jù)中包含的信息能揭示我們的思考方式和感受方式。不久后，我們周遭的事物——甚至可能包括我們的衣服——也會和互聯(lián)網(wǎng)相連。根據(jù)預(yù)測，10年之后，全球會有1500億只聯(lián)網(wǎng)的測量傳感器，比地球上的人類總數(shù)還要多20倍。接著，每過12小時(shí)，數(shù)據(jù)總量就會翻番。許多公司早已試圖將這些大數(shù)據(jù)轉(zhuǎn)化成大財(cái)富。所有一切都將變得智慧化，我們不僅會有智能電話，還會有智能房屋、智能工廠和智能城市。我們是不是應(yīng)該預(yù)期這些發(fā)展會促成智能國家和更智能的星球？

人工智能領(lǐng)域確實(shí)正在取得激動人心的進(jìn)展。尤其是人工智能對數(shù)據(jù)分析自動化的貢獻(xiàn)。人工智能如今不是一行行寫代碼，而是能夠?qū)W習(xí)知識，從而不斷發(fā)展自身。近期，谷歌公司的DeepMind算法教會自己在49款雅達(dá)利公司的游戲中獲勝。算法如今幾乎像人類一樣能辨識出手寫語言和模式，甚至比人類更出色地完成某些任務(wù)。算法能夠描述出照片和視頻的內(nèi)容。如今，有70%的金融交易是由算法完成的；部分新聞內(nèi)容是自動生成的。所有這些都有激進(jìn)的經(jīng)濟(jì)后果：未來10到20年之內(nèi)，現(xiàn)今的工作中大約有一半會受到算法的威脅。當(dāng)今的全球500強(qiáng)公司中，有40%的公司會在10年內(nèi)消失。

可以預(yù)料，超級電腦不久就會在幾乎所有領(lǐng)域超越人類能力——大約2020到2060年之間。專家開始敲響警鐘。特斯拉汽車公司的埃隆·馬斯克、微軟的比爾·蓋茨和蘋果公司共同創(chuàng)立人斯蒂夫·沃茲尼亞克等技術(shù)預(yù)言家紛紛發(fā)出警告，超級智能對于人類來說是個(gè)嚴(yán)重的威脅，或許比核武器更加危險(xiǎn)。這是不是杞人憂天呢？

有一件事很清楚：我們組織經(jīng)濟(jì)和社會的方式會徹底改變。我們正在經(jīng)歷二戰(zhàn)結(jié)束以來最大規(guī)模的變化；在生產(chǎn)自動化和自動駕駛汽車問世之后，社會的自動化就是下一個(gè)目標(biāo)。社會處于十字路口，社會自動化有望帶來更多機(jī)遇，也可能帶來相當(dāng)多的風(fēng)險(xiǎn)。假如我們做出錯(cuò)誤的決定，就可能會威脅到人類歷史上最了不起的成就。

20世紀(jì)40年代，美國數(shù)學(xué)家諾伯特·維納創(chuàng)立了控制論。根據(jù)他的說法，系統(tǒng)的行為可以由合適的反饋方式來控制。不久后，一些研究者設(shè)想按照這條基本原理來控制經(jīng)濟(jì)和社會，但那時(shí)還無法獲得必要的技術(shù)。

目前，新加坡被視為用數(shù)據(jù)控制社會的完美榜樣。最初是想用一個(gè)程序來保護(hù)新加坡免于恐怖襲擊，結(jié)果卻影響了經(jīng)濟(jì)政策、移民政策、房地產(chǎn)市場和學(xué)校課程。在西方國家，消費(fèi)者面臨越來越頻繁的信用核查，有些網(wǎng)上商店還試驗(yàn)了“個(gè)性化定價(jià)”。越來越顯而易見的是，我們所有人都處在制度性監(jiān)視之下。2015年，英國情報(bào)機(jī)關(guān)的“因果警察”（KarmaPolice）程序內(nèi)幕公之于眾，報(bào)道表明每個(gè)英國人的互聯(lián)網(wǎng)使用情況都受到了全面的篩查。是不是“老大哥”在如今變成了現(xiàn)實(shí)？

程式化的社會和公民

一切在一開始都顯得相當(dāng)無害。搜索引擎與推薦平臺開始向我們提供關(guān)于產(chǎn)品和服務(wù)的個(gè)性化建議。這些信息是基于之前的搜索、購買、旅行和社交互動中收集到的個(gè)人數(shù)據(jù)和元數(shù)據(jù)而得出的。盡管根據(jù)官方的說法，用戶的身份受到保護(hù)，但實(shí)際上能相當(dāng)容易地推斷出用戶的身份。今時(shí)今日，算法相當(dāng)清楚地知道我們做了什么事，我們在想些什么，我們有什么感受——可能比我們的朋友和家人更加清楚，甚至比我們自己還清楚。所提供的建議往往正好合適，做出的決定感覺就像是自己做出來的一樣。實(shí)際上，我們以這種方式受到更加成功的遠(yuǎn)程控制。它們對我們了解得更多，我們選擇的自由程度隨之降低，愈加可能是被其他人預(yù)先決定好的。但這種情況不會停下來。一些軟件平臺正在向著“誘導(dǎo)計(jì)算”進(jìn)發(fā)。在未來，這些軟件平臺使用精密復(fù)雜的操縱技術(shù)，將引導(dǎo)我們歷經(jīng)整個(gè)行為過程，可能是執(zhí)行復(fù)雜的工作程序，或者是為互聯(lián)網(wǎng)平臺生成免費(fèi)內(nèi)容，讓那些商業(yè)公司從中賺取幾十億金錢。趨勢是從為電腦編程轉(zhuǎn)變至為人類編程。

這些技術(shù)在政治圈內(nèi)也正變得越來越流行。在“助推”的標(biāo)簽下，政府正在企圖大規(guī)模地引導(dǎo)公民轉(zhuǎn)向那些更為健康或更加環(huán)境友善的行為，他們采用的方法就是“助推”——一種家長式管治的當(dāng)代形式。這種新型的“關(guān)懷型政府”不僅對我們做什么感興趣，還想確保我們會做出那些被認(rèn)為是正確的事情。這兒的魔力術(shù)語是“大數(shù)據(jù)助推”，也就是大數(shù)據(jù)和助推的結(jié)合體。對于許多人而言，這似乎是一種數(shù)字化權(quán)杖，允許統(tǒng)治者以高效的方式管治大眾，而又不必讓公民走民主程序。這種做法能不能戰(zhàn)勝既得利益，讓全世界的發(fā)展路徑最優(yōu)化呢？假如能夠如此，那么公民將被一位數(shù)據(jù)授權(quán)的“睿智國王”統(tǒng)治，這位“睿智國王”能夠制造出民眾想要的經(jīng)濟(jì)成果和社會成果，幾乎就像揮舞“數(shù)字魔棒”一般。

但是，只要稍微讀一下相關(guān)的科學(xué)文獻(xiàn)，就能看到，那些控制民意的企圖盡管想達(dá)到“最優(yōu)化”，卻注定要失敗，原因在于問題的復(fù)雜性。民意的形成是個(gè)動態(tài)過程，充滿意外情況。沒人知道如何揮舞那根“數(shù)字魔棒”——也就是操縱助推的技術(shù)——才能達(dá)到最佳效果。什么是正確手段，什么是錯(cuò)誤手段，常常要到事后才清楚。比如說，2009年德國豬流感大流行，所有人都被鼓勵去接種疫苗。然而，我們現(xiàn)在知道有一定比例接種疫苗的人患上了一種罕見疾病——發(fā)作性嗜睡病。幸運(yùn)的是，不再有人選擇去接受疫苗接種！

另一個(gè)例子是近期醫(yī)療保險(xiǎn)提供商試圖通過分發(fā)小型健身手環(huán)，鼓勵客戶增加鍛煉，目標(biāo)是降低人群中心血管疾病患者的數(shù)量，結(jié)果卻是出現(xiàn)了更多的髖關(guān)節(jié)置換手術(shù)。在社會之類的復(fù)雜系統(tǒng)中，一個(gè)領(lǐng)域的改進(jìn)幾乎必然會導(dǎo)致另一個(gè)領(lǐng)域的惡化。因此，事實(shí)表明，大規(guī)模干預(yù)有時(shí)能演變成大范圍錯(cuò)誤。

盡管如此，罪犯、恐怖分子和極端主義者遲早會嘗試去控制那根“數(shù)字魔棒”——甚至可能是在我們未曾注意到的情況下。幾乎所有公司和機(jī)構(gòu)都被黑客侵入過，甚至連五角大樓、白宮和美國國家安全局也沒幸免。

當(dāng)缺乏充足的透明度和民主控制時(shí)，另一個(gè)問題就會出現(xiàn)：系統(tǒng)從內(nèi)部受到腐蝕。搜索算法和建議系統(tǒng)可能受到影響。一些公司可能對某些詞匯組合進(jìn)行出價(jià)，攫取更有利的搜索結(jié)果。政府大概也能影響搜索結(jié)果。在大選時(shí)期，他們也許會助推中間選民，誘導(dǎo)選民支持他們——這種對選民的操縱難以察覺到。因而，誰控制了這項(xiàng)技術(shù)，誰就能贏得選舉——通過“助推”的方法讓他們攫取權(quán)力。

在許多國家，某個(gè)搜索引擎或社交媒體平臺擁有占主導(dǎo)地位的市場份額。這使得以上難題愈加嚴(yán)重。該搜索引擎或社交媒體平臺可以決定性地影響公眾，遠(yuǎn)程干預(yù)這些國家。即使歐洲法院在2015年10月6日做出的判決限制了歐洲數(shù)據(jù)的過度輸出，但潛在的問題在歐洲內(nèi)部也依然未得到解決，遑論其他地區(qū)了。

我們能預(yù)料到什么樣的讓人討厭的副作用呢？為了讓操縱不為人注意，需要所謂的“共鳴效應(yīng)”——即給出的建議是針對每個(gè)個(gè)體充分定制化的。這么做的話，局部趨勢因重復(fù)而逐漸強(qiáng)化，從而導(dǎo)致“過濾氣泡”或“回聲室效應(yīng)”：到了最后，或許你所能獲得的只是你自身的意見經(jīng)過反射回到你面前。這會引起社會兩極化，結(jié)果形成各自不同的社會群體，彼此間不再能相互理解，而且發(fā)現(xiàn)彼此間的沖突愈演愈烈。個(gè)性化信息能夠以這種方式在無意間摧毀社會凝聚力。目前能夠在美國政治中觀察到這種現(xiàn)象，民主黨人與共和黨人游離得越來越遠(yuǎn)，政治妥協(xié)變得幾乎不可能，結(jié)果就是社會的碎片化，甚至可能是社會的瓦解。由于共鳴效應(yīng)，社會民意的大規(guī)模變化只能緩慢和逐步形成。效應(yīng)的發(fā)生有時(shí)間延遲，但也無法輕易地撤銷。譬如說，針對少數(shù)族裔或外來移民的憤恨可能會失去控制；民族主義情緒過度的話，可能引發(fā)歧視、極端主義和矛盾沖突。

或許，更為意味深遠(yuǎn)的事實(shí)在于操縱方法改變了我們做決定的方式。它們壓制了其他相關(guān)文化和社會線索，起碼是暫時(shí)的壓制。歸納來說，操縱方法的大規(guī)模應(yīng)用可能引發(fā)嚴(yán)重的社會損害，包括在數(shù)位世界中的行為殘忍化。誰應(yīng)該為此承擔(dān)責(zé)任？

法律問題

鑒于過去數(shù)年里對煙草公司、銀行、IT公司和汽車公司的巨額罰金，其間產(chǎn)生的法律問題不應(yīng)該被忽略。但是，假如操縱技術(shù)違法的話，違反了哪部法律呢？首先，操縱技術(shù)顯然限制了選擇的自由。假如對我們的行為的遠(yuǎn)程控制完美運(yùn)轉(zhuǎn)的話，我們本質(zhì)上會成為數(shù)字時(shí)代的奴隸，因?yàn)槲覀冎粫?zhí)行那些實(shí)際上早已由其他人做好的決定。當(dāng)然，操縱技術(shù)只會在部分程度上有效。盡管如此，我們的自由確實(shí)正在緩慢消失——實(shí)際上，正因?yàn)樽銐蚓徛胖两裎丛艿焦姷囊欢↑c(diǎn)抵制。

偉大的啟蒙思想家伊曼努爾·康德的見解似乎與這兒的問題密切相關(guān)。康德說過，一個(gè)企圖決定其公民幸福與否的國家是個(gè)專制國家。然而，個(gè)體自我發(fā)展的權(quán)利只能由那些掌控自身人生的人來踐行，這樣也就預(yù)先假定了“信息自我決定權(quán)”。這大概是我們最為重要的憲法權(quán)利。除非這些權(quán)利得到尊重，否則民主政治無法良好地運(yùn)行。假若這些權(quán)利遭到限制，那就會削弱憲政、社會與國家。

大數(shù)據(jù)助推之類的操縱技術(shù)的運(yùn)轉(zhuǎn)方式類似于個(gè)性化廣告，因此其他法律也受到了影響。廣告必須明確標(biāo)明，不可誤導(dǎo)他人，也不允許利用某些心理學(xué)花招，譬如知覺閾限下刺激。這正是嚴(yán)禁在一部電影的某個(gè)瞬間顯示出軟性飲料畫面的原因，因?yàn)槟菢拥膹V告并非意識可察覺的，但可能仍然具有潛意識效應(yīng)。此外，當(dāng)前對個(gè)人數(shù)據(jù)的廣泛收集和處理肯定不符合在歐洲國家和世界其他角落實(shí)施的數(shù)據(jù)保護(hù)方面的法律條文。

最后，個(gè)性化定價(jià)的合法性值得質(zhì)疑，因?yàn)樗赡転E用內(nèi)幕信息。其他相關(guān)方面包括可能破壞平等原則、無歧視原則和競爭法，因?yàn)樽杂墒袌鰷?zhǔn)入和價(jià)格透明不再有保障。這種情況可以比擬為某些公司在其他國家以低價(jià)銷售它們的產(chǎn)品，但又要試圖避免消費(fèi)者通過這些國家來購買產(chǎn)品。在過去，這類案例的結(jié)果往往是高額罰金。

個(gè)性化廣告和定價(jià)無法與經(jīng)典廣告或折扣優(yōu)惠券相比，因?yàn)楹笳呤欠翘囟ǖ模粫岳梦覀兊男睦砣觞c(diǎn)和破壞我們的批判性思考為目標(biāo)而侵犯我們的隱私。此外，讓我們不要忘記，在學(xué)術(shù)圈里，就算是毫無危害的決策實(shí)驗(yàn)也被認(rèn)為是以人為對象的實(shí)驗(yàn)，這樣就得獲得倫理委員會的批準(zhǔn)。在每一個(gè)案例中，相關(guān)人士被要求給予知情同意。相比之下，鼠標(biāo)一點(diǎn)，就確認(rèn)我們贊同1份100頁厚的“使用條款”協(xié)議（如今的許多資訊平臺都是這樣的做法）顯得非常不足。

然而，助推這樣的操縱技術(shù)正在數(shù)百萬人身上做著實(shí)驗(yàn)，沒有告知那些人，沒有透明公開，更沒有倫理約束。即便是臉譜網(wǎng)這樣的大型社交網(wǎng)站或者OkCupid這樣的線上約會平臺，都已經(jīng)公開承認(rèn)做過這類社會實(shí)驗(yàn)。假如我們希望避免對人類和社會的不負(fù)責(zé)任的研究（想想近期的拷問丑聞中心理學(xué)家們的卷入程度），那么我們迫切地需要實(shí)行高標(biāo)準(zhǔn)，尤其是科研質(zhì)量標(biāo)準(zhǔn)和類似于希波克拉底誓詞的行為準(zhǔn)則。

思考、自由和民主有沒有遭到侵蝕？

讓我們假設(shè)有一臺超智能的機(jī)器，它擁有神一般的知識和超過人類的能力：我們會遵循它的指示嗎？看起來有可能。但假如我們這么做了，那么埃隆·馬斯克、比爾·蓋茨、斯蒂夫·沃茲尼亞克、斯蒂芬·霍金和其他人之前表達(dá)過的警告就會成真：計(jì)算機(jī)會控制這個(gè)世界。我們必須清楚地認(rèn)識到，超級智能也可能犯錯(cuò)、撒謊、追求自我利益或者受到操縱。尤其在于它不能與整個(gè)人類的分布式集體智能相提并論。

用一個(gè)計(jì)算機(jī)集群替代所有公民思考的想法是荒謬的，因?yàn)槟菢訒蟠蠼档退_(dá)成的解決方案的多樣性與質(zhì)量。盡管近期數(shù)據(jù)大批涌現(xiàn)，對個(gè)人化信息的使用也大為增加，但全球的問題并未減少，反而有所增加，這點(diǎn)早已經(jīng)清清楚楚。世界的和平是脆弱的。氣候的長期變化將會導(dǎo)致物種數(shù)量自恐龍滅絕以來的最大損失。我們也遠(yuǎn)遠(yuǎn)還沒有克服金融危機(jī)和它對經(jīng)濟(jì)的影響。網(wǎng)絡(luò)犯罪預(yù)計(jì)將會引起每年3萬億美元的損失。一些國家和恐怖分子們正在準(zhǔn)備發(fā)動網(wǎng)絡(luò)戰(zhàn)爭。

在一個(gè)迅速改變的世界里，超級智能永遠(yuǎn)無法做出完美的決策（見圖1）：系統(tǒng)復(fù)雜性增加得比數(shù)據(jù)量更快，數(shù)據(jù)量又增加得比數(shù)據(jù)處理能力更快，而數(shù)據(jù)遷移速度是有限的。最終結(jié)果就是忽視局部知識和事實(shí)，而局部知識和事實(shí)對于得出好的解決方案是至關(guān)重要的。分布式、局部控制的方法經(jīng)常優(yōu)于集中式方法，尤其是在行為多變、幾乎無法預(yù)測和不能進(jìn)行實(shí)時(shí)最優(yōu)化的復(fù)雜系統(tǒng)中。這個(gè)結(jié)論對于城市中的交通控制早已經(jīng)是正確結(jié)論，對于高度網(wǎng)絡(luò)化、全球化的社會和經(jīng)濟(jì)系統(tǒng)來說更是如此。

此外還存在一種危險(xiǎn)，用強(qiáng)大的算法對決策進(jìn)行操縱，這樣會削弱“集體智能”的基礎(chǔ)。而集體智能能夠靈活地適應(yīng)我們復(fù)雜世界的各種挑戰(zhàn)。要讓集體智能發(fā)揮作用的話，個(gè)人的信息搜尋和決策必須獨(dú)立進(jìn)行。假如我們的判斷和決策由算法預(yù)先決定，這確實(shí)會導(dǎo)致對人們的洗腦。智能生物被降格為純粹的指令接收者，只會自動對刺激做出反應(yīng)。

換言之：個(gè)性化信息在我們周圍制造了“過濾氣泡”，一種禁錮我們思想的數(shù)字化監(jiān)獄。在這種情形下，怎么可能進(jìn)行創(chuàng)造性思考，怎么可能“跳出箱子”思考？最終，一個(gè)使用超智能信息系統(tǒng)進(jìn)行社會控制、技術(shù)統(tǒng)治的中央集權(quán)體制會導(dǎo)致新形式的獨(dú)裁體制。從而，下行控制的社會（打著“自由家長制”的旗號）與被光明外表掩蓋的極權(quán)主義政權(quán)并無不同。

事實(shí)上，大數(shù)據(jù)助推的目標(biāo)是讓許多人的行動一致化，操縱他們的看法和決定。此舉讓它置于宣傳之境，通過行為控制對公民處以有的放矢的隔離措施。我們預(yù)計(jì)從長遠(yuǎn)來看后果是毀滅性的，尤其是考慮到上面提到過的削弱基礎(chǔ)的影響。

圖1數(shù)字化的增長趨勢

更好的數(shù)字化社會

盡管有著激烈的全球競爭，民主政體仍然會保持審慎和睿智，不會把數(shù)百年以來的成就完全摒棄。與其他政權(quán)不同，西方民主國家有一個(gè)優(yōu)點(diǎn)，它們早已經(jīng)學(xué)會與多元文化論和社會的多樣性打交道?，F(xiàn)在，它們只用再去學(xué)習(xí)如何進(jìn)一步利用它們的優(yōu)勢。

未來，那些民主國家會起到領(lǐng)導(dǎo)作用，在企業(yè)、政府和公民之間達(dá)成健康的平衡。這就要求有網(wǎng)狀思維，并建立起一個(gè)信息、創(chuàng)新、制造和服務(wù)共存的“生態(tài)系統(tǒng)”。為了讓這個(gè)機(jī)制良好運(yùn)轉(zhuǎn)，重要的不僅僅是要創(chuàng)造出參與的機(jī)會，而且要支持多樣性。因?yàn)閷?shí)際上無法決定最佳的目標(biāo)職能：我們應(yīng)該讓人均國民生產(chǎn)總值最大化，還是注重可持續(xù)發(fā)展？是選擇權(quán)力還是和平？是選擇幸福還是預(yù)期壽命？常常，哪種選擇會更好只有在木已成舟后才知道。多元社會允許個(gè)體追求各種不同的目標(biāo)，能更好地應(yīng)付各種意外出現(xiàn)的挑戰(zhàn)。

中央集權(quán)、下行控制是屬于過去的解決方案，只適合低復(fù)雜性的系統(tǒng)。因此，聯(lián)邦制和多數(shù)決定是當(dāng)前的解決方案。隨著經(jīng)濟(jì)和文化進(jìn)化，社會復(fù)雜性會繼續(xù)上升。所以，面向未來的解決方案是集體智能。這意味著對于獲得更多知識、想法和資源來說，公眾科學(xué)、眾包和線上討論平臺是極其重要的新方式。

集體智能要求有高度的多樣性。然而，今時(shí)今日的個(gè)性化信息系統(tǒng)強(qiáng)化了趨勢，減少了多樣性。

社會的多樣性與生物多樣性一樣重要。它不僅激發(fā)集體智能和創(chuàng)新，也刺激出社會的彈性——我們的社會應(yīng)付突如其來的打擊的能力。降低社會多樣性常常也就降低了經(jīng)濟(jì)體與社會的功能性。這就是極權(quán)主義政權(quán)往往最終會與鄰國發(fā)生戰(zhàn)爭的原因。典型的長期后果是政治不穩(wěn)定和戰(zhàn)爭，正如人類歷史中反復(fù)發(fā)生的那樣。因此，多元化和大眾參與不應(yīng)該被視為對公民的讓步，而是應(yīng)當(dāng)看成是促成繁榮興旺的、復(fù)雜的現(xiàn)代社會的功能先決條件。

圖2 數(shù)字化的十字路口

總的來說，可以說人類目前處在十字路口（見圖2）。大數(shù)據(jù)、人工智能、控制論和行為經(jīng)濟(jì)學(xué)正在重塑我們的社會——重塑得更好或更壞。假如這些廣泛傳播的技術(shù)與我們社會的核心價(jià)值不相容的話，它們遲早會導(dǎo)致大范圍的損害。它們可能導(dǎo)向一個(gè)具備極權(quán)主義特征的自動化社會。在最糟糕的情況下，一個(gè)中央集權(quán)的人工智能會控制我們的所知、所想和行為。我們處在歷史性的重大時(shí)刻，必須決定好正確的路徑——那條路徑將允許人類全體從數(shù)字化革命中獲益。因此，我們強(qiáng)烈要求遵守下列基本準(zhǔn)則：讓信息系統(tǒng)的運(yùn)轉(zhuǎn)進(jìn)一步去中心化；支持信息的自我決定和參與；改善透明度，實(shí)現(xiàn)更高的信任；減少信息扭曲和信息污染；讓用戶控制的信息過濾器變成可能；支持社會和經(jīng)濟(jì)層面的多樣性；改善互操作性和合作機(jī)會；創(chuàng)造數(shù)字助手和協(xié)調(diào)工具；支持集體智能；通過數(shù)位素養(yǎng)和啟蒙，推動公民在數(shù)字化世界的負(fù)責(zé)任行為。

遵循這套數(shù)字化議程的話，我們所有人都會從數(shù)字化革命的成果中獲益：無論是經(jīng)濟(jì)體，政府，還是公民都一樣能獲益。我們在等待什么呢？

數(shù)字化時(shí)代的戰(zhàn)略

毫無疑問，大數(shù)據(jù)和人工智能是重要的創(chuàng)新。它們具備巨大的潛能，能夠催化經(jīng)濟(jì)價(jià)值和社會進(jìn)步，從個(gè)性化的醫(yī)療護(hù)理直至可持續(xù)城市。然而，使用這些技術(shù)來讓公民失去行為能力是完全無法接受的。大數(shù)據(jù)助推和公民評分的濫用主要收集個(gè)人數(shù)據(jù)用于行為控制，這樣的做法本質(zhì)上屬于極權(quán)主義。這不僅與人權(quán)原則和民主原則無法相容，也不適合用來管理當(dāng)代的創(chuàng)新社會。為了解決這個(gè)世界的真正難題，在信息和風(fēng)險(xiǎn)管理的領(lǐng)域需要有更好的方法。應(yīng)該如何為了社會福祉而使用大數(shù)據(jù)和人工智能，負(fù)責(zé)任創(chuàng)新研究領(lǐng)域和“人類的數(shù)據(jù)”倡議對此提供了指引。

我們現(xiàn)在能做什么？首先，即便在數(shù)字化革命的時(shí)代，公民的基本權(quán)利應(yīng)當(dāng)受到保護(hù)，因?yàn)樗鼈兪乾F(xiàn)代機(jī)能的民主社會存在的基礎(chǔ)性先決條件。這要求創(chuàng)造出全新的、基于信任與合作的社會契約，不會將公民和客戶視為障礙或者可以利用的資源，而是視為合作伙伴。為了這個(gè)目標(biāo)，國家得要提供合適的監(jiān)管框架，確保技術(shù)的設(shè)計(jì)和使用都在與民主相容的方式下進(jìn)行。這樣就要求必須確保信息的自我決定，不僅是理論上，而是要在實(shí)際中確保，因?yàn)檫@是我們以自我決定和負(fù)責(zé)任的方式生活的前提條件。

對于那些有關(guān)方面收集到的關(guān)于我們的個(gè)人數(shù)據(jù)，我們也應(yīng)該有權(quán)獲得一份副本。應(yīng)該用法律來規(guī)定好這些信息必須以標(biāo)準(zhǔn)格式自動發(fā)送一份副本到一處個(gè)人數(shù)據(jù)倉庫，個(gè)人借助這些倉庫能夠?qū)@些數(shù)據(jù)的使用進(jìn)行管理（可能在專門的基于人工智能的數(shù)字助手支持下）。為了更好的隱私保護(hù)和避免歧視，未經(jīng)授權(quán)使用數(shù)據(jù)的行為必須受到法律的嚴(yán)懲。個(gè)人能決定誰能為了什么目的而使用他們的信息，并且要使用多久。更進(jìn)一步地，應(yīng)當(dāng)采取適當(dāng)?shù)拇胧﹣泶_保信息的安全存放和流通。

此外，我們需要為公民準(zhǔn)備高效的投訴程序以及違反規(guī)定時(shí)的有效處罰措施。最終，為了創(chuàng)造出充分的透明度和信任，領(lǐng)先的科研機(jī)構(gòu)應(yīng)當(dāng)擔(dān)任數(shù)據(jù)和算法的保管者，這些數(shù)據(jù)和算法在目前規(guī)避了民主的管理。這也要求建立一套合適的行為準(zhǔn)則，最起碼任何一位能接觸到敏感數(shù)據(jù)與算法的人都必須遵守這套準(zhǔn)則——這就像是為IT界專業(yè)人士準(zhǔn)備的希波克拉底誓詞。

更進(jìn)一步地，我們會要求建立一套數(shù)字化議程，為新類型的工作和數(shù)字社會的未來打下基礎(chǔ)。每年，我們都投資數(shù)十億美元在農(nóng)業(yè)領(lǐng)域、公共基礎(chǔ)設(shè)施、學(xué)校和高等院?！尮I(yè)和服務(wù)業(yè)獲益。

我們需要用哪種公共系統(tǒng)來確保數(shù)字化社會能夠成功？

首先，需要有全新的教育概念，應(yīng)當(dāng)更加聚焦在批判性思考、創(chuàng)造力、發(fā)明創(chuàng)新和創(chuàng)業(yè)精神上，而不是制造標(biāo)準(zhǔn)化的工人。教育應(yīng)當(dāng)讓教育對象明白如何負(fù)責(zé)任和審慎地使用數(shù)字化技術(shù)，因?yàn)楣癖仨毲宄刂罃?shù)字化世界如何與現(xiàn)實(shí)世界糾纏在一起。為了有效和負(fù)責(zé)任地行使他們的權(quán)利，公民必須對這些技術(shù)有所了解，也應(yīng)該對那些非法的使用有所涉獵。這便是進(jìn)一步需要科學(xué)、產(chǎn)業(yè)、政治和教育機(jī)構(gòu)確保這些知識廣泛地傳播出去的原因。

其次，需要有一個(gè)參與平臺讓人們更容易成為自雇人士，建立自身的項(xiàng)目，尋找合作伙伴，為產(chǎn)品和服務(wù)在全球做營銷，管理資源，支付稅收和社保繳款。作為補(bǔ)充，城鎮(zhèn)甚至村莊都可以為新興的數(shù)字化社群設(shè)立中心（類似開放創(chuàng)新實(shí)驗(yàn)室），各種想法可以在那兒被共同開發(fā)和免費(fèi)測試。由于在這些中心可以找到開放和革新的工作方式，應(yīng)該能推動大規(guī)模的合作創(chuàng)新。政府和產(chǎn)業(yè)公司致力于開放數(shù)據(jù)戰(zhàn)略，進(jìn)一步讓數(shù)據(jù)可供科學(xué)和公眾使用，為高效的、與世界所面臨的挑戰(zhàn)同步的信息和創(chuàng)新生態(tài)系統(tǒng)創(chuàng)造出適合的條件。

第三，構(gòu)建由公民運(yùn)營的“數(shù)字神經(jīng)系統(tǒng)”，能夠?yàn)樗腥碎_啟物聯(lián)網(wǎng)的新機(jī)遇，能向所有人提供實(shí)時(shí)數(shù)據(jù)測量。假如我們想以更加可持續(xù)性的方式利用資源，減緩氣候變化，我們需要度量我們與其他人和環(huán)境互動的正面和負(fù)面的影響。通過使用合適的反饋環(huán)，可以特定方式影響系統(tǒng)，通過自組織的方式讓系統(tǒng)實(shí)現(xiàn)想要的結(jié)果。

為了更好地應(yīng)付未來世界的復(fù)雜性和多樣性，將其轉(zhuǎn)化成優(yōu)勢，我們會需要個(gè)人數(shù)字助手。這些數(shù)字助手也會從人工智能領(lǐng)域的發(fā)展中獲益?？梢灶A(yù)期，在未來會有無數(shù)網(wǎng)絡(luò)連接人類和人工智能，這些網(wǎng)絡(luò)會按照需要而靈活地建造和重新配置。然而，為了讓我們保留對我們?nèi)松目刂茩?quán)，這些網(wǎng)絡(luò)應(yīng)該以分布式方式來控制。尤其在于用戶必須能夠依照意愿登錄和退出。

[資料來源：ScientificAmercian][責(zé)任編輯：彥 隱]