警惕AII“操縱”社會治理

高奇琦

美國總統(tǒng)特朗普上臺執(zhí)政已有一年多時間，但與美國大選有關(guān)的各類傳聞或“丑聞”仍不絕于耳。

特別檢察官羅伯特·米勒對13名俄羅斯人和3個俄羅斯實(shí)體涉嫌干擾2016年美國大選的起訴書提到，俄羅斯人利用假身份在社交媒體開設(shè)大量賬戶散播假新聞，僅在臉書上發(fā)布的消息就多達(dá)8萬條，覆蓋1.26億美國人。

有分析人士指出，要做到如此大范圍的信息覆蓋，僅憑人力恐難以完成，其情形可能是，AI賬戶偽裝成普通用戶出現(xiàn)在推特、臉書等社交平臺上，通過程序設(shè)定散布片面的或錯誤的政治信息，從而達(dá)到詆毀政治對手、影響公眾輿論的目的。據(jù)稱，在2016年美國大選中，一些AI賬戶甚至潛入到主要競爭對手的支持者隊(duì)伍中，影響選民的政治情緒。

實(shí)際上，歐洲的選戰(zhàn)、公投和公共輿情也曾受到AI干擾。在2015年英國脫歐公投前，支持脫歐的政治人物、時任英國獨(dú)立黨領(lǐng)導(dǎo)人奈杰爾·法拉奇就曾雇用劍橋分析公司（已申請破產(chǎn)）相助；2017年5月初，在法國總統(tǒng)大選的關(guān)鍵時點(diǎn)，現(xiàn)任法國總統(tǒng)馬克龍競選團(tuán)隊(duì)的大量內(nèi)部電子郵件被泄露到推特和臉書上，其中包含了一些捏造的馬克龍財務(wù)交易狀況信息。

大數(shù)據(jù)安全

大數(shù)據(jù)分析技術(shù)也被認(rèn)為為特朗普勝選發(fā)揮了重要作用。

多家美歐媒體報道，劍橋分析公司借由一款個性測試應(yīng)用程序獲取大約8700萬臉書用戶的個人信息，助力美國總統(tǒng)特朗普2016年競選。

據(jù)悉，借助通過“不恰當(dāng)方式”獲取的用戶個人信息，劍橋分析公司幫助特朗普團(tuán)隊(duì)定位選民愛好，進(jìn)行心理測評和數(shù)據(jù)分析，并在此基礎(chǔ)上精準(zhǔn)投放廣告，為每個選民推送為其“量身定制”的信息，實(shí)現(xiàn)從多個角度“美化”特朗普、“丑化”其競爭對手的目的，比如故意向高收入人群傳播“希拉里有意在上任之后調(diào)高對富人的稅收”等觀點(diǎn)。

“大數(shù)據(jù)安全是全球的挑戰(zhàn)，要站在歷史和網(wǎng)絡(luò)空間的維度來看待?！痹?018中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上，中國國家密碼管理局副局長徐漢良說，大數(shù)據(jù)安全事件危害巨大，不僅涉及大量公民隱私，而且能左右輿論導(dǎo)向，甚至影響政治進(jìn)程。

“算法黑箱”

在現(xiàn)實(shí)政治生活中，AI技術(shù)對歐美政治決策和選舉實(shí)踐的影響正在不斷擴(kuò)大，但目前AI技術(shù)還處于數(shù)據(jù)驅(qū)動的弱人工智能階段，幾乎完全以統(tǒng)計(jì)學(xué)或盲模型的方式運(yùn)行，缺乏對結(jié)果的解釋性。其對各國政治發(fā)展的影響還需密切觀察。

首先，AI技術(shù)存在“算法黑箱”的問題，即一般情況下，算法能被看到、理解的，只有輸入和輸出兩個環(huán)節(jié)，其信息處理過程是一個無法看清的“黑箱”。算法黑箱的存在，使人工智能在政治領(lǐng)域的行為缺乏有效解釋力。圖靈獎得主、貝葉斯網(wǎng)絡(luò)之父朱迪亞·珀?duì)栒J(rèn)為，縱使機(jī)器可以在不斷學(xué)習(xí)之后得出相對優(yōu)化的結(jié)果，但由于算法黑箱的存在，科學(xué)家也無法對其結(jié)果作出令人信服的解釋。

而政治是人的藝術(shù)，政治決策往往沒有絕對的對與錯，“對錯”背后的依據(jù)通常是這個決策的解釋能否被大部分人接受，而當(dāng)前的人工智能恰恰缺乏這種能力。以美蘇冷戰(zhàn)時期發(fā)生的古巴導(dǎo)彈危機(jī)為例，如果單純按照算法作決策，后果可能不堪設(shè)想。

其次，“算法黑箱”可能導(dǎo)致“算法操縱”，破壞選民的政治情感中立性。

隨著人工智能時代的到來，信息爆炸和信息堆積成為人們的普遍困擾之一。個性化的內(nèi)容推薦越發(fā)受到青睞，而這種推薦的背后是算法在發(fā)揮作用。同時，信用評估、風(fēng)險評估等各種評估信息越來越多，這使得人們的決策越來越受制于算法。

而算法和代碼的設(shè)計(jì)都依賴編程人員的判斷與選擇，因此極容易被利益集團(tuán)操縱。算法推薦的閱讀內(nèi)容容易使選民獲得的政治信息更加片面，影響其政治情感的中立性，導(dǎo)致其選擇很可能會被“無形操縱”，從而形成“算法操縱”。

“算法操縱”還存在加劇一種新的社會不平等的風(fēng)險，即民眾在數(shù)字信息領(lǐng)域的“貧富差距”不斷拉大，進(jìn)而演變?yōu)檎紊系男掳詸?quán)。美國著名未來學(xué)家阿爾文·托夫勒在其1990年出版的《權(quán)力的轉(zhuǎn)移》一書中說，在人工智能時代，全球性大公司對信息的壟斷，將削弱國家的政治聚合力和國家中心意識，最終可能導(dǎo)致少數(shù)“技術(shù)超人”和企業(yè)精英操控全球經(jīng)濟(jì)和政治，普通人不僅成為失業(yè)者，甚至淪為失權(quán)者。

《終極算法》作者、人工智能領(lǐng)域?qū)W者、華盛頓大學(xué)教授佩德羅·多明戈斯認(rèn)為，目前想要借助AI技術(shù)作出“合理合法”的政治決策，還有相當(dāng)長的一段路要走。

技術(shù)前景仍可期

雖然算法對政治領(lǐng)域的挑戰(zhàn)顯而易見，但簡單地將失敗的政治行為歸咎于人工智能是武斷的，因?yàn)榧夹g(shù)本身是無害的，關(guān)鍵在人如何使用技術(shù)。政治上的失敗大多與別有用心的利益集團(tuán)或個人密切相關(guān)，因此，修正人們對AI技術(shù)的態(tài)度，可能是規(guī)避算法風(fēng)險的有效途徑之一。

眼下，人類正致力于創(chuàng)造人工智能大腦，推動機(jī)器人多維度學(xué)習(xí)，尤其是提高機(jī)器人的情感水平。當(dāng)機(jī)器主體具有超強(qiáng)能力、自主性及情感時，人工智能的“工具論”將不攻自破。屆時，人類對數(shù)據(jù)操縱的態(tài)度可能發(fā)生轉(zhuǎn)變，尊重數(shù)據(jù)或?qū)⒆兂芍髁髭厔荩斯ぶ悄茉谡晤I(lǐng)域的應(yīng)用或?qū)⒌玫接行У囊?guī)范。

（摘自《環(huán)球》）