算法治理的技術(shù)迷思與行動(dòng)選擇

文/邱澤奇

1984年是桌面計(jì)算機(jī)進(jìn)入流行的初始階段，也是人們對(duì)算法開始警覺的起點(diǎn)。人工智能的新一輪爆發(fā)引發(fā)了近些年對(duì)算法治理的關(guān)注，且形成了一股風(fēng)潮，大多數(shù)涉及算法治理的文獻(xiàn)甚至不謀而合地形成了一種套路式表述。只是對(duì)一些關(guān)鍵問(wèn)題尚缺乏有效的回答，如，到底什么是算法？算法是一個(gè)舊已有之的存在，如今為什么要特別關(guān)注？如果關(guān)注，又能關(guān)注什么？本文將闡述算法已經(jīng)成為人類生產(chǎn)和生活的普遍環(huán)境，分析算法的技術(shù)邏輯，說(shuō)明關(guān)注過(guò)程治理、試圖論證對(duì)算法進(jìn)行實(shí)時(shí)監(jiān)測(cè)難以實(shí)現(xiàn)算法治理目標(biāo)，探討算法治理的可能路徑及中美歐的行動(dòng)選擇。

進(jìn)入算法治理時(shí)代

數(shù)字技術(shù)的廣泛應(yīng)用與算法有什么關(guān)系？不用算法，行嗎？即使運(yùn)用算法，不治理，行嗎？算法古已有之。為什么直到現(xiàn)在，人們才那么關(guān)注算法治理？

歸納既有文獻(xiàn)，我們觀察到三種主要理由。一種理由認(rèn)為，算法侵害是觸發(fā)人們關(guān)注算法治理的根由。人們認(rèn)為，現(xiàn)實(shí)生產(chǎn)和生活中已經(jīng)出現(xiàn)了算法歧視、算法偏見、算法壟斷、算法操縱、算法剝削等與算法關(guān)聯(lián)的社會(huì)、經(jīng)濟(jì)、甚至政治侵害。另一種理由認(rèn)為，算法風(fēng)險(xiǎn)是觸發(fā)算法治理的根由。人們認(rèn)為，在個(gè)體層次，算法強(qiáng)化著信息繭房；在市場(chǎng)層次，算法醞釀著監(jiān)控資本主義；在國(guó)家層次，算法被特定利益集團(tuán)用于政治權(quán)力再生產(chǎn)。從個(gè)體層次到國(guó)家層次的風(fēng)險(xiǎn)給人類社會(huì)的政治、經(jīng)濟(jì)、社會(huì)生活帶來(lái)巨大的不確定性。第三種理由認(rèn)為，算法權(quán)力、算法規(guī)則是觸發(fā)規(guī)則競(jìng)爭(zhēng)、權(quán)力競(jìng)爭(zhēng)甚至規(guī)則壟斷、權(quán)力壟斷的根由。值得特別注意的是，這也是西文文獻(xiàn)探討算法治理的主流。

我們認(rèn)為，社會(huì)關(guān)注聚焦于算法治理其實(shí)是由兩個(gè)因素推動(dòng)的，除了算法影響的廣度和深度，還有算法影響的覆蓋面。那么，算法影響的覆蓋面到底有多大呢？

在經(jīng)濟(jì)領(lǐng)域，數(shù)字技術(shù)快速邁過(guò)其擴(kuò)散臨界點(diǎn)，進(jìn)入變革的起飛階段。中國(guó)信通院的數(shù)據(jù)顯示，2020年中國(guó)數(shù)字經(jīng)濟(jì)增加值為39.2萬(wàn)億元人民幣，占GDP的比重躍升至38.6%，即數(shù)字經(jīng)濟(jì)已越過(guò)起飛臨界點(diǎn)而進(jìn)入起飛初始階段。在社會(huì)領(lǐng)域，數(shù)字終端已經(jīng)成為人們的必備工具。在中國(guó)，90%的人使用即時(shí)通信、80%的人使用政務(wù)服務(wù)、70%的人使用數(shù)字支付。在政務(wù)領(lǐng)域，審批等行政許可事項(xiàng)實(shí)現(xiàn)網(wǎng)上受理和“最多跑一次”的比例達(dá)82.13%，政府事項(xiàng)網(wǎng)上可辦率超過(guò)了90%。哪一項(xiàng)都依賴算法。

任何一項(xiàng)終端應(yīng)用的背后都有算法，算法成為人類新的生產(chǎn)工具、生活工具。我們甚至可以認(rèn)為：無(wú)算法，不生產(chǎn)；無(wú)算法，不生活。人類正加速進(jìn)入算法時(shí)代，我們無(wú)法回避算法給人類帶來(lái)的本質(zhì)性影響。

算法治理的技術(shù)迷思

算法到底是什么？在不同歷史階段、不同應(yīng)用場(chǎng)景，算法有不同所指?？稍诒举|(zhì)上，算法只是一種求解邏輯。

第一，算法是面對(duì)問(wèn)題的。讓出租車盡快到達(dá)目的地是需要解決的現(xiàn)實(shí)問(wèn)題，如何把某個(gè)商品賣給愿意出高價(jià)的人是需要解決的理論和現(xiàn)實(shí)問(wèn)題，人們?yōu)槭裁丛谒阉饕嫔纤阉鞲忻八幰彩切枰鉀Q的理論和現(xiàn)實(shí)問(wèn)題。人類需要解決的問(wèn)題無(wú)處不在，故算法從不缺乏需要解決的問(wèn)題。

第二，算法是通過(guò)計(jì)算解決問(wèn)題的。任何用到算法的問(wèn)題都需要將問(wèn)題數(shù)學(xué)化為可計(jì)算模型，其中又內(nèi)含著兩面。一方面，要解決的問(wèn)題可以被數(shù)學(xué)化即用數(shù)學(xué)模型刻畫，不能建?；驎簳r(shí)不能建模的問(wèn)題是無(wú)法運(yùn)用算法的。另一方面，建構(gòu)的數(shù)學(xué)模型是可計(jì)算的。滿足可計(jì)算的條件是，至少有用于計(jì)算的數(shù)據(jù)，至少計(jì)算可以獲得解。通俗地說(shuō)，運(yùn)用計(jì)算機(jī)不是為了計(jì)算，而是為了運(yùn)用計(jì)算機(jī)的算力更有效地獲得計(jì)算的解。

第三，算法是一系列問(wèn)題和求解數(shù)學(xué)模型的集合。從一個(gè)人的算法到一座城市的算法，在數(shù)量規(guī)模擴(kuò)大的同時(shí)，算法也從一個(gè)數(shù)學(xué)模型變成了無(wú)數(shù)個(gè)數(shù)學(xué)模型，且無(wú)數(shù)個(gè)數(shù)學(xué)模型之間不是獨(dú)立的，相互之間不僅有關(guān)系，而且關(guān)系還異常復(fù)雜，模型之間不僅有結(jié)構(gòu)，還有時(shí)序，結(jié)構(gòu)與時(shí)序之間還不是確定的，且算法還可以算法為數(shù)據(jù)而改進(jìn)算法。同時(shí)，算法還與人類行為或事物的發(fā)展變化交互。那么，如何讓用于解決問(wèn)題的模型不變成進(jìn)一步需要解決的問(wèn)題，而真正解決人類問(wèn)題呢？算法對(duì)代碼的需要出現(xiàn)了。

第四，算法是由代碼連接且結(jié)構(gòu)化的一系列問(wèn)題和求解數(shù)學(xué)模型的集合。只是，再?gòu)?fù)雜的數(shù)學(xué)模型都需要將其轉(zhuǎn)化為向計(jì)算機(jī)傳達(dá)的簡(jiǎn)單指令。復(fù)雜的簡(jiǎn)單也因此變成了復(fù)雜的復(fù)雜的一部分，計(jì)算機(jī)代碼便成了算法的有機(jī)組成部分。在算法代碼化的進(jìn)程中，代碼（code）的確是指示計(jì)算機(jī)做或不做的規(guī)則。表面上，正是由代碼攜帶的簡(jiǎn)單指令構(gòu)成的復(fù)雜算法影響著計(jì)算結(jié)果的輸出，帶來(lái)了文獻(xiàn)關(guān)注的算法侵害、算法風(fēng)險(xiǎn)、算法權(quán)力、算法規(guī)則?？墒牵坏┪覀冞M(jìn)一步了解了代碼與算法的關(guān)系，或許會(huì)有不一樣的觀點(diǎn)。

算法治理的行動(dòng)選擇

如果說(shuō)數(shù)字連接、數(shù)據(jù)豐盈、人類必備是算法帶來(lái)影響的三項(xiàng)必要條件，問(wèn)題求解對(duì)能力的要求超出人類生物屬性的極限是算法影響的充分條件；那么，在人類跨入數(shù)字時(shí)代、中國(guó)進(jìn)入數(shù)字發(fā)展加速期的當(dāng)下，算法又如何產(chǎn)生影響呢？

既有文獻(xiàn)對(duì)算法影響社會(huì)的機(jī)制認(rèn)識(shí)大致可以歸結(jié)為兩個(gè)本質(zhì)性的爭(zhēng)議。第一，算法是中立的還是有偏見的？斯廷森（Catherine Stinson）指出，人們以為算法是中立的，其實(shí)算法自身也會(huì)產(chǎn)生偏見，算法在不斷迭代中從用戶對(duì)算法推薦的響應(yīng)中進(jìn)行學(xué)習(xí)，創(chuàng)建著針對(duì)用戶的選擇性偏差，即偏見。這些偏見不僅具有統(tǒng)計(jì)學(xué)意義，也會(huì)帶來(lái)不同類型不同程度的算法侵害后果。第二，算法是人類意志的產(chǎn)物還是自主自為的主體？認(rèn)同“算法即規(guī)則”觀點(diǎn)的研究者認(rèn)為，算法已經(jīng)作為獨(dú)立行為主體參與人類生產(chǎn)、生活，算法規(guī)則也外化為社會(huì)行為規(guī)則，對(duì)人類產(chǎn)生深度影響。有人甚至認(rèn)為，算法的自主自為性形成了算法利維坦，成為建構(gòu)人類環(huán)境的重要乃至決定性的力量。

在探討算法治理行動(dòng)之前，我們認(rèn)為有必要針對(duì)算法影響機(jī)制的爭(zhēng)議進(jìn)行澄清和回應(yīng)。一項(xiàng)對(duì)谷歌圖片算法的研究顯示，谷歌圖片算法再現(xiàn)了白人男性父權(quán)制結(jié)構(gòu)。有趣的是，進(jìn)一步的工作還顯示，經(jīng)過(guò)再培訓(xùn)的算法呈現(xiàn)了對(duì)社會(huì)文化實(shí)踐的刻畫，改善了之前呈現(xiàn)的社會(huì)歧視。也就是說(shuō)，如果真實(shí)地?cái)M合社會(huì)現(xiàn)實(shí)，那么算法會(huì)攜帶偏見，進(jìn)而制造算法侵害。對(duì)算法再培訓(xùn)的結(jié)果則說(shuō)明：第一，算法侵害實(shí)際是編寫算法的人群制造的，算法只是做了算法可做的事，算法依然是人類生產(chǎn)的產(chǎn)品；第二，算法并不具有自主自為性，沒有人類輸入的第一行代碼，便不會(huì)有算法的其他代碼，算法的自主性自為性便失去了載體，也根本沒有機(jī)會(huì)制造算法偏見；第三，支持算法偏見和規(guī)則影響力的不是算法本身，而是對(duì)算法的運(yùn)用。

如此，算法治理的方向選擇已然出現(xiàn)。第一，算法不具有自由意志，算法是人類行動(dòng)的產(chǎn)出。算法治理是針對(duì)人類生產(chǎn)算法行動(dòng)的治理。第二，算法治理既是針對(duì)制造算法偏見的治理，也是針對(duì)算法運(yùn)用的治理。前者是為算法糾偏，后者則是約束算法運(yùn)用的方向和范圍，以期最大限度地減少算法偏見帶來(lái)的算法侵害。

在中文語(yǔ)境里，算法治理有雙重含義：第一，用算法進(jìn)行治理（governance by algorithm）；第二，對(duì)算法進(jìn)行治理（governance to algorithm）。英文語(yǔ)境則沒有算法治理（algorithm governance）概念，也很難找到一個(gè)對(duì)應(yīng)的概念，維基百科中甚至沒有相應(yīng)詞條?？v觀中文文獻(xiàn)對(duì)算法治理的探討，大多探討的是第二重含義。

算法治理發(fā)端于美國(guó)，美國(guó)如何應(yīng)對(duì)算法侵害呢？直接的答案是，問(wèn)責(zé)模式，問(wèn)責(zé)對(duì)象是有潛力讓算法產(chǎn)生廣泛且深刻影響的算法生產(chǎn)者和使用者，問(wèn)責(zé)內(nèi)容包括算法內(nèi)容和非算法流程，問(wèn)責(zé)的主體是政府或第三方。

從2017年1月12日，美國(guó)計(jì)算機(jī)協(xié)會(huì)下屬的美國(guó)公共政策委員會(huì)（USACM）發(fā)布《算法透明度和責(zé)任聲明》，到2021年5月美國(guó)參議院引入《算法正義與在線平臺(tái)透明度法案》，美國(guó)把因算法偏見帶來(lái)的不良社會(huì)后果直接歸責(zé)到算法生產(chǎn)者和使用者，而沒有歸咎于算法自身。

在數(shù)字時(shí)代的三方國(guó)際力量中，歐盟是重要一方。歐盟沒有針對(duì)算法的專門法律，可針對(duì)數(shù)據(jù)保護(hù)的一系列法律在實(shí)踐中也直接約束了算法的生產(chǎn)和運(yùn)用。從1995年頒布的《數(shù)據(jù)保護(hù)指令》、2018年頒布的《通用數(shù)據(jù)保護(hù)條例》（GDPR），到2021年提案的《人工智能法案》，建立了基于算法風(fēng)險(xiǎn)的算法治理改進(jìn)路徑，再次強(qiáng)調(diào)算法生產(chǎn)者和使用者的責(zé)任，強(qiáng)調(diào)問(wèn)責(zé)機(jī)制。

歐盟雖然與美國(guó)一樣在形成算法治理的邏輯閉環(huán)，卻在實(shí)踐中從數(shù)據(jù)保護(hù)入手，建立了保護(hù)個(gè)體、組織不受算法侵害的防御性治理框架和法律制度，在算法治理理念上已向美國(guó)靠攏，即采用政府和第三方問(wèn)責(zé)模式治理算法可能帶來(lái)的侵害，且將算法侵害責(zé)任歸咎于算法生產(chǎn)者和使用者。

為什么美國(guó)的算法治理要采用問(wèn)責(zé)模式？為什么歐盟會(huì)向美國(guó)靠攏也采用問(wèn)責(zé)模式？簡(jiǎn)單的回答是，算法的復(fù)雜性使算法自身始終處于迭代之中，在生產(chǎn)和生活中運(yùn)行的算法不是一個(gè)確定現(xiàn)象，而是一個(gè)動(dòng)態(tài)。算法的實(shí)時(shí)迭代意味著對(duì)算法代碼進(jìn)行實(shí)時(shí)督導(dǎo)（monitoring）和審查（auditing）需要具備與算法生產(chǎn)和使用相當(dāng)或超越的技術(shù)能力。這意味著在技術(shù)上不可行；或即使可行，至少也是艱難的和代價(jià)高昂的。對(duì)超出能力范圍的技術(shù)過(guò)程進(jìn)行監(jiān)管，需要跳出技術(shù)和技術(shù)過(guò)程本身，尋求算法治理的關(guān)鍵節(jié)點(diǎn)和效率節(jié)點(diǎn)。

算法治理的社會(huì)特征在于過(guò)程治理的不可行性或代價(jià)高昂以及結(jié)果治理的簡(jiǎn)單易行，是故，算法治理的關(guān)鍵節(jié)點(diǎn)便已不言而喻，那就是，針對(duì)算法結(jié)果進(jìn)行治理。

算法問(wèn)責(zé)便是對(duì)結(jié)果的治理，也顯然采用了刪繁就簡(jiǎn)原則。第一，在法律上約定算法可追責(zé)性。要求算法透明、算法解釋、數(shù)據(jù)證據(jù)化等，正是為結(jié)果可追責(zé)提供事實(shí)前提和法理邏輯前提。第二，在規(guī)則上約定算法責(zé)任實(shí)體性。盡管算法即規(guī)則，可算法規(guī)則只適用于計(jì)算過(guò)程，不適用于外化的社會(huì)過(guò)程，算法生產(chǎn)者和使用者才是算法的責(zé)任主體，即算法的責(zé)任主體是人或人的集合體，不是算法自身。

作為數(shù)字時(shí)代三方國(guó)際力量之一的中國(guó)，又在如何進(jìn)行算法治理呢？從1994年制定第一部相關(guān)行政指令《計(jì)算機(jī)信息系統(tǒng)安全保護(hù)條例》到目前，中國(guó)共出臺(tái)了60多部相關(guān)法律法規(guī)和行政指令。從時(shí)間順序來(lái)看，可以認(rèn)為中國(guó)的算法治理是從總體安全出發(fā)的。只是到此為止，中國(guó)的算法治理只有目標(biāo)，相關(guān)法律法規(guī)尚沒有像歐美那樣形成從治理理念到判例實(shí)踐的閉環(huán)，其中，尤其是還看不出算法治理的法治理念，更沒完成算法治理的司法證據(jù)化約定。

如果說(shuō)算法侵害是算法治理面對(duì)的核心問(wèn)題，那么，在給定算法侵害人因化或組織化，給定算法技術(shù)處于不斷迭代且動(dòng)態(tài)演化的場(chǎng)景下，實(shí)施算法治理的行動(dòng)選擇其實(shí)不多。

第一，鑒于算法的技術(shù)復(fù)雜性和動(dòng)態(tài)性，約定算法透明是讓算法可以作為算法審查和追責(zé)的前提，卻不是實(shí)施算法監(jiān)測(cè)的理由。算法的技術(shù)迷思已經(jīng)宣告了過(guò)程治理不是算法治理的可選項(xiàng)?？墒?，針對(duì)過(guò)程的治理要求卻是其他治理選項(xiàng)的必備條件。

第二，如果把算法安全風(fēng)險(xiǎn)作為算法侵害的一個(gè)類型，則結(jié)果治理即使不是算法治理的唯一選擇，也是有效選擇。算法的無(wú)處不在意味著算法風(fēng)險(xiǎn)的時(shí)時(shí)刻刻，優(yōu)化的行動(dòng)選擇是治理出現(xiàn)的侵害并將其作為未來(lái)可能的風(fēng)險(xiǎn)源，而不是治理出現(xiàn)概率極小的預(yù)設(shè)風(fēng)險(xiǎn)。

第三，算法侵害的人因化意味著治理行動(dòng)的對(duì)象是算法的生產(chǎn)者和使用者，而不是算法。在通用人工智能可以生產(chǎn)算法之前，算法依然是人類的產(chǎn)品。算法治理的關(guān)鍵是約束算法生產(chǎn)者寫對(duì)第一行代碼，約束算法使用者用對(duì)第一行代碼，問(wèn)責(zé)模式至少是當(dāng)下可行且有效的治理模式。

第四，鑒于算法的生產(chǎn)者和使用者以及對(duì)人類構(gòu)成廣泛且深刻影響的主要是平臺(tái)組織，把算法治理納入平臺(tái)治理、作為平臺(tái)治理的一項(xiàng)內(nèi)容，在形成成熟的算法治理進(jìn)程中至少可以作為一項(xiàng)過(guò)渡性的行動(dòng)選擇。

結(jié)論

伴隨數(shù)字連接邁向人類整體連接的是各類數(shù)字終端包括移動(dòng)終端和傳感器的時(shí)時(shí)刻刻無(wú)處不在，如此廣泛且深刻的數(shù)字連接因連接的“節(jié)點(diǎn)—中心”結(jié)構(gòu)而形成的是數(shù)據(jù)的匯流與應(yīng)用的分發(fā)模式。在匯流與分發(fā)之間，算法成為運(yùn)用數(shù)據(jù)資源促進(jìn)人類發(fā)展和平等的關(guān)鍵所在。

算法在帶來(lái)數(shù)字紅利的同時(shí)，也在帶來(lái)算法侵害。人們關(guān)注算法治理也源于人們?cè)噲D阻止算法侵害的普遍發(fā)生。算法侵害源于算法偏見?？墒撬惴ㄆ姴皇撬惴ㄗ约旱钠?，而是人類偏見在算法中的再現(xiàn)和放大。阻止乃至防止算法偏見還需首先糾正人類的偏見。

針對(duì)算法偏見來(lái)糾正人類偏見有兩個(gè)基本路徑，一是針對(duì)偏見發(fā)生的過(guò)程，二是針對(duì)偏見帶來(lái)的后果。在算法治理中，前者是過(guò)程治理，后者是結(jié)果治理。算法的技術(shù)迷思決定了過(guò)程治理是低效率的和高成本的。針對(duì)算法偏見帶來(lái)的結(jié)果進(jìn)行治理在理論上是更加有效的行動(dòng)選擇。

在數(shù)字時(shí)代的國(guó)際三方中，美國(guó)的算法治理采用了針對(duì)算法侵害的事后問(wèn)責(zé)模式，也形成了從算法治理法理到實(shí)踐的邏輯閉環(huán)。歐盟的算法治理從保護(hù)數(shù)據(jù)的守勢(shì)入手，也在邁向美國(guó)的算法問(wèn)責(zé)模式。中國(guó)的算法治理以網(wǎng)絡(luò)安全為起點(diǎn)，以總體安全為目標(biāo)，尚未呈現(xiàn)清晰的法理，在實(shí)踐上還沒有形成自洽的算法治理邏輯。我們認(rèn)為，針對(duì)算法偏見的事后問(wèn)責(zé)或許是殊途同歸的有效選擇。