“人·機(jī)·環(huán)”關(guān)系重構(gòu)：對算法倫理風(fēng)險(xiǎn)與應(yīng)對的再審思

□王 敏 吳信訓(xùn)

作為技術(shù)與社會的物質(zhì)性中介，算法正在成為“影響世界運(yùn)行的基礎(chǔ)性規(guī)則”。[1]與此同時(shí)，也引發(fā)了算法偏見、侵犯個(gè)人隱私權(quán)、群體極化等諸多倫理風(fēng)險(xiǎn)。算法作為智能技術(shù)的工具理性和人類道德生活所要求的價(jià)值理性之間的對立，常被視為導(dǎo)致算法倫理風(fēng)險(xiǎn)的本質(zhì)原因。由此，為算法嵌入正確的價(jià)值理念、要求全方位的算法信息公開等措施成為許多研究者提出的建構(gòu)算法倫理的重要路徑。這些路徑無疑是十分必要的，但還不足以應(yīng)對實(shí)踐過程中的算法倫理風(fēng)險(xiǎn)。

當(dāng)我們從批判理論的視角出發(fā)，就會發(fā)現(xiàn)在算法的工具理性和價(jià)值理性之間實(shí)際上內(nèi)嵌著宰制的趨勢。宰制的力量來自作為中介的算法背后所交織著的復(fù)雜權(quán)力關(guān)系和資本利益。人工智能時(shí)代，算法作為一股強(qiáng)大力量重構(gòu)了人、機(jī)器和環(huán)境三者的關(guān)系：“人·機(jī)·環(huán)”關(guān)系在計(jì)算機(jī)介入下由傳統(tǒng)媒介時(shí)代主客二分的物理關(guān)系轉(zhuǎn)變?yōu)槿f物互聯(lián)的數(shù)字關(guān)系。隱藏在算法背后的復(fù)雜權(quán)力關(guān)系和資本利益導(dǎo)致了人與技術(shù)、平臺之間權(quán)力關(guān)系的不對等：人在某種程度上失去了主體地位，隱私權(quán)利的邊界被日益模糊化，對生活事務(wù)的決策權(quán)也被技術(shù)所接管。這是引發(fā)算法倫理風(fēng)險(xiǎn)的重要原因，但是尚未引起研究者足夠的重視與深入探討。

同時(shí)，這種人機(jī)關(guān)系所造成的決策指令作用于社會環(huán)境之后，某些有悖于人類社會行之有序的倫理后果也會反過來對既有的人機(jī)關(guān)系形成質(zhì)疑，并對應(yīng)當(dāng)重構(gòu)怎樣的“人·機(jī)·環(huán)”關(guān)系提出考問。這也正是還有待當(dāng)今研究者對算法倫理深入探討的重要課題之一。本研究旨在通過探討算法如何重構(gòu)了人、機(jī)器、環(huán)境三者的關(guān)系，揭示算法倫理風(fēng)險(xiǎn)的重要成因，并以此為基點(diǎn)，力求為有力推進(jìn)算法倫理建構(gòu)提出一點(diǎn)可資參考的理論貢獻(xiàn)。

一、關(guān)系重構(gòu)：算法建構(gòu)的“人·機(jī)·環(huán)”關(guān)系有待矯正

當(dāng)我們討論算法倫理時(shí)，是將算法看作一種連接技術(shù)與社會的物質(zhì)性中介，“由規(guī)定的計(jì)算機(jī)編碼、人類實(shí)踐和規(guī)范邏輯構(gòu)成”。[2]作為計(jì)算機(jī)科學(xué)的底層技術(shù)架構(gòu)，算法是“一套由計(jì)算機(jī)運(yùn)行的明確的指令和步驟”，能根據(jù)規(guī)范的輸入，在有限的時(shí)間內(nèi)獲得有效的輸出結(jié)果。[3]同時(shí)，作為中介，算法重塑了人機(jī)交往互動的框架，人與機(jī)器作為算法平臺社會中的主體，共同參與算法機(jī)制的生成與反饋過程：算法的技術(shù)性機(jī)制直接建構(gòu)用戶行為、影響偏好形成，用戶行為數(shù)據(jù)的變化，又將調(diào)整與更新算法自我學(xué)習(xí)過程所依賴的大數(shù)據(jù)集，從而重塑算法。

作為連接技術(shù)與社會的物質(zhì)性中介，算法重構(gòu)了人、機(jī)器、環(huán)境三者的關(guān)系：傳統(tǒng)媒介時(shí)代，人作為主體，生存在物質(zhì)社會中，和機(jī)器、環(huán)境建立起各種各樣的物理關(guān)系；算法時(shí)代，這種物理關(guān)系轉(zhuǎn)變?yōu)槿f物互聯(lián)的數(shù)字關(guān)系，人的生存環(huán)境也由物質(zhì)社會擴(kuò)展為現(xiàn)實(shí)和虛擬互融的算法平臺社會。在算法作用下，“人·機(jī)·環(huán)”三者互融，人機(jī)關(guān)系由簡單機(jī)械的單向傳播發(fā)展為雙向的人機(jī)互動，并向“具有主體特征的更復(fù)雜的人機(jī)交往轉(zhuǎn)變”。[4]人不再是絕對的主體，技術(shù)也不再是外化于人的東西，包括人本身在內(nèi)的“一切都成為媒介”。[5]但是，在這之中，個(gè)人與算法、平臺的關(guān)系“并不對等”。[6]

算法依據(jù)個(gè)人在網(wǎng)絡(luò)空間中留存的數(shù)字痕跡重新定義個(gè)人的身份，賦予個(gè)體一種有別于現(xiàn)實(shí)主體的“算法身份”（algorithmicidentity）。[7]對個(gè)人而言，“身份是一種體驗(yàn)，這種體驗(yàn)來自于對技術(shù)的使用，這些技術(shù)構(gòu)成了一個(gè)超越個(gè)人生活的痕跡世界”。[8]復(fù)雜多變的算法依據(jù)用戶行為數(shù)據(jù)的改變，不斷對個(gè)人的算法身份進(jìn)行重新配置，從而改變了個(gè)人的身份體驗(yàn)，使得個(gè)人從運(yùn)用算法技術(shù)的主體轉(zhuǎn)變?yōu)楸惶幚砼c開發(fā)的客體。[9]個(gè)人將不得不在算法身份和“隱私的、下意識的自我”[10]這兩種身份之間切換、協(xié)調(diào)、妥協(xié)。

在身份被算法重新定義、配置的過程中，大量個(gè)人身份及行為數(shù)據(jù)的采集、存儲、分享和使用模糊了隱私邊界。算法的應(yīng)用場景決定了它需要進(jìn)入個(gè)人私密空間甚至人體，收集和記錄個(gè)人行為數(shù)據(jù)，并就此做出分析和預(yù)測，這就使得原本私密的空間處于各類算法的監(jiān)控之下。要想獲得算法服務(wù)，個(gè)人也不得不交付自己的隱私數(shù)據(jù)。與此同時(shí)，算法技術(shù)根據(jù)個(gè)人的特征和偏好進(jìn)行分組，在群體層面對人們進(jìn)行推斷，大量個(gè)人隱私信息被匿名化和去標(biāo)識化處理后，匯集在一起成為公開或半公開的群體數(shù)據(jù)。個(gè)人隱私在網(wǎng)絡(luò)空間由個(gè)體層面的“匿名”變?yōu)槿后w層面的“透明”。作為信息所有者，個(gè)人失去了對自身隱私邊界的控制。與個(gè)人沒有實(shí)際交互，但因有相同特征和偏好而被歸類在一起的他人以及掌握大量用戶隱私數(shù)據(jù)的平臺或企業(yè)成為共同的隱私管理者。

在不同場景下，算法的感知和決策能力遠(yuǎn)超過人類。對于個(gè)人而言，為了獲取更便利高效的體驗(yàn)，將大部分事務(wù)的決策權(quán)讓渡給算法成為一種“沒有選擇的選擇”；對于平臺而言，算法是“實(shí)現(xiàn)內(nèi)容市場供需適配的必然選擇”[11]，如果沒有算法，光是每天的內(nèi)容審核，都難以完成；對于社會而言，算法推動了傳統(tǒng)治理模式的變革，形成了一種以技術(shù)為導(dǎo)向的智能治理模式，提升了社會治理的效率和效能。[12]算法在各個(gè)層面逐漸顯現(xiàn)的主導(dǎo)性作用使得人對生活的決策權(quán)逐漸被技術(shù)全面接管。

二、風(fēng)險(xiǎn)挑戰(zhàn)：“人·機(jī)·環(huán)”關(guān)系重構(gòu)面臨三重倫理困境

在上述由算法所重構(gòu)的這樣一種不對等的“人·機(jī)·環(huán)”關(guān)系中，算法的應(yīng)用面臨著個(gè)人、技術(shù)和社會三個(gè)層面的倫理風(fēng)險(xiǎn)和挑戰(zhàn)。

在個(gè)人層面，算法倫理的風(fēng)險(xiǎn)之一體現(xiàn)在算法對個(gè)人認(rèn)知能力的傷害。傳統(tǒng)信息時(shí)代，個(gè)人在進(jìn)行物質(zhì)消費(fèi)、文化消費(fèi)、信息消費(fèi)時(shí)，有一個(gè)探索、學(xué)習(xí)和交流的過程。但是到了智能時(shí)代，人們依賴算法對大多數(shù)事務(wù)作出決策。作為結(jié)果，個(gè)人將自主作判斷的能力讓渡給算法[13]，失去了批判性思考和自主解決問題的機(jī)會。久而久之，個(gè)人在享受算法個(gè)性化服務(wù)時(shí)，將逐漸失去作為人的主體性體現(xiàn)的思辨能力、判斷能力、選擇能力。“用得越多，越是你想要的”。[14]在這樣的機(jī)制作用下，個(gè)人極易陷入自我化、封閉化的“囚徒”困境中。盡管算法是否必然導(dǎo)致“信息繭房”尚且存在爭議[15]，但是算法在強(qiáng)化人們原本就有的選擇心理、固化選擇路徑方面的影響是很大的[16]，由此引發(fā)的個(gè)人信息視野狹窄以及觀點(diǎn)、立場固化和智能鴻溝問題需要我們高度警惕。

技術(shù)層面的算法倫理風(fēng)險(xiǎn)在某種程度上可以說是作為帶有社會屬性的“人”與技術(shù)雙重作用的結(jié)果，表現(xiàn)之一為算法對社會偏見和歧視的承繼及放大。作為一種建立在技術(shù)基礎(chǔ)之上的“制度性安排”，多樣化的算法選擇背后是多種權(quán)力與利益博弈后的策略性選擇。[17]其中，不僅有政治內(nèi)嵌與資本介入、社會結(jié)構(gòu)性偏見的循環(huán)，還存在量化計(jì)算對有機(jī)世界的遮蔽，這些都導(dǎo)致了算法的內(nèi)生性偏見。[18]一旦某個(gè)個(gè)體或群體具有了帶有偏見的算法身份，相應(yīng)的同樣帶有偏見的數(shù)據(jù)會被反復(fù)帶進(jìn)下一輪的算法運(yùn)算中，成為算法作出新推斷的依據(jù)。如此一來，在不斷累積的偏見數(shù)據(jù)的影響下，算法便陷入了“誤導(dǎo)性佐證”[19]的循環(huán)中，進(jìn)一步放大社會偏見和歧視。表現(xiàn)之二是算法霸權(quán)。算法作為一種技術(shù)權(quán)力，掌握在平臺或企業(yè)手中。由于缺乏監(jiān)管、過度資本化、算法“黑箱”等原因，算法權(quán)力極易被濫用，并異化為算法霸權(quán)。例如，掌握著算法技術(shù)的平臺或企業(yè)可能會利用算法權(quán)力來達(dá)成固定價(jià)格、限制產(chǎn)量等協(xié)議，進(jìn)而排除、限制市場競爭，以獲取超額壟斷利潤，形成具有隱蔽性的算法共謀。[20]同時(shí)，平臺或企業(yè)還會通過措施將算法權(quán)力合法化。例如，王茜的研究發(fā)現(xiàn)微博使用一系列策略來使“熱搜”生成過程看起來渾然天成且不可避免，包括人氣值的實(shí)時(shí)更新、搜索框提示“大家正在搜”以及“呈現(xiàn)”“反映”等修辭的使用，以此建構(gòu)算法把關(guān)的合法性話語。[21]

就社會層面而言，算法所導(dǎo)致的個(gè)人層面認(rèn)知力、判斷力、決策力倒退或停滯的風(fēng)險(xiǎn)將導(dǎo)致社會創(chuàng)新力的下降、群體態(tài)度極化等問題。在算法推薦機(jī)制的作用下，認(rèn)知個(gè)性化成為主導(dǎo)，共性被消解，具有相似特征和偏好的社會群體陷入信息和態(tài)度同質(zhì)化的“回音室”中，不同群體之間的認(rèn)知差異加大，公共空間與社會共識難以形成。在社會群體的階層強(qiáng)化和自我強(qiáng)化過程中，一系列具有極端性思想文化和觀念的孤島將形成。這樣的孤島內(nèi)在黏性強(qiáng)，但缺乏自我更新能力，潛藏著意識形態(tài)極化的風(fēng)險(xiǎn)，并可能進(jìn)一步造成社會撕裂的后果。此外，算法的廣泛應(yīng)用使“可見性”（visibility）的控制過程變成了一個(gè)計(jì)算機(jī)程序運(yùn)行的過程[22]，信息的分發(fā)與編審權(quán)從人讓渡給了算法，它能夠帶來感官刺激、吸引網(wǎng)絡(luò)流量的低質(zhì)內(nèi)容得以實(shí)現(xiàn)對個(gè)人隱蔽性、精準(zhǔn)性和長久性的“信息喂養(yǎng)”。長此以往，許多更有價(jià)值的或者應(yīng)該被關(guān)注的信息面臨著“不可見”的威脅。這將強(qiáng)化社會文化生態(tài)存在已久的“劣幣驅(qū)逐良幣”現(xiàn)象，對社會文化生態(tài)造成破壞。

三、倫理建構(gòu)：理念與政策協(xié)同的整體性路徑

為應(yīng)對風(fēng)險(xiǎn)，研究者們對如何建構(gòu)算法倫理進(jìn)行了諸多討論。許多學(xué)者認(rèn)為，算法不可避免地內(nèi)嵌了人類的價(jià)值觀，因此要在算法設(shè)計(jì)中以人類社會的價(jià)值體系作為商業(yè)運(yùn)作和技術(shù)開發(fā)的前提，在算法設(shè)計(jì)過程中嵌入“以人權(quán)、社會公正、人類福祉、美德為其價(jià)值基礎(chǔ)”的價(jià)值理念[23]。另有學(xué)者提出，為了更好地實(shí)現(xiàn)對算法的監(jiān)督，算法平臺要遵循算法透明的原則，全方位公開算法利用的各類數(shù)據(jù)或非數(shù)據(jù)信息、算法的內(nèi)部結(jié)構(gòu)、算法自動化決策的原理、算法與其他社會諸要素之間的互動和這些互動對算法本身的重塑以及算法相關(guān)信息公開過程中所涉及的信息。[24]這些措施對于算法倫理風(fēng)險(xiǎn)的治理無疑都是必要的。但是，如前所述，算法倫理的風(fēng)險(xiǎn)不僅因?yàn)楣ぞ呃硇院蛢r(jià)值理性的對立，更因?yàn)樵趶?fù)雜權(quán)力關(guān)系和資本利益宰制下形成了不對等的“人·機(jī)·環(huán)”關(guān)系。這也是價(jià)值理性引導(dǎo)工具理性、算法機(jī)制全方位公開等措施在執(zhí)行過程中面臨挑戰(zhàn)的原因。

我們認(rèn)為，解決算法倫理風(fēng)險(xiǎn)的關(guān)鍵在于，在利益導(dǎo)向的環(huán)境下，如何改進(jìn)工具理性所造就的不對等權(quán)力關(guān)系。因此，算法倫理的建構(gòu)還有必要從以下路徑展開：

（一）以公正的眼光看待算法面臨的工具理性和價(jià)值理性的矛盾

需要明確的是，作為一項(xiàng)技術(shù)的算法是沒有“原罪”的。算法存在的正當(dāng)性在于算法是高效率、具有服務(wù)精神，且在不斷改進(jìn)中的。而工具理性和價(jià)值理性的矛盾是原生的哲學(xué)矛盾。算法技術(shù)背后是多主體在博弈：第一，算法的開發(fā)和應(yīng)用需要投入大量人力和物力，這就使得算法應(yīng)用不得不依賴平臺的資本力量，而資本的原始屬性是以利益為導(dǎo)向的；第二，受利益導(dǎo)向和個(gè)人價(jià)值觀念驅(qū)動的算法管理者、開發(fā)者參與算法規(guī)則的制定與形成；第三，算法的運(yùn)行結(jié)果還取決于用戶和社會的反饋——算法迎合和服務(wù)用戶需求，用戶根據(jù)體驗(yàn)將新的數(shù)據(jù)反饋給算法，算法依據(jù)新數(shù)據(jù)集調(diào)整決策結(jié)果；第四，組織和超組織的社會環(huán)境條件也影響著算法的開發(fā)、校準(zhǔn)。[25]

因此，算法中內(nèi)嵌的價(jià)值性與外在的工具性是共在的。我們不能將算法倫理風(fēng)險(xiǎn)的一切責(zé)任歸咎于算法，要看到算法的工具理性和價(jià)值理性間的矛盾是受資本和權(quán)力宰制的。算法倫理風(fēng)險(xiǎn)的責(zé)任主體不是單一的，而是包括算法、算法平臺、算法工程師、個(gè)人以及社會在內(nèi)的鏈條式的責(zé)任閉環(huán)。

（二）努力擺脫用戶對算法倫理的“無意識”狀態(tài)，將選擇權(quán)歸還給個(gè)人

目前尚處于弱人工智能時(shí)期，算法雖然表現(xiàn)出許多超越人類的能力，但還在人類可控、可預(yù)知的范圍內(nèi)。需要警惕的是，隨著強(qiáng)人工智能時(shí)代的到來，算法可能發(fā)展出不受人類控制的自主意識，通過自主設(shè)計(jì)進(jìn)化規(guī)則、自我改進(jìn)超越人類認(rèn)知。[26]因此，在算法不斷智能化發(fā)展的同時(shí)，應(yīng)該彰顯人的自我實(shí)現(xiàn)、人的全面發(fā)展、人的信念和價(jià)值，以實(shí)現(xiàn)“在人主導(dǎo)之下人類智慧與機(jī)械智能高度融合”。[27]其中，很重要的是要擺脫大多數(shù)用戶對算法機(jī)制、算法風(fēng)險(xiǎn)及算法倫理處于“無意識”[28]狀態(tài)的局面。

用戶的“無意識”是學(xué)界和業(yè)界要求算法平臺公開算法機(jī)制面臨的實(shí)際難點(diǎn)。盡管隨著算法技術(shù)的廣泛應(yīng)用，算法對于個(gè)人而言已不再是一個(gè)神秘莫測的新事物，但是受制于技術(shù)的高門檻和隱蔽性，個(gè)人和專業(yè)人士之間的技術(shù)壁壘尚未完全消失，算法對于公眾而言幾乎是不可見的，許多算法信息即使公開了用戶也并不一定能夠理解。培養(yǎng)用戶的算法素養(yǎng)，提高用戶在應(yīng)用算法平臺過程中的風(fēng)險(xiǎn)意識與倫理意識，將有助于用戶更好地選擇、判斷、監(jiān)管算法所提供服務(wù)的合理性。

同時(shí)，還應(yīng)該將選擇權(quán)歸還給個(gè)人，讓與算法實(shí)際應(yīng)用最接近的用戶采取行動以某種方式改變算法系統(tǒng)。[29]正如中國國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》所要求的，算法平臺應(yīng)當(dāng)以顯著方式告知用戶其所提供的算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。

（三）與政策、法規(guī)的制定與執(zhí)行相協(xié)同，實(shí)現(xiàn)合法性與最佳性耦合

當(dāng)算法日益成為一項(xiàng)形塑個(gè)人與社會的基礎(chǔ)性力量，只是靠用戶和平臺自覺不足以鉗制算法背后交織的復(fù)雜力量，還需要國家和社會組織機(jī)構(gòu)發(fā)揮監(jiān)督與監(jiān)管的作用，以相應(yīng)的政策或法規(guī)引導(dǎo)算法優(yōu)化。

政策和法規(guī)之所以有理由介入算法，是因?yàn)樗惴ㄗ鳛橐环N如此廣泛而普遍的重要權(quán)力，應(yīng)當(dāng)被理解為一種公共基礎(chǔ)設(shè)施，它塑造了數(shù)字空間中的信息獲取和公共討論的方式，決定了人們?nèi)绾蜗M(fèi)信息、如何交流、如何評價(jià)彼此，以及如何針對共同關(guān)注的重要問題開展討論。[30]以全球最大的在線社交媒體平臺Facebook為例，F(xiàn)acebook在全球范圍內(nèi)建立起了超過29億人的社區(qū)，這些用戶分布在不同國家，有著不同的社會和文化規(guī)范。在這個(gè)全球性社區(qū)中，算法形成了一種“準(zhǔn)國家權(quán)力”性質(zhì)的公共力量，應(yīng)當(dāng)被視為一種與“正當(dāng)程序”有關(guān)的重要權(quán)力。[31]而“正當(dāng)程序”的正當(dāng)性必須有更高層級的監(jiān)管部門對其進(jìn)行評估、規(guī)制與監(jiān)督。

當(dāng)然，算法并不具有法律人格，也無法對算法倫理問題擔(dān)責(zé)。因此，針對算法的政策和法規(guī)面向的并非算法本身，而是算法設(shè)計(jì)者、使用者以及監(jiān)管者。作為算法倫理建構(gòu)的外部路徑，通過政策和法規(guī)監(jiān)管算法的很重要的一點(diǎn)是要實(shí)現(xiàn)“合法性與最佳性的耦合”。[32]具體而言，既要由以政府為主導(dǎo)的監(jiān)管機(jī)構(gòu)推行各類算法倫理風(fēng)險(xiǎn)的防治措施，又要依托市場經(jīng)濟(jì)的自我調(diào)節(jié)與激勵機(jī)制形成算法平臺或企業(yè)的自我約束、自我規(guī)范；既要保證政策和法規(guī)實(shí)施的有效性，又要將干預(yù)和限制降到最低限度，以充分發(fā)揮算法平臺和企業(yè)的創(chuàng)新能力；既要從技術(shù)規(guī)范角度規(guī)制算法平臺的用戶數(shù)據(jù)訪問權(quán)限，又要從倫理角度充分保障算法在提升公共利益、促進(jìn)人類發(fā)展、為社會創(chuàng)造福祉的優(yōu)勢。