智能傳播中算法偏見的溯源邏輯

胡萬鵬　孟佳林

摘要：在智能傳播中，算法偏見所產(chǎn)生的影響已逐漸延伸到社會(huì)生活的多個(gè)領(lǐng)域，而其溯源問題在問題導(dǎo)向和技術(shù)的逆向檢視邏輯之下卻難以深入。本文在建構(gòu)算法新聞主體的基礎(chǔ)上，試圖以算法技術(shù)、人類和社會(huì)力量三個(gè)要素為邏輯起點(diǎn)，探尋算法偏見產(chǎn)生的根源。

關(guān)鍵詞：算法偏見;技術(shù)倫理;智能傳播

近些年，算法技術(shù)在新聞生產(chǎn)和分發(fā)環(huán)節(jié)的應(yīng)用不斷走向深入，算法新聞對(duì)傳統(tǒng)新聞傳播活動(dòng)的顛覆正在重構(gòu)著人們的交往方式，其本身所攜帶的技術(shù)邏輯也逐漸嵌入到更廣泛的社會(huì)生活中。算法本身依托大數(shù)據(jù)和計(jì)算機(jī)程序，確實(shí)在一定程度上規(guī)避了人類主觀的新聞價(jià)值判斷，受眾的信息接收環(huán)節(jié)也從“應(yīng)知”過渡到了“欲知”。然而，依靠“技術(shù)中立”編織的智能技術(shù)神話，并不能消弭人們對(duì)大數(shù)據(jù)以及計(jì)算機(jī)程序客觀性的質(zhì)疑，算法技術(shù)存在的偏見正在損害著新聞的客觀性和公民的基本權(quán)利。針對(duì)算法偏見的溯源不僅是我們探尋治理路徑的前提，更是對(duì)人與技術(shù)關(guān)系的反思。

一、建構(gòu)算法新聞主體：一種結(jié)構(gòu)化的溯源邏輯

不同的社會(huì)群體對(duì)于還在形成變化中的技術(shù)存在較大分歧，關(guān)于算法技術(shù)的詮釋以及算法偏見的原因，要經(jīng)過不同社會(huì)群體的討論和協(xié)商，才能最終被固定下來。目前來看，算法偏見的溯源一般存在兩種邏輯：

（1）基于問題導(dǎo)向的溯源邏輯。

即以確認(rèn)存在的算法偏見現(xiàn)象為邏輯起點(diǎn)，進(jìn)而通過分析其具體表現(xiàn)來詮釋算法偏見產(chǎn)生的原因。美國學(xué)者巴蒂婭·弗里德曼和海倫·尼森鮑姆將算法偏見的表現(xiàn)概括為“先存偏見”、“技術(shù)偏見”和“突發(fā)偏見”，以此來挖掘算法偏見背后的社會(huì)制度和技術(shù)限制等原因。這種溯源方式能夠?qū)⒓夹g(shù)置于社會(huì)文化維度進(jìn)行考量，并對(duì)算法偏見的起因有較全面的把握。但面對(duì)紛繁復(fù)雜的社會(huì)文化現(xiàn)象和被大量掩蓋的算法偏見，人們極容易浮于繁復(fù)的表象而不能深入探尋算法偏見的根源。國內(nèi)學(xué)者劉友華則從被算法偏見所侵害的主體視角出發(fā)來歸納其具體表現(xiàn)：損害公民基本權(quán)利、損害市場競爭性和損害個(gè)體民事權(quán)益的算法偏見。這種溯源的方式已經(jīng)有了建構(gòu)算法新聞主體的意識(shí)，試圖通過被算法偏見侵害的幾個(gè)主體來挖掘算法偏見產(chǎn)生的根源，但從根本上來說仍然沒有突破以問題為導(dǎo)向的溯源邏輯。

（2）基于技術(shù)邏輯的逆向檢驗(yàn)。

即通過反向工程方法檢視算法技術(shù)應(yīng)用的各個(gè)環(huán)節(jié)，從而確認(rèn)算法技術(shù)所面臨的風(fēng)險(xiǎn)和導(dǎo)致算法偏見的因素。這種溯源方式能夠明確算法技術(shù)應(yīng)用過程各環(huán)節(jié)存在的問題，并證明其與算法偏見產(chǎn)生的直接關(guān)聯(lián)，因此可以加快推進(jìn)算法問責(zé)制度的推行。但由于向算法平臺(tái)取證的難度很大，算法技術(shù)本身又具備很強(qiáng)的自主學(xué)習(xí)能力，因而算法黑箱很難被完全打開。從研究維度來看，這種溯源邏輯過于強(qiáng)調(diào)從微觀視角考察算法技術(shù)本身，將算法偏見問題局限于中觀媒介場域，沒能與更宏觀的社會(huì)文化場域聯(lián)系起來。

鑒于以上兩種算法偏見的溯源邏輯存在的缺陷，我們有必要以結(jié)構(gòu)化的溯源邏輯來建構(gòu)算法新聞主體，探尋制約算法新聞實(shí)踐的要素，全面觀照算法技術(shù)的應(yīng)用及其與社會(huì)的交互活動(dòng)。楊保軍認(rèn)為，算法新聞中主要關(guān)涉三類主體，即算法創(chuàng)設(shè)主體、算法運(yùn)用主體和算法收受主體，他們共同結(jié)構(gòu)在一個(gè)新聞生態(tài)體系內(nèi)。此種算法新聞主體建構(gòu)方式強(qiáng)調(diào)了人類的主體性，主要將建構(gòu)的視角聚焦于人類本身以及人與技術(shù)的關(guān)系，但并沒有明確算法新聞存在的社會(huì)場域。算法技術(shù)與新聞界結(jié)合的過程是在依托整體社會(huì)生活的基礎(chǔ)上，人類利用算法技術(shù)來獲得感官和智力的延伸，并以人作為最終目的的過程。因此，制約算法新聞發(fā)展實(shí)踐的主要因素不僅包含人和技術(shù)這兩大主體，社會(huì)力量對(duì)于媒介場域的基礎(chǔ)性影響也不容忽視。

我們從這三個(gè)制約算法新聞實(shí)踐的主要因素展開算法偏見的溯源，可以在一定程度上從千頭萬緒的問題導(dǎo)向邏輯中解脫出來，擺脫技術(shù)邏輯的限制，從而探尋算法偏見產(chǎn)生的根源，在根本上規(guī)避算法偏見的產(chǎn)生并將其限制于工具本位。

二、解構(gòu)技術(shù)神話：算法技術(shù)的局限

算力有限性導(dǎo)致傳播偏見主要表現(xiàn)在以下兩個(gè)方面：

（一）算法技術(shù)對(duì)現(xiàn)實(shí)世界的還原

在算法技術(shù)還原現(xiàn)實(shí)世界的過程中，針對(duì)特定情境的量化雖有難度，但也能夠較為準(zhǔn)確地實(shí)現(xiàn)。然而，整個(gè)現(xiàn)實(shí)世界的復(fù)雜性和人類自身的不確定性難以被大數(shù)據(jù)所表征，抽象化和定理化的數(shù)學(xué)模型和算法程序會(huì)將原本多元的世界簡化。在簡化的過程中必定會(huì)有諸多經(jīng)驗(yàn)世界的事實(shí)被篩去，這種算法技術(shù)的有限性造成的“視覺盲區(qū)”，會(huì)促使人們對(duì)世界的認(rèn)知趨于窄化，對(duì)現(xiàn)實(shí)世界的呈現(xiàn)也將趨于扁平。因此，偏見必然會(huì)在受眾中滋生，真相為偏狹的想象所取代。譬如，由于“視覺盲區(qū)”的存在，我們在接觸媒介信息時(shí)，更多地關(guān)注發(fā)達(dá)國家和社會(huì)主要群體，而對(duì)發(fā)展中國家和社會(huì)多元文化卻視而不見。

（二）算法技術(shù)對(duì)人類多元變化狀態(tài)的模擬

算法利用受眾的個(gè)人信息、群體歸屬和在互聯(lián)網(wǎng)的交互數(shù)據(jù)，描繪出了一個(gè)能夠確認(rèn)用戶屬性、用戶特征和用戶標(biāo)簽的“用戶畫像”。算法會(huì)根據(jù)用戶畫像模擬個(gè)體受眾的認(rèn)知維度，來營造個(gè)人專屬信息環(huán)境。

然而，由于用戶數(shù)量過于龐大，算法系統(tǒng)很難完整收集個(gè)體用戶的基礎(chǔ)數(shù)據(jù)，受眾的互聯(lián)網(wǎng)交互行為又具有很強(qiáng)的隨意性和偶發(fā)性，用戶畫像通常會(huì)被描繪得過于簡化、模糊甚至失真，算法對(duì)受眾認(rèn)知維度的判斷也趨于著武斷甚至是錯(cuò)位。算法會(huì)依照受眾被簡化的人格，將其置身于一個(gè)信息窄化且逐漸喪失流動(dòng)性的信息回聲室中。這種逐漸封閉的信息環(huán)境讓受眾免受多元信息的干擾，輕松獲得偏狹的自我認(rèn)同和對(duì)局部環(huán)境的適應(yīng)。受眾被塑造成為算法“用戶畫像”所規(guī)定的形象，他們對(duì)于現(xiàn)實(shí)社會(huì)的態(tài)度、價(jià)值觀等逐漸偏離客觀現(xiàn)實(shí)，同時(shí)也喪失了諸多修正的機(jī)會(huì)。

三、失敗的自我否定：人類主體性主導(dǎo)算法

（一）算法偏見產(chǎn)生于新聞供給側(cè)

（1）在算法新聞的供給側(cè)，人類作為“主腦”負(fù)責(zé)做出決策，而算法技術(shù)則充當(dāng)“中間人”的角色。雖然算法技術(shù)在一定程度上代替了人類的信息生產(chǎn)和分發(fā)活動(dòng)，但并沒有擺脫人類固有偏見或主動(dòng)或被動(dòng)的干預(yù)。甚至，由于算法技術(shù)這個(gè)“中間人”的掩護(hù)，人類干預(yù)新聞生產(chǎn)和分發(fā)的負(fù)罪感和追責(zé)風(fēng)險(xiǎn)被大大降低，從而起到了推波助瀾的效果。

（二）算法程序在人機(jī)傳播中滋生偏見

隨著人工智能技術(shù)的發(fā)展，人與機(jī)器之間的差距逐漸縮小。頻繁的人機(jī)交互活動(dòng)，讓算法技術(shù)和算法機(jī)器逐漸擺脫以往單純的“中間人”角色，成為能夠與人類交流的另一個(gè)傳播主體。算法機(jī)器人能夠?qū)崟r(shí)處理與人類的交互信息，并可以通過自主學(xué)習(xí)以完成智能應(yīng)對(duì)和決策，是具有模擬人格的虛擬人。但是，由于智能機(jī)器人在與人類的交互活動(dòng)中，缺少能夠排斥人類偏見的價(jià)值觀判別系統(tǒng)，通常作為算法收受主體的普通受眾會(huì)將他們固有的偏見傳遞給智能機(jī)器人。

四、隱蔽的操縱：社會(huì)力量與算法技術(shù)的共謀

阿里爾·扎拉奇和莫里斯·E·斯圖克將社會(huì)政治或經(jīng)濟(jì)力量為實(shí)現(xiàn)特有目的而對(duì)算法技術(shù)實(shí)施的操縱稱之為社會(huì)力量與算法技術(shù)的“共謀”。在算法新聞的生產(chǎn)和傳播活動(dòng)中，代表性的共謀場景主要有兩種：其一是“信使場景”，即算法技術(shù)作為人類意志延伸的工具，通過執(zhí)行人類設(shè)定的計(jì)劃進(jìn)行共謀，在這一場景社會(huì)力量對(duì)算法的操縱較為直接;其二被稱為“代理人場景”，即無數(shù)參與者的信息傳播活動(dòng)，都將圍繞同一個(gè)算法規(guī)則展開，其中主要的市場競爭者隱去自己合縱連橫的身影，利用算法充當(dāng)代理人以實(shí)現(xiàn)自身的特定目的，由此產(chǎn)生的算法偏見將更加且隱蔽難以被追責(zé)。

（一）政治力量的嵌入

阿明·格倫瓦爾德認(rèn)為：“人們常常以強(qiáng)調(diào)技術(shù)對(duì)民主的某些威脅的方式，來研究民主和技術(shù)之間的關(guān)系。這些研究者認(rèn)為，技術(shù)給民主造成了很多麻煩，而非反之?！睂?duì)于算法技術(shù)的應(yīng)用而言，已逐漸由這種技術(shù)決定論的論調(diào)轉(zhuǎn)向?qū)λ惴ㄊ褂弥黧w的關(guān)注，尤其是對(duì)社會(huì)有決定性影響的政治力量。在兩種共謀場景下，政治力量已經(jīng)嵌入算法，并使其在應(yīng)用過程中背離了設(shè)計(jì)初衷。

（二）資本力量的操縱

算法技術(shù)的創(chuàng)造與發(fā)展是以功能作用和可行性為首要宗旨的，但是任何技術(shù)都不可能歸屬于某一單一的社會(huì)子系統(tǒng)，技術(shù)是一個(gè)跨領(lǐng)域現(xiàn)象，社會(huì)資本力量的干涉必然會(huì)使算法技術(shù)背離其創(chuàng)造的初衷。基于商業(yè)利益集團(tuán)以盈利為主要目標(biāo)的商業(yè)邏輯，資本對(duì)算法的操縱將作用于用戶的認(rèn)知層面和行為層面。人民日報(bào)曾批評(píng)“馬保國現(xiàn)象”背后的助推者：“而對(duì)那些熱衷流量、推波助瀾的互聯(lián)網(wǎng)平臺(tái)，如果還有起碼的社會(huì)責(zé)任，就應(yīng)該馬上停止再為這種‘丑行’‘鬧劇’提供傳播渠道?！?/p>

參考文獻(xiàn)：

[1]師文，陳昌鳳.馴化、人機(jī)傳播與算法善用：2019年智能媒體研究[J].新聞界，2020（1）.

[2]阿明·格倫瓦爾德.技術(shù)倫理學(xué)手冊[M].易文波，譯.北京：社會(huì)科學(xué)文獻(xiàn)出版社，2017：223.

[3]許向東，王溪怡.智能傳播中算法偏見的成因、影響與對(duì)策[J].國際新聞界，2020（10）.

課題來源：2021 年度河北省人力資源和社會(huì)保障研究課題《智能媒介時(shí)代的數(shù)字勞動(dòng)研究》 課題編號(hào)JRS-2021-4006

作者簡介：

胡萬鵬，出生年月：1992-10-28，男，漢族，籍貫：河北衡水，所在院校：河北環(huán)境工程學(xué)院，職稱：講師?? 學(xué)位：新聞與傳播碩士，研究方向：新聞傳播理論與新媒體。

孟佳林，出生年月：1986-9-24，女，漢族，籍貫：吉林撫松，所在院校：河北環(huán)境工程學(xué)院，職稱：講師?? 學(xué)位：傳播學(xué)碩士，研究方向：會(huì)展經(jīng)濟(jì)與管理。