馬克思批判理論視域下智能算法推薦崇拜的生成邏輯及倫理風險

徐 靜，王雪倩

1 從“商品拜物教”到智能推薦算法崇拜

商品拜物教作為馬克思中后期的重要思想內容之一，不同于人們以虛幻的神為崇拜對象的宗教崇拜，而是人們把人類生產(chǎn)的商品作為崇拜對象。隨著當代信息社會的擴張和人工智能的發(fā)展，商品拜物教發(fā)生了變化，呈現(xiàn)出智能算法崇拜的時代特點。算法是一種模擬仿真技術，通過對信息數(shù)據(jù)內容的建模處理，模擬人的認知能力、分析和決策能力并在此基礎上實現(xiàn)技術方面的超越。簡單來說，智能算法推薦通過信息數(shù)據(jù)技術，有效地幫助相關機構實現(xiàn)對于海量用戶信息價值的準確評估和分配、適配。然而當前智能算法推薦使用的普及發(fā)展，打破了原有在信息分發(fā)適配方面的邊界，進一步把強大優(yōu)勢影響到上游的創(chuàng)作、互動和審核方面，使信息的生產(chǎn)形成數(shù)據(jù)皆可算法化以及數(shù)據(jù)皆可物化的智能算法推薦崇拜心理，妄圖利用技術解決一切問題，實現(xiàn)“技術的烏托邦”。但是，用戶在享受算法推送的同時又受困于有限的推送，技術的異化在算法推送中體現(xiàn)。

2 智能算法推薦的生成邏輯

1）對于算法的私有化占有而言，算法是建立在信息、數(shù)據(jù)大量生產(chǎn)、復制、免費性商品私有化的基礎之上。

數(shù)據(jù)是信息的特殊表現(xiàn)形式，那么從馬克思視角出發(fā)，數(shù)據(jù)是一種特殊的商品，它在消費中很難被用完，可以很容易和快速地復制和分發(fā)，復制成本低，是非競爭性的。在大數(shù)據(jù)時代，大規(guī)模、多樣化、低密度的數(shù)據(jù)通過社交媒體、移動設備、大數(shù)據(jù)、傳感器和定位系統(tǒng)匯集在一起。在消費領域，為了資本積累，權力擁有者就會通過一定的手段將數(shù)據(jù)變?yōu)樗接衅?，而算法在其中就能夠發(fā)揮出巨大的作用。算法模型通過目前常用的四種基于內容的推薦系統(tǒng)（Content-based）、協(xié)同過濾系統(tǒng)（Collaborative filterring）、基于用戶——產(chǎn)品的二部圖網(wǎng)絡結構（Netork-based）、混合推薦系統(tǒng)（Hybrid）的智能推薦分發(fā)信息模式，將海量不同屬性的數(shù)據(jù)集相互關聯(lián)，來為用戶的狀態(tài)、需求與內外部的連接發(fā)揮價值增益的作用，也為公共數(shù)據(jù)的私有化占有奠定基礎。

對于算法制造者而言，算法制造蘊含了制造者的多層價值觀。他們能夠將具有公共性的數(shù)據(jù)變?yōu)橐环N算法的知識產(chǎn)權，即對于數(shù)據(jù)的商業(yè)秘密性的私有化占有，例如現(xiàn)在主流的智能推薦算法大多由商業(yè)公司開發(fā)，算法制造者的工作很少包括稱贊那些收集和整理數(shù)據(jù)集的人的工作，以及編寫更多數(shù)學算法的人的工作，而是基于他們自己公司的利益而去雇傭其它人創(chuàng)造算法，算法制造的最根本目的是通過信息技術追求實現(xiàn)極致的流量價值進而獲得最大化利益的資本回報。其次，企業(yè)本身的文化也會左右算法制造。如Facebook作為社交媒體，注重互動的“Friends family first”原則在算法制作的體現(xiàn)上就表現(xiàn)為不斷為用戶推送與其互動關系強的用戶的相關信息。

2）從算法背后的社會關系來看，當算法生產(chǎn)進入交換環(huán)節(jié)成為商品，并直接支配并控制算法用戶的習慣，算法背后的社會關系得到更加自然的顛倒。

算法生產(chǎn)后進入交換環(huán)節(jié)擁有了生命，并直接支配和控制算法用戶的習慣，算法作為商品生產(chǎn)的目的不是創(chuàng)造使用價值，而是創(chuàng)造交換價值，進而異化勞動產(chǎn)品為人服務的主體理念，成為支配勞動者命運的存在，社會關系呈現(xiàn)一種真實的顛倒。

算法使這種顛倒的社會關系變得更加自然化，人在不知不覺中受到算法的“支配”。2016年是算法編輯超越人工的轉折之年，據(jù)美國皮尤研究中心發(fā)布的《2016美國社交媒體平臺新聞使用報告》數(shù)據(jù)顯示，F(xiàn)acebook已經(jīng)成為人們閱讀新聞的最大入口。在美國最大的社交平臺Facebook上，用戶可以不用直接為使用它而付費，就可以即刻體驗到在這個平臺上自己與他人之間、他人與他人之間的社交關系，并可以享用到社交平臺上的智能算法推薦的信息分發(fā)權力。

社交關系和被賦權賦能的信息分發(fā)權力掩蓋了Facebook的商品形式，智能算法推薦崇拜在Facebook上以一種翻轉的形式呈現(xiàn)出來：在商品拜物教中，資本和社會生產(chǎn)結構才是物與物表象關系背后所隱藏的真實的社會關系。在企業(yè)社交媒體上，平臺的社交性特點掩蓋了其背后的商品形式，用戶能夠即刻地、具體地體驗到社會關系和信息分發(fā)的權力，而商品形式作為隱形存在，并不直接面對用戶。這也就是為何Facebook和Google并不傳播或售賣使用權，但卻是世界上最大的廣告公司的原因。

3）被包裝為社會崇拜物：集體無意識。在算法私有化的生產(chǎn)方式和社會關系下，資本的運作邏輯作用于市場的交換原則中，形成數(shù)據(jù)皆可算法化及數(shù)據(jù)皆可物化的內在分配、供需及交換的框架，進而導致社會的拜物神圣化心理在整個社會經(jīng)濟中滋生蔓延。

當下智能算法推薦通過算法技術邏輯沖破傳統(tǒng)寡頭權力的柵欄，信息生產(chǎn)和分發(fā)技術的發(fā)展使得個人對信息自我賦權的意識增強，用戶主導信息的權利不斷擴大。傳統(tǒng)的“人找信息”模式通過算法推薦技術進階到“信息找人”模式。但是現(xiàn)在的問題是社會將算法達成了社會契約式的迷戀物（崇拜物），用戶能夠真真切切體驗到它為帶來的好處，比如它可以通過挖掘個人的特征，進行個性化推送為每個人提供他們想要的東西，也能夠為制造者創(chuàng)造高額工資。但是，大多數(shù)用戶由于對個性化算法的運算規(guī)則并不清楚，產(chǎn)生了對算法技術的集體無意識崇拜。當算法運用于信息分發(fā)的過程中，算法模型經(jīng)常以無聲無息的方式在虛擬數(shù)字世界中處理信息、評估現(xiàn)狀、得出關聯(lián)進而做出推送決定，在整個運作過程中少有監(jiān)督，只有在形成錯誤或失敗時才會被注意到這種無意識。用戶被牢牢地聚攏在算法構建的擬態(tài)環(huán)境中，雖然算法自身不具備具體的權力，但實際上它在技術無意識的層面上代表著背后的政治或商業(yè)利益，而被算法效果所吸引的用戶在很大程度上并不知道自己受到商業(yè)利益的控制。

3 智能算法推薦崇拜的倫理風險

1）“算法表象”主導生活。2016年是算法編輯超越人工的轉折之年，F(xiàn)acebook已成為美國人們閱讀新聞的最大入口。從2017年6月易觀數(shù)據(jù)發(fā)布的《中國移動互聯(lián)網(wǎng)網(wǎng)民行為分析》中可以看出，2016年這一年我國的信息市場也出現(xiàn)了算法推薦超越人工推送信息的現(xiàn)象，之后，算法推薦進一步搶占用戶注意力市場，遠遠將人工推送甩在身后。人們的大部分生活和時間都被算法生成的表象所吸引和控制著，生活本身展現(xiàn)為算法推薦的龐大堆聚，算法構建的表象和其賦予意義就成為用戶的日常追求。

著名學者戈夫曼在其著作《日常生活的自我呈現(xiàn)》中，通過一系列舞臺表演概念闡述了經(jīng)典的擬劇理論。他將戲劇表演中的詞匯——“舞臺”引入到闡述中，將人類的表演場稱作舞臺。舞臺又劃分為前臺和后臺。在前臺，表演者為了使自身形象及表演呈現(xiàn)理想化的景觀，會不自主的有意識的通過模型和修改展示社會期待中理想化的自己。后臺的呈現(xiàn)景觀更加真實、隨意，相較于前臺，表演者在后臺則不必那樣刻意關注自己的形象。在以往傳統(tǒng)的信息分發(fā)獲取中，表演者按照自身所獲取的信息中對于社會理解和期望的評定，在前臺和后臺中角色呈現(xiàn)以明確的舞臺媒介為限進行明確的行為表演，而在當下智能推薦算法的技術邏輯下，個人的后臺數(shù)據(jù)以隱形的數(shù)據(jù)呈現(xiàn)被算法無聲無息生成出個性化的用戶推薦成為表演者獲取社會理解和期望的新評定標準，進而帶入前臺的表演，這個過程實質上是將后臺前置，將與個人日常生活相關，呈現(xiàn)個體的每一個場景、生活由此變成了一個個的智能算法推薦。

2）制造消費和消費異化。在智能算法推薦場景中，算法構成的場景消費模式對用戶的控制主要體現(xiàn)在經(jīng)濟上的控制，通過不斷的創(chuàng)造消費需求和引導人們持續(xù)不斷的消費上來實現(xiàn)。

馬克思批判理論的后繼者社會學家居伊·德波認為，消費社會中的各種景觀都是服務于消費生產(chǎn)的。景觀系統(tǒng)中的消費即便是虛假需求所引起的消費，作為不斷強化指導孤獨人群的武器，也是能夠引起生產(chǎn)周期的循環(huán)和不斷擴張。這里德波對于景觀由消費產(chǎn)生，又不斷引起消費的生產(chǎn)和擴張的表述，與算法作用于消費的模式具有高度一致性。這種算法引導消費的模式又會進一步加深人們的算法崇拜。

在算法場景中，其消費模式基于用戶的個人習慣，通過算法設計，定制化地為每一位用戶制造消費，這使得這一時期和場景下的商品地位更加突出于馬克思所描述的狀況，算法崇拜和異化消費從而存在內在的邏輯聯(lián)系。在這種技術環(huán)境和算法崇拜下，人們的真實及虛假需求被不斷地制造出來，與此相連的是社會生活被商品殖民化。算法推薦所制造的商品消費層出不窮，消費商品作為一種隱性的控制力量進駐到人們的生活中，并且開疆擴土，不斷創(chuàng)造出新的需求，最終人們的生活被商品消費所支配，消費被異化，這種控制力量也變得清晰可見。

3）個人信息隱私權的“無保障”及媒介內容價值觀的“無序化”。在消費領域，為了資本積累，權力擁有者就會通過一定的手段將數(shù)據(jù)變?yōu)樗接衅?，而算法在其中就能夠發(fā)揮出巨大的作用。算法模型將這些用戶日常生活中產(chǎn)生不同屬性的數(shù)據(jù)集相互關聯(lián)，來為用戶的狀態(tài)、需求與內外部的連接發(fā)揮價值變現(xiàn)的作用。算法本身是沒有對與錯，不存在價值觀，但是算法程序所依托的價值變量的設定以及信息生產(chǎn)盈利平臺作為渠道分發(fā)的內容是存在著價值觀。算法私有化導致算法制造的目的是經(jīng)營者為了獲得最大化利益的資本回報，在此基礎上，當個人數(shù)據(jù)信息的占有成為獨特性贏利的資本，蘊含著不同價值觀念的內容被分發(fā)到受眾端，價值觀在沒有統(tǒng)一導向的情況下被無秩序地傳遞。個人信息隱私權的“無保障”及媒介內容價值觀的“無序化”直接對用戶、對社會產(chǎn)生重大的倫理問題。

2018年3月，美國《紐約時報》報道一家名為劍橋分析（Cambridge Analytica）的數(shù)據(jù)公司非法竊取5000萬Facebook用戶的數(shù)據(jù)資料，并利用算法通過大數(shù)據(jù)分析，利用每個用戶的興趣愛好、個性特征、行為習慣預測他們的政治傾向。除了預測，這家公司還能借助Facebook的廣告投放系統(tǒng)，利用數(shù)據(jù)分析，對用戶進行個性化、精準化的信息定制和推送，使用戶在推薦的信息中潛移默化地被影響，最終達到影響用戶投票選擇的目的。2018年4月，我國國家廣播電視總局在督查“今日頭條”網(wǎng)站整改工作時，發(fā)現(xiàn)其中的“內涵段子”這一客戶端軟件存在著導向不正、格調低俗等突出問題，責令其永久關停，并且全面清理類似算法推薦的視聽節(jié)目產(chǎn)品。由于算法的真正權力主體并沒有參與到算法的運作中，反而權力主體用戶個人信息隱私權的“無保障”以及算法編輯把關的缺位，大量的個人信息被曲解利用，混亂低俗價值觀的、重復性高的軟新聞充斥到用戶推薦頁，而真正受眾應知道的關乎國計民生和人們切身利益的公共性信息明顯占比不足，媒介智能推薦算法的信息內容“無序化”給用戶合理價值觀的形成也帶來一定負面影響。

當下用戶不再按傳統(tǒng)方式與服務供應商進行直接、單一的聯(lián)系，而是要同時跨越時間、空間限制與數(shù)據(jù)中間商和數(shù)據(jù)后續(xù)利用者等多元主體建立多維復雜的關聯(lián)。同時，智能算法推薦從誕生以來，沖破傳統(tǒng)寡頭權力的桎梏，實現(xiàn)了用戶個人對信息的自我賦權，雖然在實際算法應用過程中出現(xiàn)一些倫理問題，但從總體來說，人工智能信息技術的發(fā)展使用 是大勢所趨。強制管制只會適得其反，但是智能算法推薦崇拜是建立在對數(shù)據(jù)私有化、程序化的生產(chǎn)機制中，因此對算法崇拜的倫理風險防范策略還需要主要建立在數(shù)據(jù)的公開性、透明度原則之上，在具體倫理防范實踐中根據(jù)算法場景導向的原則，建立合理的算法風險評估和管理體制。