“技術(shù)拜物教”：智能化新聞的倫理風(fēng)險(xiǎn)

黃欽 李樂楊

摘要：隨著人工智能與虛擬現(xiàn)實(shí)、增強(qiáng)現(xiàn)實(shí)在新聞?lì)I(lǐng)域的運(yùn)用，智能化新聞已成為未來發(fā)展趨勢，而新技術(shù)的運(yùn)用必將帶來新的倫理風(fēng)險(xiǎn)，包括“賽博格”危機(jī)、新聞敘事“悖論”、監(jiān)管風(fēng)險(xiǎn)“黑箱”等。這些風(fēng)險(xiǎn)的背后是一種“技術(shù)拜物教”，即對大數(shù)據(jù)與算法等智能技術(shù)的大量運(yùn)用、崇拜追捧與代碼狂歡。

關(guān)鍵詞：人工智能 智能化新聞 新聞倫理

“拜物教”源于葡萄牙文feitico（巫術(shù)），起初是指對超自然事物的崇拜和追捧。追捧程度愈深，人們對這個(gè)事物及其周圍場域的態(tài)度愈發(fā)偏離客觀。之后，隨著一些特定的現(xiàn)象或事物不斷涌現(xiàn)，社會(huì)各界不斷賦予拜物教以新的含義，如馬克思在《資本論》中提出的“商品拜物教”、丹·席勒（Dan Schiller）在《信息拜物教：批判與結(jié)構(gòu)》中定義的“信息拜物教”等。今天，算法與大數(shù)據(jù)被廣泛運(yùn)用于各種領(lǐng)域，算法的代碼框架和智能運(yùn)算帶來了更高效、更全面的程序設(shè)計(jì)，而這種程序設(shè)計(jì)的高速軌道為大數(shù)據(jù)提供了處理整合海量代碼的能力，這些新技術(shù)為新聞的智能化生產(chǎn)和傳播提供了可能性。但與此同時(shí)，傳統(tǒng)新聞在逐漸智能化的同時(shí)也可能會(huì)陷入“技術(shù)拜物教”的泥潭，這種過度依賴于算法和大數(shù)據(jù)的新聞傳播現(xiàn)象將會(huì)產(chǎn)生一定的倫理風(fēng)險(xiǎn)。

“賽博格”（c y b o r g）是由“控制論的”（cybernetic）與“有機(jī)生物體”（organism）兩個(gè)詞語拼貼而成，意思是“自動(dòng)調(diào)整的生物機(jī)器系統(tǒng)”。1985年，美國學(xué)者唐娜·哈拉維將這一概念的適用范圍從對被植入滲透泵的小白鼠的觀察轉(zhuǎn)向?qū)θ祟愖陨淼姆此?，提出了著名的“賽博格宣言”。在她看來，“賽博格”即有機(jī)體和機(jī)器系統(tǒng)的融合與互嵌，其中，既有生物與技術(shù)雙重邏輯的融合，也包括實(shí)體與虛擬空間的融合。根據(jù)哈拉維的描述，網(wǎng)絡(luò)社會(huì)的智能身體主體，就是賽博人。而隨著以混合現(xiàn)實(shí)和人工智能為代表的新技術(shù)嵌入新聞傳播領(lǐng)域，“新聞賽博人”或?qū)⒊蔀橐环N趨勢。

混合現(xiàn)實(shí)最早由美國兩位學(xué)者在1994年提出，它包含了虛擬現(xiàn)實(shí)（Virtual Reality，VR）與增強(qiáng)現(xiàn)實(shí)（Augmented Reality，AR）的概念機(jī)制，是一種目前在沉浸體驗(yàn)和模擬成本平衡中最優(yōu)的概念。VR是構(gòu)建完全虛擬的場景，AR是將虛擬程序物疊加投放到現(xiàn)實(shí)環(huán)境中，而MR則不需要完全虛擬全部空間，也能在現(xiàn)實(shí)場景中構(gòu)建可全面交互的虛擬物，將交互的沉浸體驗(yàn)與虛擬場景更全面地結(jié)合，具備環(huán)境理解功能，卻又不需要額外大量的虛擬環(huán)境構(gòu)建成本。

人工智能被視為人類的第四次革命、圖靈革命。AI的出現(xiàn)是神經(jīng)網(wǎng)絡(luò)發(fā)展到一定階段的結(jié)果，通過將計(jì)算機(jī)的算法與生物學(xué)的神經(jīng)節(jié)點(diǎn)相結(jié)合，從而讓其算法具有智能性、自主性。在媒體智能化中，AI將海量信息數(shù)據(jù)進(jìn)行整合演變運(yùn)算、智能編寫，既可以根據(jù)受眾分析精準(zhǔn)推送，也可以進(jìn)行事件和輿情的預(yù)測推演。如“今日頭條”的用戶推送、上?！暗谝回?cái)經(jīng)”的AI均可以智能采集信息并且根據(jù)人類撰寫的寫作經(jīng)驗(yàn)進(jìn)行智能新聞編寫；《洛杉磯時(shí)報(bào)》的AI在2014年的一次地震中第一時(shí)間預(yù)測并編寫推送了一則地震新聞。

因此，如果說混合現(xiàn)實(shí)為新聞的場景化再現(xiàn)提供了新的可能，那么，人工智能技術(shù)則正在引發(fā)新聞生產(chǎn)和傳播的革命性變化?；蚩深A(yù)見，當(dāng)MR和AI等技術(shù)發(fā)展成熟并全面商業(yè)化之后，受眾的閱讀習(xí)慣和方式將進(jìn)一步轉(zhuǎn)變，將從觀看到沉浸，從被動(dòng)選擇到主動(dòng)接受。正如保羅·萊文森的“人性化趨勢理論”所描述的，媒介技術(shù)在進(jìn)化過程中呈現(xiàn)出一種愈發(fā)迎合人類需求和便于人類使用它進(jìn)行信息交流的傾向。介于現(xiàn)實(shí)和虛擬之間的混合現(xiàn)實(shí)，基于受眾個(gè)人信息和生物反饋的人工智能，確實(shí)讓受眾能夠獲得獨(dú)一無二的沉浸感與個(gè)性化的媒介體驗(yàn)。受眾也將更容易按照新聞生產(chǎn)者所規(guī)劃的情感路徑進(jìn)行預(yù)計(jì)中的共情，進(jìn)而形成可掌控的社會(huì)輿論。但與此同時(shí)，值得警惕的是，未來精準(zhǔn)推送到MR設(shè)備中的智能新聞所帶來的感官體驗(yàn)是傳統(tǒng)屏幕所無法比擬的，每日高頻率、高強(qiáng)度的感官體驗(yàn)所帶來的共情將會(huì)持續(xù)影響受眾的大腦神經(jīng)。一方面，身臨其境的體驗(yàn)或?qū)p少受眾的自制力，受眾將更加關(guān)注新聞所帶來的感官體驗(yàn)而非內(nèi)容本身；另一方面，以MR和人工智能為代表的新技術(shù)的快速迭代也將使得人類的賽博現(xiàn)象愈演愈烈，或?qū)⒃谏飳W(xué)意義上超過人類感官的實(shí)際承載能力。

未來，新聞傳播領(lǐng)域的“賽博格”現(xiàn)象將如何演化？智能化新聞的接收裝置是否將融入受眾的軀體？這些都未可知。2021年4月，美國的Neuralink公司曾公布了一段記錄微芯片被植入猴子大腦并讓猴子可以用自己的意念進(jìn)行游戲的視頻，期間，猴子的大腦活動(dòng)被完整記錄下來。倘若類似芯片被植入人體用以接收和傳播信息，這些智能裝置會(huì)出現(xiàn)代碼錯(cuò)誤或被黑客攻擊嗎？一旦出現(xiàn)，我們又能否防止其出現(xiàn)難以挽回的病理性崩壞？這些都是我們應(yīng)該思考的。

受結(jié)構(gòu)主義影響，傳統(tǒng)的新聞敘事研究在很大程度上是一種文本研究，相對忽視了媒介技術(shù)在敘事中的重要性。但實(shí)際上，新的媒介技術(shù)不僅是新聞傳播的渠道，同時(shí)也形塑著新聞敘事模式。相對于傳統(tǒng)新聞的單一線性敘事模式，數(shù)據(jù)新聞給我們帶來了交互性敘事和超線性敘事，VR新聞給我們帶來了沉浸式敘事，而以混合現(xiàn)實(shí)和人工智能為代表的新技術(shù)則使得新聞進(jìn)入場景化敘事時(shí)代。

對于敘事來說，技術(shù)既是資源，也是限制，而且，在技術(shù)不同發(fā)展階段，技術(shù)與敘事的關(guān)系也不盡相同。美國學(xué)者保羅·萊文森曾用“玩具、鏡子、藝術(shù)”來形容媒介技術(shù)的演進(jìn)路徑。在新技術(shù)出現(xiàn)初期，技術(shù)是人們樂在其中的玩具，基于情節(jié)、人物的敘事只能充當(dāng)技術(shù)的點(diǎn)綴品，人們可能因?yàn)榧夹g(shù)的原因而對內(nèi)容進(jìn)行刻意的選擇、刪節(jié)和簡化。隨著技術(shù)的演進(jìn)和人類對技術(shù)運(yùn)用能力的提升，技術(shù)的展示將退居幕后，敘事的地位和作用將得到凸顯，技術(shù)成為真實(shí)再現(xiàn)現(xiàn)實(shí)世界的工具和“鏡子”。而在工具論之后，當(dāng)人們開始運(yùn)用新技術(shù)對現(xiàn)實(shí)世界進(jìn)行創(chuàng)造性表現(xiàn)和重塑時(shí)，媒介技術(shù)也就進(jìn)入了“藝術(shù)”階段。

當(dāng)下，新媒介技術(shù)尚處在弱智能階段，新聞內(nèi)容經(jīng)常淪為技術(shù)的附庸。因?yàn)榧夹g(shù)水平的限制或?yàn)榱擞霞夹g(shù)表達(dá)，敘事往往退而求其次，只追求模擬、仿真而放棄對內(nèi)容的深度理解和情感表達(dá)，敘事的嚴(yán)肅性亦讓位于傳播的游戲化，敘事質(zhì)量不盡如人意。未來，隨著智能技術(shù)的升級，人工智能將越來越貼近人類的思維邏輯，其對事物關(guān)系的發(fā)現(xiàn)力和解釋力甚至可能超越人類自身。但毋庸置疑，人工智能在新聞?lì)I(lǐng)域的應(yīng)用并沒有改變?nèi)伺c世界被“中介化”的格局，只不過，這個(gè)“中介因素”從傳統(tǒng)的記者變成了記者與程序員的組合。相對于傳統(tǒng)媒體中的新聞，混合現(xiàn)實(shí)和人工智能技術(shù)讓記者“消失”得更為徹底，因而也使得被技術(shù)化表征后的新聞顯得更加真實(shí)和權(quán)威。

可以想見，當(dāng)智能化新聞將文本、圖片、視頻的傳統(tǒng)敘事轉(zhuǎn)向三維虛擬呈現(xiàn)，配合體感控制和浮躍UI，新聞的傳播達(dá)到身體與心靈雙重沉浸的傳播效果，且更加個(gè)性化，受眾可以更加自由地選擇閱讀部分新聞內(nèi)容或是折疊隱藏部分內(nèi)容。這使得部分媒體在推送智能新聞的同時(shí)，可能將更加注重初始文本的體現(xiàn)而非新聞文本的整體性。在智能化新聞的混合現(xiàn)實(shí)場景中，簡單明晰且配合MR片段設(shè)計(jì)感的注釋與不需受眾分配更多感官的多維旁白，可能將會(huì)是一種未來主流的智能化新聞的敘事方式。MR的沉浸式體驗(yàn)一方面讓用戶更切身直面新聞場景；另一方面，這種營造的感官真實(shí)卻可能使得部分場景的隱蔽，帶來新聞內(nèi)容的“縮水”，部分客觀信息甚至可能在媒體有意或無意的新聞制作中消失。

“黑箱”理論源自控制學(xué)，是指在人們只能被動(dòng)地在系統(tǒng)的輸入端與輸出端進(jìn)行研究，而整個(gè)系統(tǒng)運(yùn)作過程猶如一個(gè)黑箱無法被透析，這是一個(gè)普遍未知的區(qū)域。人工智能無疑就是一個(gè)監(jiān)管的盲區(qū)和“黑箱”。

對于人工智能來說，數(shù)據(jù)和算法是其兩大支柱。人工智能需要海量數(shù)據(jù)以及針對這些數(shù)據(jù)的自主識別、判斷和決策的算法。作為人工智能的核心要素，數(shù)據(jù)被譽(yù)為“新型的石油”。擁有數(shù)據(jù)、算力和資本的互聯(lián)網(wǎng)企業(yè)都開始向手機(jī)、家電、汽車等終端設(shè)備延伸布局，旨在獲得更多數(shù)據(jù)采集的端口，以便為用戶提供更加精準(zhǔn)的服務(wù)。而算法本身則具有某種不透明的“黑箱”性質(zhì)，引發(fā)“算法歧視”的原因也較多。“有些歧視是數(shù)據(jù)有偏性造成的，有的是機(jī)器自我學(xué)習(xí)造成的，還有的是人為造成的，要在系統(tǒng)中發(fā)現(xiàn)有沒有存在歧視和歧視根源，在技術(shù)上是比較困難的”。因而，隨著未來新聞傳播從媒體型、關(guān)系型轉(zhuǎn)向算法驅(qū)動(dòng)型，在缺乏有效監(jiān)管的情況下，數(shù)據(jù)風(fēng)險(xiǎn)、算法本身“黑箱”屬性加之互聯(lián)網(wǎng)企業(yè)的逐利本性，或?qū)?dǎo)致智能化新聞常態(tài)化地偏離事實(shí)真相，從而給公共利益帶來損害。

同時(shí)，隨著智能化技術(shù)的普遍運(yùn)用，產(chǎn)業(yè)壟斷現(xiàn)象也將不可避免。一方面，部分互聯(lián)網(wǎng)企業(yè)因?yàn)檎莆沾髷?shù)據(jù)和算法而能夠?yàn)橛脩舢嬒?，為用戶提供更加精?zhǔn)的信息服務(wù)，從而獲得巨大的流量和利潤；另一方面，核心智能設(shè)備的技術(shù)框架也越來越掌握在極少數(shù)壟斷資本手中。據(jù)GlobalData的交易數(shù)據(jù)顯示，2016—2020年，AI技術(shù)的交易格局由美國科技巨頭主導(dǎo)，其中，蘋果公司5年內(nèi)一共收購了25家人工智能企業(yè)。失去競爭壓力的壟斷資本，將會(huì)更加具有代碼權(quán)力。因此，從某種意義上來說，未來的信息傳播或?qū)⒂蓧艛噘Y本所控制的數(shù)據(jù)和算法所驅(qū)動(dòng)，而不受倫理或哲學(xué)規(guī)范的約束。

從法律監(jiān)管層面來看，人工智能的研發(fā)具有與一般商品生產(chǎn)不同的特點(diǎn)，因而給事前和事后監(jiān)管帶來諸多困難。首先，如果從法律上要求人工智能技術(shù)事先公開算法系統(tǒng)的源代碼，非但不能提供有效的透明度，無法對結(jié)果進(jìn)行有效解釋，反而可能威脅數(shù)據(jù)隱私或影響技術(shù)安全應(yīng)用。其次，人工智能的自主性又使得相關(guān)部門難以進(jìn)行事后主體歸責(zé)。例如，2016年，澎湃新聞客戶端就曾曝出“江西九江潯陽區(qū)6.9級地震”的假新聞，原因就在于寫稿機(jī)器人自動(dòng)錄入并錯(cuò)誤解讀了地震臺(tái)網(wǎng)站后臺(tái)信息。

技術(shù)從來都是一把雙刃劍。智能化新聞帶來精準(zhǔn)推送和感官享受，同時(shí)也會(huì)帶來各種倫理風(fēng)險(xiǎn)。受眾應(yīng)從“技術(shù)拜物教”中警醒，捍衛(wèi)作為人的主體性的存在價(jià)值。一套完整全面的私人防護(hù)機(jī)制應(yīng)伴隨智能技術(shù)的發(fā)展而廣泛應(yīng)用在智能化的媒介時(shí)代。社會(huì)應(yīng)針對用戶設(shè)計(jì)專門的算法進(jìn)行人性化的身體風(fēng)險(xiǎn)預(yù)警防護(hù)，保障用戶的合理使用和健康安全。同時(shí)，一套適用于人工智能研發(fā)和信息傳播產(chǎn)業(yè)的完善的、可預(yù)見性的法規(guī)體系也至關(guān)重要。

作者黃欽系廣西藝術(shù)學(xué)院教授、碩士生導(dǎo)師

李樂楊系廣西藝術(shù)學(xué)院影視與傳媒學(xué)院碩士研究生

本文系2020年度廣西高等教育本科教學(xué)改革工程項(xiàng)目“‘互聯(lián)網(wǎng)+’時(shí)代運(yùn)用影像講好中國故事的創(chuàng)新傳播人才培養(yǎng)研究”（項(xiàng)目編號：2020JGA257）階段性研究成果；受“廣西八桂學(xué)者”專項(xiàng)經(jīng)費(fèi)資助。

參考文獻(xiàn)

[1] Paul Milgram，F(xiàn)umio Kishino.A Taxonomy of Mixed Reality Visual Displays[J].IEICE TRANSACTIONS on Information and Systems，Vol E77-D，No.12.

[2][意]盧西亞諾·弗洛里迪.第四次革命：人工智能如何重塑人類現(xiàn)實(shí)[M].王文革，譯.杭州：浙江人民出版，2016.

[3] 楊保軍，杜輝.智能新聞：倫理風(fēng)險(xiǎn)·倫理主體·倫理原則[J].西北師大學(xué)報(bào)（社會(huì)科學(xué)版），2019（01）.

[4][美]保羅·萊文森.人類歷程回放：媒介進(jìn)化論[M].鄔建中，譯.重慶：西南師范大學(xué)出版社，2017.

[5]王佳航.敘事變遷：技術(shù)驅(qū)動(dòng)下的新聞表達(dá)重構(gòu)[J].新聞與寫作， 2016（06）.

[6]朱瑞娟.連接與隔離：虛擬現(xiàn)實(shí)新聞敘事的倫理風(fēng)險(xiǎn)[J].新聞界，2017（04）.

[7]梁正，余振，宋琦.人工智能應(yīng)用背景下的平臺(tái)治理：核心議題、轉(zhuǎn)型挑戰(zhàn)與體系構(gòu)建[J].經(jīng)濟(jì)社會(huì)體制比較，2020（03）.

[8]張超，鐘新.從比特到人工智能：數(shù)字新聞生產(chǎn)的算法轉(zhuǎn)向[J].編輯之友，2017（11）.

[9]曹建峰.人工智能治理：從科技中心主義到科技人文協(xié)作[J].上海師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2020（05）.

[10]李新瑜，張永慶.基于產(chǎn)業(yè)鏈視角的人工智能風(fēng)險(xiǎn)分析及其防范[J].人文雜志，2020（04）.

[11]張波.人工智能新聞出版的監(jiān)管難點(diǎn)與優(yōu)化路向[J].編輯之友，2020（03）.

【編輯：錢爾赫】