人機(jī)交互中的生成式人工智能新聞：主體賦能、危機(jī)與應(yīng)對(duì)

蔣雪穎，許 靜

（北京大學(xué) 新聞與傳播學(xué)院，北京 100089）

生成式人工智能（Generative Artificial Intelligence，縮寫為GAI）能夠采用不同的技術(shù)和架構(gòu)來學(xué)習(xí)數(shù)據(jù)中的潛在模式和依賴關(guān)系，并在此基礎(chǔ)上生成新的內(nèi)容，通過人機(jī)交互的方式在新聞生產(chǎn)和傳播過程中發(fā)揮著關(guān)鍵作用。人機(jī)交互新聞從本質(zhì)上來說是一種技術(shù)媒介的社會(huì)參與（Technology-Mediated Social Participation），涵蓋了社會(huì)參與、技術(shù)調(diào)整和創(chuàng)新的復(fù)雜過程[1]。通過人對(duì)算法的主動(dòng)調(diào)整和修改，人機(jī)交互新聞實(shí)現(xiàn)了一種獨(dú)特的協(xié)同工作方式，旨在最大化人類的創(chuàng)造力和洞察力，同時(shí)借助GAI的高效計(jì)算能力，實(shí)現(xiàn)新聞生產(chǎn)和傳播的“自動(dòng)化”。在早期階段，AI主要用于實(shí)現(xiàn)數(shù)據(jù)收集和基本報(bào)道等常規(guī)任務(wù)的自動(dòng)化，隨著AI技術(shù)的發(fā)展，其在新聞業(yè)中的作用也在不斷擴(kuò)大，出現(xiàn)了機(jī)器人寫作、大數(shù)據(jù)算法推薦、人工合成AI主播等多種應(yīng)用。從機(jī)器學(xué)習(xí)到自然語(yǔ)言處理，新聞機(jī)構(gòu)可以利用AI 將構(gòu)成新聞生產(chǎn)鏈的大量任務(wù)自動(dòng)化，包括檢測(cè)、提取和驗(yàn)證數(shù)據(jù)、制作報(bào)道和圖表、發(fā)布以及自動(dòng)標(biāo)記文章。如今，GAI不僅可以直接生成新聞文本、圖像和聲視頻，還能分析大型數(shù)據(jù)集、識(shí)別趨勢(shì)。盡管取得了這些進(jìn)步，但將GAI融入新聞業(yè)也引發(fā)了倫理和技術(shù)問題，其中包括新聞準(zhǔn)確性、真實(shí)性、獨(dú)立性等問題，因此確保在新聞業(yè)中負(fù)責(zé)任地使用人工智能至關(guān)重要。

在智能時(shí)代，人機(jī)關(guān)系的研究已經(jīng)超越了純粹的“人與物”的關(guān)系范疇，而成為“復(fù)合概念”，既包括作為客觀的“人機(jī)關(guān)系”的歷史和時(shí)代嬗變，也包括“人與機(jī)器”相互連接、彼此觸發(fā)的生產(chǎn)力和生產(chǎn)關(guān)系之間相互交合和循環(huán)維度[2]。人機(jī)關(guān)系既包括人與機(jī)器之間的具體交互行為，也包括人類對(duì)技術(shù)的認(rèn)知和理解，二者相互作用，共同構(gòu)成了人機(jī)關(guān)系的本質(zhì)。在人機(jī)交互的視角下，新聞實(shí)踐中涌現(xiàn)多元主體，包括傳播主體（新聞工作者）、接受主體（新聞?dòng)脩簦?、?shí)現(xiàn)主體（計(jì)算機(jī)工程師）、源主體（提供新聞信息源的主體）、影響主體（受新聞?dòng)绊懙膫€(gè)體和組織）和高位主體（企業(yè)管理者）[1]。這些主體之間相互交織，共同構(gòu)建了一個(gè)復(fù)雜而豐富的新聞生態(tài)系統(tǒng)，其中傳播主體和接受主體是受到GAI 直接影響的關(guān)鍵主體。

本文旨在從人機(jī)交互的視角深入探討GAI對(duì)關(guān)鍵主體的賦能如何變革了新聞業(yè)的面貌，探討GAI引發(fā)的主體性危機(jī)，提出不同主體應(yīng)對(duì)危機(jī)的路徑，并進(jìn)一步思考人機(jī)關(guān)系的走向。理解人機(jī)關(guān)系的深層次內(nèi)涵，有助于我們更好地把握GAI 技術(shù)在新聞業(yè)中的應(yīng)用，確保技術(shù)的發(fā)展更好地服務(wù)于人類的需求和社會(huì)的利益，更有效地規(guī)劃未來新聞工作中技術(shù)與人的合作方式，以推動(dòng)新聞業(yè)的可持續(xù)發(fā)展。

一、生成式人工智能新聞的主體賦能

GAI在新聞?lì)I(lǐng)域的融合已經(jīng)成為媒體創(chuàng)新的前沿，智能化和自動(dòng)化作為這一趨勢(shì)的兩個(gè)核心方向，不僅改變了新聞生產(chǎn)的模式，也重新定義了人機(jī)關(guān)系。這意味著人類和計(jì)算機(jī)之間的交互不再是單向的，而是雙向的，計(jì)算機(jī)不僅能夠響應(yīng)人類的指令，還能夠根據(jù)人類的需求和反饋進(jìn)行智能化處理和自動(dòng)化執(zhí)行，從而更好地滿足人類的需求并提高工作效率。圖1展示了不同自動(dòng)化程度下人機(jī)新聞生產(chǎn)的融合階段，強(qiáng)調(diào)了不同新聞編輯室在采取策略時(shí)的靈活性與差異性。從最初的新聞選題推薦到機(jī)器人編寫新聞報(bào)道草稿，再到機(jī)器人在高度自動(dòng)化階段能夠自動(dòng)生成發(fā)布新聞報(bào)道，整個(gè)過程呈現(xiàn)出復(fù)雜的非線性發(fā)展。這取決于不同新聞編輯室的資源、能力和戰(zhàn)略目標(biāo)，以及其在不同時(shí)間采取的策略。

圖1 不同自動(dòng)化程度下人機(jī)新聞生產(chǎn)的融合

GAI在新聞?lì)I(lǐng)域?yàn)榫庉?、記者、用戶等關(guān)鍵主體賦能，發(fā)揮了結(jié)構(gòu)性優(yōu)勢(shì)：數(shù)據(jù)驅(qū)動(dòng)采集與自動(dòng)內(nèi)容生產(chǎn)、多重視角新聞與創(chuàng)新敘事形式、量身定制新聞與多維交互模式。筆者將通過對(duì)這些方面的深入分析，揭示GAI如何為新聞行業(yè)帶來更高效、多樣化、個(gè)性化的生產(chǎn)方式，推動(dòng)媒體從傳統(tǒng)到創(chuàng)新的轉(zhuǎn)變。

（一）數(shù)據(jù)驅(qū)動(dòng)采集，自動(dòng)內(nèi)容生產(chǎn)

GAI 通過利用算法分析大型數(shù)據(jù)集，識(shí)別數(shù)據(jù)并得出有意義的新聞見解，通過自動(dòng)數(shù)據(jù)處理、可視化和解釋來深度挖掘數(shù)據(jù)驅(qū)動(dòng)的新聞報(bào)道。人機(jī)交互改變了信息采集的傳統(tǒng)思維模式，機(jī)器的升級(jí)和人機(jī)交互方式的迭代，拓展了信息采集的維度與層面，降低了信息采集的人力成本，改變了信息采集的行為方式，促使新聞工作者形成新的信息獲取思維[3]。這一技術(shù)可以幫助記者觀察數(shù)據(jù)趨勢(shì)，在海量數(shù)據(jù)中找到線索和故事，并在異常情況發(fā)生時(shí)及時(shí)通知記者。微軟的Copilot 和谷歌的Bard 能夠從整個(gè)互聯(lián)網(wǎng)生態(tài)系統(tǒng)的實(shí)時(shí)數(shù)據(jù)中獲取回復(fù)，從而分析突發(fā)新聞。

GAI可以提供新聞背景知識(shí)與關(guān)聯(lián)性知識(shí)的自動(dòng)生產(chǎn)，生成符合新聞標(biāo)準(zhǔn)和風(fēng)格的連貫、準(zhǔn)確的文本。它還可以協(xié)助完成轉(zhuǎn)錄、翻譯和日常新聞更新等任務(wù)，使記者能夠?qū)Ｗ⒂诟鼜?fù)雜的調(diào)查工作。人機(jī)交互不僅根據(jù)人類指令生成相應(yīng)內(nèi)容，提升內(nèi)容創(chuàng)作者的效率和創(chuàng)造力，而且影響媒體內(nèi)容的質(zhì)量和可訪問性。美聯(lián)社使用名為“Wordsmith”的生成系統(tǒng)每季度生成數(shù)千份收益報(bào)告，《華盛頓郵報(bào)》則采用名為“Heliograf”的系統(tǒng)報(bào)道地方選舉和高中體育新聞。

（二）多重視角新聞，創(chuàng)新敘事形式

GAI 可以為用戶過濾不必要的信息，提供多重視角并凸顯重要內(nèi)容，優(yōu)化新聞的社會(huì)性拓展。數(shù)字媒體“The Newsroom”首先從多個(gè)出版商處收集數(shù)據(jù)，旨在了解當(dāng)前討論的新聞事件及參與者，其后通過預(yù)先建立的模型分析文章，依據(jù)存在的事實(shí)和偏見等標(biāo)準(zhǔn)評(píng)估報(bào)道質(zhì)量，隨后確定共識(shí)要素以總結(jié)出主要內(nèi)容的基本事實(shí)。同時(shí)，該平臺(tái)凸顯不同觀點(diǎn)，提供各種新聞源的鏈接，使用戶能夠從多個(gè)視角審視同一主題。英國(guó)廣播公司則采用名為“果汁機(jī)”（Juicer）的系統(tǒng)為其在線用戶生成量身定制的新聞源，該系統(tǒng)能夠篩選多個(gè)數(shù)據(jù)源并生成新聞文章的初稿。這契合了信息盈余時(shí)代用戶新聞消費(fèi)的演變。

GAI 能為記者和編輯創(chuàng)造新型敘事形式，將文本、圖像、聲頻和視頻結(jié)合起來，并充分利用想象力、情感和交互性的力量。通過運(yùn)用深度學(xué)習(xí)和生成式對(duì)抗網(wǎng)絡(luò)技術(shù)，GAI能夠合成逼真且多樣的媒體內(nèi)容，包括照片、聲音、面孔或動(dòng)畫等，從而提升新聞報(bào)道的敘事性和視覺沖擊力。路透社使用名為Wav2Lip的系統(tǒng)生成新聞主播說不同語(yǔ)言的唇語(yǔ)視頻，打破語(yǔ)言障礙，為用戶呈現(xiàn)多樣化的全球視角。

（三）量身定制新聞，多維交互模式

GAI可以分析新聞文章的內(nèi)容和元數(shù)據(jù)以及用戶資料和反饋，并生成符合每個(gè)讀者需求和口味的定制摘要、標(biāo)題、推薦和通知。人機(jī)交互的深化推動(dòng)了機(jī)器對(duì)個(gè)性化行為數(shù)據(jù)的收集，形成了基于個(gè)人偏好的信息分發(fā)機(jī)制，新聞消費(fèi)已成為一種更具互動(dòng)性和個(gè)性化的體驗(yàn)。新聞業(yè)的個(gè)性化發(fā)展促進(jìn)用戶更多地參與新聞事務(wù)，并豐富整體新聞話語(yǔ)?！陡２妓埂返摹癆delaide”通過學(xué)習(xí)和適應(yīng)用戶的偏好，為用戶提供個(gè)性化的推薦服務(wù)?！都~約時(shí)報(bào)》利用名為“編輯器”（Editor）的系統(tǒng)為其訂閱者制作個(gè)性化的新聞簡(jiǎn)報(bào)和推送提醒。

GAI還為用戶提供多維交互模式。新聞聊天機(jī)器人在模擬信息交互的場(chǎng)景中構(gòu)建了一種多維自然語(yǔ)言交互模式，為私人信息定制服務(wù)和知識(shí)付費(fèi)墻提供了發(fā)展機(jī)會(huì)。目前已有多個(gè)數(shù)字媒體平臺(tái)集成了GAI，比如“Bytes”為每篇文章生成情感和情感指標(biāo)，使用戶能夠辨別新聞的總體情緒和基調(diào)?！癘neSub”推出的新聞聊天機(jī)器人“Charlie”致力于支持情緒健康，避免聳人聽聞或負(fù)面內(nèi)容，減輕用戶的壓力和焦慮，使信息獲取的過程更加簡(jiǎn)單且互動(dòng)性更強(qiáng)。在未來，配置不同人格屬性的新聞聊天機(jī)器人將根據(jù)不同情境優(yōu)化語(yǔ)言表達(dá)，快速響應(yīng)用戶提問，不僅能傳遞信息，也能滿足用戶對(duì)情感陪伴的需求。

二、生成式人工智能新聞的主體危機(jī)

GAI 在新聞?lì)I(lǐng)域的廣泛應(yīng)用為記者、編輯和用戶等主體帶來了諸多優(yōu)勢(shì)，然而，這種技術(shù)的發(fā)展也伴隨著一系列主體危機(jī)，如削弱了新聞傳統(tǒng)和專業(yè)價(jià)值、沖擊了新聞業(yè)務(wù)模式；減少了記者的職業(yè)崗位、貶低了新聞工作價(jià)值、侵占了記者和編輯的知識(shí)產(chǎn)權(quán)；科技公司的壟斷加劇新聞傳播權(quán)力的不平等，還在內(nèi)容中植入特定的霸權(quán)價(jià)值觀；污染了信息生態(tài)系統(tǒng)、損害了用戶與新聞機(jī)構(gòu)之間的信任。

（一）削弱專業(yè)價(jià)值，沖擊業(yè)務(wù)模式

GAI 可能包含多種風(fēng)險(xiǎn)，從虛假信息到偏見再現(xiàn)，再到AI 幻覺、泄露隱私、缺乏透明度等，削弱了新聞?lì)I(lǐng)域長(zhǎng)期以來堅(jiān)守的價(jià)值觀。新聞業(yè)的核心職能之一是促進(jìn)新聞讀者參與民主活動(dòng)，這種緊密參與有賴于用戶對(duì)新聞機(jī)構(gòu)的信任，包括對(duì)新聞準(zhǔn)確性、真實(shí)性和及時(shí)性的信任。如果新聞業(yè)因?yàn)閺V泛使用GAI 降低了專業(yè)標(biāo)準(zhǔn)，將會(huì)破壞用戶與新聞機(jī)構(gòu)之間的“社會(huì)契約”，進(jìn)一步損害新聞機(jī)構(gòu)在社會(huì)中的合法性和權(quán)威性。這一連鎖反應(yīng)還將導(dǎo)致更廣泛的負(fù)面影響，例如降低公眾辯論的知情程度，從而削弱公眾對(duì)公共問題的參與。擁有十一家媒體品牌的美國(guó)公司G/O Media發(fā)布了人工智能生成內(nèi)容（AI generated content，簡(jiǎn)稱AIGC），引起了用戶的強(qiáng)烈批評(píng)，因?yàn)檫@些文章存在許多事實(shí)錯(cuò)誤，缺乏人工編輯監(jiān)督，而且整體寫作質(zhì)量不達(dá)標(biāo)[4]。

GAI 的技術(shù)壟斷可能損害新聞機(jī)構(gòu)的獨(dú)立性。許多新聞機(jī)構(gòu)的資金已經(jīng)十分緊張，無法配置專屬GAI 新聞工具，只能使用現(xiàn)有工具。大多數(shù)研發(fā)GAI 的科技公司不會(huì)分享工作細(xì)節(jié)，也不允許新聞機(jī)構(gòu)加入審查機(jī)制，它們所采用的眾多技術(shù)都缺乏可解釋性，因此所構(gòu)建的“黑匣子”系統(tǒng)甚至令專業(yè)人士也難以對(duì)其進(jìn)行準(zhǔn)確解釋。這為新聞機(jī)構(gòu)帶來了挑戰(zhàn)，使其難以全面理解所使用的工具，難以準(zhǔn)確解釋系統(tǒng)的工作方式、為何以及如何生成特定輸出，也難以對(duì)底層的訓(xùn)練數(shù)據(jù)、模型或算法進(jìn)行審查和談判，這可能會(huì)損害新聞行業(yè)的獨(dú)立運(yùn)作能力。

GAI還有可能沖擊傳統(tǒng)新聞業(yè)務(wù)模式。搜索引擎可能采用GAI 回答用戶查詢，這將減少外部新聞網(wǎng)站的網(wǎng)絡(luò)流量。一旦用戶降低通過谷歌點(diǎn)擊進(jìn)入新聞網(wǎng)站的頻率，數(shù)字新聞機(jī)構(gòu)就有可能降低在線知名度和用戶參與度并減少?gòu)V告收入的主要來源。如果數(shù)字新聞網(wǎng)站不能長(zhǎng)期可靠地依賴搜索引擎流量，網(wǎng)站可能越來越依賴用戶訂閱付費(fèi)來獲得獨(dú)立于大型技術(shù)公司的收入，但是訂閱資金的規(guī)模不足以支撐所有新聞網(wǎng)站，較小規(guī)模的新聞網(wǎng)站容易面臨關(guān)閉。新聞付費(fèi)業(yè)務(wù)的日益盛行可能造成“收入而非地理上的新聞荒漠”，無力訂閱多份報(bào)紙的人可能更容易相信他們?cè)谏缃幻襟w或搜索引擎上免費(fèi)看到的錯(cuò)誤信息和低質(zhì)量?jī)?nèi)容。在一個(gè)更加碎片化的互聯(lián)網(wǎng)中，人們更有可能存在于信息繭房[5]。大量AIGC 還搶走了原本屬于新聞機(jī)構(gòu)的數(shù)字廣告費(fèi)用，新聞檢測(cè)工具NewsGuard 檢測(cè)到大量網(wǎng)站充斥著AI生成的廣告，這些廣告資金原本可以用來支持合法的新聞機(jī)構(gòu)[6]。

（二）影響新聞職業(yè)，貶低工作價(jià)值

GAI在新聞業(yè)的應(yīng)用引發(fā)了人們對(duì)記者工作保障的擔(dān)憂。隨著GAI越來越有能力完成傳統(tǒng)上由人類完成的任務(wù)，可能對(duì)工作崗位的可用性和性質(zhì)產(chǎn)生影響，同時(shí)也可能重新定義我們對(duì)與新聞業(yè)相關(guān)的人類勞動(dòng)的估值方式。實(shí)際上，這一變革是否會(huì)帶來問題，是否會(huì)給記者和新聞業(yè)帶來不理想的結(jié)果，取決于新聞機(jī)構(gòu)如何管理這一過程，包括在資源分配、質(zhì)量保證以及新聞制作的編輯和倫理方向等方面優(yōu)先考慮哪些價(jià)值觀和結(jié)果[7]。與此同時(shí)，人們目睹新聞編輯室不斷關(guān)閉、工作崗位日趨減少。美國(guó)西北大學(xué)梅迪爾新聞學(xué)院發(fā)布的報(bào)告顯示，2023年美國(guó)已有130多家報(bào)紙關(guān)閉或合并，倒閉速度將加快到每周2.5 家，到2024 年年底美國(guó)將失去自2005年以來三分之一的報(bào)紙[8]。在價(jià)值鏈的更上游，即內(nèi)容標(biāo)簽、過濾和審核方面，工作人員處于被剝削的狀態(tài)，這將損害新聞機(jī)構(gòu)的聲譽(yù)?！稌r(shí)代》周刊的一份調(diào)查報(bào)告發(fā)現(xiàn)，OpenAI 與舊金山公司Sama合作標(biāo)記數(shù)據(jù)集，后者將任務(wù)以每小時(shí)2美元的報(bào)酬外包給肯尼亞的一個(gè)團(tuán)隊(duì)，來訓(xùn)練聊天機(jī)器人標(biāo)記攻擊性的內(nèi)容[9]。這種低報(bào)酬和高強(qiáng)度的工作不僅削弱了新聞行業(yè)工作者的職業(yè)價(jià)值，同時(shí)也加劇了他們的身心壓力，損害了新聞行業(yè)的整體聲譽(yù)和可持續(xù)性。

目前從技術(shù)角度來看，人工通用智能仍無法與人類作家和編輯相媲美。類似于ChatGPT的大型語(yǔ)言模型更適用于自動(dòng)執(zhí)行特定任務(wù)，例如文件總結(jié)，卻欠缺高級(jí)編輯技能，例如建立與信息來源的深層聯(lián)系、進(jìn)行原創(chuàng)分析思考、理解上下文或從事長(zhǎng)篇?jiǎng)?chuàng)意寫作。盡管存在多方面的缺陷，一些新聞高管可能利用GAI 在短期內(nèi)削減開支，或者在短期內(nèi)證明裁員是合理的，而非僅僅是為了提升生產(chǎn)力或創(chuàng)造長(zhǎng)期的新價(jià)值。AI 的問題并非在于是否真的能夠取代人類，而在于它是否會(huì)被用來為災(zāi)難性的 商 業(yè) 決 策 辯 護(hù)。2023 年3 月，OpenAI、OpenResearch 和賓夕法尼亞大學(xué)的研究人員估計(jì)，ChatGPT的學(xué)習(xí)、轉(zhuǎn)化、創(chuàng)意能力可以取代19%的工作崗位及其吸納的80%的勞動(dòng)力，其中作家、記者和新聞工作者最容易受到影響[10]。

GAI還侵占了大量編輯和記者的知識(shí)產(chǎn)權(quán)?！度A盛頓郵報(bào)》和艾倫人工智能研究所的研究發(fā)現(xiàn)，在GAI 系統(tǒng)所訓(xùn)練的信息來源中，數(shù)字媒體排名第三。在排名前十的網(wǎng)站中，至少有一半是新聞機(jī)構(gòu)。而美國(guó)新聞/媒體聯(lián)盟（News/Media Alliance）發(fā)布的研究報(bào)告顯示，AI開發(fā)人員不僅在未經(jīng)授權(quán)的情況下使用其成員新聞機(jī)構(gòu)的內(nèi)容來訓(xùn)練其系統(tǒng)，而且使用范圍更廣，程度超過其他來源。大多數(shù)開發(fā)者沒有獲得使用此類內(nèi)容所需的許可，技術(shù)平臺(tái)也沒有向新聞媒體提供任何補(bǔ)償。越來越多的網(wǎng)站從嚴(yán)肅的媒體上獲取新聞內(nèi)容，使用ChatGPT 洗稿為新文章，而不注明原作者。拉丁美洲媒體協(xié)會(huì)同意采取嚴(yán)厲措施，防止新聞內(nèi)容被GAI 平臺(tái)免費(fèi)使用[11]。

（三）加劇權(quán)力不平等，植入特定價(jià)值觀

GAI會(huì)加劇新聞業(yè)已存在的權(quán)力不平等。由于部署GAI 需要巨額投資和豐富的資源，如大規(guī)模計(jì)算基礎(chǔ)設(shè)施和訓(xùn)練數(shù)據(jù)，這將導(dǎo)致資源和力量的集中更加不均衡，可能進(jìn)一步造成某些科技公司的壟斷。而且，GAI在創(chuàng)建過程中，誰(shuí)的世界觀被納入模型并被優(yōu)先考慮，誰(shuí)能使用和利用這些技術(shù)，誰(shuí)能決定如何監(jiān)管這些技術(shù)，這些決定都離不開權(quán)力發(fā)揮作用。當(dāng)下大型科技公司正在進(jìn)行激烈的競(jìng)次（Race to the Bottom）游戲，以謀求主導(dǎo)地位和市場(chǎng)優(yōu)勢(shì)。這種競(jìng)爭(zhēng)環(huán)境可能導(dǎo)致過分夸大自身優(yōu)勢(shì)、匆忙推出產(chǎn)品，而忽視了審慎考慮、平衡不同利益的重要性。GAI會(huì)反映開發(fā)者的價(jià)值觀以及訓(xùn)練數(shù)據(jù)中潛藏的偏見、偏差和預(yù)設(shè)，可能導(dǎo)致歧視、偏見、種族主義和極端主義等問題，或者進(jìn)一步強(qiáng)化某些社群的刻板印象，貶低其他社群。尤其是ChatGPT 偏向西方自由主義價(jià)值觀，無法在不同的背景下提供足夠的社會(huì)文化敏感性和特殊性，可能模糊和低估了非西方文化觀點(diǎn)的重要性。

GAI 可能被植入特定價(jià)值觀，影響用戶認(rèn)知與態(tài)度。新西蘭的數(shù)據(jù)科學(xué)家David Rozado創(chuàng)建了一個(gè)名為“RightWingGPT”的GAI 模型，以表達(dá)美國(guó)政治右翼觀點(diǎn)，他還計(jì)劃創(chuàng)建表達(dá)美國(guó)政治左翼觀點(diǎn)的模型“LeftWingGPT”和一個(gè)旨在減少政治極端化的模型“DepolarizingGPT”。研究表明，語(yǔ)言模型可以微妙地影響用戶的價(jià)值觀，因此它們的任何政治偏差都可能產(chǎn)生嚴(yán)重后果[12]。大型語(yǔ)言模型（Large Language Model，LLM）數(shù)據(jù)往往是從極少數(shù)人的聲音中收集而來的，而且是按照技術(shù)專家的要求收集的，因此，只有極少數(shù)人有能力塑造全球使用的模型。牛津互聯(lián)網(wǎng)研究所專家Kirk指出，這些模型在不同人群中具有同質(zhì)性，缺乏多樣性和民主性，這種情況之所以會(huì)造成嚴(yán)重后果，是因?yàn)槿藗冨e(cuò)誤地假定了這些模型的普遍性，即認(rèn)為根據(jù)50多名審核員的喜好和反饋訓(xùn)練出的模型能適用于使用該技術(shù)的人類的多樣性，這種模型蘊(yùn)含了偏見和文化霸權(quán)[13]。這些偏見并不是架構(gòu)本身的產(chǎn)物，而是由對(duì)其進(jìn)行訓(xùn)練的數(shù)據(jù)造成的。LLM 中的偏差反映了社會(huì)本身已經(jīng)存在的偏差，甚至這些模型可能放大這些偏差。因此，在整理和預(yù)訓(xùn)練數(shù)據(jù)時(shí)，關(guān)鍵是要思考我們希望賦予LLM 模型以什么樣的世界觀（即包括誰(shuí)的聲音并優(yōu)先考慮誰(shuí)的聲音），以及如何通過人類偏好學(xué)習(xí)等方法對(duì)模型進(jìn)行微調(diào)，需將更多不同的聲音和世界觀納入模型。

（四）污染信息生態(tài)，引發(fā)信任危機(jī)

GAI可能污染信息生態(tài)系統(tǒng)。隨著GAI日益容易獲取，AIGC 的大規(guī)模傳播變得前所未有的便捷。這種便利也催生了一種令人擔(dān)憂的可能性，即某些廣告制造網(wǎng)站或者流量驅(qū)動(dòng)型營(yíng)銷號(hào)可能濫用GAI，將其用于針對(duì)特定用戶，散布未經(jīng)核實(shí)的虛假信息，從而提高頁(yè)面瀏覽量和廣告收入。截至2023年11 月，NewsGuard 發(fā)現(xiàn)至少有557 家網(wǎng)站利用GAI 制造出大量虛構(gòu)文章，涉及政治、技術(shù)、娛樂和旅游等一系列主題，其中許多文章包含未經(jīng)證實(shí)的陰謀論、不可靠的健康建議或虛構(gòu)的產(chǎn)品評(píng)論[6]。在過去二十年里，社交媒體平臺(tái)使出版民主化，允許任何人在國(guó)際上獲得病毒式傳播，將內(nèi)容排名算法轉(zhuǎn)變?yōu)殛P(guān)注度和相關(guān)性的新把關(guān)人。如今，社交媒體平臺(tái)正在使用AI對(duì)帖子進(jìn)行自動(dòng)排序，這使得合法新聞媒體的優(yōu)先級(jí)被大量取消，而轉(zhuǎn)向虛假、垃圾或操縱性的內(nèi)容。歐盟執(zhí)法機(jī)構(gòu)“歐洲刑警組織”（Europol）的一份報(bào)告預(yù)測(cè)，到2026年，互聯(lián)網(wǎng)上多達(dá)90%的內(nèi)容可能是AIGC[14]。這些大量制作的廉價(jià)且質(zhì)量低劣的信息爭(zhēng)奪著用戶的注意力，扭曲了真實(shí)新聞市場(chǎng)，掩蓋了合法新聞編輯室作為信息集中來源的作用。當(dāng)互聯(lián)網(wǎng)信息生態(tài)系統(tǒng)充斥著機(jī)器人時(shí)，人類記者傳播可信信息的難度將成倍增加。

GAI還有可能削弱用戶對(duì)媒體的信任，引發(fā)“真實(shí)性危機(jī)”，擴(kuò)大“智能鴻溝”。用戶對(duì)新聞的期望是在沒有AI的時(shí)代發(fā)展起來的，因此對(duì)真實(shí)性和新聞完整性的理解在很大程度上是基于人類對(duì)新聞工作者的觀念。然而，新聞機(jī)構(gòu)在使用GAI時(shí)，缺乏透明度可能破壞用戶的期望，從而損害用戶的信任。如果各新聞機(jī)構(gòu)沒有及時(shí)披露GAI 的使用情況、解釋其在新聞制作中的作用以及特定的使用案例，也會(huì)引發(fā)用戶對(duì)新聞機(jī)構(gòu)的質(zhì)疑和不信任。這種信任危機(jī)可能對(duì)公眾評(píng)估和理解新聞的能力造成損害，同時(shí)還可能深化現(xiàn)存的數(shù)字鴻溝等不平等現(xiàn)象。GAI 在英語(yǔ)方面的效果明顯優(yōu)于其他語(yǔ)言，同時(shí)也在滿足不同社群、文化和社會(huì)需求上表現(xiàn)不一。由于GAI更適用于那些擁有計(jì)算資源和相關(guān)技能的人，那些無法獲得這些資源或技術(shù)的人將會(huì)面臨更大的劣勢(shì)，這將進(jìn)一步加劇社會(huì)的不平等現(xiàn)象，有可能擴(kuò)大能夠獲取高質(zhì)量和可信新聞的人與那些無法獲得的人之間的差距。

三、生成式人工智能新聞的主體應(yīng)對(duì)

為了應(yīng)對(duì)當(dāng)前新聞行業(yè)所面臨的主體危機(jī)，新聞編輯部應(yīng)制定使用指南和規(guī)范倫理原則，以維護(hù)新聞專業(yè)主義和用戶信任；新聞工作者需轉(zhuǎn)向深度創(chuàng)作，建立嚴(yán)格審核制度以確保合法性和準(zhǔn)確性，并持續(xù)開展GAI職業(yè)培訓(xùn)，及時(shí)更新技術(shù)知識(shí)；用戶應(yīng)強(qiáng)化數(shù)字媒體素養(yǎng)，承擔(dān)相應(yīng)責(zé)任。在人機(jī)關(guān)系的演變中，我們應(yīng)將關(guān)系由簡(jiǎn)單的輔助關(guān)系轉(zhuǎn)變?yōu)橄嗷ゼぐl(fā)、共同進(jìn)化的伙伴關(guān)系，從共存、協(xié)作向“共情和共同進(jìn)化”發(fā)展。

（一）新聞編輯部：制定使用指南，規(guī)范倫理原則

GAI的引入為新聞業(yè)帶來了創(chuàng)新與效率，然而，隨之而來的倫理挑戰(zhàn)也不可忽視。當(dāng)我們擁抱新聞制作的未來時(shí)，維護(hù)媒體的用戶信任仍然至關(guān)重要。新聞編輯部需要負(fù)責(zé)任地使用GAI，保持行業(yè)長(zhǎng)期以來的誠(chéng)信、透明度和問責(zé)價(jià)值觀。新聞編輯部應(yīng)該確保采用的工具符合新聞編輯部和用戶的最佳利益，而非加大偏見、增加錯(cuò)誤信息或威脅新聞編輯室的公信力。

在全球范圍內(nèi)，多國(guó)媒體已經(jīng)開始制定GAI 使用指南，為新聞編輯部提供資源、示例和指導(dǎo)，以應(yīng)對(duì)挑戰(zhàn)。由學(xué)術(shù)界、民間社會(huì)、工業(yè)界和非營(yíng)利組織的100 多個(gè)合作伙伴聯(lián)合成立的非營(yíng)利性聯(lián)盟“人工智能伙伴關(guān)系”（Partnership on AI），于2023年8月發(fā)布了《新聞編輯室人工智能購(gòu)買和使用指南》（The AI Procurement and Use Guidebook for Newsrooms）[15]。該指南旨在為無法自主開發(fā)AI 系統(tǒng)的新聞編輯部特別是規(guī)模較小的地方新聞編輯部提供詳細(xì)措施，以有效解決人工智能帶來的挑戰(zhàn)。該項(xiàng)目包括十個(gè)步驟：第一，明確添加AI 工具的目標(biāo)和預(yù)期結(jié)果；第二，規(guī)劃新聞制作周期，考慮AI工具與現(xiàn)有系統(tǒng)的集成點(diǎn)；第三，明確工具類別，評(píng)估潛在的優(yōu)勢(shì)和風(fēng)險(xiǎn)；第四，檢索AI工具數(shù)據(jù)庫(kù)，并對(duì)新聞編輯室在該領(lǐng)域的績(jī)效水平進(jìn)行基準(zhǔn)測(cè)試；第五，列出三到五個(gè)潛在的AI工具，同時(shí)明確向開發(fā)人員提出的問題；第六，選擇一到兩種欲購(gòu)買的AI 工具；第七，概述實(shí)施所選工具的潛在優(yōu)勢(shì)和不足之處；第八，建立適當(dāng)?shù)墓芾眢w系并確定合理的衡量標(biāo)準(zhǔn)，例如準(zhǔn)確性、精準(zhǔn)度、召回率、效率、用戶滿意度、成本效益、受眾參與度和轉(zhuǎn)換率；第九，了解AI 工具的生命周期；第十，明確何時(shí)應(yīng)淘汰選擇的AI工具。

新聞業(yè)還應(yīng)該建立一個(gè)代表不同背景的全行業(yè)委員會(huì)，為GAI 新聞規(guī)范倫理原則，包括治理性、可靠性、公平性、責(zé)任性、可追溯性、隱私性、合法性、自主性等原則。（1）治理性：新聞機(jī)構(gòu)需要制定明確的指導(dǎo)方針來監(jiān)控GAI 系統(tǒng)，以發(fā)現(xiàn)潛在的錯(cuò)誤，以及通過進(jìn)行交互來減少失誤。（2）可靠性：新聞機(jī)構(gòu)需要制定可靠性標(biāo)準(zhǔn)，制定全面的評(píng)估和測(cè)試協(xié)議，確保開發(fā)出彈性和穩(wěn)健的GAI 系統(tǒng)。（3）公平性：新聞機(jī)構(gòu)采納的GAI不應(yīng)加劇邊緣化、代表性不足、社會(huì)經(jīng)濟(jì)地位低下、受教育程度低或健康狀況差等群體的這種不公平現(xiàn)象。（4）問責(zé)性：新聞機(jī)構(gòu)需要合乎道德地使用GAI，并確保實(shí)施、部署和運(yùn)行中都有人類的監(jiān)督與參與，建立人類問責(zé)制。（5）可追溯性：新聞機(jī)構(gòu)需要幫助工作人員了解GAI 的能力、工作原理和操作流程，包括其開發(fā)方法、數(shù)據(jù)來源、相關(guān)文檔、訓(xùn)練機(jī)制等，了解系統(tǒng)的能力和局限性，從而優(yōu)化人機(jī)信任問題。（6）隱私性：新聞機(jī)構(gòu)需要定期開展GAI 的隱私泄露風(fēng)險(xiǎn)評(píng)估，防止數(shù)據(jù)泄露和網(wǎng)絡(luò)攻擊。（7）合法性：新聞?lì)I(lǐng)域的GAI 系統(tǒng)面臨著安全與有效性、網(wǎng)絡(luò)安全和知識(shí)產(chǎn)權(quán)法等方面的法律挑戰(zhàn)。（8）自主性：新聞機(jī)構(gòu)不能讓GAI完全取代記者和編輯，應(yīng)尊重人類控制信息系統(tǒng)和決策的能力。

（二）新聞工作者：調(diào)整角色定位，發(fā)揮整合能力

新聞工作者應(yīng)該調(diào)整角色定位，將工作重心從追求規(guī)范性和時(shí)效性轉(zhuǎn)向深度和真實(shí)性的新聞創(chuàng)作以及輿論引導(dǎo)。計(jì)算機(jī)在當(dāng)前的編程邏輯中只能執(zhí)行單一目標(biāo)的邏輯，然而，新聞的生產(chǎn)并非僅限于數(shù)據(jù)和信息的傳達(dá)，輿論引導(dǎo)同樣十分重要，而這些是計(jì)算機(jī)無法自動(dòng)完成的。即使在信息收集和消息類新聞的自動(dòng)化生成過程中，也需要人類來完善收集邏輯、審核數(shù)據(jù)的真實(shí)性與準(zhǔn)確性[1]。新聞工作者不僅需要在傳統(tǒng)的新聞生產(chǎn)流程中把關(guān)，還需要在審核端建立更為嚴(yán)謹(jǐn)和審慎的新聞審核制度。這種制度旨在確保GAI生成的新聞內(nèi)容的合法性和社會(huì)效益，同時(shí)也需要對(duì)其準(zhǔn)確性進(jìn)行審核，避免基于概率計(jì)算而導(dǎo)致的事實(shí)錯(cuò)誤[16]。

新聞工作者需要培養(yǎng)跨界整合能力，從發(fā)現(xiàn)新聞轉(zhuǎn)向整合新聞、配置新聞，促成內(nèi)容生產(chǎn)領(lǐng)域“以生產(chǎn)為中心”到“以用戶為中心”的轉(zhuǎn)變。這包括整合品牌塑造、互動(dòng)管理、關(guān)系建構(gòu)、文化社交、線下活動(dòng)等多元化的活動(dòng)。基于人類經(jīng)驗(yàn)的策劃、組織和協(xié)調(diào)能力，依然是未來新聞工作者的核心能力素養(yǎng)。新聞工作者需要發(fā)揮其獨(dú)特的價(jià)值，人類特有的直覺、適應(yīng)性、創(chuàng)造力和批判性思維等都是機(jī)器所不具備的。

新聞工作者還需要開展全面且持續(xù)的GAI教育和職業(yè)培訓(xùn)。新聞工作者需要為人工智能提供的數(shù)據(jù)分析和知識(shí)生成進(jìn)行“把關(guān)”與設(shè)置“邊界”，主動(dòng)調(diào)適專業(yè)實(shí)踐的慣例和默會(huì)知識(shí)，也需要對(duì)技術(shù)入侵的邊界進(jìn)行集體保護(hù)，例如為智能技術(shù)設(shè)置“標(biāo)簽”與“準(zhǔn)入領(lǐng)域”，以此鞏固共同體的權(quán)威與知識(shí)權(quán)力[17]。新聞工作者必須了解系統(tǒng)的能力和局限性，建立起對(duì)系統(tǒng)的適度信任，過于信任GAI系統(tǒng)會(huì)導(dǎo)致濫用，而信任度不足則會(huì)導(dǎo)致無法充分利用其潛力。

（三）新聞?dòng)脩簦簲?shù)字素養(yǎng)教育，承擔(dān)用戶責(zé)任

信息社會(huì)通過數(shù)字反饋行動(dòng)可能將人類置于算法機(jī)器的控制之下，使社會(huì)陷入一種大規(guī)模監(jiān)控的狀態(tài)。當(dāng)系統(tǒng)擔(dān)任數(shù)據(jù)持有者的角色，吸收并應(yīng)用人類的經(jīng)驗(yàn)以預(yù)測(cè)未來行為時(shí)，可能導(dǎo)致社會(huì)動(dòng)態(tài)和人類決策過程對(duì)算法預(yù)測(cè)的過度依賴，有可能削弱人類的獨(dú)立思考和自主性。因此對(duì)于數(shù)字用戶媒介素養(yǎng)教育的需求十分迫切，必須發(fā)展出在日益數(shù)字化的時(shí)代生存或至少共存所需的一切合適的技能。隸屬于蓋茨基金會(huì)的全球非營(yíng)利性組織“直面歷史和自己”（Facing History and Ourselves）已經(jīng)開設(shè)了微課程“學(xué)習(xí)瀏覽GAI 內(nèi)容：媒體素養(yǎng)策略”，向用戶介紹GAI 可能給媒體環(huán)境帶來的變化，幫助他們了解GAI 傳播虛假信息的可能性，指導(dǎo)他們采取步驟核實(shí)他們?cè)诰W(wǎng)上看到的信息，并幫助他們了解GAI模型是如何創(chuàng)建圖像的[18]。麻省理工學(xué)院高級(jí)虛擬中心還推出了“深度偽造時(shí)代的媒體素養(yǎng)”課程，教育用戶識(shí)別虛假信息，解構(gòu)基于事實(shí)的斷言，并辨識(shí)可信來源以應(yīng)對(duì)錯(cuò)誤信息和虛假信息，課程涵蓋從政策到技術(shù)干預(yù)等多個(gè)方面，專注于提升公眾的認(rèn)知和理解水平[19]。

GAI 與傳統(tǒng)的互聯(lián)網(wǎng)信息服務(wù)不同，其輸出結(jié)果不僅由算法生成，更依賴用戶的積極參與。在這一過程中，用戶的作用愈發(fā)重要，他們的提問方式、引入關(guān)鍵元素以及對(duì)生成內(nèi)容的迭代與選擇，直接塑造著最終的生成結(jié)果。GAI 與傳統(tǒng)搜索引擎不同，它更像是一個(gè)與用戶進(jìn)行互動(dòng)交流的系統(tǒng)，用戶的請(qǐng)求和行為直接影響著系統(tǒng)生成的內(nèi)容，這就凸顯了用戶治理的重要性。在使用GAI驅(qū)動(dòng)的新聞平臺(tái)時(shí)，用戶需要承擔(dān)相應(yīng)的義務(wù)，例如學(xué)習(xí)新聞?lì)I(lǐng)域的提示詞規(guī)范，這有助于引導(dǎo)用戶的請(qǐng)求，并規(guī)范GAI的使用過程。這種治理方式能夠更好地指導(dǎo)用戶行為，使用戶在互動(dòng)中更明智地引導(dǎo)和影響GAI的輸出結(jié)果。

（四）人機(jī)關(guān)系：從協(xié)作到共同進(jìn)化

隨著連續(xù)不斷的工業(yè)革命，人機(jī)關(guān)系實(shí)際上正在發(fā)生演變，被稱為5C模式：共存（Coexistence）、合作（Cooperation）、協(xié)作（Collaboration）、共情與共同進(jìn)化（Compassion and Coevolution）[20]。在第一次和第二次工業(yè)革命期間，機(jī)器是工廠的設(shè)備，它們和人類形成了一種“共存”的關(guān)系，在這種關(guān)系中，機(jī)器是人類的簡(jiǎn)單工具。在第三次工業(yè)革命期間，人類和機(jī)器處于“合作”關(guān)系，根據(jù)不同的流程暫時(shí)共享一個(gè)工作空間，并共享部分物理、認(rèn)知和計(jì)算資源。在第四次工業(yè)革命中，智能機(jī)器與人類在共享的工作空間中進(jìn)行“協(xié)作”，其具體目標(biāo)是通過各方在共同的團(tuán)隊(duì)身份下同步互動(dòng)的聯(lián)合行動(dòng)來完成任務(wù)[21]。在第五次工業(yè)革命中，人類與機(jī)器人組成團(tuán)隊(duì)，共同完成任務(wù)。這種關(guān)系的核心是人類在這種環(huán)境中的感受、如何決策、由誰(shuí)決策以及如何組建這種團(tuán)隊(duì)，尤其是培養(yǎng)人機(jī)信任，由此讓人類感受到目標(biāo)的一致性，消除機(jī)器取代自身的威脅感，并了解與機(jī)器合作時(shí)的決策過程，保證人類的最終決策權(quán)。

當(dāng)前新聞業(yè)的人機(jī)關(guān)系還處于協(xié)作階段，因此一個(gè)極其重要的問題是，人機(jī)關(guān)系將朝著哪個(gè)方向變化。人們已不再單純視AI 為人類智能的輔助工具，而是意識(shí)到機(jī)器認(rèn)知也在發(fā)展，它們不再只是執(zhí)行預(yù)定程序，而是學(xué)會(huì)了通過試錯(cuò)進(jìn)行創(chuàng)新性探索，包括提出人類不曾想象的問題、目標(biāo)、假設(shè)、分析。在認(rèn)知發(fā)展的四個(gè)環(huán)節(jié)——信息獲取、信息加工、認(rèn)知形成和認(rèn)知影響中，機(jī)器認(rèn)知與人類認(rèn)知已不是并存式的“共生”，更不再是簡(jiǎn)單的輔助合作，而是相互激發(fā)與演進(jìn)，進(jìn)而構(gòu)成兩者之間的“互生”——當(dāng)下社會(huì)已從“人機(jī)共生”邁入“人機(jī)互生”階段[22]。人類（生物智能）和機(jī)器（計(jì)算智能）以根本不同的方式工作，可以抵消彼此的缺陷，這使得它們不是在用戶-工具動(dòng)態(tài)中兼容，而是在更先進(jìn)和動(dòng)態(tài)的伙伴關(guān)系中兼容。人機(jī)“共情和共同進(jìn)化”超越了單一目的的服務(wù)，而是作為不斷變化的人類和機(jī)器生態(tài)系統(tǒng)的一部分。在未來的新聞業(yè)，以人為本的人機(jī)關(guān)系需要具備雙向共情、主動(dòng)溝通和協(xié)作智能的特點(diǎn)，以建立可靠的人機(jī)共同進(jìn)化關(guān)系，從而建立高性能的人機(jī)團(tuán)隊(duì)。親密的人機(jī)交互最終將促進(jìn)人類和機(jī)器能力的增長(zhǎng)，在未來實(shí)現(xiàn)持續(xù)的人機(jī)共同進(jìn)化。這種共同進(jìn)化的發(fā)展使得新形式的關(guān)系不再以競(jìng)爭(zhēng)為重點(diǎn)，而是為機(jī)器和人類創(chuàng)造更美好的新未來[21]。

四、結(jié)語(yǔ)

生成式人工智能所帶來的變革力量顯現(xiàn)在個(gè)體、工作組織和社會(huì)結(jié)構(gòu)的演變中，需要對(duì)數(shù)字技術(shù)、人類和組織等主體之間的相互聯(lián)系進(jìn)行研究，以深刻反思可持續(xù)性和社會(huì)價(jià)值。新聞行業(yè)的健康和可持續(xù)發(fā)展需要超越技術(shù)解決方案，更需要建立多元主體之間可持續(xù)的信息生態(tài)系統(tǒng)。不同主體間的關(guān)聯(lián)可能重新定義信息傳播和消費(fèi)的方式，而這些主體如何塑造自身角色將極大地影響新聞業(yè)未來的發(fā)展軌跡。對(duì)于GAI，我們需進(jìn)行全面而有機(jī)的治理，通過適當(dāng)?shù)慕缍ê捅O(jiān)管，消除其潛在負(fù)面影響，朝著人機(jī)“共情和共同進(jìn)化”的方向發(fā)展。