信息與用戶雙重視角下的智能媒體AI倫理治理研究

摘" "要：智能媒體作為人工智能（AI）驅(qū)動(dòng)的信息生態(tài)系統(tǒng)，其運(yùn)行依賴信息與用戶的協(xié)同作用。目前，信息生產(chǎn)、傳播和用戶反饋3個(gè)關(guān)鍵環(huán)節(jié)面臨全新AI倫理挑戰(zhàn)，亟需相適應(yīng)的AI倫理治理框架以維護(hù)信息生態(tài)平衡、保護(hù)用戶權(quán)利。文章通過(guò)文獻(xiàn)調(diào)研和邏輯思辨，對(duì)AI倫理的概念與內(nèi)容進(jìn)行梳理，回溯智能媒體發(fā)展歷程，并立足信息與用戶雙重視角，分析具體AI倫理挑戰(zhàn)，有針對(duì)性地提出包含主體定位和治理路徑的治理框架。研究發(fā)現(xiàn)，AI倫理包括AI系統(tǒng)、社會(huì)福祉、素養(yǎng)提升和責(zé)任溯源4個(gè)層次共19項(xiàng)內(nèi)容；智能媒體正經(jīng)歷著從技術(shù)驅(qū)動(dòng)到人智交互的重要轉(zhuǎn)變。信息生產(chǎn)、信息傳播和用戶反饋3個(gè)關(guān)鍵環(huán)節(jié)中存在虛假信息泛濫、隱私與數(shù)據(jù)保護(hù)等10項(xiàng)AI倫理挑戰(zhàn)。AI設(shè)計(jì)和開發(fā)者、智能媒體運(yùn)營(yíng)者、用戶、政府、社會(huì)組織5大治理主體可以通過(guò)以用戶為本、數(shù)據(jù)集公正性評(píng)估等19條路徑實(shí)現(xiàn)智能媒體AI倫理的落地。

關(guān)鍵詞：AI倫理；AI倫理治理；信息生態(tài)系統(tǒng)；用戶研究；智能媒體

中圖分類號(hào)：B82-057" "文獻(xiàn)標(biāo)識(shí)碼：Ａ" "DOI：10.11968/tsyqb.1003-6938.2024062

A Study of AI Ethical Governance in Intelligent Media under the Dual Perspective of Information and User

Abstract Intelligent Media， as an AI-driven Information Ecosystem， relies on the synergy between information and users for its operation. At present， the 3 key links of information production， dissemination and user feedback are facing new AI ethics challenges， and there is an urgent need for a compatible AI ethical governance framework to maintain the balance of the information ecosystem and protect the rights of users. Through literature research and logical discernment， the article combs through the concepts and contents of AI ethics， retraces the history of intelligent media， analyzes specific AI ethics challenges based on the dual perspectives of information and users， and puts forward a targeted governance framework that includes the positioning of main bodies and governance paths. The article argues that AI ethics include 19 items at 4 levels： AI system， social well-being， literacy enhancement， and responsibility traceability; intelligent media is undergoing an important shift from technology-driven to HAII. There are 10 AI ethics challenges in the 3 key links， such as the proliferation of 1 information， privacy and data protection， etc. The 5 main governance bodies， namely AI designers and developers， intelligent media operators， users， government， and social organizations， can realize intelligent media AI ethical governance through 19 paths， such as user-oriented， dataset fairness assessment， and so on.

Key words AI ethics; AI ethical governance; information ecosystem; user study; intelligent media

AI作為引領(lǐng)新一輪科技革命的戰(zhàn)略性技術(shù)，已深度嵌入社會(huì)信息生態(tài)系統(tǒng)。其通過(guò)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等，達(dá)成整合、推理、自動(dòng)生成等目標(biāo)，加速了信息鏈中事實(shí)、數(shù)據(jù)、信息、知識(shí)、情報(bào)的層層轉(zhuǎn)換［1］，極大推動(dòng)了信息生產(chǎn)、知識(shí)交流、價(jià)值創(chuàng)造，在信息生態(tài)系統(tǒng)中發(fā)揮著核心驅(qū)動(dòng)作用。媒體作為處于歷次科技革命前沿之潮的信息生態(tài)系統(tǒng)，形態(tài)已在AI及其相關(guān)技術(shù)的推動(dòng)下由社會(huì)化媒體轉(zhuǎn)向智能媒體［2-3］。傳統(tǒng)媒體信息生態(tài)中的信息生產(chǎn)、傳播和用戶反饋環(huán)節(jié)被重塑，信息的自動(dòng)化生成、精準(zhǔn)化和個(gè)性化傳播成為常態(tài)。這種AI賦能的模式不僅極大豐富了媒體功能，而且推動(dòng)了媒體信息生態(tài)的重大變革。

然而，AI也帶來(lái)了前所未有的倫理挑戰(zhàn)，對(duì)智能媒體信息生態(tài)的平衡性和穩(wěn)定性帶來(lái)了嚴(yán)峻挑戰(zhàn)。虛假信息泛濫［4］、個(gè)人信息泄露［5］等問(wèn)題已引起業(yè)界高度關(guān)注。根據(jù)Statista對(duì)全球百余家媒體機(jī)構(gòu)的調(diào)查，82%的受訪者表示他們非常擔(dān)憂AI對(duì)編輯質(zhì)量的影響［6］。這反映出目前智能媒體信息生態(tài)AI技術(shù)接納和融入機(jī)制的失靈，也是AI技術(shù)發(fā)展與社會(huì)倫理尚未完全實(shí)現(xiàn)銜接的必然后果，亟需AI倫理提供一條道德軌道，以維持智能媒體信息生態(tài)的穩(wěn)定和可持續(xù)運(yùn)轉(zhuǎn)，實(shí)現(xiàn)技術(shù)創(chuàng)新與社會(huì)價(jià)值的相互融合。

作為社會(huì)信息傳播和提供知識(shí)服務(wù)的重要介質(zhì)，智能媒體天然承擔(dān)著促進(jìn)信息向知識(shí)轉(zhuǎn)換，并實(shí)現(xiàn)知識(shí)和用戶需求及時(shí)、精準(zhǔn)匹配的任務(wù)［7-8］。這一任務(wù)的實(shí)現(xiàn)，依賴于信息和用戶雙重要素的協(xié)同作用。相應(yīng)地，智能媒體中AI倫理治理的實(shí)踐，也需從信息與用戶的雙重視角出發(fā)，以服務(wù)于智能媒體社會(huì)任務(wù)的有效實(shí)現(xiàn)。信息是智能媒體AI倫理治理的核心對(duì)象，而用戶是智能媒體AI倫理治理的權(quán)益實(shí)現(xiàn)者和能動(dòng)主體，兩者的協(xié)同作用構(gòu)成了智能媒體AI倫理治理框架的邏輯起點(diǎn)與理論支點(diǎn)，構(gòu)建起智能媒體AI倫理治理的完整通路。

基于此，本研究從信息和用戶雙重視角出發(fā)，聚焦智能媒體的AI倫理治理。在總結(jié)和歸納現(xiàn)有的AI倫理的概念與內(nèi)容、梳理智能媒體緣起與發(fā)展歷程的基礎(chǔ)之上，深入探討了智能媒體中信息生產(chǎn)、信息傳播和用戶反饋中所面臨的AI倫理挑戰(zhàn)，并構(gòu)建智能媒體AI倫理治理框架。該框架以AI倫理內(nèi)容為指引，在明確AI倫理治理主體的前提下，指引了各主體治理實(shí)踐的具體路徑，為智能媒體AI倫理風(fēng)險(xiǎn)的確責(zé)和治理奠定了理論基礎(chǔ)，旨在維護(hù)智能媒體信息生態(tài)系統(tǒng)的平衡與穩(wěn)定，以AI倫理促進(jìn)AI技術(shù)與社會(huì)價(jià)值的協(xié)同發(fā)展，服務(wù)于“安全便攜的智能社會(huì)”建設(shè)［9］。

1" "AI倫理與智能媒體崛起

1.1" " AI倫理概念與內(nèi)容

隨著AI交互性和能動(dòng)性的不斷增強(qiáng)，其在智能媒體中不僅是信息流動(dòng)和用戶交流的中介［10-11］，而且成為信息生產(chǎn)主體和用戶交流的對(duì)象［12］。這一轉(zhuǎn)變使信息、用戶與環(huán)境之間的動(dòng)態(tài)關(guān)系更加復(fù)雜，呈現(xiàn)出前所未有的多重多維狀態(tài)，這凸顯了在現(xiàn)有社會(huì)倫理基礎(chǔ)上納入AI相關(guān)的倫理考量的重要性。厘清這些新型社會(huì)關(guān)系，是分析智能媒體AI倫理挑戰(zhàn)并提出治理路徑的前提和基礎(chǔ)。

倫理（Ethic）作為道德的“承擔(dān)者和基礎(chǔ)”，指向人與人之間的行為準(zhǔn)則［13］，AI倫理（AI Ethics）則是與開發(fā)和使用AI相關(guān)的互動(dòng)準(zhǔn)則［14］，包括開發(fā)AI的原則、AI以道德的方式與其他AI或人類互動(dòng)的規(guī)則，以及AI在社會(huì)中道德運(yùn)作的規(guī)則3個(gè)方面［15］。學(xué)界已經(jīng)對(duì)AI倫理內(nèi)容進(jìn)行了多樣化詮釋（見表1），依據(jù)不同學(xué)者所提出的AI倫理方面和內(nèi)涵，本研究進(jìn)一步概括為4個(gè)AI倫理層次：AI系統(tǒng)維度、社會(huì)福祉維度、素養(yǎng)提升維度、責(zé)任溯源維度。

其中，開發(fā)AI的原則對(duì)應(yīng)AI系統(tǒng)維度，包括AI設(shè)計(jì)原則和AI系統(tǒng)目標(biāo)；AI以道德的方式與其他AI或人類互動(dòng)的規(guī)則對(duì)應(yīng)社會(huì)福祉維度、素養(yǎng)提升維度，約束主體分別為AI和人類；AI在社會(huì)中道德運(yùn)作的規(guī)則對(duì)應(yīng)責(zé)任溯源維度，解決AI社會(huì)風(fēng)險(xiǎn)的控制和處理問(wèn)題。在此基礎(chǔ)上，本研究進(jìn)一步深化發(fā)展，提出更為全面的AI倫理內(nèi)涵概念框架（見表2），作為本研究所討論的AI倫理基礎(chǔ)。

除多樣的AI倫理內(nèi)容外，在AI系統(tǒng)中檢驗(yàn)AI倫理的工具也已推出，新加坡信息通信媒體發(fā)展局（Infocomm Media Development Authority，IMDA）和個(gè)人數(shù)據(jù)保護(hù)委員會(huì)（Personal Data Protection Commission，PDPC）推出的AI Verify作為世界上第一個(gè)AI倫理治理測(cè)試框架和工具包已在10余家AI公司中進(jìn)行測(cè)試［35］，這為AI倫理內(nèi)容融入實(shí)踐提供了技術(shù)解決方案，也能夠?yàn)橹悄苊襟w的AI倫理治理提供借鑒。

1.2" " 智能媒體緣起與發(fā)展

智能媒體是AI嵌入社會(huì)的前沿場(chǎng)景，承擔(dān)著社會(huì)溝通和知識(shí)交流任務(wù)，也是理解智能社會(huì)中信息、用戶與環(huán)境交互關(guān)系的重要窗口。智能媒體相關(guān)研究與AI及其相關(guān)技術(shù)的發(fā)展、AI倫理內(nèi)容的豐富密不可分，正在經(jīng)歷從技術(shù)驅(qū)動(dòng)到人智交互的躍遷。

第一階段的智能媒體研究聚焦于AI技術(shù)在寫作、編輯、分發(fā)等信息生產(chǎn)和傳播流程中所發(fā)揮的作用以及用戶反饋研究，實(shí)際上探究的是“AI+媒體”的運(yùn)作［36］。這與符號(hào)主義AI和連接主義AI的廣泛應(yīng)用密不可分，符號(hào)主義AI以專家系統(tǒng)、知識(shí)圖譜等為代表技術(shù)，通過(guò)符號(hào)來(lái)模擬認(rèn)知過(guò)程，能夠用于機(jī)器寫作以及多模態(tài)信息生產(chǎn)。連接主義AI起源于神經(jīng)網(wǎng)絡(luò)，以機(jī)器學(xué)習(xí)為核心技術(shù)，通過(guò)對(duì)大規(guī)模數(shù)據(jù)樣本的學(xué)習(xí)獲得“智能”［37］，能夠用于新聞挖掘、內(nèi)容效果分析等更廣泛的信息生產(chǎn)環(huán)節(jié)，但虛假新聞［38］、著作權(quán)爭(zhēng)議［39］等倫理問(wèn)題也隨之浮現(xiàn)。同期的用戶研究以分析、感知用戶和提升用戶體驗(yàn)為目標(biāo)［40］。第二階段的智能媒體研究轉(zhuǎn)向“人智交互”，AI和用戶在功能和角色上深度融合，形成更加緊密的協(xié)同關(guān)系，這與行為主義AI以及神經(jīng)符號(hào)計(jì)算的思想密不可分。行為主義AI以“感知-行為”為獲得智能的核心，強(qiáng)調(diào)與環(huán)境的互動(dòng)，而神經(jīng)符號(hào)計(jì)算融合符號(hào)主義中符號(hào)推理的核心思想和連接主義中神經(jīng)推理的理念，是通向相當(dāng)于人類智慧的通用AI的未來(lái)路徑［41］，在該范式之下真正意義上的“智能”媒體將出現(xiàn)，這也為分析用戶到探索“人智交互”奠定了技術(shù)基礎(chǔ)。

基于智能媒體的技術(shù)特點(diǎn)和應(yīng)用場(chǎng)景，本研究將智能媒體概括為以AI及其相關(guān)技術(shù)（物聯(lián)網(wǎng)、云計(jì)算、區(qū)塊鏈等）為支撐的，具備自動(dòng)化、自適應(yīng)性的信息生產(chǎn)和傳播能力，通過(guò)人智交互不斷優(yōu)化信息服務(wù)，建立在虛實(shí)共生的融合場(chǎng)景之上的信息生態(tài)系統(tǒng)。這種復(fù)雜的生態(tài)在信息和用戶雙重要素的協(xié)同作用下運(yùn)轉(zhuǎn)，信息的生產(chǎn)和傳播環(huán)節(jié)決定信息的真實(shí)性、多樣性、時(shí)效性等特征，直接影響信息生態(tài)的平衡與健康；用戶則通過(guò)數(shù)據(jù)和行為反饋等方式，不斷推動(dòng)信息生態(tài)的動(dòng)態(tài)調(diào)節(jié)與優(yōu)化。理解這種復(fù)雜的生態(tài)運(yùn)行過(guò)程，是分析智能媒體AI倫理挑戰(zhàn)的理論基礎(chǔ)，也為治理框架構(gòu)建提供了內(nèi)在邏輯。

2" "智能媒體中的信息與用戶AI倫理挑戰(zhàn)

智能媒體信息生態(tài)的運(yùn)行依賴信息和用戶雙重要素的協(xié)同作用，從信息與用戶雙重視角出發(fā)，是系統(tǒng)梳理與全面分析智能媒體AI倫理挑戰(zhàn)的關(guān)鍵路徑。信息生產(chǎn)、信息傳播環(huán)節(jié)是智能媒體的業(yè)務(wù)基礎(chǔ)，用戶反饋環(huán)節(jié)強(qiáng)化了信息生態(tài)的動(dòng)態(tài)特征。這三個(gè)環(huán)節(jié)是信息與用戶互動(dòng)最為頻繁，也是技術(shù)與倫理沖突最為突出的核心節(jié)點(diǎn)，是進(jìn)行智能媒體AI倫理挑戰(zhàn)分析的關(guān)鍵抓手。

基于此，本研究以AI倫理內(nèi)容為基線，探討信息生產(chǎn)、傳播與用戶反饋三個(gè)環(huán)節(jié)中的具體的AI倫理挑戰(zhàn)及其成因、危害性，以實(shí)現(xiàn)重點(diǎn)覆蓋和有序整合，為構(gòu)建智能媒體AI倫理治理框架提供理論指引。

2.1" " 智能媒體信息生產(chǎn)中的AI倫理挑戰(zhàn)

在智能媒體中，AI不僅能夠輔助信息生產(chǎn)者完成挖掘觀點(diǎn)、內(nèi)容寫作、熱度監(jiān)測(cè)等活動(dòng)，而且自身也將成為重要的信息生產(chǎn)者，其以數(shù)據(jù)作為生產(chǎn)素材，以算法作為處理方式，自動(dòng)生成新聞、評(píng)論等信息。同時(shí)，智能媒體中的AI倫理挑戰(zhàn)也隨之而來(lái)，其中以虛假信息泛濫、知識(shí)產(chǎn)權(quán)爭(zhēng)議、算法偏見與歧視、生產(chǎn)決策權(quán)錯(cuò)位為典型代表，造成了廣泛的社會(huì)影響。

（1）虛假信息泛濫。就虛假信息本身而言，其并不局限于文本信息，虛假圖片、語(yǔ)音、視頻等多模態(tài)信息也應(yīng)被囊括在內(nèi)。文本類的虛假信息主要由生成式AI制造，以ChatGPT為例，其在海量數(shù)據(jù)無(wú)監(jiān)督學(xué)習(xí)的基礎(chǔ)上開展人工微調(diào)和人類反饋強(qiáng)化學(xué)習(xí)，具有出色的自然語(yǔ)言處理能力，然而由于訓(xùn)練數(shù)據(jù)集本身的質(zhì)量問(wèn)題以及自回歸生成模型技術(shù)無(wú)法及時(shí)糾錯(cuò)、貪婪搜索和束搜索等技術(shù)特點(diǎn)［42］，令人難以分辨的虛假的“幻覺(jué)”數(shù)據(jù)難以避免，這與可靠性的AI倫理內(nèi)容相違背。而圖片、語(yǔ)音、視頻類的虛假信息則與深度合成技術(shù)的使用密切相關(guān)，這一技術(shù)的典型應(yīng)用即“AI換臉”，人們發(fā)布在網(wǎng)上的照片極有可能未經(jīng)同意成為“AI換臉”的素材，而經(jīng)由“AI換臉”生成的虛假圖片、視頻的用途無(wú)法由自身掌握，不特定群體將成為潛在的被侵害對(duì)象，公共信息安全岌岌可危［43］，這違背了以人為本的AI倫理內(nèi)容，造成了對(duì)用戶生活的現(xiàn)實(shí)侵?jǐn)_。

（2）知識(shí)產(chǎn)權(quán)爭(zhēng)議。AI自動(dòng)生成內(nèi)容將在未來(lái)成為主流，據(jù)Narrative Science預(yù)測(cè)，在未來(lái)15年內(nèi)，AI將生成90%以上的新聞稿［44］，這類內(nèi)容的著作權(quán)問(wèn)題是緊迫的現(xiàn)實(shí)挑戰(zhàn)。然而現(xiàn)階段智能媒體中的AI自動(dòng)生成內(nèi)容仍面臨著作權(quán)保護(hù)上作品獨(dú)創(chuàng)性和主體資格兩個(gè)關(guān)鍵問(wèn)題的模糊［45］。AI生成的內(nèi)容主要基于算法對(duì)訓(xùn)練數(shù)據(jù)的形式展開，在著作權(quán)思想與表達(dá)二分的前提下，AI生成內(nèi)容是思想觀念還是表達(dá)方式的重組目前仍然只能在個(gè)案中進(jìn)行具體判斷。此外，智能媒體現(xiàn)階段所大量運(yùn)用的AI仍是算法程序的集合而非真正意義上的“智能體”，這也與著作權(quán)保護(hù)中的人身權(quán)和財(cái)產(chǎn)權(quán)之辯相呼應(yīng)，承認(rèn)AI生成內(nèi)容的著作權(quán)是對(duì)人的主體性的打擊，由此或可從財(cái)產(chǎn)權(quán)的視角出發(fā)對(duì)AI生成內(nèi)容進(jìn)行多元利益分配［46］等方式在激發(fā)AI創(chuàng)造活力的同時(shí)也保護(hù)人的主體性，實(shí)現(xiàn)以人為本和人類福祉的AI倫理內(nèi)容。

（3）算法偏見與歧視。智能媒體中的歧視和不平等問(wèn)題事實(shí)上是現(xiàn)實(shí)世界中偏見的一種延伸。數(shù)據(jù)是現(xiàn)實(shí)世界中被發(fā)現(xiàn)的事實(shí)的編碼表現(xiàn)［47］，隱含在數(shù)據(jù)中的人類固有偏見將被AI學(xué)習(xí)［48］。此外，數(shù)據(jù)標(biāo)注者和算法開發(fā)者在工作過(guò)程中也會(huì)將自身偏見帶入［49］，進(jìn)而導(dǎo)致智能媒體情境中AI模型本身的偏見性，其生成的信息本身自然也成為現(xiàn)實(shí)世界偏見的倒影和映射，這種包含偏見信息的生成和交互擴(kuò)散將使性別、種族、地理和代際層面的不平等持續(xù)擴(kuò)大［50］，偏離了AI倫理的包容性內(nèi)容。

（4）生產(chǎn)決策權(quán)錯(cuò)位。在智能媒體中，信息生產(chǎn)和內(nèi)容生產(chǎn)的決策越來(lái)越多地依賴數(shù)據(jù)呈現(xiàn)，即根據(jù)數(shù)據(jù)熱度來(lái)挖掘話題，而非傳統(tǒng)根據(jù)話題來(lái)提升熱度。加之AI自動(dòng)生成內(nèi)容，生產(chǎn)決策的流程可以實(shí)現(xiàn)由數(shù)據(jù)驅(qū)動(dòng)、系統(tǒng)自動(dòng)進(jìn)行，整個(gè)環(huán)節(jié)中用戶的參與度逐漸降低，AI倫理內(nèi)容中人類的決定權(quán)面臨著AI的搶奪。同時(shí)，AI也會(huì)制造機(jī)器流量，大量的機(jī)器人用戶出現(xiàn)在智能媒體中，其行為的實(shí)質(zhì)是具有商業(yè)目的的數(shù)據(jù)欺詐［51］，這種虛假的流量會(huì)導(dǎo)致生產(chǎn)決策的誤判，影響智能媒體正常的信息生產(chǎn)活動(dòng)秩序。

2.2" " 智能媒體信息傳播中的AI倫理挑戰(zhàn)

智能媒體信息生產(chǎn)中的AI倫理由AI技術(shù)本身和訓(xùn)練數(shù)據(jù)的局限性造成，而智能媒體信息傳播中的AI倫理問(wèn)題成因在技術(shù)和數(shù)據(jù)之外，也涉及人為的商業(yè)操縱和不當(dāng)使用，由此責(zé)任溯源的AI倫理內(nèi)容也應(yīng)被納入考量。

（1）審核與過(guò)濾偏見。在信息傳播過(guò)程中，智能媒體首先需要對(duì)信息進(jìn)行審核和過(guò)濾。AI的信息審核和過(guò)濾方式以建立敏感詞詞庫(kù)和語(yǔ)義識(shí)別協(xié)同進(jìn)行，敏感詞詞庫(kù)主要有選擇使用開源詞庫(kù)和自建詞庫(kù)兩種，開源詞庫(kù)來(lái)源于從網(wǎng)絡(luò)中爬取大量質(zhì)量參差不齊的公開數(shù)據(jù)，也存在現(xiàn)實(shí)世界的偏見映射，自建詞庫(kù)也存在因智能媒體標(biāo)注員自身的偏見或者因語(yǔ)言、文化差異而導(dǎo)致的差異理解問(wèn)題［52］，導(dǎo)致不當(dāng)審核和過(guò)濾問(wèn)題，這偏離了包容性的AI倫理內(nèi)容。

（2）個(gè)性化推薦操縱。完成信息審核和過(guò)濾后，智能媒體將經(jīng)由算法進(jìn)行個(gè)性化的精準(zhǔn)信息分發(fā)。個(gè)性化推薦的實(shí)質(zhì)是信息內(nèi)容特征和包括人口統(tǒng)計(jì)學(xué)、興趣偏好、環(huán)境等在內(nèi)的用戶特征的匹配，但算法中“召回”和“預(yù)測(cè)”的過(guò)程對(duì)用戶而言是不透明和難以理解的［53］，也容易被操縱。這種操縱一方面來(lái)自商業(yè)層面，現(xiàn)有研究已經(jīng)證明作為消費(fèi)者的用戶極易受到這種商業(yè)性的有傾向的個(gè)性化推薦影響［54］，在智能媒體情境之下，廣告主會(huì)持續(xù)利用個(gè)性化推薦這一機(jī)制達(dá)成商業(yè)目的。另一方面來(lái)自群體觀點(diǎn)和情緒的引導(dǎo)，智能媒體的個(gè)性化推薦需要通過(guò)人與AI之間的互動(dòng)來(lái)不斷優(yōu)化模型，而在這種互動(dòng)中，高精度的AI模型反而能夠自動(dòng)捕捉負(fù)面信息的情緒，增加負(fù)面信息推薦的概率，實(shí)現(xiàn)放大負(fù)面情緒的效果［55］，這種群體觀點(diǎn)和情緒引導(dǎo)是技術(shù)局限性導(dǎo)致的偏差，而且容易受到數(shù)據(jù)和算法掌握者的操縱，進(jìn)而造成群體極化事件以及錯(cuò)誤的、有偏見價(jià)值觀的持續(xù)傳播，這與透明度、以人為本和包容性的AI倫理內(nèi)容相悖。

（3）責(zé)任歸屬不明。在信息傳播層面，AI倫理所面臨的挑戰(zhàn)加入了人為因素的干預(yù)，由此責(zé)任歸屬問(wèn)題也變得格外重要。智能媒體情境由AI以及相關(guān)技術(shù)所打造，是AI的一類下游應(yīng)用場(chǎng)景，涉及社會(huì)利益和商業(yè)利益的博弈，復(fù)雜的場(chǎng)景狀態(tài)對(duì)AI倫理內(nèi)容中的可競(jìng)爭(zhēng)和問(wèn)責(zé)形成了挑戰(zhàn)。其中的困難和風(fēng)險(xiǎn)主要在于責(zé)任主體的難以確定，這由AI的復(fù)雜技術(shù)生態(tài)所造成［56］，智能媒體不是單一的媒體單元，而是一整個(gè)信息生態(tài)系統(tǒng)，AI也不是單一技術(shù)而是多重技術(shù)的復(fù)合。智能媒體中存在不同的AI技術(shù)應(yīng)用者，同時(shí)文字、圖片、視頻等復(fù)雜的多模態(tài)信息往往需要不同的技術(shù)提供者進(jìn)行處理，而技術(shù)提供者又可以分為基礎(chǔ)設(shè)備提供者、數(shù)據(jù)存儲(chǔ)者、算法設(shè)計(jì)者等多個(gè)主體，引發(fā)社會(huì)風(fēng)險(xiǎn)的技術(shù)問(wèn)題很有可能是多重主體共同所造成的，向誰(shuí)追責(zé)和在何種程度上追責(zé)就成了一個(gè)懸而未決的問(wèn)題。

2.3" " 智能媒體用戶反饋中的AI倫理挑戰(zhàn)

用戶參與以及人智協(xié)同是智能媒體研究的重要視角。在智能媒體中，用戶可以參與到生產(chǎn)和傳播過(guò)程中，而非僅僅作為被動(dòng)的信息接收者而存在。而人智協(xié)同是智能媒體的重要新特征，人與AI互動(dòng)中所引發(fā)的AI倫理挑戰(zhàn)具有必要性和現(xiàn)實(shí)性。

（1）隱私與數(shù)據(jù)保護(hù)。在用戶對(duì)信息生產(chǎn)過(guò)程的反饋中，用戶既可以通過(guò)自然語(yǔ)言、動(dòng)作、表情等方式與智能媒體直接進(jìn)行交流，也能夠讓數(shù)據(jù)作為自身意愿的表征被AI所理解，這意味著用戶反饋的不僅是需求本身，而且包括與需求相關(guān)或不相關(guān)的一切用戶背景信息，也由此引發(fā)了關(guān)于智能媒體中個(gè)人隱私與集體隱私保護(hù)的AI倫理討論。在高度互聯(lián)的智能媒體情境下，理解用戶不能僅從個(gè)體維度出發(fā)，而且要關(guān)注具有共同特征的群體以及它們之間的連接。個(gè)人隱私是個(gè)人精神世界私人空間的安全屏障，集體隱私是個(gè)人隱私、其他信息所有者的隱私和群體存在、社會(huì)關(guān)系以及群體內(nèi)的互動(dòng)的集合［57］，保護(hù)智能媒體中的個(gè)人隱私和集體隱私就是捍衛(wèi)智能社會(huì)中的個(gè)人和集體安全。在智能媒體中，理解人的思維和情感、預(yù)測(cè)人的行為是交互式AI最重要的目標(biāo)，而這樣的訓(xùn)練需要通過(guò)海量的高質(zhì)量的個(gè)人信息數(shù)據(jù)集才能完成，除開源數(shù)據(jù)集外，用戶反饋所形成的數(shù)據(jù)集就是最精確有效的訓(xùn)練數(shù)據(jù)，由此，AI將不可避免地獲取作為個(gè)人信息表征的個(gè)人數(shù)據(jù)以完成個(gè)性化的精準(zhǔn)信息推送、個(gè)性化的內(nèi)容生成等活動(dòng)。然而，在個(gè)人數(shù)據(jù)的收集完成后，數(shù)據(jù)泄露事件卻頻頻發(fā)生，如ChatGPT在2023年3月因開源庫(kù)錯(cuò)誤而導(dǎo)致的個(gè)人信息泄露，1.2%的用戶在與ChatGPT交互時(shí)能夠窺見其他用戶的聊天記錄標(biāo)題以及支付信息等個(gè)人信息［58］，且現(xiàn)有高精度的AI可以輕易識(shí)別群體特征，進(jìn)而造成更大范圍的、有針對(duì)性的隱私泄露［59］。

（2）信息繭房和社會(huì)風(fēng)險(xiǎn)。在用戶對(duì)信息傳播過(guò)程的反饋中，基于用戶個(gè)人或者群體特征的個(gè)性化推薦除了會(huì)對(duì)信息傳播過(guò)程本身造成AI倫理挑戰(zhàn)外，對(duì)用戶也會(huì)造成認(rèn)知負(fù)擔(dān)。對(duì)用戶個(gè)人而言，主要會(huì)導(dǎo)致信息獲取的窄化和同質(zhì)化，進(jìn)而形成觀點(diǎn)和態(tài)度的同質(zhì)化［60］。而在智能媒體中，跨平臺(tái)用戶偏好數(shù)據(jù)的交流與整合更為頻繁，同質(zhì)化信息將在不同使用場(chǎng)景間形成傳播閉環(huán)。用戶會(huì)因?yàn)槌两襟w驗(yàn)的疊加效果而進(jìn)一步強(qiáng)化其既有認(rèn)知框架，甚至形成對(duì)多樣化觀點(diǎn)的習(xí)慣性抗拒，“人類自主”的倫理內(nèi)涵被算法控制所侵蝕，用戶在信息生態(tài)中的能動(dòng)性逐漸喪失，陷入由AI驅(qū)動(dòng)的認(rèn)知被動(dòng)化局面。除此之外，群體推薦是個(gè)性化算法中的重要范式［61］，其基本思想是智能媒體用戶的分組，本質(zhì)上實(shí)現(xiàn)的是群體的個(gè)性化而非真正聚焦于用戶個(gè)體，這種推薦將導(dǎo)致用戶以群組的形式被劃分，群體的信息獲取將呈現(xiàn)同質(zhì)化，進(jìn)而形成共同的社會(huì)感知和社會(huì)理解，群體與群體之間則會(huì)形成認(rèn)知、心理上的斷裂帶，這無(wú)疑會(huì)導(dǎo)致社會(huì)整體的公共性缺失和社會(huì)風(fēng)險(xiǎn)升高。

（3）信息過(guò)載與認(rèn)知負(fù)擔(dān)。智能媒體通過(guò)AI實(shí)現(xiàn)信息高效生產(chǎn)與精準(zhǔn)分發(fā)，但這種高效率也帶來(lái)了信息過(guò)載，導(dǎo)致用戶信息處理效率降低，陷入社交網(wǎng)絡(luò)疲憊和信息焦慮［62］。此外，文本、音頻、視頻、圖像等融合多模態(tài)信息是智能媒體中信息呈現(xiàn)的最常見形式。這在豐富用戶體驗(yàn)的同時(shí)，也增加了信息處理的復(fù)雜性，分散了用戶的注意力資源［63］。用戶需要同時(shí)解讀和整合不同模態(tài)的信息內(nèi)容，認(rèn)知系統(tǒng)面臨過(guò)度刺激，不僅難以從中提取關(guān)鍵信息，還可能因信息重復(fù)和冗余而產(chǎn)生額外心理負(fù)擔(dān)。

3" "信息與用戶雙重視角的智能媒體AI倫理治理框架構(gòu)建

智能媒體AI倫理挑戰(zhàn)集中在信息生產(chǎn)、信息傳播和用戶反饋這三個(gè)關(guān)鍵環(huán)節(jié)，治理框架的提出也應(yīng)從信息與用戶雙重視角出發(fā)，以有針對(duì)性地解決問(wèn)題。較之AI倫理治理的一般框架，智能媒體AI倫理挑戰(zhàn)涉及技術(shù)和應(yīng)用上下游的多元主體，更具分析復(fù)雜性。以信息生態(tài)系統(tǒng)理論為統(tǒng)籌，本研究結(jié)合其中的“信息人”概念，在解決三個(gè)關(guān)鍵環(huán)節(jié)的治理主體定位的基礎(chǔ)上，以AI倫理內(nèi)容為指導(dǎo)，為各主體踐行AI倫理提供可行路徑。

3.1" " 智能媒體的AI倫理多元治理主體

智能媒體作為一類信息生態(tài)系統(tǒng)，由信息、信息人、信息技術(shù)和信息環(huán)境四個(gè)因子構(gòu)成［64］。其中，信息人是生態(tài)系統(tǒng)的主體，也是具備能動(dòng)性的AI倫理治理主體，包括信息生產(chǎn)者、傳播者、接受者和管理者［65］。具體到智能媒體信息生態(tài)，分別對(duì)應(yīng)為：AI設(shè)計(jì)和開發(fā)者；智能媒體運(yùn)營(yíng)者；用戶；政府；社會(huì)組織。

具體而言，AI的設(shè)計(jì)和開發(fā)者為生態(tài)系統(tǒng)技術(shù)因子的支持者，向智能媒體運(yùn)營(yíng)者提供技術(shù)解決方案和后期維護(hù)服務(wù)，宜作為基礎(chǔ)管理者首先納入考慮；智能媒體運(yùn)營(yíng)者既是傳播者，也承擔(dān)著部分專業(yè)信息生產(chǎn)任務(wù)，還負(fù)責(zé)為用戶提供服務(wù)，并進(jìn)行整個(gè)生態(tài)系統(tǒng)的配置管理；用戶是智能媒體最為重要的生產(chǎn)者、接受者和傳播者，通過(guò)其行為、偏好和數(shù)據(jù)化表征，直接參與信息生成和傳播，并通過(guò)反饋機(jī)制實(shí)現(xiàn)信息生態(tài)的動(dòng)態(tài)調(diào)節(jié)；政府是AI倫理的管理者，可以通過(guò)制定法律法規(guī)、政策文件等方式將AI倫理嵌入到智能媒體之中，并積極開展對(duì)算法的技術(shù)、合規(guī)和風(fēng)險(xiǎn)審計(jì)；社會(huì)組織是AI倫理的提倡者和管理者，可以通過(guò)建議書、框架倡議等方式參與到AI倫理的社會(huì)治理過(guò)程中，推動(dòng)AI倫理的社會(huì)共治。

這五個(gè)主體在各自領(lǐng)域的功能定位相互補(bǔ)充，為生態(tài)系統(tǒng)的穩(wěn)定、健康發(fā)展提供了重要支撐。而明確主體定位，是主體確則的前提，也是落實(shí)AI倫理具體路徑的指引。根據(jù)智能媒體運(yùn)行過(guò)程和各信息環(huán)節(jié)中的AI倫理挑戰(zhàn)，本研究將對(duì)治理主體的定位進(jìn)行整合。

在智能媒體信息生產(chǎn)階段，AI設(shè)計(jì)者和開發(fā)者是最重要的AI倫理治理主體。這主要是由于該階段的虛假信息泛濫、算法偏見與歧視、生產(chǎn)決策權(quán)錯(cuò)位等AI倫理挑戰(zhàn)主要產(chǎn)生于現(xiàn)有AI訓(xùn)練數(shù)據(jù)標(biāo)注和數(shù)據(jù)質(zhì)量、訓(xùn)練方法等的技術(shù)局限性，只有從技術(shù)層面入手才能從源頭上把控和解決問(wèn)題。在AI設(shè)計(jì)者和開發(fā)者完善智能媒體系統(tǒng)設(shè)計(jì)和功能的基礎(chǔ)上，智能媒體運(yùn)營(yíng)者、用戶和政府可以在具體流程把控上采取AI倫理治理實(shí)踐。

在智能媒體信息傳播階段，商業(yè)利益的博弈愈加突出，各主體在智能媒體中形成了復(fù)雜的社會(huì)關(guān)系，政府和社會(huì)組織、運(yùn)營(yíng)者、設(shè)計(jì)者和開發(fā)者都成為主要的AI倫理治理主體。政府主要規(guī)制信息傳播階段突出的個(gè)性化推薦的商業(yè)操縱問(wèn)題，而AI設(shè)計(jì)者和開發(fā)者為信息傳播階段的AI倫理治理提供透明度基礎(chǔ)，也即公開包括源代碼、訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)在內(nèi)的信息，以及智能媒體運(yùn)營(yíng)者等相關(guān)利益主體利用這些代碼和數(shù)據(jù)生成信息的過(guò)程，以進(jìn)一步明確AI倫理的責(zé)任歸屬，提升用戶信任［66］。

在智能媒體用戶反饋階段，用戶和AI共同完成這一交互過(guò)程，而智能媒體運(yùn)營(yíng)者作為這一過(guò)程的平臺(tái)提供者、環(huán)節(jié)監(jiān)控者和利益獲得者，應(yīng)成為最主要的AI倫理治理主體。隱私泄露不僅是技術(shù)問(wèn)題，更多的是人與組織之間的邊界控制問(wèn)題，用戶反饋信息生產(chǎn)和信息傳播的本質(zhì)就是通過(guò)讓渡一定的隱私來(lái)獲得更為個(gè)性化和精準(zhǔn)化的信息服務(wù)，而這一過(guò)程的把控事實(shí)上由智能媒體運(yùn)營(yíng)者完成，通過(guò)界面誘導(dǎo)、拒絕服務(wù)等方式獲取用戶隱私，用戶處于相對(duì)弱勢(shì)地位。此外，信息同質(zhì)化和公共性缺失也是因智能媒體運(yùn)營(yíng)者為了商業(yè)目的濫用算法推薦技術(shù)而導(dǎo)致的嚴(yán)重后果。由此，智能媒體運(yùn)營(yíng)者必須承擔(dān)起在用戶反饋階段的AI倫理治理主要責(zé)任，而用戶也應(yīng)充分發(fā)揮自身的主動(dòng)參與性，在社會(huì)組織的協(xié)助下不斷提升自身AI素養(yǎng)。

3.2" " 智能媒體AI倫理多元主體治理路徑

在明確智能媒體生態(tài)系統(tǒng)中治理主體的定位問(wèn)題后，各治理主體應(yīng)開展相應(yīng)的AI倫理治理實(shí)踐，各司其職，共同協(xié)作以實(shí)現(xiàn)智能媒體中的AI倫理嵌入（各主體的治理路徑見圖1）。

（1）AI設(shè)計(jì)者和開發(fā)者：保持技術(shù)透明，實(shí)現(xiàn)數(shù)據(jù)公平。AI設(shè)計(jì)者和開發(fā)者的AI倫理治理實(shí)踐應(yīng)以AI系統(tǒng)維度為指導(dǎo)，不斷修正和完善AI系統(tǒng)和功能。其應(yīng)遵循以下幾點(diǎn)：一是以用戶為本的AI系統(tǒng)設(shè)計(jì)理念。這是AI系統(tǒng)設(shè)計(jì)與開發(fā)的根本準(zhǔn)則，是AI系統(tǒng)能夠服務(wù)于用戶的基礎(chǔ)，也是避免在智能媒體運(yùn)營(yíng)過(guò)程中出現(xiàn)因技術(shù)局限性而壓抑和限制用戶能動(dòng)性的前提。二是采用系統(tǒng)倫理設(shè)計(jì)方法。即在設(shè)計(jì)AI系統(tǒng)時(shí)就融入倫理內(nèi)容和倫理設(shè)計(jì)方法，從源頭上減少AI應(yīng)用中的倫理風(fēng)險(xiǎn)，通過(guò)技術(shù)手段為智能社會(huì)的倫理搭建底層架構(gòu)，如價(jià)值敏感設(shè)計(jì)（Value Sensitive Design，VSD）就可以貫徹在設(shè)計(jì)構(gòu)思、程序?qū)崿F(xiàn)、數(shù)據(jù)處理、結(jié)果呈現(xiàn)各個(gè)階段，以確保算法技術(shù)糾偏和價(jià)值彌合［67］。三是數(shù)據(jù)集公正性評(píng)估。針對(duì)現(xiàn)有的數(shù)據(jù)集、訓(xùn)練方法等技術(shù)層面所引起的AI倫理挑戰(zhàn)，AI設(shè)計(jì)者和開發(fā)者在數(shù)據(jù)集的構(gòu)建過(guò)程中可以通過(guò)引入不同的數(shù)據(jù)源、重復(fù)采樣等方式來(lái)進(jìn)行數(shù)據(jù)集的公正性評(píng)估，盡可能避免歧視和不平等。四是完善倫理算法開發(fā)。通過(guò)開發(fā)倫理算法可以盡可能降低智能媒體情境下的倫理風(fēng)險(xiǎn)，現(xiàn)有的基于注意力機(jī)制、消融（Ablation）、TM機(jī)器（Tsetlin Machine）等訓(xùn)練方法和可解釋的AI系統(tǒng)已能夠服務(wù)于單模態(tài)和多模態(tài)的虛假新聞監(jiān)測(cè)［68］，通過(guò)算法本身來(lái)改進(jìn)算法所帶來(lái)的風(fēng)險(xiǎn)才能從源頭上解決問(wèn)題。

（2）智能媒體運(yùn)營(yíng)者：保護(hù)用戶權(quán)益，履行社會(huì)責(zé)任。智能媒體運(yùn)營(yíng)者應(yīng)以社會(huì)福祉維度的AI倫理內(nèi)容指導(dǎo)自身的AI倫理治理實(shí)踐，可以分為平臺(tái)運(yùn)營(yíng)和媒體責(zé)任兩條路徑。就平臺(tái)運(yùn)營(yíng)路徑而言，智能媒體運(yùn)營(yíng)者首先應(yīng)加強(qiáng)用戶個(gè)人信息的控制權(quán)。在智能媒體平臺(tái)規(guī)則的制定中，智能媒體運(yùn)營(yíng)者應(yīng)使用戶可以自行設(shè)置信息披露的邊界［69］，以保護(hù)用戶的隱私和數(shù)據(jù)安全，加強(qiáng)用戶在智能媒體中獲得生存和發(fā)展必要的安全感。其次，不斷提升智能媒體政策與規(guī)則的透明程度。即避免隱規(guī)則和冗長(zhǎng)繁雜的條文，減輕用戶的理解負(fù)擔(dān)，使用戶在使用智能媒體時(shí)有規(guī)可依，強(qiáng)化用戶對(duì)智能媒體的信任。就媒體責(zé)任路徑而言，智能媒體運(yùn)營(yíng)者則應(yīng)強(qiáng)化媒體公共空間的功能，牢記作為媒體的社會(huì)責(zé)任，尤其是在面對(duì)算法分割社會(huì)群體時(shí)，在積極為具有同質(zhì)特征的用戶個(gè)人搭建聯(lián)系平臺(tái)的同時(shí)，也為特征異質(zhì)的用戶群體架起溝通橋梁，打造生態(tài)良好的公共空間，秉持公平和包容的心態(tài)，鼓勵(lì)多元?jiǎng)?chuàng)新的內(nèi)容和表達(dá)。

（3）用戶：主動(dòng)接納學(xué)習(xí)，規(guī)范媒體參與。智能媒體用戶的AI倫理治理實(shí)踐需要以社會(huì)福祉和素養(yǎng)提升維度的AI倫理內(nèi)容為指導(dǎo)，在通過(guò)智能媒體提升學(xué)習(xí)工作以及溝通效果的同時(shí)，也能在各類風(fēng)險(xiǎn)和挑戰(zhàn)中保護(hù)自己。一是積極接納智能媒體。在面對(duì)這一新的媒體形態(tài)時(shí)，能夠以開放的心態(tài)進(jìn)行嘗試和使用，借由日常生活中的智能媒體使用步入智能社會(huì)。二是主動(dòng)學(xué)習(xí)智能媒體的使用。智能媒體的使用需要一定的AI知識(shí)作為認(rèn)知基礎(chǔ)，這需要用戶主動(dòng)地了解和學(xué)習(xí)，否則將因智能知識(shí)缺乏而落入新一輪的智能鴻溝。三是自覺(jué)遵守智能媒體規(guī)則。在面臨智能媒體的重重風(fēng)險(xiǎn)時(shí)，部分用戶也在挑戰(zhàn)倫理底線，通過(guò)制造虛假信息、盜取他人個(gè)人信息等方式謀取商業(yè)利益，或通過(guò)發(fā)表歧視性言論等行為宣泄不滿情緒，這要求用戶自覺(jué)遵守智能媒體規(guī)則，規(guī)范自身的智能媒體使用行為。四是監(jiān)督智能媒體倫理風(fēng)險(xiǎn)。在智能媒體中可能遭遇風(fēng)險(xiǎn)或察覺(jué)到潛在的風(fēng)險(xiǎn)時(shí)，積極向智能媒體運(yùn)營(yíng)者進(jìn)行反饋，將風(fēng)險(xiǎn)行為遏制在未發(fā)生之時(shí)或降低其危害后果，為智能媒體AI倫理的實(shí)現(xiàn)盡最大化努力。

（4）政府：建立健全法規(guī)，培育公眾素養(yǎng)。政府的AI倫理治理實(shí)踐的指導(dǎo)是AI倫理內(nèi)容中的責(zé)任溯源、社會(huì)福祉和素養(yǎng)提升維度，不僅應(yīng)在宏觀層面對(duì)AI倫理治理做出規(guī)劃，而且需要對(duì)各主體的AI倫理治理實(shí)踐進(jìn)行協(xié)調(diào)。一是完善智能媒體相關(guān)法律體系。法律法規(guī)體系的建立是AI倫理風(fēng)險(xiǎn)責(zé)任溯源和治理的基礎(chǔ)，但同時(shí)其制定應(yīng)在平衡風(fēng)險(xiǎn)規(guī)制和鼓勵(lì)創(chuàng)新的基礎(chǔ)上開展，避免因監(jiān)管過(guò)早介入而影響技術(shù)創(chuàng)新和迭代。二是智能媒體常態(tài)化監(jiān)測(cè)和監(jiān)管。這主要針對(duì)信息傳播階段突出的個(gè)性化推薦商業(yè)操縱等問(wèn)題，如美國(guó)的《減少在線用戶欺騙體驗(yàn)法案》（Deceptive Experiences To Online Users Reduction Act，DETOUR）以及歐盟、中國(guó)的不正當(dāng)競(jìng)爭(zhēng)中都已將這一問(wèn)題納入考慮范疇［70］。三是引導(dǎo)智能媒體運(yùn)營(yíng)者行業(yè)自律。在以法律法規(guī)作為智能媒體挑戰(zhàn)的底線和紅線之外，政府還可以積極引導(dǎo)智能媒體運(yùn)營(yíng)者開展行業(yè)自律，以行業(yè)的自我監(jiān)管來(lái)配合監(jiān)管，如可以借鑒個(gè)人信息保護(hù)中的安全港制度（Safe Harbors），智能媒體運(yùn)營(yíng)者先以行業(yè)或社會(huì)組織名義向政府報(bào)批自律規(guī)則，遵守獲批后的自律規(guī)則即可被視作遵守了法律法規(guī)。四是實(shí)現(xiàn)素養(yǎng)提升。AI意識(shí)和認(rèn)知是AI素養(yǎng)的重要部分［71］，而意識(shí)和認(rèn)知的前提是接觸AI。這就需要政府彌合AI設(shè)施鴻溝，大力投入AI基礎(chǔ)設(shè)施、普及智能媒體場(chǎng)景，縮小因AI技術(shù)普及率不同而導(dǎo)致的智能鴻溝和知識(shí)鴻溝。五是知識(shí)產(chǎn)權(quán)公有實(shí)踐。針對(duì)智能媒體中泛濫的知識(shí)產(chǎn)權(quán)歸屬不明問(wèn)題，或可以從技術(shù)開發(fā)上就明確將AI生成作品投入公有領(lǐng)域［72］，并結(jié)合法律標(biāo)準(zhǔn)和技術(shù)標(biāo)準(zhǔn)對(duì)人智協(xié)作生成的作品進(jìn)行獨(dú)創(chuàng)性判斷，以解決生成程序開發(fā)者與運(yùn)營(yíng)者、用戶之間的知識(shí)產(chǎn)權(quán)糾紛。

（5）社會(huì)組織：倡導(dǎo)行業(yè)自律，普及公眾教育。社會(huì)組織的AI倫理治理實(shí)踐與政府一致，以責(zé)任溯源與素養(yǎng)提升維度的AI倫理內(nèi)容為指導(dǎo)，同時(shí)也是各治理主體間的聯(lián)動(dòng)橋梁。一是建立行業(yè)自律規(guī)則。社會(huì)組織可以凝聚行業(yè)的一線實(shí)踐力量，積極配合政府的監(jiān)管，達(dá)成良性互動(dòng)，形成AI倫理治理的合力。二是開拓用戶反饋渠道。將智能媒體用戶反饋的問(wèn)題集中向政府和智能媒體運(yùn)營(yíng)者進(jìn)行反映，為智能媒體用戶維護(hù)權(quán)利、表達(dá)需求、建言獻(xiàn)策提供發(fā)聲渠道。三是組織和開展智能媒體風(fēng)險(xiǎn)評(píng)估。這是社會(huì)組織社會(huì)監(jiān)督功能的體現(xiàn)，其可以定時(shí)對(duì)智能媒體中的風(fēng)險(xiǎn)問(wèn)題和改進(jìn)行為開展第三方評(píng)估，督促智能媒體運(yùn)營(yíng)者落實(shí)法律法規(guī)以及有關(guān)政策。四是開發(fā)AI素養(yǎng)課程。這是社會(huì)組織自身整合資源、社會(huì)協(xié)調(diào)優(yōu)勢(shì)的體現(xiàn)，通過(guò)開發(fā)和在智能媒體中普及AI素養(yǎng)課程能夠幫助政府和智能媒體運(yùn)營(yíng)者普及智能知識(shí)，同時(shí)也為智能媒體用戶提供簡(jiǎn)便的學(xué)習(xí)途徑。

4" "結(jié)語(yǔ)

智能媒體作為智能社會(huì)的媒體形態(tài)，是AI技術(shù)的快速發(fā)展和廣泛應(yīng)用的前沿領(lǐng)域，信息生產(chǎn)、傳播方式和用戶反饋模式被全面重塑。然而，技術(shù)局限性與AI倫理缺失所引發(fā)的虛假信息泛濫、歧視和不平等、用戶隱私泄露，以及商業(yè)利益驅(qū)動(dòng)下個(gè)性化推薦的濫用，正對(duì)信息生態(tài)的健康發(fā)展和用戶權(quán)益構(gòu)成威脅。這些問(wèn)題不僅動(dòng)搖了公眾對(duì)技術(shù)的信任，也對(duì)社會(huì)倫理提出了深刻挑戰(zhàn)。為此，亟需構(gòu)建與智能媒體相適應(yīng)的AI倫理治理框架，以協(xié)調(diào)技術(shù)創(chuàng)新與社會(huì)福祉之間的關(guān)系。

信息和用戶作為智能媒體這一信息生態(tài)系統(tǒng)的核心要素，在信息流動(dòng)的各個(gè)環(huán)節(jié)中分別扮演著基礎(chǔ)性與能動(dòng)性角色，為實(shí)現(xiàn)AI倫理治理提供了關(guān)鍵抓手。信息的生產(chǎn)和傳播是智能媒體運(yùn)轉(zhuǎn)的不竭之源；用戶則通過(guò)深度參與和互動(dòng)賦予信息新的意義，為信息生態(tài)賦予活力?；诖耍狙芯繌男畔⑴c用戶雙重視角出發(fā)，提出了多元治理主體參與的智能媒體AI倫理治理框架。該框架旨在明確智能媒體AI倫理治理主體及其責(zé)任分擔(dān)，提出具體可行的踐行路徑，推動(dòng)智能媒體信息生態(tài)的穩(wěn)定與健康，保障用戶的信息權(quán)益，最終實(shí)現(xiàn)AI技術(shù)在倫理軌道內(nèi)的可持續(xù)發(fā)展，為智能社會(huì)的構(gòu)建注入社會(huì)倫理與人本關(guān)懷的深層力量。

參考文獻(xiàn)：

［1］" 朱禹，陳關(guān)澤，葉繼元.人工智能生成內(nèi)容（AIGC）的本質(zhì)屬性及其對(duì)信息資源管理學(xué)科的影響［J/OL］.信息資源管理學(xué)報(bào)，1-13［2024-09-19］.http：//kns.cnki.net/kcms/detail/42.1812.G2.20240918.1335.002.html.

［2］" 董慶興，張夢(mèng)毅，熊思珗.信息生態(tài)視閾下的社交媒體錯(cuò)誤信息分享研究：從相信到轉(zhuǎn)發(fā)［J］.情報(bào)科學(xué)，2023，41（11）：72-84.

［3］" 程明，程陽(yáng).論智能媒體的演進(jìn)邏輯及未來(lái)發(fā)展——基于補(bǔ)償性媒介理論視角［J］.現(xiàn)代傳播（中國(guó)傳媒大學(xué)學(xué)報(bào)），2020，42（9）：1-5.

［4］" Dwivedi Y K，Kshetri N，Hughes L，et al.“So what if ChatGPT wrote it？”Multidisciplinary perspectives on opportunities，challenges and implications of generative conversational AI for research，practice and policy［J］.International Journal of Information Management，2023，71：102642.

［5］" Cheng X，Su L，Luo X，et al.The good，the bad，and the ugly： Impact of analytics and artificial intelligence-enabled personal information collection on privacy and participation in ridesharing［J］.European Journal of Information Systems，2022，31（3）：339-363.

［6］" Statista.Concerns about the Ethical Implications of Artificial Intelligence in the Newsroom among News and Media Organizations Worldwide as of July 2023［EB/OL］.［2024-09-25］.https：//www.statista.com/statistics/1472605/ethical-concerns-about-ai-in-the-newsroom-worldwide/.

［7］" 張鈞.基于用戶畫像的圖書館知識(shí)發(fā)現(xiàn)服務(wù)研究［J］.圖書與情報(bào)，2017（6）：60-63.

［8］" 程秀峰，畢崇武，王雪杰.多維度視角下的高校館移動(dòng)閱讀服務(wù)質(zhì)量評(píng)價(jià)體系［J］.圖書館論壇，2017，37（8）：91-97.

［9］" 國(guó)務(wù)院.國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知［EB/OL］.［2024-09-25］.https：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

［10］" Just J.Natural language processing for innovation search-Reviewing an emerging non-human innovation intermediary［J］.Technovation，2024，129：102883.

［11］" Hancock J T，Naaman M，Levy K.AI-mediated Communication：Definition，Research Agenda，and Ethical Considerations［J］.Journal of Computer-Mediated Communication，2020，25（1）：89-100.

［12］" Sundar S S.Rise of Machine Agency：A Framework for Studying the Psychology of Human-AI Interaction（HAII）［J］.Journal of Computer-Mediated Communication，2020，25（1）：74-88.

［13］" 辭海.倫理［DB/OL］.［2024-05-01］.https：//www.cihai.com.cn/detail？q=%E4%BC%A6%E7%90%86amp;docId=5453858amp;docLibId=72.

［14］" Khan A A，Akbar M A，F(xiàn)ahmideh M，et al.AI Ethics：an Empirical Study on the Views of Practitioners and Lawmakers［J］.IEEE Transactions on Computational Social Systems，2023，10（6）：2971-2984.

［15］" Siau K，Wang W.Artificial intelligence（AI） ethics：ethics of AI and ethical AI［J］.Journal of Database Management，2020，31（2）：74-87.

［16］" Kazim E，Koshiyama A S.A High-level Overview of AI Ethics［J］.Patterns，2021，2（9）：1-12.

［17］" Jobin A，Ienca M，Vayena E.The Global Landscape of AI Ethics Guidelines［J］.Nature Machine Intelligence，2019，1（9）： 389-399.

［18］" Hagendorff T.The Ethics of AI Ethics： An Evaluation of Guidelines［J］.Minds and Machines，2020，30（1）：99-120.

［19］" Kaur D，Uslu S，Rittichier K J，et al.Trustworthy Artificial Intelligence： a review［J］.ACM Computing Surveys（CSUR），2022，55（2）：1-38.

［20］" Pant A，Hoda R，Tantithamthavorn C，et al.Ethics in AI through the Practitioner’s View： a Grounded Theory Literature Review［J］.Empirical Software Engineering，2024，29（3）：67.

［21］" Ozmen Garibay O，Winslow B，Andolina S，et al.Six Human-centered Artificial Intelligence Grand Challenges［J］.International Journal of Human-Computer Interaction，2023，39（3）：391-437.

［22］" 吳丹，許浩.“以人為本”的數(shù)據(jù)科學(xué)教育：圖書情報(bào)學(xué)科的新發(fā)展［J］.圖書情報(bào)知識(shí)，2021，38（6）：12-20.

［23］" Liu H，Wang Y，F(xiàn)an W，et al.Trustworthy AI：A Computational Perspective［J］.ACM Transactions on Intelligent Systems and Technology，2022，14（1）：1-59.

［24］" Balasubramaniam N，Kauppinen M，Rannisto A，et al.Transparency and Explainability of AI Systems：From Ethical Guidelines to Requirements［J］.Information and Software Technology，2023，159：107197.

［25］" Díaz-Rodríguez N，Del Ser J，Coeckelbergh M，et al.Connecting the Dots in Trustworthy Artificial Intelligence：From AI Principles，Ethics，and Key Requirements to Responsible AI Systems and Regulation［J］.Information Fusion，2023，99：101896.

［26］" Drage E，McInerney K，Browne J.Engineers on responsibility：feminist approaches to who’s responsible for ethical AI［J］.Ethics and Information Technology，2024，26（1）：4.

［27］" Fiske A，Henningsen P，Buyx A.Your Robot Therapist will See you Now：Ethical Implications of Embodied Artificial Intelligence in Psychiatry，Psychology，and Psychotherapy［J］.Journal of Medical Internet Research，2019，21（5）：e13216.

［28］" Milossi M，Alexandropoulou-egyptiadou E，Psannis K E.AI Ethics：Algorithmic Determinism or Self-Determination？The GPDR Approach［J］.IEEE Access，2021，9：58455-58466.

［29］" Thiebes S，Lins S，Sunyaev A.Trustworthy Artificial Intelligence［J］.Electronic Markets，2021，31（2）：447-464.

［30］" 蔡迎春，張靜蓓，虞晨琳，等.數(shù)智時(shí)代的人工智能素養(yǎng)：內(nèi)涵、框架與實(shí)施路徑［J］.中國(guó)圖書館學(xué)報(bào)，2024，50（4）：71-84.

［31］" 郭亞軍，寇旭潁，馮思倩，等.人工智能素養(yǎng)：內(nèi)涵剖析與評(píng)估標(biāo)準(zhǔn)構(gòu)建［J/OL］.圖書館論壇，1-9［2024-08-27］.http：//kns.cnki.net/kcms/detail/44.1306.G2.20240826.1624.002.html.

［32］" 蘇文成，郭浩然，盧章平，等.我國(guó)高校學(xué)生群體人工智能素養(yǎng)評(píng)價(jià)指標(biāo)體系構(gòu)建及實(shí)效性驗(yàn)證［J/OL］.圖書館建設(shè)，1-25［2024-06-25］.http：//kns.cnki.net/kcms/detail/23.1331.G2.20240624.1801.004.html.

［33］" Lyons H，Velloso E，Miller T.Conceptualising Contestability：Perspectives on Contesting Algorithmic Decisions［J］.Proceedings of the ACM on Human-Computer Interaction，2021，5（CSCW1）：1-25.

［34］" Du S，Xie C.Paradoxes of Artificial Intelligence in Consumer Markets：Ethical Challenges and Opportunities［J］.Journal of Business Research，2021，129：961-974.

［35］" Infocomm Media Development Authority.Singapore Launches World’s First AI Testing Framework and Toolkit to Promote Transparency; Invites Companies to Pilot and Contribute to International Standards Development［EB/OL］.［2024-09-05］.https：//www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/press-releases/2022/sg-launches-worlds-first-ai-testing-framework-and-toolkit-to-promote-transparency.

［36］" 喻國(guó)明，蘭美娜，李瑋.智能化：未來(lái)傳播模式創(chuàng)新的核心邏輯——兼論“人工智能+媒體”的基本運(yùn)作范式［J］.新聞與寫作，2017（3）：41-45.

［37］" 陳銳，江奕輝.作為生成式人工智能核心驅(qū)動(dòng)力的訓(xùn)練數(shù)據(jù)的治理研究［J］.情報(bào)資料工作，2024，45（4）：87-95.

［38］" 陳昌鳳，師文.智能化新聞核查技術(shù)：算法、邏輯與局限［J］.新聞大學(xué)，2018（6）：42-49，148.

［39］" 沈思言，劉建.人工智能數(shù)據(jù)新聞作品著作權(quán)歸屬問(wèn)題探析［J］.中國(guó)出版，2019（8）：52-55.

［40］" 王芳.歷史主義視角下情報(bào)學(xué)的學(xué)科起源、結(jié)構(gòu)與屬性［J］.情報(bào)理論與實(shí)踐，2024，47（11）：1-12.

［41］" IBM Research.Neuro-symbolic AI［EB/OL］.［2024-06-26］.https：//research.ibm.com/topics/neuro-symbolic-ai.

［42］" 陳銳，江奕輝.生成式AI的治理研究：以ChatGPT為例［J］.科學(xué)學(xué)研究，2024，42（1）：21-30.

［43］" 最高人民檢察院.“AI換臉”侵犯公民個(gè)人信息，檢察機(jī)關(guān)提起民事公益訴訟［EB/OL］.［2024-09-05］.https：//mp.weixin.qq.com/s？__biz=MzA4MjQ5MzIxNQ==amp;mid=2650912245amp;idx=1amp;sn=2ad61eb387c6314caac03b5a56de3f7bamp;chksm=8471ff85b3067693610fa3f520194d69b80ad7d36e78bb293da1df7105dc7dbf6cc27e538553amp;token=1206007914amp;lang=zh_

CNamp;scene=21#wechat_redirect.

［44］" 人民網(wǎng).機(jī)器人寫稿首獲版權(quán)，智能寫作走向何方？［EB/OL］.［2024-08-26］.media.people.com.cn/n1/2020/0501/c40606-31695347.html.

［45］" Teixeira da Silva J A，Tsigaris P.Human-and AI-based authorship：Principles and ethics［J］.Learned Publishing，2023，36（3）：453-462.

［46］" 馮曉青，潘柏華.人工智能“創(chuàng)作”認(rèn)定及其財(cái)產(chǎn)權(quán)益保護(hù)研究——兼評(píng)“首例人工智能生成內(nèi)容著作權(quán)侵權(quán)案”［J］.西北大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2020，50（2）：39-52.

［47］" 岳劍波.情報(bào)學(xué)的學(xué)科地位問(wèn)題［J］.情報(bào)理論與實(shí)踐，2000（1）：5-7，38.

［48］" 姜婷婷，許艷閏，傅詩(shī)婷，等.人智交互體驗(yàn)研究：為人本人工智能發(fā)展注入新動(dòng)力［J］.圖書情報(bào)知識(shí)，2022，39（4）：43-55.

［49］" 吳丹，劉靜.人工智能時(shí)代的算法素養(yǎng)：內(nèi)涵剖析與能力框架構(gòu)建［J］.中國(guó)圖書館學(xué)報(bào)，2022，48（6）：43-56.

［50］" 賈詩(shī)威，閆慧.算法偏見概念、哲理基礎(chǔ)與后果的系統(tǒng)回顧［J］.中國(guó)圖書館學(xué)報(bào)，2022，48（6）：57-76.

［51］" 廖秉宜，姚金銘，余夢(mèng)莎.智能媒體的倫理風(fēng)險(xiǎn)與規(guī)制路徑創(chuàng)新［J］.中國(guó)編輯，2021（2）：29-34.

［52］" 張欣.面向產(chǎn)業(yè)鏈的治理：人工智能生成內(nèi)容的技術(shù)機(jī)理與治理邏輯［J］.行政法學(xué)研究，2023（6）：43-60.

［53］" 王晰巍，烏吉斯古楞，劉宇桐，等.面向智能推薦的AI人機(jī)交互：研究熱點(diǎn)及未來(lái)機(jī)會(huì)［J］.情報(bào)學(xué)報(bào)，2023，42（4）：495-509.

［54］" Xiao B，Benbasat I.An Empirical Examination of the Influence of Biased Personalized Product Recommendations on Consumers’Decision Making Outcomes［J］.Decision Support Systems，2018，110：46-57.

［55］" Wu C，Wu F，Qi T，et al.Removing AI’s Sentiment Manipulation of Personalized News Delivery［J］.Humanities and Social Sciences Communications，2022，9（1）：1-9.

［56］" 黃锫.數(shù)字平臺(tái)算法侵害的行政法律責(zé)任論綱［J］.比較法研究，2023（6）：184-198.

［57］" 馮亞飛，孫永強(qiáng).社交網(wǎng)絡(luò)平臺(tái)用戶共有信息披露中的集體隱私應(yīng)對(duì)行為研究［J］.圖書情報(bào)工作，2023，67（11）：25-38.

［58］" OpneAI.March 20 ChatGPT Outage：Here’s what Happened［EB/OL］.［2024-08-05］.https：//openai.com/blog/march-20-chatgpt-outage？ref=rumengai.com.

［59］" Majeed A，Khan S，Hwang S O.Group Privacy：An Underrated but Worth Studying Research Problem in the Era of Artificial Intelligence and Big Data［J］.Electronics，2022，11（9）：1449.

［60］" 張珗，莊碧琛，李青宇，等.同質(zhì)化困境：信息繭房概念解析與理論框架構(gòu)建［J］.中國(guó)圖書館學(xué)報(bào)，2023，49（3）：107-122.

［61］" 張海濤，徐海玲，張梟慧，等.國(guó)內(nèi)外圖書情報(bào)領(lǐng)域用戶畫像研究現(xiàn)狀及展望［J］.圖書情報(bào)工作，2019，63（7）：127-134.

［62］" 張安淇，李元旭.互聯(lián)網(wǎng)知識(shí)共享平臺(tái)信息過(guò)載效應(yīng)與弱化機(jī)制——基于知乎的案例研究［J］.情報(bào)科學(xué)，2020，38（1）：24-29，41.

［63］" Matusz P J，Broadbent H，F(xiàn)errari J，et al.Multi-modal distraction：Insights from children’s limited attention［J］.Cognition，2015，136：156-165.

［64］" 王晰巍，吳彥婷，李珗琪.社交機(jī)器人驅(qū)動(dòng)的信息迷霧：傳播機(jī)理、社會(huì)風(fēng)險(xiǎn)與治理路徑［J/OL］.［2024-10-14］.http：//kns.cnki.net/kcms/detail/11.1762.G3.20241023.1902.002.html.

［65］" 孫守強(qiáng)，李青青.基于情報(bào)感知的智慧圖書館網(wǎng)絡(luò)輿情服務(wù)體系構(gòu)建［J］.情報(bào)科學(xué)，2023，41（7）：146-152.

［66］" Shin D，Zhong B，Biocca F A.Beyond user experience：What constitutes algorithmic experiences？［J］.International Journal of Information Management，2020，52：102061.

［67］" Klenk M.Ethics of generative AI and manipulation： a design-oriented research agenda［J］.Ethics and Information Technology，2024，26（1）：9.

［68］" Athira A B，Kumar S D M，Chacko A M.A Systematic Survey on Explainable AI applied to Fake news Detection［J］.Engineering Applications of Artificial Intelligence，2023，122：106087.

［69］" 陳素白，韋娟.自我效能感的“代價(jià)”：智能媒體用戶隱私保護(hù)行為悖論研究［J］.現(xiàn)代情報(bào)，2024，44（5）：58-69.

［70］" 張海汝，李勇堅(jiān).數(shù)字平臺(tái)的誘導(dǎo)、操縱風(fēng)險(xiǎn)與暗模式監(jiān)管——流量劫持、算法俘獲與界面設(shè)計(jì)陷阱［J］.財(cái)經(jīng)問(wèn)題研究，2022（12）：36-45.

［71］" 尹開國(guó).人工智能素養(yǎng)：提出背景、概念界定與構(gòu)成要素［J］.圖書與情報(bào)，2024（3）：60-68.

［72］" Gervais D J.The Machine as Author［J］.Iowa L.Rev，2019，105：2053.

作者簡(jiǎn)介：程卿玄，女，北京大學(xué)新媒體研究院博士研究生，研究方向：新媒體與人機(jī)傳播；梁少博，男，武漢大學(xué)信息管理學(xué)院副教授，研究方向：用戶信息行為、人機(jī)交互；許浩，男，北京大學(xué)新媒體研究院講師，研究方向：用戶信息行為、人機(jī)交互。

*本文系國(guó)家自然科學(xué)基金重大研究計(jì)劃-培育項(xiàng)目“人機(jī)交互視角下數(shù)據(jù)與知識(shí)雙驅(qū)動(dòng)的可解釋智能決策方法研究”（項(xiàng)目編號(hào)：92370

112）研究成果之一。

收稿日期：2024-10-16；通訊作者：許浩（JosephXuPKU@pku.edu.cn）；責(zé)任編輯：劉婷