AI換臉的技術(shù)風(fēng)險與多元規(guī)制

林愛珺,林倩敏

(暨南大學(xué)新聞與傳播學(xué)院,廣東廣州510632)

2019年，自“ZAO”軟件應(yīng)用AI換臉技術(shù)成為網(wǎng)絡(luò)輿論焦點(diǎn)后，該技術(shù)也因此進(jìn)入大眾視野。如今，AI換臉等深度偽造技術(shù)已經(jīng)覆蓋了娛樂、媒體、政治等多個領(lǐng)域。AI換臉的虛假新聞也帶來了各種新聞倫理風(fēng)險，嚴(yán)重?cái)_亂了輿論生態(tài)，沖擊媒體公信力。2022年11月25日，國家互聯(lián)網(wǎng)信息辦公室正式公布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱《規(guī)定》)，并于2023年1月10日起開始施行?！兑?guī)定》對于深度合成技術(shù)在互聯(lián)網(wǎng)中的應(yīng)用作出具體說明與嚴(yán)格規(guī)定，回應(yīng)并補(bǔ)充了《民法典》及《個人信息保護(hù)法》中關(guān)于利用信息技術(shù)手段偽造等方式侵害他人權(quán)利及個人信息保護(hù)的規(guī)定，對人臉生成、人臉替換、人臉操控、姿態(tài)操控等虛擬人物圖像的開發(fā)與應(yīng)用作出了規(guī)定，為AI換臉等深度合成技術(shù)的應(yīng)用厘清底線。

一、AI換臉技術(shù)：人臉圖像的深度偽造

AI換臉技術(shù)(AI face swap)是基于人臉圖像識別的深度偽造技術(shù)。它源自Photoshop技術(shù)對人臉圖像進(jìn)行的編輯改造，廣泛應(yīng)用于證件照人臉美化以及人臉圖像視頻制作。后來，在深度學(xué)習(xí)技術(shù)的支持下，識別目標(biāo)對象的面部特征而后利用算法將其“嫁接”到被模仿對象上的技術(shù)被稱為人臉深度偽造技術(shù)，即AI換臉。

AI換臉技術(shù)首先建立在人臉識別技術(shù)的基礎(chǔ)之上。人臉識別技術(shù)是識別人臉生物特征并以此進(jìn)行匹配和身份識別的技術(shù)。其通過掃描人臉圖像或視頻，識別和偵測主要器官后形成位置信息(人臉模版)，據(jù)此創(chuàng)建數(shù)據(jù)集并將其與待檢驗(yàn)的人臉圖像相比對，從而實(shí)現(xiàn)身份識別與身份驗(yàn)證的目的。[1]偽造人臉的深度學(xué)習(xí)算法普遍使用的是“生成性對抗網(wǎng)絡(luò)”(Generative Adversarial Network,GAN)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)，GAN是一種通過生成模型和判別模型互相博弈的方法來學(xué)習(xí)數(shù)據(jù)分布的生成式網(wǎng)絡(luò)，CNN則是一類包含卷積計(jì)算且具有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)。[2]

AI換臉技術(shù)是深度偽造技術(shù)最廣泛的應(yīng)用。深度偽造技術(shù)(Deepfake)指基于人工智能尤其是深度學(xué)習(xí)的人像合成技術(shù)，現(xiàn)已發(fā)展為包括人臉圖像及視頻偽造、聲音偽造等深度合成技術(shù)。[3]該技術(shù)因美國“Deepfake”事件引起廣泛關(guān)注。2017年名為“Deepfake”的Reddit論壇用戶發(fā)布了一段將斯嘉麗·約翰遜等女演員面孔嫁接在色情表演者裸體身上的假視頻，用展示獵奇的淫穢表演賺流量?！癉eepfake”還發(fā)布了一種機(jī)器學(xué)習(xí)算法，并聲稱該算法可以將名人轉(zhuǎn)換成色情視頻里的人物角色，引起了一陣轟動，這也意味著AI換臉技術(shù)算法代碼的開源。此后，AI換臉幾乎成為一種無成本且簡單可及的技術(shù)。在Github社區(qū)中AI換臉項(xiàng)目數(shù)量相當(dāng)多，如Deepface Lab、Openface Wap、Face App等，大部分APP提供一鍵式的換臉操作，增大了技術(shù)濫用的風(fēng)險。

二、AI換臉技術(shù)侵害個人信息安全

AI換臉技術(shù)中涉及的人臉信息包括人臉生物特征以及人臉模板，屬于個人生物識別信息，具有高度敏感性。在AI換臉的過程中，對人臉生物識別信息的采集、存儲以及使用全鏈條生產(chǎn)模式是該技術(shù)運(yùn)行的底層邏輯，監(jiān)管不力則存在侵害個人信息安全的風(fēng)險。

(一)人臉生物識別信息具有高度敏感性

人臉生物識別信息屬于生物信息，具有高度敏感性。根據(jù)《通用數(shù)據(jù)保護(hù)條例》第九條規(guī)定，生物信息包括自然人的指紋、聲音、虹膜、臉相、靜脈等生物信息，且均屬于敏感信息，人臉生物識別信息包括人臉模版，即“臉相”，屬于敏感信息。我國《個人信息保護(hù)法》規(guī)定，“個人敏感信息”指自然人的人格尊嚴(yán)受到侵害或者人身、財(cái)產(chǎn)安全受到危害的個人信息，包括生物識別、金融賬戶、行蹤軌跡以及未滿14周歲的未成年人的個人信息等。人臉生物識別信息是對面部特征的識別信息，即生物識別信息的一種，也歸屬于“個人敏感信息”。

人臉生物識別信息的高度敏感性在于該類信息的唯一特性，一旦采集將很難被消除或修改?！叭四槨弊鳛槿梭w的身體器官，具有唯一、不可替代的特性，人臉生物識別信息通過掃描人臉而得來，延續(xù)了真實(shí)人臉的唯一特性。人臉生物識別信息源于人臉模版的數(shù)據(jù)點(diǎn)集合，如若人臉特征本身沒有發(fā)生改變，那么人臉生物識別信息也不會發(fā)生改變。人臉生物識別信息以數(shù)據(jù)集的形式存放在虛擬網(wǎng)絡(luò)數(shù)據(jù)庫中，消除與修改數(shù)據(jù)集需進(jìn)入該網(wǎng)絡(luò)節(jié)點(diǎn)進(jìn)行刪除，如若數(shù)據(jù)集已進(jìn)行運(yùn)輸流轉(zhuǎn)，那么消除數(shù)據(jù)集更是需要經(jīng)由追溯流轉(zhuǎn)源頭或泄露源頭才能查清，流程繁瑣且需耗費(fèi)大量人力物力。

高度敏感性也意味著存在巨大的安全風(fēng)險。人臉生物識別信息能夠直接鏈接到其他的敏感個人信息，一旦該類信息被非法盜取便可能導(dǎo)致其他的深層信息被挖掘與泄露，進(jìn)一步造成銀行卡、社交賬戶的非法盜用，嚴(yán)重威脅公民信息安全與生命財(cái)產(chǎn)安全。2018年某網(wǎng)絡(luò)詐騙團(tuán)伙使用軟件將公民頭像照片制作成3D頭像，并利用非法得來的公民個人身份信息注冊支付寶賬號，通過人臉識別認(rèn)證后詐騙支付寶提供的邀請注冊新用戶的紅包獎勵，從中非法牟利4萬元。(1)中國裁判文書網(wǎng)《張富、余杭飛、史良浩等侵犯公民個人信息罪二審刑事裁定書》。不法分子將人臉照片制作成3D頭像，利用對人臉生物識別信息的偵測原理破解支付寶的人臉識別技術(shù)，并利用非法獲取的個人身份信息偽造真實(shí)個人身份實(shí)施詐騙活動。其中人臉生物識別信息的非法利用是實(shí)施詐騙活動的關(guān)鍵一環(huán)，利用人臉生物識別信息與個人身份信息結(jié)合偽造虛擬身份ID，進(jìn)而導(dǎo)致他人個人財(cái)產(chǎn)被盜取。隨著人臉生物識別信息的應(yīng)用場景日益廣泛，生物信息安全風(fēng)險也日益增長。

(二) AI換臉技術(shù)的濫用增大個人生物信息安全風(fēng)險

AI換臉技術(shù)的運(yùn)行過程亦是對生物識別信息(敏感信息)的處理應(yīng)用過程。AI換臉首先需要利用人臉識別技術(shù)對人臉圖像進(jìn)行偵測和識別，并從中提取核心特征信息，再對人臉特征進(jìn)行測量得到人臉模板并以數(shù)據(jù)集形式儲存于數(shù)據(jù)庫；其次通過機(jī)器學(xué)習(xí)訓(xùn)練確定人臉變換矩陣，得到人臉替換轉(zhuǎn)換編碼；最后在原有的人臉圖像上進(jìn)行轉(zhuǎn)化，導(dǎo)出“換臉”之后的偽造圖像或視頻?？梢?，識別人臉生物特征以及提取人臉模版是AI換臉技術(shù)運(yùn)行的關(guān)鍵核心。據(jù)《人臉識別規(guī)定》第一條第三款規(guī)定，人臉識別中的人臉信息屬于《民法典》第一千零三十四條中規(guī)定的生物識別信息。因此，在AI換臉技術(shù)運(yùn)行過程中，對人臉生物識別信息的采集、存儲以及使用全鏈條生產(chǎn)模式是該技術(shù)運(yùn)行的底層邏輯，一旦發(fā)生技術(shù)操作失誤或黑客入侵事件則將導(dǎo)致大量的個人生物識別信息泄露，存在較大的生物信息安全隱患。

而AI換臉技術(shù)的濫用更加劇了安全風(fēng)險。AI換臉在當(dāng)下幾乎成為一種無門檻使用技術(shù)，往往作為一種娛樂手段與社交媒體音視頻傳播相結(jié)合，實(shí)質(zhì)上是化為奪人眼球的噱頭以捕獲更多流量。2021年，抖音APP上發(fā)起名為性別反轉(zhuǎn)挑戰(zhàn)的話題并提供性別反轉(zhuǎn)的“AI換臉”濾鏡。該濾鏡便是利用AI換臉技術(shù)生成對應(yīng)的異性人臉圖像，操作十分簡單快捷，目前該濾鏡的參與量已超過兩千萬次。用戶出于娛樂休閑的目的，利用AI換臉技術(shù)制作短視頻，并將其上傳至網(wǎng)絡(luò)，但對于運(yùn)用AI換臉技術(shù)采集自身人臉生物識別信息的過程一無所知，更對其中生物信息采集及泄露的風(fēng)險毫無察覺。

而當(dāng)下我國針對AI換臉技術(shù)處理該類信息的流程仍缺少監(jiān)管。目前我國有關(guān)AI換臉技術(shù)的法律規(guī)定體現(xiàn)在三處，分別在《民法典》《網(wǎng)絡(luò)生態(tài)治理規(guī)定》及《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》?！毒W(wǎng)絡(luò)生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》這兩份法律文件的規(guī)定過于寬泛，而《民法典》則主要體現(xiàn)在第一千零一十九條中“利用信息技術(shù)手段”侵害肖像權(quán)，這就導(dǎo)致其對AI換臉技術(shù)侵害個人信息安全的規(guī)制并不能發(fā)揮具有針對性的遏制作用。另外，《規(guī)定》第十四、十五條規(guī)定，對于提供具有對人臉生物識別信息編輯功能的算法模型等應(yīng)當(dāng)自行開展安全評估，采集人臉生物識別信息前應(yīng)獲得單獨(dú)同意及加強(qiáng)儲存數(shù)據(jù)集的管理。

在我國現(xiàn)行法律下，由AI換臉技術(shù)帶來的個人生物識別信息安全威脅仍缺乏有力規(guī)制。應(yīng)當(dāng)加強(qiáng)對人臉生物識別信息的保護(hù)，對人臉生物信息的采集、存儲應(yīng)當(dāng)采取嚴(yán)格的保護(hù)措施，嚴(yán)格限定使用場景，否則存在嚴(yán)重的生物信息安全隱患。

三、AI換臉侵犯肖像權(quán)

《民法典》在第一千零一十八條第二款中第一次明確規(guī)定肖像的概念與具體內(nèi)涵，“肖像是通過影像、雕塑、繪畫等方式在一定載體上所反映的特定自然人可以被識別的外部形象”。一般認(rèn)為，肖像應(yīng)當(dāng)包含自然人“可識別”的外部形象，即得以在外部形象上與特定自然人之間建立對應(yīng)聯(lián)系。面部、身影甚至真人表情包等能夠達(dá)到“可識別”程度的同樣可以作為肖像。

構(gòu)成肖像權(quán)侵權(quán)有兩種途徑：破壞他人肖像完整性，未經(jīng)肖像權(quán)人同意而使用、公開他人肖像。破壞他人肖像完整性指的是采取以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人肖像。AI換臉技術(shù)是對人臉圖像的嫁接與挪移，利用AI換臉技術(shù)偽造甚至丑化、污損，或未經(jīng)他人同意使用其肖像進(jìn)行AI換臉并公開都構(gòu)成侵權(quán)。

(一) 利用信息技術(shù)手段偽造他人肖像

《民法典》第一千零一十九條第一款規(guī)定，“任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”?！袄眯畔⒓夹g(shù)手段偽造”中的“信息技術(shù)”泛指在信息科學(xué)的指導(dǎo)下擴(kuò)展人類信息功能的技術(shù)總和，具有一般性的技術(shù)性和區(qū)別于其他技術(shù)的信息性特征。[4]利用信息技術(shù)性的手段對他人肖像進(jìn)行“再現(xiàn)”達(dá)到“可識別”的程度，即是“偽造”他人肖像。AI換臉技術(shù)通過掃描人臉圖像提取有用的生物特征信息(如臉部輪廓、眼睛的大小、嘴巴的位置)生成人臉模版，再對人臉模版進(jìn)行編碼形成數(shù)據(jù)集，并依據(jù)特定的算法規(guī)則轉(zhuǎn)化，實(shí)質(zhì)上是將人臉生物特征信息化并加以算法函數(shù)化轉(zhuǎn)變的技術(shù)處理流程，兼具信息性與技術(shù)性。換臉后達(dá)成以假亂真、能夠被識別為“同一人”的視覺效果，構(gòu)成對他人肖像的“偽造”。因此，利用AI換臉技術(shù)將他人的肖像偽造到特定場景中的行為，屬于“利用信息技術(shù)手段偽造”侵害他人肖像權(quán)。

2021年8月，騰訊QQ、微信平臺上有大量用戶通過私聊、群聊渠道以截圖、轉(zhuǎn)發(fā)形式傳播含有使用AI換臉技術(shù)對明星劉某進(jìn)行丑化、侮辱的合成視頻、視頻截圖及含有侮辱誹謗言論的聊天記錄，對當(dāng)事人造成了極其惡劣的影響，嚴(yán)重侵害當(dāng)事人的肖像權(quán)。該用戶利用AI換臉技術(shù)將劉某的肖像嫁接到特定的淫穢場景中，即通過“信息技術(shù)手段”達(dá)到丑化、侮辱劉某的非法目的，而鑒于劉某作為明星的公眾人物身份，合成的圖像與視頻只要足以被一般公眾識別為同一人，達(dá)到可被認(rèn)定為“真實(shí)”的程度，即構(gòu)成“偽造”，屬于“利用信息技術(shù)手段偽造”侵害他人肖像權(quán)的非法行為。

利用AI換臉技術(shù)對臉部圖像進(jìn)行嫁接、編輯，無疑破壞了肖像的完整性，是既定的侵害事實(shí)。但AI換臉對人臉圖像的“偽造”并不等同于“丑化”“污損”他人肖像，兩者的損害程度相去甚遠(yuǎn)。在2017年美國Reddit網(wǎng)站換臉色情視頻事件中，以好萊塢當(dāng)紅女星為首的十幾名女性遭受肖像權(quán)、名譽(yù)權(quán)的嚴(yán)重侵害。而在國內(nèi)“肌肉金輪”系列視頻中，AI換臉技術(shù)卻為當(dāng)事人增加不少收益。嗶哩嗶哩平臺某用戶將某知名游戲主播的面部肖像嫁接到了以身材為賣點(diǎn)的國外某短視頻博主的身體上，兩者適配度極高，從而引發(fā)了視頻的爆火，該游戲主播也受益于此知名度暴漲。利用AI換臉技術(shù)“偽造”他人肖像合成音視頻進(jìn)行傳播，可能給當(dāng)事人帶來聚光燈式的關(guān)注與巨額的流量曝光，但利用該技術(shù)手段達(dá)成“丑化”“污損”的非法目的則直接導(dǎo)致當(dāng)事人權(quán)益嚴(yán)重受損，技術(shù)使用者的主觀動機(jī)與目的是其中的關(guān)鍵。

AI換臉技術(shù)并非中立，而是帶有“偽造”的特殊屬性，但將AI換臉技術(shù)矮化為邪惡的技術(shù)則是典型的“技術(shù)有罪論”。技術(shù)無罪，人難脫其罪。在AI換臉技術(shù)開發(fā)的初始階段，研發(fā)者們忽視了技術(shù)在發(fā)展與應(yīng)用過程中存在的風(fēng)險，片面考慮到技術(shù)帶來的市場效益便將其投入市場，并非技術(shù)有罪，而是資本無限逐利的“原罪”。

(二)未經(jīng)他人同意使用肖像進(jìn)行AI換臉

《民法典》第一千零一十九條第二款規(guī)定，未經(jīng)肖像權(quán)人同意制作、使用、公開其肖像，破壞了肖像權(quán)的專有性，具有侵害他人肖像權(quán)的違法性。在《民法典》頒行前，依據(jù)《民法通則》第一百條的規(guī)定，未經(jīng)肖像權(quán)人同意而以營利為目的制作、使用、公開他人肖像的行為構(gòu)成侵權(quán)行為?！睹穹ǖ洹奉C布后不再將其作為侵害肖像權(quán)的構(gòu)成要件，實(shí)質(zhì)上擴(kuò)大了肖像權(quán)保護(hù)范圍并優(yōu)先保護(hù)肖像權(quán)的精神性利益。即便沒有營利目的，未經(jīng)他人同意擅自利用AI換臉技術(shù)合成他人肖像甚至廣泛傳播，一般是行為人有意識的、存有某種心理動機(jī)的行為，通常不會因?yàn)椴蛔⒁獾男睦頎顟B(tài)而誤用他人肖像，過錯形態(tài)為故意，主觀過錯明顯，客觀上也造成了對他人肖像權(quán)特別是肖像權(quán)中精神利益的侵害。

未經(jīng)他人同意擅自利用AI換臉技術(shù)嫁接他人肖像，合成“AI換臉音視頻”并散播，一般出于不同的心理動機(jī)?！癆I換臉音視頻”也可以由此分為以下不同種類：娛樂類、淫穢類、政治類。娛樂傳播類音視頻是出于娛樂游戲化傳播目的，利用AI換臉技術(shù)對人臉圖像進(jìn)行嫁接處理，最終實(shí)現(xiàn)在媒體上的大范圍傳播。淫穢類音視頻是基于AI換臉技術(shù)將他人臉部圖像嫁接至扮演色情淫穢音視頻的角色身上，通常上傳至色情網(wǎng)站并非法獲利。政治類音視頻是出于表達(dá)政治訴求或制造政治輿論沖突的動機(jī)，利用AI換臉技術(shù)將國家領(lǐng)袖或相關(guān)政治人物的人臉圖像嫁接、處理、生成的合成音視頻。

在互聯(lián)網(wǎng)上，公眾一般出于娛樂惡搞的目的利用AI換臉技術(shù)合成音視頻，將他人的面部圖像嫁接至其他人的身體上或者虛擬人物上，刻意制造反差極大或者適配度極高的視覺效果，并將合成音視頻在社交媒體平臺公開傳播，屬于“鬼畜類”二次創(chuàng)作。在利用AI換臉技術(shù)嫁接他人肖像技術(shù)的使用過程中，當(dāng)事人對選擇不同的面部圖像應(yīng)當(dāng)具備一定的自主性，并非處于疏忽大意或不注意的心理狀態(tài)。嗶哩嗶哩平臺某UP主利用AI換臉技術(shù)將明星楊某的臉疊加到影視劇中“黃蓉”一角身上并公開這段偽造視頻，楊某換上了“黃蓉”的微表情后顯得無比靈動，與其平時的演技形成鮮明對比，也因此引發(fā)網(wǎng)友的關(guān)注。因此，雖然該UP主聲稱制作視頻并不存在營利行為，但并非出于“不注意”的心理狀態(tài)，其主觀動機(jī)存疑，雖無明顯惡意但也難謂善意。

利用AI換臉技術(shù)將女性明星偶像的面部圖像嫁接至淫穢色情視頻的行為，具有強(qiáng)烈的丑化、侮辱等惡意，并且通常將其上傳至色情網(wǎng)站牟利，顯然構(gòu)成肖像權(quán)侵權(quán)，同時還嚴(yán)重污損當(dāng)事人名譽(yù)。對于存有政治性目標(biāo)的特殊群體而言，技術(shù)是一條攫取政治利益的新途徑。利用AI換臉技術(shù)將國家領(lǐng)導(dǎo)人或其他政治人物的臉部圖像嫁接至其他身體，或在原有基礎(chǔ)上單獨(dú)對微表情、微動作進(jìn)行轉(zhuǎn)變，輔以聲音軌道的智能轉(zhuǎn)換合成逼真的音視頻后公開，能夠引發(fā)大量關(guān)注或攻擊政治對手。

出于不同目的與心理動機(jī)而未經(jīng)他人同意利用AI換臉技術(shù)使用他人肖像將造成不同程度的損害結(jié)果，但一般情況下都并非出于“無意識”的過失狀態(tài)。對于一般大眾而言，AI換臉技術(shù)更多的是一種娛樂惡搞、表達(dá)自我、休閑放松的方式，考慮到此情形下制作合成音視頻的行為動機(jī)惡意不大，應(yīng)當(dāng)結(jié)合過錯程度、受侵害人的知名度等不同方面認(rèn)定侵權(quán)責(zé)任及賠償，酌情處理。

四、視覺失真與新聞失實(shí)

真實(shí)是新聞的生命，真實(shí)的新聞內(nèi)容能夠幫助人們正確認(rèn)識世界。真實(shí)是信任之源，真實(shí)地報(bào)道新聞能夠贏得人們對媒體的信任，確立媒體合法性。但AI換臉技術(shù)的濫用帶來了大量低俗、博眼球的換臉音視頻的無序傳播與媒體亂象，這些虛假音視頻沖擊著公眾對“真實(shí)”本意的認(rèn)知與共識。AI換臉下的虛假新聞更是消解了新聞報(bào)道內(nèi)容的真實(shí)性和公眾對于新聞的理解真實(shí)，同時也挑戰(zhàn)著媒體公信力，帶來前所未有的新聞倫理風(fēng)險。

(一) 視覺失真

智能時代下AI換臉技術(shù)對人臉信息的偽造造成視覺上的失真效果，挑戰(zhàn)了真實(shí)性原則。媒介技術(shù)的發(fā)展增強(qiáng)了人不斷認(rèn)識世界的信息功能，拓展了人類的認(rèn)知邊界，可以說，技術(shù)的重要功能便是增強(qiáng)人們正確認(rèn)識現(xiàn)實(shí)世界的能力。AI換臉技術(shù)的使用卻是對真實(shí)人臉信息進(jìn)行偽造、合成虛假圖層的過程，利用人臉識別技術(shù)與深度學(xué)習(xí)的算法偽造人臉的生物特征，達(dá)到一般公眾無法辨別真?zhèn)蔚某潭?，并且呈現(xiàn)出極具沖擊性的視覺效果，具有“偽造”的技術(shù)屬性。從實(shí)質(zhì)上看，AI換臉技術(shù)作為一種數(shù)字工具的存在深刻影響著信息真實(shí)的建構(gòu)過程，技術(shù)手段制造失真的假象反噬真實(shí)的信息本源，這正印證了麥克盧漢“媒介即訊息”的觀點(diǎn)。

AI換臉技術(shù)將公眾置于虛實(shí)難辨的信息場景之中，打破“人臉即真實(shí)”的社會共識，造成認(rèn)知層面上的“失真”。隱私場景理論認(rèn)為，信息流動具有情景化的特點(diǎn)，信息組合者將信息從原本合適的場景中抽離后將其嵌入到信息主體陌生的場景中，信息主體便無法對新場景作出準(zhǔn)確的判斷。[5]AI換臉音視頻在媒體平臺上的廣泛傳播將公眾從原先真實(shí)人臉的場景中抽離，切換至真實(shí)與虛假人臉難以辨清的新場景，逐步打破了公眾以人臉作為真實(shí)憑證的傳統(tǒng)認(rèn)知。而智能時代下的電子證偽機(jī)制卻尚未建立，在動態(tài)的信息傳遞過程中公眾缺乏技術(shù)手段辨別真?zhèn)?，也就無法建立新的關(guān)于“真實(shí)”的認(rèn)知，被動地陷入“失真”狀態(tài)。AI換臉技術(shù)造成的“視覺失真”也即數(shù)字時代中“真實(shí)”的具體內(nèi)涵在新技術(shù)沖擊下不斷消解的體現(xiàn)，而AI換臉技術(shù)應(yīng)用于新聞行業(yè)也對新聞?wù)鎸?shí)產(chǎn)生了新的挑戰(zhàn)。

(二) 新聞失實(shí)

學(xué)界對“新聞?wù)鎸?shí)”其原則性理念基本達(dá)成一致，即新聞?wù)鎸?shí)是新聞的靈魂，但對于新聞何以謂真、何以為真卻莫衷一是。近年來在智能傳播的大背景下出現(xiàn)了諸多關(guān)于“新聞?wù)鎸?shí)”概念內(nèi)涵的重新討論，包括“報(bào)道真實(shí)”“假設(shè)真實(shí)”“見證真實(shí)”等說法。筆者認(rèn)為，新聞?wù)鎸?shí)首先應(yīng)當(dāng)是新聞報(bào)道真實(shí)，是新聞報(bào)道過程中應(yīng)當(dāng)遵守的職業(yè)倫理準(zhǔn)則。AI換臉技術(shù)在媒體領(lǐng)域的應(yīng)用中對新聞內(nèi)容進(jìn)行了偽造，而對AI換臉音視頻的使用不當(dāng)也破壞了新聞報(bào)道程序的正當(dāng)性。

應(yīng)用AI換臉技術(shù)制作虛假新聞的行為嚴(yán)重違背了新聞?wù)鎸?shí)原則。真實(shí)性原則既是一種道德倫理，也是新聞行業(yè)的報(bào)道編輯原則，以及記者在報(bào)道過程中應(yīng)當(dāng)遵循的職業(yè)規(guī)范。在真實(shí)性原則的指導(dǎo)下，媒體應(yīng)以真實(shí)、準(zhǔn)確的態(tài)度報(bào)道事實(shí)，挖掘事實(shí)真相。而新聞媒體行業(yè)對AI換臉技術(shù)的應(yīng)用卻違背了真實(shí)性原則。例如2018年加蓬政府發(fā)布總統(tǒng)在電視中“向國民發(fā)表新年致辭”的換臉偽造音視頻[6]，嚴(yán)重違背了媒體行業(yè)的真實(shí)性原則。當(dāng)AI換臉技術(shù)被媒體用以制作虛假新聞，偽造不存在的新聞內(nèi)容，真實(shí)性原則也就蕩然無存。

對AI換臉音視頻內(nèi)容的不當(dāng)使用破壞了新聞報(bào)道程序的正當(dāng)性。“程序正義”是一種過程的正義，著眼于正義的普遍形式，考慮的是程序的正當(dāng)性。[7]實(shí)現(xiàn)程序正義是對新聞?wù)鎸?shí)的更高要求，報(bào)道事實(shí)和報(bào)道程序正當(dāng)且準(zhǔn)確都是構(gòu)成新聞?wù)鎸?shí)缺一不可的要素。[8]據(jù)POLITCO報(bào)紙報(bào)道，在特朗普宣布退出全球氣候協(xié)定后，比利時某政黨組織利用深度偽造技術(shù)制作了一段“特朗普”宣稱“比利時也應(yīng)該跟隨美國退出全球氣候協(xié)定”的AI換臉音視頻。[9]該新聞在報(bào)道中使用了虛假的AI換臉內(nèi)容，并沒有明顯標(biāo)識視頻內(nèi)容為合成作品，僅在視頻最后作出提示，既偽造了虛假的報(bào)道內(nèi)容，也在報(bào)道程序上存在不正當(dāng)?shù)牟僮鳌?/p>

(三)挑戰(zhàn)媒體公信力

真實(shí)性原則是媒體的公信力所在。新聞?wù)鎸?shí)不僅停留于新聞內(nèi)容的客觀真實(shí)，更強(qiáng)調(diào)新聞的“信任性真實(shí)”，即受眾理解、信任的真實(shí)。[10]源于社交媒體的社交性與連接性屬性，有學(xué)者進(jìn)一步提出了“假設(shè)真實(shí)”的概念，認(rèn)為“新聞?wù)鎸?shí)”在社交媒體時代更體現(xiàn)為媒體追尋受眾信任與認(rèn)可的進(jìn)程，這也是媒體的公信力所在。[11]而AI換臉技術(shù)對于媒體公信力的破壞，就在于其制造的虛假新聞在新媒體平臺上快速擴(kuò)散后引起公眾對于媒體的不信任感。

自媒體為了攫取流量，大范圍擴(kuò)散傳播充斥獵奇色彩的虛假新聞，受眾因無法辨別真?zhèn)味`信，而在核查后發(fā)現(xiàn)自己被蒙騙，由此降低對原本報(bào)道該新聞的媒體的信任度。澳大利亞學(xué)者研究發(fā)現(xiàn)，在第三方機(jī)構(gòu)對新聞報(bào)道中政治人物的“聲稱”進(jìn)行核查后反而降低了受眾對于進(jìn)行新聞報(bào)道媒體的信任度。[12]專業(yè)(機(jī)構(gòu))媒體核查合成新聞或制作AI換臉音視頻警醒公眾[13]，一方面使得公眾將信任投資轉(zhuǎn)向權(quán)威的新聞媒體，形成新聞行動者網(wǎng)絡(luò)中不同新聞權(quán)威的分層；但另一方面自媒體同樣屬于新新聞生態(tài)系統(tǒng)的重要一環(huán)并且在數(shù)量上占據(jù)絕對優(yōu)勢，公眾對自媒體信任度的降低反而降低了對新聞業(yè)的系統(tǒng)性信任。

在媒介技術(shù)的發(fā)展之下，專業(yè)(機(jī)構(gòu))媒體、自媒體、平臺媒體等構(gòu)成新新聞生態(tài)系統(tǒng)，多元的新聞行動者實(shí)質(zhì)上代表了新興而豐富的新聞采寫與傳播模式，但這也帶來了難以統(tǒng)一的行為邏輯與規(guī)范理念。面對AI換臉技術(shù)的挑戰(zhàn)，不同的新聞行動者都應(yīng)當(dāng)加強(qiáng)對于AI換臉虛假新聞的治理力度，公眾也應(yīng)當(dāng)提升對虛假內(nèi)容的辨別能力，攜手共建真實(shí)、客觀的社會公共輿論場與網(wǎng)絡(luò)媒體生態(tài)環(huán)境。

五、AI換臉的多元規(guī)制

AI換臉技術(shù)在快速發(fā)展過程中潛藏著法律與新聞倫理風(fēng)險，需要加強(qiáng)法律監(jiān)管力度并通過媒體平臺對其亂象進(jìn)行規(guī)制，在市場、技術(shù)和規(guī)則之間找到平衡點(diǎn)。

(一) 增強(qiáng)個人生物識別信息的保護(hù)

1.落實(shí)人臉生物識別信息采集中的“知情—同意”原則

要嚴(yán)格把控人臉生物識別信息的采集，落實(shí)個人對于AI換臉等深度偽造技術(shù)采集生物識別信息的知情同意。根據(jù)《規(guī)定》第十四條第二款，提供顯著編輯人臉、人聲等生物識別信息功能的深度合成服務(wù)提供者，應(yīng)當(dāng)明確提示深度合成服務(wù)使用者需要提前依法告知被編輯信息的個人主體，并獲取被編輯信息的個人主體的“單獨(dú)同意”而非概括同意。依據(jù)該條款，被編輯信息的個人主體僅僅能知曉其個人生物識別信息被編輯，告知不充分，個人在事先很難準(zhǔn)確預(yù)測進(jìn)一步處理人臉識別信息的“目的、方式和范圍”以及使用的深度、廣度，很難達(dá)到充分的“知情同意”。[14]《個人信息保護(hù)法》對收集生物識別信息等敏感信息有明確規(guī)定，在應(yīng)用AI換臉技術(shù)過程中對于人臉生物信息的采集需要符合特定目的和有充分必要性，且必須告知個人信息收集的必要性，以及對于個人的影響后才能進(jìn)行。由此，(深度合成服務(wù)提供者)還需要明確告知信息權(quán)利人其收集處理的內(nèi)容、目的、方式及是否與第三方共享，以此實(shí)現(xiàn)充分知情基礎(chǔ)上真正的同意。

2.提高對個人生物識別信息的收集與存儲標(biāo)準(zhǔn)

作為敏感個人信息，人臉識別信息的存儲需要明確存儲級別和措施。[15]《規(guī)定》第十四條第一款指出，深度合成服務(wù)提供者應(yīng)當(dāng)采取必要措施保障數(shù)據(jù)安全，確保數(shù)據(jù)在處理過程中“合法、正當(dāng)”；加強(qiáng)數(shù)據(jù)集訓(xùn)練管理，提高對于涉及個人信息數(shù)據(jù)的訓(xùn)練數(shù)據(jù)集的保護(hù)力度，不得非法處理個人信息。依據(jù)《網(wǎng)絡(luò)安全法》，個人生物識別信息的存儲必須與個人身份信息分開存儲。(2)國家市場監(jiān)督管理總局、國家標(biāo)準(zhǔn)化管理委員會正式發(fā)布國家標(biāo)準(zhǔn)《信息安全技術(shù) 個人信息安全規(guī)范》第5.4條規(guī)定。因此，在AI換臉技術(shù)的應(yīng)用過程中應(yīng)當(dāng)針對后續(xù)人臉生物信息的存儲、運(yùn)輸傳遞及使用作出明示說明，保障個人信息的安全。但《規(guī)定》中對于應(yīng)用深度合成技術(shù)收集敏感個人信息后采取何種級別的保存措施，以及能否有權(quán)委托第三方保存等具體問題，尚未作出特殊規(guī)定與說明。

《民法典》第一千零三十四條中將公民個人信息分為“私密信息”和“一般信息”兩類。有觀點(diǎn)認(rèn)為個人隱私及私密信息強(qiáng)調(diào)私密性，以及與個人尊嚴(yán)的強(qiáng)關(guān)聯(lián)關(guān)系，人臉生物識別信息雖然敏感卻并不私密，相反甚至具有公開性。[16]但筆者認(rèn)為，正如身高、體重、女性三圍等基于可視的身體特征而提取出的以數(shù)據(jù)形式呈現(xiàn)的數(shù)據(jù)集一樣，基于人臉生物特征提取的人臉生物識別信息同屬于隱私中的私密信息，具有私密性。人臉生物識別信息集高度敏感性及私密性于一體。(深度合成服務(wù)提供者)應(yīng)當(dāng)分而治之地采取不同規(guī)格的保存措施存儲不同層級的個人信息，將一般信息與敏感信息進(jìn)行分級處理，對人臉生物識別信息等敏感個人信息采取高規(guī)格的保護(hù)措施。雖然民法典中明確規(guī)定未獲得信息權(quán)利人同意不得將個人生物識別信息轉(zhuǎn)移至第三方機(jī)構(gòu)，但將深度合成服務(wù)提供者所承擔(dān)的采集個人生物識別信息，以及存儲個人生物識別信息功能相分離，引入第三方存儲機(jī)構(gòu)有利于提高個人生物識別信息的儲存安全系數(shù)。

(二) 加強(qiáng)媒體平臺對深度合成作品的管理

1.強(qiáng)化平臺的主體責(zé)任

《規(guī)定》第七條、第八條中明確指出深度合成服務(wù)提供者的主體責(zé)任與應(yīng)盡義務(wù)，如完善平臺與創(chuàng)作者的服務(wù)協(xié)議，在內(nèi)容上傳前要求創(chuàng)作者自覺對內(nèi)容進(jìn)行標(biāo)識，并采取技術(shù)或者人工方式對深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，對于未進(jìn)行標(biāo)識的內(nèi)容應(yīng)當(dāng)停止傳輸；以顯著方式提示深度合成服務(wù)使用者承擔(dān)相應(yīng)的信息安全義務(wù)等。因此，作為深度合成服務(wù)的提供者，同時具有輿論屬性與社會動員能力的媒體平臺，必須承擔(dān)相應(yīng)的主體責(zé)任。

我國新媒體中的AI換臉音視頻普遍存在多媒體平臺傳播的現(xiàn)象，當(dāng)AI換臉視頻制作完成后傳播至微博、微信等其他平臺時，就可能存在多方的深度合成服務(wù)提供者。此時面對多個主體承擔(dān)連帶責(zé)任的情況，承擔(dān)責(zé)任的深度合成服務(wù)提供者是否需要從內(nèi)容制作平臺追溯至其他傳播平臺存有爭議。依據(jù)《規(guī)定》第二十三條，提供深度合成服務(wù)的組織、個人屬于深度合成服務(wù)提供者，為深度合成服務(wù)提供技術(shù)支持的組織、個人屬于深度合成服務(wù)技術(shù)支持者。顯然，傳播平臺應(yīng)當(dāng)屬于“深度合成服務(wù)提供者”，AI換臉技術(shù)的使用者并非孤立地散播AI換臉深度合成音視頻，其往往借助媒體平臺發(fā)布，以達(dá)到大范圍傳播擴(kuò)散的效果。因此，筆者認(rèn)為，無論作為內(nèi)容制作的平臺，抑或由平臺用戶轉(zhuǎn)發(fā)擴(kuò)散的其他傳播平臺，都應(yīng)該承擔(dān)相應(yīng)的責(zé)任?！兑?guī)定》第六條：“不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。”法律明確禁止媒體平臺及用戶利用AI換臉技術(shù)合成虛假新聞。媒體平臺及用戶不得利用AI換臉技術(shù)杜撰虛假的新聞內(nèi)容，無論是對個人或名人的換臉或?qū)ζ涿娌课⒈砬檫M(jìn)行轉(zhuǎn)換等，都是違法的。隨意使用國家領(lǐng)導(dǎo)人的肖像進(jìn)行深度合成，在我國不但構(gòu)成侵權(quán)，還存在其他風(fēng)險。另外，如果轉(zhuǎn)載的深度合成的新聞作品中涉及他人肖像，如虛擬主播主持的新聞作品、VR新聞等，應(yīng)當(dāng)“依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息”。

2.深度合成作品必須作出明顯標(biāo)識

依據(jù)《規(guī)定》第九條、第十七條(3)《規(guī)定》第十七條，“深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識”中列舉五種情況，其中第三款即AI換臉“人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù)”。，作為深度合成服務(wù)提供者，平臺必須要求信息提供者進(jìn)行身份認(rèn)證并對其上傳的相關(guān)的深度合成內(nèi)容作出明顯標(biāo)示標(biāo)識，促進(jìn)塑造客觀、真實(shí)的媒體生態(tài)環(huán)境。平臺可以應(yīng)用區(qū)塊鏈技術(shù)為用戶提供在深度合成作品上作出明顯標(biāo)識的技術(shù)手段，如運(yùn)用數(shù)字水印、分布式共識和經(jīng)濟(jì)激勵等手段，實(shí)現(xiàn)去中心化信用的點(diǎn)對點(diǎn)交易與協(xié)作。[17]平臺還可以在內(nèi)容中應(yīng)用溯源防偽技術(shù)增強(qiáng)網(wǎng)絡(luò)平臺中對用戶隱私的保護(hù)，如一種可以應(yīng)對基于GAN的編輯與篡改的端到端的深度學(xué)習(xí)方法，解決原創(chuàng)者作品被肆意偽造修改而難以追溯源頭的難題。[18]阿里云開發(fā)者社區(qū)建立了時間戳在線轉(zhuǎn)換工具，能夠?yàn)橛脩籼峁┮环蓦娮幼C據(jù)以證明用戶的某些數(shù)據(jù)的產(chǎn)生時間，普通公眾可以通過保存時間戳作為“數(shù)字水印”保護(hù)個人創(chuàng)作作品，積極配合平臺管理深度合成內(nèi)容。

除建立明顯標(biāo)識的保護(hù)之外，平臺也應(yīng)當(dāng)防范出現(xiàn)深度合成內(nèi)容未進(jìn)行明顯標(biāo)識的情形?！兑?guī)定》第十八條，任何組織、個人不得采用技術(shù)手段刪除、篡改、隱匿相應(yīng)的深度合成標(biāo)識。當(dāng)平臺檢測到信息提供者未對規(guī)定的深度合成信息內(nèi)容進(jìn)行顯著標(biāo)識時，應(yīng)當(dāng)立即中止內(nèi)容的發(fā)布，并要求上傳者按照規(guī)定標(biāo)識顯著記號才能進(jìn)行公開與傳播。當(dāng)平臺檢測到未按規(guī)定進(jìn)行顯著標(biāo)識的深度合成信息內(nèi)容在其平臺上廣泛傳播時，應(yīng)當(dāng)立即封鎖該信息的閱讀查看與轉(zhuǎn)發(fā)權(quán)限，并對內(nèi)容傳播者進(jìn)行通告處理。

3.增強(qiáng)對深度合成內(nèi)容的監(jiān)測

平臺需要不斷引進(jìn)新型檢測技術(shù)，擴(kuò)展新的組件技術(shù)提高檢測精確性，以解決新問題。當(dāng)下針對AI換臉的偽造音視頻已有專門的探測技術(shù)進(jìn)行檢驗(yàn)，包括多種探測方式：其一，從人臉固有特征發(fā)現(xiàn)生理特征上的區(qū)別；其二，從偽造方法出發(fā)，觀察生成對抗網(wǎng)絡(luò)的固有痕跡或通過修改卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來檢測偽造視頻；其三，抓住視頻內(nèi)容的時序性進(jìn)行偽造檢測。目前絕大多數(shù)方法的準(zhǔn)確率指標(biāo)都已達(dá)到95%，但是這些指標(biāo)都是在公開數(shù)據(jù)集上得到的，實(shí)際互聯(lián)網(wǎng)環(huán)境中的準(zhǔn)確率只有70%左右。[16]而類似于能夠跟蹤用戶所有對話、行為軌跡的生命日志記錄又存在明顯的侵犯用戶個人隱私的弊病，難以真正推行。因此，以上技術(shù)都并非盡善盡美，平臺亟須在實(shí)際應(yīng)用中不斷革新檢測技術(shù)，加強(qiáng)對深度合成內(nèi)容的檢測管理。

平臺還應(yīng)當(dāng)加強(qiáng)對深度合成內(nèi)容的審核。建立健全用于識別違法和不良深度合成信息內(nèi)容的數(shù)據(jù)庫，提高對違法和不良深度合成內(nèi)容的識別度與檢測準(zhǔn)確率，對于其中違法以及不良的內(nèi)容進(jìn)行刪除。當(dāng)發(fā)現(xiàn)因?qū)徍耸д`而導(dǎo)致違法和不良的深度合成內(nèi)容擴(kuò)散傳播時，平臺應(yīng)立即封鎖該信息的閱讀查看與轉(zhuǎn)發(fā)權(quán)限，以中止虛假信息的傳播，對相關(guān)的信息提供者予以處置，并及時采取相應(yīng)的辟謠措施，向用戶公示虛假內(nèi)容及比對情況，同時將相關(guān)信息報(bào)相關(guān)部門備案，承擔(dān)起相應(yīng)的管理職責(zé)。

(三) 提高公眾的媒介素養(yǎng)

1.提高信息甄別能力

英國學(xué)者湯普森和利維斯認(rèn)為，媒介素養(yǎng)就像“疫苗”，大眾通過接種“疫苗”便能夠?qū)Ξ?dāng)時通俗流行文化“免疫”，從而保持獨(dú)立思考、批判的精神。[19]當(dāng)下以技術(shù)為主導(dǎo)的媒介邏輯重構(gòu)著社會的各個領(lǐng)域，AR、VR、直播等技術(shù)手段建構(gòu)起融合多重感官的沉浸式媒介體驗(yàn)，大眾亟待提升對龐雜而富媒化的信息內(nèi)容進(jìn)行甄別和批判性思考的處理能力。在面對AI換臉等合成技術(shù)制造的虛假新聞時，一方面，公眾應(yīng)在視覺沖擊前保持冷靜理智的頭腦，注重媒介內(nèi)容的客觀性、真實(shí)性、準(zhǔn)確性，弱化主觀性、情感性等非理性因素的影響，時刻保持對媒介信息的批判意識；另一方面，公眾應(yīng)當(dāng)理性甄別媒介信息，對帶有深度合成標(biāo)識的內(nèi)容保持警惕，對于權(quán)威信源投以更多的信任而非將關(guān)注放在小道消息與營銷號等自媒體消息上，不盲從、不盲信媒介信息內(nèi)容。

2.增強(qiáng)媒介使用能力

在萬物皆媒的數(shù)字時代，網(wǎng)絡(luò)媒體生態(tài)在技術(shù)賦權(quán)下，不僅是投射真實(shí)世界的擬態(tài)環(huán)境，而且在各類人機(jī)交互的社交網(wǎng)絡(luò)中虛實(shí)相融、信息雜糅，對當(dāng)代公民素養(yǎng)提出了更高的要求?！凹夹g(shù)是一種解蔽方式”，海德格爾在《技術(shù)的追問》中提出應(yīng)以技術(shù)手段破解技術(shù)困境。如何鑒別AI換臉技術(shù)中的虛假新聞，也需要公眾和平臺積極、有效地利用一些檢測網(wǎng)站以及事實(shí)核查平臺對新聞內(nèi)容進(jìn)行核查，主動使用相關(guān)媒介技術(shù)了解技術(shù)黑箱的運(yùn)行法則，作出理性分析與判斷。在媒介使用過程中，還應(yīng)當(dāng)對媒介技術(shù)所產(chǎn)生的技術(shù)風(fēng)險有所防范，尤其注意個人生物識別信息安全，涉及人臉識別、人聲識別、指紋、瞳孔等生物識別信息時需要充分了解信息的采集、使用與存儲流程以及信息采集目的的充分必要性以及使用情況，謹(jǐn)慎使用生物識別信息。公眾應(yīng)積極使用媒介技術(shù)發(fā)展“延伸”自身的信息功能，在新媒體的使用過程中開拓視野、培養(yǎng)多元化思維以及建構(gòu)信息知識網(wǎng)絡(luò)，在虛擬的網(wǎng)絡(luò)世界中提升自身的信息獲取能力、信息使用效率，主動參與到社會公共事務(wù)的討論與民主決策中去，成為理性的網(wǎng)絡(luò)公民。

3.樹立法制觀念

媒介素養(yǎng)極具情境性，伴隨著信息傳播技術(shù)的快速變化，其內(nèi)涵與維度也發(fā)生著不同轉(zhuǎn)變。在AI技術(shù)與社會化媒體深度融合發(fā)展下，智能技術(shù)改造升級傳統(tǒng)數(shù)字傳播語境的同時也帶來一系列法律風(fēng)險，諸如使用AI換臉侵害肖像權(quán)、創(chuàng)作剪輯類短視頻侵害著作權(quán)，以及個性化算法推薦過度收集個人信息侵害隱私權(quán)等。這要求公民具備一定的與媒體相關(guān)的法律知識與法制觀念?！熬W(wǎng)絡(luò)空間并非法外之地”，公眾在使用AI換臉技術(shù)制作娛樂類音視頻的過程中要注意其帶來的法律風(fēng)險。公眾應(yīng)當(dāng)學(xué)習(xí)相關(guān)的網(wǎng)絡(luò)安全法律法規(guī)，增強(qiáng)法制觀念并將其內(nèi)化為自律行為，共同構(gòu)建法治化的媒體生態(tài)環(huán)境，清朗網(wǎng)絡(luò)空間。

六、結(jié) 論

“走太快了，靈魂跟不上?！边@是一個游牧部落的古訓(xùn)，也是對人工智能技術(shù)突飛猛進(jìn)但隱患頻仍現(xiàn)狀的映射。我國AI換臉技術(shù)的開發(fā)和利用正處于高速發(fā)展階段，但對其產(chǎn)生的技術(shù)風(fēng)險以及必要的規(guī)制對策還缺乏足夠的認(rèn)識和深入的研討。AI換臉技術(shù)是一把利弊兼具的雙刃劍，在深度合成音視頻娛樂大眾的同時，其技術(shù)濫用而缺少監(jiān)管也潛藏著生物信息安全隱患與傳播侵權(quán)的局部無序亂象。而AI換臉技術(shù)應(yīng)用于新聞制作，尤其涉足政治領(lǐng)域的嚴(yán)肅新聞時，加劇視覺失真與新聞失實(shí)的困境，形成復(fù)雜的網(wǎng)絡(luò)輿論生態(tài)混沌。

加快規(guī)范技術(shù)開發(fā)的立法，讓技術(shù)插上倫理的翅膀，乃是當(dāng)務(wù)之急。同時，要積極預(yù)防新媒體AI換臉技術(shù)應(yīng)用對社會信任機(jī)制的沖擊，加強(qiáng)事實(shí)核查機(jī)制的建設(shè)，建立健全謠言核查平臺與辟謠機(jī)制。對于AI換臉等深度合成技術(shù)的應(yīng)用，應(yīng)該在個人信息安全、企業(yè)基于用戶信息的技術(shù)創(chuàng)新發(fā)展、數(shù)字社會治理上找到平衡。