《民法典》視野下深度偽造技術(shù)的法律風(fēng)險與規(guī)則應(yīng)對

賈章范

清華大學(xué)，北京 100084

一、問題的提出

2019年8月30日，陌陌公司旗下的“換臉”軟件ZAO正式發(fā)布。該軟件利用深度偽造技術(shù)將網(wǎng)絡(luò)用戶的面部特征替換至影視片段中的相關(guān)角色，從而實現(xiàn)具有高度相似性的“一鍵換臉”。隨后，該軟件因《用戶使用協(xié)議》涉嫌過度索取個人信息、存在數(shù)據(jù)泄露風(fēng)險等問題而引起社會輿論高度關(guān)注。2019年9月3日，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局就網(wǎng)絡(luò)數(shù)據(jù)安全問題約談陌陌公司負(fù)責(zé)人，并對個人信息安全保護(hù)、新技術(shù)安全評估和風(fēng)險防范等問題作出相應(yīng)要求[1]。其實，早在2017年11月，匿名網(wǎng)絡(luò)用戶u/deepfakes就在社交門戶網(wǎng)站Reddit上傳了與影視明星相關(guān)的偽造視頻，深度偽造技術(shù)進(jìn)入社會公眾視野，并呈現(xiàn)出快速發(fā)展趨勢，諸多社會公眾人物成為深度偽造技術(shù)的受害者。

“深度偽造”（deepfake）是深度學(xué)習(xí)（deep learn-ing）和偽造（fake）的合成詞，是一種基于深度學(xué)習(xí)和機(jī)器學(xué)習(xí)而生的新興技術(shù)，能應(yīng)用于視頻偽造、語音合成、圖像替換、筆跡模仿等領(lǐng)域，并產(chǎn)生具有高度相似性的逼真效果[2]。雖然利用計算機(jī)技術(shù)對視頻或圖片進(jìn)行編輯的現(xiàn)象已屢見不鮮，但直接將不相關(guān)言語和行為與特定個人相聯(lián)系，并產(chǎn)生以假亂真效果的應(yīng)用程序仍屬罕見。隨著深度偽造技術(shù)的發(fā)展和“一鍵換臉”等類似應(yīng)用的普及，非專業(yè)人員也能快速制作出具有高度相似性且難以識別的圖片和視頻。

在傳統(tǒng)社會語境下，視頻和音頻曾是對現(xiàn)實的可靠記錄，但深度偽造技術(shù)有可能改變這一傳統(tǒng)認(rèn)知觀念，并對個人認(rèn)知、社會秩序和國家安全產(chǎn)生影響。由于深度偽造技術(shù)引發(fā)社會公眾關(guān)注的時間較短，我國學(xué)界對該技術(shù)引發(fā)法律問題的研究剛剛起步，因此，筆者嘗試從深度偽造技術(shù)的應(yīng)用原理和適用現(xiàn)狀入手，分析深度偽造技術(shù)在不同維度上可能引發(fā)的法律風(fēng)險，并提出相應(yīng)風(fēng)險規(guī)避措施和應(yīng)對方法，以期為深度偽造技術(shù)的正確使用提供參考。

二、深度偽造技術(shù)的應(yīng)用原理及適用現(xiàn)狀

（一）深度偽造技術(shù)的應(yīng)用原理

深度偽造技術(shù)依托于多個節(jié)點組成的神經(jīng)網(wǎng)絡(luò)，通過數(shù)據(jù)供給方式訓(xùn)練出相應(yīng)算法模型，并以新的數(shù)據(jù)模型取代原有數(shù)據(jù)模型。與傳統(tǒng)數(shù)據(jù)生成方式相比，由Goodfellow團(tuán)隊在2014年提出的生成對抗網(wǎng)絡(luò)（GAN，Generative Adversarial Networks）為深度偽造技術(shù)的產(chǎn)生提供了無監(jiān)督學(xué)習(xí)的理論模型，生成模型（Generative Model）和判別模型（Discriminative Model）組成了生成對抗網(wǎng)絡(luò)的主要模塊，并在互相博弈的過程中提升彼此訓(xùn)練速度[3]。具體而言，生成模型的任務(wù)是在深度學(xué)習(xí)大量數(shù)據(jù)的基礎(chǔ)上生成新數(shù)據(jù)，而判別模型的任務(wù)在于識別其中修飾成分，并重新修改識別出來的數(shù)據(jù)發(fā)回生成模型，直至判別模型無法識別出修飾部分時，生成的數(shù)據(jù)才能成為下一步技術(shù)處理的“原材料”。在這場類似于零和博弈的模型訓(xùn)練中，生成模型和判別模型通過交替優(yōu)化方式達(dá)到無法區(qū)分修飾部分的目的，這也是深度偽造視頻具有高度相似性和難以識別性的重要原因。

以面部替換的深度偽造算法為例，技術(shù)設(shè)計者先從網(wǎng)絡(luò)空間內(nèi)獲取大量被替換者視頻或圖片，并用生成對抗網(wǎng)絡(luò)中的生成模型偽造出替換者面部特征數(shù)據(jù)，再通過對抗模型對比被替換者與替換者的面部特征數(shù)據(jù)，挑選出判定為“真”的面部數(shù)據(jù)作為人臉替換新“材料”，繼而借助新的靜態(tài)影像材料合成動態(tài)深度偽造視頻，判定為“假”的面部數(shù)據(jù)將發(fā)回生成模型重新修飾，直至對抗模型無法識別而判定為“真”。從理論方面推演，只要有足夠多的人臉數(shù)據(jù)和實驗樣本，深度偽造技術(shù)總能把任意對象的面部數(shù)據(jù)更換為被替換者的面部數(shù)據(jù)。

（二）深度偽造技術(shù)適用現(xiàn)狀及特征

荷蘭網(wǎng)絡(luò)安全公司Deeptrace在2019年9月發(fā)布了全球第一份深度偽造技術(shù)應(yīng)用情況調(diào)查報告《深度偽造的狀況：范圍、威脅和影響》（The State of Deepfakes:Landscape，Threat，and Impact）。通過具體案例分析和數(shù)據(jù)對比方式，分析深度偽造技術(shù)的應(yīng)用現(xiàn)狀和潛在風(fēng)險，以此管窺深度偽造技術(shù)的應(yīng)用現(xiàn)狀及特征①本部分主要數(shù)據(jù)均來源于此報告。。

1.視頻數(shù)量快速增長，技術(shù)應(yīng)用門檻降低。根據(jù)報告顯示，截至2019年9月，以英語為語言載體的深度偽造視頻數(shù)量接近1.5萬個，而在2018年12月，該種類視頻數(shù)量僅為7 964個。在不到九個月的時間里，深度偽造視頻數(shù)量近乎翻倍。這種趨勢與非專業(yè)人員能夠利用簡單開源代碼制作深度偽造視頻緊密相關(guān)。從技術(shù)發(fā)展歷程來看，深度偽造技術(shù)作為專業(yè)復(fù)雜的計算機(jī)算法，其應(yīng)用需要以海量計算機(jī)數(shù)據(jù)和專業(yè)人員的人為干預(yù)為前提，一般社會公眾并不具備對數(shù)據(jù)進(jìn)行精準(zhǔn)標(biāo)注和訓(xùn)練的能力。但隨著算法模型日益成熟，尤其是2017年11月匿名網(wǎng)絡(luò)用戶u/deepfakes上傳深度偽造技術(shù)的開源算法后，非專業(yè)人士在計算機(jī)系統(tǒng)輔助下可簡單生成相關(guān)偽造視頻。與之相類似，陌陌公司的軟件ZAO能夠輕易實現(xiàn)“一鍵換臉”，其原因也在于大型互聯(lián)網(wǎng)公司將業(yè)已成熟的計算機(jī)算法應(yīng)用于日常生活場景，不斷提升的精準(zhǔn)度和趣味性使所有人均可能成為深度偽造技術(shù)的應(yīng)用者和受害者。甚至在軟件ZAO上線當(dāng)晚，服務(wù)器消耗當(dāng)月三分之一儲存量，陌陌公司不得不因訪問人數(shù)過多而采取相應(yīng)限制措施，“換臉軟件”的民眾參與度可見一斑。

2.對特定群體的風(fēng)險。從職業(yè)分布來看，被侵權(quán)者中絕大多數(shù)為娛樂行業(yè)和新聞傳媒領(lǐng)域從業(yè)人員，還包括少部分政治人物和企業(yè)家。深度偽造技術(shù)對娛樂行業(yè)和新聞行業(yè)人員的侵害多體現(xiàn)在人身權(quán)利侵害，而對政治人物和企業(yè)家的侵害多體現(xiàn)在散布虛假信息，從而影響企業(yè)運(yùn)營、社會秩序和國家安全。美國戰(zhàn)略與國際研究中心在2019年10月發(fā)布了《相信你的眼睛？深度偽造政策簡介》的研究報告，指出深度偽造技術(shù)對社會秩序、個人權(quán)利和國家的威脅。

3.技術(shù)快速發(fā)展，偽造產(chǎn)物具有高度相似性。根據(jù)Deeptrace報告顯示，在生成對抗網(wǎng)絡(luò)引起公眾關(guān)注之前，該領(lǐng)域研究成果不足百篇，但僅在2017年，便有469篇相關(guān)論文問世。至2019年9月，該領(lǐng)域新的研究成果已達(dá)到1 207篇，足見深度偽造技術(shù)研發(fā)之快速。與技術(shù)研發(fā)相適應(yīng)的是，深度偽造技術(shù)生成結(jié)果真實度越來越高，大多數(shù)人無從分辨。來自斯坦福大學(xué)、普林斯頓大學(xué)、德國馬克斯普朗克信息學(xué)院和Adobe研究院的多名研究者運(yùn)用深度偽造技術(shù)，將財經(jīng)電視臺的原報道“蘋果股價收盤于191.45美元”更改為“蘋果股價收盤于182.25美元”。研究者邀請了138名用戶參與關(guān)于“視頻編輯”的調(diào)研，并事先告知受試者視頻有深度偽造可能。最終結(jié)果顯示，仍然有59.6%的受試者認(rèn)為被這項技術(shù)編輯過的視頻是真實的視頻，20%的受試者認(rèn)為未經(jīng)編輯過的視頻反而為假[4]。

三、深度偽造技術(shù)的法律風(fēng)險及其法經(jīng)濟(jì)學(xué)分析

從表面來看，深度偽造技術(shù)是將他人生物特征移轉(zhuǎn)給其他主體或虛構(gòu)他人行為和言論，這些并非因深度偽造技術(shù)而生的新事物，只是將技術(shù)難度降低至社會公眾亦可操作的程度。但與傳統(tǒng)偽造方式相比，深度偽造技術(shù)通過數(shù)據(jù)積累和算法設(shè)計合成虛假視頻，其高度真實性和難以證偽性易使其他社會主體產(chǎn)生錯誤認(rèn)知，整體社會信任機(jī)制可能會受到嚴(yán)重影響。因此，深度偽造技術(shù)的法律風(fēng)險源于其作為侵權(quán)手段、虛假信息和先進(jìn)算法所引發(fā)的社會風(fēng)險，從法經(jīng)濟(jì)學(xué)角度分析深度偽造技術(shù)應(yīng)用機(jī)制，能夠為深度偽造技術(shù)的規(guī)制和應(yīng)用提供不同方法進(jìn)路，為深度偽造技術(shù)利用提供法律借鑒和思考。

（一）作為侵權(quán)手段的成本收益分析

從應(yīng)用現(xiàn)狀來看，深度偽造技術(shù)有可能催生出侵害個人人身或財產(chǎn)的黑色交易鏈條。

隨著大數(shù)據(jù)產(chǎn)業(yè)和人工智能技術(shù)發(fā)展，深度偽造技術(shù)將使得針對特定個人的精準(zhǔn)詐騙更為猖獗，法國保險公司Euler Hermes曾發(fā)布相關(guān)客戶因深度偽造技術(shù)而受騙的報告。網(wǎng)絡(luò)詐騙分子模仿并合成了德國母公司首席執(zhí)行官的語音音頻，對該公司下屬一家未具名的英國能源公司進(jìn)行詐騙。子公司首席執(zhí)行官誤判該音頻真實性，并向相關(guān)匈牙利供應(yīng)商支付了24.3萬美元。隨后，該費(fèi)用被轉(zhuǎn)移，Euler Hermes將這些損失作為公司欺詐保險政策的一部分給予賠償[5]。

深度偽造技術(shù)能夠為黑色交易鏈條提供更為便捷和隱蔽的交易機(jī)會，針對特定個人的精準(zhǔn)詐騙和網(wǎng)絡(luò)攻擊成本顯著降低，而相關(guān)行為的成功率和收益將獲得提升。對于受害人而言，他們甚至無法得知自己是否被侵權(quán)、被誰侵權(quán)、侵權(quán)視頻的傳播范圍等基本事實。若受害人希望證明深度偽造視頻為假，記錄所有生活細(xì)節(jié)的不在場服務(wù)（alibi service）可以成為一項選擇[6]，但這種以犧牲隱私為代價的維權(quán)成本亦是受害人無法承受之重。簡而言之，深度偽造技術(shù)有可能為相關(guān)侵權(quán)行為打開便捷的通道，侵權(quán)人的侵權(quán)成本降低，收益顯著提升，而受害人卻深陷于權(quán)益遭受侵害而不知和維護(hù)權(quán)利而不能的尷尬局面。

（二）虛假信息傳播的負(fù)外部性考量

深度偽造技術(shù)生成的圖像、語音和視頻等除自身非真實性外，其社會危害性的考量還來源于因傳播行為而生的負(fù)外部性。雖然深度偽造的圖像或視頻本身即有侵害他人權(quán)利的可能，但其負(fù)外部性的溢出卻與這些圖像或視頻傳播密不可分。從負(fù)外部性角度分析，行為人對他人和社會利益產(chǎn)生影響，而受影響的個人或社會卻無法獲得相應(yīng)補(bǔ)償，恢復(fù)原有秩序的費(fèi)用也得不到相關(guān)生產(chǎn)者的考量。因此，負(fù)外部性效應(yīng)的解決需要綜合考量社會資源使用方式，由雙方互相妥協(xié)或規(guī)定資源使用范圍和方式。在深度偽造視頻傳播過程中，由于網(wǎng)絡(luò)空間非直接接觸性，難以實現(xiàn)偽造視頻制作者和受害人協(xié)商，因此規(guī)定資源使用范圍和方式更為可行。美國參議院情報委員會在2019年1月發(fā)布的《全球威脅評估》指出，競爭對手可能嘗試使用深度偽造技術(shù)或類似機(jī)器學(xué)習(xí)技術(shù)以制作令人信服但非真實的圖像、音頻和視頻文件，從而影響美國及其盟友與合作伙伴，也可能利用信息網(wǎng)絡(luò)直接操縱或干擾選舉系統(tǒng)。

以美國眾議院議長南希·佩洛西（Nancy Pelosi）“醉酒案”為例，在一段偽造視頻中，佩洛西說話結(jié)巴、舉止怪異，如同醉酒一般。該視頻被美國前總統(tǒng)特朗普轉(zhuǎn)載于“臉譜網(wǎng)”上，引發(fā)社會公眾對佩洛西身體健康狀況的擔(dān)憂，該視頻獲得了250萬次點擊量，佩洛西不得不反復(fù)向公眾證明自身并不存在身體健康問題，并對相關(guān)視頻真實性進(jìn)行調(diào)查和分析。因此，深度偽造技術(shù)在政治領(lǐng)域的不當(dāng)應(yīng)用可能引發(fā)國家秩序混亂。即使在真實信息傳播過程中，深度偽造技術(shù)也有可能被反對者利用，從而擾亂社會秩序。因此，應(yīng)嘗試將深度偽造技術(shù)限定于特定應(yīng)用領(lǐng)域，或禁止在某些領(lǐng)域內(nèi)使用，并將該領(lǐng)域相關(guān)視頻推定為真實，從而減少虛假信息傳播過程中的負(fù)外部性。

（三）先進(jìn)算法加劇信息不對稱

“算法”一詞最早由波斯數(shù)學(xué)家Al-Khwarizmi在公元9世紀(jì)提出，本意為阿拉伯?dāng)?shù)字的運(yùn)算法則，并在20世紀(jì)中葉發(fā)展成為計算機(jī)科學(xué)核心概念[7]。作為深度偽造技術(shù)的核心算法，生成對抗網(wǎng)絡(luò)的產(chǎn)生推動了計算機(jī)科學(xué)發(fā)展。技術(shù)研發(fā)者常以技術(shù)中立和科學(xué)發(fā)展作為對抗輿論質(zhì)疑的理論工具，但技術(shù)中立本質(zhì)在于應(yīng)用領(lǐng)域及是否會給他人和社會帶來損害，技術(shù)中立不能作為侵權(quán)人的免責(zé)理由，也不能以技術(shù)中立為由回避人工智能發(fā)展的商業(yè)偏好、善惡價值和社會風(fēng)險[8]。深度偽造技術(shù)的工具屬性不會受到法律的否定性評價，但技術(shù)不當(dāng)利用加劇了受害人因不知侵權(quán)行為而生的信息不對稱風(fēng)險，濫用該技術(shù)帶來的人身或財產(chǎn)損害需要受到法律否定性評價。從傳播受眾角度分析，互聯(lián)網(wǎng)上早已存在通過視頻剪輯或修改配音的方式改編影視作品中的經(jīng)典片段，但這種行為只是借助影視作品中角色發(fā)表對當(dāng)前社會的評論或利用其他方式對影視片段重新解讀，觀看者能夠區(qū)分出原有視頻和經(jīng)過編輯的視頻，后者不足以讓社會公眾產(chǎn)生不合理信賴，在特定視頻場景內(nèi)并不存在信息不對稱情形。即使這種視頻有可能產(chǎn)生侵害保護(hù)作品完整權(quán)的風(fēng)險，但可以從原有視頻的合理使用、現(xiàn)有視頻的獨(dú)創(chuàng)性等角度規(guī)避，通常不會引發(fā)社會公眾信任風(fēng)險。

在傳統(tǒng)侵權(quán)行為中，受害人通常會知悉自己的人身或財產(chǎn)受到損害，并能夠及時確定侵權(quán)主體，保存侵權(quán)行為證據(jù)，尋求法律途徑救濟(jì)。而深度偽造技術(shù)的不當(dāng)應(yīng)用改變了大多數(shù)傳統(tǒng)侵權(quán)行為的直接接觸性，技術(shù)操作者可以在受害人完全不知情的情況下制作虛假影音視頻，因信息不對稱導(dǎo)致受害人不知損害存在的風(fēng)險極高，遑論追究操作人的責(zé)任。有學(xué)者指出，否認(rèn)開發(fā)者“全能性”和超越算法“工具性”特質(zhì)使得結(jié)果監(jiān)管往往不能達(dá)到預(yù)想目的[9]。因此，從信息不對稱角度來看，增加被侵權(quán)人知悉侵權(quán)行為的可能和機(jī)會，防止其他社會主體對信息真實性產(chǎn)生錯誤認(rèn)知，能夠有效遏制深度偽造技術(shù)的不當(dāng)應(yīng)用，降低偽造視頻的社會危害性，并為受害人維權(quán)提供相應(yīng)證明材料。

四、法律救濟(jì)與規(guī)則應(yīng)對

2019年2月，嗶哩嗶哩網(wǎng)站用戶“換臉哥”用深度偽造技術(shù)將《射雕英雄傳》中出演黃蓉角色的朱茵更換成楊冪，該話題在微博平臺上產(chǎn)生1.2億次閱讀量和2.7萬次討論。隨后，視頻制作者刪除了相關(guān)視頻，并聲明制作視頻只是用于技術(shù)交流，未從中盈利。以“楊冪換臉朱茵”視頻作為學(xué)術(shù)討論典型事例，并嘗試從權(quán)利救濟(jì)和規(guī)則應(yīng)對角度分析。

（一）現(xiàn)有法律救濟(jì)的可能途徑

1.肖像權(quán)保護(hù)路徑。從現(xiàn)有民事權(quán)利框架來看，肖像權(quán)和名譽(yù)權(quán)與“換臉視頻”直接相關(guān)。肖像權(quán)是自然人以自身肖像所體現(xiàn)的利益為內(nèi)容的權(quán)利，包含肖像享有權(quán)、肖像制作權(quán)、肖像使用權(quán)和禁止侵害權(quán)[10]。我國《民法典》第一千零一十九條第一款對深度偽造技術(shù)做出回應(yīng)，丑化、污損、利用信息技術(shù)手段偽造等均屬于侵害他人肖像權(quán)的行為，行為人應(yīng)當(dāng)承擔(dān)民事責(zé)任。雖然有學(xué)者認(rèn)為，利用信息技術(shù)手段偽造他人肖像的行為并不一定會導(dǎo)致丑化、污損他人肖像的結(jié)果，將上述三種并列作為侵害肖像權(quán)的方式并不妥當(dāng)，且深度偽造技術(shù)實質(zhì)上侵害了受害人的肖像自主權(quán)，而該部分內(nèi)容可為《民法典》第一千零一十九條第二款所涵蓋，無須將“利用信息技術(shù)手段偽造”單獨(dú)作為侵害肖像權(quán)的事由[11]。但筆者認(rèn)為，在《民法典》二審稿制定過程中，以軟件ZAO為代表的深度偽造技術(shù)引發(fā)了社會公眾對新興技術(shù)濫用和個人信息泄露的強(qiáng)烈擔(dān)憂，立法者將深度偽造技術(shù)納入《民法典》約束范圍反映了《民法典》與時俱進(jìn)、回應(yīng)社會實踐的品質(zhì)。值得注意的是，行為人不僅侵害了替換人的肖像權(quán)，同時也侵害了被替換人的肖像權(quán)，而后者肖像權(quán)常受到忽視。在“楊冪換臉朱茵”的視頻中，視頻制作人不僅侵害了楊冪的肖像權(quán)，還侵害了朱茵的肖像權(quán)，朱茵亦可基于肖像權(quán)受到侵害而要求視頻制作者刪除該視頻。

2.名譽(yù)權(quán)保護(hù)路徑。名譽(yù)負(fù)載社會整體對該主體的總體評價，因此具有表彰人格尊嚴(yán)的價值[12]，名譽(yù)權(quán)即為免除名譽(yù)遭受侵害之權(quán)利[13]。在我國立法和司法實踐中，侵害名譽(yù)權(quán)方式主要分為侮辱和誹謗兩種，“名譽(yù)權(quán)如何構(gòu)成”也常轉(zhuǎn)化為對侵害名譽(yù)權(quán)類型的總結(jié)，借助類型化思維對名譽(yù)權(quán)進(jìn)行保護(hù)。判斷利用深度偽造技術(shù)進(jìn)行視頻制作的行為是否侵害名譽(yù)權(quán)，應(yīng)主要判斷該行為是否構(gòu)成侮辱或誹謗他人，造成他人名譽(yù)損害。在“楊冪換臉朱茵”視頻中，朱茵飾演的黃蓉靈動俏皮，備受稱贊，視頻制作者將朱茵的面部特征更換為楊冪后，眾多網(wǎng)友紛紛稱贊楊冪“演技”有所提升，并表示“毫無違和感”。從名譽(yù)權(quán)保護(hù)的客體來看，社會公眾對楊冪和朱茵的社會評價并未因該視頻而降低，因此該視頻并不構(gòu)成對楊冪和朱茵名譽(yù)權(quán)的侵犯。這與軟件ZAO上的“換臉視頻”類似。該軟件上存在眾多“換臉”素材，網(wǎng)絡(luò)用戶可以將影視片段中角色的臉換成自身面部特征。該行為的違法性體現(xiàn)在未經(jīng)他人同意而更改他人肖像，并非因該視頻制作帶來被替換人名譽(yù)的貶損。在一定程度上，類似視頻的真實性受到影視片段中特定場景約束，該軟件在操作程序中明確標(biāo)明制作人和制作軟件，相關(guān)視頻傳播通常不會導(dǎo)致社會公眾產(chǎn)生錯誤信任。當(dāng)然這種情形并非適用于所有情況。如將他人面部特征應(yīng)用于帶有侮辱、誹謗、貶損性質(zhì)的視頻，倘若行為人制作了類似視頻但并未通過網(wǎng)絡(luò)傳播，受害人在得知后，是否一定無法通過名譽(yù)權(quán)獲得法律救濟(jì)？筆者認(rèn)為，視頻制作人將他人肖像應(yīng)用于貶損、侮辱他人的視頻中，行為本身侵害了他人肖像權(quán)，但就名譽(yù)權(quán)侵權(quán)而言，視頻制作行為增加了名譽(yù)受侵害風(fēng)險，而受害人得知即意味著該視頻已進(jìn)入傳播領(lǐng)域，名譽(yù)受侵害風(fēng)險已成為現(xiàn)實損害，除非視頻制作者能夠證明該視頻不存在被第三人知曉的可能性，否則，應(yīng)當(dāng)認(rèn)定該行為侵害了他人名譽(yù)權(quán)。

3.個人敏感信息保護(hù)路徑。面部特征是表明自然人身份最直接信息，也是自然人在社會交往中最直接的“名片”。在傳統(tǒng)社會語境中，人臉信息主要受到肖像權(quán)保護(hù)，目的在于防止未經(jīng)自然人同意而使用他人肖像或惡意丑化、污損他人肖像。隨著大數(shù)據(jù)和人工智能技術(shù)發(fā)展，面部特征信息被無處不在的攝像頭采集、識別和分析，圍繞社會治理和個人隱私保護(hù)的利益衡量也在不斷探索和博弈，過度采集和使用人臉信息越來越成為當(dāng)下亟待應(yīng)對的社會問題。根據(jù)2018年5月生效的《信息安全技術(shù)個人信息安全規(guī)范》（GB/T 35273—2017），個人敏感信息（personal sensitive information）是指一旦泄露、非法提供或濫用可能危害人身和財產(chǎn)安全，易導(dǎo)致個人名譽(yù)、身心健康受到損害或歧視性待遇的個人信息，包括身份證件號碼、個人生物識別信息、銀行賬號、通信記錄和內(nèi)容、財產(chǎn)信息、征信信息等內(nèi)容。面部特征信息屬于自然人特有的個人生物識別信息，應(yīng)當(dāng)歸屬于個人敏感信息，不能被其他主體隨意收集、使用和存儲。未經(jīng)他人同意而收集、使用他人的人臉信息，或用深度偽造技術(shù)進(jìn)行“換臉”，該行為本身屬于對個人敏感信息的侵害，受害人有權(quán)要求行為人停止侵害、消除影響、賠禮道歉，并在造成精神損害時予以賠償。

4.知識產(chǎn)權(quán)保護(hù)路徑。從知識產(chǎn)權(quán)保護(hù)視角分析，深度偽造視頻的制作人還可能侵害原有視頻著作權(quán)人和表演者權(quán)利。原有視頻為完整作品的一部分，未經(jīng)著作權(quán)人的同意對原有部分進(jìn)行篡改，侵害原有視頻著作權(quán)人的修改權(quán)和保護(hù)作品完整權(quán)。人臉“更換”并不屬于改變原有視頻的創(chuàng)造性表達(dá)，偽造視頻無法得到《著作權(quán)法》保護(hù)。這也意味著，偽造視頻在傳播過程中可能會侵害著作權(quán)人的信息網(wǎng)絡(luò)傳播權(quán)和演員的表演者權(quán)。在“楊冪換臉朱茵”視頻中，偽造視頻的制作者侵害了《射雕英雄傳》著作權(quán)人的修改權(quán)和保護(hù)作品完整權(quán)，也在傳播過程中侵害了著作權(quán)人的網(wǎng)絡(luò)信息傳播權(quán)。同時，觀眾無法從偽造視頻中識別朱茵個人，其表演內(nèi)容也受到篡改和歪曲，偽造視頻制作者侵害了朱茵的表演者權(quán)。

（二）深度偽造技術(shù)的規(guī)則應(yīng)對

1.視頻制作者征求多重同意的義務(wù)。在深度偽造視頻的制作過程中，偽造視頻制作者應(yīng)當(dāng)考慮到該行為可能溢出的負(fù)外部性，而解決方式在于由制作者自行承擔(dān)該行為可能引發(fā)的社會風(fēng)險。具體而言，制作偽造視頻的行為與替換人、被替換人和原有視頻的著作權(quán)人緊密相關(guān)，深度偽造視頻的制作者應(yīng)當(dāng)征求上述三位主體同意。多重同意機(jī)制看似過于嚴(yán)苛，在實踐中也會產(chǎn)生偽造視頻制作人負(fù)擔(dān)過重、多重同意機(jī)制難以實現(xiàn)等問題，但該機(jī)制目的在于防范深度偽造視頻對肖像權(quán)和個人敏感信息的侵害，減少互聯(lián)網(wǎng)空間非直接接觸性帶來的信息不對稱，保障受害人知情權(quán)和同意權(quán)。換言之，只要受害人能夠證明偽造視頻由特定個人制作且未經(jīng)其同意，即可確認(rèn)行為違法，減輕受害人舉證負(fù)擔(dān)。

但行為具有違法性并不代表一定會承擔(dān)相應(yīng)法律責(zé)任，為達(dá)到權(quán)利人保護(hù)與促進(jìn)技術(shù)發(fā)展相平衡目的，在一些特殊情形下可以免除當(dāng)事人法律責(zé)任。例如，為實現(xiàn)科學(xué)研究、課堂教學(xué)、國家機(jī)關(guān)執(zhí)行公務(wù)、個人學(xué)習(xí)或欣賞等目的時，征求多重同意義務(wù)可以在一定情形下得到豁免。原因在于，深度偽造技術(shù)作為一項新興計算機(jī)算法，過于嚴(yán)苛的制度設(shè)置會限制技術(shù)發(fā)展空間，且該技術(shù)確實能滿足部分社會公眾的學(xué)習(xí)或娛樂需求。該需求并不因制度嚴(yán)苛而消失，與其設(shè)置過高條件致使使用者普遍違法，不如在制度設(shè)計時仔細(xì)考量相關(guān)價值需求和行為目的，在加強(qiáng)受害人核心利益保護(hù)的同時，為客觀存在的社會需求和技術(shù)發(fā)展保有一定空間。美國眾議院議員伊維特·克拉克（Yvette Clarke）在2019年6月提出《深度偽造責(zé)任法案》（Deepfakes Accountability Act），規(guī)定了較為嚴(yán)格的刑事處罰和民事救濟(jì)條款，旨在限制錯誤信息傳播，保護(hù)國家信息安全和個人人身和財產(chǎn)權(quán)利。該法案同時規(guī)定了諸多免責(zé)情形，其中包括重大活動虛假性的披露、最終成果符合相關(guān)規(guī)定、未進(jìn)行實質(zhì)性修改、不會導(dǎo)致公眾誤認(rèn)、為保護(hù)國家安全和公共安全等內(nèi)容。此外，我國《著作權(quán)法》第二十二條也規(guī)定了特定情形的豁免義務(wù)，包含個人學(xué)習(xí)或欣賞、課堂教學(xué)、科學(xué)研究等，旨在實現(xiàn)保護(hù)著作權(quán)和其他社會利益間的平衡?！皸顑鐡Q臉朱茵”視頻制作者確實侵害了相關(guān)主體權(quán)利，該行為的可免責(zé)性可以從個人學(xué)習(xí)或科學(xué)研究等角度論證，而非當(dāng)事人提出的“非以營利為目的”。換言之，即使當(dāng)事人非以營利為目的，將受害人面部特征替換至意在侮辱、誹謗、貶損他人的視頻之中，受害人亦可基于肖像權(quán)和名譽(yù)權(quán)受到侵犯為由，請求相應(yīng)法律救濟(jì)。

2.視頻制作者明確標(biāo)識和說明義務(wù)。利用深度偽造技術(shù)制作的視頻，不僅應(yīng)當(dāng)在制作過程中征求相關(guān)主體多重同意，還應(yīng)注意偽造視頻在傳播過程中可能對不特定第三人的影響。具體而言，視頻制作人應(yīng)以顯著方式在視頻開始部分添加“該視頻為深度偽造視頻”提示，表明該視頻的制作目的，并在視頻播放過程中，采用無法祛除的水印、標(biāo)志等方式明確標(biāo)識出制作者、制作軟件等信息，并在視頻末尾添加制作人聯(lián)系方式、制作時間和原有視頻相關(guān)鏈接。對專門提供深度偽造技術(shù)的軟件而言，類似標(biāo)識和說明程序應(yīng)在用戶制作視頻過程中自動生成，且采用技術(shù)手段使該標(biāo)識信息和說明部分無法被刪改或剪輯。這種標(biāo)識和說明義務(wù)可以成為相關(guān)軟件服務(wù)提供者減輕或免除責(zé)任的事由，目的在于防止不特定第三人因深度偽造視頻而產(chǎn)生不合理認(rèn)知或信賴。

有學(xué)者認(rèn)為，損害的非法性植根于社會能夠知悉的深度偽造產(chǎn)物[14]。從規(guī)范目的角度分析，深度偽造技術(shù)引發(fā)社會風(fēng)險的原因在于對相關(guān)人員權(quán)利的侵害和在傳播過程中導(dǎo)致社會公眾信以為真。若不存在侵害當(dāng)事人民事權(quán)利和危害國家安全的情形，社會公眾也不會對具有高度相似性的視頻產(chǎn)生不合理信賴，深度偽造技術(shù)的社會危害性將大幅減少，視頻制作者的法律責(zé)任也將大幅減輕，從而達(dá)到平衡多方利益目的。

3.網(wǎng)絡(luò)服務(wù)提供者的提示說明義務(wù)和“技術(shù)正當(dāng)程序”義務(wù)。在專門提供深度偽造技術(shù)以供網(wǎng)絡(luò)用戶娛樂的平臺上，網(wǎng)絡(luò)服務(wù)提供者提供的可供網(wǎng)絡(luò)用戶“換臉”的視頻素材，應(yīng)當(dāng)滿足多重同意要求，并承擔(dān)明確標(biāo)識和說明義務(wù)，此時網(wǎng)絡(luò)服務(wù)提供者成為視頻上傳者和發(fā)布者，不適用“通知-刪除”規(guī)則。對于網(wǎng)絡(luò)用戶上傳的深度偽造視頻素材，網(wǎng)絡(luò)服務(wù)提供者只需明確告知用戶需要承擔(dān)征求多重同意、明確標(biāo)識和說明義務(wù)，并以顯著提示方式告知上傳深度偽造視頻可能引發(fā)的法律風(fēng)險。該風(fēng)險不能簡單地混合在《用戶使用協(xié)議》中，而是在用戶選擇上傳相關(guān)視頻時，明確地予以提示和說明，并用視頻、圖片、文字、事例等方式告知其法律后果。當(dāng)然，網(wǎng)絡(luò)服務(wù)提供者通常會欠缺相應(yīng)動力，但如果履行義務(wù)可成為網(wǎng)絡(luò)服務(wù)提供者免責(zé)事由之一，網(wǎng)絡(luò)服務(wù)提供者則會為規(guī)避風(fēng)險而積極履行。若用戶選擇繼續(xù)上傳，網(wǎng)絡(luò)服務(wù)提供者應(yīng)當(dāng)自動生成“該視頻為偽造視頻”相關(guān)信息，并在權(quán)利人主張侵權(quán)責(zé)任之時，刪除或下架相關(guān)視頻，將權(quán)利人主張告知網(wǎng)絡(luò)用戶。有學(xué)者提出“技術(shù)正當(dāng)程序”（Technological Due Process）可以作為新的法律原則，通過平臺企業(yè)的社會責(zé)任或者自我治理機(jī)制，可以達(dá)到有效遏制“深度偽造”負(fù)面影響的效果[15]。相關(guān)網(wǎng)絡(luò)服務(wù)者可以通過游戲測評、調(diào)查問卷、積分獎勵等方式增強(qiáng)用戶識別虛假信息和批判性接受信息能力。對相關(guān)視頻和信息的準(zhǔn)確性和客觀性予以全面思考和理解，不僅是生活在互聯(lián)網(wǎng)技術(shù)高度發(fā)達(dá)的現(xiàn)代社會的必備技能，也是網(wǎng)絡(luò)服務(wù)提供者承擔(dān)自身社會責(zé)任的體現(xiàn)?！凹夹g(shù)正當(dāng)程序”內(nèi)容還包括針對深度偽造技術(shù)制定特殊政策、開發(fā)識別程序和增加相應(yīng)程序獲取信息難度[16]。

4.審慎包容的監(jiān)管政策。深度偽造技術(shù)的法律監(jiān)管，可以采用分級分類的審慎監(jiān)管思路。對于危害國家安全、破壞民主選舉、散布色情視頻、實施精準(zhǔn)詐騙等具有嚴(yán)重社會危害性和侵害公民人身權(quán)利和財產(chǎn)權(quán)利的行為，要采用綜合法律手段予以打擊，必要時追究行為人相應(yīng)刑事責(zé)任。而對于僅以娛樂為目的的“換臉”軟件而言，該領(lǐng)域視頻通常不足以引發(fā)社會公眾誤信，且只要網(wǎng)絡(luò)平臺盡到相應(yīng)注意義務(wù)，對于該領(lǐng)域的法律監(jiān)管可采取較為寬松的監(jiān)管手段。值得注意的是，國家監(jiān)管手段的寬松是公權(quán)力自身謙抑性的要求，并不意味著對自然人權(quán)利侵害的賠償責(zé)任可以減輕，兩種類型的法律調(diào)整方式存在一定差別。

審慎包容的監(jiān)管政策還意味著鼓勵和支持識別、破解、標(biāo)注等相關(guān)技術(shù)的發(fā)展。美國國防部高級研究計劃局（Defense Advanced Research Pro-jects Agency）在認(rèn)識到“換臉”技術(shù)可能引發(fā)問題的嚴(yán)重性后，發(fā)起了一項媒體取證（media forensics）項目來促進(jìn)自動檢測和評估數(shù)字視覺媒體完整性的技術(shù)。Google公司引入事實核查標(biāo)簽（Fact Check Tag）功能，并與國際事實核查網(wǎng)絡(luò)（International Fact-Checking Network）建立新的伙伴關(guān)系，以幫助讀者更好地查證事實和理解新聞。有學(xué)者指出，政府應(yīng)加大對預(yù)警監(jiān)測技術(shù)的資助力度，建立政策與技術(shù)之間常態(tài)化交流機(jī)制，鼓勵反制深度偽造技術(shù)領(lǐng)域的科技創(chuàng)新[17]。2019年11月，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合出臺《關(guān)于印發(fā)〈網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定〉的通知》，對利用深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)制作的音頻和視頻服務(wù)作明確規(guī)定，其中包括安全評估、顯著標(biāo)識、禁止制作虛假新聞消息等措施。值得注意的是，未明確標(biāo)識的深度偽造視頻或音頻須由網(wǎng)絡(luò)服務(wù)提供者停止傳輸，但以顯著方式標(biāo)識后即可繼續(xù)傳輸。另外，深度偽造技術(shù)的產(chǎn)物與其他音頻和視頻一樣，除危害國家安全、社會秩序和個人權(quán)利的內(nèi)容外，并未對其他內(nèi)容作出特殊規(guī)定，體現(xiàn)了監(jiān)管機(jī)關(guān)相對寬松的態(tài)度。

五、結(jié)語

隨著信息技術(shù)和互聯(lián)網(wǎng)產(chǎn)業(yè)快速發(fā)展，深度偽造技術(shù)的興起是計算機(jī)技術(shù)發(fā)展的必然產(chǎn)物，也是現(xiàn)代信息社會面臨風(fēng)險的冰山一角。與之相類似，人臉識別技術(shù)的濫用、利用差別定價算法進(jìn)行大數(shù)據(jù)殺熟、網(wǎng)絡(luò)服務(wù)提供者過度索取個人信息、大規(guī)模個人信息泄露等問題均是現(xiàn)代信息社會不得不應(yīng)對的挑戰(zhàn)，如何在鼓勵技術(shù)、產(chǎn)業(yè)發(fā)展和自然人權(quán)利保護(hù)之間尋求平衡，是解決這些問題的關(guān)鍵。與之相應(yīng)的理論創(chuàng)新和制度構(gòu)建大多圍繞雙方或多方利益權(quán)衡展開。深度偽造技術(shù)本身即蘊(yùn)含侵害他人權(quán)利的重大風(fēng)險，其負(fù)外部性的溢出也會對不特定第三人、社會秩序和國家安全產(chǎn)生一定影響。因此，深度偽造技術(shù)的規(guī)范應(yīng)用并非在于否定相關(guān)技術(shù)研發(fā)，而是在于限制該技術(shù)的應(yīng)用范圍，強(qiáng)化相關(guān)主體權(quán)利保護(hù)，打擊網(wǎng)絡(luò)犯罪活動。進(jìn)入傳播領(lǐng)域的深度偽造產(chǎn)物應(yīng)當(dāng)明確標(biāo)識和說明相關(guān)視頻的偽造性，采取分級分類的監(jiān)管手段，在技術(shù)發(fā)展與權(quán)利人保護(hù)之間尋求平衡。