深度偽造合成“非真實(shí)音視頻”的規(guī)制現(xiàn)狀與完善建議
——以《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》為切入點(diǎn)

儲(chǔ)宜彬

（大連海事大學(xué)，遼寧 大連 116023）

2020年12月，中共中央印發(fā)了《法治社會(huì)建設(shè)實(shí)施綱要（2020－2025年）》，強(qiáng)調(diào)要制定完善有關(guān)“算法推薦、深度偽造等新技術(shù)應(yīng)用”的規(guī)范管理辦法。事實(shí)上，針對(duì)人工智能“深度偽造”等新技術(shù)應(yīng)用于音視頻領(lǐng)域所具有的風(fēng)險(xiǎn)，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部以及國家廣播電視總局于2019年11月18日聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》以下簡稱《規(guī)定》），明確利用基于“深度偽造”等新技術(shù)新應(yīng)用制作、發(fā)布、傳播“非真實(shí)音視頻”的基本條件與違法類型［1］。以《規(guī)定》為切入點(diǎn)，我們可以發(fā)現(xiàn)我國在規(guī)制“深度偽造”技術(shù)所合成的“非真實(shí)音視頻”作品的基本立場與主要措施，明確其存在的不足之處，并尋求進(jìn)一步的完善。

一、我國對(duì)“深度偽造”技術(shù)合成“非真實(shí)音視頻”的法律規(guī)制現(xiàn)狀

基于“深度偽造”技術(shù)合成的“非真實(shí)音視頻”，是指運(yùn)用人工智能“深度偽造”等新興技術(shù)制作的“非真實(shí)音視頻”信息，其依托于大數(shù)據(jù)與人工智能“深度偽造”所形成的智能音視頻處理技術(shù)，該技術(shù)最為核心的特征就在于高度真實(shí)性，其在藝術(shù)（歷史圖片修復(fù)等）、教育以及自主學(xué)習(xí)等領(lǐng)域具有廣闊的應(yīng)用前景［2］。

從技術(shù)層面來看，“深度偽造”技術(shù)合成“非真實(shí)音視頻”的核心是“生成對(duì)抗網(wǎng)絡(luò)”（Generative Adversarial Neural Network）。所謂的“生成對(duì)抗網(wǎng)絡(luò)”，系透過生成器網(wǎng)絡(luò)與鑒別器網(wǎng)絡(luò)互相對(duì)抗，使生成器網(wǎng)絡(luò)所假造出來的影像貼近真正版本，同時(shí)也增強(qiáng)鑒別網(wǎng)絡(luò)判斷其真假之能力［3］。與傳統(tǒng)合成技術(shù)（如常見的PS等技術(shù)）相比，其依托算法自主的學(xué)習(xí)，偽造的行為脫離了人的參與，通過人工智能的計(jì)算機(jī)程序自動(dòng)完成［4］。過程中“生成對(duì)抗網(wǎng)絡(luò)”會(huì)不斷修正偽造的視頻或照片與真實(shí)之間的差別，理論上來講，只要擁有足夠的源數(shù)據(jù)與訓(xùn)練時(shí)間，其可以生成任何“高逼真”的偽造。并且通過這一系列無監(jiān)督學(xué)習(xí)，“生成對(duì)抗網(wǎng)絡(luò)”會(huì)不斷發(fā)展、進(jìn)化，實(shí)現(xiàn)自我優(yōu)化，乃至最后可以生成無法辨別真假的視頻或者照片。

由于目前尚未研發(fā)出能夠快速準(zhǔn)確地檢測合成“非真實(shí)音視頻”的技術(shù)，同時(shí)目標(biāo)對(duì)象大量的源數(shù)據(jù)可以通過網(wǎng)絡(luò)輕易、合法地獲取，整個(gè)偽造過程不僅操作簡便，效果還十分突出，正因如此該技術(shù)在多個(gè)領(lǐng)域的應(yīng)用出現(xiàn)“異化”的趨勢，危及個(gè)人合法權(quán)益、企業(yè)商業(yè)信譽(yù)以及社會(huì)公共安全［5］。以楊冪AI換臉視頻為例，“視頻中，楊冪的五官與朱茵的表情幾乎全部融合，難辨真假”［6］，沒有經(jīng)過專業(yè)訓(xùn)練以及相關(guān)專業(yè)技術(shù)輔助的民眾對(duì)此基本無法區(qū)分。同時(shí)，這一技術(shù)可能在某些西方國家選舉活動(dòng)中被競爭對(duì)手利用，用于煽動(dòng)民眾情緒或抹黑選舉人，破壞國家政治穩(wěn)定［7］。不僅如此，根據(jù)美國《財(cái)富》雜志在2019年12月的報(bào)道，美國Kneron公司通過使用“深度偽造”技術(shù)合成的人像視頻，成功地欺騙了支付寶和微信支付程序的人臉識(shí)別系統(tǒng)，并且順利通過機(jī)場、火車站等自助終端的檢驗(yàn)［8］，對(duì)公民的個(gè)人隱私與財(cái)產(chǎn)權(quán)帶來較大隱患。綜上所述，基于“深度偽造”合成“非真實(shí)音視頻”在多個(gè)領(lǐng)域有著廣泛、明朗的應(yīng)用前景，但同時(shí)也伴隨著被濫用進(jìn)而侵犯個(gè)人、社會(huì)、國家權(quán)益的現(xiàn)實(shí)風(fēng)險(xiǎn)。

正因如此，在搶抓人工智能發(fā)展的重大戰(zhàn)略機(jī)遇，構(gòu)筑我國高新技術(shù)的先發(fā)優(yōu)勢的同時(shí)，為防止相關(guān)技術(shù)異化，更是為響應(yīng)黨中央建立健全網(wǎng)絡(luò)綜合治理體系的號(hào)召［9］、促進(jìn)網(wǎng)絡(luò)音視頻信息服務(wù)健康有序發(fā)展，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)《規(guī)定》，提出了多項(xiàng)針對(duì)“非真實(shí)音視頻”的專門化規(guī)制措施，可簡要概括為“兩義務(wù)、兩機(jī)制、一禁止”，涉及到適用、技術(shù)保障與危害預(yù)防等多個(gè)方面，具體內(nèi)容如下：

第一，標(biāo)識(shí)“合成”義務(wù)。要求相關(guān)主體以顯著方式標(biāo)識(shí)“合成”字樣，成為使用“深度偽造”技術(shù)合成“非真實(shí)音視頻”的基本前提，同時(shí)也是法律規(guī)制中的核心措施。《規(guī)定》第十一條第一款規(guī)定了標(biāo)識(shí)“合成”字樣的義務(wù)。從條文表述可以看到，《規(guī)定》實(shí)際上要求“網(wǎng)絡(luò)音視頻信息服務(wù)提供者”與“網(wǎng)絡(luò)音視頻信息服務(wù)使用者”均負(fù)有對(duì)“非真實(shí)音視頻”作品的標(biāo)識(shí)義務(wù)。

第二，停止傳輸義務(wù)。《規(guī)定》第十二條第一款后半部分與第十二條第二款規(guī)定了“網(wǎng)絡(luò)音視頻信息服務(wù)提供者”負(fù)有停止傳輸?shù)牧x務(wù)。本條規(guī)定所確立的“網(wǎng)絡(luò)音視頻信息服務(wù)提供者”的停止傳輸義務(wù)，其中又分為兩種情況。其一針對(duì)法律法規(guī)所禁止的信息，“網(wǎng)絡(luò)音視頻信息服務(wù)提供者”一經(jīng)發(fā)現(xiàn)立即停止其傳輸并向相關(guān)主管部門進(jìn)行報(bào)告。本項(xiàng)規(guī)定從側(cè)面體現(xiàn)出，“深度偽造”技術(shù)合成“非真實(shí)音視頻”作品的行為本身并不具有違法性，技術(shù)本身是中立的。其二，針對(duì)應(yīng)履行標(biāo)識(shí)義務(wù)而未履行相應(yīng)義務(wù)的“非真實(shí)音視頻”提供者或網(wǎng)絡(luò)音視頻平臺(tái)而言，《規(guī)定》要求其先停止傳輸，并且只有在標(biāo)識(shí)后才能重新恢復(fù)傳輸。這一規(guī)定與標(biāo)識(shí)“合成”義務(wù)相互映照，推動(dòng)標(biāo)識(shí)義務(wù)的體系化。

第三，鑒別機(jī)制?！兑?guī)定》第十二條第一款前半部分規(guī)定規(guī)定了鑒別技術(shù)的部署應(yīng)用，即網(wǎng)絡(luò)音視頻信息服務(wù)提供者負(fù)有“部署深度偽造鑒別技術(shù)”的義務(wù)，并在發(fā)現(xiàn)存在違法內(nèi)容后停止傳輸信息。客觀而言，目前尚未研發(fā)出能夠快速準(zhǔn)確地監(jiān)測“深度偽造”合成“非真實(shí)音視頻”的技術(shù)手段，從某種意義上說，作為防守方的“鑒真技術(shù)”在作為進(jìn)攻方的“偽造技術(shù)”面前往往處于落后挨打的地位［10］。因此，《規(guī)定》鑒別機(jī)制的規(guī)定具有相當(dāng)?shù)那罢靶?，在一定程度上是為相關(guān)技術(shù)的研發(fā)提供法律激勵(lì)與保障。

第四，辟謠機(jī)制?！兑?guī)定》第十三條規(guī)定了網(wǎng)絡(luò)音視頻服務(wù)提供者“應(yīng)當(dāng)建立辟謠機(jī)制”，在發(fā)現(xiàn)虛假信息后及時(shí)辟謠。具體來說，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)著手建立一種有效針對(duì)行為人通過利用以“深度偽造”“虛擬現(xiàn)實(shí)”等技術(shù)為基礎(chǔ)，制作、傳播、發(fā)布的虛假圖像、音視頻謠言的辟謠機(jī)制。應(yīng)當(dāng)看到，《規(guī)定》明確提出的建立辟謠機(jī)制是針對(duì)“非真實(shí)音視頻”內(nèi)容可能帶來的信任危機(jī)所作出的積極應(yīng)對(duì)，通過常規(guī)、系統(tǒng)、有效的辟謠機(jī)制，防范非真實(shí)內(nèi)容可能帶來的謠言傳播風(fēng)險(xiǎn)，將其可能對(duì)各方主體合法權(quán)益以及公共利益造成的不良后果降到最低程度［11］。當(dāng)未進(jìn)行標(biāo)識(shí)的“非真實(shí)音視頻”在網(wǎng)絡(luò)上傳播使民眾產(chǎn)生錯(cuò)誤認(rèn)知、侵害到相關(guān)利益時(shí)，平臺(tái)應(yīng)通過辟謠機(jī)制發(fā)布公告進(jìn)行說明同時(shí)向相關(guān)部門進(jìn)行備案，這樣可以在最大程度上消減負(fù)面影響。

第五，新聞?lì)愋畔?qiáng)制禁止。《規(guī)定》第十一條第二款規(guī)定對(duì)于新聞?lì)愋畔?，我國作出禁止“非真?shí)音視頻”的強(qiáng)制性規(guī)定。正因如此，我國網(wǎng)信辦等有關(guān)部門通過出臺(tái)部門規(guī)章的方式明確禁止在新聞信息領(lǐng)域使用“深度偽造”“虛擬現(xiàn)實(shí)”等技術(shù)，維護(hù)新聞的真實(shí)性，保障民眾對(duì)于社會(huì)真相的知情，防止社會(huì)信任體系崩塌進(jìn)而危害公共安全。

二、“深度偽造”技術(shù)合成“非真實(shí)音視頻”法律規(guī)制中的現(xiàn)存問題

盡管《規(guī)定》對(duì)于網(wǎng)絡(luò)音視頻信息服務(wù)提供者與網(wǎng)絡(luò)音視頻信息服務(wù)使用者確立了“兩義務(wù)、兩機(jī)制、一禁止”等規(guī)制措施，以期將“非真實(shí)音視頻”可能存在的風(fēng)險(xiǎn)控制在理想的范圍之內(nèi)，從而最大限度地推動(dòng)人工智能技術(shù)的發(fā)展。但整體來看，《規(guī)定》所確立的上述規(guī)制措施仍存在一定的局限性。

第一，《規(guī)定》明確規(guī)定了“非真實(shí)音視頻”制作者應(yīng)當(dāng)履行“標(biāo)識(shí)義務(wù)”，也即應(yīng)當(dāng)以顯著方式標(biāo)明音視頻屬于合成作品才能將其在網(wǎng)絡(luò)上公開發(fā)布。不過，應(yīng)當(dāng)以“顯著方式”予以標(biāo)識(shí)之標(biāo)識(shí)義務(wù)，究竟包括哪些內(nèi)容以及如何具體履行，《規(guī)定》并沒有規(guī)定。同時(shí)，目前各網(wǎng)絡(luò)音視頻平臺(tái)對(duì)于如何在“非真實(shí)音視頻”作品上以顯著方式標(biāo)識(shí)“合成”，也未作出具體規(guī)定，各大音視頻平臺(tái)尚未及時(shí)更新“創(chuàng)作公約”等協(xié)議來具體規(guī)定創(chuàng)作者履行標(biāo)識(shí)義務(wù)的方式。作為“非真實(shí)音視頻”的核心規(guī)制措施的標(biāo)識(shí)義務(wù)未能充分落實(shí)，導(dǎo)致規(guī)制體系無法充分發(fā)揮作用。因此，有必要對(duì)標(biāo)識(shí)“合成”字樣的具體方式作進(jìn)一步探討。

第二，《規(guī)定》對(duì)于網(wǎng)絡(luò)音視頻信息服務(wù)提供者的義務(wù)設(shè)置較高，有強(qiáng)人所難之嫌。《規(guī)定》要求網(wǎng)絡(luò)音視頻信息服務(wù)提供者部署鑒別機(jī)制，建立辟謠機(jī)制，這無疑加重了網(wǎng)絡(luò)音視頻信息服務(wù)提供者的運(yùn)營成本。如今，針對(duì)“非真實(shí)音視頻”快速有效鑒別的技術(shù)手段尚未研發(fā)成功，且相關(guān)檢測技術(shù)的主要研究人員集中在國外各研究機(jī)構(gòu)，我國相關(guān)算法和技術(shù)研究相對(duì)滯后［12］；相較于作為規(guī)制對(duì)象的“非真實(shí)音視頻”制作技術(shù)而言，識(shí)別“非真實(shí)音視頻”作品的技術(shù)必然具有相對(duì)的滯后性，如果要求網(wǎng)絡(luò)平臺(tái)負(fù)擔(dān)絕對(duì)化的技術(shù)保障義務(wù)，這一“緊箍咒”無疑會(huì)給網(wǎng)絡(luò)平臺(tái)帶來巨大的運(yùn)營壓力，甚至可能出現(xiàn)鑒別技術(shù)制約網(wǎng)絡(luò)音視頻平臺(tái)生存發(fā)展的風(fēng)險(xiǎn)。此外，一旦我們強(qiáng)行要求網(wǎng)絡(luò)平臺(tái)負(fù)擔(dān)起難以達(dá)到的部署鑒別技術(shù)義務(wù)，其出于生存需要，網(wǎng)絡(luò)平臺(tái)便可能針對(duì)合法的音視頻作品作出不當(dāng)限制以規(guī)避風(fēng)險(xiǎn)，由此便會(huì)對(duì)用戶的自由表達(dá)與創(chuàng)新積極性產(chǎn)生負(fù)面影響。

第三，《規(guī)定》對(duì)于法律責(zé)任的規(guī)定過于籠統(tǒng)，制裁措施缺乏體系性。具體來看，《規(guī)定》第十八條僅僅作出提示性規(guī)定，也即違反本規(guī)定的由網(wǎng)信、文旅、廣電等部門依照《中華人民共和國網(wǎng)絡(luò)安全法》（以下簡稱《網(wǎng)絡(luò)安全法》）以及其他相關(guān)法律法規(guī)規(guī)定處理。事實(shí)上，作為政府的部門規(guī)章，《規(guī)定》可以在法律、法規(guī)所規(guī)定的行政處罰的行為、種類和幅度的范圍內(nèi)作出具體規(guī)定；甚至對(duì)于尚未制定法律、行政法規(guī)的，規(guī)章也可以設(shè)定警告以及一定數(shù)額的罰款?！兑?guī)定》并未能明確規(guī)定違法行為的具體法律后果，導(dǎo)致前述對(duì)于“非真實(shí)音視頻”所設(shè)置的管理措施缺乏強(qiáng)制力。同時(shí)，《規(guī)定》未能重視個(gè)人征信等社會(huì)性治理措施，尚未形成針對(duì)“非真實(shí)音視頻”社會(huì)、行業(yè)、國家的三方綜合治理模式。

三、“深度偽造”技術(shù)合成“非真實(shí)音視頻”治理的完善建議

客觀而言，針對(duì)“深度偽造”技術(shù)合成“非真實(shí)音視頻”作品這一新生事物，我國應(yīng)當(dāng)確立起以標(biāo)識(shí)義務(wù)為中心的開放性治理對(duì)策。也即，圍繞著履行標(biāo)識(shí)義務(wù)的具體方式、履行標(biāo)識(shí)義務(wù)的監(jiān)管模式以及違反標(biāo)識(shí)義務(wù)的補(bǔ)救措施與法律后果，尋求科學(xué)的制度建構(gòu)，才能克服《規(guī)定》的局限性，在科技創(chuàng)新與風(fēng)險(xiǎn)規(guī)制之間實(shí)現(xiàn)平衡，以期達(dá)到最佳的開放性治理效果。因此，立足于《規(guī)定》的基本規(guī)定，對(duì)完善合成“非真實(shí)音視頻”的法律規(guī)制提出如下建議：

（一）明確標(biāo)識(shí)“合成”的具體方式

首先，從標(biāo)識(shí)的可識(shí)別程度來看，“以顯著方式”即要求合理運(yùn)用足以引起音視頻觀眾注意的方式。從正面來看，“深度偽造”技術(shù)使用者應(yīng)當(dāng)在音視頻的顯著位置、以普通人可以觀察到的字體尺寸與顏色標(biāo)識(shí)“合成”。從反面來看，“深度偽造”技術(shù)使用者不得運(yùn)用技術(shù)手段對(duì)標(biāo)識(shí)義務(wù)予以規(guī)避，以達(dá)到“以假充真”誤導(dǎo)音視頻觀眾的目的。

其次，從標(biāo)識(shí)形式來看，實(shí)踐中可能存在不同選擇?？梢圆扇　扒度霐?shù)字水印”方式在合成音視頻作品中全程標(biāo)識(shí)“合成”，也可以選擇在合成音視頻的開頭、結(jié)尾或開頭與結(jié)尾處作出“提示性”標(biāo)識(shí)。前者的優(yōu)勢在于標(biāo)識(shí)的“全方位”，但可能影響合成作品的感官效果；后者雖具有更好的感官效果，卻可能存在部分觀眾未能注意“合成”標(biāo)識(shí)的風(fēng)險(xiǎn)隱患。

最后，就標(biāo)識(shí)主體而言，可以是要求“非真實(shí)音視頻”作品的制作者直接在合成音視頻作品上予以標(biāo)識(shí)，也可以是要求“非真實(shí)音視頻”制作者將音視頻的“合成”屬性告知音視頻平臺(tái)，后由平臺(tái)通過技術(shù)手段統(tǒng)一予以標(biāo)識(shí)。前者的優(yōu)勢在于一定程度上節(jié)約平臺(tái)的成本，但可能存在標(biāo)識(shí)方式不統(tǒng)一的問題；后者的優(yōu)勢在于標(biāo)識(shí)方式的統(tǒng)一性。

就標(biāo)識(shí)形式與標(biāo)識(shí)主體而言，我們可以由網(wǎng)絡(luò)音視頻平臺(tái)自主決定并以“創(chuàng)作公約”等協(xié)議告知?jiǎng)?chuàng)作者；網(wǎng)絡(luò)音視頻信息服務(wù)行業(yè)組織可以確立各種“創(chuàng)作公約”范本，供網(wǎng)絡(luò)音視頻平臺(tái)選擇，并提供技術(shù)引導(dǎo)。《規(guī)定》第五條前半部分也明確規(guī)定，“國家鼓勵(lì)和指導(dǎo)互聯(lián)網(wǎng)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全網(wǎng)絡(luò)音視頻信息服務(wù)行業(yè)標(biāo)準(zhǔn)和行業(yè)準(zhǔn)則”。簡言之，行業(yè)自律是我國在新興技術(shù)治理的基本立場，通過行業(yè)自律實(shí)現(xiàn)規(guī)制目的是互聯(lián)網(wǎng)領(lǐng)域治理的不二之選。

（二）優(yōu)化標(biāo)識(shí)義務(wù)履行的監(jiān)管模式

考慮到實(shí)踐中可能存在“非真實(shí)音視頻”制作者未能在合成作品上以顯著方式予以標(biāo)識(shí)的情形———未履行標(biāo)識(shí)義務(wù)，為了預(yù)防這種未履行義務(wù)行為引發(fā)進(jìn)一步的危害后果，有必要明確標(biāo)識(shí)義務(wù)履行的監(jiān)管方式。從立法現(xiàn)狀來看，《規(guī)定》第十二條明確了網(wǎng)絡(luò)音視頻信息服務(wù)提供者所應(yīng)承擔(dān)的“部署非真實(shí)音視頻鑒別技術(shù)”的義務(wù)。直觀來看，網(wǎng)絡(luò)音視頻平臺(tái)需要主動(dòng)采取技術(shù)措施，部署對(duì)“非真實(shí)音視頻”的鑒別方案，及時(shí)發(fā)現(xiàn)未標(biāo)識(shí)的合成作品。當(dāng)網(wǎng)絡(luò)音視頻平臺(tái)通過鑒別程序自動(dòng)檢測出未進(jìn)行標(biāo)識(shí)（或未以顯著方式進(jìn)行標(biāo)識(shí)）的“非真實(shí)音視頻”時(shí)，應(yīng)及時(shí)停止傳播、刪除并按照《規(guī)定》向有關(guān)部門進(jìn)行報(bào)備。

應(yīng)當(dāng)看到，網(wǎng)絡(luò)音視頻平臺(tái)所負(fù)擔(dān)的部署鑒別技術(shù)的義務(wù)，實(shí)質(zhì)上是對(duì)長期以來針對(duì)網(wǎng)絡(luò)服務(wù)提供者所確立的“避風(fēng)港”原則的突破。易言之，針對(duì)“非真實(shí)音視頻”作品，網(wǎng)絡(luò)監(jiān)管已經(jīng)從“通知—?jiǎng)h除”的被動(dòng)處置模式，轉(zhuǎn)變?yōu)椤白R(shí)別—?jiǎng)h除”的主動(dòng)監(jiān)管模式。不可否認(rèn)，對(duì)于網(wǎng)絡(luò)音視頻平臺(tái)提出部署鑒別技術(shù)的要求表明了網(wǎng)絡(luò)平臺(tái)在國家治理體系中扮演著重要角色，體現(xiàn)出“以網(wǎng)管網(wǎng)”的基本特征［13］。不過，也應(yīng)當(dāng)看到，主動(dòng)監(jiān)管模式可能將網(wǎng)絡(luò)平臺(tái)置于生存困境之中，有強(qiáng)人所難之嫌。

由行業(yè)組織牽頭并引導(dǎo)網(wǎng)絡(luò)平臺(tái)協(xié)作開發(fā)針對(duì)“非真實(shí)音視頻”技術(shù)的鑒別程序，在現(xiàn)行條件下確立一種可行的技術(shù)標(biāo)準(zhǔn)，是當(dāng)前較為穩(wěn)妥的選擇。只要網(wǎng)絡(luò)音視頻平臺(tái)達(dá)到了行業(yè)組織確立的技術(shù)標(biāo)準(zhǔn)，便應(yīng)當(dāng)認(rèn)為其履行了部署鑒別機(jī)制這一技術(shù)保障義務(wù)，而無須要求網(wǎng)絡(luò)平臺(tái)自身去尋求鑒別技術(shù)的革新。在此基礎(chǔ)上，我們?nèi)匀灰瀼匾浴巴ㄖ獎(jiǎng)h除”為基礎(chǔ)的避風(fēng)港原則，回歸到“通知—?jiǎng)h除”的被動(dòng)處置模式；只要網(wǎng)絡(luò)音視頻平臺(tái)在接到通知后及時(shí)刪除未履行標(biāo)識(shí)“合成”義務(wù)的“非真實(shí)音視頻”作品，便可以獲得豁免。

（三）細(xì)化違反標(biāo)識(shí)義務(wù)的法律后果

目前，對(duì)于“非真實(shí)音視頻”技術(shù)使用者和網(wǎng)絡(luò)音視頻信息服務(wù)提供者違反其所承擔(dān)的義務(wù)，監(jiān)管部門如何采取行政處罰措施，《規(guī)定》并未作出明確回應(yīng)，這不利用執(zhí)法機(jī)關(guān)準(zhǔn)確適用法律規(guī)制違法行為。事實(shí)上，作為國務(wù)院部委制定的規(guī)章，《規(guī)定》可以在法律、行政法規(guī)規(guī)定的范圍內(nèi)對(duì)于行政處罰的行為、種類和幅度作出具體規(guī)定。因此，有必要將《規(guī)定》關(guān)于違反標(biāo)識(shí)義務(wù)等法律義務(wù)的后果進(jìn)一步細(xì)化，增強(qiáng)執(zhí)法實(shí)踐的可操作性。

作為《規(guī)定》的上位法，《網(wǎng)絡(luò)安全法》要求網(wǎng)絡(luò)運(yùn)營者應(yīng)當(dāng)加強(qiáng)對(duì)其用戶發(fā)布的信息的管理，對(duì)于違法信息停止傳輸進(jìn)行刪除并向主管部門報(bào)告，并于第五十六條、第六十八條第一款詳細(xì)規(guī)定了約談措施以及處罰事項(xiàng)。首先，可以參照《網(wǎng)絡(luò)安全法》的規(guī)定，當(dāng)未標(biāo)識(shí)“合成”字樣的非真實(shí)音視頻可能存在較大安全風(fēng)險(xiǎn)或引發(fā)安全事件的情況下，要求省級(jí)以上主管部門進(jìn)行約談。其次，《規(guī)定》可以以《網(wǎng)絡(luò)安全法》所確立的處罰范圍為基礎(chǔ)，明確規(guī)定相應(yīng)的處罰標(biāo)準(zhǔn)。例如，對(duì)于未能停止傳輸未標(biāo)識(shí)“合成”字樣的非真實(shí)音視頻或未能采取辟謠等補(bǔ)救處置措施的網(wǎng)絡(luò)運(yùn)營者，由國家網(wǎng)信辦責(zé)令改正，給予警告。對(duì)于拒不改正的，處十萬元以上三十萬元以下罰款；對(duì)于拒不改正并引發(fā)嚴(yán)重危害后果的，處三十萬元以上五十萬元以下罰款。存在上述兩種情形的，同時(shí)可以責(zé)令暫停網(wǎng)絡(luò)音視頻信息服務(wù)業(yè)務(wù)、關(guān)閉網(wǎng)站；情節(jié)嚴(yán)重的，同時(shí)可以吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營業(yè)執(zhí)照，并對(duì)直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處一萬元以上十萬元以下罰款。

《規(guī)定》的出臺(tái)對(duì)于基于“深度偽造”合成“非真實(shí)音視頻”行為有效規(guī)制具有進(jìn)步意義，其所確立的“兩義務(wù)、兩機(jī)制、一禁止”措施，表明國家對(duì)于新興技術(shù)的開放、積極、支持的態(tài)度，在不違反法律、法規(guī)以及公序良俗的前提下鼓勵(lì)相關(guān)技術(shù)發(fā)展、應(yīng)用。但算法、技術(shù)也存在異化的可能，其所表現(xiàn)的種種危險(xiǎn)不能忽視。因此，應(yīng)在現(xiàn)有規(guī)定基礎(chǔ)上，通過明確標(biāo)識(shí)“合成”的具體方式，優(yōu)化監(jiān)管模式、明確法律后果等方式完善《規(guī)定》，避免監(jiān)管缺位，法規(guī)名存實(shí)亡的窘境，為建立健全網(wǎng)絡(luò)綜合治理體系，促進(jìn)網(wǎng)絡(luò)音視頻信息服務(wù)健康有序發(fā)展提供制度保障。