“深度偽造”技術在傳媒領域的新應用和異化風險

文/吳靜

在俄烏沖突的第三周，烏克蘭總統(tǒng)澤連斯基宣布投降的視頻在推特和臉書上爆火。視頻中他置身于國徽之前，鄭重對烏克蘭士兵說：“我要求你們放下武器，回到你們的家人身邊。這場戰(zhàn)爭不值得為之而死。我建議你們繼續(xù)活下去，我也會這樣做?！比欢@竟然是一條“深度偽造”的虛假視頻。2022年3月17日，澤連斯基在他的社交媒體賬號上澄清此事。與此同時，俄羅斯總統(tǒng)普京宣布戰(zhàn)爭結束的視頻也被證明是“深度偽造”技術的產(chǎn)物。該技術憑借以假亂真的影音還原和閃電般的全球傳播速度登上各國媒體頭條，躍居國際輿論的風口浪尖。

一、“深度偽造”的前世今生

“深度偽造”（Deepfake）是由“深度學習”（Deep learning）和“偽造”（Fake）構成的合成詞匯。“深度偽造”技術是當下人工智能時代的一種合成媒體技術。利用深度學習算法進行自動化的數(shù)據(jù)修改、處理和生產(chǎn)，實現(xiàn)圖片、音頻及視頻的智能模擬和偽造。其高度仿真的效果不僅肉眼難辨真?zhèn)?，即便是Microsoft和Amazon的人臉識別系統(tǒng)對高達78%的“深度偽造”視頻也無法辨認。

“深度偽造”并非突然橫空出世，而是信息科學、認知科學、物理學等多學科融合快速發(fā)展到一定階段的新產(chǎn)物?！吧疃葌卧臁敝熬陀小皽\層偽造”（Cheap Fakes），是指利用人工手動或者常規(guī)技術，對圖片、音頻和視頻進行剪輯、切割、重組等調整以實現(xiàn)特定傳播效果的技術。但“淺層偽造”由于技術缺陷，人臉和身體在動作、光線和場景變換時會顯得僵硬可笑，語音語調也不自然。迫切的市場需求呼喚著新技術的到來。20世紀90年代，一項國外研究設計的人臉視頻合成的計算機程序，成為“深度偽造”技術的第一個實例。在沉寂了十余年之后，相關研究再次回暖，2016年和2017年先后出現(xiàn)了兩篇重量級的研究，對3D模型重建追蹤和面部仿真合成視頻進行了開創(chuàng)性的探索?！吧疃葌卧臁庇蓛蓚€生成對抗網(wǎng)絡（GAN）的人工神經(jīng)網(wǎng)絡作為“生成器”和“判別器”協(xié)同工作來實現(xiàn)。“生成器”對大量的視頻和音頻數(shù)據(jù)集進行訓練，使其能學習和模仿人類的面部表情、身體動作、語音語調，之后采用深度學習算法將其挪移到另一個人身上?！芭袆e器”負責檢測這些偽造的數(shù)據(jù)?；跈z測結果生成對抗網(wǎng)絡，不斷調整參數(shù)進行優(yōu)化，直至機器無法分辨視頻和音頻真?zhèn)?。這種基于人工智能的深度學習技術，使得偽造效果與素材量的多寡呈正比，即人臉或聲音數(shù)據(jù)集越多，偽造的逼真度就越高，而且還結合臉型、微表情、眼神、膚色、皺紋、動作、音色、音調、語氣等生物特征進行綜合學習，是以往“淺層偽造”技術難以企及的。此時，“深度偽造”尚屬于象牙塔中的高科技，僅為科研機構、科技巨頭和影視巨鱷研發(fā)使用，高額的研發(fā)費用和專業(yè)的設備儀器使普通網(wǎng)民無法觸及。

2017年12月，一名昵稱為“deepfake”的用戶在紅迪網(wǎng)（美國訪問量排名第七的社交娛樂網(wǎng)站）上，借助深度學習算法用斯嘉麗·約翰遜、蓋爾·加朵等女名星的臉部覆蓋到色情影片中的演員面部，隨后在其他網(wǎng)絡平臺上快速涌現(xiàn)了一大批模仿者，“深度偽造”視頻開始在網(wǎng)絡流傳。此后，開源方法和更便捷的應用程序不斷涌現(xiàn)出來，如FaceApp、FakeApp、FaceToFace、DeepFaceLab，國內則出現(xiàn)過ZAO、螞蟻呀嘿等換臉軟件（均已下架）。智能終端的升級和技術門檻的降低促成了“深度偽造”這一智能技術的平民化下沉。如何更好地使用該技術為人類社會服務，并規(guī)避其技術異化風險，勢必成為未來傳媒業(yè)關注的焦點問題。

二、“深度偽造”在傳媒領域應用的新突破

近年來，“深度偽造”技術的發(fā)展勢如破竹，影響和惠及信息技術、醫(yī)療衛(wèi)生、教育培訓、商業(yè)營銷等眾多行業(yè)。在傳媒領域中，“深度偽造”正處于起步和探索階段，在影視、新聞、廣告方面大放異彩，成為備受行業(yè)矚目的下一片藍海。人工智能與傳媒行業(yè)深度融合，可激發(fā)從業(yè)人員的創(chuàng)造力、加強傳播內容的表現(xiàn)力、提高傳媒產(chǎn)品的沖擊力，賦予受眾新鮮的體驗感，提升優(yōu)質內容的傳播力。

1.影視業(yè)：超越時空限制，拓寬無限想象?！吧疃葌卧臁币呀?jīng)在傳統(tǒng)的影視行業(yè)中嶄露頭角，其被行業(yè)廣泛采用可能只是時間問題。迪斯尼公司一直致力于該技術的研發(fā)，繼開發(fā)演員換臉系統(tǒng)之后，2020年又發(fā)表了一項成果，能把DeepFakeLab創(chuàng)建的視頻最高分辨率從256*256像素提升至1024*1024，這極大地推動了電影制作方法的智能升級?！吧疃葌卧臁奔夹g為從業(yè)人員創(chuàng)新注入活力，為影視表演突破時空限制創(chuàng)造了條件，使天馬行空的大膽想象變成現(xiàn)實。從目前影視行業(yè)的應用來看，主要體現(xiàn)在三個方面。首先是復活演員的影像和聲音。例如，美國電影《速度與激情7》才拍完一半，主演保羅·沃克因事故意外去世，導演溫子仁認為“復活保羅，像創(chuàng)作一本《圣經(jīng)》”，所幸“深度偽造”技術助力實現(xiàn)了這一艱巨任務。把保羅·沃克在《速度與激情》系列拍攝的全部鏡頭和幕后素材整理成大型數(shù)據(jù)集，保羅·沃克的三弟和二弟分別擔綱他的“臉部替身”和“動作替身”拍攝了260個鏡頭，然后運用“深度偽造”技術把保羅·沃克的面部特征映射到替身們的表演中，從而使故去的保羅·沃克在大熒幕完美復活。除了影像，故去名人的聲音也能復活。2022年3月9日，Netflix推出六集紀錄片《安迪·沃霍爾：時代日記》，記錄了1987年去世的美國著名波普藝術家安迪·沃霍爾的傳奇一生。該片獲得安迪·沃霍爾基金會的許可，使用“深度換聲”的人工智能技術還原他的聲音，恍如他親自旁白自己極其復雜的內心。央視紀錄片《創(chuàng)新中國》采用該技術讓已故配音演員李易的聲音重現(xiàn)電視熒屏。這種聲音的復活，無論在認知還是審美上，都給觀眾營造出非凡的真實感，實現(xiàn)了創(chuàng)新與懷念的雙重效果。其次是實現(xiàn)演員的去老化。電影《愛爾蘭人》利用“深度偽造”技術對主演羅伯特·德尼羅進行了數(shù)字化減齡，使其年輕了30歲。再次是突發(fā)情況下解決換角壓力，如今在國內“深度偽造”技術已成為劣跡藝人影視作品的救場工具，《長安十二時辰》和《光榮時代》等電視劇都采用“深度換臉”實現(xiàn)劣跡藝人露臉鏡頭的全部替換。

2.新聞業(yè)：增效內容生產(chǎn)，助力報道創(chuàng)新?！吧疃葌卧臁奔夹g在新聞傳播行業(yè)迎來了跳躍發(fā)展。首先是打造真人形象的人工智能主播，近幾年已在各國新聞業(yè)中廣泛應用。人工智能主播可以逼真還原真人主播的口唇動作、面部表情、肢體姿態(tài)和語音語調，能獨立承擔主持和播報，且具備成本低、無間斷、零誤差、多語言、多場景等明顯優(yōu)勢，提升了新聞信息傳播的智能化進程。2018年，新華社推出了AI主播“新小浩”，在新聞領域開創(chuàng)了實時音視頻與真人形象合成的先河，之后“新小萌”“新小微”“夢瑤”“紀寧”等AI主播閃亮登場，已貢獻2萬則新聞報道，時長近5萬分鐘，瀏覽量70億次。人民日報打造的虛擬主播“果果”，形象與聲音可與真人主播原型果欣禹以假亂真。只要輸入文本，AI主播就能快速轉換成新聞播報，并能用普通話、粵語、英語、法語、韓語等多種語言播報新聞，從而大幅降低新聞節(jié)目制作成本，提升新聞內容的生產(chǎn)效率，甚至顛覆未來的新聞生產(chǎn)方式。2022年2月，中央廣播電視總臺首位超仿真人工智能主播“AI王冠”問世，采用DeepBrain AI深度學習技術，通過數(shù)百個節(jié)目視頻來學習真人的聲音、口音和姿勢，使其擁有流暢自然的語言、真實鮮活的神情和清晰入微的膚質。在2022年兩會報道中，真人王冠與“AI王冠”同框互動的《“冠”察兩會》節(jié)目，形式新穎，火速出圈，深受青年觀眾喜歡。日本放送協(xié)會（NHK）的“Yomiko”、英國獨立電視（ITV）的“Sophia”、韓國MBN電視臺的“金柱夏”等真人AI主播一經(jīng)推出，都在本國新聞界引起轟動，并掀起了革新性的熱潮。其次，“深度偽造”技術還可以使新聞老照片煥發(fā)新生。新華社在2021年五四青年節(jié)期間推出一款融媒新聞產(chǎn)品，利用深度換臉技術讓錢學森、張聞天、徐特立、雷鋒、聶耳等16位已故的歷史名人穿越時空，與大眾來了一場視頻聊天，用自己的人生感悟為當代青年答疑解惑、指點迷津，創(chuàng)造了極佳的新聞傳播效果。再次，打造手語AI合成主播。例如，2022年北京冬奧會，總臺央視推出了全球首個手語AI合成主播“小聰”，能用流暢準確的手語進行新聞解說，為我國2700萬聽障群體第一時間帶來冬奧精彩進展的賽事報道，讓他們更加便捷高效地獲取新聞。

3.廣告業(yè)：激活匠心創(chuàng)意，升級用戶體驗。“深度偽造”技術為廣告行業(yè)帶來了變革性的影響。人工智能大幅減少了廣告制作的時間、精力和成本，激發(fā)了更高水平的廣告創(chuàng)意，提高了廣告的感官沖擊力，升級了廣告用戶的個性化體驗。首先，深度換臉解決了新冠疫情背景下廣告拍攝明星的困難。由于三年多來新冠病毒的肆虐，不少國家曾出臺居家隔離的政策，限制了面對面的廣告拍攝活動，很多明星無法到場參與拍攝，致使一眾廣告公司無法更新視頻素材。利用人工智能對歷史素材進行深度合成提供了新的創(chuàng)意思路。2021年，俄羅斯電信運營商斥資100萬美元邀請好萊塢明星布魯斯·威利斯拍攝新廣告，然而并非真人出演，而是通過深度換臉技術制造了完美復刻的替身演員。廣告技術人員選擇了34000個布魯斯的影像片段，運用人工神經(jīng)網(wǎng)絡將其臉部覆蓋到替身男演員的臉上，從而創(chuàng)建出廣告中的新形象。目前，一些國外廣告公司通過合法渠道獲得有影響力的公眾人物面孔和聲音的使用權，將深度合成的內容轉化為數(shù)以千計的個性化定向廣告進行投放。其次，催生令人震撼的創(chuàng)意廣告。2022年3月，西班牙電視流媒體平臺Dish Latino推出付費電視服務廣告，拉美著名喜劇演員羅伯托·戈麥斯在去世近八年后重現(xiàn)銀幕，與他的兒子談論當今世界電視媒體的變化方式。廣告營造的父子隔世重逢的驚喜、感動和幽默收獲了網(wǎng)友400萬點贊。再次，激發(fā)用戶的在線體驗感。該技術可以將在線體驗式營銷直接帶給廣告用戶。例如，人工智能公司Superpersonal開發(fā)的虛擬試衣間系統(tǒng)，可把用戶的臉部覆蓋到廣告視頻的模特臉上，實現(xiàn)下單前的在線試穿。一些在線網(wǎng)絡游戲廣告也嘗試把游戲的角色面部轉換為用戶真實臉部，讓玩家在購買前體驗游戲的精彩。營銷學家發(fā)現(xiàn)，當消費者將產(chǎn)品視為自己的延伸時，他們愿意支付更高的價格、購買更多產(chǎn)品并向他人進行宣傳。

三、“深度偽造”在傳媒領域的技術異化風險

技術異化是指在新技術發(fā)明、擴散和轉化應用進程中，在功利主義價值觀和技術至上主義的驅使下，悖離科技以人為本的終極目標而誤入歧途。被異化的新興技術違背法律、倫理、道德和人本主義精神，反噬社會，嚴重威脅人類的主體地位和社會的正常運行。“深度偽造”作為人工智能時代的前沿合成媒體技術，在其突破性發(fā)展過程中，也出現(xiàn)了賦能與異化交織、向善與趨惡并存的復雜局面，不加限制的濫用對政治、經(jīng)濟、社會、文化、軍事、國際關系帶來不可估量的重大風險，筆者從新聞真實的消解、傳播秩序的失范、輿論引導的失靈三個維度，來嘗試剖析“深度偽造”在傳媒領域引起的沖擊和挑戰(zhàn)。

1.新聞真實的消解。真實性是新聞得以存在的基本價值、理由和意義，是新聞報道的最高工作準則和新聞工作的終極目標。“深度偽造”的新聞照片、視頻和音頻越來越逼真，無論是普通公眾抑或是專業(yè)媒體甚至是智能識別器都難辨真?zhèn)?，任其發(fā)展，真實影像將被侵蝕、原始聲音會被篡改、新聞真實將被混淆、媒介生態(tài)會被污染。

2018年，加蓬軍方發(fā)布了總統(tǒng)阿里·邦戈“深度換臉”的虛假新聞，誤導本國民眾質疑總統(tǒng)履職能力，最終觸發(fā)軍隊政變。2019年，馬來西亞經(jīng)濟事務部長阿茲明·阿里深陷同性不雅“深度偽造”視頻風波，其政治生涯遭到嚴重打擊。2020年，比利時總理蘇菲·威爾梅斯關于新冠病毒感染是生態(tài)危機惡果的“深度偽造”演講視頻也引發(fā)本國的巨大爭議。2020年，美國總統(tǒng)競選期間，奧巴馬嘲諷特朗普是蠢貨、特朗普攻擊巴黎氣候協(xié)議、拜登接受采訪時睡著的視頻，雖然后來都被證實為“深度偽造”假新聞，然而通過對總統(tǒng)候選人原有言語和形象微妙改變，使其品格、健康和心理狀況受到大眾質疑，完全可以影響選民的情緒和選擇。時至今日，澤連斯基宣布投降的“深度偽造”新聞仍然在互聯(lián)網(wǎng)散布，影響著輿論的走向。人類正在進入以信息為基礎的數(shù)字時代，新聞的深度失真引發(fā)的信息混亂和社會動蕩是極為危險的，對于政治穩(wěn)定、經(jīng)濟運行、國家安全的影響非常深遠。

2.傳播秩序的失范。信息是數(shù)字時代的重要經(jīng)濟產(chǎn)品和核心社會資源，在媒介產(chǎn)業(yè)化的時代背景下，以“真實”“客觀”“準確”“完整”“誠信”“專業(yè)”“尊重”“平等”“責任”等倫理原則構建的傳播秩序維系著整個信息傳播過程。而一旦傳播者出于種種逐利動機，借助“深度偽造”技術傳播虛假不實或夸張變形的信息，違背了公共傳播倫理，破壞了傳受雙方間的契約原則，就會產(chǎn)生傳播秩序的失范，加劇網(wǎng)絡世界的混亂無序，由此衍生一系列新型的違法行為。

從2017年開始，美國的“深度換臉”色情視頻在網(wǎng)絡泛濫，眾多女明星和名人在不知情的情況下被替換成不雅視頻的主人公，肖像權和名譽權被惡意侵犯，在歐美影視圈引起強烈抗議。甚至還形成了制造、銷售深度換臉淫穢視頻的黑色產(chǎn)業(yè)鏈。2021年，臺灣省破獲一起案件，犯罪團伙利用“深度偽造”技術制作不雅影片，著名歌星等119人臉部被盜用制作成猥褻影片在網(wǎng)絡售賣，不法獲利高達1338萬臺幣。“深度換臉”還演化為色情報復和敲詐勒索的新型犯罪工具，侵害公民的人身權和財產(chǎn)權。印度女記者拉娜·阿尤布因在新聞報道中揭露當?shù)毓賳T在屠殺事件中的不作為，有人將她的臉與色情片女主角的臉互換，合成不雅視頻在網(wǎng)絡惡意散布。美國女演員貝拉·索恩自曝曾被黑客以“深度偽造”色情視頻敲詐勒索。2021年，《華盛頓郵報》曾報道美國一婦女創(chuàng)建“深度偽造”視頻，用來騷擾她女兒高中拉拉隊中的競爭對手。她偽造了其他拉拉隊成員吸煙、喝酒和裸體的不雅視頻，然后用匿名賬戶向這些女孩發(fā)送視頻并建議她們自殺，該婦女已被逮捕并被指控犯有六項騷擾罪。此外，“深度偽造”還被用于網(wǎng)絡詐騙。

3.輿論引導的失靈。“深度偽造”技術的濫用還引起民眾精神世界深層次的危機，產(chǎn)生迷茫、懷疑、恐慌、焦慮、抑郁等負面情緒，對信息真實性的懷疑和對媒體信任的衰退將使媒體公信力變得更加脆弱，進一步擠壓官方正面信息的傳播空間，最終可能引起國家和政府輿論引導的失靈。

近兩年新冠疫情影響全國，有人利用“深度偽造”技術偽造了鐘南山院士的聲音和視頻，炮制了諸多虛假信息。例如，鐘院士演講說確診患者中無一素食者感染新冠病毒、鐘南山院士趕赴滿洲里、烏魯木齊、意大利等多地抗疫，鐘院士為牛奶、草莓、藥品、保健品代言，后經(jīng)官方證實皆為謠言，但傳播甚廣，謠言遠遠跑在了真相前面。另外，“深度偽造”還利用首因效應而取得先機，使得正面輿論引導糾偏非常困難。例如，2017年，印度各地陸續(xù)出現(xiàn)因“深度偽造”的謠言而導致市民無故被殺的案件。謠言利用合成圖片和視頻偽造了綁匪拐賣兒童販賣人體器官的虛假信息，馬哈拉施特拉邦的居民誤把5名路人當做綁匪毆打致死。雖然當?shù)卣途骄o急辟謠，澄清事實，但大眾不信任官方媒體，而對假消息深信不疑，以至于之后又發(fā)生13起同類案件，造成27人死亡。

四、結語

自“深度偽造”技術進入大眾視野以來，可謂毀譽參半，爭議不斷。在傳媒領域，我們要看到“深度偽造”技術在影視、新聞、廣告、娛樂對傳媒領域帶來的激烈沖擊和反噬風險。“深度偽造”技術和任何新技術一樣具有雙面性，利與弊相互依存、相伴而生。怎樣用規(guī)范來約束技術的恣意濫用、規(guī)避技術異化的風險，是人類社會永恒的話題和無法回避的時代責任。要始終堅持科技以人為本的思想，推進“深度偽造”等人工智能技術的創(chuàng)新、研發(fā)及合法合理應用。一方面，要借鑒各國優(yōu)秀的治理經(jīng)驗，對已經(jīng)出現(xiàn)的異化現(xiàn)象進行科學研判和積極治理，從文化觀念、法律法規(guī)、技術反制、平臺管理、內容溯源、監(jiān)督機制、行業(yè)自律和媒介素養(yǎng)等維度，整合推進技術異化治理體系的構建與創(chuàng)新；另一方面，要警惕潛在和未知的技術異化風險，大力開展技術預測工作，創(chuàng)建具備高度前瞻性的風險預判制度和完善的突發(fā)危機應急管理制度，保障人工智能技術以向善的力量推進社會發(fā)展。