向深度偽造宣戰(zhàn)

Vivienne Walt

各家公司都在爭分奪秒地檢測在人工智能的助力下被篡改的視頻，以免它們在戰(zhàn)場上引發(fā)更多的暴力和混亂

2023 年10 月7 日破曉時(shí)分，以色列的特拉維夫市響起了空襲警報(bào)，邁克爾·馬蒂亞斯（Michael Matias）和他的女朋友從床上跳起來，跑到公寓大樓的防空洞。在防空洞里，他們手機(jī)上的信息顯示了觸發(fā)警報(bào)的恐怖場景：哈馬斯的武裝分子正在向以色列發(fā)起大規(guī)模軍事行動(dòng)，并且扣押了數(shù)百名人質(zhì)，距離他們安全聚集的地方不到一個(gè)小時(shí)的車程。

在令人驚愕的余波中，馬蒂亞斯突然意識到這對他的科技新創(chuàng)企業(yè)的影響。2022 年年底，他創(chuàng)辦了人工智能公司Clarity，專注于檢測競選活動(dòng)中的深度偽造信息；他認(rèn)為，這種虛假信息對國家構(gòu)成了緊迫威脅。但由于在10 月7 日大約有1，200 名以色列人喪生，而且該國正處于戰(zhàn)爭狀態(tài)，因此這一任務(wù)需要暫時(shí)擱置。那天早上，他與Clarity 的團(tuán)隊(duì)緊急召開會(huì)議，以啟動(dòng)一項(xiàng)行動(dòng)計(jì)劃?！拔覀儗Ρ舜苏f：‘在此次事件里，我們的技術(shù)將大有用武之地?！盋larity 的首席執(zhí)行官馬蒂亞斯說道。

這次襲擊是以色列建國75年來最致命的一次，在之后的混亂中，以色列對加沙地區(qū)進(jìn)行了封鎖，切斷了區(qū)域內(nèi)的一切水、電、物資供應(yīng)，并向沿海飛地（居住著200 萬名巴勒斯坦人）的哈馬斯目標(biāo)投擲了數(shù)千枚炸彈。隨著以色列的行動(dòng)升級，出現(xiàn)了全面的人道主義災(zāi)難，在一個(gè)月內(nèi)有超過10，000 名巴勒斯坦人喪生，其中包括平民，恐怖的畫面充斥著電視和手機(jī)屏幕，引發(fā)了全世界的憤怒和抗議活動(dòng)。這不僅是一場彈藥戰(zhàn)爭，而且是一場信息戰(zhàn)爭—真假信息混雜。在對交戰(zhàn)雙方義憤填膺的同時(shí)，一些人質(zhì)疑這些令人毛骨悚然的可怕場景是否真實(shí)，或是這些圖像是否是在人工智能的助力下生成的所謂深度偽造圖像。

事實(shí)上， 隨著技術(shù)的進(jìn)步，人工智能生成的虛假信息越來越難以辨別。馬蒂亞斯表示，這讓Clarity 這樣的新創(chuàng)企業(yè)陷入了“一場貓和老鼠的博弈”。

問題是，最后是貓贏，還是老鼠贏？一些人擔(dān)心，生成技術(shù)的便利性會(huì)讓惡意用戶比那些遠(yuǎn)不是那么靈活的科技公司和試圖控制他們的政府智高一籌。常駐英國劍橋、為英國政府以及包括Adobe 和Facebook 的母公司Meta 在內(nèi)的企業(yè)提供咨詢服務(wù)的人工智能技術(shù)顧問亨利·艾德爾（Henry Ajder）說：“該技術(shù)的發(fā)展速度快得令人難以置信。20 年或10 年后會(huì)是什么樣子？這些工具將變得越來越容易獲得。當(dāng)確實(shí)發(fā)現(xiàn)大量的深度偽造內(nèi)容時(shí)，我們可能會(huì)全然不知所措?！?/p>

俗話說， 軍事宣傳和戰(zhàn)爭本身一樣古老。但自從OpenAI 在2022 年推出第一版人工智能聊天機(jī)器人ChatGPT 以來，生成式人工智能爆炸性的流行增強(qiáng)了普通用戶創(chuàng)造自己敘事的能力。當(dāng)涉及到教皇方濟(jì)各（PopeFrancis）身穿白色大號羽絨服或者金·卡戴珊（KimKardashian）擔(dān)任公交車司機(jī)時(shí)，其影響相對微不足道。但在戰(zhàn)爭里，深度偽造技術(shù)可以用來制造混亂，可能會(huì)產(chǎn)生生死攸關(guān)的后果。

2022 年2 月，俄烏沖突爆發(fā)，引發(fā)了歐洲幾代人以來最大規(guī)模的陸地沖突。幾天之內(nèi)，烏克蘭總統(tǒng)弗拉基米爾·澤連斯基（VolodymyrZelensky）在Facebook 上露面，命令士兵投降。幾天后，俄羅斯總統(tǒng)弗拉基米爾·普京（Vladimir Putin）在推特（Twitter）上也命令軍隊(duì)放下武器。抽搐的動(dòng)作和模糊的鏡頭很快就暴露了這兩段視頻是虛假的。但這預(yù)示著，一旦人工智能工具得到改進(jìn)，有朝一日可能會(huì)發(fā)生的事情。

現(xiàn)在，這一天已經(jīng)到來，無論是在政府辦公室還是在家里，都能夠輕松地獲得生成式人工智能工具。這項(xiàng)技術(shù)帶來了大量經(jīng)過篡改的內(nèi)容，而這些內(nèi)容以前需要熟練的技術(shù)人員才可以制作出來。大西洋理事會(huì)（Atlantic Council）的數(shù)字取證研究實(shí)驗(yàn)室（DigitalForensic Research Lab）的研究人員萊拉· 馬什庫爾（Layla Mashkoor）稱，在以色列戰(zhàn)爭中，這些內(nèi)容來自四面八方。該實(shí)驗(yàn)室隸屬于一家密切追蹤沖突中的社交媒體網(wǎng)站的美國智庫。她指出，雙方人士都在傳播深度偽造內(nèi)容，她舉例道，一個(gè)親以色列的Instagram 賬戶里有一張人工智能處理過的照片，顯示成群的以色列人在陽臺上為士兵歡呼。對許多人而言，手機(jī)屏幕上閃過的如海嘯般襲來的信息讓一切都顯得不可靠。馬什庫爾說：“即便是真實(shí)的圖像，也會(huì)有反駁的聲音，所以人們很難弄清楚真相?！?/p>

當(dāng)馬蒂亞斯為他的人工智能新創(chuàng)企業(yè)取名Clarity 時(shí)，這正是他想要解決的問題。戰(zhàn)爭爆發(fā)后，團(tuán)隊(duì)立即行動(dòng)起來。據(jù)馬蒂亞斯介紹，隨著數(shù)以百計(jì)的視頻和照片在互聯(lián)網(wǎng)上流傳，其中一些是哈馬斯在襲擊期間拍攝的，還有一些是加沙居民在遭到摧毀的社區(qū)拍攝的，國際媒體機(jī)構(gòu)開始給Clarity 發(fā)送電子郵件，尋求幫助，以剔除深度偽造的視頻和照片。馬蒂亞斯拒絕讓《財(cái)富》雜志透露他的客戶信息。

這場戰(zhàn)爭在網(wǎng)上催生了大量的假新聞： 時(shí)裝模特貝拉·哈迪德（ B e l l aHadid）為她的親巴勒斯坦言論道歉的視頻實(shí)際上是合成音頻。約旦王后拉尼婭（Rania）說她的國家“與以色列站在一起”，這是在她露面接受美國有線電視新聞網(wǎng)（CNN）采訪的視頻基礎(chǔ)上，利用人工智能生成的音頻。一段據(jù)稱是哈馬斯的戰(zhàn)士摧毀以色列坦克的視頻，實(shí)際上來自俄烏沖突。另一段顯示哈馬斯擊落兩架以色列的直升機(jī)的視頻呢？那是從電子游戲《武裝突襲3》（Arma 3 ）中截取的。

總部位于美國加利福尼亞州帕洛阿爾托和以色列特拉維夫的Clarity 還在戰(zhàn)爭里與以色列的情報(bào)機(jī)構(gòu)合作，以檢測戰(zhàn)爭錄像的真假。幾乎所有的Clarity 團(tuán)隊(duì)的成員，包括馬蒂亞斯在內(nèi)，都在義務(wù)服兵役期間，在以色列國防軍（Israeli DefenseForces）的精銳技術(shù)部隊(duì)中花了數(shù)年時(shí)間磨練技能。馬蒂亞斯本人曾經(jīng)在被稱為“8200部隊(duì)”的情報(bào)機(jī)構(gòu)服役（人才選拔極其嚴(yán)格），該機(jī)構(gòu)的成員在服兵役后創(chuàng)辦了無數(shù)的全球新創(chuàng)企業(yè)。

憑借這樣的背景， 馬蒂亞斯利用經(jīng)驗(yàn)豐富的創(chuàng)始人網(wǎng)絡(luò)為公司提供建議和資金。Clarity 的一位天使投資人烏迪·莫卡迪（UdiMokady）說：“Clarity 正在一個(gè)新的領(lǐng)域進(jìn)行創(chuàng)新?！蹦ǖ弦彩恰?200 部隊(duì)”的退伍軍人，他創(chuàng)立了身份安全公司CyberArk。莫卡迪現(xiàn)在是CyberArk 的執(zhí)行主席，他預(yù)測深度偽造檢測市場將急劇上升。莫卡迪稱：“隨著ChatGPT 的出現(xiàn)，人們對它的興趣一夜之間急劇上升：在家里就能夠創(chuàng)建深度偽造內(nèi)容?！?/p>

Clarity 并沒有對內(nèi)容進(jìn)行純粹的真假認(rèn)證，而是使用人工智能來追蹤視頻中的一系列數(shù)據(jù)點(diǎn)，例如一個(gè)人的面部抽搐或語調(diào)的抑揚(yáng)頓挫，然后利用神經(jīng)網(wǎng)絡(luò)將它們置于儀表板上顯示的從綠色到紅色的確定性范圍內(nèi)?！斑@是人工智能與人工智能的較量。”馬蒂亞斯說道。有些視頻，比如伊朗支持的（黎巴嫩）真主黨（Hezbollah）組織領(lǐng)導(dǎo)人譴責(zé)10 月7 日襲擊事件的視頻，顯然是深度偽造的內(nèi)容（“遺憾的是”馬蒂亞斯打趣道）。但其他視頻就不那么一目了然了，需要人工進(jìn)行判斷，而不是由人工智能訓(xùn)練出來的機(jī)器進(jìn)行判斷。

在打擊深度偽造內(nèi)容方面，Clarity 并非孤軍奮戰(zhàn)。過去幾年里，還有幾家類似的新創(chuàng)企業(yè)相繼成立，包括美國紐約的Reality Defender 和愛沙尼亞的Sentinel?？萍季揞^也在關(guān)注假新聞問題：從2024 年1 月開始，Meta 將要求政治競選活動(dòng)在Facebook的廣告中標(biāo)注任何人工智能生成的內(nèi)容，而谷歌現(xiàn)在也包含了有關(guān)圖像來源的數(shù)據(jù)。

各國政府也在努力打擊深度偽造。2023 年10 月，美國總統(tǒng)喬·拜登（ J o eBi d en） 發(fā)布了一項(xiàng)關(guān)于“安全、可靠和值得信賴”的人工智能的行政命令，授權(quán)美國商務(wù)部（CommerceDepartment）尋找方法來驗(yàn)證內(nèi)容的真實(shí)性，并在人工智能生成的媒體內(nèi)容上添加水印。但該行政命令并沒有威脅要對違規(guī)者實(shí)施制裁。

同樣是在2 0 2 3 年1 0月， 在包括中國在內(nèi)的28個(gè)國家參加的、在英國舉辦的首屆全球人工智能安全峰會(huì)（AI Safety Summit）上，官員們同意采取類似的措施。在由27 個(gè)國家組成的歐盟（European Union），一項(xiàng)旨在執(zhí)行安全標(biāo)準(zhǔn)并為新創(chuàng)企業(yè)提供資金的《人工智能法案》（AI Act）正在逐步通過錯(cuò)綜復(fù)雜的程序，歐盟的高層官員希望對未能打擊虛假信息的社交媒體平臺處以巨額罰款。

“越來越多的國家達(dá)成的共識是：人工智能會(huì)帶來災(zāi)難性的風(fēng)險(xiǎn)?！庇斯ぶ悄茴檰柊聽柋硎荆八麄兿Ｍ苊馕覀冊谶^去18 個(gè)月里看到的‘狂野西部（WildWest）局面持續(xù)下去，從某種程度上說，風(fēng)險(xiǎn)會(huì)進(jìn)一步加劇?！?/p>

但其中的風(fēng)險(xiǎn)無法和以色列對加沙地區(qū)發(fā)動(dòng)的激烈戰(zhàn)爭相提并論，美國的軍艦駐扎在靠近海岸的地方，伊朗和黎巴嫩也為可能發(fā)生的戰(zhàn)爭做好了準(zhǔn)備。在長達(dá)數(shù)周的戰(zhàn)爭里，Clarity 團(tuán)隊(duì)一直在努力解決這一問題，同時(shí)分析了讓他們筋疲力盡的數(shù)百個(gè)視頻和照片。

經(jīng)常觀看令人毛骨悚然的視頻對Clarity 的小團(tuán)隊(duì)的影響是顯而易見的，馬蒂亞斯稱，在戰(zhàn)爭結(jié)束后，他們肯定需要進(jìn)行創(chuàng)傷后治療。他說：“我們知道，我們正在進(jìn)入一場高度個(gè)性化的戰(zhàn)爭?！彼a(bǔ)充道，這項(xiàng)工作讓他的團(tuán)隊(duì)感到“沉重的情感負(fù)擔(dān)，以及令人難以置信的重要性意識。” 財(cái)富

譯者：Zhy

偵探力量

隨著深度偽造內(nèi)容的激增，企業(yè)巨頭和新創(chuàng)企業(yè)都在競相對其進(jìn)行監(jiān)測。以下是一些參與其中的公司：

DeepMedia

該公司由斯坦福大學(xué)（Stanford University）和耶魯大學(xué)（YaleUniversity）的人工智能專業(yè)的畢業(yè)生于2017 年創(chuàng)立。該公司總部位于美國加利福尼亞州奧克蘭，與美國國防部（U.S. Departmentof Defense）、聯(lián)合國（United Nations）和科技公司合作，利用神經(jīng)網(wǎng)絡(luò)處理技術(shù)發(fā)現(xiàn)虛假內(nèi)容。

Reality Defender

這是一家總部位于美國紐約州紐約市曼哈頓的公司，由高盛集團(tuán)（Goldman SachsGroup）的前高管本·科爾曼（BenColman）于2021 年創(chuàng)立，他表示，在深度偽造內(nèi)容病毒式傳播之前阻止它至關(guān)重要。該公司在2023 年10 月的一輪融資中籌集了1，500 萬美元，旨在推出能夠?qū)崟r(shí)識別合成語音的新工具。

英特爾（Intel）

該公司在2022 年推出了一款名為FakeCatcher 的深度偽造內(nèi)容檢測器，據(jù)稱可以實(shí)時(shí)分析視頻，并在幾毫秒內(nèi)提供準(zhǔn)確率高達(dá)96% 的檢測結(jié)果。其中一種罕見的工具是分析像素中的血流，從而判斷圖像是否描繪的是真人。