AI雙刃劍　一夜爆紅的ZAO到底傷了誰(shuí)

“—夜走紅，一天淪陷”一—頂著A咣環(huán)的換臉軟件ZAO憑借極高的關(guān)注度及爭(zhēng)議成為近似現(xiàn)象級(jí)的存在，從追捧到唾棄，ZAO換臉的同時(shí)讓人們看到了AI這把雙刃劍的威力，當(dāng)人們?cè)趽Q臉事件中逐漸恢復(fù)理智后，讓我們一同重新審視下這場(chǎng)AI換臉風(fēng)暴！

從爆紅到全民聲討

“在未來(lái)，每個(gè)人都有15分鐘出名的機(jī)會(huì)?！币灰灰苿?dòng)互聯(lián)加上社交軟件的普及-令出名變得更加簡(jiǎn)單-當(dāng)一款名為ZAO的軟件在半夜刷爆朋友圈時(shí)，大多數(shù)人無(wú)非感嘆該軟件推廣時(shí)機(jī)抓得好，乍看上去，AI換臉、簡(jiǎn)單易用、社交屬性……種種亮點(diǎn)讓ZAO有了爆紅的基礎(chǔ)，尤其是背靠陌陌這個(gè)金主加社交達(dá)人，讓“只要在APP中上傳一張照片，你想變成哪個(gè)明星，就能變成哪個(gè)明星?！痹竿麑?shí)現(xiàn)的ZAO僅僅用了幾個(gè)小時(shí)就在8月31日蘋(píng)果商店的下載量飆升到了免費(fèi)App下載榜的138位、娛樂(lè)App第13位。

一夜之間，朋友圉也被無(wú)數(shù)換臉視頻“攻占”，仿佛整個(gè)世界都在Cosplay.朋友圈的“傳染”讓不少人在第二天清晨刷朋友圈后開(kāi)始瘋狂打探并下載這款軟件，如此熱潮下，拿下微博/百度熱搜絲毫不意外了，“服務(wù)器忙”一度成為ZAO的代名詞。

可讓人意外的是這款軟件被外媒爭(zhēng)相報(bào)道、有望成為現(xiàn)象級(jí)產(chǎn)品時(shí)，9月1日下午，ZAO在官方微博回應(yīng)稱，會(huì)對(duì)相關(guān)問(wèn)題進(jìn)行修改，需要一點(diǎn)時(shí)間。同日，Zao被微信屏蔽分享鏈接，提示理由為“網(wǎng)頁(yè)存在安全風(fēng)險(xiǎn)，被多人投訴。”

從刷屏到質(zhì)疑，不超過(guò)24小時(shí)，從朋友圈爆紅到被微信封殺，ZAO也只度過(guò)了短暫的三天時(shí)間。人生的大起大落放在軟件上似乎同樣適用-少見(jiàn)的表現(xiàn)更進(jìn)一步激起了，人們的好奇心，也讓越來(lái)越多的目光聚集在了ZAO身上。

爭(zhēng)議巨大的用戶協(xié)議

娛樂(lè)、社交、新鮮感……不少人對(duì)ZAO的認(rèn)知源于換臉，為自己換上明星臉或?yàn)槊藧焊銚Q臉，在不少人眼里是件有趣的事兒，無(wú)論是用自己的臉制作網(wǎng)絡(luò)熱門(mén)表情包還是用你和朋友的臉一起飆戲，ZAO的確滿足了人們的娛樂(lè)和社交需求，可在網(wǎng)民隱私意識(shí)日益提升的今天，越來(lái)越多網(wǎng)友開(kāi)始對(duì)ZAO的潛在風(fēng)險(xiǎn)提出疑問(wèn)。

根據(jù)ZAO用戶協(xié)議內(nèi)容中的必要授權(quán)協(xié)議：用戶上傳發(fā)布內(nèi)容后，意味著同意授予ZAO及其矣聯(lián)公司以及ZAO用戶在“全球范圍內(nèi)完全免費(fèi)、不可撤銷(xiāo)、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，“包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個(gè)人的人臉或者聲音等）以及對(duì)修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財(cái)產(chǎn)權(quán)利及鄰接權(quán)利”。

該項(xiàng)條款包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的用戶或肖像權(quán)利人的肖像權(quán)，以及利用技術(shù)對(duì)其肖像進(jìn)行形式改動(dòng)。

微博上有網(wǎng)友擔(dān)憂，“非法”收集面部信息”“萬(wàn)一哪天被黑客把數(shù)據(jù)庫(kù)給拿走了，你的支付寶分分鐘可以被盜刷-你們自己看著吧。”雖然從一開(kāi)始就有法律界的人士表示，ZA0的技術(shù)中立很難成立，這樣的用戶協(xié)議并不靠譜，可類(lèi)似“在你拿ZAO換臉時(shí)，可能已成為情色片主角了”的擔(dān)憂足以讓用戶談ZAO色變，從爭(zhēng)相體驗(yàn)到全民批判也就一點(diǎn)不奇怪了。

用戶安全與侵權(quán)

利用ZAO進(jìn)行“換臉”，首先需要用手機(jī)號(hào)動(dòng)態(tài)驗(yàn)證碼進(jìn)行驗(yàn)證登錄。用戶如果想要下載或分享?yè)Q臉視頻，則需要進(jìn)行驗(yàn)證確認(rèn)所使用的照片的確是用戶本人，而驗(yàn)證的方式則是在攝像頭前進(jìn)行眨眼、扭頭、張嘴等指示動(dòng)作。用戶面部識(shí)別信息被ZAO以驗(yàn)證的本人的形式獲取，雖然ZAO一直聲明不會(huì)擅自使用、泄露用戶隱私，可問(wèn)題是網(wǎng)絡(luò)時(shí)代誰(shuí)能保證數(shù)據(jù)庫(kù)、服務(wù)器絕對(duì)的安全？在刷臉應(yīng)用越來(lái)越火的今天，面部識(shí)別信息本身就是極為敏感的存在，ZAO最初“免責(zé)”式的用戶協(xié)議-顯然會(huì)加劇用戶對(duì)自身隱私安全的擔(dān)心。

除自身隱私安全外，ZAO極為出色的易用性，讓技術(shù)小白也能一鍵玩轉(zhuǎn)明星換臉，軟件本身內(nèi)置可供選擇的影視劇片段中，有包括《延禧攻略》、《長(zhǎng)安十二時(shí)辰》、《還珠格格》在內(nèi)的多部熱門(mén)國(guó)內(nèi)電視劇，也有石原里美、萊昂納多，迪卡普里奧等國(guó)外明星的影視劇片段，還有大量熱門(mén)的綜藝片段，或許本身是想要給用戶帶來(lái)更多趣味性，可換臉過(guò)程中，明星、影視劇本身的肖像權(quán)、著作權(quán)、知識(shí)產(chǎn)權(quán)又會(huì)產(chǎn)生一連串問(wèn)題。上面矣于用戶自身隱私及侵權(quán)的擔(dān)心并非僅存在于猜想，在ZAO引發(fā)全民爭(zhēng)議的同時(shí)，“不雅視頻將女明星換臉成主角售賣(mài)：涉多重違法，電商稱零容忍”的新聞讓人們擔(dān)心成為現(xiàn)實(shí)，當(dāng)不雅視頻主角加上了明星臉后，AI換臉工具輕而易舉地成為“幫兇”。

AI換臉并非新鮮事兒

AI換臉并非新鮮事兒，早在2017年底，國(guó)外一位ID為“deepfakes”的網(wǎng)友，他發(fā)布了一種讓用戶可以使用機(jī)器學(xué)習(xí)技術(shù)來(lái)將視頻換臉，只是當(dāng)時(shí)還處于初級(jí)階段-普通用戶根本沒(méi)辦法通過(guò)這些資料來(lái)自己動(dòng)手DIY，直到簡(jiǎn)單版的FakeApp出現(xiàn)，把復(fù)雜的AI換臉變成了簡(jiǎn)單，讓普通用戶也能輕松將視頻中的人物換臉。

FakeApp采用了deepfake技術(shù)，并將其軟件化簡(jiǎn)單化，能將視頻A里的人臉通過(guò)機(jī)器學(xué)習(xí)技術(shù)然后套用到視頻B中，而且通過(guò)深度學(xué)習(xí)后的換臉效果逼真，幾乎可以達(dá)到以假亂真的程度。國(guó)外的投機(jī)者顯然也不笨，F(xiàn)akeApp很快就被運(yùn)用到色情網(wǎng)站視頻或報(bào)復(fù)色情內(nèi)容，也可能被用于制作假新聞和惡意惡作劇。于是， FakeApp很快就被封殺了。更早一些的1997年-為了彌補(bǔ)一些配音電影唇音不同步的缺陷-國(guó)外進(jìn)行了一項(xiàng)“視頻重寫(xiě)”的研究項(xiàng)目，這項(xiàng)技術(shù)使視頻中的人物嘴唇自動(dòng)與音頻系統(tǒng)同步，所以即使原視頻圖像中的人沒(méi)有張過(guò)嘴，通過(guò)“視頻重寫(xiě)“也可以使這個(gè)人按照被匹配的音頻”口若懸河”，這項(xiàng)技術(shù)可用于電影配音、電視會(huì)議、電影特效中。

ZAO的出現(xiàn)，核心應(yīng)用并未有多大變化，不過(guò)其易用性的確非常不錯(cuò)，用戶注冊(cè)成功后，正產(chǎn)情況下只需幾秒就能制作完成一段變臉視頻，再配上社交功能，其崛起速度顯然非FakeApp可比的。然而，除了個(gè)人隱私的泄露與侵權(quán)問(wèn)題外，涉及資金安全的刷臉支付，同樣是ZAO引發(fā)的新問(wèn)題。

宣稱自己很安全的刷臉支付

既然視頻都能用ZAO換臉了，那ZAO能騙過(guò)刷臉支付驗(yàn)證嗎？螞蟻金服稱：“刷臉支付”采用的是3D人臉識(shí)別技術(shù)，在進(jìn)行人臉識(shí)別前，也會(huì)通過(guò)軟硬件結(jié)合的方式進(jìn)行檢測(cè)，來(lái)判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，以避免人臉偽造帶來(lái)的冒用情況。

以支付寶為例，在進(jìn)行人臉識(shí)別后，部分用戶還需要輸入與賬號(hào)綁定的手機(jī)號(hào)進(jìn)行校驗(yàn)，進(jìn)一步提高安全性。即便出現(xiàn)賬戶被冒用的極小概率事件，大家也不必驚慌，支付寶也會(huì)通過(guò)保險(xiǎn)公司進(jìn)行全額賠付。

微信方面也回應(yīng)媒體稱，換臉從技術(shù)上完全不會(huì)影響刷臉支付的安全性。而銀行方面以刷臉取款為例，采用紅外活體檢測(cè)技術(shù)、生物識(shí)別技術(shù)等-可抵御照片、換臉視頻、翻拍、3D頭套等面具攻擊。金融系統(tǒng)似乎對(duì)AI換臉有著足夠的防備體系-可對(duì)于AI在生物識(shí)別領(lǐng)域設(shè)的局，普通大眾能防備嗎？

能模仿任何聲音的AI

ZAO換臉引發(fā)了人們對(duì)AI替換、生物識(shí)別特征的討論，除針對(duì)面部識(shí)別特征的換臉應(yīng)用外，聲音識(shí)別與音調(diào)模仿，同樣是AI應(yīng)用令人擔(dān)憂的存在。據(jù)華爾街日?qǐng)?bào)報(bào)道，今年3月，犯罪分子通過(guò)商業(yè)化的人工智能語(yǔ)音生成軟件，成功模仿并冒充一家英國(guó)能源公司的德國(guó)母公司CEO，來(lái)欺騙其多位同事和合作伙伴，一天內(nèi)多次詐騙并轉(zhuǎn)移資金，使得該公司損失220，000歐元（約合173萬(wàn)元人民幣）。類(lèi)似的語(yǔ)音欺詐的新案例并不少見(jiàn)，犯罪分子使用人工智能技術(shù)來(lái)自動(dòng)化網(wǎng)絡(luò)攻擊并詐騙，獲取錢(qián)財(cái)，相信不少人都接到過(guò)類(lèi)似的欺詐電話。隨著技術(shù)的更迭-新的AI技術(shù)可以模仿任何聲音， Siri.Alexa，Microsoft的Cortana和GoogleAssistant等人工智能（AI）個(gè)人助理都使用文本轉(zhuǎn)語(yǔ)音軟件來(lái)為用戶創(chuàng)建更便利的界面，可當(dāng)他們本身就有個(gè)人助力的屬性-模仿用戶的聲音聲調(diào)同他人交流，恐怕很容易踩過(guò)界。

以百度Deep Voice為例，當(dāng)時(shí)的第一代產(chǎn)品，一個(gè)系統(tǒng)只能學(xué)習(xí)一個(gè)人的聲音，而且需要用幾小時(shí)音頻進(jìn)行訓(xùn)練。隨后的第二三代模型就將所需的訓(xùn)練數(shù)據(jù)降到了半小時(shí)，一個(gè)系統(tǒng)還能模仿數(shù)千人的聲音。當(dāng)聲音和容貌模仿都變得容易時(shí)，由AI打造的另一個(gè)你同你的親友聊天、同事辦公甚至借錢(qián)、購(gòu)物時(shí)，會(huì)是怎樣一種情況呢？

Al社交的試水

任何新興技術(shù)的出現(xiàn)和應(yīng)用，都存在一定風(fēng)險(xiǎn)，我們沒(méi)必要將這些潛在的風(fēng)險(xiǎn)放大或妖魔化，能夠模仿人們的語(yǔ)音、容貌，從技術(shù)角度看-這些應(yīng)用本身是AI技術(shù)進(jìn)步的表現(xiàn)，換臉并不能讓AI擁有自己的容貌-但在海量面部識(shí)別數(shù)據(jù)的前提下，AI形成自己獨(dú)一無(wú)二的面部形象早已不難-而隨著AI對(duì)人類(lèi)聲音、音調(diào)的模仿，AI顯然能越來(lái)越像人。ZAO的火爆離不開(kāi)社交，而AI換臉的延伸，足以成為AI社交的試水。陌陌用ZAO再度切入熟人社交領(lǐng)域，借助微信、QQ等社交渠道，意味著ZAO的公域流量始終掌握在別人手里，可問(wèn)題是ZAO如果再進(jìn)一步，何嘗不能直接以AI的身份完成同用戶的交互呢？

從目前來(lái)看，AI直接進(jìn)入社交領(lǐng)域恐怕還言之過(guò)早，以大量頂著AI光環(huán)的幼教機(jī)器人和智能音箱為例，其虛擬人物在交互上依舊有些呆滯，更同科幻電影中的虛擬AI人物相去甚遠(yuǎn)，而隨著AR＼VR等技術(shù)應(yīng)用的成熟，虛擬AI交互進(jìn)入大眾生活并不太遠(yuǎn)。

掘金個(gè)人數(shù)據(jù)需謹(jǐn)慎

深挖ZAO的公司股權(quán)會(huì)發(fā)現(xiàn)，陌陌是其背后的金主，在人們感嘆站在巨人肩膀上離成功更近時(shí)，有多少人注意到陌陌在ZAO以前還孵化了是他、瞧瞧、Cue、赫茲、MEET等五款社交產(chǎn)品，只不過(guò)ZAO成了最火的那一款。

社交代表流量-流量對(duì)互聯(lián)網(wǎng)科技企業(yè)而言意味著營(yíng)收、紅利，可在挖掘用戶流量的過(guò)程中-個(gè)人隱私數(shù)據(jù)收集必須有底線，“掘金”個(gè)人數(shù)據(jù)不能為所欲為。ZAO是一款可將用戶自拍替換進(jìn)影視劇片段的“換臉”應(yīng)用，用戶想實(shí)現(xiàn)這樣的功能，就要上傳自己的照片，這本來(lái)無(wú)可厚非，讓ZAO飽受詬病的是其實(shí)際功能設(shè)計(jì)和用戶協(xié)議條款。

從功能上來(lái)說(shuō)，用戶無(wú)法直接刪除自己此前上傳的圖片，只能以新上傳的照片來(lái)替代，同時(shí)無(wú)法自行操作注銷(xiāo)IDo這就違反了《個(gè)人信息安全規(guī)范》中的主體參與原則，即必須向“個(gè)人信息主體提供能夠訪問(wèn)更正、刪除其個(gè)人信息，以及撤回同意、注銷(xiāo)賬戶等方法”。引發(fā)市場(chǎng)全面反彈后，ZAO修改了用戶協(xié)議，但從ZAO事件可以看出，對(duì)于個(gè)人數(shù)據(jù)的應(yīng)用，不僅需要行業(yè)和企業(yè)的自律，更需要監(jiān)管部門(mén)的高效監(jiān)管。

Al監(jiān)管正當(dāng)時(shí)

ZAO引發(fā)大眾激烈討論的同時(shí)，工信部約談其實(shí)際控制人北京陌陌科技有限公司，要求其嚴(yán)格按照國(guó)家法律法規(guī)以及相矣主管部門(mén)要求，組織開(kāi)展自查整改，規(guī)范協(xié)議條款，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個(gè)人信息安全保護(hù)。而在國(guó)新辦18日舉行的新聞發(fā)布會(huì)上，國(guó)家互聯(lián)網(wǎng)信息辦公室副主任劉烈宏對(duì)AI換臉技術(shù)軟件ZAO涉嫌侵犯?jìng)€(gè)人隱私及霸王條款一事做出回應(yīng)。

新技術(shù)、新應(yīng)用帶來(lái)了發(fā)展的機(jī)遇，同時(shí)也給網(wǎng)絡(luò)安全帶來(lái)了風(fēng)險(xiǎn)和挑戰(zhàn)，作為管理部門(mén)，國(guó)家網(wǎng)信辦積極支持新技術(shù)、新應(yīng)用發(fā)展，同時(shí)也采取必要措施防范隨之帶來(lái)的風(fēng)險(xiǎn)。

寫(xiě)在最后：

別輕易玩生物識(shí)別信息

人工智能時(shí)代，大量公民的面部特征、身份信息、健康狀況、年齡特征、流動(dòng)特點(diǎn)等數(shù)據(jù)，從中可以分析出很多重要信息，點(diǎn)點(diǎn)滴滴的個(gè)人隱私匯集起來(lái)就是國(guó)家信息安全。無(wú)論對(duì)個(gè)人還是國(guó)家，生物識(shí)別信息都不應(yīng)輕易采集和使用的，新的科技技術(shù)的確能夠激發(fā)人們的好奇心，但管住自己的好奇心也相當(dāng)重要。