ZAO火爆卻注定短命背后：換臉攻擊一直都存在？

許偉

8月30日晚，一款主打視頻換臉功能的、名為“ZAO”的App“點(diǎn)燃”社交網(wǎng)絡(luò)。經(jīng)過一夜發(fā)酵，iOS商店內(nèi)的App下載量迅速攀升至娛樂類第二位——ZAO服務(wù)器也因此數(shù)次崩潰。

不過，伴隨刷屏的，是業(yè)內(nèi)外無數(shù)人士的質(zhì)疑，甚至厭惡和反感——引起巨大爭議的用戶隱私保護(hù)條款背后，是我們的臉早就被濫用，甚至攻擊都一直存在。

ZAO或?qū)⒉角拜叾堂髩m

其實(shí)，因攻陷用戶朋友圈及多個(gè)社交媒體平臺(tái)而一夜爆火的ZAO，并不是第一個(gè)搭載“換臉”技術(shù)的平臺(tái)。

早在今年5月，Snapchat就已經(jīng)推出了一款“變性濾鏡”，這讓它一度爬升至總榜第三位。但隨著用戶新鮮感的喪失，現(xiàn)在Snapchat已跌至總榜1000名之外。

今年7月，俄羅斯的AI換臉產(chǎn)品FaceApp復(fù)制了Snapchat的崛起之路，不僅能將人臉進(jìn)行轉(zhuǎn)化，還能在此基礎(chǔ)上實(shí)現(xiàn)男性變女性、哭臉變笑臉、老年變青年等更為復(fù)雜的操作。可惜的是，F(xiàn)aceApp的火熱并沒有因此得到延續(xù)，截至目前，F(xiàn)aceApp在App Store總榜排名已跌至600名開外。

就拿以上兩個(gè)案例來說，“AI換臉”技術(shù)雖然為平臺(tái)帶來了流量，但都好景不長。

目前來看，當(dāng)紅的ZAO正在進(jìn)行引流工作，那么它能不能將這流量轉(zhuǎn)換為實(shí)打?qū)嵉拈L久用戶？

圍繞“AI換臉”技術(shù)，ZAO目前只有視頻換臉、視頻分享朋友圈及表情制作三大功能。很顯然，如Snapchat和FaceApp一樣，這些簡易功能通常難以讓用戶的熱情持續(xù)下去。

而根據(jù)其設(shè)置，用戶直接上傳照片就可以將平臺(tái)上多個(gè)知名影視劇片段中原來人物的臉替換成照片人物的臉，毫無疑問，對(duì)用戶來說極大地降低了使用門檻。但它對(duì)照片高清晰度的要求又帶來了新門檻：若是照片不符合平臺(tái)要求則不能進(jìn)行“換臉”操作，這必然會(huì)讓用戶喪失一定的體驗(yàn)感。

相較于內(nèi)置功能是否能夠留住用戶的不確定性，ZAO帶來的風(fēng)險(xiǎn)是現(xiàn)在就能看到的。

首先，ZAO用戶協(xié)議中包含的多項(xiàng)條款都有著巨大的法律風(fēng)險(xiǎn)。而使用ZAO換臉功能后（必須同意用戶協(xié)議后才能使用），ZAO不光借此免費(fèi)獲得了上傳資料中所包含肖像信息的使用權(quán)和轉(zhuǎn)授權(quán)，還將侵權(quán)的風(fēng)險(xiǎn)轉(zhuǎn)嫁給了用戶。

知名法律博主“法山叔”表示，ZAO涉嫌過度攫取用戶授權(quán)，讓用戶在無形中將自己的肖像權(quán)拱手讓人，“以后你的臉將完全有可能被別人隨意使用，變換”。

其次，ZAO上有大量國內(nèi)外影視綜藝內(nèi)容片段，還能支持用戶自主上傳素材，這些海量素材也帶來了版權(quán)隱患。

知名IT與知識(shí)產(chǎn)權(quán)律師趙占領(lǐng)分析認(rèn)為，通過與權(quán)利人進(jìn)行合作以獲得授權(quán)，有效解決了ZAO的商業(yè)模式的合規(guī)問題，但是畢竟獲取授權(quán)是有代價(jià)的，限制了平臺(tái)所獲取的素材的種類和數(shù)量。而若是由用戶上傳進(jìn)而得到版權(quán)，則大大降低了平臺(tái)獲取內(nèi)容的成本，豐富了平臺(tái)上的素材，有助于滿足更多用戶的需求。

總的來說，雖然目前ZAO是一個(gè)免費(fèi)應(yīng)用，但不論是從用戶體驗(yàn)角度，還是出于使用風(fēng)險(xiǎn)考慮，ZAO都不會(huì)是用戶長久使用的必選項(xiàng)。

繞過人臉識(shí)別并不難？

值得關(guān)注的是，無論ZAO是否一款短命火爆產(chǎn)品，其背后卻是一個(gè)嚴(yán)重問題：我的臉還好嗎？

央行科技司司長李偉上個(gè)月就曾表示，“人臉是非常敏感的個(gè)人信息，一旦泄露會(huì)帶來非常大的影響?！?/p>

相較指紋等其他生物特征，人臉識(shí)別最大不同就在于，它能無需接觸，就遠(yuǎn)距離發(fā)生作用——這意味著，相關(guān)機(jī)構(gòu)和個(gè)人可能未經(jīng)當(dāng)事人同意，甚至完全不知情的情況下讀取并搜集其數(shù)據(jù)，進(jìn)而非法使用。

2011年，谷歌母公司Alphabet董事長埃里克·施密特說，人臉識(shí)別“很可怕”，并承諾谷歌公司不會(huì)建立用戶照片的數(shù)據(jù)庫；去年7月，科技巨頭微軟總裁史密斯（ Brad Smith）發(fā)表官方博文，談到了人臉識(shí)別給社會(huì)帶來的復(fù)雜影響。

更擔(dān)心的是非法利用——這種擔(dān)心并非杞人憂天。實(shí)際上，利用Deepfake造假技術(shù)，艾瑪·沃森等一眾歐美女明星，此前就被“換臉”在了不可描述的小電影上，一時(shí)轟動(dòng)全網(wǎng)。

ZAO也是如此。有用戶擔(dān)心，ZAO采集了用戶面部信息，同時(shí)也在注冊(cè)時(shí)獲得了自己的手機(jī)號(hào)，是否會(huì)有可能被不法分子用于支付寶、網(wǎng)上銀行等App的實(shí)名認(rèn)證，從而危及自己的金融財(cái)產(chǎn)安全。

一位國有大行網(wǎng)絡(luò)金融部負(fù)責(zé)人表示，其團(tuán)隊(duì)今年年初找權(quán)威機(jī)構(gòu)做過人臉識(shí)別相關(guān)的檢測，活體檢測、視頻攻擊等方面存在一定風(fēng)險(xiǎn)，雖然后臺(tái)算法升級(jí)會(huì)使防控效果有一定提升，類似換臉的攻擊威脅還是會(huì)一直存在。

不過，上述人士也強(qiáng)調(diào)，人們也沒有必要太過擔(dān)憂，因?yàn)椤澳壳霸谑謾C(jī)銀行應(yīng)用人臉識(shí)別是作為輔助認(rèn)證，要輔以短信等其他認(rèn)證工具。小額支付領(lǐng)域風(fēng)險(xiǎn)較小，強(qiáng)調(diào)便捷，在有相關(guān)賠付保障情況下采取人臉識(shí)別問題應(yīng)該也不大”。

據(jù)了解，“刷臉支付”采用的是3D人臉識(shí)別技術(shù)，在進(jìn)行人臉識(shí)別前，也會(huì)通過軟硬件結(jié)合的方式進(jìn)行檢測，來判斷采集到的人臉是不是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。

“AI換臉”已形成黑色產(chǎn)業(yè)鏈

有網(wǎng)友表示，ZAO這次之所以引起如此大的關(guān)注，是因?yàn)橐酝膿Q臉視頻，對(duì)技術(shù)有著比較高的門檻要求，而ZAO一下子把門檻降到了最低，普通手機(jī)用戶都可以玩了。

其實(shí)，這背后還有一個(gè)難以否認(rèn)的事實(shí)是——目前，“AI換臉”已經(jīng)形成一個(gè)非法牟利的地下黑色產(chǎn)業(yè)鏈。

此前《新京報(bào)》就有報(bào)道稱，互聯(lián)網(wǎng)上大量出現(xiàn)通過“AI換臉”實(shí)現(xiàn)的由知名女藝人“主演”的不雅視頻，在百度貼吧、閑魚等主要網(wǎng)絡(luò)平臺(tái)均有出售。

而據(jù)“智東西”此前報(bào)道，目前AI換臉黑產(chǎn)已經(jīng)形成了完整的產(chǎn)業(yè)鏈，從下游成品情色視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產(chǎn)業(yè)鏈產(chǎn)品和售后服務(wù)。

根據(jù)鋅刻度記者最新了解的情況來看，這種情況并未得到好轉(zhuǎn)。比如，在瀏覽器搜索“換臉教程”，有多個(gè)教程詳述制作細(xì)節(jié)，足夠教會(huì)用戶如何使用“換臉”技術(shù)；在淘寶、閑魚等平臺(tái)搜索“換臉”，大部分商家顯示可售賣成品照片及提供定制服務(wù)，部分商家還售賣軟件和教程；至于在deepfake吧里，則可以找到明顯帶著暗示性字眼的資源帖。

這些不法商家之所以如此明目張膽，與早前監(jiān)管的缺失不無關(guān)系。值得慶幸的是，相關(guān)監(jiān)管部門已經(jīng)注意到了“AI換臉”技術(shù)帶來的危害性。

今年4月，民法典人格權(quán)編草案和物權(quán)編草案的二審稿新增了這樣一條規(guī)定：任何組織或者個(gè)人，不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。

國家網(wǎng)信辦會(huì)同有關(guān)部門在5月底發(fā)布的《數(shù)據(jù)安全管理辦法（征求意見稿）》中也提到，“網(wǎng)絡(luò)運(yùn)營者利用大數(shù)據(jù)、人工智能等技術(shù)自動(dòng)合成新聞、博文、帖子、評(píng)論等信息，應(yīng)以明顯方式標(biāo)明“合成”字樣；不得以謀取利益或損害他人利益為目的自動(dòng)合成信息?！?/p>

但由于人工智能技術(shù)所具有的高度的不確定性、創(chuàng)新性和復(fù)雜性，面對(duì)千變?nèi)f化的應(yīng)用場景，目前想要所有亂象得到根治也絕非易事。

畢竟技術(shù)本無罪，全看使用技術(shù)的人想拿它做什么。目前來看，更重要的是相關(guān)AI企業(yè)應(yīng)該堅(jiān)守自身底線。著名學(xué)者吳伯凡就認(rèn)為，科技本身是不能向善的，應(yīng)該是讓科技向善，人在使用技術(shù)的時(shí)候一定要有初心，讓科技向善。