提防利用“AI換臉”技術(shù)犯壞

李穎

點(diǎn)開直播間乍一看，賣貨的竟是當(dāng)紅女星。再定睛一看，“明星”其實(shí)是使用人工智能（AI）實(shí)時(shí)換臉技術(shù)的普通主播……近期，“AI換臉”的應(yīng)用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實(shí)施犯罪，“AI詐騙正在全國爆發(fā)”沖上微博熱搜。

揭秘“換臉”騙局

“雙刃劍”效應(yīng)明顯

張嘴、搖頭，攝像頭捕捉到人的動作后，屏幕上原本靜態(tài)的人像可以動起來，動作幅度和真人一致，還能眨眼和露齒微笑，仿真度頗高，幾分鐘內(nèi)就能生成一段視頻，臉還能被任意替換。這就是“AI換臉”技術(shù)。

據(jù)了解，“AI換臉”背后采用的是深度合成技術(shù)，利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告、醫(yī)療等諸多領(lǐng)域不斷深化應(yīng)用，有較大的技術(shù)價(jià)值和商用潛力，不過也存在著一定的安全隱患，“雙刃劍”效應(yīng)明顯。

全聯(lián)并購公會信用管理委員會專家安光勇對表示，目前AI換臉技術(shù)主要通過深度學(xué)習(xí)和計(jì)算機(jī)視覺技術(shù)實(shí)現(xiàn)。它使用了深度神經(jīng)網(wǎng)絡(luò)來分析和識別視頻中的人臉，并將一個(gè)人的臉部特征映射到另一個(gè)人的臉上。

在微信視頻中，犯罪分子可能會通過發(fā)送特制的視頻或使用特定的換臉應(yīng)用程序，將自己的臉替換為受害者的臉，以獲取對方的信任并實(shí)施詐騙行為。

AI技術(shù)存在濫用風(fēng)險(xiǎn)

為規(guī)范人工智能發(fā)展，去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式發(fā)布，明確了合成數(shù)據(jù)和技術(shù)管理規(guī)范。其中提到：深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。

近期，也有平臺和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺將嚴(yán)格處罰。

對于個(gè)人而言，除了在形形色色的“明星臉”中保持清醒，避免陷入虛假宣傳，更重要的是面對花樣翻新的AI詐騙，必須保持防范意識。

中國質(zhì)量萬里行提醒，涉及資金轉(zhuǎn)賬時(shí)，公眾要提高安全意識，通過見面、電話等多種方式核驗(yàn)對方身份；可將轉(zhuǎn)賬到賬時(shí)間設(shè)定為“24小時(shí)到賬”，以預(yù)留處理時(shí)間；針對支付軟件以及網(wǎng)銀軟件，要使用多種登錄及轉(zhuǎn)賬驗(yàn)證方式。

針對花樣翻新的智能AI詐騙，要提高防范意識，謹(jǐn)慎使用各類“AI換臉”“AI變聲”軟件；加強(qiáng)個(gè)人信息保護(hù)意識，避免注冊不需要的賬號、填寫不必要的個(gè)人信息，以防個(gè)人信息泄露；對不斷更新的網(wǎng)絡(luò)技術(shù)和詐騙方式，堅(jiān)持不輕信、不透露、不點(diǎn)擊、不轉(zhuǎn)賬。

如不慎被騙或遇可疑情形，請注意保護(hù)證據(jù)，并立即撥打96110報(bào)警。