人工智能：反詐新利器
2023-11-21 01:50:37史佳慶
瞭望東方周刊 2023年23期
史佳慶
生成式人工智能內(nèi)容檢測(cè)平臺(tái)DeepReal，可鑒別AI 換聲、AI 換臉等偽造內(nèi)容
據(jù)新加坡8頻道11月1日?qǐng)?bào)道，印尼政府部門(mén)日前專門(mén)澄清了一段印尼總統(tǒng)佐科“說(shuō)中文”的視頻，稱其是深度偽造視頻。
網(wǎng)絡(luò)上的信息來(lái)源眾多，魚(yú)龍混雜，真假難辨，人工智能會(huì)如何檢測(cè)網(wǎng)絡(luò)虛假信息？
近日，國(guó)家金融監(jiān)督管理總局北京監(jiān)管局提示了三類(lèi)新型騙局：校園貸款連環(huán)套、“AI 換臉”和冒充監(jiān)管行騙，并發(fā)布風(fēng)險(xiǎn)提示，樹(shù)立反詐防騙意識(shí)，謹(jǐn)防新型欺詐手段，提高打假維權(quán)本領(lǐng)，守護(hù)財(cái)產(chǎn)安全。
在全球化時(shí)代，社交媒體成了滋生虛假信息的溫床，憑借一段原始語(yǔ)音、一張?jiān)紙D片，犯罪分子就可以編造出一段真假難辨的謠言。
2023年10月11日，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)官網(wǎng)發(fā)布《生成式人工智能服務(wù)安全基本要求（征求意見(jiàn)稿）》，這是國(guó)內(nèi)首個(gè)專門(mén)面向生成式AI安全領(lǐng)域的規(guī)范意見(jiàn)稿，也是對(duì)2023年7月推出的《生成式人工智能服務(wù)管理暫行辦法》的支撐。
“隨著技術(shù)的發(fā)展，生成式人工智能可以低成本快速制作以假亂真的視頻和畫(huà)面，推翻了人們眼見(jiàn)為實(shí)的傳統(tǒng)認(rèn)知。”北京瑞萊智慧科技有限公司聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪告訴《瞭望東方周刊》，道高一尺、魔高一丈，人工智能造假和人工智能打假將是一個(gè)持續(xù)攻防迭代的過(guò)程。
金融詐騙多發(fā)
不法分子利用人工智能技術(shù)進(jìn)行違法犯罪活動(dòng)，給網(wǎng)絡(luò)安全帶來(lái)了嚴(yán)峻挑戰(zhàn)。
2023年9月，江蘇省昆山市市民王先生接到公安局反詐中心96110的來(lái)電，當(dāng)時(shí)他因?yàn)樽錾庑枰Y金，正在某貸款A(yù)pp上填寫(xiě)資料。接完電話，他立即打消了從網(wǎng)絡(luò)平臺(tái)貸款的念頭。電話那頭及時(shí)勸住他的警官，正是AI反詐民警“鹿小安”。
據(jù)了解，通過(guò)大數(shù)據(jù)智能分析，AI民警可以快速識(shí)別正在進(jìn)行的疑似詐騙行為，形成預(yù)警信息推送給一線反詐民警。這位AI民警可以根據(jù)上下文和市民進(jìn)行有效溝通，其“聰明程度”不亞于人工電話員，但撥打效率卻大大提升。目前，“鹿小安”的數(shù)據(jù)庫(kù)已經(jīng)深度打磨各類(lèi)精準(zhǔn)反詐話術(shù)，可做到反詐場(chǎng)景全覆蓋。
在這個(gè)日益數(shù)字化的時(shí)代，人們?cè)诰W(wǎng)絡(luò)上的活動(dòng)越來(lái)越頻繁，幾乎每個(gè)人每天都在生成大量的數(shù)字化信息。這為詐騙者提供了廣闊的操作空間，他們可以利用網(wǎng)絡(luò)平臺(tái)，配合人工智能技術(shù)，進(jìn)行大規(guī)模、精準(zhǔn)的詐騙行為。而金融，就是詐騙犯罪的重災(zāi)區(qū)。
對(duì)此，蕭子豪表示，北京瑞萊智慧科技有限公司研發(fā)的人臉AI安全防火墻RealGuard，能夠在金融和政務(wù)等行業(yè)應(yīng)用場(chǎng)景中，幫助系統(tǒng)有效防范以AIGC（Artificial Intelligence Generated Content，即人工智能生成內(nèi)容）換臉為首的各類(lèi)新型人臉攻擊，比如對(duì)抗樣本攻擊、深度偽造換臉、照片活化等，能夠?qū)崟r(shí)發(fā)現(xiàn)惡意人臉圖像，同時(shí)支持移動(dòng)端安全風(fēng)險(xiǎn)監(jiān)測(cè)。
據(jù)介紹，線上銀行的人臉認(rèn)證被破解后，常被用于非法轉(zhuǎn)賬等違法犯罪行為。
“而RealGuard可廣泛適用于采用人臉識(shí)別系統(tǒng)的全部場(chǎng)景，如遠(yuǎn)程銀行開(kāi)戶、身份核驗(yàn)、刷臉支付等，能夠?qū)Ξ?dāng)前業(yè)內(nèi)基于開(kāi)源或自研的人臉識(shí)別算法做安全補(bǔ)充，精準(zhǔn)識(shí)別新型人臉識(shí)別攻擊手段，彌補(bǔ)早期人工智能算法系統(tǒng)存在的安全問(wèn)題?！笔捵雍勒f(shuō)。
目前，RealGuard已在金融、政務(wù)、互聯(lián)網(wǎng)等行業(yè)眾多頭部企業(yè)落地應(yīng)用，為人臉識(shí)別筑牢安全防線，及時(shí)跟蹤黑產(chǎn)攻擊動(dòng)態(tài)，幫助用戶應(yīng)對(duì)各類(lèi)安全威脅。
例如，在某地區(qū)政務(wù)相關(guān)的民生應(yīng)用程序中，該人臉AI安全防火墻每天都對(duì)50萬(wàn)次人臉識(shí)別校驗(yàn)進(jìn)行防護(hù)，半年來(lái)有效攔截惡意換臉攻擊數(shù)萬(wàn)條，阻斷了多起冒名頂替的工商注冊(cè)、市場(chǎng)監(jiān)督、信用服務(wù)等多種線上人臉身份驗(yàn)證的風(fēng)險(xiǎn)。
警惕“AI詐騙潮”
2019年，全球首例AI詐騙案發(fā)生在英國(guó)，一名詐騙者利用先進(jìn)的AI語(yǔ)音模仿軟件，假扮公司高層，成功騙取了一家英國(guó)能源公司總經(jīng)理的22萬(wàn)歐元。
隨著AI技術(shù)加速迭代，涉詐風(fēng)險(xiǎn)也在積聚。
2023年5月8日，內(nèi)蒙古包頭警方通報(bào)一起利用AI實(shí)施詐騙的案件，福州市某公司法定代表人郭先生在使用微信與好友視頻聊天的短短10分鐘內(nèi)被騙取了高達(dá)430萬(wàn)元。據(jù)通報(bào)，不法分子通過(guò)AI換臉和擬聲技術(shù)，佯裝熟人實(shí)施詐騙。
警惕AI 換臉詐騙短片視頻截圖（圖片源自北京市公安局西城分局）
2022 年10 月22 日， 北京地鐵一號(hào)線，反電信網(wǎng)絡(luò)詐騙專用號(hào)碼96110 的公益宣傳廣告
該案披露后，不少報(bào)道稱需警惕“AI詐騙潮”，并曝光多起類(lèi)似案件。如江蘇常州的小劉被騙子冒充其同學(xué)發(fā)語(yǔ)音、打視頻電話，小劉看到視頻后信以為真，“借”了6000元給騙子。
這些駭人聽(tīng)聞的案例揭示了人工智能生成虛假信息所潛在的巨大社會(huì)風(fēng)險(xiǎn)，同時(shí)也讓人們對(duì)人工智能軟件被用于各類(lèi)犯罪活動(dòng)的可能性深感憂慮。
據(jù)統(tǒng)計(jì)，新浪微博在2022年處理的虛假信息超過(guò)8萬(wàn)條。2023年以來(lái)，已有“中國(guó)電科員工不滿強(qiáng)制加班‘怒懟領(lǐng)導(dǎo)”等虛假信息在網(wǎng)絡(luò)上引起熱議。謠言層出不窮，單靠人力排查效率明顯不足。
2023年6月，紹興上虞區(qū)警方發(fā)現(xiàn)有網(wǎng)民發(fā)布了關(guān)于上虞工業(yè)園區(qū)發(fā)生火災(zāi)的視頻，瀏覽量在短時(shí)間內(nèi)迅速上升。視頻中，上虞區(qū)一工業(yè)園區(qū)內(nèi)火勢(shì)猛烈，整個(gè)園區(qū)被濃煙覆蓋，現(xiàn)場(chǎng)不時(shí)傳出爆炸聲，場(chǎng)面驚心動(dòng)魄。
民警核查發(fā)現(xiàn)，視頻中的建筑、森林大火場(chǎng)景，并非該工業(yè)園真實(shí)場(chǎng)景，并且疑似源自其他視頻。經(jīng)分析，民警判斷該視頻是利用人工智能合成技術(shù)，將網(wǎng)絡(luò)上多段不同視頻剪輯拼接而成。警方經(jīng)偵查，認(rèn)定某網(wǎng)絡(luò)科技公司員工有較大作案嫌疑，立刻赴該公司所在地抓獲包括湯某在內(nèi)的3名犯罪嫌疑人。
上虞區(qū)分局民警沈林豐介紹，犯罪嫌疑人首先在網(wǎng)上搜集熱門(mén)話題，通過(guò)生成式人工智能技術(shù)自動(dòng)生成腳本，并在網(wǎng)上抓取相關(guān)視頻片段，利用AI軟件合成完整視頻，配上音樂(lè)、字幕。不到一分鐘，一段虛假視頻便“新鮮出爐”。
對(duì)此，北京市天元律師事務(wù)所合伙人楊虎城表示，老話說(shuō)“眼見(jiàn)為實(shí)”，但今后眼睛看到的也不一定是真實(shí)的。未來(lái)，涉及人工智能合成技術(shù)的詐騙、敲詐勒索等違法犯罪和肖像、名譽(yù)等民事侵權(quán)問(wèn)題，值得防范。
AI辨真假
隨著AIGC領(lǐng)域各種技術(shù)的開(kāi)源，生成式人工智能走進(jìn)各行各業(yè)的場(chǎng)景。當(dāng)人們的肉眼無(wú)法分辨音視圖文等內(nèi)容是否由人工智能生成時(shí)，人工智能打假平臺(tái)可以將其識(shí)別。
究其原理，生成式大模型本質(zhì)上依托于一個(gè)參數(shù)量巨大的神經(jīng)網(wǎng)絡(luò)模型，在訓(xùn)練數(shù)據(jù)的過(guò)程中進(jìn)行模型的推理。
“我們?cè)谟?xùn)練模型時(shí)，會(huì)將一些數(shù)據(jù)通過(guò)生成的方式為其打上標(biāo)簽，告訴它哪些數(shù)據(jù)是真實(shí)的數(shù)據(jù)，哪些是假的數(shù)據(jù)。通過(guò)這種方式，我們可以讓模型進(jìn)行直接的輸出，判斷真假。”蕭子豪舉了一個(gè)例子：偽造的圖片往往會(huì)在熱力圖上露出馬腳——真實(shí)圖片的熱力圖無(wú)熱力區(qū)域，而偽造圖片會(huì)顯示有熱力區(qū)域。
2023年1月，在中國(guó)信息協(xié)會(huì)區(qū)塊鏈專業(yè)委員會(huì)的指導(dǎo)下，SAFEIS安全研究院發(fā)布《2022年區(qū)塊鏈安全白皮書(shū)》，顯示2022年區(qū)塊鏈安全事件涉事總金額超過(guò)753億美元。
“ 如果遇到疑似AI 換臉詐騙的情況，可以在視頻時(shí)有意識(shí)地引導(dǎo)對(duì)方做一些動(dòng)作，如：大幅度地?fù)u頭或張嘴。如果騙子技術(shù)手段較弱，那么我們就可能發(fā)現(xiàn)對(duì)方面部邊緣或者牙齒的瑕疵，從而識(shí)別出AI 換臉。不過(guò)，這個(gè)方法對(duì)于識(shí)別出‘高水平的不法分子，還存在難度?！?/blockquote>
區(qū)塊鏈技術(shù)背景下，虛擬貨幣去中心化、匿名性、交易便捷等特性及反追蹤技術(shù)的不斷升級(jí)，增加了執(zhí)法機(jī)關(guān)的辦案難度。如何快速識(shí)別嫌疑人真實(shí)身份、迅速追蹤資金去向、極速跟上資金轉(zhuǎn)移速度，是辦案過(guò)程中亟待解決的幾個(gè)核心難題。
“將人工智能引擎與鏈上大數(shù)據(jù)分析技術(shù)結(jié)合，應(yīng)用到案件追蹤系統(tǒng)中，能夠極大提高案件的偵破速度。案件追蹤系統(tǒng)可以自動(dòng)分析和提取海量鏈上數(shù)據(jù)，將復(fù)雜的資金流向以可視化的網(wǎng)狀圖和樹(shù)狀圖呈現(xiàn)出來(lái)，使執(zhí)法人員快速掌握案件的關(guān)鍵信息?！北本┐髷?shù)據(jù)研究院產(chǎn)業(yè)發(fā)展部主任蔡曉告訴《瞭望東方周刊》。
據(jù)蔡曉介紹，案件追蹤系統(tǒng)通過(guò)深度學(xué)習(xí)、分析海量案件模型，可以發(fā)現(xiàn)人工難以察覺(jué)的規(guī)律，再借助資深業(yè)務(wù)知識(shí)，可協(xié)助偵查人員準(zhǔn)確判斷案情并鎖定犯罪目標(biāo)，找出最終的鏈上地址并識(shí)別該地址的交易場(chǎng)所。
目前，深度偽造技術(shù)也在不斷自我優(yōu)化、升級(jí)迭代，生成的聲音越來(lái)越自然流暢，視頻也越來(lái)越逼真，當(dāng)我們無(wú)法及時(shí)使用打假平臺(tái)辨別真?zhèn)螘r(shí)，可以怎么辦？
蕭子豪給出了妙招：“如果遇到疑似AI換臉詐騙的情況，可以在視頻時(shí)有意識(shí)地引導(dǎo)對(duì)方做一些動(dòng)作，如：大幅度地?fù)u頭或張嘴。如果騙子技術(shù)手段較弱，那么我們就可能發(fā)現(xiàn)對(duì)方面部邊緣或者牙齒的瑕疵，從而識(shí)別出AI換臉。不過(guò)，這個(gè)方法對(duì)于識(shí)別出‘高水平的不法分子，還存在難度?！?/p>
近年來(lái)，生成式人工智能技術(shù)快速發(fā)展，為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí)，也產(chǎn)生了傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見(jiàn)歧視等問(wèn)題。如何統(tǒng)籌生成式人工智能的發(fā)展和安全，引起各方關(guān)注。
2023年7月10日，國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家發(fā)展和改革委員會(huì)等七部門(mén)聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行。出臺(tái)《辦法》，既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。
隨著大模型應(yīng)用越來(lái)越多，安全漏洞也在不斷增加。蕭子豪表示，人工智能有三個(gè)維度的風(fēng)險(xiǎn)：首先是算法本身；其次是數(shù)據(jù)泄露；第三是應(yīng)用的問(wèn)題。確保算法安全、數(shù)據(jù)安全，以及在應(yīng)用中進(jìn)行防御和檢測(cè)，變得尤為重要。
同樣重要的還有，在人工智能逐漸成為人們生活和工作中不可或缺的部分之際，防止AI技術(shù)濫用。
“為防止AI技術(shù)濫用，所有的人工智能軟件上線之前，都要通過(guò)嚴(yán)格的審查，才能安全上線；上線之后，相關(guān)機(jī)構(gòu)也要對(duì)其運(yùn)行情況進(jìn)行不定時(shí)審查。”蕭子豪告訴《瞭望東方周刊》，目前，我國(guó)正在推進(jìn)審查工作。
事實(shí)上，關(guān)于如何確保人工智能技術(shù)的健康發(fā)展和應(yīng)用，眾多企業(yè)、研究機(jī)構(gòu)以及監(jiān)管者也在努力探索解決方案。
清華大學(xué)人工智能?chē)?guó)際治理研究院副院長(zhǎng)梁正表示，對(duì)公司來(lái)講，最佳解決方案是在產(chǎn)品上標(biāo)注“識(shí)別標(biāo)記”，比如數(shù)字水印，核心是對(duì)平臺(tái)產(chǎn)生的內(nèi)容做標(biāo)注——首先，可以識(shí)別這條內(nèi)容是人工智能生成的、并不是人類(lèi)創(chuàng)作的；其次，可以識(shí)別這條內(nèi)容是在哪個(gè)平臺(tái)生成的，由哪個(gè)用戶生成并傳播出去的。這樣，有清晰的追溯鏈條，就能更清晰地定義責(zé)任人。
據(jù)介紹，目前，OpenAI已經(jīng)這樣做了，推出了AI識(shí)別的工具。
中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)監(jiān)管支撐部主任郝智超建議，人工智能技術(shù)發(fā)展需要相關(guān)法律法規(guī)來(lái)劃紅線、踩剎車(chē)，需要進(jìn)一步加強(qiáng)對(duì)個(gè)人隱私數(shù)據(jù)泄露問(wèn)題的關(guān)注，明確信息監(jiān)管紅線，對(duì)人工智能技術(shù)的研發(fā)、傳播、使用做到有規(guī)可循，并根據(jù)技術(shù)發(fā)展實(shí)際情況，及時(shí)完善對(duì)技術(shù)服務(wù)商行為的規(guī)范引導(dǎo)。
“技術(shù)是一把雙刃劍。如何控制技術(shù)向善除惡，是一個(gè)需要不斷學(xué)習(xí)的課題?！笔捵雍勒f(shuō)。
（本刊實(shí)習(xí)生傅熙雯對(duì)此文亦有貢獻(xiàn)）
猜你喜歡反詐公益廣告 法人(2023年9期)2023-12-01 14:50:14“反詐”雞蛋 為何上熱搜 今日農(nóng)業(yè)(2021年12期)2021-11-28 15:49:26“反詐宣講員被騙18萬(wàn)元”更具警示性 文萃報(bào)·周二版(2021年22期)2021-07-19 02:41:42“反詐宣講員被騙”更具警示性 人民周刊(2021年11期)2021-07-09 08:28:382019：人工智能 商界(2019年12期)2019-01-03 06:59:05人工智能與就業(yè) IT經(jīng)理世界(2018年20期)2018-10-24 02:38:24數(shù)讀人工智能 小康(2017年16期)2017-06-07 09:00:59合同詐騙 中國(guó)防偽報(bào)道(2016年10期)2016-11-21 06:39:02電信詐騙 中國(guó)防偽報(bào)道(2016年10期)2016-11-21 06:39:00下一幕，人工智能！ 南風(fēng)窗(2016年19期)2016-09-21 16:51:29
