ChatGPT應(yīng)用于電信網(wǎng)絡(luò)詐騙的風(fēng)險(xiǎn)預(yù)防

□ 文 張 彥 劉宏斌

0 引言

當(dāng)前科技飛速發(fā)展，人工智能產(chǎn)品的“智能化”、“擬人化”特征更加突出，隨著第一代生成式人工智能產(chǎn)品ChatGPT出現(xiàn)，相關(guān)智能產(chǎn)品Youchat、Rytr等也隨之出現(xiàn)。ChatGPT作為新興人工智能產(chǎn)品，是美國(guó)openAI公司發(fā)布的強(qiáng)大人工智能產(chǎn)品，全稱為Chat Generative Pre-trained Transformer（生成式語(yǔ)音預(yù)訓(xùn)轉(zhuǎn)換模型）。ChatGPT使用Transformer結(jié)構(gòu)與自回歸+Prompting的訓(xùn)練模式，擁有廣闊數(shù)據(jù)庫(kù)、成熟運(yùn)算模型、具備精確定位用戶需求和快速分析輸出信息的強(qiáng)大能力。

在促進(jìn)生產(chǎn)效率提高、激勵(lì)社會(huì)創(chuàng)新的同時(shí)，ChatGPT 存在幫助電信網(wǎng)絡(luò)詐騙的可能性，例如：非法竊取及利用用戶信息、輸出虛假信息、更新詐騙手段。電信網(wǎng)絡(luò)詐騙具有高科技性，且往往將智能性、科技性產(chǎn)品技術(shù)應(yīng)用于電信網(wǎng)絡(luò)詐騙。以ChatGPT 為代表的人工智能技術(shù)更是提升了詐騙犯罪的智能化和識(shí)別難度，使詐騙犯罪更易獲得潛在受害人的信任，為電信網(wǎng)絡(luò)詐騙犯罪滋生新的發(fā)展環(huán)境、提供新的實(shí)施手段。2023 年5月，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI 技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙的案件。為此，應(yīng)重視研究ChatGPT 被應(yīng)用于電信網(wǎng)絡(luò)詐騙的可能，進(jìn)而有效預(yù)防和消除潛在風(fēng)險(xiǎn)。

1 ChatGPT在應(yīng)用過(guò)程中的風(fēng)險(xiǎn)漏洞

ChatGPT的出現(xiàn)代表著人工智能技術(shù)從行業(yè)專用發(fā)展至社會(huì)通用，應(yīng)用領(lǐng)域前所未有的廣闊。其在收錄信息、語(yǔ)言訓(xùn)練、生成內(nèi)容等方面的優(yōu)良表現(xiàn)在為社會(huì)活動(dòng)提供便利的同時(shí)，也暴露其存在的風(fēng)險(xiǎn)與弊端。

1.1 存在泄露用戶隱私的漏洞

ChatGPT 的內(nèi)容生成是通過(guò)學(xué)習(xí)大量的文本語(yǔ)料庫(kù)實(shí)現(xiàn)模型訓(xùn)練，最終生成最優(yōu)文本。在生成信息之前，其學(xué)習(xí)數(shù)據(jù)來(lái)源于廣闊的互聯(lián)網(wǎng)。在互聯(lián)網(wǎng)信息池當(dāng)中，信息種類繁多，良莠不齊，ChatGPT無(wú)法保證其學(xué)習(xí)數(shù)據(jù)的質(zhì)量，也就無(wú)法保證其信息來(lái)源的安全性。2023 年3月24號(hào)，openAI官網(wǎng)發(fā)布通知表明ChatGPT 泄露用戶隱私。這表明ChatGPT 在用戶信息、隱私保護(hù)方面也存在風(fēng)險(xiǎn)，存在隱私漏洞，并未有效保護(hù)其數(shù)據(jù)庫(kù)內(nèi)信息。

此外，2023年5月，北京市通信管理局官網(wǎng)最新公開(kāi)通報(bào)了27款未整改或整改不到位的應(yīng)用軟件。此類應(yīng)用軟件代表互聯(lián)網(wǎng)應(yīng)用中存在“違反必要原則收集個(gè)人信息”以及“未明示收集使用個(gè)人信息的目的、方式和范圍”等侵害用戶權(quán)益和安全隱患類問(wèn)題。

1.2 存在惡意使用或?yàn)E用風(fēng)險(xiǎn)

ChatGPT通過(guò)預(yù)訓(xùn)練語(yǔ)言模型生成信息，其輸出的信息具有一定的可信度，但是無(wú)法完全避免輸出錯(cuò)誤信息。在使用ChatGPT的過(guò)程中，使用者與ChatGPT進(jìn)行的溝通對(duì)話也會(huì)被作為訓(xùn)練素材納入ChatGPT的信息庫(kù)。如若使用者具有惡意傾向，則會(huì)通過(guò)ChatGPT輸出虛假、惡意信息，隨著這些虛假、惡意信息生成比例逐漸上升，則會(huì)加劇公眾對(duì)于社會(huì)中傳播的信息的不信任，影響正常的社會(huì)交流。

目前ChatGPT的普遍應(yīng)用場(chǎng)景為學(xué)生使用ChatGPT輸出課程作業(yè)或者在考試中作弊、研究人員使用ChatGPT實(shí)施學(xué)術(shù)不端行為。ChatGPT在這些場(chǎng)景中的應(yīng)用已經(jīng)對(duì)教育、醫(yī)療、科研等領(lǐng)域構(gòu)成威脅與破壞，在學(xué)術(shù)誠(chéng)信、數(shù)據(jù)真實(shí)性、以及個(gè)人學(xué)術(shù)獨(dú)創(chuàng)性等方面存在社會(huì)風(fēng)險(xiǎn)。

2 利用ChatGPT實(shí)施電信網(wǎng)絡(luò)詐騙的主要誘因

ChatGPT本質(zhì)上是一種對(duì)話型機(jī)器人模型，作為一種內(nèi)容生成式AI產(chǎn)品（AIGC Products），可以智能生成如代碼、文字、圖像等內(nèi)容，具有超強(qiáng)的信息檢索、自然語(yǔ)音處理、文本生成等能力。目前已經(jīng)出現(xiàn)利用人工智能技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙的案例，從風(fēng)險(xiǎn)預(yù)防的角度出發(fā)，需要對(duì)利用ChatGPT 進(jìn)行電信網(wǎng)絡(luò)詐騙的誘因進(jìn)行分析，為進(jìn)而開(kāi)展針對(duì)性的防控工作提供必要基礎(chǔ)。

2.1 便于詐騙團(tuán)體收集信息

在信息高度共享、快速傳播的互聯(lián)網(wǎng)時(shí)代，社會(huì)公眾在使用網(wǎng)絡(luò)媒體過(guò)程中的進(jìn)行搜索、注冊(cè)登錄、交流溝通、輸出信息等行為，均會(huì)在互聯(lián)網(wǎng)中“留痕”，使自己的身份、財(cái)產(chǎn)及社會(huì)關(guān)系等信息散落在互聯(lián)網(wǎng)廣闊的信息池當(dāng)中。對(duì)于公眾無(wú)意泄露的自身信息，詐騙團(tuán)體在進(jìn)行詐騙之前需要對(duì)其進(jìn)行收集，完成犯罪預(yù)備。傳統(tǒng)電信網(wǎng)絡(luò)詐騙犯罪主要通過(guò)人工搜索以及購(gòu)買(mǎi)的方式來(lái)非法收集公眾信息，ChatGPT的出現(xiàn)為詐騙團(tuán)體非法收集公眾信息提供便利。

2.2 便于詐騙團(tuán)體“虛構(gòu)事實(shí)”

“虛構(gòu)事實(shí)”是電信網(wǎng)絡(luò)詐騙犯罪的關(guān)鍵環(huán)節(jié)，指的是詐騙團(tuán)體獲取潛在受害人信任的方法?！疤摌?gòu)事實(shí)”的能力水平直接影響著電信網(wǎng)絡(luò)詐騙犯罪的辨別與打擊難度。傳統(tǒng)的電信網(wǎng)絡(luò)詐騙中受害人對(duì)詐騙團(tuán)體產(chǎn)生信任的基礎(chǔ)是雙方處于不見(jiàn)面、不交談的非接觸狀態(tài)，此種信任是在真實(shí)性不高的狀態(tài)下的信任。以ChatGPT 為代表的人工智能技術(shù)能夠“消除”詐騙團(tuán)體與受害人的距離和不真實(shí)感，編造出“真實(shí)”的詐騙環(huán)境，幫助詐騙團(tuán)體操縱受害人的心理，從而獲取被害人的信任。

2.3 便于詐騙團(tuán)體輸出虛假信息

精準(zhǔn)定位受害人的特定需求，是成功實(shí)施電信網(wǎng)絡(luò)詐騙的必要條件。ChatGPT可根據(jù)詐騙團(tuán)體向其提供的受害人的生活環(huán)境、身份信息以及社會(huì)關(guān)系，經(jīng)過(guò)運(yùn)算對(duì)受害人的具體特征進(jìn)行畫(huà)像，進(jìn)而精準(zhǔn)定位其心理或物質(zhì)需求，針對(duì)特定需求開(kāi)展針對(duì)性詐騙。

3 對(duì)利用ChatGPT進(jìn)行電信網(wǎng)絡(luò)詐騙的防控措施

電信網(wǎng)絡(luò)詐騙擅于應(yīng)用新型人工智能產(chǎn)品、數(shù)據(jù)處理技術(shù)，ChatGPT的出現(xiàn)提示著我們對(duì)于電信網(wǎng)絡(luò)詐騙的防控，需要采取新的應(yīng)對(duì)措施?？梢越Y(jié)合ChatGPT在電信網(wǎng)絡(luò)詐騙中應(yīng)用的角度，從法律法規(guī)、應(yīng)用監(jiān)管、規(guī)范使用、保護(hù)受害人等角度來(lái)思考防控對(duì)策。

3.1 嚴(yán)格執(zhí)行國(guó)家法律

為防止ChatGPT 等新興生成類人工智能產(chǎn)品在當(dāng)前社會(huì)中的濫用，必須嚴(yán)格落實(shí)《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》。此外，2022 年11月，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，在法規(guī)制度方面對(duì)人工智能產(chǎn)品進(jìn)行規(guī)范，從基礎(chǔ)上避免人工智能產(chǎn)品被濫用。只有嚴(yán)格落實(shí)國(guó)家有關(guān)人工智能產(chǎn)品使用、信息保護(hù)等法律法規(guī)，確保法律的適用性、可執(zhí)行性和懲罰力度，才能從宏觀層面為ChatGPT 等生成式人工智能產(chǎn)品提供健康、廣闊的應(yīng)用環(huán)境，保證其發(fā)展的良好網(wǎng)絡(luò)生態(tài)。

3.2 從源頭規(guī)范ChatGPT的應(yīng)用

ChatGPT的開(kāi)發(fā)者與服務(wù)提供商應(yīng)當(dāng)提升對(duì)于用戶個(gè)人信息的保護(hù)力度，建立嚴(yán)格的數(shù)據(jù)隱私保護(hù)措施，采用加密技術(shù)保護(hù)用戶數(shù)據(jù)，并且在用戶數(shù)據(jù)的收集、存儲(chǔ)、傳輸?shù)拳h(huán)節(jié)設(shè)置安全措施來(lái)防止泄露用戶隱私或被詐騙團(tuán)體濫用；其次，應(yīng)當(dāng)嚴(yán)格審查數(shù)據(jù)來(lái)源，依法、嚴(yán)格、規(guī)范的對(duì)數(shù)據(jù)進(jìn)行分析預(yù)判，堅(jiān)決杜絕在數(shù)據(jù)庫(kù)中產(chǎn)生問(wèn)題信息；進(jìn)入語(yǔ)言信息庫(kù)的個(gè)人信息數(shù)據(jù)必須合法；互聯(lián)網(wǎng)時(shí)代，用戶信息處于公開(kāi)透明狀態(tài)，在信息傳播的過(guò)程中需要相關(guān)部門(mén)嚴(yán)格核查網(wǎng)絡(luò)數(shù)據(jù)的真?zhèn)涡?，以便于更好地從源頭遏制虛假信息的傳播。最后，對(duì)ChatGPT 輸出的內(nèi)容應(yīng)當(dāng)嚴(yán)格監(jiān)管，建立人工與機(jī)器的雙重監(jiān)管機(jī)制，對(duì)于其中違反法律或倫理道德、破壞公序良俗的信息進(jìn)行及時(shí)的識(shí)別與攔截。

3.3 加強(qiáng)個(gè)人信息保護(hù)

個(gè)人信息泄露是電信網(wǎng)絡(luò)詐騙犯罪的高發(fā)點(diǎn)，做好個(gè)人信息保護(hù)是防范電信網(wǎng)絡(luò)詐騙的重要基礎(chǔ)手段。ChatGPT的用戶必須提高個(gè)人信息安全意識(shí)，認(rèn)真了解已發(fā)生的利用人工智能技術(shù)施行詐騙案例，提高其保護(hù)隱私信息、辨別網(wǎng)絡(luò)信息、合法使用網(wǎng)絡(luò)的安全意識(shí)，從預(yù)防的角度降低受騙風(fēng)險(xiǎn)。對(duì)于目前出現(xiàn)的AI 換臉、AI 換聲等電信詐騙案件，應(yīng)當(dāng)仔細(xì)辨別，包括查找聲紋和面部信息的原始來(lái)源或可信任來(lái)源、檢驗(yàn)聲紋與面部信息的真實(shí)性等。

3.4 完善風(fēng)險(xiǎn)研判與防控機(jī)制

針對(duì)當(dāng)前電信網(wǎng)絡(luò)詐騙犯罪猖獗、被害人財(cái)產(chǎn)損失巨大的狀況以及人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙犯罪中的應(yīng)用趨勢(shì)，應(yīng)當(dāng)從風(fēng)險(xiǎn)預(yù)防的角度建立對(duì)電信網(wǎng)絡(luò)詐騙犯罪的打擊與長(zhǎng)遠(yuǎn)性預(yù)防機(jī)制，提升政府與公安機(jī)關(guān)應(yīng)對(duì)的主動(dòng)性、提升打擊犯罪的成功率。

3.4.1 公安機(jī)關(guān)利用人工智能技術(shù)進(jìn)行犯罪分析研判

為提升公安機(jī)關(guān)應(yīng)對(duì)電信網(wǎng)絡(luò)詐騙犯罪新趨勢(shì)的主動(dòng)性，公安機(jī)關(guān)可以利用人工智能技術(shù)來(lái)幫助鑒別與預(yù)測(cè)詐騙行為。

進(jìn)行犯罪數(shù)據(jù)收集與分析。收集大量的電信網(wǎng)絡(luò)詐騙案例，總結(jié)包括詐騙模式、應(yīng)用人工智能技術(shù)的類型與程度、受害者信息、詐騙金額等在內(nèi)的數(shù)據(jù)，對(duì)此類數(shù)據(jù)進(jìn)行分析和挖掘，識(shí)別詐騙模式及其關(guān)聯(lián)程度。

進(jìn)行特征提取。通過(guò)自然語(yǔ)言處理（NLP）技術(shù)對(duì)欺詐郵件、短信或社交媒體消息進(jìn)行文本分析和特征提取，對(duì)其中的關(guān)鍵詞、語(yǔ)法結(jié)構(gòu)、情感進(jìn)行分析和辨別，確立詐騙行為指標(biāo)，為建立訓(xùn)練模型做準(zhǔn)備。

建立模型訓(xùn)練并進(jìn)行分類。利用決策樹(shù)、邏輯回歸、支持向量機(jī)（SVM）等機(jī)器學(xué)習(xí)算法來(lái)對(duì)提取的特征進(jìn)行訓(xùn)練與分類，進(jìn)而結(jié)合詐騙行為指標(biāo)，建立分類模型，從而預(yù)測(cè)未來(lái)電信網(wǎng)絡(luò)詐騙案例發(fā)生的可能性及其風(fēng)險(xiǎn)等級(jí)。

運(yùn)用模型進(jìn)行實(shí)時(shí)監(jiān)測(cè)和反饋。將建立的AI 模型應(yīng)用于實(shí)時(shí)數(shù)據(jù)流，及時(shí)檢測(cè)和識(shí)別可能的電信網(wǎng)絡(luò)詐騙行為。在這個(gè)過(guò)程中，可以利用異常檢測(cè)算法，識(shí)別電信網(wǎng)絡(luò)交易中異常的交易金額、頻率或地理位置等信息，從而發(fā)現(xiàn)潛在的詐騙行為；在涉及圖像的詐騙案例中，可以利用計(jì)算機(jī)視覺(jué)技術(shù)檢測(cè)圖像的真實(shí)性和修改痕跡。例如，基于AI的圖像分析可以識(shí)別出AI 換臉等技術(shù)所生成的虛假圖像。通過(guò)這些持續(xù)的檢測(cè)和分析，可以及時(shí)發(fā)現(xiàn)新的詐騙模式和趨勢(shì)，并及時(shí)采取反制措施。

進(jìn)行強(qiáng)化學(xué)習(xí)。在電信網(wǎng)絡(luò)詐騙犯罪研判中，可以利用強(qiáng)化學(xué)習(xí)來(lái)模擬詐騙團(tuán)體的策略，并預(yù)測(cè)詐騙團(tuán)體可能采取的行動(dòng)。

3.4.2 建立對(duì)電信網(wǎng)絡(luò)詐騙犯罪的防控機(jī)制

針對(duì)應(yīng)用人工智能技術(shù)的電信網(wǎng)絡(luò)詐騙犯罪，公安機(jī)關(guān)與相關(guān)部門(mén)機(jī)構(gòu)應(yīng)當(dāng)加強(qiáng)協(xié)作、開(kāi)展信息共享，并且不斷進(jìn)行技術(shù)創(chuàng)新。對(duì)于涉及境外詐騙團(tuán)體的案件，還應(yīng)加強(qiáng)境外合作。

堅(jiān)持技術(shù)創(chuàng)新。開(kāi)發(fā)基于機(jī)器學(xué)習(xí)和人工智能的模型和算法，實(shí)時(shí)檢測(cè)可能發(fā)生的電信網(wǎng)絡(luò)詐騙行為并及時(shí)進(jìn)行技術(shù)阻攔。

堅(jiān)持?jǐn)?shù)據(jù)共享與分析。建立安全數(shù)據(jù)共享平臺(tái)，讓各部門(mén)可以共享電信網(wǎng)絡(luò)詐騙的相關(guān)數(shù)據(jù)，如詐騙模式、受害者信息和詐騙者行為等。通過(guò)數(shù)據(jù)分析和挖掘，發(fā)現(xiàn)新的詐騙模式和趨勢(shì)，并及時(shí)采取反制措施。

加強(qiáng)國(guó)際合作與刑事司法協(xié)助。對(duì)于處于境外的詐騙團(tuán)體，在尊重國(guó)家主權(quán)的前提下，建立以雙邊多邊協(xié)議為基礎(chǔ)建立電信網(wǎng)絡(luò)詐騙案件管轄權(quán)協(xié)商機(jī)制，建立更高效的國(guó)際警務(wù)合作機(jī)制。從而促進(jìn)信息共享、證據(jù)收集和嫌疑犯引渡，加大對(duì)境外詐騙團(tuán)體的打擊力度。

4 結(jié)束語(yǔ)

隨著社會(huì)經(jīng)濟(jì)及通信技術(shù)的高速發(fā)展，電信網(wǎng)絡(luò)詐騙犯罪已經(jīng)呈現(xiàn)了專業(yè)化、團(tuán)隊(duì)化現(xiàn)象，并且存在與人工智能等科技產(chǎn)品結(jié)合的趨勢(shì)。ChatGPT 在電信網(wǎng)絡(luò)詐騙犯罪中的應(yīng)用將會(huì)擴(kuò)大此類犯罪規(guī)模和影響范圍，其對(duì)現(xiàn)有社會(huì)治理、公共秩序、價(jià)值觀念、倫理道德也將帶來(lái)一系列的沖擊與挑戰(zhàn)。因此，應(yīng)當(dāng)加強(qiáng)風(fēng)險(xiǎn)預(yù)防，從而最大程度減少ChatGPT 對(duì)社會(huì)發(fā)展的不利影響。針對(duì)此類人工智能技術(shù)，需要全社會(huì)的支持、幫助和包容，各地方、各部門(mén)、各行業(yè)均應(yīng)展現(xiàn)出對(duì)ChatGPT的接納和承受力，助力ChatGPT內(nèi)在技術(shù)的革新發(fā)展和在實(shí)踐中的積極應(yīng)用，為其營(yíng)造良好的發(fā)展生態(tài)?！?/p>