在享受ChatGPT的便利時(shí)，也要看到其挑戰(zhàn)

蘭順正：遠(yuǎn)望智庫(kù)特約研究員、中國(guó)指揮與控制學(xué)會(huì)會(huì)員

近段時(shí)間，人工智能聊天工具ChatGPT在全球范圍內(nèi)掀起一陣“颶風(fēng)”。ChatGPT全名為Chat Generative Pre-trained Transformer（“聊天生成式預(yù)訓(xùn)練轉(zhuǎn)換器”），是美國(guó)OpenAI公司研發(fā)的聊天機(jī)器人程序，于2022年11月30日發(fā)布，在短短兩個(gè)月內(nèi)便獲得1億月度活躍用戶，成為史上增長(zhǎng)最快的面向消費(fèi)者的應(yīng)用程序。

ChatGPT是一種專注于對(duì)話生成的語(yǔ)言模型，能夠根據(jù)用戶的文本輸入，產(chǎn)生相應(yīng)的智能回答，這個(gè)回答可以是簡(jiǎn)短的詞語(yǔ)，也可以是長(zhǎng)篇大論。通過(guò)學(xué)習(xí)大量現(xiàn)成文本和對(duì)話集合（例如Wiki），ChatGPT支持包括英文、中文在內(nèi)的多種語(yǔ)言，能像人類(lèi)那樣即時(shí)對(duì)話，流暢地回答各種問(wèn)題，寫(xiě)詩(shī)寫(xiě)故事，甚至是撰寫(xiě)商業(yè)計(jì)劃書(shū)和行業(yè)分析。

ChatGPT之所以如此“神奇”，一個(gè)重要原因是其背后的AI模型采用了獨(dú)特的訓(xùn)練過(guò)程，就是讓AI不斷進(jìn)行填詞考試，輸入一個(gè)字、一句話，讓程序去預(yù)測(cè)出現(xiàn)概率最高的下一個(gè)字、下一句話。ChatGPT用到了3000億單詞的語(yǔ)料數(shù)據(jù)和1750億的參數(shù)，前者是喂給程序的訓(xùn)練資料，后者基于訓(xùn)練資料 ChatGPT 模型對(duì)世界的理解。一定程度上說(shuō)，參數(shù)量級(jí)越大，AI模型就越可靠，越能理解提問(wèn)。在ChatGPT身上還做了一項(xiàng)“人類(lèi)偏好處理”訓(xùn)練，即，根據(jù)人類(lèi)的反饋，讓AI學(xué)會(huì)理解人類(lèi)的思維方式。因此，ChatGPT相比前輩更知道哪種答案才是人類(lèi)想要的，或者更符合人類(lèi)的情感需求。

不過(guò)，ChatGPT在給人帶來(lái)便利的同時(shí)，也引發(fā)了大家對(duì)網(wǎng)絡(luò)安全的更深擔(dān)憂。有觀點(diǎn)認(rèn)為，從開(kāi)展網(wǎng)絡(luò)攻擊的角度看，ChatGPT這類(lèi)生成式人工智能是偏向于威脅行為者的。生成式AI能提供所要求的內(nèi)容，極有利于制作網(wǎng)絡(luò)釣魚(yú)電子郵件。它通過(guò)獲取的信息，利用額外的上下文關(guān)聯(lián)關(guān)系，并根據(jù)自己的理解得出結(jié)論。ChatGPT可以毫不費(fèi)力地創(chuàng)建大量復(fù)雜的網(wǎng)絡(luò)釣魚(yú)電子郵件，甚至還能創(chuàng)建非常逼真的虛假配置文件，滲透進(jìn)過(guò)去被認(rèn)為機(jī)器不適合或不擅長(zhǎng)的領(lǐng)域，偽造出令人信服的文字和圖片資料。

而且ChatGPT大大減少了威脅參與者基于技能的進(jìn)入成本。目前威脅的復(fù)雜性或多或少與威脅行為者的技能水平有關(guān)，在ChatGPT出現(xiàn)后，一些入門(mén)級(jí)網(wǎng)絡(luò)犯罪分子立刻可以獲得新的能力，從過(guò)去只能簡(jiǎn)單利用指令躍升至可以編寫(xiě)針對(duì)性代碼的新級(jí)別，顯著降低了網(wǎng)絡(luò)犯罪的門(mén)檻，會(huì)激勵(lì)眾多入門(mén)級(jí)黑客使用ChatGPT發(fā)起攻擊。

ChatGPT存在著巨大的軍用潛力。美國(guó)國(guó)防部在2月8日使用ChatGPT生成了一篇建議成立新的反無(wú)人機(jī)特遣部隊(duì)的文章，更讓ChatGPT“從軍”問(wèn)題變得不可忽視。

就目前ChatGPT所展現(xiàn)的能力看，其在軍中大有用武之地。首先，基于ChatGPT的人工智能技術(shù)可為軍人提供實(shí)時(shí)翻譯服務(wù)，實(shí)現(xiàn)不同國(guó)籍士兵之間的無(wú)縫溝通。

其次，可以簡(jiǎn)化參謀工作流程。在任務(wù)分析階段，分析人員需要處理和融合信息以生成一張通用作戰(zhàn)圖（COP）。為完成該任務(wù)，分析人員需要對(duì)接收的信息進(jìn)行分類(lèi)并確定當(dāng)前態(tài)勢(shì)以構(gòu)建動(dòng)態(tài)更新的COP，還需要檢測(cè)己方系統(tǒng)是否被欺騙。在生成式人工智能技術(shù)的輔助下，戰(zhàn)術(shù)級(jí)系統(tǒng)可以根據(jù)接收到的情報(bào)報(bào)告的自動(dòng)生成態(tài)勢(shì)分析報(bào)告。在計(jì)劃執(zhí)行過(guò)程中，生成式人工智能技術(shù)可被用于自動(dòng)生成總結(jié)報(bào)告。在層級(jí)指揮結(jié)構(gòu)中，上級(jí)需要接收下級(jí)的信息，而如果沒(méi)有總結(jié)報(bào)告，上級(jí)將接收過(guò)量信息，從而降低工作效率。傳統(tǒng)的總結(jié)報(bào)告需要從原始文檔中復(fù)制和粘貼相關(guān)內(nèi)容，現(xiàn)在可以利用ChatGPT的摘要生成式方法來(lái)進(jìn)行總結(jié)。

ChatGPT技術(shù)還擁有強(qiáng)悍的數(shù)據(jù)分析和挖掘能力，能夠依托大數(shù)據(jù)庫(kù)和學(xué)習(xí)能力，總結(jié)歸納事物發(fā)生、發(fā)展、變化的規(guī)律，這對(duì)于指揮官進(jìn)行決策具有重要參考價(jià)值。通過(guò)對(duì)情報(bào)的了解分析，ChatGPT技術(shù)能夠結(jié)合作戰(zhàn)對(duì)手的特點(diǎn)、己方的優(yōu)缺點(diǎn)，給出有一定價(jià)值的參考建議，并提供快速準(zhǔn)確的威脅評(píng)估，指揮官則可在瞬息萬(wàn)變、爭(zhēng)分奪秒的戰(zhàn)場(chǎng)上做出最準(zhǔn)確可靠的判斷和決策。

另外就是輿論戰(zhàn)。在一個(gè)數(shù)字化程度不斷提高的國(guó)家，ChatGPT這樣的聊天機(jī)器人可能被數(shù)百萬(wàn)人用來(lái)進(jìn)行交流，以獲取新聞和信息，并參與政治討論。如果這個(gè)聊天機(jī)器人是由一個(gè)敵對(duì)的外國(guó)行為者設(shè)計(jì)和編程的，就有可能被用來(lái)傳播虛假和煽動(dòng)性的信息，以達(dá)到操縱輿論、分化民眾、破壞對(duì)手國(guó)家團(tuán)結(jié)的目的。