中美人工智能對(duì)話可以談些什么

朱榮生 王一凡

2023年11月15日，習(xí)近平主席在美國(guó)舊金山斐洛里莊園同美國(guó)總統(tǒng)拜登舉行會(huì)晤，在雙方達(dá)成的一系列重要共識(shí)里，建立中美人工智能政府間對(duì)話機(jī)制赫然在列。這不僅給緩和兩國(guó)日趨激烈的數(shù)字競(jìng)爭(zhēng)釋放了積極信號(hào)，也為保持兩國(guó)各領(lǐng)域?qū)υ捄献髯⑷胄碌尿?qū)動(dòng)力。尤其在國(guó)際輿論越來(lái)越關(guān)注人工智能安全風(fēng)險(xiǎn)的當(dāng)下，中美建立的這一新的對(duì)話渠道為推動(dòng)相關(guān)領(lǐng)域全球治理提供了信心。

伴隨著ChatGPT在全球爆火引發(fā)大眾對(duì)這項(xiàng)技術(shù)的高度關(guān)注，人工智能全球治理在2023年步入快車(chē)道，一個(gè)代表性的現(xiàn)象是科技和產(chǎn)業(yè)界高調(diào)呼吁重視人工智能的“失控風(fēng)險(xiǎn)”。3月29日，特斯拉公司CEO馬斯克、蘋(píng)果公司聯(lián)合創(chuàng)始人沃茲尼亞克、英國(guó)開(kāi)源人工智能公司Stability AI的CEO莫斯塔克等1000多名業(yè)界高管、專(zhuān)家、科研人員簽署公開(kāi)信，呼吁“暫停研發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少六個(gè)月”，從而避免“人類(lèi)文明被機(jī)器終結(jié)”。5月31日，350名人工智能領(lǐng)域的行業(yè)高管、專(zhuān)家公開(kāi)警告人工智能可能像核武器和大流行病一樣給人類(lèi)帶來(lái)“滅絕性社會(huì)風(fēng)險(xiǎn)”，引發(fā)全球輿論對(duì)人工智能潛在倫理風(fēng)險(xiǎn)的高度關(guān)注。6月12日，聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯強(qiáng)調(diào)，要認(rèn)真對(duì)待專(zhuān)家關(guān)于生成式人工智能的警告。同核武器威脅人類(lèi)生存相比，人工智能尚未展現(xiàn)出顛覆性的破壞力，所謂超級(jí)人工智能將滅絕人類(lèi)帶有一定的科幻主義和浪漫主義猜想色彩。盡管如此，國(guó)際輿論對(duì)大國(guó)開(kāi)展治理合作以防止“技術(shù)失控”充滿期待。中美同為人工智能技術(shù)和應(yīng)用大國(guó)，都需要承擔(dān)相應(yīng)的國(guó)際治理責(zé)任，對(duì)國(guó)際輿論的主要關(guān)切作出回應(yīng)。

回望過(guò)去十年人工智能全球體系的演進(jìn)，國(guó)際治理機(jī)制和規(guī)范的建構(gòu)在2023年迎來(lái)一股熱潮，為中美開(kāi)展人工智能治理對(duì)話創(chuàng)造了條件。一方面，聯(lián)合國(guó)《特定常規(guī)武器公約》自2014年對(duì)以致命性自主武器為代表的人工智能軍事應(yīng)用展開(kāi)討論，于2019年確立了致命性自主武器治理的11條原則。時(shí)至今日，該公約在國(guó)際社會(huì)討論治理人工智能軍事應(yīng)用風(fēng)險(xiǎn)方面持續(xù)著發(fā)揮核心平臺(tái)的作用。2023年7月12日，聯(lián)合國(guó)安理會(huì)首次討論人工智能問(wèn)題，聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯提出，參照國(guó)際原子能機(jī)構(gòu)（IAEA）的經(jīng)驗(yàn)，建立一個(gè)由人工智能專(zhuān)家和聯(lián)合國(guó)機(jī)構(gòu)首席科學(xué)家組成的科學(xué)顧問(wèn)委員會(huì)。2023年10月26日，這個(gè)吸納了中美專(zhuān)家的聯(lián)合國(guó)人工智能高級(jí)別咨詢機(jī)構(gòu)正式成立。另一方面，區(qū)域性的“人工智能安全峰會(huì)”密集召開(kāi)，荷蘭、盧森堡、哥斯達(dá)黎加、英國(guó)等國(guó)均在2023年圍繞人工智能、自主武器的軍控和治理問(wèn)題舉辦國(guó)際峰會(huì)，并且發(fā)布相關(guān)治理倡議或聯(lián)合聲明。其中，獲得關(guān)注最多的是英國(guó)舉辦的“人工智能安全峰會(huì)”及其會(huì)后成果《布萊切利宣言》，中國(guó)、美國(guó)、歐盟、澳大利亞等28個(gè)國(guó)家和地區(qū)簽署該宣言，同意開(kāi)展行動(dòng)來(lái)識(shí)別共同關(guān)注的人工智能風(fēng)險(xiǎn)，并且各自制定技術(shù)安全措施和開(kāi)展國(guó)際合作。

中美兩國(guó)在人工智能治理領(lǐng)域不只有穩(wěn)定彼此關(guān)系的需要，也有確保技術(shù)健康發(fā)展與安全利用共創(chuàng)人類(lèi)福祉的共同利益和責(zé)任。而中美在哪些人工智能治理領(lǐng)域迫切需要進(jìn)行溝通，評(píng)估雙方哪些政策主張有可能導(dǎo)向共識(shí)，是落實(shí)兩國(guó)元首會(huì)晤“舊金山愿景”關(guān)于建立兩國(guó)人工智能政府間對(duì)話共識(shí)的重要初始路徑。

在人工智能安全治理方面，中美在非傳統(tǒng)安全領(lǐng)域形成共識(shí)的空間多于傳統(tǒng)安全領(lǐng)域。就傳統(tǒng)安全領(lǐng)域而言，中美可能找到的共識(shí)點(diǎn)包括：自愿性地加強(qiáng)人工智能軍事應(yīng)用立場(chǎng)的透明度，以及就涉軍事智能問(wèn)題開(kāi)展危機(jī)預(yù)防、危機(jī)管控和防范軍備競(jìng)賽等方面的溝通。盡管?chē)?guó)際社會(huì)對(duì)人工智能介入戰(zhàn)略決策和執(zhí)行的關(guān)注度高漲，對(duì)所謂“戰(zhàn)略穩(wěn)定性受沖擊”的擔(dān)憂日甚，但是主要人工智能大國(guó)恐怕難以在短時(shí)間內(nèi)就相關(guān)軍控問(wèn)題達(dá)成一致意見(jiàn)。2023年2月16日，美國(guó)在荷蘭海牙“軍事領(lǐng)域負(fù)責(zé)任使用人工智能峰會(huì)”上發(fā)布《關(guān)于在軍事中負(fù)責(zé)任地使用人工智能和自主技術(shù)的政治宣言》。11月21日，美國(guó)國(guó)務(wù)院宣布已有46國(guó)支持該宣言的修改版。值得注意的是，新版宣言刪去了確保人類(lèi)決定核武器發(fā)射權(quán)的內(nèi)容，美方做此調(diào)整的原因是，戰(zhàn)略力量敏感度高、智能技術(shù)泛在性強(qiáng)、開(kāi)展核查難度大，使得推動(dòng)相關(guān)軍控討論過(guò)于困難，而讓有核國(guó)和無(wú)核國(guó)確立相關(guān)軍備控制規(guī)范更是難上加難。

在非傳統(tǒng)安全領(lǐng)域，兩國(guó)可以爭(zhēng)取就人工智能治理基本原則形成共有規(guī)范。盡管中美在人工智能技術(shù)治理原則的表述上存在差異，但雙方不少核心理念的內(nèi)涵卻有相通之處，都強(qiáng)調(diào)人類(lèi)對(duì)機(jī)器的控制，都反對(duì)人工智能產(chǎn)品研發(fā)和應(yīng)用對(duì)不同或特定民族、宗教、信仰的歧視，也都支持人工智能發(fā)展要以增進(jìn)人類(lèi)福祉為目標(biāo)。那么，中美是否有可能就這些治理原則討論出一個(gè)共同文本呢？2023年10月18日，中國(guó)政府發(fā)出《全球人工智能治理倡議》，共包括11項(xiàng)內(nèi)容，在一定程度上反映了包括中美在內(nèi)世界主要國(guó)家對(duì)人工智能發(fā)展的核心關(guān)切，提出了構(gòu)建全球治理體系的科學(xué)方案，為未來(lái)中美探索建構(gòu)“人工智能治理準(zhǔn)則”提供了可參考的基本框架。考慮到兩國(guó)已經(jīng)在人工智能技術(shù)標(biāo)準(zhǔn)、法律法規(guī)、國(guó)際治理方面各自頒布多項(xiàng)文件，雙方可基于它們開(kāi)展溝通，著重就技術(shù)概念及其治理原則形成共同理解。

另一方面，中美都面臨人工智能滲透進(jìn)人類(lèi)生活后所引發(fā)的社會(huì)治理難題。人工智能不僅放大了保護(hù)個(gè)人隱私、維護(hù)社會(huì)公平、彌合數(shù)字鴻溝、防范恐怖主義等方面的挑戰(zhàn)，還給兩國(guó)應(yīng)對(duì)這些社會(huì)治理難題增添了結(jié)構(gòu)性壓力。面對(duì)這些非傳統(tǒng)安全挑戰(zhàn)，中美在某些功能性領(lǐng)域存在廣泛的合作空間，包括：分享各自國(guó)內(nèi)人工智能治理的實(shí)踐經(jīng)驗(yàn)；就人工智能生成視頻文字的鑒別方法和標(biāo)準(zhǔn)開(kāi)展溝通交流；聯(lián)合打擊犯罪、恐怖主義活動(dòng)，以防范不負(fù)責(zé)任的技術(shù)應(yīng)用破壞政治穩(wěn)定和公共安全；避免濫用出口管制工具沖擊全球人工智能產(chǎn)業(yè)鏈供應(yīng)鏈穩(wěn)定，等等。

總之，中美人工智能對(duì)話可討論的話題很多，對(duì)全球治理的引領(lǐng)作用很大，應(yīng)盡早落地，爭(zhēng)取成為踐行“舊金山愿景”的先鋒項(xiàng)目。

（朱榮生為清華大學(xué)戰(zhàn)略與安全研究中心特約專(zhuān)家，王一凡為清華大學(xué)中美關(guān)系研究中心助理研究員）