智能戰(zhàn)爭(zhēng)時(shí)代，誰(shuí)來(lái)開火？

張敏

科幻電影《終結(jié)者》中，原本作為軍方作戰(zhàn)網(wǎng)絡(luò)的“天網(wǎng)”在強(qiáng)人工智能推動(dòng)下逐漸具備了自我意識(shí)，因而演變成未來(lái)世界機(jī)器人的領(lǐng)袖，帶領(lǐng)著掌握“開火權(quán)”的機(jī)器人肆意殘害人類。場(chǎng)景雖然科幻，但也表現(xiàn)出人們對(duì)于智能化戰(zhàn)爭(zhēng)時(shí)代，對(duì)擁有高度智能的無(wú)人作戰(zhàn)系統(tǒng)的深切擔(dān)憂。

人與武器的關(guān)系是軍事領(lǐng)域亙古不變的重要話題。隨著被譽(yù)為“人類智慧最后堡壘”的圍棋領(lǐng)域被人工智能攻破，有理由相信人工智能技術(shù)及無(wú)人自主作戰(zhàn)平臺(tái)將成為新型顛覆性作戰(zhàn)樣式，以戰(zhàn)斗機(jī)器人為代表的人工智能無(wú)人武器系統(tǒng)或?qū)⒅髟孜磥?lái)戰(zhàn)場(chǎng)。美國(guó)早在其《21世紀(jì)戰(zhàn)略技術(shù)》中就直言：“20世紀(jì)的核心武器是坦克，21世紀(jì)的核心武器是無(wú)人系統(tǒng)。”然而，如果賦予智能無(wú)人作戰(zhàn)系統(tǒng)“生殺大權(quán)”，甚至實(shí)施完全是機(jī)器人士兵的“機(jī)器代理人戰(zhàn)爭(zhēng)”，擁有高度智能的無(wú)人作戰(zhàn)系統(tǒng)或?qū)选督K結(jié)者》等電影中的場(chǎng)景變?yōu)楝F(xiàn)實(shí)。除禁止使用“攻擊性自主武器”外，避免無(wú)人作戰(zhàn)系統(tǒng)擁有“開火權(quán)”，或?qū)⒊蔀橹悄軕?zhàn)爭(zhēng)時(shí)代人類可行的“救贖”方式。

人工智能叩開智能化戰(zhàn)爭(zhēng)之門

早在2011年，白俄羅斯就曾推出過(guò)一款無(wú)人駕駛遙控武器平臺(tái)，這種擁有履帶系統(tǒng)的無(wú)人作戰(zhàn)平臺(tái)，可在遙控指令控制下使用配備的機(jī)槍和榴彈發(fā)射器攻擊800米距離內(nèi)的目標(biāo)。當(dāng)然，這并不是目前惟一一款可“開火”的無(wú)人作戰(zhàn)平臺(tái)：美國(guó)海軍陸戰(zhàn)隊(duì)正在測(cè)試的模塊化先進(jìn)武裝機(jī)器人系統(tǒng)，可借助人工智能控制持槍機(jī)器人；俄羅斯戰(zhàn)略導(dǎo)彈部隊(duì)研制的狼-2式移動(dòng)機(jī)器人系統(tǒng)，可在5千米范圍內(nèi)通過(guò)無(wú)線電頻道控制，能在時(shí)速35千米的情況下使用武器精確擊中目標(biāo)；以色列研制的多戈武裝作戰(zhàn)機(jī)器人，自帶格洛克26型9毫米口徑手槍；還有諸如美國(guó)海軍陸戰(zhàn)隊(duì)角斗士作戰(zhàn)機(jī)器人、以色列守護(hù)者無(wú)人駕駛戰(zhàn)車等，類似的攻擊型無(wú)人作戰(zhàn)平臺(tái)近年來(lái)不斷涌現(xiàn)。

目前，人工智能已經(jīng)被作為戰(zhàn)爭(zhēng)史上的“第三次戰(zhàn)爭(zhēng)革命”，正加速叩開未來(lái)智能化戰(zhàn)爭(zhēng)的大門。曾幾何時(shí)，火藥的出現(xiàn)是“第一次戰(zhàn)爭(zhēng)革命”，槍支與火炮等“熱兵器”的實(shí)用化對(duì)軍隊(duì)組成結(jié)構(gòu)和作戰(zhàn)方式產(chǎn)生了顛覆性變革；“第二次戰(zhàn)爭(zhēng)革命”伴隨著熱核武器實(shí)用化而來(lái)，意味著戰(zhàn)爭(zhēng)已經(jīng)達(dá)到以破壞整個(gè)國(guó)家為前提的戰(zhàn)略對(duì)峙，戰(zhàn)爭(zhēng)方式再次發(fā)生巨大變化。人工智能的出現(xiàn)同樣具備從根本上改變戰(zhàn)爭(zhēng)方式的潛力，未來(lái)戰(zhàn)爭(zhēng)或?qū)⒀葑兂伞皺C(jī)器VS人”乃至“機(jī)器殺人”的“機(jī)器人代理戰(zhàn)爭(zhēng)”。

本來(lái)，人們對(duì)于人工智能無(wú)人作戰(zhàn)裝備的需求合情合理。戰(zhàn)爭(zhēng)不可避免會(huì)引發(fā)流血、傷殘與死亡，無(wú)人作戰(zhàn)系統(tǒng)由于“平臺(tái)無(wú)人”，既能打仗，又不存在人員傷亡，因而適用于執(zhí)行各類高危險(xiǎn)和高烈度戰(zhàn)爭(zhēng)任務(wù)，甚至可以完全取代士兵去沖鋒陷陣。因此，近年來(lái)無(wú)人作戰(zhàn)系統(tǒng)愈發(fā)得到各軍事大國(guó)研究投入，各類無(wú)人作戰(zhàn)系統(tǒng)的數(shù)量與規(guī)模也是越來(lái)越大。

在當(dāng)前軍事斗爭(zhēng)需求的刺激下，無(wú)人作戰(zhàn)系統(tǒng)正向著陸?？仗斓榷嗑S度快速拓展，任務(wù)領(lǐng)域也已覆蓋到包括電子干擾、偵察預(yù)警、通信中繼、排雷排爆和火力打擊等傳統(tǒng)有人作戰(zhàn)領(lǐng)域，尤其是其精確化、智能化水平的不斷提升，已經(jīng)成為各軍事大國(guó)武器裝備發(fā)展的重點(diǎn)方向。畢竟，目前公開亮相的人工智能系統(tǒng)只是基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)弱人工智能，即將到來(lái)的強(qiáng)人工智能或?qū)⒓铀僮呦蛭磥?lái)戰(zhàn)場(chǎng)，在智能化感知與信息處理、智能化指揮控制輔助決策、無(wú)人軍用平臺(tái)及軍用機(jī)器人、人體體能技能及智能輔助系統(tǒng)等領(lǐng)域發(fā)揮重要作用，推動(dòng)著智能化戰(zhàn)爭(zhēng)時(shí)代的加速到來(lái)。

智能武器正面臨諸多風(fēng)險(xiǎn)挑戰(zhàn)

未來(lái)戰(zhàn)爭(zhēng)，隨著人工智能越來(lái)越多走上戰(zhàn)場(chǎng)，戰(zhàn)爭(zhēng)形態(tài)將從信息化戰(zhàn)爭(zhēng)向著智能化戰(zhàn)爭(zhēng)加速推進(jìn)。但人工智能機(jī)器人“大兵”真的在戰(zhàn)場(chǎng)上沖鋒陷陣之時(shí)，可別高興得太早，這些高度智能化武器也會(huì)對(duì)人類帶來(lái)諸多風(fēng)險(xiǎn)挑戰(zhàn)。

2005年的伊拉克戰(zhàn)場(chǎng)上，美軍的劍戰(zhàn)斗機(jī)器人就曾無(wú)故將槍口指向指揮官；2015年7月，美國(guó)一臺(tái)“發(fā)瘋”的機(jī)器人也曾“失手”將一名裝配工人殺死，俄羅斯也出現(xiàn)了機(jī)器人莫名“越獄”的故事。可以說(shuō)，在復(fù)雜戰(zhàn)場(chǎng)環(huán)境下，擁有高度智能的無(wú)人作戰(zhàn)系統(tǒng)極有可能出現(xiàn)識(shí)別錯(cuò)誤、通信降級(jí)甚至被敵電磁、網(wǎng)絡(luò)攻擊后“倒戈反擊”等問(wèn)題，而諸如濫殺無(wú)辜、系統(tǒng)失控等更是給智能武器的軍事應(yīng)用帶來(lái)了無(wú)窮隱憂。

其實(shí)，人們對(duì)于智能武器系統(tǒng)的擔(dān)憂，從命名伊始就初見端倪。機(jī)器人的英文名為“Robot”，最早是由捷克作家卡雷爾·恰佩克在科幻作品中首創(chuàng)，其原意就是“農(nóng)奴式被強(qiáng)迫的勞動(dòng)者”，并借此稱呼那些造反的機(jī)器仆人。1991年出版的《無(wú)人戰(zhàn)爭(zhēng)—未來(lái)戰(zhàn)場(chǎng)上的機(jī)器人》，也對(duì)軍用機(jī)器人使用后的倫理問(wèn)題提出了嚴(yán)肅的思考。未來(lái)的智能化戰(zhàn)爭(zhēng)，戰(zhàn)場(chǎng)上的絕大多數(shù)作戰(zhàn)任務(wù)都將交由戰(zhàn)斗機(jī)器人來(lái)完成，一旦人類授予了智能武器“開火權(quán)”，這群毫無(wú)感情、不知疲倦殺人的機(jī)器走上戰(zhàn)場(chǎng)，會(huì)不會(huì)濫殺無(wú)辜，會(huì)不會(huì)出現(xiàn)失控，甚至?xí)粫?huì)調(diào)轉(zhuǎn)槍口成為“人類終結(jié)者”，都是我們必須思考的問(wèn)題。

一方面，誰(shuí)能為智能武器的“濫殺無(wú)辜”來(lái)買單。隨著相關(guān)技術(shù)的不斷發(fā)展，人工智能在某些領(lǐng)域超越人類已是不爭(zhēng)的事實(shí)，完全脫離人類控制而實(shí)現(xiàn)自主攻擊或?qū)⒊蔀槿斯ぶ悄茉谖磥?lái)戰(zhàn)爭(zhēng)中的終極作戰(zhàn)形式。但人工智能武器的智能化一旦超過(guò)一定程度，極有可能出現(xiàn)自作主張甚至濫殺無(wú)辜的行為。另一方面，智能武器的戰(zhàn)場(chǎng)失控程度難以估計(jì)。理論上講，武器的智能化程度越高，其內(nèi)部電腦控制軟件的規(guī)模就越龐大且復(fù)雜，出現(xiàn)故障的概率也就相應(yīng)的越高。早在2005年，美國(guó)空軍的一架戰(zhàn)斗機(jī)突然自動(dòng)向地面重要設(shè)施發(fā)射了一枚導(dǎo)彈，事故原因是飛機(jī)的火控系統(tǒng)電腦出了故障。

事實(shí)上，智能武器在戰(zhàn)場(chǎng)復(fù)雜電磁環(huán)境下也會(huì)因干擾而失控。同時(shí)，戰(zhàn)場(chǎng)上的敵我識(shí)別對(duì)智能武器而言同樣并非易事，伊拉克戰(zhàn)爭(zhēng)期間美軍的導(dǎo)彈系統(tǒng)就曾把己方飛機(jī)擊落，原因就在于無(wú)法準(zhǔn)確判斷而產(chǎn)生的戰(zhàn)場(chǎng)失控。