“機(jī)器人殺手”的威脅

胡安·格雷羅++劉夢

科技的進(jìn)步，讓未來自動(dòng)武器的自主選擇和攻擊目標(biāo)成為可能。而這種致命性自動(dòng)武器系統(tǒng)（LAWS）也被稱作“殺手機(jī)器人”，它們可能是安裝了武器系統(tǒng)的飛行器，也可能是安裝了武器平臺(tái)的微型坦克，總之，它們可以自行決定讓誰去死。

將這些殺手機(jī)器人投入戰(zhàn)場，可以在很大程度上減輕人類士兵的危險(xiǎn)和負(fù)擔(dān)。不過，也有很多人工智能專家擔(dān)心這些機(jī)器人會(huì)帶來更多的危險(xiǎn)和安全隱患，比如它們可能會(huì)被不道德行為所利用，甚至淪為黑客的操控平臺(tái)。盡管如此，近年來全球各國還是紛紛投入到了自動(dòng)化武器的研發(fā)中去。

那么，“終結(jié)者”時(shí)代真的即將來臨了嗎？

機(jī)器人哨兵

夜幕降臨，在朝鮮和韓國“三八線”附近執(zhí)勤的哨兵也開始感到疲倦，而韓國布置在此的持槍機(jī)器人卻依然警惕地監(jiān)視著方圓幾公里內(nèi)的情況，它配有高度靈敏的熱感傳感器和紅外夜視攝像頭，一旦發(fā)現(xiàn)非法入侵者，會(huì)馬上向韓國指揮中心“匯報(bào)”，在收到開火命令后，將用其攜帶的大宇K3機(jī)關(guān)槍或槍榴彈發(fā)射器射擊目標(biāo)。

這款機(jī)器人是2006年由韓國三星公司開發(fā)的型號(hào)為SGR-A1的機(jī)器人哨兵，單個(gè)造價(jià)為20萬美元，主要作用是替代傳統(tǒng)的哨兵來防范軍事區(qū)域或國境線的非法入侵者。盡管這個(gè)機(jī)器人目前還沒有自主決策能力，只能在操控人員的監(jiān)控下執(zhí)行守衛(wèi)任務(wù)，但其實(shí)它已經(jīng)裝備有識(shí)別敵我的算法，可以通過語音要求目標(biāo)回復(fù)口令來區(qū)分?jǐn)澄胰藛T身份，未來在需要的情況下，它也可以自動(dòng)偵測、判斷目標(biāo)并完成自主射擊。

軍事機(jī)器人的發(fā)展

SGR-A1并不是唯一被用于軍事的機(jī)器人，2011年一家白俄羅斯企業(yè)就設(shè)計(jì)出了一款名為Adunok-M的無人駕駛遙控武器平臺(tái)。這款機(jī)器人擁有履帶系統(tǒng)，就像一輛小型的裝甲車，它還配備有槍榴彈發(fā)射器和機(jī)關(guān)槍，可根據(jù)收到的遙控指令攻擊并摧毀800米內(nèi)的目標(biāo)。設(shè)計(jì)人員表示，它還可以根據(jù)任務(wù)的不同來選擇使用口徑為7.62毫米的輕機(jī)槍或是12.7毫米的重機(jī)槍。

除此之外，還有美國海軍陸戰(zhàn)隊(duì)的“角斗士”作戰(zhàn)機(jī)器人、以色列軍隊(duì)用于邊境安全任務(wù)的“守護(hù)者”無人駕駛戰(zhàn)車等等?？梢?，無人武器系統(tǒng)的時(shí)代早已悄無聲息地來臨了。

無人駕駛航空器由美國國防部高級(jí)研究計(jì)劃局（DARPA）主導(dǎo)開發(fā)的X-47B無人戰(zhàn)斗航空器，是人類歷史上第一架無需人工干預(yù)，完全由電腦操控的無人駕駛飛機(jī)，也是第一架能夠從航母上起飛并自行回落的隱形無人轟炸機(jī)。

不過，究竟要達(dá)到何種自主程度，才能稱得上是完全獨(dú)立的軍事機(jī)器人呢？按照美國國防部的標(biāo)準(zhǔn)，具備自主性的軍事機(jī)器人一旦被投入運(yùn)行，就必須能自動(dòng)識(shí)別并鎖定目標(biāo)，然后自主決定應(yīng)該對(duì)其采取何種措施。只要能在無人操控的情況下完成這套程序的，就是合格的自主軍事機(jī)器人。目前，美國國防部的標(biāo)準(zhǔn)允許無人武器平臺(tái)具備自動(dòng)和人工操作兩種模式，但就現(xiàn)階段來說，涉及到開火等攻擊任務(wù)時(shí)，這些武器平臺(tái)選用的還是人工操作模式。不過，專家們認(rèn)為，在現(xiàn)有的技術(shù)條件下，開發(fā)出成熟的致命性自主武器系統(tǒng)并不是什么難事，長則幾十年，短則幾年就會(huì)實(shí)現(xiàn)。

爭議不斷的自主武器系統(tǒng)

越來越多軍事機(jī)器人的出現(xiàn)，也在國際上引發(fā)了越來越多的爭議。很多科學(xué)家認(rèn)為，這類自主武器系統(tǒng)一旦被投入運(yùn)用，將會(huì)引發(fā)繼火藥和核武器發(fā)明之后的第三次戰(zhàn)爭革命。這并不是危言聳聽，因?yàn)榫驮?015年，一臺(tái)“發(fā)狂”的機(jī)器人就“不小心”將美國一個(gè)汽車工廠的裝配工“殺死”了，隨后其家屬以意外致死罪的名義向5家涉案機(jī)器人制造商提起了訴訟。

同樣是在2015年，在倫敦舉行的一次科技大會(huì)上，著名科學(xué)家史蒂芬·霍金就發(fā)出警告稱：機(jī)器人將會(huì)控制人類。霍金說：“在未來100年內(nèi)，結(jié)合人工智能的機(jī)器人將會(huì)變得比人類更聰明，屆時(shí)我們需要確保機(jī)器人與我們的目標(biāo)一致，我們的未來取決于技術(shù)不斷增強(qiáng)的力量和我們使用技術(shù)的智慧之間的賽跑。”

特斯拉公司CEO埃隆·馬斯克也持有相同觀點(diǎn)。在麻省理工學(xué)院發(fā)表演講時(shí)，他將人工智能機(jī)器人描述為人類“最大的生存威脅”，他認(rèn)為，只需要5年，人工智能就可能給世界帶來極端的危險(xiǎn)。

為此，1000多名科技領(lǐng)域的專家和企業(yè)家共同發(fā)表了一封抵制自動(dòng)武器的公開信，在信函上署名的包括著名科學(xué)家史蒂芬·霍金、特斯拉公司CEO埃隆·馬斯克和蘋果公司共同創(chuàng)始人史蒂夫·沃茲尼亞克。信函中寫道：“今天人類的關(guān)鍵問題是，是否要開啟一場全球人工智能武器競賽，還是阻止它的啟動(dòng)?！?/p>

科學(xué)家們表示，由于自動(dòng)武器將使用人工智能來選擇目標(biāo)，而無需人為干預(yù)，所以，這種具有自主決策能力和行為能力的機(jī)器人一旦落入恐怖分子、獨(dú)裁者和軍閥手中，后果將不堪設(shè)想。盡管各國發(fā)展軍事機(jī)器人的本意是為了減少戰(zhàn)場上的傷亡，但這樣做的同時(shí)也降低了人類進(jìn)入戰(zhàn)場的門檻，甚至可能會(huì)加劇大國之間軍事力量的競爭。

停止開發(fā)殺手機(jī)器人！“停止開發(fā)殺手機(jī)器人”是2013年由幾個(gè)非政府組織發(fā)起的運(yùn)動(dòng)，他們經(jīng)常組織類似活動(dòng)以引起政府和民眾對(duì)這一問題的關(guān)注，如圖就是他們?cè)趥惗嘏e行的活動(dòng)。

國與國之間的分歧

早在2013年，就有非政府組織發(fā)起了“停止開發(fā)殺手機(jī)器人”的活動(dòng)，他們認(rèn)為致命性自動(dòng)武器系統(tǒng)的存在違背了人類的基本尊嚴(yán)，讓機(jī)器人去選擇殺死誰是十分不人道的，因?yàn)闄C(jī)器人可能會(huì)被授權(quán)殺死任何顯示出潛在威脅行為的人，包括沒有武器的平民百姓。

在社會(huì)各界的努力之下，這個(gè)問題終于得到了聯(lián)合國的重視。2014年，聯(lián)合國開始討論致命性自主武器的使用問題，并考慮通過起草國際法來約束殺手機(jī)器人技術(shù)的開發(fā)和傳播。

然而，在2016年聯(lián)合國召開的特定常規(guī)武器公約討論會(huì)議上，聯(lián)合國安理會(huì)五大常任理事國之中，只有中國明確表態(tài)支持制定條約管制機(jī)器人武器，美國因?yàn)閾?dān)心受到軍事上的制約而對(duì)此持消極態(tài)度，俄羅斯、英國和法國則都沒有明確表態(tài)。

在與會(huì)的120個(gè)國家中，雖然大部分國家都表示會(huì)支持聯(lián)合國對(duì)自主武器系統(tǒng)采取合理管制，但只有19個(gè)國家明確表示了應(yīng)當(dāng)停止開發(fā)和使用致命性自主武器系統(tǒng)，這其中較有影響力的國家只有阿爾及利亞、墨西哥、委內(nèi)瑞拉、巴基斯坦和埃及這五國。像日本這樣擁有先進(jìn)機(jī)器人技術(shù)的國家，因?yàn)閾?dān)心管制可能影響本國民用機(jī)器人的研發(fā)，所以對(duì)管制措施抱有比較謹(jǐn)慎的態(tài)度。不過，大會(huì)最后還是決定了要設(shè)立正式的專家會(huì)議，以便后續(xù)討論“殺手機(jī)器人”的管制等問題。

戰(zhàn)場效益

是什么讓這些大國在管制自主武器的問題上表現(xiàn)得如此含混和曖昧？答案只有一個(gè)，那就是利益。很顯然，這些殺手機(jī)器人在戰(zhàn)場上會(huì)比有血有肉的人類士兵更有效率，因?yàn)樗鼈兛梢匀找箲?zhàn)斗，不會(huì)感到疲倦，不需要食物和睡眠，不會(huì)受到生理?xiàng)l件限制，也不會(huì)受到情感的影響，在殺人時(shí)不會(huì)感到恐懼，也不會(huì)對(duì)敵人產(chǎn)生憐憫，它們只會(huì)機(jī)械地完成所有設(shè)定好的任務(wù)。

盡管目前這些殺手機(jī)器人造價(jià)不菲，但隨著科技的發(fā)展以及機(jī)器人零件的量產(chǎn)，未來這些機(jī)器人的制作成本只會(huì)越來越低。相比之下，像美國這樣的超級(jí)大國，一旦發(fā)生了士兵傷亡事件，政府需要支付平均每人85萬美元的撫恤金給其家屬，從性價(jià)比上來說，用殺手機(jī)器人替代真人對(duì)政府更有利一些。

然而，專家們所擔(dān)心的是，一旦這些殺手機(jī)器人未來投入戰(zhàn)場，它們能否遵循公認(rèn)的交戰(zhàn)規(guī)則以及遵循倫理道德，它們能否區(qū)分?jǐn)撤降臒o辜平民和士兵，以及在敵方士兵投降后它們是否還會(huì)繼續(xù)開火，因?yàn)樗鼈儺吘共皇侨祟惪梢酝耆刂频臒o人機(jī)，而是具有完全自主性的殺手機(jī)器人。

地空自主武器系統(tǒng)

盡管致命性自主武器系統(tǒng)可能給世界帶來種種的危險(xiǎn)，但出于軍事利益的考量，許多國家還是在大力研發(fā)并投入使用自主武器。

其中，韓國和以色列都已開始使用地空半自動(dòng)防空導(dǎo)彈系統(tǒng)，美國也開發(fā)出了X-47B無人戰(zhàn)斗航空器，這是人類歷史上第一架無需人工干預(yù)，完全由電腦操控的無人駕駛飛機(jī)，也是第一架能夠從航母上起飛并自行回落的隱形無人轟炸機(jī)。

對(duì)此，俄羅斯也不甘示弱，在俄羅斯最新式的T-14阿瑪塔主戰(zhàn)坦克上也運(yùn)用了無人炮塔的設(shè)計(jì)，同時(shí)設(shè)置了全向光電和雷達(dá)探測器以及兩類攔截彈，是迄今為止應(yīng)用主動(dòng)防護(hù)技術(shù)程度最高的坦克，可有效壓制當(dāng)代西方最常用的三代主戰(zhàn)坦克。

英國也開發(fā)了類似美國X-47B式的無人戰(zhàn)斗機(jī)“雷電之神”，該機(jī)運(yùn)用了三重飛行管理系統(tǒng)，其中包括飛行導(dǎo)航、引導(dǎo)和控制系統(tǒng)，地面控制系統(tǒng)以及情報(bào)、監(jiān)視和偵察管理系統(tǒng)，同時(shí)還應(yīng)用了包括隱形技術(shù)和自動(dòng)控制技術(shù)在內(nèi)的尖端技術(shù)，是英國戰(zhàn)略無人機(jī)實(shí)驗(yàn)計(jì)劃的一個(gè)重要部分。

海上自主武器系統(tǒng)

除了陸地和空中自主武器系統(tǒng)，各國也在競相發(fā)展海上自主武器系統(tǒng)，因?yàn)楹Ｉ献灾魑淦鞑粌H能長時(shí)間在水上或水下自主航行，還具備智能化控制能力，可實(shí)施對(duì)重要海域近距離情報(bào)偵察、環(huán)境數(shù)據(jù)搜集、水上或水下持久偵察監(jiān)視、反潛戰(zhàn)、水雷對(duì)抗、后勤支援等諸多任務(wù)，已經(jīng)成為全球海軍裝備的一個(gè)重要發(fā)展方向。

美國是最早開始發(fā)展海上自主武器系統(tǒng)的國家，且技術(shù)一直處于全球領(lǐng)先地位。由美國國防部高級(jí)研究計(jì)劃局（DARPA）主導(dǎo)研發(fā)的“海上獵人”是一種專用無人艇，雖然艇上無人值守，但它可以兼容遠(yuǎn)程監(jiān)控控制站，并且可以35節(jié)（64千米/小時(shí)）的速度持續(xù)航行48個(gè)小時(shí)。

在歐洲，法國泰雷茲公司和英國ASV公司也在共同開發(fā)一款滿足未來離艦反水雷（MCM）作戰(zhàn)任務(wù)的無人水面航行器。這款航行器可以在任何軍事平臺(tái)、艦艇、岸上或港口部署，并且可以搭載包括無人潛水器、拖曳式聲納在內(nèi)的多種反水雷系統(tǒng)，同時(shí)它還具有優(yōu)異的慢速牽引能力，和傳統(tǒng)的裝備相比，它可靠性更高，制造成本更低，將成為未來水雷戰(zhàn)中的關(guān)鍵制勝因素。

盡管各國發(fā)展致命性自主武器系統(tǒng)的本意，都是為了保護(hù)本國的士兵不要受到傷害，但任由這些殺手機(jī)器人發(fā)展，很可能給人類帶來更大的威脅，因?yàn)樗鼈儾皇苋魏蔚赖?、法律和?zé)任上的約束，隨時(shí)可能做出超出人類控制之外的生死決定。

目前，控制這場危機(jī)的最好辦法就是出臺(tái)相關(guān)的國際法律來約束自主武器的使用，但這需要世界各國的共同努力。而現(xiàn)在，我們只有祈禱，希望“終結(jié)者”的時(shí)代永遠(yuǎn)不要來臨。

[譯自西班牙《真有趣》]