機(jī)器人上戰(zhàn)場，靠譜嗎

肖婷婷

美國《陸軍》雜志2014年11月號刊載威廉·馬修斯的一篇文章，文中描繪了這樣的場景——

美國陸軍一支20噸軍用卡車車隊(duì)沿著佐治亞州一條鄉(xiāng)村公路以每小時(shí)40英里的速度高速行駛，雖然駕駛座上沒有任何人，但是這些卡車還是遵守交通規(guī)則，可以轉(zhuǎn)彎避開障礙物，當(dāng)小孩突然躥到街上時(shí)會緊急停下來。

兩架無人駕駛飛機(jī)在一座小鎮(zhèn)上空盤旋，在下方的街道上尋找自己的目標(biāo)。當(dāng)它們發(fā)現(xiàn)目標(biāo)時(shí)，用無線電將目標(biāo)的GPS坐標(biāo)發(fā)送給一輛行駛著將要攔截目標(biāo)的無人駕駛越野車。

一隊(duì)士兵蜷縮在他們即將要攻擊的建筑物不遠(yuǎn)處的防護(hù)墻后面。他們從包裹中取出通用輕型自主機(jī)器人套件，掏出一個(gè)裝有監(jiān)控?cái)z像頭手掌大小的四旋翼直升機(jī)和一個(gè)滾動前進(jìn)，可以爬樓梯的坦克狀機(jī)器人。這些微型機(jī)器人將會先行一步，向士兵們顯示下個(gè)轉(zhuǎn)角處是什么以及隔壁房間里有什么。士兵們將留下一個(gè)小型固定傳感器來監(jiān)視其進(jìn)出路線。

那么，問題來了，機(jī)器人取代人類上戰(zhàn)場，這靠譜嗎？

美軍開發(fā)“超人類戰(zhàn)士”

7月24日，美國《外交學(xué)者》網(wǎng)站發(fā)表了弗朗茨·斯特凡·蓋迪的題為《超人類和機(jī)器人殺手：美國陸軍如何設(shè)想2050年戰(zhàn)爭》的報(bào)道，編譯如下：根據(jù)一份總結(jié)美國陸軍贊助的研討會成果的新報(bào)告，新型超人類和自主戰(zhàn)斗機(jī)器人將成為2050年戰(zhàn)場上的兩個(gè)主要角色。

2015年3月，在馬里蘭州舉行的總結(jié)美國陸軍贊助的研討會，匯聚了不同群體的專家一起設(shè)想2050年戰(zhàn)術(shù)地面戰(zhàn)場。他們的結(jié)論是：屆時(shí)，人類將屬于現(xiàn)代戰(zhàn)場上的少數(shù)。2050年的戰(zhàn)場將“過度擁擠”，充斥著數(shù)量大大超過人類戰(zhàn)士的機(jī)器人。

與會者進(jìn)一步預(yù)言，也許對2015年的決策者和高級軍官們來說，最令人不安的將是，2050年的戰(zhàn)斗節(jié)奏將會更快，令軍人們不堪重負(fù)，其結(jié)果是機(jī)器人將不得不在人類很少監(jiān)督的情況下自主做出決定。

人類將不再能夠處于“決策圈內(nèi)”，反而會在“圈上”行動。兩者的不同之處在于，在前者的情況下，人類決定是一個(gè)過程所需的步驟，因此，人類正在行使主動控制；而在后者情況下，人類只能觀察正在發(fā)生的行為（以及在某些情況下，觀察已經(jīng)作出的決定及其原因），但他們只能在事后或者在等待預(yù)期行為時(shí)采取行動。

根據(jù)這一報(bào)告，雖然2050年戰(zhàn)場上的機(jī)器人跟今天存在的系統(tǒng)相似，如武裝無人機(jī)和“射后不管”導(dǎo)彈等，但比起如今的這些系統(tǒng)，這些機(jī)器人將“擁有更大的機(jī)器推理能力和智能自主權(quán)”。

在2050年的作戰(zhàn)空間里，機(jī)器人通常會團(tuán)隊(duì)作戰(zhàn)，跟今天的軍團(tuán)一樣。根據(jù)已確立的參與條例和優(yōu)先級別，這些自組織或者協(xié)作性機(jī)器人集合將擁有不同程度的行動自由（從受到主動管理到完全自主行動）。機(jī)器人群和團(tuán)隊(duì)（以及個(gè)別機(jī)器人）將被分配各種任務(wù)。

當(dāng)然，依靠高度自治的殺手機(jī)器人力量以及其他新的作戰(zhàn)技術(shù)，會制造敵人可以利用的新的攻擊向量。比如說，如果敵方黑客設(shè)法通過電子欺騙控制美國的陸軍機(jī)器人，會發(fā)生什么？在一個(gè)像是影片《終結(jié)者》的場景里，他們會把槍口對準(zhǔn)攜帶武器的戰(zhàn)友嗎？

在2050年的戰(zhàn)場上，人類有望與機(jī)器人將并肩作戰(zhàn)，那人類和機(jī)器人的分工如何？對此，專家們認(rèn)為：2050年主要的陸軍部隊(duì)將是人類-機(jī)器人混合團(tuán)隊(duì)。為了使人類能夠有效地與機(jī)器人結(jié)成伙伴，必須以各種方式來增強(qiáng)人類小組成員的力量。這些超級人類將有外骨骼，具備多種植入物，并且可以無縫訪問傳感器，認(rèn)知能力得以增強(qiáng)。

最令人感到震撼的是，研討會與會者還預(yù)計(jì)，“轉(zhuǎn)基因士兵”將與“能力未得以增強(qiáng)的人類”一起作戰(zhàn)：他們（轉(zhuǎn)基因超級人類）將擁有得以增強(qiáng)的物理能力、感官和認(rèn)知能力。在2050年這個(gè)時(shí)間框架里，超人類出現(xiàn)在戰(zhàn)場上是極有可能的，這是因?yàn)樾枰獑⒂眠@一發(fā)展的各個(gè)組成部分已經(jīng)存在了，并且正在經(jīng)歷迅速演變。

但是，在任何一點(diǎn)成為現(xiàn)實(shí)之前，將必須克服各種障礙。首先是，將需要開發(fā)新的指揮和控制概念，以成功管理、整合和帶領(lǐng)人類、超人類和機(jī)器人戰(zhàn)士。這意味著，創(chuàng)建一個(gè)成功地將人工與人類智能合并在一處的新型混合認(rèn)知指揮架構(gòu)。

霍金呼吁禁用殺人機(jī)器人

美國《時(shí)代》周刊網(wǎng)站7月28日報(bào)道稱，偉大的理論物理學(xué)家斯蒂芬·霍金和特斯拉汽車公司首席執(zhí)行官埃隆·馬斯克，與數(shù)十名人工智能和機(jī)器人專家在27日發(fā)表的公開信中，一道呼吁禁止使用“攻擊性自動武器”。

“人工智能技術(shù)目前的發(fā)展已經(jīng)使其在幾年內(nèi)、而不是幾十年內(nèi)成為可行——即使法律上不可行事實(shí)上也是可以實(shí)現(xiàn)的，這樣的情況危險(xiǎn)極大，”這封公開信說?！缎l(wèi)報(bào)》報(bào)道說這封信將在布宜諾斯艾利斯舉辦的人工智能國際聯(lián)合大會上宣讀?！白詣游淦鞅环Q為繼火藥、核武器之后的第三次戰(zhàn)爭革命。”

這封公開信把無需人類命令便能夠選擇并攻擊目標(biāo)的人工智能武器，與無人機(jī)和巡航導(dǎo)彈等人類選擇打擊目標(biāo)的武器有所區(qū)別。這封信中還說，雖然對軍隊(duì)官兵來說，人工智能技術(shù)可以令戰(zhàn)區(qū)更加安全，但這種不受人類控制的武器會引發(fā)“全球性人工智能軍備競賽”。

“它們流入黑市或落入恐怖分子和獨(dú)裁者之手不過是時(shí)間問題，”這封信的署名者們警告道。“人工智能可以通過多種方式使戰(zhàn)場對人類、尤其是平民來說更加安全，而不必通過創(chuàng)造殺戮新工具這種方式?！?/p>

英國《金融時(shí)報(bào)》網(wǎng)站7月27日發(fā)表題為《科學(xué)家提醒，要警惕殺人機(jī)器人軍備競賽》的報(bào)道稱，科技界的一些大人物呼吁全球禁止“殺人機(jī)器人”。他們提醒說，越過這一界限，將開啟新一輪全球軍備競賽。

人工智能領(lǐng)域的1000多位專家在一封公開信中表明了干預(yù)態(tài)度。在這封信上署名的包括斯蒂芬·霍金教授、特斯拉公司首席執(zhí)行官埃隆·馬斯克，以及蘋果公司合伙創(chuàng)始人史蒂夫·沃茲尼亞克。

盡管“機(jī)器人士兵”仍處于“紙上談兵”階段，可是計(jì)算能力和人工智能的迅速進(jìn)步，增加了軍方在20年內(nèi)把機(jī)器人士兵派上戰(zhàn)場的可能性。

這封請?jiān)笗?月28日在布宜諾斯艾利斯舉行的國際人工智能聯(lián)合大會上遞交。該信警告說，繼火藥與核武器的發(fā)明之后，可以獨(dú)立確定和襲擊目標(biāo)且不需人類進(jìn)行任何干預(yù)的武器系統(tǒng)的開發(fā)，將會帶來“第三次戰(zhàn)爭革命”。

它描繪了未來沖突的可怕情形，類似于系列電影《終結(jié)者》中的場景。

該信說：“對于執(zhí)行暗殺、破壞國家穩(wěn)定、征服民眾或選擇性殺死特定民族等任務(wù)，自主式武器是理想選擇?！?/p>

“因此，我們認(rèn)為，人工智能軍備競賽對人類而言是無益的。人工智能可以讓戰(zhàn)場變得對人類——尤其平民——而言更安全的方式有許多種，不用創(chuàng)造新的殺人工具。”

聯(lián)合國也擔(dān)心“致命性自主式武器”的開發(fā)，以至于它去年召開了有史以來第一次此類會議，討論新科技帶來的風(fēng)險(xiǎn)。

加利福尼亞大學(xué)伯克利分校的人工智能領(lǐng)域?qū)＜?、該信的署名者之一斯圖爾特·拉塞爾之前曾警告說，機(jī)器人武器系統(tǒng)可能使得人類“毫無防御能力”。

該信是今年第二封猛烈抨擊將人工智能引入到戰(zhàn)場上的信。不過，在呼吁禁止這些武器系統(tǒng)方面，這封最新的請?jiān)笗鴱?qiáng)硬有力得多。該信是由生命未來研究所協(xié)調(diào)寫成的。該所是由包括Skype公司合伙創(chuàng)始人揚(yáng)·塔林在內(nèi)的眾多志愿者于2014年創(chuàng)建的。馬斯克和霍金均是該研究所科學(xué)顧問委員會的成員。

自主式殺人機(jī)器人的想法對許多軍方人士而言具有吸引力，因?yàn)樗鼈兲峁┝酥匾膶硟?yōu)勢，其部署不會令本國部隊(duì)的任何人處于危險(xiǎn)中，而且長期來看，比起必須支持和保護(hù)人員的先進(jìn)武器，如戰(zhàn)斗機(jī)，它們的成本應(yīng)該更加低廉。

五角大樓是機(jī)器人研究的最大支持者之一。2013年，其智庫之一海軍研究處發(fā)給塔夫茨大學(xué)、布朗大學(xué)、倫斯勒理工學(xué)院、喬治敦大學(xué)和耶魯大學(xué)等多所大學(xué)的研究人員一筆研究經(jīng)費(fèi)，高達(dá)750萬美元，讓其研究如何能教會自主式機(jī)器人分辨對錯(cuò)。

西方軍事規(guī)劃者擔(dān)心，如果他們沒能致力于研究這一技術(shù)，那么他們可能會將新一輪軍備競賽的領(lǐng)導(dǎo)權(quán)讓給潛在對手，比如中國。

資料來源：搜狐網(wǎng)、參考消息網(wǎng)、鳳凰網(wǎng)