人工智能武器的法律問(wèn)題探究

摘 要：未來(lái)戰(zhàn)爭(zhēng)將是智能化戰(zhàn)爭(zhēng)，在此背景下致命性自主武器系統(tǒng)（Lethal Autonomous Weapon Systems，LAWS）應(yīng)運(yùn)而生。它將機(jī)器學(xué)習(xí)、算法與武器結(jié)合，具備完全自主的打擊、防御、根據(jù)戰(zhàn)場(chǎng)作出決策的能力。國(guó)際社會(huì)尚未對(duì)LAWS的定義達(dá)成共識(shí)，但可以想象的是，隨著技術(shù)的發(fā)展，LAWS將可以代替人類士兵完成一系列作戰(zhàn)任務(wù)。不僅能夠排除環(huán)境影響因素，減少作戰(zhàn)人員傷亡，還可以改變軍費(fèi)結(jié)構(gòu)，大大降低人力物力的損耗。與此同時(shí)也帶來(lái)了違反人道、法律責(zé)任歸屬模糊等諸多問(wèn)題。目前的軍控條約不能有效限制人工智能武器的發(fā)展，我們應(yīng)重新審視這一新武器的出現(xiàn)，重視對(duì)人工智能武器的法律審查。各國(guó)專家、學(xué)者應(yīng)加強(qiáng)交流，呼吁國(guó)際間成立專門監(jiān)管機(jī)構(gòu)或多邊機(jī)構(gòu)負(fù)責(zé)對(duì)人工智能軍事應(yīng)用的管理。

關(guān)鍵詞：國(guó)際法；國(guó)際人道法；人工智能武器

一、致命性自主武器系統(tǒng)的出現(xiàn)

人工智能技術(shù)在第四次工業(yè)革命時(shí)期的迅速發(fā)展，巨大地影響了人們的生產(chǎn)生活，并普遍地應(yīng)用于經(jīng)濟(jì)、軍事、政治等諸多畛域。歷史的經(jīng)驗(yàn)告訴我們，“落后就要挨打”“發(fā)展才是硬道理”。回顧人類文明的歷史長(zhǎng)河，我們不難發(fā)現(xiàn)，在國(guó)際社會(huì)占據(jù)著主導(dǎo)地位的往往是手握可控的強(qiáng)殺傷武器的國(guó)家。由此，致命性自主武器系統(tǒng)，應(yīng)運(yùn)而生，在武器之上應(yīng)用人工智能技術(shù)，改變傳統(tǒng)的戰(zhàn)爭(zhēng)模式。

（一）致命性自主武器系統(tǒng)的含義

2017年，UC Berkeley大學(xué)的教授Stuart Russell公布了一段“殺人蜂”機(jī)器人的視頻在國(guó)際上引發(fā)高度關(guān)注。視頻中，一個(gè)類似蜜蜂大小的機(jī)器人攜帶三克彈藥飛入教室，通過(guò)人臉識(shí)別準(zhǔn)確瞄準(zhǔn)了學(xué)生的額頭然后一擊致命。雖然視頻中的內(nèi)容不是真實(shí)發(fā)生的，但以現(xiàn)在的技術(shù)制造出這樣的武器已并非難事。這種裝載著先進(jìn)的人工智能，擁有自主控制能力，能自主地決定攻擊和防御，具有剝奪生命的能力的新型武器，就是致命性自主武器，“殺人蜂”機(jī)器人是其中一種。深度學(xué)習(xí)算法和數(shù)據(jù)，共同組成了這種新型武器的CPU（Central Processing Unit），能夠自主進(jìn)行數(shù)據(jù)采集、智能驅(qū)動(dòng)等一系列決策反應(yīng)。

（二）致命性自主武器系統(tǒng)的特點(diǎn)

1. 自主性

在整個(gè)作戰(zhàn)過(guò)程中，LAWS不需要指揮官下達(dá)指令、不需要戰(zhàn)斗員進(jìn)行操控。人工智能具備自主學(xué)習(xí)、自動(dòng)適應(yīng)的能力，可以通過(guò)不斷地經(jīng)驗(yàn)積累實(shí)現(xiàn)系統(tǒng)的智能調(diào)整變化。因此，自主化技術(shù)的應(yīng)用可促使作戰(zhàn)體系中各類系統(tǒng)逐步演變?yōu)樽灾骰到y(tǒng)，例如自主導(dǎo)彈武器系統(tǒng)、自主任務(wù)規(guī)劃系統(tǒng)等[1]。實(shí)際上，在早些時(shí)候，一些武器的設(shè)計(jì)理念和發(fā)射方式已經(jīng)初具自主武器系統(tǒng)的雛形，“末敏彈”就是其中一種?！澳┟魪棥笔菑椀滥┒丝梢蕴綔y(cè)出目標(biāo)裝甲的方位并使戰(zhàn)斗部朝著目標(biāo)方向爆炸的一種新型靈巧彈藥[2]。但“末敏彈”不僅不能自主發(fā)射，不能主動(dòng)跟蹤目標(biāo)，甚至不能撤回，只能在發(fā)射后，通過(guò)一系列程序探測(cè)目標(biāo)。另一種武器是自動(dòng)崗哨炮。自動(dòng)崗哨炮由雷達(dá)控制，通過(guò)激發(fā)閾值條件，自動(dòng)向入侵者實(shí)施打擊。但仍不能說(shuō)自動(dòng)崗哨炮具有了自主性，因?yàn)槠淙匀皇峭ㄟ^(guò)執(zhí)行計(jì)算機(jī)程序完成作戰(zhàn)任務(wù)，只是在武器系統(tǒng)中添加了一個(gè)計(jì)算機(jī)條件語(yǔ)句，如果條件成立，則執(zhí)行一個(gè)結(jié)果，假如條件不成立，則執(zhí)行另一個(gè)結(jié)果，而不能自主選擇劃定自己的攻擊范圍。這個(gè)條件就是在雷達(dá)范圍內(nèi)出現(xiàn)了入侵者，本質(zhì)和地雷一樣，只有戰(zhàn)斗員踩上時(shí)，才會(huì)觸發(fā)爆炸。

2. 靈活性

LAWS的其中一個(gè)優(yōu)勢(shì)是，在戰(zhàn)場(chǎng)上持有LAWS的作戰(zhàn)方將極大的降低己方人員的傷亡。目前，世界各軍事大國(guó)為了提升作戰(zhàn)人員在戰(zhàn)場(chǎng)上的生存能力，研發(fā)了各式各樣的自動(dòng)武器，使武器的配置呈現(xiàn)多樣化。如美國(guó)先進(jìn)的無(wú)人機(jī)技術(shù)，具備快速并且精準(zhǔn)的戰(zhàn)斗能力，既能完成偵察、跟蹤、監(jiān)視等任務(wù)，也能在必要時(shí)給予敵方毀滅性的打擊，在作戰(zhàn)中即使被擊落，損失的僅僅是一架機(jī)器，沒(méi)有任何人員傷亡。但無(wú)人機(jī)并不是自主武器，而是自動(dòng)武器，原因在于無(wú)人機(jī)作出的一系列行為并非是自主決策的，而是由地面操作員使用傳感器操控。但飛機(jī)、坦克、艦艇朝著自主武器發(fā)展已成為一種趨勢(shì)。

LAWS能根據(jù)地形、天氣、溫度、濕度等環(huán)境因素作出靈活反應(yīng)，比人類戰(zhàn)斗員更能克服復(fù)雜、惡劣的戰(zhàn)場(chǎng)環(huán)境。相比于人類戰(zhàn)斗員在任何作戰(zhàn)行動(dòng)中，都會(huì)難以抑制地產(chǎn)生害怕、緊張、焦慮、憤怒等一系列情緒，依靠電子信息運(yùn)轉(zhuǎn)的LAWS則是純粹的殺人機(jī)器，不會(huì)由于疲憊、受傷等原因懈怠作戰(zhàn)任務(wù)的執(zhí)行。換言之，只要武器系統(tǒng)有合理的電源管理和完備的運(yùn)轉(zhuǎn)系統(tǒng)，毀滅目標(biāo)即是LAWS唯一的目的。

LAWS的另一優(yōu)勢(shì)是降低軍費(fèi)支出和改變軍費(fèi)結(jié)構(gòu)。一方面國(guó)家不需要再維持大量的軍事人力支出，從而節(jié)省軍人的生活費(fèi)、裝備購(gòu)置費(fèi)、維修費(fèi)、管理費(fèi)，以及住房、醫(yī)療、保險(xiǎn)、養(yǎng)老等巨大支出。另一方面，將這些開(kāi)支轉(zhuǎn)移到軍事科學(xué)研究費(fèi)上，既能提升軍隊(duì)?wèi)?zhàn)斗力，也能對(duì)民用經(jīng)濟(jì)起到促進(jìn)和推動(dòng)作用。具有軍民共用性質(zhì)的科研、教育以及基本建設(shè)支出，可直接或間接為民用經(jīng)濟(jì)貢獻(xiàn)利益，充分發(fā)揮軍費(fèi)開(kāi)支的社會(huì)綜合使用效益[3]。

3. 雙面性

任何事物都具有兩面性。Stuart Russell教授公布的“殺人蜂”視頻，令人心懷恐懼，恐懼源于人的尊嚴(yán)可能得不到保障。人類被自己創(chuàng)造出的機(jī)器剝奪了生命，這難道不是對(duì)人類尊嚴(yán)的侮辱嗎？如果機(jī)器人能夠決定人的生死，這難道不是對(duì)人權(quán)的挑戰(zhàn)嗎？除此之外，LAWS還在諸多方面威脅著人權(quán)和挑戰(zhàn)人類的尊嚴(yán)，同時(shí)也挑戰(zhàn)著國(guó)際法的原則與底線。

我們無(wú)法知道我們是會(huì)無(wú)限地得到人工智能的幫助，還是被其藐視或被邊緣化，甚至很可能被它毀滅[4]。

二、致命性自主武器系統(tǒng)的法律風(fēng)險(xiǎn)

（一）法律責(zé)任的歸屬模糊不清

目前，計(jì)算機(jī)和人工智能已經(jīng)在生活中的很多領(lǐng)域作出影響人類的決策，小到瑣碎的家務(wù)，例如根據(jù)天氣調(diào)整家里的空調(diào)，幫助用戶制定日常的出行計(jì)劃。甚至在某種程度上，汽車的自動(dòng)駕駛功能可以說(shuō)決定著乘客與路人的生命健康。2018年，亞利桑那州發(fā)生了一起自動(dòng)駕駛汽車撞死路人的案件，事故的責(zé)任主體尚無(wú)法確定，自主武器系統(tǒng)更是一個(gè)人工智能作出決策的極端例子。由于法律缺失，使用者很有可能借此逃避法律責(zé)任。盡管我們可以對(duì)其進(jìn)行道德上的譴責(zé)，但對(duì)于已經(jīng)損失了生命或財(cái)產(chǎn)的受害者來(lái)說(shuō)于事無(wú)補(bǔ)，受害者及其家屬的精神得不到告慰，于是正義便由此喪失了。甚至，有時(shí)候只是系統(tǒng)的漏洞而并非人的意愿就導(dǎo)致了最差的結(jié)果，我們也許應(yīng)該思考，不論研發(fā)人員在研發(fā)過(guò)程中是基于什么樣的心理，這種東西從被應(yīng)用于軍事領(lǐng)域而被創(chuàng)造出來(lái)的那一刻，它的存在本身是否就是非正義的。畢竟，無(wú)論是基于自衛(wèi)還是為了在無(wú)形的“軍備競(jìng)賽”中占據(jù)武力的制高點(diǎn)，LAWS的存在即擁有被用于戰(zhàn)爭(zhēng)的可能性，而戰(zhàn)爭(zhēng)本身，就已經(jīng)充斥著對(duì)生命尊嚴(yán)的漠視和對(duì)人權(quán)的剝奪。

人工智能的本質(zhì)是讓機(jī)器能夠模仿人類大腦對(duì)信息的處理方式，從而對(duì)指令和外部因素作出反應(yīng)。這種反應(yīng)是數(shù)據(jù)運(yùn)算的結(jié)果，并不是機(jī)器真正擁有了思考的能力。數(shù)據(jù)運(yùn)算所依賴的算法是人工編寫(xiě)的，任何人或團(tuán)隊(duì)都不可能預(yù)測(cè)到所有可能出現(xiàn)的場(chǎng)景，人工智能系統(tǒng)中建立的只是一種簡(jiǎn)化模型，即針對(duì)某一類情況全部作出同一種反應(yīng)。人工智能的這種不可避免的缺陷，不同于普通的產(chǎn)品瑕疵責(zé)任，在容錯(cuò)率極低的軍事領(lǐng)域中，模糊的設(shè)置將帶來(lái)巨大的影響，有時(shí)可能會(huì)造成誤傷和誤殺。如果將危害結(jié)果全部認(rèn)定為生產(chǎn)者責(zé)任，這無(wú)疑是不公平的。生產(chǎn)者不應(yīng)當(dāng)承擔(dān)使用者造成的責(zé)任，這會(huì)使得使用者逃脫責(zé)任。但如果讓使用者來(lái)承擔(dān)責(zé)任，那些本意只是針對(duì)作戰(zhàn)目標(biāo)而并不是濫殺無(wú)辜的使用者又會(huì)因此蒙冤。在這種情境下，我們很容易發(fā)現(xiàn)，由于技術(shù)的不成熟，我們好像很難在一場(chǎng)由LAWS引發(fā)的災(zāi)難中裁定責(zé)任的歸屬。

按照《第一附加議定書(shū)》的規(guī)定， 如果指揮官的下級(jí)，正在或者將要施行嚴(yán)重違反日內(nèi)瓦公約或第一附加議定書(shū)的行為，指揮官知曉或者根據(jù)其所掌握的證據(jù)可以知曉嚴(yán)重違反日內(nèi)瓦公約或第一附加議定書(shū)的行為正在實(shí)施或即將實(shí)施，而指揮官?zèng)]有采取措施預(yù)防，即便是下級(jí)所實(shí)施的犯罪行為，亦不能免除指揮官的責(zé)任。通過(guò)上述規(guī)定，我們可以看出，要成立指揮官責(zé)任，必須要有法律或事實(shí)的上下級(jí)的關(guān)系。如果把LAWS看作一件武器工具而直接為指揮官定罪，這忽略了LAWS的自主性，從某種意義上說(shuō)，被LAWS“剝奪”了戰(zhàn)場(chǎng)上的決策權(quán)的指揮官成了替罪羊，這是對(duì)人類尊嚴(yán)的挑戰(zhàn)。而如果承認(rèn)LAWS是事實(shí)意義上的下級(jí)，這意味著賦予了人工智能人格權(quán)，盡管可以認(rèn)定指揮官承擔(dān)共同犯罪的責(zé)任，但將引發(fā)巨大的道德風(fēng)險(xiǎn)。

由LAWS引發(fā)的責(zé)任到底應(yīng)該由誰(shuí)來(lái)承擔(dān)，仍未可知。

（二）無(wú)法辨別戰(zhàn)斗員與非戰(zhàn)斗員

上文提到，由于技術(shù)的不成熟，LAWS可能帶來(lái)一系列危機(jī)，從而威脅人類尊嚴(yán)和挑戰(zhàn)國(guó)際人道法的底線。由于裝載了人工智能，武器擁有了自己的“大腦”，于是能夠在戰(zhàn)場(chǎng)中進(jìn)行一系列的自主行為。但機(jī)器人的自主決策能力是有缺陷的，算法和數(shù)據(jù)能賦予機(jī)器人模仿人類行為模式的能力，卻不能賦予其感情，只是增強(qiáng)了提煉和推算數(shù)據(jù)的能力。在計(jì)算能力上，人工智能遠(yuǎn)超人類智能，在執(zhí)行能力上，人類也遠(yuǎn)不如人工智能果斷、高效，但我們?nèi)匀徽J(rèn)為，人工智能的行為是非理智的，是不全面的。

一個(gè)人類狙擊手在執(zhí)行作戰(zhàn)任務(wù)時(shí)，要計(jì)算距離、風(fēng)速、濕度，在射擊前要受到體力、環(huán)境、心理的影響，而且不能保證百分百命中目標(biāo)。一個(gè)殺手機(jī)器人從鎖定目標(biāo)到完成擊殺可能只需要一瞬間。大肆鼓吹LAWS的人會(huì)借此發(fā)揮，作戰(zhàn)任務(wù)的成功率大大提高了，因此LAWS的投入使用是一勞永逸的。從事理上看，事情的結(jié)果的確是作戰(zhàn)方追求的，但從情理上思考，巨大的道德風(fēng)險(xiǎn)已經(jīng)悄然發(fā)生了。原因在于，一條生命被剝奪的時(shí)候，沒(méi)有經(jīng)過(guò)任何審判。狙擊手在扣動(dòng)扳機(jī)之前，一定會(huì)在腦海中閃過(guò)一個(gè)念頭，這個(gè)人是否真的需要被剝奪生的權(quán)利，或者至少會(huì)意識(shí)到，自己馬上就要?jiǎng)儕Z一個(gè)人的生命。但機(jī)器人在執(zhí)行任務(wù)過(guò)程中，缺少了“理性的思考”這一至關(guān)重要的步驟，而且永遠(yuǎn)也不會(huì)擁有。我們要知道的是，支撐人工智能行為的是數(shù)據(jù)和指令，而不是對(duì)政治、軍事、情感、歷史的綜合分析和思考。這帶來(lái)一個(gè)致命的問(wèn)題：LAWS不知道什么時(shí)候應(yīng)該停止殺戮。

這一問(wèn)題在戰(zhàn)場(chǎng)上的表現(xiàn)是：可能造成無(wú)辜者的犧牲。具體說(shuō)來(lái)，在戰(zhàn)場(chǎng)上投放LAWS的這種作戰(zhàn)手段（方法），挑戰(zhàn)了國(guó)際法對(duì)戰(zhàn)爭(zhēng)與武裝沖突規(guī)定的底線，違反了區(qū)分原則和比例原則等原則。立法目的，是把戰(zhàn)斗員與非戰(zhàn)斗員在戰(zhàn)場(chǎng)之中給予不同對(duì)待。這樣做的意義在于，從人道主義出發(fā)，避免無(wú)辜者的生命和財(cái)產(chǎn)遭受損害。除此之外還要區(qū)分軍用與民用物體和目標(biāo)。而LAWS無(wú)法辨別戰(zhàn)斗員和非戰(zhàn)斗員，因?yàn)樯a(chǎn)者和指揮者不可能采集到戰(zhàn)場(chǎng)上出現(xiàn)的所有敵人的外貌特征，與執(zhí)行暗殺任務(wù)、定點(diǎn)打擊的武器不同，LAWS在戰(zhàn)場(chǎng)上只能對(duì)信息進(jìn)行模糊處理，因此很有可能造成無(wú)辜者的犧牲。然而在戰(zhàn)場(chǎng)上，能否區(qū)分平民與戰(zhàn)斗員只是最基本要求，一個(gè)合格的戰(zhàn)斗員還必須在戰(zhàn)斗員與傷員間、甚至是將要實(shí)施自殺式炸彈襲擊的暴徒和身懷六甲的孕婦間作出區(qū)分，而這些區(qū)分都必須結(jié)合實(shí)時(shí)相關(guān)的情勢(shì)和環(huán)境進(jìn)行判別[5]。

（三）超過(guò)其他限制原則

除了無(wú)辜者的傷亡，一些已經(jīng)退出戰(zhàn)斗的人的生命在LAWS面前也將受到威脅?！度諆?nèi)瓦公約》作出規(guī)定：在戰(zhàn)爭(zhēng)中不能向已經(jīng)跳傘的飛行員射擊。由于人工智能無(wú)法理解或重視生命的價(jià)值和意義，一架裝載了LAWS的無(wú)人機(jī)，很大概率上會(huì)向下落中的飛行員做出過(guò)分攻擊。人道保護(hù)和軍事必要性之間的權(quán)衡與取舍是價(jià)值判斷，而不是僅通過(guò)定量分析就能夠做出的決定，這恰恰是人工智能難以完成的任務(wù)[6]。除此以外，國(guó)際法的諸多原則也都面臨著挑戰(zhàn)。例如，不加限制地給LAWS裝載有過(guò)分殺傷和極度殘忍的武器，違背軍事必要性的原則，以及違反中立原則，造成傷員、病員、戰(zhàn)俘等被保護(hù)的人員傷亡。

另外，還有引起或加劇局部沖突的風(fēng)險(xiǎn)。試想沖突雙方都擁有LAWS，雙方很大程度上會(huì)陷入“囚徒困境”。戰(zhàn)場(chǎng)上，任何人都不愿將自己置于被動(dòng)的境地，因此一方為避免己方遭受慘重的損失，必然會(huì)選擇“背叛”對(duì)方的作戰(zhàn)方式，先行發(fā)動(dòng)攻擊。這種假想防衛(wèi)，會(huì)引發(fā)不必要的沖突，造成不必要的損失，使原先和平談判的機(jī)會(huì)因此喪失。

自主武器應(yīng)用的本意是改變傳統(tǒng)的作戰(zhàn)模式，減少人員的傷亡，從而使人類的生命得到尊重。而在將是否剝奪一個(gè)人性命的審判權(quán)轉(zhuǎn)移到不承認(rèn)人類生命價(jià)值的機(jī)器人的手中時(shí)，人類的尊嚴(yán)受到了威脅。因此我們需要進(jìn)一步地思考和調(diào)查，以確保維持人類對(duì)武器足夠地控制，從而確保人類可以對(duì)武器的使用負(fù)責(zé)。并且在制定法律來(lái)管理LAWS的使用時(shí)，必須采取預(yù)防措施，因?yàn)檫@些法律將如何影響社會(huì)存在不確定性。

三、現(xiàn)有國(guó)際規(guī)則的缺陷

LAWS與核、生物、化學(xué)武器等顯著不同，“全面禁止、徹底銷毀”等針對(duì)核武、生化武器等反人道的大規(guī)模殺傷性武器所倡導(dǎo)的原則，對(duì)于人工智能武器的軍備控制并不適用。但其具有靈活性、自主性、機(jī)動(dòng)性，具有突然進(jìn)攻的軍事能力，又與常規(guī)武器不同，現(xiàn)有的常規(guī)軍備控制條約也不能有效限制人工智能武器的發(fā)展。

目前的軍控條約內(nèi)容主要是限制武器數(shù)量，對(duì)于人工智能武器而言，并不是以量取勝，而是以質(zhì)取勝。對(duì)于軍事強(qiáng)國(guó)來(lái)說(shuō)，出于占領(lǐng)軍事技術(shù)制高點(diǎn)的目的往往不愿意讓本國(guó)的軍備計(jì)劃受到國(guó)際法過(guò)多約束。在有關(guān)國(guó)際規(guī)則不明晰和強(qiáng)軍強(qiáng)國(guó)戰(zhàn)略的背景下，人工智能在軍事領(lǐng)域的威脅在不斷增加。因此加強(qiáng)人工智能的國(guó)際治理工作，降低軍備競(jìng)賽風(fēng)險(xiǎn)則是當(dāng)務(wù)之急[7]。此前，激光致盲武器、殺傷人員地雷、餌雷等其他裝置、無(wú)法檢測(cè)的碎片、燃燒武器等非人道武器已經(jīng)受到相關(guān)條約禁止或限制，LAWS應(yīng)成為現(xiàn)階段軍控的重點(diǎn)。

2014年至2016年，聯(lián)合國(guó)裁軍與國(guó)際安委會(huì)已經(jīng)召開(kāi)三次非正式專家會(huì)議。討論的議題包括技術(shù)革新、概念定義以及這種新型武器可能引發(fā)的安全、法律和倫理道德等各種問(wèn)題[8]。參與者有聯(lián)合國(guó)《特定常規(guī)武器公約》的締約國(guó)，各類國(guó)際組織、非政府組織、大學(xué)等學(xué)術(shù)和教育機(jī)構(gòu)的專家學(xué)者。樂(lè)觀的是，目前已經(jīng)有越來(lái)越多的國(guó)家開(kāi)始關(guān)注新武器的發(fā)展趨勢(shì)并為之擔(dān)憂，以及越來(lái)越多的專家學(xué)者主要是國(guó)際人道法學(xué)家開(kāi)始呼吁限制新武器的發(fā)展和使用，這表明新武器的發(fā)展和使用已逐漸成為一個(gè)正式層面的國(guó)際熱點(diǎn)話題而為人所審視。

《日內(nèi)瓦四公約第一附加議定書(shū)》規(guī)定，在發(fā)展和使用新武器時(shí)，要預(yù)先對(duì)其影響作出判斷。因此，各國(guó)有義務(wù)對(duì)新武器、作戰(zhàn)手段及方法進(jìn)行法律審查，以確定它們是合法的，并需要明確在某些情形下使用這些武器是不是違反國(guó)際法。不過(guò)至今自主武器系統(tǒng)仍無(wú)一個(gè)明確的、為世界所公認(rèn)的定義，只有國(guó)際紅十字委員會(huì)等國(guó)際組織的一些解釋，更無(wú)權(quán)威機(jī)構(gòu)徹底審視自主武器系統(tǒng)的合法性并呼吁全面禁止。原因有以下幾點(diǎn)。

（1）自主武器系統(tǒng)現(xiàn)階段只是一個(gè)武器搭載平臺(tái)，其上所搭載的機(jī)槍、榴彈、高射炮、導(dǎo)彈等本身是合法的，違法的是造成傷害的行為。

（2）研發(fā)LAWS的本意是震懾武力的使用，并在必要時(shí)保全己方士兵的生命，從生命健康權(quán)的角度看，LAWS保全了人的人格權(quán)，使人類尊嚴(yán)得到保障，但卻可能造成戰(zhàn)爭(zhēng)受難者的傷亡。

（3）人工智能已廣泛出現(xiàn)于各個(gè)領(lǐng)域，人類的天性決定了我們不會(huì)把已經(jīng)出現(xiàn)了的問(wèn)題放到以后解決，但以目前人類的道德水平又很難使LAWS得到合理使用。因此以目前的技術(shù)水平和法律技術(shù)，自主武器系統(tǒng)還難以規(guī)制。

四、致命性自主武器系統(tǒng)的規(guī)制建議

首先，應(yīng)盡早創(chuàng)立監(jiān)管人工智能武器的專業(yè)國(guó)際組織，可以作為聯(lián)合國(guó)的一個(gè)下屬機(jī)構(gòu)，或多邊機(jī)構(gòu)，專門負(fù)責(zé)對(duì)人工智能軍事應(yīng)用的管理[9]。同時(shí)呼吁各國(guó)在其管轄范圍內(nèi)建立權(quán)威的機(jī)構(gòu)，對(duì)LAWS進(jìn)行法律審查，事先確定其合法性，并就責(zé)任的分配問(wèn)題與相關(guān)團(tuán)體進(jìn)行談判，完善責(zé)任機(jī)制。

第二，明確LAWS的法律性質(zhì)，它不是一種新的作戰(zhàn)手段和方法，而是一種新武器。由于LAWS具有自主性，使用者僅僅是需要啟動(dòng)它并投放戰(zhàn)場(chǎng)，因此對(duì)于LAWS的使用并不能稱為一種方法。而且LAWS并不是在所有情境中的使用都是極度殘忍、都是背信棄義、都是不分青紅皂白地，只是由于技術(shù)的原因有傷害無(wú)辜者的風(fēng)險(xiǎn)。如果確認(rèn)為一種作戰(zhàn)方法對(duì)于武器的投放者而言，決策權(quán)在戰(zhàn)場(chǎng)之中是被剝奪的，人類的尊嚴(yán)絕不容許受到這樣威脅。武器是人類制造的，再先進(jìn)的武器也是由人來(lái)完成控制和使用，通過(guò)法律審查的LAWS必須在一個(gè)人的適當(dāng)和有效的控制之下。所引發(fā)的風(fēng)險(xiǎn)應(yīng)通過(guò)軍備控制來(lái)進(jìn)行有效限制，具體可根據(jù)LAWS裝載的武器和使用途徑參照《特定常規(guī)武器公約》的經(jīng)驗(yàn)。

第三，禁止LAWS成為濫殺濫傷或造成過(guò)分傷害的武器。在任何武裝沖突中，國(guó)家選擇使用LAWS的權(quán)利都是有所限制的。承認(rèn)新武器的地位并不意味著國(guó)家可以無(wú)限制地發(fā)展和使用新武器，還需要考慮政治和道德因素。一個(gè)國(guó)家不應(yīng)因?yàn)榧夹g(shù)的優(yōu)勢(shì)利用LAWS造成過(guò)分傷害或不必要的痛苦，即便是無(wú)意地傷害，也為國(guó)際社會(huì)帶來(lái)了道德風(fēng)險(xiǎn)，因此國(guó)家應(yīng)合法、有區(qū)別和按比例地使用LAWS。

第四，各國(guó)的專家學(xué)者應(yīng)繼續(xù)加強(qiáng)國(guó)際間學(xué)術(shù)交流。一方面應(yīng)積極指出LAWS目前存在哪些的技術(shù)問(wèn)題，可能會(huì)帶來(lái)哪些不可挽回的損失。另一方面要審視LAWS是如何違反人道的。武器的威力越大，改變戰(zhàn)爭(zhēng)結(jié)局的可能性就愈高。同樣，脫離人控制的可能性也越高，受制的因素也應(yīng)該更多，因此投入使用的概率應(yīng)該越小。各國(guó)專家學(xué)者應(yīng)積極建言獻(xiàn)策，以避免軍備競(jìng)賽以及一系列道德危機(jī)。

第五，各軍事強(qiáng)國(guó)應(yīng)共同攜手維護(hù)國(guó)際安全?，F(xiàn)代戰(zhàn)爭(zhēng)中，武器成了決定戰(zhàn)爭(zhēng)成敗的重要因素，往往是掌握尖端科學(xué)技術(shù)的國(guó)家引領(lǐng)著武器的發(fā)展方向。新武器是科學(xué)技術(shù)的結(jié)晶，與之匹配的應(yīng)是足夠高的社會(huì)文明和道德素養(yǎng)，而不應(yīng)該把武器當(dāng)作維護(hù)霸權(quán)主義或占據(jù)軍事制高點(diǎn)的工具，各軍事強(qiáng)國(guó)應(yīng)樹(shù)立責(zé)任意識(shí)，共同推動(dòng)對(duì)新武器的限制和制約，維護(hù)國(guó)際社會(huì)的和諧穩(wěn)定。

五、結(jié)語(yǔ)

目前，致命性自主武器系統(tǒng)的使用是違法的，更是嚴(yán)重違反人道的，但關(guān)于自主武器系統(tǒng)應(yīng)用的討論已經(jīng)到了一個(gè)分水嶺。我們要承認(rèn)，人工智能武器能在降低軍費(fèi)、提高管理效率、操作能力方面提供巨大回報(bào)。但前提是LAWS能得到合法使用，但實(shí)際情況是一些弱人工智能時(shí)代無(wú)法解決的技術(shù)問(wèn)題會(huì)給人類尊嚴(yán)帶來(lái)威脅，讓LAWS的使用變得不合法，這讓我們不得不猶豫是否暫緩或禁止這種武器的研發(fā)使用。

近年來(lái)，中國(guó)對(duì)這一問(wèn)題的研究貢獻(xiàn)了諸多力量，無(wú)數(shù)專家學(xué)者提出了中國(guó)方案，展現(xiàn)了中國(guó)智慧。不管是現(xiàn)在還是將來(lái)，中國(guó)都應(yīng)繼續(xù)在國(guó)際社會(huì)中保持負(fù)責(zé)任的大國(guó)形象，一方面應(yīng)積極推進(jìn)有關(guān)限制條約的談判和協(xié)商，另一方面要積極申請(qǐng)和保護(hù)我國(guó)在人工智能方面的知識(shí)產(chǎn)權(quán)，以此避免用以造福人類的先進(jìn)技術(shù)被居心叵測(cè)之人用于破壞人類安寧的行為。我們反對(duì)一切用于非正義行為的武器。

可怕的并不是違法的東西，因?yàn)檫`法的東西可以從根源上扼殺。真正可怕的是用違法的方式使用合法的東西，而這往往讓人防不勝防。否則，當(dāng)人工智能技術(shù)完全成熟的那一天到來(lái)，人們也難以守住最基本的道德底線[10]。

參考文獻(xiàn)：

[1] 秦園麗，張訓(xùn)立，高桂清，王康.自主式導(dǎo)彈作戰(zhàn)體系建設(shè)的思考[J].飛航導(dǎo)彈，2019（11）：4-7+47.

[2] 辛宇天，楊成文，樊琨.末敏彈及其對(duì)抗方法分析[J].艦船電子工程，2013，33（12）：16-17+75.

[3] 潘倩.軍費(fèi)結(jié)構(gòu)優(yōu)化的機(jī)會(huì)成本分析[J].現(xiàn)代商貿(mào)工業(yè)，2011，23（23）：189-190.

[4] 霍金.讓人工智能造福人類及其賴以生存的家園[J].智能機(jī)器人，2017（2）：21-23.

[5] 李錚.國(guó)際人道法下新武器之自主武器系統(tǒng)合法性探究[J].軍事文摘，2019（19）：46-50

[6] 基于國(guó)際人道法的人工智能武器爭(zhēng)議[J].信息安全與通信保密，2019（5）：25-27

[7] 魯傳穎.人工智能安全：挑戰(zhàn)與機(jī)遇[J].重慶與世界，2018（20）：59-61.

[8] 劉楊鉞.全球安全治理視域下的自主武器軍備控制[J].國(guó)際安全研究，2018，36（2）：49-71+157-158.

[9] 周璞芬，王一泓.淺談人工智能軍事應(yīng)用的國(guó)際法風(fēng)險(xiǎn)及對(duì)策[J].國(guó)防，2019（10）：22-26.

[10] 李錚.國(guó)際人道法下新武器之自主武器系統(tǒng)合法性探究[J].軍事文摘，2019（19）：46-50.

作者簡(jiǎn)介：吳鈺章（1998- ），男，山東青島人，中國(guó)人民公安大學(xué)碩士研究生，研究方向?yàn)閲?guó)際法學(xué)。