人類真能派機(jī)器人殺人放火嗎？

編譯 王玥嬌 編輯 徐臻

智識

人類真能派機(jī)器人殺人放火嗎？

編譯 王玥嬌 編輯 徐臻

電影《復(fù)仇者聯(lián)盟2：奧創(chuàng)紀(jì)元》中的人造機(jī)器人奧創(chuàng)

一旦錯殺，誰為“殺人機(jī)器人”負(fù)責(zé)？

“殺人機(jī)器人”（致命性自主武器系統(tǒng)）正站在倫理辯論席上。

簡而言之，他們能夠代替士兵自動殺傷敵人。機(jī)器人們由人類遠(yuǎn)程操控，發(fā)展至由計(jì)算機(jī)軟件和傳感器裝置控制，進(jìn)而全自動執(zhí)行識別敵人、判斷敵情和殺死敵人等任務(wù)。

這是對軍方的極大誘惑：無需報(bào)酬、不休不眠、沒有情緒且自主執(zhí)行上級命令。最重要的是，即便它們在戰(zhàn)場上大規(guī)?！八纻?，國內(nèi)民眾也不會感到任何悲痛。

目前，最接近“殺人機(jī)器人”的是韓國研發(fā)并開始使用的一款哨兵機(jī)器人。它的個(gè)頭與3歲孩子相當(dāng)，重17公斤。這款造價(jià)約20萬美元的機(jī)器人能識別2千米（白天）和1千米（夜間）以外的人、汽車或樹木，還可探測到4千米（白天）和2千米（夜間）以外的移動物體；能夠盤問10米以內(nèi)的來客，并在偵測到闖入者時(shí)發(fā)出警報(bào)。

距離“殺人機(jī)器人”真正部署到戰(zhàn)場可能還需要20-30年，但已經(jīng)引發(fā)對機(jī)器人武器軍備競賽的擔(dān)心。

“殺人機(jī)器人”是否有權(quán)處置人類生死？

在所有管理機(jī)器人的規(guī)則和道德框架中，最著名的是1942年的阿西莫夫三大定律：機(jī)器人不得傷害人類，或因不作為使人類受到傷害；除非違背第一法則，機(jī)器人必須服從人類命令；在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。

這套規(guī)則在科幻世界規(guī)范著機(jī)器人的行為，因?yàn)樾≌f設(shè)計(jì)成所有的“正子腦”都由同一位天才科學(xué)家設(shè)計(jì)出來，別人的設(shè)計(jì)都失敗了。但在現(xiàn)實(shí)世界中，設(shè)計(jì)和使用機(jī)器人的人類才必須成為這種規(guī)則的遵守者。

致力于制定機(jī)器人規(guī)則的英國工程和物理科學(xué)研究理事會成員喬安娜?布萊森認(rèn)為：“人類需要建立自身的道德框架，機(jī)器人不用。因此人類有必要做出選擇，把機(jī)器人放在人的道德框架內(nèi)才不會殘殺地球上的其他生命?！?