如何重構(gòu)智能機(jī)器時(shí)代的社會(huì)倫理道德？—讀《道德機(jī)器：如何讓機(jī)器人明辨是非》

文＝劉英團(tuán)

書(shū)名：《道德機(jī)器：如何讓機(jī)器人明辨是非》

現(xiàn)代科技的每一次跨越，總會(huì)引發(fā)人們對(duì)社會(huì)倫理道德的憂慮。隨著機(jī)器人越來(lái)越智能和普遍，自動(dòng)化機(jī)器終將在不可預(yù)知的情形下做出生死攸關(guān)的決定，從而具備——或至少表面上具備——道德主體資格。

科幻小說(shuō)作家艾薩克·阿西莫夫（Isaac Asimov）在短篇小說(shuō)《環(huán)舞》（Runaround）中提出了“機(jī)器人三大法則”（包括“機(jī)器人不可以傷害人類，或看到一個(gè)人將受到傷害而不作為”“機(jī)器人必須服從人類的命令，除非這些命令與第一項(xiàng)法則矛盾”以及“在不違反第一、第二項(xiàng)法則的前提下，機(jī)器人必須保護(hù)自身生存”），被幾十篇故事和小說(shuō)所借用。但是，這些保護(hù)性設(shè)計(jì)或者內(nèi)置的道德法則能框住擁有獨(dú)立思考能力的機(jī)器人嗎？人們對(duì)于把自己的生命和福祉交給忽視倫理的系統(tǒng)會(huì)感到放心嗎？著名倫理學(xué)家、耶魯大學(xué)生物倫理學(xué)跨學(xué)科中心主管溫德?tīng)枴ね呃眨╓endell Wallach）和國(guó)際知名認(rèn)知科學(xué)哲學(xué)家，美國(guó)印第安納大學(xué)布盧明頓分校教務(wù)長(zhǎng)、講席教授、斯坦福哲學(xué)百科（SEP）副主編科林·艾倫（Colin Allen）認(rèn)為，機(jī)器道德關(guān)乎人類的決策行為。他們?cè)凇兜赖聶C(jī)器：如何讓機(jī)器人明辨是非》中指出，不要把責(zé)任推給機(jī)器，“我們必須更加堅(jiān)守人類的價(jià)值觀和倫理?！?/p>

我們置身于一個(gè)豐富多彩的世界，也生活在一個(gè)困惑和焦慮的時(shí)代?！叭祟悰Q策者會(huì)因?yàn)闆](méi)有掌握全部相關(guān)信息或沒(méi)有考慮到所有偶發(fā)事件而做出糟糕的選擇，所以也許只有在一場(chǎng)未預(yù)料到的災(zāi)難發(fā)生之后，人類才會(huì)發(fā)現(xiàn)他們所依賴的（軟硬件）機(jī)器人的不完善。”正如作者所言，在未來(lái)，可能會(huì)出現(xiàn)一些無(wú)人駕駛汽車需要做出選擇的場(chǎng)合—選哪條路，誰(shuí)會(huì)受到傷害，或誰(shuí)會(huì)處于受傷害的風(fēng)險(xiǎn)里？我們應(yīng)該對(duì)汽車進(jìn)行什么樣的道德規(guī)范？我們當(dāng)然有理由擔(dān)心，我們也許不能完全理解為什么機(jī)器人做出了某個(gè)特別的決定。但是，我們需要確保機(jī)器人不會(huì)吸收和加重我們的偏頗之處。因?yàn)椴还芪覀兿矚g與否，機(jī)器人就在我們的身邊，“到2030年，自動(dòng)卡車、飛行汽車和個(gè)人機(jī)器人將隨處可見(jiàn)”（斯坦福大學(xué)《2030年的人工智能與生活》報(bào)告），包括交通、醫(yī)療、教育、金融和就業(yè)等各個(gè)領(lǐng)域，人工智能正以人們意想不到的方式融入人類社會(huì)。那么，研究人員怎樣設(shè)計(jì)一臺(tái)機(jī)器人才能使它在面對(duì)“兩難之選”時(shí)作出正確的反應(yīng)呢？

“機(jī)器需要講道德，”這是英國(guó)皇家標(biāo)準(zhǔn)協(xié)會(huì)（BSI）最新標(biāo)準(zhǔn)《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》（BS8611）的硬性規(guī)定?，F(xiàn)代科技的每一次跨越，總會(huì)引發(fā)人們對(duì)社會(huì)倫理道德的憂慮。隨著機(jī)器人越來(lái)越智能和普遍，自動(dòng)化機(jī)器終將在不可預(yù)知的情形下做出生死攸關(guān)的決定，從而具備—或至少表面上具備—道德主體資格?！鞍柗ü贰痹趯?duì)弈中戰(zhàn)勝了李世石和柯潔，“一個(gè)純凈、純粹自我學(xué)習(xí)的AlphaGo Master是最強(qiáng)的，對(duì)于AlphaGo Master的自我進(jìn)步來(lái)講，人類太多余了”（柯潔語(yǔ)），就像一只螞蟻永遠(yuǎn)無(wú)法阻止我們一樣，人類想阻止人工智能的想法已經(jīng)不可能了。那么，如果有一天AI的能力超過(guò)人類，是否會(huì)反過(guò)來(lái)統(tǒng)治人類呢？包括霍金、馬斯克在內(nèi)的科技巨人都曾警示，“人類不應(yīng)低估人工智能發(fā)展可能帶來(lái)的嚴(yán)重后果?！甭槭±砉W(xué)院情感計(jì)算研究組主任羅薩琳德·皮卡德（Rosatlind Picard）教授認(rèn)為，“機(jī)器越自由，就越需要道德準(zhǔn)則。”在《道德機(jī)器：如何讓機(jī)器人明辨是非》一書(shū)中，作者通過(guò)強(qiáng)調(diào)兩個(gè)維度—針對(duì)道德相關(guān)事實(shí)的自主性維度和敏感性維度，給出一個(gè)關(guān)于日趨復(fù)雜的AMAs（人工道德智能體）軌跡的理解框架，以“評(píng)估它們面對(duì)的選項(xiàng)的倫理可接受性”。

機(jī)器的智能化正在逐步深入到生活領(lǐng)域：客機(jī)自動(dòng)降落，列車無(wú)人駕駛，沒(méi)有方向盤、剎車和駕駛座位的無(wú)人駕駛的汽車正在緊張的測(cè)試中。但是，機(jī)器人之“人”終究不是人類之“人”，“如果人們不確定機(jī)器會(huì)做什么，他們會(huì)害怕機(jī)器人的……如果我們能分析并證明它們的行為原因，就更可能克服信任問(wèn)題?！庇?guó)利物浦大學(xué)計(jì)算機(jī)科學(xué)家邁克爾·費(fèi)希爾（Michael Fisher）和英國(guó)西部大學(xué)艾倫·溫菲爾德（Alan Winfield）教授共同做的一項(xiàng)政府資助的項(xiàng)目證明“道德機(jī)器程序的結(jié)果總是可知”的?！霸诋?dāng)前的技術(shù)水平下，我們不能‘譴責(zé)’機(jī)器人。機(jī)器人尚未達(dá)到為自己的決策負(fù)責(zé)的水平?！彼_塞克斯大學(xué)人工智能專家布萊·惠特比（Blay Whitby）認(rèn)為，即使最低限度的道德機(jī)器人也是有用的。來(lái)自國(guó)際計(jì)算機(jī)科學(xué)家團(tuán)隊(duì)的一項(xiàng)新研究著手開(kāi)發(fā)一種新型的博弈算法—其可以依靠協(xié)作和妥協(xié)等特性來(lái)進(jìn)行博弈，而且研究人員已經(jīng)發(fā)現(xiàn)，機(jī)器已經(jīng)可以比人類更好地部署這些特性。作者認(rèn)為，隨著機(jī)器變得更加復(fù)雜，一種“功能性道德”在技術(shù)上變得可能，它可以使機(jī)器自身有能力來(lái)接近并響應(yīng)道德挑戰(zhàn)。

現(xiàn)代科技推動(dòng)了人類社會(huì)進(jìn)步，希望我們的結(jié)局不會(huì)像電影《黑客帝國(guó)》（The Matrix）里那樣—機(jī)器徹底推翻了人類的統(tǒng)治，人類的肉體被養(yǎng)殖，精神存活在網(wǎng)絡(luò)構(gòu)建的虛擬世界里—“人類迫切需要確保機(jī)器人的設(shè)計(jì)符合道德規(guī)范”，以維護(hù)人類的社會(huì)價(jià)值觀和社會(huì)倫理道德。在《道德機(jī)器：如何讓機(jī)器人明辨是非》中，作者不但很自然地導(dǎo)入“人類是否想要計(jì)算機(jī)做道德決策”，還將注意力轉(zhuǎn)向道德決策的具體執(zhí)行上。在作品中，作者以生動(dòng)的案例勾勒出科學(xué)家和工程師必須向彼此所提供的東西，并詳細(xì)地描述了設(shè)計(jì)AMAs的自上而下式進(jìn)路和自下而上式或發(fā)展的一個(gè)基本框架。其中，不僅討論了基于規(guī)則和基于責(zé)任的倫理學(xué)概念的可計(jì)算性與可實(shí)踐性，還論證了AMAs的不同程序化進(jìn)路的優(yōu)勢(shì)和劣勢(shì)，然后以一種哲學(xué)和認(rèn)知的復(fù)雜、周密的方式為工程AMAs做鋪墊，“至于未來(lái)的機(jī)器人是不是‘真的’道德主體，這無(wú)關(guān)緊要。我們有可能設(shè)計(jì)、建造出能夠考量法律和道德因素而去實(shí)施決策的系統(tǒng)……”