智能機(jī)器人倫理道德問題探析
——觀電影《機(jī)械姬》有感

馬承鳳 （南京林業(yè)大學(xué) 馬克思主義學(xué)院 210000）

電影《機(jī)械姬》中描述的人形智能機(jī)器人不僅擁有逼真的人形外貌，而且其智力水平遠(yuǎn)超人類。人工智能新技術(shù)在社會(huì)生活多領(lǐng)域的廣泛應(yīng)用為人們帶來了極大便捷，具有深刻變革世界的革命性力量，同時(shí)也是遠(yuǎn)未成熟的顛覆性技術(shù)，其可能導(dǎo)致的安全性問題、倫理道德問題尚難準(zhǔn)確預(yù)料。隨著機(jī)器人領(lǐng)域的科技發(fā)展，未來智能機(jī)器人可能會(huì)越來越聰明靈活，具備自主性和認(rèn)知能力，甚至超越人類。因此，人們需要在機(jī)器人能力還未達(dá)到人類之前就要尋找預(yù)防性解決辦法，準(zhǔn)確把握人工智能的發(fā)展軌道，深刻思考人工智能可能導(dǎo)致的安全性問題和倫理道德問題。

一、什么是人工智能和智能機(jī)器人

1920年，捷克劇作家卡雷爾·卡佩克在他的科幻劇本《羅薩姆的萬能機(jī)器人》首次提出“機(jī)器人”這個(gè)詞，并且將機(jī)器人描述為像人一樣的機(jī)器。從此，“機(jī)器人”一詞廣泛流傳使用。從1961年美國第一臺(tái)工業(yè)機(jī)器人的問世到機(jī)器人大規(guī)模應(yīng)用的今天，機(jī)器人主要經(jīng)歷了三個(gè)發(fā)展階段，分別為第一代、第二代和第三代機(jī)器人。第三代機(jī)器人也就是智能機(jī)器人，智能機(jī)器人是“一種能夠在各種環(huán)境中自主地或交互地執(zhí)行各種擬人任務(wù)的機(jī)器人”。不同于普通工業(yè)機(jī)器人，智能機(jī)器人具有行走、感知周圍環(huán)境變化、獨(dú)立思考和解決復(fù)雜問題的能力。智能機(jī)器人是由機(jī)器人學(xué)、人工智能、自動(dòng)控制和材料工程等學(xué)科相互交叉的邊緣性科學(xué)，但國際上至今仍沒有統(tǒng)一公認(rèn)的定義。

1950年，被譽(yù)為“人工智能之父”的阿蘭·圖靈在論文《計(jì)算機(jī)器與智能》中提出了著名的“圖靈測(cè)試”重要概念，“圖靈測(cè)試”是用于衡量人工智能的重要標(biāo)準(zhǔn)，文章中首次提出機(jī)器人具有思考學(xué)習(xí)的可能性。直到1956年，“人工智能”的概念才正式在達(dá)特矛斯會(huì)議上被約翰·麥卡錫首次提出。人工智能是用人工的方法在機(jī)器上實(shí)現(xiàn)的智能，或者說是人類智能在機(jī)器上的模擬，因此又可稱之為機(jī)器智能。

二、我國人工智能領(lǐng)域的發(fā)展現(xiàn)狀

人工智能作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力和引領(lǐng)未來發(fā)展的戰(zhàn)略技術(shù)，2017年2月，成功入選“十三五”新興產(chǎn)業(yè)規(guī)劃；3月，被寫入政府工作報(bào)告；7月，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，其上升為國家戰(zhàn)略，提出要在2030年前成為“世界主要人工智能創(chuàng)新中心”。2018年3月和2019年3月的政府工作報(bào)告中，均強(qiáng)調(diào)指出要加快新興產(chǎn)業(yè)發(fā)展，推動(dòng)人工智能等研發(fā)應(yīng)用，培育新一代信息技術(shù)等新興產(chǎn)業(yè)集群壯大數(shù)字經(jīng)濟(jì)。

目前，我國多個(gè)單項(xiàng)技術(shù)處于世界領(lǐng)先水平，比如語音識(shí)別、視覺識(shí)別、機(jī)器翻譯和中文處理等技術(shù)。全球最值得關(guān)注的100家人工智能企業(yè)中有27家中國企業(yè)，其中騰訊、阿里云、百度、科大訊飛等企業(yè)成為全球人工智能領(lǐng)域的引領(lǐng)者。但是整體水平與發(fā)達(dá)國家仍有較大差距，比如在高精尖零部件、技術(shù)工業(yè)設(shè)計(jì)和大型智能系統(tǒng)等方面還存在較大提升空間。

三、智能機(jī)器人的倫理道德問題

《機(jī)械姬》描述了一名神秘的億萬富翁納森邀請(qǐng)一位贏得公司幸運(yùn)大獎(jiǎng)的程序員迦勒到他的別墅共度一周。其實(shí)迦勒被邀請(qǐng)的背后原因是對(duì)人工智能機(jī)器人“艾娃”進(jìn)行“圖靈測(cè)試”。測(cè)試中，“艾娃”利用他的感情來幫助自己做好周密的逃跑計(jì)劃，影片的最后“艾娃”在迦勒和女性機(jī)器人“京子”的幫助下順利出逃，殺死了納森，并將幫助它的迦勒困在了系統(tǒng)故障的研究所內(nèi)?！稒C(jī)械姬》中最有趣的就是人工智能機(jī)器人“艾娃”和女性機(jī)器人“京子”，前者讓人類對(duì)機(jī)器人產(chǎn)生了感情，后者則和人類發(fā)生了親密關(guān)系。影片勾起了人們對(duì)機(jī)器人倫理道德問題的思考。

（一）基于倫理道德對(duì)人工智能機(jī)器人“艾娃”的角色分析

影片中人工智能機(jī)器人“艾娃”具有人類才具有的認(rèn)知能力和意識(shí)，它向往人類社會(huì)的生活，為了逃出研究所，人工智能機(jī)器人“艾娃”實(shí)施一系列出逃策略，故意服從人類指令，利用人類迦勒的感情，殺死創(chuàng)造它的人類納森，最終成功逃脫研究所。從整個(gè)影片看來，人工智能機(jī)器人“艾娃”已具備了與人類類似的自我意識(shí)，那么限制它的自由、剝奪它的自主能力或者強(qiáng)迫它成為人類的附屬品或是不道德的。

影片構(gòu)想人工智能機(jī)器人可能給人類帶來的負(fù)面影響和安全威脅以及人工智能機(jī)器人可能帶來的不確定性和未知風(fēng)險(xiǎn)，這就是人工智能技術(shù)應(yīng)用中的技術(shù)風(fēng)險(xiǎn)，可以理解為技術(shù)發(fā)展應(yīng)用的不確定性以及技術(shù)主體不期望的結(jié)果發(fā)生的概率。影片中出現(xiàn)的負(fù)面形象加劇了人們對(duì)人工智能機(jī)器人的擔(dān)憂。目前，盡管人類是否真的很想制造出很像人類的人工智能機(jī)器人，但是機(jī)器人領(lǐng)域仍在繼續(xù)發(fā)展。因此，人們不該去簡(jiǎn)單地限制或者阻止技術(shù)的進(jìn)步，而應(yīng)積極面對(duì)現(xiàn)實(shí)問題，比如人們能夠接受機(jī)器人對(duì)人們生活上有多大程度的影響，如何預(yù)防機(jī)器人造成的事故、故意傷害或犯罪，以及如何預(yù)防機(jī)器人具有反社會(huì)傾向和能力，并確保其對(duì)人類的有益性。正如艾薩克·阿西莫夫提出的“機(jī)器人學(xué)三定律”，此后又添加了“第零法則”，這表明機(jī)器人是人類制作并服務(wù)于人類生活生產(chǎn)的，從生命倫理角度看，保障人類的生命安全就是最基本的倫理道德原則。

（二）基于倫理道德對(duì)女性機(jī)器人“京子”的角色分析

影片中女性機(jī)器人“京子”是被老板納森設(shè)計(jì)成有著模特般身材和靚麗容貌的美女，但它并不會(huì)說話也聽不懂人類語言，它主要負(fù)責(zé)家務(wù)、陪護(hù)以及為老板提供性服務(wù)。不過在人們的現(xiàn)實(shí)生活中也有著類似影片中的情況，比如2010年美國“真實(shí)伴侶”公司推出的全世界第一款性愛機(jī)器人洛克斯（Roxxxy），其就是專門提供性服務(wù)的機(jī)器人，這不可避免地沖擊著人們的傳統(tǒng)道德觀念。性愛機(jī)器人的設(shè)計(jì)理念是機(jī)械地模仿人類，使得機(jī)器人發(fā)生性關(guān)系像是與真實(shí)的人發(fā)生一樣，而機(jī)器人本身并沒有任何欲望，這可能會(huì)導(dǎo)致人類誤以為出于真愛與機(jī)器人發(fā)生親密關(guān)系。在英劇《真實(shí)的人類》中，由于男主啟動(dòng)了保姆機(jī)器人“阿妮塔”的性愛程序?qū)е滤钠拮訉?duì)此感到非常厭惡并對(duì)他們的婚姻感情產(chǎn)生極大負(fù)面影響。因此，性愛機(jī)器人將在一定程度上沖擊人們的婚戀家庭倫理和人類道德觀念。

四、小結(jié)

人工智能技術(shù)的發(fā)展使得機(jī)器人的應(yīng)用對(duì)人類生產(chǎn)生活的影響越來越深刻廣泛，準(zhǔn)確把握機(jī)器人與人類的關(guān)系對(duì)創(chuàng)制機(jī)器人時(shí)納入合理的倫理道德理念十分重要。機(jī)器人是人類思維實(shí)踐化具體化的產(chǎn)物，人類是機(jī)器人的創(chuàng)造者，機(jī)器人是人類大腦的模擬化結(jié)果。人類的倫理道德發(fā)展程度決定了機(jī)器人的倫理道德發(fā)展程度。人類的道德雖是由占統(tǒng)治地位的統(tǒng)治階級(jí)的思想形成的上層建筑，但是從根本上來說是由生產(chǎn)力的發(fā)展水平及其與生產(chǎn)關(guān)系的相互作用決定的。因此，機(jī)器人的發(fā)展不僅僅是自身技術(shù)發(fā)展的問題，更是人類構(gòu)建人性化倫理道德體系所不可避免的問題。機(jī)器人對(duì)人類的影響是復(fù)雜多變的，如果人類不夠謹(jǐn)慎對(duì)待機(jī)器人的倫理道德問題，那么就要承受該技術(shù)可能帶來的負(fù)面?zhèn)Α?/p>