造物奇跡背后的危機

姚含鈺

摘要：在瑪麗·雪萊的《弗蘭肯斯坦》中，隱藏著預(yù)言般的對啟蒙理念中自然科學(xué)崇拜的反思。它既認可了啟蒙思想中的科學(xué)熱情，但也對人類自我中心的科學(xué)熱情進行了超前的預(yù)警。人類自我中心的科學(xué)熱情，會導(dǎo)致人類對“全能造物主身份”的迷戀，從而導(dǎo)致“造物”行為的無約束性，最終導(dǎo)致自然和造物的報復(fù)?！陡ヌm肯斯坦》對人類造物激情及倫理缺失帶來的問題的揭示，與今天的人工智能時代所要面臨的問題不謀而合，具有很強的啟發(fā)性。

關(guān)鍵詞：《弗蘭肯斯坦》;啟蒙理念;造物現(xiàn)象反思

《弗蘭肯斯坦》是英國十九世紀作家瑪麗·雪萊（1797-1851）的著名小說作品，故事描述青年科學(xué)家維克托·弗蘭肯斯坦通過試驗制造出了一個“人造人”，卻因其丑陋恐怖而拋棄了自己親手制造的怪人。怪人在人類社會處處碰壁，開始仇恨自己的創(chuàng)造者。他以弗蘭肯斯坦親友們的安全為要挾，讓他為自己創(chuàng)造一個伴侶。弗蘭肯斯坦忌憚這種創(chuàng)造給人類社會帶來的混亂，最終沒有滿足怪人的要求。氣憤的怪人陸續(xù)殺死了弗蘭肯斯坦的眾多親友。絕望的弗蘭肯斯坦決定殺掉自己創(chuàng)造的怪人。他追殺怪人直到北極，最終筋疲力盡死在探險隊長沃爾頓的船上。怪人來到死去的弗蘭肯斯坦身邊，向沃爾頓講述了自己的痛苦，也懺悔了自己的罪惡，表示將乘坐冰筏去往北極，找個無人之處以自焚的方式結(jié)束此生。然后怪人就跳上海浪中的冰筏，消失在茫茫的黑夜之中。

這部作品想要表達的內(nèi)涵，向來眾說紛紜。本文認為，這部作品隱含著對于一個重要文明現(xiàn)象及其危機的表現(xiàn)，那就是啟蒙運動以來人類的造物激情以及由此而來的人類危機。

一、啟蒙理念與造物激情

《弗蘭肯斯坦》整個故事的起點是弗蘭肯斯坦的“造人”行為。弗蘭肯斯坦能夠擁有這種造人能力，是因為他掌握了自然科學(xué)技術(shù)：“對自然科學(xué)的所有學(xué)科，特別是對化學(xué)的研究便占據(jù)了全部的時間和精力”，而“人體構(gòu)造這一大自然的杰作”也勾起了“我特殊的興趣”[1]。掌握了自然科學(xué)的弗蘭肯斯坦經(jīng)過艱苦卓絕的實驗室生活，才實現(xiàn)了“造人”的奇跡。

這個故事背后，體現(xiàn)的正是啟蒙運動以來對于自然科學(xué)的高度崇拜。歐洲社會自中世紀以來長期處于神權(quán)的控制之下，否定人類自身的創(chuàng)造能力和經(jīng)驗價值，認為世界萬物皆為上帝的造物，即便人類也是上帝的造物。作為“上帝的造物”而存在的人類，個人的價值只能體現(xiàn)在對于上帝的馴服和跟隨之上。這就極大地壓抑了人類的創(chuàng)造欲望和對自身能力的認知。

因此從文藝復(fù)興開始，鼓勵人類求知、探索和創(chuàng)造，就成為思想啟蒙的重點，這種思想理念最終發(fā)展為從17世紀中后期到18世紀在歐洲掀起的啟蒙運動。啟蒙運動最核心的思想就是反對神權(quán)對于人類自身能力的否定和漠視，致力于引導(dǎo)民眾發(fā)現(xiàn)人類自身的創(chuàng)造力，“堅信人的能力具有無限的創(chuàng)造力，人也可以完全能夠不斷地改造自然、改造社會、改造人本身”[2]。

啟蒙運動讓人們相信，假如上帝可以用神力來創(chuàng)造世界，那么人類也可以擁有自己的創(chuàng)造世界的“神力”，那就是包括物理機械、電學(xué)、化學(xué)、生理學(xué)等等在內(nèi)的自然科學(xué)。對于自然科學(xué)的發(fā)現(xiàn)和深入研究，讓人類擁有了前所未有的自信，人類的造物激情被極大地激發(fā)了出來，人們改造自然、發(fā)明機器，感覺到上帝創(chuàng)世和造物的激情體驗。這種造物激情也的確“成為當代科學(xué)技術(shù)發(fā)展的最重要的動力，導(dǎo)致19世紀到20世紀空前的科學(xué)和生產(chǎn)的大發(fā)展”[3]。

而“造人”則是“造物”夢想的最高級別的最極致體現(xiàn)，也是人類足以證明自己具有跟上帝比肩的創(chuàng)造力的重要依據(jù)。因此，18世紀的啟蒙文學(xué)家歌德創(chuàng)作的《浮士德》中，就出現(xiàn)了科學(xué)造人的情節(jié)。浮士德的學(xué)生瓦格納經(jīng)過科學(xué)實驗，用一個玻璃燒瓶和各種礦物質(zhì)制造出了一個“人造人”荷蒙庫魯斯。荷蒙庫魯斯這一作為科學(xué)結(jié)晶而存在的“人造人”，無疑代表著歌德對于自然科學(xué)最高的期望。

同樣，《弗蘭肯斯坦》中的“人造人”，也是自然科學(xué)的產(chǎn)物。弗蘭肯斯坦利用化學(xué)和生理學(xué)等自然科學(xué)賦予的技術(shù)創(chuàng)造了“人造人”，體現(xiàn)出的正是啟蒙運動以來利用自然科學(xué)進行造物的激情。這種對于人類科學(xué)創(chuàng)造能力的推崇，毫無疑問具有積極的歷史意義。它不僅推動了歐洲社會工業(yè)革命的全面發(fā)生，并且也成為此后人類社會不斷深入探索自然科學(xué)，不斷研究科學(xué)技術(shù)，用科學(xué)創(chuàng)造一個個奇跡的巨大動力。

最重要的是，正是這種對于科學(xué)創(chuàng)造精神的持續(xù)追求，延續(xù)到今天才催生了人工智能時代的到來。“人工智能”指的是“通過某種方式讓機器擁有像人一樣的邏輯判斷能力或思維能力”[4]?！霸谠茣r代人工智能的設(shè)計和發(fā)展越來越朝向讓機器擁有自主決策能力，屆時機器不僅會獨立思考，而且還會未經(jīng)人類同意而擅自行動”[5]?？梢姡斯ぶ悄苁峭吒窦{和弗蘭肯斯坦“造物”夢想、特別“造人”夢想的最終實現(xiàn)。從啟蒙理念的角度說，人工智能時代的到來，是啟蒙運動科學(xué)理念和夢想的高峰體現(xiàn)。沿著這條歷史脈絡(luò)，我們可以看到人類在啟蒙思想解放之后，孜孜以求，努力證明自己創(chuàng)造能力的艱難歷程。從這個方面說，《弗蘭肯斯坦》洋溢著濃厚的啟蒙理念和啟蒙精神，是對于18世紀啟蒙思想的高度繼承和延續(xù)。

但，這并不是《弗蘭肯斯坦》最重要最寶貴的內(nèi)容。

與《浮士德》不同的是，在歌頌人類的創(chuàng)造精神的同時，《弗蘭肯斯坦》非常超前且可貴地對人類的創(chuàng)造行為又進行了反思。這種反思是如此可貴——《弗蘭肯斯坦》所擔(dān)憂的問題，正在成為今天人工智能時代所必須面對和思考的命題。因此我們才說，《弗蘭肯斯坦》這部書最大的價值不只是對啟蒙精神進行了歌頌，更重要的是對啟蒙理念進行了反思。

二、啟蒙反思與造物的倫理危機

弗蘭肯斯坦創(chuàng)造了“人造人”，卻最終受到了“人造人”的巨大傷害，他的科學(xué)成果把他自己的親人、家庭和人生都整個地毀掉了。不難看出，《弗蘭肯斯坦》不僅講了“創(chuàng)造帶來的奇跡”，更要講“創(chuàng)造帶來的毀滅”。

這幾乎跟今天人們面臨人工智能時代的擔(dān)憂一脈貫通！正如有學(xué)者指出的，隨著人工智能時代的到來，“人工智能的理論和技術(shù)背后的確存在著一些難以預(yù)知的后果和難以掌控的風(fēng)險”[6]，即便科技界的先鋒人物埃隆·馬斯克也認為對待人工智能人類需要謹慎，因為人工智能有可能成為人類未來最大的生存威脅[7]。

從這個角度說，《弗蘭肯斯坦》的作者幾乎就像預(yù)言家一樣，提醒著“造人”夢想所帶來的危機。在這種背景下重讀《弗蘭肯斯坦》，必將得到許多的啟發(fā)。

我們不妨設(shè)問：《弗蘭肯斯坦》中的弗蘭肯斯坦，這位創(chuàng)造了科學(xué)奇跡的科學(xué)家，到底是因為什么，被自己創(chuàng)造的科學(xué)奇跡毀滅了呢？我們又可以從中看到怎樣的警示呢？

首先，面對世界和自然，人類到底應(yīng)該持有怎樣的身份自設(shè)？

在“造人”行為的背后，隱含著的是人類對于上帝般的“造物主”身份的向往和自設(shè)。弗蘭肯斯坦在“造人”之前所懷有的期待是：“由我締造的一種新的生物將奉我為造物主而對我頂禮膜拜、感恩戴德”;他把自己比為“父親”，把自己的“造物”比為“孩子”，他期待自己的“造物”將會為自己“結(jié)草銜環(huán)、感激涕零”;弗蘭肯斯坦說，正是這種期待“鼓舞著我的士氣，激勵著我滿懷熱情、孜孜不倦地從事這項工作”[8]。

可見，在“造人”行為中，弗蘭肯斯坦所向往的是那種“造物主”的權(quán)力身份。在這種創(chuàng)造中，與其說是為了“造物”，不如說為了創(chuàng)造自己“身為造物主”的至高地位和權(quán)力。這種創(chuàng)造思維的背后是人類的自我中心主義。在這種創(chuàng)造思維前提下的創(chuàng)造行為，一開始就隱含了巨大的危險：由于“人越來越盲目地妄自尊大，無所不在、無所顧忌地突出人的存在、人的力量、人的重要性、人作為宇宙的主宰，肆意地征服和掠奪自然”[9]，正如弗蘭肯斯坦，就連生死的界限都肆意突破：“在我眼里，生與死的界限是虛化的、并不實際存在的，我應(yīng)該率先打破這一界限，讓萬丈光芒普照那黑暗中的冥冥世界”[10]。

但是，人類這樣的狂妄，很可能導(dǎo)致可悲的結(jié)果，即，“人也越來越多地受到自然的報復(fù)”。因為，只要人類持有這種“身為宇宙主宰”、可以任意而為的狂妄身份意識，就必然會忽略一個重要問題的思考，那就是：“造物者”真的擁有對于“所造之物”的絕對控制權(quán)和控制力嗎？

弗蘭肯斯坦不但把自己設(shè)定為像上帝一樣被膜拜的“造物者”，而且他也把自己設(shè)定為如同上帝一樣的“全能者”。所謂“全能”，就是既可以創(chuàng)造一切、也可以控制自己所創(chuàng)造出的一切的能力。弗蘭肯斯坦身為全能造物者的自我意識，來自一個基本的假設(shè)，那就是造物者一定優(yōu)越于造物，因此擁有對造物的全面控制能力和支配能力。這種全能意識，曾是上帝的優(yōu)越感，也成為弗蘭肯斯坦這樣充滿科技野心的科學(xué)家試圖擁有的優(yōu)越感。

但問題是，人類真的能優(yōu)于自己的造物嗎？我們看到弗蘭肯斯坦所創(chuàng)造的怪人擁有遠遠超越于弗蘭肯斯坦之上的肉體力量。就像怪人所說的：“請你記住，是你賦予了我力量，使我比你更強大。我身材比你高大，四肢比你靈活”[11]。這絕對不是瑪麗·雪萊的臆斷。以今天的人工智能為例，人類限于自身的生理局限，“難以突破大腦容量的上限，或者直接將人腦外接硬件進行擴容”[12]，但人工智能可以;同樣，人類無法無限制地高速搜尋資源和信息，但人工智能也可以。無怪乎學(xué)者們大多認為，在人類與人工智能的資源競爭中，人工智能會大概率地獲勝[13]。

如果人類并不能絕對維持對于所造之物的優(yōu)勢，又如何認定自己能夠全面控制自己所創(chuàng)造的一切呢？事實上，面對自己所創(chuàng)造出來的怪人，弗蘭肯斯坦全程處于完全失控的狀態(tài)。他無法控制怪人心中漸漸增長的惡念，也無法控制怪人愈演愈烈的暴行。他眼睜睜地看著怪人濫殺自己身邊的親人，除了恐懼和躲避，根本無力對抗。即便他決心反擊，但直到臨死之前，怪人也一直不在他的控制之中。

這種對于自己“所造之物”的失控悲劇，揭示出了人類“全能造物者”身份自設(shè)的荒悖和虛弱。“人類逐漸向其能力所及的領(lǐng)域擴展，這種時候應(yīng)考慮的問題是：凡是‘人能夠做到的事，做什么都可以嗎？是不是要限制人類的任性和放縱？”[14]人類必須認識到自己面對自然、以及面對所造之物的局限性，才能對自己的身份做出更為合理的設(shè)定。假如人類癡迷于這種“全能造物者”的身份自設(shè)，等待人類的將是一場科技帶來的危機。正如愛因斯坦所言：科學(xué)技術(shù)“是一種強有力的工具。怎樣用它，究竟是給人帶來幸福還是帶來災(zāi)難，全取決于人自己，而不取決于工具。刀子在人類生活上是有用的，但它也能用來殺人”[15]。

其次，人類與“所造之物”之間，應(yīng)該締結(jié)怎樣的關(guān)系呢？

造成弗蘭肯斯坦悲劇的原因，除了他狂妄自大的“全能造物主”的自我身份自設(shè)，還有一點就是他對于自己親手制造的怪人的不負責(zé)任的態(tài)度。弗蘭肯斯坦在把怪人制造出來之后，發(fā)現(xiàn)怪人不像他想象的那樣美好，出于恐懼和反感，他就一走了之，拋棄了剛剛被他帶到世界上的怪人，任其自生自滅。

怪人一開始并非沒有向善的、與人類互相輔助的可能性。比如，怪人在流浪中遇到德拉西一家，看到他們一家人相親相愛的狀態(tài)，就心生艷羨，這就是他對于美好情感的最初向往。他也懂得欣賞德拉西一家優(yōu)雅的舉止：“我仰慕崇高的情操，贊美善良的情感，欽慕這一家人文雅的舉止與和藹可親的品質(zhì)”;他渴望文明的熏陶和教化，熱衷于學(xué)習(xí)人類的語言：“這些想法使我精神大振，激發(fā)了我新的學(xué)習(xí)熱情去掌握語言這門藝術(shù)”;他甚至學(xué)會了讀書，如饑似渴地閱讀了《少年維特之煩惱》、《失樂園》和普魯塔克《名人傳》，并且表現(xiàn)出了極高的靈性：“我感到心中涌起了一股極其強烈的情感——對美德的渴望和對罪惡的痛恨”。他甚至也表現(xiàn)出了強烈的同情心和正義感，偷偷地幫助善良且不幸的德拉西一家，甚至認為“也許我有能力使這些理應(yīng)享有幸福的人重新獲得幸?！盵16]。

但是，怪人對善與美的最初追求沒有得到人類的呼應(yīng)和確認，相反，他的制造者拋棄他，而他幫助過的德拉西一家也因為他的外表驅(qū)趕他。這一切人類賦予他的不公平的態(tài)度，漸漸冷卻了他向善的信心，而仇恨、絕望則漸漸引發(fā)了他內(nèi)心的惡念。最終，就連他想得到一個伴侶的愿望也被拒絕了，他內(nèi)心所有的希望都破滅了，他開始放縱自己的惡與仇恨，對自己的創(chuàng)造者弗蘭肯斯坦開始兇猛的報復(fù)。

怪人這種從善到惡的墮落，正體現(xiàn)出了一個嚴峻的問題：造物者和造物之間到底應(yīng)該是什么關(guān)系？弗蘭肯斯坦無疑代表著一種錯誤的傾向：那就是忽略對所造之物的倫理思考。也就是僅把所造之物視為工具之物，而不認為自己負有對其進行倫理引導(dǎo)和倫理構(gòu)建的責(zé)任。正是身為造物者的弗蘭肯斯坦對于怪人的不負責(zé)任的態(tài)度，導(dǎo)致怪人的行為最終無法與人類的價值理念和規(guī)范意識相融合，最終導(dǎo)致彼此的嚴重傷害。

在怪人從善到惡的故事中，作者瑪麗·雪萊同樣提出了一個超前的天才警示，那就是人類應(yīng)該把自己的所造之物，特別是高級智能的所造之物，納入人類自身的倫理體系，對所造之物進行倫理方面的設(shè)計和引導(dǎo)，使之與人類的價值、倫理和規(guī)范互相契合，只有把高級智能納入人類的倫理體系，才會實現(xiàn)人類與“人造人”（人工智能）之間的共生共存。

瑪麗·雪萊提出的問題，正與今天面對人工智能的倫理思考不謀而合。人們今天已經(jīng)普遍認識到，雖然人工智能是否能夠作為道德主體而存在，還需要進一步的商榷，但重視人工智能的倫理設(shè)計和倫理構(gòu)建，卻是發(fā)展人工智能的必要前提。既要預(yù)防人工智能對于人類的控制和束縛，更要預(yù)防人工智能與人類倫理的相互沖突。只有把人工智能納入到人類倫理體系之中，“注重人工智能與人的個性、意識、價值、藝術(shù)創(chuàng)造相融合，并以此展示人的全面性，通過在人工智能的展示過程中不斷拓展人的全面性的新內(nèi)容，進而完善人自身”[17]。

看到這一點，我們不能不嘆服《弗蘭肯斯坦》天才般的預(yù)言性質(zhì)。

綜上所述，《弗蘭肯斯坦》對于自然科學(xué)對人類的意義，做出了令人驚嘆的辯證思考。它既認可和延續(xù)了啟蒙思想中的科學(xué)熱情，又對這種科學(xué)熱情進行了超前的反思。無論對于人類造物的激情，還是對于人類造物行為行將帶來的后果，作者都做出了天才的評價和預(yù)警。“《弗蘭肯斯坦》絕不是對歷史、繪畫和神話中驚慌的深思;它的魅力和力量在于它的預(yù)見性思考……它著重于責(zé)任和現(xiàn)在被稱為‘科學(xué)的知識體系一種德行上的試探”[18]。隨著人工智能時代的到來，這本超前思考人類“造物”激情和“造人”夢想的作品，將彰顯出越來越難以忽視的價值和意義。

參考文獻：

[1]（英）瑪麗·雪萊.弗蘭肯斯坦[M].劉新民譯.上海譯文出版社，2014，41-42.

[2]哈佛燕京學(xué)社.啟蒙的反思[M].江蘇教育出版社，2005，1.

[3]哈佛燕京學(xué)社.啟蒙的反思[M].江蘇教育出版社，2005，1.

[4]崔鵬.人工智能演進中的倫理悖論與社會危機[J].大數(shù)據(jù)時代，2017（02）.

[5]董青嶺.人工智能時代的道德風(fēng)險與機器倫理[J].云夢學(xué)刊，2018（05）.

[6]李熙等.從三種倫理理論的視角看人工智能威脅問題及其對策[J].江漢大學(xué)學(xué)報，2019（01）.

[7]馬修·謝勒，曹建峰等.監(jiān)管人工智能系統(tǒng)：風(fēng)險、挑戰(zhàn)、能力和策略[J].信息安全與通信保密，2017（03）.

[8]（英）瑪麗·雪萊.弗蘭肯斯坦[M].劉新民譯.上海譯文出版社，2014，45.

[9]哈佛燕京學(xué)社.啟蒙的反思[M].江蘇教育出版社，2005，2.

[10]（英）瑪麗·雪萊.弗蘭肯斯坦[M].劉新民譯.上海譯文出版社，2014.45.

[11]（英）瑪麗·雪萊.弗蘭肯斯坦[M].劉新民譯.上海譯文出版社，2014，95.

[12]李熙等.從三種倫理理論的視角看人工智能威脅問題及其對策[J].江漢大學(xué)學(xué)報，2019（01）.

[13]李熙等.從三種倫理理論的視角看人工智能威脅問題及其對策[J].江漢大學(xué)學(xué)報，2019（01）.

[14]（日）池田大作.（德）狄爾鮑拉夫.走向21世紀的人與哲學(xué).第340頁.

[15]許良英等譯.《愛因斯坦文集》第3卷[M].商務(wù)印書館，1979，56.

[16]（英）瑪麗·雪萊.弗蘭肯斯坦[M].劉新民譯，上海譯文出版社，2014，125-134.

[17]王軍.人工智能的倫理問題：挑戰(zhàn)與應(yīng)對.倫理學(xué)研究，2018（04）.

[18]（英）安德魯·桑德斯.牛津簡明英國文學(xué)史[M].谷啟楠等譯.人民文學(xué)出版社，2000，506.