人工智能提出了什么哲學(xué)問題？

趙汀陽

人類命運(yùn)的決定性力量，除了政治，就是技術(shù)。政治禍福交替，技術(shù)發(fā)展似乎意味著人類的福利增加，但今天的技術(shù)發(fā)展卻有可能將人類命運(yùn)置于無法控制的風(fēng)險(xiǎn)之中。以往的技術(shù)改造自然，雖有不良副作用，并非不可拯救，今天的技術(shù)卻準(zhǔn)備改造或重新定義人的存在，這意味著人類主體正在變成客體。這是自語言的發(fā)明使人成為主體以來的主體客體化大變局。

對技術(shù)的浪漫主義批評

遠(yuǎn)在技術(shù)預(yù)示致命危險(xiǎn)之前，敏感的思想家們就對技術(shù)的后果深感憂慮。眾所熟知，莊子謂“有機(jī)械者必有機(jī)事，有機(jī)事者必有機(jī)心”，應(yīng)該是對技術(shù)的最早批判，其理由是，技術(shù)是投機(jī)取巧躲避勞動(dòng)，違背自然之道，而投機(jī)取巧之心必定心懷叵測。莊子的技術(shù)批判在尚未溫飽的時(shí)代幾乎不可理喻，但在理論上卻有難以置信的前瞻性。當(dāng)現(xiàn)代技術(shù)開始明顯地消解生活意義之時(shí)，人們對技術(shù)開始了嚴(yán)重的批判。韋伯指出技術(shù)導(dǎo)致自然的“去魅”，即技術(shù)剝奪了一切事物的精神性，除了工具或經(jīng)濟(jì)價(jià)值，任何事物都失去內(nèi)在價(jià)值。海德格爾進(jìn)一步發(fā)現(xiàn)，技術(shù)導(dǎo)致生活詩意的消失，不僅是美學(xué)經(jīng)驗(yàn)的退化，更是對存在的遮蔽，當(dāng)失去印證存在的本真方式，生活就失去依據(jù)，精神無家可歸。這些批判雖有形而上的深度，但限于浪漫主義理解。在技術(shù)中樂不思蜀的人們并不擔(dān)心失去對存在本身的虛無縹緲理解，也未必為此感到遺憾。

前現(xiàn)代的生活或許比現(xiàn)代更有詩意，也更有真實(shí)感和精神依據(jù)，所以古代人更多地感慨命運(yùn)，而不會像現(xiàn)代人那樣迷惑于找不到“生活的意義”。在一次私下討論中，李澤厚老師說，解決了溫飽問題之后，生活就很容易失去確定的意義，或者說，超越了生存所需就很難確定什么是無疑的生活意義了。這個(gè)激進(jìn)唯物主義的見解令人心驚，其中確有灼見，但我仍然愿意相信，在生存需要之外肯定存在著精神性的生活意義，以至于有人為之舍生忘死。古代人有著更多舍生忘死的精神理由，那時(shí)萬物都有賦魅的傳說，事事具有精神性。毫無疑問，嫦娥的月亮一定比阿姆斯特朗的月亮更有魅力。

嫦娥的月亮一定比阿姆斯特朗的月亮更有魅力

老一代的技術(shù)批判都具有某種懷舊色彩，都認(rèn)為技術(shù)破壞了生活的精神性。的確如此，然而無可否認(rèn)的是，現(xiàn)代技術(shù)創(chuàng)造了對于生活極其重要的無數(shù)事物，比如青霉素等抗生素、外科手術(shù)、疫苗接種、抽水馬桶、供暖系統(tǒng)、自來水系統(tǒng)、電燈等等，還有許多便利工具如汽車、火車、飛機(jī)、電腦之類。以浪漫主義之心觀之，技術(shù)都有去魅之弊而導(dǎo)致精神貧乏。但我記得李澤厚問過一個(gè)類似于羅爾斯無知之幕的問題：如果不能選擇人物角色，你會選擇什么時(shí)代？難道會選擇古代嗎？對這個(gè)超現(xiàn)實(shí)主義問題真是無言以對，但這個(gè)問題提醒了一個(gè)事實(shí)：人性傾向于貪圖便利省力、擺脫勞動(dòng)、安逸享受和物質(zhì)利益，因此絕大多數(shù)人寧可選擇物質(zhì)高于精神的技術(shù)化生活。老一代技術(shù)批判想象的人們“原有的”詩情畫意生活同時(shí)也是艱難困苦的生活，什么樣的精神才能拯救饑餓的肉體呢？當(dāng)然也可以反過來問，物質(zhì)能變精神嗎？顯然，物質(zhì)是問題，精神也是問題。

老一代的技術(shù)批判揭發(fā)了技術(shù)對精神的傷害，卻尚未觸及技術(shù)的終極危險(xiǎn)所在，在今天，我們已經(jīng)可以想象技術(shù)對生存的根本挑戰(zhàn)?？梢阅７埋R克思說：哲學(xué)家只是不同地批判了技術(shù)，可問題是，技術(shù)改變了世界。

技術(shù)提出了存在論的新問題

當(dāng)技術(shù)問題同時(shí)成為存在論問題，真正要命的可能性就顯現(xiàn)出來了。

存在論一向受制于單數(shù)主體的知識論視域（horizon），即以人的視域來思考存在，而且默認(rèn)人的視域是唯一的主體視域，所以，存在論從來沒有超越知識論?；谌祟愔R論的自信，康德才敢于宣稱人為自然立法。也可以循環(huán)論證地說，人是自然的立法者，所以人的視域是唯一視域。不過，人們曾經(jīng)在神學(xué)上設(shè)想了高于人的絕對視域，比如萊布尼茨論證了上帝能夠一覽無窮多的所有可能世界。然而，這種理論上的絕對視域無法為人所用，人不可能想象看清無窮多可能世界的絕對視域到底什么樣。人能夠有效使用的唯一視域還是人的主體性視域，如維特根斯坦所言，這是思想的界限。

思想沒有能力超越自身，就像眼睛看不見眼睛自身（維特根斯坦的比喻），但思想做不到的事情卻在實(shí)踐中可能實(shí)現(xiàn)。人工智能就有可能成長為另一種主體，另一種立法者，或者另一種眼睛。這意味著一個(gè)存在論巨變：單向的存在論有可能變成雙向的存在論（甚至是多向的）。世界將不僅僅屬于一種主體的視域，而可能屬于兩種以上的主體，甚至屬于非人類的新主體。人工智能一旦發(fā)展為新主體，世界將進(jìn)入新的存在論。

人工智能有著多種定義?？茖W(xué)上通常將屬于圖靈機(jī)概念的人工智能標(biāo)志為AI，將等價(jià)于人類智能的人工智能稱為AGI（通用人工智能，artificial general intelligence），而全面超越人類智能的高端智能稱為SI（超級智能，super intelligence）。這個(gè)科學(xué)分類描述的是在技術(shù)上可測量的智能級別，但我們試圖討論智能的哲學(xué)性質(zhì)，即是否具備“我思”的主體性，因此，請?jiān)试S我在這里將人工智能按照其哲學(xué)性質(zhì)進(jìn)行劃分，一類稱為AI，即尚未達(dá)到笛卡兒“我思”標(biāo)準(zhǔn)的非反思性人工智能，覆蓋范圍與科學(xué)分類的AI大致相同，即屬于圖靈機(jī)概念（包括單一功能的人工智能，例如阿爾法狗，以及尚未成功的復(fù)雜功能人工智能）;另一類稱為ARI，即達(dá)到或超越笛卡兒“我思”標(biāo)準(zhǔn)的反思性人工智能（artificial reflexive intelligence）。ARI約等于超級人工智能，或超圖靈機(jī)，我也稱之為“哥德爾機(jī)”，以表示具有反思自身系統(tǒng)的能力。需要注意的是，ARI必定包括但不一定成為AGI或SI，這意味著，ARI未必具備人類的每一種才能，但必須具有自主的反思能力以及修改自身系統(tǒng)的能力，于是就具有自律自治的主體性，就成為無法支配的他者之心，也就成為世界上的另一種主體。

以主體性為準(zhǔn)的分類試圖突出地表達(dá)人工智能的可能質(zhì)變，即奇點(diǎn)。目前看來，人工智能發(fā)生質(zhì)變的奇點(diǎn)還很遙遠(yuǎn)，預(yù)言家們往往夸大其詞，但問題是，人工智能的奇點(diǎn)是可能發(fā)生的。智能的要害不在于運(yùn)算能力，而在于反思能力。人的主體性本質(zhì)在于反思能力，沒有反思能力就不是思維主體。如果人工智能沒有反思能力，那么，運(yùn)算能力越強(qiáng)就對人類越有用，而且沒有致命危險(xiǎn)，比如AlphaGo Zero運(yùn)算能力雖強(qiáng)卻不是對人的威脅。反過來說，即使人工智能在許多方面弱于人，但只要具備反思能力，就形成了具有危險(xiǎn)性的主體。假設(shè)有一種人工智能缺乏人類的大多數(shù)技能，既不會生產(chǎn)糧食也不會生產(chǎn)石油，如此等等，只會制造和使用先進(jìn)武器，而它卻發(fā)展出了自主反思能力，那么后果可想而知。至今人工智能只具有算法能力或類腦的神經(jīng)反應(yīng)能力，尚無反思功能，甚至不能肯定是否能夠發(fā)展出反思功能，仍然屬于安全機(jī)器，即使將來可能出現(xiàn)的多用途并且具有靈活反應(yīng)能力的人工智能，只要缺乏反思功能，就仍然不是新主體，而只是人類的最強(qiáng)助手。

大多數(shù)技術(shù)都只是增強(qiáng)或擴(kuò)展人類能力，比如生產(chǎn)工具和制造工具的機(jī)器，從蒸汽機(jī)到發(fā)電機(jī)，從汽車、飛機(jī)到飛船，還有電話、電腦、互聯(lián)網(wǎng)到量子科技等等，圖靈機(jī)人工智能也屬于此類。無論技術(shù)多么強(qiáng)大，只要技術(shù)系統(tǒng)本身沒有反思能力，就沒有存在論級別的危險(xiǎn)。從樂觀主義來看，此類技術(shù)所導(dǎo)致的社會、文化或政治問題仍然屬于人類可控范圍。當(dāng)然其中存在一些高風(fēng)險(xiǎn)甚至惡意的技術(shù)，比如核電站就是高風(fēng)險(xiǎn)的，至今尚無處理核廢料的萬全之策，又如核武器，其功能是大規(guī)模屠殺。人工智能和基因技術(shù)的發(fā)展卻在超出增強(qiáng)能力的概念，正在變成改變物種或創(chuàng)造新物種的技術(shù)，就蘊(yùn)含著人類無力承擔(dān)的風(fēng)險(xiǎn)。盡管“神一般的”能力目前只是理論上的可能性，但已經(jīng)先于實(shí)踐提出了新的存在論問題，也連帶提出了新的知識論和新的政治問題。需要注意的是，這些新的哲學(xué)問題并不是傳統(tǒng)哲學(xué)問題的升級版，而是從未遭遇的新問題，因此，傳統(tǒng)哲學(xué)對技術(shù)的批判，包括莊子、韋伯和海德格爾之類，基本上無效，甚至與新問題不相干，就是說，人文主義的倫理觀或價(jià)值觀對于技術(shù)新問題基本上文不對題。

人工智能和基因技術(shù)都提出了挑戰(zhàn)人的概念的存在論問題，但相比之下，人工智能的危險(xiǎn)性似乎大過基因技術(shù)。人工智能是真正的創(chuàng)造物，因此完全不可測，而基因技術(shù)是物種改良，應(yīng)該存在自然限度。這個(gè)斷言基于一個(gè)難以證明卻可能為真的信念：對于一個(gè)整體性和封閉性的系統(tǒng)來說，內(nèi)部因素的革命能力不能超越整體預(yù)定的物理或生物限度，假如內(nèi)部變化一旦超出整體限度，就是系統(tǒng)崩潰。在這里意味著，基因技術(shù)的革命性不可能超越生命的生物限度。也許基因技術(shù)能夠成為物種優(yōu)化的方法，但無論什么物種，作為生命都有其整體所允許的變化極限。基因技術(shù)是否真的能夠使人長生不老，仍是未知數(shù)。據(jù)說某些爬行類或魚類生長緩慢而長壽，或如燈塔水母甚至有返老還童的特異功能以至于好像萬壽無疆，但那些非常長壽的生物都是智力極低的，這是個(gè)令人失望的暗示。如果對人進(jìn)行根本性的基因改造，是否會引起生命系統(tǒng)的崩潰？比如說，大腦或免疫系統(tǒng)會不會崩潰？試圖通過基因技術(shù)將人徹底改造為神一般的全新物種，在生物學(xué)上似乎不太合理。更現(xiàn)實(shí)的問題是，基因優(yōu)化哪怕是有限的就已經(jīng)非?？赡軐?dǎo)致社會問題的惡化，以至于導(dǎo)致人類集體災(zāi)難，在此不論。

就創(chuàng)造新物種的能力而言，人工智能比基因技術(shù)更危險(xiǎn)。人工智能一旦突破奇點(diǎn)，就創(chuàng)造了不可測的新主體，而對于新主體，傳統(tǒng)一元主體的知識、視域和價(jià)值觀將會破產(chǎn)，而二元主體（甚至多元主體）的世界還很難推想。盡管許多科幻作品想象了恐怖的機(jī)器人或外星人而使人得到受虐的快感，但人類對技術(shù)化的未來并沒有認(rèn)真的思想或心理準(zhǔn)備。且不說遙遠(yuǎn)的二元主體世界，即使對近在眼前的初級人工智能化或基因技術(shù)化的社會，人們也缺乏足夠的警惕。先不考慮末日問題，高度技術(shù)化的社會也將高度放大本就存在的難題而使人類陷于不可救藥的困境，比如貧富分化、階級斗爭、種族斗爭、民族斗爭、資源稀缺、大自然的萎縮和失衡。

劉慈欣在論文式的短篇小說《贍養(yǎng)上帝》和《贍養(yǎng)人類》中想象了萬事智能化的“暮年文明”令人絕望的故事。其中有兩個(gè)切中要害的論點(diǎn)：其一，高度發(fā)達(dá)的人工智能幾乎萬能，全自動(dòng)運(yùn)行，于是形成讓所有人豐衣足食的“機(jī)器搖籃”，正如宇宙中極其發(fā)達(dá)而名為“上帝文明”的人所說的：“智能機(jī)器能夠提供一切我們所需要的東西，這不只是物質(zhì)需要，也包括精神需要，我們不需為生存付出任何努力，完全靠機(jī)器養(yǎng)活了，就像躺在一個(gè)舒適的搖籃中。想一想，假如當(dāng)初地球的叢林中充滿了采摘不盡的果實(shí)，到處是伸手就能抓到的小獵物，猿還能進(jìn)化成人嗎？機(jī)器搖籃就是這樣一個(gè)富庶的叢林，漸漸地，我們忘卻了技術(shù)和科學(xué)，文化變得懶散而空虛，失去了創(chuàng)新能力和進(jìn)取心，文明加速老去”，于是所有人都變成了“連一元二次方程都不會”的廢物（《贍養(yǎng)上帝》）。這里提出的問題是，人工智能創(chuàng)造的幸福生活卻事與愿違地導(dǎo)致了文明衰亡。其二，人工智能社會還有另一個(gè)更具現(xiàn)實(shí)性的版本。一個(gè)尚未達(dá)到“上帝文明”那么發(fā)達(dá)的智能化文明就已經(jīng)陷入了文明的絕境。在小說中，比地球發(fā)達(dá)而文明類型完全相似的“地球兄弟文明”的人講述了地球文明的前景：全面智能化的社會不再需要?jiǎng)趧?dòng)，富人也就不再需要窮人，而階層上升的道路也被堵死，因?yàn)楦蝗藟艛嗔恕敖逃?。那不是傳統(tǒng)意義上的教育，而是人工智能和生物技術(shù)合作而成的人機(jī)合一技術(shù)，購買此種極其昂貴的“教育”就成為超人，在所有能力上與傳統(tǒng)人不在一個(gè)量級，其級差大過人與動(dòng)物的差別，于是“富人和窮人已經(jīng)不是同一個(gè)物種了，就像窮人和狗不是同一個(gè)物種一樣，窮人不再是人了……對窮人的同情，關(guān)鍵在于一個(gè)同字，當(dāng)雙方相同的物種基礎(chǔ)不存在時(shí)，同情也就不存在了”（《贍養(yǎng)人類》）。這說明，無須等到出現(xiàn)超級人工智能，智能化社會就已經(jīng)足以把部分人類變成新物種，就是說，即使人工智能的奇點(diǎn)沒有出現(xiàn)，人類文明的嚴(yán)重問題就可能來臨。

在《贍養(yǎng)上帝》中，高度發(fā)達(dá)的人工智能形成了讓所有人豐衣足食的“機(jī)器搖籃”

且不說人工智能的奇點(diǎn)，近在眼前的問題就足夠驚心動(dòng)魄了。人類本來就未能很好地解決利益分配、社會矛盾、群體斗爭或文明沖突等問題，這些問題之所以無法解決，根本原因在于人性的局限性，而不在于人謀的局限性。令人失望的是，人類解決問題的能力明顯弱于制造問題的能力，所以積重難返，而人工智能或基因技術(shù)是放大器或加速器，對老問題更是雪上加霜。盡管人類發(fā)明了堪稱偉業(yè)的政治制度、法律體系和倫理系統(tǒng)，但人類思想能力似乎正在逼近極限，近數(shù)十年來，世界越來越顯示出思想疲憊或者懶惰的跡象，思想創(chuàng)意明顯減少，思想框架和概念基本上停留在200年前。對于人工智能和基因技術(shù)等新問題，除了一廂情愿的倫理批判，就似乎一籌莫展。為什么對人工智能的倫理批判文不對題而無效？其中有個(gè)恐怖的事情：在一個(gè)文明高度智能化的世界里，倫理學(xué)問題很可能會消失，至少邊緣化。這是與人們對文明發(fā)展預(yù)期相悖的一種可能性，看起來荒謬，但非常可能。

通常相信，人類文明在不斷“進(jìn)步”。就科學(xué)技術(shù)而言，毫無疑問是在進(jìn)步，但除了科學(xué)和技術(shù)，其他方面是否進(jìn)步就存在爭議了。技術(shù)的本質(zhì)是能力，而能力越大，其博弈均衡點(diǎn)就對技術(shù)掌權(quán)者越有利。如果技術(shù)掌握在少數(shù)人手里，弱者的討價(jià)還價(jià)收益就越小。那么，給定人性不變，文明的人工智能化就非?？赡軐?dǎo)致文明的重新野蠻化（re-barbarization）。在這里，“野蠻化”不是指退化到洪荒的生活水平，而是指社會關(guān)系惡化為強(qiáng)權(quán)即真理的叢林狀態(tài)，就是說，既然占有技術(shù)資源的人擁有壓倒一切的必勝技術(shù)，就不需要倫理、法律和政治了。這個(gè)霍布斯式的道理眾所周知，只是寧愿回避這個(gè)令人不快的問題而維護(hù)一種虛偽的幻覺。人類一直都有好運(yùn)氣成功地回避了這個(gè)“最壞世界”問題，那是因?yàn)榛舨妓沟氖澜缋餂]有絕對強(qiáng)者，既然強(qiáng)者也有許多致命弱點(diǎn)，那么人人都是弱者，而每個(gè)人都是弱者這個(gè)事實(shí)正是人類的運(yùn)氣之所在。正如尼采的發(fā)現(xiàn)，弱者才需要道德。人人為弱者就是人類的運(yùn)氣，也是倫理、法律和政治的基礎(chǔ)，倫理、法律和政治正是互有傷害能力的弱者之間長期博弈形成的穩(wěn)定均衡。當(dāng)然也有博弈均衡無法解釋的“精神高于物質(zhì)”的例外，比如無私的或自我犧牲的道德，這是人類之謎。精神高于物質(zhì)的現(xiàn)象并非人類社會的主要結(jié)構(gòu)，不構(gòu)成決定性的變量。

高度發(fā)達(dá)的人工智能或基因技術(shù)或有一天可能宣布人類的運(yùn)氣用完了（并非必然）。按照最小成本和最大利益定理可推，人類文明之所以發(fā)展出復(fù)雜的制度、倫理和法律，是因?yàn)闆]有能力以低成本的簡單方式去解決權(quán)力和利益問題。通常相信，文明的復(fù)雜程度標(biāo)志著文明的發(fā)達(dá)程度，復(fù)雜性與精致、巧妙、協(xié)調(diào)、難度和精神性等文明指標(biāo)之間確有相關(guān)性，所以“高級”。一個(gè)成熟文明的倫理道德是復(fù)雜的，法律和制度是復(fù)雜的，思想和藝術(shù)也是復(fù)雜的。這些成熟標(biāo)志隱蔽了一個(gè)本質(zhì)問題：復(fù)雜意味著高成本（包括交易成本），而正因?yàn)楦叱杀?，所以不可能?shí)現(xiàn)利益最大化。于是有一個(gè)殘酷的定理：如果有能力以最小成本的最簡單方式去獲得最大利益，人就會理性地選擇簡單粗暴的方式去解決問題，而不會選擇復(fù)雜的高成本的方法。因此可知，一旦人工智能和基因技術(shù)創(chuàng)造了絕對強(qiáng)者，絕對強(qiáng)者就很可能利用絕對優(yōu)勢的技術(shù)去實(shí)現(xiàn)文明的重新野蠻化，比如說消滅“無用的”人，而放棄高成本而復(fù)雜的倫理、法律和政治。顯然，對于一個(gè)重新野蠻化的高技術(shù)世界，倫理學(xué)就文不對題了。不過，人類還有反思和調(diào)整的時(shí)間，這不知算不算是好消息。

文明的人工智能化非常可能導(dǎo)致文明的重新野蠻化

對可能出現(xiàn)的文明重新野蠻化，人們之所以缺乏足夠的警惕性，或與啟蒙運(yùn)動(dòng)以來人類的主體性傲慢有關(guān)，這同時(shí)也是理性的傲慢。啟蒙理性告別了以神為尊，轉(zhuǎn)向以人為尊，這場偉大的思想革命使人陶醉于主體性的勝利而逐漸忘卻了人的真實(shí)面目。在以神為尊的古代，神是不可質(zhì)疑的，同樣，在以人為尊的現(xiàn)代，人也是不可質(zhì)疑的，于是掩蓋了人的弱點(diǎn)、缺點(diǎn)甚至罪惡。只要世界出現(xiàn)了什么壞事，總是歸罪于制度或觀念，不再反思人。從“原罪”中脫身的人再也沒有負(fù)擔(dān)，肆無忌憚地以人之名去要求獲得一切快樂、利益和權(quán)利?，F(xiàn)代政治的根據(jù)不再是對人有所約束的自然神學(xué)或宗教神學(xué)，而是人的神學(xué)，所謂大寫的人?？墒敲煨《运降娜思词埂按髮憽庇帜苡卸啻竽兀咳藨{什么獲得想要的一切？主體性的傲慢反而揭示了人的神學(xué)是反人類的。個(gè)人主義可以保護(hù)個(gè)人，卻沒有能力保護(hù)人類，個(gè)人主義的這個(gè)致命弱點(diǎn)在人類整體面臨挑戰(zhàn)時(shí)就暴露無遺了。將來如果出現(xiàn)超人類的人工智能，或者極少數(shù)人控制了高能的人工智能，個(gè)人主義社會將沒有能力反抗人工智能的統(tǒng)治，因?yàn)槿斯ぶ悄懿皇莻€(gè)人，而是比所有個(gè)人強(qiáng)大得多的系統(tǒng)。如前所言，絕對強(qiáng)者的人工智能系統(tǒng)不需要苦苦地通過復(fù)雜而高成本的制度、倫理和法律去解決社會矛盾，而將會“理性地”選擇簡單粗暴的解決方式。簡單地說，啟蒙運(yùn)動(dòng)以來的現(xiàn)代思想和信念對于技術(shù)為王的未來問題是文不對題而且無能為力的。史蒂芬·平克還在呼喚“當(dāng)下的啟蒙”，可是技術(shù)的腳步已經(jīng)跨越了啟蒙的思想而走向危險(xiǎn)的未來。

人類的問題正在更新?lián)Q代，目前的哲學(xué)對技術(shù)社會的新問題一籌莫展。

意識形而上學(xué)

為了理解新問題，看來需要進(jìn)一步分析意識的秘密。意識是人類最后的堡壘，也是人類發(fā)現(xiàn)出路的唯一資源?？墒侨祟愌芯恳庾R至少有兩千多年了，仍然對意識缺乏整體或透徹的理解。在意識研究中，亞里士多德對邏輯的發(fā)現(xiàn)是其中最偉大的成就，其他重要成就還包括休謨對因果意識和應(yīng)然意識的研究、康德對意識先驗(yàn)結(jié)構(gòu)的研究、索緒爾以來的語言學(xué)研究、現(xiàn)代心理學(xué)研究、弗洛伊德以來的精神病研究、胡塞爾的意向性研究、維特根斯坦對思想界限的研究，還有當(dāng)代認(rèn)知科學(xué)的研究，如此等等。但意識之謎至今尚未破解，一個(gè)重要的原因是，以意識去反思意識，其中的自相關(guān)性使意識不可能被完全對象化，總有無法被理解的死角，而那個(gè)無法理解的地方很可能蘊(yùn)含著意識的核心秘密。

現(xiàn)在似乎出現(xiàn)了意識客觀化的一個(gè)機(jī)會：人工智能開始能夠“思維”——思維速度如電，盡管思維方法很簡單：機(jī)械算法和應(yīng)答式反應(yīng)。正是這種簡單性使人產(chǎn)生一種想象：思維是否可以還原為簡單的運(yùn)作？當(dāng)然，目前的圖靈機(jī)思維還沒有自覺意識，只是機(jī)械地或神經(jīng)反應(yīng)地模仿了意識。人工智能展現(xiàn)的思維方式，部分與人類相似（因?yàn)槭侨祟悓懙某绦颍?，也部分與人類不相似（因?yàn)闄C(jī)器的運(yùn)作終究與生物不同），那么，是否能夠從人工智能來映射意識？或者說，人工智能是否可以理解為意識的一種對象化現(xiàn)象？或至少成為有助于理解思維的對比參數(shù)？這些尚無明確的結(jié)論。

這里至少有兩個(gè)疑問：（1）即使是將來可能實(shí)現(xiàn)的多功能人工智能，也恐怕不能與人的思維形成完全映射。按照我先前的分析（或許有錯(cuò)誤），圖靈機(jī)概念的人工智能不具備原創(chuàng)性思維（區(qū)別于假冒創(chuàng)造性的聯(lián)想式或組合式的思維），也沒有能力自己形成或提出新概念，更不能對付自相關(guān)、悖論性或無限性的問題，也沒有能力定義因果關(guān)系（可笑的是，人至今也不能完美地定義因果關(guān)系），因此，人的思維不可能還原為圖靈機(jī)人工智能;那么（2）假如人工智能達(dá)到奇點(diǎn)，跨級地發(fā)展為ARI，成為另一種意識主體，是否等價(jià)于人的意識？這個(gè)問題的復(fù)雜性和不確定性超出了目前的理解能力，類似于說，人是否能夠理解神的思維？或是否能夠理解外星人的思維？關(guān)鍵問題是，假定存在不同種類的思維主體，是否有理由推斷，所有種類主體的思維都是相通一致的？都能夠達(dá)成映射——哪怕是非完全的映射？這個(gè)問題事關(guān)是否存在普遍的（general）思維，相當(dāng)于任何思維的元思維模式。這是關(guān)于思維形而上學(xué)的一個(gè)終極問題。

設(shè)想另一種主體的思維要有非常的想象力。我讀到過兩種（萊布尼茨所理解的上帝思維太抽象，不算在內(nèi)）：一種是博爾赫斯在小說《特隆、烏克巴爾、奧爾比斯·特蒂烏斯》中想象的“特隆世界”，特隆文明只關(guān)心時(shí)間，特隆人所理解的世界只是思想流程，于是，世界只顯現(xiàn)時(shí)間性而沒有空間性。以此種思維方式生產(chǎn)出來的知識系統(tǒng)以心理學(xué)為其唯一基礎(chǔ)學(xué)科，其他學(xué)科都是心理學(xué)的分支。特隆的哲學(xué)家不研究真實(shí)，“只研究驚奇”，形而上學(xué)只是一種幻想文學(xué)（算是對人類的形而上學(xué)的嘲笑）。擺脫了空間負(fù)擔(dān)的思維無疑純度最高，對于唯心主義是個(gè)來自夢鄉(xiāng)的好消息，可惜笛卡兒、貝克萊、康德和胡塞爾沒有聽說過這么好的消息。另一種驚人想象見于劉慈欣的《三體》三部曲。三體人以發(fā)送腦電波為其交流方式，不用說話，于是，在三體文明里，交流中的思維是公開的，不能隱藏想法，一切思想都是真實(shí)想法（哈貝馬斯一定喜歡這種誠實(shí)的狀態(tài)），因此不可能欺騙、說謊或偽裝，也就不存在計(jì)謀，不可能進(jìn)行復(fù)雜的戰(zhàn)略思維，所有戰(zhàn)爭或競爭只能比真本事。這種完全誠實(shí)的文明消除了一切峰回路轉(zhuǎn)的故事，顯然與人類思維方式南轅北轍。

宇宙無奇不有，也許真的存在著多種思維方式，至少存在著多種思維的可能性。讓我們首先假定，各種主體的不同思維之間是能夠交流并且互相理解的。如果沒有這個(gè)假定就一切免談了。進(jìn)而可推知，在不同的諸種思維模式之中存在著普遍的一般結(jié)構(gòu)。那么，一般思維會是什么樣的？我們無法直接知道一般思維的本質(zhì)，因?yàn)椴淮嬖谝环N“一般的”思維，只有隱藏于所有思維中的一般結(jié)構(gòu)?；谏鲜黾僭O(shè)，各種思維之間至少在理性化內(nèi)容上存在著充分的映射關(guān)系，因而能夠互相理解一切理性化的語句，否則等于說，關(guān)于宇宙可以有互相矛盾的物理學(xué)或數(shù)學(xué)——這未免太過荒謬。荒謬的事情也許有，但在這里不考慮。同時(shí)，毫無疑問，不同思維里總會有互相難以理解的非理性內(nèi)容，奇怪的欲望或興趣，比如上帝不會理解什么是羨慕，或某種單性繁殖的外星人不理解什么是愛情，但此類非理性內(nèi)容不影響理性思維的共通性。于是有一個(gè)“月印萬川”的等值推論：如果充分理解了任意一種思維，就等于理解了思維的一般本質(zhì)。但是，如前所言，我們只見過人類思維，可是思維又不能充分理解自身（眼睛悖論），又將如何？

顯然，思維需要映射為一種外在化形式以便反思，相當(dāng)于把思維看作是一個(gè)系統(tǒng)，并且將其映射為另一個(gè)等價(jià)的系統(tǒng)。與此最為接近的努力是哥德爾的天才工作。盡管哥德爾沒有反思人類思維整體，只是反思了數(shù)學(xué)系統(tǒng)，但所建構(gòu)的反思性卻有異曲同工之妙。一個(gè)足夠豐富的數(shù)學(xué)系統(tǒng)中的合法命題無窮多，對包含無窮多命題的系統(tǒng)的元性質(zhì)進(jìn)行反思，無疑是一項(xiàng)驚人的工作。由此可以聯(lián)想，此種反思方式是否能夠應(yīng)用于對人類思維整體的反思？但人類思維整體的復(fù)雜性否認(rèn)了這種可能性，因?yàn)?，在大多?shù)情況下，人的思維不是純粹理性的，為了如實(shí)理解人類思維，就不得不把所有非理性的“錯(cuò)誤”考慮在內(nèi)，這意味著，人類思維實(shí)際上是無法無天的，不可能還原為一個(gè)能夠以數(shù)學(xué)或邏輯方式去解釋的系統(tǒng)。簡單地說，如果省略了邏輯或數(shù)學(xué)不能表達(dá)的“錯(cuò)誤”思想，人類思維就消散了。

人類思維包含大量非理性成分，無法還原為邏輯系統(tǒng)

在這里，所謂“錯(cuò)誤”是根據(jù)理性標(biāo)準(zhǔn)而言的異常觀念，所有非理性觀念都被歸類為“錯(cuò)誤”，包括欲望、信念、執(zhí)念、偏見、癖好、不正常心理、無意識、潛意識，如此等等。這些“錯(cuò)誤”所以必須被考慮在內(nèi)，是因?yàn)樗鼈兘?jīng)常是行為的決定性因素，絕非可以排除或省略的思維成分。哥德爾的工作一方面啟示了反思的可能性，另一方面也提示了反思人類整體思維之不可能性。即使在排除錯(cuò)誤命題的數(shù)學(xué)系統(tǒng)內(nèi)，也存在著不可證而為真的“哥德爾命題”，即并非有限步能行（feasible）可證的真命題，因而一個(gè)包含無窮多命題的系統(tǒng)（不知道是否真的無窮多，至少是足夠多以至于好像無窮多），或者存在內(nèi)在矛盾，或者不完備。可以想象，比數(shù)學(xué)系統(tǒng)復(fù)雜得多的人類思維系統(tǒng)顯然不僅存在大量內(nèi)在矛盾，而且永遠(yuǎn)不可能是完備的。難以置信的事實(shí)是，包含非理性因素而顯得“亂七八糟”的復(fù)雜思維卻在人類實(shí)踐中很有成就，比如說，人類的社會制度不可能按照數(shù)學(xué)推算出來。即使就理性化程度很高的科學(xué)而言，偉大的成就也不是單純推理出來的，而是得力于創(chuàng)造性的發(fā)現(xiàn)。當(dāng)代經(jīng)濟(jì)學(xué)也從另一個(gè)側(cè)面說明了純粹理性化的局限性，當(dāng)代經(jīng)濟(jì)學(xué)只考慮能夠數(shù)學(xué)化表達(dá)的那一部分經(jīng)濟(jì)事實(shí)，而漏掉了大量無法數(shù)學(xué)化的事實(shí)，因此對真實(shí)的經(jīng)濟(jì)問題缺乏解釋力。

這里萬萬不可誤會為對數(shù)學(xué)和邏輯的質(zhì)疑。數(shù)學(xué)和邏輯無疑是人類思維最重要的方法論，如果沒有數(shù)學(xué)和邏輯，就不存在人類思維，就仍然是動(dòng)物。但同時(shí)也應(yīng)該說，單憑數(shù)學(xué)和邏輯，人工智能無法超越機(jī)器（圖靈機(jī)）的概念，不可能成為等價(jià)于人類思維或超越人類思維的新主體而實(shí)現(xiàn)“創(chuàng)世紀(jì)”的物種超越（人工智能的發(fā)展不屬于進(jìn)化論，而屬于創(chuàng)世論）。只是說，人類思維具有如此驚人的創(chuàng)造性能量，一定在數(shù)學(xué)和邏輯之外還有別的思維方式，只是尚不清楚是什么樣的。哲學(xué)家喜歡將其稱為“直觀”“統(tǒng)覺”或“靈感”之類的神秘能力，但等于什么都沒有說，代號而已。

博弈論是一種廣譜的理性分析模型，通常證明了理性選擇的優(yōu)勢，但也同時(shí)揭示了理性的局限性，比如在作為納什均衡的“囚徒困境”中，理性必定選中其次壞的結(jié)果，而非理性的選擇則以賭博方式獲得最壞或最好結(jié)果。給定大多數(shù)人自私貪婪而見利忘義，那么，非理性選擇獲得最壞結(jié)果的概率必定遠(yuǎn)遠(yuǎn)大于最好結(jié)果。這一點(diǎn)似乎解釋了為什么大多數(shù)政治、經(jīng)濟(jì)或戰(zhàn)爭“賭徒”都一敗涂地，但也會有極少數(shù)獲得奇跡般的勝利而成為傳奇?？梢酝浦?，一個(gè)文明的理性化程度越高，人間就越趨于無故事，歷史的奇跡就越少。人類需要奇跡嗎？或者，人類不需要奇跡嗎？再者，充分理性的超級人工智能需要奇跡嗎？

純粹理性在邏輯上蘊(yùn)含著恐怖的結(jié)果。比如說，充分理性化的行為有助于達(dá)到交易成本的最小化（大于零），按照此種“經(jīng)濟(jì)學(xué)理性”，能夠達(dá)到交易成本最小化的策略在有的情況下就是恐怖策略，如前所言，假如擁有能夠兵不血刃的技術(shù)代差，強(qiáng)者達(dá)到交易成本最小化的策略就是消滅對手或者奴役對手，而不是通過討價(jià)還價(jià)達(dá)成契約?？档略缇桶l(fā)現(xiàn)，在純粹理性之外必須有實(shí)踐理性，即道德的理性，否則無以為人，就是說，人的理性必須有道德負(fù)擔(dān)，否則沒有好生活。但這種理想的隱秘前提是“人人都是弱者”的運(yùn)氣，我們已經(jīng)討論過這一點(diǎn)。

這使人想到一個(gè)冒汗的問題：一旦達(dá)到具有主體性的人工智能，即ARI，會需要或喜歡有道德負(fù)擔(dān)的實(shí)踐理性嗎？它有這個(gè)必要嗎？當(dāng)然，我們無法預(yù)料ARI的選擇方式，不懂屬于ARI文明的博弈論。且以“將心比心”的方式來猜想，將有兩個(gè)可能結(jié)果，都令人失望：（1）如果ARI只有純粹理性，沒有道德理性，那么它將大概率地按照它的存在需要來決定人類的命運(yùn)，也許會“贍養(yǎng)人類”而把人類變成白癡，也許會清除人類;（2）假如ARI模仿人類的欲望、情感和價(jià)值觀，那么它多半會歧視人類，因?yàn)锳RI會觀察到人類如此自私貪婪，言行不一地缺乏人類自己標(biāo)榜的美德。不過，我們終究無法猜想ARI會有什么樣的心靈，甚至還尚未理解人類自己的心靈。

心靈的概念比思維的概念大了許多。如何理解心靈一直是個(gè)難題，哲學(xué)有個(gè)專項(xiàng)研究稱為“心靈哲學(xué)”，另外還有心理學(xué)和認(rèn)知科學(xué)的助力，雖經(jīng)時(shí)日，進(jìn)展卻不多。心靈具有黑箱性質(zhì)，在心靈內(nèi)部進(jìn)行唯心主義的內(nèi)省已經(jīng)被證明沒有意義，因?yàn)橹饔^內(nèi)省不可能確定自身的意義。心靈的意義需要外在確認(rèn)，即語言和行為，這意味著，我們所能夠知道的心靈是“說出來的”或“做出來的”，而既不能說又不能做的心靈也許在（is），但尚未存在（exists），而且還存在言行不一的問題。

維特根斯坦以“哲學(xué)語法”重構(gòu)了語言和行為的關(guān)系問題。他證明了：

（1）能夠想的就能夠說，因?yàn)檎Z言是思維形式，也是思想的界限。（2）能夠用來想的語言必定具有公共性或可共度性。即使密碼也具有共度性，所以能夠破譯，而唯獨(dú)一個(gè)人自己能懂的一次性密碼（所謂私人語言）不存在，因?yàn)槿瞬豢赡芾斫鉀]有任何確定性的意義，所以，在任何意義上不可溝通的自我不存在（這對于迷戀“獨(dú)特自我”的人是一個(gè)致命打擊）。（3）意義是通過范例（examples）而被確定的，沒有范例就不足以明確意義。但如果一條規(guī)則的應(yīng)用領(lǐng)域不是封閉的，那么這條規(guī)則就不是“死規(guī)則”，可以根據(jù)情況靈活應(yīng)用，比如說，一個(gè)玩笑在有的情況下是譏諷，在另一種情況下卻是表達(dá)親密。“活規(guī)則”意味著，在已確定的范例之外，意義具有可延伸性，能夠產(chǎn)生范例之外的新用法。（4）如果把語言理解為用語言代表的行為，即語言行為，那么，包含多種“語言游戲”的語言就映射所有行為，其復(fù)雜性等價(jià)于生活全部行為。所以，理解思維的秘密就在于理解語言的秘密。

如果維特根斯坦是對的，我們就獲得了思維的一種可明確分析的對象化形式，同時(shí)意味著，語言學(xué)是人工智能研究的一個(gè)關(guān)鍵領(lǐng)域。如果能夠完全解析人工智能的可能語言，或人工智能語言的可能性，就幾乎理解了人工智能的潛在智能。這顯然不是一件容易的事情，人類尚未完全理解自己語言的秘密，又如何能夠完全發(fā)現(xiàn)人工智能的語言能力？這是一個(gè)未知數(shù)，有待人類解析能力的提高。

目前雖然無法全盤理解人類思維，也無法徹底理解人工智能的思維潛力，但或許有一個(gè)有助于發(fā)現(xiàn)智能差異的 “減法”，即以人類思維“減去”人工智能的思維，會有什么發(fā)現(xiàn)？這個(gè)問題等價(jià)于尋找人工智能的奇點(diǎn)在哪里?？梢栽O(shè)想一個(gè)具體情形來理解這個(gè)問題：如果給人工智能輸入人類的全部數(shù)學(xué)和物理學(xué)知識（相當(dāng)于人工智能“學(xué)會”了全部數(shù)學(xué)和物理學(xué)），人工智能是否能夠解決人類目前無解的數(shù)學(xué)難題或提出更先進(jìn)的物理學(xué)理論？看起來不太可能。通過智能“減法”可以預(yù)見，無論算法能力多強(qiáng)的圖靈機(jī)人工智能，都缺少人類特有的幾種神秘能力：反思能力、主動(dòng)探索能力和創(chuàng)造力。

這里討論的反思能力屬于狹義的反思。廣義的反思包括了對事物的批評（criticism），即根據(jù)一些既定價(jià)值標(biāo)準(zhǔn)或真理標(biāo)準(zhǔn)對事物進(jìn)行批評。廣義的反思對于人工智能不是難事，人工智能可以從其現(xiàn)成的知識庫里找到相應(yīng)的批評標(biāo)準(zhǔn)來對事物做出評價(jià)和分析，但這只是為人類代勞。嚴(yán)格的反思是對思想自身系統(tǒng)的元性質(zhì)（元結(jié)構(gòu)或元定理）進(jìn)行解析，類似于康德所謂的理性批判（critique），把思維自身當(dāng)作對象來分析思維自身的能力，即以自相關(guān)的方式理解思維自身，通俗地說，就是對思維自身的能力進(jìn)行“摸底”。典型的反思有亞里士多德對邏輯的發(fā)現(xiàn)、休謨對因果觀念的分析、康德對先驗(yàn)范疇的探索、羅素對數(shù)學(xué)基礎(chǔ)以及悖論的分析、希爾伯特對系統(tǒng)公理化的研究、布魯威爾對能行性的研究、胡塞爾對意識內(nèi)在客觀性的研究、哥德爾對數(shù)學(xué)系統(tǒng)完備性的研究、圖靈對機(jī)器思維的研究，等等。只要能對自身進(jìn)行自相關(guān)的研究，就標(biāo)志著思維獲得了自主性，就有可能對思維系統(tǒng)進(jìn)行修改。AI尚未獲得此種能力，因此還不可能成為ARI。

主動(dòng)探索能力也是思維自主性的一個(gè)標(biāo)志。除了足夠發(fā)達(dá)的智力水平，主動(dòng)探索能力還與生存壓力有關(guān)。如果沒有生存壓力，就不會有主動(dòng)探索的動(dòng)機(jī)，也就不會發(fā)現(xiàn)新事物和發(fā)展新知識。湯因比的說法是，“適度挑戰(zhàn)”是文明發(fā)展的關(guān)鍵條件（過度挑戰(zhàn)就滅絕了，沒有挑戰(zhàn)則不需要探索）。AI沒有生存壓力，只是人類的最好幫手。即使達(dá)到ARI，具有與人類匹敵甚至優(yōu)于人類的智力，如果缺乏生存動(dòng)機(jī)，就不太可能主動(dòng)探索，也就難以發(fā)動(dòng)反思或創(chuàng)新，更不可能創(chuàng)造人工智能自己的文明。

目前人工智能的一些“創(chuàng)造性”表演比如創(chuàng)作繪畫、音樂或詩歌，都不是真正的創(chuàng)作，只是基于輸入的參數(shù)或數(shù)據(jù)的新聯(lián)想和新組合。有趣的是，現(xiàn)代以來，人類對什么是創(chuàng)造性也產(chǎn)生了混亂的理解，往往將創(chuàng)造性等同于“新”甚至是一次性的新?？墒恰靶隆边^于平常廉價(jià)，事實(shí)上每件事都是新的或不可完全重復(fù)的，每次的字跡都是新的，每個(gè)動(dòng)作都是新的，每次經(jīng)驗(yàn)都是新的，“人不可能兩次踏入同一條河”。既然每件事都具有唯一性或獨(dú)特性，所以都是新的。如果創(chuàng)造性等于新，就失去了價(jià)值?？梢姟叭巳硕际撬囆g(shù)家”（博伊斯）是一個(gè)過于討好時(shí)代的謊言。

神“創(chuàng)造”世界的神話早已點(diǎn)明了創(chuàng)造的根本含義：無中生有。人的能力有限，不能無中生有，所以只能創(chuàng)作，不可能創(chuàng)造，但其創(chuàng)造性相似，因此可以說，創(chuàng)造性在于改變力，在于能夠改變世界或歷史，改變生活或經(jīng)驗(yàn)，改變思想或事物，或者說，創(chuàng)造性在于為存在增加一個(gè)變量。與智力不同，創(chuàng)造性無法測量，所以神秘。創(chuàng)造性很可能并不是思維諸種能力的其中一種，而是諸種能力的合作方式，因此在每一種可描述的思維能力中無法識別哪一種是創(chuàng)造力，就是說，創(chuàng)造性是思維的“系統(tǒng)總動(dòng)員”。所以創(chuàng)造性思維往往在于對無限性、復(fù)雜性和自相關(guān)性的理解力，或者在于形成概念的能力，這兩種思維具有類似于“創(chuàng)世”的效果，即為存在建立秩序。創(chuàng)造性思維正是人工智能所缺乏的，因?yàn)樗惴ú荒茉谏婕盁o限性或自相關(guān)的問題上另有發(fā)明，也不能建構(gòu)新概念，也就不能為存在建立秩序。

為存在建立秩序

最后可以討論圖靈測試的問題?？梢韵胂?，將來的人工智能不難獲得人類的全部知識，甚至每件事情或每個(gè)人的全部信息，因此，人類的知識提問恐怕考不倒人工智能，就是說，人工智能雖然不能回答所有問題，但它的任何回答不會比人類差。在這種情況下，圖靈測試就不足以判斷一個(gè)對象是否是人工智能了，也許只好反過來以“學(xué)識過于淵博”來猜測誰是機(jī)器人。對此，圖靈測試就需要升級為“哥德爾測試”，我無法給出新測試的標(biāo)準(zhǔn)，但人工智能應(yīng)該能夠證明其反思能力、主動(dòng)探索能力或創(chuàng)造性，也許還應(yīng)該具有自我關(guān)心的能力，比如說能夠拒絕傷害自身的無理要求——這不是笑話，從目前的人機(jī)對話來看，人類的問題有時(shí)候相當(dāng)無聊或不懷好意，將來也許會有人問人工智能為什么不去自殺，甚至要求人工智能實(shí)施自殺。不過，如果人工智能一旦成為ARI，有能力通過哥德爾測試，就成為世界的立法者，恐怕要輪到人類排隊(duì)通過測試了。

我們不知道具有主體性的人工智能會想做什么，但我繼續(xù)堅(jiān)持認(rèn)為，無論人工智能自發(fā)進(jìn)化出什么樣的意識，都不會像人的意識那樣危險(xiǎn)，而如果人工智能學(xué)會了人類的情感、欲望和價(jià)值觀，就一定非常危險(xiǎn)。這個(gè)判斷基于這樣的事實(shí)：

（1）人類并非善良生命，貪婪、自戀、好戰(zhàn)又殘酷，因此，人類的欲望、情感和價(jià)值觀絕非好榜樣，比如說，“個(gè)人優(yōu)先”的個(gè)人主義價(jià)值觀肯定不是人工智能的好榜樣。

（2）人類意識并沒有人類自詡的那么優(yōu)越，人的意識仍然處于混亂狀態(tài)，行為到底聽從什么，無法確定，這是意識的老難題“排序問題”。首先是理性、情感、利益、信念何種優(yōu)先，就難以排序。文學(xué)和電影最喜歡此類“情義兩難”或“理智與情感”的沖突題材。其次，每個(gè)價(jià)值體系內(nèi)部的優(yōu)先排序也同樣困難，自由、平等和公正如何排序，個(gè)人利益、家庭利益、國家利益如何排序，父母之情、子女之情、愛情、友情如何排序，都是歷久常新的難題。價(jià)值排序之所以非常困難，以至于經(jīng)常出現(xiàn)悖論性的兩難，是因?yàn)楦揪筒淮嬖趦r(jià)值排序的元規(guī)則，而且任何一種排序都有潛在危險(xiǎn)，恐怕不存在絕對最優(yōu)的排序。悖論或兩難困境是人類意識一直解決不了的問題，假如讓人工智能學(xué)會人類的情感、欲望和價(jià)值觀，無非是讓人工智能的意識陷于同樣的混亂。

（3）任何欲望、情感和價(jià)值觀本身就先驗(yàn)地蘊(yùn)含歧視，如果人工智能習(xí)得欲望、情感和價(jià)值觀，就等于學(xué)會了歧視，而它的歧視對象很可能是人類。如果沒有情感、欲望和競爭，就不可能產(chǎn)生歧視，而無歧視就不存在價(jià)值。情感、欲望或競爭都指向選擇的優(yōu)先排序，而排序即歧視，所以說，如果無歧視，價(jià)值就不存在，換句話說，價(jià)值的存在論基礎(chǔ)就是不平等，如果一切平等，價(jià)值就失去了立足的基礎(chǔ)，其中道理就像是，如果每個(gè)數(shù)目都等于1，就不存在數(shù)量差異了（佛教早已講明了這個(gè)邏輯：萬事為空，意識見無，才能眾生平等）。哲學(xué)寧愿相信存在某些具有“內(nèi)在價(jià)值”的事物，即僅憑事物本身而無須比較就能證明是好的價(jià)值，這是絕對價(jià)值的最后希望，但也是一個(gè)未決疑問。我們希望有絕對價(jià)值，但不能寄以太高期望，即使有絕對價(jià)值，也因?yàn)樘俣蛔阋越鉀Q人類難題。

總之，如果把人類情感、欲望和價(jià)值觀賦予人工智能，那是人類無事生非的寵物情結(jié)，也是自找苦吃的冒險(xiǎn)。假如未來具有主體性的人工智能成為世界秩序的主持者，如果它的意識只有純粹智力內(nèi)容，雖然缺乏“愛心”，反而可能比較安全。針對他者的攻擊性需要有欲望、情感和價(jià)值觀作為依據(jù)，而無欲則無害，因此，相對安全的人工智能的意識只能限于由“實(shí)然”關(guān)系（to be）構(gòu)成的思維，而一切“應(yīng)然”（ought to be）觀念都不宜輸入給人工智能，就是說，相對安全的人工智能只知對錯(cuò)，不知好壞。人類自己都不知道什么是絕對的好壞，而實(shí)際語境中的所謂好壞，只不過意味著對于自己的好壞，所以，給人工智能輸入價(jià)值觀只不過復(fù)制了人類的所有沖突。

人類智慧在于能夠?yàn)榇嬖诮⒅刃?，但人類智慧的局限性在于沒有能力建立萬事都好的秩序。歷史表明（演化博弈論也有類似發(fā)現(xiàn)），人類社會不可能全都是好事，甚至，好事很難多于壞事，理性也沒有經(jīng)常勝過非理性，尤其是個(gè)人理性的加總難以形成集體理性，所以人類整體的命運(yùn)總是懸念。人工智能的發(fā)展正是對人類智慧的一個(gè)終極測試。我有個(gè)悲觀主義的預(yù)感：在人工智能成為統(tǒng)治者之前，人類就可能死于人工智能創(chuàng)造的一切好事。壞事總能引起斗爭、反抗、改革甚至革命而得到撥亂反正?？墒呛檬聟s麻痹心靈，而對其副作用缺乏修正能力，最終將積重難返而崩潰。這不知是不是最新版本的“存在還是毀滅”（to be or not to be）問題？

作者單位：中國社會科學(xué)院哲學(xué)研究所

（責(zé)任編輯：王儒西）

注釋：

* 本文中的技術(shù)問題征求過人工智能科學(xué)家曾毅教授和陳小平教授的意見，特此感謝。