如何看待“技術(shù)奇點(diǎn)”

默里·沙納漢

近年來(lái)，隨著科學(xué)技術(shù)的迅猛發(fā)展，“奇點(diǎn)”這個(gè)概念已經(jīng)從科幻小說(shuō)逐漸轉(zhuǎn)移到了嚴(yán)肅的學(xué)術(shù)討論中。人們認(rèn)為 當(dāng)前人類歷史的發(fā)展階段距離奇點(diǎn)已越來(lái)越近。

人類歷史中出現(xiàn)的奇點(diǎn)指的是由于技術(shù)的迅速發(fā)展，人類社會(huì)中的一切都出現(xiàn)了改變，生活在今天的我們將無(wú)法理解。今天被我們當(dāng)作理所當(dāng)然的一切（經(jīng)濟(jì)、政府、法律、 國(guó)家）會(huì)改變形態(tài)，人類最根本的價(jià)值觀（生命的尊嚴(yán)、對(duì)幸福的追求、選擇的自由）也會(huì)被淘汰。我們對(duì)人類之所以為人的理解（人性、生存、意識(shí)、社會(huì)秩序）提出疑問(wèn)，不是通過(guò)漫無(wú)邊際的哲學(xué)思考，而是由真實(shí)存在的環(huán)境所推動(dòng)。

什么樣的技術(shù)進(jìn)步會(huì)帶來(lái)這種劇變？本書(shū)將要驗(yàn)證的假說(shuō)是：人工智能和神經(jīng)技術(shù)這兩個(gè)領(lǐng)域的技術(shù)進(jìn)步會(huì)加速奇點(diǎn)的到來(lái)。我們已經(jīng)破解了生命的秘密，能夠理解基因的工作原理。生物技術(shù)帶來(lái)的改變已經(jīng)非常巨大，但是和人工制造思維的能力相比，就差多了。

從某種重要的意義上來(lái)說(shuō)，今天的智能是固定的，這影響了技術(shù)進(jìn)步的廣度和速度。幾千年來(lái)，人們掌握的知識(shí)已經(jīng)非常豐富，而且隨著文字、印刷術(shù)和互聯(lián)網(wǎng)的出現(xiàn)，傳播知識(shí)的能力也增強(qiáng)了。但是，創(chuàng)造知識(shí)的器官（有智慧的人的大腦）在過(guò)去的幾千年中變化不大，認(rèn)知能力的秘密還沒(méi)有被我們揭開(kāi)。

如果人工智能和神經(jīng)科學(xué)能充分發(fā)揮潛力，這種情況將會(huì)改變。如果不僅是智能創(chuàng)造技術(shù)，技術(shù)反過(guò)來(lái)也可以創(chuàng)造智能，那么就會(huì)產(chǎn)生一個(gè)循環(huán)。這個(gè)循環(huán)的結(jié)果是難以預(yù)料的，可能帶來(lái)爆炸性的改變。作為原來(lái)的創(chuàng)造者，如果智能也可以被創(chuàng)造出來(lái)，那么它就可以提升自己。根據(jù)奇點(diǎn)理論，不久以后，這個(gè)循環(huán)中就不再需要人類了，人工智能或進(jìn)行過(guò)認(rèn)知改造的生物智能將占據(jù)主導(dǎo)地位，人類已經(jīng)跟不上了。

我們需要認(rèn)真對(duì)待奇點(diǎn)理論的假說(shuō)嗎？又或者它只適合出現(xiàn)在科幻小說(shuō)里？雷·庫(kù)茲韋爾認(rèn)為我們應(yīng)該認(rèn)真對(duì)待這一假說(shuō)，并提出了“加速回報(bào)定律”。如果一項(xiàng)科技符合加速回報(bào)定律，那么這項(xiàng)科技越先進(jìn)，它進(jìn)步的速度就越快，在一段時(shí)間以后就會(huì)實(shí)現(xiàn)指數(shù)級(jí)進(jìn)步。一個(gè)很好的例子就是“摩爾定律”。然而，信息技術(shù)不是唯一高速發(fā)展的領(lǐng)域。在醫(yī)學(xué)領(lǐng)域，DNA測(cè)序的成本快速下降，測(cè)序的速度則呈指數(shù)級(jí)上升，大腦掃描的分辨率也在以指數(shù)級(jí)速度上升。

從歷史的角度來(lái)看，出現(xiàn)重大技術(shù)進(jìn)步的時(shí)間間隔在縮短：從農(nóng)業(yè)、印刷術(shù)、電力到電腦。除了技術(shù)的進(jìn)步，進(jìn)化過(guò)程中出現(xiàn)里程碑式突破的間隔也在不斷縮短：從真核生物、脊椎動(dòng)物、靈長(zhǎng)類動(dòng)物到智人。很多評(píng)論家認(rèn)為人類發(fā)展的軌跡是一條復(fù)雜的曲線，一直延伸到遠(yuǎn)古時(shí)代。但是， 我們只需要研究這條曲線中科技的部分，并推演科技曲線的未來(lái)趨勢(shì)。我們發(fā)現(xiàn)，未來(lái)會(huì)出現(xiàn)一個(gè)轉(zhuǎn)折點(diǎn)，人類發(fā)明的技術(shù)會(huì)讓自己落伍。

由于物理規(guī)律的制約，指數(shù)級(jí)技術(shù)發(fā)展最終會(huì)遇到瓶頸。指數(shù)級(jí)技術(shù)發(fā)展的停滯可能有各種經(jīng)濟(jì)、政治或者科學(xué)的原因。但是，我們先假設(shè)與人工智能以及神經(jīng)技術(shù)最相關(guān)的發(fā)展將會(huì)保持勢(shì)頭，加快破解大腦秘密的速度，并且最終合成人工智能。我們不難相信，不管是人工智能還是人類智能，都會(huì)遵循加速回報(bào)定律，最終到達(dá)技術(shù)奇點(diǎn)。

有些作者預(yù)言，奇點(diǎn)的到來(lái)會(huì)在21世紀(jì)中葉。我們可以不把奇點(diǎn)只作為預(yù)言來(lái)研究，預(yù)言畢竟是比較虛無(wú)縹緲的。首先，奇點(diǎn)是一個(gè)很有意思的深刻的學(xué)術(shù)話題，無(wú)論它最后是否真的會(huì)出現(xiàn)或不知什么時(shí)候出現(xiàn)。其次，奇點(diǎn)出現(xiàn)的可能性雖然看起來(lái)很微小，但是卻值得我們從務(wù)實(shí)的角度，在理性的基礎(chǔ)上討論。即使未來(lái)學(xué)的理論有瑕疵，但只要未來(lái)學(xué)描述的場(chǎng)景存在可能性，就值得我們認(rèn)真關(guān)注。如果奇點(diǎn)真的出現(xiàn)，對(duì)人類來(lái)講，其后果將是顛覆性的。

從樂(lè)觀的角度來(lái)看，技術(shù)奇點(diǎn)帶來(lái)了生存的機(jī)會(huì)，也就是哲學(xué)上的“存在”的意義。當(dāng)我們有能力構(gòu)建大腦時(shí)，就可以突破生物的限制，延長(zhǎng)人類的壽命。

技術(shù)奇點(diǎn)可能是一種生存機(jī)會(huì)，要理解這一概念，必須放棄人類的視角，采取一種更具宇宙性的視角?！叭祟惿鐣?huì)和生活在人類社會(huì)中的人們的大腦已經(jīng)到達(dá)了宇宙的極限”是一種人類中心主義的想法。也許智能的復(fù)雜程度還有很大的提升空間。可能未來(lái)還會(huì)出現(xiàn)比我們更高級(jí)的意識(shí)形式。

應(yīng)該阻止還是迎接這一情況的到來(lái)？我們能理解這樣的未來(lái)會(huì)是什么樣嗎？不管奇點(diǎn)是否已經(jīng)臨近，這些問(wèn)題都值得思考。因?yàn)樵谒伎歼@些問(wèn)題的同時(shí)我們對(duì)自身有了新的理解，也理解了我們?cè)诖笄澜缰械奈恢谩?