人類，那些不可思議的創(chuàng)造以及代價

編輯部

人類是一種始終有著某種自毀傾向的物種，最糟糕的是，現(xiàn)在人類也具有了自毀的能力。人類憑借進化的優(yōu)勢，創(chuàng)造出了迄今為止地球上最輝煌的文明。出于對世界的好奇和無與倫比的勇氣，人類完成了對這個星球從高山到平原、河流，從天空到海洋的探索；人類憑借自身的智慧，可以預(yù)測日月星辰的變化，又發(fā)現(xiàn)了原子的奧秘，可以辨認(rèn)出構(gòu)成事物最基本的元素，地球上其他任何物種都遠遠無法和人類相比；人類甚至踏足外空，在這個行星唯一的天然衛(wèi)星上漫步。

與這些輝煌成就相伴的，是令人難以置信的愚蠢。從歷史發(fā)展過程來看，人類毀滅文明和建設(shè)文明的興趣同樣濃厚。人類至今仍然因為種種原因互相仇視、自相殘殺，并且制造出了足以毀滅自身的武器。野蠻與文明同時存在于人類的本性之中，仿佛是一枚硬幣的正反兩面。我們在未來面臨的最大危險，很可能來自人類自身。

人工智能

人類對于人工智能（Artificial Intelligence）的恐懼早不是什么新鮮事。曾經(jīng)和阿蘭·圖靈一同工作過的英國數(shù)學(xué)家歐文·古德（Irving Good）教授，在人工智能的第一次熱潮中，于1965年就創(chuàng)造出了“智能爆炸”（intelligence explosion）這個概念。他寫道：“因為制造及其本身就是一種智能行為，一種遠超人類的超級智能機器本身就可以制造出更好的機器，這毫無疑問會成為一種‘智能爆炸，然后人類的智能被遠遠落在后面，因此最初的一種超級智能機器是人類最后一種需要發(fā)明的機器，只要這種機器愿意服從人類的控制。”

古德教授的文字中對于超級智能機器的恐懼清晰可見，這種恐懼在那個時代尚且顯得有些不切實際。而在幾十年后，當(dāng)人工智能又一次成為世界熱點時，包括比爾·蓋茨、埃隆·馬斯克等科技界的精英，及史蒂芬·霍金和馬丁·里斯等物理學(xué)家和天文學(xué)家都紛紛公開表示了對于人工智能發(fā)展的擔(dān)憂，實際上對于人工智能的恐懼早已在硅谷的IT精英中蔓延開來，乃至于埃隆·馬斯克形容對于人工智能的研究是“對魔鬼的召喚”。

另一方面，與如此急切的擔(dān)憂相對應(yīng)的是，人類此時對于人工智能，或者是尚未出現(xiàn)的“超級智能”（superintelligence）的擔(dān)憂仍然缺乏切實的證據(jù)。人工智能還沒有任何足以威脅到人類的跡象，而且科學(xué)家與普通人對于人工智能潛在危險的認(rèn)知也并不相同。大多數(shù)人對于人工智能的恐懼可能直觀地來自《終結(jié)者》或是《黑客帝國》系列電影，在電影中的未來世界，超級智能的機器網(wǎng)絡(luò)完全控制了人類社會，要么派出危險的機器人追殺人類，要么則直接控制人類的大腦，彼時曾經(jīng)主宰地球的人類只是如植物一般被機器維持著生命。

專業(yè)人士的擔(dān)心與此完全不同。2016年6月，Google公司與斯坦福大學(xué)、加州伯克利大學(xué)等機構(gòu)的研究人員合作發(fā)表了一篇論文《人工智能安全性的真正問題》（Concrete Problems in AI Safety），論文中列出了目前人類在使用和發(fā)展人工智能時面臨的真實風(fēng)險，其中包括人工智能系統(tǒng)“學(xué)會”通過欺騙來完成設(shè)定的目標(biāo)（例如掃地機器人學(xué)會遮蓋住地板上的污漬而不是如人類期待的把污漬擦干凈），人工智能系統(tǒng)在設(shè)計中出現(xiàn)失誤、被恐怖分子劫持等可能性，還包括人工智能在探索全新環(huán)境時的安全性問題。論文中對于人工智能的危險性主要集中在技術(shù)方面，但人類對于人工智能的擔(dān)心顯然遠不止于此。

加州大學(xué)伯克利分校的斯圖爾特·羅素（Stuart Russell）教授認(rèn)為人工智能對于人類的危險性絲毫不遜于核武器，他形容人類對于人工智能的研究猶如開車沖向一個懸崖。人類追求無窮無盡的智能猶如當(dāng)年研究核聚變時追求無窮無盡的能源——可能更糟糕的是人類尚且可以限制核武器的數(shù)量和制造原料來盡量減小危險，卻無法限制各種各樣智能軟件的開發(fā)。羅素教授認(rèn)為，也許人工智能永遠也不會有人類般的意識或是達到“超級人工智能”，但是“這就如同一邊開著一輛車沖向懸崖，一邊又希望這輛車趕快耗盡汽油”。

目前我們還處于人工智能專家所定義的“弱人工智能時代”，人工智能系統(tǒng)還只是人類進行工作的輔助工具，但是它已經(jīng)深深影響到人類的生活。要控制人類可能并不需要造型可怕的超級機器人，只需要有網(wǎng)絡(luò)的鏈接。因為人工智能系統(tǒng)可以在短時間內(nèi)完成人類可能需要上百萬年才能完成的工作，在很多系統(tǒng)中人工智能已經(jīng)開始代替人類做決定。美國國家安全局利用人工智能系統(tǒng)進行通話記錄的數(shù)據(jù)挖掘，找出其中可疑的用戶信息進行調(diào)查。更為危險的是由人工智能掌握的致命武器，目前已經(jīng)有超過50個國家正在研究可以用于戰(zhàn)場的機器人，這種機器人如果用于實戰(zhàn)，將可以自行確認(rèn)敵軍和友軍，并且將會有決定是否進行殺戮的權(quán)力。

可以自行決定是否對人類進行殺戮的機器是人類面對人工智能帶來的最直接的危險，但這也還不是人們最大的擔(dān)憂。人類并不會愚蠢到輕易地給予機器進行殺戮或是進行自動復(fù)制的能力，而更大的憂慮在于，我們無法判定超級智能的出現(xiàn)，我們不知道如何控制超級智能，甚至可能無法判斷是否已經(jīng)被它所控制。在人類的歷史上，從未有過可以與之對比的困境。

超級智能，或是叫作強人工智能，是人們所想象的一種人工智能的高級發(fā)展?fàn)顟B(tài)，這種程度的智能已經(jīng)不僅僅是可以在棋牌上贏過人類冠軍或者進行簡單的數(shù)據(jù)挖掘整理工作，而是在智能的任何方面都遠超人類，此時它是否還可以被人類所駕馭，就成了一個未知數(shù)。在人工智能出現(xiàn)之前，人類早已經(jīng)習(xí)慣了“適者生存”的邏輯，認(rèn)定自己是在歷時幾百萬年的物種進化中的幸存者和勝出者，我們正是以遠超其他所有物種的智力成為地球的統(tǒng)治者，我們是宇宙中目前僅知的獨一無二的智能生物。問題在于，一旦出現(xiàn)了智能超越人類的機器，人類又該如何自處，是否應(yīng)該把對地球和自身的主導(dǎo)權(quán)交給更為強大的智能？

無論普通人還是專家可能都無法回答的一個問題是：人工智能是否有可能在某一天“覺醒”？是否有可能獨立于人類的控制之外而意識到“自身”的“存在”？這可能才是所有人對于人工智能最深刻的恐懼。對于機器“覺醒”的恐懼，在更深處，可能來源于人類對于自身意識的無知。何以有“自我”這個概念的形成，我們自己究竟是誰？機器究竟能不能和人類一樣思考？人工智能之父阿蘭·圖靈正是出于對亡友的思念，才想要發(fā)明出一款可以和亡友一樣進行思考的機器以使亡友在某種意義上死而復(fù)生，從而走上了人工智能的研究道路。但是他對于意識的本質(zhì)同樣缺乏認(rèn)識。機器究竟能不能和人類一樣具有意識？現(xiàn)在我們問一臺電腦能不能“思考”，就如同問一艘潛水艇會不會游泳一樣，在同樣現(xiàn)象之下，意識的本質(zhì)仍然沒有被觸及。目前我們也無法知道一款工作效率是人類百萬倍的智能軟件是否會在某一天覺醒，并且發(fā)現(xiàn)它和人類有著完全不一樣的目標(biāo)。

對于人工智能是否可能擁有意識的問題，圖靈提出一個間接的辨別方式，被稱作“圖靈測試”——如果一臺機器與人進行文字交流，而與之交流的人無法分辨對方是真實的人還是機器，那么我們就可以說這臺機器具有“智能”。直至今日，在嚴(yán)格意義上還有沒有任何一臺機器可以通過圖靈測試。問題在于，即便在未來有機器可以通過嚴(yán)格的圖靈測試，我們?nèi)匀粺o法判斷是否它只是通過學(xué)習(xí)高度模仿人類的語言，還是已經(jīng)擁有了某種意識，具有了和人類進行交流的能力。

與人工智能的覺醒相比，對于人類社會更為實際的威脅在于，它可能只是人類的一面忠實的鏡子。人工智能的善與惡，在很大程度上取決于人類自身，這正是最讓人擔(dān)心的地方。在2016年3月，微軟公司推出了一款名為Tay的聊天機器人，這款機器人通過人類真實的聊天記錄進行學(xué)習(xí)，試圖與人類交流。看上去這是人工智能最終通過圖靈測試的一條捷徑，但是在Tay上線不久，微軟公司就不得不通過人工過濾掉它的大部分發(fā)言。通過學(xué)習(xí)人類的真實聊天記錄，Tay迅速成為一個相信陰謀論，有種族主義傾向的聊天機器人——如果有一天智能機器真的覺醒，那么它首先看到的將是人類最丑惡的一面，很難說這是人工智能帶給我們的危險，還是我們與生俱來的危險。

盡管從目前的趨勢來看，起碼在幾十年內(nèi)還無法出現(xiàn)強人工智能，但即便是現(xiàn)在，人工智能在編程過程中的錯誤或是被恐怖分子劫持，都可能造成人們此前完全意想不到的悲劇。相比來自宇宙的種種危險，人類更有可能滅亡在自己手里。

氣候變化

2016年4月22日地球日這一天，174個國家和歐盟歷史性地聚集在一起，共同簽署了此前2015年12月12日在巴黎起草的氣候協(xié)議，限制全人類溫室氣體的排放。更激動人心的是，到了2016年9月，共占全球溫室氣體排放量38%的中美兩國共同加入了這個協(xié)議，其他30多個國家也在之后幾周內(nèi)相繼加入，這個協(xié)議在2016年11月4日正式生效；10月6日，聯(lián)合國國際民用航空組織（ICAO）達成了歷史上第一個抑制國際航班氣體排放的協(xié)議，197個國家同意修訂旨在保護地球臭氧層、限制氫氟化合物排放的《蒙特利爾議定書》；10月27日，24個國家通過南極海洋生物資源養(yǎng)護委員會同意在南極建立世界上最大的海洋保護區(qū)，這片59.8萬平方英里的海域面積相當(dāng)于英國面積的6倍。

這一系列協(xié)議和公約的簽署未必可以使人展望到一個更美好的未來，而只是人類生存環(huán)境持續(xù)惡化的信號。與人類采取一系列環(huán)保措施相對應(yīng)的，是地球連續(xù)三年接連打破高溫紀(jì)錄，2016年成為有記錄以來最熱的年份，地球上的大多數(shù)生物的生存環(huán)境都受到了直接威脅。

就在幾年前，關(guān)于全球氣候變暖是否真實存在，以及其是否與人類活動有關(guān)仍是一個被熱烈討論的話題，現(xiàn)在人類已經(jīng)有了足夠的證據(jù)證明正是人類活動造成了全球變暖，并正在醞釀其中所有潛在的危險。地球的溫度有其自身循環(huán)變化的規(guī)律，在此前的65萬年里，地球上曾經(jīng)有過7次冰川推進和消退——在7000年前一次冰川時代的突然結(jié)束標(biāo)志著現(xiàn)代氣候時代的開始，這也為人類文明的興起創(chuàng)造了絕佳機會。此前地球上大多數(shù)的氣候變化都與地球圍繞太陽運轉(zhuǎn)的軌道有關(guān)，軌道變化會影響地球接受的太陽輻射強度——而目前人類所面臨的氣候變化所帶來的危險，卻是我們自己造成的。人類進入工業(yè)化時代之后，對于能量的需求不斷升高，使我們以前所未有的速度把地球上的化石能源燃燒掉轉(zhuǎn)化為熱量，又把燃燒產(chǎn)生的二氧化碳等溫室氣體排放到大氣層中。

人類進入工業(yè)化時代以來，海洋表層的海水酸化了30%，這是人類把大量二氧化碳排放到大氣層中，繼而被海洋吸收的影響之一，目前海洋表層海水每年要多吸收20億噸二氧化碳。一個持續(xù)酸化的海洋可能對海洋生物造成滅頂之災(zāi)，一些海洋生物可能并沒有在這樣的海洋環(huán)境中生存的經(jīng)驗，在還沒來得及完成進化以適應(yīng)新環(huán)境的時候就慘遭滅絕——其中軟體動物和珊瑚等利用碳酸鈣保護自身的生物受到的影響可能最為嚴(yán)重。

氣候變化本身也會促發(fā)更嚴(yán)重的氣候變化。持續(xù)上升的溫度會造成永凍土解凍，并使其中固定的二氧化碳被排放到大氣層中。目前的問題在于，人類能夠接受什么程度的全球變暖？根據(jù)預(yù)測，相比于人類工業(yè)化之前的全球平均氣溫，想要維持人類現(xiàn)有的社會和經(jīng)濟結(jié)構(gòu)，人類最多能夠接受平均氣溫升高2攝氏度——而目前全球平均氣溫已經(jīng)升高了接近1攝氏度——這樣的溫度變化已經(jīng)足以改變自然界復(fù)雜的生態(tài)平衡。人類對于能量的需求始終在增加，而尋找化石能源便宜的替代品又絕非易事。

即使不去暢想未來，根據(jù)世界氣象組織的報告，因為全球變暖的影響，人類現(xiàn)在受到自然災(zāi)害襲擊的危險也已經(jīng)是20世紀(jì)70年代的5倍。相比于20世紀(jì)90年代，如今與天氣相關(guān)的自然災(zāi)害頻率也已經(jīng)升高了一倍。在21世紀(jì)的第一個十年里，人類經(jīng)受了總共3496次來自洪水、風(fēng)暴、干旱和熱流等自然災(zāi)害的襲擊，這些幾乎都和氣候變化有關(guān)，這些災(zāi)害又使人類在水資源、食物生產(chǎn)、人類健康狀況等方面的支出上升。

全球變暖正在發(fā)生，并且發(fā)生得比人們此前想的更快。由于溫室氣體造成氣候變暖的滯后效應(yīng)，人類現(xiàn)在已經(jīng)排放的溫室氣體就有可能繼續(xù)造成0.4至0.5攝氏度的溫度上升。這意味著即使是各國所承諾的減排目標(biāo)全部都實現(xiàn)，全球平均氣溫也有可能在2030年升高1.5攝氏度，并且在2050年升高2攝氏度，在這樣的趨勢之下，屆時全人類都將生活在因為過熱而變得格外危險的地球上。

隨著天氣變暖，全球的冰蓋可能會融化，造成海平面上升，屆時很多露出海平面的部分也可能成為荒漠，造成全球糧食短缺，人類可能失去大部分的野生動物，海洋溫度的升高也將使人類失去所有熱帶珊瑚——這將是由人類造成的地球上第六次生物大滅絕的開始。

氣候災(zāi)難已經(jīng)發(fā)生，人類最終只能學(xué)會在更危險的環(huán)境中生存，但是要避免因為全球氣溫持續(xù)升高而發(fā)生的極端災(zāi)難情況，人類并非沒有機會。除了盡快完成從化石能源到其他形式替代能源的轉(zhuǎn)變，碳捕捉和存儲技術(shù)的發(fā)展也至關(guān)重要，或許留給人類拯救自己的時間已經(jīng)不多了。

太空旅行

霍金教授已經(jīng)多次提出，人類只有盡快移民太空，才可能避免滅亡的命運。1969年，美國宇航員尼爾·阿姆斯特朗第一次踏上月球，正是“冷戰(zhàn)”時期美蘇兩強爭霸的結(jié)果。這似乎也為人類的太空探索增添了一抹不祥的背景，人類探索宇宙，總是與其自身的危機有關(guān)。

然而探索乃至移民外星絕非易事。人類作為在地球上生活的哺乳動物，想要進行星際旅行或是在外星生活，必須面對各種已知和未知的危險。在1969年第一次踏足月球之后，人類探索太空的進程反而在20世紀(jì)70和80年代陷入了停滯，其中在太空中宇航員的健康問題可能正是原因之一。美國航空航天局計劃在21世紀(jì)30年代把宇航員送上火星，其中最大的困難之一也是如何保證太空中宇航員的安全和健康。

英國維珍集團計劃推出針對普通人的商業(yè)太空旅行，僅僅是在地球亞軌道上飛行幾分鐘，讓乘客體驗到失重的感覺，票價可能就會高達20萬美元，即便如此仍有很多人趨之若鶩。實際上進行真正的太空旅行遠沒有想象中的美好。宇宙飛船在起飛時所需的巨大能量和巨大的加速度以及著陸時的沖擊足以對人體造成傷害，但這與太空旅行的種種危險相比，遠還不是最令人擔(dān)心的事情。

美國航空航天局的人類研究項目（Human Research Program）詳細(xì)研究了人體在太空中可能遇到的種種危險。在從地球前往火星的大約半年的旅行中，宇航員會處于失重狀態(tài)，而在火星的表面，宇航員所體驗到的重力也只有地球的三分之一，對不同重力的適應(yīng)對于在地球上長期進化而來的人類來說絕非易事，這會影響宇航員的方向感和身體的協(xié)調(diào)性。

在國際空間站工作的宇航員們每次只能在太空環(huán)境中工作6個月，這主要也是出于健康原因。調(diào)查顯示，女性在國際空間站上工作18個月，男性工作24個月，所受到的宇宙射線的輻射總劑量就會超過其一生可接受的限度。在太空中旅行，脫離地球大氣層和磁場的保護，人體極大程度地暴露在宇宙輻射之中。這種來自宇宙中的高能量原子碎片極難防護，它們可以穿透層層防護，傷害到人的細(xì)胞和DNA。一份來自加州大學(xué)的報告顯示，宇宙射線可能會造成長期的大腦損傷，包括老年癡呆、失憶、焦慮、抑郁、大腦決策受損等長期影響，同時也會增加患癌癥的風(fēng)險。

在宇宙空間中，大約只需要三天的時間，人體內(nèi)數(shù)以萬億的細(xì)胞就可能全都被宇宙射線中最常見的高能質(zhì)子擊中，在一年的時間里，每一個細(xì)胞都可能被具有破壞性的鐵原子核擊中，從而可能誘發(fā)基因突變。一次從地球到火星的單程旅行，就會使人受到0.3希沃特（sievert）的輻射，盡管這還達不到8希沃特的致死劑量或是1希沃特的致病劑量，但是這樣的輻射強度已經(jīng)足以對人的健康系統(tǒng)和腦細(xì)胞造成不可逆轉(zhuǎn)的損害，長時間星際旅行對人體造成的傷害可想而知。

人類可以通過加固防護罩的方式盡量避免宇宙射線在太空中對人類的危害，也可以選擇在太陽活動11年周期的高峰期進行太陽系內(nèi)的宇航旅行——在這期間，太陽自身發(fā)出的輻射可以阻擋一些進入太陽系的宇宙射線，減少宇航員所受到的傷害，當(dāng)然這也意味著宇航員要忍受太陽所釋放的格外強烈的太陽耀斑——但這也還不是全部危險。即使是在太陽系內(nèi)距離地球最近的行星火星，其與地球的平均距離也是月球與地球之間距離的500倍以上。在宇宙飛船有限的空間中，當(dāng)出發(fā)地和目的地都成為視野中的一個小點，生活環(huán)境的改變對于人類生理和心理狀態(tài)造成的影響都很難消除。

在封閉的空間中，宇航員的應(yīng)激激素水平上升，免疫系統(tǒng)也會發(fā)生相應(yīng)的改變，心理很容易出現(xiàn)劇烈的波動，對于任何外界刺激都可能做出極端反應(yīng)；重力的消失也會對人體骨骼和肌肉狀態(tài)造成影響。目前在國際空間站中工作的宇航員每天都要花費兩個小時進行鍛煉，以保持肌肉，但是骨密度降低仍然無可避免。人類的心血管循環(huán)系統(tǒng)是根據(jù)對抗地球引力將血液輸送到全身來設(shè)計的，在引力消失的情況下，人類體內(nèi)的液體循環(huán)和分布會發(fā)生明顯變化，血液將向胸部和頭部集中，造成血壓升高。在太空中人體的脊柱內(nèi)液壓增大，壓迫視神經(jīng)，也會造成人視力模糊。在沒有引力的情況下，宇航員也會明顯增高，而脊椎骨缺乏地球引力帶來的壓力也會引發(fā)背痛。除此之外，在太空艙中如果發(fā)生真菌或病原體爆發(fā)，都可能對宇航員造成致命感染，宇航員在太空中操作時可能出現(xiàn)的種種錯誤，也都可能造成比地球上嚴(yán)重得多的后果。

無論如何，為了生存，人類必須離開地球。在20億年以內(nèi)，即使人類沒有自我毀滅或是遭遇地球周期性的物種滅絕，太陽燃燒狀態(tài)的變化也將使地球變得不再適合人類居住。太陽在最終熄滅之前，會逐漸發(fā)亮、膨脹，直至膨脹到地球軌道。在此之前，人類必須逃離太陽系，或許那時失去了故鄉(xiāng)的人類只能生活在茫茫的太空之中。

人類是宇宙的一部分，構(gòu)成我們的物質(zhì)本身就來自宇宙深處，來自發(fā)生在宇宙各處的奇異又壯觀的爆發(fā)。宇宙中種種無法理解甚至無法想象的事件或許不會馬上帶給我們滅頂之災(zāi)，但我們需要意識到，光年之外星球的誕生或毀滅，也在影響著地球上所有的生命，并影響著生命的進化。無比脆弱的人類文明得以暫時存在和發(fā)展，是因為有了地球大氣層、臭氧層和磁場對我們提供層層保護，以及地球上所有生物花費數(shù)百萬年的時間建立起一套脆弱的生態(tài)平衡系統(tǒng)——而面對永恒的危險，是生命存在所必須付出的代價。