人機(jī)大戰(zhàn)：從興奮的現(xiàn)實(shí)到憂慮的未來(lái)

1997年5月11日北京時(shí)間早晨4點(diǎn)50分，一臺(tái)名叫“深藍(lán)”的超級(jí)電腦在棋盤(pán)C4處落下最后一顆棋子，全世界都聽(tīng)到了震撼世紀(jì)的叫殺聲——“將軍”！這場(chǎng)舉世矚目的“人機(jī)大戰(zhàn)”，終于以機(jī)器戰(zhàn)勝國(guó)際象棋冠軍加里·卡斯帕羅夫的結(jié)局落下了帷幕。

而2016年3月15日，谷歌人工智能程序阿爾法圍棋（AlphaGo，被中國(guó)棋迷戲稱為“阿爾法狗”）與韓國(guó)棋手李世石九段的最后一輪較量以前者獲勝結(jié)束。最終，這場(chǎng)轟動(dòng)全球的“人機(jī)大戰(zhàn)”的總比分定格在了4∶1，阿爾法圍棋輕松戰(zhàn)勝了代表人類出戰(zhàn)的李世石。此次比賽后，阿爾法圍棋的世界排名躍升至第二名，僅次于中國(guó)棋手柯潔九段。

被譽(yù)為人類“智慧堡壘”的圍棋被人工智能攻克，這個(gè)結(jié)果為人類留下了一連串的興奮和擔(dān)憂。

背景

B E I J I N G

從“深藍(lán)”到“阿爾法狗”：人機(jī)大戰(zhàn)20年進(jìn)化史

人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支，它企圖了解人類智能的實(shí)質(zhì)，并生產(chǎn)出一種新的、能以與人類智能相似的方式做出反應(yīng)的智能機(jī)器。人工智能是對(duì)人的意識(shí)、思維的信息過(guò)程的模擬，使得機(jī)器能像人那樣思考，甚至超過(guò)人的智能。自1956年這個(gè)概念被提出并確立以來(lái)，這個(gè)領(lǐng)域就被視為人類最高的夢(mèng)想之一。

棋類游戲一直被視為頂級(jí)人類智力的試金石。人工智能與人類棋手的對(duì)抗一直在上演，此前在三子棋、跳棋和國(guó)際象棋等棋類比賽中，計(jì)算機(jī)程序都曾打敗過(guò)人類。在圍棋“人機(jī)大戰(zhàn)”之前的歷史上，最著名的“人機(jī)大戰(zhàn)”要數(shù)國(guó)際象棋世界冠軍加里·卡斯帕羅夫?qū)?guó)際象棋人工智能程序“深藍(lán)”的國(guó)際象棋比賽。1997年，國(guó)際象棋人工智能第一次打敗頂尖的人類；2006年，人類最后一次打敗頂尖的國(guó)際象棋人工智能。自那時(shí)起，作為歐美傳統(tǒng)頂級(jí)人類智力游戲的國(guó)際象棋，已經(jīng)在電腦面前一敗涂地。圍棋成了人類智力游戲的最后一塊高地。

圍棋人工智能長(zhǎng)期以來(lái)舉步維艱，頂級(jí)人工智能甚至不能打敗稍強(qiáng)的業(yè)余選手。這似乎也合情合理。因?yàn)閲逍枰?jì)算的變化數(shù)量，目前比較公認(rèn)的數(shù)字是10的800次方，這已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)了人類所能觀測(cè)到的宇宙中原子的數(shù)量。由于變化實(shí)在太多，在棋盤(pán)上的多一路或少一路、多交換一步或少交換一步，都會(huì)產(chǎn)生無(wú)窮無(wú)盡的連鎖反應(yīng)。如果人工智能試圖用蠻力來(lái)窮舉所有變化，那么這種計(jì)算量對(duì)現(xiàn)在的計(jì)算機(jī)來(lái)說(shuō)也是無(wú)法承受的。而人類，可以憑借某種難以復(fù)制的算法跳過(guò)蠻力，一眼就看到棋盤(pán)的本質(zhì)。

后來(lái)，人工智能研究者們祭出了終極殺器——“深度學(xué)習(xí)”。“深度學(xué)習(xí)”是人工智能領(lǐng)域中的熱門(mén)科目，它能完成筆跡識(shí)別、面部識(shí)別、聲音識(shí)別、駕駛自動(dòng)汽車、自然語(yǔ)言處理、分析生物信息數(shù)據(jù)等非常復(fù)雜的任務(wù)。谷歌人工智能程序阿爾法圍棋就是基于“深度學(xué)習(xí)”技術(shù)研究開(kāi)發(fā)的。

用“深度學(xué)習(xí)”技術(shù)“教”機(jī)器下圍棋，就如同教小孩一樣，絕不是讓程序員添一段代碼就完事，而是要“喂”給程序足夠多的案例，讓機(jī)器“自己領(lǐng)悟”正確的下法。從一定程度上說(shuō)，阿爾法圍棋是在以預(yù)測(cè)的方式模擬人類的直覺(jué)，試圖以人類的思維去學(xué)習(xí)圍棋對(duì)弈。據(jù)稱，目前阿爾法圍棋模仿人類的直覺(jué)判斷程度約為80%。此前，在與法國(guó)“瘋石”、日本“zen”等當(dāng)今最優(yōu)秀圍棋程序所進(jìn)行的500盤(pán)博弈中，阿爾法圍棋也只輸了一盤(pán)。為了測(cè)試阿爾法圍棋的水平，谷歌于2016年3月向圍棋世界冠軍、韓國(guó)頂尖棋手李世石發(fā)起了挑戰(zhàn)。這場(chǎng)挑戰(zhàn)最終以李世石1∶4負(fù)于阿爾法圍棋而告終。

實(shí)際上，圍棋問(wèn)題與現(xiàn)實(shí)生活中的問(wèn)題是相通的，中國(guó)人甚至將圍棋博弈視為洞悉人性、參悟人生的過(guò)程。然而，現(xiàn)在下圍棋的卻是一個(gè)機(jī)器，意味著這個(gè)機(jī)器除擁有超強(qiáng)的記憶能力、邏輯思維能力，還要擁有創(chuàng)造力甚至個(gè)性?！案杏X(jué)就像一個(gè)有血有肉的人在下棋一樣，該棄的地方也會(huì)棄，該退出的地方也會(huì)退出，棋風(fēng)非常均衡，真的看不出出自程序之手?！笨聺嵕哦握f(shuō)，阿爾法圍棋有好幾次落子極其非常規(guī)，許多專業(yè)棋手都表示看不懂。而聶衛(wèi)平九段甚至表示自己想要對(duì)阿爾法圍棋的驚人一手脫帽致敬，因?yàn)樗坝貌豢伤甲h的下法辟立了圍棋常識(shí)之外的新天地”。因此，興奮過(guò)后的人類開(kāi)始焦慮——人工智能會(huì)不會(huì)擁有“智慧”，擁有自主意識(shí)？人工智能又會(huì)不會(huì)在將來(lái)的某一天脫離人類的控制，反過(guò)來(lái)奴役人類？

聲音

SHENGYIN

這是我的失敗，但不是人類的失敗。

——圍棋世界冠軍、韓國(guó)棋手 李世石

對(duì)超級(jí)人工智能的擔(dān)心，就像現(xiàn)在擔(dān)心去火星的人口會(huì)不會(huì)過(guò)多一樣，現(xiàn)在我真的不知道答案。其實(shí)，我覺(jué)得很多人還是不太理解用人工智能可以做什么不可以做什么。

——全球人工智能領(lǐng)域最權(quán)威的學(xué)者之一、百度公司首席科學(xué)家 吳恩達(dá)

阿爾法圍棋和李世石的這場(chǎng)對(duì)弈，其本身的歷史意義是超越勝負(fù)的?！鞍柗ü贰壁A了并不可怕，可怕的是，如果“阿爾法狗”學(xué)會(huì)故意輸給李世石的話……謝天謝地，這一幕還沒(méi)有發(fā)生。

——小米科技創(chuàng)始人、董事長(zhǎng) 雷 軍

成功制造出一臺(tái)人工智能機(jī)器人將是人類歷史上的里程碑。但不幸的是，它也可能會(huì)成為我們歷史上最后的一個(gè)里程碑。人工智能一旦發(fā)展完全將終結(jié)人類這一物種，人類被緩慢的生物進(jìn)化所束縛不能與之對(duì)抗就會(huì)被取而代之。

——英國(guó)著名物理學(xué)家 史蒂芬·威廉·霍金

如果讓我猜人類最大的生存威脅，我認(rèn)為可能是人工智能。因此我們需要對(duì)人工智能保持萬(wàn)分警惕，研究人工智能如同在召喚惡魔。而且在所有的故事里，似乎總有拿著五角星和圣水的家伙，好像他很確定自己能控制惡魔一樣，但這并非總是管用。

——電動(dòng)汽車公司特斯拉、商業(yè)太空飛行公司SpaceX首席執(zhí)行官 埃隆·馬斯克

思考

S I K A O

未來(lái)的人工智能能戰(zhàn)勝人類嗎？

雖然這場(chǎng)“人機(jī)大戰(zhàn)”只是一場(chǎng)棋類比賽，但這種電腦與人腦的較量，總是伴隨著一個(gè)在人類思維史上揮之不去的困惑：隨著科技的發(fā)展，未來(lái)的人工智能能戰(zhàn)勝人類嗎？答案是非常明確的——不能。

首先，對(duì)阿爾法圍棋而言，它的智慧來(lái)自于英國(guó)人哈薩比斯及其領(lǐng)導(dǎo)的人類開(kāi)發(fā)團(tuán)隊(duì)。如果你仔細(xì)翻翻這群超級(jí)人類的駭人履歷，你就會(huì)明白什么叫“大智慧”了。所以，無(wú)論是這場(chǎng)“圍棋人機(jī)大戰(zhàn)”還是近20年前那場(chǎng)“國(guó)際象棋人機(jī)大戰(zhàn)”，歸根結(jié)底，還是人類與人類的較量。換句話說(shuō)，與其說(shuō)這次是阿爾法圍棋戰(zhàn)勝了李世石，還不如說(shuō)是哈薩比斯及其領(lǐng)導(dǎo)的人類開(kāi)發(fā)團(tuán)隊(duì)?wèi)?zhàn)勝了李世石。更確切地說(shuō)，這是一群人的集體智慧戰(zhàn)勝了一個(gè)人的個(gè)體智慧。

其次，阿爾法圍棋雖然可以戰(zhàn)勝人類棋手，但是只是戰(zhàn)勝了人類思維的一個(gè)方面。就像人類發(fā)明的汽車飛機(jī)都比其自身跑得快一樣，那只是人類用思維所給予四肢的一個(gè)延伸，可以說(shuō)人類每發(fā)明一項(xiàng)科技都會(huì)超越人類的某一個(gè)方面，但人類的方面是無(wú)限的。而同時(shí)，人類的智慧也是無(wú)限的，雖然就一個(gè)人來(lái)說(shuō)，不可能達(dá)到完美的高度，但人類是一個(gè)互通的整體，本身也構(gòu)成了一部有機(jī)的計(jì)算機(jī)，并充滿了多維度空間。這種總體之合的智慧，總會(huì)大于最先進(jìn)的某部機(jī)器，并且以人類的整體性維度控制著所有的人造物。

機(jī)器每贏一次，就是一次局部的勝利，但人類是一個(gè)整體，每個(gè)人都在不停地進(jìn)化著，這種整體的進(jìn)化也可以理解為是一種智慧的學(xué)習(xí)，但人類的這種學(xué)習(xí)其特質(zhì)就是充滿了創(chuàng)造性和連通性。而就一部電腦或機(jī)器來(lái)說(shuō)，它的“學(xué)習(xí)”永遠(yuǎn)在人類之后，因?yàn)樗摹皩W(xué)習(xí)資料”只能是人類提供的大數(shù)據(jù)，電腦雖然可以以程序的方式消化這樣的大數(shù)據(jù)，但這也是電腦所無(wú)法突破的極限維度。

人類可以給予電腦的東西總是人類的產(chǎn)出，而這種給予不可能超前于人類的全部已知。這是因?yàn)?，人類的“給予”行為本身也需要運(yùn)算的思維空間和工具，就像要給一臺(tái)超級(jí)電腦裝一個(gè)最新的軟件，人類除了首先擁有這個(gè)軟件之外，還要有某種裝載的能力，而這個(gè)裝載能力人類即使想給予最先進(jìn)的電腦也可能給不出去。這猶如給一輛跑車升級(jí)，用以升級(jí)的那些工具永遠(yuǎn)都不會(huì)被裝在那輛跑車上，因?yàn)槿绻b在那輛車上，就會(huì)加大跑車的負(fù)荷，且這不是人類的初衷，智慧不允許其做出這樣的相悖之事。

人類在最大程度給予的同時(shí)，總會(huì)存在無(wú)法給予干凈的剩余，這些剩余，就是人類永遠(yuǎn)高于電腦的資本，也是重新思維的起航點(diǎn)，電腦則不會(huì)有這個(gè)高度的起航點(diǎn)。這也猶如人向著太陽(yáng)高速奔跑，影子也會(huì)高速奔跑，但它的速度再快也只能跟在人的身后。這就是萬(wàn)事萬(wàn)物間的自然倫理法則，這樣的倫理法則，誰(shuí)都無(wú)法超越，所以才有了如今的宇宙秩序。因此，未來(lái)電腦戰(zhàn)勝整體的人類，不管是在現(xiàn)實(shí)中還是在唯物哲學(xué)上，那都是不可能發(fā)生的事。

如果人工智能有了自我意識(shí)怎么辦？

今天的人工智能，已經(jīng)成為涉及哲學(xué)、計(jì)算機(jī)、心理學(xué)、博弈論等領(lǐng)域的交叉學(xué)科，阿爾法圍棋的算法技術(shù)和數(shù)據(jù)處理能力已經(jīng)遠(yuǎn)超“深藍(lán)”。在新一輪的科技和產(chǎn)業(yè)革命中，人工智能的產(chǎn)業(yè)化應(yīng)用是一大動(dòng)力源。無(wú)論是德國(guó)的“工業(yè)4.0”，還是美國(guó)的“再工業(yè)化”，抑或是中國(guó)的“互聯(lián)網(wǎng)+”，人工智能的研發(fā)都是重點(diǎn)，被視為經(jīng)濟(jì)社會(huì)發(fā)展的動(dòng)力源。

但對(duì)人工智能，除了歡迎，也有警惕。其發(fā)展的每一步，都與英國(guó)數(shù)學(xué)家圖靈“機(jī)器能思考嗎”的詰問(wèn)相伴。以機(jī)器人為代表的人工智能是否會(huì)取代人類、站到人類的對(duì)立面？異常強(qiáng)大的人工智能會(huì)不會(huì)被壞人操縱而無(wú)法控制地作惡？這早已成為諸多科幻電影的題材。由施瓦辛格主演的《終結(jié)者》中的“天網(wǎng)”就成了最可怕的人工智能的代名詞，理論物理學(xué)家霍金也在憂慮：“人工智能的完全發(fā)展會(huì)導(dǎo)致人類的終結(jié)?！?/p>

人工智能會(huì)發(fā)展到什么程度？作為普通人，我們無(wú)法準(zhǔn)確預(yù)測(cè)，因?yàn)槟壳暗娜斯ぶ悄苌刑幱凇坝兄悄軟](méi)智慧、有智商沒(méi)情商、會(huì)計(jì)算不會(huì)‘算計(jì)、有專能無(wú)全能”的階段。然而就在阿爾法圍棋與李世石的“人機(jī)大戰(zhàn)”期間，谷歌一位資深人工智能工程師接受專訪，其認(rèn)為在10年內(nèi)，有知覺(jué)和自我意識(shí)的強(qiáng)人工智能便可以實(shí)現(xiàn)，那時(shí)人工智能可以寫(xiě)小說(shuō)，而且有發(fā)展到“天網(wǎng)”水平的可能。

如果這真是10年內(nèi)的結(jié)果，那么人類真的需要趕緊思考人工智能與人的關(guān)系了。對(duì)人工智能可能帶來(lái)的安全與倫理問(wèn)題，歐盟、日本、韓國(guó)等已經(jīng)開(kāi)始著手開(kāi)展政策研究與立法實(shí)踐。事實(shí)上，谷歌在收購(gòu)阿爾法圍棋的研發(fā)者——“深度思維”公司的條款中有一項(xiàng)，就是必須成立人工智能道德委員會(huì)，由來(lái)自科學(xué)、哲學(xué)等諸多領(lǐng)域的人員監(jiān)督通用人工智能技術(shù)的未來(lái)應(yīng)用。

世界上最強(qiáng)大的力量應(yīng)當(dāng)是人類本身，而不是一把鐵鍬或者核潛艇。人類制造的產(chǎn)物不講道德和感情，但它們擁有力量，這種力量的快速增長(zhǎng)往往讓人類感到恐懼。包括人工智能在內(nèi)，人類的創(chuàng)造物是否會(huì)和我們站在同一邊？是否會(huì)成為奴役我們的力量？這些問(wèn)題的答案不在工具，而在人類自身?？萍紱](méi)有善惡，有善惡的只是掌握科技的人?；蛟S我們可以相信凱文·凱利的話：“可怕的事情終會(huì)發(fā)展，但這卻是最美妙的結(jié)局?！?/p>

人工智能對(duì)人類的日常生活會(huì)產(chǎn)生什么影響？

關(guān)于人工智能的種種憂慮，對(duì)于日常生活而言，首先就是機(jī)器人替代人做各種各樣的工作，我會(huì)失業(yè)嗎？實(shí)際上，制造業(yè)、零售業(yè)、運(yùn)輸業(yè)等已經(jīng)開(kāi)始大量地使用機(jī)器人，而翻譯官、速記員、設(shè)計(jì)師、廚師、司機(jī)、記者、作曲家……也都已經(jīng)有了機(jī)器人“同行”。甚至有科學(xué)家預(yù)測(cè)，到2036年，所有的人類產(chǎn)業(yè)工人都會(huì)被機(jī)器所取代。這似乎是不可阻擋的時(shí)代浪潮，而這個(gè)經(jīng)濟(jì)和社會(huì)沖擊勢(shì)必會(huì)激化為政治問(wèn)題。人工智能是創(chuàng)造新財(cái)富的強(qiáng)大工具，可是如何公平分配，依賴的恐怕還是人類的傳統(tǒng)智慧。

而且，從積極的方面來(lái)看，以阿爾法圍棋為代表的人工智能，拓寬了讓機(jī)器人為人類干活的新天地，并有可能深入而廣泛地讓人類文明迅速發(fā)展。阿爾法圍棋是靠“深度學(xué)習(xí)”“蒙特卡洛樹(shù)搜索算法”和“自我進(jìn)化”三招戰(zhàn)勝人類棋手的，這三大功能也是人類駕馭其為自身服務(wù)的途徑。由于人工智能能夠自我學(xué)習(xí)，學(xué)習(xí)能力會(huì)越來(lái)越強(qiáng)，而且搜集和儲(chǔ)存的數(shù)據(jù)會(huì)越來(lái)越多，將會(huì)在新產(chǎn)品的研發(fā)、預(yù)測(cè)分析、推廣等方面產(chǎn)生巨大的效應(yīng)。

具體而言，如果將阿爾法圍棋的自我學(xué)習(xí)能力、大數(shù)據(jù)儲(chǔ)存和分析功能應(yīng)用到醫(yī)藥領(lǐng)域，將會(huì)是人類的福音而非悲劇。研發(fā)出阿爾法圍棋的“深度思維”公司并非只是專注于讓阿爾法圍棋與人類棋手過(guò)招，而是注重把人工智能通過(guò)學(xué)習(xí)解決實(shí)際問(wèn)題的能力貫穿應(yīng)用到醫(yī)學(xué)領(lǐng)域。

2016年2月，“深度思維”公司就已經(jīng)發(fā)布了在醫(yī)護(hù)領(lǐng)域使用的“深度學(xué)習(xí)”程序“深度思維健康”。這是一款手機(jī)應(yīng)用程序，包括“識(shí)別風(fēng)險(xiǎn)病人”和“早期臨床護(hù)理管理”兩個(gè)模塊。這種手機(jī)應(yīng)用程序當(dāng)然也是一種人工智能，它們需要學(xué)習(xí)和幫助醫(yī)護(hù)人員監(jiān)護(hù)一些表面上不嚴(yán)重但實(shí)際很危險(xiǎn)的病人，或者一些急性發(fā)病者。

當(dāng)然，這些只是人工智能開(kāi)發(fā)和應(yīng)用的冰山一角。實(shí)際上，在醫(yī)藥領(lǐng)域利用計(jì)算機(jī)技術(shù)和人工智能最早和進(jìn)展較大的是藥物的研發(fā)與監(jiān)控。計(jì)算機(jī)和人工智能對(duì)于藥物的研發(fā)在很多方面都起了作用，如研發(fā)新藥、老藥新用、藥物篩選、預(yù)測(cè)藥物副作用、藥物跟蹤研究等。這實(shí)際上已經(jīng)產(chǎn)生了一門(mén)新學(xué)科，即藥物臨床研究的計(jì)算機(jī)仿真。因此，阿爾法圍棋戰(zhàn)勝人類棋手，為人類提供更多的是機(jī)遇和幫助，而不是威脅。