圍棋人機大戰(zhàn)：別誤解了一只“狗”

王培

“阿爾法圍棋”在人機大戰(zhàn)中的驚人成績并不說明它發(fā)現(xiàn)了思維活動的普遍規(guī)律，而面向思維規(guī)律的人工智能研究也不以“成為圍棋高手”或“通過圖靈測試”為直接目標(biāo)，它又被為“通用人工智能”。另一種“非主流”的人工智能研究則是用計算機在神經(jīng)元層次上構(gòu)建“腦模型”或在行為層面上構(gòu)建“認(rèn)知模型”

韓國棋手李世石和“阿爾法圍棋”（AlphaGo）的人機系列大戰(zhàn)，引起世人空前的興趣和驚奇。隨之而來的，是人們對人工智能未來對人類社會的潛在貢獻和挑戰(zhàn)的種種思考與探討。在這輪熱潮中，AlphaGo在中文中又被“調(diào)皮地”翻譯成“阿爾法狗”，而實際上，在英語中，“Go”正是圍棋的意思。

一只“狗”所引發(fā)的對前沿科技發(fā)展的關(guān)注當(dāng)然十分可貴，但是在諸多熱烈的討論中，也出現(xiàn)了對人工智能的各種誤解。對于與此次人機大戰(zhàn)有關(guān)的誤讀，有必要在人工智能的話題保持熱度之時著重提出來，進行清晰的辨識。

忘了“阿爾法圍棋”吧

“非主流”的人工智能更符合大眾預(yù)期

有關(guān)人工智能的公眾討論向來就包含著大量混亂的信息。造成這種情況的主要原因之一，就是對“人工智能”這個詞存在著幾種非常不同的理解。人工智能的概念問題具有復(fù)雜的歷史根源，它不是僅僅由某個權(quán)威專家、專業(yè)協(xié)會或者教科書給出一個“定義”就能解決的。

實際上，自電子計算機發(fā)明以來，就一直在逐步實現(xiàn)各種人類智力功能，而“人工智能”的最初目的，就是要在計算機上再現(xiàn)“全部的”人類智力功能。這一想法基本上就是大眾通過科幻作品所建立起來的人工智能的概念——智力可以與人一較高低的計算機或機器人。

然而，由于智能（以及與其密切相關(guān)的認(rèn)知、思維、意識等現(xiàn)象）具有極度的復(fù)雜性，因而，雖然人們不斷嘗試設(shè)計和構(gòu)建“思維機器”，希望這些機器在各個方面都可以和人相比，但是，這些嘗試往往都以失敗而告終。其結(jié)果是，多年以來，這個領(lǐng)域的主流科學(xué)家就已經(jīng)實際上放棄了或無限期推遲了針對上述目標(biāo)的努力，轉(zhuǎn)而研發(fā)只在某個特定問題的解決上可以達(dá)到人類水平的計算機系統(tǒng)。

近幾十年來，這種研究產(chǎn)生了大量的理論和應(yīng)用成果，但這個意義上的“人工智能”和公眾的觀念有很大差異。這種差異主要體現(xiàn)在以下方面：第一，盡管這種人工智能系統(tǒng)可能在某一方面有超人的表現(xiàn)，但是它們在其他方面則完全“無能”；第二，這種系統(tǒng)的能力完全由人設(shè)計決定，系統(tǒng)本身基本上沒有適應(yīng)性、靈活性和創(chuàng)造性；第三，這種系統(tǒng)的工作方式和人完全不同，所以，它們的出現(xiàn)并不能夠加深我們對思維的認(rèn)識。

以上這些特點所造成的后果是：公眾作為“局外人”，覺得這種“智能系統(tǒng)”并無多少智能可言；而作為研發(fā)科學(xué)家的“局內(nèi)人”則會辯解說，人工智能就是這么定義的，公眾假如不認(rèn)可，那純粹是因為“你們科幻作品看得太多了”。

近年來，“機器學(xué)習(xí)”的發(fā)展在一定程度上緩解了上述的觀念沖突。以“阿爾法圍棋”為例，它的核心技術(shù)——“深度學(xué)習(xí)”，使得該系統(tǒng)在一定程度上擺脫了對設(shè)計者的依賴，因而和人的學(xué)習(xí)過程有一定的相似性。這種工作方式和計算機的硬件力量以及海量的數(shù)據(jù)相結(jié)合，最終造成了計算機在圍棋領(lǐng)域中相對于人類棋手的優(yōu)勢。

然而，深度學(xué)習(xí)還遠(yuǎn)遠(yuǎn)沒有解決一般意義上的人工智能問題。盡管這類算法可以應(yīng)用于不同領(lǐng)域，但它們?nèi)灾荒芙鉀Q某類滿足特定條件的問題。比如，它們需要大量的訓(xùn)練數(shù)據(jù)和一定的訓(xùn)練時間，因此不能處理新的或突發(fā)性的事件；其次，它們的處理過程和人的思維活動極其不同，因此其“思路”則難以被人所理解；而且，它們會犯一些莫名其妙的錯誤，因此，其可靠性難以保證，等等。迄今為止，盡管深度學(xué)習(xí)已經(jīng)取得了令人矚目的成就——“阿爾法圍棋”就是其表現(xiàn)之一，但仍有許多與智能和思維有關(guān)的問題是這種技術(shù)完全沒有涉及的。

深度學(xué)習(xí)、機器學(xué)習(xí)，或者以“解決只有人能夠解決的問題”為導(dǎo)向的主流人工智能，并不是目前人工智能研究的全部。至少還有另外兩種目前可謂“非主流”的人工智能研究是需要被提及并引起關(guān)注的。一種思路是，用計算機更忠實地模擬人腦。這種模擬可能是在神經(jīng)元層次上構(gòu)建“腦模型”，或者在行為層面上構(gòu)建“認(rèn)知模型”，比如以通過圖靈測試為目標(biāo)，做到在語言、行為上和人不可區(qū)分。另一種思路是，把智能的諸方面作為一個整體來看，試圖找到其共同的基礎(chǔ)或核心。后一類研究近年來被稱為“通用人工智能”，筆者本人所做的工作即是在這一領(lǐng)域。

當(dāng)然，這些“非主流”研究尚未達(dá)到實際應(yīng)用的程度，但是，其概念離公眾心目中的人工智能觀念更近。嚴(yán)格來說，這幾種人工智能實際上應(yīng)該被看成不同的學(xué)科，因為它們在研究目的、手段、技術(shù)和成果方面均有根本性差別——盡管不同的研究路徑的確具有千絲萬縷的聯(lián)系。而對于公眾而言，由于歷史的原因，這些差異巨大的研究方向和成果都被籠統(tǒng)地稱為“人工智能”。

“阿爾法圍棋”擬人化不要太“入戲”

有情感的人工智能并非不可能

認(rèn)清人工智能不同研究方向的差別，有助于我們恰當(dāng)?shù)乩斫膺@次圍棋人機大戰(zhàn)。

首先，目前的戰(zhàn)況已經(jīng)充分展示了深度學(xué)習(xí)在圍棋領(lǐng)域的超人能力，但同時應(yīng)該認(rèn)識到，這完全不意味著機器學(xué)習(xí)已經(jīng)解決了整個智能問題。對此類問題的誤解常常是由“擬人化”而造成的。因為自古以來就只有人類會下圍棋，人們談?wù)搰鍟r所用的各種概念不可避免地是從人的思維活動中提煉出來的，而后它們卻被不自覺地“客觀化”，從而被理所當(dāng)然地看作圍棋本身的規(guī)律性。這一點可以在圍棋界在賽前、賽后的分析中明顯地看出來，其表現(xiàn)就是，人們常常下意識地把“阿爾法圍棋”當(dāng)做人類棋手來進行分析，而該系統(tǒng)的研究團隊發(fā)表在《自然》雜志的文章中早已明確說明，“阿爾法圍棋”下棋的方式和人類棋手的差別并非人們所理解的那樣——只是“看得遠(yuǎn)”和“算得細(xì)”。

我很欣慰地看到李喆六段在《這兩盤棋沒人會比李世石做得更好！》一文中的清醒認(rèn)識：“阿爾法圍棋”的下法是不在傳統(tǒng)圍棋文化的概念空間之內(nèi)的。

就人們對人工智能的理解而言，對圍棋是如此，在其他問題上又何嘗不是呢！由于圍棋對人來說要求有“高智力”，因此很多人就認(rèn)為計算機中的“圍棋高手”也是具有高智力的。而實際上，“阿爾法圍棋”對于很多在人們看來比圍棋容易得多的任務(wù)是完全無能為力的。從這一角度來看，這次比賽完全算不上“人類和計算機的智力的巔峰對決”。

一個人工智能系統(tǒng)只是在某些方面（而非在所有方面）和人具有可比性。人工智能各個“流派”的根本差別，也正體現(xiàn)在它們要在哪一方面達(dá)到或超過人類的水平。“阿爾法圍棋”在人機大戰(zhàn)中的驚人成績并不說明它發(fā)現(xiàn)了思維活動的普遍規(guī)律，而面向思維規(guī)律的人工智能研究（我自己所做的就是這方面的工作）也不以“成為圍棋高手”或“通過圖靈測試”為直接目標(biāo)。由于計算機和人在硬件和經(jīng)驗上的根本區(qū)別，人工智能系統(tǒng)是不可能在所有方面都和人一樣的——那樣的話，人工智能就成了“人造人”了！在討論人工智能的未來影響時，大部分的誤判都源自對以下兩方面認(rèn)識不清：首先，人機之間的一些根本差別被忽略了；而另一方面應(yīng)該看到，現(xiàn)有的另一些人機差別則可能只是暫時的，隨著人工智能的發(fā)展，這些差別是可能消弭的。

對于以上兩方面，可以各舉一例。

目前對人工智能的普遍擔(dān)憂之一，就是它會引起大規(guī)模的失業(yè)。的確，人工智能技術(shù)一定會引起就業(yè)結(jié)構(gòu)的重大調(diào)整，但是說它能在各種崗位上都能取代人工則是不正確的。既然“智能”和“學(xué)習(xí)”是密切相關(guān)的，那么一個智能系統(tǒng)的行為就同時取決于其先天條件（設(shè)計、制造）和后天條件（教育、經(jīng)歷）。無論計算機技術(shù)如何發(fā)展，智能系統(tǒng)不會有生物屬性和人類經(jīng)驗。人工智能和人類的這種差別雖然不會降低一個系統(tǒng)的智能水平，但必然會造成系統(tǒng)在行為上和人類的差異。因此，有很多需要生物屬性或人類經(jīng)驗的工作，就不是人工智能所能承擔(dān)的了。這和人工智能的技術(shù)發(fā)展水平無關(guān)，而更類似于不同文化和環(huán)境背景中成長起來的人與人之間的行為差異。

另一方面的例子是，在這次圍棋人機大戰(zhàn)所引發(fā)的討論中很多人斷言，“人工智能不可能有情感”。而事實并非完全如此。盡管當(dāng)前的主流人工智能技術(shù)開發(fā)出來的系統(tǒng)（包括“阿爾法圍棋”）的確是沒有情感的，但在通用人工智能研究中則有越來越多的研究者認(rèn)為，情感和智能是密不可分的，而且已經(jīng)有若干模型具有簡單的情感機制，我自己的工作也呈現(xiàn)了這樣的結(jié)果。雖然這種情感在細(xì)節(jié)和表現(xiàn)方式上和人類情感不完全一樣，但在系統(tǒng)的內(nèi)部控制和外部通信過程中會發(fā)揮同樣的功能。

因此，你可以說“人工智能中的情感機制尚未成熟”，或者對現(xiàn)有的各種模型提出這方面的批評，但并不能因此就說擁有情感的人工智能是“不可能的”。更廣泛地看，對人工智能認(rèn)識的局限性并不僅限于對“情感”現(xiàn)象的認(rèn)識。要記住，在一個“人工智能專家”告訴你，人工智能的某個功能是“不可能的”時，他所說的也許只限于他所理解的人工智能。

作為一個非常特別的話題，人工智能總是能夠同時引起人們的好奇心和危機感。與此同時，人們又常常在對相關(guān)研究知之甚少的情況下貿(mào)然下結(jié)論。從人工智能的發(fā)展歷史來看，人們關(guān)于人工智能的直觀看法往往包含許多錯誤。

這次圍棋大戰(zhàn)使得很多人見識到了某些人工智能技術(shù)的力量。但是，和這個領(lǐng)域的發(fā)展?jié)摿?，尤其是和通用人工智能技術(shù)的潛力相比，在圍棋上打敗所有人的智能系統(tǒng)可以說算不得什么。和其他革命性的科技突破一樣，人工智能的發(fā)展對整個人類社會來說是機會與挑戰(zhàn)并存、希望與危險同在。在這種情況下，盲目的樂觀和出于無知的恐懼都是有害的。希望有更多的人真正花工夫去了解人工智能研究的進展，共同發(fā)現(xiàn)正確的對應(yīng)之道。

事實上，在人工智能領(lǐng)域，各種理論和技術(shù)具有不同的實際能力和局限性，因而不能單憑直覺就籠統(tǒng)地斷言人工智能“能干什么”或者“不能干什么”。

（作者系美國天普大學(xué)計算機與信息科學(xué)系副教授，世界通用人工智能學(xué)會副主席，《通用人工智能》雜志主編）