“中文房間”里的騙子

周瑤禪

進(jìn)入21世紀(jì)以來，互聯(lián)網(wǎng)和大數(shù)據(jù)推動(dòng)人工智能進(jìn)入新的時(shí)代，人工智能技術(shù)不斷出現(xiàn)突破性進(jìn)展，而對(duì)人工智能如何影響人類命運(yùn)影響的探討也不曾停止。本期這兩篇關(guān)于人工智能的文章只是其中一些側(cè)面。

最近，谷歌公司的人工智能圍棋程序——AlphaGo在與圍棋界頂級(jí)高手李世石的交戰(zhàn)中，以4︰1的大比分擊敗李世石。

一棋激起千層浪。圍棋的變化如恒河沙數(shù)，一直是人類最引以為豪的智力游戲，如今卻被機(jī)器程序無情超越。人工智能圍棋程序僅僅是近年來人工智能快速發(fā)展的一個(gè)縮影，事實(shí)上，人們紛紛驚呼人工智能的奇點(diǎn)已經(jīng)臨近！那么，那些超級(jí)計(jì)算機(jī)是否真的具有思維？如果有，那么會(huì)不會(huì)有一天，計(jì)算機(jī)的智力甚至能趕超人類？

今天的思想實(shí)驗(yàn)，就讓我們來談?wù)勱P(guān)于機(jī)器智能的問題。

會(huì)思考的機(jī)器

計(jì)算機(jī)是否具有真正的思維？對(duì)此，英國數(shù)學(xué)家、邏輯學(xué)家圖靈早在幾十年前就給出了肯定的答案。他甚至認(rèn)為，計(jì)算機(jī)的計(jì)算過程其實(shí)與人類大腦產(chǎn)生思想的過程無異。人類的大腦由大量神經(jīng)元構(gòu)成，這些神經(jīng)元通過軸突和樹突組成密集的有線網(wǎng)絡(luò)，而人類思維就源于這些神經(jīng)元之間的相互連接和傳導(dǎo)。在圖靈看來，人類之所以能思考并不是因?yàn)闃?gòu)成大腦的物質(zhì)，而是源于大腦內(nèi)部強(qiáng)大的整體工作過程。因此，如果構(gòu)成計(jì)算機(jī)程序的總體足夠強(qiáng)大、步驟足夠多，并且它的復(fù)雜性足以和人類產(chǎn)生思維的過程相媲美的話，它就能夠產(chǎn)生思維。

為了說明機(jī)器具有智能這一觀點(diǎn)，圖靈提出了一項(xiàng)思想實(shí)驗(yàn)。計(jì)算機(jī)A與人類B在一個(gè)房間內(nèi)，C在房間外提問，三者使用打字機(jī)交流，此時(shí)，C的任務(wù)是通過詢問各種類型的問題來區(qū)分A與B哪一個(gè)是計(jì)算機(jī)，哪一個(gè)是人。如果最終C無法做出判斷或者做出了錯(cuò)誤的判斷，那么就可以認(rèn)定計(jì)算機(jī)是具有智能的。顯然，計(jì)算機(jī)一定能夠通過這一測(cè)試，使C分辨不出A和B究竟哪一個(gè)才是計(jì)算機(jī)程序。

但是，這樣就足以證明計(jì)算機(jī)具有思維能力嗎？

中文房間里的答案

美國語言哲學(xué)家約翰·希爾勒可不這么認(rèn)為。在他看來，人腦是具有生物學(xué)性質(zhì)的，這本來就與計(jì)算機(jī)硬件有著本質(zhì)的區(qū)別。即使有一天，計(jì)算機(jī)擁有無限多的硬件，其程序復(fù)雜、精密的程度堪比人腦，也一樣產(chǎn)生不了人類所特有的思想和情感。也正因如此，他提出了著名的“中文房間”思想實(shí)驗(yàn)。

他的設(shè)想是這樣的——一個(gè)對(duì)中文一竅不通、以英語為母語的被測(cè)者A被關(guān)在一個(gè)封閉房間里，房間里有一本用英文寫成，從形式上用來說明中文句法和文法組合規(guī)則的手冊(cè)，此外，還有一大堆寫著中文符號(hào)的卡片。此時(shí)，房外的中國人B會(huì)不斷地向房間內(nèi)遞進(jìn)用中文寫成的問題，而A則需按照英文手冊(cè)的說明，找到中文問題的答案，并將中文符號(hào)卡片組合成解答，并將答案遞出房間。

比如，規(guī)則手冊(cè)的某一條說：當(dāng)看到“apple（蘋果）”時(shí)，他應(yīng)當(dāng)選擇寫著“水果”中文的卡片。就這個(gè)測(cè)試而言，B從遞出的答案來看，還以為房間里的A通曉中文呢！但事實(shí)上，即使A回答對(duì)了所有問題，但A還是壓根不懂中文。他所做的只不過是按照規(guī)則手冊(cè)進(jìn)行檢索和圖形匹配而已。

而在上面的過程中，房間中的A其實(shí)就相當(dāng)于計(jì)算機(jī)，房間外的B就相當(dāng)于程序員，而手冊(cè)則相當(dāng)于計(jì)算機(jī)程序。希爾勒設(shè)計(jì)“中文房間”的目的，就在于說明計(jì)算機(jī)不可能具有思維。正如A不可能僅通過手冊(cè)就理解中文一樣，計(jì)算機(jī)也不可能通過程序來獲得思維和理解能力。

是時(shí)候未到？

對(duì)于希爾勒的觀點(diǎn)，許多人工智能的忠實(shí)粉絲當(dāng)然不能同意。他們認(rèn)為，希爾勒不應(yīng)該將“中文房間”里的幾個(gè)因素割裂，而應(yīng)該從整體系統(tǒng)去考慮“理解”的含義。如果作為整體系統(tǒng)的“中文房間”理解了中文的含義，那么處在房間之內(nèi)的人是否真正理解中文就不重要了。就像人類的大腦也是一個(gè)整體的系統(tǒng)，如果將大腦打開，把每個(gè)部分作為個(gè)體，大腦也不會(huì)表現(xiàn)出理解事物的能力一樣。

簡單地說，他們更看重計(jì)算機(jī)整體所給出的結(jié)果，至于機(jī)器內(nèi)部如何運(yùn)轉(zhuǎn)則并不重要。

而在現(xiàn)階段，雖然人類還沒設(shè)計(jì)出具有思想的計(jì)算機(jī)程序，但這只是因?yàn)榭萍歼€未發(fā)展到相當(dāng)?shù)母叨?。隨著科技的快速發(fā)展，人類終將設(shè)計(jì)出具有獨(dú)立思維能力的高級(jí)計(jì)算機(jī)。

希爾勒的深度思考

但是，按照希爾勒的想法，計(jì)算機(jī)能否具有思維顯然與技術(shù)的發(fā)展程度無關(guān)。再強(qiáng)大、再精密的計(jì)算機(jī)，它所具有的也僅僅是一種程序而已，而要理解一種語言，所需要具備的心理狀態(tài)、情感經(jīng)歷是遠(yuǎn)復(fù)雜于形式符號(hào)的。不管計(jì)算機(jī)的程序有多讓人嘆為觀止，都不可能產(chǎn)生人類的心理特征和情感體驗(yàn)。因?yàn)椋?jì)算機(jī)不等于大腦，程序也不等于心靈，這種經(jīng)過人類加工制造的物理機(jī)器，實(shí)在無法與具有生物特質(zhì)的人類劃等號(hào)。也就是說，雖然計(jì)算機(jī)具有句法，但是卻不可能真正理解語義。

舉個(gè)簡單的例子。某天傍晚，幾個(gè)人同在一個(gè)房間辦公，某個(gè)離電燈開關(guān)最遠(yuǎn)的人抱怨了一聲，“房間太暗了”。此時(shí)，說話者想表達(dá)的可能并不只是房間太暗這個(gè)事實(shí)，而是希望自己的感受得到他人贊同，并期待那個(gè)離電燈開關(guān)最近的人把燈打開。

顯然，當(dāng)人們說出某句話之后，除了這句話本身所指的意義外，還包含了說話人想要達(dá)成某些愿望的目的。而計(jì)算機(jī)對(duì)于語言的理解，也只能停留在句法的層面，對(duì)于語義，乃至語言的意向，說話人的“言外之意”，則很難揣摩。因?yàn)?，人類言語的內(nèi)涵和意向與現(xiàn)實(shí)生活經(jīng)驗(yàn)、人們當(dāng)下與外部世界的關(guān)聯(lián)、說話人與聽話人的關(guān)系等因素都息息相關(guān)。正是人與世界的交互才使得我們所使用的語言符號(hào)具有意義。

機(jī)器雖然能夠模擬人類智能，但是卻不可能產(chǎn)生思維，也永遠(yuǎn)不會(huì)超過人類智能。因?yàn)?，那本“?guī)則手冊(cè)”本來就是人編的，它所執(zhí)行的不過是人類制定好的操作流程而已。因此，決定計(jì)算機(jī)智能水平的是人類的智慧，它或許能夠不斷的接近人類智能，卻又永遠(yuǎn)無法超越人類智能。

到今天，距離希爾勒提出“中文房間”思想實(shí)驗(yàn)已過去幾十年，而關(guān)于“機(jī)器能否具有思維”的討論也一直還在繼續(xù)。今天，AlphaGo的深度學(xué)習(xí)能力已經(jīng)令人吃驚，它下出的圍棋，即便是頂尖圍棋高手也分辨不出那是人下的還是機(jī)器下的，某種意義上已經(jīng)通過了圖靈測(cè)試。但是，它真的理解圍棋了嗎？