給人工智能熱潑冷水

承哲/口述 李斐然/撰文

眼下人們正熱烈追捧一則新聞，說是機(jī)器首次通過了圖靈測(cè)試，我看到一條又一條的評(píng)論，都在高呼人工智能進(jìn)入了全新時(shí)代?？墒?，我卻一點(diǎn)兒也高興不起來，因?yàn)槲覞M腦子都是懷疑——這是真的嗎？

先說圖靈測(cè)試，它是測(cè)試人在與被測(cè)試者（機(jī)器）隔開的情況下，通過一些裝置向被測(cè)試者隨意提問。問過一些問題后，如果被測(cè)試者超過30%的答復(fù)不能使測(cè)試人確認(rèn)哪個(gè)是人、哪個(gè)是機(jī)器的回答，那么它就通過了測(cè)試，并被認(rèn)為具有人類智能。

現(xiàn)在問題來了。圖靈測(cè)試的比賽進(jìn)行了這么多年，參賽者也學(xué)“聰明”了。它們甚至根據(jù)歷屆裁判的提問方式，設(shè)計(jì)出一套欺騙裁判的回答。

比如說，裁判問：“你是從俄羅斯來的嗎？”機(jī)器就會(huì)回答：“你為什么不確定我是從俄羅斯來的？”這種反問式策略最初是心理咨詢上的治療手段，目前已被大量使用在圖靈測(cè)試的游戲中。這并不是人與機(jī)器的智力博弈，這只是利用計(jì)算腳本和自己設(shè)計(jì)的數(shù)據(jù)庫搭配著耍小聰明。

簡(jiǎn)單地說，這些偽人工智能由于無法給出真正正確的答案，所以它們只能給出一個(gè)模棱兩可的答案，而真正的人工智能則應(yīng)當(dāng)給出真正的答案，讓人感受到機(jī)器靈魂的存在，而不是給人造成迷惑，這與圖靈最初的設(shè)想早已背道而馳。

如果這些不能說服你，那我們來說說曾經(jīng)的一個(gè)案例。人工智能最顯赫的歷史戰(zhàn)績(jī)，莫過于IBM的“深藍(lán)Ⅱ”系統(tǒng)戰(zhàn)勝國(guó)際象棋大師卡斯帕羅夫。但我對(duì)這件事情一樣充滿了懷疑。

后來我看到一本叫《信號(hào)與噪聲》的書。從棋局上看，“深藍(lán)Ⅱ”的確戰(zhàn)勝了卡斯帕羅夫。但有趣的是，當(dāng)卡斯帕羅夫去找“深藍(lán)Ⅱ”再戰(zhàn)的時(shí)候，IBM拒絕了他的請(qǐng)求，不久后“深藍(lán)Ⅱ”被拆，也讓人工智能擊敗人類國(guó)際象棋大師終成定史。

但是，我讀完了書中的記錄，卻發(fā)現(xiàn)，最大的可能在于其實(shí)他們心虛。因?yàn)椋聦?shí)上擊敗卡斯帕羅夫的并不是什么人工智能，而是一個(gè)bug，是程序設(shè)計(jì)上的一個(gè)漏洞。

為什么這么說呢？在第一局比賽的時(shí)候，雖然“深藍(lán)Ⅱ”每秒可計(jì)算兩億步棋，但卡斯帕羅夫還是輕而易舉地贏了比賽。所有計(jì)算都在大師思考的范圍內(nèi)，這充分說明了計(jì)算機(jī)的弱勢(shì)。

然而，下第一局棋時(shí)卻發(fā)生了一件事，影響了卡斯帕羅夫的判斷。在第一局的第44步棋，“深藍(lán)Ⅱ”的出棋毫無目的性，讓卡斯帕羅夫嚇了一跳。書中記錄說，“這步棋讓卡斯帕羅夫感到緊張，他覺得這有悖直覺的一步棋必是一步高招”，他開始緊張，方寸大亂，自亂陣腳。從第二局開始，他輸了一局又一局。在后來的采訪中，卡斯帕羅夫說，他那時(shí)候頭腦非常亂，完全不想比賽。

但是，在書中的解釋里，這件事的事實(shí)是——第一局的第44步棋，是計(jì)算機(jī)的“系統(tǒng)故障”。它使計(jì)算機(jī)失去選擇經(jīng)過精心分析的步驟的可能性，結(jié)果采用較安全的任意走法。這一步棋沒有產(chǎn)生任何效果，而在開始第二局棋前，這個(gè)“系統(tǒng)故障”也被修正了。

這步bug棋卻深深影響到了卡斯帕羅夫。他對(duì)《信號(hào)與噪聲》的作者納特·西爾弗說：“我根本沒有想到，這一步棋并無理論支持，而是系統(tǒng)故障的結(jié)果。”

幸與不幸，一個(gè)無足輕重的系統(tǒng)故障，幫助計(jì)算機(jī)打敗了國(guó)際象棋大師卡斯帕羅夫。人們?cè)u(píng)價(jià)這件事的時(shí)候，總是說，第二局明明可以和棋，卡斯帕羅夫卻犯下致命錯(cuò)誤，這就是人類的局限。但事實(shí)上，“在卡斯帕羅夫看來，‘深藍(lán)Ⅱ下棋有棋感并且有深意，超凡脫俗，智慧過人。他卻從來沒有想到過，這實(shí)際上只是因電腦系統(tǒng)故障導(dǎo)致計(jì)算癱瘓而走出的一步任意棋”。

也許正是這樣的例子，讓我每一次看到“劃時(shí)代的IT創(chuàng)舉”時(shí)都會(huì)心里一驚——人們對(duì)于技術(shù)的陌生，總會(huì)讓另一群人有機(jī)會(huì)把一件小事說得天花亂墜。但是靜下來踏踏實(shí)實(shí)地想一想，這些夢(mèng)幻似的結(jié)論，是真的嗎？

（紫檸檬摘自《中國(guó)青年報(bào)》2014年6月18日，勾 犇圖）