AI技術(shù)的天花板

何寶宏

即使將來(lái)AI會(huì)超越人類智能，也至少不會(huì)基于這一代的計(jì)算機(jī)技術(shù)和理論，或許會(huì)是基于量子計(jì)算

人工智能（AI）的基本假設(shè)是“認(rèn)知即計(jì)算”。但目前對(duì)認(rèn)知本質(zhì)的理解不同發(fā)展出了多個(gè)學(xué)派，典型的如基于數(shù)理邏輯的符號(hào)學(xué)派、模仿生物行為特征的行為主義學(xué)派，以及模仿生物神經(jīng)網(wǎng)絡(luò)的連接學(xué)派。

60多年來(lái)，AI已多次起伏。本輪興起的主因是硬件能力的飛躍、數(shù)據(jù)的海量增長(zhǎng)和算法的明顯改進(jìn)，尤其是神經(jīng)網(wǎng)絡(luò)（更準(zhǔn)確地說(shuō)是深度學(xué)習(xí)）在計(jì)算機(jī)視覺(jué)和自然語(yǔ)言識(shí)別方面取得了突破。當(dāng)然，云計(jì)算、開(kāi)源運(yùn)動(dòng)和摩爾定律，也起到了至關(guān)重要的推動(dòng)作用。

但目前基于深度學(xué)習(xí)的AI技術(shù)還存在諸多限制。例如，算法還是個(gè)黑盒子，無(wú)法做因果解釋，調(diào)參數(shù)主要還是靠運(yùn)氣。另外，機(jī)器學(xué)習(xí)的訓(xùn)練是個(gè)吞噬算力的“算老虎”。第三，數(shù)據(jù)透明性不夠，誘導(dǎo)性或?qū)剐詳?shù)據(jù)容易改變學(xué)習(xí)的結(jié)果等。這些都導(dǎo)致目前的AI技術(shù)還無(wú)法與其他學(xué)派有機(jī)結(jié)合起來(lái)。

最關(guān)鍵的，所有AI的實(shí)現(xiàn)都要依靠各類計(jì)算機(jī)，從PC、服務(wù)器到GPU（圖形處理器），它們都是 “圖靈機(jī)”的具體實(shí)現(xiàn)。但理論上已證明，圖靈機(jī)是無(wú)法建立起“自我”意識(shí)的概念。換言之，即使將來(lái)AI會(huì)超越人類智能，也至少不會(huì)基于這一代的計(jì)算機(jī)技術(shù)和理論，或許會(huì)基于量子計(jì)算。

AI三大學(xué)派進(jìn)階

起源于60年前的AI理論，建立在“智能的本質(zhì)是計(jì)算”的基本假設(shè)上。但因?yàn)閷?duì)智能本質(zhì)的認(rèn)知不同，基于計(jì)算機(jī)如何構(gòu)造AI已形成了三大學(xué)派。

第一個(gè)叫符號(hào)主義學(xué)派。主張智能源于數(shù)理邏輯，認(rèn)為人類的認(rèn)知和思維的基本單元是符號(hào)，認(rèn)知過(guò)程就是對(duì)符號(hào)的邏輯運(yùn)算。其代表作是在電視問(wèn)答競(jìng)賽中戰(zhàn)勝人類選手的IBM Watson。

第二個(gè)叫行為主義學(xué)派。主張的基礎(chǔ)是諾伯特·維納的控制論，把關(guān)注的焦點(diǎn)從人類轉(zhuǎn)向了整個(gè)生物界的智能（比如昆蟲(chóng)的個(gè)體和群體智能），終極形式是二進(jìn)制的人工生命。其代表作是麻省理工學(xué)院的“六足機(jī)器人”。

第三個(gè)叫連接主義學(xué)派。主張將智能建立在大量簡(jiǎn)單的計(jì)算單元上，經(jīng)過(guò)復(fù)雜連接后，并行運(yùn)算的結(jié)果。這一學(xué)派基于神經(jīng)生物學(xué)和認(rèn)知科學(xué)，因?yàn)槿祟惔竽X就是由1萬(wàn)億個(gè)簡(jiǎn)單的神經(jīng)元細(xì)胞，錯(cuò)綜復(fù)雜地連接起來(lái)產(chǎn)生的。

神經(jīng)網(wǎng)絡(luò)誕生于上世紀(jì)60年代，最初只包括輸入層、隱藏層和輸出層。輸入層和輸出層通常由應(yīng)用決定，隱含層包含神經(jīng)元可供訓(xùn)練。2006年，多倫多大學(xué)教授Geoffrey Hinton的團(tuán)隊(duì)在《科學(xué)》上發(fā)表了一篇文章，提出了深度學(xué)習(xí)的概念，指出可以用更多隱藏層（比如5層-10層）做算法訓(xùn)練，因?yàn)閷?shí)驗(yàn)效果顯著，開(kāi)啟了學(xué)界和產(chǎn)業(yè)界AI的新浪潮。

相比傳統(tǒng)的機(jī)器學(xué)習(xí)，深度學(xué)習(xí)可以讓機(jī)器自動(dòng)習(xí)來(lái)特征，無(wú)需人工事先設(shè)定。針對(duì)不同的應(yīng)用場(chǎng)景，傳統(tǒng)機(jī)器學(xué)習(xí)算法需要把軟件代碼重寫(xiě)一遍，而深度學(xué)習(xí)只需要調(diào)整參數(shù)就能改變模型。

深度學(xué)習(xí)是用數(shù)據(jù)來(lái)做訓(xùn)練。一般而言，學(xué)習(xí)的深度越深和廣度越大，需要的數(shù)據(jù)量就越大，需要的數(shù)據(jù)種類就越多。當(dāng)然不能一概而論，也不是數(shù)據(jù)越多越好，可能會(huì)出現(xiàn)“過(guò)度訓(xùn)練”。

深度學(xué)習(xí)的訓(xùn)練分兩種。一種是有監(jiān)督的，就是人工為數(shù)據(jù)加了標(biāo)簽，這種方法的缺點(diǎn)是，現(xiàn)實(shí)世界中被打了標(biāo)簽的數(shù)據(jù)太少了。另外一種是無(wú)監(jiān)督的，只有數(shù)據(jù)沒(méi)有人工的標(biāo)簽，計(jì)算機(jī)不知道正確答案就可以訓(xùn)練。

這一輪的動(dòng)力

AI的新算法和新數(shù)據(jù)，都以大幅增加對(duì)計(jì)算資源的消耗為前提。業(yè)界找到的新動(dòng)力，或者說(shuō)新的計(jì)算資源，就是GPU（圖形處理單元）。

60多年來(lái)AI市場(chǎng)規(guī)模一直很小，內(nèi)部幫派林立，支撐不起AI專用芯片的市場(chǎng)。因此早期的機(jī)器學(xué)習(xí)，只能基于廉價(jià)而廣泛存在的CPU提供計(jì)算資源，或者極少數(shù)情況下用昂貴的專用芯片。

GPU誕生于上世紀(jì)90年代，設(shè)計(jì)專用于高并發(fā)計(jì)算、大量浮點(diǎn)計(jì)算和矩陣計(jì)算能力的視頻游戲和圖形渲染等應(yīng)用，即計(jì)算密集型應(yīng)用。深度學(xué)習(xí)正好就是計(jì)算密集型的。大約在2008年-2012年，業(yè)界逐步摸索到了，如何將深度學(xué)習(xí)與GPU有機(jī)結(jié)合起來(lái)的工程方法，直接將深度學(xué)習(xí)的速度加速了數(shù)百倍，讓產(chǎn)業(yè)界看到了把AI實(shí)用化的希望。

當(dāng)然GPU可能也還是太通用了，于是更加專用的FPGA（Field Programmable Gate Array，現(xiàn)場(chǎng)可編輯陣列）和ASIC（Application Specific Integrated Circuit，專用集成電絡(luò)）紛紛登場(chǎng)。谷歌新近發(fā)布的TPU（Tensor Processing Unit）芯片，號(hào)稱處理速度比CPU和GPU快15倍-30倍，性能功耗比高出約30倍-80倍，當(dāng)然是神經(jīng)網(wǎng)絡(luò)專用場(chǎng)景。

摩爾定律說(shuō)，同樣成本每隔18個(gè)月晶體管數(shù)量會(huì)翻倍，反過(guò)來(lái)同樣數(shù)量晶體管成本會(huì)減半。近年來(lái)摩爾定律雖然有所減速，但仍然是CPU、GPU和TPU等快速發(fā)展的基礎(chǔ)。

云計(jì)算也是AI發(fā)展的堅(jiān)實(shí)基礎(chǔ)。產(chǎn)業(yè)界云計(jì)算“大佬”紛紛推出“GPU/FPGA/算法/數(shù)據(jù)as a Service”業(yè)務(wù)，可以通過(guò)云端直接租用資源，方便用戶做深度學(xué)習(xí)。

近十年來(lái)，不僅是軟件定義世界，而且是開(kāi)源軟件定義世界。如果說(shuō)2017年AI技術(shù)最大的變化是專用硬件的設(shè)計(jì)潮，那么2016年AI技術(shù)的最大變化則是巨頭們紛紛開(kāi)源了深度學(xué)習(xí)框架，比如Facebook的Torch和Caffe，谷歌的Tensorflow，亞馬遜的MXnet，微軟的CNTK，IBM的SystemML等。十年前，谷歌開(kāi)源了Android操作系統(tǒng)，成功打造了智能手機(jī)的Android生態(tài)。現(xiàn)在，谷歌等紛紛開(kāi)源AI框架，希望打造“AI優(yōu)先”時(shí)代的新生態(tài)，重現(xiàn)往日輝煌。

技術(shù)仍有局限性

深度學(xué)習(xí)的效果取決于網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)、訓(xùn)練數(shù)據(jù)的質(zhì)量和訓(xùn)練方法的合理性等。無(wú)論是從統(tǒng)計(jì)學(xué)還是對(duì)智能的基本認(rèn)知的角度看，這次深度學(xué)習(xí)牽引的AI產(chǎn)業(yè)化浪潮還存在不少局限性。endprint

首先是在算法方面。深度學(xué)習(xí)目前仍然是黑盒子，缺乏理論指導(dǎo)，對(duì)神經(jīng)網(wǎng)絡(luò)內(nèi)部涌現(xiàn)出的所謂“智能”還不能做出合理解釋;二是事先無(wú)法預(yù)知學(xué)習(xí)的效果。為了提高訓(xùn)練的效果，除了不斷增加網(wǎng)絡(luò)深度和節(jié)點(diǎn)數(shù)量、喂更多數(shù)據(jù)和增加算力，然后反復(fù)調(diào)整參數(shù)，基本就沒(méi)別的招數(shù)了;三是調(diào)參還像玄學(xué)。還沒(méi)有總結(jié)出一套系統(tǒng)經(jīng)驗(yàn)做指導(dǎo)，完全依賴個(gè)人經(jīng)驗(yàn)，甚至靠碰運(yùn)氣;四是通用性仍有待提高。目前幾乎所有的機(jī)器學(xué)習(xí)系統(tǒng)都是被訓(xùn)練執(zhí)行單一任務(wù)，沒(méi)有之前任務(wù)的記憶。

其次是在計(jì)算方面。目前的機(jī)器學(xué)習(xí)基本還是蠻力計(jì)算，是吞噬“算力”的巨獸。一是在線實(shí)時(shí)訓(xùn)練幾乎不可能，還只能離線進(jìn)行;二是雖然GPU等并行式計(jì)算硬件取得了巨大進(jìn)步，但算力仍然是性能的巨大瓶頸;三是能夠大幅提高算力的硅芯片，已逼近物理和經(jīng)濟(jì)成本上的極限。摩爾定律已經(jīng)衰老，計(jì)算性能的增長(zhǎng)曲線變得不可預(yù)測(cè)。

第三是在數(shù)據(jù)方面。一是數(shù)據(jù)透明度。雖然學(xué)習(xí)方法是公開(kāi)透明的，但訓(xùn)練用的數(shù)據(jù)集往往是不透明的;二是數(shù)據(jù)攻擊。輸入數(shù)據(jù)的細(xì)微抖動(dòng)就可能導(dǎo)致算法的失效，如果在利益方的誘導(dǎo)下發(fā)起對(duì)抗性樣本攻擊，系統(tǒng)就直接被“洗腦”了;三是監(jiān)督學(xué)習(xí)。深度學(xué)習(xí)需要的海量大數(shù)據(jù)，需要打上標(biāo)簽做監(jiān)督學(xué)習(xí)，而對(duì)實(shí)時(shí)海量的大數(shù)據(jù)人工打上標(biāo)簽幾乎不可能。

第四是與其他學(xué)派結(jié)合。目前AI取得的進(jìn)步屬于連接學(xué)派，因此在對(duì)智能的認(rèn)知方面，缺乏分析因果關(guān)系的邏輯推理能力，還無(wú)法理解實(shí)體的概念，無(wú)法識(shí)別關(guān)鍵影響因素，不會(huì)直接學(xué)習(xí)知識(shí)，不善于解決復(fù)雜數(shù)學(xué)運(yùn)算，缺乏倫理道德等方面的常識(shí)。

到2017年，機(jī)器學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)已具有數(shù)千到數(shù)百萬(wàn)個(gè)神經(jīng)元和數(shù)百萬(wàn)個(gè)連接。這樣的復(fù)雜度還只相當(dāng)于一個(gè)蠕蟲(chóng)的大腦，與有1000億神經(jīng)元和1萬(wàn)億連接的人類大腦，差了N個(gè)數(shù)量級(jí)。但盡管如此，神經(jīng)網(wǎng)絡(luò)下圍棋的能力已遠(yuǎn)高于一只蠕蟲(chóng)，而一只蠕蟲(chóng)所具有的自繁衍、捕食和躲避天敵等智能，人工智能都還望塵莫及。

現(xiàn)在，業(yè)界只知道深度學(xué)習(xí)在圖像處理和語(yǔ)音識(shí)別等方面表現(xiàn)出色，未來(lái)在其他領(lǐng)域也可能有潛在的應(yīng)用價(jià)值，但它究竟做不了什么，如何與邏輯推理等結(jié)合起來(lái)仍然不清楚。深度學(xué)習(xí)需要更安全、更透明和更可解釋。

AI的實(shí)現(xiàn)時(shí)必須依靠計(jì)算機(jī)，但基于圖靈機(jī)的AI在理論上無(wú)法超越人類智能，至少不會(huì)基于這一代的計(jì)算機(jī)技術(shù)和理論。

（作者為中國(guó)信息通信研究院技術(shù)與標(biāo)準(zhǔn)研究所副所長(zhǎng)，編輯：謝麗容）endprint