4年前,當(dāng)AlphaGo打敗頂尖棋手李世石之后,世人都在擔(dān)心,機(jī)器替代人類的“奇點(diǎn)”時(shí)刻即將來(lái)臨?,F(xiàn)實(shí)卻是,AI降溫的速度比熱潮來(lái)得更快。深度學(xué)習(xí)的計(jì)算需求呈指數(shù)級(jí)增長(zhǎng),以至于自動(dòng)駕駛等產(chǎn)業(yè)的AI進(jìn)程慢于預(yù)期。
麻省理工學(xué)院的研究科學(xué)家尼爾·湯普森在最新一篇論文中指出,近年來(lái),AI的進(jìn)步令人眼花繚亂,但接下來(lái)的進(jìn)步將取決于能否投入更多的計(jì)算資源,以相同的速度提升計(jì)算能力已經(jīng)遠(yuǎn)遠(yuǎn)不夠,將拖累AI在計(jì)算機(jī)視覺(jué)、自動(dòng)駕駛、翻譯和語(yǔ)言理解等領(lǐng)域的進(jìn)一步發(fā)展。例如,如果想要將英語(yǔ)轉(zhuǎn)法語(yǔ)的機(jī)器翻譯算法錯(cuò)誤率從目前的50%降至10%,計(jì)算能力需要有數(shù)十億倍的提升。
在過(guò)去的10年中,AI對(duì)計(jì)算的需求顯著上升。2012年,多倫多大學(xué)的一個(gè)研究團(tuán)隊(duì)在5天內(nèi)使用兩個(gè)GPU(一種特殊的計(jì)算機(jī)芯片)便可以創(chuàng)建出一種突破性的圖像識(shí)別算法。到了2019年,谷歌和卡內(nèi)基梅隆大學(xué)的研究人員花了6天時(shí)間使用大約1 000種特殊芯片(每個(gè)芯片的功能比早期的GPU強(qiáng)大很多倍)才能開(kāi)發(fā)出更現(xiàn)代的圖像識(shí)別算法。以谷歌在2019年開(kāi)發(fā)的一種翻譯算法為例,需要大約1.2萬(wàn)個(gè)專用芯片持續(xù)運(yùn)行一周,云租用這么多的“算力”將花費(fèi)300萬(wàn)美元。
OpenAI的一份報(bào)告顯示,自2012年以來(lái),在大規(guī)模的人工智能訓(xùn)練中所使用的計(jì)算量呈指數(shù)級(jí)增長(zhǎng),3.5個(gè)月的時(shí)間翻一倍,相比之下摩爾定律的倍增周期長(zhǎng)達(dá)18個(gè)月。Facebook的AI研究實(shí)驗(yàn)室負(fù)責(zé)人杰羅姆·佩森蒂說(shuō),AI研究人員開(kāi)始感受到計(jì)算緊縮的壓力,算力資源的局限將減慢AI在多個(gè)領(lǐng)域的發(fā)展,獲得人為水平的績(jī)效將比預(yù)期要昂貴得多。
在最近的一些演講和論文中,從事大型前沿AI項(xiàng)目的研究人員紛紛抱怨,隨著技術(shù)難度的挑戰(zhàn)越來(lái)越高,需要投入的資源也越來(lái)越多,由于成本太高,他們無(wú)法測(cè)試多個(gè)算法設(shè)計(jì)或重新運(yùn)行實(shí)驗(yàn)。按照這個(gè)趨勢(shì),想要滿足未來(lái)AI發(fā)展的需求,芯片行業(yè)勢(shì)必要有所變革。芯片組件小型化的進(jìn)步仍在繼續(xù),同時(shí)專用的新型AI芯片可以更有效地運(yùn)行深度學(xué)習(xí)計(jì)算。