站在風(fēng)口的人工智能芯片

陸芃臣

摘 要：隨著互聯(lián)網(wǎng)技術(shù)、物聯(lián)網(wǎng)技術(shù)、人工智能等技術(shù)的不斷發(fā)展，作為各種算法、程序、軟件的承載者——芯片的重要性也愈發(fā)凸顯。各大互聯(lián)網(wǎng)公司和科技公司也相繼推出了人工智能芯片產(chǎn)品。隨著人工智能技術(shù)的“熱潮”逐漸退去，人們也隨之質(zhì)疑所謂的人工智能芯片是否真的“智能”。本文介紹了人工智能技術(shù)原理和人工智能芯片分類(lèi)，并對(duì)未來(lái)的人工智能芯片作出展望。

關(guān)鍵詞：人工智能;芯片;功能;分類(lèi)

中圖分類(lèi)號(hào)：TP33 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1671-2064（2019）22-0049-02

0 引言

隨著人工智能技術(shù)和芯片技術(shù)的不斷發(fā)展，人工智能芯片已經(jīng)從最初的概念落地，成為了新一代“網(wǎng)紅科技產(chǎn)品”，而隨著多家互聯(lián)網(wǎng)巨頭相繼入局，人工智能芯片熱度再次上升：預(yù)計(jì)到2020年全球市場(chǎng)規(guī)模將超過(guò)100億美元，在這其中中國(guó)市場(chǎng)就獨(dú)占了將近1/4。人工智能芯片行業(yè)增長(zhǎng)非常迅猛，且發(fā)展空間巨大，因此目前全球的各大芯片公司都在積極進(jìn)行對(duì)AI芯片的新布局。

為了搶奪市場(chǎng)，不同公司針對(duì)不同場(chǎng)景推出了各種各樣的產(chǎn)品[1]：英偉達(dá)公司的GPU不僅應(yīng)用于各大圖像處理場(chǎng)景，更被眾多實(shí)驗(yàn)室采購(gòu)以作為深度學(xué)習(xí)的計(jì)算基礎(chǔ);谷歌為T(mén)ensorflow開(kāi)發(fā)出專(zhuān)用的TPU來(lái)為用戶(hù)提供計(jì)算服務(wù)，這種處理器的處理能力達(dá)到180Tflop;國(guó)內(nèi)以寒武紀(jì)為首的諸多廠商也生產(chǎn)出了自己的AI芯片。如果說(shuō)在傳統(tǒng)的CPU等高端芯片領(lǐng)域技術(shù)壁壘高，后起國(guó)家難以進(jìn)入，那么AI芯片則是一片藍(lán)海，等待著科技工作者的進(jìn)入。

1 人工智能芯片兩大功能

顧名思義，人工智能芯片即為搭載人工智能的芯片，在不同的時(shí)代人工智能有著不同的實(shí)現(xiàn)方式和數(shù)學(xué)算法。而在今天，當(dāng)我們談起人工智能芯片時(shí)，我們更多的是在談?wù)摯钶d有人工神經(jīng)網(wǎng)絡(luò)的芯片，這是因?yàn)樵诋?dāng)前的科技階段，人工智能的發(fā)展主要依托于統(tǒng)計(jì)學(xué)原理與日益強(qiáng)大的計(jì)算機(jī)能力，而一個(gè)具體的人工神經(jīng)網(wǎng)絡(luò)也往往是單純?yōu)槟骋粋€(gè)具體的問(wèn)題而設(shè)計(jì)與訓(xùn)練的，比如識(shí)別人臉、特征提取等，顯然，這與人們所想象的“機(jī)器人統(tǒng)治世界”的情景天差地別。

神經(jīng)網(wǎng)絡(luò)從構(gòu)造到應(yīng)用無(wú)非是要完成兩個(gè)任務(wù)：訓(xùn)練與推理。神經(jīng)網(wǎng)絡(luò)并不是憑空得來(lái)的，一個(gè)表現(xiàn)優(yōu)秀的神經(jīng)網(wǎng)絡(luò)需要大量的樣本數(shù)據(jù)來(lái)完成其自身的訓(xùn)練，在這個(gè)過(guò)程中，神經(jīng)網(wǎng)絡(luò)在傳統(tǒng)的線(xiàn)性傳遞函數(shù)中加入了“非線(xiàn)性函數(shù)”，即激活函數(shù)，來(lái)完成一種空間映射。在這種空間映射中，神經(jīng)網(wǎng)絡(luò)將數(shù)據(jù)的無(wú)用信息剔除，有用信息保留并進(jìn)行非線(xiàn)性變換，以達(dá)到精確分類(lèi)的目的。因此，神經(jīng)網(wǎng)絡(luò)的“產(chǎn)出過(guò)程”往往是：發(fā)現(xiàn)問(wèn)題——問(wèn)題建?！@取樣本數(shù)據(jù)——訓(xùn)練網(wǎng)絡(luò)——網(wǎng)絡(luò)驗(yàn)證——網(wǎng)絡(luò)確定——網(wǎng)絡(luò)優(yōu)化。在確定了網(wǎng)絡(luò)之后，我們就可以將這種網(wǎng)絡(luò)用語(yǔ)具體環(huán)境中以進(jìn)行推理。而在當(dāng)今的工業(yè)體系中，不同的群體所面臨的網(wǎng)絡(luò)構(gòu)建環(huán)節(jié)往往是不同的。對(duì)于那些希望加速訓(xùn)練過(guò)程，提高產(chǎn)品迭代頻率的研發(fā)與科學(xué)人員來(lái)說(shuō)，他們需要的是能夠加速計(jì)算、提高帶寬的芯片，并且這種芯片的使用環(huán)境也往往不會(huì)對(duì)芯片功耗提出苛刻的要求;對(duì)于那些希望將芯片應(yīng)用于具體場(chǎng)景中以加速實(shí)際情況判斷的研發(fā)人員來(lái)說(shuō)，他們需求雖然依然是加速計(jì)算，但他們的需求卻往往是“定向”的，這是因?yàn)樵诰W(wǎng)絡(luò)訓(xùn)練成功后，其數(shù)據(jù)的流向與網(wǎng)絡(luò)的機(jī)構(gòu)就已經(jīng)確定了，如果能夠針對(duì)性地搭建一款芯片來(lái)完成相應(yīng)計(jì)算，就可以大大加速解決這個(gè)特定問(wèn)題的計(jì)算過(guò)程。

舉個(gè)例子，對(duì)于大多數(shù)手機(jī)用戶(hù)而言，他們并沒(méi)有“構(gòu)造神經(jīng)網(wǎng)絡(luò)”的需求，反而是更加需要一個(gè)可靠、快速的神經(jīng)網(wǎng)絡(luò)供其在具體應(yīng)用場(chǎng)景中進(jìn)行智能判斷。例如，在前些日子風(fēng)靡一時(shí)的谷歌“猜話(huà)小歌”微信小程序中，手機(jī)實(shí)時(shí)地將用戶(hù)的繪畫(huà)涂鴉上傳至云端，并交由谷歌的人工智能系統(tǒng)進(jìn)行判斷，并且判斷結(jié)果也會(huì)進(jìn)一步影響人工智能的訓(xùn)練（即訓(xùn)練與推理是實(shí)時(shí)進(jìn)行的）;而很多女孩子所使用的“智能美顏”實(shí)際上也是軟件將訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)下載到數(shù)據(jù)庫(kù)中，并根據(jù)用戶(hù)的外形數(shù)據(jù)（例如臉型、眼睛的大?。┻M(jìn)行智能判斷，挑選出最適合用戶(hù)的美顏方式進(jìn)行美顏[2]。

由此我們不難總結(jié)，人工智能芯片也對(duì)應(yīng)著兩種功能[3]：訓(xùn)練與推理，其本質(zhì)都在于加速計(jì)算，不同點(diǎn)在于在訓(xùn)練任務(wù)中每次迭代之后芯片的計(jì)算任務(wù)都有可能發(fā)生變化，這是因?yàn)閿M合函數(shù)的過(guò)程本身就是不斷變化的;在推理任務(wù)中每次迭代芯片所執(zhí)行的任務(wù)都是相通的。在速度上雖然我們都希望盡可能地加速，但具體要求又不盡相同。例如，對(duì)于某些需要傳輸大量數(shù)據(jù)或是不能允許延時(shí)的應(yīng)用如無(wú)人駕駛汽車(chē)的推斷，就必須在邊緣節(jié)點(diǎn)上自行執(zhí)行推斷（相應(yīng)的，有些任務(wù)則可以先上傳到云端，再由服務(wù)器進(jìn)行運(yùn)算，這樣的任務(wù)往往對(duì)實(shí)時(shí)性要求不高）。在可以預(yù)見(jiàn)的未來(lái)，消費(fèi)級(jí)的終端設(shè)備也需要滿(mǎn)足自行推斷計(jì)算的需求，這是當(dāng)前的處理芯片遠(yuǎn)遠(yuǎn)達(dá)不到的。所以能夠賦予設(shè)備足夠計(jì)算能力來(lái)應(yīng)對(duì)越來(lái)越多場(chǎng)景的AI芯片成為現(xiàn)在市場(chǎng)所最需要的。

在當(dāng)前的歷史階段，智能手機(jī)毫無(wú)疑問(wèn)是最為廣泛的邊緣計(jì)算終端設(shè)備，隨著移動(dòng)辦公、娛樂(lè)的發(fā)展，用戶(hù)對(duì)手機(jī)的計(jì)算能力的要求也原來(lái)越高，三星、蘋(píng)果、高通等一眾公司紛紛開(kāi)始了自己的AI芯片研發(fā)之路。而傳統(tǒng)的IP廠商也都在為各類(lèi)邊緣計(jì)算終端設(shè)備開(kāi)發(fā)專(zhuān)用的IP產(chǎn)品。由此我們可見(jiàn)，手機(jī)的人工智能功能更多的是聚焦于“推理”而非“訓(xùn)練”，因此，手機(jī)制造廠商需要的是能夠迅速進(jìn)行人工智能推理的芯片系統(tǒng)，那么同樣是芯片系統(tǒng)，為什么需要單獨(dú)制造所謂的人工智能芯片呢？

2 人工智能芯片必要性與分類(lèi)

在傳統(tǒng)的馮諾依曼結(jié)構(gòu)中，計(jì)算機(jī)將大量的資源留給了邏輯運(yùn)算系統(tǒng)，即傳統(tǒng)CPU的邏輯計(jì)算能力和串行執(zhí)行能力非常出色，但在面對(duì)大規(guī)模數(shù)據(jù)運(yùn)算時(shí)，盡管有多層流水線(xiàn)這種優(yōu)化結(jié)構(gòu)，但指令的數(shù)量仍然限制了深度學(xué)習(xí)的速度。傳統(tǒng)CPU只有ALU模塊是用來(lái)完成指令數(shù)據(jù)計(jì)算，其他各個(gè)模塊都是為了保證指令能夠一條一條的有序進(jìn)行而存在的[4]。這種通用型結(jié)構(gòu)對(duì)于傳統(tǒng)的編程計(jì)算機(jī)模式非常適合，但對(duì)于需要大量計(jì)算的深度學(xué)習(xí)來(lái)說(shuō)就不夠了。

為了解決這個(gè)問(wèn)題，工程師們一直在探求新的硬件架構(gòu)，以求在根本上改善集成電路搭載神經(jīng)網(wǎng)絡(luò)的能力，從根本上來(lái)講，這些新的硬件架構(gòu)大體分為三類(lèi)，分別是圖形處理器（GPU），現(xiàn)場(chǎng)可編輯邏輯門(mén)陣列（FPGA），面向具體應(yīng)用場(chǎng)景的片上系統(tǒng)（ASIC）。

GPU因其海量數(shù)據(jù)并行運(yùn)算的能力被深度學(xué)習(xí)首先引入。經(jīng)實(shí)驗(yàn)證明，12顆NVIDIAD的GPU可以提供相當(dāng)于2000顆CPU的深度學(xué)習(xí)能力。但是同樣，GPU也有局限性，它在應(yīng)用過(guò)程中無(wú)法充分使用計(jì)算優(yōu)勢(shì)，而且無(wú)法編程，并且對(duì)深度學(xué)習(xí)的運(yùn)行能效也遠(yuǎn)不如FPGA。然而，F(xiàn)PGA作為可編輯門(mén)陣列，計(jì)算能力依然有限且制造價(jià)格有限。

ASIC：ASIC是面向具體的應(yīng)用場(chǎng)景所設(shè)計(jì)和制造的“專(zhuān)用”芯片，簡(jiǎn)單來(lái)說(shuō)，通用的加速芯片GPU雖然能顯著提高計(jì)算速度，但遠(yuǎn)遠(yuǎn)不如專(zhuān)門(mén)為某種計(jì)算設(shè)計(jì)的專(zhuān)用芯片。在目前為人工智能專(zhuān)門(mén)定制芯片的潮流已經(jīng)開(kāi)始初步顯露了，以英偉達(dá)公司和寒武紀(jì)公司為代表，許多公司已經(jīng)開(kāi)始了這方面的研究探索。

FPGA：FPGA是在研發(fā)階段常用的人工智能芯片，它就像是樂(lè)高積木一樣，根據(jù)不同的引腳搭配，可以將芯片配制成不同的功能，因此可以模擬各種情況下的芯片。但其缺點(diǎn)在于規(guī)模過(guò)大，因此一般不應(yīng)用于實(shí)際產(chǎn)品。

我們不難發(fā)現(xiàn)，當(dāng)前手機(jī)上所搭載的人工智能芯片其本質(zhì)上是ASIC的一種，是各大廠商為了應(yīng)對(duì)大規(guī)模數(shù)據(jù)推理的問(wèn)題所搭載的一種“神經(jīng)網(wǎng)絡(luò)加速器”[5]。當(dāng)然，此處的“大規(guī)模”是相對(duì)而言，比起神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程，推理所需要的計(jì)算資源要小得多，但仍然遠(yuǎn)大于手機(jī)的日常使用所需的計(jì)算量。因此，搭載人工智能芯片除了能夠節(jié)省CPU資源，更重要的是能夠大大加快計(jì)算速度（手機(jī)上所搭載的ASIC往往可以搭載各種各樣的神經(jīng)網(wǎng)絡(luò)，從這個(gè)角度上講，更應(yīng)該叫面向多個(gè)場(chǎng)景的集成電路）。

當(dāng)然，手機(jī)所要面臨的大規(guī)模數(shù)據(jù)計(jì)算問(wèn)題未必唯此一條出路，實(shí)際上，無(wú)人駕駛等神經(jīng)網(wǎng)絡(luò)的應(yīng)用場(chǎng)景也給了我們很多啟示：我們完全可以將數(shù)據(jù)上傳至云端，并交由大規(guī)模GPU或是ASIC進(jìn)行計(jì)算并反饋結(jié)果，而具體哪種結(jié)果更能令人滿(mǎn)意或未可知。

3 總結(jié)與展望

目前的AI運(yùn)算都各具優(yōu)劣，必須在合適的場(chǎng)景才能發(fā)揮作用，所以能夠適合各種場(chǎng)景的芯片成為了現(xiàn)今市場(chǎng)所最渴求的產(chǎn)品。從這個(gè)角度上講，AI芯片和傳統(tǒng)芯片在很長(zhǎng)的一段時(shí)間內(nèi)都需要“和平共處”，無(wú)法相互替代，因此當(dāng)前的人工智能芯片還僅僅只是起步階段，距離真正進(jìn)入大眾生活還要走很長(zhǎng)的路。

當(dāng)然，對(duì)于現(xiàn)在人工智能芯片所處的比較滯后的狀態(tài)，我們大可不必悲觀，雖然現(xiàn)在有很多人對(duì)于人工智能芯片持懷疑甚至反對(duì)態(tài)度，但這的確是人類(lèi)通向弱人工智能并進(jìn)一步走向強(qiáng)人工智能所必須經(jīng)歷的階段，在技術(shù)發(fā)展的每一個(gè)時(shí)期都不可能完美無(wú)缺、普適眾生。相信在不遠(yuǎn)的將來(lái)，人工智能的發(fā)展將邁上新的臺(tái)階。

參考文獻(xiàn)

[1] 尹首一，郭珩，魏少軍.人工智能芯片發(fā)展的現(xiàn)狀及趨勢(shì)[J].科技導(dǎo)報(bào)，2018，36（17）：45-51.

[2] 孫學(xué)全，馮英浚.多層感知器的靈敏度分析[J].計(jì)算機(jī)學(xué)報(bào)，2001，24（9）：951-958.

[3] 宋光慧.基于遷移學(xué)習(xí)與深度卷積特征的圖像標(biāo)注方法研究[D].浙江大學(xué)，2016.

[4] 岳珂娟.馮·諾依曼體系結(jié)構(gòu)在計(jì)算機(jī)組成原理教學(xué)中的重要性[J].計(jì)算機(jī)教育，2012（24）：99-101.

[5] 司春杰，章磊，張?jiān)姎g.寒武紀(jì)：自主“芯”引領(lǐng)人工智能時(shí)代[J].浦東開(kāi)發(fā)，2018，317（06）：22-24.