AI芯片：開發(fā)再升溫應(yīng)用待落地

陳炳欣

人工智能芯片熱潮再起。近日全球最大的云服務(wù)提供商亞馬遜AWS在其發(fā)布會AWS re：In一vent上發(fā)布了首款高性能杠曝學(xué)習(xí)加速芯片Inferentia。由騰訊領(lǐng)投的AI芯片企業(yè)燧原科技也于近日發(fā)布了首款云端AI訓(xùn)練芯片邃思DTU及加速卡云燧T10。2019年人工智能技術(shù)加快滲透進(jìn)入實(shí)際應(yīng)用當(dāng)中成為業(yè)內(nèi)公認(rèn)的AI落地之年。而其中關(guān)鍵在于AI芯片，算力的支撐成為人工智能發(fā)展的“發(fā)動機(jī)”。這也使得人工智能芯片市場有望快速成長

AI芯片開發(fā)踴躍

全球最大的云服務(wù)提供商亞馬遜AWS發(fā)布了首款高性能機(jī)器學(xué)習(xí)加速芯片Inferentia。作為全球最大的云服務(wù)提供商，亞馬遜AWS此舉頗為引人關(guān)注。根據(jù)亞馬遜公布的指標(biāo)，Infuentia芯片能夠提供128TOPS的算力，并支持INT-8和FP-16/bfloat-16計算類型。亞馬遜同時公布了幾種搭載了Inferentia芯片的服務(wù)器配置，最高性能的版本可以搭載16顆Inferenfa芯片，從而能提供高達(dá)2000TOPS的峰值算力。

實(shí)際上，關(guān)于亞馬遜自研AI芯片的情況早有消息傳出。2018年美國科技媒體The Information報道稱，亞馬遜已經(jīng)開始設(shè)計定制人工智能芯片，朱來將用在其開發(fā)的智能語音設(shè)備Echo之上，以幫助Alexa語音助手獲得更快的響應(yīng)速度，從而提升整體的使用體驗。2015年，亞馬遜斥資3.5億美元收購以色列芯片制造商Annapurna Labs。Annapuma Labs設(shè)計開發(fā)的芯片用于數(shù)據(jù)存儲設(shè)備、WiFi路由器、智能家居設(shè)備和流媒體設(shè)備之上。

燧原科技的產(chǎn)品同樣引人關(guān)注。燧原科技是騰訊投資的第一家國內(nèi)AI芯片企業(yè)，成立不足一年半，就完成超過6.6億元的累計融資。目前燧原已同騰訊一起針對通用A1應(yīng)用場景項目展開密切合作，未來也將會擴(kuò)展到更多AI應(yīng)用場景。燧原科技CEO趙立東介紹，此次發(fā)布的邃思DTU采用格羅方德12nm FinFET工藝，480平方毫米主芯片上承載141億個晶體管，實(shí)現(xiàn)2.5D高級立體封裝，算力可達(dá)20TFLOPS，最大功耗225W。產(chǎn)品將于2020年第一季度上市。同時，燧原科技發(fā)布首款計算及編程平臺“馭算”，可支持開源學(xué)習(xí)平臺Ten-sorFlow迸行開發(fā)。

新應(yīng)用驅(qū)動Al芯片增長

一家大型一家初創(chuàng)，一家國際一家國內(nèi)亞馬遜Aws與燧原科技先后發(fā)布AI芯片，顯示了AI芯片當(dāng)前的火熱。實(shí)際上，近年來各類勢力均在發(fā)力AI芯片，參與者包括傳統(tǒng)芯片設(shè)計、IT廠商、技術(shù)公司、互聯(lián)網(wǎng)以及初創(chuàng)企業(yè)等，產(chǎn)品覆蓋了CPU、GPU、FPGA、ASIC等。

安富利亞洲供應(yīng)商及產(chǎn)品管理高級總監(jiān)鐘僑海指出，當(dāng)前人工智能技術(shù)正在快速落地，正在滲透進(jìn)人實(shí)際應(yīng)用。這是AI芯片快速發(fā)展的原因之一。根據(jù)Foxtunebusi-neusnsighes的預(yù)測，2018年全球人工智能市場規(guī)模為206.7億美元，至2026年有望增長到2025.7億美元。而Gartner則預(yù)測，2018年AI芯片市場約為42.7億美元規(guī)模，有望在2022年增長至343億美元。

人工智能的應(yīng)用首先是在云端服務(wù)器市場展開，這也是當(dāng)前AI芯片開發(fā)的重點(diǎn)。不過隨著市場的不斷拓展，人工智能將向邊緣以及終端領(lǐng)域擴(kuò)展。未來一段時間，邊緣計算將成為AI芯片發(fā)展最快的新領(lǐng)域。

對此，清華大學(xué)電子工程系教授汪玉表示“在發(fā)展過程中，AI芯片首先是受到了云端服務(wù)器市場的關(guān)注和應(yīng)用.國際公司如Google的TPU、亞馬遜的Inferentia、英特爾的SpringCrest，國內(nèi)公司如寒武紀(jì)的MLU100、百度的昆侖、華為的升騰、比特大陸的算豐，都是面向云計算所開發(fā)，不過，隨著邊緣計算的發(fā)展，面向邊緣計算的AI芯片也開始受到越來越多的重視?！靶碌倪吘墕⒂?，數(shù)據(jù)密集型應(yīng)用和工作負(fù)載將由AI提供支持。AI將用于分析和解釋來自這些應(yīng)用程序的數(shù)據(jù)，以幫助人們（在某些情況下，其服機(jī)器）實(shí)時做出關(guān)鍵決策。”汪玉表示。

鐘僑海也表示，人工智能在物聯(lián)網(wǎng)領(lǐng)域正在迅速展開。在人工智能以及物聯(lián)網(wǎng)上，安富利已經(jīng)開發(fā)出許多相關(guān)的成功案例，如智能制造系統(tǒng)、智能農(nóng)業(yè)系統(tǒng)、智慧城市系統(tǒng)等“目前區(qū)分人工智能在云服務(wù)和邊緣側(cè)的市場份額還比較難。但是，很多用戶都希望在他們原有的物聯(lián)網(wǎng)系統(tǒng)當(dāng)中能夠加上人工智能的功能。此外，越來越多的企業(yè)希望有他們自己的云，他們自己的云可以做訓(xùn)練，他們自己的云可以做數(shù)據(jù)的分析，這些事情他們可能不希望通過公有云來做。因此，可以預(yù)計未來人工智能在邊緣側(cè)的市場將會越來越大。

架構(gòu)彈性成為關(guān)注焦點(diǎn)

雖然前景看好，但是AI芯片在應(yīng)用落地方面同樣存在挑戰(zhàn)。鐘僑海認(rèn)為，人工智能落地還將面臨三個挑戰(zhàn)：第一，人工智能需要繁多的訓(xùn)練、數(shù)據(jù)分析、識別大量計算所以，AI解決方案應(yīng)針對不同的應(yīng)用對網(wǎng)絡(luò)和性能參數(shù)，要求不同速度、延遲、能耗、準(zhǔn)確性。第二，神經(jīng)網(wǎng)絡(luò)技術(shù)需要大量的數(shù)據(jù)以訓(xùn)練模型，在大量的運(yùn)算中有數(shù)十億次乘積累加運(yùn)算以及幾十兆字節(jié)參數(shù)，故需要大量運(yùn)算符、自定義數(shù)學(xué)及存儲器層次結(jié)構(gòu)。第三，人工智能算法的更新?lián)Q代較為迅速，在固定架構(gòu)中會存在很多風(fēng)險，一旦舊人工智能架構(gòu)失靈，在新架構(gòu)出現(xiàn)時，原本的固化架構(gòu)很大程度上即刻失效。所以，架構(gòu)的彈性成為業(yè)界需要聚焦關(guān)注的問題。

汪玉提出建議，目前AI芯片設(shè)計面臨著太多種的樞架，如TF、Py-torch、Caffe，Mxnet等。同時現(xiàn)存的芯片平臺也有很多，如CPU、GPU、FPGA、ASIC等。這就給AI芯片的設(shè)計開發(fā)帶來了極大的挑戰(zhàn)。如果能有公司設(shè)計開發(fā)出一款中間層性質(zhì)的平臺產(chǎn)品，由它來向仁支持不同類型的設(shè)計框架，向下支持各種芯片平臺，并最終服務(wù)于各個人工智能公司，將大大降低AI芯片設(shè)計中的復(fù)雜度，提高工作效率。這其中蘊(yùn)含著巨大的商機(jī)。汪玉也呼吁應(yīng)當(dāng)加強(qiáng)產(chǎn)學(xué)研的結(jié)合，以技術(shù)為基本出發(fā)點(diǎn)，營造出有利于創(chuàng)新發(fā)展的環(huán)境。通過這一系列的努力，中國完全可以抓住新一輪由5G商用所趨動的邊緣計算市場商機(jī)。