以存儲為中心的片上系統(tǒng)與人工智能

Crossbar半導(dǎo)體戰(zhàn)略市場營銷與業(yè)務(wù)開發(fā)副總裁 Sylvain Dubois

以存儲為中心的片上系統(tǒng)與人工智能

Crossbar半導(dǎo)體戰(zhàn)略市場營銷與業(yè)務(wù)開發(fā)副總裁 Sylvain Dubois

斯坦福大學(xué)近期的一份報告表示，人工智能 (AI) 在近期不會取代人類的需求，但它將對日常生活產(chǎn)生深遠(yuǎn)的影響，改變運輸、教育、醫(yī)療和娛樂等行業(yè)。深度神經(jīng)網(wǎng)絡(luò)算法與機器學(xué)習(xí)所產(chǎn)生的激動人心的發(fā)展成果將帶來新的智能接口、新的虛擬助手以及多個行業(yè)一系列應(yīng)用的進化——這些曾經(jīng)只存在于研究實驗室中的夢想,如今卻成為了消費者觸手可及的現(xiàn)實。

Donarreiskoffer-Selbstfotografiert

機器學(xué)習(xí)算法開始走向大眾的第一個例子是計算機開始在與棋手的對戰(zhàn)中取勝，比如最近與頂級圍棋選手之間的比賽。而像這樣的可能性還會更多。我們現(xiàn)在正在進入一個監(jiān)視攝像頭和自動駕駛通過機器學(xué)習(xí)技術(shù)成為現(xiàn)實生活中高級計算機視覺應(yīng)用的時代。使用深度學(xué)習(xí)算法的語音識別和智能傳感器能夠提高機器人應(yīng)用的環(huán)境感知。用于電子商務(wù)與廣告建議的云分析以及商業(yè)分析或醫(yī)療建議也只不過是冰山一角，并且這些應(yīng)用的種類正變得越來越豐富。

為了讓人工智能不僅限于實驗，需要改進用戶體驗，從而加快采納并且使公司能夠盈利。人工智能以及更具體的機器學(xué)習(xí)是幾乎每家未來企業(yè)盈利和與競爭對手實現(xiàn)更大差異的核心。在過去，數(shù)據(jù)存儲是成本中心，而如今它有機會成為利潤中心——這是因為數(shù)據(jù)能夠訓(xùn)練算法并且創(chuàng)造新的應(yīng)用。

算法需要訓(xùn)練大型數(shù)據(jù)集。處理這些數(shù)據(jù)的算法正變得越來越復(fù)雜，并且所有數(shù)據(jù)都需要實時處理。多年來，許多公司都清楚地知道數(shù)據(jù)采集是其商業(yè)模式中最寶貴的資產(chǎn)。現(xiàn)在，人們已了解社交媒體公司為何提供如此便捷、免費的平臺用于圖片分享與發(fā)表評論。這一海量的合格數(shù)據(jù)現(xiàn)在已成為一項非常寶貴的資產(chǎn)，并且為這些企業(yè)帶來了極高的價值：其應(yīng)用或設(shè)備所采集的大部分?jǐn)?shù)據(jù)被直接輸入到深層神經(jīng)網(wǎng)絡(luò)以訓(xùn)練它們?？梢钥焖僭L問、用于訓(xùn)練機器學(xué)習(xí)算法的數(shù)Zb存儲數(shù)據(jù)將帶來更具創(chuàng)新性的產(chǎn)品與應(yīng)用。

圖1 人工智能可以將數(shù)據(jù)轉(zhuǎn)換為體驗

物聯(lián)網(wǎng)是人工智能的基礎(chǔ)

物聯(lián)網(wǎng)是人工智能的自然基礎(chǔ)，并且最終當(dāng)所有互連設(shè)備成為更智能、更具預(yù)測性的設(shè)備時，這兩者將會合二為一。物聯(lián)網(wǎng)主要用于采集數(shù)據(jù)，而人工智能的主要工作則是使用數(shù)據(jù)。數(shù)據(jù)越多，人工智能算法的智能程度就越高。

內(nèi)置于智能設(shè)備的聲控虛擬助手，比如蘋果公司的 Siri、亞馬遜的Alexa或谷歌的Home等的性能正變得越來越強大。類似于斯派克·瓊斯的浪漫主義科幻電影《云端情人》中的體驗可能在幾個月后就能實現(xiàn)。近期，需要對數(shù)據(jù)進行本地分析的人工智能型監(jiān)控攝像頭的發(fā)展速度正在加快。而將4K視頻上傳到云端進行處理和下載所產(chǎn)生的性能與成本挑戰(zhàn)將阻礙必須采取的措施。想象一下：當(dāng)無線網(wǎng)絡(luò)信號不佳時，駕駛輔助系統(tǒng)出現(xiàn)故障。大部分智能設(shè)備都需要通過更好地理解其環(huán)境和消費者的習(xí)慣來根據(jù)用戶體驗改善性能。進化的基礎(chǔ)是從我們過去的經(jīng)驗中學(xué)習(xí)并且改進我們的未來行為。這些生成大量可分析與可執(zhí)行數(shù)據(jù)集的技術(shù)需要有創(chuàng)新的存儲技術(shù)提供高性能與低能耗。

Crossbar RRAM等非易失性存儲技術(shù)正在通過提供低功耗、低電壓的運行、與計算機內(nèi)核的單片集成以及可按字節(jié)尋址的寫入幫助解決嵌入式物聯(lián)網(wǎng)的性能與能源挑戰(zhàn)。RRAM是能耗最低的物聯(lián)網(wǎng)應(yīng)用存儲技術(shù)，并且可以與單片解決方案上的處理內(nèi)核集成。

RRAM通過與專用邏輯的片上集成加快深度神經(jīng)網(wǎng)絡(luò)算法。來自傳感器的數(shù)據(jù)可以保存在片上并且直接通過深度神經(jīng)網(wǎng)絡(luò)傳輸，從而采取直接行動。對象并非通過軟件的獲取行，而是通過與來自各傳感器的外部數(shù)據(jù)產(chǎn)生反應(yīng)來實現(xiàn)智能。數(shù)據(jù)采集與處理可以通過嵌入式RRAM集成到一個單片解決方案上。通過集成高密度片上存儲器與同一節(jié)點上的處理器，數(shù)據(jù)從處理器向片外存儲器子系統(tǒng)的傳輸及回傳所固有的延遲被消除。因此， RRAM 技術(shù)是一項加快挖掘新型大數(shù)據(jù)、人工智能領(lǐng)域潛力的創(chuàng)新，使多種應(yīng)用加快性能，并且大幅提高了能效、實現(xiàn)了出色的安全性并且減少了芯片的數(shù)量與尺寸。

圖2 同一硅晶片上的非易失性存儲器和計算邏輯加快數(shù)據(jù)訪問并且提高能效

人工智能所需的新架構(gòu)

摩爾定律戛然而止，CPU的刷新頻率更低。目前英特爾處理器所遇到的馮·諾依曼存儲瓶頸問題可以通過更加以存儲器為中心的新系統(tǒng)架構(gòu)解決。必須減少存儲技術(shù)與計算之間的性能差異。傳統(tǒng)的閃存型存儲解決方案的讀取反應(yīng)時間在100 μs范圍內(nèi)，而Crossbar 3D RRAM則為1 μs。除了 Crossbar的 RRAM之外，Intel Micron XPoint PCM、Everspin 和 Avalanche MRAM等新興存儲技術(shù)還支持其他多項倡議，它們都致力于解決這一挑戰(zhàn)。

數(shù)據(jù)中心中的傳統(tǒng)架構(gòu)通常包含三個獨立的部分：

◆ 帶頂尖處理內(nèi)核與配套DRAM存儲器的計算部分

◆ SSD或HDD單位字節(jié)成本最低的數(shù)據(jù)存儲部分

◆ 連接計算部分與數(shù)據(jù)存儲部分的網(wǎng)絡(luò)

分析師發(fā)現(xiàn)數(shù)據(jù)中心的集成度正呈現(xiàn)越來越高的趨勢，其中這三個組成部分——計算、存儲和網(wǎng)絡(luò),被壓縮到一個緊湊的尺寸，這被稱之為“超融合服務(wù)器”。

根據(jù)近期的一些報告，已有40%的企業(yè)數(shù)據(jù)中心使用超融合服務(wù)器，而這一市場有望在未來五年增長近80%。

數(shù)據(jù)中心基礎(chǔ)架構(gòu)市場正在縮短服務(wù)器各元素延遲時間的方向快速發(fā)展。在一個單元中集成所有組件能夠減少延遲、總擁有成本和功耗。在超融合服務(wù)器中，計算、存儲和網(wǎng)絡(luò)部分可以實現(xiàn)更高效的互連。新的行業(yè)論壇正在實現(xiàn)處理器、存儲和I/O之間的高帶寬低延遲數(shù)據(jù)訪問。在高性能計算應(yīng)用中，Intel Micron 3D XPoint PCM和 Crossbar 3D RRAM將通過減少存儲與計算之間的性能差距實現(xiàn)顯著的改進。

可以直接在片上與處理邏輯集成的存儲技術(shù)將實現(xiàn)全新的以存儲器為中心的片上架構(gòu)。當(dāng)非易失性存儲器與計算邏輯共享同一塊硅晶片時，就能解決外部總線的性能瓶頸。嵌入式永久存儲技術(shù)的一個特殊應(yīng)用領(lǐng)域是建立在以存儲器為中心的片上系統(tǒng)基礎(chǔ)之上的深度學(xué)習(xí)硬件加速。人工智能和深度學(xué)習(xí)是這十年最有可能取得進展的計算技術(shù)。深層神經(jīng)網(wǎng)絡(luò)的核心是數(shù)據(jù)以及經(jīng)過訓(xùn)練的算法如何應(yīng)對新的數(shù)據(jù)集。行業(yè)對于新計算平臺的開發(fā)具有濃厚的興趣，這些計算平臺通過專門嵌入RRAM內(nèi)核的多個處理引擎具備了大規(guī)模并行計算能力。目前已有多家企業(yè)已經(jīng)在研究如何將RRAM單元作為神經(jīng)形態(tài)處理架構(gòu)的突觸。

圖3 提供新人工智能體驗的RRAM并行計算平臺