鄧舒夏
英特爾神經(jīng)擬態(tài)研究系統(tǒng)Pohoiki Springs基于768塊Loih芯片,可提供1億個神經(jīng)元的計(jì)算能力。
計(jì)算機(jī)處理數(shù)學(xué)等難題的能力已經(jīng)遠(yuǎn)超人類,但它依然擺脫不了作為“機(jī)器”的局限性——比如具備嗅覺和味覺。如果計(jì)算機(jī)能夠模擬人腦建立起對外部環(huán)境的認(rèn)知,一切將會不同。
今年3月,《自然-機(jī)器智能》(Nature Machine Intelligence)雜志封面刊登了英特爾研究院與美國康奈爾大學(xué)研究人員聯(lián)合發(fā)表的一篇論文,研究人員基于英特爾一款名為“Loihi”的神經(jīng)擬態(tài)芯片,模擬出人類嗅到氣味時(shí)大腦的運(yùn)行機(jī)制。
論文中,研究員列舉了Loihi在存在明顯噪聲和遮蓋的情況下,學(xué)習(xí)和識別危險(xiǎn)化學(xué)品的能力——他們采用了一個由72個化學(xué)傳感器組成的數(shù)據(jù)集來采集氣味,并在Loihi芯片上配置生物嗅覺電路圖,結(jié)果,Loihi僅需單一樣本便可學(xué)會識別每一種氣味,同樣的準(zhǔn)確率如果采用“深度學(xué)習(xí)”訓(xùn)練,則需要3000倍以上的樣本。這一結(jié)果被看作是神經(jīng)科學(xué)與人工智能交叉研究的“突破性”進(jìn)展。
高性能計(jì)算、神經(jīng)擬態(tài)計(jì)算、量子計(jì)算,這三者通常被稱為通往未來人工智能(AI)的三條“賽道”。其中,高性能計(jì)算的進(jìn)展速度最快,以芯片制造商為代表的技術(shù)公司都在研發(fā)深度學(xué)習(xí)芯片,而神經(jīng)擬態(tài)芯片這個研究方向直到1980年代才被提出。不過傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)的應(yīng)用中,還是以處理視覺數(shù)據(jù)、音頻數(shù)據(jù)的案例為主,在極具個性化差異的“嗅覺”和“味覺”應(yīng)用上,機(jī)器就會束手束腳。
深度學(xué)習(xí)的局限性在于,首先要求有足夠量且標(biāo)注好的數(shù)據(jù),另外需要有可供訓(xùn)練的數(shù)據(jù)池,以及未來要處理相關(guān)問題的測試集合。以識別一款葡萄酒的味道為例,不同品酒人會給出不同的描述,甚至同一個人在不同時(shí)間點(diǎn)品嘗酒,也有可能給出不一樣的結(jié)果,因此很難用一個客觀標(biāo)準(zhǔn)去標(biāo)記這些味道。除此之外,嗅覺和味覺都是小數(shù)量場景,比如氣味是由不同密度的化學(xué)成分構(gòu)成的,普通人經(jīng)過特殊訓(xùn)練可以區(qū)分三四百種氣味,想要把其中的每種氣味找出足夠多的樣本供機(jī)器學(xué)習(xí),顯然是不現(xiàn)實(shí)的。
不過在現(xiàn)實(shí)生活中,氣味可以解決的問題有很多,比如監(jiān)測行李中是否有爆炸品,空間內(nèi)是否存在有害氣體,以及農(nóng)業(yè)中能根據(jù)氣味判斷作物的成熟度。對此,英特爾的科學(xué)家們找到了另外一條思路——神經(jīng)擬態(tài)計(jì)算。
“我們試圖觀察、學(xué)習(xí)和理解大腦的運(yùn)行,并在計(jì)算機(jī)芯片上復(fù)制?!庇⑻貭柹窠?jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室主任Mike Davies說。
論文發(fā)布后,緊接著英特爾又推出了名為“Pohoiki Springs”的神經(jīng)擬態(tài)研究系統(tǒng),它集成了768塊Loihi芯片,可提供1億個神經(jīng)元的計(jì)算能力——這個數(shù)字比小型哺乳動物的腦容量還要大。
神經(jīng)擬態(tài)計(jì)算不同于傳統(tǒng)計(jì)算機(jī)架構(gòu),是一種基于傳統(tǒng)半導(dǎo)體工藝和芯片架構(gòu)的新型計(jì)算模式,它通過模擬人腦神經(jīng)元的構(gòu)造和神經(jīng)元之間互聯(lián)的機(jī)制,能夠在低功耗以及少量訓(xùn)練數(shù)據(jù)的條件下持續(xù)不斷自我學(xué)習(xí),大幅提高機(jī)器學(xué)習(xí)的能效比。
拿嗅覺來說,人在識別氣味時(shí),首先流入鼻腔的空氣會和鼻腔中的傳感細(xì)胞接觸,不同傳感細(xì)胞連接著下部不同的感知神經(jīng)元??茖W(xué)家在構(gòu)造“電子鼻”時(shí),會首先用化學(xué)傳感器或有機(jī)物傳感器來模擬這些傳感細(xì)胞對應(yīng)的空間分布,然后感知?dú)怏w流過傳感細(xì)胞的分子接觸,從而形成一個時(shí)間上的脈沖序列,這個過程和人類嗅覺系統(tǒng)的感知機(jī)理十分相似。
接下來就需要利用脈沖神經(jīng)網(wǎng)絡(luò)(SNN)模型去模擬大腦“識別”的過程。人類大腦認(rèn)知事物的過程,其實(shí)是大腦神經(jīng)網(wǎng)絡(luò)通過脈沖傳遞信息的過程——神經(jīng)元在鏈路上發(fā)送選擇性信號,這些信號由一系列脈沖編碼而成。因此,研究人員可根據(jù)信號的幅度、頻率、延遲等,模擬這種脈沖編碼方式,讓計(jì)算機(jī)“記住”一個物品、聲音或氣味,下一次遇到時(shí)便可以識別出來。如果你想進(jìn)一步提高識別的精確度,只需增加傳感器的種類便可。
而Loihi這樣的神經(jīng)擬態(tài)計(jì)算芯片,可以方便研究人員構(gòu)建一個包含時(shí)間和空間處理的模型,然后對數(shù)據(jù)模式做匹配,如此,僅需一個樣本的訓(xùn)練就能得到超過90%的高準(zhǔn)確率。而基于深度神經(jīng)網(wǎng)絡(luò)的識別之所以效率不及此,原因是其構(gòu)造的網(wǎng)絡(luò)很大,且分為很多層,其中每一層的小節(jié)點(diǎn)都有參數(shù),將少量數(shù)據(jù)輸入進(jìn)去后,這些數(shù)據(jù)很難引起深層參數(shù)的變化,因此會出現(xiàn)參數(shù)在多輪訓(xùn)練后依然不變的情況,工程師稱之為“收斂”。這樣的訓(xùn)練方式不僅需要大量數(shù)據(jù),功耗也相對較高。
為了進(jìn)一步降低功耗,硬件方面,Loihi還采用一種新穎的異步脈沖方式設(shè)計(jì),由多個獨(dú)立的時(shí)鐘驅(qū)動,根據(jù)應(yīng)用的需求,只讓需要工作的部分工作,其他部分處于待機(jī)狀態(tài)。
英特爾的研究人員認(rèn)為,神經(jīng)擬態(tài)是目前讓機(jī)器具備“嗅覺”的最佳路徑。“下一代AI即將進(jìn)入3.0時(shí)代,五六年前的2.0時(shí)代是靠統(tǒng)計(jì)式學(xué)習(xí)、數(shù)據(jù)庫命令的機(jī)器學(xué)習(xí),在視覺、語音和金融數(shù)據(jù)處理中已經(jīng)發(fā)揮重要作用,3.0時(shí)代需要AI能從更少量的數(shù)據(jù)中學(xué)習(xí),并且能夠適應(yīng)環(huán)境變化進(jìn)而自我演進(jìn),甚至能夠推理?!庇⑻貭栔袊芯吭涸洪L宋繼強(qiáng)告訴《第一財(cái)經(jīng)》雜志,他認(rèn)為神經(jīng)擬態(tài)芯片將會成為AI主流的架構(gòu)形態(tài),因?yàn)樗钦嬲邦惸X”的。目前除了英特爾,從事神經(jīng)擬態(tài)計(jì)算研究的還有IBM,以及一些實(shí)驗(yàn)室和初創(chuàng)公司。
而成為“通用架構(gòu)”的前提是,神經(jīng)擬態(tài)芯片需要更豐富的工具鏈,以便不同需求的開發(fā)者使用。“神經(jīng)擬態(tài)可以在低功耗下完成一些前端感知和持續(xù)學(xué)習(xí)的動作,如果放在云端,它會比CPU、GPU省電很多?!彼卫^強(qiáng)說。英特爾還創(chuàng)建了一個神經(jīng)擬態(tài)研究社區(qū)(INRC),目前成員已經(jīng)超過100人。
不過科學(xué)家們還需要解決兩個難題,一個是進(jìn)一步理解“大腦能夠?qū)崟r(shí)處理復(fù)雜信息的同時(shí)只消耗極少的能量”的高效工作機(jī)制,并把這些機(jī)制用到芯片中去。另一個是,為了獲得更高的性能,研究人員需要將神經(jīng)擬態(tài)計(jì)算芯片互聯(lián),以獲得線性的性能增長。
值得一提的是,神經(jīng)擬態(tài)技術(shù)的發(fā)展或許還可以助腦研究一臂之力。
“腦科學(xué)的頂尖專家目前對人腦的了解也很有限,人腦的研究速度不像摩爾定律,它是非常緩慢的?!彼卫^強(qiáng)解釋道。腦科學(xué)家可以借鑒用神經(jīng)擬態(tài)構(gòu)建的復(fù)雜工作模型,來研究腦神經(jīng)本身復(fù)雜的信息“激勵”機(jī)制。在器件方面,工程師對“憶阻器”等存儲計(jì)算器件的研發(fā),也可以側(cè)面模擬人腦的工作機(jī)理——畢竟計(jì)算機(jī)所具備的很多能力已經(jīng)遠(yuǎn)遠(yuǎn)超過人腦。目前全球已有多個關(guān)于腦科學(xué)、腦計(jì)算的跨學(xué)科研究中心。
科學(xué)家或許還可以利用神經(jīng)擬態(tài)技術(shù)來控制假肢,使其更好適應(yīng)行走中遇到的干擾。
英特爾稱,目前Loihi芯片并沒有確切的商業(yè)化進(jìn)程,它依然是一款研究測試芯片,下一步的重點(diǎn)方向是完善軟件工具鏈,并支撐“腦科學(xué)+IT”的合作研究。
當(dāng)被問及神經(jīng)擬態(tài)計(jì)算的殺手級應(yīng)用有可能是什么時(shí),宋繼強(qiáng)認(rèn)為,現(xiàn)在下具體判斷還為時(shí)過早?!坝袔讉€領(lǐng)域目前我們判斷是比較有希望的,比如嗅覺、行為識別,還有大規(guī)模的圖片搜索,這方面現(xiàn)在多是用高性能計(jì)算做,需要消耗很多計(jì)算資源,但神經(jīng)擬態(tài)計(jì)算可以并發(fā)地去測試?!彼硎荆嚓P(guān)芯片并不會取代現(xiàn)有的CPU、GPU和FPGA等芯片。
量子計(jì)算和神經(jīng)擬態(tài)計(jì)算,從學(xué)術(shù)研究成果轉(zhuǎn)換為商業(yè)應(yīng)用通常需要5年以上的時(shí)間。在這段時(shí)間里,不管是計(jì)算機(jī)技術(shù)還是腦科學(xué)研究,都有可能發(fā)生令人意想不到的事。