深度學(xué)習(xí)勇攻堅(jiān) 云霽初開(kāi)創(chuàng)新篇

蔡巧玉

原始性創(chuàng)新，是攀登學(xué)高峰的必由之路，更是一個(gè)艱難的突破過(guò)程。在中國(guó)學(xué)院計(jì)算技術(shù)研究所研究員陳云霽看來(lái)，原始性創(chuàng)新就是在研中充分發(fā)揮研究人員的學(xué)習(xí)能力、創(chuàng)造能力，去解決未知的學(xué)問(wèn)題。他從2008年決定開(kāi)展人工智能和芯片設(shè)計(jì)的交叉研究。最初不管是在國(guó)際還是國(guó)內(nèi)的研領(lǐng)域，都不太看好這一方向的前景。而正是在這一背景下，陳云霽決心帶領(lǐng)團(tuán)隊(duì)，探索這一少有人問(wèn)津的領(lǐng)域。

功夫不負(fù)有心人。在十幾年的研探索征途中，陳云霽帶領(lǐng)團(tuán)隊(duì)成功研制了國(guó)際上首個(gè)深度學(xué)習(xí)專(zhuān)用處理器芯片。2021年11月3日，其主持的“深度學(xué)習(xí)處理器體系結(jié)構(gòu)新范式”項(xiàng)目，獲得了2020年度國(guó)家自然學(xué)獎(jiǎng)二等獎(jiǎng)。在他和團(tuán)隊(duì)的努力下，現(xiàn)如今，深度學(xué)習(xí)處理器研究方向已成為當(dāng)前國(guó)際計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域最重要的研究熱點(diǎn)之一。

“天才”是怎樣煉成的

9歲上中學(xué)，14歲就讀于中國(guó)學(xué)技術(shù)大學(xué)少年班，24歲博士畢業(yè)于中國(guó)學(xué)院計(jì)算所，29歲起任中國(guó)學(xué)院計(jì)算技術(shù)研究所研究員（正教授）、博士生導(dǎo)師。陳云霽的履歷與成長(zhǎng)，都與他的家庭教育背景息息相關(guān)。陳云霽的父親是電力工程師，母親是歷史老師。從四五歲開(kāi)始，陳云霽就接觸到了詩(shī)文知識(shí)，對(duì)語(yǔ)文、數(shù)學(xué)等目的學(xué)習(xí)也有涉及。這些因素給他此后的學(xué)習(xí)、工作奠定了基礎(chǔ)。

然而，在成長(zhǎng)過(guò)程中，陳云霽也曾迷失過(guò)方向。他直言，自己剛上大學(xué)的時(shí)候，因?yàn)槟昙o(jì)很小，所以自制力不是很好，也沒(méi)有完全適應(yīng)大學(xué)的環(huán)境。這一階段，陳云霽癡迷上了打游戲，是因?yàn)橛嘘悋?guó)良院士等恩師的指引，他才慢慢從迷途中知返，并從興趣中找到了自己未來(lái)的方向。

1931年，愛(ài)因斯坦曾在美國(guó)紐約州立大學(xué)的演講《論教育》中說(shuō)“教育是如果學(xué)校的知識(shí)都忘光之后剩下的東西”。陳云霽十分同意這一觀(guān)點(diǎn)，在他看來(lái)學(xué)校教育的重點(diǎn)，是為了培養(yǎng)一個(gè)和諧的人格，一個(gè)有激情、有創(chuàng)意、能獨(dú)立思考和判斷的人格。而一個(gè)人價(jià)值觀(guān)的形成，越小的時(shí)候影響便是越大的。在陳云霽看來(lái)，能夠早一點(diǎn)去上大學(xué)，更早地接受學(xué)精神和人文精神的洗禮，是十分寶貴的體驗(yàn)。“導(dǎo)師們對(duì)于學(xué)的態(tài)度和精神對(duì)我的影響是非常大的，從某種程度上來(lái)說(shuō)，已經(jīng)深深刻在了我的靈魂里面?！彼f(shuō)。

本畢業(yè)后，陳云霽聽(tīng)在中國(guó)學(xué)院計(jì)算技術(shù)研究所實(shí)習(xí)的同學(xué)說(shuō)那里正在研制中國(guó)第一塊通用CPU芯片龍芯1號(hào)，聽(tīng)聞這一消息，他激動(dòng)萬(wàn)分。陳云霽深知，在當(dāng)時(shí)中國(guó)計(jì)算機(jī)領(lǐng)域的發(fā)展背景下，開(kāi)展這項(xiàng)工作需要決心，更需要勇氣，而他十分愿意投身到這一研究中。在心愿的驅(qū)使下，2002年，他通過(guò)不懈努力如愿以?xún)攣?lái)到了中國(guó)學(xué)院計(jì)算技術(shù)研究所，跟隨胡偉武研究員碩博連讀，成為當(dāng)時(shí)龍芯研發(fā)團(tuán)隊(duì)中最年輕的成員。博士畢業(yè)后，他留在了計(jì)算所。25歲時(shí)，陳云霽就已經(jīng)成為8核龍芯3號(hào)的主要架構(gòu)師。在“龍芯”系列的研發(fā)工作中，陳云霽不但提升了個(gè)人能力，還磨礪了意志品質(zhì)，這一切都為他今后研工作的開(kāi)展奠定了堅(jiān)實(shí)的基礎(chǔ)。

深度學(xué)習(xí)處理器的“開(kāi)拓者”

研之路無(wú)疑是孤獨(dú)的。最開(kāi)始從事人工智能和芯片設(shè)計(jì)交叉研究的時(shí)候，陳云霽也不止一次地問(wèn)自己，為什么要做這樣的研究。面對(duì)前路的未知，他最終還是選擇堅(jiān)定自己的內(nèi)心。在他看來(lái)，很多原始創(chuàng)新做出來(lái)之前，相關(guān)方向一定是不被大家認(rèn)可的。“那時(shí)候我們還是憑著一個(gè)學(xué)術(shù)的信念，相信這樣的交叉研究是一個(gè)有意義的方向，即便其沒(méi)有什么功利意義上的價(jià)值，我們還是希望能把這項(xiàng)研究給堅(jiān)持下來(lái)?！标愒旗V說(shuō)。

起初，陳云霽主要憑借著自己對(duì)這一課題的理解孤軍奮戰(zhàn)，直到2008年，弟弟陳天石來(lái)到了北京實(shí)習(xí)。就這樣陳云霽開(kāi)始與在人工智能算法方面有著豐富經(jīng)驗(yàn)的陳天石開(kāi)展合作，兄弟兩個(gè)一個(gè)人推算法，一個(gè)人推結(jié)構(gòu)，經(jīng)過(guò)幾年的潛心研究，最終在相關(guān)領(lǐng)域取得了一系列進(jìn)展。

2014年，在美國(guó)鹽湖城召開(kāi)的“計(jì)算機(jī)國(guó)際體系結(jié)構(gòu)支持、編程語(yǔ)言和操作系統(tǒng)”（ASPLOS）國(guó)際會(huì)議上，陳云霽團(tuán)隊(duì)與法國(guó)國(guó)家信息與自動(dòng)化研究所（INRIA）的奧利維爾·特姆（Olivier?Temam）合作發(fā)表了一篇題為“DianNao：一種小尺度的高吞吐率機(jī)器學(xué)習(xí)加速器”的論文受到了全世界的關(guān)注，這篇論文最終獲得了會(huì)議的最佳論文獎(jiǎng)。這次會(huì)議之后，深度學(xué)習(xí)處理器開(kāi)始被全世界所關(guān)注。

此后，陳氏兄弟帶領(lǐng)的團(tuán)隊(duì)再獲新進(jìn)展，他們成功研發(fā)出世界首款深度學(xué)習(xí)處理器原型芯片。

2018年，陳云霽團(tuán)隊(duì)的研究成果被《學(xué)》（Science）雜志刊文評(píng)價(jià)為深度學(xué)習(xí)處理器基礎(chǔ)研究的“開(kāi)創(chuàng)性進(jìn)展”、“先驅(qū)”和“引領(lǐng)者”，被圖靈獎(jiǎng)得主、深度學(xué)習(xí)開(kāi)創(chuàng)者之一——尤舒·本吉奧（Y.?Bengio）編著的教書(shū)引用。成果推動(dòng)深度學(xué)習(xí)處理器體系結(jié)構(gòu)方向從無(wú)到有，成為當(dāng)前國(guó)際計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域最重要的基礎(chǔ)研究熱點(diǎn)之一。

值得一提的是，成果發(fā)布后，全球五大洲、30個(gè)國(guó)家/地區(qū)的200余家高校、企業(yè)及研究機(jī)構(gòu)（哈佛、斯坦福、麻省理工、谷歌、英偉達(dá)等），以及2位圖靈獎(jiǎng)得主、10位中國(guó)和美國(guó)的院士、120余位ACM/IEEE會(huì)士先后跟蹤引用了項(xiàng)目成果。包括華為、三星、臺(tái)積電等企業(yè)，也在廣泛引用陳云霽團(tuán)隊(duì)的論文，參考他們的學(xué)發(fā)現(xiàn)去研究怎樣為深度學(xué)習(xí)設(shè)計(jì)芯片。

在研究成果的支撐下，陳云霽與陳天石、杜子?xùn)|、孫凝暉、郭崎合作研究的研項(xiàng)目“深度學(xué)習(xí)處理器體系結(jié)構(gòu)新范式”成功榮獲2020年度國(guó)家自然學(xué)獎(jiǎng)二等獎(jiǎng)，這也是我國(guó)歷史上處理器芯片領(lǐng)域獲得的唯一的國(guó)家自然學(xué)獎(jiǎng)。

教研有道勤探索

以興趣為馬，以心為驅(qū)使。在陳云霽的心中，學(xué)研究從不是自己養(yǎng)家糊口的工具，而是興趣，是理想，是驅(qū)使自己向前的動(dòng)力。從5歲開(kāi)始讀書(shū)，如今三十載有余，陳云霽對(duì)學(xué)習(xí)、對(duì)學(xué)也有著屬于自己的感悟。教師家庭出身，他從小耳濡目染，雖然現(xiàn)如今并沒(méi)有繁重的教學(xué)任務(wù)，但是陳云霽希望以自己的學(xué)習(xí)經(jīng)歷為鑒，為國(guó)家培養(yǎng)更多的掌握系統(tǒng)性思維的研、工程人才。在這一目標(biāo)的驅(qū)使下，他帶領(lǐng)團(tuán)隊(duì)一起開(kāi)發(fā)了“智能計(jì)算系統(tǒng)”課程，這是國(guó)際上首門(mén)系統(tǒng)講授當(dāng)前機(jī)器學(xué)習(xí)系統(tǒng)完整軟硬件技術(shù)棧的課程。

在陳云霽看來(lái)，傳統(tǒng)的教學(xué)機(jī)制是一個(gè)缺乏獎(jiǎng)勵(lì)、缺乏反饋的過(guò)程，以至于很多人明明知道學(xué)習(xí)的重要性，但仍提不起精神來(lái)投身其中。作為曾經(jīng)的游戲熱衷者，陳云霽深知：很多學(xué)生沉迷于網(wǎng)絡(luò)游戲的原因，與其及時(shí)的獎(jiǎng)勵(lì)機(jī)制有著莫大的聯(lián)系。而如果學(xué)習(xí)也能夠效仿相關(guān)的獎(jiǎng)勵(lì)機(jī)制，給予學(xué)生及時(shí)的反饋，加深學(xué)生的學(xué)習(xí)成就感，可能就會(huì)無(wú)形中提升學(xué)生的學(xué)習(xí)熱情。

在這一理念的影響下，陳云霽一直嘗試在自己上課的過(guò)程中變革舊有的教學(xué)模式，在實(shí)驗(yàn)教學(xué)過(guò)程中，把課程實(shí)驗(yàn)設(shè)計(jì)成了一個(gè)提供稠密、即時(shí)、體系化獎(jiǎng)勵(lì)的小程序游戲“太空開(kāi)發(fā)者”。在這門(mén)實(shí)驗(yàn)課中，學(xué)生可以邊做實(shí)驗(yàn)邊玩游戲，自主完成智能計(jì)算系統(tǒng)全棧工程師的學(xué)習(xí)之旅。

在傳統(tǒng)的實(shí)驗(yàn)教學(xué)中，學(xué)生的實(shí)驗(yàn)結(jié)果需要助教來(lái)評(píng)估，要在數(shù)天后才能得到反饋，此時(shí)學(xué)生已經(jīng)脫離了實(shí)驗(yàn)完成的興奮狀態(tài)。與之不同的是，陳云霽在課程中采用了一套自動(dòng)智能評(píng)測(cè)系統(tǒng)，學(xué)生在提交實(shí)驗(yàn)時(shí)可以即時(shí)獲得實(shí)驗(yàn)分?jǐn)?shù)，并在截止日期前可以多次提交成績(jī)實(shí)現(xiàn)突破，游戲系統(tǒng)可以根據(jù)學(xué)生的實(shí)驗(yàn)分?jǐn)?shù)實(shí)時(shí)刷新“技點(diǎn)”。如果實(shí)驗(yàn)做得好，學(xué)生可以即時(shí)獲得正向獎(jiǎng)勵(lì)?，F(xiàn)如今，這門(mén)智能計(jì)算系統(tǒng)課程已經(jīng)在中國(guó)學(xué)院大學(xué)、北京大學(xué)等全國(guó)80多所高校進(jìn)行了推廣，通過(guò)實(shí)行，陳云霽發(fā)現(xiàn)：學(xué)生的學(xué)習(xí)積極性有了明顯提高。

師者，傳道受業(yè)解惑者也?！懊總€(gè)人的生活都需要有一定的價(jià)值，尤其是對(duì)學(xué)院的青年工作者來(lái)說(shuō)，如果能找到自己的使命，是一件非常幸運(yùn)的事情?！标愒旗V這樣勉勵(lì)后輩。一直以來(lái)，陳云霽從不缺乏勇氣及冒險(xiǎn)精神。他直言，現(xiàn)如今研探索最艱難的那段時(shí)間已經(jīng)過(guò)去了，未來(lái)的方向也愈加明朗了起來(lái)。展望未來(lái)，陳云霽深知：現(xiàn)在遠(yuǎn)不是能停下來(lái)的時(shí)候。

（責(zé)編：張聞）511B2711-5D9E-4DE8-8847-0D041E675527