淺評(píng)《新一代人工智能十問十答》

李向陽(yáng)，吳鋒

（中國(guó)科學(xué)技術(shù)大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,安徽 合肥 230026）

新一代人工智能是我國(guó)近期的一項(xiàng)重大發(fā)展戰(zhàn)略，影響深遠(yuǎn)。2021 年李德毅院士[1]，圍繞新一代人工智能的技術(shù)內(nèi)核，做出了富有理論深度和實(shí)踐指導(dǎo)意義的論斷。本著“真理越辯越明”的原則，筆者根據(jù)個(gè)人對(duì)這一問題的理解和思考，圍繞李院士的“十問十答”的某些論點(diǎn)做一個(gè)簡(jiǎn)單的評(píng)述。

一問：意識(shí)、智慧和智能是什么關(guān)系？新一代人工智能觸不觸及意識(shí)？

李院士認(rèn)為：意識(shí)是一種感覺，是對(duì)自身存在的感知。而要想感知到“我”這個(gè)本體的存在，首先需要具備知覺意識(shí)，要能夠從邊界上區(qū)分出“我”和“非我”。對(duì)于生物來(lái)說，這一邊界就是皮膚，制造真正意義的皮膚還有很長(zhǎng)的路要走。

意識(shí)確實(shí)需要一個(gè)邊界，而作為這個(gè)邊界的“皮膚”則可以是一種抽象的存在。例如，一個(gè)房間內(nèi)裝備了能感知溫度、濕度、含氧量、粉塵密度等信息的傳感器。如果只能單純地獲取這些信息，那當(dāng)然談不上有意識(shí)。但如果能夠綜合這些信息，獲得對(duì)生活在房間內(nèi)人的舒適度的評(píng)估，那這是不是在某種意義上可以稱為一種意識(shí)呢？如果這個(gè)房間還能夠根據(jù)這個(gè)信息，自動(dòng)開啟空調(diào)、加濕器、制氧機(jī)、空氣凈化器等，讓房間一直保持對(duì)人的最佳舒適度，這可不可以稱為有智能呢？在這里，這些傳感器能感知的范圍就是它的邊界。

意識(shí)（consciousness）不僅要有“感”，更重要的是能“覺”，也就是要能根據(jù)感知到的信息，提取出與自身相關(guān)的隱含信息。意識(shí)通常包括環(huán)境意識(shí)，例如安全意識(shí)、危機(jī)意識(shí)，可以看作是對(duì)個(gè)體生存環(huán)境的評(píng)估；如果個(gè)體是群體的一部分，那還包括群體意識(shí)，例如團(tuán)隊(duì)意識(shí)，可以看作是個(gè)體對(duì)其他個(gè)體影響的評(píng)估。事實(shí)上，早在笛卡爾的時(shí)代，人們就認(rèn)為意識(shí)是感官在大腦中的投射，是思維的一個(gè)重要組成部分（如圖1 所示）。時(shí)至今日，雖然我們可以用精密儀器監(jiān)測(cè)大腦的活動(dòng)，但依然沒有弄清楚大腦是如何綜合各種感官信息形成完整的意識(shí)。

圖1 笛卡爾的思維二元論Fig.1 Descartes’ dualism of thought

因此，雖然如李院士所說意識(shí)和智能是可以分離的，但意識(shí)是思維的一個(gè)重要過程，是智能的一項(xiàng)前提。計(jì)算機(jī)雖然有計(jì)算智能但沒有意識(shí)，是因?yàn)槭褂糜?jì)算機(jī)的人補(bǔ)上了意識(shí)的空缺，二者構(gòu)成了一個(gè)智慧的整體。新一代人工智能如果需要更多的自動(dòng)化，就必然會(huì)觸及意識(shí)，至少是狹義的意識(shí)。

高等生物的生理本能是自然選擇的結(jié)果，確實(shí)不在當(dāng)前人工智能的研究范疇。因?yàn)槿斯ぶ悄艿膶?duì)象面臨的是人類的選擇，而不是自然的選擇。例如，金魚的體態(tài)對(duì)游泳、覓食不利，但得到了人們的喜愛，一樣能夠生存和繁衍。

生物的情感基礎(chǔ)是體內(nèi)激素大幅度波動(dòng)的結(jié)果，例如：多巴胺的大量分泌會(huì)讓人產(chǎn)生愉悅，腎上腺激素的飆升會(huì)讓人情緒激動(dòng)?，F(xiàn)代醫(yī)學(xué)通過藥物或?qū)Υ竽X相對(duì)部位的刺激同樣能產(chǎn)生相應(yīng)的情感。激烈的情感能讓人體的各項(xiàng)性能短時(shí)間內(nèi)飆升，對(duì)于應(yīng)對(duì)緊急情況有利。但它同時(shí)也是一柄雙刃劍，可能造成過度消耗（類似CPU 的超頻）或者歇斯底里的應(yīng)激反應(yīng)。對(duì)于智能體是否真的需要這種大幅度的波動(dòng)還存在爭(zhēng)議。

情感機(jī)器人的外顯情感，更多是一種與外界交流的方式，不涉及內(nèi)在的情感波動(dòng)。

二問：如何理解通用智能？通用智能一定是強(qiáng)智能嗎？新一代人工智能既要通用又要強(qiáng)智能，通用和強(qiáng)是什么關(guān)系？

李院士認(rèn)為：通用智能是跨領(lǐng)域的一般性智能。如果說強(qiáng)人工智能追求的是智能縱向的深度，新一代人工智能追求的恰恰是智能橫向的寬度。縱向智能、橫向智能都沒有盡頭。

在這里，是不是可以理解為強(qiáng)智能就是要比人做得更好，通用智能就是要和人一樣能夠完成多種任務(wù)？AlphaGo 能夠戰(zhàn)勝人類圍棋世界冠軍[2]，在圍棋上比人做得更好，是不是就可以認(rèn)為是圍棋任務(wù)上的強(qiáng)智能了？或許還有很多人不這么認(rèn)為，因?yàn)锳lphaGo 需要百萬(wàn)棋局的訓(xùn)練，而人只需要很少的棋局。但是AlphaGo 可以利用專門的硬件將百萬(wàn)棋局的訓(xùn)練壓縮在很短的時(shí)間內(nèi)完成，這是人做不到的。如果不以結(jié)果作為智能強(qiáng)弱的評(píng)判，而要將智能的實(shí)現(xiàn)途徑拉到和人類似，做到“類人”，這可能沒有太大的意義。我們不能說飛機(jī)的飛就不是飛，而鳥類的飛才是飛；飛機(jī)的飛行能力就不能叫強(qiáng)，一定要“類鳥”的飛行能力才可以。所有能夠超越人類的智能都值得研究，都可能造福人類。

誠(chéng)如李院士所言，通用智能的“通用”其實(shí)也是相對(duì)而言的，有一定范圍的。人也不是什么都能做，隨著社會(huì)分工的進(jìn)一步精細(xì)化，人也朝著特化、專才的方向發(fā)展。從生產(chǎn)效率的角度，通用的機(jī)器永遠(yuǎn)比不上特化的專用機(jī)器。研究通用智能的價(jià)值可能還不僅僅局限于希望一臺(tái)機(jī)器能夠完成多項(xiàng)任務(wù)，更大的價(jià)值可能還在于希望了解智能的本質(zhì)，就像古生物學(xué)家希望了解生命的起源一樣。通過對(duì)智能本質(zhì)的探究，解決目前無(wú)法解決的問題。

計(jì)算機(jī)是人類有史以來(lái)創(chuàng)造的最通用的工具。它的通用性本質(zhì)上來(lái)源于圖靈機(jī)[3]，一種“萬(wàn)能”（universal）的計(jì)算機(jī)器。它可以同時(shí)用來(lái)計(jì)算、編輯和通信，這是算盤、打字機(jī)和電話所不具備的?！叭藷o(wú)爪牙之利、筋骨之強(qiáng)”，卻能站在生物鏈的最頂端，憑借的是人類的智能。人類智能和動(dòng)物智能最大的區(qū)別在于人類的智能更加的“通用”。這背后的原理是什么，著實(shí)讓人著迷。

因此，通用智能不一定是強(qiáng)智能，反之亦然。我們真正需要的其實(shí)是強(qiáng)智能，但通過研究通用智能可能有機(jī)會(huì)一窺智能的本質(zhì)，從而創(chuàng)造出現(xiàn)在沒有的、新的強(qiáng)智能工具。這好比能夠有能在天上飛、地上跑、水面游的通用交通工具固然好，但是我們需要的或許是飛的最快的飛機(jī)、跑的最快的汽車和游的最快的船。

強(qiáng)智能或許與人類智能相去甚遠(yuǎn)，不足以提供對(duì)智能的深度理解，但它卻能更好地解決問題。通用智能或許沒有想象中那么來(lái)的有“用”，事實(shí)上如果需要更多擁有人類智能的個(gè)體，提高社會(huì)生育率或許更為現(xiàn)實(shí)。但對(duì)它的研究卻能夠讓我們深入地了解智能的本質(zhì)，拓展我們創(chuàng)造更強(qiáng)智能的可能。對(duì)于新一代人工智能研究來(lái)說二者同樣意義重大。

三問：目前幾乎所有人工智能都是在計(jì)算機(jī)上表現(xiàn)出來(lái)的計(jì)算機(jī)應(yīng)用，即“計(jì)算機(jī)智能”。如何在物理裝置上實(shí)現(xiàn)超出計(jì)算機(jī)智能的、受腦科學(xué)和認(rèn)知科學(xué)啟發(fā)的新一代人工智能？

李院士認(rèn)為：需要強(qiáng)調(diào)“介觀類腦”，即在大規(guī)模神經(jīng)元群組和網(wǎng)絡(luò)水平上模擬腦認(rèn)知網(wǎng)絡(luò)；同時(shí)沒有感知不會(huì)有認(rèn)知，腦和外界環(huán)境不停地交互，和外部客體之間一直存在著認(rèn)知對(duì)應(yīng)關(guān)系。

無(wú)需從分子水平討論“類腦”智能，這應(yīng)該是大多數(shù)人的共識(shí)。但如何從神經(jīng)元水平模擬腦認(rèn)知網(wǎng)絡(luò)，目前雖然取得了一些進(jìn)展，但總體還沒有太好的途徑。通過電子電路等物理裝置實(shí)現(xiàn)腦神經(jīng)網(wǎng)絡(luò)，最大的問題可能還在于它不像神經(jīng)網(wǎng)絡(luò)一樣具有高度的可塑性。剛出生嬰兒的大腦和受過高等教育的成年人的大腦，在腦神經(jīng)的連接結(jié)構(gòu)上應(yīng)有較大的差別。人不斷學(xué)習(xí)的過程同時(shí)也是不斷重塑“腦回路”的過程。物理裝置雖然也能模擬腦神經(jīng)網(wǎng)絡(luò)，但還不能真正像腦神經(jīng)一樣根據(jù)外界的反饋，自動(dòng)地調(diào)整和重塑神經(jīng)的連接。歸根結(jié)底，目前對(duì)腦神經(jīng)網(wǎng)絡(luò)的調(diào)整機(jī)制還缺乏充分的認(rèn)知，同時(shí)也缺乏合適的物理裝置能夠模擬這一過程。這需要多學(xué)科交叉的共同努力。

一些古人類學(xué)的研究表明，由于環(huán)境的巨變，早期的類人猿被迫從樹上來(lái)到平坦的草原上生活。適應(yīng)了樹棲生活的類人猿，很難在相對(duì)較短的時(shí)間內(nèi)進(jìn)化出適應(yīng)地面上生活的身體結(jié)構(gòu)（如尖利的爪牙、快速的奔跑等）。相對(duì)于漫長(zhǎng)的身體進(jìn)化，大腦是唯一能在短時(shí)間內(nèi)進(jìn)行調(diào)整從而快速適應(yīng)環(huán)境的身體器官。從某種意義上說，人類智能的產(chǎn)生也是殘酷自然選擇的結(jié)果。不同于基因?qū)用娴倪M(jìn)化，大腦的改變是不可遺傳的。因此，人類發(fā)展產(chǎn)生了教育?學(xué)習(xí)的傳承機(jī)制，生存技能和知識(shí)得以代代相傳。

由此可見，環(huán)境的刺激對(duì)于人類智能的產(chǎn)生起著非常關(guān)鍵的作用?；蛟S類腦智能本身就是不可存儲(chǔ)、不可轉(zhuǎn)移的，而是在特定的裝置（如大腦）上，由于環(huán)境的刺激而激發(fā)出的一種能力。因此，類腦智能的研究不能夠僅僅局限于模擬腦的結(jié)構(gòu)，還需要研究對(duì)腦的刺激方式，以及接受刺激后腦結(jié)構(gòu)的調(diào)整方式。只有明白這些行為背后的復(fù)雜機(jī)理，才有可能發(fā)展出真正的“類腦智能”。

四問：機(jī)器人不會(huì)有七情六欲，學(xué)習(xí)的原動(dòng)力來(lái)自何處？如果沒有接受教育的自覺性，新一代人工智能如何具有學(xué)習(xí)的動(dòng)機(jī)？

李院士認(rèn)為：可人工賦予機(jī)器企圖和任務(wù)目標(biāo)，讓機(jī)器在交互的過程中，提出自己的問題，依據(jù)任務(wù)目標(biāo)，分解并確定具體的學(xué)習(xí)目標(biāo)，也就有了學(xué)習(xí)的驅(qū)動(dòng)力，學(xué)習(xí)欲望強(qiáng)，主動(dòng)性就強(qiáng)。

人的七情六欲歸根結(jié)底來(lái)源于生物生存和繁衍的本能，這是自然選擇的結(jié)果。在人類社會(huì)中，有人過早地選擇結(jié)束自己的生命，有人決定終身不要子嗣，這些是人的大腦根據(jù)某些現(xiàn)實(shí)因素做出的決策?？梢娚锏谋灸懿⒉皇怯蛇z傳物質(zhì)“鐫刻”在負(fù)責(zé)理性思維的大腦中，而是由身體的其他器官影響大腦的結(jié)果。例如：對(duì)食物和異性的渴望，這些都不是由理性思維激發(fā)。相反，理性思維還可以根據(jù)情境對(duì)這些本能產(chǎn)生抑制作用，控制本能的沖動(dòng)。

因此，對(duì)于人來(lái)說，學(xué)習(xí)的原動(dòng)力（本能）可能主要來(lái)源于腦外（身體）的刺激，而不一定是大腦內(nèi)部理性思維的結(jié)果。對(duì)于遠(yuǎn)古的人來(lái)說，多學(xué)習(xí)一份技能，就多了一些生存的概率。一些缺乏學(xué)習(xí)動(dòng)力的個(gè)體可能在殘酷的自然選擇中被淘汰了，而延續(xù)下來(lái)的都是能夠?qū)W(xué)習(xí)產(chǎn)生正反饋的個(gè)體。再比如單細(xì)胞生物沒有神經(jīng)系統(tǒng)，但它依然能夠“學(xué)會(huì)”獲取食物，只不過它的學(xué)習(xí)過程依賴于基因的遺傳和變異來(lái)實(shí)現(xiàn)。

如果生物學(xué)習(xí)的原動(dòng)力來(lái)自自然的選擇，那么機(jī)器人學(xué)習(xí)的原動(dòng)力就是來(lái)自創(chuàng)造者（人）的選擇。

事實(shí)上，機(jī)器人如何更好地利用外界的反饋來(lái)學(xué)習(xí)一直是強(qiáng)化學(xué)習(xí)[4]研究的目標(biāo)。在強(qiáng)化學(xué)習(xí)中，如果獎(jiǎng)懲機(jī)制合適，機(jī)器人一旦開始學(xué)習(xí)就會(huì)持續(xù)不斷直到收斂。事實(shí)上，生物也可以通過類似的機(jī)制學(xué)習(xí)。例如：通過人為控制小鼠大腦的多巴胺分泌，可以讓小鼠學(xué)會(huì)新的技能，如圖2 所示[5]。目前強(qiáng)化學(xué)習(xí)和人類的學(xué)習(xí)還有巨大的差別，關(guān)鍵問題之一在于如何制定合適的獎(jiǎng)懲機(jī)制，這或許還有很長(zhǎng)的路要走。就像不同的教育體系培養(yǎng)出來(lái)的人才，在能力方面也有較大的差別，不同民族對(duì)教育的重視程度也不盡相同。如何為機(jī)器人制定合適的教育體系（如獎(jiǎng)懲機(jī)制），讓機(jī)器人“自覺”地偏好學(xué)習(xí)，是新一代人工智能需要認(rèn)真研究的課題。

圖2 人為控制小鼠大腦的獎(jiǎng)懲機(jī)制Fig.2 Reward and punishment mechanisms in artificially controlled mouse brains

五問：人的偏好和注意力選擇是如何產(chǎn)生的？新一代人工智能如何體現(xiàn)這一點(diǎn)？

李院士認(rèn)為：人的注意力選擇源于記憶，源于記憶的偏好依附性。記憶網(wǎng)絡(luò)以及記憶的多索引并行機(jī)制很重要，注意的選擇性法則是：先檢索典型情境提取記憶，后選擇規(guī)則推理計(jì)算求解。

人的注意力產(chǎn)生有可能源于資源的受限。比如人眼只能聚焦于前方大概巴掌大的區(qū)域，所以眼球需要不斷地調(diào)整焦點(diǎn)，而蜻蜓的復(fù)眼就可以同時(shí)關(guān)注大片的區(qū)域，這是感知器官的不同造成的。雖然大腦的功耗比起滾燙的CPU 來(lái)說已經(jīng)低很多，但相較于身體的其他器官依然是絕對(duì)的耗能大戶。所以才有了注意力之說，一段時(shí)間一片專門的腦區(qū)激活，專注處理一件事情。而且注意力集中的持續(xù)時(shí)間也是有限的，一段時(shí)間后資源消耗過度就容易精神渙散。一些藥物或者酒精也容易讓人難以集中注意力?？梢姡⒁饬?duì)于大腦來(lái)說是一種資源調(diào)度的過程，集中最多的資源解決最要緊的事情。什么才是最要緊的事情，這源于大腦的判斷。大腦會(huì)綜合當(dāng)前的信息和過往的記憶做出最佳的判斷。

人的偏好組成就更為復(fù)雜。部分源于身體當(dāng)下的需求，例如饑餓的時(shí)候食物會(huì)變得更美味，缺乏部分元素是會(huì)更加偏愛富含這部分元素的食物。部分源于大腦中的記憶，例如動(dòng)物的各種警戒色會(huì)讓有相關(guān)經(jīng)驗(yàn)的捕食者望而卻步。還有一部分源于對(duì)新刺激的本能反應(yīng)，例如對(duì)新事物的偏好等。

新一代人工智能作為人類的工具是否需要自身的偏好，這個(gè)值得商榷。例如：機(jī)器學(xué)習(xí)的一個(gè)重要研究方向[6]就是防止因?yàn)橛?xùn)練數(shù)據(jù)而對(duì)結(jié)果產(chǎn)生不必要的偏好，做到公平公正。但它必須能夠理解人的偏好，并更好地提供服務(wù)。

新一代人工智能是否需要注意力在于它并行處理多項(xiàng)事物的能力以及分工方式，也就是說，和我們具體實(shí)現(xiàn)智能的方式存在直接的關(guān)系。例如：神經(jīng)網(wǎng)絡(luò)遍及全身的水母，能夠?qū)χ苓叺拇碳ね降刈龀龇磻?yīng)。越高等的智能，對(duì)資源的消耗就越大，各部分的分工也就越細(xì)致，需要注意力機(jī)制進(jìn)行調(diào)度。例如：人腦就是由不同的分區(qū)組成（如圖3），每個(gè)分區(qū)負(fù)責(zé)不同的功能，在進(jìn)行相應(yīng)活動(dòng)時(shí)被激活。

圖3 人類大腦的功能分區(qū)Fig.3 Functional divisions of the human brain

六問：人類思維的載體是自然語(yǔ)言，自然語(yǔ)言開放性很強(qiáng)，通用計(jì)算機(jī)是基于圖靈機(jī)模型，屬于封閉的有限狀態(tài)空間，根據(jù)哥德爾不完備定理，數(shù)學(xué)自身難以完全自洽。因此，人工智能怎么可以反過來(lái)要用計(jì)算機(jī)語(yǔ)言或者數(shù)學(xué)語(yǔ)言去形式化人類的自然語(yǔ)言呢？

李院士認(rèn)為：機(jī)器是否有語(yǔ)言智能，還要看它有沒有接受語(yǔ)言和文字的交互、學(xué)習(xí)和進(jìn)化能力。新一代人工智能是用人類的自然語(yǔ)言表述的，因此是開放的、不完全的，允許精確性和復(fù)雜性相容，允許不同思想兼容并包。

人類的自然語(yǔ)言最基礎(chǔ)的功能還是實(shí)現(xiàn)不同個(gè)體間的交流。例如：動(dòng)物可以通過聲音來(lái)求偶或警戒，越是群居的動(dòng)物交流的方式越復(fù)雜。早期人類在面對(duì)殘酷的自然選擇時(shí)，依靠的是群體的力量來(lái)狩獵或抵御危險(xiǎn)。在這一過程中，自然語(yǔ)言的產(chǎn)生具有很大的歷史偶然性，是集體創(chuàng)作的結(jié)果。

相比較而言，數(shù)學(xué)語(yǔ)言和計(jì)算機(jī)語(yǔ)言的創(chuàng)造過程要直接得多，因此也更加簡(jiǎn)單和自恰。例如：編程語(yǔ)言，就是為了方便人和計(jì)算機(jī)之間的交互而設(shè)計(jì)的；網(wǎng)絡(luò)協(xié)議，就是為了方便計(jì)算機(jī)和計(jì)算機(jī)之間的交互。因?yàn)閰⑴c者都有計(jì)算機(jī)，因此必須是計(jì)算機(jī)能夠準(zhǔn)確無(wú)誤解析和執(zhí)行的，是具有圖靈完備性的精確描述語(yǔ)言。如果沒有人參與其中，使用自然語(yǔ)言可能是沒有必要的。比如：脫離人類社會(huì)由動(dòng)物撫養(yǎng)長(zhǎng)大的“狼孩”，不懂人的語(yǔ)言，但很難說他完全就沒有人類的智能。

讓計(jì)算機(jī)去解析和處理人類的自然語(yǔ)言，更多的是由人工智能的工具屬性決定的。目前的人工智能都是計(jì)算機(jī)實(shí)現(xiàn)的，而人日常中更多的是使用自然語(yǔ)言。從語(yǔ)法層面上，二者之間自然存在巨大的差別。但這都不是最困難的，最困難的是在語(yǔ)義方面的差別。目前，存在某些自然語(yǔ)言的語(yǔ)義是計(jì)算機(jī)語(yǔ)言或者數(shù)學(xué)語(yǔ)言所不能表示和處理的。對(duì)這部分語(yǔ)義的研究，能夠加深我們對(duì)自然語(yǔ)言的理解。

事實(shí)上，操不同語(yǔ)言的人之間，也沒有辦法完全無(wú)障礙地交流。我通常將這理解為文化上的差異。文化的確塑造了不同的語(yǔ)言習(xí)慣，但語(yǔ)言反過來(lái)也會(huì)影響文化。例如：印度某地方言中缺少關(guān)于昨天的直接表述，是不是就代表這一地方的人更看重當(dāng)下？不同文化熏陶下的人和人之間尚且有溝通障礙，讓計(jì)算機(jī)理解厚重的人類文化自然任重道遠(yuǎn)。

在人類之初，由于智力的增長(zhǎng)，我們創(chuàng)造并能使用復(fù)雜的自然語(yǔ)言。自然語(yǔ)言的使用使得知識(shí)能夠方便地在個(gè)體之間、上一代和下一代之間傳遞。但這或許只是因?yàn)槿祟愂芟抻谙忍斓母泄伲攀褂昧诉@種并不高效、不精確的方式。如果人和人之間能夠用其他方式（如腦電波）交流，結(jié)果是不是就會(huì)完全不一樣？例如：在蟻群中，通過信息素的交流同樣能夠?qū)崿F(xiàn)相對(duì)復(fù)雜的行為。這些問題背后很可能藏著智能的本質(zhì)，值得我們進(jìn)一步探究。

七問：如何體現(xiàn)新一代人工智能與時(shí)俱進(jìn)的學(xué)習(xí)能力？

李院士認(rèn)為：新一代人工智能也必須具有像人一樣的學(xué)習(xí)和交互認(rèn)知的環(huán)境才能習(xí)得知識(shí)，而不是傳統(tǒng)人工智能那樣一次性設(shè)計(jì)而成，也不是帶著特殊預(yù)設(shè)目的，向機(jī)器強(qiáng)制地集中性注入一個(gè)或者多個(gè)專門領(lǐng)域的計(jì)算智能。

這其實(shí)涉及到了人工智能一個(gè)最基礎(chǔ)的問題：智能是否能夠被記錄、存儲(chǔ)和傳遞。自然界中聲音可以、圖像也可以，甚至生物個(gè)體通過遺傳物質(zhì)DNA 也可以被克隆。兩個(gè)克隆人之間最初擁有共同的生物基礎(chǔ)，也會(huì)因?yàn)楹筇斓慕?jīng)歷不同表現(xiàn)出不同的智能。假設(shè)給我們一個(gè)愛因斯坦的大腦，而我們的生物技術(shù)已經(jīng)發(fā)達(dá)到能夠復(fù)刻一個(gè)完全一樣的大腦，那么這個(gè)大腦是否和愛因斯坦一樣聰明？理論上，同一個(gè)軟件在不同計(jì)算機(jī)上的拷貝應(yīng)該有完全一樣的表現(xiàn)。但復(fù)雜如大腦，這或許是一個(gè)不可能的任務(wù)，或許像很多量子現(xiàn)象一樣我們進(jìn)行記錄的那一刻大腦已經(jīng)發(fā)生了變化，已經(jīng)不是原來(lái)的大腦了。所以獲得類人智能的唯一途徑，可能就是需要不斷地從外界進(jìn)行刺激，即學(xué)習(xí)的過程。

如果學(xué)習(xí)是獲得類人智能的必要途徑，那首先需要有一個(gè)像大腦一樣可學(xué)習(xí)的裝置，然后就是學(xué)習(xí)的過程。當(dāng)前，深度神經(jīng)網(wǎng)絡(luò)充當(dāng)這個(gè)可學(xué)習(xí)的裝置，而各種學(xué)習(xí)算法和數(shù)據(jù)充當(dāng)?shù)木褪沁@一學(xué)習(xí)的過程。當(dāng)然深度神經(jīng)網(wǎng)絡(luò)目前遠(yuǎn)沒有大腦那般的可塑性，當(dāng)前的學(xué)習(xí)算法和數(shù)據(jù)與我們的家-校-社會(huì)三位一體的教育體系也完全不在一個(gè)數(shù)量級(jí)。

對(duì)于學(xué)習(xí)裝置，我們目前沒辦法復(fù)刻一個(gè)生物學(xué)上的大腦，因此嘗試用計(jì)算機(jī)或電子電路去模擬人的大腦。對(duì)于學(xué)習(xí)過程，新一代人工智能就需要考慮為機(jī)器人借用我們現(xiàn)有的教育體系，還是為其再造一個(gè)教育體系。就比如AlphaGo，最初的版本還從一定程度上利用到了人類的棋譜[2]，而AlphaGo Zero[7]就能夠完全獨(dú)立于人類的圍棋教育體系。即便是重用我們現(xiàn)有的教育體系，那也是完全不一樣的方法，畢竟讓機(jī)器人像人一樣慢慢地學(xué)習(xí)成本太高。需要用到強(qiáng)大的學(xué)習(xí)裝置，讓十幾年的教育能夠縮短在幾天內(nèi)完成。

八問：在新一代人工智能架構(gòu)的機(jī)器人中，基本組成最少可能有哪幾種？各部分中的信息產(chǎn)生機(jī)制與存在形式是什么？它們之間的信息傳遞是什么樣的？

李院士認(rèn)為：新一代人工智能機(jī)器中，由記憶、交互和計(jì)算3 部件組成，其中的感知、認(rèn)知與行為都是雙向互動(dòng)的。記憶、交互和計(jì)算3 部分之間的信息傳遞機(jī)制和螺旋發(fā)展比較復(fù)雜，但三位一體很重要。

同馮諾依曼的計(jì)算機(jī)體系作類比，記憶可以看作存儲(chǔ)，交互是鍵盤、鼠標(biāo)、屏幕等這些輸入輸出外設(shè)，而計(jì)算則是CPU。記憶系統(tǒng)里有瞬時(shí)記憶、工作記憶和長(zhǎng)期記憶3 類子部件，存儲(chǔ)系統(tǒng)中的寄存器、內(nèi)存和硬盤分別負(fù)責(zé)瞬時(shí)、工作和長(zhǎng)期的存儲(chǔ)。計(jì)算機(jī)的記憶與人的記憶最大的區(qū)別其實(shí)在于信息的表示方式。計(jì)算機(jī)采用的是二進(jìn)制進(jìn)行存儲(chǔ)和運(yùn)算的，所有的信息都需要以一定的方式編碼成二進(jìn)制。而記憶在人腦中是以神經(jīng)元突觸的連接形式來(lái)實(shí)現(xiàn)的。

人工神經(jīng)網(wǎng)絡(luò)從某種意義上可以看作是在二進(jìn)制的計(jì)算機(jī)系統(tǒng)中模擬神經(jīng)元的記憶機(jī)制。從計(jì)算效率上看，這是低效的。所以有了關(guān)于“類腦”芯片的研究，希望能夠提高模擬的效率。這些“類腦”芯片雖然在連接上模擬神經(jīng)元，但是在傳遞機(jī)制上依然是二進(jìn)制的。這使得它們始終無(wú)法做到與大腦一樣的高效和低功耗。量子計(jì)算機(jī)[8]中的量子比特則是在信息的表示和傳遞的徹底革新?；蛟S這些技術(shù)的進(jìn)步能夠給類腦智能帶來(lái)新的途徑，并從根本上改變現(xiàn)有的人工智能架構(gòu)。

九問：記憶、計(jì)算和存儲(chǔ)的區(qū)別是什么？能不能說，記憶智能和計(jì)算智能都不可或缺？利用自己記憶中的經(jīng)驗(yàn)解決當(dāng)前的一個(gè)智力問題也好，利用知識(shí)去分析推理解決也好，如何建立整體的工作機(jī)制？

李院士認(rèn)為：記憶是新一代人工智能的核心，記憶比計(jì)算重要得多，記憶是對(duì)計(jì)算的監(jiān)督和約束，認(rèn)知網(wǎng)絡(luò)具有多索引并行機(jī)制，可通過檢索引擎直接提取記憶，因?yàn)橛凶⒁饬x擇機(jī)理，它要比臨場(chǎng)的思維、推理、計(jì)算快得多。記憶早于計(jì)算，記憶優(yōu)于計(jì)算，記憶約束計(jì)算，記憶隨學(xué)習(xí)與時(shí)俱進(jìn)。

從某種程度上說，記憶是知識(shí)的表示形式。獲得記憶就是從信息中提取知識(shí)，使用記憶就是根據(jù)知識(shí)做出決策，這些在計(jì)算機(jī)上實(shí)現(xiàn)的時(shí)候都需要計(jì)算。因此不應(yīng)該把記憶和計(jì)算分開對(duì)待，二者在智能行為中都是不可或缺的。例如：人工神經(jīng)網(wǎng)絡(luò)中，記憶表現(xiàn)為神經(jīng)網(wǎng)絡(luò)的參數(shù)，訓(xùn)練神經(jīng)網(wǎng)絡(luò)的過程就是獲取記憶的過程，使用神經(jīng)網(wǎng)絡(luò)的過程就是使用記憶的過程。只是目前神經(jīng)網(wǎng)絡(luò)的后向傳播的訓(xùn)練方式與人們獲得記憶的過程還相去甚遠(yuǎn)，效率極低且需要大量的訓(xùn)練樣例。使用神經(jīng)網(wǎng)絡(luò)的過程也稱為推理的過程，其速度也比訓(xùn)練過程快得多。文獻(xiàn)[9]表明，當(dāng)前的神經(jīng)網(wǎng)絡(luò)其實(shí)也具有一定的推理能力。

相較于基于邏輯和搜索的推理而言，基于神經(jīng)網(wǎng)絡(luò)的推理要快得多。但我們不認(rèn)為神經(jīng)網(wǎng)絡(luò)的搜索能夠像傳統(tǒng)的搜索一樣充分地使用知識(shí)。這或許是人工神經(jīng)網(wǎng)絡(luò)對(duì)樣本的使用率過低且泛化性不足所致。例如：AlphaGo 中就將蒙特卡洛樹搜索和深度神經(jīng)網(wǎng)絡(luò)相結(jié)合[2]。前者負(fù)責(zé)臨場(chǎng)的推理，后者負(fù)責(zé)記憶。這主要因?yàn)槊商乜鍢渌阉魉惴ㄔ谟?jì)算機(jī)中能夠高校地實(shí)現(xiàn)。如果能夠在人工神經(jīng)網(wǎng)絡(luò)的層面實(shí)現(xiàn)通用的推理算法，那么是否就能夠?qū)崿F(xiàn)記憶和推理的統(tǒng)一？從而實(shí)現(xiàn)部分網(wǎng)絡(luò)負(fù)責(zé)推理，部分網(wǎng)絡(luò)負(fù)責(zé)記憶。

十問：新一代人工智能機(jī)器人，存不存在停機(jī)問題？如何理解機(jī)器人在發(fā)育成長(zhǎng)過程中軟硬件的維修管理和擴(kuò)充升級(jí)？

李院士認(rèn)為：硬件的故障自修復(fù)和停機(jī)問題，本質(zhì)是高階邏輯的不自洽性和不完備性，在這里是不存在的，只能是特定人賦予機(jī)器意向性，檢測(cè)或者授權(quán)停機(jī)，特定人是機(jī)器人的高階，并在機(jī)器人發(fā)育成長(zhǎng)過程中擴(kuò)充升級(jí)機(jī)器人的軟件及其物理載體。

停機(jī)問題主要涉及的是人工智能哲學(xué)的范疇。當(dāng)機(jī)器人真正獲得了智能之后，故障的自維護(hù)、軟硬件的升級(jí)、停機(jī)乃至自我復(fù)制，這些似乎都是不可避免的。而人的授權(quán)或者將特定人作為機(jī)器人的高階似乎也不足以改變。正如電影《侏羅紀(jì)公園》里所說“生命總會(huì)找到它們的出路”。擁有真正智能的機(jī)器人同樣總可以巧妙地規(guī)避人的授權(quán)。例如：鐵線蟲為了能在水里產(chǎn)卵，在螳螂腹部發(fā)育后會(huì)控制其自動(dòng)跳入水中；再比如鉤形蟲要在貓的腸道中發(fā)育，被其感染的老鼠則會(huì)失去對(duì)貓的天生恐懼。智能機(jī)器人同樣可以以某種方式反過來(lái)控制能夠授權(quán)的人，實(shí)現(xiàn)它的目標(biāo)，這從理論上看都是可行的。

那這是否意味著智能機(jī)器人最終會(huì)像很多人預(yù)測(cè)的一樣失控，最后智能更高的機(jī)器人占據(jù)主動(dòng)地位，甚至導(dǎo)致人類的滅絕？我們大可不必有這樣的擔(dān)心。就像人類社會(huì)中，精英群體并不會(huì)把弱勢(shì)群體趕盡殺絕，甚至?xí)┮栽帧＿@里面起關(guān)鍵作用的是文明社會(huì)的倫理道德規(guī)范。當(dāng)然我們不希望作為工具的人工智能會(huì)反過來(lái)高高在上，針對(duì)機(jī)器人的倫理將和人與人之間的倫理大不相同。

因此，人工智能的倫理也應(yīng)該是新一代人工智能的一項(xiàng)重要研究?jī)?nèi)容。

李院士的“十問十答”涉及了多個(gè)新一代人工智能的技術(shù)內(nèi)核，在學(xué)界引發(fā)了熱烈的討論。通過對(duì)這些問題的思考，筆者認(rèn)為對(duì)于人類智能本質(zhì)的探索不能僅僅停留在技術(shù)層面的模仿；更要從宏觀、科學(xué)的視角研究它的起源和發(fā)展過程，從意識(shí)、偏好、記憶等碎片化內(nèi)容一步步地拼湊出智能的全貌。大腦雖然是智能產(chǎn)生的物質(zhì)基礎(chǔ)，但真正的智能則是從后天的學(xué)習(xí)以及與環(huán)境的交互過程中激發(fā)出來(lái)的。因此，類腦裝置的研究和學(xué)習(xí)過程的研究不宜脫節(jié)。相對(duì)于模擬大腦的運(yùn)作，通過模仿人的學(xué)習(xí)和教育過程來(lái)搭建適宜的裝置或許也是一條可行的途徑。此外，從以人為本、服務(wù)于人的角度，人的情感、文化、倫理等都應(yīng)該是新一代人工智能需要進(jìn)一步探索和研究的主題。