以改造教育和學(xué)習(xí)應(yīng)對人工智能時代的挑戰(zhàn)
——段偉文研究員訪談

◎張 棟

人工智能是當(dāng)今人類社會所面對的最具根本性的挑戰(zhàn)和機(jī)遇之一，其對人類社會的潛在影響兼有高度的不確定性、復(fù)雜性?；谶@種認(rèn)識，我們采訪了中國社會科學(xué)院哲學(xué)所的段偉文研究員，面對高度不確定的未來社會，努力尋求其中具有一定確定性的部分。

記者：由AlphaGo戰(zhàn)勝李世石開始，人工智能在近幾年成為了公眾關(guān)注的一個熱點(diǎn)話題。在您看來，人工智能在近幾年是否取得了重要的突破性的進(jìn)展？

段偉文：從人工智能的應(yīng)用層面來看，由于計算能力的提升、計算成本的下降、大數(shù)據(jù)和深度學(xué)習(xí)等發(fā)展，近年在數(shù)據(jù)智能和跨媒體智能上，實(shí)現(xiàn)了一些具有商業(yè)、產(chǎn)業(yè)和軍事價值的發(fā)展，出現(xiàn)了一些合成智能技術(shù)和可能替代人類的自動化智能系統(tǒng)，如智能服務(wù)終端、智能翻譯系統(tǒng)、智能聊天與陪伴機(jī)器人等。但從理論上來說，現(xiàn)在的人工智能仍然處于弱人工智能或?qū)Ｓ萌斯ぶ悄茈A段，只能在特定的環(huán)境中按規(guī)則執(zhí)行單一任務(wù)，其智能識別等功能并非建立在理解的基礎(chǔ)上，不會思考，沒有行動意向，也沒有意識和自我意識，強(qiáng)人工智能和通用人工智能還看不到實(shí)現(xiàn)的前景。因此，目前人工智能并沒有取得實(shí)質(zhì)性的突破。

記者：暢銷書《未來簡史》中，作者把人類和生物也理解為自然演化出的算法。生物智能可以被理解為算法嗎？

段偉文：有一個理論叫計算主義，是當(dāng)代認(rèn)知科學(xué)和人工智能研究中的流行范式。其中心觀點(diǎn)，簡言之，就是萬物皆算法。從計算主義的角度看，計算機(jī)算法和宇宙中所有事物的算法都是沒有差別的，都是可以符號化的，都是按照程序、條件關(guān)系來運(yùn)行的。如同牛頓力學(xué)時代把宇宙中一切事物的基本規(guī)律都用力學(xué)來概括，計算主義就是把整個宇宙中一切事物的基本規(guī)律用算法來概括。計算主義是一種認(rèn)識論，是一種觀察和認(rèn)識世界的當(dāng)代視角，從這個視角，我們可以看到很多以往看不到，認(rèn)識不到的問題。從這個角度，生物智能不僅可以被理解為算法，而且把生物智能作為算法進(jìn)行研究還是認(rèn)知科學(xué)的重要主題，其成果是人工智能研究的重要基礎(chǔ)。但計算主義也僅是一個觀察世界的方式，既不是唯一的方式，也不一定是正確的方式，之所以采取這樣的視角，是因?yàn)樗軌驇硇碌陌l(fā)現(xiàn)。

段偉文，中國社會科學(xué)院哲學(xué)所研究員。主要研究方向：科學(xué)哲學(xué)、技術(shù)哲學(xué)、科技倫理、網(wǎng)絡(luò)研究。

記者：如果生物智能也可以被視為算法，那目前人工智能和人類智能是否存在本質(zhì)性的差別？

段偉文：即使從計算主義的視角，算法也至少有兩類，一種是自然發(fā)生的算法，自然世界和社會系統(tǒng)自動運(yùn)行演化的規(guī)律和條件關(guān)系，另一種是體現(xiàn)人如何理解這些規(guī)律和條件關(guān)系，如何去模擬自然過程，通過計算機(jī)實(shí)現(xiàn)的人工算法，后者是對前者的擬合。人對自然的認(rèn)識和理解，必然要采取特定的視角，必然有所簡化。兩者當(dāng)然是有區(qū)別的。

至于兩者是否具有本質(zhì)上的一致性，這可能并不是一個重要的問題，因?yàn)楸举|(zhì)是什么，很難說清楚。本質(zhì)的東西，我們不一定認(rèn)識到了，我們認(rèn)識到的不一定就是本質(zhì)，我們今天認(rèn)為是本質(zhì)的東西，明天不一定還是。如果把這個問題提給計算主義者，他會認(rèn)為是，不論人類智能還是人工智能，思考和認(rèn)知的過程都是一種對符號的運(yùn)算和處理。如果不從計算主義的角度出發(fā)，那么人類智能和人工智能之間的差別也很明顯，比如人能自我控制，機(jī)器不能；人有信念，有欲望，有意圖，有情緒，機(jī)器沒有；人的知覺是和身體相關(guān)的，比如我們的空間感，是具身性的認(rèn)知，機(jī)器不是。

所以與其談他們在本質(zhì)上相同與否，不如談他們在某一個抽象程度上所具有的相似性，但同時，人類智能中的很多東西，比如意識、信念、欲望、情緒，是抽象不了的，至少在今天我們的認(rèn)知水平下，是抽象不了的。如果有一天我們能夠把意識、信念、欲望、情緒這些都用算法表達(dá)出來，那么生物智能也就可以在更高的層次，更多的部分上被化約成為算法。

記者：在您看來強(qiáng)人工智能是否是可能的？基于目前的計算機(jī)原理是否可能？

段偉文：強(qiáng)人工智能，接近人類智能，甚至超越人類智能的人工智能是不是可能實(shí)現(xiàn)，如果從現(xiàn)代人類技術(shù)發(fā)展的歷史視角去看，那一切皆有可能。無數(shù)前人不敢想，想不到的東西都已經(jīng)變成了現(xiàn)實(shí)。而且強(qiáng)人工智能本身就是人工智能技術(shù)研究的初衷，是最開始的目標(biāo)。只是在發(fā)展過程中，發(fā)現(xiàn)很難，所謂的莫拉維克效應(yīng)，實(shí)現(xiàn)對人來說復(fù)雜高級的智力活動只需要較少的計算能力，是相對簡單的，但實(shí)現(xiàn)無意識的技能和直覺卻需要極大的運(yùn)算能力。計算機(jī)可以解復(fù)雜的數(shù)學(xué)題，可以在圍棋上戰(zhàn)勝人類，但在感知能力趕不上一個一歲嬰兒。因此我們的研究才逐漸集中到針對特定任務(wù)和功能的弱人工智能上去。

目前的人工智能，其實(shí)也可以說根本就沒有什么智能，因?yàn)槟壳皺C(jī)器學(xué)習(xí)還必須借助于人工標(biāo)注，即使所謂無監(jiān)督學(xué)習(xí)，也必須依賴人為其做決策。所有的機(jī)器都必須在既定的規(guī)則下運(yùn)行，不可能像人一樣去創(chuàng)作，或者創(chuàng)造出一些東西。目前一些看上去像是智能的機(jī)器，比如像“深藍(lán)”、“alpha go”、“alpfa zero”， 仍然是通過窮舉法或是自我博弈中大量試錯來實(shí)現(xiàn)的，只不過它的運(yùn)行速度非常快，但這仍然很難說是智能。

目前來看，強(qiáng)人工智能還很遙遠(yuǎn)，基于目前的計算機(jī)原理可以說還看不到明確的前景，并不像《奇點(diǎn)臨近》之類的那些作者所宣傳的那樣可以預(yù)見、迅速實(shí)現(xiàn)。事實(shí)上，如果過度樂觀的估計了人類的技術(shù)能力，把資源和投入過度集中到特定的方向上，還可能導(dǎo)致重大的挫折和浪費(fèi)，日本80年代開始的第五代計算機(jī)計劃的失敗，就是典型的教訓(xùn)。

記者：計算機(jī)的原理在未來有沒有可能發(fā)生根本性的變革？

段偉文：我們知道計算機(jī)的技術(shù)一直在不斷的進(jìn)步，目前正在研發(fā)的比如量子計算機(jī)，在技術(shù)上是重大的突破，但從計算機(jī)原理的角度來說，還沒有什么重大變革，還沒有超越圖靈機(jī)的范疇。

原理上的變革，當(dāng)然是可能的，但同時也是無法預(yù)見的。但凡科學(xué)上的革命性變化，都是這樣，發(fā)生之前誰也不知道，甚至無從預(yù)料。

記者：如果強(qiáng)人工智能是可能的，那么它有沒有可能成為不受人類控制的系統(tǒng)？

段偉文：如果有強(qiáng)人工智能的出現(xiàn)，那它實(shí)際上就已經(jīng)不是完全受人類控制了。這是必然的，否則它就不是強(qiáng)人工智能了。強(qiáng)人工智能本身就要求它能夠自我學(xué)習(xí)、自我迭代、自主決策。自主決策，本身就意味著不依賴人的決策，所謂人的控制，首先就是決策由人掌握。一個自我演進(jìn)的決策系統(tǒng)，必然不在人的控制之下。

事實(shí)上，即使是現(xiàn)在的計算機(jī)系統(tǒng)、網(wǎng)絡(luò)系統(tǒng)是完全為人所控制嗎？也不一定。這里需要思考的是人類和機(jī)器之間的關(guān)系。在未來的社會中，不僅有人這個主體，還有各種人工智能、自動機(jī)器這些準(zhǔn)主體、亞主體，不管強(qiáng)人工智能來不來，我們都必須建立一種機(jī)制，能夠讓人和機(jī)器共同構(gòu)成的行動者的網(wǎng)絡(luò)中，使整個過程能夠?yàn)槿怂刂?，否則這個前景一定不是人類所希望看到的。

機(jī)器超過人其實(shí)并不新鮮，我們誰也跑不過汽車、火車，飛不過飛機(jī)，為什么在智能領(lǐng)域我們會覺得難以接受呢？因?yàn)橹悄苌婕暗氖菦Q策的問題。比如，未來如果無人駕駛比人類駕駛還要安全，那是不是人類駕駛會是不道德的呢？是不是機(jī)器應(yīng)該成為人的監(jiān)護(hù)者呢？在決策的鏈條中，哪些決策可以交給機(jī)器，哪些情境可以由機(jī)器主導(dǎo)，在人和機(jī)器的關(guān)系上，應(yīng)該有怎樣的定位，這是值得思考的問題。

記者：關(guān)于人工智能，一個比較現(xiàn)實(shí)的擔(dān)憂是其對人類就業(yè)的影響，您如何看待？

段偉文：一般而言，重大的科技突破和新技術(shù)的應(yīng)用，必然在社會的資源配置上尋求新的優(yōu)化組合。由此，在短時間內(nèi)，某些行業(yè)的勞動力可能被低成本的新技術(shù)替代而造成所謂的技術(shù)性失業(yè)；長期來看，則可能形成新的行業(yè)生態(tài)，帶來新的就業(yè)機(jī)會。但人工智能巨大的研發(fā)投入，很可能在短時間內(nèi)使智能機(jī)器的效率迅速提升、成本迅速降低。一旦智能機(jī)器的成本低于人工成本，很可能帶來對人力大規(guī)模、快速的替代。

理論上，人工智能對就業(yè)的沖擊會被市場調(diào)節(jié)和社會適應(yīng)機(jī)制逐漸消化。但實(shí)際上，由于未來人工智能的產(chǎn)業(yè)應(yīng)用，在廣泛性和快速性上可能超過以往的技術(shù)革新，在特定歷史時期對眾多具體行業(yè)的就業(yè)影響可能更加復(fù)雜和嚴(yán)重。

首先，人工智能最有可能先在勞動力密集、技能要求低、勞動重復(fù)性較高、人力總成本大的行業(yè)實(shí)現(xiàn)低成本商業(yè)化。大量的服務(wù)業(yè)和低端制造業(yè)崗位可能首先被替代。比如快遞業(yè)和送餐業(yè)，最近京東和順豐對無人機(jī)的開發(fā)，很可能會影響到這些行業(yè)的普通從業(yè)人員。

其次，一旦人工智能出現(xiàn)突破性的發(fā)展，對就業(yè)的影響還會出倍增效應(yīng)和甚至指數(shù)效應(yīng)。人工智能可能會在一些行業(yè)帶來突發(fā)的、快速的、大規(guī)模與斷崖式的失業(yè)潮，這種情況一旦發(fā)生，就有可能造成大范圍的社會問題。

第三，人工智能還有可能對部分專業(yè)技術(shù)人員造成沖擊。大數(shù)據(jù)智能與跨媒體智能等合成智能與一些自動智能系統(tǒng)的結(jié)合應(yīng)用，初步形成了替代部分知識型工作的趨勢。一些人工智能系統(tǒng)可以高效地完成特定的認(rèn)知性工作，如數(shù)據(jù)比對、信息深度整理、知識洞察、現(xiàn)象識別等，一旦可以實(shí)現(xiàn)低成本商業(yè)化，勢必對金融、財務(wù)、保險、新聞、法律以及一般的秘書等行業(yè)和崗位帶來巨大沖擊。

記者：一直以來，人本身都是最重要的資源，但如果人工智能在就業(yè)和生產(chǎn)上對人形成了廣泛、大規(guī)模的替代，人似乎就會面對根本的價值困境，您如何看待？

段偉文：歷史上歷次科技革命和工業(yè)革命帶來的機(jī)器取代人、新產(chǎn)業(yè)汰換舊產(chǎn)業(yè)的沖擊，都通過一系列的創(chuàng)新，特別是教育與學(xué)習(xí)上的變革，轉(zhuǎn)化成了創(chuàng)造性破壞的效果。但一方面，這種基于歷史經(jīng)驗(yàn)的自信在邏輯上并不完備，不能肯定面對人工智能的挑戰(zhàn)人們依舊能自然地找到創(chuàng)造性應(yīng)對的辦法；另一方面，即使最終找到應(yīng)對之策，也不能不考慮嬗變過程中的沖突與無序，特別是受沖擊的特定群體為之所付出的代價?；谶@種考慮，我們需要為智能化社會的到來做好系統(tǒng)的準(zhǔn)備，教育與學(xué)習(xí)應(yīng)該是這種準(zhǔn)備的首要方面。

人工智能可能帶來的就業(yè)問題的復(fù)雜性和特殊性，首要的是機(jī)器的智能化使其具有了學(xué)習(xí)能力。智能機(jī)器在記憶、對象識別等領(lǐng)域，以及有明確規(guī)則的特定任務(wù)上，經(jīng)常表現(xiàn)出比人更強(qiáng)的能力，讓人類自慚形穢。

如何面對這種挑戰(zhàn)，很多方面仍然是未知的，但在改造我們教育和學(xué)習(xí)方面的必要性是確定的。未來學(xué)家們的預(yù)見中始終隱含著一個可能是誤導(dǎo)性的預(yù)設(shè)，即以科技和機(jī)器的標(biāo)準(zhǔn)衡量人的價值和能力。從這一預(yù)設(shè)出發(fā)，教育和學(xué)習(xí)的首要目的不是為了人自身的創(chuàng)造性需求，而是去適應(yīng)科技的發(fā)展。教育和學(xué)習(xí)以專業(yè)化和技能化為主導(dǎo)。

如何改造我們的教育和學(xué)習(xí)？當(dāng)代教育與學(xué)習(xí)變革的首要目標(biāo)不應(yīng)再局限于單純的專業(yè)知識和專業(yè)技能的獲得，而要上升到使人作為智能化社會有價值的存在的層面。

在指導(dǎo)思想上，未來的教育與學(xué)習(xí)必須在首先實(shí)現(xiàn)視角的轉(zhuǎn)換，即從人類與科技分離和人與機(jī)器對立的二元視角轉(zhuǎn)向人類與科技融合和人機(jī)共生的系統(tǒng)協(xié)同視角。如果說未來社會將走向人類與機(jī)器人、智能自動系統(tǒng)等人工智能體共在的泛主體社會，那么人類應(yīng)該擔(dān)當(dāng)其中的主導(dǎo)者、創(chuàng)新者和決策者。這就對未來的教育與學(xué)習(xí)提出了新的總體目標(biāo)：用教育和學(xué)習(xí)支撐人類在未來智能化泛主體社會中的認(rèn)知力、創(chuàng)造力和領(lǐng)導(dǎo)力。

在教育與學(xué)習(xí)的核心內(nèi)容上，重點(diǎn)不應(yīng)再是具體的專業(yè)知識和專業(yè)技能，而是更加凸顯用于掌握專業(yè)知識與專業(yè)技能的核心素質(zhì)和認(rèn)知能力的培養(yǎng)。

在技術(shù)手段上，沒有太多懸念的是人工智能本身將用于教育和學(xué)習(xí)。但如何合理地使用人工智能作為教育的工具，需要有系統(tǒng)的研究。包括如何規(guī)避人工智能的局限性，以及如何通過人工智能使得教育更具包容性、減少人的發(fā)展的不平衡性等等。

在組織形式上，教育和學(xué)習(xí)的終身化趨勢日益顯現(xiàn)，未來繼續(xù)教育可能會成為主要的成人教育形式，還有可能會出現(xiàn)與實(shí)踐經(jīng)驗(yàn)累積，工作方式與生活方式的階段性選擇相契合的多段式高等教育。

智能化時代，可以預(yù)見：其一，大學(xué)將真正成為城市的中心，不僅會作為知識和文化的中心，還將擔(dān)當(dāng)起城市的靈魂的角色，成為每個人免于被機(jī)器邊緣化的精神家園。其二，人類文明的未來命運(yùn)取決于人類與科技融合、人機(jī)共生境遇下的文化創(chuàng)造力，其基礎(chǔ)則是通過教育和學(xué)習(xí)對人的價值賦予。