機器的智能和人類的智慧

《AI聯(lián)結(jié)的社會：人工智能網(wǎng)絡(luò)化時代的倫理與法律》

（日）福田雅樹等著 宋愛譯

社會科學(xué)文獻(xiàn)出版社即出

圍繞人工智能主題，我讀過很多作品。一些書名看起來很學(xué)術(shù)的，讀起來卻非?？破?。也許是人工智能話題炙熱的緣故，除了科普作家，某些學(xué)有專長的著名專家也加入其中，但對人工智能卻是一知半解，有關(guān)人工智能的研究成果也是魚龍混雜。我手里的這本書是否也是其中之一呢？

我抱著嘗試的心態(tài)讀下去。這一讀，便沒有放手，直至卷終?！禔I聯(lián)結(jié)的社會：人工智能網(wǎng)絡(luò)化時代的倫理與法律》（以下簡稱《AI聯(lián)結(jié)的社會》）是一本論文集。通常，論文集會依照論文的主題匯集，難以讓討論具有內(nèi)在邏輯一致性。這本論文集不同的是，它的主題內(nèi)在邏輯一致性很強，從這個角度來說，它更像一本合著成果。在假定人工智能自身形成網(wǎng)絡(luò)的場景下，會給人類帶來哪些挑戰(zhàn)。圍繞這一主題，全書劃分為六個部分，總論部分交代了問題和方法，第二部分探討人工智能的研發(fā)原則，第三部分討論人工智能數(shù)據(jù)、信息、知識的流通和使用，第四部分分析在人工智能網(wǎng)絡(luò)化的場景里人類的隱私與安全，第五部分探索人類社會基本準(zhǔn)則面對的挑戰(zhàn)和應(yīng)對之策，第六部分再回到人類自身，討論保障人類珍視的尊嚴(yán)、人格與責(zé)任。

務(wù)實的智慧

簡要的內(nèi)容構(gòu)成介紹應(yīng)該能讓讀者了解，這是一部接地氣的著作。與天馬行空地探討智能時代、機器崛起、人工智能時代的作品不同，與聳人聽聞地斷言智能革命、機器取代人類、奇點臨近的作品也不同，《AI聯(lián)結(jié)的社會》的出發(fā)點是，我們知道人工智能的發(fā)展是一股歷史潮流，勢不可當(dāng);我們不用像算命先生那樣去預(yù)測什么時候人工智能時代會到來;我們也不用像森林里的小女孩那樣不斷呼喊“狼來了”，人工智能要奪走我們的工作;我們嘗試著回答，人工智能會以什么樣的形態(tài)到來，在這個進程中，人類可以做什么來保證人類的基本利益，即人還是人！說得更加簡潔一些，在人類面對網(wǎng)絡(luò)化的智能機器時，如何保障人類的基本利益：身體、人格、責(zé)任、尊嚴(yán)？

以我對人工智能有限的認(rèn)知，我以為，這樣的提問非常日本！工業(yè)化的歷史表明，同在儒家文化圈，日本卻是一個非常務(wù)實的國家。明治維新以后，我們不知道日本人提出了什么驚世駭俗的理論，卻知道日本的產(chǎn)品行銷世界，對日本產(chǎn)品的質(zhì)量，鮮有人懷疑。這源于日本人的務(wù)實。人工智能的發(fā)展顯然還沒有走到真正威脅人類的時刻，探討人工智能場景下的人類利益，顯然是一個虛擬問題。務(wù)實的日本人在遭遇一個虛擬問題時，又如何處理呢？《AI聯(lián)結(jié)的社會》同樣展現(xiàn)了務(wù)實的智慧：日本專家們采用了情境錨定法（Anchoring Vignettes）。情境錨定法是社會調(diào)查中面對未來時常用且有效的測量方法。它假設(shè)一個情境，實在的、可以在頭腦中呈現(xiàn)的情境，然后，詢問人們面對情境的決策和行為取向。在理論研究中，這樣的方法也被稱為思想實驗（Thought Experiment），是理論邏輯演繹的常用且有效的方法。

當(dāng)今科技發(fā)展的現(xiàn)實充分證明，人類與人工智能共生的時代已經(jīng)開始，未來全球聯(lián)機協(xié)作的人工智能，將構(gòu)筑起深度改變?nèi)祟惿畹摹叭斯ぶ悄芫W(wǎng)絡(luò)”。圍繞這些問題，日本信息學(xué)界、法學(xué)界、社會學(xué)界、人工智能技術(shù)領(lǐng)域的多位前沿學(xué)者從國際化、專業(yè)化的視角出發(fā)，進行了深入探討，在社會政策和法律應(yīng)對層面，提出了建議。

本文為著名學(xué)者邱澤奇教授為《AI聯(lián)結(jié)的社會》中文版所作序言。本書簡體中文版將于8月上市。

運用情境錨定法，《AI聯(lián)結(jié)的社會》給定了一個討論的初始：在未來，無論是專用人工智能還是通用人工智能，人工智能自身形成了一個網(wǎng)絡(luò)，“使用者不僅可以自己設(shè)置，也可以接受他人設(shè)置”（第10頁），就像是《黑客帝國》里的機器帝國，人工智能甚至具有了擬人的“意志”，“擁有與人類智能相關(guān)的功能;能夠通過對信息、知識進行系統(tǒng)化處理，得到數(shù)據(jù)、信息和知識”（第6頁），“滲透到社會整體之中，進而使人類和人工智能網(wǎng)絡(luò)共存，在各種社會場景中，都將可能實現(xiàn)人工智能、物和人的相互聯(lián)結(jié)”（第11頁），人類如何做才能既利用人工智能為人類服務(wù)，又保護人類的基本利益？

在汗牛充棟的人工智能研究中，人工智能網(wǎng)絡(luò)化是一個被忽略或被默認(rèn)的議題。說是被忽略，至少在我讀到的文獻(xiàn)中這是第一本將其特別強調(diào)的作品。說是被默認(rèn)，在眾多討論人工智能的研究中，作者們往往忽略了人們生活在一個政治和社會制度有差異的世界，國家技術(shù)能力的強弱和國家之間關(guān)系的好壞并非與人工智能創(chuàng)新和應(yīng)用沒有關(guān)系。忽視既存的制度約束和假設(shè)人類的一般存在看起來有利于討論，實則是學(xué)術(shù)的不負(fù)責(zé)任。《AI聯(lián)結(jié)的社會》突出強調(diào)人工智能網(wǎng)絡(luò)化的現(xiàn)實社會情境，也是學(xué)術(shù)務(wù)實的另一個證明。

面向超級智慧

《AI聯(lián)結(jié)的社會》首先呈現(xiàn)的不是人工智能帶給人類的便利，而是風(fēng)險?！斑@些風(fēng)險與人工智能網(wǎng)絡(luò)化為社會帶來的便利同在，有時可能超越國境，超越現(xiàn)實與虛擬的界限，瞬時擴散出去”（第13頁）。借用既有的研究成果，《AI聯(lián)結(jié)的社會》將風(fēng)險區(qū)分為功能風(fēng)險和制度風(fēng)險，認(rèn)為其中重要的不是功能風(fēng)險，而是制度風(fēng)險。因此，風(fēng)險分析是人類面對人工智能挑戰(zhàn)的出發(fā)點，包括風(fēng)險評估、風(fēng)險管理和風(fēng)險傳播（第14頁）。風(fēng)險分析的目的，不是為了甩鍋，而是讓風(fēng)險明確化，進而確保公平競爭，讓風(fēng)險與收益達(dá)成平衡。在這里，我們既看到了日本人務(wù)實的一面，又看到儒家文化的深層存在。

設(shè)定人工智能網(wǎng)絡(luò)化的前提，自然地提出了人工智能治理的人類化議題?！禔I聯(lián)結(jié)的社會》的主張是，人工智能的治理，一定是國際的，而不是一國的。為促進技術(shù)創(chuàng)新和應(yīng)用，初始期宜采用軟性治理，治理內(nèi)容除了確保各種價值觀，還應(yīng)確保廉潔、透明性、可控性、安全性、隱私性、安保體系、公正性等（第18頁）。為了既促進人工智能的發(fā)展，給人類帶來更多便利，又保障治理的有效性，約束人工智能可能帶來的風(fēng)險，《AI聯(lián)結(jié)的社會》認(rèn)為，一個由人工智能高度互聯(lián)建構(gòu)的智聯(lián)社會（第20頁），應(yīng)該遵從八項基本原則：“第一，所有人都可以受惠;第二，保障個人的自主性及人的尊嚴(yán);第三，保證革新性研究開發(fā)的持續(xù)與公平競爭;第四，堅持可控性和透明性;第五，利益相關(guān)方的參與;第六，兼顧虛擬世界與現(xiàn)實社會;第七，通過超越空間的協(xié)調(diào)合作實現(xiàn)有活力的區(qū)域社會;第八，通過分散合作解決全球性問題。”（第21頁）

與上述原則關(guān)聯(lián)密切的被分解為了人工智能研發(fā)中的人類倫理與秩序的貫徹，人工智能使用中的數(shù)據(jù)、信息、知識等價值觀，人工智能與人類的關(guān)系，包括如何保障人的尊嚴(yán)、人格與責(zé)任以及支撐因素如隱私、安全、既存的社會準(zhǔn)則等。貫穿《AI聯(lián)結(jié)的社會》始終的是，保障人類基本利益的原則被置于最優(yōu)先的位置，基于此，《AI聯(lián)結(jié)的社會》里出現(xiàn)了一些日文風(fēng)格突出的概念。它意味著《AI聯(lián)結(jié)的社會》的討論既不是日本人自己圈子內(nèi)的討論，也不是脫離了日本的話術(shù)販賣，而是從日本的關(guān)切出發(fā)，面向整個世界的分析和探討。

參與討論的近20位作者，既有業(yè)界人士，也有學(xué)界新秀。從《AI聯(lián)結(jié)的社會》文本可以看出，他們的一個共同特點是，都非常熟悉國際上人工智能探討的熱點和難點問題，表達(dá)的也是他們對這些熱點和難點的觀點。人工智能數(shù)據(jù)是大數(shù)據(jù)問題的一個子集，歐盟有GDPR，美國有關(guān)聯(lián)的法律卻沒有一般的法律，中國在《民法典》中有涉及，日本的《個人信息保護法》也只是關(guān)聯(lián)的法律。到目前為止，數(shù)字化前沿國家對此還沒有達(dá)成一致。

我以為，根本不可能達(dá)成一致，盡管其基本出發(fā)點是保護人類利益。但我們知道，機器并沒有利益，機器的利益實際上是掌握機器的人的利益，電車難題（見第五部分的討論）便是典型的例子。當(dāng)我們在人工智能里設(shè)定人類生命優(yōu)先時，不是犧牲機器的問題，而是優(yōu)先保護誰的生命的問題。如此，問題又回到了人類，而不是人與機器的關(guān)系。為此，我更愿意把問題修訂為，當(dāng)人工智能網(wǎng)絡(luò)化將帶給人類更大利益同時也帶來更大風(fēng)險時，如何分配這些利益才是對大多數(shù)人更加有利的，也是對大多數(shù)人而言更加有利于控制風(fēng)險的？

在這個問題面前，人類自身的歧視、分化、極化、壟斷等將會是長久且難以達(dá)成平衡的議題。我們期待一個可以促進技術(shù)發(fā)展的競爭性研發(fā)生態(tài)，卻又希望避免一個由發(fā)展帶來的壟斷性市場，回避一個由利益分配嚴(yán)重不均所產(chǎn)生的極化社會，還希望避免一個因倫理失衡而可能帶來的毀滅性后果，最終希望做到人類自洽（第307頁），這的確需要超級智慧。《AI聯(lián)結(jié)的社會》至少是面向超級智慧的有益嘗試。