人工智能的社會治理：構(gòu)建公眾從 “被負(fù)責(zé)任”到 “負(fù)責(zé)任”的理論通道

1 人工智能：社會治理的新議題及新挑戰(zhàn)

人工智能技術(shù)的發(fā)展正在重塑社會現(xiàn)實，帶來社會治理領(lǐng)域的新變革。人工智能既是社會治理的工具,又是社會治理的對象。新技術(shù)的發(fā)展必然帶來新的社會議題，人工智能技術(shù)及其廣泛應(yīng)用將帶來新的社會治理、法律規(guī)范及倫理規(guī)約問題。就業(yè)對國民經(jīng)濟(jì)的發(fā)展至關(guān)重要，然而隨著人工智能對人類就業(yè)替代趨勢的強化， “機器換人”已經(jīng)上演，勞動密集型產(chǎn)業(yè)中的勞動工人面臨失業(yè)問題，這是體力勞動的技術(shù)性失業(yè)；也有不少學(xué)者把目光投向智力勞動的技術(shù)性失業(yè)，給出各種各樣的職業(yè)被人工智能替代的時間表。如何與人工智能爭奪人類最根本的活動——勞動的權(quán)力，以及尋找新的就業(yè)增長點，是一個不可回避的社會治理問題。

人工智能同樣給立法帶來不少新議題，社會治理的一個重要原則是 “公眾參與”，問題是到底如何界定 “公眾”？比如智能機器是一個社會成員嗎？具有法律意義上的社會主體地位嗎？智能機器需要納稅嗎？在討論人工智能與社會治理時這些問題都不可回避。而現(xiàn)在討論最熱的責(zé)任問題，也是這個問題的衍生。例如，如何劃定自動駕駛汽車在交通事故中的責(zé)任，2018年6月，英國頒布了 “2018英國自動電子汽車法案”，成為世界上第一個規(guī)范自動駕駛汽車安全性的法律。但是關(guān)于自動系統(tǒng)與自主性機器的行為后果，仍然沒有一個公認(rèn)的標(biāo)準(zhǔn)來評判。

人工智能也帶來新的倫理問題。首先，作為一種技術(shù)手段，人工智能對于個人數(shù)據(jù)的采集與使用，對隱私是一個極大的挑戰(zhàn)，并且對于智能時代的技術(shù)紅利如何在不同人群中分配也是一個重要的公平問題。上面提到的責(zé)任問題也是一個倫理問題，人工智能能否成為人類不為自己行為負(fù)責(zé)的下一個借口，也是有待繼續(xù)觀察的。其次，從智能技術(shù)物本身來看，其是否具有道德上的地位與權(quán)利，也是目前學(xué)術(shù)討論的熱點，從這個問題衍生出來的人機關(guān)系問題、機器權(quán)利問題等都是社會治理關(guān)注的內(nèi)容。

從國家治理現(xiàn)代化角度來看，人工智能是實現(xiàn)社會治理現(xiàn)代化的手段?！笆糯蟆碧岢錾鐣卫硪悄芑?wù)云平臺、大數(shù)據(jù)決策、智慧城市等都是治理智能化的表現(xiàn)，基層治理也開始應(yīng)用智能設(shè)備與大數(shù)據(jù)來加強公眾溝通，克服決策不確定性。作為治理手段，人工智能也帶來了新問題，具體表現(xiàn)為智能風(fēng)險、智能偏見、智能失權(quán)等。智能風(fēng)險是指人工智能技術(shù)本身存在不確定性，存在失序、失靈、失控的技術(shù)風(fēng)險，當(dāng)決策、行動、評估行為都圍繞其展開時，會出現(xiàn)系統(tǒng)性風(fēng)險。智能偏見是指我們迷信人工智能帶來的決策結(jié)果，這是一種智能時代版本的機械論，面對社會現(xiàn)實的不確定，目前弱人工智能只能起到治理輔助作用。智能失權(quán)是指失去話語權(quán)與勞動權(quán)，治理過程交給人工智能，會使得在技術(shù)知識儲備上處于弱勢地位的普通民眾更加沒有參與治理的積極性與能力。

2 社會公眾應(yīng)當(dāng)成為 “負(fù)責(zé)任人工智能”的主要參與者

當(dāng)今社會人工智能發(fā)展進(jìn)入全新階段，各國人工智能發(fā)展的戰(zhàn)略更新速度加快，而 “負(fù)責(zé)任”是科技戰(zhàn)略，尤其是人工智能戰(zhàn)略中的高頻詞匯，人工智能政策制定者往往把負(fù)責(zé)任放在首位。2019年5月OECD成員國簽署 《政府間人工智能推薦性原則和建議》，呼吁發(fā)展負(fù)責(zé)任的人工智能；2019年6月國家新一代人工智能治理專業(yè)委員會發(fā)布 《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，把共擔(dān)責(zé)任作為一條重要原則。可以看出，在人工智能戰(zhàn)略部署中，負(fù)責(zé)任發(fā)展已經(jīng)是必要組成部分。

何為 “負(fù)責(zé)任”的人工智能戰(zhàn)略？我們認(rèn)為，負(fù)責(zé)任的戰(zhàn)略是規(guī)劃與規(guī)范、主導(dǎo)與適應(yīng)的統(tǒng)一。負(fù)責(zé)任是目前規(guī)范技術(shù)社會影響的最主要原則，直接決定人工智能的社會影響[1]。使用負(fù)責(zé)任戰(zhàn)略來規(guī)范人工智能與人工智能的行業(yè)規(guī)范、社會規(guī)范是一致的，并且是不能產(chǎn)生偏差的。人工智能的技術(shù)后果不只是完全受控的[2]，更是社會成員對于其他成員行為的適應(yīng)與互動，因為戰(zhàn)略所展現(xiàn)的協(xié)調(diào)作用也是必要的。負(fù)責(zé)任戰(zhàn)略本身就是對于角色定位與責(zé)任劃分的規(guī)定，直接構(gòu)成人工智能規(guī)范的一部分。目前關(guān)于人與人工智能的道德能力與主體地位有較大分歧[3]，此時制定人工智能戰(zhàn)略是對學(xué)術(shù)爭論的重新梳理與操作化。

目前看來， “負(fù)責(zé)任”的概念主要是針對國家政府、區(qū)域組織以及其他傳統(tǒng)意義上的行為體和利益相關(guān)者，可以總結(jié)為三類指導(dǎo)對象：

(1)政策制定者。目前人工智能發(fā)展戰(zhàn)略最主要的指導(dǎo)對象是政策制定者，因為政策制定者既不是直接的人工智能從業(yè)者或研究者，也不是主要的利益相關(guān)方。政策制定者的非專業(yè)性和中立性使得其尤為關(guān)注戰(zhàn)略規(guī)劃，以及參與戰(zhàn)略規(guī)劃。例如， 《新一代人工智能治理原則》指出， “應(yīng)促進(jìn)協(xié)調(diào)發(fā)展，推動各行各業(yè)轉(zhuǎn)型升級，縮小區(qū)域差距”，就是對于各級政府的指導(dǎo)意見；美國 《維護(hù)美國人工智能領(lǐng)導(dǎo)力的行政命令》要求聯(lián)邦政府機構(gòu)投入更多資源和資金到人工智能發(fā)展中，是白宮對于聯(lián)邦政府部門的指導(dǎo)。

(2)產(chǎn)業(yè)界。在一定意義上，人工智能產(chǎn)業(yè)是實現(xiàn)戰(zhàn)略的終端，也是檢驗戰(zhàn)略效果的晴雨表。產(chǎn)業(yè)界更為關(guān)注戰(zhàn)略內(nèi)容的操作性與指標(biāo)化，同時也是規(guī)范條款的主要針對人群。例如， 《新一代人工智能治理原則》指出， “通過持續(xù)提高技術(shù)水平、改善管理方式，在數(shù)據(jù)獲取、算法設(shè)計、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應(yīng)用過程中消除偏見和歧視”，這就是對設(shè)計者、生產(chǎn)者的要求；日本 《下一代人工智能戰(zhàn)略》要求2020年之前確立無人工廠和無人農(nóng)場技術(shù)，普及新藥研制的人工智能支持，實現(xiàn)生產(chǎn)設(shè)備故障的人工智能預(yù)測，也是對于人工智能產(chǎn)業(yè)研發(fā)領(lǐng)域的指導(dǎo)。

(3)科研人員。人工智能研究方向的規(guī)劃，以及圍繞人工智能展開的法律、倫理等問題的研究，也都是人工智能戰(zhàn)略的指導(dǎo)內(nèi)容。 《新一代人工智能治理原則》指出， “人工智能系統(tǒng)應(yīng)不斷提升透明性、可解釋性、可靠性、可控性，逐步實現(xiàn)可審核、可監(jiān)督、可追溯、可信賴”；美國科技政策辦公室在 《為人工智能的未來做好準(zhǔn)備》中指出，美國要在人工智能的各個研究領(lǐng)域中保持理論優(yōu)勢。

上述這些都是對科研人員的科研工作提出要求，在科學(xué)理論層面對科研人員進(jìn)行指導(dǎo)。除了這三類典型指導(dǎo)對象外，還有一種指導(dǎo)對象，其占據(jù)著社會的絕大多數(shù)，但是在戰(zhàn)略中失權(quán)、失語。更重要的是沒有具體行動指導(dǎo)，多數(shù)情況下只有籠統(tǒng)的只言片語涉及這類對象，這就是一般的社會參與者，也是智能社會主要構(gòu)成者。如果沒有人工智能戰(zhàn)略重點關(guān)注和指導(dǎo)一般的社會參與者，那么整個社會從總體上看就是 “被負(fù)責(zé)任”狀態(tài)。這既不是真正意義上讓大眾享受智能時代的紅利，也不利于培養(yǎng)智能時代負(fù)責(zé)任的社會公眾。因此，應(yīng)當(dāng)完善現(xiàn)有人工智能治理框架，使其更關(guān)注一般社會參與者，從而構(gòu)建起負(fù)責(zé)任的智能社會。

3 構(gòu)建 “負(fù)責(zé)任”的人工智能治理路徑

(1)培育適應(yīng)與接受的責(zé)任。人工智能發(fā)展戰(zhàn)略應(yīng)該指導(dǎo)一般社會參與者適應(yīng)與接受智能社會的經(jīng)濟(jì)基礎(chǔ)、技術(shù)基礎(chǔ)與文化基礎(chǔ)。智能經(jīng)濟(jì)是一種新形態(tài)的知識經(jīng)濟(jì)，共享與開放是其精神內(nèi)核，需要引導(dǎo)社會參與者把共享與開放作為新的社會經(jīng)濟(jì)行動本質(zhì)。專業(yè)知識與智能行為的分離，將要促成新的產(chǎn)業(yè)模式，所謂的技術(shù)性失業(yè)只是經(jīng)濟(jì)轉(zhuǎn)型的一個隨附現(xiàn)象，而如何加入新的經(jīng)濟(jì)共同體才是社會大眾需要關(guān)注的內(nèi)容。智能時代比以往的工業(yè)階段更注重物質(zhì)化的技術(shù)設(shè)備，尤其是個人化設(shè)備的完整性，超越以往任何一個產(chǎn)業(yè)時代。如何使用個人智能設(shè)備，不只是一個用戶說明書的問題，更是達(dá)成社會同步、分享數(shù)字紅利、提高知識生產(chǎn)率的社會問題，把握智能設(shè)備的邏輯是每個社會成員的責(zé)任。同時，智能時代有的不僅是新的智能文化興起，更是對于傳統(tǒng)的人文精神的反思。人類中心論以及其衍生的智能優(yōu)越論與智能文化存在較大的沖突，并且人類道德共同體也在新的智能文化中被反思：文化包容性的邊界在哪里？人工智能戰(zhàn)略需要指導(dǎo)一般的社會參與者從自身出發(fā)，適應(yīng)與接受社會其他成員對于人工智能的觀點與互動方式，構(gòu)建有共識基礎(chǔ)、互動良好的人類命運共同體。2016年英國下議院科學(xué)與技術(shù)委員會發(fā)布的人工智能英國報告，要求每個人都要考慮人工智能可能給我們帶來的技術(shù)風(fēng)險與社會不良后果。我國在 《新一代人工智能治理原則》中要求提升弱勢群體適應(yīng)性，努力消除數(shù)字鴻溝。這些戰(zhàn)略和政策建議不只是從社會環(huán)境方面基于大眾發(fā)展支持，更重要的是提供了關(guān)鍵的信息：接受與適應(yīng)也是每個個人的責(zé)任，這種責(zé)任的實現(xiàn)途徑很重要的一個方面就是要轉(zhuǎn)變思想、與時代接軌，但是具體如何實現(xiàn)這種責(zé)任以及應(yīng)當(dāng)設(shè)立哪些可操作性的條款，仍然需要我們進(jìn)行持續(xù)探索。

(2)完成教育與轉(zhuǎn)型的責(zé)任。如何促成個人對自我的教育以及使用社會提供的教育資源，是完成智能教育和職業(yè)轉(zhuǎn)型的關(guān)鍵。人工智能的發(fā)展戰(zhàn)略需要特別關(guān)注與機器協(xié)作的能力以及與智能環(huán)境的互動能力。與機器協(xié)作能力特指在協(xié)作中的自我建設(shè)，以及一般意義上職業(yè)機器化的常識。協(xié)作中的自我建設(shè)包括道德與法律知識的學(xué)習(xí)與運用，目前人工智能的立法與規(guī)范還主要是針對設(shè)計者，要求設(shè)計者在技術(shù)環(huán)節(jié)努力克服在使用中可能造成的法律、道德困境。但是對于已經(jīng)投入到社會使用情景的智能機器，尤其是社會機器人，其與設(shè)計者、立法者的自主性聯(lián)系已經(jīng)非常薄弱，這主要是因為智能機器在行動中具有一定程度的自主性與意向性所決定的，所以如何在與機器的互動中認(rèn)清基本的道德、法律責(zé)任劃分，保持自我的道德感、不被與機器的互動影響與人的互動，是一個自我建設(shè)的責(zé)任。而更現(xiàn)實的問題是，機器在不斷替代人類的勞動種類與崗位，個人轉(zhuǎn)型在智能時代也需要思考與自我實現(xiàn)。自我轉(zhuǎn)型與國家人工智能戰(zhàn)略是相輔相成的，沒有個人對于自己職業(yè)的規(guī)劃與再教育的實現(xiàn)，就無法實現(xiàn)智能機器在產(chǎn)業(yè)中的變革性應(yīng)用。在 《為人工智能的未來做好準(zhǔn)備》中，美國提出教育和培養(yǎng)美國人在人工智能時代工作的能力，為的就是讓民眾適應(yīng)智能時代的工作環(huán)境。我國 《新一代人工智能治理原則》提出，應(yīng)促進(jìn)包容發(fā)展，加強人工智能教育及科普； 《政府間人工智能推薦性原則和建議》也提出， “人工智能系統(tǒng)應(yīng)該具有透明度并負(fù)責(zé)任地披露信息以保障人類與人工智能互動過程中的知情權(quán)，尤其是在理解和質(zhì)疑人工智能自動化決策和結(jié)果方面”。可見，各國在戰(zhàn)略層面已經(jīng)把教育與職業(yè)作為人工智能的重要問題，但是如何在個人層面實現(xiàn)，無疑特別需要對大眾進(jìn)行指導(dǎo)。

(3)實現(xiàn)與機器共存的責(zé)任。維護(hù)經(jīng)典的人類地位、對技術(shù)應(yīng)用持悲觀態(tài)度是常見的抗拒機器的現(xiàn)象。與機器共存不是否定人的價值與地位，也不是迷信與夸大技術(shù)物功能。與機器共存要解決的核心問題是構(gòu)建一套兼容智能機器的社會規(guī)范體系，以便時刻可以考慮到機器對于人類社會的影響，以及人與機器的劃界問題。這對于社會中的個人來說，也是重新評估自我生存環(huán)境的過程。各國已經(jīng)開始布局智能機器深度參與的社會環(huán)境，例如，法國總理馬卡龍2018年3月在法蘭西學(xué)院的人工智能峰會上提出，要在法國和歐洲創(chuàng)建人工智能生態(tài)系統(tǒng)；日本政府在 《下一代人工智能戰(zhàn)略》中計劃，在第三階段 (2030—)使護(hù)理機器人成為家族一員，實現(xiàn)出行自動化及無人駕駛普及。智能社會不僅需要對機器的社會化程度與社會性本質(zhì)進(jìn)行討論，更需要關(guān)注人的再社會化問題，而人在智能社會中的再社會化的核心就是與機器在社會中共同行動。簡單地排斥機器應(yīng)用、唱衰人工智能的發(fā)展前景，并不有助于人類生存，在社會深度智能化的同時，個人首先需要轉(zhuǎn)變思想，確立與機器共存的理念。

中國被視為人工智能領(lǐng)域中的領(lǐng)先國家，是構(gòu)建全球人工智能倫理和治理的重要力量，是國際人工智能規(guī)則的重要制定者。智能革命是從心智到智能的革命，中國社會具有最多的人類心智樣本與數(shù)據(jù)，一定意義上占有智能時代最豐富的物質(zhì)生產(chǎn)資料。我們需要把這種物質(zhì)上的豐富性轉(zhuǎn)化成話語權(quán)與決策權(quán)，并秉承開放與共享的態(tài)度，惠及與我們所制定的規(guī)范相接軌的國家與地區(qū)，構(gòu)建智能時代的人類命運共同體。中國特色的治理現(xiàn)代化模式正在為全球人工智能治理提供新的道路。習(xí)近平指出，“加強和創(chuàng)新社會治理，關(guān)鍵在體制創(chuàng)新，核心是人?！蹦壳案鲊娜斯ぶ悄苤卫砟Ｊ疥P(guān)注的是少數(shù)人、核心利益既得者，沒有把最普遍的人民群眾作為出發(fā)點與指導(dǎo)對象。而我國的治理現(xiàn)代化模式把人作為首位，從社會中具體的人的角度出發(fā)，形成社會共識與有效的溝通、變革機制，這是人工智能時代的中國道路、中國方案。