人工智能：國(guó)家治理的契機(jī)、挑戰(zhàn)與應(yīng)對(duì)

張愛(ài)軍

（西北政法大學(xué) 新聞傳播學(xué)院，西安710122）

人工智能主要在四個(gè)層面展開(kāi)：第一個(gè)層面是在科技界研發(fā)并應(yīng)用；第二個(gè)層面是第三部門(mén)對(duì)人工智能的后果進(jìn)行評(píng)估；第三個(gè)層面是公共權(quán)力部門(mén)對(duì)人工智能的應(yīng)用和指導(dǎo)，比如2019年6月17日，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出人工智能治理的框架和行動(dòng)指南；第四個(gè)層面是學(xué)術(shù)界對(duì)人工智能的學(xué)理研究，并取得了相應(yīng)的學(xué)術(shù)研究成果。就學(xué)術(shù)界相關(guān)研究而言，其研究主要集中在人工智能法律、倫理、社會(huì)問(wèn)題等領(lǐng)域，但在人工智能與國(guó)家治理的關(guān)系方面，還有一定的不足和欠缺。2019年10月31日中國(guó)共產(chǎn)黨第十九屆中央委員會(huì)第四次全體會(huì)議指出：“通過(guò)堅(jiān)持和完善中國(guó)特色社會(huì)主義制度，推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化，是全黨的一項(xiàng)重大戰(zhàn)略任務(wù)?！痹诖吮尘跋?，深入研究人工智能與國(guó)家治理的關(guān)系，無(wú)疑具有重要的戰(zhàn)略意義、理論意義和實(shí)踐意義。正如尤瓦爾·赫拉利所言：“當(dāng)你作為一個(gè)個(gè)人、一家企業(yè)、政府部門(mén)，或者作為精英階層，我們?cè)谧鋈斯ぶ悄艿臅r(shí)候，做各種各樣決定的時(shí)候，一定要注意人工智能不僅僅是單純的技術(shù)問(wèn)題，同時(shí)也要注意到人工智能以及其他技術(shù)的發(fā)展，將會(huì)對(duì)社會(huì)、經(jīng)濟(jì)、政治產(chǎn)生深遠(yuǎn)的影響”［1］。

一、人工智能為國(guó)家治理提供了新契機(jī)

人工智能推動(dòng)了國(guó)家治理體系的現(xiàn)代化。從人類(lèi)歷史發(fā)展的角度來(lái)說(shuō)，生產(chǎn)力是人類(lèi)社會(huì)發(fā)展的最終決定力量，科學(xué)技術(shù)是第一生產(chǎn)力，既決定經(jīng)濟(jì)基礎(chǔ)的變化，也決定上層建筑的變化。作為上層建筑的國(guó)家制度，必然深受科學(xué)技術(shù)的支配和影響。從現(xiàn)實(shí)來(lái)說(shuō)，網(wǎng)絡(luò)技術(shù)、人工智能技術(shù)為國(guó)家治理體系的現(xiàn)代化不但提供了可能性，也提供了現(xiàn)實(shí)性，而且人工智能在國(guó)家治理的應(yīng)用已經(jīng)較為廣泛。國(guó)家治理體系的現(xiàn)代化和治理能力的現(xiàn)代化，是系統(tǒng)工程的現(xiàn)代化，是由體系轉(zhuǎn)化為效能的現(xiàn)代化。國(guó)家治理體系現(xiàn)代化的重要標(biāo)志，就是對(duì)人工智能的應(yīng)用。人工智能與國(guó)家治理體系的現(xiàn)代化互相推進(jìn)。一方面，國(guó)家治理體系現(xiàn)代化需要人工智能的助推；另一方面，將人工智能應(yīng)用到治理體系的過(guò)程中，在一定程度上改變了國(guó)家治理體系的運(yùn)行機(jī)制、橫向結(jié)構(gòu)、縱向結(jié)構(gòu)、組織形式。具體地說(shuō)，國(guó)家制度現(xiàn)代化的各個(gè)層面，都需要人工智能提供技術(shù)性支撐。

第一，人工智能推動(dòng)了國(guó)家對(duì)輿論的治理。公共權(quán)力有關(guān)部門(mén)在國(guó)家治理體系和治理能力現(xiàn)代化原則的規(guī)制下，有效地引導(dǎo)了社會(huì)輿論、經(jīng)濟(jì)輿論、文化輿論和政治輿論向良性方面發(fā)展，并在控制、引導(dǎo)、疏通、規(guī)制社會(huì)輿論中取得了明顯成效。從人工智能概念提出到廣泛應(yīng)用，其對(duì)現(xiàn)實(shí)社會(huì)公眾生活方式產(chǎn)生影響的同時(shí)，也作用于網(wǎng)絡(luò)虛擬社會(huì)。進(jìn)入新發(fā)展階段，人工智能逐漸強(qiáng)化“智”與“能”，將信息傳播過(guò)程中的信息收集、生產(chǎn)與分發(fā)環(huán)節(jié)融合為一體化的算法傳播模式，增強(qiáng)信息傳播效果。具體到網(wǎng)絡(luò)情緒傳播中，人工智能技術(shù)在互聯(lián)網(wǎng)技術(shù)傳播優(yōu)勢(shì)的基礎(chǔ)上，強(qiáng)化網(wǎng)絡(luò)情緒傳播過(guò)程中的表達(dá)、體驗(yàn)與聚合環(huán)節(jié)，并將傳播效果擴(kuò)大化。傳播效果影響網(wǎng)絡(luò)受眾的認(rèn)知、態(tài)度與行為，從而引發(fā)現(xiàn)實(shí)社會(huì)問(wèn)題。多元意識(shí)形態(tài)分為主流意識(shí)形態(tài)和非主流意識(shí)形態(tài)，對(duì)于主流意識(shí)形態(tài)來(lái)說(shuō)，開(kāi)放性、整合性、流動(dòng)性是主流意識(shí)形態(tài)保持活力的重要條件。對(duì)于非主流意識(shí)形態(tài)來(lái)說(shuō)，應(yīng)該與主流意識(shí)形態(tài)互動(dòng)，實(shí)現(xiàn)意識(shí)形態(tài)的動(dòng)態(tài)平衡，防止去主流意識(shí)形態(tài)的中心化和非主流意識(shí)形態(tài)的原教旨化，才能使非主流意識(shí)形態(tài)具有存在的合理性和正當(dāng)性。

中共十九大報(bào)告指出：“意識(shí)形態(tài)決定文化前進(jìn)方向和發(fā)展道路。必須推進(jìn)馬克思主義中國(guó)化時(shí)代化大眾化，建設(shè)具有強(qiáng)大凝聚力和引領(lǐng)力的社會(huì)主義意識(shí)形態(tài)，使全體人民在理想信念、價(jià)值理念、道德觀念上緊緊團(tuán)結(jié)在一起?！保?］34因此，要不斷“加強(qiáng)互聯(lián)網(wǎng)內(nèi)容建設(shè)，建立網(wǎng)絡(luò)綜合治理體系，營(yíng)造清朗的網(wǎng)絡(luò)空間”；要“堅(jiān)持正確輿論導(dǎo)向，高度重視傳播手段建設(shè)和創(chuàng)新，提高新聞?shì)浾搨鞑チ?、引?dǎo)力、影響力、公信力。”［2］34中共十九大報(bào)告指明了網(wǎng)絡(luò)空間治理的方向。

從國(guó)家治理體系來(lái)說(shuō)，人工智能的重要標(biāo)志就是“政治機(jī)器人”的出現(xiàn)?！罢螜C(jī)器人是在社交媒體空間中專(zhuān)門(mén)執(zhí)行政治傳播任務(wù)的一類(lèi)社交機(jī)器人，運(yùn)營(yíng)者借助算法技術(shù)注冊(cè)并運(yùn)營(yíng)大量社交媒體賬號(hào)，以虛假的個(gè)人身份與盡可能多的目標(biāo)用戶(hù)建立聯(lián)系，傳播運(yùn)營(yíng)者的政治訴求并力圖影響輿論?！保?］17從西方政治來(lái)看，“政治機(jī)器人的存在和進(jìn)化不可避免，隨著社交網(wǎng)絡(luò)的發(fā)展，政治機(jī)器人正在成為一種重要政治手段參與到網(wǎng)絡(luò)政治表達(dá)當(dāng)中，政治機(jī)器人開(kāi)始與真人競(jìng)爭(zhēng)網(wǎng)民的信任”［3］23。

人工智能通過(guò)算法權(quán)力引導(dǎo)政府作出決策，從而形成一股不可小覷的力量［4］。算法權(quán)力具有先進(jìn)性，它能夠利用技術(shù)實(shí)現(xiàn)新型的引導(dǎo)［5］。馬克斯·韋伯指出：“權(quán)力意味著在一種社會(huì)關(guān)系里，哪怕是遇到反對(duì)也能貫徹自己意志的任何機(jī)會(huì)，不管這種機(jī)會(huì)是建立在什么基礎(chǔ)上?！保?］算法權(quán)力是一種“準(zhǔn)公權(quán)力”。這種技術(shù)權(quán)力以治理為目標(biāo)，不但體現(xiàn)著宏觀的政治管理和結(jié)構(gòu)，而且也表現(xiàn)為對(duì)個(gè)人和群體行為的直接引導(dǎo)。

第二，人工智能推動(dòng)了國(guó)家治理能力的現(xiàn)代化。治理能力的現(xiàn)代化，一方面，表現(xiàn)在治理主體能力的現(xiàn)代化，表現(xiàn)在治理的理性化、公平化、客觀化，與治理的主觀化、官僚化、任意化等相對(duì)，其核心指標(biāo)是指以人民為中心的治理現(xiàn)代化，沒(méi)有以人民為中心的治理現(xiàn)代化，治理能力的現(xiàn)代化就無(wú)從談起；另一方面指治理客體獲得感、滿(mǎn)足感、幸福感、尊嚴(yán)感、價(jià)值感的不斷提升。人工智能利用大數(shù)據(jù)獲得與國(guó)家治理有關(guān)的相關(guān)性和客觀性數(shù)據(jù)，為國(guó)家治理提供客觀性的決策參考，防止國(guó)家治理決策方面的隨意性和主觀性。人工智能利用算法，對(duì)國(guó)家治理作出的決策進(jìn)行有針對(duì)性的推送，防止國(guó)家治理方面的官僚化。對(duì)于治理的客體來(lái)說(shuō)，社會(huì)民眾與人工智能獲得的有效信息、客觀決策、治理績(jī)效、治理主體能力等產(chǎn)生互動(dòng)，增加獲得感、滿(mǎn)足感、幸福感、尊嚴(yán)感、價(jià)值感。就網(wǎng)絡(luò)政治輿論、政治輿情、政治意識(shí)形態(tài)治理來(lái)說(shuō)，人工智能的引導(dǎo)，節(jié)省了國(guó)家治理的精力成本、時(shí)間成本、規(guī)模成本、效能成本，使國(guó)家治理主體集中精力，對(duì)涉及國(guó)家利益、國(guó)家主權(quán)、國(guó)家根本政治制度、根本意識(shí)形態(tài)的問(wèn)題進(jìn)行控制和規(guī)訓(xùn)。

第三，人工智能推動(dòng)了國(guó)家治理的效率化。國(guó)家治理的效率化同樣包括國(guó)家治理體系和治理能力的效率化，這方面的效率化核心是效能指數(shù)不斷提升。只有把效率化轉(zhuǎn)化為效能指數(shù)，并在效能指數(shù)提升的前提下提升和固化治理質(zhì)量，才能說(shuō)國(guó)家治理體系和治理能力水平真正現(xiàn)代化了。人工智能在這方面具有助推的作用。這主要表現(xiàn)在社會(huì)治理、政治治理、經(jīng)濟(jì)治理和文化治理四個(gè)方面。比如，人工智能通過(guò)人臉識(shí)別和指紋識(shí)別，會(huì)及時(shí)找出危害社會(huì)穩(wěn)定的群體和個(gè)人，既能及時(shí)化解社會(huì)不穩(wěn)定因素，又能及時(shí)化解威脅政治的不穩(wěn)定因素。人工智能通過(guò)大數(shù)據(jù)和算法，跟蹤和控制不利于經(jīng)濟(jì)發(fā)展和文化進(jìn)步的非主流極化的意識(shí)形態(tài)的文化安全因素，并為國(guó)家公共權(quán)力及時(shí)提供預(yù)警決策信息和決策參考，從而及時(shí)有效地維護(hù)社會(huì)穩(wěn)定。

第四，人工智能推動(dòng)了國(guó)家治理能力的智慧化。國(guó)家治理體系與治理能力現(xiàn)代化主要是通過(guò)政府來(lái)完成的，國(guó)家治理體系和治理能力現(xiàn)代化也主要是通過(guò)智慧型政府來(lái)完成的。“所謂智慧政府，是指公共部門(mén)以一定的社會(huì)需要為前提，以國(guó)家法律法規(guī)為依據(jù)，在客觀技術(shù)條件允許的情況下充分利用物聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)分析、移動(dòng)互聯(lián)網(wǎng)等新一代信息技術(shù)，以用戶(hù)創(chuàng)新、大眾創(chuàng)新、開(kāi)放創(chuàng)新、共同創(chuàng)新為切入點(diǎn)而開(kāi)展的一系列決策／政務(wù)智能化措施。”［7］在這方面，人工智能將發(fā)揮更為重要的作用。人工智能主要體現(xiàn)在“智”上，人工智能不是人的智能，但能像人那樣思考、也可能超過(guò)人的智能。人工智能雖然在人的感覺(jué)、知覺(jué)、情感認(rèn)知等人的自然體方面沒(méi)有超過(guò)人類(lèi)，但在智的某些方面則遠(yuǎn)遠(yuǎn)超過(guò)了人類(lèi)，它不僅是對(duì)人的意識(shí)、思維信息過(guò)程的簡(jiǎn)單模擬，還可以在“智”上進(jìn)行判斷、推理甚至創(chuàng)新。就智能化社會(huì)治理而言，一方面，人工智能可以充分利用大數(shù)據(jù)提升智慧化政府的能力，通過(guò)人工智能“在利用大數(shù)據(jù)強(qiáng)大的數(shù)據(jù)采集和分析能力，結(jié)合社會(huì)治理理論和互聯(lián)網(wǎng)技術(shù)，將復(fù)雜的社會(huì)運(yùn)行體系映射在多維、動(dòng)態(tài)的數(shù)據(jù)體系之中，實(shí)現(xiàn)對(duì)社會(huì)運(yùn)行規(guī)律、社會(huì)偏好（訴求）變化趨勢(shì)及規(guī)律、政府回應(yīng)機(jī)制及效果差異等實(shí)時(shí)、數(shù)量化、可視化的觀測(cè)，不斷積累社會(huì)運(yùn)行的數(shù)據(jù)特征以應(yīng)對(duì)各類(lèi)社會(huì)風(fēng)險(xiǎn)、提升社會(huì)治理有效性”［8］；另一方面，人工智能可以進(jìn)入經(jīng)濟(jì)政治決策、控制系統(tǒng)、仿真系統(tǒng)，推動(dòng)傳統(tǒng)型治理向智慧型治理轉(zhuǎn)化。

第五，人工智能推動(dòng)了國(guó)家治理的理性化。國(guó)家治理體系和治理能力現(xiàn)代化有其自身的理性和自主性，通過(guò)理性與自主性使權(quán)力運(yùn)行不斷顯現(xiàn)公平性。韋伯通過(guò)國(guó)家官僚制的視角闡述國(guó)家的自主性，“正式的國(guó)家官僚科層結(jié)構(gòu)，被認(rèn)為是以其系統(tǒng)的自主性尋求權(quán)力運(yùn)作的中立，以獨(dú)立的、且非人格化的專(zhuān)業(yè)精神尋求權(quán)力運(yùn)用的客觀與公正，并以明確的規(guī)則體系和計(jì)算的理性，謀求權(quán)力行使的公平與效率”［9］。具體到國(guó)家治理的現(xiàn)代化同樣要求其自主性和理性化，人工智能本身及其功能應(yīng)用，對(duì)國(guó)家治理的助推基于理性化。這是因?yàn)槿斯ぶ悄芫哂械臋C(jī)器視覺(jué)、指紋識(shí)別、人臉識(shí)別、視網(wǎng)膜識(shí)別、虹膜識(shí)別、掌紋識(shí)別、專(zhuān)家系統(tǒng)、自動(dòng)規(guī)劃、智能搜索、定理證明、博弈、自動(dòng)程序設(shè)計(jì)、智能控制遺傳編程等都是源于理性。人工智能“機(jī)器學(xué)習(xí)”的基本構(gòu)成是“統(tǒng)計(jì)學(xué)”、“信息論”和“控制論”，還有對(duì)“經(jīng)驗(yàn)”的依賴(lài)性都是基于理性，就其本質(zhì)而言是對(duì)人的思維的信息過(guò)程的功能性模擬，人工智能的理性化對(duì)于國(guó)家權(quán)力的自主性運(yùn)行、自主性決策無(wú)疑具有重要作用。

二、人工智能為國(guó)家治理帶來(lái)新問(wèn)題

人工智能在為國(guó)家治理帶來(lái)便利的同時(shí)，也給國(guó)家治理帶來(lái)新的問(wèn)題。人工智能的技術(shù)進(jìn)路會(huì)讓價(jià)值迷失，導(dǎo)致治理上的極化和“一刀切”，助長(zhǎng)公共權(quán)力懶政甚至濫政，缺少人性化關(guān)懷，侵犯?jìng)€(gè)人隱私，使人工智能的技術(shù)化與國(guó)家治理的人性化發(fā)生矛盾和沖突。

第一，人工智能具有技術(shù)理性取代價(jià)值理性的可能性與現(xiàn)實(shí)性。任何社會(huì)都需要人的情感關(guān)懷和價(jià)值關(guān)懷。情感是人類(lèi)所固有的，也是人類(lèi)所訴求的，是人類(lèi)社會(huì)聯(lián)系的紐帶。如果說(shuō)西方是權(quán)利本體，是以權(quán)利為核心形成的差序格局，那么中國(guó)就是情本位，是以情感為本位形成的由血緣地緣向外拓展的差序格局，用李澤厚的話(huà)來(lái)說(shuō)，中國(guó)是一個(gè)“情本體”的社會(huì)，情感關(guān)懷始終是中國(guó)傳統(tǒng)文化的組成部分。作為公共權(quán)力的行使者，無(wú)論如何都要做到愛(ài)民、恤民，做到以人為本。以人民為中心從情感上來(lái)說(shuō)，就是以愛(ài)人民為中心。情感關(guān)懷與價(jià)值密不可分、互相推進(jìn)、互為表里，失去了價(jià)值關(guān)懷就失去了情感依托，失去了情感依托的價(jià)值也就失去了意義。人工智能是技術(shù)本位，其應(yīng)用過(guò)程貫穿的是技術(shù)理性，顯然不具有人的情感，僅通過(guò)人工智能進(jìn)行的治理，缺少了情感內(nèi)容，治理主體和客體同時(shí)缺少情感體驗(yàn)，“冷冰冰”的過(guò)度理性治理，顯然會(huì)事倍功半。即便是人工智能具備了初步情感，在人工智能的過(guò)程中實(shí)現(xiàn)情感治理互動(dòng)，也難以適應(yīng)人類(lèi)豐富且具有高度復(fù)雜性的情感體驗(yàn)和情感回應(yīng)。

第二，人工智能具有使國(guó)家治理“一刀切”的可能性與現(xiàn)實(shí)性。國(guó)家治理可以從不同的角度來(lái)劃分，比如，從縱向的角度來(lái)說(shuō)，可以分為宏觀治理、中觀治理、微觀治理三個(gè)層面。從橫向的角度來(lái)說(shuō)，可以分為跨地域治理、跨地區(qū)治理、跨中心治理三個(gè)層面。從中心化的角度來(lái)說(shuō)，可以劃分為中心治理和去中心治理。從內(nèi)容的角度來(lái)說(shuō)，可以分為經(jīng)濟(jì)治理、政治治理、社會(huì)治理、文化治理、族群治理。國(guó)家治理需要具體問(wèn)題具體分析、具體決策，從而使治理具有內(nèi)容的豐富性和形式的多樣性，其目的是讓國(guó)家有動(dòng)力、社會(huì)有活力，調(diào)動(dòng)中央和地方的積極性，并實(shí)現(xiàn)良性的縱向和橫向互動(dòng)。人工智能的出現(xiàn)，打破了治理的各個(gè)層面，并滲透到各個(gè)領(lǐng)域、各個(gè)方面、各個(gè)群體乃至個(gè)人。人工智能的理性化和普遍化，使得人工智能在治理的過(guò)程中，不可避免地出現(xiàn)治理極化的“一刀切”現(xiàn)象，從而會(huì)不斷地浸入人的各種行為之中，并使治理的客體模式化。人工智能應(yīng)用的理性化與“一刀切”，既影響了國(guó)家治理的動(dòng)力，也影響了社會(huì)的活力。

第三，人工智能具有助長(zhǎng)治理主體懶政和濫政的可能性與現(xiàn)實(shí)性。懶政與濫政是權(quán)力濫用的兩種主要表現(xiàn)方式。從人類(lèi)心理學(xué)上說(shuō)，人天生具有一定的惰性，具有治理權(quán)力的主體同樣難以避免天生的惰性。從人過(guò)去對(duì)經(jīng)驗(yàn)的依賴(lài)到人對(duì)人工智能的依賴(lài)，不是惰性的減少，而是惰性的增加，治理主體會(huì)產(chǎn)生對(duì)人工智能的心理依賴(lài)，形成并固化對(duì)人工智能的心理依賴(lài)路徑，導(dǎo)致懶政盛行。也就是說(shuō)，從對(duì)人工智能大數(shù)據(jù)獲取的依賴(lài)到算法推送的依賴(lài)，都會(huì)產(chǎn)生懶政的行為。濫政則是對(duì)人工智能的濫用而引發(fā)的治理權(quán)力失范。從一般意義上說(shuō)，權(quán)力容易導(dǎo)致濫用，絕對(duì)權(quán)力容易絕對(duì)濫用。從人工智能的角度來(lái)說(shuō)，人工智能盡管是人類(lèi)的輔助性工作，但如果人類(lèi)把助長(zhǎng)權(quán)力濫用的程序輸入到人工智能身上，就會(huì)釋放權(quán)力濫用的潘多拉寶盒，或者說(shuō)是給權(quán)力濫用插上了翅膀，人工智能就成為濫政的有效工具。誤用、濫用、利用人工智能，一方面會(huì)導(dǎo)致國(guó)家治理對(duì)抗或者大公司與大公司的對(duì)抗，另一方面也會(huì)造成對(duì)公民權(quán)利的直接傷害和間接傷害。人工智能濫政的實(shí)質(zhì)，是對(duì)治理客體的全方面無(wú)限度的治理，治理的無(wú)邊界化引發(fā)人工智能對(duì)社會(huì)的全方面滲透，也是對(duì)治理客體的全方位折騰，治理客體因此也沒(méi)有回旋的余地。

第四，人工智能具有使國(guó)家治理缺少人性化的可能性與現(xiàn)實(shí)性。任何國(guó)家的治理都需要人性化的注入，離開(kāi)了人性化的國(guó)家治理，終歸難以走向長(zhǎng)遠(yuǎn)。人性化治理，治理主體既要由己推人，充分考慮到人性的不完美帶來(lái)治理的局限，又要考慮到人性化治理的邊界。事無(wú)巨細(xì)的治理，只會(huì)增加治理的成本，治理的收益則呈現(xiàn)出邊際遞減，并讓治理客體不堪重負(fù)。人性化治理既要充分考慮治理客體的訴求，又要讓治理客體增加滿(mǎn)足感、價(jià)值感和尊嚴(yán)感。人工智能參與治理減少了治理主體的人性化投入，極大地降低了人性化治理的時(shí)間精力和規(guī)模成本，可以全天候地進(jìn)行治理。但是，人工智能即便是輔助性參與國(guó)家治理，由于缺少了人性化元素，將使治理客體難以承受被治理之重。人工智能即便與治理客體互動(dòng)，人工智能也是機(jī)械，沒(méi)有人性化的互動(dòng)，治理客體由最初的對(duì)人工智能治理的新鮮感最終轉(zhuǎn)化為厭倦感。人工智能也難以適應(yīng)人性化的復(fù)雜性和多變性，一種機(jī)械式的互動(dòng)應(yīng)付不了不斷變化的人性。人工智能導(dǎo)致的治理異化，會(huì)使“單向度”的治理客體極化。

第五，人工智能具有導(dǎo)致國(guó)家歧視性治理的可能性與現(xiàn)實(shí)性。人工智能的特點(diǎn)是把治理客體進(jìn)行分層分類(lèi)。人們通過(guò)對(duì)人工智能輸入特殊的程序，使人工智能對(duì)不同類(lèi)型人進(jìn)行分類(lèi)治理。人工智能的基本元素就是算法，因此產(chǎn)生了“算法歧視”?！八惴▋A向于將歧視固化或者放大，使歧視自我長(zhǎng)存于整個(gè)算法里面?！彼惴Q策不僅僅會(huì)將過(guò)去的歧視做法代碼化，而且會(huì)創(chuàng)造自己的現(xiàn)實(shí)，形成一個(gè)“自我實(shí)現(xiàn)的歧視性反饋循環(huán)”［10］。人工智能歧視在社會(huì)分配不公、兩極分化的背景下，會(huì)增加反社會(huì)群體的數(shù)量，也給國(guó)家治理帶來(lái)更大的難度。人臉識(shí)別也同樣如此，通過(guò)人臉識(shí)別，把人分為不同的等級(jí)和層級(jí)，進(jìn)行分類(lèi)治理，也破壞了治理客體的公平性，破壞了社會(huì)主義價(jià)值觀的平等觀。

第六，人工智能具有使國(guó)家治理無(wú)邊界的可能性與現(xiàn)實(shí)性。國(guó)家治理具有明顯的邊界和限度，其中一個(gè)重要邊界就是國(guó)家治理不能侵犯?jìng)€(gè)人隱私。如果國(guó)家治理沒(méi)有限度，國(guó)家利用人工智能侵犯?jìng)€(gè)人隱私也就沒(méi)有了邊界。美國(guó)法學(xué)家沃倫（Samuel D．Warren）與布蘭代斯（Louis D．Brandies）認(rèn)為隱私是一種免受外界干擾的獨(dú)處的權(quán)利［11］。王利明教授認(rèn)為隱私是指自然人的私人秘密和私生活安寧不被外界公開(kāi)和干擾的狀態(tài)［12］。人工智能以大數(shù)據(jù)為支撐，更容易侵犯?jìng)€(gè)人隱私的權(quán)利，從而使人變成沒(méi)有價(jià)值沒(méi)有尊嚴(yán)的“透明人”。?？碌摹碍h(huán)形監(jiān)獄”對(duì)人進(jìn)行全景式透視在人工智能時(shí)代更甚。人工智能“對(duì)監(jiān)控對(duì)象進(jìn)行識(shí)別”、將數(shù)據(jù)加以存儲(chǔ)和搜索，對(duì)隱私威脅最大化。

人具有天然為惡的可能性與現(xiàn)實(shí)性，這既取決于制度，也取決于人與制度的互動(dòng)博弈。如果人類(lèi)為惡的本性嵌入程序設(shè)計(jì)中就會(huì)助長(zhǎng)人工智能為惡，或者說(shuō)人工智能就會(huì)被不良之人利用，給國(guó)家治理帶來(lái)災(zāi)難性的后果。

三、對(duì)人工智能濫用誤區(qū)的應(yīng)對(duì)

對(duì)人工智能的濫用，目前缺少相應(yīng)有效的針對(duì)性措施，但以下四個(gè)方面的措施仍然是必不可少的。只有采取必要措施，才能把人工智能治理給國(guó)家治理帶來(lái)的難度最小化。

第一，加強(qiáng)人工智能設(shè)計(jì)應(yīng)用人員的倫理建設(shè)。“一直以來(lái)，道德倫理的責(zé)任主體必須是人，若因AI引發(fā)倫理危機(jī)而對(duì)算法設(shè)計(jì)者進(jìn)行道德問(wèn)責(zé)，就忽視了設(shè)計(jì)者與受害人之間不存在直接因果關(guān)系的事實(shí)。但是，這并不意味著算法設(shè)計(jì)者可以不必努力尋找讓AI的決策更具倫理意義的技術(shù)，恰恰相反，設(shè)計(jì)者應(yīng)當(dāng)審慎地在算法中嵌入當(dāng)下社會(huì)的主流倫理觀”［13］。人工智能的前提是人工，是人賦予機(jī)器以智能。賦予機(jī)器以人工智能，需要在人工智能的設(shè)計(jì)推廣應(yīng)用中使設(shè)計(jì)推廣應(yīng)用的人具有良善倫理。人工智能的倫理與價(jià)值的實(shí)質(zhì)是人的倫理價(jià)值，即人權(quán)倫理、責(zé)任倫理、道德倫理以及環(huán)境倫理等問(wèn)題。西方很多國(guó)家都關(guān)注人工智能論理問(wèn)題，美國(guó)強(qiáng)調(diào)“要改進(jìn)公平性、透明度和設(shè)計(jì)責(zé)任機(jī)制”［14］；日本人工智能學(xué)會(huì)的倫理委員會(huì)強(qiáng)調(diào)“存在無(wú)關(guān)故意與否，有成為有害之物的可能性”。不但要在整個(gè)社會(huì)加強(qiáng)人工智能的倫理教育，而且更應(yīng)該加強(qiáng)對(duì)人工智能的程序設(shè)計(jì)人員、推廣人員、應(yīng)用人員的倫理教育。

第二，人工智能治理與國(guó)家治理相結(jié)合。如前所述，人工智能是非人性化的技術(shù)治理，國(guó)家治理是人性化的治理，二者各有優(yōu)缺點(diǎn)。優(yōu)化的治理應(yīng)該是人工智能治理與國(guó)家治理的結(jié)合。人工智能治理與國(guó)家治理在結(jié)合的過(guò)程中，要處理好二者的關(guān)系。

一是主輔關(guān)系。人工智能在國(guó)家治理應(yīng)用的過(guò)程中，以國(guó)家治理為主，以人工智能治理為輔，只有實(shí)現(xiàn)二者的整合，才能發(fā)揮共同治理的優(yōu)勢(shì)。如果以人工智能治理為主，以國(guó)家治理為輔，主輔換位，國(guó)家治理將會(huì)出現(xiàn)問(wèn)題。微信就出現(xiàn)了主輔越位、主輔倒掛現(xiàn)象。例如，在微信的治理中，一旦出現(xiàn)敏感詞就會(huì)出現(xiàn)微信被封群封號(hào)的情況，而且人工智能用統(tǒng)一的語(yǔ)言回復(fù)說(shuō)傳播謠言。事實(shí)上，很多問(wèn)題都是因?yàn)槿豪锘蛘邆€(gè)人發(fā)表言論但并沒(méi)有威脅到國(guó)家制度、國(guó)家權(quán)力、國(guó)家治理的核心，也沒(méi)有違背社會(huì)主義核心價(jià)值觀，所發(fā)表言論和視頻涉及的問(wèn)題都是討論國(guó)家、社會(huì)、民生的問(wèn)題，更不涉及造謠傳謠。如果是人工操作，知道何種言論能產(chǎn)生何種危害性，會(huì)有針對(duì)性地分析辨別和禁止。但人工智能應(yīng)用在微信上，卻導(dǎo)致“一刀切”現(xiàn)象，一些微信群或個(gè)人“躺地中槍”。從微信這個(gè)視角看，人工智能的智與能，都沒(méi)有達(dá)到人所期待的地步。

二是支配關(guān)系。國(guó)家治理與人工智能治理的關(guān)系是支配和被支配的關(guān)系，人工智能治理必須服從人的治理、國(guó)家治理。國(guó)家具有自主性，通過(guò)國(guó)家權(quán)力結(jié)構(gòu)、制度體系、運(yùn)作機(jī)制來(lái)完成。國(guó)家治理是國(guó)家自主性的重要內(nèi)容，有自身的價(jià)值偏好和發(fā)展目標(biāo)。人工智能的程序設(shè)計(jì)與應(yīng)用，歸根結(jié)底來(lái)源于人、應(yīng)用于人，聽(tīng)從人的指令，沒(méi)有自主性，除非是強(qiáng)人工智能或者超強(qiáng)人工智能的出現(xiàn)才會(huì)發(fā)生國(guó)家治理與人工智能治理關(guān)系的質(zhì)的變化。機(jī)器是人創(chuàng)造的。人工智能是人的附屬品，人不是機(jī)器的附屬品。如果人工智能支配人，人成為人工智能的工具，就會(huì)出現(xiàn)典型的“異化”。既然是人工制造的智能，那么邏輯上就是人支配人工智能，國(guó)家治理支配人工智能治理。

三是助手關(guān)系。人工智能是人的助手，一切都要為人服務(wù)。同樣，人工智能的治理是國(guó)家治理的助手，一切都要為國(guó)家治理服務(wù)。人工智能助手關(guān)系在經(jīng)濟(jì)層面、法律應(yīng)用層面、新媒體應(yīng)用層面、社會(huì)服務(wù)應(yīng)用層面具有突出的表現(xiàn)，但在國(guó)家治理方面、尤其是國(guó)家政治治理方面還沒(méi)有突出的表現(xiàn)。其他方面的突出表現(xiàn)給國(guó)家治理、國(guó)家政治治理提供了示范。人工智能治理既然是助手，那么其服務(wù)的主體就是國(guó)家治理主體，以國(guó)家治理為核心進(jìn)行輔助性治理，但不應(yīng)也不能成為國(guó)家治理過(guò)程中濫權(quán)的工具。

第三，加強(qiáng)人工智能方面的隱私法治建設(shè)，樹(shù)立憲法權(quán)威。在人工智能方面，同樣需要樹(shù)立憲法尊嚴(yán)，維護(hù)憲法尊嚴(yán)。比如在人臉識(shí)別方面，不能把人分為不同的類(lèi)型。在算法方面，不能有算法歧視。在人工智能利用大數(shù)據(jù)方面，不能利用算法推送的方式劃分特定的人群進(jìn)行特定的治理。

一是嚴(yán)格遵循平等原則。艾瑞斯所說(shuō)：“隱私問(wèn)題部分不是大數(shù)據(jù)分析的問(wèn)題，它是數(shù)字化過(guò)程的陰暗面”［15］。如果人工智能利用了這一陰暗面，就成為任意侵犯隱私的工具。法律面前人人平等就意味著隱私面前人人平等，任何人都沒(méi)有超越隱私平等的權(quán)利。大公司、大企業(yè)、公共權(quán)力部門(mén)同樣不可以在不告知不同意的前提下，拿隱私換效率、金錢(qián)、權(quán)力、名譽(yù)和特殊地位，否則就嚴(yán)重違背了平等原則，使人的尊嚴(yán)蕩然無(wú)存。

二是把憲法有關(guān)的隱私權(quán)利轉(zhuǎn)化為具體的隱私權(quán)利。憲法權(quán)利是抽象的普遍性的權(quán)利，落實(shí)憲法權(quán)利，必須構(gòu)建將憲法權(quán)利轉(zhuǎn)化為具體權(quán)利的機(jī)制，加強(qiáng)立法程序建設(shè)、具體權(quán)利落實(shí)機(jī)制建設(shè)。只有把憲法權(quán)利轉(zhuǎn)化為具體權(quán)利，才能切實(shí)保障每個(gè)人的平等權(quán)利。隱私權(quán)也同樣如此，只有把現(xiàn)實(shí)隱私權(quán)、網(wǎng)絡(luò)隱私權(quán)落實(shí)到具體的法律條文上，才能保障每一個(gè)人的尊嚴(yán)和平等。

三是抓緊人工智能隱私權(quán)方面的立法。在這方面，西方國(guó)家已經(jīng)走在前面，可以為中國(guó)在這方面的立法提供借鑒，比如，“歐盟《一般數(shù)據(jù)保護(hù)條例》涉及人工智能數(shù)據(jù)保護(hù)和隱私權(quán)利的所有方面?！兑话銛?shù)據(jù)保護(hù)條例》區(qū)分一般數(shù)據(jù)和敏感數(shù)據(jù)，對(duì)后者進(jìn)行更為嚴(yán)格的保護(hù)。該條例第9條明確規(guī)定：除非各成員國(guó)立法授權(quán)，辨識(shí)種族或民族出身、政治觀點(diǎn)、宗教哲學(xué)信仰、工會(huì)成員的個(gè)人數(shù)據(jù)以及以識(shí)別自然人為目的的基因數(shù)據(jù)、生物特征數(shù)據(jù)、健康數(shù)據(jù)、自然人的性生活或性取向的數(shù)據(jù)的處理應(yīng)當(dāng)禁止”［16］61。有法律學(xué)者認(rèn)為，中國(guó)已經(jīng)有淵源層級(jí)的《電子商務(wù)法》和規(guī)章層級(jí)的《數(shù)據(jù)安全管理辦法》（征求意見(jiàn)稿），這些都對(duì)算法進(jìn)行了相應(yīng)的規(guī)制。“網(wǎng)絡(luò)運(yùn)營(yíng)者利用大數(shù)據(jù)和人工智能等技術(shù)，通過(guò)算法自動(dòng)合成的新聞信息、博文、帖子、評(píng)論等，應(yīng)當(dāng)以顯著方式表明‘合成’字樣”［16］57。

第四，加強(qiáng)人工智能的風(fēng)險(xiǎn)預(yù)警系統(tǒng)建設(shè)。學(xué)者安尼施·阿塔伊（Anish Athalye）說(shuō)：“我們?cè)跈C(jī)器學(xué)習(xí)領(lǐng)域的研究人員還不習(xí)慣于從安全角度思考問(wèn)題。”麻省理工學(xué)院計(jì)算機(jī)科學(xué)家亞歷山大·馬德里（Aleksander Madry）表示：“我們需要重新考慮機(jī)器學(xué)習(xí)算法的所有路徑，使其更加安全”［17］。

一是加強(qiáng)對(duì)人工智能的預(yù)警系統(tǒng)建設(shè)。目前的人工智能是弱人工智能，既不是強(qiáng)人工智能，更不是超強(qiáng)人工智能，但弱人工智能也具有人的簡(jiǎn)單的感覺(jué)、認(rèn)知、歧視的非理性因素，且具有超越人的智能和非自然人的自我繁殖能力，具有一定的環(huán)境適應(yīng)能力，要防止人工智能自身的“異化”，加強(qiáng)對(duì)人工智能預(yù)警系統(tǒng)建設(shè)。

二是加強(qiáng)對(duì)人工系統(tǒng)設(shè)計(jì)推廣應(yīng)用人員風(fēng)險(xiǎn)評(píng)估系統(tǒng)體系建設(shè)。相關(guān)部門(mén)要對(duì)這些人員進(jìn)行心理測(cè)試、行為觀察、道德評(píng)估、價(jià)值評(píng)估、人生經(jīng)歷評(píng)估、人生背景評(píng)估，在此基礎(chǔ)上預(yù)測(cè)其設(shè)計(jì)人工智能程序所帶來(lái)的潛在風(fēng)險(xiǎn)。針對(duì)這一特殊群體建立特殊的制度、機(jī)制，使這一群體成為具有現(xiàn)實(shí)操守和負(fù)有使命感的群體。黑客是人工智能的主要威脅。

三是加強(qiáng)對(duì)人工智能運(yùn)行過(guò)程的評(píng)估系統(tǒng)體系建設(shè)。人工智能即便按照程序設(shè)計(jì)運(yùn)行，針對(duì)不同的環(huán)境也會(huì)出現(xiàn)不同的問(wèn)題，甚至?xí)霈F(xiàn)難以預(yù)測(cè)到的風(fēng)險(xiǎn)，比如，根據(jù)敏感詞封群封號(hào)會(huì)引起網(wǎng)民的不滿(mǎn)，根據(jù)人臉識(shí)別來(lái)進(jìn)行分類(lèi)治理，根據(jù)算法進(jìn)行歧視性治理，都具有引發(fā)次生輿論危機(jī)的可能性和現(xiàn)實(shí)性。

四是加強(qiáng)對(duì)人工智能利用結(jié)果的評(píng)估系統(tǒng)體系建設(shè)。人工智能的應(yīng)用風(fēng)險(xiǎn)，在其結(jié)果上更加明顯。社會(huì)治理是國(guó)家治理的基礎(chǔ)組成部分，也是國(guó)家治理的目的。人工智能的大量應(yīng)用，還會(huì)導(dǎo)致社會(huì)的結(jié)構(gòu)性失業(yè)和不穩(wěn)定，使得國(guó)家治理呈現(xiàn)出難以預(yù)測(cè)的社會(huì)性危機(jī)，給國(guó)家治理帶來(lái)新的難題。比如在國(guó)家精準(zhǔn)扶貧的情況下，人工智能排擠人導(dǎo)致現(xiàn)實(shí)特定人群陷入貧困狀態(tài)，使國(guó)家精準(zhǔn)扶貧具有失效的可能性與現(xiàn)實(shí)性。經(jīng)濟(jì)社會(huì)廣泛應(yīng)用人工智能，會(huì)導(dǎo)致大量相關(guān)人員失業(yè)，帶來(lái)社會(huì)的不穩(wěn)定，社會(huì)不穩(wěn)定就會(huì)威脅到政治穩(wěn)定和國(guó)家安全。此外，要加強(qiáng)人工智能與國(guó)家治理的人—機(jī)風(fēng)險(xiǎn)預(yù)警體系建設(shè)。

總之，國(guó)家治理既要抓住人工智能治理帶來(lái)的戰(zhàn)略機(jī)遇，也要迎接人工智能治理帶來(lái)的新的難題和困局。國(guó)家治理要針對(duì)不同的情況，克服人工智能帶來(lái)的潛在風(fēng)險(xiǎn)和現(xiàn)實(shí)風(fēng)險(xiǎn)，處理好國(guó)家治理與人工智能治理的關(guān)系，加強(qiáng)法治建設(shè)，核心仍然是樹(shù)立憲法和法律權(quán)威。