人工智能在公共管理中應(yīng)用的風(fēng)險(xiǎn)分析

胡象明 陳一帆

摘 ?要：現(xiàn)階段的人工智能浪潮主要是基于大數(shù)據(jù)的深度學(xué)習(xí)算法繁榮的表現(xiàn)。人工智能作用于公共管理實(shí)踐的過(guò)程，大致需經(jīng)歷三個(gè)流程：智能基礎(chǔ)設(shè)施建設(shè)→智能算法設(shè)計(jì)→智能應(yīng)用落地，相應(yīng)地形成三個(gè)作用層次：基礎(chǔ)設(shè)施層→算法層→應(yīng)用層。文章分析了三個(gè)層次各自對(duì)應(yīng)的數(shù)據(jù)安全風(fēng)險(xiǎn)，技術(shù)精度、算法偏見(jiàn)和算法監(jiān)管風(fēng)險(xiǎn)，以及公共部門(mén)的智能化轉(zhuǎn)型風(fēng)險(xiǎn)，并探討了風(fēng)險(xiǎn)從底層向表層傳導(dǎo)的一般邏輯，為剖析人工智能在公共管理中應(yīng)用的風(fēng)險(xiǎn)提供了一個(gè)整體性視角。

關(guān)鍵詞：數(shù)據(jù)安全風(fēng)險(xiǎn);技術(shù)精度風(fēng)險(xiǎn);算法偏見(jiàn)風(fēng)險(xiǎn);算法監(jiān)管風(fēng)險(xiǎn);智能化轉(zhuǎn)型風(fēng)險(xiǎn)

中圖分類(lèi)號(hào)：TP18;D631.43 ? ? 文獻(xiàn)標(biāo)識(shí)碼：A

Risk analysis of the application of artificial intelligence in public management

Hu Xiangming ?Chen Yifan

（School of Public Administration in Bei Hang Uinversity，Beijing，100191）

Abstract：The current wave of artificial intelligence is mainly based on the prosperity of deep learning algorithms based on big data. The process of artificial intelligence acting on public management practice generally needs to go through three processes： intelligent infrastructure construction; intelligent algorithm design; intelligent application landing， correspondingly forming three function layers： infrastructure layer; algorithm layer; application layer. This paper analyzes the data security risk， technical precision， bias and supervision risk of algorithm， and intelligent transformation risk of public sector corresponding to each of the three layers， while investigating the general logic of risk conducted from the bottom to the surface. Those findings serve to provide a holistic perspective for analyzing the risk of the application of artificial intelligence in public administration.

Keywords：data security risk; technical accuracy risk; algorithmic bias risk; algorithmic supervision risk; intelligent transformation risk

人工智能等新技術(shù)正以前所未有的速度和規(guī)模影響著公共管理實(shí)踐[1]。然而，顛覆性技術(shù)的價(jià)值與其所隱含的風(fēng)險(xiǎn)常常相伴相生。“科林格里奇困境”表明，人們?cè)趧?chuàng)造一項(xiàng)新技術(shù)并將其付諸應(yīng)用時(shí)，通常并不具備針對(duì)該技術(shù)的風(fēng)險(xiǎn)控制能力[2]。在人工智能技術(shù)應(yīng)用于公共管理實(shí)踐的初期，管理者可能更重視新技術(shù)的紅利，往往疏于預(yù)估它所引發(fā)的諸多風(fēng)險(xiǎn)。相反，等到人工智能技術(shù)與公共管理實(shí)踐深度融合，其所隱含的風(fēng)險(xiǎn)逐漸顯現(xiàn)并引起管理者的警覺(jué)時(shí)，它很可能已經(jīng)根植到國(guó)家治理體系當(dāng)中、成為整個(gè)治理架構(gòu)的重要組成部分，此時(shí)再做修補(bǔ)，往往要付出較大的社會(huì)經(jīng)濟(jì)成本。

鑒于此，在人工智能技術(shù)初步應(yīng)用于公共管理實(shí)踐的當(dāng)下，對(duì)其可能產(chǎn)生的風(fēng)險(xiǎn)進(jìn)行全方位研判，具有較強(qiáng)的緊迫性和實(shí)際價(jià)值。以下從兩個(gè)方面入手，剖析人工智能在公共管理中應(yīng)用的風(fēng)險(xiǎn)：一是厘清人工智能的內(nèi)涵，深挖其作用于公共管理實(shí)踐的過(guò)程和機(jī)制，分析不同階段可能存在的風(fēng)險(xiǎn);二是從公共管理領(lǐng)域中已經(jīng)爆發(fā)的、由人工智能引起的風(fēng)險(xiǎn)事件入手，總結(jié)其風(fēng)險(xiǎn)生成的一般邏輯，進(jìn)而對(duì)前一步的風(fēng)險(xiǎn)分析進(jìn)行印證。

一般認(rèn)為，人工智能是用于模擬、延伸和擴(kuò)展人類(lèi)智能的技術(shù)統(tǒng)稱(chēng)。然而，對(duì)于“智能”很難有明確的界定，造成人工智能概念的泛化，同一個(gè)術(shù)語(yǔ)可以從未來(lái)愿景和當(dāng)下實(shí)情等不同維度來(lái)理解。目前的主流觀點(diǎn)認(rèn)為，在可預(yù)見(jiàn)的未來(lái)，暫時(shí)不會(huì)出現(xiàn)兼具情緒感知、自發(fā)想象和自主目的的“通用型人工智能”（Artificial General Intelligence）[3]。而且，人類(lèi)理智在推動(dòng)人工智能發(fā)展的同時(shí)，也在不斷優(yōu)化自身的適應(yīng)力和擴(kuò)展力，所以從一種技術(shù)進(jìn)步、人類(lèi)靜止的角度提出“強(qiáng)人工智能全面超越人類(lèi)”，并分析由此而來(lái)的人機(jī)倫理風(fēng)險(xiǎn)和人類(lèi)生存風(fēng)險(xiǎn)等，可能面臨“條件不成立，結(jié)論可任意”[4]的邏輯挑戰(zhàn)。

因此，筆者擬立足于當(dāng)下人工智能的實(shí)際內(nèi)涵，結(jié)合具體實(shí)例分析其在公共管理應(yīng)用中的潛在風(fēng)險(xiǎn)?，F(xiàn)階段的人工智能浪潮主要是基于大數(shù)據(jù)的深度學(xué)習(xí)算法繁榮的表現(xiàn)[5]，深度學(xué)習(xí)算法通過(guò)對(duì)海量數(shù)據(jù)的模式識(shí)別和規(guī)律挖掘，能夠在部分目標(biāo)行為上表現(xiàn)出接近于人的特征。這種行為主義的智能事實(shí)上屬于弱人工智能，它在部分專(zhuān)域（domain-specific）表現(xiàn)出的能力超過(guò)人類(lèi)，但尚未形成獨(dú)立思維和自主情感，仍需作為人類(lèi)的輔助而聽(tīng)命于人。

根據(jù)技術(shù)方向的差別，可將人工智能在公共管理領(lǐng)域應(yīng)用的具體場(chǎng)景分為三類(lèi)：一是利用基于計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理等技術(shù)的計(jì)算機(jī)程序，代替公共管理者完成人員篩查、業(yè)務(wù)咨詢(xún)辦理，以及其他流程明確的工作，它們執(zhí)行每項(xiàng)任務(wù)的邊際成本會(huì)隨著時(shí)間的流逝而趨零，進(jìn)而大大降低行政成本，提高行政效率，例如，政務(wù)呼叫中心、政務(wù)服務(wù)熱線(xiàn)中的聊天機(jī)器人;二是大數(shù)據(jù)挖掘技術(shù)，通過(guò)從復(fù)雜多維的公共大數(shù)據(jù)中，發(fā)現(xiàn)難以察覺(jué)的規(guī)律和模式，輔助提升公共決策質(zhì)量，并實(shí)現(xiàn)公共服務(wù)的定制化供給;三是智能規(guī)劃決策系統(tǒng)，通過(guò)模擬公共決策生效的場(chǎng)景和預(yù)測(cè)可能的結(jié)果，幫助公共管理者選擇最優(yōu)化決策方案，規(guī)避風(fēng)險(xiǎn)。

從人工智能作用于公共管理實(shí)踐的過(guò)程和機(jī)制來(lái)看，上述三類(lèi)應(yīng)用實(shí)現(xiàn)都需經(jīng)歷以下流程：智能基礎(chǔ)設(shè)施建設(shè)→智能算法設(shè)計(jì)→智能應(yīng)用落地，相應(yīng)地形成三個(gè)作用層次：基礎(chǔ)設(shè)施層→算法層→應(yīng)用層 。公共管理者直接接觸的，通常是最為顯見(jiàn)的應(yīng)用層，包括智能硬件設(shè)備和智能軟件等。然而，從風(fēng)險(xiǎn)生成的路徑來(lái)看，基礎(chǔ)設(shè)施層和算法層因其處于底層，更容易引發(fā)風(fēng)險(xiǎn)的傳導(dǎo)效應(yīng)：如果底層出現(xiàn)問(wèn)題，以此為支撐的表層應(yīng)用幾乎必然出現(xiàn)異常，甚至崩潰。因此，在公共管理的應(yīng)用過(guò)程中，人工智能所產(chǎn)生的風(fēng)險(xiǎn)是從底層的基礎(chǔ)設(shè)施和算法、向表層應(yīng)用逐級(jí)傳導(dǎo)，風(fēng)險(xiǎn)分析需沿著這條傳導(dǎo)路徑，結(jié)合已經(jīng)爆發(fā)的風(fēng)險(xiǎn)事件，層層深入，逐個(gè)剖析。

一、 基礎(chǔ)設(shè)施層：數(shù)據(jù)安全風(fēng)險(xiǎn)

在公共管理應(yīng)用中，人工智能所依賴(lài)的基礎(chǔ)設(shè)施，是指公共大數(shù)據(jù)和存儲(chǔ)、調(diào)度、運(yùn)算公共大數(shù)據(jù)的計(jì)算平臺(tái)。公共大數(shù)據(jù)是人工智能技術(shù)生效的基石，越是大規(guī)模、高質(zhì)量、多模態(tài)的公共大數(shù)據(jù)，越能客觀反映公共事務(wù)之間的復(fù)雜關(guān)系，進(jìn)而越能訓(xùn)練出高精度的智能算法結(jié)果，提供更為精準(zhǔn)可靠的政策建議。為此，公共管理行為及其附帶的諸多重要信息都被預(yù)先轉(zhuǎn)化為在線(xiàn)量化數(shù)據(jù)，這個(gè)過(guò)程也被稱(chēng)為“數(shù)據(jù)化”（datafication）。例如，搭建智慧政務(wù)平臺(tái)，將以往需要面對(duì)面辦理的政務(wù)服務(wù)轉(zhuǎn)移到在線(xiàn)網(wǎng)站或手機(jī)應(yīng)用上，公共服務(wù)行為被數(shù)據(jù)化為電子軌跡;設(shè)立人臉識(shí)別閘機(jī)，需要提前對(duì)公職人員的面部圖像進(jìn)行采集，公職人員的個(gè)人信息被轉(zhuǎn)換成二進(jìn)制數(shù)據(jù);在新冠肺炎疫情的特殊形勢(shì)下，公共部門(mén)推行在線(xiàn)辦公、在線(xiàn)會(huì)議、在線(xiàn)咨詢(xún)等，都加速了公共管理實(shí)踐從決策端到服務(wù)端的數(shù)據(jù)化進(jìn)程。

然而，這種新的數(shù)據(jù)形式也考驗(yàn)著數(shù)據(jù)安防工作，平臺(tái)安全漏洞可能被網(wǎng)絡(luò)黑客或數(shù)字欺詐團(tuán)伙利用，造成公共大數(shù)據(jù)泄漏或被不明第三方劫持和篡改，爆發(fā)數(shù)據(jù)安全風(fēng)險(xiǎn)。這部分源于人工智能技術(shù)本身也為黑客所掌握，令安防工作難度大增;但更需引起重視的是，數(shù)據(jù)安防的木桶效應(yīng)，即遭受攻擊的往往是公共大數(shù)據(jù)平臺(tái)的薄弱環(huán)節(jié)（如因缺乏足夠預(yù)算而未做防護(hù)的個(gè)別端口），進(jìn)而導(dǎo)致整個(gè)政務(wù)平臺(tái)面臨泄漏、停滯、失控的安全風(fēng)險(xiǎn)。雖然這些不是人工智能在公共管理應(yīng)用過(guò)程中所獨(dú)有的，但公共領(lǐng)域的特殊性及公共大數(shù)據(jù)的敏感性，使得數(shù)據(jù)安全風(fēng)險(xiǎn)容易升級(jí)為公共安全風(fēng)險(xiǎn)，造成難以估量的損失。

2019年5月，美國(guó)馬里蘭州巴爾的摩市（Baltimore）的政務(wù)平臺(tái)在一年內(nèi)第二次遭遇黑客攻擊，黑客將平臺(tái)本身劫持為“人質(zhì)”，要求市政府以比特幣等無(wú)法溯源的加密貨幣方式繳納贖金，否則以此為支撐的智慧城市系統(tǒng)、警務(wù)系統(tǒng)、辦公系統(tǒng)等均無(wú)法登錄。聯(lián)邦調(diào)查局前執(zhí)行官認(rèn)為，正是巴爾的摩市政府過(guò)度依賴(lài)人工智能技術(shù)，而缺乏相應(yīng)的風(fēng)險(xiǎn)安防意識(shí)，給了黑客可乘之機(jī)[6]。類(lèi)似的數(shù)據(jù)安全事件近年頻頻上演，2017年美國(guó)圣路易斯公共圖書(shū)館的數(shù)據(jù)平臺(tái)被黑客劫持，2018年亞特蘭大遭遇黑客攻擊，全球最繁忙的空中交通樞紐的網(wǎng)絡(luò)被控制，重建工作歷時(shí)數(shù)月。作為人工智能應(yīng)用于公共管理實(shí)踐的探索者，截至2019年4月，美國(guó)已爆發(fā)了169起由黑客勒索軟件造成的公共數(shù)據(jù)安全事件，受影響的州或地方政府普遍缺乏足夠的安防預(yù)算、安防人才以及應(yīng)急準(zhǔn)備[7]。此外，公共大數(shù)據(jù)平臺(tái)本身的抗災(zāi)能力普遍欠佳，火災(zāi)、洪水、雷擊、臺(tái)風(fēng)等自然災(zāi)害和其他突發(fā)事件（如電氣設(shè)備短路）都可能造成平臺(tái)損毀，進(jìn)而引發(fā)數(shù)據(jù)丟失的安全風(fēng)險(xiǎn)。綜上，在推進(jìn)人工智能與公共管理實(shí)踐融合的同時(shí)，必須高度重視數(shù)據(jù)安全風(fēng)險(xiǎn)，加強(qiáng)前瞻防控和實(shí)時(shí)預(yù)警，確保公共大數(shù)據(jù)及其計(jì)算平臺(tái)作為智能基礎(chǔ)設(shè)施的安全穩(wěn)固。

二、 算法層

算法是人工智能應(yīng)用于公共管理實(shí)踐的引擎。算法層涵蓋了人工智能算法、實(shí)現(xiàn)算法的技術(shù)方向，以及每個(gè)技術(shù)方向下的子技術(shù)。當(dāng)前，在公共管理的研究及實(shí)踐中，深度學(xué)習(xí)是最受重視的人工智能算法[8]。然而，以深度學(xué)習(xí)為核心的人工智能算法并非完美，其本身也處在發(fā)展當(dāng)中。目前在公共領(lǐng)域的實(shí)踐中，人工智能算法已經(jīng)暴露出至少三個(gè)方面的風(fēng)險(xiǎn)：

一是技術(shù)精度風(fēng)險(xiǎn)。精準(zhǔn)治理，是經(jīng)常被提及的人工智能算法在公共管理領(lǐng)域應(yīng)用的優(yōu)勢(shì)。然而，2017年，在一場(chǎng)百萬(wàn)人次的狂歡節(jié)活動(dòng)中，英國(guó)倫敦大都會(huì)警察局運(yùn)用一款人臉識(shí)別篩查潛在的通緝犯，該應(yīng)用通過(guò)比對(duì)狂歡節(jié)參與者的面部數(shù)據(jù)與警察局存檔的通緝犯面部數(shù)據(jù)，共識(shí)別出35名面部數(shù)據(jù)匹配成功的人士，其中30人為肉眼可見(jiàn)的匹配錯(cuò)誤，剩下5人經(jīng)警察核實(shí)，發(fā)現(xiàn)僅有1人匹配成功[9]。這種嚴(yán)重的精度偏差，固然反映了算法本身有待進(jìn)一步完善，但也與公共部門(mén)長(zhǎng)期運(yùn)用項(xiàng)目制來(lái)推進(jìn)智能應(yīng)用落地有關(guān)。技術(shù)的研發(fā)往往是依托于實(shí)驗(yàn)室良好可控的條件，但轉(zhuǎn)化為應(yīng)用成果則需要面對(duì)更為復(fù)雜甚至不可控的實(shí)際環(huán)境，智能應(yīng)用的技術(shù)穩(wěn)定性尚待驗(yàn)證;但在公共管理者推進(jìn)智能應(yīng)用的過(guò)程中，由于其與應(yīng)用供應(yīng)商間的技術(shù)鴻溝，很難全面地評(píng)估相關(guān)技術(shù)穩(wěn)定性，為實(shí)際效用欠佳埋下了伏筆。此外，公共部門(mén)普遍缺乏技術(shù)創(chuàng)新傳統(tǒng)，較難給予工程師和數(shù)據(jù)科學(xué)家高薪酬，智能應(yīng)用供應(yīng)商對(duì)實(shí)際效果的夸大，以及部分公職人員與應(yīng)用供應(yīng)商之間的腐敗合謀等，都可能引發(fā)人工智能應(yīng)用的技術(shù)精度風(fēng)險(xiǎn)。

二是算法偏見(jiàn)風(fēng)險(xiǎn)。公平、正義是重要的公共價(jià)值，是公共管理行為的基石。然而，人工智能算法卻可能受到多重因素影響，提供帶有偏見(jiàn)的政策建議，進(jìn)而損害公共管理行為的公正性：其一，作為算法輸入的公共大數(shù)據(jù)可能帶有偏見(jiàn)。公共部門(mén)以往的行政方式、文檔材料、決策邏輯中可能帶有某種不易察覺(jué)的偏見(jiàn)，當(dāng)這些信息被量化輸入到智能算法中時(shí)，算法會(huì)對(duì)數(shù)據(jù)的分布模式進(jìn)行挖掘，“學(xué)習(xí)”其中的偏見(jiàn)傾向，并在回應(yīng)新需求時(shí)，輸出帶有這種偏見(jiàn)的結(jié)果。微軟聊天機(jī)器人Tay上線(xiàn)一天后就被緊急下線(xiàn)，因?yàn)樗谂c人類(lèi)交流的過(guò)程中，迅速“學(xué)習(xí)”到人們?cè)捳Z(yǔ)中的偏見(jiàn)并復(fù)現(xiàn)出來(lái)，表現(xiàn)為極端種族主義者[10];其二，作為算法設(shè)計(jì)者的數(shù)據(jù)科學(xué)家或工程師可能未經(jīng)偏見(jiàn)審查。在提出人工智能算法的初期，數(shù)據(jù)科學(xué)家未對(duì)其偏見(jiàn)性進(jìn)行考察，沒(méi)有設(shè)計(jì)抵御偏見(jiàn)的算法機(jī)制，導(dǎo)致偏見(jiàn)“從一開(kāi)始就注定無(wú)法得到充分解決”[11]。在運(yùn)用算法實(shí)現(xiàn)實(shí)際需求的過(guò)程中，工程師需將目標(biāo)任務(wù)轉(zhuǎn)化成機(jī)器能夠識(shí)別的代碼、參數(shù)和標(biāo)簽，其轉(zhuǎn)化過(guò)程帶有較強(qiáng)的主觀性，從而對(duì)輸出結(jié)果產(chǎn)生影響;其三，作為算法出資者的利益集團(tuán)可能引導(dǎo)算法實(shí)現(xiàn)自身的偏好。算法的本質(zhì)是一種技術(shù)工具，資本操縱和政治內(nèi)嵌作為其背后的重要操控力量，能夠利用大眾對(duì)算法中立性的信任，修剪社會(huì)事實(shí)以實(shí)現(xiàn)自身的偏好[12]。

三是算法監(jiān)管風(fēng)險(xiǎn)。迄今為止，人工智能算法的發(fā)展及其在公共管理領(lǐng)域的應(yīng)用，幾乎都是在監(jiān)管真空中進(jìn)行的[13]。英國(guó)上議院的公開(kāi)文書(shū)指出：“目前沒(méi)有法律，沒(méi)有監(jiān)督，也沒(méi)有政策來(lái)規(guī)范警察該怎么使用人臉識(shí)別等智能算法?！盵14]盡管近年來(lái)部分地區(qū)開(kāi)始就隱私合規(guī)、無(wú)人駕駛等形成立法，但實(shí)際監(jiān)管執(zhí)行仍頗為困難，產(chǎn)品許可、研發(fā)監(jiān)督和侵權(quán)責(zé)任等傳統(tǒng)監(jiān)管方法不適用于智能算法監(jiān)管。因?yàn)槿斯ぶ悄芗夹g(shù)的研發(fā)過(guò)程可能涉及技術(shù)專(zhuān)利，外部人員介入并逐行審查代碼的成本十分高昂，很難在智能算法尚未出現(xiàn)重大問(wèn)題時(shí)，對(duì)其進(jìn)行嚴(yán)格審查以提前發(fā)現(xiàn)潛在危害。同時(shí)，智能算法的不可解釋性也令自查變得難以推進(jìn)：在實(shí)際使用過(guò)程中，智能算法的運(yùn)算過(guò)程和推理機(jī)制是一個(gè)密封的“黑盒”（black box）。公共管理者和監(jiān)管方都只能輸入數(shù)據(jù)，然后經(jīng)由算法自主訓(xùn)練，最后獲得輸出結(jié)果，卻無(wú)法摸清其訓(xùn)練、推理或預(yù)測(cè)的內(nèi)在邏輯。算法黑盒的不可解釋性，違背了公共管理對(duì)透明度的要求，進(jìn)而降低了算法結(jié)果的可靠性和可信度。

總體上，技術(shù)精度風(fēng)險(xiǎn)、算法偏見(jiàn)風(fēng)險(xiǎn)和算法監(jiān)管風(fēng)險(xiǎn)都可能誤導(dǎo)公共管理者做出錯(cuò)誤的決策。而公共部門(mén)不同于私營(yíng)企業(yè)，公共決策失誤會(huì)進(jìn)一步引發(fā)公共信任風(fēng)險(xiǎn)，從而限制公共管理者未來(lái)深化人工智能應(yīng)用的能力。

三、 應(yīng)用層

應(yīng)用層是指建立在基礎(chǔ)設(shè)施層和算法層之上的、實(shí)現(xiàn)公共管理具體需求的智能應(yīng)用和解決方案。應(yīng)用層的風(fēng)險(xiǎn)有兩種生成路徑：

一是由基礎(chǔ)設(shè)施層和算法層的底層風(fēng)險(xiǎn)逐級(jí)傳導(dǎo)而生成。以隱私泄漏風(fēng)險(xiǎn)為例，隱私泄漏可能源于基礎(chǔ)設(shè)施層的隱私大數(shù)據(jù)遭受黑客攻擊或數(shù)字欺詐，也可能源于算法層中算法受利益集團(tuán)操縱，通過(guò)“捆綁霸王條款”截獲隱私，而監(jiān)管方又未建立起成熟的流程對(duì)其進(jìn)行規(guī)制。

二是外部環(huán)境對(duì)智能應(yīng)用的滲透產(chǎn)生了適應(yīng)性風(fēng)險(xiǎn)，主要表現(xiàn)為公共部門(mén)的智能化轉(zhuǎn)型風(fēng)險(xiǎn)。公共管理者所在的公共部門(mén)對(duì)人工智能應(yīng)用的適應(yīng)能力相對(duì)落后于私營(yíng)部門(mén)。相較于私營(yíng)部門(mén)可以快速通過(guò)優(yōu)勝劣汰和結(jié)構(gòu)調(diào)整來(lái)完成智能化轉(zhuǎn)型，公共部門(mén)所面臨的智能化轉(zhuǎn)型風(fēng)險(xiǎn)要復(fù)雜得多：首先，組織領(lǐng)導(dǎo)者若缺乏對(duì)人工智能底層風(fēng)險(xiǎn)的充分認(rèn)知，對(duì)智能應(yīng)用過(guò)于樂(lè)觀，可能推動(dòng)一些本無(wú)必要的人工智能項(xiàng)目上馬，在未做技術(shù)評(píng)估的情況下，將人工智能用在其并不擅長(zhǎng)的領(lǐng)域，造成公共資源浪費(fèi);然后，智能化的行政方式會(huì)對(duì)以往的工作模式構(gòu)成挑戰(zhàn)，而組織成員可能缺乏足夠的信息、資源以及技術(shù)能力來(lái)適應(yīng)這種變化。隨著人工智能應(yīng)用在公共部門(mén)鋪開(kāi)，組織成員的技術(shù)適應(yīng)力如果未及時(shí)升級(jí)，可能不僅會(huì)阻礙公共管理實(shí)踐從技術(shù)進(jìn)步中受益，而且還會(huì)出現(xiàn)結(jié)構(gòu)性冗員;最后，對(duì)于那些自身崗位被智能技術(shù)替代的組織成員，他們將面臨崗位內(nèi)容調(diào)整和自由裁量權(quán)流失的風(fēng)險(xiǎn)。據(jù)估計(jì)，人工智能在公共部門(mén)的應(yīng)用，將在五到七年內(nèi)替代30%的人類(lèi)勞動(dòng)力工時(shí)[15]，例如，部分的行政咨詢(xún)工作可被政務(wù)聊天機(jī)器人替代，而原本承擔(dān)咨詢(xún)工作的人員將被調(diào)整到其他工作崗位。此外，公共部門(mén)可能受自身層級(jí)、人員構(gòu)成、對(duì)外部創(chuàng)新的接受度、上級(jí)領(lǐng)導(dǎo)的支持度等影響，而表現(xiàn)出不同水平的智能化轉(zhuǎn)型風(fēng)險(xiǎn)。智能化轉(zhuǎn)型風(fēng)險(xiǎn)最終將影響到組織內(nèi)部關(guān)系、組織成員的認(rèn)同度和凝聚力，因而，應(yīng)在推行人工智能技術(shù)前，對(duì)公共部門(mén)的準(zhǔn)備度（readiness）進(jìn)行全方位調(diào)研。

參考文獻(xiàn)：

[1]Agarwal P K. Public administration challenges in the world of AI and Bots[J]. Public Administration Review，2018，78（6）： 917-921.

[2]Collingridge D. The social control of technology[M]. London： Frances Pinter. 1980： 11.

[3]韓水法.人工智能時(shí)代的人文主義[J].中國(guó)社會(huì)科學(xué)，2019（6）：25-44+204-205.

[4]王飛躍.新IT與新軸心時(shí)代：未來(lái)的起源和目標(biāo)[J].探索與爭(zhēng)鳴，2017（10）：23-27.

[5]騰訊研究院，中國(guó)信息通信研究院互聯(lián)網(wǎng)法律研究中心，騰訊AI Lab等.人工智能：國(guó)家人工智能戰(zhàn)略行動(dòng)抓手[M].北京：中國(guó)人民大學(xué)出版社，2017：7.

[6]Farmer L. The Baltimore Cyberattack Highlights Hackers' New Tactics [EB/OL]. （2019-05-30） [2020-05-10]. https：//www.governing.com/topics/public-justice-safety/gov-cyber-attack-security-ransomware-baltimore-bitcoin.html.

[7]Liska A. Early Findings： Review of State and Local Government Ransomware Attacks [R/OL]. （2019-05-10） [2020-05-10]. https：//go.recordedfuture.com/hubfs/reports/cta-2019-0510.pdf.

[8]de Sousa W G，de Melo E R P，de Souza Bermejo P H，et al. How and where is artificial intelligence in the public sector going？ A literature review and research agenda[J]. Government Information Quarterly，2019，36（4）：1-14.

[9]Margetts H，Dorobantu C. Rethink government with AI[J]. Nature，2019，568 （7751）： 163-165.

[10]莫宏偉.強(qiáng)人工智能與弱人工智能的倫理問(wèn)題思考[J].科學(xué)與社會(huì)，2018，8（1）：14-24.

[11]德勤管理戰(zhàn)略研究中心.人工智能與風(fēng)險(xiǎn)管理報(bào)告[R/OL].[2020-05-10].

https：//www2.deloitte.com/content/dam/Deloitte/cn/Documents/risk/deloitte-cn-ra-ai-and-risk-management-zh-190329.pdf

[12]郭小平，秦藝軒.解構(gòu)智能傳播的數(shù)據(jù)神話(huà)：算法偏見(jiàn)的成因與風(fēng)險(xiǎn)治理路徑[J].現(xiàn)代傳播（中國(guó)傳媒大學(xué)學(xué)報(bào)），2019，41（9）：19-24.

[13]Scherer M U. Regulating artificial intelligence systems： Risks，challenges，competencies，and strategies[J]. Harvard Journal of Law & Technology，2016，29 （2）： 353-400.

[14]UK Parliament. Security and Policing： Facial Recognition Technology [EB/OL]. （2018-3-1） [2020-05-10]. https：//hansard.parliament.uk/Lords/2018-03-01/debates/0AD45D64-63CB-458F-B9B1-A41B2887C051/SecurityAndPolicingFacialRecognitionTechnology.

[15]Deloitte Center for Government Insights. How much time and money can AI save government？ [R/OL]. [2020-05-10].

https：//www2.deloitte.com/content/dam/insights/us/articles/3834_How-much-time-and-money-can-AI-save-government/DUP_How-much-time-and-money-can-AI-save-government.pdf.

作者簡(jiǎn)介：胡象明，男，北京航空航天大學(xué)公共管理學(xué)院二級(jí)教授，博士研究生導(dǎo)師，研究方向：社會(huì)風(fēng)險(xiǎn)評(píng)估、政策科學(xué)研究;陳一帆，女，1992年生，北京航空航天大學(xué)公共管理學(xué)院博士研究生，研究方向：社會(huì)風(fēng)險(xiǎn)評(píng)估研究。