提升政府治理算法決策公平性的機(jī)制與路徑

顏佳華（湘潭大學(xué)a.馬克思主義學(xué)院；b.公共管理學(xué)院，湖南湘潭 411105）

維護(hù)社會(huì)公平正義既是國家治理的重要價(jià)值目標(biāo)，也是政府治理的核心價(jià)值觀。隨著人工智能算法與政府治理的深度融合，政府治理決策開始呈現(xiàn)一種智能化和算法化的轉(zhuǎn)型趨向。相較于傳統(tǒng)的政府治理模式，政府治理算法決策極大地提升了決策的科學(xué)性和精準(zhǔn)性，增強(qiáng)了決策的時(shí)效性和準(zhǔn)確性。由于政府治理算法決策依托機(jī)器學(xué)習(xí)的迭代優(yōu)化技術(shù)邏輯輸出決策方案仍然面臨決策“暗箱”、透明性和可解釋性不足等困境，也帶來了新的決策公平性問題。因此，在加快政府治理決策向數(shù)據(jù)化、智能化轉(zhuǎn)型進(jìn)程的同時(shí)，也要有效解決與之伴生的智能算法輸出的潛在偏見和歧視問題，確保人工智能算法政府決策應(yīng)用的公平性和正義性。

一、公平性困境：政府治理算法決策的價(jià)值隱憂

從政府治理決策的傳統(tǒng)價(jià)值體系看，公平、準(zhǔn)確、效率等不容忽視。從價(jià)值排序的角度看，公平公正是政府治理決策體系中的價(jià)值核心，體現(xiàn)了政府治理的公共性價(jià)值追求。在人工智能算法介入的情景下，政府治理決策的公平價(jià)值受到?jīng)_擊，政府治理算法決策面臨公平性困境。那么，何謂政府治理算法決策公平性問題？簡言之，是指算法決策系統(tǒng)通過使用大量基礎(chǔ)數(shù)據(jù)訓(xùn)練優(yōu)化迭代出準(zhǔn)確率很高的機(jī)器學(xué)習(xí)模型來實(shí)現(xiàn)對(duì)目標(biāo)群體的有效分類，根據(jù)預(yù)測(cè)結(jié)果進(jìn)行決策，由此所引發(fā)的歧視和偏見問題。

（一）政府治理算法決策公平性困境的具體呈現(xiàn)

從決策的過程和實(shí)際影響來看，政府治理算法決策公平性問題可以分解為程序公平和結(jié)果公平兩個(gè)部分。

1.程序公平受到?jīng)_擊。程序公平是政府治理算法決策公平性的核心環(huán)節(jié)。隨著算法嵌入政府治理決策過程，逐步構(gòu)建起“場(chǎng)景關(guān)聯(lián)”的智能決策體系［1］，加速了人類在公共行政實(shí)踐情景中的“離場(chǎng)”，人類在治理乃至公共決策中的角色變得越來越無足輕重，然而，缺乏人類在場(chǎng)的治理是否還具有“人類中心主義”的價(jià)值關(guān)懷，這是值得警惕和擔(dān)憂的問題。有學(xué)者認(rèn)為，“一旦權(quán)力從人類手中交給算法，人文主義的議題就可能慘遭淘汰”［2］。在算法嵌入的場(chǎng)景下，“算法決策程序的操縱力量降低正當(dāng)程序的公正性”［3］，具體可以概括為以下三個(gè)方面：一是責(zé)任主體缺失。決策客體有權(quán)對(duì)決策主體也即責(zé)任主體，提出異議和反對(duì)，甚至推翻該決策的責(zé)任主體。在傳統(tǒng)公共決策模式下，責(zé)任主體往往是與之相對(duì)應(yīng)的公共組織或者個(gè)人，行動(dòng)主體往往是責(zé)任承擔(dān)者，責(zé)任歸屬相對(duì)清晰，但是與傳統(tǒng)公共決策模式不同的是算法決策生成的邏輯是基于不同機(jī)器學(xué)習(xí)的算法程序，存在責(zé)任主體模糊，責(zé)任追究困難的問題［4］。二是參與權(quán)弱化。公眾參與政府決策環(huán)節(jié)既是決策公平性的重要保障，也是程序公平的核心環(huán)節(jié)，然而，“算法決策剝奪了受影響個(gè)體‘表達(dá)意見’和反駁決策的權(quán)利，人作為道德主體（即有自己的觀點(diǎn)且能夠理性行事），理應(yīng)受到相應(yīng)認(rèn)可和對(duì)待，且有權(quán)享有尊嚴(yán)和尊重，這是生而為人的基本權(quán)利，而算法決策從根本上破壞了這種權(quán)利”［5］。這種權(quán)利的弱化通常以一種“科學(xué)”的面目呈現(xiàn)，公眾往往難以質(zhì)疑。三是歧視性輸入。就決策環(huán)節(jié)而言，歧視性輸入問題往往發(fā)生在決策行為產(chǎn)生之前。公共決策的公共性訴求，決定了公共決策不得依據(jù)與決策無關(guān)的考量因素對(duì)其進(jìn)行估量和評(píng)價(jià)，然而，算法的初始程序往往容易嵌入工程師的個(gè)人意志，有意無意地納入一些與決策無關(guān)的因素，使得工程師個(gè)人偏見和價(jià)值觀偏誤支配著決策底層程序的運(yùn)行邏輯，潛在不公平性的歧視性輸入。

2.結(jié)果公平有所偏差。結(jié)果公平是算法決策公平性的具體呈現(xiàn)。根據(jù)Zafar 等人對(duì)犯罪風(fēng)險(xiǎn)判定的研究發(fā)現(xiàn)，在依據(jù)機(jī)器學(xué)習(xí)模型生成決策方案的過程中，模型常常會(huì)將一些敏感特征（如性別、膚色、種族等）納入分類依據(jù)，并在計(jì)算中也設(shè)置了較高的權(quán)重，從而導(dǎo)致決策結(jié)果對(duì)某些特定群體（如女性、黑人等）產(chǎn)生不公平的結(jié)果，這種算法決策結(jié)果的不公平性具體可分為三種，即差別性對(duì)待、差別性影響和差別性誤待［6］。一是差別性對(duì)待，是指在非敏感性特征相似的情況下，決策結(jié)果僅在敏感性特征不同的群體間有差異。據(jù)報(bào)道，美國應(yīng)用于犯罪風(fēng)險(xiǎn)預(yù)測(cè)的COMPAS 算法系統(tǒng)，在黑人和白人控制其他特征相同條件下，預(yù)測(cè)黑人犯罪的再發(fā)生率明顯高于白人，而事實(shí)上被列為高風(fēng)險(xiǎn)的黑人，并沒有再次犯下罪行，這就產(chǎn)生了事實(shí)的差別性對(duì)待。二是差別性影響，是指算法決策所造成的結(jié)果總是對(duì)某種敏感性特征取某個(gè)值的群體更有利（或更不利）。例如，在社區(qū)安防治理領(lǐng)域，開發(fā)部署的防盜預(yù)測(cè)系統(tǒng)，在其他非敏感性特征取值相同的情況下，男性被攔截的概率要遠(yuǎn)高于女性，即男性往往更容易被懷疑偷盜。三是差別性誤待，是指算法對(duì)某一個(gè)敏感性特征取不同值的群體的預(yù)測(cè)準(zhǔn)確性有差別。簡單來說，就是在性別特征值上，對(duì)男性和女性的識(shí)別或判斷準(zhǔn)確率有差異。例如，某醫(yī)院部署輔助醫(yī)生的算法決策系統(tǒng)，針對(duì)某類疾病的識(shí)別，就出現(xiàn)男性的準(zhǔn)確率要高于女性的情況。

（二）政府治理算法決策公平性困境何以產(chǎn)生

政府治理算法決策公平性容易受到技術(shù)設(shè)計(jì)者、使用者以及基礎(chǔ)數(shù)據(jù)的客觀性和算法程序的自我強(qiáng)化特征的交互影響。

1.使用者或提供者（設(shè)計(jì)者）自身價(jià)值觀偏誤。目前，大數(shù)據(jù)智能技術(shù)日益成熟，算法被視為解決政府治理問題行之有效的路徑，算法技術(shù)所負(fù)載的倫理價(jià)值也隨即被廣泛討論。在倫理審視的過程中，算法治理的“算法”來源于何處，使用算法技術(shù)的“主體”發(fā)揮何種作用，尚未引起足夠的重視，導(dǎo)致在討論算法技術(shù)價(jià)值負(fù)載的時(shí)候往往忽略了使用者或提供者（設(shè)計(jì)者）自身的價(jià)值偏好。事實(shí)上，算法是由人設(shè)計(jì)、由人（組織）操控的，必然也容易受到人類價(jià)值偏好的影響。在政府治理實(shí)踐活動(dòng)中，算法決策的公平性受損，很大原因在于設(shè)計(jì)之初植入了設(shè)計(jì)者或提供者的主觀偏見，“這種偏見會(huì)被后者以替代變量的形式編入計(jì)算機(jī)程序中，然后隨著算法自身的不斷學(xué)習(xí)而被逐漸放大”［7］。

2.基礎(chǔ)數(shù)據(jù)的客觀性和準(zhǔn)確性有限。數(shù)據(jù)的客觀性和準(zhǔn)確性是確保政府治理算法決策公平性的基礎(chǔ)?，F(xiàn)階段的大數(shù)據(jù)技術(shù)雖然實(shí)現(xiàn)了大規(guī)模數(shù)據(jù)的實(shí)時(shí)抓取和處理，但是在數(shù)據(jù)質(zhì)量的篩選上仍然面臨一定困難。假如在數(shù)據(jù)收集的原始階段沒有對(duì)數(shù)據(jù)的錯(cuò)誤進(jìn)行及時(shí)更正，則這種錯(cuò)誤數(shù)據(jù)背后所潛藏的偏見和不公平就會(huì)體現(xiàn)在算法輸出的指令中。這種帶有偏見性的輸入勢(shì)必會(huì)導(dǎo)致政府治理算法決策結(jié)果的不公平。有學(xué)者指出，人工智能系統(tǒng)是由人類設(shè)計(jì)、使用的數(shù)據(jù)，反映我們身處一個(gè)并不完美的世界。因此，“如果不進(jìn)行嚴(yán)謹(jǐn)?shù)囊?guī)劃，人工智能的運(yùn)行可能有失公平”［8］。如何解決輸入數(shù)據(jù)的非客觀性問題，是未來確保政府治理算法決策公平性的關(guān)鍵之舉。

3.算法程序自我迭代優(yōu)化的技術(shù)邏輯影響。對(duì)于政府治理算法決策的潛在不公平性傾向，有一種情況沒有得到重視，即算法自身雖然沒有傾向性，但依然會(huì)強(qiáng)化客觀存在的不公平現(xiàn)實(shí)。盡管從社會(huì)發(fā)展的客觀規(guī)律來看，非均衡性是現(xiàn)代社會(huì)的普遍現(xiàn)象，但一些客觀存在的不公平現(xiàn)實(shí)依然需要重視。例如，一些特定的群體（老年人、文盲等）受到主客觀條件的雙重限制，陷入了被數(shù)字社會(huì)排斥的窘境，處于一種弱勢(shì)狀態(tài)——成為數(shù)字弱勢(shì)群體。在這種情況下，哪怕輸入的數(shù)據(jù)和運(yùn)行算法都不存在偏見，決策結(jié)果依然會(huì)不自覺地走上強(qiáng)化偏見的道路，輸出的方案也會(huì)進(jìn)一步強(qiáng)化對(duì)這類弱勢(shì)群體的“二次傷害”，正如“邊緣化群體在獲取公共福利……進(jìn)入醫(yī)保系統(tǒng)或跨越國境時(shí)都不得不接受級(jí)別更高的數(shù)據(jù)采集。一旦他們成為懷疑對(duì)象而需要接受額外審查時(shí)，這些數(shù)據(jù)便愈加會(huì)強(qiáng)化他們的邊緣性”［9］。顯然，這種情況的產(chǎn)生，既受算法程序自我迭代優(yōu)化的技術(shù)邏輯影響，也受社會(huì)發(fā)展的客觀條件限制。這充分說明，現(xiàn)階段的技術(shù)不應(yīng)該成為中心問題，關(guān)鍵在于推動(dòng)社會(huì)的整體發(fā)展和向前進(jìn)步，著力消除社會(huì)客觀存在的不公平。

二、價(jià)值、制度和組織：提升政府治理算法決策公平性的三重機(jī)制

所謂機(jī)制，一般指可以借助其得以運(yùn)行或發(fā)揮作用的東西［10］?？梢詮撵o態(tài)和動(dòng)態(tài)兩個(gè)視角，探討提升政府治理算法決策公平性的機(jī)制。從靜態(tài)視角看，政府治理算法決策必須高揚(yáng)“以人民為中心”的旗幟，堅(jiān)持公平正義；從動(dòng)態(tài)視角看，算法嵌入政府治理是動(dòng)態(tài)的過程，不僅需要完備的制度體系，也離不開與之適配的組織架構(gòu)。因此，從價(jià)值、制度和組織等三個(gè)層面出發(fā)，探討提升政府治理算法決策公平性的實(shí)現(xiàn)機(jī)制是極其必要的。

（一）價(jià)值機(jī)制：主流價(jià)值駕馭算法應(yīng)用

公共性是公共行政的價(jià)值內(nèi)核。無論是從公共行政的本質(zhì)規(guī)定，還是具體實(shí)踐來看，對(duì)于公平公正價(jià)值的孜孜追求都不能偏廢和失去［11］。價(jià)值在很大程度上決定著算法應(yīng)用于政府治理中的走向，是影響算法“向善”和“為善”的行動(dòng)指引。從更為辯證的視野出發(fā)，一方面，公平公正的價(jià)值追求是政府治理算法決策的本質(zhì)訴求；另一方面，公共行政價(jià)值觀又在確保政府治理算法決策公平性的過程中發(fā)揮著重要作用。具體來看，可以將政府治理中的算法應(yīng)用過程視為一個(gè)動(dòng)態(tài)的價(jià)值負(fù)載過程。在算法嵌入政府治理的過程中，逐漸與公共行政的價(jià)值體系相融合與碰撞，使得算法的前期開發(fā)、后期管理都不可避免地受到公共行政價(jià)值體系的影響和約束。

1.價(jià)值觀影響算法的前期開發(fā)。如果從一種技術(shù)形態(tài)來理解的話，算法通常被視為一種價(jià)值中立的存在，不帶有任何價(jià)值偏好和主觀取向，然而，算法之所以被開發(fā)和應(yīng)用必然離不開對(duì)開發(fā)者和使用者某種訴求的滿足，在這種訴求的迎合過程中，算法也就不可避免地承載了開發(fā)者和使用者的價(jià)值偏好，被賦予某些個(gè)人的判斷標(biāo)準(zhǔn)和主觀傾向性。例如，目前在很多網(wǎng)絡(luò)推文和視頻內(nèi)容中，運(yùn)營商為了“點(diǎn)擊率”，通過發(fā)布一些不符合常理、涉及暴力等暗示詞語或視頻來滿足閱讀和觀看者的獵奇心理，這往往會(huì)被算法捕捉，進(jìn)而強(qiáng)化這種內(nèi)容的推送力度，迎合了運(yùn)營商牟利的終極目的。在政府治理算法決策場(chǎng)景下，算法的開發(fā)和布局必須置于公共價(jià)值的規(guī)范和引導(dǎo)之下，充分融合治理的公共性訴求，很多科學(xué)家“都有意選擇了‘以人為本’的設(shè)計(jì)”［12］。只有不斷增強(qiáng)算法開發(fā)者和使用者的公共責(zé)任感和使命感，樹立正確的價(jià)值導(dǎo)向，開發(fā)出適用公共實(shí)踐場(chǎng)景和價(jià)值訴求的算法系統(tǒng)，才能確保政府治理算法決策的公平性。

2.價(jià)值觀影響算法的后期管理。從現(xiàn)實(shí)的實(shí)踐來看，對(duì)算法治理限度的超越往往容易陷入技術(shù)路徑的循環(huán)之中，即以“技術(shù)創(chuàng)新”突圍“技術(shù)困境”。隨著算法在政府治理中的滲透擴(kuò)散，算法決策潛在的風(fēng)險(xiǎn)和限度也逐漸顯現(xiàn)，算法決策的偏見和歧視性問題不斷擴(kuò)大。對(duì)此，多數(shù)研究聚焦進(jìn)一步加大對(duì)算法研發(fā)和設(shè)計(jì)的投入，試圖從技術(shù)優(yōu)化層面去尋求突破，然而在技術(shù)上實(shí)現(xiàn)算法決策絕對(duì)的公平正義是非常困難的，短期內(nèi)難以實(shí)現(xiàn)。如此，從價(jià)值角度出發(fā)，加大對(duì)政府治理算法決策后期管理中的價(jià)值影響權(quán)重或是一種可行的補(bǔ)充路徑。例如，對(duì)政府治理算法決策的結(jié)果輔之以人為的修正，通過引入具有專業(yè)知識(shí)、踐行以人為本價(jià)值觀，并由具有高度社會(huì)責(zé)任感的人員對(duì)政府治理算法決策的內(nèi)容進(jìn)行監(jiān)管審核，建立起政府治理算法決策的審核和篩選機(jī)制。

（二）制度機(jī)制：制度補(bǔ)正算法決策偏誤

制度是一種對(duì)行為起到約束性的安排，既約束個(gè)體的行為，又規(guī)范組織的活動(dòng)?？梢哉f，制度對(duì)國家（政府）治理活動(dòng)的影響是基礎(chǔ)性的?？v觀科學(xué)技術(shù)在人類社會(huì)發(fā)展中所扮演的角色，任何具體技術(shù)形態(tài)與國家治理的融合都離不開制度的保駕護(hù)航，制度往往決定了技術(shù)介入國家治理的活動(dòng)空間及合法性地位的獲得。出于對(duì)正式制度的建構(gòu)屬性考慮，這里更多是從正式制度出發(fā)，揭示制度對(duì)破解政府治理算法決策公平性困境的作用和價(jià)值。

1.劃定算法介入政府治理的現(xiàn)實(shí)邊界。事實(shí)上，人工智能算法介入治理所引發(fā)的社會(huì)公平正義隱憂正在逐漸擴(kuò)大，被譽(yù)為懸掛在人類頭頂之上新的“達(dá)摩克利斯之劍”。具體來看，算法嵌入政府治理對(duì)隱私、信任、監(jiān)管以及信息安全的挑戰(zhàn)不容忽視，尤其是決策算法化可能帶來的偏見和歧視問題，引發(fā)了政府治理決策的公平性問題，帶來了新的政府信任危機(jī)。為此，必須為算法介入政府治理決策劃定邊界和活動(dòng)空間，“通過構(gòu)建準(zhǔn)入機(jī)制和發(fā)布準(zhǔn)入清單，為算法技術(shù)的進(jìn)入和退出架構(gòu)起安全過濾屏障”［13］。明確部分場(chǎng)景和領(lǐng)域必須堅(jiān)持“人機(jī)合作”的服務(wù)供給模式，限定算法的介入權(quán)限。

2.補(bǔ)正政府治理算法決策的輸出偏誤。算法決策的偏見輸出，是源于技術(shù)賦能政府與賦權(quán)社會(huì)之間的張力。政府借助智能算法可以實(shí)現(xiàn)對(duì)社會(huì)運(yùn)行的精準(zhǔn)監(jiān)控和秩序重整；同時(shí)，公眾在面對(duì)政府的“算法權(quán)力”觸角之時(shí)，缺乏與之對(duì)話博弈的能力。顯然，在數(shù)字技術(shù)環(huán)境下，一旦政府行為偏離公平正義的時(shí)候，必然要求制度層面進(jìn)行重新的建構(gòu)和補(bǔ)正。從制度設(shè)計(jì)上彌補(bǔ)政府治理算法決策的輸出偏誤，調(diào)適這種由算法嵌入政府治理所引發(fā)的非均衡性和不平等性問題。例如，通過具體制度文本明確“算法決策”的公平訴求，2021 年頒布的《中華人民共和國個(gè)人信息保護(hù)法》就明確規(guī)定，在自動(dòng)化算法決策過程中，“應(yīng)當(dāng)保證決策的透明度和結(jié)果的公平、公正”。

3.消除政府治理算法決策的負(fù)面影響。制度的有效設(shè)計(jì)有助于消除算法決策的負(fù)面影響。由于“近代以來的制度設(shè)計(jì)，是通過橫向的分權(quán)（三權(quán)分立）和縱向的限權(quán)（減少干預(yù)）來確立權(quán)力制約和權(quán)利保障機(jī)制”［14］的，因此，從權(quán)力和權(quán)利雙重視角，審視制度如何破解政府治理算法決策的公平性困境，十分必要。從權(quán)力視角看，政府治理算法決策事實(shí)上造就了國家權(quán)力的擴(kuò)張，加劇了其他主體的權(quán)力弱勢(shì)地位，與現(xiàn)代國家治理的“共治”理念相悖。如此，必須從制度上創(chuàng)造“多元共治”的權(quán)力運(yùn)行空間，打造政府自律、社會(huì)監(jiān)督以及企業(yè)參與的共治格局。從權(quán)利視角看，政府治理算法決策壓縮了普通公眾的權(quán)利博弈空間，傳統(tǒng)的基于人類理性的權(quán)力分配規(guī)則為程序邏輯所取代，制度的價(jià)值便在于開辟一條有別于技術(shù)賦能的權(quán)利實(shí)現(xiàn)通道，打破技術(shù)治理路徑下技術(shù)決定論的桎梏。

（三）組織機(jī)制：組織支撐算法決策公平

政府治理的價(jià)值和目標(biāo)需要依托一個(gè)穩(wěn)定的組織來實(shí)現(xiàn)，而“新技術(shù)的出現(xiàn)可能導(dǎo)致組織形式的變化，而組織形式的變化往往也建立在技術(shù)變遷的基礎(chǔ)上”［15］?？梢哉f，算法嵌入政府治理決策過程越深，政府組織變革的內(nèi)在動(dòng)力也就越強(qiáng)。組織的變革反過來又有助于加速算法融入政府治理的進(jìn)程。如此，對(duì)于糾正算法決策的偏見輸出以及提升決策的公平性，組織的適配也就不可或缺。就組織機(jī)制的結(jié)構(gòu)而言，主要包括行政組織架構(gòu)和公務(wù)員系統(tǒng)，支撐和糾偏政府治理算法決策的實(shí)現(xiàn)。

1.組織架構(gòu)支撐算法決策。從算法決策類型來看，政府部門可以選擇輔助決策或者自動(dòng)決策［16］。在輔助決策模式下，算法輸出的結(jié)果僅作為實(shí)際決策的參考或建議，而非最終方案。算法并沒有脫離科層結(jié)構(gòu)的運(yùn)行邏輯，仍然是在科層規(guī)則的約束之下展開。在這種情況下，算法決策潛在的偏見和歧視問題，易于被發(fā)現(xiàn)和及時(shí)糾正，只需在原有的組織結(jié)構(gòu)中明確具體的職責(zé)和權(quán)限，承擔(dān)起算法決策的糾偏功能即可。在自動(dòng)決策模式下，算法被用于直接決策，獲得了一種準(zhǔn)公權(quán)力，對(duì)公眾有相當(dāng)?shù)臋?quán)威。算法事實(shí)上形成了一套并行于傳統(tǒng)科層系統(tǒng)的決策流程，這套流程廣受詬病的就是其不可解釋性和低透明性。如此，就需要重新設(shè)計(jì)適配自動(dòng)決策模式下的組織系統(tǒng)，讓其發(fā)揮如下作用：當(dāng)算法作出的決策出現(xiàn)明顯偏誤的時(shí)候，能夠自動(dòng)重啟人類決策，類似一種“熔斷機(jī)制”——算法一旦出現(xiàn)偏誤，即自動(dòng)復(fù)歸至人類決策的環(huán)節(jié)。

2.公務(wù)員系統(tǒng)糾偏算法決策。除了靜態(tài)的組織架構(gòu)設(shè)計(jì)和職責(zé)安排以外，動(dòng)態(tài)的組織運(yùn)行便不能忽視人的角色，即公務(wù)員的作用。作為政府治理行為和活動(dòng)的具體執(zhí)行者，公務(wù)員的素質(zhì)高低往往決定了政府治理的質(zhì)量優(yōu)劣。從這種意義上而言，公務(wù)員的作用和價(jià)值與靜態(tài)的結(jié)構(gòu)設(shè)計(jì)同等重要，某些時(shí)候發(fā)揮的作用可能更大。算法決策偏見的形成是由于人類過度信任算法的靜態(tài)能力，認(rèn)為依托大數(shù)據(jù)和機(jī)器學(xué)習(xí)的自我迭代邏輯，必然會(huì)輸出客觀、公正的方案。其中隱含的一個(gè)前提是人類認(rèn)為算法的能力強(qiáng)于自己，并接受了這一結(jié)果。為了避免政府治理算法決策的不公平性問題發(fā)生，必然要求重新定位人類公共管理者（公務(wù)員）的角色，明確公共管理者的角色應(yīng)當(dāng)由“事務(wù)性供給”轉(zhuǎn)向“公共性維護(hù)”［17］，事關(guān)公平正義之策必交由人類之手決斷。因此，為推動(dòng)政府治理決策過程中的人機(jī)合作，實(shí)現(xiàn)人類的主觀能動(dòng)性和機(jī)器的強(qiáng)大計(jì)算能力之間的均衡配合，必須對(duì)整個(gè)公務(wù)員系統(tǒng)加強(qiáng)立體培訓(xùn)和專業(yè)能力提升，擴(kuò)大對(duì)優(yōu)秀數(shù)字人才的引育，以適應(yīng)政府治理決策的算法化轉(zhuǎn)型需要。

三、堅(jiān)持“軟硬并進(jìn)”：提升政府治理算法決策公平性的路徑

從決策公平的實(shí)質(zhì)內(nèi)涵來看，必須基于“程序公平、結(jié)果公平”的雙重標(biāo)準(zhǔn)，堅(jiān)持“軟硬并進(jìn)”的實(shí)踐進(jìn)路，提升政府治理算法決策公平性。具體而言，一方面堅(jiān)持用正確的價(jià)值導(dǎo)向引領(lǐng)算法的開發(fā)和布局，使算法的決策輸出不偏離公平正義的價(jià)值軌道；另一方面，不斷完善政府治理算法決策的制度環(huán)境，打造適配政府治理算法決策的組織系統(tǒng)。

（一）將公共價(jià)值融入算法設(shè)計(jì)和布局

算法治理的公共性訴求，要求賦予算法正確的價(jià)值觀。算法的初始設(shè)計(jì)源自人類之手，將公共價(jià)值融入算法的設(shè)計(jì)和布局過程，事實(shí)上就是融入人類創(chuàng)新行為，塑造技術(shù)開發(fā)者及其共同組織價(jià)值觀的過程。

1.技術(shù)開發(fā)者樹立正確的核心價(jià)值觀。作為人類創(chuàng)造的一種技術(shù)形態(tài)，算法是由人類定義和搭建的，很難完全消除人類的情感痕跡和價(jià)值偏好，保持絕對(duì)的中立存在。那么，如何賦予算法正確的價(jià)值觀呢？如果將算法決策公平性問題的產(chǎn)生，追溯至算法的開發(fā)和設(shè)計(jì)階段，就不難發(fā)現(xiàn)對(duì)技術(shù)開發(fā)者的價(jià)值觀念進(jìn)行塑造就構(gòu)成了賦予算法正確價(jià)值觀的核心環(huán)節(jié)。一方面必須堅(jiān)持技術(shù)是造福人類、謀求人類全面自由發(fā)展的價(jià)值定位，算法的開發(fā)和設(shè)計(jì)不能偏離造福人類的價(jià)值軌道。愛因斯坦認(rèn)為，科技工作者“只懂得應(yīng)用科學(xué)本身是不夠的。關(guān)心人的本身，應(yīng)當(dāng)始終成為一切技術(shù)上奮斗的主要目標(biāo)”［18］。另一方面，必須樹立正確的公共倫理觀。政府治理算法決策獲得了一定的“準(zhǔn)公共權(quán)力”，具有很強(qiáng)的公共屬性，應(yīng)用于政府治理決策的算法必須兼具公平性、正義性，這就要求算法的開發(fā)和設(shè)計(jì)者必須具備公平與正義的倫理價(jià)值追求。

2.強(qiáng)化算法開發(fā)企業(yè)的社會(huì)責(zé)任意識(shí)。算法被科技工作者開發(fā)之后，依托市場(chǎng)機(jī)制進(jìn)入社會(huì)公共領(lǐng)域，在公共部門和私營部門得到廣泛應(yīng)用。當(dāng)前，大型科技企業(yè)廣泛參與到數(shù)字政府建設(shè)當(dāng)中，政府所需的大數(shù)據(jù)、智能算法以及區(qū)塊鏈技術(shù)等都來自互聯(lián)網(wǎng)科技企業(yè)的供給?？萍计髽I(yè)在提升政府治理算法決策公平性的過程中，發(fā)揮著重要的作用，承擔(dān)著必要的責(zé)任。因此，必須強(qiáng)化企業(yè)對(duì)算法應(yīng)用產(chǎn)生結(jié)果負(fù)主體責(zé)任，加強(qiáng)對(duì)布局和應(yīng)用在政府領(lǐng)域的算法的安全評(píng)估。與此同時(shí)，應(yīng)該主動(dòng)配合政府對(duì)提供公共服務(wù)的算法程序進(jìn)行安全審核，研判算法應(yīng)用的社會(huì)公平等風(fēng)險(xiǎn)，提高政府治理算法決策的可解釋性和透明性，弱化政府治理算法決策的“暗箱”效應(yīng)。只有操控和開發(fā)算法的企業(yè)主體具有了主體責(zé)任意識(shí)，才能實(shí)現(xiàn)公共價(jià)值與算法決策相統(tǒng)一。例如，騰訊堅(jiān)持將科技向善與企業(yè)可持續(xù)發(fā)展的戰(zhàn)略愿景相結(jié)合，堅(jiān)持科學(xué)技術(shù)是服務(wù)人類社會(huì)發(fā)展的價(jià)值定位。

3.加強(qiáng)算法“把關(guān)人”的價(jià)值觀建設(shè)。“把關(guān)人”原是傳統(tǒng)媒體對(duì)選題、采訪和編輯信息發(fā)布所設(shè)置的一種內(nèi)容審核機(jī)制。算法在政府治理決策過程中的應(yīng)用，最終輸出的是一套搭載政府權(quán)威的命令和服務(wù)安排，然而，如何保證這種命令和服務(wù)安排的公平性，則需要建立起類似于新聞“把關(guān)人”的算法“把關(guān)人”機(jī)制，承擔(dān)起對(duì)算法輸出的命令和方案進(jìn)行最后審核的角色。算法“把關(guān)人”通常是以個(gè)體或者一種組織的形態(tài)出現(xiàn)。在政府治理算法決策過程中，算法“把關(guān)人”必須承擔(dān)起兩種責(zé)任：一是追蹤評(píng)估政府治理算法決策的后續(xù)影響，精準(zhǔn)把控算法輸出方案可能存在的社會(huì)爭議和輿論風(fēng)險(xiǎn)；二是當(dāng)算法輸出的方案出現(xiàn)偏差和有失公平正義時(shí)，及時(shí)進(jìn)行糾偏和阻斷。那么，如何肩負(fù)算法公平性審核的“把關(guān)人”責(zé)任，確保能站在公平的立場(chǎng)，便成為決定算法“把關(guān)人”成敗與否的關(guān)鍵。因此，加強(qiáng)價(jià)值觀建設(shè)，確保對(duì)政府治理算法決策承擔(dān)把關(guān)責(zé)任的個(gè)體或組織，始終堅(jiān)持公平正義的價(jià)值取向就至關(guān)重要。

（二）以制度明晰算法的權(quán)限和地位

從制度層面看，提升政府治理算法決策公平性，既要明確算法決策的地位和權(quán)限，賦予算法輸出的命令和方案應(yīng)有的權(quán)威，也要確保人類決策的中心地位不被動(dòng)搖，實(shí)現(xiàn)人類理性與算法理性的動(dòng)態(tài)均衡。具體包括以下三個(gè)層面：

1.注重人類決策與算法決策的耦合銜接。從技術(shù)發(fā)展的階段來看，政府治理算法決策所依托的技術(shù)及其理性程度尚不具備取代人類理性的可能。雖然算法技術(shù)從微觀層面極大地改善了人類的決策行為，使得人類的決策活動(dòng)步入了一個(gè)新的階段，但不能否認(rèn)的是，目前，算法技術(shù)給出的理性方案仍然是一種有限理性的決策輸出。因此，若想要最大限度地逼近理性決策，既需要發(fā)揮人類在同理心、道德感、意志等方面的先天優(yōu)勢(shì)，又離不開算法在大數(shù)據(jù)計(jì)算、精確識(shí)別以及機(jī)器學(xué)習(xí)等方面的技術(shù)價(jià)值，最終實(shí)現(xiàn)人類決策與算法決策的耦合協(xié)同。具體而言，一是用制度明確算法決策的適用場(chǎng)景，為政府治理活動(dòng)中的算法應(yīng)用設(shè)定邊界，對(duì)涉及人類基本生存權(quán)力/權(quán)利的領(lǐng)域應(yīng)當(dāng)審慎應(yīng)用算法決策；二是建立兩種決策的耦合銜接機(jī)制，使得人類決策與算法決策能夠協(xié)同并進(jìn)，形成決策合力。

2.完善適配算法決策的權(quán)利救濟(jì)制度。在常規(guī)的人類決策情境下，當(dāng)公眾受到行政決策權(quán)力侵害時(shí)，機(jī)關(guān)或者個(gè)人往往會(huì)在法律允許的范圍內(nèi)給予一定的補(bǔ)償，即權(quán)利救濟(jì)。由于政府治理算法決策存在的“暗箱”屬性、不透明性以及不可解釋性，在客觀上壓縮了決策相對(duì)人的參與空間和權(quán)利申訴通道，使得受到算法決策不公平對(duì)待的特殊群體，難以通過正常的渠道表達(dá)不滿以及提出申訴，獲得一般的權(quán)利救濟(jì)。因此，必須建立和完善適配政府治理算法決策的權(quán)利救濟(jì)機(jī)制。從程序維度看，全自動(dòng)算法行政應(yīng)至少保障行政相對(duì)人對(duì)全自動(dòng)程序的知情權(quán)、選擇權(quán)與要求人工介入等權(quán)利［19］。從內(nèi)容維度看，一方面及時(shí)出臺(tái)補(bǔ)救措施，糾正算法給出的不公平性指令和方案；另一方面，結(jié)合政府治理算法決策的具體影響，給予一定的補(bǔ)償。

3.強(qiáng)化對(duì)算法決策系統(tǒng)的測(cè)試與審核。與傳統(tǒng)政府決策“暗箱”不同的是，算法決策的“暗箱”更多是技術(shù)層面所帶來的一種不透明和不可解釋性，因此，必須加強(qiáng)對(duì)算法應(yīng)用的前期審核和后期影響評(píng)估，提高政府治理算法決策的透明性。一是建立算法應(yīng)用之前的測(cè)試和審核機(jī)制。引入公眾積極參與審核過程，現(xiàn)階段公眾尚無渠道了解算法是如何被應(yīng)用于公共服務(wù)及其他治理場(chǎng)景的，測(cè)試和審核機(jī)制有助于確保公眾知情權(quán)，提高算法應(yīng)用的公開性；同時(shí)還需要建立政府治理算法決策的合倫理審查機(jī)制，吸引技術(shù)專家、公眾和協(xié)會(huì)等參與倫理審查，積極防范政府治理算法決策的倫理風(fēng)險(xiǎn)。二是建立政府治理算法決策后期影響的評(píng)估制度。合理的算法影響評(píng)估制度“在提升算法透明性、改善個(gè)體在算法社會(huì)中的弱勢(shì)地位、協(xié)調(diào)公共與私人利益等方面發(fā)揮著重要作用”［20］。

（三）打造適配的組織系統(tǒng)

組織環(huán)境是影響算法能否在政府內(nèi)部有效運(yùn)行并產(chǎn)生良好效果的關(guān)鍵因素。打造適配政府治理算法決策的組織系統(tǒng)，推動(dòng)圍繞政府治理算法決策需要，進(jìn)行組織系統(tǒng)內(nèi)部的重新組合與設(shè)計(jì)，及時(shí)糾正和控制政府治理算法決策的偏見輸出，是確保算法在政府決策過程中公平公正輸出的有效支撐。

1.明晰數(shù)據(jù)職能機(jī)構(gòu)的責(zé)權(quán)關(guān)系。數(shù)據(jù)是政府治理算法決策的核心要素與基礎(chǔ)支撐，數(shù)據(jù)質(zhì)量的高低直接影響著政府治理算法決策輸出的偏誤程度。換言之，提升政府治理算法決策公平性的關(guān)鍵環(huán)節(jié)便在于高質(zhì)量的基礎(chǔ)數(shù)據(jù)輸入。如此，必須從以下兩個(gè)方面采取措施：一是整合政府機(jī)構(gòu)內(nèi)部的數(shù)據(jù)職能。明晰數(shù)據(jù)采集者、管理者以及使用者之間的權(quán)責(zé)關(guān)系，推動(dòng)部門的“數(shù)據(jù)職責(zé)”清單化管理和規(guī)范化界定，破除部門之間數(shù)據(jù)職能“打架扯皮”現(xiàn)象，提升基礎(chǔ)數(shù)據(jù)的管理和供給能力。同時(shí)，不斷變革傳統(tǒng)的數(shù)據(jù)調(diào)查統(tǒng)計(jì)與管理體制，創(chuàng)新傳統(tǒng)入戶調(diào)查與自主上報(bào)機(jī)制，加大數(shù)字技術(shù)的開發(fā)和應(yīng)用，建立高度智能化的數(shù)據(jù)采集和管理系統(tǒng)，不斷提升基礎(chǔ)數(shù)據(jù)的采集、清洗與分析能力，提高基礎(chǔ)數(shù)據(jù)的質(zhì)量。二是加強(qiáng)數(shù)據(jù)部門和業(yè)務(wù)部門的協(xié)同聯(lián)動(dòng)。有學(xué)者指出，“隨著數(shù)據(jù)不斷集中，客觀上出現(xiàn)了與具體業(yè)務(wù)工作不銜接不匹配的問題。數(shù)據(jù)管理部門往往權(quán)限不太高，協(xié)調(diào)業(yè)務(wù)部門難度比較大，出現(xiàn)‘小馬拉大車’現(xiàn)象”［21］。事實(shí)上，政府治理過程中的決策往往更多地產(chǎn)生于業(yè)務(wù)部門，而業(yè)務(wù)部門的算法決策又離不開數(shù)據(jù)部門的具體支撐。因此，必須盡快建立起業(yè)務(wù)部門與數(shù)據(jù)部門的銜接機(jī)制，確保政府治理算法決策的高效性、科學(xué)性和精準(zhǔn)性。

2.加快培育公務(wù)員的算法素養(yǎng)。任何組織的有效運(yùn)轉(zhuǎn)都離不開人，政府組織也不例外。對(duì)政府治理算法決策而言，不斷加強(qiáng)公務(wù)員的算法素養(yǎng)，適應(yīng)政府治理算法決策的特征屬性與業(yè)務(wù)要求，對(duì)于修正政府治理算法決策的實(shí)踐偏誤、提升政府治理算法決策公平性至關(guān)重要。一是正確認(rèn)識(shí)培育公務(wù)員素養(yǎng)的意義。在政府治理數(shù)字化轉(zhuǎn)型加速的當(dāng)下，廣大公務(wù)員必須主動(dòng)適應(yīng)數(shù)字時(shí)代政府治理決策的新挑戰(zhàn)，不能盲目排斥和抵觸決策的算法化轉(zhuǎn)型。同時(shí)，善于借助新興數(shù)字技術(shù)來提升自身干事創(chuàng)業(yè)的能力，是數(shù)字時(shí)代公務(wù)員必備的技能和素養(yǎng)。二是建立培育公務(wù)員算法素養(yǎng)的實(shí)踐機(jī)制。通過與企業(yè)、高校聯(lián)合開設(shè)培訓(xùn)班，加大公務(wù)員算法基礎(chǔ)知識(shí)的培訓(xùn)力度。同時(shí)，擴(kuò)大公共服務(wù)的人機(jī)協(xié)同，讓公務(wù)員深度配合、參與政府治理的算法決策流程，深入了解政府治理算法決策的內(nèi)在機(jī)理，增強(qiáng)公務(wù)員對(duì)政府治理算法決策的理性認(rèn)識(shí)。三是完善公務(wù)員的考評(píng)獎(jiǎng)勵(lì)機(jī)制。重視對(duì)公務(wù)員數(shù)據(jù)知識(shí)、算法基礎(chǔ)等方面技能的激勵(lì)，加快建立適配算法轉(zhuǎn)型的公務(wù)員招聘制度，完善數(shù)字人才破格晉升、直聘機(jī)制，打通人員流動(dòng)、晉升渠道，促進(jìn)人才將外在刺激轉(zhuǎn)化為內(nèi)在動(dòng)力。