人工智能時代行政裁量自動化的挑戰(zhàn)與回應(yīng)

劉旭行，許雙全

（河北大學(xué) 法學(xué)院，河北 保定 071000）

自動化行政作為近年來推進數(shù)字法治政府建設(shè)的新模式，具有顯著提升行政效率，推進行政管理規(guī)范化、體系化等優(yōu)勢。然而行政裁量領(lǐng)域中技術(shù)與權(quán)力的融合也帶來了一些挑戰(zhàn)，因此，針對問題痛點回應(yīng)面臨的挑戰(zhàn)實為必要。

一、問題的提出

根據(jù)《國務(wù)院印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》（國發(fā)〔2017〕35號），要求圍繞行政管理、司法管理、環(huán)境保護等社會治理，大力促進人工智能技術(shù)的應(yīng)用，推動社會治理現(xiàn)代化。近年來，人工智能技術(shù)應(yīng)用已在智慧政務(wù)、智慧法庭、智慧城市等多個領(lǐng)域取得顯著成就，特別是應(yīng)用于司法、行政領(lǐng)域的人工智能系統(tǒng)，推動了治理的現(xiàn)代化。在行政領(lǐng)域，人工智能在推動行政治理智能化、制定行政規(guī)則、依托自動化技術(shù)建立行政自動化裁量系統(tǒng)等方面，對提高行政效率、優(yōu)化裁量決策、加強數(shù)字化行政法治建設(shè)的優(yōu)勢不言而喻，自動化行政應(yīng)用范圍日趨廣泛［1］。根據(jù)域外高度自動化國家所展現(xiàn)出的優(yōu)秀經(jīng)驗來看，算法治理做出的決策更準確、合理。可以預(yù)見的是，隨著我國自動化行政的迅猛發(fā)展和廣泛應(yīng)用，行政機關(guān)會越來越依賴機器學(xué)習(xí)算法驅(qū)動的數(shù)字化管理方式。

近來域外部分學(xué)者對自動化行政也開始表示憂思，如2017年《可可問責(zé)法》中指出：“行政機關(guān)在運用自動化時，可能放棄了自己的專業(yè)知識，忽略了裁量、個性化和理由說明?！保?］自動化行政也帶來了諸多消極影響，如削弱正當程序保障、違背技術(shù)中立等。結(jié)合國內(nèi)現(xiàn)有文獻，我國學(xué)界對自動化行政裁量的關(guān)注，主要集中在三個方面：自動化引入行政治理存在的歧視、安全和隱私等風(fēng)險會削弱政府的控制能力；人工智能的運用所帶來的透明度和信息公開問題；如何有效對自動化行政進行法律規(guī)制。總體來看，囿于目前我國行政裁量的自動化水平尚未達到域外部分國家的自動化水平，暴露出的問題也具有片面性。基于此，國內(nèi)學(xué)者對相關(guān)問題雖有觸及，但仍未展開系統(tǒng)剖析。聚焦當前行政領(lǐng)域正出現(xiàn)的自動化轉(zhuǎn)型對行政裁量的挑戰(zhàn)，我國如何應(yīng)對、防范其對行政裁量的消極影響，是本文需要著重探討的問題。

二、行政裁量的智能體現(xiàn)：自動化在行政裁量中的應(yīng)用

“放管服”改革與“互聯(lián)網(wǎng)+政務(wù)”等政策的出臺，以人工智能為代表的自動化技術(shù)在行政領(lǐng)域的應(yīng)用愈發(fā)多元化，呈現(xiàn)出從服務(wù)型到管理型、賦權(quán)型活動轉(zhuǎn)變的趨勢。尤其在行政裁量領(lǐng)域，自動化裁量開始廣泛應(yīng)用于行政處罰、行政審批與行政評級。

（一）自動化裁量在行政處罰中的應(yīng)用

行政處罰是行政機關(guān)進行行政管理的有效手段，行政處罰的幅度、標準等內(nèi)容與行政裁量息息相關(guān)。行政處罰自動化裁量始于2016年，巴中市在全國率先研發(fā)并使用公安行政處罰自動化裁量系統(tǒng)，如交通執(zhí)法領(lǐng)域所運用的電子警察，以電子監(jiān)控方式（即非現(xiàn)場執(zhí)法）改變傳統(tǒng)街頭執(zhí)法模式，系統(tǒng)根據(jù)預(yù)設(shè)規(guī)則以“秒”的速度對相對人行為作出裁量。相較傳統(tǒng)執(zhí)法模式，“電子警察”的運用不僅提高了行政效率與效能，而且有利于改善執(zhí)法環(huán)境、全面持續(xù)維護交通秩序。2017年南京市以“掌上公安局”為依托推出行政案件自動裁量系統(tǒng)；2018年亳州市推出“城管電子執(zhí)法系統(tǒng)”；2019年有條件的生態(tài)環(huán)境部門開始研發(fā)、利用自動化裁量系統(tǒng)；2021年寧波市鄞州區(qū)綜合行政執(zhí)法局自主研發(fā)自由裁量處罰判定線上平臺等。由此可知，行政處罰機關(guān)事前對行政處罰案件中的常見爭端類型進行收集、篩選，形成較為完整的信息系統(tǒng)，之后依托自動化平臺對行政處罰相關(guān)數(shù)據(jù)進行量化分析，設(shè)定不同處罰類型所適用的裁量標準，從而為行政處罰自動化裁量設(shè)定細化、可靠的數(shù)據(jù)庫，極大提高了行政處罰裁量結(jié)果的精準度。

（二）自動化裁量在行政審批中的應(yīng)用

在行政審批領(lǐng)域，2018年深圳市發(fā)布關(guān)于普通高校應(yīng)屆畢業(yè)生引進和落戶的工作方案，采用“無人干預(yù)自動審批”模式。該模式異于現(xiàn)場提交信息材料、人工進行審核等手續(xù)，取而代之的是申請人在系統(tǒng)提交材料后，自動審核，若材料完備無誤，系統(tǒng)直接發(fā)出批準的通知。根據(jù)有關(guān)資料顯示，深圳市政府在行政審批領(lǐng)域?qū)嵭小懊肱笔马?，截?020年已達212項?！懊肱毙袨楸举|(zhì)上為羈束性行為，類似如企業(yè)的投資備案手續(xù)、異地就醫(yī)的備案手續(xù)以及申領(lǐng)社保津貼等，此種模式下的自動化裁量是預(yù)先設(shè)定規(guī)則，輸入個案因素，直接產(chǎn)生既定結(jié)果，無賦予選擇的可能。自動化行政裁量能極大提升行政效率，促使行政機關(guān)更加青睞依托自動化開展行政管理活動。近期廣西、安徽等地也開始采用系列措施，自動化裁量技術(shù)的運用如火如荼。

（三）自動化在行政評級中的應(yīng)用

疫情時代，行政機關(guān)依托健康碼大數(shù)據(jù)來評判個人的疫情風(fēng)險等級，根據(jù)等級不同采取相異的管理措施，此模式屬于自動化裁量在行政評級領(lǐng)域的典型運用。健康碼運作原理實質(zhì)上是依據(jù)算法規(guī)則自動完成的，其輸出結(jié)果是通過處理個人信息的方式獲取的。整個健康碼的申請過程由行政機關(guān)主導(dǎo)，行政機關(guān)提前將評判標準借助算法化形式進行程式化構(gòu)造，之后相對人通過在線提交信息的方式發(fā)送申請，最終通過系統(tǒng)自動分配不同顏色標識的二維碼。整個健康碼生成過程是自動完成的，且由行政機關(guān)進行主導(dǎo)，其目的是服務(wù)于行政。根據(jù)健康碼的生成機制，行政機關(guān)在疫情防控中以健康碼的顏色為標準進行分類監(jiān)管。健康碼的應(yīng)用，使行政機關(guān)可以依托大數(shù)據(jù)進行風(fēng)險等級研判，自動作出行政裁量，服務(wù)于行政，為行政機關(guān)的應(yīng)急決策和行動提供支持。

綜上，自動化技術(shù)在行政領(lǐng)域的應(yīng)用不再是某一領(lǐng)域、某一環(huán)節(jié)或局部的應(yīng)用，而是以更加開放、全面、必要的態(tài)勢呈現(xiàn)。行政裁量領(lǐng)域?qū)ψ詣踊膽?yīng)用，優(yōu)化了資源配置，促進了行政裁量結(jié)果的可接受性。數(shù)字與法治政府的建設(shè)，將會促使自動化在行政裁量領(lǐng)域發(fā)揮更多作用，取得更加顯著的成果。

三、危機中的行政裁量：自動化對行政裁量的挑戰(zhàn)

世界各國電子政務(wù)迅猛發(fā)展，數(shù)字政府建設(shè)的進程不斷加快，利用自動化裁量系統(tǒng)作出行政決定，是提升行政效率的重要選擇。在專注提高效率的同時，需要對裁量過程中的恣意行為進行有效預(yù)防。不可否認，自動化裁量在多數(shù)情況下優(yōu)于人類裁量，尤其表現(xiàn)在要求前后一致超過裁量價值的情形下，良好的自動化決策比人類裁量更為有利。在容易受到人性影響的領(lǐng)域，人作為情感的載體極易受到偏見的影響，此時自動化裁量比人類裁量更具優(yōu)勢。正如硬幣都有兩面，自動化裁量的優(yōu)勢同時也是劣勢。由于自動化裁量的確定性，預(yù)先設(shè)定的規(guī)則決定不允許其存在二異性，即自動化裁量系統(tǒng)難以像人類一樣針對具體的情形選擇最適當?shù)臎Q定［3］。應(yīng)當指出，行政自動化裁量在一定程度上提升了行政機關(guān)的工作效率，推動了行政工作規(guī)范化、體系化、制度化的發(fā)展。隨著自動化行政的應(yīng)用范圍愈加寬泛，對程序正當與個案正義沖擊的挑戰(zhàn)也逐漸暴露，主要體現(xiàn)在陳述申辯權(quán)被壓縮、個案正義無法保障、篡奪行政裁量權(quán)等幾個方面。

（一）陳述申辯權(quán)被壓縮

正當程序原則作為行政法的基本原則之一，要求行政機關(guān)無論作出何種行政行為，尤其是作出對相對人不利的行政行為時，除非存在保密性質(zhì)，都應(yīng)當允許相對人說明理由，事先聽取陳述申辯，再作出行政裁量決定。從憲法角度看，貫徹正當程序原則是對公民知情權(quán)、參與權(quán)和平等權(quán)的落實。本文所論及自動化裁量的實質(zhì)是利用計算機技術(shù)，將成千上萬條的命令輸出數(shù)億條指示，在行政領(lǐng)域即以自然語言的方式將相關(guān)的法律規(guī)范轉(zhuǎn)換為代碼，代碼通過系統(tǒng)中設(shè)定的規(guī)則進行裁量，瞬間輸出結(jié)果的過程。自動化裁量的時間通常是以毫秒計算，效率極高，但整個裁量過程是封閉的，相對人無法直觀感受、參與內(nèi)部決策過程，不能進行陳述申辯［4］。法律賦予當事人享有陳述申辯權(quán)，是為了避免行政機關(guān)因調(diào)查不足、惰怠裁量或是認知偏差而出現(xiàn)錯誤決定。作為正當程序核心的陳述申辯權(quán)，其功能是為確保行政決定最終的正確與理性，但現(xiàn)有的自動化裁量實踐，折射出對當事人程序權(quán)利的漠視。

誠然，技術(shù)與原則的沖突是不容忽視的?！奥晠入娮友邸钡倪\用，在抓拍違章車輛方面的作用非常顯著，但現(xiàn)有智能技術(shù)卻無法自動區(qū)分救護車與普通車輛，甚至無法區(qū)分照片與真人，如“董明珠闖紅燈照片出現(xiàn)在曝光臺電子屏上”，事實真相是“一輛車身噴涂有董明珠大幅頭像廣告的公交車壓在了斑馬線上”。單將電子眼拍攝的信息資料輸入系統(tǒng)，徑直根據(jù)系統(tǒng)輸出的裁量結(jié)果作出處罰決定，雖屏蔽了執(zhí)法人員的主觀因素，但卻嚴重侵害了相對人的程序性權(quán)利?！半娮泳臁痹诮煌▓?zhí)法領(lǐng)域的運用，相較于傳統(tǒng)交警執(zhí)法過程中向違法行為人表明身份、處罰決定前需要聽取相對人的陳述申辯、程序選擇方面可以選擇適用簡易程序或普通程序等，非現(xiàn)場執(zhí)法完全依靠自動化技術(shù)直接作出裁量結(jié)果，處罰通知未經(jīng)當事人選擇徑直以電子送達等，無法兼顧人工執(zhí)法時的人性化和靈活化特征［5］。

綜上，機器自動化裁量關(guān)注實體處罰結(jié)果，忽視相對人的知情權(quán)、參與權(quán)等程序性權(quán)利的實現(xiàn)；未聽取陳述申辯直接作出處罰決定，雖獲得效率價值，但卻侵害相對人實體權(quán)利，背離行政正當程序原則。

（二）個案正義無法保障

首先，自動化行政裁量依托自動化系統(tǒng)，根據(jù)預(yù)先設(shè)定的規(guī)則，通過輸入特定裁量因子對相關(guān)數(shù)據(jù)進行量化分析，進而作出裁量結(jié)果，目的是為了防止“同案不同判”“處罰偏輕畸重”，使行政行為趨向模式化。但許多情況下，機械適用自動化裁量內(nèi)部規(guī)則意味著非正義。有學(xué)者提出，自動化裁量無法做到“過罰相當”［6］。囿于目前自動化裁量系統(tǒng)的智能化水平較低，不能實現(xiàn)機器的自主學(xué)習(xí)，在裁量系統(tǒng)中也沒有從輕、減輕、從重或不予處罰等選項，無法量體裁衣式地彰顯個案正義的個性化裁量。其次，即使最好的設(shè)計也會存在不足，自動化裁量內(nèi)部系統(tǒng)指令設(shè)計是否準確無誤？裁量基準以機械化規(guī)則預(yù)先制定，不需要考慮的相關(guān)因素被事先剔除，但無個案具體語境的考量結(jié)果是否公正？被量化、算法化的公平是否會違背個案正義，突破行政公正原則的界限？

在成都市金牛區(qū)人民法院（2014）金牛行初字第66號案中，原告以107 km/h的速度在高速上駕駛，超過規(guī)定時速7%，被處罰款200元，記3分。原告訴稱駕駛速度只是略超過規(guī)定時速，違章情節(jié)輕微，交警不應(yīng)當對超速20%以下的行為一律頂格處罰，有違個案公正。忽略個案情景的考量，無疑是對行政公正原則的背離，進而導(dǎo)致個案正義受損［7］。無獨有偶，“何友慶案（2015）珠中法程（行政）終字第34號”香洲交警大隊在聽取陳述申辯后，仍以電腦系統(tǒng)設(shè)定的處罰無法改變?yōu)橛?，對何某作出頂格處罰的決定。“系統(tǒng)作出的決定無法更改”，這一論斷會導(dǎo)致多少個案正義被抹殺。同時，頂格罰款是對行政裁量目的的濫用，違反公平性與比例原則，屬于明顯不當?shù)男姓袨椋?］。又如在“套牌”系列案件中，當事人對系統(tǒng)認定的事實提出異議，執(zhí)法機關(guān)聽取相對人陳述申辯，但將異議事項的舉證責(zé)任不當?shù)怪糜诋斒氯耍笃涑袚C明自己沒有違法行為的舉證責(zé)任，卻未依據(jù)“疑違（法）從無”原則處理。實踐中，當事人自證清白往往十分困難，此做法無疑將會導(dǎo)致個案公平無法實現(xiàn)。此外，若行政人員因受制于相關(guān)部門規(guī)定，要求必須以自動化技術(shù)為依托，甚至有些地區(qū)以是否使用自動化技術(shù)作為衡量其業(yè)務(wù)能力的標準，以是否采用自動化裁量結(jié)果作為判定行政工作人員業(yè)績水平的依據(jù)，無疑會促使相關(guān)工作人員直接采用自動化裁量結(jié)果而忽視個案具體情由。這不僅破壞行政程序，而且嚴重侵害行政相對人獲得案件公正裁量的權(quán)利，損害政府公信力。

（三）篡奪行政裁量權(quán)

自動化行政裁量若被泛化、肆意使用，極有可能會取代人類決策而嵌入公權(quán)力。自動化裁量設(shè)計的初衷是為克服人工裁量的不足，避免裁量決定受主觀偏好、個人經(jīng)驗以及“人情、關(guān)系”等不良現(xiàn)象的影響。借助自動化裁量系統(tǒng)，予以輔助技術(shù)工具使用，看表面上有利于將行政人員的主觀化傾向抽離，實現(xiàn)客觀公正外觀，但在實踐中行政機關(guān)卻過度依賴，且熱衷于采納自動化技術(shù)做出結(jié)果，從而不加審核直接將系統(tǒng)決策結(jié)果作為行政決定。有學(xué)者將這一情形視為裁量惰?。?］，即依法有裁量余地卻不行使；加之自動化裁量技術(shù)所具備的自身優(yōu)勢，使其逐漸突破輔助性定位，實際發(fā)揮了裁量決策權(quán)的功能。交警非現(xiàn)場執(zhí)法領(lǐng)域，新《行政處罰法》對電子監(jiān)控設(shè)備收集、固定的資料可以作為證據(jù)使用予以立法層面的明確規(guī)定，但結(jié)合已有的執(zhí)法實踐，執(zhí)法人員基于各種原因，通常會選擇將自動化裁量的結(jié)果視為最佳處罰決定，且更加傾向迷信技術(shù)所給的答案，忽視自動化技術(shù)本身存在設(shè)定錯誤之可能。

尤其是生態(tài)環(huán)境領(lǐng)域引入自動化，意味著系統(tǒng)需要面對更加復(fù)雜的情形作出裁量。人尚且會犯錯，何況以代碼為基礎(chǔ)的人工智能。若未經(jīng)人員審核直接機械適用，不僅會降低行政機關(guān)在該領(lǐng)域的地位，甚至?xí)儕Z行政機關(guān)的裁量權(quán)［10］。行政機關(guān)的裁量權(quán)是指在其職責(zé)范圍內(nèi)，依據(jù)法理或事理進行酌量處理的權(quán)利。傳統(tǒng)在作出行政處罰時，行政機關(guān)在法定的處罰范圍、幅度、種類和強度內(nèi)可以進行自由選擇，但在自動化行政處罰裁量系統(tǒng)中，依托系統(tǒng)作出裁量判斷，無法有效發(fā)揮行政主體的行政裁量權(quán)。原因包括兩個方面：第一，實踐中執(zhí)法人員的調(diào)查權(quán)限通常受到嚴格限定，只能調(diào)查與自動化裁量因子相關(guān)的事實，違法事實一旦被錄入自動化裁量系統(tǒng)，執(zhí)法人員將無權(quán)修改或者撤銷；第二，執(zhí)法人員對自動化裁量系統(tǒng)作出的結(jié)果無權(quán)進行變更。自動化裁量系統(tǒng)通常是由省級政府或其工作部門進行統(tǒng)一操作，基層執(zhí)法人員對裁量結(jié)果無法變更，即使該執(zhí)法人員對此裁量結(jié)果享有審核權(quán)，除非經(jīng)過嚴格的程序要求，否則也無變更權(quán)限。自動化裁量過程對執(zhí)法人員的限制，是從調(diào)查階段至裁量決定最終作出，這在一定程度上呈現(xiàn)出架空行政裁量決策權(quán)的態(tài)勢，對行政機關(guān)是極大的挑戰(zhàn)。

四、應(yīng)對策略：對行政裁量自動化挑戰(zhàn)的回應(yīng)

自動化行政裁量不僅改變傳統(tǒng)裁量權(quán)的行使方式，而且在重構(gòu)裁量權(quán)行使規(guī)則。面對自動化行政裁量挑戰(zhàn)，應(yīng)當采取有效應(yīng)對策略。

（一）強化陳述申辯作為自動化裁量的必經(jīng)程序

行政原則應(yīng)當被嚴格貫徹在每一項行政活動中，對任何一項原則的背離都是對相對人權(quán)益的極大損害。從域外行政理論的發(fā)展歷史來看，行政原則不是次要的，只有堅守原則才可能使程序發(fā)揮保障行政活動公正、秩序與效率的價值。自動化裁量過程中強化陳述申辯，既是行政正當程序的要求，也是實現(xiàn)個案正義、保障公正的應(yīng)有之義。

陳述申辯權(quán)的實現(xiàn)，一方面，可以借鑒德國自動稅收程序中的特殊保護機制［11］，如設(shè)定自動化裁量系統(tǒng)時，將相對人的陳述申辯作為裁量因子輸入，根據(jù)案情差異選擇人工介入，根據(jù)個案不同，抽離減輕、從輕、免于處罰作為裁量的選擇因素，事先進行程序性設(shè)計，保障民主正當性；另一方面，有學(xué)者提出借鑒域外非現(xiàn)場執(zhí)法經(jīng)驗，如美國加州設(shè)立的包括告知事實、說明理由、申請免責(zé)、網(wǎng)上查閱案發(fā)現(xiàn)場視頻、網(wǎng)上申訴等一整套創(chuàng)新性制度。自動化審核前預(yù)先設(shè)定一套程序規(guī)則與保護機制，若行政機關(guān)聽取當事人的陳述申辯后，堅持原來的行政決定則需要說明理由。關(guān)于行政程序的說明理由制度，有學(xué)者提出行政主體可以通過保留解釋能力方式，實現(xiàn)對個案的事后監(jiān)督，即對自動化裁量輸入端與輸出端進行事后檢查［12］，提高自動化裁量技術(shù)手段的透明度和可解釋性。自動化裁量要兼顧行政機關(guān)的裁量權(quán)與相對人的基本人權(quán)，切實保障陳述申辯權(quán)的落實。

（二）框定自動化裁量范圍保障個案正義

人工智能的發(fā)展意味著傳統(tǒng)行政方式需要革新。單純以人為中心的裁量模式難以適應(yīng)繁雜的社會治理要求，行政裁量應(yīng)面向自動化。作為行政裁量領(lǐng)域的新技術(shù)，裁量結(jié)果的一致性與個案正義性之間的矛盾雖無法避免，但明確自動化裁量范圍能在一定程度上調(diào)和兩者之間的矛盾。依據(jù)德國程序法對自動化裁量的規(guī)定，僅限于法律法規(guī)允許時才可適用，行政機關(guān)無裁量或判斷選擇空間時可適用［13］。我國可以借鑒：對法律保留事項，立法者提供原則性指引，替代預(yù)先干預(yù)，在行政給付等不涉及重大權(quán)益事項上，法律可以對自動化裁量應(yīng)用予以概括性授權(quán)；相反，對于情況復(fù)雜、有關(guān)人身重大權(quán)益事項上，行政機關(guān)需要謹慎運用自動化裁量。即自動化裁量在一般案件中可以充分發(fā)揮其優(yōu)勢，但在需要個案考量的情節(jié)中，傳統(tǒng)行政模式依舊不能摒棄，適時的人工介入仍為必要。

綜上，為保障個案正義，防止相對人在權(quán)利受到損害后無處救濟，一方面，可以利用自動化裁量類案推送系統(tǒng)，借鑒北大法寶類案推送，以“標簽化”“結(jié)構(gòu)化”方式提升比對精確性，裁量結(jié)果相差較大案件實行自動預(yù)警機制，面向執(zhí)法人員精準推送相似案件信息，有效約束和規(guī)范行政裁量幅度，確保執(zhí)法尺度統(tǒng)一［14］；另一方面，以法律保留規(guī)定特定情形下人工介入，當裁量因子觸動預(yù)警機制，相關(guān)執(zhí)法人員需適時轉(zhuǎn)為人工裁量。通過以上規(guī)制的運用，實現(xiàn)個案正義。

（三）厘清決策權(quán)限分配

自動化裁量縮減了行政主體的裁量空間。電子化形式確定裁量規(guī)制，一定程度上有助于行政主體更加理性地處理案件，避免受到“人情”“面子”等因素干擾，但對裁量結(jié)果過度依賴反而被其制約，導(dǎo)致行政主體裁量權(quán)被架空［15］。自動化行政正在且有可能會在未來取代人工裁量，沖擊公權(quán)力地位。因此，自動化裁量中，明確權(quán)限分配，堅持行政主體的首要地位，確定自動化的輔助功能十分必要。人工智能屬于人類的發(fā)明成果，各項自動化技術(shù)的實質(zhì)是人類在操控、掌握著算法的規(guī)則。囿于技術(shù)水平，人工智能暫時無法將人類所獨有的同理心、道德感等融入系統(tǒng)，自動化裁量發(fā)揮主體作用的仍是行政機關(guān)。即使對自動化裁量進行行政分級，但不論何種級別，其輔助地位的性質(zhì)不容改變。全自動化裁量的稅務(wù)、“秒批”等事項，在直觀上取代人工作出決策，以及半自動化裁量通過數(shù)據(jù)識別與分析得出初步結(jié)論，為行政主體決策提供參考，究其本質(zhì)，其工具屬性價值毋庸置疑。

盡管當前自動化裁量多數(shù)以半自動化裁量為主，但是自動化的水平正主動向前躍升。健康碼機制雖然從整體上呈現(xiàn)出全自動化傾向，但對其定位仍是輔助功能。究其原因，全自動化裁量的反復(fù)使用，涉及范圍廣泛，一旦出現(xiàn)錯誤，所帶來的后果無法控制，彌補成本非常高。為防止執(zhí)法人員的裁量權(quán)被篡奪，首先，自動化裁量需厘清決策權(quán)限分配，執(zhí)法人員的裁量決策權(quán)應(yīng)處于主導(dǎo)地位，允許其對案件享有補充調(diào)查事實、變更自動化裁量結(jié)果的權(quán)限，避免行政執(zhí)法人員裁量權(quán)被架空；其次，執(zhí)法人員要根據(jù)事實調(diào)查結(jié)果作出裁量判斷，將自動化裁量結(jié)果與人工裁量結(jié)果一并提交審核；再次，在行政內(nèi)部人員進行審核階段，要建立前期執(zhí)法人員與內(nèi)部審核人員共同對裁量結(jié)果負責(zé)的機制。如此，可以一定程度上避免執(zhí)法人員過度依賴自動化技術(shù)、忽略人工介入審核的情況，有效防止前期與后期審核工作人員消極怠惰風(fēng)險。

（四）建立自動化裁量說明義務(wù)規(guī)制

從根本上講，行政裁量的自動化是借助算法規(guī)則，構(gòu)建一個基于歷史數(shù)據(jù)的代碼黑箱，對涵蓋于執(zhí)法范圍的行為進行判斷，執(zhí)行既定規(guī)則作出裁量結(jié)果的過程。由于自動化裁量缺失法定程序，往往易因算法或機器錯誤而產(chǎn)生嚴重后果，尤其直接以機器裁量結(jié)果作為最終決定情形下，保證算法的合法性、算法裁量的可接受性極為關(guān)鍵。美國學(xué)者試圖通過“技術(shù)性正當程序”觀念來解決該問題，即借助公開算法規(guī)則、系統(tǒng)測試等方式實現(xiàn)機器規(guī)則所應(yīng)具備的透明性與合法性要求。事實上，通過適度公開算法的開發(fā)、運行流程以及可被驗證的運行記錄等回應(yīng)相對人的質(zhì)疑，有利于實現(xiàn)算法可透明性要求。但不容忽視的是，由于算法的專業(yè)化程度高，即使公開算法規(guī)則相關(guān)內(nèi)容，非算法方面的專家通常依舊無法理解，實則并不能有效解決爭議。因此，建立自動化裁量算法規(guī)則說明義務(wù)規(guī)制實為必要。

整體來看，增強算法的可理解性需要回歸說明理由制度內(nèi)部，明確義務(wù)主體、拓展行政機關(guān)說明理由的內(nèi)容、方式，增強算法的透明性，以此提升裁量結(jié)果的可接受度。在說明內(nèi)容方面，應(yīng)圍繞裁量系統(tǒng)執(zhí)行既定規(guī)則與經(jīng)由算法輔助裁量判斷之間的關(guān)系與關(guān)聯(lián)程度予以闡釋，并就個案裁量因子的選取與不同裁量因子對結(jié)果作出的影響方式與權(quán)重作出說明，或就算法裁量的合法性進行有意義闡釋。同時也可以引入專家學(xué)者出具評估或論證報告，摒棄簡單要求公開，借助技術(shù)和專家力量提升算法規(guī)則的可識別化、可視化水平，使普通公眾能夠知曉相關(guān)算法數(shù)據(jù)的來龍去脈與有關(guān)依據(jù)，從而打破算法黑箱和技術(shù)壟斷。在說明方式上，行政機關(guān)既可以在事前以說明理由的方式作出，也可在事后進行補充說明。在說明場景上，無須拘泥于個案場景，應(yīng)重點回應(yīng)相對人對算法裁量有異議的部分，或者通過發(fā)布算法解釋說明書的方式履行一般性說明義務(wù)。針對相對人沒有異議的部分行政機關(guān)無須主動說明，但是應(yīng)保留對該問題的說明解釋能力。在說明主體方面，明確行政機關(guān)作為說明理由主體，承擔說明義務(wù)，算法設(shè)計主體負有協(xié)助說明義務(wù)。綜上，在自動化裁量所依托的算法規(guī)則尚未實現(xiàn)新一輪跨越的當下，處理好規(guī)則與裁量、算法黑箱與透明、權(quán)力與權(quán)利的關(guān)系，圍繞關(guān)鍵點對現(xiàn)有法律體系進行補充修正，或可更冷靜面對未來挑戰(zhàn)。

行政裁量領(lǐng)域引入人工智能契合當下時代背景，是法律與技術(shù)結(jié)合的又一體現(xiàn)，我們需要對相關(guān)挑戰(zhàn)保持清醒判斷，以防墜入潘多拉魔盒。技術(shù)革新易導(dǎo)致權(quán)力濫用，每個人在數(shù)據(jù)時代都有可能遭到被技術(shù)捆綁的困境，但采用新技術(shù)不能以剝奪公民正當權(quán)利為基礎(chǔ)，行政機關(guān)應(yīng)當探尋新技術(shù)方式，不斷增強專業(yè)知識，綜合衡量行政機關(guān)采用的裁量系統(tǒng)與算法是否符合社會期待。面向未來，自動化裁量系統(tǒng)與行政領(lǐng)域的融合所帶來的挑戰(zhàn)已無法回避，身處人工智能時代，技術(shù)的應(yīng)用與防范是一個未竟的話題，需要我們持續(xù)關(guān)注。