算法行政的私營化及其公法規(guī)制

劉佳明

(浙江財經(jīng)大學(xué)，浙江 杭州 310018)

在行政法學(xué)領(lǐng)域，有關(guān)算法的研究側(cè)重于討論算法決策與社會治理之間的內(nèi)在聯(lián)系，或認為隨著算法不斷融入社會治理領(lǐng)域，傳統(tǒng)法律治理形式正面臨著“革命性”挑戰(zhàn)和轉(zhuǎn)型升級的發(fā)展境遇[1]，或認為在算法沖擊之下，傳統(tǒng)法律治理形式正逐漸喪失其獨立于社會系統(tǒng)存在的功能正當性，甚至趨向“消亡”[2]。而在算法治理規(guī)制方法中，研究也主要主張運用傳統(tǒng)行政法治的一般原理來對算法主體予以控制。這些觀點對于研究和分析數(shù)字化背景下國家治理技術(shù)與價值維度的轉(zhuǎn)型具有重要啟發(fā)意義，但對于一些具有公共性質(zhì)的決策算法，尤其是當這些算法的程序設(shè)計是由私營主體主導(dǎo)、控制之時，能否直接套用行政法治的一般原理來對其予以規(guī)制？如何規(guī)制？這些都值得去反思。而當不受監(jiān)督、不對人民負責以及堅持利益至上的私營主體通過控制算法來攝取國家權(quán)力之時，更有可能引發(fā)算法尋租、算法濫用等社會問題。面對算法決策給傳統(tǒng)治理模式帶來的沖擊，以及私營主體對公共算法程序的壟斷和控制，我們需要理性分析算法行政過程中所面臨的私營化問題，進而主張將算法程序的私營設(shè)計主體納入公法的規(guī)范和限制范圍之內(nèi)。

一、算法行政私營化的表現(xiàn)形式

算法行政的出現(xiàn)與數(shù)字技術(shù)的進步密切相關(guān)。數(shù)字技術(shù)的進步以及數(shù)字化生活程度的提升，極大增強了以信息為基礎(chǔ)的規(guī)制活動和處理復(fù)雜問題的能力。在數(shù)據(jù)挖掘技術(shù)的指導(dǎo)下，關(guān)于社會主體意圖、傾向、偏好、風(fēng)險和機會的概率知識，都由算法參與主導(dǎo)并執(zhí)行。在此基礎(chǔ)上，“算法行政”被認為是一種建立在自動收集、整理和分析大數(shù)據(jù)基礎(chǔ)上的某種類型的規(guī)范性或政治理性，并以建模、預(yù)測和先發(fā)制人的方式來影響可能行為[3]，即行政機關(guān)在借助算法對行政工作進行自動化處理的過程中，基于算法產(chǎn)生的權(quán)力機制而形成的一種全新社會治理模式。在這種特殊治理模式中，行政機關(guān)能夠利用數(shù)據(jù)處理和深度學(xué)習(xí)的技術(shù)優(yōu)勢，不斷提升自身決策能力和決策水平，以此來強化對社會的影響和控制。但是，作為一種新的社會治理形式，算法行政程序的設(shè)計理應(yīng)由有權(quán)機關(guān)依據(jù)特定的職權(quán)進行，這種職權(quán)必須有直接或明確的法律授權(quán)或委托依據(jù)，其中既包括國家層面的行政主體，也包括地方層面的行政主體。但是，受制于算法技術(shù)的專業(yè)性和特殊性，算法行政往往由私營主體控制，從而導(dǎo)致算法行政產(chǎn)生了私營化的現(xiàn)象。

(一)算法程序的私營化

在人工智能算法與行政法治關(guān)系的研究中，一些學(xué)者很早就注意到了當下算法影子官僚的現(xiàn)象，并對其進行了專門的研究。算法影子官僚的產(chǎn)生與算法行政的私營化有關(guān)，私營主體可以通過控制公共算法程序的開發(fā)和設(shè)計而發(fā)展成為行政管理關(guān)系中的非正式官僚組織。換言之，從技術(shù)邏輯上分析，算法行政的應(yīng)用與平臺的應(yīng)用具有緊密的聯(lián)系，算法通過與大數(shù)據(jù)、互聯(lián)網(wǎng)平臺融合，從而實現(xiàn)與整個社會關(guān)系的融合。對于現(xiàn)代社會治理而言，平臺作為私營主體，可以利用自身的資本優(yōu)勢和技術(shù)優(yōu)勢有針對性地收集各類用戶數(shù)據(jù)，以此促進算法技術(shù)的不斷成長，而擁有公共權(quán)力和公共資源的政府部門利用平臺收集的數(shù)據(jù)和開發(fā)的應(yīng)用程序，可以對社會實現(xiàn)精準化治理。二者的有效結(jié)合，能為平臺嵌入公共治理領(lǐng)域提供極大便利。具體表現(xiàn)為：其一，平臺能夠為政府提供基礎(chǔ)數(shù)字支持，政府借助平臺可以提升國家權(quán)力的效能并延伸治理觸角；其二，平臺能夠為政府使用的算法程序、架構(gòu)設(shè)計等基礎(chǔ)設(shè)施的建設(shè)創(chuàng)造技術(shù)物質(zhì)條件。例如，中國平安集團開發(fā)的“智慧財政”一體化管理平臺，充分運用信息化手段打造出符合現(xiàn)代化預(yù)算管理要求的財政全流程業(yè)務(wù)系統(tǒng)，可以大幅度提升政府的財政管理能力；在廣東省數(shù)字政府的建設(shè)過程中，騰訊云幫助廣東省發(fā)布了移動服務(wù)平臺“粵省事”，為實現(xiàn)民生服務(wù)一站式辦理提供了強大的技術(shù)支持[4]。這些都是私營主體參與算法程序設(shè)計的具體表現(xiàn)。

(二)算法決策的私營化

網(wǎng)絡(luò)化、數(shù)字化的交流方式不僅在治理主體上改變了原先政府壟斷國家權(quán)力的狀況，使國家治理主體呈現(xiàn)多元化的發(fā)展趨勢，還使社會運行機制和構(gòu)成方式實現(xiàn)了從單一型向合作型的現(xiàn)代化方向轉(zhuǎn)變。傳統(tǒng)上，公共管理組織作為執(zhí)行公共任務(wù)的專門主體，職責范圍一般限于保障實施社會生活的正當行為規(guī)則以及向社會提供公共服務(wù)[5]。隨著社會和市場的逐漸平臺化，越來越多的社會交往與交易行為通過平臺進行并在一定程度上受到平臺的控制和約束。例如，平臺雖由私人組織運營，卻在事實上成為大眾參與公共活動的重要場所，并與公共利益密切相關(guān)[6]。隨著技術(shù)賦能和法定義務(wù)不斷增加，平臺不再是純粹的信息傳輸管道，其實質(zhì)功能已經(jīng)發(fā)生變化。它不僅僅是普通意義上的私權(quán)利主體，而且是具有公共管理性質(zhì)的私權(quán)力主體，并對社會個體施加不亞于國家權(quán)力機關(guān)的影響力和控制力。尤其是在人工智能算法時代，平臺因高度聚合性和強自動化的經(jīng)營特征，而能夠輻射網(wǎng)絡(luò)虛擬空間和現(xiàn)實物理空間，呈現(xiàn)出“去結(jié)構(gòu)化”和“強組織化”疊加的特性[7](p.59)。例如，著作權(quán)領(lǐng)域法律的算法實施就為平臺參與算法行政的應(yīng)用提供了一個有益的觀察視角，平臺可以自發(fā)采用侵權(quán)檢測算法規(guī)則，并通過確立新的立法原則來強化對在線用戶分享內(nèi)容的事前審查，從而對網(wǎng)絡(luò)空間中著作權(quán)法的算法實施機制和規(guī)制的創(chuàng)新與發(fā)展形成激勵作用[8]。

(三)算法規(guī)制的私法化

在算法行政的法律規(guī)制領(lǐng)域，有關(guān)算法程序的設(shè)計主體和使用主體尚未明確區(qū)分，同時也缺乏必要的公法規(guī)制手段對算法行政的私營主體予以規(guī)范和控制。例如，對于如何規(guī)制公共管理領(lǐng)域中的算法“黑箱”問題，主流觀點提出的辦法主要是算法解釋、算法問責和算法信任，即將算法自動化決策和輔助決策都納入可解釋、可問責和可信任的情形之內(nèi)，但是，可解釋、可問責和可信任的主體仍然限于數(shù)據(jù)代理商或自動化決策算法公司等私營主體，而我國目前法律中有關(guān)規(guī)制算法主體行為的規(guī)定也主要散見于《刑法》《消費者權(quán)益保護法》《電子商務(wù)法》《網(wǎng)絡(luò)安全法》《征信業(yè)條例》《網(wǎng)絡(luò)交易管理辦法》等相關(guān)法律條文中，其內(nèi)容也主要側(cè)重于對公民個人信息和個人隱私的保護。例如，我國《電子商務(wù)法》在規(guī)范電子商務(wù)平臺的行為之時就專門將其作為一類獨立主體，并對其系統(tǒng)地設(shè)定了相應(yīng)的管理要求以防止“私權(quán)力”濫用。因此，面對智能時代自動化決策技術(shù)對國家治理和機制帶來的巨大沖擊，現(xiàn)行法律制度在規(guī)范和調(diào)整算法行政的私營主體上往往顯得捉襟見肘，力不從心。尤其是缺乏一部專門化、精細化的規(guī)范和限制算法行政私營化、防止公民權(quán)利遭受不法侵害的法律，而一旦對算法行政程序設(shè)計的限制和約束不當，勢必造成難以挽回的惡果。

二、算法行政私營化的問題

算法行政作為智能時代社會轉(zhuǎn)型的客觀產(chǎn)物，對推動國家治理轉(zhuǎn)型升級具有重要的現(xiàn)實意義，但是，算法行政如同傳統(tǒng)行政一樣容易遭到濫用，并且算法行政的私營化程度越高，非權(quán)力化手段介入越強，其權(quán)力濫用的機會就越大。而在算法行政的私法規(guī)制關(guān)系中，完全的平等協(xié)商與意思自治只是一種理想狀態(tài)。如果將公共關(guān)系的法律調(diào)整完全交給平等協(xié)商和意思自治，則被消滅的將不再是權(quán)威和規(guī)訓(xùn)本身，而是其賴以產(chǎn)生的社會關(guān)系[9]。由于算法程序的設(shè)計以及數(shù)據(jù)的收集往往都在平臺上進行，而個體通常只關(guān)心手段和效用，無法解決社會內(nèi)在的公平性和合理性問題，因此，作為私營主體的平臺難以避免主觀隱含的功利主義價值導(dǎo)向。而一旦對公民行為的控制和影響越來越多地需要借助于算法形式來予以表達之時，對算法技術(shù)的壟斷控制將成為社會主體獲取競爭優(yōu)勢的普遍特征，商業(yè)巨頭、政府部門以及超級網(wǎng)絡(luò)平臺公司將成為獲取算法工具的主要競爭主體。借助技術(shù)優(yōu)勢和平臺優(yōu)勢，除了在引導(dǎo)輿論、妨礙競爭、破壞市場公平等私人領(lǐng)域造成影響之外，私營主體在行政法治領(lǐng)域所引發(fā)的社會問題尤為值得關(guān)注。

(一)算法程序設(shè)計的私營性容易誘發(fā)算法尋租

當前，算法與紛繁復(fù)雜的平臺應(yīng)用相結(jié)合，深入且廣泛地融入我們的生活中并不斷拓展，這些看似理性的算法卻引發(fā)了一系列算法危機，“算法歧視”“算法合謀”“算法霸權(quán)”“算法黑箱”“算法短視”等問題層出不窮。私營主體作為非權(quán)威的權(quán)力與秩序組織，雖然能夠?qū)⑺莆盏募夹g(shù)知識、方法運用于算法決策或政府智能化決策平臺、網(wǎng)絡(luò)架構(gòu)的基礎(chǔ)設(shè)施建設(shè)之中，從而實現(xiàn)公共利益和個人利益雙贏，但算法不等于抽象的數(shù)學(xué)，任何算法都包含著特定群體的價值判斷，這種價值判斷必然受到諸多現(xiàn)實利益的影響[10]。從算法運行的邏輯基礎(chǔ)分析，幾乎所有的算法行政都依托平臺而展開，而算法的開發(fā)、運行和迭代，不可避免要涉及平臺對用戶數(shù)據(jù)的收集、加工與處理。由此可知，作為足以對社會主體行為進行引導(dǎo)和操縱的算法并非完全是中立、可信的，事實上，算法很有可能成為裹挾著資本甚至政治動機的私人利益工具。例如，公民在新聞信息獲取環(huán)節(jié)便受制于平臺的算法推薦機制，即公民可以看到的新聞內(nèi)容要經(jīng)過平臺的篩選和過濾，而具有相似情感和價值傾向的公民又通過協(xié)同過濾算法機制聚集到了同一話語空間[11]。這些都可以被平臺操縱并用于實現(xiàn)自己的商業(yè)目的。因此，在算法行政應(yīng)用中，一旦對算法程序設(shè)計的監(jiān)管不當，平臺就可以在數(shù)據(jù)篩選和程序設(shè)計環(huán)節(jié)對算法決策的形成產(chǎn)生實質(zhì)性影響，從而使行政行為偏離公共意志和公共利益的法治軌道。

(二)算法決策的功利主義價值導(dǎo)向容易產(chǎn)生社會偏見

隨著技術(shù)的不斷更新、迭代，對技術(shù)的崇拜使得理性越來越工具化，以效率與效益為追逐目標的功利主義價值導(dǎo)向使算法越來越成為人們獲利的主要方式。盡管效率優(yōu)先的價值選擇是算法升級進化的重要助推力，但同時也會成為影響公共利益、侵害公民權(quán)利的關(guān)鍵性因素。因為假設(shè)算法主體是理性人并且總是偏好更高收益的結(jié)果，那么算法決策總是會采取嚴格占優(yōu)策略且總是不選擇任何劣勢策略[12](p.11)。因此，算法雖然有助于提升社會治理效率并降低社會監(jiān)管成本，但也不可避免地會復(fù)制并延續(xù)當前社會的既有格局與特征，人類社會既有的“數(shù)據(jù)鴻溝”可能導(dǎo)致部分人群的數(shù)據(jù)缺失，并使他們進一步被隔離在“算法社會”之外[13]。例如，在現(xiàn)實生活中，某些群體可能因其不同的身份而遭受到社會的不公平對待，那么將數(shù)據(jù)化分析作為“決策”考量因素的算法行政則會進一步加劇原有的不平等現(xiàn)象，從而引發(fā)偏見累積效應(yīng)，并誘發(fā)“二階性偏見”現(xiàn)象。

(三)算法規(guī)制的私法化難以有效調(diào)整公共關(guān)系

從調(diào)控方式來看，公法和私法雖然具有一定的相似性，但仍存在著本質(zhì)上的不同。公法是關(guān)于私法之保障和職權(quán)運行的行為規(guī)范，調(diào)整的是不同主體之間的縱向法律關(guān)系，因而決定其采取的調(diào)控方式是以控制與被控制為主。相反，私法所調(diào)整的是平等主體之間的橫向法律關(guān)系，因而決定其采用的調(diào)控方式是以協(xié)商和放任為主，而不是遵循控制與被控制的邏輯。如果采取協(xié)商和放任的方式來調(diào)控具有公共管理性質(zhì)的算法行政，那么這種調(diào)控方式被證明在很多時候往往是無效的。因為，公法的首要目的是保障實施社會生活的正當行為規(guī)則。假如沒有一個強調(diào)“服從”的權(quán)威機構(gòu)來執(zhí)法或者作為后盾，單純依靠沖突當事人自己協(xié)商解決，無論是對整個社會的資源配置還是對當事人的福利來說都會是低效率的[14]。況且，在我國現(xiàn)行的法律制度體系之下，幾乎所有的公法領(lǐng)域?qū)φ敵绦蚨加忻鞔_的規(guī)定，并且對公共權(quán)力的行使和監(jiān)督有著嚴格的程序限定。而在算法行政產(chǎn)生、運用的實踐過程中，數(shù)據(jù)的收集、算法的設(shè)計、運營與部署都必然地會夾雜著平臺的私意，這些都有可能侵犯公共秩序、私人權(quán)益以及第三方權(quán)益，而這種私意在很大程度上都不是公法規(guī)范所能容忍的。因此，當不受監(jiān)督、不對人民負責、堅持利益至上的非政府主體掌握決策數(shù)據(jù)以及算法行政程序的設(shè)計和運行之時，人們便有理由懷疑其可責性[15](p.5)。這就表明如何在公法領(lǐng)域框架克服算法行政的私法化傾向，是一個需要被認真對待并亟待解決的現(xiàn)實問題。

三、算法行政私營化的公法規(guī)制

行政機關(guān)需要借助私營主體開發(fā)和設(shè)計的算法程序來實現(xiàn)政策制定與社會治理的公共目的，但是，在數(shù)據(jù)的收集、加工與處理以及算法程序的設(shè)計、開發(fā)和運行的過程中，算法行政的私營化發(fā)展難以避免。我們需要做的是盡可能地從公法的原理和價值角度對其進行有效規(guī)制，從而降低算法行政私營化帶來的潛在風(fēng)險。事實上，算法行政私營化問題所涉及的面向相當之多，因而，對其進行有效規(guī)制也是一項需要多領(lǐng)域、多層次通力合作的系統(tǒng)化工程。為了更好地實現(xiàn)私營主體的公共性，除了在最大程度上發(fā)揮好私法的功能之外，最終還是要從公法層面出發(fā)，通過科學(xué)建構(gòu)防止私營主體濫用算法技術(shù)和算法權(quán)力的制度規(guī)范體系，更好地實現(xiàn)對算法行政的有效規(guī)制。當然，如何把公法的規(guī)范力適度地延伸到私法關(guān)系中，以調(diào)和現(xiàn)代社會管制與自治的矛盾，是對依賴體系思考而傳統(tǒng)上又以公私法的區(qū)隔為基本體系架構(gòu)的大陸法法系國家的一項重大考驗[16]。

(一) 通過法律優(yōu)先和法律保留限定算法行政的私營化范圍

法律優(yōu)先和法律保留原則作為依法行政的重要內(nèi)容，決定了行政機關(guān)權(quán)力行使的邊界和范圍。隨著社會的逐漸發(fā)展變化，民間組織參與公共管理的事務(wù)越來越多，與國家權(quán)力的聯(lián)系也越來越緊密。因此，法律保留作為依法行政的核心內(nèi)容逐漸擴展至私人領(lǐng)域，成為劃分公共服務(wù)私營化的邊界和范圍，以及明晰政府和私人權(quán)責的一項重要原則。具體到算法行政領(lǐng)域則表現(xiàn)為：對于行政機關(guān)而言，哪些算法程序設(shè)計的環(huán)節(jié)應(yīng)當由私營主體承擔？私營主體是否受到公法規(guī)范的限制和約束？這些都在法律保留原則的討論范圍之內(nèi)。

智能科技企業(yè)和平臺公司在智能社會治理方面有其不可替代的內(nèi)生動力和天然優(yōu)勢[17]，作為現(xiàn)代算法技術(shù)的創(chuàng)造者和引領(lǐng)者，私營主體以其得天獨厚的平臺優(yōu)勢和技術(shù)優(yōu)勢成為推動數(shù)字社會轉(zhuǎn)型升級的中堅力量。鑒于私營主體在算法行政中發(fā)揮著較為明顯的作用，對算法行政的規(guī)制就不應(yīng)當僅僅限于國家層面的公權(quán)力主體，同時也應(yīng)包括社會層面的私權(quán)力主體。私營主體能夠?qū)袷┘硬粊営谡挠绊懥涂刂屏?，因而從法律層面對私營主體進行控制和約束也就顯得更為重要。但是，算法行政涉及面廣且關(guān)系復(fù)雜，在適用法律保留原則上需要根據(jù)私營主體在算法程序設(shè)計中所承擔角色的不同予以明確區(qū)分。一方面，對于社會發(fā)展變化較快且需要國家快速應(yīng)對的事項領(lǐng)域，私營主體相較于行政機關(guān)具有更強的專業(yè)性和快速反應(yīng)能力，尤其是在人工智能技術(shù)得到廣泛運用的當下，從算法的基礎(chǔ)認知、實際運用再到反饋修正，需要跨學(xué)科知識和編碼技術(shù)，這些事項因不具有規(guī)范的可能性應(yīng)當被排除在法律保留的范圍之外，應(yīng)被納入私法領(lǐng)域的規(guī)范范疇。例如，凡是在特別專業(yè)的事務(wù)領(lǐng)域，私營主體可以為算法程序設(shè)計相應(yīng)的專業(yè)標準與技術(shù)規(guī)范，這些標準和規(guī)范對于算法程序的開發(fā)與運行而言，具有普遍的指導(dǎo)和強制作用。另一方面，即使私營主體在算法行政程序設(shè)計中發(fā)揮的作用比較明顯，但對于一些涉及公民權(quán)利核心問題的重要事項，且只能由行政機關(guān)來履行算法程序設(shè)計的領(lǐng)域，仍應(yīng)當由行政機關(guān)履行，這些事項具有規(guī)范的可能性，應(yīng)當被納入法律保留原則的范圍之內(nèi)，并被納入公法領(lǐng)域的范疇。例如，在算法程序的設(shè)計過程中，一些核心數(shù)據(jù)的輸入以及涉及公民個人權(quán)利、商業(yè)秘密和國家機密等重要程序的核心功能部分應(yīng)當由行政機關(guān)控制產(chǎn)生，這些屬于法律絕對保留的事項。而對于哪些算法程序的設(shè)計內(nèi)容能夠私營化，或者應(yīng)當如何實行私營化，則必須由立法部門專門決定，其通過法律授權(quán)的方式來對算法行政私營化進行限制和約束，行政機關(guān)不能簡單地通過制定法規(guī)條例的方式作出決定，從而擅自將算法行政程序的設(shè)計完全外包給私營主體或機構(gòu)。因此，對社會整體福利或公民的實質(zhì)權(quán)利產(chǎn)生比較廣泛影響的算法程序設(shè)計，應(yīng)當要用相對適用的法律進行絕對保留，以防止公權(quán)力行使主體權(quán)責的轉(zhuǎn)移；而對于一些技術(shù)性、專業(yè)性較強的算法程序設(shè)計，應(yīng)當要相對保留或?qū)⑵渑懦诜杀Ａ粼瓌t的適用范圍之外。

(二)算法行政私營化的立法再規(guī)范

算法行政私營化的行政監(jiān)管旨在從應(yīng)然層面來探討行政監(jiān)管部門如何在具體的實踐過程中規(guī)范私營主體的算法程序設(shè)計行為，而這不僅需要通過國家制定具體的法律法規(guī)來進行專門指引，還需要建立專業(yè)的算法規(guī)制主體來對程序設(shè)計進行審查，以確保私營主體的可問責性。

1.制定統(tǒng)一的算法私營化法典或公共算法程序設(shè)計管理法

事實上，無論是立法、司法還是執(zhí)法層面，算法決策對社會的滲透和影響無處不在，其背后都會不自覺地觸碰到私營主體利用算法技術(shù)俘獲或強勢入侵國家公權(quán)力的問題。面對私營主體通過代碼和架構(gòu)在算法行政程序設(shè)計中以直接或者間接方式滲透其價值偏好和利益選擇，無論是行政法規(guī)還是部門規(guī)章可能對此都會招架不住，尤其是就算法行政這一新的治理機制而言，法律優(yōu)先和法律保留原則作為對這一問題解決的首要原則，其有效性和實效性也就顯得不容樂觀，并值得商榷。對此，迫切需要對算法進行立法，尤其是針對行政管理領(lǐng)域中具有立法性質(zhì)的公共決策算法進行立法，從而使算法行政的產(chǎn)生和運行以及相應(yīng)的監(jiān)督和管理機制得以有效形成。從制度層面來看，對算法行政私營化現(xiàn)象進行立法，首先需要立法機關(guān)制定一部統(tǒng)一的算法私營化法典。為保障私營主體參與算法行政程序設(shè)計的合法性和正當性，以及保證私營主體在參與算法程序設(shè)計過程中的公開透明，亟須在法典中明確私營主體參與算法行政程序設(shè)計的合法地位。一些涉及社會公共福利和公民權(quán)利等的重要核心程序的開發(fā)以及基礎(chǔ)設(shè)施的部署應(yīng)當嚴格規(guī)定由行政機關(guān)進行，而其他一般性事項則由私營主體進行。

此外，制定完備的算法私營化法典還需要立法機關(guān)制定一部專門的公共算法程序設(shè)計管理法，從而為算法行政的程序設(shè)計提供標準化的行為規(guī)范和操作指南。在美國，對公共決策算法的治理大量發(fā)生在州和地方政府一級，它們正積極通過立法來規(guī)范公共算法在各種社會治理場景中的應(yīng)用。例如，佛羅里達州的iBud-get系統(tǒng)就是一種基于算法的服務(wù)，它允許殘疾人選擇對他們很重要的個性化服務(wù)，同時也幫助行政機關(guān)遵守相關(guān)聯(lián)邦和州的法律，此外，針對其他算法程序設(shè)計和使用的規(guī)制還在一些判例當中得到明確確認[18]。在我國，目前規(guī)制算法程序設(shè)計的規(guī)定主要散見于一些行政法規(guī)或部門規(guī)章當中，如國務(wù)院1999年制定的《商用密碼管理條例》、工信部的《移動智能終端應(yīng)用軟件預(yù)置和分發(fā)管理暫行規(guī)定》、住房和城鄉(xiāng)建設(shè)部的《建筑智能化系統(tǒng)運行維護技術(shù)規(guī)范》和國家密碼管理局的《密碼模塊安全檢測要求》等。這些對算法程序的設(shè)計都有所涉及，但我國仍然缺少針對算法程序設(shè)計問題的專門性法律法規(guī)。制定一部統(tǒng)一的涉及公共算法程序設(shè)計問題的法律法規(guī)，不僅能夠為算法行政程序的設(shè)計提供法律依據(jù)，同時還能夠為全國各地算法行政程序的設(shè)計提供統(tǒng)一的性能標準、設(shè)計標準以及責任標準，保障程序設(shè)計遵循程序化、標準化的操作，從而達到規(guī)范算法在公共決策領(lǐng)域使用的預(yù)期效果。

即使在公共行政領(lǐng)域，由于算法在不同行政場景下所涉及的程序、架構(gòu)、目的、風(fēng)險以及影響范圍都有所差異，一部統(tǒng)一的算法私營化法典或公共算法程序設(shè)計管理法，可能會與算法運行和應(yīng)用的實際機理相悖，甚至在應(yīng)對算法行政私營化問題上的作用十分有限。因此，無論是從節(jié)約治理成本還是從追求治理效果出發(fā)，抑或是從推動民主進程、轉(zhuǎn)變治理思維以及保障基本人權(quán)的規(guī)范性要求出發(fā)，推動數(shù)字時代背景下國家治理的技術(shù)維度和價值維度的轉(zhuǎn)變，除了需要強化制度構(gòu)建和政府管制之外，還應(yīng)當引導(dǎo)社會治理模式從單純的政府監(jiān)管向社會自治轉(zhuǎn)變。通過重構(gòu)國家與市民社會的關(guān)系，確立多元權(quán)利基礎(chǔ)、公權(quán)力權(quán)威和良法之治，從而實現(xiàn)依法治國與市民社會理性規(guī)則秩序的契合[19]。

2.明確私營主體的公法責任

由于算法行政程序設(shè)計具有極端重要性，尤其是私營主體所設(shè)計的算法程序會對公民的權(quán)利義務(wù)產(chǎn)生實質(zhì)性影響，建立專門的算法監(jiān)督和算法問責機制是必不可少的。但是，現(xiàn)有法律制度使得私營主體利用算法設(shè)計開發(fā)的商業(yè)模式有監(jiān)管套利之嫌，設(shè)計者往往以算法的發(fā)展和最終損害可能有多個潛在的責任方，以及設(shè)計行為是智力創(chuàng)造過程不應(yīng)受到法律的規(guī)制為由，對算法的監(jiān)管行為進行完美規(guī)避[20]。因此，基于我國目前缺乏一套有效的社會治理體系將算法違法的成本內(nèi)部化，以及面對算法程序所帶來的危害和算法歸責上的困難，立法者需要在明晰算法系統(tǒng)的內(nèi)部運行邏輯和外部作用方式基礎(chǔ)之上來創(chuàng)新現(xiàn)有法律責任歸責體系，創(chuàng)造出符合算法技術(shù)特征的責任規(guī)則，從而明確算法程序設(shè)計者和使用者之間的權(quán)責分工標準。

既然私營主體在事實上行使公共管理職權(quán)并提供公共服務(wù)，相應(yīng)地也就應(yīng)當積極履行應(yīng)有的法律義務(wù)和承擔公共責任，從而實現(xiàn)個人利益與公共利益的有機統(tǒng)一。而在算法責任問題的研究上，國內(nèi)有研究者主張將算法責任視為一種嚴格責任，即“一旦算法在應(yīng)用過程中產(chǎn)生任何風(fēng)險或造成任何實際損害，算法的研發(fā)者和應(yīng)用者都有義務(wù)承擔算法責任，即便事先已取得利益相關(guān)者的知情同意或純粹的技術(shù)缺陷也不足以阻卻相關(guān)主體所應(yīng)承擔的算法責任”[7](p.65)。在算法責任的類型上，有學(xué)者根據(jù)現(xiàn)代政府治理所蘊含的權(quán)力關(guān)系、法律關(guān)系與道德關(guān)系，進一步主張將算法責任分為政治、法律與道德三種類型，其中算法的法律責任包括憲法、法律與行政法規(guī)等所明確確立的政治責任與道德責任，主要涉及治理部門內(nèi)部的角色設(shè)置與責任分配[15](p.10)。而在對私營主體主觀過錯的認定上，還有學(xué)者認為通過設(shè)置算法評估制度和算法備案制度作為事前固定問責點，事后根據(jù)備案內(nèi)容做出算法解釋，并結(jié)合客觀損害結(jié)果來對其予以歸責[21]。這些為算法責任的研究提供了可供參考的經(jīng)驗。因此，通過對現(xiàn)行行政法律責任體系進行改革，將參與算法行政程序設(shè)計的私營主體擴充為行政責任主體的類型，并補充相應(yīng)的算法責任內(nèi)容，從而使私營主體在享有一定權(quán)力的同時又必須承擔相應(yīng)的公共責任，這既是規(guī)制算法行政私營化的應(yīng)有之義，也是智能時代法律變革的必然趨勢。

當然，雖然私營主體在算法行政產(chǎn)生過程中發(fā)揮著重要的作用，但考慮到其畢竟不是真正意義上的公共管理者，如果對其苛以過高的義務(wù)要求和責任負擔，私營主體將不堪重負，這將會抑制私營主體參與算法行政程序設(shè)計的積極性，同時也可能會為掌握實質(zhì)性決策權(quán)力的行政主體實施責任轉(zhuǎn)移提供充分的借口和理由。故而，私營主體承擔的責任應(yīng)當被控制在必要的限度范圍之內(nèi)，算法行政責任的最終承擔主體仍應(yīng)以行政主體為主。

3.建立獨立的算法審查規(guī)制主體

由于算法通常涉及的專業(yè)性知識較強，結(jié)構(gòu)較為復(fù)雜，因而為了對算法程序的設(shè)計進行有效監(jiān)管，并確保算法程序設(shè)計的法律責任能夠落到實處，需要設(shè)立專業(yè)、獨立的算法審查部門來對算法進行專門審查監(jiān)管。來自美國公用事業(yè)規(guī)制的基本經(jīng)驗表明，“復(fù)雜的現(xiàn)代社會需要專業(yè)化的、獨立的、靈活的和可持續(xù)的規(guī)制模式。大量的介乎于立法機關(guān)、司法機關(guān)和行政機關(guān)之間的獨立管制機構(gòu)的存在即是上述模式的典型特征”[22]。例如，在對算法的監(jiān)管上，美國、英國等發(fā)達國家都設(shè)有專業(yè)、獨立的審查機構(gòu)。在美國，《算法問責法(草案)》將聯(lián)邦貿(mào)易委員會(Federal Trade Commission，F(xiàn)TC)作為獨立的算法監(jiān)管機構(gòu)，對自動化算法決策進行立法、監(jiān)管以及采取強制措施[23]。此外，英國也設(shè)立了非政府部門公共機構(gòu)英國信息專員辦公室(Information Commissioner’s Office, ICO)，其擁有獨立的監(jiān)督和審查，以及命令糾正錯誤行為和實施罰款的權(quán)力。就我國算法行政私法化問題的監(jiān)管而言，可以在借鑒國外有效經(jīng)驗的基礎(chǔ)之上，來創(chuàng)設(shè)符合我國國情的獨立、專業(yè)的算法審查規(guī)制主體，從而強化對算法程序設(shè)計的監(jiān)督和管理，并賦予其相應(yīng)的國家權(quán)力。

為了保證算法審查部門的獨立運行，算法審查規(guī)制主體應(yīng)當包含以下特征：專業(yè)性，即算法審查機構(gòu)的人員應(yīng)當由包含不同學(xué)科知識背景的專家組成，以保證算法審查的專業(yè)化；獨立性，即算法審查應(yīng)當與政府部門和私營主體分離，不受其他部門的干涉，以確保審查結(jié)果的公正可靠；合法性，即算法審查規(guī)制主體的設(shè)立必須由法律授權(quán)產(chǎn)生，其職責范圍由法律明確規(guī)定；公平性，即算法審查規(guī)制主體應(yīng)當依照法定的要求和程序?qū)λ惴ㄟM行審查，以確保審查結(jié)果的公平、正當。

(三)算法行政私營化的程序性要求

公共行政民營化成敗的關(guān)鍵在于法律程序的公正與否，唯有通過正當?shù)男姓绦虿拍鼙Ｕ厦駹I化的順利推行[24]。無論是算法程序的設(shè)計主體還是使用主體，遵循程序正義是防止其以權(quán)謀私和濫用權(quán)力的有效舉措，也是保障權(quán)力得以有效實施和運行的關(guān)鍵步驟。在美國，有研究者在順應(yīng)人工智能嵌入社會治理領(lǐng)域發(fā)展變化的需求之下，創(chuàng)造性地提出了“技術(shù)正當程序”的概念，并倡導(dǎo)人工智能的開發(fā)和運行要遵循透明性、準確性、問責制、參與性和公平性等基本原則[25]。這些建議對我國算法行政私營化的程序性規(guī)制具有重要的啟發(fā)作用。具體而言，應(yīng)從信息公開、招投標制度、聽證、公眾參與和專家輔助等方面來對算法行政私營化過程進行全面的規(guī)范和限制，并輔之以必要的算法解釋權(quán)作為事后的權(quán)利救濟和監(jiān)督手段。

算法行政程序的設(shè)計事關(guān)公民的基本權(quán)利和社會公共利益，私營主體在設(shè)計算法程序之時，應(yīng)當及時披露相關(guān)信息以確保算法程序設(shè)計的公開透明，尤其需要披露據(jù)以設(shè)計的相關(guān)算法規(guī)則，如正在優(yōu)化的目標函數(shù)、用于優(yōu)化的方法以及算法的輸入變量以及源代碼等，這些有利于公眾及時了解算法程序設(shè)計的相關(guān)信息。而要克服私營化立項的隨意性，算法程序的設(shè)計主體除了必須得到法律授權(quán)外，還必須嚴格執(zhí)行招投標制度。此外，為了保證算法程序設(shè)計的民主性和科學(xué)性，對于一些涉及重大事項的算法程序設(shè)計，還需要廣泛征求各方面意見，包括采取專家座談會、聽證會、論證會以及向社會公布算法程序、公開征求意見等多種形式，最終該算法程序才能進入正式設(shè)計過程。通過以上一些程序性規(guī)定對涉及公民重大權(quán)利事項的算法程序設(shè)計進行監(jiān)督和限制，能夠為公眾參與算法程序設(shè)計的全過程提供必要的途徑，并為其監(jiān)督算法的立法性使用提供一種可能。

事實上，受制于公眾知識和精力上的有限性，程序在規(guī)范和限制算法行政私營化的實踐效果上并不明顯，且容易遭受質(zhì)疑。例如，早在紐約市的《算法問責法(草案)》中就有類似的專門規(guī)定，但在實踐過程中，由于公眾參與算法問責和算法設(shè)計的能力十分有限且激勵不足，該規(guī)定最終流于形式。為此，可以通過引入“交流型專家”來協(xié)助公眾審查和監(jiān)督技術(shù)的內(nèi)核部分，并對算法程序的設(shè)計提出專業(yè)性的意見和建議，從而保障公眾的實質(zhì)參與。當然，對于一些專業(yè)性較強的核心程序，即使專家，也難以知曉并參與到算法程序設(shè)計的全過程，因此，通過算法解釋來強化公民對算法行政的事后監(jiān)督以及權(quán)利補救，也不失為一條有效途徑。但與一般算法解釋要求不同的是，對算法行政的解釋在程序上應(yīng)當要求更高，并保證其能與傳統(tǒng)行政中的信息公開、理由說明等法律制度保持銜接。

四、結(jié)語

隨著現(xiàn)代計算機運算能力以“指數(shù)”級速度增長，人類社會正逐漸從信息時代邁向算法時代。在行政管理領(lǐng)域，從風(fēng)險評估到行為識別，從公共安全到社會服務(wù)，由大量數(shù)據(jù)驅(qū)動的算法已經(jīng)成為新型權(quán)力中介，或?qū)θ藗兊男袨楹捅憩F(xiàn)進行預(yù)測和評估，或?qū)Ω鞣N資源和福利分配進行排序。這些決策與各種平臺應(yīng)用有機結(jié)合，不斷顛覆人類的傳統(tǒng)認知和現(xiàn)有的社會秩序格局[26]。在算法研究領(lǐng)域，研究者提出“算法法律化”“算法規(guī)則化”等諸多有價值的命題，并且提供了極富解釋力的說明和嚴密的邏輯推理。不過，算法具有自己的特殊性，在不同社會層面，算法所呈現(xiàn)的面貌也有所不同。但是，在面對算法給傳統(tǒng)社會秩序和法律秩序帶來的深刻影響和沖擊上，人們的認識具有重疊性，即如何將算法程序的設(shè)計和使用納入法治軌道，并確保對算法的使用者和創(chuàng)造者進行有效規(guī)范，是亟待研究并予以解決的現(xiàn)實問題。而在涉及算法行政公共政策的制定過程中，需要廣泛進行話題辯論,鼓勵社會公眾參與，在爭議較大的核心問題上聽取公眾意見，充分保障公眾在公共政策制定上的參與權(quán)與知情權(quán)[27]。