預(yù)測算法在我國刑事司法程序中的運(yùn)用與規(guī)制

進(jìn)入新世紀(jì)，尤其是2010 年之后，隨著人工智能、大數(shù)據(jù)時(shí)代的快速到來，以大數(shù)據(jù)為算料的預(yù)測算法應(yīng)用在我們的日常生活中無處不在，而刑事司法領(lǐng)域也不能在算法運(yùn)用的大潮中“獨(dú)善其身”。 目前，預(yù)測算法的司法應(yīng)用主要集中于司法資源的有效分配、潛在危險(xiǎn)個(gè)體的預(yù)警通報(bào)、法官的量刑建議與指導(dǎo)等方面

。 刑事司法領(lǐng)域更是由算法技術(shù)衍生出了諸如COMPAS

分析預(yù)測工具和智能輔助系統(tǒng)

等一系列應(yīng)用。 盡管如此，算法技術(shù)依舊存在諸多爭議，算法黑箱、算法歧視、系統(tǒng)性偏差等問題仍是其目前難以逾越的鴻溝

。 一方面，人們對預(yù)測算法的質(zhì)疑態(tài)度、傳統(tǒng)刑事司法模式與數(shù)字時(shí)代算法技術(shù)對接難題以及數(shù)據(jù)孤島等因素都會阻礙預(yù)測算法在刑事司法領(lǐng)域的實(shí)際應(yīng)用，另一方面，隨著人工智能的快速發(fā)展，預(yù)測算法在刑事司法領(lǐng)域又被期待和賦予了更多的可能性，基于刑事領(lǐng)域的特殊性，算法在此領(lǐng)域的應(yīng)用理應(yīng)被投以特別關(guān)注。 因此，本文擬分析預(yù)測算法在我國刑事司法領(lǐng)域中應(yīng)用的阻力與痛點(diǎn)，并嘗試提出解決路徑來權(quán)衡技術(shù)理性與價(jià)值理性的天平，協(xié)調(diào)激勵發(fā)展與合理監(jiān)管的目標(biāo)。

2.2 分組患者HEART、MEWS評分比較 急診住院者HEART評分及MEWS評分均顯著高于留院觀察者（P＜0.05）；30 d死亡患者 HEART和 MEWS評分分值均較急診住院患者有進(jìn)一步增高，且兩者分別與存活者比較，差異有統(tǒng)計(jì)學(xué)意義（P＜0.05）。見表1。

一、預(yù)測算法技術(shù)在我國刑事司法領(lǐng)域的興起與困境

2016 年是我國的“智慧法院”元年，也是預(yù)測算法技術(shù)在司法領(lǐng)域運(yùn)用從構(gòu)思到落地的重要開端。 2016 年1 月29 日，最高人民法院院長周強(qiáng)在全國法院信息化建設(shè)工作會議上首次提出了建設(shè)“智慧法院”的新概念。 迎合目前人工智能發(fā)展的大趨勢，將5G、大數(shù)據(jù)、預(yù)測算法、區(qū)塊鏈等技術(shù)融入司法審判，力圖構(gòu)建智能化、高效化、科學(xué)化、公平化、現(xiàn)代化的司法審判體系。 同年7 月，中共中央、國務(wù)院辦公廳印發(fā)了《國家信息化發(fā)展戰(zhàn)略綱要》，提出“科技強(qiáng)檢”，推進(jìn)檢察工作現(xiàn)代化，并將建設(shè)“智慧法院”作為國家信息化發(fā)展的重要一環(huán)，提高案件受理、審判、執(zhí)行、監(jiān)督等各環(huán)節(jié)智能化水平，推動司法信息公開，保障司法公平正義。 同年11 月的《烏鎮(zhèn)共識》再次明確了“智慧法院”建設(shè)的基本宗旨，即將算法技術(shù)、司法大數(shù)據(jù)分析技術(shù)、5G技術(shù)目標(biāo)列為司法智能化建設(shè)的重要通路。2017 年5 月，全國首個(gè)“刑事案件智能輔助辦案系統(tǒng)”在上海誕生，該系統(tǒng)以大數(shù)據(jù)、預(yù)測算法和人工智能為技術(shù)內(nèi)核，具備初步的證據(jù)信息抓取、校驗(yàn)和邏輯分析能力，標(biāo)志著中國首個(gè)預(yù)測算法技術(shù)在刑事司法領(lǐng)域落地應(yīng)用。 2022 年3月起正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，在廣義上對算法歧視、算法黑箱、算法壁壘等問題進(jìn)行了規(guī)范，將道德與法治相結(jié)合，既為算法的運(yùn)用構(gòu)筑了道德底線，也為算法的實(shí)踐設(shè)立了法律紅線。 雖然起步較晚，但龐大的運(yùn)用基數(shù)和不斷完善的算法設(shè)施基礎(chǔ)建設(shè)正在使中國逐步成為算法應(yīng)用超級大國

。

雖然目前我國的預(yù)測算法應(yīng)用已經(jīng)粗具規(guī)模， 但是其在刑事司法領(lǐng)域的推行依舊阻礙重重。 首先，來源于一種對預(yù)測算法的質(zhì)疑：算法能否取代人類對司法程序進(jìn)行決定與裁判？ 即便我們能夠證明刑事司法系統(tǒng)中的預(yù)測算法能夠產(chǎn)生比人類判斷更公平、 有效和準(zhǔn)確的決斷，我們也習(xí)慣且傾向于相信這些自然人決策者，并且在很大程度上接受他們決策的合法性。反對預(yù)測算法介入刑事司法程序的人指出：盡管沒有任何預(yù)測算法會直接將犯罪前科、性別、職業(yè)、經(jīng)濟(jì)狀況等作為決策的因素，但在決策和判斷中，使用預(yù)測算法仍然可能存在預(yù)先的偏差與歧視。 由于許多預(yù)測算法依賴于先前的逮捕、定罪或其他前科作為預(yù)測未來犯罪活動的一個(gè)因素，算法無形中將這種間接性差異永久化，其創(chuàng)造了一種虛幻的“技術(shù)科層框架”，即誰是危險(xiǎn)的，誰應(yīng)該受到更大的懲罰

。 我們已經(jīng)看到預(yù)測算法有可能徹底改變刑事司法系統(tǒng)，但他們必須盡量減少其使用數(shù)據(jù)的歧視所造成的影響，這將需要更大的透明度，以便警察、檢察官、法官等司法決策者能夠評估算法是否符合這些標(biāo)準(zhǔn)

。 但是，即使預(yù)測算法克服了這些

《殘疾人康復(fù)服務(wù)“十三五”實(shí)施方案》中指出到2020年，有需求的殘疾兒童和持證殘疾人接受基本康復(fù)服務(wù)的比例達(dá)80%以上。為實(shí)現(xiàn)這一目標(biāo)，提出了“實(shí)施殘疾人精準(zhǔn)康復(fù)服務(wù)、提升殘疾人康復(fù)服務(wù)專業(yè)化水平”等措施。同時(shí)提出“加強(qiáng)康復(fù)醫(yī)院、康復(fù)醫(yī)學(xué)科規(guī)范化建設(shè)”。在《殘疾人精準(zhǔn)康復(fù)服務(wù)行動實(shí)施方案》中也指出為每個(gè)社區(qū)(村)配備一名社區(qū)康復(fù)協(xié)調(diào)員，與社區(qū)(村)醫(yī)生共同組成殘疾人精準(zhǔn)康復(fù)服務(wù)小組?？梢?，康復(fù)醫(yī)學(xué)將在當(dāng)前推進(jìn)殘疾人小康進(jìn)程中發(fā)揮著不可替代的作用，在基層康復(fù)服務(wù)實(shí)踐其重要意義也不可或缺。

在程序正義領(lǐng)域，信賴可以通過兩種方式建立。 第一種方式是：參與者可以感受到與決策者的個(gè)人聯(lián)系。 例如，參與者可能認(rèn)為決策者與參與者來自同一個(gè)群體。 第二種方式是：決策者能夠清晰透徹地解釋自己的決策。 大數(shù)據(jù)算法很少會依靠個(gè)人連接來獲得可信度，因?yàn)榇蠖鄶?shù)被告不會感覺到與計(jì)算機(jī)程序有任何親緣關(guān)系。 因此，想要實(shí)現(xiàn)算法體系的程序正義，必須使被告能夠理解推算原理并支持預(yù)測算法。 與人際尊重因素一樣，對于預(yù)測算法來說，這個(gè)因素比人類決策者更難實(shí)現(xiàn)?！靶睦砝碚摗保╰heory of mind）的概念

揭示了人類如何理解心理狀態(tài)，從而理解他人的決定和行為。 因此，只有當(dāng)刑事被告理解并證明算法達(dá)到了它的決定時(shí)，它才會顯得可信。 這將意味著人類決策者需要向被告解釋算法背后的推理，這反過來意味著人類決策者必須能夠理解算法是如何工作的。 因此，與人際尊重和中立因素一樣，算法的更大透明度對于確保被告相信程序是公平的至關(guān)重要。

二、預(yù)測算法應(yīng)用困境疏解的價(jià)值遵從

本文重點(diǎn)研究了社會福利政策質(zhì)量標(biāo)準(zhǔn)、社會福利政策質(zhì)量評價(jià)的原則及其評價(jià)體系建設(shè)，但筆者認(rèn)為對于保證社會福利政策質(zhì)量來說，這只是技術(shù)問題，如何將這些技術(shù)真正能夠服務(wù)于提高社會福利政策質(zhì)量，更重要的是實(shí)現(xiàn)社會福利政策質(zhì)量評價(jià)的制度化，這是有效地進(jìn)行政策評價(jià)的保障。

（一）堅(jiān)守尊重與可信賴之底線

數(shù)據(jù)算料作為預(yù)測算法刑事司法運(yùn)用的基礎(chǔ)性元素， 對于預(yù)測算法的應(yīng)用與普及起著根本性的支撐作用。 預(yù)測算法應(yīng)用效果的好壞、分析研判結(jié)果的正確與否、偵控審各個(gè)環(huán)節(jié)的智能化開展都是與基礎(chǔ)數(shù)據(jù)算料安全密切相關(guān)。 因此，保障數(shù)據(jù)算料安全是預(yù)測算法決策與運(yùn)用的前提。 隨著以大數(shù)據(jù)為基礎(chǔ)的算法方式不斷普及，相對應(yīng)的數(shù)據(jù)安全問題所帶來的風(fēng)險(xiǎn)也會與日俱增。 如果基于錯(cuò)誤或是被篡改的數(shù)據(jù)進(jìn)行算法分析，在刑事司法領(lǐng)域，很可能會造成嚴(yán)重的司法事故，延伸到智慧醫(yī)療、自動駕駛等民生領(lǐng)域，則會對人的生命安全造成重大威脅。 因此，推廣預(yù)測算法在刑事司法中運(yùn)用的首要任務(wù)就是針對數(shù)據(jù)的源頭收集、過濾篩查、分門別類、應(yīng)用落地、后期維護(hù)做好扁平化鏈條式的監(jiān)管與保護(hù)，可以仿效區(qū)塊鏈技術(shù)，對基礎(chǔ)數(shù)據(jù)進(jìn)行可溯源、不可篡改、條條上鏈的優(yōu)化與改造。 與《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《網(wǎng)絡(luò)安全法》相對接，保證數(shù)據(jù)收集、篩選、使用過程的透明度，將“公開”與“必要”“有限”原則相融合的基本宗旨貫徹始終。 對于數(shù)據(jù)的生成流程改造要求大致如此，但是不可忽視的是在自然人的操控環(huán)節(jié)同樣要受到重視，通過上文美國COMPAS 對于黑人與白人犯罪率的差異化分析，可以看到，算法歧視的根源來自人的歧視，在這種歧視之下就會扭曲篡改數(shù)據(jù)算料的原本樣態(tài)，給別有用心之人以可乘之機(jī)，那么此時(shí)無論是數(shù)據(jù)還是算法都將變得不再客觀。 因此，更應(yīng)該防范在數(shù)據(jù)采集與抓取過程中人的過錯(cuò)風(fēng)險(xiǎn)，防范本應(yīng)客觀的數(shù)據(jù)源頭被不該有的主觀價(jià)值偏好所污染。 “智慧司法”也好，“互聯(lián)網(wǎng)法院”也好，大數(shù)據(jù)算法無論怎樣應(yīng)用都是離不開人的基礎(chǔ)性作用和專業(yè)的剛性隊(duì)伍建設(shè)

。

技術(shù)問題，它們?nèi)詫⒚媾R最后一個(gè)挑戰(zhàn)：它們是否會被接受為刑事司法系統(tǒng)的合法決策者，或者它們的運(yùn)用是否會破壞程序正義？ 如果預(yù)測算法的支持者希望看到這些程序被法院和執(zhí)法機(jī)構(gòu)廣泛采用，他們必須做的不僅僅是提高其公平性和透明度。 他們還必須使普通民眾，甚至是受這些算法影響的被告去接受司法刑事系統(tǒng)算法應(yīng)用的合法性。 其次，我國傳統(tǒng)的刑法規(guī)制模式與現(xiàn)代智能化的算法技術(shù)對接難題，傳統(tǒng)的刑法規(guī)制模式在面對現(xiàn)代智能化社會層出不窮的“新型”犯罪時(shí)顯現(xiàn)出了明顯的僵硬和滯后性，以新型網(wǎng)絡(luò)犯罪為例：舊有的刑事司法模式針對傳統(tǒng)的網(wǎng)絡(luò)犯罪治理已經(jīng)顯得捉襟見肘，那種“頭痛醫(yī)頭，腳痛醫(yī)腳”的治理模式使得其在面對“日新月異”的犯罪時(shí)疲于奔命，處理犯罪的方式往往都是采取亡羊補(bǔ)牢的“補(bǔ)救模式”，先出問題，再想辦法治理，理想化的“預(yù)防模式”遠(yuǎn)遠(yuǎn)沒有達(dá)到。 而在面對被人工智能、大數(shù)據(jù)、算法催生強(qiáng)化后的“網(wǎng)絡(luò)犯罪2.0”時(shí)，舊有的刑事司法模式更是對其“聞所未聞，見所未見”，這就很難對“數(shù)字時(shí)代”的新型犯罪進(jìn)行及時(shí)有效的治理。 相較于傳統(tǒng)的刑事司法手段，經(jīng)過人工智能與算法技術(shù)賦能加強(qiáng)的刑事司法程序在技術(shù)層面擁有了更科學(xué)的信息抓取與分析方式和更強(qiáng)大的數(shù)據(jù)篩查與運(yùn)算能力。 當(dāng)技術(shù)不斷革新，手段不斷豐富的同時(shí)，就難免出現(xiàn)舊有的刑事司法程序與之脫節(jié)的情況。 我國目前“智慧司法”推行相對較好僅有浙江、上海、北京等幾個(gè)經(jīng)濟(jì)相對發(fā)達(dá)的省市，而這些省市對于算法技術(shù)也僅僅是處于一種探索和局部應(yīng)用的階段，沒有與舊有的刑事司法程序形成有效完整的對接體系

。 其余省份的“智慧司法”，大多數(shù)僅是將紙質(zhì)辦公升級為網(wǎng)上辦公而已。 因此，想改變舊有的刑事司法程序與模式更需要強(qiáng)大的耐心與必要的時(shí)間，二者的磨合與適應(yīng)注定是一個(gè)無法省略的過程。 當(dāng)我國的智慧法院、人工智能、預(yù)測算法在短短幾年間不斷從1.0 升級到2.0，從2.0 升級到3.0 時(shí)，傳統(tǒng)的公安偵查模式、檢察公訴模式與法院審判模式想要追趕并與之對接就需要更長的時(shí)間和更多的精力來進(jìn)行適應(yīng)與彌合。最后，數(shù)據(jù)孤島現(xiàn)象嚴(yán)重。各地區(qū)、各部門、各環(huán)節(jié)的算法應(yīng)用呈現(xiàn)點(diǎn)狀碎片化分布，與智能互聯(lián)的構(gòu)想相比，我國的預(yù)測算法在刑事司法中的運(yùn)用并沒有形成系統(tǒng)網(wǎng)絡(luò)，超前的制度設(shè)計(jì)與系統(tǒng)化的全面實(shí)施還有相當(dāng)距離

?？v觀我國近些年的數(shù)據(jù)預(yù)算法在司法領(lǐng)域的實(shí)踐與應(yīng)用，無論是吉林法院的“智能司法服務(wù)平臺”，還是四川成都中院創(chuàng)建的“‘和合智解’多元化解紛平臺”，抑或是天津法院“審判信息化平臺”都僅是停留在較為粗淺的技術(shù)層面，并且這些平臺、模塊、技術(shù)都是停留在辦案的具體某個(gè)局部環(huán)節(jié)，或訴種分類，或所前調(diào)解，或案后執(zhí)行，非常零散，遠(yuǎn)遠(yuǎn)沒有達(dá)到“智能化，全覆蓋”的深層次構(gòu)想要求。 案件的“智能化”運(yùn)用還處于對數(shù)據(jù)的收集和簡單分類階段，沒有將更具實(shí)效的分析結(jié)果系統(tǒng)全覆蓋地應(yīng)用， 程序與應(yīng)用之間的數(shù)據(jù)大多數(shù)情況下是不能進(jìn)行互通的，“各自為政”現(xiàn)象嚴(yán)重，這就造成了數(shù)據(jù)孤島與數(shù)據(jù)浪費(fèi)，進(jìn)而導(dǎo)致算法技術(shù)的異化。 誠然，大數(shù)據(jù)預(yù)測算法的系統(tǒng)化應(yīng)用可以提高司法效率，但是如果各個(gè)系統(tǒng)與環(huán)節(jié)達(dá)不到統(tǒng)一，各種程序與應(yīng)用之間沒有固定標(biāo)準(zhǔn)，各類數(shù)據(jù)與算法運(yùn)用無法系統(tǒng)互聯(lián)，那么這種冗余、重復(fù)、孤立的數(shù)據(jù)算法“智能化”反而會對正常的刑事司法程序運(yùn)行造成不必要的阻礙。

（二）堅(jiān)持算法中立

基于技術(shù)理性與價(jià)值理性相平衡的目標(biāo)，激勵發(fā)展與合理監(jiān)管相協(xié)調(diào)的追求，刑事司法程序中的算法運(yùn)用更應(yīng)該堅(jiān)守法律紅線，釋放技術(shù)紅利。 根據(jù)我國《新一代人工智能發(fā)展規(guī)劃》提出的技術(shù)問責(zé)與應(yīng)用監(jiān)督并舉的要求，結(jié)合算法技術(shù)的實(shí)際發(fā)展與運(yùn)用，實(shí)行全面化覆蓋、系統(tǒng)性嵌套與及時(shí)性革新。

在式(5)兩邊同時(shí)乘以QH，由于正定矩陣具有保范性，因此，當(dāng)Nt ≤ Nr時(shí)，經(jīng)典球形譯碼檢測可以轉(zhuǎn)換為Tx-SD，其描述如下：

如前所述，實(shí)現(xiàn)真正中立決策的唯一方法是從預(yù)測算法中刪除各種“標(biāo)簽”，或從人類決策者中刪除所有隱含的偏見。 但前者一定比后者容易，因?yàn)閺睦碚撋现v，算法可以被編程來消除任何先前種族歧視所帶來的因素。例如，假設(shè)一項(xiàng)研究表明，黑人居民和白人居民犯下某種類型的罪行的頻率相同，但由于制度上的不公平，黑人居民更有可能被判有罪。 因此，如果使用未經(jīng)調(diào)整的先前定罪數(shù)字，黑人被告的累犯率將不準(zhǔn)確（不公平）地高于白人。 一旦這一事實(shí)被證實(shí)，程序員就可以改變他們的算法來消除先前存在的不公平，對黑人被告來說，通過適當(dāng)?shù)臄?shù)量來減少這一罪行的先前定罪的數(shù)量，或者對白人被告來說，通過適當(dāng)?shù)臄?shù)量來增加先前定罪的數(shù)量。這種調(diào)整可以針對記錄了過去種族偏見的所有因素進(jìn)行，并可以納入各級決策過程，從確定逮捕的原因到選擇量刑幅度，再到形成適當(dāng)?shù)呐袥Q。 即使我們可以相信每一位人類法官都知道這些先前存在的種族偏見的例子，即使我們可以相信每一位法官都會同情適當(dāng)調(diào)整裁判的必要性，但任何人都不可能考慮到所有這些潛在的折扣，只有預(yù)測算法才能有效地做到這一點(diǎn)

。因此，如果它們被設(shè)計(jì)得適當(dāng)，預(yù)測算法至少有可能實(shí)現(xiàn)比人類更優(yōu)的中立性。

3.3 發(fā)枝促花劑對幼樹骨干枝側(cè)芽萌發(fā)及新梢類型的影響 從表3看出，處理顯著提高了分枝側(cè)芽萌發(fā)率，達(dá)到825.1%，比對照提高27.3%；并且抽生的新梢多為中短枝，比例占83.3%，比對照提高166.1%，說明處理能夠有效促進(jìn)中短枝的形成，為花芽孕育做好準(zhǔn)備。

（三）保障數(shù)據(jù)算料安全

決定一個(gè)人是否會認(rèn)為程序公平的首要因素是程序是否被有尊嚴(yán)地尊重或?qū)Υ?這存在于在偵查期間與警察的互動，公訴階段與檢察官的溝通，以及在審判過程中與法官交流的各個(gè)階段。 然而，在評估大數(shù)據(jù)算法的感知合法性時(shí)，這個(gè)重要因素往往被忽略掉，因?yàn)榉乃惴Q策的個(gè)體不會直接與算法或其設(shè)計(jì)者交互。 相反，當(dāng)事人將與根據(jù)算法建議行事的人類警察、檢察官和法官進(jìn)行交流。 不管這些行為人是否使用預(yù)測算法來指導(dǎo)他們的決定，為了實(shí)現(xiàn)程序正義，他們必須要堅(jiān)持有尊嚴(yán)地對待被告。 但是，伴隨著預(yù)測算法在刑事司法中的不斷滲透與普及， 依賴于預(yù)測算法的司法人員趨向于將刑事被告僅僅視為數(shù)字和概率的集合，他們更像是流水線上的物體，而不是自然人

。 如果做出的決定部分是基于預(yù)測算法，當(dāng)局應(yīng)該向被告解釋算法的細(xì)節(jié)，而不是僅僅解釋為機(jī)器強(qiáng)制做出的決定。 這將要求算法本身是透明的，以便警察、檢察官和法官了解導(dǎo)致算法決定的因素，并要求當(dāng)局做出額外努力，向被告努力解釋這些因素，這種額外的努力也將有助于建立信任，這是另一個(gè)程序公正實(shí)現(xiàn)所需要的至關(guān)重要的因素。

程序正義是一種法律技術(shù)得以施行的前提條件。 它更關(guān)注感知的公平， 而不是實(shí)體的公平。 人們遵守法律不僅僅是因?yàn)樗麄兒ε逻`反法律會受到制裁，主因還是他們相信法律是更為公平且合理的。 所以，預(yù)測算法在刑事司法程序中的平順嵌入不能僅依靠制裁的恫嚇，它必須是根植于民眾內(nèi)心的自愿認(rèn)可。

三、預(yù)測算法在我國刑事司法程序中規(guī)范運(yùn)用的路徑探索

預(yù)測算法對于提高決策者的實(shí)際中立性和感知中立性具有良好的應(yīng)用效果， 因?yàn)樗惴ǖ拿恳粋€(gè)決策都遵循相同的規(guī)則

。 然而，正如本文第一部分所討論的，預(yù)測算法目前在我國刑事司法領(lǐng)域的應(yīng)用依舊面臨著巨大的挑戰(zhàn)，我們在運(yùn)用該項(xiàng)技術(shù)的同時(shí)也在不斷深化固有的歧視與偏見。 社會中的特定群體更有可能因其犯罪前科、經(jīng)濟(jì)狀況、甚至是性別而被定罪。 一個(gè)算法判決若將犯罪前科、自身經(jīng)濟(jì)狀況、性別等作為定罪量刑的關(guān)鍵數(shù)據(jù)，將加劇現(xiàn)有的不平等，破壞法律所追求的中立性。 以美國的一項(xiàng)數(shù)據(jù)調(diào)查為例，即使算法避免使用前科或者種族作為確定行為風(fēng)險(xiǎn)的因素，其結(jié)果仍可能對黑人被告產(chǎn)生一定的影響。 事實(shí)上，對這些預(yù)測算法最常見的批評是，他們預(yù)測黑人被告比白人被告有更高的累犯率，COMPAS 算法評估數(shù)千名被告的風(fēng)險(xiǎn)得分，結(jié)果顯示，黑人被告的假陽性率是白人被告的兩倍

。 評估預(yù)測算法中立性的部分問題在于，不同的人可能對什么是“中立”有不同的定義。 在風(fēng)險(xiǎn)評分相同的被告中，黑人被告和白人被告的實(shí)際累犯率是相同的。 這有力地證明了算法是“中立的”，因?yàn)樗慕Y(jié)果在種族間是相同的。 然而，由于黑人被告的總體累犯率確實(shí)是高于白人被告，因此從統(tǒng)計(jì)學(xué)上說，若想為了在結(jié)果上保持所謂的“種族中立”，預(yù)測系統(tǒng)就必須進(jìn)行“調(diào)整”，對黑人的誤報(bào)率必須高于白人。 很難說這兩個(gè)相互對立和不相容的價(jià)值觀——結(jié)果“中立”與相同的假陽性率——是如何轉(zhuǎn)化為程序正義的。 從實(shí)質(zhì)正義上講，中立的結(jié)果應(yīng)該是最重要的因素，也就是說，必須使黑人被告相信，系統(tǒng)給定的預(yù)測分?jǐn)?shù)是中立且平等的。 但基于假陽性率的差異，加上低收入水平或犯罪前科記錄增加了其被告評估的風(fēng)險(xiǎn)得分，極有可能會導(dǎo)致黑人被告認(rèn)為這些算法對他們的種族不“中立”，存在嚴(yán)重的種族歧視。

（一）對算法進(jìn)行可視化改造，打破信任危機(jī)

2018 年7 月，《人工智能深度學(xué)習(xí)算法評估規(guī)范》將“深度學(xué)習(xí)（Deep Learning）”

認(rèn)定作為算法真實(shí)性的考量因素，并針對預(yù)測算法形成了一套較為完整的評估體系。 在算法應(yīng)用與監(jiān)管的體系構(gòu)建中，結(jié)合不同算法目的、運(yùn)用場景、效果分類、程度要求等因素的場景化、系統(tǒng)化、精細(xì)化的算法治理機(jī)制正在不斷生根發(fā)芽。 隨著預(yù)測算法在刑事司法領(lǐng)域應(yīng)用的不斷深入，黑箱裁判、算法歧視的問題也愈演愈烈。 目前，出于對算法商業(yè)秘密的考量，預(yù)測算法的推演過程往往是不會被公開的。 算法應(yīng)當(dāng)堅(jiān)持權(quán)利本位，堅(jiān)持人的主體性地位，人在算法的審核中必須起到不可替代的作用。 想要規(guī)制算法，就必須去發(fā)現(xiàn)預(yù)測算法問題出處，并以人為主體進(jìn)行最后的核查。 算法立法的核心原則是透明性原則，也就意味著我們需要知道算法是如何運(yùn)作的？ 算法體系接受哪些數(shù)據(jù)輸入？ 具體的數(shù)據(jù)算料是什么？ 算法在決策中所占的權(quán)重幾何？ 我們可以將不同的分析事項(xiàng)進(jìn)行細(xì)化與分類，完全市場化的商業(yè)大數(shù)據(jù)算法推演可以采用黑箱算法模式，但是涉及司法程序、社會公益、政務(wù)服務(wù)等關(guān)涉民眾基本權(quán)利義務(wù)之事就必須提高算法公開性、透明度及可解釋性。 與上述領(lǐng)域相關(guān)的算法系統(tǒng)投入使用之前必須進(jìn)行嚴(yán)格的公共審計(jì)，大量的算法測試，逐漸形成一整套集合大數(shù)據(jù)采集、預(yù)測算法選用、結(jié)果輸出、問責(zé)響應(yīng)的完備體系，保障正當(dāng)程序的實(shí)現(xiàn)?；诖耍梢砸民R克思·韋伯（Max Weber）“價(jià)值理性”與“工具理性”的觀點(diǎn)來看，司法裁判并不存在非彼即此、非黑即白的二分法，他既需要對目的、手段、后果進(jìn)行功利性的考量，也要有對司法公正、正直等價(jià)值的關(guān)懷?！肮ぞ呃硇浴笔沟盟痉ú门芯哂锌陀^、規(guī)范、可預(yù)測的特征，而“價(jià)值理性”使得司法追求真與善的統(tǒng)一，具有人性的溫度，二者應(yīng)在司法裁判的場域內(nèi)實(shí)現(xiàn)微妙的平衡。 可以在刑事司法程序啟動之前設(shè)置算法的解釋說明的前置程序，從算法的角度而言，“深度學(xué)習(xí)”算法的優(yōu)點(diǎn)在于推演與預(yù)測，但其在解釋力方面存在短板。與“深度學(xué)習(xí)”相比，“知識圖譜”（Knowledge Graph）

雖然無法精準(zhǔn)在紛繁復(fù)雜的案件中給出完全正確的結(jié)果，但卻擁有“深度學(xué)習(xí)”無法具備的優(yōu)勢，即高度的透明性。 我們不妨嘗試通過交互式的方式分析預(yù)測算法模塊的運(yùn)行狀況，將“深度學(xué)習(xí)”與“知識圖譜”相結(jié)合，真實(shí)重現(xiàn)該決策結(jié)果所做出的計(jì)算過程與該過程的執(zhí)行情況

。 從公權(quán)力的指引角度來看，如果公權(quán)力能夠設(shè)置涉及公共事務(wù)算法的準(zhǔn)入門檻，鼓勵企業(yè)對算法的計(jì)算過程與所做出的具體決策進(jìn)行詳細(xì)釋明，偵查、公訴、審判等各個(gè)階段在辦理案件的同時(shí)能夠抵制無法做出合理解釋且不透明的算法技術(shù)，賦予公眾對預(yù)測算法所做出的決策提出質(zhì)疑并獲得救濟(jì)的權(quán)利，那么預(yù)測算法的透明度乃至算法適用環(huán)境將得到巨大 改 善

。

（二）自我革新升級數(shù)據(jù)權(quán)利，創(chuàng)造對接接口

刑事司法裁判中的預(yù)測算法運(yùn)用可能對既有的訴訟結(jié)構(gòu)造成沖擊， 公權(quán)力機(jī)關(guān)的力量會由此大幅度提升，進(jìn)而破壞訴訟環(huán)境的生態(tài)平衡，因此，在當(dāng)前人工智能、預(yù)測算法不斷應(yīng)用與發(fā)展的大趨勢下，可以嘗試對當(dāng)事人訴訟權(quán)利進(jìn)行補(bǔ)強(qiáng)，來應(yīng)對因科技導(dǎo)致的公權(quán)力漫溢，實(shí)現(xiàn)訴訟結(jié)構(gòu)的重新穩(wěn)定。 要想保障當(dāng)事人訴訟權(quán)利，首先，要擴(kuò)大訴訟中的信息獲取能力，將

刑事訴訟中的閱卷權(quán)逐漸升級為“數(shù)據(jù)查閱權(quán)”。 就刑事閱卷權(quán)而言，基于保障被告受辯護(hù)以及自我辯護(hù)權(quán)的要求，公訴機(jī)關(guān)、審判機(jī)關(guān)在刑事訴訟的全過程都被要求向辯方進(jìn)行證據(jù)公示，并為辯方查閱、復(fù)制、摘抄證據(jù)材料提供必要的便利條件。 隨著大數(shù)據(jù)時(shí)代的不斷發(fā)展，證據(jù)形式也在不斷更新迭代，公權(quán)力機(jī)關(guān)不論在偵查、公訴抑或是審判階段，其所能獲取的相關(guān)數(shù)據(jù)遠(yuǎn)遠(yuǎn)超過了傳統(tǒng)意義上的“案卷材料”，針對如此海量的數(shù)據(jù)，有很大一部分?jǐn)?shù)據(jù)是不會被隨卷移送的，使得辯方在傳統(tǒng)閱卷權(quán)模式之下出現(xiàn)了“查閱空白”的現(xiàn)象，這就有違法律規(guī)定的初衷，很難從真正意義上保障被告人的合法權(quán)益。 基于此種脫節(jié)現(xiàn)象，我們應(yīng)該適時(shí)考慮將傳統(tǒng)的閱卷權(quán)升級成“數(shù)據(jù)查閱權(quán)”，顧名思義，該項(xiàng)權(quán)能即賦予數(shù)據(jù)主體及其辯護(hù)人查閱其涉案數(shù)據(jù)是否被正確解讀、是否被擴(kuò)大適用、是否對于案情具有重要影響，等等。 如此一來，數(shù)據(jù)查閱權(quán)既可以運(yùn)用預(yù)測算法體系明確數(shù)據(jù)權(quán)利主體，進(jìn)一步保障當(dāng)事人合法權(quán)益，又可以擴(kuò)大被告人獲得數(shù)據(jù)的范圍，超越原有“案卷材料”的范圍限制，作用于刑事訴訟的各個(gè)階段乃至法官的自由心證。 其次，應(yīng)當(dāng)為當(dāng)事人提供技術(shù)層面專業(yè)的幫助，建立“專業(yè)保障權(quán)”。術(shù)業(yè)有專攻，面對預(yù)測算法、人工智能飛速發(fā)展所帶來的刑事司法裁判的變革，無論是當(dāng)事人抑或是其辯護(hù)人、代理律師都無法從容應(yīng)對紛繁復(fù)雜的算法程序和浩如煙海的司法數(shù)據(jù)。 為了保障當(dāng)事人的訴訟權(quán)利，推進(jìn)預(yù)測算法的司法應(yīng)用，急需專業(yè)人士來幫助當(dāng)事人進(jìn)行算法開示與數(shù)據(jù)甄別

。 從經(jīng)驗(yàn)論的角度來講，法律規(guī)定專業(yè)人士提供幫助早有制度基礎(chǔ)，我國刑事、民事訴訟法均有規(guī)定“有專門知識的人出庭”制度，為專家輔助人參與訴訟提供了法律依據(jù)。 故而可以據(jù)此對該制度進(jìn)行擴(kuò)大解釋，允許當(dāng)事人及其辯護(hù)人、代理人向?qū)I(yè)人員尋求算法分析或數(shù)據(jù)篩選等方面的幫助，從而為預(yù)測算法等技術(shù)的司法運(yùn)用減少適用阻力。 最后，大數(shù)據(jù)時(shí)代背景下國家成為個(gè)人信息最大的收集、處理、存儲和利用者，迫使隱私權(quán)保護(hù)走向個(gè)人信息保護(hù)成為必然的社會和法治變遷過程

。 完善預(yù)測算法之下數(shù)據(jù)的使用權(quán)能，賦予當(dāng)事人更全面的數(shù)據(jù)權(quán)利，特別是被“數(shù)據(jù)遺忘權(quán)”顯得尤為重要。 司法裁判中引入預(yù)測算法、人工智能等技術(shù)，雖然強(qiáng)化了國家通過訴訟收集使用個(gè)人信息的能力，增強(qiáng)了訴訟效率，但個(gè)人相關(guān)數(shù)據(jù)信息也毫無保留地在公眾面前“裸奔”。 那么，如何疏解此難題？ 以歐盟的《一般數(shù)據(jù)保護(hù)條例》（GDPR）為例，其賦予公民大量相關(guān)數(shù)據(jù)保護(hù)權(quán)利，即可被視為對此問題的應(yīng)對。 在各種信息權(quán)利中，“數(shù)據(jù)遺忘權(quán)”是防止當(dāng)事人個(gè)人數(shù)據(jù)信息在預(yù)測算法中被濫用的有效救濟(jì)途徑。 在刑事司法領(lǐng)域賦予當(dāng)事人此項(xiàng)權(quán)利，允許信息主體在案件審結(jié)后的特定情形下，以申請的方式要求封存或刪除涉訴個(gè)人信息，會減弱因預(yù)測算法的司法運(yùn)用帶來的公權(quán)力對公民個(gè)人數(shù)據(jù)信息的過分侵蝕。 誠然，舊有的刑事司法模式想要完美對接快速發(fā)展的算法技術(shù)，的確需要一個(gè)較長的適配過程，我們可以從各個(gè)關(guān)鍵節(jié)點(diǎn)出發(fā)，堅(jiān)持以權(quán)利為本位的基本宗旨，逐步升級舊有的法治運(yùn)行模式，以點(diǎn)帶面，在刑事司法智能化整體不斷加深的前提下，以權(quán)利的更新迭代創(chuàng)造出新技術(shù)與舊模式的對接接口。

（三）建立統(tǒng)一互聯(lián)的算法應(yīng)用體系，破除數(shù)據(jù)孤島

以美國盧米斯案

為首的算法爭議反映出來的對于預(yù)測算法刑事司法應(yīng)用的系統(tǒng)性互聯(lián)問題對整個(gè)算法生態(tài)系統(tǒng)都具有普適性價(jià)值

，由此，一整套體系完備、打通數(shù)據(jù)壁壘、聯(lián)通數(shù)據(jù)孤島的預(yù)測算法運(yùn)用與規(guī)制的法律規(guī)范體系呼之欲出。 在刑事司法程序各個(gè)環(huán)節(jié)“各自為政”的狀況下，首先要做的就是提高預(yù)測算法技術(shù)的透明度。 只有在保障預(yù)測算法透明度的基礎(chǔ)之上，或者說至少在一定程度上提高算法的公知性，降低技術(shù)壁壘才能降低數(shù)據(jù)孤島帶來的影響度，使算法歧視、算法黑箱等問題充分暴露出來

。 由此，初期的立法可以先嘗試進(jìn)行原則性的規(guī)定，通過在司法實(shí)務(wù)中的應(yīng)用與積累，綜合考量預(yù)測算法刑事司法應(yīng)用中不同場景所涉及的利益沖突，預(yù)測算法的披露方式、披露對象以及披露范圍，預(yù)測算法的披露可能引發(fā)的諸多難以控制的后果。 努力平衡權(quán)利保護(hù)與技術(shù)進(jìn)步之間的沖突，并且，預(yù)測算法在刑事司法程序中的應(yīng)用相較其他程序更為敏感，算法產(chǎn)品涉及重要的人權(quán)、個(gè)人信息、商業(yè)秘密等敏感問題， 應(yīng)當(dāng)提高司法程序算法運(yùn)用的準(zhǔn)入門檻， 從算法源頭保障數(shù)據(jù)的安全與清潔。2021 年9 月29 日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，《意見》提出“利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”的重要目標(biāo)，重點(diǎn)強(qiáng)調(diào)要“建立健全多方參與的算法安全治理機(jī)制”，形成“多元協(xié)同、多方參與的治理機(jī)制”。 在聯(lián)通數(shù)據(jù)孤島的道路上，技術(shù)力量是必不可少的，我國也涌現(xiàn)出很多司法技術(shù)產(chǎn)品，阿里的“司法云”、icourt 數(shù)據(jù)平臺、無訟案例、聚法科技等一系列依托算法技術(shù)興起的應(yīng)用都在反哺著司法程序的高效運(yùn)行。 基于此，我們可以嘗試引入這些社會技術(shù)力量，所謂“高手在民間”，市場經(jīng)濟(jì)之下這些科技企業(yè)對于算法的更新迭代是最具前瞻性的，利用這些對算法、數(shù)據(jù)最敏感的企業(yè)來提供技術(shù)支持，助力司法系統(tǒng)建立統(tǒng)一互聯(lián)的算法應(yīng)用，聯(lián)通數(shù)據(jù)孤島將是一項(xiàng)有力舉措。 將這些科技公司的智力成果融入刑事司法環(huán)節(jié)，為技術(shù)的更新持續(xù)提供支持。 當(dāng)然，在強(qiáng)調(diào)建立統(tǒng)一的算法應(yīng)用體系的同時(shí)，必須要堅(jiān)守的核心原則是：算法決策工具決不能完全替代法官，歸根到底，其只是對法官的量刑裁判起到輔助性的作用。 運(yùn)用與解釋法律本身就具有豐富的價(jià)值判斷要求，法治需要與德治相融合，法律賦予法官的自由裁量權(quán)也是基于此目的。 法律僵化性的弱點(diǎn)需要法官來運(yùn)用同理心來化解，自由心證的運(yùn)用在刑事司法審判環(huán)節(jié)必不可少，算法技術(shù)無法應(yīng)對諸如“藥神案”“掏鳥窩案”“許霆案”等法理與情理交融的特殊案件，司法裁判不能完全訴諸純粹的理性技術(shù)，使判決失去人性的溫度。 盡管可以通過編輯、運(yùn)算、設(shè)計(jì)等方式使算法識別盡可能多的相關(guān)關(guān)系，容納盡可能多的數(shù)據(jù)參量，從而披露影響案件判決的各類個(gè)體性特征，但是由于目前數(shù)據(jù)質(zhì)量、數(shù)量、算力等方面存在著諸多技術(shù)性局限，無法完全捕捉到所有個(gè)案中不可控的意外因子，必然不能揭示出人類意識中的所有的變量

。

四、結(jié)語

盡管我們力圖通過打造統(tǒng)一互聯(lián)的算法刑事司法運(yùn)用體系、 升級數(shù)據(jù)權(quán)利與算法技術(shù)來構(gòu)建預(yù)測算法的規(guī)制與實(shí)施進(jìn)路，但需要明確的是，無論預(yù)測算法多么精確和公平，我們始終需要一個(gè)人作為最終決策者。 法學(xué)是一門實(shí)踐智慧，司法更是一種人事，司法決策依賴于人的實(shí)踐理性，法律案件只能以特定的程序，通過中立的第三人（司法工作者）運(yùn)用法律規(guī)范以及其他的人類的正義標(biāo)準(zhǔn)抑或是道德標(biāo)尺來進(jìn)行評判，只要這樣的范式不發(fā)生變化，預(yù)測算法的刑事司法運(yùn)用就不會偏離基本軌道。 司法實(shí)踐的知識和技能往往是在司法實(shí)踐中逐漸學(xué)會的，這種學(xué)習(xí)過程難以被形式化為計(jì)算機(jī)語言輸入電腦，也無法從大數(shù)據(jù)中精確地分析得出。技術(shù)始終無法取代法律實(shí)施中法官、檢察官和律師所擁有的司法知識、訴訟經(jīng)驗(yàn)以及專業(yè)技術(shù)的深度。 法官裁判案件不僅僅需要法律知識，還需要其作為客觀的自然人對社會效果的評價(jià)，源生于對基本道德判斷與價(jià)值取舍的自由心證。 除了專業(yè)的法律知識外，對這些案件或事實(shí)進(jìn)行區(qū)分所需要的往往是人類的判斷以及鮮活且自然的同理心，這最重要的一點(diǎn)也恰恰是所有算法都難以模擬的判斷與計(jì)量的情感

。

［1］ 馬長山.司法人工智能的重塑效應(yīng)及其限度［J］.法學(xué)研究，2020（4）：23-40.

［2］ 張玉潔.智能量刑算法的司法適用：邏輯、難題與程序法回應(yīng)［J］.東方法學(xué)，2021（3）：187-200.

［3］ 鄭戈.在法律與科技之間——智慧法院與未來司法［J］.中國社會科學(xué)評價(jià)，2021（1）：80-92.

［4］ 陳銳，孫慶春.人工智能司法決策的合法性辨疑［J］.西安交通大學(xué)學(xué)報(bào)（社會科學(xué)版），2021（3）：123-130.

［5］ 吳習(xí)彧.司法裁判人工智能化的可能性及問題［J］.浙江社會科學(xué)，2017（4）：51-57.

［6］ 劉艷紅.人工智能技術(shù)在智慧法院建設(shè)中實(shí)踐運(yùn)用與前景展望［J］.比較法研究，2022（1）：1-11.

［7］ 李鑫.智慧法院建設(shè)的理論基礎(chǔ)與中國實(shí)踐［J］.政法論叢，2021（5）：128-138.

［8］ 杜宴林，楊學(xué)科.論人工智能時(shí)代的算法司法與算法司法正義［J］.湖湘論壇，2019，32（5）：64-74.

［9］ 侯東德，張麗萍.算法推薦意識形態(tài)風(fēng)險(xiǎn)的法律防范［J］.重慶社會科學(xué)，2021，No.321（8）：77-90.

［10］ HOWARD ROSENBAUM，PNINA FICHMAN. Algorithmic accountability and digital justice： A critical assessment of technical and sociotechnical approaches［J］. Proceedings of the Association for Information Science and Technology，2019，56（1）.

［11］ 劉東亮.技術(shù)性正當(dāng)程序：人工智能時(shí)代程序法和算法的雙重變奏［J］.比較法研究，2020（5）：64-79.

［12］ 杜前.互聯(lián)網(wǎng)司法實(shí)踐與探索（杭州互聯(lián)網(wǎng)法院）［M］.北京：人民法院出版社，2021：31.

［13］ 洪凌嘯.誤區(qū)與正道：法律人工智能算法問題的困境、成因與改進(jìn)［J］.四川師范大學(xué)學(xué)報(bào)（社會科學(xué)版），2020（1）：58-70.

［14］ 謝澍.人工智能如何“無偏見”地助力刑事司法——由“證據(jù)指引”轉(zhuǎn)向“證明輔助”［J］.法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2020（5）：109-119.

［15］ 鄭曦.人工智能技術(shù)在司法裁判中的運(yùn)用及規(guī)制［J］.中外法學(xué)，2020（3）：674-696.

［16］ 李延舜.位置何以成為隱私?——大數(shù)據(jù)時(shí)代位置信息的法律保護(hù)［J］.法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2021（2）：107-118.

［17］ 江溯.自動化決策、刑事司法與算法規(guī)制——由盧米斯案引發(fā)的思考［J］.東方法學(xué)，2020（3）：76-88.

［18］ 姜野，李擁軍.破解算法黑箱：算法解釋權(quán)的功能證成與適用路徑——以社會信用體系建設(shè)為場景［J］.福建師范大學(xué)學(xué)報(bào)（哲學(xué)社會科學(xué)版），2019（4）：84-92.

［19］ 桑本謙.從要件識別到變量評估：刑事司法如何破解“定性難題”［J］.交大法學(xué)，2020（1）：29-46.

［20］ 宋旭光.論司法裁判的人工智能化及其限度［J］.比較法研究，2020（5）：80-92.