算法風(fēng)險(xiǎn)評(píng)估在審前羈押程序中的應(yīng)用

張麗霞

（北京師范大學(xué) 北京 100875）

審前羈押是刑事訴訟程序中的重要環(huán)節(jié)，面對(duì)實(shí)踐中的高羈押率，是否羈押的判斷標(biāo)準(zhǔn)一直是學(xué)界和司法實(shí)踐中關(guān)注的重要問(wèn)題。在我國(guó)刑事司法，審前羈押①集中表現(xiàn)在逮捕程序的設(shè)置上。我國(guó)2012年《刑事訴訟法》第79條明確規(guī)定了逮捕的條件②，學(xué)界將其歸納為逮捕適用的三要件：證據(jù)條件，即有證據(jù)證明有犯罪事實(shí)；罪責(zé)條件，即可能判處徒刑以上刑罰；社會(huì)危險(xiǎn)性條件，即采取取保候?qū)?、監(jiān)視居住等不足以防止發(fā)生社會(huì)危險(xiǎn)性[1]。其中前兩個(gè)要件是確定的，可以進(jìn)行相對(duì)確定的分析和判斷，第三個(gè)社會(huì)危險(xiǎn)性則是相對(duì)主觀的變量，這一變量通常由檢察官依靠經(jīng)驗(yàn)法則自由裁量，具有不確定性，導(dǎo)致在我國(guó)刑事司法實(shí)踐中，以證據(jù)條件和罪責(zé)條件為主的逮捕審查沖淡了社會(huì)危險(xiǎn)性條件的審查，夠罪即捕、以捕代偵等現(xiàn)象使得我國(guó)的審前羈押率一直居高不下。實(shí)踐中負(fù)責(zé)批捕的檢察官對(duì)社會(huì)危險(xiǎn)性的評(píng)估大多依靠個(gè)人經(jīng)驗(yàn)即直覺(jué)、本能和正義感，檢察官的自由裁量權(quán)過(guò)大，導(dǎo)致這種綜合評(píng)估的結(jié)果不穩(wěn)定，也比較模糊。有學(xué)者認(rèn)為建構(gòu)以社會(huì)危險(xiǎn)性為核心的逮捕審查程序的關(guān)鍵是探索社會(huì)危險(xiǎn)性的科學(xué)評(píng)估方法[2]。如何科學(xué)定量地評(píng)估社會(huì)危險(xiǎn)性也一直是學(xué)界關(guān)注的重要問(wèn)題，有學(xué)者建議參照西方國(guó)家采用科學(xué)定量的方法來(lái)對(duì)社會(huì)危險(xiǎn)性進(jìn)行評(píng)估[3]，以期改變以往檢察人員以個(gè)人經(jīng)驗(yàn)為主的“綜合估量”的模糊性和任意性。事實(shí)上在美國(guó)已經(jīng)開(kāi)始將算法應(yīng)用于刑事訴訟中審前羈押的風(fēng)險(xiǎn)評(píng)估，用算法來(lái)預(yù)測(cè)犯罪嫌疑人是否會(huì)再次犯罪、是否會(huì)準(zhǔn)時(shí)出庭等，美國(guó)實(shí)務(wù)界希望通過(guò)更精確的算法風(fēng)險(xiǎn)評(píng)估來(lái)優(yōu)化審前羈押體系，降低羈押措施的適用。

在科技時(shí)代的大背景下，我國(guó)也有學(xué)者開(kāi)始關(guān)注使用人工智能來(lái)解決羈押社會(huì)危險(xiǎn)性評(píng)估問(wèn)題，有學(xué)者提出“人工智能檢察院”的設(shè)想，希望通過(guò)大數(shù)據(jù)和云計(jì)算實(shí)現(xiàn)對(duì)審前羈押的過(guò)程和結(jié)果進(jìn)行分析和預(yù)測(cè)，通過(guò)算法風(fēng)險(xiǎn)評(píng)估對(duì)公安機(jī)關(guān)的偵查進(jìn)行監(jiān)督[4]。上海高院研發(fā)的“推進(jìn)以審判為中心的訴訟制度改革軟件”，即為代號(hào)“206”的“上海刑事案件智能輔助辦案系統(tǒng)”的項(xiàng)目中也包含了有關(guān)于社會(huì)危險(xiǎn)性評(píng)估的模塊審查逮捕中社會(huì)危險(xiǎn)性。在新的時(shí)代背景下，算法風(fēng)險(xiǎn)評(píng)估能否針對(duì)審前羈押風(fēng)險(xiǎn)給出一份符合期望的答案？本文試從算法風(fēng)險(xiǎn)評(píng)估的建構(gòu)及其原理出發(fā)，探討在我國(guó)逮捕程序中引入算法風(fēng)險(xiǎn)評(píng)估的必要性和可能性，并結(jié)合逮捕審查的程序要求來(lái)探討引入算法風(fēng)險(xiǎn)評(píng)估給傳統(tǒng)刑事訴訟程序帶來(lái)的新挑戰(zhàn)以及可能的規(guī)制路徑。

一、算法風(fēng)險(xiǎn)評(píng)估的原理及建構(gòu)

（一）算法風(fēng)險(xiǎn)評(píng)估的原理

風(fēng)險(xiǎn)評(píng)估最早應(yīng)用于經(jīng)濟(jì)和管理學(xué)領(lǐng)域，是指量化測(cè)評(píng)某一事件或事物帶來(lái)的影響或損失的可能程度。具體到刑事司法領(lǐng)域，風(fēng)險(xiǎn)評(píng)估是指利用犯罪嫌疑人的歷史數(shù)據(jù)比如是否曾經(jīng)被逮捕、被定罪等，來(lái)預(yù)測(cè)其未來(lái)行為的可能性，是精算正義理念下司法裁量數(shù)字化智能化的體現(xiàn)。英美法系對(duì)罪犯風(fēng)險(xiǎn)評(píng)估技術(shù)發(fā)展比較成熟，評(píng)估工具已經(jīng)從第一代臨床評(píng)估發(fā)展到第四代結(jié)構(gòu)性專家評(píng)估，被廣泛的應(yīng)用到犯罪預(yù)測(cè)、法庭審判、監(jiān)獄管理、國(guó)家安全防衛(wèi)等方面[5]。風(fēng)險(xiǎn)評(píng)估的本質(zhì)是利用統(tǒng)計(jì)學(xué)原理將各項(xiàng)風(fēng)險(xiǎn)因素的相關(guān)性數(shù)字化，根據(jù)數(shù)字計(jì)算轉(zhuǎn)換成風(fēng)險(xiǎn)類別，例如，對(duì)影響未來(lái)行為的變量犯罪嫌疑人的年齡、籍貫、住所等進(jìn)行回歸分析，確定其與再犯或者未能出庭的相關(guān)性，進(jìn)而通過(guò)計(jì)算得出風(fēng)險(xiǎn)級(jí)別。算法風(fēng)險(xiǎn)評(píng)估是隨著現(xiàn)代科技的發(fā)展，計(jì)算機(jī)和風(fēng)險(xiǎn)評(píng)估技術(shù)的結(jié)合，具體是指將風(fēng)險(xiǎn)模型轉(zhuǎn)化為計(jì)算機(jī)語(yǔ)言，即算法。算法風(fēng)險(xiǎn)評(píng)估最大的特點(diǎn)是定量分析和循證為本（Evidence-based）。審前羈押程序中的風(fēng)險(xiǎn)評(píng)估，一方面，對(duì)是否羈押中涉及的因素進(jìn)行量化分析，幫助刑事裁判者更加精準(zhǔn)的把握是否羈押的條件，在保障訴訟程序順利進(jìn)行的前提下，盡量減少羈押措施的使用，進(jìn)而有效保障犯罪嫌疑人和被告人的權(quán)利。另一方面，在循證為本的理論指導(dǎo)下，經(jīng)過(guò)不斷驗(yàn)證，使得評(píng)估因素成為判斷羈押的“證據(jù)”以確保羈押有據(jù)可查，增加犯罪嫌疑人、被告人對(duì)羈押決定的接受度。嚴(yán)格的說(shuō)，算法風(fēng)險(xiǎn)評(píng)估是數(shù)據(jù)驅(qū)動(dòng)的人工智能與專家經(jīng)驗(yàn)結(jié)合的產(chǎn)物，不是簡(jiǎn)單將法條轉(zhuǎn)化為計(jì)算機(jī)語(yǔ)言，它的建立需要依賴刑事裁判者的理性思維和邏輯判斷。以2017年上海高院研發(fā)的“上海刑事案件智能辦案輔助系統(tǒng)為例，據(jù)技術(shù)人員介紹人工智能的三個(gè)重要環(huán)節(jié)是專家經(jīng)驗(yàn)、模型算法和海量數(shù)據(jù)。首先由公檢法業(yè)務(wù)骨干對(duì)掃入系統(tǒng)的卷宗內(nèi)容進(jìn)行標(biāo)注，建立數(shù)據(jù)庫(kù)，再在專家經(jīng)驗(yàn)的基礎(chǔ)上，指導(dǎo)機(jī)器建立模型進(jìn)行學(xué)習(xí)[6]。

（二）算法風(fēng)險(xiǎn)評(píng)估的建構(gòu)

算法風(fēng)險(xiǎn)評(píng)估的建構(gòu)是指以“逃避訴訟可能性”“再犯可能性”等為評(píng)價(jià)基準(zhǔn)，將涉及到的因素全部篩選出來(lái)，并依據(jù)各要素風(fēng)險(xiǎn)等級(jí)的大小將涉及到的風(fēng)險(xiǎn)因素及其影響量化，根據(jù)一定的規(guī)則建立綜合算法評(píng)估模型。建構(gòu)算法風(fēng)險(xiǎn)評(píng)估的關(guān)鍵是如何篩選出影響社會(huì)危險(xiǎn)性的風(fēng)險(xiǎn)因素，如何在這些風(fēng)險(xiǎn)因素之間建立關(guān)聯(lián)。比如美國(guó)的算法評(píng)估工具COMPAS和LSI-R主要涉及五個(gè)主要領(lǐng)域：犯罪情況、人際關(guān)系、個(gè)性、家庭還有社會(huì)排斥程序，此外還包括工作經(jīng)歷、經(jīng)濟(jì)狀況、家庭成員犯罪記錄、年齡、性別、婚姻、受教育情況等。美國(guó)安妮凱西基金會(huì)研發(fā)針對(duì)未成年人審前羈押的risk assessment instrument簡(jiǎn)稱RAI)的主要風(fēng)險(xiǎn)因素分為四類：犯罪事實(shí)情況、以往的違法或者犯罪經(jīng)歷、加重情節(jié)因素（消極因素）和減輕情節(jié)因素（積極因素）[7]。國(guó)內(nèi)司法實(shí)踐中社會(huì)危險(xiǎn)性算法風(fēng)險(xiǎn)評(píng)估主要集中在理論層面的探討，有學(xué)者建議參考美國(guó)司法部審前風(fēng)險(xiǎn)評(píng)估的模型從理論的角度將涉及到的風(fēng)險(xiǎn)因素進(jìn)行分類，認(rèn)為我國(guó)風(fēng)險(xiǎn)評(píng)估因素主要是三個(gè)方面，即認(rèn)人身危險(xiǎn)性因素，如有無(wú)前科，是否可能再犯等；社會(huì)危險(xiǎn)性因素，如給社會(huì)造成不利后果；訴訟可控性因素，如是否可能妨礙訴訟，隱匿證據(jù)等，再運(yùn)用SPSS軟件對(duì)這些因素進(jìn)行Logistic回歸分析，確定每個(gè)因素跟最后是否逮捕或者羈押的相關(guān)程度，最后建立算法模型[8]。有學(xué)者根據(jù)長(zhǎng)期的辦案經(jīng)驗(yàn)列出了是否可能被判處刑罰、是否是本地人、是否有固定住所、是否是累犯、是否曾逃跑、是否是學(xué)生等11項(xiàng)等可能影響社會(huì)危險(xiǎn)性的因素，再以“有社會(huì)危險(xiǎn)性”和“無(wú)社會(huì)危險(xiǎn)性”進(jìn)行模式化的組合，比如：可能判處徒刑以上刑罰＋外來(lái)人員是有社會(huì)危險(xiǎn)性；可能判處徒刑以上刑罰＋本地人等構(gòu)成“無(wú)社會(huì)危險(xiǎn)性模式”[9]。筆者比較贊同以統(tǒng)計(jì)學(xué)原理對(duì)審前羈押的風(fēng)險(xiǎn)因素進(jìn)行回歸值分析，再根據(jù)各個(gè)風(fēng)險(xiǎn)要素與最終評(píng)估結(jié)果的關(guān)聯(lián)度建立模型算法。但是納入哪些風(fēng)險(xiǎn)要素需要進(jìn)行深入探討，現(xiàn)有的算法模型代表的是群體特征的因素，一些具有個(gè)性化的犯罪嫌疑人的情況有時(shí)候也對(duì)最終的結(jié)果產(chǎn)生影響。如前文提到的算法模式離不開(kāi)刑事裁判者的主觀能動(dòng)性，算法風(fēng)險(xiǎn)評(píng)估的建立也必須重視刑事裁判者的裁判邏輯，將其理性經(jīng)驗(yàn)納入算法模型。例如第四代的結(jié)構(gòu)性專家評(píng)估，強(qiáng)調(diào)以其生存的特定社會(huì)環(huán)境、亞文化氛圍為背景，而非孤立地分析和解釋犯罪嫌疑人、被告人的行為特征[10]。

二、在審前羈押程序中建立算法風(fēng)險(xiǎn)評(píng)估的必要性和可行性

（一）建立算法風(fēng)險(xiǎn)評(píng)估的必要性分析

1.建立算法風(fēng)險(xiǎn)評(píng)估有助于提高審前羈押措施適用的精確性。正如“直覺(jué)的判斷被迫讓位于精準(zhǔn)的數(shù)據(jù)分析”[11]，傳統(tǒng)的審前羈押風(fēng)險(xiǎn)評(píng)估的產(chǎn)生更多地基于辦案人員的個(gè)人經(jīng)驗(yàn)，以主觀判斷為主，但是以算法為核心的風(fēng)險(xiǎn)評(píng)估是建立在大量數(shù)據(jù)分析基礎(chǔ)上的量化風(fēng)險(xiǎn)評(píng)估。在我國(guó)司法實(shí)踐中，不管是針對(duì)未成年人還是成年人，審前羈押措施都有濫用之勢(shì)，在我國(guó)目前的法律框架下，對(duì)于逮捕社會(huì)危險(xiǎn)性的審查主要根據(jù)現(xiàn)有掌握的材料和辦案的經(jīng)驗(yàn)進(jìn)行主觀判斷。此外，是否羈押往往還受到社會(huì)輿論的影響，在社會(huì)公眾樸素的法律觀念中，觸犯重罪即需要逮捕，以輿論關(guān)注的少年涉嫌強(qiáng)奸少女后被取保候?qū)徱话笧槔鐣?huì)輿論認(rèn)為一個(gè)犯了強(qiáng)奸罪的未成年人由羈押變更為取保候?qū)彶缓侠?，在公眾的普遍觀念里，觸犯了強(qiáng)奸等重罪經(jīng)應(yīng)該逮捕，變更強(qiáng)制措施就是于法無(wú)據(jù)[12]。但是否逮捕不僅僅需要證據(jù)和刑罰條件，還要審查判斷犯罪嫌疑人的社會(huì)危險(xiǎn)性。值得注意的是社會(huì)危險(xiǎn)性的判斷是對(duì)未然的一個(gè)判斷，不能只靠主觀經(jīng)驗(yàn)，構(gòu)建一種相對(duì)模式化、符合實(shí)踐需求的審查逮捕社會(huì)危險(xiǎn)性評(píng)估量化模型是必要的，對(duì)于辦案人員準(zhǔn)確把握逮捕條件，提高逮捕措施適用的準(zhǔn)確性具有重要的參考價(jià)值。雖然，利用算法評(píng)估所得出的結(jié)論雖然不能做到百分之百的精準(zhǔn)，但采用量化分析，可以為辦案人員在判斷逮捕必要性提供客觀定量的標(biāo)準(zhǔn)，為檢察官做出是否批準(zhǔn)逮捕給出定量的數(shù)據(jù)參考。

2.建立算法風(fēng)險(xiǎn)評(píng)估有利于降低審前羈押率，貫徹羈押例外原則。根據(jù)刑事司法所秉持的無(wú)罪推定和國(guó)際通行的羈押例外原則，為保護(hù)犯罪嫌疑人的人權(quán)，審前非羈押應(yīng)該是常態(tài)，對(duì)犯罪嫌疑人、被告人人身自由進(jìn)行限制和剝奪應(yīng)該是特殊情況下的例外選擇?！豆駲?quán)利與政治權(quán)利國(guó)際公約》第9條第3款明確規(guī)定“等候?qū)徟械娜耸鼙O(jiān)禁不應(yīng)作為一般規(guī)則，但可規(guī)定釋放時(shí)應(yīng)保證在司法程序的任何其他階段出席審判，并在必要時(shí)報(bào)到聽(tīng)候執(zhí)行判決?！痹趯徢俺绦蛳鄬?duì)完善的英美國(guó)家最先開(kāi)始關(guān)注在審前釋放程序中引入以算法風(fēng)險(xiǎn)評(píng)估來(lái)預(yù)測(cè)犯罪嫌疑人是否會(huì)在開(kāi)庭時(shí)順利出庭，是否會(huì)再次犯罪等的可能性。以未成年人刑事司法為例，自1992年起，美國(guó)安妮凱西基金會(huì)發(fā)起了“未成年人羈押替代倡議”，該倡議主張正確使用數(shù)據(jù)，系統(tǒng)地診斷和評(píng)估未成年人審前羈押的條件和標(biāo)準(zhǔn)，建立數(shù)據(jù)模型，以取代主觀標(biāo)準(zhǔn)，使得所有未成年人審前羈押的審查都有據(jù)可查，該倡議有效降低了審前羈押率，是美國(guó)少年司法改革最成功的舉措之一。

3.建立算法風(fēng)險(xiǎn)評(píng)估能有效抑制司法人員的主觀隨意性，提高司法效率。建立算法風(fēng)險(xiǎn)評(píng)估是對(duì)執(zhí)法者自由裁量權(quán)的一個(gè)限制。有自由就需要有限制，執(zhí)法者的自由裁量權(quán)過(guò)大且缺乏適當(dāng)?shù)南拗埔彩窃斐赡壳八痉▽?shí)踐中羈押普遍適用的一個(gè)原因。不管是國(guó)外還是國(guó)內(nèi)，逮捕的社會(huì)危險(xiǎn)性集中體現(xiàn)在是否能保障訴訟程序的順利進(jìn)行以及犯罪嫌疑人的再犯可能性的高低。美國(guó)全國(guó)經(jīng)濟(jì)研究所一份最新研究報(bào)告顯示，人工智能軟件比法官更準(zhǔn)確地預(yù)測(cè)犯罪嫌疑人釋放后的行為，他們預(yù)計(jì)算法風(fēng)險(xiǎn)評(píng)估可將被告人等候?qū)徟械臅r(shí)間縮25%左右[13]。此外，在我國(guó)人少案多的情況下，限制辦案人員的自由裁量權(quán)，可以減輕辦案人員的辦案壓力，減少工作中不必要因素的影響，在實(shí)現(xiàn)司法目的的同時(shí)，提高辦案效率。

（二）建立算法風(fēng)險(xiǎn)評(píng)估的可行性分析

1.海量數(shù)據(jù)的占有為計(jì)算機(jī)法律語(yǔ)料庫(kù)的建立奠定了基礎(chǔ)。我們身處在一個(gè)到處充斥著數(shù)據(jù)的時(shí)代，我們每天都在生產(chǎn)著數(shù)據(jù)，這些數(shù)據(jù)也源源不斷的出現(xiàn)在政府或者商業(yè)機(jī)構(gòu)的數(shù)據(jù)庫(kù)里。隨著時(shí)代的發(fā)展，以大數(shù)據(jù)為基礎(chǔ)的算法介入司法，人類從以往的經(jīng)驗(yàn)判斷轉(zhuǎn)向算法判斷，逐漸成為人類利用已有的數(shù)據(jù)測(cè)量、記錄和分析現(xiàn)有制度的新方法。鑲嵌理論認(rèn)為，單個(gè)分散的數(shù)據(jù)或者沒(méi)有很大的價(jià)值，但是利用科學(xué)統(tǒng)計(jì)原理，將分散的信息組合起來(lái)，則可能產(chǎn)生不可估量的整體價(jià)值[14]。我國(guó)司法新一輪司法改革基礎(chǔ)信息化建設(shè)提供了大量的數(shù)據(jù)樣本，通過(guò)專業(yè)人員對(duì)數(shù)據(jù)的分析和處理，建立算法模型，將法律規(guī)定、案例中的自然語(yǔ)言、法律概念以及推理規(guī)則翻譯成機(jī)器語(yǔ)言，標(biāo)準(zhǔn)化統(tǒng)一的海量數(shù)據(jù)使得開(kāi)發(fā)人工智能風(fēng)險(xiǎn)評(píng)估工具成為了可能。

2.科技的發(fā)展為智能算法模擬法律裁判者的法律推理提供了必要的技術(shù)條件。人工智能AlphaGo戰(zhàn)勝圍棋高手開(kāi)啟了新一輪技術(shù)革命，智能產(chǎn)品人臉識(shí)別、智能推送等開(kāi)始滲透人類生活的方方面面。人工智能與法律結(jié)合的難點(diǎn)如何明確裁量因素、模擬裁判者的裁量過(guò)程建立專家算法模型，需要專業(yè)技術(shù)人員在司法人員以及其他學(xué)科人員的配合下對(duì)數(shù)據(jù)進(jìn)行大規(guī)模的統(tǒng)計(jì)分析，使計(jì)算機(jī)深入學(xué)習(xí)這一過(guò)程。貝葉斯網(wǎng)絡(luò)、語(yǔ)義技術(shù)、向量空間模型、本體論、認(rèn)知神經(jīng)科學(xué)等科研成果的出現(xiàn)促進(jìn)了計(jì)算機(jī)深度學(xué)習(xí)的發(fā)展，提高了法律人工智能產(chǎn)品的實(shí)用性和準(zhǔn)確性，其中貝葉斯網(wǎng)絡(luò)用于證據(jù)審查人工智能產(chǎn)品研發(fā)，將不同情況證據(jù)關(guān)系、證據(jù)推定和證明力轉(zhuǎn)化為數(shù)值，提高審查結(jié)果的客觀性[15]。算法風(fēng)險(xiǎn)評(píng)估模型是模糊數(shù)學(xué)應(yīng)用，其利用已有的變量信息來(lái)推斷其他的概率信息，根據(jù)所掌握的犯罪嫌疑人的信息對(duì)其社會(huì)危險(xiǎn)性進(jìn)行評(píng)估，并通過(guò)計(jì)算機(jī)深度學(xué)習(xí)不斷完善。

3.官方和市場(chǎng)的雙重驅(qū)動(dòng)為算法風(fēng)險(xiǎn)評(píng)估的建構(gòu)營(yíng)造了良好的外部環(huán)境。官方層面，自2016年中辦國(guó)辦印發(fā)的《國(guó)家信息化發(fā)展戰(zhàn)略綱要》中，將“智慧法院”納入國(guó)家信息化發(fā)展戰(zhàn)略。2017年7月8日，國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》提出推動(dòng)社會(huì)治理的智能化，促進(jìn)人工智能司法裁判中的應(yīng)用，實(shí)現(xiàn)司法裁判的智能化。全國(guó)司法系統(tǒng)自上而下開(kāi)始司法智能化的探索，司法輔助系統(tǒng)的研發(fā)大大提高了公安、檢察官、法官等辦理案件的效率，對(duì)于推進(jìn)以審判為中心的司法體制改革也有助力。此外，在市場(chǎng)利益的驅(qū)動(dòng)下，公司、律師等也投入智能司法的研發(fā)中，例如，北京華宇元典信息服務(wù)有限公司，華宇元典致力于法律智能領(lǐng)域，研發(fā)智能輔助產(chǎn)品，依托數(shù)據(jù)智能，將法律與科技深度融合。

三、在審前羈押程序中建立算法風(fēng)險(xiǎn)評(píng)估的局限及其克服

（一）建立算法風(fēng)險(xiǎn)評(píng)估的局限

1.算法黑箱與刑事正當(dāng)程序。刑事程序的正當(dāng)性要求法律具有可預(yù)測(cè)性和確定性，具體是指人們對(duì)行使權(quán)利而產(chǎn)生的結(jié)果作為正當(dāng)性的東西加以接受，質(zhì)言之，人們接受一個(gè)裁判結(jié)果是因?yàn)槠涑绦蛘?dāng)。但是“算法黑箱”的存在與刑事程序的正當(dāng)性有著天然的沖突，算法風(fēng)險(xiǎn)評(píng)估具有預(yù)先編制、不對(duì)外開(kāi)放、相對(duì)確定等特點(diǎn)，從輸入數(shù)據(jù)到產(chǎn)生模型，計(jì)算機(jī)基于對(duì)經(jīng)驗(yàn)數(shù)據(jù)的自動(dòng)學(xué)習(xí)生成了高級(jí)的認(rèn)知結(jié)果，這種機(jī)器學(xué)習(xí)的過(guò)程是不透明的，在公眾和在整個(gè)司法過(guò)程中也不透明，因此普通公眾不會(huì)了解算法的建構(gòu)原理，自然也就不知其正當(dāng)性何在。以美國(guó)魯米斯上訴最高法院一案為例，魯米斯認(rèn)為初審法院的法官采納了州政府罪犯改造部門提交的量刑前調(diào)查報(bào)告（PSI），該報(bào)告中包含再犯風(fēng)險(xiǎn)評(píng)估內(nèi)容COMPAS（Correctional Offender Management Profiling for Alternative Sanctions）它是根據(jù)對(duì)犯罪者的訪談和來(lái)自司法部門的信息來(lái)評(píng)估再犯的風(fēng)險(xiǎn)，侵犯了他的正當(dāng)程序權(quán)利，COMPAS算法的提供者Northpointe公司以算法為商業(yè)秘密由，拒絕公開(kāi)算法原理。雖然威斯康星州最高法院最終否定了魯米斯的正當(dāng)程序和平等權(quán)主張，但是美國(guó)大法官也提醒法官警惕使用COMPAS算法所可能帶來(lái)的風(fēng)險(xiǎn)[16]。

算法偏見(jiàn)是我們不能回避的問(wèn)題，算法風(fēng)險(xiǎn)評(píng)估的基礎(chǔ)是數(shù)據(jù)，數(shù)據(jù)的來(lái)源、數(shù)據(jù)的內(nèi)容有可能會(huì)損害程序正義的價(jià)值。盡管數(shù)據(jù)無(wú)罪，但是不正當(dāng)形式取得和表達(dá)不正當(dāng)內(nèi)容的數(shù)據(jù)則有可能會(huì)降低犯罪嫌疑人或者公眾對(duì)算法風(fēng)險(xiǎn)評(píng)估結(jié)果的接受。算法中涉及到性別、地域、疾病、職業(yè)等信息，在中國(guó)語(yǔ)境下都有可能會(huì)導(dǎo)致歧視。例如“無(wú)業(yè)、在本市無(wú)固定住所、外地人口”與“企圖自殺或逃跑”對(duì)應(yīng)；“不和解、不賠償”與“可能對(duì)被害人實(shí)施打擊報(bào)復(fù)”對(duì)應(yīng)；“有前科、由賭博、吸毒惡行、無(wú)生活來(lái)源”與“可能實(shí)施新的犯罪”對(duì)應(yīng)。如前文提到了司法實(shí)踐中總結(jié)出的有無(wú)社會(huì)危險(xiǎn)性的模式化組合“可能判處徒刑以上刑罰＋外來(lái)人員是有社會(huì)危險(xiǎn)性”中就包含有對(duì)“農(nóng)民工”等外來(lái)人員的隱形歧視，算法的研發(fā)者也可能把自身的某些歧視寫(xiě)入算法之中，比如對(duì)艾滋病、甲肝乙肝等傳染病患者的歧視，或者對(duì)于福建莆田、浙江溫州人等地區(qū)歧視等。算法必要包含價(jià)值判斷，價(jià)值中立的平等算法是不存在的，我們需要時(shí)刻反省和重思其背后的倫理基礎(chǔ)，避免某些不正當(dāng)?shù)乃惴ā?/p>

2.算法評(píng)估與證據(jù)裁判原則。據(jù)裁判原則是法治和理性對(duì)刑事裁判的必然要求。逮捕是一項(xiàng)涉及公民人身權(quán)利的重要措施，逮捕的條件理應(yīng)符合證據(jù)裁判的要求，社會(huì)危險(xiǎn)性的審查亦然。但是算法風(fēng)險(xiǎn)評(píng)估與證據(jù)裁判原則存在兩個(gè)隱含的矛盾：一是算法風(fēng)險(xiǎn)評(píng)估的因素本身的真實(shí)性和準(zhǔn)確性有待驗(yàn)證，作為風(fēng)險(xiǎn)因素的很多本身就是需要用證據(jù)加以證明的，比如犯罪嫌疑人以犯罪所得為主要生活來(lái)源或者犯罪嫌疑人有吸毒、賭博等惡習(xí)，需要公安機(jī)關(guān)提供相應(yīng)的證據(jù)加以證明。在算法的建構(gòu)過(guò)程中，如何建立證據(jù)鏈來(lái)證明風(fēng)險(xiǎn)因素的真實(shí)性和準(zhǔn)確性是值得關(guān)注的問(wèn)題，目前學(xué)界尚未對(duì)逮捕條件中社會(huì)危險(xiǎn)性的證明模式形成統(tǒng)一定論，如何讓機(jī)器來(lái)深度學(xué)習(xí)這一裁量過(guò)程也是該技術(shù)發(fā)展的關(guān)鍵問(wèn)題。二是風(fēng)險(xiǎn)評(píng)估結(jié)果的屬性不明確，有學(xué)者認(rèn)為應(yīng)該承認(rèn)專業(yè)性風(fēng)險(xiǎn)評(píng)估的證據(jù)能力，彌補(bǔ)檢察機(jī)關(guān)、偵查機(jī)關(guān)以及律師等在社會(huì)危險(xiǎn)性判斷的專業(yè)不足[17]。還有學(xué)者認(rèn)為法律AI（算法風(fēng)險(xiǎn)評(píng)估）實(shí)質(zhì)上是另一種形式的經(jīng)驗(yàn)法則，它可能包含犯罪嫌疑人個(gè)人信息、犯罪歷史、個(gè)人品格、生活經(jīng)歷等，算法模型的建立主要是基于經(jīng)驗(yàn)法則，風(fēng)險(xiǎn)評(píng)估的結(jié)果應(yīng)該視為一種“經(jīng)驗(yàn)證據(jù)”[18]。還有學(xué)者認(rèn)為算法風(fēng)險(xiǎn)評(píng)估的結(jié)果可以作為品格證據(jù)運(yùn)用到審前程序中，品格證據(jù)具備反映犯罪嫌疑人、被告人在涉案前的一貫表現(xiàn)的功能，會(huì)對(duì)其是否選擇逃避刑事追訴、干擾刑事訴訟進(jìn)程和在等候?qū)徟衅陂g再度犯罪產(chǎn)生基礎(chǔ)而深遠(yuǎn)的影響。筆者認(rèn)為，在逮捕審查訴訟化的過(guò)程中，算法風(fēng)險(xiǎn)評(píng)估的引入勢(shì)必需要對(duì)其法律屬性予以明確，并設(shè)置相應(yīng)的程序保障其效果的實(shí)施。

3.算法判斷與執(zhí)法者的自由裁量權(quán)。算法風(fēng)險(xiǎn)評(píng)估的運(yùn)用一方面可以對(duì)自由裁量權(quán)進(jìn)行限縮，另一方面又有可能會(huì)限制使用者的自由裁量，隱含的是算法判斷與執(zhí)法者自由裁量權(quán)的界限問(wèn)題。目前在司法領(lǐng)域應(yīng)用的人工智能產(chǎn)品大多只是封閉的“專家系統(tǒng)”，而不是有自主學(xué)習(xí)能力的“人工智能”，事實(shí)上，關(guān)于犯罪嫌疑人是否有逃避訴訟、是否有再犯的可能性的評(píng)估是一個(gè)復(fù)雜的過(guò)程，不能完全放棄執(zhí)法者的自由裁量權(quán)。從英美法系風(fēng)險(xiǎn)評(píng)估的發(fā)展歷史來(lái)看，第一代的風(fēng)險(xiǎn)評(píng)估是一種非結(jié)構(gòu)性的判斷，主要是基于專業(yè)人員的主觀判斷的臨床評(píng)估，“自由裁量”的范圍過(guò)大；第二代評(píng)估工具基于一系列個(gè)體評(píng)估條目的精算風(fēng)險(xiǎn)評(píng)估，但是涉及的風(fēng)險(xiǎn)因素多是靜態(tài)的、不變的，“自由裁量”范圍過(guò)于狹窄；第三代和第四代評(píng)估工具在兩者之間需求平衡，將靜態(tài)風(fēng)險(xiǎn)因素和動(dòng)態(tài)風(fēng)險(xiǎn)因素結(jié)合，且第四代評(píng)估工具不僅關(guān)注危險(xiǎn)評(píng)估、需要評(píng)估而且與個(gè)案管理相聯(lián)結(jié)，在評(píng)估基礎(chǔ)上向管理人員提供干預(yù)的結(jié)構(gòu)性計(jì)劃。由此可以看出，算法風(fēng)險(xiǎn)評(píng)估不是單純的技術(shù)更迭，在介入刑事司法程序過(guò)程中，必然與執(zhí)法者的自由裁量權(quán)存在沖突，算法判斷和執(zhí)法人員綜合自由裁量?jī)烧卟豢善珡U其一，在接受技術(shù)便捷的同時(shí)，還需重視自由裁量權(quán)的重要價(jià)值。

以英國(guó)早期探索為例，英格蘭少年司法委員會(huì)在最初推行風(fēng)險(xiǎn)評(píng)估工具Asset的過(guò)程中，有學(xué)者質(zhì)疑評(píng)估工作無(wú)法滿足個(gè)性需求，會(huì)使得專業(yè)人員的自由裁量被計(jì)算機(jī)替代，將專業(yè)知識(shí)商品化。也有學(xué)者認(rèn)為智能化工具對(duì)司法實(shí)踐的真正影響取決于其被運(yùn)用的方式，建議將管理問(wèn)責(zé)與裁量權(quán)相結(jié)合，在引入技術(shù)性工具的同時(shí)，建立高責(zé)任和高自由裁量的最佳實(shí)踐模式[19]，也就是重視執(zhí)法者的自由裁量權(quán)，建立執(zhí)法者的高度責(zé)任制。筆者認(rèn)為，科技的高速發(fā)展帶來(lái)的技術(shù)變革與法律必然發(fā)生沖突，在運(yùn)用科技技術(shù)服務(wù)法律的同時(shí)需要明確界限，算法風(fēng)險(xiǎn)評(píng)估誠(chéng)然可以審查和預(yù)測(cè)犯罪嫌疑人的社會(huì)危險(xiǎn)性，但如何根據(jù)評(píng)估結(jié)果作出準(zhǔn)確的逮捕或者釋放決定以及制定個(gè)性化的釋放監(jiān)管方案才是最關(guān)鍵的問(wèn)題，最終需要執(zhí)法者專業(yè)的自由裁量和判斷，否則再精確的風(fēng)險(xiǎn)評(píng)估工具也無(wú)法做到真正的解決我國(guó)審前羈押的問(wèn)題。

（二）算法風(fēng)險(xiǎn)評(píng)估的可能規(guī)制路徑

1.明確算法風(fēng)險(xiǎn)評(píng)估的程序公開(kāi)。公開(kāi)算法是刑事程序公開(kāi)原則的基本要求，關(guān)鍵在于加強(qiáng)對(duì)算法風(fēng)險(xiǎn)評(píng)估的數(shù)據(jù)來(lái)源的監(jiān)督審查。筆者認(rèn)為，以立法方式，對(duì)算法的應(yīng)用采取必要的法律監(jiān)管，是一種較為便捷的防范算法黑箱可能或潛在風(fēng)險(xiǎn)的措施。雖然數(shù)據(jù)無(wú)罪，但是帶有偏見(jiàn)的數(shù)據(jù)會(huì)導(dǎo)致非正義的發(fā)生，當(dāng)人工智能技術(shù)高度發(fā)達(dá)，即高級(jí)智能技術(shù)、超級(jí)智能技術(shù)發(fā)展到可以生成新規(guī)則的階段，應(yīng)當(dāng)制定并實(shí)行有效的制度，對(duì)規(guī)則生成、經(jīng)驗(yàn)積累、技能傳承等方面的數(shù)據(jù)予以嚴(yán)格控制，確保數(shù)據(jù)源于司法官的判斷，而非純粹來(lái)自智能系統(tǒng)；確保算法涉及的數(shù)據(jù)來(lái)源、數(shù)據(jù)類型、數(shù)學(xué)建模等公開(kāi)可供檢查。簡(jiǎn)言之，凡是與裁量性判斷有關(guān)的數(shù)據(jù)，必須保持刑事執(zhí)法者的主體裁量地位，算法風(fēng)險(xiǎn)評(píng)估模型處于輔助地位且必須滿足相對(duì)性、可靠性、適度性和可控性的要求。

2.在算法風(fēng)險(xiǎn)評(píng)估中貫徹證據(jù)裁判原則，加強(qiáng)程序?qū)彶椤ｋm然我國(guó)目前風(fēng)險(xiǎn)評(píng)估的軟件還處于嘗試階段，但是程序?qū)彶橐?guī)范化對(duì)于保障算法風(fēng)險(xiǎn)評(píng)估使用的正當(dāng)性和科學(xué)性至關(guān)重要。貫徹證據(jù)裁判原則，在算法風(fēng)險(xiǎn)評(píng)估的建構(gòu)中，將社會(huì)危險(xiǎn)性條件進(jìn)行細(xì)化，堅(jiān)持以證據(jù)為核心，且不能僅僅依靠偵查機(jī)關(guān)收集的證據(jù)，以防止風(fēng)險(xiǎn)評(píng)估的偏向性。建議參照西方國(guó)家采取中立第三方評(píng)估的方式提高評(píng)估的專業(yè)性，并設(shè)置專業(yè)的緩刑官對(duì)評(píng)估結(jié)果進(jìn)行專業(yè)判斷，將技術(shù)與專業(yè)人員的自由裁量相結(jié)合。此外，加強(qiáng)算法風(fēng)險(xiǎn)評(píng)估程序?qū)彶?，?guī)范算法風(fēng)險(xiǎn)評(píng)估的研發(fā)流程和應(yīng)用流程。為了使得算法模型更加科學(xué)，需要相關(guān)利益方，包括公安機(jī)關(guān)、檢察機(jī)關(guān)、法院以及技術(shù)部門等的通力合作。一方面可以在事前加強(qiáng)對(duì)研發(fā)過(guò)程中研發(fā)人員的倫理審查，確保確保該類人員具有從事相關(guān)行業(yè)的職業(yè)倫理底線；另一方面，事后對(duì)相關(guān)智能產(chǎn)品進(jìn)行核查，以確保流通中的智能產(chǎn)品不存在任何倫理問(wèn)題。比如，美國(guó)未成年人審前羈押風(fēng)險(xiǎn)評(píng)估工具的研發(fā)，從樣本選擇、關(guān)鍵字輸入到建立模型，不斷的實(shí)驗(yàn)和修正，再到試點(diǎn)監(jiān)測(cè)評(píng)估，到最后的實(shí)地使用，有著流程化的風(fēng)險(xiǎn)評(píng)估的流程。

3.加強(qiáng)算法風(fēng)險(xiǎn)評(píng)估的程序救濟(jì)。在審前羈押程序，犯罪嫌疑人、被告人面對(duì)的是強(qiáng)大的國(guó)家機(jī)關(guān)，算法風(fēng)險(xiǎn)評(píng)估數(shù)據(jù)和算法本質(zhì)上也是國(guó)家權(quán)力的另一種形式的延伸。為了保障犯罪嫌疑人、被告人的權(quán)利，我們必須明確其程序救濟(jì)的權(quán)利。雖然我國(guó)刑事訴訟法規(guī)定了羈押必要性審查制度，有學(xué)者認(rèn)為不應(yīng)以羈押必要性審查替代逮捕救濟(jì)的立法缺失[20]，因?yàn)榱b押必要性審查也需要以社會(huì)危險(xiǎn)性評(píng)估結(jié)果為依據(jù)，那對(duì)算法評(píng)估結(jié)果的救濟(jì)就不能僅僅依靠檢察監(jiān)管的偵查監(jiān)督，還需要給與訴訟當(dāng)事人權(quán)利救濟(jì)的直接途徑。筆者認(rèn)為如果算法風(fēng)險(xiǎn)評(píng)估引入審前羈押領(lǐng)域，對(duì)于算法的審查也應(yīng)該納入羈押必要性審查的范圍，并給予犯罪嫌疑人在羈押必要性審查程序中提出異議的權(quán)利。此外，可以參照民事執(zhí)行領(lǐng)域?qū)Φ谌皆u(píng)估報(bào)告異議時(shí)的做法，設(shè)立一個(gè)專門的審查委員會(huì)，犯罪嫌疑人或者被告人對(duì)算法或者算法風(fēng)險(xiǎn)評(píng)估的結(jié)果有異議的時(shí)候，可以向檢察院提出申請(qǐng)，檢察院由專門的審查委員會(huì)對(duì)算法或者算法風(fēng)險(xiǎn)評(píng)估的結(jié)果進(jìn)行審查，從而起到救濟(jì)的作用。

四、結(jié)語(yǔ)

人工智能在刑事領(lǐng)域的應(yīng)用可能給人類的司法帶來(lái)根本性變革，算法風(fēng)險(xiǎn)評(píng)估可以提高審前羈押審查的規(guī)范性和精確性，但是必須明確其輔助地位，人工智能在涉及權(quán)威性法律判斷的場(chǎng)合只能起輔助作用，不能取代人類作出自動(dòng)化決策，在審前羈押中要達(dá)到犯罪控制和保障人權(quán)的平衡，不能僅僅依靠算法，關(guān)鍵還是司法者的自由裁量，如何界定算法和自由裁量的界限應(yīng)該是我們今后制定程序規(guī)則需要關(guān)注的重點(diǎn)。人工智能可以打開(kāi)我們的視野，提高司法效率，但是司法的終極價(jià)值，比如公平和正義，還是要由司法者來(lái)做最終決策。

[注釋]：

①我國(guó)《刑事訴訟法》規(guī)定的審前羈押制度其實(shí)包括拘留和逮捕，與國(guó)際通行的arrest和detention相區(qū)別不同，我國(guó)刑訴中逮捕既是抓捕也意味著羈押狀態(tài)。為保證論述的集中性，本文對(duì)我國(guó)審前羈押程序的論述主要圍繞逮捕制度展開(kāi)。

②對(duì)有證據(jù)證明有犯罪事實(shí)，可能判處徒刑以上刑罰的犯罪嫌疑人、被告人，采取取保候?qū)徤胁蛔阋苑乐拱l(fā)生下列社會(huì)危險(xiǎn)性的，應(yīng)當(dāng)予以逮捕：（一）可能實(shí)施新的犯罪的；（二）有危害國(guó)家安全、公共安全或者社會(huì)秩序的現(xiàn)實(shí)危險(xiǎn)的；（三）可能毀滅、偽造證據(jù)，干擾證人作證或者串供的；（四）可能對(duì)被害人、舉報(bào)人、控告人實(shí)施打擊報(bào)復(fù)的；（五）企圖自殺或者逃跑的。