刑事審判中人工智能的進與退

陳思桐

（武漢大學(xué)法學(xué)院，湖北 武漢 430072）

人工智能有兩大主要目標(biāo)：一是技術(shù)層面的，利用計算機完成有益的事情；另一個是科學(xué)層面的，利用人工智能概念和模型，幫助回答有關(guān)人類和其他生物體的問題。[1]人工智能要提供有益的智能①阿西洛馬會議達成了23 條人工智能原則，第1 條規(guī)定人工智能研究的目標(biāo)是“建立有益的智能（beneficial AI），而不是無向的智能”，確認了“有益于人類”是人工智能發(fā)展的目標(biāo)。詳見皮勇：《人工智能刑事法治的基本問題》，載《比較法研究》2018 年第5 期。，協(xié)助人類提高效率，完成有益的事情。在刑事司法領(lǐng)域，智能法院的建設(shè)已經(jīng)如火如荼。我們對人工智能在刑事司法中運用的限度，一方面感到迷茫，另一方面感到忐忑，原因在于我們不能否認人工智能可以深度賦能刑事司法，但又憂慮失去社會公正最后一道防線的掌控權(quán)。刑事審判是刑事訴訟中最為關(guān)鍵的一個環(huán)節(jié)，關(guān)系到法官對整個刑事案件的事實認定、證據(jù)采認、法律適用以及定罪量刑。在刑法的層面思考，如何將人工智能提供的便利最優(yōu)化，協(xié)助司法人員公正司法，是本文討論的出發(fā)點。

一、人工智能：輔助刑事審判的“新貴”

不能否認的、也不能逆轉(zhuǎn)的趨勢是，人工智能已經(jīng)成為輔助刑事審判的“新貴”。我國不少地方法院已經(jīng)開始嘗試人工智能與司法審判的對接，有一些新興嘗試已經(jīng)走在了這場“人工智能浪潮”的前沿。法院智能化與信息化同時成為司法界與科學(xué)研究領(lǐng)域的新興課題。

人工智能（Artificial Intelligence）又稱為機器智能或計算機智能，其中“智能”的含義是指人為制造的或者由機器和計算機表現(xiàn)出來的一種智能②像許多新興學(xué)科一樣，人工智能至今尚無統(tǒng)一的定義，不同科學(xué)或?qū)W科背景的學(xué)者對人工智能有不同的理解，這些理解分別為符號主義、連接主義和行為主義等。具體見蔡自興：《人工智能及其應(yīng)用》（第5 版），清華大學(xué)出版社2016 年版，2-3 頁。，是人的目的行為與理性思維相結(jié)合的產(chǎn)物。而“人工”一詞則將“人工智能”區(qū)別于“自然智能”，特別是人類智能。人工智能的研究目的是建立最接近人類認知水平的智能模型，模擬人類的預(yù)測、學(xué)習(xí)、推論和溝通等活動。[2]按照人工智能實力的強弱，人工智能可分為弱人工智能、強人工智能和超人工智能。我國目前處于弱人工智能發(fā)展階段，更可能在這一階段實現(xiàn)趕超人工智能研究發(fā)達國家，適宜的刑事法治環(huán)境是實現(xiàn)這一目標(biāo)的重要條件。[3]以現(xiàn)有技術(shù)水平為基礎(chǔ)，適當(dāng)展望未來，是刑法學(xué)思考如何與人工智能技術(shù)迅猛發(fā)展態(tài)勢相接軌的應(yīng)有姿態(tài)。

（一）人工智能在刑事司法中的發(fā)展現(xiàn)狀

最高人民法院2016 年、2017 年的工作報告中均提出“加快建設(shè)智慧法院”的工作要求，2017年工作報告中總結(jié)了“開發(fā)智慧法院導(dǎo)航系統(tǒng)”“深入推進智慧法院建設(shè)”“以網(wǎng)絡(luò)化、陽光化、智能化為特征的智慧法院初步形成”等內(nèi)容。智慧法院的本質(zhì)是審判體系和審判能力的現(xiàn)代化，核心是人的智能現(xiàn)代化。[4]將人工智能技術(shù)運用到刑事司法審判領(lǐng)域，是人的智能現(xiàn)代化向刑事審判領(lǐng)域延伸的表征。

本文通過梳理最高人民法院信息中心官方微信平臺“智慧法院進行時”中發(fā)布的全國各地法院的智慧法院建設(shè)報告文章，通過分析得出，人工智能在刑事司法審判中的運用呈現(xiàn)縱深化發(fā)展趨勢，并非流于形式，也非“空口號式”發(fā)展。部分地方法院已經(jīng)走在這場人工智能浪潮的前線，上海高院的刑事案件智能輔助辦案系統(tǒng)通過運用深度神經(jīng)網(wǎng)絡(luò)和圖文識別技術(shù)（OCR），進行智能識別、定位和信息提取，實現(xiàn)了對單一證據(jù)的自動校驗，目的在于建立統(tǒng)一的刑事證據(jù)標(biāo)準(zhǔn)，推進以審判為中心的訴訟制度。[5]浙江省玉環(huán)法院研發(fā)的“一體化辦案系統(tǒng)e 助理”，實現(xiàn)了刑事案件從立案到歸檔全流程電子卷宗深度引用的數(shù)據(jù)融合與對接。①“e 助理”系統(tǒng)內(nèi)的部分對于刑事電子卷宗智能化應(yīng)用功能在全國范圍內(nèi)尚屬首創(chuàng)，利用“阿里飛狐”人工智能技術(shù)，建成多個場景司法輔助機器人（RPA），即通過機器人實現(xiàn)并代替人完成重復(fù)性的任務(wù)，主要針對刑事審判流程各個環(huán)節(jié)進行智能化改造，實現(xiàn)一鍵立案、一鍵送達、一鍵調(diào)警、一鍵結(jié)案、一鍵生效執(zhí)行、一鍵轉(zhuǎn)檔、一鍵文書上網(wǎng)等功能，使電子卷宗的深度應(yīng)用更加智能化。詳見陳紹青：《刑事案件難辦理？浙江玉環(huán)法院“e 助理”再添“羽翼”！》，https：//mp.weixin.qq.com/s/VwuTRl8A7uXpXUXnP5J-3A。河南鄭州法院智能系統(tǒng)自動、及時、準(zhǔn)確推送與案件相關(guān)的法律法規(guī)、司法解釋、參照案例、計算工具、量刑標(biāo)準(zhǔn)等。[6]江西撫州法院“訴訟風(fēng)險評估”“智能訴狀生成”服務(wù)一體機基于大數(shù)據(jù)和人工智能完成海量起訴狀和案件裁判分析、整理和提煉，形成各類案件訴狀要素、訴訟風(fēng)險評估要素。②當(dāng)事人可以通過回答引導(dǎo)問卷中的問題，就可以分別獲得高效、格式化、免費的自助訴狀生成服務(wù)和訴訟風(fēng)險咨詢服務(wù)。周陽、元春華、徐敏：《江西撫州“智慧法院”成果亮眼！指尖訴訟走進尋常百姓》，https：//mp.weixin.qq.com/s/zkhz3a S23NwEftEKcmV_Xg。由于各個地方的經(jīng)濟發(fā)展和科技水平不一致，各地法院發(fā)展人工智能輔助審判系統(tǒng)的進度和深度亦差別較大，總體上看，均利用了基于大數(shù)據(jù)前提下的人工智能深度學(xué)習(xí)的能力。

綜上觀之，本文認為可按照不同功能將人工智能在刑事司法審判中的運用分為四方面，第一是銜接與分流，即隨機分案、訴調(diào)對接、繁簡分流；[7]第二是辨識與審核，即提供計算機視覺，以及圖像和人臉識別技術(shù)，輔助實現(xiàn)訴訟主體身份驗證；[8]通過機器學(xué)習(xí)等技術(shù)提取和校驗單一證據(jù)；第三是預(yù)測與評估，類案推送，對案件的判決結(jié)果進行預(yù)測，為當(dāng)事人提供法律咨詢和訴訟風(fēng)險咨詢；第四是轉(zhuǎn)寫與生成，庭審語音轉(zhuǎn)文字及司法文書智能生成。

（二）人工智能在刑事審判運用中的憂患

人工智能的運用究竟能輔助司法審判達到何種程度，實屬未來可期，尤其在刑事審判領(lǐng)域，地方法院紛紛加入這場科技浪潮，憂患意識更能促進我們對人工智能輔助刑事司法審判的理性認識。本文認為，人工智能在刑事審判中的運用存在以下的憂患。

1.司法公正是否能夠容忍算法黑箱③在人工智能輸入的數(shù)據(jù)和其輸出的答案之間，存在著我們無法洞悉的“隱層”，它被稱為“黑箱”（blackbox）。這里的“黑箱”并不只意味著不能觀察，還意味著即使計算機試圖向我們解釋，我們也無法理解。參見許可：《人工智能的算法黑箱與數(shù)據(jù)正義》，載《社會科學(xué)報》2018 年3 月29 日第6 版。的存在。首先，算法黑箱的不透明性是否具有正當(dāng)性。觀察目前學(xué)界的討論，算法黑箱面臨眾多否定和質(zhì)疑。中間的分析論證過程不可見，這種機器學(xué)習(xí)算法的不透明性挑戰(zhàn)了法律的可預(yù)測性和確定性。[9]人對客觀世界的認識是一個逐步清晰化、明朗化的過程，在這一過程中，客觀世界的可知性和可解釋性讓我們更加堅定自身的角色定位。對于作為自然角色與社會角色相融合的個體而言，一項政策或一套制度如果能夠被合理解釋，國民更加能夠從內(nèi)心去接受和信服?！霸谛?shù)據(jù)時代，很難證明由直覺而來的因果聯(lián)系是錯誤的。將來大數(shù)據(jù)之間的相關(guān)關(guān)系，將經(jīng)常會用來證明直覺的因果聯(lián)系是錯誤的。最終也能表明，統(tǒng)計關(guān)系也不存在多少真實的因果關(guān)系。大數(shù)據(jù)技術(shù)引發(fā)思維變革；應(yīng)更為關(guān)注事務(wù)之間的相關(guān)關(guān)系，而不是探索因果關(guān)系”[10]，智能時代的思維模式并不是傳統(tǒng)的因果關(guān)系，而是相關(guān)關(guān)系。或許這種人工智能時代的新思維會挑戰(zhàn)我們這種傳統(tǒng)的思維范式，但是就目前來看，這種對可解釋性具有強烈需求的思維仍舊是我們最為熟悉和信賴的，重要問題的決策、重要技術(shù)的運行依舊需要具有可解釋性。再者，算法黑箱的正當(dāng)性一旦被承認，甚至僅僅是得到默許，都可能給司法活動帶來極其嚴重的影響。原因在于不可解釋性使得人工智能在權(quán)利義務(wù)的歸屬分配方面會更多地從屬于人工智能開發(fā)團體的內(nèi)部規(guī)則而非國家法律。因此算法黑箱的正當(dāng)性問題會伴隨著人工智能的發(fā)展一次次被擺在司法人員和科技人員面前。于是需要進一步思考的是如果算法黑箱始終伴隨著人工智能的發(fā)展，如何平衡司法的公開透明與算法黑箱的關(guān)系。生產(chǎn)資料之間的信息變得越來越對稱，但作為信息匹配中介的人工智能則越來越不透明，其規(guī)則設(shè)計和運作從屬于用戶甚至開發(fā)者無法理解的秘密狀態(tài)，[11]但確定性是刑法罪刑法定的要求，司法透明是刑事審判程序運作完美和結(jié)果公正的準(zhǔn)則。刑法和人工智能不同，刑法將復(fù)雜的社會現(xiàn)象抽象成一般性的規(guī)則條文，以適用于社會大眾，而非僅為單一個體所制定。法律最本質(zhì)的特征，即“深度不學(xué)習(xí)”。[12]此外，如果強制公開算法的全部代碼以示透明能否真的解決國民對人工智能在刑事審判中運用的疑慮。本文認為算法即使全部公開，也未必能滿足社會大眾對算法可解釋性的需求，而且全部公開可能涉及人工智能開發(fā)企業(yè)的商業(yè)秘密和個人隱私等問題。這也是后文提出設(shè)立禁區(qū)的原因之一。

因此在司法公正零容忍算法黑箱的前提下，我們依舊對算法提出了可解釋性的要求，只有算法具備可解釋性，不至于在發(fā)生誤判結(jié)果的時候產(chǎn)生責(zé)任分配的鴻溝，才能承認其在司法審判中的運用具有正當(dāng)性。

2.基于人工智能系統(tǒng)下的類案推送以及服務(wù)外包的開發(fā)模式如何具有長遠性。2017 年十八屆中央全面深化改革領(lǐng)導(dǎo)小組第38 次會議審議通過《關(guān)于加強法官檢察官正規(guī)化專業(yè)化職業(yè)化建設(shè)全面落實司法責(zé)任制的意見》，第11 條提出“完善智能輔助辦案系統(tǒng)的類案推送等功能”“推廣外包服務(wù)方式”?；谧裱胺擅媲叭巳似降取痹瓌t的刑事政策這一出發(fā)點，以“類案推送”為主要功能的智能輔助審判系統(tǒng)已經(jīng)在司法領(lǐng)域得到應(yīng)用，但真正意義上實現(xiàn)人工智能類案推送仍面臨許多技術(shù)層面和法律層面需要厘清的問題。

類案推送著眼的根本問題在于逐步減少同案不同判與類案不類判的現(xiàn)象，通過發(fā)掘隱藏在眾多類似刑事案件中的共同邏輯，形成統(tǒng)一的定罪標(biāo)準(zhǔn)和量刑規(guī)范，實現(xiàn)司法統(tǒng)一。我國刑事審判中的同案不同判現(xiàn)象并非個例。比如以接受性服務(wù)的方式交易毒品的行為，能否構(gòu)成販賣毒品罪，地方法院確實存在不同的定性。原因在于一方面是法官對販賣毒品罪、對非財產(chǎn)性利益能否作為販賣對價的理解不同，另一方面是地區(qū)毒品犯罪的態(tài)勢不同。更加能體現(xiàn)我國追求司法統(tǒng)一的是案例指導(dǎo)制度，1999 年《人民法院五年改革綱要》即提出將“有適用法律問題的典型案件予以公布，供下級法院審判類似案件時參考”，經(jīng)過10 年的推進，2010 年《最高人民法院案例指導(dǎo)工作的規(guī)定》正式確立中國的案例指導(dǎo)制度，其中指出開展案例指導(dǎo)工作目的在于統(tǒng)一法律適用，維護司法公正。不僅如此，實行案例指導(dǎo)制度的機關(guān)不僅限法院，檢察院和公安機關(guān)也有自身相應(yīng)的檢察指導(dǎo)案例和公安指導(dǎo)案例。類案推送相比于指導(dǎo)性案例來說，官方權(quán)威性不足。且目前各地區(qū)法院有自己的試點，不同的人工智能輔助審判系統(tǒng)研發(fā)公司缺失統(tǒng)一的頂層規(guī)劃與設(shè)計，[13]這使得司法人工智能類案推送系統(tǒng)的發(fā)展呈現(xiàn)各自為政的局面。但如果地區(qū)法院的類案在范圍上有所限制，那推送的類案進行迭代之后，無異于建立起一面無形的網(wǎng)絡(luò)圍墻，法官在使用智能輔助系統(tǒng)類案推送功能的時候只能在自家網(wǎng)絡(luò)圍墻之內(nèi)轉(zhuǎn)悠。類案推送系統(tǒng)目前發(fā)展面臨技術(shù)層面的問題如案例數(shù)據(jù)不充分、推送案例的可參考性不強、來源不夠明晰，尚未能以直觀的形式實現(xiàn)刑法規(guī)范、案件疑難爭議以及法律推理的關(guān)聯(lián)，我們更需要從司法應(yīng)然層面思考，人工智能類案推送在有指導(dǎo)案例制度的前提之下，是具有法律上的指導(dǎo)意義，還是僅具有參考意義？本文認為類案推送研究的目的與指導(dǎo)案例的目的并行不悖，但類案推送的基本案例數(shù)據(jù)需求大，指導(dǎo)性案例的數(shù)量相比之下較少，因此應(yīng)當(dāng)對類案推送的案例進行分級，人工智能系統(tǒng)根據(jù)案例的等級決定推送的順序，指導(dǎo)案例應(yīng)當(dāng)優(yōu)先于其他指導(dǎo)意義有限的案例。

此外，實行外包的開發(fā)方式實際是通過司法系統(tǒng)外部科技因素來緩解司法系統(tǒng)內(nèi)部人工智能研發(fā)水平不足的困境，目的在于為司法機關(guān)簡化開發(fā)項目的復(fù)雜度，使司法活動更加集中化和專業(yè)化。應(yīng)當(dāng)注意到，外包是科技公司與司法部門合作開發(fā)的產(chǎn)物，而開發(fā)活動目前基本是基于委托開發(fā)合同的約束之下進行的，開發(fā)的項目尚且處于一個實驗期，法律法規(guī)尚未對相關(guān)活動作出反應(yīng)。即使將來存在較為完備的監(jiān)管措施，也不能否認外包政策的確讓司法系統(tǒng)由閉合狀態(tài)轉(zhuǎn)變?yōu)榘腴]合半開放狀態(tài)，這也是后文強調(diào)應(yīng)當(dāng)設(shè)立禁區(qū)的原因之一。

因此，類案推送并非對指導(dǎo)案例制度的超越，主要目的不在于實現(xiàn)機械性的“同案同判”“類案類判”，通過類案推送實現(xiàn)司法統(tǒng)一的目標(biāo)依舊任重道遠；外包開發(fā)應(yīng)當(dāng)慎重，避免無形中將刑事審判權(quán)利外放。

3.智能輔助刑事裁判存在不確定性和可解釋風(fēng)險。[14]這種不確定性更加明顯地表現(xiàn)在，人工智能分析的結(jié)論如果提供刑事審判定罪和量刑的參考結(jié)果，需要思考的問題則紛至沓來：該參考結(jié)果的可借鑒度能達到的百分數(shù)如何確定，是否需要統(tǒng)一劃定，是否遵循個別罪名個別標(biāo)準(zhǔn)、類罪名類標(biāo)準(zhǔn)；結(jié)論性裁判意見能否作為案件裁判的合法有效的證據(jù)；[14]智能輔助刑事裁判的判斷結(jié)果在判決書中是否有一席之地，法官在判決書的論證內(nèi)容里是否需要注明采用其分析的緣由，抑或論證不能采用其分析的原因。上述問題均考驗著擁有不確定性的智能輔助審判系統(tǒng)。完全放任、不加管制的開發(fā)將會導(dǎo)致司法實踐完全依賴智能刑事裁判，造成判決書的說理懈怠，人類智能某種程度上讓位于機器智能。

4.刑事審判如何看待人工智能系統(tǒng)預(yù)測審判結(jié)果的偏差率。本文認為首先應(yīng)當(dāng)回答前提問題，即人工智能的存在與發(fā)展究竟是要模仿人的思維，還是追求誤差值為零的結(jié)果。這個問題的答案取決于偏差的存在是否有合理性。人工智能的近期研究目標(biāo)和延期研究目標(biāo)均以模擬人類智能和思維活動為主。①人工智能的近期研究目標(biāo)是建造智能計算機以代替人類的某些智力活動；遠期目標(biāo)是用自動機模仿人類的思維活動和智力功能。詳見蔡自興：《人工智能及其應(yīng)用》（第5 版），清華大學(xué)出版社2016 年版，18 頁。人的認識總是帶有主觀性，認識事物也是存在客觀偏差的，模仿人類思維的目標(biāo)定位說明了偏差存在的合理性，但是人又是不斷追逐完美的動物。因此偏差最小化，應(yīng)當(dāng)是建立人工智能系統(tǒng)一個目標(biāo)之一。

5.智能系統(tǒng)所面臨的網(wǎng)絡(luò)安全威脅使得刑事審判面臨風(fēng)險。2018 年12 月3 日我國工業(yè)和信息化部最新在官網(wǎng)上發(fā)布的《2018 年第三季度網(wǎng)絡(luò)安全威脅態(tài)勢分析與工作綜述》中，總結(jié)了網(wǎng)絡(luò)安全威脅態(tài)勢的四個特點，即惡意程序和內(nèi)部完全管理機制不完善致使用戶數(shù)據(jù)泄露，云計算平臺管理、運維、防護等不足，勒索病毒如WannaCry、Globelmposter 頻繁攻擊，網(wǎng)絡(luò)安全漏洞持續(xù)新增。而在《2018 年第一季度網(wǎng)絡(luò)安全威脅態(tài)勢分析與工作綜述》中，黑客組織篡改網(wǎng)頁事件仍有發(fā)生，且特別指出2018 年政府機關(guān)網(wǎng)站被篡改事件2 起，與2017 年第一季度的政府機關(guān)網(wǎng)站被篡改的事件數(shù)量相比，減少約80%。①參見《2018 年第三季度網(wǎng)絡(luò)安全威脅態(tài)勢分析與工作綜述》，http：//www.miit.gov.cn/n1146285/n1146352/n3054355/n305 7724/n3057728/c6521859/content.html；參見《2018 年第一季度網(wǎng)絡(luò)安全威脅態(tài)勢分析與工作綜述》，http：//www.miit.gov.cn/n1146285/n1146352/n3054355/n3057724/n3057734/c6363977/content.html。報告顯示，我國網(wǎng)絡(luò)安全的形勢十分嚴峻，且我國地方法院的互聯(lián)網(wǎng)技術(shù)發(fā)展參差不齊、互聯(lián)網(wǎng)環(huán)境安全系數(shù)高低錯落，智慧法院建設(shè)對法院網(wǎng)絡(luò)的保密工作提出了更復(fù)雜的挑戰(zhàn)。

二、自由與秩序兼顧：人工智能提供有益智能

（一）自由空間：人工智能的刑事司法工具性

首先需要厘清，本文所指自由空間與禁區(qū)，并非討論在該領(lǐng)域能否適用人工智能，而是指法律是否承認在這一領(lǐng)域使用人工智能的效力。人工智能在刑事審判中的“自由空間”是指法律在一定的預(yù)設(shè)空間內(nèi)承認人工智能運用的效力，而人工智能在刑事審判中的“禁區(qū)”是指法律不承認在這一預(yù)設(shè)空間內(nèi)運用人工智能的效力。設(shè)立自由空間和禁區(qū)，是平衡司法公正與鼓勵科技創(chuàng)新的著力點。在刑事審判中擁有自由空間能夠促進人工智能發(fā)揮具有輔助性質(zhì)的工具作用。本文認為，人工智能在刑事審判中的自由空間應(yīng)當(dāng)是協(xié)同促進、管理記錄、文書初稿形成三個層面，人工智能在自由空間中充當(dāng)“陪伴”司法人員進行司法活動的角色。

其一，從協(xié)同促進層面來看，在法官審理案件期間，人工智能作為認知工具來輔助法官充分挖掘刑事司法大數(shù)據(jù)中的隱秘知識、深層規(guī)律和行為結(jié)果模型，[15]加強法官對于刑事案件大數(shù)據(jù)的整體把握，提高法官邏輯演繹、歸納推理能力和審慎思維的深度運用。社會結(jié)構(gòu)與進化逐步隨著文化世界的不斷膨脹而復(fù)雜化，人類個體需要通過學(xué)習(xí)來達到對社會的進化施加權(quán)重更大的影響，然而受生物進化的客觀規(guī)律支配，個體的學(xué)習(xí)能力不能在短時間內(nèi)迅速實現(xiàn)突變，在延長系統(tǒng)學(xué)習(xí)之外還有兩條重要有效的進路，分別是專業(yè)化和發(fā)明各種能增強學(xué)習(xí)能力的工具。因此人類在發(fā)展的過程中進化出許多認知工具，例如手機、計算機、互聯(lián)網(wǎng)，這些認知工具不僅代替人類執(zhí)行重復(fù)性工作，還可以與人類的思維協(xié)同發(fā)展以創(chuàng)造更多元的知識，[16]幫助人類更好地開拓未知世界，而非代替人類去思考和理解。

在刑事審判當(dāng)中，判斷被告人是否成立犯罪，具體定什么罪名以及量刑，法官的思維并非一蹴而就。類案推送以人工智能的深度學(xué)習(xí)，抽取刑事司法案卷中的犯罪具體事實情節(jié)、定罪罪名、量刑、相關(guān)法條等形成類案倉庫。法官在對案件的審理過程中，首先形成對案件事實和法律定性的內(nèi)心確信，即大致的審理，然后根據(jù)記憶中的法理和現(xiàn)有法律，運用推理規(guī)則去論證這一內(nèi)心確信。在人工智能系統(tǒng)對證據(jù)進行收集和固定之后，法官有更多的空間去重視分析過程，使得裁判決策從“決策—論證”回復(fù)到“論證—決策”的過程，[17]法官從大數(shù)據(jù)中獲得刑事司法數(shù)據(jù)的極值、分布和變化趨勢，克服思維的局限性和偏差，從而得出一個具有邏輯性的結(jié)論。

其二，從管理記錄層面上看，“管理”體現(xiàn)為在電子卷宗的深度運用前提之下，進行證據(jù)形式審查和證據(jù)清單完整性審查，涉案人員身份核驗等形式認定工作，“記錄”體現(xiàn)為審判全程留痕。刑事審判的流程較為繁雜，人工智能輔助系統(tǒng)全程記錄具體詳細的審判流程，并結(jié)合刑事訴訟法規(guī)范判斷進度是否符合刑事訴訟法的時間、數(shù)量和簽名蓋章等要求。刑事案件的閱卷是極其關(guān)鍵的審判環(huán)節(jié)之一，是高質(zhì)量庭審的保證。人工智能輔助系統(tǒng)記錄“有痕”閱卷的時間、筆記、流程定點簽到，整體智能判斷是否合乎規(guī)范。

其三，從文書初稿形成層面上看，人工智能輔助系統(tǒng)根據(jù)預(yù)設(shè)的法律文書框架和固定文本，智能提取電子卷宗中的案件要素，形成不同刑事訴訟階段的初稿文本，司法人員再根據(jù)案件具體情況的需要決定是否需要對初稿進行調(diào)整。

（二）黑色禁區(qū)：秩序

人工智能在刑事司法領(lǐng)域的應(yīng)用，必須有明確的禁區(qū)。[18]究其正當(dāng)性之根本，即司法權(quán)是司法機關(guān)獨立行使的權(quán)力。在刑事司法中，適用刑事法律進行司法的主體是人，即居于核心地位的法官。[19]具體來說，本文認為原因如下。

其一，法官的居中裁判地位是刑事訴訟控辯審三方形成“等邊三角”格局的關(guān)鍵。法官對案件事實和情節(jié)形成內(nèi)心確信的過程中，夾雜著理性因素和感性因素。在眾多因素中，主要起作用的是法意識①即職業(yè)法律工作者、法學(xué)專家在世界觀性質(zhì)的法律意識形態(tài)和專門法律知識的基礎(chǔ)上形成的、并且積累了法律實踐、適用法的活動的經(jīng)驗和主管機關(guān)對法的各方面內(nèi)容（包括對專業(yè)法律內(nèi)容）的理解的法的觀念。參見陳興良：《刑法的人性基礎(chǔ)》，中國人民大學(xué)出版社2006 年版，470 頁。，這是刑事判決結(jié)果的思想基礎(chǔ)。

其二，目前我國人工智能輔助刑事審判的技術(shù)開發(fā)工作主要是外包形式，也即是將整個工程交由專業(yè)的科技公司或團隊研究開發(fā)。正如上文所述，外包政策是一個適應(yīng)我國司法系統(tǒng)科技水平的選擇，然目前缺乏完備的監(jiān)管機制，雙方的權(quán)利和義務(wù)、法律責(zé)任均由委托開發(fā)合同規(guī)制，設(shè)立禁區(qū)可以有效地防止將刑事司法權(quán)“外包”。

其三，智能技術(shù)運用造成糾紛解決場域弱化。[20]當(dāng)庭控辯審三方的局面正是把所有的指控、案情、證據(jù)、被害人的訴請擺到臺面來，實實在在地定罪量刑與維護人權(quán)。辯護制度不應(yīng)當(dāng)成為基于對證據(jù)的邏輯演算后勝負結(jié)果的機器輸出的犧牲品。禁區(qū)的設(shè)置應(yīng)當(dāng)緩解這個尷尬的境地，還控辯雙方足夠自由的糾紛對峙環(huán)境。黃京平教授首先明確提出了人工智能在刑事司法中的禁區(qū)，即案例規(guī)則及其調(diào)整，與非正式制度如刑事政策、改革試驗、地方規(guī)范等等。[21]這無疑是將人工智能在刑事審判中運用的可操作性向前推進一大步。刑事實體法實際上就是解決定罪量刑的實體法律。定罪解決犯罪的定性問題，刑事審判的定罪量刑以及具體事實的實質(zhì)認定，均需要設(shè)立人工智能的禁區(qū)。具體而言，人工智能在以下幾方面的運用不具有法律效力。

1.人工智能預(yù)測定罪量刑結(jié)果的法律效力。在現(xiàn)代國家治理體系中，法院是政府權(quán)力與個人權(quán)利之間關(guān)系的校準(zhǔn)器，是秩序形成和維持的樞紐。[22]定罪量刑是刑事法官的使命，必須完全交由刑事法官主導(dǎo)。此外，人工智能輔助審判的目的并非是為了代替法官的勞動，而是輔助法官更為公正地適用刑事法律。如果人工智能預(yù)測定罪量刑結(jié)果具有法律效力，一方面會稀釋法官在刑事審判中的重要中立地位，動搖刑事庭審控辯審三方平衡對峙的局面，甚至隨著技術(shù)的發(fā)展可能會形成控辯審與人工智能四方對立的局面；另一方面，由人工智能預(yù)測定罪量刑結(jié)果并賦予該結(jié)果法律效力，容易過度約束法官在認定案件事實方面的自由裁量權(quán)，或者使法官僅滿足于作出“證據(jù)確實、充分”的表面認定，從而造成機械司法，法官本末倒置地進行案件事實的形式認定，但最終由人工智能來敲錘定音，這樣一來法庭辯論、二審終審、再審制度將“形同虛設(shè)”。

2.人工智能對證據(jù)的證據(jù)能力的實質(zhì)判斷?，F(xiàn)實中人工智能已經(jīng)在單一證據(jù)合法、合規(guī)性的自動校驗領(lǐng)域有所作為，如上海法院的“206 工程”。[23]但本文仍認為，認定事實乃至定罪的最關(guān)鍵因子是證據(jù)，而裁判結(jié)果的得出須建立在實質(zhì)判斷的基礎(chǔ)之上。刑事法雖然預(yù)設(shè)了證據(jù)資格的種類和條件，但面對五花八門的案件事實，有限的法律條文并不能預(yù)先涵蓋所有的情形。證據(jù)能力的判斷，并非只是一個證據(jù)是否符合法律預(yù)設(shè)，而是形式判斷與實質(zhì)判斷的統(tǒng)一。證據(jù)是挖掘案件事實的關(guān)鍵，一個證據(jù)能否成為證據(jù)鏈條中的一環(huán)，應(yīng)當(dāng)是法官結(jié)合法律條文的規(guī)定，實質(zhì)性判斷這個證據(jù)是否具有證據(jù)資格。

3.人工智能對證據(jù)證明力以及閉合的證據(jù)鏈的判斷。與證明力判斷，以及所有證據(jù)匯集是否能形成一個完整閉合的證據(jù)鏈條需要法官結(jié)合案件實際進行實質(zhì)判斷。具體到非法證據(jù)排除，在刑事訴訟中，物證、書證在收集、固定和管理的過程中都有可能遭到破壞，或這些證據(jù)很可能是通過非法收集的途經(jīng)得來的，特別是可變性強的言詞證據(jù)。證據(jù)證明力以及閉合證據(jù)鏈的判斷不可能僅僅是一個事實認定的問題，而是事實認定與法律判斷相結(jié)合、形式判斷與實質(zhì)判斷相統(tǒng)一的過程。證據(jù)是刑事訴訟法的血肉，但刑事訴訟法并非一部簡單的證據(jù)法，我們設(shè)立刑事程序法與實體法相互輔助適用，目的就在于從實體和程序上均有效地懲罰犯罪和維護人權(quán)，因此在證據(jù)證明力以及閉合的證據(jù)鏈，包括上文第二點提到的證據(jù)能力的判斷上，應(yīng)當(dāng)慎用人工智能。

4.人工智能對刑事案件疑難問題的價值判斷與抉擇。刑法條文頒布之后是靜態(tài)的文字狀態(tài)，其生命力需要由法官來賦予，刑法條文的精神就隱藏在刑事判決書里面。刑事法官的使命不僅要嚴格遵循罪刑法定原則適用刑法，保證司法公正，還需要追求個案正義。隨著我國新時代主要社會矛盾的變化，新的社會問題也時常出現(xiàn)，刑法條文的修改不能完全亦步亦趨，應(yīng)當(dāng)在社會主流價值觀的指引下科學(xué)運用法律解釋方法對法律條文作出相應(yīng)解釋。同時，把握靜態(tài)的刑法條文與動態(tài)的社會發(fā)展之間的關(guān)系，使得任何法律條文都不只是用來宣誓某種價值傾向，而是應(yīng)當(dāng)實在地根據(jù)社會認知進行價值判斷與權(quán)衡。

三、原則與應(yīng)對：刑事審判人工智能的工具性作用

為人工智能的運用設(shè)立原則是必要的。刑事審判運用人工智能的目的在于為審判活動提供有益的智能，而不是讓它像經(jīng)歷生物演化一樣沒有確定的發(fā)展方向。例如在什么原則的指引下去設(shè)計和投資人工智能系統(tǒng)，使其在刑事審判的運用當(dāng)中具有算法的魯棒性；①魯棒性又稱健壯性，是指對非法輸入的抵抗能力。當(dāng)輸入的數(shù)據(jù)非法時，算法不應(yīng)是中斷程序的執(zhí)行，而應(yīng)恰當(dāng)?shù)刈龀龇磻?yīng)或進行相應(yīng)的處理。周元哲等編著：《程序基本算法教程》，清華大學(xué)出版社2016 年版，7 頁?；蛘呤窃谑裁礃拥脑瓌t之下通過自動化輔助司法實現(xiàn)獨立公正，同時不打破資源和目的的平衡。總體上看，應(yīng)當(dāng)堅持在刑事訴訟中人工智能的工具性作用最優(yōu)化原則。其內(nèi)涵為應(yīng)當(dāng)充分發(fā)揮人工智能的工具性作用來輔助刑事審判，具體的子原則如下。

1.司法人員主體原則。即堅持司法人員在刑事審判中的主體地位。犯罪的刑事處罰作為一項刑事審判活動，其審判權(quán)只能由法院行使，即人工智能無法代替司法人員成為刑事審判的主體。我國的庭審制度沿襲了職權(quán)主體的特征，法官在刑事訴訟庭審中處于主導(dǎo)地位，裁判結(jié)果的產(chǎn)生也會圍繞著法官的思路進行，因此人工智能代替的是刑事審判中機械性重復(fù)工作，使得法官更注重于案件的實體思考。

2.自由空間與禁區(qū)原則。在人為設(shè)定的自由空間內(nèi)承認人工智能使用的效力，在禁區(qū)內(nèi)則一概否定人工智能使用的效力。不能機械地理解“科學(xué)無禁區(qū)”的含義，在人類的倫理與科技產(chǎn)生沖突時仍需設(shè)立禁區(qū)。法律和科學(xué)逐步融合發(fā)展是國家、社會和人民喜聞樂見的現(xiàn)象，然法律并不完全等同科技，法律需要一定的“保守”，才能成為維護公平的利器。

3.個案正義優(yōu)于司法效率。人工智能深度學(xué)習(xí)所依賴的大數(shù)據(jù)技術(shù)，更多關(guān)注的是事物之間宏觀上引起變化的數(shù)據(jù)關(guān)聯(lián)關(guān)系，即上文所提“相關(guān)關(guān)系”，而非因果關(guān)系。也即是說，人工智能所提供的司法大數(shù)據(jù)提高了司法人員的工作效率，但是對人工智能的過度依賴并不能完全保證個案正義，數(shù)據(jù)分析體現(xiàn)的是“歸納樣本——歸納總體”的過程，相關(guān)關(guān)系并不關(guān)注社會關(guān)系中深層次的利益糾葛以及司法實踐對精確認識的要求，因此人工智能的效率并不能以犧牲個案正義來獲得。況且我國地區(qū)犯罪差異十分顯著，機械地以大數(shù)據(jù)分析進行輔助審判，易忽視事物發(fā)展的特殊性，尤其是個別疑難案件中的特殊情節(jié)以及復(fù)雜社會關(guān)系。

4.人工智能分析結(jié)果的可否性。人工智能在刑事審判中擁有自由空間，并非意味著只要在這一空間使用了人工智能并得到分析結(jié)果，這一結(jié)果就具有絕對的不可否性。既然明確了人工智能的工具性本位，則應(yīng)當(dāng)認識到，司法人員基于合理理由的前提下可舍棄人工智能的計算結(jié)果，當(dāng)事人也可以對人工智能計算結(jié)果提出異議，主張司法機關(guān)對該計算結(jié)果不予考慮。[24]具有可否性的要求并非否定人工智能，基于人工智能的使用要為刑事審判提供有益智能的大前提下，理性堅持可否性能夠客觀地促進人工智能輔助審判系統(tǒng)的發(fā)展。

至于具體的應(yīng)對措施，本文擬結(jié)合上文，試從不同角度給出多元建議。

第一，從人工智能系統(tǒng)本身的角度出發(fā)，要求由人工智能在刑事審判中的一切行動都要具有透明性、可解釋性。建立法院系統(tǒng)的人工智能算法具體運算模型的備案本，人工智能系統(tǒng)在自由空間內(nèi)的一切運算軌跡應(yīng)全面記錄備案。

第二，從監(jiān)管的角度看，法院體系內(nèi)部應(yīng)當(dāng)增設(shè)刑事司法人工智能監(jiān)管機構(gòu)。應(yīng)當(dāng)考慮對于人工智能輔助審判系統(tǒng)的核心服務(wù)增加編制正職人員，對于開發(fā)過程中的非核心的、短期問題和臨時性項目，交由外包專業(yè)人員時應(yīng)當(dāng)賦予其嚴格的責(zé)任條款。

第三，對于人工智能系統(tǒng)的開發(fā)者而言，須建立司法體系內(nèi)的人工智能問責(zé)制度，與強制披露算法制度。研發(fā)者和使用者相對于一般人而言，對人工智能產(chǎn)品具有更多的把控能力，因此在刑法中確立人工智能產(chǎn)品研發(fā)者和使用者的嚴格責(zé)任具有一定可考慮性。[25]《中華人民共和國刑法》第285 條非法侵入計算機信息系統(tǒng)罪、非法獲取計算機信息系統(tǒng)數(shù)據(jù)、非法控制計算機信息系統(tǒng)罪、提供侵入、非法控制計算機信息系統(tǒng)程序、工具罪，第286 條破壞計算機信息系統(tǒng)罪，第287 條之二幫助信息網(wǎng)絡(luò)犯罪活動等計算機犯罪的罪名均可評價人工智能產(chǎn)品研發(fā)者和使用者的刑事責(zé)任。

第四，從人工智能系統(tǒng)的安全方面出發(fā)，全面升級法院內(nèi)部網(wǎng)絡(luò)的安全操作系統(tǒng)，最大限度降低網(wǎng)絡(luò)安全隱患。

第五，全局的角度看，促進全國法院刑事案件信息技術(shù)標(biāo)準(zhǔn)的逐步統(tǒng)一。如果技術(shù)標(biāo)準(zhǔn)不統(tǒng)一，各地法院水平參差不齊，司法數(shù)據(jù)的互通共享只能成為一個空口號，而無實質(zhì)作用。

在刑事審判當(dāng)中運用人工智能，將有很長的路要走。人類希望人工智能在我們追求最高理想時，幫助我們實現(xiàn)最大膽的愿望，而不是毀滅我們。[26]我們應(yīng)當(dāng)思考尤瓦爾·赫拉利在《未來簡史》的“數(shù)據(jù)主義”這一章末尾提出的三個問題之一：智能和意識，究竟哪個才更有價值？[27]在司法公正這個領(lǐng)域，人類應(yīng)當(dāng)牢牢把握自身的主體地位，一方面以開放和善的態(tài)度接納人工智能這一“新貴”，另一方面嚴守司法底線，親力親為，在人工智能禁區(qū)中充分行使審判的權(quán)利。