人工智能在司法實(shí)務(wù)中的技術(shù)風(fēng)險(xiǎn)與負(fù)面清單探析

梁成意，焦 陽(yáng)

（華東交通大學(xué)人文社會(huì)科學(xué)學(xué)院，江西南昌，330013）

人工智能（Arifital Intelligence，簡(jiǎn)稱AI）是指使計(jì)算機(jī)交互程序遵從人的編程設(shè)計(jì)去完成某項(xiàng)任務(wù)的技術(shù)。人工智能是人類的工具，是人類智慧的衍生物。人工智能隨著科技的進(jìn)步、互聯(lián)網(wǎng)及大數(shù)據(jù)的發(fā)展，其發(fā)展方向、運(yùn)用方向以及對(duì)于其的限制等問(wèn)題引起了諸多討論，同時(shí)隨著司法實(shí)務(wù)活動(dòng)的案件壓力和司法效率等需求，人工智能逐漸成為司法實(shí)務(wù)工作的工具，且法律人工智能的初步成果在司法實(shí)務(wù)應(yīng)用中也取得了良好效果。各地法院開(kāi)始嘗試運(yùn)用人工智能技術(shù)建立“智慧法院”。

一、司法實(shí)務(wù)活動(dòng)的現(xiàn)狀分析

（一）案件總量上升，人均案件量急劇上升

2019—2020年，最高人民法院共受理案件35 994件，審結(jié)31 443件，同比分別上升22.1%和23.5%。地方各級(jí)人民法院受理案件數(shù)量也出現(xiàn)了激增的情況，各級(jí)法院審結(jié)的一審刑事案件多達(dá)119.8萬(wàn)件，受理并審結(jié)的一審知識(shí)產(chǎn)權(quán)案件也達(dá)到了28.8萬(wàn)件，同比上升41.8%。審結(jié)一審民事案件901.7萬(wàn)件，同比上升8.7%。在以上數(shù)據(jù)中可以發(fā)現(xiàn)，近年來(lái)案件數(shù)量上升，但是在職司法工作人員變化不大，人均案件壓力上升。

（二）人工智能技術(shù)應(yīng)用于司法實(shí)務(wù)日趨普遍

隨著國(guó)家戰(zhàn)略的部署和國(guó)家機(jī)關(guān)政策的落實(shí)，人工智能技術(shù)應(yīng)用于司法實(shí)務(wù)得以迅速發(fā)展，各地法院紛紛開(kāi)始以人工智能系統(tǒng)為依托建立起“智慧法院”。

河北高院研發(fā)的“智審系統(tǒng)”是通過(guò)對(duì)紙質(zhì)卷宗掃描形成電子卷宗后，再以該系統(tǒng)對(duì)與當(dāng)事人相關(guān)的案件自動(dòng)關(guān)聯(lián)后進(jìn)行分類。大多數(shù)裁判文書能夠通過(guò)系統(tǒng)一鍵生成。該人工智能系統(tǒng)的應(yīng)用成果較好，極大地提高了司法工作的效率，因此在全國(guó)多個(gè)法院得到廣泛應(yīng)用。

北京法院的“睿法官”智能輔助系統(tǒng)，以法律數(shù)據(jù)、司法審判數(shù)據(jù)為依托，通過(guò)對(duì)審判行為的分析和智能化的學(xué)習(xí)，最后形成自己的法律邏輯知識(shí)圖譜來(lái)輔助法官辦理案件，例如根據(jù)司法人員的需要方向，精準(zhǔn)列出辦案所涉及的法律法規(guī)、相類似的已裁判案例等信息，并且還會(huì)梳理與案件有關(guān)的法律關(guān)系，歸納案件的爭(zhēng)議點(diǎn)，系統(tǒng)生成裁判建議、裁判文書等。北京西城區(qū)人民法院的刑事審判團(tuán)隊(duì)運(yùn)用“睿法官”系統(tǒng)在確保司法裁判尺度統(tǒng)一的前提下，高效地審理了1 000多件案件。上海法院也通過(guò)人工智能技術(shù)研發(fā)了裁判文書大數(shù)據(jù)智能分析系統(tǒng)，該系統(tǒng)能通過(guò)分析證據(jù)之間的印證關(guān)系、證據(jù)之間的邏輯符合性、尋找證據(jù)之間是否存在矛盾和沖突等關(guān)系來(lái)判斷證據(jù)鏈?zhǔn)欠癯浞诌_(dá)到法律對(duì)證據(jù)完整性的要求［1］。

從以上司法實(shí)務(wù)中，可以歸納總結(jié)出現(xiàn)階段我國(guó)人工智能技術(shù)在司法實(shí)務(wù)中的應(yīng)用為弱人工智能技術(shù)，起到了對(duì)司法實(shí)務(wù)活動(dòng)的輔助作用。一是以標(biāo)準(zhǔn)化的辦案模式、文書模式以及流程化的操作起到了規(guī)范化作用；二是在繁雜的司法實(shí)務(wù)活動(dòng)中起到提示性的作用，提示司法工作人員辦案注意重點(diǎn)把握部分案件事實(shí)和問(wèn)題；三是提高了司法實(shí)務(wù)活動(dòng)的效率，這也是人工智能應(yīng)用在司法實(shí)務(wù)中最具有成果性的部分，從各個(gè)法院實(shí)施情況來(lái)看，辦案效率均得到一定的提升，極大減少了司法工作人員的辦案壓力；四是人工智能技術(shù)偏向預(yù)測(cè)性手段發(fā)展，例如江蘇法院的人工智能系統(tǒng)針對(duì)上傳有關(guān)法律數(shù)據(jù)后自動(dòng)作出預(yù)測(cè)性判決結(jié)果，為法官提供量刑參考的這一功能就帶有對(duì)判決結(jié)果的人工智能預(yù)測(cè)性的傾向。但是，從以上各個(gè)法院對(duì)人工智能的不同應(yīng)用也可以看出各個(gè)地區(qū)之間存在著差異性，也就是人工智能技術(shù)應(yīng)用中的地域性，這也意味著地方之間的人工智能系統(tǒng)的標(biāo)準(zhǔn)有所差異。因此本文將從人工智能在司法實(shí)務(wù)中扮演的角色入手，對(duì)人工智能應(yīng)用于司法實(shí)務(wù)進(jìn)行利弊分析，重點(diǎn)討論人工智能的技術(shù)風(fēng)險(xiǎn)與在司法實(shí)務(wù)應(yīng)用中設(shè)立的負(fù)面清單。

二、人工智能的應(yīng)用在司法工作中的角色

（一）人工智能是將要替代司法工作人員的司法人工智能

在純技術(shù)界看來(lái)，人工智能是通過(guò)模仿人的思維方式從而以“智使化”手段來(lái)代替人類做出獲取、分類、歸納、分析和決策等，人工智能是一種技術(shù)手段。雖然部分人認(rèn)為人工智能不能代人在司法實(shí)務(wù)中實(shí)現(xiàn)自由較量，但是相信其終會(huì)解決該問(wèn)題，實(shí)現(xiàn)替代司法工作人員完全做出司法判斷，由此技術(shù)界對(duì)人工智能在司法實(shí)務(wù)的應(yīng)用處于十分積極的態(tài)度，并且認(rèn)為計(jì)算法律（Computational Law）和算法裁判會(huì)成為法律的終極形態(tài)，甚至代替法官直接作出裁判。此種觀點(diǎn)在西方尤為凸顯，英國(guó)廣播公司曾報(bào)道，法律人工智能Case Cruncher Alpha與律師就保險(xiǎn)合同糾紛展開(kāi)法律問(wèn)題競(jìng)賽，結(jié)果人工智能的準(zhǔn)確率為86.6%，明顯領(lǐng)先于律師66.3%的正確率［2］?；诖?，美國(guó)弗吉尼亞大學(xué)的相關(guān)學(xué)者進(jìn)一步認(rèn)為人工智能預(yù)測(cè)裁判結(jié)果的準(zhǔn)確率可以達(dá)到79.46%。

（二）人工智能是法律運(yùn)用過(guò)程中的輔助手段

司法實(shí)務(wù)界則認(rèn)為人工智能只能作為法律運(yùn)用及司法裁判過(guò)程中的輔助手段，目的在于使法官、檢察官?gòu)姆彪s的文件材料、數(shù)據(jù)分析、案例檢索等事項(xiàng)中解脫出來(lái)，以更有效率和精確的手段幫助司法工作人員做出最公正的司法決定。因此其目的不是使人工智能替代司法裁決，或者淘汰辦案的司法工作人員，并且認(rèn)為因?yàn)槿诵缘膹?fù)雜化和社會(huì)環(huán)境的多變化，很難將對(duì)人性、情感以及價(jià)值的衡量進(jìn)行量化或者數(shù)據(jù)化［3］。

人的情感具有兩面性，一面是同理性和衡量社會(huì)的價(jià)值觀念，一面是難以避免社會(huì)誘惑的動(dòng)搖之心。人性的復(fù)雜，難以保證每個(gè)司法人員在司法活動(dòng)中不會(huì)被腐蝕，為了保證司法活動(dòng)的公正性，人工智能作為“無(wú)人性、無(wú)情感”的機(jī)器可以在此意義上限制司法活動(dòng)，彌補(bǔ)人的局限性。

（三）人工智能最高可視為司法案件的初審“檢察官、法官”

筆者認(rèn)為，可以綜合前兩種觀點(diǎn)，一方面不刻意強(qiáng)調(diào)人工智能在司法活動(dòng)的主導(dǎo)地位和對(duì)司法活動(dòng)的替代性角色，另一方面不可迷信人工智能給司法活動(dòng)方式帶來(lái)的變革，因此可以將其視為司法案件的初審“檢察官、法官”。

司法人員的時(shí)間和精力是有限的，每個(gè)司法人員從頭至尾都將面臨著繁雜的工作任務(wù)，而且人腦的知識(shí)儲(chǔ)備、記憶能力是有限的，司法工作人員不能記住全部的案例和法律條文，因此在審辦案件時(shí)，為了防止遺漏有關(guān)問(wèn)題，影響案件的審理進(jìn)程，司法人員必然會(huì)花費(fèi)更多的時(shí)間和精力在檢索和信息整合上，便會(huì)導(dǎo)致工作效率難以提升。

在上文中論述了人性帶來(lái)的積極影響，人類主體會(huì)考慮到社會(huì)各個(gè)層次、情況、社會(huì)道德等多個(gè)方面，但“機(jī)器”卻難以做到，這也是人工智能的局限性。即使人工智能能夠完全模擬人的思維模式和辦案模式，但機(jī)器始終是沒(méi)有情感，無(wú)法做出價(jià)值判斷，這是因?yàn)樗痉ɑ顒?dòng)始終是人類的活動(dòng)，面對(duì)的群眾是人類，具有社會(huì)性，將案件完全托付“機(jī)器”雖說(shuō)可以做到判斷上的完全理性，但是選擇此方式卻是不理性的［4］。人工智能很難像法官一樣理清復(fù)雜的法律關(guān)系，人工智能更多的是機(jī)械地按照法律條文規(guī)定來(lái)做出判斷，很難針對(duì)訴訟參與人的訴求做出相應(yīng)的回應(yīng)。因此，人工智能應(yīng)用于司法領(lǐng)域中，可以使其成為在案件前期辦理進(jìn)程中的一環(huán)，成為初審“檢察官、法官”，但是不能夠成為完全意義上的“檢察官、法官”。

三、人工智能的技術(shù)風(fēng)險(xiǎn)

（一）司法數(shù)據(jù)不充分導(dǎo)致的人工智能的技術(shù)風(fēng)險(xiǎn)

以人工智能做出信息檢索和初步的裁判預(yù)測(cè)的前提是可以提供和采集海量的、有效的司法數(shù)據(jù)以供分析。但是實(shí)踐當(dāng)中可能會(huì)存在部分特殊的案件，因各種原因未能將案件的審理過(guò)程和放判結(jié)果完全數(shù)據(jù)化。另一方面司法數(shù)據(jù)存在著片面化、不完全透明化的特點(diǎn)，在組織合議庭和審委會(huì)討論中，其內(nèi)部討論均不公開(kāi)。英美法系的法官、陪審團(tuán)討論也是內(nèi)部性、不公開(kāi)的，“庭審筆錄不是一種公開(kāi)的法律證明文書”，缺少審判過(guò)程和討論過(guò)程的數(shù)據(jù)難說(shuō)是完整和充分的，審判過(guò)程的不公開(kāi)性也造成了該部分?jǐn)?shù)據(jù)的缺少甚至是缺失［5］。

只有以十分充實(shí)的數(shù)據(jù)為基礎(chǔ)，并通過(guò)這些數(shù)據(jù)得出總結(jié)，將類型化案件進(jìn)行分析，歸納司法實(shí)務(wù)中的裁判規(guī)則，改進(jìn)算法，進(jìn)而總結(jié)出技術(shù)實(shí)務(wù)經(jīng)驗(yàn)，使類型化案件實(shí)現(xiàn)以裁判規(guī)則、司法經(jīng)驗(yàn)歸納為基礎(chǔ)的有限智能化?！翱梢灶A(yù)見(jiàn)的是，在類型化案件中，有可能形成統(tǒng)一的智能化算法：在不那么規(guī)格化的案件中，至少可以做到法律依據(jù)提醒、政策比較和類案參考?！睌?shù)據(jù)的不完備，很可能會(huì)影響到案件的裁判，也難以發(fā)揮人工智能的功能［6］。司法數(shù)據(jù)也會(huì)存在不客觀性和不真實(shí)性，司法數(shù)據(jù)具有可修改性，司法數(shù)據(jù)的不一致性也是人工智能運(yùn)用過(guò)程中將要面臨的風(fēng)險(xiǎn)。人工智能作為技術(shù)手段，技術(shù)上數(shù)據(jù)的偽造和虛構(gòu)是存在較大可能性的，并且是一種較低成本的偽造模式，司法數(shù)據(jù)的不真實(shí)性必然會(huì)影響到分析案件時(shí)的客觀性，這就難以保證司法活動(dòng)的公正性。完全依賴人工智能所帶來(lái)的裁判預(yù)測(cè)容易造成利用技術(shù)上的不完整性，這也是人工智能技術(shù)風(fēng)險(xiǎn)的一種。

（二）人工智能容易變成犯罪分子利用的工具

人工智能時(shí)代的到來(lái)也會(huì)逐漸對(duì)法律的走向和發(fā)展產(chǎn)生重要影響。一方面人工智能可以更好地服務(wù)社會(huì)，對(duì)法律的發(fā)展帶來(lái)積極的影響，同時(shí)也可以成為司法實(shí)踐中的重要輔助手段。但是另一方面，人工智能的運(yùn)用也會(huì)成為實(shí)現(xiàn)犯罪目的的工具。犯罪分子獲得程序源代碼后，便可控制用于司法活動(dòng)的人工智能系統(tǒng)，并可通過(guò)此種人工智能系統(tǒng)控制結(jié)果的導(dǎo)向，甚至造成嚴(yán)重后果。這是因?yàn)閿?shù)據(jù)本身是一種信息的載體，數(shù)據(jù)的集中意味著信息的集中，不法者就能用極小的成本利用或者攻擊數(shù)據(jù)庫(kù)以此獲利，具有極大的社會(huì)危害性。

人工智能與互聯(lián)網(wǎng)以及大數(shù)據(jù)密切相關(guān)，這些使得犯罪分子侵入系統(tǒng)變得更加隱秘，其侵入所造成的后果以及擴(kuò)散化影響也變得更加嚴(yán)重。

1.算法獨(dú)裁

算法是人工智能運(yùn)行的基本要素，算法是以大數(shù)據(jù)為基礎(chǔ)，進(jìn)行一系列特定的運(yùn)算并得出結(jié)果。對(duì)于算法的內(nèi)容，因其專業(yè)性較強(qiáng)，不僅被控告人不知曉，甚至連主辦案件的司法人員也無(wú)從得知，且有關(guān)結(jié)論的得出過(guò)程并未告知相關(guān)訴訟參與人，某種程度上侵害了司法活動(dòng)的公正性［7］。如果司法裁判受到算法的支配，那么就會(huì)因?yàn)樗惴í?dú)裁而出現(xiàn)司法獨(dú)裁，司法活動(dòng)將成為算法創(chuàng)制人的私人行為。這種不透明性與司法活動(dòng)公平正義的價(jià)值判斷相抵觸。盲目相信法律人工智能會(huì)產(chǎn)生如隱性歧視等新問(wèn)題和新沖突，這將偏離基于公眾判斷而得來(lái)的公平正義。

2.信息利用

信息的利用是人工智能的關(guān)鍵，人工智能通過(guò)對(duì)信息的搜集、整合、歸納和推理等方式將信息通過(guò)計(jì)算機(jī)算法模式得出結(jié)論。但正是因?yàn)楝F(xiàn)如今網(wǎng)絡(luò)信息龐雜，信息傳遞的簡(jiǎn)單、迅速的特點(diǎn)使得信息過(guò)濾難度加大，信息過(guò)量、無(wú)法分辨信息的有用性，甚至難以篩選客觀真實(shí)的信息。

信息利用于私人利益，快速流轉(zhuǎn)的信息在人工智能的數(shù)據(jù)庫(kù)中就相當(dāng)于一種資源財(cái)富，因此對(duì)于資源的掌握就成了一種強(qiáng)大的利益誘惑，信息由個(gè)人信息、集體信息、社會(huì)信息等基本單位組成，對(duì)于信息的利用容易陷入到對(duì)于基本單位信息安全與隱私的侵犯［8］。廣泛應(yīng)用的智能物會(huì)收集、共享并向智能信息中心傳輸、利用包括個(gè)人信息在內(nèi)的各種信息，這是因?yàn)槿斯ぶ悄芎蛦渭兊男畔⑻幚聿杉到y(tǒng)不同［9］，人工智能具有自主性和自動(dòng)性，是能夠以智能程序自主進(jìn)行事務(wù)處理的系統(tǒng)。這也使得人工智能與其應(yīng)用主體的利益直接相關(guān)，二者關(guān)系的緊密性超出一般的信息處理系統(tǒng)，若對(duì)人工智能進(jìn)行攻擊就極可能會(huì)直接給信息主體帶來(lái)巨大的危險(xiǎn)。

另一方面，人工智能對(duì)數(shù)據(jù)的完整性和信息的充分性的要求恰恰成為私人信息容易受到侵犯的原因。人工智能的普及化應(yīng)用，使得人工智能收集數(shù)據(jù)信息的設(shè)備發(fā)揮了極大的效用，信息將在各個(gè)領(lǐng)域和環(huán)境中暴露以供人工智能系統(tǒng)隨時(shí)調(diào)取、使用和分析。當(dāng)人工智能系統(tǒng)遭到攻擊時(shí)，信息便爆炸般散落在非法利用者面前供其隨意揀取。

四、人工智能的負(fù)面清單

（一）設(shè)立負(fù)面清單的理論基礎(chǔ)

1.法律監(jiān)管理論

人工智能在司法實(shí)務(wù)中運(yùn)用時(shí)應(yīng)當(dāng)設(shè)立禁區(qū)，例如通過(guò)政策性立法對(duì)人工智能的運(yùn)用范圍和運(yùn)用方式進(jìn)行監(jiān)管，以法律方式進(jìn)行監(jiān)管是最為有效的方式。通過(guò)法律監(jiān)管可以極大地降低人工智能在司法實(shí)務(wù)運(yùn)用過(guò)程中所帶來(lái)的各種風(fēng)險(xiǎn)，法律的穩(wěn)定性也可以與因人工智能運(yùn)用的不穩(wěn)定所帶來(lái)的技術(shù)風(fēng)險(xiǎn)進(jìn)行對(duì)沖，緩解一定不利后果的產(chǎn)生。對(duì)人工智能的監(jiān)管是必然的，美國(guó)為了解決人工智能技術(shù)應(yīng)用對(duì)社會(huì)帶來(lái)的影響，將人工智能的相關(guān)立法措施納入到立法機(jī)構(gòu)的考慮范圍之內(nèi)。

2.法律與倫理關(guān)系論

對(duì)于一個(gè)案件的分析、裁判的過(guò)程和思維方式分析，應(yīng)當(dāng)考慮法律與倫理的關(guān)系。例如因電影《我不是藥神》而廣為人知的“陸勇案”，最后的司法裁判充分體現(xiàn)出“情理法”的平衡。假設(shè)以人工智能為依托來(lái)審理該案，極大可能單一機(jī)械地以對(duì)案情與法條的一一對(duì)應(yīng)作為案件的審理標(biāo)準(zhǔn)，即當(dāng)然地判定陸勇為生產(chǎn)銷售假藥罪。

這一部分以剖析人工智能與人類的差別為出發(fā)點(diǎn)，該思考邏輯認(rèn)為人工智能無(wú)意識(shí)，人工智能的智慧只是人智慧的產(chǎn)物，沒(méi)有判斷人類社會(huì)復(fù)雜關(guān)系的能力。人的智慧不僅包含知識(shí)、能力，還包含著人情感的認(rèn)知、價(jià)值觀念和社會(huì)倫理，而這些要素都是司法判斷中必不可少的，正是這些要素才使得司法變得有溫度。但是，人工智能沒(méi)有人的感知，也沒(méi)有人的感情和情緒，因此不具有根據(jù)人的價(jià)值判斷做出司法裁判的潛質(zhì)。因此結(jié)果的“無(wú)溫度化”可以選入為司法裁判的負(fù)面清單。

3.法律解釋的多樣性

法律解釋一直是司法實(shí)務(wù)中的重點(diǎn)和難點(diǎn)，對(duì)于不同法律術(shù)語(yǔ)的解釋往往會(huì)產(chǎn)生不一樣的法律結(jié)果。同樣以“陸勇案”為例，該案件的關(guān)鍵點(diǎn)是對(duì)“銷售”行為的認(rèn)定，但是對(duì)這個(gè)“銷售”行為的解釋卻有不同意見(jiàn)。再如“天津老太擺地?cái)偞驓馇虬浮敝?，?duì)于“槍支”的解釋也成為了案件的關(guān)鍵，這些往往向公眾展示的是關(guān)于認(rèn)知的不同與矛盾。但是如果將這一系列案件的關(guān)鍵點(diǎn)的解釋用一連串的字符、公式算法來(lái)判斷則會(huì)造成民眾的不解，并且人工智能的算法存在非透明性和不可解釋性的缺陷?！八痉ú门械倪^(guò)程不僅僅是給出結(jié)論的過(guò)程，更是以一系列合乎邏輯的聲明或通過(guò)引用相關(guān)的法源得出結(jié)論的過(guò)程”，在司法實(shí)務(wù)中如果沒(méi)有對(duì)有關(guān)問(wèn)題進(jìn)行解釋和分析，結(jié)果只會(huì)激發(fā)人民的不滿與對(duì)司法活動(dòng)的不信任感。

（二）設(shè)立負(fù)面清單的實(shí)踐要求和調(diào)整范圍

1.實(shí)踐要求

結(jié)合現(xiàn)有的司法實(shí)踐之發(fā)展，必須從司法實(shí)務(wù)的視闕考量人工智能在實(shí)踐中的介入程度，并且能夠“維護(hù)秩序與變革、守護(hù)與創(chuàng)新、價(jià)值與事實(shí)之間的動(dòng)態(tài)平衡，就是所面臨的緊迫的問(wèn)題”［10］。

雖然人工智能系統(tǒng)通常有技術(shù)防護(hù)措施，但是，保護(hù)人工智能系統(tǒng)安全應(yīng)以預(yù)設(shè)的法律規(guī)制為基礎(chǔ)，否則將陷入人工智能技術(shù)攻防對(duì)抗、此消彼長(zhǎng)的惡性循環(huán)，出現(xiàn)人和人工智能系統(tǒng)以及人工智能系統(tǒng)之間的技術(shù)“戰(zhàn)爭(zhēng)”，影響相關(guān)技術(shù)的發(fā)展前景，危及社會(huì)秩序，甚至顛覆現(xiàn)有的法律價(jià)值體系［11］。因此，在實(shí)踐中要建立源代碼及運(yùn)行機(jī)制披露等事前監(jiān)管機(jī)制化，預(yù)防出現(xiàn)干預(yù)代碼化規(guī)則的系統(tǒng)性歧視。

利用人工智能化司法系統(tǒng)實(shí)施犯罪行為將是對(duì)諸多法益的全面侵犯，因?yàn)樾畔⑹侨斯ぶ悄芑痉ㄏ到y(tǒng)發(fā)展和運(yùn)轉(zhuǎn)的重要基礎(chǔ)。人工智能在司法實(shí)務(wù)中的不恰當(dāng)應(yīng)用可能會(huì)在一定范圍內(nèi)激起各類信息主體即信息掌控者之間的對(duì)抗，甚至?xí)?huì)阻礙我國(guó)智慧社會(huì)的正常發(fā)展。為避免出現(xiàn)此種法治化危機(jī)，人工智能的應(yīng)用必須在保障公民基本權(quán)利的基礎(chǔ)上展開(kāi)，依法利用包括個(gè)人信息在內(nèi)的各種信息資源。在我國(guó)司法實(shí)務(wù)的智慧法院建設(shè)中，如何保證各類信息的合法合理取得或者是收集也需要訴諸負(fù)面清單的設(shè)立，即部分學(xué)者認(rèn)為“工具理性對(duì)司法意義的消解，智慧管理對(duì)司法自主的削弱，智慧應(yīng)用對(duì)司法平等的分化以及服務(wù)外包對(duì)司法公信的威脅”［12］。如何處置公民個(gè)人信息的決定權(quán)在工具的手上，工具的運(yùn)轉(zhuǎn)效果又與公民個(gè)人信息掛鉤，在這樣的對(duì)應(yīng)關(guān)系中，人們對(duì)理性工具自然會(huì)產(chǎn)生懷疑。

2.調(diào)整范圍

從司法實(shí)務(wù)要求來(lái)看，現(xiàn)階段的人工智能雖尚存在技術(shù)缺陷，但是為避免可能出現(xiàn)的法治化危機(jī)，也需要給人工智能設(shè)立負(fù)面清單，盡可能規(guī)避人工智能給司法實(shí)務(wù)所帶來(lái)的技術(shù)風(fēng)險(xiǎn)。設(shè)立負(fù)面清單調(diào)整人工智能技術(shù)規(guī)范的關(guān)鍵在于規(guī)范人工智能算法。通常人工智能算法遁于技術(shù)“黑箱”的保護(hù)，不具有公開(kāi)性，而算法運(yùn)行過(guò)程的私密性則與司法公開(kāi)的原則相違背，如此一來(lái)，在人工智能應(yīng)用于司法實(shí)踐的過(guò)程中就必然要設(shè)立負(fù)面清單以規(guī)范人工智能算法。負(fù)面清單不僅要防止算法因“非因果性和不確定性”導(dǎo)致的安全風(fēng)險(xiǎn)［13］，規(guī)范人工智能算法，還要規(guī)范“算法與數(shù)據(jù)之間復(fù)雜動(dòng)態(tài)關(guān)系”［14］。以邏輯演算方式確定司法邏輯，將統(tǒng)一司法邏輯標(biāo)準(zhǔn)賦予人工智能，增加其因果性和確定性是解決算法的“非因果性和不確定性”之必由途徑。同時(shí)要保障算法運(yùn)行中數(shù)據(jù)輸入的充分性和客觀真實(shí)性，以可預(yù)見(jiàn)性司法邏輯推導(dǎo)的司法決定規(guī)制算法與數(shù)據(jù)間的不確定關(guān)系，降低或者減少因?yàn)樗惴ú淮_定或不公開(kāi)、數(shù)據(jù)輸入不真實(shí)或不完整帶來(lái)的法律風(fēng)險(xiǎn)。在此基礎(chǔ)上依然要強(qiáng)調(diào)法律數(shù)據(jù)的充分結(jié)構(gòu)化與類型化，法律數(shù)據(jù)不同于其他數(shù)據(jù)，由于其專業(yè)性通常會(huì)涉及到諸多的法律術(shù)語(yǔ)，規(guī)范法律術(shù)語(yǔ)的解釋，建立統(tǒng)一法律術(shù)語(yǔ)解釋的數(shù)據(jù)庫(kù)，也是促進(jìn)建立標(biāo)準(zhǔn)化算法的前提。

建立起基本的地方統(tǒng)一數(shù)據(jù)標(biāo)準(zhǔn)，適當(dāng)保留地方特色規(guī)范。地方規(guī)范是非正式制度的主體，在地方司法實(shí)務(wù)中也起著關(guān)鍵作用，人工智能在司法實(shí)務(wù)中的應(yīng)用多以各個(gè)地方的司法機(jī)關(guān)為單位進(jìn)行開(kāi)展，不同主體的應(yīng)用內(nèi)容或者范圍也有所不同，例如前文所述的河北高院研發(fā)的“智審系統(tǒng)”等。但正是由于每個(gè)地區(qū)應(yīng)用的范圍不同，所開(kāi)發(fā)的人工智能系統(tǒng)也不一樣，因此在人工智能內(nèi)部的算法操作也各不相同，基礎(chǔ)算法不一樣再加上地區(qū)本身針對(duì)不同問(wèn)題的地方規(guī)范不同，最后的結(jié)果也有所出入。因此探討人工智能的應(yīng)用范圍，要高度關(guān)注涉及地方規(guī)范的人工智能，對(duì)屬于地方規(guī)范的，應(yīng)當(dāng)在規(guī)范其統(tǒng)一標(biāo)準(zhǔn)的大前提下細(xì)化地方規(guī)則。

刑法應(yīng)規(guī)制人工智能以防止其濫用，人工智能的濫用會(huì)使社會(huì)公眾陷入“塔西佗陷阱”，也會(huì)使犯罪分子有更多攻擊對(duì)象和攻擊目標(biāo)。一方面要建立起對(duì)于人工智能系統(tǒng)的“防護(hù)罩”，以技術(shù)手段保護(hù)人工智能系統(tǒng)不受侵犯，保障人工智能數(shù)據(jù)庫(kù)，但是最主要的是要以刑法法律規(guī)制有關(guān)的侵犯、偽造數(shù)據(jù)庫(kù)和算法程序的行為來(lái)充分保障人工智能的基本數(shù)據(jù)和算法不受污染，從而保障人工智能系統(tǒng)所做出結(jié)果的客觀性和公正性［15］。另一方面，以刑法這一嚴(yán)厲的手段來(lái)規(guī)制有關(guān)濫用人工智能的犯罪，可以極大程度地平衡公眾、集體以及社會(huì)對(duì)于人工智能獲取其信息數(shù)據(jù)及將人工智能應(yīng)用于司法實(shí)務(wù)對(duì)他們所帶來(lái)的影響之間的矛盾和沖突。

五、結(jié)語(yǔ)

現(xiàn)如今網(wǎng)絡(luò)技術(shù)進(jìn)步，大數(shù)據(jù)及人工智能以極快的速度發(fā)展，針對(duì)司法實(shí)務(wù)的需求，人工智能應(yīng)用于司法實(shí)務(wù)的趨勢(shì)不可阻擋。我國(guó)現(xiàn)階段的人工智能技術(shù)還不成熟，尚處于弱人工智能階段，“法律人工智能仍屬一種統(tǒng)計(jì)型、經(jīng)驗(yàn)型、材料準(zhǔn)備型、文字模板型的弱人工智能，低效且適用范圍窄”，如今雖然未面臨著是否淘汰法官、檢察官的選擇，但是也面臨著人工智能所帶來(lái)的技術(shù)風(fēng)險(xiǎn)。隨著技術(shù)水平的不斷提高，當(dāng)強(qiáng)人工智能時(shí)代來(lái)臨時(shí)，現(xiàn)有框架內(nèi)的司法活動(dòng)也將面對(duì)全新的風(fēng)險(xiǎn)和挑戰(zhàn)，屆時(shí)也必將面臨著新的選擇。

維克托說(shuō)：“法律大數(shù)據(jù)以一種前所未有的方式，通過(guò)對(duì)海量法律數(shù)據(jù)進(jìn)行分析，對(duì)法律問(wèn)題進(jìn)行預(yù)判，獲得巨大價(jià)值的產(chǎn)品和服務(wù)，或得出新的認(rèn)知、深刻的觀點(diǎn)和主張。”［16］不可否認(rèn)的是，人工智能帶來(lái)的變革性方式在很大程度上給人類活動(dòng)帶來(lái)了技術(shù)上的便利，在司法實(shí)務(wù)中可以緩解案多人少、司法實(shí)務(wù)繁重等現(xiàn)狀。但是人工智能的風(fēng)險(xiǎn)是不可輕視的，網(wǎng)絡(luò)惡意的隱蔽性就像利維坦般，若不為其設(shè)置禁區(qū)則會(huì)像洪水猛獸般侵犯著公眾利益，挑戰(zhàn)司法的權(quán)威性以及公正性，甚至?xí){到社會(huì)秩序和國(guó)家安全。

在弱人工智能時(shí)代，需要推動(dòng)人工智能技術(shù)的發(fā)展，優(yōu)化算法結(jié)構(gòu)，提高算法的科學(xué)性和準(zhǔn)確性。完善數(shù)據(jù)庫(kù)，保證數(shù)據(jù)充足和數(shù)據(jù)客觀真實(shí)，深入挖掘數(shù)據(jù)，并且探究建造數(shù)據(jù)與算法程序背后所對(duì)應(yīng)的司法活動(dòng)規(guī)律，提高人工智能的智能化，減少人工智能帶來(lái)的技術(shù)性風(fēng)險(xiǎn)，更好地推動(dòng)司法實(shí)務(wù)工作的發(fā)展。

不論是現(xiàn)在還是未來(lái)，人工智能技術(shù)在司法實(shí)務(wù)中的應(yīng)用應(yīng)當(dāng)是有所節(jié)制的，應(yīng)當(dāng)根據(jù)案件的復(fù)雜程度以及案件的社會(huì)影響，并且考慮原被告雙方的爭(zhēng)議焦點(diǎn)等，以此來(lái)確定人工智能的介入深度。針對(duì)人工智能在司法實(shí)務(wù)中的整個(gè)發(fā)展態(tài)勢(shì)，筆者的觀點(diǎn)是，不論人工智能技術(shù)的發(fā)展如何，即使是到達(dá)強(qiáng)人工智能時(shí)代，人工智能技術(shù)還是應(yīng)當(dāng)多應(yīng)用于非裁判性實(shí)務(wù)當(dāng)中，人工智能依然只能充當(dāng)司法實(shí)務(wù)中起輔助和參謀作用的初審“檢察官、法官”，人工智能不能完全取代人類做出決定性的決定和裁判。人工智能與司法實(shí)務(wù)的融合是長(zhǎng)期的必然趨勢(shì)，在運(yùn)用人工智能時(shí)一定要充分結(jié)合我國(guó)司法實(shí)務(wù)的情況，考慮我國(guó)司法和法治改革。將人工智能技術(shù)運(yùn)用于司法實(shí)務(wù)中不應(yīng)操之過(guò)快，需要不斷探索和各方努力來(lái)共同促進(jìn)中國(guó)法治的現(xiàn)代化，共同實(shí)現(xiàn)司法的公平正義。