美國司法實踐中的人工智能：問題與挑戰(zhàn)

李本（Benjamin L. Liebman）

哥倫比亞大學法學院教授，中國法律研究中心主任

最近一段時間，“AI”（人工智能）一詞在中國大火，許多學科均在思考如何用信息技術(shù)改造自己，中國法律界亦不甘落后：從各種法律人工智能研討會到形形色色的法律服務(wù)機器人、裁判文書自動生成系統(tǒng)，法律人工智能的建設(shè)與應(yīng)用正如火如荼地展開。與中國相同，在美國，法律人工智能也引發(fā)了學界與實務(wù)界廣泛的討論。

一、人工智能在美國刑事訴訟程序中的應(yīng)用

在美國法律人工智能領(lǐng)域，引起最為廣泛討論的問題聚焦于算法在刑事訴訟程序中的應(yīng)用。在刑事訴訟程序中，算法已經(jīng)被大量運用于預測個體是否會再次犯罪、是否會在開庭日出庭等的可能性，從而影響關(guān)于保釋、量刑和假釋的決定。早在幾年前，美國就開發(fā)了COMPAS、PSA和LSI-R三種主要的風險評估軟件。目前美國已有一半以上的州利用這些軟件來輔助法官量刑。其中，一些州使用模型來辨別哪些在押人員會在被釋后再次犯罪，從而降低累犯率。而鑒于美國遠高于世界平均水平的被羈押率，實務(wù)界同時希望在AI的幫助下通過更精確的風險評估來降低羈押率。另一些州則直接依靠軟件作出量刑。因此法律AI的預測功能對美國法律界尤為重要。

客觀地講，風險評估并不是新興的領(lǐng)域，它一直是量刑和假釋裁定的組成部分。過去，這種評估依據(jù)的是法官的“直覺、本能和正義感”，而現(xiàn)在它將依賴于精算模型和算法。COMPAS與LSI-R模型涉及五個主要的領(lǐng)域：犯罪的情況、人際關(guān)系、個性、家庭、還有社會排斥程度。由于這些軟件的專利性，確切的考慮因素和計算權(quán)重外界是不得而知的。有學者研究稱，這些模型可能還包括工作經(jīng)歷、經(jīng)濟狀況、家庭成員犯罪記錄、年齡、性別、婚姻狀況、福利、教育水平等要素。值得一提的是，其中的一些模型是為假釋裁決而設(shè)計的，現(xiàn)在被應(yīng)用于量刑。

實踐中，這些模型首先會根據(jù)與不特定于被評估者個人的歷史數(shù)據(jù)來做出風險評估。隨后，這些模型會針對被評估者個人提出一系列的問題（有時數(shù)量可能達到甚至超過100個），并從評估者個人回答或是從其犯罪記錄中提取答案。問題的答案會進一步和歷史數(shù)據(jù)進行比對。盡管如此，許多學者認為這樣的模型會在適用于被告人個體時出現(xiàn)偏差，因為這些模型考慮了大量與個體情況無關(guān)的因素。與此同時，另一些納入這些模型的因素則帶有內(nèi)在的偏見。換言之，這些模型可能在預估某一群體的累犯風險時相對可靠，但是對于某一個人的累犯風險的預測卻會失準。此外，雖然累犯風險評估一直以來都是量刑中需要考慮的一個因素，但它也僅僅是因素之一——例如，被告人的道德可責性也時常會納入量刑的考量。但是，依靠算法來進行決策使量刑在很大程度上取決于對被告人累犯風險的評估，將累犯風險變成量刑中的主導因素，甚至是唯一因素。這樣的結(jié)果是量刑僅僅關(guān)注被告人累犯的可能性，卻忽視了對監(jiān)禁本身是否可以降低累犯概率的考量。

二、人工智能的司法挑戰(zhàn)

在美國，使用機制并不透明的算法來取代法官的自由裁量引發(fā)了眾多的批評，擔憂和在法律上對人工智能的挑戰(zhàn)，歸納起來有如下幾點：

一是準確性問題。有學者通過實證研究證明這些算法并不能很好地預測未來的暴力犯罪。一項研究顯示，在被算法預測的未來兩年內(nèi)實施暴力犯罪的人中，僅有20% 實施了暴力犯罪。就算范圍擴大到所有犯罪，算法預測的正確率亦僅有61%。據(jù)此，部分學者認為AI及其算法在風險預測領(lǐng)域并不優(yōu)于其他方法。

二是社會問題。具體而言，量刑應(yīng)當依據(jù)社會經(jīng)濟的不利因素嗎？算法在預測評估時會參考對方及其親屬的生活環(huán)境、受教育程度、收入情況、違法記錄等因素，這便形成了一種壓制貧困者的體制。1部分學者認為算法會根據(jù)一般認識將被預測的個體區(qū)分為窮人、富人，并以他們身份作為其危險性高低的重要判斷因素。盡管這些算法并沒有直白地詢問或是考量被告人的種族，但是其中很多問題設(shè)計卻體現(xiàn)了同樣的目的。許多學者已經(jīng)提出很有說服力的論證，證明這些設(shè)計可能會引發(fā)種族偏見和歧視。例如，被評估對象是否與警察打過交道這一問題。在美國的大城市，年輕的黑人經(jīng)常會被警察攔下來盤問。這樣的問題顯然偏向性地增高了黑人被評估者被預測的累犯風險。同樣地，被評估者會被詢問，自己的家庭成員是否曾經(jīng)有犯罪記錄。鑒于在美國，黑人的被羈押率要遠遠高于白人，這樣的問題同樣會過度預測黑人受訪者在未來再次犯罪的風險。因此，是否與警察打過交道、是否有家庭成員被定罪這類問題很大程度上相當于直接詢問被評估者的種族，進而把種族和累犯的可能性聯(lián)系起來。學術(shù)研究也證明，這些模型過度預測了黑人被評估者在未來再次犯罪的概率，同時也過低地預測了白人被評估者在未來累犯的概率。綜上，雖然美國不允許開發(fā)者在這些軟件、算法和模型中明確寫入種族等因素，但因某一些考慮因素客觀上與種族相互關(guān)聯(lián)，它們也就成為了將種族與風險預測相連的媒介。

三是正當程序問題。鑒于負責設(shè)計這些算法的公司拒絕公開它們的算法或這些算法所考量的要素，被告人也就無從知曉這些算法究竟是如何設(shè)計的。同時，目前針對法律程序中算法的使用，幾乎不存在任何規(guī)則或者標準。這就在一定程度上形成了所謂的“黑箱”。正是這一擔憂使人工智能在美國司法系統(tǒng)中的運用引發(fā)批評和爭議，并帶來了在現(xiàn)實中的司法挑戰(zhàn)。最近在威斯康星州便發(fā)生了一起典型的案件（State v. Loomis）。該州一法院使用COMPAS作為量刑過程中的一環(huán)，被告認為法官違反了正當程序原則并上訴到威斯康星州最高法院。此案在美國引起了較大的爭論，被告的部分主張也基本反映了當前對法律AI的一些批判觀點：其一，被告應(yīng)有權(quán)檢查法律AI的算法，如何科學透明地公開算法信息是法院必須面對的；其二，算法的科學有效性和正確性值得懷疑；其三，算法量刑侵犯了量刑個別化的權(quán)利；其四，使用性別作為量刑考量違反憲法。威斯康星州最高法院最后駁回了被告的訴訟請求，主要原因在于州最高法院認為使用算法量刑沒有違反正當程序原則，且在使用法律AI的同時法官依然可以做到量刑個別化——在威斯康星州，算法只是量刑的一個因素，并不是唯一的因素。不過該州最高法院亦借此案要求法官向被告人解釋其在做出量刑決定時所考量的因素并且提醒法官警惕使用COMPAS算法所可能帶來的偏見。

對于本案的處理結(jié)果，有學者批評道：本案過后，法官使用的算法依然沒有得到公開，“黑箱”依然可能存在。另外，相關(guān)機構(gòu)未能對法官如何使用風險評估系統(tǒng)給出充分的指導。換句話說，法官真的理解自己在使用工具嗎？如若法官不能掌控好AI、算法，很有可能會導致種族歧視等社會問題。更為致命的一點在于，算法量刑工具的虛假吸引力風險依舊存在。和其他國家的法官類似，美國法官很多時候?qū)I和算法持樂觀態(tài)度，認為其具有科學性和專業(yè)性，操作起來也方便快捷，因而喜歡使用。殊不知算法模型的建立是依據(jù)經(jīng)驗法則的，法律AI本身其實是另一種形式的經(jīng)驗證據(jù)；長期使用會有過度重視“專家”的經(jīng)驗證據(jù)的風險。

當然，我們不能忽視法律人工智能支持者們的論點。他們認為，像這些模型一樣，法官同樣持有偏見，而算法可以提供一個用來減少人類偏見的客觀標尺。對此，一些學者提出，算法并不一定比人更能克服偏見，但不會被主觀情感左右的AI在某種程度上或許能夠限制人為偏見或提供客觀基準。此外，一些州的數(shù)據(jù)表明，算法在減少被羈押率方面確實有一定的作用。而面對美國法院普遍存在的訴訟爆炸、案件積壓問題，人工智能高效的運算、決策能力能使大量事實清楚、情節(jié)簡單的案件得到迅速處理。支持者們希望通過降低積壓的案件來減少案件當事人因為案件審理緩慢而遭到的不公正待遇。

除法院之外，類似的法律AI也被應(yīng)用于其他法律領(lǐng)域，典型的就是美國警察執(zhí)法使用的軟件和算法。但其重點不在預測個體犯罪的可能性，而是犯罪可能發(fā)生的時間、地點，從而使警方能合理配置警力資源。不過與法院使用的人工智能一樣，其使用風險即在偵查貧困社區(qū)犯罪方面形成惡性反饋循環(huán)：每次出警偵查到的輕微犯罪將會形成新的數(shù)據(jù)，而這些數(shù)據(jù)又會促成更多的出警，因為模型在預測輕微犯罪（“滋擾型犯罪”）方面的優(yōu)先度高于重罪，并且其考量因素可能讓貧窮本身成為一種罪行。長此以往，對少數(shù)族裔社區(qū)的輕微犯罪將會產(chǎn)生更多的逮捕，同時以數(shù)據(jù)為基礎(chǔ)的犯罪地圖會與貧困區(qū)域重合。如此，有學者警告稱，警方使用的預測模型將會令傳統(tǒng)的“罪后出警”向“罪前出警”轉(zhuǎn)變，將普通公民轉(zhuǎn)變?yōu)橄右煞?；同時預測型出警還會助長種族歧視的風險——這些問題都是目前美國警方要著力解決的。

在司法領(lǐng)域之外，一些律所和法律公司也利用AI來進行電子開示和結(jié)果預測，并利用自然語言處理技術(shù)篩選與案件有關(guān)的文檔。而在法學研究領(lǐng)域，對于機器學習技術(shù)、AI和算法的研究，美國法學界可以說是剛剛起步，對不少既存和設(shè)想中的問題的驗證與解決還停留在最初階段。與中國的法學家們一樣，多數(shù)美國法學家也對電腦技術(shù)不甚了解，缺乏相應(yīng)的技能。因此在研究法律人工智能時，多學科、跨領(lǐng)域的合作相當重要，而法律人工智能亦會是法律實證研究的新領(lǐng)域。

三、結(jié)語

綜上所述，目前，人工智能在美國快速發(fā)展，而違反正當程序、歧視、法律私有化和算法不透明等關(guān)于這一技術(shù)的諸多問題與質(zhì)疑也隨之而來。為了人工智能在法律領(lǐng)域應(yīng)用的繼續(xù)發(fā)展，我們需要對它的優(yōu)點與不足進行一番坦誠地討論。同時，也需要增加人工智能技術(shù)的透明性。公眾對司法的信任建立在司法透明的基礎(chǔ)上：如果這些算法繼續(xù)保持神秘并且AI發(fā)展的重心始終圍繞著公司的利潤而非公正與平等，那么AI將很難取得公眾對其在司法中運用的信任。這一信任不僅關(guān)乎AI的成功發(fā)展，同時也關(guān)乎司法體系長期、健康地運行。