• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智慧法院建設(shè)的中國經(jīng)驗及其路徑優(yōu)化
    ——基于大數(shù)據(jù)與人工智能的應用展開

    2021-12-29 23:09:43王祿生
    關(guān)鍵詞:法院司法人工智能

    王祿生

    (東南大學 法學院,江蘇 南京 211189)

    智慧法院建設(shè)作為近年來法院系統(tǒng)最為重要的改革之一,受到實務界和學界的廣泛關(guān)注。隨著改革的推進與成效的釋放,智慧法院逐步與“法治中國的一張靚麗名片”“中國特色的智慧司法”等標簽相關(guān)聯(lián)。[1]部分第三方評價機構(gòu)也對智慧法院建設(shè)作出了“躋身世界前列”的整體評價。[2](P.1)

    在此背景下,擺在學界面前最重要的問題是我國的智慧法院建設(shè)是否真正達到了“世界前列”的水平?智慧法院建設(shè)過程中是否形成了不同于世界主流國家的“中國經(jīng)驗”?如果有,這些中國經(jīng)驗具體應以何種面貌呈現(xiàn)?它們對智慧法院建設(shè)產(chǎn)生了何種影響?盡管學界對智慧法院建設(shè)的理論研究已經(jīng)為我們提供了充足的智識支撐,但令人遺憾的是既有研究與最新的實踐話語形成了一定的斷層,對智慧法院建設(shè)中“中國經(jīng)驗”的理論反思與系統(tǒng)歸納有待于繼續(xù)深化。有鑒于此,本文從現(xiàn)有智慧法院建設(shè)的實踐出發(fā),歸納概括出智慧法院建設(shè)的“中國經(jīng)驗”,并在此基礎(chǔ)上提出突破智慧法院建設(shè)障礙的對策建議,以推進我國智慧法院建設(shè)實踐的繼續(xù)深入。

    一、智慧法院建設(shè)的實踐考察

    智慧法院建設(shè)是在法院信息化建設(shè)的格局之下充分依托法院數(shù)字化與網(wǎng)絡(luò)化的成果,利用大數(shù)據(jù)與人工智能等關(guān)鍵技術(shù),將智能化全方位地貫穿于人民法院的全部業(yè)務和辦案流程當中,從而走出一條司法公開、訴訟服務、審判執(zhí)行、司法管理轉(zhuǎn)型升級的新型法院現(xiàn)代化道路。

    智慧法院雖然與法院信息化建設(shè)具有承繼關(guān)系,但它更強調(diào)智能技術(shù)的應用和法院業(yè)務的智能化改造。因此,筆者對智慧法院建設(shè)的實踐考察主要圍繞大數(shù)據(jù)與人工智能技術(shù)在司法業(yè)務中的現(xiàn)有應用及其發(fā)展趨勢展開。

    (一)司法公開的智能化

    如果說傳統(tǒng)信息化技術(shù)旨在提升社會公眾獲取司法信息的便利程度,那么智慧法院建設(shè)則更加關(guān)注通過大數(shù)據(jù)與人工智能技術(shù)提供個性化的司法信息推送和探索式的司法公開檢索。

    1.通過智能技術(shù)提供個性化的司法信息推送當前,中國裁判文書網(wǎng)、中國審判流程信息公開網(wǎng)、執(zhí)行信息公開平臺、庭審公開網(wǎng)四大平臺已經(jīng)成為司法公開的重要陣地,極大地提升了社會公眾獲取司法信息的便捷化程度。

    然而,上述平臺也存在著用戶體驗不佳、個性化程度不高的問題。在此背景下,智慧法院建設(shè)強調(diào)借助大數(shù)據(jù)與人工智能技術(shù),依托先進的圖(OCR)、文(NLP)、聲(語音識別)、像(視頻解構(gòu))處理技術(shù)實現(xiàn)對裁判文書與庭審視頻等非結(jié)構(gòu)化、半結(jié)構(gòu)化司法公開信息的結(jié)構(gòu)化處理,實現(xiàn)從海量的裁判文書與庭審視頻庫中提取、挖掘關(guān)鍵要素的目的。

    更進一步來講,即以數(shù)據(jù)挖掘為基礎(chǔ)形成司法公開知識圖譜,并在此基礎(chǔ)上依據(jù)社會公眾的需求與偏好個性化地推送司法信息。個性化司法公開信息推送背后的理念是個性化興趣閱讀,而個性化興趣閱讀則是大數(shù)據(jù)挖掘的常見應用。這在《最高人民法院關(guān)于加快建設(shè)智慧法院的意見》(下稱《智慧法院意見》)中被表述為“深度分析用戶訴訟行為,挖掘用戶個性化需求,精準推送司法公開信息”。

    2.通過智能技術(shù)提供探索式的司法公開檢索探索式檢索需要建立在對海量非結(jié)構(gòu)化、半結(jié)構(gòu)化司法文書進行結(jié)構(gòu)化處理的基礎(chǔ)之上,也是一種典型的大數(shù)據(jù)應用。

    在2016年發(fā)布的《人民法院信息化建設(shè)五年發(fā)展規(guī)劃(2016—2020)》(下稱《法院信息化意見》)中就明確提及“實現(xiàn)平臺內(nèi)和平臺間案件在一審、二審、再審過程中流程、文書、執(zhí)行等信息自動關(guān)聯(lián),實現(xiàn)案件及其關(guān)聯(lián)案件‘一站式’信息查詢”。隨后,《智慧法院意見》在提及司法公開時強調(diào)要“深度關(guān)聯(lián)、便捷查詢”。深度關(guān)聯(lián)與便捷查詢功能的實現(xiàn)將會極大改善公眾獲取司法公開信息的精準程度。

    (二)訴訟服務的智能化

    傳統(tǒng)信息化技術(shù)在訴訟服務中的應用旨在大幅度提高當事人獲取訴訟服務的便利化程度。此類應用以“電子訴訟”為典型,通過平臺對網(wǎng)上立案、網(wǎng)上送達、網(wǎng)上質(zhì)證、網(wǎng)上調(diào)解、網(wǎng)上開庭等流程和環(huán)節(jié)進行整合。在此基礎(chǔ)上,當前各地法院系統(tǒng)還結(jié)合大數(shù)據(jù)與人工智能技術(shù)嘗試構(gòu)建定向化與專業(yè)化的訴訟服務。

    1.通過智能技術(shù)提供定向化的訴訟服務 通常來說,不同的訴訟當事人會有差異化的訴訟請求,傳統(tǒng)的“電子訴訟”重在解決網(wǎng)絡(luò)化問題,以公眾更便捷地獲取訴訟服務為關(guān)注點,但卻無法針對每個訴訟當事人的需求提供定向化的訴訟服務。因此,如何向不同訴訟請求的當事人提供因人而異的訴訟服務是當前智慧法院建設(shè)訴訟服務版塊的重要關(guān)注點之一。部分法院針對不同年齡階段、不同文化層次、不同習慣偏好、不同生活環(huán)境的服務對象,采用線上與線下相結(jié)合的不同的服務方式滿足其差別化的個性需求,實現(xiàn)司法服務的定向化。

    為精準提供定向化的訴訟服務,以大數(shù)據(jù)為支撐,深度分析用戶的訴訟行為,挖掘用戶個性化需求的新型訴訟服務模式也開始在本輪智慧法院建設(shè)中展開部署。[3]例如,科技部會同最高人民法院、最高人民檢察院、司法部等,組織專家制定了國家重點研究的名為“公正司法與司法為民關(guān)鍵技術(shù)研究與應用示范”的專題(以下簡稱“兩高一部課題”),擬投入超過9億元財政資金用以推動司法場景智能技術(shù)的研發(fā)。在該專題的第一批指南中就專門設(shè)立了智慧訴訟服務的研究內(nèi)容,例如,“研制跨網(wǎng)系網(wǎng)上調(diào)解裝備,支持多方接入的遠程視頻調(diào)解,能夠根據(jù)糾紛特點、成因等智能生成司法調(diào)解方案”(1)該專題共有三批研究指南,分別在2018年、2019年和2020年發(fā)布,第一批指南的16個項目擬安排國撥經(jīng)費4.5億,第二批指南的8個項目擬安排國撥經(jīng)費3億,第三批指南的11個項目擬安排國撥經(jīng)費2.2億。筆者所在的團隊于2018年成功獲批與“智慧訴訟服務”相關(guān)的“面向訴訟全流程的一體化便民服務技術(shù)及裝備研究”項目。。此種基于糾紛特點生成調(diào)解方案的技術(shù)就帶有根據(jù)訴訟當事人差異而定向化干預的特征。

    2.通過智能技術(shù)提供專業(yè)化的訴訟服務 《智慧法院意見》第15條明確提到,挖掘利用海量司法案件資源,提供面向各類訴訟需求的相似案例推送、訴訟風險分析、訴訟結(jié)果預判、訴前調(diào)解建議等服務,為減少不必要訴訟、降低當事人訴累提供有力支持。這實際上是在大數(shù)據(jù)“聚、通、用”的基礎(chǔ)上通過海量文書建立知識圖譜,從而形成訴訟法律知識庫,并在需要時對勝訴概率、訴訟風險等進行預測,是比較典型的人工智能的應用?!皟筛咭徊空n題”第一批指南也包括“研究面向多方證據(jù)關(guān)聯(lián)分析的訴訟風險智能分析和結(jié)果預測技術(shù)”等智能化訴訟服務的研究內(nèi)容,該內(nèi)容對應指標“支持對證據(jù)有效性、訴訟時效性、當事人法律行為規(guī)范性、訴訟請求合理性等至少4類風險進行識別,并預測案件審判結(jié)果”,具有鮮明的智能化技術(shù)特征。

    (三)審判執(zhí)行的智能化

    法院信息化建設(shè)最初是圍繞著案件管理系統(tǒng)展開的,這是一個將辦案流程解構(gòu)并電子化的過程。此種信息化模式主要站在“管理”的視角,通過程序、期限等要素的流程管控對法官形成約束,進而提升辦案質(zhì)量。然而,該模式對“服務”的關(guān)注嚴重不足,尤其是沒有從法官的需求出發(fā)來構(gòu)建類案推送、文書糾錯、風險預警等輔助審判執(zhí)行的功能模塊。因此,在智慧法院建設(shè)時期就開始嘗試用大數(shù)據(jù)和人工智能技術(shù)來實現(xiàn)審判執(zhí)行的自動化和精準化。

    1.通過智能技術(shù)實現(xiàn)簡單工作自動化 所謂簡單工作自動化是指把法院內(nèi)大量基礎(chǔ)性、簡單性、重復性的工作通過人工智能自動處理,從而提高訴訟效率。這在《智慧法院意見》中被概括為“不斷提高法律文書自動生成、智能糾錯及法言法語智能推送能力,庭審語音同步轉(zhuǎn)錄、輔助信息智能生成及實時推送能力”。以在山東全省176家法院上線的智能輔助審判系統(tǒng)為例,該系統(tǒng)不僅可以自動識別電子卷宗的信息,還可以將信息自動回填至案件信息表中,減少了人工錄入的工作量。[4]蘇州、南通法院借助語音識別、自然語義等技術(shù),實現(xiàn)了在庭審過程中語音向文字的同步智能轉(zhuǎn)化、關(guān)鍵詞自動回填、判決書自動生成等目標。[5]河北省法院借助“智審1.0”審判輔助系統(tǒng)實現(xiàn)了對整個電子卷宗的智能分析,并可一鍵自動生成多種司法文書,同時實現(xiàn)了固定格式內(nèi)容自然顯示、系統(tǒng)自動進行文書糾錯、減少錯誤概率等功能。[6]廣東法院智審系統(tǒng)通過自動提取案件要素,將經(jīng)過提取加工的案件信息回填進訴訟文書,使訴訟文書中80%的內(nèi)容能夠自動生成。[7]類似的智能技術(shù)在執(zhí)行環(huán)節(jié)上也得到了推廣應用,如浙江省法院通過匯集人口、婚姻、金融、政務、信用、社交等周邊數(shù)據(jù),實現(xiàn)了法院與銀行、政府、工業(yè)、商業(yè)等領(lǐng)域數(shù)據(jù)的匯聚、聯(lián)通,使法院執(zhí)行部門足不出戶即可完成對被執(zhí)行人財產(chǎn)的在線查詢與實時監(jiān)控,同時實現(xiàn)了執(zhí)行力量的異地調(diào)度。[8]

    總的來說,人工智能能夠在資源整合的基礎(chǔ)上替代傳統(tǒng)司法領(lǐng)域中的人工勞動完成一些簡單重復的工作,從而在一定程度上提升了司法效率。由此可見,簡單工作自動化是在弱人工智能時期能夠優(yōu)先實現(xiàn)的環(huán)節(jié)。

    2.通過智能技術(shù)實現(xiàn)決策工作精準化 決策工作精準化是指通過人工智能技術(shù)輔助法官實現(xiàn)在證據(jù)適用上的統(tǒng)一化、在審判環(huán)節(jié)與量刑環(huán)節(jié)上的同案同判化、在執(zhí)行領(lǐng)域的準確高效化。《法院信息化意見》在第30條“建設(shè)基于大數(shù)據(jù)智能服務的審判支持系統(tǒng)”的內(nèi)容中對此作出了規(guī)定:“建設(shè)完善案例參考、量刑規(guī)范、線索發(fā)現(xiàn)、輿情分析等審判支持應用,無縫集成到審判業(yè)務系統(tǒng),智能輔助法官辦案,支持法律統(tǒng)一適用、貫徹證據(jù)裁判原則、裁判文書說理等司法改革要求?!崩?,在證據(jù)統(tǒng)一化方面,貴州法院通過引入大數(shù)據(jù)分析技術(shù),開展刑事案件司法大數(shù)據(jù)建模工作,探索形成統(tǒng)一數(shù)據(jù)標準及數(shù)據(jù)交換共享機制,建立統(tǒng)一證據(jù)指引,把統(tǒng)一的證據(jù)標準嵌入到數(shù)據(jù)化的程序之中,以減少司法的任意性、提高審判的準確性,促進司法公正。[9]在刑事案件量刑輔助方面,福建省廈門市法院依托智能輔助辦案系統(tǒng),對導入案件的當事人信息、案件情節(jié)等自動分析提取,將通過隨機森林和決策樹模擬的案件判決結(jié)果(非簡單基于量刑平均值)與量刑數(shù)據(jù)庫中查找到的相似案件進行對比,幫助法官走出“量刑不統(tǒng)一”的困境,最終實現(xiàn)“同案同判”的目標。[10]在執(zhí)行領(lǐng)域,基于對網(wǎng)絡(luò)空間行為圖譜以及案件關(guān)系、財物關(guān)系和社交圖譜的應用,全國3520家法院都能使用網(wǎng)絡(luò)執(zhí)行查控系統(tǒng)對被執(zhí)行人的存款、股權(quán)、車輛、住房、船舶,甚至支付寶等財產(chǎn)信息進行全程監(jiān)控,從而輔助執(zhí)行人員制定精準的執(zhí)行策略,提高執(zhí)行效率。[11]

    (四)司法管理的智能化

    傳統(tǒng)法院信息化建設(shè)是圍繞案件管理系統(tǒng)展開的,案件管理系統(tǒng)主要服務于對案件質(zhì)量的管理。然而,上述的管理更大程度上是一種事后的、流程意義上的管理。因此,當前智慧法院在司法管理中的創(chuàng)新主要是通過運用大數(shù)據(jù)和人工智能技術(shù)實現(xiàn)由事后管理向事前預防、程序管理向?qū)嶓w管理的轉(zhuǎn)變。

    1.通過智能技術(shù)實現(xiàn)事前預防管理 眾所周知,與傳統(tǒng)信息化技術(shù)相比,大數(shù)據(jù)技術(shù)的應用主要包括數(shù)據(jù)深度挖掘和行為預測。在大數(shù)據(jù)技術(shù)邏輯的影響下,智慧法院建設(shè)高度強調(diào)對風險的預防。第一批“兩高一部課題”指南中就包括了智慧司法管理的內(nèi)容,例如“研究面向?qū)徟辛鞒桃?guī)范化管理的全鏈條監(jiān)管與偏離預警技術(shù)”中的研究內(nèi)容對應的指標要求為“支持面向?qū)徟懈鳝h(huán)節(jié)的審判行為合法合規(guī)監(jiān)督和偏離預警,預警準確率不低于95%”。

    除了風險預警之外,法院基于對大數(shù)據(jù)的應用和挖掘,可以對當前乃至未來一段時間內(nèi)犯罪方式的演化、審判態(tài)勢的發(fā)展提供預測和管理決策,進而提高司法管理水平的科學化。最高人民法院信息中心利用大數(shù)據(jù)管理和服務平臺先后完成了電信網(wǎng)絡(luò)詐騙案件、信用卡詐騙案件、拐賣婦女兒童、國家工作人員職務犯罪等100項專題報告,深入分析了各種犯罪的形態(tài)特征,為制定相應防范措施提供了一定的理論和技術(shù)支持。[11]例如,青海省法院基于審判信息資源庫建成的青海法院數(shù)據(jù)中心能夠為全省法院提供大數(shù)據(jù)智能分析、司法統(tǒng)計、審判動態(tài)分析、審判決策支持等服務。[12]

    2.通過智能技術(shù)實現(xiàn)靜默化管理 智能技術(shù)對法院業(yè)務全流程的監(jiān)管為靜默化管理提供了可能。所謂的“靜默化管理”是指法院工作人員只在違規(guī)時才能感受到“管理”的存在,而在合規(guī)時則感受不到“管理”的存在。如江蘇省推廣的蘇州模式即是通過結(jié)合系統(tǒng)數(shù)據(jù)分析得出綜合偏離度、同判度等數(shù)據(jù),獲知同類案件在不同地區(qū)法官裁判結(jié)果的同判度比例,從而為法官判案提供參考,如此即擺脫了以往“以人盯案”的工作模式,為法院院長、庭長行使審判監(jiān)督管理權(quán)提供了便利。[13]

    綜上所述,與傳統(tǒng)的司法信息化相比,智慧法院建設(shè)更強調(diào)在傳統(tǒng)信息化的基礎(chǔ)上,通過對司法內(nèi)外大數(shù)據(jù)的匯聚和聯(lián)通構(gòu)建各類知識圖譜,實現(xiàn)對司法實踐中各類行為的預測和預警。與傳統(tǒng)信息化強調(diào)的便捷化等特征相比,司法大數(shù)據(jù)與人工智能應用是在網(wǎng)絡(luò)化基礎(chǔ)上的智能化改造,更加強調(diào)個性化司法公開、定向化訴訟服務、專業(yè)化審判服務及靜默化司法管理。

    二、智慧法院建設(shè)的中國經(jīng)驗

    近年來,司法系統(tǒng)的信息化建設(shè)是全球范圍內(nèi)司法改革的主流趨勢。從內(nèi)在邏輯上看,智慧法院建設(shè)屬于司法信息化建設(shè)應有的組成部分。然而,與域外國家司法信息化形成鮮明對比的是,中國智慧法院建設(shè)呈現(xiàn)出地方試點主義、技術(shù)治理主義與國家推進主義相結(jié)合的“中國特色”。上述特征為中國審判體系和審判能力現(xiàn)代化建設(shè)提供了全新的經(jīng)驗。

    (一)地方試點主義

    改革開放以來,推動中國國家建設(shè)的基本動力并非僅有頂層設(shè)計一條路徑。事實上,我國經(jīng)濟體制的歷次重大改革大多是從地方試點開始的。因此,“地方試點主義”(local experimentalism)被西方學者視為是中國經(jīng)濟的奇跡。[14]作為經(jīng)濟領(lǐng)域改革成功路徑在司法領(lǐng)域的投射,“地方試點主義”是中國司法改革的典型特征之一。[15]我國智慧法院建設(shè)取得的成效有相當一部分即來自于“地方試點主義”的改革模式。

    智慧法院建設(shè)過程中的“地方試點主義”體現(xiàn)在兩個方面。第一,在頂層設(shè)計之下,各級地方法院在智慧法院建設(shè)方面有充分的改革自主權(quán);第二,頂層規(guī)劃的內(nèi)容通常概括性較強,地方各級法院可以在實踐中對其加以創(chuàng)新,甚至可以超出規(guī)劃的范圍進行創(chuàng)新。[16]

    從中國智慧法院建設(shè)的過程看,最高法院的頂層設(shè)計概括性和原則性較強,而地方法院在智慧法院方面的試點就成了推進智慧法院建設(shè)的重要動力,因此,從某種程度上說,地方法院才是中國智慧法院建設(shè)的真正舞臺。

    觀察中國智慧法院建設(shè)的“地方試點主義”還應當將其置于政治錦標賽的視野當中?!罢五\標賽”(political tournaments)最初被應用于對政府行為的分析當中,是指“上級政府對多個下級政府部門的行政長官設(shè)計的一種晉升的競爭機制,競爭優(yōu)勝者將會獲得晉升”[17]。同一行政級別的地方官員, 無論是省、市、縣還是鎮(zhèn)一級,都處于一種政治晉升的博弈狀態(tài)。[18]這種政治環(huán)境影響到了司法場域,并導致同級法院之間、法院與其他國家機關(guān)之間圍繞著人、財、物等資源進行博弈。“政治錦標賽”強化了“地方試點主義”中司法機關(guān)圍繞智慧法院展開創(chuàng)新的動力。

    總之,“地方試點主義”是觀察人工智能技術(shù)司法應用的中西差異與法檢差異的重要切入點。一方面,歐美主要國家的法院在應用大數(shù)據(jù)與人工智能技術(shù)方面秉承相對消極和保守的態(tài)度,并且其缺乏基于試點競爭以獲得更大資源支持的制度環(huán)境;另一方面,由于強調(diào)自上而下的一體化部署,地方檢察院在智慧檢務建設(shè)相關(guān)領(lǐng)域的自主性較為有限,因此也就未能呈現(xiàn)出如智慧法院建設(shè)一般“百花齊放”的面貌(2)當然,智慧檢務建設(shè)中自上而下推進的路徑也具有自身的優(yōu)勢,它較好地回避了重復投入和標準差異的問題,使得智慧檢務建設(shè)呈現(xiàn)出極強的一體化格局。。

    (二)技術(shù)治理主義

    技術(shù)治理(technocracy)與現(xiàn)代科學技術(shù)的興起及其呈現(xiàn)出的巨大威力密切相關(guān)。20世紀下半葉以來,技術(shù)治理已經(jīng)成為全球社會治理和政治活動最重要和最明顯的趨勢。一般認為,技術(shù)治理的核心立場是運用科學原理和技術(shù)方法來治理社會。[19]當然,“技術(shù)治理不僅指代實體的技術(shù),也指代支配創(chuàng)新行為策略的深層次邏輯”[20],也就是將技術(shù)作為突破改革困境和推動治理創(chuàng)新的核心工具。改革開放之后,我國社會結(jié)構(gòu)就開始由總體性支配向技術(shù)治理轉(zhuǎn)型。這一過程被視為改革過程中重要的“中國經(jīng)驗”。[21]在現(xiàn)代國家治理體系與治理能力現(xiàn)代化的過程中,技術(shù)治理也被視作重要的組成部分。(3)“治理的技術(shù)”意指治理方式的規(guī)范化、技術(shù)化和標準化?!坝眉夹g(shù)治理”是在“科學技術(shù)是第一生產(chǎn)力”的思路下,強調(diào)通過大數(shù)據(jù)、人工智能等前沿技術(shù)達成治理效用。參見劉秀秀《新時代國家治理中技術(shù)治理的雙重維度及其出路》,載《行政管理改革》2019年第10期。隨著大數(shù)據(jù)與人工智能等智能技術(shù)的飛速發(fā)展,近年來,當代技術(shù)治理呈現(xiàn)出“智能治理”的面向[22],智能技術(shù)在國家與社會治理過程中的作用日益凸顯。從這個角度看,智慧法院建設(shè)過程中對智能技術(shù)的強調(diào)和技術(shù)治理的內(nèi)在邏輯是高度一致的。具體而言,就是將智能技術(shù)作為引領(lǐng)司法改革創(chuàng)新和破除司法改革困境的支配因素。

    在中國智慧法院建設(shè)過程中,“技術(shù)治理主義”呈現(xiàn)出鮮明的“智能驅(qū)動”特征,智能技術(shù)在司法場景中的應用呈現(xiàn)出范圍全面性、目標根本性與地位關(guān)鍵性的時代特征。[23]

    其一,中國智慧法院建設(shè)對智能技術(shù)的應用不再局限于傳統(tǒng)的流程管理,而是擴展到“司法流程管理”領(lǐng)域之外的司法公開、訴訟服務、審判執(zhí)行等業(yè)務環(huán)節(jié)。其二,在中國智慧法院建設(shè)過程中,智能技術(shù)的應用不僅被賦予了傳統(tǒng)意義上的提升司法效率、降低司法成本的意涵,還被賦予了直接(非間接)優(yōu)化審判體系、提升司法能力、改善審判質(zhì)效、實現(xiàn)同案同判、維護司法公正等獨特意涵。例如,利用大數(shù)據(jù)與人工智能技術(shù)實現(xiàn)的司法全流程靜默化管理就被賦予了保障司法公正的內(nèi)涵。其三,智能技術(shù)被官方視為破解司法改革難題的重要手段,其地位從法院現(xiàn)代化建設(shè)的配套性手段轉(zhuǎn)變?yōu)榉ㄔ含F(xiàn)代化建設(shè)的關(guān)鍵性因素。

    與中國智慧法院建設(shè)過程中所強調(diào)的“智能驅(qū)動”形成鮮明對比的是,域外智能技術(shù)僅在司法領(lǐng)域的有限場景及非核心領(lǐng)域中緩慢發(fā)展。近年來,相當一部分國家與地區(qū)都在司法信息化方面推出了相應的改革措施,司法信息化日益成為世界范圍內(nèi)司法改革的主旋律。然而,值得強調(diào)的是,這些國家改革的措施以傳統(tǒng)信息化方式為主,包括卷宗電子化、在線解決糾紛等內(nèi)容。在司法信息化過程中,科學技術(shù)只被視作提升司法效率的工具之一,而并未被當作推動司法改革的支配性力量。更為關(guān)鍵的還在于對大數(shù)據(jù)與人工智能技術(shù)的應用,絕大多數(shù)國家的司法系統(tǒng)仍然對此奉行較為消極的態(tài)度。這就與我國智慧法院建設(shè)中呈現(xiàn)出來的技術(shù)治理主義形成了明顯差異。例如,英國從2016年開始推出總額高達12億英鎊的司法改革計劃,其核心是強化現(xiàn)代化技術(shù)在司法場景中的運用,從而改善困擾本國已久的司法拖延問題。這項一攬子的改革計劃包括50多項子項目,內(nèi)容涵蓋電子檔案、在線糾紛解決等等。(4)參見Elina Mockevicute,Online Courts-HMCTS Reforms Programme,https://www.boyesturner.com/article/online-courts-hmcts-reforms-programme,2019年3月19日,2020年9月20日。更全面的信息可參見該項目的官方網(wǎng)站https://www.gov.uk/guidance/the-hmcts-reform-programme,2018年11月9日,2020年9月20日。法國政府從2018年開始推動“2018~2022司法改革規(guī)劃”,整個規(guī)劃擬投入資金達數(shù)十億歐元。從具體的改革內(nèi)容來看,有相當一部分內(nèi)容與司法信息化相關(guān),如要求基層法院公開全部裁判文書內(nèi)容等。(5)規(guī)劃原文參見LOI n°2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice,https://www.legifrance.gouv.fr/affichTexte.do?cidTexte=JORFTEXT000038261631&categorieLien=id,2019年3月24日,2020年9月20日。

    盡管現(xiàn)階段在域外國家的司法信息化改革中也有一些智能化的應用,但整體而言,其并非是針對法院的核心業(yè)務。例如,英國司法改革中大數(shù)據(jù)技術(shù)主要被應用于了解公眾需求、改善用戶對在線系統(tǒng)的體驗(6)參見歐洲司法效率委員會網(wǎng)站https://rm.coe.int/ai-machine-learning-and-the-administration-of-justice-in-england-and-w/16808e4d87,2019年9月15日,2020年9月16日。等方面,其對象主要是社會公眾和法院輔助人員,而并未大規(guī)模地應用于法官的判案程序之中。歐洲地區(qū)應用司法人工智能的國家還包括奧地利和拉脫維亞。(7)參見歐洲司法效率委員會網(wǎng)站https://rm.coe.int/how-is-austria-approaching-ai-integration-into-judicial- policies-/16808e4d81,2018年6月22日,2020年9月16日。例如,奧地利司法系統(tǒng)嘗試引入人工智能技術(shù)協(xié)助電子郵件管理和自動匿名化處理判決書中的個人信息;拉脫維亞也正在探索將機器學習運用于司法實踐的可能性,其主要目的是處理法院的統(tǒng)計數(shù)字,以便擬訂要分配的人力和財政資源的臨時估計數(shù)值。(8)參見European Commission for the Efficiency of Justice,European Ethical Charter on the Use of ArtificialIntelligence in Judicial Systems and Their environment,https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c,2018年12月4日,2020年9月20日??梢钥闯觯蛲鈬夜俜酵苿拥挠邢薜乃痉ㄖ悄芑饕獓@在司法行政管理、改善公眾體驗等非核心業(yè)務領(lǐng)域,而在案件審判等核心業(yè)務方面滲透不足。

    (三)國家推進主義

    中國智慧法院建設(shè)過程中對智能技術(shù)的推進呈現(xiàn)出鮮明的國家推進主義色彩,全程由官方主導。具體而言,官方對智能技術(shù)在司法場景中的應用持開放的態(tài)度,并且通過多層級的規(guī)范性文件予以推動。2016年7月,中共中央辦公廳、國務院辦公廳印發(fā)的《國家信息化發(fā)展戰(zhàn)略綱要》和《“十三五”國家信息化規(guī)劃》,將建設(shè)“智慧法院”列入國家信息化發(fā)展戰(zhàn)略。2017年7月,國務院出臺的《新一代人工智能發(fā)展規(guī)劃》明確將“智慧法庭”列入規(guī)劃,其地位與“智慧政務”“智慧城市”“智能交通”“智能環(huán)?!辈⒘?。與國家戰(zhàn)略同步,最高法院也出臺了《智慧法院意見》,對智慧法院的建設(shè)作出全面規(guī)劃。除了智慧法院的專題規(guī)劃之外,從2016年開始至今,最高人民法院出臺的工作文件中明確提及智能技術(shù)應用的多達20余份。如在《人民法院信息化建設(shè)五年發(fā)展規(guī)劃(2019—2023)》中共有116處提及“智能”一詞;在《關(guān)于全面加強知識產(chǎn)權(quán)司法保護的意見》中明確要求加強知識產(chǎn)權(quán)司法裝備“智能化建設(shè)”,大力推進智能語音識別等技術(shù)應用;在《關(guān)于建設(shè)一站式多元解紛機制 一站式訴訟服務中心的意見》中明確提及“智能化風險評估服務”與“智能化設(shè)備”。

    從智能技術(shù)在域外司法系統(tǒng)應用的現(xiàn)狀來看,相當部分國家的司法系統(tǒng)對智能技術(shù)持消極態(tài)度。2017年,法國司法系統(tǒng)在雷恩和杜埃兩家上訴法院進行了司法人工智能判決結(jié)果預測軟件Predictice的試點。經(jīng)過試點后,法國司法系統(tǒng)得出的結(jié)論是軟件并無顯著價值,它無法判斷案件中的細微差別,也無法充分考量一些案外因素。(9)參見Roseline Letteron,Digital Access to the Law, Les Annales des Mines,http://www.annales.org/enjeux-numeriques/2018/resumes/septembre/03-en-resum-FR-AN-septembre-2018.html,2018年9月3日,2020年9月8日。在此基礎(chǔ)上,2019年,法國政府推出的《司法改革法案》不僅沒有明確支持智能技術(shù)在司法場景中的應用,反而還對其施加了限制,如法案第33條明確禁止基于法官個人身份的大數(shù)據(jù)挖掘。[24]

    歐洲司法效率委員會(European Commission for the Efficiency of Justice)的總結(jié)就很有代表性,該機構(gòu)在《關(guān)于在司法系統(tǒng)及其環(huán)境中使用人工智能的歐洲倫理憲章》中明確指出,歐洲各國司法大數(shù)據(jù)與人工智能技術(shù)主要來自私營部門,并未被納入到公共政策領(lǐng)域,因而沒有受到足夠的重視。(10)參見European Commission for the Efficiency of Justice,European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and Their environment,https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c,2018年12月4日,2020年9月12日。與歐洲相比,美國州一級法院已經(jīng)開始大范圍地嘗試使用人工智能技術(shù)判斷罪犯/嫌疑人的人身危險性,進而以此來決定關(guān)于嫌疑人的審前保釋、量刑及假釋等方面的問題。其中,最為知名的當屬COMPASS。不過,美國司法人工智能的“普遍應用”只是相較于歐洲地區(qū)的國家而言的。一方面,美國聯(lián)邦司法系統(tǒng)對智能技術(shù)仍然持謹慎態(tài)度。美國聯(lián)邦最高法院首席大法官羅伯茨認為,盡管當今世界科學技術(shù)的發(fā)展日新月異,但法院應當像“執(zhí)著的烏龜”一樣對此作出回應。(11)“盡管當今世界科學技術(shù)的發(fā)展日新月異,但我們相信聯(lián)邦最高法院通過穩(wěn)健的步伐終將像執(zhí)著的烏龜一樣贏得最后的勝利?!眳⒁婞S斌、楊奕《美國聯(lián)邦法院2014年度年終報告》,載《人民法院報》2015年1月16日。另一方面,在州法院推動的智能技術(shù)應用也因為算法歧視等多方面的原因而受到廣泛質(zhì)疑。[25]與歐美國家官方層面的消極態(tài)度相比,歐美民間的司法人工智能研發(fā)正在如火如荼地進行,有學者將這種特點總結(jié)為“內(nèi)冷外熱”,也就是官方態(tài)度“冷”、民間態(tài)度“熱”。[26]

    綜上所述,“地方試點主義”極大地激活了地方的活力,使得中國智慧法院建設(shè)呈現(xiàn)出百花齊放的樣態(tài)?!凹夹g(shù)治理主義”對智能技術(shù)的強調(diào)保障了中國智慧法院建設(shè)的先進性,并極大地提升了智能技術(shù)在司法領(lǐng)域應用的深度和廣度。同時,“國家推進主義”極大地提升了中國智慧法院建設(shè)的效率。三大因素的相互疊加和共同影響使得中國智慧法院建設(shè)迅速推進并取得了舉世矚目的成效,走出了一條法院信息化的中國道路。[2]

    三、智慧法院建設(shè)的現(xiàn)實障礙

    雖然地方試點主義、技術(shù)治理主義和國家推進主義共同推動了中國智慧法院的建設(shè)進程,但這樣的“中國經(jīng)驗”客觀上也給智慧法院建設(shè)的深化帶來了一系列現(xiàn)實障礙。實踐中,智慧法院建設(shè)的現(xiàn)狀與理想狀態(tài)仍然存在不小的差距,取得的實際成效在深度和廣度方面均有待于進一步提升。[27]同時,對智慧法院建設(shè)所做的部分嘗試并未真正落地,在技術(shù)和一些理念上還存在偏差。[28]雖然信息化已經(jīng)滲透到人民法院工作的各個方面,但在核心業(yè)務方面的應用還不夠深入、智能化程度較低,功能的完整性、適應性及信息化的覆蓋面還有待于進一步提高。[29]

    (一)區(qū)域協(xié)同發(fā)展不足

    雖然“地方試點主義”在很大程度上激活了智慧法院建設(shè)過程中的地方活力,但客觀上也造成了智慧法院建設(shè)中區(qū)域協(xié)同不足的困境。這具體可以從重復式“創(chuàng)新”、區(qū)域不均衡及標準差異化三個方面進行考查。

    首先,“地方試點主義”路徑極易導致重復式的“創(chuàng)新”。在“地方試點主義”思想的指導下,各地法院事實上成了改革制度的主要提供者。決策權(quán)碎片化與政績競賽的結(jié)合使得基層法院可能為了出“新”出“奇”而在中央規(guī)劃之內(nèi)甚至在規(guī)劃之外急于出臺各種帶有“全國第一”性質(zhì)的改革措施。即使其他地區(qū)試點的制度已經(jīng)取得顯著成效,本地也可能為了追求“第一”而另起爐灶,提供一套全新的制度供給,這導致司法改革在各地的多樣化創(chuàng)新中呈現(xiàn)出“高度個性化、專業(yè)化、地方化的不同認知與判斷”。[30]而部分智慧法院建設(shè)中的“創(chuàng)新”很可能只是在具體表述或者非核心環(huán)節(jié)與已有智能應用有所差異。

    其次,“地方試點主義”路徑還可能造成智慧法院建設(shè)中區(qū)域發(fā)展的不均衡。部分經(jīng)濟發(fā)達地區(qū),如北、上、廣、深等一線城市,在智慧法院建設(shè)方面的投入相對豐富,因此也取得了顯著的成效。相較而言,中西部的部分地區(qū)受制于各種因素的限制,智慧法院建設(shè)取得的成效與東部發(fā)達地區(qū)還存在不同程度的差距。

    最后,“地方試點主義”路徑還可能導致智慧法院建設(shè)標準的差異化。以訴訟服務版塊為例,各地訴訟服務中心建設(shè)主體多元化、標準差異化、數(shù)據(jù)儲存分散、服務集成度低,導致全國訴訟服務統(tǒng)籌管理、協(xié)同指揮、高效督辦存在困難,跨區(qū)域、跨層級的訴訟服務也面臨一些障礙。

    (二)潛在風險評估不足

    眾所周知,西方科技哲學在認可科學技術(shù)進步促進生產(chǎn)力發(fā)展的同時,也對科學技術(shù)發(fā)展本身進行了強烈的批判和反思。[31]考慮到司法場景本身所具有的被動性,智能技術(shù)在司法場景的應用通常需要秉持更加謹慎的態(tài)度。雖然我國智慧法院建設(shè)所奉行的“技術(shù)治理主義”路徑極大地推動了智能技術(shù)在司法場景中的應用,但這一過程對智能技術(shù)可能給司法場景帶來的直接和間接的風險估計不足。因此,“技術(shù)治理主義”有滑向“片面技治主義”的風險。

    就直接風險而言,智能技術(shù)的不當應用可能會給司法獨立、司法公正和司法公平帶來不同程度的負面影響。具體而言,司法大數(shù)據(jù)場景中案件畫像、法官畫像等技術(shù)的廣泛應用可能給法官帶來向歷史判決傾斜的壓力,由此給司法獨立帶來了負面影響;基于司法大數(shù)據(jù)技術(shù)的廣泛應用而產(chǎn)生的判決結(jié)果預測系統(tǒng)可能導致“管轄兜售”和“擇地訴訟”等訴訟投機行為,由此給司法公正帶來負面影響[24];智能技術(shù)壁壘和應用成本可能會造成新的數(shù)字鴻溝,其在短時間內(nèi)大范圍地推進可能會拉大訴訟參與人訴訟能力的不均,進而影響司法公平。就間接風險而言,智能技術(shù)在司法場景中廣泛的、不受節(jié)制的應用最終還會導致法官主體地位被削弱、司法固有屬性消解的深層危險。[23]如大量預警類司法智能應用的推廣可能與司法被動性相沖突、智能算法黑箱可能與司法透明性相沖突、全面的在線訴訟可能給司法的儀式性帶來沖擊。

    (三)社會力量整合不足

    前文已經(jīng)提及,我國智慧法院建設(shè)奉行國家推進主義,并極大地提升了智慧法院建設(shè)全面推廣的效率。然而,與域外國家相比,我國智慧法院建設(shè)中的科技公司、法學院校、律師行業(yè)等社會力量的作用并不明顯。社會參與的不足使得智慧法院建設(shè)缺乏持續(xù)性、多樣性和突破性。

    首先,在智慧法院建設(shè)中,對科技企業(yè)專題研發(fā)的投入相對不足。前文已經(jīng)提及,域外主要國家法律科技行業(yè)的發(fā)展主要依靠市場驅(qū)動。據(jù)統(tǒng)計,2018年美國法律科技行業(yè)的融資規(guī)模達到了10億美金。(12)參見Jonathan Marciano,Legal Tech Hits $1 Billion Investment as Lawyers Belatedly Embrace Automation,https://becominghuman.ai/legaltech-hits-record-1-billion-investment-in-2018-71d4e60d6bf2,2018年12月3日,2020年8月20日。相較而言,我國智慧法院建設(shè)以政府為主導,科技企業(yè)大多圍繞具體工程項目開展相關(guān)工作,而對于智慧法院建設(shè)中涉及的前沿技術(shù)的預研、論證、研發(fā)的投入動力不足。在信息化建設(shè)項目的推進過程中,參與企業(yè)奉行工程化的路徑,即將通用的智能技術(shù)平移至司法場景,因而,缺乏足夠的動力來推進司法場景專有智能技術(shù)的研發(fā)。

    其次,在智慧法院建設(shè)中,法學院校處于邊緣地位。法律科技的發(fā)展離不開法學院校的有效參與。在西方國家的法律人工智能研發(fā)中,法學院校成為不容忽視的力量。斯坦福大學法學院的Codex法律中心就孵化了智慧公訴、區(qū)塊鏈、文書自動生成等30余個法律人工智能科技項目。(13)關(guān)于Codex的詳細內(nèi)容參見斯坦福大學官方網(wǎng)站https://law.stanford.edu/codex-the-stanford-center-for-legal-informatics/codex-projects/#slsnav-alumni-projects,2018年5月12日,2020年8月15日。杜克大學法學院協(xié)調(diào)建立的“杜克法律技術(shù)實驗室”從2016年開始已經(jīng)與30個公司聯(lián)合開展了相關(guān)的法律前沿科技研究。(14)關(guān)于“杜克法律技術(shù)實驗室”的相關(guān)介紹參見https://www.dukelawtechlab.com/about,2016年11月8日,2020年9月11日。雖然近年來清華大學、北京大學、中國人民大學、上海交通大學、東南大學、吉林大學、西南政法大學等高校在法律大數(shù)據(jù)與人工智能方面進行了不同程度的技術(shù)探索,但與域外國家法學院校參與法律科技項目的研發(fā)范圍相比,我國法學院校的工作仍然主要集中在理論、規(guī)制及倫理等領(lǐng)域,對于技術(shù)的直接參與較為有限,在法律科技中尚未進入核心環(huán)節(jié)。

    最后,在我國智慧法院建設(shè)過程中,我國的律師行業(yè)尚未能夠積極參與其中。智慧法院建設(shè)是一個系統(tǒng)工程,它不僅涵蓋對法官業(yè)務的輔助,也包括對當事人及律師的智能訴訟服務。作為法律共同體的重要成員之一,律師群體對智慧法院應用的需求將會給整個智慧法院建設(shè)帶來巨大的正面效應。然而,因為我國的智慧法院建設(shè)走的是“國家推進主義”的路線,所以律師群體并未能夠很好地參與其中。與之相反,近年來,前沿智能技術(shù)日益成為國外頂級律師事務所的戰(zhàn)略重點。2015年,全球十大律師事務所之一的大成律師事務所(Dentons)率先成立了“未來法律實驗室”(Next Law Labs),并逐步展開對法律技術(shù)的研究。因為在法律人工智能研發(fā)中的投入,大成律師事務所被《金融時報》(FinancialTimes)評為“北美最具遠見律師事務所”。(15)參見FT North America Innovative Lawyers 2015 Report,https://im.ft-static.com/content/images/9347c1d6-9ca4-11e5-8ce1-f6219b685d74.pdf,2015年10月7日,2020年9月6日。另外,根據(jù)美國律師協(xié)會對本國律師行業(yè)調(diào)查的相關(guān)數(shù)據(jù),72%的受訪律師表示接受區(qū)塊鏈與人工智能等前沿技術(shù)的專題培訓是很有必要的(16)數(shù)據(jù)來源于Mark Rosch,2018 Technology Training,TECHREPORT 2018,https://www.americanbar.org/groups/law_practice/publications/techreport/ABATECHREPORT2018/2018TechTraining,2019年1月1日,2020年7月8日。;58%的受訪律師事務所使用了云平臺(17)數(shù)據(jù)來源于Dennis Kennedy,2019 Cloud Computing,TECHREPORT 2019,https://www.americanbar.org/groups/law_practice/publications/techreport/abatechreport2019/cloudcomputing2019,2019年1月1日,2020年7月8日。;在人數(shù)超過100人的律師事務所中,有26%的受訪律師表示曾經(jīng)使用過法律人工智能技術(shù)(18)數(shù)據(jù)來源于ABA Releases 2019 TECHREPORT and Legal Technology Survey Report on Legal Tech Trends,ABA,https://www.americanbar.org/news/abanews/aba-news-archives/2019/10/aba-releases-2019-techreport-and-legal-technology-survey-report-,2019年1月1日,2020年7月8日。。由此可見,律師行業(yè)對智能技術(shù)的重視將會在客觀上擴大智慧司法應用的市場,也會為企業(yè)的研發(fā)投入提供重要指引。

    四、智慧法院建設(shè)的路徑優(yōu)化

    (一)打造智慧法院一體化建設(shè)模式

    針對智慧法院建設(shè)中區(qū)域協(xié)同不足的問題,下一階段應當有針對性地打造一體化的建設(shè)模式,從而實現(xiàn)區(qū)域協(xié)同發(fā)展并避免重復建設(shè)。實際上,從2019年開始,最高人民法院立案庭與信息中心密切合作,在“智慧訴訟服務”版塊已經(jīng)率先開展了一體化建設(shè),并取得了一定成效,使得全國法院系統(tǒng)智慧訴訟服務的一體化程度大幅度提升。

    首先,由最高人民法院立案庭與“人民法院信息技術(shù)服務中心”(下簡稱信息中心)共同組織專家在智慧法院相關(guān)頂層規(guī)劃(如《智慧法院意見》)的基礎(chǔ)上制定詳細的實施方案,明確智慧訴訟服務的主要功能模塊、技術(shù)路線與年度安排。實施方案充分考慮了地方的差異性,強調(diào)先進性、實用性與可擴展性相結(jié)合。

    其次,基于實施方案中的智慧訴訟服務功能模塊分別組織專家起草并發(fā)布相關(guān)的行業(yè)標準,如“12368訴訟服務平臺應用技術(shù)要求”(FYB/T 52030-2020)和“司法區(qū)塊鏈管理規(guī)范”(FYB/T 59005-2020)等。

    再次,基于科學的實施方案,最高人民法院立案庭與信息中心共同推動全國范圍內(nèi)的智慧訴訟服務一體化建設(shè)。各地法院嚴格根據(jù)實施方案完善智慧訴訟服務建設(shè),充分利用各地區(qū)已有的訴訟服務建設(shè)成果,整合資源、強化集成、盤活存量、避免重復建設(shè)。對于地方法院已經(jīng)具備的功能模塊,則按照相關(guān)行業(yè)標準進行優(yōu)化升級;對于地方法院不具備的功能模塊則按照實施方案的內(nèi)容進行逐步建設(shè)。

    最后,對全國智慧訴訟服務進行集約化管理。2019年,最高人民法院立案庭正式設(shè)立“訴訟服務指導中心信息平臺”,通過對全國智慧訴訟服務成效進行量化評估,實現(xiàn)對全國法院現(xiàn)代化訴訟服務體系建設(shè)的全面指導。[32]

    結(jié)合當前在智慧訴訟服務版塊已經(jīng)展開的一體化建設(shè)所取得的經(jīng)驗,筆者認為下一階段可以從四個方面分階段展開智慧法院的一體化建設(shè)。

    首先,打造智慧法院一體化建設(shè)的組織實施機制。最高人民法院司法改革領(lǐng)導小組負責智慧法院建設(shè)的統(tǒng)籌協(xié)調(diào)、推進實施、督促落實、總結(jié)評估。最高人民法院信息中心成立“智慧法院一體化建設(shè)工作小組”,與相關(guān)職能部門(立案庭、辦公廳等)密切合作、整合資源共同推進本項工作。

    其次,分版塊設(shè)計智慧法院建設(shè)的實施方案。當前,智慧法院大致分為“智服”“智審”“智執(zhí)”“智管”四大版塊,分別對應法院業(yè)務中的訴訟服務、案件審判、判決執(zhí)行及司法管理。因此,可以參考“智服”模塊的建設(shè)經(jīng)驗,由“智慧法院一體化建設(shè)工作小組”從全國范圍內(nèi)的高校、科研院所、實務部門中遴選出業(yè)務專家、科學專家、工程管理專家,共同參與制定各個版塊的詳細的實施方案。在實施方案設(shè)計過程中,不宜一味地追求“高大上”“大而全”,要切實從審判實際出發(fā),從一線辦案法官的實際需求和有效需求出發(fā),而不是僅從設(shè)計者主觀設(shè)定的需要出發(fā)。[33]

    再次,分版塊統(tǒng)一推進智慧法院一體化建設(shè)。嚴格按照實施方案的規(guī)定,由最高人民法院相關(guān)職能部門與信息中心密切合作,在全國范圍內(nèi)逐步推進“智審”“智執(zhí)”“智管”的建設(shè)。地方各級人民法院在省級人民法院的統(tǒng)籌安排下,充分利用現(xiàn)有的建設(shè)基礎(chǔ),依照全國智慧法院一體化建設(shè)的要求,逐步優(yōu)化現(xiàn)有階段的智慧法院建設(shè)。在推進過程中,對于已有模塊原則上不再重復建設(shè),而是按照相關(guān)行業(yè)標準的要求對其進行優(yōu)化升級。

    最后,分版塊推進智慧法院的集約管理。依次建設(shè)最高人民法院“智慧審判建設(shè)指導中心”“智慧執(zhí)行建設(shè)指導中心”“智慧司法管理建設(shè)指導中心”,對全國范圍內(nèi)相關(guān)智慧法院的建設(shè)進行全面的指導和管理。

    (二)推進智慧法院建設(shè)中智能技術(shù)的再治理

    所謂智能技術(shù)的再治理是指在智慧法院建設(shè)過程中對智能技術(shù)帶來的風險進行全面評估,并劃定智能技術(shù)在司法領(lǐng)域應用的邊界。從現(xiàn)有智慧法院建設(shè)實踐來看,需要重點從以下兩個方面加強對智能技術(shù)中數(shù)據(jù)收集、數(shù)據(jù)使用和算法設(shè)計等方面的再治理。

    其一,對司法大數(shù)據(jù)的收集環(huán)節(jié)實現(xiàn)再治理。當前,裁判文書是智慧法院建設(shè)的重要基礎(chǔ)資料。近年來,最高人民法院推動的司法公開(尤其是裁判文書網(wǎng))所形成的大數(shù)據(jù)紅利為智慧法院建設(shè)提供了極大支持。然而,隨著智慧法院建設(shè)向縱深推進,數(shù)據(jù)獲取方面的瓶頸也日益凸顯。當前,最高法院層面尚未建立起裁判文書大數(shù)據(jù)暢通的共享機制。這就導致如果社會主體想要從事司法大數(shù)據(jù)與人工智能的研究,就必須自主構(gòu)建大數(shù)據(jù)庫。然而,當前主流的方式是借助爬蟲軟件批量地獲取裁判文書網(wǎng)的數(shù)據(jù)。此種方案一方面存在效率低下的問題,另一方面,爬蟲程序也極大地擠占了裁判文書網(wǎng)的流量,使社會公眾的常規(guī)需求無法得到滿足。因此,下一步需要在最高法院層面明確由信息中心主導司法大數(shù)據(jù)的共享工作,建立常態(tài)化的與高等院校、科研機構(gòu)以及科技公司的司法數(shù)據(jù)共享機制。數(shù)據(jù)共享之前,需要依照相關(guān)規(guī)定對當事人姓名等必要信息進行匿名或隱名處理。在共享過程中發(fā)生的必要成本也可以參照國外的做法收取必要的費用。

    其二,對智能技術(shù)在司法領(lǐng)域的應用場景進行再治理。一方面,智能技術(shù)要謹慎進入技術(shù)上不成熟的領(lǐng)域。[34]考慮到智能技術(shù)的發(fā)展階段與技術(shù)局限[35],當前需要打破“司法人工智能萬能論”,降低對司法人工智能的盲目期待,肯定法官在司法活動中獨特的審判智慧。[27]另一方面,參考域外成熟的經(jīng)驗,由最高人民法院信息中心牽頭成立司法智能應用倫理審查組織,結(jié)合智能應用的常規(guī)備案工作,從前文提及的直接風險與間接風險兩個維度對相關(guān)應用進行倫理審查。對于存在顯著風險的智能應用限期整改或停止使用。

    (三)強化智慧法院建設(shè)的社會參與

    “我們應當充分認識到法律人工智能的運用是一個長期性、艱巨性的過程,并將面臨艱巨的挑戰(zhàn)。熱鬧的現(xiàn)象并不表明中國已經(jīng)進入了法律人工智能時代,更不意味著市場已經(jīng)有了成熟的法律人工智能產(chǎn)品?!盵36]從長遠來看,智能化信息技術(shù)在司法場景中的應用需要充分依托社會力量的實質(zhì)參與。社會力量對智慧法院建設(shè)的參與應當主要從以下三個維度展開。

    一是培養(yǎng)和引導一批法律科技企業(yè)投身到智慧法院的建設(shè)與研發(fā)當中?,F(xiàn)有智慧法院多采用合作建設(shè)的模式,即法院結(jié)合自己的業(yè)務需要及其經(jīng)費預算尋找與之對應的法律科技公司,以法院提出需求、公司負責研發(fā)的形式完成智慧法院建設(shè)的項目。當然,也有法院采用系統(tǒng)內(nèi)部籌備資金自行匯集人力資源進行獨立研發(fā)的形式。但從目前的實踐趨勢來看,兩種模式并沒有在全國范圍內(nèi)取得顯著成效。一方面,我國現(xiàn)有的法律科技公司并未形成顯著的規(guī)模效應,現(xiàn)階段的研發(fā)尚處于投資階段,在可投入資金有限與業(yè)務需求高標準的供需矛盾下,合作建設(shè)模式難以得到深入推進。另一方面,司法場景中的智能化信息技術(shù)研發(fā)所面臨的不僅僅是技術(shù)壁壘,更是面對著人力資本和財力資本的雙重考驗,在缺乏“法律+科技”的復合型人才的背景下,法院系統(tǒng)內(nèi)部難以獨立支撐起智慧法院的長效建設(shè)。因此,國家層面應以專項資金的形式培養(yǎng)、引導一批法律科技企業(yè)主動投身于法律產(chǎn)品的技術(shù)研發(fā)中,從而使之形成規(guī)?;?。

    二是全面強化法學院校在智慧法院建設(shè)中的作用。一方面,法學院校的角色應該由“游離”轉(zhuǎn)向“嵌入”,其不僅應當關(guān)注理論研究、倫理規(guī)制、實踐觀察與成效評估,還要實質(zhì)參與到技術(shù)研發(fā)中來。另一方面,法學院校還要轉(zhuǎn)變?nèi)瞬排囵B(yǎng)模式,著力培養(yǎng)掌握法學理論知識和科技研發(fā)技能的復合型人才。[37]

    三是全面吸納法律職業(yè)共同體的參與,培育壯大智慧司法市場。社會力量的投入不僅需要人才因素,更需要市場因素。市場存在也將進一步促進企業(yè)的研發(fā),企業(yè)研發(fā)的深入也將促進相關(guān)人才的產(chǎn)生,由此形成“場景需求—人才支撐—企業(yè)研發(fā)”的良性循環(huán)。沒有成熟的智慧司法市場,就難以形成穩(wěn)定的需求,也就無法為智慧法院建設(shè)提供持續(xù)動力。因此,在下一階段智慧法院建設(shè)的過程中,需要著力激發(fā)廣大法律職業(yè)共同體的參與熱情,在提供職業(yè)智識支撐的同時孕育并壯大市場需求。

    猜你喜歡
    法院司法人工智能
    制定法解釋中的司法自由裁量權(quán)
    法律方法(2021年4期)2021-03-16 05:34:28
    百姓拆遷心結(jié)一朝化解法院主持調(diào)解握手言和
    司法所悉心調(diào)解 墊付款有了著落
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    非正式司法的悖謬
    人工智能與就業(yè)
    班里設(shè)個小“法院”
    我國法院在線調(diào)解的興起、挑戰(zhàn)與未來
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    亚洲人成网站在线观看播放| 三级国产精品欧美在线观看| 国产激情偷乱视频一区二区| 人妻制服诱惑在线中文字幕| 免费在线观看影片大全网站| av国产免费在线观看| 久久久久久久久久黄片| 免费搜索国产男女视频| 国产精品美女特级片免费视频播放器| 国产高清三级在线| 国产黄片美女视频| 欧美+亚洲+日韩+国产| 国产 一区精品| 亚洲精品色激情综合| 久久综合国产亚洲精品| 国产精品嫩草影院av在线观看| 久久精品国产亚洲网站| 一级黄片播放器| 嫩草影院入口| 亚洲国产欧洲综合997久久,| 亚洲国产欧美人成| 久久久久国内视频| 国产亚洲欧美98| 国产高清三级在线| 网址你懂的国产日韩在线| 国产高清视频在线播放一区| 丰满的人妻完整版| 亚洲av一区综合| 亚洲最大成人手机在线| 久久精品国产亚洲av天美| 真人做人爱边吃奶动态| 国产午夜福利久久久久久| 人妻夜夜爽99麻豆av| 日韩欧美精品v在线| 五月玫瑰六月丁香| 中国美女看黄片| 成年免费大片在线观看| 熟妇人妻久久中文字幕3abv| 国产精品乱码一区二三区的特点| av在线蜜桃| avwww免费| 久久久精品欧美日韩精品| 国产成人aa在线观看| 精品人妻一区二区三区麻豆 | 婷婷精品国产亚洲av| 99国产极品粉嫩在线观看| 久久中文看片网| 我要看日韩黄色一级片| 久久久国产成人免费| 精品一区二区三区av网在线观看| 成人亚洲欧美一区二区av| 亚洲精品一区av在线观看| 亚洲精品日韩av片在线观看| 国产一区二区激情短视频| 欧美成人一区二区免费高清观看| 中文字幕免费在线视频6| 国内精品久久久久精免费| 欧美不卡视频在线免费观看| 亚洲精品成人久久久久久| 成年女人永久免费观看视频| 国产片特级美女逼逼视频| 欧美国产日韩亚洲一区| 亚洲最大成人中文| 午夜福利在线在线| 日韩三级伦理在线观看| 卡戴珊不雅视频在线播放| 色视频www国产| 国产探花在线观看一区二区| 精品一区二区三区人妻视频| 国产高清视频在线观看网站| 精品人妻熟女av久视频| 真人做人爱边吃奶动态| 午夜福利高清视频| 舔av片在线| 成人av在线播放网站| 精品人妻一区二区三区麻豆 | 高清日韩中文字幕在线| 午夜福利在线观看吧| 女的被弄到高潮叫床怎么办| 国产亚洲精品综合一区在线观看| 国产精品一区二区三区四区免费观看 | 欧美激情久久久久久爽电影| 网址你懂的国产日韩在线| 亚洲成人精品中文字幕电影| 九色成人免费人妻av| 99国产精品一区二区蜜桃av| 女的被弄到高潮叫床怎么办| 欧美激情国产日韩精品一区| 日韩中字成人| 欧美激情在线99| 久久精品国产亚洲网站| 中文字幕av在线有码专区| 成年女人看的毛片在线观看| 国产成年人精品一区二区| 国产成人a∨麻豆精品| 国产亚洲欧美98| 精品久久久久久久人妻蜜臀av| 国产成人精品久久久久久| 久久久成人免费电影| 嫩草影院新地址| 秋霞在线观看毛片| 色5月婷婷丁香| 国产乱人视频| 成人特级av手机在线观看| 精品一区二区三区视频在线| 亚洲丝袜综合中文字幕| 成年女人看的毛片在线观看| 哪里可以看免费的av片| 午夜爱爱视频在线播放| 亚洲丝袜综合中文字幕| 久久欧美精品欧美久久欧美| 最近视频中文字幕2019在线8| 在现免费观看毛片| 免费人成在线观看视频色| 成人特级黄色片久久久久久久| 亚洲美女视频黄频| 男女视频在线观看网站免费| 乱码一卡2卡4卡精品| .国产精品久久| 欧美日韩精品成人综合77777| 免费看美女性在线毛片视频| 中出人妻视频一区二区| 久久久久久久久久成人| 99久久精品热视频| 人妻少妇偷人精品九色| 国产亚洲精品综合一区在线观看| 丰满的人妻完整版| 最近在线观看免费完整版| 国产在线精品亚洲第一网站| 午夜福利高清视频| 久久久久久大精品| 秋霞在线观看毛片| av专区在线播放| 日日啪夜夜撸| 成人漫画全彩无遮挡| 久久人人爽人人片av| 中文字幕久久专区| 亚洲中文字幕一区二区三区有码在线看| 久久久久久伊人网av| 亚洲婷婷狠狠爱综合网| 三级毛片av免费| 熟女人妻精品中文字幕| 色播亚洲综合网| 天美传媒精品一区二区| 欧美另类亚洲清纯唯美| 搞女人的毛片| 草草在线视频免费看| 免费人成视频x8x8入口观看| 可以在线观看毛片的网站| 三级国产精品欧美在线观看| 中文字幕熟女人妻在线| 插阴视频在线观看视频| 99热6这里只有精品| 中文字幕人妻熟人妻熟丝袜美| 看片在线看免费视频| 日韩欧美 国产精品| 少妇的逼好多水| 久99久视频精品免费| 国产精品野战在线观看| 2021天堂中文幕一二区在线观| 九九热线精品视视频播放| 51国产日韩欧美| 国产色婷婷99| 美女免费视频网站| 日本色播在线视频| 男人和女人高潮做爰伦理| 亚洲精华国产精华液的使用体验 | 久久精品国产自在天天线| 亚洲av第一区精品v没综合| 久久草成人影院| 国产精品乱码一区二三区的特点| 亚洲精品色激情综合| 国产真实乱freesex| 亚洲欧美日韩高清在线视频| 大型黄色视频在线免费观看| 天美传媒精品一区二区| 男女那种视频在线观看| 国内少妇人妻偷人精品xxx网站| 国产一区二区在线av高清观看| 国产黄色视频一区二区在线观看 | 最近手机中文字幕大全| 成人综合一区亚洲| 日产精品乱码卡一卡2卡三| 偷拍熟女少妇极品色| 女人被狂操c到高潮| 国产精品乱码一区二三区的特点| 久久久久久久久大av| 最后的刺客免费高清国语| 亚洲天堂国产精品一区在线| 男女啪啪激烈高潮av片| 午夜亚洲福利在线播放| 欧美极品一区二区三区四区| 久久亚洲国产成人精品v| 国产熟女欧美一区二区| 久久精品综合一区二区三区| 91精品国产九色| 插逼视频在线观看| 日韩强制内射视频| 精品人妻一区二区三区麻豆 | 我的女老师完整版在线观看| 精品人妻熟女av久视频| 日韩精品中文字幕看吧| 亚洲av成人av| 老司机福利观看| 在线a可以看的网站| 久久久久久久久久黄片| 久久久久性生活片| 在线a可以看的网站| 长腿黑丝高跟| 精品欧美国产一区二区三| 亚洲性久久影院| 3wmmmm亚洲av在线观看| 午夜爱爱视频在线播放| 国产精品一区二区三区四区免费观看 | 精品人妻熟女av久视频| 看黄色毛片网站| 亚洲自拍偷在线| 亚洲国产精品成人综合色| 国产av一区在线观看免费| 波野结衣二区三区在线| 变态另类丝袜制服| 国产v大片淫在线免费观看| 高清午夜精品一区二区三区 | 国产精品久久久久久av不卡| 啦啦啦观看免费观看视频高清| 22中文网久久字幕| 日韩av在线大香蕉| 久久久欧美国产精品| 3wmmmm亚洲av在线观看| 国产淫片久久久久久久久| 国内精品久久久久精免费| www日本黄色视频网| 亚洲婷婷狠狠爱综合网| 国产在线男女| 久久精品久久久久久噜噜老黄 | 久久人人爽人人爽人人片va| 麻豆精品久久久久久蜜桃| 麻豆一二三区av精品| 欧美日本亚洲视频在线播放| 18禁裸乳无遮挡免费网站照片| 啦啦啦韩国在线观看视频| 婷婷精品国产亚洲av在线| 一个人免费在线观看电影| 欧美高清性xxxxhd video| 国内精品美女久久久久久| 亚洲熟妇中文字幕五十中出| 午夜老司机福利剧场| 免费黄网站久久成人精品| 两性午夜刺激爽爽歪歪视频在线观看| 少妇高潮的动态图| 婷婷精品国产亚洲av| 国产 一区精品| 国产精品三级大全| 亚洲欧美日韩卡通动漫| 午夜免费激情av| 亚洲久久久久久中文字幕| 国产探花极品一区二区| 日韩av不卡免费在线播放| 国产精品人妻久久久影院| 毛片一级片免费看久久久久| 亚洲成a人片在线一区二区| 在线看三级毛片| aaaaa片日本免费| 麻豆乱淫一区二区| 青春草视频在线免费观看| 一级黄色大片毛片| 色综合亚洲欧美另类图片| 欧美色视频一区免费| 欧美一级a爱片免费观看看| 亚洲精品一区av在线观看| 噜噜噜噜噜久久久久久91| 国产片特级美女逼逼视频| 免费看日本二区| 一级毛片aaaaaa免费看小| 欧美绝顶高潮抽搐喷水| 久久久久久九九精品二区国产| 黑人高潮一二区| 美女内射精品一级片tv| 成熟少妇高潮喷水视频| 久久久久久久久久成人| 自拍偷自拍亚洲精品老妇| 综合色av麻豆| 国产成人aa在线观看| 啦啦啦韩国在线观看视频| 国内精品一区二区在线观看| 神马国产精品三级电影在线观看| 99热只有精品国产| 亚洲精品国产av成人精品 | 国产高潮美女av| 久久久久久国产a免费观看| 日韩欧美国产在线观看| 久久久午夜欧美精品| 久久久久国内视频| 亚洲最大成人中文| 悠悠久久av| 日韩高清综合在线| 国产免费男女视频| 激情 狠狠 欧美| av黄色大香蕉| 精华霜和精华液先用哪个| 国产亚洲av嫩草精品影院| 亚洲国产日韩欧美精品在线观看| 国产精品,欧美在线| 日韩 亚洲 欧美在线| 成年版毛片免费区| 激情 狠狠 欧美| 久久久久久久久久久丰满| 91午夜精品亚洲一区二区三区| 99国产精品一区二区蜜桃av| 中文字幕av在线有码专区| 久久婷婷人人爽人人干人人爱| 最近2019中文字幕mv第一页| 亚洲av二区三区四区| 国产精品三级大全| 日本在线视频免费播放| 日日啪夜夜撸| 亚洲精品久久国产高清桃花| 成人精品一区二区免费| 国产私拍福利视频在线观看| 欧美成人精品欧美一级黄| 精品一区二区三区人妻视频| 性插视频无遮挡在线免费观看| 国产伦精品一区二区三区四那| 午夜a级毛片| 99在线视频只有这里精品首页| 国产伦精品一区二区三区四那| 男人舔女人下体高潮全视频| 亚洲国产色片| 亚洲成人av在线免费| 露出奶头的视频| 乱码一卡2卡4卡精品| 搡老岳熟女国产| 午夜精品在线福利| 国产黄片美女视频| 搡老妇女老女人老熟妇| 国产探花极品一区二区| 亚洲最大成人av| 美女被艹到高潮喷水动态| 在线观看一区二区三区| 成年免费大片在线观看| 日本五十路高清| 男插女下体视频免费在线播放| 少妇的逼水好多| 成年女人永久免费观看视频| 国产成人a区在线观看| 3wmmmm亚洲av在线观看| 在线免费十八禁| 国产精品乱码一区二三区的特点| 18禁在线播放成人免费| 午夜精品国产一区二区电影 | 日韩av不卡免费在线播放| 亚洲av熟女| 久久久欧美国产精品| 色哟哟·www| 国产在线精品亚洲第一网站| 菩萨蛮人人尽说江南好唐韦庄 | 国产高清激情床上av| 精品日产1卡2卡| 免费看a级黄色片| 久久国内精品自在自线图片| 精品少妇黑人巨大在线播放 | 久久欧美精品欧美久久欧美| 秋霞在线观看毛片| 国内少妇人妻偷人精品xxx网站| 在线观看午夜福利视频| 国产激情偷乱视频一区二区| 色综合站精品国产| 观看免费一级毛片| 丰满的人妻完整版| 又爽又黄a免费视频| 亚洲成人中文字幕在线播放| 男人狂女人下面高潮的视频| 久久国产乱子免费精品| 啦啦啦啦在线视频资源| av中文乱码字幕在线| 亚洲成a人片在线一区二区| 亚洲成人久久性| 最后的刺客免费高清国语| 国产精品亚洲美女久久久| 少妇裸体淫交视频免费看高清| 可以在线观看毛片的网站| 国产成人91sexporn| 又爽又黄a免费视频| 3wmmmm亚洲av在线观看| 亚洲精品456在线播放app| 日本色播在线视频| 免费看av在线观看网站| 欧美日本亚洲视频在线播放| 亚洲av不卡在线观看| 波多野结衣高清无吗| 久久天躁狠狠躁夜夜2o2o| 亚洲经典国产精华液单| 亚洲国产精品成人综合色| 看十八女毛片水多多多| 亚洲aⅴ乱码一区二区在线播放| 欧美日韩国产亚洲二区| 日本爱情动作片www.在线观看 | 精品久久久久久久久av| 日韩一区二区视频免费看| 亚洲一级一片aⅴ在线观看| 91精品国产九色| av中文乱码字幕在线| 国产精品美女特级片免费视频播放器| 12—13女人毛片做爰片一| 午夜福利视频1000在线观看| 免费av不卡在线播放| 搡老妇女老女人老熟妇| 欧美日本视频| 黄色视频,在线免费观看| 看片在线看免费视频| 国产欧美日韩精品亚洲av| 一本精品99久久精品77| 亚洲av.av天堂| 成年av动漫网址| 日本色播在线视频| 久久久国产成人精品二区| 亚洲av中文av极速乱| 国产精品一区www在线观看| av福利片在线观看| 六月丁香七月| 欧美激情国产日韩精品一区| 欧美性感艳星| 精品久久久久久久人妻蜜臀av| 亚洲熟妇中文字幕五十中出| 最近最新中文字幕大全电影3| 草草在线视频免费看| 人妻久久中文字幕网| 亚洲美女黄片视频| 日本撒尿小便嘘嘘汇集6| 国产午夜精品久久久久久一区二区三区 | 色尼玛亚洲综合影院| 最新中文字幕久久久久| 内地一区二区视频在线| 免费电影在线观看免费观看| 久久精品国产鲁丝片午夜精品| 国产午夜精品久久久久久一区二区三区 | 国产91av在线免费观看| 国产精品久久久久久精品电影| 国产久久久一区二区三区| 深夜a级毛片| 久久精品国产亚洲av天美| 久久精品夜夜夜夜夜久久蜜豆| 非洲黑人性xxxx精品又粗又长| 亚洲乱码一区二区免费版| 啦啦啦观看免费观看视频高清| 18禁黄网站禁片免费观看直播| 久久99热6这里只有精品| 久久久午夜欧美精品| 一级毛片电影观看 | av卡一久久| 内射极品少妇av片p| 国产精品精品国产色婷婷| 日韩一区二区视频免费看| 国产av不卡久久| 日韩大尺度精品在线看网址| 国产亚洲91精品色在线| 亚洲三级黄色毛片| 国产一区二区激情短视频| 国产欧美日韩精品一区二区| 精品久久久久久久久av| 欧美人与善性xxx| 毛片一级片免费看久久久久| 国产免费一级a男人的天堂| 狂野欧美白嫩少妇大欣赏| 成人三级黄色视频| 99久久成人亚洲精品观看| 欧美精品国产亚洲| 欧美+日韩+精品| 欧美xxxx黑人xx丫x性爽| 不卡一级毛片| 99热这里只有是精品在线观看| eeuss影院久久| 男女那种视频在线观看| a级毛片a级免费在线| 中国美白少妇内射xxxbb| 69av精品久久久久久| 你懂的网址亚洲精品在线观看 | 一区二区三区免费毛片| 99久久久亚洲精品蜜臀av| 欧美3d第一页| 丰满的人妻完整版| 小蜜桃在线观看免费完整版高清| av在线播放精品| 日本黄色视频三级网站网址| 美女 人体艺术 gogo| 一进一出抽搐gif免费好疼| 国产美女午夜福利| 国产男靠女视频免费网站| 国产精品一二三区在线看| 免费在线观看影片大全网站| 国产成人aa在线观看| 欧美又色又爽又黄视频| 秋霞在线观看毛片| 亚洲美女视频黄频| 日韩欧美国产在线观看| 99久久中文字幕三级久久日本| 成人欧美大片| 舔av片在线| 欧美人与善性xxx| 欧美一区二区国产精品久久精品| 久久久久免费精品人妻一区二区| 日本爱情动作片www.在线观看 | 六月丁香七月| 国产亚洲精品久久久久久毛片| 最近手机中文字幕大全| av天堂在线播放| 成人二区视频| 久久这里只有精品中国| 国产伦精品一区二区三区四那| 国产一区二区三区在线臀色熟女| 在线播放无遮挡| 午夜福利在线观看吧| 欧美三级亚洲精品| 99热这里只有是精品在线观看| 美女大奶头视频| 内地一区二区视频在线| 热99在线观看视频| 欧美一级a爱片免费观看看| 久久久久久国产a免费观看| 亚洲欧美成人精品一区二区| 偷拍熟女少妇极品色| 亚洲国产精品合色在线| 国产成人a∨麻豆精品| 中文亚洲av片在线观看爽| 最近在线观看免费完整版| 久久久久久九九精品二区国产| 51国产日韩欧美| 亚洲精品一区av在线观看| 国产精品一二三区在线看| 最好的美女福利视频网| 美女 人体艺术 gogo| 18禁黄网站禁片免费观看直播| 亚洲图色成人| 免费电影在线观看免费观看| 99热精品在线国产| 亚洲最大成人av| 国产探花极品一区二区| 18禁在线无遮挡免费观看视频 | 给我免费播放毛片高清在线观看| 老熟妇仑乱视频hdxx| 精品无人区乱码1区二区| 亚洲自拍偷在线| 亚洲美女搞黄在线观看 | 久久久a久久爽久久v久久| 亚洲熟妇中文字幕五十中出| 免费av观看视频| 岛国在线免费视频观看| 婷婷精品国产亚洲av| 18禁裸乳无遮挡免费网站照片| .国产精品久久| 99riav亚洲国产免费| 夜夜看夜夜爽夜夜摸| 性欧美人与动物交配| 少妇被粗大猛烈的视频| 久久人妻av系列| 国产精品女同一区二区软件| 在线观看免费视频日本深夜| 麻豆成人午夜福利视频| 色噜噜av男人的天堂激情| 国产aⅴ精品一区二区三区波| 久久精品影院6| 久久鲁丝午夜福利片| 午夜老司机福利剧场| 国产爱豆传媒在线观看| 国产乱人偷精品视频| 日韩三级伦理在线观看| 99热这里只有是精品50| 欧美性感艳星| 午夜视频国产福利| 国产精品久久视频播放| 国产一级毛片七仙女欲春2| 精品人妻熟女av久视频| 丰满的人妻完整版| 精品久久久久久久久久免费视频| 九色成人免费人妻av| 麻豆一二三区av精品| 69av精品久久久久久| 成年女人看的毛片在线观看| 国产淫片久久久久久久久| 美女大奶头视频| 国产综合懂色| 午夜a级毛片| 国产精品不卡视频一区二区| 中文字幕熟女人妻在线| 免费无遮挡裸体视频| 亚洲婷婷狠狠爱综合网| 日产精品乱码卡一卡2卡三| 欧美丝袜亚洲另类| 日韩一本色道免费dvd| 一级黄片播放器| 久久精品夜夜夜夜夜久久蜜豆| 日韩在线高清观看一区二区三区| 一个人观看的视频www高清免费观看| 欧美三级亚洲精品| 晚上一个人看的免费电影| 97超视频在线观看视频| 国产伦精品一区二区三区四那| 在线观看美女被高潮喷水网站| 12—13女人毛片做爰片一| 色视频www国产| 亚洲av.av天堂| 国产免费男女视频| 亚洲最大成人手机在线| 日本与韩国留学比较| 国产乱人偷精品视频| 成年女人永久免费观看视频| 国内精品一区二区在线观看| 久久天躁狠狠躁夜夜2o2o| 亚洲成人久久性| 久99久视频精品免费| 国产一区二区在线观看日韩| 成人一区二区视频在线观看| 亚洲aⅴ乱码一区二区在线播放| .国产精品久久| 国产美女午夜福利|