• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能時(shí)代的司法權(quán)之變

    2018-01-15 11:09:28季衛(wèi)東
    東方法學(xué) 2018年1期
    關(guān)鍵詞:司法權(quán)人工智能

    季衛(wèi)東

    內(nèi)容摘要:人工智能反過來超越人類智能扮演上帝角色的奇點(diǎn)正在迫近,在這種背景下,中國司法系統(tǒng)獲得了某種后發(fā)優(yōu)勢,借助信息技術(shù)、互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算以及人工智能提高辦案效率和透明度,使審理流程發(fā)生了廣泛而深刻的質(zhì)變和突變。這對現(xiàn)代法治的制度安排提出了嚴(yán)峻的挑戰(zhàn)。在現(xiàn)階段對法律專家系統(tǒng)軟件的設(shè)計(jì)和運(yùn)用應(yīng)該持一種慎之又慎的態(tài)度,尤其是在電腦量刑方面更不可急于求成,也沒有必要完全排除法官的心證和裁量。司法權(quán)的終局性注定了要通過辯論的優(yōu)勝劣汰機(jī)制選出一個(gè)正確的最終解決方案。在這樣的現(xiàn)代法治體制面前,大數(shù)據(jù)、云計(jì)算、信息技術(shù)、人工智能都只是實(shí)現(xiàn)合法正義的輔助手段,切不可本末倒置,這是我們始終應(yīng)該銘記的一條基本原則。

    關(guān)鍵詞:人工智能 司法權(quán) 司法運(yùn)營電腦化 法律推理 自由心證

    一、智慧設(shè)計(jì)運(yùn)動(dòng)與中國司法改革的新動(dòng)向

    2000年9月17日,巴西的藝術(shù)家埃杜阿爾多·卡茨(Eduardo Kac)在法國基因工程技術(shù)者的幫助下創(chuàng)造出綠色熒光兔阿爾巴(Alba)的消息瞬間傳遍世界。這只奇特的轉(zhuǎn)基因生物,標(biāo)志持續(xù)了四十億年的自然選擇和進(jìn)化體制被突破,從此人類對生命也可以進(jìn)行理性設(shè)計(jì),社會結(jié)構(gòu)勢必隨之激變。〔1 〕簡而言之,就是一句話:在包括生物工程、機(jī)器人工程以及非有機(jī)生命工程在內(nèi)的“智慧設(shè)計(jì)”運(yùn)動(dòng)中,人類儼然開始扮演起上帝的角色。

    若干年后接二連三傳來了另一串激動(dòng)人心的消息。2015年12月11日,三位研究者宣布他們共同開發(fā)的AI系統(tǒng)具有人類認(rèn)知的彈性,通過概率程序能夠區(qū)別字符的本質(zhì)特征和非本質(zhì)特征,并能從少量案例提煉出新概念?!? 〕2016年3月15日,計(jì)算機(jī)智能網(wǎng)絡(luò)程序“阿法狗(AlphaGo)”以4:1的戰(zhàn)績擊敗圍棋世界冠軍李世石,引起全球轟動(dòng)。2017年10月19日,各大媒體又報(bào)道了美國谷歌旗下子公司開發(fā)的“阿法元(AlphaGo Zero)”程序能夠無師自通,憑借自學(xué)和創(chuàng)造力就可以掌握人類未知的圍棋下法。這幾個(gè)事實(shí)相繼發(fā)生,意味著人工智能反過來超越人類智能扮演上帝角色的奇點(diǎn)正在迫近。

    從阿爾巴到阿法狗,再到阿法元,只有十七年。加上20世紀(jì)90年代高歌猛進(jìn)的數(shù)碼化、互聯(lián)網(wǎng)化的社會結(jié)構(gòu)轉(zhuǎn)型,也只有不到三十年。就在這段時(shí)期里,中國司法系統(tǒng)獲得了某種后發(fā)優(yōu)勢,借助信息技術(shù)、互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算以及人工智能提高辦案效率和透明度,使審理流程發(fā)生了廣泛而深刻的質(zhì)變和突變。其結(jié)果,不得不承認(rèn),裁定的主體、標(biāo)準(zhǔn)以及程序都呈現(xiàn)出前所未有的景象:法院儼然成為判決工廠、法官仿佛是在流水作業(yè)線上進(jìn)行操作的技工、審級制度的意義在削弱、公檢法司不同角色的協(xié)同性和統(tǒng)一性在加強(qiáng)。所有這些動(dòng)向,都對現(xiàn)代法治的制度安排提出了嚴(yán)峻的挑戰(zhàn),都很值得我們認(rèn)真考察、分析以及思索。筆者試圖在驚呼“機(jī)器人法官來了”的社會熱潮中進(jìn)行一點(diǎn)冷思考,追溯司法體制改革的初心和真諦。

    二、人工智能與法律數(shù)據(jù)庫的進(jìn)程

    回顧關(guān)于人工智能、大數(shù)據(jù)與法(特別是審判系統(tǒng))的研究歷史可以知道,聯(lián)邦德國司法部早在20世紀(jì)60年代末就成立了一個(gè)專門研究計(jì)算機(jī)在法律實(shí)務(wù)中的作用以及運(yùn)行機(jī)制的設(shè)計(jì)組,并在1973年構(gòu)建出被稱作JURIS的數(shù)據(jù)庫和社會法檢索裝置?!? 〕在美國,布魯斯·布坎南和托馬斯·希德里克于1970年11月發(fā)表《關(guān)于人工智能和法律推理若干問題的考察》一文,〔4 〕拉開了研究如何對辦案活動(dòng)中的法律推理進(jìn)行計(jì)算機(jī)信息系統(tǒng)處理的序幕?!? 〕不久由沃爾特·珀普、本哈德·施林克開發(fā)出了JUDITH律師推理系統(tǒng),旨在提高法律服務(wù)的質(zhì)量和效率?!? 〕魯特哥茲大學(xué)到1977年已經(jīng)成功開發(fā)世界上第一個(gè)計(jì)算機(jī)法律專家系統(tǒng)——根據(jù)LISP程序語言記述的處理公司并購稅務(wù)問題的TAXMAN,有利于精準(zhǔn)和迅速處理大量的事務(wù)性工作?!? 〕就在當(dāng)年,蘇聯(lián)科學(xué)院法學(xué)研究所也啟動(dòng)了自動(dòng)化管理以及相關(guān)法律問題的研究項(xiàng)目 〔8 〕——從社會主義經(jīng)濟(jì)體制的角度來看,通過人工智能增強(qiáng)計(jì)劃理性和對規(guī)范實(shí)施效果進(jìn)行監(jiān)控的精準(zhǔn)度似乎是題中應(yīng)有之義。〔9 〕幾年后,蘭德公司民事司法中心的研究人員D.A.沃特曼和M.皮特森開發(fā)出了審判輔助系統(tǒng)(Legal Decision-making System,簡稱LDS),〔10 〕英國倫敦大學(xué)的帝國學(xué)院借助PROLOG程序語言的推理功能實(shí)現(xiàn)了國籍法實(shí)務(wù)的人機(jī)對話?!?1 〕大約與此同時(shí),日本的電子技術(shù)綜合研究所(現(xiàn)為獨(dú)立行政法人“產(chǎn)業(yè)技術(shù)綜合研究所”)也以KRP程序語言編制出包括實(shí)體法和訴訟法兩種規(guī)則及其相互關(guān)系在內(nèi)的專利法檢索咨詢軟件。〔12 〕2001年,美國聯(lián)邦最高法院正式啟用案件管理和電子檔案系統(tǒng)(CM/ECF),〔13 〕據(jù)權(quán)威報(bào)告提供的統(tǒng)計(jì)數(shù)據(jù),截至2014年年末,這個(gè)系統(tǒng)共收錄超過十億份可檢索訴訟文檔,涵蓋13個(gè)聯(lián)邦上訴法院、94個(gè)聯(lián)邦地區(qū)法院、90個(gè)聯(lián)邦破產(chǎn)法院以及若干聯(lián)邦專門法院,形成了一個(gè)龐大的司法數(shù)據(jù)庫?!?4 〕

    在中國,運(yùn)用計(jì)算機(jī)系統(tǒng)建立法律數(shù)據(jù)庫、輔助審判業(yè)務(wù)的代表性構(gòu)想,不妨追溯到龔祥瑞和李克強(qiáng)在《法學(xué)雜志》1983年第3期發(fā)表那篇論文《法律工作的計(jì)算機(jī)化》。而最早的相關(guān)實(shí)踐,或許是筆者親眼所見北京大學(xué)法律系留美回國青年教師張力行和幾位研究生在極其簡陋的條件下于1985年著手創(chuàng)建涉外法規(guī)查詢系統(tǒng)的場景。這個(gè)查詢系統(tǒng)的進(jìn)化版本就是后來聞名遐邇的中國法律信息檢索系統(tǒng)“北大法寶”,記得早期它的標(biāo)語是“e法律,0距離”?!?5 〕1986年,上海法學(xué)研究者朱華榮、肖開權(quán)主持的“量刑綜合平衡與電腦輔助量刑專家系統(tǒng)”課題獲批國家社科“七五”研究項(xiàng)目。到1993年,武漢大學(xué)法學(xué)院趙廷光教授領(lǐng)銜開發(fā)了實(shí)用刑法專家系統(tǒng),由咨詢檢索系統(tǒng)、輔助定性系統(tǒng)、輔助量刑系統(tǒng)三個(gè)部分組成,兼有檢索法律規(guī)范信息和對個(gè)案進(jìn)行推理判斷的功能,曾經(jīng)被一百多家法院、檢察院、律師事務(wù)所采用?!?6 〕眾所周知,進(jìn)入20世紀(jì)90年代后,數(shù)碼信息技術(shù)的發(fā)達(dá)造成了全球互聯(lián)互通的“網(wǎng)絡(luò)空間”、規(guī)模龐大的“網(wǎng)民”和“電子群眾”,也使得“信息高速公路”上的國際犯罪日益活躍、黑客式無政府主義現(xiàn)象不斷蔓延?!?7 〕到1999年左右,中國公安部專門設(shè)立計(jì)算機(jī)管理監(jiān)察處,并配置了在電子空間巡邏的大量“網(wǎng)警”,〔18 〕利用信息檢索系統(tǒng)偵查犯罪行為和收集證據(jù)的“電子偵探”也頗見成效?!?9 〕“網(wǎng)絡(luò)社會”和“網(wǎng)絡(luò)法”的概念也進(jìn)入大眾傳媒的視野。endprint

    三、司法運(yùn)營電腦化的技術(shù)革新

    互聯(lián)網(wǎng)和數(shù)碼信息技術(shù)也為中國審判方式創(chuàng)新和司法體制改革提供了重要的杠桿和機(jī)遇。一般而言,傳統(tǒng)式樣法院的基礎(chǔ)設(shè)施建設(shè)是耗時(shí)費(fèi)力的,需要購置和安放卷帙浩繁的法律法規(guī)、判例以及訴訟卷宗,需要相應(yīng)地?cái)U(kuò)大辦公面積和人員編制,但計(jì)算機(jī)系統(tǒng)和多媒體可以幫助原先條件比較落后的中國司法機(jī)構(gòu)實(shí)現(xiàn)跨越式發(fā)展。司法運(yùn)營電腦化還可以或多或少在相當(dāng)程度上解決適格法官人數(shù)不足、司法經(jīng)費(fèi)匱乏、法律適用統(tǒng)一化程度較低、司法腐敗蔓延等具體問題。在筆者看來,正是基于這些考慮,1999年10月20日最高人民法院頒布的《人民法院五年改革綱要》才把采用信息技術(shù)、樹立在線審判體制作為司法改革的重要內(nèi)容?!?0 〕

    第一個(gè)改革五年綱要是從“加強(qiáng)法院辦公現(xiàn)代化建設(shè),進(jìn)一步提高司法效率和法院管理水平”角度來理解信息技術(shù)的意義,強(qiáng)調(diào)要“審判法庭要配備安全檢查、法庭文字錄入、錄音、錄像、投影、閉路電視監(jiān)控系統(tǒng)等相應(yīng)的技術(shù)設(shè)備”,要求各級法院在“2001年底前,基本實(shí)現(xiàn)計(jì)算機(jī)等現(xiàn)代化技術(shù)手段在庭審記錄、訴訟文書制作、法院人事管理、檔案管理、統(tǒng)計(jì)數(shù)據(jù)信息處理等方面的應(yīng)用。加快計(jì)算機(jī)信息網(wǎng)絡(luò)和通信,建設(shè),統(tǒng)一網(wǎng)絡(luò)應(yīng)用軟件。用3年時(shí)間實(shí)現(xiàn)最高人民法院與高、中級人民法院之間的計(jì)算機(jī)聯(lián)網(wǎng),力爭5年內(nèi)建立全國法院計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng),將案件的管理、信息和統(tǒng)計(jì)數(shù)據(jù)收集、傳輸?shù)燃{入網(wǎng)絡(luò)系統(tǒng),提高人民法院各項(xiàng)管理工作的科技含量”。還規(guī)定“2000年底前,最高人民法院完成對各類案件的司法統(tǒng)計(jì)指標(biāo)體系的改革工作。進(jìn)一步探索建立符合人民法院審判工作管理需要的,具有快速反應(yīng)和宏觀分析能力的現(xiàn)代司法統(tǒng)計(jì)工作和管理體系”?!?1 〕2002年,最高人民法院制定了《人民法院計(jì)算機(jī)信息網(wǎng)絡(luò)系統(tǒng)建設(shè)管理規(guī)定》和《人民法院計(jì)算機(jī)信息網(wǎng)絡(luò)系統(tǒng)建設(shè)規(guī)劃》,召開了全國法院信息化建設(shè)工作會議,啟動(dòng)了“國家司法審判信息系統(tǒng)工程”。這些改革舉措為大數(shù)據(jù)、云計(jì)算、互聯(lián)網(wǎng)、信息技術(shù)、人工智能在審判過程中的大規(guī)模運(yùn)用奠定了基礎(chǔ)。

    在這里可以看到,中國法院改革綱要期待多媒體和數(shù)碼信息技術(shù)主要發(fā)揮以下三種功能:(1)作為“審理活動(dòng)的工具”,幫助法官和律師獲得訴訟資料、記錄勘驗(yàn)和詢問結(jié)果、開示證據(jù)等;(2)作為“法院管理的裝置”,保存和移送審判數(shù)據(jù)、及時(shí)掌握庭審實(shí)況、通過錄音錄像制作法院文書等;(3)作為“實(shí)況觀測的窗口”,使得辦案過程實(shí)現(xiàn)可視化、對庭審進(jìn)行現(xiàn)場轉(zhuǎn)播、輿論監(jiān)督。為了確保這些功能充分發(fā)揮,各地各級法院都制定了有關(guān)規(guī)章制度。例如北京市海淀區(qū)人民法院的《計(jì)算機(jī)網(wǎng)絡(luò)管理規(guī)則》(1998年4月實(shí)施)規(guī)定,各法庭必須與審理同步進(jìn)行各種記錄和案件數(shù)統(tǒng)計(jì),輸入的審判數(shù)據(jù)由院級技術(shù)室計(jì)算機(jī)組統(tǒng)一管理并進(jìn)行信息質(zhì)量的季度普查和隨時(shí)抽查;為此還對法官、書記員以及行政人員進(jìn)行信息處理技能測試,對過失行為設(shè)置了罰則?!?2 〕另外,計(jì)算機(jī)法律專家系統(tǒng)和司法行政支持系統(tǒng)的研究開發(fā)也正式提上議事日程?!?3 〕到2003年,“中國審判法律應(yīng)用支持系統(tǒng)”在全國推廣使用。2004年最高人民法院設(shè)置了第一個(gè)電子化、智能化法庭。不難想象,從20世紀(jì)90年代末開始,法國社會思想家米歇爾·福柯曾經(jīng)深入分析過的那種合理的、精密的權(quán)力關(guān)系以及微觀層面的規(guī)制化、組織化、效率化、機(jī)械化的風(fēng)景,究竟是如何以計(jì)算機(jī)系統(tǒng)和數(shù)碼信息技術(shù)為杠桿在中國的各級法院漸次展開,終于蔚為大觀。

    四、圍繞電腦量刑的試驗(yàn)與爭論

    這種司法人工智能化趨勢的最激進(jìn)表現(xiàn),就是山東省在2006年高調(diào)推廣淄川區(qū)法院三年前開發(fā)刑事審判專家軟件的經(jīng)驗(yàn)、在當(dāng)?shù)馗骷壏ㄔ褐衅毡閷?shí)行電腦量刑,曾經(jīng)成為國際社會的一則轟動(dòng)性新聞。海外法律界人士以及公眾傳媒當(dāng)時(shí)的主要反應(yīng)是:既對中國法院在審判人工智能方面極其大膽的創(chuàng)新舉措感到驚奇不已,同時(shí)也對用鼠標(biāo)點(diǎn)擊出來的自動(dòng)化判決抱有相當(dāng)程度的憂懼,因?yàn)樾淌略V訟事關(guān)人命、自由、國家目標(biāo)以及社會正義,與民商法相比較更需要保留基于人格修養(yǎng)的心證以及感化的余地,更需要加強(qiáng)對具體事實(shí)關(guān)系和語境的全面理解和細(xì)致入微的洞察,也更難于進(jìn)行機(jī)械化的數(shù)碼技術(shù)處理?!?4 〕

    站在中國法律傳統(tǒng)文化的視點(diǎn)來看,可以發(fā)現(xiàn)律令制的根本特征在于重案的絕對法定刑主義以及盡量壓縮審判者裁量余地的機(jī)械化、細(xì)則化的條文構(gòu)成。筆者在1993年發(fā)表長篇論文《法律程序的意義》時(shí)就已經(jīng)指出了這一點(diǎn),并陳述了如下批評性意見:“各代刑律的定刑方式皆如出一轍,幾乎排除了量刑的余地。可惜當(dāng)時(shí)尚未發(fā)明電子計(jì)算機(jī),否則自動(dòng)量刑的專家系統(tǒng)軟件或許早已被列祖列宗設(shè)計(jì)出來了?!瓰榱朔乐购拖拗祈б?,我國采取了比西方更嚴(yán)厲的措施。其動(dòng)機(jī)或可理解,但其效果卻很糟糕。因?yàn)槲覈诳s減恣意的同時(shí)也壓抑了選擇,而選擇恰恰是[法律]程序的價(jià)值所在?!?〔25 〕沒想到距此十年之后,甚至更早些時(shí)候就已經(jīng)有人利用數(shù)碼信息技術(shù)時(shí)代的發(fā)達(dá)工具和條件來填補(bǔ)那個(gè)古昔的遺憾——編制了自動(dòng)量刑的軟件,并在要件和效果之間與時(shí)俱進(jìn)地補(bǔ)充了一些選擇對象。由此可見,在中國電腦量刑之所以很容易被接受,并且迅速得到普及,其實(shí)是以固有的思維方式為前提條件和催化劑的,倒也不足為奇。

    另外還有大家都已經(jīng)注意到的直接原因,這就是司法活動(dòng)中存在的辦案質(zhì)量很參差、審理主體濫用裁量權(quán)、司法腐敗、冤假錯(cuò)案層出不窮、甚至出現(xiàn)一案兩結(jié)論的“陰陽判” 〔26 〕等嚴(yán)重問題,極大地動(dòng)搖了對人腦判斷的信心,同時(shí)也就順理成章地助長了對電腦量刑的客觀性、中立性以及確定性的期待。于是法官和當(dāng)事人都試圖用科學(xué)技術(shù)之光來照亮那個(gè)容許自由裁量以及非正式操作的暗箱,借助計(jì)算機(jī)來保證審判的公正、效率以及精密。實(shí)際上,從淄川區(qū)法院編撰的《常用百種罪名量刑規(guī)范化實(shí)施細(xì)則》的內(nèi)容介紹里,我們可以發(fā)現(xiàn)孟德斯鳩式的類似自動(dòng)售貨機(jī)的法官標(biāo)準(zhǔn)像與根據(jù)條文規(guī)定自動(dòng)得出刑期的傳統(tǒng)思維方式之間的互乘效應(yīng)。在這里,也不妨歸納出一條關(guān)于判決嚴(yán)格對應(yīng)于法律、同案同判的司法鏡像原則。如果再深想一層,在這里還表現(xiàn)出對審判本質(zhì)的理解方面的變化——有關(guān)機(jī)構(gòu)正在試圖用專業(yè)性共同語言(按照法律要件整理事實(shí)并進(jìn)行嚴(yán)格論證)來取代日常性共同語言,盡量排除情緒化因子和曖昧涵意對推理的影響。實(shí)際上,山東法院推廣電腦量刑的確產(chǎn)生了借助計(jì)算機(jī)語言形式來使法律語言更加規(guī)范化的意圖和客觀效果。例如淄川區(qū)法院院長王建東說過,當(dāng)?shù)剞r(nóng)村、山區(qū)地帶法官業(yè)務(wù)素質(zhì)普遍較低,自由裁量權(quán)往往被濫用,在這樣的條件下應(yīng)用量刑軟件來辦案,“實(shí)質(zhì)上還是用制度約束人”,〔27 〕使審判更加符合統(tǒng)一的專業(yè)化標(biāo)準(zhǔn)。在這樣的意義上,有關(guān)努力當(dāng)然是值得給予充分的評價(jià)的。endprint

    盡管如此,我們還是不得不指出:在現(xiàn)階段對法律專家系統(tǒng)軟件的設(shè)計(jì)和運(yùn)用應(yīng)該持一種慎之又慎的態(tài)度,尤其是在電腦量刑方面更不可急于求成,也沒有必要完全排除法官的心證和裁量。要問理由何在,答曰:首先,任何法律專家系統(tǒng)軟件都意味著作出一種純粹的法律實(shí)證主義預(yù)設(shè)。計(jì)算機(jī)可以處理法律條文內(nèi)容中的三段論推理以及關(guān)于“要件-效果”的條件式推理,也可以處理案例特征與數(shù)據(jù)庫檢索到的基礎(chǔ)案例特征之間的類似性并進(jìn)行傾向性推理和判斷,〔28 〕但卻無法適當(dāng)表現(xiàn)那些決定有效規(guī)范在適用上的優(yōu)劣順序的元規(guī)則。也就是說,電腦量刑固然能在很大程度上排除在行使自由裁量權(quán)方面的主觀任意性,但同時(shí)也會排除諸如自然法、權(quán)利保障、天理人情、有教少誅重預(yù)防之類的思辨性要素,還傾向于排除利益考量等政策性調(diào)整機(jī)制。其次,電腦量刑所體現(xiàn)的規(guī)范化,勢必忽視地方性知識、上下文脈絡(luò)以及具體情境,而這些字里行間的“意義之網(wǎng)”對于法律判斷是非常重要的。在一定程度上不妨認(rèn)為,不可言說的默示知識就標(biāo)示出了計(jì)算機(jī)法律專家系統(tǒng)軟件以及人工智能審判的疆界或者局限之所在。

    再者,中國成文法歷來都以簡約相標(biāo)榜,不乏多種解釋的空間;各個(gè)概念的內(nèi)涵和外延也尚未完全統(tǒng)一。例如僅義務(wù)條款,就有“應(yīng)該”和“必須”等不同表述。具有中國特色的公平責(zé)任原則以及屢見不鮮的“合理的”、“可預(yù)期的”等術(shù)語,在法律推理中發(fā)揮著極其重要的作用,但有關(guān)事項(xiàng)在法律條文中并沒有給出、實(shí)際上也不可能給出明確的定義。作為法律細(xì)則化結(jié)果的行政規(guī)范和地方規(guī)范極其龐雜,不同層面和部門的規(guī)定之間往往發(fā)生矛盾,使得整合化作業(yè)異常困難。凡此種種實(shí)像,都是不太適宜于電子計(jì)算機(jī)處理的。反過來,假如在這樣的狀態(tài)下就通過機(jī)器把法庭內(nèi)外的對話和溝通加以格式化、固定化,很可能會阻礙法律解釋學(xué)、推理技術(shù)、專業(yè)化教育以及審判者倫理人格的發(fā)展和提高,使司法流于一種檢索和推測的簡單智力游戲。假如這樣的初級系統(tǒng)軟件只被當(dāng)作審判的輔助性工具,只在有限的范圍內(nèi)用于減輕檢索負(fù)擔(dān)以及避免疏漏,那不僅無可非議,還應(yīng)大力支持。但一旦真要讓法官們據(jù)此形成判決,甚至自動(dòng)生成判決,就難免會遺患無窮。

    還有必要指出的是,目前中國關(guān)于法律知識的數(shù)據(jù)庫依然非常不完備?!?9 〕類似電腦量刑那樣的軟件,其核心是法律推理系統(tǒng),而關(guān)于法律推理的研究成果的積累在中國還極其薄弱。在這樣的狀況下,假如采取的只是把有關(guān)條文形式化、再追加若干解釋規(guī)則的樸素方式,那么作為邏輯程序而執(zhí)行時(shí)就很容易出現(xiàn)知識本身不循環(huán)、只是邏輯程序空轉(zhuǎn)之類的問題,也很難對否定性表現(xiàn)進(jìn)行適當(dāng)處理。假如語匯儲量不夠,法律知識的數(shù)據(jù)庫與推理引擎相結(jié)合就很容易頻繁發(fā)生沒有意義的檢索。假如存在復(fù)數(shù)的法律知識數(shù)據(jù)庫,如何使它們互相聯(lián)系兼容并對它們進(jìn)行排除矛盾和沖突的整合以及有效的一貫化控制,也是頗為棘手的重要課題,需要消耗大量的時(shí)間和精力才有望獲得進(jìn)展。何況法律在不斷修改,知識數(shù)據(jù)庫的更新以及解釋規(guī)則的調(diào)整也需要不斷進(jìn)行,在網(wǎng)絡(luò)結(jié)構(gòu)中只要某一事項(xiàng)的重新定義出現(xiàn)過失,就有可能成倍放大誤差、引起自動(dòng)化處理的結(jié)果異?!@也將導(dǎo)致建構(gòu)和維持電子計(jì)算機(jī)法律專家系統(tǒng)的成本居高不下。

    有人試圖把美國的《聯(lián)邦量刑指南》作為機(jī)械化審判的辯護(hù)理由,這是錯(cuò)誤的?!堵?lián)邦量刑指南》的性質(zhì)更接近一種關(guān)于如何行使裁量權(quán)的權(quán)威性技術(shù)手冊,一方面把法院內(nèi)部過去存在的關(guān)于制裁幅度的非正式“行情”以及曖昧的判斷指標(biāo)在可能的范圍內(nèi)作出明文規(guī)定:另一方面還為司法的精密化和彈性化設(shè)立了很多政策性調(diào)整的尺度(例如優(yōu)先救濟(jì)被害人的原則,對企業(yè)犯罪進(jìn)行制裁的加重或減輕的各種要件)?!?0 〕特別值得重視的是,這個(gè)司法技術(shù)操作規(guī)則具有明顯的道德指向、人權(quán)理念以及政策思維方式,并受到合憲性審查的制約?!?1 〕在中國,更類似的現(xiàn)象倒是最高人民法院關(guān)于確定量刑幅度和計(jì)算賠償額的具體標(biāo)準(zhǔn)的司法解釋以及一些法院最近試行的量刑指南規(guī)則,與電腦自動(dòng)處理軟件系統(tǒng)其實(shí)并沒有什么太多的實(shí)質(zhì)性聯(lián)系。既然電腦量刑的宗旨是精密化審判,那么專家系統(tǒng)軟件本身首先就必須經(jīng)得起精密的“審判”、法官也必須具備不犯誤導(dǎo)鼠標(biāo)之類人為錯(cuò)誤的品格素養(yǎng)——這是一個(gè)無需計(jì)算機(jī)就可以推導(dǎo)出來的結(jié)論。

    五、訴訟信息系統(tǒng)與智慧法院在各地

    與電腦量刑處于不同層面的審判輔助信息系統(tǒng)也在不斷發(fā)展,從2007年到2017年這十年,中國各級法院都在快速進(jìn)入信息化時(shí)代。2007年,最高人民法院作出了《關(guān)于全面加強(qiáng)人民法院信息化工作的決定》,緊接著制定和頒發(fā)了《人民法院審判法庭信息化建設(shè)規(guī)范(試行)》。在總結(jié)實(shí)踐經(jīng)驗(yàn)的基礎(chǔ)上,最高人民法院在2011年下達(dá)《人民法院審判法庭信息化基本要求》,在2013年頒布《關(guān)于推進(jìn)司法公開三大平臺建設(shè)的若干意見》,并在全國第四次司法統(tǒng)計(jì)工作會議上首次提出“大數(shù)據(jù)、大格局、大服務(wù)”的理念。2014年8月1日,最高人民法院開通了中國審判流程信息公開網(wǎng),年底又開通了訴訟服務(wù)網(wǎng),2015年12月底還開通了律師服務(wù)網(wǎng)絡(luò)平臺。從2015年開始,信息化進(jìn)程再次提速,《人民法院信息化建設(shè)五年發(fā)展規(guī)劃(2016—2020)》和《最高人民法院信息化建設(shè)五年發(fā)展規(guī)劃(2016—2020)》同時(shí)發(fā)布,不久天平司法大數(shù)據(jù)有限公司宣告成立,“法信—中國法律應(yīng)用數(shù)字網(wǎng)絡(luò)服務(wù)平臺”正式上線。同年7月,最高人民法院首次提出“智慧法院”的概念;一年后“智慧法院”建設(shè)列入國家信息化發(fā)展戰(zhàn)略綱要。在第三屆世界互聯(lián)網(wǎng)大會上,最高人民法院又牽頭組織“智慧法院暨網(wǎng)絡(luò)法治論壇”,發(fā)布了關(guān)于司法信息化、智能化、網(wǎng)絡(luò)化的“烏鎮(zhèn)共識”。

    “智慧法院”是一個(gè)具有多層涵義的概念,不宜把它簡單化為“人工智能審判”。例如上海市第二中級人民法院在2012年推出“C2J法官智能輔助辦案系統(tǒng)”,具有審理工作支持、裁判文書分析、移動(dòng)終端辦案APP等35個(gè)子系統(tǒng),涉及類案呈送、遠(yuǎn)程庭審、跨境取證、協(xié)同執(zhí)行等許多功能。上海市高級人民法院建立了由門戶網(wǎng)站(內(nèi)網(wǎng)、外網(wǎng))、中心數(shù)據(jù)庫、六大信息應(yīng)用系統(tǒng)、133個(gè)應(yīng)用軟件以及計(jì)算機(jī)和多媒體系統(tǒng)基礎(chǔ)設(shè)施組成的“上海市高級人民法院大數(shù)據(jù)信息系統(tǒng)”,實(shí)現(xiàn)了網(wǎng)絡(luò)三級聯(lián)動(dòng)、應(yīng)用全面覆蓋、數(shù)據(jù)即時(shí)生成、信息高度聚合、資源充分共享的構(gòu)想,并搭建了12368訴訟服務(wù)平臺,分別面向當(dāng)事人、律師以及社會公眾提供各種信息?!?2 〕同年浙江省高級人民法院推出全省人民法院信息管理系統(tǒng)。江蘇省高級人民法院在2014年建立訴訟服務(wù)網(wǎng)“江蘇法務(wù)云”,不僅提供訴訟、審理、司法行政方面的信息服務(wù),還是判決執(zhí)行過程也可視化了。2016年年底,北京市高級人民法院推出智能研判系統(tǒng)“睿法官”,被稱作“機(jī)器人法官”?!?3 〕受到“阿法狗”、“阿法元”等新聞熱點(diǎn)的影響,圍繞“機(jī)器人法官”、“機(jī)器人律師”的話語泡沫也在不斷膨脹,有些地方法院開始大力宣傳諸如判決通過人工智能自動(dòng)生成、根據(jù)大數(shù)據(jù)對法官判斷的誤差進(jìn)行矯正等創(chuàng)新舉措。endprint

    2017年6月初,中央政法委員會組織十幾個(gè)專家學(xué)者到上海、南京以及貴陽考察司法體制改革試點(diǎn)的成果,各地、各機(jī)關(guān)介紹經(jīng)驗(yàn)的重點(diǎn)其實(shí)已經(jīng)在不經(jīng)意間從司法體制革新悄然轉(zhuǎn)向司法技術(shù)革新。智慧法院、數(shù)據(jù)法院、訴訟服務(wù)綜合信息系統(tǒng)、電子質(zhì)證、案件卷宗流轉(zhuǎn)的云柜互聯(lián)、智能語音庭審流程、裁量權(quán)的數(shù)據(jù)鐵籠、機(jī)器人律師,諸如此類的流行語、新概念、前衛(wèi)現(xiàn)象層出不窮、千姿百態(tài)、鏗鏘作響,既讓人感到振奮,也讓人顧慮相關(guān)的風(fēng)險(xiǎn)和隱患。無論如何,各地各級的法院都似乎變得越來越像一座座判決工場、各種各樣的法官似乎都變得越來越像在流水線上機(jī)械操作的一個(gè)個(gè)辦案技工。實(shí)際上,在很多場合,審判儼然已經(jīng)成為法官與電腦工程師共同決定的結(jié)果,判決自動(dòng)生成機(jī)制也很容易導(dǎo)致數(shù)據(jù)算法支配個(gè)案司法的事態(tài)??傊?,審判空間正在發(fā)生非常激進(jìn)的改革,雷厲風(fēng)行、天翻地覆,并且勢必影響今后各種法律機(jī)制設(shè)計(jì)以及法學(xué)教育的場域,我們不能不從正反兩個(gè)方面來仔細(xì)觀察、深入分析、全面評估“互聯(lián)網(wǎng)+”和“人工智能+”在審判空間的各種波及效應(yīng),從制度和思想上采取未雨綢繆的應(yīng)對舉措。

    六、對司法人工智能熱的冷思考

    近幾年來隨著社會結(jié)構(gòu)轉(zhuǎn)型和公民權(quán)利意識的加強(qiáng),中國法院受理的案件規(guī)模年均以兩位數(shù)增長,頗有訴訟爆炸之勢,導(dǎo)致法官人均辦案件數(shù)急劇攀升且居高不下,這也是司法部門積極采用互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、人工智能等新型信息技術(shù)以提高司法效率的重要原因。從上海到貴州,各地法院都在通過案件繁簡分流、核定法官年均最大辦案量、加強(qiáng)考核問責(zé)、調(diào)整法官與審判輔助人員比例等方式緩解案件積壓事態(tài),提出了“向信息化要人力、要效率”的口號?!?4 〕通過計(jì)算機(jī)信息檢索系統(tǒng)和其他輔助手段來減少機(jī)械性勞動(dòng)的負(fù)荷,提高材料、數(shù)據(jù)等處理的速度和質(zhì)量,這的確是行之有效的。在這個(gè)意義上完全可以說,“智慧法院”的建設(shè)具有重要價(jià)值,也大有可為。但是,如果更進(jìn)一步,讓人工智能超出輔助性手段的范疇而全面應(yīng)用于審判案件,甚至在很大程度上取代法官的判斷,那就很有可能把司法權(quán)引入歧途。因?yàn)樵诎讣聦?shí)曲折、人際關(guān)系復(fù)雜、摻雜人性和感情因素的場合,如何根據(jù)法理、常識以及對機(jī)微的洞察作出判斷并拿捏分寸進(jìn)行妥善處理其實(shí)是一種微妙的藝術(shù),不得不訴諸適格法官的自由心證和睿智,即使人工智能嵌入了概率程序、具有深度學(xué)習(xí)能力也很難作出公正合理、穩(wěn)當(dāng)熨帖、讓人心悅誠服的個(gè)案判斷?!?5 〕

    更重要的是,對人工智能的過度期待或者誤解可能導(dǎo)致現(xiàn)代法治的制度設(shè)計(jì)分崩離析,引起社會結(jié)構(gòu)出現(xiàn)矛盾、混亂乃至失控的事態(tài)。在現(xiàn)代國家治理體系中,法院是政府權(quán)力與個(gè)人權(quán)利之間關(guān)系的校準(zhǔn)器,是秩序形成和維持的樞紐。為了確保司法的公正和權(quán)威,在制度設(shè)計(jì)上讓法官享有某種身份上的特權(quán)——只服從法律以防止任何外部干擾、確??蓡栘?zé)性;被賦予法律適用和法律判斷的終局性權(quán)力;在程序公正的前提下具備包括豁免在內(nèi)的職業(yè)保障。這樣的身份特權(quán)得以正當(dāng)化的理由是法官的遴選標(biāo)準(zhǔn)是最嚴(yán)格的,足以確保其學(xué)識和人品的適格性;審判程序是最公開、透明、公正的,可以防止無原則的妥協(xié)和暗箱操作;任何決定都必須經(jīng)歷對抗性辯論和證明的洗禮,往往采取三審終審的做法,是在法律推理和充分審議基礎(chǔ)上作出的判定;正是基于上述原因,終審判決也是任何糾紛案結(jié)事了的最佳時(shí)間節(jié)點(diǎn)。顯而易見,以毫無節(jié)制的“人工智能+”方式改造審判空間后,這樣的法官定位勢必發(fā)生極大的動(dòng)搖,甚至造成審判系統(tǒng)乃至司法權(quán)的全面解構(gòu)。

    讓人工智能自動(dòng)生成判決、根據(jù)大數(shù)據(jù)矯正法律決定的偏差等做法勢必形成審判主體的雙重結(jié)構(gòu)、甚至導(dǎo)致決定者的復(fù)數(shù)化,事實(shí)上將出現(xiàn)程序員、軟件工程師、數(shù)據(jù)處理商、信息技術(shù)公司與法官共同作出決定的局面。一旦審判主體和決定者難以特定,那么權(quán)力邊界也就變得模糊不清,司法問責(zé)制就很容易流于形式,至少推卸責(zé)任的可能性被大幅度擴(kuò)充了。另外,智慧法院的設(shè)想如果流于片面、走向極端,普及計(jì)算機(jī)自動(dòng)生成判決的機(jī)制,勢必導(dǎo)致算法支配審判的事態(tài)。當(dāng)然,計(jì)算機(jī)生成的只是參考文本,法官還需要審閱矯正;但是在受理案件數(shù)激增和法定審理期限剛性規(guī)定的雙重壓力下,加上人的思考惰性,或遲或早會出現(xiàn)法官過度依賴參考判決處理案件的傾向。一旦這樣的情況司空見慣,算法獨(dú)裁就無從避免。大數(shù)據(jù)也會使既有判決中存在的失誤、質(zhì)量問題以及偏差值在無意間被固定化,壓抑通過個(gè)案發(fā)現(xiàn)合法權(quán)利、創(chuàng)新規(guī)范、推動(dòng)制度進(jìn)化的動(dòng)態(tài)機(jī)制。更重要的是,大數(shù)據(jù)和人工智能將會變成法庭辯論的“斷頭臺”,釀成“一切取決于既定的軟件,面對面的對話式論證算不了什么”的氛圍,使中國本來就很孱弱的法律推理、法律議論以及法律解釋學(xué)更加無足輕重。這意味著從根本上改變現(xiàn)代司法過程的結(jié)構(gòu)和功能,使得法官自由心證失去了“從心所欲不逾矩”的制度上、技術(shù)上保障。

    來源多樣化、規(guī)模不斷膨脹的法律數(shù)據(jù)本來就不可能完美無缺,何況在中國快速發(fā)展的過程中還存在比較嚴(yán)重的質(zhì)量問題,甚至也有基于政績考慮的數(shù)據(jù)造假的問題。〔36 〕在這樣的狀況下,電腦算法其實(shí)也構(gòu)成一個(gè)暗箱,如果片面而過度強(qiáng)調(diào)大數(shù)據(jù)和人工智能在司法中的應(yīng)用,那就很容易使得算法和推斷繼承原有司法實(shí)踐的弊端和偏見,甚至還會放大某些缺陷。如果在不經(jīng)意間司法系統(tǒng)被唯算法論所支配,那么合法正義就難免被算法綁架、被數(shù)據(jù)處理商綁架的命運(yùn)。為了防止這樣的暗淡前景,必須借助法院組織法和法官法修改的機(jī)會,明確定位裁判主體、案件審理機(jī)制以及新型信息技術(shù)。從目前的法律修改草案和討論內(nèi)容來看,“互聯(lián)網(wǎng)+”、“人工智能+”的時(shí)代變化并沒有及時(shí)而充分地反映到立法過程中。例如法院組織法沒有明確規(guī)定司法輔助人員的權(quán)利與義務(wù),這與目前審判現(xiàn)場的巨變不相適應(yīng);數(shù)據(jù)處理部門、電腦工程師對案件審理正在產(chǎn)生深刻影響,法院的信息處理外包業(yè)務(wù)龐大,這些新領(lǐng)域、新現(xiàn)象都有待法律進(jìn)一步明確界定。另外,面對法律和計(jì)算機(jī)程序編碼以及大數(shù)據(jù)算法的支配,應(yīng)該強(qiáng)調(diào)法官“有思考的服從”原則,并為法官綜合名實(shí)、統(tǒng)籌裁量留下充分的空間。再者,判決自動(dòng)生成的技術(shù)如何與法律解釋和法律溝通兼容,如何防止人工智能壓縮法律議論的空間?如何在人工智能時(shí)代確保程序、辯論、共識的司法三要件不僅維持,而且還進(jìn)一步強(qiáng)化?如何為法律職業(yè)提供新的堅(jiān)實(shí)基礎(chǔ)?這些問題都是必須認(rèn)真考慮的。

    在新的社會背景下推敲司法責(zé)任和司法民主,制度設(shè)計(jì)不得不面對的兩大問題是:如何防止法官的責(zé)任負(fù)荷太重?如何防止法官想方設(shè)法推卸責(zé)任的行為?中國解決責(zé)任負(fù)荷太重的問題,主要進(jìn)路是發(fā)展院外解紛方式或者司法的直接民主化以及借助信息技術(shù)提高效率、分散責(zé)任。其結(jié)果,很容易在審判主體多樣化、審判標(biāo)準(zhǔn)多樣化的狀況下形成某種互相推卸責(zé)任、轉(zhuǎn)嫁責(zé)任的通道。計(jì)算機(jī)軟件系統(tǒng)能夠從技術(shù)上確保全程留痕,也許在一定程度上可以減輕類似問題。但是,數(shù)據(jù)鐵籠、判決自動(dòng)生成等做法很容易造成算法支配審判的事態(tài),使得法官無從負(fù)責(zé),對法官辦案的結(jié)果也很難進(jìn)行切實(shí)有效的問責(zé)。一旦形成算法專制的局面,法庭辯論、上訴審、專家酌情判斷的意義都會相對化,結(jié)果將導(dǎo)致法官的物象化、司法權(quán)威的削弱、審判系統(tǒng)的解構(gòu),甚至徹底的法律虛無主義。

    一般而言,法律制度的主要功能是形成秩序、解決糾紛、提供明確的預(yù)期以及價(jià)值正當(dāng)性根據(jù)。所謂國家治理體系和治理能力的現(xiàn)代化,關(guān)鍵在于樹立法治理念,規(guī)范公權(quán)力的運(yùn)行,培養(yǎng)政府與全體人民共同遵守法律規(guī)則的行為方式和思維方式。為此,法律體系,特別是審判制度不得不具有充分的合理性和中立性,以提高整個(gè)社會運(yùn)行的效率和公平。執(zhí)法者和司法者始終面對的是各種利益沖突和價(jià)值沖突,為了有效化解矛盾,法律推理和法律議論必須摒棄唯我獨(dú)尊的態(tài)度,必須善于傾聽不同的主張和論證,必須使決定具有普遍說服力,讓對立雙方都接受和認(rèn)同。這樣的根本特征決定了法學(xué)研究的立場和法學(xué)教育的宗旨。對于法律的決定過程而言,無論哪一種觀點(diǎn)都可以在平等而公開的程序競技場提出來,都需要經(jīng)歷說服力比賽的洗禮。換言之,法治的本質(zhì)是以理服人,而不是以力壓人。特別需要指出的是,司法權(quán)的中立性注定了對不同利益訴求和價(jià)值判斷采取兼容并蓄的態(tài)度。司法權(quán)的終局性注定了要通過辯論的優(yōu)勝劣汰機(jī)制選出一個(gè)正確的最終解決方案,這個(gè)方案至少要滿足兩個(gè)要件:第一,在邏輯上完全自洽,決不能出爾反爾、自相矛盾;第二,在價(jià)值判斷上反映社會的最大公約數(shù),具有最大限度的普遍說服力。在這樣的現(xiàn)代法治體制面前,大數(shù)據(jù)、云計(jì)算、信息技術(shù)、人工智能都只是實(shí)現(xiàn)合法正義的輔助手段,切不可本末倒置,這是我們始終應(yīng)該銘記的一條基本原則。endprint

    猜你喜歡
    司法權(quán)人工智能
    晉冀魯豫邊區(qū)刑事司法審查制度的理性與經(jīng)驗(yàn)
    我校新增“人工智能”本科專業(yè)
    法學(xué)基本范疇研究:司法權(quán)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    下一幕,人工智能!
    司法權(quán)運(yùn)行機(jī)制改革評價(jià)研究——以民事審判中“用戶體驗(yàn)”為視角
    “斬?cái)唷毙姓深A(yù)司法的“黑手”
    北極光(2016年4期)2016-06-06 23:06:35
    久久久亚洲精品成人影院| 色吧在线观看| 国产精品精品国产色婷婷| 久久99热这里只频精品6学生| 国产老妇伦熟女老妇高清| 精品99又大又爽又粗少妇毛片| 免费看不卡的av| 一级毛片黄色毛片免费观看视频| 亚洲美女视频黄频| 在线观看美女被高潮喷水网站| 18禁裸乳无遮挡免费网站照片| 性色av一级| 成人综合一区亚洲| 亚洲经典国产精华液单| 2021天堂中文幕一二区在线观| 国产男人的电影天堂91| 卡戴珊不雅视频在线播放| 久久人人爽人人片av| 丝袜喷水一区| 三级经典国产精品| 久久精品国产自在天天线| 成人特级av手机在线观看| 美女cb高潮喷水在线观看| 久久久久久久大尺度免费视频| 国产午夜精品一二区理论片| 亚洲精品aⅴ在线观看| 精品一区二区免费观看| 国产成人a∨麻豆精品| 99热全是精品| 赤兔流量卡办理| 欧美日韩一区二区视频在线观看视频在线 | 成人亚洲欧美一区二区av| 日韩欧美精品v在线| 国产黄a三级三级三级人| 欧美成人a在线观看| 超碰97精品在线观看| 美女被艹到高潮喷水动态| 国产精品一区二区在线观看99| 婷婷色综合大香蕉| 欧美性感艳星| a级毛色黄片| 成人一区二区视频在线观看| 中文天堂在线官网| 色哟哟·www| 婷婷色综合www| 亚洲美女搞黄在线观看| 成人免费观看视频高清| 久久国产乱子免费精品| 18禁在线播放成人免费| 建设人人有责人人尽责人人享有的 | 美女xxoo啪啪120秒动态图| 老司机影院成人| 久久精品国产a三级三级三级| 十八禁网站网址无遮挡 | 亚洲精品乱码久久久久久按摩| 国产黄a三级三级三级人| 成年人午夜在线观看视频| 国产一区有黄有色的免费视频| 国产高清不卡午夜福利| 爱豆传媒免费全集在线观看| 午夜福利视频1000在线观看| 久热这里只有精品99| 男的添女的下面高潮视频| 国产国拍精品亚洲av在线观看| 久久久久九九精品影院| 午夜精品国产一区二区电影 | 大码成人一级视频| 免费黄色在线免费观看| 天天一区二区日本电影三级| 国内揄拍国产精品人妻在线| 卡戴珊不雅视频在线播放| 欧美少妇被猛烈插入视频| 青青草视频在线视频观看| 亚洲精品自拍成人| 国产成人一区二区在线| 欧美xxxx性猛交bbbb| 深夜a级毛片| 天堂中文最新版在线下载 | 国产在视频线精品| 精品久久久久久久久av| 亚洲成人中文字幕在线播放| 国产成人a区在线观看| 建设人人有责人人尽责人人享有的 | 亚洲国产日韩一区二区| 国产精品不卡视频一区二区| 精品99又大又爽又粗少妇毛片| 婷婷色av中文字幕| 婷婷色综合www| 久久久久久久精品精品| 综合色丁香网| 久久ye,这里只有精品| av卡一久久| 日本黄色片子视频| 亚洲,欧美,日韩| 国产一区二区三区av在线| 日本av手机在线免费观看| 如何舔出高潮| 日本免费在线观看一区| 亚洲av电影在线观看一区二区三区 | 大香蕉久久网| 欧美亚洲 丝袜 人妻 在线| 国产一区二区三区av在线| 老司机影院成人| 美女高潮的动态| 久久精品熟女亚洲av麻豆精品| 伦精品一区二区三区| 精品国产露脸久久av麻豆| 成人国产麻豆网| 最近中文字幕高清免费大全6| 成年人午夜在线观看视频| 三级国产精品片| 成年人午夜在线观看视频| 国产伦精品一区二区三区四那| 天天躁夜夜躁狠狠久久av| 国国产精品蜜臀av免费| 国产一级毛片在线| 大话2 男鬼变身卡| 男女国产视频网站| 亚洲av不卡在线观看| 成年版毛片免费区| 一级片'在线观看视频| 最近的中文字幕免费完整| 91狼人影院| 欧美日韩精品成人综合77777| 在线观看免费高清a一片| 精品亚洲乱码少妇综合久久| 国内精品美女久久久久久| 97在线视频观看| 久久精品久久久久久久性| 人妻制服诱惑在线中文字幕| 自拍欧美九色日韩亚洲蝌蚪91 | 国产成人福利小说| 超碰97精品在线观看| 久久女婷五月综合色啪小说 | av线在线观看网站| 夜夜看夜夜爽夜夜摸| 男女边吃奶边做爰视频| 91精品国产九色| 国产熟女欧美一区二区| 美女xxoo啪啪120秒动态图| 蜜桃久久精品国产亚洲av| 熟女电影av网| 青青草视频在线视频观看| 99久久人妻综合| 欧美xxⅹ黑人| 久久精品久久精品一区二区三区| 青春草视频在线免费观看| freevideosex欧美| av国产久精品久网站免费入址| 国产成人精品一,二区| 午夜福利在线在线| 日韩欧美精品免费久久| 午夜免费男女啪啪视频观看| 一区二区av电影网| 国产精品一二三区在线看| 伦理电影大哥的女人| 亚洲一级一片aⅴ在线观看| 禁无遮挡网站| 国产91av在线免费观看| 搞女人的毛片| 亚洲av成人精品一区久久| a级毛色黄片| 国产老妇伦熟女老妇高清| 亚洲va在线va天堂va国产| 一本色道久久久久久精品综合| 一个人看视频在线观看www免费| 网址你懂的国产日韩在线| 国产精品国产av在线观看| av在线app专区| 日本黄色片子视频| 99热这里只有是精品50| av免费观看日本| 亚洲综合精品二区| 看免费成人av毛片| 国国产精品蜜臀av免费| 在线观看人妻少妇| 婷婷色麻豆天堂久久| 一二三四中文在线观看免费高清| 国产精品国产av在线观看| 亚洲欧洲国产日韩| 免费黄色在线免费观看| 亚洲第一区二区三区不卡| 精品一区在线观看国产| 老女人水多毛片| 午夜福利网站1000一区二区三区| 69av精品久久久久久| 成人美女网站在线观看视频| 亚洲av成人精品一二三区| 亚洲国产色片| 久久久久久久久久久免费av| 国产高清国产精品国产三级 | 国产日韩欧美在线精品| 少妇被粗大猛烈的视频| 亚洲人与动物交配视频| 大陆偷拍与自拍| 一级毛片电影观看| 街头女战士在线观看网站| 色视频在线一区二区三区| 精品人妻一区二区三区麻豆| 成人黄色视频免费在线看| 丰满少妇做爰视频| 国产又色又爽无遮挡免| 欧美精品国产亚洲| 国产精品蜜桃在线观看| 日韩av不卡免费在线播放| 丝袜美腿在线中文| 久久久精品免费免费高清| 久久精品久久久久久噜噜老黄| 一区二区三区乱码不卡18| 国产成人午夜福利电影在线观看| 免费观看a级毛片全部| 2021少妇久久久久久久久久久| 伦精品一区二区三区| 国产一区亚洲一区在线观看| 欧美成人午夜免费资源| 国产精品国产三级专区第一集| 18禁在线无遮挡免费观看视频| 午夜免费男女啪啪视频观看| 在线观看三级黄色| 久久精品国产亚洲av天美| 国内少妇人妻偷人精品xxx网站| 国产免费视频播放在线视频| 亚洲性久久影院| 国产欧美另类精品又又久久亚洲欧美| 亚洲不卡免费看| 精品人妻偷拍中文字幕| 高清欧美精品videossex| 国产探花极品一区二区| 久久久精品94久久精品| 亚洲人成网站高清观看| 亚洲国产av新网站| 蜜桃亚洲精品一区二区三区| 中文字幕av成人在线电影| 18禁在线无遮挡免费观看视频| 亚洲精华国产精华液的使用体验| 国产成年人精品一区二区| 嘟嘟电影网在线观看| 麻豆久久精品国产亚洲av| 国精品久久久久久国模美| 免费人成在线观看视频色| 日韩伦理黄色片| 免费黄色在线免费观看| 国产精品久久久久久久电影| 久久久精品欧美日韩精品| 免费看av在线观看网站| 国产综合懂色| 国产精品99久久久久久久久| 国产精品一区二区性色av| 少妇人妻久久综合中文| 丝袜美腿在线中文| 欧美成人精品欧美一级黄| 99热6这里只有精品| 亚洲人成网站在线播| 观看免费一级毛片| 亚洲人成网站高清观看| 亚洲成色77777| 国产黄片美女视频| 国产精品.久久久| 精品国产一区二区三区久久久樱花 | 最近中文字幕高清免费大全6| 国产视频内射| 22中文网久久字幕| 在线观看美女被高潮喷水网站| 精品久久久久久久末码| 国产精品一区二区三区四区免费观看| 99久久人妻综合| 亚洲精品第二区| 久久午夜福利片| 女的被弄到高潮叫床怎么办| 精品一区二区三卡| 亚洲欧美精品自产自拍| 国产亚洲5aaaaa淫片| 成人特级av手机在线观看| 中文字幕亚洲精品专区| 大陆偷拍与自拍| 99热网站在线观看| 亚洲精品第二区| 国产精品不卡视频一区二区| 精品人妻视频免费看| 嫩草影院入口| 欧美变态另类bdsm刘玥| 97人妻精品一区二区三区麻豆| 午夜福利视频1000在线观看| 国产日韩欧美在线精品| 精品熟女少妇av免费看| 国产午夜福利久久久久久| 91久久精品电影网| 夫妻午夜视频| 国产精品99久久99久久久不卡 | 亚洲精品国产av蜜桃| 亚洲国产精品成人综合色| 黄色视频在线播放观看不卡| 最近最新中文字幕大全电影3| 男女边摸边吃奶| 最近中文字幕高清免费大全6| 高清毛片免费看| 美女脱内裤让男人舔精品视频| 精品午夜福利在线看| 久久精品国产亚洲网站| 国产av码专区亚洲av| 国国产精品蜜臀av免费| 国产精品伦人一区二区| 不卡视频在线观看欧美| 搡女人真爽免费视频火全软件| 91在线精品国自产拍蜜月| 国产亚洲一区二区精品| 亚洲自偷自拍三级| 久久久色成人| 一级爰片在线观看| 国产在线一区二区三区精| 成年版毛片免费区| 男女边摸边吃奶| 久久久午夜欧美精品| 2018国产大陆天天弄谢| av卡一久久| 少妇人妻精品综合一区二区| 国产高清国产精品国产三级 | 女人十人毛片免费观看3o分钟| av天堂中文字幕网| 欧美日韩视频高清一区二区三区二| 看黄色毛片网站| 日本猛色少妇xxxxx猛交久久| 国产一区有黄有色的免费视频| 国产精品久久久久久精品电影| 久久久久久久国产电影| 日本色播在线视频| 亚洲av不卡在线观看| 国产一区二区三区av在线| 国产中年淑女户外野战色| 国产爱豆传媒在线观看| 久久精品夜色国产| 汤姆久久久久久久影院中文字幕| 韩国高清视频一区二区三区| 国产精品成人在线| 美女高潮的动态| 只有这里有精品99| 国产精品一区www在线观看| 夜夜看夜夜爽夜夜摸| 色播亚洲综合网| 色5月婷婷丁香| 国产亚洲最大av| 日韩一区二区视频免费看| 99热网站在线观看| 又黄又爽又刺激的免费视频.| 国产精品一及| 亚洲av在线观看美女高潮| 亚洲欧美成人综合另类久久久| 欧美日韩亚洲高清精品| 在线观看一区二区三区| 亚洲精品一区蜜桃| 日日撸夜夜添| 最近最新中文字幕大全电影3| 美女国产视频在线观看| 国产一区有黄有色的免费视频| 中国三级夫妇交换| 国产日韩欧美在线精品| 一级a做视频免费观看| 久久久久久久大尺度免费视频| 日本午夜av视频| 热re99久久精品国产66热6| 久久99蜜桃精品久久| 在线免费观看不下载黄p国产| 在线观看av片永久免费下载| 午夜激情福利司机影院| 日产精品乱码卡一卡2卡三| 久久精品国产亚洲网站| 国产精品福利在线免费观看| 欧美丝袜亚洲另类| 午夜日本视频在线| 亚洲欧美一区二区三区国产| 在线观看av片永久免费下载| 亚洲人与动物交配视频| 大话2 男鬼变身卡| 亚洲国产精品成人久久小说| 日韩一本色道免费dvd| 国产精品一区www在线观看| 午夜福利高清视频| 亚洲精品成人av观看孕妇| 汤姆久久久久久久影院中文字幕| 亚洲精品中文字幕在线视频 | 国产一区二区三区综合在线观看 | 韩国av在线不卡| 午夜福利高清视频| 韩国高清视频一区二区三区| 精品人妻视频免费看| 如何舔出高潮| 精品一区二区免费观看| 最近最新中文字幕大全电影3| 亚洲av男天堂| 男女无遮挡免费网站观看| 国产黄a三级三级三级人| 人妻 亚洲 视频| 国产视频首页在线观看| 欧美人与善性xxx| 日本爱情动作片www.在线观看| 日韩国内少妇激情av| 在线观看国产h片| 人妻一区二区av| 午夜亚洲福利在线播放| 国产毛片a区久久久久| 色播亚洲综合网| av天堂中文字幕网| 五月天丁香电影| 日韩人妻高清精品专区| 99热这里只有是精品在线观看| 亚洲精品,欧美精品| 性色av一级| 3wmmmm亚洲av在线观看| 99热这里只有精品一区| 爱豆传媒免费全集在线观看| 国产在线男女| 久久影院123| 国产探花极品一区二区| 91精品伊人久久大香线蕉| 久久鲁丝午夜福利片| 色视频在线一区二区三区| 国产精品一区二区三区四区免费观看| 一级毛片我不卡| 肉色欧美久久久久久久蜜桃 | 交换朋友夫妻互换小说| 国产视频内射| 视频区图区小说| 久久久久久久久久久丰满| 免费不卡的大黄色大毛片视频在线观看| 日日啪夜夜爽| 看非洲黑人一级黄片| 久久精品久久久久久久性| 免费黄频网站在线观看国产| 性色avwww在线观看| 亚洲丝袜综合中文字幕| 国产精品秋霞免费鲁丝片| 啦啦啦啦在线视频资源| 国产免费一级a男人的天堂| 嫩草影院入口| 天天一区二区日本电影三级| 亚洲精品国产成人久久av| 狠狠精品人妻久久久久久综合| 精品酒店卫生间| 成人国产av品久久久| 香蕉精品网在线| 欧美xxⅹ黑人| 亚洲精品国产色婷婷电影| 久久久久久久国产电影| 看非洲黑人一级黄片| 新久久久久国产一级毛片| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 欧美亚洲 丝袜 人妻 在线| 嘟嘟电影网在线观看| 菩萨蛮人人尽说江南好唐韦庄| 天堂网av新在线| 亚洲国产欧美人成| 久久久久久久久久成人| 一区二区三区免费毛片| 国产永久视频网站| 成人鲁丝片一二三区免费| 欧美激情国产日韩精品一区| 国产免费一级a男人的天堂| 欧美xxxx黑人xx丫x性爽| 五月开心婷婷网| av在线播放精品| 精品酒店卫生间| 美女内射精品一级片tv| 国产老妇女一区| 国产亚洲av嫩草精品影院| 大话2 男鬼变身卡| 麻豆成人午夜福利视频| 91久久精品电影网| 在现免费观看毛片| 亚洲av日韩在线播放| 一区二区三区免费毛片| 欧美最新免费一区二区三区| 亚洲,一卡二卡三卡| 亚洲最大成人中文| 黄色怎么调成土黄色| 亚洲在久久综合| 卡戴珊不雅视频在线播放| 国产男女超爽视频在线观看| 国模一区二区三区四区视频| h日本视频在线播放| av在线天堂中文字幕| 亚洲人成网站在线观看播放| 国产高清不卡午夜福利| 欧美性感艳星| 成人欧美大片| 免费av毛片视频| 18禁动态无遮挡网站| 久久99精品国语久久久| 简卡轻食公司| 美女脱内裤让男人舔精品视频| 久久精品久久精品一区二区三区| 97超碰精品成人国产| 大码成人一级视频| av黄色大香蕉| 久久精品久久久久久噜噜老黄| 麻豆乱淫一区二区| 天天躁夜夜躁狠狠久久av| 久久国内精品自在自线图片| 女人久久www免费人成看片| 亚洲av电影在线观看一区二区三区 | 高清在线视频一区二区三区| 26uuu在线亚洲综合色| 欧美极品一区二区三区四区| 亚洲精品日韩av片在线观看| 超碰97精品在线观看| 日韩av不卡免费在线播放| 亚洲成人久久爱视频| 男女啪啪激烈高潮av片| 午夜激情福利司机影院| 婷婷色麻豆天堂久久| 秋霞在线观看毛片| 亚洲激情五月婷婷啪啪| 亚洲精品成人av观看孕妇| 国产精品国产三级专区第一集| 狂野欧美白嫩少妇大欣赏| 神马国产精品三级电影在线观看| 少妇熟女欧美另类| 日日啪夜夜撸| 热re99久久精品国产66热6| 亚洲精品日韩av片在线观看| 国产精品蜜桃在线观看| 国产伦精品一区二区三区视频9| 精品人妻一区二区三区麻豆| 亚洲av福利一区| 伦精品一区二区三区| 春色校园在线视频观看| 亚洲成人精品中文字幕电影| 国产亚洲av片在线观看秒播厂| 日韩强制内射视频| 波野结衣二区三区在线| 少妇熟女欧美另类| 免费电影在线观看免费观看| 人人妻人人爽人人添夜夜欢视频 | 又大又黄又爽视频免费| a级一级毛片免费在线观看| 免费观看无遮挡的男女| 天天躁夜夜躁狠狠久久av| 亚洲不卡免费看| 成人特级av手机在线观看| av福利片在线观看| 国产视频内射| 国产一区亚洲一区在线观看| 天天一区二区日本电影三级| 午夜福利视频1000在线观看| 亚洲熟女精品中文字幕| 联通29元200g的流量卡| 亚洲,一卡二卡三卡| 欧美精品人与动牲交sv欧美| 亚洲精品国产av蜜桃| 欧美国产精品一级二级三级 | av专区在线播放| 国产高清国产精品国产三级 | 精品人妻熟女av久视频| 男女边摸边吃奶| 久热久热在线精品观看| 免费av毛片视频| 麻豆成人午夜福利视频| 久久99蜜桃精品久久| 欧美 日韩 精品 国产| 美女国产视频在线观看| 成人综合一区亚洲| av一本久久久久| 可以在线观看毛片的网站| 深爱激情五月婷婷| 看十八女毛片水多多多| 毛片女人毛片| 亚洲一区二区三区欧美精品 | 日本与韩国留学比较| 99热这里只有精品一区| 久久99热这里只有精品18| 中文在线观看免费www的网站| 成人国产av品久久久| 国产成人精品婷婷| 80岁老熟妇乱子伦牲交| 自拍欧美九色日韩亚洲蝌蚪91 | 国产亚洲最大av| 欧美激情国产日韩精品一区| 欧美zozozo另类| 国产一区二区三区综合在线观看 | 国产毛片a区久久久久| 亚洲高清免费不卡视频| 夫妻性生交免费视频一级片| 最后的刺客免费高清国语| 欧美区成人在线视频| 最近手机中文字幕大全| av网站免费在线观看视频| 国产中年淑女户外野战色| 国产精品成人在线| 51国产日韩欧美| 国产亚洲5aaaaa淫片| 特大巨黑吊av在线直播| 国产精品av视频在线免费观看| 精品亚洲乱码少妇综合久久| 亚洲国产欧美在线一区| 80岁老熟妇乱子伦牲交| 日韩成人av中文字幕在线观看| 国产精品一区二区在线观看99| 能在线免费看毛片的网站| 亚洲精品aⅴ在线观看| 99热6这里只有精品| 欧美日韩视频精品一区| 久久精品国产亚洲av天美| 国产精品人妻久久久影院| 在线播放无遮挡| 色播亚洲综合网| 熟女电影av网| 熟女人妻精品中文字幕| 亚洲精品久久久久久婷婷小说| 女的被弄到高潮叫床怎么办| 日韩不卡一区二区三区视频在线| 真实男女啪啪啪动态图| 国产成人福利小说| 日韩在线高清观看一区二区三区| 日韩成人av中文字幕在线观看| 欧美日韩综合久久久久久| 亚洲国产精品成人久久小说|