• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能于法官績效考核之應(yīng)用

    2021-12-09 07:36:17梁慶韓立收劉信言鄭儒傳
    重慶社會科學(xué) 2021年11期
    關(guān)鍵詞:大數(shù)據(jù)人工智能

    梁慶 韓立收 劉信言 鄭儒傳

    摘 要:人工智能可用于評估司法裁判,取代以結(jié)案率為主的法官績效考核方式,這一過程實質(zhì)是運用人工智能完成法律論證。法律論證無疑需要經(jīng)驗,但是法律推理本身并不需要經(jīng)驗,并且人工智能通過觀察學(xué)習(xí)案例和不斷演練裁判可以建立與人類相似的司法經(jīng)驗。運用人工智能績效考核的行政屬性決定其并未突破法官獨立審判的制度框架。與此同時,人工智能通過建構(gòu)算法模型,預(yù)先已經(jīng)將歸屬法官自由裁量的部分排除在外,與自由裁量權(quán)亦不沖突。總之,人工智能不僅能夠克服既有法官績效考核的缺陷、給予法官自由心證必要約束和輔助、間接規(guī)范我國訴訟使之同案同判,還有助于提升司法裁判公信力。

    關(guān)鍵詞:人工智能;裁判評估;法官績效考核;規(guī)范訴訟;大數(shù)據(jù)

    基金項目:國家社會科學(xué)基金項目(19ZDA347)。

    [中圖分類號] DF7,DF8 [文章編號] 1673-0186(2021)011-0078-013

    [文獻標(biāo)識碼] A? ? ? [DOI編碼] 10.19631/j.cnki.css.2021.011.007

    近年來,雖然學(xué)界與實務(wù)界對于人工智能的法律應(yīng)用這一法學(xué)前沿問題已經(jīng)討論甚多①,且關(guān)注側(cè)重點各有不同(學(xué)界主要關(guān)注人工智能的主體資格與法律責(zé)任以及人工智能創(chuàng)作物的著作權(quán)歸屬問題,實務(wù)界則更關(guān)心如何利用人工智能輔助律師高效工作、能否快速準確地預(yù)測案件結(jié)果),不過,其仍有一項重大用途被完全忽略,即人工智能可以用來評估我國訴訟裁判之全過程。

    一、問題之提出

    一國司法水平的高低,由成千上萬個案件的訴訟質(zhì)量之合力決定。訴訟行為本質(zhì)是人的行為,最終決定每場官司成敗的是法官裁判決策之優(yōu)劣。而使法官群體努力作出公平正義的審判離不開獎懲分明,獎懲分明又取決于法官裁判的績效考核評估方法之得當(dāng)。不過,當(dāng)下法官績效考核方法固有的缺陷(偏重結(jié)案率)導(dǎo)致其經(jīng)?!昂眯霓k壞事”。而不當(dāng)?shù)募畲胧┯址催^來使法官作出傾向于更能提高個人績效的審判決策(而不是更公正的判決),形成惡性循環(huán),使公平正義之原初目的最終適得其反。

    慶幸的是,在漸行漸近的人工智能時代,或?qū)⒂型牧棘F(xiàn)行的法官考核方法。如同前三次工業(yè)革命一樣,新技術(shù)并未對法學(xué)理論本身形成太多實質(zhì)挑戰(zhàn)[1]142,而是悄悄改變司法的過程(如測謊儀的使用)①。只不過,人工智能技術(shù)所產(chǎn)生的變革更加猛烈。一方面,各國研發(fā)人工智能的初心是要全面模擬人的智能以替代人類勞動,如無人駕駛汽車;另一方面,在一些特殊領(lǐng)域,如人工智能法律系統(tǒng)能否代替法官,不僅是技術(shù)問題,更是政治問題[2]37。然而,本文并不打算對此爭議展開討論,而是旨在探究運用同一技術(shù)(人工智能司法論證系統(tǒng))對司法裁判進行評估的可行性,用其取代目前偏重法官結(jié)案率的績效考核制度,通過人工智能技術(shù)客觀地評估裁判,間接規(guī)范法官行使裁判權(quán),進而整體規(guī)范我國訴訟裁判活動。

    應(yīng)用人工智能考核法官裁判至少有三個層次的問題待解決:首先,“人工智能”可能是計算機技術(shù)中被當(dāng)今社會濫用程度最高的術(shù)語之一,有必要對于人工智能的概念在法律層面上的內(nèi)涵予以清晰的界定,在此之后才能進一步討論用其對法官展開績效考核是否具有現(xiàn)實基礎(chǔ);其次,相較于人類,應(yīng)用人工智能進行績效考核優(yōu)勢何在,需要闡明;再者,還必須知曉使用人工智能技術(shù)評估司法裁判的缺陷所在,并加以解決。

    二、人工智能應(yīng)用于法官考核的現(xiàn)實基礎(chǔ)

    雖然“人工智能”的定義本身已經(jīng)形成共識,但是其在法律層面的定義直到現(xiàn)在仍不清晰。學(xué)術(shù)討論必須借助精準的概念作為先決條件,否則爭論下去只會無的放矢、徒費口舌。因此,完全有必要將人工智能之概念于法律層面所表示的內(nèi)涵予以闡釋、界定在先。

    (一)法律層面的人工智能定義

    人工智能被定義為“計算機科學(xué)的一個領(lǐng)域,它涉及給予機器看起來像人類智能的能力,并具有模仿人類智能行為的能力”[3]。20世紀80年代初,美國學(xué)者約翰·R.塞爾(John R. Searle)所提出的“強人工智能”與“弱人工智能”的概念在世界范圍內(nèi)具有較大影響[4]。在此之后,新西蘭學(xué)者又進一步提出了強人工智能、認知模擬(相當(dāng)于弱人工智能)、應(yīng)用人工智能的分類[5],這也是眼下人工智能研究的主流看法。另外,近年來牛津大學(xué)人類未來研究院的學(xué)者設(shè)想的超級智能也影響甚廣[6]。對于人工智能在法律層面的定義,布魯斯·G.布坎南(Bruce G. Buchanan)和托馬斯·E.海德里克(Thomas E. Headrick)在1970年發(fā)表的一篇文章是人工智能在法律領(lǐng)域最早的討論之一,他們寫道,人工智能必須反映一個人的推理過程。具體來說,人工智能必須模仿律師的分析推理才能達成法律解決方案,法學(xué)院課程中的法律研究和寫作技巧需要納入計算機程序[7]。1990年,埃德溫娜·里斯蘭(Edwina L. Rissland)在《耶魯法律評論》發(fā)表了另外一篇關(guān)于人工智能的開創(chuàng)性論文,她指出人工智能在法律層面的目標(biāo)是:首先能夠理解規(guī)則、案例和論據(jù)等基礎(chǔ)知識,然后利用論據(jù)和先例進行推理,最終完成法律解釋與論證[8]。人工智能的一系列概念在法律層面上的對應(yīng)情形,可以歸納如下:

    第一,應(yīng)用人工智能:如指紋識別、無人駕駛等,主要是指擁有簡單的邏輯和計算能力,能夠商用化的智能系統(tǒng)。這在法律領(lǐng)域已經(jīng)基本實現(xiàn),包括趙廷光教授的《實用刑法專家系統(tǒng)》,武俠律師的“法律機器人”,倫敦大學(xué)開發(fā)的“人工智能法官”系統(tǒng)[2],以及全國各地陸續(xù)推出的“智慧法院系統(tǒng)”①。

    第二,弱人工智能:如阿爾法狗,指可以模仿人類的神經(jīng)系統(tǒng)進行復(fù)雜推理和深度學(xué)習(xí),具有非邏輯思維的能力,但思維過程仍然受到人類為其設(shè)置的框架結(jié)構(gòu)制約,且無法感知周圍環(huán)境。在法律層面意味著,人工智能可以像法官或律師一樣完成法律推理及解釋,也就是說,其完成法律論證仍然是按照人類法律專家的思維進行的。迄今為止,掣肘這一技術(shù)成為現(xiàn)實的關(guān)鍵一步是機器對于人類語言的理解。

    第三,強人工智能:是指各方面都能和人類比肩,思維過程不受人類為其設(shè)置的框架制約,能夠感知周圍環(huán)境,可以產(chǎn)生和人類不一樣的觀點、結(jié)論。可見,如果使用強人工智能作為法官,人工智能很可能運用不同于人類的“自己的方法”來解釋、適用法律。這樣必然也會造成一定程度的不可控。

    第四,超級智能:不僅能感知周圍環(huán)境,獨立于人類思考,且在幾乎所有領(lǐng)域遠遠超過人類,從而會給人類世界的存在造成威脅。這一完全失控的局面在法律層面就意味著,機器將以機器自身創(chuàng)造的法律理論來審判人類。

    (二)實現(xiàn)司法論證的技術(shù)過程

    以人工智能代替法官裁判,與用人工智能評估法官裁判,事實上是同一技術(shù)過程,即應(yīng)用弱人工智能進行司法論證的技術(shù)。本文認為,弱人工智能可以完成司法論證,且這一技術(shù)極具現(xiàn)實性基礎(chǔ)。

    1.人工智能進行司法論證的步驟

    既然全部法學(xué)研究皆是圍繞法律論證(立法論證和司法論證)進行,那么法律實踐中人工智能應(yīng)用之目的當(dāng)然也是圍繞司法論證而展開。對于簡單案件,涉及規(guī)范單一、事實清楚,上文中提到的應(yīng)用人工智能可以完成論證。這些人工智能法律系統(tǒng)的特點是,沒有對證成階段的證據(jù)推理和法律適用階段的法律解釋進行模擬,而是直接把案件事實當(dāng)作法律推理小前提,用三段論演繹推理方法得出裁判結(jié)論。而對于復(fù)雜疑難案件,由于作為三段論內(nèi)部推理前提的小前提法律事實和大前提規(guī)則,本身含糊不清,需要先進行外部論證。瑞典法學(xué)家瓦爾格倫(Peter Wahlgren)從人工智能角度對復(fù)雜疑難案件的法律推理過程進行微觀研究,將其描述為7 個階段,包括:證據(jù)推理、法律檢索、解釋、規(guī)則適用、評價、學(xué)習(xí)、簡述[2]27。當(dāng)下,這一過程瓶頸在于復(fù)雜的證據(jù)推理和法律解釋。另外,美國在部分法律領(lǐng)域使用的人工智能系統(tǒng),包括合同分析法律科技公司和專利糾紛案件判決結(jié)果預(yù)測系統(tǒng)(Lex Machina)[7],并非是人工智能司法論證技術(shù)研發(fā)成功,而是基于大數(shù)據(jù)的簡單分析預(yù)測。

    2.實現(xiàn)證據(jù)推理與法律解釋指日可待

    有學(xué)者認為,人工智能無法實現(xiàn)對證據(jù)的取舍和證明力大小的判斷。理由是“人工智能是線性的,不具有思維的跳躍性和創(chuàng)造性。因此,人工智能只能對海量證據(jù)進行初步篩查、提取和判斷,卻無法做到證據(jù)的深加工和有機組合;更不用說達到法官依據(jù)審判經(jīng)驗對證據(jù)證明力的有無和大小的判斷和取舍”[8]113。同意這一觀點的學(xué)者,進一步提出人工智能用于證據(jù)判斷應(yīng)遵循輔助性原則[9]62-63。不過,這兩位學(xué)者混淆了證據(jù)推理與司法論證所用方法的邊界。司法論證無疑需要經(jīng)驗,法律推理(包括證據(jù)推理)本身并不需要經(jīng)驗。既然是推理,就可以通過“If…then…”的規(guī)則處理[10]。這種“思維方式”的過程可以通過嚴格的規(guī)則體系來實現(xiàn)[11]。至于應(yīng)用人工智能進行法律解釋能否研發(fā)成功,質(zhì)疑主要集中在人工智能沒有七情六欲和價值觀,而法官解釋法律需要考慮人情和良知[2]34。不過,現(xiàn)代法治觀念中,對于人治和法治的區(qū)分,本就將法官設(shè)想成機器(概念法學(xué)的經(jīng)典命題:法官自動售貨機論)[12]。在美國,只有最高法院的案件審理才會以政策(價值觀)為主[7]。所以,這一問題實則為偽命題。實際上,運用人工智能證據(jù)推理和法律解釋,真正困難的是如何把法律推理中已經(jīng)存在的若干種知識(前提)精確地表述為機器語言?!罢Z言問題”是人和機器相互適應(yīng)的一個過程,需要實踐的緩慢積累。不過,可喜的是,在如何教機器學(xué)會理解人類語言文本這方面,近年來在科研上取得了突破性的進展①。

    3.不僅包括邏輯,同樣蘊含“經(jīng)驗”

    “法律的生命不在于邏輯,而在于經(jīng)驗”,霍姆斯大法官這句名言可以說是很多人拿來質(zhì)問人工智能推崇者的最有力武器。不過,他們這樣認為的前提是人工智能只有邏輯、沒有“經(jīng)驗”[8]114。但正是這一前提存在問題。弱人工智能與應(yīng)用人工智能的區(qū)別就在于,它不是一個封閉的系統(tǒng),而是通過深度學(xué)習(xí),攝取“經(jīng)驗”來不斷完善自身。以名噪一時的柯潔與阿爾法狗人機大戰(zhàn)來看,人工智能通過學(xué)習(xí)數(shù)以萬計人類專業(yè)選手的現(xiàn)存棋譜以及自我對弈提升棋藝[13]。國外學(xué)者也指出,人工智能并非一定依賴于使用形式邏輯作為推理工具,其可以通過案例訓(xùn)練從而產(chǎn)生“經(jīng)驗”[11]。易言之,在法律層面,人工智能通過觀察學(xué)習(xí)案例和不斷演練裁判不僅可以建立與人類相似的“司法經(jīng)驗”,而且積累的速度和數(shù)量級是人類不可與之匹敵的。

    (三)道德與政治的雙重合法性

    人工智能司法建立在龐大的司法數(shù)據(jù)之上,可以為絕大多數(shù)案件提供作為參考的先例、標(biāo)準和刻度。只要承認特定社會生活的歷史連續(xù)性和生產(chǎn)性,而不過分強調(diào)社會進化的突變性, 人工智能司法就符合社會演進規(guī)律和法律信念[14]34-35。這種觀點從大數(shù)據(jù)是道德與倫理觀念之反映出發(fā),指出人工智能司法的道德合法性。不僅如此,由于大數(shù)據(jù)所能搜集的法律信息更為廣泛,相較于人類來說,對于某一案件的評估更為公允。例如部門法之間有可能發(fā)生沖突,不同的指導(dǎo)案例之間也完全可能發(fā)生矛盾。利用人工智能對于大規(guī)模數(shù)據(jù)的分析對比,則很容易發(fā)現(xiàn)其中的不同之處,從而作出客觀中立的評估。而這種對于法官裁判不偏不倚的評估考核,本身又構(gòu)成了一種社會公意的執(zhí)行。

    有觀點指出,司法人工智能興盛的起因是市場與官方的雙重驅(qū)動。一方面,我國司法資源嚴重不足,司法人工智能的需求被激發(fā)出來,非官方的公司與律所出于市場利益投入研發(fā)。另一方面,最高層意識到人工智能的戰(zhàn)略意義之后,在政法體制下,中央的布置與頂級司法系統(tǒng)的接受,以及地方的迎合,形成共識。國家政治系統(tǒng)的發(fā)動迅速轉(zhuǎn)變?yōu)樗痉ㄏ到y(tǒng)的核心任務(wù)[15]。筆者同意這種觀點,并且認為,人工智能究其本質(zhì)是一種世界性的、革命性的技術(shù),法學(xué)界既不能視若無睹,也不必談虎色變,而是應(yīng)該提前布局、搶占先機,在當(dāng)前我國自上而下推行試驗人工智能之際,乘天時地利人和之便,緊抓機遇、進步司法。

    三、人工智能應(yīng)用于法官考核之優(yōu)勢所在

    法官績效考核本質(zhì)是,通過復(fù)核案件相關(guān)事實的認定以及法律適用情況來評價審判質(zhì)量。人工考核劣勢在于,考核者本身對于每起案件的事實認定與法律適用難以維系標(biāo)準的統(tǒng)一,存在過多主觀性,而評估案件的客觀性恰恰也是人工智能的優(yōu)勢所在。

    (一)克服既有法官考核與審級制度之缺陷

    1.摒除既有法官考核制度之弊病

    “當(dāng)法官們?yōu)橹瓿赡切┲T如結(jié)案率、上訴率、發(fā)改率、撤訴率等各種指標(biāo)而作出裁判的時候,他們就不可能只服從法律和良心,他便有可能為這些指標(biāo)而遷就某些力量和因素?!盵16]13-14以結(jié)案率考核法官之弊病是一個飽受詬病的老問題,并不新鮮?,F(xiàn)實當(dāng)中,各地法院還常常結(jié)合上訪率輔助考核(純粹認為只要結(jié)案率高、上訪率低等于法官裁判質(zhì)量高)。不過,筆者仍然想從因果性和相關(guān)性兩方面提出邏輯上的批判。其一,當(dāng)事人是否采取上訪和案件裁判結(jié)果公正沒有因果關(guān)系,即使案件審判錯誤、存在不公,當(dāng)事人未必上訪;案件裁判正確公正,當(dāng)事人也可能上訪。其二,退一步說,哪怕上訪率與錯案率有微不足道的間接關(guān)系,這種考核方式仍然受到截訪這一普遍現(xiàn)象的干擾,上訪率低可能完全是攔訪截訪的結(jié)果,相關(guān)性大打折扣。近些年以上海、重慶、武漢、南京為首的國內(nèi)一些中級人民法院,也開始探索實踐考核方式多元化。其中,重慶一中院和武漢中院走的是兩條不同的路,前者研發(fā)了復(fù)雜維度案件質(zhì)效分析系統(tǒng),在考核方法上以定性考核為主、定量考核為輔;后者設(shè)計了龐雜的量化考核體系,由一級指標(biāo)、二級指標(biāo)總共數(shù)十個指標(biāo)組成[17]124。不過,單純量化考核的方式應(yīng)用在評價司法行為上是弊大于利的。這種考核方式至少用在考核司法行為和學(xué)術(shù)造詣上,是弊大于利的。但是在方法上,利用人工智能模擬司法論證來考核法官相對來說客觀公平。這是因為,以司法論證來評估司法論證,無疑是最佳方式。

    2.解決既有法院審級制度之悖論

    審級制度設(shè)計的初衷,無疑是在一審錯判時能實現(xiàn)及時發(fā)現(xiàn)并糾錯之功能。對于這一點,國內(nèi)外的教科書都鮮有質(zhì)疑。然而,只要我們承認兩個常識,便會發(fā)現(xiàn)這一制度的效果幾何,并非完全不可懷疑。一是,存在第一審裁判正確,第二審改判錯誤的情況。審級制度的悖論在于:多年來我國二審案件90%以上維持原判[18],對于不到10%的改判案件,“錯改對”是否多于“對改錯”,在實證上很難研究。于是,審級制度糾錯之功能,多半是人們出于希望公平正義多一份保障的臆想。二審真正的意義在于阻隔當(dāng)事人不滿判決或敗訴以后極端情緒的瞬間爆發(fā),使之通過二次審理的心理適應(yīng)期慢慢接受不滿訴訟之現(xiàn)實?;蛴腥速|(zhì)疑,我國二審采取續(xù)審主義觀點,允許二審提交新證據(jù)材料。但是,更多信息,同時意味著更多虛假信息,法官就面臨更多的判斷。二是,雖然中院案件少,但是二審審限更短,二審法官并不因此擁有比一審更充分的時間來審判。三是,通常認為審級制度能起到監(jiān)督的作用,易言之,由于當(dāng)事人申請二審有可能推翻一審,故原審才會謹慎為之。然而,恰恰由于二審90%以上維持原判這一大數(shù)據(jù)的公開,反過來給一審法官吃了定心丸,令其相信一審被推翻只是小概率事件。

    3.以裁判之道評估裁判

    用人工智能評估法官裁判的本質(zhì)是:以人工智能作出的司法論證評估法官的司法論證,或者說以人工智能裁判評估人類裁判,是一種直接評估方法。如此,它便比以結(jié)案率為主的間接評估方法可靠。這種可靠源自司法行為與行政行為性質(zhì)上的區(qū)別。對于行政績效的考核,通過量化其履行程度來評估是可靠的,因行政行為的性質(zhì)本就是按時按量執(zhí)行政治任務(wù)。但司法行為的性質(zhì)是判斷,若是用量化的方法考核裁判績效,相當(dāng)于不論判斷對錯,只要做出判斷的數(shù)量多,績效便越高,這顯然荒誕無稽。審級制度實際上是兩個級別法官之間的判斷效力問題,與對錯無關(guān),唯一確定的是高級別法官之判斷最終生效。但上文已述,生效的未必是正確的。多數(shù)情況下,這兩個級別的法官,業(yè)務(wù)能力、時間充裕度皆相差無幾,其做出的又都是主觀判斷,恐難說究竟誰對誰錯。而人工智能做出的司法論證具有客觀性,二審法官以人工智能對一審法官判斷之分析判斷作為參照,具備主客觀結(jié)合之優(yōu)勢。

    (二)規(guī)范訴訟,同案同判

    1.對于訴訟程序的監(jiān)督規(guī)范

    依托于大數(shù)據(jù)和快速分析的優(yōu)勢,人工智能在評估訴訟程序的得失方面大有用武之地。以立案階段為例,目前有許多復(fù)雜的情況造成重復(fù)起訴問題。比如,原告公司P起訴其員工D借錢不還,唯一的證據(jù)是一張收條。因收條不能證明債務(wù)關(guān)系,法院判決P敗訴。之后P又以不當(dāng)?shù)美鹪V,同一法院判決P勝訴。同一法院,同一事實,前后裁判結(jié)果竟然完全相反,這顯然是不合理的!不過,倒也不能全怪立案庭的法官,這里面有立法上關(guān)于“訴訟標(biāo)的”界定模糊的問題,有舉證責(zé)任的問題,也有既判力的問題,可以說十分龐雜。況且,處理前后案的可能不是同一法官。再者,即便是同一法官受理,人腦畢竟不是電腦,在案多人少的大環(huán)境下,面對各種復(fù)雜的案情,實屬強人所難。可人工智能卻很容易瞬間識別出哪些案件涉及重復(fù)起訴。這還只是立案階段,在評估一審、二審的常規(guī)性程序、訴訟標(biāo)的識別、證據(jù)規(guī)則、既判力的時間界限以及程序法與實體法的交叉領(lǐng)域,人工智能評估系統(tǒng)同樣大有可為。從而可實現(xiàn)整體上評估我國案件程序?qū)﹀e與否,保證法律統(tǒng)一適用、同案同判。

    2.對于法律適用的監(jiān)督規(guī)范

    人工智能評估系統(tǒng)除了可以發(fā)現(xiàn)案件程序錯誤以外,還能夠有效評估法律適用,法律適用錯誤在刑事訴訟和民事訴訟中都極為常見。在刑法實務(wù)中,有為數(shù)不少的正當(dāng)防衛(wèi)案件原本符合無罪成立要件,實務(wù)中卻被認定為犯罪。檢索案例庫,類似“昆山反殺案”“淶源反殺案”等案件,在以往被定性為正當(dāng)防衛(wèi)的寥寥無幾。主要原因有兩方面:一方面正當(dāng)防衛(wèi)的適用條件拿捏不好;另一方面是怕施害一方上訪,為平衡雙方利益,不惜違背正當(dāng)防衛(wèi)立法之精神,將正當(dāng)防衛(wèi)一方入罪,同時從輕處理。結(jié)果常常是行政干預(yù)的做法占據(jù)主導(dǎo)地位。通過鐵面無私、沒有“人情”的人工智能來對案件進行評估,就不難發(fā)現(xiàn)“和稀泥”的問題。司法實踐中,有時極為簡單的法律關(guān)系判斷也可能出錯。例如有法官將單位丟失員工檔案的糾紛(侵權(quán)法律關(guān)系)誤判為勞動爭議關(guān)系,認為丟失檔案行為不由侵權(quán)實體法規(guī)范。總之,用人工智能評估法官裁判,可以協(xié)助法院發(fā)現(xiàn)案件中的法律適用錯誤。

    3.對于參照指導(dǎo)案例的監(jiān)督規(guī)范

    首先,對待指導(dǎo)案例的態(tài)度,本文認為應(yīng)該盡力遵循,哪怕指導(dǎo)案例是錯的。如果指導(dǎo)案例本身存在錯誤,因其對所有人公開,故法學(xué)家、律師、甚至法官群體自身早晚能夠發(fā)現(xiàn)錯誤之處,然后各自可憑借公開質(zhì)疑(如學(xué)術(shù)期刊的發(fā)表、社會新聞輿論),促使指導(dǎo)案例編選者通過“頂層設(shè)計”取舍抉擇??扇绻弥笇?dǎo)案例于不顧,勢必造成法律適用不統(tǒng)一、同案不同判之后果。實務(wù)中,法官常以手中案件與指導(dǎo)案例不完全一樣而拒絕參照??墒沁@個理由卻站不住腳,全世界沒有兩個完全一模一樣的案件。如果以兩個案件完全一樣為標(biāo)準決定參照與否,那世界上就不會有判例法國家的存在,我國指導(dǎo)案例制度也就全然失去了意義。時至今日,人工智能類案推送功能早已在現(xiàn)實中使用,就是前文所說的應(yīng)用人工智能。不過,這還不夠,弱人工智能可以進一步評估法官對于指導(dǎo)案例的參照與遵循情況。筆者以為,人工智能運用指導(dǎo)案例評估法官裁判的工作原理可以設(shè)計為:首先,通過對于大量案件的篩選,找出案件事實與該案事實基本相符(可供參照)的指導(dǎo)案例;然后,通過自身司法論證功能,推演該案結(jié)果是否與指導(dǎo)案例結(jié)果一致,如果一致,則證明該指導(dǎo)案例很大程度上值得參照。無論是最高院編選,還是外省高院編選,有參照價值的指導(dǎo)案例都應(yīng)該遵循,二者的區(qū)別只在于位階效力上。

    4.對于訴訟費用的監(jiān)督規(guī)范

    雖然訴訟費用有明確的計算標(biāo)準,實務(wù)中的失誤仍然在所難免,這種失誤有時甚至達到非常離奇的程度。在一起75名員工與所在單位的股權(quán)轉(zhuǎn)讓糾紛中(代表人訴訟),由于立案庭錯將該案的法律關(guān)系理解為勞動爭議糾紛,爭議標(biāo)的額為1 900多萬元的案件,最終只收取了80元訴訟費(本應(yīng)收取約10萬元左右)①。當(dāng)時未參加代表人訴訟登記的一名員工,之后于訴訟時效內(nèi)起訴,爭議標(biāo)的額僅為31.33萬,卻被法院要求收取訴訟費用6 000多元。對于同類案件(普通共同訴訟)的收費,后者爭議標(biāo)的額只是前者的1.6%,但是訴訟費用反而多出75倍!這種失誤明顯超出了可容忍的范圍。應(yīng)用人工智能核算訴訟費用,能夠避免因法官失誤而造成的法院或當(dāng)事人損失。

    (三)給予自由心證必要約束與輔助

    同時適用于兩大法系的自由心證制度,其共性在于尊重法官的裁判權(quán)威,但是這種尊重不代表法官心證可以完全不受限制。否則,曾經(jīng)舉國哀痛的呼格吉勒圖案件會反復(fù)發(fā)生(案件唯一“有力”的證據(jù)就是呼格指甲里的被害人血跡)。有學(xué)者將大陸法系自由心證制度的特點概括為“相對自由型”,將英美法系歸納為“嚴格約束型”。重要區(qū)別之一是,“嚴格約束型”,法官對于證據(jù)證明力的權(quán)衡受到嚴格限制;“相對自由型”,法官則很少受到限制[19]。日本現(xiàn)行《刑事訴訟法》中規(guī)定證據(jù)的證明力由法官自由判斷。我國雖立法上未對自由心證作出系統(tǒng)規(guī)定,但張衛(wèi)平教授認為:民事訴訟中證據(jù)證明力的判斷交由法官自由心證沒有爭議,存在爭議的是關(guān)于證據(jù)方法(證據(jù)資格、證據(jù)適格)的判斷[20]。觀察刑訴實踐,基本與之相同。盡管從淵源、體例和方法上說,我國(社會主義法系或中華法系)更接近于大陸法系,但在自由心證制度的取向問題上,筆者更傾向于“嚴格約束型”。體現(xiàn)在人工智能評估裁判的應(yīng)用上,可以在制度上作出設(shè)計:無論是權(quán)衡證據(jù)證明力還是判斷證據(jù)方法,一旦發(fā)生人類法官判決與人工智能完全抵觸的情況,應(yīng)提交審委會討論決定。如果是人命關(guān)天的死刑案件,甚至應(yīng)該暫緩中院或高院判決的效力,由最高人民法院審理(防止地方利益集團勾結(jié)),而非簡單的死刑復(fù)核。

    人工智能還可以輔助法官自由心證。在證據(jù)認定方面,例如2020年的“騰訊訴老干媽案”,法官在案件裁判過程中未發(fā)現(xiàn)第三人冒用老干媽公章,以致作出了錯誤的財產(chǎn)保全裁定。在這類案件中,人工智能可以隨時聯(lián)網(wǎng)獲取大數(shù)據(jù),通過比較與鑒別公章在公安部門的備案信息,及時發(fā)現(xiàn)“蘿卜章”問題,并在對法官的裁判評估中指出,幫助法官在自由心證方面彌補其能力之外的問題。

    (四)復(fù)核難于計算的損失數(shù)額

    法官不是會計師,卻又要經(jīng)常面對會計方面的問題。在民事訴訟中,并非所有的財產(chǎn)關(guān)系涉案金額都如合同關(guān)系般相對容易計算。在侵權(quán)關(guān)系、勞動關(guān)系、商事關(guān)系中,涉及賠償數(shù)額的計算相當(dāng)專業(yè),如股權(quán)置換金、養(yǎng)老金的計算,對于當(dāng)事人提出的損失數(shù)額及其計算依據(jù),在不具備會計專業(yè)基礎(chǔ)的法官看來簡直是無從下手,法官根據(jù)其“樸素的代數(shù)知識”判決之?dāng)?shù)額,當(dāng)事人也往往不會認同。而涉及復(fù)雜會計方法的裁判,多集中在固定的某幾種案件類型中。會計專家與法律專家完全可以開展合作,讓會計專家也加入人工智能司法論證系統(tǒng)的開發(fā)中。通過跨學(xué)科的研討,給人工智能系統(tǒng)建立一些常見的疑難損失額計算模型。為防止法官因缺乏會計知識而錯判,涉及復(fù)雜損失數(shù)額計算的案件,人工智能在評估法官裁判的同時,能夠評估法官判決金額的合理程度。比如設(shè)定20%以內(nèi)為合理誤差,一旦出現(xiàn)人工智能評估損失數(shù)額與法官之判決超出20%,則相差巨大,應(yīng)當(dāng)提請其他法官或?qū)徫瘯鞒鰪?fù)核處置。

    (五)快速推進司法質(zhì)量提升

    現(xiàn)行法官績效考核制度存在諸多缺陷是毋庸贅述的,這些缺陷導(dǎo)致司法裁判質(zhì)量某種程度的下降。雖然這一點早已形成共識,然而部分學(xué)者提議完全放棄考核轉(zhuǎn)而依靠自律,認為法官職業(yè)應(yīng)當(dāng)高薪養(yǎng)廉[16]18-20。不過,盡管考核方式不盡相同,但是幾乎所有主流國家皆保留了這一制度。不言而喻,針對法官斷案績效考核的最佳方法是,根據(jù)所審理案件本身裁判質(zhì)量的好壞來評判。只不過在弱人工智能技術(shù)問世以前,存在三重現(xiàn)實障礙:第一,如果把一位法官的裁判拿來評估,就必須由一位評估人耗費差不多同樣的精力將該案重新司法論證一遍。試想,在本就案多人少的狀況下,誰來充當(dāng)評估人?第二,假若另一位評估人評估的結(jié)果與法官大相徑庭,以孰為準?第三,每位評估人的精力也極其有限,只能評估數(shù)量有限的案件。那么,不同的評估人以不同的標(biāo)準評估,所釀不公能服眾否?而若以人工智能評估法官裁判,能夠輔助法官更好地解決以上三個問題。首先,對比人類,人工智能進行司法論證的速度幾乎可以忽略不計,而且不會額外占用法官這一緊缺司法資源。其次,考慮到國內(nèi)法官辦案條件所限(案件繁多,分配給每起案件的時間嚴重不足),難免忙里出錯,人工智能進行司法論證通常正確率更高。最后,不言而喻,由人工智能評估案件裁判結(jié)果,標(biāo)準統(tǒng)一、公平客觀,大大提升了司法質(zhì)量。

    四、存在的法理難題及其解決方法

    由于運用人工智能評估法官裁判(績效考核)幾乎未被現(xiàn)存文獻討論過,筆者也就只能預(yù)估其將會面臨的質(zhì)疑。

    (一)并未突破法官獨立審判的制度框架

    與人工智能能否替代法官的質(zhì)疑(機器可以審判人類嗎?)類似,人們同樣會提出疑問,機器可以評估人類嗎?然而,這兩者畢竟不同 —— 法官裁判是司法過程,而考評法官裁判是行政過程。司法裁判權(quán)實質(zhì)是一種獨立判斷權(quán),不受外界干涉(包括上級)。如果將這一權(quán)力完全交由人工智能,人類將無法干預(yù)機器裁判,許多學(xué)者出于對人類社會失控風(fēng)險的擔(dān)憂是合理的。而評估裁判、考核法官是行政權(quán),不具有獨立性,相反滿足服從性。所以應(yīng)用人工智能評估裁判、考核法官,正當(dāng)性源于兩點:一是評估程序由人類編寫,評估方式與方法仍然受到人類意圖支配。二是如果出現(xiàn)超出人類預(yù)期的評估結(jié)果,績效考核作為行政權(quán),不具有獨立性,評估結(jié)果以及最終解釋權(quán)則掌握在人類手中,績效考核必須服從人類的復(fù)議和處置。

    (二)使之不與法官自由裁量權(quán)沖突

    另一方面的擔(dān)心是,利用人工智能評估法官裁判,是否會導(dǎo)致法官在審判時躡手躡腳。法官很可能受制于被人工智能評估打分的顧慮,在其自由裁量權(quán)范圍之內(nèi)亦不敢作出頂格判決,而選擇走中庸路線。這一點有點類似于高考作文閱卷,如果打出滿分或者零分,則會被單獨提出接受閱卷組合議。與其招惹麻煩和非議,不如給個大眾分數(shù)安全。對于這種擔(dān)憂,中國人民大學(xué)陳景輝教授的研究可以作為回應(yīng):“人工智能對于司法裁判的介入,基本上是通過建構(gòu)模型的方式,將自由裁量或價值判斷這個部分排除在外?!盵1]41也就是說,大可不必擔(dān)心一旦人工智能用作評估裁判質(zhì)量,法官心理會受到逆向影響而在涉及自由裁量權(quán)時集體作出溫和的判決(擔(dān)心頂格判決受到人工智能的格外注意)。因為,從一開始,就可以在設(shè)計模型的時候使得人工智能在評估裁判時完全摒棄對觸及法官自由裁量部分的評估。

    (三)對于算法黑箱與算法偏見的把握

    有觀點認為智能司法的邏輯判斷存在“黑箱化”,具有不可控因素[15]35-36。本文并不認同。的確,人類無法還原人工智能的思維過程,不過無須大驚小怪。人類法官的思維過程同樣也不可獲知,但是能夠知道表現(xiàn)于外的證明方法和分析過程。同理,我們只需清楚人工智能給出的證明過程,而不必在意其思維過程。如此看來,用人工智能評估司法裁判仍然在現(xiàn)行制度框架內(nèi)進行,具有制度連續(xù)性與安全可行性。值得一提的是,算法黑箱在某種意義上反映了人類的心靈黑箱,應(yīng)警惕其與人工智能的算法黑箱所發(fā)生的相互作用。警惕以公正的初衷所做的努力實際上卻帶來新的、更為隱秘的支配力量,最終變?yōu)榱瞬还慕Y(jié)果。

    人工智能的算法與人類的理性邏輯存在很大的不同,對于任何有學(xué)習(xí)能力的系統(tǒng)來說,它所輸出的內(nèi)容是由輸入的數(shù)據(jù)所決定的,這并不是一個新的觀點。比如,“罪犯再次犯罪概率預(yù)測系統(tǒng)”可能會得出評估結(jié)論——某省籍的人再次犯罪的概率大于其他省份的人。雖然整體上存在這種可能,但是對于個體而言卻是明顯的歧視。具體到法官績效考核的應(yīng)用領(lǐng)域,應(yīng)當(dāng)將其適用的場景細化,同時注重機器訓(xùn)練材料的選擇,避免經(jīng)驗材料造成算法偏見。

    (四)防止“數(shù)字控制”,維系“算法信任”

    隨著智慧司法系統(tǒng)的應(yīng)用、中國裁判文書網(wǎng)的大數(shù)據(jù)公開,確實在某種程度上提高了審判效率和透明度,但公開并不意味著公信力的提升。于當(dāng)事人個人而言,如果對判決結(jié)果不滿意,并不會因為信息公開而信任裁判。于社會公眾而言,公開的裁判文書皆經(jīng)過法官對于案件細節(jié)(包括案件事實、相關(guān)證據(jù)以及雙方觀點)的裁剪過濾,如若沒有完整的卷宗,不可能判斷法官裁判公正與否。朱景文教授指出,盡管一些官方數(shù)據(jù)表明司法機關(guān)所做出的成績,但是人民群眾如何評價這些成績,與人們的日常感受是否吻合,僅有這些數(shù)據(jù)是不夠的[21]。而人民的滿意度和司法公信力又是相得益彰、唇齒相依的。司法公信力使得當(dāng)事人對裁判產(chǎn)生滿意度,滿意度又進一步提升了司法公信力。

    司法公信力問題由來已久,人工智能可以破題。這源于現(xiàn)代生活中的“算法信任”觀念。一個可以類比的例子是支付寶的花唄功能。這些技術(shù)對人們的信用度進行智能評估,全部交由算法來決定與處理。盡管每個人不知道自己的信用額度是如何計算出的,也不知曉發(fā)生還款違約時罰息如何確定,但大多數(shù)人對于這種算法是信任的,尤其是年輕一代。同理,鑒于這種“算法信任”的觀念,人工智能評估法官裁判的結(jié)果如若公開,比如裁判合格或者裁判良好,會對當(dāng)事人的心理帶來正面影響,將有助于提升司法裁判公信力,當(dāng)事人甚至可能會因此放棄上訴。

    遺憾的是,隨著人類對于算法越來越多的反思,近年來人們對于算法的信任度急轉(zhuǎn)直下。這期間,北京大學(xué)博士后陳龍關(guān)于“算法對于外賣騎手的勞動控制研究”一度引起了全社會的極大關(guān)注。他認為,由于外賣平臺公司對控制權(quán)重新分配,使平臺系統(tǒng)與消費者取代了平臺公司對騎手進行管理,平臺公司退居幕后,看似放棄了對勞動的直接管理,實則淡化了雇主責(zé)任,還把勞資沖突轉(zhuǎn)嫁到平臺系統(tǒng)與消費者身上[22]。與之類似,法官績效考核的人工智能系統(tǒng)使原本的人類考核部門退居幕后,看似放棄了考核管理權(quán),實則同樣是淡化了相關(guān)部門的責(zé)任,把沖突轉(zhuǎn)移到人工智能考核系統(tǒng)與法官個人身上。因而,績效考核的算法源碼需要予以公開以及接受第三方專業(yè)機構(gòu)的監(jiān)督,才能夠維系民眾對于算法的普遍信任。

    五、結(jié)論

    本文主要探討了運用人工智能技術(shù)評估司法裁判,替代現(xiàn)有法官績效考核制度的可行性問題。我國司法現(xiàn)狀不盡如人意,固然有起步晚的歷史因素和人才少的現(xiàn)實困難,然而更多是績效考核制度之固有缺陷導(dǎo)致。這是因為,人工智能應(yīng)用于司法論證已經(jīng)具備現(xiàn)實基礎(chǔ),這一技術(shù)真正困難的是如何把法律推理中已經(jīng)存在的若干種知識前提精確地表述為機器語言。不過,在如何教機器學(xué)會理解人類語言文本這方面,近年在科研上取得了突破性的進展。人工智能通過觀察學(xué)習(xí)案例和不斷演練裁判,不僅可以建立與人類相似的“司法經(jīng)驗”,而且積累的速度和數(shù)量級是人類不可與之匹敵的。運用人工智能對法官進行績效考核,能夠摒除既有法官考核制度之弊病與解決既有法院審級制度之悖論,并且可以從程序監(jiān)督、法律適用等方面規(guī)范訴訟過程。人工智能還能在約束自由心證,以及復(fù)核當(dāng)事人難于計算的財產(chǎn)損失等方面發(fā)揮重要作用。同時,大可不必擔(dān)心使用人工智能考核法官會影響其自由裁量權(quán)。因為,從一開始在設(shè)計考核模型時,就可以讓人工智能在評估裁判期間完全摒棄對觸及法官自由裁量部分的評估。也不必過于擔(dān)心“算法黑箱”引發(fā)的績效考核不可控問題,我們只需清楚人工智能給出的證明過程,而不必在意其思維過程。最后,法官績效考核的人工智能系統(tǒng)的算法源碼需要公開或者接受第三方專業(yè)機構(gòu)的監(jiān)督。

    參考文獻

    [1]? 陳景輝.人工智能的法律挑戰(zhàn):應(yīng)該從哪里開始?[J].比較法研究,2018(5):136-148.

    [2]? 張保生.人工智能法律系統(tǒng):兩個難題和一個悖論[J].上海師范大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2018(6):25-41.

    [3]? JORDAN BIGDA. The Legal Profession: From Humans to Robots[J].18 J. High Tech. L,2018:396-409.

    [4]? SEARLE J R. Minds, Brains and Programs[J]. The Behavioral and Brain Sciences, 1980, 3(3): 417-424.

    [5]? JACK? COPELAND. Strong AI, Applied AI and CS[EB/OL].[2018-12-2].http//www.alanturing.net/turing_

    archive/pages/ReferenceArticles/what_is_AI/WhatisAI02.html

    [6]? 尼克·波斯特洛姆. 超級智能:路線圖、危險性與應(yīng)對策略[M].張體偉,張玉青,譯.北京:中信出版社,2015:143.

    [7]? SERGIO, DAVID, BECERRA. The Rise of Artificial Intelligence in the Legal Field: Where We Are and Where We Are Going[J]. Journal of Business Entrepreneurship & The Law,2018(11):27-52.

    [8]? 潘庸魯.人工智能介入司法領(lǐng)域路徑分析[J].東方法學(xué),2018(3):109-118.

    [9]? 縱博.人工智能在刑事證據(jù)判斷中的運用問題探析[J].法律科學(xué)(西北政法大學(xué)學(xué)報),2019(1):61-69.

    [10]? RISSLAND E L. Artificial Intelligence and Law:Stepping Stones to A Model of Legal Reasoning[J]. Yale L.J.,1990(99):1957-1981.

    [11]? BARNDEN J A, PETERSON D M. Artificial Intelligence, Mindreading,and Reasoning in Law[M]. Physica-Verlag H D, 2002.

    [12]? SMITH J C . Machine Intelligence and Legal Reasoning[J]. Chi.-Kent L. Rev,1998(73):277-347.

    [13]? AI,無師自通,自學(xué)成才?[J].今日科技,2017(10):16.

    [14]? 李飛. 人工智能與司法的裁判及解釋[J]. 法律科學(xué)(西北政法大學(xué)學(xué)報),2018(5):32-41.

    [15]? 錢大軍.司法人工智能的中國進程:功能替代與結(jié)構(gòu)強化[J].法學(xué)評論,2018(5):138-152.

    [16]? 李擁軍,傅愛竹.“規(guī)訓(xùn)”的司法與“被縛”的法官——對法官績效考核制度困境與誤區(qū)的深層解讀[J].法律科學(xué)(西北政法大學(xué)學(xué)報),2014(6):11-20.

    [17]? 南京市中級人民法院課題組,胡道才.法官業(yè)績考核評價制度研究[J].中國應(yīng)用法學(xué),2018(1):121-135.

    [18]? 李浩. 民事訴訟法學(xué)[M].北京:法律出版社,2016:308.

    [19]? 相慶梅.兩大法系民事訴訟自由心證的司法適用及其啟示[J].江西社會科學(xué),2017(3):188-195.

    [20]? 張衛(wèi)平.自由心證原則的再認識:制約與保障——以民事訴訟的事實認定為中心[J].政法論叢,2017(4):14-21.

    [21]? 朱景文.司法滿意度的社會評價——以 2015-2017年法治評估數(shù)據(jù)為基礎(chǔ)[J].中國應(yīng)用法學(xué),2018(3):1-13.

    [22]? 陳龍.“數(shù)字控制”下的勞動秩序——外賣騎手的勞動控制研究[J]. 社會學(xué)研究,2020(6):113-135+244.

    Application of Artificial Intelligence in JudgesPerformance Evaluation:Centered on the Viewpoint of Procedural Law

    Liang Qing1? Han Lishou2? Liu Xinyan3? Zheng Ruchuan4

    (1. School of Law, Nanjing University, Nanjing, Jiangsu 210093; 2.School of Law, Hainan University, Haikou, Hainan 570228; 3.School of Law, Renmin University of China, Beijing 100872; 4.Haikou Municipal People's Procuratorate, Haikou, Hainan 570125)

    Abstract: Artificial intelligence can be used to evaluate judicial judgments, replacing judges' assessment methods based on the rate of case closure. The essence of this process is to use artificial intelligence to complete legal arguments. Legal argumentation undoubtedly requires experience, but legal reasoning itself does not require experience, and artificial intelligence can establish judicial experience similar to humans' by observing and studying cases aswellas constantly practicing judgments. The administrative nature of the use of artificial intelligence performance appraisal determines that it has not broken through the institutional framework of independent judges. At the same time, artificial intelligence has pre-excluded the part that belongs to the judge's discretion by constructing an algorithm model, and it does not conflict with the discretion of the judge. In short, artificial intelligence can not only overcome the shortcomings of existing judges' assessment, give judges the necessary constraints and assistance in free evaluation, and indirectly regulate Chinese litigation so that they can be judged in the same case, but also help to enhance the credibility of judicial judgments.

    Key Words: artificial intelligence; judgment evaluation; judge assessment; standardized litigation; big data

    (責(zé)任編輯:易曉艷)

    猜你喜歡
    大數(shù)據(jù)人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    大數(shù)據(jù)環(huán)境下基于移動客戶端的傳統(tǒng)媒體轉(zhuǎn)型思路
    新聞世界(2016年10期)2016-10-11 20:13:53
    基于大數(shù)據(jù)背景下的智慧城市建設(shè)研究
    科技視界(2016年20期)2016-09-29 10:53:22
    下一幕,人工智能!
    下一幕,人工智能!
    數(shù)據(jù)+輿情:南方報業(yè)創(chuàng)新轉(zhuǎn)型提高服務(wù)能力的探索
    中國記者(2016年6期)2016-08-26 12:36:20
    亚洲国产精品国产精品| 一级二级三级毛片免费看| 国产成人午夜福利电影在线观看| 午夜激情欧美在线| 日韩成人av中文字幕在线观看| 26uuu在线亚洲综合色| 日本五十路高清| 国产老妇女一区| 国内精品一区二区在线观看| 精品酒店卫生间| 欧美激情国产日韩精品一区| 色5月婷婷丁香| 在线播放无遮挡| 亚洲欧美日韩东京热| 亚洲av二区三区四区| 在线a可以看的网站| 亚洲精品一区蜜桃| 色哟哟·www| 成人av在线播放网站| 九九热线精品视视频播放| 最新中文字幕久久久久| 日日撸夜夜添| 草草在线视频免费看| 精华霜和精华液先用哪个| 亚洲精品乱码久久久久久按摩| 在线天堂最新版资源| 在线a可以看的网站| 日韩欧美在线乱码| 看片在线看免费视频| 成人欧美大片| 日韩一区二区视频免费看| 熟妇人妻久久中文字幕3abv| 神马国产精品三级电影在线观看| 狂野欧美激情性xxxx在线观看| 精品一区二区三区视频在线| 夜夜爽夜夜爽视频| 美女xxoo啪啪120秒动态图| 国产黄色视频一区二区在线观看 | 2022亚洲国产成人精品| 国产一区二区在线av高清观看| 国产亚洲精品久久久com| 久久久国产成人精品二区| 97超碰精品成人国产| 欧美精品一区二区大全| 国产精品精品国产色婷婷| 久久精品夜色国产| 日韩成人伦理影院| 22中文网久久字幕| 91久久精品国产一区二区三区| 午夜激情福利司机影院| 国产精品乱码一区二三区的特点| 久久这里只有精品中国| av卡一久久| 蜜桃久久精品国产亚洲av| 国产精品一区二区三区四区免费观看| 久久精品夜夜夜夜夜久久蜜豆| 女人十人毛片免费观看3o分钟| 一级av片app| 国产伦一二天堂av在线观看| 欧美日韩精品成人综合77777| 一区二区三区四区激情视频| 国产乱人偷精品视频| h日本视频在线播放| 久久精品夜夜夜夜夜久久蜜豆| 日本爱情动作片www.在线观看| 一级av片app| 亚洲欧美日韩东京热| 国产不卡一卡二| 中文字幕人妻熟人妻熟丝袜美| 熟妇人妻久久中文字幕3abv| 最新中文字幕久久久久| 亚洲欧美清纯卡通| 天堂av国产一区二区熟女人妻| 1000部很黄的大片| 超碰av人人做人人爽久久| 亚洲一区高清亚洲精品| 精品酒店卫生间| 日韩制服骚丝袜av| 日韩高清综合在线| 国产在线男女| 免费看a级黄色片| 美女xxoo啪啪120秒动态图| 婷婷色av中文字幕| 老司机影院毛片| 亚洲国产精品专区欧美| 一本久久精品| 小蜜桃在线观看免费完整版高清| 国产真实伦视频高清在线观看| 校园人妻丝袜中文字幕| 国产在线一区二区三区精 | 国产精品精品国产色婷婷| 日韩一区二区三区影片| 日韩国内少妇激情av| 婷婷色综合大香蕉| 一边摸一边抽搐一进一小说| 啦啦啦观看免费观看视频高清| 全区人妻精品视频| 国产 一区精品| 少妇的逼水好多| 午夜激情福利司机影院| 免费看av在线观看网站| 国产av一区在线观看免费| 亚洲欧美成人精品一区二区| 久久久久久久久中文| 日韩一区二区视频免费看| 亚洲成av人片在线播放无| 少妇的逼水好多| 人人妻人人澡人人爽人人夜夜 | 成年免费大片在线观看| 成人鲁丝片一二三区免费| 久久久久久久久久久丰满| 亚洲精华国产精华液的使用体验| 精品少妇黑人巨大在线播放 | 18禁裸乳无遮挡免费网站照片| 狂野欧美白嫩少妇大欣赏| av卡一久久| 三级毛片av免费| 久久久久久久久久久丰满| 九九久久精品国产亚洲av麻豆| 国语自产精品视频在线第100页| 日本黄大片高清| 亚洲国产成人一精品久久久| 99久久人妻综合| 99久久九九国产精品国产免费| 亚洲真实伦在线观看| 寂寞人妻少妇视频99o| 久久久久久伊人网av| 成人无遮挡网站| 久久精品国产99精品国产亚洲性色| 夜夜爽夜夜爽视频| 一个人看视频在线观看www免费| 人人妻人人澡人人爽人人夜夜 | 亚洲av一区综合| 国内少妇人妻偷人精品xxx网站| 天堂中文最新版在线下载 | 亚洲激情五月婷婷啪啪| 日韩中字成人| 免费不卡的大黄色大毛片视频在线观看 | 波多野结衣巨乳人妻| 国产中年淑女户外野战色| 久久精品国产99精品国产亚洲性色| av在线老鸭窝| 伦精品一区二区三区| 欧美不卡视频在线免费观看| 亚洲中文字幕一区二区三区有码在线看| 一区二区三区高清视频在线| 亚洲综合色惰| 日韩av在线大香蕉| 午夜爱爱视频在线播放| 精品99又大又爽又粗少妇毛片| 人人妻人人看人人澡| 国产精品乱码一区二三区的特点| 麻豆久久精品国产亚洲av| 少妇被粗大猛烈的视频| 色吧在线观看| 一个人观看的视频www高清免费观看| 国产美女午夜福利| 高清在线视频一区二区三区 | 高清视频免费观看一区二区 | 欧美日韩国产亚洲二区| 日韩国内少妇激情av| 日韩欧美在线乱码| 波野结衣二区三区在线| 精品不卡国产一区二区三区| 只有这里有精品99| 日韩中字成人| 国产成人福利小说| 日本一二三区视频观看| 国产精品久久久久久精品电影小说 | 日韩一本色道免费dvd| 国内揄拍国产精品人妻在线| 国产精品久久久久久av不卡| 日本一二三区视频观看| 一本久久精品| 免费看美女性在线毛片视频| 偷拍熟女少妇极品色| 好男人视频免费观看在线| 亚洲欧美清纯卡通| 啦啦啦啦在线视频资源| 国产乱人偷精品视频| 中国美白少妇内射xxxbb| 亚洲真实伦在线观看| 色吧在线观看| 九九热线精品视视频播放| 免费搜索国产男女视频| 久久久国产成人免费| 1024手机看黄色片| 欧美成人一区二区免费高清观看| 亚洲欧美中文字幕日韩二区| 国产中年淑女户外野战色| 亚洲图色成人| 91精品一卡2卡3卡4卡| 亚洲av二区三区四区| 久久国产乱子免费精品| 国产亚洲5aaaaa淫片| 精品国产三级普通话版| 我要看日韩黄色一级片| 欧美成人a在线观看| 人妻系列 视频| 又爽又黄a免费视频| 亚洲无线观看免费| 女人久久www免费人成看片 | 搡老妇女老女人老熟妇| 国产精品一区www在线观看| 国产色婷婷99| .国产精品久久| 日日啪夜夜撸| 国产精品人妻久久久影院| 亚洲自偷自拍三级| 噜噜噜噜噜久久久久久91| 男女视频在线观看网站免费| 久久久色成人| 能在线免费观看的黄片| 内地一区二区视频在线| 久久久久久久久久成人| 一个人看的www免费观看视频| 日产精品乱码卡一卡2卡三| 中文精品一卡2卡3卡4更新| 91久久精品国产一区二区三区| 久久99热这里只频精品6学生 | 久久99热这里只频精品6学生 | 成人鲁丝片一二三区免费| 老司机福利观看| 成人欧美大片| 美女脱内裤让男人舔精品视频| 国产不卡一卡二| 午夜亚洲福利在线播放| 亚洲欧美一区二区三区国产| 国产成人精品一,二区| 久久久欧美国产精品| 一区二区三区高清视频在线| 国产探花极品一区二区| 日韩欧美在线乱码| 一个人看视频在线观看www免费| 日本熟妇午夜| 少妇高潮的动态图| 精品少妇黑人巨大在线播放 | 亚洲在线自拍视频| 真实男女啪啪啪动态图| 国产日韩欧美在线精品| 天堂网av新在线| 欧美高清成人免费视频www| 中文资源天堂在线| 亚洲,欧美,日韩| 免费看光身美女| 伊人久久精品亚洲午夜| 岛国毛片在线播放| 亚洲中文字幕一区二区三区有码在线看| 欧美日韩综合久久久久久| 全区人妻精品视频| 欧美区成人在线视频| 男的添女的下面高潮视频| 久久久亚洲精品成人影院| 一区二区三区四区激情视频| 欧美潮喷喷水| 亚洲人成网站在线观看播放| 日韩国内少妇激情av| 成人毛片60女人毛片免费| 午夜日本视频在线| 免费观看a级毛片全部| 青春草亚洲视频在线观看| 久久国内精品自在自线图片| 桃色一区二区三区在线观看| 欧美成人免费av一区二区三区| videos熟女内射| 日韩在线高清观看一区二区三区| 亚洲成色77777| 自拍偷自拍亚洲精品老妇| 日本wwww免费看| 久久精品综合一区二区三区| 国产高清有码在线观看视频| 九九爱精品视频在线观看| 在线a可以看的网站| 热99在线观看视频| 亚洲四区av| 久久久久久久久中文| av在线蜜桃| 少妇人妻一区二区三区视频| 日本wwww免费看| 久久久久久大精品| 毛片女人毛片| 国产av一区在线观看免费| 99久久九九国产精品国产免费| 寂寞人妻少妇视频99o| 久久国产乱子免费精品| 欧美激情在线99| 国产亚洲一区二区精品| 国产淫语在线视频| 日韩在线高清观看一区二区三区| 小说图片视频综合网站| 1000部很黄的大片| 国产成人91sexporn| 嫩草影院精品99| 一区二区三区免费毛片| 成年免费大片在线观看| 别揉我奶头 嗯啊视频| 久久久久国产网址| 2021天堂中文幕一二区在线观| 亚洲伊人久久精品综合 | a级毛片免费高清观看在线播放| 69人妻影院| 中文字幕精品亚洲无线码一区| 中文字幕亚洲精品专区| 亚洲人成网站在线观看播放| 国产老妇女一区| 亚洲自拍偷在线| 亚洲精品国产成人久久av| 亚洲最大成人手机在线| 国产精品永久免费网站| 麻豆一二三区av精品| 日本黄大片高清| 国产精品久久久久久精品电影| av在线播放精品| 少妇熟女欧美另类| 日韩欧美在线乱码| 日本与韩国留学比较| 日韩av在线大香蕉| 99热这里只有是精品50| 亚洲电影在线观看av| 欧美日韩在线观看h| 久久久精品欧美日韩精品| 国产亚洲av嫩草精品影院| 欧美成人精品欧美一级黄| 亚洲人成网站在线观看播放| 亚洲欧美精品自产自拍| 日本色播在线视频| 国国产精品蜜臀av免费| 国产精品精品国产色婷婷| 国产在视频线精品| 国产乱来视频区| 国产免费又黄又爽又色| 九九在线视频观看精品| 国产精品av视频在线免费观看| 久久久精品欧美日韩精品| 欧美成人一区二区免费高清观看| 99热全是精品| 丝袜喷水一区| 亚洲第一区二区三区不卡| 国产av在哪里看| 亚洲欧洲日产国产| 成人无遮挡网站| 国产精品久久久久久久久免| 精品久久久久久久人妻蜜臀av| h日本视频在线播放| 欧美精品一区二区大全| 亚洲av福利一区| 好男人视频免费观看在线| 蜜桃亚洲精品一区二区三区| kizo精华| 日韩av不卡免费在线播放| 国产成人精品婷婷| 丰满少妇做爰视频| 最近的中文字幕免费完整| 亚洲av成人精品一区久久| 国产成人freesex在线| 亚洲av中文av极速乱| 国产一区亚洲一区在线观看| 亚洲av熟女| 久热久热在线精品观看| 亚洲成av人片在线播放无| 午夜福利高清视频| 日韩三级伦理在线观看| 一边摸一边抽搐一进一小说| 特大巨黑吊av在线直播| a级一级毛片免费在线观看| 熟女电影av网| 久久精品夜夜夜夜夜久久蜜豆| 亚洲精品国产成人久久av| 99在线视频只有这里精品首页| 中文字幕人妻熟人妻熟丝袜美| 看免费成人av毛片| 亚洲精品亚洲一区二区| 一级毛片电影观看 | 久久草成人影院| 欧美日本视频| 国产三级中文精品| 国产一区二区在线av高清观看| 毛片女人毛片| 国产精品麻豆人妻色哟哟久久 | 国产av在哪里看| 天天躁日日操中文字幕| 大又大粗又爽又黄少妇毛片口| 人人妻人人澡欧美一区二区| 国产精品无大码| 亚洲av成人精品一二三区| or卡值多少钱| 国产高清有码在线观看视频| 韩国av在线不卡| 大又大粗又爽又黄少妇毛片口| 国内精品美女久久久久久| 26uuu在线亚洲综合色| 国产亚洲最大av| 久久久久性生活片| 国产精品人妻久久久久久| 成人毛片a级毛片在线播放| 最近中文字幕高清免费大全6| 夜夜爽夜夜爽视频| 久久精品国产自在天天线| 日韩亚洲欧美综合| 伊人久久精品亚洲午夜| 亚洲av成人精品一二三区| 日本爱情动作片www.在线观看| 老司机影院成人| 久久精品国产亚洲网站| 蜜桃久久精品国产亚洲av| 在线a可以看的网站| 久久久久久伊人网av| 欧美zozozo另类| 99热这里只有是精品在线观看| 中文字幕亚洲精品专区| 老司机福利观看| 亚洲在线自拍视频| 人体艺术视频欧美日本| 少妇的逼好多水| 国产91av在线免费观看| 久久精品人妻少妇| 一区二区三区免费毛片| 尾随美女入室| 免费不卡的大黄色大毛片视频在线观看 | 国产极品精品免费视频能看的| 嫩草影院精品99| 国产色爽女视频免费观看| 自拍偷自拍亚洲精品老妇| 一区二区三区乱码不卡18| 亚洲无线观看免费| 国产成人91sexporn| 国产精品一二三区在线看| 熟女电影av网| a级毛片免费高清观看在线播放| 久久久久久久久久久丰满| 亚洲精品亚洲一区二区| 国模一区二区三区四区视频| 小蜜桃在线观看免费完整版高清| 久久婷婷人人爽人人干人人爱| 久久久久性生活片| 在线观看66精品国产| 国产亚洲午夜精品一区二区久久 | 3wmmmm亚洲av在线观看| 国产老妇伦熟女老妇高清| 亚洲最大成人中文| 欧美性猛交黑人性爽| 精品久久久久久久久久久久久| av在线观看视频网站免费| 亚洲最大成人手机在线| 伦理电影大哥的女人| 久久久久久大精品| 国产色爽女视频免费观看| 看非洲黑人一级黄片| 熟女人妻精品中文字幕| 网址你懂的国产日韩在线| a级毛片免费高清观看在线播放| 国产色爽女视频免费观看| 你懂的网址亚洲精品在线观看 | 国产高清三级在线| 亚洲欧美日韩无卡精品| 国产精品美女特级片免费视频播放器| av福利片在线观看| 嫩草影院精品99| 亚洲三级黄色毛片| 久久婷婷人人爽人人干人人爱| 男女国产视频网站| 插阴视频在线观看视频| 中国美白少妇内射xxxbb| 久久久久久久久久黄片| 老司机福利观看| 自拍偷自拍亚洲精品老妇| 1024手机看黄色片| 免费av不卡在线播放| 校园人妻丝袜中文字幕| 国产精品电影一区二区三区| 久久久成人免费电影| 亚洲欧美一区二区三区国产| 高清午夜精品一区二区三区| 日韩成人av中文字幕在线观看| 大又大粗又爽又黄少妇毛片口| 午夜a级毛片| 女人被狂操c到高潮| 永久网站在线| 色播亚洲综合网| 高清视频免费观看一区二区 | 久久久久久久久久黄片| 欧美成人免费av一区二区三区| 亚洲av中文av极速乱| 一本一本综合久久| 99视频精品全部免费 在线| 深爱激情五月婷婷| 精品久久久久久久人妻蜜臀av| 亚洲精品乱久久久久久| 蜜桃亚洲精品一区二区三区| 免费看a级黄色片| 水蜜桃什么品种好| 日本免费在线观看一区| 六月丁香七月| 熟妇人妻久久中文字幕3abv| 91久久精品国产一区二区三区| 黄色欧美视频在线观看| 美女国产视频在线观看| 久久草成人影院| 蜜臀久久99精品久久宅男| 国产精品美女特级片免费视频播放器| 夜夜看夜夜爽夜夜摸| 免费搜索国产男女视频| 成人高潮视频无遮挡免费网站| 一级毛片久久久久久久久女| 少妇的逼水好多| 变态另类丝袜制服| videos熟女内射| 日本色播在线视频| 男人狂女人下面高潮的视频| 神马国产精品三级电影在线观看| 水蜜桃什么品种好| 天堂中文最新版在线下载 | 国产色爽女视频免费观看| 午夜a级毛片| 成人亚洲精品av一区二区| 久久久亚洲精品成人影院| 中文乱码字字幕精品一区二区三区 | 亚洲久久久久久中文字幕| 2022亚洲国产成人精品| 久久久国产成人免费| 国产老妇女一区| 久久午夜福利片| 日韩欧美在线乱码| 久久久久久久午夜电影| 亚洲在线自拍视频| 亚洲自偷自拍三级| 丝袜喷水一区| 国产精品人妻久久久影院| 国产精品永久免费网站| 免费播放大片免费观看视频在线观看 | 中文乱码字字幕精品一区二区三区 | 色视频www国产| 日韩人妻高清精品专区| 男人和女人高潮做爰伦理| 全区人妻精品视频| 国语对白做爰xxxⅹ性视频网站| 小说图片视频综合网站| 久久6这里有精品| 九草在线视频观看| 最近中文字幕高清免费大全6| 国产伦在线观看视频一区| 一级毛片久久久久久久久女| 色5月婷婷丁香| 天美传媒精品一区二区| 国产精品99久久久久久久久| 免费观看人在逋| 天天一区二区日本电影三级| 日本免费a在线| 国产探花极品一区二区| 国产黄片视频在线免费观看| 九草在线视频观看| 一二三四中文在线观看免费高清| 人妻制服诱惑在线中文字幕| 国产免费视频播放在线视频 | 伦理电影大哥的女人| 国产精品久久久久久av不卡| 一个人看的www免费观看视频| 18禁在线无遮挡免费观看视频| 国产高清不卡午夜福利| 最后的刺客免费高清国语| 在线天堂最新版资源| 97热精品久久久久久| 全区人妻精品视频| 久久久国产成人免费| 亚洲中文字幕日韩| 日本欧美国产在线视频| 国产午夜福利久久久久久| 禁无遮挡网站| 一区二区三区高清视频在线| 大香蕉97超碰在线| 亚洲成色77777| 亚洲va在线va天堂va国产| 亚洲电影在线观看av| 午夜爱爱视频在线播放| 亚洲中文字幕日韩| 好男人在线观看高清免费视频| 纵有疾风起免费观看全集完整版 | 激情 狠狠 欧美| 内射极品少妇av片p| 91精品伊人久久大香线蕉| 在线a可以看的网站| videossex国产| 欧美日韩综合久久久久久| 国产精品三级大全| 97超碰精品成人国产| 一级二级三级毛片免费看| 少妇熟女aⅴ在线视频| 69人妻影院| 精品酒店卫生间| 18禁在线无遮挡免费观看视频| 欧美日韩一区二区视频在线观看视频在线 | 亚洲av免费高清在线观看| 伊人久久精品亚洲午夜| 99久久无色码亚洲精品果冻| 久久精品91蜜桃| 中文乱码字字幕精品一区二区三区 | 亚洲精华国产精华液的使用体验| 精品久久久久久久久av| 18+在线观看网站| 久久精品久久精品一区二区三区| 欧美激情久久久久久爽电影| 丰满少妇做爰视频| 天堂中文最新版在线下载 | 色网站视频免费| 一本一本综合久久| 亚洲精品乱码久久久久久按摩| 干丝袜人妻中文字幕| 精品国产三级普通话版| 亚洲不卡免费看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产av在哪里看| 99热这里只有精品一区| 亚洲18禁久久av| 国产午夜精品一二区理论片| 一区二区三区四区激情视频|