• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    法律與人工智能的法哲學(xué)思考

    2018-05-28 05:26:56吳旭陽
    東方法學(xué) 2018年3期
    關(guān)鍵詞:裁判糾紛深度

    吳旭陽

    內(nèi)容摘要:大數(shù)據(jù)深度學(xué)習(xí)模式是近年人工智能獲得飛速發(fā)展的重要模式,其在法律科技中也有相關(guān)的應(yīng)用,并引發(fā)了部分法律人的擔(dān)憂或歡迎。對這種模式在法律中的若干應(yīng)用進行分析,發(fā)現(xiàn)其在現(xiàn)有應(yīng)用中已經(jīng)具有大數(shù)據(jù)的優(yōu)勢,獲得不少認(rèn)可;但也存在智能水平較低、事實認(rèn)定方面的能力較弱等問題進行法哲學(xué)探討,發(fā)現(xiàn)該模式存在對于社會信息收集不廣、也不能符合司法能動主義創(chuàng)新要求的缺陷。同時,該模式不能夠進行證據(jù)的充分質(zhì)證、事實認(rèn)定方面的認(rèn)知能力不足;并在行為的正當(dāng)性、決策中的潛意識或者非理性、綜合性和未來發(fā)展、公法的社會性大問題等方面的考量不足。該模式能夠協(xié)助法律人進行工作與研究,但不可能取代人類法律人。

    關(guān)鍵詞:法律人工智能大數(shù)據(jù)深度學(xué)習(xí)事實認(rèn)定行為正當(dāng)性

    一、人工智能的發(fā)展及其在法律中的運用

    (一)人工智能的發(fā)展

    自從阿爾法狗戰(zhàn)勝圍棋界諸多世界高手之后,人類恍然發(fā)現(xiàn)人工智能(以下簡稱AI)在某一方面的智識水平已經(jīng)超越了人類。以往“深藍”在國際象棋領(lǐng)域戰(zhàn)勝人類并未引發(fā)人們的關(guān)注、思考或者憂慮;但現(xiàn)在大家顯然發(fā)現(xiàn),在不久的將來,AI可能會在很多領(lǐng)域達到人類的水平,輔助人類進行部分工作;甚至超越人類,在部分工作中取代人類。有人甚至?xí)?dān)憂未來高智慧的AI對人類的統(tǒng)治。因此,普通人對于AI迅速由漠視或忽視,改為重視、歡喜或者擔(dān)憂;人類對于人工智能的關(guān)注在近兩年呈現(xiàn)爆發(fā)式增長。

    而在法律領(lǐng)域,法律人們除了關(guān)心普通大眾所關(guān)注的問題之外,還更關(guān)心AI在法律中能夠起到什么作用?AI能否成為法律人的助手?還是成為法律人的威脅?這些都是部分法律人相當(dāng)關(guān)注和思考的問題。這其中,對法律人而言最好的模式當(dāng)然是AI能夠成為法律人良好的助手,而且還不會威脅和取代法律人的職業(yè)。事情當(dāng)真如此嗎?我們可以作一些研究或者思索。

    (二)人工智能在法律中的應(yīng)用及其不足

    乘著AI的東風(fēng),國內(nèi)外也出現(xiàn)了不少法律人工智能的創(chuàng)業(yè)項目?,F(xiàn)有的AI技術(shù)和創(chuàng)業(yè)團隊,進行了法律人工智能的研究和創(chuàng)業(yè),并在實踐中進行了若干試用。他們力圖讓法律或者司法裁判、法律教學(xué)領(lǐng)域在不久的將來像圍棋領(lǐng)域一樣,使AI成為重要的角色,部分甚或全部取代人類裁判者、法學(xué)教授的作用。

    筆者經(jīng)過文獻查閱,以及對若干法律人工智能項目的現(xiàn)場調(diào)查、觀摩,發(fā)現(xiàn)已有的法律人工智能創(chuàng)業(yè)項目多數(shù)有以下特點:

    1.大量地以裁判文書或者法律資料為基本的數(shù)據(jù)庫進行大數(shù)據(jù)的深度學(xué)習(xí)。最近幾年,AI研究獲得巨大的突破,其科學(xué)基礎(chǔ)在于使用了機器的“大數(shù)據(jù)深度學(xué)習(xí)”的技術(shù)?,F(xiàn)有的法律人工智能項目,也多以該技術(shù)模式為主。在中國,諸多法律人工智能項目以中國裁判文書網(wǎng)的數(shù)據(jù)庫為大數(shù)據(jù)進行AI的深度學(xué)習(xí)訓(xùn)練。〔1 〕西方比較有名的法律人工智能機器人ROSS平臺的研究2014年始于多倫多大學(xué),先是進行10個月的破產(chǎn)法學(xué)習(xí)后,它獲得了Baker & Hostetler律師事務(wù)所的工作。IBM將繼續(xù)教授ROSS不同領(lǐng)域的法律,以便其在多個法律領(lǐng)域進行工作?!? 〕

    截至2017年6月,中國裁判文書網(wǎng)的上網(wǎng)文書有近三千萬份,以近四年的為主;而其內(nèi)網(wǎng)運行的亦有六千萬份。相關(guān)數(shù)據(jù)有較大的價值,對于司法管理、司法公開、法律教學(xué)科研以及相關(guān)的法律創(chuàng)業(yè)項目而言,均是一座巨大的寶礦。但是該數(shù)據(jù)庫里的文書,對于法律人工智能的學(xué)習(xí)而言有以下缺點:(1)部分法官因為裁判文書上網(wǎng)公開的原因,也因案件越來越多而精力越來越不夠的原因,將說理部分盡量壓縮。(2)部分的內(nèi)部規(guī)定、會議紀(jì)要等,雖然不會在裁判文書上體現(xiàn),但卻是法官們作出裁判的重要依據(jù)。(3)相對判決書而言,案卷是重要的部分,尤其是案件審理的重要內(nèi)容不少均在內(nèi)卷之中。但是案卷并不上網(wǎng),其沒有信息化或者電子化,則讓研究法律人工智能的部分內(nèi)容顯得有“隔靴撓癢”之感。

    在大數(shù)據(jù)深度學(xué)習(xí)的模式之外,還有其他的模式,如部分法律人工智能采用類型案件的關(guān)鍵“爭點”或者“關(guān)鍵點”的規(guī)則梳理和設(shè)定。例如江蘇省檢察院系統(tǒng)采用的“案管機器人”系統(tǒng),制定了六百多個程序、證據(jù)、事實等方面的規(guī)則,設(shè)定了一千多個對比點。然后可以根據(jù)提出的問題進行反饋、修正。但是此類機器人不具有自主學(xué)習(xí)能力,是否屬于真正意義上的人工智能尚有待商榷。

    2.在事實認(rèn)定方面的能力較弱?,F(xiàn)有的法律人工智能主要工作流程在于“要素性事實”→“要件”→“裁判結(jié)果”,而“要素性事實”則是以“證據(jù)性事實”和“推斷性事實”為前提。以大數(shù)據(jù)深度學(xué)習(xí)見長的法律人工智能,現(xiàn)階段在事實認(rèn)定方面是個較大的缺失,很難實現(xiàn)由“證據(jù)性事實”向“推斷性事實”的推論,再實現(xiàn)由“推斷性事實”到“要素性事實”的推論轉(zhuǎn)化。部分法律人工智能項目在事實認(rèn)定方面的處理,以當(dāng)事人個人的陳述為主;在一些標(biāo)準(zhǔn)化較強的案件類型中(如交通事故、勞動爭議、醫(yī)療傷害類型案件方面),系統(tǒng)對當(dāng)事人在此類法律領(lǐng)域的各個主要方面進行選項設(shè)計。當(dāng)事人在系統(tǒng)界面上對各類事實認(rèn)定問題進行選擇,以協(xié)助法律人工智能進行事實認(rèn)定。然后,在這個事實認(rèn)定的基礎(chǔ)上進行法律規(guī)則的推理,最后得出結(jié)論。這種事實認(rèn)定并未經(jīng)過庭審的質(zhì)證,雙方也沒有證據(jù)交換,其準(zhǔn)確性相對較低(當(dāng)然,法官或者陪審員進行的事實認(rèn)定,也會存在意見不一致)。

    3.在當(dāng)下,法律人工智能的進步程度比較低,其在案件的事實認(rèn)定、定性等關(guān)鍵環(huán)節(jié)上不能完全、完美地運行;其水平僅僅像是法學(xué)院大一、大二學(xué)生的水平。案件判斷和分析的正確性(或者說是精確性)不高。其大體上不能作為法官助手,而只能作為法官助手在收集資料時的參考。當(dāng)然,個別法律人工智能產(chǎn)品已經(jīng)開始具有初步的應(yīng)用價值,能夠初步提出法律意見,并具有一定的正確性;但是這僅僅是在部分比較容易規(guī)范化的法律領(lǐng)域。

    從以上梳理可以看出,在國家公權(quán)力機關(guān)所提供的服務(wù)中,最高人民法院因為建立了中國裁判文書網(wǎng),為社會提供了大數(shù)據(jù)的支撐服務(wù),從而能夠支持在裁判文書大數(shù)據(jù)基礎(chǔ)上的機器深度學(xué)習(xí);有企業(yè)也在此基礎(chǔ)上一步步“培養(yǎng)”出法律人工智能項目。與其他國家機關(guān)相比,司法機關(guān)的公開性、統(tǒng)一性比較好(統(tǒng)一的大數(shù)據(jù)庫),為相關(guān)創(chuàng)業(yè)項目提供了基本的制度和數(shù)據(jù)支持。但是,以此為基礎(chǔ)所進行的法律人工智能研究開發(fā)項目,僅僅處于起步階段,依舊存在諸多問題,需要采用相關(guān)的技術(shù)進一步優(yōu)化和升級,也需要進行哲理上的探討。

    二、大數(shù)據(jù)深度學(xué)習(xí)模式的優(yōu)劣

    誠如阿爾法狗模式那樣,以大數(shù)據(jù)深度學(xué)習(xí)的AI具有較強的視野和經(jīng)驗,在某一方面甚至能夠遠超一般人和專家。在法律領(lǐng)域,采用了這種模式的法律人工智能,也能夠依靠法律數(shù)據(jù)庫的大數(shù)據(jù)進行深度學(xué)習(xí),從而實現(xiàn)決策的優(yōu)化。那么,法律人工智能能否像法官或者律師那樣辦案?它們能否作為合格的法律助手,甚至在很多工作崗位上起到法官、律師的作用,乃至于取代法官和律師?在當(dāng)下的法律人工智能項目中,這些應(yīng)該還不能成為可能。但是今后隨著AI技術(shù)的發(fā)展,在大數(shù)據(jù)的內(nèi)容比較充分的情況下,其能否通過深度學(xué)習(xí)而達到、取代法官和律師的作用呢?AI的大數(shù)據(jù)深度學(xué)習(xí)的基本模式,優(yōu)勢已經(jīng)被大家所廣泛獲知,而其在另一方面也可能存在缺陷。筆者從法律人工智能的視角進行優(yōu)劣的探討。

    (一)法律人工智能大數(shù)據(jù)深度學(xué)習(xí)模式的優(yōu)勢

    以大數(shù)據(jù)為基礎(chǔ)的深度學(xué)習(xí),能夠為法律人工智能提供廣博的信息數(shù)據(jù)基礎(chǔ)。當(dāng)下法律人工智能的主要模式是大數(shù)據(jù)的深度學(xué)習(xí)模式,該模式基于龐大的法律數(shù)據(jù)庫。以當(dāng)下中國為例,就是以數(shù)千萬份法律裁判文書為基礎(chǔ)的中國裁判文書網(wǎng)。通過對此海量裁判文書的深度學(xué)習(xí),相信法律人工智能在不遠的將來就會有較高的法律知識。這種數(shù)千萬份裁判文書的海量數(shù)據(jù),能夠提供較好的決策選擇基礎(chǔ),其所提取的裁判決策,也往往是在這些文書中較優(yōu)甚至是最優(yōu)的決策,具有較好地解釋力和說服力。

    以海量數(shù)據(jù)為基礎(chǔ),是形成較優(yōu)法律制度的重要基礎(chǔ)。我們常言,古代的羅馬法是最偉大的法律制度體系,其影響到今日還十分深遠;其作為簡單商品經(jīng)濟下最完備的法律制度,“以致一切后來的法律都不能對它做任何實質(zhì)性的修改”(恩格斯語)。從某種角度看,羅馬法的這種性質(zhì)是最大樣本的制度篩選結(jié)果。也就是說,羅馬法從其發(fā)展的公元前5世紀(jì)開始(就僅以第一部成文法《十二表法》起算)到《國法大全》完稿的公元6世紀(jì),其核心繁榮時期的四五百年時間內(nèi),羅馬帝國至少五六千萬人口,地跨亞、非、拉三大洲;在此廣大的時間、人數(shù)范圍和地域差別內(nèi)的糾紛解決方案,經(jīng)過如此大數(shù)量的博弈、測試和篩選。這種大數(shù)據(jù)創(chuàng)新、優(yōu)選下的法律規(guī)則,因其支撐的數(shù)據(jù)量夠大,其適應(yīng)性自然也比較強,對后世的影響是全球性的和歷史性的。因此,現(xiàn)有裁判文書網(wǎng)的大數(shù)據(jù)已經(jīng)有近三千萬份(內(nèi)網(wǎng)運行約六千萬份),不管存在什么樣的不足或者局限,其也有足夠的數(shù)據(jù)量能夠培養(yǎng)較為高級的法律人工智能。更何況在此后的一二十年內(nèi),裁判文書的數(shù)據(jù)量至少達到數(shù)億級別的量級;其數(shù)據(jù)量應(yīng)該足以支撐更為高級的法律人工智能。

    雖然當(dāng)下的法律人工智能的水平不高,但是以發(fā)展的目光看,隨著AI技術(shù)的提高,以大數(shù)據(jù)學(xué)習(xí)為基礎(chǔ)的AI存在較大的發(fā)展空間;其接近于人類法律人的水平,應(yīng)該是指日可待的。

    (二)該模式下法律人工智能的缺陷

    大數(shù)據(jù)深度學(xué)習(xí)模式的法律人工智能,其重要優(yōu)勢在于海量的大數(shù)據(jù),但是其重要的一個缺點,也是在于大數(shù)據(jù);也就是說,法律人工智能學(xué)習(xí)基礎(chǔ)的這種大數(shù)據(jù)的覆蓋面如何覆蓋的問題。

    第一,法學(xué)是一門實踐性很強的學(xué)科,同時也是牽涉面很廣的社會科學(xué);司法決策的過程較長,涉及生活的方方面面。那么,是否能夠?qū)⑹澜缟洗蠖鄶?shù)有用的數(shù)據(jù)電子化,或者被數(shù)據(jù)庫所采用?或者人類自身的數(shù)據(jù),人類社會交往的各種數(shù)據(jù)被電子系統(tǒng)所采集,并被歸入數(shù)據(jù)庫以供AI進行學(xué)習(xí)?從現(xiàn)有的信息采集體系看,基本上是不可能的。尤其是人與人之間的當(dāng)面交流、行動與合作,在現(xiàn)有的技術(shù)水平下基本上不會納入電腦、手機的信息采集系統(tǒng)中,不會被郵件、互聯(lián)網(wǎng)購物、互聯(lián)網(wǎng)社交體系的數(shù)據(jù)庫所采集。

    如果從這個角度看,法律人工智能可否有機會理解人類社會的各種行為?其大數(shù)據(jù)的學(xué)習(xí)模式就類似于從大學(xué)象牙塔畢業(yè)出來的法科大學(xué)生,帶著豐厚的法學(xué)知識,卻對社會認(rèn)知不夠,在一些案件中就很可能作出比較符合規(guī)則或邏輯卻不能夠為社會所接受的裁判。因此,從這個角度看,法律人工智能不能夠作出比較精細、精確的裁判,其更可能僅僅是作為人類司法裁判者的助手。

    當(dāng)然,法律調(diào)整的是重要的社會關(guān)系,而不是調(diào)整所有的社會行為或社會關(guān)系。法律是有成本的調(diào)整模式,因而只是調(diào)整足夠重要的社會關(guān)系;而在這些社會關(guān)系中,法律也不是對所有相關(guān)行為進行調(diào)整,而往往只是在糾紛發(fā)生后被動地進行調(diào)整。法律對于糾紛的解決也不強求所有的數(shù)據(jù),所以法律人工智能也不需要所有的人類行為數(shù)據(jù)。但從總體而言,在相當(dāng)長的一段時間內(nèi),由于法律人工智能所理解的人類社會是不周全的,畢竟大量的人類個體信息和社會交往信息在很長一段時間內(nèi)并不能上傳到網(wǎng)絡(luò)或者數(shù)據(jù)庫。因此,其不能精確理解這些社會性的規(guī)則和糾紛解決方式(當(dāng)然,在通訊網(wǎng)絡(luò)的5G或者6G之后,力圖實現(xiàn)“萬物萬聯(lián)”,其可行性有待于觀察)。

    第二,從司法能動或者創(chuàng)新的角度看,“世界上沒有同樣形狀的葉子”,其實世界上也沒有同樣的案件。那么我們要問:每一個新案件是不是一類新型案件?或者我們甚至還可以問,在“司法能動主義”盛行的今日,有創(chuàng)意、有想法的法官能不能在普通案件中挖掘新意,創(chuàng)制新的判例?或者在判決書中闡述新的觀點,從而發(fā)展新的法律學(xué)說或者新的權(quán)利保護類型、模式?即便是純粹法學(xué)派的代表凱爾森,也意識到“一般規(guī)范因司法判決的個別化,始終是對那些尚未由一般規(guī)范所決定而且也不能完全由它所決定的因素的決定。所以,在判決內(nèi)容永不能由既存實體法規(guī)范所完全決定這一意義上,法官也始終是一個立法者”?!? 〕所以他指出:“立法者,即由憲法授權(quán)創(chuàng)造一般法律規(guī)范的機關(guān),認(rèn)識到他所制定的一般規(guī)范在某些場合下可能導(dǎo)致不公正的或不公平的結(jié)果,因為立法者不可能預(yù)見到所有可能發(fā)生的具體情況。他因此就授權(quán)適用法律機關(guān)在適用立法者所創(chuàng)造的一般規(guī)范會有一個不能令人滿意的結(jié)果時,就不適用立法者所創(chuàng)造的一般規(guī)范而創(chuàng)造一個新規(guī)范。” 〔4 〕

    因此,如若法律人工智能的學(xué)習(xí)模式僅僅是當(dāng)下的深度學(xué)習(xí)模式,則其往往只能局限于舊有的知識或者規(guī)則,在新的問題上不能很好地以規(guī)則的目的或者利益進行解釋的擴張或者限縮,從而讓規(guī)則更好地適應(yīng)社會不斷發(fā)展的需要。而不同的社會關(guān)系或者犯罪手法層出不窮,先可能是“道高一尺,魔高一丈”;然后法律填補了空白或者漏洞,就出現(xiàn)了“魔高一尺,道高一丈”;然后再反復(fù)循環(huán)。當(dāng)代社會出現(xiàn)各類新的法律問題,這些問題及其解決或者規(guī)則,在原有深度學(xué)習(xí)的數(shù)據(jù)庫中沒有,則基于此的法律人工智能也不能作出裁判或者不能作出較好裁判。

    回溯人類的法律發(fā)展史,早在人類最早的法學(xué)流派——羅馬法中的兩大法學(xué)派出現(xiàn)了相關(guān)的爭議,就能很好地說明了這一點。在羅馬法興盛的公元1—3世紀(jì),出現(xiàn)了兩大法學(xué)派:薩賓派和普洛克魯斯派。兩者差異的其中一個重要方面就是法律解釋是否嚴(yán)格按照字面含義進行解釋;這就會在實踐中產(chǎn)生不同的結(jié)果。例如一個典型案例是當(dāng)時兩派關(guān)于往牲口身上披紅色的衣服使其受到驚嚇而跑掉是否是一種盜竊行為的爭議。還如關(guān)于殺人的解釋,拉貝奧(普洛克魯斯派)在處理殺人案件時(在阿奎利亞法中),會舉出“殺”這個詞的古代涵義,即使用武器運用暴力殺害一個人。在一個案件中,助產(chǎn)士給女奴一包毒藥讓其食用致其死亡,拉貝奧則認(rèn)為法律規(guī)定之訴不可用,裁判官應(yīng)當(dāng)頒發(fā)一個新的特殊訴訟程式。而薩賓則寧可在原有法律體制內(nèi)提供救濟。在這些新的案件問題上,裁判官是否應(yīng)當(dāng)頒給一個新的特殊的訴訟程式?還是僅僅局限于原有字面含義?或者對原有字面含義進行新的解釋?這就是一個較大的問題?!? 〕相似地,此類問題在今日的法律人工智能上,就是以大數(shù)據(jù)深度學(xué)習(xí)的法律人工智能是否適應(yīng)社會的新發(fā)展?如果可以,則其需要非常高的智識能力,這是當(dāng)前其所不能夠解決的。

    (三)未來的可能性

    如若在長時間之后,前述此類問題能夠解決,亦即人類的行為或者生存過程的幾乎多數(shù)時刻均能夠被大系統(tǒng)所監(jiān)控并上傳到數(shù)據(jù)庫,則到時以大數(shù)據(jù)為基礎(chǔ)的法律人工智能就有機會超越人類的法律人。另一方面,從更深的層面看,如果AI發(fā)展出比人類社會交往更好或更高級的策略呢?那么這種大數(shù)據(jù)的系統(tǒng)的學(xué)習(xí),這種相關(guān)行為或者環(huán)境的監(jiān)控則就僅僅成為需要而不一定是必要。AI強大的計算能力和見識(數(shù)據(jù)庫足夠大),就可能在某些方面提出比人類現(xiàn)在更好的行為模式,可能更好地解決糾紛。

    應(yīng)該說,現(xiàn)在法律人工智能所出現(xiàn)的各類問題,主要不是法律的問題,而是AI技術(shù)的水平不高導(dǎo)致的問題。日后隨著AI技術(shù)的不斷發(fā)展,法律人工智能就很有可能更加接近或者達到人類的水平。

    三、法律人工智能的其他問題

    前述是針對AI或者法律人工智能基于大數(shù)據(jù)深度學(xué)習(xí)的問題探討。但是,事情不僅僅是這些問題。如果我們進一步深入思考,則還有必要分析其他的問題。

    (一)事實認(rèn)定與法律邏輯推理

    司法裁判是法律人工智能的核心問題;人工智能在法律中的運用,其終極目標(biāo)顯然是能夠像法官、律師那樣,能夠在多數(shù)領(lǐng)域上達到法官、律師那樣的判案效果;甚至在某些方面能夠做得比法官要好。在其他方面,我們也希望人工智能能夠具有律師、檢察官等法律人的效果。然而,當(dāng)我們司法裁判對進行深入分析時,就會發(fā)現(xiàn)司法裁判其實是分成兩大部分:事實認(rèn)定和法律適用。這兩者之間的差異非常大。顯然,從現(xiàn)有司法裁判的邏輯推理視角來看,法律適用部分的邏輯性較強。根據(jù)法律規(guī)則的二要素學(xué)說——“行為模式”和“法律后果”,從“行為模式”到“法律后果”的邏輯推理過程顯然相對容易。因此,以形式邏輯進行法律演繹推理的軟件開發(fā)比較容易獲得成功。但是,問題的難點在于事實認(rèn)定方面。事實認(rèn)定屬于法律規(guī)則中的“行為模式”要素,如何從“證據(jù)”到“證據(jù)性事實”的推論,再到實體法行為模式中的“要素性事實”的推論,這對AI而言是一個難度極高的關(guān)鍵問題。這對AI的智能程度提出了極高的要求。

    從知識論的角度看,單純的形式邏輯并不能產(chǎn)生知識。在康德的知性理論中歸納了十二種知性的范疇,〔6 〕人類具有這些普遍的認(rèn)識能力。事實認(rèn)定問題,其實是先天知性能力對于外在世界“雜多”的“統(tǒng)合”問題。此外,在康德看來,先驗超越于經(jīng)驗,但是先驗又必須運用于經(jīng)驗,否則就不是知識,“但對于人類知性來說,這個行動卻不可避免地是第一原理,乃至于它絲毫也不能理解別的可能的知性,不論是本身可以直觀的那種知性,還是那種即使擁有感性直觀但確實不同于空間和時間中那樣的感性直觀作為基礎(chǔ)的知性?!薄爸缘膱D型法通過想像力的先驗綜合,所導(dǎo)致的無非是一切直觀雜多的內(nèi)感官的統(tǒng)一,因而間接導(dǎo)致作為與內(nèi)感官(某種接受性)相應(yīng)的機能的那種感覺的統(tǒng)一?!?〔7 〕 〔8 〕因此,不是單純的知性就可以建立起知識,相反需要依靠知性和感性的結(jié)合,通過外在的刺激才能夠獲得理性知性和感性經(jīng)驗相結(jié)合的知識。事實認(rèn)定者僅有先天、內(nèi)在的人類普遍的知性能力是遠遠不夠的,不能形成真正的知識;其還必須通過庭前證據(jù)交換、庭審質(zhì)證等程序,以“雜多”的感性為知性能力提供材料,從而形成關(guān)于案件事實判斷的“知識”。也就是說,由于知識是內(nèi)外結(jié)合的產(chǎn)物,知識必然以內(nèi)在的主觀狀態(tài)為基礎(chǔ),加以外在的刺激或觀察。理性、知性加上經(jīng)驗,才能形成知識。如果只有先天知識而沒有庭審,則單憑先天邏輯知識,也不能形成關(guān)于某一案件的知識。庭審過程中,隨著雙方提交證據(jù),并進行質(zhì)證,“真相”就在事實認(rèn)定者面前不斷展開。而雙方是否能夠提交充分的證據(jù)并進行司法證明,會在很大程度上影響事實認(rèn)定?!耙驗樗鼉H僅用于通過某種先天必然的統(tǒng)一的諸根據(jù)(由此使一切意識必然結(jié)合在一個本源的統(tǒng)覺之中)而使諸現(xiàn)象服從于綜合的普遍規(guī)則,并借此使它們順理成章地徹底聯(lián)結(jié)于一個經(jīng)驗之中?!?〔9 〕而這一點恰恰是人工智能所較難具有的能力;或者說在很長一段時間內(nèi)較難具有的“統(tǒng)合”能力。因此,在人工智能方面,我們看到,依照康德的“感性-知性”的認(rèn)識論所建構(gòu)起來的知識論,已經(jīng)能夠影響人工智能的機器人的認(rèn)知理論。〔10 〕

    而事實認(rèn)定方面的數(shù)據(jù)量要求極大,從大數(shù)據(jù)深度學(xué)習(xí)的視角來看,除非其達到人類對于外在世界的認(rèn)識能力,否則其難以實現(xiàn)比較精準(zhǔn)的事實判斷能力。所以從這個角度看,法律人工智能達不到人類的認(rèn)識判斷水平。

    (二)法律的正當(dāng)性問題

    對于事實問題進行界定和統(tǒng)合是一個重要的問題,一旦人工智能在這個方面能夠取得突破性的成就,那么下一步進行的邏輯性演繹推理就比較容易。即“行為模式”已經(jīng)確定,則法律后果往往比較容易決定(在司法的自由裁量問題上,往往也有比較細致的事實方面的規(guī)定)。但是,這方面僅僅是法律規(guī)則制定之后的純粹邏輯推理問題;而法律在實施過程中不可能完全是依照規(guī)則的字面含義進行解釋,而還需要考慮規(guī)則的目的或者利益。也就是說,多數(shù)的糾紛依照規(guī)則的邏輯過程進行推理能夠得出恰當(dāng)?shù)慕Y(jié)果;但如若規(guī)則的施行結(jié)果與普通的道德直覺、廣大群眾的利益之間存在尖銳的差異矛盾呢?法律不僅需要考慮邏輯性,在部分案件中還需要考慮道德性、利益均衡或者目的性;這就不是完全的邏輯推理那么簡單了?!胺珊心康模核鼈冐瀼亓己玫脑瓌t和政策,同時又被這些原則和政策證明是正當(dāng)?shù)?。?〔11 〕而推理的大前提除了法律規(guī)則之外,在部分案件中還可以是價值;尤其是當(dāng)法律規(guī)則比較模糊時,或者是法律規(guī)則的推理結(jié)果與民眾的道德直覺、利益之間存在巨大、尖銳的沖突時。

    法律人工智能深度學(xué)習(xí)的數(shù)據(jù)源就是人類的各類法條或者判決。然而,人類的法條和判決根源于社會,即糾紛解決的正當(dāng)性方案的法律規(guī)則或者關(guān)于行為正當(dāng)性的裁判,其自身也需要正當(dāng)性的支持?!巴椒ú蛔阋宰孕小?,法律規(guī)則也不能賦予自身以正當(dāng)性。此類更基礎(chǔ)性的正當(dāng)性,需要對法律之外的社會進行深度觀察和分析。正當(dāng)性的另一方面還體現(xiàn)在于:由于雜多的外在事務(wù),不僅僅包括客觀世界,更包含對于行為人的主觀狀態(tài)的評判——包括動機的正當(dāng)性評判。這里不僅僅是雜多的問題,還包含對于行為人的內(nèi)心狀態(tài)的一種推斷,所包含的信息量極大;在這些方面,基于大數(shù)據(jù)深度學(xué)習(xí)的法律人工智能,其解決能力是極為有限的。

    (三)潛意識或者非理性的考量

    人是理性動物,尤其是重大經(jīng)濟決策或者法律決策,其多數(shù)是理性的產(chǎn)物。但是,部分的決策會受到潛意識的重大影響,也不是全然理性的產(chǎn)物。而相當(dāng)大一部分的潛意識或者非理性的思維、決策,既不為人類自身所知,也不為大數(shù)據(jù)的數(shù)據(jù)庫所收集。固然法律推理是理性的產(chǎn)物,但是相當(dāng)大部分糾紛并不是理性的。以推理的理性,在部分個案中解決非理性的糾紛以及面對處于情緒狀態(tài)下的當(dāng)事人,其解決效果并不一定是最佳,司法公信力也不一定最強。棚瀨孝雄說:“法官在作出判決過程中應(yīng)該不斷地通過解釋在結(jié)論的衡平性與法律適用的嚴(yán)肅性之間進行反饋,盡可能地獲得符合實際并對雙方當(dāng)事者都有說服力的解決已成為一般認(rèn)識?!?〔12 〕而在多元化糾紛解決模式——其往往由法院來進行主導(dǎo)或主管,采用的多種糾紛解決模式,則可以包括非法律規(guī)則的解決模式、社會綜合治理的解決模式。但是,相關(guān)的糾紛解決模式不一定是理性的,所謂“曉之以理,動之以情,誘之以利”等多方式解決糾紛。因此,糾紛的解決,不僅僅是依賴?yán)硇?,也可以激發(fā)糾紛當(dāng)事人非理性的感情、或者以潛意識進行心理上的疏導(dǎo),從而化解、解決糾紛。

    此外,司法決策過程也并非全然是理性的,情感或者潛意識等非理性的思維或者意識,也是形成司法決策的一部分基礎(chǔ)。這對于當(dāng)事人雙方、其他訴訟參加人甚至法官都是如此。而這些潛意識或者情感等人類意識狀態(tài),人工智能要進行學(xué)習(xí)或者模仿的難度是非常大的。這是演化心理學(xué)中的問題,即人工智能不是人類,即使其經(jīng)歷過大數(shù)據(jù)的學(xué)習(xí),也不是完全的自然狀態(tài)下演化的全歷程下的篩選結(jié)果。畢竟后者的“自然狀態(tài)下的演化的全歷程”是不可模仿的。因此,在理性的問題上,AI可以依托超快的計算能力以及不知疲倦的運行模式進行通宵達旦的飛速學(xué)習(xí),從而在某些方面迅速地超越人類。那么脫離真實性的演化過程的設(shè)計,能否實現(xiàn)逆襲?在潛意識或者非理性的其他知識方面,這種可能性雖然不是不可能,但是近期的可能性還是比較小。

    (四)未來性和綜合性評判的問題

    除了上述這些方面的問題,還存在對于行為的未來以及綜合的評判問題。當(dāng)下人工智能對于行為的綜合性評判是遠遠不夠的。這里存在著各種計算量的問題,即人類行為計算的可能性。而針對未來性,主要是人類行為或者社會互動模式的未來走向。這里涉及人類社會發(fā)展的驅(qū)動力問題,這是人類中心主義的。人類因為有了壓力和驅(qū)動力,因此會不斷地發(fā)現(xiàn)和解決問題。世界上其實并沒有問題,所謂的問題,是人類的問題而不是世界的問題,也不是宇宙的問題。從這個意義上說,所謂的問題的提出和解決,從終極上看都在于人類。因此,即便AI取代人類或超越人類,其所提供的解決方案也不大可能讓人類滿意。當(dāng)然,如果AI能夠基本解決前述的那些事實認(rèn)定和正當(dāng)性問題,其實AI已經(jīng)與人類相差無幾,其超越人類已經(jīng)指日可待。一旦這個問題出現(xiàn),則更可能的是“去人類中心主義”的趨向。

    除了上述這些方面的問題,還會有其他的問題,例如涉及公法領(lǐng)域問題。這不僅涉及一個社會的小群體利益或者理性,還涉及大多數(shù)人及社會結(jié)構(gòu)等大領(lǐng)域問題,甚至還涉及不同國家之間的關(guān)系等。在當(dāng)今的司法能動主義的趨勢下,以及當(dāng)今的國家行為的合法性要求的趨勢下,這些公法問題所涉及的數(shù)據(jù)量極大。此外,法律裁判不僅涉及法律規(guī)則,還涉及法律原則。“原則和政策沒有建立法律的類別,確定法律的后果。但它們?yōu)橐?guī)則提供了正當(dāng)理由,也為把案件歸于規(guī)則所定的法律類別中的法律理由提供了正當(dāng)理由?!?〔13 〕這些方面的計算量也比較大,也更多變;以大數(shù)據(jù)深度學(xué)習(xí)為基礎(chǔ)的法律人工智能接近或者達到人類法律人的難度極大。

    四、法律人工智能的前景

    前述對法律人工智能基于大數(shù)據(jù)深度學(xué)習(xí)的不足進行了若干的分析,但從長遠而言,法律人工智能的前景應(yīng)該是不錯的,多數(shù)人對于法律人工智能的作用也比較肯定。筆者對這個趨勢也比較認(rèn)可,下面分析一下前景。

    (一)過渡時期的半人工智能模式

    在未來的二、三十年以及可能的更長的時間內(nèi),如果AI技術(shù)沒有較大的突破,則法律人工智能無法進步到完全取代人類法官、律師的程度;其在案件的事實認(rèn)定、正當(dāng)性等關(guān)鍵環(huán)節(jié)上不能完美地運行。在法律人工智能無法完全趕得上人類法律人這一時期,筆者的方案是“人機結(jié)合”。這種人機結(jié)合,并非像“腦機接口”那樣在生理上的結(jié)合,而是人類的法律人與法律人工智能的協(xié)作。大數(shù)據(jù)深度學(xué)習(xí)模式的法律人工智能有其優(yōu)勢,而人類法律人通過自身的法律素質(zhì),在法律人工智能無法完善解決的事實認(rèn)定、正當(dāng)性(以及疑難案件)等方面進行協(xié)作,以幫助法律人工智能系統(tǒng)在各類案件中進行難點的翻越,能夠輸出較為精確的結(jié)果。這將實現(xiàn)AI的快速和廣泛的搜索、學(xué)習(xí)能力,與人類在關(guān)鍵問題上的直覺能力進行結(jié)合。

    (二)完全時期

    當(dāng)然,在未來的二、三十年以及可能的更長時間之后,相信已經(jīng)有了比大數(shù)據(jù)深度學(xué)習(xí)更佳的AI科學(xué)理論和技術(shù);AI已經(jīng)能夠具有相當(dāng)?shù)乃季S能力,其強大的計算能力一旦能具有自行收集外在世界各類信息的能力,并能夠具有分析人類各類事務(wù)的能力,獲得基本精確地解決人類糾紛的能力。

    另一方面,AI在全面介入人類的糾紛解決方式之后,可能會提出比現(xiàn)有糾紛解決方案更好的方案或者模式。阿爾法狗及其升級版Alfa master在一年之內(nèi)接連敗多名國際頂尖的圍棋選手,國際排名前列的圍棋大師柯潔在被Alfa master多次打敗之后,其圍棋水平獲得了巨大的提升,大勝人類的其他棋手?!?4 〕而在此之前,在經(jīng)過了與阿爾法狗多輪較量,他在屢戰(zhàn)屢敗之后醒悟到,“人類已經(jīng)研究圍棋研究了幾千年了,然而人工智能卻告訴我們,我們甚至連其表皮都沒揭開?!?〔15 〕而在與人類的較量中,阿爾法狗已經(jīng)屢屢下出了驚人的棋藝,更新了人類對于若干棋藝的認(rèn)識。由相關(guān)的經(jīng)驗我們可知,AI一旦具有超越人類知識的能力,則其可能可以提出更佳方案以解決人類糾紛。首先,此類糾紛解決的新方案可能在人類的認(rèn)知能力之外,因而人類更不可能在新制度安排下“鉆空子”,從而提升法律的穩(wěn)定性。其次,此類新方案可能會更有效率,從而提出更節(jié)約的糾紛解決模式,或者提出更能夠提升經(jīng)濟增長的制度安排。再次,此類新方案也可能會更好地降低糾紛的發(fā)生或者復(fù)發(fā)。最后,此類新模式也可能更滿足人類的基本道德感,以及不斷發(fā)展演變的道德理論或者觀念。當(dāng)然,這僅僅是一種假設(shè),并不一定會實現(xiàn);AI能否真正超越人類,也是存有疑問的。

    (三)非法律的其他治理模式

    一旦法律人工智能能夠具有人類的普通思維能力,甚至超越人類的思維模式,則可能會有另外的思維模式,以解決人類之間的糾紛,甚至可能出現(xiàn)其他非法律的治理模式。而AI超越人類,甚至有可能會實現(xiàn)AI對于人類的統(tǒng)治,這里又會出現(xiàn)AI對人類的統(tǒng)治秩序或者規(guī)則的問題。當(dāng)然,這依舊是一種假設(shè),能否實現(xiàn)依然存疑。

    (四)如何解決AI之間的糾紛?

    這個問題看上去幾乎是無法相像的。因為多數(shù)人所設(shè)想的往往僅僅是AI如何解決人類之間的糾紛,或者協(xié)助人類法官解決人類之間的糾紛。而AI之間還會有糾紛發(fā)生?他們之間的糾紛如何可能被人類解決或者在AI之間自行解決?尤其是一旦AI的智識已經(jīng)接近于人甚或是超越人,則AI之間是否也可能存在糾紛?

    應(yīng)該說,現(xiàn)在我們也只能依照人類模式猜測AI之間是否也能夠有糾紛,設(shè)想計算機系統(tǒng)之間的沖突,引發(fā)的相互之間的不兼容或者系統(tǒng)崩潰,可能是AI之間的生硬的、魯莽的系統(tǒng)沖突解決模式。作為計算機的AI以及作為生物個體的人類,其運行模式中均可能出現(xiàn)錯誤。人類的思維錯誤或者DNA錯誤比較常見,是演化的一種機遇。而AI的主機在運行中也可能因為硬件或者軟件的問題,發(fā)生錯誤。這種錯誤在以往(現(xiàn)在)的解決模式,類似于人類生命體的生病或者想法出錯,其可能引發(fā)AI之間的“誤解”,這或許也需要進行糾紛的解決。而假若AI演化為高級的有智識水平,AI之間的沖突是否更可能像是人類之間的糾紛,其糾紛解決可能也是一個重要問題。而超越人類智識的AI之間的糾紛的解決模式,AI之間的溝通模式或者信號,也可能在人類的想象或者理解之外。

    此外,假若到了此時,AI作為一個超越人類的智慧體,其也有可能制造新的AI,其也會成為造物主,則也需要調(diào)整作為造物主和被造物之間的關(guān)系。

    余論

    人類對于AI的擔(dān)憂,其實是對于自身族群之外其他高智慧族群的擔(dān)憂。在這一年來AI的興盛之前,雖然也有不少影視文學(xué)作品描述了AI或機器人的超級能力甚或其對于人類的統(tǒng)治和奴役,但更多人是將注意力投射到所謂的“外星人”上。然而,在不知不覺中,我們才豁然發(fā)現(xiàn),原來在人類之外的高智慧族群,不大可能是外星人,而更可能是已經(jīng)不聲不響地發(fā)展出一定程度智力水平的AI。更讓人類喜憂參半而不是滋味的是,很多人幾乎可以相信,AI在不久的將來就可能會超越人類的智識水平。這是人類演化發(fā)展階段的一個新的邁進,相信作為“造物主”的人類會與AI攜手共進,和平相處,共同解決好各類問題。

    猜你喜歡
    裁判糾紛深度
    鄰居裝修侵權(quán)引糾紛
    深度理解一元一次方程
    法官如此裁判
    法官如此裁判
    署名先后引糾紛
    法律裁判中的比較推理
    法律方法(2019年4期)2019-11-16 01:07:10
    用“情”化解離婚糾紛
    深度觀察
    深度觀察
    清代刑事裁判中的“從重”
    法律史評論(2018年0期)2018-12-06 09:22:28
    一级毛片高清免费大全| 亚洲天堂国产精品一区在线| 夜夜躁狠狠躁天天躁| 亚洲av成人一区二区三| 中文字幕久久专区| 久99久视频精品免费| 久久久国产成人免费| 久久久国产成人精品二区| 欧美极品一区二区三区四区| 国产人伦9x9x在线观看| 色综合婷婷激情| 白带黄色成豆腐渣| 三级国产精品欧美在线观看 | 久久热在线av| 国产片内射在线| 国内精品久久久久精免费| 国产在线精品亚洲第一网站| 99热这里只有精品一区 | 嫩草影院精品99| 在线永久观看黄色视频| 国产成年人精品一区二区| 成在线人永久免费视频| 俄罗斯特黄特色一大片| 一级片免费观看大全| 亚洲国产精品成人综合色| 一个人观看的视频www高清免费观看 | 亚洲av成人精品一区久久| 国产成人av激情在线播放| 啦啦啦观看免费观看视频高清| 成人欧美大片| 黑人操中国人逼视频| 无限看片的www在线观看| 亚洲av熟女| 男女之事视频高清在线观看| 久久天躁狠狠躁夜夜2o2o| 国产精品久久久久久人妻精品电影| 欧美成人一区二区免费高清观看 | 欧美不卡视频在线免费观看 | 正在播放国产对白刺激| 亚洲 欧美 日韩 在线 免费| 国产av不卡久久| 精品欧美国产一区二区三| 国产aⅴ精品一区二区三区波| 国产黄片美女视频| 18禁国产床啪视频网站| 欧美人与性动交α欧美精品济南到| 国产成人av激情在线播放| 亚洲精品在线美女| 国产成年人精品一区二区| 男插女下体视频免费在线播放| 国产片内射在线| 又紧又爽又黄一区二区| www.999成人在线观看| 丝袜人妻中文字幕| 一级毛片女人18水好多| 97碰自拍视频| 免费观看人在逋| 老司机午夜福利在线观看视频| 午夜精品一区二区三区免费看| 亚洲午夜理论影院| 亚洲一区中文字幕在线| 麻豆久久精品国产亚洲av| 日韩中文字幕欧美一区二区| 夜夜看夜夜爽夜夜摸| 成人国产综合亚洲| 久久国产精品影院| 亚洲熟女毛片儿| 欧美三级亚洲精品| 亚洲中文字幕一区二区三区有码在线看 | 麻豆一二三区av精品| 好看av亚洲va欧美ⅴa在| 女人爽到高潮嗷嗷叫在线视频| 国产精品乱码一区二三区的特点| 中文亚洲av片在线观看爽| 天天躁狠狠躁夜夜躁狠狠躁| 香蕉丝袜av| 99久久综合精品五月天人人| 久久国产精品影院| 国产精品一及| 18禁黄网站禁片午夜丰满| 99国产精品99久久久久| 日韩欧美精品v在线| 男女之事视频高清在线观看| www.熟女人妻精品国产| 亚洲精品中文字幕在线视频| 久久久水蜜桃国产精品网| 国产真实乱freesex| 久久 成人 亚洲| 波多野结衣高清无吗| 一个人免费在线观看的高清视频| 夜夜夜夜夜久久久久| 亚洲一区二区三区不卡视频| 久久这里只有精品中国| 国产av又大| 亚洲 欧美一区二区三区| 国产爱豆传媒在线观看 | 久久久久国产精品人妻aⅴ院| 亚洲成人中文字幕在线播放| 99riav亚洲国产免费| 国产成人av激情在线播放| 老熟妇仑乱视频hdxx| 90打野战视频偷拍视频| 亚洲av电影不卡..在线观看| 亚洲精品中文字幕在线视频| av在线天堂中文字幕| 久久精品国产99精品国产亚洲性色| 国内精品一区二区在线观看| 午夜福利欧美成人| 青草久久国产| 99久久99久久久精品蜜桃| 无遮挡黄片免费观看| 亚洲国产精品成人综合色| 国产片内射在线| 国产99白浆流出| 黄色视频不卡| 欧美一级毛片孕妇| 国产精品久久久久久久电影 | 欧美午夜高清在线| 亚洲欧美日韩高清专用| 国产伦一二天堂av在线观看| 美女午夜性视频免费| 日本 欧美在线| 久久人妻av系列| 一区二区三区高清视频在线| 免费看美女性在线毛片视频| 制服人妻中文乱码| 伊人久久大香线蕉亚洲五| 少妇裸体淫交视频免费看高清 | 亚洲美女黄片视频| 十八禁人妻一区二区| 免费观看精品视频网站| av天堂在线播放| 日日干狠狠操夜夜爽| 亚洲avbb在线观看| 午夜两性在线视频| 淫秽高清视频在线观看| 亚洲国产精品久久男人天堂| 精品一区二区三区视频在线观看免费| 国产一区二区三区在线臀色熟女| √禁漫天堂资源中文www| 日本黄色视频三级网站网址| 听说在线观看完整版免费高清| 中出人妻视频一区二区| 精品国产亚洲在线| 日本免费a在线| 久久伊人香网站| 久久久久久免费高清国产稀缺| 90打野战视频偷拍视频| 欧美成人免费av一区二区三区| 女同久久另类99精品国产91| 久久久精品欧美日韩精品| 91麻豆av在线| 不卡一级毛片| 国产黄色小视频在线观看| 日本在线视频免费播放| 神马国产精品三级电影在线观看 | 全区人妻精品视频| 成在线人永久免费视频| 九色国产91popny在线| 成人国产一区最新在线观看| 麻豆av在线久日| tocl精华| 精品高清国产在线一区| 亚洲国产精品999在线| 国模一区二区三区四区视频 | 999久久久国产精品视频| 叶爱在线成人免费视频播放| 亚洲在线自拍视频| 2021天堂中文幕一二区在线观| 人成视频在线观看免费观看| 丁香六月欧美| 亚洲片人在线观看| 18禁黄网站禁片午夜丰满| 国产精品乱码一区二三区的特点| 哪里可以看免费的av片| 精品日产1卡2卡| 全区人妻精品视频| 久久久精品欧美日韩精品| 国产成人啪精品午夜网站| 悠悠久久av| 丝袜美腿诱惑在线| 中文在线观看免费www的网站 | 人妻久久中文字幕网| 亚洲国产高清在线一区二区三| 露出奶头的视频| 日本三级黄在线观看| 国产精品综合久久久久久久免费| 日韩av在线大香蕉| 一级毛片精品| 在线永久观看黄色视频| 国产视频内射| 老司机靠b影院| 日日干狠狠操夜夜爽| 国产成人av激情在线播放| 村上凉子中文字幕在线| 欧美乱妇无乱码| 久久久久免费精品人妻一区二区| 在线免费观看的www视频| 日本撒尿小便嘘嘘汇集6| 久热爱精品视频在线9| 久久香蕉国产精品| 欧美大码av| 亚洲真实伦在线观看| a级毛片在线看网站| 看片在线看免费视频| 国产真人三级小视频在线观看| 亚洲欧美日韩高清专用| 免费无遮挡裸体视频| 亚洲av美国av| 熟女少妇亚洲综合色aaa.| 国产精品综合久久久久久久免费| 18美女黄网站色大片免费观看| 一级毛片高清免费大全| 在线免费观看的www视频| 亚洲一区高清亚洲精品| 欧美一区二区精品小视频在线| 久久久久久久精品吃奶| 精品国内亚洲2022精品成人| 黄色女人牲交| 国产视频内射| 久久久久久人人人人人| 在线观看免费日韩欧美大片| 老熟妇乱子伦视频在线观看| 视频区欧美日本亚洲| svipshipincom国产片| 91字幕亚洲| 午夜福利在线观看吧| 成人一区二区视频在线观看| 国产高清视频在线播放一区| 99在线人妻在线中文字幕| 久9热在线精品视频| 少妇熟女aⅴ在线视频| 天堂动漫精品| 丰满人妻熟妇乱又伦精品不卡| 人人妻,人人澡人人爽秒播| 日韩高清综合在线| 国产精品一区二区三区四区免费观看 | 久久久久久人人人人人| www.www免费av| 搡老熟女国产l中国老女人| 亚洲男人天堂网一区| 精品欧美一区二区三区在线| www.自偷自拍.com| 在线观看午夜福利视频| 日韩精品中文字幕看吧| 99国产综合亚洲精品| 国产精品一区二区免费欧美| 男人舔女人下体高潮全视频| 欧美丝袜亚洲另类 | 中文字幕人妻丝袜一区二区| www.精华液| 日本五十路高清| 禁无遮挡网站| av免费在线观看网站| 天天添夜夜摸| 麻豆一二三区av精品| 久久精品国产清高在天天线| 欧美另类亚洲清纯唯美| 少妇人妻一区二区三区视频| 中文字幕精品亚洲无线码一区| 国产精品免费视频内射| 亚洲精品中文字幕一二三四区| 成人一区二区视频在线观看| 欧美黄色片欧美黄色片| 久久久久精品国产欧美久久久| 亚洲美女黄片视频| 国产精品美女特级片免费视频播放器 | 亚洲成人久久性| a级毛片在线看网站| 韩国av一区二区三区四区| www.999成人在线观看| 亚洲男人的天堂狠狠| 久久久久亚洲av毛片大全| 午夜精品在线福利| 日韩中文字幕欧美一区二区| 欧美成人一区二区免费高清观看 | 啦啦啦免费观看视频1| 国产成人一区二区三区免费视频网站| 亚洲成人久久性| 18美女黄网站色大片免费观看| 欧美乱色亚洲激情| 国产精品精品国产色婷婷| 精品国内亚洲2022精品成人| 国产精品一区二区三区四区久久| 成人18禁高潮啪啪吃奶动态图| 美女大奶头视频| 精品一区二区三区四区五区乱码| 一进一出抽搐gif免费好疼| 亚洲五月天丁香| 亚洲一区二区三区不卡视频| 国产精品精品国产色婷婷| 99精品在免费线老司机午夜| 亚洲18禁久久av| 蜜桃久久精品国产亚洲av| 女人高潮潮喷娇喘18禁视频| 国内精品久久久久久久电影| 此物有八面人人有两片| 午夜老司机福利片| 麻豆久久精品国产亚洲av| 在线观看午夜福利视频| 国产精品1区2区在线观看.| 亚洲精品中文字幕一二三四区| 欧美高清成人免费视频www| 亚洲av成人av| 91老司机精品| 日韩欧美一区二区三区在线观看| 亚洲男人的天堂狠狠| 在线视频色国产色| 亚洲人与动物交配视频| 大型黄色视频在线免费观看| 欧美日韩福利视频一区二区| 成人av一区二区三区在线看| 日本一二三区视频观看| 精品不卡国产一区二区三区| 久久精品成人免费网站| 亚洲专区国产一区二区| 免费看十八禁软件| 亚洲人成网站在线播放欧美日韩| 18美女黄网站色大片免费观看| 国内精品一区二区在线观看| 欧美zozozo另类| 女人爽到高潮嗷嗷叫在线视频| 午夜影院日韩av| 18禁黄网站禁片午夜丰满| 欧美日韩黄片免| 一本久久中文字幕| 亚洲电影在线观看av| 免费看十八禁软件| 亚洲人成网站在线播放欧美日韩| 俺也久久电影网| 亚洲欧美精品综合一区二区三区| 18美女黄网站色大片免费观看| 亚洲午夜精品一区,二区,三区| 我要搜黄色片| 日本熟妇午夜| 亚洲av熟女| 99国产精品一区二区三区| 99国产综合亚洲精品| 欧美高清成人免费视频www| av有码第一页| 亚洲av片天天在线观看| 露出奶头的视频| 国产激情偷乱视频一区二区| 国产一区二区激情短视频| 看免费av毛片| 麻豆国产97在线/欧美 | 岛国视频午夜一区免费看| 国产精品永久免费网站| 国产精品久久久人人做人人爽| 法律面前人人平等表现在哪些方面| 精华霜和精华液先用哪个| 欧美丝袜亚洲另类 | 一夜夜www| 久久久久免费精品人妻一区二区| 欧美日韩乱码在线| 久久久久国产精品人妻aⅴ院| 精品免费久久久久久久清纯| 曰老女人黄片| 中亚洲国语对白在线视频| 免费无遮挡裸体视频| 欧美在线一区亚洲| 在线观看66精品国产| 18美女黄网站色大片免费观看| 婷婷精品国产亚洲av| 欧美黑人巨大hd| av免费在线观看网站| 母亲3免费完整高清在线观看| www日本在线高清视频| 男女之事视频高清在线观看| 国产精品一区二区三区四区免费观看 | 午夜a级毛片| 成人三级做爰电影| 亚洲美女视频黄频| 成人18禁高潮啪啪吃奶动态图| 国产精品免费一区二区三区在线| 人妻丰满熟妇av一区二区三区| 亚洲av成人av| 久久久久久久久中文| 琪琪午夜伦伦电影理论片6080| 精品久久久久久久人妻蜜臀av| 久久香蕉国产精品| 中文资源天堂在线| 国产黄色小视频在线观看| 日韩国内少妇激情av| 久久精品国产亚洲av高清一级| 日韩国内少妇激情av| 欧美成人性av电影在线观看| 午夜激情av网站| 久久精品91无色码中文字幕| 动漫黄色视频在线观看| 一级作爱视频免费观看| 国产精品久久久久久亚洲av鲁大| 成年免费大片在线观看| 午夜福利欧美成人| 一本精品99久久精品77| 天堂√8在线中文| 国产激情偷乱视频一区二区| 欧美性猛交╳xxx乱大交人| 亚洲专区字幕在线| 欧美zozozo另类| 国产精品1区2区在线观看.| www.www免费av| 精品国产亚洲在线| bbb黄色大片| 男人舔奶头视频| 国产97色在线日韩免费| 国产精品香港三级国产av潘金莲| 欧美大码av| 亚洲熟妇中文字幕五十中出| 国产1区2区3区精品| 琪琪午夜伦伦电影理论片6080| 国产亚洲精品综合一区在线观看 | 亚洲熟女毛片儿| 成年人黄色毛片网站| 午夜福利高清视频| 欧美黄色淫秽网站| 男女下面进入的视频免费午夜| 成人18禁在线播放| 美女高潮喷水抽搐中文字幕| 波多野结衣巨乳人妻| 国产精品av久久久久免费| 日本熟妇午夜| www.www免费av| 身体一侧抽搐| 免费在线观看亚洲国产| 一a级毛片在线观看| 国产片内射在线| 五月玫瑰六月丁香| 精品久久久久久久人妻蜜臀av| 国产精品av久久久久免费| 757午夜福利合集在线观看| 老鸭窝网址在线观看| 日本成人三级电影网站| 99精品久久久久人妻精品| www.自偷自拍.com| 色综合欧美亚洲国产小说| 国产免费av片在线观看野外av| 亚洲人成网站高清观看| a级毛片a级免费在线| 老司机深夜福利视频在线观看| 久久亚洲真实| 人妻夜夜爽99麻豆av| 久久久精品国产亚洲av高清涩受| 欧美日本亚洲视频在线播放| 国产在线观看jvid| 美女扒开内裤让男人捅视频| 亚洲,欧美精品.| 亚洲 欧美一区二区三区| 亚洲av电影在线进入| 欧美性长视频在线观看| 这个男人来自地球电影免费观看| 两个人的视频大全免费| 97超级碰碰碰精品色视频在线观看| 97人妻精品一区二区三区麻豆| 午夜成年电影在线免费观看| 天堂√8在线中文| 国产亚洲精品av在线| 国产成人精品久久二区二区91| 国产视频一区二区在线看| 国产真实乱freesex| 男女午夜视频在线观看| 欧洲精品卡2卡3卡4卡5卡区| 久久精品影院6| 亚洲午夜理论影院| 国产精品久久久久久人妻精品电影| 国产精品久久久久久久电影 | 免费人成视频x8x8入口观看| 中文亚洲av片在线观看爽| 亚洲欧美日韩高清专用| 天天躁夜夜躁狠狠躁躁| 成年女人毛片免费观看观看9| 久久亚洲精品不卡| 一级毛片女人18水好多| 精品国产乱码久久久久久男人| 国产精品一区二区精品视频观看| 一级作爱视频免费观看| 亚洲国产精品sss在线观看| 久久久久精品国产欧美久久久| 久久久水蜜桃国产精品网| 欧美日韩国产亚洲二区| 1024视频免费在线观看| 午夜福利高清视频| 色综合欧美亚洲国产小说| 免费在线观看完整版高清| 色综合婷婷激情| 亚洲黑人精品在线| 不卡一级毛片| 少妇的丰满在线观看| 免费电影在线观看免费观看| 9191精品国产免费久久| 久久天躁狠狠躁夜夜2o2o| 国产精品综合久久久久久久免费| 国产单亲对白刺激| 免费av毛片视频| 真人做人爱边吃奶动态| 久久久久久久精品吃奶| 亚洲成人久久性| 欧美3d第一页| 在线永久观看黄色视频| 看片在线看免费视频| 国产成人精品久久二区二区91| 妹子高潮喷水视频| 国产亚洲欧美98| 他把我摸到了高潮在线观看| 午夜日韩欧美国产| 中国美女看黄片| 亚洲专区中文字幕在线| 欧美另类亚洲清纯唯美| 黄色视频不卡| 欧美不卡视频在线免费观看 | 日韩成人在线观看一区二区三区| 久久人妻av系列| 黄色视频,在线免费观看| 麻豆成人av在线观看| 中文字幕精品亚洲无线码一区| 亚洲精品久久成人aⅴ小说| 精品国产乱子伦一区二区三区| 国产亚洲精品久久久久5区| 国产精品久久久久久久电影 | 丝袜美腿诱惑在线| 小说图片视频综合网站| aaaaa片日本免费| 婷婷六月久久综合丁香| 丁香六月欧美| 亚洲一码二码三码区别大吗| 少妇粗大呻吟视频| 99热这里只有精品一区 | 欧美成人性av电影在线观看| 人妻夜夜爽99麻豆av| 亚洲欧美精品综合久久99| 久久久久久久久久黄片| 女人爽到高潮嗷嗷叫在线视频| 日韩高清综合在线| 亚洲美女黄片视频| 国产成人av激情在线播放| 午夜亚洲福利在线播放| 欧美日韩黄片免| 99久久综合精品五月天人人| 长腿黑丝高跟| 久久久久国产精品人妻aⅴ院| 久9热在线精品视频| 99re在线观看精品视频| 国产av麻豆久久久久久久| 99久久无色码亚洲精品果冻| 好男人电影高清在线观看| www.精华液| 90打野战视频偷拍视频| 一边摸一边做爽爽视频免费| 欧美3d第一页| 一二三四社区在线视频社区8| www日本在线高清视频| 成人av在线播放网站| 午夜福利欧美成人| 精品久久久久久久人妻蜜臀av| a级毛片在线看网站| 国产精品久久久久久亚洲av鲁大| 午夜久久久久精精品| 久久人妻福利社区极品人妻图片| 欧美日韩黄片免| 成人三级做爰电影| 久久精品综合一区二区三区| 又紧又爽又黄一区二区| 久久久久久亚洲精品国产蜜桃av| 国产精品一区二区三区四区久久| 色老头精品视频在线观看| 国产精品美女特级片免费视频播放器 | 亚洲熟妇中文字幕五十中出| 又黄又爽又免费观看的视频| 亚洲人与动物交配视频| 国产精品一及| 黑人操中国人逼视频| 一本久久中文字幕| 搡老岳熟女国产| 可以在线观看毛片的网站| 亚洲五月天丁香| 国产三级在线视频| 精品久久久久久久久久免费视频| 成人午夜高清在线视频| 日本免费一区二区三区高清不卡| 国产片内射在线| 在线观看美女被高潮喷水网站 | 午夜免费激情av| 久久国产乱子伦精品免费另类| 啦啦啦观看免费观看视频高清| 亚洲av熟女| 亚洲av成人不卡在线观看播放网| 91大片在线观看| 欧美成人性av电影在线观看| 国内少妇人妻偷人精品xxx网站 | 激情在线观看视频在线高清| 一进一出抽搐动态| 丰满人妻一区二区三区视频av | 99热这里只有精品一区 | 1024视频免费在线观看| 久久国产乱子伦精品免费另类| 欧美最黄视频在线播放免费| 中亚洲国语对白在线视频| 色在线成人网| 丁香六月欧美| 男人的好看免费观看在线视频 | 看免费av毛片| 久久精品91无色码中文字幕| 亚洲欧美日韩无卡精品| 天堂av国产一区二区熟女人妻 | 午夜激情av网站| xxxwww97欧美| 在线免费观看的www视频| 国内精品一区二区在线观看| 女警被强在线播放| 国产精品,欧美在线| 亚洲最大成人中文| 久久久精品国产亚洲av高清涩受| 欧美黑人欧美精品刺激| 国产黄片美女视频| 国产精品亚洲av一区麻豆|