• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法學(xué)研究的反智化批判

    2019-08-27 01:31:58劉艷紅
    東方法學(xué) 2019年5期

    劉艷紅

    內(nèi)容摘要:人工智能技術(shù)熱潮的再度興起,使得人工智能法學(xué)研究空前繁盛,但當(dāng)前研究出現(xiàn)了違反人類智力常識(shí)的反智化現(xiàn)象。概念附會(huì)現(xiàn)象嚴(yán)重,不少成果只是基于“AI+法律”的任意性組合,“泛人工智能化”研究正在產(chǎn)生大量學(xué)術(shù)泡沫;制造人工智能研究中的“假問題”或誤將司法適用問題當(dāng)作人工智能法學(xué)研究中的元問題,理論創(chuàng)新方向值得懷疑;將對(duì)策與科技問題當(dāng)作理論與學(xué)術(shù)問題,離開法教義學(xué)的基本立場(chǎng)與方法,使得人工智能的研究日益滑向不可知論。人工智能并未對(duì)法律基礎(chǔ)理論、法學(xué)基本教義提出挑戰(zhàn),受到挑戰(zhàn)的只是如何將傳統(tǒng)知識(shí)適用于新的場(chǎng)景。法學(xué)研究應(yīng)該避免盲目跟風(fēng),走出對(duì)人工智能體的崇拜,回歸學(xué)術(shù)研究的理性軌道。

    關(guān)鍵詞:人工智能法學(xué) 反智化 法教義學(xué)

    中國(guó)分類號(hào):DF05? 文獻(xiàn)標(biāo)識(shí)碼:A? 文章編號(hào):1674-4039-(2019)05-0119-126

    20世紀(jì)七八十年代,人們?cè)欢葘?duì)人工智能的研究充滿熱情,但隨著真正有用的AI法律程序未能面世,這種熱情被漫長(zhǎng)的挫敗感沖淡。而如今人工智能技術(shù)再次“引起了越來越多的興奮和焦慮……涉及人工智能的未來圖像在大眾媒體中日益流行”?!? 〕在這種氛圍的籠罩下,我國(guó)法學(xué)理論和實(shí)務(wù)界也對(duì)人工智能(機(jī)器人)保持著巨大的好奇,對(duì)法律引導(dǎo)人工智能發(fā)展的技藝充滿著強(qiáng)烈的自信。不可否認(rèn),為包括人工智能在內(nèi)的一切技術(shù)問題設(shè)計(jì)法律規(guī)則,是法律人不可推卸的時(shí)代使命,因而這種研究風(fēng)潮是“法學(xué)作為致用之學(xué)”的當(dāng)然表現(xiàn),一切“熱衷”似無(wú)可厚非。但也正因?yàn)榉▽W(xué)研究本應(yīng)具有觀照現(xiàn)實(shí)的特性,這要求我們時(shí)刻注意合理選擇參與前沿技術(shù)討論的現(xiàn)實(shí)契入點(diǎn),在正確理解人工智能技術(shù)應(yīng)用場(chǎng)景的前提下確定法學(xué)研究的問題意識(shí),避免盲目追求“時(shí)髦”的學(xué)術(shù)虛假繁榮。以刑法學(xué)為例,或許得益于國(guó)家《新一代人工智能發(fā)展規(guī)劃》的政策信號(hào),本領(lǐng)域內(nèi)的研究成果從2017年開始呈現(xiàn)爆炸式增長(zhǎng),“人工智能刑事責(zé)任論”等儼然成為最為耀眼的知識(shí)增長(zhǎng)點(diǎn)。面對(duì)席卷而來的人工智能法律問題的法學(xué)研究,面對(duì)“定分止?fàn)帯钡姆杀拘?,不得不讓人產(chǎn)生懷疑:法律學(xué)者們是否已經(jīng)找到了規(guī)制AI技術(shù)發(fā)展的理性方向?當(dāng)前的熱烈研究究竟能走多遠(yuǎn),它究竟只是“先一哄而上再一哄而散”還是能夠持續(xù)到強(qiáng)人工智能到來之日?空前興盛的人工智能法學(xué)是否積累了有助于學(xué)科發(fā)展的智識(shí),抑或僅僅是法學(xué)理論工作者們?yōu)榱俗粉櫉狳c(diǎn)并出于各自目的比如引用率高低等而亦步亦趨的“學(xué)術(shù)秀”?對(duì)此,筆者將審視當(dāng)下人工智能法學(xué)研究的格局及其問題,并在此基礎(chǔ)上就其發(fā)展進(jìn)路談幾點(diǎn)看法。

    一、人工智能法學(xué)研究中的概念附會(huì)

    當(dāng)前法學(xué)界存在無(wú)處不在的“人工智能+”,在人工智能的大招牌之下開啟了各個(gè)論域的話題研討新模式。究竟什么才是人工智能?學(xué)者們所言的人工智能只是借用了一個(gè)似是而非的流行語(yǔ)以吸引閱讀興趣,還是它確實(shí)挑戰(zhàn)了千百年形成的法律知識(shí)體系?通過觀察可以發(fā)現(xiàn),人工智能其實(shí)并沒有取得如此巨大的飛躍,一些所謂的“人工智能法學(xué)”研究題目?jī)H僅是在“順勢(shì)包裝、借殼上市”,這種“盛名之下,其實(shí)難副”的概念附會(huì)已經(jīng)吹起了不少學(xué)術(shù)泡沫。

    人類最初在制造計(jì)算機(jī)之時(shí)就已幻想能夠研發(fā)出會(huì)思考的機(jī)器,那時(shí)人們無(wú)法給予它一個(gè)特定的可理解的準(zhǔn)確稱謂,因而便將之命名為“Artificial Intelligence”,簡(jiǎn)稱AI,以表明其不同于人類自然智慧的人工智慧。迄今為之,科學(xué)家們也給它撰寫過不同的定義,甚至用各種思想實(shí)驗(yàn)如著名的圖靈測(cè)試、中文房間理論等驗(yàn)證這種人工智能存在與否。筆者不想詳細(xì)列舉這些定義,事實(shí)上關(guān)于計(jì)算機(jī)科學(xué)、哲學(xué)、法學(xué)等學(xué)科內(nèi)的很多基礎(chǔ)概念都沒有取得過一致的意見。或許如美國(guó)最高法院大法官斯圖爾特曾說的那樣,我們難以成功描述這些概念如無(wú)法定義什么是淫穢物品,但“當(dāng)看到它時(shí)我就知道了”?!? 〕然而,當(dāng)人們因自身的不求甚解而誤解研究對(duì)象時(shí),準(zhǔn)確提煉出相關(guān)概念的核心要素就顯得十分必要,畢竟不同定義之間還存在著相當(dāng)?shù)墓沧R(shí)。整體而言,人工智能概念核心要素自20世紀(jì)50年代產(chǎn)生以來就是恒定的,人們尚沒有超脫對(duì)AI的原始認(rèn)知——像人類一樣理性地思考和行動(dòng)。這并不是說人工智能系統(tǒng)的智力水平與人類持平,事實(shí)上人類在很多方面也早已大大超越了這個(gè)目標(biāo),而是涉及一些像人類一樣能夠“自主的選擇和決定:自我管理”?!白灾骰蜃灾危ㄔ醋韵ED語(yǔ)auto:自我,nomos:法律)與自動(dòng)化不同,自動(dòng)化是指由一臺(tái)機(jī)器不斷重復(fù)一個(gè)過程。自主則要求……AI可以作出自我的選擇,即便它在作決定時(shí)與人類有過互動(dòng)”。〔3 〕可以說,“機(jī)器是否具有自動(dòng)化”是一種外部信號(hào)反射式的事實(shí)判斷,而“機(jī)器是否具有自主性”則還涉及自然科學(xué)之外的關(guān)于機(jī)器是否具有自我意志和自我行動(dòng)能力的“(類)人性”判斷。有鑒于此,有學(xué)者認(rèn)為一個(gè)可被稱為“智能”的實(shí)體應(yīng)至少具有五個(gè)基本構(gòu)成屬性:①溝通交流能力,即能夠與人類或其他物種相互動(dòng),這并不單單代表著智商水平而是一種社會(huì)交際潛能;②內(nèi)部知識(shí),即對(duì)自身的認(rèn)知,它等于“自我意識(shí)”,一個(gè)有智慧的實(shí)體應(yīng)該知道自己的存在、自己以某種方式運(yùn)作、將自己融入現(xiàn)實(shí)等;③外部知識(shí),即關(guān)于外部世界和真正現(xiàn)實(shí)的數(shù)據(jù)收集分析能力,這是人類累積生活經(jīng)驗(yàn)的方式,也是人類學(xué)習(xí)的方式,如果把任何事件一次又一次地當(dāng)作全新的,那么就很難表現(xiàn)得像一個(gè)有智慧的實(shí)體;④目標(biāo)驅(qū)動(dòng)行為,這指的是一種意圖,它制定和執(zhí)行計(jì)劃來實(shí)現(xiàn)相關(guān)目的;⑤創(chuàng)造能力,即指找到新的理解或行為方式的能力,反復(fù)嘗試完全相同的行為并不是創(chuàng)造力的表現(xiàn)?!? 〕所以,真正的人工智能是極為復(fù)雜的,認(rèn)定條件也頗為苛刻,這些定義標(biāo)準(zhǔn)限制了概念上的泛人工智能化。

    反觀我國(guó)法學(xué)界,很多學(xué)者常常將人工智能要求的“自主性”與尋常的“機(jī)械自動(dòng)化”相互混淆。例如,致力于人工智能法學(xué)研究的學(xué)者大多以“機(jī)器人傷人事件”等為起點(diǎn),比如2015年德國(guó)大眾汽車制造車間內(nèi)發(fā)生的所謂“首起機(jī)器人殺人案”。但是,本案中產(chǎn)生故障的機(jī)器人只是普通機(jī)械設(shè)施,它根本沒有獨(dú)立思考的能力,它之所以會(huì)殺死這名工人,是因?yàn)橛|發(fā)了該設(shè)備的自動(dòng)處理程序;它只是自動(dòng)化的普通機(jī)器,遠(yuǎn)沒有達(dá)到所謂人工智能的水平。與無(wú)處不在的生產(chǎn)責(zé)任事故相比,該事件也沒有本質(zhì)不同,無(wú)非該設(shè)備的自動(dòng)化系統(tǒng)更為精密而已。如果說這也能夠成為人工智能法學(xué)研究的問題來源,那么可能早在工業(yè)革命推廣開來之時(shí)就該去研究“人工智能”了,或許農(nóng)業(yè)社會(huì)耕田的拖拉機(jī)傷人也該劃入人工智能法律問題的話題范圍了。生活經(jīng)驗(yàn)常識(shí)告訴我們,任何機(jī)器都會(huì)存在風(fēng)險(xiǎn),即便一把毫無(wú)自動(dòng)性的菜刀在人類不當(dāng)使用時(shí)也會(huì)劃傷手指。以所謂的“機(jī)器人殺人案”導(dǎo)出人工智能的發(fā)展風(fēng)險(xiǎn),進(jìn)而得出應(yīng)追究人工智能之物法律責(zé)任的觀點(diǎn),〔5 〕是對(duì)人工智能根本性的誤解和非常低級(jí)性的錯(cuò)誤。那些討論對(duì)機(jī)器人追究刑事責(zé)任的學(xué)者可能忘記了刑罰的功能,“在判處刑罰的情況下,法官對(duì)再犯罪可能性的預(yù)測(cè)不可能是絕對(duì)準(zhǔn)確的,犯罪人的行為態(tài)度、規(guī)范意識(shí)等也是不斷變化的,因此,刑法特別規(guī)定了減刑制度與假釋制度”?!? 〕針對(duì)機(jī)器人,這些刑罰制度顯然沒有任何意義,刑罰的報(bào)應(yīng)或者預(yù)防目的也都無(wú)從實(shí)現(xiàn)。

    再如,銀行的自動(dòng)取款機(jī)是為了節(jié)省人工成本而發(fā)明的旨在引導(dǎo)人們從銀行自助取款的機(jī)器,雖然它也被叫作“自動(dòng)柜員機(jī)”,但它只是銀行人類柜員的一種替代設(shè)施,它只有自動(dòng)化而沒有自主性。但是,有學(xué)者在人工智能中討論利用拾得或盜竊他人銀行卡在ATM機(jī)上取款等案件的處理,將之歸入“人工智能作為侵財(cái)對(duì)象的侵財(cái)犯罪”,并以此提出了“人工智能時(shí)代侵財(cái)犯罪刑法適用的困境”問題。事實(shí)是,中國(guó)第一臺(tái)ATM機(jī)早在1987年就已經(jīng)啟用,它與人工智能之間沒有絲毫關(guān)系。“通過ATM機(jī)實(shí)施侵財(cái)犯罪”“機(jī)器能否被騙”等話題根本不用借助于所謂的人工智能就已被討論過了,當(dāng)法學(xué)重要期刊上的論文將ATM機(jī)、手機(jī)銀行、支付寶第三方支付平臺(tái)等統(tǒng)統(tǒng)納入人工智能范疇時(shí),恰恰表明概念附會(huì)的嚴(yán)重性已經(jīng)到了讓人失去底線的地步。果真如此,我們這個(gè)人口大國(guó)的人工智能普及率早已世界遙遙領(lǐng)先。ATM機(jī)、手機(jī)銀行、支付寶等可能會(huì)出現(xiàn)系統(tǒng)故障,但它們并沒有社會(huì)溝通能力、創(chuàng)造能力,它們也沒有自主性;我們對(duì)它們的應(yīng)用再熟悉不過,常識(shí)告訴我們,這種研究正是泛人工智能化的突出表現(xiàn)。

    綜上可見,我國(guó)人工智能法學(xué)研究中存在著明顯的概念附會(huì),將不屬于人工智能的研究對(duì)象強(qiáng)行貼上人工智能的標(biāo)簽,相關(guān)研究演變?yōu)椤癆I+法律”的任意性組合,不少研究者只是打著人工智能的旗號(hào)攫取話語(yǔ)權(quán)、提升自我身價(jià),法學(xué)家們一夜之間變成了人工智能專家,仿佛讓自然科學(xué)家都望塵莫及。這種“泛人工智能化”不是真正的學(xué)術(shù)研究,而是制造學(xué)術(shù)泡沫。

    二、人工智能法學(xué)研究中的偽問題替代真問題

    “問題意識(shí)”是一個(gè)常談常新的話題,提出正確的問題是任何研究過程的開端,如果沒有針對(duì)真實(shí)的問題進(jìn)行討論,即使論述再精妙、方法再多樣、觀點(diǎn)再前衛(wèi)、著述再等身,都只是徒有一身浮華的外表,根本不具有任何實(shí)際意義。當(dāng)前法學(xué)研究中,應(yīng)特別注意甄別“偽問題”。尤其在“亂花漸欲迷人眼”的人工智能領(lǐng)域,問題意識(shí)更具有欺瞞性,一些法學(xué)家似乎總能夠發(fā)現(xiàn)連科學(xué)家都難以察覺的“宇宙級(jí)難題”,可靜心觀察就會(huì)發(fā)現(xiàn)不少問題的討論意義僅僅在于占領(lǐng)了更多期刊版面而已,所謂的理論創(chuàng)新可能只是一場(chǎng)空歡喜。

    其一,不斷制造、跟風(fēng)、放大“假問題”,導(dǎo)致法學(xué)研究誤以人工智能發(fā)展中的夸張、炒作、娛樂為前提。我國(guó)人工智能法學(xué)研究主要始于學(xué)者們對(duì)人工智能技術(shù)的各種憂患意識(shí):人工智能的發(fā)展前景不可限量,必然會(huì)出現(xiàn)具有自我意志的(超)強(qiáng)人工智能,人工智能甚至可能會(huì)取代人類、機(jī)器算法會(huì)取代人類法律;人工智能引發(fā)的風(fēng)險(xiǎn)足以產(chǎn)生毀滅性打擊,因而主張法律甚至刑法應(yīng)積極應(yīng)對(duì)和規(guī)制人工智能的發(fā)展,等等。這種“居安思危”“未雨綢繆”的精神確實(shí)讓人感佩,可是這些憂慮只是依靠無(wú)數(shù)假想拼湊起來的幻影,只是在用別人的“噱頭”嚇唬自己。

    例如,世界上第一個(gè)獲得公民資格的表情機(jī)器人索菲亞,在2017年10月被沙特阿拉伯授予公民身份之后,尤其它曾在與設(shè)計(jì)者漢森的對(duì)話中冒出一句“我想毀滅人類”,法學(xué)家們開始變得躁動(dòng)不安。不少學(xué)者將索菲亞的公民身份作為一種AI技術(shù)發(fā)展的國(guó)家制度回應(yīng),視之為AI挑戰(zhàn)現(xiàn)行法律體系的范例以及檢驗(yàn)?zāi)硞€(gè)法律人格理論是否合格的試金石,認(rèn)為法律若不承認(rèn)機(jī)器人的法律主體地位就不能滿足這種社會(huì)現(xiàn)實(shí)。然而,索菲亞早已遭到包括人工智能科學(xué)家在內(nèi)的各方觀察者的極大懷疑:“索菲亞之于AI,就像變戲法的之于真正的魔法,我們把它稱作‘AI崇拜‘假冒AI或者‘遠(yuǎn)程操控AI可能比較好?!?〔7 〕所謂具有公民身份的索菲亞不過是一個(gè)公關(guān)噱頭而已,而不是人性、尊嚴(yán)或人格的展現(xiàn)?!啊詫傩缘乃鞣苼喚烤鼓芟碛心男?quán)利,還真不好說。因?yàn)樵谑掳l(fā)地點(diǎn)沙特,女性連單獨(dú)駕駛權(quán)都未得到法律認(rèn)可?!?〔8 〕對(duì)于這樣一個(gè)女性只配擁有有限權(quán)利的國(guó)家來說,索菲亞更像是一個(gè)營(yíng)銷玩物。這種以國(guó)家權(quán)力為支撐的機(jī)器人營(yíng)銷策略淡化了沙特在婦女權(quán)利方面的不光彩記錄,其實(shí)索菲亞主要的新穎性在于身體和面部表情,而不是它的會(huì)話方式、主體認(rèn)知或智能程度,“當(dāng)以真實(shí)的人類互動(dòng)標(biāo)準(zhǔn)來衡量時(shí),它便倉(cāng)皇失措、‘智商不在線”。〔9 〕其實(shí),類似于索菲亞的人形機(jī)器人在世界范圍內(nèi)還有很多,它們之所以不被人們津津樂道,是因?yàn)樗鼈兊陌b實(shí)力不及索菲亞?!?0 〕AI技術(shù)的擁護(hù)者李開復(fù)曾公開評(píng)論,索菲亞“絲毫沒有人性、人的理解、愛心、創(chuàng)造力。授予這樣一臺(tái)只會(huì)模式識(shí)別的機(jī)器‘公民,是對(duì)人類最大的羞辱和誤導(dǎo)。一個(gè)國(guó)家用這種嘩眾取寵的方式來推進(jìn)人工智能科研,只會(huì)適得其反”?!?1 〕既然人們對(duì)于索菲亞之于人工智能發(fā)展的意義遠(yuǎn)沒有形成共識(shí),我們更沒有必要放大索菲亞等類似機(jī)器人對(duì)現(xiàn)有法律體系的影響,索菲亞的所謂“公民身份”是國(guó)家、企業(yè)、新聞媒體等各方利益的聯(lián)合演出,它既與沙特本國(guó)的法制傳統(tǒng)相齟齬,也受到了AI專業(yè)科學(xué)家的批評(píng)。因此,法學(xué)家完全沒有必要從索菲亞那里獲得什么問題意識(shí),也不必為它的公民身份感到欣喜或恐慌,由索菲亞引出的人工智能法律人格問題是個(gè)徹底的偽問題,沒有任何法制建構(gòu)和法學(xué)研究上的借鑒性;那些經(jīng)由公民機(jī)器人的誕生而產(chǎn)生的將索菲亞“修壞了會(huì)被追究法律責(zé)任嗎?把‘她拆解其不等同于謀殺?” 〔12 〕等問題,正是偽人工智能法學(xué)問題的典型代表。

    其二,將司法適用/使用問題作為人工智能法學(xué)的“元問題”,“AI樂觀主義+法律工具主義”盛行,從而不甄別真風(fēng)險(xiǎn)真挑戰(zhàn)、陷于表象式研究氛圍。當(dāng)前的研究主要集中于兩個(gè)方面:一是推進(jìn)司法人工智能以提升“智慧司法”乃至“智慧法治”,克服人類裁判思維的片面與恣意;二是探究人工智能對(duì)傳統(tǒng)法律權(quán)利義務(wù)的挑戰(zhàn),最終落腳于人工智能的司法處遇如“人工智能創(chuàng)生成內(nèi)容”的著作權(quán)保護(hù)、自動(dòng)駕駛致人損傷的刑事責(zé)任等情形。如果將研究對(duì)象限定在弱人工智能,則不僅AI的作用有限,而且它對(duì)法律體系的挑戰(zhàn)也十分微弱,以人類為中心的現(xiàn)有法制系統(tǒng)仍具有頑強(qiáng)的適應(yīng)力;如果將研究對(duì)象拓展至強(qiáng)人工智能,則不僅完全跨越了時(shí)代,而且忽視了一系列尚未深入討論的前提性問題。

    如前所述,當(dāng)前的“司法人工智能”只是提高司法工作效率的便利工具,如語(yǔ)音輸入取代書記員電腦打字記錄、裁判文書上網(wǎng)以及自動(dòng)識(shí)別搜索等,這種變化與書記員告別古老的手寫記錄沒有實(shí)質(zhì)區(qū)別,其他應(yīng)用如海量判例篩選、輔助量刑規(guī)范化、電子取證技術(shù) 〔13 〕等至多屬于增強(qiáng)同案同判等人類司法智慧的AI。當(dāng)我們質(zhì)疑人類恣意時(shí),也更有理由懷疑這些系統(tǒng)研發(fā)者會(huì)借著算法黑箱寫入法學(xué)家的偏見、科學(xué)家的武斷、企業(yè)的經(jīng)濟(jì)利益等,它們?nèi)詿o(wú)法擺脫商業(yè)、政治、強(qiáng)勢(shì)價(jià)值觀等力量操控,這種“算法歧視”已經(jīng)在多種領(lǐng)域出現(xiàn),使得人們對(duì)這種由于尖端技術(shù)導(dǎo)致的不公正性的救濟(jì)難度將直線上升。因此,當(dāng)前司法人工智能實(shí)際仍停留在“為何要用”的原始階段,當(dāng)類似元問題沒有得到充分討論而徑直將其樂觀地投入司法使用,那么所謂的智慧司法將會(huì)引出更多棘手的法治難題,對(duì)于“法律AI”大可不必亦不能急于求成。

    再如,著作權(quán)法保護(hù)的客體是“作品”即文學(xué)、藝術(shù)或科學(xué)領(lǐng)域內(nèi)的獨(dú)創(chuàng)性表達(dá),即“只有具備相應(yīng)獨(dú)創(chuàng)性的智力創(chuàng)作成果才可成為著作權(quán)客體,受著作權(quán)法保護(hù)”?!?4 〕“人工智能生成內(nèi)容”的生產(chǎn)過程并不屬于創(chuàng)作、不符合獨(dú)創(chuàng)性要求,不是著作權(quán)法中的作品,所謂“人工智能生產(chǎn)內(nèi)容”的著作權(quán)保護(hù)就成為一個(gè)偽問題,不能以此否認(rèn)現(xiàn)有法律的應(yīng)對(duì)能力?!白髌贰痹从讵?dú)立的、個(gè)性化的思想創(chuàng)作,是某種情感、審美的表達(dá),計(jì)算機(jī)軟件可能具有越超人類大腦的某些組合能力,但最關(guān)鍵的是它缺少人類之間的共情心、同理心而完全根據(jù)算法、模板機(jī)械生成結(jié)果,沒有發(fā)揮智力創(chuàng)作的空間。比如機(jī)器所寫的詩(shī)只是利用了內(nèi)部詞庫(kù)和一些文字搭配技巧,它根本無(wú)法理解愛情、童趣、寂寞、悲憫等詩(shī)歌創(chuàng)作內(nèi)在思想,甚至它呈現(xiàn)出來那堆文字(在其內(nèi)部是一堆數(shù)字代碼)連詩(shī)歌的皮囊都沒有,也注定不會(huì)得到文化上的流傳。人工智能不能改變著作權(quán)法中“作品”的構(gòu)成要件,對(duì)這種毫無(wú)創(chuàng)造情境、毫無(wú)智力活動(dòng)的“生成內(nèi)容”進(jìn)行著作權(quán)保護(hù)毫無(wú)必要,更不能承認(rèn)機(jī)器的著作權(quán)主體資格,否則人工智能將率先在藝術(shù)創(chuàng)作上嚴(yán)重沖擊人類文明理念,這才是人們最需要擔(dān)憂的。事實(shí)上,即便當(dāng)下熱議的法律大數(shù)據(jù)與人工智能在司法場(chǎng)景的應(yīng)用,也還只是停留在宏觀層面概述,根本還未深化到具體的細(xì)分領(lǐng)域?!?5 〕所以,與其說“新技術(shù)、新風(fēng)險(xiǎn)對(duì)司法適用提出新挑戰(zhàn)”,毋寧說是不假思索的命題套路。法學(xué)研究應(yīng)該走出對(duì)AI的“貨物崇拜”,〔16 〕回歸學(xué)術(shù)研究的理性軌道,研究法律領(lǐng)域的真問題。

    三、人工智能法學(xué)研究中的對(duì)策論代替教義論

    人工智能只是無(wú)數(shù)新技術(shù)發(fā)展背景下的某一個(gè)領(lǐng)域,法教義卻是法學(xué)研究不可拋棄的立場(chǎng)和方法,當(dāng)下對(duì)人工智能法律問題的研究停留在對(duì)策論,離開法教義學(xué)的精耕細(xì)作和理論共識(shí)探討必將使人工智能法律問題研究難以沉淀。

    每個(gè)部門法都存在問題性研究和體系性研究,前者以解決個(gè)別問題為導(dǎo)向,后者則以各種原則、規(guī)則的體系推進(jìn)為導(dǎo)向,兩者在整體知識(shí)系統(tǒng)內(nèi)相輔相成,共同保證法律制度對(duì)實(shí)踐問題的適應(yīng)性和穩(wěn)定性。如前所述,人工智能法學(xué)研究興起的原因是研究者認(rèn)為法律對(duì)AI問題的應(yīng)對(duì)能力不足,因而這首先是問題性研究;同時(shí),研究者提供的解決方案如賦予人工智能法律主體地位等均是對(duì)現(xiàn)有體系的突破,因而也就天然犧牲了體系性。概言之,人工智能法學(xué)研究的現(xiàn)狀是問題性研究林立、體系性研究闕如。雖然法學(xué)不能像自然科學(xué)那樣建立起嚴(yán)密的公式體系,但法教義如同公式一樣,提供了邏輯關(guān)系建立起來的知識(shí)體系,保證了各部分知識(shí)之間的兼容性,按照這些公式體系來完成判斷可以節(jié)省大量審查精力?!?7 〕體系性研究的這種優(yōu)勢(shì)蕩然無(wú)存,會(huì)導(dǎo)致我國(guó)法學(xué)研究轉(zhuǎn)型中的所謂知識(shí)創(chuàng)新實(shí)際上走向了“回頭路”:對(duì)策論優(yōu)先。法學(xué)家的對(duì)策論與國(guó)家制度層面的政策論共用一套邏輯,它特別看重的是法律工具主義,當(dāng)失去了體系性研究之后,這種對(duì)策論容易違背原理、拋棄原則、顛覆法秩序,產(chǎn)生的不是工具理性而是“工具不理性”。

    人工智能法學(xué)研究中對(duì)策論的極端表現(xiàn)就是主張賦予人工智能法律人格,甚至人工智能可以作為獨(dú)立的犯罪主體存在,這是一種“以新(立法)制新(問題)”的路徑,往往僅僅是就事論事、毫無(wú)體系。例如,權(quán)利義務(wù)能力是定義法律主體的唯一標(biāo)準(zhǔn),但人工智能在權(quán)利義務(wù)中根本不可能實(shí)現(xiàn)統(tǒng)一性原則。即便人工智能享有了著作權(quán)等呼聲較高的權(quán)利,但它當(dāng)其研發(fā)者、使用者將AI創(chuàng)作物據(jù)為己有時(shí),AI是否能夠就發(fā)表權(quán)、署名權(quán)的救濟(jì)獨(dú)立提起民事訴訟?除此之外,它還能擁有哪些權(quán)利?智能機(jī)器人有無(wú)數(shù)個(gè)種類,程序也極為復(fù)雜,如何判斷某些AI具備而某些不具備權(quán)利能力?研發(fā)者、使用者為自身之目的對(duì)人工智能運(yùn)行程序進(jìn)行刪改時(shí),是否也要經(jīng)過AI的同意?他們對(duì)這些智能產(chǎn)品還能不能夠享有“物”權(quán)?這都是牽一發(fā)動(dòng)全身的問題。在義務(wù)能力上,當(dāng)AI致人損害而產(chǎn)生責(zé)任時(shí),它如何承擔(dān)賠償責(zé)任?法學(xué)家目前設(shè)想的方案是像機(jī)動(dòng)車強(qiáng)制保險(xiǎn)那樣為人工智能進(jìn)行投?;蛟O(shè)置某種基金,但這種責(zé)任仍然是人類的財(cái)產(chǎn)責(zé)任而不是AI的獨(dú)立責(zé)任。因此,“主張人工智能具有主體資格……不具有現(xiàn)實(shí)性意義”,〔18 〕人工智能達(dá)到權(quán)利義務(wù)相統(tǒng)一的法教義要求幾乎不可能,體系性思考的缺失只會(huì)顧此失彼、不可能拼湊出一個(gè)法律上的新主體。

    再如,斷言人工智能可以承擔(dān)刑事責(zé)任的觀點(diǎn)根本違背了人類制定刑法的目的理性。刑法教義學(xué)對(duì)刑罰的認(rèn)知是:“刑罰作為國(guó)家對(duì)犯罪行為的否定評(píng)價(jià)與對(duì)犯罪人的譴責(zé)的一種最嚴(yán)厲的形式,當(dāng)然地對(duì)犯罪人具有身體的、精神的、財(cái)產(chǎn)的剝奪性、限制性痛苦”。〔19 〕不少刑法學(xué)者對(duì)人工智能承擔(dān)刑罰責(zé)任念念不舍,可這種所謂的“刑罰”根本就不可能成為一種“痛苦”,不可能實(shí)現(xiàn)對(duì)AI犯罪的預(yù)防效果。首先,諸如刪除數(shù)據(jù)、修改程序、徹底銷毀等手段根本談不上任何“譴責(zé)性”,這些手段早已在當(dāng)今暢通無(wú)阻。電子產(chǎn)品售后服務(wù)中心對(duì)出售的產(chǎn)品進(jìn)行數(shù)據(jù)程序的刪減、替換、修正或者按照用戶意愿進(jìn)行置換、報(bào)廢是無(wú)比尋常的維修方案,這何曾需要以它們構(gòu)成犯罪主體為前提,這些維修手段的正當(dāng)性根據(jù)只在于技術(shù)有效性——以“能修好”為標(biāo)準(zhǔn)。人類對(duì)自由刑、死刑的痛苦感是來自天然的肉體和心理上的,機(jī)器人的痛苦感則來自于人的設(shè)計(jì)而非其自身,它沒有痛感;在這一點(diǎn)上AI連一只有觸覺的螞蟻都不如。因此,人類為AI設(shè)計(jì)的“刑罰”根本不具有任何刑罰的屬性。其次,正因?yàn)樾塘P屬于最嚴(yán)厲的制裁措施,人類更加注重法治國(guó)刑法的最后手段性、謙抑性、法益保護(hù)輔助性。〔20 〕除刑法之外還有道德規(guī)范、倫理規(guī)范以及其他前置法,如諸多風(fēng)化犯罪之所以受到質(zhì)疑正是因?yàn)橄嚓P(guān)行為屬于純粹道德或倫理調(diào)整范圍。法學(xué)家從來沒有考慮過人類是否能夠?yàn)闄C(jī)器人成功搭建起道德或倫理的規(guī)范體系,而只是簡(jiǎn)單粗暴地動(dòng)用刑罰,面對(duì)人工智能等高端技術(shù)時(shí)總是如此急不可耐;法學(xué)家似乎也沒有注意到,上述那些所謂的刑罰方式其實(shí)單純依靠官方或非官方的AI技術(shù)管理規(guī)范就能夠順利實(shí)現(xiàn),這些技術(shù)指南只需要針對(duì)AI研制者、使用者等人類主體即可??梢哉f,以上問題的很多部分根本就不是“對(duì)法律的挑戰(zhàn)”,〔21 〕人工智能并未對(duì)法律基礎(chǔ)理論、基本法學(xué)教義提出挑戰(zhàn),受到挑戰(zhàn)的只是如何將傳統(tǒng)知識(shí)適用于新的場(chǎng)景,如技術(shù)的發(fā)展如何影響人類自身的注意義務(wù)等。

    迄今為止,人們沒有放棄過對(duì)法律風(fēng)險(xiǎn)預(yù)防功能等問題的迷戀,很多措施如刑罰前置化、抽象危險(xiǎn)犯、行政犯的增設(shè)等或許還能被理解,畢竟它們針對(duì)的都是人類行為,至少這種立法客觀上會(huì)引起一些自然人或單位的心理威懾。〔22 〕但若將法律的預(yù)防功能指向不知何年何月才會(huì)出現(xiàn)的“假想主體”,則根本錯(cuò)解了預(yù)防主義,一如英明睿智的秦皇漢武也不可能以“展望未來”的姿態(tài)為醉酒駕駛機(jī)動(dòng)車的立法浪費(fèi)筆墨,這與他們的想象力無(wú)關(guān)而是由于這一時(shí)代根本不存在這種“定分止?fàn)帯钡男枨?。更值得指出的是,很多法律人自以為富有遠(yuǎn)見卓識(shí)、想象力豐富,可是他們是否想過:強(qiáng)人工智能的整體智慧高于人類且又擁有自主意識(shí)、行動(dòng)自如,那么這種比人類高一等級(jí)的物種屆時(shí)還會(huì)接受今日法學(xué)家的方案嗎?縱然今日設(shè)計(jì)了無(wú)比完美的框架,可是那時(shí)人類將失去框定人工智能的資質(zhì),那時(shí)反倒是“人工智能在思考如何為人類立法”,所以,“冥想式的法學(xué)研究”里充滿著神奇的悖論,人工智能法學(xué)的愿景可能是一場(chǎng)空。

    結(jié)? 語(yǔ)

    法學(xué)不是玄學(xué)、不是科幻主義,也容不得太多不切實(shí)際的浪漫情結(jié)。如果說“我們即將迎來人工智能時(shí)代”、自主思考的強(qiáng)人工智能就在“明天”,那么我們離這個(gè)“明天”究竟有多近?連科學(xué)家都不知道這個(gè)“奇點(diǎn)”何時(shí)來臨,法學(xué)家又具有何種特異功能參透AI的未來禪機(jī)?對(duì)人工智能相關(guān)事務(wù)的法律規(guī)制尚需要我們積累更多的生活樣本,創(chuàng)建一些只適用于遙遠(yuǎn)未來的理論、制定一些只沉睡在法典里的條文將比當(dāng)前的“象征性立法” 〔23 〕更加浪費(fèi)資源,因?yàn)檫@種“立而不用”是名副其實(shí)的“空談”。研究者總是相信AI技術(shù)的強(qiáng)大遠(yuǎn)非常人想象,那么是否有朝一日人類也會(huì)發(fā)現(xiàn)智力超群的外星人?或者基因技術(shù)也會(huì)讓科幻電影里的鋼鐵俠變成能獨(dú)立思考、會(huì)說話的真正人類?如果法學(xué)家總是秉著“寧可信其有”“未雨要綢繆”的態(tài)度——反正也沒什么害處,那么我們現(xiàn)在是否也該為外星人、為鋼鐵俠去制定屬于它們的規(guī)則?如果法學(xué)家連如何將違法行為歸責(zé)為個(gè)人的問題都沒有參透,卻對(duì)人工智能是否擁有主題資格的問題喋喋不休,這不是在浪費(fèi)學(xué)術(shù)資源又是什么?法律人若接連不斷地隨著人工智能等新潮科技一哄即上,那么他們也將隨著自然科學(xué)的挫敗或低落一哄而散,或許也將像三十年前那批AI研究先驅(qū)者一樣只愿承認(rèn)自己是“計(jì)算機(jī)(法學(xué))專家”而對(duì)“人工智能(法學(xué))專家”的頭銜避之不及。當(dāng)以異于常人的想象力從事法學(xué)研究時(shí),研究者的判斷力也會(huì)一并“異于常人”:概念附會(huì)、偽問題替代真問題、政策論替代教義論等一系列現(xiàn)象表明,一貫理性的法律人也會(huì)丟掉人類智力本該堅(jiān)守的常識(shí),人工智能法學(xué)研究中的如此反智化現(xiàn)象,令人深思并需要警醒。

    伦精品一区二区三区| 中文字幕av成人在线电影| 国产黄片美女视频| 国产亚洲精品av在线| 久久人妻av系列| 欧美一级a爱片免费观看看| 欧美日本视频| 少妇高潮的动态图| 男女啪啪激烈高潮av片| 久久国产乱子免费精品| 亚洲av美国av| 欧美性猛交╳xxx乱大交人| 久久午夜福利片| 秋霞在线观看毛片| 欧美另类亚洲清纯唯美| 国产av一区在线观看免费| 午夜精品一区二区三区免费看| 欧美一级a爱片免费观看看| 麻豆一二三区av精品| 亚洲国产日韩欧美精品在线观看| 欧美日本视频| 免费av观看视频| 精品少妇黑人巨大在线播放 | 黄色配什么色好看| 一a级毛片在线观看| 一个人免费在线观看电影| 99热全是精品| 欧美+日韩+精品| 午夜福利在线在线| 九九热线精品视视频播放| 1024手机看黄色片| 国产成人a区在线观看| 小说图片视频综合网站| 99热只有精品国产| 亚洲国产精品成人久久小说 | 国产成人精品久久久久久| 我的女老师完整版在线观看| 久久午夜亚洲精品久久| 亚洲丝袜综合中文字幕| 亚洲真实伦在线观看| 综合色av麻豆| 免费看av在线观看网站| 色综合色国产| 一区福利在线观看| 亚洲欧美清纯卡通| 黄色欧美视频在线观看| 日韩精品青青久久久久久| 国产一区二区激情短视频| 简卡轻食公司| 欧美高清成人免费视频www| 天天躁夜夜躁狠狠久久av| 国产av不卡久久| 午夜精品在线福利| 国产在线男女| 国产一区二区三区av在线 | 中出人妻视频一区二区| 国产黄片美女视频| 亚洲18禁久久av| 99国产精品一区二区蜜桃av| 一卡2卡三卡四卡精品乱码亚洲| 伊人久久精品亚洲午夜| 精品一区二区免费观看| 国内精品宾馆在线| 啦啦啦韩国在线观看视频| 在线天堂最新版资源| 亚洲综合色惰| 欧美色视频一区免费| 精品国内亚洲2022精品成人| 亚洲精品一区av在线观看| 18禁在线播放成人免费| 欧美中文日本在线观看视频| 少妇熟女aⅴ在线视频| 久久国产乱子免费精品| 午夜老司机福利剧场| 99久久成人亚洲精品观看| 亚洲精品一卡2卡三卡4卡5卡| 菩萨蛮人人尽说江南好唐韦庄 | 亚洲精品日韩在线中文字幕 | 欧美日韩精品成人综合77777| 人人妻,人人澡人人爽秒播| 日韩欧美精品v在线| 国产精品av视频在线免费观看| 国产精品爽爽va在线观看网站| 99热6这里只有精品| 在线国产一区二区在线| 精华霜和精华液先用哪个| av在线播放精品| 人妻久久中文字幕网| 三级经典国产精品| 亚洲国产欧洲综合997久久,| 日韩 亚洲 欧美在线| 国产在线男女| 一a级毛片在线观看| 久久午夜福利片| 国产色爽女视频免费观看| 亚洲中文字幕一区二区三区有码在线看| 亚洲av成人av| 最新在线观看一区二区三区| av福利片在线观看| 国产一区二区激情短视频| 韩国av在线不卡| 欧美绝顶高潮抽搐喷水| 日韩欧美一区二区三区在线观看| av女优亚洲男人天堂| 亚洲中文日韩欧美视频| 一a级毛片在线观看| 一边摸一边抽搐一进一小说| 少妇的逼水好多| 国内少妇人妻偷人精品xxx网站| 丰满乱子伦码专区| 晚上一个人看的免费电影| 国产白丝娇喘喷水9色精品| 看非洲黑人一级黄片| 久久久精品欧美日韩精品| 国产亚洲av嫩草精品影院| 亚洲不卡免费看| 国产成人freesex在线 | 成人av在线播放网站| 真实男女啪啪啪动态图| 变态另类成人亚洲欧美熟女| 日韩av不卡免费在线播放| 色吧在线观看| 一级毛片久久久久久久久女| 一级毛片我不卡| 亚洲国产精品成人久久小说 | 国产av一区在线观看免费| 亚洲最大成人中文| 国产精品久久久久久亚洲av鲁大| 日韩av在线大香蕉| 国产探花在线观看一区二区| 蜜臀久久99精品久久宅男| 亚洲av一区综合| 欧美极品一区二区三区四区| 国产高清视频在线播放一区| 有码 亚洲区| 国产日本99.免费观看| 精品少妇黑人巨大在线播放 | av在线观看视频网站免费| 亚洲七黄色美女视频| 中文在线观看免费www的网站| 亚洲成人久久性| 乱人视频在线观看| 中文字幕人妻熟人妻熟丝袜美| 国产视频一区二区在线看| 丰满的人妻完整版| 日韩强制内射视频| 欧美xxxx黑人xx丫x性爽| 六月丁香七月| 午夜激情福利司机影院| 乱码一卡2卡4卡精品| 99精品在免费线老司机午夜| 中文资源天堂在线| 久久精品91蜜桃| 色综合亚洲欧美另类图片| 亚洲最大成人手机在线| 在线国产一区二区在线| 91麻豆精品激情在线观看国产| 好男人在线观看高清免费视频| 久久久久久久久中文| 国产真实伦视频高清在线观看| av卡一久久| 亚洲av成人精品一区久久| 婷婷精品国产亚洲av在线| 免费观看人在逋| 别揉我奶头 嗯啊视频| 亚洲第一区二区三区不卡| 亚洲最大成人av| 内地一区二区视频在线| 三级国产精品欧美在线观看| 亚洲性夜色夜夜综合| 色av中文字幕| 嫩草影视91久久| 91在线精品国自产拍蜜月| 又黄又爽又刺激的免费视频.| 国产乱人视频| 最近中文字幕高清免费大全6| 乱码一卡2卡4卡精品| 亚洲精品亚洲一区二区| 欧美成人a在线观看| 欧美一级a爱片免费观看看| 自拍偷自拍亚洲精品老妇| 一区二区三区免费毛片| 国产激情偷乱视频一区二区| 国产一区二区在线观看日韩| 春色校园在线视频观看| 欧美日韩国产亚洲二区| 日本精品一区二区三区蜜桃| 国产精品久久久久久久久免| 九九爱精品视频在线观看| 精品福利观看| av在线天堂中文字幕| 欧美国产日韩亚洲一区| 亚洲av中文av极速乱| 欧美成人a在线观看| 国产精品野战在线观看| 91麻豆精品激情在线观看国产| 在线免费观看不下载黄p国产| 久久久久国产精品人妻aⅴ院| 在线免费观看的www视频| 少妇熟女欧美另类| 午夜福利在线观看免费完整高清在 | 亚洲自拍偷在线| 高清毛片免费观看视频网站| 国产精品不卡视频一区二区| 长腿黑丝高跟| 级片在线观看| 日韩中字成人| 欧美xxxx性猛交bbbb| 亚洲av五月六月丁香网| 亚洲精品色激情综合| 夜夜夜夜夜久久久久| 在线a可以看的网站| 成人特级av手机在线观看| 蜜桃久久精品国产亚洲av| 一区二区三区高清视频在线| 亚洲高清免费不卡视频| 国产精品亚洲美女久久久| 丰满的人妻完整版| 女的被弄到高潮叫床怎么办| 国产三级中文精品| 亚洲va在线va天堂va国产| 日韩在线高清观看一区二区三区| АⅤ资源中文在线天堂| 午夜久久久久精精品| 蜜臀久久99精品久久宅男| 性色avwww在线观看| 亚洲国产日韩欧美精品在线观看| 五月玫瑰六月丁香| 成年av动漫网址| 一进一出抽搐gif免费好疼| 成人午夜高清在线视频| 中文字幕av在线有码专区| 久久精品国产亚洲av香蕉五月| 中文字幕精品亚洲无线码一区| 亚洲色图av天堂| 国产一区二区亚洲精品在线观看| 又爽又黄a免费视频| 国产三级在线视频| 亚洲成人久久爱视频| 伦理电影大哥的女人| 亚洲无线在线观看| 青春草视频在线免费观看| 一a级毛片在线观看| 狂野欧美白嫩少妇大欣赏| 一级黄色大片毛片| 最近中文字幕高清免费大全6| 啦啦啦韩国在线观看视频| 草草在线视频免费看| 午夜激情福利司机影院| 一进一出抽搐gif免费好疼| 嫩草影院入口| 亚洲最大成人中文| 免费大片18禁| 免费人成在线观看视频色| 男女下面进入的视频免费午夜| 狂野欧美白嫩少妇大欣赏| 国产视频一区二区在线看| 搡老妇女老女人老熟妇| 欧美高清成人免费视频www| 国产精品一及| 成年av动漫网址| 99国产极品粉嫩在线观看| 免费观看的影片在线观看| 日韩,欧美,国产一区二区三区 | a级毛色黄片| 国产熟女欧美一区二区| 一个人观看的视频www高清免费观看| 久久久欧美国产精品| 久久久久久久久久黄片| 女的被弄到高潮叫床怎么办| 深夜a级毛片| 1024手机看黄色片| 国产极品精品免费视频能看的| 嫩草影院新地址| 99精品在免费线老司机午夜| 久久中文看片网| 极品教师在线视频| 国产精品福利在线免费观看| 一级黄片播放器| 精品一区二区三区人妻视频| 国产精品久久视频播放| 黄色一级大片看看| 国产精品精品国产色婷婷| 国产色婷婷99| 日韩三级伦理在线观看| 蜜桃久久精品国产亚洲av| 村上凉子中文字幕在线| 精品人妻熟女av久视频| 91久久精品电影网| 久久午夜亚洲精品久久| 国产熟女欧美一区二区| 国产成人影院久久av| 老熟妇乱子伦视频在线观看| 岛国在线免费视频观看| 亚洲性久久影院| 少妇的逼好多水| 别揉我奶头 嗯啊视频| 成人三级黄色视频| 国产日本99.免费观看| 99久久久亚洲精品蜜臀av| 午夜老司机福利剧场| 国产精品国产高清国产av| or卡值多少钱| 人人妻人人看人人澡| 精品午夜福利在线看| 国内久久婷婷六月综合欲色啪| 美女大奶头视频| 51国产日韩欧美| 寂寞人妻少妇视频99o| 成人无遮挡网站| 少妇高潮的动态图| 色播亚洲综合网| 国产午夜精品论理片| 色综合站精品国产| 成人欧美大片| 免费不卡的大黄色大毛片视频在线观看 | 国产精品一区二区性色av| 一边摸一边抽搐一进一小说| 两性午夜刺激爽爽歪歪视频在线观看| 国产一区亚洲一区在线观看| 插阴视频在线观看视频| 精品久久久久久久久av| 亚洲欧美中文字幕日韩二区| 18+在线观看网站| 亚洲欧美成人综合另类久久久 | 在线播放无遮挡| 亚洲精品日韩av片在线观看| 久久国内精品自在自线图片| 18+在线观看网站| 99热网站在线观看| 久久精品夜色国产| 欧美成人精品欧美一级黄| 亚洲av成人精品一区久久| 日本色播在线视频| 日韩强制内射视频| 真实男女啪啪啪动态图| 亚洲精品日韩在线中文字幕 | 免费大片18禁| 女的被弄到高潮叫床怎么办| 麻豆久久精品国产亚洲av| 一级毛片久久久久久久久女| 一本精品99久久精品77| 波多野结衣高清无吗| 一个人观看的视频www高清免费观看| 久久精品国产亚洲av香蕉五月| 夜夜爽天天搞| 淫妇啪啪啪对白视频| 2021天堂中文幕一二区在线观| 亚洲高清免费不卡视频| 午夜视频国产福利| 久久精品久久久久久噜噜老黄 | 美女大奶头视频| 春色校园在线视频观看| 搡老熟女国产l中国老女人| 丰满的人妻完整版| aaaaa片日本免费| 成年版毛片免费区| 亚洲最大成人av| 国产又黄又爽又无遮挡在线| 亚洲激情五月婷婷啪啪| 美女内射精品一级片tv| 观看免费一级毛片| 亚洲成人精品中文字幕电影| 亚洲欧美清纯卡通| 欧美+日韩+精品| 丰满人妻一区二区三区视频av| 97超级碰碰碰精品色视频在线观看| 插逼视频在线观看| 黄色视频,在线免费观看| 午夜久久久久精精品| 欧美又色又爽又黄视频| 久久久久国内视频| 亚洲中文日韩欧美视频| 我的女老师完整版在线观看| 一本一本综合久久| 国产 一区 欧美 日韩| 嫩草影视91久久| 久久久久久久午夜电影| 久久久久性生活片| av天堂中文字幕网| 亚洲无线在线观看| 国产精品永久免费网站| 亚洲精品亚洲一区二区| 18禁在线无遮挡免费观看视频 | 国产精品人妻久久久影院| 啦啦啦啦在线视频资源| 寂寞人妻少妇视频99o| 国产高清有码在线观看视频| 亚洲在线自拍视频| 久久精品夜夜夜夜夜久久蜜豆| 亚洲欧美中文字幕日韩二区| 两性午夜刺激爽爽歪歪视频在线观看| 99在线人妻在线中文字幕| 欧美极品一区二区三区四区| 1000部很黄的大片| 少妇猛男粗大的猛烈进出视频 | 国产人妻一区二区三区在| 在线国产一区二区在线| 少妇被粗大猛烈的视频| 最近在线观看免费完整版| 小蜜桃在线观看免费完整版高清| 日本色播在线视频| 麻豆成人午夜福利视频| 成人永久免费在线观看视频| 日韩欧美三级三区| 麻豆av噜噜一区二区三区| 九九在线视频观看精品| 91久久精品国产一区二区三区| 如何舔出高潮| 国产女主播在线喷水免费视频网站 | 国产精品亚洲一级av第二区| 色哟哟·www| 中文字幕免费在线视频6| 国产成人精品久久久久久| 狠狠狠狠99中文字幕| 亚洲中文日韩欧美视频| 免费电影在线观看免费观看| 日本撒尿小便嘘嘘汇集6| 免费av不卡在线播放| 我要看日韩黄色一级片| 真实男女啪啪啪动态图| 国产三级在线视频| 国产欧美日韩一区二区精品| 一个人看的www免费观看视频| 草草在线视频免费看| 男人狂女人下面高潮的视频| 亚洲成人久久性| 97热精品久久久久久| 不卡视频在线观看欧美| 一级毛片电影观看 | 日本 av在线| 亚洲成a人片在线一区二区| 人妻夜夜爽99麻豆av| 一本久久中文字幕| 看十八女毛片水多多多| 搡老妇女老女人老熟妇| 中文资源天堂在线| 丰满乱子伦码专区| 久久久精品大字幕| 香蕉av资源在线| 精品99又大又爽又粗少妇毛片| 免费看a级黄色片| 美女 人体艺术 gogo| 精品熟女少妇av免费看| 91久久精品国产一区二区成人| 日韩成人伦理影院| 男女边吃奶边做爰视频| 日韩大尺度精品在线看网址| 免费电影在线观看免费观看| 久久久久精品国产欧美久久久| 少妇被粗大猛烈的视频| 麻豆av噜噜一区二区三区| av天堂在线播放| 秋霞在线观看毛片| 男女啪啪激烈高潮av片| 成人av在线播放网站| 国产高潮美女av| 国产淫片久久久久久久久| 欧美色欧美亚洲另类二区| 国产aⅴ精品一区二区三区波| 黄片wwwwww| 国产视频内射| 中文字幕av成人在线电影| 亚洲欧美日韩高清专用| 亚洲经典国产精华液单| 一夜夜www| 亚洲无线观看免费| 国产精品日韩av在线免费观看| 啦啦啦观看免费观看视频高清| 久久久久久久久大av| 九九爱精品视频在线观看| 亚洲精品日韩av片在线观看| 美女 人体艺术 gogo| 免费在线观看影片大全网站| 免费搜索国产男女视频| 精品少妇黑人巨大在线播放 | 人妻夜夜爽99麻豆av| 亚洲最大成人手机在线| 欧美区成人在线视频| 午夜福利在线观看吧| 日韩,欧美,国产一区二区三区 | 久久综合国产亚洲精品| 小蜜桃在线观看免费完整版高清| 亚洲精品色激情综合| 丝袜喷水一区| 久久精品国产清高在天天线| 九九爱精品视频在线观看| 搡女人真爽免费视频火全软件 | 国产黄片美女视频| 久久6这里有精品| 国内精品一区二区在线观看| 搡老妇女老女人老熟妇| 色5月婷婷丁香| 深爱激情五月婷婷| 搡老熟女国产l中国老女人| 久久久久久久久久黄片| 精品人妻一区二区三区麻豆 | 99久久精品国产国产毛片| 在线观看免费视频日本深夜| 欧美xxxx黑人xx丫x性爽| 黄色一级大片看看| 丝袜美腿在线中文| 人妻制服诱惑在线中文字幕| 欧美日韩乱码在线| 精品少妇黑人巨大在线播放 | 国产高清视频在线播放一区| 国产淫片久久久久久久久| 欧美一区二区精品小视频在线| 人妻少妇偷人精品九色| 国产精品一区二区性色av| 精品欧美国产一区二区三| 成年女人看的毛片在线观看| 午夜老司机福利剧场| av.在线天堂| 久久九九热精品免费| 国产午夜福利久久久久久| 在现免费观看毛片| 一区二区三区高清视频在线| av女优亚洲男人天堂| 成人av一区二区三区在线看| 插阴视频在线观看视频| 你懂的网址亚洲精品在线观看 | 午夜a级毛片| 成年av动漫网址| 久久久久久伊人网av| 久久久a久久爽久久v久久| 国产精品免费一区二区三区在线| 久久久久久久亚洲中文字幕| 久久中文看片网| 联通29元200g的流量卡| 色哟哟·www| 在线国产一区二区在线| 狂野欧美激情性xxxx在线观看| 日韩欧美在线乱码| 听说在线观看完整版免费高清| 中文资源天堂在线| 免费观看人在逋| 色综合色国产| 欧美性猛交╳xxx乱大交人| 亚洲,欧美,日韩| 亚洲国产精品成人综合色| 国产白丝娇喘喷水9色精品| 性色avwww在线观看| 精品一区二区三区人妻视频| 久久精品夜色国产| 蜜臀久久99精品久久宅男| 国产视频内射| 深夜a级毛片| 老司机福利观看| 日韩精品有码人妻一区| 在线播放国产精品三级| 免费不卡的大黄色大毛片视频在线观看 | 99久国产av精品国产电影| 亚洲人成网站在线播放欧美日韩| 久久久色成人| 日韩av不卡免费在线播放| 麻豆乱淫一区二区| 亚洲成人中文字幕在线播放| 中文字幕免费在线视频6| 日本-黄色视频高清免费观看| 美女cb高潮喷水在线观看| 人妻夜夜爽99麻豆av| 少妇熟女欧美另类| 少妇人妻一区二区三区视频| 精品午夜福利视频在线观看一区| 九九久久精品国产亚洲av麻豆| 日韩欧美国产在线观看| 黑人高潮一二区| 99热这里只有是精品50| 精品久久久久久久久av| 午夜视频国产福利| 在线观看美女被高潮喷水网站| 久久久久国产精品人妻aⅴ院| 美女内射精品一级片tv| 日本黄色视频三级网站网址| 亚洲四区av| 成人av一区二区三区在线看| 亚洲人与动物交配视频| 国产精品福利在线免费观看| 欧美另类亚洲清纯唯美| 香蕉av资源在线| 联通29元200g的流量卡| 成人特级av手机在线观看| 久久久久免费精品人妻一区二区| 狠狠狠狠99中文字幕| 精品福利观看| 国产精品嫩草影院av在线观看| 91午夜精品亚洲一区二区三区| 成年免费大片在线观看| 男人舔女人下体高潮全视频| 国产久久久一区二区三区| 国产精品,欧美在线| 精品国内亚洲2022精品成人| 欧美性猛交黑人性爽| 欧美绝顶高潮抽搐喷水| 午夜福利在线观看吧| av在线蜜桃| 99热这里只有是精品在线观看| 热99在线观看视频| 天堂网av新在线| 美女xxoo啪啪120秒动态图| h日本视频在线播放| 99在线视频只有这里精品首页| 欧美日本亚洲视频在线播放| 亚洲国产精品国产精品| 99在线人妻在线中文字幕| 欧美+日韩+精品| 高清毛片免费观看视频网站| av福利片在线观看| 久99久视频精品免费| av国产免费在线观看| 国产成人a区在线观看| 日韩欧美免费精品| 亚洲电影在线观看av| 欧美丝袜亚洲另类|