• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論人工智能法律主體適格性的反思與否定證成

    2022-06-06 16:21:18祝高峰尹智揚(yáng)
    關(guān)鍵詞:民事主體人工智能

    祝高峰 尹智揚(yáng)

    摘 要:數(shù)字經(jīng)濟(jì)時(shí)代,人工智能技術(shù)深度應(yīng)用導(dǎo)致的法律問(wèn)題層出不窮。2017年,國(guó)務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中提出要明晰人工智能的法律主體地位。人工智能法律主體地位的厘定是解決人工智能其他相關(guān)法律問(wèn)題的“鑰匙”。人工智能法律主體適格性的厘清與人工智能的生成內(nèi)容界定、侵權(quán)責(zé)任認(rèn)定、責(zé)任能力承擔(dān)以及懲罰標(biāo)準(zhǔn)的適用等方面都緊密相關(guān)?,F(xiàn)有對(duì)人工智能法律主體地位的研究主要是以主客體二分法為討論的肯定說(shuō)與否定說(shuō)之爭(zhēng)。人工智能法律主體適格性的研究應(yīng)當(dāng)回溯至法學(xué)理論的本源,從民事主體自身的適格性構(gòu)成要件進(jìn)行分析,方能知其所以然。

    關(guān)鍵詞:

    人工智能;法律主體;適格性;判斷標(biāo)準(zhǔn);否定證成

    中圖分類號(hào):D923.41

    文獻(xiàn)標(biāo)識(shí)碼:A

    文章編號(hào):1673-8268(2022)03-0057-11

    一、引 言

    習(xí)近平總書記在黨的十九屆中央政治局第九次集體學(xué)習(xí)時(shí)指出:“人工智能是重要驅(qū)動(dòng)力量、重要戰(zhàn)略抓手、重要戰(zhàn)略資源?!鄙钲谑腥斯ぶ悄苄袠I(yè)協(xié)會(huì)編寫的《2021人工智能發(fā)展白皮書》顯示,2020年,中國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)到3 251億元。截至2020年底,我國(guó)已有6 425家人工智能相關(guān)企業(yè),人工智能企業(yè)分布在產(chǎn)業(yè)鏈基礎(chǔ)層的占22.3%,分布在技術(shù)層的占18.6%,分布在應(yīng)用層的占59.1%。毋庸置疑,隨著大數(shù)據(jù)技術(shù)以及人工智能技術(shù)的深層應(yīng)用,由人工智能引起的社會(huì)變革必然將對(duì)人類社會(huì)的經(jīng)濟(jì)發(fā)展以及社會(huì)生活的方方面面產(chǎn)生深遠(yuǎn)的影響?!爸窃鞎r(shí)代”已經(jīng)到來(lái),要解決人工智能的法律困境問(wèn)題,就要先解決問(wèn)題的主要矛盾。人工智能涉及到的主要法律問(wèn)題與人工智能法律主體地位緊密相關(guān),因此,人工智能法律主體適格性研究是解決人工智能其他相關(guān)法律問(wèn)題的“鑰匙”。然而,人工智能法律主體的適格性又面臨著諸多困境。

    二、人工智能法律主體適格性的綜述考察

    國(guó)外方面,截至目前,筆者以“AI Subject Eligibility”“Eligibility of Artificial Intelligence Legal Subject”“Artificial Intelligence Legal Subject”為檢索設(shè)定,通過(guò)Kluwer Law Online、Web of Science、HeinOnline、MyiLibrary等法律數(shù)據(jù)庫(kù)檢索,幾乎未直接檢索到人工智能法律主體適格性的相關(guān)研究,通過(guò)檢索數(shù)據(jù)庫(kù)后總結(jié)文中出現(xiàn)的關(guān)鍵詞匯及主題表述為“Patent Eligibility”和“Patent Subject Matter Eligibility”。從筆者檢索的范圍來(lái)看,外文文獻(xiàn)只有2019年發(fā)表的一篇文章與人工智能法律主體適格性研究直接相關(guān),即“Artificial Intelligence as A Subject of Law: Pros and Cons”[1],該篇文章有四位合作作者,且將人工智能視為擬制的法律主體。

    國(guó)內(nèi)方面,筆者以“人工智能法律主體地位”“人工智能法律主體適格性”等關(guān)鍵核心術(shù)語(yǔ)及主題進(jìn)行查找,通過(guò)中國(guó)知網(wǎng)檢索,統(tǒng)計(jì)發(fā)現(xiàn)發(fā)表在核心期刊的相關(guān)文章共20篇左右,筆者對(duì)其相關(guān)內(nèi)容進(jìn)行了梳理歸納總結(jié),大致包括以下幾個(gè)方面的內(nèi)容。其一,部分學(xué)者主張應(yīng)當(dāng)對(duì)人工智能進(jìn)行弱、中、強(qiáng)三個(gè)層次的劃分,嘗試通過(guò)分析現(xiàn)有人工智能發(fā)展所處的不同階段來(lái)判斷其法律主體地位的適格性。如有學(xué)者認(rèn)為,對(duì)人工智能的法律地位不應(yīng)一概而論,不能絕對(duì)地將其認(rèn)定為民事法律主體或者客體,而應(yīng)視其所處階段進(jìn)行分類討論[2]。其二,部分學(xué)者認(rèn)為需要考察人工智能所處的技術(shù)語(yǔ)境,其主體地位的擬制只能限制在特定的范圍和領(lǐng)域。有學(xué)者便認(rèn)為,研究人工智能的法律主體地位問(wèn)題,首先就要將其看成是一個(gè)技術(shù)問(wèn)題,且應(yīng)當(dāng)對(duì)人工智能進(jìn)行有限度的擬制,從而區(qū)分民事責(zé)任和刑事責(zé)任中人工智能是否具有主體地位[3]。其三,部分學(xué)者通過(guò)從法理及制度變遷史的角度推演,認(rèn)為人工智能符合法律主體資格,如有學(xué)者認(rèn)為,從具體保護(hù)主體利益的角度看,古代社會(huì)就已存在相關(guān)的法律主體制度,且隨著時(shí)代的發(fā)展,法律主體迎來(lái)了人格普遍化的時(shí)期[4]。其四,部分學(xué)者認(rèn)為,人工智能是一種新型的、從屬的法律主體。如有學(xué)者認(rèn)為,當(dāng)人工智能法律主體出現(xiàn)時(shí),一定會(huì)有一個(gè)被從屬主體附屬的主體存在,其法律主體關(guān)系才會(huì)存在[5],此種觀點(diǎn)表述較為模糊。

    綜上所述,部分學(xué)者從不同視角對(duì)人工智能法律主體適格性的有關(guān)問(wèn)題進(jìn)行了分析。筆者認(rèn)為,不論從哪個(gè)視角分析都有其一定的理由,但是,既然人工智能法律主體適格性的問(wèn)題的論證主要是一個(gè)法律問(wèn)題,那么,其存在的條件就應(yīng)當(dāng)符合基本的民事主體構(gòu)成要件,即不論人工智能在技術(shù)、功能、應(yīng)用等方面如何演變,判定其法律主體適格性的問(wèn)題都應(yīng)當(dāng)首先判斷是否符合民事主體的構(gòu)成要件及判定標(biāo)準(zhǔn),否則,將脫離其主體適格性的法理基礎(chǔ)。

    三、人工智能法律主體適格性面臨的困境

    (一)人工智能法律主體認(rèn)定的復(fù)雜性

    人工智能能否作為法律主體,學(xué)者們?cè)噲D在分析其與現(xiàn)有民事主體或爭(zhēng)議主體的相似點(diǎn)中找到可以聯(lián)系的“錨點(diǎn)”,從而為人工智能作為法律主體尋求現(xiàn)實(shí)的法律依據(jù)。然而,自然人、法人,抑或是爭(zhēng)議的動(dòng)物等分析對(duì)象,都難以與人工智能搭建起足夠緊密的類比關(guān)系。

    從自然人的角度來(lái)看,人的概念難以覆蓋人工智能。目前,人的胚胎尚且無(wú)法獲得法律人格,人工智能作為截然不同的“人”,算法和程序是其存在的基礎(chǔ)和行動(dòng)力的保障,而人這一生物體所具備的倫理性人格難以對(duì)人工智能的法律人格進(jìn)行充分解釋。有學(xué)者根據(jù)盧曼的社會(huì)功能分化理論,認(rèn)為人工智能的發(fā)展將會(huì)模糊人與機(jī)器的定義邊界,從而導(dǎo)致法律人格范圍的擴(kuò)展[6]。然而無(wú)論是克隆人還是基因編輯者,其具備法律主體地位的前提仍是生物人屬性,而人工智能則完全不具備這一屬性,這也是由人工智能的自身屬性所決定的。ED1E4734-F179-45FD-8F81-33248B016491

    從法人的角度來(lái)看,人工智能或許與法人存在諸多相似之處,可是分析法人存在的基礎(chǔ)可知,無(wú)論是“擬制說(shuō)”“實(shí)在說(shuō)”還是“組織體說(shuō)”,都存在一種共性,即法人背后不可剝離的自然人因素。正如漢斯·凱爾森(Hans Kelsen)所言,法人是對(duì)團(tuán)體和財(cái)產(chǎn)這一有機(jī)體中包含的個(gè)人行為規(guī)則體系的打包性陳述[7],而法律擬制這一立法技術(shù)是附帶性的結(jié)果,其不能作為改變?nèi)斯ぶ悄鼙举|(zhì)特征的工具。

    從動(dòng)物的角度來(lái)看,盡管一些學(xué)者試圖論證動(dòng)物與人的生物聯(lián)系(包括道德、文化、社會(huì)性等)[8],但不可否認(rèn)的是,討論動(dòng)物作為法律主體的出發(fā)點(diǎn)是對(duì)人類工具理性的反思,其關(guān)注的還是人的發(fā)展,這與討論人工智能的出發(fā)點(diǎn)有著本質(zhì)的區(qū)別。無(wú)論是《德國(guó)民法典》第90a條關(guān)于動(dòng)物不是物,動(dòng)物受特別法律的保護(hù),以不另有規(guī)定為限,關(guān)于物的規(guī)定必須準(zhǔn)用于動(dòng)物”[9]的規(guī)定,還是美國(guó)法對(duì)動(dòng)物開具人身保護(hù)令的案例,實(shí)際上均未承認(rèn)動(dòng)物的法律主體地位,這種否定性的評(píng)價(jià)至少說(shuō)明了,試圖依托動(dòng)物來(lái)證明人工智能法律主體地位的辦法是不可行的。

    (二)現(xiàn)有學(xué)說(shuō)與判斷標(biāo)準(zhǔn)結(jié)合的缺失

    現(xiàn)有分析人工智能法律主體適格性的學(xué)說(shuō),其主要目的是通過(guò)學(xué)說(shuō)的解釋或創(chuàng)新,來(lái)規(guī)避人工智能作為法律主體的不相稱問(wèn)題,然而,此類方法往往會(huì)存在通過(guò)結(jié)果來(lái)反證原因的邏輯錯(cuò)誤。筆者認(rèn)為,論證人工智能是否具備民事主體地位,民事主體的判斷標(biāo)準(zhǔn)在其中起到至關(guān)重要的作用。民事主體的判斷標(biāo)準(zhǔn)具備高度的概括性、完善的邏輯性和豐富的包容性特征,但現(xiàn)有學(xué)說(shuō)均未能很好地與判斷標(biāo)準(zhǔn)進(jìn)行有效結(jié)合,其本質(zhì)原因在于民事主體的判斷標(biāo)準(zhǔn)也存在諸多爭(zhēng)議。在民事主體不斷發(fā)展的歷史過(guò)程中,早期對(duì)民事主體的判斷也已形成諸多可以邏輯自洽的學(xué)說(shuō)或思想,這些學(xué)說(shuō)實(shí)際上較好地對(duì)現(xiàn)有民事主體的特征進(jìn)行了總結(jié)歸納,然而,在新型的爭(zhēng)議主體逐漸增多后,也往往顯得捉襟見肘。

    (三)實(shí)踐中人工智能法律主體判斷標(biāo)準(zhǔn)不統(tǒng)一

    在法律實(shí)踐中,由于人工智能處于何種法律地位尚未確定,難以回答人工智能享有何種權(quán)利、履行何種義務(wù)以及如何承擔(dān)責(zé)任等法律問(wèn)題,因而產(chǎn)生了人工智能法律主體判斷標(biāo)準(zhǔn)不統(tǒng)一的問(wèn)題。北京互聯(lián)網(wǎng)法院在“北京菲林律師事務(wù)所與北京百度網(wǎng)訊科技有限公司著作權(quán)權(quán)屬案”[北京互聯(lián)網(wǎng)法院一審審理認(rèn)為,具備獨(dú)創(chuàng)性并非構(gòu)成文字作品的充分條件,根據(jù)現(xiàn)行法律規(guī)定,文字作品應(yīng)由自然人創(chuàng)作完成。雖然隨著科學(xué)技術(shù)的發(fā)展,計(jì)算機(jī)軟件智能生成的此類“作品”在內(nèi)容、形態(tài)甚至表達(dá)方式上日趨接近自然人,但根據(jù)現(xiàn)實(shí)的科技及產(chǎn)業(yè)發(fā)展水平,若在現(xiàn)行法律的權(quán)利保護(hù)體系內(nèi)可以對(duì)此類軟件的智力、經(jīng)濟(jì)投入予以充分保護(hù),則不宜對(duì)民法主體的基本規(guī)范予以突破。(參見北京互聯(lián)網(wǎng)法院民事判決書〔2018〕京0491民初239號(hào))]中認(rèn)定,自然人創(chuàng)作完成仍應(yīng)是著作權(quán)法上構(gòu)成作品的必要條件。在此案中,因?yàn)槿斯ぶ悄茉谥鳈?quán)糾紛中所產(chǎn)生的爭(zhēng)議,一審法院認(rèn)定人工智能不具備法律主體地位。而在“深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司與上海乾衡信息技術(shù)有限公司侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛”一案中,法院認(rèn)定人工智能生成的文章構(gòu)成作品,同時(shí)法院認(rèn)定涉案文章是原告主持創(chuàng)作的法人作品[10],該案是全國(guó)首例認(rèn)定人工智能生成作品的生效案件。盡管該案件中人工智能生成的文章被認(rèn)為符合作品的構(gòu)成要件,但其實(shí)質(zhì)仍是將創(chuàng)作作品的人歸為了法人,這與人工智能能否成為法律主體的問(wèn)題存在本質(zhì)區(qū)別,因?yàn)槿斯ぶ悄懿痪哂蟹ㄈ说膶傩浴T凇澳防惪嗽V布林茅爾醫(yī)院案”[本案中醫(yī)院在為患者進(jìn)行手術(shù)時(shí),使用了達(dá)·芬奇醫(yī)療智能機(jī)器人,但是智能機(jī)器人在參加手術(shù)的過(guò)程當(dāng)中一直未能反映正確的信息,并且拒絕手術(shù)團(tuán)隊(duì)調(diào)整他的手臂位置,最后醫(yī)療團(tuán)隊(duì)無(wú)奈之下只能進(jìn)行人工手術(shù),結(jié)果手術(shù)失敗?;颊甙l(fā)起訴訟,要求醫(yī)院和人工智能的制造商賠償損失。(參見Ugo Pagallo, The Laws of Robots: Crimes, Contracts, and Torts, Dordrecht:Springer,2013,pp.34-35)](Mracek v. Bryn Mawr Hospital)中,法院將智能機(jī)器人的責(zé)任認(rèn)定為產(chǎn)品責(zé)任問(wèn)題,從而否定了患者的訴求。在該案中,美國(guó)法院并未認(rèn)定人工智能為適格的法律主體,在人工智能侵權(quán)致害時(shí),仍將其認(rèn)定為產(chǎn)品。

    相反情況亦存在,2016年2月,美國(guó)國(guó)家公路安全交通管理局認(rèn)定Google無(wú)人駕駛汽車所采用的人工智能系統(tǒng)可以被認(rèn)為是司機(jī)。在美國(guó),行政管理部門在一定程度上已經(jīng)賦予了人工智能擬人的“民事主體”資格。2016年,歐盟委員會(huì)法律事務(wù)委員會(huì)主張對(duì)法律主體制度進(jìn)行改革,請(qǐng)求賦予人工智能“電子人”的法律主體身份,引發(fā)世界各國(guó)的廣泛關(guān)注[11]。此外,還有沙特阿拉伯授予美國(guó)漢森公司的人工智能“索菲亞”以法律公民身份、日本基于個(gè)案確立了陪護(hù)老人的寵物機(jī)器人帕羅的戶籍地位(并在戶籍系統(tǒng)中將發(fā)明人登記為父親)等案例[12]的存在。

    綜上所述,人工智能主體面臨著不同類型的法律糾紛,由于不同的價(jià)值維度和價(jià)值考量也往往帶來(lái)不同的處理結(jié)果,這間接地造成了涉及人工智能的案件判斷起來(lái)尤為困難和復(fù)雜。因而,不論在法學(xué)理論上還是在法律實(shí)踐中,判斷人工智能法律主體的適格性都是亟待解決的問(wèn)題。

    四、人工智能法律主體適格性的基本問(wèn)題厘清

    在界定人工智能法律主體適格性的問(wèn)題前,應(yīng)當(dāng)對(duì)其相關(guān)概念和基本問(wèn)題進(jìn)行梳理和闡釋,只有在明確與其相關(guān)的基本概念和問(wèn)題的前提下進(jìn)行論證,其結(jié)果才具備相對(duì)準(zhǔn)確性和價(jià)值。

    (一)人工智能法律主體適格性的基本問(wèn)題分析

    1.人工智能的界定

    對(duì)于人工智能的定義主要分為特征歸納類與語(yǔ)境定義類兩種。特征歸納類如澳大利亞學(xué)者蘇萊曼認(rèn)為,高度自主的人工智能應(yīng)具備如下要件:第一,與人類進(jìn)行交互的能力;第二,了解自身內(nèi)部知識(shí);第三,了解外部世界的知識(shí);第四,一定程度上的意向性;第五,一定程度上的創(chuàng)造力[13]。語(yǔ)境定義類如斯坦福大學(xué)的尼爾遜教授認(rèn)為:“人工智能是關(guān)于知識(shí)的學(xué)科——怎樣表示知識(shí)以及怎樣獲得知識(shí)并使用知識(shí)的科學(xué)。”[14]這兩種定義實(shí)際上只著眼于人工智能的廣義概念,對(duì)人工智能在法律視域下的具體行為模式?jīng)]有進(jìn)行有效界定。然而,要判斷人工智能法律主體適格性,分析、列舉人工智能的廣義概念或者對(duì)人工智能整體提煉特征的作用微乎其微,最有效的方法是尋找人工智能在法學(xué)領(lǐng)域特別是能與民事主體地位相互聯(lián)系的交匯點(diǎn)。ED1E4734-F179-45FD-8F81-33248B016491

    斯圖爾特·羅素(Stuart J.Russell)和彼得·諾維格(Peter Norvig)在《人工智能:一種現(xiàn)代的方法》一書中提出了八種不同的人工智能定義,分為四類:人性化行動(dòng)、人性化思考、理性思考和理性行動(dòng)。該書作者還分別對(duì)以上四種定義進(jìn)行了如下補(bǔ)充解釋。(1)人性化行動(dòng)是指能夠通過(guò)圖靈測(cè)試的一系列行動(dòng),具體包括自然語(yǔ)言處理、知識(shí)表示、自動(dòng)推理及機(jī)器學(xué)習(xí)等。(2)人性化思考指的是尋找一種有效的人類認(rèn)知建模方法和理論,使之能夠通過(guò)機(jī)器語(yǔ)言表達(dá)出來(lái)。(3)理性思考則是指一種思維方法的規(guī)律。人工智能中所謂的邏輯主義傳統(tǒng)希望在這些程序的基礎(chǔ)上創(chuàng)建智能系統(tǒng)。然而,能夠在“原則上”解決問(wèn)題和在實(shí)踐中解決問(wèn)題有很大區(qū)別。(4)理性行動(dòng)則意味著根據(jù)自己的信仰采取行動(dòng)以實(shí)現(xiàn)自己的目標(biāo)[15]。以上定義方法兼采語(yǔ)境定義類與特征歸納類的優(yōu)點(diǎn),將定義的側(cè)重點(diǎn)集中在人工智能與作為參考系的人之間的關(guān)系與類比,從而對(duì)人工智能有一個(gè)較為總括的定義。有學(xué)者已經(jīng)指出,人工智能不僅僅指智能機(jī)器人,還應(yīng)當(dāng)包括智能系統(tǒng)和智能物[16]。根據(jù)以上分析,可以對(duì)人工智能進(jìn)行如下界定:人工智能是指具備一定人性化思維、人性化行為和理性行動(dòng)能力的智能系統(tǒng)和智能物。其本質(zhì)是對(duì)人的思想和意識(shí)的信息過(guò)程的模擬,不具有獨(dú)立的意志。其所表現(xiàn)出來(lái)的行為目前都是人為通過(guò)算法和程序提前設(shè)定而完成的。

    2.人工智能現(xiàn)有劃分標(biāo)準(zhǔn)的分析與選擇

    目前通說(shuō)認(rèn)為,人工智能主要分為弱人工智能、強(qiáng)人工智能和超級(jí)人工智能。針對(duì)不同階段的人工智能也有眾多判斷標(biāo)準(zhǔn)。除了圖靈測(cè)試,還有很多種方法可以檢驗(yàn)計(jì)算機(jī)或機(jī)器人是否達(dá)到強(qiáng)人工智能水平。也有學(xué)者針對(duì)偏重一方面的測(cè)試所帶來(lái)誤差的可能性,提出綜合性測(cè)試,即強(qiáng)調(diào)強(qiáng)人工智能應(yīng)該同時(shí)滿足人類的自我意識(shí)、思維、情感和行為四個(gè)要素。如果人工智能只滿足其中某一個(gè)或部分要素,那么,其仍應(yīng)被認(rèn)為停留在弱人工智能階段[17]。除此之外,根據(jù)發(fā)展人工智能主張的理念不同,對(duì)人工智能的劃分主要分為符號(hào)主義學(xué)派與聯(lián)結(jié)主義學(xué)派,前者主張機(jī)器語(yǔ)言模擬,后者則主張生物仿生模擬。

    實(shí)際上,以上分類方式都存在一個(gè)共同的問(wèn)題,即對(duì)于當(dāng)前社會(huì)人工智能處于何種發(fā)展階段以及人工智能能否進(jìn)入下一階段的判斷存在一定的模糊性。因?yàn)閷?duì)于人工智能劃分標(biāo)準(zhǔn)之下的諸多概念,也存在諸多劃分標(biāo)準(zhǔn),這就造成了“嵌套式”定義的怪圈。

    對(duì)此,有學(xué)者認(rèn)為,智能系統(tǒng)的根源可以追溯到兩個(gè)基本前提條件:一是物理環(huán)境客觀的現(xiàn)實(shí)與因果鏈條;二是智能物種與生俱來(lái)的任務(wù)與價(jià)值鏈條。目前,機(jī)器視覺或語(yǔ)言學(xué)習(xí)所依靠的深度學(xué)習(xí),本質(zhì)上是一種“大數(shù)據(jù)+小任務(wù)范式(big data for small task)”,而未來(lái)我們要人工智能達(dá)到的水平應(yīng)當(dāng)是“小數(shù)據(jù)+大任務(wù)范式”[18]。目前,所有人工智能無(wú)一例外是依靠大量數(shù)據(jù)投喂來(lái)解決單一任務(wù)的,對(duì)于多場(chǎng)景多領(lǐng)域的復(fù)雜問(wèn)題,缺乏一套統(tǒng)一的解決機(jī)制。因此,我們可以大致總結(jié)出未來(lái)人工智能的認(rèn)知架構(gòu),即“小數(shù)據(jù)+大任務(wù)范式”所應(yīng)具備的必要要素:較少的數(shù)據(jù)投喂量、多任務(wù)解決功能、因果性認(rèn)知推理、價(jià)值共識(shí)、語(yǔ)言通訊、視覺分析。而目前的人工智能至多具備語(yǔ)言通訊和視覺分析能力,距離其進(jìn)入下一階段還為時(shí)尚早。

    3.人工智能的類型化趨勢(shì)及場(chǎng)景化應(yīng)用

    人工智能的技術(shù)發(fā)展逐漸呈現(xiàn)多極化、類型化的趨勢(shì),有學(xué)者將其總結(jié)為六大領(lǐng)域[六大領(lǐng)域即計(jì)算機(jī)視覺(暫且把模式識(shí)別、圖像處理等問(wèn)題歸入其中)、自然語(yǔ)言理解與交流(暫且把語(yǔ)音識(shí)別、合成歸入其中,包括對(duì)話)、認(rèn)知與推理(包含各種物理和社會(huì)常識(shí))、機(jī)器人學(xué)(機(jī)械、控制、設(shè)計(jì)、運(yùn)動(dòng)規(guī)劃、任務(wù)規(guī)劃等)、博弈與倫理(多代理人agents的交互、對(duì)抗與合作,機(jī)器人與社會(huì)融合等議題)、機(jī)器學(xué)習(xí)(各種統(tǒng)計(jì)的建模、分析工具和計(jì)算的方法)。(參見朱松純:《朱松純教授淺談人工智能:現(xiàn)狀、任務(wù)、構(gòu)架與統(tǒng)一》,https://www.sohu.com/a/227854954_297710)]。目前,各個(gè)領(lǐng)域的人工智能發(fā)展?fàn)顩r各不相同,但是總體來(lái)看,以計(jì)算機(jī)視覺、自然語(yǔ)言理解與交流、機(jī)器學(xué)習(xí)為主的三大領(lǐng)域發(fā)展最快,產(chǎn)生的法律問(wèn)題也最多。在直觀上,人工智能類型化的趨勢(shì)首先體現(xiàn)為各領(lǐng)域場(chǎng)景化的應(yīng)用落地,在計(jì)算機(jī)視覺領(lǐng)域,以人臉識(shí)別為基礎(chǔ)的各類應(yīng)用可能產(chǎn)生隱私權(quán)、肖像權(quán)方面的法律糾紛;在自然語(yǔ)言理解與交流領(lǐng)域,機(jī)器翻譯、對(duì)話及生成物可能涉及著作權(quán)或?qū)@麢?quán)方面的法律糾紛;在機(jī)器學(xué)習(xí)領(lǐng)域,醫(yī)療服務(wù)型人工智能系統(tǒng)(如病情診斷或體征監(jiān)測(cè))、自動(dòng)駕駛技術(shù)等可能會(huì)產(chǎn)生產(chǎn)品責(zé)任糾紛,谷歌的搜索算法、數(shù)字廣告和在線個(gè)性化工具、家庭服務(wù)或醫(yī)療機(jī)器人等則可能侵犯權(quán)利人的個(gè)人信息和隱私[19]。當(dāng)然,人工智能的場(chǎng)景化應(yīng)用也會(huì)產(chǎn)生積極影響,如在法律領(lǐng)域,有學(xué)者認(rèn)為,人工智能對(duì)于電子資料檔案查詢、預(yù)測(cè)性警務(wù)、法醫(yī)破案、面部識(shí)別以及刑事案件中審前釋放和判刑的風(fēng)險(xiǎn)評(píng)估等方面都有著重要用途[20];在國(guó)際公共健康領(lǐng)域,包括范德比爾特大學(xué)醫(yī)學(xué)中心在內(nèi)的醫(yī)療機(jī)構(gòu)、美國(guó)退伍軍人事務(wù)部等政府機(jī)構(gòu)以及包括Facebook在內(nèi)的公司均正在開發(fā)基于人工智能的自殺預(yù)測(cè)工具,這些工具有定位可能自殺的高風(fēng)險(xiǎn)人群的功能,并允許其進(jìn)行干預(yù)和可能的預(yù)防[21]。由此可見,人工智能的類型化趨勢(shì)催生了眾多的場(chǎng)景化應(yīng)用,并間接造成了人工智能“法律主體”在各個(gè)領(lǐng)域產(chǎn)生的法律關(guān)系沖突,并且由于各個(gè)領(lǐng)域人工智能算法、程序乃至實(shí)體結(jié)構(gòu)的不同,明確界定人工智能的法律主體地位同樣具有重要的意義。

    (二)人工智能法律主體適格性學(xué)說(shuō)之辨

    肯定說(shuō)主張人工智能法律主體具有適格性,針對(duì)這種適格性是否完備,又分為完全肯定說(shuō)與折中說(shuō)。折中說(shuō)認(rèn)為,應(yīng)當(dāng)根據(jù)人工智能的強(qiáng)弱程度進(jìn)行區(qū)分,弱人工智能不具有法律主體資格,強(qiáng)人工智能則具有法律主體資格。筆者認(rèn)為,折中說(shuō)本質(zhì)上也是肯定說(shuō)的一種,只是認(rèn)為適格性存在一定的瑕疵,這也并不能否認(rèn)折中說(shuō)對(duì)人工智能作為法律主體的積極性評(píng)價(jià)。肯定說(shuō)認(rèn)為,在人工智能不斷發(fā)展的當(dāng)下,賦予其主體地位,無(wú)論是從法律實(shí)踐還是歷史發(fā)展的角度來(lái)看,既是必要的,也是可行的。其主要邏輯思路是在目前人工智能尚未作為法律主體存在時(shí),其某些必要性因素催生了眾多可行性思路,從而反證了人工智能作為法律主體的可能。ED1E4734-F179-45FD-8F81-33248B016491

    否定說(shuō)則認(rèn)為人工智能不具備主體資格。如“工具說(shuō)”認(rèn)為,人工智能屬性上還是人的工具?!败浖碚f(shuō)”認(rèn)為,人工智能本質(zhì)上是信息的新型載體,因而不需要具有完全的法律人格和法律能力。此外,有學(xué)者認(rèn)為,從主體理性角度來(lái)看,人工智能不具備欲望的機(jī)制,因此它不具備主體性[22];從價(jià)值論的角度來(lái)看,人工智能無(wú)法獲得真正的自由[23]。否定說(shuō)認(rèn)為人工智能作為法律主體,其不具有適格性的論證視角雖然是多角度多層次的,但大多難以從正面對(duì)人工智能的非適格性進(jìn)行有效回應(yīng),因而說(shuō)服力偏弱。

    (三)人工智能法律主體適格性的具體學(xué)說(shuō)分析

    1.有限人格說(shuō)

    有學(xué)者認(rèn)為,由于人工智能被賦予為人類社會(huì)服務(wù)的目的,因此,人工智能所享有的法律人格只能被看作是有限的工具性人格。其有限性包括:一是行為能力是受限的,人工智能的控制人掌握著其行為導(dǎo)向;二是權(quán)利義務(wù)是受限的,人工智能并不享有倫理性的人格權(quán)或身份權(quán),其權(quán)利義務(wù)狀態(tài)明顯是不平衡的;三是責(zé)任能力是受限的,人工智能與現(xiàn)有主體的承擔(dān)能力不同,承擔(dān)責(zé)任有其自身上限[24]。有學(xué)者進(jìn)一步指出,人工智能應(yīng)當(dāng)定義為既具有智慧工具性質(zhì),又可作出獨(dú)立意思表示的特殊主體較妥。此時(shí),權(quán)利主體是人工智能背后的實(shí)際控制人,應(yīng)適用“刺破人工智能面紗原則”[25]??偟膩?lái)說(shuō),有限人格說(shuō)主張應(yīng)當(dāng)賦予人工智能有限的民事權(quán)利,因?yàn)槿斯ぶ悄芤呀?jīng)具有一定程度的獨(dú)立自主意識(shí),民法也應(yīng)將其與其他民事主體進(jìn)行區(qū)別對(duì)待。然而,人工智能是否具有一定程度的“自主意識(shí)”尚需論證,其即便具備一定的自主意識(shí),也是來(lái)源于算法程序設(shè)定而成的,與自然人的自主意識(shí)相比有著本質(zhì)區(qū)別。有限人格說(shuō)的本質(zhì)還是承認(rèn)了人工智能的工具屬性,如再把其放置在主體地位,繼而為了論證的合理性對(duì)其“人格”進(jìn)行擴(kuò)張解釋,便會(huì)缺乏合理性。

    2.擬制人格說(shuō)

    “法律擬制”是“立法者為了實(shí)現(xiàn)法律背后的制度目的而作出的一種不容辯駁的決斷性的虛構(gòu)”[26]。薩維尼(Savigny)的“擬制說(shuō)”認(rèn)為,現(xiàn)有的自然人和法人的概念也都是一種人類經(jīng)由法律的擬制行為[27]。從一定程度上看,擬制說(shuō)是認(rèn)定人工智能法律主體適格性的一種選擇。有學(xué)者提出,通過(guò)“位格減等”思路進(jìn)行反向推理即可得出——“位格加等”來(lái)賦予當(dāng)代人工智能的法律地位。與古典羅馬法上的位格減等不同,法人制度實(shí)質(zhì)上也是一種“位格加等”的立法邏輯,因此,把人工智能提升到主體地位,擬制出其人格,進(jìn)而確定人工智能的法律關(guān)系及權(quán)利義務(wù)關(guān)系便是可能的[28]。通過(guò)分析可以得出,賦予人工智能獨(dú)立的法律擬制人格在立法技術(shù)上不存在障礙。然而,與法人不同的是,人工智能因?yàn)轭愋突内厔?shì),其擬制效果無(wú)法達(dá)到法人的擬制水平,人工智能的智能限制在特定的范圍和領(lǐng)域,其發(fā)生作用的范圍和領(lǐng)域與其說(shuō)是依據(jù)法律擬制,倒不如說(shuō)是依據(jù)其實(shí)際應(yīng)用能力,法律擬制不過(guò)是虛假的空殼。目前對(duì)于人工智能的任何法律擬制嘗試,其形式意義均大于實(shí)質(zhì)意義,需要關(guān)注的是達(dá)成“人工智能是法律主體”的虛假共識(shí),而非給社會(huì)帶來(lái)實(shí)際效益或解決實(shí)際法律糾紛的立法目的。

    3.電子人格說(shuō)

    電子人格說(shuō)本質(zhì)上是希望通過(guò)賦予人工智能某種特有身份,從而使其具有法律意義上的自主權(quán),進(jìn)而可以獨(dú)立承擔(dān)損害賠償責(zé)任。然而,其認(rèn)為人工智能算法中的不可控因素是一種自主意識(shí)的證明,將深度學(xué)習(xí)中的某些暗箱狀態(tài)等同于自主意識(shí),混淆了二者的本質(zhì)區(qū)別。1999年的美國(guó)《統(tǒng)一電子交易法》(Uniform Electronic Transaction Act)中第2條指出,“電子代理”系指非經(jīng)人的行為或?qū)徍?,全部或部分?dú)立地發(fā)起某種行為或應(yīng)對(duì)電子記錄或履行的計(jì)算機(jī)程序、電子手段或其他自動(dòng)化手段。此處所指的“電子代理”行為實(shí)際上與人的行為無(wú)關(guān),體現(xiàn)的是其自動(dòng)化的一面。這一學(xué)說(shuō)本質(zhì)上將人工智能視為民事主體,但嚴(yán)格來(lái)說(shuō)卻缺乏相應(yīng)的法理基礎(chǔ)。民法中的代理主要分為法定代理和委托代理。人工智能是否可以進(jìn)行法定代理尚不存在明文規(guī)定,且人工智能天然地與被代理人之間不存在自然人之間的關(guān)系,因而不存在法定代理的一般基礎(chǔ)。而委托代理因?yàn)榭赡墚a(chǎn)生的責(zé)任問(wèn)題,也不具備可操作性。被代理人實(shí)際上仍然要承擔(dān)人工智能所應(yīng)當(dāng)承擔(dān)的責(zé)任,因此,代理說(shuō)最關(guān)鍵的問(wèn)題是缺乏法律依據(jù)和現(xiàn)實(shí)基礎(chǔ)。

    五、人工智能法律主體適格性之否定證成

    民事主體適格性應(yīng)有內(nèi)在的判斷標(biāo)準(zhǔn),且應(yīng)當(dāng)具有普適性,即使民事主體的范圍有可能擴(kuò)張,也應(yīng)當(dāng)符合其原有的判斷標(biāo)準(zhǔn)。從民事主體的實(shí)質(zhì)構(gòu)成要件分析可以得出民事主體的判斷標(biāo)準(zhǔn),從而檢視人工智能作為法律主體適格性之否定證成。

    (一)人工智能法律主體適格性判斷標(biāo)準(zhǔn)的選擇

    1.四要件說(shuō)

    民事主體的判斷標(biāo)準(zhǔn)應(yīng)當(dāng)以一定的社會(huì)經(jīng)濟(jì)條件為前提,同時(shí)還需要國(guó)家法律的確認(rèn)[29]。通過(guò)分析自然人與法人作為法律主體的存在基礎(chǔ),一般認(rèn)為民事主體的實(shí)質(zhì)標(biāo)準(zhǔn)主要如下:第一,名義獨(dú)立,即能如自然人或法人一般,以自身的名義獨(dú)立從事民事活動(dòng);第二,意志獨(dú)立,該意志無(wú)論是單一還是以組織的集合形式體現(xiàn),都是獨(dú)立行使的;第三,財(cái)產(chǎn)獨(dú)立,即能夠獨(dú)立地占有、使用、收益、處分自己的財(cái)產(chǎn),或者通過(guò)設(shè)立的法律程序行使;第四,責(zé)任獨(dú)立,即民事主體應(yīng)當(dāng)以自己所支配的財(cái)產(chǎn)作為承擔(dān)責(zé)任的基礎(chǔ)[30]。四要件說(shuō)較好地提煉了法人與自然人作為法律主體的共同特征,但是正如前文所言,人工智能難以類比自然人或法人,二者有著本質(zhì)的區(qū)別,其目前的所謂“獨(dú)立意志”都是被人為地通過(guò)算法加持,人工智能自身可以成為財(cái)產(chǎn),但難以成為財(cái)產(chǎn)的所有權(quán)人。

    2.民事權(quán)利能力說(shuō)

    德國(guó)的民法學(xué)者漢斯·布洛克斯(Hans Brox)和沃爾夫·迪特里?!ね郀柨耍╓olf-Dietrich Walker)認(rèn)為,權(quán)利以權(quán)利主體為前提?!兜聡?guó)民法典》將權(quán)利主體稱為人,它包括自然人和法人,任何人都具有權(quán)利能力。包括嬰兒和精神病人在內(nèi)的任何人都可以是權(quán)利的主體,因?yàn)闄?quán)利能力無(wú)需人的參與,直接通過(guò)法律規(guī)定獲得。同時(shí)他們指出,“聰明的”動(dòng)物并非權(quán)利主體,比如指定狗為“繼承人”是無(wú)效的,因?yàn)樗粚儆谌祟怺31]。不難看出,兩位學(xué)者承認(rèn)了自然人和法人具有民事權(quán)利能力,但并未承認(rèn)此外的其他“物”可以具有民事權(quán)利能力。日本民法學(xué)者山本敬三在對(duì)權(quán)利能力進(jìn)行闡述時(shí)明確指出,權(quán)利能力是人固有的能力,只有人才有權(quán)利能力,人以外的主體,包括法人在內(nèi)不能成為權(quán)利的主體,只能成為權(quán)利的客體[32]。從以上分析不難看出,人工智能既不屬于自然人,也不屬于法律規(guī)定的享有民事權(quán)利能力的法人范疇,因此,人工智能不享有民事權(quán)利能力。ED1E4734-F179-45FD-8F81-33248B016491

    3.獨(dú)立意志說(shuō)

    獨(dú)立意志的表達(dá)是區(qū)分人與其他動(dòng)物的明顯標(biāo)準(zhǔn)。自然人的獨(dú)立意志表達(dá)體現(xiàn)在民法領(lǐng)域,即人心的意思自治。日本學(xué)者星野英一認(rèn)為,個(gè)人的意思自治意味著個(gè)人有加入或不加入某種法律關(guān)系的自由,以及有決定該法律關(guān)系內(nèi)容的自由[33]。鑒于權(quán)利的重要性,自19世紀(jì)以來(lái),德國(guó)學(xué)者就致力于探究權(quán)利的本質(zhì)。薩維尼(Savigny)及文德賽(Winscheid)兩位偉大的法學(xué)家首先提出了意思力(Willensmacht)或意思支配(Willensherrschaft)說(shuō),認(rèn)為權(quán)利為個(gè)人意思自由活動(dòng)或個(gè)人意思所能支配的范圍。民法以人為本位,人為權(quán)利義務(wù)的主體,傳統(tǒng)民法以權(quán)利為核心概念,此乃個(gè)人主義權(quán)利本位的思考方法。為了解權(quán)利的意義及功能,宜將之納入法律關(guān)系中加以觀察。法律關(guān)系存在于人與人之間[34]。獨(dú)立意志論使得人工智能承擔(dān)責(zé)任這一現(xiàn)實(shí)問(wèn)題難以實(shí)現(xiàn),不能將人工智能的自主意識(shí)與自然人的獨(dú)立意志相混淆。一般而言,人工智能具備一定的意識(shí),該意識(shí)目前也是由程序提前內(nèi)設(shè)而成,人工智能不能作為法律主體的根本原因在于,其自主意識(shí)不能被人類社會(huì)的法律制度所調(diào)節(jié),也不能獨(dú)立處理民事法律關(guān)系。

    4.功能說(shuō)

    功能說(shuō)認(rèn)為,法律主體之所以能成為法律主體,其核心原因在于立法者的選擇。首先,在法律上賦予自然人平等的地位,不僅是自然法精神的體現(xiàn),也是法律公平理念的弘揚(yáng)。這是自然人民事主體地位確立的價(jià)值基礎(chǔ)。其次,法律之所以確立自然人的民事主體地位,根本原因在于其在社會(huì)發(fā)展中具有重要功能。功能說(shuō)認(rèn)為,民事主體被設(shè)立的根本目的在于實(shí)現(xiàn)社會(huì)所需的必要功能或需求,而這種功能或需求必須要其通過(guò)參與一定的民事法律關(guān)系才能實(shí)現(xiàn),因此可以說(shuō),賦予其民事主體地位是當(dāng)然的[35]。而判斷這種需求或者存在基礎(chǔ)的標(biāo)準(zhǔn)是什么,學(xué)界則持不同意見。有學(xué)者認(rèn)為,是否賦予一個(gè)自主運(yùn)作的人工智能實(shí)體或機(jī)器人一定的法律主體性,將取決于社會(huì)和經(jīng)濟(jì)需求的必要性,尤其是文化和法律接受程度[36]。還有學(xué)者認(rèn)為,從社會(huì)公益的角度考慮與人工智能有關(guān)的因素,則可以從如下幾個(gè)方面進(jìn)行考量:(1)可證實(shí)性和增量部署;(2)防止操縱預(yù)測(cè)因素的保障措施;(3)接受者語(yǔ)境的干預(yù);(4)接受者語(yǔ)境的解釋和透明的目的;(5)隱私保護(hù)和數(shù)據(jù)主體同意;(6)情景公平以及人類友好的語(yǔ)義化[37]。功能說(shuō)本質(zhì)上認(rèn)為需求即目的,賦予其主體資格只不過(guò)是必要的手段,而這其實(shí)是對(duì)“存在即合理”的錯(cuò)誤理解,況且人工智能目前也并未處于作為法律主體才能解決法律糾紛這條唯一的道路上,因此,這種需求也是一種人為的“制造需求”。

    (二)人工智能法律主體判斷標(biāo)準(zhǔn)的實(shí)質(zhì)要件

    前述分析了目前主流的幾種法律主體的判斷標(biāo)準(zhǔn)。人工智能能否成為適格的法律主體,應(yīng)當(dāng)從民事主體適格性的基本法學(xué)理論及法律構(gòu)成要件加以全面考察。

    1.人工智能的獨(dú)立意志

    獨(dú)立意志主要是指實(shí)施行為的主動(dòng)性,不受外部因素的影響和支配。獨(dú)立意志是民事主體實(shí)施法律行為的重要條件。然而,自由意志不能簡(jiǎn)單地限縮在自然人這個(gè)層面,如果以自然人的自由意志作為民事主體的自由意志標(biāo)準(zhǔn),便沒(méi)有討論的意義與價(jià)值,未來(lái)也不可能在這一標(biāo)準(zhǔn)之下擴(kuò)展更多的法律主體。法人本質(zhì)上也是人的集合,其背后代表了多數(shù)人的獨(dú)立意志。但是,目前人工智能并不是集合了多數(shù)人的自由意志進(jìn)行民事活動(dòng),而是通過(guò)人獨(dú)立意志之下的程序設(shè)置,借由算法實(shí)現(xiàn)特定任務(wù),而這些特定任務(wù)處在民事法律關(guān)系中。有學(xué)者主張,從與人工智能發(fā)揮功能和完成特定任務(wù)緊密相關(guān)的算法能否與生產(chǎn)者和設(shè)計(jì)者相分離來(lái)判斷人工智能是否有獨(dú)立意志[38]。此種主張具有一定的合理性,然而問(wèn)題在于,這種分離究竟需要多大的程度呢?下圍棋的“阿爾法狗”下出遠(yuǎn)超人類所能理解的棋路,這可以算作一種分離嗎?實(shí)際上,在算法程序基礎(chǔ)上,人工智能依靠深度學(xué)習(xí),最終所能達(dá)到的是設(shè)計(jì)者或生產(chǎn)者在最初賦予其特定任務(wù)的情況下解決該任務(wù)的完美狀態(tài)。雖然這種完美狀態(tài)或許并非在設(shè)計(jì)者或生產(chǎn)者的預(yù)期之內(nèi),但是其本身并沒(méi)有跳出這個(gè)任務(wù)設(shè)定的范圍,其上限是已經(jīng)固定的,不同的是能不能找到解決任務(wù)的最優(yōu)解。算法仍是人工智能的核心工作環(huán)節(jié),人工智能所謂的“獨(dú)立意志”都是算法作用的結(jié)果,因此,人工智能的自主性實(shí)質(zhì)上是一種被動(dòng)意志下的自主性。根據(jù)前述人工智能的劃分標(biāo)準(zhǔn),顯然“小數(shù)據(jù)+大任務(wù)范式”這一高一級(jí)的人工智能證明了目前的“大數(shù)據(jù)+小任務(wù)范式”的人工智能不具備獨(dú)立意志。

    2.人工智能的意思能力

    意思能力是辨認(rèn)自己行為的能力,是形成意志的心里能力。意思能力按照是否為法律所承認(rèn),可分為哲學(xué)上的意思能力和法律上的意思能力,法律主體是法律上意志的存在形式,意思資格屬于法學(xué)范疇,是法律主體之必要條件。意思能力非法律規(guī)定,屬事實(shí)能力,但法律上的意思能力為法律能力[39]。有學(xué)者認(rèn)為,意思能力是自然人認(rèn)識(shí)自己行為的動(dòng)機(jī)與結(jié)果,并根據(jù)此認(rèn)識(shí)決定其正常的意思之能力,其為賦予自然人行為能力的前提[40]。因而,判斷人工智能是否具有意思能力,可以從動(dòng)機(jī)的角度進(jìn)行考察。目前,“大數(shù)據(jù)+小任務(wù)范式”的人工智能缺乏因果性認(rèn)知推理能力,而動(dòng)機(jī)正是掌握因果鏈條的結(jié)果之一,只有具備了因果性的推理能力,人工智能才能明確知道一個(gè)動(dòng)機(jī)如何實(shí)現(xiàn)以及實(shí)現(xiàn)的效果如何,進(jìn)而才能將動(dòng)機(jī)表達(dá)于外形成意思表示。目前的人工智能盡管在語(yǔ)言通訊方面發(fā)展迅猛,但是其進(jìn)行的所謂意思表示的基礎(chǔ)是程序算法,不具備內(nèi)生性的意思能力。

    3.人工智能的責(zé)任能力

    人工智能自身并不占有或者控制任何獨(dú)立財(cái)產(chǎn),因此,人工智能缺乏承擔(dān)民事責(zé)任的物質(zhì)基礎(chǔ)。由于人工智能不具備獨(dú)立意志,其所作出的處分財(cái)產(chǎn)的行為實(shí)為人工智能控制人的意思表示,因而法律關(guān)系的主體應(yīng)是其背后的人。同時(shí),也無(wú)法參考非法人組織出資人、設(shè)立人承擔(dān)無(wú)限連帶責(zé)任的規(guī)定,將人工智能產(chǎn)生的損害結(jié)果追溯到生產(chǎn)者、設(shè)計(jì)者反而更具有可操作性,也具有相應(yīng)的理論基礎(chǔ)。民事責(zé)任能力是民事主體違反法律規(guī)定而承擔(dān)相應(yīng)的民事責(zé)任的能力。但是如前文所述,目前人工智能不具備較強(qiáng)的因果性認(rèn)知推理能力,因此,也就不具備承擔(dān)責(zé)任的可能性。此外,為人工智能設(shè)立保險(xiǎn)或者擔(dān)?;鹪诜蓪?shí)踐中也不具備可操作性。以自動(dòng)駕駛汽車為例,設(shè)立保險(xiǎn)或者擔(dān)?;穑湄?cái)產(chǎn)的源頭還是要追溯到“人”。不能忽視的是,人工智能仍然是指人工智能產(chǎn)品,強(qiáng)如制造人形機(jī)器人的波士頓動(dòng)力公司(Boston Dynamics)也并未將其研發(fā)的智能機(jī)器人視為人,而認(rèn)為是輔助人類的工具?,F(xiàn)階段人工智能仍然不具備承擔(dān)責(zé)任的能力。ED1E4734-F179-45FD-8F81-33248B016491

    4.人工智能的理性基礎(chǔ)

    人是目的,而非手段。近代民法從康德哲學(xué)體系中抽象出了“人以外全是物”之理念,導(dǎo)致了“人”與“物”的二元對(duì)立[41]。以“理性”作為劃分民事主體與客體的基本標(biāo)準(zhǔn),是民事法律制度中“理性本位”理念的具體表現(xiàn)之一[42]。人工智能不具備人所具有的規(guī)范性認(rèn)知能力,其深度學(xué)習(xí)所依據(jù)的規(guī)則并非法律和道德意義上的規(guī)范性規(guī)則,而是邏輯語(yǔ)言,且無(wú)法認(rèn)識(shí)到事物背后所承載的法律意義和法律后果。換言之,人工智能缺乏多場(chǎng)景乃至全場(chǎng)景的認(rèn)知推理能力,且這種能力是從事民事活動(dòng)所必備的。

    人之所以是理性的,是因?yàn)槿藢?duì)于其所從事的行為有“應(yīng)不應(yīng)當(dāng)”的基本判斷,這種判斷取決于人的經(jīng)驗(yàn)、道德水準(zhǔn)、教育水平等多種因素,而人工智能則缺乏此類判斷,其行為模式是線性的、不可逆的。這里的不可逆并非指其任務(wù)無(wú)法終止,而是指其任務(wù)是否終止取決于算法下達(dá)的最后指令,而沒(méi)有自身的理性判斷參與其中。有學(xué)者指出,智能機(jī)器人通過(guò)預(yù)設(shè)算法可以獲得類似于理性選擇的結(jié)果,但這種“理性”只是對(duì)人類倫理道德的模擬[43]。盡管法律規(guī)范人的行為的原因有多種學(xué)說(shuō),但是本質(zhì)上法律規(guī)范與人的理性判斷是一致的,而人工智能因?yàn)椴痪邆洫?dú)立意志,理性也就無(wú)從談起。通過(guò)算法是否可以擬合成某種理性呢?理論上是可行的。但是一旦要求算法理性拓展到人類社會(huì)的方方面面,那就遠(yuǎn)遠(yuǎn)超過(guò)了人工智能的極限,彼時(shí)再討論人工智能是否具有法律主體的適格性或許已不再那么重要,更緊迫的是自然人以及人類社會(huì)的安全問(wèn)題。

    5.人工智能法律主體適格性的社會(huì)基礎(chǔ)

    賦予人工智能法律主體適格性應(yīng)當(dāng)滿足基本的利益平衡要求,或者至少不會(huì)影響到特定人群的利益,應(yīng)從平衡整體利益的角度,去考慮是否應(yīng)當(dāng)從法律上確認(rèn)其法律主體的資格。以目前的發(fā)展來(lái)看,人工智能還達(dá)不到其所被要求的“社會(huì)重要性”。學(xué)者們認(rèn)為,“社會(huì)重要性”是將法律人格擴(kuò)展到新對(duì)象的根本驅(qū)動(dòng)所在[44]。人工智能要想獲得社會(huì)基礎(chǔ),首要前提是取得社會(huì)的“價(jià)值共識(shí)”。價(jià)值共識(shí)蘊(yùn)含著價(jià)值排序,指導(dǎo)民事主體在進(jìn)行民事活動(dòng)時(shí)的基本價(jià)值判斷,并且在某些特殊情況下給予緩沖地帶,如緊急避險(xiǎn)等。然而價(jià)值排序因人而異,也因環(huán)境的變化而變化,這在本質(zhì)上還需要一個(gè)“小數(shù)據(jù)+大任務(wù)范式”的認(rèn)知架構(gòu),只不過(guò)是將解決任務(wù)換成了價(jià)值衡量。

    六、結(jié) 論

    對(duì)于人工智能法律主體適格性面臨的諸多困境,筆者嘗試?yán)迩辶伺c人工智能法律主體資格相關(guān)的主要法律問(wèn)題,認(rèn)為應(yīng)當(dāng)在法律場(chǎng)域中尋找人工智能的界定與劃分標(biāo)準(zhǔn),同時(shí)分析了今后人工智能的發(fā)展趨勢(shì)。面對(duì)現(xiàn)有標(biāo)準(zhǔn)的適用困境,筆者對(duì)目前人工智能法律主體適格性的判斷持否定態(tài)度,人工智能主體在獨(dú)立意志、意思能力、責(zé)任能力、理性基礎(chǔ)、社會(huì)基礎(chǔ)方面均無(wú)法達(dá)到可被賦予法律主體資格的標(biāo)準(zhǔn)。“數(shù)字經(jīng)濟(jì)+算法”時(shí)代[

    即數(shù)字經(jīng)濟(jì)與人工智能的深度融合應(yīng)用時(shí)代,是數(shù)字經(jīng)濟(jì)更深層次的發(fā)展階段。(參見祝高峰:《論數(shù)智經(jīng)濟(jì)時(shí)代重要數(shù)據(jù)安全的法律保護(hù)》,《社會(huì)科學(xué)家》2021年第11期,第111頁(yè))],自然人仍然是構(gòu)成社會(huì)最基本的要素,其屬性是唯一的,具有不可替代性。法人具有的民事主體資格源于法人的構(gòu)成要件和法律規(guī)定。不論人工智能的“智力”多高,亦不同于法人和自然人,不能成為法律意義上的“人”。

    參考文獻(xiàn):

    [1] DREMLIUGA R I, YU M A, DREMLIUGA O A, et al. Artificial Intelligence as A Subject of Law: Pros and Cons[J]. Dilemas Contemporóneos:Educaciín,Política y Valores,2019(1):1.

    [2] 袁洋.人工智能的民事法律主體地位及民事責(zé)任問(wèn)題研究[J].中州學(xué)刊,2019(8):65.

    [3] 彭中禮.人工智能法律主體地位新論[J].甘肅社會(huì)科學(xué),2019(4):105.

    [4] 郭劍平.制度變遷史視域下人工智能法律主體地位的法理詮釋[J].北方法學(xué),2020(6):128-129.

    [5] 張善根.人工智能從屬法律主體論的理論基礎(chǔ)與技術(shù)甄別[J].求索,2021(6):172.

    [6] 韓旭至.人工智能法律主體批判[J].安徽大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2019(4):76.

    [7] 梅夏英.民事主體的抽象度問(wèn)題及其對(duì)私法體系的影響[J].經(jīng)貿(mào)法律評(píng)論,2019(1):89.

    [8] 吳漢東.私法研究:第4卷[M].北京:中國(guó)政法大學(xué)出版社,2004:181.

    [9] GESETZBUCH B.德國(guó)民法典[M].陳衛(wèi)佐,譯.3版.北京:法律出版社,2010:31.

    [10]深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司與上海乾衡信息技術(shù)有限公司侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛一審民事判決書[EB/OL].(2021-01-04)[2021-12-30].https://aiqicha.baidu.com/wenshu?wenshuId=1bb852c8eccfa2589d8ec1ab4ca7aaafc3f8ad8c.

    [11]Robots: Legal Affairs Committee Calls for EU-wide Rules[EB/OL].(2017-12-01)[2021-12-30].http://www.europarl.europa.eu/news/en/press-room/20170110IPR57613/robots-legal-affairs-committee-calls-for-eu-wide-rules.

    [12]石冠彬.人工智能民事主體資格論:不同路徑的價(jià)值抉擇[J].西南民族大學(xué)學(xué)報(bào)(人文社科版),2019(12):95.ED1E4734-F179-45FD-8F81-33248B016491

    [13]SOLAIMAN S M. Legal Personality of Robots, Corporations, Idols and Chimpanzees: A Quest for Legitimacy[J]. Artificial Intelligence and Law,2017(2):171-172.

    [14]武海麗.初識(shí)人工智能[J].科技創(chuàng)新導(dǎo)報(bào),2009(2):196.

    [15]RUSSELL S J, NORVIG P. Artificial Intelligence: A Modern Approach [M]. 4th ed.London: Pearson,2021:20-22.

    [16]祝高峰.論人工智能領(lǐng)域個(gè)人信息安全法律保護(hù)[J].重慶大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2020(4):151.

    [17]賀栩溪.人工智能的法律主體資格研究[J].電子政務(wù),2019(2):108.

    [18]ZHU Y X, GAO T, FAN L F, et al. Dark, Beyond Deep: A Paradigm Shift to Cognitive AI with Humanlike Common Sense [J].Engineering,2020(3):311-312.

    [19]RENDA A.Artificial Intelligence:Ethics,Governance and Policy Challenges[M].Brussels: Centre for European Policy Studies,2019:16.

    [20]HERBERT B. Artificial Intelligence: Benefits and Unknown Risks[J].Judges Journal,2021(1):41.

    [21]KASTE M. Facebook Increasingly Reliant on A.I. to Predict Suicide Risk[EB/OL].(2018-11-17)[2022-01-30]. https://www.npr.org/2018/11/17/668408122/facebook-increasingly-reliant-on-a-i-to-predict-suicide-risk.

    [22]龍文懋.人工智能法律主體地位的法哲學(xué)思考[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2018(5):26.

    [23]孫偉平,戴益斌.關(guān)于人工智能主體地位的哲學(xué)思考[J].社會(huì)科學(xué)戰(zhàn)線,2018(7):16.

    [24]許中緣.論智能機(jī)器人的工具性人格[J].法學(xué)評(píng)論,2018(5):162.

    [25]袁曾.人工智能有限法律人格審視[J].東方法學(xué),2017(5):55.

    [26]盧鵬.法律擬制正名[J].比較法研究,2005(1):139.

    [27]李永軍.民法上的人及其理性基礎(chǔ)[J].法學(xué)研究,2005(5):21.

    [28]張紹欣.法律位格、法律主體與人工智能的法律地位[J].現(xiàn)代法學(xué),2019(4):60.

    [29]佟柔.中國(guó)民法[M].北京:法律出版社,1990:63.

    [30]唐偉元.論民事主體的判斷標(biāo)準(zhǔn)[J].科技創(chuàng)新導(dǎo)報(bào),2008(18):126.

    [31]漢斯·布洛克斯,沃爾夫·迪特里希·瓦爾克.德國(guó)民法總論[M].張艷,譯.33版.北京:中國(guó)人民大學(xué)出版社,2012:418.

    [32]山本敬三.民法講義Ⅰ:總則[M].解亙,譯.3版.北京:北京大學(xué)出版社,2012:25.

    [33]星野英一.現(xiàn)代民法基本問(wèn)題[M].段匡,楊永莊,譯.上海:上海三聯(lián)書店,2012:108.

    [34]王澤鑒.民法總則[M].北京:北京大學(xué)出版社,2016:90-94.

    [35]馬俊駒,宋剛.民事主體功能論——兼論國(guó)家作為民事主體[J].法學(xué)家,2003(6):63.

    [36]CORRALES M, FENWICK M, FORG N. Robotics, AI and the Future of Law[M].Singapore: Springer, 2018:18.

    [37]FLORIDI L. Ethics, Governance, and Policies in Artificial Intelligence[M].Cham:Springer,2021:127.

    [38]彭誠(chéng)信,陳吉棟.論人工智能體法律人格的考量要素[J].當(dāng)代法學(xué),2019(2):56.

    [39]李錫鶴.民法哲學(xué)論稿[M].2版.上海:復(fù)旦大學(xué)出版社,2009:112.

    [40]梁慧星.民法總論[M].4版.北京:法律出版社,2011:67.

    [41]劉云生.近代人格理論建構(gòu)與人工智能民法定位[J].人工智能法學(xué)研究,2018(1):75.

    [42]徐國(guó)棟.從身份到理性——現(xiàn)代民法中的行為能力制度沿革考[J].法律科學(xué)(西北政法學(xué)院學(xué)報(bào)),2006(4):72.

    [43]劉繼虎,王琛揚(yáng).智能機(jī)器人法律主體地位之探討[J].重慶郵電大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2021(2):79.

    [44]NOSWORTHY J. The Koko Dilemma: A Challenge to Legal Personality[J].Southern Cross University Law Review,1998(2):13.ED1E4734-F179-45FD-8F81-33248B016491

    On Rethink and Negative Justification of the Eligibilityof the Legal Subject of Artificial Intelligence

    ZHU Gaofeng, YIN Zhiyang

    (Law School/School of Intellectual Property, Guilin University of Electronic Technology, Guilin 541004, China)

    Abstract:

    In the era of digital economy, legal problems caused by the deep application of artificial intelligence technology emerge one after another. In 2017, the State Council proposed to clarify the legal subject status of artificial intelligence in the “New Generation Artificial Intelligence Development Plan”. The identification of the legal subject status of artificial intelligence is the “key” to solve other legal issues related to artificial intelligence. The clarification of the eligibility of the legal subject of artificial intelligence is closely related to the definition of the generation content of artificial intelligence, the identification of tort liability, the ability to bear responsibility and the application of punishment standards. The existing research on the legal subject status of artificial intelligence is mainly based on the debate between the affirmative theory and the negative theory of the subject-object dichotomy. The research on the eligibility of artificial intelligence legal subject should be traced back to the origin of legal theory, and the reason can be known only by analyzing the constituent elements of the eligibility of civil subject itself.

    Keywords:

    artificial intelligence; legal subject; eligibility; judgment standard; negative justification

    (編輯:劉仲秋)

    收稿日期:2022-01-27? 修訂日期:2022-03-07

    基金項(xiàng)目:

    廣西哲學(xué)社會(huì)科學(xué)規(guī)劃研究課題:中國(guó)東盟信息港數(shù)據(jù)安全法律保障研究(20BFX002);桂林電子科技大學(xué)英才計(jì)劃資助項(xiàng)目

    作者簡(jiǎn)介:

    祝高峰,副教授,碩士生導(dǎo)師,法學(xué)博士,主要從事網(wǎng)絡(luò)數(shù)據(jù)法、知識(shí)產(chǎn)權(quán)法研究,E-mail:845021165@qq.com;尹智揚(yáng),碩士研究生,主要從事網(wǎng)絡(luò)數(shù)據(jù)法、知識(shí)產(chǎn)權(quán)法研究,E-mail:1064200240@qq.com。ED1E4734-F179-45FD-8F81-33248B016491

    猜你喜歡
    民事主體人工智能
    論自然人破產(chǎn)法的適用主體
    民事推定適用的邏輯及其展開
    論民事共同訴訟的識(shí)別進(jìn)路
    法律方法(2021年4期)2021-03-16 05:35:18
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    加強(qiáng)民事調(diào)解 維護(hù)社會(huì)穩(wěn)定
    紅土地(2016年6期)2017-01-15 13:45:54
    下一幕,人工智能!
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    民事保全:價(jià)值回歸與平等保護(hù)
    一本综合久久免费| 久久精品综合一区二区三区| 亚洲专区中文字幕在线| 国产激情偷乱视频一区二区| 亚洲人成网站在线播| 最近在线观看免费完整版| 亚洲性夜色夜夜综合| 男女床上黄色一级片免费看| 国产久久久一区二区三区| 久久精品综合一区二区三区| 欧美日本亚洲视频在线播放| 在线观看免费视频日本深夜| 无限看片的www在线观看| 特级一级黄色大片| www日本在线高清视频| 好看av亚洲va欧美ⅴa在| 亚洲在线自拍视频| 欧美极品一区二区三区四区| 亚洲欧美日韩高清专用| av女优亚洲男人天堂| 国产美女午夜福利| 三级毛片av免费| 熟女人妻精品中文字幕| 午夜精品久久久久久毛片777| 18禁黄网站禁片午夜丰满| 日本撒尿小便嘘嘘汇集6| 久久精品国产99精品国产亚洲性色| 99久久综合精品五月天人人| 老司机午夜十八禁免费视频| 在线免费观看不下载黄p国产 | 在线国产一区二区在线| 可以在线观看毛片的网站| 真实男女啪啪啪动态图| 真实男女啪啪啪动态图| 午夜精品一区二区三区免费看| 国产成人av激情在线播放| 日本一本二区三区精品| 尤物成人国产欧美一区二区三区| 亚洲男人的天堂狠狠| 99久国产av精品| 亚洲人与动物交配视频| 精品欧美国产一区二区三| 国产真实乱freesex| 免费看十八禁软件| 午夜免费激情av| 男人的好看免费观看在线视频| 亚洲最大成人手机在线| 禁无遮挡网站| av女优亚洲男人天堂| 成人性生交大片免费视频hd| 黄色片一级片一级黄色片| 欧美日韩福利视频一区二区| 日韩亚洲欧美综合| 18禁黄网站禁片午夜丰满| av片东京热男人的天堂| 成年女人毛片免费观看观看9| 特大巨黑吊av在线直播| 午夜久久久久精精品| 国产色婷婷99| 窝窝影院91人妻| netflix在线观看网站| 岛国在线观看网站| 少妇熟女aⅴ在线视频| 两性午夜刺激爽爽歪歪视频在线观看| 国内精品一区二区在线观看| 免费看光身美女| 免费无遮挡裸体视频| 网址你懂的国产日韩在线| 亚洲专区国产一区二区| 一区二区三区激情视频| 国产爱豆传媒在线观看| 国产野战对白在线观看| 男女下面进入的视频免费午夜| 久久久久久久久大av| 亚洲精品色激情综合| 久久久久久国产a免费观看| 露出奶头的视频| 欧美成人性av电影在线观看| 夜夜爽天天搞| 中亚洲国语对白在线视频| 两个人视频免费观看高清| 性色av乱码一区二区三区2| 中亚洲国语对白在线视频| 一本久久中文字幕| 久99久视频精品免费| 免费在线观看成人毛片| e午夜精品久久久久久久| 成人鲁丝片一二三区免费| 亚洲一区高清亚洲精品| 国产v大片淫在线免费观看| www国产在线视频色| 亚洲av电影不卡..在线观看| 尤物成人国产欧美一区二区三区| 尤物成人国产欧美一区二区三区| 国产 一区 欧美 日韩| 亚洲在线自拍视频| 人人妻人人看人人澡| 久久精品亚洲精品国产色婷小说| 少妇高潮的动态图| 欧美区成人在线视频| 免费在线观看影片大全网站| 亚洲自拍偷在线| 精华霜和精华液先用哪个| 97超视频在线观看视频| 1000部很黄的大片| 亚洲中文字幕一区二区三区有码在线看| 18+在线观看网站| 午夜视频国产福利| 国产高清videossex| 成人一区二区视频在线观看| 好看av亚洲va欧美ⅴa在| 白带黄色成豆腐渣| 在线观看66精品国产| 亚洲 欧美 日韩 在线 免费| 国产99白浆流出| 精品久久久久久,| 日本与韩国留学比较| 国产亚洲精品一区二区www| 久久精品国产亚洲av涩爱 | 国产一区二区亚洲精品在线观看| 国产一区二区三区在线臀色熟女| 欧美性感艳星| 日日干狠狠操夜夜爽| 日韩高清综合在线| 国产精品嫩草影院av在线观看 | 中文字幕高清在线视频| 亚洲国产日韩欧美精品在线观看 | 在线观看美女被高潮喷水网站 | 亚洲精品成人久久久久久| 亚洲av美国av| 噜噜噜噜噜久久久久久91| 最近最新中文字幕大全免费视频| 真人一进一出gif抽搐免费| 美女高潮的动态| 国产精品永久免费网站| 人妻丰满熟妇av一区二区三区| 香蕉久久夜色| 精品国产超薄肉色丝袜足j| 亚洲成人精品中文字幕电影| 黄色女人牲交| 亚洲内射少妇av| 中亚洲国语对白在线视频| 热99re8久久精品国产| 亚洲久久久久久中文字幕| 国产精品一区二区免费欧美| 日日夜夜操网爽| 又黄又粗又硬又大视频| 老汉色∧v一级毛片| 日韩欧美精品v在线| 天堂动漫精品| 亚洲aⅴ乱码一区二区在线播放| av女优亚洲男人天堂| 99久久综合精品五月天人人| 脱女人内裤的视频| 99久久九九国产精品国产免费| 大型黄色视频在线免费观看| 亚洲精品成人久久久久久| 五月玫瑰六月丁香| 欧美激情在线99| 亚洲人成伊人成综合网2020| 99久久成人亚洲精品观看| 麻豆一二三区av精品| 波野结衣二区三区在线 | 国产黄a三级三级三级人| 夜夜爽天天搞| 国产日本99.免费观看| 高清在线国产一区| 亚洲午夜理论影院| 亚洲国产高清在线一区二区三| 村上凉子中文字幕在线| 深夜精品福利| 国产精品久久久久久人妻精品电影| 在线观看免费午夜福利视频| 国产精品 欧美亚洲| 亚洲av中文字字幕乱码综合| av福利片在线观看| 日韩欧美国产一区二区入口| 日本精品一区二区三区蜜桃| 夜夜爽天天搞| x7x7x7水蜜桃| 国产精品电影一区二区三区| 一级黄色大片毛片| 国产三级在线视频| 亚洲内射少妇av| 91久久精品国产一区二区成人 | 观看免费一级毛片| 欧美日韩国产亚洲二区| 一进一出抽搐gif免费好疼| 国产伦精品一区二区三区视频9 | 亚洲欧美日韩高清专用| 色尼玛亚洲综合影院| 中文字幕高清在线视频| 日韩中文字幕欧美一区二区| 中文字幕人成人乱码亚洲影| 亚洲精品国产精品久久久不卡| 最后的刺客免费高清国语| 性欧美人与动物交配| 国产伦精品一区二区三区四那| 久久国产精品影院| av天堂在线播放| 亚洲熟妇中文字幕五十中出| 老鸭窝网址在线观看| 国产精品亚洲av一区麻豆| 在线国产一区二区在线| 亚洲中文字幕一区二区三区有码在线看| 男女做爰动态图高潮gif福利片| 亚洲熟妇中文字幕五十中出| 国产精品久久视频播放| 亚洲一区高清亚洲精品| 99久久精品一区二区三区| 激情在线观看视频在线高清| 国产一区二区三区视频了| 国产高清激情床上av| 51午夜福利影视在线观看| 一进一出抽搐动态| 一本精品99久久精品77| 欧美精品啪啪一区二区三区| 日本五十路高清| 国产精品一区二区三区四区久久| 18禁裸乳无遮挡免费网站照片| 非洲黑人性xxxx精品又粗又长| 制服人妻中文乱码| 又黄又爽又免费观看的视频| 男人舔奶头视频| 亚洲精品美女久久久久99蜜臀| 色精品久久人妻99蜜桃| 精品日产1卡2卡| 在线播放无遮挡| 亚洲国产高清在线一区二区三| 一区福利在线观看| 日本免费a在线| 免费在线观看成人毛片| 国产 一区 欧美 日韩| 老司机在亚洲福利影院| 丁香欧美五月| 18禁在线播放成人免费| 久9热在线精品视频| 亚洲在线自拍视频| 午夜两性在线视频| av天堂在线播放| 国产精品三级大全| 久久九九热精品免费| www国产在线视频色| 亚洲成av人片在线播放无| av在线蜜桃| 精品乱码久久久久久99久播| 女人十人毛片免费观看3o分钟| 97超级碰碰碰精品色视频在线观看| 99精品在免费线老司机午夜| 精品国产超薄肉色丝袜足j| 国产精品av视频在线免费观看| 欧美在线一区亚洲| 欧美丝袜亚洲另类 | 男人舔女人下体高潮全视频| 制服丝袜大香蕉在线| 少妇人妻精品综合一区二区 | 午夜影院日韩av| 嫩草影院精品99| 18禁黄网站禁片午夜丰满| 窝窝影院91人妻| 亚洲成人久久性| 久久精品影院6| 一本一本综合久久| 天堂影院成人在线观看| 欧美不卡视频在线免费观看| 成人三级黄色视频| 观看美女的网站| 亚洲成a人片在线一区二区| 色综合婷婷激情| 国产三级中文精品| 亚洲精品粉嫩美女一区| 欧美色视频一区免费| 精品久久久久久久久久免费视频| 99视频精品全部免费 在线| 99久久精品热视频| 母亲3免费完整高清在线观看| 中出人妻视频一区二区| 国产精品国产高清国产av| 日本 av在线| 免费搜索国产男女视频| 色av中文字幕| 99国产精品一区二区三区| 精品人妻1区二区| 90打野战视频偷拍视频| 中文字幕精品亚洲无线码一区| 午夜精品一区二区三区免费看| 身体一侧抽搐| 亚洲内射少妇av| 操出白浆在线播放| 99久久精品一区二区三区| 又粗又爽又猛毛片免费看| 九九热线精品视视频播放| 很黄的视频免费| 国产在线精品亚洲第一网站| 天堂av国产一区二区熟女人妻| www.www免费av| 精品一区二区三区视频在线观看免费| 老司机福利观看| 亚洲熟妇中文字幕五十中出| 1000部很黄的大片| 日韩 欧美 亚洲 中文字幕| 一个人免费在线观看电影| 精品午夜福利视频在线观看一区| 久久精品亚洲精品国产色婷小说| 亚洲欧美日韩无卡精品| 狠狠狠狠99中文字幕| 一卡2卡三卡四卡精品乱码亚洲| 欧美+日韩+精品| 五月伊人婷婷丁香| 最近最新免费中文字幕在线| 观看免费一级毛片| 动漫黄色视频在线观看| 欧美黑人欧美精品刺激| 午夜精品久久久久久毛片777| 真人做人爱边吃奶动态| 免费在线观看影片大全网站| 亚洲内射少妇av| 免费在线观看亚洲国产| 亚洲一区二区三区不卡视频| 搡老岳熟女国产| 色播亚洲综合网| 久久久久精品国产欧美久久久| 一级黄色大片毛片| 五月玫瑰六月丁香| 国产真实乱freesex| 国产亚洲精品综合一区在线观看| 精品人妻1区二区| 91在线精品国自产拍蜜月 | 日本五十路高清| 亚洲七黄色美女视频| 欧美日本视频| 亚洲乱码一区二区免费版| 18禁在线播放成人免费| 人妻久久中文字幕网| 国产精品乱码一区二三区的特点| 久久亚洲精品不卡| 成人无遮挡网站| 男女那种视频在线观看| 91久久精品电影网| 国内毛片毛片毛片毛片毛片| 色尼玛亚洲综合影院| 日本免费一区二区三区高清不卡| 亚洲熟妇熟女久久| 黄色片一级片一级黄色片| 精品国内亚洲2022精品成人| 日韩欧美国产一区二区入口| 在线观看美女被高潮喷水网站 | 91久久精品国产一区二区成人 | 在线观看免费视频日本深夜| 亚洲av免费在线观看| 日韩亚洲欧美综合| 人人妻人人看人人澡| 在线视频色国产色| 免费看十八禁软件| 免费在线观看日本一区| 精品人妻1区二区| 亚洲国产精品成人综合色| 午夜精品一区二区三区免费看| 波多野结衣高清无吗| 国产伦人伦偷精品视频| 丰满人妻熟妇乱又伦精品不卡| 精品国产超薄肉色丝袜足j| 亚洲av电影在线进入| 成熟少妇高潮喷水视频| 在线观看免费视频日本深夜| 女生性感内裤真人,穿戴方法视频| 国产精品久久久久久久久免 | 观看免费一级毛片| 老熟妇仑乱视频hdxx| 免费看美女性在线毛片视频| 久久伊人香网站| 每晚都被弄得嗷嗷叫到高潮| 俄罗斯特黄特色一大片| www.熟女人妻精品国产| 日韩免费av在线播放| 亚洲av一区综合| 内地一区二区视频在线| 亚洲精品在线美女| 深爱激情五月婷婷| 亚洲第一电影网av| 1000部很黄的大片| 精品免费久久久久久久清纯| 久久伊人香网站| 国产爱豆传媒在线观看| 亚洲av第一区精品v没综合| 99热这里只有是精品50| 国产精品影院久久| 久久天躁狠狠躁夜夜2o2o| 日本一本二区三区精品| 成人国产一区最新在线观看| 男女之事视频高清在线观看| 级片在线观看| ponron亚洲| 久久久久久久精品吃奶| 精品一区二区三区av网在线观看| 亚洲精品一区av在线观看| 国产精品久久视频播放| 欧美高清成人免费视频www| 日韩欧美一区二区三区在线观看| 99精品久久久久人妻精品| 欧美日韩瑟瑟在线播放| 香蕉av资源在线| 国内精品久久久久久久电影| 波野结衣二区三区在线 | 亚洲国产色片| 国产成+人综合+亚洲专区| 亚洲精品色激情综合| 国产单亲对白刺激| 国产精品久久久久久久电影 | 亚洲欧美日韩高清在线视频| 欧美又色又爽又黄视频| 日日干狠狠操夜夜爽| 国产成人a区在线观看| 欧美av亚洲av综合av国产av| 日本一二三区视频观看| 国产成+人综合+亚洲专区| 色吧在线观看| 欧美3d第一页| 中文亚洲av片在线观看爽| 搡老妇女老女人老熟妇| 99久久成人亚洲精品观看| 日本与韩国留学比较| 亚洲av免费高清在线观看| www日本在线高清视频| 久久精品综合一区二区三区| 国产av一区在线观看免费| 日本五十路高清| 亚洲最大成人手机在线| 欧美乱色亚洲激情| 亚洲内射少妇av| 日本三级黄在线观看| 又粗又爽又猛毛片免费看| 一区二区三区免费毛片| 91在线观看av| 88av欧美| 欧美另类亚洲清纯唯美| av在线蜜桃| 精品久久久久久久末码| 亚洲国产欧美网| 亚洲av美国av| 色综合欧美亚洲国产小说| 老汉色∧v一级毛片| 国产主播在线观看一区二区| x7x7x7水蜜桃| 亚洲人成网站在线播放欧美日韩| 香蕉丝袜av| 日日夜夜操网爽| www.色视频.com| 国产97色在线日韩免费| 精品国产超薄肉色丝袜足j| 亚洲av第一区精品v没综合| 天堂av国产一区二区熟女人妻| 国产欧美日韩一区二区三| 欧美黄色淫秽网站| 国产爱豆传媒在线观看| 久久精品91无色码中文字幕| 亚洲无线观看免费| 哪里可以看免费的av片| 国产高清videossex| 亚洲美女黄片视频| 真人一进一出gif抽搐免费| h日本视频在线播放| 免费看美女性在线毛片视频| av专区在线播放| 黄片小视频在线播放| 午夜福利成人在线免费观看| 欧美又色又爽又黄视频| 亚洲欧美精品综合久久99| 麻豆久久精品国产亚洲av| 91久久精品国产一区二区成人 | 久久久久久人人人人人| 日韩欧美精品免费久久 | 成人国产综合亚洲| 一个人免费在线观看的高清视频| 淫妇啪啪啪对白视频| 久久婷婷人人爽人人干人人爱| 国产69精品久久久久777片| 男人舔奶头视频| 久久久久九九精品影院| 伊人久久精品亚洲午夜| 免费电影在线观看免费观看| 亚洲av电影不卡..在线观看| 人人妻人人澡欧美一区二区| 精品熟女少妇八av免费久了| 在线天堂最新版资源| 搡老妇女老女人老熟妇| 午夜免费男女啪啪视频观看 | 露出奶头的视频| 久久久精品大字幕| 国产精品久久久人人做人人爽| 成人亚洲精品av一区二区| 亚洲欧美日韩无卡精品| aaaaa片日本免费| 老汉色∧v一级毛片| 国产亚洲精品久久久com| 在线观看66精品国产| 亚洲av熟女| 熟妇人妻久久中文字幕3abv| 最近视频中文字幕2019在线8| 啦啦啦韩国在线观看视频| 九九久久精品国产亚洲av麻豆| 很黄的视频免费| 国产爱豆传媒在线观看| 亚洲欧美日韩高清专用| 国产午夜福利久久久久久| www.www免费av| 麻豆成人av在线观看| 狠狠狠狠99中文字幕| 欧美+日韩+精品| 90打野战视频偷拍视频| 天堂av国产一区二区熟女人妻| 变态另类丝袜制服| 久久久精品大字幕| 丰满人妻一区二区三区视频av | 99久久九九国产精品国产免费| 深爱激情五月婷婷| 国产伦在线观看视频一区| or卡值多少钱| 午夜免费男女啪啪视频观看 | 日本a在线网址| 欧美+日韩+精品| 国产精品日韩av在线免费观看| 免费观看精品视频网站| 国产精品,欧美在线| av黄色大香蕉| 久久99热这里只有精品18| 国产单亲对白刺激| av中文乱码字幕在线| 久久久久性生活片| 91字幕亚洲| 熟女人妻精品中文字幕| 日韩欧美 国产精品| av女优亚洲男人天堂| 国产午夜福利久久久久久| 十八禁人妻一区二区| 亚洲成人免费电影在线观看| 午夜老司机福利剧场| 全区人妻精品视频| 亚洲精品久久国产高清桃花| 日本熟妇午夜| 日本a在线网址| 亚洲国产精品合色在线| 51午夜福利影视在线观看| 好看av亚洲va欧美ⅴa在| 18禁在线播放成人免费| 亚洲无线观看免费| 国产精品精品国产色婷婷| 91在线观看av| 日韩欧美免费精品| 91在线观看av| 国内毛片毛片毛片毛片毛片| 特级一级黄色大片| 在线观看美女被高潮喷水网站 | 精品午夜福利视频在线观看一区| 色在线成人网| 老司机午夜福利在线观看视频| 亚洲国产精品sss在线观看| 欧美一级毛片孕妇| 欧美bdsm另类| 欧美极品一区二区三区四区| 久久精品国产自在天天线| 精品久久久久久成人av| 日本 av在线| 丰满人妻熟妇乱又伦精品不卡| 精品国产美女av久久久久小说| 国产精品 欧美亚洲| 免费av毛片视频| 国产在线精品亚洲第一网站| 亚洲18禁久久av| 啦啦啦韩国在线观看视频| 久久久久久久午夜电影| 色综合婷婷激情| 听说在线观看完整版免费高清| 亚洲无线观看免费| 亚洲av电影在线进入| 在线观看舔阴道视频| 超碰av人人做人人爽久久 | 国产真实伦视频高清在线观看 | 久久婷婷人人爽人人干人人爱| 国产成人欧美在线观看| 亚洲精品成人久久久久久| 亚洲久久久久久中文字幕| 免费av毛片视频| 天堂网av新在线| 丰满乱子伦码专区| 亚洲一区二区三区不卡视频| 免费观看人在逋| 免费无遮挡裸体视频| 国产成人影院久久av| 两个人的视频大全免费| 黄色片一级片一级黄色片| 精品人妻1区二区| 午夜福利成人在线免费观看| 婷婷六月久久综合丁香| 真实男女啪啪啪动态图| 女生性感内裤真人,穿戴方法视频| 色综合婷婷激情| 日本免费a在线| 亚洲av二区三区四区| 男插女下体视频免费在线播放| 国产免费一级a男人的天堂| 午夜激情福利司机影院| 日韩成人在线观看一区二区三区| 熟女少妇亚洲综合色aaa.| 免费av毛片视频| 啦啦啦韩国在线观看视频| 极品教师在线免费播放| 99久久九九国产精品国产免费| 国产成人影院久久av| 老汉色∧v一级毛片| 美女 人体艺术 gogo| 美女大奶头视频| 亚洲第一电影网av| АⅤ资源中文在线天堂| 香蕉久久夜色|