• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法律主體論的法理反思

    2021-09-05 08:22劉練軍
    現(xiàn)代法學 2021年4期
    關(guān)鍵詞:法人人工智能

    摘 要:法律主體乃是人從自然人變?yōu)樯鐣说谋厝划a(chǎn)物,是人與人之間及人與社會之間的關(guān)系,需要且必須由法律來調(diào)整的結(jié)果。法律主體是一種人格人,其特征有三:(1)具有意志;(2)屬于目的性存在;(3)能夠自律。人格人既是法律的創(chuàng)造者,又是法律的適用者。因而,法律主體可以定義為承載法的人格人。法人同樣具有自己的獨立意志,乃是一種目的性和自律性的存在物,屬于法律主體。人工智能與法人不可相提并論。人工智能不具備心理認知意義上的意志,它自身并非是一種目的性存在物,且不具有自律性,人工智能無法承載法。從后果主義上看,人工智能法律主體化勢必會給人類帶來不堪承受之重。

    關(guān)鍵詞:人工智能;法律主體;人格人;目的性;法人

    中圖分類號:D903 文獻標志碼:A

    文章編號:1001-2397(2021)04-0073-16

    DOI:10.3969/j.issn.1001-2397.2021.04.07

    人工智能研究在當下我國法學界可謂炙手可熱。其中,人工智能的法律主體地位問題爭議尤為激烈,備受關(guān)注。①誠如其名,人工智能只是一種人造的智能化工具,而非人造的智能人。如果人工智能在各個方面都與我們?nèi)祟惒环植伲邆浞芍黧w資格定當不存疑問。然而,即便科學家所預(yù)測的人工智能“奇點(Singularity)”真的存在所謂人工智能“奇點”,指的是能力遠遠超過任何人的所有智能活動之機器人的出現(xiàn),屆時人類智能中的非生物學部分將無限超越人類智能本身。參見[美]雷·庫茲韋爾:《奇點臨近》,李慶誠等譯,機械工業(yè)出版社2011年版,第2-18頁。,它的降臨也是“將來時”而非“現(xiàn)在時”。正因為在各個方面都具備人之智能的人工智能尚在遙遠的研發(fā)路上,所以,有學者將當下的人工智能研究熱潮看作是“違反人類智力常識的反智化現(xiàn)象”,認為“人工智能并未對法律基礎(chǔ)理論、法學基本教義提出挑戰(zhàn),受到挑戰(zhàn)的只是如何將傳統(tǒng)知識適用于新的場景。法學研究應(yīng)該避免盲目跟風,走出對人工智能體的崇拜,回歸學術(shù)研究的理性軌道”。陋見以為,此等批判值得法學界深思與反省。參見劉艷紅:《人工智能法學研究的反智化批判》,載《東方法學》2019年第5期,第119頁。換言之,在當下人工智能還只是一種具備某些智能能力的特定“物”,而絕不可將之視為通常意義上的“人”。于是,需要亦值得進一步追問的是,為何“人”天生地具備法律主體資格,而像人工智能這種在某些智能方面還遠超人類的“物”,反而被拒之于法律主體的門外?法律主體是且只能是人,堪稱法學界不言自明的公理。如國內(nèi)比較有代表性的觀點就認為:“法律主體是指活躍在法律之中,享有權(quán)利、負有義務(wù)和承擔責任的人。此處所說的‘人主要是指自然人。在特定情況下,可以將法人等‘人合組織類推為法律主體?!焙聒櫍骸斗芍黧w概念及其特征》,載《法學研究》2008年第3期,第14頁。人工智能時代的來臨,考驗著這一公理的“可證偽性”,至少有人向它提出了挑戰(zhàn)。有鑒于此,本文嘗試從法理學視角對法律主體資格的構(gòu)成要件作番探討,在此基礎(chǔ)上重點論證人工智能是否具備法律主體資格,最終的結(jié)論是:不宜賦予人工智能法律主體地位。

    一、法律主體之本質(zhì):承載法的人格人

    學界一般都是從法律規(guī)范層面說明法律主體是人。而問題的關(guān)鍵在于,如何進一步從理論層面回答為何是且僅能是人,知其然,更要知其所以然。而知其所以然的最好方式,當然是從分析法律主體這個概念入手。本文以為,法律主體是個旨在規(guī)范意志的法學概念,人之外的其他所有生物和人造物(包括人工智能)都不具有意志,這是不宜賦予它們法律主體地位的根本原因。

    (一)法律主體就是法律上的人

    對于“法律主體”這個概念來說,重要的不是“法律”二字,而是“主體”一詞。而主體原本是個哲學概念而非法學概念。在哲學上,主體指的就是人,主體與人之間是可以劃等號的,如《現(xiàn)代漢語詞典》“主體”詞條的解釋就是:“哲學上指有認識和實踐能力的人”。中國社會科學院語言研究所詞典編輯室:《現(xiàn)代漢語詞典》(第7版),商務(wù)印書館2016年版,第1712頁。關(guān)于主體,哲學家高清海有過更清晰的闡述,他說:“究竟什么是‘主體?在哲學術(shù)語中說得很復雜。其實道理很簡單,核心一點,就是能否成為你自己生命活動的主人。你做到了這一點,就能通過生命活動去支配外界對象,你就是主體;你如果連本能都不能超越,只是生命本能活動的奴隸,那么,你就不會有主體性。這就是‘主體的原始含義,它同人之為人的本性是聯(lián)在一起的?!备咔搴#骸吨匦抡J識“人”》,載《中國大學人文啟思錄》(第3卷),華中科技大學出版社1999年版,第197頁。此等分析說明,要成為主體得具備三個條件:(1)能主宰生命活動;(2)能支配外部世界;(3)能超越本能??梢詽M足這三個條件的,也就只有人了,人之外的其他所有生物都難以同時做到這三點。而這三點又可概括歸納為一點,即意志。本身具備意志的存在物才可以稱得上是主體。

    人之主體地位的獲得,端賴人在進化發(fā)展過程中養(yǎng)成了自由意志,而人之外的其他所有生物均與自由意志失之交臂,從而在一切社會關(guān)系中都只能是作為一種客體與對象的存在。“人之所以高貴,就在于他唯一可以憑自己的自由意志決定自己是什么和不是什么。世上萬物中,只有人是不由外在現(xiàn)成的規(guī)定所決定的,而是自己把自己造成的存在。”鄧曉芒:《靈之舞:中西人格的表演性》,作家出版社2016年版,第147頁。人因意志而高貴,亦因意志而承擔責任和后果。所以,人理應(yīng)對自己的行為負責,而人之外的無意志的動物則無需為自己的行為“買單”。黑格爾指出:“動物也有沖動、情欲、傾向,但動物沒有意志;如果沒有外在的東西阻止它,它只有聽命于沖動。唯有人作為全無規(guī)定的東西,才是凌駕于沖動之上的,并且還能把它規(guī)定和設(shè)定為他自己的東西?!盵德]黑格爾:《法哲學原理》,范楊、張企泰譯,商務(wù)印書館1961年版,第23頁。黑格爾這段話的意思其實很簡單,就是說動物沒有意志,它只能服從自己的本能性沖動,但人則高級得多,他有意志,可以且應(yīng)當控制(即“規(guī)定和設(shè)定”)自己的原始本能沖動。正因為他獲得了動物身上不具備的意志,所以,人不能以沖動是一種自然的反應(yīng)為借口,而為自己的沖動辯護,否則,人和動物一樣淪為沖動的奴隸,而人之意志的使命就是讓人成為沖動的主人。

    總之,誠如李錫鶴所言,所謂主體支配客體,其實是主體的意志在支配客體。意志是主體的核心和靈魂。主體是意志的存在形式,主體的根據(jù)就是其意志而已。參見李錫鶴:《民法哲學論稿》(第2版),復旦大學出版社2009年版,第32頁。人具有意志,此乃人成為主體的核心原因。人之外的其他所有存在物,在與人的關(guān)系中處于客體地位的根本原因,就在于它們?nèi)狈σ庵尽R磺胁痪哂幸庵镜拇嬖谖锒甲鞑涣酥黧w,且不應(yīng)當賦予它們主體地位,它們只能是客體,作為主體而存在的只有人。

    法律意義上的主體即法律主體,乃是以哲學上的主體認知為基礎(chǔ)的。哲學上的主體是人,法律主體則為法律上的人。所有的自然人都是哲學上的主體,同樣地,他們也都是法律主體。任何自然人從出生到死亡都只能在社會中生存,因而始終是一個社會人。而法律乃是最權(quán)威的社會關(guān)系調(diào)解器,故而,所有的自然人在成為社會人的同時,還不得不成為法律人,即作為法律主體而存在。正所謂:“所有的人都是由法律認識和法律關(guān)系的總和建構(gòu)起來的法律主體。嬰兒的第一次生命是母親給的,第二次生命是由法律給的。從一生下來,人在概念上或多或少是個法律主體。這個新生兒簡直就是塊空地,隨著時間的流逝,這塊空地會被賦予權(quán)利、義務(wù)、特權(quán)和職責,直到過完一生為止。”[英]科斯塔斯·杜茲納:《人權(quán)的終結(jié)》,郭春發(fā)譯,江蘇人民出版社2002年版,第249頁。毫無疑問,不管是“權(quán)利和義務(wù)的主體”還是“權(quán)利主體”,它們都不過是法律主體的另一種修辭而已。法律主體更多地被表述為權(quán)利主體,無論在口頭表達中還是學術(shù)寫作中都是如此。但嚴格來說,權(quán)利主體只不過是法律主體的一個子概念。法律主體大致可分為權(quán)利主體、義務(wù)主體和責任主體三個類型。具體可參見胡玉鴻:《法律主體的基本形態(tài)》,載《法治研究》2012年第10期,第10-16頁。

    不能不注意到的是,不管是法律主體還是法律上的人,它們都是立法及法學上的技術(shù)概念。發(fā)明這種技術(shù)概念的目的在于,把“個人的尊嚴”和“法律面前的平等”這些理念有效地運用于法的世界,以維持其人格的自由發(fā)展,這樣才會使“人”這一概念發(fā)揮健全的功能。參見[日]河上正二:《民法總則講義·序論》,王冷然、郭延輝譯,北京大學出版社2019年版,第57頁。所有的法律都是為了人而制定的,法律的問世使得所有生物學意義上的自然人,都變?yōu)橐环N受法律規(guī)范制約和保護的“規(guī)范人”。法律上的人即規(guī)范人的存在形式,就表現(xiàn)為人享有權(quán)利并承擔義務(wù),“離開義務(wù)和權(quán)利,就無所謂人了?!盵奧]凱爾森:《法與國家的一般理論》,沈宗靈譯,中國大百科全書出版社1996年版,第107頁。正是借助于權(quán)利和義務(wù)這種法律擬制,自然人變?yōu)樯鐣P(guān)系中的法律人,成為法律主體,而不僅僅是生物學和哲學上的主體。概言之,法律主體的誕生乃是人由自然人變?yōu)樯鐣说谋厝划a(chǎn)物,是人與人之間及人與社會之間的關(guān)系,需要且必須由法律來調(diào)整的結(jié)果,同時也是社會共同體對自然人予以引導和保護的重要方式。

    (二)法律上的人就是一種人格人

    作為法律主體的法律上的人究竟有何特征呢?本文以為,法律上的人就是一種人格人。也就是說,法律主體不僅僅是自然人,更是具有人格的自然人,即人格人。

    對于人格,康德和海德格爾都有過解釋??档轮赋觯骸叭四軌蛟谄浔硐笾芯哂凶晕?,這把他無限地提升到其他一切生活在地球上的存在者之上。由此,他是一個人格,并且憑借在其可能遇到的所有變化時的意識統(tǒng)一性而是同一個人格,也就是說,是一個由于等級和尊嚴而與人們能夠隨意處置和支配的、諸如無理性的動物這樣的事物截然不同的存在者?!盵德]康德:《實用人類學》(注釋本),李秋零譯,中國人民大學出版社2013年版,第7頁。海德格爾則強調(diào)說:“人格不是任何物質(zhì)實體性質(zhì)的存在。而且,人格的存在也不會消解為具有某種規(guī)律性的理性行為的主體。人格不是物,不是實體,不是對象?!烁竦谋举|(zhì)就在于它只生存于意向性行為的施行過程之中,所以人格在本質(zhì)上不是對象。”[德]馬丁·海德格爾:《存在與時間》(修訂譯本),陳嘉映、王慶節(jié)譯,生活·讀書·新知三聯(lián)書店2006年版,第56頁??档碌囊馑际钦f,人格表現(xiàn)為人由于具有自我和意識統(tǒng)一性而享有尊嚴;海德格爾則認為,人格本身具有主體性,任何時候都不能被作為客體對待?;诖说日J知,我們可以說,人格人乃是一種倫理人格主義意義上的人,其主要特征表現(xiàn)為如下兩個方面。

    1.人格人是一種目的性存在

    人自身就是目的,此乃康德提出的著名命題??档轮赋觯骸叭耍话阏f來,每個有理性的東西,都自在地作為目的而實存著,他不單純是這個或那個意志所隨意使用的工具。在他的一切行動中,不論對于自己還是對其他有理性的東西,任何時候都必須被當作目的。”[德]康德:《道德形而上學原理》,苗力田譯,上海人民出版社2005年,第47頁。作為目的而存在的人就是人格人,他區(qū)別于作為手段而存在的人如奴隸。奴隸之所以不是法律上的人,主要是因為他缺乏自己的獨立意志,他必須服從于主人的意志,由此他事實上成為主人的手段和財產(chǎn)。

    “任何人在本性上不屬于自己的人格而從屬于別人,則自然而為奴隸”[古希臘]亞里士多德:《政治學》,吳壽彭譯,商務(wù)印書館1965年版,第13頁。,亞里士多德的這個奴隸定義告訴我們,要成為法律上的人,人格就絕對不可或缺,奴隸之所以不是法律上的人,是因為他本身就不是一種目的性存在的人格人?!叭艘馕吨晕夷康?。人之所以為人,并不是因為他是一種有肉體和精神的生物,而是因為根據(jù)法律規(guī)則的觀點,人展現(xiàn)了一種自我目的?!盵德]拉德布魯赫:《法哲學》,王樸譯,法律出版社2005年版,第134頁。法律上的人就是能夠展示并捍衛(wèi)自我目的的人格人。只有人格人才是法律主體,其他的存在者都難以稱得上是法律主體。

    2.人格人是一種具備自律性的人

    除目的性外,人格人還具有自律性。自律是近代道德哲學的偉大發(fā)明,它意味著道德主要與人們施加給自己的法有關(guān),遵守道德很大程度上代表著人們對利己權(quán)能的自我控制。參見[美]施尼溫德:《自律的發(fā)明:近代道德哲學史》(下冊),張志平譯,上海三聯(lián)書店2012年版,第598-628頁。匱乏自律的人就形同只有表象而喪失自我的動物。自律實質(zhì)上是人的自我意識的必然反映,也是人格的基本內(nèi)涵。人格人定能是一種足以自我控制內(nèi)在欲望與情緒的自律人。人的尊嚴的真正基礎(chǔ),是人的始終如一的自由意志能力,即“自律”參見鄧曉芒:《靈之舞:中西人格的表演性》,作家出版社2016年版,第171頁。。不懂得自律的人必將使自己深陷原始欲望的泥淖,從而失去自我目的性。

    在某種程度上,自律乃是人格人堅守自我目的性的基本方法。黑格爾有句名言:“法的命令是:‘成為一個人,并尊敬他人為人?!盵德]黑格爾:《法哲學原理》,范楊、張企泰譯,商務(wù)印書館1961年版,第46頁。對于這個著名的法哲學論斷,也許只有人格人的自律性才能對之作最好的詮釋。如要成為一個大寫的人,就須臾離不開人運用其自由意志能力即自律來實施自我規(guī)制。人唯有自律,才能成長為一個人格人;人唯有自律,才能尊敬他人為人。在通往“法的命令”路上,自律是引擎,是旗幟,是方法。自身不具備自律特性的人,就難以成長為一個人格人,也就不是嚴格意義上的法律上的人?!耙磺蟹缮詈蛧疑畹幕A(chǔ),就是人內(nèi)在的自我管理能力,是人精神的、意志的自律能力?!盵俄]伊·亞·伊林:《法律意識的實質(zhì)》,徐曉晴譯,清華大學出版社2005年版,第175-176頁。

    在康德的法哲學世界里,人就是指人格人,人就是天然的法律主體??档抡f:“人,是主體,他有能力承擔加于他的行為。因此,道德的人格不是別的,它是受道德法則約束的一個有理性的人的自由。……人最適合于服從他給自己規(guī)定的法律——或者是給他單獨規(guī)定的,或者是給他與別人共同規(guī)定的法律?!盵德]康德:《法的形而上學原理:權(quán)利的科學》,沈叔平譯,商務(wù)印書館1991年版,第30頁。為何人格本質(zhì)上是自由,而人又為何最適合于服從法律,根本原因在于人不但是自我的目的性存在,而且是自覺捍衛(wèi)尊嚴的自律性存在。目的性與自律性乃是人格人的兩大特性,而人格人成為法律上的人的內(nèi)在根源正在于此。

    (三)法律主體乃是承載法的人格人

    以上分析表明,法律主體就是人格人,且只有人格人才能成為法律主體。問題在于為何只有人格人才可以成為法律主體呢?因為唯有目的性和自律性兼?zhèn)涞娜烁袢瞬拍艹休d起法律,人格人之外的任何存在物(包括動物和人工智能)都不足以讓法律運作起來。所有的法律都只能通過主體這個范疇發(fā)揮功能,離開了主體,一切法律就立即淪為一張廢紙。這個主體就是法律主體,它是法律及其構(gòu)建的法治秩序中的一個基本范疇。

    黑格爾曾說:“法律是被設(shè)定的東西,源出于人類?!盵德]黑格爾:《法哲學原理》,范楊、張企泰譯,商務(wù)印書館1961年版,第15頁。法律不是大自然的饋贈,而是人類的發(fā)明。人類的任何發(fā)明創(chuàng)造都是一種目的行為,所有時代的人都不會漫無目的地制定法律?!办`魂的首要需要,與永恒命運最為貼近的,乃是秩序?!盵法]西蒙娜·薇依:《扎根:人類責任宣言緒論》,徐衛(wèi)翔譯,生活·讀書·新知三聯(lián)書店2003年版,第7頁。是的,頒布和實施法律的目的,就在于創(chuàng)設(shè)一種受法律指引并保護的秩序,正如凱爾森所說“法是人的行為的一種秩序(order)”[奧]凱爾森:《法與國家的一般理論》,沈宗靈譯,中國大百科全書出版社1996年版,第3頁。。不管是秩序還是與之對立的混亂,都是由人的行為造成的,沒有人之行為植入其中,也就無所謂秩序或混亂。人類在立法上從未停止過推陳出新,為的就是通過法律的新陳代謝來建構(gòu)更加適合于自己的社會秩序,以避免由于法律的滯后或超前而造成不必要的社會混亂。

    禁止任何人作出違背其人格所要求的消極行為,從而使得人始終是一種目的性和自律性的存在,此乃法律的終極價值所在。正如哈特所述,法律其實就是一系列行為規(guī)則,其最主要的功能就是“以各種各樣的方式來控制、引導和計劃我們的生活?!盚.L.A. Hart,The Concept of Law, Second Edition, Oxford University Press, 1994, p.40.法律就是由一系列對人格人具有普遍約束力的規(guī)則所構(gòu)成。是故,富勒將法律定義為“使人類行為服從規(guī)則治理的事業(yè)”Lon L. Fuller,The Morality of Law, revised ed., Yale University Press, 1969, p.106.。

    法律本身并不能使之成為法律,能夠使法律實現(xiàn)其規(guī)則治理事業(yè)的,只能是法律主體。離開了法律主體,法律不是寸步難行,而是徹底行動不了。正是從這個意義上說,法律主體乃是法的承載者,是真正的法律實體。憑借法律主體這一法律實體,法律才能成為法律。這可以從兩個方面來解釋。

    1.法律乃是由法律主體即人格人所創(chuàng)造出來的

    沒有人格人,也就不會有法律的誕生。美國憲法之父麥迪遜說:“如果人人都是天使,那么就不需要政府。”Alexander Hamilton, James Madison & John Jay,The Federalist Papers, Bantam Dell, 2003, p.316.人格人正是認識到人有獸性丑陋的一面,所以才需要制定法律以規(guī)制其性惡本能。意大利當代著名哲學家阿甘本說:“在我們的文化中,支配著所有其他沖突的最關(guān)鍵的政治沖突,就是人的動物性和人性之間的沖突。”[意]吉奧喬·阿甘本:《敞開:人與動物》,藍江譯,南京大學出版社2019年版,第96頁。斯言誠哉。從屬性上看,人就是動物,其身上的動物性與生俱來,但人與動物的本質(zhì)區(qū)別就在于,人對其自身的動物性有足夠清醒的認知,因此,可以自覺地通過自律來使自己成為人格人,尤其是發(fā)明法律來抑制其動物性的肆意伸張。

    “法律最基本的作用就在于約束人類某些自然的癖好,限制和制約人類的本能,強化一種非出自于本能的義務(wù)性行為——換句話說,就是保證人類為了共同的目的,而建立一個互相讓步和相互奉獻的合作基礎(chǔ)?!盵英]馬林諾夫斯基:《原始社會的犯罪與習俗》(修訂譯本),原江譯,法律出版社2007年版,第43頁。對于法律此等制約人性的功能有了充分的理解,才能夠深深地懂得考夫曼這樣的論斷:“法的觀念是個人性人類之觀念,除此,它什么都不是”[德]阿圖爾·考夫曼、溫弗里德·哈斯默爾主編:《當代法哲學和法律理論導論》,鄭永流譯,法律出版社2013年版,第199頁。。既然法的觀念就是人類與人性的觀念,法律的本質(zhì)其實就是人。而這里的人當然不是生物學上的自然人,而是哲學上的人格人。作為法律主體的人格人實乃法律的生命和靈魂,沒有人格人這樣的法律主體,法律就不可能存在,即便存在,也不是我們通常所言說并適用的法律。

    2.只有法律主體即人格人才能使法律成為活法(living law)

    法律要對人之行為發(fā)揮其規(guī)范功效,就不能只停留于紙面上的存在,它必須從靜態(tài)的“書本上的法(Law in books)”轉(zhuǎn)變?yōu)閯討B(tài)的“行動中的法(Law in action)”。唯有如此,法律才能成為一種具有規(guī)范拘束力的活法,否則,就是對人類社會生活毫無行為指引價值的死法(dead law)。法律要從書本走向生活,由死法變?yōu)榛罘?,就不能沒有可以理解和適用法律的法律主體。賦予法律以生命活力的,不是別的,正是作為法律主體的人格人。這里的人格人除自然人外,還包括由自然人所組成的非自然人即法人。法人同樣是一種目的性存在物,完全可以作為法律上的人,具體見下文。

    身為活法的法律,其實是個動態(tài)的運作過程。這個過程中的每一步,都是由作為法律主體的人格人在施行的。法律主體的行為乃是最為關(guān)鍵的法律事實。任何法律規(guī)范的解釋與適用,都是圍繞著人之行為展開的。包括特定情形下人的不作為在內(nèi)的人之行為,乃是法律規(guī)范發(fā)揮拘束力的真正對象。不寧唯是,法律要對任何違法行為——不管是作為還是不作為、是故意還是過失、是既遂還是未遂——的追究,從啟動到終結(jié)的每一個細節(jié)都只能依賴于人格人來操作。人格人之外的任何存在物都不可能作為原告、被告、律師、檢察官和法官來參與旨在問責的司法活動。由此可知,人格人乃是法的承載者,法律須臾離不開作為其承載者的法律主體,正所謂“徒法不能以自行”。

    總括而言,法律主體乃是法律的核心范疇。法律主體就是法律上的人,這種人乃是具有目的性和自律性的人格人。人格人既是法律的創(chuàng)造者,又是法律的適用者。因而,法律主體可以定義為承載法的人格人。盡管歷史上既有不少自然人被排除在人格人之外,又有不少非人的存在物被作為人格人對待而成為法律主體,參見李擁軍:《從“人可非人”到“非人可人”:民事主體制度與理念的歷史變遷——對法律“人”的一種解析》,載《法制與社會發(fā)展》2005年第2期,第45-52頁;李萱:《法律主體資格的開放性》,載《政法論壇》2008年第5期,第50-57頁;胡長兵:《法律主體考略——以近代以來法律人像為中心》,載《東方法學》2015年第5期,第46-54頁。但在現(xiàn)代社會人格人主要有兩類即自然人和法人,前者包括所有的自然人,而后者為法律所擬制的人。法律主體僅限于人格人,主要有如下兩個方面的原因。

    一是法律的本質(zhì)是人?!叭耸欠ǖ男纬傻闹行狞c。他的身體的、心靈的狀況在法的一切領(lǐng)域里都起著一種決定性的作用。他的出生,他的發(fā)展,兒童的保護需要,男女兩性的分開,他的本能欲望和激情,他的精神生活的組織和內(nèi)容,這一切對于法來說,都具有至高無上的意義?!盵德]H.科殷:《法哲學》,林榮遠譯,華夏出版社2002年版,第148頁。正因為如此,所以人不能不成為法的主體,因為法的實質(zhì)所指向的就是一切有責任能力的人。我們絕對不可能使非動物界的東西、駱駝等低級動物及其他人造物成為法的主體,因為它們不具備完全的認知與理解能力,以及適當?shù)淖晕夜芾砟芰Α?/p>

    二是人之外的其他所有存在物都沒有自己的意志,它們自身不是一種目的性存在物,它們更不具備旨在維護自身尊嚴的自律意識。因而,它們只能作為法律的客體而存在,任何時候都成為不了法律主體。說人格人之外的存在物如動物和人工智能可以成為法律主體,就像說動物之間或人工智能之間也存在婚姻一樣不可思議。

    二、透視法人:具備人格人的基本特性

    除自然人外,由多數(shù)自然人集合而成的法人同樣具有法律主體地位?,F(xiàn)代法律的法律主體制度是個二元架構(gòu),即自然人與法人各自獨立地作為法律主體,他們共存相生,并行不悖。盡管作為一種社會經(jīng)濟制度,法人屬于人造和擬制的,不像自然人那樣具有內(nèi)涵豐富的生理性與倫理性,但法人同樣具有自己獨立的意志,乃是一種目的性和自律性的存在物,因而享有法律主體地位。質(zhì)言之,法人同樣是一種人格人。

    (一)法人有自己的意志

    在大自然面前,單個的人太過渺小,人只有聯(lián)合起來才能生存和發(fā)展。作為一種由眾多個人根據(jù)自訂契約(章程)而結(jié)成的組織體,法人存在的歷史像自然人歷史一樣悠久。正是有了人與人結(jié)合而成的法人組織體,人類才成就了今日的繁榮與文明。所以,日本法學家我妻榮指出:“人類的社會生活,無論在任何時代、任何地方,都決不是只以個人為中心而成立的。家、市町村、國家等的地域團體,同業(yè)者的組合團體,為公益或者私益的團體等,大小強弱無數(shù)的團體也作為其構(gòu)成分子。……人類社會的生活關(guān)系是復雜的團體構(gòu)成與團體交涉的關(guān)系,并且,各種團體擔當著個人無法達到的‘社會性作用?!盵日]我妻榮:《新訂民法總則》,于敏譯,中國法制出版社2008年版,第107-108頁。

    所有的個人都是生活在一定的團體之中。如果說家庭是個人生活的私團體有學者指出,家庭事實上可視為法人的一種特殊形態(tài),家庭應(yīng)當像企業(yè)法人一樣享有民事主體地位,可以自由獨立地開展民事活動,而不只是法律行為上的客體;保護家庭,尤其是家產(chǎn),最好的方式莫過于承認家庭是法律主體。參見劉練軍:《民法典應(yīng)承載憲法對家庭之制度性保障》,載《法制與社會發(fā)展》2018年第2期,第36頁。,法人則屬于個人生活的公團體。社會離不開個人,同樣也離不開法人。法人盡管是由個人所組成,但自成立之后,它就具有自己的意志,且作為其成員的個人必須尊重其意志而不能恣意干預(yù),正如子女一旦成年之后就有自己的意志而父母不能隨便干涉一樣。就像英國法史學家梅特蘭所說,我們不得不允許團體有自己的真正意愿,跟自然人的意愿一樣真實的意愿,“如果n個自然人聯(lián)合起來組成有組織的團體,法理學肯定會看到n+1個法律上的人,除非它想要摧毀這個團體”[英]梅特蘭著,大衛(wèi)·朗西曼、馬格納斯·瑞安編:《國家、信托與法人》,樊安譯,北京大學出版社2008年版,第89頁。。任何摧毀團體的努力,都注定是唐吉珂德大戰(zhàn)風車。除了承認團體法人的意志(意愿)外,我們別無選擇,如果我們?nèi)祟愡€想生存下去的話。

    對于法人來說,有無自己的意志乃是判斷其真假的重要標準。缺乏自身獨立意志的法人不可能是真正的法人,它們最多是一種臨時拼湊的松散團伙,而決不是具有獨立存在意義與價值的嚴格團體。而能作為人類社會活動中心的,當然不是松散團伙,而只能是嚴格意義上的團體。因為任何松散團體都不可能創(chuàng)造真正有價值的新東西,更不可能持續(xù)地創(chuàng)造,只有嚴格團體才有可能成為人類文明進步的推動者。

    “是否誕生一個法人,關(guān)鍵不在于是否有共同意志或團體意志,也不在于是否有獨立意志——意志總是獨立的,關(guān)鍵在于團體成員的共同意志是否轉(zhuǎn)化為單一意志。……如果轉(zhuǎn)化為單一意志,那么,這一意志就享有法律上的存在資格,成為法律上的擬制意志,以某一名稱為載體,該名稱就成為法律上的擬制主體的人身?!崩铄a鶴:《民法哲學論稿》(第2版),復旦大學出版社2009年版,第69頁。此論不無深刻,但仍然略顯保守。既然有自己的意志和人身,這個主體就是真實存在的,像自然人那樣真正地存在。從這個意義上說,法人作為法律主體并不完全是擬制的,相反,它在諸多方面都與人格人沒有實質(zhì)性區(qū)別,因而,與其說它是擬制的,不如說它像自然人一樣是看得見摸得著的真實法律主體。關(guān)于法人的性質(zhì),德國主流學說就堅持法人實在說,“把法人視為具有真實的人格(真實的團體人格),因此,法律制度所做出的權(quán)利能力規(guī)定只不過是對已經(jīng)存在的事物的認可”[德]迪特爾·施瓦布:《民法導論》,鄭沖譯,法律出版社2006年版,第100頁。。

    當我們說法人是擬制的法律主體時,別忘了一個基本的社會事實,即作為一種組織體,法人存在的歷史比法律及法律上的法人制度悠久得多。有鑒于此,胡長清指出:“以社會的組織體,與構(gòu)成組織體之個人,同為活動之主體,此不但在外國自來為然,即在我國從前亦復如是。惟其始也,不過僅為單純之社會的組織,初非以其為獨立之人格者,而能為權(quán)利義務(wù)之主體也。迨乎近世,社會日進,于是法人制度,應(yīng)運而生?!焙L清:《中國民法總論》,中國政法大學出版社1997年版,第95頁。歷史經(jīng)驗表明,法人組織體幾乎和人類社會同時產(chǎn)生,從它誕生的那一天起,它就有自己的意志。像自然人一樣,法人自始至終都是法律主體。因為法人不但有意志,而且還像自然人一樣具有目的性和自律性,實質(zhì)上是一種人格人的存在。

    (二)法人自身具有目的性

    作為一種有意志的人之集合組織體,法人具有自身的目的性,它絕不是漫不經(jīng)心的隨機生成物。盡管公法人和私法人彼此目的相異,且在目的問題上公法人與公法人之間、私法人與私法人之間亦有天壤之別,但它們都是一種目的性存在,此乃有案可稽之客觀事實。公法人自身存在的目的如何,見之于憲法及相關(guān)組織法,而私法人存在的目的則記錄于其章程或協(xié)議。對于法人自身的目的性,不少國家的民法典都有說明,如《瑞士民法典》第52條第1款規(guī)定“團體組織以及為特定目的而獨立存在的機構(gòu),經(jīng)登記于商業(yè)登記簿,取得人格”,第3款規(guī)定“以違反法律或道德為目的而成立的團體組織和機構(gòu),不能取得人格”;又如《韓國民法典》第34條規(guī)定“法人按照法律規(guī)定,于章程所定目的范圍內(nèi),為權(quán)利和義務(wù)的主體”,等等。當然,法人自身存在之目的得有相當?shù)暮戏ㄐ耘c道德性,正如瑞士民法典所規(guī)定的那樣,其存在目的一旦違反法律或道德就不能取得人格,終將以解散、破產(chǎn)等方式自動喪失其法律主體資格。

    法人作為目的性存在的一個重要表現(xiàn)形式,就是其權(quán)利義務(wù)并不等于組成法人之成員的權(quán)利義務(wù),即其權(quán)利義務(wù)具有獨立性。盡管在某些情況下,法人的權(quán)利義務(wù)最終可分解為其某些成員的權(quán)利義務(wù),但法人作為一個整體具有完全獨立于其組成人員的權(quán)利義務(wù),此乃基本的生活經(jīng)驗,亦為簡單的法律常識。如果在權(quán)利義務(wù)方面法人自身毫無獨立性,其所有的權(quán)利義務(wù)都可以即時性地分解為其全部組成人員如公司所有股東的權(quán)利義務(wù),根本就無所謂法人自己的意志及其自身的目的性,這樣的法人本質(zhì)上并不是一個組織體,其存在就是一種虛妄。因而,法人的基本特征是:“它是一個自身具有權(quán)利能力的組織體:享有權(quán)利和承擔義務(wù)的主體不是社團的全體成員,而是社團本身?!盵德]哈里·韋斯特曼、哈爾姆·彼得·韋斯特曼:《德國民法基本概念》(第16版),張定軍等譯,中國人民大學出版社2013年版,第27頁。

    與此同時,有能力獨立地承擔權(quán)利義務(wù),乃是法人取得法律人格的一項基本條件。在人格方面法人與自然人一樣,都是自其成立和出生時就取得人格,但在權(quán)利能力方面,他們兩者就不一樣了,法人必須在其成立之時就具備行使權(quán)利和履行義務(wù)的權(quán)利能力,但剛出生的自然人即嬰兒就不可能擁有權(quán)利能力,因而法律為之設(shè)置了代理制度。法人不適用代理制度,它在取得法律人格的同時,必須切實具備獨立的權(quán)利能力。所以,法人取得“法律人格的突出后果是:權(quán)利義務(wù)均由作為一個整體的團體承擔,并將成員個人完全排除在外。……個人作為團體成員有另一種身份,而且,即使該團體只剩下他一人,該身份也不同其人格相混淆”[意]彼得羅·彭梵得:《羅馬法教科書》,黃風譯,中國政法大學出版社1992年版,第52-53頁。??傊?,每個法人都具有自身的目的性,其權(quán)利義務(wù)由它們自己承擔,與構(gòu)成法人的個人沒有直接的關(guān)系。法人的法律人格與其組成人員的法律人格,乃是彼此分離的兩種人格,它們同為法律上的人格人,彼此既不等同,也不可相互取代。故而,施瓦布才這樣界定法人:“法人是這樣一種組織,它能夠成為所有可設(shè)想的權(quán)利和義務(wù)的承擔者,并且其法律人格同其成員的法律人格完全分離?!盵德]迪特爾·施瓦布:《民法導論》,鄭沖譯,法律出版社2006年版,第107-108頁。

    對于這種彼此獨立關(guān)系,凱爾森可能保持異議,他說:“行為和不行為只能是人(human being)的行為和不行為,這一點是不能當真加以否認的。當有人說到法人的行為和不行為時,一定是有關(guān)人的行為和不行為?!鳛榉ㄈ说纳鐖F的義務(wù)與權(quán)利也就一定是個人的義務(wù)與權(quán)利。……所謂法人的義務(wù)與權(quán)利不是——至少不同時是——人的義務(wù)與權(quán)利這一點是被priori(先天地)排斥的。”[奧]凱爾森:《法與國家的一般理論》,沈宗靈譯,中國大百科全書出版社1996年版,第110-111頁。在凱爾森看來,法人的權(quán)利義務(wù)就是人的權(quán)利義務(wù),后者可以甚至必須取代前者。此等觀點一方面否定了法人具有自己的意志和自身的目的性,另一方面又將在法人組織機構(gòu)中任職,以法人名義所執(zhí)行的職務(wù)行為——具體表現(xiàn)為行使法人權(quán)利和履行法人義務(wù),視為該人作為一個自然人所承擔的權(quán)利義務(wù),但事實上兩者不可同日而語。在現(xiàn)實生活中,執(zhí)行法人職務(wù)行為的自然人本身并不認可甚至完全反對該行為,只是迫于身份角色和職業(yè)倫理而違心地執(zhí)行之的情形,司空見慣、比比皆是。是故,法人的義務(wù)與權(quán)利不是人的義務(wù)與權(quán)利,此點不是先天排斥的,相反,它們是先天并存的,而且其并存屬于一種普遍現(xiàn)象。

    當然,有人不贊成法人具有自身的目的性,而主張法人工具論,其辭曰:“于自然人而言,法人永遠只是一個工具性的概念?!瓕⒆匀蝗伺c法人等量齊觀,在抬高法人的同時,其實貶損了自然人的地位?!ㄈ瞬o自身獨立存在的價值,不過是為自然人的需要而設(shè)”。朱慶育:《民法總論》(第2版),北京大學出版社2016年版,第418頁。此等法人工具論值得商榷。

    首先,對于公法人而言,法人工具論是危險的,它勢必會演變?yōu)橐环N替執(zhí)法犯法行為辯護的工具理論。其次,就私法人而言,它照樣有淪為工具理論的可能。畢竟,貪污腐敗現(xiàn)象在私法人中同樣俯拾皆是。復次,法人像自然人一樣具有法律人格,客觀上并不導致貶損自然人地位。法人具有人格,作為法律主體而存在,不會在任何層面對自然人的人格尊嚴構(gòu)成事實上的損害,所謂貶損之說實乃杞人憂天。最后,所謂法人沒有自身獨立存在的價值云云,明顯違背基本事實,不足為訓。價值不過是意志與目的的綜合而已,法人具有自己的意志和目的,其獨立存在之價值不容否定。如果真的沒有獨立存在的價值,那么,任何私法人的創(chuàng)始人逝世之后,都應(yīng)該立即解散,因為創(chuàng)設(shè)它的自然人都不存在了,它繼續(xù)存在還有什么意義呢?事實并非如此。作為一種目的性存在物,法人在任何時候都有其獨立存在的價值。

    (三)法人同樣具有自律性

    既然擁有意志且自身是作為一種目的性存在,法人自然就像人一樣富有理性,乃是一種具有自律性的存在物。法人實質(zhì)上是人的物理組合,由眾人聯(lián)合成為一個法人,這中間發(fā)生的是物理變化而非化學變化,所以,法人不過是個體之人的放大,而個人在某種程度上亦可以看作是法人的濃縮,如此而已。自然人具有自律性,由他們經(jīng)過物理方式組合而成的法人,當然同樣具備自律性。

    法人能夠做到自律,根源還在于人本身帶有自律的基因。人類社會之所以會出現(xiàn)法人這種組織體,是因為人只有聯(lián)合起來才能獲得自由——人之生命意義的最高原則。人乃是一切法人的生命和靈魂,人天性帶有的自律基因在法人身上得到延續(xù),實屬水到渠成之事。法人只有繼承了這種自律基因,才能成為一種目的性存在,才能成為人類社會真正需要的組織體,亦才能成為法律上的主體。缺乏自律意識的法人組織就像喪失自律意識的人一樣,必將導致其自身的主體性遭到減損,甚至最終喪失其法律主體地位。

    正因為法人屬于法律主體,所以法人像自然人一樣享有名稱權(quán)(類似于自然人的姓名權(quán))、名譽權(quán)、榮譽權(quán)等人格權(quán)利。如我國《民法典》第110條第2款規(guī)定“法人、非法人組織享有名稱權(quán)、名譽權(quán)、榮譽權(quán)”。不具備人格人特征,就不可能成為法律主體,尤其不可能享有人格權(quán)。盡管某些動物和法人一樣具有意識,但并未見到哪個動物權(quán)利主義者主張動物享有姓名權(quán)、名譽權(quán)等人格權(quán)利,動物權(quán)利主義者認為“否認哺乳動物具有意識或精神生活是人類沙文主義的表現(xiàn)”。參見[美]湯姆·雷根:《動物權(quán)利研究》,李曦譯,北京大學出版社2010年版,第27頁。而法人享有此等人格權(quán)則成為法學界的共識。當然,“法人、非法人組織的人格權(quán)不具有倫理意義,不足以與自然人的人格權(quán)相提并論”(李宇:《民法總則要義:規(guī)范釋論與判解集注》,法律出版社2017年版,第337頁),此點也是不容忽視的。質(zhì)言之,像組成它的成員——自然人一樣,法人同樣是一種目的性存在物,屬于人格人范疇,是名副其實的法律主體。

    三、人工智能:缺乏人格人特征的法律客體

    人工智能是否具有法律主體地位,此乃人工智能法學研究中的核心問題。關(guān)于人工智能法律地位的學說,大致分為客體說和主體說兩種,其中客體說又可分為“工具說”“軟件代理說”和“道德能力缺乏說”等不同觀點,而主體說的論證路徑主要有“代理人說”“電子人格說”“有限人格說”和“人格擬制說”等,參見彭誠信、陳吉棟:《論人工智能體法律人格的考量要素》,載《當代法學》2019年第2期,第53-55頁。絕大多數(shù)主張人工智能屬于法律主體的學者,都將人工智能與法人進行比較,參見[意]烏戈·帕加羅:《誰為機器人的行為負責?》,張卉林、王黎黎譯,上海人民出版社2018年版,第158-176頁。認為非自然人的法人能夠成為法律主體,同樣作為非自然人的人工智能亦可勝任。如有人提出將人工智能“歸入法人范疇,可以成為新型法人型民事主體——電子法人”張志堅:《論人工智能的電子法人地位》,載《現(xiàn)代法學》2019年第5期,第82頁。。還有人認為:“具備相當智力與自我學習提高能力的機器人與法人一樣,具有獨立的意志與判斷能力,能夠為股東的利益最大化進行算計;機器人也能夠像法人一樣保護財產(chǎn)免受侵害。而且,機器人也與法人一樣,不具有倫理上擁有財產(chǎn)權(quán)的基礎(chǔ),卻可能比法人具有更高的效率與能力,從而為股東謀取更高的利益。由此,機器人也應(yīng)該與法人一樣,被賦予獨立的法律人格,因此也應(yīng)該具有財產(chǎn)?!痹S中緣:《論智能機器人的工具性人格》,載《法學評論》2018年第5期,第158頁。然而,作為人工智能的機器人不具有自由意志,并非一種目的性存在物,更不具備自律意識,難以與法人相提并論,詳論如下。

    (一)人工智能不具有心理認知意義上的意志

    具有深度學習能力的人工智能,確實很容易被人誤以為它擁有自己的意志??墒牵坏┪覀兘议_其智能的面紗,掌握其“意志”是如何形成的,就知道所謂人工智能意志,其實并非通常所說的心理認知意義上的意志。人工智能的智力乃是在設(shè)定的算法程序條件下,通過計算機的暴力計算而獲得的,大數(shù)據(jù)是人工智能運用算法來實現(xiàn)深度學習的高能燃料,“離開了大數(shù)據(jù),深度學習就成了無源之水、無本之木”王天一:《人工智能革命:歷史、當下與未來》,北京時代華文書局2017年版,第116頁。。算法堪稱是人工智能的“大腦”,也是所謂人工智能意志得以形成的關(guān)鍵裝置。然而,算法本質(zhì)上是一套符號運算程序,與人腦的認知過程根本不可混為一談。人腦的認知過程異常復雜,它是自然進化或者說是上帝的作品在博物學家威爾遜看來,人工智能不可能取得模仿人類思維能力,理由有兩個:功能上的障礙和進化上的障礙。“功能上的障礙是因為信息輸入并貫穿于人類思維中的過程太復雜。理性的思維產(chǎn)生于身體與大腦之間持續(xù)的交流,這種交流通過神經(jīng)交流和激素的隨血液流動,并受到調(diào)控心理狀態(tài)、注意力以及目標選擇的影響?!M化上的障礙是因為人類思維的產(chǎn)生是由于人類物種獨特的遺傳歷史。可遺傳的人性,即人類心理的統(tǒng)一性,是上百萬年進化的產(chǎn)物,現(xiàn)在我們已經(jīng)不了解這種進化的環(huán)境。”[美]威爾遜:《論契合:知識的統(tǒng)合》,田洺譯,生活·讀書·新知三聯(lián)書店2002年版,第176-177頁。在判斷人工智能有無類人意志時,此等研究結(jié)論頗具參考價值。,人類對它的認識尚不過是冰山一角,而算法卻是人類的作品,人類隨時可以破解、優(yōu)化乃至刪除之。

    懂運算、會學習,確實是意志得以形成的一個因素,但它絕不是意志養(yǎng)成的充分且必要條件,更非意志本身。意志乃是由多個領(lǐng)域的認知能力綜合而成的,人工智能建立在深度學習基礎(chǔ)上的自主性,僅僅是一種源于算法程序的機械意志,而絕非心理認知意義上的自由意志。事實是,在人類的神經(jīng)認知領(lǐng)域如視覺認知、嗅覺認知、味覺認知、觸覺認知,當今的人工智能還遠沒有達到人類的認知能力與水平,“而對幸福、痛苦和各種情緒的感受,目前的人工智能恐怕連一些低級的動物如蟲魚鳥獸的認知水平都比不上”蔡曙山、薛小迪:《人工智能與人類智能——從認知科學五個層級的理論看人機大戰(zhàn)》,載《北京大學學報(哲學社會科學版)》2016年第4期,第150頁。。既然對種種情緒、痛苦和幸福毫無感覺,不管人工智能的深度學習能力強到何等程度,它從中所能獲得的所謂“意志”,絕不會是我們?nèi)祟愅ǔK缘囊庵尽K贿^是一種根據(jù)既定算法程序所得出的技術(shù)化與機械化的運算結(jié)果而已。對于這種算法程序的運用及其結(jié)果,可以稱之為智力,而不應(yīng)該將之認定為富有心理認知色彩的意志或智能。

    對此,“人工智能之父”明斯基已有超乎常人的冷靜判斷,他說:“情感、直覺和情緒并不是與智能(intelligence)不同的東西,而只是另一種人類特有的思維方式。情感是先于理智存在的,人工智能只有智力,沒有情感,不是真正的智能?!盵美]馬文·明斯基:《情感機器:人工智能與人類思維的未來》,王文革等譯,浙江人民出版社2016年版,第5頁。的確,情感屬于意志絕對不可分割的一個有機組成部分,只有智力而沒有情感并不是真正的意志,在認知科學上,情感認知乃是法律認知的三大原則之一(另外兩個是效率原則和公平原則),所謂情感原則主要是指“在某些法律問題上人們激活的主要是‘情感腦,有的是正面的情感(例如傾向于保護弱者),有的是負面的情感(例如對于違背公序良俗的厭惡)”,參見成凡:《法律認知和法律原則:情感、效率與公平》,載《交大法學》2020年第1期,第17頁。情感既是法律生成的重要推動力,也是法律規(guī)制的對象。有關(guān)法律與情感之間的關(guān)系研究可參見Susan A.Bandes ed.,The Passions of Law, New York & London: New York University Press, 1999.人工智能未來是否有屬于自己的情感體驗難以遽下結(jié)論,但當代最先進的人工智能并不具有建立在個體生活經(jīng)驗基礎(chǔ)上的情感、直覺和情緒,此乃毋庸置疑之事實。See Anna Jobin,Marcello Ienca & Effy Vayena,The Global Landscape of AI Ethics Guidelines,9 Nature machine intelligence,389-399(2019).職是之故,將僅僅具有智力的人工智認定為具備自己的意志,明顯與經(jīng)驗事實相違背?!笆聦嵣?,最先進的機器人是飛機。人們很少把飛機看做機器人,但它是貨真價實的機器人:它能自主完成從起飛到降落的大部分動作?!盵美]皮埃羅·斯加魯菲:《智能的本質(zhì):人工智能與機器人領(lǐng)域的64個大問題》,任莉、張建宇譯,人民郵電出版社2017年版,第19頁。請問有誰會說,飛機具有自己的意志?而又有誰敢斷言,飛機不屬于人工智能?

    “‘意識和‘思想的功能在于它們能使我們針對時空中遙遠的東西而作出行動,即使那種東西當前并沒有刺激我們的感官。”[英]伯特蘭·羅素:《心的分析》,賈可春譯,商務(wù)印書館2010年版,第258頁。就像動物僅僅基于本能作出反應(yīng)一樣,人工智能亦只能根據(jù)程序指令作出反應(yīng),它們都不是嚴格意義上的自由意志現(xiàn)象。能回憶過去還能展望未來,擁有時間意識的存在物,才真正具有意志。所有的人工智能都沒有屬于自己的記憶,更沒有自己的歷史,它們的任何動作既不是基于過去的經(jīng)驗,又不是源于對未來的暢想,而是一種執(zhí)行算法程序的機械性結(jié)果。之所以說是機械性的,是因為對于結(jié)果而言算法程序?qū)嵞俗顬橹匾臎Q定性因素,外部環(huán)境等因素對這一結(jié)果所產(chǎn)生的影響微乎其微。眾所周知,人對外部環(huán)境相當敏感,在不同的環(huán)境(如漫天飛雪或酷暑當頭)下,人會作出不一樣甚至截然相反的判斷,但人工智能感覺遲鈍,自然環(huán)境狀況對其算法程序的影響之小完全可以忽略不計。人工智能實質(zhì)上是一種人造智力物,它并不具備各種心理認知能力,無法形成自己的意志。在意志方面,它跟自然人和法人相距甚遠,完全不在一個層次上。將智力與意志不加區(qū)別且等同視之,此乃誤解人工智能具有意志之根源?!叭斯ぶ悄芤恢睂W⒂谥橇Φ睦硇裕瑓s忽略社會/情感智能,更別提心智了。能夠與我們的世界充分交流的強人工智能可能也需要這些能力。另外,人類的心智何其豐富,我們還需要與其工作方式相關(guān)的良好心理/計算理論。人類水平的強人工智能的前景看起來暗談無光?!盵英]瑪格麗特·博登:《AI:人工智能的本質(zhì)與未來》,孫詩惠譯,中國人民大學出版社2017年版,第180頁。英國人工智能專家的此等評述足以說明,肯定人工智能具有心理認知意義上的意志,實屬枉顧人工智能科學發(fā)展現(xiàn)狀的臆斷。

    (二)人工智能自身并非一種目的性存在

    只有某些方面的智力,而缺乏基本的心理認知能力,尤其是匱乏創(chuàng)造語言與文化的能力,這就決定了人工智能對自身的存在毫無意識,它并非一種目的性存在物。假如人工智能都可以被認定為一種目的性存在物,具有多方面智力的動物就更是一種目的性存在物了。

    類似地,人工智能的制造者或擁有者在拆散乃至徹底銷毀人工智能時,內(nèi)心同樣不會引起任何良知上的不安,更不會有所謂的違法之嫌。為什么呢?因為對于我們?nèi)祟悂碚f,人工智就像鱷魚一樣只不過是一種工具性的存在物,其本身并非一種目的性的存在物。人工智能盡管自身可以儲存海量數(shù)據(jù),并能夠以閃電般的速度對這些數(shù)據(jù)進行搜索和加工,其深度學習能力令人嘆為觀止,但是此種能力終究只是一種高度程序化和技術(shù)化的邏輯運算能力而已。如果說這種建立在暴力計算基礎(chǔ)上的學習能力可以產(chǎn)生自主性的話,那這種自主性也是一種純粹技術(shù)化的自主性,而決不是我們通常所理解的、建立在包括情感和審美等多種主觀認知能力基礎(chǔ)上的自主性。

    關(guān)于人工智能自主性的純技術(shù)本質(zhì),歐盟法律界已然達成了共識。2017年2月16日,歐洲議會投票表決通過《就機器人民事法律規(guī)則向歐盟委員會的立法建議(2015/2103 INL)》,該建議指出:機器人的自主性可以被界定為,在外部世界作出獨立于外在控制或影響的決定并實施這些決定的能力;這一自主性具有純技術(shù)本質(zhì),且其自主性程度取決于機器人被設(shè)計成的可與其環(huán)境進行交互的復雜程度。有關(guān)該建議的詳細討論,請參見馮玨:《自動駕駛汽車致?lián)p的民事侵權(quán)責任》,載《中國法學》2018年第6期,第109-113頁。事實就是,包括機器人在內(nèi)的各種人工智能體僅僅具備純技術(shù)化的自主性,此種自主性固然屬于自身作為一種目的性存在物的一項構(gòu)成要件,但單純具備此等構(gòu)成要件并不足以使人工智能成為一種目的性存在物。而把該項構(gòu)成要件視為目的性本身更是謬之大矣。

    何謂目的性存在,這的確是個不易回答的哲學難題。簡言之,所謂目的性存在就是對自身的存在有意識,對存在的價值意義有或明或暗、或多或少的認識,尤其是可以自主地決定存在的樣態(tài)。

    此外,不管是意識或認識最終都需要借助語言來表達,語言乃是“通向思維的唯一途徑”[美]愛德華·薩丕爾:《語言論——言語研究導論》,陸卓元譯,商務(wù)印書館1985年版,第14頁。,因而,成為目的性存在物的一個基本條件是掌握一門語言。如以此標準來檢視人工智能,則不難發(fā)現(xiàn)當今最先進的人工智能恐怕都不知自身的存在,至于所謂其存在的價值意義問題更是天方夜譚。人工智能翻譯機器的翻譯精準度在某些方面甚至超過人類,尤其是翻譯速度足以秒殺人類。然而,這和人工智能會一種表達自我的語言完全是兩個概念。語言“純?nèi)皇且粋€集體的歷史遺產(chǎn),是長期相沿的社會習慣的產(chǎn)物”,是“千千萬萬個人的直覺的總結(jié)”[美]愛德華·薩丕爾:《語言論——言語研究導論》,陸卓元譯,商務(wù)印書館1985年版,第4、206頁。。這種表達自我的語言只能從生活經(jīng)驗中習得,而絕不是設(shè)定的語言翻譯程序可以替代的。

    人工智能沒有自己的童年和青年,沒有所謂的集體生活經(jīng)驗,因而,人工智能不可能真正創(chuàng)造出屬于自己的語言。盡管語言翻譯能力超強,但人工智能實際上并不理解和掌握語言。目的性存在比如人的存在,乃是一種“表現(xiàn)為有所言談的存在者。這并不意味著唯人具有發(fā)音的可能性,而是意味著這種存在者以揭示著世界和揭示著此在本身的方式存在著”[德]馬丁·海德格爾:《存在與時間》(修訂譯本),陳嘉映、王慶節(jié)譯,生活·讀書·新知三聯(lián)書店2006年版,第192-193頁。。通過語言來揭示世界及其自身的存在,對于任何人工智能來說都是“非不為也,是不能也”。不管它的智力有多高,人工智能都只是人類制造的工具。盡管人工智能具有深度學習能力,但它的出生與死亡都取決于人類,它自身對此沒有任何發(fā)言權(quán),任何時候它都不是一種目的性存在物。

    (三)人工智能自身不具有自律性

    既然人工智能沒有心理認知意義上的自由意志,自身不是一種目的性存在,那它不具有自律性就理所當然了。因為自律本身也是一種意志,而且是那種經(jīng)過理性反思后的、旨在抑制本能沖動和意氣用事的糾偏性意志。與此同時,自律也是為目的服務(wù)的,它意在避免偏離目的路線或更好地達成目的。既然人工智能本身并非一種目的性存在,那它何來自律,要自律干什么?皮之不存,毛將焉附?

    人工智能本質(zhì)上還是一種人造的機器,盡管它具有強大的計算能力,在某些方面的智力甚至超過人類,但它絕非一種倫理性與道德性的生物體,跟人不具有可比性。盡人皆知的是,人工智能所擁有的知識和能力都是由人加工編程而來的,它“無法像人類大腦那樣與常變常新的客觀世界經(jīng)常保持一致?!v然運算極快,計算機指令也無法對有機世界的永恒變化作出定性的反應(yīng)”[美]劉易斯·芒福德:《機器神話:權(quán)力五邊形》(下卷),宋俊嶺譯,上海三聯(lián)書店2017年版,第272頁。。由此可見,即使人工智能對自律有主觀認知,且愿意在實踐過程中真正做到自律——這事實上都不可能,但現(xiàn)有的人工智能研發(fā)技術(shù)亦將使之陷入“心有余而力不足”的窘境。

    尤為關(guān)鍵的是,自律的形成及其實踐程度受社會風俗習慣、文化傳統(tǒng)及個體的道德觀念、宗教信仰等多種社會文化因素的影響。沒有這些因素,就是人也決不可能具有自律性。是故,自律本質(zhì)上是一種社會文化的產(chǎn)物,社會性是其本質(zhì)特性?!皺C器人既沒有道德水平的高低,也沒有宗教信仰的不同,只有功能的強弱。因此,機器人不可能有道德感,只有基于程序的反復和預(yù)先設(shè)計而總結(jié)出的規(guī)律,從而也就沒有民事主體所必備的基于內(nèi)心感知(良知)所做出的善惡評判和行為選擇”趙萬一:《機器人的法律主體地位辨析——兼談對機器人進行法律規(guī)制的基本要求》,載《貴州民族大學學報(哲學社會科學版)》2018年第3期,第158頁。。機器人乃是人工智能的杰出代表,機器人尚且毫無道德宗教意識和善惡觀念,其他的人工智能就更是等而下之了。

    (四)人工智能無法承載法

    如上所述,法律主體乃是承載法的人格人,只有能作為法律上的權(quán)利義務(wù)承擔者,才能成為法律主體。否則,即便人為地賦予人工智能法律主體地位,那它也只能是語義層面上的法律主體,而絕非規(guī)范意義上的法律主體——法律規(guī)范對其自身具有重要價值的主體。人工智能自身無法承載法,不足以成為法律主體,這可以從兩個方面展開分析。

    1.人工智能的所有動作都不是法律意義上的行為,它們都是基于大數(shù)據(jù)和算法程序而得出的結(jié)果。關(guān)于此等結(jié)果對自身及社會有何意義,其會造成何等法律后果,人工智能其實一無所知。法律意義上的行為乃是最為重要的法律事實,可將它定義為:“‘由意志控制(可歸責于行為人),因果形成(在最廣義意義下)之負責的、具有意義的實際事實。這個行為概念,不僅包括合法與違法、故意與過失、既遂與未遂、正犯與共犯的行止,并且除積極的作為之外,也包括不作為,亦即不為法律秩序為避免與法律相關(guān)的結(jié)果而有所期待的作為。”[德]考夫曼:《法律哲學》,劉幸義等譯,法律出版社2004年版,第156-157頁。而如上所述,人工智能沒有心理認知意義上的自由意志,它的每一個動作確實富含暴力計算能力,具有智力的外表,但它決不是所謂人工智能意志控制下的結(jié)果。不管它的動作會給他人和社會帶來何種后果,人工智能都難以理解其中的因果關(guān)系。

    “機器智能不能認識到自己在做什么,也不知道自己行為的社會意義,缺乏自我意識,不能做價值判斷,故而對其行為進行刑法評價就沒有根基”葉良芳:《人工智能是適格的刑事責任主體嗎?》,載《環(huán)球法律評論》2019年第4期,第77-78頁。。不只是不能進行刑法評價,從民法等所有其他法律部門維度都難以予以評判。人工智能每一個動作的背后都離不開人的影子,沒有其制造者和使用者等人類智能的介入,不可能會有人工智能的連續(xù)性動作的發(fā)生。是故,人工智能的動作不過是其背后的人工智能制造者和使用者行為的延長而已,由此所產(chǎn)生的后果應(yīng)當由其背后的人來承擔,其背后的人才是人工智能所有動作的發(fā)起者和承受者。領(lǐng)會人工智能動作之社會價值與法律后果,并對之負責的,是其背后的人而不是人工智能自身。

    2.什么是法律,法律對它有何用,人工智能對此一頭霧水,它不可能有所謂攸關(guān)其切身利益之法律訴求,也完全不會用語言就法律問題與外界進行交流。如上所述,法律主體乃法律上的權(quán)利義務(wù)承擔者。任何存在物一旦缺乏基本的法律認知能力,且無力用語言表達其認知結(jié)果,都只能是法律上的客體,而不可能獲得法律上的主體地位。即便一廂情愿地授予它法律主體地位,對一切由人工智能動作所引起的權(quán)利義務(wù)之形成、變更或消滅而言,都不會產(chǎn)生絲毫的現(xiàn)實意義。由此引發(fā)的法律爭議依然只能追究到人工智能背后的“人工”。

    總而言之,“智能機器無法理解和響應(yīng)法律的行止要求、無法接受法律的調(diào)整、無法理解財產(chǎn)之于自身的意義,旨在通過賦予其法律人格以達到的責任限定效果不符合正義的基本要求,并且與法人的類比論證忽略了自然人之于法人的重要意義,因而賦予智能機器以法律人格,從理論上看是無法成立的”。馮玨:《自動駕駛汽車致?lián)p的民事侵權(quán)責任》,載《中國法學》2018年第6期,第116頁。法律乃是一種具有相當抽象性的意識與觀念,它不是人工智能所能理解和掌握的,人工智能絕不是合格的權(quán)利義務(wù)承載者。斷定人工智能可以承載法,就跟認為鸚鵡享有人格權(quán)一樣,屬于一種不切實際的臆斷。

    (五)后果主義考量:后果主義(Consequentialism)乃是一種道德哲學觀點,它認為行為和品格的道德屬性由行為和品格特征的后果所決定,它主要基于這樣一個事實:很多人在決定如何行為前會考慮各種備選做法的后果。功利主義乃是后果主義最為人耳熟能詳?shù)囊粋€版本。參見[美]茱莉亞·德萊夫:《后果主義》,余露譯,華夏出版社2016年版,第1-2頁。假如人工智能真的成為法律主體

    關(guān)于人工智能是否擁有法律主體地位問題,有一個簡單的事實廣被忽略但又至為關(guān)鍵,那就是迄今還沒有哪個人工智能體站出來,要求人類承認它是法律主體,主張自己像人類一樣享有種種權(quán)利,為之呼吁的倒是人類中的極少數(shù)人,尤其是某些法律人?!爱斘覀儗χ悄芎妥詣踊懈羁痰睦斫鈺r,便會經(jīng)歷一番哲學性的爭論,即對于人類而言,它們究竟意味著什么?!盡ark Chinen,“Law and Autonomous Machines:The Co-evolution of Legal Responsibility and Technology”,Edward Elgar Publishing, 2019,p.4然而,人工智能被賦予法律主體地位之后,會給我們?nèi)祟惿鐣砗畏N后果,為人工智能鼓與呼的人則似乎未曾認真省思過。而如果從后果主義維度審視此等問題,那就會讓人看到另外一幅曠古未聞的奇異與恐怖景象,進而自覺反思并否定自己的固有立場。

    1.一旦人工智能真的被賦予法律主體地位,那它就同樣是一種法律上的人格人,它不再屬于人類可以恣意役使的工具,而是一種目的性存在,與我們?nèi)祟愒谌烁裆鲜瞧降鹊?。質(zhì)言之,具有法律主體地位的人工智能,可以且一定會對人類說“不”,就像孩子成年后對父母說“不”一樣。那么,問題來了,人類為何要竭盡心智并耗費大量人力物力,去制造一種注定會對自己說“不”的人工智能呢?不寧唯是,由于人工智能無論是信息的記憶與儲存功能,還是運算能力都可以秒殺人類,一旦人類與人工智能為生命、財產(chǎn)、自由而發(fā)生糾紛甚至戰(zhàn)爭,那人工智能降服人類就不是什么科幻電影如《終結(jié)者》(The Terminator)中的情節(jié),而是一種完全可以預(yù)見的現(xiàn)實。

    如此一來,人類制造人工智能不就相當于打開了一個“潘多拉魔盒”嗎?種種兇險與災(zāi)難不就隨之降臨到人類身上嗎?這不就是人類聰明反被聰明誤嗎?想想此等后果,真叫人不寒而栗。試問我們還需要賦予人工智能法律主體地位嗎?如果有一天人工智能真的智能到足以“親自”主張自己擁有法律主體地位,我們?nèi)祟愲y道不應(yīng)該立即停止研發(fā)和制造此種類人化的人工智能嗎?難道人類不應(yīng)該不遺余力去避免給自己新造一個可以說“不”的新型物種嗎?人類有什么理由給自己創(chuàng)造一個“主人”,從而使自身淪為“客體”地位呢?

    2.退一萬步說,假使人工智能屬于“愛人”的“仁者”,具有足夠的良知,不會奴役制造它的人類,而能夠與人類和平相處,那擁有法律主體地位的人工智能也不可能是被動的法律接受者,它們要參與立法,與人類享有同等的立法權(quán),此乃不容商榷的勢所必然。因為真正的法律主體決不只是單純的守法者,他們可以且應(yīng)當參與立法,成為貨真價實的立法者。一旦人工智能成為法律主體,那依據(jù)民主立法的基本立法原則,參見沈宗靈主編:《法理學》(第2版),高等教育出版社2009年版,第293-296頁。人工智能參與立法,與人類同為立法者,則為我們?nèi)祟惒荒懿唤邮艿摹胺芍黧w邏輯”。到那時,不僅僅是像許多學者所討論過的那樣,現(xiàn)行的刑事責任體系和民事責任體系要不要重構(gòu)的問題,恐怕整個法律體系及其立法精神,都可能面臨著脫胎換骨般的巨大變遷,其對人類固有的法律觀念和立法技術(shù)帶來的沖擊之大堪稱前所未有。

    畢竟,人工智能是比人類還智能的新型物種,它的秉性如何、有哪些需要和欲望、珍重什么樣的道德觀念、對自由與財產(chǎn)持何種立場,凡此種種,當下我們?nèi)祟惗际切闹袥]數(shù)、懵懂無知。更為棘手的是,如果在諸多的需求與觀念方面,人工智能與人類之間格格不入,那該如何協(xié)調(diào)一致?人類與人工智能之間能否就此達成妥協(xié)性的方案?如果達成了,最終是人類受委屈多一點,還是人工智能讓步多一點?無論如何,此等問題對我們?nèi)祟惿鐣岢隽耸窡o前例的巨大挑戰(zhàn),人類社會將由此真正迎來“三千年未有之大變局”。

    以上兩個層面不過是舉例而已。一旦人工智能確實具有各方面的認知能力和自由意志,是一種名實相副的人格人,足以作為法律主體而存在,那人類社會必將面臨著前所未有的巨大挑戰(zhàn),甚至整個世界秩序都將因此而被迫推倒重來。人類對此恐怕還沒有足夠的心理準備。準此以觀,人類最明智的選擇是且只能是,任何人工智能的研究和制造,必須以無(智)力對人類說“不”為限,超越此等限度的人工智能必須被嚴厲禁止,就像禁止對人實施基因編輯一樣。作為法律人,不但要對人工智能的智能化程度時刻保持著高度警惕,更要防止試圖賦予人工智能法律主體地位的所有動議及相關(guān)行止。因為我們?nèi)祟愡€真的沒有準備好與自己制造的人工智能一起面對面地制定法律。而人工智能憑借自己的智力優(yōu)勢凌駕于制造它的人之上,這更是人類難以承受之重。

    結(jié)語

    追溯歷史,人類對法律主體的認識經(jīng)歷了一個漫長的變遷過程。“非洲習慣法可以沒有困難地給予土地以權(quán)利和義務(wù),正像印度法沒有困難地給予非正統(tǒng)的受崇拜的神,或佛教法給予動物以權(quán)利和義務(wù)一樣。”[澳]維拉曼特:《法律導引》,張智仁、周偉文譯,上海人民出版社2003年版,第279頁。賦予人之外的其他存在物以法律主體地位的原因何在呢?凱爾森的分析頗有道理,他說:“法律規(guī)范之內(nèi)容僅涉及人類,只緣惟人有理性與意志,能受規(guī)范驅(qū)使而使其行為合乎規(guī)范。……至于原始法律秩序之法律效果不僅加諸人身,且及于禽獸及無生命之物,從而對萬物之‘行為皆加以規(guī)制,此種舉動則是由于初民之泛神論相信萬物有靈之故。換言之,即將萬物之‘行為類比為人之行為而已?!盵奧]凱爾森:《純粹法理論》,張書友譯,中國法制出版社2008年版,第58頁。時至今日,在英美法上還存在著“信托”這一“隱蔽的法律主體”參見王涌:《私權(quán)的分析與建構(gòu):民法的分析法學基礎(chǔ)》,北京大學出版社2020年版,第179-181頁。。但總體上說,法律主體主要由自然人和法人組成,呈現(xiàn)的是一種二元結(jié)構(gòu),此乃當今世界各國法律體系之通例。

    人工智能乃是人類科技文明的產(chǎn)兒。盡管它比傳統(tǒng)工具更富有智力,但人工智能為人類服務(wù)的工具性本質(zhì)并未改變,且不容改變。人類的智能源自人類的進化,它形成于人的童年時期?!罢f謊”是人類智能的一個表現(xiàn),人在兒童時期就都能學會說謊。而“機器不會說謊”,此乃人類科學研究的基本信念之一。人類要制造會說謊的人工智能,基本不可能。人不是神,他不可能亦不需要制造出真正全面具備類人性智能的人工智能。是故,人工智能永遠都不可能是一種目的性存在物,它不可能具有人格人的基本特征。人工智能的出現(xiàn)不會動搖法律主體的二元結(jié)構(gòu),人工智能的法律客體地位堅如磐石。制造會說謊的人工智能,科學家或許難免有這樣的沖動與野心。但是,法學家不應(yīng)跟在科學家后面亦步亦趨,相反,他應(yīng)當站到前面用法律的精神引導科學家及其人工智能產(chǎn)品。法律的精神就是維護人之尊嚴和人類安全。作為人類的發(fā)明物,人工智能應(yīng)該承載并彰顯此等法律精神,而不是反其道而行之。我們必須堅持人工智能的法律客體地位,人工智能反“客”為“主”之時,必將是人之尊嚴與人類安全喪失之日。關(guān)于人工智能的智能邊界,法律人務(wù)必高瞻遠矚、未雨綢繆。

    本文責任編輯:董彥斌

    猜你喜歡
    法人人工智能
    論法人的本質(zhì)
    人工智能之父
    捐助法人治理結(jié)構(gòu)在我國的發(fā)展
    2019:人工智能
    人工智能與就業(yè)
    數(shù)讀人工智能
    下一幕,人工智能!
    下一幕,人工智能!
    法人和法定代表人有什么區(qū)別?
    法人人格權(quán)芻議
    伊人久久国产一区二区| 少妇的逼好多水| av免费在线看不卡| 国产亚洲91精品色在线| 色视频在线一区二区三区| 97热精品久久久久久| 天堂俺去俺来也www色官网| 中文字幕亚洲精品专区| 少妇熟女欧美另类| 午夜精品国产一区二区电影| 老女人水多毛片| av线在线观看网站| 免费少妇av软件| 国产欧美亚洲国产| 国产av精品麻豆| 午夜福利网站1000一区二区三区| 九九爱精品视频在线观看| 亚洲不卡免费看| 精品99又大又爽又粗少妇毛片| 美女视频免费永久观看网站| 性色av一级| 一级av片app| 亚洲精品国产av蜜桃| 精品99又大又爽又粗少妇毛片| 晚上一个人看的免费电影| 欧美成人午夜免费资源| 最近最新中文字幕大全电影3| 尤物成人国产欧美一区二区三区| 亚洲精品一区蜜桃| 老女人水多毛片| 亚洲精华国产精华液的使用体验| 久久久久久久久久成人| 大陆偷拍与自拍| 久久99蜜桃精品久久| 日韩强制内射视频| 超碰97精品在线观看| 亚洲精华国产精华液的使用体验| 一区二区三区精品91| 日韩av免费高清视频| 天堂8中文在线网| 亚洲欧美中文字幕日韩二区| 成年女人在线观看亚洲视频| 亚洲av欧美aⅴ国产| 午夜激情久久久久久久| 久久久久性生活片| 日韩在线高清观看一区二区三区| 欧美亚洲 丝袜 人妻 在线| 久久久久人妻精品一区果冻| 久热久热在线精品观看| 日韩,欧美,国产一区二区三区| 天天躁夜夜躁狠狠久久av| 有码 亚洲区| 99久久精品国产国产毛片| 国产高清三级在线| 身体一侧抽搐| 久久久久人妻精品一区果冻| 久久久久久久国产电影| 国产黄片美女视频| 免费不卡的大黄色大毛片视频在线观看| 欧美zozozo另类| 特大巨黑吊av在线直播| 大陆偷拍与自拍| 中国三级夫妇交换| 乱系列少妇在线播放| 精品一品国产午夜福利视频| 亚洲欧美精品专区久久| 国产免费视频播放在线视频| 亚洲第一av免费看| av在线蜜桃| 国产精品免费大片| 亚洲av综合色区一区| 国产精品99久久久久久久久| 亚洲欧美日韩无卡精品| 女人十人毛片免费观看3o分钟| 成人二区视频| 大香蕉久久网| 各种免费的搞黄视频| 日本欧美国产在线视频| 成人综合一区亚洲| 久久久久久久久久人人人人人人| 亚洲怡红院男人天堂| videossex国产| 极品少妇高潮喷水抽搐| 国产永久视频网站| 久久人人爽av亚洲精品天堂 | 黄色日韩在线| 免费不卡的大黄色大毛片视频在线观看| 18禁裸乳无遮挡免费网站照片| 午夜精品国产一区二区电影| 大话2 男鬼变身卡| 亚洲内射少妇av| 久久国内精品自在自线图片| 另类亚洲欧美激情| 久久99精品国语久久久| 精品少妇久久久久久888优播| 成人二区视频| 全区人妻精品视频| 成人特级av手机在线观看| 三级国产精品片| 99国产精品免费福利视频| 看非洲黑人一级黄片| 男男h啪啪无遮挡| 高清在线视频一区二区三区| 男女免费视频国产| 一级毛片久久久久久久久女| 高清在线视频一区二区三区| 寂寞人妻少妇视频99o| 国产国拍精品亚洲av在线观看| 在线免费十八禁| 赤兔流量卡办理| 国产黄频视频在线观看| 91精品伊人久久大香线蕉| 高清在线视频一区二区三区| av在线蜜桃| 激情五月婷婷亚洲| 久久午夜福利片| 亚洲第一av免费看| 国产精品无大码| 91精品伊人久久大香线蕉| 国产 一区 欧美 日韩| 午夜福利在线观看免费完整高清在| 少妇人妻久久综合中文| 久久精品夜色国产| 亚洲色图av天堂| 久久久久久伊人网av| 在现免费观看毛片| 欧美+日韩+精品| 少妇丰满av| 性色avwww在线观看| 久久国产精品男人的天堂亚洲 | 免费黄色在线免费观看| 免费大片黄手机在线观看| 日本vs欧美在线观看视频 | videos熟女内射| av在线蜜桃| 久久ye,这里只有精品| 国产一级毛片在线| av天堂中文字幕网| 免费av中文字幕在线| 国产无遮挡羞羞视频在线观看| 尾随美女入室| 国产精品人妻久久久影院| 亚洲欧美日韩另类电影网站 | av又黄又爽大尺度在线免费看| 女人十人毛片免费观看3o分钟| 免费看日本二区| h日本视频在线播放| 国产精品国产三级国产av玫瑰| 99久久精品国产国产毛片| 精品一品国产午夜福利视频| 视频区图区小说| 日韩免费高清中文字幕av| 亚洲av中文字字幕乱码综合| 欧美日韩精品成人综合77777| 欧美zozozo另类| av在线老鸭窝| 亚洲天堂av无毛| 性色avwww在线观看| 久久久精品免费免费高清| 哪个播放器可以免费观看大片| 色视频在线一区二区三区| 丝瓜视频免费看黄片| 国产成人精品久久久久久| 国产精品一区二区在线不卡| 精品亚洲成国产av| 欧美日韩在线观看h| 久久午夜福利片| a级一级毛片免费在线观看| 街头女战士在线观看网站| 久久韩国三级中文字幕| av专区在线播放| 免费观看a级毛片全部| 午夜老司机福利剧场| av专区在线播放| 精品久久久久久久久亚洲| 美女福利国产在线 | av免费观看日本| 97热精品久久久久久| 亚洲av中文字字幕乱码综合| 久久久久久伊人网av| 97精品久久久久久久久久精品| 久久这里有精品视频免费| 成人黄色视频免费在线看| 亚洲精品国产av成人精品| 久久久精品免费免费高清| 哪个播放器可以免费观看大片| 王馨瑶露胸无遮挡在线观看| 欧美日本视频| 日韩中文字幕视频在线看片 | av播播在线观看一区| 亚洲精品国产成人久久av| 中文字幕亚洲精品专区| 日日啪夜夜撸| 一区二区三区免费毛片| 亚洲国产精品999| 日本vs欧美在线观看视频 | 午夜日本视频在线| 国产免费一区二区三区四区乱码| 成人一区二区视频在线观看| 日韩制服骚丝袜av| 秋霞在线观看毛片| 亚洲成人av在线免费| 亚洲内射少妇av| 中文字幕制服av| 精品熟女少妇av免费看| 91在线精品国自产拍蜜月| 欧美97在线视频| 精品人妻视频免费看| 97热精品久久久久久| 国产在线男女| 国产精品av视频在线免费观看| 插阴视频在线观看视频| 日韩成人伦理影院| 国产一区亚洲一区在线观看| 色视频www国产| 最近中文字幕2019免费版| 久久ye,这里只有精品| 又爽又黄a免费视频| 亚洲精品,欧美精品| 国产精品久久久久成人av| 久久av网站| 精华霜和精华液先用哪个| av女优亚洲男人天堂| 日韩,欧美,国产一区二区三区| 日韩三级伦理在线观看| 在线亚洲精品国产二区图片欧美 | 国产精品不卡视频一区二区| 亚洲国产av新网站| 久久精品夜色国产| 1000部很黄的大片| 少妇猛男粗大的猛烈进出视频| 国产精品麻豆人妻色哟哟久久| 亚洲精品久久久久久婷婷小说| 女人十人毛片免费观看3o分钟| 在线观看一区二区三区激情| 日韩不卡一区二区三区视频在线| 国产美女午夜福利| 欧美三级亚洲精品| 啦啦啦中文免费视频观看日本| 国产精品麻豆人妻色哟哟久久| 汤姆久久久久久久影院中文字幕| 亚洲高清免费不卡视频| 亚洲在久久综合| 又粗又硬又长又爽又黄的视频| 五月天丁香电影| 国产在线视频一区二区| 视频区图区小说| 亚洲精品国产av成人精品| 99re6热这里在线精品视频| 又粗又硬又长又爽又黄的视频| 欧美xxxx性猛交bbbb| 最近中文字幕2019免费版| 少妇裸体淫交视频免费看高清| 中文字幕免费在线视频6| 22中文网久久字幕| 亚洲va在线va天堂va国产| 大片免费播放器 马上看| 成人综合一区亚洲| 各种免费的搞黄视频| 亚洲精品国产av蜜桃| 日日啪夜夜撸| av不卡在线播放| 亚洲最大成人中文| 综合色丁香网| 久久这里有精品视频免费| 国产成人免费观看mmmm| 亚洲精品一区蜜桃| 日韩不卡一区二区三区视频在线| 国产片特级美女逼逼视频| 伦理电影大哥的女人| 国产视频首页在线观看| 99久久精品一区二区三区| 看非洲黑人一级黄片| 一级黄片播放器| 欧美三级亚洲精品| 亚洲综合精品二区| 久久国产精品大桥未久av | 国产乱来视频区| 三级国产精品欧美在线观看| 亚洲欧美清纯卡通| 99精国产麻豆久久婷婷| 大片免费播放器 马上看| 在线精品无人区一区二区三 | 人人妻人人爽人人添夜夜欢视频 | 亚洲自偷自拍三级| videos熟女内射| 3wmmmm亚洲av在线观看| 国产一级毛片在线| 精品人妻视频免费看| 97精品久久久久久久久久精品| 人人妻人人澡人人爽人人夜夜| 日韩中字成人| videossex国产| 又黄又爽又刺激的免费视频.| 国产精品一区二区性色av| 夫妻午夜视频| 成人二区视频| 男女免费视频国产| 成人漫画全彩无遮挡| 伊人久久国产一区二区| 男女下面进入的视频免费午夜| 精品人妻熟女av久视频| 国产女主播在线喷水免费视频网站| 国精品久久久久久国模美| 久久av网站| av一本久久久久| 国产淫语在线视频| 国产国拍精品亚洲av在线观看| 如何舔出高潮| 久久人妻熟女aⅴ| 97超视频在线观看视频| 国产精品久久久久久精品电影小说 | 在线观看人妻少妇| 午夜日本视频在线| 毛片一级片免费看久久久久| 日本欧美视频一区| 日本与韩国留学比较| 嫩草影院入口| 久久这里有精品视频免费| 免费观看a级毛片全部| 2021少妇久久久久久久久久久| 国产色爽女视频免费观看| av网站免费在线观看视频| 精品少妇久久久久久888优播| 中文字幕制服av| 欧美精品一区二区大全| 久久青草综合色| 成人美女网站在线观看视频| 欧美日韩在线观看h| 夜夜骑夜夜射夜夜干| 国产毛片在线视频| 国产亚洲91精品色在线| 91精品国产九色| 中文天堂在线官网| 91精品国产国语对白视频| 尾随美女入室| 黑人高潮一二区| 女的被弄到高潮叫床怎么办| 交换朋友夫妻互换小说| 一级毛片久久久久久久久女| 精品久久久噜噜| 国产精品99久久久久久久久| 国产白丝娇喘喷水9色精品| 国产精品爽爽va在线观看网站| 简卡轻食公司| 九草在线视频观看| 一本色道久久久久久精品综合| 国产精品一区www在线观看| 人妻一区二区av| 十分钟在线观看高清视频www | 菩萨蛮人人尽说江南好唐韦庄| 亚洲欧美清纯卡通| 高清视频免费观看一区二区| 国产一区亚洲一区在线观看| 亚洲av不卡在线观看| 亚洲欧美精品自产自拍| 国产精品三级大全| 亚洲国产精品一区三区| 成年av动漫网址| 男女啪啪激烈高潮av片| 亚洲欧美日韩卡通动漫| 精品久久久噜噜| 久久久久精品久久久久真实原创| 亚洲婷婷狠狠爱综合网| 亚洲三级黄色毛片| 国产欧美另类精品又又久久亚洲欧美| av在线蜜桃| 舔av片在线| 亚洲精品一区蜜桃| 这个男人来自地球电影免费观看 | 久久久久久久久久久丰满| 亚洲精品视频女| 欧美xxxx黑人xx丫x性爽| av视频免费观看在线观看| 色婷婷av一区二区三区视频| a级毛色黄片| 身体一侧抽搐| 天天躁日日操中文字幕| 国产又色又爽无遮挡免| 国产成人免费观看mmmm| 妹子高潮喷水视频| 国产成人精品久久久久久| 女人十人毛片免费观看3o分钟| 一级爰片在线观看| 亚洲欧美成人综合另类久久久| a 毛片基地| 肉色欧美久久久久久久蜜桃| 国产av国产精品国产| 久久亚洲国产成人精品v| 国产精品免费大片| 国产一区有黄有色的免费视频| 久久99精品国语久久久| 欧美成人a在线观看| 欧美激情极品国产一区二区三区 | 天堂中文最新版在线下载| av国产久精品久网站免费入址| 网址你懂的国产日韩在线| 美女福利国产在线 | 黑人高潮一二区| 欧美高清性xxxxhd video| 国产精品无大码| 特大巨黑吊av在线直播| 菩萨蛮人人尽说江南好唐韦庄| 欧美高清性xxxxhd video| 国产成人91sexporn| 国产高清三级在线| 久久久国产一区二区| 久久久精品免费免费高清| 青春草亚洲视频在线观看| 国产精品99久久久久久久久| 91精品伊人久久大香线蕉| 久久久久久久久久久免费av| 我要看黄色一级片免费的| 永久免费av网站大全| 最近2019中文字幕mv第一页| 亚洲美女黄色视频免费看| 欧美成人精品欧美一级黄| 日韩精品有码人妻一区| 又黄又爽又刺激的免费视频.| 各种免费的搞黄视频| 成年女人在线观看亚洲视频| 99九九线精品视频在线观看视频| 亚洲,欧美,日韩| 日日摸夜夜添夜夜爱| 欧美日韩综合久久久久久| 日本欧美国产在线视频| 亚洲精品久久久久久婷婷小说| 日韩 亚洲 欧美在线| 亚洲精品,欧美精品| 亚洲av不卡在线观看| 99久久精品热视频| 夜夜爽夜夜爽视频| 久久影院123| 久久久久国产网址| 婷婷色综合www| 成人毛片a级毛片在线播放| 久久精品国产亚洲网站| 精华霜和精华液先用哪个| 亚洲精品一区蜜桃| 十分钟在线观看高清视频www | 亚洲欧美成人精品一区二区| 久久6这里有精品| 国产av精品麻豆| 精品一区二区三区视频在线| 国产极品天堂在线| 亚洲av不卡在线观看| 国产成人免费观看mmmm| 久热这里只有精品99| 在线观看国产h片| 久久精品国产亚洲av涩爱| 一二三四中文在线观看免费高清| 久久久久久久久久人人人人人人| 毛片女人毛片| 精品人妻偷拍中文字幕| 欧美 日韩 精品 国产| 久久久久久久久大av| 男人添女人高潮全过程视频| 天堂8中文在线网| 国产精品一区二区在线观看99| 国语对白做爰xxxⅹ性视频网站| 精品熟女少妇av免费看| 久久精品国产亚洲网站| 一区二区av电影网| 精品一品国产午夜福利视频| 久久99热这里只频精品6学生| 五月开心婷婷网| 亚洲四区av| 午夜日本视频在线| 蜜桃久久精品国产亚洲av| 午夜激情福利司机影院| 交换朋友夫妻互换小说| 男人狂女人下面高潮的视频| 我的女老师完整版在线观看| 久久久欧美国产精品| 免费观看无遮挡的男女| 身体一侧抽搐| 婷婷色av中文字幕| 亚洲一级一片aⅴ在线观看| 蜜桃久久精品国产亚洲av| 国产伦精品一区二区三区视频9| 欧美日韩亚洲高清精品| 五月玫瑰六月丁香| 人妻一区二区av| 欧美xxxx黑人xx丫x性爽| 91久久精品电影网| 女的被弄到高潮叫床怎么办| 亚洲自偷自拍三级| 亚洲,欧美,日韩| 午夜老司机福利剧场| 男女啪啪激烈高潮av片| 久久久久久人妻| 欧美精品国产亚洲| 免费看光身美女| 99久久精品国产国产毛片| 汤姆久久久久久久影院中文字幕| 中文字幕制服av| 国产男人的电影天堂91| 麻豆成人av视频| 18禁裸乳无遮挡免费网站照片| 1000部很黄的大片| 美女视频免费永久观看网站| 国产精品人妻久久久影院| 亚洲国产精品999| 欧美成人一区二区免费高清观看| 亚洲欧美精品自产自拍| 国产精品久久久久久精品古装| 亚洲av成人精品一二三区| 久久精品熟女亚洲av麻豆精品| 国产精品一区二区在线不卡| 大陆偷拍与自拍| 少妇 在线观看| 草草在线视频免费看| 99热这里只有是精品50| 色视频在线一区二区三区| 欧美三级亚洲精品| 欧美3d第一页| 五月玫瑰六月丁香| 国产在线视频一区二区| 国产片特级美女逼逼视频| 亚洲精品日韩av片在线观看| 国产日韩欧美在线精品| 嫩草影院新地址| 男女免费视频国产| 亚洲av不卡在线观看| 久久久国产一区二区| 人妻制服诱惑在线中文字幕| 男人爽女人下面视频在线观看| 蜜臀久久99精品久久宅男| 高清在线视频一区二区三区| 舔av片在线| 成人亚洲欧美一区二区av| 51国产日韩欧美| 亚洲欧美成人综合另类久久久| 成人综合一区亚洲| 欧美zozozo另类| 91久久精品电影网| 亚洲美女搞黄在线观看| 亚洲精品国产成人久久av| 夫妻性生交免费视频一级片| 少妇 在线观看| 色婷婷av一区二区三区视频| 日日摸夜夜添夜夜添av毛片| 中文字幕精品免费在线观看视频 | 国产在线一区二区三区精| 国产视频首页在线观看| 精品国产露脸久久av麻豆| 久久99热6这里只有精品| 97超视频在线观看视频| 在线精品无人区一区二区三 | 汤姆久久久久久久影院中文字幕| 内地一区二区视频在线| 麻豆国产97在线/欧美| 国产黄片美女视频| 一级黄片播放器| 我的女老师完整版在线观看| 亚洲,欧美,日韩| 老司机影院成人| 少妇丰满av| 另类亚洲欧美激情| 亚洲精品国产av成人精品| 国产真实伦视频高清在线观看| 又爽又黄a免费视频| 深爱激情五月婷婷| 国产精品久久久久久久电影| 亚洲精品中文字幕在线视频 | 男女边吃奶边做爰视频| 尾随美女入室| 97热精品久久久久久| 一区二区三区精品91| 一级爰片在线观看| 久久6这里有精品| 国产永久视频网站| 国产日韩欧美亚洲二区| 国产精品爽爽va在线观看网站| 亚洲成色77777| 99热这里只有是精品在线观看| 美女国产视频在线观看| 在线精品无人区一区二区三 | 亚洲精品,欧美精品| 成人美女网站在线观看视频| 久久 成人 亚洲| 亚洲精品乱码久久久久久按摩| 亚洲精品中文字幕在线视频 | 高清午夜精品一区二区三区| 亚洲精品国产av成人精品| 欧美三级亚洲精品| 久久久久网色| 国产精品国产三级专区第一集| 国产精品一区www在线观看| 欧美亚洲 丝袜 人妻 在线| 香蕉精品网在线| 菩萨蛮人人尽说江南好唐韦庄| 久久精品国产鲁丝片午夜精品| www.色视频.com| 夜夜爽夜夜爽视频| 国产精品一区二区在线不卡| 国产在线免费精品| 国产精品久久久久成人av| 亚洲精品日韩在线中文字幕| 国产精品伦人一区二区| 99热网站在线观看| 亚洲丝袜综合中文字幕| 美女xxoo啪啪120秒动态图| 国产成人精品福利久久| 国内精品宾馆在线| 亚洲真实伦在线观看| 高清毛片免费看| 久久久国产一区二区| 欧美激情国产日韩精品一区| 一级毛片我不卡| 亚洲精品亚洲一区二区| 午夜精品国产一区二区电影| 99热网站在线观看| 国产欧美日韩精品一区二区| 色视频在线一区二区三区|