• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能機器人致人損害民事責(zé)任的困境及其破解

    2020-12-20 12:43:15朱靜潔
    理論月刊 2020年1期
    關(guān)鍵詞:民事行為民事責(zé)任因果關(guān)系

    □ 朱靜潔

    (1.云南財經(jīng)大學(xué) 法學(xué)院,云南昆明 650221;2.西南政法大學(xué) 經(jīng)濟法學(xué)院,重慶 401120;3.貴州省社會科學(xué)院 法律研究所,貴州貴陽 550002;)

    一、問題的提出

    人工智能是當前全球的熱點話題,亦是我國國家戰(zhàn)略布局的重要組成部分①2016年5月18日,國家發(fā)展改革委、科技部、工業(yè)和信息化部、中央網(wǎng)信辦印發(fā)《“互聯(lián)網(wǎng)+”人工智能三年行動實施方案(發(fā)改高技[2016]1078號)》,提出我國將著力突破若干人工智能關(guān)鍵核心技術(shù),增強智能硬件供給能力,促進人工智能在國民經(jīng)濟社會重點領(lǐng)域的推廣。2017年7月20日,國務(wù)院印發(fā)《關(guān)于新一代人工智能發(fā)展規(guī)劃的通知(國發(fā)〔2017〕35號)》,明確提出把人工智能發(fā)展放在國家戰(zhàn)略層面系統(tǒng)布局,牢牢把握戰(zhàn)略主動。2017年12月31日,工業(yè)和信息化部印發(fā)《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018—2020年)(工信部科[2017]315號)》,以加快人工智能產(chǎn)業(yè)發(fā)展,推動人工智能和實體經(jīng)濟深度融合。。智能機器人是典型的人工智能實體之一,其主要通過傳感器、數(shù)據(jù)等與外界進行交流,是具備“深度學(xué)習(xí)”及自主決策能力、能夠隨著環(huán)境變化自我調(diào)節(jié)、進化的有形實體。隨著人工智能技術(shù)的迅速發(fā)展,智能機器人的運用范圍已遍及醫(yī)療、交通、制造、軍事、教育等領(lǐng)域,“AlphaGo”、自動駕駛汽車、智能醫(yī)療機器人等智能機器人的出現(xiàn)顛覆了人類對于機器人的傳統(tǒng)認知。

    然而,智能機器人在為人類提供便利的同時,其致人損害事故也時有發(fā)生。2007年美國食品藥品監(jiān)督管理局就曾收到指控醫(yī)療外科手術(shù)機器人導(dǎo)致病人遭受燒傷、切割傷與感染的投訴,數(shù)量多達200余次,其中包括89例致人死亡的事故[1](p132);2015年德國曾發(fā)生工人被工業(yè)機器人傷害致死的事故①新浪財經(jīng).德國大眾工廠發(fā)生機器人殺人事故:一名工人身亡.(2015-7-2),[2019-5-1].http://finance.sina.com.cn/chanjing/gsnews/20150702/175722574804.shtml.;2018年3月20日在美國發(fā)生優(yōu)步無人駕駛汽車撞人致死的交通事故,這是首例無人駕駛汽車致人死亡事故②新浪科技.優(yōu)步自動駕駛事故首例無人駕駛車撞人致死案.(2018-3-20),[2019-5-1].http://www.techweb.com.cn/digitallife/2018-03-20/2647095.shtml.。隨著智能機器人各項技術(shù)的日益成熟,其運用必然更加廣泛,類似的智能機器人侵害人類人身、財產(chǎn)的事例還會增多,因此必須正視并解決智能機器人致人損害民事責(zé)任的相關(guān)問題。智能機器人因其具備深度學(xué)習(xí)及自主決策能力而與傳統(tǒng)機器人有顯著區(qū)別,智能機器人致人損害行為較傳統(tǒng)侵權(quán)行為有一定的特殊性,所以在現(xiàn)行民事責(zé)任制度的框架下難以有效解決智能機器人致人損害的問題。本文嘗試結(jié)合智能機器人致人損害行為的特殊性,深入分析傳統(tǒng)民事責(zé)任制度適用于智能機器人致人損害時面臨的三大困境,進而有針對性地提出破解對策,以期為我國智能機器人的發(fā)展及相關(guān)法律規(guī)定的修改提供初步建議。

    二、智能機器人致人損害的特殊性

    智能機器人具備能夠與外界發(fā)生交互的物理載體,其不僅可以通過算法、代碼、信息傳感技術(shù)處理并分析海量數(shù)據(jù)、信息,還能在此基礎(chǔ)上作出獨立自主的決策,并通過“深度學(xué)習(xí)”不斷更新、完善自身知識體系與數(shù)據(jù)庫,從而持續(xù)調(diào)整自身系統(tǒng)以適應(yīng)環(huán)境變化[2](p104)??梢姡瑢⒅悄軝C器人等同于純粹供人類使用的工具并不恰當,而智能機器人的擬人性、復(fù)雜性、不可預(yù)見性則導(dǎo)致智能機器人致人損害較傳統(tǒng)侵權(quán)行為具備一定的特殊性,具體表現(xiàn)為侵權(quán)關(guān)系主體的復(fù)雜性、侵害客體的多樣性、損害結(jié)果的潛伏性。

    (一)侵權(quán)關(guān)系主體的復(fù)雜性

    智能機器人致人損害行為的侵權(quán)關(guān)系主體較為復(fù)雜,該類致人損害事件往往具有復(fù)雜多變的發(fā)生機制。智能機器人在被研發(fā)、制造、使用或自行運轉(zhuǎn)的每個階段都可能存在導(dǎo)致?lián)p害事件發(fā)生的因素,同時牽涉多個侵權(quán)關(guān)系主體。在智能機器人的研發(fā)、制造階段,研發(fā)人及生產(chǎn)者為智能機器人提供了初始的認知、價值及控制體系,即使是在出廠后進行的深度學(xué)習(xí)過程中,其學(xué)習(xí)方式、內(nèi)容及運用都由研發(fā)者擬定的算法決定。因此,當研發(fā)者和生產(chǎn)者因過錯導(dǎo)致智能機器人存在缺陷進而造成他人損害時,研發(fā)者及生產(chǎn)者將成為民事責(zé)任主體之一。在人類合理使用而智能機器人正常運轉(zhuǎn)的情況下,智能機器人因偶發(fā)性自主決定而致人損害時,研發(fā)者和生產(chǎn)者是否仍應(yīng)當成為侵權(quán)行為主體?智能機器人又能否成為獨立的民事責(zé)任主體?在人類未合理使用智能機器人而遭受損害時,使用者是否應(yīng)當承擔相應(yīng)的過錯責(zé)任?上述問題都需要進一步商榷,可見智能機器人致人損害牽涉的侵權(quán)關(guān)系主體較為復(fù)雜,其確定并不像傳統(tǒng)侵權(quán)行為關(guān)系主體那樣簡單明了。

    (二)侵害客體的多樣性

    智能機器人致人損害的侵害客體較傳統(tǒng)侵權(quán)行為更為多樣,其不僅可能對受害人的人身、財產(chǎn)造成損害,還可能通過大數(shù)據(jù)及互聯(lián)網(wǎng)對受害人的個人信息、數(shù)據(jù)造成損害。智能機器人通過不斷收集海量的信息、數(shù)據(jù)進行“深度學(xué)習(xí)”,同時針對系統(tǒng)指令完成特定的目標。以無人駕駛汽車為例,用戶要享受其減輕駕駛難度、提高交通安全指數(shù)的便利,就需要提供基本的身份信息、支付信息、目的地信息、個人實時位置信息等數(shù)據(jù),同時用戶乘坐無人駕駛汽車期間的行程路線、通話記錄、出行習(xí)慣等信息也將被持續(xù)收集、整理、分析。上述數(shù)據(jù)信息包括用戶的個人信息及其他使用數(shù)據(jù),兼具人格屬性及財產(chǎn)屬性,無人駕駛汽車整合的這些電子數(shù)據(jù)信息將形成每個用戶獨一無二的電子人格[3](p119),一旦數(shù)據(jù)被篡改、泄露、非法利用將嚴重危害用戶隱私權(quán)、財產(chǎn)權(quán)、生命健康權(quán)等民事權(quán)利。智能機器人發(fā)生故障或偶發(fā)性自主決策而致人損害,既可能造成交通事故損害用戶的人身、財產(chǎn)安全,也可能泄露或篡改用戶的數(shù)據(jù)信息,損害用戶的個人信息權(quán)利。

    (三)損害后果的潛伏性

    人工智能技術(shù)更新快、難度大,智能機器人的設(shè)計、制造、運行呈現(xiàn)高度技術(shù)化的特點,智能機器人的“深度學(xué)習(xí)”及自主決策能力雖由人類賦予,但研發(fā)者卻尚不能完全解釋其運行機制,對于普通人而言智能機器人的技術(shù)路徑及運行機制則更是難以把握。在某些情境下智能機器人致人損害的后果并不一定即時顯現(xiàn)或被人察覺,具有一定的潛伏性。其內(nèi)在運行技術(shù)的復(fù)雜性及自主決策的獨立性導(dǎo)致制造者、生產(chǎn)者、使用者或與其發(fā)生交互的其他主體難以完全預(yù)見其行為,更無法及時發(fā)現(xiàn)智能機器人致人損害的后果。以智能家居機器人為例,其具備收集、分析用戶使用數(shù)據(jù)并完善運行方案的功能,智能家居機器人的性質(zhì)決定了其能夠輕易地獲取用戶日常生活的習(xí)慣、隱私等信息。然而,普通用戶并不能完全把握智能家居機器人收集數(shù)據(jù)的具體范圍、數(shù)據(jù)分析的模式、數(shù)據(jù)的使用路徑等,無形中用戶不愿被采集的隱私數(shù)據(jù)也會被智能家居機器人收集并運用,同時智能家居機器人也可能在未經(jīng)用戶允許的情況下通過互聯(lián)網(wǎng)將用戶數(shù)據(jù)接入企業(yè)平臺,用于推廣目標鎖定或直接分享進而損害用戶合法利益。而上述智能機器人致人損害行為后果的潛伏性導(dǎo)致受害者對于損害結(jié)果的察覺往往具有滯后性,當用戶發(fā)現(xiàn)時損害結(jié)果已經(jīng)擴大并可能在一定時間內(nèi)產(chǎn)生持續(xù)性的后果,這也是智能機器人致人損害區(qū)別于普通侵權(quán)行為的特殊之處。

    三、傳統(tǒng)民事責(zé)任制度適用于智能機器人致人損害的困境

    智能機器人致人損害的特殊性導(dǎo)致相關(guān)民事責(zé)任的認定及承擔不同于傳統(tǒng)侵權(quán)行為,直接適用我國現(xiàn)行《侵權(quán)責(zé)任法》《產(chǎn)品質(zhì)量法》等相關(guān)規(guī)定將面臨諸多困境,其中智能機器人致人損害的民事責(zé)任主體確認、因果關(guān)系認定、民事責(zé)任承擔方式三大問題最為突出。

    (一)智能機器人致人損害的民事責(zé)任主體不明

    確認智能機器人致人損害的民事責(zé)任主體,首先要明確引發(fā)智能機器人致人損害的原因,究其原因至少有以下三種可能:其一,研發(fā)者、生產(chǎn)者在研發(fā)制造智能機器人時存在過失,導(dǎo)致智能機器人因存在設(shè)計缺陷、制造缺陷或警示缺陷[4](p2)而致人損害;其二,智能機器人致人損害是由占有者、使用者的不合理使用造成的;其三,在研發(fā)者、生產(chǎn)者不存在過失,占有者、使用者合理使用的情形下,智能機器人因自主決策行為而致人損害。上述三種情形既可以單獨造成智能機器人致人損害,也可能同時成為智能機器人致人損害的誘因。在第一種情形下,研發(fā)者、生產(chǎn)者可依據(jù)《產(chǎn)品質(zhì)量法》對智能機器人因缺陷致人損害承擔相應(yīng)的賠償責(zé)任,而在第二種情形下占有者、使用者可依據(jù)《侵權(quán)責(zé)任法》承擔不當使用的侵權(quán)責(zé)任,這兩種情形中的民事責(zé)任主體尚能依據(jù)現(xiàn)行民事責(zé)任制度得以確定。然而,第三種情形下智能機器人民事責(zé)任主體的確定則存在許多值得商榷的地方。

    在研發(fā)者、制造者沒有過失,占有者、使用者合理使用情形下,直接適用傳統(tǒng)民事責(zé)任制度確認智能機器人致人損害民事責(zé)任主體的難度較大。首先,參照第一種情形適用《產(chǎn)品質(zhì)量法》,直接將研發(fā)者、生產(chǎn)者作為智能機器人致人損害的民事責(zé)任主體并不可行。原因在于研發(fā)者、生產(chǎn)者在智能機器人的設(shè)計、制造過程中并沒有過失,其在設(shè)計、制造智能機器人時已經(jīng)根據(jù)人工智能發(fā)展的實際情況履行了預(yù)見義務(wù)。在研發(fā)者、生產(chǎn)者無過失的情況下仍然將其作為智能機器人致人損害民事責(zé)任主體,表面上看似乎能夠通過嚴格責(zé)任震懾研發(fā)者及生產(chǎn)者,但無條件要求研發(fā)人、生產(chǎn)者承擔卻將導(dǎo)致其承擔過重的研發(fā)風(fēng)險及成本,直接影響智能機器人技術(shù)的創(chuàng)新發(fā)展。

    其次,將智能機器人作為占有人、使用人的財產(chǎn),要求占有人、使用人就智能機器人自主決策致人損害行為承擔全部民事責(zé)任的做法亦不具備合理性。占有人、使用人在運行智能機器人對于其行為的預(yù)見性有限,由于智能機器人的設(shè)計、制造技術(shù)先進且更新迅速,其進行“深度學(xué)習(xí)”及自主決策主要依據(jù)算法及數(shù)據(jù),并不是機械執(zhí)行占有人的指令,要求占有人對智能機器人基于自主決策行為致人損害承擔全部民事責(zé)任并不合理。

    最后,將智能機器人自身作為致人損害民事責(zé)任主體的觀點尚存爭議。智能機器人能否就其致人損害行為承擔民事責(zé)任,取決于智能機器人是否具備民事主體地位,但目前學(xué)界對于該問題尚未形成共識。有學(xué)者認為智能機器人不能擁有獨立財產(chǎn),尚不足以取得獨立的民事主體地位[5](p82),另有學(xué)者則提出智能機器人不是物,其具備自主性與主動性[6](p40),我國民事法律制度應(yīng)當賦予其法律人格[7](p14)。同時,還有學(xué)者指出當智能機器人已經(jīng)遵循預(yù)設(shè)程序精準運行但仍導(dǎo)致?lián)p害發(fā)生,其致人損害的民事責(zé)任不能歸屬于設(shè)計、制造、流通的某個或某幾個主體時,智能機器人應(yīng)當就此承擔民事責(zé)任[8](p39)。可見,在無法將研發(fā)者、生產(chǎn)者、占有者或使用者作為智能機器人致人損害民事責(zé)任主體的情況下,智能機器人是否能夠獲得獨立的民事主體地位并成為致人損害的民事責(zé)任主體尚不明確,傳統(tǒng)民事責(zé)任制度難以充分、有效地適用于智能機器人致人損害行為。而民事責(zé)任主體不明將直接導(dǎo)致該類行為的受害人無法提起民事訴訟并獲得相應(yīng)賠償,進而使智能機器人致人損害行為成為法律規(guī)制的盲區(qū),不利于人工智能技術(shù)的持續(xù)發(fā)展及人類生命財產(chǎn)的有效保護。

    (二)智能機器人致人損害的因果關(guān)系認定及證明困難

    傳統(tǒng)民事責(zé)任制度一般通過必然因果關(guān)系確定損害行為與結(jié)果之間的關(guān)系,但智能機器人致人損害行為與結(jié)果卻難以適用必然因果關(guān)系進行認定。一方面,智能機器人致人損害行為的發(fā)生機制復(fù)雜,他人干擾、自身缺陷、使用不當、未知原因等均能單獨或共同造成致人損害的后果,而多個原因同時作用時各誘發(fā)因素在不同情況下對損害結(jié)果發(fā)生的影響程度又會有顯著差異。一果多因、多因多果的廣泛存在導(dǎo)致智能機器人致人損害行為和結(jié)果間的因果關(guān)系復(fù)雜化,顯著提升了智能機器人致人損害因果關(guān)系的認定難度。另一方面,智能機器人運行的不透明性及不可預(yù)見性,進一步導(dǎo)致加劇了智能機器人致人損害行為因果關(guān)系的認定難度。如前所述,智能機器人設(shè)計、制造的技術(shù)難度高且更新迅速,智能機器人“深度學(xué)習(xí)”及自主決策行為的原理、技術(shù)路徑、運行風(fēng)險等問題中尚存在專業(yè)技術(shù)人員通過現(xiàn)有技術(shù)無法解釋的盲區(qū)。智能機器人行為及決策的不透明性及不可預(yù)見性,將直接導(dǎo)致人類無法查明智能機器人致人損害的真正原因,即使獲得智能機器人的算法及運行數(shù)據(jù)當事人也將面臨嚴峻的技術(shù)障礙及訴訟成本[9](p172)。

    此外,智能機器人致人損害因果關(guān)系的證明難度較大,當事人難以采集并固定到有效的證據(jù)。在現(xiàn)行民事法律制度下,證明智能機器人致人損害因果關(guān)系至少需要提供智能機器人存在機械故障、算法漏洞等問題的證據(jù),而這些證據(jù)皆需要原告提供。但是,智能機器人致人損害訴訟中受害人與智能機器人研發(fā)者、生產(chǎn)者的技術(shù)能力及經(jīng)濟實力的懸殊,決定了雙方存在嚴重的信息不對等,這將把受害人置于相當被動的處境。對于非該技術(shù)領(lǐng)域?qū)I(yè)人員的當事人而言,采集并固定智能機器人存在機械故障、算法漏洞等有效證據(jù)的難度極大且需要投入巨額成本,而在未知因素導(dǎo)致?lián)p害結(jié)果發(fā)生的情形下,當事人則基本沒有證明的可能。同時,智能機器人致人損害結(jié)果的潛伏性導(dǎo)致受害人發(fā)覺被侵害的時間具有滯后性,證據(jù)在損害結(jié)果發(fā)生到受害人發(fā)覺期間可能會被刪除、覆蓋、篡改等,直接影響相關(guān)證據(jù)的真實性及解釋力。

    (三)智能機器人致人損害民事責(zé)任的承擔方式局限

    從傳統(tǒng)民事責(zé)任的構(gòu)造角度,可依據(jù)功能將我國的民事責(zé)任分為防御性責(zé)任、返還性責(zé)任和損害賠償責(zé)任三種類型,其中防御性責(zé)任主要包括停止侵害、消除危險、排除妨害等,返還性責(zé)任則包括返還原物及返還權(quán)益的價值形態(tài),而損害賠償責(zé)任則包括恢復(fù)原狀及價值賠償兩種形式[10](p95)。然而,在現(xiàn)行民事責(zé)任制度框架下確認的智能機器人致人損害民事責(zé)任承擔方式卻不夠科學(xué)、合理,其根本原因在于現(xiàn)行民事責(zé)任承擔方式適用于該類行為時具有局限性。其一,智能機器人通過收集、泄露、不當利用等方式侵害用戶數(shù)據(jù)信息所造成的損害后果往往具有不可逆性,無法通過“恢復(fù)原狀”對受害人進行救濟[11](p67)。用戶的個人信息及其他涉及隱私、個人習(xí)慣等的敏感或非敏感數(shù)據(jù)信息一旦被泄露或公開就無法恢復(fù)原狀,同時信息數(shù)據(jù)在互聯(lián)網(wǎng)中的傳播范圍、速度也難以控制,很難徹底消除損害后果。其二,在智能機器人作為獨立民事責(zé)任主體,獨立承擔致人損害民事責(zé)任的情況下,傳統(tǒng)的民事責(zé)任承擔形式也將面臨挑戰(zhàn)。以“賠禮道歉”為例,“賠禮道歉”這一傳統(tǒng)民事責(zé)任承擔方式建立在人類具有羞恥感的基礎(chǔ)之上,這種羞恥感是人類通過后天習(xí)得并具有濃厚社會性的獨特情感[12](p100)。要求侵權(quán)人承擔“賠禮道歉”的民事責(zé)任,一方面是為了滿足受害人的心理需求,另一方面則能夠通過“羞辱性制裁”公開懲戒侵權(quán)人,震懾其他社會成員。然而,智能機器人沒有生命體且不具備羞恥感,“賠禮道歉”無法讓智能機器人產(chǎn)生羞恥心,亦不能對其他智能機器人產(chǎn)生震懾效果,更無法使受害人得到心理上的補償。由此可見,傳統(tǒng)民事責(zé)任承擔方式適用于智能機器人致人損害時具有一定的局限性,需要補充專屬于智能機器人的新型民事責(zé)任承擔方式,從而達到有效懲戒責(zé)任主體、預(yù)防智能機器人致人損害再次發(fā)生、合理救濟受害人的目的。

    四、智能機器人致人損害民事責(zé)任困境的破解

    隨著人工智能技術(shù)的發(fā)展,智能機器人致人損害行為將更為復(fù)雜,損害后果則可能更為嚴重,傳統(tǒng)民事責(zé)任制度適用于智能機器人致人損害的困境將更加凸顯。順應(yīng)當前時代發(fā)展趨勢,充分考慮智能機器人的特殊性,尋求智能機器人致人損害民事責(zé)任困境的破解之道已是大勢所趨。具體而言,可從明確智能機器人民事責(zé)任主體地位、科學(xué)認定智能機器人致人損害因果關(guān)系及增設(shè)特殊民事責(zé)任承擔方式三個方面,逐一破解智能機器人致人損害的民事責(zé)任困境。

    (一)明確智能機器人的民事主體地位

    我國法律應(yīng)當基于“理性”賦予智能機器人民事主體地位。“理性”是民事法律地位的確認依據(jù),其作為民事主體與客體的本質(zhì)區(qū)別得到了民事法律制度發(fā)展史的印證。智能機器人具備與人類相當甚至超越人類的“理性”,其所具備的“理性”來源于人類,是人類認知理性與行為理性的延伸。一方面智能機器人本身就承載著研發(fā)者的知識、規(guī)則、邏輯與倫理等,而智能機器人的運算邏輯則是知識、信息與規(guī)則的高度統(tǒng)一[13](p22),其擴展認知的“深度學(xué)習(xí)”能力決定了智能機器人不僅僅是承載人類思維的工具,更是能夠產(chǎn)生自我意識并具備相當認知彈性的個體[14](p1334)。另一方面智能機器人具備在最大限度實現(xiàn)某一特定目標時確定從事或不從事某些行為的理性,其能夠以與人類相當甚至超越人類的認知能力準確預(yù)測、權(quán)衡其實現(xiàn)某行動將產(chǎn)生的后果,并在人類倫理道德、法律等行為守則的束縛下選擇最優(yōu)的實施方案。智能機器人對行為的精準控制依賴于人類社會的規(guī)則及其通過互聯(lián)網(wǎng)、大數(shù)據(jù)對各個實施方案數(shù)字化的利弊分析[15](p139)。簡言之,智能機器人不是物,其因具備與人類相當甚至超越人類的認知理性及行為理性而應(yīng)享有民事主體地位、具備民事行為能力,進而具有民事責(zé)任能力①學(xué)界通常認為,凡依法具有民事行為能力者,均具有民事責(zé)任能力(參見梁慧星.民法總論[M].北京:法律出版社,2007,p68)。。需要強調(diào)的是,法律應(yīng)當賦予智能機器人民事主體地位,但這種民事主體地位并不是完全、不受限制、與人類平等的民事主體地位,而是限制性的民事主體地位[16](p44)。為了保護人類、維護人類利益,自然人與智能機器人之間不應(yīng)存在法律意義上的平等,限制性民事主體地位意味著優(yōu)先保障自然人利益應(yīng)是處理自然人與智能機器人利益沖突的首要原則。

    智能機器人致人損害民事責(zé)任的具體承擔可參照自然人致人損害的民事責(zé)任承擔,依據(jù)智能機器人的智能化程度和理性指數(shù)劃分不同民事行為能力智能機器人致人損害的民事責(zé)任?,F(xiàn)行民事責(zé)任制度下自然人致人損害民事責(zé)任的承擔主要以民事行為能力為標準進行劃分,立法者采取年齡與辨認、控制能力(精神健康狀況)相結(jié)合的標準,將自然人依據(jù)其理性程度劃分為不同的民事行為能力等級[17](p8),進而分別劃分無民事行為能力人、限制民事行為能力人及完全民事行為能力人致人損害的民事責(zé)任。智能機器人致人損害民事責(zé)任的具體承擔可以參照自然人,以智能機器人的理性程度為基本尺度,采取智能化程度和理性指數(shù)相結(jié)合的標準。與自然人以客觀年齡作為民事行為能力分層標準類似,我國可將智能機器人分為低級智能機器人、中級智能機器人及高級智能化機器人。同時,將智能機器人的理性指數(shù)從低到高分為一級、二級、三級,結(jié)合智能化程度將智能機器人劃分為無民事行為能力機器人、限制民事行為能力機器人及完全民事行為能力機器人。

    無民事行為能力機器人能夠進行獨立判斷并作出自主決策,但由于其不具備辨認、控制自身行為的能力,其行為應(yīng)當視為實現(xiàn)研發(fā)者或占有者意志的行為。無民事行為能力機器人為實現(xiàn)研發(fā)者或占有者意志而致人損害的,應(yīng)由研發(fā)者或法定代理人(即智能機器人的所有權(quán)人或占有人)承擔民事責(zé)任。限制民事行為能力機器人致人損害民事責(zé)任的具體承擔應(yīng)考慮其法定代理人是否盡到監(jiān)督、預(yù)防義務(wù),限制民事行為能力機器人與法定代理人類似于監(jiān)護人與被監(jiān)護人。法定代理人未盡到監(jiān)督、預(yù)防義務(wù)的,由法定代理人承擔民事責(zé)任;法定代理人盡到監(jiān)督、預(yù)防義務(wù)的,由限制民事行為能力機器人以個人財產(chǎn)承擔民事責(zé)任,個人財產(chǎn)不足以支付賠償費用時由法定代理人承擔替代責(zé)任[18](p53)。完全民事行為能力機器人致人損害的,以其所擁有的財產(chǎn)承擔民事責(zé)任。完全民事行為能力機器人對自身行為暫時無法辨認或控制而造成他人損害的(例如:他人通過病毒控制智能機器人),如果其存在過錯則應(yīng)當承擔民事責(zé)任,若無過錯則根據(jù)智能機器人的經(jīng)濟承擔能力對受害人進行適當補償。

    (二)科學(xué)認定智能機器人致人損害的因果關(guān)系

    智能機器人致人損害的因果關(guān)系與環(huán)境侵權(quán)案件具有較高的相似性,損害行為與損害后果間關(guān)系復(fù)雜,一果多因、多因多果的情況常見,難以適用必然因果關(guān)系理論。同時,原告與被告技術(shù)、經(jīng)濟實力懸殊,大多數(shù)證明因果關(guān)系的事實存在于被告方的內(nèi)部控制范圍內(nèi)[19](p98),部分事實與結(jié)果間的因果關(guān)系具有科學(xué)上的不確定性。因此,可以參照環(huán)境法領(lǐng)域?qū)W者的觀點,將適用相當因果關(guān)系理論作為智能機器人致人損害因果關(guān)系認定的最佳選擇,并輔以部分因果關(guān)系理論進行修正[20](p173)。相當因果關(guān)系的成立要求相關(guān)事實是損害發(fā)生的必要條件,并且顯著增加損害發(fā)生的客觀可能性。部分因果關(guān)系則是指相關(guān)事實是損害結(jié)果發(fā)生的“非充分且非必要條件”[21](p254),僅是損害發(fā)生的部分原因,目前學(xué)界提出的概然因果關(guān)系、表面因果關(guān)系、疫學(xué)因果關(guān)系等概念皆與“部分因果關(guān)系”在一定意義上存在交叉。部分因果關(guān)系理論與相當因果關(guān)系理論在智能機器人致人損害因果關(guān)系認定中的定位各有不同,部分因果關(guān)系理論是從單純認知的角度通過理論或邏輯劃分因果關(guān)系的類別,而相當因果關(guān)系則是從法律歸責(zé)角度通過實證分析智能機器人致人損害案件中因果關(guān)系認定的方式,二者相互配合、補充方能科學(xué)認定智能機器人致人損害的因果關(guān)系。在因果關(guān)系的證明方法上,由于智能機器人致人損害的因果關(guān)系一般很難通過演繹的方式直接加以證明,且常需要對依據(jù)現(xiàn)有科學(xué)技術(shù)尚不能準確認識的事物作出判斷,因此事實推定應(yīng)成為因果關(guān)系證明的主要方法。

    智能機器人致人損害因果關(guān)系證明責(zé)任的分配決定著當事人舉證的內(nèi)在動力,因果關(guān)系證明機制應(yīng)當鼓勵當事人通過證明活動查明事實,盡可能保證各方當事人舉證責(zé)任的合理分配。首先,原告應(yīng)對被告智能機器人行為與損害之間的因果關(guān)系進行初步舉證,并將其主張具體化以明確證明對象或范圍。此處,原告僅需提供簡化證明,既可以不確切說明證明對象或只是將猜測成立的證據(jù)作為主張的支撐,也可以提出較為模糊的整體主張,從而迫使被告方提出更接近案情事實的證據(jù)。其次,在原告本證的基礎(chǔ)上,被告應(yīng)提出反證或間接反證。因為智能機器人致人損害案件中雙方當事人技術(shù)、經(jīng)濟等方面實力的懸殊將使被告方占有相當?shù)淖C據(jù)優(yōu)勢,所以在原告明確了基本證明方向后具體的證明責(zé)任將轉(zhuǎn)由被告承擔。被告若提出反證則只需證明相關(guān)事實真?zhèn)尾幻鳎绻桓嫣岢鲩g接反證則應(yīng)對間接反證的相關(guān)事實進行完全證明。最后,在證據(jù)手段的利用上,智能機器人致人損害的雙方當事人平等,均負有事證開示義務(wù)或事案闡明義務(wù)。這意味著智能機器人致人損害的受害人也需向?qū)Ψ疆斒氯碎_示除涉及隱私、商業(yè)秘密之外的有關(guān)案件信息。此外,智能機器人致人損害的因果關(guān)系證明可能存在“證據(jù)偏在”的情況,在舉證責(zé)任方完全沒有取得證據(jù)的“期待可能性”時,可根據(jù)公平、誠信原則要求對方當事人例外地承擔事案闡明義務(wù)。

    (三)增設(shè)智能機器人致人損害的特殊民事責(zé)任承擔方式

    我國民事責(zé)任制度確立自然人民事責(zé)任承擔方式時充分考慮了自然人的特點,設(shè)立了防御性責(zé)任、返還性責(zé)任和損害賠償責(zé)任。雖然,在確定智能機器人民事主體地位后,其能夠擁有獨立財產(chǎn)并享有部分民事權(quán)利,可以承擔絕大多數(shù)返還性責(zé)任和損害賠償責(zé)任,但是防御性責(zé)任的承擔卻仍存在壁壘,特別是以自然人特有的“羞恥感”為基礎(chǔ)設(shè)立的“賠禮道歉”難以適用于智能機器人。因此,有必要針對智能機器人的特點增設(shè)其專屬的民事責(zé)任承擔方式。具體而言,可以增設(shè)更改程序、刪除數(shù)據(jù)、召回銷毀、停止生產(chǎn)等民事責(zé)任承擔方式。更改程序,是指強制修改直接導(dǎo)致智能機器人致人損害的基礎(chǔ)程序,將其“深度學(xué)習(xí)”、自主決策的能力限制在合理的安全范圍內(nèi),從源頭上降低智能機器人再次致人損害的可能性。刪除數(shù)據(jù),是指通過技術(shù)手段徹底刪除智能機器人實施致人損害行為所依賴的相關(guān)程序及數(shù)據(jù)。通過刪除致人損害的相關(guān)程序及數(shù)據(jù)不僅能夠使智能機器人擺脫“負面程序”或“負面數(shù)據(jù)”的影響,避免再次致人損害,還能夠消除用戶不愿意被收集、分析、利用卻被非法侵害的個人數(shù)據(jù)信息的后續(xù)影響,保障受害人對個人數(shù)據(jù)信息所享有的合法權(quán)益。后續(xù)研發(fā)者及生產(chǎn)者可以通過添加替代程序更新智能機器人,使其在保持其原來功能的情況下再次進入市場,也可以將其直接改裝為其他功能的智能機器人,兩種做法均可以徹底消除引起智能機器人致人損害事件的程序的影響。在智能機器人致人損害程度嚴重,影響極大的情況下,如果修改程序、刪除數(shù)據(jù)皆無法對受害人進行有效救濟或人類已無法對智能機器人的程序、數(shù)據(jù)再次形成有效控制,則可以考慮將智能機器人召回銷毀,同時不再生產(chǎn)該型號的智能機器人。修改程序、刪除數(shù)據(jù)、永久銷毀及停止生產(chǎn)可構(gòu)成專屬于智能機器人的民事責(zé)任體系,新增的民事責(zé)任承擔方式具有一定的層次性,且能夠與智能機器人致人損害的侵權(quán)后果及受害人的救濟需求形成對應(yīng)關(guān)系。

    猜你喜歡
    民事行為民事責(zé)任因果關(guān)系
    父母能要回被7 歲小孩賣掉的手表嗎
    父母能要回被7歲小孩賣掉的手表嗎
    前夫病逝,必須按照公證遺囑繼承遺產(chǎn)嗎
    伴侶(2021年5期)2021-06-08 11:00:33
    玩忽職守型瀆職罪中嚴重不負責(zé)任與重大損害后果的因果關(guān)系
    做完形填空題,需考慮的邏輯關(guān)系
    無民事行為能力人訴訟離婚代理問題探究
    法制博覽(2018年30期)2018-01-22 15:30:48
    民事責(zé)任能力問題的探討
    商情(2012年48期)2017-11-08 19:33:32
    幫助犯因果關(guān)系芻議
    “友好專家證人”的民事責(zé)任①——基于Pace v. Swerdlow案之分析
    介入因素對因果關(guān)系認定的影響
    一级毛片女人18水好多| 国产毛片a区久久久久| 午夜视频国产福利| 全区人妻精品视频| 九九久久精品国产亚洲av麻豆| 久久久精品欧美日韩精品| 69av精品久久久久久| 热99re8久久精品国产| 久久国产精品人妻蜜桃| 日本黄色视频三级网站网址| 岛国视频午夜一区免费看| а√天堂www在线а√下载| 日韩有码中文字幕| 天堂av国产一区二区熟女人妻| 欧洲精品卡2卡3卡4卡5卡区| 亚洲av免费在线观看| 真人一进一出gif抽搐免费| 少妇丰满av| 日韩 欧美 亚洲 中文字幕| 欧美+亚洲+日韩+国产| 欧美日韩精品网址| 丁香六月欧美| 亚洲av不卡在线观看| 午夜老司机福利剧场| 深爱激情五月婷婷| 免费高清视频大片| 美女高潮喷水抽搐中文字幕| 国产精品久久久人人做人人爽| 18禁美女被吸乳视频| 桃色一区二区三区在线观看| 亚洲欧美日韩东京热| 村上凉子中文字幕在线| 亚洲aⅴ乱码一区二区在线播放| 亚洲一区高清亚洲精品| 免费看光身美女| 2021天堂中文幕一二区在线观| 久久久久久久午夜电影| 亚洲欧美激情综合另类| 久久久久免费精品人妻一区二区| 91av网一区二区| 免费观看人在逋| 国内精品久久久久久久电影| 成人永久免费在线观看视频| 亚洲国产精品999在线| 国产精品女同一区二区软件 | 中文字幕人成人乱码亚洲影| 色精品久久人妻99蜜桃| 两个人看的免费小视频| 久久久久久九九精品二区国产| 99精品欧美一区二区三区四区| 日韩高清综合在线| av专区在线播放| 老汉色∧v一级毛片| 久久精品国产亚洲av香蕉五月| 99久久久亚洲精品蜜臀av| 一进一出抽搐动态| 成人午夜高清在线视频| 九色成人免费人妻av| 亚洲狠狠婷婷综合久久图片| 97超视频在线观看视频| 日本 av在线| 亚洲成人精品中文字幕电影| 三级国产精品欧美在线观看| 一进一出抽搐gif免费好疼| 国产亚洲精品久久久久久毛片| 三级国产精品欧美在线观看| 色哟哟哟哟哟哟| 欧美日韩精品网址| h日本视频在线播放| 欧美绝顶高潮抽搐喷水| 成年版毛片免费区| 色哟哟哟哟哟哟| 国产精品免费一区二区三区在线| 99在线视频只有这里精品首页| av专区在线播放| 日韩免费av在线播放| 少妇的逼好多水| 国产欧美日韩一区二区精品| 韩国av一区二区三区四区| 亚洲真实伦在线观看| 舔av片在线| e午夜精品久久久久久久| 国产伦在线观看视频一区| 亚洲国产精品999在线| 久久6这里有精品| 人妻久久中文字幕网| 日韩精品中文字幕看吧| 黄片小视频在线播放| 国产亚洲精品久久久com| 天堂网av新在线| 国产精品综合久久久久久久免费| 18禁在线播放成人免费| 99久国产av精品| 国产伦在线观看视频一区| www日本黄色视频网| а√天堂www在线а√下载| 亚洲久久久久久中文字幕| 欧美最新免费一区二区三区 | 在线视频色国产色| 在线观看午夜福利视频| av专区在线播放| 欧美又色又爽又黄视频| 91久久精品国产一区二区成人 | 国产av在哪里看| 一个人免费在线观看电影| 亚洲第一欧美日韩一区二区三区| 欧美日韩综合久久久久久 | 亚洲 欧美 日韩 在线 免费| 少妇的逼好多水| 女人十人毛片免费观看3o分钟| 国产精品国产高清国产av| 午夜精品一区二区三区免费看| 淫妇啪啪啪对白视频| 欧美绝顶高潮抽搐喷水| 在线国产一区二区在线| 噜噜噜噜噜久久久久久91| 99在线人妻在线中文字幕| 啪啪无遮挡十八禁网站| 国产精品久久久久久久久免 | 久久精品夜夜夜夜夜久久蜜豆| 男人舔奶头视频| 12—13女人毛片做爰片一| 91av网一区二区| 日韩精品青青久久久久久| 国产三级在线视频| 国产真实伦视频高清在线观看 | 男女之事视频高清在线观看| 亚洲最大成人手机在线| 亚洲avbb在线观看| 99久久精品一区二区三区| 国产 一区 欧美 日韩| 精品国内亚洲2022精品成人| 真人做人爱边吃奶动态| 午夜日韩欧美国产| 亚洲av五月六月丁香网| 色哟哟哟哟哟哟| 久久久久久久久久黄片| 欧美成人性av电影在线观看| 亚洲成人久久爱视频| 99热这里只有精品一区| 窝窝影院91人妻| 久久久久性生活片| 国产综合懂色| av专区在线播放| 91在线观看av| 少妇的逼水好多| 成人永久免费在线观看视频| 在线a可以看的网站| 亚洲精品日韩av片在线观看 | 长腿黑丝高跟| 国产高清激情床上av| 天堂动漫精品| 深夜精品福利| 88av欧美| 男女视频在线观看网站免费| 亚洲人成伊人成综合网2020| 日本撒尿小便嘘嘘汇集6| 欧美乱妇无乱码| 国产亚洲精品久久久com| 国产成人av教育| 久9热在线精品视频| 无人区码免费观看不卡| 非洲黑人性xxxx精品又粗又长| 亚洲国产色片| 日韩高清综合在线| 午夜激情欧美在线| svipshipincom国产片| 两个人看的免费小视频| 熟妇人妻久久中文字幕3abv| 精品国产超薄肉色丝袜足j| 91久久精品电影网| 亚洲av免费在线观看| 精品免费久久久久久久清纯| 欧美大码av| 成人国产一区最新在线观看| 一边摸一边抽搐一进一小说| 一区二区三区国产精品乱码| 久久精品国产亚洲av香蕉五月| 亚洲国产色片| 免费av不卡在线播放| 成年女人永久免费观看视频| 91麻豆av在线| 日韩免费av在线播放| av视频在线观看入口| 麻豆久久精品国产亚洲av| 欧美日韩中文字幕国产精品一区二区三区| 欧洲精品卡2卡3卡4卡5卡区| 久久久久亚洲av毛片大全| 观看美女的网站| 国产aⅴ精品一区二区三区波| 国产精品影院久久| 老鸭窝网址在线观看| 窝窝影院91人妻| 欧美bdsm另类| 午夜激情福利司机影院| 动漫黄色视频在线观看| 日日干狠狠操夜夜爽| 久久久精品大字幕| 一区福利在线观看| 一级作爱视频免费观看| av天堂中文字幕网| 香蕉丝袜av| 欧美大码av| av中文乱码字幕在线| 成人无遮挡网站| 中文字幕久久专区| 啦啦啦免费观看视频1| 成年人黄色毛片网站| 中文资源天堂在线| 精品国产美女av久久久久小说| 18禁黄网站禁片午夜丰满| 网址你懂的国产日韩在线| 国产三级黄色录像| 99久久成人亚洲精品观看| 亚洲精品亚洲一区二区| 男人的好看免费观看在线视频| 亚洲国产欧美网| 日韩欧美一区二区三区在线观看| 国产成人欧美在线观看| 久久久久久九九精品二区国产| 日韩av在线大香蕉| 99久久精品一区二区三区| 久久亚洲精品不卡| av片东京热男人的天堂| 悠悠久久av| 91久久精品国产一区二区成人 | 亚洲成人免费电影在线观看| 亚洲在线观看片| 国产亚洲av嫩草精品影院| 三级毛片av免费| 亚洲一区高清亚洲精品| 日韩欧美国产在线观看| 18+在线观看网站| 免费无遮挡裸体视频| 久久久久亚洲av毛片大全| 草草在线视频免费看| 99在线人妻在线中文字幕| 俺也久久电影网| 国产淫片久久久久久久久 | 深夜精品福利| 午夜福利在线观看吧| 床上黄色一级片| 亚洲精品国产精品久久久不卡| 给我免费播放毛片高清在线观看| 亚洲国产日韩欧美精品在线观看 | 日本三级黄在线观看| 色老头精品视频在线观看| 欧美绝顶高潮抽搐喷水| av在线天堂中文字幕| av在线天堂中文字幕| 亚洲人与动物交配视频| av片东京热男人的天堂| 成人鲁丝片一二三区免费| 国产高清videossex| 国产毛片a区久久久久| 最新中文字幕久久久久| 国产一区二区三区在线臀色熟女| 欧美性猛交黑人性爽| 免费观看的影片在线观看| 性欧美人与动物交配| 又爽又黄无遮挡网站| 中文资源天堂在线| 欧美精品啪啪一区二区三区| 亚洲国产精品999在线| 国产免费av片在线观看野外av| 免费大片18禁| 18禁黄网站禁片午夜丰满| 校园春色视频在线观看| 网址你懂的国产日韩在线| 人人妻人人澡欧美一区二区| 狠狠狠狠99中文字幕| 99热这里只有精品一区| 免费看a级黄色片| 真人一进一出gif抽搐免费| 网址你懂的国产日韩在线| 欧美一区二区亚洲| 在线国产一区二区在线| 久久久久久久午夜电影| 99热精品在线国产| 亚洲av成人av| 欧美一级a爱片免费观看看| 少妇丰满av| 最新在线观看一区二区三区| 人人妻,人人澡人人爽秒播| 精品欧美国产一区二区三| 老司机在亚洲福利影院| 欧美在线一区亚洲| 两性午夜刺激爽爽歪歪视频在线观看| 99国产综合亚洲精品| 人妻丰满熟妇av一区二区三区| 婷婷六月久久综合丁香| 欧美中文综合在线视频| 久久精品夜夜夜夜夜久久蜜豆| 亚洲成a人片在线一区二区| 三级国产精品欧美在线观看| 欧美成狂野欧美在线观看| 亚洲色图av天堂| 超碰av人人做人人爽久久 | 久久久久久人人人人人| 给我免费播放毛片高清在线观看| 国产在线精品亚洲第一网站| 不卡一级毛片| 国产精品免费一区二区三区在线| 黄片大片在线免费观看| 日韩欧美国产在线观看| 精品福利观看| 国产三级在线视频| 琪琪午夜伦伦电影理论片6080| 午夜福利视频1000在线观看| 熟女少妇亚洲综合色aaa.| 在线十欧美十亚洲十日本专区| 国产男靠女视频免费网站| 国产欧美日韩精品亚洲av| 亚洲成人久久爱视频| 窝窝影院91人妻| 亚洲精品在线观看二区| 十八禁网站免费在线| 国产亚洲精品久久久com| 午夜久久久久精精品| 老熟妇乱子伦视频在线观看| eeuss影院久久| 无人区码免费观看不卡| 久久精品91蜜桃| 两个人视频免费观看高清| 九色国产91popny在线| 日韩欧美国产一区二区入口| 亚洲黑人精品在线| 久久精品国产99精品国产亚洲性色| 国产一区二区激情短视频| 观看美女的网站| 成年免费大片在线观看| 91在线观看av| 久久精品人妻少妇| 欧美午夜高清在线| 午夜精品在线福利| 国产精品国产高清国产av| 国产黄色小视频在线观看| 午夜日韩欧美国产| 乱人视频在线观看| 香蕉久久夜色| 偷拍熟女少妇极品色| 看黄色毛片网站| 19禁男女啪啪无遮挡网站| 亚洲在线自拍视频| 久久久成人免费电影| 中出人妻视频一区二区| 久久精品国产自在天天线| 精品午夜福利视频在线观看一区| 国产一区二区在线观看日韩 | 亚洲无线观看免费| av在线天堂中文字幕| 99久久99久久久精品蜜桃| 国产黄a三级三级三级人| 久久久精品大字幕| 国产一区二区在线观看日韩 | 蜜桃久久精品国产亚洲av| 久久精品国产亚洲av涩爱 | 黄色成人免费大全| 亚洲内射少妇av| 久久草成人影院| 悠悠久久av| 国产精品精品国产色婷婷| 亚洲第一电影网av| 国产精品影院久久| 99在线视频只有这里精品首页| 国产精品一区二区三区四区免费观看 | 国产熟女xx| 久久精品国产清高在天天线| 性欧美人与动物交配| 久久国产精品影院| 久久久久久久久久黄片| 在线看三级毛片| 老司机在亚洲福利影院| 在线免费观看的www视频| 三级毛片av免费| 伊人久久精品亚洲午夜| 亚洲精品色激情综合| 女人十人毛片免费观看3o分钟| 两个人看的免费小视频| 日韩欧美 国产精品| 午夜老司机福利剧场| 欧美区成人在线视频| 十八禁人妻一区二区| 熟女电影av网| 精品一区二区三区视频在线 | 久久久国产成人免费| 两个人的视频大全免费| 国产精品美女特级片免费视频播放器| 午夜福利在线在线| 最新在线观看一区二区三区| 午夜影院日韩av| 国产真实乱freesex| 亚洲最大成人中文| 欧美又色又爽又黄视频| 国产精品精品国产色婷婷| 男插女下体视频免费在线播放| 免费在线观看日本一区| 每晚都被弄得嗷嗷叫到高潮| 亚洲狠狠婷婷综合久久图片| 色av中文字幕| av中文乱码字幕在线| 黄色片一级片一级黄色片| 国产极品精品免费视频能看的| 女人十人毛片免费观看3o分钟| 欧美大码av| 久久这里只有精品中国| 中出人妻视频一区二区| 婷婷精品国产亚洲av在线| 亚洲av免费高清在线观看| 国产精品乱码一区二三区的特点| 欧美日韩中文字幕国产精品一区二区三区| 中文字幕久久专区| 色吧在线观看| 久久久国产成人精品二区| 好男人电影高清在线观看| 欧美乱妇无乱码| av天堂中文字幕网| 91久久精品国产一区二区成人 | 久久香蕉精品热| 老鸭窝网址在线观看| 婷婷亚洲欧美| 亚洲精品粉嫩美女一区| 国产高清三级在线| 草草在线视频免费看| 一卡2卡三卡四卡精品乱码亚洲| 日韩精品青青久久久久久| 午夜精品在线福利| 免费av不卡在线播放| 久久久久久大精品| 亚洲av中文字字幕乱码综合| 亚洲美女视频黄频| 精品熟女少妇八av免费久了| 黄色成人免费大全| 久久久久久久精品吃奶| 国产亚洲精品av在线| 丰满人妻一区二区三区视频av | 一级毛片高清免费大全| 亚洲av美国av| 欧美另类亚洲清纯唯美| 日韩精品青青久久久久久| 高清毛片免费观看视频网站| 757午夜福利合集在线观看| 欧美性猛交╳xxx乱大交人| 中文在线观看免费www的网站| 欧美日本亚洲视频在线播放| www.www免费av| 少妇熟女aⅴ在线视频| 超碰av人人做人人爽久久 | 欧美日韩精品网址| 少妇裸体淫交视频免费看高清| 国产伦精品一区二区三区四那| 亚洲熟妇熟女久久| 法律面前人人平等表现在哪些方面| 婷婷精品国产亚洲av在线| 精品熟女少妇八av免费久了| 亚洲成人久久性| 亚洲成av人片免费观看| 国产探花极品一区二区| 国产精品女同一区二区软件 | 一进一出好大好爽视频| 两人在一起打扑克的视频| 又粗又爽又猛毛片免费看| 一区二区三区免费毛片| 亚洲成av人片免费观看| 亚洲人成网站在线播放欧美日韩| 日韩av在线大香蕉| 亚洲欧美日韩东京热| or卡值多少钱| 9191精品国产免费久久| 岛国视频午夜一区免费看| 制服人妻中文乱码| 久久精品夜夜夜夜夜久久蜜豆| 老司机午夜福利在线观看视频| 美女大奶头视频| 欧美中文日本在线观看视频| 国产真实伦视频高清在线观看 | 国产男靠女视频免费网站| 在线观看日韩欧美| 我的老师免费观看完整版| 最近最新免费中文字幕在线| 国产精品一区二区三区四区免费观看 | 久久欧美精品欧美久久欧美| 女警被强在线播放| 精品电影一区二区在线| tocl精华| 成人av一区二区三区在线看| 国产亚洲精品久久久com| 亚洲 欧美 日韩 在线 免费| 性色av乱码一区二区三区2| 免费av观看视频| 久久精品综合一区二区三区| 国产色婷婷99| 99热只有精品国产| 久久久久精品国产欧美久久久| 国产av在哪里看| 很黄的视频免费| 99国产极品粉嫩在线观看| 国产美女午夜福利| 精品电影一区二区在线| 国产欧美日韩一区二区精品| 国产99白浆流出| 一本久久中文字幕| 国产老妇女一区| 最后的刺客免费高清国语| h日本视频在线播放| 久久6这里有精品| 中文资源天堂在线| 丰满乱子伦码专区| 成人欧美大片| 99精品欧美一区二区三区四区| 国产高清videossex| 国产精品久久久人人做人人爽| 在线播放国产精品三级| 国产高清激情床上av| 亚洲avbb在线观看| 久久精品国产亚洲av香蕉五月| www.熟女人妻精品国产| 深夜精品福利| 精品一区二区三区av网在线观看| 午夜免费观看网址| 国产在线精品亚洲第一网站| 有码 亚洲区| 免费人成在线观看视频色| 国产黄a三级三级三级人| 麻豆一二三区av精品| a级毛片a级免费在线| 亚洲一区二区三区不卡视频| 最近视频中文字幕2019在线8| 9191精品国产免费久久| 亚洲精品国产精品久久久不卡| 尤物成人国产欧美一区二区三区| www日本黄色视频网| 久久伊人香网站| 国产真人三级小视频在线观看| 美女 人体艺术 gogo| 久久精品人妻少妇| 国产69精品久久久久777片| 美女大奶头视频| 亚洲人成网站在线播| 精华霜和精华液先用哪个| 成熟少妇高潮喷水视频| 精品国产美女av久久久久小说| 黑人欧美特级aaaaaa片| 19禁男女啪啪无遮挡网站| 中文资源天堂在线| 日日干狠狠操夜夜爽| 婷婷精品国产亚洲av| 一本久久中文字幕| 1000部很黄的大片| 三级毛片av免费| 波多野结衣高清无吗| 久久精品国产99精品国产亚洲性色| av欧美777| 精品久久久久久久久久久久久| 国产成年人精品一区二区| 波多野结衣巨乳人妻| 女生性感内裤真人,穿戴方法视频| 两个人看的免费小视频| 少妇的逼好多水| 在线播放无遮挡| av视频在线观看入口| 久久香蕉精品热| 狂野欧美白嫩少妇大欣赏| 日本与韩国留学比较| 在线观看免费午夜福利视频| 欧美+亚洲+日韩+国产| 久久久国产成人精品二区| 国产主播在线观看一区二区| 国产综合懂色| 亚洲av免费在线观看| 国产激情欧美一区二区| 舔av片在线| 国产免费男女视频| 我要搜黄色片| 免费无遮挡裸体视频| 一本久久中文字幕| 亚洲专区中文字幕在线| 首页视频小说图片口味搜索| 亚洲成人中文字幕在线播放| xxxwww97欧美| 国产不卡一卡二| 中文字幕人妻熟人妻熟丝袜美 | 老司机午夜福利在线观看视频| 亚洲精品日韩av片在线观看 | 国产精品亚洲美女久久久| av在线天堂中文字幕| 国产伦在线观看视频一区| 少妇裸体淫交视频免费看高清| 久久精品亚洲精品国产色婷小说| 天天添夜夜摸| 日本熟妇午夜| 老鸭窝网址在线观看| 波野结衣二区三区在线 | 免费观看精品视频网站| 欧美一区二区国产精品久久精品| 特级一级黄色大片| 午夜福利在线观看吧| 精品人妻偷拍中文字幕| 狂野欧美激情性xxxx| 精品国产美女av久久久久小说| 日日摸夜夜添夜夜添小说| 深爱激情五月婷婷| 岛国在线观看网站| 欧美成人一区二区免费高清观看| 人妻夜夜爽99麻豆av| 色视频www国产| 九九久久精品国产亚洲av麻豆| 真实男女啪啪啪动态图| 久久久精品欧美日韩精品| 国产精品99久久99久久久不卡| 亚洲欧美日韩高清专用| 国产午夜精品久久久久久一区二区三区 | 久久久久久国产a免费观看| 天天一区二区日本电影三级| 一本久久中文字幕|