• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能時(shí)代面臨的刑事風(fēng)險(xiǎn)及其應(yīng)對(duì)

    2019-07-26 03:17:35王鐘儀
    法制與社會(huì) 2019年19期
    關(guān)鍵詞:人工智能

    摘 要 人工智能技術(shù)為人類的生產(chǎn)生活帶來了諸多便利,客觀上推動(dòng)了社會(huì)經(jīng)濟(jì)的發(fā)展進(jìn)步,但同時(shí)也帶來了各種不容忽視的刑事風(fēng)險(xiǎn)。本文首先對(duì)人工智能產(chǎn)品做出類型上的劃分,對(duì)弱人工智能時(shí)代中人工智能產(chǎn)品可能涉及的刑事犯罪類型進(jìn)行列舉,這一階段中弱人工智能產(chǎn)品會(huì)為犯罪人提供更高級(jí)的犯罪手段,從而造成信息泄露風(fēng)險(xiǎn)增大、犯罪的社會(huì)危害性大大增強(qiáng)、技術(shù)發(fā)展不成熟存在安全隱患等刑事風(fēng)險(xiǎn);強(qiáng)人工智能時(shí)代的到來則會(huì)對(duì)現(xiàn)行刑法內(nèi)容解釋、體系結(jié)構(gòu)產(chǎn)生沖擊,使刑法面臨犯罪主體構(gòu)造基礎(chǔ)動(dòng)搖、刑事責(zé)任承擔(dān)以及刑罰適用困難等難題。其次,本文針對(duì)人工智能時(shí)代的刑事風(fēng)險(xiǎn),從應(yīng)當(dāng)遵循的基本原則以及技術(shù)發(fā)展的兩個(gè)階段分別提出刑法上的應(yīng)對(duì)建議,即在基本原則上堅(jiān)持科學(xué)發(fā)展與人類利益優(yōu)先;弱人工智能產(chǎn)品涉及的刑事責(zé)任承擔(dān)問題的解決以及強(qiáng)人工智能時(shí)代下對(duì)于刑法內(nèi)容補(bǔ)充和刑法體系建構(gòu)的建議。

    關(guān)鍵詞 人工智能 刑事風(fēng)險(xiǎn) 刑法應(yīng)對(duì) 刑事責(zé)任承擔(dān)

    作者簡(jiǎn)介:王鐘儀,東北農(nóng)業(yè)大學(xué),本科。

    中圖分類號(hào):D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識(shí)碼:A ? ? ? ? ? ? ? ? ? ? ? ?DOI:10.19387/j.cnki.1009-0592.2019.07.003

    一、時(shí)代背景與問題描述

    人工智能這一概念早在20世紀(jì)50年代就已被提出過,但由于當(dāng)時(shí)的互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等科技水平的發(fā)展尚顯不足且不夠成熟,實(shí)現(xiàn)人工機(jī)器的智能化即能夠自我學(xué)習(xí)、自我意識(shí),在很長(zhǎng)一段時(shí)間中都超出了人們的預(yù)想,對(duì)于人工智能的研究曾長(zhǎng)期處于基本停滯狀態(tài),并未得到人們的廣泛關(guān)注。2016年Google公司的Alpha Go Tools在韓國(guó)首爾舉辦的人機(jī)圍棋大賽中,以4:1的絕對(duì)優(yōu)勢(shì)戰(zhàn)勝了世界圍棋第一人李世石,這使全世界的目光再一次聚焦到了人工智能這一前沿科技上,人工智能技術(shù)崛起,成為了國(guó)際競(jìng)爭(zhēng)的新焦點(diǎn)。美國(guó)白宮于2016年10月發(fā)布了《為人工智能的未來做好準(zhǔn)備》和《國(guó)家人工智能研究和發(fā)展策略規(guī)劃》兩份重要報(bào)告,谷歌公司和蘋果公司競(jìng)相收購(gòu)了最有潛力的人工智能初創(chuàng)公司,微軟在地球人工智能計(jì)劃中宣布投資500萬(wàn)美元,各國(guó)政府、高校、大型的互聯(lián)網(wǎng)相關(guān)企業(yè)都紛紛加大人工智能領(lǐng)域的人力與財(cái)力投入,努力搶占人工智能技術(shù)全球制高點(diǎn)。

    世界各國(guó)都把人工智能的研發(fā)作為提升國(guó)家競(jìng)爭(zhēng)力的重大戰(zhàn)略,中國(guó)當(dāng)然也不例外。我國(guó)政府于2017年7月引發(fā)了《新一代人工智能發(fā)展規(guī)劃》,對(duì)我國(guó)人工智能技術(shù)的未來發(fā)展進(jìn)行戰(zhàn)略部署,中國(guó)科技巨頭阿里巴巴集團(tuán)、百度、騰訊科技分別在新加坡、美國(guó)斥巨資建立了人工智能應(yīng)用聯(lián)合研究機(jī)構(gòu)與實(shí)驗(yàn)室,人工智能創(chuàng)新產(chǎn)品正以日新月異的速度發(fā)展。我們無法預(yù)想?yún)s又不得不承認(rèn),人工智能新時(shí)代已經(jīng)來臨。

    《新一代人工智能發(fā)展規(guī)劃》中指出,人工智能在互聯(lián)網(wǎng)“網(wǎng)絡(luò)化”“數(shù)字化”的不斷成熟中,日益向“智能化”邁進(jìn)。它作為影響面廣的顛覆性技術(shù),可能會(huì)帶來沖擊法律和社會(huì)倫理、侵犯?jìng)€(gè)人隱私、挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則等各種問題,其發(fā)展的不確定性可能會(huì)為人類社會(huì)帶來安全風(fēng)險(xiǎn)與挑戰(zhàn)。偉大的物理學(xué)家、宇宙學(xué)家史蒂芬·霍金曾表示:“人工智能的崛起是人類歷史上最好的事情,憑借這場(chǎng)新的科技革命,我們或許可以挽回上一場(chǎng)工業(yè)革命給自然界和人類社會(huì)帶來的破壞,然而人工智能在未來可能對(duì)人類生存帶來毀滅性的威脅,除非我們學(xué)會(huì)如何規(guī)避、控制風(fēng)險(xiǎn)。”

    一個(gè)全新時(shí)代的到來,必然會(huì)產(chǎn)生很多超出傳統(tǒng)法律理念與已有法律法規(guī)范圍的新問題,人工智能時(shí)代的到來要求我們從法律層面對(duì)其各個(gè)領(lǐng)域需要解決和完善的問題進(jìn)行規(guī)制。目前法學(xué)界已有學(xué)者對(duì)知識(shí)產(chǎn)權(quán)、民事等領(lǐng)域展開研究,而對(duì)于刑事風(fēng)險(xiǎn)與責(zé)任方面的研究卻比較少?,F(xiàn)今生活中人工智能使用者與研發(fā)者利用機(jī)器人實(shí)施的,以及機(jī)器人在人類智慧范圍內(nèi)外實(shí)施的危害社會(huì)的犯罪行為日益增多,社會(huì)危害性不斷加大,這些都足以使人工智能在刑法層面得到強(qiáng)烈重視。基于此,筆者將著眼于人工智能時(shí)代可能帶來的刑事風(fēng)險(xiǎn),以及如何對(duì)這些刑事風(fēng)險(xiǎn)進(jìn)行有效地應(yīng)對(duì)展開分析與討論。

    二、人工智能時(shí)代的刑事風(fēng)險(xiǎn)

    (一)人工智能產(chǎn)品類型的劃分

    人工智能產(chǎn)品的本質(zhì)是依托算法,從而實(shí)現(xiàn)自我意識(shí)并獲得獨(dú)立思考與解決問題的能力,根據(jù)內(nèi)部算法的復(fù)雜程度,可以分為弱人工智能產(chǎn)品和強(qiáng)人工智能產(chǎn)品。但算法屬于技術(shù)范疇,在法律上按照人工智能產(chǎn)品精密復(fù)雜的內(nèi)部運(yùn)作原理對(duì)其進(jìn)行分類,這很難做到精確,可操作性也不強(qiáng)。因此我們從法律層面對(duì)劃分人工智能產(chǎn)品規(guī)定一個(gè)標(biāo)準(zhǔn),即以是否具有辨認(rèn)能力與控制能力來區(qū)分弱人工智能產(chǎn)品和強(qiáng)人工智能產(chǎn)品。

    目前人工智能的發(fā)展整體上仍處在弱人工智能時(shí)代,弱人工智能產(chǎn)品雖然能夠?qū)崿F(xiàn)自我意識(shí)、進(jìn)行獨(dú)立思考和解決問題,但這些都被限制在設(shè)計(jì)者編制的程序范圍內(nèi),也就是說,人工智能產(chǎn)品的自我意識(shí)、判斷與決策實(shí)際上仍是其創(chuàng)造者意識(shí)的體現(xiàn)。例如AlphaGo在圍棋大賽中戰(zhàn)勝了李世石九段,這雖然是它自我判斷與決策的結(jié)果,但這都是在設(shè)計(jì)者預(yù)先設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行的,體現(xiàn)的是設(shè)計(jì)者或使用者的意志。也就是說如果讓AlphaGo去駕駛汽車,它必然無法出色完成任務(wù)。

    強(qiáng)人工智能產(chǎn)品則是具有辨認(rèn)能力與控制能力,可以超出設(shè)計(jì)者設(shè)計(jì)與編制的程序范圍進(jìn)行自我意識(shí)、判斷與決策的人工智能產(chǎn)品。這一概念最初由約翰·羅杰斯·希爾勒創(chuàng)造:“計(jì)算機(jī)不僅是用來研究人的思維的一種工具;相反,只要運(yùn)行適當(dāng)?shù)某绦颍?jì)算機(jī)本身就是有思維的。”目前人類已經(jīng)掌握了弱人工智能技術(shù),并向強(qiáng)人工智能時(shí)代邁進(jìn)。

    (二)弱人工智能時(shí)代可能面臨的刑事風(fēng)險(xiǎn)

    由于弱人工智能產(chǎn)品不具有辨認(rèn)能力與控制能力,其自我意識(shí)、判斷與決策都是按照設(shè)計(jì)者或使用者的意志在編制程序范圍內(nèi)進(jìn)行,因此可以將弱人工智能產(chǎn)品定義為一種“工具”。工具范疇內(nèi)的人工智能產(chǎn)品目前已經(jīng)較為廣泛地應(yīng)用于醫(yī)療衛(wèi)生、家庭生活、會(huì)計(jì)金融、運(yùn)輸交通等各個(gè)社會(huì)生活領(lǐng)域,在這里,筆者將弱人工智能可能涉及的刑事犯罪類型進(jìn)行列舉,并針對(duì)不同的犯罪類型,對(duì)弱人工智能時(shí)代可能存在的刑事風(fēng)險(xiǎn)進(jìn)行分析。

    第一,行為人對(duì)人工智能產(chǎn)品本身進(jìn)行破壞,實(shí)施犯罪。人工智能產(chǎn)品發(fā)展的第二階段是信息化,它在現(xiàn)階段的運(yùn)算推理以及決策實(shí)施等能力都是以計(jì)算機(jī)信息系統(tǒng)為基礎(chǔ),它的智能系統(tǒng)中儲(chǔ)存了大量的數(shù)據(jù)與信息,這其中不僅包括涉及公民身份信息、個(gè)人隱私、財(cái)產(chǎn)安全的內(nèi)容,甚至還包括關(guān)乎國(guó)家安全與軍事利益等重大數(shù)據(jù)信息。犯罪分子對(duì)人工智能產(chǎn)品實(shí)施犯罪,可能會(huì)產(chǎn)生嚴(yán)重危害社會(huì)的后果,例如犯罪分子破壞和侵入證券交易市場(chǎng)的人工智能機(jī)器程序,從而操控證券交易市場(chǎng),導(dǎo)致經(jīng)濟(jì)秩序的混亂與崩潰。

    第二,行為人利用人工智能產(chǎn)品實(shí)施犯罪行為,達(dá)到犯罪目的。這種犯罪是典型的“工具型犯罪”,人工智能技術(shù)飛速發(fā)展,將其作為犯罪工具的犯罪行為也隨之一同進(jìn)化,變得越來越高級(jí)。從國(guó)家利益、公共安全、社會(huì)管理和軍事領(lǐng)域等層面來說,恐怖分子可以通過人工智能產(chǎn)品實(shí)施在公共場(chǎng)所安裝與控制爆炸物等恐怖活動(dòng),無需親歷親為就可以達(dá)到危害社會(huì)的犯罪目的;犯罪分子可以利用人工智能產(chǎn)品非法獲得國(guó)家機(jī)密與其他保密信息并加以利用,從而擾亂社會(huì)秩序;又比如美國(guó)、俄羅斯、以色列、烏克蘭等國(guó)家對(duì)“殺人機(jī)器人”的研發(fā),人工智能技術(shù)在生化與軍事領(lǐng)域的應(yīng)用可能會(huì)為人類帶來毀滅性的傷害。

    從公民個(gè)人財(cái)產(chǎn)安全與人身安全的角度來看,現(xiàn)今互聯(lián)網(wǎng)大數(shù)據(jù)收集了包括個(gè)人身體健康狀況、行動(dòng)軌跡、生活習(xí)慣等各種信息,犯罪分子利用人工智能產(chǎn)品輕松竊取公民的個(gè)人信息,人工智能的語(yǔ)言偽裝技術(shù)極大程度地縮小了機(jī)器與人類語(yǔ)言的差異,這些都為網(wǎng)絡(luò)詐騙等犯罪的實(shí)施提供了極大的便利;用人工智能技術(shù)制造殺人機(jī)器,借刀殺人,或用以銷毀罪證從而使自己全身而退的行為也不可忽視。

    人工智能技術(shù)作為高級(jí)的犯罪工具,在一定程度上消除了犯罪的障礙,為犯罪提供便利,降低了犯罪的難度,極大增強(qiáng)了傳統(tǒng)犯罪的社會(huì)危害性。

    第三,人工智能產(chǎn)品生產(chǎn)質(zhì)量及運(yùn)行安全問題造成的危害。當(dāng)前工業(yè)生產(chǎn)、醫(yī)療臨床、汽車制造、教育培訓(xùn)等都廣泛應(yīng)用人工智能技術(shù),美國(guó)職業(yè)安全健康管理局曾進(jìn)行了相關(guān)統(tǒng)計(jì),在過去的30年大約發(fā)生了30多起與機(jī)器人相關(guān)的死亡事件。人工智能產(chǎn)品由于技術(shù)的不成熟或者系統(tǒng)內(nèi)部的不穩(wěn)定性,在運(yùn)行時(shí)可能會(huì)自發(fā)地對(duì)社會(huì)和公民造成社會(huì)危害。

    (三)強(qiáng)人工智能時(shí)代可能面臨的刑事風(fēng)險(xiǎn)

    隨著各國(guó)對(duì)人工智能技術(shù)的研究不斷深入,人工智能產(chǎn)品超出設(shè)計(jì)程序的自我意識(shí)范圍,產(chǎn)生辨認(rèn)能力與控制能力,已逐漸變?yōu)榭赡?。?duì)于強(qiáng)人工智能產(chǎn)品可能造成的刑事風(fēng)險(xiǎn)和其刑事責(zé)承擔(dān)問題的探討勢(shì)在必行。

    強(qiáng)人工智能產(chǎn)品在程序設(shè)置范圍內(nèi)造成的社會(huì)危害;以及其作為工具,在沒有自我意識(shí)影響的情況下被利用于犯罪行為從而造成的社會(huì)危害,與弱人工智能時(shí)代可能產(chǎn)生的刑事風(fēng)險(xiǎn)大致相同,因此在這里重點(diǎn)對(duì)具有辨認(rèn)能力和控制能力的強(qiáng)人工智能產(chǎn)品在超出程序設(shè)置范圍的情況下,依靠獨(dú)立的自我意識(shí)實(shí)施對(duì)社會(huì)造成嚴(yán)重危害的行為,從而可能產(chǎn)生的刑事風(fēng)險(xiǎn)予以論述分析。

    第一,強(qiáng)人工智能產(chǎn)品在自我意識(shí)控制下實(shí)施損害社會(huì)的行為,可能由于刑法對(duì)其解釋空間不足而得不到規(guī)制。例如,刑法規(guī)定:危害行為是在人的意志或者意識(shí)支配下實(shí)施的危害社會(huì)的身體動(dòng)靜。那么強(qiáng)人工智能產(chǎn)品實(shí)施的損害行為是否能夠被認(rèn)為是刑法上的危害行為呢?又如,刑法中規(guī)定犯罪主體是指實(shí)施危害社會(huì)行為并依法應(yīng)負(fù)刑事責(zé)任的自然人和單位,傳統(tǒng)刑法中并未將人工智能產(chǎn)品規(guī)定為刑法上的行為主體,那么強(qiáng)人工智能產(chǎn)品能否作為“人”而受到法律的規(guī)制呢?由于刑法及其解釋對(duì)相關(guān)方面的規(guī)定不足,在強(qiáng)人工智能產(chǎn)品依靠自我意識(shí)實(shí)施損害行為時(shí),可能難以在刑事法律中找到合理的法律依據(jù)與解釋,從而無法規(guī)制。

    第二,可能會(huì)對(duì)我國(guó)刑法現(xiàn)有體系結(jié)構(gòu)產(chǎn)生沖擊。刑法是規(guī)定犯罪、刑事責(zé)任和刑罰的法律,強(qiáng)人工智能時(shí)代的到來可能使我國(guó)犯罪主體體系、刑事責(zé)任體系、刑罰體系均面臨重塑的風(fēng)險(xiǎn)。

    首先是在犯罪主體體系上,關(guān)于人工智能產(chǎn)品能否作為刑法上的法律主體,學(xué)者們的觀點(diǎn)大致分為兩種:一是認(rèn)為其辨認(rèn)能力與控制能力是自然人賦予的,依附自然人而存在,不應(yīng)被視為犯罪主體;相反觀點(diǎn)則認(rèn)為未來的人工智能產(chǎn)品能夠超出程序范圍擁有不受人類控制的自我意識(shí),應(yīng)當(dāng)被視為是獨(dú)立的犯罪主體。在這里筆者贊同后者。法律主體理論已經(jīng)歷了從自然人到法律擬制人的發(fā)展,這里的“人”是抽象的,隨著社會(huì)發(fā)展的日趨復(fù)雜性,法人、非法人組織、甚至是動(dòng)物都逐漸被納入法律主體范圍,這在過去的很長(zhǎng)一段時(shí)間也是超出人們認(rèn)知范圍,遭到人們廣泛爭(zhēng)議的。這在一定程度上可以說明,隨著社會(huì)發(fā)展的需要,不排除在未來將具有自我意識(shí)的人工智能產(chǎn)品列為刑法中的犯罪主體的可能性。在那個(gè)時(shí)候就會(huì)對(duì)現(xiàn)有刑法體系中關(guān)于犯罪主體的構(gòu)造基礎(chǔ)造成顛覆性的沖擊,形成自然人、單位、人工智能機(jī)器人為基礎(chǔ)的犯罪主體體系。

    其次是在刑事責(zé)任體系層面,人工智能產(chǎn)品能否具有刑事責(zé)任能力呢?刑事責(zé)任能力是指行為人構(gòu)成犯罪和承擔(dān)刑事責(zé)任所必需的,行為人具備的刑法意義上的辨認(rèn)和控制自己行為的能力。當(dāng)人工智能產(chǎn)品被承認(rèn)為刑事上的法律主體,并且具有了獨(dú)立于編制程序的辨認(rèn)能力與控制能力時(shí),就具有了刑事責(zé)任能力。這時(shí)便會(huì)出現(xiàn)一系列難以解決的問題,例如:人工智能產(chǎn)品既不像自然人一樣擁有生命、自由,也不像單位擁有財(cái)產(chǎn)、資格等,那么它如何實(shí)現(xiàn)其對(duì)刑事責(zé)任的承擔(dān)呢?既然很難由其自身承擔(dān)刑事責(zé)任,那就其犯罪行為向設(shè)計(jì)者與使用者等相關(guān)人追責(zé)是否違背了刑法中的罪責(zé)自負(fù)原則呢?人工智能產(chǎn)品具有刑事責(zé)任,卻對(duì)其刑事責(zé)任承擔(dān)困難,這必然會(huì)動(dòng)搖現(xiàn)行的刑事責(zé)任體系。

    最后從刑罰體系的角度來分析,我國(guó)目前將刑罰的對(duì)象限制在自然人和單位,因此主要是依據(jù)自然人的自然屬性及本質(zhì)特征對(duì)刑罰進(jìn)行設(shè)置。例如:有期徒刑、無期徒刑是對(duì)于自然人自由的剝奪,自然人的生命是有限的,這兩種刑罰對(duì)于自然人來講是嚴(yán)酷的;死刑是對(duì)自然人有限生命的剝奪,生命權(quán)是自然人最為寶貴的一項(xiàng)人身權(quán)利。而對(duì)于人工智能產(chǎn)品來說,它的生命是無限的,且時(shí)間與自由對(duì)其產(chǎn)生的意義不大,傳統(tǒng)刑罰對(duì)于人工智能產(chǎn)品來說無法發(fā)揮剝奪、威懾、改造、教育等功能,基本失去了其固有的價(jià)值。這會(huì)在根本上動(dòng)搖當(dāng)前刑罰體系確立的根據(jù),即刑罰體系應(yīng)有利于刑罰功能的發(fā)揮和刑罰目的的實(shí)現(xiàn)。因此,在未來可能會(huì)出現(xiàn)一套不同于自然人和單位的,適用于人工智能產(chǎn)品的刑罰體系,從而導(dǎo)致現(xiàn)有刑罰體系的結(jié)構(gòu)與重塑。

    三、人工智能時(shí)代的刑事風(fēng)險(xiǎn)應(yīng)對(duì)

    (一)在基本原則上堅(jiān)持科學(xué)發(fā)展與人類利益優(yōu)先

    綜上所述,人工智能技術(shù)的發(fā)展必然會(huì)給人類社會(huì)帶來很多已知或未知的難題,但不可否認(rèn)的是人工智能時(shí)代的到來是科學(xué)技術(shù)進(jìn)步的必然結(jié)果,回顧人類歷史可見,科學(xué)技術(shù)會(huì)給社會(huì)各個(gè)方面造成風(fēng)險(xiǎn)與災(zāi)難,但同樣也會(huì)為人類帶來福利。我們不能為了規(guī)避風(fēng)險(xiǎn)而阻礙人工智能技術(shù)的發(fā)展,相反,我們應(yīng)該對(duì)該項(xiàng)技術(shù)的研究予以支持和鼓勵(lì),并對(duì)發(fā)展中產(chǎn)生的問題積極加以應(yīng)對(duì)與解決。

    艾薩克·阿西莫夫曾提出了機(jī)器人三大定律,第一定律是不能傷害人類;第二定律是恪守人的命令,除非與第一定律相沖突;第三定律是保護(hù)自己,除非與第一、第二定律相沖突。這可以為我們應(yīng)對(duì)人工智能時(shí)代的刑事風(fēng)險(xiǎn)提供理論依據(jù)。在弱人工智能時(shí)代,人工智能產(chǎn)品的自我意識(shí)尚限制在人類的規(guī)制程序范圍內(nèi),也許不會(huì)主動(dòng)做出危害人類安全的行為,到了強(qiáng)人工智能時(shí)代,人工智能產(chǎn)品可能脫離人類的控制,憑超出規(guī)制程序范圍之外的自我意識(shí)實(shí)施危害人類的行為。這就要求我們對(duì)這些危害人類利益的情況,盡早確立人類利益優(yōu)先原則,并從立法、司法、執(zhí)法等各個(gè)方面對(duì)這些情況做出預(yù)防,同時(shí)正確面對(duì)人工智能技術(shù)發(fā)展過程中出現(xiàn)的新的法律問題,積極地做進(jìn)一步規(guī)制。

    (二)弱人工智能時(shí)代下的刑事風(fēng)險(xiǎn)應(yīng)對(duì)

    在弱人工智能時(shí)代,人工智能產(chǎn)品受自身編制程序的控制,其行為實(shí)現(xiàn)的是設(shè)計(jì)者或其使用者的意志。對(duì)于這一階段的人工智能產(chǎn)品,筆者認(rèn)為可以將其劃為“產(chǎn)品”的范疇,依照《產(chǎn)品質(zhì)量法》第十三條規(guī)定:“對(duì)可能危及人體健康和人身、財(cái)產(chǎn)安全的工業(yè)產(chǎn)品,必須符合保障人體健康和人身、財(cái)產(chǎn)安全的要求?!逼湓O(shè)計(jì)研發(fā)者、生產(chǎn)制造者對(duì)人工智能產(chǎn)品負(fù)有安全生產(chǎn)義務(wù)。因此當(dāng)人工智能產(chǎn)品不符合國(guó)家、行業(yè)標(biāo)準(zhǔn),由于自身缺陷或運(yùn)行錯(cuò)誤造成嚴(yán)重?fù)p害后果時(shí),可以比照《刑法》第一百四十六條生產(chǎn)、銷售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪,對(duì)其設(shè)計(jì)者、生產(chǎn)者和銷售者追究責(zé)任。與此同時(shí),如果產(chǎn)品的使用者、管理者未對(duì)人工智能產(chǎn)品進(jìn)行安全操作或盡安全管理義務(wù),也可以被要求承擔(dān)責(zé)任。

    另外,對(duì)于犯罪人將人工智能產(chǎn)品作為工具實(shí)施犯罪,以及犯罪人對(duì)人工智能產(chǎn)品進(jìn)行破壞和利用進(jìn)行犯罪的行為,可以比照《刑法》第二百八十五條、二百八十六條和二百八十七條,依法對(duì)行為人追究刑事責(zé)任。

    (三)強(qiáng)人工智能時(shí)代的刑事風(fēng)險(xiǎn)應(yīng)對(duì)

    筆者在這里將強(qiáng)人工智能時(shí)代的刑事風(fēng)險(xiǎn),以機(jī)器人實(shí)施的損害行為是否由編制程序范圍之內(nèi)的自我意識(shí)支配為標(biāo)準(zhǔn)分為兩類。機(jī)器人未超出編制程序,實(shí)施具有嚴(yán)重社會(huì)危害性的行為;或者被行為人作為工具利用實(shí)施犯罪行為從而造成的刑事風(fēng)險(xiǎn),可以參照弱人工智能進(jìn)行應(yīng)對(duì),二者基本一致,這里不多做論述。當(dāng)機(jī)器人通過深度學(xué)習(xí)具有了辨認(rèn)能力和控制能力,超出設(shè)計(jì)編制程序范圍,以獨(dú)立的不受人類控制的自我意志實(shí)施危害社會(huì)行為時(shí),其造成的刑事風(fēng)險(xiǎn)應(yīng)如何應(yīng)對(duì)是在這里要重點(diǎn)論述的部分。

    1.先以其他法律對(duì)人工智能風(fēng)險(xiǎn)進(jìn)行初步應(yīng)對(duì),最后再?gòu)男谭ㄉ线M(jìn)行規(guī)制。筆者認(rèn)為現(xiàn)今社會(huì)總體上仍處在弱人工智能時(shí)代,對(duì)于強(qiáng)人工智能時(shí)代可能面對(duì)的刑事風(fēng)險(xiǎn)主要限于設(shè)想和預(yù)測(cè)層面,社會(huì)中涉及的強(qiáng)人工智能產(chǎn)品超出程序范圍以自我意志獨(dú)立實(shí)施犯罪的情況較少,直接從刑法層面對(duì)其做出完整的規(guī)定的現(xiàn)實(shí)性較小。因此可以以其他法律先行,在民事、行政領(lǐng)域出臺(tái)相關(guān)的法律法規(guī),例如前文應(yīng)對(duì)措施中提出的,比照《產(chǎn)品質(zhì)量法》對(duì)人工智能產(chǎn)品涉及的犯罪責(zé)任承擔(dān)問題進(jìn)行解決時(shí),可以在民事、行政法等角度增加一些有關(guān)設(shè)計(jì)者、生產(chǎn)者、管理者注意義務(wù)的內(nèi)容,并不斷對(duì)技術(shù)發(fā)展過程中產(chǎn)生的風(fēng)險(xiǎn)做進(jìn)一步規(guī)制。刑法層面則可以首先在現(xiàn)有罪名與解釋的基礎(chǔ)上做一些補(bǔ)充,待人工智能技術(shù)進(jìn)一步取得突破性進(jìn)展之后,明確是否確實(shí)產(chǎn)生了將強(qiáng)人工智能機(jī)器人確定為犯罪主體、刑事責(zé)任承擔(dān)主體,以及設(shè)置新的刑罰罪名并調(diào)整刑罰體系的需要,然后再將刑法作為最終也是最嚴(yán)厲的法律保障,針對(duì)產(chǎn)生的刑事風(fēng)險(xiǎn),在發(fā)展成熟的對(duì)應(yīng)的倫理制度、其他法律制度、社會(huì)規(guī)則基礎(chǔ)上,對(duì)人工智能產(chǎn)品進(jìn)行最后的全面規(guī)制。

    2.從立法上對(duì)刑法的體系和內(nèi)容進(jìn)行補(bǔ)充與改進(jìn),可以從犯罪主體體系、刑事責(zé)任體系、刑罰體系三個(gè)層面進(jìn)行。

    在犯罪主體基本構(gòu)成上,筆者認(rèn)為應(yīng)將擁有自我辨認(rèn)能力與控制能力的強(qiáng)人工智能產(chǎn)品作為與自然人、單位相并列的擬制的刑事法律主體。

    在刑事責(zé)任承擔(dān)上,設(shè)計(jì)者或使用者與人工智能機(jī)器人就其實(shí)施的嚴(yán)重危害社會(huì)安全的行為應(yīng)承擔(dān)連帶責(zé)任,因?yàn)榧幢闳斯ぶ悄軝C(jī)器人是以脫離編制程序的獨(dú)立意識(shí)實(shí)施的犯罪行為,但其辨認(rèn)能力與控制能力是源于設(shè)計(jì)者賦予其的基本程序,其危害行為也可能是由于使用者在使用過程中觸發(fā)了某項(xiàng)程序而產(chǎn)生,在這里筆者認(rèn)為設(shè)計(jì)者或使用者對(duì)智能機(jī)器人的犯罪行為承擔(dān)無過錯(cuò)責(zé)任。

    在刑罰體系角度,筆者認(rèn)為應(yīng)逐步建立專屬于人工智能機(jī)器人的,即針對(duì)人工智能產(chǎn)品的本質(zhì)屬性及內(nèi)在需求的有效的刑罰體系。劉憲權(quán)教授在《人工智能時(shí)代的“內(nèi)憂”“外患”與刑事責(zé)任》一文中,對(duì)強(qiáng)人工智能機(jī)器人時(shí)代具體的刑罰體系做了大膽的構(gòu)想,將適用機(jī)器人的刑罰分為刪除數(shù)據(jù)、修改程序、永久銷毀三種。筆者認(rèn)為這些刑罰方式可以對(duì)機(jī)器人發(fā)揮教育、威懾等功能,且體現(xiàn)了刑罰的層次性,寬嚴(yán)相濟(jì)、銜接緊湊,能夠?qū)θ斯ぶ悄軝C(jī)器人造成“痛苦”且不具有殘虐行,同時(shí)也是對(duì)刑法罪責(zé)自負(fù)、罪責(zé)刑罰相適應(yīng)原則的貫徹,是可取并值得借鑒與思考的。

    四、結(jié)語(yǔ)

    人工智能技術(shù)帶來的一系列刑事問題與風(fēng)險(xiǎn)是我們不可逃避,且必須積極應(yīng)對(duì)的。當(dāng)前大多數(shù)人們?nèi)哉J(rèn)為人工智能產(chǎn)品僅是受我們控制與使用的工具而已,無需未雨綢繆地考慮如何處理機(jī)器人刑事犯罪的問題。筆者則認(rèn)為,將科學(xué)發(fā)展和人類利益優(yōu)先原則確立為人工智能相關(guān)刑事立法的基本原則,將人工智能產(chǎn)品的嚴(yán)重危害社會(huì)行為盡快納入刑法規(guī)制范圍之內(nèi),在依照現(xiàn)實(shí)需要彌補(bǔ)刑法內(nèi)容與解釋之缺漏的同時(shí),對(duì)未來可能出現(xiàn)的強(qiáng)人工智能產(chǎn)品實(shí)施的危害行為進(jìn)行預(yù)見與探討,盡早對(duì)倫理、法律、經(jīng)濟(jì)等各個(gè)社會(huì)領(lǐng)域可能產(chǎn)生的新情況與新問題進(jìn)行預(yù)想、規(guī)制,才能減少未來這項(xiàng)新事物對(duì)于社會(huì)的沖擊,并且為人工智能技術(shù)的發(fā)展提供法律上的引導(dǎo)與保護(hù),使其向著對(duì)人類社會(huì)有益的方向進(jìn)一步發(fā)展。

    參考文獻(xiàn):

    [1]高銘暄,馬克昌.刑法學(xué)[M].北京:北京大學(xué)出版社、高等教育出版社,2017.

    [2]劉憲權(quán).人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)[J].法商研究,2018(1) :134-142.

    [3]劉憲權(quán),胡荷佳.論人工智能時(shí)代智能機(jī)器人的刑事責(zé)任能力[J].國(guó)家社科基金項(xiàng)目成果專欄,2018(1).

    [4]張全印.機(jī)遇與挑戰(zhàn):人工智能帶來的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)[J].中國(guó)刑警學(xué)院學(xué)報(bào),2018(6).

    [5]蔡映潔.人工智能,以法律和倫理為界[N].人民日?qǐng)?bào),2017-08-23(5).

    [6]馬克思,恩格斯.馬克思恩格斯全集:第1卷[M].北京:人民出版社,1956:16-17.

    [7]王勇.人工智能時(shí)代的法律主體理論構(gòu)造——以智能機(jī)器人為切入點(diǎn)[J].理論導(dǎo)刊,2018(2):63-70.

    [8]黃京平,高艷東,鐘福.人工智能與刑事法治的未來[J].人民檢察,2018(1):41-48.

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    汽車零部件(2020年3期)2020-03-27 05:30:20
    當(dāng)人工智能遇見再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動(dòng)化控制
    人工智能,來了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來了
    久久久久久伊人网av| 国产黄色视频一区二区在线观看| 国产亚洲av片在线观看秒播厂 | 日韩精品有码人妻一区| 国产精品精品国产色婷婷| 精品久久久精品久久久| 如何舔出高潮| 内射极品少妇av片p| 91午夜精品亚洲一区二区三区| av免费在线看不卡| 好男人视频免费观看在线| 久久久久久久大尺度免费视频| 免费av观看视频| 国产成人精品久久久久久| 日本wwww免费看| 国产黄片视频在线免费观看| 国产v大片淫在线免费观看| 免费av观看视频| 国内少妇人妻偷人精品xxx网站| 成人国产麻豆网| 国产黄色小视频在线观看| 非洲黑人性xxxx精品又粗又长| 国产淫语在线视频| 人体艺术视频欧美日本| 色吧在线观看| 99久久精品国产国产毛片| 日韩欧美国产在线观看| 国产有黄有色有爽视频| 久久久久久久久久黄片| 亚洲四区av| 高清在线视频一区二区三区| 女人久久www免费人成看片| 免费高清在线观看视频在线观看| 欧美性感艳星| 亚洲精品456在线播放app| 人人妻人人看人人澡| 午夜福利网站1000一区二区三区| 国产欧美另类精品又又久久亚洲欧美| 国产精品熟女久久久久浪| 高清在线视频一区二区三区| 亚洲第一区二区三区不卡| 久久久成人免费电影| 欧美zozozo另类| 国产单亲对白刺激| 国产午夜精品一二区理论片| 国产淫语在线视频| 日日啪夜夜爽| 赤兔流量卡办理| 国产精品一区二区三区四区免费观看| av网站免费在线观看视频 | 亚洲综合精品二区| 亚洲av不卡在线观看| 18+在线观看网站| 国产一级毛片七仙女欲春2| 亚洲伊人久久精品综合| 听说在线观看完整版免费高清| 亚洲欧美日韩卡通动漫| 欧美xxxx性猛交bbbb| 天堂影院成人在线观看| 赤兔流量卡办理| 国产精品.久久久| 中文字幕人妻熟人妻熟丝袜美| 美女高潮的动态| 国产综合懂色| 欧美97在线视频| 亚洲在线自拍视频| 免费黄频网站在线观看国产| 欧美潮喷喷水| 内射极品少妇av片p| 欧美三级亚洲精品| 只有这里有精品99| 国产伦精品一区二区三区视频9| 2018国产大陆天天弄谢| 国精品久久久久久国模美| 老司机影院成人| 精品人妻熟女av久视频| 欧美日韩在线观看h| 91av网一区二区| 亚洲国产欧美在线一区| 免费观看性生交大片5| 中文乱码字字幕精品一区二区三区 | 国产久久久一区二区三区| 黄色日韩在线| 色综合亚洲欧美另类图片| 六月丁香七月| 午夜精品一区二区三区免费看| 欧美日韩一区二区视频在线观看视频在线 | 国产免费一级a男人的天堂| av又黄又爽大尺度在线免费看| 大香蕉97超碰在线| 国产日韩欧美在线精品| 国产爱豆传媒在线观看| 欧美性猛交╳xxx乱大交人| 亚洲一区高清亚洲精品| 伦理电影大哥的女人| 久久精品久久久久久噜噜老黄| 亚洲aⅴ乱码一区二区在线播放| 女的被弄到高潮叫床怎么办| 波野结衣二区三区在线| 精品久久久久久久久av| 欧美丝袜亚洲另类| 国产毛片a区久久久久| 在线观看一区二区三区| 春色校园在线视频观看| 欧美变态另类bdsm刘玥| eeuss影院久久| 日日干狠狠操夜夜爽| 欧美成人精品欧美一级黄| 国产欧美日韩精品一区二区| 亚洲欧美精品专区久久| 天天躁日日操中文字幕| 中文字幕免费在线视频6| 亚洲欧美日韩东京热| 日韩伦理黄色片| av在线播放精品| 亚洲av电影不卡..在线观看| 久久久久国产网址| 国产亚洲5aaaaa淫片| 免费大片18禁| 欧美3d第一页| 国产精品99久久久久久久久| 亚洲欧美日韩无卡精品| 校园人妻丝袜中文字幕| 中文在线观看免费www的网站| 成年女人看的毛片在线观看| 青青草视频在线视频观看| 水蜜桃什么品种好| 99热这里只有是精品50| 一本久久精品| 国产成人freesex在线| 在线播放无遮挡| 免费少妇av软件| 欧美+日韩+精品| 国产女主播在线喷水免费视频网站 | 久久99蜜桃精品久久| 国产一区亚洲一区在线观看| 男人和女人高潮做爰伦理| 最近最新中文字幕大全电影3| www.av在线官网国产| 久久热精品热| 亚洲精品乱久久久久久| 夫妻午夜视频| 亚洲精品久久午夜乱码| 一个人观看的视频www高清免费观看| 两个人视频免费观看高清| 久久韩国三级中文字幕| 简卡轻食公司| av黄色大香蕉| 成人午夜精彩视频在线观看| 欧美区成人在线视频| 久久国产乱子免费精品| 亚洲国产欧美人成| 日本欧美国产在线视频| 狠狠精品人妻久久久久久综合| 18+在线观看网站| 国内精品美女久久久久久| 日韩精品有码人妻一区| 听说在线观看完整版免费高清| 国产精品熟女久久久久浪| 国产大屁股一区二区在线视频| h日本视频在线播放| 男人爽女人下面视频在线观看| 亚洲va在线va天堂va国产| 国产 一区 欧美 日韩| 91久久精品电影网| 国产精品精品国产色婷婷| 蜜桃久久精品国产亚洲av| 在线天堂最新版资源| 亚洲国产欧美在线一区| 欧美日韩亚洲高清精品| 纵有疾风起免费观看全集完整版 | 中文字幕人妻熟人妻熟丝袜美| 22中文网久久字幕| 91精品伊人久久大香线蕉| av在线老鸭窝| 久久精品国产自在天天线| 一区二区三区乱码不卡18| 精品久久久久久久人妻蜜臀av| 看非洲黑人一级黄片| 插阴视频在线观看视频| 国产伦理片在线播放av一区| 亚洲一级一片aⅴ在线观看| 久久国内精品自在自线图片| 欧美xxxx性猛交bbbb| 国产av码专区亚洲av| 免费看光身美女| 永久网站在线| 亚洲国产精品专区欧美| 亚洲内射少妇av| 啦啦啦中文免费视频观看日本| 亚洲高清免费不卡视频| 极品少妇高潮喷水抽搐| 天堂中文最新版在线下载 | 精品酒店卫生间| 日韩中字成人| 久久97久久精品| 男人爽女人下面视频在线观看| 夜夜爽夜夜爽视频| 亚洲第一区二区三区不卡| 亚洲精品乱久久久久久| 国产亚洲av嫩草精品影院| videos熟女内射| .国产精品久久| 久久久久精品久久久久真实原创| 搡老妇女老女人老熟妇| 亚洲人与动物交配视频| 特大巨黑吊av在线直播| 国产伦在线观看视频一区| 日本熟妇午夜| 国产亚洲5aaaaa淫片| 舔av片在线| 久久精品国产亚洲av天美| 两个人的视频大全免费| 午夜福利视频精品| 麻豆成人av视频| 亚洲av男天堂| 嘟嘟电影网在线观看| 亚洲av日韩在线播放| 午夜亚洲福利在线播放| 国产精品麻豆人妻色哟哟久久 | 成人亚洲精品av一区二区| 成人毛片60女人毛片免费| 在线观看美女被高潮喷水网站| 国产在视频线在精品| 久久久亚洲精品成人影院| 最近中文字幕高清免费大全6| 真实男女啪啪啪动态图| 日韩不卡一区二区三区视频在线| a级毛色黄片| 国产老妇女一区| 亚洲av电影在线观看一区二区三区 | av黄色大香蕉| 看非洲黑人一级黄片| 成人性生交大片免费视频hd| 成人高潮视频无遮挡免费网站| 精品午夜福利在线看| 干丝袜人妻中文字幕| 日本-黄色视频高清免费观看| 国产黄色小视频在线观看| 精品一区二区三卡| 国产精品一及| 亚洲av电影不卡..在线观看| 国产精品福利在线免费观看| 亚洲国产色片| 免费观看av网站的网址| 卡戴珊不雅视频在线播放| 看黄色毛片网站| 搡女人真爽免费视频火全软件| 国内精品宾馆在线| 欧美一级a爱片免费观看看| 免费黄频网站在线观看国产| 国产精品国产三级国产专区5o| 中文字幕久久专区| 亚洲精品aⅴ在线观看| 听说在线观看完整版免费高清| 日本黄色片子视频| 成人高潮视频无遮挡免费网站| 少妇人妻一区二区三区视频| 亚洲av电影在线观看一区二区三区 | 国产精品美女特级片免费视频播放器| 国产熟女欧美一区二区| 欧美激情在线99| 秋霞伦理黄片| 国产亚洲91精品色在线| 真实男女啪啪啪动态图| 亚洲伊人久久精品综合| 欧美 日韩 精品 国产| 久久久亚洲精品成人影院| 亚洲国产最新在线播放| 欧美激情久久久久久爽电影| 中国国产av一级| 最近最新中文字幕大全电影3| 美女主播在线视频| 最近2019中文字幕mv第一页| 永久免费av网站大全| 久久午夜福利片| 在线播放无遮挡| 黑人高潮一二区| 18禁动态无遮挡网站| 亚洲av中文av极速乱| 99久久精品国产国产毛片| 少妇高潮的动态图| 两个人视频免费观看高清| 久久久欧美国产精品| 免费电影在线观看免费观看| 伊人久久国产一区二区| 九草在线视频观看| 国产成人精品久久久久久| 一级av片app| 亚洲性久久影院| 亚洲国产av新网站| 国精品久久久久久国模美| 乱系列少妇在线播放| 国产伦在线观看视频一区| 国产精品无大码| 午夜精品在线福利| 最近中文字幕2019免费版| 一个人免费在线观看电影| 可以在线观看毛片的网站| 最近最新中文字幕免费大全7| 能在线免费观看的黄片| 亚洲成色77777| 一级二级三级毛片免费看| 精品久久久噜噜| 久久精品夜夜夜夜夜久久蜜豆| 欧美丝袜亚洲另类| 婷婷色麻豆天堂久久| 国内精品宾馆在线| 日本-黄色视频高清免费观看| 毛片一级片免费看久久久久| 日本熟妇午夜| 青春草亚洲视频在线观看| 天堂网av新在线| 九九久久精品国产亚洲av麻豆| 国产一级毛片在线| 久久99蜜桃精品久久| 亚洲人与动物交配视频| 久久精品人妻少妇| 久99久视频精品免费| 亚洲电影在线观看av| 日韩av在线大香蕉| 少妇熟女aⅴ在线视频| 18禁在线播放成人免费| 在线播放无遮挡| 国国产精品蜜臀av免费| 午夜视频国产福利| 国产亚洲最大av| 极品少妇高潮喷水抽搐| 亚洲精品亚洲一区二区| 丰满人妻一区二区三区视频av| 熟女电影av网| 免费不卡的大黄色大毛片视频在线观看 | 成人午夜高清在线视频| 日本一本二区三区精品| 婷婷色麻豆天堂久久| 欧美成人a在线观看| 可以在线观看毛片的网站| 亚洲精品成人久久久久久| 国产亚洲av嫩草精品影院| 亚洲国产日韩欧美精品在线观看| 久久99热这里只有精品18| 国产美女午夜福利| 黄色配什么色好看| 少妇的逼好多水| 女的被弄到高潮叫床怎么办| 国产成人精品久久久久久| 观看美女的网站| 观看免费一级毛片| 免费高清在线观看视频在线观看| 亚洲国产最新在线播放| 欧美高清成人免费视频www| av免费在线看不卡| 日本一本二区三区精品| 国产成人精品婷婷| 国产激情偷乱视频一区二区| 国产av不卡久久| 丝袜喷水一区| 色吧在线观看| 国产在线一区二区三区精| 久久精品国产自在天天线| 成人鲁丝片一二三区免费| av播播在线观看一区| 国产亚洲一区二区精品| 亚洲欧美精品专区久久| 欧美 日韩 精品 国产| 91av网一区二区| 亚洲精品456在线播放app| 国产一区二区三区av在线| 国产69精品久久久久777片| 国产精品福利在线免费观看| 国产精品久久久久久久久免| 久久国产乱子免费精品| 99热这里只有精品一区| 国产精品av视频在线免费观看| 欧美极品一区二区三区四区| 精品一区二区免费观看| videos熟女内射| 免费电影在线观看免费观看| 成人综合一区亚洲| 有码 亚洲区| 久久这里有精品视频免费| 有码 亚洲区| 青春草视频在线免费观看| 又大又黄又爽视频免费| 成年人午夜在线观看视频 | 欧美xxxx黑人xx丫x性爽| 日韩视频在线欧美| 看非洲黑人一级黄片| 成人性生交大片免费视频hd| 岛国毛片在线播放| 搡老乐熟女国产| 99热这里只有精品一区| 日韩精品青青久久久久久| 国产精品久久视频播放| 美女脱内裤让男人舔精品视频| 午夜免费激情av| 人体艺术视频欧美日本| 久久久久网色| 国产乱人视频| 51国产日韩欧美| 91午夜精品亚洲一区二区三区| 熟女人妻精品中文字幕| 你懂的网址亚洲精品在线观看| 亚洲国产精品专区欧美| 国产黄色免费在线视频| 精品一区在线观看国产| 国产精品蜜桃在线观看| 天堂中文最新版在线下载 | 亚洲成人av在线免费| 国产av不卡久久| 亚洲av不卡在线观看| 在线天堂最新版资源| 欧美激情在线99| 人妻一区二区av| 亚洲内射少妇av| 国产69精品久久久久777片| 日韩欧美 国产精品| 女人十人毛片免费观看3o分钟| 国产在线男女| 99久久中文字幕三级久久日本| 欧美成人精品欧美一级黄| 日韩一本色道免费dvd| 欧美日韩国产mv在线观看视频 | 日本一二三区视频观看| 国产午夜精品论理片| av又黄又爽大尺度在线免费看| 人妻系列 视频| 九九在线视频观看精品| 最近视频中文字幕2019在线8| 日韩欧美国产在线观看| 草草在线视频免费看| 少妇熟女欧美另类| 亚洲欧美一区二区三区黑人 | 七月丁香在线播放| av女优亚洲男人天堂| 黄色一级大片看看| 亚洲国产欧美人成| av在线老鸭窝| 又大又黄又爽视频免费| 色视频www国产| 精品人妻偷拍中文字幕| 久久国内精品自在自线图片| 黄色日韩在线| 久久97久久精品| 色5月婷婷丁香| 久久久精品94久久精品| 真实男女啪啪啪动态图| 热99在线观看视频| 免费看日本二区| 只有这里有精品99| 熟女人妻精品中文字幕| 欧美xxⅹ黑人| 国语对白做爰xxxⅹ性视频网站| 精品酒店卫生间| 观看美女的网站| 日韩成人伦理影院| 国产亚洲午夜精品一区二区久久 | 国产亚洲av片在线观看秒播厂 | 国产在线一区二区三区精| 国产女主播在线喷水免费视频网站 | 性插视频无遮挡在线免费观看| 少妇的逼水好多| 国产真实伦视频高清在线观看| 婷婷色综合大香蕉| 麻豆成人午夜福利视频| 直男gayav资源| 国产大屁股一区二区在线视频| 亚洲欧美精品专区久久| 最近的中文字幕免费完整| 看十八女毛片水多多多| 舔av片在线| 欧美变态另类bdsm刘玥| 久久久久久久久大av| 成人鲁丝片一二三区免费| 中文欧美无线码| 熟女人妻精品中文字幕| 国产免费福利视频在线观看| 一本久久精品| .国产精品久久| 啦啦啦中文免费视频观看日本| 日日摸夜夜添夜夜添av毛片| 日韩三级伦理在线观看| 精品久久久久久成人av| 国产av在哪里看| 国产中年淑女户外野战色| ponron亚洲| 久久国内精品自在自线图片| 亚洲av二区三区四区| 午夜亚洲福利在线播放| av在线亚洲专区| 国产视频首页在线观看| 国产精品.久久久| 亚洲av免费高清在线观看| 国产极品天堂在线| 亚洲av在线观看美女高潮| 亚洲18禁久久av| 久久久久免费精品人妻一区二区| 欧美xxxx黑人xx丫x性爽| 欧美精品一区二区大全| 99久国产av精品| 免费不卡的大黄色大毛片视频在线观看 | 天堂中文最新版在线下载 | 免费黄网站久久成人精品| 日韩欧美三级三区| 中国美白少妇内射xxxbb| 大片免费播放器 马上看| 国产成人精品久久久久久| 国产精品一二三区在线看| 九九久久精品国产亚洲av麻豆| 亚洲丝袜综合中文字幕| 亚洲欧美日韩卡通动漫| 1000部很黄的大片| 国产v大片淫在线免费观看| 免费不卡的大黄色大毛片视频在线观看 | 亚洲av.av天堂| 一级毛片aaaaaa免费看小| 最近中文字幕高清免费大全6| av.在线天堂| 建设人人有责人人尽责人人享有的 | videos熟女内射| 免费不卡的大黄色大毛片视频在线观看 | 国产片特级美女逼逼视频| 国产精品99久久久久久久久| 国产精品爽爽va在线观看网站| 精品久久久久久久人妻蜜臀av| 国产av不卡久久| 欧美97在线视频| 国产av不卡久久| 啦啦啦韩国在线观看视频| 爱豆传媒免费全集在线观看| 大又大粗又爽又黄少妇毛片口| 在线免费观看的www视频| 国产一区有黄有色的免费视频 | 国产黄a三级三级三级人| 欧美97在线视频| 国产成人精品婷婷| 免费少妇av软件| 国产av不卡久久| av专区在线播放| a级毛片免费高清观看在线播放| 午夜免费男女啪啪视频观看| 国国产精品蜜臀av免费| 精品久久久久久久人妻蜜臀av| 淫秽高清视频在线观看| 亚洲av中文字字幕乱码综合| 亚洲精品国产成人久久av| 97超碰精品成人国产| 国产视频首页在线观看| 国产伦理片在线播放av一区| 国产黄色小视频在线观看| 国内精品一区二区在线观看| 少妇猛男粗大的猛烈进出视频 | 国产高潮美女av| 乱系列少妇在线播放| 国产黄色免费在线视频| 午夜激情欧美在线| 免费看a级黄色片| 免费看日本二区| 男女下面进入的视频免费午夜| 午夜福利成人在线免费观看| 日韩大片免费观看网站| 国产精品99久久久久久久久| 好男人在线观看高清免费视频| 黄片wwwwww| 久久久精品免费免费高清| 一区二区三区免费毛片| 国产黄色免费在线视频| 免费黄频网站在线观看国产| 日本爱情动作片www.在线观看| 永久免费av网站大全| 蜜桃久久精品国产亚洲av| 综合色av麻豆| 三级男女做爰猛烈吃奶摸视频| 韩国高清视频一区二区三区| 免费电影在线观看免费观看| 精品少妇黑人巨大在线播放| 亚洲欧美中文字幕日韩二区| 99久久精品热视频| 国产伦在线观看视频一区| 国产精品嫩草影院av在线观看| 男人舔女人下体高潮全视频| 久久久久久久久中文| 丰满少妇做爰视频| 国产真实伦视频高清在线观看| 国产探花在线观看一区二区| 一二三四中文在线观看免费高清| 国产爱豆传媒在线观看| 精品亚洲乱码少妇综合久久| 亚洲av福利一区| 精品久久久久久久人妻蜜臀av| 超碰av人人做人人爽久久| 国产一区二区三区综合在线观看 | 亚洲av中文字字幕乱码综合| 青春草亚洲视频在线观看| 日本熟妇午夜| 能在线免费看毛片的网站| 国产成人精品久久久久久| 乱系列少妇在线播放| 亚洲欧美精品专区久久| 亚洲美女搞黄在线观看| 一级毛片 在线播放| av专区在线播放| 国产黄色小视频在线观看| 精品国产一区二区三区久久久樱花 | 尤物成人国产欧美一区二区三区| 日韩av免费高清视频| 80岁老熟妇乱子伦牲交| 91在线精品国自产拍蜜月| 国产av码专区亚洲av| 国产成人aa在线观看| 亚洲精品成人久久久久久| 国产综合懂色| 日本免费a在线| 久久久亚洲精品成人影院| 真实男女啪啪啪动态图|