人工智能時(shí)代面臨的刑事風(fēng)險(xiǎn)及其應(yīng)對(duì)

摘 要 人工智能技術(shù)為人類的生產(chǎn)生活帶來了諸多便利，客觀上推動(dòng)了社會(huì)經(jīng)濟(jì)的發(fā)展進(jìn)步，但同時(shí)也帶來了各種不容忽視的刑事風(fēng)險(xiǎn)。本文首先對(duì)人工智能產(chǎn)品做出類型上的劃分，對(duì)弱人工智能時(shí)代中人工智能產(chǎn)品可能涉及的刑事犯罪類型進(jìn)行列舉，這一階段中弱人工智能產(chǎn)品會(huì)為犯罪人提供更高級(jí)的犯罪手段，從而造成信息泄露風(fēng)險(xiǎn)增大、犯罪的社會(huì)危害性大大增強(qiáng)、技術(shù)發(fā)展不成熟存在安全隱患等刑事風(fēng)險(xiǎn);強(qiáng)人工智能時(shí)代的到來則會(huì)對(duì)現(xiàn)行刑法內(nèi)容解釋、體系結(jié)構(gòu)產(chǎn)生沖擊，使刑法面臨犯罪主體構(gòu)造基礎(chǔ)動(dòng)搖、刑事責(zé)任承擔(dān)以及刑罰適用困難等難題。其次，本文針對(duì)人工智能時(shí)代的刑事風(fēng)險(xiǎn)，從應(yīng)當(dāng)遵循的基本原則以及技術(shù)發(fā)展的兩個(gè)階段分別提出刑法上的應(yīng)對(duì)建議，即在基本原則上堅(jiān)持科學(xué)發(fā)展與人類利益優(yōu)先;弱人工智能產(chǎn)品涉及的刑事責(zé)任承擔(dān)問題的解決以及強(qiáng)人工智能時(shí)代下對(duì)于刑法內(nèi)容補(bǔ)充和刑法體系建構(gòu)的建議。

關(guān)鍵詞 人工智能 刑事風(fēng)險(xiǎn) 刑法應(yīng)對(duì) 刑事責(zé)任承擔(dān)

作者簡(jiǎn)介：王鐘儀，東北農(nóng)業(yè)大學(xué)，本科。

中圖分類號(hào)：D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識(shí)碼：A ? ? ? ? ? ? ? ? ? ? ? ?DOI：10.19387/j.cnki.1009-0592.2019.07.003

一、時(shí)代背景與問題描述

人工智能這一概念早在20世紀(jì)50年代就已被提出過，但由于當(dāng)時(shí)的互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等科技水平的發(fā)展尚顯不足且不夠成熟，實(shí)現(xiàn)人工機(jī)器的智能化即能夠自我學(xué)習(xí)、自我意識(shí)，在很長(zhǎng)一段時(shí)間中都超出了人們的預(yù)想，對(duì)于人工智能的研究曾長(zhǎng)期處于基本停滯狀態(tài)，并未得到人們的廣泛關(guān)注。2016年Google公司的Alpha Go Tools在韓國(guó)首爾舉辦的人機(jī)圍棋大賽中，以4：1的絕對(duì)優(yōu)勢(shì)戰(zhàn)勝了世界圍棋第一人李世石，這使全世界的目光再一次聚焦到了人工智能這一前沿科技上，人工智能技術(shù)崛起，成為了國(guó)際競(jìng)爭(zhēng)的新焦點(diǎn)。美國(guó)白宮于2016年10月發(fā)布了《為人工智能的未來做好準(zhǔn)備》和《國(guó)家人工智能研究和發(fā)展策略規(guī)劃》兩份重要報(bào)告，谷歌公司和蘋果公司競(jìng)相收購(gòu)了最有潛力的人工智能初創(chuàng)公司，微軟在地球人工智能計(jì)劃中宣布投資500萬(wàn)美元，各國(guó)政府、高校、大型的互聯(lián)網(wǎng)相關(guān)企業(yè)都紛紛加大人工智能領(lǐng)域的人力與財(cái)力投入，努力搶占人工智能技術(shù)全球制高點(diǎn)。

世界各國(guó)都把人工智能的研發(fā)作為提升國(guó)家競(jìng)爭(zhēng)力的重大戰(zhàn)略，中國(guó)當(dāng)然也不例外。我國(guó)政府于2017年7月引發(fā)了《新一代人工智能發(fā)展規(guī)劃》，對(duì)我國(guó)人工智能技術(shù)的未來發(fā)展進(jìn)行戰(zhàn)略部署，中國(guó)科技巨頭阿里巴巴集團(tuán)、百度、騰訊科技分別在新加坡、美國(guó)斥巨資建立了人工智能應(yīng)用聯(lián)合研究機(jī)構(gòu)與實(shí)驗(yàn)室，人工智能創(chuàng)新產(chǎn)品正以日新月異的速度發(fā)展。我們無法預(yù)想?yún)s又不得不承認(rèn)，人工智能新時(shí)代已經(jīng)來臨。

《新一代人工智能發(fā)展規(guī)劃》中指出，人工智能在互聯(lián)網(wǎng)“網(wǎng)絡(luò)化”“數(shù)字化”的不斷成熟中，日益向“智能化”邁進(jìn)。它作為影響面廣的顛覆性技術(shù)，可能會(huì)帶來沖擊法律和社會(huì)倫理、侵犯?jìng)€(gè)人隱私、挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則等各種問題，其發(fā)展的不確定性可能會(huì)為人類社會(huì)帶來安全風(fēng)險(xiǎn)與挑戰(zhàn)。偉大的物理學(xué)家、宇宙學(xué)家史蒂芬·霍金曾表示：“人工智能的崛起是人類歷史上最好的事情，憑借這場(chǎng)新的科技革命，我們或許可以挽回上一場(chǎng)工業(yè)革命給自然界和人類社會(huì)帶來的破壞，然而人工智能在未來可能對(duì)人類生存帶來毀滅性的威脅，除非我們學(xué)會(huì)如何規(guī)避、控制風(fēng)險(xiǎn)。”

一個(gè)全新時(shí)代的到來，必然會(huì)產(chǎn)生很多超出傳統(tǒng)法律理念與已有法律法規(guī)范圍的新問題，人工智能時(shí)代的到來要求我們從法律層面對(duì)其各個(gè)領(lǐng)域需要解決和完善的問題進(jìn)行規(guī)制。目前法學(xué)界已有學(xué)者對(duì)知識(shí)產(chǎn)權(quán)、民事等領(lǐng)域展開研究，而對(duì)于刑事風(fēng)險(xiǎn)與責(zé)任方面的研究卻比較少?，F(xiàn)今生活中人工智能使用者與研發(fā)者利用機(jī)器人實(shí)施的，以及機(jī)器人在人類智慧范圍內(nèi)外實(shí)施的危害社會(huì)的犯罪行為日益增多，社會(huì)危害性不斷加大，這些都足以使人工智能在刑法層面得到強(qiáng)烈重視。基于此，筆者將著眼于人工智能時(shí)代可能帶來的刑事風(fēng)險(xiǎn)，以及如何對(duì)這些刑事風(fēng)險(xiǎn)進(jìn)行有效地應(yīng)對(duì)展開分析與討論。

二、人工智能時(shí)代的刑事風(fēng)險(xiǎn)

（一）人工智能產(chǎn)品類型的劃分

人工智能產(chǎn)品的本質(zhì)是依托算法，從而實(shí)現(xiàn)自我意識(shí)并獲得獨(dú)立思考與解決問題的能力，根據(jù)內(nèi)部算法的復(fù)雜程度，可以分為弱人工智能產(chǎn)品和強(qiáng)人工智能產(chǎn)品。但算法屬于技術(shù)范疇，在法律上按照人工智能產(chǎn)品精密復(fù)雜的內(nèi)部運(yùn)作原理對(duì)其進(jìn)行分類，這很難做到精確，可操作性也不強(qiáng)。因此我們從法律層面對(duì)劃分人工智能產(chǎn)品規(guī)定一個(gè)標(biāo)準(zhǔn)，即以是否具有辨認(rèn)能力與控制能力來區(qū)分弱人工智能產(chǎn)品和強(qiáng)人工智能產(chǎn)品。

目前人工智能的發(fā)展整體上仍處在弱人工智能時(shí)代，弱人工智能產(chǎn)品雖然能夠?qū)崿F(xiàn)自我意識(shí)、進(jìn)行獨(dú)立思考和解決問題，但這些都被限制在設(shè)計(jì)者編制的程序范圍內(nèi)，也就是說，人工智能產(chǎn)品的自我意識(shí)、判斷與決策實(shí)際上仍是其創(chuàng)造者意識(shí)的體現(xiàn)。例如AlphaGo在圍棋大賽中戰(zhàn)勝了李世石九段，這雖然是它自我判斷與決策的結(jié)果，但這都是在設(shè)計(jì)者預(yù)先設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行的，體現(xiàn)的是設(shè)計(jì)者或使用者的意志。也就是說如果讓AlphaGo去駕駛汽車，它必然無法出色完成任務(wù)。

強(qiáng)人工智能產(chǎn)品則是具有辨認(rèn)能力與控制能力，可以超出設(shè)計(jì)者設(shè)計(jì)與編制的程序范圍進(jìn)行自我意識(shí)、判斷與決策的人工智能產(chǎn)品。這一概念最初由約翰·羅杰斯·希爾勒創(chuàng)造：“計(jì)算機(jī)不僅是用來研究人的思維的一種工具;相反，只要運(yùn)行適當(dāng)?shù)某绦颍?jì)算機(jī)本身就是有思維的。”目前人類已經(jīng)掌握了弱人工智能技術(shù)，并向強(qiáng)人工智能時(shí)代邁進(jìn)。

（二）弱人工智能時(shí)代可能面臨的刑事風(fēng)險(xiǎn)

由于弱人工智能產(chǎn)品不具有辨認(rèn)能力與控制能力，其自我意識(shí)、判斷與決策都是按照設(shè)計(jì)者或使用者的意志在編制程序范圍內(nèi)進(jìn)行，因此可以將弱人工智能產(chǎn)品定義為一種“工具”。工具范疇內(nèi)的人工智能產(chǎn)品目前已經(jīng)較為廣泛地應(yīng)用于醫(yī)療衛(wèi)生、家庭生活、會(huì)計(jì)金融、運(yùn)輸交通等各個(gè)社會(huì)生活領(lǐng)域，在這里，筆者將弱人工智能可能涉及的刑事犯罪類型進(jìn)行列舉，并針對(duì)不同的犯罪類型，對(duì)弱人工智能時(shí)代可能存在的刑事風(fēng)險(xiǎn)進(jìn)行分析。

第一，行為人對(duì)人工智能產(chǎn)品本身進(jìn)行破壞，實(shí)施犯罪。人工智能產(chǎn)品發(fā)展的第二階段是信息化，它在現(xiàn)階段的運(yùn)算推理以及決策實(shí)施等能力都是以計(jì)算機(jī)信息系統(tǒng)為基礎(chǔ)，它的智能系統(tǒng)中儲(chǔ)存了大量的數(shù)據(jù)與信息，這其中不僅包括涉及公民身份信息、個(gè)人隱私、財(cái)產(chǎn)安全的內(nèi)容，甚至還包括關(guān)乎國(guó)家安全與軍事利益等重大數(shù)據(jù)信息。犯罪分子對(duì)人工智能產(chǎn)品實(shí)施犯罪，可能會(huì)產(chǎn)生嚴(yán)重危害社會(huì)的后果，例如犯罪分子破壞和侵入證券交易市場(chǎng)的人工智能機(jī)器程序，從而操控證券交易市場(chǎng)，導(dǎo)致經(jīng)濟(jì)秩序的混亂與崩潰。

第二，行為人利用人工智能產(chǎn)品實(shí)施犯罪行為，達(dá)到犯罪目的。這種犯罪是典型的“工具型犯罪”，人工智能技術(shù)飛速發(fā)展，將其作為犯罪工具的犯罪行為也隨之一同進(jìn)化，變得越來越高級(jí)。從國(guó)家利益、公共安全、社會(huì)管理和軍事領(lǐng)域等層面來說，恐怖分子可以通過人工智能產(chǎn)品實(shí)施在公共場(chǎng)所安裝與控制爆炸物等恐怖活動(dòng)，無需親歷親為就可以達(dá)到危害社會(huì)的犯罪目的;犯罪分子可以利用人工智能產(chǎn)品非法獲得國(guó)家機(jī)密與其他保密信息并加以利用，從而擾亂社會(huì)秩序;又比如美國(guó)、俄羅斯、以色列、烏克蘭等國(guó)家對(duì)“殺人機(jī)器人”的研發(fā)，人工智能技術(shù)在生化與軍事領(lǐng)域的應(yīng)用可能會(huì)為人類帶來毀滅性的傷害。

從公民個(gè)人財(cái)產(chǎn)安全與人身安全的角度來看，現(xiàn)今互聯(lián)網(wǎng)大數(shù)據(jù)收集了包括個(gè)人身體健康狀況、行動(dòng)軌跡、生活習(xí)慣等各種信息，犯罪分子利用人工智能產(chǎn)品輕松竊取公民的個(gè)人信息，人工智能的語(yǔ)言偽裝技術(shù)極大程度地縮小了機(jī)器與人類語(yǔ)言的差異，這些都為網(wǎng)絡(luò)詐騙等犯罪的實(shí)施提供了極大的便利;用人工智能技術(shù)制造殺人機(jī)器，借刀殺人，或用以銷毀罪證從而使自己全身而退的行為也不可忽視。

人工智能技術(shù)作為高級(jí)的犯罪工具，在一定程度上消除了犯罪的障礙，為犯罪提供便利，降低了犯罪的難度，極大增強(qiáng)了傳統(tǒng)犯罪的社會(huì)危害性。

第三，人工智能產(chǎn)品生產(chǎn)質(zhì)量及運(yùn)行安全問題造成的危害。當(dāng)前工業(yè)生產(chǎn)、醫(yī)療臨床、汽車制造、教育培訓(xùn)等都廣泛應(yīng)用人工智能技術(shù)，美國(guó)職業(yè)安全健康管理局曾進(jìn)行了相關(guān)統(tǒng)計(jì)，在過去的30年大約發(fā)生了30多起與機(jī)器人相關(guān)的死亡事件。人工智能產(chǎn)品由于技術(shù)的不成熟或者系統(tǒng)內(nèi)部的不穩(wěn)定性，在運(yùn)行時(shí)可能會(huì)自發(fā)地對(duì)社會(huì)和公民造成社會(huì)危害。

（三）強(qiáng)人工智能時(shí)代可能面臨的刑事風(fēng)險(xiǎn)

隨著各國(guó)對(duì)人工智能技術(shù)的研究不斷深入，人工智能產(chǎn)品超出設(shè)計(jì)程序的自我意識(shí)范圍，產(chǎn)生辨認(rèn)能力與控制能力，已逐漸變?yōu)榭赡?。?duì)于強(qiáng)人工智能產(chǎn)品可能造成的刑事風(fēng)險(xiǎn)和其刑事責(zé)承擔(dān)問題的探討勢(shì)在必行。

強(qiáng)人工智能產(chǎn)品在程序設(shè)置范圍內(nèi)造成的社會(huì)危害;以及其作為工具，在沒有自我意識(shí)影響的情況下被利用于犯罪行為從而造成的社會(huì)危害，與弱人工智能時(shí)代可能產(chǎn)生的刑事風(fēng)險(xiǎn)大致相同，因此在這里重點(diǎn)對(duì)具有辨認(rèn)能力和控制能力的強(qiáng)人工智能產(chǎn)品在超出程序設(shè)置范圍的情況下，依靠獨(dú)立的自我意識(shí)實(shí)施對(duì)社會(huì)造成嚴(yán)重危害的行為，從而可能產(chǎn)生的刑事風(fēng)險(xiǎn)予以論述分析。

第一，強(qiáng)人工智能產(chǎn)品在自我意識(shí)控制下實(shí)施損害社會(huì)的行為，可能由于刑法對(duì)其解釋空間不足而得不到規(guī)制。例如，刑法規(guī)定：危害行為是在人的意志或者意識(shí)支配下實(shí)施的危害社會(huì)的身體動(dòng)靜。那么強(qiáng)人工智能產(chǎn)品實(shí)施的損害行為是否能夠被認(rèn)為是刑法上的危害行為呢？又如，刑法中規(guī)定犯罪主體是指實(shí)施危害社會(huì)行為并依法應(yīng)負(fù)刑事責(zé)任的自然人和單位，傳統(tǒng)刑法中并未將人工智能產(chǎn)品規(guī)定為刑法上的行為主體，那么強(qiáng)人工智能產(chǎn)品能否作為“人”而受到法律的規(guī)制呢？由于刑法及其解釋對(duì)相關(guān)方面的規(guī)定不足，在強(qiáng)人工智能產(chǎn)品依靠自我意識(shí)實(shí)施損害行為時(shí)，可能難以在刑事法律中找到合理的法律依據(jù)與解釋，從而無法規(guī)制。

第二，可能會(huì)對(duì)我國(guó)刑法現(xiàn)有體系結(jié)構(gòu)產(chǎn)生沖擊。刑法是規(guī)定犯罪、刑事責(zé)任和刑罰的法律，強(qiáng)人工智能時(shí)代的到來可能使我國(guó)犯罪主體體系、刑事責(zé)任體系、刑罰體系均面臨重塑的風(fēng)險(xiǎn)。

首先是在犯罪主體體系上，關(guān)于人工智能產(chǎn)品能否作為刑法上的法律主體，學(xué)者們的觀點(diǎn)大致分為兩種：一是認(rèn)為其辨認(rèn)能力與控制能力是自然人賦予的，依附自然人而存在，不應(yīng)被視為犯罪主體;相反觀點(diǎn)則認(rèn)為未來的人工智能產(chǎn)品能夠超出程序范圍擁有不受人類控制的自我意識(shí)，應(yīng)當(dāng)被視為是獨(dú)立的犯罪主體。在這里筆者贊同后者。法律主體理論已經(jīng)歷了從自然人到法律擬制人的發(fā)展，這里的“人”是抽象的，隨著社會(huì)發(fā)展的日趨復(fù)雜性，法人、非法人組織、甚至是動(dòng)物都逐漸被納入法律主體范圍，這在過去的很長(zhǎng)一段時(shí)間也是超出人們認(rèn)知范圍，遭到人們廣泛爭(zhēng)議的。這在一定程度上可以說明，隨著社會(huì)發(fā)展的需要，不排除在未來將具有自我意識(shí)的人工智能產(chǎn)品列為刑法中的犯罪主體的可能性。在那個(gè)時(shí)候就會(huì)對(duì)現(xiàn)有刑法體系中關(guān)于犯罪主體的構(gòu)造基礎(chǔ)造成顛覆性的沖擊，形成自然人、單位、人工智能機(jī)器人為基礎(chǔ)的犯罪主體體系。

其次是在刑事責(zé)任體系層面，人工智能產(chǎn)品能否具有刑事責(zé)任能力呢？刑事責(zé)任能力是指行為人構(gòu)成犯罪和承擔(dān)刑事責(zé)任所必需的，行為人具備的刑法意義上的辨認(rèn)和控制自己行為的能力。當(dāng)人工智能產(chǎn)品被承認(rèn)為刑事上的法律主體，并且具有了獨(dú)立于編制程序的辨認(rèn)能力與控制能力時(shí)，就具有了刑事責(zé)任能力。這時(shí)便會(huì)出現(xiàn)一系列難以解決的問題，例如：人工智能產(chǎn)品既不像自然人一樣擁有生命、自由，也不像單位擁有財(cái)產(chǎn)、資格等，那么它如何實(shí)現(xiàn)其對(duì)刑事責(zé)任的承擔(dān)呢？既然很難由其自身承擔(dān)刑事責(zé)任，那就其犯罪行為向設(shè)計(jì)者與使用者等相關(guān)人追責(zé)是否違背了刑法中的罪責(zé)自負(fù)原則呢？人工智能產(chǎn)品具有刑事責(zé)任，卻對(duì)其刑事責(zé)任承擔(dān)困難，這必然會(huì)動(dòng)搖現(xiàn)行的刑事責(zé)任體系。

最后從刑罰體系的角度來分析，我國(guó)目前將刑罰的對(duì)象限制在自然人和單位，因此主要是依據(jù)自然人的自然屬性及本質(zhì)特征對(duì)刑罰進(jìn)行設(shè)置。例如：有期徒刑、無期徒刑是對(duì)于自然人自由的剝奪，自然人的生命是有限的，這兩種刑罰對(duì)于自然人來講是嚴(yán)酷的;死刑是對(duì)自然人有限生命的剝奪，生命權(quán)是自然人最為寶貴的一項(xiàng)人身權(quán)利。而對(duì)于人工智能產(chǎn)品來說，它的生命是無限的，且時(shí)間與自由對(duì)其產(chǎn)生的意義不大，傳統(tǒng)刑罰對(duì)于人工智能產(chǎn)品來說無法發(fā)揮剝奪、威懾、改造、教育等功能，基本失去了其固有的價(jià)值。這會(huì)在根本上動(dòng)搖當(dāng)前刑罰體系確立的根據(jù)，即刑罰體系應(yīng)有利于刑罰功能的發(fā)揮和刑罰目的的實(shí)現(xiàn)。因此，在未來可能會(huì)出現(xiàn)一套不同于自然人和單位的，適用于人工智能產(chǎn)品的刑罰體系，從而導(dǎo)致現(xiàn)有刑罰體系的結(jié)構(gòu)與重塑。

三、人工智能時(shí)代的刑事風(fēng)險(xiǎn)應(yīng)對(duì)

（一）在基本原則上堅(jiān)持科學(xué)發(fā)展與人類利益優(yōu)先

綜上所述，人工智能技術(shù)的發(fā)展必然會(huì)給人類社會(huì)帶來很多已知或未知的難題，但不可否認(rèn)的是人工智能時(shí)代的到來是科學(xué)技術(shù)進(jìn)步的必然結(jié)果，回顧人類歷史可見，科學(xué)技術(shù)會(huì)給社會(huì)各個(gè)方面造成風(fēng)險(xiǎn)與災(zāi)難，但同樣也會(huì)為人類帶來福利。我們不能為了規(guī)避風(fēng)險(xiǎn)而阻礙人工智能技術(shù)的發(fā)展，相反，我們應(yīng)該對(duì)該項(xiàng)技術(shù)的研究予以支持和鼓勵(lì)，并對(duì)發(fā)展中產(chǎn)生的問題積極加以應(yīng)對(duì)與解決。

艾薩克·阿西莫夫曾提出了機(jī)器人三大定律，第一定律是不能傷害人類;第二定律是恪守人的命令，除非與第一定律相沖突;第三定律是保護(hù)自己，除非與第一、第二定律相沖突。這可以為我們應(yīng)對(duì)人工智能時(shí)代的刑事風(fēng)險(xiǎn)提供理論依據(jù)。在弱人工智能時(shí)代，人工智能產(chǎn)品的自我意識(shí)尚限制在人類的規(guī)制程序范圍內(nèi)，也許不會(huì)主動(dòng)做出危害人類安全的行為，到了強(qiáng)人工智能時(shí)代，人工智能產(chǎn)品可能脫離人類的控制，憑超出規(guī)制程序范圍之外的自我意識(shí)實(shí)施危害人類的行為。這就要求我們對(duì)這些危害人類利益的情況，盡早確立人類利益優(yōu)先原則，并從立法、司法、執(zhí)法等各個(gè)方面對(duì)這些情況做出預(yù)防，同時(shí)正確面對(duì)人工智能技術(shù)發(fā)展過程中出現(xiàn)的新的法律問題，積極地做進(jìn)一步規(guī)制。

（二）弱人工智能時(shí)代下的刑事風(fēng)險(xiǎn)應(yīng)對(duì)

在弱人工智能時(shí)代，人工智能產(chǎn)品受自身編制程序的控制，其行為實(shí)現(xiàn)的是設(shè)計(jì)者或其使用者的意志。對(duì)于這一階段的人工智能產(chǎn)品，筆者認(rèn)為可以將其劃為“產(chǎn)品”的范疇，依照《產(chǎn)品質(zhì)量法》第十三條規(guī)定：“對(duì)可能危及人體健康和人身、財(cái)產(chǎn)安全的工業(yè)產(chǎn)品，必須符合保障人體健康和人身、財(cái)產(chǎn)安全的要求?！逼湓O(shè)計(jì)研發(fā)者、生產(chǎn)制造者對(duì)人工智能產(chǎn)品負(fù)有安全生產(chǎn)義務(wù)。因此當(dāng)人工智能產(chǎn)品不符合國(guó)家、行業(yè)標(biāo)準(zhǔn)，由于自身缺陷或運(yùn)行錯(cuò)誤造成嚴(yán)重?fù)p害后果時(shí)，可以比照《刑法》第一百四十六條生產(chǎn)、銷售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪，對(duì)其設(shè)計(jì)者、生產(chǎn)者和銷售者追究責(zé)任。與此同時(shí)，如果產(chǎn)品的使用者、管理者未對(duì)人工智能產(chǎn)品進(jìn)行安全操作或盡安全管理義務(wù)，也可以被要求承擔(dān)責(zé)任。

另外，對(duì)于犯罪人將人工智能產(chǎn)品作為工具實(shí)施犯罪，以及犯罪人對(duì)人工智能產(chǎn)品進(jìn)行破壞和利用進(jìn)行犯罪的行為，可以比照《刑法》第二百八十五條、二百八十六條和二百八十七條，依法對(duì)行為人追究刑事責(zé)任。

（三）強(qiáng)人工智能時(shí)代的刑事風(fēng)險(xiǎn)應(yīng)對(duì)

筆者在這里將強(qiáng)人工智能時(shí)代的刑事風(fēng)險(xiǎn)，以機(jī)器人實(shí)施的損害行為是否由編制程序范圍之內(nèi)的自我意識(shí)支配為標(biāo)準(zhǔn)分為兩類。機(jī)器人未超出編制程序，實(shí)施具有嚴(yán)重社會(huì)危害性的行為;或者被行為人作為工具利用實(shí)施犯罪行為從而造成的刑事風(fēng)險(xiǎn)，可以參照弱人工智能進(jìn)行應(yīng)對(duì)，二者基本一致，這里不多做論述。當(dāng)機(jī)器人通過深度學(xué)習(xí)具有了辨認(rèn)能力和控制能力，超出設(shè)計(jì)編制程序范圍，以獨(dú)立的不受人類控制的自我意志實(shí)施危害社會(huì)行為時(shí)，其造成的刑事風(fēng)險(xiǎn)應(yīng)如何應(yīng)對(duì)是在這里要重點(diǎn)論述的部分。

1.先以其他法律對(duì)人工智能風(fēng)險(xiǎn)進(jìn)行初步應(yīng)對(duì)，最后再?gòu)男谭ㄉ线M(jìn)行規(guī)制。筆者認(rèn)為現(xiàn)今社會(huì)總體上仍處在弱人工智能時(shí)代，對(duì)于強(qiáng)人工智能時(shí)代可能面對(duì)的刑事風(fēng)險(xiǎn)主要限于設(shè)想和預(yù)測(cè)層面，社會(huì)中涉及的強(qiáng)人工智能產(chǎn)品超出程序范圍以自我意志獨(dú)立實(shí)施犯罪的情況較少，直接從刑法層面對(duì)其做出完整的規(guī)定的現(xiàn)實(shí)性較小。因此可以以其他法律先行，在民事、行政領(lǐng)域出臺(tái)相關(guān)的法律法規(guī)，例如前文應(yīng)對(duì)措施中提出的，比照《產(chǎn)品質(zhì)量法》對(duì)人工智能產(chǎn)品涉及的犯罪責(zé)任承擔(dān)問題進(jìn)行解決時(shí)，可以在民事、行政法等角度增加一些有關(guān)設(shè)計(jì)者、生產(chǎn)者、管理者注意義務(wù)的內(nèi)容，并不斷對(duì)技術(shù)發(fā)展過程中產(chǎn)生的風(fēng)險(xiǎn)做進(jìn)一步規(guī)制。刑法層面則可以首先在現(xiàn)有罪名與解釋的基礎(chǔ)上做一些補(bǔ)充，待人工智能技術(shù)進(jìn)一步取得突破性進(jìn)展之后，明確是否確實(shí)產(chǎn)生了將強(qiáng)人工智能機(jī)器人確定為犯罪主體、刑事責(zé)任承擔(dān)主體，以及設(shè)置新的刑罰罪名并調(diào)整刑罰體系的需要，然后再將刑法作為最終也是最嚴(yán)厲的法律保障，針對(duì)產(chǎn)生的刑事風(fēng)險(xiǎn)，在發(fā)展成熟的對(duì)應(yīng)的倫理制度、其他法律制度、社會(huì)規(guī)則基礎(chǔ)上，對(duì)人工智能產(chǎn)品進(jìn)行最后的全面規(guī)制。

2.從立法上對(duì)刑法的體系和內(nèi)容進(jìn)行補(bǔ)充與改進(jìn)，可以從犯罪主體體系、刑事責(zé)任體系、刑罰體系三個(gè)層面進(jìn)行。

在犯罪主體基本構(gòu)成上，筆者認(rèn)為應(yīng)將擁有自我辨認(rèn)能力與控制能力的強(qiáng)人工智能產(chǎn)品作為與自然人、單位相并列的擬制的刑事法律主體。

在刑事責(zé)任承擔(dān)上，設(shè)計(jì)者或使用者與人工智能機(jī)器人就其實(shí)施的嚴(yán)重危害社會(huì)安全的行為應(yīng)承擔(dān)連帶責(zé)任，因?yàn)榧幢闳斯ぶ悄軝C(jī)器人是以脫離編制程序的獨(dú)立意識(shí)實(shí)施的犯罪行為，但其辨認(rèn)能力與控制能力是源于設(shè)計(jì)者賦予其的基本程序，其危害行為也可能是由于使用者在使用過程中觸發(fā)了某項(xiàng)程序而產(chǎn)生，在這里筆者認(rèn)為設(shè)計(jì)者或使用者對(duì)智能機(jī)器人的犯罪行為承擔(dān)無過錯(cuò)責(zé)任。

在刑罰體系角度，筆者認(rèn)為應(yīng)逐步建立專屬于人工智能機(jī)器人的，即針對(duì)人工智能產(chǎn)品的本質(zhì)屬性及內(nèi)在需求的有效的刑罰體系。劉憲權(quán)教授在《人工智能時(shí)代的“內(nèi)憂”“外患”與刑事責(zé)任》一文中，對(duì)強(qiáng)人工智能機(jī)器人時(shí)代具體的刑罰體系做了大膽的構(gòu)想，將適用機(jī)器人的刑罰分為刪除數(shù)據(jù)、修改程序、永久銷毀三種。筆者認(rèn)為這些刑罰方式可以對(duì)機(jī)器人發(fā)揮教育、威懾等功能，且體現(xiàn)了刑罰的層次性，寬嚴(yán)相濟(jì)、銜接緊湊，能夠?qū)θ斯ぶ悄軝C(jī)器人造成“痛苦”且不具有殘虐行，同時(shí)也是對(duì)刑法罪責(zé)自負(fù)、罪責(zé)刑罰相適應(yīng)原則的貫徹，是可取并值得借鑒與思考的。

四、結(jié)語(yǔ)

人工智能技術(shù)帶來的一系列刑事問題與風(fēng)險(xiǎn)是我們不可逃避，且必須積極應(yīng)對(duì)的。當(dāng)前大多數(shù)人們?nèi)哉J(rèn)為人工智能產(chǎn)品僅是受我們控制與使用的工具而已，無需未雨綢繆地考慮如何處理機(jī)器人刑事犯罪的問題。筆者則認(rèn)為，將科學(xué)發(fā)展和人類利益優(yōu)先原則確立為人工智能相關(guān)刑事立法的基本原則，將人工智能產(chǎn)品的嚴(yán)重危害社會(huì)行為盡快納入刑法規(guī)制范圍之內(nèi)，在依照現(xiàn)實(shí)需要彌補(bǔ)刑法內(nèi)容與解釋之缺漏的同時(shí)，對(duì)未來可能出現(xiàn)的強(qiáng)人工智能產(chǎn)品實(shí)施的危害行為進(jìn)行預(yù)見與探討，盡早對(duì)倫理、法律、經(jīng)濟(jì)等各個(gè)社會(huì)領(lǐng)域可能產(chǎn)生的新情況與新問題進(jìn)行預(yù)想、規(guī)制，才能減少未來這項(xiàng)新事物對(duì)于社會(huì)的沖擊，并且為人工智能技術(shù)的發(fā)展提供法律上的引導(dǎo)與保護(hù)，使其向著對(duì)人類社會(huì)有益的方向進(jìn)一步發(fā)展。

參考文獻(xiàn)：

[1]高銘暄，馬克昌.刑法學(xué)[M].北京：北京大學(xué)出版社、高等教育出版社，2017.

[2]劉憲權(quán).人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)[J].法商研究，2018（1） ：134-142.

[3]劉憲權(quán)，胡荷佳.論人工智能時(shí)代智能機(jī)器人的刑事責(zé)任能力[J].國(guó)家社科基金項(xiàng)目成果專欄，2018（1）.

[4]張全印.機(jī)遇與挑戰(zhàn)：人工智能帶來的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)[J].中國(guó)刑警學(xué)院學(xué)報(bào)，2018（6）.

[5]蔡映潔.人工智能，以法律和倫理為界[N].人民日?qǐng)?bào)，2017-08-23（5）.

[6]馬克思，恩格斯.馬克思恩格斯全集：第1卷[M].北京：人民出版社，1956：16-17.

[7]王勇.人工智能時(shí)代的法律主體理論構(gòu)造——以智能機(jī)器人為切入點(diǎn)[J].理論導(dǎo)刊，2018（2）：63-70.

[8]黃京平，高艷東，鐘福.人工智能與刑事法治的未來[J].人民檢察，2018（1）：41-48.