類ChatGPT系統(tǒng)的刑事風(fēng)險與治理路徑

Doi：10.11835/j.issn.1008-5831.fx.2023.11.001

歡迎按以下格式引用：房慧穎.類ChatGPT系統(tǒng)刑事風(fēng)險與治理策略［J］.重慶大學(xué)學(xué)報（社會科學(xué)版），2024（6）：263-272.Doi：10.11835/j.issn.1008-5831.fx.2023.11.001.

Citation Format： FANG Huiying. Criminal risk and governance path of ChatGPT-like system［J］.Journal of Chongqing University （Social Science Edition），2024（6）：263-272.Doi：10.11835/j.issn.1008-5831.fx.2023.11.001.

摘要：“類ChatGPT系統(tǒng)”，是指以ChatGPT為代表的生成式預(yù)訓(xùn)練和算法語言轉(zhuǎn)換相結(jié)合的內(nèi)容生成式人工智能（AIGC）。類ChatGPT系統(tǒng)在推動人類社會發(fā)展的同時，也帶來相應(yīng)刑事風(fēng)險。類ChatGPT系統(tǒng)為了完成生成某一內(nèi)容的指令而獲取相應(yīng)信息時，容易脫離人類控制與干預(yù)，有可能會不當(dāng)侵犯其他數(shù)據(jù)庫的保護(hù)措施，從而侵犯其他數(shù)據(jù)的保密性。同時，類ChatGPT系統(tǒng)生成違法犯罪信息，或使用者不當(dāng)利用類ChatGPT系統(tǒng)所生成的信息，也可能會涉及相應(yīng)的刑事風(fēng)險。但是，根據(jù)類ChatGPT技術(shù)的發(fā)展現(xiàn)狀，其尚不具有獨(dú)立自主的意識和意志，不可能作為犯罪主體，其本質(zhì)屬性仍是人類的工具。刑法規(guī)制類ChatGPT系統(tǒng)犯罪，也并非規(guī)制類ChatGPT系統(tǒng)所實施的犯罪行為，而是規(guī)制類ChatGPT系統(tǒng)背后的人類過錯。在類ChatGPT系統(tǒng)的研發(fā)和使用過程中，為有效治理技術(shù)風(fēng)險，使技術(shù)“向善”，研發(fā)者應(yīng)當(dāng)履行保證人義務(wù)，盡最大可能預(yù)測、識別類ChatGPT系統(tǒng)可能引發(fā)的刑事風(fēng)險，并及時采取有效策略化解危機(jī)。使用者在使用類ChatGPT系統(tǒng)的過程中，不能故意誘導(dǎo)其違反道德倫理或法律法規(guī)輸出違法犯罪內(nèi)容。如果研發(fā)者未盡最大可能預(yù)見并阻止類ChatGPT系統(tǒng)輸出違法犯罪信息，或者使用者故意誘導(dǎo)類ChatGPT系統(tǒng)輸出違法犯罪信息，可能需要承擔(dān)相應(yīng)的刑事責(zé)任。從宏觀層面而言，刑法在治理類ChatGPT系統(tǒng)涉及的刑事風(fēng)險時，始終應(yīng)當(dāng)堅持自身的謙抑性，如果前置法律法規(guī)能夠有效治理類ChatGPT系統(tǒng)所引發(fā)的風(fēng)險，刑法的“觸角”就應(yīng)適度后移，避免因刑法規(guī)制手段的泛化使用而對技術(shù)創(chuàng)新發(fā)展形成阻礙。從微觀層面而言，針對類ChatGPT系統(tǒng)刑事風(fēng)險的內(nèi)容與特征，需構(gòu)建治理類ChatGPT系統(tǒng)刑事風(fēng)險的分級治理機(jī)制：通過類ChatGPT系統(tǒng)研發(fā)企業(yè)制定與執(zhí)行自治計劃，探索能夠有效預(yù)防類ChatGPT系統(tǒng)刑事風(fēng)險的治理策略；提高行政監(jiān)管力度，將科技監(jiān)管手段融入行政監(jiān)管體系，利用行政手段降低刑事風(fēng)險實際發(fā)生的幾率；刑事治理手段的使用必須嚴(yán)格遵循前置法律法規(guī)失效的前提條件，對行為刑事違法性的判斷要在罪刑法定原則框架內(nèi)進(jìn)行，不能以行政違法性判斷代替刑事違法性判斷。

關(guān)鍵詞：ChatGPT；數(shù)據(jù)犯罪；科技監(jiān)管；分級治理

中圖分類號：D9247""文獻(xiàn)標(biāo)志碼：A""文章編號：1008-5831（2024）06-0263-10

2022年11月，美國的OpenAI公司發(fā)布的人工智能新產(chǎn)品——ChatGPT（Chat Generative Pre-trained Transformer），因其在自然語言處理領(lǐng)域的超智能性，在社會各界引發(fā)廣泛討論。本文所稱“類ChatGPT系統(tǒng)”，指的是以ChatGPT為代表的生成式預(yù)訓(xùn)練和算法語言轉(zhuǎn)換相結(jié)合的內(nèi)容生成式人工智能（AIGC）［1］。以ChatGPT、Bing Chat與Bard為代表的生成式人工智能，可以在短時間內(nèi)完成高質(zhì)量代碼、論文等的創(chuàng)作和翻譯，在人工智能創(chuàng)作領(lǐng)域取得了突飛猛進(jìn)的進(jìn)展。

類ChatGPT系統(tǒng)的運(yùn)作模式為，在接收到使用者的創(chuàng)作指令時，首先搜羅與要創(chuàng)作內(nèi)容相關(guān)的數(shù)據(jù)文本，將這些數(shù)據(jù)文本收納到自己的數(shù)據(jù)庫中，然后通過Transformer模型，生成和人類的思考方式以及表達(dá)習(xí)慣高度重合、類似的內(nèi)容。ChatGPT這一現(xiàn)象級產(chǎn)品的問世，將引發(fā)對人類產(chǎn)生重大影響的“思維革命”［2］，同時不可否認(rèn)的是，類ChatGPT系統(tǒng)在促進(jìn)人類科技進(jìn)步的同時，也蘊(yùn)含著諸多刑事風(fēng)險。2023年8月15日，《生成式人工智能服務(wù)管理暫行辦法》正式施行。作為中國首份生成式人工智能監(jiān)管文件，上述管理辦法體現(xiàn)了現(xiàn)階段監(jiān)管機(jī)構(gòu)的態(tài)度，即“既要重視發(fā)展，也要重視風(fēng)險”。本文將從人工智能刑法與刑法教義學(xué)的視角出發(fā)，檢視類ChatGPT系統(tǒng)所涉刑事風(fēng)險，并從宏觀層面和微觀層面進(jìn)行分析與探討，提出有針對性的治理策略，以達(dá)到使技術(shù)“向善”的目的。

一、類ChatGPT系統(tǒng)的三重刑事風(fēng)險

類ChatGPT系統(tǒng)為了生成符合使用者要求的內(nèi)容，需要獲取大量的數(shù)據(jù)資料，而這一過程目前仍處于“黑箱”狀態(tài)，也即并非是在人類的監(jiān)督之下進(jìn)行的；同時，在人類設(shè)置好程序之后，類ChatGPT系統(tǒng)基于Transformer模型生成相關(guān)內(nèi)容的過程也無人類直接介入。這就導(dǎo)致類ChatGPT系統(tǒng)在一定程度上可能引發(fā)刑事風(fēng)險。

第一重刑事風(fēng)險：數(shù)據(jù)來源不當(dāng){主要涉及《中華人民共和國刑法》第180條、第219條、第253條之一、第282條、第285條第二款、第431條等規(guī)定的罪名。}。類ChatGPT系統(tǒng)作為基于神經(jīng)網(wǎng)絡(luò)開發(fā)的大語言模型，建立在海量文本數(shù)據(jù)預(yù)訓(xùn)練的基礎(chǔ)上［2］。其里程碑式的發(fā)展和優(yōu)越性，離不開互聯(lián)網(wǎng)海量數(shù)據(jù)的支持，數(shù)據(jù)就是類ChatGPT系統(tǒng)的生命，相關(guān)研發(fā)企業(yè)則是典型的數(shù)據(jù)驅(qū)動型企業(yè)。類ChatGPT系統(tǒng)為了生成符合使用者要求的內(nèi)容而在獲取相關(guān)數(shù)據(jù)資料的過程中缺乏人類監(jiān)督，也即類ChatGPT系統(tǒng)為了完成生成某一內(nèi)容的指令而獲取相應(yīng)信息時，容易脫離人類控制與干預(yù)。根據(jù)現(xiàn)有技術(shù)，類ChatGPT仍是一個算法“黑箱”，其數(shù)據(jù)來源從未被公開，其生成內(nèi)容所依托的數(shù)據(jù)庫中的數(shù)據(jù)來源是否經(jīng)過數(shù)據(jù)權(quán)利人合法授權(quán)，目前仍然存疑?？梢姡陬怌hatGPT系統(tǒng)預(yù)先學(xué)習(xí)既有的文本語料的過程中，有可能會不當(dāng)侵犯其他數(shù)據(jù)庫的保護(hù)措施，從而侵犯其他數(shù)據(jù)的保密性。換言之，刑法為了保護(hù)某些特定數(shù)據(jù)信息的保密性，而設(shè)置了相關(guān)條文，類ChatGPT系統(tǒng)在獲取數(shù)據(jù)資料的過程中具有觸犯這些刑法條文的刑事風(fēng)險。例如，類ChatGPT系統(tǒng)在生成內(nèi)容前獲取數(shù)據(jù)的準(zhǔn)備階段，利用“爬蟲”等工具獲取了其他企業(yè)的商業(yè)秘密，則可能因觸犯《中華人民共和國刑法》（以下簡稱《刑法》）第219條而構(gòu)成侵犯商業(yè)秘密罪；再如，對于ChatGPT這類大語言模型而言，其需要的數(shù)據(jù)極其龐雜，不加限制地使用技術(shù)手段繞過他人技術(shù)防護(hù)獲取數(shù)據(jù)，則可能因觸犯《刑法》第285條第二款而構(gòu)成非法獲取計算機(jī)信息系統(tǒng)數(shù)據(jù)罪。

第二重刑事風(fēng)險：生成內(nèi)容不當(dāng){主要涉及《中華人民共和國刑法》第103條、第105條、第120條之三、第181條、第221條、第249條、第278條、第291條之一、第295條、第299條、第299條之一、第353條、第359條、第364條、第373條、第378條、第422條、第433條。}。如前所述，類ChatGPT系統(tǒng)要在無人類介入的情況下獲取和學(xué)習(xí)相關(guān)數(shù)據(jù)資料，這就容易導(dǎo)致類ChatGPT系統(tǒng)在生成內(nèi)容前的獲取信息過程中脫離人類干預(yù)和控制。因此，類ChatGPT系統(tǒng)獲取數(shù)據(jù)時，并沒有經(jīng)過人為的正確性過濾，從而導(dǎo)致類ChatGPT系統(tǒng)所使用的數(shù)據(jù)存在源頭上的錯誤、虛假、不合規(guī)，乃至不合法風(fēng)險。既然類ChatGPT系統(tǒng)所使用的數(shù)據(jù)在源頭上存在不可靠性，則其生成內(nèi)容的真實性、合法性就無法得到保障。類ChatGPT系統(tǒng)生成虛假或違法犯罪信息，容易給國家安全、社會穩(wěn)定、個人權(quán)益保障造成巨大威脅。

第三重刑事風(fēng)險：利用內(nèi)容不當(dāng)。一方面，將類ChatGPT系統(tǒng)所生成的違法犯罪內(nèi)容，作為犯罪行為的“靈感”來源或者作為犯罪行為的幫助手段，會涉及相應(yīng)刑事風(fēng)險。例如，行為人利用類ChatGPT系統(tǒng)，根據(jù)受害者的特征制定個性化的詐騙計劃，會大大增加受害者上當(dāng)受騙的幾率；再如，行為人通過類ChatGPT系統(tǒng)偽造與案件有關(guān)的信息，影響正常的司法秩序和司法判決。應(yīng)當(dāng)看到，根據(jù)類ChatGPT技術(shù)的發(fā)展現(xiàn)狀，其尚不具有獨(dú)立自主的意識和意志，不可能作為犯罪主體，其本質(zhì)屬性仍是人類的工具。刑法規(guī)制類ChatGPT系統(tǒng)犯罪，也并非規(guī)制類ChatGPT系統(tǒng)所實施的犯罪行為，而是規(guī)制類ChatGPT系統(tǒng)背后的人類過錯。形式上看，犯罪行為是由類ChatGPT系統(tǒng)直接實施的，實質(zhì)上類ChatGPT系統(tǒng)只是在完成使用者下達(dá)的指令，對犯罪行為和犯罪結(jié)果起直接支配作用的是使用者而非類ChatGPT系統(tǒng)［3］。輔助工具的使用不會使犯罪性質(zhì)和犯罪形態(tài)發(fā)生根本變化。例如，使用棍子非法剝奪被害人的生命和使用殺人機(jī)器人非法剝奪被害人的生命，不會改變行為的故意殺人罪的根本性質(zhì)。換言之，對犯罪的認(rèn)定仍是以客觀實際上發(fā)生的犯罪行為為標(biāo)準(zhǔn)，而非以幫助行為的來源為標(biāo)準(zhǔn)。

另一方面，未經(jīng)有效許可而擅自利用類ChatGPT系統(tǒng)生成內(nèi)容，可能會因侵犯相關(guān)著作權(quán)而涉嫌著作權(quán)犯罪。類ChatGPT技術(shù)的創(chuàng)新和發(fā)展，重塑著著作權(quán)領(lǐng)域中成果性質(zhì)認(rèn)定與保護(hù)的底層邏輯，并為當(dāng)前法律制度帶來了一系列顛覆性的挑戰(zhàn)。關(guān)于人工智能生成的內(nèi)容是否可以作為著作權(quán)法所保護(hù)的“作品”，一直以來存在巨大爭議。實踐中曾出現(xiàn)過將人工智能生成內(nèi)容認(rèn)定為作品的案例{2019年，在“騰訊訴上海盈訊公司著作權(quán)侵權(quán)案”中，騰訊公司主張其開發(fā)的 Dreamwriter 軟件生成的文章屬于“作品”，享有相關(guān)權(quán)利，該主張得到深圳市南山區(qū)人民法院的支持。法院認(rèn)為：“從涉案文章的外在表現(xiàn)形式與生成過程分析，該文章的特定表現(xiàn)形式源于創(chuàng)作者個性化的選擇與安排，并由Dreamwriter軟件在技術(shù)上‘生成’的創(chuàng)作過程均滿足著作權(quán)法對文字作品的保護(hù)條件，本院認(rèn)定涉案文章屬于我國著作權(quán)法所保護(hù)的文字作品。”參見廣東省深圳市南山區(qū)人民法院（2019）粵0305民初14010號判決書。}。而類ChatGPT系統(tǒng)的出現(xiàn)和發(fā)展，導(dǎo)致這一爭論重新進(jìn)入人們的視野。在類ChatGPT系統(tǒng)出現(xiàn)之前，人工智能生成的內(nèi)容往往是程序機(jī)械性運(yùn)作所得出的結(jié)果，不具有獨(dú)特性［4］，一般不會被認(rèn)定為著作權(quán)法所保護(hù)的作品。而類ChatGPT系統(tǒng)所生成的內(nèi)容和人類相比，在表達(dá)上幾乎無異，且其具有了一定程度的“涌現(xiàn)能力”{“涌現(xiàn)能力”指的是當(dāng)人工智能模型參數(shù)達(dá)到一定量級之后，會突然擁有包括常識推理、問答、翻譯等一系列類似人類的“智慧能力”。}，意味著其向通用型（Artificial General Intelligence）人工智能邁出了重要一步，也就意味著其生成的內(nèi)容在形式上具有獨(dú)創(chuàng)性。如類ChatGPT系統(tǒng)能夠?qū)δ澄恢骷业膭?chuàng)作文風(fēng)進(jìn)行模仿，從而生成文風(fēng)相同但內(nèi)容卻完全不同的新內(nèi)容，從這個意義上而言，文學(xué)創(chuàng)作中的獨(dú)立思考和計算機(jī)程序算法之間的界限被進(jìn)一步縮小［5］。從實然層面而言，鑒于類ChatGPT系統(tǒng)生成的內(nèi)容是人工智能基于算法和數(shù)據(jù)進(jìn)行建模后自動生成的，并非人類的個性化表達(dá)，人類在此過程中的參與度極低，將其作為“作品”保護(hù)與傳統(tǒng)著作權(quán)法理論相背離，存在制度障礙。然而，從應(yīng)然層面而言，類ChatGPT系統(tǒng)生成的內(nèi)容具有一定商業(yè)價值，通過著作權(quán)相關(guān)制度對其進(jìn)行產(chǎn)權(quán)化保護(hù)［6］，是在人工智能時代解決類ChatGPT系統(tǒng)生成內(nèi)容所涉法律糾紛的有效路徑。在此意義上而言，未經(jīng)有效許可而擅自利用類ChatGPT系統(tǒng)生成內(nèi)容，可能會因侵犯相關(guān)著作權(quán)而涉嫌著作權(quán)犯罪。

二、類ChatGPT系統(tǒng)刑事風(fēng)險的宏觀治理原則

刑法的規(guī)制手段與其他法律的規(guī)制手段相比，明顯更具嚴(yán)厲性。治理類ChatGPT系統(tǒng)的刑事風(fēng)險時，刑法應(yīng)有所為有所不為，在保證算法安全可控的同時，也應(yīng)堅持自身的謙抑性，從而避免因?qū)ι鐣卫淼倪^度介入而形成對技術(shù)發(fā)展創(chuàng)新的阻礙。為此，刑法在規(guī)制類ChatGPT系統(tǒng)的刑事風(fēng)險時，應(yīng)堅持算法可控原則，堅守刑法謙抑性原則。

（一）堅持算法可控原則

算法作為類ChatGPT系統(tǒng)運(yùn)作的底層支撐邏輯，具有極強(qiáng)的專業(yè)性，很容易在專業(yè)人士與非專業(yè)人士之間形成技術(shù)壁壘。類ChatGPT系統(tǒng)的正常運(yùn)行離不開算法，但非專業(yè)人士難以真正掌握算法運(yùn)作原理，更談不上改變和影響算法運(yùn)作過程。所以，有能力影響類ChatGPT系統(tǒng)算法編制和運(yùn)作程序的只能是專業(yè)人士。盡管技術(shù)具有中立性已成為共識，但是類ChatGPT系統(tǒng)所依托的技術(shù)中立，不等于其輸出內(nèi)容的中立。事實上，類ChatGPT系統(tǒng)也可能體現(xiàn)人類的價值判斷。盡管類ChatGPT系統(tǒng)的運(yùn)作過程具有形式上的自主性，但其運(yùn)作的原動力也即算法在被設(shè)計和編寫的過程中，通常會不可避免地受到設(shè)計者價值取向、倫理道德等的影響。因此，在類ChatGPT技術(shù)發(fā)展過程中，堅守科技倫理，保證類ChatGPT技術(shù)發(fā)展的安全性、可靠性，便顯得至關(guān)重要。在類ChatGPT系統(tǒng)研發(fā)與使用的過程中，為了最大限度地防范技術(shù)所引發(fā)的風(fēng)險，確保技術(shù)“向善”，研發(fā)者應(yīng)盡力排除安全隱患。以O(shè)penAI公司為例，其在ChatGPT的研發(fā)階段，應(yīng)最大限度履行相應(yīng)注意義務(wù)，從而避免ChatGPT生成含違法、犯罪信息的內(nèi)容。具體而言，類ChatGPT技術(shù)發(fā)展所應(yīng)堅持的算法可控原則以算法透明原則與算法安全原則的形式存在。

其一，算法透明原則?；陬怌hatGPT系統(tǒng)的專業(yè)性，只有盡最大可能確保風(fēng)險源頭透明度，才有利于盡早識別類ChatGPT系統(tǒng)運(yùn)行過程中可能引發(fā)的風(fēng)險，有利于受害者（包括個人、社會乃至國家）明晰權(quán)益受損狀況，進(jìn)而明確造成權(quán)益受損方的刑事責(zé)任。因此，在類ChatGPT技術(shù)發(fā)展過程中，保證算法一定程度上的透明度，對于防控類ChatGPT系統(tǒng)風(fēng)險具有關(guān)鍵性的作用。

其二，算法安全原則。所謂“算法安全”，并非是指類ChatGPT技術(shù)發(fā)展的零風(fēng)險，而是指在類ChatGPT技術(shù)發(fā)展的同時，也應(yīng)注重對個體權(quán)利的保障和對技術(shù)風(fēng)險的有效預(yù)防，也即類ChatGPT技術(shù)的發(fā)展不應(yīng)對個人與社會造成威脅或?qū)嵸|(zhì)性侵害。應(yīng)從以下三個層面理解算法安全原則：一是個人利益保障，即類ChatGPT的研發(fā)和應(yīng)用不能造成個人權(quán)利與自由的減損，不能侵害個體尊嚴(yán)；二是技術(shù)安全，即類ChatGPT系統(tǒng)運(yùn)行所依賴的算法與技術(shù)應(yīng)符合相關(guān)法律、法規(guī)與行業(yè)規(guī)范，且具備及時修復(fù)系統(tǒng)安全漏洞的能力；三是算力資源安全，即類ChatGPT技術(shù)發(fā)展與創(chuàng)新過程中，不得以不恰當(dāng)方式對他人合理使用算力資源的行為予以限制，應(yīng)合理分配和使用算力資源。

（二）堅守刑法謙抑性原則

ChatGPT的出現(xiàn)是人工智能技術(shù)發(fā)展的重要里程碑［7］。然而，技術(shù)創(chuàng)新在帶來社會進(jìn)步的同時也會產(chǎn)生相應(yīng)的副作用。正如前述，類ChatGPT系統(tǒng)不僅可能淪為犯罪分子實施傳統(tǒng)犯罪時的“幫兇”，還可能引發(fā)新型的犯罪，從而危害社會穩(wěn)定與國家安全。當(dāng)兩種利益發(fā)生沖突時，為了重新構(gòu)建法律和平狀態(tài)，只有兩種途徑：一是一種利益向另一種利益讓步；二是兩種利益都作出一定程度的讓步［8］。為最大限度地實現(xiàn)科技發(fā)展和社會治理二者的平衡，最大限度地發(fā)揮類ChatGPT系統(tǒng)的社會功用，進(jìn)而最大限度地實現(xiàn)社會福祉，刑法需嚴(yán)格把握治理類ChatGPT系統(tǒng)刑事風(fēng)險的尺度，既要實現(xiàn)有力治理類ChatGPT系統(tǒng)引發(fā)的風(fēng)險，又不能扼殺類ChatGPT系統(tǒng)技術(shù)創(chuàng)新［9］。立法活動作為國家的上層建筑，不能先于經(jīng)濟(jì)變革的步伐而沖鋒在前，而只能緊隨經(jīng)濟(jì)發(fā)展與技術(shù)變革的腳步，及時作出調(diào)整，否則便有激進(jìn)與輕率之嫌。激進(jìn)的、過度活躍的刑事立法注重社會保護(hù)而忽視人權(quán)保障，積極證立國家刑罰權(quán)的擴(kuò)張，隱含著國家權(quán)力過度膨脹的重大風(fēng)險，與刑法謙抑性原則相抵牾。可見，刑事立法如不能順應(yīng)時代潮流作出與時俱進(jìn)的調(diào)整，則會在規(guī)制技術(shù)發(fā)展所引發(fā)的風(fēng)險方面顯得力所不逮；如為滿足時代和技術(shù)發(fā)展需求而作出過于頻繁、活躍的修改，則會因抵牾刑法謙抑性原則而顯得過猶不及。因此，刑事立法的調(diào)整需要把握合理尺度，尺度合理與否的檢驗標(biāo)準(zhǔn)便是是否符合刑法謙抑性原則。

如果刑法之外的其他部門法有能力從根本上治理或者遏制某個具有社會危害性的行為，實現(xiàn)對合法利益的保護(hù)，則刑法就沒有將該行為認(rèn)定為犯罪的必要性。這是由刑法嚴(yán)厲性特征及其在法律體系中的作用和地位所決定的。在法律體系中，刑法的地位是保障法，當(dāng)其他法律無法抑止違法行為時，才能動用刑法。同時，刑罰的適用，既有積極作用，也有消極作用，應(yīng)適當(dāng)控制刑法的適用范圍。也即當(dāng)其他治理手段均宣告無效時，刑法將該行為認(rèn)定為犯罪才具有必要性［10］。刑法目的的實現(xiàn)具有優(yōu)先性序列，個人法益應(yīng)優(yōu)先得以保護(hù)，刑法不應(yīng)為了維護(hù)社會秩序的良好運(yùn)轉(zhuǎn)而過度侵占公民個人自由的空間［11］。治理某一危害行為，應(yīng)當(dāng)遵循道德教化、行政規(guī)制、刑事懲戒的位階，只有當(dāng)前面的手段失效時，才可嘗試使用后一手段［12］。在當(dāng)今社會大變革時代，傳統(tǒng)犯罪行為在新技術(shù)的影響下，會發(fā)生一定程度的“量變”或“質(zhì)變”［13］。在這一過程中，刑法不能盲目擴(kuò)大犯罪圈，一味強(qiáng)調(diào)介入社會治理，而應(yīng)當(dāng)始終保持審慎的態(tài)度，以理性姿態(tài)控制好規(guī)制不良行為的限度，防止觸角的過分前伸。對刑法審慎介入社會治理的提倡，并不意味著對犯罪行為的放縱，而是倡導(dǎo)盡量優(yōu)先適用其他法律規(guī)制手段［14］。只有其他法律手段無法實現(xiàn)對類ChatGPT系統(tǒng)所涉風(fēng)險的有效治理之時，刑法的介入才具有正當(dāng)性與必要性。

刑法與其他部門法的違法懲治手段的明顯不同在于觸犯刑法的法律后果是刑罰，刑罰實質(zhì)上是對個人財產(chǎn)、自由乃至生命的剝奪，且刑罰確認(rèn)之前的程序，諸如對犯罪嫌疑人實施的逮捕、拘留以及對被害人進(jìn)行的審判等程序，都是重大的不利益，而其他部門法的法律后果，諸如恢復(fù)原狀、賠償損失，并非對行為人的重大不利益。因此，必須將刑事處罰限縮在“必要的最小限度之內(nèi)” ［15］?！凹词剐袨榍趾蛲{了他人的生活利益，也不是必須直接動用刑法?？赡艿脑?，采取其他社會統(tǒng)治手段才是理想的?？梢哉f，只有在其他社會統(tǒng)治手段不充分時，或者其他社會統(tǒng)治手段（如私刑）過于強(qiáng)烈、有代之以刑罰的必要時，才可以動用刑法”［16］。正因如此，對于類ChatGPT系統(tǒng)所引發(fā)的風(fēng)險，刑法固然不能視而不見、坐視不理，但同時也應(yīng)隨時以最后手段性標(biāo)準(zhǔn)進(jìn)行自我檢視。刑法在治理類ChatGPT系統(tǒng)涉及的刑事風(fēng)險時，始終應(yīng)當(dāng)堅持自身的謙抑性，不能因為刑法規(guī)制手段的泛化使用而對技術(shù)創(chuàng)新發(fā)展形成阻礙。如果前置法律法規(guī)能夠有效治理類ChatGPT系統(tǒng)涉及的刑事風(fēng)險，刑法的“觸角”就應(yīng)適度后移，避免越位。

三、類ChatGPT系統(tǒng)刑事風(fēng)險的微觀治理策略

正如前述，刑法治理類ChatGPT系統(tǒng)涉及的刑事風(fēng)險時，始終應(yīng)當(dāng)堅持算法可控原則和謙抑性原則。為此，應(yīng)貫徹分級治理的策略。其一，通過類ChatGPT系統(tǒng)研發(fā)企業(yè)自治計劃的執(zhí)行，探索能夠有效預(yù)防類ChatGPT系統(tǒng)刑事風(fēng)險的策略［17］；其二，提高行政監(jiān)管力度，將科技監(jiān)管手段融入行政監(jiān)管體系，利用行政手段降低刑事風(fēng)險實際發(fā)生的幾率；其三，使用刑事手段治理已經(jīng)觸犯刑事違法性這條“底線”的犯罪行為，刑事治理手段的使用必須嚴(yán)格遵循前置法律法規(guī)失效的前提條件［18］。同時，應(yīng)引導(dǎo)、督促研發(fā)企業(yè)建立并實施數(shù)據(jù)合規(guī)計劃，從“源頭”消減刑事風(fēng)險，促使技術(shù)“向善”。

（一）企業(yè)自治：研發(fā)企業(yè)保證人義務(wù)的履行

具備開發(fā)類ChatGPT系統(tǒng)等技術(shù)的企業(yè)，通常是機(jī)制龐大的超大型互聯(lián)網(wǎng)企業(yè)（下文將其簡稱為“研發(fā)企業(yè)”）。研發(fā)企業(yè)的研發(fā)行為位于風(fēng)險鏈條的前端，且具有明顯技術(shù)優(yōu)勢，更有能力在風(fēng)險現(xiàn)實化演進(jìn)的進(jìn)程前期化解風(fēng)險。因此，研發(fā)企業(yè)作為類ChatGPT系統(tǒng)技術(shù)風(fēng)險的“源頭”，理應(yīng)更好地履行保證人義務(wù)，保證其所研發(fā)和生產(chǎn)的類ChatGPT系統(tǒng)無安全風(fēng)險［19］，確保技術(shù)“向善”。研發(fā)企業(yè)自治計劃即是消減類ChatGPT技術(shù)風(fēng)險、確保類ChatGPT技術(shù)有序發(fā)展的重要途徑。

首先，研發(fā)企業(yè)自治計劃實施的關(guān)鍵在于建立健全企業(yè)管理體系，確保企業(yè)的研發(fā)行為在法律法規(guī)的框架內(nèi)進(jìn)行，從而履行好保證人義務(wù)。對類ChatGPT系統(tǒng)研發(fā)企業(yè)而言，其自治計劃主要應(yīng)由兩方面組成：一是有效履行保證人義務(wù)；二是配合執(zhí)法與應(yīng)對危機(jī)。研發(fā)企業(yè)自治計劃的實施，有利于阻斷類ChatGPT系統(tǒng)研發(fā)企業(yè)犯罪，實現(xiàn)企業(yè)治理的積極效果，更為徹底地化解類ChatGPT系統(tǒng)的風(fēng)險與危機(jī)。

其次，研發(fā)企業(yè)自治計劃實施的方式在于保證人義務(wù)的履行。算法可控性及算法可解釋性是實現(xiàn)類ChatGPT系統(tǒng)研發(fā)企業(yè)保證人義務(wù)的基礎(chǔ)，也是治理和防范類ChatGPT系統(tǒng)刑事風(fēng)險的關(guān)鍵［20］。有學(xué)者提出，“技術(shù)黑箱”始終都是存在的［21］，但是技術(shù)人員已經(jīng)通過逆向工程等方法觸摸到了神經(jīng)網(wǎng)絡(luò)底層邏輯，并以可視化形式展示這一技術(shù)成果，從而打開了神經(jīng)網(wǎng)絡(luò)黑箱［22］。社會中的每個主體都承擔(dān)不同的社會角色，承載不同的社會意義，但不同主體之間的角色和意義不能割裂，而要把每個主體的角色和意義放在整體的社會生態(tài)中進(jìn)行把握和理解［23］。研發(fā)企業(yè)位于風(fēng)險鏈條前端，具有防控類ChatGPT系統(tǒng)風(fēng)險的技術(shù)優(yōu)勢，其保證人義務(wù)的履行可以最大程度降低危害結(jié)果發(fā)生的現(xiàn)實可能性。

最后，研發(fā)企業(yè)自治計劃實施的重點在于對數(shù)據(jù)的依法依規(guī)利用。類ChatGPT系統(tǒng)研發(fā)企業(yè)在運(yùn)營的過程中，往往會伴隨數(shù)據(jù)的傳輸、存儲、利用及交易等，這容易導(dǎo)致對數(shù)據(jù)安全的多層次、多節(jié)點的威脅。在制定類ChatGPT系統(tǒng)研發(fā)企業(yè)自治計劃時，應(yīng)把數(shù)據(jù)依法依規(guī)利用視作重點內(nèi)容，明確研發(fā)企業(yè)經(jīng)營過程中所要承擔(dān)的具體作為義務(wù)，也即將刑法賦予的數(shù)據(jù)安全保障義務(wù)以具體化方式呈現(xiàn)為企業(yè)的運(yùn)營規(guī)則，該運(yùn)營規(guī)則中包括履行數(shù)據(jù)安全保障義務(wù)的具體方式和手段，從而真正實現(xiàn)將外在的法定義務(wù)內(nèi)化成企業(yè)自身的運(yùn)行方式和管理制度。具體而言，數(shù)據(jù)獲取階段，研發(fā)企業(yè)應(yīng)根據(jù)相關(guān)法律法規(guī)，制定具體規(guī)章制度，建立數(shù)據(jù)獲取的風(fēng)險評估機(jī)制；在數(shù)據(jù)利用階段，研發(fā)企業(yè)應(yīng)提高違法犯罪預(yù)判能力和識別水平，在源頭上實現(xiàn)對數(shù)據(jù)泄露與濫用數(shù)據(jù)風(fēng)險的有效防控。

（二）政府監(jiān)管：科技監(jiān)管融入行政監(jiān)管的具體方式

類ChatGPT系統(tǒng)的專業(yè)性強(qiáng)，通過傳統(tǒng)的監(jiān)管手段與依靠人為監(jiān)管的力量無法有效突破技術(shù)壁壘，因此，在預(yù)防和治理類ChatGPT系統(tǒng)刑事風(fēng)險時，科技手段可以在行政監(jiān)管中扮演重要角色?？萍际侄文苡行嵘姓O(jiān)管效能，降低類ChatGPT系統(tǒng)風(fēng)險向現(xiàn)實演進(jìn)的概率?？萍急O(jiān)管手段的實現(xiàn)方式具體如下。

第一，監(jiān)管機(jī)構(gòu)與研發(fā)企業(yè)二者之間建立數(shù)據(jù)信息共享與合作共治機(jī)制。在以往的監(jiān)管模式中，被監(jiān)管人被動提供運(yùn)營數(shù)據(jù)以供監(jiān)管機(jī)關(guān)檢查和監(jiān)督。被監(jiān)管人被動提供的數(shù)據(jù)是監(jiān)管人判斷企業(yè)行為是否合法的重要依據(jù)。在這種監(jiān)管模式下，監(jiān)管者自上而下地對被監(jiān)管者實施治理與監(jiān)管，看似處于強(qiáng)勢地位，但在信息獲取層面看，被監(jiān)管者所提供的信息可能是被篩選、隱藏甚至是偽造的，形式上處于優(yōu)勢地位的監(jiān)管者，實際上位于劣勢地位。數(shù)據(jù)信息共享機(jī)制和合作共治機(jī)制的建成，有利于改變監(jiān)管者獲取信息被動性所導(dǎo)致的弱勢地位，使監(jiān)管者可以主動地獲取數(shù)據(jù)，有效破解傳統(tǒng)監(jiān)管模式中信息不對稱的困局。同時，正如前述，對類ChatGPT系統(tǒng)研發(fā)企業(yè)而言，監(jiān)管者對被監(jiān)管者進(jìn)行監(jiān)管的依據(jù)主要是監(jiān)管者所獲取的運(yùn)營數(shù)據(jù)。傳統(tǒng)監(jiān)管模式下，被監(jiān)管者在被動及被強(qiáng)制提供數(shù)據(jù)時，為了企業(yè)自身利益的最大化，可能會怠于履行提供數(shù)據(jù)的義務(wù)，甚至可能會提供被篩選、隱藏甚至是偽造的數(shù)據(jù)。在研發(fā)企業(yè)和監(jiān)管機(jī)構(gòu)之間，建立共享數(shù)據(jù)信息的有效合作機(jī)制，實現(xiàn)二者的合作共治，有利于監(jiān)管者獲取第一手?jǐn)?shù)據(jù)資料，從根本上杜絕被監(jiān)管企業(yè)偽造數(shù)據(jù)資料的可能性。這將大大提升監(jiān)管者對于風(fēng)險的預(yù)測能力和識別能力，從而有利于更快速地化解風(fēng)險、處理危機(jī)。

第二，監(jiān)管機(jī)構(gòu)建立實時、動態(tài)的智能化監(jiān)管與審核機(jī)制。科技的快速發(fā)展催生出了類ChatGPT系統(tǒng)技術(shù)，與傳統(tǒng)技術(shù)相比，類ChatGPT技術(shù)具有一定程度的先進(jìn)性和特殊之處，如果監(jiān)管機(jī)構(gòu)仍采用傳統(tǒng)監(jiān)管方式，則無法實現(xiàn)對新技術(shù)所引發(fā)風(fēng)險的有效監(jiān)管。因此，監(jiān)管機(jī)構(gòu)應(yīng)將科技監(jiān)管的手段充分融入行政監(jiān)管手段之中，進(jìn)一步提升監(jiān)管技術(shù)，根據(jù)類ChatGPT系統(tǒng)技術(shù)的特征與發(fā)展水平，有針對性地利用智能化的審核技術(shù)進(jìn)行監(jiān)管。監(jiān)管者拓展監(jiān)管方式，運(yùn)用智能化技術(shù)充分提高和優(yōu)化監(jiān)管水平，有利于更加快速、精確地預(yù)判、識別和處理風(fēng)險。具體來說，監(jiān)管者可將監(jiān)管規(guī)則通過編程，以代碼化的方式予以呈現(xiàn)，并將其內(nèi)化于監(jiān)管系統(tǒng)。監(jiān)管者在監(jiān)督研發(fā)企業(yè)運(yùn)營過程時，可通過自動比對的形式，比對類ChatGPT系統(tǒng)研發(fā)過程和相關(guān)規(guī)則的匹配程度，如有非正常情況，則及時發(fā)出警告信息。此種方式可以幫助監(jiān)管者準(zhǔn)確、及時地識別類ChatGPT系統(tǒng)運(yùn)作時所出現(xiàn)的風(fēng)險或者異常情況，進(jìn)而及時制止和處理風(fēng)險，實現(xiàn)于無形中化解危機(jī)的初衷。退一步講，即便監(jiān)管者未能有效化解危機(jī)，仍使類ChatGPT系統(tǒng)的風(fēng)險現(xiàn)實化，監(jiān)管者對類ChatGPT系統(tǒng)所作的實時監(jiān)督所形成的數(shù)據(jù)資料，也可以成為危險現(xiàn)實化后進(jìn)行事后治理的重要證據(jù)和有力依據(jù)［24］。

可見，技術(shù)的發(fā)展一方面為行政監(jiān)管增加難度、帶來挑戰(zhàn)，另一方面也為監(jiān)管模式創(chuàng)新和變革提供了難能可貴的機(jī)遇。將科技監(jiān)管手段融入行政監(jiān)管體系，具有顯而易見的優(yōu)越性與重要意義。加強(qiáng)對類ChatGPT系統(tǒng)的科技監(jiān)管，能夠在相當(dāng)程度上彌合傳統(tǒng)監(jiān)管模式的缺陷，有利于監(jiān)管者準(zhǔn)確、快速地預(yù)判、識別和預(yù)防風(fēng)險，最終實現(xiàn)類ChatGPT系統(tǒng)技術(shù)的健康發(fā)展。

（三）司法認(rèn)定：涉數(shù)據(jù)犯罪的認(rèn)定方案

類ChatGPT系統(tǒng)并不能作為犯罪主體，換言之，類ChatGPT系統(tǒng)沒有承擔(dān)刑事責(zé)任的主體資格，其研發(fā)企業(yè)、使用者等相關(guān)自然人或單位主體才可能最終作為刑事責(zé)任主體，為類ChatGPT系統(tǒng)所涉及的刑事風(fēng)險承擔(dān)刑事責(zé)任。對于類ChatGPT系統(tǒng)突破道德倫理和法律底線而輸出違法犯罪信息，在滿足犯罪構(gòu)成要件的前提下，根據(jù)違法犯罪信息的內(nèi)容追究研發(fā)企業(yè)或者使用者的刑事責(zé)任即可；未取得使用資格的自然人或者單位使用類ChatGPT系統(tǒng)生成的內(nèi)容是否有可能構(gòu)成著作權(quán)犯罪，取決于著作權(quán)法對于“作品”的認(rèn)定標(biāo)準(zhǔn)。值得探討的是，在類ChatGPT系統(tǒng)生成相應(yīng)內(nèi)容前，其會進(jìn)行獲取數(shù)據(jù)等相應(yīng)的準(zhǔn)備工作，在此過程中，如果其有不當(dāng)行為且涉及刑事風(fēng)險，如何進(jìn)行追責(zé)值得探討。筆者認(rèn)為，對于類ChatGPT系統(tǒng)研發(fā)企業(yè)涉嫌數(shù)據(jù)信息犯罪的追責(zé)，應(yīng)嚴(yán)格遵循數(shù)據(jù)犯罪的雙重違法性特征，同時，不應(yīng)以對獲取數(shù)據(jù)行為行政違法性的判斷替代對行為刑事違法性的判斷。

其一，對類ChatGPT系統(tǒng)研發(fā)企業(yè)涉嫌數(shù)據(jù)信息犯罪的認(rèn)定，應(yīng)嚴(yán)格遵循雙重違法性標(biāo)準(zhǔn)。數(shù)據(jù)犯罪是法定犯，其構(gòu)成應(yīng)同時滿足行政違法性和刑事違法性。換言之，類ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)的行為，只有在違反了相應(yīng)的前置性法律法規(guī)，具備了行政違法性的前提下，我們才能進(jìn)一步考慮該行為是否違反了刑法中有關(guān)數(shù)據(jù)犯罪的規(guī)定，是否構(gòu)成犯罪。在類ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)行為的司法認(rèn)定中，前置性法律法規(guī)始終應(yīng)處于承上啟下的地位，即當(dāng)研發(fā)企業(yè)自治計劃失靈時，監(jiān)管機(jī)關(guān)應(yīng)根據(jù)前置性法律法規(guī)的規(guī)定對研發(fā)企業(yè)進(jìn)行處罰；當(dāng)前置性法律法規(guī)失效時，刑法才能介入對研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)行為的規(guī)制。只有堅持企業(yè)自治計劃、前置性法律法規(guī)治理、刑法規(guī)制的三階治理策略，才能準(zhǔn)確把握刑法介入類ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)行為的時機(jī)［25］，避免刑法過早介入而阻礙研發(fā)企業(yè)的積極性，甚至遏制技術(shù)進(jìn)步的進(jìn)程，同時也避免刑法過晚介入對數(shù)據(jù)安全造成無法挽回的不利影響。

其二，對類ChatGPT系統(tǒng)研發(fā)企業(yè)涉嫌數(shù)據(jù)信息犯罪的認(rèn)定，不應(yīng)以對獲取數(shù)據(jù)行為行政違法性的判斷替代對行為刑事違法性的判斷。應(yīng)當(dāng)看到，類ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)的行為具有行政違法性，只是其具有刑事違法性的必要條件而非充分條件。換言之，類ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)的行為構(gòu)成犯罪，則其必然具有行政違法性；但反之，類ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)的行為具有行政違法性，并不必然證明其構(gòu)成犯罪。認(rèn)定某一行為構(gòu)成犯罪，應(yīng)從行為實質(zhì)侵害法益的角度進(jìn)行判斷，不能簡單地以行為具有行政違法性作為充分必要條件。詳言之，《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》等前置性法律法規(guī)為數(shù)據(jù)犯罪的認(rèn)定提供了細(xì)致、具體的標(biāo)準(zhǔn)，未違反上述前置性法律法規(guī)的行為必然不構(gòu)成數(shù)據(jù)犯罪，但反之則不然，以防刑罰處罰范圍的不當(dāng)擴(kuò)張。

結(jié)語

類ChatGPT系統(tǒng)涉及的刑事風(fēng)險包括數(shù)據(jù)來源不當(dāng)、生成內(nèi)容違法違規(guī)、使用不當(dāng)手段對生成的內(nèi)容加以利用等。刑法在治理類ChatGPT系統(tǒng)所涉及的相關(guān)刑事風(fēng)險時應(yīng)當(dāng)堅持有所為和有所不為，即在保證算法安全可控的同時，也應(yīng)當(dāng)堅持刑法的謙抑性，以防止刑法觸角的過度延伸而阻礙技術(shù)發(fā)展。實施分級治理策略，構(gòu)建“過濾”涉類ChatGPT系統(tǒng)犯罪的三道“濾網(wǎng)”是實踐上述原則的有效途徑：第一道“濾網(wǎng)”即通過類ChatGPT系統(tǒng)研發(fā)企業(yè)制定與執(zhí)行自治計劃，探索能夠有效預(yù)防類ChatGPT系統(tǒng)刑事風(fēng)險的策略；第二道“濾網(wǎng)”即提高行政監(jiān)管力度，將科技監(jiān)管手段融入行政監(jiān)管體系，利用行政手段降低刑事風(fēng)險實際發(fā)生的幾率［26］；第三道“濾網(wǎng)”即使用刑事手段治理已經(jīng)觸犯刑事違法性這條“底線”的犯罪行為，刑事治理手段的使用必須嚴(yán)格遵循前置法律法規(guī)失效的前提條件，堅持企業(yè)自治計劃、前置性法律法規(guī)治理、刑法規(guī)制的三階治理策略，準(zhǔn)確把握刑法介入類ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)行為的時機(jī)。

參考文獻(xiàn)：

［1］ 蒲清平，向往.生成式人工智能：ChatGPT的變革影響、風(fēng)險挑戰(zhàn)及應(yīng)對策略［J］.重慶大學(xué)學(xué)報（社會科學(xué)版），2023（3）：102-114.

［2］ 朱光輝，王喜文.ChatGPT的運(yùn)行模式、關(guān)鍵技術(shù)及未來圖景［J］.新疆師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2023（4）：113-122.

［3］ 姚萬勤.對通過新增罪名應(yīng)對人工智能風(fēng)險的質(zhì)疑［J］.當(dāng)代法學(xué)，2019（3）：3-14.

［4］ 王遷.論人工智能生成的內(nèi)容在著作權(quán)法中的定性［J］.法律科學(xué)，2017（5）：148-155.

［5］ 房慧穎.論人工智能生成內(nèi)容的法律保護(hù)問題［J］.山東社會科學(xué)，2023（9）：179-184.

［6］ 劉憲權(quán).人工智能生成物刑法保護(hù)的基礎(chǔ)和限度［J］.華東政法大學(xué)學(xué)報，2019（6）：60-67.

［7］ 趙廣立.ChatGPT敲開通用人工智能大門了嗎［N］.中國科學(xué)報，2023-02-22（03）.

［8］ 卡爾·拉倫茨. 法學(xué)方法論［M］.陳愛娥，譯.北京：商務(wù)印書館，2003：279.

［9］ 房慧穎.生成型人工智能的刑事風(fēng)險與防治策略：以ChatGPT為例［J］.南昌大學(xué)學(xué)報（人文社會科學(xué)版），2023（4）：52-61.［10］ 〖ZK（#〗陳興良.刑法哲學(xué)［M］.北京：中國政法大學(xué)出版社，2004：7.

［11］ 平野龍一.刑法的基礎(chǔ)［M］.黎宏，譯.北京：中國政法大學(xué)出版社，2016：90.

［12］ 儲槐植.美國刑法［M］.北京：北京大學(xué)出版社，1987：85.

［13］ 馮亞東.理性主義與刑法模式［M］.北京：中國政法大學(xué)出版社，1998：10.

［14］ 房慧穎.侵犯數(shù)據(jù)產(chǎn)品權(quán)利行為的刑法認(rèn)定［J］.理論與改革，2024（5）：150-160.

［15］ 陳興良.刑事政策視野中的刑罰結(jié)構(gòu)調(diào)整［J］.法學(xué)研究，1998（6）：40-54.

［16］ 平野龍一.刑法總論Ⅰ［M］.有斐閣，1972：72.

［17］ 房慧穎.數(shù)字平臺治理的“兩面性”及刑法介入機(jī)制［J］.華東政法大學(xué)學(xué)報，2024（5）：68-77.

［18］ 房慧穎.數(shù)字資產(chǎn)屬性的界定及其證成 ［J］.學(xué)術(shù)月刊，2024（5）：113-122.

［19］ 姜濤.刑法如何應(yīng)對人工智能帶來的風(fēng)險挑戰(zhàn)［N］.檢察日報，2019-12-07（03）.

［20］ 江溯.自動化決策、刑事司法與算法規(guī)制：由盧米斯案引發(fā)的思考［J］.東方法學(xué)，2020（3）：76-88.

［21］ 沈偉偉.算法透明原則的迷思：算法規(guī)制理論的批判［J］.環(huán)球法律評論，2019（6）：20-39.

［22］ 楊慶峰.ChatGPT：特征分析與倫理考察［N］.中國社會科學(xué)報，2023-03-07（04）.

［23］ 劉濤.網(wǎng)絡(luò)幫助行為刑法不法歸責(zé)模式：以功能主義為視角［J］.政治與法律，2020（3）：113-124.

［24］ 楊東，潘曌東.區(qū)塊鏈帶來金融與法律優(yōu)化［J］.中國金融，2016（8）：25-26.

［25］ 房慧穎.數(shù)據(jù)犯罪刑法規(guī)制模式的系統(tǒng)性研判與立體化構(gòu)建［J］.理論與改革，2023（6）：78-88.

［26］ 房慧穎.數(shù)字經(jīng)濟(jì)時代衍生數(shù)據(jù)財產(chǎn)權(quán)的刑法保護(hù)機(jī)制構(gòu)建［J］.廣西大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2024（1）：194-202.

Criminal risk and governance path of ChatGPT-like system

FANG Huiying

（School of Criminal Law， East China University of Political Science and Law， Shanghai 200042， P. R. China）

Abstract：

ChatGPT-like system refers to the content-generating artificial intelligence （AIGC） represented by ChatGPT， which combines generative pre-training with algorithmic language conversion. ChatGPT-like system not only promotes the development of human society， but also brings criminal risks. When ChatGPT-like systems obtain corresponding information to generate certain content， it is easy to break away from human control and intervention and improperly infringe on the confidentiality of other data. At the same time， if the content generated by ChatGPT-like system contains illegal and criminal information， or users improperly use the information generated by ChatGPT-like system， it may also involve corresponding criminal risks. However， ChatGPT-like system does not have the qualification of the subject of criminal responsibility， that is， the subject that may ultimately bear criminal responsibility is not ChatGPT-like system， but the developer or user related to it. In the development and use of ChatGPT-like system， to prevent technical risks and make the technology “good”， the developers should fulfill the obligations as guarantors， foresee the possible harmful results caused by ChatGPT-like system as much as possible， and take corresponding countermeasures to prevent them. Users should not intentionally induce ChatGPT-like system to break through the ethical and legal bottom line and output illegal and criminal information. If the developer fails to foresee and prevent ChatGPT-like system from outputting illegal and criminal information to the greatest extent， or the user intentionally induces ChatGPT-like system to output illegal and criminal information， he shall bear corresponding criminal responsibility. From the macro level， when regulating criminal risks involved in ChatGPT-like system， the criminal law principle of modesty should be observed to avoid hindering technological innovation and development. From the micro level， in view of the content and characteristics of criminal risks in ChatGPT-like systems， it is necessary to construct a hierarchical governance mechanism： develop and implement compliance plans through ChatGPT-like system research and development enterprises， and explore preventive governance strategies for the criminal risks; strengthen administrative supervision， and integrate scientific and technological supervision means into administrative supervision system， to reduce the "possibility of criminal risks; the use of criminal governance measures must strictly adhere to the precondition that prior legal and regulatory provisions are ineffective， the assessment of criminal illegality must be conducted within the framework of the principle of legality in criminal law， and administrative illegality should not be used to replace criminal illegality.

Key words：

ChatGPT; data crime; technology regulation; hierarchical governance（責(zé)任編輯"胡志平）

基金項目：

上海市哲學(xué)社會科學(xué)規(guī)劃課題“預(yù)防性刑事立法及其限度研究”（2022EFX003）

作者簡介：

房慧穎，華東政法大學(xué)刑事法學(xué)院副教授， Email：fanghuiying1203@163.com。