生成式人工智能的刑事風(fēng)險(xiǎn)與規(guī)制

李楚琦

（青海民族大學(xué)法學(xué)院,青海 西寧 810007）

生成式人工智能是基于算法和數(shù)學(xué)模型生成的物理性信息的技術(shù)，它具有一個(gè)自由或者半自由的學(xué)習(xí)框架，通過模仿、學(xué)習(xí)和統(tǒng)計(jì)生成“類人化”信息。不同于傳統(tǒng)的人工智能，生成式人工智能不僅能夠收集數(shù)據(jù)還可以通過算法提煉數(shù)據(jù)并對(duì)數(shù)據(jù)進(jìn)行整合和檢查，其具有高度的“類人化”特征。ChatGPT是生成式人工智能的代表程序，其主要的算法技術(shù)是由美國(guó)開放人工智能研究中心（以下簡(jiǎn)稱OpenAI）公司開發(fā)并不斷更新，該程序突破原有的數(shù)權(quán)界限將法律發(fā)展帶入新的領(lǐng)域。2023年8月15日施行的《生成式人工智能服務(wù)管理暫行辦法》對(duì)生成式人工智能的數(shù)據(jù)收集行為、數(shù)據(jù)交互行為進(jìn)行政策性引導(dǎo)。人工智能技術(shù)的發(fā)展將“類人化”行為中部分?jǐn)?shù)據(jù)交互和生成行為進(jìn)一步擬制為刑法規(guī)制的危害行為，以算法技術(shù)為代表的ChatGpt程序發(fā)展帶來的刑事司法挑戰(zhàn)在于如何界定數(shù)據(jù)生成、交互和獲取行為帶來的法益侵害風(fēng)險(xiǎn)和如何進(jìn)行刑事規(guī)制?？梢砸罁?jù)生成式人工智能的技術(shù)特征對(duì)刑事風(fēng)險(xiǎn)進(jìn)行分類討論并明確規(guī)制路徑。

1 ChatGPT生成式人工智能引發(fā)的刑事風(fēng)險(xiǎn)

金融、醫(yī)療企業(yè)運(yùn)營(yíng)中主要涉及數(shù)據(jù)的收集、傳輸、處理、存儲(chǔ)和銷毀等工作，網(wǎng)絡(luò)數(shù)據(jù)在這些工作中不斷地流動(dòng)，企業(yè)因此而獲益；與此同時(shí)，數(shù)據(jù)泄露風(fēng)險(xiǎn)、再訓(xùn)練階段的數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)、數(shù)據(jù)濫用風(fēng)險(xiǎn)也在流動(dòng)過程中逐漸增加。

1.1 生成式人工智能在運(yùn)行階段的數(shù)據(jù)泄露風(fēng)險(xiǎn)

生成式人工智能在運(yùn)行階段的數(shù)據(jù)行為主要以交互行為和收集行為為主，交互行為是基于算法技術(shù)結(jié)合用戶提供的關(guān)鍵詞提出解決方案，生成式人工智能擁有獨(dú)立的計(jì)算系統(tǒng)和統(tǒng)計(jì)系統(tǒng)，其提供的方案往往具有人的思維。以ChatGPT為例，由于在數(shù)據(jù)交互過程中數(shù)據(jù)痕跡不會(huì)消失，數(shù)據(jù)泄露的風(fēng)險(xiǎn)也隨之加劇。早期的ChatGPT程序中發(fā)生用戶數(shù)據(jù)泄露的情況，并且由于數(shù)據(jù)泄露導(dǎo)致用戶的個(gè)人信息暴露于公眾之中。

第一，生成式人工智能數(shù)據(jù)泄露的風(fēng)險(xiǎn)在于運(yùn)行的廣度。其需要從大量數(shù)據(jù)中學(xué)習(xí)和生成模型，海量數(shù)據(jù)的處理將擴(kuò)大其攻擊面，數(shù)據(jù)泄露的發(fā)生概率和影響范圍也隨之增大[1]。運(yùn)行公司對(duì)于生成式人工智能的可控性備受質(zhì)疑，生成式人工智能在運(yùn)行階段大范圍收集處理數(shù)據(jù)，其泄露的風(fēng)險(xiǎn)也逐漸加大。比如，出于數(shù)據(jù)安全考慮，美國(guó)太空部隊(duì)將暫時(shí)禁用以ChatGPT程序?yàn)榇淼纳墒饺斯ぶ悄堋?/p>

第二，生成式人工智能數(shù)據(jù)泄露的風(fēng)險(xiǎn)在于其運(yùn)行的深度。由于生成式人工智能通過語言模型驅(qū)動(dòng)與用戶交流獲取大量數(shù)據(jù)并學(xué)習(xí)，數(shù)據(jù)來源主要是用戶提供的語言信息和利用大數(shù)據(jù)技術(shù)收集的同類型信息。在這一過程中，大量的數(shù)據(jù)處理工作增加數(shù)據(jù)泄露的風(fēng)險(xiǎn)。比如，OpenAI公司的技術(shù)官表示應(yīng)謹(jǐn)慎使用該程序以避免出現(xiàn)信息泄露的事故，在很多大型的科技公司、學(xué)校等地方都禁止員工和學(xué)生使用ChatGPT。

基于此，以ChatGPT為代表的生成式人工智能在運(yùn)行階段的數(shù)據(jù)泄露風(fēng)險(xiǎn)主要是運(yùn)行階段數(shù)據(jù)收集、處理的深度和廣度，深度越深、廣度越廣，創(chuàng)設(shè)的刑事風(fēng)險(xiǎn)越高。所以，應(yīng)盡可能在運(yùn)行階段合規(guī)處置數(shù)據(jù)風(fēng)險(xiǎn)以優(yōu)化生成式人工智能的適用[2]。

1.2 生成式人工智能在再訓(xùn)練階段的數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)

生成式人工智能的特點(diǎn)之一在于人機(jī)交互行為，其中ChatGPT更是人機(jī)交互行為的代表，用戶與ChatGPT之間的人機(jī)交互行為會(huì)產(chǎn)生大量數(shù)據(jù)，這些數(shù)據(jù)用于其他模型進(jìn)行算法更迭訓(xùn)練，即再訓(xùn)練階段。

再訓(xùn)練階段數(shù)據(jù)流轉(zhuǎn)于其他數(shù)據(jù)模型中，這些擁有大型數(shù)據(jù)模型的科技企業(yè)是否可以合理利用獲取的數(shù)據(jù)是有待商榷的。如果交互數(shù)據(jù)中涉及個(gè)人信息、商業(yè)數(shù)據(jù)，僅依據(jù)初次使用獲得的用戶授權(quán)不足以覆蓋再訓(xùn)練階段要求[3]。在這一過程中，科技企業(yè)借助授權(quán)規(guī)則濫用數(shù)據(jù)會(huì)產(chǎn)生數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)，這種風(fēng)險(xiǎn)可能觸犯刑法的相關(guān)規(guī)定。比如，F(xiàn)acebook曾經(jīng)發(fā)生利用初級(jí)的生成式人工智能計(jì)算用戶的私人信息，并且導(dǎo)致個(gè)人私密信息泄露的事件；生成式人工智能獲取的數(shù)據(jù)發(fā)生泄露或者濫用可能引發(fā)侵犯?jìng)€(gè)人信息的犯罪以及非法獲取計(jì)算機(jī)信息的犯罪，增大科技企業(yè)數(shù)據(jù)合規(guī)的風(fēng)險(xiǎn)。

1.3 生成式人工智能在輸出階段的數(shù)據(jù)濫用和算法濫用風(fēng)險(xiǎn)

生成式人工智能對(duì)于用戶的反饋主要是在數(shù)據(jù)輸出階段，其在數(shù)據(jù)輸出階段主要是對(duì)于收集的信息進(jìn)行整合得出“類人化”觀點(diǎn)和利用算法技術(shù)推測(cè)結(jié)果、提出解決方案，在數(shù)據(jù)輸出這一階段會(huì)引發(fā)非法獲取數(shù)據(jù)、收集數(shù)據(jù)的風(fēng)險(xiǎn)，以及濫用算法技術(shù)推測(cè)結(jié)果、侵犯用戶個(gè)人信息和社會(huì)公眾數(shù)據(jù)的風(fēng)險(xiǎn)。

第一，數(shù)據(jù)濫用的風(fēng)險(xiǎn)。用戶登錄門檻較低，僅注冊(cè)便可與ChatGPT進(jìn)行交互式交流并且在問答過程中極易暴露自己的個(gè)人信息，而ChatGPT沒有篩除個(gè)人信息的算法基礎(chǔ)，多次數(shù)據(jù)流通會(huì)導(dǎo)致數(shù)據(jù)濫用風(fēng)險(xiǎn)增加，侵犯公民的合法權(quán)利，甚至可能促使運(yùn)行ChatGPT的公司成為刑事犯罪的主體。此外，生成式人工智能在輸出階段反饋大量的信息數(shù)據(jù)，其中可能包含不同用戶的信息，甚至是敏感信息和國(guó)家秘密信息，因?yàn)樵谑褂贸跗?，生成式人工智能利用同意?guī)則的漏洞和用戶獵奇的心理，隱秘地收集大量敏感信息成為語言庫(kù)后整合成不同的答案反饋給不同的用戶、機(jī)構(gòu)，使用的用戶、機(jī)構(gòu)越多、數(shù)據(jù)濫用的風(fēng)險(xiǎn)在不斷增加。

第二，算法濫用的風(fēng)險(xiǎn)。生成式人工智能的算法技術(shù)可能被濫用，比如，用于挖掘漏洞生成惡意代碼，甚至進(jìn)行網(wǎng)絡(luò)攻擊，從而成為網(wǎng)絡(luò)犯罪的工具。并且，生成式人工智能多與搜索引擎聯(lián)合開發(fā)，這種開發(fā)模式造成數(shù)據(jù)在收集階段的濫用風(fēng)險(xiǎn)加大。比如，ChatGPT與搜索引擎融合后的New Bing程序，其運(yùn)行模式是搜索與生成式任務(wù)相結(jié)合的模式，這種模式雖使搜索結(jié)果的準(zhǔn)確度得到提升，卻增加了個(gè)人信息被濫用的風(fēng)險(xiǎn)[4]，算法技術(shù)作為生成式人工智能的技術(shù)基礎(chǔ)，某些企業(yè)利用算法技術(shù)本身的語言漏洞從后門進(jìn)入生成式人工智能的數(shù)據(jù)系統(tǒng)造成用戶信息暴露、企業(yè)機(jī)密信息泄露，甚至是國(guó)家信息非法利用等嚴(yán)重后果，算法技術(shù)的濫用不僅會(huì)降低公眾對(duì)于生成式人工智能發(fā)展的信任度，更會(huì)觸發(fā)更為嚴(yán)重的刑事犯罪。

基于此，生成式人工智能在輸出階段的數(shù)據(jù)濫用風(fēng)險(xiǎn)主要是對(duì)于用戶信息的濫用和交互信息的可信度降低等；而算法濫用風(fēng)險(xiǎn)的主體是生成式人工智能服務(wù)者，他們利用人工智能信息交互的特點(diǎn)，增加“類人化”特性，不斷運(yùn)用帶有風(fēng)險(xiǎn)的算法技術(shù)導(dǎo)致算法濫用，增加企業(yè)合規(guī)風(fēng)險(xiǎn)。

2 對(duì)ChatGPT生成式人工智能初步的刑事規(guī)制

生成式人工智能具有傳統(tǒng)產(chǎn)業(yè)無法具備的創(chuàng)造力和生產(chǎn)力，同時(shí)，也引發(fā)數(shù)據(jù)安全風(fēng)險(xiǎn)和知識(shí)產(chǎn)權(quán)刑事犯罪問題，為了進(jìn)一步維護(hù)數(shù)字技術(shù)空間的穩(wěn)定發(fā)展，保障公民的隱私權(quán)和數(shù)權(quán)，國(guó)內(nèi)有關(guān)部門制定了一系列的法律文件以規(guī)制刑事風(fēng)險(xiǎn)。

2.1 生成式人工智能的現(xiàn)有刑事規(guī)范

《生成式人工智能服務(wù)管理暫行辦法》《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《中華人民共和國(guó)刑法》以及相關(guān)的政策中均有條文涉及規(guī)制生成式人工智能服務(wù)者的不法行為的規(guī)定。比如，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第六條規(guī)定，任何組織及個(gè)人不能利用以生成式人工智能為代表的深度合成服務(wù)生產(chǎn)、傳播違法信息以及從事違法犯罪活動(dòng)，并禁止利用深度合成服務(wù)的基本特點(diǎn)從中獲取非法信息。此外，《生成式人工智能服務(wù)管理暫行辦法》第十七條規(guī)定提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)應(yīng)履行算法備案義務(wù)[5]。不同類型的法律規(guī)范均對(duì)生成式人工智能有所涉及，其目的在于不同場(chǎng)景下均可以有相關(guān)主體和規(guī)范對(duì)有關(guān)生成式人工智能的犯罪進(jìn)行規(guī)制。

刑法中雖然未明確規(guī)定生成式人工智能犯罪，但是基于生成式人工智能的特點(diǎn)也有部分罪名可以適用，比如，《中華人民共和國(guó)刑法》第二百五十三條之一，違規(guī)處理個(gè)人信息、非法獲取公民個(gè)人信息的，對(duì)于生成式人工智能的服務(wù)者將以單位犯罪進(jìn)行處罰。與此同時(shí)，不同地區(qū)也開始制定有關(guān)生成式人工智能的條例，且主要集中于科技、金融發(fā)達(dá)的地區(qū)，比如深圳市發(fā)布的《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》。

2.2 生成式人工智能現(xiàn)有刑事規(guī)范的不足

現(xiàn)有刑事規(guī)范對(duì)于生成式人工智能的規(guī)制主要在于信息網(wǎng)絡(luò)犯罪板塊，并且人工智能的規(guī)范處于萌芽階段，生成式人工智能的快速發(fā)展與法律規(guī)范發(fā)展的不同步性導(dǎo)致其約束力不足，主要體現(xiàn)在以下幾個(gè)方面：

第一，監(jiān)管主體難以明確。目前，國(guó)內(nèi)對(duì)于生成式人工智能的監(jiān)管主要體現(xiàn)多主體的情況，比如，國(guó)家市場(chǎng)監(jiān)督管理總局、國(guó)家互聯(lián)網(wǎng)信息辦公室、公訴機(jī)關(guān)等都可以成為監(jiān)管主體，但主體之間的權(quán)責(zé)范圍未加以明確。不同類型的法律規(guī)范在一定場(chǎng)景下可能會(huì)發(fā)生重復(fù)適用的情況，或者法律規(guī)范缺乏一定的標(biāo)準(zhǔn)以明確如何進(jìn)行適用，不同的監(jiān)管主體無法第一時(shí)間針對(duì)生成式人工智能創(chuàng)設(shè)的風(fēng)險(xiǎn)進(jìn)行規(guī)制，公訴機(jī)關(guān)也無法第一時(shí)間進(jìn)行監(jiān)查并提出合規(guī)舉措，法律規(guī)范的現(xiàn)狀在一定程度上不利于生成式人工智能向好發(fā)展。

第二，生成式人工智能刑事規(guī)范不夠完備、效力不明確。目前，國(guó)內(nèi)對(duì)于生成式人工智能的規(guī)制主要在于其關(guān)聯(lián)罪名，多集中于網(wǎng)絡(luò)犯罪中，沒有明確界定生成式人工智能刑事主體資格。此外，現(xiàn)有的法律規(guī)范部分是依托于某一特定的部門法，對(duì)于部分非法行為是否可以由該規(guī)范規(guī)制存在疑問，則其效力和約束力也無法實(shí)現(xiàn)。比如，《生成式人工智能服務(wù)管理暫行辦法》和《個(gè)人信息保護(hù)法》中均規(guī)定了同意原則，但是生成式人工智能的使用會(huì)淡化同意原則導(dǎo)致相關(guān)的法律規(guī)范不能有效地規(guī)制刑事風(fēng)險(xiǎn)及犯罪。

3 ChatGPT生成式人工智能風(fēng)險(xiǎn)刑事規(guī)制的路徑

以ChatGPT程序?yàn)榇淼纳墒饺斯ぶ悄軙?huì)引發(fā)數(shù)據(jù)安全風(fēng)險(xiǎn)、侵犯?jìng)€(gè)人信息的風(fēng)險(xiǎn)等刑事犯罪風(fēng)險(xiǎn)。所以，應(yīng)對(duì)生成式人工智能創(chuàng)設(shè)的風(fēng)險(xiǎn)給予必要的規(guī)制。從刑事合規(guī)的角度加強(qiáng)刑事規(guī)范的實(shí)踐性，進(jìn)一步規(guī)制生成式人工智能產(chǎn)生的刑事風(fēng)險(xiǎn)，促進(jìn)其與公民數(shù)字權(quán)利、社會(huì)公共利益的共同發(fā)展。

3.1 生成式人工智能數(shù)據(jù)刑事合規(guī)的路徑

生成式人工智能數(shù)據(jù)刑事合規(guī)的途徑主要針對(duì)其產(chǎn)生的刑事風(fēng)險(xiǎn)類型進(jìn)行，分別從數(shù)據(jù)泄露、數(shù)據(jù)濫用風(fēng)險(xiǎn)和算法濫用的風(fēng)險(xiǎn)進(jìn)行考慮，主要的措施是風(fēng)險(xiǎn)預(yù)警、評(píng)估、監(jiān)督和處理機(jī)制，以生成式人工智能服務(wù)者合規(guī)的方式進(jìn)行刑事規(guī)制。

第一，針對(duì)數(shù)據(jù)泄露的刑事風(fēng)險(xiǎn)。應(yīng)當(dāng)明確收集數(shù)據(jù)的類型是否涉及敏感信息、個(gè)人信息，并評(píng)估在使用過程中存在的數(shù)據(jù)泄露風(fēng)險(xiǎn)。對(duì)于個(gè)人信息泄露的刑事風(fēng)險(xiǎn)，應(yīng)從數(shù)據(jù)收集的深度和廣度進(jìn)行衡量。從而構(gòu)建生成式人工智能服務(wù)者的刑事合規(guī)體系。生成式人工智能服務(wù)者的刑事合規(guī)主要聚焦于技術(shù)與利益的平衡點(diǎn)上，需要算法技術(shù)的層次和深度、既得利益的獲得與生成式人工智能使用者的合法權(quán)利之間的平衡，生成式人工智能的發(fā)展不能以突破個(gè)人權(quán)利為條件。一方面，以O(shè)penAI為代表的生成式人工智能服務(wù)者，應(yīng)當(dāng)承擔(dān)保護(hù)使用者及其他公民數(shù)據(jù)信息的責(zé)任，設(shè)立專門的風(fēng)險(xiǎn)預(yù)警、監(jiān)督和處理機(jī)制，風(fēng)險(xiǎn)預(yù)警機(jī)制在于要求對(duì)出現(xiàn)的風(fēng)險(xiǎn)及時(shí)報(bào)告監(jiān)督部門，并在風(fēng)險(xiǎn)最小的時(shí)候進(jìn)行處理，減少處理成本；另一方面，風(fēng)險(xiǎn)監(jiān)督機(jī)制和風(fēng)險(xiǎn)處理機(jī)制緊密結(jié)合。監(jiān)督機(jī)制不僅要監(jiān)督平臺(tái)，還要進(jìn)一步監(jiān)督后續(xù)平臺(tái)合規(guī)措施的及時(shí)性和完成性。

第二，針對(duì)數(shù)據(jù)濫用的風(fēng)險(xiǎn)?，F(xiàn)有運(yùn)行的ChatGPT程序具有3 000億單詞的語料基礎(chǔ)上預(yù)訓(xùn)練擁有1 750億參數(shù)的模型[6]，大量的數(shù)據(jù)收集和處理工作增大了數(shù)據(jù)濫用的風(fēng)險(xiǎn)，針對(duì)這一情況，應(yīng)當(dāng)加強(qiáng)檢察機(jī)關(guān)對(duì)生成式人工智能服務(wù)者的監(jiān)管，形成強(qiáng)有力的監(jiān)管體系。此外，可以建立專門的第三方機(jī)構(gòu)幫助公檢機(jī)關(guān)做到日常監(jiān)管，通過技術(shù)手段建立一個(gè)有效的、具有針對(duì)性的持續(xù)監(jiān)管體系。對(duì)出現(xiàn)數(shù)據(jù)濫用風(fēng)險(xiǎn)的服務(wù)者，及時(shí)介入并進(jìn)行查管、做出刑事合規(guī)的建議和具體舉措，并針對(duì)合規(guī)的效果決定是否移送起訴。

第三，針對(duì)算法技術(shù)濫用創(chuàng)設(shè)的刑事風(fēng)險(xiǎn)。以ChatGPT為代表的生成式人工智能是以不同的算法技術(shù)為基礎(chǔ)構(gòu)建的程序，應(yīng)當(dāng)引入專業(yè)的技術(shù)監(jiān)督部門形成完備的技術(shù)監(jiān)督體系，專業(yè)的技術(shù)監(jiān)督部門不僅可以做到日常算法監(jiān)督還可以提供算法技術(shù)濫用的技術(shù)判斷支持。對(duì)于利用算法技術(shù)謀取非法利益的企業(yè)應(yīng)及時(shí)處理，并提出是否進(jìn)行合規(guī)的建議，而無法進(jìn)行合規(guī)的服務(wù)者及時(shí)移送起訴。

基于此，作為超大型、集中式平臺(tái)的生成式人工智能服務(wù)者，為降低信息數(shù)據(jù)被泄露和濫用的風(fēng)險(xiǎn)，應(yīng)通過合規(guī)計(jì)劃明確數(shù)據(jù)獲取途徑和獲取中的刑事風(fēng)險(xiǎn)，制定具體的風(fēng)險(xiǎn)識(shí)別、評(píng)估和防控措施[7]，此外，在風(fēng)險(xiǎn)處理中應(yīng)當(dāng)從預(yù)防階段進(jìn)行規(guī)制以降低解決風(fēng)險(xiǎn)處理成本，并且著重關(guān)注風(fēng)險(xiǎn)監(jiān)督機(jī)制和處理機(jī)制，做好合規(guī)后的評(píng)估和處理，對(duì)于未及時(shí)按照相關(guān)機(jī)關(guān)規(guī)定進(jìn)行合規(guī)審查的服務(wù)者在核查后移送起訴。

3.2 刑事規(guī)范規(guī)制生成式人工智能的路徑

第一，明確生成式人工智能的風(fēng)險(xiǎn)分類便于刑事規(guī)范規(guī)制生成式人工智能。生成式人工智能風(fēng)險(xiǎn)類型化后，根據(jù)不同類型的風(fēng)險(xiǎn)在法律規(guī)定上也更加清晰，有助于解決實(shí)踐中監(jiān)管主體混雜的問題。比如，對(duì)于一般的數(shù)據(jù)泄露風(fēng)險(xiǎn)和算法技術(shù)濫用風(fēng)險(xiǎn)以刑事合規(guī)為主要的規(guī)制手段。但是，對(duì)于嚴(yán)重侵犯公民權(quán)利和社會(huì)公共利益、國(guó)家利益的危險(xiǎn)行為，應(yīng)及時(shí)以刑事規(guī)范進(jìn)行規(guī)制，做到分類處理、高效治理。

第二，基于現(xiàn)有的有關(guān)生成式人工智能的監(jiān)管舉措，形成具有針對(duì)性的監(jiān)管舉措，對(duì)生成式人工智能形成綜合性的法律監(jiān)管體系。在這個(gè)法律監(jiān)管體系中，刑事規(guī)范與其他規(guī)范的適用場(chǎng)景必須明確、具體化適用標(biāo)準(zhǔn)；對(duì)于生成式人工智能的相關(guān)定義要統(tǒng)一化、刑事風(fēng)險(xiǎn)行為和其他風(fēng)險(xiǎn)行為的判斷標(biāo)準(zhǔn)要明晰，建立一種監(jiān)管為前提、明晰化的綜合性法律監(jiān)管體系，比如，以數(shù)據(jù)泄露風(fēng)險(xiǎn)為例，在監(jiān)管初期要利用相關(guān)的規(guī)范進(jìn)行行政處罰和民事賠償，并且提出刑事合規(guī)舉措，監(jiān)管后期要利用刑事規(guī)范對(duì)相關(guān)的違法行為加以規(guī)制，以打擊生成式人工智能服務(wù)者的刑事犯罪。

第三，應(yīng)當(dāng)進(jìn)一步落實(shí)數(shù)據(jù)立法與現(xiàn)有刑法分則的規(guī)定。比如，明確非法入侵計(jì)算機(jī)罪的主體中應(yīng)包含生成式人工智能，避免生成式人工智能成為網(wǎng)絡(luò)犯罪的工具。數(shù)據(jù)立法成為未來立法的趨勢(shì)也是數(shù)字法治建設(shè)的重要舉措之一，數(shù)據(jù)立法中應(yīng)當(dāng)有一個(gè)部分是關(guān)于刑事規(guī)制的，以便于刑法打擊生成式人工智能犯罪。數(shù)據(jù)立法是更為宏觀的內(nèi)容，數(shù)據(jù)立法的相關(guān)內(nèi)容可以與刑法的相關(guān)規(guī)定相結(jié)合，便于刑法區(qū)分什么樣的行為是嚴(yán)重危害公民利益、社會(huì)公共利益和國(guó)家利益的行為，更好地適用刑法分則的規(guī)定，做到罪責(zé)刑相統(tǒng)一。

基于此，以ChatGPT為代表的生成式人工智能融入法律領(lǐng)域，正在推動(dòng)著刑事規(guī)范的逐漸轉(zhuǎn)變。目前，刑事規(guī)范的內(nèi)部體系中對(duì)于強(qiáng)人工智能與弱人工智能的區(qū)分標(biāo)準(zhǔn)尚未明確，對(duì)于人工智能創(chuàng)設(shè)的刑事風(fēng)險(xiǎn)，主要以打擊生成式人工智能服務(wù)者為主，對(duì)于人工之智能的主體地位采取消極認(rèn)可態(tài)度，對(duì)相應(yīng)的犯罪行為是積極的應(yīng)對(duì)態(tài)度。但是，隨著法律法規(guī)的不斷完善，刑事規(guī)范對(duì)于有關(guān)生成式人工智能的內(nèi)容也將會(huì)不斷完善，基于立法原意對(duì)新時(shí)代的人工智能有更多的解釋。刑事規(guī)范規(guī)制的關(guān)鍵在保證其謙抑性、明確性的前提下，進(jìn)一步規(guī)制生成式人工智能創(chuàng)設(shè)的數(shù)據(jù)泄露、數(shù)據(jù)濫用和算法濫用風(fēng)險(xiǎn)。

4 結(jié)語

以ChatGPT為代表的生成式人工智能通過不斷的人機(jī)交互行為逐漸向高級(jí)智能發(fā)展，從“類人化”轉(zhuǎn)變?yōu)椤蔼?dú)立化思考”從而其引發(fā)了新風(fēng)險(xiǎn)。為有效應(yīng)對(duì)這些風(fēng)險(xiǎn)，也在不斷地出現(xiàn)相應(yīng)的法律規(guī)范和政策，對(duì)于風(fēng)險(xiǎn)的規(guī)制需要采取主動(dòng)的規(guī)制措施，以預(yù)防為前提、進(jìn)而主動(dòng)應(yīng)對(duì)。不同類型的法律規(guī)范在不斷地完善，刑事規(guī)制的路徑應(yīng)從預(yù)防和懲治兩個(gè)方面介入，針對(duì)不同類型的風(fēng)險(xiǎn)提供具有針對(duì)性的解決方法。所以，刑事規(guī)制的路徑應(yīng)是動(dòng)態(tài)的、不斷更新的，應(yīng)立足于數(shù)字技術(shù)、網(wǎng)絡(luò)技術(shù)和算法技術(shù)，明確生成式人工智能運(yùn)行過程的法律風(fēng)險(xiǎn)和產(chǎn)物在刑事法律上的主體概念，加強(qiáng)數(shù)字刑事立法從源頭規(guī)制生成式人工智能創(chuàng)設(shè)的刑事風(fēng)險(xiǎn)，做到多層次多維度的刑事規(guī)制。