生成式人工智能的刑事風(fēng)險與應(yīng)對

曹俊梅 魯榛子

近年來，人工智能技術(shù)迅猛發(fā)展。2022年美國OpenAI公司發(fā)布文本類人工智能應(yīng)用產(chǎn)品ChatGPT引發(fā)關(guān)注。作為生成式人工智能的一種，ChatGPT依托大規(guī)模語言模型與生成式人工智能的預(yù)訓(xùn)練技術(shù)框架，在語言理解、意圖識別、邏輯推理、內(nèi)容生成等方面實現(xiàn)較大突破。生成式人工智能在文本寫作、代碼生成等方面具有廣闊的應(yīng)用前景，深刻影響著人們的生產(chǎn)生活。生成式人工智能高速發(fā)展的同時也存在一定風(fēng)險隱患。理論界表達(dá)了對生成式人工智能可能存在平等、倫理、犯罪等方面風(fēng)險的擔(dān)憂。本文對生成式人工智能可能引發(fā)的刑事風(fēng)險進(jìn)行分析，總結(jié)目前法律規(guī)范的理論和實踐情況，對生成式人工智能刑事風(fēng)險的應(yīng)對進(jìn)行思考。

生成式人工智能的發(fā)展與應(yīng)用

1950年，艾倫·麥席森·圖靈在論文《計算機器與智能》中提出了人工智的思想。約翰·麥卡錫創(chuàng)造了人工智能一詞后，人工智能經(jīng)歷了基于圖靈測試的機器模擬階段、基于統(tǒng)計推理的機器學(xué)習(xí)階段，再發(fā)展到今天基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)階段。在生成式人工智能興起之前，人工智能產(chǎn)品以分析式人工智能為主。分析式人工智能主要幫助預(yù)測、提升決策效率，不能生成新的內(nèi)容，因此多作為輔助工具。生成式人工智能可以根據(jù)決策作出判斷、生成內(nèi)容。Transformer的訓(xùn)練架構(gòu)促成了生成式人工智能的發(fā)展。2017年谷歌團隊提出Transformer架構(gòu)，2018年OpenAI 公司基于Transformer架構(gòu)訓(xùn)練出了GPT-1。所謂GPT，是“生成式預(yù)訓(xùn)練”（generative pre-training）模型的簡稱。ChatGPT被認(rèn)為是生成式人工智能的突破性進(jìn)展，生成式人工智能主要應(yīng)用場景包括了消費端和產(chǎn)業(yè)端。生成式人工智能在消費端的應(yīng)用主要體現(xiàn)在內(nèi)容生產(chǎn)、便捷交互和簡化工作；在產(chǎn)業(yè)端則應(yīng)用于工業(yè)設(shè)計、藥物研發(fā)、材料科學(xué)、合成數(shù)據(jù)等。

生成式人工智能可能存在的刑事風(fēng)險

生成式人工智能發(fā)展存在的風(fēng)險已經(jīng)不是一個嶄新的問題，本部分主要討論生成式人工智能可能涉及的刑事犯罪風(fēng)險。從犯罪手段上，生成式人工智能可能涉及的犯罪包括行為人以生成式人工智能為對象的犯罪；以生成式人工智能為犯罪工具的犯罪；生成式人工智能脫離編程限制而自主實施的犯罪。從犯罪類型看，ChatGPT等生成式人工智能可能涉及的犯罪可分為煽動類犯罪，侵犯知識產(chǎn)權(quán)類犯罪，侵犯數(shù)據(jù)、信息、計算機信息系統(tǒng)類犯罪，侵犯公民人身權(quán)利類犯罪，以及傳授犯罪方法、提供犯罪程序類犯罪等。

（一）針對生成式人工智能技術(shù)的犯罪

顧名思義，這類犯罪主要是以生成式人工智能為犯罪對象的犯罪。例如對正在研發(fā)的生成式人工智能技術(shù)、產(chǎn)品或者研發(fā)數(shù)據(jù)的竊取、使用等，可能構(gòu)成侵犯商業(yè)秘密罪、假冒專利罪、侵犯著作權(quán)罪，為境外竊取、刺探、售賣、非法提供商業(yè)秘密罪等。又如對生成式人工智能生成內(nèi)容的復(fù)制、使用如何評價，生成式人工智能生成的作品是否受著作權(quán)保護(hù)，還存在爭議。因此對生成式人工智能生成物的復(fù)制、使用是否構(gòu)成侵犯著作權(quán)罪等犯罪，還較難明確。不少觀點認(rèn)為，生成式人工智能生成物不具有真正的創(chuàng)造力，不是人類獨創(chuàng)性思想的表現(xiàn)，因此不應(yīng)享有著作權(quán)。持生成式人工智能生成物不享有著作權(quán)意見的觀點中，有的認(rèn)為可以將其作為財產(chǎn)權(quán)進(jìn)行保護(hù)，也有觀點認(rèn)為可以采用鄰接權(quán)保護(hù)的方式。也有專家認(rèn)為對于人工智能生成物應(yīng)當(dāng)考慮是否存在使用人工智能創(chuàng)作的人，且其在創(chuàng)作過程中是否付出了智力或創(chuàng)造性勞動。生成物中人的智力和創(chuàng)造性勞動是生成物是否受著作權(quán)保護(hù)的重要參考因素。例如，對于完全由ChatGPT自動生成未能反映人類意志或情感的不具備版權(quán)；ChatGPT根據(jù)人類足夠多的具體指令生成內(nèi)容時因蘊含人類特定思想或意志而具有可版權(quán)性；人類在ChatGPT生成物基礎(chǔ)上調(diào)整或加工而形成的內(nèi)容也具有可版權(quán)性。

（二）生成式人工智能技術(shù)本身可能存在的犯罪風(fēng)險

第一，生成式人工智能存在侵犯知識產(chǎn)權(quán)的風(fēng)險。由于生成式人工智能基于海量的數(shù)據(jù)和算法，如果未經(jīng)許可，復(fù)制或者通過網(wǎng)絡(luò)爬蟲爬取他人享有著作權(quán)的在線內(nèi)容，在我國現(xiàn)行《著作權(quán)法》沒有明確將數(shù)據(jù)挖掘等智能化的分析行為規(guī)定為合理使用的情況下，此行為可能構(gòu)成著作權(quán)侵權(quán)。

第二，生成式人工智能可能存在信息安全、隱私保護(hù)等方面的犯罪風(fēng)險。一是生成式人工智能存在不當(dāng)收集公民個人信息、商業(yè)信息、國家信息等風(fēng)險，涉及信息保護(hù)方面的犯罪，如侵犯公民個人信息罪。二是用戶使用生成式人工智能的過程中，也可能被反向收集個人信息或者其他資料，存在泄露個人信息、商業(yè)秘密或者國家秘密的風(fēng)險。三是生成式人工智能還可能生成虛假、錯誤信息，造成虛假、錯誤信息傳播等，擾亂社會和市場秩序等，涉及侮辱罪、誹謗罪，編造、故意傳播虛假恐怖信息罪，編造、故意傳播虛假信息罪，損害商業(yè)信譽、商業(yè)聲譽罪等。

（三）生成式人工智能被犯罪利用的風(fēng)險

ChatGPT模型因其出色的語言處理與文字生成能力，暴露出被不法分子濫用進(jìn)而用于從事網(wǎng)絡(luò)犯罪的風(fēng)險，例如編寫釣魚郵件和惡意程序。生成式人工智能可能被作為犯罪工具，被犯罪分子運用到一些傳統(tǒng)犯罪當(dāng)中。一是可能被恐怖主義、極端主義犯罪分子利用，實施煽動類犯罪，如煽動分裂國家罪、煽動顛覆國家政權(quán)罪，宣傳恐怖主義、極端主義、煽動實施恐怖活動罪，煽動民族仇恨、民族歧視罪等。二是被網(wǎng)絡(luò)犯罪利用，特別是電信網(wǎng)絡(luò)詐騙犯罪可能利用生成式人工智能編寫詐騙話術(shù)、釣魚郵件、惡意程序等。三是可能涉及公民人身權(quán)利的犯罪，如前文所述的侵犯公民個人信息罪、侮辱罪、誹謗罪等。四是可能被用于傳授犯罪方法，涉及傳授犯罪方法罪等。

（四）生成式人工智能服務(wù)者、管理者的犯罪風(fēng)險

2023年我國網(wǎng)信辦、國家發(fā)改委、科技部等部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，規(guī)定了生成式人工智能服務(wù)的總體要求、服務(wù)規(guī)范和服務(wù)者的相關(guān)責(zé)任。生成式人工智能的服務(wù)者、管理者在不履行法律、行政法規(guī)規(guī)定的信息網(wǎng)絡(luò)安全管理義務(wù)，經(jīng)監(jiān)管部門責(zé)令采取改正措施而拒不改正，可能涉及拒不履行信息網(wǎng)絡(luò)管理義務(wù)罪。此外，生成式人工智能服務(wù)者非法為實施詐騙等違法犯罪活動發(fā)布信息的，還可能涉及非法利用信息網(wǎng)絡(luò)罪。

生成式人工智能法律規(guī)范的理論與實踐

（一）關(guān)于生成式人工智能法律規(guī)范的兩種基本立場

對于生成式人工智能的法律規(guī)范，學(xué)界存在兩種不同的基本觀點。兩種立場的分歧在于法律是否需要對ChatGPT類應(yīng)用風(fēng)險采取專門立法的方式進(jìn)行治理，即“重構(gòu)式規(guī)制”。一種觀點認(rèn)為法律規(guī)范應(yīng)當(dāng)積極對生成式人工智能進(jìn)行規(guī)范和治理，因此需要根據(jù)生成式人工智能的特性，制定不同的產(chǎn)業(yè)政策和專項立法。另一種觀點則認(rèn)為，法律應(yīng)避免過早干預(yù)技術(shù)發(fā)展，阻礙技術(shù)創(chuàng)新。生成式人工智能尚處于迅猛發(fā)展階段，研究者結(jié)合其技術(shù)原理、發(fā)展趨勢及犯罪規(guī)律，對該技術(shù)可能出現(xiàn)的風(fēng)險能形成大致預(yù)判。凡事預(yù)則立，不預(yù)則廢。再加上法律具有滯后性，因此在生成式人工智能技術(shù)發(fā)展初期，注重對相關(guān)法律風(fēng)險的預(yù)判，同時以積極關(guān)注的姿態(tài)完善相關(guān)法律規(guī)定很有必要。當(dāng)然也應(yīng)為技術(shù)發(fā)展預(yù)留空間，保持法律規(guī)范完善與技術(shù)發(fā)展之間的平衡。筆者也認(rèn)為，通過專門立法對生成式人工智能的法律風(fēng)險進(jìn)行治理，即“重構(gòu)式規(guī)制”，目前沒有必要。一則從犯罪治理的角度，單純以ChatGPT等生成式人工智能為犯罪工具而實施的犯罪在大多數(shù)情況下都可以被現(xiàn)行刑法納入規(guī)范范圍之內(nèi)。前文所述犯罪風(fēng)險，能被刑法體系所囊括。二來從法律體系發(fā)展完善的角度，現(xiàn)代科技迅猛發(fā)展，每一項新興技術(shù)出現(xiàn)都進(jìn)行專門立法，可能不利于法律的穩(wěn)定性和長期發(fā)展。當(dāng)然司法實踐中，需要完善相關(guān)司法解釋，使其適應(yīng)新形勢的要求。

（二）生成式人工智能相關(guān)法律規(guī)范的實踐探索

我國注重對生成式人工智能等技術(shù)的法律規(guī)制。除《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》等法律、行政法規(guī)的相關(guān)基本規(guī)定之外，對生成式人工智能較有針對性的規(guī)范包括：2022年中共中央辦公廳、國務(wù)院辦公廳公布的《關(guān)于加強科技倫理治理的意見》；2023年國家互聯(lián)網(wǎng)信息辦公室、工信部、公安部出臺的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》系統(tǒng)規(guī)范深度合成服務(wù)，筑牢技術(shù)安全屏障；《生成式人工智能服務(wù)管理暫行辦法》明確生成式人工智能技術(shù)的適用范圍、責(zé)任主體認(rèn)定等。針對理論和實踐較為關(guān)注的算法歧視、數(shù)據(jù)安全、侵犯個人信息和知識產(chǎn)權(quán)等問題，《生成式人工智能服務(wù)管理暫行辦法》均予以了回應(yīng)，其中第四條要求提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán)……以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；在算法涉及的過程中，采取措施防止民族、信仰等歧視；尊重知識產(chǎn)權(quán)；尊重他人合法權(quán)益；提升生成式人工智能服務(wù)的透明度等。

關(guān)于生成式人工智能刑事風(fēng)險防控的建議

首先，完善相應(yīng)司法解釋，加強辦案指引。例如明確生成式人工智能是否享有著作權(quán)的問題。本文贊同生成物中人的智力和創(chuàng)造性勞動是生成物是否受著作權(quán)保護(hù)的重要參考因素的觀點。生成物中具有人類的智力和創(chuàng)造性勞動時，應(yīng)受著作權(quán)保護(hù)。在形成該生成物過程中，付出智力和創(chuàng)造性勞動的人應(yīng)被認(rèn)定為作者。又如，最高法、最高檢編發(fā)指導(dǎo)性案例，為辦理該類案件提供指引。特別是厘清利用生成式人工智能實施的非法利用信息網(wǎng)絡(luò)罪、幫助信息網(wǎng)絡(luò)犯罪活動罪、拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪等罪名的界限。

有觀點認(rèn)為，在創(chuàng)作過程中是否付出了智力或創(chuàng)造性勞動成為受著作權(quán)保護(hù)的重要參考因素

其次，推進(jìn)生成式人工智能涉案企業(yè)合規(guī)制度的完善。如前文所述，生成式人工智能存在知識產(chǎn)權(quán)、信息安全等諸多風(fēng)險，因此需要加強生成式人工智能行業(yè)的企業(yè)合規(guī)建設(shè)。服務(wù)者嚴(yán)格遵守相關(guān)使用條款和法律法規(guī)。用戶使用生成式人工智能，也應(yīng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德。加強涉案企業(yè)合規(guī)工作，幫助行業(yè)組織、企業(yè)強化合規(guī)建設(shè)，建立容錯防錯機制，降低再犯罪的可能性，推動行業(yè)健康發(fā)展。

再次，加強對利用生成式人工智能進(jìn)行犯罪的打擊力度。生成式人工智能存在被詐騙犯罪、煽動類犯罪等利用的風(fēng)險，有必要加強對利用生成式人工智能進(jìn)行犯罪的打擊力度。特別需要落實生成式人工智能服務(wù)提供者的管理責(zé)任，以及網(wǎng)信、工業(yè)和信息化等部門的監(jiān)督檢查等責(zé)任。

最后，注重涉生成式人工智能犯罪的社會治理。司法機關(guān)需要在辦案中，引導(dǎo)生成式人工智能服務(wù)者提供者履行安全管理義務(wù)，落實對上游技術(shù)支持者和下游服務(wù)使用者的管理責(zé)任。加大對個人信息、數(shù)據(jù)安全的保護(hù)力度，健全服務(wù)者與個人、企業(yè)關(guān)于信息、數(shù)據(jù)授權(quán)使用的制度機制，以及侵權(quán)行為發(fā)生時的救濟機制。

（曹俊梅、魯榛子工作單位系上海市嘉定區(qū)人民檢察院）