中國擬給生成式人工智能立規(guī)

4月11日，中國國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見稿）》（下稱《征求意見稿》）公開征求意見?！墩髑笠庖姼濉饭?1條，從生成式人工智能服務(wù)商的準(zhǔn)入，到算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型與內(nèi)容，以及用戶實(shí)名和個(gè)人隱私、商業(yè)秘密等方面提出了相關(guān)要求。這意味著，當(dāng)下爆火的生成式人工智能產(chǎn)業(yè)將迎來首份監(jiān)管文件。

一

“這次《征求意見稿》出臺速度非?？欤梢哉f實(shí)現(xiàn)了與技術(shù)發(fā)展和應(yīng)用態(tài)勢的同步推動(dòng)，反映了中國網(wǎng)絡(luò)監(jiān)管、數(shù)字監(jiān)管日益成熟和敏捷高效的演進(jìn)態(tài)勢?！北本煼洞髮W(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括在接受記者采訪時(shí)說。

生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。以ChatGPT為代表的生成式人工智能，正在激發(fā)包括微軟、谷歌、META、百度、阿里巴巴等國內(nèi)外科技巨頭以及創(chuàng)業(yè)者的新一輪人工智能“軍備競賽”。僅在《征求意見稿》發(fā)布的前一天，就有前搜狗CEO王小川的百川智能、商湯科技以及昆侖萬維三家企業(yè)宣布?xì)⑷肷墒饺斯ぶ悄艽竽Ｐ皖I(lǐng)域。

吳沈括提到，從《征求意見稿》中能夠看到，關(guān)于國內(nèi)對于生成式人工智能的監(jiān)管思路有三個(gè)特點(diǎn)：一是充分利用現(xiàn)行法律法規(guī)所提供的制度、機(jī)制；二是強(qiáng)調(diào)風(fēng)險(xiǎn)防范、風(fēng)險(xiǎn)應(yīng)對和風(fēng)險(xiǎn)管理的基本思路；三是突出了生態(tài)式、流程式的監(jiān)管方式，特別表現(xiàn)在技術(shù)應(yīng)用全生命周期的多層次監(jiān)管。

《征求意見稿》體現(xiàn)了監(jiān)管前置的思路。在準(zhǔn)入資格方面，《征求意見稿》提出，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照相關(guān)規(guī)定向國家網(wǎng)信部門申報(bào)安全評估，并履行算法備案和變更、注銷備案手續(xù)。

《征求意見稿》還要求，企業(yè)提供生成式人工智能產(chǎn)品或服務(wù)，應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會公德、公序良俗；尊重知識產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢實(shí)施不公平競爭。而對于使用該服務(wù)的用戶，需要提供真實(shí)身份信息?！墩髑笠庖姼濉愤€提到，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。

在責(zé)任劃分方面，《征求意見稿》提出，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；涉及個(gè)人信息的，承擔(dān)個(gè)人信息處理者的法定責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。

在保護(hù)個(gè)人隱私、商業(yè)機(jī)密等方面，《征求意見稿》中有多條提到相關(guān)要求。例如，提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像，不得向他人提供用戶輸入信息，以及禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

同時(shí)，對于提供者，還要采取適當(dāng)措施防范用戶過分依賴或沉迷生成內(nèi)容，保證服務(wù)的安全、穩(wěn)健、持續(xù)運(yùn)營，對生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識等。提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件、實(shí)施不正當(dāng)?shù)纳虡I(yè)營銷等，應(yīng)當(dāng)暫停或者終止服務(wù)。

二

上海君悅律師事務(wù)所的陳怡然律師對記者表示，《征求意見稿》的發(fā)布可以幫助司法實(shí)踐更好地明確權(quán)責(zé)劃分和責(zé)任主體。例如，管理辦法針對生成式人工智能可以以及不能向用戶提供的服務(wù)進(jìn)行了劃定，同時(shí)還明確了處罰金額，這將有助于企業(yè)為其提供的人工智能服務(wù)承擔(dān)相應(yīng)的法律責(zé)任。

例如，《征求意見稿》提到，提供者違反本辦法規(guī)定的，由網(wǎng)信部門和有關(guān)主管部門按照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》等法律、行政法規(guī)的規(guī)定予以處罰。其中拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫?；蛘呓K止其利用生成式人工智能提供服務(wù)，并處一萬元以上十萬元以下罰款。

擴(kuò)大到全球范圍看，有關(guān)ChatGPT的首個(gè)禁令來自意大利。就在3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布即日起暫時(shí)禁止使用ChatGPT。隨后，歐盟國家開始跟進(jìn)醞釀相關(guān)監(jiān)管措施。據(jù)悉，由于創(chuàng)建ChatGPT的公司OpenAI沒有在歐盟設(shè)立當(dāng)?shù)乜偛?，這意味著歐盟任何成員國的數(shù)據(jù)保護(hù)機(jī)構(gòu)都可以對其發(fā)起新的調(diào)查和執(zhí)行禁令。據(jù)媒體報(bào)道，ChatGPT的技術(shù)應(yīng)用已經(jīng)開始激怒歐洲政府，其風(fēng)險(xiǎn)范圍包括數(shù)據(jù)保護(hù)、錯(cuò)誤信息、網(wǎng)絡(luò)犯罪、欺詐和學(xué)校考試作弊等。

德國數(shù)據(jù)保護(hù)專員對媒體表示，德國可能會追隨意大利的腳步，出于數(shù)據(jù)安全的考慮，禁用ChatGPT。法國數(shù)據(jù)隱私監(jiān)管機(jī)構(gòu)國家信息與自由委員會（CNIL）稱，該機(jī)構(gòu)收到兩份關(guān)于ChatGPT的投訴后，已開始進(jìn)行調(diào)查，并與意大利監(jiān)管機(jī)構(gòu)聯(lián)系，以了解更多出臺禁令的依據(jù)。比利時(shí)數(shù)據(jù)保護(hù)當(dāng)局也表示，ChatGPT的潛在侵權(quán)行為“應(yīng)在歐洲層面進(jìn)行討論”。

（摘自《第一財(cái)經(jīng)日報(bào)》劉佳、高雅）