人工智能法律監(jiān)管的域外實踐

胡潔人 施子涵

當(dāng)前，人工智能成為新一輪科技革命的重要方向。人工智能產(chǎn)業(yè)的發(fā)展對于全球智能制造的產(chǎn)業(yè)升級、探索新的經(jīng)濟(jì)增長引擎有著積極的作用。與此同時，人工智能的高速發(fā)展也為個人隱私保護(hù)、網(wǎng)絡(luò)安全、知識產(chǎn)權(quán)保護(hù)等帶來了新的挑戰(zhàn)。世界各國、各地區(qū)已意識到了上述問題，并已經(jīng)就人工智能的法律監(jiān)管開展了有益探索。本文將介紹歐盟、日本對人工智能的法律監(jiān)管實踐，為我國人工智能的監(jiān)管與規(guī)制提供可供參考的域外經(jīng)驗。

歐盟：采用分類分級的風(fēng)險規(guī)制路徑

作為人工智能發(fā)展的先進(jìn)地區(qū)，歐洲對于人工智能的法律規(guī)制起步較早。2016年5月，歐盟議會法律事務(wù)委員會發(fā)布了《就機(jī)器人民事法律規(guī)則向歐盟委員會提出立法建議的報告草案》。2017年2月16日，歐盟議會法律事務(wù)委員會通過了全球首個“關(guān)于制定機(jī)器人民事法律規(guī)制的決議”。在決議中，歐盟法律事務(wù)委員會從長計議，提出了關(guān)于人工智能法律地位的規(guī)劃。歐盟法律事務(wù)委員會分析了人工智能的特征，認(rèn)為人工智能具備通過交換數(shù)據(jù)獲得自主性的能力、在交互中不斷學(xué)習(xí)的能力以及根據(jù)環(huán)境調(diào)整自己行為的能力。對于部分人工智能已經(jīng)發(fā)展出了某些自主和認(rèn)知能力的情況，歐盟考慮到之后人工智能可能涉及的責(zé)任分配問題，提議對高級的人工智能建立登記準(zhǔn)入制度，同時賦予其電子人格以促進(jìn)這類人工智能的登記。近年來，歐盟法律事務(wù)委員會對于人工智能可能帶來的風(fēng)險類型作出劃分。2021年4月12日，歐盟委員會在其《人工智能法案》提案中進(jìn)一步細(xì)化了人工智能準(zhǔn)入標(biāo)準(zhǔn)，將人工智能系統(tǒng)分成四個風(fēng)險級別，分別是不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和極低風(fēng)險，每個風(fēng)險類別都有相應(yīng)的應(yīng)用場景和監(jiān)管措施，具體分類情形如下：

首先是不可接受的風(fēng)險級別。其具體應(yīng)用場景包括采用潛意識技術(shù)或有目的的操縱或欺騙技術(shù)明顯損害或?qū)嵸|(zhì)性扭曲人的行為和能力的系統(tǒng)、利用個人或社會群體的弱點(diǎn)或已知的人格特征或社會經(jīng)濟(jì)狀況用于損害或?qū)嵸|(zhì)性扭曲該人或該群體的系統(tǒng)、利用人的社會行為或人格特征進(jìn)行社會評分并對個人造成有害后果或歧視性待遇的系統(tǒng)、在公眾場所的“實時”遠(yuǎn)程生物識別系統(tǒng)等。上述系統(tǒng)在《人工智能法案》的監(jiān)管下是被完全禁止的。

人工智能成為新一輪科技革命的重要方向

其次是高風(fēng)險級別。其具體應(yīng)用場景包括：（1）在歐盟統(tǒng)一立法規(guī)制范圍內(nèi)作為產(chǎn)品的安全組件或本身屬于產(chǎn)品且其需要第三方符合性評估機(jī)構(gòu)開展評估的AI系統(tǒng)；（2）涉及生物識別和分類、可能威脅人的生命和健康的關(guān)鍵基礎(chǔ)設(shè)施、可能決定人的受教育機(jī)會或職業(yè)培訓(xùn)、就業(yè)、員工管理和獲得自營職業(yè)、獲得和享受基本的私人和公共服務(wù)、可能影響人的基本權(quán)利的執(zhí)法活動、移民、庇護(hù)和邊境控制管理、司法和民主程序等領(lǐng)域，且符合分級標(biāo)準(zhǔn)的獨(dú)立人工智能系統(tǒng)。針對上述高風(fēng)險AI系統(tǒng)，歐盟《人工智能法案》允許相關(guān)主體在履行事前評估等義務(wù)后投放市場或投入使用，并進(jìn)行事中、事后的持續(xù)監(jiān)測。

再次是有限風(fēng)險級別。與人類互動的系統(tǒng)、情緒識別系統(tǒng)、生物特征分類系統(tǒng)、生成或操縱內(nèi)容系統(tǒng)均被歸為有限風(fēng)險級別的人工智能系統(tǒng)。針對上述系統(tǒng)，歐盟《人工智能法案》雖然不要求相應(yīng)主體履行事前評估等義務(wù)，但其仍需遵循相應(yīng)的透明度義務(wù)。

最后是極低風(fēng)險級別。極低風(fēng)險級別的人工智能系統(tǒng)包括允許自由使用人工智能電子游戲、垃圾郵件過濾器等，由于上述系統(tǒng)在客觀上風(fēng)險極低，故歐盟《人工智能法案》允許相應(yīng)主體依據(jù)自由意志部署和使用。

日本：寬松模式吸引開發(fā)者

近年來，世界各國、各地區(qū)的人工智能開發(fā)機(jī)構(gòu)或公司已在或?qū)⒏叭毡鹃_設(shè)據(jù)點(diǎn)，其中既有專注于人工智能底層技術(shù)的研究機(jī)構(gòu)或公司，也有聚焦生成式人工智能（AI繪畫等）、醫(yī)療人工智能（CAD、輔助診療）等特定領(lǐng)域的初創(chuàng)公司。之所以日本會受到人工智能開發(fā)者的青睞，成為開發(fā)者們的出海目的地，是因為其采取了開放包容的人工智能監(jiān)管模式，日本也因此被世界各國、各地區(qū)的人工智能開發(fā)者視為“天堂”。

宏觀而言，首先，日本目前并無一部專門規(guī)制人工智能的法律，只有在特定的應(yīng)用場域下，如人工智能的開發(fā)、學(xué)習(xí)、訓(xùn)練、生成、創(chuàng)作、運(yùn)用，相關(guān)法律中的條文才能夠被適用，這些條文零散分布于日本的著作權(quán)法、個人信息保護(hù)法、醫(yī)生法、律師法等法律之中。其次，由于上述這些條文內(nèi)容繁雜，且原則性規(guī)定較多、實用性較弱，所以日本各政府部門多結(jié)合自身主管領(lǐng)域的特定應(yīng)用場域，自行制定了一些政策性文件、指導(dǎo)性文件。由于此類文件制定主體不一，因此觀點(diǎn)也各異，有些是從人工智能開發(fā)者的立場出發(fā)，有些則是站在人工智能使用者的角度進(jìn)行考量。

日本在2018年討論修改著作權(quán)法時，立法者在保護(hù)著作權(quán)人權(quán)利與鼓勵人工智能產(chǎn)業(yè)發(fā)展中，選擇了促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。

微觀來看，日本對于數(shù)據(jù)保護(hù)領(lǐng)域、特定身份職業(yè)資質(zhì)領(lǐng)域中人工智能的監(jiān)管，與世界各國的差異并不大，并無足以使其成為開發(fā)者天堂的特別之處。但是在知識產(chǎn)權(quán)領(lǐng)域，尤其是著作權(quán)保護(hù)領(lǐng)域，日本對于人工智能的監(jiān)管則與眾不同。

需要說明的是，人工智能從其被開發(fā)到投入應(yīng)用大體可以被分為兩個階段：第一階段為學(xué)習(xí)、訓(xùn)練階段，也被稱為開發(fā)階段；第二階段為生成、創(chuàng)作階段，也被稱為應(yīng)用階段。在第二階段中，日本也沒有給予人工智能開發(fā)者、使用者特殊豁免，著作權(quán)侵權(quán)的認(rèn)定思路以及懲罰措施與其他國家也并無區(qū)別。其監(jiān)管的特殊之處，主要集中在人工智能的開發(fā)階段。

根據(jù)日本著作權(quán)法的規(guī)定，在人工智能的開發(fā)、學(xué)習(xí)、訓(xùn)練過程中使用作品的，無需取得著作權(quán)人的同意。也就是說，用于人工智能進(jìn)行機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的材料，即便是具有著作權(quán)的作品，如文字作品、美術(shù)作品等，無論該種機(jī)器學(xué)習(xí)、深度學(xué)習(xí)是否以營利為目的，就算相關(guān)主體未取得著作權(quán)人的同意，也不會侵犯相關(guān)作品權(quán)利人的著作權(quán)。之所以日本采取如此程度的寬松監(jiān)管，主要是因為其在2018年討論修改著作權(quán)法時，立法者在保護(hù)著作權(quán)人權(quán)利與鼓勵人工智能產(chǎn)業(yè)發(fā)展中，選擇了促進(jìn)人工智能產(chǎn)業(yè)發(fā)展，意圖引領(lǐng)人工智能產(chǎn)業(yè)蓬勃發(fā)展，故而采取了該種立法模式。

雖然日本業(yè)界對立法所存在的著作權(quán)人權(quán)利保護(hù)不周問題也提出了質(zhì)疑，但目前日本政府并無調(diào)整監(jiān)管思路的意思或行動，反而有意繼續(xù)維持發(fā)達(dá)國家中相對寬松的人工智能開發(fā)、學(xué)習(xí)監(jiān)管環(huán)境，堅持以開放包容的人工智能監(jiān)管模式歡迎海外人工智能開發(fā)者的到來。

（胡潔人，浙江大學(xué)城市學(xué)院法學(xué)院特聘研究員、博士生導(dǎo)師；施子涵，同濟(jì)大學(xué)法學(xué)院碩士研究生）

編輯：薛華? ? icexue0321@163.com