歐盟發(fā)布最嚴格AI監(jiān)管立法草案

貢水

歐委會提出一項針對人工智能的法律草案

為了對人工智能（以下簡稱AI）的應用進行規(guī)范和限制，保護公民日常生活和正當權利不受侵害，歐盟委員會（以下簡稱歐委會）不久前提出一項針對AI的法律草案。此外，還公布了針對機器人和3D打印機的AI機器條例以及AI協(xié)調(diào)計劃。

嚴加監(jiān)管不懈怠

AI技術正在改變世界，重塑人類社會。然而隨著該項技術的發(fā)展，算法黑箱、泄露人類隱私和技術濫用等一系列問題日趨嚴重。以算法黑箱為例，它是指由于技術本身的復雜性以及媒體機構、技術公司的排他性商業(yè)政策，算法猶如一個未知的“黑箱”，用戶并不清楚算法的目標和意圖，也無從獲悉算法設計者、實際控制者以及機器生成內(nèi)容的責任歸屬等信息，更談不上對其進行評判和監(jiān)督。歐委會的這項法律草案長達81頁，該草案不允許使用AI系統(tǒng)建立社會征信體系，禁止一些對個人隱私構成“高風險”的AI應用。這意味著未來不符合準入標準的AI系統(tǒng)，可能無法進入歐盟。

法律草案將重塑AI公司的資產(chǎn)價值，歐盟投資者將根據(jù)新規(guī)制定投資決策，或以新規(guī)為基準重新審視已投項目。如果不這樣做，他們的一些投資項目可能會被降低估值。與此同時，歐盟還力圖創(chuàng)造一個有利于投資和創(chuàng)新的環(huán)境，以平衡新規(guī)帶來的風險。若有商家不遵守規(guī)定，首先會受到警告，然后產(chǎn)品可能被下架，如屢犯不改則可罰沒其年收入的6%。這意味著歐盟將對AI領域的懲罰力度提升至競爭（反壟斷）領域的維度，后者是歐盟境內(nèi)執(zhí)法力度最大的領域。

歐委會按照風險高低，將AI應用場景分為“最低、有限、高、不可接受”四個風險等級，其中等級越高的應用場景受到的限制越嚴格。風險等級最低的應用場景包括基于AI的電子游戲和垃圾郵件識別軟件等，目前歐盟絕大部分AI系統(tǒng)都屬于該類別，歐委會提出的法律草案對此不做約束。高風險的應用場景指可能對人們生命和生活造成嚴重影響的場景，涉及交通設備、教育培訓、醫(yī)療輔助、入職就業(yè)和信用評級等公共服務，以及貸款和邊境管制等公民權利的應用。如果AI應用使公民的生命與安全處于危險之中、剝奪公民獲得教育和職業(yè)課程的機會、影響旅行證件的真實性，這些應用將被判定為高風險。人臉識別所基于的所有遠距離生物識別系統(tǒng)都被認定為具有高風險，禁止執(zhí)法部門在公共場合使用這一技術。只有少數(shù)情況例外，如尋找失蹤兒童或防止個別恐怖襲擊、甄別犯罪分子和可疑人員等，這類應用需得到司法部門或獨立機構授權。不可接受風險的場景包括某些明顯威脅民眾安全和生活以及侵犯民眾權利的系統(tǒng)，利用人類行為來誤導用戶、違反其自由意志的應用，如使用語音助手誘導未成年人做出危險行為的玩具等，這類應用必須禁止。

積極醞釀立法程序

近年來，歐委會在支持創(chuàng)新的同時，確保AI技術不侵犯歐盟超過5億人口的隱私，試圖在兩者之間尋求適當?shù)钠胶?。在此次發(fā)布法律草案之前，歐盟對AI監(jiān)管的計劃已經(jīng)醞釀了幾年的時間。

2018年4月25日，歐委會發(fā)布了一份題為《歐盟人工智能》的政策文件，描述了歐盟在AI競爭中的地位，并制定了歐盟AI行動計劃。政策文件提出三大目標：一是增強歐盟的技術與產(chǎn)業(yè)能力，推進AI應用。要增進投資，以加強基礎研究，實現(xiàn)科學突破，升級AI科研基礎設施，開發(fā)針對醫(yī)療和交通等關鍵部門的AI應用，促進AI的應用及數(shù)據(jù)的獲取。同時通過公私合作增加AI研發(fā)投資，到2020年整個歐盟的投資至少應達到200億歐元，并在接下來10年里每年爭取投資超過200億歐元。二是做好迎接社會經(jīng)濟變革的準備。為支持成員國的勞動力與教育政策，歐委會制定專門的（再）培訓計劃，涵蓋企業(yè)、工會、高等教育機構和公共機構，以應對可能被自動化取代的職業(yè)。歐洲社會基金將為此提供支持。三是確立合適的倫理和法律框架。與歐洲科學和新技術倫理小組合作，設立一個面向利益相關方的歐洲AI聯(lián)盟的框架，開發(fā)AI倫理指南草案，并充分考慮基本權利。

2019年4月8日，歐委會公布AI道德準則，這是在2018年12月公布的AI道德準則草案的基礎上演變而來的。這份準則提出了實現(xiàn)可信賴AI的7個要素：1.人的能動性和監(jiān)督。AI系統(tǒng)應通過支持人的能動性和基本權利以實現(xiàn)公平，而不是減少、限制或錯誤地指導人類自治。2.穩(wěn)健性和安全性。值得信賴的AI要求算法足夠安全、可靠和穩(wěn)健，以處理AI系統(tǒng)所有生命周期階段的錯誤或不一致。3.隱私和數(shù)據(jù)管理。公民應該完全控制自己的數(shù)據(jù)，同時與之相關的數(shù)據(jù)不會被用來傷害或歧視他們。4.透明度。應確保AI系統(tǒng)的可追溯性。5.多樣性、非歧視性和公平性。AI系統(tǒng)應考慮人類能力、技能和要求的總體范圍，并確保可接近性。6.社會和環(huán)境福祉。應采用AI系統(tǒng)來促進積極的社會變革，增強可持續(xù)性和生態(tài)責任。7.問責。應建立機制，確保對AI系統(tǒng)及其成果負責。

白皮書提出一系列AI研發(fā)和監(jiān)管的政策措施，并提出建立“可信賴的AI框架”，以確保AI仍然值得信賴，并尊重歐盟的價值觀和原則。

2020年2月19日，歐委會在布魯塞爾發(fā)布《人工智能白皮書》（以下簡稱白皮書），以促進歐洲在AI領域的創(chuàng)新能力，推動道德和可信賴技術在歐洲經(jīng)濟領域的發(fā)展和應用。根據(jù)白皮書，在接下來的5年中，歐委會將專注于數(shù)字化的三個關鍵目標：為人民服務的技術、公平競爭的經(jīng)濟和開放、民主與可持續(xù)的社會。

2020年10月20日，歐洲議會通過了有關歐盟如何更好地監(jiān)管AI的三份立法倡議報告，期望推動AI的立法進程，以促進創(chuàng)新、道德標準和技術信任。本次立法倡議報告主要包括三大部分：一，AI倫理框架。該立法倡議為AI、機器人以及相關技術（包括利用人工智能生成的軟件、算法和數(shù)據(jù)）確立了一系列倫理原則。該立法建議的核心在于識別“高風險”（含有歧視，或有違隱私保護）的AI技術，并采用嚴格的倫理規(guī)范標準加以限制。二，AI民事責任。該立法試圖構建一個民事框架，專門針對AI對自然人（包括法人）生命安全、精神健康以及物質(zhì)財產(chǎn)造成的損害，對運營者進行追責。該建議同樣區(qū)分AI是否為高風險，并對高風險AI實施更為嚴格的責任原則。三，知識產(chǎn)權。倡議報告分別列出了一些知識產(chǎn)權的關鍵原則，比如需要區(qū)分AI輔助的人類作品與AI自生成的作品等，倡議明確AI不應具有法律人格，與AI有關的一切知識產(chǎn)權的所有權都應歸屬于人類。

意義深遠影響大

據(jù)歐盟白皮書和《歐洲創(chuàng)新記分牌》等文件所提供的數(shù)據(jù)，歐盟對AI行業(yè)的監(jiān)管走在世界前列。在市場份額方面，歐盟成員國呈現(xiàn)整體強、個體弱的特點。如果以整體計算，歐盟所占全球市場份額為22%，位列全球第二。如果以個體成員國計算，歐盟所有成員國均落后于美國、中國、以色列。在投資方面，近5年來，歐盟在該領域的投資金額僅為美國的30%左右。在創(chuàng)新能力方面，歐盟的平均創(chuàng)新水平領先于美國，但落后于加拿大、韓國、澳大利亞和日本。

歐委會稱，上述法律草案首先規(guī)范了AI行業(yè)和高風險AI企業(yè)在產(chǎn)品上市前將承擔的相應義務，其次解決了AI應用所帶來的社會風險問題，引起了全球各國的關注?？梢灶A料，它將像2018年5月25日正式全面施行的《歐盟通用數(shù)據(jù)保護條例》（GDPR）一樣，對其他國家產(chǎn)生重大的影響。GDPR是近30年來歐委會數(shù)據(jù)保護立法的最大變動，旨在加強對歐盟境內(nèi)居民的個人數(shù)據(jù)和隱私保護，同時通過統(tǒng)一數(shù)據(jù)和隱私條例來簡化對跨國企業(yè)的監(jiān)管框架。該保護條例取代了1995年頒布的《數(shù)據(jù)保護指令》，它通過監(jiān)管機構和法院執(zhí)行，加大了行政處罰的力度，根據(jù)案情情況最高可罰款2000萬歐元，或公司年營業(yè)額的4%。

有美國媒體援引分析觀點認為，上述法律草案內(nèi)容過于模糊，存在太多漏洞。歐委會解釋說，對AI企業(yè)罰款僅僅是監(jiān)管的一方面。從另一方面來看，還需關注供應商如何投入金錢和人力成本以實現(xiàn)合規(guī)。草案迫使AI企業(yè)重新思考應該如何設計和應用AI技術。至于法律框架將給歐盟以外的AI企業(yè)帶來優(yōu)勢的說法，歐盟數(shù)據(jù)創(chuàng)新中心政策分析師穆勒指出：“雖然法律草案將提高歐洲AI企業(yè)的成本，也會拖累研發(fā)速度，為美國和亞洲企業(yè)帶來機遇，但是如果這些企業(yè)想在歐洲開展業(yè)務，或成為一些產(chǎn)品的供應商，將面對相應的監(jiān)管規(guī)則?！?/p>

上述立法草案在成為法律之前還有很長的路要走，此類法律在歐盟必須得到代表歐盟27國政府的歐洲理事會和直接選舉產(chǎn)生的歐洲議會的批準，整個過程可能需要數(shù)年時間。未來幾個月歐委會將就如何實際遵守這些規(guī)則和如何真正構建對高風險AI應用的監(jiān)管等問題，廣泛聽取AI企業(yè)和用戶的意見。如果該項立法草案獲得通過，那么歐洲將成為世界上首個以法律形式規(guī)范AI數(shù)據(jù)采集使用的地區(qū)，將會對其他國家和地區(qū)AI監(jiān)管法規(guī)的出臺起到示范作用。

編輯：夏春暉 386753207@qq.com