頂層設(shè)計：AI牽動全球法治高地排位戰(zhàn)

文/吳玄 圖/曉野

當前，人類社會已經(jīng)由信息化、數(shù)字化步入了智能化時代。作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，人工智能（AI）及產(chǎn)業(yè)的發(fā)展不僅影響著未來國家間的競爭，也正深深改變著人們的日常生活。

人工智能已成為數(shù)字經(jīng)濟發(fā)展的新引擎

近年來，伴隨著高性能計算機、云計算、大數(shù)據(jù)、傳感器的普及以及計算成本的下降，人工智能技術(shù)已經(jīng)步入第三次高速發(fā)展時期。人工智能正成為數(shù)字經(jīng)濟的新引擎和國際競爭的新焦點。目前，世界主要發(fā)達國家均將人工智能產(chǎn)業(yè)發(fā)展作為提升國家競爭力、維護國家安全的重大戰(zhàn)略——

2016年，美國出臺了《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》，明確將下一代人工智能視為國家競爭的戰(zhàn)略高地。美國于2019年更新后的規(guī)劃正力圖進一步推動人工智能領(lǐng)域前沿技術(shù)研究，以確保其優(yōu)勢地位。此外，2020年美國國會通過了《國家人工智能計劃法案》，要求在國家層面實施發(fā)展計劃，解決人工智能產(chǎn)業(yè)技術(shù)發(fā)展的相關(guān)問題。

2018年4月，歐盟委員會發(fā)布政策文件《歐盟人工智能》，提出了以基本權(quán)利保障為基礎(chǔ)的人工智能發(fā)展路線，努力確保歐洲在人工智能領(lǐng)域的國際競爭力。2020年歐盟出臺的《歐洲人工智能白皮書》明確提出，歐盟人工智能產(chǎn)業(yè)發(fā)展的目標是“成為全球可信賴人工智能的領(lǐng)導(dǎo)者”。

同樣，我國對人工智能領(lǐng)域關(guān)注已久。在國家層面，2015年國務(wù)院出臺的《中國制造2025》首次提出發(fā)展智能裝備、智能產(chǎn)品和生產(chǎn)智能化。2017年7月，國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，確定我國人工智能發(fā)展三步走的目標；同年10月，黨的十九大報告提出推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實體經(jīng)濟的深度融合。隨后，國家各部委開始密集出臺人工智能相關(guān)政策。2019年9月，我國科技部印發(fā)了《國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)工作指引》：強調(diào)充分發(fā)揮地方主體作用，在體制機制、政策法規(guī)等方面先行先試，形成促進人工智能與經(jīng)濟社會發(fā)展深度融合的新路徑；計劃至2023年，全國布局建設(shè)20個左右人工智能創(chuàng)新發(fā)展試驗區(qū)。據(jù)此，北京、上海、深圳、杭州等地相繼展開了新一代人工智能創(chuàng)新試驗區(qū)的建設(shè)工作。

據(jù)了解，上海在信息化與數(shù)字化方面具有扎實的基礎(chǔ)，在人工智能產(chǎn)業(yè)發(fā)展上起步較早。2017年11月，上海市人民政府辦公廳印發(fā)的《關(guān)于本市推動新一代人工智能發(fā)展的實施意見》中，提出了上海市人工智能的發(fā)展目標。隨后，上海市推出了系列政策文件，著力將上海打造成我國人工智能產(chǎn)業(yè)發(fā)展的高地——其中包括全國首個地方性的人工智能5年規(guī)劃、首個地方性人工智能標準體系、首個人工智能地方標準化技術(shù)委員會、首個算法創(chuàng)新行動計劃等。

2022年10月1日起正式實施的《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》（以下簡稱《條例》），是全國首部促進人工智能發(fā)展的省級地方性法規(guī)?！稐l例》不僅通過地方立法的方式將行之有效的創(chuàng)新舉措系統(tǒng)地固定下來，同時為上海市人工智能產(chǎn)業(yè)未來的發(fā)展提供了法治保障。

人工智能的發(fā)展離不開法律的規(guī)制

眾所周知，人工智能在推動人類社會高速發(fā)展的同時，因技術(shù)發(fā)展的不確定性等原因蘊含著諸多挑戰(zhàn)。當前人類已經(jīng)步入了“風(fēng)險社會”，科學(xué)技術(shù)一方面提高了人們感知和化解風(fēng)險的能力；另一方面其自身也是風(fēng)險的來源，兩者相互促進、彼此轉(zhuǎn)化。盡管人工智能代表著未來先進發(fā)展方向，但對技術(shù)的盲目屈從很可能引發(fā)社會系統(tǒng)性風(fēng)險。如今，越來越多的專業(yè)人士開始關(guān)注人工智能可能給社會帶來的負面效應(yīng)，如：技術(shù)和機器對人類的控制、個人對自身隱私與個人信息失去控制、算法黑箱及偏見引發(fā)的社會不信任等。

上海浦東張江人工智能島AI體驗中心展示的人工智能機器人：1.智能餐飲機器人2.全天候智能無人機3.達芬奇Xi手術(shù)系統(tǒng)

法律作為社會發(fā)展的壓艙石，在技術(shù)進步的過程中發(fā)揮了重要的指引作用。目前，人工智能創(chuàng)新發(fā)展的法律框架尚未成形，全球范圍內(nèi)人工智能技術(shù)適用的基本規(guī)范和技術(shù)標準尚不成熟。規(guī)則制定的先機很可能轉(zhuǎn)化為影響全球人工智能產(chǎn)業(yè)布局和技術(shù)創(chuàng)新走向的推力。因此，相關(guān)規(guī)則也成為各國博弈的場域，如：歐盟于2021年4月發(fā)布《人工智能法》提案，提出規(guī)避化解人工智能風(fēng)險，發(fā)展可信賴的人工智能技術(shù)，以引領(lǐng)人工智能規(guī)則的發(fā)展。

在此背景下，滬上《條例》的出臺，承載了為國家層面的制度設(shè)計積累經(jīng)驗的先行先試功能。縱覽《條例》全文，不僅涉及人工智能科技創(chuàng)新、產(chǎn)業(yè)培育、應(yīng)用場景建設(shè)和產(chǎn)業(yè)生態(tài)建設(shè)，還包括統(tǒng)籌人工智能產(chǎn)業(yè)發(fā)展與安全內(nèi)容。筆者認為《條例》具有以下特點：

首先，堅持“以人為本、科技向善”為人工智能發(fā)展的基本原則。習(xí)近平總書記在2018年10月主持十九屆中央政治局第9次集體學(xué)習(xí)時強調(diào)：“要加強人工智能發(fā)展的潛在風(fēng)險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。”2019年6月，二十國集團提出“G20人工智能原則”，將“以人為本、可信人工智能”列為人工智能技術(shù)發(fā)展的基本原則?！稐l例》延續(xù)了上述原則，明確在上海人工智能創(chuàng)新、應(yīng)用及發(fā)展中尊重人的主體地位。

其次，創(chuàng)新監(jiān)管模式，審慎包容人工智能的社會應(yīng)用。簡單來說，人工智能是將物理世界數(shù)字化后進行演算預(yù)測。在此過程中，為了確保算法的準確性，需要不斷糾正偏差。這預(yù)示著百分百正確的理想型人工智能并不存在。有學(xué)者甚至提出應(yīng)放棄設(shè)計無差錯的人工智能，轉(zhuǎn)而發(fā)展容錯機制強的人工智能。在人工智能創(chuàng)新監(jiān)管中，對技術(shù)施以過于嚴苛的責(zé)任很可能適得其反。為此，《條例》首創(chuàng)“容錯機制”，提出就人工智能產(chǎn)業(yè)發(fā)展過程中的輕微違法行為等制定依法不予行政處罰清單，通過批評教育、指導(dǎo)約談等措施促進公民、法定代表人和其他組織依法合規(guī)開展生產(chǎn)經(jīng)營活動，為人工智能產(chǎn)業(yè)的發(fā)展提供較為寬容的監(jiān)管環(huán)境。

再次，以分級治理制度為保障，平衡人工智能應(yīng)用的風(fēng)險與創(chuàng)新。隨著人工智能技術(shù)的推廣和普及，其應(yīng)用場景、影響范圍、風(fēng)險大小都存在著很大區(qū)別。面對如此復(fù)雜、智能的情形，不能施以簡單的“一刀切”式監(jiān)管，分級治理勢在必行。2020年歐盟的《人工智能白皮書》即提出對高風(fēng)險人工智能系統(tǒng)的強制性監(jiān)管要求。為此，《條例》予以吸納改進，建立了較為完善的分級治理體系。對于低風(fēng)險、低致害的人工智能，采用事前披露和事后控制的常規(guī)治理模式，鼓勵先行先試，完善技術(shù)；對于高風(fēng)險、高致害的人工智能，實施清單式管理，在開發(fā)和應(yīng)用層面予以嚴格的監(jiān)管并賦予較高的技術(shù)標準，確保人工智能的安全性。

4.康復(fù)機器人

5.AI選股、盯盤、SaaS量化交易平臺

實現(xiàn)人工智能產(chǎn)業(yè)的健康發(fā)展應(yīng)將《條例》落在實處

借助上述措施，《條例》較好地平衡了人工智能創(chuàng)新發(fā)展與應(yīng)用安全風(fēng)險的關(guān)系。然而，徒法不足以自行，要將法律規(guī)定真正發(fā)揮作用，在實施中應(yīng)當注意以下問題：

首先，強化人工智能倫理委員會的實質(zhì)作用。人工智能創(chuàng)新應(yīng)當服務(wù)于人民，遵循人類社會的基本準則。將抽象的倫理規(guī)則適用于復(fù)雜多元的人工智能應(yīng)用場景中是人工智能法律規(guī)制的首要問題。在此，《條例》提出的人工智能倫理委員會或可以成為該問題的解決方案。在人工智能創(chuàng)新、應(yīng)用和產(chǎn)業(yè)化全過程中，應(yīng)當發(fā)揮人工智能倫理委員會的監(jiān)督指導(dǎo)作用。在某些重大應(yīng)用場景，針對高風(fēng)險的人工智能，倫理委員會甚至應(yīng)當具備一票否決權(quán)。

其次，注重與已有網(wǎng)絡(luò)安全與數(shù)據(jù)類法律法規(guī)的銜接。一般認為，人工智能是數(shù)據(jù)、算力和算法的技術(shù)集群。人工智能的發(fā)展離不開大數(shù)據(jù)的支撐，其創(chuàng)新和應(yīng)用也涉及大量的數(shù)據(jù)與個人信息處理活動。人工智能是一個復(fù)雜的系統(tǒng)工程，其法律規(guī)制也應(yīng)當借助法律法規(guī)體系來完成。一方面，應(yīng)關(guān)注現(xiàn)行法律中關(guān)于數(shù)據(jù)安全和個人信息保護的規(guī)定，如《數(shù)據(jù)安全法》《上海市數(shù)據(jù)條例》；另一方面，應(yīng)將現(xiàn)行法律中關(guān)于人工智能的規(guī)定與《條例》加以整合，如《個人信息保護法》。

最后，在人工智能責(zé)任分配中，應(yīng)靈活運用不同部門法手段。《條例》雖然是產(chǎn)業(yè)促進法，但同時也包含了大量行政監(jiān)管內(nèi)容。人工智能產(chǎn)業(yè)發(fā)展中，既有平等民事主體之間的私法活動，也涉及國家權(quán)力機關(guān)的行政監(jiān)管、行政執(zhí)法活動。同一個人工智能創(chuàng)新，很可能同時符合“輕微違法行為”和民事侵權(quán)行為的構(gòu)成要件。在此情形下，行政機關(guān)的“不予處罰”并不代表著侵權(quán)責(zé)任的免除。

綜上，人工智能產(chǎn)業(yè)應(yīng)當堅持安全與發(fā)展并重。一方面，應(yīng)給予人工智能產(chǎn)業(yè)創(chuàng)新必要的支持，提供有利的監(jiān)管環(huán)境；另一方面，需要識別人工智能創(chuàng)新可能帶來的風(fēng)險，對技術(shù)發(fā)展的方向加以引導(dǎo)，確保技術(shù)有益于人類社會的發(fā)展。