破局為先：AI法規(guī)的“上海方案”

文/本刊記者 黃靈

人工智能（AI）是事關(guān)未來競爭力的“硬科技”，是習(xí)近平總書記要求上海“集中精銳力量、加快發(fā)展突破”的三大先導(dǎo)產(chǎn)業(yè)之一；人工智能是引領(lǐng)未來發(fā)展的戰(zhàn)略性技術(shù)，也是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力。

作為我國人工智能產(chǎn)業(yè)領(lǐng)先地區(qū)之一，加快發(fā)展人工智能產(chǎn)業(yè)，是上海貫徹落實國家戰(zhàn)略部署、提升城市能級和核心競爭力的重要抓手。2022年9月22日，《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》（以下簡稱《條例》）經(jīng)上海市十五屆人大常委會第四十四次會議表決通過，自2022年10月1日起施行。作為國內(nèi)第一部省級地方性人工智能法規(guī)，《條例》將為上海人工智能發(fā)展提供有力保障，同時也為我國人工智能治理貢獻(xiàn)了“上海方案”。

“上海方案”：《條例》為滬上AI產(chǎn)業(yè)發(fā)展提供法治保障

結(jié)合習(xí)近平總書記對上海提出加快打造人工智能世界級產(chǎn)業(yè)集群的要求，近年來滬上積極落實國家戰(zhàn)略部署，著力建設(shè)人工智能上海高地。記者從上海市經(jīng)濟(jì)和信息化委員會（以下簡稱“市經(jīng)信委”）了解到：當(dāng)前，上海人工智能產(chǎn)業(yè)能級正實現(xiàn)新躍升、創(chuàng)新策源取得新突破、應(yīng)用示范激活新動能、制度供給引領(lǐng)新發(fā)展。目前，滬上人工智能產(chǎn)業(yè)規(guī)模已從2018年1340億元提升到3056億元，產(chǎn)業(yè)人才從2018年10萬提升到了23萬，實現(xiàn)雙倍增；高性能云端訓(xùn)練芯片等24塊“智能芯”流片已實現(xiàn)量產(chǎn)，亞洲最大AI算力中心啟動運營，全球首款A(yù)I研發(fā)乳腺癌新藥進(jìn)入臨床等；截至2022年9月底，已累計開放3批58個應(yīng)用場景引領(lǐng)城市數(shù)字化轉(zhuǎn)型，1000余臺智能服務(wù)機(jī)器人助力疫情防控；通過發(fā)布人工智能5年規(guī)劃、算法行動計劃、標(biāo)準(zhǔn)體系等政策舉措建設(shè)人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，開創(chuàng)了國內(nèi)“多個第一”。

上海市財經(jīng)委立法監(jiān)督處處長張震接受記者采訪時表示：

“《條例》中體現(xiàn)的人工智能的上海標(biāo)準(zhǔn)，太新了！新到什么程度？隨著2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》出臺，法律制度規(guī)劃方面上海做得很領(lǐng)先，目前全國乃至全世界都還沒有一部這方面的立法，尤其我們立足的是促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。

我們的立法扣住屬性，關(guān)注人工智能是什么（科技和社會屬性）。當(dāng)前，中國對人工智能的運用已經(jīng)遍布人們的日常社會生活和經(jīng)濟(jì)活動。受制度影響，國外應(yīng)用受到了一定的制約。我們扣住人工智能的科技和社會屬性后，重點關(guān)注‘科技創(chuàng)興、促進(jìn)產(chǎn)業(yè)、應(yīng)用賦能’；立法先規(guī)避‘硬幣的另一面’（即：產(chǎn)業(yè)治理和安全）。

此次《條例》的亮點較多：比如，第9條，‘本市鼓勵公民、法人和其他組織在人工智能領(lǐng)域開展各項創(chuàng)新活動，法律、法規(guī)以及國家和本市相關(guān)規(guī)定明確禁止事項除外。市經(jīng)濟(jì)信息化部門會同有關(guān)部門探索建立人工智能科研、應(yīng)用等領(lǐng)域的負(fù)面清單’。這是作為激發(fā)創(chuàng)新的科學(xué)家條款。此前，沒有機(jī)構(gòu)和個人告訴我們，什么能做，什么不能做。《條例》回應(yīng)科學(xué)家顧慮，鼓勵創(chuàng)新，為其解綁……

要知道，這是我們在推自己的人工智能產(chǎn)業(yè)發(fā)展標(biāo)準(zhǔn)。凡是經(jīng)過法定程序推出的，將標(biāo)注我們的（上海）標(biāo)識。這也是在國際上爭奪該領(lǐng)域的話語權(quán)，是大國地位的顯現(xiàn)。”

產(chǎn)業(yè)賦能：立足制度創(chuàng)新，破解發(fā)展難題

據(jù)上海市人大常委會法工委主任閻銳介紹：“經(jīng)過多年發(fā)展，上海市人工智能產(chǎn)業(yè)整體保持增長態(tài)勢，行業(yè)價值紅利正加速顯現(xiàn)。但產(chǎn)業(yè)發(fā)展中仍存在自主創(chuàng)新能力不足、場景落地難、治理體系不夠健全等堵點難點問題。為此，有必要從地方性法規(guī)層面進(jìn)行制度創(chuàng)新，發(fā)揮上海市人工智能產(chǎn)業(yè)的生態(tài)優(yōu)勢，破解發(fā)展中的問題，確保重要戰(zhàn)略任務(wù)落實落地，為上海數(shù)字經(jīng)濟(jì)的高質(zhì)量發(fā)展提供法治保障?！?/p>

記者了解到：本次《條例》共6章72條。根據(jù)上海市人工智能產(chǎn)業(yè)發(fā)展特點和實際，立足于促進(jìn)法的基本定位，注重創(chuàng)新性和引領(lǐng)性，以充分發(fā)揮有效市場和有為政府的作用，將采取各種激勵措施推動人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展?！稐l例》重點規(guī)范了以下五個方面的內(nèi)容：

第一，明確人工智能產(chǎn)業(yè)范圍，完善管理體制機(jī)制。《條例》根據(jù)國家有關(guān)標(biāo)準(zhǔn)和上海市實際，對人工智能、人工智能產(chǎn)業(yè)予以明確，并就管理體制機(jī)制等內(nèi)容作出相關(guān)規(guī)定：明確各級政府及相關(guān)部門在促進(jìn)人工智能產(chǎn)業(yè)發(fā)展中的具體職責(zé)；設(shè)立上海市人工智能戰(zhàn)略咨詢專家委員會，為產(chǎn)業(yè)發(fā)展中的重大戰(zhàn)略、重大決策提供咨詢意見；要求人工智能行業(yè)協(xié)會及其他相關(guān)行業(yè)組織，促進(jìn)產(chǎn)業(yè)協(xié)同，加強行業(yè)自律；鼓勵人工智能領(lǐng)域市場主體積極創(chuàng)新；加強人工智能技術(shù)、產(chǎn)業(yè)等方面的合作，推動人工智能領(lǐng)域科普和宣傳。

第二，優(yōu)化要素資源配置，推動科技創(chuàng)新?！稐l例》圍繞增加人工智能創(chuàng)新的源頭供給，促進(jìn)開源共享，以提升持續(xù)創(chuàng)新能力，提出：其一，聚焦算力、算法、數(shù)據(jù)三大基本要素，加強算力基礎(chǔ)設(shè)施規(guī)劃，推進(jìn)公共算力資源平臺建設(shè)，保障中小企業(yè)獲得普惠的公共算力；推動算法模型交易流通，加強對算法模型的保護(hù)；突出人工智能領(lǐng)域高質(zhì)量數(shù)據(jù)集建設(shè)，擴(kuò)大面向人工智能產(chǎn)業(yè)的公共數(shù)據(jù)供給范圍。其二，強化科技創(chuàng)新，尤其是加強基礎(chǔ)理論和關(guān)鍵共性技術(shù)的研發(fā)、鼓勵跨學(xué)科交叉領(lǐng)域研究；推動相關(guān)國家實驗室、重大科研平臺等創(chuàng)新發(fā)展；推動人工智能領(lǐng)域大型科學(xué)儀器設(shè)施開放共享；推動科研項目立項和組織管理方式改革、探索賦予科研人員人工智能領(lǐng)域職務(wù)科技成果所有權(quán)或者長期使用權(quán)等。

第三，加大政策支持力度，促進(jìn)產(chǎn)業(yè)發(fā)展?！稐l例》通過支持人工智能核心產(chǎn)業(yè)發(fā)展，強化人工智能企業(yè)集聚，推動人工智能產(chǎn)業(yè)整體創(chuàng)新突破，提出：突出人工智能軟硬一體化生態(tài)建設(shè)，加強龍頭企業(yè)、創(chuàng)業(yè)企業(yè)培育，依托龍頭企業(yè)帶動產(chǎn)業(yè)鏈上下游協(xié)同發(fā)展，構(gòu)建人工智能產(chǎn)業(yè)生態(tài)系統(tǒng)；加大資金支持、強化人才激勵與保障、加強知識產(chǎn)權(quán)保護(hù)等，營造良好的產(chǎn)業(yè)發(fā)展環(huán)境；發(fā)揮企業(yè)和行業(yè)組織在相關(guān)標(biāo)準(zhǔn)制定中的作用，使用人工智能“上海標(biāo)準(zhǔn)”的專門標(biāo)識；突出重點方向，著力促進(jìn)人工智能基礎(chǔ)硬件、關(guān)鍵軟件、智能產(chǎn)品等高質(zhì)量發(fā)展。

第四，推動場景應(yīng)用賦能，融合經(jīng)濟(jì)社會發(fā)展?！稐l例》圍繞提高經(jīng)濟(jì)發(fā)展質(zhì)量、城市生活品質(zhì)和現(xiàn)代化管理能力，進(jìn)一步加強人工智能在經(jīng)濟(jì)、生活、城市治理等領(lǐng)域規(guī)?；瘧?yīng)用，提出：明確市經(jīng)濟(jì)信息化部門組織制定人工智能示范應(yīng)用清單，并指導(dǎo)和督促相關(guān)方面予以落實；深化人工智能在制造、金融、商務(wù)、物流等經(jīng)濟(jì)領(lǐng)域的應(yīng)用；深化人工智能在互聯(lián)網(wǎng)、教育、醫(yī)療、養(yǎng)老等生活領(lǐng)域的應(yīng)用；深化人工智能在城市治理領(lǐng)域的應(yīng)用，加強智能感知、智能中樞和智慧司法建設(shè)，全面推進(jìn)城市治理中的人工智能場景應(yīng)用等。

《條例》的出臺，為未來人工智能產(chǎn)業(yè)的拓展提供了原則框架和制度指引

第五，構(gòu)建體系化治理框架，維護(hù)產(chǎn)業(yè)發(fā)展與安全?！稐l例》兼顧人工智能產(chǎn)業(yè)發(fā)展與安全可控，明確人工智能產(chǎn)業(yè)發(fā)展相關(guān)行為底線，保障人工智能產(chǎn)業(yè)健康、安全發(fā)展，包括：堅持總體國家安全觀，保障產(chǎn)業(yè)鏈供應(yīng)鏈安全；明確市政府及有關(guān)部門要根據(jù)人工智能快速迭代的特點，制定、修改或者廢止相應(yīng)的監(jiān)管規(guī)則和標(biāo)準(zhǔn)，對高風(fēng)險和中低風(fēng)險人工智能產(chǎn)品和服務(wù)采取不同的治理模式；規(guī)定市有關(guān)部門可以就人工智能產(chǎn)業(yè)發(fā)展過程中的輕微違法行為等制定依法不予行政處罰清單，明確人工智能倫理專家委員會職責(zé)，發(fā)揮其在人工智能領(lǐng)域倫理規(guī)范方面的作用；明確相關(guān)主體開展人工智能研發(fā)和應(yīng)用，應(yīng)當(dāng)遵守法律、法規(guī)規(guī)定，增強倫理意識，并不得從事相關(guān)禁止行為；注重對勞動者、老年人、殘疾人、婦女、未成年人等群體的保護(hù)。

相關(guān)學(xué)界人士表示，《條例》的出臺，為相關(guān)研發(fā)人員和學(xué)者提供了理論和實踐的寬松環(huán)境，也為未來人工智能產(chǎn)業(yè)的拓展提供了原則框架和制度指引。

貫徹落實：加快打造人工智能世界級產(chǎn)業(yè)集群

《條例》通過后，市經(jīng)信委副主任張英在接受記者采訪時表示，下階段將主要從以下方面抓好《條例》的貫徹落實：

首先，進(jìn)一步加大要素供給，夯實產(chǎn)業(yè)發(fā)展基礎(chǔ)。強化算力、算法、數(shù)據(jù)人工智能三大要素的支撐：算力方面，將研究制定公共算力資源供給辦法，推動公共算力資源平臺建設(shè)，強化算力統(tǒng)籌和智能調(diào)度，保障市場主體算力需求；算法方面，將鼓勵開展算法模型檢測、評估，會同相關(guān)部門探索算法模型備案，加強對算法模型知識產(chǎn)權(quán)保護(hù)；數(shù)據(jù)方面，將建立市級公共數(shù)據(jù)動態(tài)開放清單，開展人工智能產(chǎn)業(yè)數(shù)據(jù)資源調(diào)查，加大面向人工智能產(chǎn)業(yè)的公共數(shù)據(jù)供給，加強行業(yè)訓(xùn)練數(shù)據(jù)集建設(shè)。

其次，進(jìn)一步破解產(chǎn)業(yè)瓶頸，提升產(chǎn)業(yè)能級水平。市經(jīng)信委針對《條例》明確要發(fā)力的產(chǎn)業(yè)細(xì)分領(lǐng)域，將進(jìn)一步聚焦資源予以調(diào)整，以推動人工智能高質(zhì)量發(fā)展，如：智能芯片領(lǐng)域，將強化芯片設(shè)計與軟件協(xié)同適配，培育智能芯片應(yīng)用生態(tài)體系；智能機(jī)器人領(lǐng)域，將鼓勵培育系統(tǒng)集成商，鼓勵以產(chǎn)品租賃、服務(wù)采購等新模式，拓展應(yīng)用場景；智能網(wǎng)聯(lián)汽車領(lǐng)域，將探索在公路、城市道路及特定區(qū)域開展測試、示范應(yīng)用和運營；智能醫(yī)療器械領(lǐng)域，將開展人工智能醫(yī)療器械注冊審批指導(dǎo)服務(wù)，支持相關(guān)創(chuàng)新產(chǎn)品進(jìn)入國家創(chuàng)新醫(yī)療器械特別審批程序等。

再次，進(jìn)一步激勵應(yīng)用落地，加快賦能千行百業(yè)。市經(jīng)信委表示，將會同各區(qū)各部門，結(jié)合城市數(shù)字化轉(zhuǎn)型，更好推動人工智能賦能經(jīng)濟(jì)、生活、治理等各領(lǐng)域，打造一批城市級應(yīng)用場景。

最后，進(jìn)一步強化發(fā)展安全，加強產(chǎn)業(yè)敏捷治理。圍繞《條例》提出的“以人為本、科技向善”發(fā)展原則，市經(jīng)信委將進(jìn)一步注重促進(jìn)創(chuàng)新與防范風(fēng)險相統(tǒng)一：一方面探索分級治理和沙盒監(jiān)管，研究出臺高風(fēng)險人工智能產(chǎn)品和服務(wù)清單等；另一方面成立人工智能倫理專家委員會，制定倫理規(guī)范指南，開展倫理安全教育和宣傳，促進(jìn)人工智能產(chǎn)業(yè)在規(guī)范中發(fā)展、在發(fā)展中規(guī)范。