解讀生成式人工智能首部新規(guī)

7月13日，由國家互聯(lián)網信息辦公室聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局共同擬定的《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）發(fā)布。國家互聯(lián)網信息辦公室有關負責人表示：“《辦法》堅持目標導向和問題導向，明確了促進生成式人工智能技術發(fā)展的具體措施?！边@一《辦法》將于2023年8月15日起施行。

監(jiān)管創(chuàng)新

在《辦法》征求意見期間，360公司作為大模型廠商代表也曾參與其中。360公司創(chuàng)始人、董事長兼 CEO 周鴻祎告訴記者，公司通過書面反饋、當面交流等多種方式參與了相關部門組織的溝通交流，而上述監(jiān)管部門也樂于聽取科技企業(yè)的意見和建議。

對外經濟貿易大學數(shù)字經濟與法律創(chuàng)新研究中心主任許可說，早在去年末，ChatGPT便呈現(xiàn)出火熱態(tài)勢，當時引發(fā)管理部門關注的，“首當其沖的是風險問題”?？梢钥吹?，數(shù)月之前的4月11日，國家互聯(lián)網信息辦公室出臺了《生成式人工智能服務管理辦法（征求意見稿）》中，“把風險防控和監(jiān)管放在首位”。

許可稱，在公開征求意見后，國家網信辦曾收到數(shù)以千計的社會反饋意見，后期在對《辦法》的修訂過程中，還組織其他部委、學界、企業(yè)界等各方進行交流、反饋。

“《辦法》是一個集思廣益和最大程度去吸收各方意見的成果?！痹S可說。他指出，頂層設計層面對于通用人工智能產業(yè)的發(fā)展也尤為重視，出臺《辦法》加以規(guī)范產業(yè)發(fā)展的同時，也在一定程度上體現(xiàn)了我國的創(chuàng)新監(jiān)管方式。他認為，創(chuàng)新在于“暫行”二字，“它是一種敏捷治理”。

邊界明確

許可特別提及《辦法》的總則中有如下表述：“基于生成式人工智能服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成式內容的準確性和可靠性?！痹谒磥?，監(jiān)管機構對于技術服務和產業(yè)發(fā)展的規(guī)范，也是一種動態(tài)調整的方法。

周鴻祎也在《辦法》中看到了相關部門在監(jiān)管方式上的先進性，尤其針對大模型生成式的特點，不是事前審查，而是強調事中和事后的過程監(jiān)督，遵循了“促進創(chuàng)新和依法治理相結合的原則”。

《辦法》增加了“推動基礎設施和公共平臺建設”“促進算力共享”“推動公共數(shù)據(jù)開放”等內容，周鴻祎覺得，這表明有關部門鼓勵創(chuàng)新，支持大模型發(fā)展的態(tài)度，為科技企業(yè)創(chuàng)新提供了信心和保障。

在周鴻祎看來，《辦法》還有一個亮點，明確了適用邊界，既能夠規(guī)范大模型的公眾服務，同時也有利于組織機構的研發(fā)和應用。在產業(yè)數(shù)字化賦能方面，他將大模型視為工業(yè)革命級的生產力工具?？梢詭椭鷤鹘y(tǒng)產業(yè)特別是制造業(yè)實現(xiàn)“數(shù)字化到智能化”的升級。

“人工智能是數(shù)字科技、信息技術的明珠。”許可覺得，當前各方都在關注大模型進入行業(yè)場景，探索應用落地，一個可以想象的未來是，生成式人工智能技術與服務會成為一個強有力的生產力工具。而《辦法》的出臺背后，恰恰反映出中國已經認識到生成式人工智能所具備的產業(yè)推動力。

人工智能治理

另外，在日前結束的世界人工智能大會上，不論產投領域還是學界人士，都將目光投注到了創(chuàng)新技術背后帶來的人工智能治理問題上。

在許可看來，公布《辦法》彰顯著中國對于人工智能治理，對以生成式人工智能為代表的通用人工智能產業(yè)治理的一個基本態(tài)度，“從開始的風險預防為主，到現(xiàn)在更多是謀求發(fā)展與安全的平衡”。

看到《辦法》強調“堅持發(fā)展和安全并重原則”，并強化了企業(yè)和內容提供者的主體責任，周鴻祎十分認同，大模型是數(shù)字化的頂峰，同樣是把“雙刃劍”，帶來生產力提升的同時存在安全風險，如數(shù)據(jù)和算法安全問題，甚至技術創(chuàng)新“幻覺”會帶來一定的內容安全風險。他認為：“加強生成式人工智能大模型技術的安全向善、可信可控，才是創(chuàng)新發(fā)展的前提。”

《辦法》還規(guī)定了生成式人工智能服務規(guī)范，明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務；按照《互聯(lián)網信息服務深度合成管理規(guī)定》對圖片、視頻等生成內容進行標識，發(fā)現(xiàn)違法內容應當及時采取處置措施等。此外，《辦法》也規(guī)定了安全評估、算法備案、投訴舉報等制度，并對相關法律責任進一步加以明確。

當然，不只是面向中國正在進行生成式人工智能技術創(chuàng)新的企業(yè)，《辦法》的適用范圍還包括了向中國境內提供生成式人工智能服務的海外企業(yè)，這樣一來，全球以OpenAI為代表的海外人工智能企業(yè)，可能都將被《辦法》的相關條例限制或“輻射”。

（摘自《經濟觀察報》錢玉娟）