開源大模型基礎(chǔ)設(shè)施化進(jìn)程中的安全風(fēng)險與法律治理

摘 要：開源大模型正經(jīng)歷從智能工具向關(guān)鍵基礎(chǔ)設(shè)施的深刻轉(zhuǎn)型。以DeepSeek為代表的開源大模型憑借技術(shù)突破和開源模式，打破技術(shù)壟斷，降低應(yīng)用門檻，迅速普及至多個關(guān)鍵領(lǐng)域，成為數(shù)智時代的關(guān)鍵基礎(chǔ)設(shè)施和驅(qū)動數(shù)字經(jīng)濟(jì)發(fā)展的新質(zhì)生產(chǎn)力。這一轉(zhuǎn)型伴隨著巨大的安全風(fēng)險：模型脆弱性引發(fā)鏈?zhǔn)奖罎?，大模型廣泛應(yīng)用加劇數(shù)據(jù)泄露風(fēng)險，開源技術(shù)依賴與算力斷供隱患威脅供應(yīng)鏈安全，大模型對公眾價值認(rèn)知的影響產(chǎn)生社會安全風(fēng)險，資源集中帶來市場壟斷風(fēng)險。應(yīng)適時轉(zhuǎn)變法律治理理念，由“剛性規(guī)制”轉(zhuǎn)向“韌性治理”。以算力、數(shù)據(jù)、算法為核心要素，在法治框架下建立健全開源大模型的多維治理體系。并進(jìn)一步加強(qiáng)人工智能國際治理和合作，實現(xiàn)開源大模型安全、可靠、可控的應(yīng)用和發(fā)展。

關(guān)鍵詞：DeepSeek；開源大模型；法律治理；關(guān)鍵基礎(chǔ)設(shè)施

中圖分類號：D92；TP18 文獻(xiàn)標(biāo)志碼：A 文章編號：1672-626X（2025）02-0069-11

2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》指出，人工智能已成為國際競爭的新焦點和經(jīng)濟(jì)發(fā)展的新引擎。2024年6月20日，國家主席習(xí)近平在向2024世界智能產(chǎn)業(yè)博覽會致賀信時指出：“人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，將對全球經(jīng)濟(jì)社會發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響。中國高度重視人工智能發(fā)展，積極推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實體經(jīng)濟(jì)深度融合，培育壯大智能產(chǎn)業(yè)，加快發(fā)展新質(zhì)生產(chǎn)力，為高質(zhì)量發(fā)展提供新動能?！倍_源大模型在可預(yù)見的未來仍是通用人工智能發(fā)展的主要方向。以DeepSeek為代表的國產(chǎn)開源大模型實現(xiàn)了突破性進(jìn)展，通過算法優(yōu)化和硬件創(chuàng)新，使大模型的訓(xùn)練成本大幅降低，成功打破了美國的技術(shù)壟斷，大大提高了先進(jìn)人工智能的可觸及性，有力促進(jìn)了我國邁向全社會分享的普遍智能時代。

大模型技術(shù)能力的提升與開源模式，也使得人工智能大模型從最初的單一場景下的智能工具逐漸演變?yōu)楦餍袠I(yè)在數(shù)智時代接入人工智能技術(shù)的關(guān)鍵基礎(chǔ)設(shè)施。這些基礎(chǔ)大模型憑借其強(qiáng)大的泛化能力①，不僅直接觸達(dá)數(shù)億終端用戶，更通過其API接口為金融、醫(yī)療、政務(wù)和國防等關(guān)鍵領(lǐng)域的垂直應(yīng)用提供底層技術(shù)支持，逐漸形成了以大模型為核心的產(chǎn)業(yè)生態(tài)鏈。然而，開源生態(tài)技術(shù)普惠的進(jìn)程中隱藏著諸多問題：全球大多數(shù)的大模型算力仍集中于美國的數(shù)據(jù)中心，高質(zhì)量訓(xùn)練語料庫受制于少數(shù)國際科技巨頭；DeepSeek等開源項目雖在應(yīng)用層實現(xiàn)部分突破，但其底層依然依賴進(jìn)口芯片構(gòu)成的算力集群；相較于閉源大模型，開源大模型關(guān)鍵元素的公開增加了安全風(fēng)險暴露的概率；開源大模型的易得性可能加劇人工智能技術(shù)的濫用風(fēng)險。當(dāng)人工智能大模型成為數(shù)智時代社會運行的“數(shù)字地基”時，其安全邊界已超越技術(shù)范疇，演變?yōu)樯婕皣野踩?、社會穩(wěn)定和經(jīng)濟(jì)發(fā)展的巨大挑戰(zhàn)。如何在保障人工智能技術(shù)創(chuàng)新發(fā)展的前提下，有效應(yīng)對這些安全風(fēng)險，已成為當(dāng)前亟待解決的重要問題。

經(jīng)文獻(xiàn)梳理，當(dāng)前雖然不同方向的眾多學(xué)者從變革影響、治理體系以及產(chǎn)業(yè)實踐應(yīng)用等多方面對人工智能大模型的治理與監(jiān)管這個熱門領(lǐng)域進(jìn)行了一定研究，主要關(guān)注侵權(quán)責(zé)任及法律豁免[1-2]和倫理風(fēng)險的治理[3]。但大部分研究仍是基于大模型屬于單一專業(yè)應(yīng)用領(lǐng)域下的智能工具的視角來進(jìn)行分析，并主要集中在算法和數(shù)據(jù)安全兩方面，算法合規(guī)聚焦算法審查、算法解釋以及算法問責(zé)[4-6]，數(shù)據(jù)安全方面的研究則主要聚焦在數(shù)據(jù)來源的合法性及數(shù)據(jù)泄露風(fēng)險[7-8]。

對于開源大模型已經(jīng)成為數(shù)智時代的關(guān)鍵基礎(chǔ)設(shè)施這一屬性，僅有部分新聞傳播領(lǐng)域的文獻(xiàn)在研究背景中指出[9]，尚無詳細(xì)論述。開源大模型逐漸轉(zhuǎn)變?yōu)殛P(guān)鍵基礎(chǔ)設(shè)施過程中出現(xiàn)的風(fēng)險挑戰(zhàn)，自然著墨甚少。本研究將在論證開源大模型成為數(shù)智時代關(guān)鍵基礎(chǔ)設(shè)施的背景下，著重分析開源大模型在深入應(yīng)用過程中暴露出的安全風(fēng)險。并在借鑒域外法律治理經(jīng)驗的基礎(chǔ)上，探索開源大模型風(fēng)險治理和創(chuàng)新引導(dǎo)的平衡之道。以期為構(gòu)建開源大模型安全風(fēng)險防范和法律治理體系，完善開源大模型應(yīng)用生態(tài)提供理論支持，從而促進(jìn)開源大模型安全、可靠、可控的應(yīng)用和發(fā)展。

一、從智能工具到關(guān)鍵基礎(chǔ)設(shè)施的轉(zhuǎn)變：開源大模型地位演進(jìn)的內(nèi)在邏輯

從開源軟件到開源硬件，再到開放數(shù)據(jù)、開源大模型，開源的應(yīng)用范疇不斷拓展。相較于閉源大模型，開源大模型技術(shù)重塑了人工智能產(chǎn)業(yè)生態(tài)，迅速普及和應(yīng)用了人工智能。從技術(shù)應(yīng)用到產(chǎn)業(yè)應(yīng)用，再到認(rèn)知應(yīng)用，開源大模型應(yīng)用的深度和廣度不斷拓展，正在發(fā)展成為人類價值觀和知識的重要載體，以及認(rèn)知和決策的重要工具，日益成為數(shù)智時代的關(guān)鍵基礎(chǔ)設(shè)施。

（一）技術(shù)應(yīng)用開啟基礎(chǔ)設(shè)施化進(jìn)程

一方面，開源大模型的“基礎(chǔ)設(shè)施化”并非簡單的技術(shù)升級，而是人工智能技術(shù)發(fā)展與社會需求共振下產(chǎn)生的系統(tǒng)性變革。這一進(jìn)程始于技術(shù)能力的突破。傳統(tǒng)AI工具基于特定任務(wù)設(shè)計（如人臉識別、語音翻譯），其“應(yīng)用場景封閉性”與“功能單一性”導(dǎo)致技術(shù)應(yīng)用范圍受限。DeepSeek通過混合專家系統(tǒng)（MoE）架構(gòu)達(dá)到萬億參數(shù)級的智能涌現(xiàn)，實現(xiàn)了從語言理解到邏輯推理的多維度突破，不再局限于特定任務(wù)的執(zhí)行，展現(xiàn)了跨領(lǐng)域的問題解決能力。另一方面，開源模式的應(yīng)用整合底層基礎(chǔ)資源，降低行業(yè)研發(fā)應(yīng)用成本。大模型發(fā)展初期，大多數(shù)閉源大模型僅能通過付費API訪問，其工作方式和工作原理鮮為人知。同時，閉源大模型技術(shù)效果的實現(xiàn)高度依賴海量數(shù)據(jù)和充足的算力資源，中小企業(yè)難以從零開始完成模型框架設(shè)計、訓(xùn)練數(shù)據(jù)收集、基礎(chǔ)模型預(yù)訓(xùn)練等工作。而開源大模型通過將已經(jīng)完成初步訓(xùn)練的基礎(chǔ)模型公開，幫助應(yīng)用企業(yè)理解現(xiàn)有模型的工作原理。以DeepSeek為代表的開源項目成功打破傳統(tǒng)大模型研發(fā)的“小院高墻”，通過代碼、框架或工具的公開可獲取，有效降低了大模型的研究和訓(xùn)練及應(yīng)用的成本。

技術(shù)突破與開源模式的應(yīng)用使開源大模型能夠同時滿足金融風(fēng)控、藥物研發(fā)、工業(yè)質(zhì)檢等多個領(lǐng)域截然不同的智能化需求，其應(yīng)用邊界已超越傳統(tǒng)工具的物理限制[10]，開始成為數(shù)智時代的關(guān)鍵基礎(chǔ)設(shè)施。

（二）產(chǎn)業(yè)應(yīng)用加速基礎(chǔ)設(shè)施化進(jìn)程

人工智能與實體經(jīng)濟(jì)深度融合，正催生大量新產(chǎn)業(yè)、新業(yè)態(tài)、新模式。人工智能賦能傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級的過程，對高質(zhì)量的開源大模型的需求不斷增長，從需求側(cè)推動著大模型基礎(chǔ)設(shè)施化進(jìn)程。當(dāng)大模型開始重構(gòu)生產(chǎn)要素配置方式時，其地位自然發(fā)生根本性轉(zhuǎn)變。AI產(chǎn)業(yè)化與產(chǎn)業(yè)AI化是未來社會經(jīng)濟(jì)發(fā)展的重要方向[11]。其中，AI產(chǎn)業(yè)化是指大模型及其AI衍生產(chǎn)品的產(chǎn)業(yè)規(guī)?；蜕虡I(yè)化，強(qiáng)調(diào)將大模型技術(shù)轉(zhuǎn)化為產(chǎn)品和服務(wù)，構(gòu)建以大模型為中心的產(chǎn)業(yè)生態(tài)并發(fā)展形成包括算力、數(shù)據(jù)、模型以及基礎(chǔ)配套等完整產(chǎn)業(yè)鏈和商業(yè)模式支撐的獨立新興產(chǎn)業(yè)；而產(chǎn)業(yè)AI化則指傳統(tǒng)產(chǎn)業(yè)通過引入AI大模型以賦能其數(shù)智化轉(zhuǎn)型升級，其強(qiáng)調(diào)以傳統(tǒng)產(chǎn)業(yè)為中心并將AI大模型作為新型生產(chǎn)力工具和新動能，實現(xiàn)二者深度融合以產(chǎn)生傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級需求的新質(zhì)生產(chǎn)力。

開源大模型降低了AI應(yīng)用成本，產(chǎn)業(yè)AI化的速度越來越快。多地政府已開始探索利用DeepSeek建立智慧政務(wù)AI大模型以提升政務(wù)服務(wù)效率，使用其處理公文寫作、輿情分析等業(yè)務(wù)。在工業(yè)機(jī)器人領(lǐng)域，大量中小企業(yè)利用DeepSeek開發(fā)出適合自己需求的機(jī)器人應(yīng)用，從而降低開發(fā)成本并提升智能化水平，推動傳統(tǒng)制造業(yè)向智能化、自動化轉(zhuǎn)型。開源大模型還促進(jìn)了不同領(lǐng)域之間的交叉融合和創(chuàng)新，各行業(yè)企業(yè)可以自由對其進(jìn)行修改和擴(kuò)展，從而創(chuàng)造出更多具有創(chuàng)新性的應(yīng)用和產(chǎn)品。低成本、多樣化的應(yīng)用方式，進(jìn)一步提升了開源大模型在各領(lǐng)域的普及和深度應(yīng)用，使之成為各領(lǐng)域在數(shù)智時代的關(guān)鍵基礎(chǔ)設(shè)施。

（三）認(rèn)知應(yīng)用深化基礎(chǔ)設(shè)施化進(jìn)程

從社會學(xué)的角度而言，一項技術(shù)系統(tǒng)要成為公共基礎(chǔ)設(shè)施，在本質(zhì)上要具有社會技術(shù)性（socio-technical），即一個系統(tǒng)不僅需要標(biāo)準(zhǔn)化的物質(zhì)資源和技術(shù)硬件，還需要來自社會層面普遍的接受和依賴，才能成為基礎(chǔ)設(shè)施。而隨著大模型技術(shù)的提升及大模型的開源開放，公眾能更多地了解大模型的工作原理，進(jìn)而普遍接受并大規(guī)模使用。開源大模型對個人、群體乃至社會整體的認(rèn)知產(chǎn)生巨大的影響，甚至可以被視作數(shù)智時代的“認(rèn)知基礎(chǔ)設(shè)施（cognitive infrastructure）”[12]。

一方面，越來越多的主流媒體接入人工智能大模型。大量新聞機(jī)構(gòu)利用開源大模型自動生成新聞報道，提高新聞生產(chǎn)效率，并進(jìn)行個性化內(nèi)容推薦服務(wù)，其生成的內(nèi)容在傳播中可能被公眾廣泛接受并影響公眾的認(rèn)知和判斷。另一方面，開源大模型降低了生成式人工智能的使用門檻，普通用戶也可通過微調(diào)預(yù)訓(xùn)練模型生成專業(yè)知識內(nèi)容，其信息消費、社會交往和決策行為也愈發(fā)依賴大模型。開源大模型在社會認(rèn)知領(lǐng)域的“技術(shù)賦權(quán)”使公眾從被動接收信息轉(zhuǎn)向主動參與內(nèi)容創(chuàng)造，重塑了信息生態(tài)。其在塑造公眾認(rèn)知、引導(dǎo)社會輿論等方面將比傳統(tǒng)的互聯(lián)網(wǎng)平臺和應(yīng)用發(fā)揮更重要的作用，未來有可能承擔(dān)輿論引導(dǎo)、文化塑造等公共職能?？梢?，開源大模型逐步從智能工具演變?yōu)槟軌蛴绊懮鐣娬J(rèn)知的關(guān)鍵基礎(chǔ)設(shè)施。

二、開源大模型基礎(chǔ)設(shè)施化衍生的安全風(fēng)險

開源大模型的基礎(chǔ)設(shè)施化標(biāo)志著其在社會運行中的角色從輔助性技術(shù)升級為支撐性核心系統(tǒng)。這一轉(zhuǎn)變使其安全風(fēng)險從局部可控的技術(shù)問題演變?yōu)橄到y(tǒng)性、全局性的公共安全風(fēng)險。隨著開源大模型基礎(chǔ)設(shè)施屬性凸顯，大模型自身的安全是需要優(yōu)先構(gòu)筑的安全底座，大模型自身安全無法保持穩(wěn)定，將嚴(yán)重制約乃至?xí)髿?yīng)用的推廣。同時大模型在大規(guī)模應(yīng)用的過程中必然需要大量數(shù)據(jù)、算力資源以及應(yīng)用基礎(chǔ)設(shè)施支撐，因此數(shù)據(jù)安全、供應(yīng)鏈安全的風(fēng)險不容忽視。而隨著開源大模型的應(yīng)用普及，未來其對社會治理、經(jīng)濟(jì)發(fā)展的影響加深，隨之產(chǎn)生的社會安全風(fēng)險和市場壟斷風(fēng)險的危害將遠(yuǎn)超傳統(tǒng)安全風(fēng)險。亟需重視開源大模型轉(zhuǎn)變?yōu)榛A(chǔ)設(shè)施過程中帶來的安全風(fēng)險，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，確保其安全、可靠、可控發(fā)展。

（一）大模型自身安全：大模型脆弱性與網(wǎng)絡(luò)攻擊引發(fā)鏈?zhǔn)奖罎L(fēng)險

開源大模型的開放性雖有利于技術(shù)普及，但也降低了惡意攻擊的門檻。它的代碼公開特點使得攻擊者可通過逆向工程系統(tǒng)性分析基礎(chǔ)模型架構(gòu)的漏洞，針對開源大模型的網(wǎng)絡(luò)攻擊成功率顯著高于閉源大模型②。作為關(guān)鍵基礎(chǔ)設(shè)施的大模型又勢必是網(wǎng)絡(luò)攻擊的重點對象，如DeepSeek便因基礎(chǔ)設(shè)施遭受“大規(guī)模惡意DDoS攻擊”而數(shù)次中斷服務(wù)。

不同于傳統(tǒng)的只能影響某個或數(shù)個設(shè)備的網(wǎng)絡(luò)攻擊，大模型基礎(chǔ)設(shè)施化帶來新型安全風(fēng)險傳導(dǎo)機(jī)制：某個開源大模型的算法漏洞可能通過生態(tài)鏈，在短時間內(nèi)擴(kuò)散至各個領(lǐng)域的數(shù)百個下游應(yīng)用，形成系統(tǒng)性社會風(fēng)險。這種風(fēng)險傳導(dǎo)的廣度和速度，與傳統(tǒng)基礎(chǔ)設(shè)施的物理性故障存在本質(zhì)差異。而伴隨人工智能技術(shù)的發(fā)展，AI攻擊的形式日益多樣化和復(fù)雜化。除傳統(tǒng)網(wǎng)絡(luò)攻擊方式外，攻擊者還利用AI獨特能力增強(qiáng)攻擊效果，如數(shù)據(jù)竊取和模型篡改等，使得攻擊的隱蔽性大大提升。相較于閉源大模型，開源大模型基礎(chǔ)設(shè)施化后的應(yīng)用環(huán)境更加多元和復(fù)雜，同時開源大模型通常為通用模型，因此在復(fù)雜場景下，開源大模型經(jīng)常表現(xiàn)出輸出內(nèi)容不準(zhǔn)確、做出錯誤判斷或行為、服務(wù)中斷或性能下降等問題。

目前我國政務(wù)、能源、通信等多個關(guān)鍵領(lǐng)域都正在接入以DeepSeek為代表的開源大模型，一旦基礎(chǔ)模型底層架構(gòu)中的漏洞（如對抗樣本攻擊、后門植入）被利用，可能通過開源生態(tài)快速擴(kuò)散，引發(fā)連鎖反應(yīng)。例如針對自然語言模型的提示詞注入攻擊可能被規(guī)?；瘡?fù)制，導(dǎo)致關(guān)鍵領(lǐng)域的敏感數(shù)據(jù)或國家秘密被犯罪分子獲取，將嚴(yán)重危害國家安全。同時作為基礎(chǔ)設(shè)施的開源大模型依賴海量訓(xùn)練數(shù)據(jù)，但數(shù)據(jù)投毒攻擊（如刻意注入偏見內(nèi)容或虛假信息）可能污染預(yù)訓(xùn)練階段，并通過模型參數(shù)固化到下游應(yīng)用中。醫(yī)療、司法等領(lǐng)域的模型若被污染，可能導(dǎo)致系統(tǒng)性決策錯誤，從而造成公共服務(wù)體系崩潰[13]。

作為未來支撐各行各業(yè)運作的關(guān)鍵基礎(chǔ)設(shè)施，盡管開源大模型具有強(qiáng)大的計算和推理能力，但其自身的穩(wěn)定性與安全性往往是最薄弱的環(huán)節(jié)。如何確保在龐大的數(shù)據(jù)流動與運算需求下保持它的高可用性與可靠性，成為治理開源大模型面臨的重要挑戰(zhàn)。

（二）數(shù)據(jù)安全：大模型基礎(chǔ)設(shè)施化加劇數(shù)據(jù)泄露風(fēng)險

隨著開源大模型地位的轉(zhuǎn)變，其已超越工具屬性，成為數(shù)字空間中具備“半自主性”的新主體。開源大模型的訓(xùn)練確實要依賴個人、企業(yè)、國家等各類用戶提供的數(shù)據(jù)，但其生成的決策或內(nèi)容可能脫離原始數(shù)據(jù)主體的控制。盡管開源大模型的代碼、參數(shù)和訓(xùn)練方法公開透明，但由于模型內(nèi)部多層次的非線性數(shù)據(jù)處理和海量參數(shù)的復(fù)雜交互，它的決策路徑和工作機(jī)制仍屬黑盒模式，開源大模型的算法仍然存在可解釋性問題。其輸出結(jié)果難以預(yù)測和確切歸因，出現(xiàn)異常難以快速修正和溯源追責(zé)。

開源大模型在訓(xùn)練中直接使用敏感數(shù)據(jù)（如隱私文本、機(jī)密文檔）而導(dǎo)致其直接泄露，這種風(fēng)險早已被學(xué)界研究透徹，在法律實踐中也已經(jīng)有完善的法律規(guī)范和技術(shù)手段進(jìn)行監(jiān)管和規(guī)制。但開源大模型通過強(qiáng)大的推理能力，可以從非敏感數(shù)據(jù)中提煉出敏感信息，出現(xiàn)敏感數(shù)據(jù)被間接泄露的新風(fēng)險。特別是當(dāng)它成為關(guān)鍵基礎(chǔ)設(shè)施，在各行業(yè)應(yīng)用的程度不斷加深，數(shù)據(jù)的來源越來越多，對多源數(shù)據(jù)的關(guān)聯(lián)分析能力越強(qiáng)，越可能通過“數(shù)據(jù)拼圖”揭示原本分散存儲的敏感信息，加劇數(shù)據(jù)泄露風(fēng)險。而開源大模型間的數(shù)據(jù)交互進(jìn)一步放大了這種風(fēng)險。當(dāng)前，越來越多的企業(yè)與機(jī)構(gòu)將開源大模型如DeepSeek通過知識蒸餾（將大模型知識遷移至小模型）和采樣學(xué)習(xí)（從其他模型輸出中提取信息）實現(xiàn)私有化部署和大模型能力提升，但這些過程缺乏有效監(jiān)管。當(dāng)多個模型共同參與數(shù)據(jù)流轉(zhuǎn)的過程時，追溯數(shù)據(jù)泄露源頭變得更加困難。一旦出現(xiàn)數(shù)據(jù)泄露或其他侵權(quán)行為，確定侵權(quán)責(zé)任主體的過程將變得尤為復(fù)雜。

此外，當(dāng)前開源大模型的監(jiān)管設(shè)計普遍存在“重輸入、輕輸出”的監(jiān)管傾向，即優(yōu)先通過數(shù)據(jù)脫敏、訪問控制等手段限制訓(xùn)練數(shù)據(jù)的輸入，卻對模型生成內(nèi)容的動態(tài)監(jiān)控不足。這種失衡導(dǎo)致惡意用戶可通過提示工程（Prompt Engineering）③繞過防護(hù)機(jī)制，逐步誘導(dǎo)模型輸出敏感信息，如通過分步試探、語義偽裝、跨模型協(xié)同等方式來獲取各類敏感數(shù)據(jù)。這些問題反映出現(xiàn)行法律治理和監(jiān)管框架的滯后——傳統(tǒng)的數(shù)據(jù)所有權(quán)和訪問控制機(jī)制難以有效應(yīng)對開源大模型間復(fù)雜的數(shù)據(jù)流動，數(shù)據(jù)泄露的風(fēng)險日益增加。

（三）供應(yīng)鏈安全：開源技術(shù)與算力供應(yīng)鏈斷供風(fēng)險

我國開源大模型的開發(fā)目前仍高度依賴國際開源框架，如PyTorch、TensorFlow等。開源代碼托管平臺雖以服務(wù)全球開發(fā)者為宗旨，但均需遵守所在國家的相關(guān)法律規(guī)定。例如，國際知名代碼托管平臺GitHub、SourceForge、GoogleCode均明確表明遵守美國《出口管理條例》（EAR）等貿(mào)易法規(guī)。同樣，目前全球主流開源許可協(xié)議（Apache、BSD、GPL、LGPL、MIT等）均由美國主導(dǎo)制定，受美國法律管轄。

開源許可協(xié)議可謂開源大模型應(yīng)用、發(fā)展的法律基石，要使用開源社區(qū)的技術(shù)就必須遵守開源許可協(xié)議。一旦使用者違反開源許可協(xié)議相關(guān)規(guī)定，該授權(quán)即告終止，后續(xù)任何基于該開源大模型項目的利用行為都可能構(gòu)成侵權(quán)。目前，我國在“羅盒訴風(fēng)靈案”④中突破性地認(rèn)可GPL-3.0開源許可協(xié)議具有合同性質(zhì)，并將其作為判斷侵權(quán)行為的邏輯起點，體現(xiàn)了開源社區(qū)規(guī)范對法律規(guī)范的影響力。若國際開源許可協(xié)議因某些原因修改而限制中國開發(fā)者使用，將導(dǎo)致我國大模型技術(shù)斷供。雖然DeepSeek實現(xiàn)了部分自主，但其底層算力調(diào)度、分布式訓(xùn)練等模塊仍依賴美國主導(dǎo)的開源技術(shù)。開源生態(tài)被割裂（歐美開發(fā)者貢獻(xiàn)量下降）和技術(shù)協(xié)作網(wǎng)絡(luò)解體，無疑會削弱研發(fā)效率，大大提高我國技術(shù)的研發(fā)成本。

除了技術(shù)斷供，美國還可通過升級芯片管制和實體清單制裁，直接切斷對我國大模型的算力供應(yīng)。在任何技術(shù)體系中，供應(yīng)鏈安全都是最關(guān)鍵的環(huán)節(jié)，如果供應(yīng)鏈存在隱患，將影響技術(shù)的穩(wěn)定性和持續(xù)性。在大模型成為數(shù)智時代關(guān)鍵基礎(chǔ)設(shè)施的情況下，應(yīng)當(dāng)考慮如何提升供應(yīng)鏈韌性，以應(yīng)對斷供的安全風(fēng)險。

（四）社會安全：信任危機(jī)、輿論操控與算法歧視風(fēng)險

如上文所述，隨著開源大模型的不斷普及應(yīng)用，人們越來越依賴大模型作為獲取知識與信息的渠道。但隨著大模型深度偽造的技術(shù)進(jìn)步，特別是隨著多模態(tài)模型的出現(xiàn)，結(jié)合文本、圖像、音頻的模型（如GPT-4V）可以被用于合成更復(fù)雜的虛假信息。由于大部分人都不具備分辨大模型生成的虛假內(nèi)容與真實信息的能力[14]，大模型深度偽造的虛假信息泛濫可能引發(fā)社會輿論的混亂，進(jìn)而動搖人們對數(shù)字信息的信任基礎(chǔ)。這種信任危機(jī)不僅會影響個人，還可能對政府的公信力造成影響。

當(dāng)大模型接入社交平臺時，可以通過自動創(chuàng)建大量虛假賬號和評論操縱社交媒體的輿論走勢，并通過與公眾的大模型交互，精準(zhǔn)生成內(nèi)容，影響公眾觀點，干預(yù)社會輿論。而過往傳統(tǒng)的互聯(lián)網(wǎng)平臺人工審核，利用防火墻刪除和屏蔽不良與虛假信息的治理方法面對這些接入大模型的惡意用戶已基本失效。同時，境外開源大模型數(shù)據(jù)訓(xùn)練要求與國內(nèi)法規(guī)和內(nèi)容安全要求并不一致，即使經(jīng)過再訓(xùn)練仍然無法完全去除其原生數(shù)據(jù)價值傾向，這類模型可能更容易生成違背社會主義核心價值觀、危害國家安全和利益以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容[15]。

大模型訓(xùn)練算法的數(shù)據(jù)中存在的歷史性偏見導(dǎo)致大模型輸出結(jié)果里隱含歧視的問題也日益凸顯。據(jù)研究顯示，當(dāng)用戶故意向開源大模型提供帶有偏見的提示時，它可能會生成更加有偏見的內(nèi)容。而開源大模型用來訓(xùn)練算法的數(shù)據(jù)中往往隱含著城鄉(xiāng)差異、性別偏見等歷史性偏見，大模型算法可能會繼承這些偏見，并在生成內(nèi)容時放大，從而演變?yōu)橄到y(tǒng)性的歧視工具，加劇社會矛盾[16]。例如招聘過程中，將開源大模型接入企業(yè)的應(yīng)聘系統(tǒng)篩選簡歷，如果訓(xùn)練數(shù)據(jù)中女性在過去某些職位上獲得的工作機(jī)會較少，大模型算法可能會不自覺地歧視女性申請者，導(dǎo)致女性求職者通過率降低，違反《就業(yè)促進(jìn)法》第26條平等就業(yè)原則，不僅侵害個體的合法權(quán)益，對社會治理也產(chǎn)生不利影響。

（五）經(jīng)濟(jì)安全：開源名義下的新型市場壟斷風(fēng)險

在人工智能技術(shù)深度滲透社會運行的當(dāng)下，開源大模型作為基礎(chǔ)設(shè)施的普及正催生一種新型壟斷形態(tài)。盡管開源模式表面上打破了傳統(tǒng)閉源系統(tǒng)的技術(shù)壁壘，但其實際部署需要依賴高端算力。頭部企業(yè)憑借歷史積累的海量數(shù)據(jù)資產(chǎn)與算力資源優(yōu)勢，逐步構(gòu)建起大模型技術(shù)生態(tài)的隱性控制權(quán)。它們通過囤積高性能芯片、建設(shè)云計算集群等算力基礎(chǔ)設(shè)施，使開源社區(qū)的其他中小企業(yè)在模型訓(xùn)練與部署中形成對其硬件的高度依賴。中小企業(yè)要開發(fā)屬于自己的大模型應(yīng)用，必須依賴某些頭部企業(yè)的算力服務(wù)，由此形成“開源名義下的資源控制”[17]。更值得警惕的是，頭部企業(yè)積累的大量用戶行為數(shù)據(jù)與各行業(yè)開源大模型的廣泛接入形成閉環(huán)，它們通過實時獲取不同用戶交互數(shù)據(jù)不斷優(yōu)化模型算法，在“數(shù)據(jù)－模型”的循環(huán)中，用戶既成為大模型數(shù)據(jù)生產(chǎn)鏈的末端，又在大模型精確輸出的內(nèi)容所織成的信息繭房中喪失行為自主性。

這種壟斷格局還延伸至規(guī)則制定權(quán)的爭奪。頭部企業(yè)可以通過主導(dǎo)開源許可協(xié)議更新、模型架構(gòu)設(shè)計等核心環(huán)節(jié)，使技術(shù)標(biāo)準(zhǔn)未來可能演變?yōu)樯虡I(yè)利益的載體。它們還可通過歧視性許可、算法捆綁等手段排擠競爭者，而開源社區(qū)的自治原則又往往成為其規(guī)避法律責(zé)任的工具。當(dāng)開發(fā)者因算力掣肘被迫接受既定的技術(shù)路徑時，市場多樣性逐漸消失，若開源生態(tài)失衡，人工智能技術(shù)創(chuàng)新將被少數(shù)企業(yè)壟斷，形成數(shù)智時代下的數(shù)字基礎(chǔ)設(shè)施寡頭[18]。

三、開源大模型安全風(fēng)險法律治理的現(xiàn)狀與鏡鑒

盡管針對大模型風(fēng)險及不同類型大模型法律責(zé)任的承擔(dān)問題目前尚無結(jié)論，且未來可能因技術(shù)的發(fā)展導(dǎo)致大模型類型變化而不斷衍生新的安全風(fēng)險問題，但就目前而言，各國監(jiān)管者都對開源大模型持更為包容的態(tài)度。主要原因在于，一方面大模型開源意味著開發(fā)者將披露大模型的權(quán)重、參數(shù)、架構(gòu)等詳細(xì)信息，信息的公開能夠有效促進(jìn)人工智能技術(shù)的發(fā)展；另一方面大模型開源意味著開發(fā)者將在GitHub、hugging face等開源社區(qū)上傳組件，這使得利用開源社區(qū)集體的力量審查技術(shù)、發(fā)現(xiàn)漏洞、修復(fù)大模型缺陷成為可能。未來針對開源大模型區(qū)別于傳統(tǒng)人工智能的精細(xì)化、包容性監(jiān)管或成為主要治理方向[19]。

（一）歐盟：在安全與創(chuàng)新中尋求平衡

歐盟希望通過完善的法律框架與有針對性的產(chǎn)業(yè)扶持，打造一個既安全又有競爭力的大模型產(chǎn)業(yè)生態(tài)。在立法層面，歐盟的《人工智能法案》（Artificial Intelligence Act）是最早對開源大模型表明支持態(tài)度的立法之一?！度斯ぶ悄芊ò浮凡捎昧嘶陲L(fēng)險的方法（risk-based approach）對人工智能系統(tǒng)進(jìn)行分類，在該方法下，人工智能系統(tǒng)被分為不可接受風(fēng)險類、高風(fēng)險類、有限風(fēng)險類和最小風(fēng)險類。目前，使用總計算能力超過1025 FLOP⑤訓(xùn)練的大模型被認(rèn)為屬于高風(fēng)險類。根據(jù)《人工智能法案》，該閾值可以根據(jù)技術(shù)進(jìn)步進(jìn)行更新，并且可以應(yīng)用進(jìn)一步的標(biāo)準(zhǔn)來劃分大模型是否具有高風(fēng)險，例如用戶數(shù)量或大模型的自主程度。對于可能具有高風(fēng)險的開源大模型，《人工智能法案》要求其遵守更嚴(yán)格的規(guī)則。該類開發(fā)者需要承擔(dān)更多義務(wù)，例如特殊評估和減輕風(fēng)險、進(jìn)行模型評估和對抗性測試、報告嚴(yán)重漏洞并確保安全[20]。但歐盟為了促進(jìn)開源大模型技術(shù)發(fā)展，在《人工智能法案》第2條第12項規(guī)定了一項例外條款，在非高風(fēng)險環(huán)境中免費或用于科學(xué)研究和開發(fā)目的而投入使用的開源大模型可豁免部分法律義務(wù)。此外，該法案對于開源大模型的定義門檻較低，在要求注明來源并遵循類似分發(fā)條款的前提下開放共享模型代碼及相關(guān)數(shù)據(jù)即可被視為開源。

在治理層面，歐盟創(chuàng)新性地設(shè)立了全球第一個人工智能集中治理機(jī)構(gòu)即人工智能辦公室（AI Office），該機(jī)構(gòu)旨在促進(jìn)人工智能的發(fā)展、部署和使用，在降低風(fēng)險的同時，促進(jìn)社會經(jīng)濟(jì)效益和鼓勵創(chuàng)新，并推動制定安全開發(fā)和使用開源大模型的標(biāo)準(zhǔn)規(guī)則。

（二）美國：弱化監(jiān)管，保持AI領(lǐng)域戰(zhàn)略優(yōu)勢

美國治理人工智能主要以行政治理為先，以軟法約束為主。2023年10月30日，美國總統(tǒng)拜登簽署了關(guān)于“安全、可靠、可信地開發(fā)和使用人工智能”的第14110號行政命令。該行政命令是美國迄今為止最全面的人工智能治理方案，包含八個目標(biāo)：建立人工智能安全的新標(biāo)準(zhǔn)；保護(hù)美國民眾的隱私；促進(jìn)公平和公民權(quán)利；維護(hù)消費者、病患和學(xué)生的權(quán)益；支持勞動者；促進(jìn)創(chuàng)新和競爭；提升美國的海外領(lǐng)導(dǎo)力；確保美國政府負(fù)責(zé)任且有效地使用人工智能。該行政命令體現(xiàn)了美國政府在人工智能治理中的全面布局。

美國政府將開源大模型的監(jiān)管策略定位為保障美國在AI領(lǐng)域的長期戰(zhàn)略優(yōu)勢。其目的在于通過較為靈活的監(jiān)管方式，為美國的人工智能企業(yè)尤其是巨頭企業(yè)創(chuàng)造有利的發(fā)展環(huán)境，從而確保美國在人工智能技術(shù)方面的領(lǐng)先地位，在全球競爭中占據(jù)優(yōu)勢[21]。美國相關(guān)立法進(jìn)程顯著滯后，更多地依賴于倡議性文件等軟法作為監(jiān)管手段，并秉持自愿性原則。目前，美國僅在州級層面對人工智能產(chǎn)業(yè)實施立法監(jiān)管，且各州發(fā)展水平參差不齊。盡管聯(lián)邦政府部門已闡述了發(fā)展人工智能框架的立場和原則，但尚未構(gòu)建起全面綜合的法律治理體系?？偟膩碚f美國在大模型治理方面強(qiáng)調(diào)“弱監(jiān)管”和“軟治理”，旨在為技術(shù)的發(fā)展清除不必要障礙[22]，維護(hù)美國全球人工智能領(lǐng)導(dǎo)者地位。

（三）中國：法律治理規(guī)范日益完善，開源大模型受到包容性監(jiān)管

人工智能發(fā)展早期，我國便高度強(qiáng)調(diào)開源開放發(fā)展原則，布局人工智能發(fā)展。2017年，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，明確倡導(dǎo)開源共享理念，促進(jìn)創(chuàng)新資源在全球范圍內(nèi)的優(yōu)化配置。隨著人工智能技術(shù)的快速發(fā)展，2020年，國家標(biāo)準(zhǔn)化管理委員會等五部門聯(lián)合印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，提出人工智能標(biāo)準(zhǔn)體系的八大維度，并明確重點開展開源框架安全標(biāo)準(zhǔn)研制，通過標(biāo)準(zhǔn)指導(dǎo)確立了人工智能技術(shù)的規(guī)制方向。同期，《個人信息保護(hù)法》《數(shù)據(jù)安全法》等法律法規(guī)相繼發(fā)布，為人工智能應(yīng)用中的數(shù)據(jù)保護(hù)等重點風(fēng)險提供防治方向。近幾年，大模型數(shù)量實現(xiàn)爆發(fā)式增長，實踐中的安全風(fēng)險逐漸暴露，我國開始聚焦生成式人工智能的法律治理問題，推出了一系列法律治理規(guī)范（見表1）。特別是2023年發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》，在全球范圍內(nèi)率先對生成式人工智能進(jìn)行立法。2024年3月1日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布了《生成式人工智能服務(wù)安全基本要求》，這是我國首個關(guān)于生成式人工智能服務(wù)安全的技術(shù)指導(dǎo)文件，它詳細(xì)闡述了《生成式人工智能服務(wù)管理暫行辦法》中關(guān)于生成式人工智能的安全要求，明確提出對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管原則。

上述法律法規(guī)均屬于人工智能領(lǐng)域的一般性監(jiān)管規(guī)則，而我國目前未專門對開源算法、開源人工智能、開源大模型提出特殊規(guī)定，因此開源大模型應(yīng)當(dāng)同等適用。2024年5月6日，國務(wù)院公布2024年年度立法工作計劃，明確預(yù)備提請全國人大常委會審議人工智能法草案，我國人工智能領(lǐng)域綜合性立法也將正式開啟。學(xué)界一部分專家學(xué)者已匯聚共識，起草了《中華人民共和國人工智能法（學(xué)者建議稿）》和《人工智能示范法2.0（專家建議稿）》，前者明確了關(guān)鍵人工智能監(jiān)管和特殊應(yīng)用領(lǐng)域人工智能監(jiān)管，后者則引入人工智能管理負(fù)面清單制度。此外，兩個版本的立法草案都高度重視開源大模型的發(fā)展和治理，鼓勵促進(jìn)開源生態(tài)建設(shè)，并明確了開源大模型提供者的責(zé)任豁免規(guī)則。

四、我國開源大模型未來法律治理方向

開源大模型融合了算力、數(shù)據(jù)、算法三要素，具有極強(qiáng)的通用性與賦能性，是數(shù)智時代的關(guān)鍵基礎(chǔ)設(shè)施。這就要求我們以治理基礎(chǔ)設(shè)施的思維重新構(gòu)建開源大模型的治理框架，建立適配開源技術(shù)特點的新型風(fēng)險法律規(guī)制體系。法律體系的適應(yīng)性調(diào)整不應(yīng)局限于事后補(bǔ)救，而需建立與技術(shù)演進(jìn)同步的動態(tài)治理機(jī)制。唯有通過制度創(chuàng)新走出“技術(shù)超前-法律滯后”的困境，才能真正釋放大模型作為基礎(chǔ)設(shè)施的變革潛力，同時規(guī)避其系統(tǒng)性安全風(fēng)險。

借鑒各國當(dāng)前對于開源大模型的監(jiān)管經(jīng)驗，未來我國針對開源大模型這一關(guān)鍵基礎(chǔ)設(shè)施的法律治理，應(yīng)適時轉(zhuǎn)變治理理念，由“剛性規(guī)制”轉(zhuǎn)向“韌性治理”。以算力、數(shù)據(jù)、算法為核心要素，在法治框架下盡快建立健全開源大模型的多維治理體系。構(gòu)建算力法律保障體系，優(yōu)化算力資源配置；建立數(shù)據(jù)差異化治理框架，促進(jìn)數(shù)據(jù)合理使用；重視和強(qiáng)化算法安全，實施動態(tài)分級監(jiān)管，強(qiáng)化對高風(fēng)險領(lǐng)域的監(jiān)管，釋放低風(fēng)險領(lǐng)域發(fā)展活力。通過三大要素的市場化配置，提供公平透明的市場競爭環(huán)境，避免頭部企業(yè)將其在算力、數(shù)據(jù)資源等方面的競爭優(yōu)勢轉(zhuǎn)變?yōu)閴艛喙ぞ?，保障中小企業(yè)發(fā)展。進(jìn)一步加強(qiáng)人工智能國際治理和合作，參與國際人工智能標(biāo)準(zhǔn)規(guī)則的制定，確保人工智能向善、造福全人類。

（一）轉(zhuǎn)變治理理念：由“剛性規(guī)制”轉(zhuǎn)向“韌性治理”

現(xiàn)行法律規(guī)范在應(yīng)對開源大模型帶來的安全風(fēng)險時，仍采取“剛性規(guī)制”的治理理念，即利用嚴(yán)格的事前安全監(jiān)測、評估和行政許可機(jī)制預(yù)防潛在的安全風(fēng)險，以達(dá)到杜絕、消滅與根本控制風(fēng)險的目的。然而面對當(dāng)下開源大模型安全風(fēng)險的復(fù)雜變化，現(xiàn)有的“剛性規(guī)制”模式已面臨窘境。對此，美國的治理理念轉(zhuǎn)向強(qiáng)調(diào)韌性（Resilience），即系統(tǒng)在遭受攻擊或災(zāi)難后能夠迅速恢復(fù)并繼續(xù)正常運行的能力。

在未來治理規(guī)范的設(shè)計中，可考慮借鑒美國的治理經(jīng)驗，將韌性治理作為治理理念。具體而言，一是減少對事前行政許可的依賴。雖然事前的安全評估對于識別潛在風(fēng)險至關(guān)重要，但不應(yīng)將其設(shè)定為市場準(zhǔn)入的唯一標(biāo)準(zhǔn)。過度依賴行政許可可能會導(dǎo)致企業(yè)過分關(guān)注形式上的合規(guī)，而非實質(zhì)性的安全改進(jìn)。法律治理框架應(yīng)該鼓勵采用靈活且基于風(fēng)險的方法進(jìn)行分級安全監(jiān)管，允許企業(yè)在遵循基本安全規(guī)范的基礎(chǔ)上，根據(jù)企業(yè)大模型應(yīng)用的領(lǐng)域制定個性化的防護(hù)策略。二是細(xì)化合規(guī)免責(zé)制度，給開源大模型技術(shù)發(fā)展留下合理容錯的空間。開源大模型尚屬新興技術(shù)，現(xiàn)有的網(wǎng)絡(luò)安全技術(shù)無法完全應(yīng)對其帶來的安全風(fēng)險。有必要在技術(shù)成熟之前，細(xì)化企業(yè)的合規(guī)免責(zé)制度。即企業(yè)嚴(yán)格遵守了現(xiàn)行法律規(guī)范中相關(guān)的大模型安全標(biāo)準(zhǔn)，并舉證已經(jīng)采取了現(xiàn)有技術(shù)能力范圍內(nèi)的安全措施后，一旦出現(xiàn)安全問題可以在一定程度上合規(guī)免責(zé)[23]。

最后是強(qiáng)化對事后恢復(fù)能力的要求。除了規(guī)定必要的事前監(jiān)管措施外，法律還應(yīng)明確規(guī)定企業(yè)必須具備強(qiáng)大的事后恢復(fù)能力。這包括但不限于建立有效的備份與恢復(fù)計劃、實施災(zāi)難恢復(fù)演練以及確保業(yè)務(wù)連續(xù)性的策略。對此，可以參考我國在2024年4月15日發(fā)布的《網(wǎng)絡(luò)安全技術(shù)信息系統(tǒng)災(zāi)難恢復(fù)規(guī)范》征求意見稿中關(guān)于災(zāi)難恢復(fù)系統(tǒng)實施方案的具體指導(dǎo)。對那些能夠在遭受重大網(wǎng)絡(luò)攻擊后迅速恢復(fù)正常運營的企業(yè)，同樣可以給予一定程度的法律責(zé)任豁免或者減輕處罰。這些做法不僅能增強(qiáng)企業(yè)的積極性，還能促進(jìn)大模型技術(shù)的創(chuàng)新，減輕企業(yè)合規(guī)壓力，有利于我國贏得全球科技競爭主動權(quán)。

（二）構(gòu)建算力法律保障體系，優(yōu)化算力資源配置

隨著開源大模型的基礎(chǔ)設(shè)施化，其對算力資源的需求呈現(xiàn)指數(shù)級增長。故而算力資源的整合配置與供應(yīng)顯得尤為重要。在構(gòu)建算力法律保障體系的過程中，首先應(yīng)聚焦于算力基礎(chǔ)設(shè)施的安全與穩(wěn)定。根據(jù)《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》第九條的規(guī)定，應(yīng)明確將支撐大模型運行的算力基礎(chǔ)設(shè)施的法律地位界定為關(guān)鍵信息基礎(chǔ)設(shè)施。嚴(yán)格遵守《網(wǎng)絡(luò)安全法》與《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》中的相關(guān)規(guī)定，確保算力基礎(chǔ)設(shè)施的建設(shè)布局合理，滿足大模型產(chǎn)業(yè)及數(shù)字經(jīng)濟(jì)發(fā)展的需求。并在運行管理階段，要求算力基礎(chǔ)設(shè)施運營者根據(jù)《網(wǎng)絡(luò)安全法》第34條和《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》第15條至第18條的規(guī)定履行安全保障義務(wù)，如設(shè)置安全管理機(jī)構(gòu)、配備負(fù)責(zé)人、進(jìn)行崗前安全教育培訓(xùn)等，以維護(hù)算力基礎(chǔ)設(shè)施的安全穩(wěn)定運行。其次，制定統(tǒng)一的算力技術(shù)標(biāo)準(zhǔn)，通過標(biāo)準(zhǔn)化建設(shè)，實現(xiàn)算力資源的互聯(lián)互通和協(xié)同調(diào)度，提高算力資源的整體利用效率，解決當(dāng)前算力資源分散、孤島化的問題[24]。

還需建立完善的算力市場化交易制度，包括明確算力交易的主體、客體、方式和價格形成機(jī)制等，規(guī)范算力交易行為，保障交易雙方的合法權(quán)益，促進(jìn)算力資源在市場機(jī)制下的合理流動和優(yōu)化配置，以充分發(fā)揮市場在算力資源配置中的決定性作用。同時通過必要的政府監(jiān)管和政策引導(dǎo)，禁止任何可能限制、排除競爭的行為，確保算力市場的健康、有序發(fā)展。保障各類市場主體尤其是中小企業(yè)能夠公平地獲取和使用算力資源，避免算力資源被少數(shù)企業(yè)壟斷，阻礙科技創(chuàng)新。

（三）建立數(shù)據(jù)差異化治理框架，促進(jìn)數(shù)據(jù)合理使用

數(shù)據(jù)是提升開源大模型這一關(guān)鍵基礎(chǔ)設(shè)施應(yīng)用效能的重要基礎(chǔ)資源。目前，由于國內(nèi)數(shù)據(jù)挖掘不足及數(shù)據(jù)流通不暢，可用于大模型訓(xùn)練的高質(zhì)量中文數(shù)據(jù)集十分有限，并呈現(xiàn)碎片化分散狀態(tài)?？赏ㄟ^建立差異化的數(shù)據(jù)治理框架，促進(jìn)數(shù)據(jù)合理使用，并建立國家公共數(shù)據(jù)資源庫，促進(jìn)中小企業(yè)參與研發(fā)。從法律制度層面保障開源大模型開發(fā)者都可獲取數(shù)據(jù)資源并減少數(shù)據(jù)泄露風(fēng)險。

應(yīng)加快推動數(shù)據(jù)要素市場化配置改革，促進(jìn)數(shù)據(jù)流通交易和開發(fā)利用、強(qiáng)化數(shù)據(jù)安全治理。建立差異化數(shù)據(jù)治理框架，嚴(yán)格區(qū)分敏感數(shù)據(jù)保護(hù)與非敏感數(shù)據(jù)規(guī)模化利用的規(guī)制邏輯：對國家涉密數(shù)據(jù)、個人隱私等敏感數(shù)據(jù)領(lǐng)域嚴(yán)格執(zhí)行《保守國家秘密法》和《個人信息保護(hù)法》，建立開源大模型數(shù)據(jù)采集的“雙清單”制度（禁止收集清單與授權(quán)使用清單），避免敏感數(shù)據(jù)泄露；對非敏感數(shù)據(jù)領(lǐng)域制定《數(shù)據(jù)流通促進(jìn)法》，構(gòu)建數(shù)據(jù)確權(quán)、定價、交易的“三階規(guī)則體系”，通過數(shù)據(jù)利用透明度報告制度與侵權(quán)損害賠償規(guī)則，實現(xiàn)數(shù)據(jù)要素市場化配置。并可引入數(shù)據(jù)增值稅機(jī)制，對超過百萬級調(diào)用量的數(shù)據(jù)交易征收特別稅，所得用于補(bǔ)償數(shù)據(jù)來源群體。

在市場化改革的同時，也應(yīng)加快建設(shè)國家公共數(shù)據(jù)資源庫，整合各類公共數(shù)據(jù)，形成高質(zhì)量的公共數(shù)據(jù)集和行業(yè)數(shù)據(jù)集，為中小企業(yè)提供豐富、可靠的數(shù)據(jù)資源，降低其數(shù)據(jù)獲取成本。并鼓勵頭部企業(yè)等市場經(jīng)營主體建設(shè)公共數(shù)據(jù)集，促進(jìn)大中小企業(yè)間數(shù)據(jù)的共享與協(xié)同，提升開源大模型的研發(fā)質(zhì)量和效果。

（四）重視和強(qiáng)化算法安全，實施動態(tài)分級監(jiān)管

開源大模型的算法會隨著持續(xù)的訓(xùn)練、數(shù)據(jù)的積累以及算力的增強(qiáng)而不斷更新和優(yōu)化。因此，針對開源大模型的算法治理應(yīng)基于安全風(fēng)險等級保持實時動態(tài)分級監(jiān)管，即不斷更新監(jiān)管方式，同時根據(jù)不同類型的安全風(fēng)險等級調(diào)整監(jiān)管標(biāo)準(zhǔn)，強(qiáng)化對高風(fēng)險領(lǐng)域的監(jiān)管，釋放低風(fēng)險領(lǐng)域發(fā)展活力。從單一的事前預(yù)防型或事后補(bǔ)救型監(jiān)管轉(zhuǎn)變?yōu)椤笆虑邦A(yù)防、事中干預(yù)、事后懲治”的過程式監(jiān)管[25]?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》第3條明確提出了分類分級監(jiān)管原則，但并未提出進(jìn)一步的分類分級依據(jù)以及操作辦法。在具體操作上，可以參考?xì)W盟的做法，由監(jiān)管部門建立大模型算法研發(fā)與應(yīng)用的禁止性規(guī)范，制定《開源大模型算法負(fù)面清單》，明確禁止調(diào)用包含種族歧視、意識形態(tài)偏見等特征的數(shù)據(jù)庫；實施算法安全風(fēng)險分級備案制度，對醫(yī)療診斷、司法裁判等高風(fēng)險場景的大模型算法實施最嚴(yán)格的監(jiān)管標(biāo)準(zhǔn)；重構(gòu)責(zé)任認(rèn)定規(guī)則，當(dāng)大模型算法輸出違反《網(wǎng)絡(luò)安全法》第12條的禁止性規(guī)定時，適用嚴(yán)格責(zé)任原則追究大模型服務(wù)提供者責(zé)任；但同時也建立算法責(zé)任豁免機(jī)制，對開源社區(qū)的非商業(yè)性研發(fā)給予一定的合理合規(guī)寬容，以免過于嚴(yán)苛的法律審查抑制科技創(chuàng)新。

此外，應(yīng)構(gòu)建“技術(shù)標(biāo)準(zhǔn)-行業(yè)規(guī)則-法律規(guī)范”三級安全風(fēng)險防護(hù)體系：在技術(shù)層面強(qiáng)制嵌入價值對齊模塊，通過強(qiáng)化學(xué)習(xí)將正確的價值觀和意識形態(tài)融入大模型訓(xùn)練數(shù)據(jù)與輸出結(jié)果，盡可能防止算法偏見出現(xiàn)；在行業(yè)應(yīng)用層面建立開源大模型產(chǎn)品強(qiáng)制責(zé)任保險制度，保費基準(zhǔn)與其大模型算法安全風(fēng)險評級掛鉤，用以賠償大模型安全漏洞可能導(dǎo)致的損失；在法律層面完善《刑法》第286條，將嚴(yán)重算法漏洞的隱瞞行為納入刑事規(guī)制范疇。通過穿透式監(jiān)管實現(xiàn)從模型訓(xùn)練到應(yīng)用終端的全鏈條安全風(fēng)險控制，實現(xiàn)開源可控[26]。

（五）加強(qiáng)人工智能國際治理和合作，積極參與國際標(biāo)準(zhǔn)制定

為促進(jìn)國內(nèi)開源大模型生態(tài)的可持續(xù)及全球化發(fā)展，我國亟需制定并推廣統(tǒng)一且權(quán)威的本土化開源許可協(xié)議，以利于我國開發(fā)者閱讀與理解，與我國的法律實踐相適應(yīng)，并契合全球開源大模型的發(fā)展趨勢和發(fā)展要求。這不僅有利于推動全球法律和標(biāo)準(zhǔn)的對接，形成統(tǒng)一規(guī)范的國際法律治理框架，還能避免個別國家壟斷技術(shù)標(biāo)準(zhǔn)，確保全球人工智能產(chǎn)業(yè)的公平競爭。同時，應(yīng)加強(qiáng)國際治理和合作，學(xué)習(xí)域外國家在開源大模型法律治理領(lǐng)域的先進(jìn)方案，加快完善國內(nèi)法律治理體系，推動制度創(chuàng)新、提升技術(shù)智治，增進(jìn)國際社會對我國開源大模型安全風(fēng)險法律治理體系的信任，減少我國企業(yè)在全球范圍內(nèi)開展開源大模型業(yè)務(wù)的障礙。積極參與國際標(biāo)準(zhǔn)制定并通過國內(nèi)的法律治理實踐，為國際社會共同制定和實施開源大模型治理標(biāo)準(zhǔn)提供獨特的中國經(jīng)驗與智慧，最終引領(lǐng)國際開源大模型法律治理[27]。

五、結(jié)語

在開源大模型基礎(chǔ)設(shè)施地位日益凸顯的數(shù)智時代，沒有大模型的安全，就無法保障開源大模型技術(shù)和產(chǎn)業(yè)的健康快速發(fā)展。隨著開源大模型越來越多的應(yīng)用場景落地，也會帶來越來越多的新型安全風(fēng)險。國產(chǎn)開源大模型應(yīng)避免“重應(yīng)用、輕安全”的誤區(qū)。若放任安全風(fēng)險在技術(shù)發(fā)展過程中累積，不僅可能導(dǎo)致系統(tǒng)性技術(shù)失控，更可能侵蝕公眾信任、阻礙開源大模型產(chǎn)業(yè)發(fā)展。因此，必須將安全風(fēng)險的法律治理內(nèi)化為開源大模型發(fā)展的核心邏輯，構(gòu)建“技術(shù)發(fā)展”與“風(fēng)險治理”的動態(tài)平衡機(jī)制。

應(yīng)當(dāng)加快制定統(tǒng)籌開源大模型發(fā)展與安全的具體法律治理框架，推動形成創(chuàng)新發(fā)展與保障安全協(xié)同并進(jìn)、相互促進(jìn)的良好態(tài)勢。面向未來，開源大模型的安全風(fēng)險法律治理需立足三個方面協(xié)同推進(jìn)：其一，建立分層法律治理框架，針對基礎(chǔ)模型研發(fā)、行業(yè)微調(diào)應(yīng)用、終端服務(wù)部署等不同環(huán)節(jié)設(shè)計差異化責(zé)任規(guī)則，避免“一刀切”監(jiān)管對技術(shù)創(chuàng)新的抑制。建立“彈性監(jiān)管”與“剛性底線”相結(jié)合的法律框架，對政務(wù)、國防等涉密應(yīng)用場景實施強(qiáng)制性的安全認(rèn)證制度，對科研和開源社區(qū)保持適度包容。其二，推動制度創(chuàng)新，在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》等現(xiàn)有法律框架下，盡快制定專門針對開源大模型的安全管理條例，明確大模型開發(fā)者、服務(wù)提供者、使用者的權(quán)利義務(wù)邊界，完善責(zé)任追溯機(jī)制。其三，培育“安全即競爭力”的產(chǎn)業(yè)共識。政府通過聯(lián)合企業(yè)、科研院所共同建立開源大模型安全評級體系、推行大模型開發(fā)者安全能力認(rèn)證等市場化手段，引導(dǎo)產(chǎn)業(yè)界形成安全治理的內(nèi)生動力，激勵企業(yè)在安全技術(shù)上主動投入。充分利用我國在開源大模型發(fā)展中的優(yōu)勢和當(dāng)前技術(shù)研究與產(chǎn)業(yè)化的基礎(chǔ)，以及我國巨大的市場空間和規(guī)?；瘧?yīng)用潛力，促進(jìn)開源大模型技術(shù)與產(chǎn)業(yè)安全發(fā)展[28]。

總而言之，開源大模型是一片廣闊但充滿不確定性的“藍(lán)?！薄４溯喴訢eepSeek為代表的國產(chǎn)開源大模型發(fā)展浪潮已然在一定程度上打通人工智能技術(shù)的應(yīng)用環(huán)節(jié)，技術(shù)快速落地的同時，大量新型安全風(fēng)險也得以顯現(xiàn)，法律治理的現(xiàn)實需求不斷增加。在這個人工智能技術(shù)與社會深度耦合的數(shù)智時代，開源大模型安全風(fēng)險的法律治理既是攻堅戰(zhàn)更是持久戰(zhàn)。只有平衡好開源開放與安全可控的辯證關(guān)系，才能實現(xiàn)人工智能發(fā)展“既生機(jī)勃勃又行穩(wěn)致遠(yuǎn)”的理想圖景。期待本文提出的法律治理框架能為開源大模型治理提供新思路，更期盼中國在這場關(guān)乎人類未來的治理變革中，善用制度優(yōu)勢筑牢安全防線，以開放姿態(tài)貢獻(xiàn)治理智慧，最終走出一條技術(shù)領(lǐng)先、安全可信、具有全球示范意義的創(chuàng)新發(fā)展之路。

注 釋：

① 泛化能力，譯自Generalization ability，常指大模型在訓(xùn)練數(shù)據(jù)集之外的新數(shù)據(jù)、新場景、新領(lǐng)域中的預(yù)測和處理能力。

② 中國信通院人工智能研究所依托中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）安全治理委員會聯(lián)合30余家單位發(fā)起了大模型安全基準(zhǔn)測試2024 AI Safety Benchmark Q2版測試工作。測評結(jié)果顯示：開源和閉源大模型均受到惡意攻擊方法的影響，模型攻擊成功率出現(xiàn)上升，而開源大模型的攻擊成功率上升更為明顯。這證明了開源大模型在安全方面的脆弱性，直接使用開源大模型將存在巨大風(fēng)險。

③ 提示工程指通過設(shè)計和優(yōu)化與人工智能交互時使用的提示（輸入文本指令），引導(dǎo)人工智能生成符合用戶預(yù)期的輸出結(jié)果。

④ 案號：（2019）粵03民初3928號，濟(jì)寧市羅盒網(wǎng)絡(luò)科技有限公司訴福建風(fēng)靈創(chuàng)景科技有限公司、北京風(fēng)靈創(chuàng)景科技有限公司、深圳市騰訊計算機(jī)系統(tǒng)有限公司侵害計算機(jī)軟件著作權(quán)糾紛案。本案判決不僅認(rèn)可了開源協(xié)議的合法性，更是明確承認(rèn)了在中國法下開源許可協(xié)議的合同屬性，對于違反開源許可協(xié)議的行為存在違約救濟(jì)和侵權(quán)救濟(jì)兩種方式。值得稱贊的是，本案判決書不僅對案件本身進(jìn)行了說理，更是詳細(xì)梳理了開源軟件的發(fā)展歷史、個性特征，介紹了域外司法觀點和詳細(xì)案例，澄清了當(dāng)前對開源軟件協(xié)議的認(rèn)識誤區(qū)，展示了諸多亮點。

⑤ FLOP即每秒浮點運算次數(shù)（Floating-point Operations Per Second），是衡量計算機(jī)運算能力的一個重要指標(biāo)。

參考文獻(xiàn)：

［1］ 周學(xué)峰.生成式人工智能侵權(quán)責(zé)任探析［J］.比較法研究，2023（4）：117-131.

［2］ 李彤.生成式人工智能技術(shù)提供者侵權(quán)免責(zé)事由的識別重整［J］.南京社會科學(xué)，2024（2）：86-97.

［3］ 賀苗，褚星波.生成式人工智能的倫理風(fēng)險與規(guī)范選擇［J］.自然辯證法研究，2024（11）：94-101.

［4］ 張欣.生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管［J］.現(xiàn)代法學(xué)，2023（3）：108-123.

［5］ 蘇宇.優(yōu)化算法可解釋性及透明度義務(wù)之詮釋與展開［J］.法律科學(xué)（西北政法大學(xué)學(xué)報），2022（1）：133-141.

［6］ 陳兵，董思琰.生成式人工智能的算法風(fēng)險及治理基點［J］.學(xué)習(xí)與實踐，2023（10）：22-31.

［7］ 鈄曉東.論生成式人工智能的數(shù)據(jù)安全風(fēng)險及回應(yīng)型治理［J］.東方法學(xué)，2023（5）：106-116.

［8］ 劉金瑞.生成式人工智能大模型的新型風(fēng)險與規(guī)制框架［J］.行政法學(xué)研究，2024（2）：17-32.

［9］ 陳昌鳳，袁雨晴.智能新聞業(yè)：生成式人工智能成為基礎(chǔ)設(shè)施［J］.內(nèi)蒙古社會科學(xué)，2024（1）：40-48.

［10］ 汝鵬，蘇竣，韓志弘，等.智能引領(lǐng)未來：生成式人工智能的社會影響與標(biāo)準(zhǔn)化治理［J］.電子政務(wù)，2025（1）：2-14.

［11］ 何江，梁正，韓希佳.AI產(chǎn)業(yè)化與產(chǎn)業(yè)AI化：AI大模型產(chǎn)業(yè)生態(tài)的行動實踐、變革趨勢與前沿議題［J］.西安財經(jīng)大學(xué)學(xué)報，2024（6）：49-63.

［12］ 楊家明，張萌.認(rèn)知基礎(chǔ)設(shè)施與算法在認(rèn)知域的制度化［J］.青年記者，2024（2）：5-10.

［13］ 曾慶醒.涌現(xiàn)效應(yīng)下的生成式人工智能數(shù)據(jù)污染及其治理路徑［J］.法學(xué)雜志，2024（5）：53-69.

［14］ 張文祥.生成式人工智能虛假信息的輿論生態(tài)挑戰(zhàn)與治理進(jìn)路［J］.山東大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2025（1）：155-164.

［15］ 帥建強(qiáng)，韓源.淺析生成式人工智能意識形態(tài)風(fēng)險樣態(tài)、生成誘因及其治理邏輯［J］.西南民族大學(xué)學(xué)報（人文社會科學(xué)版），2024（3）：186-193.

［16］ 羅茜，蔡文怡.生成式人工智能的偏見：主要表現(xiàn)、發(fā)生機(jī)制與治理路徑［J］.福建師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2025（1）：95-104+171-172.

［17］ 馬平川.超級平臺權(quán)力的進(jìn)化與規(guī)制——以“微信小程序”為例［J］.政法論壇，2025（1）：180-191.

［18］ 董新凱.生成式人工智能治理的經(jīng)濟(jì)法邏輯［J］.山東師范大學(xué)學(xué)報（社會科學(xué)版），2024（3）：95-109.

［19］ 郭小東.生成式人工智能的風(fēng)險及其包容性法律治理［J］.北京理工大學(xué)學(xué)報（社會科學(xué)版），2023（6）：93-105+117.

［20］ 張濤.人工智能治理中“基于風(fēng)險的方法”：理論、實踐與反思［J］.華中科技大學(xué)學(xué)報（社會科學(xué)版），2024（2）：66-77.

［21］ 呂昭詩，李金平，陳宇.從GPT邁向AGI：人工智能治理的未來路徑探索［J］.科技智囊，2024（8）：60-68.

［22］ 邢亞杰，戚凱.論當(dāng)前美國政府的人工智能監(jiān)管政策［J］.國際觀察，2024（4）：31-57.

［23］ 張凌寒.生成式人工智能的法律定位與分層治理［J］.現(xiàn)代法學(xué)，2023（4）：126-141.

［24］ 趙精武，周瑞玨.人工智能治理的算力維度：論算力互聯(lián)互通［J］.鄭州大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2024（4）：47-55+143-144.

［25］ 陳兵，董思琰.常態(tài)化監(jiān)管與算法分類分級治理模式更新［J］.學(xué)術(shù)論壇，2024（3）：46-55.

［26］ 謝瀟，羅世杰.論生成式人工智能的動態(tài)風(fēng)險及適應(yīng)性治理［J］.北京工業(yè)大學(xué)學(xué)報（社會科學(xué)版），2025（1）：112-125.

［27］ 韓永輝，周港雋，徐翠芬.人工智能全球治理的現(xiàn)狀、困境和中國路徑［J］.特區(qū)實踐與理論，2024（6）：94-102.

［28］ 虎嵩林.大模型的安全風(fēng)險及應(yīng)對建議［J］.中國信息安全，2024（6）：14-17.