強(qiáng)人工智能時代的算法規(guī)制

摘 要： 人類終將來到強(qiáng)人工智能時代，人工智能技術(shù)推動社會變革，也帶來前所未有的社會風(fēng)險。規(guī)制人工智能算法十分必要，因為技術(shù)中立無法實現(xiàn)，反而會產(chǎn)生算法黑箱，而經(jīng)由去中心化形成的新秩序仍需國家主導(dǎo)。文章認(rèn)為對算法的法律規(guī)制要處理不同主體的自由、自由與秩序的價值取向問題，具體實現(xiàn)路徑應(yīng)轉(zhuǎn)變?yōu)轱L(fēng)險預(yù)防的規(guī)制模式，并構(gòu)建多層次規(guī)制體系。

關(guān)鍵詞： 人工智能;算法;去中心化;風(fēng)險預(yù)防;法律規(guī)制

中圖分類號：TP18;D920.0 文獻(xiàn)標(biāo)識碼：A DOI：10.13677/j.cnki.cn65-1285/c.2019.05.11

歡迎按以下方式引用：尤佳君.強(qiáng)人工智能時代的算法規(guī)制[J].克拉瑪依學(xué)刊，2019（5）75-79.

一、問題的提出

世界各國對人工智能的研究日益加深，使該領(lǐng)域得以迅猛成長，相關(guān)技術(shù)以指數(shù)級的速度發(fā)展，強(qiáng)人工智能時代的到來不可避免。正如馮·諾依曼強(qiáng)調(diào)的加速與奇點概念：“一旦超越了這個奇點，我們現(xiàn)在熟知的人類社會將變得大不相同。”[1]2然而，在享受人工智能紅利的同時，倫理風(fēng)險、極化風(fēng)險、異化風(fēng)險、規(guī)制風(fēng)險、責(zé)任風(fēng)險等相伴而生，[2]47給人類社會帶來全新而嚴(yán)峻的挑戰(zhàn)，法律必須對此作出回應(yīng)。

萊斯格認(rèn)為在未來“代碼就是法律”[3]6，對此觀點學(xué)者們雖有不同意見，但至少都承認(rèn)算法是社會學(xué)意義上的法。[4]139算法驅(qū)動著人工智能進(jìn)行數(shù)據(jù)處理和資源分配，人工智能時代可能產(chǎn)生的一系列社會風(fēng)險，究其根本，都是算法運(yùn)行的結(jié)果，因而規(guī)制算法是法律管控上述風(fēng)險的重要方面。

既有的規(guī)制模式僅針對算法所造成的結(jié)果，而在近年的相關(guān)案件中，此種模式越來越暴露出其缺陷，并不足以應(yīng)對未來強(qiáng)人工智能算法失控所引發(fā)的風(fēng)險?？梢灶A(yù)見，在強(qiáng)人工智能時代必然要呼喚新的算法規(guī)制模式。由此，在構(gòu)建強(qiáng)人工智能時代算法規(guī)制模式的問題上，不得不深入探究為何需要規(guī)制、怎樣取得新秩序下的價值平衡、如何構(gòu)建實現(xiàn)路徑等問題。

二、算法規(guī)制的理由

（一）技術(shù)中立背后的算法黑箱

技術(shù)中立原則起源于環(huán)球城市制片公司訴美國索尼公司案（Universal City Studios， Inc. v. SONY Corp. of America）所確立的“實質(zhì)性非侵權(quán)用途規(guī)則”，在中國諸如“快播案”等涉及算法責(zé)任的案件中，它常被援用作為抗辯理由，強(qiáng)調(diào)技術(shù)本身價值無涉，如果一項技術(shù)具備廣泛的合法應(yīng)用功能，則即使它被用于非法活動，也應(yīng)當(dāng)豁免技術(shù)開發(fā)者的責(zé)任。但技術(shù)中立是一種理想狀態(tài)，算法不可避免地會摻雜程序員的主觀偏好與企業(yè)商業(yè)利益的考量。從代碼編寫到應(yīng)用的整個流程，它始終存在在人類所賦予的內(nèi)在價值之中，“AI的技術(shù)設(shè)計與定位決定了其不可能成為一個排除價值和利益的純粹的合理系統(tǒng)”[5]74，技術(shù)中立原則在現(xiàn)實世界中猶如空中樓閣。故而在我國的司法實踐中，大部分主張因技術(shù)中立而免責(zé)的抗辯未被法院采納，[6]63但許多技術(shù)開發(fā)者仍秉持信奉技術(shù)中立的觀念。

技術(shù)中立觀念和結(jié)果監(jiān)管機(jī)制成為了算法黑箱生長的土壤，法律不直接介入算法內(nèi)部，給予了技術(shù)開發(fā)者暗箱操作的機(jī)會。算法黑箱有三種典型形式：其一，輸入和輸出側(cè)公開，只有算法的處理過程不為人知;其二，只有最終輸出的結(jié)果可知，算法輸入的數(shù)據(jù)及處理過程不透明;其三，算法能夠通過自主學(xué)習(xí)自動選擇數(shù)據(jù)，并進(jìn)行不同于模板化的輸出，使輸入、處理、輸出三個階段形成黑箱閉環(huán)。[7]50在強(qiáng)人工智能時代，由于人工智能具備神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)以及超強(qiáng)的運(yùn)算能力，第三種形式的黑箱會更常見，也最危險——因為該算法的形成過程如此復(fù)雜，以至于連開發(fā)者都可能無法理解其運(yùn)行邏輯。隨著人工智能行業(yè)的井噴式發(fā)展，算法黑箱內(nèi)的社會風(fēng)險因素越來越隱蔽，人類有限的能力也越發(fā)難以發(fā)覺和理解它們。有鑒于此，不能囿于技術(shù)中立的幻想，而應(yīng)積極規(guī)制算法以防范未知的風(fēng)險。

（二）法律的定位：去中心化、再中心化與國家主導(dǎo)

新一輪科技革命將會打破人類社會長期以來的中心化結(jié)構(gòu)，重新塑造社會資源的分配方式，實現(xiàn)去中心化。人工智能技術(shù)的研究由企業(yè)等私主體主導(dǎo)，它們掌握了通過算法在部分領(lǐng)域建構(gòu)規(guī)則和調(diào)整社會關(guān)系的能力，國家卻無法觸及算法內(nèi)部，甚至在做某些決策時要依賴于算法的自動決策，這意味著傳統(tǒng)由政治國家所享有的部分權(quán)力將轉(zhuǎn)移到社會中。國家通過縱向權(quán)力管理社會的時代一去不復(fù)返，取而代之的是多中心、扁平化的新社會秩序。

去中心化的格局實現(xiàn)后，權(quán)力分散于社會之中的狀態(tài)并不穩(wěn)固，再中心化趨勢悄然降臨。馬太效應(yīng)使得資源向著少數(shù)率先收集數(shù)據(jù)、掌握核心算法、經(jīng)濟(jì)實力雄厚的主體傾斜，經(jīng)由去中心化所分散的權(quán)力重新聚集到這些主體手中，形成新的中心——與中心化不同的是，再中心化所形成的中心是私主體而非國家。區(qū)塊鏈技術(shù)的演變提供了參考，把區(qū)塊鏈作為底層技術(shù)的比特幣，以消解具有記賬權(quán)與貨幣發(fā)行權(quán)的社會信用中心為己任，起初個人電腦也能通過算法計算獲得比特幣，而隨著技術(shù)演進(jìn)和比特幣總量限制，僅靠個人電腦挖掘比特幣的難度顯著提高，比特幣資源愈發(fā)流向大型“挖礦”公司，比特大陸公司甚至已控制了42%的算力，儼然成為比特幣世界的中心。

人工智能導(dǎo)致國家功能變遷，作為國家制定或認(rèn)可之行為規(guī)范體系的法律，從預(yù)防人工智能風(fēng)險角度究竟應(yīng)如何定位尤其值得深思。在人工智能沖擊社會秩序的過程中，國家應(yīng)始終處于超然地位，通過法律主導(dǎo)新秩序的重構(gòu)和人工智能風(fēng)險的防控。國家中心地位的弱化并不妨礙其主導(dǎo)社會新秩序，其公共屬性能夠最大程度上實現(xiàn)公平，避免開發(fā)者或使用者兼具選手和裁判的雙重身份，使得對算法的規(guī)制被商業(yè)利益左右，從而于再中心化后危害公共利益。國家主導(dǎo)的超然性體現(xiàn)為兩方面：第一，立法者不直接創(chuàng)設(shè)技術(shù)規(guī)則，而是從宏觀層面原則性地指導(dǎo)人工智能技術(shù)發(fā)展;第二，國家重視行業(yè)內(nèi)部自發(fā)形成的普遍性規(guī)則，并適時將其中的規(guī)則轉(zhuǎn)化為法律。人們的認(rèn)知也會隨著社會秩序的重構(gòu)，相應(yīng)地發(fā)生“從行為中心論向溝通中心論轉(zhuǎn)變， 從國家中心論向社會中心論轉(zhuǎn)變， 從規(guī)則中心論向代碼中心論轉(zhuǎn)變” [8]102。

三、算法規(guī)制中價值困境及重新衡量

部分國家權(quán)力的社會化所帶來的結(jié)果是私主體在某些領(lǐng)域中代替國家行使權(quán)力，當(dāng)算法爭議產(chǎn)生于這些領(lǐng)域時，傳統(tǒng)的秩序與自由的沖突即轉(zhuǎn)化為不同私主體之間自由的沖突，價值取向問題相應(yīng)地轉(zhuǎn)變?yōu)樵搩A向于保護(hù)誰的自由。同時，在這些領(lǐng)域之外，國家出于公共利益等目的仍然需要直接規(guī)制算法的涉及與應(yīng)用，秩序與自由的齟齬依然存在。

（一）私主體內(nèi)部：自由之間的沖突

憲法和法律保護(hù)算法開發(fā)者和使用者的自由，包括技術(shù)自由、言論自由、商業(yè)自由等，其主要防御對象是公權(quán)力的任意干涉。但近年相關(guān)案例呈現(xiàn)的結(jié)果卻是，掌握算法的企業(yè)與普通個人的糾紛成為法院探討這些自由的主流情形，自由直接的沖突亟待法律加以平衡。

首先，法律所保護(hù)的自由，應(yīng)當(dāng)根據(jù)主體差異加以區(qū)分。美國法院往往將算法歸入言論自由范疇，甚至認(rèn)為算法本身是言論自由的主體，使得個人在與互聯(lián)網(wǎng)公司的訴訟中鎩羽而歸，“每個試圖規(guī)制算法的嘗試，都必須先通過‘算法是不是言論或‘規(guī)制算法是否侵犯言論自由這道門檻。到目前為止，算法的言論自由主張取得了全部法庭交鋒的勝利”[9]123。美國司法實踐不區(qū)分主體而一味保護(hù)企業(yè)言論自由的做法并不合理，在保護(hù)開發(fā)者和使用者的自由時，與普通主體不能適用同一種保護(hù)標(biāo)準(zhǔn)，否則法院只會關(guān)注到企業(yè)的自由是否受到威脅，而忽略了個人的權(quán)利和自由正被企業(yè)侵害的事實。

其次，主體事實上的不平等，需要法律給予傾斜保護(hù)。人工智能去中心化進(jìn)程帶來的是部分國家權(quán)力的社會化，利用算法進(jìn)行自動決策不僅是開發(fā)者和使用者按自己意愿行動的自由、還是使用權(quán)力配置社會資源的行為。相比這些主體，個人處于弱勢地位，其權(quán)利與自由更易受侵害，法律應(yīng)當(dāng)通過傾斜保護(hù)來修正事實上的不平等。

最后，權(quán)利功能觀應(yīng)作調(diào)整，賦予基本權(quán)利對抗算法開發(fā)者和使用者的功能。濫用與異化風(fēng)險跟隨權(quán)力轉(zhuǎn)移到算法開發(fā)者和使用者身上，“個體自由和個體權(quán)利面臨的侵害風(fēng)險已不獨是國家，憲法基本權(quán)利主要防御國家的功能也將擴(kuò)展到防御機(jī)構(gòu)、組織和公司侵權(quán)上來”[10]44。因此，擴(kuò)展憲法基本權(quán)利的防御范圍，形成以個人權(quán)利對抗算法控制者的格局，是化解自由之間沖突的有力保障。

（二）國家與私主體：秩序與自由的齟齬

法律對秩序價值的維護(hù)在強(qiáng)人工智能時代更為重要。人工智能具備深度學(xué)習(xí)和強(qiáng)大的運(yùn)算能力，缺乏法律規(guī)制的算法都存在破壞秩序的潛在威脅。數(shù)據(jù)是萬物互聯(lián)的媒介，一旦有害算法輸出污染數(shù)據(jù)，容易引起其他算法錯誤決策的連鎖反應(yīng)，進(jìn)而引發(fā)系統(tǒng)性風(fēng)險。

但是過度限制算法設(shè)計者與使用者的自由不利于人工智能的技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展。美國信息技術(shù)與創(chuàng)新基金會發(fā)布的《歐盟新的數(shù)據(jù)保護(hù)規(guī)定對人工智能的影響》分析認(rèn)為：《一般數(shù)據(jù)保護(hù)條例》（GDPR）第22條賦予公司人工審查重要算法決策的義務(wù)會極大地阻礙歐盟人工智能產(chǎn)業(yè)的發(fā)展。[11]75嚴(yán)格的算法規(guī)制固然能夠最大限度地防控風(fēng)險、維護(hù)個人權(quán)利，但它建立在限制商業(yè)自由的基礎(chǔ)上，給公司增加了過高的成本負(fù)擔(dān)，也無形中提高了行業(yè)準(zhǔn)入門檻，其結(jié)果是人工智能產(chǎn)業(yè)會因為政府過度監(jiān)管的外部壓力而舉步維艱。

平衡秩序與自由價值的最佳方案是注重國家權(quán)力的謙抑性，讓法律對算法的規(guī)制充當(dāng)控制社會風(fēng)險的安全閥。充分保障算法設(shè)計者與使用者的自由，只有當(dāng)行使此種自由觸及危害社會的紅線時，法律才更加側(cè)重秩序價值的維護(hù)，“當(dāng)AI負(fù)面效應(yīng)因子產(chǎn)生，安全閥開啟，法律的秩序價值走上前臺，技術(shù)的自由價值退居幕后”[5]75。

四、算法規(guī)制的實現(xiàn)路徑

（一）選擇風(fēng)險預(yù)防模式

傳統(tǒng)規(guī)制模式是“對算法造成的結(jié)果進(jìn)行監(jiān)管，事后追究責(zé)任”[12]53的結(jié)果導(dǎo)向模式，它在面對互聯(lián)網(wǎng)技術(shù)相關(guān)的案件時愈發(fā)顯現(xiàn)出缺陷。誠如吳漢東所言：“人工智能發(fā)展的政策考量，其實是基于風(fēng)險的制度選擇和法律安排?！盵13]130人工智能風(fēng)險如果實際發(fā)生，造成損失的規(guī)模和破壞力難以估量，因此算法規(guī)制模式必須轉(zhuǎn)變?yōu)轱L(fēng)險預(yù)防。

第一，風(fēng)險預(yù)防的途徑是事先審查和結(jié)果監(jiān)管并重。在傳統(tǒng)模式的基礎(chǔ)上，將法律對算法的規(guī)制提前;將人工智能行業(yè)的機(jī)器倫理共識轉(zhuǎn)化為法律，用以指導(dǎo)和約束算法的編寫和使用;審查算法的設(shè)計目的是否違反法律和倫理;檢測代碼成品是否存在容易被黑客、惡意程序攻擊的漏洞，以阻止可能產(chǎn)生的外部風(fēng)險。

第二，風(fēng)險預(yù)防的衡量標(biāo)準(zhǔn)應(yīng)以人性尊嚴(yán)為尺度。任何技術(shù)都以服務(wù)人類為出發(fā)點和落腳點，算法的設(shè)計不得有損人類的主體性。阿西洛馬人工智能原則提出：“人工智能應(yīng)符合一般的‘人的價值之類的尊嚴(yán)、權(quán)利、自由和文化等多樣性?！盵14]28維護(hù)人性尊嚴(yán)是法律設(shè)置的底線，一旦算法越過了這條底線，即背離了人工智能技術(shù)的初衷，使得人類的地位與價值受到威脅，監(jiān)管者就應(yīng)當(dāng)強(qiáng)制停止開發(fā)或使用該算法。

第三，風(fēng)險預(yù)防的必要前提是保證算法透明度?；诰S護(hù)商業(yè)秘密和技術(shù)自由的考量，透明度原則只要求公開披露重要決策信息，盡可能減少算法黑箱，而不深入技術(shù)細(xì)節(jié);同時賦予個人算法解釋權(quán)，以個人權(quán)利和企業(yè)義務(wù)的形式實現(xiàn)算法處理特定數(shù)據(jù)信息的透明。

（二）構(gòu)建多層次規(guī)制體系

馬長山指出：規(guī)制人工智能風(fēng)險需要構(gòu)建“多元互動的風(fēng)險規(guī)制體系”，[2]53具體落實到算法規(guī)制領(lǐng)域則需要以法律為中心，構(gòu)建覆蓋國家、行業(yè)、開發(fā)者和使用者、社會的多層次規(guī)制體系。

首先，國家規(guī)制。這包括三方面內(nèi)容：其一是立法者宏觀、原則性地指導(dǎo)人工智能技術(shù)的發(fā)展方向，規(guī)定算法編寫的目的不得損害人性尊嚴(yán)之底線;其二是給設(shè)計者和使用者設(shè)定適當(dāng)?shù)牧x務(wù)，對某些關(guān)鍵的技術(shù)指標(biāo)適用強(qiáng)制標(biāo)準(zhǔn)，如為防止算法的高速自動決策輸出錯誤結(jié)果的風(fēng)險，將運(yùn)算速度限制在可控范圍內(nèi);[15]169其三是強(qiáng)化監(jiān)管部門的事先審查，除了在編寫之初審查算法目的是否合法，亦可采用以算法規(guī)制算法的方式，在其投入應(yīng)用前進(jìn)行強(qiáng)制性檢驗，排除存在違法內(nèi)容或重大安全漏洞的算法，只有通過算法測試才符合商業(yè)利用的合格標(biāo)準(zhǔn)。

其次，行業(yè)規(guī)制。在國家難以監(jiān)管的算法技術(shù)細(xì)節(jié)部分，應(yīng)當(dāng)交由行業(yè)規(guī)范進(jìn)行規(guī)制。人工智能行業(yè)是從業(yè)人員的共同體，具有其他實體無法比擬的技術(shù)熟悉度和專業(yè)性;行業(yè)由諸多企業(yè)組成，不會被個別企業(yè)的商業(yè)利益左右，保證相當(dāng)程度的公平;行業(yè)的范圍往往跨越一國邊界，形成政治權(quán)力與社會權(quán)力交叉的局面，行業(yè)規(guī)范更能滿足全球化、精細(xì)化的算法規(guī)制需求。行業(yè)規(guī)制一方面能夠?qū)⒎傻暮暧^原則轉(zhuǎn)化為可操作的技術(shù)規(guī)范;另一方面也能發(fā)展機(jī)器倫理，為立法提供資源。

再次，開發(fā)者和使用者自我規(guī)制。針對算法編寫和運(yùn)行部分，需要依靠開發(fā)者和使用者的自我約束。開發(fā)者編寫的代碼應(yīng)當(dāng)符合法律、行業(yè)規(guī)范和機(jī)器倫理，不偏離公開的算法設(shè)計目的等重要決策信息。使用者須主動承擔(dān)審查義務(wù)，包括審查算法運(yùn)行狀態(tài)、監(jiān)控算法運(yùn)行結(jié)果和審計算法數(shù)據(jù)。[16]151若開發(fā)者和使用者因疏于履行自我規(guī)制的義務(wù)而引發(fā)人工智能風(fēng)險，則應(yīng)當(dāng)要求其承擔(dān)算法責(zé)任。

最后，社會規(guī)制。社會規(guī)制由非營利性組織主導(dǎo)，如德國的算法監(jiān)控（AlgorithmWatch），其宗旨是評估和揭示具有社會相關(guān)性的算法決策過程。非營利性組織相對具有中立性，通過招募“白帽子”①之類人工智能和網(wǎng)絡(luò)安全領(lǐng)域的專業(yè)人士，能夠匯集社會力量，起到監(jiān)督企業(yè)算法的作用。

五、結(jié)語

人工智能技術(shù)終將推動社會變革，也會帶來前所未有的社會風(fēng)險。國務(wù)院頒布的《新一代人工智能發(fā)展規(guī)劃》強(qiáng)調(diào)：“必須高度重視可能帶來的安全風(fēng)險挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險，確保人工智能安全、可靠、可控發(fā)展?！奔扔械姆▽W(xué)體系面臨挑戰(zhàn)，法律應(yīng)當(dāng)順勢而為，轉(zhuǎn)變?yōu)轱L(fēng)險預(yù)防的算法規(guī)制模式，以適應(yīng)強(qiáng)人工智能時代的變局。

公權(quán)力的適當(dāng)管制不會減緩或阻礙科技進(jìn)步， 相反，技術(shù)中立觀念下暗藏的算法黑箱卻可能引發(fā)危機(jī)。法律應(yīng)保持前瞻性和謙抑性，平衡自由與自由、自由與秩序的價值沖突，避免公權(quán)力對技術(shù)發(fā)展不必要的束縛，讓人工智能技術(shù)能在多層次規(guī)制體系內(nèi)自由成長。

注釋：

①“白帽子”：指研究或從事網(wǎng)絡(luò)安全與計算機(jī)技術(shù)防御的專業(yè)人士，他們會尋找計算機(jī)系統(tǒng)或網(wǎng)絡(luò)系統(tǒng)中的安全漏洞，并提交給相關(guān)企業(yè)，幫助企業(yè)發(fā)現(xiàn)計算機(jī)安全問題，促使企業(yè)在黑客攻擊前修補(bǔ)漏洞。

參考文獻(xiàn)：

[1][美]Ray Kurzweil.奇點臨近[M].李慶誠，董振華，田源，譯.北京：機(jī)械工業(yè)出版社，2017.

[2]馬長山.人工智能的社會風(fēng)險及其法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報），2018（6）.

[3][美]萊斯格.代碼2.0：網(wǎng)絡(luò)空間中的法律[M].李旭，沈偉偉，譯.北京：清華大學(xué)出版社，2009.

[4]陳景輝.人工智能的法律挑戰(zhàn)：應(yīng)該從哪里開始？[J].比較法研究，2018（5）.

[5]吳梓源，游鐘豪.AI侵權(quán)的理論邏輯與解決路徑——基于對“技術(shù)中立”的廓清[J].福建師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2018（5）.

[6]邱遙堃.法院如何規(guī)制算法——從快播案切入[J].

法律和社會科學(xué)，2017（1）.

[7]張淑玲.破解黑箱：智媒時代的算法權(quán)力規(guī)制與透明實現(xiàn)機(jī)制[J].中國出版，2018（7）.

[8]魯楠.科技革命、法哲學(xué)與后人類境況[J].中國法律評論，2018（2）.

[9]左亦魯.算法與言論——美國的理論與實踐[J].環(huán)球法律評論，2018（5）.

[10]齊延平.論人工智能時代法律場景的變遷[J].法律科學(xué)（西北政法大學(xué)學(xué)報），2018（4）.

[11]吳沈括，唐巧盈.歐盟數(shù)據(jù)保護(hù)新規(guī)對人工智能的影響報告述評[J].信息安全與通信保密，2018（7）.

[12]張凌寒.風(fēng)險防范下算法的監(jiān)管路徑研究[J].交大法學(xué)，2018（4）.

[13]吳漢東.人工智能時代的制度安排與法律規(guī)制[J].

法律科學(xué)（西北政法大學(xué)學(xué)報），2017（5）.

[14]彭蘭.假象、算法囚徒與權(quán)利讓渡：數(shù)據(jù)與算法時代的新風(fēng)險[J].西北師大學(xué)報（社會科學(xué)版），

2018（5）.

[15][美]皮埃羅·斯加魯菲.智能的本質(zhì)：人工智能與機(jī)器人領(lǐng)域的64個大問題[M].任莉，張建宇，譯.北京：人民郵電出版社，2017.

[16]姜野.算法的規(guī)訓(xùn)與規(guī)訓(xùn)的算法：人工智能時代算法的法律規(guī)制[J].河北法學(xué)，2018（12）.