關(guān)于美國《算法正義和互聯(lián)網(wǎng)平臺(tái)透明度法案》的借鑒與啟示

摘 ? 要：近年來，隨著互聯(lián)網(wǎng)平臺(tái)不斷發(fā)展，沉淀的個(gè)人數(shù)據(jù)規(guī)模不斷擴(kuò)大，在數(shù)據(jù)運(yùn)用過程中，“大數(shù)據(jù)殺熟”等算法歧視行為屢次發(fā)生，嚴(yán)重侵犯了公民的合法權(quán)益，不利于平臺(tái)經(jīng)濟(jì)的健康發(fā)展，甚至影響社會(huì)公平與正義。2021年5月27日，美國參議院出臺(tái)了《算法正義和互聯(lián)網(wǎng)平臺(tái)透明度法案》，禁止互聯(lián)網(wǎng)平臺(tái)通過算法歧視性地對個(gè)人信息進(jìn)行處理，并提出一系列措施確保平臺(tái)在算法使用過程中履行審核和透明度義務(wù)。當(dāng)前，我國互聯(lián)網(wǎng)平臺(tái)發(fā)展走在世界前列，如何進(jìn)一步規(guī)范互聯(lián)網(wǎng)平臺(tái)數(shù)據(jù)和算法等技術(shù)應(yīng)用，以技術(shù)正義、向善應(yīng)用促進(jìn)行業(yè)整體健康有序發(fā)展，是我國數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展重要保障，也是完善社會(huì)主義市場經(jīng)濟(jì)體制建設(shè)的重要支撐。本文對《算法正義和互聯(lián)網(wǎng)平臺(tái)透明度法案》出臺(tái)的相關(guān)背景進(jìn)行了研究，對法案中值得關(guān)注的主要內(nèi)容進(jìn)行歸納總結(jié)，并梳理了各國互聯(lián)網(wǎng)平臺(tái)監(jiān)管相關(guān)制度，結(jié)合我國實(shí)際，提出加強(qiáng)法規(guī)制度頂層設(shè)計(jì)、加大監(jiān)管治理力度、創(chuàng)新數(shù)字化監(jiān)管方式等治理路徑探索方向。

關(guān)鍵詞：算法監(jiān)管;大數(shù)據(jù);互聯(lián)網(wǎng)平臺(tái);數(shù)字化監(jiān)管;數(shù)據(jù)保護(hù)

DOI：10.3969/j.issn.1003-9031.2021.12.003

中圖分類號(hào)：F49 ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識(shí)碼：A ? ? ? ?文章編號(hào)：1003-9031（2021）12-0017-07

一、法案出臺(tái)背景

移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能、云計(jì)算、計(jì)算機(jī)算法等技術(shù)的應(yīng)用深刻地改變了全球經(jīng)濟(jì)和社會(huì)的運(yùn)行方式。隨著人工智能技術(shù)的不斷發(fā)展，基于算法的自動(dòng)化決策系統(tǒng)逐漸被應(yīng)用到各個(gè)領(lǐng)域中，但算法歧視、算法偏見等問題日益突出，互聯(lián)網(wǎng)社會(huì)信任機(jī)制的缺失對社會(huì)公眾的利益造成嚴(yán)重?fù)p害，特別是歧視性算法程序已經(jīng)對邊緣化的人口造成了不成比例的傷害。

（一）美國一直以來高度關(guān)注算法監(jiān)管

一是紐約率先推出政府決策算法問責(zé)制。針對政府對算法自動(dòng)化決策的依賴引起了社會(huì)公眾不滿的問題，美國紐約政府首先推出算法應(yīng)用的監(jiān)管政策。2017年12月，為解決算法歧視問題，紐約發(fā)布《算法問責(zé)法案》，要求政府建立算法決策使用問責(zé)制。該法案要求成立由算法決策相關(guān)領(lǐng)域?qū)＜液褪鼙娊M織代表共同組成的工作組，以第三方監(jiān)管的方式，對紐約市政府在政務(wù)服務(wù)中使用的自動(dòng)決策算法的透明度、平等性進(jìn)行評估。在認(rèn)為發(fā)生算法歧視和偏見時(shí)進(jìn)行問責(zé)，并就如何改進(jìn)算法公平性和可信度提出建議，以此推動(dòng)政府決策算法開源，促進(jìn)公眾了解政府服務(wù)中自動(dòng)化決策的過程。這是美國首次就規(guī)范算法應(yīng)用制定監(jiān)管政策，為其他國家和地區(qū)制定算法監(jiān)管規(guī)則提供了有益參考。二是美國國會(huì)探索對算法應(yīng)用進(jìn)行合規(guī)性評估。2019年4月，美國國會(huì)引入《2019年算法問責(zé)法案》，從用戶保護(hù)的角度出發(fā)，防止導(dǎo)致對用戶歧視的自動(dòng)化決策，并指導(dǎo)聯(lián)邦貿(mào)易委員會(huì)（FTC）規(guī)范相關(guān)實(shí)體使用、存儲(chǔ)或共享用于進(jìn)行自動(dòng)決策系統(tǒng)影響評估和數(shù)據(jù)保護(hù)影響評估的個(gè)人信息。該法案強(qiáng)制要求相關(guān)實(shí)體針對高風(fēng)險(xiǎn)自動(dòng)決策系統(tǒng)進(jìn)行自動(dòng)決策系統(tǒng)影響評估和數(shù)據(jù)保護(hù)影響評估，并明確了聯(lián)邦貿(mào)易委員會(huì)在監(jiān)管過程中的權(quán)力和責(zé)任。采用影響評估等靈活動(dòng)態(tài)的機(jī)制，相較于直接要求算法公開、算法解釋等，更有利于產(chǎn)業(yè)的發(fā)展，但對于評估中關(guān)于歧視、偏見等的價(jià)值判斷仍未建立統(tǒng)一通用的標(biāo)準(zhǔn)。

（二）全球范圍內(nèi)基于算法決策的違規(guī)行為大幅增加

算法歧視的頻發(fā)引起全球關(guān)注，在當(dāng)前互聯(lián)網(wǎng)平臺(tái)經(jīng)營環(huán)境下，其核心在于利用數(shù)據(jù)挖掘、數(shù)據(jù)分析，對不同用戶區(qū)別對待，從而最大化剝奪其剩余價(jià)值。首先，此類算法歧視違反壟斷、反不正當(dāng)競爭等規(guī)定，最突出的表現(xiàn)是“大數(shù)據(jù)殺熟”和“二選一”等不正當(dāng)競爭行為。如2021年4月，市場監(jiān)管總局認(rèn)定阿里巴巴借助市場力量、平臺(tái)規(guī)則和數(shù)據(jù)、算法等技術(shù)手段，實(shí)施“二選一”行為，違反反壟斷法規(guī)定，依法處以182億元罰款。2021年10月，美團(tuán)因在網(wǎng)絡(luò)餐飲外賣平臺(tái)服務(wù)濫用市場支配地位，以差別費(fèi)率、拖延商家上線等方式，并通過數(shù)據(jù)、算法等技術(shù)手段，實(shí)施“二選一”等排出、限制市場競爭行為，被罰款34.4億元。2019年，歐盟委員會(huì)對亞馬遜使用在其平臺(tái)上第三方商戶的銷售數(shù)據(jù)，用于自營商品的定價(jià)、廣告推送等行為涉嫌壟斷立案調(diào)查。

其次，算法歧視違反個(gè)人信息使用的規(guī)定，對數(shù)字主體權(quán)利造成侵害。2021年1月，意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)對外賣配送平臺(tái)Deliveroo處以290萬歐元罰款，案由為該平臺(tái)使用的算法會(huì)根據(jù)騎手是否可以在周末晚上的高峰時(shí)段工作以及完成訂單速度等平臺(tái)沉淀信息，基于算法評估騎手的可靠性、可用性，用于系統(tǒng)訂單分配，決定騎手選擇送餐次序優(yōu)先級，優(yōu)先次序更高的騎手獲得高峰時(shí)段利潤更高訂單的幾率越高。這一行為違反了《通用數(shù)據(jù)保護(hù)條例》關(guān)于“保護(hù)數(shù)據(jù)主體的權(quán)利、自由和合法利益，至少保證人為干預(yù)的權(quán)利”等規(guī)定。2020年，Uber司機(jī)集體向荷蘭阿姆斯特丹地方法院提起訴訟，起訴Uber涉嫌根據(jù)工作表現(xiàn)對司機(jī)進(jìn)行標(biāo)簽，如準(zhǔn)點(diǎn)率、訂單取消率、服務(wù)態(tài)度等，通過算法來進(jìn)行訂單分配并影響司機(jī)收入，但司機(jī)并未掌握相關(guān)信息，從而違反《通用數(shù)據(jù)保護(hù)條例》中數(shù)據(jù)主體訪問權(quán)相關(guān)規(guī)定。

（三）算法歧視背后的壟斷、資本無序擴(kuò)張等風(fēng)險(xiǎn)受到重點(diǎn)關(guān)注

從本質(zhì)而言，互聯(lián)網(wǎng)平臺(tái)對算法和數(shù)據(jù)的不當(dāng)使用，最底層的邏輯是互聯(lián)網(wǎng)平臺(tái)在多年的發(fā)展中，通過網(wǎng)絡(luò)效益、規(guī)模經(jīng)濟(jì)效應(yīng)已經(jīng)鎖定了大量的用戶，并沉淀積累了大量的數(shù)據(jù)，相當(dāng)于在私營企業(yè)的內(nèi)部，形成了對于公眾基礎(chǔ)信息的數(shù)據(jù)庫。而憑借對用戶數(shù)據(jù)的掌控，互聯(lián)網(wǎng)平臺(tái)得以實(shí)施壟斷行為，從平臺(tái)連接的雙邊市場中攫取利益，最終形成資本的無序擴(kuò)張。利用算法和數(shù)據(jù)實(shí)施的壟斷對經(jīng)濟(jì)運(yùn)行的影響已經(jīng)引起了各國的關(guān)注，且隨著跨界經(jīng)營、交叉經(jīng)營的不斷開展，風(fēng)險(xiǎn)更加高度集聚。2017—2020年，Google、Amazon、Facebook、Apple等大型互聯(lián)網(wǎng)平臺(tái)在全球范圍內(nèi)接受111起反壟斷調(diào)查，其中對Google罰款超80億美元。

二、法案主要內(nèi)容

2021年5月，美國議會(huì)針對互聯(lián)網(wǎng)平臺(tái)的算法問題，提出了《算法正義與互聯(lián)網(wǎng)平臺(tái)透明度法案》（以下簡稱《法案》），要求互聯(lián)網(wǎng)平臺(tái)規(guī)范算法過程，保障用戶的個(gè)人信息和特征不受歧視，并對歧視的判斷作了詳細(xì)的解釋，同時(shí)建立了算法的安全性和有效性標(biāo)準(zhǔn)，為互聯(lián)網(wǎng)平臺(tái)的算法正義與透明指明了方向?！斗ò浮方够ヂ?lián)網(wǎng)平臺(tái)通過算法歧視性地對個(gè)人信息進(jìn)行處理。一方面，要求互聯(lián)網(wǎng)平臺(tái)為非法算法流程承擔(dān)責(zé)任，提出一系列措施確保平臺(tái)在算法使用過程中履行審核和透明度義務(wù);另一方面，要求互聯(lián)網(wǎng)平臺(tái)驗(yàn)證其算法是否按照預(yù)定方式運(yùn)行，并為用戶提供數(shù)據(jù)可攜帶性。保障個(gè)人可以對互聯(lián)網(wǎng)平臺(tái)歧視性算法進(jìn)行起訴，確保互聯(lián)網(wǎng)平臺(tái)尊重和保障公民的各項(xiàng)權(quán)利。

（一）明確算法處理和內(nèi)容審核義務(wù)，提升算法透明度

《法案》規(guī)定互聯(lián)網(wǎng)平臺(tái)需披露算法處理信息的方式方法以及信息的來源，發(fā)布關(guān)于內(nèi)容審核慣例的透明度報(bào)告，維護(hù)廣告資料庫的義務(wù)，使互聯(lián)網(wǎng)平臺(tái)的用戶能夠獲得可理解的信息，了解互聯(lián)網(wǎng)平臺(tái)如何對內(nèi)容進(jìn)行審核以及如何使用算法處理來放大或推薦內(nèi)容，避免因不透明的算法處理而造成差異性體驗(yàn)。法案還規(guī)定了算法審核義務(wù)，要求平臺(tái)向用戶披露平臺(tái)內(nèi)容審核的完整說明，并每年定期發(fā)布內(nèi)容審核透明度報(bào)告。

（二）推動(dòng)數(shù)據(jù)結(jié)構(gòu)標(biāo)準(zhǔn)化，保障數(shù)據(jù)可攜帶權(quán)

《法案》規(guī)定互聯(lián)網(wǎng)平臺(tái)需為用戶提供訪問其保留在電子數(shù)據(jù)庫中的個(gè)人信息，推動(dòng)數(shù)據(jù)轉(zhuǎn)移結(jié)構(gòu)的規(guī)范化和標(biāo)準(zhǔn)化，確?；ヂ?lián)網(wǎng)平臺(tái)用戶將個(gè)人數(shù)據(jù)遷移到其他互聯(lián)網(wǎng)平臺(tái)。

（三）規(guī)范算法在廣告領(lǐng)域的應(yīng)用，減少機(jī)會(huì)領(lǐng)域歧視的發(fā)生

《法案》規(guī)定互聯(lián)網(wǎng)平臺(tái)禁止發(fā)布不公平或欺騙性的廣告以及應(yīng)用歧視性算法，保證算法處理的安全性和有效性，保護(hù)用戶的公共設(shè)施使用、機(jī)會(huì)平等、投票權(quán)等方面權(quán)利，從而減少機(jī)會(huì)領(lǐng)域歧視的發(fā)生，避免對先前經(jīng)歷過邊緣化的人員造成傷害。

（四）成立算法專項(xiàng)監(jiān)管小組，明確監(jiān)管范圍

《法案》要求相關(guān)部門應(yīng)針對互聯(lián)網(wǎng)平臺(tái)算法處理問題成立機(jī)構(gòu)間特別小組，以審查算法運(yùn)用過程中是否存在對個(gè)人信息的歧視性使用行為。向國會(huì)提交關(guān)于平臺(tái)歧視性算法的研究報(bào)告，并作出適當(dāng)?shù)牧⒎ê托姓枚ā`反法案或根據(jù)法案頒布條例的認(rèn)定進(jìn)行處罰，確保互聯(lián)網(wǎng)平臺(tái)在算法使用過程中履行審核和透明度義務(wù)。建立互聯(lián)網(wǎng)平臺(tái)算法使用的安全性和有效性標(biāo)準(zhǔn)，規(guī)定平臺(tái)不得采用損害用戶的自動(dòng)化流程，應(yīng)采取合理措施以確保算法達(dá)到預(yù)期目的。

（五）規(guī)范用戶數(shù)據(jù)的保存期限

《法案》提出了互聯(lián)網(wǎng)平臺(tái)對算法使用和處理記錄的保留義務(wù)，規(guī)定平臺(tái)應(yīng)對算法處理所使用的個(gè)人信息類別、個(gè)人信息的排序方法、算法處理的開發(fā)方法等記錄保留五年。如果委員會(huì)認(rèn)定平臺(tái)存在算法歧視的風(fēng)險(xiǎn)，則平臺(tái)應(yīng)將算法記錄再保留三年。

三、互聯(lián)網(wǎng)平臺(tái)及算法監(jiān)管的國內(nèi)外實(shí)踐

（一）國內(nèi)實(shí)踐

近期，針對互聯(lián)網(wǎng)平臺(tái)監(jiān)管，各國陸續(xù)出臺(tái)相關(guān)政策，一方面，將互聯(lián)網(wǎng)平臺(tái)新型壟斷模式納入反壟斷體系;另一方面，基于互聯(lián)網(wǎng)平臺(tái)的特點(diǎn)完善數(shù)據(jù)應(yīng)用、算法應(yīng)用等具體法規(guī)制度。我國也積極推進(jìn)相關(guān)監(jiān)管政策的出臺(tái)，不斷完善互聯(lián)網(wǎng)平臺(tái)公共秩序的治理。一是推動(dòng)反壟斷法的修訂，針對互聯(lián)網(wǎng)行業(yè)增加“網(wǎng)絡(luò)效應(yīng)、規(guī)模經(jīng)濟(jì)、鎖定效應(yīng)、掌握和處理關(guān)鍵數(shù)據(jù)的能力等因素”作為認(rèn)定壟斷行為的標(biāo)準(zhǔn)，為互聯(lián)網(wǎng)平臺(tái)反壟斷提供了更具針對性和操作性的適用條款。二是出臺(tái)互聯(lián)網(wǎng)平臺(tái)算法歧視，特別是大數(shù)據(jù)殺熟等行為的專項(xiàng)規(guī)定。2021年2月發(fā)布的《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》明確利用算法進(jìn)行壟斷協(xié)議、軸輻協(xié)議、拒絕交易、限定交易、差別待遇等屬于違規(guī)行為。2021年8月發(fā)布的《禁止網(wǎng)絡(luò)不正當(dāng)競爭行為規(guī)定（公開征求意見稿）》對大數(shù)據(jù)殺熟作出明確定性，“經(jīng)營者不得利用數(shù)據(jù)、算法等技術(shù)手段，對交易條件相同的交易相對方不合理地提供不同的交易信息，侵害交易相對方的知情權(quán)、選擇權(quán)、公平交易權(quán)等”。三是明確違規(guī)行為的處罰標(biāo)準(zhǔn)。2021年8月發(fā)布的《價(jià)格違法行為行政處罰規(guī)定（修訂征求意見稿）》明確了電子商務(wù)平臺(tái)大數(shù)據(jù)殺熟的處罰標(biāo)準(zhǔn)，最高可處以上一年度銷售總額1‰以上5‰以下的罰款。2021年7月，深圳市公布了《深圳經(jīng)濟(jì)特區(qū)數(shù)據(jù)條例》，規(guī)定數(shù)據(jù)要素市場“大數(shù)據(jù)殺熟”等競爭亂象，處罰上限設(shè)為5000萬元。

（二）國外實(shí)踐

境外主要國家和地區(qū)也加快推出互聯(lián)網(wǎng)平臺(tái)監(jiān)管的規(guī)定，逐步完善監(jiān)管法律基礎(chǔ)和執(zhí)法標(biāo)準(zhǔn)。具體實(shí)踐主要包括以下三個(gè)方面。

1.將互聯(lián)網(wǎng)平臺(tái)納入反壟斷監(jiān)管范圍，明確對被監(jiān)管對象的界定

其他國家和地區(qū)根據(jù)自身特點(diǎn)，完善相關(guān)法律法規(guī)，將互聯(lián)網(wǎng)平臺(tái)納入反壟斷監(jiān)管范圍，明確對被監(jiān)管對象的界定。2021年1月，《〈德國反對限制競爭法〉第十修正案》實(shí)施，加強(qiáng)對大型互聯(lián)網(wǎng)企業(yè)的監(jiān)管，授權(quán)聯(lián)邦反壟斷局采取預(yù)防性措施，新增了互聯(lián)網(wǎng)相關(guān)標(biāo)準(zhǔn)，如衡量企業(yè)的市場力量必須考慮其獲取競爭相關(guān)數(shù)據(jù)的能力以及平臺(tái)企業(yè)的中介作用。加強(qiáng)對具有相對市場力量企業(yè)的監(jiān)管，法案的保護(hù)范圍不再限于中小型公司。大幅提高并購申報(bào)營業(yè)額標(biāo)準(zhǔn)。此外，德國聯(lián)邦反壟斷局還要求部分行業(yè)的企業(yè)必須進(jìn)行并購申報(bào)，即使相關(guān)交易中的經(jīng)營者營業(yè)額并未達(dá)到申報(bào)標(biāo)準(zhǔn)。2020年9月，《俄羅斯聯(lián)邦反壟斷法》（第五次修訂）將反壟斷法的監(jiān)管范圍擴(kuò)大到“數(shù)字平臺(tái)”，即“互聯(lián)網(wǎng)上用于組織和促進(jìn)買賣雙方互動(dòng)的基礎(chǔ)設(shè)施”。引入“網(wǎng)絡(luò)效應(yīng)”的概念，如果有一個(gè)大型數(shù)字平臺(tái)的話，是否有能力去影響產(chǎn)品的價(jià)格等;占據(jù)市場35%份額的從事“可互換服務(wù)”的數(shù)字平臺(tái)將被認(rèn)為是擁有支配地位;如果數(shù)字平臺(tái)前年的收入低于4億盧布，則數(shù)字平臺(tái)的所有者不能被認(rèn)定為具有市場支配地位。2020年12月，歐盟的《數(shù)字市場法（草案）》將監(jiān)管重點(diǎn)指向大型科技公司，明確了將核心平臺(tái)服務(wù)提供商認(rèn)定為“守門員”（Gatekeeper）的量化標(biāo)準(zhǔn)，包括市場規(guī)模、服務(wù)范圍、月活躍用戶數(shù)、活躍商戶等指標(biāo)。

2.明確被監(jiān)管對象義務(wù)，確保數(shù)字市場公平和開放

法規(guī)制度還進(jìn)一步明確了互聯(lián)網(wǎng)平臺(tái)需履行的義務(wù)，確保數(shù)字市場公平和開放，并探索推出人工智能倫理標(biāo)準(zhǔn)。一是《〈德國反對限制競爭法〉第十修正案》禁止相關(guān)企業(yè)實(shí)施“自我優(yōu)待”行為（self-preferencing）、通過拒絕訪問特定數(shù)據(jù)阻礙第三方進(jìn)入市場等對跨市場競爭至關(guān)重要的反競爭行為。二是《俄羅斯聯(lián)邦反壟斷法》（第五次修訂）禁止數(shù)字平臺(tái)歧視索取數(shù)據(jù)行為。三是歐盟《數(shù)字市場法（草案）》劃定“守門人”實(shí)施市場行為的違規(guī)剛性底線，以及建立了事前報(bào)告制度，明確實(shí)施的經(jīng)營者集中事項(xiàng)進(jìn)行事前報(bào)告，向歐盟委員會(huì)提交經(jīng)獨(dú)立審計(jì)的技術(shù)說明。《數(shù)據(jù)治理法案（草案）》明確公共數(shù)據(jù)治理框架，促進(jìn)數(shù)據(jù)共享，增強(qiáng)個(gè)人和企業(yè)對數(shù)據(jù)的掌控力和信任度?！稊?shù)字服務(wù)法（草案）》從內(nèi)容、商品和服務(wù)等維度明確互聯(lián)網(wǎng)平臺(tái)的責(zé)任和義務(wù)，構(gòu)建用戶基本權(quán)利的保護(hù)機(jī)制。四是歐盟的《人工智能倫理準(zhǔn)則》，強(qiáng)調(diào)基于算法做出的所有決定都必須經(jīng)過驗(yàn)證和解釋，設(shè)立了“可信賴的人工智能”的兩層基本要求，第一層是尊重基本人權(quán)、規(guī)章制度、核心原則及價(jià)值觀;第二層是技術(shù)安全、可靠、中立，避免算法輸入、運(yùn)行等環(huán)節(jié)帶來的倫理困境。五是《算法責(zé)任與透明治理框架》規(guī)定了標(biāo)準(zhǔn)化的算法披露內(nèi)容，包括算法的目的、范圍、預(yù)期用途，并要求監(jiān)管部門建立算法影響評估機(jī)制（AIA）。

3.強(qiáng)化反壟斷調(diào)查執(zhí)法，加大壟斷行為檢查和處罰力度

為確保被監(jiān)管對象履行義務(wù)，監(jiān)管部門有權(quán)采取措施，來推動(dòng)有關(guān)義務(wù)的實(shí)現(xiàn)。一是《〈德國反對限制競爭法〉第十修正案》提高卡特爾訴訟的效率。增強(qiáng)執(zhí)法機(jī)構(gòu)在行政處罰相關(guān)的司法程序中的地位，降低執(zhí)法機(jī)構(gòu)命令采取臨時(shí)措施的條件，修改罰款規(guī)則（行業(yè)協(xié)會(huì)、寬大制度）。二是《數(shù)字市場法（草案）》明確賦予歐盟委員會(huì)對數(shù)字市場服務(wù)企業(yè)調(diào)查、執(zhí)法和監(jiān)管權(quán)力，包括提取信息、調(diào)查和錄取口供、現(xiàn)場檢查、采取臨時(shí)措施、違法處罰等。作為反壟斷統(tǒng)籌監(jiān)管的歐盟委員會(huì)有權(quán)主動(dòng)發(fā)起，或依三個(gè)或以上成員國請求進(jìn)行立案調(diào)查，及時(shí)完成平臺(tái)企業(yè)“守門人”認(rèn)定程序，或在必要時(shí)動(dòng)態(tài)更新“守門人”義務(wù)以及設(shè)置補(bǔ)救措施，必要時(shí)最高可對“守門人”處以上一財(cái)務(wù)年度營業(yè)額10%的罰款，如多次被罰款可能面臨拆分。

四、互聯(lián)網(wǎng)平臺(tái)及算法相關(guān)監(jiān)管的路徑探索

（一）加強(qiáng)法規(guī)制度頂層設(shè)計(jì)

個(gè)人數(shù)據(jù)是算法使用的基礎(chǔ)，大型互聯(lián)網(wǎng)平臺(tái)利用算法建模實(shí)施壟斷行為是目的。因此在法律頂層設(shè)計(jì)時(shí)應(yīng)充分考慮三者關(guān)系。

1.從反壟斷法律法規(guī)體系看，明確使用算法進(jìn)行壟斷行為的判定標(biāo)準(zhǔn)

加快推動(dòng)反壟斷法修訂，探索契合平臺(tái)經(jīng)濟(jì)下數(shù)據(jù)應(yīng)用、算法應(yīng)用的壟斷治理實(shí)現(xiàn)方式，以最終結(jié)果為導(dǎo)向，即無論采取何種方式，只要達(dá)成壟斷行為的必要條件，包括達(dá)成壟斷協(xié)議、濫用市場支配地位、經(jīng)營者集中，即能認(rèn)定為壟斷行為。

2.從數(shù)據(jù)法律法規(guī)體系看，明確個(gè)人數(shù)據(jù)運(yùn)用于算法建模的邊界尺度

在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律框架下，保障個(gè)人對信息行使的主權(quán)，強(qiáng)化社會(huì)個(gè)人信息保護(hù)治理，明確個(gè)人數(shù)據(jù)在被運(yùn)用于大數(shù)據(jù)挖掘、算法開放等過程中明示授權(quán)的流程范式，提升個(gè)人數(shù)據(jù)使用的透明度，確保個(gè)人可以知悉其個(gè)人數(shù)據(jù)用途和可能對個(gè)人造成的影響。

3.從算法監(jiān)管法規(guī)制度體系看，推動(dòng)規(guī)范算法應(yīng)用相關(guān)制度出臺(tái)

一是確定算法運(yùn)用的總體原則?？紤]當(dāng)前的算法應(yīng)用已經(jīng)對社會(huì)公眾活動(dòng)進(jìn)行了全面滲透，應(yīng)明確算法應(yīng)用必須符合公共利益和社會(huì)福祉，尋求公共利益和私營利益的契合點(diǎn)。具體而言，應(yīng)堅(jiān)持“科技向善”為原則，可借鑒歐盟人工智能監(jiān)管經(jīng)驗(yàn)，將以人為本、公平、非歧視、維護(hù)社會(huì)福祉等原則運(yùn)用于算法監(jiān)管，引導(dǎo)算法真正作用于社會(huì)效率提升，切實(shí)提高算法使用的公平性和透明度，保障算法世界中每個(gè)主體享有平等權(quán)利。同時(shí)，完善發(fā)生算法歧視時(shí)相關(guān)救濟(jì)措施，促進(jìn)算法應(yīng)用生態(tài)系統(tǒng)良性發(fā)展。我國在該領(lǐng)域已進(jìn)行了探索，2021年8月，網(wǎng)信辦發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》，對算法推薦應(yīng)遵循的價(jià)值導(dǎo)向、算法安全主體責(zé)任、算法適用違規(guī)行為等進(jìn)行了規(guī)范，應(yīng)加快推動(dòng)相關(guān)法規(guī)制度出臺(tái)。二是明確算法使用主體的義務(wù)?？山梃b美國《法案》經(jīng)驗(yàn)，明確要求算法使用主體應(yīng)承擔(dān)相應(yīng)披露義務(wù)，定期對外公布算法內(nèi)容審核規(guī)則，明確告知公眾算法使用的基本邏輯，接受公眾監(jiān)督，保障公眾對算法使用的知情權(quán)。三是推動(dòng)行業(yè)監(jiān)管部門細(xì)化監(jiān)管要求。算法使用主體涉及不同行業(yè)，應(yīng)依據(jù)行業(yè)市場主體行為特點(diǎn)，制定更有針對性、靈活性的數(shù)據(jù)和算法使用監(jiān)管規(guī)則，尤其是與人民群眾息息相關(guān)的金融服務(wù)、共享出行服務(wù)、外賣服務(wù)、電子商務(wù)服務(wù)等領(lǐng)域，應(yīng)由行業(yè)主管部門細(xì)化監(jiān)管要求。四是推動(dòng)我國治理水平與國際接軌。我國作為數(shù)字經(jīng)濟(jì)大國，應(yīng)積極在多邊框架內(nèi)推動(dòng)數(shù)據(jù)治理、算法治理、人工智能治理等立法與國際接軌，依托“一帶一路”倡議，以及G20、跨太平洋伙伴關(guān)系協(xié)定（CPTPP）、區(qū)域全面經(jīng)濟(jì)伙伴關(guān)系（RECP）等多邊組織，吸納與算法技術(shù)多方利益相關(guān)者共同參與國際對話，磋商形成基本共識(shí)，不斷提升我國的影響力和話語權(quán)，推動(dòng)形成統(tǒng)一開放、有序競爭算法和數(shù)據(jù)應(yīng)用市場。

（二）加大監(jiān)管治理力度

大型互聯(lián)網(wǎng)平臺(tái)已經(jīng)擴(kuò)展了大量的用戶，截至2020年，阿里巴巴、騰訊用戶人數(shù)達(dá)到10億、11.6億，臉書、谷歌的活躍用戶人數(shù)達(dá)29億、19億，在如此大的用戶規(guī)模下，互聯(lián)網(wǎng)平臺(tái)利用算法進(jìn)行的違規(guī)行為會(huì)對市場競爭產(chǎn)生極大的破壞，監(jiān)管機(jī)構(gòu)必須加大監(jiān)管力度。

1.明確監(jiān)管部門的分工和協(xié)作

考慮互聯(lián)網(wǎng)平臺(tái)具備跨行業(yè)、跨地域特點(diǎn)，且對數(shù)據(jù)、反壟斷、行業(yè)監(jiān)管等監(jiān)管職能分布較為分散，可借鑒美國成立算法專項(xiàng)監(jiān)管小組的經(jīng)驗(yàn)，由國家層面建立工作領(lǐng)導(dǎo)小組機(jī)制，由市場監(jiān)管總局牽頭對數(shù)據(jù)、算法中涉及的排他、不公平競爭、大數(shù)據(jù)殺熟、二選一等違規(guī)行為進(jìn)行監(jiān)管，由網(wǎng)信辦對于技術(shù)和數(shù)據(jù)應(yīng)用的合規(guī)、倫理問題進(jìn)行監(jiān)管，加大對算法運(yùn)用是否存在對個(gè)人信息的歧視性使用行為的審查力度，行業(yè)監(jiān)管部門應(yīng)積極參與配合，日常監(jiān)管中發(fā)現(xiàn)問題要及時(shí)共享信息，形成監(jiān)管合力。

2.加強(qiáng)對違規(guī)行為的調(diào)查和處罰力度

對于市場支配力量達(dá)到一定水平的互聯(lián)網(wǎng)平臺(tái)，應(yīng)列為重點(diǎn)關(guān)注，要求其定期披露相關(guān)信息，加大現(xiàn)場檢查和非現(xiàn)場檢查力度。對于新技術(shù)使用過程中套用現(xiàn)行法規(guī)制度的模糊地帶，司法部門應(yīng)研究出臺(tái)相應(yīng)司法解釋，最大化壓降監(jiān)管套利空間。

3.研究設(shè)立數(shù)字行業(yè)協(xié)會(huì)自律組織

應(yīng)由行業(yè)組織積極引導(dǎo)互聯(lián)網(wǎng)平臺(tái)從承擔(dān)社會(huì)責(zé)任的角度，明確算法應(yīng)用的價(jià)值取向，并配套制定行業(yè)自律規(guī)則、公約及自律處罰規(guī)定，發(fā)揮行業(yè)自律在規(guī)范互聯(lián)網(wǎng)平臺(tái)數(shù)據(jù)與算法領(lǐng)域的作用。

（三）創(chuàng)新數(shù)字化監(jiān)管方式

1.推動(dòng)監(jiān)管思維數(shù)字化轉(zhuǎn)型

對于數(shù)據(jù)治理和算法治理等互聯(lián)網(wǎng)環(huán)境下的風(fēng)險(xiǎn)問題，應(yīng)轉(zhuǎn)變現(xiàn)場檢查的思維，探索建立“互聯(lián)網(wǎng)+監(jiān)管”“大數(shù)據(jù)+監(jiān)管”等非現(xiàn)場、數(shù)字化監(jiān)管思維，充分發(fā)揮監(jiān)管科技的賦能效應(yīng)，如通過開發(fā)算法模型動(dòng)態(tài)監(jiān)測算法應(yīng)用的風(fēng)險(xiǎn)問題，以監(jiān)管科技升級對抗科技領(lǐng)域新型違法行為。

2.實(shí)施精準(zhǔn)監(jiān)管

推動(dòng)平臺(tái)經(jīng)濟(jì)監(jiān)管從事后移至事中和事前，建立數(shù)字化監(jiān)管系統(tǒng)，對“二選一”“大數(shù)據(jù)殺熟”等壟斷及不正當(dāng)競爭行為進(jìn)行靶向監(jiān)管，采用差異化數(shù)據(jù)抓取規(guī)則和識(shí)別模型，提高對隱性大數(shù)據(jù)利用違法行為的查處效能。

3.探索監(jiān)管沙箱模式

為避免監(jiān)管對相關(guān)領(lǐng)域創(chuàng)新發(fā)展的限制，最大化兼顧促進(jìn)數(shù)據(jù)及算法應(yīng)用發(fā)展和風(fēng)險(xiǎn)防控，可推動(dòng)在數(shù)據(jù)密集、技術(shù)密集型產(chǎn)業(yè)對算法應(yīng)用進(jìn)行試點(diǎn)，適當(dāng)提升試點(diǎn)領(lǐng)域的算法透明度?？蓞⒄彰绹?jīng)驗(yàn)設(shè)立算法監(jiān)管專項(xiàng)小組，通過監(jiān)管專項(xiàng)小組評估及社會(huì)公眾評估，論證形成可以推廣應(yīng)用的算法和數(shù)據(jù)應(yīng)用模式，為算法創(chuàng)新預(yù)留足夠的空間和安全的測試環(huán)境。

（責(zé)任編輯：夏凡）

參考文獻(xiàn)：

[1]姚敏.強(qiáng)化平臺(tái)經(jīng)濟(jì)數(shù)據(jù)監(jiān)管的策略選擇[J].群眾，2021（4）.

[2]黃晉.歐盟對大型數(shù)字平臺(tái)實(shí)施積極監(jiān)管[J].經(jīng)濟(jì)參考報(bào)，2021（5）.

[3]蒼嵐，張淑翠.從歐盟《數(shù)字服務(wù)法》和《數(shù)字市場法》看平臺(tái)經(jīng)濟(jì)反壟斷[J].中國計(jì)算機(jī)報(bào)，2021（3）.

[4]惠志斌.各國人工智能安全政策研判[J].信息安全與通信保密，2019（6）.

[5]吳沈括，胡然.數(shù)字平臺(tái)監(jiān)管的歐盟新方案與中國鏡鑒——圍繞《數(shù)字服務(wù)法案》《數(shù)字市場法案》提案的探析[J].電子政務(wù)，2021（2）.

收稿日期：2021-11-08

作者簡介：孔凡東（1982-），男，湖北鐘祥人，現(xiàn)供職于中國人民銀行廣州分行。