算法的風(fēng)險(xiǎn)及法律規(guī)制探析

彭光明， 季聰聰

(河北科技大學(xué) 文法學(xué)院，河北 石家莊 050018)

隨著大數(shù)據(jù)、區(qū)塊鏈、云計(jì)算、5G互聯(lián)等新興物聯(lián)網(wǎng)技術(shù)的興起，人工智能領(lǐng)域蓬勃發(fā)展。算法作為人工智能的核心，以大量數(shù)據(jù)流為基礎(chǔ)，按照被賦予的邏輯運(yùn)算規(guī)則，進(jìn)行數(shù)據(jù)處理分析，為商業(yè)金融和行政自動(dòng)化提供自動(dòng)化決策服務(wù)，并在無(wú)人駕駛、用戶(hù)身份信息識(shí)別、媒體個(gè)性化推廣等生產(chǎn)生活領(lǐng)域?yàn)橛脩?hù)提供服務(wù)，發(fā)揮著舉足輕重的作用。雖然算法帶來(lái)極大便利，使做出的決策更為客觀，但也催生了“算法黑箱”“算法歧視”“信息繭房”“算法趨同”等新的安全風(fēng)險(xiǎn)，挑戰(zhàn)了公民的知情權(quán)、隱私權(quán)和消費(fèi)者的公平交易權(quán)。而當(dāng)算法規(guī)則被嵌入公權(quán)力運(yùn)行的各個(gè)環(huán)節(jié),直接作為行為規(guī)范影響乃至于控制人的行為時(shí)，輔助決策甚至獨(dú)立決策就形成了新興的算法權(quán)力。因此如何用法律規(guī)制算法、防止算法異化是人工智能時(shí)代下法治的重點(diǎn)。

一、算法的概念及應(yīng)用

(一)算法的概念及特征

算法有廣義與狹義之別。廣義的算法指解決問(wèn)題應(yīng)當(dāng)遵循的規(guī)則，按照邏輯、結(jié)構(gòu)以及步驟來(lái)解決問(wèn)題的策略機(jī)制。狹義的算法指讓計(jì)算機(jī)程序運(yùn)行的代碼化指令，即人類(lèi)通過(guò)代碼設(shè)置、數(shù)據(jù)運(yùn)算與機(jī)器自動(dòng)化判斷進(jìn)行決策的一套機(jī)制[1](P138-159)。算法具有有窮性、確定性、可行性、輸入以及輸出等五大特征。實(shí)踐中經(jīng)?；煜惴?、算力、數(shù)據(jù)、程序以及代碼，它們之間既有區(qū)別又有聯(lián)系。首先，程序=算法+數(shù)據(jù)結(jié)構(gòu)。算法可以用不同的編程語(yǔ)言編寫(xiě)出不同的程序。換言之，算法是程序的靈魂，程序是算法的應(yīng)用結(jié)果。其次，代碼是具體確定的，算法是抽象不確定的，代碼是以計(jì)算機(jī)所能理解的語(yǔ)言將算法提供給計(jì)算機(jī)，可以理解為語(yǔ)言工具。再次，人工智能領(lǐng)域的發(fā)展離不開(kāi)數(shù)據(jù)、算法以及算力?！扒蓩D難為無(wú)米之炊”，“巧婦”心中的食譜可視為算法，食材可視為數(shù)據(jù)，那么炊具就是算力。超級(jí)計(jì)算機(jī)以及量子計(jì)算機(jī)是實(shí)現(xiàn)算法的硬件基礎(chǔ)，目前主流的人工智能算法有DeepFM算法、GBDT類(lèi)算法、SAFE算法、AutoCross算法等。

算法的法律性質(zhì)在不同的部門(mén)法門(mén)類(lèi)中各有不同。可以按照《反不正當(dāng)競(jìng)爭(zhēng)法》第九條的規(guī)定，對(duì)算法以商業(yè)秘密進(jìn)行保護(hù)。于知識(shí)產(chǎn)權(quán)法領(lǐng)域，在中國(guó)《專(zhuān)利法》中，算法是一種解決問(wèn)題的思想步驟，電子形式的智力活動(dòng)規(guī)則，因此無(wú)法受到《專(zhuān)利法》的保護(hù)。美國(guó)聯(lián)邦最高法院的個(gè)別判例表明對(duì)于計(jì)算機(jī)的發(fā)明可給予專(zhuān)利保護(hù)，在一定程度上把算法列入了專(zhuān)利法的保護(hù)范圍。算法是否可被列入《著作權(quán)法》的保護(hù)范圍存在爭(zhēng)議。實(shí)踐中，算法一般用偽代碼進(jìn)行表達(dá)。所謂偽代碼是指介于自然語(yǔ)言和計(jì)算機(jī)語(yǔ)言，用于解釋算法而無(wú)法被計(jì)算機(jī)編譯的工具?！吨鳈?quán)法》保護(hù)的對(duì)象包括“計(jì)算機(jī)軟件”。根據(jù)前文表述，算法不同于軟件、程序等。通過(guò)偽代碼表達(dá)出的算法在實(shí)質(zhì)上是可以以有形形式復(fù)制的。但由于偽代碼無(wú)法運(yùn)行，對(duì)于“作品”規(guī)定的“獨(dú)創(chuàng)性”無(wú)法進(jìn)行實(shí)質(zhì)的評(píng)估。除了算法本身在《著作權(quán)法》上的爭(zhēng)議外，通過(guò)算法創(chuàng)造出的成果，或亦無(wú)法定性為著作權(quán)法上的“作品”。以騰訊創(chuàng)作的AI寫(xiě)作助手為例，AI寫(xiě)作機(jī)器人依靠?jī)?nèi)部運(yùn)行的算法，在關(guān)鍵詞的引導(dǎo)下創(chuàng)作新聞、編寫(xiě)詩(shī)集，但能否認(rèn)定其為著作權(quán)的主體仍然存在爭(zhēng)議，很難用情感的投入等主觀標(biāo)準(zhǔn)來(lái)判定其“獨(dú)創(chuàng)性”。而在法律應(yīng)用領(lǐng)域，以刑事偵查、智慧法院為例，算法屬于一種法律應(yīng)用工具。

(二)算法的應(yīng)用現(xiàn)狀

1.生產(chǎn)生活領(lǐng)域完善用戶(hù)體驗(yàn)服務(wù)。在生產(chǎn)生活中，算法無(wú)處不在。在新聞媒體對(duì)用戶(hù)的個(gè)性化推廣中，抖音短視頻、今日頭條、微博客戶(hù)端等根據(jù)用戶(hù)的數(shù)據(jù)分析，使用協(xié)同過(guò)濾算法，向用戶(hù)推薦其感興趣的新聞資訊和娛樂(lè)信息。在廣告分發(fā)上也采用用戶(hù)偏好模型，降低用戶(hù)對(duì)于投放廣告的反感度。在外賣(mài)、快遞領(lǐng)域中，利用算法進(jìn)行區(qū)域分配和時(shí)間的界定，最大程度地壓縮配送時(shí)間，最大化地提高效率。在農(nóng)業(yè)生產(chǎn)領(lǐng)域，通過(guò)極視角算法，可以對(duì)病蟲(chóng)害進(jìn)行識(shí)別、監(jiān)控、分析成因并推薦藥物進(jìn)行治理。在交通出行方面，除了熟知的無(wú)人駕駛外，共享平臺(tái)下的交通工具匹配，也運(yùn)用算法進(jìn)行車(chē)輛的調(diào)配，尤其是在網(wǎng)約車(chē)的供給上，可以針對(duì)天氣、實(shí)時(shí)路況等客觀因素為用戶(hù)調(diào)配車(chē)輛。除此之外，網(wǎng)商平臺(tái)的定價(jià)、購(gòu)物推薦功能，婚戀交友平臺(tái)的用戶(hù)匹配，招聘平臺(tái)的工作推薦等都有算法的參與。

2.公權(quán)力領(lǐng)域輔助甚至獨(dú)立決策。在法律應(yīng)用領(lǐng)域，算法是提高行政、司法效率的工具。隨著大數(shù)據(jù)的處理運(yùn)算能力越來(lái)越強(qiáng)，公權(quán)力對(duì)于算法也愈加依賴(lài)。在軍事領(lǐng)域，依靠多智能體算法對(duì)無(wú)人機(jī)集群的訓(xùn)練、偵察、對(duì)抗、救援。在智能交通領(lǐng)域，依靠算法的智能決策調(diào)節(jié)車(chē)流、設(shè)置綠波帶、抓拍交通違法人臉信息并獨(dú)立進(jìn)行行政處罰。在刑事偵查領(lǐng)域，可以通過(guò)與已錄入的DNA信息進(jìn)行比對(duì)，查找犯罪嫌疑人。在智慧法院的司法系統(tǒng)，算法可以通過(guò)檢測(cè)已有案例，做出判決建議，甚至可以生成民事判決書(shū)。另外可以對(duì)犯人能否適用假釋、未來(lái)犯罪的可能性作出判斷。美國(guó)加利福尼亞州首次在保釋環(huán)節(jié)用算法進(jìn)行評(píng)估取代現(xiàn)金的使用，IBM公司將智能律師ROSS推向市場(chǎng)，國(guó)內(nèi)“無(wú)訟”創(chuàng)始人設(shè)計(jì)并研發(fā)了法律智能機(jī)器人“法小淘”，北京法院推出的審判智能輔助系統(tǒng)“睿法官”[2](P38-41)。人工智能下的算法在執(zhí)法、司法領(lǐng)域得到廣泛應(yīng)用，近年來(lái)，算法開(kāi)始逐漸涉及立法領(lǐng)域。天津市引入人工智能技術(shù)開(kāi)發(fā)的法律應(yīng)用系統(tǒng)，在升級(jí)后包括立法草案意見(jiàn)征集、法律法規(guī)審查、立法前后評(píng)估等功能。長(zhǎng)此以往，可以設(shè)想未來(lái)在高度發(fā)達(dá)的算法權(quán)力控制下，算法即為法律，法律即為算法。

3.金融商業(yè)領(lǐng)域輔助甚至獨(dú)立決策。隨著互聯(lián)網(wǎng)的急速擴(kuò)張以及大數(shù)據(jù)的收集，算法在金融領(lǐng)域可謂是“如魚(yú)得水”，算法交易、智能投顧、智能風(fēng)控、自動(dòng)合規(guī)開(kāi)始涌現(xiàn)(見(jiàn)表1)。以?xún)r(jià)格戰(zhàn)為例，企業(yè)在有限的補(bǔ)貼下，依靠算法對(duì)補(bǔ)貼實(shí)行個(gè)性化分配以達(dá)到所占市場(chǎng)份額的最大化。但當(dāng)金融企業(yè)出現(xiàn)“算法趨同”的情況時(shí)，會(huì)影響整個(gè)金融市場(chǎng)的安全與穩(wěn)定。

表1 算法在金融商業(yè)領(lǐng)域的應(yīng)用

二、算法引發(fā)的法律風(fēng)險(xiǎn)

根據(jù)算法應(yīng)用的具體過(guò)程，將算法引發(fā)的風(fēng)險(xiǎn)分為算法黑箱、算法歧視、信息繭房以及算法趨同情況下的金融風(fēng)險(xiǎn)。其中，算法歧視包括輸入數(shù)據(jù)引發(fā)的歧視、關(guān)聯(lián)歧視、大數(shù)據(jù)殺熟、經(jīng)營(yíng)者行為的競(jìng)爭(zhēng)歧視。需要注意的是，算法引發(fā)的各種風(fēng)險(xiǎn)類(lèi)型之間并不是割裂的，它們之間彼此影響，例如算法黑箱或可導(dǎo)致算法歧視、信息繭房的風(fēng)險(xiǎn)。

(一)算法黑箱

算法黑箱是指算法的不公開(kāi)、不透明[3](P188-200)，用戶(hù)無(wú)法得知作用在自己身上的算法是如何被算法的掌握者篩選、評(píng)判的。但需要指明的是，算法黑箱并不一定會(huì)引發(fā)風(fēng)險(xiǎn)。在司法實(shí)踐中，法官的自由裁判權(quán)在某種程度上也是“黑箱”[4](P63-75)，但這并一定是件壞事。

1.算法黑箱的成因。算法黑箱的成因有三個(gè)：第一，算法本身是基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)，在已有數(shù)據(jù)的基礎(chǔ)上進(jìn)行復(fù)雜的加權(quán)計(jì)算，不同算法之間還會(huì)進(jìn)行疊加關(guān)聯(lián)，換言之，算法愈復(fù)雜，其呈現(xiàn)的功能也就越專(zhuān)業(yè)、越精細(xì)。算法本身的專(zhuān)業(yè)性是算法黑箱的成因之一，即便是算法進(jìn)行了公開(kāi)披露。用戶(hù)也會(huì)因?yàn)閷?zhuān)業(yè)門(mén)檻的限制無(wú)法讀懂算法，算法黑箱仍然存在。第二，算法作為“商業(yè)秘密”被算法控制者排他性地進(jìn)行保護(hù)。從經(jīng)濟(jì)成本的角度分析，算法無(wú)法以專(zhuān)利權(quán)進(jìn)行保護(hù)，因此算法的披露成本與所得收益不成比例。算法的控制者沒(méi)有公開(kāi)的動(dòng)力，且容易出現(xiàn)公開(kāi)的風(fēng)險(xiǎn)，商業(yè)秘密一旦泄露，那么企業(yè)就容易陷入被動(dòng)的狀態(tài)。第三，由于用戶(hù)對(duì)于算法內(nèi)部的運(yùn)行邏輯規(guī)則并不熟知，因此為了獲取更大的經(jīng)濟(jì)利益，算法的控制者可以將自己的想法直接填入算法的設(shè)計(jì)，即便其中侵犯了用戶(hù)的知情權(quán)、隱私權(quán)等相關(guān)權(quán)利，也可以以算法黑箱的存在作為借口來(lái)逃避法律的制裁。

2.算法黑箱的風(fēng)險(xiǎn)。算法黑箱帶來(lái)的風(fēng)險(xiǎn)主要有三方面：第一，算法黑箱或侵犯算法相對(duì)人的隱私權(quán)。算法依賴(lài)大數(shù)據(jù)流，可以通過(guò)用戶(hù)的喜好、日常工作生活推測(cè)出其政治傾向、購(gòu)物需求等。當(dāng)用戶(hù)下載了應(yīng)用程序、使用搜索引擎，在應(yīng)用過(guò)程中并不知道自己的搜索內(nèi)容、瀏覽界面會(huì)被算法解析，在算法面前，用戶(hù)失去隱私，成為一個(gè)透明人。2015年Facebook通過(guò)測(cè)試工具獲取用戶(hù)數(shù)據(jù)并進(jìn)行倒賣(mài)來(lái)干預(yù)美國(guó)大選，根據(jù)算法，民主黨的支持者一般喜歡鄉(xiāng)村歌手泰勒斯威夫特、喜歡喝星巴克等，通過(guò)這些數(shù)據(jù)，算法檢測(cè)出民主黨派的潛在支持者，并對(duì)他們進(jìn)行總統(tǒng)候選人的推送。第二，算法黑箱或侵犯用戶(hù)的知情權(quán)。對(duì)于APP授權(quán)協(xié)議以及前文所述的隱私協(xié)議，用戶(hù)并不能從滿(mǎn)是專(zhuān)業(yè)術(shù)語(yǔ)的條文中知悉自己已經(jīng)授權(quán)給搜索引擎、應(yīng)用程序檢索自己隱私等權(quán)利。表面來(lái)看，用戶(hù)雖在服務(wù)條款的授權(quán)協(xié)議上點(diǎn)擊了確認(rèn)，實(shí)際上用戶(hù)的選擇權(quán)受到限制，用戶(hù)也不知情一旦授權(quán)會(huì)產(chǎn)生怎樣的風(fēng)險(xiǎn)。第三，算法黑箱或引起算法歧視。算法本質(zhì)上還是由人編寫(xiě)的，算法編寫(xiě)者、控制者的心理不可避免地會(huì)具有主觀性，同時(shí)由于算法的非公開(kāi)性和不透明性，這種來(lái)自編寫(xiě)者的主觀偏見(jiàn)在一定程度上會(huì)寫(xiě)入算法。在司法領(lǐng)域，司法輔助工具是由法院等公權(quán)力機(jī)關(guān)外包給算法編寫(xiě)機(jī)構(gòu)完成的，黑箱的存在讓司法人員無(wú)從得知算法編寫(xiě)機(jī)構(gòu)在算法的編寫(xiě)中如何處理和運(yùn)用數(shù)據(jù)，是否按照個(gè)人價(jià)值觀取向進(jìn)行編譯。

(二)算法歧視

算法歧視也稱(chēng)算法偏見(jiàn)，指相同個(gè)體被算法區(qū)別對(duì)待。算法在一定程度上克服了人們自主決策的主觀性，這是算法受到推崇的重要原因，但實(shí)踐中算法編寫(xiě)者的個(gè)人傾向、算法黑箱等原因?qū)⒁延械钠?jiàn)編寫(xiě)進(jìn)算法中，由此得出的運(yùn)算結(jié)果不可避免地產(chǎn)生了個(gè)體歧視。算法歧視包括輸入數(shù)據(jù)歧視、關(guān)聯(lián)歧視以及“大數(shù)據(jù)殺熟”。

1.輸入數(shù)據(jù)歧視。算法在大量數(shù)據(jù)的基礎(chǔ)上運(yùn)行，倘若算法控制者輸入的數(shù)據(jù)本身就存在歧視，具有影響運(yùn)行結(jié)果的主觀意圖，那么在根源上就出現(xiàn)了歧視，運(yùn)行結(jié)果也會(huì)基于歧視數(shù)據(jù)帶有偏見(jiàn)。例如，F(xiàn)oudem、Ciao、ejustic.fr 三家網(wǎng)站投訴谷歌，谷歌被反壟斷調(diào)查，調(diào)查結(jié)果顯示谷歌利用自身的搜索服務(wù)對(duì)三家網(wǎng)站的搜索結(jié)果進(jìn)行部分刪除，從而實(shí)現(xiàn)打壓其他網(wǎng)站、強(qiáng)化自身收益的目的。

2.關(guān)聯(lián)歧視。在這類(lèi)歧視中，算法決策者雖然使用了客觀中立的基礎(chǔ)數(shù)據(jù)，但這些合法的客觀中立的數(shù)據(jù)組合在一起產(chǎn)生了歧視性的后果[5](P111-122)。

3.“大數(shù)據(jù)殺熟”。大數(shù)據(jù)“殺熟”是較為常見(jiàn)的一種數(shù)據(jù)歧視類(lèi)型。大數(shù)據(jù)殺熟是指算法的控制者為了提高用戶(hù)的黏性，降低成本或提高收益，通過(guò)算法細(xì)分，在為不同群體的用戶(hù)提供相同的產(chǎn)品服務(wù)過(guò)程中，實(shí)行個(gè)性化收費(fèi)。

算法歧視所造成的損害后果主要包括三大類(lèi)型，即損害公民基本權(quán)利(如平等權(quán)、違反正當(dāng)程序)、損害市場(chǎng)競(jìng)爭(zhēng)者利益(如市場(chǎng)支配地位經(jīng)營(yíng)者設(shè)置競(jìng)爭(zhēng)準(zhǔn)入障礙)和損害具體民事權(quán)益(如侵害隱私權(quán)、知情權(quán)、公平交易權(quán))[6](P94-106)。

(三)算法推薦致陷“信息繭房”

“信息繭房”指用戶(hù)長(zhǎng)期接受自己偏好的信息，在預(yù)設(shè)的算法作用下，用戶(hù)的消費(fèi)偏好和消費(fèi)理念或會(huì)陷入“信息繭房”，逐漸發(fā)生偏移。算法會(huì)自動(dòng)過(guò)濾與用戶(hù)取向不同的異質(zhì)信息。除此之外，長(zhǎng)期接受相似的信息，或會(huì)讓用戶(hù)對(duì)自身的偏好產(chǎn)生極端化的認(rèn)同，從而對(duì)于特定的信息偏聽(tīng)偏信，并不斷重復(fù)已知的信息無(wú)法脫身。

(四)算法趨同加劇金融風(fēng)險(xiǎn)

所謂算法趨同是指算法系統(tǒng)的相互滲透，交叉運(yùn)用，算法技術(shù)趨于同質(zhì)化。算法趨同的背景下，金融風(fēng)險(xiǎn)的“傳染”速度更快。趨同的算法計(jì)算下，金融機(jī)構(gòu)采用相同或近似的投資策略，指向相同或近似的投資領(lǐng)域，采用近似乃至相同的信貸標(biāo)準(zhǔn)，指向相同的客戶(hù)人群。那么金融市場(chǎng)或會(huì)出現(xiàn)大起大落，呈現(xiàn)出極強(qiáng)的周期性波動(dòng)。

三、算法的規(guī)制路徑

(一)我國(guó)現(xiàn)行的關(guān)于“算法”的法律規(guī)定

針對(duì)算法的法律規(guī)制，歐盟實(shí)施《通用數(shù)據(jù)保護(hù)條例》(以下簡(jiǎn)稱(chēng)“GDPR”)，采用個(gè)人數(shù)據(jù)賦權(quán)的方式來(lái)規(guī)制算法；美國(guó)2022年新出臺(tái)的《算法問(wèn)責(zé)法案》通過(guò)系統(tǒng)問(wèn)責(zé)的方式治理算法亂象，要求互聯(lián)網(wǎng)企業(yè)在通過(guò)算法做出關(guān)鍵性的決策時(shí)，需要對(duì)相關(guān)的性能、公平性、透明度等因素進(jìn)行影響評(píng)估。我國(guó)網(wǎng)絡(luò)空間治理結(jié)合了歐盟與美國(guó)的經(jīng)驗(yàn)，法律治理與技術(shù)治理雙管齊下，在用戶(hù)數(shù)據(jù)保護(hù)和算法自動(dòng)化決策規(guī)制兩個(gè)大方向下對(duì)互聯(lián)網(wǎng)平臺(tái)進(jìn)行“穿透式監(jiān)管”[7](P75-77)。其中《電子商務(wù)法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等相關(guān)法律側(cè)重于公民數(shù)據(jù)層面的網(wǎng)絡(luò)空間治理。于算法治理層面，中國(guó)人民銀行發(fā)布的《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》針對(duì)算法在金融領(lǐng)域可能引發(fā)的風(fēng)險(xiǎn)做出了規(guī)制；國(guó)務(wù)院《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》將算法歸入壟斷協(xié)議的形成方法內(nèi)；2021年9月17日發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》明確指出在三年時(shí)間內(nèi)建立完善的算法安全綜合治理格局，開(kāi)啟了“算法治理”的新篇章；2022年3月1日起實(shí)行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式提出了算法治理的中國(guó)方案。

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的出臺(tái)，基本確立了中國(guó)本土的算法治理路徑：針對(duì)算法的控制者和編寫(xiě)者，采用算法評(píng)估制度、算法備案制度、算法的解釋、算法檢查以及嚴(yán)格的侵權(quán)問(wèn)責(zé)進(jìn)行規(guī)制；針對(duì)算法的相對(duì)人，采用個(gè)人數(shù)據(jù)賦權(quán)的方式保護(hù)用戶(hù)權(quán)益。雖然國(guó)內(nèi)已經(jīng)初步建立了算法的規(guī)制體系，但相關(guān)法律法規(guī)實(shí)行時(shí)間不長(zhǎng)，部分法律規(guī)定過(guò)于原則化，如何與實(shí)踐中的司法審判對(duì)接仍需討論，部分規(guī)定過(guò)于具體化只適用于算法權(quán)力在某種具體的應(yīng)用場(chǎng)景下的法律規(guī)制問(wèn)題[8](P78)，因此算法規(guī)制體系仍需進(jìn)一步的發(fā)展和完善。

(二)我國(guó)算法規(guī)制路徑的完善

1.完善算法影響評(píng)估制度。網(wǎng)絡(luò)治理下的評(píng)估制度包括數(shù)據(jù)保護(hù)影響評(píng)估制度和算法影響評(píng)估制度兩種，二者互為表里、相輔相成。其中數(shù)據(jù)保護(hù)影響評(píng)估是指對(duì)企業(yè)收集、使用個(gè)人數(shù)據(jù)可能造成的安全隱患進(jìn)行評(píng)估。歐盟在GDPR第三十五條規(guī)定了數(shù)據(jù)保護(hù)影響評(píng)估制度[9](P45-57)；作為網(wǎng)絡(luò)安全評(píng)估先驅(qū)的德國(guó)在其《聯(lián)邦數(shù)據(jù)保護(hù)法》亦規(guī)定了一定規(guī)模下的數(shù)據(jù)處理機(jī)關(guān)須書(shū)面任命常設(shè)的個(gè)人數(shù)據(jù)保護(hù)顧問(wèn)[10](P43-53)。而算法評(píng)估制度主要是對(duì)于算法的預(yù)防性控制，為算法設(shè)立準(zhǔn)入門(mén)檻，在初始環(huán)節(jié)對(duì)算法進(jìn)行審查，避免算法的主觀傾向性，并劃分算法的風(fēng)險(xiǎn)等級(jí)，整體而言，算法影響評(píng)估制度可以分為封閉合規(guī)型與開(kāi)放反思型[11](P57)。美國(guó)與加拿大在算法系統(tǒng)問(wèn)責(zé)的規(guī)制譜系下實(shí)行算法影響評(píng)估制度，其中美國(guó)《2022年算法問(wèn)責(zé)法案》第三節(jié)(b)款和第四節(jié)(a)款對(duì)算法影響評(píng)估制度進(jìn)行了詳盡的規(guī)定，對(duì)算法影響評(píng)估的評(píng)估內(nèi)容、要求、適用時(shí)間節(jié)點(diǎn)等細(xì)節(jié)性問(wèn)題進(jìn)行了描述，重點(diǎn)評(píng)估自動(dòng)化決策系統(tǒng)以及增強(qiáng)型關(guān)鍵決策過(guò)程的隱私風(fēng)險(xiǎn)、可能對(duì)消費(fèi)者造成的任何重大負(fù)面影響及緩解策略等。美國(guó)《加州自動(dòng)化決策系統(tǒng)問(wèn)責(zé)法》規(guī)定企業(yè)進(jìn)行算法自動(dòng)化評(píng)估時(shí)，還需要將自動(dòng)化決策方案與可能采取的替代方案或合理修改方案進(jìn)行比較，并選擇最佳方案?？梢?jiàn)美國(guó)模式下的算法影響評(píng)估主要聚焦于算法自動(dòng)化決策可能造成的不公平、不透明、侵犯隱私等問(wèn)題，但是在評(píng)估主體以及評(píng)估報(bào)告的披露上開(kāi)放性不足。而加拿大的《自動(dòng)化決策指令》通過(guò)設(shè)定權(quán)重與系數(shù)的方式確立了自動(dòng)化決策的評(píng)估模型，通過(guò)參評(píng)系統(tǒng)劃分風(fēng)險(xiǎn)等級(jí)，并規(guī)定了算法影響評(píng)估結(jié)果的社會(huì)披露程序。

我國(guó)網(wǎng)絡(luò)空間治理的評(píng)估制度隨著近幾年相關(guān)法律法規(guī)的出臺(tái)而逐步確立。其中《個(gè)人信息保護(hù)法》第五十五條第二款明確了個(gè)人信息處理者在利用個(gè)人信息進(jìn)行自動(dòng)化決策時(shí)，應(yīng)當(dāng)事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估，確立了個(gè)人信息處理者的數(shù)據(jù)保護(hù)影響評(píng)估制度，奠定了算法影響評(píng)估制度的基礎(chǔ)[12](P102-115)?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的出臺(tái)則正式明確了互聯(lián)網(wǎng)企業(yè)需要對(duì)算法自動(dòng)化決策進(jìn)行影響評(píng)估，但在評(píng)估范圍的選擇、評(píng)估標(biāo)準(zhǔn)的確定以及評(píng)估結(jié)果的披露上仍然存在若干障礙。首先，就算法影響評(píng)估的評(píng)估范圍而言，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》僅就五種商業(yè)服務(wù)領(lǐng)域的算法推薦技術(shù)進(jìn)行規(guī)制，對(duì)于算法自動(dòng)化決策在公權(quán)力領(lǐng)域的運(yùn)行并沒(méi)有涉及，而公權(quán)力領(lǐng)域行政自動(dòng)化決策引發(fā)的算法黑箱問(wèn)題才是算法統(tǒng)治下亟待解決的問(wèn)題。其次，在評(píng)估標(biāo)準(zhǔn)方面，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第八條明確算法評(píng)估的內(nèi)容主要是算法設(shè)計(jì)以及應(yīng)用架構(gòu)是否違反法律法規(guī)或者違背倫理道德。但是一方面社會(huì)道德倫理與正常的商業(yè)經(jīng)營(yíng)手段可能難以理清，以算法“大數(shù)據(jù)殺熟”為例，有學(xué)者主張?jiān)谄毡閮r(jià)差幅度不大的情況下，商家具有自主定價(jià)權(quán)[13](P146-162)，另一方面評(píng)估標(biāo)準(zhǔn)較為模糊，官方就算法的設(shè)計(jì)、風(fēng)險(xiǎn)等級(jí)的劃分還未確立明確的評(píng)估細(xì)則，因此互聯(lián)網(wǎng)企業(yè)的自我評(píng)估或存在“大而空”的情況。最后，就算法評(píng)估結(jié)果的披露而言，相關(guān)法條并未明確評(píng)估結(jié)果的披露制度，社會(huì)公眾對(duì)于涉及切身權(quán)益的算法評(píng)估結(jié)果無(wú)從而知，社會(huì)層面的監(jiān)督效果會(huì)大打折扣，對(duì)于可能包含的無(wú)形偏見(jiàn)無(wú)法精確檢查，更難以向互聯(lián)網(wǎng)企業(yè)提供意見(jiàn)反饋。

針對(duì)以上算法影響評(píng)估制度實(shí)施的障礙，首先應(yīng)當(dāng)確立算法評(píng)估的量化分級(jí)制度，根據(jù)算法使用數(shù)據(jù)的敏感程度、平臺(tái)的用戶(hù)規(guī)模、算法設(shè)計(jì)機(jī)理等對(duì)于算法可能會(huì)對(duì)公民、社會(huì)造成的風(fēng)險(xiǎn)進(jìn)行動(dòng)態(tài)量化，根據(jù)風(fēng)險(xiǎn)等級(jí)的不同實(shí)行相對(duì)應(yīng)的監(jiān)管方案。其次，逐步建立算法影響評(píng)估結(jié)果的披露制度，鼓勵(lì)互聯(lián)網(wǎng)平臺(tái)公開(kāi)算法評(píng)估結(jié)果，改變算法應(yīng)用者與用戶(hù)因?yàn)闄?quán)力與權(quán)利不對(duì)稱(chēng)而造成的信息失衡問(wèn)題。最后，作為第三方評(píng)估主體的算法專(zhuān)業(yè)評(píng)估隊(duì)伍，相關(guān)部門(mén)應(yīng)當(dāng)對(duì)其評(píng)估資質(zhì)進(jìn)行審核和確認(rèn)，確保其評(píng)估隊(duì)伍的專(zhuān)業(yè)性以及評(píng)估意見(jiàn)的獨(dú)立性[11](P68)。

2.細(xì)化算法備案。算法的不透明導(dǎo)致了算法黑箱的存在，對(duì)用戶(hù)的隱私權(quán)產(chǎn)生極大的威脅，而算法公開(kāi)則是制約算法權(quán)力擴(kuò)張、解決黑箱問(wèn)題的關(guān)鍵舉措，但是算法能否公開(kāi)是由算法的法律性質(zhì)決定的。如果將算法認(rèn)定為商業(yè)秘密，那么強(qiáng)令要求算法持有人進(jìn)行公開(kāi)，容易引發(fā)商業(yè)風(fēng)險(xiǎn)，因此以算法備案的方式進(jìn)行半公開(kāi)，將公權(quán)力機(jī)關(guān)作為備案機(jī)關(guān)不失為有效的方法，既能夠獲知算法存在的潛在風(fēng)險(xiǎn)進(jìn)行留檔備查，固定問(wèn)責(zé)證據(jù)[14](P64-70)，又能平衡互聯(lián)網(wǎng)企業(yè)對(duì)商業(yè)秘密的保護(hù)和政府要求信息披露之間的爭(zhēng)議局面，整體而言，算法備案制在算法治理層面是極具創(chuàng)新性的舉措。從全球范圍看，實(shí)行算法備案制度的國(guó)家主要有歐盟與我國(guó)。歐盟在2021年4月發(fā)布了《制定關(guān)于人工智能的統(tǒng)一規(guī)則(人工智能法案)并修訂某些歐盟立法》，該提案中僅要求算法供應(yīng)商注冊(cè)算法的基本信息，而我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十四條要求具有輿論屬性或社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者通過(guò)算法備案系統(tǒng)對(duì)算法類(lèi)型、應(yīng)用領(lǐng)域等進(jìn)行備案登記，并向社會(huì)大眾以及監(jiān)管機(jī)構(gòu)進(jìn)行公開(kāi)，但為了保護(hù)互聯(lián)網(wǎng)企業(yè)商業(yè)秘密，避免同行業(yè)不正當(dāng)競(jìng)爭(zhēng)行為，無(wú)論哪種備案制的公開(kāi)都不涉及算法源代碼。

雖然我國(guó)算法備案制度逐步走向正軌，但在實(shí)行初期仍然存在諸多障礙，例如算法的動(dòng)態(tài)更新周期短、算法服務(wù)類(lèi)型繁多、算法服務(wù)平臺(tái)與監(jiān)管平臺(tái)之間缺少接口對(duì)接等。算法服務(wù)提供者與監(jiān)管平臺(tái)之間實(shí)現(xiàn)對(duì)接，確保落實(shí)處罰責(zé)任是《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》在執(zhí)行上的側(cè)重點(diǎn)，因此針對(duì)上述障礙，應(yīng)當(dāng)從擴(kuò)大備案主體、細(xì)化備案流程兩個(gè)方面著手完善算法備案制度。在備案主體的選擇上，現(xiàn)行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的監(jiān)管對(duì)象為互聯(lián)網(wǎng)私營(yíng)產(chǎn)業(yè)主體，未來(lái)可以將政府、法院等決策機(jī)關(guān)所使用的自動(dòng)化決策算法納入備案范圍，提高算法的透明度，接受公眾的監(jiān)督，從而盡可能地避免公共決策過(guò)程中的算法歧視。在算法備案的流程上，網(wǎng)信部門(mén)應(yīng)當(dāng)進(jìn)一步細(xì)化算法備案的時(shí)間節(jié)點(diǎn)，促使算法服務(wù)提供者在算法更新后及時(shí)、真實(shí)地進(jìn)行動(dòng)態(tài)備案。

3.建立算法專(zhuān)利化。對(duì)于算法以專(zhuān)利進(jìn)行保護(hù)也不失為公開(kāi)的方法，修訂的《專(zhuān)利審查指南》明確規(guī)定：“對(duì)一項(xiàng)包含算法特征或商業(yè)規(guī)則和方法特征的權(quán)利要求是否屬于技術(shù)方案進(jìn)行審查時(shí)，需要整體考慮權(quán)利要求中記載的全部特征?！盵15](P120)換言之，當(dāng)算法解決了某一實(shí)踐應(yīng)用領(lǐng)域的特定問(wèn)題后，算法作為技術(shù)方案有可能以專(zhuān)利進(jìn)行保護(hù)。這誠(chéng)然是最理想的一種公開(kāi)狀態(tài)，既達(dá)到了清除算法黑箱的目的，也間接鼓勵(lì)了算法的創(chuàng)新。

4.明確算法解釋權(quán)。算法解釋權(quán)指“當(dāng)自動(dòng)化決策的具體決定對(duì)相對(duì)人有法律上或者經(jīng)濟(jì)上的顯著影響時(shí)，相對(duì)人向算法使用人提出異議，要求提供對(duì)具體決策解釋?zhuān)⒁蟾聰?shù)據(jù)或更正錯(cuò)誤的權(quán)利”[16](P49-61)。歐盟GDPR被認(rèn)為首次在立法中提出和創(chuàng)設(shè)了算法解釋權(quán)，GDPR序言第七十一條指出，對(duì)個(gè)人法律或經(jīng)濟(jì)上有重大影響的自動(dòng)化決策應(yīng)當(dāng)受到適當(dāng)?shù)姆纱胧┑募s束，這些措施包括向數(shù)據(jù)主體提供具體信息以及獲得人工干預(yù)、表達(dá)意見(jiàn)、獲取決策如何做出的解釋和對(duì)決策提出質(zhì)疑的權(quán)利[17](P100-109)。我國(guó)相關(guān)法律法規(guī)借鑒了歐盟經(jīng)驗(yàn)，在《個(gè)人信息保護(hù)法》第二十四條明確了個(gè)人信息處理者運(yùn)用算法自動(dòng)化決策對(duì)用戶(hù)信息作出重大影響的處理時(shí)，算法相對(duì)人即用戶(hù)擁有要求個(gè)人信息處理者做出解釋說(shuō)明的權(quán)利。同時(shí)，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十二條亦規(guī)定鼓勵(lì)算法推薦服務(wù)提供者展示規(guī)則的透明度以及可解釋性。

但是，算法解釋權(quán)的邏輯構(gòu)造與實(shí)踐適用仍然存在較大的爭(zhēng)議，目前學(xué)界對(duì)于算法解釋權(quán)的內(nèi)涵與外延、時(shí)間節(jié)點(diǎn)、解釋模式與內(nèi)容、解釋方法等存在分歧。首先，需要明確的是算法解釋權(quán)是一般性權(quán)利還是限定性權(quán)利[18](P99-118)，兩者的差異或帶來(lái)實(shí)踐中保護(hù)力度的不同?；凇秱€(gè)人信息保護(hù)法》透明度要求，可推論算法解釋權(quán)為一般性的權(quán)利，這意味著個(gè)人可以隨時(shí)要求個(gè)人信息處理者進(jìn)行解釋說(shuō)明，那么傳統(tǒng)的告知—同意框架則顯得雞肋。將算法解釋權(quán)理解為限定性權(quán)利看似更符合《個(gè)人信息保護(hù)法》第二十四條第三款的規(guī)定，即在特定情況下個(gè)人信息處理者履行解釋說(shuō)明義務(wù)，但是何種情況下個(gè)人能夠行使此項(xiàng)權(quán)利仍然需要進(jìn)一步明確。其次，算法解釋權(quán)的解釋時(shí)間節(jié)點(diǎn)也是一項(xiàng)爭(zhēng)議性的問(wèn)題，事前公布與事后解釋或?qū)τ脩?hù)個(gè)人知情權(quán)的保護(hù)存在差異。個(gè)人信息處理者事前在告知—同意框架下對(duì)于算法應(yīng)用進(jìn)行初步解釋?zhuān)潞蠡趥€(gè)人請(qǐng)求進(jìn)行詳細(xì)說(shuō)明，既符合算法透明度的要求也保障了個(gè)人權(quán)利。再次，算法解釋權(quán)的內(nèi)容究竟是系統(tǒng)性的自動(dòng)化決策功能，包括算法的運(yùn)行機(jī)制、決策邏輯，還是基于用戶(hù)個(gè)人進(jìn)行詳細(xì)的個(gè)案解釋仍需要分辨[19](P152-160)，解釋說(shuō)明的力度影響對(duì)于個(gè)人權(quán)利保護(hù)的強(qiáng)度?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十六條僅要求算法服務(wù)提供者以公示的方式解釋算法服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制，但個(gè)人請(qǐng)求下的算法個(gè)案解釋權(quán)目前并未在法條中涉及，然而深度學(xué)習(xí)算法的偏見(jiàn)或隱藏在行行代碼之中，技術(shù)面紗的覆蓋不利于個(gè)人保護(hù)自身的數(shù)字權(quán)益，解釋的模糊性不利于彌合數(shù)字鴻溝，因而未來(lái)算法個(gè)案解釋是保障算法在透明的軌道上發(fā)展的必要手段。

5.落實(shí)算法監(jiān)督檢查。人工智能的治理主要包括政府主導(dǎo)模式、第三方主導(dǎo)模式和企業(yè)自我規(guī)制模式[15](P121)。算法評(píng)估制度的形式包括自我評(píng)估、第三方評(píng)估，本質(zhì)上更傾向于自我檢查，是典型的自我規(guī)制模式。算法備案制度雖然是行政部門(mén)監(jiān)督的一種方式，但這種方式是企業(yè)自我告知，且告知的范圍不涉及企業(yè)的核心商業(yè)秘密，在此制度下，政府的主導(dǎo)地位并不明顯，是被動(dòng)式的監(jiān)管。三者相比之下，算法的檢查是政府主導(dǎo)下強(qiáng)制性最為顯著的一種算法規(guī)制模式，在此檢查制度下，政府主動(dòng)作為，行使監(jiān)管職權(quán)，可以審查企業(yè)的算法源代碼、數(shù)據(jù)集、模型等[14](P64-70)。美國(guó)《算法問(wèn)責(zé)法案》是針對(duì)人工智能算法進(jìn)行立法監(jiān)管的首個(gè)法案[20](P27-38)，該法案第八節(jié)和第九節(jié)就委員會(huì)和總檢察長(zhǎng)審查自動(dòng)化決策系統(tǒng)的權(quán)利和執(zhí)行程序作出了詳盡的規(guī)定。我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》在監(jiān)管的主體上細(xì)化區(qū)分網(wǎng)信部門(mén)的權(quán)責(zé)，更創(chuàng)新性地提出了雙層次、多部門(mén)的聯(lián)合監(jiān)管模式，由電信、公安、市場(chǎng)監(jiān)管配合算法監(jiān)管。

目前算法的監(jiān)管仍然處在法律適用的過(guò)渡期，監(jiān)管流程和相應(yīng)的監(jiān)管細(xì)則不夠細(xì)化，未來(lái)的算法監(jiān)管與檢查應(yīng)側(cè)重于算法服務(wù)提供者報(bào)送的相關(guān)算法的評(píng)估審查，監(jiān)管機(jī)構(gòu)也應(yīng)出臺(tái)更詳細(xì)的算法評(píng)估清單以及算法評(píng)估的流程以及細(xì)則。在監(jiān)管方向的選擇上應(yīng)當(dāng)將對(duì)于互聯(lián)網(wǎng)平臺(tái)的行為監(jiān)管轉(zhuǎn)向技術(shù)監(jiān)管，將算法治理時(shí)間點(diǎn)從單一的事后問(wèn)責(zé)轉(zhuǎn)向事前監(jiān)督，避免監(jiān)督的滯后性，并設(shè)立外部的投訴、舉報(bào)機(jī)制等作為后續(xù)的監(jiān)管保障措施。

6.保障算法事后問(wèn)責(zé)?！峨娮由虅?wù)法》第十七條、第十八條、第三十一條、第四十四條以及第七十七條等條款實(shí)質(zhì)上首次明確對(duì)網(wǎng)絡(luò)交易平臺(tái)日常運(yùn)行中算法的監(jiān)管問(wèn)題以及網(wǎng)絡(luò)交易平臺(tái)因不當(dāng)部署、應(yīng)用算法而承擔(dān)的法律責(zé)任和義務(wù)[21](P16-21)?！稊?shù)據(jù)安全法》規(guī)定由有關(guān)主管部門(mén)責(zé)令改正，給予警告，并根據(jù)情節(jié)輕重處于不同金額的罰金?！秱€(gè)人信息保護(hù)法》第六十六條到七十一條也明確了違規(guī)處理個(gè)人信息應(yīng)承擔(dān)的法律責(zé)任，其中違法處理個(gè)人信息的應(yīng)用程序會(huì)被責(zé)令暫?；蛘呓K止提供服務(wù)，直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處以罰金。

需要明確的是，首先，《刑法》第二百五十三條規(guī)定的“侵犯公民個(gè)人信息罪”，而《最高人民法院、最高人民檢察院關(guān)于辦理侵犯公民個(gè)人信息刑事案件適用法律若干問(wèn)題的解釋》對(duì)于《刑法》第二百五十三條的“違反國(guó)家規(guī)定”作了擴(kuò)大解釋?zhuān)`反部門(mén)規(guī)章或構(gòu)成犯罪，間接擴(kuò)大了刑事處罰的范圍。因而《個(gè)人信息保護(hù)法》在司法適用中與其他部門(mén)法如何進(jìn)行銜接還需要進(jìn)一步明確。其次，有關(guān)部門(mén)在行政問(wèn)責(zé)時(shí)，也需要符合正當(dāng)程序的原則，我國(guó)《數(shù)據(jù)安全法》指出省級(jí)以上人民政府有關(guān)部門(mén)在履行網(wǎng)絡(luò)安全監(jiān)督管理職責(zé)中有約談的權(quán)力，但是算法監(jiān)管下行政約談也不可忽視程序流程，給予相應(yīng)的算法服務(wù)提供者相應(yīng)的救濟(jì)權(quán)利。最后，由于算法侵害范圍廣、涉及個(gè)人用戶(hù)規(guī)模大，單個(gè)用戶(hù)在證據(jù)收集上存在較大的難度，完善相應(yīng)的公益訴訟制度以及訴訟支持制度有助于實(shí)現(xiàn)對(duì)算法侵害的司法追責(zé)。

7.保護(hù)個(gè)人數(shù)據(jù)權(quán)利。個(gè)人數(shù)據(jù)涉及的用戶(hù)權(quán)利包括反自動(dòng)化決策權(quán)、拒絕權(quán)、知情權(quán)等。歐盟GDPR在數(shù)據(jù)收集方面，規(guī)定將能夠識(shí)別自然人的生物數(shù)據(jù)、基因數(shù)據(jù)和性取向數(shù)據(jù)歸為敏感數(shù)據(jù)，并禁止算法自動(dòng)化處理敏感數(shù)據(jù)。在數(shù)據(jù)處理方面，GDPR第二十二條是否確立數(shù)據(jù)主體享有“反自動(dòng)化決策權(quán)”[22](P72-81)，在學(xué)界仍然存有廣泛爭(zhēng)議。部分學(xué)者主張GDPR在文義解釋的范圍內(nèi)，保障的并非是數(shù)據(jù)主體的“反自動(dòng)化決策權(quán)”，而是數(shù)據(jù)主體的知情權(quán)以及要求數(shù)據(jù)處理者對(duì)算法自動(dòng)化決策的結(jié)果做出解釋?zhuān)⒂袡?quán)對(duì)該決策結(jié)果提出質(zhì)疑。也有學(xué)者主張GDPR規(guī)定除了三種例外情況，其他不符的都屬于未經(jīng)授權(quán)的、違法的自動(dòng)化決策行為[23](P23-29)。

我國(guó)《個(gè)人信息保護(hù)法》在算法治理的源頭即個(gè)人數(shù)據(jù)的收集上，明確了個(gè)人數(shù)據(jù)權(quán)利的范圍，使算法的使用者需要與個(gè)人協(xié)商方能獲取算法決策所需要的數(shù)據(jù)[24](P194-209)，并在第二十八條以列舉的方式明確了敏感個(gè)人信息的范圍，同時(shí)確定了涵蓋知情權(quán)、拒絕權(quán)、刪除權(quán)在內(nèi)的個(gè)人權(quán)利束。但是仍然沒(méi)有解決算法過(guò)度收集個(gè)人信息的問(wèn)題，例如，以婚戀交友為目的的平臺(tái)，性別信息就具有收集的必要性，而其他平臺(tái)如外賣(mài)平臺(tái)就沒(méi)有收集性別信息的必要性。除此之外，個(gè)人對(duì)于數(shù)據(jù)的控制力不強(qiáng)，例如《個(gè)人信息保護(hù)法》第四十五條所規(guī)定的數(shù)據(jù)可攜帶權(quán)較為籠統(tǒng)，可攜帶權(quán)的范圍僅僅包括原生數(shù)據(jù)還是涵蓋經(jīng)設(shè)備觀測(cè)、算法推算得到的數(shù)據(jù)仍然沒(méi)有定論；第五十條所規(guī)定的以“便捷”途徑進(jìn)行傳輸運(yùn)送，然而“便捷”的程度仍然需要進(jìn)一步解釋。整體而言，綜合考慮《個(gè)人信息保護(hù)法》的立法精神，應(yīng)當(dāng)將用戶(hù)同意處理的基礎(chǔ)數(shù)據(jù)和在基礎(chǔ)數(shù)據(jù)基礎(chǔ)上后經(jīng)算法推算獲得的數(shù)據(jù)都作為用戶(hù)可攜帶的數(shù)據(jù)范圍，這樣微觀方面能夠強(qiáng)化個(gè)人對(duì)于自身數(shù)據(jù)的控制力，在宏觀層面有助于規(guī)制互聯(lián)網(wǎng)平臺(tái)經(jīng)濟(jì)的壟斷行為。

實(shí)現(xiàn)算法的可信控制能夠避免未來(lái)可能出現(xiàn)的“算法霸權(quán)”，有助于互聯(lián)網(wǎng)生態(tài)治理，保護(hù)數(shù)字弱勢(shì)群體的數(shù)字權(quán)益，彌合數(shù)字鴻溝，實(shí)現(xiàn)互聯(lián)網(wǎng)科技創(chuàng)新與維護(hù)公眾利益的平衡。然而達(dá)成“科技向善”并不能只依靠國(guó)家出臺(tái)法律進(jìn)行規(guī)制，網(wǎng)絡(luò)空間文明的建設(shè)是一項(xiàng)長(zhǎng)期性的工作，互聯(lián)網(wǎng)行業(yè)要強(qiáng)化行業(yè)的自律自治，謹(jǐn)記“以用戶(hù)為本”的算法倫理，實(shí)現(xiàn)良好的算法生態(tài)。