算法推薦技術(shù)對消費者權(quán)益保護的影響與應(yīng)對

張惠彬,王思宇

(1,2.西南政法大學(xué) 民商法學(xué)院,重慶 401120)

我們生活在一個算法社會,在算法推薦技術(shù)的幫助下,平臺根據(jù)用戶所提供的以及來自其他各種渠道的數(shù)據(jù),確定用戶的興趣、愛好、口味,然后為用戶推薦更多他們認為其喜歡的內(nèi)容。這些數(shù)據(jù)包括用戶點的每一個“贊”,看的每一條短視頻,點擊的每一個鏈接,它們都被記錄存檔。平臺算法的使用能為用戶提供更精準的服務(wù),降低用戶的搜索成本,但也容易“算計”消費者,諸如外賣平臺大數(shù)據(jù)殺熟等問題逐漸成為社會關(guān)注的熱點。

網(wǎng)絡(luò)平臺巨頭的算法使用行為在促進數(shù)字經(jīng)濟發(fā)展的同時也給市場秩序、消費者權(quán)益保護乃至國家安全帶來新的挑戰(zhàn)。為應(yīng)對算法推薦技術(shù)給社會治理帶來的挑戰(zhàn),國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下稱“管理規(guī)定”),《管理規(guī)定》為全球首個專門針對算法推薦技術(shù)規(guī)范的立法(部門規(guī)章)。本文以《管理規(guī)定》中確定的算法推薦技術(shù)分類為標準,剖析每類算法推薦技術(shù)可能給消費者權(quán)益造成的損害,并結(jié)合域外經(jīng)驗與《管理規(guī)定》,總結(jié)梳理我國的治理路徑與應(yīng)對策略,以期為數(shù)字經(jīng)濟時代“被算計”的消費者開拓有效的權(quán)利保障路徑。

一、數(shù)字經(jīng)濟時代算法推薦技術(shù)的市場應(yīng)用

算法推薦技術(shù)是指相關(guān)平臺利用機器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù),整合加工、分析解釋用戶數(shù)據(jù),以提供與用戶需求相匹配的個性化信息服務(wù)技術(shù)。算法推薦技術(shù)包含生成合成、個性化推送、排序精選、檢索過濾和調(diào)度決策五種類型。其中,生成合成類算法推薦技術(shù),是指利用算法、虛擬合成技術(shù)和自動化運行指令生成的文本、新聞、視頻等信息內(nèi)容服務(wù)。此類技術(shù)被廣泛應(yīng)用于AI換臉、語音導(dǎo)航及修復(fù)照片等場景;個性化推送類算法推薦技術(shù)是以“大數(shù)據(jù)殺熟”為典型的算法技術(shù),指互聯(lián)網(wǎng)平臺運用算法技術(shù)采集消費者數(shù)據(jù),以此形成用戶數(shù)字畫像,并借此向用戶提供個性化信息服務(wù)的算法;排序精選類算法推薦技術(shù)是一種個性化表示與結(jié)果排序算法,它利用模糊推理技術(shù)聚類分析用戶瀏覽的歷史文檔,發(fā)現(xiàn)用戶對各分類的喜好程度,繪制體現(xiàn)用戶個性的搜索結(jié)果的算法[1]。App的推薦排序和搜索引擎結(jié)果排序是該種算法推薦技術(shù)的主要應(yīng)用場景;檢索過濾類算法推薦技術(shù)涵蓋過濾算法和檢索算法兩大分支,是指平臺基于用戶的檢索信息、評論分析和文本挖掘向用戶提供關(guān)聯(lián)推薦的算法。譬如,電商平臺的關(guān)聯(lián)推薦功能及關(guān)鍵詞聯(lián)想功能等;調(diào)度決策類算法推薦技術(shù)是指平臺根據(jù)用戶數(shù)據(jù)和系統(tǒng)的資源分配策略向用戶提供的最優(yōu)決策算法。外賣平臺的訂單分派便是典型。盡管五大類算法推薦技術(shù)的側(cè)重點和應(yīng)用場景有所差異,但技術(shù)邏輯卻有趨同性,“收集—分析—轉(zhuǎn)換”三步走依舊是算法推薦技術(shù)的主要行為路徑。

(一)信息提取:集成消費者數(shù)據(jù)群落

互聯(lián)網(wǎng)平臺實施算法推薦的第一步就是提取用戶信息。用戶信息的提取分為兩種方式,其一是登錄注冊時,經(jīng)過用戶知情同意錄入的基本個人信息。其二是互聯(lián)網(wǎng)平臺利用算法技術(shù),收集用戶的瀏覽歷史、設(shè)備信息、服務(wù)記錄以及行為偏好等數(shù)據(jù)信息。互聯(lián)網(wǎng)平臺采取的收集用戶信息的方式具備循環(huán)、互動的特點?；ヂ?lián)網(wǎng)平臺將信息收集模型設(shè)置在用戶系統(tǒng)的多個接口,以便采集到用戶的全階段數(shù)據(jù)。同時,采集到的數(shù)據(jù)源還可以參與到價值產(chǎn)生的各個階段,普遍存在記錄數(shù)據(jù)源行為的機制和相互溝通、反饋的渠道,產(chǎn)生的數(shù)據(jù)可以是一種交互式、循環(huán)式的數(shù)據(jù),而非一次性的單一方面數(shù)據(jù),以便充分發(fā)揮數(shù)據(jù)價值[2]。通過上述手段,互聯(lián)網(wǎng)平臺便可將散落在不同組織機構(gòu)和信息系統(tǒng)中的用戶數(shù)據(jù)集合在一起,形成聚合態(tài)體系的數(shù)據(jù)存儲模型,為后續(xù)開展的數(shù)據(jù)挖掘和機器學(xué)習(xí)打下堅實基礎(chǔ)。

(二)數(shù)據(jù)分析:形成消費者個人標簽

互聯(lián)網(wǎng)平臺得以提供信息服務(wù)的重要前提之一,是對海量用戶數(shù)據(jù)進行抽象分析?；ヂ?lián)網(wǎng)平臺實現(xiàn)數(shù)據(jù)價值的最大化要依托對數(shù)據(jù)的機器學(xué)習(xí)和聯(lián)合分析。只有借助各種分析方法提煉出蘊含在數(shù)據(jù)內(nèi)的關(guān)鍵信息,互聯(lián)網(wǎng)平臺才能繪制出用戶畫像、形成用戶標簽,進而匹配用戶的個性化需求。在數(shù)據(jù)分析過程中,互聯(lián)網(wǎng)平臺往往會借助三類信息技術(shù)完成數(shù)據(jù)分析。其一,是算法和云計算技術(shù)?；ヂ?lián)網(wǎng)平臺將存儲在信息系統(tǒng)中的用戶數(shù)據(jù)進行結(jié)構(gòu)處理和統(tǒng)計定量處理,再貼合對應(yīng)的消費者個人標簽。例如,平臺可對消費者的消費和瀏覽數(shù)據(jù)進行分析解構(gòu),由此梳理出該消費者的消費頻率和價格敏感度,之后貼上對應(yīng)標簽,建立用戶畫像。其二,是機器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)。互聯(lián)網(wǎng)平臺可利用該技術(shù)構(gòu)建交易模型、智能識別傳感網(wǎng)絡(luò)和機器輔助分析等方式,解釋用戶數(shù)據(jù)、析出用戶信息,并由此將用戶信息整合分類,形成用戶剖面圖。最終通過服務(wù)接口,對照用戶標簽,向用戶提供信息服務(wù)。其三,是隱私計算技術(shù)?；ヂ?lián)網(wǎng)平臺可運用聯(lián)邦學(xué)習(xí)和安全多方計算等隱私計算技術(shù),通過算法協(xié)議進行聯(lián)合機器學(xué)習(xí),結(jié)合多方數(shù)據(jù)源完成建模,再將得到的模型結(jié)果匯總至中心節(jié)點,之后再進行二次訓(xùn)練得到最終需求結(jié)果。

(三)合成轉(zhuǎn)換:輸出互聯(lián)網(wǎng)信息服務(wù)

互聯(lián)網(wǎng)平臺的最終目的是向消費者提供信息服務(wù)。因此,平臺在形成用戶數(shù)據(jù)池、解構(gòu)用戶數(shù)據(jù)、預(yù)測用戶需求之后,便可結(jié)合輸出模型和結(jié)果數(shù)據(jù),在客戶終端對用戶投放不同場景的信息服務(wù)。以個性化推送類算法推薦技術(shù)——“大數(shù)據(jù)殺熟”為例,互聯(lián)網(wǎng)平臺運用算法技術(shù)采集消費者數(shù)據(jù),形成消費者數(shù)字畫像,并推測出消費者愿意支付的最高價格,最終輸出趨近于最大支付意愿的個性化價格,實現(xiàn)“千人千價”,完成了由數(shù)據(jù)至服務(wù)的轉(zhuǎn)換。

二、算法推薦技術(shù)侵害消費者權(quán)益的表現(xiàn)

數(shù)字經(jīng)濟時代,算法推薦技術(shù)一方面能夠為消費者提供個性化服務(wù),提高交易效率,提升產(chǎn)品和服務(wù)的質(zhì)量,造福消費者。但另一方面,算法推薦會不當利用消費者數(shù)據(jù),甚至泄露消費者隱私信息,使消費者的數(shù)據(jù)安全和個人信息難以得到保障。除此之外,互聯(lián)網(wǎng)平臺利用算法推薦技術(shù)實施的算法價格歧視損害了消費者的公平交易權(quán);互聯(lián)網(wǎng)平臺濫用用戶標簽推送關(guān)聯(lián)產(chǎn)品或服務(wù)侵擾了消費者的自主選擇權(quán);互聯(lián)網(wǎng)平臺利用算法的不透明性操縱搜索引擎排序結(jié)果侵犯了消費者的知情權(quán)。這些均加劇了消費者的弱勢地位,給算法推薦技術(shù)下的消費者權(quán)益保護帶來了新的挑戰(zhàn)。

(一)數(shù)據(jù)過度收集侵害消費者數(shù)據(jù)權(quán)益

2022年3月11日,中國消費者協(xié)會發(fā)布了《2021年網(wǎng)絡(luò)消費領(lǐng)域消費者權(quán)益保護報告》。報告顯示侵害網(wǎng)絡(luò)消費者權(quán)益的典型表現(xiàn)之一便是網(wǎng)絡(luò)交易經(jīng)營者利用算法等技術(shù)手段非法收集、分析、使用消費者數(shù)據(jù),損害消費者的信息自主權(quán)。除此之外,在2022年央視3·15晚會上,消費者協(xié)會曝光了“瀏覽網(wǎng)頁就能泄露手機號”的消費者數(shù)據(jù)泄露現(xiàn)象[3]。據(jù)工作人員介紹,相關(guān)企業(yè)會利用消費者手機對應(yīng)的MAC號,在消費者瀏覽該網(wǎng)站時獲得明碼手機號碼。更有甚者會利用算法等技術(shù)手段竊取消費者終端或手機里的個人信息,以此精準抓取消費者興趣點,進行個性化推送,損害消費者數(shù)據(jù)權(quán)益。由此可見,企業(yè)過度收集消費者數(shù)據(jù)現(xiàn)象仍為常見,數(shù)據(jù)泄露等數(shù)據(jù)侵權(quán)問題頻發(fā),消費者數(shù)據(jù)權(quán)益難以得到保障。究其原委,主要有以下幾點:首先,雖然消費者在互聯(lián)網(wǎng)平臺遺留的數(shù)據(jù)總數(shù)呈現(xiàn)指數(shù)性增長態(tài)勢,但是海量數(shù)據(jù)散落在不同的平臺和信息系統(tǒng)中,數(shù)據(jù)來源分散、數(shù)據(jù)間流通共享困難等問題仍然存在,“數(shù)據(jù)孤島”現(xiàn)象依舊殘存。對此,為融合多方數(shù)據(jù)、打通數(shù)據(jù)互動通道、最大程度釋放數(shù)據(jù)價值,互聯(lián)網(wǎng)平臺間開始開展數(shù)據(jù)協(xié)同工作,將多方數(shù)據(jù)進行聯(lián)合建模分析,實現(xiàn)數(shù)據(jù)跨層級、跨領(lǐng)域融合應(yīng)用。但此種數(shù)據(jù)協(xié)作合作機制可能增加數(shù)據(jù)泄露的風(fēng)險。而在數(shù)據(jù)流轉(zhuǎn)過程中,任何一方泄露了消費者數(shù)據(jù)均可能損害消費者的隱私及個人信息。其次,盡管《中華人民共和國個人信息保護法》(以下簡稱《個人信息保護法》)明確規(guī)定收集個人信息需遵循“最小目的”原則,但平臺在利用算法等技術(shù)收集個人信息時,往往會超出最小必要原則,從而過度收集用戶信息,致使消費者信息安全難以得到保障。最后,互聯(lián)網(wǎng)平臺利用算法、云計算和隱私計算等技術(shù)分析消費者數(shù)據(jù)形成的用戶畫像,可以展示數(shù)據(jù)主體的偏好、習(xí)慣等尚未公開的敏感信息,從而扯開了數(shù)據(jù)主體隱私空間的面紗,削弱了消費者對個人隱私信息的掌控能力。

(二)算法價格歧視損害消費者公平交易權(quán)

公平交易權(quán)是消費者權(quán)益的核心內(nèi)容,《中華人民共和國消費者權(quán)益保護法》(以下簡稱《消費者權(quán)益保護法》)所指稱的公平交易權(quán),要求經(jīng)營者給予所有消費者以公平的待遇。而算法推薦技術(shù)的應(yīng)用卻可能給消費者公平交易權(quán)帶來損害。根據(jù)北京市消費者協(xié)會2022年3月公開的調(diào)查問卷結(jié)果顯示,86.91%的受訪者認為自己有被大數(shù)據(jù)“殺熟”的經(jīng)歷[5]。2021年12月,浙江省紹興市中級人民法院審理的胡紅芳訴上海攜程商務(wù)有限公司侵權(quán)責(zé)任糾紛案,胡紅芳認為攜程公司通過采集其個人非必要信息,對其實施價格歧視,引發(fā)了社會對“大數(shù)據(jù)殺熟”的廣泛關(guān)注(1)參見浙江省紹興市中級人民法院(2021)浙06民終3129號民事裁判書。。“大數(shù)據(jù)殺熟”,又稱算法價格歧視,是個性化推送類算法推薦技術(shù)的一種實際應(yīng)用,其內(nèi)含的定價算法技術(shù)的隱蔽性和不透明性給消費者的公平交易權(quán)帶來損害。

互聯(lián)網(wǎng)平臺利用算法技術(shù)采集消費者的“元數(shù)據(jù)”,并運用機器學(xué)習(xí)等手段分析消費者的“元數(shù)據(jù)”,形成消費者用戶畫像。在此之后,互聯(lián)網(wǎng)平臺借助算法定價技術(shù),預(yù)測消費者的最大支付意愿,輸出趨近于最大支付意愿的價格,完成“千人千價”的個性化定制價格推送,達到“殺熟”的效果。在此過程中,由于互聯(lián)網(wǎng)平臺僅根據(jù)消費者的瀏覽歷史、消費記錄等數(shù)據(jù),便對消費者提供不同的價格,違背了基于成本與收益的定價規(guī)則,使得價格與商品或服務(wù)質(zhì)量呈現(xiàn)非正相關(guān)關(guān)系,損害了消費者的公平交易權(quán)。同時,算法的不透明性及算法黑箱現(xiàn)象加劇了互聯(lián)網(wǎng)平臺與消費者之間的信息不對稱。消費者支付的價格與獲得的商品或服務(wù)價值相當是公平交易權(quán)的核心。然而,“大數(shù)據(jù)殺熟”利用算法的不透明性實施的差別定價,導(dǎo)致消費者支出的費用與獲得利益不對等,進而違反了交易的實質(zhì)公平,有損消費者的公平交易權(quán)[6]。

(三)濫用用戶標簽侵擾消費者自主選擇權(quán)

自主選擇權(quán)是消費者享有的一項基本權(quán)利?！断M者權(quán)益保護法》層面的自主選擇權(quán)是指,消費者有依不同標準自由地對商品或服務(wù)作出選擇,并自由地決定是否購買商品或接受服務(wù)的權(quán)利[7]。在算法推薦技術(shù)廣泛應(yīng)用的當下,消費者的自主選擇權(quán)可能受到侵害。具體而言,算法推薦技術(shù)的有效實施有賴于精準的用戶標簽,在這之中,個性化推送類、排序精選類和檢索過濾類算法推薦技術(shù)對用戶標簽的依賴最強。為向消費者提供個性化信息服務(wù)和決策支持,互聯(lián)網(wǎng)平臺在實施個性化推送類算法推薦技術(shù)時就需提前掌握消費者的行為偏好和消費傾向,為每位消費者貼上專屬用戶標簽,以便對其提供精準的服務(wù),視頻類App中的個性化信息交流服務(wù)便是典型。為給消費者提供精選列表,平臺在實施排序精選類算法推薦技術(shù)時,便會根據(jù)消費者的瀏覽記錄繪制消費者用戶畫像,以此推出搜索引擎結(jié)果排序。為方便消費者查找到感興趣的商品或服務(wù),檢索過濾類算法推薦技術(shù)便會追蹤消費者的收藏記錄,構(gòu)建消費者用戶剖面圖,將消費者喜歡的標的物過濾出來,形成關(guān)聯(lián)推薦,加快交易效率。以上種種都是互聯(lián)網(wǎng)平臺以用戶標簽為基點,結(jié)合算法推薦技術(shù),向消費者提供的個性化信息服務(wù)。

但如若互聯(lián)網(wǎng)平臺過度依賴用戶標簽,以至濫用用戶標簽,則會侵害消費者的自主選擇權(quán)。近年來,一種新型定制服務(wù)——反向定制,逐漸進入消費者視野。反向定制是生產(chǎn)者通過分析消費者數(shù)據(jù),得到消費者偏好,并由此形成用戶標簽,其后,生產(chǎn)者再根據(jù)用戶標簽生產(chǎn)個性化產(chǎn)品。反向定制雖然能夠滿足消費者的個性化需求,但也大大限制了消費者的選擇范圍,損害了消費者的自主選擇權(quán)。具言之,消費者的自主選擇權(quán)有兩個基本要件,其一是消費者具備自由意志并能進行自主選擇。也即消費者的購買行為是基于本人的真實意愿作出的,且該種購買行為能夠滿足個人的生活需要,達到自身利益的最大化。其二是排除他人的不正當干涉。也即消費者的購買行為沒有受到外力的不正當與不合理干涉[8]。但在算法推薦技術(shù)的框架下,以購物平臺中的“猜你喜歡”與關(guān)聯(lián)推薦和視頻平臺中的關(guān)鍵詞推薦為主導(dǎo)的個性化推送功能,削弱了消費者獲取信息的主動性及信息篩選能力,間接干涉了消費者對商品或服務(wù)的正常選擇,影響了消費者的自主選擇權(quán)。同理,在“大數(shù)據(jù)殺熟”案件中,互聯(lián)網(wǎng)平臺利用用戶標簽,預(yù)測出消費者的最大支付意愿,進而對消費者提供不同的價格,而該種價格違背了消費者的自由意志,未達到“明碼標價”的要求,侵害了消費者的自主選擇權(quán)。

(四)算法不透明損害消費者知情權(quán)

因算法技術(shù)的不透明引發(fā)的“算法黑箱”現(xiàn)象,使消費者無從知曉自己的數(shù)據(jù)是否被訪問、如何被使用,更無從知曉算法是如何影響自己的決策的?；ヂ?lián)網(wǎng)平臺可能會利用算法技術(shù)不完全提供商品或服務(wù)的信息,致使平臺與消費者之間的信息不對稱現(xiàn)象加劇,由此造成對消費者知情權(quán)的損害。

《消費者權(quán)益保護法》層面的知情權(quán)是指,消費者有權(quán)知曉包含價格、產(chǎn)地、用途、性能及主要成分等在內(nèi)的商品或服務(wù)的真實情況。知情權(quán)是消費者進行消費活動的前提,也是消費者的一項基礎(chǔ)性權(quán)利。但在“大數(shù)據(jù)殺熟”案件中,商品或服務(wù)的價格并非是按照“成本—收益”的基本規(guī)則提供的,而是依靠定價算法技術(shù)定制出來的。消費者對定價算法運行機制的茫然,加之算法的不透明性加劇了互聯(lián)網(wǎng)平臺與消費者之間掌握的服務(wù)信息的不對稱,從而導(dǎo)致互聯(lián)網(wǎng)平臺與消費者之間的權(quán)利義務(wù)不對等,消費者知情權(quán)無法得到保護。此外,在2022年1月北京海淀區(qū)法院審理的全國首例人工刷量平臺干擾搜索引擎算法不正當競爭糾紛案中,“我愛廣告任務(wù)網(wǎng)”幫助用戶制造虛假點擊數(shù)據(jù),擾亂原有的客觀搜索排序結(jié)果,阻礙了信息交流,從而使搜索引擎排序無從降低消費者的信息搜索成本,導(dǎo)致消費者知情權(quán)的損害[9]。

三、算法規(guī)制中消費者權(quán)益保護的域外嘗試

數(shù)字經(jīng)濟時代,算法成為互聯(lián)網(wǎng)信息服務(wù)產(chǎn)業(yè)發(fā)展的重點,也成為提升交易效率、增強用戶粘性的重要抓手。算法技術(shù)不僅廣泛應(yīng)用于國內(nèi)互聯(lián)網(wǎng)消費市場,算法商業(yè)化在域外也被如火如荼地推廣運用。美國、歐盟及英國基于各自的發(fā)展現(xiàn)實與實踐經(jīng)驗,先后形成了各具特色的算法規(guī)制體系。消費者數(shù)據(jù)賦權(quán)與隱私強化保護、算法影響評估機制等嘗試,均可以為我國算法規(guī)制消費者權(quán)益保護提供有益的經(jīng)驗。

(一)數(shù)據(jù)賦權(quán)以強化消費者數(shù)據(jù)權(quán)益

互聯(lián)網(wǎng)平臺利用算法技術(shù)向消費者提供信息服務(wù)依托于一定量的消費者數(shù)據(jù)。因此,為規(guī)制諸如算法個性化定價等問題,部分國家和地區(qū)采取了規(guī)范數(shù)據(jù)收集行為的措施。在這之中,萌芽于數(shù)字單一市場的,具有顯著功能特性的歐盟《一般數(shù)據(jù)保護條例》站在基本權(quán)利保護的立場,通過為數(shù)據(jù)主體賦權(quán)的方式,保護用戶的個人數(shù)據(jù)[10]。

具體而言,《一般數(shù)據(jù)保護條例》賦予數(shù)據(jù)主體以知情權(quán)、更正及刪除權(quán)、訪問權(quán)、拒絕權(quán)和自動化決策自決權(quán)等八種權(quán)利。其中,知情權(quán)與訪問權(quán)是指,當數(shù)據(jù)主體的數(shù)據(jù)被采集時,數(shù)據(jù)主體有權(quán)知曉數(shù)據(jù)控制者處理數(shù)據(jù)的目的、合法基礎(chǔ)及儲存期限等相關(guān)信息(2)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 12-15。。也即《一般數(shù)據(jù)保護條例》首先確保數(shù)據(jù)主體能夠知悉自己的數(shù)據(jù)是被誰收集、收集目的為何以及如何被處理等信息。再經(jīng)由數(shù)據(jù)主體權(quán)衡后,根據(jù)自己的意愿自主決定是否允許數(shù)據(jù)控制者收集其數(shù)據(jù),以換取相對應(yīng)的服務(wù)[11];更正及刪除權(quán)是指,數(shù)據(jù)主體有權(quán)要求數(shù)據(jù)控制者即刻更正與其有關(guān)的錯誤的個人數(shù)據(jù),并且,當數(shù)據(jù)收集和處理的目的已不再必要或是出現(xiàn)個人數(shù)據(jù)被非法處理的情形時,數(shù)據(jù)主體有權(quán)請求數(shù)據(jù)控制者立即刪除與其相關(guān)的個人數(shù)據(jù)(3)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 16-17。。更正及刪除權(quán)有助于減輕因數(shù)據(jù)的錯誤處理給數(shù)據(jù)主體帶來的消極影響;拒絕權(quán)是指,當數(shù)據(jù)處理是出于直接營銷的目的時,數(shù)據(jù)主體有權(quán)隨時拒絕為該種營銷目的而處理其個人數(shù)據(jù)的行為(4)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 21。。拒絕權(quán)能夠有效制止個性化推薦等行為,賦予數(shù)據(jù)主體自主選擇的自由;自動化決策權(quán)是指數(shù)據(jù)主體有權(quán)不受僅基于自動化決策得到的結(jié)果的束縛,并且數(shù)據(jù)主體有權(quán)表達對決策結(jié)果的觀點及異議(5)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 22。。該條明確賦予用戶介入算法決策的權(quán)利,保障了數(shù)據(jù)主體的自主選擇權(quán)。除此之外,《一般數(shù)據(jù)保護條例》還額外賦予數(shù)據(jù)主體在數(shù)據(jù)被違法處理時的限制處理權(quán),這些權(quán)利都能使數(shù)據(jù)主體實際控制數(shù)據(jù)的處理。而澳大利亞為平衡創(chuàng)新發(fā)展和消費者數(shù)據(jù)使用安全的關(guān)系,對消費者數(shù)據(jù)采取了較為周密的保護措施,即授予消費者對互聯(lián)網(wǎng)交易的開放訪問權(quán),并以此達到消費者對個人數(shù)據(jù)的控制效果。更為具體的保護措施包括:第一,要求數(shù)據(jù)持有者和數(shù)據(jù)接收者公開其對數(shù)據(jù)管理的政策。第二,消費者可以劃定其同意收集和使用的數(shù)據(jù)范圍,且數(shù)據(jù)接收者必須告知消費者數(shù)據(jù)收集的情況。第三,一般情況下,數(shù)據(jù)接收者不得使用或披露消費者數(shù)據(jù),除非消費者、《消費者數(shù)據(jù)權(quán)》規(guī)則或其他法律要求使用或披露數(shù)據(jù)。第四,禁止數(shù)據(jù)接收者利用數(shù)據(jù)對消費者進行營銷。第五,數(shù)據(jù)接收者必須提供對數(shù)據(jù)進行去身份標識的選擇(6)Competition and Consumer(Consumer Data Right)Rules 2020。。

(二)行業(yè)約束以維護消費者公平交易權(quán)

為規(guī)制包括“大數(shù)據(jù)殺熟”在內(nèi)的算法歧視現(xiàn)象,美國采取了自律性規(guī)制的規(guī)范路徑。此種規(guī)范方法通過制定算法決策和運行的基本原則,強化行業(yè)內(nèi)的自我約束,最終實現(xiàn)對算法歧視的有效規(guī)制。美國計算機協(xié)會于2017年發(fā)布了《關(guān)于算法透明度與責(zé)任制的聲明》,在該份聲明中,美國計算機協(xié)會明確了算法透明度與責(zé)任制的七項原則,并要求行業(yè)內(nèi)的算法開發(fā)者和使用者遵守上述原則(7)Statement on Algorithmic Transparency and Accountability.USACM 2017。。這七項原則包括:一是偏見意識原則。該原則要求算法開發(fā)者、使用者和其他利益相關(guān)者意識到在算法設(shè)計、實施和使用過程中存在的偏見及其可能造成的損害。二是算法救濟原則。監(jiān)管機構(gòu)應(yīng)采取各種機制,給受到算法決策不利影響的個人或群體提供救濟渠道。三是算法負責(zé)原則。該原則要求算法使用者對算法的運行結(jié)果承擔(dān)責(zé)任。四是算法解釋原則。也即算法使用者應(yīng)當對算法運行程序和決策結(jié)果作出解釋。五是算法數(shù)據(jù)證明力原則。該原則要求算法開發(fā)者說明數(shù)據(jù)的收集方式及其潛在風(fēng)險。六是算法審計原則。該原則強調(diào)算法決策的可追溯性,確保算法模型、決策結(jié)果及其所依托的數(shù)據(jù)被記錄下來,方便后續(xù)的算法審計[12]。七是算法驗證及測試原則。該原則要求算法使用者定期采用嚴格的方法來驗證算法模型,以防止算法歧視的發(fā)生。這些原則能夠有效維護消費者的公平交易權(quán)。

(三)體系建構(gòu)以確保消費者自主選擇權(quán)

規(guī)制數(shù)據(jù)和算法的最終目的,是保障消費者權(quán)益,實現(xiàn)更深層次的消費公平。美國《Markup》曾報道過一起由算法缺陷引發(fā)的事件。一個存在缺陷的抵押貸款審批算法拒絕了此前已獲審批的申請人的貸款申請,致使該申請人遭受財產(chǎn)損失。因此,當算法本身的缺陷成為消費者利益受損的主要緣由時,消費者的糾偏、申訴甚至退出的權(quán)利就變得格外重要。對此,為直接對話消費者訴求,完善消費者權(quán)益保護路徑,美國《算法問責(zé)法案》構(gòu)建了消費者權(quán)益保障體系,從消費者退出機制、消費者權(quán)利評估機制與不利影響評估機制三方面,構(gòu)建算法框架下的消費者權(quán)利保障體系。

具體而言,消費者糾偏與退出機制是指算法服務(wù)使用者應(yīng)當明確告知消費者其使用自動化決策這一事實,并為消費者提供退出機制。消費者的權(quán)利評估制度是指,算法服務(wù)使用者應(yīng)當評估算法系統(tǒng)或過程的透明度和可解釋性,以及消費者選擇退出此類系統(tǒng)或過程的可能性。不利影響評估機制是指,算法服務(wù)使用者應(yīng)當衡量自動決策系統(tǒng)可能對消費者產(chǎn)生的任何負面影響,并評估任何可行的緩解策略。不利影響評估機制應(yīng)當記錄:第一,為消除或緩解此種不利影響而采取的任何措施,包括將自動決策系統(tǒng)從市場上移除或終止開發(fā)等步驟。第二,不處理可能產(chǎn)生的負面影響的原因。第三,用于識別、衡量、減輕或消除對消費者可能產(chǎn)生的重大負面影響的標準協(xié)議或?qū)嵺`,以及相關(guān)團隊或工作人員對此類協(xié)議或?qū)嵺`的知悉途徑。此外,算法服務(wù)使用者還需要為消費者提供提出異議和申訴的通道。質(zhì)言之,架構(gòu)消費者權(quán)益保障體系能夠賦予消費者自主決定的權(quán)利。體系化的權(quán)利框架,能夠使消費者在算法運行的各個環(huán)節(jié)維護自身的權(quán)益,并利用糾偏和選擇退出機制保障自身的自主選擇權(quán)。

(四)算法評估以保障消費者知情權(quán)

作為底層架構(gòu)的算法,雖然能夠降低消費者篩選有效信息的時間成本,提高信息推送的效率,但“信息繭房”的產(chǎn)生、互聯(lián)網(wǎng)平臺利用算法控制熱搜和過度營銷等問題也層出不窮。2022年央視3·15晚會曝光了某口碑營銷公司操縱搜索結(jié)果的新聞。該營銷公司利用技術(shù)手段,冒充真實用戶自問自答,并將這些自問自答排在搜索結(jié)果之前,達到左右搜索結(jié)果的目的,擾亂了市場公平競爭,導(dǎo)致網(wǎng)絡(luò)生態(tài)失衡。對此,面對野蠻生長的算法亂象,算法影響評估制度作為重要的算法治理方案被納入算法治理體系中,成為算法治理嘗試的關(guān)鍵一環(huán)。

美國為規(guī)制“算法黑箱”,消弭不透明的算法運行程序帶來的算法歧視,增設(shè)了算法影響評估制度。算法影響評估制度以透明、問責(zé)、合法等原則為指引,具體可以分為算法投入前評估和持續(xù)性評估兩部分。算法投入前的評估要求算法服務(wù)使用者在新算法開發(fā)之前,評估已存在的同類算法及其負面影響和新算法的優(yōu)勢與開發(fā)目的,以規(guī)避算法本身的缺漏。算法使用過程中的持續(xù)性評估則圍繞算法的公正性、可問責(zé)性和透明度等方面展開,并將技術(shù)新穎性、決策應(yīng)用范圍及消費者數(shù)據(jù)的敏感程度等指標納入影響評估報告。此過程的評估工作要求:首先,算法服務(wù)使用者應(yīng)當持續(xù)性地記錄算法的當前及歷史表現(xiàn),警惕可能產(chǎn)生的算法偏見和算法歧視。同時,算法服務(wù)使用者還應(yīng)當評估算法可能給消費者個人信息和隱私帶來的風(fēng)險及自動化決策系統(tǒng)可能對消費者帶來的偏見和歧視性決策的風(fēng)險。其次,算法服務(wù)使用者應(yīng)當保存用于訓(xùn)練算法的數(shù)據(jù)及相關(guān)信息,防止數(shù)據(jù)帶來的不良影響(8)Algorithmic Accountability Act of 2022。。最后,在劃分評估后的影響等級方面,加拿大《自動化決策指令》以風(fēng)險為評定基礎(chǔ),將影響等級劃分為可逆且暫時的影響、可能可逆且短期的影響、難以可逆持續(xù)性影響及不可逆的永久性影響四類(9)Government of Canada.Directive on Automated Decision-making。。算法評估制度能夠及時糾正算法可能帶來的偏見與歧視,給消費者以風(fēng)險警示,并增強算法的透明度,保障了消費者的知情權(quán)。

四、算法規(guī)制中消費者權(quán)益保護的完善

算法推薦技術(shù)的廣泛應(yīng)用,滋生了大數(shù)據(jù)殺熟、搜索引擎競價排名、“信息繭房”甚至不正當競爭等問題。域外在解決算法規(guī)制中消費者權(quán)益保護問題時,采取了權(quán)利導(dǎo)向、分類治理的思路。譬如,在規(guī)制算法框架下的消費者數(shù)據(jù)權(quán)益時,域外站在數(shù)據(jù)主體的角度,強調(diào)數(shù)據(jù)賦權(quán);在規(guī)制算法歧視時,域外采取自律性規(guī)制路徑,保障消費者公平交易權(quán);在解決算法不透明和可解釋性問題上,域外主張體系架構(gòu)的私力救濟方式;在規(guī)范算法帶來的“信息繭房”等問題時,域外采納平臺監(jiān)管體系中的算法評估制度。

而我國為維持良好的市場競爭秩序,維護消費者權(quán)益和社會公平,建構(gòu)算法推薦服務(wù)治理體系成為推動新技術(shù)可持續(xù)發(fā)展的關(guān)鍵。申言之,我國算法治理體系的建構(gòu)應(yīng)從實際出發(fā),以我國基本國情為立足點,綜合考察行業(yè)前景、社會發(fā)展和法治進程等指標,借鑒域外有益經(jīng)驗,為規(guī)制算法框架下的消費者權(quán)益保護提供中國智慧,貢獻中國方案。算法框架下的消費者權(quán)益保護應(yīng)以《消費者權(quán)益保護法》和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》為規(guī)范基礎(chǔ),以促進算法生態(tài)規(guī)范發(fā)展為導(dǎo)向,回應(yīng)消費者熱切關(guān)注的重點問題,從數(shù)據(jù)賦權(quán)、協(xié)同治理、消費者私力救濟和平臺監(jiān)管下的安全評估等方面建構(gòu)算法治理規(guī)則體系,為釋放算法正效能、保障消費者權(quán)益注入動能。

(一)實施消費者數(shù)據(jù)與個人信息保護機制

實施算法推薦的前提之一是互聯(lián)網(wǎng)平臺掌握足夠多的消費者數(shù)據(jù)。因此,管控數(shù)據(jù)成為域外規(guī)制算法技術(shù)濫用的路徑之一。2021年《中華人民共和國數(shù)據(jù)安全法》(以下簡稱《數(shù)據(jù)安全法》)與《個人信息保護法》的出臺,使這兩部法律同《中華人民共和國網(wǎng)絡(luò)安全法》(以下簡稱《網(wǎng)絡(luò)安全法》)一道,成為數(shù)據(jù)和個人信息保護領(lǐng)域的“三駕馬車”,消費者數(shù)據(jù)與個人信息保護的基本法律架構(gòu)已順利搭建完成。但在數(shù)字經(jīng)濟時代,因算法的不透明性與技術(shù)的復(fù)雜性,使得消費者難以評判自身數(shù)據(jù)權(quán)益是否受到侵害。因此,更迭并落實消費者數(shù)據(jù)與個人信息保護機制迫在眉睫。

具言之,首先,為實現(xiàn)算法透明,保障消費者數(shù)據(jù)權(quán)益不受侵害,我國應(yīng)當落實算法推薦服務(wù)提供者的算法安全主體責(zé)任,要求算法推薦服務(wù)提供者利用技術(shù)手段和審核機制加強數(shù)據(jù)安全和個人信息保護制度,并對算法的數(shù)據(jù)使用進行日常監(jiān)測(10)參見國家互聯(lián)網(wǎng)信息辦公室、中華人民共和國工業(yè)和信息化部、中華人民共和國公安部、國家市場監(jiān)督管理總局令第9號. 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第七條。。其次,在數(shù)據(jù)收集階段,我國可參照適用《數(shù)據(jù)安全法》《個人信息保護法》和《網(wǎng)絡(luò)安全法》中關(guān)于收集和處理消費者數(shù)據(jù)和個人信息的規(guī)定。對消費者數(shù)據(jù)的收集堅持“知情—同意”和“最小必要”原則,要求互聯(lián)網(wǎng)平臺在收集消費者數(shù)據(jù)時,明示收集目的和范圍,不得利用隱蔽算法在消費者不知情的情況下,惡意收集消費者數(shù)據(jù)。在數(shù)據(jù)處理環(huán)節(jié),確保數(shù)據(jù)處理合法、正當,并應(yīng)當采取必要措施保障數(shù)據(jù)安全。同時,為制止互聯(lián)網(wǎng)平臺竊取消費者數(shù)據(jù)和個人信息,我國可借鑒澳大利亞《消費者數(shù)據(jù)權(quán)》規(guī)則。根據(jù)2021年發(fā)布的《澳大利亞消費者數(shù)據(jù)權(quán)利隱私評估》[13]顯示,自《消費者數(shù)據(jù)權(quán)》規(guī)則實施以來,該規(guī)則提供的諸如數(shù)據(jù)公開透明管理、數(shù)據(jù)使用和披露制度、數(shù)據(jù)收集規(guī)范等數(shù)據(jù)和隱私保護措施,大大降低了四大銀行的高隱私風(fēng)險發(fā)生率。《消費者數(shù)據(jù)權(quán)》規(guī)則的有效實施,為我國提供了有益經(jīng)驗。我國可賦予消費者對數(shù)據(jù)的開放訪問權(quán),將數(shù)據(jù)收集的決定權(quán)交由消費者,由消費者自主劃定數(shù)據(jù)收集的范圍和使用權(quán)限,以此彌合消費者數(shù)據(jù)濫用問題。最后,由于互聯(lián)網(wǎng)平臺收集消費者數(shù)據(jù)的內(nèi)生動力是方便構(gòu)建用戶標簽,從而以此為基礎(chǔ)進行精準營銷。但數(shù)據(jù)的過度收集,極易形成“信息繭房”,使消費者被禁錮于有限的信息流中,進而難以獲得全面且真實的信息,最終損害消費者的知情權(quán)。因此,應(yīng)當苛以算法推薦服務(wù)提供者信息安全管理的義務(wù),完善信息入庫的標準和程序,并要求其加強用戶模型和用戶標簽管理,防止違法和不良信息損害消費者權(quán)益(11)參見國家互聯(lián)網(wǎng)信息辦公室、中華人民共和國工業(yè)和信息化部、中華人民共和國公安部、國家市場監(jiān)督管理總局令第9號. 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第九、十條。。同時,為保障消費者在輸入數(shù)據(jù)層面擁有更大的自主權(quán),我們可賦予用戶標簽選擇和刪除權(quán),使消費者可以選擇或刪除針對其個人特征的用戶標簽(12)參見國家互聯(lián)網(wǎng)信息辦公室、中華人民共和國工業(yè)和信息化部、中華人民共和國公安部、國家市場監(jiān)督管理總局令第9號. 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十七條。。

(二)建立算法協(xié)同治理路徑

五大類算法推薦服務(wù)依托技術(shù)流,對消費者施以誤導(dǎo)或歧視,以致減損消費者權(quán)益。而對算法推薦服務(wù)的治理要求執(zhí)法部門強化協(xié)同合作、建立部門協(xié)同聯(lián)動長效機制。因此,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》在第二十三條明確了系統(tǒng)監(jiān)管、多元共治的規(guī)制框架,實行對算法分級分類的治理機制,由網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關(guān)部門共同治理。但遺憾的是,《管理規(guī)定》僅概括規(guī)定了多元監(jiān)管框架,并未對各部門的具體監(jiān)管范圍和監(jiān)管職責(zé)進行細化分工,使算法合作治理路徑無法有效落地實施。

對此,為充分釋放治理合力,提高算法治理效能,細化政府部門分工變得尤為必要。具體而言,在合作治理的分工上,根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第三條和第九條的規(guī)定,國家網(wǎng)信部門負責(zé)統(tǒng)籌協(xié)調(diào)全國網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和相關(guān)監(jiān)督管理工作。具體而言,該部門應(yīng)當負責(zé)跟蹤治理排序精選類和檢索過濾類的算法推薦技術(shù),管控信息服務(wù)熱門推薦、精選、熱搜、榜單類和關(guān)聯(lián)推薦板塊,實時巡查網(wǎng)絡(luò)信息內(nèi)容,維護版面和頁面的生態(tài),優(yōu)化信息推薦機制。國家市場監(jiān)管總局項下的競爭政策協(xié)調(diào)司可以借鑒英國競爭和市場管理局嘗試的規(guī)制方法,監(jiān)管算法運行。譬如,為企業(yè)提供指導(dǎo)并制定決策指南或是持續(xù)算法監(jiān)控、構(gòu)筑監(jiān)管沙盒。與此同時,國家市場監(jiān)管總局項下的網(wǎng)絡(luò)交易監(jiān)督管理司可以負責(zé)監(jiān)管個性化推送類算法推薦技術(shù),對互聯(lián)網(wǎng)平臺在市場交易過程中實施的個性化推送予以實時監(jiān)測,規(guī)范網(wǎng)絡(luò)交易平臺的經(jīng)營秩序,彌合算法歧視等損害消費者公平交易權(quán)的現(xiàn)象。網(wǎng)絡(luò)安全管理局則負責(zé)管控生成合成類算法推薦技術(shù),配合處理生成合成算法帶來的有害信息,對消費者數(shù)據(jù)施以信息安全監(jiān)測預(yù)警,嚴格防控諸如美國聯(lián)邦貿(mào)易委員會發(fā)現(xiàn)的企業(yè)利用虛假評論和其他誤導(dǎo)性信息在社交媒體上推廣產(chǎn)品和服務(wù)的“欺詐行為”,保障消費者知情權(quán)。最后,公安部門可以對利用算法推薦技術(shù)實施價格歧視、網(wǎng)絡(luò)欺詐甚至黑灰產(chǎn)業(yè)等行為,依法給予治安管理處罰。

(三)設(shè)置消費者權(quán)益保護制度

為貫徹“堅持權(quán)益保障,引導(dǎo)算法應(yīng)用公平公正、透明可釋,充分保障網(wǎng)民合法權(quán)益”的基本原則(13)參見國家互聯(lián)網(wǎng)信息辦公室等九部、局,關(guān)于印發(fā)《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》的通知.國信辦發(fā)文〔2021〕7號。,我國在規(guī)制算法框架下消費者權(quán)益保護問題時,應(yīng)當以《消費者權(quán)益保護法》為主體,以《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》為補充,建構(gòu)消費者權(quán)益保護制度。一方面,《消費者權(quán)益保護法》規(guī)定的消費者權(quán)利,不僅能夠給司法裁判提供規(guī)范支持,也能夠有效鏈接算法價格歧視和個性化推送等問題。同時,在《消費者權(quán)益保護法》的框架內(nèi),以消費者個人為核心,主張賦予、界清、完善各種權(quán)利,能夠給予個體消費者法律武器來維護個人利益[14]。譬如,以權(quán)利為出發(fā)點的消費者“知情—同意”規(guī)則,能夠有效規(guī)制數(shù)據(jù)過度收集問題。另一方面,為彌補《消費者權(quán)益保護法》在應(yīng)對新技術(shù)問題時的缺漏,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》以專章的形式強化了在算法推薦技術(shù)框架下的消費者權(quán)益保護問題。在該章節(jié)項下,《管理規(guī)定》在明確消費者知情權(quán)以外,還創(chuàng)造性地提出了算法退出權(quán)。在具體內(nèi)容上,首先,我國同美國《算法問責(zé)法案》一樣,賦予消費者以知情權(quán)。算法透明是消費者篩選信息和自主選擇的重要前提,對此,《管理規(guī)定》要求算法推薦服務(wù)提供者降低算法透明度和可解釋性,公示算法推薦的基本原理、目的意圖和主要運行機制,并鼓勵算法服務(wù)提供者優(yōu)化對檢索、選擇、推送等規(guī)則的透明度和可解釋性。同時,當算法推薦服務(wù)提供者作出對消費者權(quán)益有重大影響的決定時,消費者有權(quán)要求其釋明。其次,為規(guī)制常見于電商平臺的“精準營銷”和“個性化推送”現(xiàn)象,《管理規(guī)定》承繼了《個人信息保護法》第二十四條規(guī)定的退出選擇機制,賦予消費者退出權(quán)。也即當消費者選擇關(guān)閉算法推薦服務(wù)時,算法推薦服務(wù)提供者應(yīng)當立即停止提供相關(guān)服務(wù)。最后,我國額外賦予消費者申訴和投訴權(quán),要求政府積極受理消費者的舉報和投訴,要求互聯(lián)網(wǎng)平臺自覺接受消費者監(jiān)督并及時做好反饋工作,為消費者權(quán)利捍衛(wèi)途徑提供多元的選擇道路,以此鼓勵廣大消費者積極參與算法治理工作,切實加強政府與消費者之間的信息交流及互通。

(四)構(gòu)建算法評估制度

算法的不透明致使消費者很難窺見算法的運行過程及輸出結(jié)果,進而導(dǎo)致消費者知情權(quán)受損。而算法安全評估作為多維一體監(jiān)管體系中的重要一環(huán),可使算法推薦應(yīng)用達到安全可控和可釋透明的程度,進而強化對消費者知情權(quán)的保護。對此,為加快落實監(jiān)管體系,防范算法濫用帶來的風(fēng)險隱患,我國可構(gòu)建算法評估制度,要求算法推薦服務(wù)提供者定期評估算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置違反法律法規(guī)或者違背倫理道德的算法模型?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》在借鑒域外經(jīng)驗的基礎(chǔ)上,提出了事前監(jiān)管—算法評估制度的新路徑。具體而言,我國算法評估機制秉持結(jié)構(gòu)細分的設(shè)計思路,設(shè)置了自評估和第三方評估兩種方式。算法自評估要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者自我審查與算法相關(guān)的數(shù)據(jù)和機器模型,定期審核算法的機制機理,對算法進行風(fēng)險評估,使風(fēng)險能在源頭得到控制。其后,算法推薦服務(wù)提供者還應(yīng)當形成算法自評估報告,該報告作為算法備案的重要組成部分,是監(jiān)管機構(gòu)后續(xù)開展算法監(jiān)督管理的基礎(chǔ)。第三方評估是由監(jiān)管部門開展的,針對算法推薦服務(wù)的安全評估。為避免算法推薦技術(shù)損害社會公平、市場競爭和消費者權(quán)益,提高算法透明度和可解釋性,監(jiān)管部門應(yīng)聚焦算法的機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等內(nèi)容,重點評估算法在設(shè)計和投流環(huán)節(jié)的缺漏,深入分析算法推薦技術(shù)在應(yīng)用過程中產(chǎn)生的安全風(fēng)險,并提出治理對策,最終增強算法的可信度。

《管理規(guī)定》提出的算法評估制度是增強算法可信、管控算法風(fēng)險、實現(xiàn)算法安全可控的重要工具。但《管理規(guī)定》僅建構(gòu)出了算法評估的基本框架,尚未落實算法評估的具體程序和實施方案,使算法評估制度仍較難落地實施。對此,為落實算法評估的實施機制、明晰算法評估的各項措施,我國可以借鑒域外的算法影響評估模式,讓算法評估制度覆蓋算法開發(fā)、運行和投流的全周期,建立動態(tài)算法評估機制。具體而言,一方面,在算法系統(tǒng)投入部署應(yīng)用之前,對其可能產(chǎn)生的潛在不利影響和風(fēng)險進行評估,以確定是否能將該算法系統(tǒng)應(yīng)用于特定場景之中。另一方面,在算法系統(tǒng)投入應(yīng)用之后,還應(yīng)組織相關(guān)領(lǐng)域的專業(yè)評估人員定期對運行中算法系統(tǒng)存在的不利影響和風(fēng)險進行系統(tǒng)全面評估[15]。算法投入前評估和投入中的持續(xù)性評估能夠消弭算法運行中可能出現(xiàn)的算法偏見和算法歧視現(xiàn)象,從而保障消費者權(quán)益。除此之外,在評估完成后,相關(guān)主體還應(yīng)當制作算法評估報告,向消費者釋明算法自動決策可能帶來的風(fēng)險和給消費者造成的不利影響,并反饋緩解策略,保障消費者的知情權(quán),強化算法的透明度與可解釋性。

五、結(jié)語

數(shù)字經(jīng)濟興起以來,算法推薦技術(shù)作為戰(zhàn)略性資源喂養(yǎng)了商業(yè)市場中的各類互聯(lián)網(wǎng)平臺,并已能夠完整且成熟地參與到內(nèi)容生成、個性推送、排序精選等場景中,全面提升了消費者體驗。但與此同時,算法推薦技術(shù)也給消費者權(quán)益帶來了損害。算法推薦的有效實施依托于消費者數(shù)據(jù)和用戶標簽,但數(shù)據(jù)的過度收集與用戶標簽的濫用,很可能會泄露消費者個人信息,侵犯消費者的自主選擇權(quán)。同時,算法黑箱也有損消費者的知情權(quán)和公平交易權(quán)。對此,為消除算法推薦技術(shù)帶來的危害,各國嘗試了數(shù)據(jù)賦權(quán)、算法評估等多項措施。我國《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,對算法推薦框架下的消費者權(quán)益保護構(gòu)建了消費者數(shù)據(jù)保護機制、算法評估制度和合作治理路徑等措施,有力驅(qū)動了“算法善用”理念的推行。誠然《管理規(guī)定》建構(gòu)起了新型算法治理框架,但諸如消費者數(shù)據(jù)權(quán)利、算法評估制度和協(xié)同治理規(guī)則仍有待細化和完善。除此之外,在算法推薦快速滲透于商業(yè)領(lǐng)域的當下,算法推薦在給消費者權(quán)益帶來損害的同時,也給黑灰產(chǎn)業(yè)鏈提供了可乘之機。

技術(shù)是價值中立的,“算法”本身并無原罪。當前,算法等新技術(shù)已經(jīng)滲透進金融、醫(yī)療和互聯(lián)網(wǎng)等領(lǐng)域,成為助推企業(yè)數(shù)字化轉(zhuǎn)型和國家治理現(xiàn)代化的新動能。因此,構(gòu)建算法治理新機制,實現(xiàn)算法的良法善治是保障算法綜合治理工作有序推進的關(guān)鍵,也是推動數(shù)字經(jīng)濟高質(zhì)量發(fā)展的重中之重。對此,為合理利用算法技術(shù),保障消費者權(quán)益,我們應(yīng)當積極引導(dǎo)“科技向善”,實現(xiàn)更深層次的消費公平,塑造可持續(xù)的智慧社會。