大數(shù)據(jù)視域下的數(shù)據(jù)倫理與消費者保護

沈浩

編者按：金融科技與大數(shù)據(jù)的深度融合發(fā)展提升了金融機構的服務精準度和效率，為人們提供了更加靈活、便利、定制化的金融產(chǎn)品和服務，但同時也衍生出復雜多樣的金融科技倫理與監(jiān)管問題。面對嚴重依賴大數(shù)據(jù)的金融科技，如何才能確保數(shù)據(jù)的正當收集和使用，特別是做好金融消費者的保護。本文從宏觀層面分析數(shù)據(jù)倫理和大數(shù)據(jù)的發(fā)展、問題及應用，梳理國內外規(guī)制數(shù)據(jù)倫理的實踐和主要共識，并提出相關政策建議。

通俗來講，數(shù)據(jù)倫理是道德范疇與社會規(guī)范，定義了我們將做什么和不做什么，通過數(shù)據(jù)倫理能夠幫助我們確定相關的責任，促使行為向善。在大數(shù)據(jù)與人工智能蓬勃發(fā)展的當下，數(shù)據(jù)倫理與消費者保護的相關理論與研究受到了廣泛關注，其面臨的問題與挑戰(zhàn)也越發(fā)引起大家的關心和討論。為了厘清大數(shù)據(jù)視域下的數(shù)據(jù)倫理與消費者保護的相關問題和挑戰(zhàn)，本文從數(shù)據(jù)倫理的發(fā)展及應用視角，分析和探討大數(shù)據(jù)倫理下消費者保護所面臨的問題、大數(shù)據(jù)算法的效用、國內外建立數(shù)據(jù)倫理規(guī)制的實踐、數(shù)據(jù)倫理建設的主要共識等內容，并針對加強數(shù)據(jù)倫理與消費者保護方面給出了切實可行的建議。

大數(shù)據(jù)時代數(shù)據(jù)倫理的發(fā)展

作為倫理學的一個新分支，數(shù)據(jù)倫理學屬于道德哲學，聚焦于研究和評估涉及數(shù)據(jù)、智能算法及其相關聯(lián)的應用，以制定和支持道德上良好的解決方案（例如正確的行為或正確的價值觀），屬于應用倫理學中較為重要的部分。隨著大數(shù)據(jù)和人工智能技術的普及和發(fā)展，數(shù)據(jù)倫理受到了不同行業(yè)，特別是金融和銀行業(yè)的廣泛關注和討論。然而，在企業(yè)的發(fā)展和生產(chǎn)經(jīng)營中，匯集的用戶個人基礎信息、行為信息、消費數(shù)據(jù)信息、關聯(lián)關系信息，以及分析與加工后的潛在信息的相關規(guī)則與制度都較為模糊，缺乏具體的邊界。在對用戶提供服務的同時，伴隨著潛在的數(shù)據(jù)倫理道德危機，缺乏隱私數(shù)據(jù)保護、消費者權益保護的法律法規(guī)及監(jiān)管措施和政策。因此，人們逐漸認識到，法律和數(shù)據(jù)倫理道德有時并不是可以兼容并包的，智能化的技術和倫理道德的水平都能夠影響和評價社會發(fā)展的文明程度。社會呼吁企業(yè)在經(jīng)營獲利的同時，也要完善其大數(shù)據(jù)技術之上的數(shù)據(jù)倫理規(guī)范和應用標準，并履行其應有的企業(yè)道德和社會責任。

事實上，數(shù)據(jù)和信任是并行且相關聯(lián)的，獲得數(shù)據(jù)最大價值的核心方法就是將數(shù)據(jù)提供給最需要的人。因此，需要推動采用數(shù)據(jù)倫理原則，加強公眾信任和消解阻礙數(shù)據(jù)收集、共享和使用的力量，在道德準則、行業(yè)框架和政府法律法規(guī)之間取得更好的平衡。針對數(shù)據(jù)使用對不同群體的影響的研究表明，數(shù)據(jù)倫理問題涉及更廣泛的主題及非常實際的社會問題，通過踐行數(shù)據(jù)倫理有助于減輕無意中融入系統(tǒng)、政策和服務的負面影響和偏見，從而創(chuàng)造更公平的社會。

大數(shù)據(jù)倫理下消費者保護面臨的問題

消費者進行相關活動時產(chǎn)生的數(shù)據(jù)歸屬問題有待明確。消費者產(chǎn)生的海量消費及行為數(shù)據(jù)到底屬于服務提供的企業(yè)還是消費者本身;提供服務的相關企業(yè)和個人能夠獲取和存儲用戶的哪種數(shù)據(jù);是否能夠對數(shù)據(jù)脫敏加工后進行交易等等，這一系列問題歸根結底都屬于大數(shù)據(jù)的加工利用及交易范疇的問題，進一步說明了需要厘清消費者全過程數(shù)據(jù)的歸屬與責權，并引發(fā)了大數(shù)據(jù)倫理的問題。有些企業(yè)或服務提供商利用大數(shù)據(jù)算法的黑盒特性，無視法律和社會道德，借助智能算法及大數(shù)據(jù)殺熟等潛在手段，從不同特性的用戶身上攫取經(jīng)濟利益。

相關消費數(shù)據(jù)缺乏透明性，虛假數(shù)據(jù)泛濫。部分運營企業(yè)借助平臺和系統(tǒng)的隱蔽性，采用虛假的數(shù)據(jù)信息引導消費者進行消費，其中，較典型的包括企業(yè)通過人工智能手段對數(shù)據(jù)進行填充和偽造等行為制造誤導消費者的假象，如水軍刷單、生成虛假評價、刷排行榜等虛假手段對消費者進行欺騙和誘導。

相關法律法規(guī)有待完善，消費者疲于維權。盡管我國已制定了消費者隱私保護與數(shù)據(jù)保護的法律法規(guī)，但有些企業(yè)仍存在未經(jīng)授權非法采集或通過黑市及網(wǎng)絡交易平臺銷售消費者個人隱私數(shù)據(jù)的行為，且該行為較為隱蔽，即使消費者感知到相關行為后，由于法律法規(guī)的完善程度不足，消費者仍難以對自身進行有力保護。同時，在企業(yè)追逐利潤的前提下，大數(shù)據(jù)算法等智能技術已經(jīng)成為企業(yè)侵犯消費者權益的背后幫兇。另外，行業(yè)內自律與治理不足，導致整個行業(yè)缺乏有效監(jiān)管，難以發(fā)揮行業(yè)自身的監(jiān)管力量。由于大數(shù)據(jù)與人工智能算法的隱蔽性，即使消費者具有維權意識，仍存在取證難、溯源難、判定難等問題，耗費了消費者大量時間和財力，嚴重影響了消費者的生活。

大數(shù)據(jù)算法效用的雙面性帶來的問題。當前，隨著大數(shù)據(jù)和人工智能技術的快速發(fā)展，智能算法有效落地并得到應用。大數(shù)據(jù)算法已經(jīng)成為企業(yè)，特別是互聯(lián)網(wǎng)相關企業(yè)維挽用戶的強有力的工具和技術手段。通過大數(shù)據(jù)智能算法，企業(yè)能夠有效地提升管理效率和水平，為使用者提供多樣化、便利化和智能化的產(chǎn)品和服務。從技術層面講，大數(shù)據(jù)算法對于社會經(jīng)濟的發(fā)展作出了一定貢獻。從消費者層面講，大數(shù)據(jù)算法應用包括套餐服務、智能推薦、交叉銷售、增量銷售、動態(tài)評價、信用評級及搜索算法等，給消費者帶來了較大的便利性和實用性。然而，大數(shù)據(jù)與人工智能是一把“雙刃劍”，技術的普及與落地應用在為人們日常生活及科技的發(fā)展帶來了極大便利的同時，也暴露了大數(shù)據(jù)算法的倫理問題，給構建和諧社會與網(wǎng)絡治理帶來了巨大的挑戰(zhàn)。為管理大數(shù)據(jù)和人工智能帶來的風險和收益，我們需要超越人工智能決策的公平性和準確性。在技術層面，如過于追求數(shù)據(jù)和建模，就會產(chǎn)生削弱人類判斷、形成算法偏見、加深社會分歧等各種不良后果。在企業(yè)層面，為了追逐利益，企業(yè)利用大數(shù)據(jù)算法的不透明性，對消費者實施不同方面的違法、違規(guī)行為，典型的如大數(shù)據(jù)“殺熟”。企業(yè)通過挖掘不同時空區(qū)域、不同畫像，以及不同興趣與偏好的用戶信息進行區(qū)別定價，并結合復雜的促銷規(guī)則和算法混淆價格和優(yōu)惠，具有極其隱蔽的特性，給消費者的取證、維權帶來極大困難，部分算法黑箱還具有性別和種族歧視。因此，算法歧視與大數(shù)據(jù)殺熟已經(jīng)嚴重阻礙了社會的公平有序競爭，不利于市場經(jīng)濟的良性發(fā)展。在消費者層面，大數(shù)據(jù)算法是看不見、摸不著的“黑盒子”，不法企業(yè)實施其違法行為時，消費者難以及時發(fā)現(xiàn)且舉證困難，嚴重侵犯了用戶的知情權和公平選擇權，加深了企業(yè)和消費者之間的鴻溝。為了評估算法的風險和收益，我們需要研究其對人們生活的影響。

國內外建立數(shù)據(jù)倫理規(guī)制的實踐

國外數(shù)據(jù)倫理與隱私保護實踐

國外在數(shù)據(jù)倫理與隱私保護方面的法制建設起步較早，相關的法律法規(guī)、行業(yè)倫理規(guī)范和實踐標準較為完善，給全球的數(shù)據(jù)倫理與隱私保護制度的建設起到了引領與示范作用。典型的如歐盟設立了歐洲數(shù)據(jù)保護專員公署，美國成立了“大數(shù)據(jù)、倫理與社會理事會”等機構來保障和監(jiān)督消費者與用戶各項信息的安全。2018年5月和11月，歐盟分別發(fā)布了《通用數(shù)據(jù)保護條例》和《倫理與數(shù)據(jù)保護指引》，成為重要的用戶隱私保護法律，為數(shù)據(jù)倫理與數(shù)據(jù)保護提供了直接的指引，給出了具體的方向，引起了廣泛的關注。此外，歐盟的相關管理機構已將數(shù)據(jù)理論的相關工作作為機構的日常工作。2019年4月，歐盟發(fā)布了《可信人工智能倫理指南》，特別強調了針對人工智能相關的倫理及用戶的隱私保護。

近年來，國外嘗試通過“零方數(shù)據(jù)”，也就是通過尋求許可方式來收集更準確、相關和即時的，并與消費者興趣更匹配的數(shù)據(jù)方式。在算法上通過隱私技術、聯(lián)邦計算等模型算法，實現(xiàn)“可用不可見”的數(shù)據(jù)建模，在一定程度上形成了數(shù)據(jù)保護和數(shù)據(jù)私有，與此同時，企業(yè)也在不斷嘗試借助區(qū)塊鏈技術實現(xiàn)隱私保護。

我國數(shù)據(jù)倫理與隱私保護實踐

在我國，因人工智能、大數(shù)據(jù)、合成生物學等新興技術的快速興起帶來的很多不確定的倫理風險，也引起了我國對新興技術的科技倫理治理的日益重視并陸續(xù)出臺了相應的管理措施。2019年7月通過的《國家科技倫理委員會組建方案》和2020年5月通過的《中華人民共和國民法典》都對個人及相關的數(shù)據(jù)信息與應用方面作出了相應規(guī)定。2020年6月，《中華人民共和國數(shù)據(jù)安全法（草案）》提交全國人大常委會第一次審議。2020年10月，十九屆五中全會提出健全科技倫理體系。此外，針對算法偏見和歧視，我國于2022年3月實施了國家網(wǎng)辦等多個部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》。

數(shù)據(jù)倫理建設的主要共識

當前，發(fā)達國家的數(shù)據(jù)理論及消費者保護的相關法律和政策相對完善和健全，而且數(shù)據(jù)倫理方向的探索也在不斷更新和完善。國內外相關政策與法規(guī)大多集中于消費者用戶的個人隱私保護及數(shù)據(jù)保護，在數(shù)據(jù)倫理建設層面更加重視消費者隱私，并積極制定引導數(shù)據(jù)“向善”的管理與隱私保護的法律法規(guī)及道德規(guī)范。另外，相關的數(shù)據(jù)保護和數(shù)據(jù)倫理的行業(yè)標準、落地的實踐標準等也提出得較早，并受到越來越多的企業(yè)和消費者的關注。通過梳理目前數(shù)據(jù)理論與消防者保護的相關政策，可總結出如下幾點共識。

數(shù)據(jù)管理及大數(shù)據(jù)算法應是無偏、向善、公平的。數(shù)據(jù)的運營主體或相關企業(yè)對數(shù)據(jù)的包括采集、處理、加工、算法訓練等環(huán)節(jié)的全生命周期必須遵守數(shù)據(jù)的管理，不僅如此，大數(shù)據(jù)算法應遵循無偏、向善、公平的原則，不能因潛在的利益而忽視甚至完全違背該原則。不但要防范消費者大數(shù)據(jù)信息的不正當交易、未經(jīng)授權的信息共享，而且要注意數(shù)據(jù)使用中的算法歧視、算法偏見及大數(shù)據(jù)殺熟等影響消費者感知與體驗的問題。

數(shù)據(jù)管理和大數(shù)據(jù)算法應該明確其目標及邊界。大數(shù)據(jù)的智能分析與挖掘算法能夠創(chuàng)造潛在的價值和效益，而進行大數(shù)據(jù)運營的企業(yè)及個人因集聚了海量數(shù)據(jù)，進而擁有了相關的非法的和操縱作惡的潛在能力和基礎。因此，需要防范大數(shù)據(jù)運營企業(yè)的行業(yè)霸權和壟斷。另外，需要防止數(shù)據(jù)運營主體無限制地獲取消費者和用戶的數(shù)據(jù)，要樹立明確的目標及數(shù)據(jù)量的上下限，并需要防止企業(yè)對用戶大數(shù)據(jù)，尤其是隱私數(shù)據(jù)的隨意使用。推薦的做法是，對任何可能包括職業(yè)、性別、性取向、殘疾、身體體驗、體型、種族、宗教或與企業(yè)使命無關的任何事情都“零興趣”。

數(shù)據(jù)管理和大數(shù)據(jù)算法應保障算法可靠穩(wěn)定。面對海量的用戶和積累的海量數(shù)據(jù)，大數(shù)據(jù)運營主體需要保障大數(shù)據(jù)分析與處理技術的可靠性，保障算法的安全且不保留后門，流程與思路清晰合理，算法實現(xiàn)穩(wěn)定準確，以保障數(shù)據(jù)的可靠性、完整性及不可否認性等，防止數(shù)據(jù)受到威脅和篡改。

數(shù)據(jù)管理及大數(shù)據(jù)算法主體應了解并知情。需要保護并尊重用戶和消費者對數(shù)據(jù)的所享有的相關權利，特別是針對用戶的數(shù)據(jù)及用戶行為信息。消費者作為其主體，需要明確數(shù)據(jù)的相關使用與處理策略，尤其是涉及用戶隱私的相關策略，并給予用戶對于相關隱私協(xié)議和策略的選擇權利，且用戶應具備更改和停止的權利。

涉及用戶的相關大數(shù)據(jù)應受到合理的保護，并考慮大眾的公共權益。需要構建符合當前環(huán)境及政策的大數(shù)據(jù)保護機制，保障數(shù)據(jù)的完整信息，施行數(shù)據(jù)保護優(yōu)先原則，而不是利益優(yōu)先，當與法律法規(guī)及相關數(shù)據(jù)理論道德規(guī)定相沖突時，應當銷毀或者凍結相關數(shù)據(jù)。此外，各大數(shù)據(jù)運營主體應考慮大眾的公共權益，要杜絕危害國家和社會的現(xiàn)象，并重視相關公益數(shù)據(jù)的隱私保護，遵守相關公共權益的規(guī)范和守則。

加強數(shù)據(jù)倫理與消費者保護建議

近年來，隨著“互聯(lián)網(wǎng)+”政策的不斷推行，以數(shù)據(jù)為運營主體的相關行業(yè)和個人推動了我國的經(jīng)濟與技術發(fā)展。然而，在大數(shù)據(jù)和人工智能的驅動下，也隨之產(chǎn)生了一些負面的問題和影響，包括對涉及用戶隱私的數(shù)據(jù)的無限制采集、大數(shù)據(jù)算法的歧視和偏見、大數(shù)據(jù)殺熟，以及智能化的非法營銷方法等。當前，相關監(jiān)管政策與法規(guī)的發(fā)展速度跟不上技術的發(fā)展速度，消費者的隱私和權益保護受到了嚴峻挑戰(zhàn)。因此，在“互聯(lián)網(wǎng)+大數(shù)據(jù)”時代，加強數(shù)據(jù)倫理建設、構建消費者保護屏障具有重要的現(xiàn)實意義。

推進消費者保護的立法工作落地，促使消費者權益保護有章可循、有法可依。明確大數(shù)據(jù)及相關算法的作用范圍和使用機制，構建與時俱進的消費者及用戶數(shù)據(jù)的歸屬、數(shù)據(jù)獲取等相關規(guī)章制度與法律法規(guī)，厘清相關權利、義務的范圍與責任。吸取國外先進的數(shù)據(jù)倫理建設經(jīng)驗，制定官方的權威數(shù)據(jù)倫理標準規(guī)范、準則及規(guī)定，設置專業(yè)的數(shù)據(jù)倫理管理機構，并由其負責對大數(shù)據(jù)算法歧視、大數(shù)據(jù)殺熟等違法違規(guī)行為的管理與處置，強化對大數(shù)據(jù)倫理及算法應用落地監(jiān)管。簡化和完善維權和追責制度，強化和落實消費者權益的法律法規(guī)，對大數(shù)據(jù)算法歧視等問題進行嚴厲打擊。

強化數(shù)據(jù)倫理及消費者保護的多維度監(jiān)督，構建并健全可落地的消費者保護監(jiān)管體系。數(shù)據(jù)倫理建設需要國家管理機構、行業(yè)監(jiān)管機構、行業(yè)自律性團體、第三方數(shù)據(jù)服務商、大數(shù)據(jù)企業(yè)從業(yè)者、消費者等多維度、多元共治的數(shù)據(jù)治理體制機制，全力保障消費者的數(shù)據(jù)合法權益。大數(shù)據(jù)從業(yè)的主體機構和企業(yè)應該確保大數(shù)據(jù)算法的公正可信、可取證、透明和可追溯。并保證發(fā)生爭議和糾紛時，及時向相關的監(jiān)管部門和機構，以及公正的第三方機構提供相關的算法源程序、原理與涉及數(shù)據(jù)的說明，保障大數(shù)據(jù)算法的合理性、合法性和可追溯性。

普及大數(shù)據(jù)隱私保護教育，增強消費者保護和數(shù)據(jù)倫理意識。以消費者數(shù)據(jù)與隱私保護為抓手，通過網(wǎng)絡宣傳、大眾研討、線下推廣等方法，推進消費者數(shù)據(jù)倫理與隱私保護的普及教育，激發(fā)消費者自身對隱私保護、大數(shù)據(jù)倫理的關注和敏感性，強化其數(shù)據(jù)倫理的意識，積極參加大數(shù)據(jù)主體相關的數(shù)據(jù)處理、算法推薦及應用等全流程的監(jiān)管，構建行業(yè)及社會對數(shù)據(jù)倫理、消費者數(shù)據(jù)保護協(xié)同共治的意識和氛圍。

推動大數(shù)據(jù)主體機構完善敏感數(shù)據(jù)的全周期保護制度。對于從事大數(shù)據(jù)運營的相關企業(yè)和個人，要構建正確的數(shù)據(jù)倫理觀和消費者保護觀，并遵守從業(yè)道德，不逾越底線和紅線;在數(shù)據(jù)加工、消費者隱私保護、數(shù)據(jù)治理及數(shù)據(jù)管理等方面，要通過制定完善的大數(shù)據(jù)管理規(guī)章制度來平衡企業(yè)利益、數(shù)據(jù)倫理和消費者保護，并根據(jù)國內外最新的趨勢和發(fā)展，及時對相關的制度進行更新和完善，以保障制度符合相關形勢。

（作者系中國傳媒大學新聞學院教授、博士生導師，媒體與融合國家重點實驗室大數(shù)據(jù)中心首席科學家）

責任編輯：董 治