• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護的 困境及其應對
    ——兼評歐盟《一般數(shù)據(jù)保護條例》的相關規(guī)定

    2018-11-12 20:38:08付新華
    暨南學報(哲學社會科學版) 2018年12期
    關鍵詞:數(shù)據(jù)保護服務提供者界限

    付新華

    我們都曾經(jīng)是兒童。我們都希望孩子們幸福,這一直并將繼續(xù)是人類最普遍珍視的愿望。

    ——《我們兒童:世界兒童問題首腦會議后續(xù)行動十年期終審查》

    對兒童數(shù)據(jù)進行專門保護是大數(shù)據(jù)時代的一項世界性議題。兒童是當今時代一個非常龐大的網(wǎng)絡用戶群體,據(jù)國外研究顯示,世界上約有三分之一的網(wǎng)絡用戶是兒童。我國兒童網(wǎng)絡用戶群體亦非常龐大,截至2017年6月我國的網(wǎng)民規(guī)模達到了7.51億,其中兒童網(wǎng)民約為1.69億,占網(wǎng)民總數(shù)的23.1%。據(jù)青少年藍皮書《中國未成年人互聯(lián)網(wǎng)運用和閱讀實踐報告(2017—2018)》顯示,根據(jù)2017年底的調(diào)查數(shù)據(jù),被調(diào)查未成年人互聯(lián)網(wǎng)運用的總體普及率高達98.1%,10歲之前觸網(wǎng)的比例高達72.0%,比2010年的55.9%顯著增加,2017年底7歲(學齡前)觸網(wǎng)比例達到27.9%。小學生群體有自己手機的占比達到了64.2%,初中生為71.3%,高中生為86.9%??梢娢覈鴥和|網(wǎng)年齡呈低齡化趨勢。大數(shù)據(jù)時代,越來越多的網(wǎng)絡服務提供者開始收集、分析和使用兒童數(shù)據(jù),引發(fā)了兒童的數(shù)字身份失控、隱私風險增加和潛在的歧視傾向等問題,可能對兒童造成比成人更嚴重和持久的不良影響。當前的網(wǎng)絡治理規(guī)范存在以成人為中心(adult-centric)和不區(qū)分年齡層次的年齡通用(age-generic)問題,網(wǎng)絡服務提供者也往往忽略兒童的特殊保護需求。如何將線下的傳統(tǒng)道德標準適用于大數(shù)據(jù)時代的網(wǎng)絡環(huán)境,國內(nèi)外很少有明晰的理解和集中的研討。在對大數(shù)據(jù)越來越依賴的今天,兒童和兒童權利辯護者的聲音沒有得到足夠的重視。我國對大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護的研究也基本處于缺位狀態(tài)。2016年4月歐盟通過了《一般數(shù)據(jù)保護條例》(2016/679)(本文簡稱“GDPR”),序言第38條明確指出需要對兒童數(shù)據(jù)給予特殊保護,因為兒童可能較少意識到有關的風險、后果、保障措施及相關權利。GDPR自頒布以來,其法律適用的效力等問題受到了很多學者的關注,但在兒童數(shù)據(jù)保護方面,則很少被探討和論爭。有鑒于此,本文將從兒童的特殊性出發(fā),探討大數(shù)據(jù)時代保護兒童數(shù)據(jù)的現(xiàn)實必要性,圍繞兒童數(shù)據(jù)法律保護的困境及其應對展開討論,并對歐盟GDPR的相關規(guī)定進行評析,以期為我國《未成年人網(wǎng)絡保護條例》的正式出臺提供參考借鑒。

    一、兒童數(shù)據(jù)法律保護的必要性與兩大困境

    (一)兒童數(shù)據(jù)法律保護的現(xiàn)實必要性

    大數(shù)據(jù)為兒童帶來許多益處的同時也帶來了諸多負面效應。一方面數(shù)據(jù)科學的發(fā)展對兒童的發(fā)展保護、成長參與及獲得服務等方面產(chǎn)生了積極影響。另一方面大數(shù)據(jù)也給兒童帶來了數(shù)字身份失控、在線隱私風險增加及潛在歧視傾向等負面問題,由此產(chǎn)生了大數(shù)據(jù)時代收集、分析和處理兒童數(shù)據(jù)的合法性問題。兒童能否受益于大數(shù)據(jù)的發(fā)展,取決于我們對待潛在風險的態(tài)度和采取的保護措施。

    1.數(shù)字身份失控和數(shù)據(jù)持久性

    數(shù)字身份是“通過一系列社交媒體工具創(chuàng)建的跨多個在線平臺的身份合并”。大數(shù)據(jù)時代構成兒童數(shù)字身份的參與者包括數(shù)據(jù)提供者和對數(shù)據(jù)進行收集、分析、使用的網(wǎng)絡服務提供者。網(wǎng)絡生活早已成為兒童日常生活的一部分,很多網(wǎng)絡活動已經(jīng)在一定程度上取代了傳統(tǒng)的線下社交、娛樂與學習方式,兒童經(jīng)常在網(wǎng)絡社交媒體等平臺上分享個人動態(tài)、照片和位置等信息,這樣的網(wǎng)絡活動幾乎伴隨著兒童的成長。這意味著網(wǎng)絡服務提供者不僅可以獲得兒童上網(wǎng)的實時數(shù)據(jù),還可以獲得兒童的成長歷程數(shù)據(jù)。從兒童數(shù)據(jù)提供者的角度來看,兒童本人及其家人、同學、朋友等網(wǎng)絡用戶均可能上傳有關兒童的個人數(shù)據(jù)(文字描述、照片、視頻等)。其他網(wǎng)絡用戶提供的信息可能比兒童本人提供的信息對其產(chǎn)生的影響更大,例如許多父母經(jīng)常在社交媒體等網(wǎng)站中“曬娃”??梢哉f,兒童及其父母對這些數(shù)據(jù)對兒童人格聲譽、未來發(fā)展的不利影響尚缺乏足夠認識。

    大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)、人工智能等數(shù)據(jù)科學的發(fā)展使得數(shù)據(jù)的收集、保存和分析更為容易,越來越多的網(wǎng)絡服務提供者出于商業(yè)目的收集、分析和處理兒童數(shù)據(jù)。網(wǎng)絡服務提供者除了收集兒童數(shù)據(jù)供自身使用外,往往還會將其收集的兒童數(shù)據(jù)傳輸或出售給其他網(wǎng)絡服務提供者。聯(lián)合國兒童基金會研究中心倫理顧問加布里埃爾·伯曼(Gabrielle Berman)等兒童權利專家對此表示了擔憂:“從兒童身上收集的網(wǎng)絡數(shù)據(jù)可能在未來不確定的時刻,被網(wǎng)絡服務提供者用不確定的算法用于不確定的客戶端,以創(chuàng)建兒童所不知道的數(shù)字身份。”大數(shù)據(jù)時代,網(wǎng)絡服務提供者是構建兒童數(shù)字身份的重要參與者,兒童數(shù)字身份極易被其擴散和傳播,兒童及其父母正逐漸失去對兒童數(shù)字身份的控制。管理數(shù)字身份對成年人來講即非易事,對于兒童則更加困難。

    網(wǎng)絡數(shù)據(jù)還具有持久性特點,一旦產(chǎn)生便很難徹底刪除。對于人類的大腦記憶而言,遺忘是常態(tài),記憶是例外;數(shù)字時代,記憶與遺忘發(fā)生了反轉(zhuǎn),記憶成為常態(tài),遺忘成為例外。GDPR第17條規(guī)定了被遺忘權,旨在賦予大數(shù)據(jù)時代數(shù)據(jù)主體要求數(shù)據(jù)控制者刪除不適當?shù)膫€人數(shù)據(jù)的權利,被遺忘權被認為尤其有利于兒童。雖然數(shù)據(jù)的持久性特點對兒童和成人均會產(chǎn)生影響,但由于兒童的心智尚未成熟,風險意識和理解能力較差,這些數(shù)據(jù)對兒童的數(shù)字身份有著更為重要的意義。一面是失控的數(shù)字身份,一面是持久存在的網(wǎng)絡數(shù)據(jù),二者均為大數(shù)據(jù)時代兒童數(shù)據(jù)的收集、分析和處理等行為帶來了合法性的倫理挑戰(zhàn)。

    2.隱私風險增加與潛在歧視傾向

    隨著物聯(lián)網(wǎng)技術的快速發(fā)展,各種兒童智能聯(lián)網(wǎng)設備層出不窮,如嬰兒監(jiān)視器、智能玩具、智能電話手表等,但其隱私安全設置卻往往存在漏洞,黑客利用這些漏洞可以跟蹤、監(jiān)視兒童的行為,嚴重侵害兒童隱私,甚至威脅兒童的人身安全。目前,我國許多家庭都安裝了嬰兒監(jiān)視器以隨時了解孩子的行為和狀態(tài),確保孩子的安全。然而,研究人員發(fā)現(xiàn)嬰兒監(jiān)視器并不安全,其中存在大量的安全漏洞可能被不法人員利用,對兒童和家庭隱私造成嚴重威脅。智能玩具上的傳感器、麥克風、攝像頭、存儲設備、語音識別技術、互聯(lián)網(wǎng)連接和GPS等被用來記錄兒童的聲音和行為信息,并以此來調(diào)整與孩子的互動內(nèi)容,成為不法分子竊取用戶信息的新通道。近年來,香港偉易達集團、美國費雪集團、美國KGPS公司等智能玩具廠商均發(fā)生了大規(guī)模兒童信息泄露事件,例如,香港偉易達集團2015年曾致使全球600萬兒童和400萬家長的用戶身份、賬戶密碼、密保問題和答案在內(nèi)的海量用戶信息遭到泄露。2017年,德國聯(lián)邦網(wǎng)絡管理局宣布在德國境內(nèi)下架一款美國生產(chǎn)的“凱拉”玩具,該玩具裝有攝像頭和麥克風,可以聯(lián)網(wǎng)傳輸數(shù)據(jù)并在用戶未察覺的情況下上傳兒童數(shù)據(jù),嚴重威脅兒童隱私和安全。兒童智能電話手表近年來深受我國家長的歡迎,然而兒童電話手表同樣存在巨大的安全問題。通過兒童電話手表黑客可以很容易地監(jiān)聽兒童的通話、跟蹤兒童的位置,因此,德國聯(lián)邦網(wǎng)絡管理局已在德國境內(nèi)禁售電話手表。我國兒童智能聯(lián)網(wǎng)設備的開發(fā)商大多是新興創(chuàng)業(yè)團體,沒有意識也沒有能力構建穩(wěn)健的兒童數(shù)據(jù)保護機制,經(jīng)常以明文形式存儲或傳輸兒童數(shù)據(jù),為兒童隱私和數(shù)據(jù)安全埋下了巨大隱患。數(shù)據(jù)挖掘技術將智能聯(lián)網(wǎng)設備收集和傳輸?shù)膬和瘮?shù)據(jù)聚合起來加以分析,在網(wǎng)上創(chuàng)建兒童的身份信息和詳細檔案,使保護兒童在線隱私的形勢更加嚴峻。

    大數(shù)據(jù)分析還可能引發(fā)對兒童的潛在歧視和不公平待遇。美國少年司法系統(tǒng)已開始應用大數(shù)據(jù)和算法來預測“危險青年”以減少少年犯再犯的可能,算法的非透明性導致這種預測很可能存在歧視傾向,并且很難被發(fā)現(xiàn)和評估。美國普林斯頓大學信息技術政策研究中心研究員梭倫·巴羅卡(Solon Barocas)總結了大數(shù)據(jù)挖掘可能引起潛在歧視的三種情形:一是采用不透明的算法定義某些群組(如地理位置或健康概況)可能導致難以辨別的有意識歧視;二是采用缺乏代表性的數(shù)據(jù)導致結論不準確,如特定樣本中邊緣化群體的比例失實(不足或過多);三是由于過度依賴特定數(shù)據(jù)來源進行決策造成的歧視。因此,在信息不對稱或數(shù)字鴻溝日益擴大的時代,采用不透明的算法、有偏見的分類及無代表性的數(shù)據(jù)均可能導致歧視或不公平待遇。

    綜上,大數(shù)據(jù)時代兒童數(shù)字身份失控、數(shù)據(jù)持久性、隱私風險增加和潛在歧視傾向等問題,帶來了兒童數(shù)據(jù)收集、分析、使用的合法性挑戰(zhàn),亟須對兒童的個人數(shù)據(jù)進行法律保護。

    (二)兒童數(shù)據(jù)法律保護的兩大困境

    由于兒童的特殊性,兒童數(shù)據(jù)的法律保護需綜合考量兒童的成熟度和不同網(wǎng)絡場景等因素來決定是否賦予其自我決策的權利。荷蘭學者米爾達·馬賽納特(Milda Macenaite)指出大數(shù)據(jù)時代兒童數(shù)據(jù)的法律保護面臨兩大困境:“賦權與保護”困境和“個性化與平均年齡”困境。雖然這兩大困境在兒童權利法中早有體現(xiàn),但大數(shù)據(jù)時代使其有了新的含義和語境。

    1.“賦權與保護”困境(Empowerment vs protection)

    “賦權與保護”是大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護面臨的首要困境?!堵?lián)合國兒童權利公約》(下文簡稱“UNCRC”)中的保護性條款與賦權性條款之間存在一定的緊張關系。保護性條款是針對兒童的脆弱性、依賴成年人和需要身心照顧等特點對其進行行為干預的保護性規(guī)定,如國家干預、父母干預等;賦權性規(guī)定是因為兒童處于不斷成長和發(fā)展中,具有“不斷發(fā)展的能力”(the involving capacity),理解力和成熟度會隨著年齡的增長逐漸提高,因此需要賦予其自我決策與參與的權利,如自由表達思想和發(fā)表言論等接近成年人的權利。保護性規(guī)定與賦權性規(guī)定之間的沖突表現(xiàn)在兩方面:一方面,從兒童的最大利益出發(fā),往往需要賦予兒童自我決策與參與的權利,但兒童作為“成人干預的受益者”和“自我決策的代理人”之間存在一定的矛盾。換言之,如果賦權性規(guī)定過多,可能會導致對兒童的保護不力;如果保護性規(guī)定過多,則可能限制兒童的自我決策權等賦權性利益。另一方面,“賦權與保護”困境不能被徹底消除,只能在“賦權”與“保護”之間尋求一定的平衡。因此,如何平衡兩者之間的關系,在給予兒童充分保護的同時避免過度保護是兒童權利法最大的難題。

    大數(shù)據(jù)時代,兒童數(shù)據(jù)法律保護面臨的“賦權與保護”困境形勢更加嚴峻。大數(shù)據(jù)時代給兒童帶來的利益和風險同步增加,但由于其知識水平和認知能力的局限,對風險往往缺乏認識。網(wǎng)絡生活已經(jīng)成為兒童日常生活必不可少的一部分,他們通過網(wǎng)絡獲取各種各樣的信息,不斷學習成長,因此有必要賦予兒童上網(wǎng)和決策相關事務的權利;同時,大數(shù)據(jù)時代的兒童面臨著數(shù)字身份失控、隱私風險增加和潛在歧視傾向等問題,亟須對兒童的數(shù)據(jù)權利進行保護。可以說,“賦權與保護”困境是大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護面臨的最大挑戰(zhàn)。

    2.“個性化與平均年齡”困境(Individual vs average age)

    “個性化與平均年齡”困境部分來源于“賦權與保護”困境。兒童的成熟度評估可以幫助解決“賦權與保護”困境面臨的部分問題,即對達到一定成熟度的兒童賦予其自我決策的權利,對未達到一定成熟度的兒童給予一定的保護。目前,對兒童進行成熟度評估主要有兩種方法,一是劃定一個明確的年齡界限作為所有兒童是否成熟的分界線,二是對每個兒童的成熟度進行個性化的評估。從法律適用的角度來看,采用明確的年齡界限可以限制司法者的自由裁量權且執(zhí)行起來更為容易,但也容易造成“一刀切”,忽視兒童的個體差異。人類學家瑪麗·道格拉斯也認為:“為了滿足社會對清晰度和一致性的要求,人們經(jīng)常努力劃定一條年齡界限以確定孩子是否具有完全法律能力,然而這通常是人為的和武斷的。”事實上,即使是相同年齡的兒童,由于先天和后天環(huán)境等因素的影響,各方面能力的差異往往很大,因此,對每個兒童進行個性化評估可以更好地照顧到能力較強兒童從事相關活動的需求。然而,對每一個兒童的成熟度逐一進行個案評估,執(zhí)行起來會非常困難,也會對網(wǎng)絡服務提供者造成過度的負擔。因此,如何處理“個性化”和“平均年齡”之間的關系是大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護面臨的另一困境。

    二、歐盟GDPR的困境應對及其局限

    歐盟《個人數(shù)據(jù)保護指令》(95/46/EC)(下文簡稱《95指令》)制定于1995年,當時的網(wǎng)絡環(huán)境對個人數(shù)據(jù)的收集和利用沒有如今這么普遍,因此《95指令》沒有針對兒童數(shù)據(jù)保護的特殊規(guī)定。大數(shù)據(jù)時代,網(wǎng)絡服務提供者為了商業(yè)目的,采用追蹤兒童軌跡、對兒童進行數(shù)字畫像、精準廣告等方式挖掘和利用兒童的商業(yè)價值,使得兒童的數(shù)據(jù)和隱私保護問題變得更加突出。歐盟充分認識到大數(shù)據(jù)時代保護兒童數(shù)據(jù)權利的迫切性,2016年通過了GDPR,為解決大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護的兩大困境作出了努力,具有一定的進步意義,但仍存在一定的問題。

    (一)GDPR對“賦權與保護”困境的應對與局限

    1. GDPR的賦權性規(guī)定

    GDPR的賦權性規(guī)定主要包括數(shù)據(jù)透明權(第12條)、數(shù)據(jù)訪問權(第15條)、數(shù)據(jù)更正權(第16條)、被遺忘權(第17條)、數(shù)據(jù)可攜權(第20條)等。上述權利對兒童與成年人同樣適用,其中,數(shù)據(jù)透明權、數(shù)據(jù)可攜權和被遺忘權被認為特別與兒童相關。

    (1)數(shù)據(jù)透明權(Right to data transparency)

    GDPR第12條規(guī)定,數(shù)據(jù)透明權即數(shù)據(jù)控制者應采取適當措施以簡潔、透明、易理解和易于訪問的形式提供任何關于處理數(shù)據(jù)主體的信息,特別是與兒童相關的信息。數(shù)據(jù)透明權是數(shù)據(jù)主體行使其他數(shù)據(jù)權利的前提,對數(shù)據(jù)主體而言具有重要意義。GDPR序言第58條也特別指出,應“以兒童易理解的簡潔語言”向兒童提供信息。實踐中如何以兒童可以理解的方式實施透明條件是數(shù)據(jù)控制者面臨的一個現(xiàn)實挑戰(zhàn)。

    (2)數(shù)據(jù)可攜權(Right to data portability)

    根據(jù)GDPR第20條,數(shù)據(jù)可攜權是數(shù)據(jù)主體有權以結構化、常用和機器可讀的格式將其個人數(shù)據(jù)從一個數(shù)據(jù)控制者轉(zhuǎn)移到另一個數(shù)據(jù)控制者的權利。該權利不適用于數(shù)據(jù)控制者為履行公共利益或行使官方權力所進行的必要處理;該權利的行使不得對他人的權利和自由產(chǎn)生不利影響。數(shù)據(jù)可攜權有助于增強大數(shù)據(jù)時代的個人數(shù)據(jù)控制權,促進數(shù)據(jù)控制者之間的自由競爭,并有助于實現(xiàn)兒童網(wǎng)絡平臺的多元化和兒童隱私保護方案的迭代升級。但數(shù)據(jù)可攜權可能觸及網(wǎng)絡巨頭公司的利益,執(zhí)行起來會面臨一定的現(xiàn)實挑戰(zhàn),更由于相關巨頭公司在該領域的壟斷地位,使該權利對兒童的現(xiàn)實意義也大打折扣。

    (3)被遺忘權(Right to be forgotten)

    被遺忘權是GDPR最突出的賦權性規(guī)定。GDPR第17條規(guī)定了被遺忘權的具體內(nèi)容:當存在目的不再、撤回同意、期限屆滿、非法處理或違反父母同意等情況,數(shù)據(jù)主體有權要求數(shù)據(jù)控制者及時刪除有關的個人數(shù)據(jù);當數(shù)據(jù)控制者已經(jīng)公開個人數(shù)據(jù),則有責任根據(jù)數(shù)據(jù)主體的請求刪除個人數(shù)據(jù);數(shù)據(jù)控制者應當考慮可行技術與執(zhí)行成本,采取包括技術措施在內(nèi)的合理措施告知正在處理個人數(shù)據(jù)的其他數(shù)據(jù)控制者,要求其刪除與個人數(shù)據(jù)相關的鏈接、備份或復制件。網(wǎng)上的數(shù)據(jù)自產(chǎn)生之日起,即可被所有人搜索和訪問,卻很難被徹底刪除,被遺忘權就是為了解決數(shù)據(jù)的持久性與人類遺忘本性之間的矛盾而提出的。被遺忘權相關的法律理論研究已進行了數(shù)年,該權利自誕生之日起即在大西洋兩岸引起廣泛爭論,被認為是“隱私與自由”之爭。雖然被遺忘權對于成人與兒童同樣適用,但該權利尤其旨在保護網(wǎng)絡環(huán)境下的兒童,原因在于“兒童在同意個人數(shù)據(jù)收集時,并沒有充分認識到數(shù)據(jù)被收集的后果危險性”。因此,被遺忘權對于兒童要求刪除數(shù)據(jù)的請求給予重點保護,允許兒童刪除可能損害他們聲譽的個人數(shù)據(jù),即使該兒童請求行使該權利時已經(jīng)成年。但也有學者指出,兒童適用被遺忘權可能會面臨“隨著時間的推移,一個不知名的兒童可能成為一個公眾人物,其個人數(shù)據(jù)可能由私人數(shù)據(jù)(值得刪除)轉(zhuǎn)變?yōu)楣矓?shù)據(jù)(值得保留)”的問題。對于這種情況應當如何處理,GDPR沒有規(guī)定。

    2. GDPR的保護性規(guī)定

    GDPR的保護性規(guī)定主要包括禁止數(shù)字畫像、設計和默認的數(shù)據(jù)保護和父母同意三個方面。

    (1)禁止數(shù)字畫像(Prohibition of profiling)

    GDPR第4條將數(shù)字畫像(profiling)定義為與自然人相關的某些個人情況,特別是為了分析或預測該自然人的工作表現(xiàn)、經(jīng)濟狀況、健康狀況、個人偏好、興趣、可信度、行為、位置或行蹤,而對個人數(shù)據(jù)進行的任何形式的自動化處理和利用。正如有學者所言,數(shù)字畫像這一概念被普遍認為能夠覆蓋目前大多數(shù)利用個人數(shù)據(jù)的大數(shù)據(jù)分析和營銷活動,如對個人偏好的分析。GDPR允許對成人進行數(shù)字畫像,前提是獲得數(shù)據(jù)主體的同意或基于合同及法律的明確授權。這樣的前提性規(guī)定將對企業(yè)造成巨大的合規(guī)負擔,不利用企業(yè)的市場分析和營銷活動。同時,GDPR禁止針對兒童的數(shù)字畫像,序言第38條指出兒童值得特殊保護以避免營銷和數(shù)字畫像等數(shù)據(jù)處理活動;序言第71條則特別表明基于數(shù)字畫像的自動決策不應包括兒童。為達到禁止針對兒童數(shù)字畫像的目的,GDPR要求網(wǎng)絡服務提供者通過技術手段對兒童和成人進行識別。雖然利用現(xiàn)代畫像和數(shù)據(jù)挖掘技術可以推斷用戶是否是兒童,但要可靠地辨別在線用戶是成人或是兒童仍然非常困難。假若嚴格落實禁止所有關于兒童的數(shù)字畫像,網(wǎng)絡服務提供者識別兒童的義務將非常繁重,并可能導致數(shù)據(jù)的過度收集,對兒童和成人的在線隱私造成更大威脅。因此禁止所有關于兒童的數(shù)字畫像存在一定的執(zhí)行困難。

    (2)設計和默認的數(shù)據(jù)保護(Data protection by design and by default)

    GDPR第25條規(guī)定,考慮到技術現(xiàn)狀、執(zhí)行成本、處理的性質(zhì)、范圍、目的以及處理給自然人權利和自由造成的風險,控制者在確定處理手段時或在處理過程中都應采取適當?shù)募夹g和組織措施保護用戶的個人數(shù)據(jù),應確保在默認情況下不允許其他自然人訪問個人數(shù)據(jù)。設計和默認的數(shù)據(jù)保護要求網(wǎng)絡服務提供者將數(shù)據(jù)保護的理念融入產(chǎn)品和服務設計的最初階段,各種兒童智能聯(lián)網(wǎng)設備如果能做到這一點,將極大降低兒童的在線隱私風險。但如何對網(wǎng)絡服務提供者進行有效監(jiān)管是實際應用中的難點,確保網(wǎng)絡服務提供者采用隱私友好型的默認設置并在其違反該設置時實施相應的懲罰措施是監(jiān)管部門需要努力解決的問題。

    (3)父母同意(Parental consent)

    GDPR第8條規(guī)定,網(wǎng)絡服務提供者在收集或處理不滿16周歲兒童的個人數(shù)據(jù)之前,需要取得其父母的同意或授權,成員國可以設定更低的年齡界限,但不能低于13周歲。該規(guī)定“旨在保護兒童,防止其在沒有充分意識到后果的情況下分享數(shù)據(jù)”。父母同意是GDPR關于兒童數(shù)據(jù)保護最重要的規(guī)定,也是爭論最大的一項規(guī)定。首先,父母同意的適用范圍非常廣泛,所有類型的網(wǎng)絡服務都需要得到家長的同意,過多的同意請求不僅會導致父母的“同意疲勞”,也會限制兒童的網(wǎng)絡活動和發(fā)展機會。其次,GDPR關于年齡界限的規(guī)定缺乏實證根據(jù),沒有建立在實證調(diào)研和影響評估的基礎上,允許成員國設定更低的年齡界限具有明顯的隨意性,會增加網(wǎng)絡運營商的合規(guī)負擔,不利于數(shù)字化單一市場的發(fā)展。最后,父母同意以年齡為分界線,沒有考慮到兒童“不斷發(fā)展的能力”和被傾聽的權利,與UNCRC和歐盟《基本權利憲章》(下文簡稱《憲章》)中關于認真聽取和對待兒童意見的規(guī)定相違背。

    生長在網(wǎng)絡時代的兒童雖然可能比他們的父母更精通網(wǎng)絡,但如果樂觀地認為有能力使用網(wǎng)絡工具的兒童也能明確地理解網(wǎng)絡服務商的服務條款和后續(xù)使用的意義顯然是不恰當?shù)?。兒童對網(wǎng)絡服務提供商的服務條款和法律術語往往缺乏理解力,對網(wǎng)絡數(shù)據(jù)的持久性和數(shù)據(jù)的收集、分析、使用、銷售等行為缺乏認識,對網(wǎng)絡上很難刪掉的cookies等網(wǎng)絡瀏覽器的追蹤插件更缺乏足夠的警惕。這些對于成年人難以做到的事情,對于兒童來說更加困難,因此,父母同意仍然是必要的。

    GDPR的父母同意在實踐中面臨兩個重要挑戰(zhàn):一是保證用戶年齡的可驗證性,正如有學者所言:“父母同意的規(guī)定能否成功實施取決于能否開發(fā)出低成本的年齡驗證程序?!?span id="j5i0abt0b" class="footnote_content" id="b7038c2354ca990f8c1b46dd4293ecb8" style="display: none;">See Karen Mc Cullagh, “The General Data Protection Regulation: A Partial Success for Children on Social Network Sites?”, , 2017, p.131. 二是如何提高父母的數(shù)字素養(yǎng),數(shù)據(jù)和資料顯示很多父母的數(shù)字素養(yǎng)不如自己的孩子,有的父母自身都不能理解專業(yè)化的服務條款和法律術語,讓此類父母決定孩子是否可以上網(wǎng)意義不大。而且,父母和孩子可能存在關于社交媒體作用和風險的分歧,成年人并不總能理解技術與年輕人之間積極和復雜的相互作用。父母的“曬娃”等行為還可能侵犯孩子的隱私。

    表面來看,GDPR的賦權性規(guī)定很多,保護性規(guī)定很少,仔細研究卻發(fā)現(xiàn), GDPR中賦權性規(guī)定的所有條款普遍適用于所有年齡的自然人,只有保護性規(guī)定才專門適用于兒童。GDPR第8條嚴格的父母同意,既沒有區(qū)分不同的網(wǎng)絡場景,也沒有明確父母決策時兒童意見的權重,可能演變?yōu)楦改浮氨Wo霸權”,破壞了“賦權”與“保護”之間的平衡。

    (二)GDPR對“個性化與平均年齡”困境的應對與局限

    劃定明確的年齡界限還是進行個性化評估,不僅是兒童數(shù)據(jù)保護法面臨的挑戰(zhàn),也是傳統(tǒng)法律領域共同面臨的挑戰(zhàn)。GDPR最終選擇劃定明確的年齡界限作為判斷兒童是否有能力自我決策的標準:達到年齡界限的兒童被視為有能力同意處理他們的個人數(shù)據(jù),低于年齡界限的兒童被視為缺乏同意處理其個人數(shù)據(jù)的能力,并由父母負責給予或拒絕同意。GDPR將需要父母同意的年齡門檻設定為16周歲,允許成員國設定更低的年齡界限,但不能低于13周歲。GDPR關于需要父母同意的年齡界限規(guī)定可謂一波三折,最初議案與UNCRC一致,將需要獲得父母同意的年齡門檻設置為18周歲,遭到網(wǎng)絡社交媒體等行業(yè)代表的極大反對。Facebook等行業(yè)代表認為將需要父母同意的年齡設置為18周歲明顯過高,不利于數(shù)字市場的發(fā)展,而且違反了UNCRC關于兒童的參與權與自我決策權的相關規(guī)定,將嚴重限制青少年上網(wǎng)的權利。為此,歐盟委員會將需要父母同意的年齡界限修改為13周歲,與美國《兒童網(wǎng)絡隱私保護法案》(本文簡稱“COPPA”)中關于需要父母同意的年齡界限一致。修改方案一出,受到互聯(lián)網(wǎng)行業(yè)尤其是網(wǎng)絡社交媒體行業(yè)的熱烈歡迎,但批評者認為GDPR對年齡界限的設定過于隨意,有效仿美國之嫌,沒有建立在實證調(diào)查和研究的基礎上。最終,歐盟出人意料地將需要父母同意的年齡界限修改為目前的16周歲,并賦予成員國設定更低年齡界限的權力。

    GDPR設定明確年齡界限的做法,可能存在一定的問題。首先,設定年齡界限的做法忽略了兒童的個性化發(fā)展,限制了年齡較大青少年的參與權和自我決策權。不同年齡的兒童能力差異較大,即使相同年齡的兒童,因其生長環(huán)境不同,能力差異也非常大。因此個案評估能夠區(qū)分兒童的能力層次,實現(xiàn)兒童利益的最大化。其次,由于潛在隱私風險的不同,兒童行使自我決策權也應該根據(jù)隱私風險等級區(qū)別對待。例如,兒童發(fā)送即時通信的郵件和消息等可能不需要父母同意,而創(chuàng)建社交媒體賬戶則需要父母同意。立法者應從社會科學和行為科學領域收集證據(jù)來驗證給定的年齡限制,不同的數(shù)據(jù)收集實踐和年齡跨度可能需要進行詳細的測試和研究。

    GDPR關于兒童數(shù)據(jù)保護的規(guī)定,在原則上與UNCRC和歐盟《憲章》是一致的,但仍有一些現(xiàn)實問題未得到解決。第一,允許各成員國設定更低的年齡門檻意味著跨越歐盟各國之間的網(wǎng)絡協(xié)調(diào)和監(jiān)管將不再統(tǒng)一和簡化。第二,設定明確年齡界限的做法忽略了兒童的個性化發(fā)展,限制了年齡較大青少年的參與權和自我決策權。第三,父母同意和年齡界限的規(guī)定能否具體落實,取決于能否推出有效且低成本的在線年齡驗證機制。第四,GDPR保護性規(guī)定的實施還依賴于家長的數(shù)字素養(yǎng),雖然GDPR規(guī)定了提高父母和兒童數(shù)字素養(yǎng)的措施,但實踐效果如何還有待觀察。第五,制定政策時兒童自己的意見也應考慮進來。因此,可以說GDPR針對《95指令》的改進只是部分成功。

    三、破解之道:兒童數(shù)據(jù)法律保護兩大困境的解決思路

    破解兒童數(shù)據(jù)法律保護的兩大困境應以差異化的父母同意方式取代嚴格的父母同意,以平衡“賦權”與“保護”之間的沖突;以一定年齡界限基礎上的個性化評估取代平均年齡的單一規(guī)定,以實現(xiàn)“個性化”與“平均年齡”的結合。此外,網(wǎng)絡治理機構應加強數(shù)據(jù)周期內(nèi)利益相關者的共同協(xié)作與對話,不斷尋求更好的兒童數(shù)據(jù)保護方案。

    (一)“賦權”與“保護”的平衡:基于不同風險等級的差異化父母同意方式

    GDPR未區(qū)分不同網(wǎng)絡場景和風險等級的父母同意,會造成父母的“同意疲勞”和對兒童的過度保護,打破“賦權”與“保護”之間的平衡,不利于兒童最大利益的實現(xiàn)。因此,為實現(xiàn)兒童的最大利益,應根據(jù)不同場景對不同隱私風險等級的兒童數(shù)據(jù)采取不同程度的父母同意方式。

    歐盟GDPR第35條對數(shù)據(jù)保護影響評估進行了規(guī)定,為可能引發(fā)高風險的數(shù)據(jù)處理行為設定了額外的附加義務,并豁免了低風險數(shù)據(jù)處理行為的部分義務。但該項規(guī)定只是“在傳統(tǒng)的合法授權事由框架下提升了用戶同意形式方面的要求,繼續(xù)強化了傳統(tǒng)知情同意框架”,并未從保護用戶的角度,針對不同場景、不同隱私風險提出不同的保護標準。更為關鍵的是,GDPR并未將隱私風險等級評估適用于兒童數(shù)據(jù)保護的父母同意。相比較而言,美國的COPPA則認識到不是所有網(wǎng)絡活動都需要嚴格的父母同意,通過對不同網(wǎng)絡場景劃分風險等級規(guī)定不同程度的父母同意方式:首先,最小風險的網(wǎng)絡服務無須得到父母的同意,如沒有互動或不共享兒童數(shù)據(jù)的網(wǎng)絡服務;其次,中等風險的網(wǎng)絡服務則采用較寬松的同意形式,如網(wǎng)絡服務商僅在內(nèi)部使用兒童數(shù)據(jù)且不向第三方披露或公開時,可以向父母發(fā)送電子郵件,并在收到父母同意的回復后方可確認使用;最后,最高風險等級的網(wǎng)絡服務必須符合最嚴格的同意機制,如向第三方披露兒童數(shù)據(jù)、行為廣告或兒童注冊使用網(wǎng)絡社交媒體時,網(wǎng)絡服務提供者需要通過郵寄、傳真或電子郵件等方式要求父母填寫并返還同意書,提供信用卡號碼、驗證身份的證明文件、免費電話或視頻會議等方式驗證父母同意。COPPA基于不同風險等級的差異化父母同意,在一定程度上解決了GDPR在應對“賦權與保護”困境中的父母“同意霸權”問題,有效避免了對兒童的“過度保護”,并有助于減輕父母的“同意疲勞”。

    關于GDPR的父母同意沒有充分考慮兒童個人意見的問題,可以通過單獨咨詢兒童意見、取得兒童和父母共同同意和成熟兒童自主同意等方式,將兒童意見納入到?jīng)Q策中來,適當避免對有能力兒童意見的忽略。

    (二)“個性化”與“平均年齡”的抉擇:以一定年齡界限為基礎的個性化評估

    雖然歐盟GDPR的年齡界限規(guī)定飽受詬病,但若不劃定年齡界限則需對所有兒童的全場景網(wǎng)絡活動進行個性化評估,無疑會增加網(wǎng)絡服務提供者的合規(guī)負擔和網(wǎng)絡治理機構的執(zhí)行成本。美國COPPA亦劃定了明確的年齡界限,要求收集、處理不滿13周歲兒童的個人數(shù)據(jù)需先征得父母同意,因此明確的年齡界限仍然是必要的。歐洲非政府組織“兒童在線安全聯(lián)盟”(“eNACSO”)認為雖然在目前的網(wǎng)絡環(huán)境和技術條件下,對每個兒童進行個案評估是不可能的,但對不同年齡的兒童應采用不同的隱私標準或父母同意方式。因此,筆者認為,應以一定年齡界限為基礎的個性化評估取代平均年齡的單一規(guī)定。對達到年齡界限的兒童,賦予其自我決策權;對未達年齡界限的兒童進行個性化評估,以決定父母同意的方式。

    事實上,目前歐盟只有三個成員國(西班牙、匈牙利和荷蘭)選擇在國家數(shù)據(jù)保護法律中明確規(guī)定需要父母同意的年齡門檻。大多數(shù)成員國均要求數(shù)據(jù)控制者依據(jù)特定情境采取個性化的兒童能力測試,而不是統(tǒng)一的年齡標準。由于個性化的兒童能力測試容易造成過重的驗證負擔,大多數(shù)成員國通常要求數(shù)據(jù)控制者根據(jù)數(shù)據(jù)處理目的和使用的數(shù)據(jù)類型采用基于滑動比例法的風險驗證方式。這一做法與美國COPPA的規(guī)定殊途同歸。為了驗證兒童是否有自我決策能力,數(shù)據(jù)控制者應從兒童的最大利益出發(fā),綜合評估兒童的心理發(fā)展水平及承擔相應后果的能力等情況決定所需父母同意的等級或形式。

    (三)加強數(shù)據(jù)鏈中利益相關者的共同協(xié)作與對話

    切實保障大數(shù)據(jù)時代兒童數(shù)據(jù)權利,不僅需要監(jiān)管機構、網(wǎng)絡服務提供者和父母等各方主體履行并承擔相應的義務和責任,還需要加強數(shù)據(jù)周期內(nèi)利益相關者的共同協(xié)作與對話。利益相關者主要包括數(shù)據(jù)的提供者、收集者、分析者和使用者。首先,兒童數(shù)據(jù)提供者需要提高隱私風險意識,學習必要的網(wǎng)絡安全技術,使用隱私保護軟件等方式提高防范能力。美國學者帕弗雷·約翰(Palfrey John)等提議,有關信息通信技術、網(wǎng)絡安全和隱私等方面知識的學習應被納入普通學校的信息技術教育中,提高數(shù)據(jù)提供者的數(shù)據(jù)素養(yǎng)和隱私風險防范意識。其次,數(shù)據(jù)收集者在收集數(shù)據(jù)之前應首先征得兒童父母的同意,并采用易于理解的條款和方便訪問的操作,如兒童友好型描述等,數(shù)據(jù)收集者還應將設計和默認的數(shù)據(jù)保護理念融入軟件設計的最初階段。加布里埃爾·伯曼(Gabrielle Berman)認為,對兒童數(shù)據(jù)的收集除了應有明確的政策和傳播機制外,還需要獨立的第三方對數(shù)據(jù)收集者及其數(shù)據(jù)收集活動進行公正和專業(yè)的定期審核。再次,數(shù)據(jù)分析者是兒童數(shù)據(jù)保護的關鍵參與者,其采用的算法決定著兒童數(shù)據(jù)的分類方式和傳播形式。算法具有非透明性的特點,數(shù)據(jù)分析者在處理兒童數(shù)據(jù)時應保證采用的算法具有可解釋性,并在分析處理兒童數(shù)據(jù)時反思該算法是否會對兒童產(chǎn)生不利影響。數(shù)據(jù)分析者應多與兒童權利倡導者對話和討論,了解兒童的特殊需求,開發(fā)專門針對兒童的隱私友好型工具。為了使數(shù)據(jù)分析者了解算法的潛在限制和倫理含義,反思算法產(chǎn)生的數(shù)據(jù)結果,算法倫理學應成為算法和數(shù)據(jù)科學領域所有本科生和研究生課程的一部分。最后,數(shù)據(jù)使用者是數(shù)據(jù)周期中的最終利益相關者,需要提高對數(shù)據(jù)可靠性、算法局限性、技術安全性及對兒童潛在影響的認識,確保數(shù)據(jù)使用的安全合規(guī)。加強數(shù)據(jù)周期內(nèi)各利益相關者之間的共同協(xié)作與對話,有利于真正從兒童的最大利益出發(fā),不斷尋求更好的隱私保護解決方案。而加強對數(shù)據(jù)科學及其應用的教育和反思對所有利益相關者都是非常重要的。

    四、對完善我國《未成年人網(wǎng)絡保護條例》的立法建議

    目前,歐盟和美國在兒童數(shù)據(jù)法律保護方面走在世界前列。歐盟2016年通過了GDPR,旨在保護大數(shù)據(jù)時代自然人的數(shù)據(jù)權利,并針對兒童的數(shù)據(jù)保護問題進行了專門規(guī)范。美國2012年修訂了《兒童在線隱私保護法案》(COPPA),完善了大數(shù)據(jù)時代兒童的數(shù)據(jù)隱私保護;2015年又出臺了《學生數(shù)據(jù)隱私和家長權利法》(SDPPRA),為大數(shù)據(jù)時代學生數(shù)據(jù)隱私提供專門的法律保護。我國至今還沒有關于兒童數(shù)據(jù)法律保護方面的立法。2017年1月,國務院法制辦公室發(fā)布《未成年人網(wǎng)絡保護條例(送審稿)》(以下簡稱《條例(送審稿)》)。《條例(送審稿)》以法治手段來加強對未成年人的網(wǎng)絡保護,順應了國際互聯(lián)網(wǎng)治理的總體趨勢和通行做法,也代表了我國網(wǎng)絡監(jiān)管體制的一次轉(zhuǎn)變。但《條例(送審稿)》未能充分借鑒國外的相關立法經(jīng)驗,在有關兒童數(shù)據(jù)法律保護方面的某些規(guī)定仍有值得商榷的地方。本文在合理借鑒歐盟和美國相關立法經(jīng)驗的基礎上,針對《條例(送審稿)》提出以下立法建議:

    第一,《條例(送審稿)》對兒童被遺忘權進行了規(guī)定,但仍需進一步完善?!稐l例(送審稿)》第18條規(guī)定:“未成年人或其監(jiān)護人要求網(wǎng)絡信息服務提供者刪除、屏蔽網(wǎng)絡空間中與未成年人有關的個人信息時,網(wǎng)絡信息服務提供者應采取必要措施予以刪除、屏蔽?!痹摋l款可視為對兒童被遺忘權的規(guī)定,但其沒有對數(shù)據(jù)控制者已將兒童數(shù)據(jù)公開的情形進行規(guī)定。根據(jù)GDPR第17條,若數(shù)據(jù)控制者已將個人數(shù)據(jù)公開,則有責任根據(jù)數(shù)據(jù)主體的請求刪除個人數(shù)據(jù),并在考慮可行技術和執(zhí)行成本的基礎上,采取合理措施告知正在處理個人數(shù)據(jù)的控制者,要求其刪除與個人數(shù)據(jù)相關的鏈接、備份或復制件。《條例(送審稿)》應對此部分內(nèi)容做進一步完善。

    第二,《條例(送審稿)》關于兒童數(shù)據(jù)透明權的規(guī)定不太明確。應明確要求網(wǎng)絡服務提供者采取適當措施以簡潔、透明、易理解和易于訪問的形式提供任何關于處理兒童數(shù)據(jù)相關的信息。

    第三,《條例(送審稿)》沒有賦予兒童數(shù)據(jù)可攜權。數(shù)據(jù)可攜權有助于增強大數(shù)據(jù)時代兒童的個人數(shù)據(jù)控制權和自決權,鑒于數(shù)據(jù)可攜權對于行業(yè)競爭的影響尚不明確,《條例(送審稿)》可暫時將數(shù)據(jù)可攜權作為一項倡議性的條款進行規(guī)定。

    第四,《條例(送審稿)》采取了選擇性的父母同意條件,使父母同意失去了應有的意義,與UNCRC的原則性規(guī)定以及國際通行做法相違背。《條例(送審稿)》第16條要求網(wǎng)絡服務提供者在收集、使用未成年人個人信息前,需首先征得“未成年人或監(jiān)護人同意”。該規(guī)定意味著未成年人可以自行決定是否同意收集或處理個人數(shù)據(jù),如此,父母同意便失去了保護兒童的應有之意。無論是歐盟GDPR還是美國COPPA,父母同意都是收集、處理、使用兒童數(shù)據(jù)的前置條件。因此,《條例(送審稿)》不應將父母同意作為收集、使用兒童數(shù)據(jù)的一個可選擇的方案,而應作為收集、處理、使用兒童數(shù)據(jù)必要的前置條件。此外,鑒于歐盟GDPR第8條規(guī)定的父母同意沒有區(qū)分不同網(wǎng)絡場景和隱私風險等級,不利于兒童最大利益的實現(xiàn),建議借鑒美國COPPA關于父母同意的相關規(guī)定,建立基于不同隱私風險等級的差異性的父母同意方式。

    第五,《條例(送審稿)》沒有規(guī)定需要父母同意的年齡界限。明確的年齡界限可以減輕網(wǎng)絡服務提供者的合規(guī)負擔和網(wǎng)絡治理機構的執(zhí)行成本,因此年齡界限的劃定是十分必要的。歐盟GDPR將需要父母同意的年齡界限設為16周歲,美國COPPA將年齡界限設為13周歲,設定過高的年齡界限可能限制年齡較大兒童的網(wǎng)絡活動,且會增加網(wǎng)絡服務提供者的年齡驗證負擔,因此比較而言,美國的年齡設定更具合理性。我國最好在實證調(diào)研的基礎上科學合理地劃定年齡界限,可以借鑒美國設定年齡界限的相關做法。

    第六,《條例(送審稿)》沒有涉及設計和默認的數(shù)據(jù)保護問題。當今時代,各種軟件APP層出不窮,在使用之前均需同意一定條件的數(shù)據(jù)收集和使用,對兒童隱私和數(shù)據(jù)權利造成了極大威脅。歐盟GDPR第25條要求網(wǎng)絡服務提供者將設計和默認的數(shù)據(jù)保護原則納入產(chǎn)品和服務設計的最初階段,這相當于在使用軟件之前,網(wǎng)絡服務提供者已經(jīng)對兒童隱私保護制作了“護甲”。建議《條例(送審稿)》對此加以考慮。

    第七,《條例(送審稿)》沒有明確禁止針對兒童的數(shù)字畫像。商業(yè)性的網(wǎng)絡服務提供者對兒童的數(shù)字畫像嚴重威脅著兒童的隱私和數(shù)據(jù)權利,應當借鑒GDPR的做法,明確禁止針對兒童的數(shù)字畫像,以消除或減輕對兒童數(shù)據(jù)的商業(yè)利用。

    五、結 語

    未成年人網(wǎng)絡保護不僅是專項的未成年人保護事業(yè),也是塑造良好的網(wǎng)絡環(huán)境、維護核心價值觀,乃至全體公民教育的一項非常重要的事業(yè)。大數(shù)據(jù)時代,為實現(xiàn)兒童利益的最大化,網(wǎng)絡治理機構及社會各界應充分認識到對兒童數(shù)據(jù)進行特殊保護的現(xiàn)實必要性,并從兒童的最大利益出發(fā),賦予兒童合理權利的同時給予其應有的保護。網(wǎng)絡治理機構應當加強數(shù)據(jù)周期中各利益相關者之間的共同協(xié)作與對話,積極聽取兒童權利倡議者的意見和建議,不斷尋求更好的兒童數(shù)據(jù)保護方案。

    猜你喜歡
    數(shù)據(jù)保護服務提供者界限
    界限
    十幾歲(2022年21期)2022-11-19 11:14:42
    間隙
    網(wǎng)絡服務提供者的侵權責任研究
    法制博覽(2020年11期)2020-11-30 03:36:52
    破次元
    論網(wǎng)絡服務提供者刑事責任的歸責模式一一以拒不履行網(wǎng)絡安全管理義務罪為切入點
    論網(wǎng)絡服務提供者的侵權責任
    法制博覽(2017年16期)2017-01-28 00:01:59
    承諾是跨越時間界限的恒久
    中國寶玉石(2016年6期)2017-01-03 09:37:07
    TPP生物藥品數(shù)據(jù)保護條款研究
    歐盟數(shù)據(jù)保護立法改革之發(fā)展趨勢分析
    歐盟《一般數(shù)據(jù)保護條例》新規(guī)則評析
    日韩视频在线欧美| 亚洲精品国产av成人精品| av又黄又爽大尺度在线免费看| 天美传媒精品一区二区| 久久99热这里只频精品6学生| 国产男人的电影天堂91| 亚洲av二区三区四区| 久久久久久久国产电影| 丰满少妇做爰视频| 欧美性感艳星| 黑人高潮一二区| 国产欧美亚洲国产| 狠狠精品人妻久久久久久综合| 国产69精品久久久久777片| 精品久久久久久久久av| 精品人妻偷拍中文字幕| 成人欧美大片| 建设人人有责人人尽责人人享有的 | 国产毛片在线视频| 亚洲欧美成人精品一区二区| 欧美潮喷喷水| 51国产日韩欧美| 男女国产视频网站| 一区二区av电影网| 自拍偷自拍亚洲精品老妇| 国内少妇人妻偷人精品xxx网站| 精品国产露脸久久av麻豆| 少妇高潮的动态图| 久久精品久久久久久久性| 校园人妻丝袜中文字幕| 青青草视频在线视频观看| 亚洲高清免费不卡视频| 天天躁日日操中文字幕| 有码 亚洲区| 哪个播放器可以免费观看大片| 国产精品国产三级专区第一集| 国产亚洲av片在线观看秒播厂| 最近的中文字幕免费完整| 下体分泌物呈黄色| av专区在线播放| 人妻夜夜爽99麻豆av| 高清日韩中文字幕在线| 国产成人福利小说| 91久久精品国产一区二区三区| 日本色播在线视频| 在线天堂最新版资源| 联通29元200g的流量卡| 国产在线一区二区三区精| 婷婷色av中文字幕| 国产午夜精品一二区理论片| 国产精品成人在线| 99九九线精品视频在线观看视频| 欧美日韩亚洲高清精品| 小蜜桃在线观看免费完整版高清| 日韩在线高清观看一区二区三区| 国产色爽女视频免费观看| 亚洲精品成人av观看孕妇| 熟女人妻精品中文字幕| 一本一本综合久久| 六月丁香七月| 亚洲国产欧美网| 18禁观看日本| 亚洲人成77777在线视频| 日韩精品有码人妻一区| 婷婷色综合www| 亚洲伊人色综图| 两个人免费观看高清视频| 日韩一区二区视频免费看| 一级黄片播放器| 日韩免费高清中文字幕av| 9191精品国产免费久久| 国产精品久久久久成人av| 一本大道久久a久久精品| 亚洲精品第二区| 日韩制服丝袜自拍偷拍| 成年动漫av网址| 深夜精品福利| 国产探花极品一区二区| av不卡在线播放| 一本久久精品| 日本欧美国产在线视频| 久热爱精品视频在线9| 久久久久网色| 老司机靠b影院| 一个人免费看片子| 丝袜在线中文字幕| 青春草国产在线视频| 女性被躁到高潮视频| 免费在线观看视频国产中文字幕亚洲 | 亚洲av综合色区一区| 亚洲男人天堂网一区| 午夜av观看不卡| 啦啦啦中文免费视频观看日本| 如何舔出高潮| 成人亚洲欧美一区二区av| 亚洲欧美成人综合另类久久久| av一本久久久久| 国精品久久久久久国模美| 国产日韩一区二区三区精品不卡| 日日撸夜夜添| 最近最新中文字幕免费大全7| 99久久精品国产亚洲精品| 久久这里只有精品19| 亚洲精品乱久久久久久| 国产人伦9x9x在线观看| 婷婷成人精品国产| a级片在线免费高清观看视频| 国产探花极品一区二区| 国产一区二区三区综合在线观看| 欧美在线黄色| 男人添女人高潮全过程视频| 亚洲国产精品999| 51午夜福利影视在线观看| 色吧在线观看| 老司机深夜福利视频在线观看 | 国产av码专区亚洲av| 美女中出高潮动态图| 无遮挡黄片免费观看| 尾随美女入室| 汤姆久久久久久久影院中文字幕| 亚洲国产欧美网| 国产爽快片一区二区三区| 国产午夜精品一二区理论片| 亚洲成av片中文字幕在线观看| av在线app专区| 亚洲国产毛片av蜜桃av| 999久久久国产精品视频| 熟妇人妻不卡中文字幕| 久久久久久久国产电影| 亚洲av成人不卡在线观看播放网 | 免费观看av网站的网址| 国产成人免费观看mmmm| 一级a爱视频在线免费观看| 午夜福利,免费看| 国产精品一国产av| 久久久精品94久久精品| 日日摸夜夜添夜夜爱| 丝袜脚勾引网站| 97人妻天天添夜夜摸| 色婷婷久久久亚洲欧美| 最近2019中文字幕mv第一页| 一本久久精品| 最近的中文字幕免费完整| 涩涩av久久男人的天堂| 亚洲一区二区三区欧美精品| 精品国产国语对白av| 日日啪夜夜爽| 精品少妇黑人巨大在线播放| 满18在线观看网站| 国产免费现黄频在线看| 欧美最新免费一区二区三区| 肉色欧美久久久久久久蜜桃| 国产精品av久久久久免费| 久久精品国产亚洲av高清一级| 欧美精品一区二区免费开放| xxxhd国产人妻xxx| 久久人人97超碰香蕉20202| 秋霞伦理黄片| 国产在线免费精品| 人人妻人人澡人人爽人人夜夜| 不卡视频在线观看欧美| 午夜福利网站1000一区二区三区| 亚洲欧美精品自产自拍| 电影成人av| 一级毛片 在线播放| 国产片特级美女逼逼视频| 女人高潮潮喷娇喘18禁视频| 精品一品国产午夜福利视频| 国产深夜福利视频在线观看| 精品亚洲成国产av| 三上悠亚av全集在线观看| 日韩精品免费视频一区二区三区| 久久久国产精品麻豆| 极品人妻少妇av视频| 久久久久久久久免费视频了| 亚洲精品日本国产第一区| 亚洲少妇的诱惑av| 肉色欧美久久久久久久蜜桃| 日韩不卡一区二区三区视频在线| 美女扒开内裤让男人捅视频| 高清欧美精品videossex| 天天躁夜夜躁狠狠躁躁| 免费少妇av软件| 哪个播放器可以免费观看大片| 国产精品国产三级专区第一集| 又粗又硬又长又爽又黄的视频| 色播在线永久视频| 天天躁日日躁夜夜躁夜夜| 男男h啪啪无遮挡| 欧美日韩国产mv在线观看视频| av国产精品久久久久影院| 超碰成人久久| 热re99久久精品国产66热6| 国产精品久久久av美女十八| 午夜福利乱码中文字幕| 秋霞伦理黄片| 欧美日本中文国产一区发布| 黄频高清免费视频| 欧美日韩福利视频一区二区| 热99国产精品久久久久久7| 亚洲精品一二三| 免费在线观看黄色视频的| 一二三四中文在线观看免费高清| 亚洲精品第二区| 丝瓜视频免费看黄片| 精品视频人人做人人爽| 欧美人与善性xxx| 亚洲av国产av综合av卡| 日本色播在线视频| 精品午夜福利在线看| netflix在线观看网站| 久久精品国产a三级三级三级| 高清黄色对白视频在线免费看| 色视频在线一区二区三区| 免费黄网站久久成人精品| 成人亚洲欧美一区二区av| 男人操女人黄网站| 精品一区二区三区av网在线观看 | 国产高清不卡午夜福利| 亚洲精品aⅴ在线观看| 操出白浆在线播放| 欧美日韩视频高清一区二区三区二| 国产深夜福利视频在线观看| 99国产综合亚洲精品| 国产成人91sexporn| 高清不卡的av网站| 欧美国产精品va在线观看不卡| 久久久久精品性色| 欧美在线黄色| 精品视频人人做人人爽| 熟女av电影| 天天操日日干夜夜撸| 多毛熟女@视频| 婷婷色av中文字幕| 久久久久久久久久久免费av| 欧美日韩视频精品一区| 久久久久人妻精品一区果冻| 观看美女的网站| 久久精品国产综合久久久| 国产成人欧美| 一个人免费看片子| 国产午夜精品一二区理论片| 亚洲av日韩在线播放| 各种免费的搞黄视频| 曰老女人黄片| 国产精品麻豆人妻色哟哟久久| 国产午夜精品一二区理论片| 交换朋友夫妻互换小说| 一级毛片 在线播放| 91精品国产国语对白视频| 国产黄色视频一区二区在线观看| 国产日韩欧美视频二区| 丝袜在线中文字幕| 国产成人系列免费观看| 国产午夜精品一二区理论片| 波野结衣二区三区在线| 亚洲精品,欧美精品| 国产男女内射视频| av在线老鸭窝| 色精品久久人妻99蜜桃| 国产精品 欧美亚洲| 日韩 亚洲 欧美在线| 欧美 日韩 精品 国产| 天天躁狠狠躁夜夜躁狠狠躁| 深夜精品福利| 人人妻人人澡人人爽人人夜夜| 你懂的网址亚洲精品在线观看| 亚洲天堂av无毛| 9191精品国产免费久久| 国产一区二区三区综合在线观看| 久久久久国产一级毛片高清牌| 国产 精品1| 少妇被粗大的猛进出69影院| 亚洲中文av在线| 最近最新中文字幕大全免费视频 | 国产成人精品久久二区二区91 | 国产高清国产精品国产三级| 韩国精品一区二区三区| 欧美精品一区二区大全| 国产亚洲午夜精品一区二区久久| 一级a爱视频在线免费观看| 亚洲精品一区蜜桃| 午夜免费观看性视频| 成年人免费黄色播放视频| a级片在线免费高清观看视频| 女性生殖器流出的白浆| 久久久久久久久久久免费av| 日韩精品有码人妻一区| 中国国产av一级| a 毛片基地| 丁香六月天网| 欧美黄色片欧美黄色片| 欧美在线一区亚洲| 一区二区三区精品91| 日韩av免费高清视频| 日韩一区二区三区影片| 亚洲av欧美aⅴ国产| 一级毛片我不卡| 亚洲精品美女久久久久99蜜臀 | 性少妇av在线| 日韩成人av中文字幕在线观看| 韩国精品一区二区三区| 久久99一区二区三区| 夫妻午夜视频| 水蜜桃什么品种好| 日韩制服丝袜自拍偷拍| 精品少妇黑人巨大在线播放| 老鸭窝网址在线观看| 欧美日韩亚洲国产一区二区在线观看 | 激情视频va一区二区三区| av.在线天堂| 中国国产av一级| 欧美日韩亚洲高清精品| 女人久久www免费人成看片| 国产av精品麻豆| 狂野欧美激情性xxxx| 97精品久久久久久久久久精品| 午夜福利乱码中文字幕| 久久99一区二区三区| 狂野欧美激情性xxxx| 在线观看免费高清a一片| 欧美成人精品欧美一级黄| 尾随美女入室| 又大又爽又粗| 青春草亚洲视频在线观看| 我要看黄色一级片免费的| 亚洲少妇的诱惑av| 90打野战视频偷拍视频| 久久久久视频综合| 久久久久网色| 国产精品久久久久久精品古装| 国产精品香港三级国产av潘金莲 | 美女中出高潮动态图| 久久精品人人爽人人爽视色| 制服诱惑二区| 成人18禁高潮啪啪吃奶动态图| 少妇 在线观看| 国产在线一区二区三区精| av视频免费观看在线观看| 国产黄色免费在线视频| 日本av手机在线免费观看| 下体分泌物呈黄色| 国产精品久久久av美女十八| 婷婷色麻豆天堂久久| 可以免费在线观看a视频的电影网站 | 天堂8中文在线网| 少妇人妻精品综合一区二区| 久久精品熟女亚洲av麻豆精品| 国产黄色免费在线视频| 亚洲欧美日韩另类电影网站| 午夜福利在线免费观看网站| 久久久精品94久久精品| 久久久久久免费高清国产稀缺| 国产又爽黄色视频| 岛国毛片在线播放| 别揉我奶头~嗯~啊~动态视频 | 日韩制服丝袜自拍偷拍| 啦啦啦 在线观看视频| 亚洲一级一片aⅴ在线观看| 免费黄网站久久成人精品| 久久性视频一级片| 国产精品久久久久成人av| 国产不卡av网站在线观看| 精品国产乱码久久久久久小说| 热99国产精品久久久久久7| 国产毛片在线视频| 欧美亚洲 丝袜 人妻 在线| 欧美久久黑人一区二区| 精品国产超薄肉色丝袜足j| 日韩熟女老妇一区二区性免费视频| 日韩不卡一区二区三区视频在线| 久久 成人 亚洲| 韩国av在线不卡| 亚洲精品美女久久av网站| 成人国语在线视频| 在线亚洲精品国产二区图片欧美| 中文天堂在线官网| 成人漫画全彩无遮挡| 三上悠亚av全集在线观看| 波野结衣二区三区在线| 少妇人妻久久综合中文| 下体分泌物呈黄色| 国产av一区二区精品久久| 亚洲七黄色美女视频| 久久久久国产一级毛片高清牌| 下体分泌物呈黄色| 亚洲精品美女久久久久99蜜臀 | 丰满迷人的少妇在线观看| 丰满饥渴人妻一区二区三| 精品少妇黑人巨大在线播放| 香蕉国产在线看| 人人澡人人妻人| 亚洲av在线观看美女高潮| 国产欧美亚洲国产| 美女主播在线视频| 精品国产国语对白av| tube8黄色片| 菩萨蛮人人尽说江南好唐韦庄| 精品少妇一区二区三区视频日本电影 | 悠悠久久av| 亚洲在久久综合| 国产黄频视频在线观看| 91精品伊人久久大香线蕉| 熟妇人妻不卡中文字幕| 黑丝袜美女国产一区| 久久久国产一区二区| 国产亚洲一区二区精品| 久久久亚洲精品成人影院| 热99国产精品久久久久久7| 久久久久精品人妻al黑| 成人国语在线视频| 夜夜骑夜夜射夜夜干| 精品亚洲乱码少妇综合久久| 欧美xxⅹ黑人| 天美传媒精品一区二区| 精品亚洲乱码少妇综合久久| 亚洲第一区二区三区不卡| 大片电影免费在线观看免费| 久久久久久免费高清国产稀缺| videosex国产| 久久99热这里只频精品6学生| 日韩 欧美 亚洲 中文字幕| 波多野结衣一区麻豆| 老司机在亚洲福利影院| 久久天堂一区二区三区四区| 超色免费av| 在线观看www视频免费| 午夜福利在线免费观看网站| 久久热在线av| 亚洲精品久久成人aⅴ小说| 国产黄频视频在线观看| 久久精品久久精品一区二区三区| 午夜影院在线不卡| 中文欧美无线码| 午夜福利影视在线免费观看| 欧美变态另类bdsm刘玥| 久久热在线av| 成人亚洲精品一区在线观看| 欧美国产精品va在线观看不卡| 亚洲国产欧美一区二区综合| 午夜福利在线免费观看网站| 午夜老司机福利片| 欧美人与性动交α欧美软件| 人妻一区二区av| 丰满乱子伦码专区| 国产在线视频一区二区| 青青草视频在线视频观看| 日韩视频在线欧美| 一区在线观看完整版| 久久久久精品性色| 在线精品无人区一区二区三| 在线观看三级黄色| 国产爽快片一区二区三区| av在线观看视频网站免费| 91精品伊人久久大香线蕉| av视频免费观看在线观看| 中文精品一卡2卡3卡4更新| 女人被躁到高潮嗷嗷叫费观| av在线观看视频网站免费| 久久精品国产综合久久久| 国产免费现黄频在线看| 热re99久久国产66热| 国产一区二区三区综合在线观看| svipshipincom国产片| 国产一区有黄有色的免费视频| 亚洲天堂av无毛| 亚洲三区欧美一区| a级毛片在线看网站| 久久久久精品性色| 永久免费av网站大全| 欧美日韩国产mv在线观看视频| 欧美黄色片欧美黄色片| 久久久久精品国产欧美久久久 | 精品免费久久久久久久清纯 | 亚洲精品国产色婷婷电影| 久久久精品免费免费高清| 久久久国产一区二区| 国产一区有黄有色的免费视频| 十分钟在线观看高清视频www| 精品亚洲乱码少妇综合久久| 精品一区二区免费观看| 亚洲精品一区蜜桃| 日本vs欧美在线观看视频| 三上悠亚av全集在线观看| 十八禁人妻一区二区| 一二三四在线观看免费中文在| 纵有疾风起免费观看全集完整版| 王馨瑶露胸无遮挡在线观看| 91精品三级在线观看| 久久久精品94久久精品| 国产日韩欧美在线精品| 成人国语在线视频| 天天躁夜夜躁狠狠躁躁| 观看av在线不卡| 婷婷色av中文字幕| 免费高清在线观看视频在线观看| 9热在线视频观看99| 满18在线观看网站| 国产精品久久久久久精品电影小说| 满18在线观看网站| 久久久久网色| 电影成人av| 亚洲欧美一区二区三区国产| 欧美在线一区亚洲| av电影中文网址| 国产成人精品福利久久| 亚洲国产精品一区三区| 少妇被粗大的猛进出69影院| 欧美国产精品一级二级三级| 日本欧美视频一区| 亚洲成国产人片在线观看| videos熟女内射| av片东京热男人的天堂| 高清在线视频一区二区三区| 免费不卡黄色视频| 一个人免费看片子| 亚洲精品乱久久久久久| 久久人人97超碰香蕉20202| 欧美人与性动交α欧美精品济南到| 久久人人爽人人片av| 两性夫妻黄色片| 一边摸一边抽搐一进一出视频| 亚洲精品视频女| 国产乱来视频区| 最新的欧美精品一区二区| 国产精品一区二区精品视频观看| 大话2 男鬼变身卡| 黄色视频在线播放观看不卡| 久久免费观看电影| 2021少妇久久久久久久久久久| 亚洲成色77777| 欧美人与性动交α欧美软件| 肉色欧美久久久久久久蜜桃| 免费在线观看视频国产中文字幕亚洲 | 日韩av免费高清视频| 久热这里只有精品99| 夫妻午夜视频| 另类亚洲欧美激情| 日本vs欧美在线观看视频| 国产深夜福利视频在线观看| 亚洲国产欧美一区二区综合| 中文字幕精品免费在线观看视频| 国产熟女欧美一区二区| 9191精品国产免费久久| 亚洲国产日韩一区二区| 亚洲av电影在线观看一区二区三区| 国产av一区二区精品久久| 欧美少妇被猛烈插入视频| 久久久精品免费免费高清| 黄片播放在线免费| 中文字幕人妻丝袜制服| 天堂俺去俺来也www色官网| 国产精品亚洲av一区麻豆 | 亚洲精品av麻豆狂野| 交换朋友夫妻互换小说| 亚洲美女搞黄在线观看| 欧美精品av麻豆av| 99国产综合亚洲精品| av女优亚洲男人天堂| 亚洲一区二区三区欧美精品| 天堂俺去俺来也www色官网| 成人手机av| 亚洲国产欧美日韩在线播放| 香蕉国产在线看| 超碰97精品在线观看| 欧美亚洲 丝袜 人妻 在线| 一二三四在线观看免费中文在| a级毛片在线看网站| 久久久久网色| 永久免费av网站大全| 亚洲欧美一区二区三区国产| 亚洲精品自拍成人| 青春草国产在线视频| 亚洲色图 男人天堂 中文字幕| 中文字幕制服av| 国产精品欧美亚洲77777| 亚洲成人av在线免费| 久久久久久免费高清国产稀缺| 亚洲av福利一区| 美女高潮到喷水免费观看| 2021少妇久久久久久久久久久| 成人毛片60女人毛片免费| 777久久人妻少妇嫩草av网站| 18在线观看网站| 一级a爱视频在线免费观看| 久久免费观看电影| 欧美成人午夜精品| 日本av免费视频播放| 亚洲国产成人一精品久久久| 99久久精品国产亚洲精品| 亚洲图色成人| 午夜老司机福利片| 精品亚洲成a人片在线观看| 最近最新中文字幕免费大全7| 国产一区有黄有色的免费视频| 亚洲精品国产色婷婷电影| 欧美激情高清一区二区三区 | 99香蕉大伊视频| videos熟女内射| 黑人猛操日本美女一级片| a级片在线免费高清观看视频| 免费观看性生交大片5| 亚洲成人av在线免费| 国产老妇伦熟女老妇高清| 天堂中文最新版在线下载| 97人妻天天添夜夜摸| 国产精品偷伦视频观看了| 天天躁夜夜躁狠狠躁躁| 国产精品亚洲av一区麻豆 | 性少妇av在线| 无遮挡黄片免费观看| 日本猛色少妇xxxxx猛交久久| kizo精华| 啦啦啦中文免费视频观看日本| 国产av精品麻豆|