• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    保護(hù)數(shù)字世界的兒童:理念、工具與制度

    2023-11-02 05:10:44張建軍
    編輯之友 2023年8期

    【摘要】保護(hù)數(shù)量龐大的未成年人,應(yīng)對(duì)相關(guān)的網(wǎng)絡(luò)安全問(wèn)題,是當(dāng)下全球性的棘手難題。英國(guó)的《網(wǎng)絡(luò)服務(wù)適齡設(shè)計(jì)實(shí)踐準(zhǔn)則》著眼建立普遍的數(shù)字內(nèi)容出版制作標(biāo)準(zhǔn),成為全球未成年人網(wǎng)絡(luò)保護(hù)的重要制度創(chuàng)新。其秉持“保護(hù)數(shù)字世界中的兒童,而不是保護(hù)兒童遠(yuǎn)離數(shù)字世界”的理念;以“可能接觸原則”劃定準(zhǔn)則適用范圍;設(shè)立兒童利益最大化的三大原則框架;在數(shù)據(jù)保護(hù)、產(chǎn)品設(shè)計(jì)、關(guān)鍵技術(shù)等方面建立標(biāo)準(zhǔn),以應(yīng)用場(chǎng)景設(shè)定數(shù)據(jù)保護(hù)標(biāo)準(zhǔn);以年齡段設(shè)立網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)要求;規(guī)制助推、默認(rèn)設(shè)置、推薦算法等關(guān)鍵技術(shù)?!毒W(wǎng)絡(luò)服務(wù)適齡設(shè)計(jì)實(shí)踐準(zhǔn)則》對(duì)我國(guó)未成年人網(wǎng)絡(luò)保護(hù)工作的理念轉(zhuǎn)變、主體協(xié)調(diào)、制度構(gòu)建等具有一定的借鑒意義。

    【關(guān)鍵詞】互聯(lián)網(wǎng)內(nèi)容制作準(zhǔn)則 適齡設(shè)計(jì) 未成年人保護(hù)

    【中圖分類(lèi)號(hào)】G239 【文獻(xiàn)標(biāo)識(shí)碼】A 【文章編號(hào)】1003-6687(2023)8-105-08

    【DOI】10.13786/j.cnki.cn14-1066/g2.2023.8.015

    保護(hù)數(shù)量龐大的未成年人,應(yīng)對(duì)相關(guān)的網(wǎng)絡(luò)安全問(wèn)題,是當(dāng)下全球性的棘手難題,也是我國(guó)未成年人保護(hù)工作的重要挑戰(zhàn)。中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)與共青團(tuán)中央維護(hù)青少年權(quán)益部聯(lián)合發(fā)布的《2021年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》顯示,截至2021年12月,我國(guó)未成年網(wǎng)民達(dá)1.91億人,未成年人互聯(lián)網(wǎng)普及率為96.8%。[1]我國(guó)未成年網(wǎng)民群體呈現(xiàn)網(wǎng)絡(luò)普及率高、數(shù)量大、低齡化等特征。保護(hù)這些未成年人的網(wǎng)絡(luò)安全成為全社會(huì)關(guān)注的迫切問(wèn)題。

    近年來(lái),我國(guó)通過(guò)制定《中華人民共和國(guó)未成年人保護(hù)法》(以下簡(jiǎn)稱(chēng)《未成年人保護(hù)法》)、《中華人民共和國(guó)個(gè)人信息保護(hù)法》(以下簡(jiǎn)稱(chēng)《個(gè)人信息保護(hù)法》)和《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》等法律法規(guī)來(lái)保護(hù)未成年人的網(wǎng)絡(luò)安全,雖然取得了一定的成效,但依然存在不少問(wèn)題。制度方面,宏觀的法律法規(guī)較多,具體可操作的制度較少。宏觀的保護(hù)性法律法規(guī)如何落實(shí)到具體的網(wǎng)絡(luò)產(chǎn)品中,尚缺少明確、可操作的制度措施。如《未成年人保護(hù)法》第七十四條規(guī)定,網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者不得向未成年人提供誘導(dǎo)其沉迷的產(chǎn)品和服務(wù)。[2]然而,在具體實(shí)踐層面,企業(yè)應(yīng)如何不提供導(dǎo)致未成年人沉迷的網(wǎng)絡(luò)產(chǎn)品和服務(wù),目前尚未見(jiàn)到可遵循的制度標(biāo)準(zhǔn)。保護(hù)主體方面,現(xiàn)有相關(guān)制度對(duì)不同年齡段的未成年人未做細(xì)分處理,但實(shí)際情況是,18歲以下的不同年齡層次的未成年人群體,相互間在網(wǎng)絡(luò)需求和能力等方面的差異較大,整齊劃一的標(biāo)準(zhǔn)缺乏針對(duì)性,有效性欠佳。雖然相關(guān)政府部門(mén)針對(duì)不同年齡段的未成年人,也嘗試開(kāi)展差異化保護(hù),但仍不深入。如國(guó)家新聞出版署在2019年11月發(fā)布的《關(guān)于防止未成年人沉迷網(wǎng)絡(luò)游戲的通知》中提出:“網(wǎng)絡(luò)游戲企業(yè)探索實(shí)施適齡提示制度,從多維度綜合衡量,對(duì)不同年齡段用戶給出相應(yīng)提示,幫助未成年人、家長(zhǎng)和老師等更好區(qū)分網(wǎng)絡(luò)游戲,引導(dǎo)未成年人更好使用網(wǎng)絡(luò)游戲?!盵3]2020年12月,中國(guó)音像與數(shù)字出版協(xié)會(huì)游戲出版物工作委員會(huì)編制了游戲業(yè)《網(wǎng)絡(luò)游戲適齡提示》團(tuán)體標(biāo)準(zhǔn),為未成年人及其監(jiān)護(hù)人提供了解游戲產(chǎn)品是否適用的提示信息。適齡游戲提示主要在使用環(huán)節(jié)提供輔助提示信息,但在更為重要的網(wǎng)絡(luò)內(nèi)容生產(chǎn)制作環(huán)節(jié),尚未見(jiàn)到有效舉措。保護(hù)未成年人的網(wǎng)絡(luò)安全,在源頭上的網(wǎng)絡(luò)產(chǎn)品與服務(wù)的制作出版階段,就應(yīng)建立具體、有針對(duì)性的可操作標(biāo)準(zhǔn)。

    英國(guó)在2020年9月公布了《網(wǎng)絡(luò)服務(wù)適齡設(shè)計(jì)實(shí)踐準(zhǔn)則》(Age Appropriate Design: a Code of Practice for Online Services,以下簡(jiǎn)稱(chēng)《準(zhǔn)則》),針對(duì)所有兒童可能接觸的網(wǎng)絡(luò)服務(wù)產(chǎn)品,制定了分年齡段的設(shè)計(jì)制作指引,為企業(yè)提供了較為明確和可操作的規(guī)范標(biāo)準(zhǔn)。[4]《準(zhǔn)則》給企業(yè)留有一年的調(diào)整期,2021年9月開(kāi)始正式實(shí)施。英國(guó)信息專(zhuān)員辦公室(ICO)在制定《準(zhǔn)則》的過(guò)程中,參考了家長(zhǎng)、兒童、學(xué)校、兒童運(yùn)動(dòng)團(tuán)體、軟件開(kāi)發(fā)商、科技和游戲公司等各方意見(jiàn),制定了15條具體的網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)標(biāo)準(zhǔn)。

    《準(zhǔn)則》是全球未成年人網(wǎng)絡(luò)保護(hù)制度的重要?jiǎng)?chuàng)新,對(duì)各國(guó)未成年人網(wǎng)絡(luò)保護(hù)政策和各大互聯(lián)網(wǎng)公司產(chǎn)生了顯著影響。2022年9月,美國(guó)加州參考該《準(zhǔn)則》,通過(guò)了《加州網(wǎng)絡(luò)適齡設(shè)計(jì)規(guī)范法案》。受該《準(zhǔn)則》影響,谷歌對(duì)未成年用戶停止個(gè)性化廣告推薦,關(guān)閉地理定位歷史記錄,自動(dòng)開(kāi)啟安全搜索模式;TikTok將16歲以下賬號(hào)默認(rèn)設(shè)置為個(gè)人可見(jiàn);Instagram不再允許成年用戶直接私信18歲以下用戶;YouTube移除自動(dòng)播放功能,防止兒童沉迷于觀看視頻。

    一、《準(zhǔn)則》的理念

    1. 保護(hù)數(shù)字世界中的兒童,而不是保護(hù)兒童遠(yuǎn)離數(shù)字世界

    “保護(hù)數(shù)字世界的兒童,而不是保護(hù)兒童遠(yuǎn)離數(shù)字世界”,在《準(zhǔn)則》的前言中,英國(guó)信息保護(hù)專(zhuān)員首先聲明了《準(zhǔn)則》設(shè)立的初衷。在當(dāng)下信息化時(shí)代,為保護(hù)兒童免受可能的威脅而讓他們遠(yuǎn)離互聯(lián)網(wǎng),顯然不現(xiàn)實(shí),也剝奪了兒童應(yīng)有的使用數(shù)字信息技術(shù)學(xué)習(xí)、成長(zhǎng)的權(quán)利?!稖?zhǔn)則》不是禁止未成年人使用網(wǎng)絡(luò)信息服務(wù)產(chǎn)品,而是在網(wǎng)絡(luò)內(nèi)容生產(chǎn)領(lǐng)域制定措施,構(gòu)建有益于未成年人成長(zhǎng)的數(shù)字世界,保護(hù)數(shù)字世界中的兒童,很好地兼顧安全與發(fā)展兩方面的需求。

    《準(zhǔn)則》的理念源于聯(lián)合國(guó)《兒童權(quán)利公約》提倡的“兒童在生活的各方面需要特殊的保障”。在網(wǎng)絡(luò)世界,兒童需要特殊保護(hù)?!稖?zhǔn)則》要求企業(yè)在網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)中充分考慮可能的未成年人使用情景,首先確保產(chǎn)品和服務(wù)不會(huì)對(duì)未成年人產(chǎn)生不良影響,其次應(yīng)對(duì)他們的健康成長(zhǎng)有益?!稖?zhǔn)則》要求企業(yè)識(shí)別和評(píng)估產(chǎn)品和服務(wù)對(duì)兒童的可能風(fēng)險(xiǎn)、潛在影響,以及在數(shù)據(jù)處理中可能造成的任何傷害或損害——無(wú)論是身體、情感、發(fā)展還是物質(zhì)的損害,包括身體傷害、網(wǎng)上誘導(dǎo)或其他性剝削;社交焦慮、自尊問(wèn)題、欺凌或同伴壓力;接觸有害或不適當(dāng)?shù)膬?nèi)容;誤導(dǎo)或不適當(dāng)?shù)南拗菩畔ⅲ还膭?lì)過(guò)度冒險(xiǎn)或不健康的行為;破壞父母的權(quán)威或責(zé)任;喪失自主權(quán)或權(quán)力(包括對(duì)數(shù)據(jù)的控制);強(qiáng)迫性使用或注意力缺失癥;過(guò)多的觀看屏幕的時(shí)間;中斷或不充分的睡眠模式;經(jīng)濟(jì)剝削或不公平的商業(yè)壓力;任何其他重大的經(jīng)濟(jì)、社會(huì)或發(fā)展方面的不利因素等?!稖?zhǔn)則》對(duì)數(shù)字世界的未成年人可能遇到的安全威脅進(jìn)行了具體詳細(xì)的陳述。

    2. 以兒童利益最大化為原則,設(shè)立兒童利益框架

    構(gòu)建有益于未成年人成長(zhǎng)的數(shù)字世界,不單是保護(hù)未成年人不受傷害?!稖?zhǔn)則》明確要求企業(yè)在具體技術(shù)設(shè)計(jì)和產(chǎn)品開(kāi)發(fā)中,以兒童利益最大化為首要考慮因素?!稖?zhǔn)則》將兒童利益最大化原則具體化為“兒童守則:最佳利益框架”,要求企業(yè)在提供網(wǎng)絡(luò)信息服務(wù)和處理數(shù)據(jù)的過(guò)程中,基于兒童不斷發(fā)展的能力,重點(diǎn)保護(hù)兒童三個(gè)方面的權(quán)利:兒童身心健康與發(fā)展的“自我”權(quán)利、獲得資源的“支持”權(quán)利、“社會(huì)”權(quán)利。為保障這些權(quán)利的有效實(shí)施,《準(zhǔn)則》設(shè)置了相應(yīng)的保障條款。

    “自我”權(quán)利是兒童身心健康和發(fā)展的權(quán)利,支持兒童不斷發(fā)展能力,以利于其形成和表達(dá)身份、界限和自我意識(shí)。要確保兒童能夠在對(duì)自己有影響的事務(wù)中表達(dá)觀點(diǎn),企業(yè)要為兒童實(shí)現(xiàn)這些權(quán)利提供適齡的在線輔助工具,在與兒童的互動(dòng)中要采用符合其年齡特點(diǎn)、便于理解的信息形式等。

    “支持”權(quán)利是兒童獲得支持自身發(fā)展和成長(zhǎng)資源的權(quán)利。產(chǎn)品設(shè)計(jì)要確保兒童獲得父母以及社會(huì)的支持?!稖?zhǔn)則》對(duì)不同年齡階段的兒童采取靈活的監(jiān)護(hù)人同意要求,建立了以13歲為數(shù)據(jù)保護(hù)年齡界限的父母同意機(jī)制。在個(gè)人數(shù)據(jù)獲取以及使用過(guò)程中,13歲以上的未成年人擁有一定的網(wǎng)絡(luò)行為決定權(quán),13歲以下的兒童則需要監(jiān)護(hù)人授權(quán)。

    “社會(huì)”權(quán)利是兒童群體的權(quán)利,包括那些脆弱的和有特殊需求的兒童。網(wǎng)絡(luò)產(chǎn)品應(yīng)承認(rèn)兒童在社會(huì)共享的資源和制度中也擁有利害關(guān)系。

    二、《準(zhǔn)則》的內(nèi)容

    1. 以“可能接觸原則”劃定準(zhǔn)則適用范圍

    通常,未成年人網(wǎng)絡(luò)保護(hù)法律法規(guī)只針對(duì)面向未成年人的產(chǎn)品而制定。如美國(guó)的《兒童在線隱私保護(hù)法》(Children's Online Privacy Protection Act,COPPA),即針對(duì)面向兒童的在線服務(wù)而出臺(tái),不包括Facebook等大眾化社交媒體。此類(lèi)法律法規(guī)默認(rèn)13歲以下的兒童不是大眾化社交平臺(tái)的主要受眾,而企業(yè)對(duì)兒童正在使用這些產(chǎn)品也不知情。此法出臺(tái)于1998年,當(dāng)時(shí)上網(wǎng)的兒童還是比較少的,但當(dāng)今互聯(lián)網(wǎng)廣泛普及,未成年人用戶占全球互聯(lián)網(wǎng)用戶總數(shù)的近三分之一,互聯(lián)網(wǎng)在社會(huì)中得到普遍應(yīng)用,未成年人接觸到各類(lèi)面向成年人的網(wǎng)絡(luò)產(chǎn)品和服務(wù)的概率增加。如只針對(duì)面向兒童的產(chǎn)品設(shè)定保護(hù)制度,保護(hù)的有效性將大為降低。

    英國(guó)要求所有兒童可能接觸到的信息產(chǎn)品和服務(wù)提供者都遵守《準(zhǔn)則》,不僅限于專(zhuān)門(mén)針對(duì)兒童的信息產(chǎn)品和服務(wù)提供者。按照“可能接觸原則”,信息產(chǎn)品和服務(wù)既包括應(yīng)用程序和設(shè)備、搜索引擎、社交媒體平臺(tái)、流媒體、在線游戲等通過(guò)互聯(lián)網(wǎng)向用戶提供的產(chǎn)品或服務(wù),也包括聯(lián)網(wǎng)玩具和其他設(shè)備。

    “可能接觸原則”以網(wǎng)絡(luò)產(chǎn)品的應(yīng)用場(chǎng)景設(shè)定規(guī)制范圍,而不是以產(chǎn)品宣稱(chēng)的目標(biāo)服務(wù)對(duì)象劃定界線,解決了當(dāng)前兒童觸網(wǎng)途徑多樣的難題,既將當(dāng)前眾多的網(wǎng)絡(luò)信息產(chǎn)品以及聯(lián)網(wǎng)玩具、智能音箱等新型的數(shù)字產(chǎn)品涵蓋其中,又適用于未來(lái)可能出現(xiàn)的新技術(shù)、新產(chǎn)品、新應(yīng)用,具有較為普遍的適用性和良好的前瞻性。

    2. 最小化使用數(shù)據(jù),防止信息濫用與泄漏

    未成年人在虛擬世界受到的安全威脅大部分與隱私相關(guān),因此,有效保護(hù)未成年人相關(guān)的隱私數(shù)據(jù)至關(guān)重要?!稖?zhǔn)則》特別要求企業(yè)最小化使用未成年人相關(guān)數(shù)據(jù),從原則、技術(shù)、存儲(chǔ)三方面提出了具體要求。一是在原則方面,要求企業(yè)僅收集必需的、最低量的個(gè)人數(shù)據(jù),這些數(shù)據(jù)應(yīng)僅限于與保障服務(wù)有關(guān)的必要內(nèi)容,且應(yīng)在兒童或監(jiān)護(hù)人知情的情況下進(jìn)行收集。2023年4月4日,英國(guó)信息專(zhuān)員辦公室宣布對(duì)TikTok公司罰款1 270萬(wàn)英鎊,原因是該公司在未經(jīng)監(jiān)護(hù)人同意的情況下處理了近100萬(wàn)英國(guó)13歲以下兒童的數(shù)據(jù)。[5]二是在用戶界面設(shè)計(jì)方面,要求產(chǎn)品默認(rèn)采取高隱私設(shè)置,減少數(shù)據(jù)收集的行為。由于未成年人在使用相關(guān)產(chǎn)品時(shí),很少改變默認(rèn)設(shè)置,所以企業(yè)應(yīng)將產(chǎn)品的默認(rèn)設(shè)置定為高隱私標(biāo)準(zhǔn),以減少數(shù)據(jù)收集與使用,從而保護(hù)未成年人的信息安全。且在用戶改變默認(rèn)設(shè)置時(shí),企業(yè)要給出適齡、明顯的提示信息,提醒未成年人應(yīng)在與家長(zhǎng)或其他成年人交流后再對(duì)設(shè)置進(jìn)行改變。此外,對(duì)一些重要的隱私信息,《準(zhǔn)則》特別作出強(qiáng)制性保護(hù)要求,如考慮到地理位置信息的泄漏可能直接威脅未成年人現(xiàn)實(shí)生活的安全,因此地理位置數(shù)據(jù)應(yīng)默認(rèn)關(guān)閉,除非企業(yè)提供了令人信服的合理理由。三是數(shù)據(jù)存儲(chǔ)時(shí)間應(yīng)盡可能短,只在必需的最短時(shí)間內(nèi)存儲(chǔ)數(shù)據(jù)。這一要求可減少因數(shù)據(jù)意外泄漏導(dǎo)致未成年人隱私泄漏的風(fēng)險(xiǎn)?!稖?zhǔn)則》還要求不得共享未成年人相關(guān)數(shù)據(jù),除非有足夠信服的合法理由。這種最小化使用數(shù)據(jù)的原則可以最大限度防范未成年人數(shù)據(jù)濫用與泄漏。

    為符合英國(guó)的《準(zhǔn)則》,全球眾多互聯(lián)網(wǎng)公司紛紛更新自己的產(chǎn)品和服務(wù)。如TikTok就在2021年2月,對(duì)16歲以下用戶的默認(rèn)隱私設(shè)置功能進(jìn)行了更新(見(jiàn)表1),以符合《準(zhǔn)則》要求。[6]

    個(gè)人數(shù)據(jù)的保護(hù)需要兼顧用戶使用相關(guān)網(wǎng)絡(luò)產(chǎn)品和服務(wù)的體驗(yàn),確保隱私保護(hù)與數(shù)據(jù)處理效率的平衡,《準(zhǔn)則》因此確立了區(qū)分核心處理場(chǎng)景與非核心處理場(chǎng)景的差別授權(quán)模式。核心處理場(chǎng)景指處理的數(shù)據(jù)是提供網(wǎng)絡(luò)核心服務(wù)不可或缺的,服務(wù)提供者已經(jīng)與兒童訂立服務(wù)合同且該兒童具有締結(jié)合同的法律能力,出于維護(hù)兒童合法利益或執(zhí)行公共任務(wù)的目的對(duì)兒童個(gè)人數(shù)據(jù)進(jìn)行處理,無(wú)須征得監(jiān)護(hù)人同意。①主要包括用戶賬戶創(chuàng)建和管理、用戶提交內(nèi)容的處理和存儲(chǔ)、為實(shí)現(xiàn)應(yīng)用程序功能而進(jìn)行的數(shù)據(jù)分析。[7]在核心處理場(chǎng)景中,企業(yè)無(wú)須每次在處理個(gè)人數(shù)據(jù)的行為時(shí),尋求未成年人和監(jiān)護(hù)人的授權(quán),這就提高了相關(guān)信息的處理效率,確保了產(chǎn)品具有較好的用戶體驗(yàn)。非核心處理場(chǎng)景指提供核心服務(wù)以外的其他業(yè)務(wù)(如開(kāi)展?fàn)I銷(xiāo)、改進(jìn)服務(wù)、使用cookies或類(lèi)似技術(shù)、與第三方共享、特殊類(lèi)別數(shù)據(jù)處理等),須征得13周歲以下兒童的監(jiān)護(hù)人或13周歲以上未成年人本人的同意。

    區(qū)分核心與非核心場(chǎng)景的數(shù)據(jù)處理原則,根據(jù)數(shù)據(jù)用途和未成年人的判斷能力,賦予企業(yè)不同的處理權(quán)限和程序,這樣既確保了對(duì)未成年人個(gè)人信息提供必要的保護(hù),又保證了對(duì)必需、合法數(shù)據(jù)進(jìn)行處理的效率,減少了部分不必要的監(jiān)護(hù)人同意流程,避免監(jiān)護(hù)人出現(xiàn)“同意疲勞”的情況,實(shí)現(xiàn)了未成年人網(wǎng)絡(luò)保護(hù)的效率和效力的平衡。

    3. 明確網(wǎng)絡(luò)產(chǎn)品適齡設(shè)計(jì)要求

    國(guó)際上將未成年人具備處理自身數(shù)據(jù)權(quán)力的年齡,稱(chēng)為數(shù)據(jù)同意年齡。英國(guó)和美國(guó)將13歲定為數(shù)據(jù)同意年齡,歐洲其他國(guó)家為16歲。我國(guó)《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》將數(shù)據(jù)同意年齡設(shè)定為14歲。不同年齡的未成年人在網(wǎng)絡(luò)需求、判斷能力和應(yīng)對(duì)安全風(fēng)險(xiǎn)能力等方面存在差異,如6歲、9歲、14歲,三個(gè)年齡階段的兒童網(wǎng)絡(luò)需求和自我保護(hù)能力是完全不同的,通過(guò)單一年齡界限以二元化的方式對(duì)未成年人進(jìn)行劃分,會(huì)出現(xiàn)保護(hù)不足與保護(hù)過(guò)度并存的問(wèn)題,影響保護(hù)制度的執(zhí)行效力。

    《準(zhǔn)則》打破了以單一年齡界限二元式劃分未成年人的網(wǎng)絡(luò)保護(hù)模式,而是根據(jù)未成年人對(duì)規(guī)則的認(rèn)知理解能力、社會(huì)關(guān)系參與程度、面臨的數(shù)據(jù)風(fēng)險(xiǎn)情況、網(wǎng)絡(luò)產(chǎn)品用途等指標(biāo),將18歲以下的未成年人分為五個(gè)年齡階段:0—5歲為學(xué)齡前期、6—9歲為學(xué)齡初期、10—12歲為過(guò)渡期、13—15歲為青少年初期、16—17歲為即將成年期?!稖?zhǔn)則》圍繞透明度、家長(zhǎng)控制、助推技術(shù)、在線工具四方面,針對(duì)各年齡段未成年人用戶設(shè)立了相應(yīng)的網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)指引(見(jiàn)下頁(yè)表2)。指引不僅列出禁止企業(yè)做什么,還明確網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)應(yīng)該做什么,引導(dǎo)企業(yè)開(kāi)發(fā)適合未成年人年齡階段的產(chǎn)品和服務(wù)。對(duì)企業(yè)而言,《準(zhǔn)則》具有非常強(qiáng)的可操作性,在開(kāi)發(fā)和提供產(chǎn)品與服務(wù)的過(guò)程中能夠有據(jù)可依。尤其是對(duì)一些中小企業(yè)而言,相較于禁止性指令,《準(zhǔn)則》的要求更為明確和具有可操作性。

    4. 為助推、算法推薦等關(guān)鍵技術(shù)畫(huà)紅線

    手機(jī)應(yīng)用程序等具有強(qiáng)大吸引力的原因,一定程度上是其在技術(shù)層面的某些設(shè)置容易致人沉迷上癮,未成年人更是難以抵擋其誘惑。因此,需在產(chǎn)品開(kāi)發(fā)設(shè)計(jì)階段對(duì)這些關(guān)鍵技術(shù)設(shè)定應(yīng)用邊界,以有效保護(hù)未成年人。《準(zhǔn)則》對(duì)助推和算法推薦等技術(shù)畫(huà)定了應(yīng)用紅線。

    一方面,限制助推技術(shù),保護(hù)兒童隱私。《準(zhǔn)則》要求企業(yè)“不要使用助推技術(shù)來(lái)引導(dǎo)或鼓勵(lì)兒童提供不必要的個(gè)人數(shù)據(jù),以及削弱或關(guān)閉他們的隱私保護(hù)功能”。助推技術(shù)是指產(chǎn)品或服務(wù)的提供者刻意引導(dǎo)或鼓勵(lì)用戶在決策時(shí)遵循設(shè)計(jì)者設(shè)置的默認(rèn)選項(xiàng)。如當(dāng)一些設(shè)計(jì)者希望獲得用戶授權(quán)時(shí),會(huì)把同意授權(quán)的選項(xiàng)做得更為顯眼?!稖?zhǔn)則》認(rèn)為,在線上服務(wù)設(shè)計(jì)中使用助推技術(shù),可能導(dǎo)致用戶被鼓勵(lì)允許平臺(tái)獲取比他們自愿提供的更多的個(gè)人數(shù)據(jù),損害兒童的利益。2018年,兒童保護(hù)組織5Rights曾發(fā)表報(bào)告,揭示商家會(huì)使用行為科學(xué)和心理學(xué)理論來(lái)操縱兒童放棄更多個(gè)人數(shù)據(jù),包括延長(zhǎng)他們的上網(wǎng)時(shí)間等,以獲取更多商業(yè)利益。[8]《準(zhǔn)則》限制助推技術(shù)潛在的不良應(yīng)用場(chǎng)景,眾多互聯(lián)網(wǎng)公司都響應(yīng)《準(zhǔn)則》要求,對(duì)自己的產(chǎn)品進(jìn)行了調(diào)整(見(jiàn)下頁(yè)表3)。

    《準(zhǔn)則》鼓勵(lì)善用助推技術(shù)以促進(jìn)兒童健康成長(zhǎng)和保護(hù)兒童隱私。如兒童應(yīng)用POPJAM就使用助推技術(shù)來(lái)激勵(lì)兒童進(jìn)行創(chuàng)意表達(dá)和負(fù)責(zé)任的在線行為。當(dāng)用戶與其他用戶進(jìn)行積極互動(dòng)時(shí),平臺(tái)會(huì)獎(jiǎng)勵(lì)其虛擬貼紙(見(jiàn)下頁(yè)圖1)和其他應(yīng)用內(nèi)物品。這種助推有助于營(yíng)造一個(gè)支持性和適齡的兒童網(wǎng)絡(luò)空間。[9]

    另一方面,為算法推薦畫(huà)紅線,從技術(shù)底層防沉迷。當(dāng)下,算法技術(shù)得到廣泛應(yīng)用,自動(dòng)推薦已成為眾多網(wǎng)絡(luò)應(yīng)用的標(biāo)配?!稖?zhǔn)則》對(duì)這類(lèi)技術(shù)畫(huà)定了紅線:企業(yè)對(duì)使用未成年用戶個(gè)人數(shù)據(jù)進(jìn)行內(nèi)容推薦等信息處理行為負(fù)責(zé),且應(yīng)將使用用戶數(shù)據(jù)進(jìn)行特征分析的選項(xiàng)默認(rèn)設(shè)置為“關(guān)閉”,只有用戶主動(dòng)設(shè)置為“開(kāi)啟”后,方可運(yùn)行相關(guān)程序。上述對(duì)助推和算法推薦等關(guān)鍵技術(shù)的規(guī)制,可以從技術(shù)底層著手,減少使未成年人沉迷的信息產(chǎn)品的出現(xiàn)。

    5. 為未成年人提供在線輔助工具

    實(shí)現(xiàn)未成年人權(quán)利框架中的自我權(quán)利,支持未成年人在對(duì)自己有影響的事務(wù)中表達(dá)觀點(diǎn),企業(yè)需提供具體的技術(shù)支持。《準(zhǔn)則》要求企業(yè)為未成年人提供在線輔助工具,幫助其簡(jiǎn)單輕松地行使自身權(quán)利。企業(yè)要建立兒童緊急投訴、請(qǐng)求機(jī)制,允許未成年人陳述緊急情況,并根據(jù)相應(yīng)情況迅速采取行動(dòng)。在使用用戶的個(gè)人數(shù)據(jù)時(shí),企業(yè)要適時(shí)通知并“一口氣解釋”,讓未成年人及時(shí)與監(jiān)護(hù)人進(jìn)行交流。在未成年人試圖改變隱私設(shè)置時(shí),提供適合其年齡的解釋和提示,以預(yù)防這種改變可能引發(fā)的風(fēng)險(xiǎn)。未成年人的注意力、理解力的特殊性,要求企業(yè)在溝通過(guò)程中,以與未成年人年齡相符的友好方式傳達(dá)信息,通過(guò)圖標(biāo)、漫畫(huà)、圖形、視頻和音頻等形式,以游戲化和交互方式,吸引未成年人的注意,激發(fā)未成年人的興趣,而不是僅僅提供文字信息,以確保信息的有效傳遞。

    6. 為家長(zhǎng)提供在線控制工具

    家長(zhǎng)作為保護(hù)未成年人網(wǎng)絡(luò)安全的重要主體,在網(wǎng)絡(luò)空間履行監(jiān)護(hù)義務(wù)時(shí),面臨一定的技術(shù)障礙。《準(zhǔn)則》要求企業(yè)為父母或監(jiān)護(hù)人提供在線活動(dòng)控制工具。同時(shí),對(duì)家長(zhǎng)在線控制工具提供的功能做了較為詳細(xì)的要求,主要包括:設(shè)置兒童使用時(shí)長(zhǎng)、就寢時(shí)間、網(wǎng)站訪問(wèn)白名單、限制應(yīng)用內(nèi)購(gòu)買(mǎi)、監(jiān)控兒童在線活動(dòng)、跟蹤地理位置等功能。這些工具為家長(zhǎng)保護(hù)未成年人的網(wǎng)絡(luò)安全提供了較好的技術(shù)支持?!稖?zhǔn)則》公布后,眾多企業(yè)都按照要求提供了相關(guān)的家長(zhǎng)控制工具。2021年5月,TikTok推出了家長(zhǎng)控制工具Family Pairing,幫助家長(zhǎng)限制孩子接觸到的內(nèi)容,并確保其在線行為的安全(見(jiàn)表4)。[10]近年來(lái),媒體報(bào)道眾多未成年人在直播中巨額打賞、在氪金游戲中購(gòu)買(mǎi)昂貴的裝備等事件,如果相關(guān)應(yīng)用程序提供了應(yīng)用內(nèi)購(gòu)買(mǎi)限制功能,將極大減少此類(lèi)事件的發(fā)生。此外,《準(zhǔn)則》還要求企業(yè)提供家長(zhǎng)工具時(shí),需提示該選項(xiàng)適合的未成年人年齡信息,以便家長(zhǎng)更好地履行監(jiān)護(hù)義務(wù)賦能?!稖?zhǔn)則》還要求在運(yùn)行家長(zhǎng)控制工具時(shí)給未成年人顯著提醒信息,以維護(hù)其必要的知情權(quán)。

    企業(yè)提供功能強(qiáng)大的家長(zhǎng)工具,一定程度上解決了家長(zhǎng)在保護(hù)未成年人網(wǎng)絡(luò)安全中能力不足的問(wèn)題,有利于更好地發(fā)揮家庭在保護(hù)未成年人網(wǎng)絡(luò)安全中的作用。

    7. 為企業(yè)提供風(fēng)險(xiǎn)評(píng)估工具

    《準(zhǔn)則》第2條要求,對(duì)企業(yè)處理未成年人數(shù)據(jù)可能給其權(quán)利帶來(lái)的影響,應(yīng)使用數(shù)據(jù)保護(hù)影響評(píng)估模板(Data Protection Impact Assessment,DPIA)等工具進(jìn)行系統(tǒng)性分析,及時(shí)、準(zhǔn)確了解自身履行相關(guān)責(zé)任情況。

    數(shù)據(jù)保護(hù)影響評(píng)估模板是英國(guó)數(shù)據(jù)保護(hù)機(jī)構(gòu)制定的一項(xiàng)個(gè)人數(shù)據(jù)保護(hù)制度,旨在幫助企業(yè)識(shí)別和降低風(fēng)險(xiǎn)。DPIA可以幫助企業(yè)遵循《準(zhǔn)則》要求的數(shù)據(jù)最小化原則、訪問(wèn)控制工具、默認(rèn)設(shè)置等要求(見(jiàn)下頁(yè)表5),以保護(hù)兒童的隱私權(quán)和在線安全,降低企業(yè)無(wú)意違規(guī)的風(fēng)險(xiǎn),避免可能的法律糾紛和罰款,還可提高用戶對(duì)企業(yè)的信任度,增強(qiáng)品牌聲譽(yù)和客戶忠誠(chéng)度。

    8. 設(shè)置階梯式執(zhí)行工具箱

    制度執(zhí)行方面,《準(zhǔn)則》設(shè)置了從輕到重的階梯式執(zhí)行工具箱,包括評(píng)估通知、警告、申斥、執(zhí)行通知和處罰通知(行政罰款)。《準(zhǔn)則》雖不具有法律約束力,卻是整個(gè)英國(guó)數(shù)據(jù)保護(hù)制度的重要構(gòu)件,英國(guó)《數(shù)據(jù)保護(hù)法》指出,信息服務(wù)需要遵循標(biāo)準(zhǔn),以便“確保它們遵守?cái)?shù)據(jù)保護(hù)法規(guī)定的保護(hù)兒童在線數(shù)據(jù)的義務(wù)”。對(duì)于嚴(yán)重違反數(shù)據(jù)保護(hù)原則的行為,可罰款2 000萬(wàn)歐元或企業(yè)每年全球營(yíng)業(yè)額的4%,以較高者為準(zhǔn)。這一套從提醒注意到高額經(jīng)濟(jì)處罰的執(zhí)行工具,具有一定的可操作性和合理的處罰力度,為《準(zhǔn)則》的有效實(shí)施提供了很好的保證。

    三、《準(zhǔn)則》的啟示

    當(dāng)前,我國(guó)未成年人網(wǎng)絡(luò)保護(hù)工作面臨的主要問(wèn)題有:一是理念方面,仍然延續(xù)數(shù)字化社會(huì)之前的保護(hù)遠(yuǎn)離的理念,未能針對(duì)互聯(lián)網(wǎng)設(shè)備廣泛普及的新情況更新保護(hù)理念;二是制度方面,宏觀法律法規(guī)等制度較多,具體可實(shí)踐可操作的標(biāo)準(zhǔn)鮮見(jiàn),對(duì)網(wǎng)絡(luò)產(chǎn)品的關(guān)鍵技術(shù)和功能的規(guī)制不足;三是相關(guān)保護(hù)制度對(duì)主客體差異性考慮不足,針對(duì)不同年齡階段未成年網(wǎng)民需求和能力差異的考慮較少,對(duì)不同類(lèi)型網(wǎng)絡(luò)產(chǎn)品對(duì)未成年人的安全威脅程度的區(qū)分不夠;四是對(duì)多元主體參與未成年人網(wǎng)絡(luò)保護(hù)的具體支持不夠,未成年人網(wǎng)絡(luò)保護(hù)需要企業(yè)、家庭、社會(huì)等的多方參與,目前我國(guó)各主體參與度不夠,特別是在技術(shù)支持方面還不是很充分。

    1. 轉(zhuǎn)變保護(hù)理念,從“保護(hù)兒童遠(yuǎn)離數(shù)字世界”到“保護(hù)數(shù)字世界的兒童”

    我國(guó)未成年人網(wǎng)絡(luò)保護(hù)工作主要依靠青少年保護(hù)模式等技術(shù)工具,這類(lèi)工具限制使用時(shí)間、時(shí)長(zhǎng)等,以減少未成年人與互聯(lián)網(wǎng)的接觸,這類(lèi)基于遠(yuǎn)離理念的限制使用行為的措施,對(duì)防止未成年人沉迷于數(shù)字產(chǎn)品有一定的效果。不過(guò),隨著數(shù)字技術(shù)的發(fā)展,在當(dāng)前的情況下,無(wú)論是在學(xué)習(xí)、娛樂(lè)還是生活中,讓未成年人遠(yuǎn)離數(shù)字世界顯然已不現(xiàn)實(shí)。

    《準(zhǔn)則》基于兒童利益最大化原則,依循“保護(hù)數(shù)字世界的兒童,而不是保護(hù)兒童遠(yuǎn)離數(shù)字世界”的理念,建立網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)指引,推動(dòng)建立有益于未成年人成長(zhǎng)的數(shù)字生活環(huán)境。這一做法超越僅僅為目標(biāo)提供保護(hù)的理念,兼顧未成年人的保護(hù)與賦權(quán)發(fā)展,著眼建立對(duì)兒童友好的數(shù)字世界,適應(yīng)新的社會(huì)發(fā)展?fàn)顩r和兒童成長(zhǎng)需求。

    此外,在當(dāng)下互聯(lián)網(wǎng)產(chǎn)品眾多的情況下,如何設(shè)立兒童網(wǎng)絡(luò)安全保護(hù)邊界是個(gè)難題,《準(zhǔn)則》以未成年人“可能接觸”原則,劃定需遵循未成年人保護(hù)制度的網(wǎng)絡(luò)產(chǎn)品范圍,具有較好覆蓋性和前瞻性。

    2. 抓住未成年人網(wǎng)絡(luò)保護(hù)的關(guān)鍵主體和核心環(huán)節(jié),建立技術(shù)規(guī)范指引

    雖然我國(guó)頒布了不少保護(hù)未成年人網(wǎng)絡(luò)安全的法律法規(guī),但大多為宏觀的理念性、原則性表述,缺少對(duì)關(guān)鍵主體——互聯(lián)網(wǎng)企業(yè)和核心環(huán)節(jié)網(wǎng)絡(luò)產(chǎn)品的具體制度要求。企業(yè)為未成年人提供了具體的網(wǎng)絡(luò)服務(wù)產(chǎn)品,進(jìn)而構(gòu)建了未成年人的網(wǎng)絡(luò)生活環(huán)境,因此對(duì)企業(yè)和網(wǎng)絡(luò)產(chǎn)品的規(guī)制至關(guān)重要。對(duì)企業(yè)開(kāi)發(fā)設(shè)計(jì)網(wǎng)絡(luò)產(chǎn)品應(yīng)建立明確具體的約束制度,從而提高保護(hù)的效率和效力。

    《準(zhǔn)則》將法律法規(guī)的原則性條文轉(zhuǎn)化為具體可操作的明確規(guī)則,為網(wǎng)絡(luò)產(chǎn)品制定了具體的設(shè)計(jì)標(biāo)準(zhǔn),給企業(yè)提供了可操作的遵循指南,讓未成年人網(wǎng)絡(luò)保護(hù)工作具有可操作性和可控制性。我國(guó)有必要依據(jù)《未成年人保護(hù)法》《個(gè)人信息保護(hù)法》《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》等法律法規(guī),制定更為具體、可操作的網(wǎng)絡(luò)產(chǎn)品制作出版標(biāo)準(zhǔn),深化未成年人網(wǎng)絡(luò)保護(hù)法律法規(guī)的實(shí)踐指引。

    《準(zhǔn)則》圍繞未成年人網(wǎng)絡(luò)保護(hù)的關(guān)鍵主體和核心環(huán)節(jié),針對(duì)互聯(lián)網(wǎng)企業(yè)和網(wǎng)絡(luò)產(chǎn)品設(shè)立有益于未成年人健康成長(zhǎng)的設(shè)計(jì)標(biāo)準(zhǔn)。盡管網(wǎng)絡(luò)產(chǎn)品千差萬(wàn)別,但抓住默認(rèn)設(shè)置、數(shù)據(jù)使用、信息樣式等核心功能和算法推薦、助推技術(shù)等關(guān)鍵技術(shù)制定相關(guān)規(guī)則,確實(shí)可以起到四兩撥千斤的作用。這種對(duì)網(wǎng)絡(luò)產(chǎn)品核心功能和關(guān)鍵細(xì)節(jié)立規(guī)定約的方式,是一種基于源頭和底層進(jìn)行治理的理念和方法,將極大提升未成年人網(wǎng)絡(luò)保護(hù)的效果,值得我們參考和借鑒。

    3. 制定針對(duì)性保護(hù)措施,提高制度效能

    不同年齡階段的未成年人在網(wǎng)絡(luò)需求、應(yīng)對(duì)安全風(fēng)險(xiǎn)和判斷能力等方面均存在較大差異,簡(jiǎn)單劃定一個(gè)年齡標(biāo)準(zhǔn)顯然無(wú)法滿足各年齡階段未成年人的保護(hù)與發(fā)展需求?!稖?zhǔn)則》根據(jù)對(duì)規(guī)則的認(rèn)知理解、社會(huì)關(guān)系的參與、面臨的數(shù)據(jù)風(fēng)險(xiǎn)、數(shù)字應(yīng)用的用途等指標(biāo),將18歲以下未成年人細(xì)分為五個(gè)年齡段,確立不同的設(shè)計(jì)標(biāo)準(zhǔn),讓保護(hù)制度的針對(duì)性極大提升。2022年9月,美國(guó)加利福尼亞州頒布的《加州適齡設(shè)計(jì)規(guī)范法案》(The California Age-Appropriate Design Code Act,AB 2273),也完全借鑒了英國(guó)《準(zhǔn)則》的年齡劃分標(biāo)準(zhǔn),這種對(duì)未成年人進(jìn)行分年齡段保護(hù)的做法正在被各國(guó)采納。

    當(dāng)前,我國(guó)網(wǎng)絡(luò)保護(hù)中的監(jiān)護(hù)人同意模式有不少問(wèn)題,眾多功能應(yīng)用頻繁需要監(jiān)護(hù)人同意,且相關(guān)內(nèi)容冗長(zhǎng)晦澀,不少監(jiān)護(hù)人實(shí)際上沒(méi)有閱讀內(nèi)容即勾選“同意”選項(xiàng),“同意疲勞”現(xiàn)象較為普遍。此外,不少家長(zhǎng)缺乏足夠的時(shí)間與精力來(lái)監(jiān)督孩子的上網(wǎng)時(shí)間和上網(wǎng)活動(dòng),對(duì)游戲等新奇的網(wǎng)絡(luò)應(yīng)用不熟悉、不了解,部分監(jiān)護(hù)人自身不具備網(wǎng)絡(luò)使用技能,家長(zhǎng)監(jiān)督的效果不佳。英國(guó)網(wǎng)絡(luò)適齡設(shè)計(jì)制度區(qū)分應(yīng)用的核心場(chǎng)景和非核心場(chǎng)景,根據(jù)同意內(nèi)容的必要性實(shí)施同意確認(rèn)程序,省去了監(jiān)護(hù)人與兒童的部分不必要確認(rèn)程序,既保證了重要、必要信息的高效處理,也提高了保護(hù)的效率和效力,這一做法值得我們參考。

    4. 提供技術(shù)工具,賦權(quán)賦能多元主體有效參與

    未成年人網(wǎng)絡(luò)安全保護(hù)需企業(yè)、家庭、社會(huì)各方的共同參與,在實(shí)踐中企業(yè)缺乏有效可靠的具體執(zhí)行標(biāo)準(zhǔn)及自我核查工具,一些家長(zhǎng)及未成年人在履行保護(hù)能力和條件方面存在一定的困難。《準(zhǔn)則》為企業(yè)提供了產(chǎn)品設(shè)計(jì)的標(biāo)準(zhǔn)以及自我評(píng)估工具,讓保護(hù)責(zé)任的落實(shí)更加明確和可操作?!稖?zhǔn)則》要求企業(yè)分別為家長(zhǎng)及未成年人提供有效的網(wǎng)絡(luò)保護(hù)工具,這種技術(shù)賦能極大提升了家長(zhǎng)和未成年人自我保護(hù)的能力。這些賦能賦權(quán)舉措,提高了相關(guān)主體參與保護(hù)的能力,有利于形成多元主體共同參與未成年人網(wǎng)絡(luò)安全保護(hù)的良好格局。

    參考文獻(xiàn):

    [1] 共青團(tuán)中央維護(hù)青少年權(quán)益部,中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心. 2021年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告[EB/OL].[2022-11-30].https://news.youth.cn/gn/202211/t20221130_14165457.htm.

    [2] 中華人民共和國(guó)未成年人保護(hù)法[EB/OL].[2020-10-17].http://www.npc.gov.cn/npc/c30834/202010/82a8f1b84350432cac03b1e382ee1744.shtml.

    [3] 國(guó)家新聞出版署. 國(guó)家新聞出版署關(guān)于防止未成年人沉迷網(wǎng)絡(luò)游戲的通知[EB/OL].[2019-11-19].https://www.nppa.gov.cn/nppa/contents/312/74539.shtml.https://www.nppa.gov.cn/nppa/contents/312/74539.shtml.

    [4] ICO. Background to the children's code[EB/OL].[2022-02-07]. https://ico.org.uk/about-the-ico/what-we-do/background-to-the-children-s-code/.

    [5] McCallum S, Gerken T, Kleinman Z. TikTok fined £12.7m for misusing children's data[EB/OL].[2023-04-04].https://www.bbc.com/news/uk-65175902.

    [6] TikTok. 隱私政策調(diào)整說(shuō)明[EB/OL].[2021-01-31].https://newsroom.tiktok.com/en-us/strengthening-privacy-and-safety-for-youth.

    [7] Shilton K. Data Leverage: A Framework for Empowering the Public in its Relationship with Technology Companies[J]. Journal of Information Policy, 2018(8):46-71.

    [8] Baroness Beeban Kidron. Digital Childhood - Addressing Childhood Development Milestones in the Digital Environment[EB/OL].[2017-12-31]. https://5rightsfoundation.com/static/Digital_Childhood_report_-_EMBARGOED.pdf.

    [9] PopJam[EB/OL].[2023-06-30].https://www.popjam.com/.

    [10] TikTok. Introducing Family Pairing[EB/OL].[2023-06-30].https://newsroom.tiktok.com/en-us/introducing-family-pairing.

    Protecting Children in the Digital World: Concepts, Tools and Systems

    ——UK Age Appropriate Design Code and Its Implications

    ZHANG JIAN-jun(Journalism and Communication College, Tianjin Normal University, Tianjin 300387,? China)

    Abstract: Protecting the online safety of a vast number of minors is a pressing global issue. The UK's Age Appropriate Design Code aims to establish universal standards for digital content creation and has become a crucial institutional innovation for safeguarding minors online worldwide. The code adheres to the principle of "protecting children within the digital world, rather than shielding them from it", delineates the scope of application based on the "likelihood of access" principle, and sets up a three-principle framework to maximize children's interests. It establishes standards for data protection, product design, and essential technologies in various aspects, including setting data protection standards according to application scenarios, formulating online product design requirements based on age groups, and regulating critical technologies such as boosting, default settings, and recommendation algorithms. This code offers valuable insights for the conceptual shift, coordination of relevant stakeholders, and development of institutional frameworks in China's efforts to protect minors online.

    Keywords: internet content production standards; age-appropriate design; protection of minors

    基金項(xiàng)目:國(guó)家社會(huì)科學(xué)基金一般項(xiàng)目“我國(guó)互聯(lián)網(wǎng)多元主體合作治理模式研究”(19BXW119)

    作者信息:張建軍(1979— ),男,內(nèi)蒙古鄂爾多斯人,天津師范大學(xué)新聞傳播學(xué)院副教授,主要研究方向:新媒體傳播、互聯(lián)網(wǎng)治理。

    日韩制服骚丝袜av| 男女边吃奶边做爰视频| 亚洲国产精品一区二区三区在线| 丝袜在线中文字幕| 亚洲色图综合在线观看| 99热网站在线观看| 制服丝袜香蕉在线| 久久久欧美国产精品| 97在线人人人人妻| 青春草国产在线视频| 夜夜骑夜夜射夜夜干| 国产av国产精品国产| 亚洲av成人精品一二三区| 九草在线视频观看| 国产色爽女视频免费观看| 97精品久久久久久久久久精品| 欧美性感艳星| 国产伦精品一区二区三区视频9| .国产精品久久| 精品一区二区三卡| 最近的中文字幕免费完整| 18禁在线无遮挡免费观看视频| 免费观看a级毛片全部| 亚洲在久久综合| av专区在线播放| 欧美丝袜亚洲另类| 久久ye,这里只有精品| 99热国产这里只有精品6| 少妇被粗大猛烈的视频| 亚洲天堂av无毛| 亚洲天堂av无毛| 一级毛片黄色毛片免费观看视频| www.av在线官网国产| 色5月婷婷丁香| 中国美白少妇内射xxxbb| 男人添女人高潮全过程视频| 一区二区三区乱码不卡18| 日本午夜av视频| 成人亚洲精品一区在线观看| 成人免费观看视频高清| 精品少妇黑人巨大在线播放| 一个人免费看片子| 18禁在线播放成人免费| 日韩大片免费观看网站| 最新的欧美精品一区二区| 三级国产精品欧美在线观看| 插逼视频在线观看| 国产免费福利视频在线观看| 亚洲成色77777| 国产精品不卡视频一区二区| 嫩草影院入口| 亚洲内射少妇av| 国产午夜精品久久久久久一区二区三区| 国产精品人妻久久久久久| 99热这里只有是精品50| 国产一区有黄有色的免费视频| av在线老鸭窝| 亚洲人成网站在线播| av在线播放精品| 大片电影免费在线观看免费| 九色成人免费人妻av| 久久人人爽人人爽人人片va| 一区在线观看完整版| 全区人妻精品视频| 国产成人一区二区在线| 十八禁高潮呻吟视频 | 又爽又黄a免费视频| 成人二区视频| 国产精品99久久99久久久不卡 | 黄色日韩在线| 午夜免费男女啪啪视频观看| 性色av一级| 热99国产精品久久久久久7| 久久青草综合色| 日韩av免费高清视频| 亚州av有码| 如日韩欧美国产精品一区二区三区 | 九草在线视频观看| 十八禁高潮呻吟视频 | 熟女电影av网| 欧美三级亚洲精品| 国产女主播在线喷水免费视频网站| 国产精品一区二区三区四区免费观看| 国产伦精品一区二区三区四那| 精品一品国产午夜福利视频| 欧美变态另类bdsm刘玥| 欧美97在线视频| 国产美女午夜福利| 色婷婷av一区二区三区视频| 久久久亚洲精品成人影院| 中文字幕人妻丝袜制服| 99精国产麻豆久久婷婷| 精品酒店卫生间| 自线自在国产av| 免费黄色在线免费观看| 99久国产av精品国产电影| 国产高清有码在线观看视频| 欧美日韩视频高清一区二区三区二| 免费观看无遮挡的男女| 精品少妇内射三级| 有码 亚洲区| 久久人人爽人人爽人人片va| 免费av中文字幕在线| 成人国产av品久久久| 久久免费观看电影| 中国美白少妇内射xxxbb| 国产日韩欧美视频二区| 国产欧美日韩一区二区三区在线 | 人人妻人人添人人爽欧美一区卜| 欧美精品国产亚洲| 亚洲国产av新网站| 五月伊人婷婷丁香| 亚洲天堂av无毛| 国产熟女午夜一区二区三区 | 日日啪夜夜撸| 日韩av不卡免费在线播放| 午夜福利,免费看| 人妻 亚洲 视频| 狠狠精品人妻久久久久久综合| 欧美丝袜亚洲另类| 秋霞在线观看毛片| av女优亚洲男人天堂| 亚洲欧美中文字幕日韩二区| 精品卡一卡二卡四卡免费| 精品少妇内射三级| 热99国产精品久久久久久7| 欧美丝袜亚洲另类| 国产精品嫩草影院av在线观看| 大片免费播放器 马上看| 人人妻人人添人人爽欧美一区卜| kizo精华| 18禁在线无遮挡免费观看视频| 春色校园在线视频观看| 一本大道久久a久久精品| 视频中文字幕在线观看| 777米奇影视久久| 成人漫画全彩无遮挡| 亚洲情色 制服丝袜| 黑人猛操日本美女一级片| 一级毛片黄色毛片免费观看视频| 91午夜精品亚洲一区二区三区| 精品一区二区免费观看| 国产熟女午夜一区二区三区 | 久久久久国产精品人妻一区二区| 亚洲婷婷狠狠爱综合网| 能在线免费看毛片的网站| 精品国产国语对白av| 国产高清有码在线观看视频| 97在线视频观看| 国产男人的电影天堂91| 多毛熟女@视频| av免费在线看不卡| 亚洲自偷自拍三级| av一本久久久久| 91精品伊人久久大香线蕉| 91精品伊人久久大香线蕉| 国产黄片视频在线免费观看| 18禁在线播放成人免费| 免费观看无遮挡的男女| 成人特级av手机在线观看| 18禁裸乳无遮挡动漫免费视频| 欧美少妇被猛烈插入视频| 黑人猛操日本美女一级片| 一级a做视频免费观看| 国产伦精品一区二区三区视频9| 欧美老熟妇乱子伦牲交| 欧美丝袜亚洲另类| 97在线人人人人妻| 国产色婷婷99| 在线亚洲精品国产二区图片欧美 | 国产精品免费大片| 亚洲伊人久久精品综合| 91aial.com中文字幕在线观看| 亚洲精品自拍成人| 纵有疾风起免费观看全集完整版| 国产在线视频一区二区| 成人免费观看视频高清| 亚洲性久久影院| 人妻 亚洲 视频| 国产乱人偷精品视频| 在线观看人妻少妇| 嘟嘟电影网在线观看| 国产成人aa在线观看| 高清不卡的av网站| 伦理电影免费视频| 桃花免费在线播放| 日本色播在线视频| 日日啪夜夜撸| 深夜a级毛片| 亚洲精品,欧美精品| 欧美精品一区二区大全| 黑丝袜美女国产一区| 伊人久久精品亚洲午夜| 高清视频免费观看一区二区| 男人爽女人下面视频在线观看| 99九九线精品视频在线观看视频| 亚洲欧美日韩卡通动漫| 亚洲婷婷狠狠爱综合网| 国产国拍精品亚洲av在线观看| 亚洲欧洲国产日韩| av福利片在线| 在线观看三级黄色| 国产一区亚洲一区在线观看| 国产欧美日韩综合在线一区二区 | 亚洲av在线观看美女高潮| tube8黄色片| 久久这里有精品视频免费| 国产午夜精品一二区理论片| 日本黄色片子视频| 最近2019中文字幕mv第一页| 晚上一个人看的免费电影| 伊人久久国产一区二区| 欧美老熟妇乱子伦牲交| 色94色欧美一区二区| 亚洲精品一二三| 久久久精品免费免费高清| 大又大粗又爽又黄少妇毛片口| 91精品国产九色| 女的被弄到高潮叫床怎么办| 少妇的逼水好多| 十八禁网站网址无遮挡 | 91aial.com中文字幕在线观看| 中国美白少妇内射xxxbb| 免费看光身美女| 三上悠亚av全集在线观看 | 精品久久久噜噜| 国产精品人妻久久久久久| 亚洲第一区二区三区不卡| 日本黄大片高清| av福利片在线观看| 99精国产麻豆久久婷婷| 寂寞人妻少妇视频99o| 日本免费在线观看一区| 国产精品成人在线| 亚洲欧美精品自产自拍| 一级,二级,三级黄色视频| 亚洲av中文av极速乱| 国内少妇人妻偷人精品xxx网站| 男女边摸边吃奶| 亚洲天堂av无毛| 国产伦精品一区二区三区视频9| 亚洲内射少妇av| 亚洲国产精品一区三区| 丰满迷人的少妇在线观看| 午夜免费鲁丝| 日韩一区二区三区影片| 亚洲精品中文字幕在线视频 | 日韩成人av中文字幕在线观看| 97在线视频观看| 日日摸夜夜添夜夜爱| 青青草视频在线视频观看| 久久精品久久精品一区二区三区| 日日爽夜夜爽网站| 久久6这里有精品| av卡一久久| 黄色视频在线播放观看不卡| 国产精品久久久久久精品电影小说| 99热全是精品| 成年av动漫网址| a级毛色黄片| 精品亚洲乱码少妇综合久久| 国产精品一区二区三区四区免费观看| 三级国产精品欧美在线观看| 亚洲欧美精品专区久久| 最新中文字幕久久久久| 国产精品秋霞免费鲁丝片| 亚洲综合色惰| 黑人猛操日本美女一级片| 91精品伊人久久大香线蕉| 天堂俺去俺来也www色官网| 久久婷婷青草| 两个人免费观看高清视频 | 寂寞人妻少妇视频99o| av免费在线看不卡| 成人漫画全彩无遮挡| 日日摸夜夜添夜夜爱| 国产av国产精品国产| 久久久久精品性色| 久久久久精品性色| 久久久久久久大尺度免费视频| 观看免费一级毛片| 中文字幕人妻丝袜制服| 91aial.com中文字幕在线观看| 天天躁夜夜躁狠狠久久av| freevideosex欧美| 日本av免费视频播放| 男女免费视频国产| 91午夜精品亚洲一区二区三区| 97超视频在线观看视频| 午夜激情久久久久久久| 青青草视频在线视频观看| 多毛熟女@视频| 日本爱情动作片www.在线观看| 春色校园在线视频观看| 欧美成人精品欧美一级黄| 久久国产精品男人的天堂亚洲 | 国产女主播在线喷水免费视频网站| 午夜av观看不卡| 日韩三级伦理在线观看| 久久精品国产自在天天线| 国产精品人妻久久久影院| 日韩强制内射视频| 一本大道久久a久久精品| 久久久久久久大尺度免费视频| 免费看av在线观看网站| 国产精品伦人一区二区| 免费看不卡的av| 精品国产一区二区三区久久久樱花| 亚洲激情五月婷婷啪啪| 国产真实伦视频高清在线观看| 日韩中文字幕视频在线看片| 视频中文字幕在线观看| av国产久精品久网站免费入址| av不卡在线播放| 韩国av在线不卡| 欧美日韩亚洲高清精品| av在线app专区| 男女无遮挡免费网站观看| 亚洲成色77777| 欧美精品一区二区大全| 免费人妻精品一区二区三区视频| 人妻人人澡人人爽人人| 能在线免费看毛片的网站| 国产精品99久久99久久久不卡 | 三上悠亚av全集在线观看 | 精品国产露脸久久av麻豆| 国产亚洲5aaaaa淫片| 免费久久久久久久精品成人欧美视频 | 亚洲精品第二区| 99热6这里只有精品| 在线观看一区二区三区激情| 欧美激情国产日韩精品一区| 天天操日日干夜夜撸| 久久国产乱子免费精品| 国产精品人妻久久久影院| 热99国产精品久久久久久7| 丝瓜视频免费看黄片| 一个人看视频在线观看www免费| 在线观看av片永久免费下载| 又粗又硬又长又爽又黄的视频| a级毛片免费高清观看在线播放| 成人漫画全彩无遮挡| 少妇猛男粗大的猛烈进出视频| 国产在视频线精品| 国产一区有黄有色的免费视频| 少妇高潮的动态图| 69精品国产乱码久久久| 国产一区亚洲一区在线观看| 毛片一级片免费看久久久久| 秋霞在线观看毛片| 在线观看人妻少妇| 免费大片黄手机在线观看| 五月伊人婷婷丁香| 欧美日韩视频高清一区二区三区二| 简卡轻食公司| 久久这里有精品视频免费| 亚洲精品自拍成人| 国产精品国产三级国产av玫瑰| 久久97久久精品| 久久人人爽人人片av| 国产探花极品一区二区| 这个男人来自地球电影免费观看 | 久久人人爽人人爽人人片va| 91久久精品国产一区二区成人| 美女cb高潮喷水在线观看| 国产精品99久久99久久久不卡 | 国产欧美亚洲国产| 人体艺术视频欧美日本| 免费高清在线观看视频在线观看| 菩萨蛮人人尽说江南好唐韦庄| 噜噜噜噜噜久久久久久91| 一本一本综合久久| 亚洲图色成人| 久久毛片免费看一区二区三区| 久久久亚洲精品成人影院| 又粗又硬又长又爽又黄的视频| 嫩草影院入口| 亚洲精品乱码久久久v下载方式| 99re6热这里在线精品视频| a级毛片在线看网站| 精品午夜福利在线看| 中文字幕av电影在线播放| 97精品久久久久久久久久精品| 极品少妇高潮喷水抽搐| 精品人妻熟女毛片av久久网站| 国产成人freesex在线| 美女脱内裤让男人舔精品视频| 国产精品国产三级专区第一集| 亚洲天堂av无毛| 国产极品粉嫩免费观看在线 | 大香蕉97超碰在线| 精品99又大又爽又粗少妇毛片| 在线观看免费视频网站a站| 欧美最新免费一区二区三区| 亚洲真实伦在线观看| av免费在线看不卡| 夜夜骑夜夜射夜夜干| 亚洲精品国产av蜜桃| 欧美高清成人免费视频www| 大话2 男鬼变身卡| 成人国产av品久久久| 一级黄片播放器| 老女人水多毛片| 在线精品无人区一区二区三| 插逼视频在线观看| 免费观看在线日韩| 亚洲精品色激情综合| 日日爽夜夜爽网站| 精品人妻一区二区三区麻豆| 汤姆久久久久久久影院中文字幕| 色视频在线一区二区三区| 晚上一个人看的免费电影| 日韩成人伦理影院| 3wmmmm亚洲av在线观看| 国产高清有码在线观看视频| 91久久精品国产一区二区成人| h日本视频在线播放| 亚洲av中文av极速乱| 亚洲熟女精品中文字幕| 亚洲av电影在线观看一区二区三区| 日韩 亚洲 欧美在线| 观看免费一级毛片| 99精国产麻豆久久婷婷| 日韩精品有码人妻一区| 国产成人免费无遮挡视频| 乱人伦中国视频| 极品少妇高潮喷水抽搐| 在线亚洲精品国产二区图片欧美 | 美女大奶头黄色视频| 久久精品国产自在天天线| 精品少妇内射三级| 极品少妇高潮喷水抽搐| 国产男女超爽视频在线观看| 国产精品人妻久久久影院| 我要看黄色一级片免费的| 国产日韩欧美亚洲二区| 亚洲经典国产精华液单| 婷婷色综合大香蕉| 黄色怎么调成土黄色| 久久99热6这里只有精品| 国产一区二区三区综合在线观看 | 少妇人妻 视频| 能在线免费看毛片的网站| 国产精品一二三区在线看| 另类亚洲欧美激情| 亚洲精品日韩在线中文字幕| 国产高清国产精品国产三级| 最近的中文字幕免费完整| 又爽又黄a免费视频| 麻豆乱淫一区二区| 18+在线观看网站| 日韩av在线免费看完整版不卡| 一级片'在线观看视频| 高清欧美精品videossex| av在线app专区| av网站免费在线观看视频| 啦啦啦在线观看免费高清www| 欧美 亚洲 国产 日韩一| 中文字幕久久专区| 国产 一区精品| 王馨瑶露胸无遮挡在线观看| 在线观看一区二区三区激情| av网站免费在线观看视频| 久久6这里有精品| 伊人久久国产一区二区| 寂寞人妻少妇视频99o| 日韩三级伦理在线观看| 一本一本综合久久| 国产成人午夜福利电影在线观看| 一区在线观看完整版| 国产片特级美女逼逼视频| 国产淫语在线视频| 国产精品偷伦视频观看了| 午夜福利视频精品| av专区在线播放| 日日啪夜夜撸| 国产黄片视频在线免费观看| 韩国av在线不卡| 免费观看在线日韩| 久久久久久久久大av| 啦啦啦视频在线资源免费观看| 亚洲三级黄色毛片| 精品人妻偷拍中文字幕| 97在线视频观看| 日日爽夜夜爽网站| 欧美丝袜亚洲另类| 国产欧美亚洲国产| 国产黄色免费在线视频| 免费观看无遮挡的男女| 人人妻人人看人人澡| 少妇人妻 视频| 五月天丁香电影| 少妇高潮的动态图| 亚洲综合色惰| 男人爽女人下面视频在线观看| 国产一区二区三区综合在线观看 | 人人妻人人添人人爽欧美一区卜| 中文字幕亚洲精品专区| 亚洲av国产av综合av卡| 日本爱情动作片www.在线观看| 老熟女久久久| 国产极品天堂在线| 午夜免费鲁丝| 乱码一卡2卡4卡精品| 亚洲一区二区三区欧美精品| 成人无遮挡网站| 国产精品麻豆人妻色哟哟久久| 成人毛片a级毛片在线播放| 国产免费一区二区三区四区乱码| 欧美97在线视频| 如日韩欧美国产精品一区二区三区 | av天堂久久9| 欧美成人精品欧美一级黄| 男女啪啪激烈高潮av片| 91在线精品国自产拍蜜月| 久久久a久久爽久久v久久| 国产精品成人在线| 91精品国产国语对白视频| 乱码一卡2卡4卡精品| 纵有疾风起免费观看全集完整版| 成人影院久久| 久久久国产欧美日韩av| 日韩av在线免费看完整版不卡| 久久综合国产亚洲精品| 国产黄色视频一区二区在线观看| 国产精品.久久久| 国产男人的电影天堂91| 建设人人有责人人尽责人人享有的| 日韩欧美一区视频在线观看 | 成人无遮挡网站| 久久婷婷青草| 菩萨蛮人人尽说江南好唐韦庄| 精品一区二区三区视频在线| 少妇被粗大的猛进出69影院 | 91精品一卡2卡3卡4卡| 中文欧美无线码| 97精品久久久久久久久久精品| 久久久久久久久久久免费av| 大码成人一级视频| 亚洲成人一二三区av| 国产永久视频网站| 校园人妻丝袜中文字幕| 日本91视频免费播放| 婷婷色麻豆天堂久久| 亚洲四区av| 麻豆成人av视频| 精品久久久久久电影网| 免费看日本二区| 久久人妻熟女aⅴ| 观看美女的网站| 亚洲图色成人| 一区在线观看完整版| 人妻人人澡人人爽人人| 美女中出高潮动态图| 桃花免费在线播放| 乱系列少妇在线播放| 欧美激情国产日韩精品一区| 日韩不卡一区二区三区视频在线| 日本黄色片子视频| 插逼视频在线观看| 美女xxoo啪啪120秒动态图| 精品一品国产午夜福利视频| 哪个播放器可以免费观看大片| 99久久精品国产国产毛片| 久久久欧美国产精品| 中文精品一卡2卡3卡4更新| 在线观看www视频免费| 美女脱内裤让男人舔精品视频| 美女福利国产在线| av视频免费观看在线观看| 一区二区三区精品91| 99热全是精品| 免费观看av网站的网址| 亚洲欧美日韩卡通动漫| 不卡视频在线观看欧美| 亚洲一级一片aⅴ在线观看| 特大巨黑吊av在线直播| av播播在线观看一区| 亚洲va在线va天堂va国产| 在线播放无遮挡| 人人妻人人澡人人看| 久久久久久久国产电影| 在线观看av片永久免费下载| 王馨瑶露胸无遮挡在线观看| 久久国产精品大桥未久av | 乱系列少妇在线播放| 久久久久久久久久久久大奶| 大片免费播放器 马上看| 一级爰片在线观看| 亚洲av.av天堂| 在线免费观看不下载黄p国产| 久久久久久久久久人人人人人人| 六月丁香七月| 国产伦理片在线播放av一区| 高清av免费在线| 国产高清三级在线| 一区在线观看完整版| 在现免费观看毛片| 中文字幕人妻丝袜制服| 国产精品女同一区二区软件| 精品亚洲成a人片在线观看| 少妇人妻久久综合中文| 天堂俺去俺来也www色官网| 亚洲av欧美aⅴ国产| 国产中年淑女户外野战色| 高清午夜精品一区二区三区| 久久97久久精品| 亚洲成色77777| 一级毛片久久久久久久久女| 一级毛片aaaaaa免费看小| 国产精品免费大片| 国产在线一区二区三区精| 欧美日韩精品成人综合77777| 国产 精品1| 欧美区成人在线视频|