網(wǎng)絡(luò)視聽未成年人準(zhǔn)入限制和監(jiān)管對(duì)策研究

曾潔

摘? 要? 近年來(lái)，網(wǎng)絡(luò)視聽行業(yè)蓬勃發(fā)展，已成為未成年人接受教育、獲取娛樂的重要途徑。盡管近些年來(lái)國(guó)家監(jiān)管部門及行業(yè)組織先后制定頒布了網(wǎng)絡(luò)視聽節(jié)目管理政策、通則，其中都有涉及對(duì)未成年人保護(hù)的相關(guān)條例，內(nèi)容監(jiān)管范圍逐漸與傳統(tǒng)廣播電視保持同一標(biāo)準(zhǔn)、同一尺度，但是因網(wǎng)絡(luò)行業(yè)市場(chǎng)的復(fù)雜性，致使網(wǎng)絡(luò)視聽在實(shí)際監(jiān)管過(guò)程中仍面臨很大挑戰(zhàn)。文章對(duì)國(guó)內(nèi)未成年人網(wǎng)絡(luò)視聽監(jiān)管政策進(jìn)行梳理，并以酷狗直播、虎牙直播、荔枝FM對(duì)未成年人準(zhǔn)入限制標(biāo)準(zhǔn)化流程作為分析案例，結(jié)合實(shí)際監(jiān)管工作經(jīng)驗(yàn)，對(duì)網(wǎng)絡(luò)視聽未成年人監(jiān)管對(duì)策提出建議。

關(guān)鍵詞? 網(wǎng)絡(luò)視聽;未成年人;準(zhǔn)入限制;監(jiān)管對(duì)策

共青團(tuán)中央維護(hù)青少年權(quán)益部和中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心聯(lián)合發(fā)布的《2018年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》（以下簡(jiǎn)稱“報(bào)告”）顯示，我國(guó)未成年網(wǎng)民規(guī)模達(dá)1.69億，未成年人的互聯(lián)網(wǎng)普及率達(dá)到93.7%，明顯高于同期全國(guó)人口的互聯(lián)網(wǎng)普及率（57.7%），由此可見，青少年群體正在成為互聯(lián)網(wǎng)使用的重要媒體受眾[1]。

網(wǎng)絡(luò)世界給未成年人提供了一個(gè)開拓眼界、尋求知識(shí)途徑的快捷平臺(tái)，但未成年人自我控制和判別是非的能力尚且有限，如接受到未經(jīng)篩選過(guò)濾的不良信息，容易對(duì)其思想品德以及行為模式的形成產(chǎn)生負(fù)面影響。

近年來(lái)國(guó)家監(jiān)管部門及行業(yè)組織先后制定頒布了網(wǎng)絡(luò)視聽節(jié)目管理政策、通則，其中都有涉及對(duì)未成年人保護(hù)的相關(guān)條例，這些監(jiān)管政策主要針對(duì)哪些方面？網(wǎng)絡(luò)視聽平臺(tái)又是如何根據(jù)政策設(shè)置未成年人準(zhǔn)入限制？本文梳理國(guó)內(nèi)未成年人網(wǎng)絡(luò)視聽監(jiān)管政策，并以酷狗直播、虎牙直播、荔枝FM的未成年人準(zhǔn)入限制流程作為分析案例，結(jié)合實(shí)際監(jiān)管工作經(jīng)驗(yàn)，對(duì)加強(qiáng)網(wǎng)絡(luò)視聽未成年人的有效監(jiān)管提出對(duì)策建議。

1? 國(guó)內(nèi)未成年人網(wǎng)絡(luò)視聽監(jiān)管政策

近年來(lái)，國(guó)家在為未成年人營(yíng)造健康的網(wǎng)絡(luò)環(huán)境方面不斷完善相關(guān)政策法規(guī)，加大監(jiān)管力度。2007年文化部頒布的《網(wǎng)絡(luò)表演經(jīng)營(yíng)活動(dòng)管理辦法》中規(guī)定有未成年人參與的網(wǎng)絡(luò)表演，不得侵犯未成年人權(quán)益，可以說(shuō)是網(wǎng)絡(luò)視聽對(duì)未成年人保護(hù)的初步探索階段，其中并未有相關(guān)監(jiān)管細(xì)則。之后，國(guó)家監(jiān)管部門及行業(yè)組織先后制定頒布了網(wǎng)絡(luò)視聽節(jié)目管理政策、通則，其中都有涉及對(duì)未成年人保護(hù)的相關(guān)條例（表1）。

2019年4月，國(guó)家廣電總局發(fā)布《未成年人節(jié)目管理規(guī)定》，專門對(duì)未成年人節(jié)目的制作、傳播、監(jiān)管和法律責(zé)任作了詳細(xì)規(guī)定，涵蓋廣播電視和網(wǎng)絡(luò)視聽行業(yè)，線上線下標(biāo)準(zhǔn)統(tǒng)一。新規(guī)明確了16條未成年人節(jié)目禁止的內(nèi)容，并對(duì)未成年人參與節(jié)目制作、廣告播出等內(nèi)容明確了細(xì)節(jié)條款，確立了未成年人節(jié)目的價(jià)值觀導(dǎo)向、提倡節(jié)目分級(jí)、設(shè)立未成年人專區(qū)、播前審查制度、強(qiáng)化防沉迷機(jī)制等，形成網(wǎng)絡(luò)視聽內(nèi)容監(jiān)管的政策生態(tài)系統(tǒng)，標(biāo)志著國(guó)家對(duì)未成年人在網(wǎng)絡(luò)傳播領(lǐng)域中獲得保護(hù)的制度化和規(guī)范化邁出了重要一步，同時(shí)，對(duì)未來(lái)未成年人節(jié)目傳播的法治秩序具有重要意義。

2019年12月，中宣部、中央網(wǎng)信辦、國(guó)家廣電總局、國(guó)家衛(wèi)生健康委等12個(gè)部門聯(lián)合下發(fā)了《關(guān)于印發(fā)健康中國(guó)行動(dòng)——兒童青少年心理健康行動(dòng)方案（2019—2022年）的通知》，該文件關(guān)于營(yíng)造兒童青少年心理健康環(huán)境方面，要求新聞出版、網(wǎng)信、廣播電視等管理部門要加大對(duì)網(wǎng)絡(luò)內(nèi)容的監(jiān)管力度，及時(shí)發(fā)現(xiàn)清理網(wǎng)上與兒童青少年有關(guān)的非法有害出版物及信息，重點(diǎn)清查問(wèn)題較多的網(wǎng)絡(luò)游戲、網(wǎng)絡(luò)直播、短視頻、教育類App等，打擊網(wǎng)絡(luò)賭博、血腥暴力、色情低俗類網(wǎng)站和App，為兒童青少年?duì)I造良好的網(wǎng)絡(luò)環(huán)境。

2? 網(wǎng)絡(luò)視聽平臺(tái)未成年人準(zhǔn)入限制案例分析

對(duì)于國(guó)家陸續(xù)發(fā)布的針對(duì)未成年人的監(jiān)管政策，網(wǎng)絡(luò)視聽內(nèi)容平臺(tái)如何落實(shí)監(jiān)管條例？廣州市廣播電視監(jiān)測(cè)中心在對(duì)廣州地區(qū)具較大規(guī)模和社會(huì)影響力的網(wǎng)絡(luò)視聽平臺(tái)進(jìn)行日常監(jiān)測(cè)時(shí)發(fā)現(xiàn)，荔枝FM、酷狗直播、虎牙直播三家平臺(tái)通過(guò)技術(shù)手段對(duì)未成年人準(zhǔn)入限制設(shè)置標(biāo)準(zhǔn)化流程，監(jiān)管舉措相對(duì)較為完善，為同行業(yè)提供了一定借鑒。

2.1? 酷狗直播

酷狗直播青少年模式于2018年上線，并設(shè)立兒童專區(qū)內(nèi)容。2019年對(duì)青少年模式優(yōu)化，并開始不斷充實(shí)兒童內(nèi)容專屬內(nèi)容池。另從技術(shù)視角采用智能算法推薦加信息流的模式，基于青少年愛好，精準(zhǔn)推薦內(nèi)容，構(gòu)建起青少年與網(wǎng)絡(luò)有害信息之間的防火墻。酷狗直播在主播簽約時(shí)、開播前、開播中建立三重防護(hù)，通過(guò)芝麻認(rèn)證系統(tǒng)和平臺(tái)自有系統(tǒng)檢測(cè)設(shè)置未成年人入駐限制。三重防護(hù)機(jī)制具體如下：

簽約時(shí)，采用芝麻認(rèn)證系統(tǒng)，運(yùn)用OCR文字識(shí)別+人臉核身技術(shù)，檢測(cè)注冊(cè)者和身份證信息是否是本人，并自動(dòng)識(shí)別身份證出生年月信息，未滿18周歲無(wú)法入駐，不能成為主播。

開播前，采用芝麻認(rèn)證系統(tǒng)，運(yùn)用人臉核身技術(shù)，檢測(cè)開播者和注冊(cè)者信息是否為同一人，防止未成年人用別人賬號(hào)開播。主播每次開播時(shí)均會(huì)檢測(cè)開播日期與注冊(cè)身份證年齡，未滿18周歲限制開播，用戶無(wú)法看到直播畫面。

開播中，運(yùn)用平臺(tái)人臉核身技術(shù)，系統(tǒng)自動(dòng)實(shí)時(shí)檢測(cè)，當(dāng)前開播人是否是注冊(cè)者，非本人將限制或封號(hào)處理;系統(tǒng)每5分鐘自動(dòng)監(jiān)控是否為非本人直播，并人工復(fù)審，確認(rèn)為非本人直播的主播進(jìn)行限制開播或封房或封號(hào)處理。開播中同時(shí)開通全民監(jiān)督渠道，實(shí)施全民監(jiān)管，建立7×24小時(shí)用戶舉報(bào)機(jī)制，無(wú)間斷處理用戶舉報(bào)的違規(guī)行為。平臺(tái)提供直播間舉報(bào)、客服中心訂單舉報(bào)、找客服在線舉報(bào)三種途徑，讓全平臺(tái)用戶參與監(jiān)督，任何非本人直播或未成人直播均為舉報(bào)處理，一旦確認(rèn)違規(guī)則限制開播或封號(hào)處理。

2.2? 虎牙直播

目前，虎牙直播青少年模式只支持虎牙直播App及iPad版本。用戶可通過(guò)App每日啟動(dòng)彈窗，或設(shè)置-青少年模式進(jìn)入，并按引導(dǎo)設(shè)置監(jiān)護(hù)密碼即可進(jìn)入青少年模式。

在青少年模式下，用戶可以觀看未成年人相關(guān)的視頻內(nèi)容，但無(wú)法進(jìn)行充值打賞、購(gòu)買兌換、彈幕評(píng)論、視頻直播等互動(dòng)性操作。

虎牙直播還設(shè)置了防沉迷設(shè)置，每日22時(shí)至次日6時(shí)將無(wú)法使用，單日累計(jì)使用時(shí)長(zhǎng)超過(guò)40分鐘，需要輸入監(jiān)護(hù)密碼才能繼續(xù)使用?；⒀乐辈ネ瑫r(shí)利用自身研發(fā)的AI技術(shù)實(shí)時(shí)監(jiān)控識(shí)別對(duì)青少年有不良影響的直播畫面，該類技術(shù)可以實(shí)現(xiàn)對(duì)畫面中人物的服裝、年齡、樣貌、動(dòng)作的高效識(shí)別，極大提升了審核效率，為青少年的直播開啟另一道保護(hù)屏障。

2.3? 荔枝FM

荔枝FM于2019年上線了青少年保護(hù)模式，通過(guò)限制使用時(shí)長(zhǎng)、限制充值消費(fèi)、限制使用時(shí)段等方式來(lái)保護(hù)未成年用戶的權(quán)益。

該模式適用于所有未成年用戶或者家里有小孩，需要控制小孩合理使用荔枝App的父母。通過(guò)這個(gè)模式，未成年用戶可培育良好的應(yīng)用使用習(xí)慣，更容易找到適合自己的節(jié)目，家長(zhǎng)也能更好保護(hù)孩子。通過(guò)點(diǎn)擊我的→設(shè)置→青少年模式，可以開關(guān)該模式。在該模式下，用戶使用荔枝App超過(guò)40分鐘需要輸入監(jiān)護(hù)密碼才能繼續(xù)使用;提現(xiàn)、充值等涉及敏感操作需要輸入監(jiān)護(hù)密碼確認(rèn)后才會(huì)生效;每天夜晚22：00至次日早上6：00無(wú)法使用荔枝App。針對(duì)用戶自行開啟該模式的歷史習(xí)慣進(jìn)行分析?？头谝褜?shí)名的用戶中抽調(diào)部分進(jìn)行回訪，了解賬號(hào)使用情況、是否將賬號(hào)與小孩共享使用，根據(jù)回訪的情況人工打上標(biāo)簽。

3? 加強(qiáng)未成年人網(wǎng)絡(luò)視聽有效監(jiān)管的對(duì)策建議

3.1? 消除內(nèi)容審核中的彈性區(qū)域和模糊地帶

根據(jù)對(duì)2019年全年廣州市網(wǎng)絡(luò)視聽節(jié)目持證網(wǎng)站違規(guī)情況統(tǒng)計(jì)的分析，發(fā)現(xiàn)網(wǎng)站淫穢色情和低俗內(nèi)容占比高達(dá)56.2%，其次恐怖暴力和丑惡行為、危害社會(huì)公德和封建迷信內(nèi)容等。有不少視聽網(wǎng)站是沒有設(shè)置未成年人保護(hù)模式，意味著這些網(wǎng)站將成為其接受違規(guī)內(nèi)容的渠道。但是，對(duì)于核定該違規(guī)范疇的界定標(biāo)準(zhǔn)和尺度并無(wú)較明確的統(tǒng)一規(guī)定，在監(jiān)管審核中成為“彈性區(qū)域”和“模糊地帶”。特別是對(duì)于“擦邊球”的行為，在審查環(huán)境相對(duì)寬松時(shí)有可能得到允許，反之則會(huì)被整頓或禁止。這也是目前政府監(jiān)管部門以及平臺(tái)審核的一個(gè)困境。因?yàn)?，目前網(wǎng)絡(luò)視聽內(nèi)容審核普遍存在問(wèn)題是平臺(tái)系統(tǒng)智能審核遺漏。國(guó)家現(xiàn)行的審核規(guī)則和標(biāo)準(zhǔn)還很難將人工智能審核條件定義精準(zhǔn)化，從而影響網(wǎng)絡(luò)視聽內(nèi)容審核的廣度和精度。例如，2019年1月9日中國(guó)網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會(huì)發(fā)布的《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》中的100條標(biāo)準(zhǔn)里面很多標(biāo)注“如”的示例都被用“略”字省去，這在政策指引方面無(wú)法給網(wǎng)絡(luò)視聽平臺(tái)提供更精準(zhǔn)的指導(dǎo)，也會(huì)形成行業(yè)監(jiān)管的模糊地帶。

近年來(lái)，隨著抖音、快手等短視頻視聽平臺(tái)的盛起，越發(fā)受到未成年人受眾關(guān)注，根據(jù)《2018年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》，未成年人用戶自制的短視頻使用比例達(dá)到40.5%。因此制定細(xì)化的審核標(biāo)準(zhǔn)是消除彈性區(qū)域和模糊地帶的重要途徑。

3.2? 監(jiān)管部門和平臺(tái)共建共享審核數(shù)據(jù)庫(kù)

網(wǎng)絡(luò)視聽行業(yè)近年來(lái)發(fā)展種類多樣、增長(zhǎng)速度快。面對(duì)海量的內(nèi)容審核，審核監(jiān)管難度大。目前，監(jiān)管部門各機(jī)構(gòu)沒有建立起行業(yè)共享的敏感詞庫(kù)。如實(shí)時(shí)更新共享詞庫(kù)，及時(shí)解釋網(wǎng)絡(luò)敏感用語(yǔ)，就可以防范隱喻、暗諷等高難度的違規(guī)問(wèn)題，不但提升企業(yè)審核效率，而且一定程度上會(huì)降低政府監(jiān)管成本。由監(jiān)管部門與行業(yè)組織牽頭共建審核詞庫(kù)，確保國(guó)家監(jiān)管與平臺(tái)自律管理的內(nèi)容同步、一致，從而形成對(duì)違規(guī)網(wǎng)絡(luò)視聽節(jié)目?jī)?nèi)容聯(lián)防聯(lián)控的數(shù)據(jù)化高效管理。如去年以來(lái)，監(jiān)測(cè)中心幾次發(fā)現(xiàn)一些平臺(tái)傳播的外文歌曲涉及到導(dǎo)向偏離、而且涉性低俗，如日文歌曲《威風(fēng)堂堂》是一首情色音樂，歌手Eminem發(fā)布新專輯中的一首歌《Farewell》中內(nèi)容低俗、暴力。隨著未成年人接觸國(guó)外的視音頻內(nèi)容越來(lái)越多，其外語(yǔ)能力已不斷的提升，平臺(tái)上有很多低俗涉黃涉性的內(nèi)容，容易對(duì)青少年三觀產(chǎn)生負(fù)面影響，有的平臺(tái)因?qū)徍藭r(shí)受語(yǔ)言限制，未能有效甄別。如果政府、行業(yè)、平臺(tái)合力構(gòu)建數(shù)據(jù)審核庫(kù)，不斷更新違規(guī)內(nèi)容樣本，平臺(tái)AI系統(tǒng)根據(jù)樣本識(shí)別違規(guī)內(nèi)容的精準(zhǔn)度和廣度將大幅度提升，這將有效建立起過(guò)濾不良信息的防火墻。

3.3? 加強(qiáng)政府監(jiān)管的柔性治理

“平臺(tái)—政府”規(guī)制范式下，規(guī)制方式由強(qiáng)制執(zhí)行轉(zhuǎn)向協(xié)調(diào)實(shí)施，更多地采用產(chǎn)業(yè)標(biāo)準(zhǔn)、利益引導(dǎo)等柔性治理方式[2]。政府監(jiān)管的目標(biāo)是引導(dǎo)與激勵(lì)視聽內(nèi)容繁榮、產(chǎn)業(yè)生態(tài)健康，促使視聽平臺(tái)依法從事網(wǎng)絡(luò)視聽服務(wù)、管理網(wǎng)絡(luò)視聽節(jié)目。因此，監(jiān)管部門按照政策法規(guī)實(shí)施監(jiān)管的同時(shí)，要建立起與網(wǎng)絡(luò)視聽機(jī)構(gòu)的有效溝通機(jī)制。廣州市廣播電視監(jiān)測(cè)中心自2019年以來(lái)建立起了與市屬網(wǎng)絡(luò)視聽節(jié)目持證網(wǎng)站機(jī)構(gòu)的溝通例會(huì)和整改反饋機(jī)制，持證機(jī)構(gòu)對(duì)中心發(fā)布的監(jiān)測(cè)報(bào)告中的違規(guī)問(wèn)題進(jìn)行及時(shí)處理、及時(shí)反饋、及時(shí)更新敏感詞庫(kù)、督導(dǎo)檢查，并對(duì)各平臺(tái)自制傳播的優(yōu)秀正能量?jī)?nèi)容給予通報(bào)肯定，將優(yōu)秀的經(jīng)驗(yàn)分享給各平臺(tái)學(xué)習(xí)借鑒，在鼓勵(lì)其生產(chǎn)優(yōu)質(zhì)視聽內(nèi)容的同時(shí)，促進(jìn)其提升社會(huì)責(zé)任感，增強(qiáng)傳播正能量的內(nèi)驅(qū)力。同時(shí)，加強(qiáng)對(duì)持證機(jī)構(gòu)業(yè)務(wù)培訓(xùn)，除傳達(dá)最新的政策法規(guī)、文件精神，行業(yè)發(fā)展態(tài)勢(shì)外，還以政策解析、案例剖析的方式，就行業(yè)現(xiàn)狀、存在問(wèn)題、解決方案等各方面展開討論，深入了解網(wǎng)絡(luò)視聽平臺(tái)亟待解決的問(wèn)題，以在規(guī)制范圍內(nèi)針對(duì)性地為其提供指導(dǎo)和支持。

3.4? 行業(yè)社會(huì)助力未成年人網(wǎng)絡(luò)素養(yǎng)教育

在網(wǎng)絡(luò)傳播機(jī)制中，對(duì)于網(wǎng)絡(luò)視聽平臺(tái)的監(jiān)督，自律與他律是一個(gè)有機(jī)整體，雖然政府規(guī)制逐漸向平臺(tái)自我規(guī)制演化，但是社會(huì)各界的全面參與和配合也非常關(guān)鍵。隨著網(wǎng)絡(luò)視聽?wèi)?yīng)用的拓展，現(xiàn)已成為未成年人接受教育的一個(gè)不可或缺的途徑，在2020年新型冠狀病毒疫情期間，未成年人依托網(wǎng)絡(luò)視聽平臺(tái)接受教育更是達(dá)到了頂峰。但是在監(jiān)護(hù)人不能現(xiàn)場(chǎng)監(jiān)控的情況下，未成年人對(duì)網(wǎng)絡(luò)視聽平臺(tái)選擇的自由度非常高。在此種情況下，行業(yè)社會(huì)加強(qiáng)對(duì)未成年人的網(wǎng)絡(luò)媒介素養(yǎng)教育尤其重要，使他們正確認(rèn)識(shí)網(wǎng)絡(luò)媒體的積極作用和消極影響，增強(qiáng)辨別是非的能力，并讓其積極主動(dòng)地利用網(wǎng)絡(luò)提高個(gè)人素養(yǎng)。平臺(tái)可以通過(guò)技術(shù)手段對(duì)傳播內(nèi)容進(jìn)行賬戶分級(jí)設(shè)置，盡可能幫助未成年人隔離有害信息，同時(shí)指導(dǎo)學(xué)校和家庭幫助未成年人正確、合理、積極運(yùn)用網(wǎng)絡(luò)視聽資源，從而更好地了解社會(huì)、了解世界、完善知識(shí)，懂知科學(xué)知網(wǎng)、安全上網(wǎng)、文明用網(wǎng)。

參考文獻(xiàn)

[1]2018年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告[R/OL].（2019-03-26）.http：//news.youth.cn/gn/201903/t20190326_11908130.htm.

[2]范海玉，宋望.論當(dāng)代中國(guó)非政府組織自治與政府規(guī)制的法律協(xié)調(diào)[J].河北學(xué)刊，2011（4）：144-147.