“監(jiān)管+自律”整治直播亂象

劉建東

作為一種新興的商業(yè)模式，近兩年，網(wǎng)絡(luò)直播發(fā)展迅猛、熱鬧非凡?；ń?、映客、熊貓、微吼、樂嗨等諸多直播平臺(tái)如雨后春筍，騰訊、新浪、小米等互聯(lián)網(wǎng)企業(yè)和電信企業(yè)也紛紛進(jìn)軍這一領(lǐng)域，網(wǎng)絡(luò)直播已成為2016年最火熱的“互聯(lián)網(wǎng)風(fēng)口”之一。

但直播平臺(tái)亂象叢生、網(wǎng)絡(luò)直播行業(yè)野蠻發(fā)展也是不爭(zhēng)的事實(shí)。文化部7月12日公布，26個(gè)網(wǎng)絡(luò)表演平臺(tái)被查處、16881名違規(guī)網(wǎng)絡(luò)表演者被處理。如何還網(wǎng)絡(luò)直播平臺(tái)清朗？本文淺析網(wǎng)絡(luò)直播亂象產(chǎn)生根源及需要管控的對(duì)象，并從監(jiān)管、技術(shù)、自律等層面進(jìn)行初步探討。

“蟄伏”后迎爆發(fā)式增長(zhǎng)

作為一種全新的信息傳遞手段，網(wǎng)絡(luò)直播顛覆著人們觀察世界、連通世界的方式，為人們提供了一種看世界的新鮮方式。偌大的直播平臺(tái)上，體育、旅游、游戲、教育等多元的直播內(nèi)容層出不窮，無論什么年齡、什么身份的人，都可以前腳跟隨主播的鏡頭，身臨其境看車展，體會(huì)指哪兒到哪兒的便捷，后腳就可以轉(zhuǎn)換頻道進(jìn)入學(xué)習(xí)模式，和“意見領(lǐng)袖”一起探討如何培養(yǎng)孩子的情商……豐富而有張力的網(wǎng)絡(luò)直播內(nèi)容充滿了吸引力，讓越來越多的人尤其是年輕人欲罷不能，而其本身的即視感和互動(dòng)性也迎合了年輕用戶的文化消費(fèi)習(xí)慣。

據(jù)行業(yè)報(bào)告顯示，2015年直播行業(yè)市場(chǎng)規(guī)模約為150億元，到2020年總規(guī)模將激增至1000億元。當(dāng)前網(wǎng)絡(luò)直播平臺(tái)數(shù)量接近200家，網(wǎng)絡(luò)直播平臺(tái)用戶數(shù)量已經(jīng)達(dá)到2億，大型直播平臺(tái)每日高峰時(shí)段同時(shí)在線人數(shù)接近400萬，同時(shí)進(jìn)行直播的房間數(shù)量超過3000個(gè)。可以說，網(wǎng)絡(luò)直播行業(yè)經(jīng)歷兩年“蟄伏”，正迎來爆發(fā)式增長(zhǎng)。

但由于收益模式單一、主播進(jìn)入門檻低，個(gè)別直播平臺(tái)為獲取利潤(rùn)，盯住“很黃很暴力”做文章，鋌而走險(xiǎn)。從“直播造人門”“直播脫衣門”“百人試套”到近期的“雪梨槍淫穢視頻”，表演平臺(tái)淫穢色情事件頻發(fā)，更有涉政、涉暴恐、涉賭毒等違法事件發(fā)生，網(wǎng)絡(luò)直播亂象已經(jīng)嚴(yán)重阻礙了該行業(yè)的快速發(fā)展。

利益驅(qū)使：導(dǎo)致直播亂象頻發(fā)

那么，直播平臺(tái)亂象產(chǎn)生的根源是什么？讓我們從網(wǎng)絡(luò)直播的產(chǎn)業(yè)鏈進(jìn)行分析。

整個(gè)網(wǎng)絡(luò)直播行業(yè)的產(chǎn)業(yè)鏈由直播平臺(tái)、主播、工會(huì)、資本、監(jiān)管機(jī)構(gòu)、用戶、第三方服務(wù)機(jī)構(gòu)等環(huán)節(jié)組成。在網(wǎng)絡(luò)直播過程中，直播平臺(tái)一般由主播和用戶自身及互動(dòng)行為來構(gòu)成，通過文字、視頻、音頻三種渠道傳播各類信息。主播、用戶是產(chǎn)生網(wǎng)絡(luò)亂象的“供需”根源，而文字、視頻、音頻是傳播網(wǎng)絡(luò)亂象的“載體”根源。

首先是“供需”根源：主播按照播出內(nèi)容分為秀場(chǎng)主播、游戲主播、泛生活類主播等，由于利益驅(qū)使，部分主播頻頻突破社會(huì)公德底線，甚至沖撞法律“紅線”；隨著直播平臺(tái)的用戶持續(xù)增長(zhǎng)，一些惡意用戶開始利用直播平臺(tái)的高人氣和影響力發(fā)送不良、違規(guī)信息，直接或間接地促進(jìn)了亂象的擴(kuò)散。

其次是“載體”根源：網(wǎng)絡(luò)直播業(yè)務(wù)中文字分為UGC類（主播頭像、主播昵稱、頻道名稱等）和彈幕類（消息等），尤其是彈幕類內(nèi)容具有傳播速度快、范圍廣、違規(guī)內(nèi)容變化快等特點(diǎn)，依靠傳統(tǒng)“關(guān)鍵字+人工審核”模式不能有效解決內(nèi)容安全問題；目前視頻審核的模式是對(duì)視頻做抽幀截圖處理，然后通過圖片識(shí)別系統(tǒng)過濾，這個(gè)方式存在對(duì)違規(guī)圖片識(shí)別準(zhǔn)確率不高、通過抽幀截圖發(fā)現(xiàn)問題后立即關(guān)閉直播頻道也難以挽回影響的問題；直播業(yè)務(wù)中音頻內(nèi)容監(jiān)管難度大，目前還沒有直播平臺(tái)針對(duì)語音內(nèi)容進(jìn)行識(shí)別，語音內(nèi)容違規(guī)現(xiàn)象頻發(fā)。

此外，還存在直播企業(yè)缺少回溯技術(shù)手段以及應(yīng)急保障機(jī)制、審核團(tuán)隊(duì)能力欠缺，特別是對(duì)涉及意識(shí)形態(tài)問題經(jīng)驗(yàn)欠缺等問題。

三對(duì)策完善內(nèi)容安全建設(shè)

要想維護(hù)網(wǎng)絡(luò)直播領(lǐng)域的清朗，需要政企雙方共同合作，在監(jiān)管和自律兩方面雙管齊下。

在北京市網(wǎng)絡(luò)文化協(xié)會(huì)的組織下，2016年4月13日，百度、新浪、搜狐、愛奇藝等20余家從事網(wǎng)絡(luò)直播的主要企業(yè)負(fù)責(zé)人，共同發(fā)布《北京網(wǎng)絡(luò)直播行業(yè)自律公約》，并逐步建立“黑名單”制度，在自律方面做出了榜樣。

而在監(jiān)管方面，從目前直播內(nèi)容依舊頻繁違規(guī)的現(xiàn)象看，依靠單一的文字識(shí)別或者圖片識(shí)別是不足以解決內(nèi)容合規(guī)問題的，還需要一套完整的內(nèi)容安全體系。因此，可以借力“人工智能”和大數(shù)據(jù)技術(shù)，打造以安全運(yùn)營(yíng)為核心的內(nèi)容安全體系，從事前、事中、事后三方面進(jìn)行整體監(jiān)管。

首先是事前預(yù)防?！胺阑加谖慈弧笔侵卫怼爸辈y象”的重要基礎(chǔ)，直播平臺(tái)、監(jiān)管機(jī)構(gòu)要共同對(duì)主播、“網(wǎng)紅”、用戶等參與方加強(qiáng)宣傳引導(dǎo)，樹立互聯(lián)網(wǎng)良好風(fēng)氣；在技術(shù)上，直播間增加水印，實(shí)行主播實(shí)名制、用戶實(shí)名制等。

其次是事中管控。消息、視頻、音頻、主播信息、用戶信息等渠道都可以傳播違規(guī)內(nèi)容，因此“事中管控”需要包含文字識(shí)別、圖片識(shí)別、音頻識(shí)別、UGC內(nèi)容識(shí)別以及用戶行為分析等技術(shù)。具體來講包括以下四點(diǎn)。

文本識(shí)別：傳統(tǒng)文本識(shí)別技術(shù)主要包含關(guān)鍵字過濾、語義分析、文本指紋等技術(shù)以及近期新興起的基于自然語言的“人工智能”技術(shù)。這些技術(shù)各有利弊，在不同場(chǎng)景產(chǎn)生的效果不盡相同，需要組合應(yīng)用才能降低文本信息的風(fēng)險(xiǎn)。

圖片識(shí)別：該技術(shù)模擬人腦的神經(jīng)網(wǎng)絡(luò)學(xué)識(shí)別圖片，通過大量圖片訓(xùn)練后給圖片打分。主要應(yīng)用于在圖片中識(shí)別文字、識(shí)別人臉、識(shí)別色情信息等三個(gè)場(chǎng)景。在直播領(lǐng)域通過抽幀截圖的方式把視頻變成圖片，然后通過圖片識(shí)別的方式判斷視頻內(nèi)容是否合規(guī)。

語音識(shí)別：該技術(shù)就是讓機(jī)器通過識(shí)別和理解過程把語音信號(hào)轉(zhuǎn)變?yōu)橄鄳?yīng)的文本。在直播業(yè)務(wù)中我們利用該技術(shù)把主播聲音轉(zhuǎn)化成文字內(nèi)容，然后通過文本識(shí)別的方式判斷語音內(nèi)容的合規(guī)性。

用戶行為分析：基于大數(shù)據(jù)分析技術(shù)，是文字、圖片、語音識(shí)別技術(shù)的有力補(bǔ)充，也是識(shí)別違規(guī)內(nèi)容的重要手段之一。例如當(dāng)一個(gè)直播間出現(xiàn)人流量激增、打賞禮物激增等行為時(shí)，可以采取加大監(jiān)控力度等措施。

第三是事后追溯。治理直播亂象僅僅依靠技術(shù)是不夠的，加強(qiáng)法律震懾、提高違法成本也十分重要。例如近期執(zhí)法機(jī)關(guān)對(duì)違規(guī)主播進(jìn)行依法打擊，就產(chǎn)生了極大的震懾作用，在一定程度上遏制了網(wǎng)絡(luò)亂象的持續(xù)發(fā)酵。

治理網(wǎng)絡(luò)亂象不能一棍子打死也不能期望一蹴而就，需要多角色多崗位的長(zhǎng)時(shí)間磨合。在技術(shù)上更需要建立一個(gè)完整的內(nèi)容安全體系，而不能僅依靠某個(gè)手段就完事大吉。