直播間里的“拆彈部隊(duì)”

孫靜

“找茬”

唐卓用手指夾著一根“芙蓉王”，朝朋友的手機(jī)屏幕上吐了一個(gè)挑釁的煙圈。煙未散盡，朋友的映客直播賬號(hào)就被封了。

那是唐卓第一次接觸映客。當(dāng)時(shí)朋友來(lái)家里玩，說(shuō)要開(kāi)直播，有粉絲刷禮物，坐著就能掙錢。最后，他還特別強(qiáng)調(diào)了一句：直播不能抽煙。

“它怎么知道我抽不抽煙？”唐卓不信邪。

一周后，唐卓刷微博時(shí)看到映客在招聘審核員，受好奇心驅(qū)使，她投出了簡(jiǎn)歷。

成為映客審核員以前，這名90后長(zhǎng)沙女孩的職業(yè)理想是當(dāng)一名刑警。

她大學(xué)就讀于湖南司法警官職業(yè)學(xué)院，刑偵專業(yè)方向，夢(mèng)想是破案、抓罪犯。畢業(yè)時(shí)對(duì)口崗位只有獄警。還在實(shí)習(xí)期，她就當(dāng)了逃兵，“監(jiān)獄太壓抑了”。

一個(gè)暖融融的下午，唐卓坐在公司樓下的咖啡館里，說(shuō)自己從業(yè)以來(lái)，直播審核員是她最喜歡的工作。在此之前，她干過(guò)耐克專賣店導(dǎo)購(gòu)、臺(tái)球俱樂(lè)部陪練、微信企業(yè)公眾號(hào)資料審核員，還做過(guò)兼職滴滴司機(jī)。

直播審核員這個(gè)工作，某種意義上講，頗為接近“警察”的角色。她要“抓”的，是平臺(tái)上的違規(guī)主播。

唐卓形容，這工作很像一款經(jīng)典游戲《大家來(lái)找茬》。在8小時(shí)之內(nèi)，她至少盯了1000個(gè)直播片段，并從中找出違規(guī)行為，如低俗、吸煙或駕車直播。

機(jī)器會(huì)對(duì)直播每?jī)擅胱鲆淮谓貓D，傳到圖像識(shí)別內(nèi)容庫(kù)初篩，技術(shù)判定速度達(dá)毫秒級(jí)，識(shí)別率在90%～95%，出現(xiàn)無(wú)法識(shí)別或難以判斷的圖像，則交由唐卓和她的同事做人工審核。

2016年被稱為“直播元年”，據(jù)不完全統(tǒng)計(jì)，全國(guó)大小直播平臺(tái)至少300家，與此同時(shí)，低俗、色情、暴力、炒作的行為也不斷刷新底線。國(guó)家網(wǎng)信辦等部門一年連發(fā)多道“緊箍咒”，規(guī)范直播行業(yè)發(fā)展。

在日益嚴(yán)格的監(jiān)管要求下，內(nèi)容審核員這個(gè)群體成為了視頻直播平臺(tái)不可或缺的“拆彈部隊(duì)”，重要程度關(guān)乎平臺(tái)生死。這并非危言聳聽(tīng)，今年2月，北京首次因涉黃關(guān)停了一家直播平臺(tái)。

花椒直播審核員小冉的工作也是“找茬”。她大學(xué)讀傳媒專業(yè)，覺(jué)得直播平臺(tái)是新媒體，與所學(xué)專業(yè)沾邊，便入了這一行。

入職前，唐卓、小冉對(duì)崗位的理解，均停留在網(wǎng)絡(luò)新聞中的“鑒黃師”層面上。在他們的想象中，視頻審核區(qū)應(yīng)該是一面屏幕密布的監(jiān)控墻，像交管部門那種。而實(shí)際上，審核員每人一臺(tái)電腦、一個(gè)賬號(hào)、一副耳機(jī)，看上去與普通辦公并沒(méi)有兩樣。只有一條規(guī)矩比較特殊——工作時(shí)不允許拍照。

在花椒直播辦公室，“嚴(yán)禁拍照”的超大黑體字貼在花椒直播的監(jiān)控墻旁邊。監(jiān)控墻早已停用，屏幕上落了一層灰。

相關(guān)負(fù)責(zé)人介紹，早期開(kāi)播路數(shù)不多，通過(guò)監(jiān)控墻的屏幕人工檢測(cè)即可，現(xiàn)在每天開(kāi)播路數(shù)達(dá)百萬(wàn)級(jí)，更多的是依賴技術(shù)審核。

由于技術(shù)研發(fā)成本高昂，各平臺(tái)都強(qiáng)調(diào)保密。映客副總裁鐘正陽(yáng)告訴《財(cái)經(jīng)天下》周刊記者，映客的機(jī)器審核系統(tǒng)，僅開(kāi)發(fā)團(tuán)隊(duì)就有30多人，技術(shù)成本達(dá)上千萬(wàn)元。

在任何直播平臺(tái)，審核均屬于最敏感的業(yè)務(wù)部門。審核員入職要簽署保密協(xié)議，不得對(duì)外透露審核規(guī)則或工作具體內(nèi)容。只有兩三個(gè)好友知道唐卓的崗位，其他人問(wèn)她在哪兒上班，她會(huì)以“看視頻的”一語(yǔ)帶過(guò)。

早期，公安部門篩選民警去做鑒黃審核，人選以已婚、大齡、女性為佳。而在直播平臺(tái)，審核員以90后居多。

比如在映客湖南總部的審核員中，員工的平均年齡為25歲～26歲，大專及以上學(xué)歷。鐘正陽(yáng)說(shuō)，招聘面試時(shí)，公司更看重應(yīng)聘者是否沉穩(wěn)、細(xì)心、有責(zé)任感。

這是一群隱于屏幕背后、同欲望作戰(zhàn)的年輕人。屏幕前，主播畫(huà)風(fēng)稍有不對(duì)，他們會(huì)立即出手，輕則一鍵提醒“您的衣著過(guò)于暴露，具有挑逗性，請(qǐng)立即改正”，重則掐斷直播路徑，甚至永久封號(hào)。

這項(xiàng)工作的人員流動(dòng)性相當(dāng)高，很多人會(huì)因?yàn)橐拱?、枯燥、視覺(jué)沖擊、外界壓力抑或缺乏上升空間等原因，干上數(shù)月便匆匆辭職。

唐卓工作快一年，感覺(jué)眼睛已經(jīng)有些吃不消，臉上長(zhǎng)痘，記憶力變差，剛剛26歲就頻繁丟三落四。

在一些招聘網(wǎng)站上搜“視頻審核員”，會(huì)出來(lái)一長(zhǎng)串信息，這從一個(gè)側(cè)面說(shuō)明，該崗位在市場(chǎng)上處于缺人狀態(tài)。

“炸彈”

2016年6月，鐘正陽(yáng)一個(gè)人背著雙肩包來(lái)到長(zhǎng)沙。映客CEO奉佑生給這名“光桿司令”的任務(wù)是：從零開(kāi)始，組建一支“拆彈”部隊(duì)。

7個(gè)月后，映客湖南總部審核員已經(jīng)有430多人，占滿一層樓。加上永州的100多人以及兼職審核員，這支“拆彈”部隊(duì)人數(shù)多時(shí)達(dá)到千人。

映客第一位“拆彈”專家應(yīng)該是奉佑生本人。2015年5月上線時(shí)，團(tuán)隊(duì)只有20人，他兼做內(nèi)容審核。這與其早年的公務(wù)員經(jīng)歷有關(guān)，奉佑生極為重視內(nèi)容安全，“在中國(guó)做一件事，要深深理解你的生命線和頭上的達(dá)摩克利之劍是什么”。

業(yè)內(nèi)普遍認(rèn)為，2015年9月，熱門直播平臺(tái)“17”突遭蘋果下架，這為映客、花椒等新移動(dòng)直播平臺(tái)的崛起豁開(kāi)了一條通道?！?7”剛下架的幾天，花椒的用戶量增長(zhǎng)為平時(shí)3倍。

而“17”被下架的禍?zhǔn)妆闶遣谎艃?nèi)容。有報(bào)道稱，下架前，“17”用戶量達(dá)到700萬(wàn)人，但只有9～14人輪班審核內(nèi)容。

消失了一段時(shí)間之后，等到“17”再度上架，直播江湖格局已變。此番洗牌，也為志在成為頭部陣營(yíng)的直播平臺(tái)叩響第一聲警鐘。

自2016年起，約談、整改和查處已經(jīng)成為視頻行業(yè)的高頻詞。包括映客、YY、花椒、虎牙、斗魚(yú)等移動(dòng)直播平臺(tái)，以及快手、秒拍、小咖秀等短視頻平臺(tái)，均有被監(jiān)管部門要求整改的記錄。

有些平臺(tái)不止一次“上黑榜”，如熊貓直播。公開(kāi)報(bào)道可見(jiàn)，該平臺(tái)一年內(nèi)至少被查處3次，最近一次，是因?yàn)閺椖恍畔⒌退咨椤?p>

直播正成為被高度監(jiān)管的新行業(yè)。奉佑生觀察，一般的政府監(jiān)管，都滯后于行業(yè)發(fā)展，甚至很多行業(yè)發(fā)展了5～10年后，政府監(jiān)管條款才跟上來(lái)。但在直播行業(yè)，國(guó)家網(wǎng)信辦、文化部、廣電總局等五大部門過(guò)去一年內(nèi)史無(wú)前例地發(fā)布了多種監(jiān)管政策。

據(jù)《財(cái)經(jīng)天下》周刊記者不完全統(tǒng)計(jì)，2016年至少有4部與直播直接相關(guān)的法律法規(guī)出臺(tái)。最為嚴(yán)格的是《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》，要求服務(wù)商建立直播內(nèi)容審核平臺(tái)，并具備即時(shí)阻斷直播的技術(shù)。

必須及時(shí)阻斷的，往往是“炸彈”。

何為“炸彈”？目前似乎還沒(méi)有標(biāo)準(zhǔn)答案，因?yàn)檫@份名錄仍在持續(xù)演化。

以映客平臺(tái)《主播管理規(guī)范》為例，違規(guī)項(xiàng)已經(jīng)細(xì)致到服裝款式：如“穿著情趣制服、情趣內(nèi)衣、暴露裝、透視裝、肉色緊身衣、內(nèi)衣外穿、半截抹胸、漁網(wǎng)襪、吊帶襪、三角短褲或呈現(xiàn)三角狀短褲、低腰超短褲、有性暗示文字或圖片的服裝等”，而“短裙或短褲下擺高于臀下線”也是不被允許的。

表演內(nèi)容上，“自虐或攻擊他人的如酗酒、虐待自己、他人或互毆、吃或者展示各種令人不適的物品、活物、死物”以及吸煙、賭博、傳銷、展示毒品等，均屬禁止行為。

具體判定還會(huì)依據(jù)場(chǎng)景佐證。比如賭博，只要直播中存在玩撲克、麻將，且桌面上出現(xiàn)金錢的，視作賭博；而采用撲克、麻將開(kāi)展魔術(shù)表演的，審核時(shí)會(huì)執(zhí)行通過(guò)。

花椒直播相關(guān)負(fù)責(zé)人說(shuō)，他們的內(nèi)部運(yùn)營(yíng)手冊(cè)每季度都會(huì)更新一版。審核部門每周例會(huì)，也會(huì)列出要注意的新情況。

盡管如此，在直播世界，主播試探平臺(tái)底線的小動(dòng)作幾乎每天都會(huì)上演和迭代。欲望是不死不休的驅(qū)動(dòng)力。

作為部分直播平臺(tái)的圖像審核技術(shù)供應(yīng)商，圖普科技市場(chǎng)總監(jiān)李麟感觸很深。他發(fā)現(xiàn)，由客戶新提供的數(shù)據(jù)和定制需求，可以看出主播違規(guī)方式的翻新。如新近開(kāi)發(fā)的“畫(huà)中畫(huà)”識(shí)別技術(shù)，專門針對(duì)主播并不直接涉黃，而是用另外一部手機(jī)拍電腦屏幕的行為。

直播如何審核？映客副總裁鐘正陽(yáng)稱，從用戶創(chuàng)建直播開(kāi)始，審核就已啟動(dòng)。只有用戶名、簽名、上傳圖像等靜態(tài)資料通過(guò)審查后，用戶才能進(jìn)入直播平臺(tái)中。

在技術(shù)層面，涉及圖像識(shí)別、聲音識(shí)別、敏感詞過(guò)濾。其中，圖像識(shí)別有內(nèi)容樣本庫(kù)，由國(guó)家監(jiān)管部門提供，視頻平臺(tái)要照標(biāo)準(zhǔn)去做。

“每一個(gè)對(duì)外能看到的內(nèi)容，我們都有做內(nèi)容審核。”鐘正陽(yáng)說(shuō)，直播行業(yè)受到政府部門高度監(jiān)管，為確保安全，包括社會(huì)重大事件及平臺(tái)重大活動(dòng)，映客都有專項(xiàng)應(yīng)急處理方案，而且部門主管要及時(shí)向上匯報(bào)。

首先發(fā)現(xiàn)各種“擦邊球”的還是審核員。

小冉拆掉的第一個(gè)“炸彈”與“撩”有關(guān)。一個(gè)網(wǎng)紅臉女主播，開(kāi)始只是聊天，后來(lái)畫(huà)風(fēng)驟變，“揉揉這（胸），捏捏那兒（腿）”。小冉回憶時(shí)仍覺(jué)可笑，她甩起胳膊，動(dòng)作夸張地模仿起來(lái)。

在她按下一鍵提醒后，屏幕上曖昧的“小動(dòng)作”隨即消失，又切入聊天模式。從發(fā)現(xiàn)違規(guī)到處理，審核員最快能控制在3～5秒內(nèi)。

最初接觸涉黃信息時(shí)，思想開(kāi)放如小冉，也會(huì)有視覺(jué)不適。入職培訓(xùn)時(shí)，培訓(xùn)師在臺(tái)上翻PPT，一張大尺度色情圖片跳出來(lái)，在場(chǎng)十幾個(gè)人，女同事齊刷刷低頭，男同事也一臉尷尬。

培訓(xùn)師見(jiàn)慣了這種“場(chǎng)面”：這就是你們以后的工作。你們這種狀態(tài)怎么行？第一時(shí)間要去封號(hào)，而不是低頭。

好比打怪升級(jí)，小冉和唐卓這種熟手，甚至?xí){職業(yè)敏感，做出預(yù)判。預(yù)感到有人要打“擦邊球”了，她們會(huì)提前留意。

“有的主播，越說(shuō)情緒越激動(dòng)，這一分鐘沒(méi)說(shuō)臟話，但下一分鐘極可能脫口而出，這時(shí)我就會(huì)多花一段時(shí)間，暗處觀察他?！碧谱空f(shuō)，她會(huì)等著主播違規(guī)，等著觀眾點(diǎn)左上角舉報(bào)，然后收網(wǎng)。如果針對(duì)某位主播的投訴率、舉報(bào)率上升，系統(tǒng)會(huì)自動(dòng)降低其上熱門的幾率。

有平臺(tái)內(nèi)部設(shè)定，每名視頻審核員在一個(gè)直播間只能盯15～20秒，然后就要跳轉(zhuǎn)到另一房間，這時(shí)，會(huì)有另一名同事進(jìn)來(lái)接班。如此安排，是為了防止審核員沉溺于某一主播。

小冉業(yè)余時(shí)間也關(guān)注了多名主播，既有她個(gè)人喜歡的、擅長(zhǎng)唱歌跳舞的高顏值男女，也有要重點(diǎn)盯防的審核對(duì)象?？辞罢弑硌輹r(shí)，她是粉絲，偶爾會(huì)送豆；在后者表演時(shí)，她又不自覺(jué)地成了“找茬”那個(gè)，“用戶需要不斷提醒、不斷發(fā)現(xiàn)、不斷改正”。工作和生活的界限，在直播軟件上變得很模糊。在休息日，她和同事們也會(huì)習(xí)慣性地刷幾下直播頁(yè)面。

前兩天，她正在值夜班，一名輪休的同事給她發(fā)來(lái)截圖提醒：“某某苗頭好像不太對(duì)，跳舞怎么跳到椅子上了？”

界限

審核也會(huì)時(shí)常陷入界限模糊地帶。

唐卓最頭疼的是鑒別駕車直播。如果主播攝像頭對(duì)著自己，鏡頭里沒(méi)有方向盤，很難分清是否違規(guī)。

“你覺(jué)得他是在開(kāi)車嗎？”拿不準(zhǔn)時(shí)，她會(huì)問(wèn)組長(zhǎng)，或者把窗外風(fēng)景當(dāng)參照物。審核員封號(hào)要有證據(jù)——違規(guī)截圖。

《財(cái)經(jīng)天下》周刊記者也曾與快手CEO宿華交流過(guò)審核尺度問(wèn)題。宿華是工程師出身，屬技術(shù)型創(chuàng)業(yè)者，彼時(shí)他正對(duì)“如何界定炒作”的社會(huì)命題感到困擾。

快手上曾冒出過(guò)生吃活物、死豬等令人不適的視頻，此后，作品不能產(chǎn)生不良影響或讓人不適這一規(guī)定，成為平臺(tái)紅線之一。

“炒作本身的界定是灰色的。你說(shuō)，貝爺（美國(guó)探險(xiǎn)家貝爾·格里爾斯）愛(ài)吃各種蟲(chóng)子，他吃的時(shí)候周圍有一圈攝像機(jī)，請(qǐng)問(wèn)他是在炒作嗎？不是，因?yàn)樗雌饋?lái)不是炒作?？墒撬举|(zhì)上，是不是一種炒作？其實(shí)真的很難判斷?！?/p>

去年處理快手“偽公益”事件時(shí)，宿華就發(fā)現(xiàn)，里面涉及到法律、社會(huì)、文化等多方面。為此他甚至去找法學(xué)教授，探討這個(gè)問(wèn)題的邊界。

比如“偽公益”事件后，平臺(tái)上還有幾十個(gè)團(tuán)體做公益，真假難辨，快手凍結(jié)了全部賬號(hào)。第二天，其中一家公益機(jī)構(gòu)負(fù)責(zé)人就從四川趕來(lái)北京，說(shuō)300多名殘疾人全靠機(jī)構(gòu)運(yùn)轉(zhuǎn)為生。他們出示了民政部門登記證書(shū)，證明自身是有資質(zhì)的?？焓衷谙蚬膊块T征詢意見(jiàn)后，才將其賬號(hào)解凍。

國(guó)外視頻網(wǎng)站同受困擾。英國(guó)《每日郵報(bào)》報(bào)道，今年2月23日，美國(guó)紐約一家動(dòng)物園在視頻網(wǎng)站YouTube上直播長(zhǎng)頸鹿分娩的過(guò)程，當(dāng)時(shí)關(guān)注粉絲達(dá)2000多萬(wàn)。但直播很快被YouTube關(guān)停，原因是有動(dòng)物保護(hù)極端分子舉報(bào)內(nèi)容涉嫌“裸露和色情”。不過(guò)，劇情當(dāng)天便有了翻轉(zhuǎn)，迫于輿論壓力，YouTube又恢復(fù)該直播。

另一互聯(lián)網(wǎng)巨頭、社交網(wǎng)站Facebook也曾因刪除母親哺乳照片，引起爭(zhēng)議。

一個(gè)平臺(tái)的審核界限，往往要在人性、立場(chǎng)、文化、法律甚至平臺(tái)價(jià)值觀等各方拉扯中，才能逐漸清晰起來(lái)，而隨著人工智能技術(shù)的滲透，又涉及到了機(jī)器學(xué)習(xí)。

以圖普為例，機(jī)器會(huì)把圖片分類成正常、性感、色情三類，并給出概率分?jǐn)?shù)，以及是否需要復(fù)審的意見(jiàn)。如果一張圖片被判為色情，概率是0.99，則不需要復(fù)審；如果被判為色情，概率0.3，處于系統(tǒng)不確定的區(qū)間，建議人工復(fù)審。

不過(guò)，《財(cái)經(jīng)天下》周刊記者將米開(kāi)朗琪羅的大衛(wèi)雕塑圖片上傳至圖普，機(jī)器立即作出判斷：色情。貌似機(jī)器比人更嚴(yán)苛。

李麟解釋稱，系統(tǒng)的深度學(xué)習(xí)，要經(jīng)過(guò)大量數(shù)據(jù)訓(xùn)練。比如三里屯優(yōu)衣庫(kù)試衣間視頻剛出現(xiàn)時(shí)，圖普技術(shù)團(tuán)隊(duì)就很緊張。他們第一時(shí)間找到各種變種版本，拿去測(cè)試機(jī)器，看能否攔截。因?yàn)槌叽?、水印、濾鏡、截取片段甚至視頻二期加工，都會(huì)影響機(jī)器識(shí)別。

在李麟看來(lái)，雖然人工智能替代了此前95%的人工審核工作，但它并不能完全替代人。如果出現(xiàn)模糊界定，客戶還是要選擇人工判定。在映客，有異議的視頻會(huì)進(jìn)入到復(fù)審階段，裁定通常在5分鐘內(nèi)處理完。

暗戰(zhàn)

漏查違規(guī)直播的最嚴(yán)重后果是什么？在最近一次座談會(huì)上，奉佑生在被問(wèn)到這個(gè)問(wèn)題時(shí)，一臉嚴(yán)肅，“肯定會(huì)要關(guān)閉”。

內(nèi)容安全事關(guān)生死，否則映客不會(huì)一年燒掉8000萬(wàn)元。這是奉佑生為內(nèi)容審核成本算過(guò)的一筆賬，目前，映客審核員共計(jì)1000人。按當(dāng)?shù)仄骄べY3500元～4000元估算，一年純?nèi)肆Τ杀局辽?000萬(wàn)元，加上系統(tǒng)開(kāi)發(fā)與維護(hù)等費(fèi)用，需要8000萬(wàn)元。

花椒相關(guān)負(fù)責(zé)人雖未透露審核成本，但給出一組數(shù)據(jù)：審核員共600人，其中專職人員有150人，均在北京。按其網(wǎng)上招聘信息推斷，審核員平均工資不低于5000元。照此計(jì)算，審核人力成本一年至少要900萬(wàn)元。

至于審核技術(shù)開(kāi)發(fā)，花椒背靠360人工智能研究院的技術(shù)支撐，如“變臉特效”功能，現(xiàn)今已經(jīng)發(fā)展為利用人臉識(shí)別技術(shù)，協(xié)助色情內(nèi)容監(jiān)控。

按《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》要求，直播平臺(tái)都要配備與服務(wù)規(guī)模相適應(yīng)的專業(yè)人員，健全信息審核、信息安全管理、值班巡查、應(yīng)急處置、技術(shù)保障等制度。

這等于在行業(yè)競(jìng)爭(zhēng)層面，設(shè)置了一場(chǎng)暗戰(zhàn)。大平臺(tái)在人氣、流量之外，還得拼技術(shù)、財(cái)力。

《財(cái)經(jīng)天下》周刊記者了解到，包括映客、快手等移動(dòng)視頻平臺(tái)，均在二三線城市設(shè)立審核基地。一是出于整體容災(zāi)機(jī)制的考量，如果一地電力或網(wǎng)絡(luò)出現(xiàn)問(wèn)題，審核數(shù)據(jù)會(huì)立刻分配到其他基地審核系統(tǒng)中；二是為了節(jié)省人力成本。

“審核成本是省不了的?！眻D普科技CEO李明強(qiáng)說(shuō)。此前有直播平臺(tái)縱容違規(guī)，或睜一只眼閉一只眼，而今，再持放任態(tài)度，則有高風(fēng)險(xiǎn)。

2014年，受快播案啟發(fā)，李明強(qiáng)認(rèn)定內(nèi)容審核是剛需，帶著團(tuán)隊(duì)做圖像智能審核。他們的第一個(gè)客戶是迅雷，雙方開(kāi)了一次會(huì)，便敲定合作。

2015年下半年至2016年上半年，圖普業(yè)務(wù)量猛增，帶寬、存儲(chǔ)、服務(wù)器均急需擴(kuò)容，甚至機(jī)房電量也不夠用，而這段時(shí)間正是直播和短視頻爆發(fā)的臨界點(diǎn)。圖普自稱占據(jù)了視頻審核市場(chǎng)至少60%的份額，映客、花椒、美拍、秒拍、B站、今日頭條等頭部公司，均是其客戶。

裹挾在直播浪潮中，李明強(qiáng)總結(jié)，近一年來(lái)，客戶的需求復(fù)雜了很多，最早只是鑒黃，現(xiàn)在低俗、不雅、抽煙、賭博、躺床上、翻拍等均不被允許?！霸瓉?lái)一條線、一個(gè)點(diǎn)，現(xiàn)在要立體方案?！?而且，頭部公司要求更嚴(yán)。

圖普此前的對(duì)外宣傳噱頭便是鑒黃。李明強(qiáng)直言，拿鑒黃推銷產(chǎn)品，只是市場(chǎng)策略。其實(shí)公司專注的是用人工智能技術(shù)做圖像識(shí)別。比如用人臉識(shí)別方法，過(guò)濾相關(guān)時(shí)政人物圖片，降低政治風(fēng)險(xiǎn)?！跋到y(tǒng)能做到，只要長(zhǎng)得像，就去除掉?！?/p>

早先參加人工智能論壇，李明強(qiáng)就發(fā)現(xiàn)，在演講環(huán)節(jié)介紹公司團(tuán)隊(duì)、技術(shù)積累時(shí)，臺(tái)下同行興致索然，而談到產(chǎn)品之一是鑒黃時(shí)，不少人會(huì)被吸引。結(jié)果，一場(chǎng)演講下來(lái)，全場(chǎng)聽(tīng)眾往往只記住了“鑒黃師”。一開(kāi)始，李明強(qiáng)有點(diǎn)兒郁悶，后來(lái)領(lǐng)悟到互聯(lián)網(wǎng)流行娛樂(lè)與自嘲精神，便順勢(shì)自封“首席鑒黃師”，并在發(fā)朋友圈時(shí)，將公司地點(diǎn)替換為“宇宙鑒黃中心”。

在接觸過(guò)的眾多客戶中，李明強(qiáng)感覺(jué)，映客直播對(duì)內(nèi)容審核尤為重視。映客CTO侯廣凌曾談及，人工審核系統(tǒng)死機(jī)或故障時(shí)，他們會(huì)把直播全部掐斷，不敢將沒(méi)有審核過(guò)的視頻赤裸裸地放出去，哪怕一分鐘也不行。

內(nèi)容安全如此之重，以至于有競(jìng)爭(zhēng)對(duì)手故意“搞事情”。

花椒在去年11月曾遭遇一次人為制造的“審核危機(jī)”。相關(guān)負(fù)責(zé)人透露，當(dāng)時(shí)有網(wǎng)友清早發(fā)微博，舉報(bào)花椒女主播深夜涉黃，并貼出三張直播截圖證據(jù)。

截圖中，一名女主播直播時(shí)裸露胸部，另一主播在鏡頭前僅穿白襯衣和內(nèi)褲。該網(wǎng)友還@了360董事長(zhǎng)周鴻祎以及公安部門。

早上8點(diǎn)，該負(fù)責(zé)人在上班路上就接到同事的緊急通知，說(shuō)網(wǎng)信辦打來(lái)電話，有人匿名舉報(bào)花椒涉嫌傳播淫穢內(nèi)容。即至少有3段涉黃視頻和截圖，在網(wǎng)信辦工作人員上班前，已經(jīng)被送抵該部門舉報(bào)郵箱。

該事件疑點(diǎn)很多。技術(shù)人員事后查證，三個(gè)涉黃賬號(hào)都是當(dāng)天注冊(cè)，并于凌晨1點(diǎn)到3點(diǎn)間陸續(xù)開(kāi)播，且直播只持續(xù)了一兩分鐘。在將要下播時(shí)，三名主播突然脫掉衣服。

其實(shí)，審核員當(dāng)時(shí)已監(jiān)測(cè)到違規(guī)行為，并作出封停賬號(hào)處理，但舉報(bào)人明顯有備而來(lái)，對(duì)直播進(jìn)行了錄屏和截圖。

“操作手法特別嫻熟，一看就是了解監(jiān)管流程，才會(huì)在下播時(shí)突然脫衣服?！边@名負(fù)責(zé)人說(shuō)。

這場(chǎng)“審核危機(jī)”最終得以化解，原因是花椒技術(shù)人員很快便通過(guò)殘留在互聯(lián)網(wǎng)上的線索，查到幕后“黑手”是某家競(jìng)爭(zhēng)公司，且掌握了確鑿證據(jù)。有條線索顯示，打賞用戶和主播為同一IP。

花椒未透露競(jìng)品公司名稱，只說(shuō)平臺(tái)規(guī)模比花椒要小。相關(guān)證據(jù)已經(jīng)提交給有關(guān)部門。

“其實(shí)直播行業(yè)的競(jìng)爭(zhēng)格局基本已定，戰(zhàn)爭(zhēng)不會(huì)在直播行業(yè)發(fā)生，而是在直播的延展區(qū)?！痹诖饲暗淖剷?huì)上，奉佑生做了一個(gè)“得罪人”的論斷：2017年直播還會(huì)產(chǎn)生更大的馬太效應(yīng)。

但不論戰(zhàn)場(chǎng)在哪兒，“拆彈部隊(duì)”仍是內(nèi)容安全的守衛(wèi)者。