互聯(lián)網(wǎng)內(nèi)容“守夜人”

陳光

“大家看到的這個(gè)世界是由所有人呈現(xiàn)的，而歷史上我們看到的世界是由少數(shù)人呈現(xiàn)的。今天所有人一起參與呈現(xiàn)這個(gè)世界，當(dāng)我們以這樣的方式去觀察和感知這個(gè)世界時(shí)，背后有一些新的社會(huì)問(wèn)題就出現(xiàn)了”。

年初至今，李軍經(jīng)歷了一場(chǎng)穿梭于晝夜，險(xiǎn)些“摧毀靈魂”的冒險(xiǎn)。

90后的李軍是武漢青山區(qū)人。去年底，他經(jīng)歷5天的封閉培訓(xùn)和考核，簽了保密協(xié)議，成為快手的內(nèi)容審核員。他沒(méi)想到，剛?cè)肼?個(gè)月，就親歷了一場(chǎng)凈化短視頻平臺(tái)的“最強(qiáng)整頓”。

4月4日，國(guó)家廣播電視總局約談快手和今日頭條兩家網(wǎng)站的主要負(fù)責(zé)人，要求其全面清查庫(kù)存節(jié)目，立即下線低俗、暴力、色情等有害內(nèi)容，并追究相關(guān)人責(zé)任。約談之后，罰款、下架、永久關(guān)停等幾大監(jiān)管手段齊下，急速發(fā)展后，今日頭條、快手等互聯(lián)網(wǎng)內(nèi)容平臺(tái)亟需邁過(guò)監(jiān)管這道坎。

“新的社會(huì)問(wèn)題”

快手創(chuàng)始人兼CEO宿華沒(méi)有出來(lái)說(shuō)任何話，直接道歉。

4月3日，宿華在其個(gè)人微博上發(fā)表長(zhǎng)篇文章《接受批評(píng)，重整前行》。當(dāng)天，宿華還出現(xiàn)在快手和清華大學(xué)合作成立未來(lái)媒體數(shù)據(jù)聯(lián)合研究院的活動(dòng)上，他說(shuō)，“大家看到的這個(gè)世界是由所有人呈現(xiàn)的，而歷史上我們看到的世界是由少數(shù)人呈現(xiàn)的。今天所有人一起參與呈現(xiàn)這個(gè)世界，當(dāng)我們以這樣的方式去觀察和感知這世界時(shí)，背后有一些新的社會(huì)問(wèn)題其實(shí)就出現(xiàn)了。”

這些“新的社會(huì)問(wèn)題”比所有人預(yù)想的嚴(yán)重。

隨著短視頻平臺(tái)壯大，每天都有海量新類(lèi)型的用戶(hù)生成內(nèi)容被上傳到網(wǎng)上。這其中包含不少傳統(tǒng)色情、暴力等分類(lèi)覆蓋不到的新型違規(guī)內(nèi)容?？焓殖闪?年，有7億用戶(hù)，審核成了頭等難題。

3月31日，央視《新聞直播間》節(jié)目報(bào)道了快手和今日頭條旗下火山小視頻等短視頻平臺(tái)出現(xiàn)大量未成年人懷孕視頻，以未成年人生子為噱頭廣泛傳播，造成不良社會(huì)影響。4月3日晚間，新華網(wǎng)微博也發(fā)文《別讓“社會(huì)搖”等低俗視頻晃散了你的“詩(shī)和遠(yuǎn)方”》?！吧鐣?huì)搖”是從短視頻平臺(tái)興起的一種舞蹈形式，人們跟著強(qiáng)勁的節(jié)奏搖擺，即興發(fā)揮。這類(lèi)行為引得部分小學(xué)生和中學(xué)生模仿，對(duì)校園環(huán)境造成影響。

就連曾經(jīng)深?lèi)?ài)著它們的用戶(hù)也開(kāi)始漸漸對(duì)平臺(tái)產(chǎn)生反感。北京白領(lǐng)王峰算是快手的老用戶(hù)，現(xiàn)實(shí)中，他幾乎沒(méi)機(jī)會(huì)和快手上的網(wǎng)友接觸。他認(rèn)為，是技術(shù)讓這部分人把自己的生活剝出來(lái)一部分，拓寬了他的體驗(yàn)，而且這份分享是真實(shí)的，不是演出來(lái)的。

快手、今日頭條旗下的抖音、火山小視頻等都依托于算法推薦，每個(gè)用戶(hù)的頁(yè)面都獨(dú)一無(wú)二。平臺(tái)會(huì)根據(jù)用戶(hù)點(diǎn)擊的視頻類(lèi)型，迅速分析用戶(hù)感興趣的領(lǐng)域，并馬上推送類(lèi)似內(nèi)容。

一開(kāi)始，王峰對(duì)推送的內(nèi)容很滿意。但漸漸地，王峰發(fā)現(xiàn)，有時(shí)快手會(huì)自動(dòng)向他推薦一些從未關(guān)注過(guò)的視頻，如美女主播類(lèi)，疑似家長(zhǎng)拍的小孩子裸體視頻。這觸碰了王峰的底線。他也看到一些低齡孕婦的視頻，他認(rèn)為，這些孕婦并不是記錄真實(shí)的日常生活，而是利用自己的身份特點(diǎn)去博眼球、要關(guān)注，是以炒作盈利為目的。

王峰也一直好奇，算法的背后到底有沒(méi)有人工指導(dǎo)。“背后如果是一個(gè)人的話，這個(gè)人是誰(shuí)？他憑什么？如果真有這么個(gè)人，還蠻可怕的。他是算法還是人？”

“算法有無(wú)價(jià)值觀”

“分發(fā)機(jī)制理想狀態(tài)靠算法，實(shí)際操作看人工?！币晃欢桃曨l運(yùn)營(yíng)人員說(shuō)。據(jù)他介紹，每個(gè)大平臺(tái)都會(huì)從企業(yè)盈利角度推選一些他們認(rèn)為會(huì)火的話題，至于這些推送是否低俗則不是企業(yè)的首要考量。

成立于2012年，今日頭條是國(guó)內(nèi)早期以數(shù)據(jù)挖掘技術(shù)和智能推薦算法為核心競(jìng)爭(zhēng)力迅速壯大的平臺(tái)。在這里，“你關(guān)心的，才是頭條”。在去年一場(chǎng)活動(dòng)上，今日頭條創(chuàng)始人張一鳴稱(chēng)，“今日頭條不是媒體。我們更關(guān)注信息的吞吐量和信息的多元。我不能準(zhǔn)確判斷這個(gè)好還是壞，是高雅還是庸俗。”這翻話讓張一鳴一度陷入輿論漩渦。

而宿華則一直對(duì)算法持謹(jǐn)慎態(tài)度，他說(shuō)就算法是否有價(jià)值觀這個(gè)問(wèn)題，自己想了30年?！靶r(shí)候是看科幻里面，經(jīng)常會(huì)討論機(jī)器人有沒(méi)有意識(shí)、價(jià)值觀，其實(shí)算法本身是沒(méi)有價(jià)值觀的，但是算法是人去定義、搭建的?！彼f(shuō)。

內(nèi)蒙古赤峰市的阿其也是快手用戶(hù)。去年大學(xué)畢業(yè)， 他在一家牛肉干工廠做車(chē)間工人，那時(shí)開(kāi)始用快手，在快手，他發(fā)現(xiàn)了很多設(shè)計(jì)簽名的網(wǎng)友，也開(kāi)始發(fā)自己設(shè)計(jì)字體的視頻，有1萬(wàn)多粉絲，本來(lái)通過(guò)快手展示才華，找到志趣相同的朋友是件好事，但一些莫名出現(xiàn)的視頻讓他不舒服。

當(dāng)看到一些穿著暴露的主播視頻時(shí)，阿其會(huì)根據(jù)系統(tǒng)規(guī)則，選擇減少此類(lèi)作品出現(xiàn)的功能，但他發(fā)現(xiàn)這種拒絕不管用，類(lèi)似視頻還會(huì)時(shí)不時(shí)地出現(xiàn)。

有次，阿其舉報(bào)了一位滿身文身，說(shuō)大量臟話的男網(wǎng)紅，但快手系統(tǒng)回復(fù)他說(shuō)該用戶(hù)被認(rèn)定沒(méi)有違規(guī)。

然而，阿其自己的內(nèi)容卻被判定違規(guī)。他是蒙古族人，有一次在快手直播時(shí)用蒙古語(yǔ)和朋友聊天，內(nèi)容是他今天有空，大家可以一起吃飯，每句后面他都用漢語(yǔ)再翻譯一次。當(dāng)時(shí)他還放了一首蒙古語(yǔ)的流行歌曲《雨》，歌曲懷念草原上的雨和逝去的愛(ài)情。

這在阿其看來(lái)極為平常的內(nèi)容，卻突然收到系統(tǒng)通知：“您的直播A類(lèi)違規(guī)：政治，已被永久封禁直播?！?/p>

阿其不明白用家鄉(xiāng)話和朋友約飯，放抒情歌曲怎么就和政治有關(guān)了？在違規(guī)申訴中，他寫(xiě)道，根據(jù)國(guó)家法律，自己有權(quán)合法使用民族語(yǔ)言?？焓挚烧?qǐng)懂蒙古語(yǔ)的人回放視頻，絕無(wú)任何違法違規(guī)內(nèi)容。

“守夜人”

阿其算得上是一樁“冤案”，他的賬號(hào)終被解禁。

而4月10日，今日頭條旗下“內(nèi)涵段子”應(yīng)用程序及公眾號(hào)面臨的則是永久關(guān)停，其原因是存在導(dǎo)向不正、格調(diào)低俗等突出問(wèn)題。

人民日?qǐng)?bào)微評(píng)論稱(chēng)，“只要價(jià)值，不要價(jià)值觀，甚至鼓吹‘算法沒(méi)有價(jià)值觀，就難免出事。產(chǎn)品不能淪為算法的奴隸?！边@次整頓的一項(xiàng)重點(diǎn)內(nèi)容就是對(duì)平臺(tái)的算法推薦進(jìn)行優(yōu)化，增強(qiáng)審核能力。

風(fēng)口浪尖上的算法到底是什么？快手CEO宿華曾給了個(gè)簡(jiǎn)單版本的介紹?！八惴ê诵氖抢斫狻＠斫鈨?nèi)容和人的屬性，人和內(nèi)容歷史上的交互數(shù)據(jù)，然后通過(guò)一個(gè)模型，預(yù)估內(nèi)容與用戶(hù)之間匹配的程度（也叫特征）。比如有這么幾個(gè)人都共同喜歡同樣一個(gè)人，我們就會(huì)認(rèn)為這些人具備了相同的某個(gè)特征?！?/p>

然而，看似很聰明的算法卻失靈了。當(dāng)前階段，人工智能并不能完全勝任視頻流內(nèi)容的審核，多用于文字內(nèi)容。比如在用戶(hù)發(fā)布的帖子、留言、文章中檢測(cè)到非法詞匯內(nèi)容，就會(huì)刪除這些內(nèi)容，并向用戶(hù)發(fā)出警告，甚至直接封號(hào)。很多低俗的圖片或者視頻，人工智能無(wú)法像識(shí)別文字般精準(zhǔn)審核，因而只能成為人工審核員的助手。

今日頭條內(nèi)容質(zhì)量中心負(fù)責(zé)人、副總編輯李彤也表示，“對(duì)于廣告信息，機(jī)器會(huì)識(shí)別并標(biāo)注;對(duì)于標(biāo)題黨，機(jī)器會(huì)識(shí)別并提醒作者，如果作者不修改，機(jī)器會(huì)降低推薦權(quán)重或直接攔截，對(duì)于虛假信息、違法信息、色情信息，則主要依靠人工審核?！?/p>

遇到監(jiān)管這一難題后，今日頭條宣布將審核團(tuán)隊(duì)從6000人擴(kuò)大到10000人，“快手”宣布將審核團(tuán)隊(duì)從2000人擴(kuò)大到5000人，月薪4000-9000元，都要求“共產(chǎn)黨員優(yōu)先”。目前快手在北京、天津、武漢等六地建有審核中心。

“你們看不到的，我們都看了。”李軍說(shuō)從1月入職起，他和同事每天工作12小時(shí)，做一天休一天，一個(gè)月有4到5次通宵班。忙的時(shí)候，每人一天要審核150部視頻，正常的工作量是人均120部，視頻20秒到4分鐘不等，多以?xún)杀端俣瓤爝M(jìn)播放，李軍大概每日會(huì)遇到40部正常視頻，30部“比較辣眼睛”但不涉及違法內(nèi)容，25部屬于反人類(lèi)的，15部涉黃，剩下10部血腥暴力。

高強(qiáng)度熬夜讓一般人扛不住。由于夜晚正是用戶(hù)上傳視頻的高峰期，快手相關(guān)負(fù)責(zé)人也指出為高效整改，宿華特地提出了“守夜人”的概念。

然而，審核人數(shù)還是承載不了瀑布式的視頻量。

2018年春節(jié)期間，快手用戶(hù)單日上傳視頻數(shù)量突破1500萬(wàn)條，每分鐘上傳視頻的峰值達(dá)到43000條，創(chuàng)歷史新高。這意味著快手原本的2000名內(nèi)容審核員，要在機(jī)器的配合之下，對(duì)每天1500萬(wàn)條視頻內(nèi)容進(jìn)行審核。

“低俗”，是這輪整肅中出現(xiàn)最多的一大“罪名”。但是包括《網(wǎng)絡(luò)安全法》在內(nèi)，都沒(méi)有對(duì)“低俗”的定義和說(shuō)明。在實(shí)際操作中，情色、淫穢、下流好判斷，但低俗和色情就不好判斷。此外，每個(gè)平臺(tái)對(duì)它認(rèn)定的標(biāo)準(zhǔn)都不一樣，比如某些直播平臺(tái)，對(duì)女主播在直播時(shí)，蹺二郎腿的換腿頻率有規(guī)定，多少次以上就屬于性暗示，就涉黃。

睜一只眼閉一只眼

尺度一直是網(wǎng)絡(luò)監(jiān)管的難題。

雖然《網(wǎng)絡(luò)安全法》和去年施行的《互聯(lián)網(wǎng)視聽(tīng)節(jié)目審核通則》等相關(guān)法律法規(guī)不斷完善，但復(fù)雜的審核標(biāo)準(zhǔn)和多變的違規(guī)內(nèi)容讓審核員頭疼。

更讓他們琢磨不透的是飄忽不定的“內(nèi)部標(biāo)準(zhǔn)”。早在央視曝光低齡孕婦視頻前，李軍和同事就已注意到這類(lèi)視頻的勢(shì)頭。一低齡媽媽哺乳的視頻讓李軍判斷應(yīng)該審掉，雖然畫(huà)面并沒(méi)有露點(diǎn)。李軍認(rèn)為，哺乳本身沒(méi)問(wèn)題，但把這一行為拍成視頻發(fā)到網(wǎng)上就變了味。但這類(lèi)視頻“老大”都讓過(guò)了，“老大”就是部門(mén)領(lǐng)導(dǎo)。

李軍和同事也比較反感社會(huì)搖這類(lèi)視頻，“一天看50部社會(huì)搖，你煩不煩？”他們覺(jué)得這種視頻沒(méi)有營(yíng)養(yǎng)，和低齡媽媽類(lèi)視頻一樣，容易帶壞未成年人，算低俗，但“老大”也都通過(guò)了。

“這類(lèi)國(guó)家沒(méi)有明令禁止但內(nèi)容又有些不妥的，老大就睜一只眼閉一只眼。我必須說(shuō)一句，那些看了腦殘視頻后說(shuō)我們審核員是腦殘，這種視頻都讓放的，這鍋我們不背?！?/p>

其實(shí)，宿華也經(jīng)常糾結(jié)，他發(fā)現(xiàn)一位身患罕見(jiàn)貧血病的用戶(hù)經(jīng)常以一些出格的方式炒作，獲得關(guān)注和打賞。他知道此人會(huì)用這些打賞的錢(qián)治病，但有時(shí)他博關(guān)注的行為過(guò)分了，經(jīng)過(guò)權(quán)衡，審核人員還是會(huì)刪掉一些內(nèi)容，并通過(guò)系統(tǒng)勸誡他。

得知快手招聘審核員的第一時(shí)間，阿其投了簡(jiǎn)歷。他是共產(chǎn)黨員，大學(xué)專(zhuān)業(yè)是馬克思主義學(xué)院下的行政管理系，他應(yīng)聘這份工作有個(gè)私心，因?yàn)橛羞^(guò)被快手“封號(hào)”的經(jīng)歷 ，阿其希望快手能有一些他這樣會(huì)少數(shù)民族語(yǔ)言的審核工作者，減少出現(xiàn)類(lèi)似誤會(huì)。

自救運(yùn)動(dòng)

卷入了短視頻的“最強(qiáng)整頓”風(fēng)暴后，快手查封了大量違規(guī)賬號(hào)，無(wú)限期關(guān)閉推薦相似用戶(hù)的功能，并將對(duì)視頻分級(jí)，嚴(yán)格過(guò)濾未成年人看到的視頻。截止4月14日，快手已經(jīng)清理問(wèn)題短視頻31萬(wàn)條，封禁5.6萬(wàn)名用戶(hù)，清理6.5萬(wàn)個(gè)用戶(hù)名。

宿華道歉信中稱(chēng)，算法的價(jià)值觀就是人的價(jià)值觀?？焓謱?yōu)先推薦個(gè)性化的更符合用戶(hù)興趣的正能量作品，放大優(yōu)秀作品的影響力。

“快手的審核規(guī)則一定是越來(lái)越嚴(yán)的，我們的遞進(jìn)邏輯是，法律法規(guī)為底線，公序良俗為參照，重點(diǎn)打擊低俗三觀不正的內(nèi)容?！笨焓重?fù)責(zé)人說(shuō)。

“網(wǎng)絡(luò)監(jiān)管全世界都有，是個(gè)很正常的事。不過(guò)，我們國(guó)家的監(jiān)管相對(duì)較嚴(yán)。”李振華說(shuō)。面對(duì)全球性的網(wǎng)絡(luò)監(jiān)管大勢(shì)，李振華覺(jué)得不管在法律、技術(shù)、產(chǎn)業(yè)和道德倫理等領(lǐng)域，都有很多值得社會(huì)各界共同探討和思考的空間。

（王允薦自《看天下》）