互聯(lián)網(wǎng)發(fā)展新背景下的網(wǎng)絡(luò)謠言發(fā)展及防控機(jī)制研究

仝 鑫,張長琳

(1.中國人民公安大學(xué) 信息網(wǎng)絡(luò)安全學(xué)院，北京 100038;2.河南警察學(xué)院，河南 鄭州 450046))

隨著5G、大數(shù)據(jù)與人工智能等新技術(shù)、新業(yè)務(wù)和新生態(tài)的發(fā)展，我國的社會(huì)經(jīng)濟(jì)形態(tài)和人民的生產(chǎn)生活方式不斷發(fā)生變革。移動(dòng)互聯(lián)網(wǎng)使世界變得更“小”，大數(shù)據(jù)使社會(huì)服務(wù)變得更精確，以機(jī)器學(xué)習(xí)和深度學(xué)習(xí)為核心的人工智能算法使我們的生活變得更智慧。在這種背景下，各類智能化社交網(wǎng)絡(luò)及新媒體平臺(tái)逐漸成為人們獲取信息、表達(dá)情感和溝通交流的主要途徑。但與此同時(shí)，這些新興互聯(lián)網(wǎng)技術(shù)和社交媒體也成為網(wǎng)絡(luò)謠言滋生和迅速傳播的溫床。盡管相關(guān)政策法律不斷完善，我國有關(guān)部門針對(duì)網(wǎng)絡(luò)謠言展開了持續(xù)有效的治理行動(dòng)，但仍面臨著諸多挑戰(zhàn)。一方面，謠言的源頭變得更加智能化和多樣化，利用各類人工智能和信息技術(shù)手段能夠輕松生成看似真實(shí)可信的文本、語音甚至是視頻類型的謠言；另一方面，謠言的傳播更是呈現(xiàn)出高速化、廣泛化和渠道復(fù)雜化的特點(diǎn)，微信、微博、短視頻以及各類自媒體平臺(tái)等成為謠言傳播的“重災(zāi)區(qū)”，給公共安全和社會(huì)長治久安帶來了新的挑戰(zhàn)。

以新型冠狀病毒性肺炎疫情期間的謠言統(tǒng)計(jì)數(shù)據(jù)為例，受封閉式管控的影響，公眾的信息接收和鑒別渠道受限，各類高度不確定的消息加劇了網(wǎng)絡(luò)謠言的產(chǎn)生和傳播。根據(jù)南都大數(shù)據(jù)研究院的調(diào)研，僅2020年1月20日到3月底，被證偽的謠言就有2498條，日均辟謠67條。而實(shí)際傳播的謠言總數(shù)還將超過這個(gè)數(shù)值。并且在這些網(wǎng)絡(luò)謠言中，與各地防控措施、國內(nèi)疫情現(xiàn)狀、預(yù)防和治療辦法三個(gè)方面相關(guān)的謠言合計(jì)約占70%[1]，不僅加重了公眾的心理焦慮狀況，同時(shí)也對(duì)疫情的防控和社會(huì)穩(wěn)定帶來了諸多負(fù)面影響。

因此，亟待對(duì)互聯(lián)網(wǎng)發(fā)展新背景下網(wǎng)絡(luò)謠言的產(chǎn)生方式、信息載體和傳播途徑進(jìn)行分析，并探索有針對(duì)性的法律和技術(shù)防謠措施，這對(duì)于維護(hù)網(wǎng)絡(luò)空間環(huán)境和公共安全具有重要意義。

一、網(wǎng)絡(luò)謠言的新特征

根據(jù)百度百科的定義，網(wǎng)絡(luò)謠言是指通過網(wǎng)絡(luò)介質(zhì)(例如微博、國外網(wǎng)站、網(wǎng)絡(luò)論壇、社交網(wǎng)站、聊天軟件等)而傳播的沒有事實(shí)依據(jù)且?guī)в泄粜?、目的性的話語[2]。然而隨著各類新興信息網(wǎng)絡(luò)技術(shù)和社交媒體的發(fā)展，網(wǎng)絡(luò)謠言的形式也不僅限于“話語”，而是有了更豐富的內(nèi)涵和變化。

(一)多樣化的網(wǎng)絡(luò)謠言載體

網(wǎng)絡(luò)謠言的載體變得更加智能化和多樣化。幾年前，恐怕很少有人會(huì)質(zhì)疑“耳聽為虛，眼見為實(shí)”這句話。但近幾年隨著人工智能技術(shù)的不斷發(fā)展，尤其是深度偽造(Deepfakes)技術(shù)的誕生，讓生成看似高度“可信”的圖片[3]、視頻和語音[4]等多媒體類型的網(wǎng)絡(luò)謠言成為可能，也讓我們的耳朵和眼睛變得不再可靠。深度偽造是深度學(xué)習(xí)(Deep Learning)和偽造(Fake)的合成詞，指利用深度學(xué)習(xí)技術(shù)實(shí)現(xiàn)修改或生成音視頻等多媒體文件并達(dá)到以假亂真程度的一種技術(shù)。近兩年，深度偽造被惡意應(yīng)用于偽造政府發(fā)言人講話和偽造公眾人物煽動(dòng)輿論的情況時(shí)有發(fā)生。在2019年，利用深度偽造技術(shù)生成的有關(guān)美國前總統(tǒng)特朗普和眾議院議長南?！づ迓逦饕约爸缃卉浖﨔acebook首席執(zhí)行官馬克·扎克伯格的偽造視頻一度在互聯(lián)網(wǎng)上瘋傳，這些視頻中的人無論是相貌，還是聲音都與真人幾乎一致。這些偽造人像甚至?xí)褂秘S富的面部表情和肢體語言來配合表達(dá)自己的思想，令人難辨真假。相較于傳統(tǒng)基于文字的網(wǎng)絡(luò)謠言，這種看得見、聽得見的新型謠言更加令人防不勝防。更令人擔(dān)憂的是，隨著該技術(shù)的不斷發(fā)展和成熟，諸如ZAO、FakeApp等基于深度偽造的應(yīng)用軟件也逐漸普及，使得不了解背后技術(shù)原理的普通人也能輕松生成和傳播這些多媒體謠言。這不僅嚴(yán)重侵犯受害者的肖像權(quán)、名譽(yù)權(quán)，更有可能影響到政府公信力與社會(huì)的安全穩(wěn)定，最終可能會(huì)導(dǎo)致嚴(yán)重的政治風(fēng)險(xiǎn)并直接威脅到國家安全。

(二)智能化的網(wǎng)絡(luò)謠言生成技術(shù)

新興信息網(wǎng)絡(luò)技術(shù)使得網(wǎng)絡(luò)謠言更容易編寫和更具欺騙性。一直以來，人工撰寫的謠言無論是篇幅、用詞還是行文風(fēng)格上都與真實(shí)新聞存在較大差異，很容易被讀者辨識(shí)。近年來，利用基于神經(jīng)網(wǎng)絡(luò)算法的自然語言處理模型生成各類虛假新聞也逐漸成為可能。這些模型不僅使用簡單，而且生成謠言的質(zhì)量也高于大多數(shù)人為編寫的謠言。以著名的自然語言處理模型GPT-2[5]為例，它包含15億的網(wǎng)絡(luò)參數(shù)并擁有強(qiáng)大的數(shù)據(jù)儲(chǔ)藏能力，這使得它能更好地理解掌握寫作文風(fēng)、筆法和意圖。用戶只需要為它提供只言片語或者小段的文字，之后GPT-2就會(huì)根據(jù)自己的判斷，決定接下來應(yīng)該如何寫作，最終生成高質(zhì)量的小說、發(fā)言稿和虛假新聞。與其他類似功能的程序相比，GPT-2 表現(xiàn)得更像真人，幾乎不會(huì)出現(xiàn)語法錯(cuò)誤和邏輯不通等瑕疵。這使得謠言的發(fā)布者能夠利用這類模型在幾乎不投入精力的情況下生成“高質(zhì)量”網(wǎng)絡(luò)謠言。而GPT-2的發(fā)布者也承認(rèn)該模型有被極端組織惡意應(yīng)用于謠言傳播等場景的可能，并因此推遲了相關(guān)發(fā)布時(shí)間。此外，還有一些人工智能算法被證明能夠?qū)χ{言進(jìn)行再加工[6]，以實(shí)現(xiàn)規(guī)避各類主流檢測和審查工具的目的，加大了謠言審查工作的難度。

(三)復(fù)雜化的網(wǎng)絡(luò)謠言傳播渠道

移動(dòng)互聯(lián)網(wǎng)的普及和各類社交平臺(tái)的發(fā)展，使得網(wǎng)絡(luò)謠言的傳播更具高速化、廣泛化的特點(diǎn)，同時(shí)傳播渠道也變得更加多樣化和復(fù)雜化。根據(jù)我國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第47次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，截至2020年12月，我國手機(jī)網(wǎng)民規(guī)模已達(dá)9.86億，占全國網(wǎng)民總數(shù)的比重高達(dá)99.7%，即時(shí)通信工具、網(wǎng)絡(luò)新聞和短視頻用戶規(guī)模分別達(dá)到了9.81億、7.43億和8.73億[7]。微信、微博、短視頻和頭條新聞等社交和新媒體平臺(tái)對(duì)人們?nèi)粘Ｉ畹挠绊懺絹碓酱?。和電話、?bào)紙、電視等傳統(tǒng)溝通方式和媒體傳播方式相比，這些新興社交媒體不僅具備快捷、大眾化、互動(dòng)性強(qiáng)的特點(diǎn)，還具有獨(dú)特的平等性和隱匿性，打破了之前新聞消息傳播者與受眾之間的角色隔閡，使得每一個(gè)用戶都有機(jī)會(huì)成為新聞的參與者和評(píng)論者，極大地促進(jìn)了公民行使參政議政的權(quán)利。但是，正是受到這些社交媒體平臺(tái)的虛擬性和隱蔽性特點(diǎn)的影響，導(dǎo)致用戶可以在不負(fù)責(zé)任的情況下發(fā)布信息，進(jìn)而提升了謠言產(chǎn)生和傳播的概率。同時(shí)近兩年流行的抖音、快手等短視頻平臺(tái)也成了網(wǎng)絡(luò)謠言的傳播渠道，相比微博等文本類型的謠言，這些多媒體謠言不僅形式結(jié)構(gòu)復(fù)雜，而且數(shù)據(jù)量巨大，進(jìn)一步提升了謠言識(shí)別工作的難度。

二、法律層面的謠言治理措施

(一)針對(duì)廣義網(wǎng)絡(luò)謠言的相關(guān)法律

針對(duì)網(wǎng)絡(luò)謠言具有的欺騙性、傳播性和破壞性等危害，為保護(hù)公民的合法權(quán)益和社會(huì)穩(wěn)定，肅清網(wǎng)絡(luò)環(huán)境，我國積極推動(dòng)在立法層面對(duì)于網(wǎng)絡(luò)謠言的打擊。散布網(wǎng)絡(luò)謠言需要承擔(dān)相應(yīng)的民事、行政或刑事責(zé)任。首先，對(duì)于散布網(wǎng)絡(luò)謠言侵害公民的肖像權(quán)、名譽(yù)權(quán)等民事侵權(quán)行為，《民法典》第一千一百九十四條規(guī)定了網(wǎng)絡(luò)侵權(quán)責(zé)任。其次，對(duì)于散布侮辱誹謗、疫情、警情、險(xiǎn)情等擾亂公共秩序的謠言且不構(gòu)成犯罪的，《治安管理處罰法》規(guī)定給予拘留、罰款等行政處罰。此外，我國《刑法》中規(guī)定了侮辱罪，誹謗罪，投放虛假危險(xiǎn)物質(zhì)罪，編造、故意傳播虛假恐怖信息罪以及編造、故意傳播虛假信息罪等，對(duì)于相關(guān)嚴(yán)重情況將給予包括有期徒刑、拘役、管制或者剝奪政治權(quán)利等在內(nèi)的處罰。

(二)針對(duì)新型網(wǎng)絡(luò)謠言的相關(guān)法律

由于人工智能等新興信息網(wǎng)絡(luò)技術(shù)被濫用于捏造和傳播網(wǎng)絡(luò)謠言，各國紛紛出臺(tái)更具針對(duì)性的法律法規(guī)以應(yīng)對(duì)挑戰(zhàn)。在世界范圍內(nèi)，美國已公布了包括《禁止惡意深度偽造法案》《深度偽造責(zé)任法案》《德克薩斯州關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》等一系列聯(lián)邦或州級(jí)別的法案[8]，要求發(fā)布者對(duì)偽造音視頻標(biāo)注水印及文本描述，同時(shí)禁止相關(guān)技術(shù)被用于煽動(dòng)暴力及干擾選舉。歐洲也陸續(xù)出臺(tái)了《通用數(shù)據(jù)保護(hù)條例》《反虛假信息行為準(zhǔn)則》等法案來限制和打擊包括深度偽造在內(nèi)的新型網(wǎng)絡(luò)謠言。此外，新加坡、韓國以及俄羅斯等國也相繼通過了《防止網(wǎng)絡(luò)虛假信息和網(wǎng)絡(luò)操縱法案》等以補(bǔ)充現(xiàn)有法律法規(guī)的不足。

在國內(nèi)，國家網(wǎng)信辦于2019年發(fā)布了《數(shù)據(jù)安全管理辦法(征求意見稿)》，并在其中規(guī)定 “網(wǎng)絡(luò)運(yùn)營者利用大數(shù)據(jù)、人工智能等技術(shù)自動(dòng)合成新聞、博文、帖子、評(píng)論等信息，應(yīng)以明顯方式標(biāo)明‘合成’字樣；不得以謀取利益或損害他人利益為目的自動(dòng)合成信息”。后續(xù)出臺(tái)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》也明確禁止網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和生產(chǎn)者利用深度偽造等人工智能技術(shù)發(fā)布和宣傳網(wǎng)絡(luò)謠言。

三、技術(shù)層面的謠言防控手段

“造謠一張嘴，辟謠跑斷腿”。各類新型網(wǎng)絡(luò)謠言的出現(xiàn)進(jìn)一步加重了謠言檢測和辟謠工作的負(fù)擔(dān)，面對(duì)海量的社交媒體數(shù)據(jù)，依賴人工的傳統(tǒng)謠言防控機(jī)制顯得力不從心。因此，依托人工智能和互聯(lián)網(wǎng)技術(shù)構(gòu)建智能化、高效化的檢測和辟謠技術(shù)成為網(wǎng)絡(luò)謠言防控的新途徑。

(一)網(wǎng)絡(luò)謠言發(fā)現(xiàn)和檢測技術(shù)

網(wǎng)絡(luò)謠言的發(fā)現(xiàn)和檢測是后續(xù)辟謠、處置工作的前提。在過去，自動(dòng)化網(wǎng)絡(luò)謠言檢測技術(shù)主要是基于內(nèi)容、關(guān)鍵字的方法，盡管這類方法能夠在一定程度上減輕人工檢測的工作量，但依舊存在著靈活性較差、規(guī)則庫維護(hù)成本高等問題，漏報(bào)率和誤報(bào)率較高，難以滿足實(shí)戰(zhàn)需求。近年來，機(jī)器學(xué)習(xí)及深度學(xué)習(xí)技術(shù)的發(fā)展使得更加智能化的網(wǎng)絡(luò)謠言檢測技術(shù)成為可能。

對(duì)于文本類型謠言，其文本長度、主題詞和行文風(fēng)格等特征與常規(guī)文本存在較大差異，一些諸如支持向量機(jī)[9]、樸素貝葉斯[10]等傳統(tǒng)機(jī)器學(xué)習(xí)算法和以卷積神經(jīng)網(wǎng)絡(luò)[11]、循環(huán)神經(jīng)網(wǎng)絡(luò)[12]以及大規(guī)模預(yù)訓(xùn)練語言模型[13]為代表的深度學(xué)習(xí)模型已經(jīng)被證明在網(wǎng)絡(luò)謠言文本分類任務(wù)中具備媲美人工識(shí)別準(zhǔn)確率的效果，在針對(duì)微博謠言檢測數(shù)據(jù)集上的測試準(zhǔn)確率能達(dá)到95%以上，并且速度遠(yuǎn)超人工檢測方法?？紤]到越來越多的用戶使用圖片來發(fā)微博，因此一條完整網(wǎng)絡(luò)謠言可能包含了文本、圖片等多種類型的數(shù)據(jù)。一些基于深度學(xué)習(xí)的多模態(tài)謠言檢測方法被相繼提出[14]，不僅能夠同時(shí)對(duì)多類型的數(shù)據(jù)進(jìn)行綜合分析，進(jìn)一步拓寬了應(yīng)用場景，而且識(shí)別效果優(yōu)于單一模態(tài)的謠言檢測方法，更具有實(shí)用價(jià)值。

對(duì)于偽造音視頻類型的謠言，一系列基于人工智能的解決方案也被證明具備有效性。在清華大學(xué)、阿里巴巴和Facebook等國內(nèi)外的高校及互聯(lián)網(wǎng)企業(yè)舉辦的深度偽造檢測挑戰(zhàn)賽中，各種基于深度學(xué)習(xí)的方法百花齊放，并且這些方法能夠精準(zhǔn)地檢測到偽造視頻內(nèi)人物的眼睛、牙齒以及發(fā)聲口型等人類感官難以分辨的細(xì)節(jié)異常，為偽造音視頻謠言的檢測提供了新思路和新技術(shù)[15]。同時(shí)，不斷擴(kuò)充的偽造多媒體公開數(shù)據(jù)集也為訓(xùn)練相關(guān)模型算法提供了必要的數(shù)據(jù)支撐，使得訓(xùn)練更加大型化和復(fù)雜化的深層神經(jīng)網(wǎng)絡(luò)以不斷提升檢測效果成為可能。

此外，以圖神經(jīng)網(wǎng)絡(luò)為代表的智能化數(shù)據(jù)分析方法被廣泛應(yīng)用于針對(duì)網(wǎng)絡(luò)謠言的用戶特征、發(fā)布和轉(zhuǎn)發(fā)流量等方面的研究[16]，對(duì)謠言的傳播趨勢分析及溯源工作具有重要意義。

(二)網(wǎng)絡(luò)謠言舉報(bào)和辟謠機(jī)制

在發(fā)現(xiàn)謠言后，如何及時(shí)辟謠是后續(xù)工作的核心。有關(guān)部門和互聯(lián)網(wǎng)企業(yè)采取多種平臺(tái)、多種方式對(duì)網(wǎng)絡(luò)謠言進(jìn)行圍追堵截。中央網(wǎng)信辦違法和不良信息舉報(bào)中心聯(lián)合新華網(wǎng)等平臺(tái)成立了集謠言舉報(bào)、辟謠查詢等功能于一體的中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)[17]，用權(quán)威的聲音來第一時(shí)間遏制謠言的發(fā)展和傳播。同時(shí)，各個(gè)社交媒體平臺(tái)也積極推動(dòng)網(wǎng)絡(luò)謠言處置工作。針對(duì)QQ、微信等謠言傳播渠道，騰訊公司推出了微信辟謠助手，能夠?qū)崟r(shí)查詢和推送辟謠咨詢。新浪同樣成立了“微博辟謠官方賬號(hào)”，對(duì)網(wǎng)絡(luò)謠言進(jìn)行全天候監(jiān)控并及時(shí)響應(yīng)，力求將謠言的影響降低到最小。此外，各個(gè)政府有關(guān)部門也在微信公眾號(hào)、新浪微博以及抖音等平臺(tái)注冊(cè)專門的辟謠官方賬號(hào)，不斷拓寬網(wǎng)絡(luò)謠言舉報(bào)和辟謠渠道，提升謠言處置的工作效率。

四、結(jié)語

在互聯(lián)網(wǎng)發(fā)展新背景下，各類社交平臺(tái)和新媒體已經(jīng)成為公民信息交流的主要平臺(tái)。但隨之而來的“信息污染”和“謠言泛濫”問題成為制約社交媒體發(fā)展的主要瓶頸之一。與此同時(shí)，受各類新興信息網(wǎng)絡(luò)技術(shù)的影響，網(wǎng)絡(luò)謠言的信息載體、產(chǎn)生方式和傳播途徑都發(fā)生了深刻地變化，使得網(wǎng)絡(luò)謠言能夠在編造成本不斷降低的前提下具有更強(qiáng)的欺騙性和更快的傳播速度，不僅嚴(yán)重影響了網(wǎng)絡(luò)生態(tài)環(huán)境，降低了人們所獲取信息的質(zhì)量，同時(shí)還極易引發(fā)公眾的恐慌和焦慮，并對(duì)社會(huì)穩(wěn)定產(chǎn)生威脅。在這種形勢下，進(jìn)一步完善網(wǎng)絡(luò)謠言相關(guān)的法律法規(guī)，不斷引入前沿的智能化舉報(bào)、識(shí)別、溯源和辟謠技術(shù)，保證“法律+技術(shù)”這張全方位的保護(hù)網(wǎng)始終與時(shí)俱進(jìn)，對(duì)于打擊網(wǎng)絡(luò)謠言，凈化網(wǎng)絡(luò)環(huán)境，維護(hù)公共安全至關(guān)重要。