虛假信息：藏在社交網(wǎng)絡(luò)中的“毒瘤”

文／張志勇

隨著5G和移動互聯(lián)網(wǎng)技術(shù)的廣泛和深度應(yīng)用，以各類在線網(wǎng)絡(luò)社區(qū)、在線社交工具、平臺和服務(wù)為代表的社會網(wǎng)絡(luò)生態(tài)系統(tǒng)已經(jīng)形成，并完全滲透到整個社會、組織和人群的各種生產(chǎn)生活的毛細血管之中，成為數(shù)字世界十億、幾十億互聯(lián)網(wǎng)用戶獲取海量信息資源的重要載體和渠道。社交網(wǎng)絡(luò)平臺在承載、提供和傳播有價值的數(shù)字信息的同時，也成為了大量負面虛假信息的溫床，一些別有用心的標題黨、水軍紛紛出現(xiàn)，甚至肆意捏造、傳播虛假新聞和謠言，利用社交網(wǎng)絡(luò)和自媒體，嘩眾取寵，混淆視聽。

虛假信息本身具有很強的誤導(dǎo)性和誘惑性，能夠快速吸引一些用戶的眼球，它又借助社交網(wǎng)絡(luò)用戶和群組緊密關(guān)聯(lián)的特性，在大規(guī)模復(fù)雜網(wǎng)絡(luò)下的傳播擴散已變得愈演愈烈，成為虛擬網(wǎng)絡(luò)空間安全面臨的熱點和難點問題，也是全球互聯(lián)網(wǎng)信息安全普遍存在的一個重大風險。虛假信息不僅影響了社交用戶之間正常的信息溝通、交流和共享，也嚴重影響到經(jīng)濟社會發(fā)展，甚至國家安全和穩(wěn)定。因此，當前對社交網(wǎng)絡(luò)虛假信息檢測、傳播和控制等綜合研究，對實現(xiàn)虛擬網(wǎng)絡(luò)空間安全和網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理，意義重大，亟待開展。

值得關(guān)注的是，在社會網(wǎng)絡(luò)生態(tài)領(lǐng)域，2016年ACM通訊雜志曾報道了一種社交機器人的存在，以及如何檢測和識別這些由自動化程序控制的社交機器人。不幸的是，大量的惡意社交機器人已逐漸在國內(nèi)外的社交網(wǎng)絡(luò)平臺中被發(fā)現(xiàn)。根據(jù)網(wǎng)絡(luò)安全服務(wù)提供商Distil Networks公布的《2019惡意機器人報告》，自然人在2018年產(chǎn)生的網(wǎng)絡(luò)流量占比62.1%，機器人流量占比37.9%，其中惡意機器人網(wǎng)絡(luò)流量高達20.4%。惡意機器人占比之大，不可低估，因為它們正在通過模仿正常自然人的操作行為，執(zhí)行網(wǎng)絡(luò)非法操作，包括個人隱私數(shù)據(jù)收集和濫用、數(shù)字廣告和金融欺詐、虛假信息惡意傳播、暴力登錄攻擊等，對國家政治、經(jīng)濟和社會帶來了極其嚴重的負面影響。大量惡意社交機器人的存在，也使得傳統(tǒng)的以自然人為主的虛假信息傳播，又呈現(xiàn)出新的模式和形態(tài)，加劇了虛假信息的產(chǎn)生、傳播和擴散，對虛擬化數(shù)字世界的網(wǎng)絡(luò)信息治理更是雪上加霜。

為此，各國政府、學術(shù)界和工業(yè)界的研究人員對此廣泛關(guān)注，他們分別訴諸于政策法律、技術(shù)管理和平臺服務(wù)等多種手段，聯(lián)合攻關(guān)，積極應(yīng)對，加以解決，并取得一定進展。虛假信息傳播和控制研究，可以追溯到早期復(fù)雜網(wǎng)絡(luò)和小世界網(wǎng)絡(luò)中的謠言傳播動力學模型研究，直到近三年來關(guān)于社交自然人和社交機器人的混合型、交互式傳播模式研究。2018年，國際權(quán)威期刊《Science》給出了虛假信息（新聞）全面的定義，并指出治理虛假信息需要多學科共同的努力。同年，《Science》又系統(tǒng)全面地分析了全球某知名社交平臺現(xiàn)狀，研究結(jié)果發(fā)現(xiàn)虛假信息比真實信息傳播得更快、更深、更廣，并進一步指出傳播最快的虛假信息類型是政治類新聞。此外，在2018年國際權(quán)威期刊《Nature·Communications》報道了社交機器人傳播低可信度信息最新研究成果。

近年來，我們面向虛擬網(wǎng)絡(luò)空間安全，提出了社會（社交）情境安全的概念和技術(shù)框架，最近我們又結(jié)合“以人為中心”的大規(guī)模情境感知與前沿計算，以實現(xiàn)社會情境安全為目標，進一步搭建了社會情境元數(shù)據(jù)實驗研究平臺，并實現(xiàn)了關(guān)鍵核心算法程序的開源。該平臺聚焦“以人為中心”的社會（社交）網(wǎng)絡(luò)空間安全和人工智能深度融合的核心問題，圍繞社交平臺安全評估、虛假信息傳播控制、社交機器人智能檢測、地理位置隱私保護等六大主題應(yīng)用，支持具有社會性、交互性、互操作性的互聯(lián)網(wǎng)平臺應(yīng)用實驗研究和二次開發(fā)，為國家互聯(lián)網(wǎng)安全保障和社會大數(shù)據(jù)有效利用提供有力支撐，同時也為全球虛擬化社會網(wǎng)絡(luò)安全提供了新的研究思路和開源應(yīng)用。

2020年3月1日，國家網(wǎng)信辦頒發(fā)的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》正式開始實施，可以看出國家重拳出擊，治理互聯(lián)網(wǎng)信息生態(tài)的決心和意志，并已取得初步成效。未來，隨著大數(shù)據(jù)、人工智能和新興前沿計算技術(shù)的深入發(fā)展，以及信息技術(shù)、信息管理和法律實踐等跨學科的交叉科學應(yīng)用，虛假信息的自動化機器識別和跨社區(qū)、跨應(yīng)用、跨平臺傳播控制，必將得到有效解決和根本治理，風清氣正、安全可信的網(wǎng)絡(luò)空間，在實現(xiàn)現(xiàn)代化“數(shù)字強國”“網(wǎng)絡(luò)強國”的國家戰(zhàn)略中，將充分發(fā)揮不可替代的重大作用和優(yōu)勢。