危險言論的網絡化與監(jiān)管

摘要：有鑒于全球化網絡時代的話語傳播議題，危險言論因其武器化的敘事形態(tài)，始終與潛在的結構性暴力之間存在互動關系。西方言論自由原則的理據功能及其在國際、地區(qū)間法律與認知領域所產生的錨定效應，使得現有的言論監(jiān)管模式已然不足以應對危險言論的全球涌現現象。立足于匿名性、距離性、社群性、延宕性以及跨媒介性等危險言論網絡化特征，不同言論范疇的取效機制為傳統主權國家的話語管轄帶來空前考驗，揭示出當代網絡安全困境的多樣表征與繼發(fā)效應。這對我國如何回應國家網信事業(yè)的未來發(fā)展提出挑戰(zhàn)?；谖ｋU言論的語義結構與取效機制確立網絡傳播的規(guī)誡模式，將直接關系我國“網絡強國”愿景的全面實現。

關鍵詞：危險言論;網絡化;繼發(fā)效應;線上領土;言論監(jiān)管;網絡法案

中圖分類號：I207.23 ? ?文獻標志碼：A ? ?文章編號：1001-862X（2022）02-0186-007

當代“危險言論”（dangerous speech）議題，因其與世界各地所涌現的新型民粹主義、移民浪潮、宗教極端勢力以及女權運動等社會議題之間的密切關系，而得到各國政策制定者、跨國網絡平臺以及來自法律、語言、計算機等專業(yè)領域人士的廣泛關注。不僅如此，全球化時代的網絡生態(tài)，尤其是社交媒體的指數級增長也為我們識別、消解危險言論及其負面反饋提出挑戰(zhàn)。對此，斯科普斯（Scopus）數據庫過去三十年的共詞分析（co-word analysis）結果顯示，“危險言論”研究主要涉及三個維度：“危險言論與言論自由之間的一般辯護”“基于機器學習的危險言論自動分類與檢測”以及“性別導向的危險言論與網絡欺凌現象”[1]。其中，危險言論的多重界定集中體現在安德魯·塞拉斯（Andrew Sellars）的仇恨言論“八項共同標識”[2]以及蘇珊·貝內施（Susan Benesch）的“危險言論（五項）模型”[3]之中;言論禁令及其道德義務之間的規(guī)范邊界也在亞歷山大·布朗（Alexander Brown）的《仇恨言論法律》（Hate Speech Law 2015）[4]當中獲得綜述;瑪麗·松田等人的《傷人言語》（Words that Wound 2018）[5]則力圖更新危險言論及其傷害原則的適用領域;而反誹謗聯盟（ADL）的“仇恨金字塔”（pyramid of hate 2018）[6]以及“第十九條”（Article 19）的“言論工具包”（Toolkit 2015）[7]等實用框架的建立，也旨在揭示危險言論的反饋梯度。多國學會針對多語種危險言論的計算語義分析比賽（GermEval-2018，SemEval-2019，2020）也在逐年取得進展。

盡管如此，眼下對“危險言論”的研究分歧依舊包括：危險言論相較于多種鄰近概念的界定標準、危險言論的現實成因與情感表征、“反敘事”（counter-speech）策略的應對可能、在線危險言論不同于傳統語境的取效進程、網絡平臺涉嫌淪為危險言論沃土的規(guī)避措施、數據外包和算法機制在處理危險言論方面的進展與局限等。盡管“危險言論及其網絡化現象”已然在國際領域形成學術熱點，我們針對仇恨犯罪（hate crime）的表達形式及其算法檢測的探究仍有可為空間。其中，較之于大量英語開發(fā)的自然語言分析器，身為全球第二大語言的漢語，以它作為通用語言的智能應用目前多集中在社會熱詞、情感傾向以及謠言傳播等領域[8]，并未形成針對危險言論現象的充分關注。有鑒于此，本文試圖立足我國線上領土安全的時代議題，首先分析危險言論的基本語義癥候與暴力反饋機制，它將涉及危險言論的非還原性概念辨析;其次，闡釋危險言論位于全球化網絡場域的傳播特征及其影響;再次，從我國國情出發(fā)，探究線上危險言論的法律規(guī)范可能與技術應用前景。

一、危險言論的基本內涵

“危險言論”一詞原指“任何可能增加受眾容忍或實施針對另一群體暴力風險的表達形式，包括但不限于演講、文字或圖像等形式”[9]。就認知領域而言，目前“危險言論”的概念界定基本取決于言論的“內容、意圖、傷害”三個層面[10];抑或說者的動機、表達，聽者的反饋以及言論的影響四個維度。其中基于內容與意圖的界定視角仍舊熱衷于經驗主義傷害的法律框架遷移，其結果便是它礙于言論自由的高階意義而慣性忽略更多難以量化的非線性傷害門類。針對此，我們首先試圖援引艾瑞克·海因茨（Eric Heinze）的“伴隨主義”及“本質主義”兩種言論取效形式[11]，并從中確立傷人言論的本體論立場，借此打破危險言論及其繼發(fā)反饋之間的線性因果要求。其次，相較于法律禁令的硬性劃界，社會語言學與現象學視角實際更有利于我們站在“危險言論損害他者公民身份”的認知高度之上超越思想中立的轄區(qū)爭議，進而重新厘定危險言論的涵蓋范圍。再次，有別于從傷害跡象的關系隱喻出發(fā)重建仇恨神話的“家族相似性”集合[12]，抑或強調安全困境的過度防御機制所催生的集體恐懼癥候，為化解傳統的“仇恨言論”（hate speech）與“恐懼言論”（fear speech）[13]的情感歸因困境，我們選擇代之以傷害導向的“危險言論”一詞，但其“危險標準”將有別于原有的狹義物理區(qū)間而傾向遵循一種“同音異義詞”式的語義延展。基于此，通過使用分解語義學（decompositional semantics）的復合概念劃分，我們嘗試將“危險言論”分為三個層面：1.作為交流行為的言論;2.針對群體或其特定成員的受保護特征目錄;3.言語行為的傷害可能。

為避免陷入“危險言論”的抽象認知，我們試圖轉而強調它是一種具備言后效應的交流現象，由此引入羅曼·雅各布森（Roman Jakobson）的語言交流模型[14]，尤其是編碼與語境要素，以此檢驗危險言論的信息生成與反饋機制。首先，相較于根據“內容枚舉法”劃歸難以計數的危險言論子集，反向確立、防范它所賴以取效的標志性修辭顯然更為切題：“我們-他們”的極化對立、罪責歸因、自我美德標榜、威脅構建、消除其他（和平）選項、未來偏見、替罪羊、陰謀論以及非人化（dehumanization）等手段。不僅如此，危險言論的傷害輸出同樣需要考量它的語境參數，尤其是資源分配不均、傳聲渠道單一、廣泛波及受眾、缺乏沖突化解機制、權威階層極化、少數族裔歧視、社群矛盾轉嫁以及前暴力史等綜合境況。綜上所述，危險言論的傷害機制始終需要協同考量包括發(fā)言者、接收者、大眾媒介、言論本身及其編碼方式等語境因素的共同取效可能。因而，當這一交流語境替換為全球網絡領土，其中的發(fā)言者與接收者同時演變?yōu)楦叨戎脫Q的“能指符號”，虛擬的社區(qū)架構與跨媒介資源卻在為危險言論的多重表征持續(xù)提供保障，我們顯然有必要探究它有別于傳統交流模式的涌現特征與應對可能。

二、危險言論的網絡化特征

（一）距離性與延宕性

卡萊布·永（Caleb Yong）在探究“言論自由所覆蓋的仇恨言論”時，強調區(qū)分“直接、即時、面對面、針對性、個體化的（不受保護）模式”與“間接、擴散、概括、非個體的（受保護）模式”[15]。然則，網絡言論以其線下暴行的延宕性與距離性特征屢屢打破傳統監(jiān)管模式的時空連續(xù)性要求。就距離性而言，近年來因諷刺伊斯蘭先知形象與經典教義而引發(fā)的族裔動亂，包括法國《查理周刊》（Charlie Hebdo）槍擊總部事件（2015）以及美國牧師特里·瓊斯（Terry Jones）網絡直播焚燒《可蘭經》案件（2010）等，已然表明生成空間下的冒犯性言論緣何在遙遠的闡釋空間引發(fā)致命后果而自動升溫為煽動性言論的。盡管它們的傳播后果具備可預見性，發(fā)言者依然辯稱藝術表達以及公權話語本身并未直接構成針對他人的“真正威脅”，線上反饋的滯后條件使得言論不會僅因它增加在不定的將來發(fā)生非法行為的可能而受到懲罰。[16]不僅如此，危險言論的多傳多改現象也使得它的言后效應變得愈加復雜?？破仗鼗浇掏剿臄z的電影《沙漠勇士》（Desert Warrior 2012）便因歷經數月的多方剪輯而為煽動發(fā)言者的暴力追責招致困難。這也再次證明，現實領域的非言語行為已然假借線上言論自由的泛化隱喻而成功逃避追責，它昭示出確立網絡言論本身與其繼發(fā)行為之間可規(guī)誡邊界的重要意義。

（二）匿名性

發(fā)言者身份可辨顯然只是線上言論的個案，頗為常見的匿名性特征實則更易干擾涉事主體的身份識別與責任歸因。在印度WhatsApp視頻引發(fā)民間私刑的案例（2017）中，原本由巴基斯坦慈善機構為警示兒童綁架所發(fā)布的虛擬視頻卻遭到匿名者刪改其泛文本關鍵信息，這一重新上傳的版本有意將兒童販賣歸罪于印度少數族裔致使當地私刑一度泛濫?？梢哉f，網絡言論的匿名性特征通過麻痹受眾對于信息源頭的可信度辨識，從而削弱煽動話語二次傳播的責任感知，這也意味著匿名性的負面效應已然“助推數字技術話語向新媒體平臺的陰暗面持續(xù)傾斜”[17]。進而，當下的匿名發(fā)言者同樣可能是超統計的機器化網絡暴民，馬其頓共和國的鐵銹鎮(zhèn)韋爾斯（Veles）便因其社區(qū)緊密性與高失業(yè)率境遇而成為極右翼虛假新聞的散播溫床，它的活躍性與操控性在與危險言論如影隨形的政治競選時期更為矚目，因其定位便是通過匿名化攻擊迎合乃至激化政治辯論當中好戰(zhàn)的黨派主義，尤其是針對女性、少數宗教與族裔的偏見與壓制。此外，在名人效應加持的互聯網時代，匿名經濟與自我宣傳經濟間的拉鋸式訴求，不僅展現出在線輿論生態(tài)的沖突盈利模式，而且集中表現為侮辱性的網絡濫用現象。印度新媒體便試圖套用諷刺喜劇的現實主義戲仿，生產以“偽世俗主義”為廉價議題的辱罵（Gaali）節(jié)目。可以說，危險言論的匿名性特征極易推動發(fā)言者擺脫超我的審視并放松對本我的控制，它因而既是小群溝通的利器，同時也可能是冒犯和誤導的幫兇。

（三）社群性

相較于線下語境，建立在匿名性以及隱密性基礎上的網絡社群化，顯然為潛在的危險言論者打破時空隔閡，為具有暴力屬性的行動單位創(chuàng)設利好條件。其中，以煽動意圖為關鍵詞的網絡信息憑借大數據的篩選與推送，逐漸聚合為基數不定的過濾氣泡（filter bubble），其中的同好言論經由“信息級聯、群體極化以及偏見吸收”[18]等傳播機制日漸固化其極端保守的社區(qū)邊界;與此同時，意見領袖在回音空間（echo chamber）不斷涌現，并憑借話語權的延增效應推動墻內交流循環(huán)演進。為升級程度不一的暴力綱領，零散的激進社區(qū)還極力主張協同多個仇恨部落的言論分支。其中，另類右翼勢力（Alt-right）便企圖將遍布厭女情結的男士圈（manosphere）論壇視為引導白人男性走向極端民族主義立場的天然沃土：他們利用種族化模因的跨界調用，挑動性別對立的零和博弈，從而為不同范疇的危險社群整合鋪設前路。此外，內群體成員招募作為危險言論的實踐目標其本身便可以反哺社群效應。這也意味著危險言論的說服手段往往極具欺騙性與誘導性，并有意棄置批判性的推理與論證方式，而代之以點燃情緒、刻板印象與挑起傷害等手段。三K黨“只為孩子”（just for kids）網站便為消除年輕群體對待施暴成本的道德自抑以及理性決策的認知負荷，而綜合選用權威（可信度）、喜歡以及共識等三種啟發(fā)式吸引手段[19]，從而在修辭層面率先征服不在場的他者，并鼓舞非同質化的潛在成員參與行動。

（四）跨媒介性

危險言論的吸引手段以及網絡平臺的展示可能催生出危險言論的跨媒介性特征。亨利·詹金斯（Henry Jenkins）借此描述當前好萊塢以非線性多維敘事作為未來方向的文化戰(zhàn)略。[20]而實際上，這一平行宇宙的推廣模式早已為危險言論的宣傳策略所借鑒。伊斯蘭國的在線雜志《達比克》（Dabiq 2014）便借由多語版本開發(fā)，有意將西方改教者視為可供內化的潛在受眾，并以呼吁他們加入穆斯林兄弟會，建立基于宗教認同的伊斯蘭國家作為煽動宗旨?？梢哉f，《達比克》所釋放的網絡影響同樣源于它能夠綜合調用“協同敘事、主體世界生成以及語義觸發(fā)”[21]等跨媒介手段，并在迎合西方受眾網絡偏好的同時，美化宗教圣戰(zhàn)及其病毒式宣傳的不利形象。其一，協同敘事是指通過不同的網絡平臺和媒體渠道構建統一敘事，同時保持文本內容之間具備整體性和連續(xù)性的策略。于是，除卻《達比克》主平臺所提供的政教議題，其他在線視頻、社交標簽與自動推文等實時元素的存在，不僅有助于雜志文本的隨機回訪，同時可以發(fā)散伊斯蘭神學元典的抗爭命題。其二，想象世界的藝術生成則有賴雜志的多元視聽與文本配套形式?！哆_比克》為此效仿好萊塢工業(yè)制式，著意營造基于遞歸性以及冗余性特質的“暴力美學”場景，并通過征調宗教圖景、經典戰(zhàn)歌以及遠古英雄等視覺沖擊符號營造理想化的伊斯蘭世界。其三，以語義觸發(fā)為關鍵的主體附加參與則強調多渠道媒體的交互征引。該雜志借此利用“文化激活器”推進危險敘事的娛樂化包裝與互文性刺激，從而優(yōu)化暴力意識形態(tài)的可傳播性。據此來看，危險言論顯然嘗試憑借跨媒介觸手所渲染的故事敘述世界，不斷縫合世俗領土與虛擬空間之間的主體感知差異。

三、危險言論的網絡化影響

其一，國際、地區(qū)間的現有立法準則與監(jiān)管模式已然不足以應對危險言論的跨國輸出。危險言論的國際關切實際源于反思和杜絕第二次世界大戰(zhàn)中的極端種族主義與大屠殺行徑。盡管如此，戰(zhàn)后興起的聯合國框架及里程碑式的《消除一切形式種族歧視國際公約》（ICERD 1965）和《公民權利與政治權利國際公約》（ICCPR 1966）至今未能明確區(qū)分、規(guī)范危險言論的言后效應以及言外效應。[22]蓋因它所廣泛確立的言論自由的絕對立場以及結果主義的判罰依據，始終堅持將言論與行為之間并未滿足明確性和即時性傷害原則的危險言論置于言論保護的普遍范疇內，而這顯然并不適用于具備距離性、延宕性以及匿名性反饋特征的線上言論。不僅如此，相較于以“拉巴特計劃”（The Rabat Plan）為更新版本的高門檻國際入刑標準，國家、地區(qū)間的危險言論治理則因各國政體以及意識形態(tài)的高度介入而呈現出監(jiān)管閾值的差異化波動。[23]于是當現行的法律框架挪用至線上場域之時，以美國《第一修正案》為基石的言論上游原則及勃蘭登堡測試（Brandenburg test）[24]對產自本土的網絡巨頭及其言論開放政策影響頗深，更不必說第三方服務商本身便在以《通信規(guī)范法》（CDA）第230條為代表的多重法律框架之下享有“第三方（不當）信息免責權”。正因為此，盡管危險言論與言論自由之間的微妙平衡早已見諸歐委會的《網絡犯罪公約》（Convention on Cybercrime 2001），跨國平臺的企業(yè)體量與生存邏輯卻使得這一雙邊等式往往只能存在于理想模型。

其二，跨國平臺所享有的信息免責地位，對于主權國家的言論防火墻造成實質沖擊。因線上言論的跨國效應而引發(fā)的集體維權，早在雅虎美國與法國兩家反種族主義組織展開反訴（2000 2004）之時便已現端倪。它表明社交媒體對于他國言論轄區(qū)的空前滲透，其與普遍監(jiān)管的寒蟬效應之間的制衡關系正在日益激化。究其緣由，危險言論為躲避跨國話語審查而有意利用原生內容的語境遷移所產生的含混釋義為其背書，這也意味著網絡平臺的社區(qū)生態(tài)始終受制于其所挪用與翻譯的危險言論范疇背后的復雜公共政治。與之相應地，當前的跨國平臺頻繁高舉民主旗幟，實際卻將本土價值施加給全球半數以上人口，其常見操作便是“裁剪人權的外衣以包裹其真實的實踐動機，從而插手這一全球化時代所謂的當務之急和政治辯論”[25]。因而，最為反諷的景象便是言論自由成為危險言論的戰(zhàn)術共犯：全球言論場域的“木桶效應”，亦即言論開放地區(qū)的最低監(jiān)管引力已然波及各國話語體系。2021年度的《脆弱國家指數》曾重申其判定指標：“中央政府疲軟或失效，對自身領土缺乏實際控制權;無法提供公共服務;腐敗和犯罪猖獗;難民和人口非自愿流動以及經濟急劇下行?！盵26]可以說，上述頹勢已部分映射到網絡空間當中，它迫使我們承認主權國家可能失去控制自身全部線上領土的核心能力。

其三，網絡平臺基于雙重身份的運作機制，將直接影響線上危險言論的語義癥候與反饋效用。時至今日，引領一時風氣的《網絡空間獨立宣言》（Declaration of Independence of Cyberspace 1966）正如它所堅信的技術樂觀主義一般令人生疑，因為它未能闡明一個關鍵問題：這一獨立被誰創(chuàng)造，又持何種價值觀？如果答案是占據顯著份額的個別服務商，那么網絡空間的未來選項已然面臨裂變：現狀鏡像化、沖突領地、巴爾干化、天堂以及網絡末日（cybergeddon）。[27]它的立場偏頗源于：當我們將網絡平臺視為公共話語空間之時，便極易忽視它的本質是私有產物;而一旦我們熱衷于探究其經濟效益，它卻儼然已從傳統國家職能當中獲得分權。一方面，以“注意力經濟”著稱的科技公司實際需要對股東而非一般用戶負責，這意味著它本身便隸屬于可控型危險言論的利益階層。尤其網絡平臺選用“長尾營銷”（long tail marketing）鼓勵用戶逐步參與邊緣（有害）內容的廣告投放與流量變現，而危險言論作為打破“奧弗頓之窗”（Overton window）公議范疇的有效手段，本身便有利于將社區(qū)文化的接受邊界擴容至違背話語歷史秩序的未知地帶。而另一方面，社交媒體卻憑借其在“民主政治競選、公共政策宣傳、職能機構服務上線化、煽動歧視少數群體，以及說服公眾寬恕大屠殺”[28]等領域的仲裁身份而收獲顯著權柄。更有甚者，當今的網絡平臺可能正在悄然運行全球體量最大的審查制度，其中“線上言論自由的閾值界定是由少數深度投資的利益方所掌控的巨大文化力量”[29]?；诖耍W絡平臺的雙重身份昭示出它的社區(qū)公約最終將交由少量經驗不足的跨國版主，乃至低容錯率的廉價機器代為執(zhí)行。因而，盡管榮登“新三位一體言論模式的構成要素，亦即介于國家和出版商之間的新州長”[30]，跨國平臺的高問責門檻與低透明身份卻預示著這場被喻為全球“打地鼠”比賽的危險言論防治前路坎坷。

其四，線上生態(tài)賴以高速擴張的“思想市場”與“內容中立”預設，亟需危險言論網頁過濾機制的人工成本投入。斯坦利·費什（Stanley Fish）曾聲稱，如果沒有專業(yè)評價以及監(jiān)管機構所設置的過濾程序，眼下網絡世界自詡中立的言論不過是碎片化的“浮動能指”，因而極易信息過量地鑲嵌到任意議程之中，亦即它是拼湊、擴散虛假新聞乃至危險言論的利好條件。[31]這一現象伴隨著線上知識的成本壓榨以及獨立機構的聲量流失，反而使得我們輕易陷入“知情困惑”（informed bewilderes）的境地。[32]有鑒于此，如果我們顧忌世俗政府的家長制作風及其代理主體的“有限理性”與“認知偏差”所引發(fā)的監(jiān)管逆境，那么偽理想主義的網絡平臺同樣無從回避這種可能，尤其是它在市場經濟體制之下所宣揚的“自由物品交換”以及“理性消費者”概念。[33]簡言之，基于數據提取與秘密操縱的“監(jiān)視資本主義”始終偏向惠顧市場當中能夠給予更多消費回饋的參與者，但他們顯然不屬于危險言論的慣常受害者：聲量有限的從屬群體。

四、危險言論的網絡化監(jiān)管

有鑒于線上領土所喻示的用戶自律局限性、企業(yè)道德模糊性以及跨國機構協同性等現實挑戰(zhàn)，我們認為危險言論的全球監(jiān)管尤為需要各國政府、網絡平臺以及公民社會的共同努力。其中，主要責權方為國家與跨國平臺。針對跨國平臺未來的監(jiān)管方向，可包括如下數端：

其一，安全手冊的通用操作。圍繞“真實、安全、隱私、尊嚴”的社區(qū)宗旨，建立用戶導向的“危險言論”規(guī)范名目、追責示例、分類舉報以及申訴途徑。為此，社交媒體應當在規(guī)避應激性滯后操作的同時，尊重協調各國不同的言論監(jiān)管氣候。就范圍而言，線上屏蔽不應僅限于本土頁面，海外空間的放任發(fā)酵只會使得局部監(jiān)管淪為無效震懾;就程度而言，平臺應當謹防組織利用線下示威，致使過量撤換事件;就時效而言，面對并未直接觸犯物理傷害原則的監(jiān)管對象，平臺應確保其政策連貫性。

其二，危險言論的算法提升。平臺為獲取自然語言處理的最新技術，有必要投資推動危險言論模型的“機器學習”向“深度學習”擴展，并逐步完善“數據收集、特征提取、模型訓練以及綜合評估”[34]等基本檢測程序。近年來，煽動份子有意混淆危險言論與藝術、信仰、科研記錄之間的灰色地帶，平臺必須為此細化危險言論的包裝門類來應對這場“軍備競賽”式的監(jiān)管困境。此外，針對個人與群體所享有的網絡“被遺忘權”（RTBF），平臺需要適時調整危險詞條的搜索排序。有鑒于此，眼下以支持向量機（SVM）、“特征子集選擇”（FSS）與“人工神經網絡”（ANN）為計算模型，同時輔之以“詞嵌入”“詞頻”“詞性注釋”以及“情緒特征”等語義手段的檢測系統可能更為實用。

其三，人工審查的并行模式。針對多語種篩查的翻譯漏洞，網絡中介應當培訓、授權由人道主義專家、母語人士以及本地志愿者共同組建的注釋團隊。此外，面對煽動符號、圖像、音樂以及視頻等極易繞行過濾機制的傳播形式，平臺有必要邀請普通用戶共同參與危險言論的批量報備項目。不僅如此，考慮到眼下以“推特革命”為典型的暴力征召試驗，包括2019年發(fā)生在新西蘭基督城（Christchurch）的全球首例恐怖直播事件，人工審查必須在算法經濟錯誤推薦血腥頁面登上世趨之前予以裁決。為此，平臺理應依照地理需求與用戶數量合理增加、調配人工成本的覆蓋力度。

其四，跨平臺分享與協同機制。2018年達成的圣克拉拉原則（Santa Clara Principles）便要求平臺針對“帖子刪除數量以及賬戶停用名單”，切實履行數據公開、用戶通知以及上訴許可服務。[35]此外，平臺有必要依托第三方機構定期對照公布來自政府、用戶的內容投訴、意見結果以及流行率調查，包括不當商業(yè)贊助、競選廣告以及暴力動員的目標人群、投放指標與線下支出，借此杜絕臉書在2020年羅興亞人（Rohingyas）種族滅絕事件的調查階段拒絕遞交非法社交數據的類似做法。不僅如此，世界主要平臺有必要就“維護網絡安全，打擊線上恐怖”達成操作共識。這也將助力打擊因主流平臺的安全升級而隨即出現的仇恨引流效應，亦即煽動分子轉而通過遷向虛假賬戶、邊緣平臺以及加密應用等方式逃離攔截。

而與之相應地，主權國家的未來目標集中涉及兩點：其一，立足網絡監(jiān)管的透明度與問責制需要，分類革新面向用戶以及平臺的立法措施。有鑒于此，我國自2017年起便著手推行《中華人民共和國網絡安全法》，其中第十二條已經明確規(guī)定危險言論的治理類別。此外，網絡言論的全球監(jiān)管同樣需要跨國框架，歐盟正為此制定《數字服務法》（Digital Services Act 2020）以及《數字市場法》（Digital Markets Act 2020），其重點條款便是根據平臺的規(guī)模與影響相應配備國家推選的數字監(jiān)管委員會。

其二，推廣提升公民數字素養(yǎng)的教育項目，重點培養(yǎng)成員線上事實核查、資源評估以及道德反思能力。對此，我國自2020年起便以打擊網絡亂象為主題逐年開展“清朗”專項行動。德國的“巴登-符騰堡民主中心”（DBW）選擇搭建有害數字通信記錄平臺并為仇恨受害者提供疏導咨詢。此外，國家同樣可以幫扶第三方非營利機構負責線上數據檢測與政策建議，如澳大利亞的“在線仇恨預防研究所”（OHPI）等獨立機構便隸屬其中。

除此之外，公民社會本身也可以自發(fā)加入危險言論的抵制運動。公益項目如巴基斯坦宣揚和平的“我是卡拉奇”（IAK）藝展以及法國抨擊種族異化的《人類動物園》（Zoos humains）收藏，也旨在警示民眾危險言論的負面效應。近年來個人作品當中的危險言論關切同樣屢見不鮮，其中頗為聞名的埃圖·凱瓦瑞邁基（Eetu ?Kevarinm？覿ki）的《仇恨言論美學》（Vihapuheen Estetiikka 2017），便試圖通過算法迭代展現遭遇種族仇恨侵蝕的人類殘像。

五、小 結

圍繞危險言論的全球治理議題，我們應當首先意識到，同時涉足法律以及日常領域的“危險言論”現象很難獲得統一的身份界定。但這并不妨礙我們將“危險言論”視作動態(tài)的交流行為從而分析它的語義生成與闡釋機制?；诖?，當危險言論的傳播語境轉變?yōu)槿蚓€上空間之時，它的取效特征和覆蓋范圍無疑為網絡中介以及官方機構的言論監(jiān)管體系帶來挑戰(zhàn)。對此，我國“構建網絡空間命運共同體”[36]的時代命題，顯然要求我們在互相尊重各國網絡領土的法治基礎上，不斷合作推進言論轄區(qū)的安全建設。

參考文獻：

[1]Tontodimamma，Alice，et al.Thirty Years Of Research Into Hate Speech：Topics Of Interest And Their Evolution[J].Scientometrics， 2021，126（1）：157.

[2]Sellars，Andrew.Defining Hate Speech[J].Berkman Klein Center Research Publication，2016，（20）：3.

[3]Benesch，Susan and Jonathan Leader Maynard.Dangerous Speech And Dangerous Ideology：An Integrated Model For Monitoring And Prevention[J].Genocide Studies and Prevention：an International Journal，2016，9（3）：77-79.

[4]Brown，Alexander.Hate Speech Law：A Philosophical Examination[M].New York：Routledge，2015.

[5]Matsuda，Mari.Words that Wound：Critical Race Theory，Assaultive Speech，and the First Amendment[C].New York：Routledge，2018.

[6]ADL.Pyramid of Hate[J/OL].（2021-11-26）https：//www.adl.org/education/resources/tools-and-strategies/pyramid-of-hate-en-espanol

[7]Article 19.‘Hate Speech’ Explained[J/OL].（2021-4-5）https：//www.article19.org/data/files/medialibrary/38231/‘Hate-Speech’-Explained---A-Toolkit-%282015-Edition%29.pdf

[8]高玉君，等.社會網絡謠言檢測綜述[J].電子學報，2020，48（07）：1421-1435.

[9]Benesch，Susan.Dangerous Speech：A Practical Guide[J/OL].The Dangerous Speech Project，（2019-4-19）：https：//dangerousspeech.org/guide/.

[10]Marwick，Alice，and Ross Miller.Online Harassment，Defamation，and Hateful Speech：A Primer of the Legal Landscape[J].Fordham Center on Law and Information Policy Report，2014，（2）：16-17.

[11]Heinze，Eric.？Hate Speech and Democratic Citizenship[M].Oxford：Oxford University Press，2016：8-10.

[12]Brown，Alexander.What is Hate Speech？ Part 2：Family Resemblances[J].Law and Philosophy，2017，36（5）：561.

[13]Buyse，Antoine.Words of Violence：Fear Speech，or How Violent Conflict Escalation Relates to the Freedom of Expression[J].Human Rights Quarterly，2014，36（4）：785.

[14]Jakobson，Roman.Closing Statement：Linguistics and Poetics[J]//Virginia Jackson，Yopie Prins.The Lyric Theory Reader：A Critical Anthology.Baltimore：Johns Hopkins University，2014：239.

[15]Yong，Caleb.Does Freedom of Speech Include Hate Speech？[J].Res Publica，2011，17（4）：385-386.

[16]Lidsky，Lyrissa Barnett.Incendiary Speech and Social Media[J].Tex.Tech L.Rev，2011，（44）：151.

[17]Pohjonen，Matti，and Sahana Udupa.Extreme Speech Online：An Anthropological Critique of Hate Speech debates[J].International Journal of Communication，2017，（11）：1173.

[18]Sunstein，Cass.On Rumors[M].Princeton and Oxford：Princeton University Press，2014：35-38.

[19]Waltman， Michael.， and Ashely Mattheis. Understanding Hate Speech[J/OL]. Oxford Research Encyclopedia of Communication， （2017-9-26）： https：//oxfordre.com/communication/view/10.1093/acrefore/9780190228613.001.0001/acrefore-9780190228613-e-422.

[20]Jenkins，Henry.Convergence Culture：Where Old and New Media Collide[M].New York：New York University Press，2006：95.

[21]Monaci，Sara.Explaining the Islamic State’s Online Media Strategy：A Transmedia Approach[J].International Journal of Communication，2017，（11）：2848.

[22]Di Rosa，Alessandro.Performative Hate Speech Acts.Perlocutionary and Illocutionary Understandings in International Human Rights Law[J].The Age of Human Rights Journal，2019，（12）：107-111.

[23]Carlson，Caitlin Ring.Hate Speech[M].Cambridge：The MIT Press Essential Knowledge Series，2021.

[24]Bakircioglu，Onder.Freedom of Expression and Hate Speech[J].Tulsa J.Comp.& Int’l L，2008，（16）：15-16.

[25]Titley， Gavan， Ellie Keen， and László F？ldi. Starting Points for Combating Hate Speech Online[Z]. Strasbourg： Council of Europe， 2014：17.

[26]Fiertz，Natalie.，et al.Fragile States Index Annual Report 2021[M].Washington：The Fund for Peace，2021：40.

[27]Healey，Jason. The Five Futures of Cyber Conflict and Cooperation[J/O]. Atlantic Council Issuebrief， （2011-12-14）： https：//www.files.ethz.ch/isn/136858/121311_ACUS_FiveCyberFutures.pdf.

[28]Benesch，Susan.But Facebook’s not a Country：How to Interpret Human Rights Law for Social Media Companies[J].JREG Bulletin，2020，（38）：87.

[29]Tarleton Gillespie.Custodians of the Internet：Platforms，Content Moderation，and the Hidden Decisions that Shape Social Media[M].New Haven：Yale University Press，2018：197.

[30]Klonick，Kate.The New Governors：The People，Rules，and Processes Governing Online Speech[J].Harv.L.Rev，2017，（131）：1603.

[31]Fish，Stanley.The First：How to Think About Hate Speech，Campus Speech，Religious Speech，Fake News，Post-Truth，and Donald Trump[M].New York：Simon and Schuster，2019：158-159.

[32]Castells，Manuel.The Rise of the Networked Society：The Information Age：Economy，Society and Culture[M].London：Wiley Blackwell，1999：4.

[33]Gordon，Jill.John Stuart Mill and the “Marketplace of Ideas”[J].Social Theory and Practice，1997，23（2）：237-238.

[34]Jahan，Md Saroar，and Mourad Oussalah.A Systematic Review of Hate Speech Automatic Detection Using Natural Language Processing[J].arXiv preprint arXiv，2021，（2106）：5-6.

[35]Santa Clara Principles.Santa Clara principles on transparency and accountability on content moderation[N/OL].（2021-11-25）.https：//santaclaraprinciples.org/.

[36]王四新，網絡空間命運共同體理念的價值意義[J/OL].人民論壇網，（2022-3-25）http：//www.rmlt.com.cn/2022/0325/643216.shtml.

（責任編輯 黃勝江）

本刊網址·在線雜志：www.jhlt.net.cn

作者簡介：袁德雨（1991—），女，安徽合肥人，山東大學文藝美學研究中心博士生，主要研究方向：敘事學與符號學。