多元輿情智能檢測(cè)系統(tǒng)設(shè)計(jì)

屈翼展，伍建昌，陳 新

（中國(guó)人民解放軍空軍預(yù)警學(xué)院，武漢 430019）

1 凈化網(wǎng)絡(luò)環(huán)境

日前，國(guó)家網(wǎng)信辦依法查封了某些用戶以及公眾號(hào)，責(zé)令相關(guān)負(fù)責(zé)人對(duì)涉及到的查處內(nèi)容并進(jìn)行全面整改。究其原因，是一些個(gè)人消息平臺(tái)、自媒體或者是面向公眾的網(wǎng)絡(luò)宣傳平臺(tái)錯(cuò)誤散布虛假、消極內(nèi)容、突破道德底線，造成不必要的社會(huì)恐慌，對(duì)社會(huì)風(fēng)氣造成極大的危害。所以針對(duì)虛假和反社會(huì)反人類信息的互聯(lián)網(wǎng)治理顯得迫在眉睫。現(xiàn)在社會(huì)上常見的輿情監(jiān)測(cè)方式有人工監(jiān)視、軟件檢索等方式。這些方法都存在一定的缺陷，比如人工監(jiān)視費(fèi)時(shí)費(fèi)力；軟件搜索往往需要人工提供樣本，使得監(jiān)視不夠及時(shí)和有效，同時(shí)在檢測(cè)準(zhǔn)確度上也有待提高。目前大部分檢測(cè)方式都不能兼顧檢測(cè)文本、圖像以及視頻信息，而當(dāng)今的信息卻又不是單一的，往往都是多種形式信息源相互交疊出現(xiàn)。多元輿情智能檢測(cè)系統(tǒng)則將傳統(tǒng)檢測(cè)算法與當(dāng)前熱門的深度學(xué)習(xí)算法結(jié)合，兩者優(yōu)勢(shì)互補(bǔ)，整個(gè)系統(tǒng)對(duì)網(wǎng)絡(luò)輿情的檢測(cè)速度和準(zhǔn)確率較傳統(tǒng)檢測(cè)方式都有較大提高，并且具有檢測(cè)文本和圖像兩種信息源的能力。本系統(tǒng)旨在保證互聯(lián)網(wǎng)信息安全，凈化網(wǎng)絡(luò)環(huán)境，并促進(jìn)社會(huì)和諧與穩(wěn)定。

2 系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)

2.1 系統(tǒng)原理

圖1 系統(tǒng)原理框圖

本系統(tǒng)主要針對(duì)負(fù)面文本、惡意篡改圖像進(jìn)行檢測(cè)。對(duì)于負(fù)面文本，本系統(tǒng)主要運(yùn)用基于深度學(xué)習(xí)算法來(lái)進(jìn)行檢測(cè)，檢測(cè)識(shí)別率得到明顯提高；在篡改圖像檢測(cè)方面，本系統(tǒng)基于經(jīng)典匹配算法與深度學(xué)習(xí)模型相結(jié)合的方法來(lái)對(duì)篡改圖像進(jìn)行檢測(cè)，傳統(tǒng)算法用于檢測(cè)復(fù)制-粘貼篡改類型的圖像，深度學(xué)習(xí)模型主要用來(lái)檢測(cè)拼接篡改類型的圖像，在檢測(cè)的速度和準(zhǔn)確度上都有提高。對(duì)于輸入的測(cè)試樣本，系統(tǒng)將根據(jù)樣本類型（文本或者圖像）來(lái)選擇相應(yīng)的檢測(cè)模型，通過(guò)檢測(cè)模型檢測(cè)后輸出檢測(cè)結(jié)果。如果是文本型樣本，輸出結(jié)果給出的是文本的情感判別（正面、中性、負(fù)面）；若是圖像型樣本，輸出結(jié)果則在原始樣本上標(biāo)注出篡改區(qū)域和類型。

2.2 系統(tǒng)特點(diǎn)

當(dāng)前絕大多數(shù)檢測(cè)系統(tǒng)都只能對(duì)單一形式的樣本進(jìn)行檢測(cè)（文本或者圖像），并且很多時(shí)候采用人工檢測(cè)，經(jīng)過(guò)P圖軟件惡意篡改后的圖像肉眼很難分辨且費(fèi)時(shí)費(fèi)力。在信息形式圖文并茂的今天檢測(cè)效率較低，并且由于檢測(cè)不夠全面，其結(jié)果可信度也較低。本系統(tǒng)將文本檢測(cè)模型與圖像檢測(cè)模型結(jié)合，能同時(shí)檢測(cè)惡意評(píng)論和篡改圖形。在圖像篡改檢測(cè)方面，傳統(tǒng)特征點(diǎn)匹配算法與深度學(xué)習(xí)算法結(jié)合，能夠檢測(cè)兩種不同篡改類型的圖像。系統(tǒng)對(duì)于目前互聯(lián)網(wǎng)上絕大多數(shù)負(fù)面評(píng)論和篡改圖像檢測(cè)都有較高的檢測(cè)速度和準(zhǔn)確度，并對(duì)檢測(cè)樣本給出一個(gè)綜合評(píng)價(jià)，給網(wǎng)絡(luò)惡意信息檢測(cè)部門提供一個(gè)參考，給網(wǎng)民提供更好的網(wǎng)絡(luò)生態(tài)環(huán)境。

2.3 應(yīng)用前景

目前，網(wǎng)絡(luò)負(fù)面信息以及虛假圖片肆虐情況愈發(fā)嚴(yán)重，對(duì)于圖文負(fù)面以及虛假信息的及時(shí)檢測(cè)和跟蹤了解，對(duì)于凈化網(wǎng)絡(luò)環(huán)境具有十分重要的意義。對(duì)于最近網(wǎng)絡(luò)突然爆紅的AI換臉，本系統(tǒng)也能做出不錯(cuò)的檢測(cè)判斷。系統(tǒng)利用爬蟲再加上實(shí)現(xiàn)數(shù)據(jù)流處理功能后，不僅針對(duì)可以達(dá)到實(shí)時(shí)檢測(cè)的目的，還能夠?qū)崿F(xiàn)被動(dòng)檢測(cè)以及預(yù)警的功能，為政府網(wǎng)安部門或者是企業(yè)對(duì)于負(fù)面信息的發(fā)現(xiàn)以及處理提供了更加高效便捷的工具。對(duì)于已經(jīng)標(biāo)記為正面或負(fù)面的評(píng)論，可以通過(guò)云端平臺(tái)作為模型的訓(xùn)練樣本；對(duì)于檢測(cè)到的經(jīng)過(guò)篡改的圖片樣本，同樣可以作為模型的訓(xùn)練樣本進(jìn)行保存，為后續(xù)的系統(tǒng)提供了更大的潛力。

隨著研究的不斷深入，可以將本系統(tǒng)更好地進(jìn)行完善，發(fā)展出更加多元化的功能，向著輿情的全態(tài)勢(shì)掌控分析的方向發(fā)展。本系統(tǒng)將來(lái)不僅可以在電腦等平臺(tái)上實(shí)現(xiàn)，也能夠在手機(jī)平臺(tái)上實(shí)現(xiàn)，方便用戶在移動(dòng)終端也能通過(guò)本系統(tǒng)得到是否為虛假信息的反饋，能為規(guī)避負(fù)面信息爆發(fā)式傳播、促進(jìn)社會(huì)更加和諧穩(wěn)定做出工作。

3 結(jié)束語(yǔ)

互聯(lián)網(wǎng)通信技術(shù)的普及，加速的信息的傳播，同時(shí)增加了負(fù)面信息，惡意信息甚至是非法信息的數(shù)量，互聯(lián)網(wǎng)通信成為不法分子傳播謠言、反動(dòng)言論、暴力色情和惡意煽動(dòng)群眾的工具。本系統(tǒng)提供一種智能高效的網(wǎng)絡(luò)負(fù)面信息的檢測(cè)方法，提出將傳統(tǒng)檢測(cè)算法與深度學(xué)習(xí)算法結(jié)合，文本檢測(cè)與圖像檢測(cè)結(jié)合，可對(duì)負(fù)面網(wǎng)絡(luò)言論和惡意篡改圖像進(jìn)行檢測(cè)，并且具有檢測(cè)速度快、準(zhǔn)確度高，檢測(cè)覆蓋面廣的特點(diǎn)，解決了傳統(tǒng)檢測(cè)方法存在的問(wèn)題，有利保障了網(wǎng)絡(luò)信息安全。