“再塑造”與“高風(fēng)險(xiǎn)”:生成式人工智能對(duì)輿論安全的影響*

黃日涵 姚浩龍

(華僑大學(xué)國際關(guān)系學(xué)院 廈門 361021)

0 引 言

當(dāng)前輿論力量愈發(fā)顯現(xiàn),不僅只作為公共意志的凝聚,更在政治和社會(huì)發(fā)展中發(fā)揮巨大影響,因此輿論導(dǎo)向正確是黨和人民之福,輿論導(dǎo)向錯(cuò)誤是黨和人民之禍[1],輿論安全成為國家安全的重要組成和基礎(chǔ)部分。考慮到每次技術(shù)革命都將對(duì)公共輿論的塑造與傳播模式帶來巨大沖擊,都將改變時(shí)下輿論場域的發(fā)展脈絡(luò)、特征及發(fā)展態(tài)勢(shì)。從賦能角度看,技術(shù)變革幫助變革既有信息獲取和傳播方式,大數(shù)據(jù)、5G技術(shù)加持下的網(wǎng)絡(luò)信息傳播渠道推波助瀾輿論發(fā)展,并進(jìn)一步外溢成對(duì)輿論生產(chǎn)與傳播的影響。因此討論技術(shù)發(fā)展對(duì)輿論的多方面影響極為重要。當(dāng)前,以ChatGPT為代表的生成式人工智能逐漸被認(rèn)為是繼互聯(lián)網(wǎng)搜索引擎之后的新一代知識(shí)調(diào)用工具,甚至被認(rèn)為是“上帝之腦”[2]。作為深度參與網(wǎng)絡(luò)信息收集、再加工和生產(chǎn)“新”信息的工具,社會(huì)主體對(duì)ChatGPT的使用行為必然不可避免地參與到公共輿論的產(chǎn)生與傳播當(dāng)中。當(dāng)下,圍繞ChatGPT展開的討論聚焦在對(duì)學(xué)術(shù)倫理、社會(huì)發(fā)展和知識(shí)生產(chǎn)等方面。在與輿論的關(guān)系上,既有研究關(guān)注類ChatGPT人工智能引導(dǎo)和影響輿論中政治情感[3],及對(duì)于既有國際傳播體系生態(tài)的影響[4-6],圍繞其對(duì)輿論產(chǎn)生與傳播模式方面影響研究并不透徹。因此本文意圖通過研究以ChatGPT為代表的生成式人工智能對(duì)智媒化時(shí)代下的公共輿論的產(chǎn)生與傳播模式影響,來探討該類型的人工智能將會(huì)對(duì)現(xiàn)有輿論發(fā)展乃至輿論安全方面產(chǎn)生的影響,針對(duì)性提出政策建議,豐富相關(guān)研究。

1 ChatGPT對(duì)輿論發(fā)展的多方位影響

作為基于GPT(Generated Pre-trained Transformer)模型開發(fā)出的對(duì)話式人工智能,ChatGPT能夠通過對(duì)用戶提出的問題進(jìn)行串聯(lián),理解所給文本的上下文語義,并基于訓(xùn)練數(shù)據(jù)以文本輸出的形式,生成近乎人類自然語言的回答。從技術(shù)特征來看,相較于傳統(tǒng)在工業(yè)生產(chǎn)方面使用的人工智能,ChatGPT具有較強(qiáng)的語言理解能力、更擬人化的語言風(fēng)格、具有局限性的數(shù)據(jù)論證能力以及依賴于訓(xùn)練數(shù)據(jù)質(zhì)量的思想深度與內(nèi)在邏輯[7]。

每一次媒介技術(shù)的變革,都引發(fā)著媒介形態(tài)、傳播格局和傳媒生態(tài)的巨變[8]。與ChatGPT遵循相同訓(xùn)練機(jī)理的人工智能憑借自身對(duì)文本生成、傳播格局等節(jié)點(diǎn)和媒介的變革性影響,深度參與其中,并在某種程度上對(duì)輿論的生產(chǎn)與傳播模式產(chǎn)生近乎“再塑造”的影響。

1.1 簡化輿論生產(chǎn)流程,推動(dòng)網(wǎng)絡(luò)水軍迭代。

從輿論生產(chǎn)方式看,ChatGPT能夠憑借既定程序設(shè)計(jì)和自動(dòng)化生產(chǎn)等技術(shù)優(yōu)勢(shì),大幅提高輿論觀點(diǎn)的生產(chǎn)與輸出效率,并能通過規(guī)模優(yōu)勢(shì)進(jìn)行跨平臺(tái)議題聯(lián)動(dòng),形成議題網(wǎng)絡(luò),快速塑造輿論潮。隨著技術(shù)發(fā)展,技術(shù)對(duì)信息內(nèi)容的產(chǎn)生介入變得更加深刻,輿論與技術(shù)的關(guān)聯(lián)度快速提升。而ChatGPT在輿論的生成與傳播中,扮演著“自動(dòng)產(chǎn)生、自動(dòng)擴(kuò)散、強(qiáng)化接受”三者結(jié)合的輿論生產(chǎn)主體。從信息生產(chǎn)方面看,ChatGPT所基于的信息檢索能力能夠無時(shí)無刻通過與網(wǎng)絡(luò)的鏈接抓取信息形成答案,跨過傳統(tǒng)方式中對(duì)信息的轉(zhuǎn)寫、翻譯等步驟,提高速率。例如,人工智能此前已被運(yùn)用在新聞寫作等方面,且其輸出結(jié)果的準(zhǔn)確率高于人工書寫的新聞稿[9]。具備良好上下文理解能力和無監(jiān)督自我學(xué)習(xí)能力的ChatGPT能夠根據(jù)具體內(nèi)容,理解語境信息,快速生成所需內(nèi)容,更能夠依據(jù)用戶要求調(diào)整輸出結(jié)果的格式和條例,模式化、標(biāo)準(zhǔn)化、自動(dòng)地不斷產(chǎn)出所需內(nèi)容。事實(shí)上只要預(yù)設(shè)較為簡單的腳本,便能夠持續(xù)不斷的讓此類人工智能長時(shí)段的產(chǎn)出相關(guān)信息,圍繞既定主題進(jìn)行產(chǎn)出。而在傳播階段,“人機(jī)協(xié)同”乃至“機(jī)機(jī)協(xié)同”能有效減損傳播消耗,用戶與人工智能的互動(dòng)需要?jiǎng)t替代了過往信息傳播對(duì)平臺(tái)的依賴,信息傳播效率大幅提高。基于新技術(shù)產(chǎn)生的、具備個(gè)性化的輿論收發(fā)工具將侵蝕既有的傳播平臺(tái)“分發(fā)式”輿論傳播模式,用戶得以通過各端口與信息直接交互。因此ChatGPT等生成式人工智能將大幅縮短輿論生產(chǎn)鏈長度。

除此之外,該類型人工智能將對(duì)社交機(jī)器人進(jìn)行“改造升級(jí)”?，F(xiàn)有網(wǎng)絡(luò)機(jī)器人更多是檢測(cè)網(wǎng)絡(luò)信息的關(guān)鍵詞等特征,以此輸出固定話語內(nèi)容,極容易被平臺(tái)和用戶所識(shí)破,更有可能出現(xiàn)“找錯(cuò)目標(biāo)”等情況。相較于傳統(tǒng)網(wǎng)絡(luò)水軍,生成式人工智能賦能下的社交機(jī)器人不僅能夠生成視頻、圖片等更加具有真實(shí)性、直觀性的材料來“編造故事”,并“自圓其說”,博取網(wǎng)民眼球;更能夠全天候圍繞既定議題和給定立場進(jìn)行同質(zhì)化的輿論內(nèi)容輸出,通過先占優(yōu)勢(shì)、規(guī)模效應(yīng)不斷搶占輿論空間,在不同平臺(tái)、不同領(lǐng)域中圍繞同一主題的輿論內(nèi)容進(jìn)行相互聯(lián)動(dòng),最終以譬如“純路人”“自來水”等“羊皮”偽裝自身,塑造輿論熱點(diǎn)和主導(dǎo)性內(nèi)容,引導(dǎo)輿論變化。

1.2 加速輿論傳播格局演變,多樣化輿論生成路徑

從輿論傳播格局的演變進(jìn)程看,ChatGPT對(duì)人機(jī)互動(dòng)模式的變革影響將深化智媒體時(shí)代輿論的網(wǎng)格式傳播特征,即進(jìn)入互聯(lián)網(wǎng)時(shí)代后,互聯(lián)網(wǎng)提供的信息生成和傳遞端口使得個(gè)體能夠?qū)崟r(shí)編輯和發(fā)表新聞與觀點(diǎn),智能技術(shù)使得用戶能隨時(shí)參與到對(duì)部分事件的建構(gòu)當(dāng)中,將其轉(zhuǎn)換為帶有自身觀點(diǎn)的主觀事實(shí)。這些主觀事實(shí)又因?yàn)榛匾舯谛?yīng)而不斷被相關(guān)主體所接收,形成一個(gè)個(gè)“網(wǎng)格”,對(duì)同一事件的不同表述導(dǎo)致不同網(wǎng)格內(nèi)部的輿論特征、情緒導(dǎo)向存在差別乃至完全相反。因此互聯(lián)網(wǎng)時(shí)代的輿論傳播格局趨向“多節(jié)點(diǎn)、多向交流”等特征,輿論場中的主客觀信息間的區(qū)分度將會(huì)越來越小,事實(shí)性、公正性信息將會(huì)被淹沒在主觀意見當(dāng)中,客觀性事實(shí)本身被傳播主體的主觀認(rèn)知所掩蓋。在ChatGPT的加持之下,這些特征形成會(huì)變得更加“悄無聲息”:在該技術(shù)加持下,輿論傳播速率大幅提高,信息傳播渠道被拓寬。從輿論傳播程序來看,基于ChatGPT為代表的生成式人工智能所開發(fā)的各類應(yīng)用,將有效降低輿論生產(chǎn)主體搜集信息的繁雜程序?；凇拔谋窘粨Q——持續(xù)追問——答案生成”模式,此類應(yīng)用可給予任何使用者快速收集信息和輸出觀點(diǎn)的能力。而由于自監(jiān)督微調(diào)和人類反饋學(xué)習(xí)等機(jī)制的設(shè)立,輿論信息的生產(chǎn)與轉(zhuǎn)播主體都能夠向既有輿論悄然摻雜自己觀點(diǎn),參與輿論生成的主體類別和規(guī)模快速增多與擴(kuò)大。在該技術(shù)的加持下,往輿論中“添加”偏向的能力存在強(qiáng)烈且明顯的個(gè)體差異,具備強(qiáng)大算力資源的一方將得以灌輸信息,信息內(nèi)容的同質(zhì)化與發(fā)聲主體多元化的趨勢(shì)將會(huì)顯現(xiàn),個(gè)人認(rèn)知的區(qū)分度將會(huì)逐步降低,由此使得輿論更容易被引導(dǎo)與傳播。

而大模型加持下的多模態(tài)、跨模態(tài)應(yīng)用將會(huì)對(duì)既有生態(tài)注入更多信息內(nèi)容,輿論的熵將呈現(xiàn)指數(shù)級(jí)的提升,輿論傳播的規(guī)制與治理將變得尤為困難。

1.3 強(qiáng)化資本對(duì)輿論影響,輿論淪為商戰(zhàn)工具

隨著資本對(duì)傳媒市場的介入程度逐步加深,資本開始利用所控制的媒體來表達(dá)自身價(jià)值觀,維護(hù)自身利益[10]。全球化進(jìn)程的推進(jìn)客觀上提高了商業(yè)資本對(duì)輿論的需要。在數(shù)字時(shí)代,數(shù)據(jù)成為資源的主要形態(tài)。憑借對(duì)智能技術(shù)和平臺(tái)優(yōu)勢(shì)的掌握,資本實(shí)現(xiàn)了對(duì)輿論生成、擴(kuò)散、演變、反饋的全過程把控,由此構(gòu)建了一張完整的影響輿論的技術(shù)網(wǎng)絡(luò)[11]。生成式人工智能的出現(xiàn)則為資本革新對(duì)輿論的影響方式提供可能。首先,科技公司研發(fā)生成式人工智能,需要大量資金投入到算法革新和數(shù)據(jù)篩選當(dāng)中,難免資本在大模型發(fā)展應(yīng)用當(dāng)中打下烙印。其次,當(dāng)前資本運(yùn)用輿論展開商業(yè)競爭已屢見不鮮。在生成式人工智能研發(fā)當(dāng)中,受限于技術(shù)發(fā)展模式,領(lǐng)先的一方會(huì)將算法、算力優(yōu)勢(shì)外溢到其他領(lǐng)域,實(shí)現(xiàn)“一步快、步步快”態(tài)勢(shì),這就導(dǎo)致處于競爭態(tài)勢(shì)的資本會(huì)相繼研發(fā)、應(yīng)用和革新生成式人工智能,展開“軍備競賽”,避免落入下風(fēng)。最后,資本和人工智能研發(fā)機(jī)構(gòu)的相互需要將催生出專注于議程設(shè)置、輿論引導(dǎo)、話題引爆等方面的人工智能,加深資本對(duì)輿論發(fā)展的控制。由此,輿論不再單純是社會(huì)觀點(diǎn)摩擦和交鋒誕生的產(chǎn)物,更是資本力量對(duì)抗而被引導(dǎo)的副產(chǎn)品。筆者在使用來自不同企業(yè)的對(duì)話式機(jī)器人,例如通義千問、文心一言等時(shí),會(huì)發(fā)現(xiàn)他們對(duì)同樣問題的價(jià)值傾向存在明顯差異:例如這些人工智能在被問及如何評(píng)價(jià)中國優(yōu)秀企業(yè)家們時(shí),不同人工智能表現(xiàn)出非常明顯的價(jià)值傾向,甚至出現(xiàn)了片面評(píng)價(jià)的情況。因此社會(huì)團(tuán)體對(duì)不同生成式人工智能的使用可能生產(chǎn)出另類“小群體”,進(jìn)一步造成不同群體對(duì)社會(huì)價(jià)值的異化吸收。

因此,在ChatGPT等生成式人工智能的影響下,公眾輿論生產(chǎn)與傳播的“產(chǎn)業(yè)鏈”可以說被“再塑造”,探討這種改變帶來的多維度影響尤為重要。

2 輿論“再塑造”帶來的多重影響

輿論是政府進(jìn)行社會(huì)治理的重要依據(jù)[12]。在網(wǎng)絡(luò)媒體視域下,輿論安全包含三個(gè)主要特點(diǎn),即作用正向、傳播有序及陣地可控[13],同時(shí)國內(nèi)外的公眾意見不會(huì)對(duì)國家政權(quán)發(fā)展、社會(huì)穩(wěn)定等造成沖擊,是國家安全在輿論領(lǐng)域的體現(xiàn)[14]。輿論縱向深度融入其它國家領(lǐng)域,總體與國家安全呈現(xiàn)出蜘蛛網(wǎng)式的聯(lián)絡(luò),輿論安全的喪失將直接或間接催生出諸如意識(shí)形態(tài)對(duì)立、階級(jí)對(duì)立等態(tài)勢(shì),輿論的“不安全”將給其他領(lǐng)域的穩(wěn)定發(fā)展帶去威脅,因此輿論安全是國家安全的必要地基和“晴雨表”,忽視對(duì)輿論安全的維護(hù)將從根本上影響總體國家安全的實(shí)現(xiàn)。生成式人工智能將主要對(duì)輿論安全產(chǎn)生三方面影響。

2.1 密切偽裝:思維立場侵蝕難防御

從堅(jiān)持輿論的正向作用角度看,該技術(shù)的大規(guī)模使用將“便利化”有心之人破壞社會(huì)共識(shí),侵蝕社會(huì)主流價(jià)值體系。在生成式人工智能研發(fā)與應(yīng)用方面占據(jù)優(yōu)勢(shì)的主體將進(jìn)一步強(qiáng)化對(duì)輿論的影響力,奪取話語權(quán),對(duì)輿論的操弄變得更加頻繁。意識(shí)形態(tài)安全的保障與完備的輿論安全密不可分。作為社會(huì)群體共識(shí)基礎(chǔ)的主流價(jià)值觀倘若受到嘈雜信息沖擊,個(gè)體乃至群體原有立場的“地基”將被侵蝕甚至瓦解。而各個(gè)社會(huì)群體對(duì)原有共識(shí)的差異化接受將弱化對(duì)其他群體的認(rèn)同,弱化對(duì)原有價(jià)值觀的認(rèn)同。社會(huì)個(gè)體面對(duì)群體間共有知識(shí)的損耗,將在社會(huì)交往中認(rèn)知到未經(jīng)現(xiàn)實(shí)檢驗(yàn),極易被影響的價(jià)值觀。不同社會(huì)群體間認(rèn)同差異將會(huì)更顯著,公眾立場將呈現(xiàn)出“沙拉盤”現(xiàn)象,社會(huì)整體共識(shí)趨于破碎。同時(shí),信息技術(shù)革命將導(dǎo)致國際輿論格局變化。從當(dāng)前生成式人工智能的研發(fā)進(jìn)度看,當(dāng)前美國仍然牢牢把握著領(lǐng)先地位,自然能夠借助該優(yōu)勢(shì)進(jìn)一步強(qiáng)化對(duì)輿論的影響力:面對(duì)全球流動(dòng)的數(shù)據(jù)網(wǎng)絡(luò),相關(guān)國家通過針對(duì)性輸入某些富含政治傾向和政治態(tài)度的信息,改變此類人工智能的立場出發(fā)點(diǎn),并搭配精準(zhǔn)傳播、定制化傳播方案,就能影響到特定目標(biāo)群體,構(gòu)建信息繭房,輿論在維護(hù)意識(shí)形態(tài)中的引領(lǐng)作用將被瓦解。

從人機(jī)交互角度看,ChatGPT能夠在人機(jī)交互過程中逐漸形成用戶的用戶畫像,極大提升對(duì)目標(biāo)用戶的分析能力和認(rèn)知攻心能力[15]。在算法判定下,擁有類似畫像的用戶會(huì)被生成式人工智能歸為同類群體,并針對(duì)性的向其輸出特定類型的信息。這部分群體將共享對(duì)某些事件或者主體的看法,并將在“信息篩網(wǎng)”的影響下持續(xù)固化想法,最終形成類似“思想鋼印”般的思維立場,不同群體所持有的觀點(diǎn)難以統(tǒng)一,由此甚至出現(xiàn)觀點(diǎn)極化可能。這種對(duì)心理認(rèn)知的刻意引導(dǎo)曾被用以干涉總統(tǒng)選舉中[16]。同時(shí)眾多使用者已經(jīng)察覺到非針對(duì)情況下,ChatGPT回答過程中所蘊(yùn)藏的歧視性言論,針對(duì)特定人群的種族主義偏見已經(jīng)融入了ChatGPT本身[17]。惡意行為體會(huì)利用互聯(lián)網(wǎng)和社交媒體的傳播渠道和動(dòng)員能力,在目標(biāo)對(duì)象的社會(huì)中植入虛假信息,煽動(dòng)族群矛盾、宗教傾軋和社會(huì)動(dòng)蕩,發(fā)酵成輿情事件甚至政治動(dòng)亂[18]。因此在人機(jī)協(xié)同、人機(jī)交互成為信息生成與傳播主流的當(dāng)下,一旦在算法和數(shù)據(jù)庫訓(xùn)練當(dāng)中存在偏見,將直接影響輿論產(chǎn)生與傳播的內(nèi)容,偏見將會(huì)隨著人工智能運(yùn)轉(zhuǎn)而不斷發(fā)散,使用者在進(jìn)行信息收集與深度思考時(shí)會(huì)遭受更立體的政治和思維立場攻擊,由此帶來對(duì)既有常識(shí)甚至是政治立場的侵蝕,進(jìn)而產(chǎn)生個(gè)體意識(shí)形態(tài)立場松動(dòng)、被侵蝕的危險(xiǎn)。而受社會(huì)公眾輿論影響的虛假民意將對(duì)政治決策具有消極作用[19],脫離現(xiàn)實(shí)的反饋將導(dǎo)致國家政府機(jī)關(guān)誤判形式,進(jìn)而對(duì)國家政治安全、社會(huì)穩(wěn)定造成威脅。

2.2 高效制“噪”:輿論傳播生態(tài)難治理

從堅(jiān)持輿論的傳播有序特點(diǎn)看,ChatGPT賦能輿論場中的多主體影響公眾意見的權(quán)力,將大幅提高輿論場中的信息熵,社會(huì)輿論變得更加污濁化、復(fù)雜化,傳播主體、內(nèi)容和行為都將趨向混亂,依托輿論產(chǎn)生的網(wǎng)絡(luò)暴力、網(wǎng)絡(luò)侵權(quán)行為發(fā)展無序化,輿論治理效能降低。在社會(huì)價(jià)值觀多元的背景下,公共輿論將伴隨傳播過程的進(jìn)行而不斷自我革新、自我分化,其影響將被所依據(jù)的傳播媒介不斷放大。擁有話語霸權(quán)的信息傳播者可以根據(jù)社會(huì)發(fā)展的需要進(jìn)行有效的議題設(shè)置和輿論引導(dǎo)[20]。因而有學(xué)者將社交機(jī)器人形容為“腹語表演者手中的玩偶”[21]。傳統(tǒng)意義上,輿論生產(chǎn)主體能夠預(yù)先設(shè)置好社交機(jī)器人的工作模式,持續(xù)不斷針對(duì)他國政府、公開言論進(jìn)行輿論“染色”,并通過披上“公意”“大眾意志”的外衣提高類似言論的感染力和傳播效力,最終在輿論場中形成“多數(shù)人的暴政”。不同的是,ChatGPT賦能下的社交機(jī)器人能夠在不斷輸出內(nèi)容的同時(shí),收集和分析目標(biāo)用戶的反饋及相關(guān)數(shù)據(jù),實(shí)時(shí)性地調(diào)整生成內(nèi)容,提升說服能力?？紤]到社會(huì)群體大都存在偏好效應(yīng)和路徑依賴,對(duì)社交機(jī)器人的溝通內(nèi)容存在片面采納情況。這將形成負(fù)反饋效應(yīng),社會(huì)群體的輿論觀點(diǎn)將在與此類人工智能的互動(dòng)中趨于偏激乃至極化。政府意志在輿論場的缺失將導(dǎo)致公眾輿論將逐步被技術(shù)權(quán)威掌握。這將導(dǎo)致輿論成為“私人物品”,輿論難以再被稱為是大多數(shù)人意見的總和,反而成為各種社會(huì)惡劣事件的“發(fā)酵缸”,輿論安全乃至社會(huì)穩(wěn)定自然無從保障。

同時(shí),公眾與ChatGPT的高頻互動(dòng)帶來的“假親密”可能致使公眾喪失現(xiàn)實(shí)感,在萬花筒般的輿論環(huán)繞當(dāng)中原有認(rèn)知被解構(gòu),致使負(fù)面輿論肆虐。一方面,ChatGPT在對(duì)話過程中能夠根據(jù)用戶需要,通過在高頻交流中扮演角色、營造對(duì)話環(huán)境來增強(qiáng)人機(jī)交互的沉浸感,展現(xiàn)出在心理輔導(dǎo)、情緒疏導(dǎo)等方面的應(yīng)用前景;但另一方面,此類對(duì)話環(huán)境將塑造產(chǎn)生脫離現(xiàn)實(shí)的信息,間接賦予此類人工智能干涉人類主體情緒發(fā)展的能力。隨著人們?cè)絹碓睫D(zhuǎn)向ChatGPT滿足自身情感和知識(shí)訴求,對(duì)其依賴度將大幅上升,甚至一些人可能會(huì)以信仰宗教般的虔誠對(duì)待ChatGPT回答內(nèi)容,這必然會(huì)降低人們與現(xiàn)實(shí)社會(huì)的連結(jié)度,人與人之間的交流空間被人機(jī)交互所擠占乃至替。而當(dāng)人們認(rèn)知依托網(wǎng)絡(luò)信息后,負(fù)面輿論得以干擾認(rèn)知。在算法技術(shù)的加持下,網(wǎng)絡(luò)輿論暴力的生長空間會(huì)越來越大,在“鏈?zhǔn)椒磻?yīng)”影響下,社會(huì)輿論環(huán)境將會(huì)處于更深混亂當(dāng)中。算法邏輯會(huì)放大并加速網(wǎng)絡(luò)輿論暴力的傳播,持續(xù)刺激極化群體產(chǎn)生暴力傾向,推動(dòng)網(wǎng)絡(luò)暴力不斷升溫[22]。在此情形下網(wǎng)絡(luò)暴力會(huì)借助“脫離”現(xiàn)實(shí)的公眾擴(kuò)散發(fā)酵,輿論管控難以維系。

2.3 錯(cuò)誤彌散:虛假信息危害難預(yù)測(cè)

從堅(jiān)持輿論傳播陣地的可控性角度看,類ChatGPT人工智能大規(guī)模使用后,傳統(tǒng)信息技術(shù)難以處理的虛假信息將充斥國內(nèi)外輿論空間,將大幅惡化數(shù)字鴻溝現(xiàn)象,社會(huì)主體對(duì)輿論客體的信息辨識(shí)能力要求提高,虛擬現(xiàn)實(shí)和現(xiàn)實(shí)之間的邊界進(jìn)一步模糊化,并將進(jìn)一步衍生出更復(fù)雜的,難以規(guī)制的基于虛假輿論制造與傳播開展的犯罪形態(tài)。倘若不及時(shí)預(yù)警與解決,虛假信息充斥的輿論生態(tài)將成為毀壞國家安全這座“大壩”的“蟻穴”。

客觀來說,始終難以根除網(wǎng)絡(luò)暴力與虛假信息,其根源就在于網(wǎng)絡(luò)社會(huì)的多重交互特征與發(fā)散性傳播特性。而在輿論信息生產(chǎn)方面,ChatGPT所搜集的信息真實(shí)性存疑,甚至?xí)o編造的信息結(jié)果編造虛假信息來源來“欺騙用戶”。而一旦誤導(dǎo)性知識(shí)如果被沒有鑒別其真假能力的用戶接收,并無意傳播甚至形成錯(cuò)誤認(rèn)識(shí),則會(huì)造成難以預(yù)測(cè)的后果[23]。錯(cuò)誤回答和立場偏向?qū)⒉粌H改變個(gè)體認(rèn)知,這種潛在性的威脅有可能與現(xiàn)實(shí)介質(zhì)發(fā)生“化學(xué)反應(yīng)”,催生出不斷地被放大與擴(kuò)散的威脅。錯(cuò)誤回答會(huì)與偏向立場一同重塑“社會(huì)事實(shí)”,由此發(fā)酵出的網(wǎng)絡(luò)突發(fā)事件等輿情將難以扭轉(zhuǎn)的借助各種物理介質(zhì)進(jìn)行彌散性乃至無規(guī)則擴(kuò)散,在缺乏驗(yàn)證機(jī)制的條件下,最終結(jié)果難以預(yù)測(cè)。輿論因而成為“催化劑”,被錯(cuò)誤引導(dǎo)的知識(shí)輿論成為推動(dòng)更多災(zāi)禍發(fā)生的助推力,總體國家安全受到嚴(yán)重威脅。如俄羅斯團(tuán)隊(duì)曾利用人工智能生成虛假信息,順利通過西方社交媒體審查,發(fā)布大量有關(guān)西方背叛烏克蘭和烏克蘭是失敗國家的說法與證據(jù),造成嚴(yán)重影響[24]。倘若該技術(shù)被用以攻擊他國的信息傳播平臺(tái),通過實(shí)時(shí)替換、深度偽造等方式不斷傳遞錯(cuò)誤信息,那么在輿論爆炸式發(fā)展的現(xiàn)在,將可能產(chǎn)生網(wǎng)絡(luò)恐慌等“次生災(zāi)害”。

而基于GPT等大模型產(chǎn)出的生成式人工智能已經(jīng)涵蓋包括圖像生成在內(nèi),幾乎所有的網(wǎng)絡(luò)信息生成路徑,與真實(shí)世界的差別越來越小。結(jié)合此技術(shù)開展的輿論偽造、輿論操縱行為將會(huì)對(duì)“門外漢”產(chǎn)生近乎“降維打擊”般的成效。同時(shí)內(nèi)容即時(shí)校對(duì)體系模式仍在發(fā)展階段,治理能力發(fā)展相較于問題發(fā)展的時(shí)空間隙留下巨大可操縱空間,輿論安全難以保障。ChatGPT獲取和使用的開放性、便利性大幅降低虛假信息產(chǎn)出與傳播的門檻,代碼生成、網(wǎng)頁制作等方式更加能夠幫助犯罪分子影響公共意見。借助新媒體傳播速率快特點(diǎn),犯罪分子很容易制造難以驗(yàn)證的虛假輿論,并結(jié)合具體算法和區(qū)域推薦,具象化受害者群體,提高犯罪效率。當(dāng)前已有犯罪分子通過向ChatGPT輸入熱點(diǎn)新聞事件內(nèi)容,通過設(shè)定生成內(nèi)容風(fēng)格及其規(guī)模編造假新聞,通過上傳至新聞傳播平臺(tái)進(jìn)行流量變現(xiàn)牟利[25],更有甚者利用該技術(shù)進(jìn)行圖片和視頻合成用以進(jìn)行謠言傳播、電信詐騙等[26]。此類犯罪成本低,信息來源難以追蹤,危害性大幅提高,危害面大幅擴(kuò)展。除此之外,生成式人工智能還能夠在金融領(lǐng)域等依賴數(shù)據(jù)信息獲得和處理的領(lǐng)域“大展神威”,偽造報(bào)表等企業(yè)運(yùn)營信息,在輿論中塑造運(yùn)營良好形象,干擾市場正常判斷,進(jìn)而實(shí)現(xiàn)非法集資等惡劣行為。缺乏信息透明度的領(lǐng)域?qū)⒊蔀榉缸镄袨榈淖躺亍?/p>

3 新形勢(shì)下輿論亂象的應(yīng)對(duì)策略

3.1 多方共管:完善人工智能生成內(nèi)容監(jiān)管格局

從技術(shù)根源觀察生成式人工智能能力,算法與訓(xùn)練模型的優(yōu)劣直接決定了生成式人工智能的結(jié)果生成質(zhì)量。因此,從根源上杜絕類似人工智能帶來的輿情危險(xiǎn),多元共建內(nèi)容監(jiān)管格局,不僅要將人工智能“關(guān)進(jìn)籠子”,更要關(guān)入合適“籠子”。為此,企業(yè)平臺(tái)、政府與用戶三方應(yīng)共同建立監(jiān)管格局。

從企業(yè)層面看,企業(yè)必須增強(qiáng)對(duì)內(nèi)容的審查力度,開發(fā)內(nèi)容審查算法,從根源上杜絕此類人工智能被用以規(guī)模性產(chǎn)出虛假信息和暴力信息。企業(yè)不僅要在生成內(nèi)容上強(qiáng)制性打上“智能水印”,更要通過“多次把關(guān)、反復(fù)審查”的方式,規(guī)范化生成內(nèi)容向輿論場的流入、發(fā)酵路徑,細(xì)化鏈條,通過關(guān)鍵詞檢索與聯(lián)想、人工智能深度學(xué)習(xí)人類語句習(xí)慣等方式,反復(fù)強(qiáng)化內(nèi)容生產(chǎn)與傳遞中的檢索機(jī)制,以AI對(duì)抗AI,盡可能杜絕虛假信息的產(chǎn)出、流傳與擴(kuò)散,并就輿情爆點(diǎn)進(jìn)行時(shí)刻追蹤,揭露存在的輿論操弄問題。從數(shù)據(jù)角度看,做好訓(xùn)練數(shù)據(jù)的歸納、凈化與輸入工作極為重要。為此,研發(fā)機(jī)構(gòu)不僅應(yīng)以高標(biāo)準(zhǔn)、嚴(yán)態(tài)度對(duì)既有訓(xùn)練數(shù)據(jù)進(jìn)行數(shù)據(jù)清理,不同研發(fā)機(jī)構(gòu)間應(yīng)就訓(xùn)練數(shù)據(jù)進(jìn)行共享和交叉清理,在規(guī)避技術(shù)泄密的前提下構(gòu)建數(shù)據(jù)“白名單”、算力集群乃至模型訓(xùn)練集群,通過構(gòu)建并行平臺(tái)等方式來加速數(shù)據(jù)凈化。此外亦可逐步探索以AI訓(xùn)練AI,即先訓(xùn)練優(yōu)質(zhì)的、專注訓(xùn)練和運(yùn)作規(guī)則搭建的“小模型”,并在此基礎(chǔ)上幫助大模型搭建基本構(gòu)型,實(shí)現(xiàn)兩者交互,提高訓(xùn)練效率。

而從政府層面看,把握并出臺(tái)兼顧促進(jìn)大模型發(fā)展和監(jiān)管大模型規(guī)范使用的規(guī)范至關(guān)重要。當(dāng)前,多種基于大模型研發(fā)出的人工智能已經(jīng)步入對(duì)外開放測(cè)試階段,多模態(tài)、多場景應(yīng)用向政府既有治理手段提出挑戰(zhàn)。為此,政府出臺(tái)更加明晰的發(fā)展與審查規(guī)定,以政府力量確立人工智能的價(jià)值評(píng)價(jià)、能力評(píng)測(cè)、應(yīng)用評(píng)定體系,設(shè)立研發(fā)透明、運(yùn)用公正等基本原則,在繼續(xù)促進(jìn)國有大模型發(fā)展的同時(shí),規(guī)范化大模型能力。對(duì)利用人工智能進(jìn)行輿論操縱、虛假輿論生產(chǎn)與傳播的主體,政府應(yīng)依據(jù)情節(jié)嚴(yán)重程度拓寬刑罰標(biāo)準(zhǔn),以嚴(yán)苛處罰震懾犯罪分子行為意愿,起到“殺一儆百”的效果。同時(shí)還要橫縱向追責(zé),對(duì)提供人工智能技術(shù)的企業(yè)、虛假輿論傳播平臺(tái)等主體進(jìn)行調(diào)查、警告乃至處罰,倒逼其他行為方提高對(duì)虛假輿論監(jiān)測(cè)重視程度,推動(dòng)凈化網(wǎng)絡(luò)輿論。

而從用戶角度看,用戶在輿論傳播當(dāng)中發(fā)揮傳遞信息、轉(zhuǎn)錄信息、吸收信息的作用,因?yàn)橐彩峭苿?dòng)構(gòu)建輿論安全的重要群體。權(quán)責(zé)對(duì)等,為此就需要企業(yè)與政府給予渠道反饋:渠道反饋指的是企業(yè)和政府要相應(yīng)成立問責(zé)部門,針對(duì)公眾發(fā)現(xiàn)的有關(guān)大模型與輿論相關(guān)的使用問題和惡意使用情況,及時(shí)處理,避免影響外溢。當(dāng)前中國已出臺(tái)的《生成式人工智能服務(wù)管理暫行辦法》中明確規(guī)定,允許使用者發(fā)現(xiàn)生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的,有權(quán)向有關(guān)主管部門投訴、舉報(bào)[27]。在此基礎(chǔ)上,企業(yè)可圍繞輿論安全主題向用戶提供處理渠道,在相關(guān)應(yīng)用當(dāng)中設(shè)立明顯標(biāo)識(shí),以供用戶反饋情況。而政府則定期考察大模型應(yīng)用運(yùn)轉(zhuǎn),并通過問卷調(diào)查等量化方式,將群眾民意作為衡量監(jiān)管力度與方式的重要依據(jù),補(bǔ)足輿論安全維護(hù)的最后一塊拼圖。

3.2 創(chuàng)新運(yùn)用:強(qiáng)化輿論引導(dǎo)能力,傳遞優(yōu)質(zhì)價(jià)值觀

我們不僅要認(rèn)識(shí)到生成式人工智能帶來的復(fù)雜輿論生態(tài)變化和虛假輿論泛濫的風(fēng)險(xiǎn),更要察覺其在價(jià)值觀傳遞與輿論引導(dǎo)方面的契機(jī)。受制于監(jiān)管手段與網(wǎng)絡(luò)觀點(diǎn)的匿名化特征,政府難以對(duì)網(wǎng)絡(luò)輿情實(shí)行監(jiān)管與有效治理,不同價(jià)值觀在其中肆意生長,國家輿情治理難免滯后,輿情監(jiān)管困難重重。而打造更合規(guī)的輿論生態(tài)將是實(shí)現(xiàn)輿論安全的長久之策。因此我們需要利用好生成式人工智能能力,以更加生動(dòng)、易接受的方式傳遞優(yōu)質(zhì)價(jià)值觀,杜絕“劣幣驅(qū)逐良幣”現(xiàn)象。

為此,一方面,政府可與企業(yè)進(jìn)行充分合作,圍繞優(yōu)質(zhì)價(jià)值觀的傳播,結(jié)合短視頻等新媒體平臺(tái),改變現(xiàn)有價(jià)值觀傳遞形式單一、大眾對(duì)話語敘述接受度較低的情況,使得宣傳更具親和力。當(dāng)前網(wǎng)絡(luò)輿論存在眾多消極輿論,導(dǎo)致這種現(xiàn)象的重要原因便是我們?cè)跔帄Z輿論高地、引領(lǐng)輿論話語時(shí)缺乏多樣形式,“上價(jià)值”等宣傳模式忽視了輿論接受方的差異性,部分人的價(jià)值需求并沒有被得到滿足,反而加深了部分人的偏見。因此我們應(yīng)充分利用生成式人工智能的多模態(tài)應(yīng)用方式,充分發(fā)揮這在輿論內(nèi)容生產(chǎn)的積極一面,即政府可以依據(jù)踐行優(yōu)秀價(jià)值觀的案例借助生成式人工智能的內(nèi)容與視頻生成能力,借助合適角色“說理”,將優(yōu)質(zhì)價(jià)值觀融入生產(chǎn)內(nèi)容中,并借助平臺(tái)進(jìn)行精準(zhǔn)推送,建立積極“繭房”,進(jìn)而催生積極輿情。而對(duì)用戶畫像的使用,將有助于消磨不同群體間的隔閡,推進(jìn)多元價(jià)值觀在更高層級(jí)上的融合。同時(shí),針對(duì)大眾反映良好的傳播形式進(jìn)行精準(zhǔn)挖掘,政府可與主流媒體聯(lián)合推而廣之,實(shí)現(xiàn)不同優(yōu)質(zhì)價(jià)值觀傳播的互補(bǔ)性、相互連續(xù)性,織密織好傳播網(wǎng)絡(luò)。

另一方面,政府挖掘此類人工智能技術(shù)在社會(huì)調(diào)研方面的突出作用,以更貼近大眾生活的方式展開輿論宣傳。數(shù)字化時(shí)代中,數(shù)據(jù)成為政府展開治理的主要依據(jù),但數(shù)字信息化水平的客觀不平衡意味著數(shù)字難民存在被“代表”,社會(huì)問題存在被深埋的可能性,政府宣傳的價(jià)值觀與人們的客觀認(rèn)可出現(xiàn)錯(cuò)位。因而將此類人工智能技術(shù)應(yīng)用到廣泛調(diào)研、深度調(diào)研極為重要。此類人工智能在與用戶交互過程中,通過其檢索的問題邏輯、問題間聯(lián)想等形式,可在不涉及個(gè)人隱私的情況下,查探基本心理發(fā)展情況。政府可依據(jù)此類人工智能提供的認(rèn)知圖像,精準(zhǔn)化探尋不同社會(huì)群體的價(jià)值觀變化與傾向,提早預(yù)警、提早研判,以更具針對(duì)性的宣傳策略和工具輔助,來實(shí)現(xiàn)對(duì)消極價(jià)值觀的糾偏,并實(shí)現(xiàn)優(yōu)質(zhì)價(jià)值觀的廣泛傳播,從根本上提高人們對(duì)隱藏在輿論當(dāng)中錯(cuò)誤價(jià)值觀的抵御能力,幫助優(yōu)質(zhì)價(jià)值觀成為社會(huì)主流共識(shí)。

4 結(jié) 語

以ChatGPT為代表的生成式人工智能發(fā)展日新月異,輿論發(fā)展面臨新態(tài)勢(shì)、新形式,輿論安全保障同樣岌岌可危。隨著專精圖像和視頻生成、代碼和文本產(chǎn)出方面的生成式人工智能能力的不斷提高,輿論內(nèi)容的生成與傳播幾乎難以規(guī)制,輿論生態(tài)復(fù)雜程度將呈現(xiàn)指數(shù)級(jí)攀升,輿論信息的可信度將受到劇烈沖擊,信息社會(huì)將迎來新一輪的信息爆炸,并將結(jié)合現(xiàn)實(shí)發(fā)展醞釀更大災(zāi)禍。無數(shù)事件告訴我們,輿論的無序化、意識(shí)形態(tài)化的發(fā)展都將導(dǎo)致輿論不能發(fā)揮其正常作用,社會(huì)事實(shí)反而被傳播中的社會(huì)“事實(shí)”所扭曲。因此我們應(yīng)充分認(rèn)知此項(xiàng)突破性技術(shù)對(duì)輿論發(fā)展帶來的多方面影響,提前預(yù)警、提早布局,以技術(shù)工具化解技術(shù)風(fēng)險(xiǎn),適應(yīng)和扭轉(zhuǎn)新形勢(shì)下輿論發(fā)展導(dǎo)向,推動(dòng)新技術(shù)服務(wù)于輿論安全的長久穩(wěn)固。

致謝:在本文寫作過程中感謝張愛軍教授,謝磊副教授提出的修改意見。