ChatGPT生成式人工智能的意識形態(tài)風(fēng)險(xiǎn)及其化解

胡啟明 尹婉菲

摘 要：以ChatGPT為代表的生成式人工智能的崛起是人工智能領(lǐng)域一次重大的變革，這一顛覆性技術(shù)的突破和應(yīng)用也帶來了一系列的意識形態(tài)潛隱風(fēng)險(xiǎn)，包括爭奪意識形態(tài)生產(chǎn)權(quán)、維護(hù)西方意識形態(tài)話語權(quán)、弱化主流意識形態(tài)主導(dǎo)權(quán)、稀釋意識形態(tài)主動權(quán)等。為有效應(yīng)對意識形態(tài)風(fēng)險(xiǎn)，國家應(yīng)從推動人工智技術(shù)自主創(chuàng)新、制定ChatGPT類生成式人工智能應(yīng)用標(biāo)準(zhǔn)規(guī)范、提升公眾的生成式人工智能媒介素養(yǎng)、建立ChatGPT類生成式人工智能監(jiān)管機(jī)制等方面著手，以發(fā)展、控制、利用并舉的方式做好意識形態(tài)安全工作。

關(guān)鍵詞：ChatGPT；生成式人工智能；意識形態(tài)風(fēng)險(xiǎn)；化解

[中圖分類號]G641 [文獻(xiàn)標(biāo)識碼]A [文章編號]1674-9618（2024）01-0036-06

*基金項(xiàng)目：本文系廣西教育科學(xué)“十四五”規(guī)劃2023年度資助經(jīng)費(fèi)重點(diǎn)課題（A類）“習(xí)近平總書記關(guān)于思想政治理論課重要論述研究”（項(xiàng)目編號：2023A035） 、廣西研究生教育創(chuàng)新計(jì)劃項(xiàng)目“新時(shí)代研究生‘導(dǎo)學(xué)思政體系構(gòu)建研究”（項(xiàng)目編號：JGY2023130）階段性成果。

ChatGPT全名“Chat Generative Pre-trained Transformer”，譯為“聊天生成式預(yù)訓(xùn)練轉(zhuǎn)換器”，是由美國人工智能研究公司于2022年11月30日發(fā)布的一款聊天機(jī)器人應(yīng)用程序，自發(fā)布以來僅僅2個(gè)月就擁有了1億活躍用戶。目前，ChatGPT還在不斷迭代，多模態(tài)預(yù)訓(xùn)練大模型GPT-4具有更加強(qiáng)大的語言處理能力，能夠支持文字、圖像等多模態(tài)鍵入，可以生成20種編程代碼，在30多種語言之間自由切換。ChatGPT生成式人工智能表現(xiàn)出的強(qiáng)大“類人”性是以往“機(jī)械味”的人工智能所難以企及的，這種顛覆性的創(chuàng)新給信息的生產(chǎn)、傳播帶來了深刻的變化，給意識形態(tài)安全帶來風(fēng)險(xiǎn)挑戰(zhàn)。習(xí)近平總書記在黨的二十大報(bào)告中強(qiáng)調(diào)：“意識形態(tài)工作是為國家立心、為民族立魂的工作?！盵1]在ChatGPT生成式人工智能浪潮中鞏固壯大主流思想輿論，防范化解其中的意識形態(tài)風(fēng)險(xiǎn)，在沖突和調(diào)適中找到優(yōu)化路徑成為一個(gè)值得關(guān)注的問題。

一、ChatGPT生成式人工智能的應(yīng)用基礎(chǔ)

ChatGPT生成式人工智能的生成性體現(xiàn)在其能夠極快地搜集并整理資料，組合成成熟的、類似人的口吻的文本回答，并且在與人的交互過程中甚至能夠揣摩人的需要，進(jìn)而快速、準(zhǔn)確、智能地生成圖片、文字、視頻等。這些變革的背后是大型語言模型、人類反饋強(qiáng)化學(xué)習(xí)、基于生成式預(yù)訓(xùn)練模型的新突破。

（一） 大型語言模型：搜集全網(wǎng)數(shù)據(jù)

作為大型語言模型，ChatGPT的訓(xùn)練數(shù)據(jù)集包含了海量互聯(lián)網(wǎng)文本數(shù)據(jù)，如代碼、詩歌、法律文件、自然對話等，都是這些數(shù)據(jù)的一部分。基礎(chǔ)的GPT數(shù)據(jù)來源于網(wǎng)絡(luò)爬蟲數(shù)據(jù)集、WebText2數(shù)據(jù)集、書籍、期刊、維基百科以及其他數(shù)據(jù)庫，其中最大數(shù)據(jù)來源是網(wǎng)絡(luò)爬蟲數(shù)據(jù)集，GPT訓(xùn)練用的數(shù)據(jù)量大約3 000億單詞。據(jù)統(tǒng)計(jì)，ChatGPT的算法模型已經(jīng)擁有1 750億參數(shù)，用于預(yù)訓(xùn)練的數(shù)據(jù)量也達(dá)到了45TB，GPT4更是達(dá)到100萬億的模型參數(shù)。隨著ChatGPT的不斷更新，其數(shù)據(jù)容量也不斷擴(kuò)增。訓(xùn)練大規(guī)模語言模型，語料是不可或缺的，ChatGPT具有廣泛的數(shù)據(jù)挖掘能力，可以通過與用戶對話過程、上下文的理解以及互聯(lián)網(wǎng)信息的收集，不斷擴(kuò)充和更新文本庫，類似于掌握著全網(wǎng)數(shù)據(jù)的“集成箱”。隨著大數(shù)據(jù)和生成式人工智能的不斷發(fā)展，海量數(shù)據(jù)也不斷為ChatGPT類生成式人工智能提供更多支撐。

（二） 人類反饋強(qiáng)化學(xué)習(xí)：模擬個(gè)人偏好

人類反饋強(qiáng)化學(xué)習(xí)是一項(xiàng)涉及多個(gè)模型和不同訓(xùn)練階段的復(fù)雜概念。它是強(qiáng)化學(xué)習(xí)的一個(gè)擴(kuò)展，它將人類的反饋納入訓(xùn)練過程，為機(jī)器提供了一種自然的、人性化的互動學(xué)習(xí)過程。人類反饋強(qiáng)化學(xué)習(xí)相對于傳統(tǒng)強(qiáng)化學(xué)習(xí)具有非常獨(dú)特的優(yōu)勢，那就是能夠更好地與人類的意圖保持一致，從而使得在一般文本數(shù)據(jù)語料庫上訓(xùn)練的語言模型能和復(fù)雜的人類價(jià)值觀對照，并能夠根據(jù)需要對“人—機(jī)”反饋即時(shí)進(jìn)行整理，并從中流暢的學(xué)習(xí)、進(jìn)化。[2]其訓(xùn)練過程可分為三個(gè)步驟。一是無監(jiān)督預(yù)訓(xùn)練。這一階段是使用大規(guī)模的文本數(shù)據(jù)構(gòu)建輸入語言模型，并通過不斷采集互聯(lián)網(wǎng)文本數(shù)據(jù)，構(gòu)造一個(gè)超大規(guī)模的數(shù)據(jù)集。二是監(jiān)督微調(diào)階段。對初始語言模型的部分參數(shù)進(jìn)行微調(diào)，在輸入文本中放入具體的任務(wù)信息，嘗試讓模型預(yù)測答案。三是指令微調(diào)階段。通過隨機(jī)抽取用戶問答數(shù)據(jù)，讓專業(yè)標(biāo)注人員給出高質(zhì)量答案，將符合人類偏好的高質(zhì)量答案投喂給已經(jīng)訓(xùn)練好的GPT進(jìn)行再次微調(diào)，從而對數(shù)據(jù)集進(jìn)行優(yōu)化，使模型對齊人的思考模式。在這一階段，模型接受了更廣泛的自然語言回答任務(wù)，從而具備了回答通用問題的能力?；谌祟惼脭?shù)據(jù)和強(qiáng)化學(xué)習(xí)技術(shù)，ChatGPT前所未有地實(shí)現(xiàn)了人類認(rèn)知機(jī)制的深度模擬，這為后續(xù)細(xì)化關(guān)系連接、個(gè)性要素的識別與生成奠定了基礎(chǔ)。

（三） 生成式預(yù)訓(xùn)練轉(zhuǎn)化模型：替代人工文本生產(chǎn)

ChatGPT是生成式預(yù)訓(xùn)練轉(zhuǎn)化器系列語言模型中的一員，是在GPT-3.5的基礎(chǔ)上進(jìn)行微調(diào)的改進(jìn)版。預(yù)訓(xùn)練模型是先通過一批語料進(jìn)行模型訓(xùn)練，在這個(gè)初步訓(xùn)練的基礎(chǔ)上再繼續(xù)學(xué)習(xí)，從而使模型具備足夠多的語言知識。預(yù)訓(xùn)練模型的訓(xùn)練分為兩個(gè)階段，即預(yù)訓(xùn)練階段和微調(diào)階段。通過這兩個(gè)階段，生成式預(yù)訓(xùn)練模型更加精通語料，其優(yōu)勢在于能夠處理大量數(shù)據(jù)并以自然語言生成回答。最新版本的ChatGPT-4是其第四次迭代，作為一個(gè)自然語言處理的人工智能語言模型，與人類相比，它能夠更高效、更快捷地處理和分析大量數(shù)據(jù)，能夠全天候工作，可以替代一些需要處理大量文本的工作。第四代生成式預(yù)訓(xùn)練轉(zhuǎn)化器現(xiàn)在可以處理來自用戶多達(dá)25 000字的文本，用戶可以向其發(fā)送一個(gè)網(wǎng)頁鏈接，要求它與該網(wǎng)頁上的文字進(jìn)行互動，進(jìn)行長篇寫作，并且還可以進(jìn)行圖片互動。因此，ChatGPT借助生成式預(yù)訓(xùn)練轉(zhuǎn)化模型，具有極大的文本生產(chǎn)能力，甚至可以在很多應(yīng)用場景中替代人工。

二、ChatGPT生成式人工智能的意識形態(tài)潛在風(fēng)險(xiǎn)

習(xí)近平總書記高度重視互聯(lián)網(wǎng)新型技術(shù)的發(fā)展，強(qiáng)調(diào)“對互聯(lián)網(wǎng)規(guī)律的把握能力、對網(wǎng)絡(luò)輿論的引導(dǎo)能力、對信息化發(fā)展的駕馭能力、對網(wǎng)絡(luò)安全的保障能力”的深刻認(rèn)知。[3]從對ChatGPT生成式人工智能的應(yīng)用基礎(chǔ)的分析中可以看出，其所依賴的突破性技術(shù)在設(shè)計(jì)和應(yīng)用上給意識形態(tài)安全帶來潛在風(fēng)險(xiǎn)。

（一） 智能介入：爭奪意識形態(tài)生產(chǎn)權(quán)

ChatGPT生成式人工智能使得互聯(lián)網(wǎng)內(nèi)容生產(chǎn)模式發(fā)生了根本性轉(zhuǎn)變，從UGC（用戶生成內(nèi)容）過渡到AIGC（人工智能生成內(nèi)容）。在此背景下，ChatGPT生成式人工智能逐步融入文字、代碼、音樂、圖片、視頻、3D多媒介形態(tài)的內(nèi)容生產(chǎn)中，能夠借助預(yù)訓(xùn)練、大模型、深度學(xué)習(xí)，根據(jù)數(shù)據(jù)的變動，不斷更新自己的文本庫，實(shí)現(xiàn)與人的跨界融合交往。

一是自動生產(chǎn)意識形態(tài)文本。ChatGPT生成式人工智能會逐步滲透到意識形態(tài)領(lǐng)域，通過生成式預(yù)訓(xùn)練轉(zhuǎn)化模型將意識形態(tài)內(nèi)容生產(chǎn)轉(zhuǎn)為AIGC（人工智能生成內(nèi)容）模式。在AIGC（人工智能生成內(nèi)容）模式下，ChatGPT生成式人工智能通過建立一個(gè)超大規(guī)模的語言模型，不斷吸納互聯(lián)網(wǎng)上的海量文本，經(jīng)過人類反饋強(qiáng)化學(xué)習(xí)，以概率形式來判斷文本是否符合正常的人類表達(dá)，在此基礎(chǔ)上自動根據(jù)現(xiàn)有的主題推斷下一階段可能的熱點(diǎn)內(nèi)容，并依據(jù)用戶在線游覽的時(shí)間長度、點(diǎn)贊及轉(zhuǎn)發(fā)的次數(shù)、口碑的好壞等進(jìn)行及時(shí)評估，并適時(shí)調(diào)整生成內(nèi)容，以期提供最“懂”人心的內(nèi)容，使采、編、寫工作自動化，更加快速、準(zhǔn)確、智能地生成意識形態(tài)工作所需要的圖片、文字和視頻等。更重要的是，ChatGPT生成式人工智能還具有“類人”式的語言理解力，能夠依據(jù)人的心理需求即時(shí)生成意識形態(tài)內(nèi)容，即“實(shí)時(shí)對話+即時(shí)創(chuàng)作”的人機(jī)交互式高智能的內(nèi)容生產(chǎn)，這對意識形態(tài)工作呈現(xiàn)出了巨大的風(fēng)險(xiǎn)空間。

二是擠壓意識形態(tài)工作者的內(nèi)容生產(chǎn)空間。ChatGPT生成式人工智能的到來，使得意識形態(tài)工作者無論是站在專業(yè)化角度還是用戶角度開展的意識形態(tài)工作都被部分替代，意識形態(tài)內(nèi)容生產(chǎn)空間被擠壓。生成式人工智能的內(nèi)容生產(chǎn)效率和偏好分析速度相比意識形態(tài)工作者而言占據(jù)了極大優(yōu)勢。例如，ChatGPT生成式人工智能在10秒之內(nèi)就可以生成一篇相關(guān)文章。ChatGPT生成式人工智能可以在互聯(lián)網(wǎng)上短時(shí)間內(nèi)海量發(fā)布和推送某種相似論調(diào)的內(nèi)容，從而影響輿論，擴(kuò)大影響力。意識形態(tài)不再僅僅是人類的觀念、思想集合，還包括人工智能的“觀念”。

（二） 價(jià)值傾向：維護(hù)西方意識形態(tài)話語權(quán)

科學(xué)不是自己產(chǎn)生的，“科學(xué)研究和技術(shù)改進(jìn)，既不是在一個(gè)純粹自由的領(lǐng)域內(nèi)進(jìn)行的，也不是由一個(gè)孤立的科學(xué)家和技術(shù)專家做出的，而是在社會的生產(chǎn)關(guān)系和社會的階級斗爭的范圍內(nèi)進(jìn)行的，因此它們必然受到社會性的制約”。[4]ChatGPT雖只是人工智能，但它的底層邏輯仍然是資本邏輯，其深度學(xué)習(xí)基于人為訓(xùn)練、人為操作，與西方意識形態(tài)保持著千絲萬縷的聯(lián)系。

其一，從技術(shù)構(gòu)架來看，ChatGPT的訓(xùn)練基于互聯(lián)網(wǎng)上的文本語料庫，這些語料庫主要來源于西方社會中最有影響力的平臺，如西方主流新聞媒體機(jī)構(gòu)、著名大學(xué)和社交媒體平臺。然而，這些主流媒體、傳播平臺是為資本主義服務(wù)的，更是西方國家意識形態(tài)張目的主要陣地?？梢?，ChatGPT生成式人工智能所依賴的大型語言模型和數(shù)據(jù)生態(tài)環(huán)境都源于西方，與生俱來有著強(qiáng)烈的西式政治正確的內(nèi)在訓(xùn)導(dǎo)，比如平權(quán)意識、種族問題、性別問題等，它有一套符合資本主義政治標(biāo)準(zhǔn)的處理方案，時(shí)時(shí)刻刻都在表明其資本主義偏向的價(jià)值觀，維護(hù)并強(qiáng)化西式的意識形態(tài)話語權(quán)。不僅如此，ChatGPT生成式人工智能的開發(fā)者、模型訓(xùn)練人員的政治取向也會影響該技術(shù)模型的意識形態(tài)偏向。

其二，從實(shí)際應(yīng)用來看，技術(shù)上的巨大優(yōu)勢會直接造成話語權(quán)上的壟斷地位，一些西方國家利用技術(shù)創(chuàng)新優(yōu)勢維護(hù)其意識形態(tài)話語霸權(quán)已是屢見不鮮。ChatGPT生成式人工智能正是一種新興的價(jià)值輸出工具，是西方資本主義國家搶占信息網(wǎng)絡(luò)戰(zhàn)場意識形態(tài)話語權(quán)的銳利武器。ChatGPT生成式人工智能能夠相對容易地將西方的價(jià)值觀念植入訓(xùn)練數(shù)據(jù)，或以算法選擇來呈現(xiàn)，通過操控?cái)?shù)據(jù)和模型，在與用戶的交互中對用戶精準(zhǔn)“投喂”，從而潛移默化地使用戶接受西方社會制度、價(jià)值觀念和發(fā)展模式，達(dá)到塑造社會心理和集體認(rèn)知、維護(hù)西方話語霸權(quán)的目的。因此，我們只有掌握生成式人工智能的數(shù)據(jù)集和算法模型，把握數(shù)據(jù)集的來源和樣本量，才能避免意識形態(tài)話語權(quán)的喪失。

（三） 擬態(tài)環(huán)境：弱化主流意識形態(tài)主導(dǎo)權(quán)

李普曼認(rèn)為，“擬態(tài)環(huán)境”是插入人與現(xiàn)實(shí)之間的信息環(huán)境，這個(gè)信息環(huán)境是經(jīng)由媒體遴選、加工、過濾、重構(gòu)相關(guān)信息而造就的人為信息環(huán)境，而非對客觀世界信息的鏡子式呈現(xiàn)。[5]ChatGPT生成式人工智能具有強(qiáng)大的擬態(tài)環(huán)境建構(gòu)能力，使得用戶對虛擬世界的感知遠(yuǎn)超過對現(xiàn)實(shí)社會的認(rèn)知，這在客觀上造成主流媒體難以“發(fā)聲”，弱化了主流意識形態(tài)的主導(dǎo)權(quán)。

其一，主流媒體所具有的傳播“主旋律”的功能被弱化。ChatGPT生成式人工智能是聊天機(jī)器人，其主要特點(diǎn)是能夠迅速回答用戶提出的問題，并能根據(jù)用戶所提供的信息進(jìn)行智能推算，精準(zhǔn)推送用戶感興趣的內(nèi)容。其構(gòu)建的擬態(tài)環(huán)境從人找信息，變?yōu)樾畔⒄胰?，對用戶的吸附能力較強(qiáng)，從而擠占主流媒體的傳播主體地位，使得意識形態(tài)傳播主體不僅僅是活生生的人，而且延伸到人為設(shè)計(jì)、研發(fā)的生成式人工智能。進(jìn)而，主流媒體的議程設(shè)置功能被減弱，引領(lǐng)輿論的能力受限，主流媒體的“主流”地位被消解，輿論引領(lǐng)功能被削弱。

其二，ChatGPT生成式人工智能的深度偽造功能妨礙社會共識的達(dá)成。ChatGPT生成式人工智能的人類反饋強(qiáng)化學(xué)習(xí)技術(shù)能夠“編織”與用戶偏好相符合的擬態(tài)環(huán)境。在此信息環(huán)境中，公眾會樂此不疲地沉浸在智能“黑箱”營造的“過濾氣泡”中。信息的不對稱又造成思想的不對稱，用戶接受的內(nèi)容出現(xiàn)“馬太效應(yīng)”，各種錯(cuò)誤思潮內(nèi)隱其中，使凝聚社會共識面臨困境，主流意識形態(tài)主導(dǎo)權(quán)被弱化。

（四） “數(shù)字鴻溝”：稀釋意識形態(tài)主動權(quán)

如今的數(shù)字時(shí)代，數(shù)據(jù)在意識形態(tài)治理中發(fā)揮著舉足輕重的作用。習(xí)近平總書記就曾將數(shù)據(jù)與工業(yè)時(shí)期的石油資源作比較，以突出其重要性，“誰掌握了大數(shù)據(jù)技術(shù)，誰就掌握了發(fā)展的資源和主動權(quán)”。[6]顯然，數(shù)據(jù)也是掌握意識形態(tài)領(lǐng)域斗爭主動權(quán)的核心要素。ChatGPT生成式人工智能的底層構(gòu)架就是大型語言模型，其巨量數(shù)據(jù)資源絕大部分來自英文數(shù)據(jù)，由此帶來意識形態(tài)領(lǐng)域斗爭主動權(quán)被稀釋的問題。

其一，ChatGPT生成式人工智能無形中強(qiáng)化西方國家意識形態(tài)輸出的優(yōu)勢。ChatGPT生成式人工智能的大型語言模型的訓(xùn)練和應(yīng)用往往受到特定西方語言和文化的影響，其在英語對話的場景中輸出的結(jié)果更加豐富，因此用戶可能獲取的結(jié)果更多源于對英語信息的處理，這有利于西方國家開展信息殖民。西方國家憑借該優(yōu)勢有目的地兜售其價(jià)值體系，這不僅僅是意識形態(tài)話語權(quán)的問題，還是稀釋非英語國家在該領(lǐng)域的意識形態(tài)主動權(quán)的問題，使其淪為“沉默的大部分”，遭受“數(shù)字鴻溝”下的意識形態(tài)打壓。

其二，ChatGPT生成式人工智能會進(jìn)一步“掘深”國家內(nèi)部“數(shù)字精英”與“智能窮人”之間的“鴻溝”，拉大一個(gè)國家內(nèi)部不同區(qū)域、不同人群在智能應(yīng)用方面的不平衡，進(jìn)而擴(kuò)大不同群體在觀念生成、知識創(chuàng)造、社會認(rèn)知等方面的差異，形成群體性認(rèn)知偏狹，造成意識形態(tài)工作的被動。此外，擁有情感計(jì)算與一般“智商”的ChatGPT生成式人工智能在技術(shù)設(shè)計(jì)上還會由于某些群體發(fā)聲較少而忽略這部分人群的訴求，導(dǎo)致其生成的內(nèi)容無法充分代表這些群體，甚至生成大量具有偏頗、歧視性的言論，這些偏見可能影響到我國各地區(qū)、民族、宗教、文化傳承的良性發(fā)展，擾亂主流思想輿論建設(shè)，不利于舉旗幟、聚民心、育新人、興文化、展形象，以至于意識形態(tài)工作的主動權(quán)受到挑戰(zhàn)。

三、ChatGPT生成式人工智能的意識形態(tài)風(fēng)險(xiǎn)化解

ChatGPT生成式人工智能給意識形態(tài)領(lǐng)域帶來了諸多風(fēng)險(xiǎn)和挑戰(zhàn)，作為引領(lǐng)科技和產(chǎn)業(yè)變革的新應(yīng)用、新技術(shù)，必須對此辯證看待，以“治”化“智”，合理化解其中風(fēng)險(xiǎn)，為我所用。

（一） 推動人工智能技術(shù)自主創(chuàng)新

技術(shù)自主創(chuàng)新是應(yīng)對生成式人工智能下意識形態(tài)領(lǐng)域潛隱風(fēng)險(xiǎn)的基礎(chǔ)。ChatGPT生成式人工智能的強(qiáng)勢登場，讓世人見證了人工智能技術(shù)的力量，其引發(fā)的意識形態(tài)隱憂必須從技術(shù)源頭解決。習(xí)近平總書記在2016年的網(wǎng)絡(luò)安全和信息化工作座談會上明確指出，增強(qiáng)網(wǎng)絡(luò)安全防御能力和威懾能力……攻防力量要對等。要以技術(shù)對技術(shù)，以技術(shù)管技術(shù)，做到魔高一尺、道高一丈。[7]我國要將人工智能背景下的意識形態(tài)主動權(quán)、主導(dǎo)權(quán)、話語權(quán)等牢牢掌握在自己手中，就必須不斷優(yōu)化智能技術(shù)研發(fā)，開發(fā)本土智能語言模型，深化智能技術(shù)助力意識形態(tài)治理的供給側(cè)改革，在全球多語言輿論場中發(fā)出中國聲音。目前，我國百度發(fā)布的“文心一言”、華為云盤古大模型等都是繼ChatGPT發(fā)布以來中國科技企業(yè)推出的類ChatGPT產(chǎn)品，均在人工智能領(lǐng)域?qū)崿F(xiàn)了重大突破，但是與ChatGPT相比較還存在一定差距，有專家判斷這一差距主要集中于大模型環(huán)節(jié)。在新一輪人工智能革命背景下，中國要在生成式人工智能中占有一席之地，就必須加大我國人工智能領(lǐng)域的體制優(yōu)勢，深化相關(guān)領(lǐng)域的研發(fā)投入與產(chǎn)業(yè)落地。一是鼓勵(lì)信息技術(shù)企業(yè)加快推動人工智能大模型應(yīng)用，在擁有屬于自己的“ChatGPT”的基礎(chǔ)上，強(qiáng)化人工智能技術(shù)的價(jià)值矯正，將“向上向善”技術(shù)準(zhǔn)則真正貫徹到生成式人工智能技術(shù)發(fā)展過程，更好地服務(wù)于我國的意識形態(tài)安全。二是要優(yōu)化算法以及建立大語言模型，并結(jié)合生成式人工智能技術(shù)下話語受眾的特征、心理、需求等，針對數(shù)據(jù)代表性缺失引起的偏差，對生成式人工智能時(shí)代話語進(jìn)行征用與編譯，從技術(shù)源頭消除算法歧視帶來的意識形態(tài)霸凌，從而“講好中國故事”，增強(qiáng)我國生成式人工智能的意識形態(tài)國際傳播能力。三是提高生成式人工智能的攻防技術(shù)。將深度學(xué)習(xí)、對抗性機(jī)器學(xué)習(xí)、圖片分類神經(jīng)網(wǎng)絡(luò)等智能技術(shù)創(chuàng)新應(yīng)用于惡意攻擊檢測、安全策略防御機(jī)制加固等，以此來有效防范侵犯隱私、算法歧視、意識形態(tài)滲透等風(fēng)險(xiǎn)。四是正向利用生成式人工智能技術(shù)。借助生成式人工智能算法技術(shù)有序推進(jìn)意識形態(tài)安全治理和意識形態(tài)生態(tài)環(huán)境建設(shè)。國家要加強(qiáng)“生成式人工智能+主流媒體”建設(shè)，將主流價(jià)值融入內(nèi)部代碼和算法設(shè)計(jì)，針對用戶興趣點(diǎn)和訴求點(diǎn)，增加“主旋律”算法推薦權(quán)重，牢牢掌握網(wǎng)絡(luò)意識形態(tài)安全主動權(quán)。

（二） 制定ChatGPTT類生成式人工智能應(yīng)用標(biāo)準(zhǔn)規(guī)范

標(biāo)準(zhǔn)規(guī)范建設(shè)是防范化解ChatGPT類生成式人工智能給意識形態(tài)領(lǐng)域帶來潛隱風(fēng)險(xiǎn)的約束條件。國家要在“技術(shù)共識”和“社會共識”統(tǒng)一中，引導(dǎo)ChatGPT生成式人工智能更好地落地，打破西方發(fā)達(dá)國家“技術(shù)霸權(quán)”帶來的“意識形態(tài)霸權(quán)”。一是堅(jiān)持總體國家安全觀的指導(dǎo)，既要利用好新技術(shù)的發(fā)展，也要有底線思維。國家要加強(qiáng)對人工智能關(guān)鍵產(chǎn)業(yè)和數(shù)據(jù)中心的產(chǎn)業(yè)建設(shè)及保護(hù)力度，建立技術(shù)安全標(biāo)準(zhǔn)體系，全面提升生成式人工智能技術(shù)基礎(chǔ)設(shè)施的安全保障能力，構(gòu)筑起意識形態(tài)安全防線。二是要以社會主義核心價(jià)值觀為引領(lǐng)，明確ChatGPT生成式人工智能在涉及政治、文化、宗教等領(lǐng)域的應(yīng)用邊界，加快制定我國ChatGPT類生成式人工智能的應(yīng)用指南。三是要突出問題導(dǎo)向，針對ChatGPT生成式人工智能擬態(tài)環(huán)境深度偽造、智能過度介入個(gè)體認(rèn)知、模型訓(xùn)練的西式價(jià)值傾向、數(shù)字鴻溝的擴(kuò)張等問題，細(xì)分其應(yīng)用范圍，完善應(yīng)用標(biāo)準(zhǔn)規(guī)范，建立嚴(yán)格的違法行為追責(zé)機(jī)制。四是積極參與ChatGPT生成式人工智能應(yīng)用相關(guān)國際標(biāo)準(zhǔn)制定工作，支持自主創(chuàng)新產(chǎn)品和技術(shù)參與國際競爭，推動自主創(chuàng)新成果形成相關(guān)國際技術(shù)標(biāo)準(zhǔn)。國家要加強(qiáng)ChatGPT類生成式人工智能應(yīng)用的標(biāo)準(zhǔn)化研究，不斷提升ChatGPT生成式人工智能應(yīng)用的國際話語權(quán)和規(guī)則制定權(quán)。

（三） 提升公眾的生成式人工智能媒介素養(yǎng)

國家要強(qiáng)化主體建設(shè)，提升公眾的生成式人工智能媒介素養(yǎng)，有效應(yīng)對ChatGPT類生成式人工智能下的意識形態(tài)風(fēng)險(xiǎn)。傳統(tǒng)的媒介素養(yǎng)是指個(gè)體對媒體信息的獲取、評估、理解和創(chuàng)造的能力，注重的是主體對文本的甄別與分析，與其不同的是，AIGC（人工智能生成內(nèi)容）技術(shù)強(qiáng)化了內(nèi)容生產(chǎn)的智能化。ChatGPT生成式人工智能從已知的具體實(shí)例中抽象出一般性規(guī)律或概念，并將其應(yīng)用到新的情境中的泛化能力，以及在不同領(lǐng)域或概念之間發(fā)現(xiàn)相似性和共性，并將這些類似之處應(yīng)用于新的情境中的類比能力日益增強(qiáng)。這樣一來，ChatGPT生成式人工智能在“人—機(jī)”交往中就具有更多的價(jià)值觀念輸出的主動性和主導(dǎo)性，衍生出的意識形態(tài)生產(chǎn)權(quán)力作用于作為媒介主體的個(gè)體，使之主體意識不斷削弱。為此，國家要防范ChatGPT生成式人工智能在意識形態(tài)領(lǐng)域的智能介入，必須提升公眾相應(yīng)的媒介素養(yǎng)。一是提升對生成式人工智能技術(shù)的認(rèn)知素養(yǎng)。國家要增進(jìn)公眾對生成式人工智能使用文本數(shù)據(jù)、圖像數(shù)據(jù)、音頻數(shù)據(jù)等多種類型數(shù)據(jù)訓(xùn)練和生成內(nèi)容的應(yīng)用原理、技術(shù)運(yùn)作機(jī)理的認(rèn)知，使個(gè)體對生成式人工智能產(chǎn)生的信息具有一定的批判性思維，總體上能夠更好地理解、把握、應(yīng)用生成式人工智能，而不被“人工智能霸權(quán)”所左右。二是培養(yǎng)生成式人工智能人文素養(yǎng)。在人工智能時(shí)代，人類相對智能計(jì)算最大的優(yōu)勢就在于對文化的把握、對道德問題的思考以及對情感的理解。人工智能技術(shù)越發(fā)展，越需要強(qiáng)化人文素養(yǎng)的培育。國家必須以馬克思主義科技觀為指導(dǎo)，通過跨學(xué)科學(xué)習(xí)、知識宣講等手段增強(qiáng)公眾人工智能技術(shù)與人文協(xié)同的系統(tǒng)思維能力，提高科學(xué)思維辨析能力，破除工具理性和認(rèn)知偏狹的遮蔽，形塑價(jià)值認(rèn)同。三是增強(qiáng)生成式人工智能安全意識。生成式人工智能逐漸嵌入社會系統(tǒng)中，在給社會生活帶來極大便利的同時(shí)，也帶來相應(yīng)的安全隱患。公眾需充分把握生成式人工智能所產(chǎn)生的各類社會風(fēng)險(xiǎn)，增強(qiáng)對隱蔽性強(qiáng)的意識形態(tài)斗爭的識別和防范能力，自覺抵制錯(cuò)誤思潮。

（四） 建立ChatGPTT類生成式人工智能監(jiān)管機(jī)制

建立監(jiān)管機(jī)制是應(yīng)對ChatGPT類生成式人工智能意識形態(tài)風(fēng)險(xiǎn)的保障。國家防范化解意識形態(tài)領(lǐng)域風(fēng)險(xiǎn)必須做到未雨綢繆。盡管國家新一代人工智能治理專業(yè)委員會相繼于2019年和2021年發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和《新一代人工智能倫理規(guī)范》，但現(xiàn)有的行業(yè)性倡議在應(yīng)對人工智能帶來的意識形態(tài)風(fēng)險(xiǎn)問題時(shí)，其約束力和適用性針對性都不強(qiáng)，只有事先預(yù)警和事后懲治相互結(jié)合、政“治”與法治共同助力，才能破解ChatGPT類生成式人工智能可能帶來的困境。一是要加強(qiáng)黨對科技倫理治理的全面領(lǐng)導(dǎo)，把好生成式人工智能發(fā)展的“方向盤”。黨的領(lǐng)導(dǎo)是ChatGPT類生成式人工智能發(fā)展“不偏航”的根本保證。只有加強(qiáng)黨對各類科技組織的領(lǐng)導(dǎo)，建立與我國意識形態(tài)相符的科技倫理體系，才能使生成式人工智能技術(shù)更好服務(wù)人民。二是強(qiáng)化法律監(jiān)管。隨著生成式人工智能應(yīng)用的推廣，國家已經(jīng)注意到其中潛隱的法律、法規(guī)監(jiān)管缺陷，并于2023年7月10日頒發(fā)《生成式人工智能服務(wù)管理暫行辦法》，探索完善ChatGPT類生成式人工智能在內(nèi)容生成、應(yīng)用、傳播當(dāng)中的相應(yīng)法律、法規(guī)條款。三是要注重技術(shù)監(jiān)管。針對不同的人工智能產(chǎn)品、服務(wù)和應(yīng)用，國家要按照落實(shí)意識形態(tài)工作責(zé)任制的要求，明確各級監(jiān)管者的主體責(zé)任和管理界限，對ChatGPT類生成式人工智能上的信息進(jìn)行技術(shù)監(jiān)管，監(jiān)測ChatGPT類生成式人工智能的發(fā)展動向，對其中可能引發(fā)的意識形態(tài)領(lǐng)域風(fēng)險(xiǎn)及時(shí)分析、研判，精準(zhǔn)把握發(fā)展態(tài)勢。

總之，隨著以ChatGPT為代表的生成式人工智能的不斷推廣，新時(shí)代意識形態(tài)安全面臨新的挑戰(zhàn)，嘗試以發(fā)展、控制、利用三維并舉的方式不斷尋求適應(yīng)性治理策略，能夠?yàn)樾聲r(shí)代意識形態(tài)治理提供有效借鑒。

參考文獻(xiàn)：

[1]習(xí)近平.高舉中國特色社會主義偉大旗幟 為全面建設(shè)社會主義現(xiàn)代化國家而團(tuán)結(jié)奮斗——在中國共產(chǎn)黨第二十次全國代表大會上的報(bào)告[N].人民日報(bào)，2022-10-26（001）.

[2]Kaili-May Liu G. Perspectives on the Social Impacts of Reinforcement Learning with Human Feedback[J].arXiv preprint arXiv：2303.02891，2023，（2）.

[3]習(xí)近平.習(xí)近平關(guān)于網(wǎng)絡(luò)強(qiáng)國論述摘編[M].北京：中央文獻(xiàn)出版社，2021：18.

[4]列寧.列寧選集（第二卷）[M].北京：人民出版社，1995：180.

[5]沃爾特·李普曼著.公眾輿論[M].閻克文，江紅譯.上海：上海人民出版社，2002：1.

[6]中共中央文獻(xiàn)研究室編.習(xí)近平關(guān)于科技創(chuàng)新論述摘編[M].北京：中央文獻(xiàn)出版社，2016：76.

[7]習(xí)近平.在網(wǎng)絡(luò)安全和信息化工作座談會上的講話[N].人民日報(bào)，2016-04-26（002）.

（責(zé)任編輯：郁有凱）