【摘 要】本文深入探討了傳媒新質(zhì)生產(chǎn)力的特征,剖析了其內(nèi)涵的復雜性及其所帶來的多重安全風險點。這些風險點不僅涉及技術層面的挑戰(zhàn),也包括產(chǎn)業(yè)結構的變動和傳媒生態(tài)系統(tǒng)中信息傳播的不確定性。面對傳媒新質(zhì)生產(chǎn)力所帶來的新機遇、新挑戰(zhàn),文章提出建立一個政策、技術與認知協(xié)同的體系,這不僅要求技術上的持續(xù)創(chuàng)新和完善,還需要政策的引導與社會各界的共同參與。只有這樣,才能在享受新科技帶來的便利和機遇的同時,也能夠妥善處理和應對隨之而來的風險,使傳媒新質(zhì)生產(chǎn)力能夠可持續(xù)地為社會發(fā)展作出貢獻。
【關鍵詞】新質(zhì)生產(chǎn)力;傳播生態(tài);風控管理;預警機制
在傳媒行業(yè),推動新質(zhì)生產(chǎn)力的發(fā)展要求構建一個更加安全、透明和負責任的傳播生態(tài),而數(shù)智化采編流程的構建、AIGC(生成式人工智能)的應用和內(nèi)容生態(tài)的治理將成為關鍵。為了充分發(fā)揮傳媒新質(zhì)生產(chǎn)力的潛力,在技術創(chuàng)新、政策規(guī)范制定和公眾教育等方面需要做好全方位的協(xié)同聯(lián)動。
一、傳媒新質(zhì)生產(chǎn)力的內(nèi)涵及特征
要充分發(fā)揮傳媒新質(zhì)生產(chǎn)力的潛力,要先認識和了解傳媒行業(yè)新質(zhì)生產(chǎn)力的內(nèi)涵及特征。新質(zhì)生產(chǎn)力是由技術革命性突破、生產(chǎn)要素創(chuàng)新配置、產(chǎn)業(yè)深度轉(zhuǎn)型升級而催生的先進生產(chǎn)力。在傳媒領域,新質(zhì)生產(chǎn)力呈現(xiàn)以下新特征。
(一)新動能:AI驅(qū)動傳媒業(yè)全流程智能化變革
AI(人工智能)尤其是大模型技術,成為傳媒業(yè)的重要動能,推動了內(nèi)容生成、分發(fā)與創(chuàng)作的全流程智能化。AI對話、AI風格化創(chuàng)作等功能已廣泛應用于機構媒體,顯著提升生產(chǎn)效率,并改變媒體工作者的工作方式。這不僅助力規(guī)模化生產(chǎn)和個性化定制,還為媒體行業(yè)的創(chuàng)新發(fā)展注入新的活力。
(二)新要素:數(shù)據(jù)成為傳媒業(yè)核心生產(chǎn)要素
隨著我國“數(shù)據(jù)要素×”三年行動計劃的推進,大數(shù)據(jù)運用在傳媒領域的重要性不斷提升。數(shù)據(jù)資產(chǎn)逐步納入企業(yè)財務體系,其增值效應日益顯現(xiàn)。這一趨勢驅(qū)動傳媒業(yè)更加重視數(shù)據(jù)的獲取、管理與應用能力,促使行業(yè)全面邁向數(shù)據(jù)驅(qū)動決策時代,增強行業(yè)競爭力。
二、傳媒新質(zhì)生產(chǎn)力需關注的風險點
新質(zhì)生產(chǎn)力在賦能傳媒領域時,將重構領域內(nèi)勞動者、勞動資料、勞動對象之間的關系,實現(xiàn)生產(chǎn)要素的創(chuàng)新性配置。比如,數(shù)智化采編流程,引領勞動資料效能提升,泛傳播領域AIGC應用,培育新型勞動者,主流價值引領的內(nèi)容生態(tài)治理,拓展勞動對象范圍,基于“智媒+”的產(chǎn)業(yè)智改數(shù)轉(zhuǎn),持續(xù)調(diào)整生產(chǎn)關系。新質(zhì)生產(chǎn)力賦能傳媒領域的同時,也伴隨著前所未有的挑戰(zhàn),尤以安全問題最為關鍵。
媒體融合10年來,新質(zhì)生產(chǎn)力推動了智媒生態(tài)建設,涵蓋傳播、技術和產(chǎn)業(yè)生態(tài),但也帶來了相應的安全風險,對各個生態(tài)領域產(chǎn)生深遠影響。在技術安全方面,新技術和應用對網(wǎng)絡空間安全提出了新的挑戰(zhàn),能力與政策上的空白亟待填補。近年來,大模型的安全問題頻發(fā),例如,提示詞注入、數(shù)據(jù)投毒、不安全輸出以及敏感信息泄露等。在產(chǎn)業(yè)安全方面,媒體轉(zhuǎn)型跨圈強鏈,新模式和新業(yè)態(tài)的推進帶來新的挑戰(zhàn),數(shù)據(jù)資產(chǎn)如何安全合規(guī)存儲并實現(xiàn)增值仍在探索之中。在傳播安全方面,新技術催生了大量良莠不齊的信息,困擾受眾的同時也引發(fā)透明性與公平性質(zhì)疑,算法主導的“信息繭房”現(xiàn)象更可能威脅文化多樣性。面對這些關鍵安全挑戰(zhàn),唯有筑牢安全基礎,方能從容應對,確保智媒生態(tài)健康發(fā)展[1]。
三、傳媒新質(zhì)生產(chǎn)力風險點防范的應對策略
防范傳媒新質(zhì)生產(chǎn)力可能帶來的技術、產(chǎn)業(yè)、傳播等安全風險,筑牢安全基礎,需要遵循系統(tǒng)性與結構化原則,以網(wǎng)絡空間安全基礎設施為依托,將威脅情報、漏洞識別、專家響應等能力與媒體場景和數(shù)字經(jīng)濟的安全需求相融合,使安全能力深度嵌入智媒生態(tài)。同時,要以促進發(fā)展為首要任務,將安全風險視為發(fā)展的堵點加以疏通,努力在生產(chǎn)與風險之間實現(xiàn)平衡。面對新技術與新應用帶來的變化,安全理論需要持續(xù)創(chuàng)新,安全標準需緊跟國際國內(nèi)政策環(huán)境動態(tài)調(diào)整,以實現(xiàn)高效安全建設。更重要的是,新質(zhì)生產(chǎn)力應在促進新時代公共意識和社會文化發(fā)展的過程中,依靠全社會的協(xié)同治理和公眾參與,共同構建堅實的安全屏障。實現(xiàn)這些目標的關鍵在于推動政策法規(guī)、技術安全與公眾認知三要素的協(xié)同提升,形成基礎扎實、監(jiān)管有力、全民參與的安全防護體系,為智媒生態(tài)健康發(fā)展保駕護航[2]。
(一)強化政策標準,構建法規(guī)和制度體系
網(wǎng)絡安全與信息化關乎國家安全、發(fā)展,以及人民福祉,是重大戰(zhàn)略問題。近年來,我國不斷完善政策法規(guī),從發(fā)布信息安全綱領性文件到制定安全等級保護規(guī)范與技術標準,全面推進網(wǎng)絡空間主權、安全與發(fā)展利益的維護。數(shù)據(jù)安全被提升至國家安全高度,明確個人信息保護原則,并建立針對電信網(wǎng)絡詐騙的全方位治理體系,有力保障國家與公眾安全。經(jīng)過持續(xù)優(yōu)化頂層設計,我國網(wǎng)絡安全政策法規(guī)和制度體系已基本形成,為網(wǎng)絡安全建設奠定了堅實基礎。
AI與機器學習技術的迅猛發(fā)展對互聯(lián)網(wǎng)生態(tài)產(chǎn)生了深遠影響。截至目前,我國已發(fā)布超100個參數(shù)規(guī)模在10億級以上的大模型。這些技術的快速進步不僅推動了產(chǎn)業(yè)應用的多樣化,也帶來了嚴峻的安全合規(guī)與自主可控挑戰(zhàn)。為應對這些問題,相關規(guī)則和標準正在不斷完善。2023年8月,《生成式人工智能服務管理暫行辦法》正式實施。2024年2月,全國網(wǎng)絡安全標準技術委員會發(fā)布《生成式人工智能服務安全基本要求》,圍繞語料、模型和評估等5個方面提出具體要求。2024年4月,WDTA(世界數(shù)字技術學院)又推出《生成式人工智能應用安全測試標準》,這是國際上首個針對大模型安全測試的標準,在內(nèi)容與技術安全層面實現(xiàn)了全面覆蓋。
傳媒新質(zhì)生產(chǎn)力的生成和發(fā)展給傳媒行業(yè)帶來了內(nèi)容質(zhì)量、真實性、合法性等方面的挑戰(zhàn),如何建立行業(yè)自律機制,完善智媒平臺約束機制,成為當前亟待解決的問題。2024年11月,在中國新聞技術工作者聯(lián)合會學術年會上,由新華社技術局、四川封面?zhèn)髅娇萍加邢挢熑喂荆ㄒ韵潞喎Q“封面科技”)、媒體融合生產(chǎn)技術與系統(tǒng)國家重點實驗室、中國傳媒大學等30余家單位聯(lián)合編制的《新聞行業(yè)大規(guī)模預訓練模型》系列團體標準正式發(fā)布,標志著新聞行業(yè)在智能內(nèi)容生成與應用方面邁出了重要一步,為新聞行業(yè)大規(guī)模預訓練模型構建出一個全面而系統(tǒng)的框架,為模型的實際應用提供了具體指導,確保新聞領域預訓練模型應用能夠遵守相關法律法規(guī)。
(二)推進技術創(chuàng)新,提升網(wǎng)絡安全的防護能力
在智媒生態(tài)建設中,新質(zhì)生產(chǎn)力不斷推動重塑系統(tǒng)邊界,促使網(wǎng)絡安全架構持續(xù)演進,同時,結合大模型防護技術的應用,要進一步提升新技術環(huán)境下的防護能力,為網(wǎng)絡安全提供更加智能化的解決方案。
1.加固內(nèi)生安全防線,筑牢網(wǎng)絡安全屏障
構建零信任安全架構,打造網(wǎng)絡隱身、統(tǒng)一接入、最小授權、實時認證、持續(xù)評估、動態(tài)策略、服務隔離等七大零信任技術能力,利用權限認證機制和基于身份的訪問控制,為應用和服務提供隱身防護。搭建應用運行時的自我保護能力,將安全防御能力整合到正在運行的應用程序中,在應用程序運行時實時監(jiān)控應用的運行狀態(tài),結合開源工具二次開發(fā)安全規(guī)則,攔截SQL(數(shù)據(jù)庫查詢和程序設計語言)注入、敏感信息泄露、越權訪問等攻擊請求,使應用程序具備實時監(jiān)控和阻斷攻擊的自我保護能力。與此同時,采用交互式應用安全測試技術,構建高效的DevSecOps(開發(fā)、安全、運營)流程,從而將應用安全漏洞在開發(fā)、測試階段暴露出來,降低安全漏洞的修復成本,以此為契機推動測試團隊建設應用安全自動化測試。
結合媒體策、采、編、審、發(fā)等業(yè)務流程,建設風控管理體系,對稿件全生命周期和用戶行為全流程接入機器審核,實現(xiàn)稿件與用戶行為的智能監(jiān)控與管理。通過內(nèi)容自動化巡檢,實施從感知風險、控制風險到治理風險的閉環(huán)自動化處理手段。類似審校系統(tǒng),目前已有人民網(wǎng)推出的“人民審?!毕到y(tǒng)、新華社技術局推出的“新華較真”、封面科技推出的“審核云”、百度推出的“百度大腦”等內(nèi)容審核平臺。
持續(xù)加強內(nèi)容安全態(tài)勢感知能力建設,將內(nèi)容安全態(tài)勢感知功能深度集成到內(nèi)容生產(chǎn)的系統(tǒng)中,確保從內(nèi)容生產(chǎn)到發(fā)布的每一個環(huán)節(jié)都得到嚴密監(jiān)控。將發(fā)稿審核、敏感詞觸發(fā)、開關演練切換、用戶注冊登錄、用戶輸入等關鍵操作全面數(shù)據(jù)化,以形成精準的內(nèi)容安全數(shù)據(jù)模型,這一模型能夠?qū)崟r告警、聚合統(tǒng)計威脅事件,全面反映內(nèi)容安全的風險狀況。借助安全評分、安全監(jiān)控、安全趨勢、安全預警、風險聚合展示等模塊,將內(nèi)容安全態(tài)勢以直觀、易懂的方式呈現(xiàn)出來,協(xié)助內(nèi)容團隊更真實地感知內(nèi)容安全態(tài)勢,確保內(nèi)容的安全性和合規(guī)性。
2.應用智能新技術,提升安全保障的效率和水平
目前大模型應用場景在逐步落地實現(xiàn),各種安全理論和技術也在不斷涌現(xiàn),大模型防護技術作為AI的前沿應用,逐步成為智能化防護體系的重要組成部分。
大模型技術在網(wǎng)絡安全保障中優(yōu)勢很多。具有大規(guī)模數(shù)據(jù)分析能力的大模型能夠處理海量的多維數(shù)據(jù),通過深度學習和模式識別技術,快速檢測異常行為和潛在威脅,從而提高攻擊發(fā)現(xiàn)的準確性和效率。借助大模型的實時計算能力,網(wǎng)絡安全系統(tǒng)可以快速響應復雜威脅,動態(tài)調(diào)整防護策略,增強安全體系的彈性與敏捷性。通過對歷史攻擊數(shù)據(jù)和當前網(wǎng)絡行為的深入分析,大模型可以預測潛在攻擊路徑,提供有針對性的預警信息,從而主動防御未來的安全事件。能夠自動化學習正常網(wǎng)絡行為模式,快速檢測異?;顒硬嵤┓烙?,例如,識別分布式拒絕服務(DDoS)攻擊或未知威脅。對海量惡意樣本的學習,大模型能夠精確識別未知惡意軟件特征,有效防止惡意代碼的傳播。用大模型對用戶行為進行動態(tài)分析,檢測異常登錄、權限濫用等問題,保護數(shù)據(jù)和系統(tǒng)安全。例如,奇安信集團發(fā)布的Q-GPT安全機器人和大模型衛(wèi)士,基于奇安信大模型的“虛擬安全專家”,可以全天候工作,一臺機器人工作效率等于60多名安全專家,極大提升了生產(chǎn)力。大模型衛(wèi)士集安全風險發(fā)現(xiàn)、大模型訪問控制、數(shù)據(jù)泄露管控、違法違規(guī)行為溯源、大模型應用分析等于一體,幫助企業(yè)更安全地向大模型要生產(chǎn)力。例如,深信服推出的安全GPT+,由“大模型算法+威脅情報+安全知識”訓練而成,大幅提升對流量和日志的安全檢測能力,用戶安全現(xiàn)狀自動分析及建議生成,自動化調(diào)查、分析、研判提升安全運營效率。
在大模型安全前沿技術層面,持續(xù)深入探索大模型的安全測試技術,借助AI技術通過自動化和智能化的測試方法測試AI,并積極尋找高效的大模型安全測試工具,以提升安全保障的效率和水平。
(三)拓寬大眾傳播,增強公眾的信息安全意識
建立健全的舉報和反饋渠道,使公眾能夠便捷地報告網(wǎng)絡安全問題、虛假信息或侵犯隱私的行為,并確保這些舉報得到及時有效處理。例如,四川日報報業(yè)集團打造的“問政四川”平臺,已運行超過10年,成為四川省目前最大的網(wǎng)絡問政理政平臺。2022年,平臺實現(xiàn)了四川各級黨政部門的全覆蓋,并與42個民生領域的廳局、21個市州、183個縣(市、區(qū))及6800余個黨政部門展開了互動合作[3]。封面科技推出的封面新聞10.0版本,整合了32家省級主流媒體,提供了包括“我要求助”“我要投訴”“謠言線索”“我要舉報”等多種求助與爆料通道。用戶可以通過一鍵操作表達訴求,平臺還設置了權威辟謠和舉報入口,確??焖偬峤徊⒌玫焦俜教幚砘貜?。
提高數(shù)字安全技能,教育公眾掌握基本的數(shù)字安全信息。各媒體應圍繞網(wǎng)絡空間安全領域的重大成就和最新動態(tài)開展主題宣傳活動,深入宣傳《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》《關鍵信息基礎設施安全保護條例》等重要法律法規(guī)、政策文件、國家標準,通過論壇、研討、展覽、競賽等形式,聯(lián)合黨政機關、科研機構、高校、企業(yè)、社會組織、群眾等各方力量廣泛參與網(wǎng)絡安全宣傳活動,全社會共筑網(wǎng)絡安全防線。
通過以上綜合施策,可以有效提升公眾的信息安全意識和自我保護能力,進而形成強大的社會共治力量,為傳媒新質(zhì)生產(chǎn)力的發(fā)展營造安全良好的外部環(huán)境。
四、結語
在科技迭代快速、內(nèi)容傳播分散、虛假信息難以辨別、法律規(guī)范滯后、國際形勢嚴峻的情況下,要使傳媒新質(zhì)生產(chǎn)力更好地運作起來,需要實現(xiàn)政策、技術與認知的深度協(xié)同,建立系統(tǒng)化的協(xié)作機制,確保三者在傳媒新質(zhì)生產(chǎn)力的發(fā)展過程中相互支撐、相互促進。政策為技術發(fā)展和認知提升提供方向和保障,技術為政策落地和認知升級提供支撐,認知則為政策和技術的有效實施提供基礎。只有三者協(xié)同發(fā)展,才能筑牢傳媒新質(zhì)生產(chǎn)力的安全基礎,推動傳媒產(chǎn)業(yè)的持續(xù)創(chuàng)新與高效發(fā)展。
參考文獻
[1]宋鈺冉,馮穎曉,李小璐,等.智媒時代信息繭房的成因及破繭對策[J].黑龍江科學,2021,12(12):160-161,164.
[2]肖葉飛.媒介融合時代網(wǎng)絡技術賦權與意識形態(tài)安全[J].傳媒論壇,2022,5(9):33-36,53.
[3]劉若辰,張劍,孫尚如.“公益集裝器”:川觀新聞構建平臺型生態(tài)系統(tǒng)的創(chuàng)新性實踐探索[J].新聞界,2023(12):91-96.