人工智能對個人信息保護的挑戰(zhàn)及其應對

習近平總書記指出：“沒有網(wǎng)絡安全就沒有國家安全，就沒有經(jīng)濟社會穩(wěn)定運行，廣大人民群眾利益也難以得到保障?！比斯ぶ悄芗夹g推動經(jīng)濟社會各領域從數(shù)字化、網(wǎng)絡化向智能化加速躍遷的同時，也加劇了個人信息被侵害的風險。如何兼顧技術革新與個人信息安全，已經(jīng)成為人工智能時代的重要議題。

人工智能呈現(xiàn)出的新特征

人工智能是引領新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，呈現(xiàn)出深度學習、跨界融合、人機協(xié)同、群智開放和自主操控的新特征。深度學習是人工智能的核心方法，通過多層神經(jīng)網(wǎng)絡實現(xiàn)復雜數(shù)據(jù)模式的識別。這種算法能從大量的非結構化數(shù)據(jù)中學習模式和特征，是現(xiàn)代人工智能的基石。它拓寬了智能技術的應用場景，實現(xiàn)自我優(yōu)化和智能化決策，顯著提升了人工智能的實用性。跨界融合則是通過人工智能技術與物聯(lián)網(wǎng)、大數(shù)據(jù)和云計算的深度融合，助力產(chǎn)業(yè)結構升級和智能化轉型。它不僅改善傳統(tǒng)行業(yè)的工作效率和服務質(zhì)量，還催生出新產(chǎn)業(yè)、新模式、新動能。以智慧城市為例，人工智能技術通過實時分析交通數(shù)據(jù)，優(yōu)化交通信號控制，減少擁堵發(fā)生。智能監(jiān)控攝像頭能實時識別和預警異常行為，提高公共安全管理水平。同時，人工智能還可以賦能醫(yī)療健康、金融服務、智能制造、電子商務、環(huán)境保護等多個領域，通過海量數(shù)據(jù)的供給分析持續(xù)優(yōu)化并改善各類應用場景。

人工智能不僅是技術工具，還將成為發(fā)展新質(zhì)生產(chǎn)力的重要引擎。人機協(xié)同是將人類的認知力、創(chuàng)造力與機器的智能化相結合，通過智能算法與人腦智慧的協(xié)同交互，實現(xiàn)生產(chǎn)力整體躍升。在制造業(yè)中，機器人可以幫助工人完成高重復性的裝配和檢測任務。在醫(yī)療領域，智能技術不僅能分析患者的基因數(shù)據(jù)、病歷和生活習慣，還可以輔助醫(yī)生提供個性化診療方案。同時，開放的人工智能生態(tài)系統(tǒng)還通過共享數(shù)據(jù)和算法穩(wěn)步推動技術革新。以阿里巴巴達摩院和騰訊優(yōu)圖實驗室為代表的人工智能研究機構，積極通過開源平臺發(fā)布研究成果和數(shù)據(jù)集。群智開放不僅推動了全球人工智能協(xié)同共治，還成為科技跨越發(fā)展的助推器。

人工智能的自主學習和決策能力能夠在復雜環(huán)境中實現(xiàn)自我調(diào)整和優(yōu)化。2023年11月，工業(yè)和信息化部等四部委聯(lián)合發(fā)布了《關于開展智能網(wǎng)聯(lián)汽車準入和上路通行試點工作的通知》，要求智能網(wǎng)聯(lián)汽車生產(chǎn)企業(yè)和使用主體加強能力建設，促進產(chǎn)品功能、性能提升和產(chǎn)業(yè)生態(tài)的迭代優(yōu)化。2024年7月，無人駕駛計程車“蘿卜快跑”在武漢和廣州相繼運營。這種自主駕駛技術通過傳感器和深度學習算法，在實時變化的交通環(huán)境中確保“人、車、路、云”多要素的融合交互。

總體上看，這些新特征都是以大數(shù)據(jù)為基礎，依托海量個人信息、圖像數(shù)據(jù)、文本數(shù)據(jù)和傳感器數(shù)據(jù)的持續(xù)供給，賦能經(jīng)濟社會高質(zhì)量發(fā)展。隨著應用場景的進一步拓展，個人信息保護的重要性也愈發(fā)凸顯。如何增強數(shù)字技術的透明度和可解釋性，確保智能系統(tǒng)可信可控，確保個人信息在人工智能時代的合法、正當和必要使用，顯得尤為重要。

人工智能給個人信息保護帶來新挑戰(zhàn)

人工智能是一把“雙刃劍”，它在引領產(chǎn)業(yè)變革，發(fā)揮“頭雁”效應的同時，也不可避免地帶來科技倫理風險。2021年，全國信息安全標準化技術委員會發(fā)布的《人工智能倫理安全風險防范指引》明確指出，人工智能技術會對個人的人身權、隱私權引發(fā)侵權風險。這是因為人工智能技術不僅加劇個人信息暴露的風險，還拓展了個人信息的傳播途徑和生命周期。

一方面，新技術極大地增強了數(shù)據(jù)分析和挖掘能力，威脅著個人信息安全。機器學習、深度學習和自然語言處理等人工智能技術突破了非自動化數(shù)據(jù)處理系統(tǒng)的碎片化局限，能在海量零散數(shù)據(jù)中精準描繪用戶畫像，甚至挖掘出數(shù)據(jù)主體自己都未曾意識到的行為偏好和潛在需求?；谶@些技術，廣告服務商可以分析用戶的瀏覽記錄和購買歷史，預測消費偏好，精準投放廣告。搜索引擎和社交平臺通過用戶的搜索記錄、點贊和分享行為，推斷用戶偏好和生活習慣，并提供個性化服務。在這個迭代反饋的循環(huán)中，人工智能技術會根據(jù)用戶的行為信息自主優(yōu)化算法，進而持續(xù)預測、挖掘更多的個人信息。更嚴峻的是，由于透明度和可解釋性亟待提升，以深度學習為代表的部分智能算法形成了“黑箱模型”，普通用戶甚至是開發(fā)者都難以理解并預見其工作原理和決策過程。這些新技術破壞了數(shù)據(jù)主體對個人信息的控制，增加數(shù)據(jù)濫用和隱私泄露的擔憂。

另一方面，人工智能技術顯著增強信息的共享能力，拓展了個人信息的傳播半徑和生命周期。用戶在社交平臺上的每一次互動分享都會被系統(tǒng)自動識別分類；智能手機、智能家居設備、可穿戴設備時刻處理著用戶數(shù)據(jù)，個人的身份信息、健康信息、行程軌跡、行為偏好整合在一起，用戶畫像一覽無余。依托群智開放特征，這些智能終端之間互通互聯(lián)，個人信息在不同平臺和設備之間得以共享。再經(jīng)過人工智能算法的處理、訓練、生成，最終成為網(wǎng)絡社會個人難以磨滅的“數(shù)字標簽”。這其中不僅記錄著數(shù)據(jù)主體的行為偏好，還可能囊括個人信用、健康、生物識別、宗教信仰、政治觀點等敏感數(shù)據(jù)。一旦被泄露或濫用，不僅會對個人隱私造成嚴重侵害，還會引發(fā)身份盜竊、財務欺詐、網(wǎng)絡騷擾等問題，直接威脅數(shù)據(jù)主體的人格利益和生活安全。如果“數(shù)字標簽”包含了個人的不良記錄，這種關聯(lián)性還會被在線存儲，導致數(shù)據(jù)主體的人格利益長期遭受貶損，甚至引發(fā)歧視性風險?！吨袊ヂ?lián)網(wǎng)絡發(fā)展狀況統(tǒng)計報告》顯示，截至2023年12月，我國網(wǎng)民規(guī)模高達10.92億人，互聯(lián)網(wǎng)普及率77.5%。如此龐大的主體數(shù)量無疑凸顯出網(wǎng)絡社會保障個人人格利益的重要性和緊迫性。因此，我們在享受智能化服務的同時，必須高度重視數(shù)據(jù)保護和隱私安全問題。

人工智能時代個人信息保護的路徑研究

一是完善國家數(shù)據(jù)法治建設。為應對新興數(shù)字技術引發(fā)的時代浪潮，我國秉持積極的立法態(tài)度，致力于建立健全數(shù)據(jù)保護法律體系。2016年11月，第十二屆全國人大常委會審議通過《中華人民共和國網(wǎng)絡安全法》，這是我國第一部網(wǎng)絡安全領域的專門立法，建構了個人信息保護的主要原則和基本規(guī)則。2017年，《中華人民共和國民法總則》第111條新增“個人信息受法律保護”的規(guī)定，明確了個人信息權的法律屬性問題。2019年，全國人大常委會將《中華人民共和國個人信息保護法》納入立法規(guī)劃，開啟統(tǒng)一數(shù)據(jù)立法模式的新征程。2021年1月1日《中華人民共和國民法典》施行，人格權編專章規(guī)定個人信息保護的一般規(guī)則，要求個人信息處理遵循合法、正當、必要的原則，并規(guī)定自然人享有查閱復制、異議更正、刪除的數(shù)據(jù)權利。2021年11月1日，《中華人民共和國個人信息保護法》生效，作為網(wǎng)絡時代的標志性立法成果，它既注重保障個人信息權益，規(guī)范個人信息處理活動，也充分體現(xiàn)數(shù)據(jù)發(fā)展理念，集中展示了數(shù)據(jù)法治的中國方案。同年，《中華人民共和國數(shù)據(jù)安全法》實施，該法從國家安全高度出發(fā)，對數(shù)據(jù)安全管理提出系統(tǒng)要求，明確了各類數(shù)據(jù)處理活動的安全管理責任，為我國數(shù)據(jù)安全法律體系的建立和完善搭建基礎框架。2023年，國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務管理暫行辦法》，這是全球首個全面監(jiān)管生成式人工智能的規(guī)范文件，以“知情同意”為核心強化了個人信息的安全保障。2024年5月，國務院印發(fā)《國務院2024年度立法工作計劃》，再次將《人工智能法草案》列入預備審議項目。這些立法工作不僅體現(xiàn)了我國對個人信息保護問題的高度重視，也為數(shù)據(jù)經(jīng)濟發(fā)展提供規(guī)范和指引，為應對人工智能時代的新挑戰(zhàn)提供強有力的法律保障。

二是強化個人數(shù)據(jù)控制。人工智能技術的普及加劇了個人信息被侵害的風險，提升個人對信息的控制已經(jīng)成為數(shù)據(jù)治理的重要途徑。“知情同意”是數(shù)據(jù)控制的核心理念，要求個人信息處理必須獲得數(shù)據(jù)主體同意授權或符合法律規(guī)定。當前，傳統(tǒng)的“一次性同意”模式已經(jīng)不能滿足人工智能的發(fā)展趨勢，應當向持續(xù)的信息披露和動態(tài)同意機制轉變。為此，《個人信息保護法》更新了“知情同意”規(guī)則，數(shù)據(jù)主體可以撤回同意授權，并要求個人信息處理者刪除已公開的個人信息。強化數(shù)據(jù)控制的另一個途徑是增強個人信息權利?！秱€人信息保護法》第四章規(guī)定個人針對信息處理活動享有知情權、決定權等基礎性權能，以及查閱權、復制權、可攜帶權、補充權、更正權、刪除權和解釋說明權等工具性權能。在這個方面，歐盟數(shù)據(jù)改革還提出建構網(wǎng)絡社會被遺忘權的設想，這項權利與《個人信息保護法》第47條規(guī)定的刪除權頗為相似，都承載著強化個人信息控制的權能。

三是提升公眾數(shù)據(jù)安全意識。增強公眾數(shù)據(jù)安全意識是個人信息保護的關鍵一環(huán)，公眾對數(shù)據(jù)安全和隱私保護的認知和素養(yǎng)直接影響著個人信息保護的整體水平。數(shù)據(jù)安全人人有責，需要全民共同參與。

首先，政府應當加強數(shù)據(jù)安全教育?！稊?shù)據(jù)安全法》和《個人信息保護法》的實施有效提升了全社會的網(wǎng)絡法治意識和素養(yǎng)。然而，數(shù)據(jù)安全問題正以更加隱蔽和復雜的方式影響著大眾生活，極易被忽視。在人工智能時代，需引導公眾樹立牢固的總體國家安全觀，增強數(shù)據(jù)安全意識，構筑數(shù)據(jù)安全防線。為此，政府可以通過多種形式加強數(shù)據(jù)安全教育。例如，在義務教育階段設置數(shù)據(jù)安全課程，從小樹立數(shù)據(jù)安全意識；在農(nóng)村地區(qū)和基層社區(qū)開展義務講座或宣傳活動，幫助居民掌握基本網(wǎng)絡安全防護技能；利用媒體宣傳數(shù)據(jù)安全知識，樹立安全典型，推廣優(yōu)秀案例。多措并舉，全面提升公眾的數(shù)據(jù)安全意識。

其次，企業(yè)應當落實數(shù)據(jù)安全管理責任。企業(yè)應明確數(shù)據(jù)安全責任人，建立健全管理體系和工作機制，制定數(shù)據(jù)泄露應急預案，定期進行數(shù)據(jù)安全審查和風險評估。企業(yè)需將數(shù)據(jù)安全管理要求融入發(fā)展戰(zhàn)略和考核機制，同步推進業(yè)務發(fā)展和數(shù)據(jù)安全工作。將數(shù)據(jù)安全視為核心任務，確保規(guī)范化、制度化，真正落實到日常運營和管理之中。

最后，提升數(shù)據(jù)安全意識還需要全社會共同努力。不同群體對隱私和信息安全的關注度和承受能力各異，弱勢群體往往更容易受到信息泄露和濫用的侵害。要倡導全民參與數(shù)據(jù)安全保護，鼓勵公眾積極舉報數(shù)據(jù)泄露和濫用行為，形成全社會共同維護數(shù)據(jù)安全的良好氛圍。發(fā)揮人民群眾的群防群治功能，打造人人參與的數(shù)據(jù)安全防線，進而構建安全、可信賴的數(shù)字社會。

通過加強數(shù)據(jù)法治建設，提高公眾信息保護意識，采取行之有效的技術保障措施，可以更好地平衡信息自由和隱私保護的關系。確保個人信息安全不僅是法律和倫理的要求，更是技術發(fā)展的基石。只有在個人信息得到有效保護的前提下，人工智能才能在各個領域穩(wěn)步推進，真正為社會進步和人類福祉作出貢獻。

（摘自《人民論壇》2024年第19期。作者為天津大學法學院講師）