生成式人工智能的擴展風險與社會規(guī)制
——基于ChatGPT社會效應的探討

杜 娟

(1.華東政法大學 法律學院,上海 200042; 2.黑龍江省社會科學信息中心,黑龍江 哈爾濱 150001)

在人工智能技術加速發(fā)展的今天,在第三代生成性預訓練轉換系統(tǒng)加持之下,ChatGPT如一騎絕塵,以深度學習建構的自然語言預生成模型,既將人工智能的模擬、深度學習和因果模型等范式遠遠地拋在了后面,激起了漫天塵霧,使人工智能技術的現(xiàn)實效應撲朔迷離,也使人工智能風險及其治理難題更受關注。在我們看來,人工智能作為人類最先進的技術體系,正在從根本上改變著人類組織和運行的邏輯,并從人的活動和存在等方面重塑人的行為方式。特別是生成式人工智能的快速發(fā)展,更是將這一趨勢推向極致,在敞開了人工智能定義社會、改變社會的可能性過程中,也從根本上擴展了人工智能開發(fā)、改進和應用的現(xiàn)實風險。這是因為生成式人工智能和傳統(tǒng)基于自動化的人工智能有著根本的不同。生成式人工智能在高階自動化的前提下使技術邏輯不再停留于模擬和還原物體系的直接應用,而是在數(shù)據(jù)與算力加持之下形成了生成式的應用滿足,表現(xiàn)出類人智能甚至是超人智能的特征。生成式人工智能的技術進步,一方面以改變人類思考和處理問題的方式承接和強化了人工智能發(fā)展的利好,另一方面則以其強大的功能與超強的智能不斷地突破技術的應用邊界并深度影響著社會行為和價值追求,再一方面則在海量數(shù)據(jù)的調用、應用場域的泛化和算力資源的調配等方面提出了全新問題,考量著社會治理的思想觀念和實踐方略?；蛘?生成式人工智能延續(xù)與發(fā)展了自有人工智能技術以來的風險挑戰(zhàn),卻又以技術范式進步的方式進一步擴展了風險。因此,對于生成式人工智能帶來的影響社會秩序的侵權與欺騙,對于倫理道德的算計與篡改以及影響社會存在的否定與取代等事關社會良序運行、社會歷史健康發(fā)展和現(xiàn)在存在有意義的生活等風險問題,首先應該在社會治理觀念上超越從“是”到“應當”(1)薛桂波、趙建波:《從“應當”到“是”:人工智能倫理規(guī)范實踐策略探析》,《自然辯證法研究》2023年第1期。的規(guī)范,建構基于深入把握技術邏輯的“應當”與“是”相互生成的觀念;其次應該在生成式人工智能技術范式中準確定位防范風險的起點、處理風險的著力點和化解風險的關鍵點;最后應該從社會規(guī)制的層面調動社會資源、形成主動意識推動生成式人工智能在改變人類思維方式和行為邏輯中發(fā)揮其積極效應。

一、調用數(shù)據(jù)的生成與數(shù)據(jù)安全的意識

生成式人工智能雖然基于“大數(shù)據(jù)小任務”的技術范式,但卻以“預生成模型”超越了既有訓練數(shù)據(jù),使系統(tǒng)真正成了應用范圍廣、適應能力強的“高階自動化”(2)涂良川、喬良:《人工智能“高階自動化”的主體可能性——兼論人工智能奇點論的存在追問》,《現(xiàn)代哲學》2021年第6期。系統(tǒng)。這一方面得益于“生成式預訓練轉換器”對既有數(shù)據(jù)的有效挖掘和對模型的生成式建構,使人工智能能夠基于海量數(shù)據(jù)類人地處理問題;另一方面則得益于人工智能時代網絡的快速發(fā)展和數(shù)據(jù)海量積累,以及算力的絕對提升,使人工智能能夠“合乎邏輯”地面對問題、提出方案。因此,生成式人工智能雖然具有目前風靡行業(yè)的適用性,但卻是基于既有數(shù)據(jù)的生成。盡管我們不能以數(shù)據(jù)來界定生成式系統(tǒng)的特質,但是我們卻不能否認數(shù)據(jù)對其的奠基。正如每一代人都是在前一代人活動的基礎上活動一樣,生成式人工智能也是在數(shù)據(jù)的基礎上創(chuàng)建。因此,作為記載人類行為、表征社會特質、呈現(xiàn)歷史特征的數(shù)據(jù)如何被生成式人工智能系統(tǒng)采掘、轉化和應用,就是必須重視的問題?；蛘哒f,在生成式人工智能極速發(fā)展的當下,技術邏輯展開的數(shù)據(jù)風險已不再局限于專利、隱私和個體等,而是全面地向社會邏輯展開,既能夠跨越地域的限制,又能夠實現(xiàn)時間壓縮的整合,還可以打破價值與觀念的界限。因此,數(shù)據(jù)安全的問題,不是簡單地強調數(shù)據(jù)歸屬來實現(xiàn)數(shù)據(jù)屏蔽,也不是通過數(shù)據(jù)占有來獲取數(shù)據(jù)利益,而是建構數(shù)據(jù)占有與擁有、采集與應用、開發(fā)與獲利的社會邏輯,既使數(shù)據(jù)有效地服務于生成式人工智能的訓練,又使數(shù)據(jù)訓練的生成式人工智能能夠真正賦能人的美好生活。

第一,對大數(shù)據(jù)的深度挖掘構成了生成式人工智能情境理解、語境互動和類人行為的基礎,數(shù)據(jù)對生成式人工智能有著決定性的影響。因此,技術邏輯之外對數(shù)據(jù)的區(qū)分、確權和應用就會從根本上影響生成式人工智能的功能?！吧墒筋A訓練轉換器”之所以能夠建立類人邏輯的表達和自然語言的理解力,雖然得益于人工智能神經網絡的發(fā)展,但是卻從未離開對語料庫的挖掘和對數(shù)據(jù)邏輯結構的分析。生成式人工智能正是在對數(shù)據(jù)的技術性理解中,一方面形成了對人類智能能力的理解與實現(xiàn),另一方面則還原和延續(xù)了數(shù)據(jù)所表達的人類既有經驗和成果?；蛘哒f,人工智能技術范式的創(chuàng)新與大數(shù)據(jù)的加持,使生成式人工智能運用于聊天時就成為“目前為止最為強大的通用人機對話系統(tǒng)”,對于人工智能發(fā)展而言,則是“打開了通用人工智能的大門”(3)趙廣立:《ChatGPT敲開了通用人工智能的大門了嗎?》,《中國科學報》2023年2月22日,第3版。。由此看來,生成式人工智能能夠在技術邏輯中將數(shù)據(jù)的實存性與描述性轉化成理解人與社會、歷史與現(xiàn)實、邏輯與事實等事關人類社會根基與存在、運行與規(guī)制、發(fā)展與校正等重要問題的觀念和方式。雖然生成式人工智能系統(tǒng)有前置性的技術邏輯,但是如果離開數(shù)據(jù)就會成為無源之水、無本之木。數(shù)據(jù)作為事關生成式人工智能訓練的基礎性資源,既成為人工智能技術發(fā)展的必需品,又成為企業(yè)、國家和社會的爭奪品。或者說,生成式人工智能因其對數(shù)據(jù)的需求,以及其強大的功能和良好的發(fā)展預期,使數(shù)據(jù)真正成為人工智能時代的生產資料,更使數(shù)據(jù)成為人工智能時代的戰(zhàn)略資源。生成式人工智能的技術邏輯、功能邏輯和效應邏輯,一方面強化了數(shù)據(jù)之于人工智能技術的根基性,另一方面又提出了數(shù)據(jù)的安全性問題。從技術發(fā)展邏輯上講,數(shù)據(jù)開放、開發(fā)的程度既是生成式人工智能形成能力的基礎,又是數(shù)據(jù)進一步精練運用的前提;從社會效應邏輯上講,數(shù)據(jù)的開放與安全會影響生成式人工智能對社會生活的介入與影響;從經濟運行邏輯上講,數(shù)據(jù)的掌握與開放會影響生成式人工智能經濟效益的獲得與分配。

第二,生成式人工智能系統(tǒng)的自監(jiān)督學習與強化學習,不僅能夠很好地調用已有的數(shù)據(jù),而且能夠推進數(shù)據(jù)的生成與豐富。因此,生成式人工智能能夠在既有數(shù)據(jù)與生成數(shù)據(jù)的交織中,既獲得外部的監(jiān)督與強化,又獲得內部的類自省的強化與監(jiān)督。算力的提高、存儲的增加、模式的改進,使生成式人工智能的學習不僅能夠挖掘潛存于數(shù)據(jù)中的因果關系,使其生成既體現(xiàn)事實的一般狀態(tài),又預測事實可能的狀態(tài),達到可信度高、實現(xiàn)性強的結果。更為重要的是,生成式人工智能生成的數(shù)據(jù)雖然依賴于既有數(shù)據(jù),但卻是系統(tǒng)生成的數(shù)據(jù),并且可以被系統(tǒng)調取用于監(jiān)督和強化的數(shù)據(jù)。因此,生成式人工智能的深度學習,不僅在于對數(shù)據(jù)的深度挖掘和模型的不斷優(yōu)化,而且在于能夠不斷以系統(tǒng)生成的數(shù)據(jù)訓練自身。雖然從形式邏輯的角度看,這有可能使系統(tǒng)在重復調用中不會獲得實質性的改善,只會在消耗系統(tǒng)冗余中拖累系統(tǒng),但生成式人工智能系統(tǒng)的開放性生成本身卻是突破形式邏輯局限的技術路徑。在此就提出了一個重大的現(xiàn)實關切,即生成式人工智能生成的數(shù)據(jù)與現(xiàn)實數(shù)據(jù)的疊加,顯然正在推動數(shù)據(jù)自動生成的進程。當然,這是“元宇宙”提出之后,虛擬世界以數(shù)據(jù)替換現(xiàn)實節(jié)約資源、以數(shù)據(jù)模擬現(xiàn)實節(jié)省成本、以數(shù)據(jù)“取代”現(xiàn)實推進發(fā)展的積極面相。但是這里卻存在巨大的社會倫理風險,即生成式人工智能創(chuàng)造數(shù)據(jù)、再現(xiàn)數(shù)據(jù)和推動數(shù)據(jù)的能力,因其技術系統(tǒng)自治與封閉必然呈現(xiàn)出高效甚至是完美,從而產生兩種不可忽視的危機:其一,在現(xiàn)實與真實內涵發(fā)生根本變化的前提下,生成式人工智能數(shù)據(jù)的泛濫與濫用,將帶來數(shù)據(jù)權的爭奪;其二,技術系統(tǒng)虛擬生產的數(shù)據(jù)模糊真與假、善與惡,將引發(fā)倫理與價值的危機。因此,數(shù)據(jù)安全就不再是局限于人與人之間的數(shù)據(jù)占用與分享、開發(fā)與利用等表達現(xiàn)實權利與利益關系、支配邏輯和權力體系的現(xiàn)實問題,而是關系人機關系、人機互動的重大問題?；蛘哒f,面對生成式人工智能生產數(shù)據(jù)的邏輯,以及數(shù)據(jù)再次技術化成為人工智能系統(tǒng)構成的問題,數(shù)據(jù)的安全就已不再是數(shù)據(jù)占有與使用、數(shù)據(jù)分發(fā)與開發(fā)、數(shù)據(jù)采集與運用、數(shù)據(jù)權利與獲利等基于人與人關系的數(shù)據(jù)安全問題,而已延展到人機關系的層面。這既需要我們創(chuàng)新保障數(shù)據(jù)安全的機制與體制,更需要我們變革數(shù)據(jù)安全的觀念,在人與人、人與機、機與人三個層面同時考慮數(shù)據(jù)安全問題。

第三,生成式人工智能以組合式創(chuàng)新的方式具有了突破預訓練數(shù)據(jù)的能力,形成了基于預訓練數(shù)據(jù)創(chuàng)造新數(shù)據(jù)要素的能力。生成式人工智能不以分析數(shù)據(jù)內在邏輯為基礎,而是以建構數(shù)據(jù)關系為邏輯,在技術邏輯上被看作專用人工智能向通用人工智能轉變的重要技術范式。這意味著生成式人工智能的技術邏輯不斷解構著人們保護數(shù)據(jù)的觀念與體制。如前所述,數(shù)據(jù)作為其基礎,數(shù)據(jù)的量和類雖然不能絕對限制其功能,但是卻會延緩或推進其功能的快速發(fā)展。因此,基于技術發(fā)展邏輯自然就為擁有這一技術的人工智能公司提供了要求數(shù)據(jù)完全開放的合理借口。同時,生成式人工智能的強大功能與發(fā)展前景也會使個體與社會在追求高技術、好成效的過程中放松對數(shù)據(jù)的管理。然而,從技術本身來看,生成式人工智能之所以高效,在于其通過數(shù)據(jù)學習獲得的巨量參數(shù)的有效性。顯然動輒上億(4)陳永偉:《超越ChatGPT:生成式AI的機遇、風險與挑戰(zhàn)》,《山東大學學報(哲學社會科學版)》2023年第3期。的參數(shù)需要對海量數(shù)據(jù)進行挖掘、擬合與比對。數(shù)據(jù)開放得越完全,數(shù)據(jù)所刻畫的對象也就越精細,人工智能系統(tǒng)生成的結果也就越精確。這里存在三個邏輯問題:一方面,生成式人工智能能夠極度還原開放數(shù)據(jù)的本原狀態(tài),使人與社會在機器邏輯面前近乎“祼奔”;另一方面,生成式人工智能可以基于完全開放的數(shù)據(jù)植入技術系統(tǒng)內在的價值,使開放的數(shù)據(jù)受制于技術邏輯的支配;再一方面則是由系統(tǒng)生成的數(shù)據(jù)用于系統(tǒng)的訓練與自優(yōu)化的時候被直接認同為客觀數(shù)據(jù),使系統(tǒng)獲得自“進化”的能力。因此,數(shù)據(jù)類別的標注與區(qū)分、不同數(shù)據(jù)訓練結果的比對,既是檢視生成式系統(tǒng)先進性的手段與方式,更是以底層邏輯來考量系統(tǒng)安全性的途徑。特別地說,就是Transformer系統(tǒng)(5)Vaswani A.,et al.,“Attention is All You Need”,Advances in Neural Information Processing System,No.30,2017,pp.2702-2712.用于生成式人工智能之后,面對系統(tǒng)生成的數(shù)據(jù),數(shù)據(jù)類別的區(qū)分與對比難度極速增長。因為其類自然的處理能力在解決“長依賴問題”的過程中已經可以創(chuàng)造近乎“客觀”的數(shù)據(jù)。當然,我們在此不必爭論數(shù)據(jù)的客觀性,但是生成式強人工智能依賴強大算力的“可能關聯(lián)”是否就是客觀性,卻是值得我們謹慎對待的問題。或者說,數(shù)據(jù)結果呈現(xiàn)出來的邏輯精確與期待精準,是否體現(xiàn)為客觀就是必然思考的重要問題。

從上述分析我們可以看出,生成式人工智能進一步強化了數(shù)據(jù)之于人工智能的重要性,同時更提出了與傳統(tǒng)人工智能不同的數(shù)據(jù)安全問題。其一,因生成式人工智能的特性,數(shù)據(jù)安全已經由技術邏輯深度介入,基本權利占有的規(guī)制邏輯已呈現(xiàn)出極大的局限性;其二,數(shù)據(jù)量大、類多使當前數(shù)據(jù)安全問題已嚴重依賴人工智能系統(tǒng),必須考慮機器技術邏輯的規(guī)制問題;其三,數(shù)據(jù)客觀性界限的消失、零樣本設置的出現(xiàn),強化了技術邏輯的自洽性,消解了數(shù)據(jù)的客觀性與基礎性,使數(shù)據(jù)安全已提升到存在論層面,其社會規(guī)制亟須全新的思維與邏輯。因此,面對生成式人工智能,我們需要認真思考數(shù)據(jù)安全的底層邏輯、實踐操作的現(xiàn)實邏輯和成效評價的價值邏輯。

二、信息生成的擴展與風險邊界的認知

生成式人工智能基于經驗主義與歸納的邏輯,不僅能夠將已有數(shù)據(jù)表征的語境規(guī)定、因果規(guī)則、相關性聯(lián)系、結構構架等提煉出來,使之成為生成滿意要求答案的規(guī)定,而且能夠在與用戶輸入與答案輸出中建構出新的規(guī)則。生成式人工智能的技術范式使其一方面具有挖掘既定事實的能力,另一方面還能夠生成規(guī)則,表明在技術邏輯下的信息生成有可能是事態(tài)邏輯發(fā)展的結果,也有可能是人類創(chuàng)造的結果,還可能是被植入系統(tǒng)偏見的表達,亦可能是系統(tǒng)生成卻無法預知難以應對的規(guī)則。因此,生成式人工智能生成的信息既可能在既有認知邊界內,亦可能超越認知邊界而預知并可控,還有可能在認知邊界之外而不可預知并難以處理。生成式人工智能經由訓練而生成信息的能力的上述技術邏輯,能夠在不斷擴展邊界的過程中重建信息的結構化環(huán)境。識別與認知其邊界,既能夠為人工智能的健康發(fā)展提供社會保障,更能為人類社會安全運用人工智能技術保駕護航。

使人工智能像人一樣思考是生成式人工智能技術追求的目標。當其以信息生成的方式來表達其類人的聰明的時候,其表達出來的結構化環(huán)境不僅有利于確證人工智能系統(tǒng)運行結果的有效性,而且更有利于人工智能以其自身為中心不斷地吸納資源。因為信息生成本質上就是結構化的再造,而“環(huán)境的結構化程度越高,制造在其中運行的機器就越容易”(6)皮埃羅·斯加魯菲:《智能的本質——人工智能與機器領域的64個大問題》,任莉、張建宇譯,北京:中國工信出版集團,2017年,第123頁。。信息作為對物質、存在和邏輯的編碼,“它是一種模式(Pattern),而不是一種存在(Presence)”(7)凱瑟琳·海勒:《我們何以成為后人類》,北京:北京大學出版社,2018年,第24頁。。雖然生成式人工智能是基于數(shù)據(jù)深度學習模式而建構的智能系統(tǒng),但是其內蘊著對人類學習知識、生成信息和闡釋意義等智能能力(8)涂良川:《深度學習追問學習本質的哲學敘事》,《學術交流》2022年第11期。的一般性假設,在邏輯建構、事實組合和價值表達的過程中輸出作為結果的信息。從積極的層面講,生成式人工智能占有數(shù)據(jù)量大類全、邏輯自洽嚴整、計算極速準確,能夠以技術的方式盡可能地避免價值偏見、思維局限和視域陳見,使生成信息的真度更具可信性、廣度更具涵蓋性。從消極的層面講,生成式人工智能在深度學習中因為數(shù)據(jù)全,在邏輯上更容易回避爭論和迎合用戶,使擴展性的生成信息成為真實的替代品;在模型生成中因為邏輯自洽,使生成自信更具有權威性與壓制性,極易形成信息集權而非開放智力爭論;在證據(jù)采集、語用建構和結果輸出中因為算力極速,使生成信息的形式更美、價值更真切,以貼切的表象消解了技術生成的痕跡,具有社會生成的一般性。因此,信息生成的擴展使生成式人工智能獲得了跨界的實質能力,也帶來了風險邊界重新認知的問題。隨著生成式人工智能生成信息的擴展,信息結構化社會的形態(tài)和規(guī)制社會行為的能力都在不斷從技術應用的異化效應深化到自動化的深度異化之中。

生成式人工智能以Transformer的算法,使“時序數(shù)據(jù)處理”(9)Lund B D,Wang T,“Chatting about ChatGPT: How May AI and GPT Impact Academia and Libraries?”,https:// www.emerald.com/insight/content/doi/10.1108/LHTN-01-2023-0009/full/html,2023-02-14.無監(jiān)督學習和“自注意力機制”的強化學習很好地融合成生成信息的機制,以強大的算法實現(xiàn)跨領域的信息結構再造。生成式人工智能以數(shù)據(jù)、算力和算法實現(xiàn)了人類夢寐以求的交叉,能夠在節(jié)省人類時間與空間的前提下獲得新的描述、解釋與創(chuàng)造新對象的信息結構。其以技術的一致性與邏輯的自洽性解決了“語句連貫不一定具備意義、存在學習盲區(qū)而導致一些結果不準確、無法體現(xiàn)信息來源”(10)彭茜、黃堃:《ChatGPT,變革與風險》,《新華每日電訊》2023年2月14日,第7版。等知識問題之后,“將大幅促進內容創(chuàng)作,創(chuàng)造出數(shù)字化知識生產、供應的繁榮之態(tài)”(11)王建磊、曹卉萌:《ChatGPT的傳播特質、邏輯、范式》,《深圳大學學報(人文社會科學版)》2023年第3期。。但是,生成式人工智能生成信息繁榮的背后顯然也存在著我們必須重視的問題。從生成數(shù)據(jù)的生成現(xiàn)象學來看,生成式人工智能是通過重組與整合數(shù)據(jù)既有規(guī)律的方式來實現(xiàn)聯(lián)結、衍生和擴展。從技術的理想狀態(tài)來看,系統(tǒng)可以全面地訪問與利用所有數(shù)據(jù),算法也可以依據(jù)研究進展與系統(tǒng)進化進行修正,但是技術發(fā)展的現(xiàn)實卻明顯呈現(xiàn)出投喂選擇性、算法偏向性等問題。雖然我們愿意善良地相信系統(tǒng)掌握全面的數(shù)據(jù)和科學地改進算法能夠有效解決尼古拉斯·卡爾的“碎片化”與“阻礙短期記憶”(12)尼古拉斯·卡爾:《淺薄:互聯(lián)網如何毒化了我們的大腦》,劉純毅譯,北京:中信出版社,2010年,第142頁。的問題,但是問題并沒有技術樂觀主義者們認為的那樣簡單。因為無論是聯(lián)結主義的整合,還是基于逆向工程學的類人認知模型,在本質上都是基于主題信息的歸納與演繹邏輯的推理。雖然其信息擴展的方式超越了傳統(tǒng)主題詞觸發(fā)的信息提取能力,也“體現(xiàn)出高超的語言重組能力”(13)王建磊、曹卉萌:《ChatGPT的傳播特質、邏輯、范式》,《深圳大學學報(人文社會科學版)》2023年第3期。,但是正如喬姆斯基所言,這還只是語言內部的信息擴展。因此,生成式人工智能在深度學習基礎上的信息跨越能力基于語言擴展的邏輯本身已限定了生成信息的適用范圍。雖然生成式人工智能在生成信息中超越了分析式人工智能的復制、精確和邏輯預判,呈現(xiàn)出獨立判定和新內容生成等能力,但其本質上仍是一套文字生成模型。我們在此無意爭論語言表達與現(xiàn)實存在的關系問題,但是卻無法忽視這種生成自信的擴展對于極度依賴語言來進行實踐的人的重大影響。

生成式人工智能生成信息的擴展,不僅擴展生成信息自身所包含的內容,而且擴展了信息生成對人的全面納入。簡單地講,生成式人工智能生成信息的過程就是機器和社會主體共同深度介入信息創(chuàng)造的過程。客觀地講,代表生成式人工智能發(fā)展狀態(tài)的最新應用平臺——ChatGPT當下之所以大受追捧,除了技術先進及其表現(xiàn)出的能力超群之外,其實也因為其改變了生成信息與社會主體的關系。因為,當ChatGPT申明“我沒有個人經驗或意見,因為我是一個人工智能程序”“作為一個中立的AI語言模型,我沒有個人意見和信仰”(14)參見新京報傳媒研究:《記者對話ChatGPT:你會搶走我的工作嗎?》,新京報社官方賬號,2023年2月9日。的時候,其實也就表明其信息是生成的而非傳達的。從表面上看,生成式人工智能在其技術機理中并不區(qū)別對待社會主體,也具有將社會主體的視角納入信息生成之中的自覺。但是就生成式人工智能的算法和數(shù)據(jù)而言,并非意味著其超越了信息分發(fā)模式對信息內涵的擴展。這里涉及一些重要的問題:其一,生成式人工智能算法本質上是深度學習算法,雖然今天這樣的算法極大可能地集聚了人類知識的成果,但是人類知識的社會歷史如何超越顯然并沒有ChatGPT申明得那么簡單;其二,訓練系統(tǒng)的數(shù)據(jù)與語言的選擇性必然會被系統(tǒng)的聯(lián)結主體吸納,其承載的價值觀和局限性如何在系統(tǒng)生成與應用中被處理與防范;其三,生成式人工智能雖然具有自主優(yōu)化的能力,但是其作為人類社會的創(chuàng)造性產物,社會歷史和社會政治主體對其的影響如何消除;等等?；蛘哒f,生成式人工智能的信息擴展具有納入主體的技術可能性,但是卻并非基于社會歷史的納入,其信息擴展也就自然帶有歷史的階級性、政治的局限性與文明的地域性等。也就是說,生成式人工智能生成信息的擴展并沒有因為技術的進步而解決人類技術發(fā)展一直存在的問題:技術的控制權、原發(fā)地、應用性等都影響著技術與人的關系。生成信息表征的人與機之間的迭代與互動,總體上卻是“算法編程、硬件材料、數(shù)據(jù)思維與能力、機制模式甚至文化綜合作用的結果”(15)楊溟:《人機融合智能:一條通向未知的艱險征途》,《中國社會科學報》2023年3月7日,第4版。。作為新技術迭代的產物,生成式人工智能在邁向新的征途的時候,一方面以技術的方式綜合地考量與實現(xiàn)了社會主體在技術產物中的地位,為技術與主體對立的消解做出了積極的貢獻,技術系統(tǒng)在被想象成人的前提下,其產物也被作為類人成果對待;另一方面,技術系統(tǒng)本身也以適合社會主體的方式在產物與結果上做出相應調整,使其產生類主體的行為方式,其成果也必須被現(xiàn)實的人進行社會歷史的審視。

因此,生成式人工智能信息擴展顯然推進了人類社會信息創(chuàng)生的進展,但是也帶來了一系列的新問題。其不僅以原發(fā)性的方式改變了風險的發(fā)生邏輯,更是以技術的深入浸入與信息生成的擴展不斷提出風險邊界的認知問題。面對如此現(xiàn)實,我們認為在科學公允地定位生成式人工智能生成信息之前應該積極推進如下工作:其一,在從人機對立思維向人機融合思維的轉變中,深探風險邊界的發(fā)生邏輯,使準確的認知成為科學規(guī)制的前提;其二,以社會歷史的整體邏輯看待信息規(guī)制與座架的能力與限度,在哲學與文化的層面把握風險邊界,在倫理與法制中明確風險邊界,在實踐與操作中定位風險邊界,在生活與行為中小心風險邊界;其三,以發(fā)展的眼光看待生成信息的豐富意義與價值,以防范與引導的方式重視信息擴展的意義,在發(fā)展的邏輯中辯證地認知風險邊界的積極意義與消極意義,既客觀地面對風險邊界,又現(xiàn)實地發(fā)揮社會規(guī)制風險的主體性作用。

三、技術定義的取代與奇點來源的干預

生成式人工智能之所以被關注,并不是簡單地由其取代了人的實體性工作,而是以技術的方式探索了解放“頭腦”的可能性,從而以技術打造的物體系實現(xiàn)了對人存在功能的取代。從歷史發(fā)展來看,這似乎是人類技術發(fā)展史一再重復的事實,但是生成式人工智能帶來的革命遠非歷史上的蒸汽革命、機器革命、電氣革命等所能比擬。因為生成式人工智能是以技術的方式對通用智能的有效探底,一方面現(xiàn)行社會邏輯以有效的社會調動極力推動了這種探問,另一方面則是技術邏輯自身發(fā)展的一種趨向。生成式人工智能結合兩方面的力量,使其擴展風險的邏輯和方式與傳統(tǒng)技術發(fā)展風險有了本質的不同,不是社會規(guī)則修補的問題,而是應對奇點的意識與能力的問題。

生成式人工智能以技術的路徑實現(xiàn)了類人的生成能力,挑戰(zhàn)了人類引以為傲的智能,既被文化地想象為人類,又在以行為能力取代人的工程中徹底地改變了人類存在的方式,引發(fā)奇點降臨的存在論擔憂,更提出了人機關系建構的社會規(guī)制難題。從人類歷史上看,人類創(chuàng)造的技術不斷以超強的能力“掙脫”人的邏輯,表達出對物的控制一直是常態(tài)。但是人工智能的來臨卻使這一常態(tài)具有了不一樣的效應,特別是以生成式人工智能為代表的新技術更是如此。因為生成式人工智能在模型構成上更加接近人類,不僅能夠完美地完成以數(shù)據(jù)為基礎的被人類規(guī)定的程序性工作,而且可以具有類人的心智能力和情感交互能力,其行為主義的逼近展示了這種技術改變甚至是顛覆人類存在的可能性。如果依據(jù)圖靈測試的技術邏輯來看,這樣的系統(tǒng)雖然不具有人一樣的活動邏輯,也不具有人一樣的存在肌理,但卻能以非生物的電力和機械力驅動邏輯器件、電子元件和機器裝置來“非人格”地實現(xiàn)思維。當然,構成人工智能物理系統(tǒng)的器件和裝置、驅動物理系統(tǒng)的算法、訓練系統(tǒng)的數(shù)據(jù)和流程都是人依據(jù)既有的科學技術與歷史現(xiàn)實所創(chuàng)造出來的,但這并不意味著人工智能必然是可控的,特別是生成式人工智能等“大型語言模型或許開始展現(xiàn)出類似人類的問題解決能力,但它們似乎并不完全受人類控制”(16)羅曼·V.揚波爾斯基、奧托·巴滕:《ChatGPT等語言模型可能構成生存性風險》,王悠然譯,《中國社會科學報》2023年3月6日,第8版。?；蛘哒f,生成式人工智能正在深刻地改變人類活動的一般邏輯,從輔導性機器系統(tǒng)轉變成了定義時代與社會主體的類主體系統(tǒng)。這顯然不是危言聳聽,而是正在發(fā)生的社會邏輯與治理邏輯的重大轉變。生成式人工智能以改變活動邏輯定義時代問題,正在引發(fā)經濟奇點、政治奇點、倫理奇點和價值奇點等,正在逼近存在奇點的趨勢使我們不得不面對其能力強而可控性差和可預見難的問題。

生成式人工智能不僅定義了時代的邏輯,更以技術有效性的方式定義著人的本質,既在社會實踐層面加劇了人與技術實體之間的沖突,更提出了人類主體生成的存在危機。雖然人工智能是人的對象化本質和理解自我的參照物,但是如果人工智能一旦具有主體的能力,那么問題就不再是簡單的人如何控制機器的問題,而是人被機器規(guī)定與定義的問題。因此,在ChatGPT極速發(fā)展的當下,并在對話中呈現(xiàn)出與人類似的主體性的時候,這個問題就極為突出了。因為生成式人工智能顯然不同于分析式人工智能的技術邏輯,其不僅廣泛應用于生產和消費等影響經濟邏輯的現(xiàn)實生活領域,更是以其交互與生成拓展到對人能力和智力的發(fā)展之中。其基于不斷積累的數(shù)據(jù)而獲得的處理現(xiàn)實問題的能力,不僅挑戰(zhàn)著既有的生產與生活邏輯,更是挑戰(zhàn)著人獲得知識與經驗的實踐。生成式人工智能以其強大的算力與強悍的算法,既能夠不斷地更新數(shù)據(jù)進行交互,又能夠依據(jù)技術邏輯生成新的數(shù)據(jù),正在從根本上改變物質交互、實踐交往之于主體的意義。這既是自元宇宙以來人工智能技術邏輯的主要路線,更是以切近智能活動邏輯的方式對人本質的深層定義?；蛘哒f,生成式人工智能正在極速地向以數(shù)字定義人,而非實踐生成人的方向前進。因此,生成式人工智能獨有的技術邏輯“導致既不依賴精神又不依賴意識而僅僅依賴信息的非物質性建構”(17)凱瑟琳·海勒:《我們何以成為后人類:文學、信息科學和控制論中的虛擬身體》,劉宇清譯,北京:北京大學出版社,2017年,第47頁。。這雖然極度地擴展了人類活動的能力,但是卻強化了關系在人本質生成上的意義。特別是對于生成式人工智能而言,其雜糅關系的能力、論證關系的邏輯、體現(xiàn)關系的效應,既帶來了現(xiàn)實區(qū)分上的難度,又極有可能帶有系統(tǒng)設計者和系統(tǒng)例外錯誤對關系的定制和影響。面對人工智能的本性及其性質和意義,物作為其基礎的事實,是順應技術的邏輯而被其主導,還是遵循人類存在的實踐而生成自我的本質,可能就是事關根本的選擇。也正是在這個意義上,隨著生成式人工智能對人類活動與存在的深度介入,人工智能與事關人類相互關系的倫理問題、人工智能與人類知識獲得與生成的教育問題、人工智能與人類主體表達的意識問題、人工智能與體現(xiàn)本質的人類創(chuàng)造問題等在今天被再次推到前臺而被人們廣泛關注。究其根本原因,就在于生成式人工智能不僅帶來了經濟活動取代人的傳統(tǒng)邏輯中的異化問題,更是提出了人工智能時代以技術邏輯定義人、以技術要求生產人和以技術發(fā)展定位人的關乎存在根本的問題。

因此,生成式人工智能的強大功能既是技術邏輯發(fā)展的必需,又是人類生存與發(fā)展的新遭遇和新問題。面對人工智能定義人的奇點可能性,為了人類自身的發(fā)展與社會良序的運行,既需要建構人工智能時代社會規(guī)制的思維,例如應將倫理規(guī)制納入科技活動的全過程和各個環(huán)節(jié)(18)薛貴波、汪禹辰:《從“科技批判”到“科技倫理治理”:一種范式轉換》,《學術交流》2022年第10期。,又要創(chuàng)新社會規(guī)制的實踐。具體而言,其一,人工智能的奇點來臨,既延續(xù)了傳統(tǒng)社會規(guī)制的一般邏輯,又產生了全新的問題。對于奇點來臨的“創(chuàng)造性破壞”,顯然不是修補既有治理邏輯的問題,而是要在面對長期創(chuàng)新的技術邏輯中,既直面奇點可能敞開的治理難題,又在梳理和引導的層面以推動社會轉型的方式化解奇點產生的基礎。其二,生成式人工智能使奇點由遙不可及到今天的近在眼前,創(chuàng)新人工智能時代的活動邏輯使人一方面真正享受技術發(fā)展創(chuàng)新的紅利,另一方面又以技術創(chuàng)新的方式豐富與發(fā)展人的能力。在建構良序的人機關系中消解物種奇點,應該是社會規(guī)制必須要解決的重大問題。其三,人工智能的定義正在影響著人們自我理解、自我確證的方式與途徑,其表現(xiàn)的技術風險、社會風險、經濟風險和政治風險,既是對傳統(tǒng)社會邏輯的打破,也是對社會發(fā)展的推進,更是對生存邏輯的反思。因此,社會規(guī)制既應該直接觸及現(xiàn)實問題的核心,又應該關注人類存在的未來,創(chuàng)新性地形成歷史—現(xiàn)實—未來一體化的規(guī)制邏輯。