技術賦權與算法的價值選擇*

吳 飛 段 竺 辰

人類文明的演化與新技術的涌現(xiàn)相伴而生，誠如布萊恩·阿瑟所說：“技術不管是過去還是現(xiàn)在依然是文化的；同時，文化不管是過去還是現(xiàn)在都牽涉技術?！雹倜肯蚯斑~進一步，技術、文明、認知都會發(fā)生相應的改變，打造出一種新的平衡，繼而賦予人類在生存與發(fā)展層面更強大的力量。從結(jié)繩記事開始，人類已經(jīng)學會將記憶和知識依靠媒介進行存儲和輸出。15世紀中期，印刷機的出現(xiàn)使人們開始體會到技術帶來的信息爆炸，“圖書館”成為早期用來承載海量知識的介質(zhì)。而現(xiàn)在，文本數(shù)量正在以前所未有的速度不斷增長，大規(guī)模的知識生產(chǎn)使人類信息超載成為一種普遍的現(xiàn)象。數(shù)字基礎建設使依托互聯(lián)網(wǎng)的數(shù)據(jù)庫逐步替代了圖書館的功能——即便圖書館依舊存在。據(jù)說約翰·彌爾頓讀遍了他那個時代能夠獲取的所有書籍，但是今天，沒有人能像彌爾頓當年那樣了。即便是彌爾頓在世，他也不可能做到。②

長期以來，我們認為人類的思維與大腦是密不可分的，大腦對知識的存儲是人類與生俱來的天賦。但隨著技術的發(fā)展，當各種生物特質(zhì)開始以數(shù)字化的方式脫離人體，被轉(zhuǎn)移到電腦或別人身上時，人的大腦內(nèi)思維這個過去我們認為始終與人這一物質(zhì)不能分離的對象，也開始出現(xiàn)了脫離人體的可能。③我們逐漸認識到，在人類創(chuàng)造技術的同時，也潛移默化地被技術所同化，而這其中包含著人類引以為傲的智慧與文明。從人類主宰技術到人機共存，再到如今喧囂塵上的技術統(tǒng)治人類說，人工智能和數(shù)據(jù)化對人類的威脅，無異于人類對于自然界其他生物所帶來的恐嚇。在這場文化生活巨大變革中，我們應該反思，到底如何定義人與技術的關系？如何把握技術演化的法則？如何處理智能時代的技術創(chuàng)新的邊界？

一、覺醒：技術的自主性知識創(chuàng)造

2020年8月，埃隆·馬斯克旗下的腦機接口公司Neuralink舉行發(fā)布會，通過直播的方式展示腦機接口新設備。該設備用于感知或改善大腦活動，體積只有一枚硬幣大小，通過手術植入頭骨，就像安裝在大腦上的Fitbit，充滿電可用一整天。腦機接口的核心是在大腦和機器之間傳輸高保真的信息，短期目標致力于修復腦損傷和復雜的神經(jīng)系統(tǒng)疾病，未來將無須藥物調(diào)節(jié)大腦中的化學物質(zhì)水平，直接控制情緒障礙，提高學習能力，甚至在特定情況下幫人做出選擇。目前，Neuralink已經(jīng)獲得FDA批準在人腦進行實驗。這是在人類發(fā)現(xiàn)腦電波近100年后，腦機交互迎來的又一次跨時代突破，人機互動，腦機相連，人類與AI共生不再是科幻電影中神秘莫測的情景，未來，它將真實地存在于我們的生活。④

借力外物以利于事，人類發(fā)明和更迭技術，旨在創(chuàng)造一個更美好的生存環(huán)境。在本能的生物到自覺的人這一轉(zhuǎn)變過程中，工具意識伴隨著主體性開始不斷進化，技術與人共存并成為人們值得信賴的伙伴——從刀耕火種到幾次工業(yè)革命，技術每邁進一步，人類在行為、認知與文化層面就會與之達成一個全新平衡。雖然長期以來，技術工具對人類某些能力缺陷的彌補使我們一度相信，技術只具備零階意向性，它們只是對人類的輔助，并不能領會人類的意圖。如機器人的英文robot原意就有“奴隸、奴仆”之意⑤。但“各種技術及其后續(xù)的環(huán)境一個緊接著一個很快發(fā)生，所以舊環(huán)境使人覺察到緊隨其后的新環(huán)境。通過使我們意識到它的心理和社會后果，技術開始發(fā)揮藝術的作用”⑥。事實上，面對技術與文化的交織，人類的完成度和交融度遠比我們想象得要好得多。從早期的石器時代、鐵器時代、鋼鐵時代到口述文明、書寫文明、印刷文明和電子文明，技術特征與精神文化不斷緊密交織，相互融合，成為一個不可分割的整體。

“任何媒介(即人的任何延伸)對個人和社會的任何影響，都是由于新的尺度產(chǎn)生的；我們的任何一種延伸(或曰任何一種新的技術)，都要在我們的事務中引進一種新的尺度。”⑦新技術改變了我們所理解的“知識”和“真理”，改變了根植于文化之中的思維習慣，從而賦予我們認識世界的能力。⑧當下，人類正在經(jīng)歷以智能化為核心的第四次技術革命，這將會更全面地重構(gòu)人的環(huán)境，進而影響“人類世”⑨的存有方式。計算機創(chuàng)造了人類與信息、工作、力量和自然之間的新型關系，從而定義了我們的時代。對這種關系的最佳描述是，計算機將人類重新定義為信息處理器，人類本質(zhì)上則是被處理的信息。簡而言之，計算機最基本的隱喻信息，是人類是機器，是會思考的機器，是確確實實除了機器什么也不是的機器。也正因如此，計算機成了技術壟斷時期最典型、無可比擬、近乎完美的機器。它征服了人類在天性、生物學特征、情感、精神等方面的各種訴求，使人類體驗的方方面面臣服，并表現(xiàn)出比人更善于“思考”⑩，甚至可以在人類一度引以為傲的知識生產(chǎn)領域做到以假亂真。2005年，麻省理工學院計算機科學與人工智能實驗的三個學生曾經(jīng)一起開發(fā)過一款自動生成論文的小程序SCIgen，該程序只需輸入作者姓名，就可以自動生成一篇SCI級別的計算機論文，摘要、背景介紹、實驗結(jié)果、圖表、討論以及結(jié)論一應俱全。程序生成的論文甚至被WMSCI會議(系統(tǒng)論、控制論與信息論多學科國際會議)接受并邀請作者出席會議做報告——大會評委甚至絲毫沒有發(fā)現(xiàn)創(chuàng)作者是一臺人工智能機器。加州大學圣克魯茲分校的音樂教授戴維·柯普曾撰寫了一個名為EMI的程序，該程序?qū)ｉT模仿巴赫的風格，并曾在短短一天時間內(nèi)譜出5000首巴赫風格的贊美詩。在EMI成功后，柯普又繼續(xù)寫出了更復雜的新程序安妮。安妮以機器學習為基礎，能隨著外界新的音樂輸入不斷變化發(fā)展音樂風格——甚至柯普也不知道安妮接下來會譜寫出什么作品。除了寫音樂，安妮還對其他藝術形式很感興趣，比如俳句。2011年，柯普出版的《激情之夜：人和機器所作的俳句兩千首》中，混合了安妮和真正的詩人的文章，而這并沒有什么讀者看得出來。

在《技術壟斷》一書中，尼爾·波茲曼將文明分為三類，即工具運用文明、技術統(tǒng)治文明和技術壟斷文明。在這一語境下，技術成為文明中不可分割且居于核心位置的一部分，知識、文明、社會開始逐漸順應技術的發(fā)展方向。事實上，人工智能對于人類思維模式的捕捉和效仿建立在其獨有的算法基礎上，理論上是以線性或因果的方式建立數(shù)學模型，復現(xiàn)人的思考路徑與決策策略，在可控的邊界條件下，智能技術依靠強大的計算能力勾畫出人的思考圖譜。它在理解我們認知里的知識、真理和人類思維習慣的同時，學習世間萬物的法則——雖然它并不能理解得十分透徹。而人工智能在學習和適應了人類對外部刺激的反應后，其自主性很大程度上會基于對人類思維的解讀繼續(xù)發(fā)展，那么在它進行新一輪的知識創(chuàng)造和深度學習后，其能力和產(chǎn)出將不再是人類可以預料和掌握的。特別是以算法為代表的人工智能技術引入知識生產(chǎn)和信息傳播領域之后，人與技術之間的關系再次被重塑，主奴邊界開始逐漸模糊。法國技術哲學家雅克·埃呂爾明確表示，技術相對于人是自主的?！拔覀円呀?jīng)看到，在技術的自我增長方面，技術沿著它自己的路線前進，越來越獨立于人。這意味著人越來越少地主動參與到技術創(chuàng)造中，技術創(chuàng)造通過先前要素的自動結(jié)合，成為一種宿命。人降低到了催化劑的層次?！?/p>

當下，人工智能技術正成就更多的可能性。2019年，新華社與搜狗聯(lián)合推出全球首個站立AI合成虛擬主播，“AI合成主播”由“搜狗分身”技術打造，能夠利用搜狗的AI能力，從圖像表情、聲音語言習慣、邏輯思維等層面對AI進行擬人化訓練，可以實現(xiàn)逼真的語音合成效果和更加逼真的表情生成、自然肢體動作以及嘴唇動作預測等能力，然后克隆制造人類的AI分身，完成了站立并可以做出肢體動作的主播形象，進而幫助人類提高信息表達和傳遞的效率。當人與技術之間的關系被重新定義，在經(jīng)歷了人對機器的全面控制、人機共存的倫理問題后，我們將面臨新的挑戰(zhàn)：當機器人成為一個有意識的新的自我時，由現(xiàn)代理性哲學確定的“人”會不會反而成為機器的工具？人工智能又能否從本質(zhì)上代替人進行思考與知識生產(chǎn)？

二、虛構(gòu)與反思：人類主體性的探索

人之所以為人，智人之所以統(tǒng)治世界，是因為只有智人才能編織出互為主體的意義之網(wǎng)：其中的法律、約束力、實體和地點都只能存在于他們的共同想象之中。與其他靈長類生物相比，人類最大的優(yōu)勢在于能夠創(chuàng)造出互為主體的實體，積累環(huán)境與現(xiàn)實生活中經(jīng)驗，從而生產(chǎn)和創(chuàng)造需要去改造和認識自然的知識。大約7萬年前，認知革命讓智人開始談論只存在于人類想象之中的事情。此后，這些虛構(gòu)的故事開始成為連接人類社會的精神支柱，并隨著時間的流逝愈發(fā)強大，宛如一只看不見的手，在主宰著客觀世界的同時，也影響著人類對主體性的追問與探索。千百年前，宗教引導人類將美好憧憬寄托于天上人間的傳說，認為人類生存于地上，而神明遙居于天上。權威來自神祇，知識源自天神，殺伐決斷源于自然之手，應該推崇的是自然的能力和神的話語，而非人的內(nèi)心。兩河流域文明時期，神廟的建筑、祭祀的儀式、節(jié)慶的典禮和占卜都是歷代君王在統(tǒng)治時期重要的內(nèi)容之一，傾注著對現(xiàn)世的祈福，請求神明的庇佑。雖然其中很多故事的影響力有限，但僅僅是這種帶著濃郁神話色彩的內(nèi)容，就已經(jīng)使族群和社會擁有了創(chuàng)造者渴望達到的秩序與寧靜，使該領域內(nèi)的智人遵守著約定俗成的規(guī)律。

沒有生物能夠與人匹敵，并不是因為他們沒有心靈，而是因為它們?nèi)狈Ρ匾南胂罅Α@當然不意味著動物不會思考，獵豹在捕捉羚羊之前，即便沒有發(fā)現(xiàn)羚羊的蹤跡，也會想象到羚羊的樣子，然后迅速攻擊。但是，動物不會想象不存在的東西，也不會基于對自然現(xiàn)象和社會現(xiàn)象表現(xiàn)出困惑和驚奇，迫切地想要解釋其中的奧秘。智者普羅泰戈拉提出“人是萬物的尺度，是判斷一切的標準”，思想和智慧是人之為人的根本所在。蘇格拉底、柏拉圖、赫拉克利特、巴門尼德、畢達哥拉斯都思考著人的存在問題。亞里士多德將研究的重點置于尋求本體何以是本體這一問題上，即個體是怎樣成為自己的。亞里士多德認為，哲學研究的對象是“實是之所以是，以及實是由于本性所應有的秉賦”。這里的“實是”(存在)，他認為是“是”，是“一個確定的事物”；“秉賦”(本性)，他認為“不僅是那原始物，亦需是那‘通式’或‘怎是’，那是創(chuàng)生過程的終極目的”，是“自然萬物的變動淵源”。在漫長的探索中，人類的主體意味在覺醒，上帝不再能夠主宰眾生，人類與其他生物也開始分道揚鑣。

人類最偉大的發(fā)現(xiàn)絕大部分源于對自我的反思。這也是人的主體性問題所包含的兩個向度，即主體性的外向度和主體性的內(nèi)向度。主體性的外向度是指主體對外處理與客觀世界的關系，強調(diào)人是自然界的主人，即人對自然界的主體性。主體性的內(nèi)向度是指人進一步把自身作為認識和改造的客體，內(nèi)在地指向自身，是一個反身建構(gòu)自己的主體意識、提高自身主體能力的過程，是一個改造主觀世界的過程。伽利略通過比薩斜塔上“兩個小球同時落地”的實驗證明了不同質(zhì)量的物體下落速度相同。但早在實驗進行之前，伽利略已經(jīng)知道他在腦中演練過的這一實驗將會產(chǎn)生怎樣的結(jié)果。伽利略對物理定律的理解指引著他的思考，他能夠準確地推斷出，無論質(zhì)量大小，這些物體都會以相同的速度下落。雖然我們的想象力不及科學家與哲學家一般深刻而獨特，但在生活中，每個人都或多或少的以自己的方式將想象力融入生活中，比如晚飯吃什么？色香味如何？“我思故我在”，笛卡爾用普遍懷疑的方式檢驗知識的真實性，他認為人類乃能思者，即以智識證存在，源于思考能力非血肉之軀。他從中得出的結(jié)論是，思維屬于精神范疇，與肉體所屬的物質(zhì)范疇也有著天壤之別。但兩者間必有交互作用。畢竟，思維也只是通過軀體感知這個世界的。我們思考所給予的信息是由目、耳、鼻和其他感官一同捕獲的。而且，感官與思維之間的互動也是雙向的：思維做出決定，告知感官如何行動。

在《純粹理性批判》中，康德提出先驗論，“凡一切知識不與對象相關，而唯與吾人認知對象之方法相關，且此種認知方法又限于其先天的可能性，我名此種知識為先驗的。此一類概念之體系，可以名為先驗哲學”。在這里，他強調(diào)的不再是傳統(tǒng)思維上的主體與客體之間的相互聯(lián)系，而是將目光聚焦于主體自身的認知方式上。同時，他將人類知識分為先天知識和經(jīng)驗知識兩部分，先天的知識脫離一切經(jīng)驗而獨立存在，必然性和嚴格的普遍性是其主要特征。他突出人在知識生產(chǎn)與獲得這一過程中的不可替代性，將知識劃分為感性與悟性兩個主干，其中，感性層面的知識由人授予，而悟性層面則需要人通過理性的思維獲得。從根本上說，先驗哲學是一種主體性哲學，它重視人自身的理性與感性，突出人類主體性在認識和改造世界中的先導地位。

20世紀50年代，認知科學開始成為一門學科，人類開始關注思考是如何實現(xiàn)的？究竟是什么使人類對數(shù)字敏感，用數(shù)學去計算和理解死亡率，讓行為符合道德卻有時很自私，或讓我們做出哪怕只是用刀叉吃東西這種最簡單的行為？20世紀80年代，蘭道爾決定用計算機內(nèi)存的相同標準來衡量人類的記憶容量，他計算了人們究竟能掌握多少信息，即人腦的知識庫到底有多大。蘭道爾假設人們在70年的壽命中習得知識的速度始終恒定，他嘗試過的每一種測量方法大都指向同一個答案：1GB。這與現(xiàn)在動輒幾百G的智能手機相比幾乎可以忽略不計，這意味著人類的記憶能力可能得讓位于機器了。而字節(jié)跳動和百度人工智能算法的發(fā)展，又似乎意味著人的信息分類和部分計算的能力又得讓位于機器了。但古代先賢們堅信的人的思維能力至少目前還掌握在人的手中，“人是獨一無二的生物”這一命題似乎并沒有被推翻。而思維不僅存儲于大腦中，還在肉體和情緒中。這意味著，人在思考的時刻，并不是在頭腦中對已知內(nèi)容搜索和使用，而是借助與思考對象的互動進行層層推進。大腦、身體、情緒在外部環(huán)境的刺激下，一次次深入思考，共同做出決策并解決問題。而上述這些行為的能力都是人類獨有的，無論是機器還是動物，目前都無法做到。

三、技術也會有思想？

劉易斯·芒福德指出，電報及其后的一系列發(fā)明，都在克服空間距離的障礙并且縮小表達與反應之間的時間差。首先是電報，然后是電話，接著是無線電報、無線電話，最后是電視。結(jié)果，借助機械裝置，通信又回到最初的人與人之間的瞬時反應了。現(xiàn)在，即時聯(lián)系的可能性不再受到時間和空間的限制，而僅僅取決于機械設備的完善、設備的容量以及個人當前的精力。這種靈肉分離的模式為人類主體性的拓展提供了更多可能，使人類在實現(xiàn)數(shù)字永生的同時，得以在現(xiàn)實和虛擬的世界中自由地穿梭。同時，隨著人類的自我意識逐漸融入技術，技術表現(xiàn)出與人類前所未有的親密性和延展性，這意味著“肉身化主體”不再等同于“身體主體”。正如麥克盧漢所提出的“媒介是人的延伸”，主體意識不囿于人的軀體，空間壁壘也逐漸被打破，任何可以儲存意識的物體皆能成為受人類控制的載體，遠距離主體間的溝通與碰撞得以成為可能。

但人創(chuàng)造了技術，而技術卻有自主性，因為從人類之手放出的技術物，有了自己的發(fā)展邏輯，具有脫離人類控制與馴服的內(nèi)驅(qū)力?！叭藗冊趯⒆匀贿壿嬢斎霗C器的同時，也把技術邏輯帶到了生命之中?！苯裉?，人工智能參與知識生產(chǎn)的深度、廣度和強度已經(jīng)超越了以往任何一個時期，技術的工具性已經(jīng)滲透到人類文化生活的方方面面，理論成果、科學技術和倫理綱常三者處于一個既相互矛盾又相伴而生的狀態(tài)下。技術和人文之間的壁壘開始被打破，現(xiàn)代科技與傳統(tǒng)倫理之間的關系在不斷重塑，社會結(jié)構(gòu)及人機關系正在逐漸重組。埃隆·馬斯克、史蒂芬·霍金和比爾·蓋茨都曾發(fā)出警告：技術可能會變得更復雜，以至于能夠追尋它們自己的目標而不再唯人類命令是從。牛津大學哲學家尼克·博斯特羅姆不無擔憂地說，技術的進步如此神速，以至我們對如大兵壓境般的超級人工智能望而生畏。

顯然，這種壓迫感不僅源自人工智能的無處不在，更是人工智能開始擁有主導性和自主性，并在自我意識逐漸覺醒的同時，反過來對作為創(chuàng)造者和使用者的人灌輸某種標準化的思想，使人類開始拋棄固有的思維，并接受人工智能對理性層面潛移默化的重塑。隨著科研人員對人類認知和決策機制的了解，大數(shù)據(jù)算法的準確性得以提升，而這同時意味著與人工智能相比，人類憑借主觀感受做出決策的可靠性變得值得商榷。經(jīng)驗讓我們把越來越多的問題交給算法來處理，最后也就逐漸失去自己思考與決定的能力——換句話說，人類越了解自己，對算法的依賴可能就會越強烈。算法現(xiàn)在正看著你，看著你去了哪里、買了什么、遇見了誰。再過不久，算法就會監(jiān)視你走的每一步、每一次呼吸、每一次心跳。尤瓦爾·赫拉利指出：“憑借大數(shù)據(jù)和機器學習，算法對你的了解只會越來越深。而等到這些算法比你更了解你自己，就能控制你、操縱你，而且你無力抵抗?！睌?shù)據(jù)主義指出，同樣的數(shù)學定律同時適用于生化算法及電子算法，于是讓兩者合而為一，打破了動物和機器之間的隔閡，并期待電子算法終有一天能夠解開甚至超越生化算法。

在不到20年的時間里，人類雖然依舊在知識生產(chǎn)的終極層面把握著自主權，但在基礎層面，我們早已經(jīng)將搜索重要知識、真切信息的權利從自主尋找到賦予谷歌和百度，并選擇無條件地相信它們。而當我們越來越依賴智能搜索引擎時，人類自主搜索信息和對知識深入思考的能力將逐漸下降。技術使人在現(xiàn)實和思考中松弛，同時，隨著時間的推移，算法變得更聰明，而人類卻在認知層面逐漸趨向垂直化與專業(yè)化，因此，人工智能取代人類則變得越來越容易。如果我們不能在人工智能與算法面前進退有度，那么人類將會在知識生產(chǎn)領域喪失一定程度的自由，甚至被馴化：平臺可以根據(jù)你的行為算出你的喜好，直接把你最喜歡看的內(nèi)容推送給你，人變得越來越懶，甚至都已經(jīng)懶得選擇和辨別了，這就是“推送”改變世界。谷歌內(nèi)部道德設計師特里斯坦·哈里斯曾指出，技術超越人類的第一個階段點是超越弱點，其結(jié)果就是上癮。上癮會激化憤怒。激化虛榮，壓制人類原欲，挫傷天性。技術超越人類的第二個點是超越人類的智慧。算法喂養(yǎng)的世界里容易出現(xiàn)種種激化的矛盾，每個人的意見越來越不相容，因為每個人都從不同的推送里了解信息，而這些信息、知識又因為推送不同而不同。

我們必須承認，在構(gòu)建社會與文明的和諧關系中，任何一項技術的革新都發(fā)揮了重要作用。人工智能以一種極為強大的機器學習能力，將知識生產(chǎn)置于一種神秘的邏輯之下，這使知識變得看似有跡可循實則龐大浩瀚。智力創(chuàng)作既不是人類所獨享的內(nèi)容，也再難明晰地指出文化的創(chuàng)作過程。同時，如所有的技術一般，由于缺乏對人類道德屬性的學習，人工智能自身不具備價值觀念屬性和內(nèi)容過濾機制，無法對善惡是非做出區(qū)分，因此也不能預測事情發(fā)生后所帶來的一系列影響，于是，人工智能創(chuàng)作中的倫理問題變得尤為突出。正如塞爾所言：“技術本身不能夠構(gòu)成心靈，技術的形式也無法確保正確的心智內(nèi)容的出現(xiàn)。”2017年12月，一個名為“DeepFakes”的Reddit社交網(wǎng)站用戶將斯嘉麗·約翰遜等女演員的面孔移花接木到色情表演者身上，至此拉開了深度偽造的序幕。這種知識生產(chǎn)領域的深度偽造讓原本就魚龍混雜的新聞行業(yè)雪上加霜。美國情報界發(fā)布的《2019年全球威脅評估》指出，“深度偽造”技術已經(jīng)對美國國家安全構(gòu)成威脅，敵對勢力和戰(zhàn)略競爭對手很有可能企圖利用“深度偽造”技術或類似的機器學習技術，創(chuàng)造出高度可信但卻完全虛假的圖片、音頻和視頻資料，以加強針對美國及其盟友和合作伙伴的影響滲透運動。。這不僅僅是美國所面臨的危機，當情感因素和個人信念在當下已經(jīng)對真相產(chǎn)生了遮蔽，技術對影像的更改及核實的復雜性，更會極大削弱公眾對于影音真實性的信任和對真相本身的追求，從而降低整個行業(yè)乃至政府的社會公信力。

或許有人會說，我們只需要純粹地享受技術，而無須糾結(jié)是否被技術裹挾的深層次問題。但實際上，如果人類永遠都認為自己擁有獨特的能力，無意識的算法永遠無法趕上，這只能說是一廂情愿。我們將視野放大到整個人類生命，就會發(fā)現(xiàn)每種動物(包括智人)都是各種有機算法的結(jié)合，這是數(shù)百萬年間自然選擇的結(jié)果；算法的運作不受組成物質(zhì)的影響。就好比算盤的算珠無論是木質(zhì)、鐵質(zhì)還是塑料質(zhì)，兩個珠子加上兩個珠子還是等于四個珠子；因此，沒有理由相信非有機算法永遠無法復制或超越有機算法能做的事。只要運算結(jié)果有效，算法是以碳為載體還是硅為載體并無差別。

四、共生：智能尚未成為自我

大數(shù)據(jù)使我們對研究的思考方式發(fā)生了重大轉(zhuǎn)變，并在認識論和倫理學層面帶來了深刻的變化。它重塑了知識構(gòu)成、研究過程、處理信息的方式、現(xiàn)實的性質(zhì)及分類等關鍵問題?，F(xiàn)代科學改變了游戲規(guī)則，但并不是“以事實替代神話”那么簡單。神話依舊主宰人類，科學只是讓神話更為強大，讓它比以往更加能完全控制客觀現(xiàn)實與主觀現(xiàn)實。在計算機和生物工程的雙重推動下，虛構(gòu)與現(xiàn)實世界的界限變得更加模糊。在1985年的電影《銀翼殺手》中，2020年機器人能交流、會思考、有感情，完全可以達到以假亂真的地步。對他們的辨別甚至需要極其有經(jīng)驗的測試者通過一系列特定精密儀器的輔助才能完成。雖然在當下，人工智能技術的發(fā)展尚未達到雷德利·斯科特所想象的境地，但人工智能對人和技術的數(shù)字化重組，使技術本體與人不再是兩個毫不相關的個體。同時，人的特征開始逐漸嘗試脫離人體本身而單獨存在。2019年4月，加州大學舊金山分校的研究團隊基于腦機接口技術設計了一種新型的神經(jīng)解碼器，這種解碼器能夠通過提取大腦皮層活動對發(fā)聲器官的運動情況來實現(xiàn)語音的合成。

機器體系所完成的最深遠意義的征服并不在某臺設備本身，因為一種設備總是會很快過時；也不在于它生產(chǎn)的產(chǎn)品——因為產(chǎn)品總是很快被消費掉了。最具有深遠意義的影響在于通過機器體系所創(chuàng)造的、機器體系本身所體現(xiàn)的全新的生活方式。如今，人類正在經(jīng)歷由生物基因到理性結(jié)構(gòu)重塑的劇烈變化，同時，人類的文明與社會將面臨一場全新的變革。不得不承認，在構(gòu)建社會與文明的和諧關系中，人工智能所擁有的強大力量在某些層面給人類帶來了焦慮與恐慌，這種來自內(nèi)心身處的恐懼在我們毫無意識的情況下表現(xiàn)在生活的種種方面，如洪水一般將人類吞沒：我們呼喚傳統(tǒng)，關注環(huán)境，回歸家庭，強調(diào)隱私。而這些反應的背后，折射出的是我們擔憂技術將人類與自然分離，害怕技術不在我們掌控之下，害怕自己曾經(jīng)的什么虛無縹緲的行為在某種程度上獲得了它的生命，然后它會在某種程度上反過來控制我們，害怕技術作為一種有生命的東西將會給我們帶來死亡。不是“不存在”這個意義上的死亡，而是更糟糕的死亡，一種喪失意識的死亡，一種意志的死亡。但產(chǎn)生一系列問題的本源，不過是掌握了現(xiàn)在技術傳播生產(chǎn)力的人們，跟過去既有的掌握制度傳播生產(chǎn)力的人們之間，在一個特定的發(fā)展階段上的一種矛盾與對沖，也可以說是一種博弈。。而這期間存在的問題不在于我們是否應該擁有或徹底地馴化技術，而在于我們應該接受和引導怎樣的技術——是機械的、無意識的，還是有溫度的、有智慧的技術。

技術是把雙刃劍，任何一種技術都不是非黑即白、善惡分明，而是利弊共存。當下，數(shù)字革命使我們擔憂智能與意識相關聯(lián)，恐慌技術終將反撲人類，如同美劇《西部世界》第一季結(jié)尾，機器人開啟了“人類清除計劃”。人類通過高階的智能算法研究出來的高級玩具，最終對人類舉起屠刀。但是，危險之所在就是孕育救贖力量的地方。從人工智能的主體結(jié)構(gòu)上看，人機交往的本質(zhì)實則是人與機器的相互信任，信息的接受、轉(zhuǎn)化、再生產(chǎn)實則是基于人的思維與倫理道德，其本質(zhì)依舊是服務于人類中心主義，機器的深度學習能力尚未脫離人類的操控。正如尼科萊利斯所認為的，我們的大腦并不是數(shù)字的，它有類似數(shù)字的部分，也有模擬的部分，后者非常強大。所以當你將數(shù)字和模擬的部分組合起來時，得到的是比這個手機更強大的事物。電腦無法復制這個模擬的部分，它只能模擬人腦非常小的一部分。所以不管電腦性能將來變得有多強，都無法復制人腦中模擬的部分。因此，不管人工智能的表現(xiàn)形式多么以假亂真，哪怕是像初音未來那樣擁有大量粉絲的虛擬偶像，或是像沙特第一位公民機器人索菲亞，都依舊只是一具“沒得感情的工作機器”。在未來相當長的時間里，人工智能的高度擬人化都只是模仿，在保證人類崇高的主體地位的前提下，試圖深入至人文主義和人文關懷中，理解人的情感與生存意義。

此外，人類精神世界的一個顯著特征就是“內(nèi)心演練”，這通常需要充分考慮各種替代選擇，評估各種可能的后果，并在做出一個選擇后，在內(nèi)心反復演練，以便找出最佳的執(zhí)行方案。雖然這一點和人工智能做出選擇判斷的方式很接近，但不同的是，人類擁有將心比心和感同身受的能力：你的頭撞傷了，你因為考試成績不理想而哭泣，你因為寫不出文章而焦慮，這一切我都可以感同身受——而至少現(xiàn)在，人工智能無法做到。這也就是為什么人工智能也能在飽讀名家詩篇后寫詩，也可以在熟知所有語法和單詞后進行翻譯，卻很難做到意境美和信達雅。哪怕是不涉及情感的科學類文章撰寫，我們在仔細閱讀后就會發(fā)現(xiàn)，文章只不過是專業(yè)術語和漂亮圖標的堆砌，并沒有什么實質(zhì)性的內(nèi)容。

人工智能對一切事物的認知，來自于人對該物體細致入微的描述，是在問題導向下基于既定的邏輯、程序與海量大數(shù)據(jù)共同作用的結(jié)果，在思維和理性層面對人類的心智與邏輯進行模仿與深度學習，而非生活經(jīng)驗。因此，一旦可識別的事物與預先的認知有出入，這種“知其然不知其所以然”的理解使人工智能很容易被欺騙。2011年2月14日，在美國電視知識競賽節(jié)目《危險邊緣》中，由IBM公司研發(fā)的Watson人機對話系統(tǒng)擊敗兩位前冠軍，取得最終的勝利。IBM的工作表明，在人機對話中，如果提的問題是明確的，答案是唯一的，領域是有限的——在符合這些條件的情況下，機器可以達到甚至超過人類的水平。但假如提出的問題是不限定領域的常識，那么人工智能就會束手無策。假設問一個小朋友今天中午吃了什么，小朋友就會聲情并茂地告訴你中午吃了什么，好不好吃，吃了多少。但我們用這個問題去問計算機，它就無法作答。同樣，如果拿出一張清晰的小狗圖片，人和機器都能迅速識別，但只要在圖片上加上一些噪點，人工智能就可能會做出錯誤的判斷。

凱文·凱利認為，技術元素乃是信息與人類心智兩種增長率交叉作用的結(jié)果。人工智能歸根結(jié)底是基于人類智力設計出來的，力求解決非人力所能及的問題，這種推理和設想的本質(zhì)是在設定好的領域中不斷積累更迭，缺乏創(chuàng)新與變化。人的主體地位來自人的社會屬性，而人工智能在可以預見的將來是無法成為“社會關系的總和”——這就意味著，人類的主體性至今還掌握在人類自己手中。但值得警惕的是，如果我們過分強調(diào)人工智能的發(fā)展而忽視自我意識的提升，人類將陷入自然愚蠢。傳統(tǒng)上，人生主要分為兩大時期：學習期，再加上之后的工作期。但這種傳統(tǒng)模式很快就會徹底過時，想要不被淘汰只有一條路：一輩子不斷學習，不斷打造全新的自己。只不過，許多人甚至絕大多數(shù)人，大概都做不到這一點。這意味著人類還有時間做出選擇，還要保持不斷地學習和思考，盡管人類可能正在一步步一點點地放棄這樣的主體性。

五、結(jié)語

約翰·杜海姆·彼得斯提到，當人類對火形成依賴時，也就對火所依賴的東西形成了依賴?；鹪诮o予使用者巨大權力的同時，也要求后者承擔帶來的副作用。非人類資源被整合到人類社會，能提高人類的能力，但也增加了人類的脆弱性。技術已經(jīng)成為人們認識世界、感知世界的本質(zhì)性要素，數(shù)據(jù)與算法使得人類的知識生產(chǎn)方式和生活狀態(tài)發(fā)生了改變，人與技術之間的關系在知識生產(chǎn)領域面臨重新洗牌的局面，一個新的世界正在出現(xiàn)。

從知識創(chuàng)新的角度看，技術對人類的思考和創(chuàng)新是有極大的推動力的，因為諸如計數(shù)、繪圖、制圖和遙測讀數(shù)等技術手段的進步，有利于提升人們學術思考的嚴謹性和客觀性。人工智能分析確實會為人類在知識生產(chǎn)層面提供一些見解，但它的范圍具有局限性，并僅能依據(jù)現(xiàn)有的理論和相關領域的信息產(chǎn)生特定種類的知識。當然，人們也會擔心算法背后的價值觀和價值偏向問題，提出技術向善的命題。但數(shù)據(jù)的闡釋權，至少到目前為止還不是算法與技術能夠很好地完成的，所謂算法的價值，嚴格意義上說還是人在編寫算法程序時所賦予的價值，算法的偏向嚴格意義上說是人的偏向。媒介作為我們身體和神經(jīng)系統(tǒng)的延伸，構(gòu)成了一個生物化學性的、相互作用的世界；因為新的延伸在不斷發(fā)生，這個世界必然要永不停息地謀求新的平衡。從表面上看，是算法在收集我們的信息，是機器在處理我們的信息，并在看著我們的一舉一動，事實上，算法背后都站著一個個“老大哥”，算法背后都是權力(商業(yè)的或者政治的權力)在支配。

事實上，我們并不排斥人工智能，甚至潛意識里的反應是人工智能會使生活變得更加美好。畢竟我們不得不承認，相較于人工智能，我們無論從體力、速度還是效率上都無法占據(jù)上風。羅伯特·皮爾西格說：“佛陀與上帝居住在數(shù)字計算機的電路里或周期傳動的齒輪中與居住在山巔或蓮心中同樣舒服?！奔夹g與文明實際上是一個整體，是人類自主選擇和發(fā)展所得到的結(jié)果，它只是人類文化中的元素，本身不提出任何要求，也不能保證做什么。因此，向惡抑或向善，承諾做到什么，都是人類的精神任務。相比沉湎于人工智能所構(gòu)建的舒適的網(wǎng)，人類更多的是要強調(diào)自身作為獨立個體的自主性、創(chuàng)造性和價值觀，關注理性、人性與自然的結(jié)合。要想更好地掌握人工智能算法，謀劃一個可以預測的人機共生的美好的未來，人類現(xiàn)在能做的，也許就是不停地使用自己的心智和情感，培養(yǎng)自己的分析和反思的能力。

注釋

①潘霽、李凌燕：《媒介研究、技術創(chuàng)新與知識生產(chǎn)：來自媒體考古視野的洞見——與齊林斯基教授的對話》，《國際新聞界》2020年第7期。②[美]約翰·杜海姆·彼得斯：《奇云：媒介即存有》，鄧建國譯，復旦大學出版社，2021年，第44、179頁。③彭蘭：《賽博格化：智能時代的人與人際關系》，中國人民大學出版社，2020年，第357頁。④《馬斯克震撼發(fā)布腦機接口 Neuralink無損植入豬腦 下一步植入人腦》，新浪網(wǎng)，http://auto.sina.com.cn/newcar/zz/2020-08-29/detail-iivhvpwy3790714.shtml?oaid=00111，2020年8月29日。⑤1920年，捷克作家卡雷爾·卡佩克發(fā)表了科幻劇本《羅薩姆的萬能機器人》，“機器人”一詞開始進入人們的視野。英文機器人“robot”一詞亦源于此。劇本的主角是一群叫作“Robot”的自動化機器，它們長得跟人一樣，但是沒有人類的感情，只會做事?！癛obot”取自捷克語Robota，在捷克語中，Robota是奴隸的意思。⑥⑦[加]馬歇爾·麥克盧漢：《理解媒介：論人的延伸》，何道寬譯，譯林出版社，2019年，第13、18、231頁。⑧⑩[美]尼爾·波茲曼：《技術壟斷：文明向技術投降》，蔡金棟、梁薇譯，機械工業(yè)出版社，2013年，第109、101、19頁。⑨“人類世”是諾貝爾化學獎得主保羅·克魯岑提出的一個與更新世、全新世并列的地質(zhì)學新紀元。他認為，人類已不再處于全新世了,已經(jīng)到了“人類世”(The Anthropocene)的新階段。宋欣儀：《拯救期末！大四留學生發(fā)“論文機器人”，替你讀文獻給方向調(diào)格式，已被ACL2019收錄》，https://www.jianshu.com/p/223eb519c89d，2019年6月2日。[以色列]尤瓦爾·赫拉利：《未來簡史：從智人到神人》，林俊宏，中信出版社，2017年，第292、132、137、333、160、249頁。李建中：《人工智能：不確定的自主性知識創(chuàng)造》，《自然辯證法研究》2019年第1期。吳飛：《新聞傳播研究的未來面向：人的主體性與技術的自主性》，《社會科學戰(zhàn)線》2017年第1期。《搜狐聯(lián)合新華社推出全球首個站立AI合成虛擬主播》，搜狐網(wǎng)，https://www.sohu.com/a/295669686_549351，2019年2月19日。任建濤：《人工智能與公共擬制》，《當代美國評論》2019年第1期。解登祿：《從唯物主義到唯心主義——評亞里士多德哲學思想的演變》，《內(nèi)蒙古師范大學學報》1990年第1期。[美]史蒂文·斯洛曼、菲利普·費恩巴赫：《知識的錯覺：為什么我們從未獨立思考》，祝常悅譯，中信出版集團，2018年，第56、81、XII、10、130頁。[德]康德：《純粹理性批判》，藍公武譯，商務印書館，1960年，第47頁。龐學銓、鄧飛虎：《先驗論的真實意義》，《浙江學刊》2003年第2期。[美]劉易斯·芒福德：《技術與文明》，陳允明、王可仁、李華山譯，中國工業(yè)出版社，2009年，第213頁。韓敏、趙海明：《智能時代身體主體性的顛覆與重構(gòu)——兼論人類與人工智能的主體間性》，《西南民族大學學報》(人文社會科學版)2020年第5期。[美]凱文·凱利：《失控——全人類的最終命運和結(jié)局》，張行舟等譯，電子工業(yè)出版社，2016年，第5頁。[以色列]尤瓦爾·赫拉利：《今日簡史：人類命運大議題》，林俊宏譯，中信出版集團，2018年，第260、286—287頁?！秾构韫龋簽榱恕俺T的世界”里的27億人》，新浪網(wǎng)，https://tech.sina.com.cn/csj/2020-09-29/doc-iivhuipp7076993.shtml，2020年9月29日。喻國明、楊雅：《5G時代：未來傳播中“人—機”關系的模式重構(gòu)》，《新聞與傳播評論》2020年第1期。2017年12月，一個名為“DeepFakes”的用戶在Reddit網(wǎng)站發(fā)布“假視頻”，將成人色情電影中演員的臉替換成了斯嘉麗·約翰遜等知名女演員的臉，畫面以假亂真。這為人工智能換臉技術吸引來了一大波流量，“DeepFake”深度偽造，也逐漸成為這一技術的代稱，同名算法也在Github開源，這是一個面向開源及私有軟件項目的托管平臺。陳昌鳳、徐芳依：《智能時代的“深度偽造”信息及其治理方式》，《新聞與寫作》2020年第4期。Rob Kitchin. Big Data, New Epistemologies and Paradigm Shift.BigData&Society, 2014, Vol.1, No.1, pp.1-12.Gopala K. Anumanchipalli, Josh Chartier, Edward F. Chang. Speech Synthesis from Neural Decoding of Spoken Sentences.Nature, 2019, Vol.568, No.7753, pp.493-498.王敏芝：《算法時代傳播主體性的虛置與復歸》，《蘇州大學學報》(哲學社會科學版)2021年第2期。[美]布萊德·阿瑟：《技術的本質(zhì)》，曹東溟、王健譯，浙江人民出版社，2018年，第239—240、240頁。喻國明：《傳播學科的迭代：對數(shù)據(jù)與算法的納入與包容》，《新聞與傳播評論》2019年第5期?！秾ＴL腦機接口研究先驅(qū)米格爾·尼科萊利斯：馬斯克的觀點我不同意(順祝大家GAIR參會愉快)》，搜狐網(wǎng)，https://www.sohu.com/a/154972109_114877，2017年7月6日。[英]羅賓·鄧巴：《人類的算法》，胡正飛譯，四川人民出版社，2019年，第75—76頁。張鈸：《人工智能進入后深度學習時代》，《智能科學與技術學報》2019年第1期。