人工智能：道德進(jìn)化的新引擎及其風(fēng)險(xiǎn)應(yīng)對(duì)

陳萬(wàn)球 長(zhǎng)沙理工大學(xué)馬克思主義學(xué)院院長(zhǎng)、教授、博士生導(dǎo)師

新技術(shù)革命書寫了人類道德進(jìn)步的新范式，不僅加快了道德進(jìn)化的速率，還把道德還原成一種技術(shù)性存在。隨著人工智能在技術(shù)領(lǐng)域的全線占領(lǐng)，由外而內(nèi)，從肉體到精神，人的道德力得到巨大釋放，從 “一階道德”到 “二階道德”再到 “三階道德”，傳統(tǒng)道德進(jìn)化的抑制感被突破，技術(shù)化道德智能系統(tǒng)正在催生道德進(jìn)化的新路徑。隨著人工智能的步伐加快，道德AI超越個(gè)體演化成為高效、理性、精準(zhǔn)的 “道德導(dǎo)航器”。道德AI是一種技術(shù)性的存在物，使人具有一顆 “良芯”，是智能化道德進(jìn)步實(shí)踐新形式，但同時(shí)也帶來(lái)了前所未有的道德隱患和社會(huì)風(fēng)險(xiǎn)。

1 人工智能：道德進(jìn)步的新引擎

人工智能將幫助人們做出道德決定，這并不是道德幻象?？茖W(xué)正在把我們的生命升級(jí)為一個(gè)更高的操作系統(tǒng)，運(yùn)用技術(shù)推動(dòng)人類的道德進(jìn)步成為道德發(fā)展進(jìn)步的一種嶄新方式。正如家庭AI可以幫助腿部殘疾的人行動(dòng)自如，法律AI幫助公民解決法律煩惱，教師AI可以幫助人們獲取豐富知識(shí)一樣，道德AI——道德人工智能體可以收集信息參與道德咨詢，提升人的道德判斷能力，幫助人們破解道德兩難問(wèn)題，業(yè)已成為繼生物醫(yī)學(xué)技術(shù)增強(qiáng)人類道德之后引領(lǐng)人類道德進(jìn)步的新引擎。不僅如此，超越人類的限制，具有道德智慧的AI還可能通過(guò)人機(jī)接口無(wú)創(chuàng)傷地 “走”進(jìn)人體，幫助人們做出各種道德決定。

從道德演化史看，人類道德進(jìn)步最初是通過(guò)傳統(tǒng)習(xí)慣、學(xué)校教育、自我修煉等方式推進(jìn)，這種方式可以稱為 “一階道德”，其特點(diǎn)是道德進(jìn)步緩慢、技術(shù)不介入。隨著生物醫(yī)學(xué)技術(shù)的發(fā)展，通過(guò)注射、靶向藥物、深度腦部刺激等，抑制、治療或增強(qiáng)人的道德情感，改善道德動(dòng)機(jī)，提升人的道德品質(zhì)，這種方式可以稱為 “二階道德”，其特點(diǎn)是道德進(jìn)步迅速、技術(shù)初步介入、還原主義和物理主義機(jī)理。這種機(jī)理強(qiáng)調(diào)道德進(jìn)步有其生理基礎(chǔ)，道德行為和道德品質(zhì)可以還原成人的集體的連續(xù)活動(dòng)，改善人的 “道德基因”，就可以改善人的道德行為。隨著人工智能的崛起，技術(shù)對(duì)道德的深度干預(yù)，通過(guò)人機(jī)接口等方式改變?nèi)说牡赖抡J(rèn)知，提升道德水平，這種方式可以稱為 “三階道德”，其特點(diǎn)是道德提升高效、技術(shù)深度介入、人機(jī)合一機(jī)理。這種機(jī)理強(qiáng)調(diào)道德可以像知識(shí)一樣被機(jī)器傳授給人類，智能化道德增強(qiáng)制作 “道德芯片”嵌入人體，作為人的道德參謀和道德顧問(wèn)出現(xiàn)，咨詢和幫助人進(jìn)行道德判斷，做出道德選擇。從道德進(jìn)化本質(zhì)來(lái)看，從 “一階道德”到 “二階道德”再到 “三階道德”，傳統(tǒng)道德進(jìn)化的抑制感被突破，實(shí)現(xiàn)了道德演化從以 “純粹感性 (道法自然)”為重點(diǎn)，到以 “純粹理性” (技術(shù)淺層干預(yù))為重點(diǎn)，再到以 “實(shí)踐理性 (技術(shù)深度干預(yù))”為重點(diǎn)的框架重大轉(zhuǎn)換。

人類決策的正確與否往往取決于信息的系統(tǒng)性和完整性。人機(jī)相聯(lián)， “人腦”與 “外腦”有機(jī)結(jié)合，構(gòu)建起功能強(qiáng)大的網(wǎng)絡(luò)信息體系，將為道德行為決策提供新參照，能夠彌補(bǔ)以往個(gè)人決策的不足，提高個(gè)體的智能化評(píng)估和輔助道德決策能力，極大地延展人的道德力。新一代 “道德芯片”將嵌入人體，就像 “知識(shí)芯片”嵌入人體一樣，幫助人類認(rèn)知世界和改造世界。道德AI可以發(fā)揮道德環(huán)境監(jiān)測(cè)者、道德組織者、道德指南針和道德顧問(wèn)四種角色功能。作為道德環(huán)境監(jiān)測(cè)者，道德AI可以持續(xù)監(jiān)控人們的身心狀態(tài)及其周圍環(huán)境，收集、整理、分析、評(píng)估人們的生理、心理和環(huán)境的復(fù)雜信息數(shù)據(jù)，并向人們提出相應(yīng)的道德決策建議。作為道德組織者，道德AI協(xié)助人們規(guī)劃設(shè)計(jì)、過(guò)程監(jiān)測(cè)和行為實(shí)現(xiàn)，用以達(dá)成特定的道德目標(biāo)。作為道德指南針，道德AI發(fā)揮一個(gè)公正中立的道德反思提示。當(dāng)人們面臨道德兩難選擇時(shí)，道德AI會(huì)通過(guò)相關(guān)的問(wèn)題來(lái)幫助客戶進(jìn)行道德思考。作為道德顧問(wèn)，人們可以向道德AI詢問(wèn)關(guān)于他應(yīng)該采取的行動(dòng)的道德建議。無(wú)論哪一種功能的發(fā)揮，道德AI都將成為人們道德決策的良師益友。

2 技術(shù)決定論：智能化道德的風(fēng)險(xiǎn)

隨著智能化道德的系統(tǒng)性實(shí)現(xiàn)，給人類帶來(lái)了喜悅，也帶來(lái)了憂思。無(wú)限延展的道德AI，不僅是新興技術(shù)發(fā)展的前沿，亦是道德危機(jī)生成的新場(chǎng)域。

一是 “經(jīng)濟(jì)決定論”與 “技術(shù)決定論”博弈。馬克思主張，一切道德上的興衰起伏、進(jìn)退消長(zhǎng)，從根本上源于社會(huì)經(jīng)濟(jì)關(guān)系的變革。顯然，馬克思主張 “經(jīng)濟(jì)決定論”，認(rèn)為經(jīng)濟(jì)關(guān)系決定道德的發(fā)展。隨著技術(shù)的公共性介入、道德AI的廣泛深入發(fā)展，道德 “技術(shù)決定論”的影響在不斷擴(kuò)大。在 “經(jīng)濟(jì)決定論”的框架下，技術(shù)通過(guò)變革生產(chǎn)方式、生產(chǎn)組織形式和教育組織形式，改變社會(huì)生活來(lái)影響道德的進(jìn)步，技術(shù)促進(jìn)道德進(jìn)步的空間是有限的，手段是間接的。在 “技術(shù)決定論”的框架下，道德AI對(duì)道德進(jìn)步是直接的、無(wú)限的：一方面，道德人工智能體直接影響人的道德決策，而不是要通過(guò)改變社會(huì)生活繼而來(lái)改變道德；另一方面，人工智能不是改寫道德的自然屬性，把道德還原成自然之物，而是企圖改變道德社會(huì)屬性，建構(gòu)一種技術(shù)中介為推進(jìn)器的道德進(jìn)化模式。這樣，在 “技術(shù)決定論”干預(yù)下，從過(guò)去以教育和自我修煉為主導(dǎo)的道德進(jìn)步模式演變成技術(shù)主導(dǎo)的道德進(jìn)化模式，從 “生產(chǎn)與交換的經(jīng)濟(jì)關(guān)系中汲取自己的道德觀念”的范式演變成從技術(shù)人工物中汲取道德觀念范式。 “技術(shù)決定論”挑戰(zhàn) “經(jīng)濟(jì)決定論”，兩者的理論博弈將持續(xù)演變。

二是道德的自進(jìn)化能力與自識(shí)別能力降低。就像計(jì)算機(jī)的出現(xiàn)導(dǎo)致人的計(jì)算能力衰退，打字機(jī)的出現(xiàn)導(dǎo)致人的書寫能力下降一樣，道德AI助推人類進(jìn)行道德思考和道德判斷，必將會(huì)導(dǎo)致人類道德的自進(jìn)化能力和自識(shí)別能力的降低。在優(yōu)化的信息、合理的判斷、理性的分析基礎(chǔ)上所做的道德判斷迅速提升人的道德水平，人們不再需要經(jīng)過(guò)艱苦的理性煎熬和道德沉思就可以敏銳地做出決策，這是何等的幸事！然而，就像一枚錢幣有兩面一樣，一種道德的進(jìn)步往往以另一種道德退步為代價(jià)。人的某種功能進(jìn)步是以另外某種功能退步為代價(jià)，助推道德決策功能的增強(qiáng)，就意味著自我道德決策能力下降：人的道德決策的依賴性增長(zhǎng)而獨(dú)立性降低。人始終是道德判斷的主體，而道德AI挑戰(zhàn)人的道德主體地位，可能使人成為被 “喂食”道德成果的 “受體”，從而喪失了主體性。

三是自由空間被擠壓與道德價(jià)值貶低。道德自由是人類道德的理想存在狀態(tài)，人類道德自由經(jīng)歷了一個(gè)由大到小、不斷萎縮的過(guò)程，其中技術(shù)作為一種外沖的力量，不斷擠壓道德自由空間。在 “一階道德”階段，道德自由與人身自由結(jié)合，書寫了道德自由的輝煌歷史，道德自由是一種常態(tài)，技術(shù)擠壓道德進(jìn)步成為偶然。在 “二階道德”階段，技術(shù)擠壓道德自由空間成為一種常態(tài)，技術(shù)通過(guò)改變?nèi)说淖匀簧頇C(jī)理而改變?nèi)说牡赖卤拘?，人成為技術(shù)的被動(dòng)受體。在 “三階道德”階段，道德成為人工智能操控下的一種 “玩具”，此時(shí)，人類道德自由是一種奢侈品。道德是人格的神，一直以來(lái)人們對(duì)道德自律給予了 “有加無(wú)已的贊嘆和敬畏”。在強(qiáng)大的人工智能淫威下，道德的人格神地位被降格、被改寫。隨著大數(shù)據(jù)的匯總分析、AI技術(shù)的深入，人類道德思維將會(huì)完全破解， “讀心術(shù)”將使人類毫無(wú)隱私可言，個(gè)體思維行蹤也將掌握在擁有AI 技術(shù)的人手中。馬克思說(shuō)過(guò)，未來(lái)社會(huì)如果連人類最基本的想法都得不到保護(hù)，就等于剝奪了人類的自由，就不能稱之為真正意義上的 “人”。此外還存在道德隱私的風(fēng)險(xiǎn)問(wèn)題，道德AI可能會(huì)同時(shí)為不同的客戶服務(wù)。道德AI在進(jìn)行道德算法、深度學(xué)習(xí)以及在實(shí)施精準(zhǔn)化的道德導(dǎo)航時(shí)，可能會(huì)把隱私分享給其他客戶，這樣可能會(huì)造成用戶隱私困惑。

上述智能化道德風(fēng)險(xiǎn)只是冰山一角，多種風(fēng)險(xiǎn)的相互生發(fā)、相互作用，共同演繹出一幅智能化道德風(fēng)險(xiǎn)的危機(jī)圖景。智能化道德導(dǎo)航的道德風(fēng)險(xiǎn)，實(shí)質(zhì)上是人本身的風(fēng)險(xiǎn)，是人的自身問(wèn)題在機(jī)器身上的延伸和投影。換言之，智能化道德的風(fēng)險(xiǎn)其實(shí)折射出的是人類自我道德的風(fēng)險(xiǎn)問(wèn)題。從根本上化解人與機(jī)器的矛盾，還要回到人本身，多措并舉、綜合施策。

3 化解風(fēng)險(xiǎn)：構(gòu)建基于人性化的準(zhǔn)則框架

涵括智能化道德在內(nèi)的人工智能是當(dāng)代最強(qiáng)大的社會(huì)變革力量，勢(shì)必會(huì)改變?nèi)藗兊纳鐣?huì)結(jié)構(gòu)，其衍生的道德風(fēng)險(xiǎn)不能回避，必須主動(dòng)回應(yīng)，否則在人與機(jī)器的博弈中，人們就有可能會(huì)悲慘地出局。構(gòu)建基于人性化的道德準(zhǔn)則框架，是化解風(fēng)險(xiǎn)的理性選擇。

一是實(shí)施自主性與可解讀性的基本原則。自主性即 “保留人的尊嚴(yán)和道德的神圣性”，道德AI的開發(fā)應(yīng)用必將涉及人的尊嚴(yán)和道德的神圣性。人的尊嚴(yán)和道德不能從屬于人工智能，也不受其脅迫。在與道德人工智能系統(tǒng)的交互中，人類必須保持完整有效的道德自決權(quán)。這就要求人工智能的使用者有權(quán)決定是否遵守道德AI的直接或間接道德決策。有權(quán)知曉與道德AI智能系統(tǒng)進(jìn)行直接或間接互動(dòng)的知識(shí)，并有權(quán)選擇拒絕或退出?？山庾x性即 “透明操作”，透明度是道德AI智能系統(tǒng)及其開發(fā)者贏得并維持信任的關(guān)鍵。從道德立場(chǎng)上來(lái)看，技術(shù)和商業(yè)模式的透明度都十分重要。技術(shù)上的透明度，是指智能系統(tǒng)要被理解能力和專業(yè)水平各不相同的人士所審查和理解。商業(yè)模式上的透明度，是指道德智能系統(tǒng)開發(fā)者與技術(shù)實(shí)施者要明確告知其意圖?？山庾x是個(gè)體在與技術(shù)交互時(shí)實(shí)現(xiàn)知情同意的前提，可解讀還要求必須采取追責(zé)措施。

二是基于人本的倫理嵌入和基于共生的深度學(xué)習(xí)策略。計(jì)算機(jī)領(lǐng)域有一句名言：垃圾進(jìn)，垃圾出。就是說(shuō)，錯(cuò)誤的數(shù)據(jù)輸入計(jì)算機(jī)系統(tǒng)，計(jì)算機(jī)一定會(huì)輸出錯(cuò)誤的結(jié)果。道德人工智能體是人設(shè)計(jì)的，其倫理風(fēng)險(xiǎn)是人的社會(huì)關(guān)系的反映。在人工智能深度干預(yù)人類決策的時(shí)代，確保人工智能的研發(fā)應(yīng)用始終與人類價(jià)值觀一致，至關(guān)重要。為了避免把道德AI變成沒有靈魂的 “兇殘機(jī)器”， “康德式機(jī)器” (Kantian Machine)應(yīng)運(yùn)而生。為了確保道德AI發(fā)展不偏離正常軌道，必須始終堅(jiān)守人類的價(jià)值觀，必須始終牢記愛因斯坦 “科技以人為本”的告誡。笛卡爾說(shuō)過(guò)，實(shí)物機(jī)器單獨(dú)永遠(yuǎn)不可能有道德。因此，在人工智能時(shí)代協(xié)調(diào)好人機(jī)關(guān)系，讓機(jī)器具有道德，還必須實(shí)施機(jī)器深度學(xué)習(xí)策略。人性化的深度學(xué)習(xí)是機(jī)器人的進(jìn)步方法，也是解決智能化道德增強(qiáng)風(fēng)險(xiǎn)的核心。倡導(dǎo)人工智能在人機(jī)共生的基礎(chǔ)上，讓機(jī)器人習(xí)得某些基本的道德感是很有必要的，而且是可行的。要使人工智能更好地服務(wù)于人類，實(shí)現(xiàn) “我們制造工具，而工具讓我們走得更遠(yuǎn)”的愿望，必須要轉(zhuǎn)變思維，從對(duì)機(jī)器道德的要求回歸到對(duì)人類自我道德的要求，在善待自己的同時(shí)也善待機(jī)器。唯其如此，才能創(chuàng)造一個(gè)人機(jī)和諧共處的美好時(shí)代。

三是拓展國(guó)際-行業(yè)-立法的硬約束思路。倫理嵌入能框住道德AI嗎？把道德決策交給智能化系統(tǒng)合適嗎？顯然，自主性原則與倫理嵌入還不夠，規(guī)范道德人工智能體的設(shè)計(jì)、生產(chǎn)和使用的各個(gè)環(huán)節(jié)，尤其需要在智能化道德的硬性語(yǔ)境中落實(shí)道德價(jià)值，這才是化解道德AI風(fēng)險(xiǎn)的正道。人工道德智能體的硬約束需要從國(guó)際、行業(yè)和立法三個(gè)層面入手。為了做好道德AI風(fēng)險(xiǎn)管控，國(guó)際社會(huì)以及利益相關(guān)方必須聯(lián)合起來(lái)，推動(dòng)人工智能的全球治理。聯(lián)合國(guó)應(yīng)采取務(wù)實(shí)的實(shí)質(zhì)性行動(dòng)，共同制定道德AI研發(fā)與應(yīng)用的邊界，確立道德AI行為框架，并適時(shí)調(diào)整。同時(shí)，道德AI應(yīng)當(dāng)成立行業(yè)協(xié)會(huì)，通過(guò)行業(yè)內(nèi)部協(xié)商共同制定AI行業(yè)發(fā)展的倫理標(biāo)準(zhǔn)，發(fā)揮行業(yè)協(xié)會(huì)的自律功能，并確立道德AI行業(yè)退出機(jī)制。此外，高度進(jìn)化的道德AI具有自主行為和智能信息處理能力，因此應(yīng)盡快敦促道德AI研發(fā)與應(yīng)用的法律法規(guī)出臺(tái)，發(fā)揮國(guó)家強(qiáng)制力的硬約束功能，健全道德AI的他律機(jī)制，為智能化道德的健康發(fā)展提供法律支撐。