人工智能時(shí)代的價(jià)值審度與倫理調(diào)適

段偉文

人工智能時(shí)代的價(jià)值審度與倫理調(diào)適

段偉文

人工智能體的擬主體性賦予了人工智能特有的擬倫理角色。通過對(duì)此擬倫理角色的分析，可以看到人工智能的價(jià)值審度與倫理調(diào)適的基本路徑應(yīng)為負(fù)責(zé)任的創(chuàng)新和主體權(quán)利保護(hù)。立足對(duì)合成智能與人造勞動(dòng)者的價(jià)值審度，可提出尋求算法決策與算法權(quán)力的公正性，呼喚更加透明、可理解和可追責(zé)的智能系統(tǒng)，反思智能化的合理性及其與人的存在價(jià)值的沖突等價(jià)值訴求。應(yīng)從有限自主與交互智能體概念出發(fā)，進(jìn)一步展開對(duì)人工智能的價(jià)值校準(zhǔn)和倫理調(diào)適，這不僅有助于把握人工智能倫理研究與相關(guān)倫理規(guī)范和標(biāo)準(zhǔn)的內(nèi)涵，還可揭示“科技—產(chǎn)業(yè)—倫理”異質(zhì)性實(shí)踐所應(yīng)有的明智。

人工智能；倫理；智能體；擬主體性；負(fù)責(zé)任的創(chuàng)新

對(duì)于人工智能，大多數(shù)人是通過國際象棋、圍棋的“人機(jī)大戰(zhàn)”以及在《終結(jié)者》、《少數(shù)派報(bào)告》、《機(jī)器管家》、《黑鏡》之類的科幻影視作品中得以初識(shí)的。20年前，當(dāng)國際象棋大師卡斯帕羅夫在對(duì)弈中負(fù)于機(jī)器人“深藍(lán)”時(shí)，通過電視直播目睹這一震撼性事件的人們不禁對(duì)計(jì)算機(jī)的強(qiáng)大計(jì)算能力嘆為觀止。隨著新一波人工智能大潮涌動(dòng)，谷歌圍棋機(jī)器人接連戰(zhàn)勝圍棋大師李世石和柯潔，則迫使人們不得不開始思考人工智能超越人類智能的現(xiàn)實(shí)可能性及我們的應(yīng)對(duì)之道。對(duì)此，發(fā)明家出身的未來學(xué)家?guī)炱濏f爾(Ray Kurzweil)在《靈魂機(jī)器的時(shí)代》(1999)、《奇點(diǎn)臨近》(2005)等書中描繪了一幅機(jī)器烏托邦圖景：計(jì)算機(jī)將超過人類智能并幫助人在大約50年內(nèi)接近永生。但同為科技界意見領(lǐng)袖、曾為太陽微計(jì)算公司首席科學(xué)家的比爾·喬伊(Bill Joy)則認(rèn)為這大大低估了其導(dǎo)致負(fù)面結(jié)果乃至未來危險(xiǎn)的可能性。他在《連線》上發(fā)表一篇題為《為什么未來不需要我們？》(2000)的文章警示世人：在21世紀(jì)，我們最強(qiáng)大的技術(shù)——機(jī)器人、基因工程和納米技術(shù)——將使人類在物種意義上受到威脅。

在相關(guān)科幻影視作品中，往往更多地折射了人們對(duì)智能化未來的憂思：機(jī)器人與人工智能系統(tǒng)會(huì)不會(huì)變得不僅比我們聰明，而且具有自我意識(shí)而不為人所掌控，進(jìn)而毀滅整個(gè)人類？那些數(shù)據(jù)驅(qū)動(dòng)的智能商業(yè)推薦系統(tǒng)會(huì)不會(huì)發(fā)展成一眼看穿我們心機(jī)的“巫師”，讓我們因?yàn)閮?nèi)心的一個(gè)“壞”念頭而被“預(yù)防犯罪”小組警告？機(jī)器人會(huì)不會(huì)突然產(chǎn)生自我身份認(rèn)同？應(yīng)該如何面對(duì)各種具有自我意識(shí)的智能體？等等?；氐浆F(xiàn)實(shí)世界，曾幾起幾落的人工智能再度爆發(fā)，大數(shù)據(jù)智能、跨媒體智能、自動(dòng)駕駛、智能化自動(dòng)武器系統(tǒng)迅猛發(fā)展，其影響可謂無遠(yuǎn)弗屆?？萍紕?chuàng)新界意見領(lǐng)袖馬斯克等紛紛疾呼：要對(duì)人工智能潛在的風(fēng)險(xiǎn)保持高度的警惕！霍金不無擔(dān)憂地指出，人工智能的短期影響由控制它的人決定，而長期影響則取決于人工智能是否完全為人所控制?？陀^地講，不論是否會(huì)出現(xiàn)奇點(diǎn)與超級(jí)智能，也不論這一波的人工智能熱潮會(huì)不會(huì)以泡影告終，毋庸置疑的是人工智能時(shí)代正在來臨。故通觀其態(tài)勢，審度其價(jià)值進(jìn)而尋求倫理調(diào)適之道，可謂正當(dāng)其時(shí)。

一、人工智能的內(nèi)涵與智能體的擬倫理角色

2015年9月，由國際期刊《負(fù)責(zé)任的創(chuàng)新》發(fā)起，包括中國學(xué)者在內(nèi)的全球十多位科技政策與科技倫理專家在《科學(xué)》雜志上發(fā)表了一封題為《承認(rèn)人工智能的陰暗面》的公開信。信中指出，各國的科技、商業(yè)乃至政府和軍事部門正在大力推動(dòng)人工智能研發(fā)，盡管考慮到了其發(fā)展風(fēng)險(xiǎn)以及倫理因素，但對(duì)人工智能的前景表現(xiàn)出的樂觀態(tài)度不無偏見，因此，建議在對(duì)其可能的危險(xiǎn)以及是否完全受到人的控制等問題進(jìn)行廣泛深入的討論和審議之前，放緩人工智能研究和應(yīng)用的步伐。[1](P1064)此舉旨在將人工智能的社會(huì)倫理問題納入現(xiàn)實(shí)的社會(huì)政策與倫理規(guī)范議程。

要全面理解人工智能的發(fā)展所帶來的社會(huì)倫理沖擊，先要大致了解一下人工智能的基本內(nèi)涵。像所有開放的和影響深遠(yuǎn)的人類活動(dòng)一樣，人工智能的不斷發(fā)展和加速進(jìn)步使人們很難明確界定其內(nèi)涵。綜觀各種人工智能的定義，早期大多以“智能”定義人工智能，晚近則傾向以“智能體”(agents, 又譯代理、智能主體、智能代理等)概觀之。從人工智能的緣起上講，以“智能”定義人工智能是很自然的。就智能科學(xué)而言，計(jì)算機(jī)出現(xiàn)以前，對(duì)智能的研究一直限于人的智能。有了計(jì)算機(jī)的概念之后，人們自然想到用它所表現(xiàn)出的智能來模仿人的智能。人工智能的先驅(qū)之一圖靈在提出通用圖靈機(jī)的設(shè)想時(shí)，就希望它能成為“思考的機(jī)器”：一方面，能夠做通常需要智能才能完成的有意義的事情；另一方面，可以模擬以生理為基礎(chǔ)的心智過程。[2](P11)1956年，在美國達(dá)特茅斯學(xué)院召開的“人工智能夏季研討會(huì)”上，會(huì)議發(fā)起人麥卡錫(John McCarthy)、明斯基(Marvin Lee Minsky)、羅徹斯特(Nathaniel Rochester)和香農(nóng)(Claude Elwood Shannon)等指出，從學(xué)習(xí)與智能可以得到精確描述這一假定出發(fā)，人工智能的研究可以制造出模仿人類的機(jī)器，使其能讀懂語言，創(chuàng)建抽象概念，解決目前人們的各種問題，并自我完善。[3]但在真正的人工智能研究開啟后不久，人們發(fā)現(xiàn)能夠?qū)崿F(xiàn)的人工智能與通常意義上的智能(人和動(dòng)物的智能)很不一樣。特別是人工智能的研究者莫拉維克(Hans Moravec)發(fā)現(xiàn)，讓計(jì)算機(jī)在一般認(rèn)為比較難的智力測驗(yàn)和棋類游戲中表現(xiàn)出成人的水平相對(duì)容易，而讓它在視覺和移動(dòng)方面達(dá)到一歲小孩的水平卻很困難甚至不可能。這就是所謂的“莫拉維克悖論”，它表明，不僅人工智能與人和動(dòng)物的智能不一樣，而且人工智能在不同研究方向上實(shí)現(xiàn)的機(jī)器智能也不盡一致。盡管有人認(rèn)為，由于人工智能的大多數(shù)工作與人所解決的問題相關(guān)，而人腦為這些問題的解決提供了天然的模型，也有很多人相信通過研究計(jì)算機(jī)程序有助于了解大腦的工作機(jī)制，但迄今既未出現(xiàn)一種普適的智能理論，也沒有開發(fā)出圖靈和麥卡錫等樂見的可模擬人腦思維和實(shí)現(xiàn)人類所有認(rèn)知功能的廣義或通用人工智能[Artificial General Intelligence(AGI), 又稱強(qiáng)人工智能、人類水平人工智能]，而目前可實(shí)現(xiàn)的人工智能主要是執(zhí)行人為其設(shè)定的單一任務(wù)的狹義人工智能[Artificial Narrow Intelligence(ANI)，又稱弱人工智能]。這使得人工智能研究依然是一門綜合性的實(shí)驗(yàn)科學(xué)。

普適的智能理論難以構(gòu)建，實(shí)際上意味著人們對(duì)人類智能的內(nèi)涵和機(jī)器智能的可能性均知之甚少，由此晚近主流人工智能教科書轉(zhuǎn)向以“智能體”定義人工智能。尼爾松(Nils J.Nilsson)在《人工智能：新綜合》(1998)前言中指出：“這本人工智能導(dǎo)論教材采用一種新的視角看待人工智能的各個(gè)主題。我將考量采用人工智能系統(tǒng)或智能體的發(fā)展這一較以往略為復(fù)雜的視角。”[4](Pxvii)羅素(Stuart J.Russell)和諾維格(Peter Norvig)在《人工智能——一種現(xiàn)代方法(第一版)》(1995)前言中說：“本書的統(tǒng)一主題是智能智能體(intelligent agent)。在這種觀點(diǎn)看來，人工智能是對(duì)能夠從環(huán)境中獲取感知并執(zhí)行行動(dòng)的智能體的描述和構(gòu)建。每個(gè)這樣的智能體都實(shí)現(xiàn)了把一個(gè)感知序列映射到行動(dòng)的函數(shù)?！盵5](Pvii)該書指出，在八種教科書中，對(duì)人工智能的定義分為四類：像人一樣行動(dòng)的系統(tǒng)(圖靈測試方法)、像人一樣思考的系統(tǒng)(認(rèn)知模型方法)、理性地思考的系統(tǒng)(思維法則方法)和理性地行動(dòng)的系統(tǒng)(理性智能體方法)。人們在這四個(gè)方向都做了很多工作，既相互不服，又彼此幫助。若將人工智能研究視為理性智能體(rational agents)的設(shè)計(jì)過程，則更具概括性并更經(jīng)得起科學(xué)檢驗(yàn)。在內(nèi)涵上，智能體一詞源于拉丁文agere，意為“去做”，在日常生活中有施動(dòng)者或能動(dòng)者的意思；基于人工智能的智能體則可以在工程層面“正確地行動(dòng)”或“理性地行動(dòng)”，是遵循合理性的理性智能體?；谌斯ぶ悄艿睦硇灾悄荏w的設(shè)計(jì)目標(biāo)是使機(jī)器通過自身的行動(dòng)獲得最佳結(jié)果，或者在不確定的情況下，尋求最佳的期望值。[6](P3-8)其中的合理性與理性主要指技術(shù)與工程上的合理性或理性，即一個(gè)系統(tǒng)或智能體能在其所知的范圍內(nèi)正確行事。而且，這種合理性或理性往往是有限的而非完美的，并可以通過人工實(shí)現(xiàn)，亦即西蒙在《人工科學(xué)》中所探討的有限理性。

人工智能智能體——基于人工智能的智能體或理性智能體(簡稱人工智能體或智能體)是理解人工智能的核心概念，亦應(yīng)是人工智能時(shí)代的價(jià)值審度與倫理調(diào)適的關(guān)鍵。在人機(jī)交互實(shí)踐中，人工智能體可通過自動(dòng)的認(rèn)知、決策和行為執(zhí)行任務(wù)(暫且不論其實(shí)現(xiàn)條件)，這使其在一定程度上顯示出某種“主體性”，成為一種介于人類主體與一般事物之間的實(shí)體。值得追問的是：智能體所呈現(xiàn)的這種“主體性”有何內(nèi)涵？智能體因此可能扮演什么樣的倫理角色？

先討論第一個(gè)問題。目前人工智能體所呈現(xiàn)的“主體性”是功能性的模仿而非基于有意識(shí)的能動(dòng)性(agency)、自我意識(shí)與自由意志，故應(yīng)稱之為擬主體性。在人的感受中，智能體雖然貌似抽象，還有點(diǎn)似是而非，但就像柯潔與人工智能體對(duì)弈后感覺到某種神般的存在一樣，人們在面對(duì)各種智能化技術(shù)和設(shè)施時(shí)，會(huì)自然地感受到一種可以具有認(rèn)知和行為能力的非人又似人的存在。從人類主體的認(rèn)知、行動(dòng)和交互的角度來看，人工智能體可以在功能上模擬人的認(rèn)知和行為：既可能具有認(rèn)知行動(dòng)能力也可能具備溝通交往能力，既可能是實(shí)體的也可能是虛擬的，既可以模仿人的認(rèn)知和行動(dòng)也可以通過機(jī)器實(shí)現(xiàn)理性認(rèn)知和行動(dòng)。由此，人工智能體已經(jīng)逐步發(fā)展成為在認(rèn)知、行動(dòng)和交互等能力上可以部分地和人類相比擬的存在，故可視之為“擬主體”，或者說人工智能體具有某種“擬主體性”，就是指通過人的設(shè)計(jì)與操作，使其在某些方面表現(xiàn)得像人一樣。而“擬”會(huì)表現(xiàn)出某種逆悖性：一方面，它們可能實(shí)際上并不知道自己做了什么、有何價(jià)值與意義；另一方面，至少在結(jié)果上，人可以理解它們的所作所為的功能，并賦予其價(jià)值和意義。

從技術(shù)細(xì)節(jié)上講，智能體的功能和擬主體性是通過軟件編寫的算法對(duì)數(shù)據(jù)的自動(dòng)認(rèn)知實(shí)現(xiàn)的。智能體“能夠從環(huán)境中獲取感知并執(zhí)行行動(dòng)”與智能體“實(shí)現(xiàn)了把一個(gè)感知序列映射到行動(dòng)的函數(shù)”是對(duì)同一個(gè)過程的兩種表述，前者是從外部對(duì)智能體的擬主體性的描述，后者則揭示了更為本質(zhì)的智能計(jì)算過程。為了完成一項(xiàng)任務(wù)，運(yùn)用智能算法所形成的映射關(guān)系對(duì)數(shù)據(jù)進(jìn)行自動(dòng)感知和認(rèn)知，并據(jù)此驅(qū)動(dòng)智能體的自動(dòng)決策與行為。在當(dāng)前迅猛發(fā)展的數(shù)據(jù)驅(qū)動(dòng)的人工智能中，這種映射關(guān)系往往不是對(duì)研究對(duì)象本身的模式識(shí)別，而可能基于高維的非本質(zhì)的相關(guān)性和對(duì)應(yīng)關(guān)系。概言之，智能算法是智能體的功能內(nèi)核，智能體是智能算法的具身性體現(xiàn)。

再來看第二個(gè)問題。原則上講，人工智能體的擬主體性使人工智能具有不同于其他技術(shù)人工物的特有的擬倫理角色。對(duì)此，我們可以從智能體的能力和關(guān)系實(shí)踐入手，在智能體的價(jià)值和倫理影響力以及由智能體的應(yīng)用所匯聚的行動(dòng)者網(wǎng)絡(luò)兩個(gè)層面展開初步的分析。

在智能體的價(jià)值和倫理影響力層面，計(jì)算機(jī)倫理學(xué)創(chuàng)始人摩爾(James H.Moor)對(duì)機(jī)器人的分類具有一定的啟發(fā)性。他根據(jù)機(jī)器人可能具有的價(jià)值與倫理影響力，將其分為四類：(1)有倫理影響的智能體(ethical impact agents)——不論有無價(jià)值與倫理意圖但具有價(jià)值與倫理影響的智能體；(2)隱含的倫理智能體(implicit ethical agents)——通過特定的軟硬件內(nèi)置了安全和安保等隱含的倫理設(shè)計(jì)的智能體;(3)明確的倫理智能體(explicit ethical agents)——能根據(jù)情勢的變化及其對(duì)倫理規(guī)范的理解采取合理行動(dòng)的智能體;(4)完全的倫理智能體(full ethical agents)——像人一樣具有意識(shí)、意向性和自由意志并能對(duì)各種情況做出倫理決策的智能體。[7]若借助摩爾的劃分，可從價(jià)值與倫理影響力上將智能體分為倫理影響者、倫理行動(dòng)者、倫理能動(dòng)者(施動(dòng)者)和倫理完滿者等具有四種不同能力的擬倫理角色。

智能體可能的擬倫理角色及其能力是通過設(shè)計(jì)實(shí)現(xiàn)的。其中，倫理影響者強(qiáng)調(diào)的是智能體中沒有任何倫理設(shè)計(jì)；倫理行動(dòng)者意指設(shè)計(jì)者將其價(jià)值與倫理考量預(yù)先嵌入智能體中，使其在遇到設(shè)計(jì)者預(yù)先設(shè)定的一些問題時(shí)得以自動(dòng)執(zhí)行；倫理能動(dòng)者則試圖通過主動(dòng)性的倫理設(shè)計(jì)使智能體能理解和遵循一般倫理原則或行為規(guī)范，并依據(jù)具體場合做出恰當(dāng)?shù)膫惱頉Q策；而倫理完滿者則以智慧性的倫理設(shè)計(jì)令智能體可以像人類主體一樣進(jìn)行價(jià)值倫理上的反思、考量和論證，甚至具備面對(duì)復(fù)雜倫理情境的實(shí)踐的明智。目前，人工智能體大多屬于倫理影響者，只有少量可以勉強(qiáng)算作倫理行動(dòng)者，倫理能動(dòng)者還只是機(jī)器倫理等理論探索的目標(biāo)，倫理完滿者則屬于科幻。目前的人工智能體應(yīng)以“有限自主與交互智能體”加以概觀。由此可見，智能體的價(jià)值與倫理影響力迄今無法獨(dú)立地主動(dòng)施加，而只能在人機(jī)交互的關(guān)系實(shí)踐之中體現(xiàn)，故只有把智能體放在其與人類主體構(gòu)成的行動(dòng)者網(wǎng)絡(luò)之中，才能真正把握智能體擬倫理角色的實(shí)踐內(nèi)涵。

通過行動(dòng)者網(wǎng)絡(luò)分析，在由智能體的應(yīng)用所匯聚的行動(dòng)者網(wǎng)絡(luò)層面，不僅可以較為明晰地看到智能體的擬倫理角色與相關(guān)主體的倫理角色的關(guān)聯(lián)性與整體性，還有助于透視它們之間的價(jià)值關(guān)聯(lián)與倫理關(guān)系，廓清其中的責(zé)任擔(dān)當(dāng)與權(quán)利訴求。一般地，對(duì)于人工智能體A，存在設(shè)計(jì)者D，故智能體可記為A(D)。若以拉圖爾式的行動(dòng)者網(wǎng)絡(luò)來看智能體和人類主體的關(guān)系網(wǎng)絡(luò)，則可見由人工智能引發(fā)的價(jià)值關(guān)聯(lián)與倫理關(guān)系的基本模式不是簡單的“人—機(jī)”之間的二元關(guān)系，而是“控制者(C)—智能體[A(D)]—一般使用者(U)”之間的復(fù)合關(guān)系(其中一般使用者強(qiáng)調(diào)與控制者無直接共同利益且無法主導(dǎo)技術(shù)應(yīng)用的非主導(dǎo)者和不完全知情者)。更重要的是，在基于此復(fù)合關(guān)系的行動(dòng)者網(wǎng)絡(luò)中，“控制者”(C)、“智能體”[A(D)]和“一般使用者(U)”所具有的控制力或“勢”是不一樣的。因此，不能簡單地將這種復(fù)合關(guān)系看做是C與U以A(D)為中介的關(guān)系，而主要應(yīng)該從“C—A(D)” 整體與U之間的關(guān)系來展開分析。由此，一方面，鑒于“C—A(D)”是主導(dǎo)者與施加者，U是承受者與受動(dòng)者，前者的責(zé)任和后者的權(quán)利無疑是相關(guān)價(jià)值與倫理考量的重點(diǎn)；另一方面，由于A或A(D)的價(jià)值與倫理影響力的不同，“C—A(D)”整體責(zé)任的內(nèi)部劃分變得較其他技術(shù)人工物更為復(fù)雜。

這些分析不僅有助于廓清智能體與相關(guān)主體的倫理角色和倫理關(guān)系，也大致指出了人工智能體的價(jià)值審度與倫理調(diào)適的兩條現(xiàn)實(shí)路徑：負(fù)責(zé)任的創(chuàng)新和主體權(quán)利保護(hù)。負(fù)責(zé)任的創(chuàng)新的路線圖是：“控制者—智能體”應(yīng)主動(dòng)考量其整體對(duì)一般使用者、全社會(huì)乃至人類的責(zé)任，并在“控制者—智能體”內(nèi)部厘清設(shè)計(jì)責(zé)任和控制責(zé)任，以此確保一般使用者的權(quán)利，努力使公眾和人類從人工智能中獲益。主體權(quán)利保護(hù)的路線圖是：由權(quán)利受損的一般使用者發(fā)出權(quán)利訴求，展開對(duì)“控制者—智能體”的責(zé)任追究，進(jìn)而迫使“控制者—智能體”內(nèi)部廓清責(zé)任——區(qū)分智能體的控制與設(shè)計(jì)責(zé)任。不論哪條路徑，都必須與人工智能的具體實(shí)踐和場景相結(jié)合，這樣才能使價(jià)值審度與倫理調(diào)適具有針對(duì)性和實(shí)效性。

二、合成智能與人造勞動(dòng)者的興起及其價(jià)值審度

眾所周知，正在爆發(fā)的這場人工智能熱潮，得益于大數(shù)據(jù)驅(qū)動(dòng)、計(jì)算能力的提升、深度學(xué)習(xí)算法等帶來的數(shù)據(jù)智能和感知智能上的突破，可視為計(jì)算機(jī)科學(xué)與統(tǒng)計(jì)學(xué)、數(shù)據(jù)科學(xué)、自動(dòng)傳感技術(shù)、機(jī)器人學(xué)等長期積累與相互融合的結(jié)果。對(duì)于當(dāng)前人工智能的典型應(yīng)用，集人工智能技術(shù)專家、創(chuàng)業(yè)家和倫理學(xué)家于一身的斯坦福大學(xué)人工智能與倫理學(xué)教授杰瑞·卡普蘭(Jerry Kaplan)指出，目前的人工智能所創(chuàng)造的機(jī)器智能在合成智能(synthetic intellects)和人造勞動(dòng)者(forge labors)兩個(gè)方向有所突破，并正在向自主智能體(autonomous agents)發(fā)展。[8](P2-6)

合成智能與人造勞動(dòng)者等應(yīng)用人工智能(applied AI)主要是由數(shù)據(jù)驅(qū)動(dòng)的，可稱之為數(shù)據(jù)驅(qū)動(dòng)的智能。目前，應(yīng)用人工智能中的數(shù)據(jù)主要指那些可以通過不同的信息表達(dá)形式和載體記錄下各種經(jīng)驗(yàn)事實(shí)。這些作為經(jīng)驗(yàn)事實(shí)的數(shù)據(jù)大致可分為三類：(1)量化的觀測事實(shí)，如基因組、宇宙結(jié)構(gòu)等科學(xué)數(shù)據(jù)，可穿戴設(shè)備、移動(dòng)通信定位系統(tǒng)等傳感器記錄的運(yùn)動(dòng)、生理、位置、空氣質(zhì)量和交通流量等實(shí)時(shí)數(shù)據(jù)；(2)人類在線行為的數(shù)字痕跡，如網(wǎng)絡(luò)搜索、社交媒體以及電子交易記錄等數(shù)據(jù)；(3)原始事實(shí)的多媒體記錄，如視頻、音頻、圖片等記錄原始事實(shí)的數(shù)據(jù)。正是它們?yōu)楦鞣N數(shù)據(jù)驅(qū)動(dòng)的人工智能提供了智能化認(rèn)知的素材。

合成智能在很大程度上是數(shù)據(jù)驅(qū)動(dòng)下對(duì)數(shù)據(jù)挖掘和認(rèn)知計(jì)算等相關(guān)技術(shù)的綜合集成。根據(jù)研究重點(diǎn)和方法的不同，研究者們一般稱其為機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)、大數(shù)據(jù)智能、跨媒體智能、認(rèn)知計(jì)算等，而各種已有的人工智能的成果，如專家系統(tǒng)、計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理等也往往根據(jù)需要融入其中。當(dāng)前常見的合成智能是基于大數(shù)據(jù)與深度學(xué)習(xí)及機(jī)器學(xué)習(xí)的智能辨識(shí)、洞察和預(yù)測等自動(dòng)認(rèn)知和決策系統(tǒng)，廣泛應(yīng)用于人類無法直接高效認(rèn)識(shí)的各種復(fù)雜的經(jīng)驗(yàn)事實(shí)。其基本認(rèn)知模式是，用計(jì)算機(jī)軟件和智能算法自動(dòng)處理及分析各種類型的數(shù)據(jù)，以獲取知識(shí)和形成決策。如通過對(duì)人的位置信息、網(wǎng)絡(luò)搜索與社交媒介行為等數(shù)據(jù)的分析、挖掘和聚合，對(duì)人的特征進(jìn)行數(shù)字畫像，從中找到有商業(yè)價(jià)值的特征或各種人難以直接洞察的有意義的相關(guān)性等。目前，從個(gè)性化商品推薦到廣告推送、從信用評(píng)分到股市高頻交易、從智能監(jiān)控到智慧城市、從智能搜索到潛在罪犯的“智能識(shí)別”，合成智能已普遍應(yīng)用于各種場景，正在全面顛覆著我們熟知的生活。

人造勞動(dòng)者一般指可以模仿或代替人完成特定任務(wù)的智能化的自動(dòng)執(zhí)行系統(tǒng)，其智能也是數(shù)據(jù)驅(qū)動(dòng)的，關(guān)鍵在于對(duì)數(shù)據(jù)的采集、處理、加工和控制。這類系統(tǒng)由各種能與設(shè)定環(huán)境互動(dòng)的自動(dòng)傳感器和執(zhí)行器結(jié)合而成，既可以是有物理結(jié)構(gòu)的能加工、挖礦、掃地、救火、搜救、作戰(zhàn)的操作機(jī)器人，也可以是社交聊天、手機(jī)導(dǎo)航、知識(shí)搶答、智能客服之類交互性的軟件系統(tǒng)。最常見的人造勞動(dòng)者是工業(yè)機(jī)器人和簡單的家用機(jī)器人，它們一般按照預(yù)先編好的程序工作，多為重復(fù)性的操作，工作環(huán)境一般也是簡單和可預(yù)見的。例如，一個(gè)工業(yè)機(jī)器人手臂在某個(gè)時(shí)刻出現(xiàn)在某一位置時(shí)，它所要擰緊的螺栓會(huì)恰好出現(xiàn)在那個(gè)地方。雖然人造勞動(dòng)者可以使人們從一些煩瑣的事務(wù)和繁重、危險(xiǎn)的勞動(dòng)中解放出來，但令人普遍擔(dān)心的是，其對(duì)專業(yè)技能的取代可能導(dǎo)致技術(shù)性失業(yè)甚至“人工智能鴻溝”。

合成智能和人造勞動(dòng)者的興起，使人工智能和自動(dòng)智能系統(tǒng)在商業(yè)、制造、管理和治理等領(lǐng)域的應(yīng)用獲得大量投資，但要使這種可能帶來重構(gòu)性和顛覆性影響的力量造福人類，必須對(duì)其價(jià)值進(jìn)行系統(tǒng)的審度?？梢詮某吻寮夹g(shù)現(xiàn)狀、揭示價(jià)值負(fù)載、明確價(jià)值訴求三個(gè)層面加以探究。

澄清技術(shù)現(xiàn)狀的關(guān)鍵在于要分清事實(shí)與科幻，認(rèn)識(shí)到合成智能與人造勞動(dòng)者等應(yīng)用人工智能當(dāng)前發(fā)展的局限性。首先，當(dāng)前數(shù)據(jù)驅(qū)動(dòng)的人工智能既不具備人類智能的通用性，也沒能實(shí)現(xiàn)功能上與人類智能相當(dāng)?shù)膹?qiáng)人工智能，更遑論全面超越人類智能的超級(jí)人工智能。其次，目前應(yīng)用人工智能的智能模式遠(yuǎn)低于人類的智能模式，而且神經(jīng)科學(xué)和認(rèn)知科學(xué)對(duì)人類智能的了解還非常有限。具體而言，目前數(shù)據(jù)驅(qū)動(dòng)的人工智能所使用方法本質(zhì)上屬于分類、歸納、試錯(cuò)等經(jīng)驗(yàn)與反饋方法，在方法論上并不完備。機(jī)器翻譯、智能推薦、語音識(shí)別、情緒分析等看起來功效顯著，但高度依賴于以往的類似經(jīng)驗(yàn)和人對(duì)數(shù)據(jù)的標(biāo)注，其所模擬的“智能”往往只能推廣到有限的類似領(lǐng)域(局部泛化)，而難以推廣到所有領(lǐng)域(全局泛化)。很多數(shù)據(jù)驅(qū)動(dòng)的應(yīng)用人工智能主要適用于認(rèn)知對(duì)象及環(huán)境與過去高度相似或接近的情況，其理解和預(yù)測的有效性依賴于經(jīng)驗(yàn)的相對(duì)穩(wěn)定性，其應(yīng)對(duì)條件變化的抗干擾能力十分有限。以自動(dòng)駕駛汽車為例，一旦出現(xiàn)未遇到過的路況和難以識(shí)別的新的物體等無法歸類的情況，就容易發(fā)生事故。

揭示價(jià)值負(fù)載的目的是反思人工智能的設(shè)計(jì)和應(yīng)用中的客觀性，厘清相關(guān)主體的價(jià)值取向和價(jià)值選擇在其中的作用。一方面，數(shù)據(jù)的采集與智能算法的應(yīng)用并非完全客觀和無偏見，其中必然負(fù)載著相關(guān)主體的價(jià)值取向。在人工智能與智能自動(dòng)系統(tǒng)的數(shù)據(jù)選取、算法操作和認(rèn)知決策中，相關(guān)主體的利益與價(jià)值因素不可避免地滲透于對(duì)特定問題的定義及對(duì)相應(yīng)解決方案的選擇和接受之中，它們既可能體現(xiàn)設(shè)計(jì)者與執(zhí)行者的利益考量和價(jià)值取向，也會(huì)影響到更多利害相關(guān)者的利益分配及價(jià)值實(shí)現(xiàn)。另一方面，合成智能和人造勞動(dòng)等人工智能應(yīng)用一般是通過人機(jī)協(xié)同來實(shí)現(xiàn)的，相關(guān)主體的價(jià)值選擇必然滲透其中。通過機(jī)器學(xué)習(xí)和智能算法對(duì)數(shù)據(jù)進(jìn)行洞察之類的應(yīng)用人工智能不僅是各種計(jì)算與智能技術(shù)的集成，還必須將人的判斷和智能融入其中。要把握數(shù)據(jù)所反映的事實(shí)及其意義，必須借助人的觀察和理解進(jìn)行標(biāo)注。在視頻理解等智能化識(shí)別(如視頻鑒黃等)中，將人的經(jīng)驗(yàn)通過人工標(biāo)注融入數(shù)據(jù)之中，是提高準(zhǔn)確率的關(guān)鍵因素。有標(biāo)注的數(shù)據(jù)是深度學(xué)習(xí)最為重要的資源，這就是業(yè)內(nèi)常說的“有多少人工，就有多少智能”。

明確價(jià)值訴求旨在尋求使應(yīng)用人工智能的發(fā)展更符合公眾利益和人類福祉所應(yīng)該具有的價(jià)值目標(biāo)。為此，尤需慎思細(xì)究者有三個(gè)方面：

第一，尋求算法決策與算法權(quán)力的公正性。諸多“算法決策”——基于數(shù)據(jù)和算法的智能化認(rèn)知與決策——運(yùn)用日廣，這一智能化的“政治算術(shù)”正在發(fā)展為“算法權(quán)力”。從政治選舉、產(chǎn)品推薦、廣告推送到信用評(píng)分和共享服務(wù)，算法決策普遍用于個(gè)人、組織和社會(huì)層面的特征洞察、傾向分析和趨勢預(yù)測，業(yè)已形成具有廣泛和深遠(yuǎn)影響力的算法權(quán)力。算法決策常被簡單地冠以高效、精準(zhǔn)、客觀和科學(xué)，但像所有人類社會(huì)認(rèn)知與決策一樣，服務(wù)于問題的界定與解答的數(shù)據(jù)和算法是負(fù)載價(jià)值的，其中所蘊(yùn)含的對(duì)人與社會(huì)的解讀和詮釋難免牽涉利害分配、價(jià)值取向及權(quán)力格局，其精準(zhǔn)、客觀與科學(xué)均有其相對(duì)的條件和限度。在信息與知識(shí)日益不對(duì)稱的情勢下，若不對(duì)此加以細(xì)究，算法決策與算法權(quán)力很可能會(huì)選擇、聽任、產(chǎn)生甚至放大各種偏見和歧視，甚或淪為知識(shí)的黑洞與權(quán)力的暗箱。在智能算法擁有的權(quán)力越來越大的同時(shí)，它們卻變得越來越不透明。而這將可能使個(gè)人被置于德勒茲式的“算法分格”，而不得不承受各種微妙的歧視和精準(zhǔn)的不公：搜索引擎會(huì)根據(jù)你以往的搜索興趣確定你的搜索結(jié)果；商家依照算法推測購買過《哈利·波特》的用戶可能會(huì)購買《饑餓游戲》并給出更高的報(bào)價(jià)；谷歌更傾向于招聘那些有熟人在其中供職的應(yīng)聘者；機(jī)場會(huì)為那些收入高且愿意多付費(fèi)以快速通關(guān)者提供較近的車位。[9]

在社會(huì)管理層面，算法權(quán)力影響更甚，更應(yīng)謹(jǐn)防其被濫用。當(dāng)前，整個(gè)社會(huì)逐漸被納入基于數(shù)據(jù)和算法的精細(xì)管理及智能監(jiān)控之下，各種決策與舉措愈益建立在智能算法之上，必須關(guān)注和防范由算法權(quán)力的濫用所導(dǎo)致的決策失誤與社會(huì)不公。尤其應(yīng)該關(guān)注的是，對(duì)智能算法的迷信與濫用往往會(huì)造成公共管理系統(tǒng)的漏洞，甚至將其引向“人工愚蠢”。例如，某算法根據(jù)某種偏見將某一類人列為重點(diǎn)犯罪監(jiān)控對(duì)象，但不無吊詭的是，對(duì)這類人的關(guān)注貌似會(huì)證實(shí)其預(yù)設(shè)，卻可能會(huì)遺漏真正應(yīng)該監(jiān)控的對(duì)象。

為了披露與削減算法權(quán)力的誤用和濫用，應(yīng)對(duì)數(shù)據(jù)和算法施以“倫理審計(jì)”。其基本策略是，從智能認(rèn)知與算法決策的結(jié)果和影響中的不公正入手，反向核查其機(jī)制與過程有無故意或不自覺的曲解或誤導(dǎo)，揭示其中存在的不準(zhǔn)確、不包容和不公正，并促使其修正和改進(jìn)。特別是算法權(quán)力的執(zhí)行者應(yīng)主動(dòng)披露自身在其中的利益，公開自身利益與他人利益和公眾利益之間可能存在的利益沖突。唯其如此，智能算法才可能避免力量的濫用，公正地行使其權(quán)力。

第二，呼喚更加透明、可理解和可追責(zé)的智能系統(tǒng)。雖然基于計(jì)算機(jī)、網(wǎng)絡(luò)、大數(shù)據(jù)和人工智能的智能系統(tǒng)已成為當(dāng)代社會(huì)的基礎(chǔ)結(jié)構(gòu)，但其過程與機(jī)制卻往往不透明、難以理解和無法追溯責(zé)任。除了隱形的利益算計(jì)、設(shè)計(jì)偏見以及知情同意缺失之外，導(dǎo)致此問題的主要原因是：智能系統(tǒng)及其認(rèn)知與決策過程復(fù)雜萬分，遠(yuǎn)遠(yuǎn)超過了人的理解能力，對(duì)其機(jī)理即便是研發(fā)人員也不易做出完整明晰的解釋，且此態(tài)勢會(huì)越來越嚴(yán)重。一旦人工智能和自動(dòng)系統(tǒng)的智能化的判斷或決策出現(xiàn)錯(cuò)誤和偏見，時(shí)常難于厘清和追究人與機(jī)器、數(shù)據(jù)與算法的責(zé)任。例如，在訓(xùn)練深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)識(shí)別人臉時(shí)，神經(jīng)網(wǎng)絡(luò)可能是根據(jù)與人臉同時(shí)出現(xiàn)的領(lǐng)帶和帽子之類的特征捕捉人臉，但只知道其識(shí)別效率的高低，而不知道其所使用的究竟是什么模型。正是這些透明性和可理解性問題的存在，使得人工智能潛在的不良后果的責(zé)任難以清晰界定和明確區(qū)分。

在自動(dòng)駕駛、自動(dòng)武器系統(tǒng)等智能系統(tǒng)中，涉及大量自動(dòng)化乃至自主智能決策問題，如自動(dòng)駕駛汽車中人與智能系統(tǒng)的決策權(quán)轉(zhuǎn)換機(jī)制、緊急情況下的處置策略等。由于這些決策關(guān)乎人生安危和重大責(zé)任界定，其透明性、可理解性和可追責(zé)的重要性愈發(fā)凸顯。為了解決這一日漸迫切的問題，歐洲議會(huì)2016年4月頒布的《一般數(shù)據(jù)保護(hù)條例(GDPR)》(擬于2018年實(shí)施)規(guī)定，在基于用戶層面的預(yù)測的算法決策等自動(dòng)化的個(gè)人決策中，應(yīng)賦予公眾一種新的權(quán)利——“解釋權(quán)”，即公眾有權(quán)要求與其個(gè)人相關(guān)的自動(dòng)決策系統(tǒng)對(duì)其算法決策做出必要的解釋。這項(xiàng)法律將給相關(guān)產(chǎn)業(yè)帶來很大的挑戰(zhàn)，應(yīng)會(huì)促使計(jì)算機(jī)科學(xué)家在算法設(shè)計(jì)和框架評(píng)估階段優(yōu)先考慮透明性、可理解性和可追責(zé)，以免于偏見和歧視之訟。

第三，追問智能化的合理性及其與人的存在價(jià)值的沖突。近代以來，人類在合理性和理性化的道路上不斷前進(jìn)，從計(jì)算機(jī)、互聯(lián)網(wǎng)、大數(shù)據(jù)到人工智能與機(jī)器人的發(fā)展將理性化的進(jìn)程推向了智能化的新紀(jì)元。但人工智能所呈現(xiàn)的合理性與理性只是工程合理性或工具理性，應(yīng)進(jìn)一步反思其會(huì)不會(huì)給整個(gè)社會(huì)帶來更廣泛和更深遠(yuǎn)的不合理性。對(duì)此，人們普遍關(guān)注的是可控性問題：鑒于人工智能擁有巨大的理性行動(dòng)能力，這種力量能否為人類或社會(huì)的正面力量所掌控？一方面，它會(huì)不會(huì)因?yàn)樘珡?fù)雜而超越人的控制能力，使人們陷入巨大的風(fēng)險(xiǎn)而不知曉？另一方面，長遠(yuǎn)來看，人工智能本身會(huì)不會(huì)發(fā)展成為一種不受人類控制的自主性的力量？

而更根本的問題是這種合理性與人的存在價(jià)值的沖突：人的存在的價(jià)值是不是應(yīng)該完全用其能否適應(yīng)智能機(jī)器來衡量？19世紀(jì)中葉，馬克思看到了彼時(shí)資本與勞動(dòng)力之間存在不可調(diào)和的矛盾：資本通過工業(yè)自動(dòng)化取代勞動(dòng)。今天，邁過智能社會(huì)門檻的我們所面對(duì)的是：資本會(huì)不會(huì)通過人工智能取代人的頭腦？人工智能對(duì)普通勞動(dòng)乃至專業(yè)技術(shù)勞動(dòng)的沖擊，會(huì)不會(huì)在范圍、規(guī)模、深度和力度上引發(fā)前所未有的全局性危機(jī)？人工智能的發(fā)展會(huì)不會(huì)與人的存在價(jià)值發(fā)生深層次的難以調(diào)和的本質(zhì)性沖突？對(duì)此，德國哲學(xué)家京特·安德斯指出，雖然人們一再強(qiáng)調(diào)“創(chuàng)造是人的天性”，但當(dāng)人們面對(duì)其創(chuàng)造物時(shí)，卻越來越有一種自愧弗如與自慚形穢的羞愧，這種羞愧堪稱“普羅米修斯的羞愧”——在機(jī)器面前，這種“創(chuàng)造與被創(chuàng)造關(guān)系的倒置”使人成了過時(shí)的人！[10](P3-6)

在初步辨析人工智能體的擬倫理角色并對(duì)合成智能與人造勞動(dòng)者等新近發(fā)展展開價(jià)值審度之后，我們必須對(duì)智能機(jī)器越來越多地替代人類決策和行動(dòng)的未來發(fā)展趨勢進(jìn)行進(jìn)一步的追問。在迫近的未來，必將呈現(xiàn)的情境是：人類要么允許機(jī)器在無人監(jiān)督的情況下自行做出決定，要么保持對(duì)機(jī)器的控制。正是這一挑戰(zhàn)，迫使我們進(jìn)一步嘗試性地探討面向人工智能時(shí)代的價(jià)值校準(zhǔn)與倫理調(diào)適之道。

三、有限自主交互智能體的價(jià)值校準(zhǔn)與倫理調(diào)適

從一般的倫理學(xué)理論來看，只有當(dāng)人工智能發(fā)展到具有與人的智能相當(dāng)?shù)膹?qiáng)人工智能時(shí)，才可能被接納為道德共同體的成員。對(duì)此，人工智能哲學(xué)家瑪格麗特·博登(Margaret A.Boden)指出，人工智能一旦被納入道德共同體，將以三種方式影響人機(jī)交互：(1)強(qiáng)人工智能將和動(dòng)物一樣得到人類的道德關(guān)注；(2)人類將認(rèn)為可以對(duì)強(qiáng)人工智能的行動(dòng)進(jìn)行道德評(píng)估；(3)人類將把強(qiáng)人工智能作為道德決策的論證和說服目標(biāo)。[11](P162-163)然而，鑒于當(dāng)前的人工智能發(fā)展還遠(yuǎn)未達(dá)到這一或許會(huì)出現(xiàn)的未來情境，面向人工智能時(shí)代的價(jià)值校準(zhǔn)與倫理調(diào)適，應(yīng)與未來學(xué)家的悲觀主義和樂觀主義預(yù)見保持一定距離，而更多地訴諸人工智能當(dāng)下的真實(shí)發(fā)展程度與可預(yù)見的未來的可能性。唯其如此，才能系統(tǒng)深入地慎思、明辨、審度與應(yīng)對(duì)人工智能的倫理挑戰(zhàn)。

若以主流人工智能教科書主張的智能體概念通觀人工智能，其當(dāng)下及可預(yù)見未來的發(fā)展程度可概觀為“有限自主與交互智能體”。其具體內(nèi)涵包括四個(gè)方面：首先，機(jī)器人和人工智能是可以在功能上模仿智能的理性智能體，但它們迄今沒有意識(shí)和理解力，是“無心”的智能體。其次，機(jī)器人和人工智能具有一定的自主性，可在一定條件下實(shí)現(xiàn)有限度的自動(dòng)認(rèn)知、決策和行動(dòng)功能。再次，隨著其自主性的提升，人可能會(huì)在一定程度上將決策權(quán)轉(zhuǎn)讓給機(jī)器，但即便是設(shè)計(jì)者對(duì)其所設(shè)計(jì)的機(jī)器的自主執(zhí)行過程也往往并不完全理解。最后，人工智能和機(jī)器人具有一定的交互性，雖然人機(jī)互動(dòng)或“人機(jī)交流”實(shí)質(zhì)上只是功能模擬而非實(shí)際意義上的溝通，但隨著逼真程度的提高，人們會(huì)在一定程度上將機(jī)器人和人工智能等具有擬主體性的智能體想象成跟人類似的主體，從而難免對(duì)這種替代性的模擬或虛擬主體產(chǎn)生心理依賴甚至情感需求。

從“有限自主與交互智能體”這一真實(shí)狀態(tài)出發(fā)，可以將其與人類主體構(gòu)成的行動(dòng)者網(wǎng)絡(luò)放到經(jīng)驗(yàn)環(huán)境即數(shù)據(jù)環(huán)境之中，進(jìn)行價(jià)值流分析，為面向人工智能時(shí)代的價(jià)值校準(zhǔn)和倫理調(diào)適奠定基礎(chǔ)。所謂價(jià)值流分析，其基本假設(shè)是：智能體與主體相關(guān)并負(fù)載價(jià)值，其每一個(gè)行動(dòng)都有其價(jià)值上的前提和后果，都伴隨著價(jià)值上的輸入和輸出。價(jià)值流分析的目的就是厘清這些輸入和輸出的價(jià)值流向，找到那些輸入價(jià)值的施加者與責(zé)任人和接受價(jià)值輸出的承受者與權(quán)益人，使責(zé)任追究與權(quán)利保護(hù)有源可溯、有跡可循。在價(jià)值流分析的基礎(chǔ)上，可以具體地廓清智能體所執(zhí)行任務(wù)的利益訴求和價(jià)值取向，辨析相關(guān)數(shù)據(jù)采集與處理中的事實(shí)取舍和價(jià)值預(yù)設(shè)，進(jìn)而系統(tǒng)地追問其中的智能感知和認(rèn)知的客觀性與公正性、智能行為的利益分配與風(fēng)險(xiǎn)分擔(dān)等更為現(xiàn)實(shí)的問題。

當(dāng)前，有關(guān)人工智能與機(jī)器人的倫理研究可大致分為四個(gè)進(jìn)路：

(1)面向應(yīng)用場景的描述性研究。這類研究旨在揭示大數(shù)據(jù)智能、跨媒體智能、社會(huì)化機(jī)器人(家用、護(hù)理、伴侶)、無人機(jī)、自動(dòng)駕駛以及致命性自動(dòng)武器系統(tǒng)等在發(fā)展中呈現(xiàn)出的亟待回應(yīng)的道德沖突與倫理抉擇，其中既有對(duì)算法權(quán)力的濫用、人工智能加劇技術(shù)性失業(yè)、自動(dòng)駕駛中的道德兩難等現(xiàn)實(shí)問題的揭示，也涉及機(jī)器人的人化、人對(duì)機(jī)器人的情感依賴、實(shí)現(xiàn)超級(jí)人工智能的可能性及其風(fēng)險(xiǎn)等前沿性問題。

(2)凸顯主體責(zé)任的責(zé)任倫理研究。這類研究的出發(fā)點(diǎn)是強(qiáng)調(diào)人類主體特別是設(shè)計(jì)者和控制者在人工智能與機(jī)器人的研究和創(chuàng)新中的責(zé)任——優(yōu)先考慮公眾利益和人類福祉、減少其危害與風(fēng)險(xiǎn)以及對(duì)后果負(fù)責(zé)等，包括機(jī)器人倫理及相關(guān)工程倫理研究等。其中影響較大的是維格(G.Veruggio)等人2002年倡導(dǎo)的“機(jī)器人倫理”(roboethics)。他們將“機(jī)器人”與“倫理”合并為復(fù)合詞“機(jī)器人倫理”，主要探討機(jī)器人的設(shè)計(jì)者、制造者、編程者和使用者在機(jī)器人研制與應(yīng)用中的倫理責(zé)任與規(guī)范之道，并強(qiáng)調(diào)與機(jī)器人相關(guān)的人應(yīng)該作為道德責(zé)任的主體。[12](P1499-1524)此后，他們在歐洲機(jī)器人學(xué)研究網(wǎng)絡(luò)(EURON)資助下提出了“EURON機(jī)器人倫理學(xué)路線圖”。

(3)基于主體權(quán)利的權(quán)利倫理研究。這類研究的出發(fā)點(diǎn)是強(qiáng)調(diào)主體在智能化生活中的基本權(quán)利，旨在保護(hù)人的數(shù)據(jù)權(quán)利等，試圖制約社會(huì)智能化過程中的算法權(quán)力濫用。目前主要包括針對(duì)數(shù)據(jù)與算法的透明性、可理解性和可追責(zé)等問題展開的數(shù)據(jù)倫理與算法倫理研究，聚焦于數(shù)據(jù)隱私權(quán)、數(shù)據(jù)遺忘權(quán)、數(shù)據(jù)解釋權(quán)、算法的透明性與公正性以及算法的倫理審計(jì)和校準(zhǔn)等問題。

(4)探討倫理嵌入的機(jī)器倫理研究。人工智能與機(jī)器人智能體都被視為倫理影響者(有倫理影響的智能體)或倫理行動(dòng)者(隱含的倫理智能體)，其中涉及的責(zé)任和權(quán)利都是相對(duì)于主體即人而言的。機(jī)器倫理的倡導(dǎo)者則主張，可以通過倫理規(guī)范的嵌入使人工智能體成為倫理能動(dòng)者(明確的倫理智能體)。在他們看來，隨著智能體的自主性的提升，自動(dòng)認(rèn)知與決策過程已呈現(xiàn)出從人類操控為主的“人在決策圈內(nèi)(Human in the Loop)”模式轉(zhuǎn)向以機(jī)器操控為主的“人在決策圈外(Human out the Loop)”模式的趨勢，而日益復(fù)雜的智能體一旦功能紊亂，可能導(dǎo)致巨大的傷害。因此，問題不僅是人工智能的設(shè)計(jì)者、控制者和使用者應(yīng)該遵守特定的倫理規(guī)范，而且還需要將特定倫理規(guī)范編程到機(jī)器人自身的系統(tǒng)中去。為此，他們致力于探討將道德理論和倫理原則嵌入機(jī)器人和人工智能之中或使其通過成長性的學(xué)習(xí)培育出道德判斷能力的可能性，力圖使機(jī)器人和人工智能發(fā)展成為人工的道德智能體(Artificial Moral Agents，AMAs)。[13](P51-61)這一構(gòu)想堪稱“機(jī)器人三定律” 的升級(jí)版(機(jī)器人三定律是由美國科幻小說家阿西莫夫提出的機(jī)器人必須遵守的道德律令：第一定律：機(jī)器人不得傷害人類或坐視人類受到傷害；第二定律：在與第一定律不相沖突的情況下，機(jī)器人必須服從人類的命令；第三定律：在不違背第一定律與第二定律的前提下，機(jī)器人有自我保護(hù)的義務(wù))。盡管此進(jìn)路已有一些探索，但在技術(shù)上存在極大困難，理論上也受到不少質(zhì)疑。實(shí)際上，不論是自上而下地在自動(dòng)駕駛汽車等人工智能系統(tǒng)中嵌入倫理代碼，還是自下而上地讓其從環(huán)境中學(xué)習(xí)倫理規(guī)范，在近期都很難實(shí)現(xiàn)。信息哲學(xué)家弗洛里迪(L.Floridi)指出，為機(jī)器制定一套道德無異于白日夢科幻，而更為負(fù)責(zé)任的策略是在智能體內(nèi)部嵌入一定的安全措施，同時(shí)在機(jī)器自動(dòng)操作時(shí)，人可以作為“共同決策人”發(fā)揮監(jiān)管作用。[14](P28-29)而更為吊詭的是，假若真能將合乎道德的倫理規(guī)范嵌入機(jī)器人和人工智能之中，是否意味著也可以輕而易舉地將非道德和反倫理植入其中？

由于機(jī)器人與人工智能近年來的爆發(fā)式發(fā)展，其社會(huì)倫理影響已經(jīng)引起全社會(huì)的高度關(guān)注，在產(chǎn)學(xué)研各界的推動(dòng)下，對(duì)機(jī)器人與人工智能的倫理研究開始直接影響到國際人工智能與機(jī)器人的倫理規(guī)范和標(biāo)準(zhǔn)的制定。它們既充分考量了人工智能作為“有限自主與交互智能體”的現(xiàn)狀，也系統(tǒng)體現(xiàn)了人工智能體的價(jià)值審度與倫理調(diào)適的兩條現(xiàn)實(shí)路徑——負(fù)責(zé)任的創(chuàng)新和主體權(quán)利保護(hù)。在機(jī)器人原則與倫理標(biāo)準(zhǔn)方面，日本、韓國、英國、歐洲和聯(lián)合國教科文組織等相繼推出了多項(xiàng)倫理原則、規(guī)范、指南和標(biāo)準(zhǔn)。日本早在1988年就制定了《機(jī)器人法律十原則》。韓國于2012年頒布了《機(jī)器人倫理憲章》，對(duì)機(jī)器人的生產(chǎn)標(biāo)準(zhǔn)、機(jī)器人擁有者與用戶的權(quán)利與義務(wù)、機(jī)器人的權(quán)利與義務(wù)做出了規(guī)范。2010年，隸屬英國政府的“工程與物質(zhì)科學(xué)研究委員會(huì)(EPSRC )”提出了具有法律和倫理雙重規(guī)范性的“機(jī)器人原則”，凸顯了對(duì)安全、機(jī)器人產(chǎn)品和責(zé)任的關(guān)注?！坝鴺?biāo)準(zhǔn)協(xié)會(huì)(BSI)”在2016年9月召開“社會(huì)機(jī)器人和AI”大會(huì)，頒布了世界上首個(gè)機(jī)器人設(shè)計(jì)倫理標(biāo)準(zhǔn)《機(jī)器人與機(jī)器人系統(tǒng)設(shè)計(jì)與應(yīng)用倫理指南(BS8611)》。該指南主要立足于防范機(jī)器人可能導(dǎo)致的傷害、危害和風(fēng)險(xiǎn)的測度與防范，除了提出一般的社會(huì)倫理原則和設(shè)計(jì)倫理原則之外，還對(duì)產(chǎn)業(yè)科研及公眾參與、隱私與保密、尊重人的尊嚴(yán)和權(quán)利、尊重文化多樣性與多元化、人機(jī)關(guān)系中人的去人類化、法律問題、效益與風(fēng)險(xiǎn)平衡、個(gè)人與組織責(zé)任、社會(huì)責(zé)任、知情同意、知情指令(Informed command)、機(jī)器人沉迷、機(jī)器人依賴、機(jī)器人的人化以及機(jī)器人與就業(yè)等問題提出了指導(dǎo)性建議。[15]

2012年歐盟在科技發(fā)展“框架7”下啟動(dòng)“機(jī)器人法(ROBOLAW)”項(xiàng)目，以應(yīng)對(duì)“人機(jī)共生社會(huì)”所將面臨的法律及倫理挑戰(zhàn)。2016年5月，歐盟法律事務(wù)委員會(huì)發(fā)布《就機(jī)器人民事法律規(guī)則向歐盟委員會(huì)提出立法建議的報(bào)告草案》，提出了包括機(jī)器人工程師倫理準(zhǔn)則、機(jī)器人研究倫理委員會(huì)倫理準(zhǔn)則、設(shè)計(jì)執(zhí)照和使用執(zhí)照等內(nèi)容的《機(jī)器人憲章》(Charter on Robotics)。同年10月，又發(fā)布了《歐盟機(jī)器人民事法律規(guī)則》(European Civil Law Rules in Robotics)，對(duì)智能自動(dòng)機(jī)器人、智能機(jī)器人、自動(dòng)機(jī)器人做出了界定，探討了機(jī)器人意識(shí)以及阿西莫夫機(jī)器人定律的作用，還從民事責(zé)任的角度辨析了機(jī)器人能否被視為具有法律地位的“電子人”(electronic persons)，最后還提出了使人類免受機(jī)器人傷害的基本倫理原則。同年，聯(lián)合國教科文組織的世界科學(xué)知識(shí)和技術(shù)倫理委員會(huì)(COMEST)的一個(gè)新興技術(shù)倫理小組發(fā)布了《機(jī)器人倫理報(bào)告初步草案》，不僅探討了社會(huì)、醫(yī)療、健康、軍事、監(jiān)控、工作中的機(jī)器人倫理問題，而且對(duì)運(yùn)用機(jī)器倫理制造道德機(jī)器進(jìn)行了討論。

自2015年以來，人工智能與機(jī)器人的發(fā)展在全世界掀起了高潮，社會(huì)各界和世界各國對(duì)人工智能與機(jī)器人的社會(huì)影響和倫理沖擊的關(guān)注亦隨之高漲。尤其值得關(guān)注的是2017年 1月在阿西洛馬召開的“有益的人工智能”(Beneficial AI)會(huì)議上提出的“阿西洛馬人工智能原則” (Asilomar AI Principles)，以及2016年12月電氣電子工程師協(xié)會(huì)(IEEE)頒布的《以倫理為基準(zhǔn)的設(shè)計(jì)：人工智能及自主系統(tǒng)以人類福祉為先的愿景(第一版)》?！鞍⑽髀羼R人工智能原則”強(qiáng)調(diào)，應(yīng)以安全、透明、負(fù)責(zé)、可解釋、為人類做貢獻(xiàn)和多數(shù)人受益等方式開發(fā)AI。其倡導(dǎo)的倫理和價(jià)值原則包括：安全性、失敗的透明性、審判的透明性、負(fù)責(zé)、與人類價(jià)值觀保持一致、保護(hù)隱私、尊重自由、分享利益、共同繁榮、人類控制、非顛覆以及禁止人工智能裝備競賽等。IEEE的《以倫理為基準(zhǔn)的設(shè)計(jì)》則將專業(yè)倫理中的專業(yè)責(zé)任、工程倫理中的公眾福祉優(yōu)先以及工程師的責(zé)任落實(shí)到人工智能領(lǐng)域，把負(fù)責(zé)任的研究與創(chuàng)新和道德敏感設(shè)計(jì)等觀念運(yùn)用于對(duì)人工智能和自主系統(tǒng)的價(jià)值校準(zhǔn)與倫理調(diào)適。其指導(dǎo)思想是：人工智能及自主系統(tǒng)遠(yuǎn)不止是實(shí)現(xiàn)功能性的目標(biāo)和解決技術(shù)問題，而應(yīng)將人類的福祉放在首位，應(yīng)努力使人類從它們的創(chuàng)新潛力中充分獲益。其在倫理層面關(guān)注的要點(diǎn)是，人工智能與自主系統(tǒng)應(yīng)遵循人類權(quán)利、環(huán)境優(yōu)先、責(zé)任追溯、公開透明、教育與認(rèn)知等倫理原則，并使之嵌入人工智能與自主系統(tǒng)之中，以此指導(dǎo)相關(guān)技術(shù)與工程的設(shè)計(jì)、制造和使用。

這些原則和倫理規(guī)范的提出，將使科技界、產(chǎn)業(yè)界和全社會(huì)更加重視從產(chǎn)業(yè)標(biāo)準(zhǔn)層面展開對(duì)人工智能的價(jià)值校準(zhǔn)與倫理調(diào)適，尤其是它們與人工智能倫理研究的結(jié)合，正在形成一種具有現(xiàn)實(shí)影響力的“科技—產(chǎn)業(yè)—倫理”實(shí)踐。在面向人工智能時(shí)代的異質(zhì)性實(shí)踐中，應(yīng)充分凸顯實(shí)踐的明智，關(guān)注真實(shí)的價(jià)值沖突與倫理兩難。為此，特別應(yīng)該從自然主義的倫理立場出發(fā)，將技術(shù)事實(shí)的澄清與價(jià)值流的分析相結(jié)合，通過更細(xì)致的考量和更審慎的權(quán)衡探尋可行的解決之道，主要體現(xiàn)在三個(gè)方面：

第一，從理論層面和規(guī)范層面提出各種倫理原則以用于實(shí)踐時(shí)，必須考量其現(xiàn)實(shí)可能性并尋求折中的解決方案。以透明性和解釋權(quán)為例，不論是打開算法決策的“黑箱”，還是保留相關(guān)數(shù)據(jù)與算法決策過程的“黑匣子”，都必須考慮技術(shù)可行性以及成本效益比，都應(yīng)有其限度。而更現(xiàn)實(shí)的辦法是在其應(yīng)用出現(xiàn)較大的危害和爭議時(shí)，一方面，借助特定的倫理沖突，從對(duì)后果的追究倒逼其內(nèi)在機(jī)制與過程的透明性、可理解性和可追責(zé)；另一方面，將責(zé)任追溯與糾錯(cuò)補(bǔ)償結(jié)合起來，逐步推進(jìn)防止惡意使用、修復(fù)非故意加害等更務(wù)實(shí)的目標(biāo)的實(shí)現(xiàn)。

第二，應(yīng)擺脫未來學(xué)家的簡單的樂觀主義與悲觀主義立場，從具體問題入手強(qiáng)化人的控制作用和建設(shè)性參與。盡管未來學(xué)家的樂觀主義或悲觀主義基調(diào)在媒體相關(guān)討論中往往居于主導(dǎo)地位，卻帶有極大的盲目性。特別是未來學(xué)家的斷言經(jīng)常在假定與事實(shí)之間轉(zhuǎn)換，大多不足為據(jù)。以技術(shù)性失業(yè)為例，應(yīng)超越簡單的樂觀主義和悲觀主義之爭，從受到人工智能發(fā)展威脅的具體的行業(yè)入手，通過建立負(fù)面清單、尋求最佳行業(yè)轉(zhuǎn)換實(shí)踐等辦法，強(qiáng)化有針對(duì)性的技能培訓(xùn)和教育，使受到?jīng)_擊的勞動(dòng)力實(shí)現(xiàn)有計(jì)劃的轉(zhuǎn)型。

第三，要從人機(jī)協(xié)作和人機(jī)共生而不是人機(jī)對(duì)立的角度探尋發(fā)展“基于負(fù)責(zé)任的態(tài)度的可接受的人工智能”的可能。應(yīng)意識(shí)到發(fā)展人工智能旨在增強(qiáng)人類智能而非替代人類，要強(qiáng)調(diào)人類的判斷、道德和直覺對(duì)于各種智能體的關(guān)鍵決策不可或缺。同時(shí)，應(yīng)通過更有效的人機(jī)協(xié)作，在人機(jī)交互中動(dòng)態(tài)地加強(qiáng)機(jī)器的透明性、可理解性和可追責(zé)，以便更有效地消除人對(duì)人工智能的疑懼。當(dāng)然，通過人機(jī)協(xié)同的“混合增強(qiáng)智能”實(shí)現(xiàn)有效的價(jià)值校準(zhǔn)與倫理調(diào)適需要多學(xué)科的共識(shí)和協(xié)作，在理論和實(shí)踐上皆非易事。

展望未來，人工智能無疑將是人類最具開放性的創(chuàng)新，人工智能的倫理應(yīng)屬“未完成的倫理”，其價(jià)值校準(zhǔn)與倫理調(diào)適之路亦未有盡頭。從倫理實(shí)踐策略來看，鑒于倫理原則規(guī)范體系的抽象性，很難通過一般性的規(guī)范或倫理代碼的嵌入應(yīng)對(duì)人工智能應(yīng)用中各種復(fù)雜的價(jià)值沖突與倫理抉擇。在人工智能倫理研究的四種進(jìn)路中，唯有從面向應(yīng)用場景的描述性研究入手，作為關(guān)鍵訴求的凸顯主體責(zé)任的責(zé)任倫理(“問責(zé)”)和基于權(quán)利的權(quán)利倫理(“維權(quán)”)，才會(huì)不失空洞并得以實(shí)質(zhì)推進(jìn)。概言之，應(yīng)立足作為“有限自主與交互智能體”的人工智能和機(jī)器人的現(xiàn)狀與發(fā)展，通過對(duì)人機(jī)交互的“心理—倫理-社會(huì)”的經(jīng)驗(yàn)分析，把握各種智能體在其應(yīng)用的現(xiàn)實(shí)和虛擬場景中呈現(xiàn)出的具體的自主性及交互性特質(zhì)，進(jìn)而在具體的場景中細(xì)致地?？毕嚓P(guān)的控制、決策、問責(zé)、維權(quán)等在價(jià)值和倫理上的恰當(dāng)性，并形成動(dòng)態(tài)的和對(duì)未來場景具有啟發(fā)性的倫理共識(shí)。

[1] Christelle Didier, Weiwen Duan, Jean-Pierre Dupuy, and David H.Guston,etc.“Acknowledging AI’s Dark Side”.Science，2015, 349(9).

[2][11] 瑪格麗特·博登：《人工智能的本質(zhì)與未來》，北京，中國人民大學(xué)出版社，2017。

[3] J.Mc Carthy, M.L.Minsky, N.Rochester, and C.E.Shannon.“A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence” .1955, http://www-formal.stanford.edu/jmc/history/ dartmouth/dartmouth.html.

[4] Nils J.Nilsson.ArtificialIntelligence:ANewSynthesis.San Francisco: Morgan Kaufmann, 1998.

[5][6] Stuart J.Russell, and Peter Norvig.ArtificialIntelligence:AModernApproach.New Jersey:Prentice Hall, 1995.

[7] James H.Moor.“Four Kinds of Ethical Robot”.PhilosophyNow, 2009,72(March/April).

[8] 杰瑞·卡普蘭：《人工智能時(shí)代》，杭州，浙江人民出版社，2016。

[9] 段偉文：《大數(shù)據(jù)與社會(huì)實(shí)在的三維構(gòu)建》，載《理論探索》，2016(6)。

[10] 京特·安德斯：《過時(shí)的人：論第二次工業(yè)革命時(shí)期人的靈魂》，上海，上海譯文出版社，2010。

[12] Gianmarco Veruggio, and Fiorella Operto.“Roboethics: Social and Ethical Implications of Robotics”.In Bruno Siciliano，and Oussama Khatib(eds.) .SpringerHandbookofRobotics.Berlin, Heidelberg: Springer,2008.

[13] Allen, C., Wallach, W., and I.Smit.“Why Machine Ethics”.In Anderson,M.,and S.L.Anderson (eds.).MachineEthics.Cambridge:Cambridge University Press, 2011.

[14] 朗伯·魯亞科斯、瑞尼·凡·伊斯特：《人機(jī)共生: 當(dāng)愛情、生活和戰(zhàn)爭都自動(dòng)化了，人類該如何相處》，北京，中國人民大學(xué)出版社，2017。

[15] The British Standards Institution.GuidetotheEthicalDesignandApplicationofRobotsandRoboticSystems.London:BSI,2016.

ValueReflectionandEthicalAdjustmentintheEraofArtificialIntelligence

DUAN Wei-wen

(Institute of Philosophy,Chinese Academy of Social Sciences,Beijing 100732)

The quasi-subjectivity of artificial intelligence agents gives artificial intelligence a unique quasi ethical role. Through analysis of the quasi ethical role of the agents, we can see that the basic approach of value reflection and ethical adjustment on the artificial intelligence should be responsible innovation and the protection of subject rights.Based on the evaluation of the value of synthetic intelligence and artificial laborers, it is necessary to put forward some value pursuits, which include seeking fairness of algorithmic decision and algorithm power, calling for a more transparent, understandable and accountable intelligent system, reflecting on the confliction between the rationality of intelligence and the value of human existence. What is more, we should introduce the value alignment and ethical adjustment of AI based on the concept of limited autonomy and interactive agent, so as to facilitate the analyzing of the meaning of artificial intelligence ethics and related ethical norms and standards, as well as the exploringof the necessary prudence in the heterogeneity practice of “science and technology-industry-ethics”.

artificial intelligence; ethics; agents; quasi-subjectivity; responsible innovation

段偉文：哲學(xué)博士，中國社會(huì)科學(xué)院哲學(xué)研究所研究員(北京 100732 )

(責(zé)任編輯林間)