機(jī)器之于人類(lèi)未來(lái)：受控還是替代

王楠

【摘 要】面對(duì)愈加頻繁呈現(xiàn)于大眾的“機(jī)器人恐慌”，本文嘗試從機(jī)器意識(shí)與生物意識(shí)的角度回答“機(jī)器是否會(huì)止于模仿人類(lèi)大腦”的問(wèn)題，并認(rèn)為機(jī)器無(wú)法替代人類(lèi)的主體性，而一時(shí)的“未來(lái)學(xué)”角度的恐慌可能會(huì)掩蓋更重要的問(wèn)題，即現(xiàn)階段AI發(fā)展對(duì)社會(huì)經(jīng)濟(jì)的影響，對(duì)AI的倫理和行為規(guī)范方面的政策需要政府、科學(xué)家、法律專(zhuān)業(yè)人士聯(lián)合制定。

【關(guān)鍵詞】機(jī)器意識(shí)；人類(lèi)意識(shí)；人工智能

中圖分類(lèi)號(hào)： TP18-02 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)： 2095-2457（2018）25-0264-002

DOI：10.19694/j.cnki.issn2095-2457.2018.25.121

【Abstract】In the face of an increasing amount of media coverage highlighting ‘Robo-phobia， this paper attempts to address the question ‘Will robots go beyond imitation？ from combined perspectives of biological and machine consciousness. It suggests that human agency cannot be transcended by machines. And the ‘futurist AI apprehension tends to mask a more significant issue： the wider socio-economic impact of AI at present. As regards AI policy-making， joint efforts are entailed among governments， scientists， law theorists and practitioners.

【Key words】Machine Consciousness； Human Consciousness； Artificial Intelligence

1 問(wèn)題的提出

自智人出現(xiàn)、國(guó)家形成、文明更迭以來(lái)，無(wú)論人類(lèi)處于何種歷史節(jié)點(diǎn)，總會(huì)以一種集體的方式抵御自然災(zāi)難、戰(zhàn)爭(zhēng)與疾病的威脅，這是面對(duì)動(dòng)態(tài)與變遷問(wèn)題時(shí)對(duì)生存和未來(lái)的回應(yīng)；而在相對(duì)靜態(tài)與穩(wěn)定的發(fā)展時(shí)期，總有一種強(qiáng)大的內(nèi)驅(qū)力催促人類(lèi)不斷突破現(xiàn)狀，不斷創(chuàng)造與變革。在技術(shù)革命的浪潮下，現(xiàn)代意義的機(jī)器于18世紀(jì)工業(yè)資本主義興起后誕生，是完美邏輯的具象化產(chǎn)物，人類(lèi)社會(huì)以一種比以往更加明確的問(wèn)題解決導(dǎo)向，在數(shù)學(xué)思想和物理理論的支撐下，以最高級(jí)的生物智慧創(chuàng)造機(jī)器，持續(xù)作用于機(jī)器的演化，使它愈加智慧，逼近理性的極致。

毋庸置疑，愈加智慧的機(jī)器將其與人類(lèi)命途聯(lián)結(jié)在一起，不僅有如硬幣的兩面，這種聯(lián)結(jié)是多面的，其中一面是人類(lèi)對(duì)“機(jī)器意識(shí)”是否會(huì)自我演化并最終異化于創(chuàng)造者藍(lán)圖的擔(dān)憂。人們對(duì)科技破壞力的思考伴隨工業(yè)革命的進(jìn)程而愈加頻繁，我們頻頻引用的“弗蘭肯斯坦”創(chuàng)作于機(jī)械化向電氣化過(guò)度的19世紀(jì)早期，從“圖靈預(yù)言”到Deep Mind團(tuán)隊(duì)開(kāi)發(fā)的新一代圍棋AI——“AlphaGo Zero”，超越算法、故障率和商業(yè)價(jià)值，人們比以往任何歷史時(shí)刻都更加關(guān)心機(jī)器制造者的動(dòng)機(jī)和“機(jī)器意識(shí)”。物理學(xué)家霍金認(rèn)為 AI“完全有可能超越人類(lèi)的智慧水平，AI的全面發(fā)展將使其擺脫人類(lèi)的控制，最終導(dǎo)致人類(lèi)的終結(jié)”；英國(guó)機(jī)器人專(zhuān)家渥維克斷言2050 年機(jī)器人必將統(tǒng)治人類(lèi)，將把人類(lèi)關(guān)在集中營(yíng)里（張勁松，2017）。對(duì)機(jī)器異化的恐慌在現(xiàn)今超級(jí)發(fā)達(dá)的媒體網(wǎng)絡(luò)中蔓延，技術(shù)本身無(wú)法回答內(nèi)生于技術(shù)的問(wèn)題，關(guān)于機(jī)器的哲學(xué)思考開(kāi)始拷問(wèn)機(jī)器潛在的“破壞力”。

維基百科將人工智能哲學(xué)（philosophy of artificial intelligence）試圖回答的問(wèn)題總結(jié)如下：第一，機(jī)器可以做出智能的行為嗎？它可以解決人類(lèi)通過(guò)思考來(lái)解決的任何問(wèn)題嗎？第二，人類(lèi)智能與機(jī)器智能一樣嗎？人類(lèi)大腦本質(zhì)上是計(jì)算機(jī)嗎？第三，機(jī)器可以擁有如同人類(lèi)一般的心靈、心境和意識(shí)嗎？機(jī)器能夠感知周遭事物嗎？

有鑒于此，本文將所有疑問(wèn)收斂在兩個(gè)問(wèn)題上，即“機(jī)器在未來(lái)將以何種方式與人類(lèi)互動(dòng)，機(jī)器會(huì)始終受控、依賴(lài)于人、平行于人類(lèi)社會(huì)的發(fā)展嗎，還是會(huì)“覺(jué)醒”，隨之而來(lái)的是自我演化、替代人類(lèi)？人類(lèi)對(duì)機(jī)器意識(shí)發(fā)展的擔(dān)憂是否過(guò)度，而掩蓋了更重要的制度、法律、倫理問(wèn)題？”

2 機(jī)器意識(shí)與生物意識(shí)

在過(guò)去數(shù)十年，意識(shí)的本質(zhì)成為諸多學(xué)科的研究焦點(diǎn)，如神經(jīng)科學(xué)、哲學(xué)和認(rèn)知科學(xué)，甚至有學(xué)者提出“也許在視覺(jué)感知、記憶和整個(gè)生物學(xué)領(lǐng)域最大的未解問(wèn)題就在與對(duì)意識(shí)的分析”。

2.1 意識(shí)與自我意識(shí)

不同學(xué)科對(duì)意識(shí)的解構(gòu)有不同的側(cè)重點(diǎn)：從哲學(xué)角度，意識(shí)是相對(duì)于物質(zhì)的精神現(xiàn)象；從醫(yī)學(xué)上講，意識(shí)是個(gè)體對(duì)環(huán)境和自我的認(rèn)知與反應(yīng)能力；心理學(xué)往往從覺(jué)知和個(gè)體對(duì)外部環(huán)境和內(nèi)在心靈的體驗(yàn)來(lái)關(guān)注意識(shí)；神經(jīng)科學(xué)對(duì)意識(shí)的研究往往將其視作大腦的一項(xiàng)功能，且意識(shí)的產(chǎn)生來(lái)自于神經(jīng)整合（neural integration）。

無(wú)論不同學(xué)科如何定義意識(shí)，其共識(shí)在于：意識(shí)具有生物性特征，是一種生命個(gè)體具備的能力。意識(shí)在生命個(gè)體中普遍的存在，但生物意識(shí)功能的復(fù)雜程度與生物個(gè)體的智能水平有直接關(guān)聯(lián)。自我意識(shí)正是生物意識(shí)序列中的高階意識(shí)，是一種內(nèi)省功能，一種反映個(gè)體內(nèi)心活動(dòng)的功能，內(nèi)省使個(gè)體持續(xù)獲知當(dāng)前的自我狀態(tài)（self-state），始終理解個(gè)體的需求以及需求的原因。

2.2 從生物意識(shí)到機(jī)器意識(shí)

人工智能領(lǐng)域?qū)C(jī)器意識(shí)的設(shè)計(jì)似乎嘗試使機(jī)器意識(shí)的發(fā)展模仿人類(lèi)意識(shí)發(fā)展的模式，即弱的意識(shí)與強(qiáng)的意識(shí)同時(shí)存在，強(qiáng)的機(jī)器意識(shí)是充分發(fā)展了的，能夠如同人類(lèi)一般解決已知或未知情境中的問(wèn)題。

周昌樂(lè)與劉江偉（2011）對(duì)機(jī)器意識(shí)的研究策略分別進(jìn)行人工智能哲學(xué)和腦科學(xué)領(lǐng)域的綜述，認(rèn)為機(jī)器意識(shí)的研究主要分為算法構(gòu)造策略和仿腦構(gòu)造策略：算法構(gòu)造策略在不考慮人類(lèi)腦機(jī)制的前提下，單純采用算法進(jìn)行機(jī)器意識(shí)研究；仿腦構(gòu)造策略則借鑒人腦意識(shí)的發(fā)生機(jī)制，利用生物物理原理來(lái)進(jìn)行機(jī)器意識(shí)研究。該研究同時(shí)回顧了Gamez提出的機(jī)器意識(shí)分類(lèi)體系：（1）具有意識(shí)表現(xiàn)的機(jī)器感知模型（MC-P）；（2）具有認(rèn)知特性及其行為表現(xiàn)的機(jī)器意識(shí)（MC-C）；（3）具有人類(lèi)意識(shí)相對(duì)應(yīng)機(jī)制的意識(shí)機(jī)器（MC-A）；（4）擁有自我感覺(jué)的機(jī)器意識(shí)（MC-S）；（5）擁有奇妙意識(shí)體驗(yàn)狀態(tài)的機(jī)器（MC-Q）。最帶有哲學(xué)爭(zhēng)議的機(jī)器意識(shí)體系即為第五種—擁有奇妙意識(shí)體驗(yàn)狀態(tài)的機(jī)器，這種意義上的機(jī)器不僅僅是意識(shí)研究的工具，而是真正具有意識(shí)體驗(yàn)的機(jī)器。

有學(xué)者提出7組機(jī)器意識(shí)測(cè)量的策略；還有學(xué)者（Zhang & Zhou， 2013）提出模仿自我意識(shí)的模型，包括外部環(huán)境、傳感組件、動(dòng)機(jī)組件、自我意識(shí)組件、行為組件，并通過(guò)機(jī)器仿真囚徒困境游戲?qū)σ陨辖M件進(jìn)行檢驗(yàn)，將意識(shí)過(guò)程視作黑箱，最終結(jié)果顯示傳感組件、動(dòng)機(jī)組件和行為組件被忽略，信息的輸入輸出鏈能夠被理解為具有意識(shí)的能動(dòng)者（conscious agent）。

3 機(jī)器無(wú)法替代人類(lèi)的主體性

如果仿腦構(gòu)造策略能夠強(qiáng)大到通過(guò)神經(jīng)建模使機(jī)器具有意向性意識(shí)能力（環(huán)境感知、認(rèn)知推理、語(yǔ)言交流、想象思維、情感發(fā)生、行為控制），那接下來(lái)需要考慮的是未來(lái)的人工智能是否有可能替代人類(lèi)的主體性。

有研究在對(duì)人工智能邏輯思維能力提升和感性存在模擬進(jìn)行分析的基礎(chǔ)上，進(jìn)而提出“人工智能無(wú)法替代人類(lèi)主體性”的結(jié)論（張勁松，2017）：第一，人工智能對(duì)于思維能力的強(qiáng)化和延伸是有界限的，無(wú)法超越人類(lèi)思維和意識(shí)的整體性，人類(lèi)制造機(jī)器并決定其特性和功能，人類(lèi)思維和AI永遠(yuǎn)是模擬與被模擬、操控與被操控之間的關(guān)系，人類(lèi)大腦是AI可以無(wú)限接近但不可逾越的地平線；第二，AI對(duì)于人類(lèi)感官的模擬仍然處于機(jī)械化階段，無(wú)法產(chǎn)生完整的人類(lèi)感覺(jué)和思維，中文屋（Chinese Room）實(shí)驗(yàn)一方面支持了前文所述MC-Q研究范式的結(jié)論，另一方面表明，即便擁有強(qiáng)大的算法，“屋里”的“偽裝者”仍不能理解人類(lèi)的自然語(yǔ)言，“如果心當(dāng)真是一臺(tái)計(jì)算機(jī)，它的運(yùn)算必須用語(yǔ)法來(lái)定義，然而思想、意識(shí)、感情、情緒以及其他心理特征遠(yuǎn)非語(yǔ)法所能定義。不管計(jì)算機(jī)的模擬能力有多強(qiáng)，它也不能復(fù)制那些特征”。

Dubhashi，D.&Lappin;，S.（2017）在對(duì)“奇點(diǎn)”（singularity）概念進(jìn)行駁辨時(shí)，指出大量由AI驅(qū)動(dòng)的技術(shù)工作實(shí)在尋求解決特定的任務(wù)，而不是對(duì)一般性的人類(lèi)智能進(jìn)行建模，大多“人工智能威脅論”描述的既已存在的風(fēng)險(xiǎn)僅僅有賴(lài)于邏輯上的可能性，已經(jīng)是時(shí)候?qū)I倫理和道德問(wèn)題進(jìn)行思考，對(duì)其社會(huì)影響進(jìn)行評(píng)估，需要政府與技術(shù)精英、法律專(zhuān)家的聯(lián)合，來(lái)制定目前或不遠(yuǎn)的將來(lái)會(huì)普遍使用的無(wú)人駕駛汽車(chē)、醫(yī)護(hù)機(jī)器人的實(shí)施政策，需要有明確的制度保障對(duì)AI背后的編程過(guò)程和程序本身進(jìn)行倫理審查。

4 結(jié)論

本文認(rèn)為，AI的發(fā)展仍處于初級(jí)階段，機(jī)器之于人類(lèi)未來(lái)的確具有極強(qiáng)的不確定性，但機(jī)器無(wú)法替代人類(lèi)的主體性，機(jī)器的道德、倫理問(wèn)題并不新穎，它映射人類(lèi)社會(huì)的道德與倫理，面對(duì)“想象中的”或“可能成為事實(shí)”的奇點(diǎn)“危險(xiǎn)”，人類(lèi)社會(huì)能夠?qū)θ斯ぶ悄艿陌l(fā)展做出倫理審查和風(fēng)險(xiǎn)預(yù)判，能夠?qū)θ斯ぶ悄芘c社會(huì)、政治、文化的交互影響作出分析，正如同歷次工業(yè)（技術(shù)）革命對(duì)人類(lèi)社會(huì)的影響，人工智能作為新技術(shù)革命中的重要構(gòu)件，或許會(huì)成為未來(lái)人類(lèi)文化的重要組成部分，但機(jī)器絕非生物，人的邏輯力量和正義感會(huì)將非道德性的人工智能技術(shù)始終置于人類(lèi)制度文明的牢籠。

【參考文獻(xiàn)】

[1]張勁松.人是機(jī)器的尺度—論人工智能與人類(lèi)的主體性[J].自然辯證法研究，2017，33，（1）：49-54.

[2]周昌樂(lè)，劉江偉.機(jī)器能否擁有意識(shí)—機(jī)器意識(shí)研究即其意向性分析[J].廈門(mén)大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2011，（1）：1-21.

[3]Arrabales.R.，et.al.Strategies for Measuring Machine Consciousness[J].International Journal of Machine Consciousness， 2009，01，（2）：1-9.

[4]Dubhashi，D.&Lappin;，S.AI Dangers：Imagined and Real[J].COMMUNICATIONS OF THE ACM，2017，（2）：43-45.

[5]https：//en.wikipedia.org/wiki/Philosophy_of_artificial_intelligence.

[6]https：//mp.weixin.qq.com/s/ndhuxanY-Dpyv0eA8G8hWQ.

[7]Zhang，X.Y.，Zhou，C.L.From Biological Consciousness to Machine Consciousness：An Approach to Make Smarter Machines[J].International Journal of Automation and Computing，2013，10， （6）：498-505.