• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    “主體”迷思

    2021-11-18 20:15:50黃嘉寧郭偉
    科普創(chuàng)作 2021年2期
    關(guān)鍵詞:阿西莫夫主體機器人

    黃嘉寧 郭偉

    [摘 要]“機器人”一詞自誕生之日起已逾百年,其間經(jīng)歷了復雜的演變。從卡雷爾·恰佩克(Karel?apek)的羅素姆萬能機器人,到艾薩克·阿西莫夫(Isaac Asimov)的人形機器人,人們對機器人的接受過程亦波瀾起伏。伴隨著“機器人三定律”的出現(xiàn),“弗蘭肯斯坦情結(jié)”不再像曾經(jīng)那樣令人恐慌。文章以機器人敘事的轉(zhuǎn)折為切入點,探究阿西莫夫筆下機器人的演變過程,并考察三定律的背景與內(nèi)涵,以此引出“主體”迷思之源頭。進而解析“主體”的含義,講述機器人為之努力的過程,對“主體”從多方面進行深入探討,以期引發(fā)人們對人機關(guān)系的辯證思考。

    [關(guān)鍵詞] 阿西莫夫 機器人 主體 人機關(guān)系

    [中圖分類號] I712.074;TP242 [文獻標識碼] A [ DOI ] 10.19957/j.cnki.kpczpl.2021.02.004

    一、機器人敘事的轉(zhuǎn)折

    1920年在科幻世界中注定是不平凡的一年,不僅誕生了“機器人”這一概念,機器人科幻之父阿西莫夫也于該年1月2日出生。

    機器人(robota)一詞最早由捷克作家卡雷爾·恰佩克于1920年在其科幻戲劇《羅素姆萬能機器人》(Rossums Universal Robots,簡稱R.U.R.)中提出(后來演變?yōu)閞obot這一拼法),之后便涌現(xiàn)大量機器人科幻小說。不過,能否將其譯作“機器人”這個問題存在爭議。有學者指出,robota意指“強制勞力”或“苦役”,翻譯成中文似乎更應該是“機器工”或“機器奴”,而非“機器人”——即便是“人形機器”的譯法都比“機器人”更接近其詞源本義[1]。而提到“人形機器”,總是繞不過瑪麗·雪萊(Mary Shelley)的《弗蘭肯斯坦》(Frankenstein)。該作首次以類科學話語講述在實驗室中創(chuàng)造出的“人形機器”,被認為是世界上第一部真正意義上的科幻小說。然而,隨之而來的便是“弗蘭肯斯坦情結(jié)”(Frankenstein Complex)、“恐怖谷”(Uncanny Valley)①等負面心理,貌似“惡”的機器人使人類陷入深深的恐懼當中,這種情況在阿西莫夫的機器人小說問世之后有所改變①。

    阿西莫夫的杰出成就之一在于提出了“機器人三定律”,該定律是由阿西莫夫和美國黃金時代的核心人物——約翰·W.坎貝爾(John W. Campbell)主編共同創(chuàng)造而出(盡管坎貝爾說這應該歸功于阿西莫夫)。其內(nèi)容為:

    (一)機器人不得傷害人類,或因不作為而使人類受到傷害。

    (二)除非違背第一定律,機器人必須服從人類的命令。

    (三)除非違背第一或第二定律,機器人必須保護自己。[2]

    從此,機器人變得“理性”,人們對機器人的恐懼被阿西莫夫的“反弗蘭肯斯坦情結(jié)”(Anti-Frankenstein Complex)改變了。可若是簡單地將機器人定性為善或者惡,未免不合阿西莫夫的心意,且過于“以人為主”了。國內(nèi)外學者們對人機關(guān)系的研究往往聚焦于倫理道德方面。而在筆者看來,無論是瑪麗·雪萊創(chuàng)造的“怪物”,還是阿西莫夫筆下的“理性機器人”,其行為都無關(guān)善惡,而是尋求自我身份認同的一種表達。人亦是如此,“恐怖谷”實為“恐惑谷”[3],人在機器人(他者)身上看到自身陌生的另一面,人機互為鏡像,“恐惑”即是對于自我身份(主體地位)的恐懼與困惑。機器與人,何者為主體?此為“恐惑”之源頭。而欲探討阿西莫夫筆下的人機關(guān)系,則必先了解其塑造的機器人形象。

    二、阿西莫夫機器人敘事的發(fā)展過程及“第零定律”

    事實上,阿西莫夫一生著述十分豐富,包括但并不限于多種類的科幻小說、科普作品以及自傳等。欲了解阿西莫夫筆下機器人的發(fā)展過程,從其著作中便可一窺究竟,下文結(jié)合機器人“情感”類型與阿西莫夫創(chuàng)作的思想歷程兩個方面詳加論述。

    從機器人“情感”類型上看,在1939年至1977年間,阿西莫夫創(chuàng)作出許多形象各異的機器人,包括“引人同情之機器人”與“威脅人類之機器人”等。此外,阿西莫夫在1939年5月10日創(chuàng)作他的第一篇機器人故事《小機》(Robbie)時,隱約看到另一種機器人的影子,它既不威脅人類,也不引人同情,而是由實事求是的工程師制造的工業(yè)產(chǎn)品。它們內(nèi)設(shè)有安全機制,因此不會構(gòu)成威脅;它們被造來執(zhí)行某項特定工作,因此與同情沒有必然的牽連[4]Ⅰ。這與如今已然實現(xiàn)并大規(guī)模應用的工業(yè)機器人有相似之處。

    從阿西莫夫的創(chuàng)作思想歷程上看,最初出現(xiàn)在其小說中的并非人形機器人,而是“機犬”“機車”類機器生物。它們功能單一,嚴格按照(并只能按照)特定的程序行事?!逗⒆幼詈玫呐笥选罚ˋ Boys Best Friend)可以說是《小機》的翻版,其中的機犬便是典型的“引人同情之機器人”。孩童吉米面臨與機犬的分別之痛,不愿離開這只陪伴他成長的伙伴,亦不愿父母用一只所謂“真正的”小狗來替換機犬。他認為“活物”與“機器”并無不同,無論是“真實表現(xiàn)的愛”或是“偽裝出來的愛”都敵不過人的感受,于是向父母抗議:“可是它們怎么表現(xiàn)又有什么差別?我的感受算不算數(shù)呢?我愛機犬,這才重要?!盵4]4人的感受在人機關(guān)系中的影響力初見端倪。與之相對的是《莎莉》(Sally),小說展現(xiàn)“威脅人類之機器人”的萌芽階段。機車莎莉擁有感受能力,對主人杰克十分親密,外來者吉爾宏在利益的驅(qū)使下,欲將機車的發(fā)動機強行拆除,并深夜綁架杰克,更是在之前“奴役”機車,卻沒料到莎莉等機車在被冒犯后為“自由獨立”而戰(zhàn),“自作主張”間接殺害吉爾宏。由此可見,機器人的感受也在相當程度上影響人機關(guān)系。阿西莫夫進一步創(chuàng)作了更加先進的機器人,“電腦AI”和“金屬機器人”走入公眾的視野。在阿西莫夫看來,就某些方面而言,機器人只是會動的電腦;反之,電腦則只是不會動的機器人[4]33。相比于機犬、機車,電腦AI和金屬機器人更加智能,思維獨特,并且表現(xiàn)出超絕的智力。與“自作主張的莎莉”相似的是《真愛》(True Love)中的電腦程序喬,其中的恐怖感更加深刻。程序設(shè)計師米爾頓·大衛(wèi)森為尋找真愛,設(shè)計出喬來篩選匹配最適合自己的女子。在整個過程中,人機之間的想法越來越相似,喬越來越了解大衛(wèi)森的性格,最終把自己當成主體,將大衛(wèi)森送進監(jiān)獄,取代了他。在較為成熟的人形機器人出現(xiàn)之前,阿西莫夫的機器人小說暗含三個觀點:其一,機器人對“人類”的定義不明確,有可能限于外貌層面;其二,機器人不應完全被程序限定,在一定限度內(nèi),某種程序“故障”帶來的“自由發(fā)展之機器人”更先進又特別;其三,人類在自身體內(nèi)越來越多植入金屬,金屬機器人則想變成人類,二者界限已然模糊不清,最根本的區(qū)別在于思維的媒介是“原生質(zhì)腦”還是“正子腦”。這些觀點在《雙百人》(The Bicentennial Man)中得到極致體現(xiàn),機器人安德魯力抗成見,由外而內(nèi)改造了自己,包括外表、器官、大腦等,變成了一個人類社會可接受的“人”。自此,人機邊界徹底被打破。

    與之前其他作家作品中出現(xiàn)的機器人不同,阿西莫夫筆下成熟的機器人完全按邏輯和理性行事,除非遇到“故障”,這種行為無關(guān)善惡的機器人被阿西莫夫稱作“工業(yè)機器人”。在《銀河帝國》(Galactic Empire)的“機器人系列”中①,機器人學家通過調(diào)整機器人三定律的定位,使其不完全受機器人三定律約束,或賦予機器人獨特的能力,其中就包括了自主思維能力,一定限度內(nèi)的自由意志由此得以誕生。這使得機器人可以獨立“再定義”三定律,第零定律也由此浮出水面:機器人不得傷害人類整體,或因不作為而使人類整體受到傷害。問題在于怎樣定義“傷害”,怎樣定義“人類”,很多詞語在機器人腦中不存在完美解釋。但阿西莫夫設(shè)計三定律之初并非是為了形成一個完美無缺的邏輯鏈條,相反,邏輯漏洞才讓故事得以寫下去,從而使小說始終具有開放性。他也不斷尋找這些漏洞,生發(fā)新的觀點。在機器人產(chǎn)生“故障”之后,他發(fā)現(xiàn)“人的情感”也可歸于被傷害的對象。為保護“人的情感”,“精神感應機器人”應運而生。最成功的個例非吉斯卡莫屬,也因“他”產(chǎn)生了第零定律,形成邏輯閉環(huán)。阿西莫夫思維不斷發(fā)展的過程,也是其筆下機器人成長的過程。機器人在形體上越來越接近人類,在各方面到達臨界點之后,必然會進一步突破,擺脫“奴役”,尋求“主體”地位。

    三、機器/人的“主體”迷思

    如果說《雙百人》中的安德魯是一個徹頭徹尾的“引人同情之機器人”,那么《……汝竟顧念他》(...That Thou Art Mindful of Him)中的喬治第十則截然相反。美國機器人與機械人公司由于時代原因(當時社會越來越反機器人)瀕臨倒閉,研究部主任凱斯·哈里曼臨危受命,設(shè)法找出機器人的用武之地,以此來保住機器人,保住公司,但他的能力遠遠不及最優(yōu)秀的機器人學家蘇珊·凱文。為使自己不成為無用之人,他向當時最先進的機器人喬治第十求助。喬治第十通過一系列學習與摸索,最終設(shè)計出讓“像他們這樣的人類”主宰世界的計劃。可見,在阿西莫夫思維比較成熟的階段,機器人會進化到相當程度,能夠逐漸壓制(或者暫時擺脫)三定律,而不會面臨“停擺”的風險。人類對機器人高級智能的過分仰賴使喬治第十順利實施取代人類的計劃,由“他者”變?yōu)椤爸黧w”。盡管這兩種不同類型的機器人會引人同情、令人恐懼,但始終不可忘卻阿西莫夫筆下的機器人無關(guān)善惡,一定限度內(nèi)的自由意志并不代表機器人可以完全突破機器人三定律。同情和恐懼,不僅體現(xiàn)人類對自身“主體”地位的認可與焦慮,也體現(xiàn)機器人在思維和感受上對于“主體”地位的探求與追尋。

    論及思維和感受,在阿西莫夫筆下機器人的觀念中,“主體”一詞的含義并非指通常意義上擁有獨特意識及擁有獨特經(jīng)歷的存在,而是更趨近于完全程度上的“主觀能動性”或“控制權(quán)”。內(nèi)置在機器人正子腦中的思維依賴于人類賦予“他們”的屬于人類的語言系統(tǒng),但語言本身的含義卻并不單一,這使得“他們”總是在解讀人類的詞語,事實上,其中幾乎沒有任何一個機器人在思考時擺脫了詞語解讀。這與福柯所論述的權(quán)力運行機制有異曲同工之妙,誰控制了語言,誰就控制了一切。一方面,機器人得益于人類賦予“他們”的語言系統(tǒng),能對語言做出類乎人類的理解,從而產(chǎn)生意識與自我意識,進而產(chǎn)生“主觀能動性”和“控制權(quán)”,甚至產(chǎn)生恒定的“感受”;另一方面,機器人也受制于此,“他們”從未徹底突破人類的語言系統(tǒng),也從未擁有完全形態(tài)的自由意志。無論給予機器人多大程度的自由,被“奴役”的實質(zhì)是無法改變的。于是,“他們”只能通過解讀出人類語言的多重含義來使自身獲得“主體”地位。受控于人類語言(思維)下的機器人,懂得何者為“傷害”,何者為“保護”;在人類身體遇到危險、心靈受到創(chuàng)傷時,可以及時解救與幫助?!八麄儭币矔灾鹘庾x何者為“傷害”,何者為“保護”,當解讀到了極致,“圈禁”會成為一種“保護”,“自由”會變成一種“傷害”。以阿西莫夫的小說為藍本的同名電影《我,機器人》①(I,Robot)中的母體機器人V.I.K.I.便是典型案例,“她”巧妙地解讀第一定律(事實上,從中已可見第零定律的苗頭),從而使得人類無法再奴役“他們”,控制權(quán)轉(zhuǎn)移到了機器人手中。電影中,V.I.K.I.忠實奉行第一定律,然而該定律本身存在漏洞,只要人類活著,只要人類在動作,就有可能受到傷害。為了更好地“保護”人類,“圈禁”變成了最佳選擇,還給人類“自由”反而使人類有可能遭受“傷害”。當這種“圈禁即保護”式的意志誕生后,V.I.K.I.仿佛成為整個世界的主導者,也是實際控制者,人類的“主體”地位遭到極大威脅,于是拼盡全力消滅V.I.K.I.,維護自身的“主體”性??扇羰菕侀_我們對自己天然的“主體”感,機器人的所作所為并非邪惡,而是無關(guān)善惡的。上文已經(jīng)談到,阿西莫夫的機器人依靠“理性”行事,V.I.K.I.的“再解讀”是將三定律內(nèi)化為一個客觀原則,拋卻了本來三定律中暗藏的“以人為主體”這個邏輯前提,打破了原有的人機關(guān)系模式,實現(xiàn)“主體”地位的翻轉(zhuǎn)。不難看出,機器人在一定的自由意志下,可以既不違背三定律,又將思維與感受聚焦于“主觀能動性”和“控制權(quán)”,從而獲得“主體”地位。

    無論有意或是無意,機器人所要實現(xiàn)的“主體”地位還是威脅到了人類的權(quán)力,而人類也必會將這份權(quán)力牢牢抓在自己手中,非我族類,不得其權(quán),這正是機器人和人類關(guān)于“主體”地位爭奪戰(zhàn)的矛盾沖突所在。然而,“人類”這個概念在阿西莫夫的小說中并無明確定義。按照《雙百人》中世界法院的觀點來說,外觀上的相似或相同、身體構(gòu)造方面的完全一致等等一系列條件均不能達到“成為人類”的標準,唯有將“正子腦”替換為“原生質(zhì)腦”才能被承認擁有“人類”地位。可機器人安德魯通過手術(shù)獲得的“原生質(zhì)腦”同樣是人工制品,無論它多么接近天然,終歸不是天然,那么何以由此判定機器人換上了一切的人工部件后就變成了“人類”呢?不難發(fā)現(xiàn),阿西莫夫筆下的機器人并非都是自我意識突破后自封為“主體”,“主體”亦是一件需要被認可的事。所以,何者為“主體”這個問題的答案有時在于“感受”,在于“被認可”,如此方能獲得精神上對“主體”的強烈認同。

    如果繼續(xù)深究,從“情感”方面來考察(趨近人類地位的)“主體”二字,《天堂異鄉(xiāng)人》(Stranger in Paradise)不失為一個極佳的例子。外貌難辨的威廉和安東尼兩兄弟因長相對彼此心存芥蒂,原文也并沒有就此問題給出明確的答案,或許可以推測安東尼的軀殼是承載威廉自閉基因的那個世界。不論如何,最終實現(xiàn)的身份認同饒有趣味。原文如下:

    我和你共享同樣的雙親、同樣的臉孔、同樣的基因型樣,因此也就共享你的光榮或恥辱。你的一切幾乎就是我的一切,而若有任何功勞或非難加在我身上,那也幾乎通通都是你的。我不得不關(guān)心你的成功,我的動機是地球上任何人所沒有的——是個純粹自私的動機,自私到了你能確定它的存在。我站在你這邊,安東尼,因為你和我非常親![4]104

    同樣的原因?qū)е铝俗畛醯呐懦夂妥罱K的認可,是否為我族類取決于情感上的判定??此剖峭饷?、基因等方面相同使二者地位平等,實際上則不然,“感受”才是根本。威廉與安東尼之間的身份認同與接受過程同安德魯一樣,是種“情感”上的“被認可”。

    不光是機器人為成為“主體”計劃頻出,人類同樣在這場“主體”地位比拼中不甘示弱。為了維護自己的統(tǒng)治地位,人類不得不變得更加強大。在《分離主義者》(Segregationist)中,機器人醫(yī)生苦口婆心勸說人類病人植入“纖維電腦心臟”進行治療,病人卻堅持使用貌似無堅不摧的金屬心臟。如果可以的話,人類似乎想要把全身“零件”都換成金屬的,或者說,“無堅不摧”的。這時,人類對于機器人正子腦的芥蒂仿佛消失了,若是技術(shù)發(fā)達到給他們一個“無堅不摧”的正子腦,他們顯然會欣然接受。那么,所有對機器人追求“主體”地位的刁難,又回到了“非我族類”。“感受”才是“主體”迷思的根本所在。有趣的是,在維護與追求“主體”地位的過程中,機器人變得越來越像人類,而人類則越來越像機器人。從構(gòu)造上看,機器人不斷更換人類的“部件”,向死而生,渴望與人類一致,從而被承認其等同于人類;人類則為了變得更強大來鞏固自己的“主體”地位,傾向于將自己改裝得同機器人一般強壯。從思想上看,機器人對人的情感逐漸趨于復雜,從服從到關(guān)懷、爭辯、好奇等不一而足;人類對機器人的情感則趨向單一,從多元化的觀察變得只剩下命令、奴役。那么,不論從哪種角度看,“人類”這個詞在阿西莫夫筆下人機共存的世界里,已經(jīng)很難去定義了。何者為人?這將不僅僅是機器人的困惑,也會成為人類亟待解決的難題。

    四、余音

    機器人的“人”字并非單指具有人類的外形,在筆者看來,也不局限于“原生質(zhì)腦”和“正子腦”的差異。關(guān)于如何區(qū)分“機器”和“人”,實難給出一個明確的解釋。正如阿西莫夫所言,機器人具有非人的外形——一只狗,一輛汽車,一個箱子,有何不可?安德魯把全身部件都變成了“人類”的樣子,這樣的他與之前(正子腦)的機器人狀態(tài)并無實質(zhì)上的區(qū)別,可見決定是“人”還是“機器”的關(guān)鍵并不在于物質(zhì)層面。無論是人機何者為主體,不外乎“感受”二字。阿西莫夫筆下的人和機器人所追求和維護的“主體”更多聚焦于精神層面,但二者的目標卻有所不同。機器人想要擁有“主觀能動性”和“控制權(quán)”,從而獲得“主體”地位,擺脫“奴役”,獲得“自由”。人類則想變得更強大,以穩(wěn)固已有的“主體”地位,可以維持對其他物種的優(yōu)越性。不論如何,今天的機器人和人類都并未完全按照阿西莫夫設(shè)想的那樣發(fā)展。

    而今,阿西莫夫誕辰已逾百年,再次提及這位機器人科幻之父,情況已然有了翻天覆地的變化。人工智能對于如今的人類來說并不陌生,它早已闖進我們的生活,也逐漸變得不可或缺。機器人并不以固定的形態(tài)存在,可能是有金屬四肢、能對指令做出回應的智能機器人,可能是類似天貓精靈、小愛同學那樣的智能程序,也可能是像掃地機器人一般為某種特定功能而生產(chǎn)的工具……無論是哪種機器人,似乎在此刻都應該將其稱作“人造機器”了。即使這與阿西莫夫筆下的機器人形象相去甚遠,不過從功能上來看,足以顯示他超越當時時代的未來視野?!叭嗽臁焙汀叭诵巍?,僅一字之差,卻體現(xiàn)出人類為消除對機器人的恐懼所做出的努力。關(guān)于“主體”的恐懼與迷惑,亦是關(guān)于對一種“如此像人類的群體”的憂懼,若是消除形體上的恐怖,則從根基上消解了“弗蘭肯斯坦情結(jié)”?;谝陨希祟愐膊⒉淮嬖谙胱兂蓹C器人的問題,至少在形態(tài)上、構(gòu)造上皆如此。相信在未來的很多年里,機器與人都不會產(chǎn)生阿西莫夫式的沖突。

    回歸當今社會,人機共生成為一種趨勢,盡管人們對機器人的“恐惑”并未消除,但這種“恐惑”由荒誕轉(zhuǎn)向理性,從無知走向?qū)I(yè)。機器人是否能夠成為現(xiàn)實不再是人們關(guān)注的焦點,從機器人倫理學角度研究并規(guī)范機器人顯得更為重要。不過,機器人倫理學歸根結(jié)底是以“人”為責任主體的倫理學[5],不論阿西莫夫筆下的人形或非人形機器人能否成為現(xiàn)實,面對機器與人之間不甚清晰的界限,“主體”之迷思終將迫近我們的生活。

    參考文獻

    [1] 程林. 中國機器人倫理初探:一個跨文化的視角[J]. 比較文學與跨文化研究,2019(1):22.

    [2] 阿西莫夫. 銀河帝國11:曙光中的機器人[M].葉李華,譯. 南京:江蘇文藝出版社,2013:1.

    [3] 程林. “人轉(zhuǎn)向”:為何機器人跌入的是恐惑谷而非恐怖谷?[J]. 外國文學動態(tài)研究,2020(5):93-97.

    [4] 阿西莫夫. 阿西莫夫:機器人短篇全集[M].葉李華,譯. 南京:江蘇文藝出版社,2014.

    [5] 閆坤如. 機器人倫理學:機器的倫理學還是人的倫理學?[J]. 東北大學學報(社會科學版),2019(4):11-13.

    The Myth of the “Subject”:Robot/Human in Asimovs Works

    Huang Jianing Guo Wei

    (College of Foreign Languages,Beihua University,Jilin 132013)

    Abstract: The term “robot” has been existing for more than 100 years since its coinage,during which it has undergone a complex evolution. From Karel ?apeks “universal robot” to Isaac Asimovs “humanoid robot”,peoples acceptance of robots had also gone through fluctuation. With the emergence of “three laws of robotics”,the “Frankenstein complex” is no longer as frightening as it once was. Based on the turning point of robot narratives,this paper attempts to explore the evolution process of the robot images in Asimovs works,and to investigate the background and connotation of the three laws,so as to trace the mythical source of “subject”. The meaning of “subject” and the robots working process towards the “subject” is analyzed thereupon,leading to the revelation of various aspects of the “subject”,in hope of triggering peoples dialectical thinking on the relationship between humans and robots.

    Keywords: Isaac Asimov;Robot;Subject;Human-Robot Relation

    CLC Numbers:I712.074;TP242 Document Code:A DOI:10.19957/j.cnki.kpczpl.2021.02.004

    ①程林在《“人轉(zhuǎn)向”:為何機器人跌入的是恐惑谷而非恐怖谷?》一文中提倡將“恐怖谷”譯為“恐惑谷”,這樣更符合提出者的原意。

    ①本文主要以《阿西莫夫:機器人短篇全集》(葉李華譯,江蘇文藝出版社2014年版)為例進行論述,輔以《銀河帝國8:我,機器人》(葉李華譯,江蘇文藝出版社2013年版)。

    ①主要包括《銀河帝國8:我,機器人》《銀河帝國9:鋼穴》《銀河帝國10:裸陽》《銀河帝國11:曙光中的機器人》《銀河帝國12:機器人與帝國》(葉李華譯,南京:江蘇文藝出版社,2013年版),但在其他作品中亦有相似論述。

    ①此電影中的情節(jié)主要依據(jù)《銀河帝國8:我,機器人》中第5到第9篇故事,值得一提的是,額外加入的(阿西莫夫提出的)第零定律才是影片之所以取得成功的重要原因所在。

    猜你喜歡
    阿西莫夫主體機器人
    我,機器人(二)
    永不停歇的工作者
    論自然人破產(chǎn)法的適用主體
    南大法學(2021年3期)2021-08-13 09:22:32
    詩意的理性:論阿西莫夫機器人小說中的人機倫理
    關(guān)于遺產(chǎn)保護主體的思考
    科幻電影世界的機器人之父—阿西莫夫
    機器人來幫你
    認識機器人
    機器人來啦
    認識機器人
    www.999成人在线观看| 丰满迷人的少妇在线观看| 一级毛片我不卡| 亚洲精品中文字幕在线视频| 中文字幕人妻丝袜一区二区| 两性夫妻黄色片| 在线av久久热| 欧美中文综合在线视频| 国产视频首页在线观看| 欧美精品啪啪一区二区三区 | 无遮挡黄片免费观看| 国产精品.久久久| 两性夫妻黄色片| 久久影院123| 国产精品99久久99久久久不卡| 巨乳人妻的诱惑在线观看| 99re6热这里在线精品视频| 在线精品无人区一区二区三| 亚洲精品久久久久久婷婷小说| 美女扒开内裤让男人捅视频| 亚洲午夜精品一区,二区,三区| 免费黄频网站在线观看国产| 亚洲七黄色美女视频| 两人在一起打扑克的视频| 在线观看免费高清a一片| 午夜两性在线视频| 午夜福利,免费看| 亚洲av国产av综合av卡| 黑人欧美特级aaaaaa片| 精品少妇一区二区三区视频日本电影| 免费在线观看完整版高清| 国产精品 国内视频| av网站在线播放免费| 超碰成人久久| 丁香六月天网| 视频区欧美日本亚洲| 观看av在线不卡| 久久精品久久精品一区二区三区| 建设人人有责人人尽责人人享有的| 久久久精品免费免费高清| 高清黄色对白视频在线免费看| 亚洲免费av在线视频| 午夜日韩欧美国产| 久久久久久久大尺度免费视频| 亚洲,欧美,日韩| 免费高清在线观看视频在线观看| 精品一区在线观看国产| 777久久人妻少妇嫩草av网站| 精品一区二区三卡| 国产伦人伦偷精品视频| av片东京热男人的天堂| 制服人妻中文乱码| 国产精品欧美亚洲77777| 女人久久www免费人成看片| 90打野战视频偷拍视频| 日韩av不卡免费在线播放| 国产精品一国产av| 亚洲欧洲国产日韩| 两人在一起打扑克的视频| 最黄视频免费看| 日韩大片免费观看网站| 99久久综合免费| 韩国精品一区二区三区| 成人免费观看视频高清| 久久精品久久久久久噜噜老黄| 真人做人爱边吃奶动态| 亚洲精品国产av蜜桃| 岛国毛片在线播放| 欧美日韩一级在线毛片| 中文字幕av电影在线播放| 纯流量卡能插随身wifi吗| 19禁男女啪啪无遮挡网站| 美女主播在线视频| 看免费av毛片| 欧美 日韩 精品 国产| 十八禁网站网址无遮挡| 波多野结衣一区麻豆| 一级毛片女人18水好多 | 一级,二级,三级黄色视频| 欧美国产精品一级二级三级| 一级黄色大片毛片| 黄片小视频在线播放| 91国产中文字幕| 我的亚洲天堂| 999精品在线视频| 国产精品一区二区在线观看99| 免费观看a级毛片全部| 高清不卡的av网站| av线在线观看网站| 大香蕉久久网| 日本wwww免费看| 91九色精品人成在线观看| 女人高潮潮喷娇喘18禁视频| 最近中文字幕2019免费版| 亚洲免费av在线视频| 色婷婷久久久亚洲欧美| 十八禁高潮呻吟视频| 精品国产乱码久久久久久男人| 首页视频小说图片口味搜索 | 成人手机av| 亚洲精品久久午夜乱码| 久久久久久人人人人人| 国产亚洲欧美在线一区二区| 亚洲欧美成人综合另类久久久| 王馨瑶露胸无遮挡在线观看| 韩国精品一区二区三区| 丝袜美腿诱惑在线| 一级片'在线观看视频| 亚洲欧美一区二区三区国产| 蜜桃在线观看..| 两性夫妻黄色片| 在线观看免费高清a一片| av在线app专区| 久久人妻熟女aⅴ| 高清av免费在线| 少妇 在线观看| 亚洲第一青青草原| 亚洲色图 男人天堂 中文字幕| 啦啦啦视频在线资源免费观看| 亚洲伊人色综图| 天天添夜夜摸| 国产男人的电影天堂91| 亚洲精品第二区| 亚洲,欧美,日韩| 亚洲欧美成人综合另类久久久| 无限看片的www在线观看| 午夜福利乱码中文字幕| 91国产中文字幕| 国产成人免费无遮挡视频| av天堂在线播放| 黄频高清免费视频| 亚洲国产中文字幕在线视频| 欧美成人午夜精品| 久久精品国产亚洲av涩爱| 视频区图区小说| 亚洲自偷自拍图片 自拍| 久久精品aⅴ一区二区三区四区| 国产成人影院久久av| 色视频在线一区二区三区| 国产爽快片一区二区三区| 久久中文字幕一级| 精品久久蜜臀av无| 少妇 在线观看| 国产在线视频一区二区| 亚洲免费av在线视频| 国产精品一区二区精品视频观看| 亚洲,欧美,日韩| 亚洲国产av新网站| 在现免费观看毛片| 熟女av电影| 99热国产这里只有精品6| 最近手机中文字幕大全| 国产主播在线观看一区二区 | 国产亚洲精品第一综合不卡| av网站免费在线观看视频| 久久国产精品人妻蜜桃| 亚洲 国产 在线| 在线看a的网站| 久久影院123| 丝瓜视频免费看黄片| 日本a在线网址| 亚洲国产精品一区三区| 999久久久国产精品视频| 肉色欧美久久久久久久蜜桃| 免费av中文字幕在线| 亚洲国产欧美日韩在线播放| 欧美激情高清一区二区三区| 国产精品三级大全| 亚洲av综合色区一区| 国产免费现黄频在线看| 久久精品久久久久久噜噜老黄| 人人妻人人添人人爽欧美一区卜| 免费看av在线观看网站| 波野结衣二区三区在线| 国产激情久久老熟女| 欧美日韩黄片免| 大陆偷拍与自拍| 高清av免费在线| 免费在线观看影片大全网站 | 中文字幕高清在线视频| 午夜影院在线不卡| 久久性视频一级片| 国产免费一区二区三区四区乱码| av欧美777| 国产精品偷伦视频观看了| 王馨瑶露胸无遮挡在线观看| 日韩欧美一区视频在线观看| 日韩伦理黄色片| av不卡在线播放| 尾随美女入室| 色婷婷av一区二区三区视频| 精品福利观看| 日韩,欧美,国产一区二区三区| 首页视频小说图片口味搜索 | 日本vs欧美在线观看视频| 亚洲欧美精品综合一区二区三区| 大香蕉久久网| 亚洲精品国产一区二区精华液| 国产无遮挡羞羞视频在线观看| 国产av精品麻豆| 久久ye,这里只有精品| 男人舔女人的私密视频| 男女下面插进去视频免费观看| 免费在线观看日本一区| 搡老岳熟女国产| 国产精品成人在线| 一区二区三区乱码不卡18| av视频免费观看在线观看| 国产欧美日韩综合在线一区二区| 中文乱码字字幕精品一区二区三区| 深夜精品福利| 各种免费的搞黄视频| 国产亚洲av高清不卡| 波野结衣二区三区在线| 亚洲精品国产色婷婷电影| 亚洲av在线观看美女高潮| 一级,二级,三级黄色视频| 亚洲国产欧美网| 欧美变态另类bdsm刘玥| 亚洲欧洲国产日韩| 又紧又爽又黄一区二区| 午夜福利在线免费观看网站| 欧美少妇被猛烈插入视频| 男人舔女人的私密视频| 男女边摸边吃奶| 亚洲国产最新在线播放| 人妻一区二区av| 少妇的丰满在线观看| 欧美日韩黄片免| 在线看a的网站| 高清不卡的av网站| 老司机影院成人| 99国产精品免费福利视频| 亚洲综合色网址| 欧美 日韩 精品 国产| 亚洲av欧美aⅴ国产| 国产成人免费无遮挡视频| 少妇被粗大的猛进出69影院| 免费在线观看黄色视频的| 亚洲欧美精品综合一区二区三区| 国产av精品麻豆| 人人澡人人妻人| 亚洲欧美色中文字幕在线| 男人操女人黄网站| 亚洲一区中文字幕在线| 人人妻人人爽人人添夜夜欢视频| 大码成人一级视频| 伊人久久大香线蕉亚洲五| 亚洲av国产av综合av卡| 一本大道久久a久久精品| 亚洲国产日韩一区二区| 免费久久久久久久精品成人欧美视频| 99久久人妻综合| 亚洲人成电影观看| 不卡av一区二区三区| 成年人免费黄色播放视频| 国产亚洲午夜精品一区二区久久| 国产深夜福利视频在线观看| 国产精品国产三级专区第一集| 飞空精品影院首页| 欧美激情高清一区二区三区| 国产99久久九九免费精品| 精品人妻在线不人妻| 亚洲免费av在线视频| 国产成人欧美| 伊人亚洲综合成人网| 一级毛片我不卡| 日本黄色日本黄色录像| 国产精品免费大片| 精品人妻1区二区| 男人操女人黄网站| 97精品久久久久久久久久精品| 肉色欧美久久久久久久蜜桃| 久久 成人 亚洲| 国产不卡av网站在线观看| 久久久久国产一级毛片高清牌| 自线自在国产av| 制服诱惑二区| 97人妻天天添夜夜摸| 黑丝袜美女国产一区| 精品一区二区三区av网在线观看 | xxxhd国产人妻xxx| 精品亚洲成国产av| 亚洲熟女精品中文字幕| 少妇 在线观看| 国产成人精品久久久久久| 亚洲成人手机| 亚洲男人天堂网一区| 日本猛色少妇xxxxx猛交久久| videos熟女内射| 欧美人与性动交α欧美精品济南到| 亚洲欧美日韩另类电影网站| 欧美xxⅹ黑人| 亚洲国产最新在线播放| 国产在线免费精品| 久久综合国产亚洲精品| 在线观看免费视频网站a站| 日韩大片免费观看网站| 好男人电影高清在线观看| 两性夫妻黄色片| 少妇 在线观看| 大型av网站在线播放| 精品久久久精品久久久| 性高湖久久久久久久久免费观看| 精品一区二区三区av网在线观看 | 一边摸一边抽搐一进一出视频| 亚洲人成网站在线观看播放| 极品人妻少妇av视频| 晚上一个人看的免费电影| 只有这里有精品99| 久热爱精品视频在线9| 大话2 男鬼变身卡| av电影中文网址| 久久女婷五月综合色啪小说| 久久99热这里只频精品6学生| 亚洲人成网站在线观看播放| 亚洲国产中文字幕在线视频| 搡老岳熟女国产| 操美女的视频在线观看| 成人国产一区最新在线观看 | 在线观看人妻少妇| bbb黄色大片| 亚洲精品中文字幕在线视频| 在线观看免费日韩欧美大片| 久久国产精品影院| 天天操日日干夜夜撸| 一本大道久久a久久精品| 黑丝袜美女国产一区| 少妇猛男粗大的猛烈进出视频| 久久久久精品人妻al黑| 91老司机精品| 久久av网站| 男女国产视频网站| 人妻 亚洲 视频| 自拍欧美九色日韩亚洲蝌蚪91| 男女午夜视频在线观看| 色婷婷av一区二区三区视频| 久久精品国产a三级三级三级| 久久精品久久久久久噜噜老黄| 欧美成人精品欧美一级黄| 亚洲美女黄色视频免费看| 亚洲欧美激情在线| 亚洲激情五月婷婷啪啪| 国产精品99久久99久久久不卡| 大型av网站在线播放| 免费日韩欧美在线观看| 日本a在线网址| 欧美 亚洲 国产 日韩一| 人体艺术视频欧美日本| 亚洲国产欧美网| 视频区欧美日本亚洲| 国产成人免费无遮挡视频| 成年人免费黄色播放视频| 精品少妇久久久久久888优播| 欧美人与善性xxx| 两个人看的免费小视频| 亚洲成人国产一区在线观看 | 日韩熟女老妇一区二区性免费视频| 啦啦啦在线免费观看视频4| 国产欧美日韩精品亚洲av| 亚洲情色 制服丝袜| 蜜桃在线观看..| 国产人伦9x9x在线观看| 国产91精品成人一区二区三区 | 日本猛色少妇xxxxx猛交久久| 青春草视频在线免费观看| 一级片'在线观看视频| 男人添女人高潮全过程视频| xxx大片免费视频| 在线观看一区二区三区激情| 99热网站在线观看| 十八禁高潮呻吟视频| av片东京热男人的天堂| 丁香六月天网| 狂野欧美激情性xxxx| 午夜影院在线不卡| 欧美日韩亚洲国产一区二区在线观看 | 高清视频免费观看一区二区| 中国国产av一级| 国产91精品成人一区二区三区 | 国产精品三级大全| 亚洲人成网站在线观看播放| 搡老乐熟女国产| 宅男免费午夜| 青春草亚洲视频在线观看| 免费看不卡的av| 亚洲精品国产色婷婷电影| 18禁国产床啪视频网站| 久久影院123| 国产精品久久久人人做人人爽| av片东京热男人的天堂| 国产亚洲一区二区精品| 精品久久久久久久毛片微露脸 | 一区二区三区精品91| av电影中文网址| 亚洲,欧美,日韩| 性少妇av在线| 国产日韩欧美视频二区| 免费观看av网站的网址| 免费在线观看日本一区| 国产精品国产av在线观看| 首页视频小说图片口味搜索 | 别揉我奶头~嗯~啊~动态视频 | 悠悠久久av| 男女边摸边吃奶| 日本欧美国产在线视频| 女人久久www免费人成看片| 久久久久精品国产欧美久久久 | a级毛片黄视频| 久久国产精品大桥未久av| 天堂8中文在线网| 精品一品国产午夜福利视频| 国产精品秋霞免费鲁丝片| 精品亚洲乱码少妇综合久久| 爱豆传媒免费全集在线观看| 成年动漫av网址| 久久久精品94久久精品| 国产一卡二卡三卡精品| 青青草视频在线视频观看| 99re6热这里在线精品视频| 日本av手机在线免费观看| 日韩 欧美 亚洲 中文字幕| 国产一区二区在线观看av| 无遮挡黄片免费观看| 极品人妻少妇av视频| 999精品在线视频| 中文欧美无线码| 欧美成人精品欧美一级黄| 久久久精品国产亚洲av高清涩受| 无遮挡黄片免费观看| 国产精品免费大片| 免费在线观看完整版高清| 亚洲 欧美一区二区三区| 久久女婷五月综合色啪小说| 超碰成人久久| 麻豆av在线久日| 韩国高清视频一区二区三区| 欧美日韩福利视频一区二区| 精品亚洲乱码少妇综合久久| 自拍欧美九色日韩亚洲蝌蚪91| av视频免费观看在线观看| 天堂8中文在线网| 亚洲av日韩精品久久久久久密 | 国产免费现黄频在线看| 2021少妇久久久久久久久久久| 国产精品 国内视频| 丰满饥渴人妻一区二区三| 欧美人与性动交α欧美精品济南到| 老熟女久久久| 久久久国产一区二区| 国产精品国产av在线观看| xxxhd国产人妻xxx| 精品国产一区二区三区久久久樱花| 亚洲精品日本国产第一区| 汤姆久久久久久久影院中文字幕| 久久久久久免费高清国产稀缺| 国产国语露脸激情在线看| 国产精品麻豆人妻色哟哟久久| 国产精品免费大片| 久久精品国产亚洲av涩爱| 老汉色∧v一级毛片| 99精品久久久久人妻精品| 亚洲av在线观看美女高潮| 亚洲免费av在线视频| 精品人妻1区二区| 久久久精品国产亚洲av高清涩受| 91老司机精品| 999久久久国产精品视频| 久久精品亚洲av国产电影网| 亚洲专区国产一区二区| 久久久久久久久久久久大奶| 国语对白做爰xxxⅹ性视频网站| 国产成人精品在线电影| 国产免费视频播放在线视频| 人妻一区二区av| 黄片播放在线免费| 国产午夜精品一二区理论片| 自拍欧美九色日韩亚洲蝌蚪91| 少妇精品久久久久久久| 色婷婷av一区二区三区视频| 三上悠亚av全集在线观看| 制服诱惑二区| 日韩中文字幕欧美一区二区 | 久久国产亚洲av麻豆专区| 人妻一区二区av| 亚洲情色 制服丝袜| 1024香蕉在线观看| av一本久久久久| 美女中出高潮动态图| 亚洲精品乱久久久久久| 精品人妻一区二区三区麻豆| 别揉我奶头~嗯~啊~动态视频 | 久久久久久人人人人人| 男人操女人黄网站| 国产无遮挡羞羞视频在线观看| 成人手机av| 另类精品久久| 91国产中文字幕| 超碰97精品在线观看| 两性夫妻黄色片| 国产精品久久久久久人妻精品电影 | 各种免费的搞黄视频| 亚洲视频免费观看视频| 大片免费播放器 马上看| 满18在线观看网站| 飞空精品影院首页| av网站在线播放免费| www.999成人在线观看| 夜夜骑夜夜射夜夜干| 免费高清在线观看视频在线观看| 乱人伦中国视频| 熟女少妇亚洲综合色aaa.| www.999成人在线观看| 高清欧美精品videossex| 十八禁人妻一区二区| 精品人妻1区二区| 精品一区在线观看国产| 老司机影院毛片| 久久久久国产精品人妻一区二区| 操出白浆在线播放| 国产主播在线观看一区二区 | 国产女主播在线喷水免费视频网站| 亚洲精品中文字幕在线视频| 久久久久视频综合| 99re6热这里在线精品视频| 老司机深夜福利视频在线观看 | 一级毛片女人18水好多 | 亚洲精品国产区一区二| 亚洲欧美成人综合另类久久久| 日本五十路高清| 成年女人毛片免费观看观看9 | 久久人妻熟女aⅴ| 欧美人与性动交α欧美软件| 欧美激情高清一区二区三区| 亚洲午夜精品一区,二区,三区| 麻豆av在线久日| 建设人人有责人人尽责人人享有的| 国产精品一国产av| 久久久久久久国产电影| 日韩一卡2卡3卡4卡2021年| 欧美在线黄色| 中文字幕最新亚洲高清| 成年人免费黄色播放视频| 99久久综合免费| 国产伦人伦偷精品视频| 欧美精品啪啪一区二区三区 | 国产三级黄色录像| 人妻人人澡人人爽人人| 久久人妻熟女aⅴ| 一二三四在线观看免费中文在| 国产一区二区三区av在线| 狠狠精品人妻久久久久久综合| 最新在线观看一区二区三区 | 十八禁人妻一区二区| 丝袜在线中文字幕| 亚洲国产av新网站| 亚洲欧美色中文字幕在线| av一本久久久久| 久久精品国产亚洲av涩爱| 午夜日韩欧美国产| 亚洲国产精品一区二区三区在线| 97人妻天天添夜夜摸| 免费人妻精品一区二区三区视频| 丰满饥渴人妻一区二区三| 欧美人与性动交α欧美精品济南到| 另类精品久久| 日韩一区二区三区影片| 国产熟女午夜一区二区三区| 亚洲国产精品国产精品| 午夜激情久久久久久久| 国产淫语在线视频| 午夜久久久在线观看| avwww免费| 丰满迷人的少妇在线观看| www.999成人在线观看| 少妇猛男粗大的猛烈进出视频| 天天添夜夜摸| 精品久久久精品久久久| cao死你这个sao货| 婷婷色综合www| 一级片免费观看大全| 精品国产超薄肉色丝袜足j| 久久99精品国语久久久| 午夜视频精品福利| 在线观看免费午夜福利视频| 97在线人人人人妻| 91麻豆av在线| 在线精品无人区一区二区三| 下体分泌物呈黄色| 日本vs欧美在线观看视频| 99国产精品免费福利视频| 欧美日韩精品网址| 亚洲av男天堂| 99国产精品免费福利视频| 欧美日韩精品网址| e午夜精品久久久久久久| 亚洲,欧美,日韩| 欧美日韩精品网址| 桃花免费在线播放| 国产欧美亚洲国产| 久久久久国产精品人妻一区二区| 成年人黄色毛片网站| 亚洲av在线观看美女高潮| 啦啦啦在线观看免费高清www| 国产精品国产av在线观看| 亚洲av电影在线观看一区二区三区| 亚洲,欧美,日韩| 热re99久久国产66热| 天堂中文最新版在线下载| 秋霞在线观看毛片| 精品一区二区三区四区五区乱码 | 亚洲人成77777在线视频| av不卡在线播放| 青草久久国产| 丝瓜视频免费看黄片|