• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    未來(lái)人工智能是否能夠跨越“恐怖谷”?
    ——一種現(xiàn)象學(xué)視角的考察

    2020-01-09 08:05:56張昌盛
    關(guān)鍵詞:現(xiàn)象學(xué)機(jī)器人人工智能

    張昌盛

    (中國(guó)社會(huì)科學(xué)院 哲學(xué)研究所, 北京 100732)

    智能機(jī)器人是人工智能(artificial intelligence,簡(jiǎn)稱AI)在日常生活場(chǎng)景中的重要應(yīng)用類型之一,對(duì)未來(lái)人類生活的意義重大。從某種角度而言,長(zhǎng)久以來(lái)人們所期盼的類人的、具有高度智能的機(jī)器人集中代表了人類對(duì)AI的終極夢(mèng)想。智能機(jī)器人最終能模仿人到什么程度,或者說(shuō)智能機(jī)器人的逼真度究竟能夠達(dá)到什么高度?這很大程度上可以看作是對(duì)未來(lái)人工智能的極限問(wèn)題的另一種提法。智能機(jī)器人的逼真度問(wèn)題會(huì)引出一個(gè)與智能機(jī)器人密切相關(guān)的基本理論——恐怖谷理論??植拦壤碚摫緛?lái)是闡述高逼真度的智能機(jī)器人會(huì)引發(fā)的人類的一系列特別的感受和審美體驗(yàn),但在更深刻的層面,它指向了智能機(jī)器人及AI所能達(dá)到的極限。本文以恐怖谷理論為切入點(diǎn),探討智能機(jī)器人的逼真度和未來(lái)AI的可能限度問(wèn)題。

    一、智能機(jī)器人及其引出的哲學(xué)問(wèn)題

    自20世紀(jì)50年代人工智能產(chǎn)生以來(lái),關(guān)于智能機(jī)器人的設(shè)想就引起了學(xué)者的思考并進(jìn)入了大眾的視野。人們關(guān)于智能機(jī)器人有很多種思考角度,恐怖谷理論則是從人類的感受和審美體驗(yàn)的角度談?wù)撊祟惡椭悄軝C(jī)器人之間的關(guān)系。

    在AI產(chǎn)生之后,人們就期望制造出具有類似于人的智能和行動(dòng)能力的機(jī)器人,可以承擔(dān)很多人類的工作,甚至這些機(jī)器人也會(huì)具有類似于人類的思維、情感和價(jià)值,成為人類生活的重要成員。后來(lái),西方產(chǎn)生了很多具有影響力的機(jī)器人主題的科幻小說(shuō)和科幻電影,核心問(wèn)題是探討人類和機(jī)器人之間的關(guān)系。

    過(guò)去幾十年,國(guó)際科技界一直有人在努力研發(fā)高仿真機(jī)器人,尤其是日本科技界投入了極大的智力和財(cái)力資源進(jìn)行機(jī)器人研發(fā),雖然取得了很大進(jìn)步,但多次陷入停滯狀態(tài),迄今距離目標(biāo)依然很遙遠(yuǎn)。這主要是因?yàn)閿?shù)十年來(lái)AI科技進(jìn)展緩慢。

    2010年左右,隨著辛頓(Hinton)等在深度學(xué)習(xí)算法領(lǐng)域中的重要突破, AI科技才重獲新生,隨之而來(lái)的是新一代人工智能技術(shù)研究和產(chǎn)業(yè)的爆發(fā)式發(fā)展?,F(xiàn)在的機(jī)器學(xué)習(xí)算法,成為人工智能的主流,在人類認(rèn)知的圖像識(shí)別、自然語(yǔ)言、機(jī)器翻譯、自動(dòng)駕駛等領(lǐng)域不斷取得進(jìn)步,讓人們看到人工智能的大規(guī)模產(chǎn)業(yè)化乃至引發(fā)新的產(chǎn)業(yè)革命的前景。AI機(jī)器人可以為人類的生活和工作提供很多全新的重要輔助工作,甚至在很多場(chǎng)景中替代很多原先由人類承擔(dān)的工作和服務(wù)。

    很多人期待,在不久的將來(lái),具有高度智能的機(jī)器人能夠在人類日常生活中扮演重要角色,例如承擔(dān)家務(wù)、看護(hù)等工作,甚至可以充當(dāng)聊天、陪伴的伴侶,機(jī)器人不僅可以模擬人的思維、行為能力,而且可以具有類似于人的行為舉止、言說(shuō)談吐、姿態(tài)表情(強(qiáng)人工智能者認(rèn)為機(jī)器人還可以具有類似于人的情緒及情緒表達(dá))。

    未來(lái)的高仿真機(jī)器人能夠達(dá)到什么程度,很大程度上要回溯到人工智能的極限到底在哪里這個(gè)問(wèn)題。數(shù)十年來(lái),很多參與和關(guān)注人工智能領(lǐng)域的科學(xué)家、哲學(xué)家一直就這個(gè)問(wèn)題爭(zhēng)論不休。AI的極限問(wèn)題不僅涉及到前沿技術(shù)和基礎(chǔ)科學(xué)問(wèn)題,更涉及到對(duì)意識(shí)、腦和人等問(wèn)題的基本哲學(xué)立場(chǎng)和基本觀點(diǎn)層面的爭(zhēng)論。

    這里最基本的問(wèn)題就是對(duì)心智、意識(shí)和計(jì)算之間關(guān)系的看法。早在18世紀(jì),法國(guó)哲學(xué)家拉·梅特里就提出著名的命題“人是機(jī)器”[1]?,F(xiàn)在人工智能又把這個(gè)問(wèn)題推到了新的階段:即心智的本質(zhì)是不是算法?人和智能機(jī)器有沒(méi)有本質(zhì)區(qū)別?20世紀(jì)50年代以來(lái),立足于功能主義的科學(xué)家和哲學(xué)家如圖靈、丘奇等主張心智的本質(zhì)就是計(jì)算,大腦就是計(jì)算機(jī),因此計(jì)算機(jī)可以模擬人腦,而且可以由電腦的軟硬件模擬出一種類似于人類的、人工的意識(shí);另外,立足聯(lián)結(jié)主義的科學(xué)家和哲學(xué)家則主張大腦并非計(jì)算機(jī),意識(shí)也不能歸約為符號(hào)計(jì)算的算法,但他們主張可以模擬大腦來(lái)發(fā)展人工智能。

    現(xiàn)在看來(lái),這個(gè)問(wèn)題并非可以簡(jiǎn)單回答,最終要由人工智能、認(rèn)知科學(xué)以及現(xiàn)象學(xué)等科學(xué)、哲學(xué)來(lái)聯(lián)合解答。

    二、恐怖谷理論及其現(xiàn)象學(xué)分析

    數(shù)十年來(lái),人們關(guān)于智能機(jī)器人有多種思考角度,恐怖谷理論則是從人類的感受和審美體驗(yàn)的角度論述人類和智能機(jī)器人之間的關(guān)系。

    (一)恐怖谷理論概述

    1970年日本機(jī)器人專家森昌弘在經(jīng)過(guò)大量關(guān)于機(jī)器人的田野調(diào)查基礎(chǔ)上撰寫了短文《恐怖谷》,闡述了恐怖谷理論。森昌弘文中的“恐怖谷效應(yīng)”是一個(gè)關(guān)于人類對(duì)機(jī)器人和非人類物體的感覺(jué)的假設(shè)?!翱植拦取边@個(gè)名詞最初來(lái)自Ernst Jentsch于1909年的論文《恐怖谷心理學(xué)》,1919年弗洛伊德在論文《恐怖谷》中進(jìn)行了進(jìn)一步闡述。森昌弘的恐怖谷理論則把恐怖心理學(xué)理論引進(jìn)到機(jī)器人領(lǐng)域,成為AI領(lǐng)域的一個(gè)重要問(wèn)題。

    森昌弘認(rèn)為:“當(dāng)機(jī)器人與人類相像超過(guò)95%的時(shí)候,由于機(jī)器人與人類在外表﹑動(dòng)作上都相當(dāng)相似,所以人類亦會(huì)對(duì)機(jī)器人產(chǎn)生正面的情感。直至到了一個(gè)特定程度,他們的反應(yīng)便會(huì)突然變得極之反感。哪怕機(jī)器人與人類有一點(diǎn)點(diǎn)的差別,都會(huì)顯得非常顯眼刺目,讓整個(gè)機(jī)器人顯得非常僵硬恐怖,讓人有面對(duì)行尸走肉的感覺(jué)。人形玩具或機(jī)器人的仿真度越高人們?cè)接泻酶?,但?dāng)超過(guò)一個(gè)臨界點(diǎn)時(shí),這種好感度會(huì)突然降低,越像人越反感恐懼,直至谷底,稱之為恐怖谷??墒?,當(dāng)機(jī)器人的外表和動(dòng)作和人類的相似度繼續(xù)上升的時(shí)候,人類對(duì)他們的情感反應(yīng)亦會(huì)變回正面,貼近人類與人類之間的移情作用?!?1)百度百科.恐怖谷.https://wapbaike.baidu.com/item/%E6%81%90%E6%80%96%E8%B0%B7%E7%90%86%E8%AE%BA?adapt=1.

    圖1 恐怖谷函數(shù)圖

    從圖1的曲線可知,所謂恐怖谷與人造物的外形、動(dòng)作的逼真度直接相關(guān);在恐怖谷的范圍內(nèi),相比而言,在同樣的逼真程度下,機(jī)器人在動(dòng)態(tài)時(shí)比靜態(tài)時(shí)更讓人感到恐怖。

    對(duì)“恐怖谷效應(yīng)”的相關(guān)問(wèn)題在學(xué)界有種種闡釋,如艾斯·薩伊琴(Ayse Saygin)認(rèn)為其是由感知錯(cuò)亂引起的,“人的大腦會(huì)預(yù)先根據(jù)觀察對(duì)象的外表預(yù)測(cè)對(duì)方可能的動(dòng)作。而發(fā)現(xiàn)一個(gè)外表像人,走路卻像機(jī)器人的物體時(shí),這會(huì)超出大腦的預(yù)期,產(chǎn)生錯(cuò)亂”[2]。心理學(xué)家科特·格雷(Kurt Grey)等的研究表明,機(jī)器人“擁有感情”的特質(zhì)最令人感覺(jué)不安,這是因?yàn)槲覀冊(cè)陬惾藱C(jī)器人身上看到了人類情感的影子,但我們卻無(wú)法理解這樣的情感[3]129。

    恐怖谷理論發(fā)布之后,在機(jī)器人制造等行業(yè)產(chǎn)生了廣泛的影響,人們?cè)O(shè)計(jì)產(chǎn)品時(shí)盡量設(shè)法遠(yuǎn)離恐怖谷區(qū)域,以免讓人產(chǎn)生不適感。在后來(lái)的電影、動(dòng)漫、漫畫以及電子游戲等制作中,人們也盡量使卡通人物在外形上減少人類的特征,以免墮入恐怖谷陷阱。

    近日,德國(guó)的神經(jīng)科學(xué)家Pütten等在《神經(jīng)科學(xué)雜志》(JournalofNeuroscience)上發(fā)表文章稱,已經(jīng)確定了大腦內(nèi)部的機(jī)制有助于解釋恐怖谷效應(yīng)是如何發(fā)生的。他們?cè)谘芯繒r(shí)發(fā)現(xiàn)內(nèi)側(cè)前額葉皮層的兩個(gè)不同部分對(duì)恐怖谷非常重要,“其中一部分將人類感的信號(hào)轉(zhuǎn)換為‘人類探測(cè)’信號(hào),該區(qū)域的活動(dòng)過(guò)度強(qiáng)調(diào)了人類和非人類刺激之間的界限——對(duì)人類的反應(yīng)最為強(qiáng)烈,而對(duì)非人的反應(yīng)則要弱得多。第二部分,腦內(nèi)側(cè)前額葉皮質(zhì)(VMPFC),將這一信號(hào)與可愛度評(píng)估相結(jié)合,產(chǎn)生了一種與恐怖谷反應(yīng)密切匹配的獨(dú)特活動(dòng)模式”。他們的研究驗(yàn)證了恐怖谷理論,“我們驚訝地發(fā)現(xiàn),腹內(nèi)側(cè)前額葉皮質(zhì)對(duì)類人機(jī)器人的反應(yīng)就像恐怖谷假說(shuō)預(yù)測(cè)的那樣,對(duì)更像人類的因素反應(yīng)更強(qiáng)烈,但隨后在接近人類/非人類邊界的地方——即典型的‘山谷’——活動(dòng)就會(huì)出現(xiàn)下降”[4]。

    Pütten等的研究發(fā)現(xiàn),恐怖谷效應(yīng)的強(qiáng)度存在個(gè)體差異[4],因此沒(méi)有一種機(jī)器人設(shè)計(jì)能適合所有用戶,或者從另一個(gè)角度說(shuō),沒(méi)有一種機(jī)器人讓所有人害怕。

    (二)恐怖谷效應(yīng)的現(xiàn)象學(xué)分析

    由現(xiàn)象學(xué)角度分析恐怖谷效應(yīng),需要解決如下3個(gè)方面的問(wèn)題:

    (1)主體關(guān)于機(jī)器人的經(jīng)驗(yàn)是如何構(gòu)成的

    從現(xiàn)象學(xué)的角度看,我們所認(rèn)知的外在存在有兩種類型:一種是關(guān)于外在對(duì)象和事物的認(rèn)知,另一種是關(guān)于對(duì)其他主體的認(rèn)知。這兩類認(rèn)知所具有的共性都是基于主體的意向性構(gòu)成,其顯現(xiàn)的結(jié)構(gòu)也都是由直觀顯現(xiàn)和非直觀的共現(xiàn)兩個(gè)方面組成,主體對(duì)對(duì)象的感知都有主題化和非主題化兩種方式。通常大多數(shù)的直觀中,對(duì)象的正面被我們感知,但是還有一部分并未直接顯現(xiàn),而是以“共現(xiàn)”的方式間接為我們把握,也就是我們通常只是直觀到對(duì)象的某些面或部分,但我們的意識(shí)把它構(gòu)成為一個(gè)對(duì)象整體。當(dāng)然,由于大多數(shù)感知并非被完全充實(shí)地直觀,因此總是有部分錯(cuò)誤的可能性。這兩類認(rèn)知方式的差異在于:對(duì)于外部對(duì)象的認(rèn)知是一種客體化行為,而對(duì)于其他主體的認(rèn)知?jiǎng)t包含著對(duì)身體、動(dòng)作和表情等的客體化認(rèn)知,同時(shí)也有非對(duì)象化把握的部分,會(huì)把他人的身體、動(dòng)作、表情認(rèn)知為不同于自我的其他主體的一部分,而不是看作像自然物一樣的、非生命的客觀對(duì)象。在更原初的層面,我們不僅以主體間性的方式把握他者的外形、語(yǔ)言和動(dòng)作,而且把對(duì)象認(rèn)知為主體間性顯現(xiàn)的客體。

    (2)恐怖谷效應(yīng)是如何產(chǎn)生的

    我們對(duì)一個(gè)機(jī)器人的感知也是首先把握了其外形或行為的一部分,而意識(shí)在某些情況下會(huì)自發(fā)地把它構(gòu)成一個(gè)具有完整的外形或連續(xù)的行為的對(duì)象的部分顯現(xiàn)。當(dāng)機(jī)器人的外形或者行為的逼真度達(dá)到某種高度時(shí),我們的意識(shí)會(huì)把它把握為類似自我的智能行動(dòng)者(intelligent agent)。隨著智能機(jī)器人的逼真度由低到高,我們的意向構(gòu)成方式在逼真度的某一節(jié)點(diǎn)處會(huì)出現(xiàn)一個(gè)根本性的轉(zhuǎn)換,即由對(duì)對(duì)象的構(gòu)成方式轉(zhuǎn)變?yōu)閷?duì)他者主體的構(gòu)成方式。這種意向構(gòu)成方式的自發(fā)轉(zhuǎn)換,是由于前述的感覺(jué)錯(cuò)亂造成的。

    我們對(duì)他者的具體的意向構(gòu)成包含很多配對(duì)、移情的意識(shí)構(gòu)成形式,這些方式依賴以往的具體經(jīng)驗(yàn)。這種意向構(gòu)成的內(nèi)在視域具有整體性,是由對(duì)象的類型上的先天確定性所決定的。因此,雖然對(duì)象只是部分被直觀,意向構(gòu)成原則上是可錯(cuò)的,但主體對(duì)對(duì)象內(nèi)在視域的整體把握引導(dǎo)著對(duì)對(duì)象的進(jìn)一步意向構(gòu)成和直觀充實(shí)的方向,避免意向構(gòu)成發(fā)生類型錯(cuò)亂和部分之間的內(nèi)在沖突。但同時(shí),以往的具體經(jīng)驗(yàn)和意識(shí)模式也會(huì)參與和干擾意向構(gòu)成過(guò)程:我們的意向構(gòu)成會(huì)參雜著以往的經(jīng)驗(yàn)、判斷和信念,如果不進(jìn)行現(xiàn)象學(xué)式的懸置,這些自然態(tài)度下的經(jīng)驗(yàn)會(huì)以聯(lián)想、類比、猜測(cè)的方式夾雜在我們的具體經(jīng)驗(yàn)中,那錯(cuò)誤更難以避免。因此,在機(jī)器人的外形、語(yǔ)言及動(dòng)作逼真度達(dá)到某種高度時(shí),意識(shí)會(huì)具有一種自發(fā)地把它們類人主體的傾向。但由于機(jī)器人和人的類型上的先天性差異性,在對(duì)機(jī)器人的具體的認(rèn)知中,主觀上認(rèn)知他者的期望和預(yù)判導(dǎo)致對(duì)機(jī)器人的認(rèn)知由客體對(duì)象構(gòu)成模式轉(zhuǎn)換為他者主體構(gòu)成模式;同時(shí),由于主體和機(jī)器人的內(nèi)在視域類型的差異性,這種對(duì)他者主體的經(jīng)驗(yàn)的構(gòu)成會(huì)遭遇阻礙,導(dǎo)致該經(jīng)驗(yàn)的內(nèi)在統(tǒng)一性、整體性無(wú)法達(dá)成,即對(duì)機(jī)器人的經(jīng)驗(yàn)產(chǎn)生自我沖突,也就是造成感知錯(cuò)亂。進(jìn)而,這種怪異的感知把機(jī)器人經(jīng)驗(yàn)為怪異的、類型上陌生的、未知的他者,由此產(chǎn)生恐懼感。

    當(dāng)機(jī)器人的逼真度進(jìn)一步提高,和人的相似度達(dá)到極高的程度時(shí),至少?gòu)耐獗砩?,機(jī)器人和人在客體化直觀中被構(gòu)成類似于人的主體,類型上的差異性在某種程度上被克服,這個(gè)時(shí)候不適感、恐懼感消失。但這種相似性總是局部的、相對(duì)的,而某些方面細(xì)節(jié)的差異是難以克服的。例如主體的身體、表情和動(dòng)作都是具身性的,是精神的一種外在表達(dá),這種具身性表達(dá)往往是智能機(jī)器人無(wú)法模擬的。

    (3)機(jī)器人的哪些方面的高逼真性可以引起恐怖谷效應(yīng)

    如上所述,當(dāng)主體試圖以經(jīng)驗(yàn)他者主體的方式去認(rèn)知機(jī)器人時(shí),就會(huì)因感知錯(cuò)亂引起恐怖感受??梢姡瑱C(jī)器人的逼真性不限于外表和動(dòng)作這些表象的層面,凡是類似于人的外形、思維、語(yǔ)言、表情、姿態(tài)、情緒、行為等諸多方面,都可以作為逼真性的內(nèi)容范圍。森昌弘的逼真度概念受限于當(dāng)時(shí)的AI科技的發(fā)展水平,主要是涉及機(jī)器人的外形和動(dòng)作兩個(gè)方面,可稱之為狹義的逼真度概念??梢栽O(shè)想,未來(lái)的智能機(jī)器人可以模仿人類的內(nèi)容,不僅體現(xiàn)在范圍廣泛而全面,更體現(xiàn)在它可能能夠模擬人的最內(nèi)在的層面,包括模仿人的思維、語(yǔ)言、表情、情緒等。因此,我們可以在森昌弘的狹義逼真度概念的基礎(chǔ)上提出廣義的逼真度概念,即機(jī)器人在思維方式、語(yǔ)言表述、情感表達(dá)、情緒以及日常行為等多方面和人類的相似性??梢栽O(shè)想,這些涉及人類精神性的方面綜合起來(lái)后所能引起的情感錯(cuò)亂的程度和恐怖谷效應(yīng)的程度,應(yīng)該遠(yuǎn)非以前的機(jī)器人的外表和動(dòng)作所可比擬的。未來(lái)的機(jī)器人將會(huì)是對(duì)人類從身體、語(yǔ)言、行為、情緒等方面更為全面、綜合和深入的模仿。因此,恐怖谷理論的原圖(圖1)將會(huì)隨著AI科技的發(fā)展和逼真度概念的擴(kuò)展而不斷地被改進(jìn)修正,圖中的“恐怖谷”的“谷底”應(yīng)該會(huì)更深、兩側(cè)“谷壁”會(huì)更加陡峭。

    因此,對(duì)于未來(lái)智能機(jī)器人可能達(dá)到的逼真性程度以及是否能夠跨越“恐怖谷”等問(wèn)題的追問(wèn),必然會(huì)導(dǎo)向追問(wèn)未來(lái)AI科技所能達(dá)到的深度和廣度的問(wèn)題,即未來(lái)人工智能所能達(dá)到的智力和功能將在何種程度上或哪些方面能夠逐漸逼近乃至超越人類的智力和功能?

    三、未來(lái)人工智能的可能性:多視角的比照

    未來(lái)可實(shí)現(xiàn)的智能機(jī)器人能達(dá)到什么程度?這取決于AI的算法可以模擬的范圍,因?yàn)锳I的智能基于算法。如果要讓機(jī)器人模仿人類的思維、認(rèn)知、語(yǔ)言、行為、姿態(tài)、表情乃至情緒,前提是AI的算法可以模擬人的認(rèn)知、語(yǔ)言和行為等方面。這意味著可以把人類的這些認(rèn)知、言談及行為理解為本質(zhì)上是一種基于種種軟件和硬件的生物計(jì)算。要實(shí)現(xiàn)未來(lái)的高仿真機(jī)器人的類人的基本功能,AI科技面臨的核心難題是如何解決智能算法問(wèn)題。

    下面本文將從功能主義、聯(lián)結(jié)主義、生物自然主義以及現(xiàn)象學(xué)等多個(gè)角度來(lái)考量未來(lái)人工智能可能達(dá)到的程度以及所需要的條件。

    這里首先會(huì)遇到的問(wèn)題是:智能和意識(shí)可以被歸結(jié)為自然的因素和規(guī)律的產(chǎn)物嗎?

    按照自然主義的立場(chǎng),答案是肯定的。自然主義認(rèn)為一切事物都可以歸為基礎(chǔ)本體層面和與主體相關(guān)的層面。所謂基礎(chǔ)本體層面是物理層面,人在最基礎(chǔ)層面是作為自然世界的一部分,人的身體包括大腦屬于所謂自然的基礎(chǔ)本體的層面,人的包括意識(shí)、語(yǔ)言、文化、價(jià)值等在內(nèi)的與主體相關(guān)的層面是奠基于自然本體的層面。在物理主義看來(lái),宇宙是完全由物理規(guī)律支配的,是物理上封閉的宇宙,沒(méi)有非物理的心靈因素可以參與到物理世界的因果過(guò)程中。因此,一切生命過(guò)程包括人的意識(shí)、智能都是基于物理和生物規(guī)律的。

    而從非物理主義的角度看,人的意識(shí)現(xiàn)象具有獨(dú)立性,不能被完全歸約為物理、生物的因素和規(guī)律。最典型的非物理主義是二元論,認(rèn)為身心是兩種不同類型的實(shí)體或者屬性。

    從現(xiàn)象學(xué)角度看,人的智能是具身性主體的功能,因此與意識(shí)、大腦乃至身體有關(guān),但意識(shí)是產(chǎn)生智能的核心因素,而意識(shí)并不能歸約為大腦,甚至意識(shí)并非自然的產(chǎn)物,意識(shí)現(xiàn)象也超出了物理和生物的規(guī)律。歸根結(jié)底,人的意識(shí)乃至整個(gè)人的存在模式都不能被歸約為自然因素和規(guī)律的產(chǎn)物,而是由精神性的動(dòng)機(jī)引發(fā)機(jī)制驅(qū)動(dòng)的。因此,智能與意識(shí)、腦、身體相關(guān),但并不能歸結(jié)為生物學(xué)層面。

    第二個(gè)問(wèn)題隨之而來(lái):認(rèn)知科學(xué)或者生命科學(xué)能夠系統(tǒng)、準(zhǔn)確地揭示人類的智能乃至意識(shí)的本質(zhì)和運(yùn)作機(jī)制嗎?

    按照物理主義,意識(shí)現(xiàn)象不具有獨(dú)立的本體論地位,具有隨附性,乃是物理現(xiàn)象和性質(zhì)的表現(xiàn)形態(tài)。按照功能主義,基于硅基硬件和軟件的算法,計(jì)算機(jī)可以模擬出意識(shí)。按照自然主義,既然意識(shí)、智能根本上是生物現(xiàn)象,遵循生物學(xué)原理和物理規(guī)律,在原則上,神經(jīng)生物學(xué)或者整個(gè)生命科學(xué)等自然科學(xué)可以揭示這些關(guān)于人的智能和意識(shí)的客觀事實(shí)和規(guī)律。而按照非物理主義,意識(shí)現(xiàn)象具有獨(dú)立的本體論地位,不能規(guī)約為物理和生物現(xiàn)象,意識(shí)的特性及規(guī)律并非自然科學(xué)可以揭示的。

    現(xiàn)象學(xué)認(rèn)為,既然意識(shí)不等同于腦,主體并不等同于身體,因而自然科學(xué)基于物理和生理層面的研究進(jìn)路是無(wú)法揭示意識(shí)的本質(zhì)和運(yùn)作機(jī)制的?,F(xiàn)象學(xué)并不關(guān)注大腦及身體的生理物理運(yùn)行機(jī)制,但依據(jù)本質(zhì)直觀方法,以描述的方式揭示意識(shí)的本質(zhì)特性和運(yùn)行機(jī)制。因此,未來(lái)的AI研究除了基于腦科學(xué)之外,還可以從現(xiàn)象學(xué)的意識(shí)研究中獲取啟發(fā)。

    第三個(gè)問(wèn)題是:關(guān)于人的這些生物事實(shí)和生物規(guī)律乃至意識(shí),都可以歸結(jié)為算法嗎?

    按照塞爾的看法,算法是與主體性相關(guān)的,“計(jì)算在本質(zhì)上并不是一種像消化或者光合作用那樣的內(nèi)在過(guò)程,而只是相對(duì)于為這種物理學(xué)提供一種計(jì)算性解釋的某智能體才會(huì)存在。結(jié)果是,計(jì)算并不是自然所固有的,而是相對(duì)于觀察者或使用者而言的”[5]9。從理性的人的角度看,不僅計(jì)算機(jī)有算法,一切自然現(xiàn)象當(dāng)中都包含算法,因此大腦乃至身體的運(yùn)作模式都是基于某一類生物的算法。

    從非物理主義角度看,意識(shí)超出了物理規(guī)律的范圍,也無(wú)法形式化,不能被歸約為計(jì)算機(jī)的算法。

    從現(xiàn)象學(xué)的角度看,意識(shí)不僅有高級(jí)的推理、抽象等理性思維形式,還有更基本的感性論層面[6],而后者是無(wú)法完全被形式化地刻畫的,此外還有更為原初的、前謂詞的、非對(duì)象性的層面均無(wú)法被對(duì)象化地表征;另外,心智具有具身性,身心是主體的不可分割的整體,因此很多具身性的意識(shí)現(xiàn)象和非對(duì)象性的身體現(xiàn)象并不能被符號(hào)表征,因而不能歸約為算法。

    問(wèn)題在于,即便退一步而言,我們把宇宙的運(yùn)行、生命的活動(dòng)、大腦的運(yùn)作和意識(shí)活動(dòng)都看作遵循某些廣義的算法,但這些現(xiàn)象分別是物理的、生物的和意識(shí)的活動(dòng),很難說(shuō)它們本身就是一種計(jì)算機(jī)計(jì)算意義上的算法。

    第四個(gè)問(wèn)題是:關(guān)于人的智能、意識(shí)的這些基于生命運(yùn)作的算法可以被計(jì)算機(jī)模擬嗎?

    首先,一個(gè)問(wèn)題是廣義算法的可模擬性問(wèn)題,即使人的智能、意識(shí)等可以被看作廣義的算法,但并不等于這些廣義的算法可以被模擬。按照功能主義的觀念,智能本質(zhì)無(wú)非是計(jì)算,心靈就像電腦,強(qiáng)人工智能可以由硅基的芯片以及算法實(shí)現(xiàn)人類的智能甚至產(chǎn)生類似于人類的意識(shí);而按照弱人工智能的看法,類似人類的智能需要計(jì)算機(jī)模擬人腦神經(jīng)網(wǎng)絡(luò)及其運(yùn)行,這種模仿是有限的,因此人工智能可以在某種程度上逼近人類智能,但無(wú)法代替人類智能,更不用說(shuō)產(chǎn)生意識(shí)了。按照塞爾的生物中心主義的看法,雖然人類的智能屬于廣義的算法,但基于生物的功能性組織,純粹依賴計(jì)算機(jī)算法和硬件,無(wú)法模擬人類的智能,但類似于人類的智能可以由類似于人類大腦的功能性組織實(shí)現(xiàn)。

    根據(jù)現(xiàn)象學(xué),既然人類的部分意識(shí)和行為的確可以被符號(hào)表征,那么就具備了用算法模擬的基礎(chǔ),如高級(jí)的理性思維形式(推理、論證、想象等思維),以及在經(jīng)驗(yàn)基礎(chǔ)上的歸納、類比、聯(lián)想等思維模式,都可以用符號(hào)計(jì)算或者仿腦的算法來(lái)模擬,因此人工智能可以在很多認(rèn)知方面接近于人的智能。但是,主體更為基礎(chǔ)的、原初的、具身的、非對(duì)象性的、整體性的層面則無(wú)法被轉(zhuǎn)化為算法模擬。

    其次,這個(gè)問(wèn)題涉及到AI的可計(jì)算性和算法復(fù)雜性?,F(xiàn)有的AI都是基于圖靈機(jī), AI的可計(jì)算性也受到圖靈機(jī)基本原理的限制,即便從理論原則上人的智能和意識(shí)等都屬于廣義的算法,而在邏輯和工程層面,基于丘奇-圖靈原則的計(jì)算機(jī)也未必能夠模擬人類智能和意識(shí)。除非,未來(lái)能夠發(fā)明一種“超計(jì)算”(Hyper-computation)[7]205解決AI的可計(jì)算性問(wèn)題,以及未來(lái)量子計(jì)算機(jī)的成熟能夠解決AI所面臨的算力和計(jì)算復(fù)雜性問(wèn)題。

    總而言之,不同理論立場(chǎng)的人對(duì)AI的整體認(rèn)知和信念不同,對(duì)其在未來(lái)角色的期待也不同。例如持強(qiáng)人工智能立場(chǎng)者堅(jiān)信終有一天AI將具有比肩人類甚至超過(guò)人類的智能,是類人行動(dòng)者,而贊同弱人工智能立場(chǎng)者則認(rèn)為AI終究是輔助人類工作、生活的智能機(jī)器。

    從現(xiàn)象學(xué)角度看,不僅強(qiáng)人工智能的預(yù)設(shè)無(wú)法實(shí)現(xiàn),通常的模擬大腦的弱人工智能對(duì)未來(lái)AI智能的預(yù)期也難以達(dá)成。不過(guò)借助現(xiàn)象學(xué)的意識(shí)的研究方法,可以啟發(fā)AI發(fā)明新的算法。也就是說(shuō),根據(jù)現(xiàn)象學(xué),意識(shí)并不能完全歸約為大腦的功能,而AI算法原則上只能部分模擬人的大腦和意識(shí),那么未來(lái)可實(shí)現(xiàn)的AI只能是比聯(lián)結(jié)主義所設(shè)想的弱AI更弱的AI。

    過(guò)去幾十年,AI功能主義和聯(lián)結(jié)主義兩種研究范式一直相互競(jìng)爭(zhēng),相應(yīng)的符號(hào)計(jì)算和大腦模擬兩種AI進(jìn)路也此消彼長(zhǎng)。目前最主流的人工智能是大腦模擬的機(jī)器學(xué)習(xí),但還很難說(shuō)哪一種范式會(huì)徹底勝出。也許在未來(lái)很長(zhǎng)一段時(shí)間,這兩種AI研究范式還會(huì)繼續(xù)處于相互競(jìng)爭(zhēng)但并存的狀況。

    目前,聯(lián)結(jié)主義范式占據(jù)AI研究的優(yōu)勢(shì)地位,如以深度學(xué)習(xí)為代表的機(jī)器學(xué)習(xí)成為AI科技的主流,而深度學(xué)習(xí)算法恰好是在仿人類腦神經(jīng)網(wǎng)絡(luò)方面取得突破的;而基于功能主義的符號(hào)計(jì)算,AI依然在機(jī)器推理、證明等領(lǐng)域有其生命力。從制造智能機(jī)器人的角度看,研發(fā)未來(lái)AI的主要思路是要讓機(jī)器算法擁有模仿人類的意識(shí)和行為背后的深層神經(jīng)元運(yùn)作機(jī)制,顯然聯(lián)結(jié)主義的范式更適合這種AI發(fā)展模式。因?yàn)?,人類的思維、語(yǔ)言和行為能力雖然有其遺傳和生理基礎(chǔ),但其能力的成熟是在社會(huì)生活中通過(guò)學(xué)習(xí)不斷習(xí)得的。因此,對(duì)于未來(lái)智能機(jī)器人更全面地模仿人類而言,機(jī)器學(xué)習(xí)算法將會(huì)是一種非常重要的進(jìn)路。

    四、未來(lái)人工智能的科學(xué)和哲學(xué)基礎(chǔ)

    未來(lái)的AI科技需要什么樣的學(xué)科基礎(chǔ)?按照功能主義的強(qiáng)AI立場(chǎng),未來(lái)以符號(hào)計(jì)算為主的AI科技主要是不斷基于數(shù)學(xué)和計(jì)算理論而進(jìn)行算法的創(chuàng)新;按照聯(lián)結(jié)主義的弱AI立場(chǎng),未來(lái)以仿大腦神經(jīng)網(wǎng)絡(luò)為主的AI科技需要建立在腦科學(xué)、認(rèn)知神經(jīng)科學(xué)乃至整個(gè)神經(jīng)生物學(xué)基礎(chǔ)上;而按照現(xiàn)象學(xué)的立場(chǎng),未來(lái)AI科技除了需要以數(shù)學(xué)、邏輯學(xué)、腦科學(xué)、認(rèn)知科學(xué)、神經(jīng)生物學(xué)等自然科學(xué)為基礎(chǔ),還需要從哲學(xué)層面對(duì)意識(shí)、具身性等問(wèn)題的探索來(lái)揭示智能的本質(zhì)特性和運(yùn)作機(jī)制。限于本文的主題,下面主要從腦科學(xué)和現(xiàn)象學(xué)的角度簡(jiǎn)述一下未來(lái)AI科技需要什么樣的科學(xué)和哲學(xué)研究作為前提。

    (一)未來(lái)AI的腦科學(xué)和神經(jīng)生物學(xué)基礎(chǔ)

    如果按照聯(lián)結(jié)主義的進(jìn)路,那么AI和智能機(jī)器人的發(fā)展就需要基于未來(lái)的腦科學(xué)和生命科學(xué)。未來(lái)AI需要以基于腦神經(jīng)科學(xué)、神經(jīng)生物學(xué)乃至生物學(xué)的研究的高度成熟為前提。具體而言,要基于神經(jīng)生物學(xué)尤其是腦神經(jīng)科學(xué)所揭示的人類認(rèn)知、語(yǔ)言和行為等的腦神經(jīng)生物學(xué)的基本原理,創(chuàng)建相應(yīng)的算法來(lái)模擬這些機(jī)制。這就意味著,未來(lái)AI的突破,需要以這些學(xué)科的高度成熟為前提,才可能實(shí)現(xiàn)以算法對(duì)人類的認(rèn)知、語(yǔ)言和行為等諸多功能的高度近似的模擬。

    首先,AI需要腦神經(jīng)科學(xué)對(duì)認(rèn)知、情緒、語(yǔ)言、行為等的腦神經(jīng)元機(jī)制的揭示,因此腦神經(jīng)科學(xué)是未來(lái)人工智能發(fā)展的基石。

    其次,如果按照現(xiàn)象學(xué)的具身性理論,則人類的智能是具身的,也就是身體是塑造人類認(rèn)知框架和意識(shí)結(jié)構(gòu)的重要組成要素,因此未來(lái)的認(rèn)知神經(jīng)科學(xué)的研究將不限于腦神經(jīng)結(jié)構(gòu)及機(jī)制的研究,而是會(huì)擴(kuò)展到全身的感知器官,以揭示人類感受所具有的整體性機(jī)制。

    再次,如果超出認(rèn)知而擴(kuò)展到情緒、語(yǔ)言和行為等方面,則會(huì)發(fā)現(xiàn)人類的體驗(yàn)、認(rèn)知、行為舉止、言談乃至表情,往往是關(guān)聯(lián)的、動(dòng)態(tài)的。因此,基于具身性的思路,需要對(duì)人的全身神經(jīng)系統(tǒng)、運(yùn)動(dòng)系統(tǒng)乃至整個(gè)身體進(jìn)行深入系統(tǒng)的研究,揭示整個(gè)具身性的身體在塑造人類認(rèn)知和智能等方面所具有的基礎(chǔ)性、框架性作用。

    最后,如果按照海德格爾的存在論現(xiàn)象學(xué),則此在的一切生存模式都是基于與世界的內(nèi)在關(guān)聯(lián)模式,即“此在在世界中存在”是理解人的認(rèn)知、語(yǔ)言和行為的基本預(yù)先存在的框架,也就是說(shuō),人的感知系統(tǒng)是對(duì)環(huán)境開放的、與環(huán)境相耦合的、具有整體性的,因此需要揭示這種與環(huán)境耦合、互動(dòng)的認(rèn)知神經(jīng)科學(xué)機(jī)制。對(duì)人類智能的探究需要把主體與環(huán)境的互動(dòng)、耦合的整體結(jié)構(gòu)考慮進(jìn)去,因此海德格爾式AI需要計(jì)算機(jī)可以模擬此在的生存論結(jié)構(gòu)尤其是與世界打交道的模式。

    (二)未來(lái)AI的現(xiàn)象學(xué)基礎(chǔ)

    如前所述,從現(xiàn)象學(xué)的角度看,人類的智能僅從數(shù)學(xué)、腦科學(xué)、神經(jīng)生物學(xué)等科學(xué)的角度進(jìn)行研究是不夠的,需要采用本質(zhì)直觀的方式來(lái)揭示人的意識(shí)、具身性以及此在的在世存在方式等方面的本質(zhì)特征和運(yùn)行機(jī)制。雖然現(xiàn)象學(xué)的第一人稱視角也有其局限性,本質(zhì)直觀方法要受明見性原則的限制,但現(xiàn)象學(xué)依然可以為研究意識(shí)、主體、具身性等提供其獨(dú)特的理論貢獻(xiàn)?,F(xiàn)象學(xué)的這些深刻的直觀洞察一定程度上可以彌補(bǔ)自然科學(xué)方法研究意識(shí)方面的間接性局限,為AI算法的構(gòu)造提供頗具價(jià)值的啟發(fā)。因此,現(xiàn)象學(xué)將是未來(lái)AI發(fā)展的重要基礎(chǔ)學(xué)科之一。

    和未來(lái)AI相關(guān)性比較大的現(xiàn)象學(xué)問(wèn)題主要有如下幾個(gè)方面:第一是意向性問(wèn)題,根據(jù)現(xiàn)象學(xué),一切客體化意識(shí)都是意向性的,意識(shí)行為總是指向意向?qū)ο?,?gòu)成意向?qū)ο?。AI所處理的大多數(shù)問(wèn)題都是對(duì)象化的認(rèn)知、智能,因此意向性對(duì)于未來(lái)AI的認(rèn)知能力至關(guān)重要。從現(xiàn)象學(xué)的角度闡明如何從對(duì)象的意向性構(gòu)成角度分析對(duì)象的構(gòu)成,對(duì)于AI識(shí)別視覺(jué)、聽覺(jué)對(duì)象具有啟發(fā)性?,F(xiàn)象學(xué)認(rèn)為,意向相關(guān)項(xiàng)(noema)[8]、意向?qū)ο蟮臉?gòu)成具有其內(nèi)在視域,這種視域具有的整體性使得對(duì)象和意義的構(gòu)成得以可能,這對(duì)于AI如何根據(jù)有限的數(shù)據(jù)分析來(lái)識(shí)別對(duì)象具有重要的啟發(fā)作用。第二是現(xiàn)象學(xué)的感性論,涉及到心靈、身體的關(guān)系,這個(gè)部分的深入研究結(jié)合被動(dòng)綜合分析,可能對(duì)揭示底層的感性意識(shí)特性以及身心關(guān)系具有重要意義,這對(duì)于建構(gòu)未來(lái)AI感知等基礎(chǔ)層面的認(rèn)知能力很重要。第三是具身性問(wèn)題,結(jié)合現(xiàn)象學(xué)的感性論對(duì)身心問(wèn)題、具身性的框架結(jié)構(gòu)以及動(dòng)感意識(shí)的研究,對(duì)于建構(gòu)具有身體感知、運(yùn)動(dòng)感知的機(jī)器人具有很關(guān)鍵的作用。第四是生活世界問(wèn)題,對(duì)生活世界的現(xiàn)象學(xué)研究,尤其是對(duì)生活世界中具有本質(zhì)性的形態(tài)學(xué)結(jié)構(gòu)和普遍性的基本運(yùn)作方式的揭示,可能會(huì)對(duì)解決AI的“框架難問(wèn)題”(the frame problem)具有重要的推動(dòng)作用。第五是主體間性問(wèn)題,主體間性問(wèn)題涉及到自我與他者的交互認(rèn)知關(guān)系,共涉及意識(shí)、語(yǔ)言和行為3個(gè)層面,對(duì)于主體間性的深層挖掘,有利于建構(gòu)機(jī)器人與人類交流互動(dòng)的能力,對(duì)于處理人類和機(jī)器人的相互關(guān)系,以及建立智能社會(huì)的秩序具有重要而基礎(chǔ)的作用。第六是主體與世界的關(guān)系,如果按照海德格爾的存在論現(xiàn)象學(xué),即“此在在世界中存在”是理解人的認(rèn)知、語(yǔ)言和行為的基本預(yù)先存在的框架,則海德格爾式AI需要計(jì)算機(jī)模擬此在的生存論結(jié)構(gòu)尤其是與世界打交道的模式。另外,AI科技可以借鑒情感現(xiàn)象學(xué)和道德現(xiàn)象學(xué)的研究,它們是研究所謂機(jī)器情感和機(jī)器倫理的重要理論視角,也是未來(lái)建立整個(gè)機(jī)器人的行動(dòng)哲學(xué)和倫理學(xué)的重要理論基礎(chǔ)。

    五、結(jié)論

    從現(xiàn)有的哲學(xué)理論看,關(guān)于未來(lái)智能機(jī)器人的發(fā)展具有以下幾種可能性:從聯(lián)結(jié)主義和現(xiàn)象學(xué)看,AI無(wú)法具有類似于人的意識(shí)和具身性的主體性,因?yàn)楸砬椤⒄Z(yǔ)言和動(dòng)作的類型上的差異性是機(jī)器人無(wú)法克服的。從現(xiàn)象學(xué)看,越是在精神性的層面,人和機(jī)器人之間的差距越大,二者的相似總是表面的。因此,在這種情境下,智能機(jī)器人對(duì)人類的模仿不可能無(wú)限逼近,讓智能機(jī)器人達(dá)到足以跨越恐怖谷的超高逼真度是一件很困難的事情。

    即便在設(shè)計(jì)智能機(jī)器人時(shí)避開機(jī)器人外形和動(dòng)作這兩方面與人類的雷同,但當(dāng)機(jī)器人的認(rèn)知模式、語(yǔ)言和行為模式的逼真度達(dá)到一定高度時(shí),也會(huì)引起恐怖谷效應(yīng)。這就使得某些智能機(jī)器人的設(shè)計(jì)陷入進(jìn)退兩難的境地:要么以降低逼真度為代價(jià)避免陷入“恐怖谷”,而這么做的缺點(diǎn)是智能機(jī)器人無(wú)法滿足某些輔助和陪伴的功能需求;要么設(shè)計(jì)高逼真度的智能機(jī)器人以滿足工作和生活的需求,但容易讓人類陷入情感錯(cuò)亂,產(chǎn)生恐怖谷效應(yīng)。

    當(dāng)然,從功能主義的強(qiáng)AI角度看,機(jī)器人也是會(huì)具有意識(shí)的,人的認(rèn)知、情感等功能可以由算法加芯片實(shí)現(xiàn)。因此,對(duì)強(qiáng)人工智能而言,跨越恐怖谷并非難事。如果有一天,人類能夠設(shè)計(jì)出這樣超高逼真度的機(jī)器人,人類也許會(huì)產(chǎn)生錯(cuò)覺(jué),模糊機(jī)器人和人類的界限,把機(jī)器人當(dāng)作人類的同類,而不僅僅是作為人類生活中充當(dāng)輔助工具的智能行動(dòng)者。但功能主義本身面臨如無(wú)法說(shuō)明意識(shí)所具有的感受性質(zhì)(qualia)這樣的困難問(wèn)題,因此即便智能機(jī)器人表面上幾乎和人類一樣,也不會(huì)對(duì)人和世界具有意識(shí)和體驗(yàn),而僅僅是一種查爾莫斯所說(shuō)的哲學(xué)僵尸(Philosophical Zombie or P-Zombie)[9]。

    但如前所述,智能機(jī)器人及AI科技未來(lái)的成就并非現(xiàn)在就可以從理論上判定的,而最終是要通過(guò)AI科學(xué)的實(shí)踐來(lái)回答。AI科技的發(fā)展必須要奠基于數(shù)學(xué)、腦科學(xué)、神經(jīng)生物學(xué)及現(xiàn)象學(xué)等更為基礎(chǔ)的學(xué)科,汲取這些學(xué)科關(guān)于意識(shí)、腦及計(jì)算等方面的前沿成就,尤其是要以現(xiàn)象學(xué)的方法和腦科學(xué)的方法為參照,以現(xiàn)象學(xué)關(guān)于意識(shí)的研究來(lái)補(bǔ)充腦科學(xué)的認(rèn)知研究的不足,才可能最大程度地揭示人類智能的奧秘,才有可能讓AI的智能逐漸臻于其極限。

    另外,如果設(shè)想未來(lái)有一天機(jī)器人的逼真度達(dá)到極致的極端情境,即如果它能成功跨越“恐怖谷”而無(wú)限逼近人類的智能,這時(shí)會(huì)產(chǎn)生一個(gè)有趣但很難有答案的問(wèn)題:它面對(duì)其他逼真度很高但沒(méi)有能夠跨越“恐怖谷”的類人智能機(jī)器時(shí),是否也會(huì)有類似于人的認(rèn)知錯(cuò)覺(jué)和情感錯(cuò)亂,產(chǎn)生類似于人類“恐怖谷”的效應(yīng)?如果答案是肯定的,則無(wú)論這種“恐怖谷”效應(yīng)只是“無(wú)心”的機(jī)器適應(yīng)環(huán)境的智能反應(yīng),還是伴隨著類似于人類的體驗(yàn)和感受,都表明人和智能機(jī)器之間的界限逐漸模糊了。

    猜你喜歡
    現(xiàn)象學(xué)機(jī)器人人工智能
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    對(duì)“如是我聞”的現(xiàn)象學(xué)詮釋
    機(jī)器人來(lái)幫你
    認(rèn)識(shí)機(jī)器人
    機(jī)器人來(lái)啦
    認(rèn)識(shí)機(jī)器人
    學(xué)習(xí)共同體的現(xiàn)象學(xué)闡釋與應(yīng)用
    国产视频一区二区在线看| 淫秽高清视频在线观看| 国产午夜福利久久久久久| 欧美日韩瑟瑟在线播放| 看免费av毛片| 欧美成人免费av一区二区三区| 成人av在线播放网站| 1024手机看黄色片| 欧美成狂野欧美在线观看| 欧美成人一区二区免费高清观看 | 欧美绝顶高潮抽搐喷水| 欧美另类亚洲清纯唯美| 精品一区二区三区四区五区乱码| 夜夜夜夜夜久久久久| 国产精品九九99| 久久精品国产清高在天天线| 99久久精品热视频| 草草在线视频免费看| 久久精品夜夜夜夜夜久久蜜豆 | 国产蜜桃级精品一区二区三区| avwww免费| 精华霜和精华液先用哪个| 啦啦啦免费观看视频1| 久久精品夜夜夜夜夜久久蜜豆 | 色精品久久人妻99蜜桃| 国产精华一区二区三区| 日本 欧美在线| 日韩大码丰满熟妇| 高清毛片免费观看视频网站| 国产成人影院久久av| 成人手机av| 亚洲欧美日韩高清专用| 给我免费播放毛片高清在线观看| 99久久无色码亚洲精品果冻| 男女视频在线观看网站免费 | 亚洲电影在线观看av| 中文亚洲av片在线观看爽| 亚洲中文字幕一区二区三区有码在线看 | 美女大奶头视频| 亚洲乱码一区二区免费版| 97人妻精品一区二区三区麻豆| 午夜免费成人在线视频| 色在线成人网| 最好的美女福利视频网| 午夜影院日韩av| 国产三级在线视频| 波多野结衣高清无吗| 国产三级在线视频| 亚洲成人中文字幕在线播放| 亚洲乱码一区二区免费版| 久久久久亚洲av毛片大全| 身体一侧抽搐| 久久婷婷成人综合色麻豆| 亚洲成人免费电影在线观看| 久久精品91蜜桃| 亚洲人成网站在线播放欧美日韩| 欧美 亚洲 国产 日韩一| 国内精品一区二区在线观看| 手机成人av网站| 国产熟女xx| 男男h啪啪无遮挡| 精品久久久久久久人妻蜜臀av| 国产亚洲精品一区二区www| 亚洲成av人片在线播放无| 波多野结衣巨乳人妻| 欧美乱码精品一区二区三区| 好看av亚洲va欧美ⅴa在| 精品久久久久久久人妻蜜臀av| 看片在线看免费视频| 亚洲在线自拍视频| 啦啦啦韩国在线观看视频| 亚洲成av人片在线播放无| 亚洲欧美精品综合一区二区三区| 亚洲午夜精品一区,二区,三区| 精品福利观看| 亚洲精品一卡2卡三卡4卡5卡| 国产熟女xx| 亚洲午夜理论影院| 免费一级毛片在线播放高清视频| 久久 成人 亚洲| 精品高清国产在线一区| 国语自产精品视频在线第100页| 亚洲自偷自拍图片 自拍| 国产乱人伦免费视频| 亚洲精品在线美女| 精品电影一区二区在线| 不卡一级毛片| ponron亚洲| 色噜噜av男人的天堂激情| 18禁国产床啪视频网站| 美女黄网站色视频| 哪里可以看免费的av片| 久久精品综合一区二区三区| 亚洲狠狠婷婷综合久久图片| 日日干狠狠操夜夜爽| 91国产中文字幕| 一级作爱视频免费观看| 日本一区二区免费在线视频| e午夜精品久久久久久久| 少妇的丰满在线观看| 精品午夜福利视频在线观看一区| www.精华液| 精品久久久久久久久久免费视频| 日韩大尺度精品在线看网址| 亚洲国产欧美网| 又黄又粗又硬又大视频| 亚洲av五月六月丁香网| 亚洲熟女毛片儿| 日本一二三区视频观看| 日韩欧美免费精品| av视频在线观看入口| a级毛片在线看网站| 国产真实乱freesex| 女人被狂操c到高潮| 中文在线观看免费www的网站 | 欧美在线黄色| 黄片小视频在线播放| 亚洲熟妇熟女久久| 麻豆国产97在线/欧美 | av福利片在线| 国产区一区二久久| svipshipincom国产片| 亚洲国产欧美网| 小说图片视频综合网站| 国产视频一区二区在线看| 国产av在哪里看| 十八禁网站免费在线| 欧美成人性av电影在线观看| 一级片免费观看大全| tocl精华| 亚洲男人的天堂狠狠| 黄色毛片三级朝国网站| 又黄又粗又硬又大视频| 成人特级黄色片久久久久久久| 国产野战对白在线观看| 黄色女人牲交| 久久久久久大精品| 日本一二三区视频观看| 婷婷丁香在线五月| 色综合欧美亚洲国产小说| 天堂av国产一区二区熟女人妻 | 久久99热这里只有精品18| 91成年电影在线观看| 日本 欧美在线| 桃色一区二区三区在线观看| 国产av一区在线观看免费| 亚洲一区二区三区不卡视频| 国产午夜福利久久久久久| 国产精品久久久av美女十八| 天堂√8在线中文| 国产午夜精品久久久久久| 最近最新免费中文字幕在线| 午夜精品久久久久久毛片777| 欧美成人免费av一区二区三区| 俄罗斯特黄特色一大片| 国产主播在线观看一区二区| 国产蜜桃级精品一区二区三区| 国产不卡一卡二| 国产av不卡久久| 免费电影在线观看免费观看| 视频区欧美日本亚洲| 91av网站免费观看| 色播亚洲综合网| 久久人妻福利社区极品人妻图片| 国产精品av久久久久免费| 少妇被粗大的猛进出69影院| 国产精品免费一区二区三区在线| 麻豆国产97在线/欧美 | 日韩欧美三级三区| 日本 av在线| 亚洲专区国产一区二区| 欧美成人午夜精品| 天堂av国产一区二区熟女人妻 | 国产伦在线观看视频一区| 国产1区2区3区精品| 亚洲国产日韩欧美精品在线观看 | 久9热在线精品视频| 成人午夜高清在线视频| 嫩草影院精品99| 天天添夜夜摸| 日日干狠狠操夜夜爽| 丝袜美腿诱惑在线| 国产欧美日韩精品亚洲av| 日韩大码丰满熟妇| 日本免费a在线| 国产欧美日韩一区二区精品| 人妻久久中文字幕网| 啦啦啦韩国在线观看视频| 精品少妇一区二区三区视频日本电影| 国产三级中文精品| 中文字幕人妻丝袜一区二区| 久久精品91无色码中文字幕| 狂野欧美白嫩少妇大欣赏| 国产成人啪精品午夜网站| 99热这里只有是精品50| 一二三四在线观看免费中文在| 亚洲乱码一区二区免费版| av有码第一页| 禁无遮挡网站| 久久午夜综合久久蜜桃| 午夜激情av网站| 国内少妇人妻偷人精品xxx网站 | 国产午夜精品论理片| 嫩草影视91久久| 97超级碰碰碰精品色视频在线观看| 国产麻豆成人av免费视频| 亚洲在线自拍视频| 三级男女做爰猛烈吃奶摸视频| 久久欧美精品欧美久久欧美| 久久精品亚洲精品国产色婷小说| 老熟妇仑乱视频hdxx| 五月伊人婷婷丁香| 亚洲成人国产一区在线观看| 国产欧美日韩精品亚洲av| 51午夜福利影视在线观看| 最近最新中文字幕大全免费视频| 老鸭窝网址在线观看| 别揉我奶头~嗯~啊~动态视频| 亚洲成人久久爱视频| 国产单亲对白刺激| 亚洲一区高清亚洲精品| 法律面前人人平等表现在哪些方面| 正在播放国产对白刺激| 亚洲av成人精品一区久久| 亚洲国产欧美网| 成人精品一区二区免费| 国产精品久久久久久久电影 | 国产午夜精品久久久久久| 舔av片在线| 久久久久九九精品影院| 真人一进一出gif抽搐免费| 黄色片一级片一级黄色片| 国产单亲对白刺激| 午夜成年电影在线免费观看| 国产探花在线观看一区二区| 精品一区二区三区视频在线观看免费| 亚洲成人久久性| 亚洲av成人不卡在线观看播放网| 欧美av亚洲av综合av国产av| 久久天堂一区二区三区四区| 母亲3免费完整高清在线观看| 午夜免费激情av| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲第一欧美日韩一区二区三区| 亚洲欧美精品综合久久99| 国内久久婷婷六月综合欲色啪| 在线十欧美十亚洲十日本专区| 婷婷亚洲欧美| 国产精品综合久久久久久久免费| 99re在线观看精品视频| 日本免费a在线| 久久午夜亚洲精品久久| 非洲黑人性xxxx精品又粗又长| e午夜精品久久久久久久| 精品午夜福利视频在线观看一区| 久久伊人香网站| 两个人看的免费小视频| 久久久久性生活片| 精品午夜福利视频在线观看一区| 最新美女视频免费是黄的| 黑人操中国人逼视频| 国产成人精品久久二区二区免费| 欧美日本视频| 日本免费一区二区三区高清不卡| 精品国产美女av久久久久小说| 免费看十八禁软件| 亚洲人与动物交配视频| 法律面前人人平等表现在哪些方面| 亚洲精品av麻豆狂野| 日韩国内少妇激情av| 精品国产超薄肉色丝袜足j| 嫩草影视91久久| 2021天堂中文幕一二区在线观| 999精品在线视频| 亚洲国产精品999在线| 亚洲激情在线av| 久久久水蜜桃国产精品网| 亚洲欧美一区二区三区黑人| 午夜免费成人在线视频| 欧美+亚洲+日韩+国产| 日本 av在线| 欧美性猛交╳xxx乱大交人| 久久精品国产亚洲av高清一级| 国产精品久久视频播放| 一级片免费观看大全| 操出白浆在线播放| 少妇的丰满在线观看| 久久热在线av| 香蕉久久夜色| 久久香蕉精品热| 亚洲国产精品sss在线观看| 国产91精品成人一区二区三区| 日韩欧美免费精品| 麻豆国产av国片精品| 女人被狂操c到高潮| 丰满人妻熟妇乱又伦精品不卡| 国产1区2区3区精品| 特级一级黄色大片| 999精品在线视频| 黄色女人牲交| 午夜福利免费观看在线| 99国产精品一区二区蜜桃av| 精品一区二区三区四区五区乱码| 国产人伦9x9x在线观看| 少妇熟女aⅴ在线视频| 精品不卡国产一区二区三区| 女人高潮潮喷娇喘18禁视频| 欧美在线黄色| 床上黄色一级片| 亚洲无线在线观看| 亚洲aⅴ乱码一区二区在线播放 | 日韩欧美免费精品| 黄色视频,在线免费观看| www.www免费av| 国内精品久久久久久久电影| 免费在线观看日本一区| 两性午夜刺激爽爽歪歪视频在线观看 | 成人av在线播放网站| 人妻久久中文字幕网| 午夜日韩欧美国产| 久久精品91蜜桃| 国产一区在线观看成人免费| 精品久久久久久久毛片微露脸| 亚洲人成电影免费在线| 中文字幕av在线有码专区| 国产亚洲av高清不卡| 草草在线视频免费看| 听说在线观看完整版免费高清| 中亚洲国语对白在线视频| 久久这里只有精品19| 精品一区二区三区av网在线观看| 国产精品野战在线观看| 亚洲天堂国产精品一区在线| 99热这里只有精品一区 | 老司机靠b影院| 日韩欧美在线乱码| 中文字幕av在线有码专区| 在线国产一区二区在线| 中文资源天堂在线| 色尼玛亚洲综合影院| 国产视频内射| 夜夜爽天天搞| 国产伦人伦偷精品视频| 高清毛片免费观看视频网站| 在线观看免费日韩欧美大片| 91麻豆av在线| 天堂av国产一区二区熟女人妻 | 久久久精品国产亚洲av高清涩受| 熟女少妇亚洲综合色aaa.| 成人三级做爰电影| 啦啦啦韩国在线观看视频| 国产精品一区二区精品视频观看| 日韩欧美国产一区二区入口| 亚洲av美国av| 在线观看美女被高潮喷水网站 | 免费在线观看日本一区| 变态另类成人亚洲欧美熟女| 999久久久精品免费观看国产| 啦啦啦免费观看视频1| 精品国产乱码久久久久久男人| 在线观看日韩欧美| 啦啦啦韩国在线观看视频| 身体一侧抽搐| 国产精品久久久久久精品电影| 久久香蕉国产精品| 69av精品久久久久久| 少妇的丰满在线观看| 99精品在免费线老司机午夜| 国产亚洲精品久久久久久毛片| 精华霜和精华液先用哪个| 免费观看人在逋| 91国产中文字幕| 中文字幕高清在线视频| 国产一区二区三区视频了| 国产av一区二区精品久久| 国产伦人伦偷精品视频| 伦理电影免费视频| av免费在线观看网站| 男女下面进入的视频免费午夜| 精品国产乱码久久久久久男人| √禁漫天堂资源中文www| 岛国在线观看网站| 国产精品免费一区二区三区在线| 精品久久久久久久末码| 亚洲在线自拍视频| 日本黄色视频三级网站网址| 久久香蕉精品热| 女生性感内裤真人,穿戴方法视频| 九九热线精品视视频播放| 精品熟女少妇八av免费久了| 日韩精品免费视频一区二区三区| 色综合站精品国产| 国产成人啪精品午夜网站| 在线a可以看的网站| 一二三四社区在线视频社区8| 99精品久久久久人妻精品| 国产精品亚洲美女久久久| 国产男靠女视频免费网站| 深夜精品福利| 久久精品国产亚洲av高清一级| 久久久国产成人精品二区| 天天一区二区日本电影三级| 亚洲欧美日韩无卡精品| 精品国产乱码久久久久久男人| 亚洲成a人片在线一区二区| 亚洲午夜理论影院| 亚洲 国产 在线| 色综合站精品国产| 99热6这里只有精品| 亚洲 欧美一区二区三区| 久久久久久人人人人人| 亚洲精品美女久久av网站| 99国产极品粉嫩在线观看| 国产单亲对白刺激| 日韩欧美在线乱码| 99国产极品粉嫩在线观看| 国产亚洲欧美在线一区二区| 免费看十八禁软件| 国产片内射在线| 精品不卡国产一区二区三区| 在线永久观看黄色视频| 日本 欧美在线| 一卡2卡三卡四卡精品乱码亚洲| 日本黄大片高清| 国产午夜精品久久久久久| 99久久国产精品久久久| 最新美女视频免费是黄的| 国产野战对白在线观看| 琪琪午夜伦伦电影理论片6080| 波多野结衣高清作品| 两性夫妻黄色片| 免费在线观看成人毛片| 丰满人妻熟妇乱又伦精品不卡| av福利片在线观看| 91麻豆精品激情在线观看国产| 18禁裸乳无遮挡免费网站照片| 中文在线观看免费www的网站 | 久久这里只有精品19| 国产激情久久老熟女| 午夜激情av网站| 神马国产精品三级电影在线观看 | 两性夫妻黄色片| 高清在线国产一区| 久久国产精品影院| 97人妻精品一区二区三区麻豆| 国产午夜精品久久久久久| 国产精品久久视频播放| 欧美色视频一区免费| 国产激情偷乱视频一区二区| 亚洲成人免费电影在线观看| 日韩欧美一区二区三区在线观看| 中国美女看黄片| 正在播放国产对白刺激| 在线十欧美十亚洲十日本专区| 在线观看一区二区三区| tocl精华| 亚洲自偷自拍图片 自拍| 日本 av在线| av超薄肉色丝袜交足视频| 在线十欧美十亚洲十日本专区| 亚洲全国av大片| 亚洲人成77777在线视频| 成人手机av| 黑人操中国人逼视频| avwww免费| 90打野战视频偷拍视频| 成人三级做爰电影| 一区二区三区激情视频| 国产精品久久久av美女十八| 国产精品 国内视频| 国产激情久久老熟女| 国产野战对白在线观看| 女生性感内裤真人,穿戴方法视频| 国产精品98久久久久久宅男小说| 国产精品免费一区二区三区在线| 1024手机看黄色片| 国产高清videossex| 亚洲第一电影网av| 亚洲av片天天在线观看| 777久久人妻少妇嫩草av网站| 97碰自拍视频| 欧美午夜高清在线| 国产黄色小视频在线观看| av有码第一页| 99riav亚洲国产免费| 99久久综合精品五月天人人| 国产亚洲精品av在线| 一区二区三区高清视频在线| 黄色女人牲交| 亚洲美女视频黄频| 久久久久久久久久黄片| 少妇人妻一区二区三区视频| 国产三级中文精品| 天堂动漫精品| 18禁裸乳无遮挡免费网站照片| 免费在线观看亚洲国产| 最新美女视频免费是黄的| 777久久人妻少妇嫩草av网站| 一二三四在线观看免费中文在| 国产野战对白在线观看| 亚洲中文av在线| 午夜福利高清视频| 日本免费一区二区三区高清不卡| 欧美黑人精品巨大| 日韩大码丰满熟妇| 蜜桃久久精品国产亚洲av| 亚洲中文字幕日韩| 欧美黑人欧美精品刺激| 99在线视频只有这里精品首页| 中文资源天堂在线| 国产又色又爽无遮挡免费看| 免费观看精品视频网站| 天堂av国产一区二区熟女人妻 | 久久久久精品国产欧美久久久| 超碰成人久久| 亚洲成人国产一区在线观看| 一本一本综合久久| 人人妻人人看人人澡| 国产野战对白在线观看| 99国产综合亚洲精品| 久久久精品国产亚洲av高清涩受| 国产激情偷乱视频一区二区| 国产成人系列免费观看| 亚洲国产精品成人综合色| 夜夜躁狠狠躁天天躁| 999久久久国产精品视频| 久久久国产精品麻豆| 国产精品亚洲av一区麻豆| 国产伦在线观看视频一区| 成人三级黄色视频| 国模一区二区三区四区视频 | 亚洲欧美精品综合一区二区三区| 精品乱码久久久久久99久播| 久久精品国产99精品国产亚洲性色| 在线观看免费视频日本深夜| 久久久久久国产a免费观看| 亚洲第一欧美日韩一区二区三区| 无限看片的www在线观看| 麻豆国产97在线/欧美 | 在线观看美女被高潮喷水网站 | 日韩欧美 国产精品| 99国产综合亚洲精品| 又爽又黄无遮挡网站| 国产三级在线视频| 禁无遮挡网站| 波多野结衣巨乳人妻| 国产精品一及| 亚洲成av人片免费观看| 黑人操中国人逼视频| 亚洲成人国产一区在线观看| 欧美丝袜亚洲另类 | 99在线人妻在线中文字幕| 欧美色欧美亚洲另类二区| 欧美三级亚洲精品| 一边摸一边抽搐一进一小说| 麻豆一二三区av精品| 免费在线观看完整版高清| 国产97色在线日韩免费| 亚洲专区国产一区二区| 亚洲黑人精品在线| 久久久久久久久中文| 日韩精品青青久久久久久| 欧美日韩一级在线毛片| 国产精品免费视频内射| av有码第一页| 久久伊人香网站| 欧美日韩黄片免| 好男人在线观看高清免费视频| 亚洲国产欧美网| 日韩欧美一区二区三区在线观看| 国产成人av教育| 18美女黄网站色大片免费观看| 看免费av毛片| 精品电影一区二区在线| 少妇裸体淫交视频免费看高清 | 国产成人欧美在线观看| 一级a爱片免费观看的视频| 在线观看免费午夜福利视频| 精品人妻1区二区| 亚洲欧美日韩高清专用| 女人爽到高潮嗷嗷叫在线视频| 91av网站免费观看| 欧洲精品卡2卡3卡4卡5卡区| 18禁观看日本| 国产真实乱freesex| 婷婷亚洲欧美| 麻豆国产97在线/欧美 | 国产精华一区二区三区| 亚洲精品在线美女| 欧美zozozo另类| 国产精品电影一区二区三区| 中文字幕人成人乱码亚洲影| 最近在线观看免费完整版| 婷婷亚洲欧美| 亚洲av电影在线进入| 久久久久久久久免费视频了| 两个人免费观看高清视频| 成熟少妇高潮喷水视频| 人妻夜夜爽99麻豆av| 亚洲性夜色夜夜综合| 人妻丰满熟妇av一区二区三区| 五月伊人婷婷丁香| 校园春色视频在线观看| 亚洲 国产 在线| 禁无遮挡网站| 激情在线观看视频在线高清| 精品乱码久久久久久99久播| 熟女少妇亚洲综合色aaa.| 人人妻人人澡欧美一区二区| 欧美色视频一区免费| 国产精品99久久99久久久不卡| 国产精品日韩av在线免费观看| 久久人妻av系列| 巨乳人妻的诱惑在线观看| bbb黄色大片|