• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    第四次革命:現(xiàn)代性的終結(jié)抑或重構(gòu)
    ——信息倫理對(duì)人工智能倫理的啟示

    2018-03-05 04:08:35張正清張成崗
    關(guān)鍵詞:弗洛里現(xiàn)代性機(jī)器

    張正清 張成崗

    肇始啟蒙的現(xiàn)代性進(jìn)程不僅僅屬于思想史范疇或精神現(xiàn)象,更是具體的社會(huì)表現(xiàn)。當(dāng)代技術(shù)研究的經(jīng)驗(yàn)轉(zhuǎn)向,給我們提供了理解現(xiàn)代性的新路徑:技術(shù)與現(xiàn)代性相互建構(gòu)。從后工業(yè)社會(huì)、風(fēng)險(xiǎn)社會(huì)到信息社會(huì),很多學(xué)者認(rèn)為我們已經(jīng)離開(kāi)了現(xiàn)代性時(shí)期,進(jìn)入了后現(xiàn)代社會(huì),而信息哲學(xué)就是其中觀點(diǎn)最鮮明的一派。但是,信息技術(shù)是否能真的帶來(lái)人與技術(shù)相互建構(gòu)的新模式?作為信息技術(shù)的最前沿,人工智能能徹底顛覆現(xiàn)代性社會(huì)嗎?我們需要從技術(shù)倫理規(guī)約的維度重新審視信息倫理所聲稱(chēng)的重大變革,以應(yīng)對(duì)AI技術(shù)發(fā)展帶來(lái)的新的倫理挑戰(zhàn)。

    一、第四次革命:現(xiàn)代性的新境遇

    技術(shù)與現(xiàn)代性之間存在密切聯(lián)系,技術(shù)使現(xiàn)代性成為可能,塑造并推動(dòng)著現(xiàn)代性前進(jìn);現(xiàn)代性則提供了理解技術(shù)的基本理論框架,對(duì)現(xiàn)代技術(shù)的認(rèn)識(shí)與反思不能脫離現(xiàn)代性背景[1](P104-105)?,F(xiàn)代性并非僵化的鐵板一塊,而是具有流動(dòng)性。對(duì)現(xiàn)代性的理論闡釋和批判可以從哲學(xué)、美學(xué)、文化學(xué)和社會(huì)學(xué)等多個(gè)維度進(jìn)行。對(duì)于現(xiàn)代性發(fā)展及其在20世紀(jì)60年代以后的表現(xiàn),當(dāng)代西方的社會(huì)理論提出了現(xiàn)代性分期的論說(shuō)。有的學(xué)者聚焦晚期現(xiàn)代性,將其作為一個(gè)在20世紀(jì)下半葉出現(xiàn)的新的歷史階段,并試圖勾勒其特性。在此坐標(biāo)軸上,自反性現(xiàn)代性[1](P43)、風(fēng)險(xiǎn)社會(huì)[1](P223)、后工業(yè)社會(huì)[1](P40)、信息時(shí)代和信息社會(huì)等進(jìn)入了人們的理論視野。

    信息技術(shù)的發(fā)展及其導(dǎo)致的人的信息化正在重構(gòu)現(xiàn)代性本身,技術(shù)的生活世界是一個(gè)使用者與計(jì)算機(jī)相互嚙合的媒介環(huán)境。20世紀(jì)80年代以后,計(jì)算機(jī)與網(wǎng)絡(luò)成了新的交往實(shí)踐領(lǐng)域。如今,計(jì)算機(jī)技術(shù)滲透到社會(huì)的各個(gè)領(lǐng)域,人工智能2.0時(shí)代的來(lái)臨給人工智能倫理帶來(lái)了更大的難題。如何構(gòu)建一個(gè)好的人工智能社會(huì)(good AI society)已經(jīng)成為技術(shù)引領(lǐng)型國(guó)家所共同考慮的事項(xiàng)[2],而信息與計(jì)算機(jī)倫理則成為人工智能的重要議題,一直在提供倫理研究上的新資源。

    信息倫理來(lái)自信息與計(jì)算機(jī)倫理(ICE)。弗洛里迪(Luciano Floridi)發(fā)展了信息倫理,也對(duì)信息哲學(xué)的拓展做出了貢獻(xiàn)[3]。弗洛里迪作為信息與計(jì)算機(jī)倫理的重要學(xué)者,受到同行的廣泛關(guān)注。學(xué)界正在集中討論弗洛里迪的觀點(diǎn),出現(xiàn)了論文集《弗洛里迪技術(shù)哲學(xué)研究》(LucianoFloridi’s Philosophy of Technology)。德米爾(Hilmi Demir)指出,弗洛里迪的信息哲學(xué)研究對(duì)技術(shù)哲學(xué)的貢獻(xiàn)在于,他對(duì)信息技術(shù)的分析給了我們一個(gè)新的形而上學(xué)框架,即把自然實(shí)體的本質(zhì)從物質(zhì)性轉(zhuǎn)化為信息性[4](PV)。弗洛里迪的信息倫理就是對(duì)信息哲學(xué)進(jìn)行規(guī)則化和應(yīng)用化的結(jié)果,因此,不能截然區(qū)分其信息倫理與技術(shù)哲學(xué)。

    科技知識(shí)的發(fā)展導(dǎo)致了人類(lèi)自身倫理認(rèn)知的改變,這是科技哲學(xué)與倫理的基本結(jié)合點(diǎn)。但是,弗洛里迪并沒(méi)有按照艾倫(Colin Allen)的思路,從道德認(rèn)知主體的角度思考技術(shù)物的道德意向性;也沒(méi)有從丹尼特(Daniel Dennett)的心靈哲學(xué)角度,把信息主體當(dāng)作一種生物學(xué)范疇中的主體。弗洛里迪認(rèn)為,現(xiàn)代性對(duì)主體性的推崇,與信息化生存所帶來(lái)的主體性地位下降有著內(nèi)在沖突。因此,不能再按照原來(lái)思考技術(shù)物道德價(jià)值的方式來(lái)規(guī)范信息革命后的道德生存[5](P13)。在《人工智能新前沿:人工伴侶和第四次革命》[6]一文中,弗洛里迪提出了第四次革命的概念。而人工智能的信息倫理問(wèn)題是第四次革命的核心內(nèi)容。按照弗洛里迪的劃分,第一次革命是哥白尼革命,第二次是以達(dá)爾文為代表的生物學(xué)革命,第三次是以弗洛伊德為代表的意識(shí)革命,第四次則是以圖靈為代表的信息革命。對(duì)于弗洛里迪來(lái)說(shuō),第四次革命的本質(zhì)是信息革命,智能體、智能伴侶、語(yǔ)義網(wǎng)就是第四次革命所包含的內(nèi)容[6]。米歇爾·巴洛恩(Michael Byron)認(rèn)為,第四次革命是人自我認(rèn)知的革命[7]。

    信息倫理不是要以經(jīng)典的倫理理論來(lái)討論信息本身,而是要顛覆傳統(tǒng)的倫理原則,為信息時(shí)代的人們提供新的倫理共識(shí)和規(guī)范。弗洛里迪和一些信息、計(jì)算機(jī)哲學(xué)學(xué)者發(fā)表了“在線(xiàn)生活宣言”[8](P1),認(rèn)為線(xiàn)上、線(xiàn)下的生存融合已經(jīng)無(wú)法抗拒?!霸诰€(xiàn)生活宣言”宣稱(chēng),現(xiàn)代性已經(jīng)終結(jié)。單從倫理層面講,信息倫理認(rèn)為合理性和離身的理性是人的現(xiàn)代性特點(diǎn),所以現(xiàn)代性的倫理問(wèn)題就是理性且離身的自主性主體所帶來(lái)的問(wèn)題,而不是社會(huì)性存在所產(chǎn)生的問(wèn)題。過(guò)去,人們把主體責(zé)任的缺失歸咎于技術(shù)系統(tǒng)中的社會(huì)化生產(chǎn),認(rèn)為責(zé)任被分散到設(shè)計(jì)者、銷(xiāo)售者、使用者等不同的主體上,導(dǎo)致了責(zé)任認(rèn)定的困難,而新的信息倫理正是要反對(duì)這些[8](P8)。線(xiàn)上革命承載了這個(gè)倫理變革,所以弗洛里迪聲稱(chēng),信息倫理就是要填補(bǔ)這個(gè)革命后的新時(shí)代空白[4](P23)。

    信息倫理極為關(guān)注人工物能動(dòng)者問(wèn)題,特別是人工智能技術(shù)物的道德問(wèn)題。應(yīng)當(dāng)說(shuō),從道德能動(dòng)者的角度出發(fā),信息倫理可以對(duì)人工智能的倫理問(wèn)題提供更多資源,是進(jìn)一步發(fā)展人工智能倫理的有效途徑。但是,信息倫理真能重新建構(gòu)新的主體性、建立新的倫理規(guī)范嗎?這仍需要在信息化生存、技術(shù)身份和自主性中具體分析。

    二、信息化生存對(duì)現(xiàn)代性的挑戰(zhàn)與重構(gòu)

    信息化、數(shù)字化對(duì)現(xiàn)代性進(jìn)行了重寫(xiě),這也是弗洛里迪對(duì)線(xiàn)上生活的基本判斷。在技術(shù)哲學(xué)中,關(guān)于信息和智能化對(duì)人的重構(gòu),很多學(xué)者都從主體和身份兩個(gè)生存維度作了描述。例如,芬伯格認(rèn)為,線(xiàn)上的身份因通信和游戲改變了原來(lái)身份的意義,現(xiàn)代人的身份是一種通信的產(chǎn)物,主體的世俗化使得社會(huì)控制變?nèi)趿薣9](P108-109)。所以說(shuō),信息化生存確實(shí)預(yù)示了一個(gè)現(xiàn)代性社會(huì)轉(zhuǎn)變的節(jié)點(diǎn)。阿爾伯特·伯格曼指出,網(wǎng)絡(luò)社區(qū)中人際交往在不斷退化,計(jì)算機(jī)網(wǎng)絡(luò)將人從世界中抽離出來(lái),還原為用戶(hù)等可以輕易控制的數(shù)據(jù)流類(lèi)型[10](P108)。那么,處于第四次革命中的人的生存本質(zhì)是什么?對(duì)于信息倫理來(lái)說(shuō),就是信息。如果之前的人類(lèi)歷史在給信息做加法的問(wèn)題上遇到了困難,那么今天的人就是在為信息做減法的問(wèn)題上面臨難題。這種大數(shù)據(jù)時(shí)代的問(wèn)題與人工智能是分不開(kāi)的。

    首先,面對(duì)繁瑣的技術(shù)處理,人需要自動(dòng)化技術(shù)為自身免去重復(fù)性勞動(dòng)。當(dāng)這種勞動(dòng)是信息勞動(dòng)時(shí),人類(lèi)就會(huì)面臨在本質(zhì)意義上被取代的危機(jī),即被智能機(jī)器剝奪勞動(dòng)權(quán)。在信息冗余的時(shí)代,智能機(jī)器替代人的原因不是能力上更優(yōu),而是人對(duì)自己生存本質(zhì)的煩躁與憂(yōu)慮??死锥桑↘ryder’s law)指出,電腦中半導(dǎo)體的處理能力每18個(gè)月就會(huì)增長(zhǎng)一倍,而磁盤(pán)驅(qū)動(dòng)器可記錄的信息密度在過(guò)去50年中增長(zhǎng)了5000萬(wàn)倍[11],但仍然不能滿(mǎn)足人制造數(shù)據(jù)的需求。所以,人機(jī)械化復(fù)制自身的問(wèn)題在信息社會(huì)尤其嚴(yán)重。大數(shù)據(jù)時(shí)代的一個(gè)核心問(wèn)題就是生產(chǎn)數(shù)據(jù)的能力遠(yuǎn)超儲(chǔ)存數(shù)據(jù)的能力[12](P19)。與數(shù)字化技術(shù)過(guò)于強(qiáng)大的記憶能力相比,現(xiàn)代社會(huì)的人容易患上數(shù)字健忘癥,一旦離開(kāi)云存儲(chǔ)的資料,大腦的記憶能力就幾乎派不上用場(chǎng)。所以,刪除信息比生產(chǎn)信息更為重要,機(jī)器學(xué)習(xí)已經(jīng)在朝這個(gè)方向努力了。

    人的信息化生存導(dǎo)致了自己無(wú)奈地讓渡出自己的生存本質(zhì)——信息,信息的生產(chǎn)與處理離人越來(lái)越遠(yuǎn),這就是“在線(xiàn)生活宣言”所說(shuō)的主體性分散問(wèn)題。當(dāng)生存本質(zhì)都交給他者時(shí),人的本體論危機(jī)出現(xiàn)了。那么,在考慮人工智能時(shí)人類(lèi)會(huì)抱有一種悲觀論嗎?應(yīng)該不會(huì)。因?yàn)榫驮诂F(xiàn)代西方政治制度建立之初,每個(gè)人為了便利都把權(quán)力讓渡給了誠(chéng)實(shí)的守夜人;今天我們面對(duì)生存所產(chǎn)生的、數(shù)量大到無(wú)法處理的生活資料,同樣可以把自己的智能權(quán)力讓渡給計(jì)算機(jī)。弗洛里迪認(rèn)為這體現(xiàn)了人內(nèi)在的矛盾性:

    當(dāng)說(shuō)起信息與通信技術(shù)時(shí),我們很容易忘記計(jì)算機(jī)其實(shí)并不會(huì)自己進(jìn)行運(yùn)算,手機(jī)也不會(huì)自己撥打電話(huà),這似乎有些自相矛盾。[12](P12)

    當(dāng)自己困于其中而被信息技術(shù)所解脫時(shí),心存僥幸;當(dāng)想提高自己在信息時(shí)代的地位時(shí),又極力反對(duì)智能技術(shù),這是對(duì)現(xiàn)代性倫理矛盾的一個(gè)生動(dòng)寫(xiě)照。

    其次,信息實(shí)體的出現(xiàn)使人重新思考自身的生存本質(zhì),并把社會(huì)性存在放到了高于個(gè)人本質(zhì)的位置。在信息倫理中,信息具有很強(qiáng)的語(yǔ)義學(xué)含義,倫理評(píng)價(jià)和倫理行動(dòng)在語(yǔ)義學(xué)意義上是產(chǎn)生信息的活動(dòng)。當(dāng)信息包含倫理價(jià)值取向時(shí),這種信息性活動(dòng)直接關(guān)系到人自身的行為以及行動(dòng)的環(huán)境[13]。信息的生產(chǎn)、選擇甚至消除不僅是生存的本質(zhì),信息本身還是生存的語(yǔ)境。弗洛里迪在解釋面向?qū)ο缶幊汤碚摚╫bject oriented programming approach)時(shí)提出了一種作為實(shí)體的信息對(duì)象[14]。他用國(guó)際象棋舉例:棋子不是因顏色形狀在下棋的環(huán)境中發(fā)揮作用,而是因?qū)ο箨P(guān)系之間的規(guī)則賦予它承載信息的能力發(fā)揮作用。棋子因這種能力而是一種信息實(shí)體,即其扮演角色的語(yǔ)義信息是規(guī)則的承載者和行動(dòng)的解釋者。

    我們從來(lái)不是孤立地接受純粹的數(shù)據(jù),而往往是在有上下文的語(yǔ)境中接受它們。因此,我們會(huì)不可避免地賦予數(shù)據(jù)一些意義。[12](P161)

    信息的生產(chǎn)不僅因?yàn)橛袑?duì)信息的需求,也為了不斷制定和修正信息的邊界而進(jìn)行。我們要在自己的生存中為計(jì)算機(jī)等處理信息的機(jī)器去探路,因?yàn)槠湄?fù)載的信息關(guān)系、其所扮演的信息實(shí)體都是我們生存的必需品。計(jì)算機(jī)對(duì)于人來(lái)說(shuō)是需要控制與規(guī)范管理的,但計(jì)算機(jī)倫理本身不提供原則性的規(guī)范。如何把計(jì)算機(jī)這種技術(shù)物提升到人所處的道德地位,是把計(jì)算機(jī)倫理提升到人倫理的關(guān)鍵,即讓智能機(jī)器成為受規(guī)則限制的道德能動(dòng)者[5](P88)。這就像為罪犯去設(shè)想法律一樣,規(guī)則永遠(yuǎn)不是違反規(guī)則的人制定的,而是遵守規(guī)則的人制定的。

    但是,這個(gè)邏輯到信息實(shí)體這里就出現(xiàn)了問(wèn)題,因?yàn)槠洳粌H在信息化生存中充當(dāng)了重要的角色,甚至還充當(dāng)了無(wú)法替代的角色。信息實(shí)體背后的協(xié)議層不會(huì)因?yàn)樵O(shè)計(jì)者是人而透明化,而是會(huì)因?yàn)槿松a(chǎn)信息的不確定性而黑箱化。弗洛里迪使用包圍(enveloping)的概念來(lái)說(shuō)明數(shù)字化生產(chǎn)的環(huán)境,但是仍然無(wú)法回應(yīng)拉索(Federica Russo)等人對(duì)信息環(huán)境的質(zhì)疑[4](P252)。新替代者的出現(xiàn),例如信息實(shí)體,必須伴隨著新的技術(shù)系統(tǒng)以及環(huán)境的變革,這是主體社會(huì)性生存的內(nèi)涵。但是,目前我們無(wú)法確定信息技術(shù)所構(gòu)成的環(huán)境是更適于信息主體還是人,因?yàn)樾畔⒓夹g(shù)的抽象分層遠(yuǎn)沒(méi)有弗洛里迪自己所舉的無(wú)人駕駛汽車(chē)那么簡(jiǎn)單。人類(lèi)主體和非人主體誰(shuí)能運(yùn)作和構(gòu)建信息環(huán)境,誰(shuí)就獲得了控制信息時(shí)代的核心規(guī)范地位。因此,這種人與智能機(jī)器的雙向互動(dòng),會(huì)使得在各自角度看起來(lái)還算明確的規(guī)則變得混亂。人工智能倫理必須清楚地看到信息倫理的這個(gè)問(wèn)題,在構(gòu)建新的規(guī)范主體時(shí),要清除以不同主體為核心所構(gòu)建的規(guī)則所帶來(lái)的矛盾。

    三、現(xiàn)代性挑戰(zhàn)的主體維度:以技術(shù)自我挑戰(zhàn)身份認(rèn)同

    信息化生存不僅帶來(lái)了主體性變動(dòng),還啟動(dòng)了世界的虛擬化進(jìn)程。隨著網(wǎng)絡(luò)空間的形成,線(xiàn)下物理世界也開(kāi)始了自己的虛擬化。當(dāng)“萬(wàn)物的本源是比特”被提出時(shí),其要表明的不僅是這個(gè)世界的數(shù)字化程度達(dá)到了一個(gè)新高度,更是要表明,語(yǔ)義學(xué)關(guān)系也成了存在關(guān)系的核心內(nèi)容。所以,人的信息化不只體現(xiàn)為人具有了線(xiàn)上的虛擬身份,還體現(xiàn)為在擁有了線(xiàn)上身份的那一刻起,對(duì)自己的現(xiàn)實(shí)身份有了反觀的契機(jī)。同樣,這個(gè)現(xiàn)代性的社會(huì)也因網(wǎng)絡(luò)世界的形成而認(rèn)識(shí)到了自身的虛擬性。

    人與智能機(jī)器在共同進(jìn)行著信息化生存,而存在規(guī)定本質(zhì),那么人和機(jī)器必然具有某種類(lèi)似的身份。對(duì)于信息哲學(xué),社會(huì)自我與技術(shù)身體是決定身份的關(guān)鍵。在信息社會(huì)中,因?yàn)槿说淖晕乙庾R(shí)過(guò)多地參與類(lèi)似機(jī)器的信息處理中,或者說(shuō),機(jī)器的工作過(guò)多地滲透到人的信息本質(zhì)生存中,自我在這個(gè)時(shí)代與以往大為不同了。

    一個(gè)人的社會(huì)自我可能會(huì)大為改觀,而這又會(huì)反射到“自我意識(shí)”層面,最終對(duì)個(gè)人身份認(rèn)同產(chǎn)生極大的影響。[12](P69)

    自我問(wèn)題關(guān)系到身份認(rèn)同,有什么樣的自我認(rèn)識(shí),就會(huì)有什么樣的技術(shù)身份。所謂人工的能動(dòng)者,就是基于這樣一種自我意識(shí),因?yàn)橐庾R(shí)是選擇特定行為模式的基礎(chǔ)。現(xiàn)代銷(xiāo)售人員對(duì)消費(fèi)者購(gòu)買(mǎi)傾向的經(jīng)驗(yàn)評(píng)估,正在無(wú)限接近線(xiàn)上購(gòu)物網(wǎng)站對(duì)用戶(hù)個(gè)人消費(fèi)習(xí)慣的數(shù)據(jù)分析。數(shù)據(jù)和機(jī)器比人早想到一步,這既是信息生存的獨(dú)有體驗(yàn),也是人的意識(shí)、知覺(jué)體驗(yàn)不再特殊的預(yù)兆。拋開(kāi)意識(shí)獨(dú)立性的問(wèn)題,機(jī)械設(shè)備中的信息生產(chǎn)其實(shí)已經(jīng)在進(jìn)行了。更令人擔(dān)憂(yōu)的是,人的意識(shí)也正在向著機(jī)械設(shè)備的模式轉(zhuǎn)變。

    沒(méi)有身體就沒(méi)有自我的發(fā)展,而一旦后者形成了意識(shí),自我生命可能會(huì)是完全內(nèi)部化的,并且獨(dú)立于使它成為可能的特定的身體和設(shè)備。[12](P79)

    對(duì)于人來(lái)說(shuō),身體行動(dòng)在信息化時(shí)代變得缺乏,我們依賴(lài)與身體連接的處理信息的設(shè)備,例如手機(jī)和電腦等?;谶@種混合身體,甚至是被機(jī)器所主導(dǎo)的身體,我們的意識(shí)必然受到影響。而反過(guò)來(lái),成為智力代替者的機(jī)器,因?yàn)槠湟庾R(shí)功能的需要,也在規(guī)劃著超出預(yù)先設(shè)定的意識(shí)內(nèi)容范圍的身體。智能機(jī)器不再會(huì)因?yàn)槿怂孟氤鰜?lái)的統(tǒng)治欲或者自慚形穢而尋找符合自我的實(shí)體身體??梢韵胂螅艘步K將會(huì)拋棄這些。智能機(jī)器的類(lèi)人能動(dòng)性將在技術(shù)物的邏輯下繼續(xù)發(fā)展自身,而能動(dòng)性的載體也不會(huì)按照人的身體構(gòu)建。

    這種身份趨同除了自我、意識(shí)層面的趨同外,還因?yàn)閷?duì)環(huán)境的適應(yīng)性而趨同。智能機(jī)器的語(yǔ)義規(guī)則與現(xiàn)實(shí)世界中的物理邊界是此消彼長(zhǎng)的關(guān)系,就像地鐵前的疏導(dǎo)柵欄對(duì)人流的限制一樣,物理的邊界越明顯,人的意識(shí)對(duì)自己的行為控制越不必要。AI同樣如此,AI越能如期地執(zhí)行規(guī)則,則物理限制需求越少;AI對(duì)規(guī)則的理解與執(zhí)行力越差,越需要人為設(shè)定物理邊界。因此,讓環(huán)境適應(yīng)智能是我們現(xiàn)在需要警惕的,我們?yōu)榱私o人工智能機(jī)器設(shè)定行動(dòng)邊界而給世界設(shè)定了邊界[12](P166)。也就是說(shuō),我們是在為了方便機(jī)器而改變、限制自己。

    我們?cè)絹?lái)越多地將自己的記憶、決定、日常安排和其他活動(dòng),以一種與我們不斷融合的方式,委派或外包給這些數(shù)字信息智能體去打理。由于第四次革命,這一切都會(huì)變得司空見(jiàn)慣,人類(lèi)獨(dú)一無(wú)二的地位將被取代也是如此。[12](P108)

    弗洛里迪對(duì)人類(lèi)地位的預(yù)期顯然比較悲觀。但是,這種警示的背后顯示出弗洛里迪對(duì)于身份信息化的具體過(guò)程認(rèn)識(shí)含混。問(wèn)題在于,其對(duì)替代因果性采取了不同于計(jì)算主義心靈哲學(xué)的處理。在行動(dòng)與意志的討論中,雖然我們肯定行動(dòng)的解釋來(lái)源于意志或者說(shuō)自由的意志,但是自由意志不意味著自由行動(dòng)。行動(dòng)總是有其系統(tǒng)邊界,對(duì)于信息主體與人都是如此。如何處理這個(gè)系統(tǒng)邊界,以便讓舊的身份消失而新的身份從意志走入現(xiàn)實(shí),是賦予新身份以行動(dòng)與實(shí)踐意義的關(guān)鍵??傮w看來(lái),可以從兩點(diǎn)來(lái)反思:

    第一,究竟是什么構(gòu)成了身份?信息技術(shù)使全世界以一種信息交互的方式聯(lián)系在一起,雖然我們比以前更容易與他者產(chǎn)生聯(lián)系,但也更容易以可替代的方式呈現(xiàn)于他人面前。對(duì)于青年人,也就是弗洛里迪所說(shuō)的線(xiàn)上一代,他們靠著社交平臺(tái)所發(fā)出的信息、對(duì)自己網(wǎng)絡(luò)身份的運(yùn)營(yíng),維持在網(wǎng)絡(luò)空間中的自我身份。構(gòu)成這種身份的內(nèi)容,沒(méi)有什么是不可數(shù)字化處理的。微軟小娜(Cortana)的網(wǎng)絡(luò)身份,在信息交互的意義上比絕大多數(shù)青少年的網(wǎng)絡(luò)身份都要成功。交流與互動(dòng)對(duì)絕大多數(shù)網(wǎng)絡(luò)身份都是多余的,標(biāo)簽和機(jī)械規(guī)則要求下的相互提示,更能印證社會(huì)關(guān)系的存在。當(dāng)然,也更容易在一瞬間使這些身份關(guān)系崩塌。

    第二,技術(shù)身份的提休斯之船問(wèn)題(Ship of Theseus)??v向來(lái)說(shuō),一個(gè)人的身份信息到什么程度算是可以脫離身體,形成新的線(xiàn)上自我?朋友圈構(gòu)建到什么程度會(huì)讓你覺(jué)得你就是你線(xiàn)上的身份,或者你不是你線(xiàn)上的身份?人工智能對(duì)你個(gè)人數(shù)據(jù)進(jìn)行重建,那些原本屬于你的信息以及本來(lái)不屬于你的信息達(dá)到什么程度會(huì)讓別人產(chǎn)生懷疑?這都是兩個(gè)身份趨同所帶來(lái)的差異問(wèn)題。從橫向來(lái)說(shuō),人若是信息的中心,信息量少到什么程度,才能分辨出人所處理的信息能代表人是中心;或者說(shuō),信息多到什么程度,人才會(huì)在近似無(wú)限的信息中失去自己的中心角色。這也是事關(guān)智能機(jī)器與人爭(zhēng)奪信息注意力的重要問(wèn)題。

    四、現(xiàn)代性挑戰(zhàn)的技術(shù)維度:以技術(shù)自主性挑戰(zhàn)人機(jī)溝通

    如果信息化生存真的導(dǎo)致了人的地位下降甚至被取代,那么人工智能會(huì)因智能機(jī)器具有類(lèi)人的身份而面臨同樣問(wèn)題:?jiǎn)适е黧w性意義。弗洛里迪認(rèn)為,數(shù)字化不只是加強(qiáng)或者增加了現(xiàn)實(shí),更是轉(zhuǎn)化了現(xiàn)實(shí),形成了我們以及其他形式的新能動(dòng)者所需的新環(huán)境[15]。為了說(shuō)明這種倫理語(yǔ)境的形成,弗洛里迪提出了三階技術(shù)的概念。

    按照傳統(tǒng)的技術(shù)中介理論,人在認(rèn)識(shí)和改造自然時(shí),會(huì)以技術(shù)為中介。這種看似具身的、介于人與自然之間的技術(shù)物是一階技術(shù),簡(jiǎn)單舉例就是斧子,人最早直接使用斧子朝向自然中的樹(shù)。二階技術(shù)是人與技術(shù)之間的技術(shù),類(lèi)似復(fù)雜的解釋學(xué)回路,例如螺絲刀就是這種技術(shù)物,它只能用來(lái)作用于螺絲這種技術(shù)物上。三階技術(shù)則被比喻為有生命的工具,它連接作為使用者的技術(shù)和作為敦促者的技術(shù)。與人作為使用者、自然作為敦促者的一階技術(shù)的不同在于,三階技術(shù)是技術(shù)之間的中介,而不是人與自然之間的中介。三階技術(shù)作為技術(shù)之間的媒介而出現(xiàn),使得人和自然(世界)不再出現(xiàn)在某個(gè)技術(shù)環(huán)節(jié)的兩端,為人類(lèi)和世界在技術(shù)行動(dòng)中的隱去做出了第一步基礎(chǔ)[12](P35)。其實(shí)弗洛里迪所說(shuō)的三階技術(shù)從目前看來(lái),種類(lèi)并不繁多,大概只有以計(jì)算機(jī)為代表的智能機(jī)器可以成為三階技術(shù)的負(fù)載系統(tǒng),例子就是物聯(lián)網(wǎng)。物聯(lián)網(wǎng)處于事物與事物相互作用的中間位置,預(yù)示著一種不需要人參與的技術(shù)社會(huì)。

    從本質(zhì)上說(shuō),三階技術(shù)的目的在于,將低效率的人類(lèi)媒介從技術(shù)循環(huán)的回路中去除。[12](P37)

    弗洛里迪把人類(lèi)看作媒介,已經(jīng)是站在了信息化生存導(dǎo)致人的地位下降的立場(chǎng)上了。他試圖把人從機(jī)器的規(guī)范中剔除,因?yàn)闄C(jī)器的道德活動(dòng)可以不包括人,也不即時(shí)地受人控制。即便如此,我們?nèi)匀豢梢詮募夹g(shù)的內(nèi)在規(guī)范性來(lái)討論技術(shù)替代的倫理問(wèn)題。按照弗洛里迪的觀點(diǎn),智能機(jī)器會(huì)形成封閉的道德行動(dòng)回路,但是他忽略了機(jī)器本身的既定邏輯以及人的反向適應(yīng)能力。相對(duì)于三階技術(shù)來(lái)說(shuō),一階技術(shù)和二階技術(shù)的替代性成本很低,外部適應(yīng)難度和內(nèi)部適應(yīng)難度都低。三階技術(shù)則不然,其替代性成本急劇上漲,外部適應(yīng)難度高。例如,作為人的我們想介入一個(gè)中央控制的機(jī)器系統(tǒng)十分困難,機(jī)器想改變這個(gè)狀況也很難。并且,其內(nèi)部適應(yīng)難度也高,替代現(xiàn)代精密儀器中的某個(gè)部分,例如電腦主板上的內(nèi)存條,會(huì)導(dǎo)致整個(gè)平臺(tái)的改變。智能機(jī)器的邏輯一定是按照初始邏輯進(jìn)行正向適應(yīng);而對(duì)于人來(lái)說(shuō),礙于整個(gè)系統(tǒng)的繁瑣和處理信息的緊迫,我們也會(huì)反向適應(yīng)。例如條形碼這種信息處理方式是依據(jù)機(jī)器的便利來(lái)設(shè)定,而不是從人直觀獲得信息的角度來(lái)設(shè)定。按照智能機(jī)器進(jìn)化的邏輯,人與自然的必要性在降低,但不預(yù)示人是可替代的,而是需要人以一種非人的狀態(tài)參與技術(shù)系統(tǒng)。但是,弗洛里迪認(rèn)為,“智能和自主將不再是人類(lèi)獨(dú)有的特性。從理論上來(lái)說(shuō),一個(gè)超歷史的、依賴(lài)于三階技術(shù)的社會(huì)可以脫離人類(lèi)而獨(dú)立存在”[12](P38)。

    從三階技術(shù)中推導(dǎo)出的這個(gè)觀點(diǎn)非常激進(jìn)。那么,在不需要人的技術(shù)系統(tǒng)之外是否有人的位置呢?對(duì)于信息哲學(xué)來(lái)說(shuō),人的位置在界面的面前。所謂界面就是人與機(jī)器發(fā)生關(guān)系的交互面,對(duì)于互聯(lián)網(wǎng)社會(huì)中的人來(lái)說(shuō),這個(gè)界面可以是鍵盤(pán)、鼠標(biāo)、顯示器。信息此時(shí)不再是簡(jiǎn)單的輸入、輸出,其運(yùn)作被機(jī)器間互動(dòng)的協(xié)議所控制。弗洛里迪通過(guò)使用者交互界面與協(xié)議面的區(qū)分,把人可以通過(guò)使用而展現(xiàn)出來(lái)的傳遞控制力,當(dāng)作技術(shù)物之間的內(nèi)在規(guī)范性[12](P40)。就像齒輪之間的咬合一樣,智能機(jī)器的協(xié)議是技術(shù)物之間(原來(lái)只出現(xiàn)于人與自然之間)交換信息的規(guī)則。不過(guò)就像霍爾效應(yīng)中的電子流動(dòng)一樣,技術(shù)物之間的信息流動(dòng)也有好與壞之分。弗洛里迪用信息摩擦來(lái)描述其不良溝通的情況[12](P117),這種對(duì)不良情形的描述方式本身就指出了協(xié)議雙方的溝通有內(nèi)在的善惡價(jià)值,最簡(jiǎn)單的倫理規(guī)則就是保障順暢地進(jìn)行信息交互。如果絕對(duì)的通暢成為了標(biāo)準(zhǔn),就會(huì)導(dǎo)致人類(lèi)的倫理困境與危機(jī),例如隱私問(wèn)題、責(zé)任問(wèn)題、安全問(wèn)題。

    這種觀點(diǎn)中還存在另一個(gè)矛盾,就是技術(shù)系統(tǒng)內(nèi)部封閉的自主性與技術(shù)系統(tǒng)和外部溝通的流暢性之間的矛盾。三階技術(shù)的觀點(diǎn)假設(shè)了智能技術(shù)與一般性技術(shù)之間封閉的溝通邏輯,而現(xiàn)實(shí)是,由人主導(dǎo)的技術(shù)改造活動(dòng)是存在并被人所控制的。技術(shù)物智能化絕非是在創(chuàng)造一個(gè)個(gè)新的智能系統(tǒng),而是不斷地對(duì)一階、二階技術(shù)進(jìn)行社會(huì)性智能改造。對(duì)于物聯(lián)網(wǎng)來(lái)說(shuō),目前沒(méi)有太多的家庭設(shè)備是在智能聯(lián)網(wǎng)之后出現(xiàn)的。非智能機(jī)器變?yōu)橹悄軝C(jī)器,集中體現(xiàn)了技術(shù)系統(tǒng)的智能化邏輯與人的反向適應(yīng)力的交融。我們不禁要問(wèn),技術(shù)系統(tǒng)內(nèi)部真的有系統(tǒng)化溝通的能力嗎?如果沒(méi)有,那么智能機(jī)器的自主性全然沒(méi)有設(shè)想中那么強(qiáng),人會(huì)通過(guò)犧牲信息的獨(dú)占性來(lái)?yè)Q取在技術(shù)系統(tǒng)中的位置。因此,三階技術(shù)脫離人類(lèi)社會(huì)的說(shuō)法尚為時(shí)過(guò)早,人工智能倫理依舊應(yīng)該把智能機(jī)器定位于互動(dòng)型倫理主體。同時(shí)還要假定智能機(jī)器具有與人同樣的主體性缺陷,即無(wú)法獨(dú)立成為完全的道德能動(dòng)者。只有這樣,才能真正站在信息倫理所強(qiáng)調(diào)的技術(shù)系統(tǒng)的角度,建立順暢的道德溝通。

    五、可替代現(xiàn)代性之重構(gòu):走向人工智能時(shí)代的新道德主體

    基于信息倫理所揭示的生存、身份與地位的倫理困境,可能會(huì)自然地推出信息倫理的技術(shù)悲觀主義立場(chǎng)。實(shí)則不然。這要從信息倫理的哲學(xué)立場(chǎng)和實(shí)踐立場(chǎng)出發(fā)來(lái)說(shuō)明。

    首先,信息倫理的核心問(wèn)題之一是責(zé)任,這使得信息倫理主張一種多元行動(dòng)者(MA)規(guī)則。對(duì)于弗洛里迪來(lái)說(shuō),負(fù)責(zé)任的設(shè)計(jì)與信息的隱私才是真正需要面對(duì)的問(wèn)題[16]。人工能動(dòng)者具有三種能力:交互性、自主性和適應(yīng)性[17]。在這個(gè)意義上,賽博空間提供了很多能動(dòng)者,協(xié)議、服務(wù)軟件、網(wǎng)頁(yè)程序等都是能動(dòng)者[18]。信息意義上能動(dòng)者的增加,不應(yīng)是促使每個(gè)行動(dòng)者考慮自身的地位問(wèn)題,而是促使能動(dòng)者考慮共同生存的問(wèn)題。保證信息的權(quán)力,完成符合新倫理規(guī)范的三階技術(shù)設(shè)計(jì),是人展示自己能力的正確方式。

    自主能動(dòng)者是道德或不道德的行為的正當(dāng)發(fā)起者,因此道德能動(dòng)者的范圍要擴(kuò)大到包含這種自主能動(dòng)者,因?yàn)樽灾髂軇?dòng)者的道德討論應(yīng)該包括對(duì)它們道德性的分析。[19]

    其實(shí)對(duì)于人工智能,弗洛里迪仍然堅(jiān)持達(dá)特茅斯會(huì)議上的定義:如人類(lèi)般行為的機(jī)器[16]。如果在這個(gè)層面講,目前還沒(méi)有真正的人工智能。但是,根據(jù)弗洛里迪本人的抽象分層(Levels of Abstraction,LoA),在處理人工物能動(dòng)者時(shí),可分成兩個(gè)層次,一個(gè)是以用戶(hù)觀點(diǎn)為核心的分層(LoA1),另外一個(gè)是以設(shè)計(jì)者為核心的分層(LoA2)[4](P26)。這種層級(jí)的劃分目的是展示一種現(xiàn)行的責(zé)任倫理的僵化狀態(tài),即每個(gè)實(shí)際上無(wú)差別的倫理情景會(huì)因?yàn)槿藶榈膭澐侄a(chǎn)生區(qū)別,導(dǎo)致技術(shù)物在轉(zhuǎn)移出人為限制環(huán)境時(shí),給新環(huán)境中的行動(dòng)者制造難題。因此,AI的倫理標(biāo)準(zhǔn)應(yīng)該是跨越抽象層級(jí)的,并且需要獲得不同情景中的行動(dòng)者的共識(shí)。

    其次,信息倫理在實(shí)踐中主張一種非自然主義的基礎(chǔ)主義觀點(diǎn)[20]。道德行為不必還原到道德本質(zhì),也不一定假設(shè)存在一種道德上的能動(dòng)者。目前在智能機(jī)器的情感問(wèn)題中,智能伴侶機(jī)器人受到人們的關(guān)注。從信息倫理角度看,如果人能夠如實(shí)地把自己看作是一個(gè)信息體,在這種超身份認(rèn)識(shí)框架中就不僅可以容下智能伴侶,甚至連虛擬寵物都可以[5](P115)。

    我們有理由像對(duì)待一個(gè)人那樣對(duì)待智能伴侶,而不需要事先承認(rèn)機(jī)器是一個(gè)人。[7]

    第四次革命最重要的改變就是把主體間的邊界打破了,如果能從這種信息相關(guān)性的層面看智能機(jī)器,它不過(guò)是你身邊的另一個(gè)身份主體而已。信息交互主體之間的關(guān)系,不像第四次革命之前的社會(huì)關(guān)系那么密切,但過(guò)去的那種密切并非密無(wú)間隙,因?yàn)樯踔猎诘芽▋旱臅r(shí)代,他心就已經(jīng)是一個(gè)問(wèn)題。不過(guò)人機(jī)關(guān)系也沒(méi)有現(xiàn)代性社會(huì)人們所想的那么疏遠(yuǎn),因?yàn)樵谛畔r(shí)代,行動(dòng)主體的密集程度超乎想象,以至于難以孤獨(dú)地存在。這樣看來(lái),信息倫理的責(zé)任觀與基礎(chǔ)主義觀點(diǎn)也值得商榷。

    道德能動(dòng)者的范圍一直是人工智能討論的焦點(diǎn)。智能機(jī)器是否是完整的道德能動(dòng)者,甚至是否可以稱(chēng)為道德能動(dòng)者,都是懸而未決的。技術(shù)系統(tǒng)中信息主體的地位上升以及人在信息化世界中地位下降的觀點(diǎn),都回避了“是否具有主體性、能動(dòng)性”的問(wèn)題,轉(zhuǎn)而直接討論“有多少能動(dòng)性”的問(wèn)題。表面看來(lái),人的能動(dòng)性降低了,道德行動(dòng)范圍縮小了,但這不意味其他主體就獲得了道德能動(dòng)性。導(dǎo)致這種現(xiàn)象的主要原因是行動(dòng)邊界復(fù)雜化,而不是行動(dòng)主體多樣化。所以,多元行動(dòng)者理論與多元行動(dòng)域的結(jié)合才是解決問(wèn)題的關(guān)鍵。

    單個(gè)信息主體的能動(dòng)性也不是主要問(wèn)題,這與單子型社會(huì)人的概念完全不同。數(shù)字化生存所要求的信息溝通的通暢程度,已經(jīng)否定了有界限、有信息保留的個(gè)體。這種超群體的生存方式顯然與我們所推崇的個(gè)人隱私、個(gè)人自由相悖。它只能是在工作場(chǎng)域中的信息溝通方式,而不能以此組織社會(huì)生活。雖然信息技術(shù)在不斷地打破生活與工作空間的界限,但是在道德層面,我們要看到超出數(shù)據(jù)本身的道德內(nèi)容,“萬(wàn)物源于比特”的信息基礎(chǔ)主義還不能進(jìn)入本體論層面。不可通達(dá)、不透明的主體間關(guān)系,才往往是符合倫理規(guī)范的關(guān)系,才有能動(dòng)性可言。

    智能機(jī)器和信息技術(shù)的倫理問(wèn)題還有很多。機(jī)器權(quán)利、信息安全等等都是AI要面對(duì)的倫理問(wèn)題。如果人和AI的本質(zhì)都是信息,那么同處于信息圈中,他們之間的關(guān)系就是一種新的生態(tài)問(wèn)題,我們要本著新的信息生態(tài)主義來(lái)處理人與信息實(shí)體間的關(guān)系[5](P8)。例如,對(duì)于機(jī)器人對(duì)人傳統(tǒng)工作崗位的占據(jù),也許正是把人從繁瑣的日常重復(fù)勞動(dòng)中解放出來(lái)的契機(jī),就此人可以更專(zhuān)注于真正與其他信息主體的深度交往[20];同樣,這也許是在信息的雜草叢生的荒野中,人的視線(xiàn)與注意力無(wú)處安放的開(kāi)始。無(wú)論如何,現(xiàn)代性可能在人和技術(shù)傳統(tǒng)的合理性認(rèn)識(shí)中消失了,但現(xiàn)代性所開(kāi)啟的數(shù)學(xué)化和語(yǔ)言化沒(méi)有終結(jié),它以信息的新形式出現(xiàn),仍將主導(dǎo)這個(gè)智能時(shí)代的規(guī)范。

    [1]張成崗.技術(shù)與現(xiàn)代性研究.北京:中國(guó)社會(huì)科學(xué)出版社,2013.

    [2]C.Cath & S.Wachter et al.Artifi cial Intelligence and “the Good Society”:The US,EU,and UK Approach.Science and Engineering Ethics,2017-03-28.[2018-01-04]https://doi.org/10.1007/s11948-017-9901-7.

    [3]C.Ess.Luciano Floridi’s Philosophy of Information and Information Ethics:Critical Refl ections and the State of the Art.Ethics and Information Technology,2008,10(2).

    [4]H.Demir.Luciano Floridi’s Philosophy of Technology.Dordrecht:Springer Netherlands,2012.

    [5]L.Floridi.The Ethics of Information.Oxford:Oxford University Press,2013.

    [6]L.Floridi.Artifi cial Intelligence’s New Frontier:Artifi cial Companions and the Fourth Revolution.Metaphilosophy,2008,39(4).

    [7]M.Byron.Floridi’s Fourth Revolution and the Demise of Ethics.Knowledge,Technology&Policy,2010,23(1).

    [8]L.Floridi.The Onlife Manifesto:Being Human in a Hyperconnected Era.London:Springer Open,2015.

    [9]安德魯·芬伯格.在理性與經(jīng)驗(yàn)之間:論技術(shù)與現(xiàn)代性.高海青譯.北京:金城出版社,2015.

    [10]Albert Borgmann.Crossing the Postmodern Divide.Chicago:University of Chicago Press,2013.

    [11]C.Walter.Kryder’s Law.Scientifi c American,2005,293(2).

    [12]盧西亞諾·弗洛里迪.第四次革命.王文革譯.杭州:浙江人民出版社,2016.

    [13]L.Floridi.Information Technologies and the Tragedy of the Good Will.Ethics and Information Technology,2006,8(4).

    [14]L.Floridi.On the Intrinsic Value of Information Objects and the Infosphere.Ethics and Information Technology,2002,4(4).

    [15]L.Floridi.Digital’s Cleaving Power and Its Consequences.Philosophy&Technology,2017,30(2).

    [16]L.Floridi.Robots,Jobs,Taxes,and Responsibilities.Philosophy&Technology,2017,30(1).

    [17]L.Floridi.Consciousness,Agents and the Knowledge Game.Minds and Machines,2005,15(3).

    [18]L.Floridi,J.W.Sanders.Artifi cial Evil and the Foundation of Computer Ethics.Ethics and Information Technology,2001,3(1).

    [19]B.C.Stahl.Information,Ethics,and Computers:The Problem of Autonomous Moral Agents.Minds and Machines,2004,14(1).

    [20]L.Floridi.A Plea for Non-naturalism as Constructionism.Minds and Machines,2017,27(2).

    猜你喜歡
    弗洛里現(xiàn)代性機(jī)器
    雕刻家的秘密
    機(jī)器狗
    機(jī)器狗
    復(fù)雜現(xiàn)代性與中國(guó)發(fā)展之道
    《緬甸歲月》中弗洛里悲劇命運(yùn)的必然性探究
    淺空間的現(xiàn)代性
    未來(lái)機(jī)器城
    電影(2018年8期)2018-09-21 08:00:06
    由現(xiàn)代性與未來(lái)性再思考博物館的定義
    一只爛西瓜與諾貝爾獎(jiǎng)
    飲食保健(2016年14期)2016-08-12 07:07:09
    淺談夢(mèng)窗詞之現(xiàn)代性
    а√天堂www在线а√下载| 欧美乱色亚洲激情| а√天堂www在线а√下载| 国产一区二区三区在线臀色熟女| 日本免费a在线| 亚洲激情在线av| 国产高清视频在线播放一区| 精品国产乱子伦一区二区三区| aaaaa片日本免费| 一本一本综合久久| 51午夜福利影视在线观看| 日韩三级视频一区二区三区| 老熟妇仑乱视频hdxx| 一级毛片女人18水好多| 免费看日本二区| 高清毛片免费观看视频网站| 俄罗斯特黄特色一大片| 国产精品九九99| av欧美777| 丁香欧美五月| 亚洲av成人不卡在线观看播放网| 人妻夜夜爽99麻豆av| 熟女电影av网| 亚洲午夜理论影院| 一级毛片精品| 91大片在线观看| 制服人妻中文乱码| 亚洲第一电影网av| 成人18禁在线播放| 亚洲国产精品久久男人天堂| 欧美中文日本在线观看视频| 麻豆成人午夜福利视频| tocl精华| 十八禁人妻一区二区| 亚洲精品久久成人aⅴ小说| 久久久久国产精品人妻aⅴ院| 啦啦啦韩国在线观看视频| 久久久精品大字幕| 最新美女视频免费是黄的| www国产在线视频色| 欧美极品一区二区三区四区| 精品午夜福利视频在线观看一区| aaaaa片日本免费| 桃色一区二区三区在线观看| 别揉我奶头~嗯~啊~动态视频| 亚洲成av人片免费观看| 日韩av在线大香蕉| а√天堂www在线а√下载| 欧美日韩亚洲综合一区二区三区_| 黄色视频不卡| 麻豆国产97在线/欧美 | 国产成年人精品一区二区| 国产午夜精品久久久久久| 18禁国产床啪视频网站| 亚洲精品国产精品久久久不卡| 国产精品av久久久久免费| 啪啪无遮挡十八禁网站| 亚洲欧美日韩高清专用| aaaaa片日本免费| 国产v大片淫在线免费观看| 国产欧美日韩一区二区精品| www.www免费av| 亚洲七黄色美女视频| av视频在线观看入口| 人成视频在线观看免费观看| 欧美黑人巨大hd| 淫秽高清视频在线观看| 欧美性猛交黑人性爽| 亚洲精品粉嫩美女一区| 国产免费av片在线观看野外av| 色综合亚洲欧美另类图片| 国产成人精品久久二区二区91| 亚洲片人在线观看| 成人av一区二区三区在线看| 无遮挡黄片免费观看| 97人妻精品一区二区三区麻豆| 亚洲全国av大片| 日本成人三级电影网站| 在线十欧美十亚洲十日本专区| 欧美最黄视频在线播放免费| 一本精品99久久精品77| 麻豆国产av国片精品| 老鸭窝网址在线观看| 国产成人精品久久二区二区91| 亚洲精品国产精品久久久不卡| 午夜福利欧美成人| 老汉色∧v一级毛片| 麻豆成人av在线观看| 日本黄色视频三级网站网址| 国产区一区二久久| 精品免费久久久久久久清纯| 一个人免费在线观看电影 | 国产精品九九99| 国产精品精品国产色婷婷| 舔av片在线| av视频在线观看入口| www.www免费av| 成人av在线播放网站| 男女那种视频在线观看| 国产精品99久久99久久久不卡| 搡老岳熟女国产| 国产精品日韩av在线免费观看| 毛片女人毛片| 国产激情久久老熟女| 欧美乱码精品一区二区三区| 悠悠久久av| 亚洲成人中文字幕在线播放| 听说在线观看完整版免费高清| 亚洲一卡2卡3卡4卡5卡精品中文| 视频区欧美日本亚洲| 亚洲专区中文字幕在线| 好男人电影高清在线观看| 午夜a级毛片| 亚洲激情在线av| 国产亚洲欧美在线一区二区| 国产精品久久久久久人妻精品电影| 一个人观看的视频www高清免费观看 | 国产成年人精品一区二区| 视频区欧美日本亚洲| 久久精品成人免费网站| 日本撒尿小便嘘嘘汇集6| 国产又黄又爽又无遮挡在线| 成人欧美大片| 亚洲国产精品合色在线| 麻豆成人av在线观看| 午夜免费成人在线视频| 国产精品一及| 性色av乱码一区二区三区2| 欧美乱妇无乱码| 在线观看美女被高潮喷水网站 | 亚洲av五月六月丁香网| 成人国产综合亚洲| 亚洲va日本ⅴa欧美va伊人久久| 色综合婷婷激情| 制服人妻中文乱码| 国产精品野战在线观看| 一级毛片精品| 99热这里只有是精品50| 丁香六月欧美| 亚洲国产日韩欧美精品在线观看 | 91成年电影在线观看| 久久精品综合一区二区三区| 露出奶头的视频| 欧美日韩亚洲综合一区二区三区_| 免费观看人在逋| 男女下面进入的视频免费午夜| 亚洲成人中文字幕在线播放| 五月伊人婷婷丁香| 最近视频中文字幕2019在线8| 嫩草影院精品99| 琪琪午夜伦伦电影理论片6080| 最近最新中文字幕大全免费视频| 禁无遮挡网站| 99久久综合精品五月天人人| 久久精品国产99精品国产亚洲性色| 亚洲av电影不卡..在线观看| xxx96com| 搡老熟女国产l中国老女人| 亚洲中文日韩欧美视频| 欧美绝顶高潮抽搐喷水| 黄色 视频免费看| 在线观看一区二区三区| 亚洲精品美女久久久久99蜜臀| 舔av片在线| 亚洲aⅴ乱码一区二区在线播放 | 精品久久久久久久久久免费视频| 97超级碰碰碰精品色视频在线观看| 精品久久蜜臀av无| 美女扒开内裤让男人捅视频| 欧洲精品卡2卡3卡4卡5卡区| 黄色a级毛片大全视频| 99久久99久久久精品蜜桃| av免费在线观看网站| 精品电影一区二区在线| 国产精品一及| 一个人免费在线观看电影 | 母亲3免费完整高清在线观看| 两性夫妻黄色片| √禁漫天堂资源中文www| 亚洲一区二区三区不卡视频| 国产99白浆流出| 在线观看一区二区三区| or卡值多少钱| 18禁裸乳无遮挡免费网站照片| 欧美3d第一页| 黄色a级毛片大全视频| 国产精品99久久99久久久不卡| 少妇粗大呻吟视频| 欧美日本视频| 亚洲中文字幕日韩| 国产真人三级小视频在线观看| 狠狠狠狠99中文字幕| xxxwww97欧美| 精品高清国产在线一区| 久久久久久九九精品二区国产 | 99热6这里只有精品| 高清在线国产一区| 老司机在亚洲福利影院| 一级a爱片免费观看的视频| 亚洲国产欧美人成| 女生性感内裤真人,穿戴方法视频| 国模一区二区三区四区视频 | 久久这里只有精品19| 久久久久久亚洲精品国产蜜桃av| 级片在线观看| 欧美日韩国产亚洲二区| 在线观看www视频免费| 老汉色∧v一级毛片| 日本五十路高清| 搡老岳熟女国产| 亚洲熟妇中文字幕五十中出| 国产一区二区在线av高清观看| 亚洲七黄色美女视频| 久久性视频一级片| 久久久久九九精品影院| xxxwww97欧美| 黑人欧美特级aaaaaa片| 无限看片的www在线观看| 日韩中文字幕欧美一区二区| 久久婷婷成人综合色麻豆| 97碰自拍视频| 男女下面进入的视频免费午夜| АⅤ资源中文在线天堂| 中文字幕熟女人妻在线| 久久天躁狠狠躁夜夜2o2o| 18美女黄网站色大片免费观看| 美女 人体艺术 gogo| 国产精品久久电影中文字幕| 久久 成人 亚洲| 色哟哟哟哟哟哟| 国产蜜桃级精品一区二区三区| 69av精品久久久久久| 欧美色视频一区免费| 免费在线观看亚洲国产| 啦啦啦观看免费观看视频高清| 少妇熟女aⅴ在线视频| 中文字幕久久专区| 黑人操中国人逼视频| 色哟哟哟哟哟哟| 男女做爰动态图高潮gif福利片| 一二三四社区在线视频社区8| 色播亚洲综合网| 精品午夜福利视频在线观看一区| 午夜日韩欧美国产| 一二三四在线观看免费中文在| 伊人久久大香线蕉亚洲五| 18禁国产床啪视频网站| 中国美女看黄片| 无人区码免费观看不卡| 91大片在线观看| 国产精品99久久99久久久不卡| 国产高清视频在线播放一区| 亚洲国产看品久久| 亚洲熟妇熟女久久| 别揉我奶头~嗯~啊~动态视频| 亚洲精品av麻豆狂野| 亚洲精品在线美女| 午夜a级毛片| 欧美黑人巨大hd| 久久午夜综合久久蜜桃| 一二三四在线观看免费中文在| 一级a爱片免费观看的视频| 黄频高清免费视频| 国产精品美女特级片免费视频播放器 | 极品教师在线免费播放| 成人手机av| √禁漫天堂资源中文www| 亚洲国产高清在线一区二区三| 日本精品一区二区三区蜜桃| 亚洲国产精品成人综合色| 亚洲第一欧美日韩一区二区三区| 欧美精品啪啪一区二区三区| 国产亚洲精品第一综合不卡| 国产av不卡久久| 久9热在线精品视频| 在线播放国产精品三级| 亚洲一区二区三区不卡视频| av国产免费在线观看| 国产伦人伦偷精品视频| 老司机午夜十八禁免费视频| 一本综合久久免费| 国产精品久久久av美女十八| 亚洲无线在线观看| xxxwww97欧美| 成人永久免费在线观看视频| 身体一侧抽搐| 久久精品国产亚洲av香蕉五月| 日本 欧美在线| 国产aⅴ精品一区二区三区波| 婷婷精品国产亚洲av| 国产免费av片在线观看野外av| 中国美女看黄片| 国内精品久久久久精免费| 亚洲精品中文字幕在线视频| 免费高清视频大片| 真人一进一出gif抽搐免费| 国产激情欧美一区二区| 最好的美女福利视频网| 91av网站免费观看| 无人区码免费观看不卡| 真人做人爱边吃奶动态| 91字幕亚洲| 久久人妻福利社区极品人妻图片| 桃色一区二区三区在线观看| 特级一级黄色大片| 亚洲精品一区av在线观看| 最近最新中文字幕大全免费视频| 可以免费在线观看a视频的电影网站| 国产免费男女视频| 成人三级黄色视频| 久久性视频一级片| 中文资源天堂在线| 男人舔奶头视频| 淫秽高清视频在线观看| 99热这里只有精品一区 | 成人三级做爰电影| 国产精品1区2区在线观看.| АⅤ资源中文在线天堂| 午夜老司机福利片| 看黄色毛片网站| 18禁黄网站禁片免费观看直播| 亚洲一码二码三码区别大吗| 国产精品一区二区免费欧美| 日韩精品中文字幕看吧| 国产不卡一卡二| 又大又爽又粗| 一区二区三区国产精品乱码| 五月伊人婷婷丁香| 好男人在线观看高清免费视频| 国产免费男女视频| 岛国视频午夜一区免费看| 一级作爱视频免费观看| 天天一区二区日本电影三级| 88av欧美| 欧美丝袜亚洲另类 | 亚洲成av人片免费观看| 国内精品久久久久精免费| 亚洲成人精品中文字幕电影| 日韩高清综合在线| 成人亚洲精品av一区二区| 成人高潮视频无遮挡免费网站| 国产精品av视频在线免费观看| 一个人观看的视频www高清免费观看 | 动漫黄色视频在线观看| 女生性感内裤真人,穿戴方法视频| 黄片大片在线免费观看| 久久 成人 亚洲| 成人av一区二区三区在线看| 欧美性猛交黑人性爽| 国产成人欧美在线观看| 国产午夜精品论理片| 97人妻精品一区二区三区麻豆| 欧美色视频一区免费| 国产99久久九九免费精品| www.自偷自拍.com| 香蕉丝袜av| 中出人妻视频一区二区| 国产精品乱码一区二三区的特点| 国产一区在线观看成人免费| 99riav亚洲国产免费| 99精品久久久久人妻精品| 一级毛片高清免费大全| 亚洲精品在线观看二区| 亚洲熟妇中文字幕五十中出| 国产亚洲精品久久久久5区| 免费在线观看亚洲国产| 黑人欧美特级aaaaaa片| 欧美性长视频在线观看| 日韩 欧美 亚洲 中文字幕| 黄频高清免费视频| 成熟少妇高潮喷水视频| 欧美日韩精品网址| 午夜免费观看网址| 午夜精品在线福利| 在线国产一区二区在线| 男人舔女人下体高潮全视频| 后天国语完整版免费观看| 亚洲天堂国产精品一区在线| 大型黄色视频在线免费观看| 天堂动漫精品| 在线看三级毛片| 国产精品免费视频内射| 午夜福利欧美成人| 欧美色视频一区免费| 99国产精品99久久久久| 亚洲欧美日韩无卡精品| av视频在线观看入口| 亚洲人成网站高清观看| 婷婷精品国产亚洲av在线| 色综合站精品国产| www国产在线视频色| 亚洲熟女毛片儿| 床上黄色一级片| 久久久久久亚洲精品国产蜜桃av| 无限看片的www在线观看| 久久99热这里只有精品18| 欧美人与性动交α欧美精品济南到| 国产av麻豆久久久久久久| 精品人妻1区二区| 99国产精品一区二区蜜桃av| 九色国产91popny在线| 欧美av亚洲av综合av国产av| 一本久久中文字幕| 在线观看舔阴道视频| 免费电影在线观看免费观看| 黄色视频不卡| xxxwww97欧美| 日本黄色视频三级网站网址| 日本a在线网址| 国产激情欧美一区二区| 国产成人系列免费观看| 嫁个100分男人电影在线观看| 天堂av国产一区二区熟女人妻 | 99国产综合亚洲精品| 亚洲欧洲精品一区二区精品久久久| 男人舔奶头视频| 中国美女看黄片| 中文资源天堂在线| 亚洲熟妇中文字幕五十中出| 欧美中文日本在线观看视频| 老汉色∧v一级毛片| 搡老妇女老女人老熟妇| 亚洲欧美日韩高清在线视频| 婷婷六月久久综合丁香| 精品熟女少妇八av免费久了| 国产黄片美女视频| 中文字幕熟女人妻在线| 黑人欧美特级aaaaaa片| 亚洲成人中文字幕在线播放| 男人的好看免费观看在线视频 | 最近视频中文字幕2019在线8| 国产成人啪精品午夜网站| 一区二区三区高清视频在线| 大型av网站在线播放| 黄色a级毛片大全视频| www.自偷自拍.com| 丝袜人妻中文字幕| 亚洲一区二区三区不卡视频| 男女床上黄色一级片免费看| 狂野欧美激情性xxxx| 男人舔女人的私密视频| 久久天躁狠狠躁夜夜2o2o| 久久精品国产综合久久久| 久久久久久久久久黄片| 久久久久国产一级毛片高清牌| ponron亚洲| 最近最新免费中文字幕在线| 成人精品一区二区免费| 国产91精品成人一区二区三区| 国产精品亚洲av一区麻豆| 免费在线观看完整版高清| 国产亚洲av嫩草精品影院| 精品福利观看| 黄色视频,在线免费观看| 两个人看的免费小视频| 18禁黄网站禁片免费观看直播| 欧美日韩一级在线毛片| 老司机在亚洲福利影院| 国产精品精品国产色婷婷| 久久久精品大字幕| 欧美黑人精品巨大| 两人在一起打扑克的视频| 成人av一区二区三区在线看| 亚洲国产欧美一区二区综合| 一本综合久久免费| 麻豆国产97在线/欧美 | 久久婷婷成人综合色麻豆| 99riav亚洲国产免费| 国产精品免费视频内射| 亚洲aⅴ乱码一区二区在线播放 | 天天添夜夜摸| 日日摸夜夜添夜夜添小说| 亚洲18禁久久av| svipshipincom国产片| 18禁黄网站禁片免费观看直播| 国产视频内射| 身体一侧抽搐| 嫁个100分男人电影在线观看| 麻豆成人av在线观看| 99久久无色码亚洲精品果冻| 一本大道久久a久久精品| a级毛片a级免费在线| 亚洲精品av麻豆狂野| 老汉色av国产亚洲站长工具| 最新美女视频免费是黄的| 黄色女人牲交| 亚洲第一电影网av| 亚洲成人国产一区在线观看| 黄色丝袜av网址大全| 婷婷六月久久综合丁香| 精品久久久久久久久久久久久| 在线永久观看黄色视频| 精品久久久久久久久久久久久| 少妇被粗大的猛进出69影院| 国产精品久久电影中文字幕| 草草在线视频免费看| 精品久久蜜臀av无| 天天躁狠狠躁夜夜躁狠狠躁| 精品无人区乱码1区二区| 精品电影一区二区在线| 久久精品国产亚洲av高清一级| 久久热在线av| 亚洲男人天堂网一区| 精品久久久久久成人av| 一区福利在线观看| 亚洲欧美激情综合另类| 亚洲国产高清在线一区二区三| 岛国在线免费视频观看| 精品高清国产在线一区| 欧美日韩中文字幕国产精品一区二区三区| 脱女人内裤的视频| 亚洲av成人av| svipshipincom国产片| 国产一区二区在线观看日韩 | 欧洲精品卡2卡3卡4卡5卡区| 欧美av亚洲av综合av国产av| 夜夜夜夜夜久久久久| 99国产极品粉嫩在线观看| 国产真实乱freesex| 变态另类成人亚洲欧美熟女| 日本a在线网址| 国产伦一二天堂av在线观看| 色综合站精品国产| 亚洲av成人精品一区久久| 亚洲激情在线av| 亚洲第一电影网av| 久久这里只有精品中国| 中出人妻视频一区二区| 亚洲乱码一区二区免费版| 国产成人一区二区三区免费视频网站| 身体一侧抽搐| 久久精品成人免费网站| 久久久久国产精品人妻aⅴ院| 俄罗斯特黄特色一大片| 成人精品一区二区免费| 日韩三级视频一区二区三区| 国产精品电影一区二区三区| 十八禁网站免费在线| 免费在线观看日本一区| 久久精品影院6| 精品一区二区三区av网在线观看| 国产欧美日韩一区二区三| 久久久久精品国产欧美久久久| 男女下面进入的视频免费午夜| 中出人妻视频一区二区| 欧美av亚洲av综合av国产av| 亚洲欧美精品综合久久99| 美女午夜性视频免费| 亚洲成a人片在线一区二区| 午夜福利高清视频| 亚洲一卡2卡3卡4卡5卡精品中文| 每晚都被弄得嗷嗷叫到高潮| 国产熟女午夜一区二区三区| 欧美日韩黄片免| 亚洲成av人片免费观看| 动漫黄色视频在线观看| www.www免费av| 亚洲熟女毛片儿| 免费无遮挡裸体视频| 两个人视频免费观看高清| 国产精品1区2区在线观看.| 在线观看午夜福利视频| 亚洲专区国产一区二区| 这个男人来自地球电影免费观看| 亚洲专区国产一区二区| 一边摸一边抽搐一进一小说| 国产精品免费视频内射| 国产伦人伦偷精品视频| 国产熟女xx| 日本a在线网址| 一本大道久久a久久精品| 亚洲九九香蕉| 老司机深夜福利视频在线观看| 亚洲av第一区精品v没综合| 在线十欧美十亚洲十日本专区| 国产精品爽爽va在线观看网站| 麻豆一二三区av精品| 久久久水蜜桃国产精品网| 亚洲 欧美一区二区三区| 老汉色av国产亚洲站长工具| 一级毛片女人18水好多| 中文字幕人妻丝袜一区二区| 夜夜躁狠狠躁天天躁| 国产欧美日韩精品亚洲av| 两个人看的免费小视频| www.999成人在线观看| 精品国产乱子伦一区二区三区| 亚洲精品国产精品久久久不卡| 国产99久久九九免费精品| 九色成人免费人妻av| 看片在线看免费视频| 国产一区二区激情短视频| 日日爽夜夜爽网站| 午夜福利免费观看在线| 一区二区三区国产精品乱码| 国产精品日韩av在线免费观看| 国产亚洲精品一区二区www| 18禁美女被吸乳视频| 曰老女人黄片| 男人的好看免费观看在线视频 | 亚洲色图 男人天堂 中文字幕| 日本免费一区二区三区高清不卡| 精品一区二区三区四区五区乱码| 日本免费一区二区三区高清不卡| 久99久视频精品免费| 男女午夜视频在线观看| 免费看日本二区| 日本 av在线| 午夜久久久久精精品| 天堂√8在线中文| 亚洲国产日韩欧美精品在线观看 | 又紧又爽又黄一区二区| 麻豆国产av国片精品| 男人舔奶头视频| 色av中文字幕|