• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    第四次革命:現(xiàn)代性的終結(jié)抑或重構(gòu)
    ——信息倫理對(duì)人工智能倫理的啟示

    2018-03-05 04:08:35張正清張成崗
    關(guān)鍵詞:弗洛里現(xiàn)代性機(jī)器

    張正清 張成崗

    肇始啟蒙的現(xiàn)代性進(jìn)程不僅僅屬于思想史范疇或精神現(xiàn)象,更是具體的社會(huì)表現(xiàn)。當(dāng)代技術(shù)研究的經(jīng)驗(yàn)轉(zhuǎn)向,給我們提供了理解現(xiàn)代性的新路徑:技術(shù)與現(xiàn)代性相互建構(gòu)。從后工業(yè)社會(huì)、風(fēng)險(xiǎn)社會(huì)到信息社會(huì),很多學(xué)者認(rèn)為我們已經(jīng)離開(kāi)了現(xiàn)代性時(shí)期,進(jìn)入了后現(xiàn)代社會(huì),而信息哲學(xué)就是其中觀點(diǎn)最鮮明的一派。但是,信息技術(shù)是否能真的帶來(lái)人與技術(shù)相互建構(gòu)的新模式?作為信息技術(shù)的最前沿,人工智能能徹底顛覆現(xiàn)代性社會(huì)嗎?我們需要從技術(shù)倫理規(guī)約的維度重新審視信息倫理所聲稱(chēng)的重大變革,以應(yīng)對(duì)AI技術(shù)發(fā)展帶來(lái)的新的倫理挑戰(zhàn)。

    一、第四次革命:現(xiàn)代性的新境遇

    技術(shù)與現(xiàn)代性之間存在密切聯(lián)系,技術(shù)使現(xiàn)代性成為可能,塑造并推動(dòng)著現(xiàn)代性前進(jìn);現(xiàn)代性則提供了理解技術(shù)的基本理論框架,對(duì)現(xiàn)代技術(shù)的認(rèn)識(shí)與反思不能脫離現(xiàn)代性背景[1](P104-105)?,F(xiàn)代性并非僵化的鐵板一塊,而是具有流動(dòng)性。對(duì)現(xiàn)代性的理論闡釋和批判可以從哲學(xué)、美學(xué)、文化學(xué)和社會(huì)學(xué)等多個(gè)維度進(jìn)行。對(duì)于現(xiàn)代性發(fā)展及其在20世紀(jì)60年代以后的表現(xiàn),當(dāng)代西方的社會(huì)理論提出了現(xiàn)代性分期的論說(shuō)。有的學(xué)者聚焦晚期現(xiàn)代性,將其作為一個(gè)在20世紀(jì)下半葉出現(xiàn)的新的歷史階段,并試圖勾勒其特性。在此坐標(biāo)軸上,自反性現(xiàn)代性[1](P43)、風(fēng)險(xiǎn)社會(huì)[1](P223)、后工業(yè)社會(huì)[1](P40)、信息時(shí)代和信息社會(huì)等進(jìn)入了人們的理論視野。

    信息技術(shù)的發(fā)展及其導(dǎo)致的人的信息化正在重構(gòu)現(xiàn)代性本身,技術(shù)的生活世界是一個(gè)使用者與計(jì)算機(jī)相互嚙合的媒介環(huán)境。20世紀(jì)80年代以后,計(jì)算機(jī)與網(wǎng)絡(luò)成了新的交往實(shí)踐領(lǐng)域。如今,計(jì)算機(jī)技術(shù)滲透到社會(huì)的各個(gè)領(lǐng)域,人工智能2.0時(shí)代的來(lái)臨給人工智能倫理帶來(lái)了更大的難題。如何構(gòu)建一個(gè)好的人工智能社會(huì)(good AI society)已經(jīng)成為技術(shù)引領(lǐng)型國(guó)家所共同考慮的事項(xiàng)[2],而信息與計(jì)算機(jī)倫理則成為人工智能的重要議題,一直在提供倫理研究上的新資源。

    信息倫理來(lái)自信息與計(jì)算機(jī)倫理(ICE)。弗洛里迪(Luciano Floridi)發(fā)展了信息倫理,也對(duì)信息哲學(xué)的拓展做出了貢獻(xiàn)[3]。弗洛里迪作為信息與計(jì)算機(jī)倫理的重要學(xué)者,受到同行的廣泛關(guān)注。學(xué)界正在集中討論弗洛里迪的觀點(diǎn),出現(xiàn)了論文集《弗洛里迪技術(shù)哲學(xué)研究》(LucianoFloridi’s Philosophy of Technology)。德米爾(Hilmi Demir)指出,弗洛里迪的信息哲學(xué)研究對(duì)技術(shù)哲學(xué)的貢獻(xiàn)在于,他對(duì)信息技術(shù)的分析給了我們一個(gè)新的形而上學(xué)框架,即把自然實(shí)體的本質(zhì)從物質(zhì)性轉(zhuǎn)化為信息性[4](PV)。弗洛里迪的信息倫理就是對(duì)信息哲學(xué)進(jìn)行規(guī)則化和應(yīng)用化的結(jié)果,因此,不能截然區(qū)分其信息倫理與技術(shù)哲學(xué)。

    科技知識(shí)的發(fā)展導(dǎo)致了人類(lèi)自身倫理認(rèn)知的改變,這是科技哲學(xué)與倫理的基本結(jié)合點(diǎn)。但是,弗洛里迪并沒(méi)有按照艾倫(Colin Allen)的思路,從道德認(rèn)知主體的角度思考技術(shù)物的道德意向性;也沒(méi)有從丹尼特(Daniel Dennett)的心靈哲學(xué)角度,把信息主體當(dāng)作一種生物學(xué)范疇中的主體。弗洛里迪認(rèn)為,現(xiàn)代性對(duì)主體性的推崇,與信息化生存所帶來(lái)的主體性地位下降有著內(nèi)在沖突。因此,不能再按照原來(lái)思考技術(shù)物道德價(jià)值的方式來(lái)規(guī)范信息革命后的道德生存[5](P13)。在《人工智能新前沿:人工伴侶和第四次革命》[6]一文中,弗洛里迪提出了第四次革命的概念。而人工智能的信息倫理問(wèn)題是第四次革命的核心內(nèi)容。按照弗洛里迪的劃分,第一次革命是哥白尼革命,第二次是以達(dá)爾文為代表的生物學(xué)革命,第三次是以弗洛伊德為代表的意識(shí)革命,第四次則是以圖靈為代表的信息革命。對(duì)于弗洛里迪來(lái)說(shuō),第四次革命的本質(zhì)是信息革命,智能體、智能伴侶、語(yǔ)義網(wǎng)就是第四次革命所包含的內(nèi)容[6]。米歇爾·巴洛恩(Michael Byron)認(rèn)為,第四次革命是人自我認(rèn)知的革命[7]。

    信息倫理不是要以經(jīng)典的倫理理論來(lái)討論信息本身,而是要顛覆傳統(tǒng)的倫理原則,為信息時(shí)代的人們提供新的倫理共識(shí)和規(guī)范。弗洛里迪和一些信息、計(jì)算機(jī)哲學(xué)學(xué)者發(fā)表了“在線(xiàn)生活宣言”[8](P1),認(rèn)為線(xiàn)上、線(xiàn)下的生存融合已經(jīng)無(wú)法抗拒?!霸诰€(xiàn)生活宣言”宣稱(chēng),現(xiàn)代性已經(jīng)終結(jié)。單從倫理層面講,信息倫理認(rèn)為合理性和離身的理性是人的現(xiàn)代性特點(diǎn),所以現(xiàn)代性的倫理問(wèn)題就是理性且離身的自主性主體所帶來(lái)的問(wèn)題,而不是社會(huì)性存在所產(chǎn)生的問(wèn)題。過(guò)去,人們把主體責(zé)任的缺失歸咎于技術(shù)系統(tǒng)中的社會(huì)化生產(chǎn),認(rèn)為責(zé)任被分散到設(shè)計(jì)者、銷(xiāo)售者、使用者等不同的主體上,導(dǎo)致了責(zé)任認(rèn)定的困難,而新的信息倫理正是要反對(duì)這些[8](P8)。線(xiàn)上革命承載了這個(gè)倫理變革,所以弗洛里迪聲稱(chēng),信息倫理就是要填補(bǔ)這個(gè)革命后的新時(shí)代空白[4](P23)。

    信息倫理極為關(guān)注人工物能動(dòng)者問(wèn)題,特別是人工智能技術(shù)物的道德問(wèn)題。應(yīng)當(dāng)說(shuō),從道德能動(dòng)者的角度出發(fā),信息倫理可以對(duì)人工智能的倫理問(wèn)題提供更多資源,是進(jìn)一步發(fā)展人工智能倫理的有效途徑。但是,信息倫理真能重新建構(gòu)新的主體性、建立新的倫理規(guī)范嗎?這仍需要在信息化生存、技術(shù)身份和自主性中具體分析。

    二、信息化生存對(duì)現(xiàn)代性的挑戰(zhàn)與重構(gòu)

    信息化、數(shù)字化對(duì)現(xiàn)代性進(jìn)行了重寫(xiě),這也是弗洛里迪對(duì)線(xiàn)上生活的基本判斷。在技術(shù)哲學(xué)中,關(guān)于信息和智能化對(duì)人的重構(gòu),很多學(xué)者都從主體和身份兩個(gè)生存維度作了描述。例如,芬伯格認(rèn)為,線(xiàn)上的身份因通信和游戲改變了原來(lái)身份的意義,現(xiàn)代人的身份是一種通信的產(chǎn)物,主體的世俗化使得社會(huì)控制變?nèi)趿薣9](P108-109)。所以說(shuō),信息化生存確實(shí)預(yù)示了一個(gè)現(xiàn)代性社會(huì)轉(zhuǎn)變的節(jié)點(diǎn)。阿爾伯特·伯格曼指出,網(wǎng)絡(luò)社區(qū)中人際交往在不斷退化,計(jì)算機(jī)網(wǎng)絡(luò)將人從世界中抽離出來(lái),還原為用戶(hù)等可以輕易控制的數(shù)據(jù)流類(lèi)型[10](P108)。那么,處于第四次革命中的人的生存本質(zhì)是什么?對(duì)于信息倫理來(lái)說(shuō),就是信息。如果之前的人類(lèi)歷史在給信息做加法的問(wèn)題上遇到了困難,那么今天的人就是在為信息做減法的問(wèn)題上面臨難題。這種大數(shù)據(jù)時(shí)代的問(wèn)題與人工智能是分不開(kāi)的。

    首先,面對(duì)繁瑣的技術(shù)處理,人需要自動(dòng)化技術(shù)為自身免去重復(fù)性勞動(dòng)。當(dāng)這種勞動(dòng)是信息勞動(dòng)時(shí),人類(lèi)就會(huì)面臨在本質(zhì)意義上被取代的危機(jī),即被智能機(jī)器剝奪勞動(dòng)權(quán)。在信息冗余的時(shí)代,智能機(jī)器替代人的原因不是能力上更優(yōu),而是人對(duì)自己生存本質(zhì)的煩躁與憂(yōu)慮??死锥桑↘ryder’s law)指出,電腦中半導(dǎo)體的處理能力每18個(gè)月就會(huì)增長(zhǎng)一倍,而磁盤(pán)驅(qū)動(dòng)器可記錄的信息密度在過(guò)去50年中增長(zhǎng)了5000萬(wàn)倍[11],但仍然不能滿(mǎn)足人制造數(shù)據(jù)的需求。所以,人機(jī)械化復(fù)制自身的問(wèn)題在信息社會(huì)尤其嚴(yán)重。大數(shù)據(jù)時(shí)代的一個(gè)核心問(wèn)題就是生產(chǎn)數(shù)據(jù)的能力遠(yuǎn)超儲(chǔ)存數(shù)據(jù)的能力[12](P19)。與數(shù)字化技術(shù)過(guò)于強(qiáng)大的記憶能力相比,現(xiàn)代社會(huì)的人容易患上數(shù)字健忘癥,一旦離開(kāi)云存儲(chǔ)的資料,大腦的記憶能力就幾乎派不上用場(chǎng)。所以,刪除信息比生產(chǎn)信息更為重要,機(jī)器學(xué)習(xí)已經(jīng)在朝這個(gè)方向努力了。

    人的信息化生存導(dǎo)致了自己無(wú)奈地讓渡出自己的生存本質(zhì)——信息,信息的生產(chǎn)與處理離人越來(lái)越遠(yuǎn),這就是“在線(xiàn)生活宣言”所說(shuō)的主體性分散問(wèn)題。當(dāng)生存本質(zhì)都交給他者時(shí),人的本體論危機(jī)出現(xiàn)了。那么,在考慮人工智能時(shí)人類(lèi)會(huì)抱有一種悲觀論嗎?應(yīng)該不會(huì)。因?yàn)榫驮诂F(xiàn)代西方政治制度建立之初,每個(gè)人為了便利都把權(quán)力讓渡給了誠(chéng)實(shí)的守夜人;今天我們面對(duì)生存所產(chǎn)生的、數(shù)量大到無(wú)法處理的生活資料,同樣可以把自己的智能權(quán)力讓渡給計(jì)算機(jī)。弗洛里迪認(rèn)為這體現(xiàn)了人內(nèi)在的矛盾性:

    當(dāng)說(shuō)起信息與通信技術(shù)時(shí),我們很容易忘記計(jì)算機(jī)其實(shí)并不會(huì)自己進(jìn)行運(yùn)算,手機(jī)也不會(huì)自己撥打電話(huà),這似乎有些自相矛盾。[12](P12)

    當(dāng)自己困于其中而被信息技術(shù)所解脫時(shí),心存僥幸;當(dāng)想提高自己在信息時(shí)代的地位時(shí),又極力反對(duì)智能技術(shù),這是對(duì)現(xiàn)代性倫理矛盾的一個(gè)生動(dòng)寫(xiě)照。

    其次,信息實(shí)體的出現(xiàn)使人重新思考自身的生存本質(zhì),并把社會(huì)性存在放到了高于個(gè)人本質(zhì)的位置。在信息倫理中,信息具有很強(qiáng)的語(yǔ)義學(xué)含義,倫理評(píng)價(jià)和倫理行動(dòng)在語(yǔ)義學(xué)意義上是產(chǎn)生信息的活動(dòng)。當(dāng)信息包含倫理價(jià)值取向時(shí),這種信息性活動(dòng)直接關(guān)系到人自身的行為以及行動(dòng)的環(huán)境[13]。信息的生產(chǎn)、選擇甚至消除不僅是生存的本質(zhì),信息本身還是生存的語(yǔ)境。弗洛里迪在解釋面向?qū)ο缶幊汤碚摚╫bject oriented programming approach)時(shí)提出了一種作為實(shí)體的信息對(duì)象[14]。他用國(guó)際象棋舉例:棋子不是因顏色形狀在下棋的環(huán)境中發(fā)揮作用,而是因?qū)ο箨P(guān)系之間的規(guī)則賦予它承載信息的能力發(fā)揮作用。棋子因這種能力而是一種信息實(shí)體,即其扮演角色的語(yǔ)義信息是規(guī)則的承載者和行動(dòng)的解釋者。

    我們從來(lái)不是孤立地接受純粹的數(shù)據(jù),而往往是在有上下文的語(yǔ)境中接受它們。因此,我們會(huì)不可避免地賦予數(shù)據(jù)一些意義。[12](P161)

    信息的生產(chǎn)不僅因?yàn)橛袑?duì)信息的需求,也為了不斷制定和修正信息的邊界而進(jìn)行。我們要在自己的生存中為計(jì)算機(jī)等處理信息的機(jī)器去探路,因?yàn)槠湄?fù)載的信息關(guān)系、其所扮演的信息實(shí)體都是我們生存的必需品。計(jì)算機(jī)對(duì)于人來(lái)說(shuō)是需要控制與規(guī)范管理的,但計(jì)算機(jī)倫理本身不提供原則性的規(guī)范。如何把計(jì)算機(jī)這種技術(shù)物提升到人所處的道德地位,是把計(jì)算機(jī)倫理提升到人倫理的關(guān)鍵,即讓智能機(jī)器成為受規(guī)則限制的道德能動(dòng)者[5](P88)。這就像為罪犯去設(shè)想法律一樣,規(guī)則永遠(yuǎn)不是違反規(guī)則的人制定的,而是遵守規(guī)則的人制定的。

    但是,這個(gè)邏輯到信息實(shí)體這里就出現(xiàn)了問(wèn)題,因?yàn)槠洳粌H在信息化生存中充當(dāng)了重要的角色,甚至還充當(dāng)了無(wú)法替代的角色。信息實(shí)體背后的協(xié)議層不會(huì)因?yàn)樵O(shè)計(jì)者是人而透明化,而是會(huì)因?yàn)槿松a(chǎn)信息的不確定性而黑箱化。弗洛里迪使用包圍(enveloping)的概念來(lái)說(shuō)明數(shù)字化生產(chǎn)的環(huán)境,但是仍然無(wú)法回應(yīng)拉索(Federica Russo)等人對(duì)信息環(huán)境的質(zhì)疑[4](P252)。新替代者的出現(xiàn),例如信息實(shí)體,必須伴隨著新的技術(shù)系統(tǒng)以及環(huán)境的變革,這是主體社會(huì)性生存的內(nèi)涵。但是,目前我們無(wú)法確定信息技術(shù)所構(gòu)成的環(huán)境是更適于信息主體還是人,因?yàn)樾畔⒓夹g(shù)的抽象分層遠(yuǎn)沒(méi)有弗洛里迪自己所舉的無(wú)人駕駛汽車(chē)那么簡(jiǎn)單。人類(lèi)主體和非人主體誰(shuí)能運(yùn)作和構(gòu)建信息環(huán)境,誰(shuí)就獲得了控制信息時(shí)代的核心規(guī)范地位。因此,這種人與智能機(jī)器的雙向互動(dòng),會(huì)使得在各自角度看起來(lái)還算明確的規(guī)則變得混亂。人工智能倫理必須清楚地看到信息倫理的這個(gè)問(wèn)題,在構(gòu)建新的規(guī)范主體時(shí),要清除以不同主體為核心所構(gòu)建的規(guī)則所帶來(lái)的矛盾。

    三、現(xiàn)代性挑戰(zhàn)的主體維度:以技術(shù)自我挑戰(zhàn)身份認(rèn)同

    信息化生存不僅帶來(lái)了主體性變動(dòng),還啟動(dòng)了世界的虛擬化進(jìn)程。隨著網(wǎng)絡(luò)空間的形成,線(xiàn)下物理世界也開(kāi)始了自己的虛擬化。當(dāng)“萬(wàn)物的本源是比特”被提出時(shí),其要表明的不僅是這個(gè)世界的數(shù)字化程度達(dá)到了一個(gè)新高度,更是要表明,語(yǔ)義學(xué)關(guān)系也成了存在關(guān)系的核心內(nèi)容。所以,人的信息化不只體現(xiàn)為人具有了線(xiàn)上的虛擬身份,還體現(xiàn)為在擁有了線(xiàn)上身份的那一刻起,對(duì)自己的現(xiàn)實(shí)身份有了反觀的契機(jī)。同樣,這個(gè)現(xiàn)代性的社會(huì)也因網(wǎng)絡(luò)世界的形成而認(rèn)識(shí)到了自身的虛擬性。

    人與智能機(jī)器在共同進(jìn)行著信息化生存,而存在規(guī)定本質(zhì),那么人和機(jī)器必然具有某種類(lèi)似的身份。對(duì)于信息哲學(xué),社會(huì)自我與技術(shù)身體是決定身份的關(guān)鍵。在信息社會(huì)中,因?yàn)槿说淖晕乙庾R(shí)過(guò)多地參與類(lèi)似機(jī)器的信息處理中,或者說(shuō),機(jī)器的工作過(guò)多地滲透到人的信息本質(zhì)生存中,自我在這個(gè)時(shí)代與以往大為不同了。

    一個(gè)人的社會(huì)自我可能會(huì)大為改觀,而這又會(huì)反射到“自我意識(shí)”層面,最終對(duì)個(gè)人身份認(rèn)同產(chǎn)生極大的影響。[12](P69)

    自我問(wèn)題關(guān)系到身份認(rèn)同,有什么樣的自我認(rèn)識(shí),就會(huì)有什么樣的技術(shù)身份。所謂人工的能動(dòng)者,就是基于這樣一種自我意識(shí),因?yàn)橐庾R(shí)是選擇特定行為模式的基礎(chǔ)。現(xiàn)代銷(xiāo)售人員對(duì)消費(fèi)者購(gòu)買(mǎi)傾向的經(jīng)驗(yàn)評(píng)估,正在無(wú)限接近線(xiàn)上購(gòu)物網(wǎng)站對(duì)用戶(hù)個(gè)人消費(fèi)習(xí)慣的數(shù)據(jù)分析。數(shù)據(jù)和機(jī)器比人早想到一步,這既是信息生存的獨(dú)有體驗(yàn),也是人的意識(shí)、知覺(jué)體驗(yàn)不再特殊的預(yù)兆。拋開(kāi)意識(shí)獨(dú)立性的問(wèn)題,機(jī)械設(shè)備中的信息生產(chǎn)其實(shí)已經(jīng)在進(jìn)行了。更令人擔(dān)憂(yōu)的是,人的意識(shí)也正在向著機(jī)械設(shè)備的模式轉(zhuǎn)變。

    沒(méi)有身體就沒(méi)有自我的發(fā)展,而一旦后者形成了意識(shí),自我生命可能會(huì)是完全內(nèi)部化的,并且獨(dú)立于使它成為可能的特定的身體和設(shè)備。[12](P79)

    對(duì)于人來(lái)說(shuō),身體行動(dòng)在信息化時(shí)代變得缺乏,我們依賴(lài)與身體連接的處理信息的設(shè)備,例如手機(jī)和電腦等?;谶@種混合身體,甚至是被機(jī)器所主導(dǎo)的身體,我們的意識(shí)必然受到影響。而反過(guò)來(lái),成為智力代替者的機(jī)器,因?yàn)槠湟庾R(shí)功能的需要,也在規(guī)劃著超出預(yù)先設(shè)定的意識(shí)內(nèi)容范圍的身體。智能機(jī)器不再會(huì)因?yàn)槿怂孟氤鰜?lái)的統(tǒng)治欲或者自慚形穢而尋找符合自我的實(shí)體身體??梢韵胂螅艘步K將會(huì)拋棄這些。智能機(jī)器的類(lèi)人能動(dòng)性將在技術(shù)物的邏輯下繼續(xù)發(fā)展自身,而能動(dòng)性的載體也不會(huì)按照人的身體構(gòu)建。

    這種身份趨同除了自我、意識(shí)層面的趨同外,還因?yàn)閷?duì)環(huán)境的適應(yīng)性而趨同。智能機(jī)器的語(yǔ)義規(guī)則與現(xiàn)實(shí)世界中的物理邊界是此消彼長(zhǎng)的關(guān)系,就像地鐵前的疏導(dǎo)柵欄對(duì)人流的限制一樣,物理的邊界越明顯,人的意識(shí)對(duì)自己的行為控制越不必要。AI同樣如此,AI越能如期地執(zhí)行規(guī)則,則物理限制需求越少;AI對(duì)規(guī)則的理解與執(zhí)行力越差,越需要人為設(shè)定物理邊界。因此,讓環(huán)境適應(yīng)智能是我們現(xiàn)在需要警惕的,我們?yōu)榱私o人工智能機(jī)器設(shè)定行動(dòng)邊界而給世界設(shè)定了邊界[12](P166)。也就是說(shuō),我們是在為了方便機(jī)器而改變、限制自己。

    我們?cè)絹?lái)越多地將自己的記憶、決定、日常安排和其他活動(dòng),以一種與我們不斷融合的方式,委派或外包給這些數(shù)字信息智能體去打理。由于第四次革命,這一切都會(huì)變得司空見(jiàn)慣,人類(lèi)獨(dú)一無(wú)二的地位將被取代也是如此。[12](P108)

    弗洛里迪對(duì)人類(lèi)地位的預(yù)期顯然比較悲觀。但是,這種警示的背后顯示出弗洛里迪對(duì)于身份信息化的具體過(guò)程認(rèn)識(shí)含混。問(wèn)題在于,其對(duì)替代因果性采取了不同于計(jì)算主義心靈哲學(xué)的處理。在行動(dòng)與意志的討論中,雖然我們肯定行動(dòng)的解釋來(lái)源于意志或者說(shuō)自由的意志,但是自由意志不意味著自由行動(dòng)。行動(dòng)總是有其系統(tǒng)邊界,對(duì)于信息主體與人都是如此。如何處理這個(gè)系統(tǒng)邊界,以便讓舊的身份消失而新的身份從意志走入現(xiàn)實(shí),是賦予新身份以行動(dòng)與實(shí)踐意義的關(guān)鍵??傮w看來(lái),可以從兩點(diǎn)來(lái)反思:

    第一,究竟是什么構(gòu)成了身份?信息技術(shù)使全世界以一種信息交互的方式聯(lián)系在一起,雖然我們比以前更容易與他者產(chǎn)生聯(lián)系,但也更容易以可替代的方式呈現(xiàn)于他人面前。對(duì)于青年人,也就是弗洛里迪所說(shuō)的線(xiàn)上一代,他們靠著社交平臺(tái)所發(fā)出的信息、對(duì)自己網(wǎng)絡(luò)身份的運(yùn)營(yíng),維持在網(wǎng)絡(luò)空間中的自我身份。構(gòu)成這種身份的內(nèi)容,沒(méi)有什么是不可數(shù)字化處理的。微軟小娜(Cortana)的網(wǎng)絡(luò)身份,在信息交互的意義上比絕大多數(shù)青少年的網(wǎng)絡(luò)身份都要成功。交流與互動(dòng)對(duì)絕大多數(shù)網(wǎng)絡(luò)身份都是多余的,標(biāo)簽和機(jī)械規(guī)則要求下的相互提示,更能印證社會(huì)關(guān)系的存在。當(dāng)然,也更容易在一瞬間使這些身份關(guān)系崩塌。

    第二,技術(shù)身份的提休斯之船問(wèn)題(Ship of Theseus)??v向來(lái)說(shuō),一個(gè)人的身份信息到什么程度算是可以脫離身體,形成新的線(xiàn)上自我?朋友圈構(gòu)建到什么程度會(huì)讓你覺(jué)得你就是你線(xiàn)上的身份,或者你不是你線(xiàn)上的身份?人工智能對(duì)你個(gè)人數(shù)據(jù)進(jìn)行重建,那些原本屬于你的信息以及本來(lái)不屬于你的信息達(dá)到什么程度會(huì)讓別人產(chǎn)生懷疑?這都是兩個(gè)身份趨同所帶來(lái)的差異問(wèn)題。從橫向來(lái)說(shuō),人若是信息的中心,信息量少到什么程度,才能分辨出人所處理的信息能代表人是中心;或者說(shuō),信息多到什么程度,人才會(huì)在近似無(wú)限的信息中失去自己的中心角色。這也是事關(guān)智能機(jī)器與人爭(zhēng)奪信息注意力的重要問(wèn)題。

    四、現(xiàn)代性挑戰(zhàn)的技術(shù)維度:以技術(shù)自主性挑戰(zhàn)人機(jī)溝通

    如果信息化生存真的導(dǎo)致了人的地位下降甚至被取代,那么人工智能會(huì)因智能機(jī)器具有類(lèi)人的身份而面臨同樣問(wèn)題:?jiǎn)适е黧w性意義。弗洛里迪認(rèn)為,數(shù)字化不只是加強(qiáng)或者增加了現(xiàn)實(shí),更是轉(zhuǎn)化了現(xiàn)實(shí),形成了我們以及其他形式的新能動(dòng)者所需的新環(huán)境[15]。為了說(shuō)明這種倫理語(yǔ)境的形成,弗洛里迪提出了三階技術(shù)的概念。

    按照傳統(tǒng)的技術(shù)中介理論,人在認(rèn)識(shí)和改造自然時(shí),會(huì)以技術(shù)為中介。這種看似具身的、介于人與自然之間的技術(shù)物是一階技術(shù),簡(jiǎn)單舉例就是斧子,人最早直接使用斧子朝向自然中的樹(shù)。二階技術(shù)是人與技術(shù)之間的技術(shù),類(lèi)似復(fù)雜的解釋學(xué)回路,例如螺絲刀就是這種技術(shù)物,它只能用來(lái)作用于螺絲這種技術(shù)物上。三階技術(shù)則被比喻為有生命的工具,它連接作為使用者的技術(shù)和作為敦促者的技術(shù)。與人作為使用者、自然作為敦促者的一階技術(shù)的不同在于,三階技術(shù)是技術(shù)之間的中介,而不是人與自然之間的中介。三階技術(shù)作為技術(shù)之間的媒介而出現(xiàn),使得人和自然(世界)不再出現(xiàn)在某個(gè)技術(shù)環(huán)節(jié)的兩端,為人類(lèi)和世界在技術(shù)行動(dòng)中的隱去做出了第一步基礎(chǔ)[12](P35)。其實(shí)弗洛里迪所說(shuō)的三階技術(shù)從目前看來(lái),種類(lèi)并不繁多,大概只有以計(jì)算機(jī)為代表的智能機(jī)器可以成為三階技術(shù)的負(fù)載系統(tǒng),例子就是物聯(lián)網(wǎng)。物聯(lián)網(wǎng)處于事物與事物相互作用的中間位置,預(yù)示著一種不需要人參與的技術(shù)社會(huì)。

    從本質(zhì)上說(shuō),三階技術(shù)的目的在于,將低效率的人類(lèi)媒介從技術(shù)循環(huán)的回路中去除。[12](P37)

    弗洛里迪把人類(lèi)看作媒介,已經(jīng)是站在了信息化生存導(dǎo)致人的地位下降的立場(chǎng)上了。他試圖把人從機(jī)器的規(guī)范中剔除,因?yàn)闄C(jī)器的道德活動(dòng)可以不包括人,也不即時(shí)地受人控制。即便如此,我們?nèi)匀豢梢詮募夹g(shù)的內(nèi)在規(guī)范性來(lái)討論技術(shù)替代的倫理問(wèn)題。按照弗洛里迪的觀點(diǎn),智能機(jī)器會(huì)形成封閉的道德行動(dòng)回路,但是他忽略了機(jī)器本身的既定邏輯以及人的反向適應(yīng)能力。相對(duì)于三階技術(shù)來(lái)說(shuō),一階技術(shù)和二階技術(shù)的替代性成本很低,外部適應(yīng)難度和內(nèi)部適應(yīng)難度都低。三階技術(shù)則不然,其替代性成本急劇上漲,外部適應(yīng)難度高。例如,作為人的我們想介入一個(gè)中央控制的機(jī)器系統(tǒng)十分困難,機(jī)器想改變這個(gè)狀況也很難。并且,其內(nèi)部適應(yīng)難度也高,替代現(xiàn)代精密儀器中的某個(gè)部分,例如電腦主板上的內(nèi)存條,會(huì)導(dǎo)致整個(gè)平臺(tái)的改變。智能機(jī)器的邏輯一定是按照初始邏輯進(jìn)行正向適應(yīng);而對(duì)于人來(lái)說(shuō),礙于整個(gè)系統(tǒng)的繁瑣和處理信息的緊迫,我們也會(huì)反向適應(yīng)。例如條形碼這種信息處理方式是依據(jù)機(jī)器的便利來(lái)設(shè)定,而不是從人直觀獲得信息的角度來(lái)設(shè)定。按照智能機(jī)器進(jìn)化的邏輯,人與自然的必要性在降低,但不預(yù)示人是可替代的,而是需要人以一種非人的狀態(tài)參與技術(shù)系統(tǒng)。但是,弗洛里迪認(rèn)為,“智能和自主將不再是人類(lèi)獨(dú)有的特性。從理論上來(lái)說(shuō),一個(gè)超歷史的、依賴(lài)于三階技術(shù)的社會(huì)可以脫離人類(lèi)而獨(dú)立存在”[12](P38)。

    從三階技術(shù)中推導(dǎo)出的這個(gè)觀點(diǎn)非常激進(jìn)。那么,在不需要人的技術(shù)系統(tǒng)之外是否有人的位置呢?對(duì)于信息哲學(xué)來(lái)說(shuō),人的位置在界面的面前。所謂界面就是人與機(jī)器發(fā)生關(guān)系的交互面,對(duì)于互聯(lián)網(wǎng)社會(huì)中的人來(lái)說(shuō),這個(gè)界面可以是鍵盤(pán)、鼠標(biāo)、顯示器。信息此時(shí)不再是簡(jiǎn)單的輸入、輸出,其運(yùn)作被機(jī)器間互動(dòng)的協(xié)議所控制。弗洛里迪通過(guò)使用者交互界面與協(xié)議面的區(qū)分,把人可以通過(guò)使用而展現(xiàn)出來(lái)的傳遞控制力,當(dāng)作技術(shù)物之間的內(nèi)在規(guī)范性[12](P40)。就像齒輪之間的咬合一樣,智能機(jī)器的協(xié)議是技術(shù)物之間(原來(lái)只出現(xiàn)于人與自然之間)交換信息的規(guī)則。不過(guò)就像霍爾效應(yīng)中的電子流動(dòng)一樣,技術(shù)物之間的信息流動(dòng)也有好與壞之分。弗洛里迪用信息摩擦來(lái)描述其不良溝通的情況[12](P117),這種對(duì)不良情形的描述方式本身就指出了協(xié)議雙方的溝通有內(nèi)在的善惡價(jià)值,最簡(jiǎn)單的倫理規(guī)則就是保障順暢地進(jìn)行信息交互。如果絕對(duì)的通暢成為了標(biāo)準(zhǔn),就會(huì)導(dǎo)致人類(lèi)的倫理困境與危機(jī),例如隱私問(wèn)題、責(zé)任問(wèn)題、安全問(wèn)題。

    這種觀點(diǎn)中還存在另一個(gè)矛盾,就是技術(shù)系統(tǒng)內(nèi)部封閉的自主性與技術(shù)系統(tǒng)和外部溝通的流暢性之間的矛盾。三階技術(shù)的觀點(diǎn)假設(shè)了智能技術(shù)與一般性技術(shù)之間封閉的溝通邏輯,而現(xiàn)實(shí)是,由人主導(dǎo)的技術(shù)改造活動(dòng)是存在并被人所控制的。技術(shù)物智能化絕非是在創(chuàng)造一個(gè)個(gè)新的智能系統(tǒng),而是不斷地對(duì)一階、二階技術(shù)進(jìn)行社會(huì)性智能改造。對(duì)于物聯(lián)網(wǎng)來(lái)說(shuō),目前沒(méi)有太多的家庭設(shè)備是在智能聯(lián)網(wǎng)之后出現(xiàn)的。非智能機(jī)器變?yōu)橹悄軝C(jī)器,集中體現(xiàn)了技術(shù)系統(tǒng)的智能化邏輯與人的反向適應(yīng)力的交融。我們不禁要問(wèn),技術(shù)系統(tǒng)內(nèi)部真的有系統(tǒng)化溝通的能力嗎?如果沒(méi)有,那么智能機(jī)器的自主性全然沒(méi)有設(shè)想中那么強(qiáng),人會(huì)通過(guò)犧牲信息的獨(dú)占性來(lái)?yè)Q取在技術(shù)系統(tǒng)中的位置。因此,三階技術(shù)脫離人類(lèi)社會(huì)的說(shuō)法尚為時(shí)過(guò)早,人工智能倫理依舊應(yīng)該把智能機(jī)器定位于互動(dòng)型倫理主體。同時(shí)還要假定智能機(jī)器具有與人同樣的主體性缺陷,即無(wú)法獨(dú)立成為完全的道德能動(dòng)者。只有這樣,才能真正站在信息倫理所強(qiáng)調(diào)的技術(shù)系統(tǒng)的角度,建立順暢的道德溝通。

    五、可替代現(xiàn)代性之重構(gòu):走向人工智能時(shí)代的新道德主體

    基于信息倫理所揭示的生存、身份與地位的倫理困境,可能會(huì)自然地推出信息倫理的技術(shù)悲觀主義立場(chǎng)。實(shí)則不然。這要從信息倫理的哲學(xué)立場(chǎng)和實(shí)踐立場(chǎng)出發(fā)來(lái)說(shuō)明。

    首先,信息倫理的核心問(wèn)題之一是責(zé)任,這使得信息倫理主張一種多元行動(dòng)者(MA)規(guī)則。對(duì)于弗洛里迪來(lái)說(shuō),負(fù)責(zé)任的設(shè)計(jì)與信息的隱私才是真正需要面對(duì)的問(wèn)題[16]。人工能動(dòng)者具有三種能力:交互性、自主性和適應(yīng)性[17]。在這個(gè)意義上,賽博空間提供了很多能動(dòng)者,協(xié)議、服務(wù)軟件、網(wǎng)頁(yè)程序等都是能動(dòng)者[18]。信息意義上能動(dòng)者的增加,不應(yīng)是促使每個(gè)行動(dòng)者考慮自身的地位問(wèn)題,而是促使能動(dòng)者考慮共同生存的問(wèn)題。保證信息的權(quán)力,完成符合新倫理規(guī)范的三階技術(shù)設(shè)計(jì),是人展示自己能力的正確方式。

    自主能動(dòng)者是道德或不道德的行為的正當(dāng)發(fā)起者,因此道德能動(dòng)者的范圍要擴(kuò)大到包含這種自主能動(dòng)者,因?yàn)樽灾髂軇?dòng)者的道德討論應(yīng)該包括對(duì)它們道德性的分析。[19]

    其實(shí)對(duì)于人工智能,弗洛里迪仍然堅(jiān)持達(dá)特茅斯會(huì)議上的定義:如人類(lèi)般行為的機(jī)器[16]。如果在這個(gè)層面講,目前還沒(méi)有真正的人工智能。但是,根據(jù)弗洛里迪本人的抽象分層(Levels of Abstraction,LoA),在處理人工物能動(dòng)者時(shí),可分成兩個(gè)層次,一個(gè)是以用戶(hù)觀點(diǎn)為核心的分層(LoA1),另外一個(gè)是以設(shè)計(jì)者為核心的分層(LoA2)[4](P26)。這種層級(jí)的劃分目的是展示一種現(xiàn)行的責(zé)任倫理的僵化狀態(tài),即每個(gè)實(shí)際上無(wú)差別的倫理情景會(huì)因?yàn)槿藶榈膭澐侄a(chǎn)生區(qū)別,導(dǎo)致技術(shù)物在轉(zhuǎn)移出人為限制環(huán)境時(shí),給新環(huán)境中的行動(dòng)者制造難題。因此,AI的倫理標(biāo)準(zhǔn)應(yīng)該是跨越抽象層級(jí)的,并且需要獲得不同情景中的行動(dòng)者的共識(shí)。

    其次,信息倫理在實(shí)踐中主張一種非自然主義的基礎(chǔ)主義觀點(diǎn)[20]。道德行為不必還原到道德本質(zhì),也不一定假設(shè)存在一種道德上的能動(dòng)者。目前在智能機(jī)器的情感問(wèn)題中,智能伴侶機(jī)器人受到人們的關(guān)注。從信息倫理角度看,如果人能夠如實(shí)地把自己看作是一個(gè)信息體,在這種超身份認(rèn)識(shí)框架中就不僅可以容下智能伴侶,甚至連虛擬寵物都可以[5](P115)。

    我們有理由像對(duì)待一個(gè)人那樣對(duì)待智能伴侶,而不需要事先承認(rèn)機(jī)器是一個(gè)人。[7]

    第四次革命最重要的改變就是把主體間的邊界打破了,如果能從這種信息相關(guān)性的層面看智能機(jī)器,它不過(guò)是你身邊的另一個(gè)身份主體而已。信息交互主體之間的關(guān)系,不像第四次革命之前的社會(huì)關(guān)系那么密切,但過(guò)去的那種密切并非密無(wú)間隙,因?yàn)樯踔猎诘芽▋旱臅r(shí)代,他心就已經(jīng)是一個(gè)問(wèn)題。不過(guò)人機(jī)關(guān)系也沒(méi)有現(xiàn)代性社會(huì)人們所想的那么疏遠(yuǎn),因?yàn)樵谛畔r(shí)代,行動(dòng)主體的密集程度超乎想象,以至于難以孤獨(dú)地存在。這樣看來(lái),信息倫理的責(zé)任觀與基礎(chǔ)主義觀點(diǎn)也值得商榷。

    道德能動(dòng)者的范圍一直是人工智能討論的焦點(diǎn)。智能機(jī)器是否是完整的道德能動(dòng)者,甚至是否可以稱(chēng)為道德能動(dòng)者,都是懸而未決的。技術(shù)系統(tǒng)中信息主體的地位上升以及人在信息化世界中地位下降的觀點(diǎn),都回避了“是否具有主體性、能動(dòng)性”的問(wèn)題,轉(zhuǎn)而直接討論“有多少能動(dòng)性”的問(wèn)題。表面看來(lái),人的能動(dòng)性降低了,道德行動(dòng)范圍縮小了,但這不意味其他主體就獲得了道德能動(dòng)性。導(dǎo)致這種現(xiàn)象的主要原因是行動(dòng)邊界復(fù)雜化,而不是行動(dòng)主體多樣化。所以,多元行動(dòng)者理論與多元行動(dòng)域的結(jié)合才是解決問(wèn)題的關(guān)鍵。

    單個(gè)信息主體的能動(dòng)性也不是主要問(wèn)題,這與單子型社會(huì)人的概念完全不同。數(shù)字化生存所要求的信息溝通的通暢程度,已經(jīng)否定了有界限、有信息保留的個(gè)體。這種超群體的生存方式顯然與我們所推崇的個(gè)人隱私、個(gè)人自由相悖。它只能是在工作場(chǎng)域中的信息溝通方式,而不能以此組織社會(huì)生活。雖然信息技術(shù)在不斷地打破生活與工作空間的界限,但是在道德層面,我們要看到超出數(shù)據(jù)本身的道德內(nèi)容,“萬(wàn)物源于比特”的信息基礎(chǔ)主義還不能進(jìn)入本體論層面。不可通達(dá)、不透明的主體間關(guān)系,才往往是符合倫理規(guī)范的關(guān)系,才有能動(dòng)性可言。

    智能機(jī)器和信息技術(shù)的倫理問(wèn)題還有很多。機(jī)器權(quán)利、信息安全等等都是AI要面對(duì)的倫理問(wèn)題。如果人和AI的本質(zhì)都是信息,那么同處于信息圈中,他們之間的關(guān)系就是一種新的生態(tài)問(wèn)題,我們要本著新的信息生態(tài)主義來(lái)處理人與信息實(shí)體間的關(guān)系[5](P8)。例如,對(duì)于機(jī)器人對(duì)人傳統(tǒng)工作崗位的占據(jù),也許正是把人從繁瑣的日常重復(fù)勞動(dòng)中解放出來(lái)的契機(jī),就此人可以更專(zhuān)注于真正與其他信息主體的深度交往[20];同樣,這也許是在信息的雜草叢生的荒野中,人的視線(xiàn)與注意力無(wú)處安放的開(kāi)始。無(wú)論如何,現(xiàn)代性可能在人和技術(shù)傳統(tǒng)的合理性認(rèn)識(shí)中消失了,但現(xiàn)代性所開(kāi)啟的數(shù)學(xué)化和語(yǔ)言化沒(méi)有終結(jié),它以信息的新形式出現(xiàn),仍將主導(dǎo)這個(gè)智能時(shí)代的規(guī)范。

    [1]張成崗.技術(shù)與現(xiàn)代性研究.北京:中國(guó)社會(huì)科學(xué)出版社,2013.

    [2]C.Cath & S.Wachter et al.Artifi cial Intelligence and “the Good Society”:The US,EU,and UK Approach.Science and Engineering Ethics,2017-03-28.[2018-01-04]https://doi.org/10.1007/s11948-017-9901-7.

    [3]C.Ess.Luciano Floridi’s Philosophy of Information and Information Ethics:Critical Refl ections and the State of the Art.Ethics and Information Technology,2008,10(2).

    [4]H.Demir.Luciano Floridi’s Philosophy of Technology.Dordrecht:Springer Netherlands,2012.

    [5]L.Floridi.The Ethics of Information.Oxford:Oxford University Press,2013.

    [6]L.Floridi.Artifi cial Intelligence’s New Frontier:Artifi cial Companions and the Fourth Revolution.Metaphilosophy,2008,39(4).

    [7]M.Byron.Floridi’s Fourth Revolution and the Demise of Ethics.Knowledge,Technology&Policy,2010,23(1).

    [8]L.Floridi.The Onlife Manifesto:Being Human in a Hyperconnected Era.London:Springer Open,2015.

    [9]安德魯·芬伯格.在理性與經(jīng)驗(yàn)之間:論技術(shù)與現(xiàn)代性.高海青譯.北京:金城出版社,2015.

    [10]Albert Borgmann.Crossing the Postmodern Divide.Chicago:University of Chicago Press,2013.

    [11]C.Walter.Kryder’s Law.Scientifi c American,2005,293(2).

    [12]盧西亞諾·弗洛里迪.第四次革命.王文革譯.杭州:浙江人民出版社,2016.

    [13]L.Floridi.Information Technologies and the Tragedy of the Good Will.Ethics and Information Technology,2006,8(4).

    [14]L.Floridi.On the Intrinsic Value of Information Objects and the Infosphere.Ethics and Information Technology,2002,4(4).

    [15]L.Floridi.Digital’s Cleaving Power and Its Consequences.Philosophy&Technology,2017,30(2).

    [16]L.Floridi.Robots,Jobs,Taxes,and Responsibilities.Philosophy&Technology,2017,30(1).

    [17]L.Floridi.Consciousness,Agents and the Knowledge Game.Minds and Machines,2005,15(3).

    [18]L.Floridi,J.W.Sanders.Artifi cial Evil and the Foundation of Computer Ethics.Ethics and Information Technology,2001,3(1).

    [19]B.C.Stahl.Information,Ethics,and Computers:The Problem of Autonomous Moral Agents.Minds and Machines,2004,14(1).

    [20]L.Floridi.A Plea for Non-naturalism as Constructionism.Minds and Machines,2017,27(2).

    猜你喜歡
    弗洛里現(xiàn)代性機(jī)器
    雕刻家的秘密
    機(jī)器狗
    機(jī)器狗
    復(fù)雜現(xiàn)代性與中國(guó)發(fā)展之道
    《緬甸歲月》中弗洛里悲劇命運(yùn)的必然性探究
    淺空間的現(xiàn)代性
    未來(lái)機(jī)器城
    電影(2018年8期)2018-09-21 08:00:06
    由現(xiàn)代性與未來(lái)性再思考博物館的定義
    一只爛西瓜與諾貝爾獎(jiǎng)
    飲食保健(2016年14期)2016-08-12 07:07:09
    淺談夢(mèng)窗詞之現(xiàn)代性
    午夜精品久久久久久毛片777| 国产av又大| 精品人妻1区二区| 日日爽夜夜爽网站| www.熟女人妻精品国产| 99久久综合精品五月天人人| 人人妻人人澡人人看| 中出人妻视频一区二区| 国内久久婷婷六月综合欲色啪| 成在线人永久免费视频| 夜夜爽天天搞| 麻豆一二三区av精品| 精品国内亚洲2022精品成人| 免费观看精品视频网站| 国产成人精品久久二区二区免费| 怎么达到女性高潮| 9191精品国产免费久久| 99国产精品99久久久久| 久久久久国产精品人妻aⅴ院| 无限看片的www在线观看| 久久 成人 亚洲| 免费在线观看视频国产中文字幕亚洲| 色老头精品视频在线观看| 一边摸一边做爽爽视频免费| 黄色成人免费大全| 国产视频一区二区在线看| 男人舔女人的私密视频| 男女午夜视频在线观看| 日韩 欧美 亚洲 中文字幕| 亚洲第一青青草原| 淫秽高清视频在线观看| 丝袜美腿诱惑在线| 日韩高清综合在线| 日本撒尿小便嘘嘘汇集6| 老司机午夜福利在线观看视频| 搡老乐熟女国产| 日日爽夜夜爽网站| 岛国在线观看网站| 欧美成人午夜精品| 身体一侧抽搐| 成人国产一区最新在线观看| 午夜精品国产一区二区电影| 妹子高潮喷水视频| 精品久久久久久,| 深夜精品福利| 女性生殖器流出的白浆| 亚洲av熟女| 中国美女看黄片| 制服诱惑二区| 精品熟女少妇八av免费久了| 美女扒开内裤让男人捅视频| 亚洲欧美日韩高清在线视频| 美女福利国产在线| 亚洲专区国产一区二区| 亚洲人成网站在线播放欧美日韩| 久久香蕉精品热| 在线视频色国产色| av天堂久久9| 国产精品亚洲一级av第二区| 国产蜜桃级精品一区二区三区| 高清黄色对白视频在线免费看| www国产在线视频色| 亚洲自偷自拍图片 自拍| 母亲3免费完整高清在线观看| av在线天堂中文字幕 | 国产精品野战在线观看 | 美女高潮喷水抽搐中文字幕| 亚洲成人国产一区在线观看| 天堂√8在线中文| 国产亚洲精品久久久久5区| 母亲3免费完整高清在线观看| 日韩有码中文字幕| av网站在线播放免费| 国产高清videossex| 国产成人免费无遮挡视频| 老司机亚洲免费影院| 日韩中文字幕欧美一区二区| 久久人人97超碰香蕉20202| 日本欧美视频一区| 国产精品二区激情视频| 91成年电影在线观看| a级毛片在线看网站| 亚洲五月婷婷丁香| 精品久久久久久电影网| 大码成人一级视频| 久久人人爽av亚洲精品天堂| 欧美性长视频在线观看| 亚洲精品国产区一区二| 色在线成人网| 国产av一区二区精品久久| 成在线人永久免费视频| 久9热在线精品视频| 欧美成人免费av一区二区三区| 欧美最黄视频在线播放免费 | 亚洲全国av大片| 80岁老熟妇乱子伦牲交| 国产av精品麻豆| 中文字幕人妻熟女乱码| 高清在线国产一区| 在线观看舔阴道视频| 动漫黄色视频在线观看| 亚洲国产看品久久| 嫩草影院精品99| a在线观看视频网站| 性少妇av在线| 午夜成年电影在线免费观看| 黄网站色视频无遮挡免费观看| 国产高清视频在线播放一区| 日韩精品免费视频一区二区三区| 午夜福利在线免费观看网站| 啪啪无遮挡十八禁网站| 国产成人av教育| 国产高清国产精品国产三级| 9191精品国产免费久久| 欧美日韩黄片免| 午夜福利欧美成人| 在线天堂中文资源库| 日韩人妻精品一区2区三区| 桃色一区二区三区在线观看| 真人做人爱边吃奶动态| 精品少妇一区二区三区视频日本电影| 婷婷精品国产亚洲av在线| 宅男免费午夜| 国产免费现黄频在线看| av超薄肉色丝袜交足视频| 少妇的丰满在线观看| 久久久国产一区二区| 色综合婷婷激情| 久久婷婷成人综合色麻豆| 巨乳人妻的诱惑在线观看| a级片在线免费高清观看视频| 久久久水蜜桃国产精品网| 国产精品av久久久久免费| 久9热在线精品视频| 中文字幕最新亚洲高清| 岛国在线观看网站| 免费看a级黄色片| 久久国产精品男人的天堂亚洲| 在线免费观看的www视频| 亚洲黑人精品在线| 大码成人一级视频| 国产熟女xx| 嫩草影视91久久| 少妇被粗大的猛进出69影院| 中文字幕人妻丝袜制服| 精品国产一区二区久久| 人妻丰满熟妇av一区二区三区| 亚洲色图av天堂| 久久国产乱子伦精品免费另类| 女生性感内裤真人,穿戴方法视频| 亚洲国产欧美一区二区综合| 欧美色视频一区免费| 国产av一区在线观看免费| 夫妻午夜视频| 国产精品一区二区精品视频观看| 亚洲专区中文字幕在线| 99精品欧美一区二区三区四区| 国产免费现黄频在线看| 国产麻豆69| 亚洲精品av麻豆狂野| 男男h啪啪无遮挡| 韩国av一区二区三区四区| 亚洲国产欧美日韩在线播放| 在线永久观看黄色视频| 人人妻人人爽人人添夜夜欢视频| 国产精品九九99| 亚洲视频免费观看视频| videosex国产| 国产av又大| 两个人看的免费小视频| 手机成人av网站| 精品人妻在线不人妻| 久久天躁狠狠躁夜夜2o2o| 婷婷丁香在线五月| 黑人操中国人逼视频| 午夜视频精品福利| a级片在线免费高清观看视频| 亚洲五月天丁香| 麻豆av在线久日| 高清在线国产一区| 免费日韩欧美在线观看| 免费看a级黄色片| 国产精品自产拍在线观看55亚洲| а√天堂www在线а√下载| aaaaa片日本免费| 亚洲精品av麻豆狂野| 免费在线观看影片大全网站| 亚洲片人在线观看| 亚洲狠狠婷婷综合久久图片| 视频区图区小说| 真人做人爱边吃奶动态| 三上悠亚av全集在线观看| 欧美激情极品国产一区二区三区| 真人一进一出gif抽搐免费| 国产精品久久电影中文字幕| 欧美精品啪啪一区二区三区| 日本五十路高清| 久久香蕉国产精品| 日本一区二区免费在线视频| 亚洲av成人一区二区三| 999精品在线视频| 国产一区二区三区综合在线观看| 欧美一区二区精品小视频在线| 色在线成人网| 露出奶头的视频| 99久久国产精品久久久| 高潮久久久久久久久久久不卡| 久热爱精品视频在线9| 亚洲国产精品sss在线观看 | 丝袜人妻中文字幕| 最近最新中文字幕大全电影3 | 啪啪无遮挡十八禁网站| 在线观看日韩欧美| 啦啦啦在线免费观看视频4| 国产高清视频在线播放一区| 久久久久久久午夜电影 | 亚洲精品国产区一区二| 久久人人97超碰香蕉20202| 99re在线观看精品视频| 亚洲av熟女| 精品午夜福利视频在线观看一区| 久久久久久久久中文| 久久香蕉精品热| 91麻豆精品激情在线观看国产 | 国产精品一区二区三区四区久久 | 女人爽到高潮嗷嗷叫在线视频| 国产欧美日韩一区二区三区在线| 午夜福利,免费看| www.www免费av| 成熟少妇高潮喷水视频| 久久精品亚洲精品国产色婷小说| 亚洲欧美日韩无卡精品| 亚洲国产精品一区二区三区在线| 成年人黄色毛片网站| e午夜精品久久久久久久| 国内久久婷婷六月综合欲色啪| 国产成人精品久久二区二区免费| 午夜视频精品福利| 国产精品爽爽va在线观看网站 | 黑人操中国人逼视频| 村上凉子中文字幕在线| 99精国产麻豆久久婷婷| 日本vs欧美在线观看视频| 丝袜美足系列| 韩国精品一区二区三区| 午夜免费观看网址| 国产黄色免费在线视频| 久久久久精品国产欧美久久久| 久久国产精品影院| 80岁老熟妇乱子伦牲交| 国产成人影院久久av| 精品久久久久久久久久免费视频 | 亚洲av成人av| 如日韩欧美国产精品一区二区三区| av国产精品久久久久影院| 亚洲精品在线美女| 琪琪午夜伦伦电影理论片6080| 色婷婷av一区二区三区视频| 亚洲欧美一区二区三区久久| 在线视频色国产色| 久久精品国产亚洲av高清一级| 亚洲国产中文字幕在线视频| 91九色精品人成在线观看| 国产真人三级小视频在线观看| 性色av乱码一区二区三区2| 欧美另类亚洲清纯唯美| 韩国av一区二区三区四区| 午夜影院日韩av| 大型av网站在线播放| 亚洲avbb在线观看| 啦啦啦在线免费观看视频4| 每晚都被弄得嗷嗷叫到高潮| 99在线人妻在线中文字幕| 操出白浆在线播放| 久久 成人 亚洲| 美女午夜性视频免费| 五月开心婷婷网| 日韩大码丰满熟妇| 看免费av毛片| 午夜免费成人在线视频| 久久久久久久午夜电影 | 亚洲精品一区av在线观看| 一个人观看的视频www高清免费观看 | 男人操女人黄网站| 亚洲午夜理论影院| 日韩 欧美 亚洲 中文字幕| 久久天躁狠狠躁夜夜2o2o| 欧美久久黑人一区二区| 欧美一区二区精品小视频在线| 中文字幕人妻丝袜制服| 丰满人妻熟妇乱又伦精品不卡| 精品一区二区三区视频在线观看免费 | 亚洲精品一二三| 国产色视频综合| 国产99久久九九免费精品| 新久久久久国产一级毛片| 亚洲欧美一区二区三区黑人| 国产精品久久电影中文字幕| 黄网站色视频无遮挡免费观看| 欧美日本中文国产一区发布| 久久久精品国产亚洲av高清涩受| 免费在线观看视频国产中文字幕亚洲| 午夜免费观看网址| 国产国语露脸激情在线看| 精品高清国产在线一区| 国产在线观看jvid| 亚洲国产精品一区二区三区在线| 亚洲情色 制服丝袜| 老熟妇仑乱视频hdxx| 一个人免费在线观看的高清视频| 高清av免费在线| 亚洲国产精品合色在线| 国产精品久久久人人做人人爽| 国产av又大| 免费在线观看视频国产中文字幕亚洲| 国产精品国产av在线观看| 别揉我奶头~嗯~啊~动态视频| 757午夜福利合集在线观看| 99热只有精品国产| av片东京热男人的天堂| 我的亚洲天堂| 久久久久久人人人人人| 亚洲性夜色夜夜综合| 精品久久久久久成人av| 每晚都被弄得嗷嗷叫到高潮| 性色av乱码一区二区三区2| 国产高清国产精品国产三级| ponron亚洲| 亚洲aⅴ乱码一区二区在线播放 | 欧美人与性动交α欧美软件| 亚洲精品久久成人aⅴ小说| 桃红色精品国产亚洲av| 丁香六月欧美| 激情视频va一区二区三区| 久久久久久久午夜电影 | 欧美日本亚洲视频在线播放| 免费看十八禁软件| 亚洲情色 制服丝袜| 国产精品影院久久| 国产黄色免费在线视频| 精品高清国产在线一区| 日韩 欧美 亚洲 中文字幕| 两性夫妻黄色片| 黑人操中国人逼视频| 国产高清激情床上av| 亚洲一卡2卡3卡4卡5卡精品中文| 可以在线观看毛片的网站| 人人妻人人澡人人看| 免费在线观看视频国产中文字幕亚洲| 少妇被粗大的猛进出69影院| 亚洲人成电影免费在线| 热99国产精品久久久久久7| 国产高清激情床上av| 在线观看免费午夜福利视频| netflix在线观看网站| 久久国产精品男人的天堂亚洲| 免费看十八禁软件| 99久久99久久久精品蜜桃| 日韩精品免费视频一区二区三区| 久久精品亚洲av国产电影网| 丁香六月欧美| 在线视频色国产色| 电影成人av| 99国产精品99久久久久| www.自偷自拍.com| 亚洲欧美一区二区三区黑人| 黄色a级毛片大全视频| 国产成人系列免费观看| 欧美色视频一区免费| 在线观看66精品国产| 久久久精品欧美日韩精品| 正在播放国产对白刺激| 午夜影院日韩av| 国产欧美日韩一区二区精品| 久久久久国产精品人妻aⅴ院| 一二三四社区在线视频社区8| 在线av久久热| 成人特级黄色片久久久久久久| 欧美日韩乱码在线| 老司机午夜福利在线观看视频| 国产精品99久久99久久久不卡| 亚洲成av片中文字幕在线观看| 99久久国产精品久久久| 国产乱人伦免费视频| 亚洲av成人av| 欧美一级毛片孕妇| 丰满饥渴人妻一区二区三| 国产免费现黄频在线看| 国内久久婷婷六月综合欲色啪| 国产三级在线视频| 欧美乱妇无乱码| 免费日韩欧美在线观看| 日本黄色日本黄色录像| 亚洲第一欧美日韩一区二区三区| 国产99白浆流出| 丝袜美腿诱惑在线| 精品国产乱子伦一区二区三区| 巨乳人妻的诱惑在线观看| 午夜精品久久久久久毛片777| 水蜜桃什么品种好| 国产精品自产拍在线观看55亚洲| 中文字幕最新亚洲高清| 成人三级黄色视频| 免费在线观看黄色视频的| 水蜜桃什么品种好| 叶爱在线成人免费视频播放| 人人妻人人添人人爽欧美一区卜| 亚洲片人在线观看| 性少妇av在线| 久久婷婷成人综合色麻豆| 中亚洲国语对白在线视频| 欧美人与性动交α欧美软件| 女生性感内裤真人,穿戴方法视频| 久久影院123| 男人舔女人下体高潮全视频| aaaaa片日本免费| 欧美一区二区精品小视频在线| 最近最新免费中文字幕在线| 搡老熟女国产l中国老女人| 国产欧美日韩一区二区三| 超色免费av| 亚洲欧美日韩高清在线视频| 成人三级黄色视频| 一区在线观看完整版| 国产伦一二天堂av在线观看| 国产成人系列免费观看| 国产av又大| 热99国产精品久久久久久7| 午夜a级毛片| 成人黄色视频免费在线看| 老司机在亚洲福利影院| 国产有黄有色有爽视频| 啦啦啦在线免费观看视频4| 日韩欧美一区视频在线观看| 亚洲人成伊人成综合网2020| 成人av一区二区三区在线看| 国产精品久久视频播放| 午夜91福利影院| 视频区欧美日本亚洲| 国产日韩一区二区三区精品不卡| 亚洲第一av免费看| 精品熟女少妇八av免费久了| 99国产精品一区二区三区| 国产一区二区三区综合在线观看| 法律面前人人平等表现在哪些方面| 涩涩av久久男人的天堂| 国产亚洲欧美精品永久| 女性被躁到高潮视频| 老汉色av国产亚洲站长工具| 一级片'在线观看视频| 人人妻,人人澡人人爽秒播| 欧美人与性动交α欧美精品济南到| 久久精品91蜜桃| 中亚洲国语对白在线视频| 曰老女人黄片| 国产精品av久久久久免费| 黑人操中国人逼视频| 国产av精品麻豆| 亚洲午夜理论影院| 午夜福利在线免费观看网站| 黑人欧美特级aaaaaa片| 在线永久观看黄色视频| 狂野欧美激情性xxxx| 麻豆久久精品国产亚洲av | 免费日韩欧美在线观看| 日本黄色日本黄色录像| 中文字幕色久视频| 成人av一区二区三区在线看| 久久天躁狠狠躁夜夜2o2o| 日韩国内少妇激情av| 视频区欧美日本亚洲| 国产成人av激情在线播放| 美女大奶头视频| 99久久精品国产亚洲精品| 999久久久精品免费观看国产| 交换朋友夫妻互换小说| 亚洲专区字幕在线| 国产精品九九99| 久久青草综合色| 在线永久观看黄色视频| 夫妻午夜视频| 精品人妻在线不人妻| 亚洲精品国产一区二区精华液| 黑人巨大精品欧美一区二区蜜桃| 如日韩欧美国产精品一区二区三区| 欧美精品亚洲一区二区| 久久久久久大精品| 亚洲欧美一区二区三区久久| 免费高清在线观看日韩| 在线国产一区二区在线| 亚洲av美国av| 国产aⅴ精品一区二区三区波| a级片在线免费高清观看视频| 正在播放国产对白刺激| 在线观看一区二区三区| 精品日产1卡2卡| 精品日产1卡2卡| 国产男靠女视频免费网站| 极品人妻少妇av视频| 日韩精品青青久久久久久| 日本wwww免费看| 精品人妻1区二区| 十八禁人妻一区二区| 亚洲国产精品合色在线| 国产免费现黄频在线看| 国产激情欧美一区二区| 18禁国产床啪视频网站| 久久久久精品国产欧美久久久| 80岁老熟妇乱子伦牲交| 成熟少妇高潮喷水视频| 99re在线观看精品视频| 免费久久久久久久精品成人欧美视频| 亚洲美女黄片视频| 夜夜夜夜夜久久久久| 久久久国产欧美日韩av| 在线av久久热| 欧美在线黄色| 自拍欧美九色日韩亚洲蝌蚪91| 久久亚洲精品不卡| 在线播放国产精品三级| 男人舔女人下体高潮全视频| 精品久久久久久成人av| 精品一品国产午夜福利视频| 午夜成年电影在线免费观看| 亚洲片人在线观看| 色综合欧美亚洲国产小说| 国产一区在线观看成人免费| 一级片'在线观看视频| 国产亚洲精品第一综合不卡| 中文字幕人妻熟女乱码| 三上悠亚av全集在线观看| 操出白浆在线播放| ponron亚洲| 日本vs欧美在线观看视频| 久久国产乱子伦精品免费另类| 十分钟在线观看高清视频www| 伊人久久大香线蕉亚洲五| 午夜老司机福利片| 波多野结衣高清无吗| 久久这里只有精品19| 婷婷精品国产亚洲av在线| 18禁黄网站禁片午夜丰满| 身体一侧抽搐| 国产极品粉嫩免费观看在线| 91字幕亚洲| 两人在一起打扑克的视频| 午夜影院日韩av| 成年女人毛片免费观看观看9| 欧美在线黄色| 日韩欧美在线二视频| 亚洲精品一二三| 欧美最黄视频在线播放免费 | 中国美女看黄片| 精品一区二区三区视频在线观看免费 | 国产成人精品无人区| 一级a爱视频在线免费观看| 十八禁人妻一区二区| 亚洲精品国产区一区二| 18禁黄网站禁片午夜丰满| av天堂在线播放| 精品日产1卡2卡| 另类亚洲欧美激情| 久久人人爽av亚洲精品天堂| 欧美激情极品国产一区二区三区| 国产成人精品久久二区二区免费| 欧美激情高清一区二区三区| 欧美日韩av久久| 日韩大码丰满熟妇| 在线观看www视频免费| 波多野结衣一区麻豆| ponron亚洲| 国产单亲对白刺激| 久久国产精品男人的天堂亚洲| 精品久久久久久成人av| 国产精品久久久人人做人人爽| 9色porny在线观看| 视频区欧美日本亚洲| 高清欧美精品videossex| 中亚洲国语对白在线视频| 精品国产超薄肉色丝袜足j| 欧美日韩一级在线毛片| 村上凉子中文字幕在线| 国产激情久久老熟女| 色老头精品视频在线观看| 又大又爽又粗| 每晚都被弄得嗷嗷叫到高潮| aaaaa片日本免费| 久久国产精品男人的天堂亚洲| www.熟女人妻精品国产| 午夜福利,免费看| 色综合婷婷激情| 久久精品国产亚洲av高清一级| 又紧又爽又黄一区二区| 波多野结衣一区麻豆| 丝袜在线中文字幕| e午夜精品久久久久久久| 日韩精品免费视频一区二区三区| 久久影院123| 欧美日韩中文字幕国产精品一区二区三区 | 亚洲aⅴ乱码一区二区在线播放 | www.自偷自拍.com| 欧美成人免费av一区二区三区| 国产精品国产av在线观看| 我的亚洲天堂| 国产免费现黄频在线看| 日韩精品中文字幕看吧| 久久精品亚洲av国产电影网| 成人国产一区最新在线观看| 精品久久蜜臀av无| 亚洲成人国产一区在线观看| 美女福利国产在线| 日日干狠狠操夜夜爽| 一区二区三区激情视频| 99久久精品国产亚洲精品| 午夜a级毛片|