• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能與“無用階級”問題

    2019-06-12 03:32:22肖峰
    創(chuàng)新 2019年3期
    關(guān)鍵詞:人工智能工作

    [摘 要] 人工智能有可能取代人的工作從而使人淪為“無用階級”是目前最令人擔(dān)憂的社會問題。具體考察這一進程可以發(fā)現(xiàn)其中存在兩個階段:一是人工智能對部分人工作的取代,二是對人類全部工作的取代。后者其實是人和智能機器的新分工,人所從事的消費娛樂性活動成為人類的新型工作,人的有用性也從這些新型的價值創(chuàng)造活動中生成,從而需要我們重新定義“工作”和“有用性”。而前者則是更為復(fù)雜和棘手的社會問題,需要通過制度安排、價值觀轉(zhuǎn)型、設(shè)計和開發(fā)新的“軟工作”等社會調(diào)節(jié)手段來加以解決,而且還可以上升到社會制度的分析,即通過克服資本主義式的應(yīng)用來社會的建構(gòu)人工智能的光明前景。人工智能技術(shù)作為人造物和社會建構(gòu)的產(chǎn)物,在合理的社會使用中可以避免“無用階級”的形成及其帶來的社會問題,其本體論基礎(chǔ)在于人類作為技術(shù)的主體可以主導(dǎo)一種基于人類中心論的人-機和諧關(guān)系。

    [關(guān)鍵詞] 人工智能;工作;有用性;無用階級

    [中圖分類號] N031 ? ?[文獻標識碼] A ? ? [文章編號] 1673-8616(2019)03-0020-12

    人工智能時代可以看作是信息時代的高級階段,這個時代雖然還未完全到來,但是對于它的憧憬尤其是可能會出現(xiàn)的社會問題已經(jīng)浮出水面并引起關(guān)注。對于諸多的社會問題,在《失控》的作者、曾任《連線》(Wired)雜志主編的凱文·凱利看來,人工智能對失業(yè)的影響是最值得關(guān)注的問題,這個問題也被《未來簡史》的作者尤瓦爾·赫拉利(Yuval Noah Harari)表述為人工智能將使絕大多數(shù)人淪為“無用階級”的問題。因此探討這一現(xiàn)象的真實含義及其求解路徑,無疑是我們需要直面人工智能社會影響的重要問題。

    一、“無用階級”的出現(xiàn)與“階級劃分”的新視野

    在對人工智能將會取代人從而使人變得不再有用的各種說法中,無疑以尤瓦爾·赫拉利的“預(yù)言”影響最大,他在《未來簡史》中描述:人工智能的革命帶來的智能時代,只需人口中掌控算法并通過生物技術(shù)戰(zhàn)勝死亡的1%的“神人”去工作、做貢獻,就足以養(yǎng)活整個世界,人口中余下的99%則無須工作或無法工作(就業(yè)),他們對社會做不了貢獻從而成為“功能無用”的人,管理者至多為了安慰他們讓其做一些沒有實際價值的假貢獻,而從實質(zhì)上這些人都是些沒有任何經(jīng)濟價值與政治能量的個體。在尤瓦爾·赫拉利看來,這99%的人可以被統(tǒng)稱為“無用階級”(useless class)。他甚至預(yù)測2050年這樣的“無用階級”就會作為一個全新的階級在社會中出現(xiàn)。當(dāng)然,“無用階級”也能夠勉強生存下去,因為政府此時有能力為他們提供“無條件基本收入”(universal basic income)。問題是,由于無所事事,他們情緒極可能受到毒品和虛擬現(xiàn)實地控制,或更多地沉溺于虛擬世界里,而不是現(xiàn)實體驗。尤瓦爾·赫拉利認為必須認真考慮這種情形,以避免這種不良結(jié)果的出現(xiàn) [1]295。

    奇點主義的倡導(dǎo)者庫茲威爾(Ray Kurzweil)則認為,在50年內(nèi),世界將達到一個科技飛速發(fā)展的奇點(singularity),超級智能將在奇點到來時出現(xiàn),機器將通過人工智能進行自我完善,超越人類,從而開啟一個新的時代。在這個新時代到來后,有50%到90%的現(xiàn)存人類職業(yè)將被智能機器所代替,且比人做得更好。谷歌的資深研究員吳軍也持類似的觀點,他甚至認為僅靠2%的人來協(xié)助人工智能完成專門任務(wù)就足以控制未來,如果不能成為其中的一員就會被淘汰。斯坦福大學(xué)人工智能與倫理學(xué)教授杰瑞·卡普蘭(Jerry Kaplan)認為,人工智能和人類相比,在自動化作業(yè)、自動駕駛、合成智能、執(zhí)行能力等諸多方面具有明顯的優(yōu)勢,因此它可以不斷地取代現(xiàn)有人類的工作,讓由人從事的相關(guān)職位逐漸消失,使得人類在不久的將來不再需要去勞動,當(dāng)然也就意味著失去工作。順此推論,如果人工智能發(fā)展到更高的水平,形成了自我決策能力,則整個人類都將失去存在的價值和意義,或者說全人類都變成了“無用階級”。

    在智能技術(shù)目前的發(fā)展進程中,我們已經(jīng)看到一些簡單的重復(fù)性的體力勞動正在越來越多地被自動生產(chǎn)線或柔性制造系統(tǒng)所取代;隨之,普通技工和服務(wù)業(yè)從業(yè)者也成為容易被取代的職業(yè)(如出租車司機就有可能在不遠的將來被無人駕駛所取代);爾后一些流程化的腦力勞動也正在或?qū)⒁魂懤m(xù)開發(fā)出相應(yīng)算法的軟件程序所替代(如一個報稅員的工作可以被像Turbo Tax這樣的軟件來完成)。不僅在手工領(lǐng)域,而且在認知工作領(lǐng)域,中低技能工作人員都面臨著不斷增加的被取代壓力:這些領(lǐng)域的工作都會由智能機器和人工智能軟件以更高效率和更低成本的方式去完成,甚至科學(xué)家和詩人及其他文創(chuàng)人員也不例外。從理論上來看,凡能被人工智能延展的人類活動(無論是認知活動還是實踐活動),都是可能被替代的活動,在這些領(lǐng)域中的從業(yè)人員都可能淪為“無用階級”。

    凡此種種,人類的未來似乎將變得黯淡無光,人類隨著智能機器人能力的日益增強而成為“無用階級”似乎成為一種歷史的必然。

    可以說,無論這些看法是否有道理,其中都蘊含了這樣一個潛在的社會問題:人工智能的出現(xiàn),使得社會中階級的劃分出現(xiàn)了一種新的類型,這就是“有用階級”和“無用階級”。這種劃分不同于以生產(chǎn)資料的占有與否劃分出資產(chǎn)階級和無產(chǎn)階級,也不同于以財富擁有的多寡或社會分配份額中所占多少區(qū)分出富人階級和窮人階級。當(dāng)然這些階級劃分的標準之間也存在著或強或弱的關(guān)聯(lián)性,如有資產(chǎn)的、人成為富人就可能是高度相關(guān)的,而無資產(chǎn)的人成為窮人也可能是高度相關(guān)的。但“有產(chǎn)”“富有”和“有用”之間在智能時代則不一定是高度相關(guān)的,或者說,一個人的“有產(chǎn)”與“富有”不一定能保證其“有用”;相反,一個人如果“有用”,他則有高度可能變?yōu)椤坝挟a(chǎn)”和“富有”。就是說,在智能時代,具有決定性作用的優(yōu)勢因素,不是資產(chǎn)和富有,而是有用。因為如果無用,即使先前“有產(chǎn)”和“富有”,也會坐吃山空;而如果有用,則或能延續(xù)有產(chǎn)與富有,或能從貧窮變?yōu)楦挥?。而是否有用,在智能時代則取決于一個人是否掌握了一種智能機器人所無法取代的本領(lǐng)、技能或職位。如果一個人具有機器不能取代的能力或工作,其就不會失業(yè)從而保持為有用的人。所以,“力爭有用”或許是智能時代倒逼人去發(fā)展和提升自己的一種方式。然而,就大勢所趨來說,智能時代大多數(shù)人甚至全體人變成“無用階級”的問題畢竟是更大的問題,尤瓦爾·赫拉利也稱其為人類最不平等的現(xiàn)象,從而是更需關(guān)注的最重要社會問題。這一問題放大到最高的層面,或許也是一種階級劃分乃至階級斗爭的新視野:人類有可能終將在機器人面前淪為“無用階級”,所謂的階級斗爭,此時則不僅包含人與人之間的斗爭,而且還延展為“無用階級”(人)與技術(shù)(人工智能)之間的斗爭。2017年10月23日出版的《紐約客》以這樣一幅圖片作為封面:機器人在馬路上行走,似乎是在趕往各自的崗位上去工作,而人則無所事事坐在地上行乞。人類因被機器人取代而淪落至此的憂心無疑是智能時代我們需要面對的新問題,并且是重點問題或核心問題。

    二、總體取代背景下“有用性”和“工作”的新含義

    在人工智能語境下,我們可以從主體的不同區(qū)分出兩種意義上的“失業(yè)”或“無用”:一是人類總體意義上的“失業(yè)”從而變得“無用”,即全部或絕大多數(shù)人的工作被都智能機器替代;二是局部的即部分人的“失業(yè)”從而變得“無用”。這里先分析第一種情形,即當(dāng)通用人工智能的使用使得人類總體意義上的“失業(yè)”或全人類將面臨的被人工智能取代從而淪為“無用階級”,此時人似乎變成徹底多余、徹底無用的一個種類。

    如果從遠景上來看,當(dāng)目前的專用人工智能技術(shù)發(fā)展到通用人工智能,進而再發(fā)展到超級人工智能技術(shù)時①,就會出現(xiàn)全部取代進而徹底取代的情形,即人類從總體上被人工智能所取代從而變成“無用階級”。解決這一問題的關(guān)鍵就是觀念轉(zhuǎn)型,即我們需要重新理解“有用性”,甚至重新定義“工作”。

    當(dāng)前人們在談?wù)撚杏脝栴}時,通常將有用和就業(yè)相等同來理解,可以說這是一種對有用的狹義理解,也就是將失業(yè)理解為“無用”。其中對就業(yè)或工作的理解也是狹義的,通常將其理解為在固定場所受雇于特定雇主獲得固定報酬的有償勞動。所以人一旦失業(yè),即使是技術(shù)性的失業(yè),就面臨“終身休閑”的境地。

    如果重新定義“工作”,將只要創(chuàng)造價值的活動視為“工作”,那么,人類即使不在生產(chǎn)現(xiàn)場從事勞作而是休閑上網(wǎng),其中也可能蘊含著工作,這就是所謂的“數(shù)字化勞動”。這種勞動使得數(shù)字平臺得以維系并成為價值形成的空間;這種勞動還產(chǎn)生數(shù)據(jù),成為可以加工為用戶信息這種特殊商品的原材料,具有可用于交換的實實在在的價值。在這個意義上,只要能創(chuàng)造價值的活動就是工作,無論所創(chuàng)造的價值是精神性的還是物質(zhì)性的。

    這樣的休閑在傳統(tǒng)的視野中常常被視為純粹的“消費”,而在智能時代,我們消費人工智能創(chuàng)造的財富可以說就是“工作”,它使人和智能機器之間結(jié)成一種新關(guān)系。人工智能如果總體性地取代人的工作,無非是人和機器之間一種新的社會分工之形成:智能機器生產(chǎn)用品,人則消費這些用品,唯此才能維持由人和智能體系所構(gòu)成的社會系統(tǒng)的持續(xù)運行。

    其實,人類“工作”的邊界一直都隨生產(chǎn)力的提高不斷擴展,如先前不被視為“工作”的腦力勞動到后來成為名正言順的工作。人工智能無非是人類勞動效率的又一次重大提升甚至質(zhì)的飛躍,所形成的是更高階段的新分工,使先前被排除在工作范圍之外的休閑娛樂不斷被囊括于內(nèi),其中包含著價值創(chuàng)造。當(dāng)然創(chuàng)造價值的方式是多種多樣的,有的是穿插性的(如網(wǎng)絡(luò)瀏覽中的創(chuàng)作、寫作),有的則是副產(chǎn)品性的,有的還是循環(huán)性的,如此等等。

    工作的性質(zhì)由此也可以區(qū)分為兩種,即勞動性的工作和娛樂性的工作,前者具有工具性甚至異化性等性質(zhì),后者則具有目的性和自由性等特點,人道的技術(shù)就是要幫助人實現(xiàn)從前一種工作到后一種工作的提升。馬克思曾展望的在實現(xiàn)了“人的自由而全面發(fā)展”的社會中,人們“可能隨自己的興趣今天干這事,明天干那事,上午打獵,下午捕魚,傍晚從事畜牧,晚飯后從事批判” [2]537。這也是對“工作”性質(zhì)轉(zhuǎn)型的一種刻畫,即人的工作與休閑娛樂變得界限模糊甚至融為一體。由此還可以進一步認為,消費就是人的工作和有用性,生產(chǎn)則是智能機器或機器人①的有用性;從而在人和機器人之間形成“有用性”的新分工 [3] 。

    因此,在整體性替代的情形中,人的工作并不像傳統(tǒng)那樣,只是創(chuàng)造使用價值的活動才是工作,而是創(chuàng)造作為生活意義的目的性活動也是工作,且人類工作的主場隨之轉(zhuǎn)移到這上面來。這也無非是傳統(tǒng)的剩余勞動的安放問題,是技術(shù)進步或提升的必然,也是發(fā)明和改進技術(shù)的目的:將自己從勞動的手段地位中解放出來,包括從職業(yè)工作者中擺脫出來,成為作為目的、主體的人。其實技術(shù)的功能就是如此,如有了動力機后,人用自己的肌肉和體力去推動機器運轉(zhuǎn)的“工作”就基本消失,今天我們就不再認為那是人應(yīng)該做的“工作”。為此需要改變傳統(tǒng)的工作、娛樂休閑二元分割的存在和觀念。傳統(tǒng)社會中,“有閑”和“有錢”常常不能兼得,“有閑”的沒錢(沒有工作所以“有閑”但同時無錢),而有錢的“無閑”(忙于工作掙錢)。在智能機器全面取代人的勞作、人的工作和休閑融合一體后,可以達到人類學(xué)意義上的有閑和有錢的一體化。

    因此,從總體意義上來看,人類是不會失去工作的,只是改變了工作的性質(zhì),即從工具性的工作徹底轉(zhuǎn)換為目的性的工作。在這個意義上,人類不會淪為“無用階級”,而是新的“有用階級”;人類從總體上所從事的是使用人工智能來達到自己目的的活動,而使用人工智能的活動無疑是工作,且是更高端的工作。如果說人工智能使人類的工作都轉(zhuǎn)型為體驗型工作,那么體驗中的差異是無窮無盡的,此時差異就意味著有用,就意味著存在工作,意味著在差異的鏈條中,人總要形成向上競爭的趨向,就要有發(fā)展和提升相關(guān)能力(如鑒賞力、批判力等)的活動,從中就形成了永恒的有用性和永恒的工作,而這是比創(chuàng)造使用價值含義更廣的“有用性”和“工作”。此時,人的工作不再是受迫性的勞作型的謀生手段,而是自我實現(xiàn)的活動,“我在勞動中肯定了自己的個人生命”,“我的勞動是自由的生命表現(xiàn),因此是生活的樂趣”[4]38。

    三、局部取代階段中的社會調(diào)節(jié)

    如果說當(dāng)人工智能從總體上取代人的工作時需要我們做的主要是重新定義工作和有用性的話,由于這種全部取代不可能短期內(nèi)實現(xiàn),因此就會有一個局部取代的漫長過渡期,尤其是當(dāng)人工智能還處于專用人工智能階段時,從技術(shù)水平上也只能是局部取代人的工作①,此時則會造成更為復(fù)雜的社會問題,解決起來也更加棘手,所以目前也正在成為國際社會的焦點話題。

    一種比較樂觀的看法是,當(dāng)人工智能取代人的一部分工作時,又會創(chuàng)造出新的工作②,所以隨著新工作的出現(xiàn),通過向這些新的崗位轉(zhuǎn)移,就可以解決一部分人的失業(yè)或無工作的問題。但不贊同者認為,人工智能所引起的對人的替代,同以往的產(chǎn)業(yè)轉(zhuǎn)型所造成的工作的轉(zhuǎn)移在性質(zhì)上是不同的,它是從總趨勢上對人的工作進行全面取代,當(dāng)這種總?cè)〈瓿珊螅托瓮覀冊谇拔乃治龅那樾?。問題是在向這種總體取代的過渡中,即局部取代的階段上,就會造成一部分人被替代而另一部分人暫時未被替代的不平衡局面,前者相對后者就成為符合通常含義的“無用階級”。在這種局部替代的階段,由于社會分配制度中經(jīng)濟報酬主要是和勞動性工作掛鉤,因此會帶來收入的差距(即貧富的差別),由此還會延展到社會地位、心理感受等等方面的巨大反差?;蛘哒f,如果將人工智能取代人的傳統(tǒng)工作分為“徹底階段”和“不徹底階段”的話,那么到“徹底階段”問題倒好解決,而在“不徹底階段”則問題不好解決,“AI(人工智能)的發(fā)展會促進經(jīng)濟增長,從而促進就業(yè)。但在轉(zhuǎn)型的過程中,有一部分人會失去工作,并且對于這些人實現(xiàn)再就業(yè)的過程會較為痛苦漫長”③。它成為人類走向全面智能化過程中的一個難題。

    可以說,這一階段解決這一難題的重點不在技術(shù),而在制度所進行的社會調(diào)節(jié),即所謂制度重于技術(shù)。

    這種社會調(diào)節(jié)所展開的維度是多樣的,一是依靠社會保障制度來對局部失業(yè)者實施救助,使未來的失業(yè)者不會在絕對貧困上惡化,反而會因為社會福利水平的提高而獲得更富裕的生活??梢哉f這是一種社會性的底線要求。事實上,如何為由于人工智能技術(shù)的廣泛應(yīng)用而造成的局部性失業(yè)人口提供幫助,正在成為社會各界(尤其是企業(yè)家和政府)關(guān)心和探討的話題。例如,“在硅谷,目前正在被熱議的解決方案之一,是向失業(yè)工人發(fā)放‘全民基本收入(英文縮寫:UBI,Universal Basic Income)。‘全民基本收入是指在不考慮每個人的需求、就業(yè)狀況或者技能水平的情況下,政府為每位公民提供固定的津貼。2017年5月,扎克伯格在哈佛大學(xué)的畢業(yè)生典禮上發(fā)表演講稱,政府應(yīng)該考慮為所有美國人提供全民基本收入。馬斯克也認為,全民基本收入的普及是最好的解決方案。硅谷之外,對UBI的討論已遍及全球。在瑞士、芬蘭、法國、荷蘭、加拿大等國家,UBI或已開始付諸實踐,或被引為競選綱領(lǐng),甚至有望成為國家政策” 1。

    二是通過分配的調(diào)節(jié)制度,使就業(yè)者和非就業(yè)者的貧富差別保持在合理的區(qū)間2。此時,考驗我們的就主要是制度創(chuàng)新和社會調(diào)節(jié)能力,一種適應(yīng)人工智能生產(chǎn)力的社會分配制度需要隨之建立起來,有了這樣的制度,就可以使人工智能技術(shù)的紅利得到更廣泛地分享,由此不斷有效克服人工智能技術(shù)發(fā)展過程中的社會性障礙,從而盡早進入整體智能化的社會,這樣的社會如果實施的是合理的社會制度(參見下文),那么“將給所有的人提供健康而有益的工作,給所有的人提供充裕的物質(zhì)生活和閑暇時間,給所有的人提供真正的充分的自由”[5]570。與此相關(guān)聯(lián)的作為社會調(diào)節(jié)手段的社會再分配制度,還有如比爾·蓋茨所建議的向機器人征收人工智能稅,一方面利用這些新增的稅收可以補償那些被人工智能取代的失業(yè)者,另一方面還可以以此來提高機器人使用的成本,從而減緩人工智能取代人的速度,從而使人有更多的時間用于尋找社會調(diào)節(jié)的有效手段。

    三是通過社會價值觀的調(diào)節(jié),使得處在過渡階段的人逐漸從工業(yè)文明時代看重物質(zhì)占有的價值觀,轉(zhuǎn)型為信息文明時代的“信息大于物質(zhì)”“共享重于占有”等新價值觀,從而使那些仍有工作崗位的人不再以天文數(shù)字的收入為榮,而主要是以自我實現(xiàn)為樂,以更高的層次的需求為滿足,由此可以自愿通過第二次社會分配的調(diào)節(jié)(稅收)以及主動通過第三次社會分配調(diào)節(jié)(捐獻)等來積極幫助社會的其他成員,尤其是形成與暫時失業(yè)者的互助和諧關(guān)系。

    四是政府和相關(guān)群體需要不斷設(shè)計和開發(fā)出若干新的“軟工作”?!败浌ぷ鳌辈煌趥鹘y(tǒng)的“硬工作”,它可以不計經(jīng)濟效益,只計社會效益,主要是使人有事做,有成就感、獲得感,從而使社會穩(wěn)定,抑或說此時需要“根據(jù)新的工作模式重新定義職業(yè)倫理。一份工作的重要性不應(yīng)該僅僅取決于這份工作的經(jīng)濟價值,也取決于其創(chuàng)造的社會價值”1?!败浌ぷ鳌币膊皇浅鲇谥\生的需要,而是基于興趣愛好,因此不具有強迫性。這類軟工作的設(shè)立和開發(fā),也成為向未來全部工作性質(zhì)轉(zhuǎn)變的平滑演進,實質(zhì)是部分人率先進入“娛樂休閑型工作”的更有用階段。在這樣的社會調(diào)節(jié)下,至多說人工智能消滅了一些職業(yè),而并沒有取消掉人的工作。只要有“軟工作”的不斷開發(fā)和存在,人就總是會使自己處于工作者即“有用階級”的位置,而不至淪為“無用階級”。

    結(jié)合上文的分析可以看到,人類作為總體性的“無用階級”是不存在的,而局部性的階段性“無用階級”是可能存在的,這也是問題的難點,解決這一困難問題應(yīng)主要依靠社會治理或社會調(diào)節(jié)的能力,其更高的視野則是下面所要討論的社會制度的建構(gòu)問題。

    四、從社會調(diào)節(jié)上升到社會制度分析

    人工智能可能造就“無用階級”的問題,說到底是技術(shù)使用的社會后果問題,而一種技術(shù)在使用中產(chǎn)生什么樣的后果,常常不是取決于技術(shù)本身,而是技術(shù)的使用方式,尤其是技術(shù)在什么樣的社會背景下使用。馬克思在《資本論》中將機器的資本主義使用視為造成工人種種悲慘境地的根源,其中也包括當(dāng)機器成為資本增值的手段時必然導(dǎo)致直接勞動者的貶值和無用等,這一視角和方法對于我們加深理解人工智能可能造成“無用階級”的問題具有重要的啟發(fā)性。

    人工智能總是被使用的手段,關(guān)鍵是被誰使用,如同機器被資本家使用時,是被置于特定的動機之下的:“像其他一切發(fā)展勞動生產(chǎn)力的方法一樣,機器是要使商品便宜,是要縮短工人為自己花費的工作日部分,以便延長他無償?shù)亟o予資本家的工作日部分。機器是生產(chǎn)剩余價值的手段?!盵6]427 “機器的發(fā)展雖然使人們能在越來越短的時間內(nèi)提供驚人地增長的產(chǎn)品,但是……作為系統(tǒng)的手段,用來在每一時刻內(nèi)榨取更多的勞動或不斷地加強對勞動力的剝削?!盵6]482機器的資本主義使用的這種目的,同理可以說明資本為什么要使用人工智能,或者說人工智能的資本主義應(yīng)用的動機決定了它的結(jié)果,就是使“活勞動”貶值,就是“隨著實物世界的漲價,人的世界也正比例地落價”[7]44。人工智能技術(shù)如果置于資本的邏輯下應(yīng)用,無疑是為了將勞動者盡可能多地清除出生產(chǎn)過程從而增加相對剩余價值的數(shù)量,此時“無用階級”越多,對資本就越有利,這實際是延續(xù)了機器使勞動力貶值的過程,而且還進一步加深這一過程直至使其貶值到趨近于零,就是所謂的“無用階級”。因此,“無用階級”應(yīng)當(dāng)是從資本的視角而非技術(shù)的視角觀察人工智能社會效應(yīng)而導(dǎo)致的現(xiàn)象。因為工人只要不被資本使用就是無用的東西,馬克思就引述了英國棉紡織業(yè)巨頭阿什沃思的話來尖銳地揭示了這一點:“當(dāng)一個農(nóng)夫放下自己的鐵鍬時,他使一筆 18便士的資本在這個時期內(nèi)變成無用的東西。當(dāng)我們的人(即工廠工人)有一個離開工廠時,他使一筆值 10萬鎊的資本變成無用的東西?!瘪R克思接著評論說,“請想一想吧!把一筆值 10萬鎊的資本變成了——即使在一瞬間——無用的東西!”[6]467這種情形和人工智能會使工人成為“無用階級”如出一轍,因為視勞動力為商品的資本視角必然這樣去看問題,也必然導(dǎo)向這樣的社會后果。

    馬克思的發(fā)現(xiàn)為我們揭示,機器的邏輯如果再疊加資本的邏輯,那么機器作為一種技術(shù)的社會效應(yīng)或人文效應(yīng)就是悲劇性的,如將工人置于無用的境地就是這種悲劇之一。這種悲劇也反映了技術(shù)(無論是機器還是人工智能)與勞動者之間的對抗關(guān)系,正如“矛盾和對抗不是從機器本身產(chǎn)生的,而是從機器的資本主義應(yīng)用產(chǎn)生的!……機器本身是人對自然力的勝利,而它的資本主義應(yīng)用使人受自然力奴役。因為機器本身增加生產(chǎn)者的財富,而它的資本主義應(yīng)用使生產(chǎn)者變成需要救濟的貧民,如此等等”[6]508?!百Y本主義生產(chǎn)方式使勞動條件和勞動產(chǎn)品具有的與工人相獨立和相異化的形態(tài),隨著機器的發(fā)展而成為完全的對立。 因此,隨著機器的出現(xiàn),才第一次發(fā)生工人對勞動資料的粗暴的反抗”[7]496,這就是“19 世紀最初 15 年,英國工場手工業(yè)區(qū)發(fā)生的對機器的大規(guī)模破壞 (特別是由于蒸汽織機的應(yīng)用) ,即所謂魯?shù)逻\動”[6]493。甚至更廣義地說,資本統(tǒng)治的社會,技術(shù)與勞動者具有天然的對抗性,以至于“可以寫出整整一部歷史,說明 1830年以來的許多發(fā)明,都只是作為資本對付工人暴動的武器而出現(xiàn)的。我們首先想到的是自動走錠紡紗機,因為它開辟了自動體系的新時代”[6]501,所以“勞動資料扼殺工人。當(dāng)然,這種直接的對立,在新采用的機器同傳統(tǒng)的手工業(yè)生產(chǎn)或工場手工業(yè)生產(chǎn)發(fā)生競爭時,表現(xiàn)得最明顯”[6]493。于是,勞動異化也隨之發(fā)生,作為機器的“鐵人反對有血有肉的人”[8]354,“科學(xué)對于勞動來說,表現(xiàn)為異己的、敵對的和統(tǒng)治的權(quán)力”[8]358。

    以此來關(guān)照人工智能時代的對抗,也主要是基于制度因素產(chǎn)生出來的,或者說都需要與特定的社會制度相結(jié)合才能成為現(xiàn)實,尤瓦爾·赫拉利自己也看到,當(dāng)“財富和權(quán)力可能會集中在擁有強大算法的極少數(shù)精英手中,造成前所未有的社會及政治不平等”[1]290,而人工智能技術(shù)如果與共產(chǎn)主義制度相結(jié)合,使其所創(chuàng)造的財富為全體社會成員所有,勞動者不再從事具有工具性質(zhì)的勞動,使用人工智能技術(shù)的目的是為全體人民服務(wù)而不是少數(shù)資本家用來為個人獲取剩余價值,那么這一先進技術(shù)在替代人的傳統(tǒng)工作后,就會把另外一些原先不屬于工作的事情重新定義為工作,包括人所從事的有利于自己身心健康的學(xué)習(xí)、娛樂和鍛煉活動,此時的人因此而獲得了自由全面發(fā)展的更多機會,就進入到前面分析的全部替代后的情形。其實對機器也可做同樣的分析,如果不是在資本主義條件下使用機器,那么如同馬克思所指出的,通過機器的采用,“使人的勞動,使力量的支出縮減到最低限度。這將有利于解放了的勞動,也是使勞動獲得解放的條件”[9]96-97。

    總之,馬克思對機器的資本主義應(yīng)用的批判視角,啟發(fā)我們今天在思考人工智能替代人的工作問題時,也必須將其置于社會使用或社會制度的背景中才能做具體判斷,而不是抽象評價;或者說,不進入制度層面,對人工智能的社會人文后果的分析也會流于表面而不得要領(lǐng)。目前還有學(xué)者從階級使命的角度批判了無產(chǎn)階級終將淪為“無用階級”的說法。[10]可以說,人工智能和機器都是對人的某種能力的延長和增強,成為人身之外的技術(shù)性存在,又和人發(fā)生特定的關(guān)系,并且在不同的制度安排下即不同的社會條件下使用,產(chǎn)生著對人的不同的人文效應(yīng),導(dǎo)向的是兩種不同的前景。假如將人工智能置于馬克思所說共產(chǎn)主義制度下使用,人工智能對人的替代所起的作用就是積極的、正面的,它不是使人失去工作,而是改變工作的性質(zhì),為人獲得自由而全面的發(fā)展提供更加有利的條件。

    五、建構(gòu)人-機友好的新社會

    從人-機關(guān)系上來看,人對智能機器人取代人而使人成為無用階級的恐懼,還源于機器中心論對人類中心論的取代,由此最后需要對人-機關(guān)系加以分析和理解。

    其實機器中心論無論如何從本體論上都是不成立的,因為機器是人造的,從本體論上是隨附于人的,機器對人的反客為主可能在局部的領(lǐng)域和特定方式(包括它的資本主義應(yīng)用)下會暫時出現(xiàn),但從其作為人造物的本體論地位來說不可能成為一種整體性的主體或中心,在人與智能機器所結(jié)成的“新聯(lián)盟”中,只有人才是其中心,而人從自己的目的和需要出發(fā),需要和機器結(jié)成和諧的關(guān)系,才能使其更好地為自己服務(wù),這就是基于人類中心論的“人-機和諧論”。

    在這種基于人類中心論的人-機和諧論看來,從沒有勞動人類就不能生存的意義上,當(dāng)人的延長部分(智能機器人)行使勞動的功能而人則行使控制這種勞動的作用時,所構(gòu)成的就是一個各司其職的人-機和諧系統(tǒng),而確保智能機器在替代人的勞作性工作的各個階段上,使人不成為“無用階級”(包括不形成“無用感”),是人與人保持和諧的重要條件。如果人與人之間因此而全面地發(fā)生摩擦和沖突,人和智能機器之間的和諧也不可能維持。人工智能發(fā)展的一個重要價值目標應(yīng)是實現(xiàn)“善智”,這也從根底上意味著它不應(yīng)該和人類在“有用性”上對峙。進一步,人工智能有多大用處還取決于人想讓它有多大用處,人還可以使智能機器的“有用性”和人的“有用性”結(jié)成正比的關(guān)系,從而進入一種動態(tài)的人-機和諧關(guān)系。因此在這里我們看到,兩種和諧(人與人的和諧以及人與機器的和諧)之間也是一種整體論、系統(tǒng)論的關(guān)系。

    在這種基于人類中心論的人-機和諧論看來,即使智能機器人可以言聽計從地服務(wù)于人、替人做一切吩咐它做的事,使人的勞作性工作可以全被智能機器人取代,人也需要更清醒地處理這一關(guān)系,尤其是為了不至喪失必要的能力,還要為自己保留若干事必躬親的工作領(lǐng)地。事實上人類已經(jīng)這樣做了,如在人工體能取代人的體能過程中,盡管一切農(nóng)活都可以實現(xiàn)機械化,但不少人還是留有小塊的花園由自己親手去澆灌,從中享受體力勞作的快樂;盡管車船可以代替人的行走,但不少人還是要以步代車,甚至每天專門抽出時間來散步健身。這些做法無疑也需要移植到人類的智能活動領(lǐng)域,相信人也必定會以更高的智商和情商來尋求如何在人工智能全盛的時代為自己的智能活動留下地盤,而不至于一切都交由機器人去代理我們。

    在這種基于人類中心論的人-機和諧論看來,人和機器之間的新分工需要根據(jù)人的特性來進行,借鑒凱文·凱利的看法,各種工作具有不同的性質(zhì),其中有一部分是講求效率的,這一部分交給人工智能更為合適,或者一些工作通過人與智能系統(tǒng)統(tǒng)一起來可以極大地提高工作效率;還有一部分工作并不總是效率至上的,比如說創(chuàng)新、科研、藝術(shù)創(chuàng)作等,這些工作則由人類來完成更合適。因此,在為人自己留地盤的選擇中,在人更擅長而又可以享受自由和快樂的領(lǐng)域中去形成人的新工作領(lǐng)域,無疑導(dǎo)向的是人和機器各取所長的新型人-機和諧關(guān)系。這也是馬克思和恩格斯所主張的觀點:當(dāng)機器承擔(dān)大量的普通體力勞動和智力勞動,人就可以贏得更多的時間和精力去從事面向未來的創(chuàng)新活動。

    這種基于人類中心論的人-機和諧還進一步擴展到技術(shù)與社會手段的聯(lián)動。由人工智能有可能造成的所謂“無用階級”問題,是作為由技術(shù)發(fā)展引起的社會問題而出現(xiàn)的,一方面要由技術(shù)的進一步發(fā)展來解決,這就是到更高階段的整體取代時的徹底解決;另一方面在過渡期還必須倚重社會手段來加以社會調(diào)節(jié),由此形成的是技術(shù)與社會合作的解決路徑,結(jié)合技術(shù)的社會建構(gòu)論視角,人工智能的技術(shù)性后果是在社會使用中形成的,不是它自己自主地展開的,所以人類使用智能技術(shù)的社會建構(gòu)工作對它是否會造就出社會學(xué)意義上“無用階級”起著重要的作用,或者說人工智能技術(shù)作為人造物和“社會建構(gòu)的產(chǎn)物”,在合理的社會使用中可以避免“無用階級”的形成及其帶來的社會問題,這無疑也是人-機和諧關(guān)系的一個重要體現(xiàn)。

    這樣,人工智能的技術(shù)有用性也是人建構(gòu)出來的,從而我們將重新定義“有用性”,重新開發(fā)“有用性”,以新的價值觀來確定人的新用處,在合理的社會制度下使用這一新技術(shù),這樣人就不至于成為“無用階級”。而當(dāng)作為科學(xué)技術(shù)最前沿的成果人工智能技術(shù)的廣泛應(yīng)用使得人類從作為工具手段的功能中充分解放出來時,人的發(fā)展也隨之進入到新的階段。

    參考文獻:

    [1]尤瓦爾·赫拉利.未來簡史[M]. 林俊宏,譯.北京:中信出版社,2017.

    [2]共中央馬克思恩格斯列寧斯大林著作編譯局.馬克思恩格斯文集:第1卷 [M].北京:人民出版社,2009.

    [3]肖峰.人工智能時代“工作”含義的哲學(xué)探析——兼論“軟工作”的意義與“工作哲學(xué)”的興起[J].中國人民大學(xué)學(xué)報,2018(5):122-129.

    [4]中共中央馬克思恩格斯列寧斯大林著作編譯局.馬克思恩格斯全集:第42卷[M].北京:人民出版社,1979.

    [5]中共中央馬克思恩格斯列寧斯大林著作編譯局.馬克思恩格斯全集:第21卷[M].北京:人民出版社,1965.

    [6]中共中央馬克思恩格斯列寧斯大林著作編譯局.馬克思恩格斯文集:第5卷[M].北京:人民出版社,2009.

    [7]馬克思.1844年經(jīng)濟學(xué)—哲學(xué)手稿[M].北京:人民出版社,1979.

    [8]中共中央馬克思恩格斯列寧斯大林著作編譯局.馬克思恩格斯文集:第8卷[M].北京:人民出版社,2009.

    [9]中共中央馬克思恩格斯列寧斯大林著作編譯局.馬克思恩格斯全集:第31卷 [M].北京:人民出版社,1998.

    [10]蔣紅群.無產(chǎn)階級會淪為無用階級嗎?[J].馬克思主義研究,2018(7):128-136.

    [責(zé)任編輯:李君安]

    Artificial Intelligence and the Problem of "Useless Class"

    Xiao Feng

    Abstract:It is the most worrying social issue that artificial intelligence(AI)has the potential to replace people's work and turn people into "useless classes". If examining this process, we can find that there are two stages. One is the replacement of some people's work by AI, and the other is the replacement of all human work. The latter is actually a new division of labor between people and smart machines, and we need to redefine "work" and "usefulness". The former, that is, the replacement of some people by AI, is a more complicated and intractable social problem. It needs to be solved through institutional adjustments, value transformation, design and developing new "soft work" and other social regulation methods. It can also rise to the analysis of social systems-just to overcome the capitalist application of AI and to socially construct the bright future of AI. As the "artificial object" and "product of social construction", AI technology can avoid the formation of "useless class" and its social problems under the rational social use. Its ontological foundation lies in the fact that human beings can dominate a "human-machine harmony" relationship based on anthropocentrism.

    Key words: Artificial Intelligence; ?Work; ?Usefulness; ?Useless Class

    猜你喜歡
    人工智能工作
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    不工作,爽飛了?
    桃之夭夭B(2017年8期)2017-10-25 14:53:20
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    下一幕,人工智能!
    我要出艙工作
    再說還有工作忙
    兒童繪本(2015年6期)2015-05-25 17:55:54
    選工作
    av在线播放免费不卡| 91av网站免费观看| 国产精品国产高清国产av | 十分钟在线观看高清视频www| 欧美日韩福利视频一区二区| 免费久久久久久久精品成人欧美视频| 成人精品一区二区免费| 女性被躁到高潮视频| av不卡在线播放| 激情在线观看视频在线高清 | 国产成人精品久久二区二区91| 天堂中文最新版在线下载| 久久久久久久久久久久大奶| 一区二区三区精品91| av片东京热男人的天堂| 亚洲欧美日韩高清在线视频| 美女国产高潮福利片在线看| 91字幕亚洲| 色老头精品视频在线观看| 亚洲三区欧美一区| 99久久99久久久精品蜜桃| 一级,二级,三级黄色视频| 搡老乐熟女国产| 亚洲中文av在线| 国产亚洲av高清不卡| √禁漫天堂资源中文www| 亚洲精品自拍成人| 美女高潮到喷水免费观看| 99精品在免费线老司机午夜| 捣出白浆h1v1| 欧美日韩瑟瑟在线播放| 亚洲精品国产色婷婷电影| 中文字幕人妻熟女乱码| 纯流量卡能插随身wifi吗| 自线自在国产av| 成年动漫av网址| 亚洲成人国产一区在线观看| 国产精品av久久久久免费| 51午夜福利影视在线观看| 最新的欧美精品一区二区| 亚洲色图 男人天堂 中文字幕| 成人国语在线视频| 亚洲欧洲精品一区二区精品久久久| 91精品国产国语对白视频| 无限看片的www在线观看| av国产精品久久久久影院| 免费看十八禁软件| 久久午夜综合久久蜜桃| 免费一级毛片在线播放高清视频 | 亚洲情色 制服丝袜| xxx96com| 一级毛片高清免费大全| 高潮久久久久久久久久久不卡| 久久精品国产综合久久久| 亚洲色图av天堂| 午夜激情av网站| 亚洲成人免费电影在线观看| 午夜视频精品福利| 成人av一区二区三区在线看| 欧美日韩精品网址| 精品国产乱子伦一区二区三区| 欧美另类亚洲清纯唯美| 精品久久久精品久久久| 婷婷精品国产亚洲av在线 | 日韩大码丰满熟妇| 精品午夜福利视频在线观看一区| 91在线观看av| 亚洲伊人色综图| 人人妻人人爽人人添夜夜欢视频| 欧美日韩成人在线一区二区| 欧美一级毛片孕妇| 王馨瑶露胸无遮挡在线观看| 一区二区三区激情视频| 啦啦啦免费观看视频1| 亚洲中文av在线| 久久精品亚洲av国产电影网| 久久久久久亚洲精品国产蜜桃av| 亚洲欧美一区二区三区久久| 午夜免费成人在线视频| 成人亚洲精品一区在线观看| 男女下面插进去视频免费观看| 在线观看免费日韩欧美大片| 成人18禁在线播放| 曰老女人黄片| 男人舔女人的私密视频| 国产主播在线观看一区二区| 丝袜人妻中文字幕| 国产男女内射视频| 欧美日韩av久久| 涩涩av久久男人的天堂| 欧美午夜高清在线| 狠狠婷婷综合久久久久久88av| 99精品久久久久人妻精品| 在线播放国产精品三级| 一本综合久久免费| 精品电影一区二区在线| 欧美日本中文国产一区发布| 在线观看午夜福利视频| 成人18禁在线播放| 欧美不卡视频在线免费观看 | 女人被狂操c到高潮| 亚洲一区二区三区不卡视频| 免费少妇av软件| 满18在线观看网站| 夜夜躁狠狠躁天天躁| 亚洲国产欧美日韩在线播放| 免费观看人在逋| 日本撒尿小便嘘嘘汇集6| 一本大道久久a久久精品| 欧美在线黄色| 亚洲国产欧美一区二区综合| 人人妻人人添人人爽欧美一区卜| 老熟妇仑乱视频hdxx| 亚洲成人国产一区在线观看| 夜夜爽天天搞| 在线播放国产精品三级| 成人特级黄色片久久久久久久| 人妻 亚洲 视频| 最近最新中文字幕大全免费视频| 国产精品免费大片| 变态另类成人亚洲欧美熟女 | 在线十欧美十亚洲十日本专区| 国产精品综合久久久久久久免费 | 欧美精品人与动牲交sv欧美| 99香蕉大伊视频| 精品一区二区三区av网在线观看| 悠悠久久av| 91成年电影在线观看| 夜夜夜夜夜久久久久| 热99国产精品久久久久久7| 日韩精品免费视频一区二区三区| 久9热在线精品视频| 91在线观看av| 18禁国产床啪视频网站| 亚洲免费av在线视频| 9热在线视频观看99| 亚洲视频免费观看视频| 老司机午夜十八禁免费视频| 国产精品1区2区在线观看. | 777米奇影视久久| 午夜91福利影院| 老熟女久久久| 亚洲精品国产精品久久久不卡| 久9热在线精品视频| 我的亚洲天堂| 动漫黄色视频在线观看| 高清视频免费观看一区二区| 18在线观看网站| 大码成人一级视频| 激情在线观看视频在线高清 | 国产麻豆69| 亚洲成人手机| 波多野结衣av一区二区av| 亚洲精品美女久久av网站| 亚洲国产欧美一区二区综合| 人人澡人人妻人| 欧美 亚洲 国产 日韩一| 精品人妻1区二区| videosex国产| 一级作爱视频免费观看| 亚洲av成人一区二区三| 亚洲少妇的诱惑av| 叶爱在线成人免费视频播放| 国产成人欧美在线观看 | 精品国产一区二区三区久久久樱花| 久久香蕉激情| 91九色精品人成在线观看| av线在线观看网站| 性色av乱码一区二区三区2| 国产精品亚洲av一区麻豆| 91在线观看av| 久久精品国产亚洲av香蕉五月 | 精品国内亚洲2022精品成人 | 91精品三级在线观看| 制服诱惑二区| 在线国产一区二区在线| 日本欧美视频一区| 又大又爽又粗| xxxhd国产人妻xxx| 国产深夜福利视频在线观看| 国产成人精品无人区| 国产亚洲欧美精品永久| 久久香蕉精品热| 国产欧美日韩一区二区三| 久久天躁狠狠躁夜夜2o2o| www.精华液| 国产精品一区二区精品视频观看| 亚洲精品一二三| 久久精品成人免费网站| 欧美精品av麻豆av| 亚洲国产欧美日韩在线播放| 十八禁网站免费在线| 制服诱惑二区| netflix在线观看网站| 久久亚洲精品不卡| 国产欧美日韩综合在线一区二区| 看片在线看免费视频| 自线自在国产av| 极品教师在线免费播放| 国产精品久久电影中文字幕 | av在线播放免费不卡| 免费人成视频x8x8入口观看| 9色porny在线观看| 亚洲精品在线观看二区| 18禁美女被吸乳视频| 777米奇影视久久| 精品福利观看| 国产一卡二卡三卡精品| 如日韩欧美国产精品一区二区三区| 国产99久久九九免费精品| 久久久久久久国产电影| 国产一区二区三区在线臀色熟女 | 免费av中文字幕在线| 老熟妇乱子伦视频在线观看| 免费少妇av软件| 亚洲欧美一区二区三区黑人| 欧美中文综合在线视频| 身体一侧抽搐| 色94色欧美一区二区| 99热网站在线观看| a级毛片黄视频| 他把我摸到了高潮在线观看| av福利片在线| 成人永久免费在线观看视频| 亚洲片人在线观看| 性色av乱码一区二区三区2| 人妻丰满熟妇av一区二区三区 | 久久久久久久午夜电影 | aaaaa片日本免费| 免费在线观看视频国产中文字幕亚洲| 久久精品国产清高在天天线| 视频区图区小说| 国产成人精品久久二区二区免费| av线在线观看网站| 亚洲国产欧美一区二区综合| 国产1区2区3区精品| 涩涩av久久男人的天堂| 中亚洲国语对白在线视频| 久久ye,这里只有精品| 精品国产亚洲在线| 大陆偷拍与自拍| 日本撒尿小便嘘嘘汇集6| av不卡在线播放| 国产精品久久久人人做人人爽| 国产成人影院久久av| 亚洲情色 制服丝袜| 亚洲av成人不卡在线观看播放网| 夜夜爽天天搞| 色播在线永久视频| 国产欧美日韩一区二区三| 亚洲人成电影免费在线| 亚洲午夜理论影院| 999久久久国产精品视频| 免费观看人在逋| 伦理电影免费视频| 亚洲伊人色综图| 99国产精品一区二区蜜桃av | 在线视频色国产色| 亚洲五月婷婷丁香| 美女福利国产在线| 国产高清激情床上av| 18禁裸乳无遮挡免费网站照片 | 正在播放国产对白刺激| 黑人巨大精品欧美一区二区蜜桃| 老鸭窝网址在线观看| 久久久久久久久免费视频了| 无遮挡黄片免费观看| 国产精品久久视频播放| netflix在线观看网站| 国产精品香港三级国产av潘金莲| a在线观看视频网站| 99国产精品99久久久久| 久久精品国产a三级三级三级| 狠狠狠狠99中文字幕| 久久ye,这里只有精品| 亚洲专区中文字幕在线| 18禁美女被吸乳视频| 国产日韩一区二区三区精品不卡| 老熟妇仑乱视频hdxx| 黄频高清免费视频| 久久人妻av系列| 国产亚洲av高清不卡| 婷婷精品国产亚洲av在线 | 黄色怎么调成土黄色| 亚洲精品国产区一区二| 18禁美女被吸乳视频| 亚洲情色 制服丝袜| 极品少妇高潮喷水抽搐| 一级,二级,三级黄色视频| 国产1区2区3区精品| 精品国产一区二区三区四区第35| 久久久国产成人免费| 99国产精品一区二区三区| 他把我摸到了高潮在线观看| 久久久精品国产亚洲av高清涩受| 老司机在亚洲福利影院| 一进一出好大好爽视频| 国产麻豆69| 一级a爱视频在线免费观看| 中文字幕人妻丝袜一区二区| 大码成人一级视频| 男人舔女人的私密视频| 久久亚洲真实| 亚洲中文日韩欧美视频| 成年动漫av网址| 亚洲人成电影免费在线| 久久久久国产精品人妻aⅴ院 | 美女扒开内裤让男人捅视频| 午夜视频精品福利| 天天操日日干夜夜撸| 精品少妇久久久久久888优播| 一边摸一边抽搐一进一小说 | 午夜精品国产一区二区电影| 满18在线观看网站| 成人影院久久| 国产精品久久久人人做人人爽| 69精品国产乱码久久久| 女性被躁到高潮视频| 人人妻人人澡人人爽人人夜夜| 精品国产乱子伦一区二区三区| 日韩精品免费视频一区二区三区| 国产激情久久老熟女| 天天躁狠狠躁夜夜躁狠狠躁| 18禁裸乳无遮挡动漫免费视频| 91字幕亚洲| 一级作爱视频免费观看| 精品电影一区二区在线| 三级毛片av免费| 久久久久久人人人人人| 欧美日韩福利视频一区二区| 91字幕亚洲| 欧美日韩福利视频一区二区| 大型黄色视频在线免费观看| 久久这里只有精品19| 每晚都被弄得嗷嗷叫到高潮| 午夜精品久久久久久毛片777| 欧美日韩黄片免| 国产黄色免费在线视频| 麻豆成人av在线观看| 亚洲av欧美aⅴ国产| 女性被躁到高潮视频| 一夜夜www| 91九色精品人成在线观看| 露出奶头的视频| 精品高清国产在线一区| 大陆偷拍与自拍| netflix在线观看网站| 午夜福利免费观看在线| 亚洲成人手机| 久久中文字幕一级| 无限看片的www在线观看| 丝袜美腿诱惑在线| 高清欧美精品videossex| 极品教师在线免费播放| 又黄又粗又硬又大视频| 国产成人精品无人区| 国产精品国产高清国产av | 又黄又爽又免费观看的视频| 天天操日日干夜夜撸| 欧美激情久久久久久爽电影 | 大陆偷拍与自拍| 91在线观看av| 一夜夜www| 超碰成人久久| 久久久久久久精品吃奶| 国产精品98久久久久久宅男小说| 99riav亚洲国产免费| 亚洲专区国产一区二区| 欧美日韩乱码在线| 曰老女人黄片| 又大又爽又粗| 一级黄色大片毛片| 一区二区三区精品91| 日韩中文字幕欧美一区二区| 亚洲熟女精品中文字幕| 老熟妇仑乱视频hdxx| 国产精品美女特级片免费视频播放器 | 久久精品91无色码中文字幕| 老熟妇乱子伦视频在线观看| 在线观看午夜福利视频| 婷婷成人精品国产| 精品熟女少妇八av免费久了| 伊人久久大香线蕉亚洲五| 午夜老司机福利片| videos熟女内射| 在线av久久热| 久久国产精品男人的天堂亚洲| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲第一av免费看| 日韩欧美在线二视频 | 啦啦啦视频在线资源免费观看| 亚洲中文av在线| 国产成人精品久久二区二区免费| 日韩欧美免费精品| 亚洲一区中文字幕在线| 精品福利永久在线观看| 中文亚洲av片在线观看爽 | 女人高潮潮喷娇喘18禁视频| 少妇的丰满在线观看| 午夜福利欧美成人| 国产精品永久免费网站| 亚洲第一青青草原| 免费一级毛片在线播放高清视频 | 日本黄色日本黄色录像| 真人做人爱边吃奶动态| 精品国产乱码久久久久久男人| 热99国产精品久久久久久7| 69av精品久久久久久| 亚洲专区国产一区二区| 男人操女人黄网站| av线在线观看网站| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品久久成人aⅴ小说| 成人18禁在线播放| 欧美日韩亚洲高清精品| 成年人免费黄色播放视频| 1024香蕉在线观看| 母亲3免费完整高清在线观看| 99久久99久久久精品蜜桃| 一a级毛片在线观看| 久久九九热精品免费| 国产精品久久久久成人av| 欧美午夜高清在线| 免费在线观看亚洲国产| 女同久久另类99精品国产91| 人人妻人人澡人人爽人人夜夜| 大片电影免费在线观看免费| 每晚都被弄得嗷嗷叫到高潮| av网站免费在线观看视频| 在线观看免费高清a一片| av天堂在线播放| 国产伦人伦偷精品视频| 丰满迷人的少妇在线观看| 欧美av亚洲av综合av国产av| 香蕉国产在线看| 欧美人与性动交α欧美软件| 亚洲精品国产精品久久久不卡| 欧美精品av麻豆av| 亚洲伊人色综图| 久久人妻熟女aⅴ| 亚洲精品久久午夜乱码| 精品亚洲成a人片在线观看| 精品免费久久久久久久清纯 | 女人高潮潮喷娇喘18禁视频| 中文欧美无线码| 国产精品1区2区在线观看. | 国产单亲对白刺激| 成人av一区二区三区在线看| 成人手机av| 又紧又爽又黄一区二区| 亚洲七黄色美女视频| 亚洲av成人一区二区三| 亚洲熟妇熟女久久| 男女高潮啪啪啪动态图| 村上凉子中文字幕在线| 欧美日韩视频精品一区| 我的亚洲天堂| 精品亚洲成国产av| 18在线观看网站| 高清欧美精品videossex| 精品人妻熟女毛片av久久网站| 女人被狂操c到高潮| 在线观看www视频免费| 在线观看午夜福利视频| 女人爽到高潮嗷嗷叫在线视频| 欧美午夜高清在线| 777米奇影视久久| 动漫黄色视频在线观看| 叶爱在线成人免费视频播放| 亚洲国产精品sss在线观看 | 可以免费在线观看a视频的电影网站| 人妻 亚洲 视频| 夜夜躁狠狠躁天天躁| 免费高清在线观看日韩| 国产精品一区二区精品视频观看| 黄片大片在线免费观看| 黑人巨大精品欧美一区二区蜜桃| 国产亚洲欧美精品永久| 亚洲久久久国产精品| 亚洲av片天天在线观看| 亚洲国产欧美一区二区综合| 国产高清视频在线播放一区| 久久精品国产99精品国产亚洲性色 | 成人18禁在线播放| 国产一区二区激情短视频| 超碰成人久久| 久久性视频一级片| 新久久久久国产一级毛片| 欧洲精品卡2卡3卡4卡5卡区| 日本黄色日本黄色录像| 久久精品亚洲熟妇少妇任你| 国产精品偷伦视频观看了| 国产精品影院久久| 男女高潮啪啪啪动态图| 国产免费现黄频在线看| 又黄又爽又免费观看的视频| 制服诱惑二区| 国产精品久久久av美女十八| 久久人妻av系列| 一个人免费在线观看的高清视频| 欧美精品亚洲一区二区| 日本一区二区免费在线视频| 免费看a级黄色片| 亚洲欧美激情综合另类| 韩国精品一区二区三区| 在线观看免费午夜福利视频| 久久婷婷成人综合色麻豆| 国产精华一区二区三区| 激情在线观看视频在线高清 | 国产99久久九九免费精品| 精品乱码久久久久久99久播| 欧美日韩亚洲国产一区二区在线观看 | 亚洲熟女毛片儿| 亚洲一码二码三码区别大吗| 成人永久免费在线观看视频| 91成年电影在线观看| 亚洲av片天天在线观看| 久久久水蜜桃国产精品网| 黄色a级毛片大全视频| 99re6热这里在线精品视频| 看免费av毛片| 一夜夜www| 欧美日韩黄片免| 久久久国产成人精品二区 | 又大又爽又粗| 极品少妇高潮喷水抽搐| 成人18禁高潮啪啪吃奶动态图| 成在线人永久免费视频| 亚洲精品成人av观看孕妇| 亚洲人成电影免费在线| 午夜福利视频在线观看免费| 国产在线精品亚洲第一网站| 国内毛片毛片毛片毛片毛片| 亚洲成人免费电影在线观看| 亚洲一区高清亚洲精品| 欧美黑人欧美精品刺激| 高清欧美精品videossex| cao死你这个sao货| 麻豆成人av在线观看| 国产精品成人在线| 999久久久精品免费观看国产| 国产精品偷伦视频观看了| 建设人人有责人人尽责人人享有的| 久久精品成人免费网站| 在线观看66精品国产| 中国美女看黄片| 午夜激情av网站| 免费看十八禁软件| 热re99久久精品国产66热6| 高清毛片免费观看视频网站 | 国产高清videossex| 久久久精品免费免费高清| av一本久久久久| 亚洲成人国产一区在线观看| 久久热在线av| 国产一区二区激情短视频| 真人做人爱边吃奶动态| 精品久久久久久久毛片微露脸| 欧美乱码精品一区二区三区| 久久人妻熟女aⅴ| 美女国产高潮福利片在线看| 精品福利永久在线观看| 麻豆乱淫一区二区| 亚洲人成电影观看| 建设人人有责人人尽责人人享有的| 高清毛片免费观看视频网站 | 热re99久久国产66热| cao死你这个sao货| 伊人久久大香线蕉亚洲五| 伦理电影免费视频| 中文字幕人妻丝袜制服| 成人av一区二区三区在线看| 午夜成年电影在线免费观看| 捣出白浆h1v1| 国产亚洲精品一区二区www | 9热在线视频观看99| 免费看十八禁软件| 国产一区二区三区视频了| 免费观看a级毛片全部| 丝瓜视频免费看黄片| 最新在线观看一区二区三区| 一a级毛片在线观看| 欧美大码av| 日韩欧美三级三区| 日日摸夜夜添夜夜添小说| 精品国产一区二区三区久久久樱花| 欧美日韩瑟瑟在线播放| 18在线观看网站| 欧美 日韩 精品 国产| av片东京热男人的天堂| 国产又色又爽无遮挡免费看| 久久午夜综合久久蜜桃| 国产精品九九99| av电影中文网址| 亚洲精华国产精华精| 黄色 视频免费看| 日本撒尿小便嘘嘘汇集6| 99re在线观看精品视频| 成人18禁高潮啪啪吃奶动态图| 成年人免费黄色播放视频| 亚洲一区二区三区不卡视频| 母亲3免费完整高清在线观看| 亚洲精品国产区一区二| 日本撒尿小便嘘嘘汇集6| 久久亚洲精品不卡| 免费观看精品视频网站| 丝袜美腿诱惑在线| 国产精品1区2区在线观看. | 真人做人爱边吃奶动态| 亚洲国产欧美一区二区综合| 男人舔女人的私密视频| 多毛熟女@视频| 国产成人精品在线电影| 成年版毛片免费区| 免费观看a级毛片全部|