• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能“機(jī)器換人”問題重構(gòu)*
    ——一種馬克思主義哲學(xué)的解釋與介入路徑

    2019-05-18 02:02:44潘恩榮
    浙江社會科學(xué) 2019年5期
    關(guān)鍵詞:機(jī)器換人換人智力

    □ 潘恩榮 阮 凡 郭 喨

    內(nèi)容提要 本文力圖在《資本論》視域中重構(gòu)人工智能技術(shù)背景下的“機(jī)器換人”問題,提出一種馬克思主義哲學(xué)解釋和介入人工智能的研究路徑。從《資本論》“勞動能力”思想角度看,機(jī)器換人爭論雙方的矛盾根源是,在“人機(jī)對立”預(yù)設(shè)下,思考機(jī)器是否以及如何單向度地替換人的勞動能力。 但是基于“人機(jī)互補(bǔ)”角度從“勞動時間”概念看,“機(jī)器換人”的實質(zhì)是“以機(jī)器運(yùn)行時間替換人類勞動時間”而非“以機(jī)器(生產(chǎn)力)替換人類本身的勞動能力”。 那么,對于人工智能技術(shù)背景下的機(jī)器換人而言,除了要批判“機(jī)器替換人本身”,更要考慮如何確?!叭恕痹诟鞣N智力勞動時間之間平滑轉(zhuǎn)換。 這為重構(gòu)“人類-人工智能機(jī)器”的關(guān)系提供一種新的思路。

    人工智能及其與人類的關(guān)系已經(jīng)成為當(dāng)代普遍關(guān)注的問題, 它也成為國內(nèi)哲學(xué)界熱烈討論的一個新熱點。 比如《哲學(xué)動態(tài)》2018年第4 期發(fā)表的趙汀陽先生《人工智能“革命”的“近憂”和“遠(yuǎn)慮”——一種倫理學(xué)和存在論的分析》和張祥龍先生《人工智能與廣義心學(xué)——深度學(xué)習(xí)和本心的時間含義的芻議》兩篇論文,就人工智能問題提出了引人深思的卓越見解。 人工智能的進(jìn)步及其結(jié)果不僅是一個尖端科技問題, 更是一個關(guān)系到人類命運(yùn)和人類社會未來建構(gòu)的深刻哲學(xué)問題。 但我們注意到, 馬克思主義哲學(xué)界目前就這一問題仍未展開充分討論。 本文嘗試從馬克思主義哲學(xué)介入人工智能問題,試圖在《資本論》視域中重構(gòu)人工智能技術(shù)背景下的“機(jī)器換人”問題,既能解釋“機(jī)器換人”爭論雙方的矛盾根源,又能為重構(gòu)“人類-人工智能機(jī)器”的關(guān)系提供一種新的思路。

    一、 關(guān)于“人機(jī)對立”預(yù)設(shè)的爭論及其實質(zhì)

    從“阿爾法狗”(AlphaGo)和“谷歌助理”(Goolge Assistant)開始,每當(dāng)人工智能技術(shù)有了明顯的進(jìn)展,輿論往往驚呼“失業(yè)潮”來了。這是因為,以“阿爾法狗”的出現(xiàn)為標(biāo)志,人工智能展現(xiàn)出革命性的自主學(xué)習(xí)能力以及相應(yīng)的“自我進(jìn)化”能力,在通過大眾傳媒引起全社會廣泛關(guān)注的同時,又一次使經(jīng)典的“機(jī)器換人”成為社會的熱點問題,人們開始擔(dān)心機(jī)器將從體力到智力全面替換人類。

    目前“機(jī)器換人”存在兩大觀點對立的陣營。樂觀派主要集中在各國政府與企業(yè)。它們認(rèn)為“機(jī)器換人”是一種不可逆的經(jīng)濟(jì)趨勢,因而積極布局搶占人工智能制高點。例如我國《新一代人工智能發(fā)展規(guī)劃》(國發(fā)〔2017〕35 號)要求舉全國之力搶占“2030年人工智能高地”,其雄心幾乎覆蓋了社會生活的方方面面。 而悲觀派主要集中在公眾和部分專家學(xué)者群體中,如霍金、馬斯克和比爾·蓋茨等。他們擔(dān)憂,長期看來人工智能技術(shù)背景下的“機(jī)器換人”將會引發(fā)嚴(yán)重的失業(yè)潮,其中孕育的巨大社會風(fēng)險可能使99%的人成為赫拉利(Yuval Noah Harari)所言的“無用階級”①。 現(xiàn)有的理論資源難以調(diào)和雙方的矛盾。 可以預(yù)見,隨著“機(jī)器換人”進(jìn)程的推進(jìn),兩大對立的陣營很快就會短兵相接,馬克思時代的問題可能再現(xiàn)。一方面經(jīng)濟(jì)蓬勃發(fā)展,另一方面不斷出現(xiàn)新盧德運(yùn)動②,甚至引爆普遍失業(yè)導(dǎo)致社會動蕩。

    人工智能、 機(jī)器人等大規(guī)模應(yīng)用的確存在引發(fā)大規(guī)模失業(yè)的風(fēng)險。 歷史上每一次技術(shù)革命或工業(yè)革命都伴隨著大規(guī)模失業(yè)和社會動蕩。18-19世紀(jì)歐洲機(jī)器大工業(yè)時期的“機(jī)器換人”主要是替換體力勞動, 但當(dāng)前人工智能背景下的“機(jī)器換人”顯然與前者有所不同,主要是機(jī)器替換人的智力勞動。(賈根良,2016)那么,對于目前中國而言,“機(jī)器換人”是人工智能機(jī)器同時替換智力和體力勞動。在替換體力勞動方面,機(jī)器換人對中國是有利的。 由于制造業(yè)面臨著結(jié)構(gòu)性的勞動力短缺和產(chǎn)品質(zhì)量不穩(wěn)定等問題,“機(jī)器換人” 成為產(chǎn)業(yè)升級和經(jīng)濟(jì)可持續(xù)發(fā)展的有力保障。 因此, 中國的“機(jī)器換人”進(jìn)程正在加速,且沒有明顯地引發(fā)群體性事件或社會問題。在替換智力勞動方面,因為當(dāng)前許多“智力型職業(yè)” 可能被人工智能機(jī)器消滅, 公眾甚至專業(yè)人士都開始擔(dān)心自己將會被人工智能機(jī)器取代。產(chǎn)業(yè)界的研究表明,人工智能技術(shù)背景下的“機(jī)器換人”已經(jīng)伸向了那些過去被認(rèn)為是難以被機(jī)器替代的“白領(lǐng)”、“智力型”崗位,如醫(yī)療健康領(lǐng)域、法律服務(wù)領(lǐng)域的機(jī)器人律師等(騰訊研究院等,2017)。

    長期來看,面對人工智能的驚艷表現(xiàn),人類的自信心可能會有所動搖。 一方面是對自身勞動能力的不信任。 人工智能在數(shù)據(jù)、計算、醫(yī)療等領(lǐng)域所展現(xiàn)出來的能力已經(jīng)遠(yuǎn)遠(yuǎn)超過了人類, 這將會導(dǎo)致一個問題:人工智能的運(yùn)算結(jié)果和人的決策相比,誰更值得信任? 現(xiàn)實是,人們已經(jīng)開始把人工智能的“運(yùn)算”結(jié)果作為判斷的依據(jù)。 在許多領(lǐng)域,人工智能的“運(yùn)算”正在成為決策形成的主要來源,而人只是作為最后象征性的敲定者。以人工智能專家系統(tǒng)在醫(yī)療領(lǐng)域的應(yīng)用為例, 智慧診療能夠根據(jù)患者的情況快速瀏覽浩瀚的醫(yī)療文獻(xiàn),從中搜尋出匹配的文獻(xiàn)資料, 并給出相應(yīng)的診斷建議。 人工智能正在以其卓越的技能獲取人類的信任、分享人類的決策權(quán)力。“在非常短的未來里,由于強(qiáng)人工智能的決策遠(yuǎn)遠(yuǎn)優(yōu)于人類, 越來越多人類放棄自主決策而完全依賴人工智能, 成為人工智能的人體 ‘人替’(Avator)”(郭喨等,2017)長此以往, 人類將會形成對人工智能的過度依賴以及對自我能力的過度忽視。 另一方面是人類對自我價值的懷疑。 人類通過勞動形成一定的社會關(guān)系,并在這種社會關(guān)系中實現(xiàn)著自我的價值、創(chuàng)造著自己觀念中的“應(yīng)然”世界。 人工智能的發(fā)展使得大部分人從勞動崗位中脫離出來, 繼而從社會總生產(chǎn)的社會關(guān)系中脫離出來, 削弱了人與社會之間的聯(lián)系, 降低了人在整個社會價值體系中的份額和權(quán)重。長此以往,人類將陷入前所未有的自我價值迷失困境。

    總的來說,此次人工智能技術(shù)背景下的“機(jī)器換人”爭論有一個基本預(yù)設(shè),即“人機(jī)對立”,集中表現(xiàn)為人工智能機(jī)器能單向度地替換人類, 且人類的優(yōu)勢越來越小。在此預(yù)設(shè)下,悲觀派及其批判性研究的聲音非常響亮、振聾發(fā)聵。 然而,單純的批判難以建設(shè)性地解釋問題并回應(yīng)當(dāng)代中國“機(jī)器換人”和產(chǎn)業(yè)升級換代的實際需求。

    現(xiàn)在的問題是, 馬克思主義哲學(xué)如何回應(yīng)人工智能技術(shù)背景下的“機(jī)器換人”問題,并提供建設(shè)性治理思路?

    國內(nèi)目前對于“機(jī)器換人”的爭論主要存在于以下三方面。首先是“失業(yè)問題”,國內(nèi)外針對簡單勞動的“機(jī)器換人”早已展開,更具技術(shù)含量的“機(jī)器換人”也正在醞釀。 其次是“階級問題”,例如赫拉利認(rèn)為, 未來極少數(shù)人掌控智能科技成為進(jìn)化的新物種,99%的人類將成為無用階級。 第三層問題是“人類命運(yùn)問題”,已經(jīng)故去的著名物理學(xué)家霍金等認(rèn)為,人工智能將奴役人類,甚至導(dǎo)致人類種族滅亡;特斯拉創(chuàng)始人埃隆·馬斯克(Elon Musk)將人工智能比作核武, 他與26 個國家的116 名專家公開呼吁采取相關(guān)的措施來制止圍繞“智能武器”而展開的軍備競賽,甚至提出“火星殖民”的應(yīng)對計劃。

    在上述三個方面,“失業(yè)問題” 是近憂,“階級問題”“人類命運(yùn)問題”是遠(yuǎn)慮?!斑h(yuǎn)慮”是目前哲學(xué)反思乃至整個人文反思和批判的熱點,③主要探討“人類-人工智能機(jī)器”之間的關(guān)系,而且是一種對立的甚至替換性的關(guān)系。 瑣碎的、實際的“失業(yè)問題”不是哲學(xué)的關(guān)注焦點,往往被看作是經(jīng)濟(jì)學(xué)問題。 盡管人無遠(yuǎn)慮必有近憂, 但是我們認(rèn)為如果“近憂”能夠恰當(dāng)?shù)亟鉀Q,“遠(yuǎn)慮”就不一定會出現(xiàn)。因此,我們引入馬克思主義哲學(xué),按照《資本論》的研究路徑在經(jīng)濟(jì)學(xué)基礎(chǔ)上進(jìn)行哲學(xué)反思和批判,即從近憂“失業(yè)問題”切入,通過解釋和重構(gòu)“機(jī)器換人”問題探尋影響“階級問題”“人類命運(yùn)問題”的可能性。

    與一般哲學(xué)反思人工智能的方式不同, 馬克思主義哲學(xué)更多聚焦于“人與人”而非“人機(jī)”關(guān)系,其“階級問題”也是人與人之間的階級關(guān)系,而非人機(jī)之間的階級關(guān)系。我們認(rèn)為,這是一個根本性的因素, 造成馬克思主義哲學(xué)在人工智能及其與人類關(guān)系問題上介入較少。幸運(yùn)的是,《資本論》(第一卷) 詳細(xì)地討論了機(jī)器替換人的體力勞動。另一方面,《資本論》 對待新技術(shù)和新機(jī)器的態(tài)度是既有批判性又有建設(shè)性。 馬克思強(qiáng)調(diào)“1830年以來的技術(shù)發(fā)明都只是鎮(zhèn)壓工人反抗的武器”(《馬克思恩格斯全集》第44 卷,2001,第501 頁;以下同文獻(xiàn)引用只注頁碼), 這是他的批判態(tài)度。但是,《資本論》 主要研究英國工業(yè)革命完成后的經(jīng)濟(jì)和社會問題(第8 頁),研究范圍集中在1735年到1830年之間英國的工業(yè)化過程,這期間的新技術(shù)和新機(jī)器具有發(fā)展生產(chǎn)力的建設(shè)性作用。④因此,回到《資本論》視域中探討人工智能技術(shù)背景下的“機(jī)器換人”問題,既保持批判性又有更多的建設(shè)性。

    二、勞動能力理論:馬克思《資本論》視域中的機(jī)器換人問題

    馬克思認(rèn)為,人的“勞動力”或“勞動能力”是人在勞動過程中運(yùn)用的“體力(Physischen)和智力(Geistigen)的總和”(第195 頁)。 在工場手工業(yè)時期以前,勞動者獨(dú)立完成勞動,這是一種同時包含體力和智力的勞動。隨之而來的分工,使得勞動者的勞動分化為體力和智力兩大等級, 即一部分人專門從事體力勞動, 另一部分人則專門從事智力勞動。體力勞動方面,分工把人的勞動力發(fā)展成單調(diào)的機(jī)械的肌肉力, 使人的智力成為不被需要乃至礙事的多余物, 因為“思索和想象會產(chǎn)生錯誤……在最少用腦筋的地方, 工場手工業(yè)也就最繁榮”(第418 頁)。

    智能勞動方面,分工使得智力勞動轉(zhuǎn)化為資本支配體力勞動的權(quán)力(第487 頁)。首先,智力勞動的人成為“特殊對象”。 馬克思在分析為數(shù)不多的擁有知識和手藝的高級工人時指出,“他們不屬于工廠工人的范圍,而只是同工廠工人聚集在一起”(第484 頁), 因此這些高級工人也就沒有在這一輪里被“機(jī)器換人”給換掉。 另外,傳統(tǒng)的技藝工人、有科學(xué)知識的工人,也不屬于“機(jī)器換人”的工廠工人范圍。 其次,“物質(zhì)生產(chǎn)過程的智力作為他人的財產(chǎn)和統(tǒng)治工人的力量同工人相對立”(第418 頁)。 由于大規(guī)模協(xié)作的發(fā)展,產(chǎn)生了對監(jiān)督等非生產(chǎn)性職能的需求。 資本家把監(jiān)督職能交給特種的雇傭工人,自己則作為“司令官”般的存在,掌握工業(yè)上最高的權(quán)力?!肮I(yè)上的最高權(quán)力成了資本的屬性,正像在封建時代,戰(zhàn)爭中和法庭裁判中的最高權(quán)力是地產(chǎn)的屬性一樣”(第386 頁)。智力勞動控制體力勞動的原理與機(jī)器控制體力勞動的一樣,但機(jī)制不同。在工業(yè)革命后建立了機(jī)器大工業(yè), 新產(chǎn)生了少量擁有科學(xué)知識或手藝的勞動者,如工程師、機(jī)械師和木工等(第484 頁)。 他們不屬于“機(jī)器換人”的工廠工人范圍,但是被資本收編作為支配體力勞動者的力量, 因為他們負(fù)責(zé)檢查和修理機(jī)器, 而機(jī)器是保持對體力勞動者壓力的重要手段。

    最關(guān)鍵的是,分工導(dǎo)致機(jī)器產(chǎn)生,后者開始全面地替換人的體力勞動(第426 頁)。微觀上,機(jī)器是按照人的意圖來替代熟練男性工人(Man)體力勞動的產(chǎn)物。 工場手工業(yè)協(xié)作和分工通過群體性勞動使得手工業(yè)的“秘訣”,分解成為簡單的、無需腦力的動作,⑤再專門化為勞動工具,形成局部工人(第421 頁)。 最后,連局部工人也被繼續(xù)分解,專門化為勞動工具后再集成為機(jī)器。因此,隨著生產(chǎn)對男性工人的體力勞動的熟練度的要求降低,工人的價值也不斷降低(第425 頁),工場開始傾向于使用兒童或女性工人替換熟練的男性工人。宏觀上,經(jīng)歷了工業(yè)革命之后,機(jī)器幾乎將從事體力勞動的人類(MAN)全部替換。 微觀上的“機(jī)器換人”就是用工具機(jī)替換熟練工人,馬克思認(rèn)為這是工業(yè)革命的起點, 也是手工業(yè)或工場手工業(yè)生產(chǎn)過渡到機(jī)器生產(chǎn)的起點(第430 頁),因為工具機(jī)能抓住勞動對象,并按照一定的目的來改變它。經(jīng)歷工業(yè)革命后建立的機(jī)器大工業(yè), 最終只留下極少部分體力勞動者,他們圍繞著機(jī)器而存在,從事著操作機(jī)器或者給這些“機(jī)器工人”做單純打下手的工作。 (第484 頁)

    從馬克思的勞動能力思想角度看, 機(jī)器大工業(yè)技術(shù)背景下的“機(jī)器換人” 具有以下特征。 在“質(zhì)”上,機(jī)器大工業(yè)用低質(zhì)量的勞動者替換高質(zhì)量的勞動者, 肌肉不再成為衡量勞動者勞動能力高低的標(biāo)準(zhǔn)。馬克思把勞動力分為不同的等級,不同等級的勞動力的酬勞是不等價的。 以兒童和成年男子(Man)的時間為例,1864年兒童的周工資是2 先令6 便士(第457 頁),1863年剛經(jīng)歷了棉慌的織布和紡紗工人周工資是3 先令4 便士、3 先令10 便士、4 先令6 便士、5 先令1 便士等 (第525 頁),資本家更樂于使用時間更廉價的兒童工人、少年工人(18 歲以下)和婦女。 在“量”上,機(jī)器大工業(yè)在量上實現(xiàn)由少量勞動者替代大量勞動者工作。 機(jī)器大工業(yè)時期是把機(jī)器當(dāng)作生產(chǎn)資料,“成了工人本身的競爭者”(第495 頁)。 機(jī)器大工業(yè)通過技術(shù)的改良,在保證產(chǎn)量和質(zhì)量的前提下,極大的節(jié)省了勞動力,同時,隱性地減少了新增的就業(yè)崗位。例如,采用新機(jī)器的工廠在進(jìn)行同樣規(guī)模的生產(chǎn)活動時只雇傭30 人便可以完成全部工作,而如果是采用舊機(jī)器則需要100 位勞動工人,那么這70 個工作崗位就是被新機(jī)器替換掉了。

    被替換出去的勞動者集中為產(chǎn)業(yè)后備軍,他們絕對服從于資本, 為資本的增值提供隨時可被剝削的人身材料(第729 頁)。 產(chǎn)業(yè)后備軍主要來自兩個方面。 一個是資本有機(jī)構(gòu)成的提高把成年工人排擠出原有的工作崗位; 另一個是被解雇的成年了的兒童勞動力。 機(jī)器大工業(yè)對兒童勞動力的需求使他們從小便在工廠中從事一些毫無技術(shù)含量的工作,一旦這些兒童達(dá)到成年的年紀(jì),自身的廉價優(yōu)勢喪失的時候,就會被資本家解雇,成為社會上沒有勞動技能的剩余勞動力。

    機(jī)器大工業(yè)主要在新的體力勞動領(lǐng)域和智力勞動領(lǐng)域分層吸納被機(jī)器替換的勞動者。 新的體力勞動領(lǐng)域有兩種情況(第509-510 頁)。 一種是機(jī)器提高了工作效率,也增加了原料的消耗量,于是提供生產(chǎn)資料的就業(yè)工人也會隨之增加; 另一種是擴(kuò)大再生產(chǎn)創(chuàng)造了就業(yè)崗位的絕對增加。 雖然在同一個生產(chǎn)部門中工人被機(jī)器排擠出來,可是機(jī)器大工業(yè)也創(chuàng)造了巨大的市場, 使得社會上的工廠數(shù)量增加,對工人的需求隨之增加。新的智力勞動領(lǐng)域也有兩種情況。一種是新型工人,如工程師、機(jī)械師和木工等(第484 頁);另一種是,非生產(chǎn)性的勞動部門的雇傭, 比如作為現(xiàn)代家庭奴隸的“仆役階級”:仆人、使女、侍從,等等(第513頁)。

    綜上所述, 在馬克思勞動能力視域中,“機(jī)器換人”主要是機(jī)器替換“人本身”的體力勞動能力,無論是具體的成年男子(Man)還是一般意義的人類(MAN)。 大工業(yè)機(jī)器主要是模擬強(qiáng)壯的肌肉,人工智能機(jī)器則模擬人類智力。因此,在人工智能技術(shù)背景下,機(jī)器換的是人的智力勞動能力。 然而,兩方面結(jié)合起來,機(jī)器幾乎把整個“人”都要替換掉,這不僅僅引發(fā)失業(yè)擔(dān)憂,甚至引發(fā)階級奴役擔(dān)憂和人類命運(yùn)擔(dān)憂。

    三、從“人機(jī)對立”到“人機(jī)互補(bǔ)”

    打開“黑箱”⑥是從批判研究走向建設(shè)性研究的重要途徑。在大工業(yè)機(jī)器替換人的體力勞動時,智力勞動作為一個黑箱存在。然而,在人工智能機(jī)器替換人的智力勞動時, 智力勞動不能再被視為一個黑箱。否則,我們?nèi)菀渍`以為人工智能機(jī)器將整體替換人的智力勞動, 也即機(jī)器將人“徹底替換”。

    為了回應(yīng)人工智能及其引發(fā)的三大擔(dān)憂,我們需要首先將“智力勞動”的黑箱打開,看看人工智能如何替換人的智力勞動。在馬克思眼里,智力勞動其實還可以細(xì)分為“動物式的本能的勞動能力”和“專屬于人的勞動能力”。 馬克思指出,蜜蜂建造蜂巢的勞動形式是一種動物本能(第208頁)。專屬于人的勞動形式有三種。 第一種是有目的的控制能力, 勞動過程中勞動者控制著智力勞動:“使自身的自然中蘊(yùn)藏著的潛力發(fā)揮出來,并且使這種力的活動受他自己控制”。 第二種是想象能力,“勞動過程結(jié)束時得到的結(jié)果, 在這個過程開始時就已經(jīng)在勞動者的表象中存在著, 即已經(jīng)觀念地存在著”,“表象中” 在德文版中用的是der Vorstellung,意指“在構(gòu)思、想象中”。第三種是創(chuàng)造能力,勞動者“不僅使自然物發(fā)生形式變化,同時他還在自然物中實現(xiàn)自己的目的”。

    現(xiàn)在的問題是, 引發(fā)人們擔(dān)憂的人工智能機(jī)器究竟能替換人的哪些智力勞動能力?目前來看,人工智能主要體現(xiàn)三種“智力”能力:重復(fù)性運(yùn)算能力、大數(shù)據(jù)統(tǒng)計學(xué)習(xí)能力和知識存儲能力。⑦從馬克思的勞動能力思想來看, 上述人工智能三種智力能力沒有一樣是專屬于人的勞動能力。反而,它們更接近于動物式的本能勞動能力。⑧所以,除非人工智能發(fā)展出專屬于人的智力勞動能力——控制能力、 想象能力和創(chuàng)造能力——我們就暫時無需過于擔(dān)憂人工智能可能引發(fā)的各種問題,見圖1。 然而,目前在人工智能技術(shù)背景下的“機(jī)器換人”爭論中,悲觀派的聲音更加響亮。

    圖1 人類勞動能力與機(jī)器生產(chǎn)能力的關(guān)系

    我們認(rèn)為, 人們之所以對人工智能可能引發(fā)的后果充滿憂慮, 不是因為人工智能技術(shù)及其機(jī)器已經(jīng)能夠全面替換人的勞動能力, 而是爭論雙方在思考“機(jī)器換人”問題時預(yù)設(shè)了“人機(jī)對立”——這來自馬克思等學(xué)者的經(jīng)典論述, 以及歷史呈現(xiàn)出來的圖景。

    在“人機(jī)對立”預(yù)設(shè)下,“機(jī)器換人”就是“機(jī)器替換人類(MAN)本身的勞動能力”。 當(dāng)然會直接引起人們本能的警覺和排斥。 因此,如果不突破“人機(jī)對立”理論預(yù)設(shè),隨著人工智能的發(fā)展,人們將對“機(jī)器換人”越來越擔(dān)憂、恐懼,甚至引發(fā)社會動蕩,造成不可預(yù)想的嚴(yán)重后果。突破“人機(jī)對立”框架的契機(jī)可以回到《資本論》中尋找。 馬克思在討論“相對剩余價值”時,涉及到“機(jī)器換人”問題。當(dāng)《工廠法》 規(guī)定工人的最長勞動時間不能超過12小時后, 資本家不能通過延長絕對勞動時間獲取更多剩余價值, 于是采取另外一種方式——相對剩余價值生產(chǎn)。 通過工具、機(jī)器等改進(jìn)提高效率,縮短工人為自身存在所需的必要勞動時間; 相對地, 資本家可以無償占有的工人勞動成果的時間增加了。因此,研究“機(jī)器換人”問題可以借鑒絕對勞動時間和相對勞動時間概念。

    從勞動時間角度看,我們認(rèn)為,“機(jī)器換人”的實質(zhì)是“以機(jī)器(運(yùn)行時間)替換人類勞動時間”而非“以機(jī)器(生產(chǎn)能力)替換人類本身的勞動能力”。那么,“勞動時間”是“人類(MAN)施行勞動能力的時間”,馬克思的勞動能力思想可以具體化為勞動時間思想。

    在勞動時間視域中, 機(jī)器大工業(yè)技術(shù)背景下“機(jī)器換人”的結(jié)果并沒有實質(zhì)性的改變。 假設(shè)工人每天工作12 小時,在分工體系中體力勞動時間為8 小時,智力勞動時間為4 小時。當(dāng)機(jī)器替換了體力勞動時間之后,多余出來的8 小時時間,部分轉(zhuǎn)換為如仆人、使女、侍從等智力勞動時間,另外部分轉(zhuǎn)移到擴(kuò)大再生產(chǎn)所需的體力勞動時間。 但是,在馬克思的時代,隨著工業(yè)化不斷深入最后達(dá)到工業(yè)革命的高度, 社會上擴(kuò)大再生產(chǎn)所需的體力勞動時間越來越少, 而智力勞動時間的需求并沒有明顯提高,于是,社會層面就會出現(xiàn)規(guī)模性的失業(yè)現(xiàn)象,形成產(chǎn)業(yè)后備軍。

    但是,人工智能技術(shù)背景下“機(jī)器換人”的結(jié)果將發(fā)生細(xì)微而又本質(zhì)不同的變化。從過程來看,人工智能機(jī)器對智力勞動的替換過程與大工業(yè)機(jī)器對體力勞動的替換過程類似, 將人從原有的領(lǐng)域中替換出來,再把他們引導(dǎo)到新的工作領(lǐng)域。然而,從結(jié)果來看,人工智能機(jī)器是在智力勞動時間范圍內(nèi)替換人的勞動時間;大工業(yè)“機(jī)器換人”與之不同, 是在體力勞動時間和智力勞動時間之間替換人的勞動時間, 將人的體力勞動時間替換為智力勞動時間。

    如前所述, 目前人工智能機(jī)器未能替代任何一樣專屬于人的勞動能力。因此,在勞動時間思想框架中, 人工智能機(jī)器目前的替換目標(biāo)是涉及重復(fù)性運(yùn)算能力、 大數(shù)據(jù)統(tǒng)計學(xué)習(xí)能力和知識存儲能力的“智力型職業(yè)”人員。 下一步可能的替換目標(biāo)是人的動物式的本能勞動時間,例如,類似馬克思眼中“仆役階級”的服務(wù)機(jī)器人。遠(yuǎn)期來看,除非人工智能發(fā)展出類似專屬于人的勞動能力, 人們無需過于擔(dān)憂人工智能及其機(jī)器, 人本身不會被機(jī)器替換, 也不會像機(jī)器大工業(yè)時期一樣被動進(jìn)入當(dāng)代的產(chǎn)業(yè)后備軍。 因此,“機(jī)器換人” 仍在繼續(xù), 但人們將更多地?fù)碛袑儆谌说膭趧訒r間——盡管這是有前置條件的。

    四、開啟“人工智能馬克思主義”新研究領(lǐng)域

    從勞動時間角度探討“機(jī)器換人”問題,實質(zhì)是探討如何通過調(diào)整人(Man)的各種勞動時間的比例適應(yīng)技術(shù)發(fā)展,而非探討機(jī)器如何替換、拋棄人類(MAN)本身。 這是從“人機(jī)對立替換”到“人機(jī)互補(bǔ)替換”的視角轉(zhuǎn)換。 對于當(dāng)代中國的“機(jī)器換人”和經(jīng)濟(jì)升級換代的強(qiáng)烈需求,新思路既能說明“機(jī)器換人”帶來的勞動時間變更效應(yīng),也能提供建設(shè)性的治理思路。首先,這可避免人們本能地對人工智能及其機(jī)器產(chǎn)生抵觸與恐懼的負(fù)面情緒。其次, 這能夠更加客觀地呈現(xiàn)人工智能技術(shù)對社會和公眾的各種效用, 無論正面作用還是負(fù)面作用, 使人能夠更加理性地看待人工智能技術(shù)及其機(jī)器可能引發(fā)的問題。最后,這給人們留下一定的時間和空間,可以通過勞動時間的轉(zhuǎn)變,重構(gòu)“人機(jī)關(guān)系”來治理相應(yīng)的社會問題。

    前面提到,人的勞動時間轉(zhuǎn)變是有條件的。如果在“機(jī)器換人”期間,人的勞動時間不能正常轉(zhuǎn)變,那就容易引爆失業(yè)潮、導(dǎo)致盧德運(yùn)動,甚至引發(fā)階級問題和人類命運(yùn)問題。 典型的例子就是18世紀(jì)英國和19 世紀(jì)歐洲大陸工業(yè)化過程中的各種盧德運(yùn)動、工人運(yùn)動、階級斗爭和社會動蕩。 馬克思恩格斯認(rèn)為資本主義制度是根源所在, 甚至提出以共產(chǎn)主義社會替換資本主義社會的方案解決“機(jī)器換人”引發(fā)的社會問題。

    對于人工智能技術(shù)背景下的 “機(jī)器換人”而言,除了要批判“機(jī)器替換人本身”,重點在于,如何確?!叭恕?Man)在各種智力勞動時間之間平滑轉(zhuǎn)換。 對未來中國人工智能戰(zhàn)略和以“機(jī)器換人”為基礎(chǔ)的產(chǎn)業(yè)政策而言, 這是一種可行的治理思路,可以從技術(shù)和制度兩個方面尋求保障。從技術(shù)方面來看, 當(dāng)人工智能尚不能全面超越人的能力時,人們才有一定的時間轉(zhuǎn)變自己的勞動時間。技術(shù)是可以直接沖擊人本身的, 如果技術(shù)方面的發(fā)展超越人的能力太快, 人們沒有足夠的時間緩沖和適應(yīng)技術(shù)及機(jī)器的沖擊, 容易引發(fā)類似砸機(jī)器的盧德運(yùn)動。從制度方面來看,當(dāng)社會制度能夠提供足夠的基本保障時, 人們才有一定的空間平穩(wěn)地完成轉(zhuǎn)換勞動時間的過程。也就是說,制度通過提供一定的迂回空間避免技術(shù)直接沖擊人本身。否則, 人們沒有足夠的空間從一種勞動時間轉(zhuǎn)換到另一種勞動時間,人本身不得不直面技術(shù)本身,容易引爆失業(yè)問題導(dǎo)致社會問題。

    從前文論述中,我們可以發(fā)現(xiàn),人工智能及其與人類的關(guān)系并沒有什么神秘性,其“門檻”并沒有高到將馬克思主義哲學(xué)擋在門外的程度。 我們認(rèn)為, 人工智能機(jī)器首先表現(xiàn)為一種技術(shù)產(chǎn)品(Technical Artifact),那么,馬克思早期的批判理論足以完全地批判人工智能機(jī)器大規(guī)模應(yīng)用可能帶來的近憂“失業(yè)問題”。其次,馬克思在《資本論》第一卷中詳細(xì)地討論了技術(shù)起源與演化的過程,那么, 馬克思主義哲學(xué)就可以進(jìn)入人工智能機(jī)器設(shè)計和制造的黑箱中,也將可以介入和重構(gòu)“人類-人工智能機(jī)器”的關(guān)系,從而影響遠(yuǎn)慮“階級問題”“人類命運(yùn)問題”。

    由于“歷史經(jīng)驗”和批判思維的慣性,也由于人工智能專家與公眾之間的知識鴻溝、 大眾傳媒的推波助瀾, 導(dǎo)致人工智能技術(shù)背景下“機(jī)器換人”成了婦孺皆知的“狼來了”故事。人們卻沒有意識到,從勞動時間視角看,“機(jī)器換人”實質(zhì)是“以機(jī)器(運(yùn)行時間)替換人類勞動時間”而非以“機(jī)器(生產(chǎn)能力)替換人類本身的勞動能力”。通過制度重構(gòu), 我們可以擁抱而不是像盧德分子一樣打砸人工智能機(jī)器, 后者正在賦予人類前所未有的能力,我們?nèi)祟悓⒃凇皩儆谌说膭趧訒r間”里獲得前所未有的新發(fā)展, 無限接近理想的共產(chǎn)主義生活方式。 當(dāng)“失業(yè)問題”得到恰當(dāng)解決時,遠(yuǎn)慮的“階級問題”“人類命運(yùn)問題”將不再那么壓抑。 這是開啟“人工智能馬克思主義”新研究領(lǐng)域的一種嘗試,聚焦點從“人與人”關(guān)系拓展到“人與機(jī)”關(guān)系。

    注釋:

    ①2017年7月6日,中信出版集團(tuán)和百分點集團(tuán)聯(lián)合舉辦了XWorld 大會,《人類簡史》《未來簡史》作者尤瓦爾·赫拉利發(fā)表演講時認(rèn)為,99%的人在人工智能時代將成為無用階級, 而剩余的1%掌握人工智能的人將成為人類進(jìn)化新物種。

    ②盧德運(yùn)動指的是英國工業(yè)革命期間發(fā)生工人搗毀機(jī)器等一系列事件。 盧德運(yùn)動、盧德分子都被認(rèn)為是反對新技術(shù)的概念。

    ③相關(guān)研究參見趙汀陽:《人工智能“革命”的“近憂”和 “遠(yuǎn)慮”——一種倫理學(xué)和存在論的分析》,《哲學(xué)動態(tài)》2018年第4 期, 第5~12 頁; 張祥龍:《人工智能與廣義心學(xué)——深度學(xué)習(xí)和本心的時間含義的芻議》,《哲學(xué)動態(tài)》2018年第4 期,第13~22 頁;孫周興:《人文科學(xué)如何面對人工智能時代?》,《哲學(xué)分析》2018年第2 期,第35~41 頁;孫偉平:《關(guān)于人工智能的價值反思》,《哲學(xué)研究》2017年第10 期, 第120~126 頁;金觀濤:《反思“人工智能革命”》,《文化縱橫》2017年第4 期,第20~29 頁;等等。

    ④馬克思認(rèn)為英國工業(yè)革命起始于1735年淮亞特發(fā)明的新紡紗機(jī),參見參考文獻(xiàn)4 第428 頁。 根據(jù)馬克思關(guān)于1830年的判斷, 可以判斷馬克思眼中英國工業(yè)革命到1830年為止。 這與西方一般認(rèn)為英國工業(yè)革命從18 世紀(jì)50年代到19 世紀(jì)50年代的觀點相近,但實質(zhì)不同。 相關(guān)討論可參見潘恩榮:《〈資本論〉及其手稿中“創(chuàng)新驅(qū)動發(fā)展思想”哲學(xué)研究述評》,《自然辯證法研究》,2015年第8 期,第41~46 頁;另參見潘恩榮:《創(chuàng)新驅(qū)動發(fā)展與資本邏輯》,杭州:浙江大學(xué)出版社,第4、91~94 頁。

    ⑤更多關(guān)于手工業(yè)技藝“秘訣”破解的討論,參見潘恩榮:《〈資本論〉及其手稿中“創(chuàng)新驅(qū)動發(fā)展”機(jī)制的動力建構(gòu)——基于現(xiàn)代技術(shù)哲學(xué)經(jīng)驗轉(zhuǎn)向的視角》,《長沙理工大學(xué)學(xué)報(社會科學(xué)版)》2015年第4 期,45~52。 另參見潘恩榮:《創(chuàng)新驅(qū)動發(fā)展與資本邏輯》,杭州:浙江大學(xué)出版社,第125~140 頁。

    ⑥通過打開技術(shù)黑箱,技術(shù)哲學(xué)從“社會批判主義”實現(xiàn)“經(jīng)驗轉(zhuǎn)向”,開啟了現(xiàn)代技術(shù)哲學(xué)研究新圖景。 更多關(guān)于技術(shù)黑箱的討論,參見潘恩榮:《〈資本論〉研究需要引入“技術(shù)邏輯”》,《哲學(xué)研究》,2015(9):103-107.另參見:潘恩榮:《創(chuàng)新驅(qū)動發(fā)展與資本邏輯》,杭州:浙江大學(xué)出版社,第97~114 頁。

    ⑦我們對此應(yīng)該保持必要的謙遜,因為這一論斷有可能被局部突破。 因此,我們這里所談?wù)摰摹叭斯ぶ悄堋毕抻跇I(yè)界對人工智能的主流界定, 即算法層面的機(jī)器學(xué)習(xí)、深度學(xué)習(xí),技術(shù)方向的自然語言處理、語音處理、計算機(jī)視覺、規(guī)劃決策系統(tǒng)、大數(shù)據(jù)和經(jīng)典的統(tǒng)計分析。

    ⑧在“智力勞動能力-體力勞動能力”框架中,當(dāng)人工智能顯示出來的智力能力不屬于專屬于人的智力勞動能力時,那么唯一的可能是接近動物式的本能勞動能力。 本研究只在“智力勞動能力-體力勞動能力”框架范圍使用這樣的結(jié)論。 至于這個結(jié)論是否在通常情況下成立,需要結(jié)合人工智能和認(rèn)知科學(xué)理論進(jìn)一步論證。 對人而言,“本能”是肢體協(xié)調(diào)運(yùn)動、常識及其運(yùn)用等能力。 這將涉及兩個方面。 一方面,人工智能和機(jī)器人領(lǐng)域,實現(xiàn)四肢行走或雙腿直立行走的技術(shù)突破主要是接近動物式的本能。 例如,2018年5月9日《自然》雜志發(fā)表的DeepMind 公司文章表明, 人工智能能夠達(dá)到具有類似哺乳動物導(dǎo)航能力的水平, 甚至更高。 參見:Banino, A., et al., Vector-based navigation using grid-like representations in artificial agents.Nature, 2018.另一方面,莫拉維克悖論(Moravec's Paradox)表明,機(jī)器在智力測試或玩跳棋方面達(dá)到成人水平是相對容易的,但機(jī)器在感知和機(jī)動性方面達(dá)到一歲嬰兒的水平卻是困難的、 甚至是不可能的。 參見Moravec, Hans (1988),Mind children : the future of robot and human intelligence,Cambridge, Massachusetts: Harvard University Press。 但這已經(jīng)超出本文討論,所以暫不做論證。

    猜你喜歡
    機(jī)器換人換人智力
    梅鋼公司“機(jī)械化換人 自動化減人”提升本質(zhì)安全水平
    智力闖關(guān)
    智力闖關(guān)
    中國制造業(yè)基于成本控制的“機(jī)器換人”問題研究
    新華網(wǎng):杭州未來5年推3000個“機(jī)器換人”項目
    杭州(2015年9期)2015-12-21 02:51:52
    歡樂智力谷
    成年免费大片在线观看| 91久久精品国产一区二区成人| 亚洲综合色惰| 在线观看一区二区三区| 这个男人来自地球电影免费观看 | 十分钟在线观看高清视频www | 两个人的视频大全免费| 久久国产精品大桥未久av | 亚洲欧美精品自产自拍| 国产白丝娇喘喷水9色精品| 色网站视频免费| 欧美激情国产日韩精品一区| 亚洲色图av天堂| 九九在线视频观看精品| 免费av不卡在线播放| 成人免费观看视频高清| 国产有黄有色有爽视频| 亚洲电影在线观看av| 国产精品国产三级专区第一集| 中文字幕av成人在线电影| 日韩av在线免费看完整版不卡| 亚洲精品视频女| 亚洲美女黄色视频免费看| 欧美日韩视频精品一区| 观看av在线不卡| 亚洲综合色惰| 国产精品免费大片| 黑人猛操日本美女一级片| 久久久久久久精品精品| 嫩草影院入口| 老司机影院成人| 韩国av在线不卡| 欧美 日韩 精品 国产| 久久久久久久久久久丰满| 联通29元200g的流量卡| 精品少妇黑人巨大在线播放| 色网站视频免费| 免费人妻精品一区二区三区视频| 亚洲国产精品专区欧美| 日韩三级伦理在线观看| 欧美国产精品一级二级三级 | 六月丁香七月| av不卡在线播放| 少妇熟女欧美另类| 国产爽快片一区二区三区| 黄色欧美视频在线观看| 伦精品一区二区三区| 日本-黄色视频高清免费观看| 在线观看av片永久免费下载| 在线观看免费日韩欧美大片 | 18+在线观看网站| 一个人看视频在线观看www免费| 欧美极品一区二区三区四区| 丝袜喷水一区| 国产精品人妻久久久久久| 内射极品少妇av片p| 熟女电影av网| 只有这里有精品99| 精品久久久久久电影网| 亚洲三级黄色毛片| tube8黄色片| 18+在线观看网站| 久久久久久久久久久丰满| 伦理电影免费视频| 欧美日韩视频高清一区二区三区二| 大香蕉久久网| 少妇精品久久久久久久| 干丝袜人妻中文字幕| 亚洲av在线观看美女高潮| 国产又色又爽无遮挡免| 高清午夜精品一区二区三区| 日韩制服骚丝袜av| 国模一区二区三区四区视频| 夜夜骑夜夜射夜夜干| 91精品国产九色| 久久亚洲国产成人精品v| 成人毛片a级毛片在线播放| 久久久成人免费电影| 国产黄片视频在线免费观看| 蜜桃久久精品国产亚洲av| 免费看不卡的av| 国产精品久久久久久久电影| 国产亚洲91精品色在线| 麻豆成人午夜福利视频| 成人午夜精彩视频在线观看| 免费人妻精品一区二区三区视频| 91久久精品国产一区二区三区| 日本欧美国产在线视频| a级一级毛片免费在线观看| 国产女主播在线喷水免费视频网站| 欧美成人精品欧美一级黄| 51国产日韩欧美| 国产精品99久久99久久久不卡 | 久久久久久久精品精品| 国产精品久久久久久精品古装| 欧美日本视频| 久久精品国产自在天天线| 嫩草影院新地址| 妹子高潮喷水视频| 看免费成人av毛片| 国产一区二区在线观看日韩| 好男人视频免费观看在线| 99热这里只有精品一区| 国产av码专区亚洲av| 美女国产视频在线观看| 一本一本综合久久| 少妇的逼水好多| 日韩av在线免费看完整版不卡| 麻豆国产97在线/欧美| 亚洲国产精品成人久久小说| 国产精品福利在线免费观看| 麻豆国产97在线/欧美| 水蜜桃什么品种好| 国产毛片在线视频| 99热国产这里只有精品6| 校园人妻丝袜中文字幕| 伊人久久国产一区二区| 亚洲av欧美aⅴ国产| 国产精品三级大全| 欧美3d第一页| 亚洲经典国产精华液单| av又黄又爽大尺度在线免费看| 亚洲四区av| 成人综合一区亚洲| 汤姆久久久久久久影院中文字幕| 一区二区三区四区激情视频| av卡一久久| 久久精品久久精品一区二区三区| 色视频www国产| 99国产精品免费福利视频| 少妇人妻一区二区三区视频| 欧美成人a在线观看| 99久久人妻综合| 一级毛片黄色毛片免费观看视频| 一级片'在线观看视频| 人妻少妇偷人精品九色| 内射极品少妇av片p| 国产亚洲欧美精品永久| 亚洲av免费高清在线观看| 精品视频人人做人人爽| 欧美日韩视频精品一区| 国语对白做爰xxxⅹ性视频网站| 观看免费一级毛片| 在线观看免费日韩欧美大片 | 在线观看三级黄色| 成年免费大片在线观看| 久久久久久久久久人人人人人人| 国产亚洲午夜精品一区二区久久| 色视频在线一区二区三区| 亚洲欧美中文字幕日韩二区| 亚洲国产精品999| 3wmmmm亚洲av在线观看| 在线免费十八禁| kizo精华| 亚洲国产av新网站| 亚洲四区av| 国产精品国产av在线观看| 只有这里有精品99| 国语对白做爰xxxⅹ性视频网站| 亚洲三级黄色毛片| 精品人妻视频免费看| 国产免费视频播放在线视频| 国产淫语在线视频| 久久精品久久久久久噜噜老黄| 午夜福利影视在线免费观看| 亚洲欧美成人精品一区二区| 99热网站在线观看| 99热6这里只有精品| 亚洲在久久综合| 日韩精品有码人妻一区| 国产精品一区www在线观看| 伦精品一区二区三区| 亚洲美女视频黄频| 亚洲人与动物交配视频| 九草在线视频观看| 精品久久久久久久久av| 国产91av在线免费观看| 亚洲精品亚洲一区二区| 国模一区二区三区四区视频| 人妻一区二区av| 精品国产三级普通话版| 51国产日韩欧美| 久久av网站| 日韩伦理黄色片| 国产亚洲精品久久久com| 亚洲人成网站在线观看播放| 亚洲怡红院男人天堂| 精品久久久精品久久久| av黄色大香蕉| 亚洲性久久影院| 人妻夜夜爽99麻豆av| 国产亚洲欧美精品永久| 国产久久久一区二区三区| 身体一侧抽搐| 亚洲色图综合在线观看| 久久婷婷青草| 久久久久久久久大av| 人妻少妇偷人精品九色| 欧美区成人在线视频| 欧美另类一区| 中文字幕人妻熟人妻熟丝袜美| 午夜福利高清视频| 国产精品久久久久久av不卡| 日日摸夜夜添夜夜添av毛片| 一本—道久久a久久精品蜜桃钙片| 久久久久国产精品人妻一区二区| 精品国产露脸久久av麻豆| 我的女老师完整版在线观看| 在线免费十八禁| 欧美高清成人免费视频www| 亚洲av欧美aⅴ国产| 国产高清有码在线观看视频| 欧美97在线视频| 街头女战士在线观看网站| 精品久久久久久久末码| 内射极品少妇av片p| 国产欧美另类精品又又久久亚洲欧美| 亚洲av不卡在线观看| 永久网站在线| 美女内射精品一级片tv| 久久精品国产亚洲av涩爱| 国产成人免费观看mmmm| 成年免费大片在线观看| 国内少妇人妻偷人精品xxx网站| 欧美zozozo另类| 欧美97在线视频| 久久99精品国语久久久| 久久久久视频综合| 一本久久精品| 97超碰精品成人国产| 久久精品国产自在天天线| 在线免费十八禁| 成人高潮视频无遮挡免费网站| 又粗又硬又长又爽又黄的视频| 美女视频免费永久观看网站| 日韩av在线免费看完整版不卡| 美女内射精品一级片tv| 日本黄色日本黄色录像| 男女国产视频网站| av在线老鸭窝| 亚洲国产av新网站| 91精品国产九色| 欧美精品一区二区大全| 亚洲精品国产av成人精品| 国产伦在线观看视频一区| 最近最新中文字幕免费大全7| 成年人午夜在线观看视频| 久久精品国产a三级三级三级| 制服丝袜香蕉在线| 国产免费一区二区三区四区乱码| 成人高潮视频无遮挡免费网站| 国产男女内射视频| av在线app专区| 免费人妻精品一区二区三区视频| 国产成人aa在线观看| 五月开心婷婷网| 欧美另类一区| 美女中出高潮动态图| 少妇丰满av| 国产美女午夜福利| 久久人妻熟女aⅴ| 精品少妇久久久久久888优播| 极品教师在线视频| 80岁老熟妇乱子伦牲交| freevideosex欧美| 国产精品嫩草影院av在线观看| 免费看光身美女| 日本猛色少妇xxxxx猛交久久| 中文字幕免费在线视频6| av网站免费在线观看视频| 国产精品久久久久久av不卡| 亚洲最大成人中文| 青春草亚洲视频在线观看| 国产高清三级在线| 亚洲美女视频黄频| 久久久久久久国产电影| 亚洲精品日韩av片在线观看| 亚洲精品成人av观看孕妇| 高清午夜精品一区二区三区| 日韩不卡一区二区三区视频在线| 少妇猛男粗大的猛烈进出视频| 99热这里只有是精品在线观看| h视频一区二区三区| 午夜福利网站1000一区二区三区| 搡老乐熟女国产| 久久精品国产a三级三级三级| 黄色配什么色好看| 观看av在线不卡| 王馨瑶露胸无遮挡在线观看| 精品久久久噜噜| 国产精品福利在线免费观看| 亚洲成人手机| 日韩在线高清观看一区二区三区| 精品国产三级普通话版| 中文乱码字字幕精品一区二区三区| 日韩在线高清观看一区二区三区| 男女下面进入的视频免费午夜| 春色校园在线视频观看| 亚洲人成网站在线观看播放| 亚洲欧美成人综合另类久久久| 亚洲精品日本国产第一区| 蜜桃在线观看..| 黄片wwwwww| 日本一二三区视频观看| 免费少妇av软件| 欧美精品人与动牲交sv欧美| 色视频在线一区二区三区| 欧美成人精品欧美一级黄| 久久女婷五月综合色啪小说| 亚洲综合色惰| 在线 av 中文字幕| 国产伦精品一区二区三区四那| 日本与韩国留学比较| 91久久精品国产一区二区成人| 直男gayav资源| 身体一侧抽搐| 成人影院久久| 晚上一个人看的免费电影| 亚洲成人av在线免费| 亚洲av福利一区| 啦啦啦啦在线视频资源| 你懂的网址亚洲精品在线观看| 啦啦啦中文免费视频观看日本| 亚洲国产精品999| a级毛片免费高清观看在线播放| 久久国产精品男人的天堂亚洲 | 久久精品国产鲁丝片午夜精品| 最黄视频免费看| 建设人人有责人人尽责人人享有的 | 天堂中文最新版在线下载| 一区二区三区免费毛片| 最近中文字幕2019免费版| 91久久精品国产一区二区成人| 国产探花极品一区二区| 午夜免费鲁丝| 国产探花极品一区二区| 国产高清有码在线观看视频| 日韩,欧美,国产一区二区三区| 在线观看美女被高潮喷水网站| 赤兔流量卡办理| 国产国拍精品亚洲av在线观看| 一级爰片在线观看| 国产男人的电影天堂91| 久久国产精品男人的天堂亚洲 | 另类亚洲欧美激情| 激情五月婷婷亚洲| 日韩一区二区视频免费看| 久久久国产一区二区| 日本欧美视频一区| 亚洲国产欧美在线一区| 精品一区二区三卡| 国产精品三级大全| h视频一区二区三区| 国产亚洲欧美精品永久| 日韩欧美一区视频在线观看 | 久久久久网色| 午夜福利网站1000一区二区三区| 精品人妻熟女av久视频| 亚洲精品乱码久久久久久按摩| 水蜜桃什么品种好| 久久久午夜欧美精品| 亚洲欧美中文字幕日韩二区| 久久精品人妻少妇| 美女cb高潮喷水在线观看| 亚洲精品一二三| 日本vs欧美在线观看视频 | 麻豆成人午夜福利视频| 国产欧美亚洲国产| 黑人高潮一二区| 婷婷色av中文字幕| .国产精品久久| 亚洲国产欧美人成| 香蕉精品网在线| 肉色欧美久久久久久久蜜桃| 国国产精品蜜臀av免费| 国产精品蜜桃在线观看| 一级毛片黄色毛片免费观看视频| 狂野欧美激情性xxxx在线观看| 99久久人妻综合| 这个男人来自地球电影免费观看 | 国产成人精品一,二区| 国产精品无大码| 美女cb高潮喷水在线观看| 高清视频免费观看一区二区| 成人国产av品久久久| 久久久久久九九精品二区国产| 欧美一区二区亚洲| 在线观看一区二区三区激情| 国产精品国产三级专区第一集| 午夜老司机福利剧场| 91精品一卡2卡3卡4卡| 日韩不卡一区二区三区视频在线| 亚洲四区av| 国产精品99久久久久久久久| 亚洲精品色激情综合| 成人二区视频| 日本黄大片高清| 欧美日韩视频高清一区二区三区二| tube8黄色片| 国产精品无大码| 久久久久网色| 国产精品一区二区在线观看99| 国产视频首页在线观看| 久久久久久久亚洲中文字幕| 国产精品无大码| 2021少妇久久久久久久久久久| 日本黄色日本黄色录像| 国产精品一及| 女性被躁到高潮视频| 久久精品国产亚洲av涩爱| 久久99热这里只有精品18| 99热6这里只有精品| 国产黄片美女视频| 国产视频首页在线观看| 丝袜喷水一区| 一区在线观看完整版| 丝袜脚勾引网站| 黑丝袜美女国产一区| 成人影院久久| 亚洲国产毛片av蜜桃av| 黄片wwwwww| 秋霞在线观看毛片| 夜夜看夜夜爽夜夜摸| 一级毛片久久久久久久久女| 日韩视频在线欧美| 久久精品久久久久久噜噜老黄| 99热全是精品| 精品熟女少妇av免费看| 久久青草综合色| 久久久久网色| 成人毛片a级毛片在线播放| 亚洲精品成人av观看孕妇| 国产午夜精品久久久久久一区二区三区| 欧美成人精品欧美一级黄| 亚洲美女视频黄频| 欧美一级a爱片免费观看看| 多毛熟女@视频| 久久av网站| 免费观看无遮挡的男女| 肉色欧美久久久久久久蜜桃| 97精品久久久久久久久久精品| 自拍偷自拍亚洲精品老妇| 中文字幕制服av| 美女国产视频在线观看| h视频一区二区三区| 在线观看国产h片| 99re6热这里在线精品视频| 午夜福利视频精品| 中文字幕av成人在线电影| 大片免费播放器 马上看| 亚洲国产高清在线一区二区三| 在现免费观看毛片| av在线观看视频网站免费| 欧美日韩亚洲高清精品| 99热网站在线观看| 99久久精品一区二区三区| 丰满迷人的少妇在线观看| 国产欧美亚洲国产| 免费观看的影片在线观看| 男女啪啪激烈高潮av片| 女的被弄到高潮叫床怎么办| 日日撸夜夜添| 午夜免费观看性视频| 偷拍熟女少妇极品色| 岛国毛片在线播放| 日本欧美国产在线视频| 只有这里有精品99| 久久精品国产鲁丝片午夜精品| 自拍欧美九色日韩亚洲蝌蚪91 | 日韩一本色道免费dvd| 少妇熟女欧美另类| 日韩精品有码人妻一区| 亚洲三级黄色毛片| 观看美女的网站| 欧美最新免费一区二区三区| 人妻少妇偷人精品九色| 亚洲成人中文字幕在线播放| 极品少妇高潮喷水抽搐| 多毛熟女@视频| 内射极品少妇av片p| 成人无遮挡网站| 日韩欧美 国产精品| 国产无遮挡羞羞视频在线观看| 精品久久久久久电影网| 久久久精品免费免费高清| 久久综合国产亚洲精品| 国产精品一区二区在线观看99| 中文乱码字字幕精品一区二区三区| 一区二区三区精品91| 99热这里只有精品一区| 日韩av免费高清视频| 亚洲久久久国产精品| videossex国产| 欧美精品人与动牲交sv欧美| 国产精品蜜桃在线观看| 自拍欧美九色日韩亚洲蝌蚪91 | 深夜a级毛片| 中文字幕人妻熟人妻熟丝袜美| 国国产精品蜜臀av免费| 女性生殖器流出的白浆| 五月天丁香电影| 欧美日韩在线观看h| 高清在线视频一区二区三区| 日日撸夜夜添| 97超碰精品成人国产| av卡一久久| 男的添女的下面高潮视频| 亚洲精品456在线播放app| 亚洲伊人久久精品综合| 午夜免费男女啪啪视频观看| 久久 成人 亚洲| 1000部很黄的大片| 如何舔出高潮| 国产亚洲91精品色在线| 日本黄色日本黄色录像| 国产精品嫩草影院av在线观看| 91aial.com中文字幕在线观看| 97在线人人人人妻| 国国产精品蜜臀av免费| 看十八女毛片水多多多| 最近2019中文字幕mv第一页| 一区二区av电影网| av视频免费观看在线观看| 久久影院123| 亚洲国产日韩一区二区| av国产久精品久网站免费入址| 国产av精品麻豆| 国产亚洲精品久久久com| 午夜福利高清视频| 99热6这里只有精品| 亚洲欧美精品专区久久| 欧美 日韩 精品 国产| 又大又黄又爽视频免费| 欧美高清性xxxxhd video| www.色视频.com| 久久久a久久爽久久v久久| 亚洲内射少妇av| 18+在线观看网站| 青青草视频在线视频观看| 岛国毛片在线播放| 国模一区二区三区四区视频| 人人妻人人澡人人爽人人夜夜| 久久午夜福利片| 人人妻人人澡人人爽人人夜夜| 一本久久精品| 三级国产精品欧美在线观看| 欧美xxxx黑人xx丫x性爽| 黄色一级大片看看| 日日摸夜夜添夜夜爱| 久久久欧美国产精品| 我的女老师完整版在线观看| 亚洲精品乱码久久久v下载方式| 国产成人91sexporn| 直男gayav资源| 爱豆传媒免费全集在线观看| 精品视频人人做人人爽| 夫妻午夜视频| 日韩在线高清观看一区二区三区| 黄色怎么调成土黄色| 欧美激情极品国产一区二区三区 | 久久久久久久大尺度免费视频| 日韩不卡一区二区三区视频在线| 极品少妇高潮喷水抽搐| 五月玫瑰六月丁香| 80岁老熟妇乱子伦牲交| 欧美性感艳星| 性高湖久久久久久久久免费观看| 国语对白做爰xxxⅹ性视频网站| 大话2 男鬼变身卡| 99热6这里只有精品| 精品人妻视频免费看| 亚洲不卡免费看| 一本—道久久a久久精品蜜桃钙片| tube8黄色片| 久久综合国产亚洲精品| av在线蜜桃| 亚洲精品国产av蜜桃| 麻豆国产97在线/欧美| 国产精品一区二区在线观看99| 人妻系列 视频| 最近最新中文字幕免费大全7| 精品少妇黑人巨大在线播放| 日韩亚洲欧美综合| 3wmmmm亚洲av在线观看| 少妇的逼水好多| 亚洲精品国产av成人精品| 日本色播在线视频| 美女中出高潮动态图| 亚洲高清免费不卡视频| av播播在线观看一区| 国产成人a区在线观看| 久久 成人 亚洲| 日日啪夜夜撸| 国产精品麻豆人妻色哟哟久久| 久久久久久久精品精品| 国产永久视频网站| 国产日韩欧美亚洲二区| 最近中文字幕高清免费大全6| 亚洲av欧美aⅴ国产| 精品人妻一区二区三区麻豆| 黄色怎么调成土黄色| 天天躁夜夜躁狠狠久久av| 国产在线一区二区三区精| 在线观看美女被高潮喷水网站| 欧美精品一区二区大全| 又爽又黄a免费视频| 人人妻人人添人人爽欧美一区卜 | 国产在视频线精品| 日韩中字成人| 蜜桃在线观看..| 免费观看的影片在线观看| 日韩伦理黄色片| 熟女av电影| 亚洲国产色片| 国产成人91sexporn|