• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    勞動(dòng)、記憶與智能機(jī)器

    2020-02-25 22:09:59楊慶峰
    江海學(xué)刊 2020年2期
    關(guān)鍵詞:中斷機(jī)器勞動(dòng)

    楊慶峰

    內(nèi)容提要 與勞動(dòng)有關(guān)的語義記憶是痛苦和壓力,“像機(jī)器一樣工作的人”“單面人”等表述反映了與痛苦和壓力有關(guān)的人類文化記憶。勞動(dòng)的自然中斷和技術(shù)中斷意味著人們通過自然的方式和技術(shù)的方式遺忘痛苦勞作。人類勞動(dòng)的自然中斷意味著忘卻痛苦、重構(gòu)集體記憶和延續(xù)勞動(dòng);人類勞動(dòng)的技術(shù)中斷意味著勞動(dòng)被機(jī)械機(jī)器和智能機(jī)器所取代,這一過程也是通過技術(shù)方式擺脫痛苦記憶的過程。面對人類被取代的未來前景,需要挖掘智能機(jī)器取代改變上述文化記憶的可能性,警惕人類以被智能機(jī)器規(guī)定的方式“重新延續(xù)勞動(dòng)社會(huì)”的危險(xiǎn),從而構(gòu)建起人類與智能機(jī)器的自由關(guān)系。

    哲學(xué)與人工智能相遇是這個(gè)時(shí)代最為重要的事件。前者是最為古老的學(xué)科,后者是最新的學(xué)科。此次相遇將兩大問題呈現(xiàn)出來:取代問題和超越問題。取代問題探討智能機(jī)器能否取代人類勞動(dòng)和工作①;超越問題探討機(jī)器智能能否超越人類智能②。本文將重點(diǎn)討論第一個(gè)問題。從現(xiàn)有討論超越問題的方式看,更多是討論能不能以及如何應(yīng)對超越問題。但是這種方式多見于日常生活或者媒體上的表述,充滿了渲染和修辭,并沒有太多觸及其深層次的理論問題,如人類實(shí)踐活動(dòng)形式,如勞動(dòng)、工作被取代的實(shí)質(zhì)。③本文將從勞動(dòng)的語義學(xué)分析開始,揭示與勞動(dòng)有關(guān)的以痛苦和壓抑為特征的文化記憶,并在此基礎(chǔ)上闡述智能取代如何改變上述文化記憶的可能性。

    勞動(dòng)的語義分析及機(jī)器活動(dòng)的雙重本質(zhì)

    從語義學(xué)角度看,勞動(dòng)(labor)至少包含了6種含義:(1)具有精神的或者身體的工作、苦工(toil)含義;(2)工作、工業(yè)的應(yīng)用;(3)從事特定的工作和任務(wù),尤其是非常困難的、大力神(Hercules)從事的任務(wù);(4)工作、生產(chǎn)的結(jié)果或者產(chǎn)品;(5)與身體遭遇的困難、苦工、艱苦和壓力有關(guān)的任務(wù);(6)與撕扯有關(guān)的身體壓力。④從牛津-拉丁語辭典中關(guān)于labor的詞義分析有兩點(diǎn)是需要注意的:(1)有三個(gè)定義是用工作(work)來解釋勞動(dòng),這意味著工作—生產(chǎn)與勞動(dòng)有著內(nèi)在的一致性,被用來規(guī)定勞動(dòng)自身,并揭示勞動(dòng)之所以為勞動(dòng)的本質(zhì)規(guī)定性,也恰恰是在這個(gè)意義上,勞動(dòng)與工作是一體的。(2)有三個(gè)定義顯示出勞動(dòng)更多是和苦力、身體或者精神上的壓力有關(guān)系。高瑞泉教授也在中國古代漢語對“勞動(dòng)”的詞源學(xué)考察中指出了相似的規(guī)定?!皬脑~源學(xué)的向度說,古代漢語中早就存在‘勞動(dòng)’一詞,不過其意義是指一般的勞作、活動(dòng),而且在‘大傳統(tǒng)’中略微帶有負(fù)面的意蘊(yùn),體力勞動(dòng)更是如此?!雹菡Z義學(xué)規(guī)定無法說明勞動(dòng)如何成為人類得以維持生存和生活質(zhì)量的條件,更沒有說明上述行為的特定主體:傳統(tǒng)社會(huì)中的人類勞動(dòng)者和智能社會(huì)的非人能動(dòng)者。所以不能為人們分析人工智能取代人類勞動(dòng)確立足夠的根據(jù)。

    從哲學(xué)角度看,描述與勞動(dòng)有關(guān)的人類活動(dòng)概念包括行為(behavior)、工作(work)、行動(dòng)(action)等。⑥這些概念多與人類實(shí)踐活動(dòng)相關(guān)。一旦我們從實(shí)踐活動(dòng)入手,就會(huì)觸及人類活動(dòng)的形式區(qū)分。在哲學(xué)史上,對于人類活動(dòng)的劃分多是二元?jiǎng)澐?。最初是存在于理論活?dòng)與實(shí)踐活動(dòng)的劃分,這種劃分可以追溯到古希臘哲學(xué)。柏拉圖和亞里士多德將人的活動(dòng)劃分為沉思的活動(dòng)與實(shí)踐的活動(dòng)。從價(jià)值角度看,前者比后者價(jià)值更加尊貴;從活動(dòng)形式看,沉思的活動(dòng)涉及的是思想的運(yùn)作;后者涉及的是與技術(shù)有關(guān)的活動(dòng)。這種劃分主要澄清了活動(dòng)的主體。沉思的主體被設(shè)定為精神或靈魂;實(shí)踐的主體被設(shè)定為身體。但是這種劃分的出發(fā)點(diǎn)卻是抽象的。在二者那里,人是什么樣的人并沒有得到明確的界定,而且留下了一個(gè)空白:如何界定政治活動(dòng)?如何理解奴隸活動(dòng)?這是上述理論—實(shí)踐框架劃分模式無法解決的問題。對這種局限的克服導(dǎo)致了新的劃分的出現(xiàn),這就是勞動(dòng)與行動(dòng)的區(qū)分。這種劃分可追溯到德國近代哲學(xué),并且在當(dāng)代德國哲學(xué)中得到了延續(xù)和繼承。所謂勞動(dòng),即“通過使用技術(shù)而對自然環(huán)境的操控,它是由工具理性引導(dǎo)的?!豢醋魇侨酥疄槿说娜齻€(gè)基本特征之一?!诤诟駹柲抢?,正是通過勞動(dòng),人與周圍的世界發(fā)生關(guān)聯(lián),同時(shí)改造它”⑦。而行動(dòng)多指向人與人發(fā)生的關(guān)系。這種劃分的好處是對活動(dòng)的對象做出了明確規(guī)定:勞動(dòng)指向物質(zhì)對象,行動(dòng)指向人類自身。并且這種劃分為理解政治活動(dòng)、奴隸活動(dòng)提供了可能。但是這種劃分的局限是無法明確活動(dòng)的具體語境。與具體語境有關(guān)的劃分表現(xiàn)在“事”和“活”的區(qū)分。這種區(qū)分將人類活動(dòng)的兩種形態(tài)明確下來。與之相應(yīng)的是“做—事”和“干—活”的兩種行為。這種劃分無法追溯到某個(gè)特定階段,這兩個(gè)說法常常用來作為一種日常描述,出現(xiàn)在很多影視劇中的“做事了”“干活了”就更多是描述一種日常平凡人的活動(dòng)狀態(tài)。上述兩個(gè)二元?jiǎng)澐值目蚣芏及粋€(gè)基本預(yù)設(shè):能動(dòng)者的優(yōu)先性。無論是理論活動(dòng)/實(shí)踐活動(dòng)、勞動(dòng)/行動(dòng)、事/活的劃分,其主體都是能動(dòng)者,作為主體存在的人。但是如何解釋被動(dòng)者的活動(dòng)呢?或者說奴隸社會(huì)中奴隸的活動(dòng)以及工業(yè)社會(huì)中像機(jī)器一樣工作的人的活動(dòng)呢?奴隸很顯然不具備自我意識(shí),其活動(dòng)主要是遵循主人的意圖的活動(dòng)。以機(jī)器方式行為的人相比奴隸,擁有了自我意識(shí),但是自我意識(shí)被機(jī)器淹沒,如在生產(chǎn)線上的工人,也就是馬爾庫塞曾經(jīng)分析過的“單向度的人”,只是技術(shù)系統(tǒng)的一個(gè)環(huán)節(jié)而已。

    能夠解釋被動(dòng)者活動(dòng)的框架來自阿倫特建立的三元?jiǎng)澐帧0愄亟⑵饋淼氖腔趧趧?dòng)、工作和行動(dòng)的三元框架。她在《人的條件》一文中成功地將人的條件設(shè)定為勞動(dòng)、工作和行動(dòng)等三個(gè)維度。勞動(dòng)是三種條件中的最基本的規(guī)定性。“去勞動(dòng)意味著被必然性所俘獲,這種被俘獲內(nèi)在于人類生命的條件之中。因?yàn)槿藗儽簧畹谋厝恍运y(tǒng)治。他們通過借助力量,統(tǒng)治那些服從于必然性之人,可能會(huì)贏得他們的自由?!雹嘣谒磥恚瑒趧?dòng)與動(dòng)物活動(dòng)相關(guān),工作與技術(shù)活動(dòng)相關(guān),而行動(dòng)則是與政治活動(dòng)相關(guān)。很顯然,我們用“勞動(dòng)”可以解釋奴隸的活動(dòng)。“工作”可以用來解釋作為主體的人的活動(dòng)以及像機(jī)器一樣工作的人的活動(dòng)。但是阿倫特的框架有一個(gè)被遮蔽的理論預(yù)設(shè):技術(shù)的工具性。在上述劃分中,技術(shù)成為實(shí)踐活動(dòng)的工具,成為勞動(dòng)得以可能的工具,服務(wù)于做事干活的目的。這一點(diǎn)在傳統(tǒng)社會(huì)中是成立的,工業(yè)機(jī)器及其后來的計(jì)算機(jī)并不具備自我意識(shí),只能接受指令,依然停留在工具層面。而在智能社會(huì)中基于神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的智能機(jī)器已經(jīng)遠(yuǎn)不是機(jī)械意義上的機(jī)器了,“深度學(xué)習(xí)的精妙之處更在于能夠自動(dòng)學(xué)習(xí)提取什么樣的特征才能夠獲得更好的性能”⑨。它們首先可以像“人一樣思維和行動(dòng)”(S.J.Russell)。隨著通用智能技術(shù)的成熟以及相應(yīng)難題的解決,如災(zāi)難性遺忘,智能機(jī)器完全可以發(fā)展出自己的經(jīng)驗(yàn)和經(jīng)歷,產(chǎn)生機(jī)器活動(dòng)甚至自主意識(shí)。所以需要發(fā)展出新的理論框架將機(jī)器活動(dòng)納入理論的解釋范圍。

    當(dāng)我們對機(jī)器活動(dòng)展開探討的時(shí)候,就會(huì)碰到機(jī)器工具性設(shè)定的界限。在界限邊緣處,機(jī)器活動(dòng)的雙重本質(zhì)開始顯現(xiàn)出來:其一是人類工作的深度科技化(自動(dòng)化—智能化)趨勢,取代意味著通過自動(dòng)化—智能化的方式讓人們擺脫身體痛苦壓力和勞作,從而獲得自由狀態(tài);其二是機(jī)器活動(dòng)的崛起(機(jī)器的自我意識(shí)),機(jī)器從“準(zhǔn)人類活動(dòng)”向自身活動(dòng)的過渡,它們共同指向了勞動(dòng)及其自身的中斷。

    第一重本質(zhì)指向人類活動(dòng)的深度科技化過程。在第一重本質(zhì)中,經(jīng)濟(jì)現(xiàn)象的描述和哲學(xué)話語分析很容易混淆在一起。我們首先面對的是人類工作被取代的大量現(xiàn)象。眾多的相關(guān)研究已經(jīng)指向了這個(gè)趨勢。我們不需要太多地描述現(xiàn)象,而是分析其實(shí)質(zhì)。這一現(xiàn)象的實(shí)質(zhì)是人類工作自動(dòng)化的可能性,即哪些工作易于被自動(dòng)化?在人工智能發(fā)展過程中,機(jī)器已經(jīng)取代人類某些特定的崗位。比如快遞無人機(jī)、陪伴機(jī)器人、看護(hù)機(jī)器人等等。美國學(xué)者保羅·多爾蒂指出了未來的變化,諸如出現(xiàn)新的工作模式、關(guān)鍵企業(yè)流程中出現(xiàn)新崗位和傳統(tǒng)工作流程被全面顛覆等觀點(diǎn)。⑩在我們的生活中,某些工作的主體在發(fā)生著極大的變化,甚至是藝術(shù)創(chuàng)作的主體,也在發(fā)生變化。算法min max Ex[log(D(x))]+Ez[log(1-D(G(z)))]曾經(jīng)制作出一幅藝術(shù)作品《愛德蒙·貝拉米肖像》,拍賣了43.25萬美元。如此,未來社會(huì)可能會(huì)形成一種多元的工作主體狀態(tài),人和機(jī)器都可以成為工作主體,無人機(jī)送快遞與人類送快遞并存。在這一現(xiàn)象背后是人類工作崗位的自動(dòng)化、智能化的深度融合,甚至是完全被智能機(jī)器替代。對工作的分析勢必指向?qū)趧?dòng)及其他實(shí)踐活動(dòng)的分析,可以想見,都是人類實(shí)踐活動(dòng)的自動(dòng)化過程,以機(jī)器為特征的自動(dòng)化將席卷人類的多數(shù)實(shí)踐活動(dòng)。

    第二重本質(zhì)指向機(jī)器活動(dòng)及其自我意識(shí)的崛起,這一點(diǎn)的內(nèi)涵遠(yuǎn)未被揭示出來。從哲學(xué)史上看,哲學(xué)家認(rèn)可了人類勞動(dòng)對人類自身發(fā)展所具有的意義。比如黑格爾將勞動(dòng)看作是奴隸從事的特有活動(dòng)。“因此正是在勞動(dòng)里(雖說在勞動(dòng)里似乎僅僅體現(xiàn)異己者的意向),奴隸通過自己再重新發(fā)現(xiàn)自己的過程,才意識(shí)到他自己固有的意向?!痹谒磥恚庾R(shí)得以發(fā)展和提高的前提條件是恐懼和陶冶事物的勞動(dòng)。“陶冶事物的勞動(dòng)”的作用是必要的,“沒有陶冶事物的勞動(dòng)則恐懼只停留在內(nèi)心里,使人目瞪口呆,而意識(shí)也得不到提高與發(fā)展”。黑格爾的揭示讓我們明晰了恐懼與意識(shí)產(chǎn)生的關(guān)系,如果“機(jī)器活動(dòng)”及其“恐懼”有效,那么機(jī)器自我意識(shí)崛起也是非常有可能的。

    勞動(dòng)的痛苦記憶與自然中斷的意義

    第一節(jié)中關(guān)于勞動(dòng)的語義學(xué)分析已經(jīng)表明:勞動(dòng)意味著身體與精神的雙重勞作,與身體的痛苦和壓力直接相關(guān)。勞動(dòng)關(guān)聯(lián)著一種獨(dú)特的以痛苦與壓力為特征的文化記憶,這一點(diǎn)也可以得到個(gè)體體驗(yàn)和哲學(xué)論證的支持。從個(gè)體記憶角度看,個(gè)體在惡劣條件和環(huán)境下產(chǎn)生的是痛苦的個(gè)體記憶,但是由于主體原因,這種記憶實(shí)際上很難被記錄下來;從哲學(xué)上看,馬克思早已論述了這一問題?!恶R克思恩格斯全集》第11卷的說明部分指出:“馬克思為了揭穿自由貿(mào)易派關(guān)于英國勞動(dòng)人民是‘幸福’的謊言,他根據(jù)工廠視察員的報(bào)告材料描述了英國工人群眾特別是婦女和童工遭受剝削的觸目驚心的景象。他指出資本主義企業(yè)的惡劣的勞動(dòng)條件,勞動(dòng)保護(hù)幾乎完全沒有,因而工人的健康和生命經(jīng)常遭受威脅?!边@意味著馬克思已經(jīng)有意識(shí)地指出了特定社會(huì)制度下勞動(dòng)給人帶來的痛苦記憶。他用“異化勞動(dòng)”闡述資本主義制度下勞動(dòng)異化的本質(zhì),為分析奴隸社會(huì)、資本主義社會(huì)等特定社會(huì)下勞動(dòng)的痛苦記憶奠定了哲學(xué)根據(jù)。

    面對勞動(dòng)的痛苦記憶,通過勞動(dòng)中斷而獲得的身心的休息和休整就成為人自身乃至社會(huì)遺忘上述痛苦記憶的主要方式,即采取多種方式讓身體和精神獲得輕松和愉悅。

    從個(gè)體角度來說,個(gè)體身體會(huì)在勞動(dòng)過程中感到疲憊,隨著年齡的增長,承受力越來越弱,越來越容易疲憊。精神會(huì)在勞動(dòng)過程中獲得雙重感受,或許是愉悅或許是痛苦。在人類歷史上,奴隸從事大量體力勞動(dòng),他們在精神上獲得的肯定不是愉悅。在現(xiàn)代社會(huì),大多數(shù)從事勞動(dòng)的雇員,在精神上獲得的也不一定是愉悅。圍繞“996.ICU”現(xiàn)象展開的爭論恰好說明了這一點(diǎn)。這一現(xiàn)象背后表達(dá)了一種對于勞動(dòng)以及相應(yīng)工作制度帶來雙重壓力的抗議。所以在身體的疲憊與精神的痛苦一起壓向個(gè)體的時(shí)候,在某個(gè)特定的臨界點(diǎn)時(shí)刻,個(gè)體需要一個(gè)時(shí)間來休息,讓身體重新恢復(fù)體力,讓精神放松重新振作。這個(gè)中斷過程就是根據(jù)自然身體的承受力而出現(xiàn)的自然中斷。

    從國家角度來說,國家設(shè)計(jì)了相應(yīng)的制度和法律確保勞動(dòng)者的權(quán)利,如“五一”勞動(dòng)節(jié)。這些制度設(shè)計(jì)甚至被保留下來演變?yōu)槲幕拇嬖谖?;從文化角度看,大多?shù)民族都有相應(yīng)的休息日制度,這種制度往往是根據(jù)季節(jié)變化、傳統(tǒng)節(jié)日、民族活動(dòng)等形成的。這些制度和節(jié)日從集體層面規(guī)定了勞動(dòng)的自然中斷狀態(tài),并且形成了各自獨(dú)特的文化記憶傳統(tǒng)。那么,自然中斷的意義是什么呢?人類工作的自然中斷意味著忘卻痛苦,重構(gòu)集體記憶和延續(xù)勞動(dòng)。

    勞動(dòng)的自然中斷意味著從身體角度提出的遺忘勞動(dòng)痛苦和勞作的要求。人類更希望借助工具讓身體從痛苦的勞作中擺脫出來。“……把人從最古老和最自然的負(fù)擔(dān)中解放出來,那種勞動(dòng)和被束縛于必然性的負(fù)擔(dān)。人類條件的一個(gè)基本方面也處于危險(xiǎn)之中,但是反抗它,那種從勞動(dòng)者的‘苦工和麻煩’中解放出來的愿望不是現(xiàn)代的產(chǎn)物,而是和被記錄的歷史一樣久遠(yuǎn)。從勞動(dòng)自身解放出來不是新的,它曾經(jīng)屬于那些少數(shù)的已經(jīng)最穩(wěn)固確立的權(quán)利中?!倍匀恢袛鄬?dǎo)致的休息給人帶來的最終結(jié)果是“暫時(shí)遺忘身體的痛苦和壓力”。這種遺忘的產(chǎn)生是通過其他活動(dòng)實(shí)現(xiàn)的,如與家人的團(tuán)聚、享受一頓美食或者相應(yīng)的休閑。但最終這種遺忘僅僅是由于從身體角度提出的要求而表現(xiàn)為偶然的要求,而將這種要求提升為普遍性的則是通過與人類慶典及其集體記憶的重構(gòu)有關(guān)的方式。

    勞動(dòng)的自然中斷意味著人類慶典及其集體記憶的重構(gòu)。面對勞作的辛苦、身體和精神的雙重壓力,人們需要身體休息、精神放松。然而一個(gè)新的問題提了出來:當(dāng)處于勞動(dòng)的自然中斷時(shí)期,如何填補(bǔ)隨之而來的空白狀態(tài)?這就成為一個(gè)需要關(guān)心的問題。從海德格爾的生存論角度看,生活一旦出現(xiàn)空白,無聊必然會(huì)涌入。消除無聊的最好方式就是慶祝和慶典,這成為勞動(dòng)暫時(shí)停止后的主要活動(dòng)。那么,人們通過這種狂歡形式要達(dá)到怎樣的目的呢?在自然中斷的慶祝中,人們通過距離抵達(dá)了勞動(dòng)本身,看清了勞動(dòng)之意義,看清了勞動(dòng)之于人類的關(guān)系,并從身體和精神上做好了雙重準(zhǔn)備:迎接下一次勞動(dòng)活動(dòng)的到來。從慶祝和慶典中,人們重塑了集體記憶。保羅·利科指出了這一點(diǎn)。“只有通過類比,并且和個(gè)體意識(shí)及其記憶聯(lián)系在一起,我們才會(huì)將集體記憶視為影響了相關(guān)群體歷史進(jìn)程的諸事件留下的諸痕跡的一個(gè)匯集,并且在節(jié)日、儀式、公共慶典活動(dòng)的場合下,我們才會(huì)從中發(fā)現(xiàn)導(dǎo)演這些共同記憶的力量。”

    最終,勞動(dòng)的自然中斷意味著獲得了確保勞動(dòng)更好延續(xù)的條件。個(gè)體和集體都可以通過特定的休息日子來獲得休整,通過慶典獲得精神上的愉悅,從而使得人們通過休息身體從而更好地迎接新的勞動(dòng)。人類能夠與勞動(dòng)活動(dòng)保持一種張力,讓勞動(dòng)者找到勞動(dòng)自身的意義。

    技術(shù)中斷及遺忘痛苦記憶的可能性

    隨著技術(shù)及其現(xiàn)代性本質(zhì)的發(fā)展,勞動(dòng)的自然中斷狀態(tài)逐漸失去了內(nèi)在根據(jù),人類的活動(dòng)不再依靠天時(shí)來安排,休息也不能依靠身體的自然感受和狀態(tài)來安排,依靠職責(zé)來調(diào)節(jié)自身是更加重要的方法。這種中斷調(diào)節(jié)的效果取決于道德主體的道德意識(shí)和責(zé)任倫理精神。隨著現(xiàn)代性的深入發(fā)展,一種新的由技術(shù)導(dǎo)致的強(qiáng)制中斷開始出現(xiàn),逐漸取代了上述依靠自然天時(shí)、依靠道德責(zé)任來中斷的方式。我們更多感受到的是技術(shù)形成的各種規(guī)定性及其帶來中斷的后果。

    在手工技藝主導(dǎo)的時(shí)期,技術(shù)始終表現(xiàn)為人類勞動(dòng)得以實(shí)現(xiàn)的工具和手段。一切都是工具形式變化,導(dǎo)致的是勞動(dòng)效率的提升。而人類自身始終保持著對技術(shù)的掌控。勞動(dòng)的中斷依然保持為自然狀態(tài),即根據(jù)人類身體和心靈的自然承受力、根據(jù)天時(shí)來安排勞動(dòng)和休息的節(jié)奏。休息的空余時(shí)間被慶祝和慶典的儀式活動(dòng)所充盈,人們不僅得到了休息,而且保持著完整的集體記憶。

    隨著機(jī)器工業(yè)的發(fā)展,情況變得不同了。人類掌控的情況不再有效,更多出現(xiàn)了機(jī)械機(jī)器規(guī)定人類活動(dòng)節(jié)奏的現(xiàn)象。人類活動(dòng)被技術(shù)規(guī)定的最典型的現(xiàn)象是鐘表的出現(xiàn)。精確化的刻度時(shí)間將人類活動(dòng)變得勻質(zhì)化和平面化,讓人類活動(dòng)失去了自然節(jié)奏。另外,這種規(guī)定強(qiáng)化出現(xiàn)了自動(dòng)化傾向,也就是取代的初級形式。自動(dòng)化取代過程讓人類變成了技術(shù)系統(tǒng)的邊緣附屬物。人處于技術(shù)系統(tǒng)之外,其功能逐漸被取代,人的地位淪為系統(tǒng)的維修者。

    隨著自動(dòng)化過程的加速,人類社會(huì)步入到智能時(shí)代。從勞動(dòng)演變角度看,數(shù)字時(shí)代的劃分并沒有太大意義,機(jī)械時(shí)代與智能時(shí)代構(gòu)成了時(shí)代的兩個(gè)節(jié)點(diǎn)。一方面自動(dòng)化程度在逐步增大;另一方面人類勞動(dòng)的作用發(fā)生了根本變化。這一過程加速的必然結(jié)果導(dǎo)致取代的高級形式即智能化取代現(xiàn)象的出現(xiàn),這一現(xiàn)象的實(shí)質(zhì)是人類活動(dòng)完全自動(dòng)化的實(shí)現(xiàn)。這個(gè)過程中技術(shù)一端表現(xiàn)出無比強(qiáng)大的力量,人類被甩脫出技術(shù)系統(tǒng)。但是這種甩脫卻采取了另一種形式,人與技術(shù)系統(tǒng)地深度嵌入與融合。人不再是系統(tǒng)的維修者,因?yàn)橄到y(tǒng)本身通過系統(tǒng)自身不斷地維修,人在這一點(diǎn)上完全失去了作用。

    自動(dòng)化取代與智能化取代二者之間有著比較密切的關(guān)系。自動(dòng)化的過程是隨著自動(dòng)控制等領(lǐng)域的出現(xiàn)而成為主導(dǎo)的,而這完全不同于智能化,智能化是自動(dòng)化程度的質(zhì)的提升。無論是機(jī)械機(jī)器取代還是智能機(jī)器取代,其實(shí)質(zhì)都是技術(shù)取代,都會(huì)導(dǎo)致一個(gè)共同的結(jié)果:人類勞動(dòng)的技術(shù)中斷。之所以如此,是因?yàn)榧夹g(shù)中止了人類的若干勞動(dòng)。比如藝術(shù)家不需要?jiǎng)?chuàng)作,快遞員不需要送快遞、貨車司機(jī)也不需要繼續(xù)開車了。技術(shù)中斷屬于永久中斷,因?yàn)闅v史條件的變化,人類可能無法再回到原來的地方了,人類社會(huì)的工作形式將會(huì)發(fā)生極大變化。

    如此,人類活動(dòng)的技術(shù)中斷是目前人類活動(dòng)面臨的處境,其當(dāng)前外在表現(xiàn)形式是智能機(jī)器取代人類工作。這一過程有可能導(dǎo)致機(jī)器智能得以覺醒。在新的神經(jīng)網(wǎng)絡(luò)和增強(qiáng)學(xué)習(xí)的推動(dòng)下,人工智能不僅能夠獲得知識(shí),還能夠形成一種獨(dú)特的經(jīng)驗(yàn):建立在歷史數(shù)據(jù)基礎(chǔ)上的偏見經(jīng)驗(yàn)。這意味著打開了通用人工智能的大門。如果災(zāi)難性遺忘的破解可以實(shí)現(xiàn),那么機(jī)器意識(shí)覺醒就變得完全可能了。

    面對被取代命運(yùn)的四種態(tài)度

    面對上述被取代的雙重本質(zhì)——人類活動(dòng)的自動(dòng)化程度與機(jī)器活動(dòng)的發(fā)展,存在著四種態(tài)度:“批判”“審視”“適應(yīng)”和“狂歡”。

    第一種是批判的態(tài)度。這種態(tài)度深深地扎根于傳統(tǒng)的人文主義者中,如海德格爾。他的批判建立在對自然狀態(tài)的充分肯定和挖掘上。他曾經(jīng)分析過人類社會(huì)重要的慶祝形式。在他看來,“慶祝首先意味著打斷我們的日?;顒?dòng)以及把工作忘卻。這讓我們遠(yuǎn)離其他東西”。慶祝導(dǎo)致了我們的“思”?!半S著這些暫停,慶祝因此把我們帶到了反思的分水嶺,因此也進(jìn)入到值得追問以及因此再一次抵達(dá)決定線的旁邊?!睉c祝最終是讓本真之物到來并且接納它們?!皯c祝是細(xì)心地傾聽溫和的規(guī)律,等待本真之物的到來,預(yù)備接納本質(zhì)之物,等待事件(Ereignis)發(fā)生,其中本質(zhì)顯現(xiàn)自身?!北M管他沒有經(jīng)歷到今天基于神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的人工智能,但是他的洞見還是讓我們感受到深入的批判態(tài)度以及對現(xiàn)代技術(shù)保有的警惕之心。他的批判直接指向了技術(shù)自身的自動(dòng)化—智能化趨勢,并將這種趨勢看作是座架本質(zhì)在智能時(shí)代的充分體現(xiàn)。

    第二種是審視的態(tài)度。比批判的態(tài)度顯得較為理性的是審視和適應(yīng)。在現(xiàn)實(shí)生活中,這種態(tài)度主要源自企業(yè)家。在談及人工智能即將取代人類工作的問題時(shí),很多企業(yè)家表現(xiàn)出理性的審視態(tài)度,在他們看來,自動(dòng)化以及智能化是技術(shù)發(fā)展的必然趨勢,政府部門應(yīng)該采取的措施是積極地準(zhǔn)備應(yīng)對這種變化。這種態(tài)度充分顯示了占據(jù)技術(shù)前沿的精英們的優(yōu)越態(tài)度。

    第三種是適應(yīng)的態(tài)度。美國學(xué)者戴維·哈維提出了適應(yīng)的態(tài)度。他認(rèn)為,我們應(yīng)該在服務(wù)業(yè)歡迎AI并推而廣之,但也要試圖找到一條通往社會(huì)主義的替代方案。AI會(huì)創(chuàng)造新的工作,也會(huì)取代一些工作。我們需要適應(yīng)這個(gè)情況。他的態(tài)度是理性地看到技術(shù)帶來危險(xiǎn)與拯救的共存。

    第四種是狂歡的態(tài)度。在技術(shù)主義者看來,自動(dòng)化的實(shí)現(xiàn)代表的是一種抵抗人類被束縛于工作的有效方式。從對阿倫特的《人的條件》的潛在閱讀中,我們看到她描述了自動(dòng)化論者們擺脫勞動(dòng)及其必然性的強(qiáng)烈愿望。自21世紀(jì)以來,自動(dòng)化論者轉(zhuǎn)化為智能論者。大衛(wèi)·法拉因(David Frayne)指出:“自動(dòng)化論者抗議被浪費(fèi)的時(shí)間,缺乏多樣性和在資本主義社會(huì)中被多余管理。他們?yōu)榱斯と讼硎芴栒赵谏砩系臋?quán)利,與孩子玩耍的權(quán)利,發(fā)展工廠之外的興趣和技巧以及在晚上平靜地睡覺。我們可能會(huì)說自動(dòng)化論者的訴求不是針對剝削的不公正,而是工人們已經(jīng)消失的對于世界的感受?!睆乃拿枋鲋锌梢钥闯觯夹g(shù)主義者還是堅(jiān)持基于個(gè)體的烏托邦設(shè)想。

    除了第四種態(tài)度,其他三種態(tài)度都指向了與人工智能有關(guān)的恐懼和畏懼。對于人工智能的恐懼情緒源自人工智能取代人類的擔(dān)憂。這一情緒的設(shè)定是人類是主體,而機(jī)器是人類的輔助工具。如今,人工智能的快速發(fā)展以及其不可解釋性使得機(jī)器智能越來越具有自身的形式,這極大地沖擊了“機(jī)器是人類的輔助物”這一觀念。這種觀念的動(dòng)搖直接導(dǎo)致了人類對于機(jī)器的“恐懼”??謶指嗍切睦韺用娴囊环N情緒表達(dá)。機(jī)器智能及其活動(dòng)發(fā)展超越了人們對于人工智能的心理預(yù)期,故導(dǎo)致了恐懼的發(fā)生。對人工智能的畏懼主要來自對通用人工智能和超級智能的畏懼,這一切都是建立在機(jī)器自主行為及其意識(shí)活動(dòng)的基礎(chǔ)上。這一情緒的產(chǎn)生主要發(fā)生在精神性活動(dòng)環(huán)節(jié),主要涉及的是人工智能的終極指向,必然導(dǎo)致人類對于機(jī)器的“畏懼”。但是畏懼并非是單向的,還有機(jī)器對于人類的畏懼,“讓人類保持理智永遠(yuǎn)是一種奢侈”,這句《流浪地球》中人工智能莫斯死亡之前發(fā)出的感嘆,說明了機(jī)器對人類的畏懼。畏懼更多是源自對不確定的本身的畏懼,這已經(jīng)超出了心理層面的對于某種特定對象的恐懼,而上升到形而上學(xué)層面。從人自身而言,人類真正面對改變自身存在結(jié)構(gòu)及其狀態(tài)的事情:機(jī)器智能依照自身的路線不停地發(fā)展。它與人類智能走的是完全不同的路徑。

    結(jié) 語

    當(dāng)我們回到AI會(huì)不會(huì)取代人類勞動(dòng)(工作)——無論是體力勞動(dòng)還是腦力勞動(dòng)的時(shí)候,需要反思這個(gè)問題表達(dá)中存在著未被揭示出來的東西。對于勞動(dòng)而言,痛苦、苦工、勞作這樣的語義記憶如同影子一樣難以排除;“被勞動(dòng)束縛的人”總是讓人們?nèi)菀紫氲礁煽喙さ呐`,也成為人類歷史難以忘卻的文化記憶。馬克思的“異化勞動(dòng)”批判可以看作是勞動(dòng)痛苦記憶的哲學(xué)根據(jù);“像機(jī)器一樣行為的單面人”是馬爾庫塞給我們提出的警示。進(jìn)入數(shù)字與智能時(shí)代,如何擺脫這種文化記憶成為人們一直在探討的話題?!稊?shù)字對象與數(shù)字主體:大數(shù)據(jù)時(shí)代資本主義、勞動(dòng)和政治學(xué)的跨學(xué)科視角研究》一書中有關(guān)數(shù)字勞動(dòng)的內(nèi)容就探討了如何超越勞動(dòng)的壓力和奴隸特性。如J.L.邱(Jack LinChuan Qiu)指出,通過數(shù)字對象向i-奴隸(i Slavery)說再見。

    我們真正擔(dān)心的不是會(huì)被取代,而是擔(dān)心這種取代會(huì)讓我們繼續(xù)延續(xù)阿倫特所說的“勞動(dòng)社會(huì)”(laboring society)。只是阿倫特在《人的條件》中所說的“勞動(dòng)社會(huì)的延續(xù)”是指人們依然像動(dòng)物、奴隸和機(jī)器一樣勞作,無法上升到標(biāo)志人類本質(zhì)的政治活動(dòng)。在智能社會(huì),我們需要警惕的是,“勞動(dòng)社會(huì)”是建立在機(jī)器自主活動(dòng)和意識(shí)崛起的基礎(chǔ)上,智能機(jī)器將人類變成機(jī)器,讓人進(jìn)入到一種被規(guī)定的、無法擺脫的勞動(dòng)狀態(tài)。所以,在人類勞動(dòng)自動(dòng)化的意義上,“真正取代”將是一件好事,有利于人類擺脫勞動(dòng)自身的痛苦和壓力,更有助于改變勞動(dòng)痛苦的文化記憶形象;但是在機(jī)器活動(dòng)及其自主意識(shí)崛起的意義上,“真正取代”是需要限制的,需要為人類自身在技術(shù)面前保有自身的尊嚴(yán)和價(jià)值。所以,需要討論的不是“會(huì)不會(huì)”這樣的事實(shí)表述,而是“應(yīng)該不應(yīng)該”的價(jià)值表述。我們需要做的是通過取代讓我們擺脫以及終結(jié)“勞動(dòng)社會(huì)”的延續(xù)。

    如果是這樣,不用懼怕AI取代人類工作,因?yàn)榫蜆I(yè)結(jié)構(gòu)的變化是經(jīng)濟(jì)發(fā)展的一個(gè)必然現(xiàn)象,舊的職業(yè)被取代,必然會(huì)產(chǎn)生新的職業(yè)。2019年,國家職業(yè)分類大典頒布了首批新的13個(gè)職業(yè)目錄。關(guān)鍵是我們從中看到AI與人類勞動(dòng)之間的關(guān)系。當(dāng)我們面對AI取代人類工作的時(shí)候,更應(yīng)該推進(jìn)這一進(jìn)程,讓AI真正取代人類勞動(dòng),只有這樣才能夠獲得全面而自由的發(fā)展。

    但是,持有對智能機(jī)器的恐懼卻是必要的。“接下來我要提出的是從我們最近的體驗(yàn)和我們最近的恐懼重新考慮人的條件”。只有正視人類對于人工智能的“恐懼”,才能夠?qū)е潞线m的智能人文意識(shí)的發(fā)生,從而構(gòu)建起人與技術(shù)的自由關(guān)系。

    ①M(fèi)ckinsey Global Reprort已經(jīng)指出人工智能正在取代人類工作。到2030年,人工智能和機(jī)器人將消除30%(約8億)人的工作,中國近1億人或面臨職業(yè)轉(zhuǎn)變。這份報(bào)告《自動(dòng)化時(shí)代的勞動(dòng)力轉(zhuǎn)變》,主要提出(1)全球50%的工作可以被機(jī)器人取代;(2)6成的工作崗位,其30%的工作量可以被機(jī)器代勞;(3)2030年,保守估計(jì)全球15%的人會(huì)因?yàn)锳I工作發(fā)生變化,預(yù)計(jì)影響近8億人。

    ②2019年5月份,圖靈獎(jiǎng)獲得者齊聚中國成都商討人工智能能否超越人類智能;這次討論由原澳門大學(xué)校長趙偉教授主持。

    ③2019年有一本著作描寫了取代論的關(guān)系及其后果。Neda atanasoski and Kalindi vora,Surrogate&Humanity:Race,Robots,andthePoliticsofTechnologicalFutures, Durham :Duke University Press,2019.

    ④OxfordLatinDictionary, Oxford University Press,1968, p.991.

    ⑤高瑞泉 :《“勞動(dòng)”:可作歷史分析的觀念》,《探索與爭鳴》2015年第8期。

    ⑥除了行為之外,其他概念都可以看作是實(shí)踐活動(dòng)的表現(xiàn)形式。行為是用來描述人與動(dòng)物共同的生物特性的概念,如身體受神經(jīng)機(jī)制支配的動(dòng)作、包括感知等大腦的意識(shí)動(dòng)作,這個(gè)概念多限于生物學(xué)領(lǐng)域;勞動(dòng)則是用來描述人類與動(dòng)物相異的規(guī)定性,勞動(dòng)(制造工具的活動(dòng))使得人與動(dòng)物區(qū)別開的規(guī)定性(如馬克思)。但是在馬克思那里把勞動(dòng)等同于制造工具的活動(dòng),所以存在歧義性;而工作是比較好的作為人類特定活動(dòng)的普遍形式,比如利用技術(shù)的活動(dòng);行動(dòng)(action)則更加適合描述人類作為政治存在物的范疇,比如利用人的活動(dòng)。職位(job)是具體的、描述的說法,一般情況下,工作與職業(yè)相當(dāng)于同義詞,在人類社會(huì)進(jìn)化過程中,職業(yè)專業(yè)化的過程是不同工作細(xì)化的過程;工作的自動(dòng)化過程就是工作被自動(dòng)機(jī)器取代的過程。

    ⑦安德魯·埃德加 :《哈貝馬斯:關(guān)鍵概念》,楊禮銀、朱松峰譯,江蘇人民出版社2009年版,第87頁。

    ⑨山下隆義 :《圖解深度學(xué)習(xí)》,張彌譯,人民郵電出版社2018年版,第6頁。

    ⑩此觀點(diǎn)參見保羅·多爾蒂《機(jī)器與人:埃森哲論新人工智能》(趙亞男譯,中信出版集團(tuán)2017年版)第二部分的第五章、第六章。

    猜你喜歡
    中斷機(jī)器勞動(dòng)
    機(jī)器狗
    勞動(dòng)創(chuàng)造美好生活
    機(jī)器狗
    快樂勞動(dòng) 幸福成長
    未來機(jī)器城
    電影(2018年8期)2018-09-21 08:00:06
    熱愛勞動(dòng)
    跟蹤導(dǎo)練(二)(5)
    千里移防,衛(wèi)勤保障不中斷
    解放軍健康(2017年5期)2017-08-01 06:27:44
    拍下自己勞動(dòng)的美(續(xù))
    無敵機(jī)器蛛
    91久久精品国产一区二区三区| 亚洲国产精品一区三区| 精品少妇久久久久久888优播| 中国国产av一级| 欧美97在线视频| 天堂俺去俺来也www色官网| 少妇 在线观看| 中文字幕精品免费在线观看视频 | 自拍欧美九色日韩亚洲蝌蚪91| 精品久久久久久电影网| 国产欧美另类精品又又久久亚洲欧美| 亚洲av福利一区| 啦啦啦中文免费视频观看日本| 久久97久久精品| 日韩亚洲欧美综合| 热99国产精品久久久久久7| 水蜜桃什么品种好| 啦啦啦啦在线视频资源| 最近的中文字幕免费完整| 国产精品国产三级国产专区5o| 亚洲精品一区蜜桃| 飞空精品影院首页| 如何舔出高潮| 少妇熟女欧美另类| 亚洲五月色婷婷综合| 97精品久久久久久久久久精品| 精品99又大又爽又粗少妇毛片| 亚洲图色成人| av在线观看视频网站免费| 天天操日日干夜夜撸| 交换朋友夫妻互换小说| 少妇被粗大猛烈的视频| 亚州av有码| 久久97久久精品| 亚洲五月色婷婷综合| 男人添女人高潮全过程视频| 久久久精品免费免费高清| 亚洲性久久影院| 性高湖久久久久久久久免费观看| 看十八女毛片水多多多| 99精国产麻豆久久婷婷| 满18在线观看网站| 少妇被粗大猛烈的视频| 97在线视频观看| 日本av手机在线免费观看| 精品少妇内射三级| 国产乱来视频区| 九九爱精品视频在线观看| 在线观看免费高清a一片| 99九九在线精品视频| 美女xxoo啪啪120秒动态图| 能在线免费看毛片的网站| 久久久久人妻精品一区果冻| 黄色怎么调成土黄色| 精品久久国产蜜桃| 久久 成人 亚洲| 国产精品嫩草影院av在线观看| 亚洲精品中文字幕在线视频| av在线老鸭窝| 亚洲无线观看免费| 女人久久www免费人成看片| 成人毛片60女人毛片免费| 五月伊人婷婷丁香| 国产精品国产三级国产av玫瑰| 久久综合国产亚洲精品| 亚洲综合精品二区| 久久人人爽人人片av| 亚洲不卡免费看| 久久久a久久爽久久v久久| 高清视频免费观看一区二区| 精品国产露脸久久av麻豆| 午夜av观看不卡| 黑人高潮一二区| 五月玫瑰六月丁香| 女性被躁到高潮视频| 亚洲三级黄色毛片| 日韩av不卡免费在线播放| 激情五月婷婷亚洲| 建设人人有责人人尽责人人享有的| 欧美激情 高清一区二区三区| 中文欧美无线码| 久久午夜综合久久蜜桃| 免费黄网站久久成人精品| 国产精品一区二区在线观看99| 日韩不卡一区二区三区视频在线| 成年人午夜在线观看视频| 久久婷婷青草| 黄片无遮挡物在线观看| 丝袜美足系列| 热re99久久精品国产66热6| 欧美激情国产日韩精品一区| 国产精品一国产av| videossex国产| 亚洲美女搞黄在线观看| 国产成人精品无人区| 2018国产大陆天天弄谢| 久久久精品区二区三区| 色94色欧美一区二区| 亚洲av男天堂| 国产精品嫩草影院av在线观看| 久久这里有精品视频免费| 亚洲激情五月婷婷啪啪| 91久久精品国产一区二区成人| 香蕉精品网在线| 国产成人精品福利久久| 又粗又硬又长又爽又黄的视频| 女性被躁到高潮视频| 考比视频在线观看| 国产熟女午夜一区二区三区 | kizo精华| 日韩制服骚丝袜av| 最近的中文字幕免费完整| 人人妻人人爽人人添夜夜欢视频| 26uuu在线亚洲综合色| 国产免费一区二区三区四区乱码| 一区二区日韩欧美中文字幕 | 精品国产乱码久久久久久小说| 亚洲成人手机| 男女无遮挡免费网站观看| 亚洲人成77777在线视频| 18禁裸乳无遮挡动漫免费视频| 国产片特级美女逼逼视频| 18+在线观看网站| 亚洲熟女精品中文字幕| 我要看黄色一级片免费的| 久久精品熟女亚洲av麻豆精品| 亚洲精品日韩在线中文字幕| 毛片一级片免费看久久久久| 一级毛片aaaaaa免费看小| 亚洲av中文av极速乱| 久久人人爽av亚洲精品天堂| 久久久国产欧美日韩av| 蜜臀久久99精品久久宅男| 在线观看美女被高潮喷水网站| 国产爽快片一区二区三区| 在线天堂最新版资源| 亚洲内射少妇av| 亚洲人与动物交配视频| 久久久久久久久久久免费av| 国国产精品蜜臀av免费| 欧美 日韩 精品 国产| 男女无遮挡免费网站观看| 欧美xxⅹ黑人| 国产男女内射视频| 精品一区二区三区视频在线| 久久鲁丝午夜福利片| 亚洲国产精品专区欧美| 黄色视频在线播放观看不卡| 亚洲无线观看免费| 五月玫瑰六月丁香| 亚洲av不卡在线观看| 大陆偷拍与自拍| 又粗又硬又长又爽又黄的视频| 国产日韩欧美视频二区| 精品国产一区二区三区久久久樱花| 亚洲av电影在线观看一区二区三区| 婷婷成人精品国产| 制服丝袜香蕉在线| 久久久久人妻精品一区果冻| tube8黄色片| 日韩一本色道免费dvd| 最近中文字幕高清免费大全6| 久久精品国产鲁丝片午夜精品| 日本黄大片高清| 青春草亚洲视频在线观看| 久久久久久久大尺度免费视频| 国产av精品麻豆| 久久久国产一区二区| 国产日韩欧美视频二区| 肉色欧美久久久久久久蜜桃| xxxhd国产人妻xxx| 美女中出高潮动态图| 只有这里有精品99| 一本大道久久a久久精品| 国产精品国产av在线观看| 久久精品国产自在天天线| 最近手机中文字幕大全| 欧美+日韩+精品| 极品人妻少妇av视频| 亚洲国产精品成人久久小说| 日韩熟女老妇一区二区性免费视频| 爱豆传媒免费全集在线观看| 午夜精品国产一区二区电影| 亚洲精品乱码久久久久久按摩| 免费观看无遮挡的男女| 国产av一区二区精品久久| 99热国产这里只有精品6| 国产亚洲精品久久久com| 热99久久久久精品小说推荐| 日本wwww免费看| 中文乱码字字幕精品一区二区三区| 伦精品一区二区三区| 国产精品国产三级国产av玫瑰| 三级国产精品片| 最近中文字幕2019免费版| 高清av免费在线| 在线亚洲精品国产二区图片欧美 | 亚洲精品成人av观看孕妇| 岛国毛片在线播放| 丰满乱子伦码专区| 久久精品国产a三级三级三级| 亚洲国产精品一区二区三区在线| 天堂8中文在线网| 在线观看人妻少妇| 一区在线观看完整版| 日韩欧美精品免费久久| av在线app专区| 久久久久久久久久久免费av| 伊人亚洲综合成人网| 日韩不卡一区二区三区视频在线| 一级片'在线观看视频| 大片电影免费在线观看免费| 欧美少妇被猛烈插入视频| 日日爽夜夜爽网站| 麻豆精品久久久久久蜜桃| 日韩欧美一区视频在线观看| 人妻夜夜爽99麻豆av| 精品久久蜜臀av无| 亚洲精品国产av成人精品| 国产高清三级在线| 国产av精品麻豆| xxx大片免费视频| 久久国内精品自在自线图片| 欧美一级a爱片免费观看看| 日本免费在线观看一区| 色吧在线观看| 日韩欧美精品免费久久| 中文字幕人妻熟人妻熟丝袜美| 久久久久久久久久人人人人人人| 国产精品秋霞免费鲁丝片| 欧美精品亚洲一区二区| 99视频精品全部免费 在线| 中国国产av一级| 亚洲国产毛片av蜜桃av| 视频区图区小说| 欧美精品亚洲一区二区| 色网站视频免费| 久久人人爽av亚洲精品天堂| 考比视频在线观看| 国产成人精品婷婷| 久久久国产欧美日韩av| 日韩精品有码人妻一区| 少妇 在线观看| 熟女电影av网| 在线观看免费高清a一片| 午夜免费男女啪啪视频观看| 高清av免费在线| 亚洲精品乱码久久久v下载方式| 天天躁夜夜躁狠狠久久av| 欧美日韩国产mv在线观看视频| 亚洲国产精品999| 最近最新中文字幕免费大全7| 亚洲精品456在线播放app| 91久久精品电影网| 日韩免费高清中文字幕av| 亚洲性久久影院| 免费久久久久久久精品成人欧美视频 | 国产精品秋霞免费鲁丝片| 三级国产精品片| 永久网站在线| 成人无遮挡网站| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 亚洲经典国产精华液单| 日本爱情动作片www.在线观看| 人妻 亚洲 视频| 成人国产av品久久久| 黄片无遮挡物在线观看| 最近2019中文字幕mv第一页| 国产免费福利视频在线观看| 丰满少妇做爰视频| 午夜福利,免费看| 国产国拍精品亚洲av在线观看| 自线自在国产av| 久久99蜜桃精品久久| 丝袜脚勾引网站| 人人妻人人澡人人爽人人夜夜| av天堂久久9| 亚洲国产毛片av蜜桃av| 女人精品久久久久毛片| 亚洲不卡免费看| 成人手机av| 黄色视频在线播放观看不卡| 两个人的视频大全免费| 春色校园在线视频观看| 免费高清在线观看日韩| xxxhd国产人妻xxx| 99re6热这里在线精品视频| 亚洲欧洲日产国产| 亚洲丝袜综合中文字幕| 国产欧美另类精品又又久久亚洲欧美| 丝瓜视频免费看黄片| 只有这里有精品99| 麻豆乱淫一区二区| freevideosex欧美| 九色亚洲精品在线播放| 夜夜看夜夜爽夜夜摸| 91精品国产国语对白视频| 亚洲国产精品999| 多毛熟女@视频| 国产亚洲av片在线观看秒播厂| 日韩精品有码人妻一区| 亚洲人成网站在线播| 国产黄频视频在线观看| 国产黄色视频一区二区在线观看| 成人毛片60女人毛片免费| 亚洲国产av新网站| 亚洲国产成人一精品久久久| 欧美日韩精品成人综合77777| 欧美xxxx性猛交bbbb| 免费观看av网站的网址| 精品久久久精品久久久| 99精国产麻豆久久婷婷| 午夜老司机福利剧场| 国产精品一区二区三区四区免费观看| 久久久久人妻精品一区果冻| 91精品一卡2卡3卡4卡| 久久久国产一区二区| 久久久国产欧美日韩av| 中国三级夫妇交换| 久久久久久久亚洲中文字幕| 黑人高潮一二区| 新久久久久国产一级毛片| 最黄视频免费看| 国产视频内射| 国产黄频视频在线观看| 另类精品久久| 国产午夜精品久久久久久一区二区三区| 精品一区二区三区视频在线| 成人毛片a级毛片在线播放| 久久国内精品自在自线图片| 寂寞人妻少妇视频99o| 毛片一级片免费看久久久久| 免费av不卡在线播放| 啦啦啦中文免费视频观看日本| 伦精品一区二区三区| 成人漫画全彩无遮挡| 免费看不卡的av| 夫妻午夜视频| 18+在线观看网站| 欧美国产精品一级二级三级| 成人午夜精彩视频在线观看| 国产视频首页在线观看| 午夜免费男女啪啪视频观看| 国产日韩一区二区三区精品不卡 | 精品午夜福利在线看| 一个人免费看片子| 18禁裸乳无遮挡动漫免费视频| av在线app专区| 菩萨蛮人人尽说江南好唐韦庄| 内地一区二区视频在线| 日韩制服骚丝袜av| 精品亚洲成a人片在线观看| 成人国产麻豆网| 99热这里只有精品一区| 菩萨蛮人人尽说江南好唐韦庄| 在线亚洲精品国产二区图片欧美 | 亚洲av成人精品一区久久| 国产精品国产三级专区第一集| 91久久精品国产一区二区成人| 成年人免费黄色播放视频| 亚洲内射少妇av| 国产欧美日韩一区二区三区在线 | 国产在线一区二区三区精| 国产国语露脸激情在线看| 国产精品蜜桃在线观看| 日韩伦理黄色片| 中文字幕亚洲精品专区| 国产极品粉嫩免费观看在线 | 超色免费av| 亚洲五月色婷婷综合| 午夜日本视频在线| 午夜激情福利司机影院| 国产午夜精品久久久久久一区二区三区| 久久99热6这里只有精品| 亚洲精品视频女| 最近的中文字幕免费完整| 亚洲av国产av综合av卡| 麻豆精品久久久久久蜜桃| 一区二区三区精品91| 少妇熟女欧美另类| 亚洲熟女精品中文字幕| 免费黄网站久久成人精品| 搡女人真爽免费视频火全软件| 纯流量卡能插随身wifi吗| 最新中文字幕久久久久| 亚洲人成网站在线播| 一区二区av电影网| 一个人免费看片子| 国产男女内射视频| 国产精品不卡视频一区二区| 天堂8中文在线网| 精品人妻熟女毛片av久久网站| av在线播放精品| 日韩熟女老妇一区二区性免费视频| 毛片一级片免费看久久久久| 中文字幕人妻丝袜制服| 久久久久精品性色| 亚洲精品自拍成人| 婷婷色av中文字幕| 国产极品粉嫩免费观看在线 | 哪个播放器可以免费观看大片| 亚洲国产欧美日韩在线播放| 国产极品粉嫩免费观看在线 | 欧美人与性动交α欧美精品济南到 | 日韩制服骚丝袜av| 午夜影院在线不卡| 国国产精品蜜臀av免费| 欧美人与善性xxx| 黄色怎么调成土黄色| 岛国毛片在线播放| 插阴视频在线观看视频| 国产女主播在线喷水免费视频网站| 九色亚洲精品在线播放| 国产午夜精品久久久久久一区二区三区| 蜜桃国产av成人99| 精品久久久久久电影网| 日韩视频在线欧美| 在线观看国产h片| 一个人看视频在线观看www免费| 天美传媒精品一区二区| videosex国产| 一本一本综合久久| 天天操日日干夜夜撸| 99热6这里只有精品| 如日韩欧美国产精品一区二区三区 | 人妻制服诱惑在线中文字幕| 丰满少妇做爰视频| 亚洲av欧美aⅴ国产| 国产日韩欧美视频二区| 看非洲黑人一级黄片| 久久精品国产鲁丝片午夜精品| 一本—道久久a久久精品蜜桃钙片| 精品久久久噜噜| av一本久久久久| 尾随美女入室| 亚洲成人手机| 两个人的视频大全免费| 久久精品久久久久久久性| 日韩伦理黄色片| 精品亚洲成国产av| 一级毛片电影观看| 人妻制服诱惑在线中文字幕| 午夜福利影视在线免费观看| 久久久亚洲精品成人影院| 国产精品国产三级国产专区5o| 五月伊人婷婷丁香| av在线老鸭窝| 日韩强制内射视频| 国产欧美亚洲国产| 久久国内精品自在自线图片| 亚洲国产毛片av蜜桃av| 日本猛色少妇xxxxx猛交久久| 两个人免费观看高清视频| 青青草视频在线视频观看| 伦理电影大哥的女人| 春色校园在线视频观看| 久久久午夜欧美精品| 国产精品久久久久久精品古装| 日韩不卡一区二区三区视频在线| 国产免费又黄又爽又色| 国产亚洲最大av| 欧美激情国产日韩精品一区| videossex国产| 边亲边吃奶的免费视频| 国产精品久久久久久精品古装| 日韩制服骚丝袜av| 午夜免费观看性视频| 久久人人爽av亚洲精品天堂| 大陆偷拍与自拍| a 毛片基地| 日本av免费视频播放| 久久精品国产鲁丝片午夜精品| 久久人人爽人人爽人人片va| 日日摸夜夜添夜夜添av毛片| 99九九在线精品视频| 人成视频在线观看免费观看| 美女视频免费永久观看网站| 亚洲国产精品专区欧美| 赤兔流量卡办理| 亚洲欧美日韩卡通动漫| 免费观看av网站的网址| 国产精品一二三区在线看| 人人妻人人澡人人看| 一个人免费看片子| 久久影院123| 国产成人精品福利久久| 在线 av 中文字幕| 日产精品乱码卡一卡2卡三| 18禁观看日本| 自拍欧美九色日韩亚洲蝌蚪91| 久久av网站| 毛片一级片免费看久久久久| 天天操日日干夜夜撸| 亚洲精品456在线播放app| 成人国产av品久久久| 亚洲,欧美,日韩| 国产精品久久久久久av不卡| 男的添女的下面高潮视频| 久热久热在线精品观看| 亚洲综合色惰| 国产不卡av网站在线观看| 国产免费视频播放在线视频| 中文天堂在线官网| 午夜精品国产一区二区电影| 日韩av免费高清视频| 不卡视频在线观看欧美| 在现免费观看毛片| 一区在线观看完整版| 欧美精品高潮呻吟av久久| 18禁在线播放成人免费| 高清午夜精品一区二区三区| 日韩一区二区三区影片| 日韩制服骚丝袜av| 秋霞伦理黄片| 一边亲一边摸免费视频| 免费人成在线观看视频色| 精品久久国产蜜桃| 亚洲精华国产精华液的使用体验| 美女内射精品一级片tv| 亚洲av中文av极速乱| 老熟女久久久| 91久久精品国产一区二区三区| 亚洲经典国产精华液单| 免费黄色在线免费观看| 精品一区二区免费观看| kizo精华| 午夜福利影视在线免费观看| 国产黄频视频在线观看| 又黄又爽又刺激的免费视频.| 国产高清国产精品国产三级| 久久久久久久久久人人人人人人| 韩国av在线不卡| 国产成人91sexporn| 国产精品人妻久久久久久| 午夜91福利影院| 亚洲精品亚洲一区二区| 丝瓜视频免费看黄片| 丰满乱子伦码专区| 色网站视频免费| 99热这里只有是精品在线观看| 久久久久久伊人网av| a级片在线免费高清观看视频| 99久久综合免费| 一级,二级,三级黄色视频| 亚洲国产成人一精品久久久| 亚洲欧洲日产国产| 久久女婷五月综合色啪小说| 日韩一区二区三区影片| 亚洲精品乱久久久久久| 国产一区二区三区综合在线观看 | 中文字幕久久专区| 久久99热这里只频精品6学生| 人妻夜夜爽99麻豆av| 中文字幕亚洲精品专区| 97在线视频观看| 老司机影院毛片| 亚洲人与动物交配视频| 久久久久久伊人网av| 国产成人一区二区在线| 夜夜骑夜夜射夜夜干| 成人黄色视频免费在线看| 日本欧美视频一区| 精品一区在线观看国产| 一个人看视频在线观看www免费| 精品卡一卡二卡四卡免费| 汤姆久久久久久久影院中文字幕| 欧美 日韩 精品 国产| 亚洲国产精品专区欧美| 亚洲三级黄色毛片| 91在线精品国自产拍蜜月| 边亲边吃奶的免费视频| 99久久人妻综合| 丰满迷人的少妇在线观看| 成年美女黄网站色视频大全免费 | 亚洲国产欧美在线一区| www.av在线官网国产| 亚洲欧美一区二区三区国产| 亚洲怡红院男人天堂| 亚洲无线观看免费| 久久久久网色| 日本wwww免费看| 久久av网站| 女性被躁到高潮视频| 又大又黄又爽视频免费| 日韩在线高清观看一区二区三区| 2021少妇久久久久久久久久久| 日韩伦理黄色片| 国产精品人妻久久久久久| 国产亚洲精品久久久com| 精品国产乱码久久久久久小说| 久久毛片免费看一区二区三区| 日韩免费高清中文字幕av| 美女主播在线视频| 男女无遮挡免费网站观看| 好男人视频免费观看在线| 久久99蜜桃精品久久| 久久狼人影院| videossex国产| 如日韩欧美国产精品一区二区三区 | 国产免费福利视频在线观看| 狠狠精品人妻久久久久久综合| 一级毛片电影观看| 中文字幕人妻丝袜制服| 18禁观看日本| 丰满迷人的少妇在线观看| 两个人的视频大全免费| 日日啪夜夜爽| 国产黄片视频在线免费观看| 亚洲人成77777在线视频| 简卡轻食公司| 国产一区二区三区av在线| 一区二区三区四区激情视频| 在线免费观看不下载黄p国产| 久久99一区二区三区| 秋霞在线观看毛片|