• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能對就業(yè)影響研究的現(xiàn)狀、熱點與趨勢
    ——基于知識圖譜文獻計量方法

    2020-10-20 07:12:06董曉雨
    科技管理研究 2020年17期
    關鍵詞:人工智能文獻影響

    何 勤,邱 玥,董曉雨

    (北京聯(lián)合大學管理學院,北京 100101)

    1 研究背景

    近年來,人工智能技術因其運用領域廣泛,在一些特定工作任務中遠超人類能力極限,而受到國內外各行業(yè)的廣泛重視。以無人駕駛、智能機器人為代表的人工智能技術發(fā)展迅速,深刻地改變人們的工作方式和生活方式[1]。與以往技術進步相比,人工智能不僅對以制造業(yè)為代表的機械化工作產(chǎn)生影響,而且將進入以服務業(yè)為代表的情境類工作任務中。在改變生產(chǎn)和生活空間的過程中[2],人工智能對當前的就業(yè)結構帶來一定程度的重塑效應,同時沖擊就業(yè)市場的技能結構和進入門檻。

    新技術對就業(yè)的影響在學術界一直是學者們探討和爭論的焦點。經(jīng)濟和管理領域的學者們主要將人工智能對就業(yè)的影響分為兩種,一是破壞效應,即對人類勞動力的替代;二是創(chuàng)造效應,即創(chuàng)造出新的工作機會。然而隨著技術創(chuàng)新不斷取得新進展,人工智能技術對就業(yè)的影響存在復雜性特征,主要表現(xiàn)為:一是短期和長期對就業(yè)的不同影響[1,3-7];二是不同發(fā)展階段對就業(yè)的不同影響[8-9];三是基于地域、行業(yè)或職業(yè)特定情境下的不同影響[10-12]。隨著各行業(yè)對人工智能技術的不斷重視,人工智能對就業(yè)的影響逐漸凸顯,獲取人工智能對就業(yè)影響主題方面的知識結構和最新情報進展對明確這一領域的未來研究和發(fā)展方向尤為重要。

    本文對國內外文獻進行計量分析,主要回答以下問題:當前涉及研究人工智能影響就業(yè)的國家有哪些?國內外學者們當前的研究現(xiàn)狀是怎樣的?從國際上看,人工智能對就業(yè)影響的研究熱點和趨勢是怎樣的?通過運用知識圖譜的方法,以可視化的方式呈現(xiàn)核心國家、研究機構和重點文獻,在對關鍵詞共現(xiàn)分析的基礎上,將關鍵詞進行聚類和時區(qū)劃分,以直觀地了解到人工智能影響就業(yè)主題下的研究現(xiàn)狀,并提出未來研究的十大趨勢。

    2 數(shù)據(jù)來源與方法

    2.1 數(shù)據(jù)來源

    本文選取2009—2019年相關國內外文獻進行分析,數(shù)據(jù)來源分為兩個部分:一是外文文獻源自于Web Of Science(SCIE/SSCI)數(shù)據(jù)庫,以“Artificial Intelligence”兼“Labor”“Job”“Work”為檢索詞,篩選出100篇有效WOS核心文獻;二是中文文獻源自于中國知網(wǎng)(CNKI)數(shù)據(jù)庫,以“人工智能”并含“就業(yè)”“勞動力”“勞動”為檢索詞,篩選出相關的有效文獻145篇,其中包括CSSCI、核心期刊文獻65篇。從國內外發(fā)文數(shù)量可以看出,當前在人工智能對就業(yè)的影響領域學者們還沒有形成較大的研究規(guī)模,但隨著人工智能技術的影響不斷在全球勞動力市場產(chǎn)生較大影響,學術界逐漸意識到問題的重要性和研究的必要性,并針對人工智能對就業(yè)的影響開展深入研究。

    2.2 研究方法

    知識圖譜是當前較受歡迎的研究文獻的方法,它將計算機技術和計量學兩門學科相結合[13],可以呈現(xiàn)出一定時期內某一研究領域的研究熱點、演進歷程和發(fā)展趨勢[14],并且形象地表達文獻中蘊含的信息,有效地發(fā)掘文獻背后隱藏的特性、模式和趨勢,顯示科學知識發(fā)展進程與結構關系[13]。它主要是根據(jù)所導入的研究文獻為樣本,根據(jù)需要研究的內容和標準形成可視化圖示。

    本文所運用的知識圖譜分析方法主要包括文獻共引分析以及機構、關鍵詞共現(xiàn)分析。文獻共引分析可以用來研究在某一領域內早期的研究、理論傳播過程以及知識前沿,文獻共引知識圖譜能夠識別出最有影響力的文獻和與之相關的理論[15]。關鍵詞共現(xiàn)分析是通過提取所導入的文獻數(shù)據(jù)中的關鍵詞,并根據(jù)關鍵詞出現(xiàn)的頻率以及相近詞組之間的聯(lián)系進行分析。關鍵詞共現(xiàn)知識圖譜可以針對一組文獻分析對象的主題、趨勢和結構特征[16]。

    本文借助Citespace5.4軟件對人工智能與就業(yè)領域的文獻進行知識圖譜分析。Citespace軟件是由美國德雷塞爾大學陳超美教授基于JAVA平臺開發(fā)出來的一種可視化分析工具[14]。通過從WOS數(shù)據(jù)庫和CNKI數(shù)據(jù)庫中檢索出國內外文獻,生成了國家/地區(qū)知識圖譜、發(fā)文機構知識圖譜、文獻共引知識圖譜和關鍵詞共現(xiàn)知識圖譜,以此來分析學術界關于人工智能影響就業(yè)的研究現(xiàn)狀、熱點和趨勢,并根據(jù)重點文獻來進行深入分析,與經(jīng)典理論和前沿問題對接。

    3 研究現(xiàn)狀

    3.1 研究規(guī)模

    從國內外發(fā)文數(shù)量,共245篇,可以看出,當前在人工智能對就業(yè)的影響領域學者們還沒有形成較大的研究規(guī)模,但隨著人工智能技術的影響不斷在全球勞動力市場產(chǎn)生較大影響,學術界逐漸意識到問題的重要性和研究的必要性,并針對人工智能對就業(yè)的影響開展深入研究。

    3.2 合作網(wǎng)絡分析

    3.2.1 研究核心國家或地區(qū)分析

    根據(jù)上述方法所收集的文獻,運用Citespace對于WOS數(shù)據(jù)庫中所收集的100篇國際期刊文獻所屬國家或地區(qū)進行知識圖譜分析(如圖1),這些文獻所涉及的國家或地區(qū)總數(shù)為9個,分別為美國、荷蘭、德國、意大利、英國、中國、澳大利亞、芬蘭和法國。在圖1中,每一個圓點(即節(jié)點)都代表一個國家或地區(qū),其中圓點的大小與該國或該地區(qū)的發(fā)文數(shù)量成正比,即發(fā)文頻率越高,則圓點越大。兩個節(jié)點之間的連線代表兩國或地區(qū)在該領域的聯(lián)系,線條越粗則表示聯(lián)系越密切??梢钥闯?,發(fā)文量最多的是美國,說明在美國學術界較早開始研究人工智能對就業(yè)的影響,并且形成了一定數(shù)量的研究成果,其次是德國、荷蘭和意大利。目前我國在人工智能對就業(yè)的影響這一主題的研究被國外期刊收錄較少,在國外還未產(chǎn)生較高的影響力。德國與荷蘭、中國與澳大利亞、美國與英國的學者在該領域的研究有一定聯(lián)系。

    圖1 2009—2019年發(fā)文國家或地區(qū)可視化知識圖譜

    3.2.2 主要研究機構分析

    本文對WOS數(shù)據(jù)庫和CNKI數(shù)據(jù)庫中所收集的文獻分別利用Citespace軟件繪制了人工智能對就業(yè)影響研究的機構共現(xiàn)知識圖譜(如圖2、圖3),并將主要機構進行整理和匯總(如表1)。通過對比呈現(xiàn)的國內外機構,可以看出,發(fā)文機構基本上為高等院?;蜓芯繂挝唬芯康膶W科領域主要集中于管理學和經(jīng)濟學,這和以往學者們的研究領域類似,說明當前該領域當前主要是運用經(jīng)濟學和管理學相關理論來分析人工智能技術進步對就業(yè)的影響。從人工智能發(fā)展現(xiàn)狀和趨勢來看,研究人工智能與就業(yè)的關系需要進行多學科、跨領域研究,包括計算機、哲學、法學、社會學等。一方面,人工智能帶來工作方式的變革,如機器人對生物人的完全替代、人機協(xié)同工作等,工作場景、管理對象更加復雜化和多樣化,并且人工智能的影響逐漸由制造業(yè)向服務業(yè)拓展,受影響人群發(fā)生一定變化。另一方面,根據(jù)學者提出“奇點”相關理論,當“強人工智能”時代到來,智能化機器人將會擁有類人思維和能力,人類將會與智能機器人共同生存和工作過程中,將會涉及人工智能的法律和倫理等方面的問題,因此需要結合社會學、法學、哲學等多學科進行研究。

    圖2 2009—2019年國外關于人工智能對就業(yè)影響的研究機構共現(xiàn)知識圖譜

    此外,從圖2、3中可以看出,各機構之間較為獨立,國外研究機構間僅美國麻省理工學院與美國波士頓大學、日本聯(lián)合國大學與英國倫敦經(jīng)濟學院之間存在合作關系,國內僅南京大學經(jīng)濟學院與南京審計學院經(jīng)濟系之間存在合作關系。各機構獨立研究可以充分利用內部資源,憑借各院系或部門之間的合作提出新的研究視角;同時,與外部機構建立合作關系能夠更加廣泛和快速地了解到前瞻性研究趨勢,相對于獨立研究更能夠做出有價值的研究。

    綜上,通過研究機構分析發(fā)現(xiàn)當前多學科及跨學科開展研究不足。研究機構之間開展的合作研究甚少,很難形成跨領域及多學科交叉融合創(chuàng)新。

    圖3 2009—2019年國內關于人工智能對就業(yè)影響的研究機構共現(xiàn)知識圖譜

    表1 國內外文獻中關于人工智能影響就業(yè)的研究機構

    4 人工智能影響就業(yè)的研究熱點分析

    4.1 關鍵詞共現(xiàn)主題分析

    文獻中的關鍵詞主要用于表達主題的內容,承載著研究中富有創(chuàng)造性的發(fā)現(xiàn)和思想,關鍵詞的中心性和頻次能夠反映其熱度和趨勢[17]。針對2009—2019年的文獻,本文統(tǒng)一選擇時間切片為一年,在Node Types選項中將節(jié)點類型選擇為“Keyword”,以此反映出在這一研究領域當前以及過去的研究熱點和趨勢。在Selection Criteria選項中將Top N%的N值設為50,并且不超過100,繪制出2009—2019年人工智能對就業(yè)影響效應研究的關鍵詞共現(xiàn)圖譜(如圖4、5)。圖中的節(jié)點表示的是分析的對象,根據(jù)出現(xiàn)的頻次,節(jié)點大小不一,即頻次越高,節(jié)點視圖越大,說明該關鍵詞在這一領域中受關注程度越高。文獻的影響程度由中心性體現(xiàn)出來,中心性越強,說明該文獻的影響力越大。

    從圖中可以看出,學者們在研究人工智能對就業(yè)的影響這一主題中,所涉及的關鍵詞較為豐富,并且關聯(lián)較為密切,說明從國際視角來看,當前學術界對人工智能與就業(yè)關系問題較為關注,并從多個角度挖掘人工智能所帶來的勞動力市場變化,以探尋其中的成因和本質。然而,從我國國內期刊文獻關鍵詞共現(xiàn)知識圖譜來看,其所涉及的關鍵詞數(shù)量較少,并且各關鍵詞之間的關聯(lián)較為單一,說明我國學術界在人工智能等技術進步對就業(yè)的影響這一主題的研究還不夠成熟,并且規(guī)模較小,說明國內學者在這方面的研究還處于起步階段,有待進一步深入開展相關研究。

    本文針對圖4和圖5中的高頻關鍵詞進行了統(tǒng)計,分別對國內外在2009—2019年度人工智能技術對就業(yè)影響研究中關鍵詞進行了排名(如表2、表3),排名的標準有兩類,依次是關鍵詞的頻次和中介中心性。其中,關鍵詞的頻次主要反映的是在這一主題下研究熱點的整體情況;中介中心性的高低表示的是其所對應的關鍵詞在整個研究網(wǎng)絡中的媒介能力以及網(wǎng)絡資源控制能力的強弱[18],由這一點出發(fā)將其他的節(jié)點連接起來。

    圖4 2009—2019年國外文獻關于人工智能對就業(yè)影響的關鍵詞共現(xiàn)知識圖譜

    圖5 2009—2019年國內文獻關于人工智能對就業(yè)影響的關鍵詞共現(xiàn)知識圖譜

    表2 國外文獻中關于人工智能技術進步對就業(yè)的影響研究的前十位關鍵詞排名

    表3 國內文獻中關于人工智能對就業(yè)的影響研究的前十位關鍵詞排名

    從表2、表3中均可以看出,國外學者在研究人工智能對就業(yè)的影響中,關注的議題更為廣泛,既包括人工智能技術進步帶來的就業(yè)極化、工資結構失衡和不平等性等消極影響,同時也關注人工智能對推動經(jīng)濟增長等方面的積極作用,以及人工智能技術在就業(yè)市場中所帶來的需求變化、技能要求變化和未來可能性的預測等方面的研究。在國內文獻的關鍵詞中,主要關注人工智能對就業(yè)量、就業(yè)結構的影響以及帶來的就業(yè)效應兩大議題,對就業(yè)效應的結論中大部分為中性詞,即國內學者的研究中沒有明顯的消極或積極偏向,分析其中的原因:一是我國國內對人工智能技術進步的研究還未成熟,缺乏相應的定量研究,也就很難得出一致性的結論;二是國內學者們在借鑒國外理論和研究中,認識到了人工智能對就業(yè)影響的雙重作用。

    此外,基于頻次排名的關鍵詞和基于中介中心性排序的關鍵詞存在差異,尤其是國外文獻關鍵詞排名中的差異更為明顯,這說明國外學者在研究人工智能技術進步對就業(yè)的影響因素時,不限于對這一主題中所有主要因素的研究,而是更注重對關鍵因素的深入剖析,深入研究人工智能技術進步對就業(yè)產(chǎn)生的影響,這對于解決國內就業(yè)問題提供較為明確的指導,然而眾多學者的研究方向較為分散,不利于開展整合性研究。相比較而言,國內文獻中的關鍵詞排名也有不同,但總體上大致相似,體現(xiàn)出我國學者在對這一主題的研究中,傾向于將注意力放在宏觀問題的思考上,在一個較大的主題中涵蓋多種因素,但缺乏對影響因素的深度分析。

    綜上,通過對國內外相關文獻的關鍵詞共現(xiàn)分析發(fā)現(xiàn),當前研究存在以下不足:一是缺乏對微觀企業(yè)層面的深入研究;二是主要關注就業(yè)量、就業(yè)結構,而對就業(yè)質量鮮有關注;三是對就業(yè)人群、細分行業(yè)的“異質化”研究不足。

    4.2 聚焦領域分析

    在上述人工智能對就業(yè)影響主題的關鍵詞分析的基礎上,對外文文獻中的關鍵詞共現(xiàn)結果進行聚類處理,得出這一研究主題下具有代表性的研究子群,從而繪制出人工智能對就業(yè)影響的關鍵詞聚類視圖(如圖6),關鍵詞聚類分析知識圖譜顯示,Sihouette=0.8286,說明所劃分的各研究子群明確度較強[19]。

    從圖中能夠直觀地看到,關鍵詞劃分出的4個聚類及其標簽,即技術進步(Technological Change)、數(shù)字化轉型(Digital Transformation)、工作時長(Job Duration)和常規(guī)性結構變化(Usual Structural Change)。一方面,技術進步與數(shù)字化轉型這兩個主題從宏觀層面研究環(huán)境因素對就業(yè)的影響,即外生的技術環(huán)境變量,技術進步、數(shù)字化轉型對就業(yè)的影響,探索了人工智能對就業(yè)影響的前因變量中的環(huán)境因素。當前世界正在經(jīng)歷第四次科技革命,結合過去的三次技術革命來看,每一次新技術的研發(fā)和運用都是在原有手段的基礎上進行改造升級,在技術積累的基礎上創(chuàng)新,以推動生產(chǎn)效率的提高和經(jīng)濟的發(fā)展。當前正處于信息時代向智能時代的過渡期,數(shù)字化轉型成為人工智能對就業(yè)影響的重要情景因素。另一方面,工作時長和常規(guī)性結構變化兩個主題從影響效應角度探討人工智能對以工作時長表征的勞動效率以及就業(yè)結構的影響結果,即人工智能對就業(yè)在崗位層級、技能等級、工資收入、工作時間等方面的影響。從經(jīng)濟學理論和過去三次技術革命來看,技術進步必然會提高勞動生產(chǎn)率,拉動經(jīng)濟增長,進而提高國民收入,讓消費者產(chǎn)生更多的需求,增加各行業(yè)的勞動力需求,這些方面都會對一個國家的就業(yè)產(chǎn)生各方面的影響。例如,國內外部分學者著重研究技能偏向型技術進步對就業(yè)和勞動力工資的影響,他們認為由于技能偏向型技術進步所增加的就業(yè)崗位主要滿足了高技能勞動者的就業(yè)需求,低技能崗位依舊處于減少的趨勢,因此加劇了工資的兩極化。

    綜上所述,人工智能對就業(yè)影響研究的熱點聚焦在影響因素和影響結果兩個方面,技術進步、數(shù)字化轉型、工作時長和常規(guī)性結構變化四個領域。

    圖6 2009—2019年人工智能對就業(yè)影響研究的關鍵詞聚類知識圖譜

    4.3 研究熱點演進歷程分析

    通過對關鍵詞分析以及關鍵詞聚類,在Citespace中選擇Timeline構建基于關鍵詞的人工智能影響就業(yè)時區(qū)圖譜(如圖7)。

    根據(jù)近10年外文文獻的時間節(jié)點,從2009—2013年期間,人工智能對就業(yè)影響相關主題的研究處于瓶頸期:2013年前,相關主題的研究主要涉及對技術變革帶來勞動力需求變化;而人工智能與就業(yè)關系的研究主要集中于2013年,學術界不僅關注人工智能對就業(yè)數(shù)量的影響,而且開始探討人工智能技術進步下“極化”問題。其原因為,在這一時期人工智能技術的研發(fā)暫未取得突破性進展,沒有體現(xiàn)出與自動化和以往技術創(chuàng)新的相比的獨特優(yōu)勢,技術成本和人才資源使得各行業(yè)對人工智能的采納程度還未達到一定規(guī)模,并且在就業(yè)市場上,技術性失業(yè)還未成為長期性的嚴重問題[20]。從2014年開始,數(shù)字化轉型方面的研究受到較多學者持續(xù)的關注,并且與技術進步和工作時長兩個主題成為學術界現(xiàn)在與未來關于人工智能影響就業(yè)領域的重要研究方向。在2017年至當前,關于常規(guī)性結構變化主題的研究開始出現(xiàn),但還未形成一定的規(guī)模,但在2018年越來越多這一主題相關的關鍵詞開始出現(xiàn),說明在未來這一主題的研究將會成為學術界關注的新研究方向。

    從研究主題來看,一方面較早且持續(xù)受到關注的子主題為技術進步、數(shù)字化轉型以及工作時長,并且在當前仍然有作為研究人工智能對就業(yè)影響的重要視角的趨勢;另一方面,常規(guī)性結構變化這一子主題的研究在近兩年開始興起,說明學者們開始關注在微觀領域人工智能對就業(yè)結構的影響。

    圖7 2009—2019年人工智能對就業(yè)影響研究的時區(qū)圖譜

    4.4 關鍵節(jié)點文獻分析

    文獻共引分析可以較為直接地了解一篇文獻與其被引用的文獻之間的結構關系,建立起學科或學術領域的關系構架,并且通過知識圖譜的繪制,能夠確定某一學科領域的研究起源和理論基礎[21]。

    在學者們對以往技術進步影響就業(yè)的研究中,基本上以西方的經(jīng)濟學原理和管理理論為基礎,并且目前也將其運用到人工智能對就業(yè)的影響研究中。為了尋找并分析這些理論的來源和基礎,本文根據(jù)所選取的WOS數(shù)據(jù)庫中的外文文獻,繪制文獻共引知識圖譜(如圖8)。圖8中的每個節(jié)點都表示一篇被引文獻,節(jié)點的大小與其被引用的次數(shù)成正比。兩個節(jié)點之間的連線則代表了文獻間的共引關系,連線的粗細與這兩篇文獻一同被引用的次數(shù)呈正比關系,連線越粗,說明文獻內容越相似。

    圖8 外文文獻中關于人工智能影響就業(yè)的被引文獻知識圖譜

    點的中心性體現(xiàn)了該點所代表的被引文獻在網(wǎng)絡中的重要地位,也代表了研究熱點,常用中心度指標來表示,測算方式為一條經(jīng)過網(wǎng)絡中某點并連接這兩點的最短路徑比這兩點之間的最短路徑總數(shù)。根據(jù)中心度的高低,截取了前五篇關鍵節(jié)點文獻并進行了排名(如表4)。影響力最高的5篇論文的研究結論和主要觀點如下:

    (1)發(fā)現(xiàn)和解釋了人工智能技術進步帶來的就業(yè)極化現(xiàn)象。排在首位的是GOOS M于2014年發(fā)表的論文Explaining Job Polarization:Routine-Biased Technological Change and Offshoring,在Web of Science中被引次數(shù)為138。Goos等[22]認為偏重常規(guī)的技術變革造成了就業(yè)的兩極分化。雖然以往學者收集了幾十年的數(shù)據(jù)來說明“技術偏向型技術變革”假說[21],但是對就業(yè)兩極分化的解釋不夠,Goos等[22]通過收集西歐16個國家的就業(yè)數(shù)據(jù),表明在發(fā)達經(jīng)濟體中普遍存在就業(yè)極化現(xiàn)象,即當前的技術變革主要對常規(guī)性的勞動任務起到替代作用,中等技能崗位的勞動需求相對于高技能和低技能崗位呈減少趨勢。并且Goos等[22]根據(jù)Katz開發(fā)的規(guī)范模型,對就業(yè)極化現(xiàn)象進行量化解釋和估計,尤其是證實了行業(yè)間和行業(yè)內部的就業(yè)分化,高薪專業(yè)人員和管理人員以及低收入的服務工作者的就業(yè)份額不斷上升,而制造業(yè)和常規(guī)辦公室工作人員的就業(yè)份額在不斷下降。當前全球的人工智能水平還處于弱人工智能階段,雖然人工智能技術由制造業(yè)向服務業(yè)逐漸延伸,但工作效率仍不高,智能機械設備與傳統(tǒng)的自動化技術還存在著緊密的聯(lián)系。在弱人工智能階段向強人工智能階段的發(fā)展過程中,將會進一步促進就業(yè)極化趨勢。

    表4 外文文獻中關于人工智能影響就業(yè)的關鍵節(jié)點文獻信息

    (2)提出人工智能對就業(yè)的影響機制并進行了實證檢驗。發(fā)現(xiàn)了企業(yè)績效在人工智能技術創(chuàng)新與就業(yè)之間的中介作用以及創(chuàng)新類型的調節(jié)作用及其在制造業(yè)和服務業(yè)中的表現(xiàn)差異。其次影響度較高的是Evangelista R在2012年發(fā)表的文章The impact of technological and organizational innovations on employment in European firms,被引率為38。他通過實證研究得出結論,技術創(chuàng)新通過提高企業(yè)的績效對就業(yè)產(chǎn)生間接的正向影響,并且影響強度會因創(chuàng)新類型的不同存在差異,主要取決于產(chǎn)業(yè)之間的投入產(chǎn)出關系、勞動力市場結構、產(chǎn)品和工藝創(chuàng)新的相對比例、部門內和部門間的替代彈性以及需求和收入彈性。Evangelista等[24]將服務業(yè)引入研究中,提出了當前有待分析的問題,即技術和組織創(chuàng)新是為了降低生產(chǎn)成本、提高生產(chǎn)力,還是為了提高產(chǎn)品和服務的性能和質量內容?在服務業(yè)領域中,引進新技術帶來的產(chǎn)品和過程創(chuàng)新并不一定能夠代表企業(yè)的經(jīng)濟活動和創(chuàng)新活動,而在制造業(yè)中,過程創(chuàng)新所帶來的對就業(yè)的消極作用是較為顯著的。人工智能技術在制造業(yè)中發(fā)揮了較大的作用,主要表現(xiàn)為生產(chǎn)效率的提高,然而在服務業(yè)投入使用智能機器人還沒有產(chǎn)生較為理想的效果,因為這一領域對人類的思維和意識有一定的要求,但目前的人工智能僅在程序性操作方面的運用較為廣泛。

    (3)發(fā)現(xiàn)并解釋了人工智能技術進步帶來的工資極化和結構性失業(yè)。排在第3位的是Autor于2013年發(fā)表的文章The Growth of Low-Skill Service Jobs and the Polarization of the US Labor Market,被引率為336。他提出以技能為導向的技術變革是導致工資不平等加劇的主要原因,并且提出了不平等演變的兩個主要特征:一是按照技能水平劃分,就業(yè)增長呈現(xiàn)U型;二是,在同一時期,工資增長呈U型?;凇磅U莫爾成本病”理論,Autor等[25]提出有兩種力量驅動兩極分化的程度,即消費者偏好和非中性技術進步。他認為專門從事常規(guī)性任務、密集型職業(yè)會:1)通過計算機技術取代工人;2)隨著低技能勞動力重新配置到手工任務密集型的個人服務行業(yè)中,就業(yè)兩極分化日益凸顯;3)工資(名義)水平在職業(yè)技能劃分的兩端呈現(xiàn)出更大程度的增長趨勢;4)由于商品生產(chǎn)中的抽象勞動和服務生產(chǎn)中的手工勞動需求上升,受教育程度較高和較低的勞動力需求都較大。人工智能對中等技能崗位的替代,使得這一部分就業(yè)人員朝著高技能和低技能崗位進行流動,從而形成了就業(yè)極化現(xiàn)象。與此同時,由于人工智能等技術進步存在創(chuàng)造和替代雙重效應,對于不同行業(yè)來說,何種效應占據(jù)主導地位會對這一行業(yè)的勞動力需求產(chǎn)生影響,于是會出現(xiàn)一些崗位被替代而導致大量人員失業(yè),還有一部分崗位空缺無人填補的現(xiàn)象,即結構性失業(yè)[26]。

    (4)探索了人工智能技術進步對就業(yè)質量的影響及原因,并關注到人機協(xié)同效應。排在第4位的是AUTOR DH在2015年發(fā)表的文章Why Are There Still So Many Jobs?The History and Future of Workplace Automation,其被引率為257。在文獻中,Autor等[26]將現(xiàn)階段的人工智能技術水平看作是自動化技術的一種,說明現(xiàn)階段人工智能技術還處于弱人工智能階段,也就是說,人工智能的運用依舊僅限于生產(chǎn)和制造等處理程序化工作的環(huán)節(jié)。與他在2013年所發(fā)表的文章有相似的觀點,即人工智能等技術進步會進一步加深就業(yè)的兩極分化。他在這篇文獻中提出,自動化不一定會減少就業(yè)總量,但會影響工作的質量。Autor等[23]認為,人工智能為代表的自動化技術與就業(yè)的關系受到三個因素的影響:第一,人機協(xié)同完成工作的工人會從自動化中直接受益,被機器人替代的工人會被淘汰;第二,勞動力供給彈性會減緩工資增長;第三,需求彈性可以抑制或者放大自動化的收益。雖然當前中等技能工作較易受到人工智能的影響,但就業(yè)極化不會無限期地持續(xù)下去。并且,由于技能結構的變化,人工智能也會帶來工資的兩極分化,能夠進行人機協(xié)同完成任務的新型勞動者在未來會更有市場。

    (5)觀察和證實了人工智能技術進步帶來的認知任務需求減少導致的由高技能對低技能勞動者的擠壓造成的失業(yè)問題。排在第5位的是Beaudry在2016年發(fā)表的文章The Great Reversal in the Demand for Skill and Cognitive Tasks,被引頻次為33。Beaudry等人[27]在其研究框架中證明,自從21世紀以來,認知任務的需求(與具有高水平教育的技能相關的需求)較過去一直在下降,這不僅會對更多熟練(即高技能)工人產(chǎn)生直接影響,并且也可能會對低技能工人產(chǎn)生較大影響。為了應對技術進步所帶來的需求逆轉,高技能工人可能會不得不轉移到過去由低技能工人從事的工作中,從而導致低技能工人走向失業(yè)。在其所建立的模型中說明,由于當前處于對通用技術(GPT)投資的成熟階段,認知任務的需求并不是停止了,而是變慢了。

    5 研究趨勢

    人工智能技術的發(fā)展和運用再次引起人們對技術進步對就業(yè)影響的關注,隨著技術研發(fā)不斷取得突破,新的問題將會不斷涌現(xiàn)?;谇拔牡难芯楷F(xiàn)狀、研究熱點、以及發(fā)現(xiàn)的研究缺口,提出未來可能的十大研究趨勢。

    (1)人工智能對就業(yè)影響的“情景化”研究?,F(xiàn)有關于技術進步以及人工智能技術進步對就業(yè)影響的理論大都基于西方情景,對我國的實證分析也大都是引進西方的相關理論進行分析和解釋,缺乏我國現(xiàn)實情景下的理論分析框架和基于本土情景的理論構建。當前我國面臨人口老齡化、產(chǎn)業(yè)轉型升級、政府和法律強監(jiān)管等現(xiàn)實情景因素,研究人工智能技術對就業(yè)的影響將為我國經(jīng)濟和勞動力市場的發(fā)展提供更有針對性的理論基礎和分析框架。陳秋霖等人[11]引入人口老齡化背景研究人工智能的勞動力替代效應,結果顯示人口老齡化對人工智能發(fā)展起到推動作用,人工智能技術與勞動力之間的替代效應體現(xiàn)為“補位式替代”,即對勞動力人口短缺的工作崗位代替人類完成任務。郭凱明[28]通過建立多部門動態(tài)一般均衡模型,研究人工智能對產(chǎn)業(yè)結構轉型升級和勞動收入份額變動的影響,提出其影響方向根據(jù)產(chǎn)業(yè)部門的不同而存在差異,因而需要根據(jù)特定行業(yè)進行具體分析。綜上,結合中國的具體情景對人工智能與就業(yè)的關系、影響機制和作用路徑、影響效應展開研究,將為構建適用于我國本土情境的理論分析框架奠定基礎。

    (2)人工智能對就業(yè)影響的“異質化”研究。當前關于人工智能等技術進步對就業(yè)的影響在國內外學術界已經(jīng)開展了大量研究,并且主要是從宏觀視角下進行整體性分析。然而在人工智能對就業(yè)的影響結果上,學者們的觀點存在較大差異。這說明,僅從宏觀層面上分析技術創(chuàng)新對就業(yè)的影響會因情境偏差而導致研究結論失真。人工智能對就業(yè)的影響具有復雜性,涉及的領域廣、影響范圍大,但對于不同地區(qū)和行業(yè)來說,人工智能技術的發(fā)展水平和應用程度不同,會對不同區(qū)域、行業(yè)、職業(yè)、人群就業(yè)的數(shù)量、結構和質量產(chǎn)生不同的影響。因此,需要進一步對區(qū)域、行業(yè)或領域、職業(yè)、人群進行細分,以把握不同情境下人工智能影響就業(yè)的“異質性”。

    (3)人工智能對就業(yè)的“重塑效應”研究?,F(xiàn)有關于人工智能影響就業(yè)的文獻中,大多關注到兩種效應,即“替代效應”和“創(chuàng)造效應”,事實上,人工智能對就業(yè)的影響較前三次工業(yè)革命更加深刻和復雜,還有除上述兩種效應外的其他效應值得深入探究。已有較多研究關注人工智能技術進步對就業(yè)數(shù)量和就業(yè)結構的影響。在就業(yè)數(shù)量方面,學術界通過理論和實證分析已經(jīng)取得了一定的研究成果,形成一定的研究規(guī)模,然而在就業(yè)結構重塑方面還停留在理論探索階段。與以往技術進步相比,人工智能技術對就業(yè)產(chǎn)生的重塑效應主要體現(xiàn)在,技術創(chuàng)新雖然替代人力勞動完成部分枯燥、繁瑣的工作任務,然而并非剝奪了人類的工作機會,而是更好地激發(fā)人類從事體現(xiàn)人類價值的工作,從而引發(fā)就業(yè)結構重塑。當前世界各國普遍處于“弱人工智能階段”,人工智能技術的運用更多地是為了將就業(yè)人員從過去繁瑣、乏味、沉重的工作任務中解放出來,例如人工智能替代了翻譯工作,過去負責繁重的翻譯工作的人員將從事對智能設備翻譯的內容進行審核、修改和完善。當前階段需要針對人工智能對就業(yè)領域的替代程度進行界定、分析和測度,一方面梳理人工智能技術能夠替代人類完成的工作類別,另一方面分析目前僅能由人類完成的工作任務,從而有助于厘清未來就業(yè)結構的重塑方向,以提高就業(yè)者的知識技能與工作崗位需求的匹配程度。綜上,放在一個長期、全局視角,人工智能技術進步不僅不會造成人類的既有工作被取代,同時也會制造出足夠多的新的就業(yè)機會,工作不是消失了,而是轉變?yōu)榱诵碌男问?,未來的工作轉變成何種形式?具有怎樣的新的特征,值得深入研究。

    (4)人機協(xié)同情景下的人機“共生關系”研究。在人工智能技術不斷發(fā)展的過程中,呈現(xiàn)出新的發(fā)展趨勢,即人機協(xié)作的工作模式。已有文獻針對人工智能與就業(yè)的關系進行分析,但大多數(shù)研究中將人工智能與人類勞動者在工作中的角色相分離,將當前的工作任務分為兩類,即人工智能可以替代人類完成的工作任務和現(xiàn)階段僅能由人類完成的工作任務。但在現(xiàn)階段人工智能技術發(fā)展水平下,人工智能作為一項通用型技術,對人類工作起到輔助作用,在與各行業(yè)融合的同時需要人類的參與加以完善。在未來技術不斷取得突破中,“人機協(xié)作”不僅作為緩解就業(yè)壓力的一項手段,而且為提升人類工作和生活質量奠定基礎。綜上,在人機共生情景下,人類和人工智能如何發(fā)揮各自的比較優(yōu)勢?人工智能下人機協(xié)作的工作特征、合作模式、形成機制、影響效應、管理變革等都是亟需研究的問題。

    (5)人工智能下基于人類價值的就業(yè)質量提升研究。人工智能技術對就業(yè)的影響不僅體現(xiàn)在數(shù)量和結構方面,還會對就業(yè)質量產(chǎn)生影響。目前在對就業(yè)質量方面的研究,學者們大多數(shù)關注了收入的“兩極化”現(xiàn)象,然而較多文獻主要通過理論模型進行推演,實證研究較為缺乏。也有部分學者對人工智能替代人類完成的工作內容進行分類,周文斌[29]將其概括為三類,即簡單重復性工作、危險性較大的工作以及強調精度和效率的工作。通過對人工智能能夠完成的工作任務進行梳理,為探索人類特有價值及可從事的職務。此外,在人工智能代替人類完成較為繁瑣的工作任務同時,推動人類從事更能夠體現(xiàn)人類本身價值的工作。因此,在人工智能影響就業(yè)的過程中,需要對人的價值進行挖掘,以進一步改善人類勞動者的就業(yè)質量。

    (6)人工智能下勞動者的知識技能轉化研究。從前文關鍵詞共現(xiàn)分析中發(fā)現(xiàn),國外文獻的十大關鍵詞中已關注到勞動者“技能”問題,而在國內文獻中還較為鮮見。在以往技術進步過程中,機械化生產(chǎn)使得工作任務不斷細化,從而對勞動過程產(chǎn)生去技能化作用[30]。在人工智能時代,隨著勞動力市場環(huán)境以及工作任務格局的變化,對勞動者知識技能需求也提出了新的要求。在人工智能技術的推動下,就業(yè)狀態(tài)呈現(xiàn)“兩極分化”現(xiàn)象,大量制造行業(yè)中具有重復性、精確性、常規(guī)性等特征的工作任務被智能機器替代。然而服務行業(yè)較多崗位中仍然有許多人工智能無法替代的技能要求,智能機器在當前無法替代人類的人際溝通、審美等來完成相應工作,如餐飲、美容美發(fā)、個人護理等行業(yè),這類崗位較多需要憑借人類肢體靈活性以及情感交流來完成。并且,“人機協(xié)同”的工作模式是當前人工智能發(fā)展的一大趨勢,各類崗位的人類工作者需要更加體現(xiàn)“綜合素質”的知識技能,如人對于復雜系統(tǒng)的綜合分析、決策能力,對于藝術和文化的審美能力、人際溝通能力、基于人自身的情感與他人互動的能力以及創(chuàng)造性思維。人工智能技術發(fā)展過程中帶來了工作知識技能的轉換和遷移,對其展開研究能夠發(fā)現(xiàn)人類未來的發(fā)展方向以及有效應對失業(yè)問題。綜上,人工智能下各職業(yè)的勞動者應該具備什么樣的知識技能?如何推動勞動者的知識技能轉換成為重要的研究議題。

    (7)人工智能下的就業(yè)心理的研究。技術進步在對就業(yè)產(chǎn)生影響的同時,也會對就業(yè)人員的心理帶來一定程度的影響。當前較多文獻對新技術與就業(yè)之間的關系進行分析,然而在人類就業(yè)者對人工智能等技術進步帶來勞動力市場變化的心理反應方面的研究存在較大缺口。從消極方面來看,由于人工智能對大量重復性、繁瑣性工作任務的替代,從事這一崗位的勞動者會存在對“機器換人”的焦慮心理。并且,新技術推動了整個勞動力市場技能要求的變化,人類勞動者將需要對自身從業(yè)能力進行重新界定,從而會產(chǎn)生對參與培訓所耗費的時間成本的擔憂。從積極方面來看,人工智能技術創(chuàng)造出一些新的產(chǎn)業(yè)和崗位,為人類開辟了新的就業(yè)空間,理論上對就業(yè)人員的焦慮心理具有一定的補償作用。此外,在不同的人工智能技術進步階段,對于不同人群來說,人工智能對就業(yè)產(chǎn)生的影響帶來的心理變化也相應呈現(xiàn)不同趨勢。因此,從宏觀層面整體角度分析人工智能下的社會心理恐慌及發(fā)展趨勢,從微觀層面掌握企業(yè)員工在“機器換人”下的心理恐慌、在人工智能下的心理狀態(tài)、意愿、行為以及人機協(xié)同工作下的心理問題,并從宏微觀層面盡早提出調適和疏解的應對措施,顯得十分必要。

    (8)人工智能在就業(yè)領域的倫理道德研究。對人工智能倫理道德展開研究能夠推動人工智能技術朝著健康、積極的方向發(fā)展,使其符合人類社會道德和價值觀念[31]?,F(xiàn)有學者將人工智能水平劃分為“強人工智能階段”“弱人工智能階段”和“超人工智能”,當前世界各國的人工智能發(fā)展水平普遍處于“弱人工智能階段”,人工智能技術主要在人類社會整體運作中起輔助和服務人類的作用。然而,隨著技術進步的不斷推進,逐步達到“強人工智能階段”,人工智能的先進程度逐步達到人類水平,將會涉及包括人格認可、法律責任和義務等與倫理道德相關的一系列問題。從技術進步中受益,對人工智能倫理道德主題進行分析,對于梳理在未來人工智能與就業(yè)的關系起到重要作用。因此要重視人工智能在就業(yè)領域的倫理道德研究,包括人類被機器“吞噬性替代”下的社會保障、工作轉換問題,人機協(xié)同工作時的安全、心理健康問題,人工智能帶來的安全和隱私威脅問題。

    (9)基于產(chǎn)業(yè)與就業(yè)動態(tài)匹配的應對政策研究。在世界各國對于人工智能的重視程度逐漸加深的同時,催生了對于相關制度政策的需求[32]。面對人工智能技術快速發(fā)展及其所帶來的就業(yè)風險、倫理風險、社會風險等方面的問題,需要通過制定政策和法律來加以協(xié)調和控制[33]。各國政策制定機構根據(jù)其人工智能發(fā)展程度及產(chǎn)業(yè)發(fā)展方向,制定了相應的應對措施。德國在《保障德國制造業(yè)的未來:關于實施“工業(yè)4.0”戰(zhàn)略的建議》中提出將人力與機器結合,實現(xiàn)制造業(yè)領域的智能化生產(chǎn)。在此基礎上,我國相繼制定了《中國制造2025》,旨在將人工智能技術與我國制造業(yè)相融合,提升我國制造業(yè)的國際地位。日本提出的“社會5.0”構念,強調在人工智能技術迅速發(fā)展的背景下關注人類社會問題,認為人工智能應該服務于人類社會。總之,當前關于制度政策下人工智能發(fā)展應對方面的研究主要集中在兩個方面,一是對政策文件的計量分析,以分析政策走向;二是政策的國際比較研究,以提供經(jīng)驗借鑒。然而現(xiàn)出臺及研究的大部分制度政策,是促進人工智能產(chǎn)業(yè)發(fā)展、人工智能與實體經(jīng)濟的融合政策,但如何實現(xiàn)人工智能產(chǎn)業(yè)與就業(yè)的動態(tài)匹配以及如何應對人工智能發(fā)展給就業(yè)帶來的負面沖擊方面的研究還有很大空間。

    (10)人工智能與就業(yè)關系的跨學科交叉研究。已有的經(jīng)典經(jīng)濟學和管理學理論為研究人工智能與就業(yè)關系以及人工智能對就業(yè)影響提供了重要的理論基礎和分析框架,然而人工智能技術的發(fā)展帶來了新的就業(yè)領域問題需要新的研究理論和視角進行闡述和論證,如人工智能的哲學、法律和倫理、新的人機協(xié)同的工作模式等,需要結合更多其他學科,如計算機科學、認知科學、腦科學、哲學、社會學、法學、心理學、倫理學等跨學科理論進行分析。人工智能技術因其應用領域廣泛而具有較大發(fā)展和研究潛力,并且影響范圍較大,包括金融、醫(yī)療、制造、零售、供應鏈、物流和公用事業(yè)等行業(yè),這些行業(yè)中的許多工作都會受到人工智能技術的影響,降低甚至完全不再需要人力勞動。當前學術界對人工智能技術的關注領域涉及科學和技術、商業(yè)和管理、藝術、人文和法律,以及政府或公共部門。針對各領域人工智能技術的發(fā)展,分析人工智能帶來的機會和挑戰(zhàn),為處于不同專業(yè)的學者進行合作和溝通奠定基礎。因此,在人工智能對就業(yè)影響研究中納入多學科理論體系,產(chǎn)生新的研究視角,開展多學科交叉融合研究,進行跨學科組合研究正在成為趨勢。

    6 結論與展望

    本文通過運用Citespace軟件進行文獻計量可視化分析,對CNKI和WOS數(shù)據(jù)庫中近十年內人工智能影響就業(yè)相關文獻繪制知識圖譜,根據(jù)核心國家、相關機構、關鍵詞共現(xiàn)和聚類,以及重點文獻分析,厘清人工智能影響就業(yè)領域近期的研究源起、現(xiàn)狀、熱點和發(fā)展趨勢,得出以下結論:

    (1)歐美國家研究體系較為成熟,國際聯(lián)系密切度較低。當前對人工智能影響就業(yè)主題的研究較為廣泛的地區(qū)主要是歐美國家,各國間聯(lián)系較松散。其中相對形成一定規(guī)模的國家是美國,其次是德國、荷蘭和意大利。我國當前對這一主題的研究還處于初步探索階段,理論基礎有待完善,在國際期刊上發(fā)表的文獻數(shù)量較少,還未在國際學術界產(chǎn)生一定的影響力。從各國的聯(lián)系程度來看,德國與荷蘭、中國與澳大利亞、美國與英國的學者在研究這一領域的問題中存在合作關系,然而總體來看各國學術界缺乏跨國學術交流且聯(lián)系對象較為單一,研究者們有待根據(jù)不同情境和勞動力市場對人工智能與就業(yè)的關系開展合作研究。

    (2)經(jīng)管類研究機構關注度較高,缺乏多學科領域合作。在研究機構方面,無論是國內還是國外,有關人工智能與就業(yè)關系主題的文獻主要來自于高校的經(jīng)管學院或財政相關機構,且研究視角較為單一。從以往技術進步與就業(yè)的相關議題來看,人工智能作為一項新技術需要借鑒前人的理論或文獻對勞動力市場就業(yè)的影響進行分析。過去文獻中主要運用經(jīng)濟學和管理學理論闡述人工智能對就業(yè)的影響,然而當前有學者提出“奇點”這一概念,突出人工智能與以往新技術的不同之處,除了經(jīng)濟和管理領域外,將還會涉及計算機科學、認知科學、腦科學、哲學、社會學、法學、心理學、倫理學等較多其他學科,從而產(chǎn)生更加復雜的研究問題。

    (3)就業(yè)極化和收入極化成為學術界重要的研究視角。對關鍵節(jié)點文獻的分析中,主要提煉出了目前學術界廣泛認同且較常作為研究切入點的觀點和理論。人工智能會帶來兩個方面的不平等,一是就業(yè)極化,中等技能的工作存在較大的被替代風險,而低技能工作和高技能工作對人力勞動的需求相對來說存在一定的上升趨勢,其中既包括技能結構受到新技術的沖擊而產(chǎn)生重塑現(xiàn)象,也涵蓋了人工智能技術的引進創(chuàng)造出新的工作任務以增加對人類就業(yè)者的需求。二是收入極化,不同階層的收入水平與其所從事的工作特性相對應,中等收入階層對應的事務性工作,即中等技能工作,被人工智能技術廣泛替代,使得人類勞動者更多向低收入階層、少部分向高收入階層流動,從而導致收入極化現(xiàn)象。并且,在高技能型人才的需求不斷擴大而低技能人力勞動的需求增長緩慢的作用下,進一步加劇了收入不平等性。

    (4)當前研究熱點有待進一步展開,新的研究方向逐漸受到重視。關鍵詞的分析展現(xiàn)了當前的研究前沿、熱點和趨勢。國際研究中關鍵詞的頻次與中心性的排名較為接近,已經(jīng)顯示出較為明確的重點研究領域和方向;我國當前的研究還處于初級階段,學者們的研究傾向和領域內重要研究議題的匹配度有待完善。根據(jù)關鍵詞的聚類以及時區(qū)圖中關鍵詞的時間變化,過去幾年所關注的技術進步、數(shù)字化轉型、工作時長等主題在當前仍然作為研究人工智能對就業(yè)影響的重要視角,并且在未來的研究中需要進一步厘清其中的變化過程和影響因素。在近些年來,學者們也針對常規(guī)性結構變化角度,進一步探討微觀層面下人工智能技術對就業(yè)影響的研究,為未來的實踐和政策分析奠定基礎。

    (5)人工智能對就業(yè)影響研究方興未艾,十大研究趨勢需要把握。人工智能不僅是一次技術層面的革命,未來它必將與重大的社會經(jīng)濟變革、教育變革、思想變革、文化變革同步,對人類就業(yè)產(chǎn)生重大的影響,以下趨勢需要把握,開展深入研究:人工智能對就業(yè)影響的“情景化”研究、人工智能對就業(yè)影響的“異質化”研究、人工智能對就業(yè)的“重塑效應”研究、人機協(xié)同情景下的人機“共生關系”研究、人工智能下基于人類價值的就業(yè)質量研究、人工智能下勞動者的知識技能轉化研究、人工智能下的就業(yè)心理的研究、人工智能在就業(yè)領域的倫理道德研究、基于產(chǎn)業(yè)與就業(yè)動態(tài)匹配的應對政策研究、人工智能與就業(yè)關系的跨學科交叉研究。

    猜你喜歡
    人工智能文獻影響
    是什么影響了滑動摩擦力的大小
    Hostile takeovers in China and Japan
    速讀·下旬(2021年11期)2021-10-12 01:10:43
    Cultural and Religious Context of the Two Ancient Egyptian Stelae An Opening Paragraph
    大東方(2019年12期)2019-10-20 13:12:49
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    The Application of the Situational Teaching Method in English Classroom Teaching at Vocational Colleges
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    The Role and Significant of Professional Ethics in Accounting and Auditing
    商情(2017年1期)2017-03-22 16:56:36
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    擴鏈劑聯(lián)用對PETG擴鏈反應與流變性能的影響
    中國塑料(2016年3期)2016-06-15 20:30:00
    哪里可以看免费的av片| 韩国av在线不卡| 久久人妻av系列| 少妇高潮的动态图| www日本黄色视频网| 欧美性猛交黑人性爽| 一级毛片我不卡| 国产91av在线免费观看| 99久久九九国产精品国产免费| 蜜臀久久99精品久久宅男| 日本精品一区二区三区蜜桃| 免费观看的影片在线观看| 99热这里只有精品一区| 久久久久久久久久成人| av国产免费在线观看| 噜噜噜噜噜久久久久久91| 国产人妻一区二区三区在| 精品人妻一区二区三区麻豆 | 亚洲美女黄片视频| 久久久久久国产a免费观看| 国产亚洲av嫩草精品影院| 国产久久久一区二区三区| 精品少妇黑人巨大在线播放 | 国产老妇女一区| 黄片wwwwww| 免费看美女性在线毛片视频| 免费看av在线观看网站| 久久久久免费精品人妻一区二区| 亚洲自拍偷在线| 日韩强制内射视频| 最近2019中文字幕mv第一页| a级一级毛片免费在线观看| 精品一区二区三区人妻视频| 国产亚洲91精品色在线| 简卡轻食公司| 淫妇啪啪啪对白视频| 少妇熟女aⅴ在线视频| 午夜福利18| 国产精品三级大全| 午夜激情欧美在线| 97超碰精品成人国产| 日本免费一区二区三区高清不卡| 欧美性猛交黑人性爽| 成人性生交大片免费视频hd| 赤兔流量卡办理| 日韩av不卡免费在线播放| 长腿黑丝高跟| 最近2019中文字幕mv第一页| 亚洲无线观看免费| 精品人妻视频免费看| 嫩草影院精品99| 午夜激情欧美在线| 久久久久久久久久成人| 一区福利在线观看| 久久久久国内视频| 国产高清三级在线| 全区人妻精品视频| 丰满的人妻完整版| 中国美女看黄片| 久久久久久久久久久丰满| 黄色一级大片看看| 国产成人91sexporn| 国产成人a∨麻豆精品| 欧美另类亚洲清纯唯美| 免费av不卡在线播放| 九九久久精品国产亚洲av麻豆| 69av精品久久久久久| 美女高潮的动态| 精品久久久久久久人妻蜜臀av| av在线蜜桃| 国产成年人精品一区二区| 美女内射精品一级片tv| 在线播放国产精品三级| 熟女电影av网| 国产av不卡久久| 国内精品宾馆在线| a级一级毛片免费在线观看| 日本免费一区二区三区高清不卡| 丰满乱子伦码专区| 日本黄色片子视频| 欧美激情久久久久久爽电影| 18禁黄网站禁片免费观看直播| 国产精品女同一区二区软件| 国产视频内射| 免费看光身美女| 久久精品国产自在天天线| 国产黄色小视频在线观看| 久99久视频精品免费| 国产探花在线观看一区二区| 在线观看av片永久免费下载| 偷拍熟女少妇极品色| 最新在线观看一区二区三区| 97超碰精品成人国产| 最好的美女福利视频网| 丝袜美腿在线中文| 亚洲图色成人| 不卡一级毛片| 嫩草影院精品99| 夜夜夜夜夜久久久久| 亚洲无线观看免费| 99久久精品热视频| 亚洲最大成人手机在线| 真人做人爱边吃奶动态| 亚洲成人精品中文字幕电影| 欧美在线一区亚洲| 精品久久久久久久久久免费视频| 亚洲av中文av极速乱| 亚洲精品国产成人久久av| 久久人人爽人人片av| 中国美白少妇内射xxxbb| 亚洲真实伦在线观看| 免费看美女性在线毛片视频| 99久国产av精品| 国产精品国产高清国产av| 久久婷婷人人爽人人干人人爱| 六月丁香七月| 国产精品电影一区二区三区| 国产真实伦视频高清在线观看| 男女之事视频高清在线观看| 精品久久久久久久久久久久久| 亚洲中文字幕日韩| 国产一区二区三区在线臀色熟女| 亚洲av电影不卡..在线观看| 欧美日韩一区二区视频在线观看视频在线 | 亚洲成av人片在线播放无| 久久久久国产网址| 久久久久久伊人网av| 亚洲av免费高清在线观看| 乱码一卡2卡4卡精品| 亚洲第一区二区三区不卡| 黑人高潮一二区| 国产淫片久久久久久久久| 可以在线观看毛片的网站| 91午夜精品亚洲一区二区三区| 中文字幕熟女人妻在线| 免费看日本二区| h日本视频在线播放| 日日撸夜夜添| 好男人在线观看高清免费视频| 99久久精品一区二区三区| 人人妻人人澡欧美一区二区| 久久天躁狠狠躁夜夜2o2o| 国产aⅴ精品一区二区三区波| 成年女人看的毛片在线观看| 免费观看人在逋| 免费黄网站久久成人精品| 国产高清不卡午夜福利| 亚洲无线在线观看| 直男gayav资源| 久久精品91蜜桃| 变态另类丝袜制服| 极品教师在线视频| 在线a可以看的网站| 国产精品,欧美在线| 国内精品宾馆在线| 亚洲欧美日韩东京热| 久久99热这里只有精品18| 春色校园在线视频观看| 真人做人爱边吃奶动态| 少妇人妻一区二区三区视频| 一级毛片我不卡| 黄色欧美视频在线观看| 亚洲美女黄片视频| 国产精华一区二区三区| 亚洲无线观看免费| 免费电影在线观看免费观看| 乱系列少妇在线播放| 亚洲欧美成人精品一区二区| www.色视频.com| 国产精品嫩草影院av在线观看| 波多野结衣巨乳人妻| 亚洲成人中文字幕在线播放| 亚洲欧美清纯卡通| 国产欧美日韩精品一区二区| 一a级毛片在线观看| 午夜福利视频1000在线观看| 国产伦一二天堂av在线观看| 国产精品国产三级国产av玫瑰| 国产美女午夜福利| 国产伦一二天堂av在线观看| 天堂动漫精品| 成人鲁丝片一二三区免费| 国产精品乱码一区二三区的特点| 又爽又黄无遮挡网站| 亚洲最大成人中文| 天堂√8在线中文| 一级黄片播放器| 精品少妇黑人巨大在线播放 | 国产精品综合久久久久久久免费| 亚洲aⅴ乱码一区二区在线播放| 老女人水多毛片| 国产免费一级a男人的天堂| 日韩强制内射视频| 欧美国产日韩亚洲一区| 一进一出抽搐gif免费好疼| 九色成人免费人妻av| 夜夜夜夜夜久久久久| 亚洲av二区三区四区| 五月玫瑰六月丁香| 一进一出抽搐动态| 日韩精品中文字幕看吧| 国产黄a三级三级三级人| 干丝袜人妻中文字幕| 国产黄片美女视频| 久久久久久大精品| 99久久成人亚洲精品观看| 你懂的网址亚洲精品在线观看 | 精品乱码久久久久久99久播| 日本黄色片子视频| 国产精品一区二区性色av| 深爱激情五月婷婷| 99热这里只有是精品50| 日本色播在线视频| 给我免费播放毛片高清在线观看| 波多野结衣巨乳人妻| 一a级毛片在线观看| 麻豆成人午夜福利视频| 欧美激情国产日韩精品一区| 有码 亚洲区| 少妇熟女欧美另类| 白带黄色成豆腐渣| 免费不卡的大黄色大毛片视频在线观看 | 中国美白少妇内射xxxbb| 日韩制服骚丝袜av| 亚洲成人久久爱视频| 两性午夜刺激爽爽歪歪视频在线观看| 天堂动漫精品| 高清毛片免费看| 91午夜精品亚洲一区二区三区| 日韩av在线大香蕉| 亚洲天堂国产精品一区在线| 村上凉子中文字幕在线| 综合色丁香网| 中文字幕久久专区| 日韩中字成人| 中文字幕精品亚洲无线码一区| 少妇高潮的动态图| 久久久精品94久久精品| 国产 一区 欧美 日韩| 国产成人freesex在线 | 免费看光身美女| 99久久精品热视频| 成人鲁丝片一二三区免费| 国内精品美女久久久久久| 亚洲精品色激情综合| 麻豆精品久久久久久蜜桃| 欧美最新免费一区二区三区| 噜噜噜噜噜久久久久久91| 亚洲天堂国产精品一区在线| avwww免费| 久久久色成人| 国产精品一区二区三区四区免费观看 | 蜜桃久久精品国产亚洲av| 寂寞人妻少妇视频99o| 狂野欧美激情性xxxx在线观看| 国产av一区在线观看免费| 12—13女人毛片做爰片一| 六月丁香七月| 亚洲人成网站在线观看播放| 久久亚洲精品不卡| 成人性生交大片免费视频hd| 亚洲精品一卡2卡三卡4卡5卡| 97在线视频观看| 日韩成人伦理影院| 99热只有精品国产| 国产69精品久久久久777片| 内射极品少妇av片p| 国产男人的电影天堂91| 成人亚洲精品av一区二区| 一进一出抽搐gif免费好疼| 卡戴珊不雅视频在线播放| 久久久久久久久久久丰满| 精品人妻偷拍中文字幕| 欧美一区二区亚洲| 精品午夜福利视频在线观看一区| 国产精品亚洲美女久久久| 国产综合懂色| 老熟妇乱子伦视频在线观看| 午夜a级毛片| 一边摸一边抽搐一进一小说| 国产精品永久免费网站| 三级经典国产精品| 99热网站在线观看| 国内精品宾馆在线| 精品久久久久久久久久免费视频| 国产女主播在线喷水免费视频网站 | 欧美一区二区精品小视频在线| 国国产精品蜜臀av免费| 97超级碰碰碰精品色视频在线观看| 搞女人的毛片| 午夜a级毛片| 午夜福利视频1000在线观看| 亚洲在线自拍视频| 欧美日韩一区二区视频在线观看视频在线 | 亚洲av电影不卡..在线观看| 国产视频一区二区在线看| av国产免费在线观看| 欧美xxxx黑人xx丫x性爽| 99热这里只有是精品50| ponron亚洲| 18禁在线播放成人免费| 非洲黑人性xxxx精品又粗又长| 成人亚洲精品av一区二区| 久久亚洲国产成人精品v| 99久国产av精品| 国内精品一区二区在线观看| 97超视频在线观看视频| 少妇人妻精品综合一区二区 | 在线看三级毛片| 精品福利观看| 精品乱码久久久久久99久播| 久久国内精品自在自线图片| 一本一本综合久久| 日本撒尿小便嘘嘘汇集6| 国产伦一二天堂av在线观看| 久久久久久久久久黄片| 亚洲欧美清纯卡通| 18+在线观看网站| 男女下面进入的视频免费午夜| 国产亚洲精品久久久com| 国产又黄又爽又无遮挡在线| 精品一区二区三区视频在线观看免费| 国产黄a三级三级三级人| 亚洲av不卡在线观看| 少妇的逼水好多| 精品久久久久久久久亚洲| 18禁在线无遮挡免费观看视频 | 国产精品不卡视频一区二区| 最新中文字幕久久久久| 精品欧美国产一区二区三| 少妇的逼水好多| www.色视频.com| 97热精品久久久久久| 国产大屁股一区二区在线视频| 夜夜看夜夜爽夜夜摸| 国产 一区精品| av卡一久久| 黄色欧美视频在线观看| 日韩精品青青久久久久久| av视频在线观看入口| 天堂网av新在线| 成人毛片a级毛片在线播放| 欧美日韩乱码在线| 亚洲欧美日韩高清专用| 国产精品人妻久久久久久| 亚洲自拍偷在线| 久久久久久久午夜电影| 美女cb高潮喷水在线观看| 国产精品电影一区二区三区| 免费在线观看影片大全网站| a级毛片a级免费在线| 国产精品久久电影中文字幕| 九九在线视频观看精品| 久久精品综合一区二区三区| 在线免费观看不下载黄p国产| 国产在线男女| 亚洲精品日韩av片在线观看| 欧美激情在线99| 国产色爽女视频免费观看| 国产精品久久久久久亚洲av鲁大| videossex国产| 亚洲无线观看免费| 看非洲黑人一级黄片| 亚洲最大成人av| 国产精品一区www在线观看| 国产精品不卡视频一区二区| 国产国拍精品亚洲av在线观看| 日本黄色片子视频| 国产一级毛片七仙女欲春2| 偷拍熟女少妇极品色| 秋霞在线观看毛片| 成人永久免费在线观看视频| 色哟哟哟哟哟哟| or卡值多少钱| 欧美成人免费av一区二区三区| 99久久九九国产精品国产免费| 精品久久国产蜜桃| 国产91av在线免费观看| 亚洲成人av在线免费| 国产伦精品一区二区三区视频9| 亚洲人与动物交配视频| 赤兔流量卡办理| 久久精品夜夜夜夜夜久久蜜豆| 亚洲aⅴ乱码一区二区在线播放| 欧美一级a爱片免费观看看| 亚洲乱码一区二区免费版| 天美传媒精品一区二区| 桃色一区二区三区在线观看| 国产成人一区二区在线| 97超视频在线观看视频| 91久久精品国产一区二区三区| 一区二区三区免费毛片| 国产精品永久免费网站| 波多野结衣高清作品| 国产单亲对白刺激| 永久网站在线| 亚州av有码| 99热6这里只有精品| 亚洲欧美成人精品一区二区| 精品一区二区三区人妻视频| 在线观看美女被高潮喷水网站| 国产精品伦人一区二区| 久久久久国产网址| 少妇的逼好多水| 麻豆乱淫一区二区| 免费在线观看影片大全网站| 久久久精品94久久精品| 啦啦啦观看免费观看视频高清| 精品人妻偷拍中文字幕| 国产不卡一卡二| 亚洲av五月六月丁香网| 国产精品久久久久久精品电影| 免费人成视频x8x8入口观看| 99热这里只有精品一区| 日韩精品青青久久久久久| 精品免费久久久久久久清纯| 久久精品国产99精品国产亚洲性色| 日韩精品中文字幕看吧| 国内揄拍国产精品人妻在线| 亚洲五月天丁香| 麻豆一二三区av精品| 亚洲av美国av| 在线看三级毛片| 亚洲av五月六月丁香网| 国产精品一及| 99久久精品国产国产毛片| 国产精品野战在线观看| 日本 av在线| 麻豆精品久久久久久蜜桃| 精品熟女少妇av免费看| 久久精品综合一区二区三区| 国产又黄又爽又无遮挡在线| 亚洲一区二区三区色噜噜| 久久人人爽人人爽人人片va| 尤物成人国产欧美一区二区三区| 日韩精品青青久久久久久| 国产精品美女特级片免费视频播放器| 高清午夜精品一区二区三区 | 高清午夜精品一区二区三区 | 给我免费播放毛片高清在线观看| 波野结衣二区三区在线| 听说在线观看完整版免费高清| 色尼玛亚洲综合影院| 亚洲乱码一区二区免费版| 亚洲国产精品成人久久小说 | 成人特级黄色片久久久久久久| 俄罗斯特黄特色一大片| 亚洲中文日韩欧美视频| 精品久久久久久久久av| 久久久精品大字幕| 久久这里只有精品中国| 99热全是精品| 1000部很黄的大片| 晚上一个人看的免费电影| 亚洲精品456在线播放app| 不卡一级毛片| 国产精品久久久久久av不卡| 看片在线看免费视频| 日韩人妻高清精品专区| 狠狠狠狠99中文字幕| 久久久久精品国产欧美久久久| 蜜臀久久99精品久久宅男| 男女视频在线观看网站免费| 国产色婷婷99| 热99在线观看视频| 一级黄片播放器| 国产乱人视频| 国产欧美日韩一区二区精品| 久久久久国产精品人妻aⅴ院| 乱人视频在线观看| 蜜桃久久精品国产亚洲av| 国产男靠女视频免费网站| 亚洲欧美日韩高清专用| 亚洲人成网站在线播放欧美日韩| 欧美在线一区亚洲| 一个人看视频在线观看www免费| 国产av不卡久久| 直男gayav资源| 亚洲成人中文字幕在线播放| 国产黄色视频一区二区在线观看 | 欧美激情在线99| 欧美人与善性xxx| 欧美性猛交╳xxx乱大交人| 亚洲国产日韩欧美精品在线观看| 国产成人91sexporn| 亚洲一区高清亚洲精品| 亚洲一区二区三区色噜噜| 一区二区三区免费毛片| 欧美最黄视频在线播放免费| 久久国产乱子免费精品| a级毛色黄片| 日韩精品青青久久久久久| 亚洲最大成人手机在线| 看十八女毛片水多多多| 国产成人a∨麻豆精品| 日日摸夜夜添夜夜添av毛片| 五月伊人婷婷丁香| 夜夜夜夜夜久久久久| 熟女电影av网| 久久午夜福利片| 亚洲高清免费不卡视频| 亚洲av中文字字幕乱码综合| 久久精品影院6| 国产日本99.免费观看| 国内精品美女久久久久久| 久久综合国产亚洲精品| 级片在线观看| 麻豆一二三区av精品| 免费av毛片视频| 51国产日韩欧美| 免费观看在线日韩| 日本一二三区视频观看| 精品熟女少妇av免费看| 亚洲四区av| av.在线天堂| 亚洲无线在线观看| 日本三级黄在线观看| 男人舔奶头视频| 日韩高清综合在线| 亚洲国产精品合色在线| 日本免费a在线| 在线播放无遮挡| 我要看日韩黄色一级片| 久久久久久久久中文| 国产精品久久久久久精品电影| 亚洲av不卡在线观看| 亚洲国产精品sss在线观看| 国产亚洲欧美98| 色在线成人网| 女人被狂操c到高潮| 亚洲国产精品sss在线观看| 又爽又黄无遮挡网站| 美女免费视频网站| 美女 人体艺术 gogo| 国产午夜福利久久久久久| 午夜免费激情av| 精品一区二区三区视频在线观看免费| 亚洲av免费高清在线观看| 中文亚洲av片在线观看爽| 久久国内精品自在自线图片| 九九在线视频观看精品| 日韩高清综合在线| 熟女电影av网| 99久久精品国产国产毛片| 日本-黄色视频高清免费观看| av卡一久久| 波野结衣二区三区在线| 国模一区二区三区四区视频| 精品不卡国产一区二区三区| 日韩高清综合在线| 女同久久另类99精品国产91| 春色校园在线视频观看| 日本-黄色视频高清免费观看| 在现免费观看毛片| 寂寞人妻少妇视频99o| 成人性生交大片免费视频hd| 在线观看av片永久免费下载| 一级黄片播放器| 久久久成人免费电影| 久久久久久久久中文| 日本a在线网址| 日本-黄色视频高清免费观看| 国产视频内射| 色吧在线观看| 亚洲性久久影院| 日本欧美国产在线视频| 精品人妻视频免费看| 国产久久久一区二区三区| 色综合站精品国产| 在线观看66精品国产| 97超级碰碰碰精品色视频在线观看| 国内揄拍国产精品人妻在线| 波多野结衣巨乳人妻| 欧美成人a在线观看| 男人舔奶头视频| 丝袜喷水一区| 一级毛片久久久久久久久女| 欧美三级亚洲精品| 中文字幕精品亚洲无线码一区| 五月伊人婷婷丁香| 欧美潮喷喷水| 一边摸一边抽搐一进一小说| 欧美日本亚洲视频在线播放| 久久人妻av系列| 一区二区三区四区激情视频 | 国产爱豆传媒在线观看| 久久精品国产亚洲av天美| 久久久久久久久久黄片| 精品少妇黑人巨大在线播放 | 一边摸一边抽搐一进一小说| av在线观看视频网站免费| 老女人水多毛片| 一个人免费在线观看电影| 欧美一区二区精品小视频在线| 亚洲不卡免费看| 亚洲精品国产成人久久av| 国产精品1区2区在线观看.| 啦啦啦啦在线视频资源| 十八禁网站免费在线| 成年版毛片免费区| 精品无人区乱码1区二区| 国产成年人精品一区二区| 国产伦一二天堂av在线观看| 精品欧美国产一区二区三| avwww免费| 91狼人影院| 午夜精品在线福利| avwww免费| 国产成人一区二区在线| 欧美色视频一区免费| 国内揄拍国产精品人妻在线| 欧美日本视频| 亚洲国产色片| 热99在线观看视频| 欧美激情国产日韩精品一区|