• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能對組織決策的影響、挑戰(zhàn)與展望

    2020-12-09 08:03:48張廣勝楊春荻
    山東社會科學 2020年9期
    關(guān)鍵詞:決策人工智能人類

    張廣勝 楊春荻

    (遼寧大學 商學院,遼寧 沈陽 110036)

    自20世紀計算機問世以來,技術(shù)對企業(yè)組織和管理產(chǎn)生的影響越來越大,組織的設(shè)計、情報、管理方式和決策方式也都發(fā)生了相應(yīng)的改變:視頻會議等現(xiàn)代組織管理技術(shù)減少了面對面會議的頻率,使得組織的決策效率得到了顯著的提高并為組織決策節(jié)約了大量的成本;信息化系統(tǒng)提升了企業(yè)的管理能力,使企業(yè)可以運用信息化技術(shù)開展組織管理。因而,有建設(shè)性的技術(shù)會對組織和個人產(chǎn)生積極的影響。(1)Bravo, E. R., & Ostos, J. (2017).“ Performance in computer-mediated work: the moderating role of level of automation”. Cognition, Technology & Work, 19(2-3), 529-541.

    人類技術(shù)活動的一個重要特點,就是技術(shù)活動具有明確而具體的目標,從計算機、互聯(lián)網(wǎng)到今天的大數(shù)據(jù)再到機器學習、人工智能和機器人,技術(shù)對組織影響的深刻程度是前所未有的。人工智能(AI),特別是以數(shù)據(jù)為引領(lǐng)的機器學習技術(shù),已經(jīng)嵌入到組織的各個角落并成為組織運行不可或缺的一部分。谷歌深度思維的首席執(zhí)行官曾表示:開發(fā)人工智能的終極目標就是讓其應(yīng)對大挑戰(zhàn),解決更多的社會問題,并且把這項技術(shù)應(yīng)用在各類工作中,使這個世界變得更加美好。特斯拉汽車創(chuàng)始人埃隆·馬斯克開發(fā)成立的非盈利人工智能公司的目標也在于提升人工智能技術(shù),使其造福于全人類。

    為了深入探討人工智能對組織決策的影響,我們在《World of Science》(《科學世界》)上檢索“Artificial Intelligence”“Machine Iearning”“Decision-making”“Organization”等關(guān)鍵詞,檢索到1993-2020年期間“Artificial Intelligence in Human Resources Management: Challenges and a Path Forward”“Attributions of Ethical Responsibility by Artificial Intelligence”等文獻共計80篇。在此基礎(chǔ)上,我們擬從九個方面對人工智能與組織決策的關(guān)系展開研究。

    一、人工智能的定義、分類、技術(shù)發(fā)展現(xiàn)狀

    人工智能是能夠正確解讀外部數(shù)據(jù)、能從數(shù)據(jù)中學習并通過靈活的適應(yīng)性以達到特定目標和任務(wù)的系統(tǒng);它是可以扮演認知角色的機器,這些認知包括了感知、推理、學習和互動。(2)Rai, A., Constantinides, P., and Sarker, S.2019 “Editor’s Comments: Next-Generation Digital Platforms: Toward Human-AI Hybrids,” MIS Quarterly (43:1) pp. iii-ix.

    人工智能的發(fā)展涉及計算機科學、語言學、心理學等諸多學科,其目標是發(fā)展智能機器,而這項技術(shù)涵蓋一系列子領(lǐng)域:機器學習,其功能是使人工智能能從數(shù)據(jù)中學習;強化學習,使人工智能能在試錯中提升;深度學習,其主旨在于模擬人腦,從海量的數(shù)據(jù)中進行探索,并從中獲益。

    基于科學技術(shù)理論的角度,人工智能可以分為兩大流派:一派是主流的認知主義者,支持這派觀點的學者和技術(shù)人員試圖使計算機模擬人類思維,令其具備從一種算法過渡到另外一種算法的能力;另一派是非主流的新連接主義者,這派學者和研究人員認為人類大腦的思考方式并非是線性的,這也是他們反對主流認知流派的主要緣由,同時新連接主義者希望能夠運用“神經(jīng)網(wǎng)絡(luò)”來解決“并行處理”這一技術(shù)局限,并通過試錯來提高機器的學習能力。

    技術(shù)演進的歷史大致可分為三階段:第一階段,人類對機器的使用主要是利用人類的智力、技巧和體能等人類自有的能力;第二階段,人的技藝已經(jīng)在機器中展現(xiàn)了對象化的效果;第三階段,類似人類的智慧力量轉(zhuǎn)移到機器中,諸多人類的目標憑借智能化的機器得到了實現(xiàn)?,F(xiàn)階段,人工智能對人類社會的影響已經(jīng)發(fā)展到了技術(shù)歷史的第三階段。

    人工智能技術(shù)的蓬勃發(fā)展主要基于三大原因:其一,宏觀經(jīng)濟的蓬勃發(fā)展推動了當代以智能制造為特征的技術(shù)進步,具體表現(xiàn)在企業(yè)等組織為了提升其核心競爭力,運用人工智能技術(shù)為其生產(chǎn)、服務(wù)、銷售等活動服務(wù);其二,來自于社會需求方面,人工智能替代了工業(yè)生產(chǎn)、服務(wù)等諸多領(lǐng)域中的重復性工作,給人類帶來了諸多便利,這進一步促進了人類對人工智能技術(shù)的開發(fā);其三,來自于技術(shù)本身的發(fā)展,任何技術(shù)發(fā)展總會伴隨若干附加的技術(shù)發(fā)明或技術(shù)改造,人工智能技術(shù)在濃度和廣度上的不斷發(fā)展,也解鎖了其應(yīng)用的諸多領(lǐng)域,組織決策領(lǐng)域便是其運用于實踐的好例子。

    二、人工智能與組織決策

    (一)人工智能與組織的聯(lián)系

    每一輪技術(shù)的進步都會對組織產(chǎn)生深遠影響,如從蒸汽技術(shù)、電氣技術(shù)再到信息技術(shù),都對組織結(jié)構(gòu)、組織文化、組織績效等方面產(chǎn)生了深遠影響。技術(shù)目的反映的是一段時期內(nèi),人類在技術(shù)領(lǐng)域的發(fā)展方向,反映出作為技術(shù)主體的人對客體技術(shù)的影響的范圍和方向;技術(shù)的目的與社會需求聯(lián)系緊密,而社會的需求,是人類研發(fā)技術(shù)、提升技術(shù)能力、開展技術(shù)發(fā)明與革新的原動力。在人工智能與組織的研究中,具體表現(xiàn)為人類社會的需求促使人工智能與組織聯(lián)系的遞進式和跨越式發(fā)展。

    人工智能會改變組織決策的方法和組織與內(nèi)部、外部利益相關(guān)者(如顧客、員工)的關(guān)系。Turing(2009)的研究指出,人工智能可以模仿人類進行思考,其成功應(yīng)用需要特定的組織能力,因為組織只有與新技術(shù)相匹配才能獲得最佳的應(yīng)用效果。Jürgen(2019)通過大規(guī)模的調(diào)研,對比了應(yīng)用人工智能水平高的企業(yè)和應(yīng)用人工智能水平低的企業(yè)間管理效果的差異,探討了企業(yè)應(yīng)在多大程度上采用人工智能技術(shù),以及強調(diào)人工智能技術(shù)嵌入組織對組織靈活性和高層管理者承諾的重要意義。目前,人工智能系統(tǒng)已廣泛地應(yīng)用在組織的智能服務(wù)、辦公自動化、管理支持領(lǐng)域、生產(chǎn)自動化、決策支持和知識管理領(lǐng)域中。

    (二)人工智能與組織決策的聯(lián)系

    直到上世紀末,人工智能與決策領(lǐng)域才開始有了關(guān)聯(lián),在此之前,人工智能和決策是毫不相關(guān)的。在人工智能萌芽階段,這個領(lǐng)域的研究和應(yīng)用大體上局限在實驗室中。20世紀80年代,以知識為基礎(chǔ)的智能系統(tǒng)得到了快速發(fā)展和應(yīng)用,人工智能孤立在實驗室中的研究狀況才被打破。Izhar Matzkevich(1995)的研究發(fā)現(xiàn),用人工智能進行決策的流程是人類把某一個領(lǐng)域中的特定信息進行編碼,錄入到特定系統(tǒng)里,用系統(tǒng)生成的結(jié)果去解決實際的問題,這就是人工智能用于決策領(lǐng)域的雛形。與此同時,決策理論也開始影響人工智能的技術(shù)發(fā)展。從人工智能技術(shù)與決策的關(guān)系來看,技術(shù)目的能否得到重新設(shè)定并得到新應(yīng)用,主要依靠社會需求,而新技術(shù)量變是科學技術(shù)原理、科學經(jīng)驗和傳統(tǒng)技術(shù)共同作用下的結(jié)果。想要推動新技術(shù)的發(fā)展,還要根據(jù)社會的現(xiàn)實需要不斷革新,使得新技術(shù)不斷地進入量變和質(zhì)變的交替階段。

    技術(shù)是人類從事生產(chǎn)生活實踐的手段,更是人類從事技術(shù)認知與實踐的結(jié)果。在這一過程中,技術(shù)作為一種手段,服務(wù)于技術(shù)的目的,但技術(shù)的目的又受限于技術(shù)的發(fā)展階段。當一項新的技術(shù)被實驗室研發(fā)成功之后,這些技術(shù)將根據(jù)現(xiàn)實社會的需要開始服務(wù)生產(chǎn)生活,同時人類社會實踐也會為技術(shù)的發(fā)展創(chuàng)造出更多的發(fā)展方向和前進動力。人工智能和組織決策在技術(shù)發(fā)展的最初階段無甚關(guān)聯(lián),這是因為人類的需求總是從簡單到復雜、從低級到高級,是人類在組織中的需求促使了人工智能技術(shù)與組織融合,更是組織決策對技術(shù)要求的不斷提高促進了人工智能技術(shù)的突飛猛進,這體現(xiàn)出技術(shù)目的和手段的對立統(tǒng)一。

    (三)人工智能是否適合進行組織決策分析

    圍繞人類和人工智能的各自專長和能力優(yōu)勢,學者們在上世紀中期即已展開過研究。1951年,費茲(Fitts)就針對機器和人類各自的優(yōu)勢進行過比較研究,他認為人類在探測、感知、即興創(chuàng)作、長期存儲信息、檢索信息、歸納推理和判斷能力等方面超越了當時的機器,而機器在行動的速度和效率、復制信息能力、短期存儲和推斷以及同時操作兩件或多件不同的工作等方面都超過了人類。

    近幾十年,圍繞人工智能與人類的關(guān)系學者們有了更加系統(tǒng)的研究。Sonnentag等(2005)認為,很多人類社會的任務(wù)都與機器技術(shù)緊密相連;Frohm等(2008)則從分工的角度論述了人類和技術(shù)之間的關(guān)系,指出很多任務(wù)可以由人類全權(quán)負責完成,有些任務(wù)則可以由機器全權(quán)負責;Brock等(2019)的研究則指出,人工智能只有在可以把信息整合、智能團隊、組織靈敏度和領(lǐng)導力結(jié)合起來的情境下才適合進行組織決策。

    圍繞人工智能決策優(yōu)勢學者們也取得了許多研究成果。如Chamorro(2016)指出,人工智能決策的原理是神經(jīng)網(wǎng)絡(luò)和深度學習的算法,支撐算法運作的條件是海量的數(shù)據(jù);Parry(2016)認為,人工智能技術(shù)的發(fā)展水平已經(jīng)可以將其應(yīng)用到組織決策領(lǐng)域了。人工智能技術(shù)在決策過程中具有決策速度快、準確性高、決策成本低廉、具備無偏處理零散數(shù)據(jù)的能力、無倦怠感、決策不出于一己私利、做決策不情緒化的優(yōu)點。與此形成對比的是,人類在決策的時候易受到認知能力的限制,也容易被個人利益、地位等主觀因素所影響。神經(jīng)科學研究表明,當人類面臨復雜的狀況,思維捷徑會讓人類采納迅速而有效的決定,而人類情感中的恐慌、喜悅等情感會影響人類決策的正確性。也就是說,當人類面臨決策選擇的時候,情感會對決策產(chǎn)生重大影響。對比之下,人工智能或許更適合廣泛地應(yīng)用于組織決策領(lǐng)域。

    也有研究認為,人工智能并不適合組織決策。如Kleinberg等(2006)從算法本身對決策的缺陷展開了研究,研究表明由于人工智能根據(jù)已經(jīng)生成的數(shù)據(jù)通過算法進行決策,因而決策結(jié)果在未提供數(shù)據(jù)更新的情況下是一成不變的,這就降低了組織對動態(tài)環(huán)境的適應(yīng)性;Premuzic(2003)從創(chuàng)新的視角反對應(yīng)用人工智能進行組織決策,他認為由于人工智能是基于現(xiàn)有的數(shù)據(jù)展開相關(guān)的分析,因而其做出的決策缺乏創(chuàng)造性;Fischer等(2018)利用訪談法進行的研究發(fā)現(xiàn),79%的受訪者認為機器不能考慮到個性化因素,因而對智能機器做出的決策會感到不信任;Weizenbaum等(2010)從人工智能和人類能力角度進行的研究發(fā)現(xiàn),由于決策需要利用的核心能力是判斷力,而判斷能力是人類的特質(zhì),因而決策這類工作人工智能是不能勝任的;Kaczmarek等(2017)認為,由于組織的目標有長期目標和短期目標等分類,而人工智能沒有辦法像人類一樣兼顧長期和短期目標,并且算法中的閉環(huán)會強化一旦做出的錯誤決策;Thomas Bolander等(2019)發(fā)現(xiàn),在社會技能和語言技能兩方面,人工智能的能力水平遠遠落后于人類,而這兩種技能是組織決策中必備的關(guān)鍵能力,因而決策不能完全依賴人工智能。

    (四)人工智能和人類在決策中扮演的角色和分工

    Berente等(2019)的研究發(fā)現(xiàn),人工智能承擔了一些管理者的角色,這些角色有些是人工智能獨立承擔的,有些是與人類管理者共同承擔的。在科技哲學理論中,技術(shù)工具理論是一種被廣泛接受的技術(shù)觀,因而人與技術(shù)的關(guān)系應(yīng)該是技術(shù)只是人類從事生產(chǎn)生活活動中的工具。Daniel等(2019)認為,人工智能的角色僅僅是人類的工具:由于人工智能沒有社會權(quán)力,更多地會被當成工具而不是團隊中的成員,即技術(shù)應(yīng)是以人類為中心的,操控者(人類)應(yīng)自始自終處于主導地位。也有研究者認為,人工智能可以被賦予一些社會角色。Wesche等(2019)的研究發(fā)現(xiàn),機器可以代替人類做很多工作,如人機交互(HCI)理論應(yīng)用在組織中,機器的角色就從“工具”演變成了人類的“伙伴”。Jamieson等(2018)的研究則認為,機器被當作“工具”的時代,在當今人機交互工作越來越盛行的情況下,已經(jīng)變得不合時宜了,應(yīng)當倡導把機器當作“隊友”,將人工智能貼上富有情感的標簽,而這類情感可以讓人工智能扮演特定的角色并參與近似人類的社會活動。由此可見,隨著人類和人工智能角色和地位的不斷轉(zhuǎn)變,人類與人工智能如何在組織中分享信息和參與組織學習是人類需要考慮的問題。埃隆·馬斯克從人工智能的功能角度進一步梳理了人工智能與人類的關(guān)系,即人工智能的功能應(yīng)該應(yīng)用于如何協(xié)助人類工作,而不是與人類展開對抗。

    還有研究者對人工智能和人類在組織決策中的分工問題展開研究。如Andreas等(2019)的研究就專注于人工智能在什么情境下可以做相應(yīng)的決策,什么情境下只能由人類單獨做出決策,人工智能和人類在什么情境下需要共同決策,是當今全球組織需要考慮的問題。Hancock等(2014)的研究提出,人類和智能機器分工的原則是一切能被自動智能化的都應(yīng)該被自動智能化,人類應(yīng)該承擔那些不能被自動化、智能化的工作,而且終有一天,人工智能會跟人類一樣聰明,但人工智能和人類的智力各有各的優(yōu)勢,因而不能就智力水平把人類和人工智能作簡單的比較。Thomas Bolander等(2019)的研究則指出,人工智能擅長解決邊界清晰、具有良好結(jié)構(gòu)性的問題,因而其提出的解決方案也具有標準化的特征,盡管各類研究機構(gòu)都在從技術(shù)角度提升人工智能的能力,但其抽象思維和界定問題的能力依然不如人類,因而應(yīng)適當?shù)囊笕斯ぶ悄芎腿祟愒跊Q策中進行分工。

    (五)人工智能在組織決策中的具體應(yīng)用

    從科技哲學的角度看,技術(shù)結(jié)構(gòu)與技術(shù)功能的關(guān)系是技術(shù)結(jié)構(gòu)決定技術(shù)功能,技術(shù)結(jié)構(gòu)和技術(shù)功能處于對立統(tǒng)一的關(guān)系中。隨著人類對技術(shù)結(jié)構(gòu)提出了新需求,技術(shù)功能也會相應(yīng)地跟著發(fā)生變化,這一過程交替進行,技術(shù)結(jié)構(gòu)由簡單到復雜、由低級向高級發(fā)展,相應(yīng)的,技術(shù)功能也越來越復雜,從而不斷地滿足人類的生產(chǎn)生活,人工智能技術(shù)結(jié)構(gòu)的變化同樣會賦予人工智能更多功能。

    目前,人工智能在組織決策的具體應(yīng)用較多體現(xiàn)在人工智能的組織招聘。Burke等(2006)的研究指出,技術(shù)在組織中扮演著越來越多的角色,組織中的許多工作與技術(shù)結(jié)合的越來越緊密了。如技術(shù)改變了招聘員工的方式,以人工智能為代表的技術(shù)改變了組織選拔人才的方式,其主要的招聘技術(shù)手段是依靠算法自動識別組織內(nèi)和組織外多個求職者的信息,針對求職者技能、人格屬性與崗位要求進行匹配。人工智能在組織招聘中的優(yōu)勢主要體現(xiàn)在招聘決策公正性、隱私以及人工智能和人類在招聘決策中的分工等三個方面。盡管人工智能系統(tǒng)本身是客觀且不存在偏見的,但由于算法工作要依賴人類所提供的數(shù)據(jù)。因此,如果數(shù)據(jù)本身對特定群體存在偏見,那么就很難保證招聘結(jié)果是絕對公正的。Prasanna Tambe(2019)認為,應(yīng)用人工智能對應(yīng)聘者的信息進行篩選將面臨個人隱私問題。不過,Keller等(2019)的研究卻發(fā)現(xiàn),多方參與信息保護、相關(guān)法律法規(guī)的實施以及分配給人工智能決策權(quán)的權(quán)重或可能緩解人工智能在招聘決策領(lǐng)域帶來的隱私隱患。

    (六)人工智能和人類決策順序

    研究表明人工智能的決策順序可分為三步:一是全權(quán)由人工智能進行決策;二是先人類后人工智能或者先人工智能再人類的決策順序;三是聚合的人類人工智能決策方案。對此,Yash Raj(2019)分別對決策領(lǐng)域的特殊性、決策過程和結(jié)果的可解釋性、可備選的決策范圍、決策速度和決策結(jié)果的可復制性等五個方面進行了決策效果分析。他發(fā)現(xiàn)這三步?jīng)Q策順序各有各的優(yōu)勢:先人工智能再人類決策為順序的決策方案會涉及到可行的替代方案被遺棄的風險,因為這種決策方法降低了決策的速度和方案對于其它情境的可復制性;先人類決策再用人工智能篩選評估的決策方法可以充分利用人工智能系統(tǒng)中算法的預測功能,從而在人類備選出的小范圍預選方案中選出最優(yōu)的決策方案,因而這類方案要求決策事項具有較高的特殊性;聚合的人類人工智能決策方案是分別發(fā)揮人類和人工智能在決策領(lǐng)域的各自優(yōu)勢,再以加權(quán)等方法對兩者的決策方案進行分析,這類決策方法常因決策結(jié)果的解釋性欠佳等因素,使組織的透明度和可靠性受到挑戰(zhàn)。(3)Shrestha, Y. R., Ben-Menahem, S. M., & Von Krogh, G. (2019). “Organizational Decision-Making Structures in the Age of Artificial Intelligence”. California Management Review, 61(4), 66-83.Davenport等(2010)研究認為,決策情境也是選擇決策順序需要考慮的因素,對情境比較穩(wěn)定的決策環(huán)境,人工智能可以進行重復性決策,當有意外情況發(fā)生的時候,人類再進行決策。

    (七)人類和人工智能誰應(yīng)該承擔決策責任

    人工智能越加智能化,其使用者就越難以明白其得出決策結(jié)論的過程。對于強AI來說,算法本身就是“黑箱”。當人工智能越來越多地參與組織決策時,人工智能當然也應(yīng)該對自己的所作所為(包括決策)負責,其中倫理道德問題與機器自動化密切相關(guān),而在人工智能決策過程中,這種“黑箱”又表現(xiàn)出“道德倫理黑箱”。因而清楚這種黑箱的工作過程,有利于判斷出人工智能做出特定決策的原因。(4)Winfield, A. F., & Jirotka, M. (2017, July). “The case for an ethical black box”. In Annual Conference Towards Autonomous Robotic Systems (pp. 262-273).但是,也有研究者反對讓人工智能承擔決策責任。如Malle等(2016)從道德應(yīng)用的適宜度角度認為,人類決策所遵守的道德準則不適合拓展到機器人等人工智能上;Bertram等(2019)通過實驗發(fā)現(xiàn),30%-50%參與實驗的受訪者質(zhì)疑人工智能是否有資格成為決策失誤道德譴責的對象;Shank等(2019)則從人工智能和人類在社會生活中的角色展開研究并強調(diào),由于人類還沒有把人工智能納入到社會結(jié)構(gòu)中去,因而出現(xiàn)決策過失,人工智能不應(yīng)該承擔和人類相同的責任。

    Renda等(2019)認為,為了更好地讓人工智能融入組織決策領(lǐng)域,規(guī)范人工智能的規(guī)章制度和道德標準應(yīng)該在其參與組織決策之前被制定出來,以防止有偏見的算法和數(shù)據(jù)妨礙了正常的決策程序和決策結(jié)果,讓組織承受高昂的代價。Anderson等(2004)認為,在人工智能將給組織帶來諸多益處的同時,相應(yīng)的人工智能使用規(guī)范需要提前介入,以確保組織從以人類智力為核心的決策主體,順利過渡到以人工智能為決策核心的組織中。同時,基于倫理道德的文化性特征,人工智能的倫理道德標準要優(yōu)于人類。首先,機器傾向于基于數(shù)據(jù)做出精確的決策方案,而人類的決策只是基于人類的判斷,相比數(shù)據(jù)的決策,人類的決策不夠客觀;其次,人類做決策不會考慮所有的備選方案,可能會對某些特定備選方案有所偏袒,而機器會基于數(shù)據(jù)對所有備選方案進行評估,因而做出的決策是相對客觀的;再次,機器是沒有情感的,而人類的情感在某些情況下,是做出錯誤決策的重要原因。Daniel等(2019)采用實驗法,研究了運用人工智能決策的道德問題,他們分別對完全由人工智能或是人類來決策,人類和人工智能聯(lián)合決策(人類監(jiān)督人工智能或是人工智能監(jiān)督人類)的四個決策情境進行分析,得出決策結(jié)構(gòu)對人工智能決策的道德沒有顯著影響的結(jié)論。但是,比起全權(quán)由人類決策,或是人類接受人工智能的建議,再進行決策的兩種情況,人類監(jiān)督人工智能決策這種情境,在面臨決策道德問題時,受到的指責會相對較小;比起單獨由人類做出的決策、人類和人工智能聯(lián)合所做出的決策等三種情境,全權(quán)依靠人工智能做決策,當決策有失誤時,會得到更多的道德寬恕。Young等(2019)實施的三組實驗結(jié)果顯示,人類和人工智能到底誰對決策負責任應(yīng)取決于具體的情境。除此之外,讓人工智能在決策時遵循人類倫理道德的難點在于道德標準本身是隨著社會發(fā)展而不斷變化的。Bostrom等(2014)的研究發(fā)現(xiàn),在同一時期,不同的國家和地區(qū)的道德標準也不同,因而很難找到讓人工智能遵循的統(tǒng)一道德標準。以上研究表明,隨著人工智能技術(shù)的不斷進步,人工智能已漸漸地能與人類開展交流和思考。對此,人類應(yīng)盡可能多的理解人工智能的思想與意圖,與人工智能建立情感聯(lián)系并賦予其一定的責任。

    (八)人工智能決策質(zhì)量的影響因素

    1.數(shù)據(jù)質(zhì)量。Thomas Bolander等(2019)的研究表明,人工智能決策和人類決策同樣存在質(zhì)量問題,通過對人工智能和人類決策質(zhì)量的比較,發(fā)現(xiàn)人工智能決策依然存在許多缺點和不足,現(xiàn)有的人工智能技術(shù)條件還不能夠保證決策的正確和可解釋性。因而,找到現(xiàn)階段影響組織決策質(zhì)量的主要因素是保證組織最終得到優(yōu)質(zhì)決策的關(guān)鍵。盡管人類針對人工智能的技術(shù)研究,已經(jīng)在最大努力地提升人工智能的決策能力,但這個提升過程還是略顯緩慢。短期內(nèi)提升人工智能的決策質(zhì)量還是要從數(shù)據(jù)質(zhì)量入手。(5)M. Janssen, H. van der Voort, A. Wahyudi,“ Factors influencing big data decision-making quality”, J. Bus. Res. 70 (2017) 338-345.Kitchin等(2014)列出了數(shù)據(jù)管理的具體方法,即剔除錯誤信息數(shù)據(jù)、把數(shù)據(jù)錄入機器可以識別的數(shù)據(jù)類型、把相關(guān)的數(shù)據(jù)整合起來。案例法被用于研究人工智能決策面臨的數(shù)據(jù)問題,數(shù)據(jù)中可能存在著少量的缺失數(shù)據(jù)、大量的缺失數(shù)據(jù)、有偏誤的數(shù)據(jù)。因為,數(shù)據(jù)的質(zhì)量直接決定了人工智能進行決策的質(zhì)量,而有問題的數(shù)據(jù)不能保證決策的透明性、公平性和解釋性。(6)Bolander, T. (2020).“ Correction to: What do we lose when machines take the decisions?”. Journal of Management and Governance, 1-1.最新針對數(shù)據(jù)與決策質(zhì)量的研究發(fā)現(xiàn),進一步提高數(shù)據(jù)的質(zhì)量,對于現(xiàn)階段人工智能的組織決策質(zhì)量具有決定性的影響。(7)Shamim, S., Zeng, J., Shariq, S. M., & Khan, Z. (2019). “Role of big data management in enhancing big data decision-making capability and quality among Chinese firms: A dynamic capabilities view”. Information & Management, 56(6), 103135.在人工智能和人類共同決策的情境下,通過計算人工智能和人類在決策意見所占權(quán)重并提高數(shù)據(jù)的質(zhì)量,是提高整體人工智能決策質(zhì)量上的有效方法。(8)Luis Alessandri PérezArellano·Ernesto León-Castro·Ezequiel Avilés-Ochoa·José M. Merigó “Prioritized induced probabilistic operator and its application in group decision making” Int. J. Mach. Learn. & Cyber. (2019) 10:451-462Perri(2001)對人工智能和人類決策質(zhì)量進行了比較,指出盡管人工智能具有更理性、更智能、信息存儲量比人類大等諸多優(yōu)勢,但依然不能得出人工智能做出的決策比人類要好的結(jié)論。人工智能在數(shù)據(jù)量不足的情境下,其決策質(zhì)量必然差于人類的決策質(zhì)量。

    2.算法。組織可以在數(shù)據(jù)不豐富的時候,研發(fā)算法以提升決策能力。(9)Masegosa ASR, Feelders AJ, Van der Gaag LC (2016) “Learning from scarce data in bayesian networks with qualitative influences“Int J Approx Reason 69(C):18-34.特定的某種算法是某一決策情境下對組織決策有積極作用的方法,算法本身確實會影響人工智能對組織的決策質(zhì)量。(10)Zhan, J., Malik, H. M., & Akram, M. (2019). “Novel decision-making algorithms based on intuitionistic fuzzy rough environment“. International Journal of Machine Learning and Cybernetics, 10(6), 1459-1485.當算法過度簡單(忽視了決策環(huán)境的復雜性)、算法的模型存在維度的缺失(這些維度是做出正確決策所需要的)、把兩個或者多個因素的相關(guān)關(guān)系識別成了因果關(guān)系;算法能否識別組織本身環(huán)境和周圍環(huán)境,在決策環(huán)境復雜或不確定、信息缺乏或質(zhì)量低的情況下,通過提高算法本身能力來提高組織的決策,同樣是提升組織決策質(zhì)量的有利途徑。(11)Yao You· Jie Li·Lincheng Shen “An effective Bayesian network parameters learning algorithm for autonomous mission decision-making under scarce data“Int. J. Mach. Learn. & Cyber. (2019) 10:549-561.與人類的學習速度相比,人工智能的學習速度相對緩慢,在這種受限的情況下,人工智能很難做出比人類更準確的決策,因而通過開發(fā)與人腦的工作原理相似的算法來提高決策質(zhì)量,即當可供算法學習的數(shù)據(jù)較少,人工智能與環(huán)境的交互作用又很有限的情況下,應(yīng)把神經(jīng)科學與人工智能的算法研究結(jié)合起來。(12)Sang Wan Lee and Ben “Seymour Decision-making in brains and robots — the case for an interdisciplinary approach“Current Opinion in Behavioral Sciences 2019, 26:137-14533、Sverchkov等(2017)的研究則認為,通過提高人工智能在新情境環(huán)境中的決策能力,降低人工智能在決策中對受限制環(huán)境的依賴,會相應(yīng)的提高決策質(zhì)量。

    (九)不同觀點對人工智能決策的看法

    技術(shù)具有二重性,樂觀主義認為人工智能可以替代人類去做乏味、枯燥、重復性的工作,解放人類。因而,技術(shù)樂觀主義對技術(shù)實踐的社會價值發(fā)展持肯定或樂觀態(tài)度。技術(shù)樂觀主義者認為,人類只要掌握了人工智能技術(shù),就可以把握自己命運并決定人類自身的發(fā)展,解決社會問題并創(chuàng)造美好的未來。技術(shù)悲觀主義認為,人工智能會造成人類社會的失業(yè),并造成對人類隱私的侵害,造成過渡監(jiān)管、控制等問題。Perri(2010)的研究發(fā)現(xiàn),等級制度擔心技術(shù)會超出管理系統(tǒng)的控制,并要求更多的監(jiān)管來約束它們。個人主義擔心大規(guī)模的新技術(shù),例如人工智能對勞動力有一定的替代作用,因而人工智能技術(shù)的發(fā)展會破壞個人的創(chuàng)業(yè)能力,并呼吁放松管制和以市場為基礎(chǔ)的手段來控制風險;平等主義擔心冷技術(shù)將主導或破壞溫暖的道德社區(qū),使原本由于組織團隊協(xié)作而溫馨的氛圍被打破,并呼吁從技術(shù)發(fā)展中解放出神圣空間。相比之下,宿命論者則認為人工智能技術(shù)會隨機失效,從而只會加劇已經(jīng)是流浪漢式社會生活的任意性、隨機性和噪音,而技術(shù)失效的時段可能恰恰是組織做出決策的決定性時期。機器人、神經(jīng)網(wǎng)絡(luò)和數(shù)字代理在這個永恒的社會恐懼系統(tǒng)中占據(jù)了它們的位置,在這個系統(tǒng)中,社會組織的競爭形式試圖讓人、技術(shù)和系統(tǒng)對它們的各種基本價值觀負責。

    三、研究展望

    科技本身是協(xié)調(diào)當前對未來展望的一個過程,也是“科技管理”的重要任務(wù)。技術(shù)發(fā)展的一個顯著的特點是其動態(tài)性,技術(shù)發(fā)展的另一個特征則是其優(yōu)化性,這些特性會讓特定的技術(shù)在其技術(shù)體系中的不同層次、級別、類型的技術(shù)產(chǎn)生包容、關(guān)聯(lián)和連鎖的反應(yīng)。Suzuki(2020)的研究認為,人工智能仍有許多懸而未決的問題亟待解決,隨著人工智能技術(shù)在量變和質(zhì)變中的不斷發(fā)展進步,這項技術(shù)可能還會與其它技術(shù)相結(jié)合,終究會為組織決策領(lǐng)域,甚至為整個組織系統(tǒng)造福?;谌斯ぶ悄軐M織決策的現(xiàn)實影響,我們的思考:人工智能協(xié)助甚至替代決策者進行決策,那么決策者應(yīng)該在組織中扮演一個什么類型的角色?人工智能一定會做出超乎人類意料的決策,如何管理由于人工智能引起的意想之外的決策?社會對技術(shù)具有一定的建構(gòu)作用,特定的技術(shù)是否適用于特定的組織是由技術(shù)能否適應(yīng)組織結(jié)構(gòu)決定的,應(yīng)用人工智能技術(shù)進行有效組織決策需要什么類型的組織結(jié)構(gòu)?技術(shù)進步對組織氛圍、組織結(jié)構(gòu)的變化和組織內(nèi)部成員關(guān)系有顯著的影響,人工智能已經(jīng)以一種特殊身份介入了組織的管理決策領(lǐng)域,人工智能對組織中人與人以及人與人工智能的關(guān)系會產(chǎn)生什么樣的影響?隨著人工智能技術(shù)的不斷進步并廣泛應(yīng)用到組織的各個方面,有一種觀點認為,終將有一天,人工智能的智慧會超越人類。(22)Spatola, N., & Normand, A. (2020). “Human vs. machine: the psychological and behavioral consequences of being compared to an outperforming artificial agent“. PsychologicalResearch, 1-11.因而,人工智能終將會對組織中部分的決策角色產(chǎn)生互補甚至完全替代,對此,未來的相關(guān)研究應(yīng)關(guān)注人工智能參與決策對組織領(lǐng)導者和員工心理層面的影響研究,此其一。人工智能的不合理使用可能會引發(fā)公共危機,(23)Scherer, M. U. (2015). “Regulating artificial intelligence systems: Risks, challenges, competencies, and strategies“. Harv. JL & Tech., 29, 353.對此,未來的相關(guān)研究應(yīng)當聚焦于適合人工智能決策的法律情境,此其二。另外,現(xiàn)有人工智能對組織決策的影響研究多集中于用案例分析、訪談交流等,未來的相關(guān)研究應(yīng)更多的關(guān)注應(yīng)用研究,并借助科技哲學、認知學等相關(guān)理論展開更深入的研究。

    猜你喜歡
    決策人工智能人類
    為可持續(xù)決策提供依據(jù)
    人類能否一覺到未來?
    人類第一殺手
    好孩子畫報(2020年5期)2020-06-27 14:08:05
    1100億個人類的清明
    決策為什么失誤了
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    人類正在消滅自然
    奧秘(2015年2期)2015-09-10 07:22:44
    久久久久精品国产欧美久久久| 欧美日韩精品成人综合77777| 可以在线观看毛片的网站| 国产精品一二三区在线看| 一区二区三区免费毛片| 我要看日韩黄色一级片| 97碰自拍视频| 婷婷精品国产亚洲av| 亚洲国产精品合色在线| 精品日产1卡2卡| 麻豆乱淫一区二区| 日韩av在线大香蕉| 91久久精品国产一区二区三区| 我的女老师完整版在线观看| 婷婷色综合大香蕉| 老熟妇仑乱视频hdxx| 亚洲色图av天堂| 老女人水多毛片| 99热全是精品| 免费观看的影片在线观看| 亚洲内射少妇av| 天堂动漫精品| 此物有八面人人有两片| 欧美绝顶高潮抽搐喷水| 色av中文字幕| 少妇熟女欧美另类| 美女xxoo啪啪120秒动态图| 男人舔奶头视频| 久久精品91蜜桃| 不卡视频在线观看欧美| 尤物成人国产欧美一区二区三区| 精品欧美国产一区二区三| 成人特级av手机在线观看| 两个人的视频大全免费| 内射极品少妇av片p| 99热这里只有是精品50| 国产精品一区二区性色av| 国产精品,欧美在线| 色播亚洲综合网| 极品教师在线视频| 美女高潮的动态| 夜夜夜夜夜久久久久| 我要搜黄色片| 久久精品国产亚洲av香蕉五月| 国产三级在线视频| 97人妻精品一区二区三区麻豆| 99久久九九国产精品国产免费| 亚洲欧美日韩东京热| av在线观看视频网站免费| 女生性感内裤真人,穿戴方法视频| 男人和女人高潮做爰伦理| 最近最新中文字幕大全电影3| 免费看光身美女| 特级一级黄色大片| 婷婷亚洲欧美| 级片在线观看| 亚洲aⅴ乱码一区二区在线播放| 国产精品av视频在线免费观看| 天天一区二区日本电影三级| 午夜视频国产福利| 午夜福利在线在线| 欧美日韩乱码在线| 男人狂女人下面高潮的视频| 成年版毛片免费区| 99视频精品全部免费 在线| 国语自产精品视频在线第100页| 可以在线观看毛片的网站| 亚洲图色成人| 国产日本99.免费观看| 国产亚洲精品久久久com| 18禁在线无遮挡免费观看视频 | 日韩强制内射视频| 午夜爱爱视频在线播放| 成人永久免费在线观看视频| 国产 一区精品| 国产高清有码在线观看视频| 欧美色视频一区免费| 麻豆成人午夜福利视频| 简卡轻食公司| 美女xxoo啪啪120秒动态图| 丰满人妻一区二区三区视频av| 人妻夜夜爽99麻豆av| 伦精品一区二区三区| 中国美白少妇内射xxxbb| 国产探花极品一区二区| 久久久久国产精品人妻aⅴ院| 成人亚洲欧美一区二区av| 国产av麻豆久久久久久久| 欧美成人精品欧美一级黄| 国产片特级美女逼逼视频| 1024手机看黄色片| 成年女人毛片免费观看观看9| 国产91av在线免费观看| 亚洲av电影不卡..在线观看| 国产精品一区二区三区四区久久| 亚洲精品影视一区二区三区av| 毛片女人毛片| 最近在线观看免费完整版| 嫩草影院入口| 一本久久中文字幕| 精品一区二区三区视频在线| 99久国产av精品国产电影| 99在线视频只有这里精品首页| 干丝袜人妻中文字幕| 少妇人妻精品综合一区二区 | 波野结衣二区三区在线| av免费在线看不卡| 最近2019中文字幕mv第一页| 亚洲av电影不卡..在线观看| 又爽又黄a免费视频| 午夜激情福利司机影院| 一边摸一边抽搐一进一小说| 亚洲欧美日韩卡通动漫| 露出奶头的视频| 18禁在线播放成人免费| 校园人妻丝袜中文字幕| 18禁在线播放成人免费| 精品午夜福利视频在线观看一区| 在线观看66精品国产| 丰满的人妻完整版| 国产精品女同一区二区软件| 激情 狠狠 欧美| 变态另类丝袜制服| 亚洲av成人av| 国产一区亚洲一区在线观看| av免费在线看不卡| 日韩中字成人| 看非洲黑人一级黄片| 高清日韩中文字幕在线| 人妻久久中文字幕网| 一本一本综合久久| videossex国产| 国产淫片久久久久久久久| 亚洲精品乱码久久久v下载方式| 成年版毛片免费区| 欧美一区二区国产精品久久精品| 亚洲av电影不卡..在线观看| 国内精品美女久久久久久| 色哟哟·www| 国产视频内射| 99视频精品全部免费 在线| 亚洲内射少妇av| 性欧美人与动物交配| 99久久九九国产精品国产免费| 美女黄网站色视频| 日本黄色片子视频| 日本黄大片高清| 欧美性猛交黑人性爽| 免费看av在线观看网站| 成人特级黄色片久久久久久久| 国产一区二区亚洲精品在线观看| 美女高潮的动态| 在线观看66精品国产| 床上黄色一级片| 97超级碰碰碰精品色视频在线观看| 国产精品一区二区三区四区免费观看 | 嫩草影视91久久| 国产黄色小视频在线观看| 久久精品国产亚洲av天美| 日本-黄色视频高清免费观看| 成年女人永久免费观看视频| 亚洲精品乱码久久久v下载方式| 悠悠久久av| 听说在线观看完整版免费高清| 精品午夜福利视频在线观看一区| 国产乱人视频| 国产老妇女一区| 在线观看一区二区三区| 国产精华一区二区三区| 欧美日本视频| 亚洲精品色激情综合| 三级毛片av免费| 久久久久国产网址| 亚洲精品色激情综合| 亚洲成a人片在线一区二区| 亚洲色图av天堂| 国产国拍精品亚洲av在线观看| a级毛色黄片| 国产毛片a区久久久久| 精品午夜福利在线看| 麻豆乱淫一区二区| 国产精品1区2区在线观看.| 床上黄色一级片| 女的被弄到高潮叫床怎么办| 天天躁夜夜躁狠狠久久av| 久久6这里有精品| 99热这里只有是精品50| 男女下面进入的视频免费午夜| 国产亚洲精品久久久com| 亚洲国产日韩欧美精品在线观看| 日日撸夜夜添| 欧美成人精品欧美一级黄| 国产极品精品免费视频能看的| 狂野欧美激情性xxxx在线观看| 亚洲av电影不卡..在线观看| 欧美又色又爽又黄视频| 一区二区三区免费毛片| 日韩在线高清观看一区二区三区| 国产私拍福利视频在线观看| 国产日本99.免费观看| 免费人成在线观看视频色| 国产精品亚洲一级av第二区| 一级a爱片免费观看的视频| 男女边吃奶边做爰视频| 色哟哟·www| 99久久精品国产国产毛片| 简卡轻食公司| 欧美最黄视频在线播放免费| 一区二区三区高清视频在线| 久久精品国产清高在天天线| 99久久无色码亚洲精品果冻| 联通29元200g的流量卡| 草草在线视频免费看| 国产精品美女特级片免费视频播放器| av天堂中文字幕网| 男女之事视频高清在线观看| 成人精品一区二区免费| 亚洲av美国av| 精品无人区乱码1区二区| 精品国内亚洲2022精品成人| 99久久久亚洲精品蜜臀av| av视频在线观看入口| 可以在线观看毛片的网站| 少妇丰满av| 精品一区二区三区视频在线| .国产精品久久| 国产精品爽爽va在线观看网站| 在线播放国产精品三级| 深夜a级毛片| 99久久精品国产国产毛片| 精品少妇黑人巨大在线播放 | 不卡一级毛片| 国产精品久久久久久av不卡| 久久久久免费精品人妻一区二区| 国产精品一区二区三区四区久久| 在线播放国产精品三级| 少妇被粗大猛烈的视频| 国产精品野战在线观看| 精品熟女少妇av免费看| 日日摸夜夜添夜夜爱| 亚洲av中文字字幕乱码综合| 91麻豆精品激情在线观看国产| 久久精品国产亚洲网站| 人妻夜夜爽99麻豆av| 少妇猛男粗大的猛烈进出视频 | ponron亚洲| 久久韩国三级中文字幕| 不卡视频在线观看欧美| 中国国产av一级| 国产综合懂色| 国内揄拍国产精品人妻在线| 99热6这里只有精品| 欧美区成人在线视频| av在线天堂中文字幕| 男女那种视频在线观看| 久久久久久久久大av| 性欧美人与动物交配| 国产高潮美女av| 精品久久久久久久末码| 国产精品一区二区三区四区免费观看 | 亚洲精品乱码久久久v下载方式| 波多野结衣高清无吗| 日本一二三区视频观看| 国产黄片美女视频| 欧美在线一区亚洲| 欧美+日韩+精品| 欧美精品国产亚洲| 久久久久久久亚洲中文字幕| 99久久精品热视频| 九九爱精品视频在线观看| 人人妻人人澡欧美一区二区| 国产麻豆成人av免费视频| 小说图片视频综合网站| 亚洲五月天丁香| 亚洲无线观看免费| 色综合亚洲欧美另类图片| 男人的好看免费观看在线视频| 亚洲,欧美,日韩| 久久精品影院6| 亚洲国产精品久久男人天堂| 日日啪夜夜撸| 成人午夜高清在线视频| 看片在线看免费视频| 少妇丰满av| 最后的刺客免费高清国语| 亚洲成av人片在线播放无| 十八禁网站免费在线| 日本三级黄在线观看| 亚洲精品一区av在线观看| 午夜精品在线福利| 成年女人看的毛片在线观看| 一级毛片电影观看 | 成人三级黄色视频| 波多野结衣高清作品| 国产一区二区三区在线臀色熟女| 亚洲成a人片在线一区二区| 黄色配什么色好看| 国产伦精品一区二区三区视频9| 国产亚洲精品久久久com| 国产激情偷乱视频一区二区| 精品人妻视频免费看| 少妇裸体淫交视频免费看高清| 免费看av在线观看网站| 99视频精品全部免费 在线| 高清日韩中文字幕在线| 精品人妻熟女av久视频| 欧美日韩国产亚洲二区| 高清日韩中文字幕在线| 精品久久久久久久久久久久久| 欧美日韩精品成人综合77777| 韩国av在线不卡| 亚洲成人久久性| 午夜免费激情av| 欧美最新免费一区二区三区| 卡戴珊不雅视频在线播放| 91狼人影院| 成年女人永久免费观看视频| 天堂av国产一区二区熟女人妻| 在线免费观看的www视频| 亚洲人与动物交配视频| 看片在线看免费视频| 免费看a级黄色片| 男女视频在线观看网站免费| 欧美高清性xxxxhd video| 人人妻人人澡人人爽人人夜夜 | 成人性生交大片免费视频hd| 国产女主播在线喷水免费视频网站 | 午夜爱爱视频在线播放| 欧美一区二区精品小视频在线| 国产亚洲av嫩草精品影院| av福利片在线观看| 亚洲高清免费不卡视频| 国产高清不卡午夜福利| 精品久久久久久久末码| 精品不卡国产一区二区三区| 亚洲精品久久国产高清桃花| 一级黄色大片毛片| 国模一区二区三区四区视频| 在线观看免费视频日本深夜| 一边摸一边抽搐一进一小说| 高清午夜精品一区二区三区 | 久久久a久久爽久久v久久| 九九久久精品国产亚洲av麻豆| 亚洲精品456在线播放app| 自拍偷自拍亚洲精品老妇| 中文字幕精品亚洲无线码一区| 色哟哟哟哟哟哟| 国产亚洲精品久久久com| 国产亚洲精品久久久久久毛片| 久久韩国三级中文字幕| 在线观看66精品国产| 性插视频无遮挡在线免费观看| 婷婷亚洲欧美| 18禁在线无遮挡免费观看视频 | 亚洲欧美中文字幕日韩二区| 久久热精品热| 可以在线观看的亚洲视频| 99久久久亚洲精品蜜臀av| 久久久色成人| 在线观看av片永久免费下载| 久久人人爽人人片av| 亚洲av中文av极速乱| 51国产日韩欧美| av在线蜜桃| 在现免费观看毛片| 12—13女人毛片做爰片一| 麻豆国产av国片精品| 三级国产精品欧美在线观看| 好男人在线观看高清免费视频| 欧美日韩一区二区视频在线观看视频在线 | av在线天堂中文字幕| 国产亚洲精品av在线| 亚洲精品国产成人久久av| 日韩一区二区视频免费看| 精品久久国产蜜桃| 91在线观看av| 国产精品爽爽va在线观看网站| av在线播放精品| 免费av观看视频| 久久久精品欧美日韩精品| 97超碰精品成人国产| 最近视频中文字幕2019在线8| 少妇的逼水好多| 国产精品日韩av在线免费观看| 国产伦精品一区二区三区四那| 男女边吃奶边做爰视频| 国产亚洲精品av在线| 美女xxoo啪啪120秒动态图| 午夜日韩欧美国产| 超碰av人人做人人爽久久| 中国美白少妇内射xxxbb| 国产一区二区三区在线臀色熟女| 欧美+日韩+精品| 嫩草影院新地址| 两性午夜刺激爽爽歪歪视频在线观看| 久久韩国三级中文字幕| 在线天堂最新版资源| 一区二区三区免费毛片| 精品一区二区三区视频在线观看免费| 亚洲国产色片| 亚洲真实伦在线观看| 最新在线观看一区二区三区| 色噜噜av男人的天堂激情| 亚洲美女搞黄在线观看 | 成人一区二区视频在线观看| 久久久久久久午夜电影| 久久亚洲国产成人精品v| 亚洲av一区综合| 少妇熟女aⅴ在线视频| 一区二区三区四区激情视频 | www.色视频.com| 99久久成人亚洲精品观看| 色吧在线观看| 亚洲丝袜综合中文字幕| 久久久久久国产a免费观看| 国产亚洲精品综合一区在线观看| 激情 狠狠 欧美| 熟妇人妻久久中文字幕3abv| 黄色视频,在线免费观看| 国产在线精品亚洲第一网站| 亚洲国产欧洲综合997久久,| 亚洲av中文字字幕乱码综合| 久久综合国产亚洲精品| 欧美激情久久久久久爽电影| 久久久久九九精品影院| 午夜福利高清视频| 性欧美人与动物交配| 日韩精品有码人妻一区| 亚洲在线自拍视频| 中文字幕熟女人妻在线| 日韩精品中文字幕看吧| 美女cb高潮喷水在线观看| 91久久精品电影网| 干丝袜人妻中文字幕| 久久精品久久久久久噜噜老黄 | 亚洲人成网站在线播| 草草在线视频免费看| 国产色爽女视频免费观看| 亚洲熟妇中文字幕五十中出| 人人妻人人看人人澡| 久久人人爽人人爽人人片va| 天堂影院成人在线观看| 国产精品99久久久久久久久| 欧美日韩一区二区视频在线观看视频在线 | 中文资源天堂在线| 国产三级中文精品| 麻豆成人午夜福利视频| 亚洲第一区二区三区不卡| 天美传媒精品一区二区| 联通29元200g的流量卡| 久久中文看片网| 亚洲美女搞黄在线观看 | 色尼玛亚洲综合影院| 午夜影院日韩av| 国产精品嫩草影院av在线观看| 国产精品一区二区三区四区免费观看 | 直男gayav资源| 精华霜和精华液先用哪个| 桃色一区二区三区在线观看| 国产精品一区二区性色av| 一边摸一边抽搐一进一小说| 老熟妇乱子伦视频在线观看| 欧美日韩乱码在线| 欧美绝顶高潮抽搐喷水| 欧美日韩乱码在线| 少妇的逼水好多| 精品午夜福利在线看| 精品人妻一区二区三区麻豆 | 六月丁香七月| 日韩精品中文字幕看吧| 一个人免费在线观看电影| 亚洲中文日韩欧美视频| 国产成人福利小说| 欧美一级a爱片免费观看看| 久久精品影院6| 国产伦在线观看视频一区| 美女内射精品一级片tv| ponron亚洲| 亚洲精品456在线播放app| 日日撸夜夜添| 97超碰精品成人国产| 日韩av在线大香蕉| 两个人的视频大全免费| 在线看三级毛片| 精品国产三级普通话版| 亚洲欧美日韩高清在线视频| 黄色视频,在线免费观看| 亚洲经典国产精华液单| 精品人妻熟女av久视频| 色噜噜av男人的天堂激情| 精品一区二区三区av网在线观看| 我要看日韩黄色一级片| 在线观看66精品国产| 国产精品一区www在线观看| 91av网一区二区| av在线老鸭窝| 中文字幕熟女人妻在线| 变态另类成人亚洲欧美熟女| 三级毛片av免费| 日韩精品有码人妻一区| 成人欧美大片| 嫩草影院新地址| 日本-黄色视频高清免费观看| 国产日本99.免费观看| 国产伦精品一区二区三区视频9| 可以在线观看毛片的网站| а√天堂www在线а√下载| 成年女人看的毛片在线观看| 欧美丝袜亚洲另类| 国产淫片久久久久久久久| 午夜影院日韩av| 中文在线观看免费www的网站| 久久人人爽人人爽人人片va| 日韩国内少妇激情av| 久久久久国内视频| av在线观看视频网站免费| 国产乱人偷精品视频| 免费不卡的大黄色大毛片视频在线观看 | 国产精品国产三级国产av玫瑰| 国产伦精品一区二区三区四那| 欧美激情在线99| 午夜福利在线观看免费完整高清在 | 又爽又黄无遮挡网站| 91麻豆精品激情在线观看国产| 国产精品人妻久久久久久| 精品久久久久久久末码| 日产精品乱码卡一卡2卡三| 别揉我奶头 嗯啊视频| 欧美一区二区国产精品久久精品| h日本视频在线播放| 麻豆成人午夜福利视频| 在线观看一区二区三区| 一级毛片aaaaaa免费看小| 精品免费久久久久久久清纯| 欧美三级亚洲精品| 狂野欧美白嫩少妇大欣赏| 欧美日本亚洲视频在线播放| 91精品国产九色| 人妻制服诱惑在线中文字幕| 国产真实伦视频高清在线观看| 精品无人区乱码1区二区| 三级国产精品欧美在线观看| 国产毛片a区久久久久| 亚洲av熟女| 三级经典国产精品| 国模一区二区三区四区视频| 日本成人三级电影网站| 高清毛片免费观看视频网站| 亚洲中文字幕日韩| 国模一区二区三区四区视频| 精品福利观看| 卡戴珊不雅视频在线播放| 亚洲精华国产精华液的使用体验 | 少妇被粗大猛烈的视频| 日本三级黄在线观看| 99热只有精品国产| 亚洲在线自拍视频| 丰满人妻一区二区三区视频av| 精品一区二区三区av网在线观看| 有码 亚洲区| 成人精品一区二区免费| 麻豆国产97在线/欧美| 国产精品人妻久久久久久| 91久久精品国产一区二区三区| 国产午夜精品论理片| а√天堂www在线а√下载| 日韩精品中文字幕看吧| 成人午夜高清在线视频| 欧美不卡视频在线免费观看| 免费大片18禁| 久久久久国产精品人妻aⅴ院| 黄色视频,在线免费观看| 99热精品在线国产| 最近视频中文字幕2019在线8| 91在线观看av| 天美传媒精品一区二区| 国产黄片美女视频| 男插女下体视频免费在线播放| 久久精品91蜜桃| 国产精品一区www在线观看| 国产av在哪里看| 成熟少妇高潮喷水视频| 丰满人妻一区二区三区视频av| 日韩一区二区视频免费看| 最近视频中文字幕2019在线8| 日韩,欧美,国产一区二区三区 | 91久久精品电影网| 欧美丝袜亚洲另类| 国产精品国产高清国产av| 久久午夜福利片| 在线观看免费视频日本深夜| 99久久无色码亚洲精品果冻| 夜夜夜夜夜久久久久| 五月伊人婷婷丁香| 亚洲在线观看片| 亚洲精品国产成人久久av| 国产毛片a区久久久久| 久久久久九九精品影院| 国产爱豆传媒在线观看| 美女高潮的动态| 亚洲欧美成人综合另类久久久 | 国产在线精品亚洲第一网站| 久久中文看片网| 欧美最黄视频在线播放免费| 嫩草影院精品99| 欧美激情国产日韩精品一区| 一个人观看的视频www高清免费观看| 亚洲av二区三区四区| 欧美xxxx黑人xx丫x性爽| 九九在线视频观看精品| 国产片特级美女逼逼视频| 嫩草影视91久久| 国产精品久久久久久久久免| 国产伦精品一区二区三区视频9| 精品久久久噜噜|