• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    如何認(rèn)識人工智能的倫理沖突?
    ——研究回顧與展望

    2019-10-11 07:26:22謝洪明楊英楠
    外國經(jīng)濟(jì)與管理 2019年10期
    關(guān)鍵詞:倫理道德機(jī)器人

    謝洪明, 陳 亮, 楊英楠

    (1. 浙江工業(yè)大學(xué) 管理學(xué)院,浙江 杭州 310023;2. 廣州大學(xué) 工商管理學(xué)院,廣東 廣州 510006;3. 浙江金融職業(yè)學(xué)院,浙江 杭州 310018;4. 浙江大學(xué) 工程管理研究所,浙江 杭州 310058;5. 浙江工業(yè)大學(xué) 中小企業(yè)研究院,浙江 杭州 310023)

    一、引 言

    隨著人工智能(artificial intelligence,AI)的發(fā)展,人工智能倫理在國內(nèi)外都成為了各界討論和研究的核心議題之一(Moor,2006;Wallach和Allen,2010;Greenwald,2015;杜嚴(yán)勇,2015;Lei等,2019;趙汀陽,2019)。人工智能倫理研究是人工智能時(shí)代的必然產(chǎn)物,它既包括對技術(shù)本身的研究,也包括在符合人類價(jià)值的前提下對人、機(jī)和環(huán)境之間的關(guān)系研究(劉偉和趙路,2018)。發(fā)展的不確定性帶來了新的倫理問題和風(fēng)險(xiǎn),尤其是奇點(diǎn)理論(singularity theory)提出之后,許多人對人工智能的快速發(fā)展表示了擔(dān)心,隨之而來的諸如無人駕駛汽車致人死亡、護(hù)理機(jī)器人帶來人格與尊嚴(yán)等問題更加印證了人們的這種印象。同時(shí),人工智能也帶來歧視、侵犯個(gè)人隱私、改變就業(yè)結(jié)構(gòu)、挑戰(zhàn)國際關(guān)系原則等問題,這對個(gè)人權(quán)利、政府監(jiān)管、經(jīng)濟(jì)社會發(fā)展乃至全球治理將產(chǎn)生深刻影響(Wallach和Allen,2010;Bostrom,2014;Diakopoulos,2015;杜嚴(yán)勇,2015;蘇令銀,2019)。因此,需要引起更多的人關(guān)注人工智能倫理,為未來人工智能的發(fā)展奠定道德性根基。

    如何正確認(rèn)識人工智能在發(fā)展過程中出現(xiàn)的失敗案例(Yampolskiy和Spellchecker,2016)?是因?yàn)閿?shù)據(jù)爆發(fā)式增長和深度學(xué)習(xí)算法的發(fā)展,人類的決策讓渡使機(jī)器從被動(dòng)工具向能動(dòng)體(intelligent agent)轉(zhuǎn)變而具備不需要人類介入的“感知—思考—行動(dòng)”體現(xiàn)出的自我學(xué)習(xí)進(jìn)化能力,還是因?yàn)槿斯ぶ悄芟到y(tǒng)在算法引導(dǎo)下的錯(cuò)誤,以及技術(shù)的不確定性導(dǎo)致后果的難以預(yù)測和量化評估(閆坤如和馬少卿,2018)?是因?yàn)槿祟惖挠邢蘩硇砸l(fā)了人工智能的倫理風(fēng)險(xiǎn),還是說人工智能還遠(yuǎn)沒有具備倫理的屬性?這些問題在學(xué)術(shù)界還尚未形成統(tǒng)一的認(rèn)識。如何評價(jià)人工智能的行為將會直接影響人以何種方式與機(jī)器相處,因此,需要系統(tǒng)地梳理人類面對的形式多樣的倫理挑戰(zhàn),通過發(fā)展和改進(jìn)人類現(xiàn)有的倫理體系,為國家實(shí)施《新一代人工智能發(fā)展規(guī)劃》解決倫理性問題,更好地適應(yīng)人工智能的發(fā)展。

    本文的目的是借助內(nèi)容分析方法,試圖厘清人工智能倫理研究的發(fā)展脈絡(luò)、現(xiàn)狀和趨勢,對現(xiàn)有研究從道德哲學(xué)、道德算法、設(shè)計(jì)倫理和社會倫理四個(gè)方面進(jìn)行評述,以期對未來的理論研究和實(shí)踐提供借鑒。行文結(jié)構(gòu)如下:第二部分對人工智能倫理相關(guān)文獻(xiàn)進(jìn)行計(jì)量分析;第三部分分析“人—機(jī)”關(guān)系引發(fā)的倫理沖突;第四部分綜述了人工智能倫理研究的視角及內(nèi)容;第五部分為國家及企業(yè)對人工智能倫理的態(tài)度;第六部分是總結(jié)和未來研究展望。

    二、人工智能倫理相關(guān)文獻(xiàn)的計(jì)量分析

    (一)文獻(xiàn)來源

    人工智能倫理的研究背景跨度寬泛,涉及計(jì)算機(jī)科學(xué)、人工智能、機(jī)器人學(xué)、倫理學(xué)、哲學(xué)、生物學(xué)、社會學(xué)、宗教等方面。本文基于Web of Science(WOS)和CNKI數(shù)據(jù)庫,以Citespace為文獻(xiàn)計(jì)量工具,以知識圖譜的形式分析人工智能倫理的研究脈絡(luò)。選擇以人工智能倫理(AI ethics)、機(jī)器道德(machine morality)、機(jī)器人倫理(robert ethics)、機(jī)器倫理(machine ethics)、道德機(jī)器(moral machine)、價(jià)值一致論(value alignment)、人工道德(artificial morality)、技術(shù)倫理(technology ethics)、人工智能安全(AI security)、友好人工智能(friendly AI)等為關(guān)鍵詞進(jìn)行搜索。為保障文獻(xiàn)的質(zhì)量,剔除影響因子較低的期刊,選取1997—2018年(共21年)期間發(fā)表在較高影響因子期刊上有關(guān)人工智能倫理研究的298篇文獻(xiàn)。將閾值設(shè)置為“Top50”,選擇每個(gè)時(shí)段出現(xiàn)頻次在前50的文獻(xiàn)形成知識圖譜。

    圖1 中國人工智能2012—2017年學(xué)術(shù)、投資和輿論變化曲線

    (二)文獻(xiàn)研究分析

    中國“人工智能”在理論研究、資本投資以及社會關(guān)注度方面呈逐年遞增的趨勢,如圖1所示。其中“學(xué)術(shù)曲線”是CNKI中“深度學(xué)習(xí)”相關(guān)論文各年份發(fā)布數(shù)量變化情況,“投資曲線”是人工智能私募股權(quán)投資市場的投資頻數(shù)變化,“輿論曲線”是百度指數(shù)中“人工智能”的搜索熱度變化。從曲線的變化趨勢來看,學(xué)術(shù)的研究熱度呈現(xiàn)持續(xù)增長態(tài)勢,大量資本進(jìn)入人工智能研究領(lǐng)域大概出現(xiàn)在2014年,公眾輿論中“人工智能”熱點(diǎn)出現(xiàn)于2016年。學(xué)術(shù)到資本市場轉(zhuǎn)化再到輿論熱點(diǎn)關(guān)注,人工智能發(fā)展趨勢與歷次新技術(shù)產(chǎn)生和發(fā)展的情況類似,可以預(yù)測人工智能及其相關(guān)領(lǐng)域未來都將是研究和關(guān)注熱點(diǎn)。

    主題詞是對文獻(xiàn)的核心內(nèi)容的提煉和概括,其頻次高低也在一定程度上反映了文獻(xiàn)的研究熱點(diǎn)和趨勢。本文基于搜集的人工智能倫理文獻(xiàn),進(jìn)行了主題詞共現(xiàn)分析,如圖2所示。

    圖2 CNKI和WOS數(shù)據(jù)庫關(guān)于人工智能倫理主題詞共現(xiàn)網(wǎng)絡(luò)分析

    國內(nèi)外從技術(shù)、文化、倫理、制度等方面對AI進(jìn)行研究,形成了實(shí)踐智慧、互聯(lián)網(wǎng)、大數(shù)據(jù)、機(jī)器道德、機(jī)器倫理等明顯的聚類。機(jī)器道德(machine morality)關(guān)注機(jī)器人應(yīng)該擁有哪些道德性能,以及這些性能如何實(shí)現(xiàn)的問題(Malle,2016)。機(jī)器倫理(machine ethics)關(guān)注機(jī)器人在設(shè)計(jì)、應(yīng)用實(shí)踐和與人類相處等方面的問題(Anderson等,2005)。機(jī)器人倫理(robert ethics)以及路線圖的提出(Di Robotica和Veruggio,2006),促進(jìn)學(xué)者對機(jī)器人技術(shù)使用影響的跨文化討論,從倫理因素的植入程度角度來理解廣義機(jī)器倫理(Moor,2006)。

    需要說明的是,機(jī)器人是目前人工智能研究最重要的載體,是多種技術(shù)的集合,因此在很多研究中將機(jī)器人倫理等同于人工智能倫理。但二者還是存在一定差異,機(jī)器人倫理是人工智能倫理的一部分,前者屬于后者研究范疇的核心,就二者關(guān)系而言屬于包含關(guān)系(莫宏偉,2018)。

    (三)國家級課題分析

    國家級課題立項(xiàng)情況能夠從另一個(gè)角度反映與人工智能倫理的研究現(xiàn)狀。以“人工智能”、“機(jī)器人倫理”為關(guān)鍵詞搜索國家社科網(wǎng),相關(guān)的立項(xiàng)課題計(jì)16項(xiàng),再根據(jù)申報(bào)人信息進(jìn)行期刊論文查詢,剔除相關(guān)度不高的課題6項(xiàng)。在文獻(xiàn)查閱的過程中,另發(fā)現(xiàn)與人工智能倫理相關(guān)的課題16項(xiàng)。因此,在2002—2017年間,與人工智能倫理相關(guān)的國家級課題研究共計(jì)26項(xiàng),立項(xiàng)范圍涉及人工智能道德哲學(xué)(劉西瑞,2002;李小五,2002;胡驚雷,2015;李熙,2017;王紹源和任曉明,2017;梅亮等,2017;高兆明,2017)、技術(shù)倫理(李倫,2018;張成崗,2017)、生活倫理(徐英瑾,2006,2015;閻國華和閆晨,2017;黨家玉,2017;張吉豫,2015)、倫理解決進(jìn)路(杜嚴(yán)勇,2015;段偉文,2017;黃閃閃,2017)等內(nèi)容,這與文獻(xiàn)研究熱點(diǎn)分析保持一致,表明國家層面也在關(guān)注人工智能倫理研究。

    三、“人—機(jī)”關(guān)系引發(fā)的倫理關(guān)注

    使用計(jì)算機(jī)技術(shù)在倫理設(shè)計(jì)框架內(nèi)跨界進(jìn)行道德模型構(gòu)建并應(yīng)用于實(shí)踐時(shí),研究具有開創(chuàng)性和前瞻性(Danielson,1992)?!爸悄荏w”(agents)再加上“人工”的屬性時(shí),這種智能就屬于機(jī)器而不是生物的(Ferraz和Del Nero,2018)。智能機(jī)器通過自我深度學(xué)習(xí)擁有了工具理性,對世界中發(fā)生的事能做出判斷和預(yù)測,構(gòu)成一種全新“人—機(jī)”關(guān)系。學(xué)術(shù)和實(shí)踐領(lǐng)域?qū)Υ酥饕腥N立場和觀點(diǎn),如表1所示。

    表1 人工智能發(fā)展引發(fā)對倫理問題的關(guān)注

    一是以馮·諾依曼、阿蘭·圖靈為代表的“傳統(tǒng)派”。他們認(rèn)為人類始終處于支配地位,人工智能永遠(yuǎn)不會超越人類智能,這種觀點(diǎn)源自于宗教中“造物主一定比所造之物高明”。20 世紀(jì)70 年代從生物和心理學(xué)的層面得出了人工智能必將失敗的結(jié)論(Dreyfus,1972),認(rèn)為“當(dāng)前人類面臨的風(fēng)險(xiǎn),不是超智能機(jī)器的降臨,而是低智能人的出現(xiàn)”。80年代的“中文房間”(Chinese room)模型對上述觀點(diǎn)進(jìn)行了印證(Searle,1980)。

    隨著人工智能的廣泛應(yīng)用,人類也逐步開始重視、反思弱人工智能與強(qiáng)人工智能,甚至超級人工智能(super intelligence)的研究以及與人類智能之間的關(guān)系問題。尼克·波斯特姆(Bostrom,2014)從“全腦仿真、生物認(rèn)知、人機(jī)交互以及網(wǎng)絡(luò)和組織”等路徑分析“超級智能”的可能性,這不同于目前廣泛應(yīng)用的“弱人工智能”(如下棋機(jī)器人、自動(dòng)駕駛技術(shù)等),而是一種能全面超越人類智能的“強(qiáng)人工智能”。但這些實(shí)現(xiàn)路徑是在人腦基礎(chǔ)上的直接迭代或高仿真,混淆了“強(qiáng)大的弱人工智能”與擁有主體性的“強(qiáng)人工智能”,并沒有深入探討人類智能現(xiàn)象的本質(zhì),對經(jīng)典的“他心問題”也無涉及,所以他提及的“超級智能”還是屬于工具性“弱人工智能”的范疇。

    二是以霍金、比爾·蓋茨、馬斯克為代表的“謹(jǐn)慎派”,他們認(rèn)為人類應(yīng)該敬畏人工智能的崛起。當(dāng)機(jī)器具備自我意識(self-aware),甚至可以通過自己的“神經(jīng)”和“意識”自主做出決定,并與其他人工智能機(jī)體互聯(lián),人工智能將最終構(gòu)成一個(gè)現(xiàn)實(shí)性的威脅。

    但是扎克伯格、李開復(fù)、吳恩達(dá)等人對“人工智能威脅論”提出相反的觀點(diǎn),爭議的焦點(diǎn)在于強(qiáng)人工智能是否以及何時(shí)會出現(xiàn)。馬斯克語境中主要是指“強(qiáng)人工智能”,即具備處理多種類型的任務(wù)和適應(yīng)未曾預(yù)料情形的能力,代表了公眾對強(qiáng)人工智能和超級人工智能可能失控、威脅人類未來的生存表達(dá)了擔(dān)憂;而扎克伯格所述的“人工智能”是狹義的專業(yè)領(lǐng)域人工智能能力,是產(chǎn)業(yè)界從功用和商業(yè)角度出發(fā),保持對人工智能研發(fā)和應(yīng)用的持續(xù)探索。這兩種典型的觀點(diǎn)源于對“人工智能”的不同理解。

    三是以赫伯特·西蒙(Herbert A.Simon)為代表的“樂觀派”,他們認(rèn)為人工智能肯定會達(dá)到并超過人類智能。“奇點(diǎn)理論”(singularity)預(yù)言機(jī)器智能將在2045年超過人類的智能(Kurzweil,2011),“藍(lán)腦計(jì)劃”(blue brain)提出的時(shí)間更短,預(yù)言在2020年左右制造出科學(xué)史上第一臺會“思考”的機(jī)器。但是這些預(yù)言遭到了很多人的質(zhì)疑,認(rèn)為人工智能的基礎(chǔ)技術(shù)是過去技術(shù)研發(fā)的量變積累,還未達(dá)到質(zhì)變的程度。未來人工智能和人類智能將會是社會發(fā)展的兩種形態(tài),“人機(jī)共存”將成為人類社會比較理想的狀態(tài)。

    雖然對人工智能的發(fā)展持樂觀態(tài)度,但人類社會在哲學(xué)、理智等各方面都還沒有準(zhǔn)備好迎接人工智能時(shí)代,需要呼吁人類正確使用人工智能,盡快制定機(jī)器人相關(guān)方面的倫理和價(jià)值體系,通過建立標(biāo)準(zhǔn)尋求“預(yù)防性原則”進(jìn)行風(fēng)險(xiǎn)評估,在此基礎(chǔ)上對危險(xiǎn)與風(fēng)險(xiǎn)再進(jìn)行評價(jià)(Wallach和Allen,2010)。

    人工智能倫理是技術(shù)發(fā)展中不可回避的重大問題。但是,也有部分學(xué)者表示人工智能還遠(yuǎn)沒有倫理的概念,只是人類對倫理的理解并強(qiáng)加在機(jī)器上(劉偉和趙路,2018)。人工智能的本質(zhì)仍然是人與人之間關(guān)系的研究范疇,呈現(xiàn)的問題與危機(jī)仍屬于控制與反控制的議題,也就是說,人工智能的技術(shù)飛躍或者“智能大爆發(fā)”帶來的應(yīng)用倫理問題并不是新問題,而是一系列老問題的疊加。它會對人類既有的認(rèn)知提出挑戰(zhàn),改變社會學(xué)階層分析的經(jīng)典框架,但不是顛覆性的“消滅”(Bostrom,2014)。

    四、人工智能倫理研究視角及內(nèi)容

    國外對人工智能倫理的研究起步較早,研究領(lǐng)域主要集中在機(jī)器人的社會倫理、法律和安全方面,涉及技術(shù)性失業(yè)、致命性自主武器、算法公平、道德判斷、價(jià)值一致性等問題。國內(nèi)研究相對滯后,但人工智能與機(jī)器人的倫理責(zé)任議題也逐漸被關(guān)注,具體包括人權(quán)倫理、責(zé)任倫理、道德地位倫理、代際倫理、環(huán)境倫理以及大數(shù)據(jù)倫理與隱私等,說明國內(nèi)已從單一的技術(shù)倫理研究轉(zhuǎn)向人機(jī)系統(tǒng)交互關(guān)系的倫理問題研究,這也是研究領(lǐng)域的新突破和進(jìn)步。本文結(jié)合李倫(2018)在第四屆全國賽博倫理學(xué)暨人工智能倫理學(xué)研討會上根據(jù)國內(nèi)外人工智能倫理研究的狀況和趨勢、人工智能與社會各領(lǐng)域的關(guān)聯(lián)屬性,從人工智能道德哲學(xué)、道德算法、設(shè)計(jì)倫理和社會倫理四個(gè)方面來理解人工智能倫理的研究。

    (一)人工智能道德哲學(xué)

    1. 機(jī)器人道德地位問題

    人工智能的發(fā)展提出了機(jī)器人道德地位問題的命題(蘇令銀,2019)。唯物主義觀點(diǎn)認(rèn)為人的意識是基于大腦神經(jīng)元而產(chǎn)生的,人類的所有行為活動(dòng)都是在意識驅(qū)動(dòng)下完成的,而人工神經(jīng)網(wǎng)絡(luò)(artificial neural network)無法自動(dòng)合成“神經(jīng)蛋白”這類特殊物質(zhì),不會產(chǎn)生主觀的意識。因此,意向性(intentionality)被認(rèn)為是人工智能與人類最本質(zhì)區(qū)別之一(Boden,2017),解決這個(gè)難題涉及“他心難題”及其變種的“機(jī)心難題”,這屬于形而上學(xué)的思考,是人工智能倫理研究的基礎(chǔ)和本源。心智的邊界在一定條件下可以不依賴人類生理系統(tǒng)而通過外部物理載體來實(shí)現(xiàn)(Heersmink,2009)。因此,道德地位需要考慮的不僅是屬性問題而更多地是關(guān)系問題,即實(shí)體之間以及與人類之間的關(guān)系,尤其是主體道德地位和客體道德地位的歸屬。獨(dú)立于這些關(guān)系去定義道德地位,本身就是違背道德的,因?yàn)樗划?dāng)作了一個(gè)具有抽象“屬性”的“實(shí)體”。

    機(jī)器人責(zé)任主體的界定可以表述為“自主智能機(jī)器人在人類社會中應(yīng)該扮演什么角色?”。沙特阿拉伯授予機(jī)器人索菲亞“公民身份”而備受關(guān)注,成為“機(jī)器人公民”意味著具有權(quán)利義務(wù)并對其行為負(fù)責(zé),需要承擔(dān)道德責(zé)任。但是普遍的學(xué)者卻認(rèn)為機(jī)器人作為“人工物”是沒有能力去承擔(dān)道德責(zé)任的,目前的人工智能仍然是對人類思維、行為的模仿,停留在工具和機(jī)械范疇,并不是真正意義上的人格實(shí)體與道德實(shí)體。也許隨著量子技術(shù)的發(fā)展,未來會出現(xiàn)類動(dòng)物甚至類人類AI,即強(qiáng)人工智能或超級人工智能,人類與AI的關(guān)系會發(fā)生根本性轉(zhuǎn)變,但這仍是停留在理論層面的不確定問題,未來需要科技的發(fā)展來檢驗(yàn)。經(jīng)典的圖靈測試在人工智能的“強(qiáng)弱”上也不能作為智能意識產(chǎn)生的推演依據(jù),已經(jīng)產(chǎn)生了“人工智能逆反圖靈測試”①圖靈測試表示有超過30%的測試者不能確定出被測試者是人還是機(jī)器,就表明這臺機(jī)器通過了測試,并被認(rèn)為具有人類智能。谷歌公司2018年發(fā)布的“Duplex”的人工智能系統(tǒng),其最大特點(diǎn)是系統(tǒng)能夠進(jìn)行較自然的聲音對話,這一切都讓此人工系統(tǒng)聽起來像一個(gè)真實(shí)的人。谷歌Duplex模仿人類發(fā)聲的啟示引發(fā)了社會對人工智能的擔(dān)憂,高度發(fā)達(dá)的人工智能系統(tǒng)能讓人類誤以為這臺機(jī)器就是人類,但是Yaniv Leviathan和Yossi Matias作為項(xiàng)目主要負(fù)責(zé)人,表示只關(guān)注了產(chǎn)品的技術(shù)潛力,并未意識到其存在的社會隱患。的現(xiàn)象。阿爾文·納拉亞南建議在機(jī)器人設(shè)計(jì)時(shí)需要遵循“圖靈紅色警戒”(Turing red flag law),即機(jī)器人的定位也應(yīng)當(dāng)是機(jī)器人,而不是人甚至超越人。

    2. 人工道德主體邊界

    “物倫理”的概念提出以后,在“人—機(jī)”系統(tǒng)交互情境下,技術(shù)倫理學(xué)出現(xiàn)了“物轉(zhuǎn)向”(thingly-turn)的趨勢,“技術(shù)人工物”(technological artifacts)在技術(shù)倫理學(xué)領(lǐng)域掀起了新的研究熱潮(Peter和Anthonie,2002)。對人的理解越來越物化和去意義化,導(dǎo)致人和“人工物”的邊界越來越模糊,人類需要思考這種邊界模糊的后果。

    兩種對道德主體不同的觀點(diǎn)形成了人工道德主體邊界之爭,即實(shí)用主義(Levin,2013)和標(biāo)準(zhǔn)主義(Eshleman,2014)。實(shí)用主義認(rèn)為人工道德主體對外界產(chǎn)生某些行為和反應(yīng),需要模擬現(xiàn)實(shí)行為的部分或者全部標(biāo)準(zhǔn)。黛博拉·約翰遜(Johnson,2006)通過四個(gè)條件來設(shè)定人工道德主體的邊界②黛博拉·約翰遜(Johnson.D,2006)規(guī)定了一個(gè)人工道德主體E要成為道德主體必須具備下列條件:(1)E能夠以自己的身體引起物理事件;(2)E有一個(gè)內(nèi)在的規(guī)定I,它組成了自己的欲望、信仰和其他有意圖的規(guī)定,這些規(guī)定共同組成了E以某種方式 (理性和意識) 行動(dòng)的原因;(3)規(guī)定I是導(dǎo)致條件(1)的直接因素;(4)條件(1)中的物理事件產(chǎn)生一些具有道德重要性的影響:當(dāng)計(jì)算機(jī)系統(tǒng)運(yùn)轉(zhuǎn)時(shí),它們的行為對表達(dá)世界的其他方面產(chǎn)生影響,這些表達(dá)效果對道德施加者有害或有益。,她認(rèn)為人工物不能成為道德主體,是因?yàn)樵诩夹g(shù)上很難對人類的道德行為進(jìn)行編碼建立數(shù)據(jù)庫,缺乏可能導(dǎo)致他們行為發(fā)生的內(nèi)在心理規(guī)定。標(biāo)準(zhǔn)主義觀點(diǎn)認(rèn)為人類道德主體需要滿足特定的條件來模擬或展現(xiàn)行為的全部標(biāo)準(zhǔn),提出了人工道德主體標(biāo)準(zhǔn)所要求的狀態(tài),但同時(shí)也應(yīng)該從實(shí)用主義的角度來理解。

    (二)人工智能道德算法

    1. 算法歧視

    算法是通過計(jì)算機(jī)一系列運(yùn)轉(zhuǎn)解決特定的問題或完成一個(gè)確定的結(jié)果(Diakopoulos,2015),人類已經(jīng)開始將部分事情的決定權(quán)轉(zhuǎn)移到具備高度智能的算法。但是算法缺乏學(xué)習(xí)、推斷、聯(lián)想等高級智能,難以解釋行為背后的決策邏輯,因?yàn)槿祟惖男袨榫哂兄饔^動(dòng)機(jī)性和意向性,需要對算法的倫理進(jìn)行分析,這也是算法設(shè)計(jì)過程中的重點(diǎn)和難點(diǎn)問題。

    算法是一種相對客觀的數(shù)學(xué)表達(dá),很多人會認(rèn)為算法決策傾向是公平的。但是人類的價(jià)值觀和道德規(guī)范卻沒有納入數(shù)字系統(tǒng),對數(shù)據(jù)的管理在全球互聯(lián)的背景下更難以控制。數(shù)據(jù)和算法的不透明性反映了數(shù)據(jù)權(quán)利之間的失衡現(xiàn)象,這將不可避免導(dǎo)致算法歧視(Algorithms Bias)。美國在計(jì)算機(jī)(Joseph等,2016)、犯罪學(xué)(Goel等,2016)、政治學(xué)(Veale和Binns,2017)、人力資源管理(Gumbus,2017)等多領(lǐng)域揭示了算法歧視的規(guī)律,發(fā)掘了相關(guān)數(shù)據(jù)和證據(jù),研究層次較深。歧視的主觀傾向性難以判斷,這也致使國外學(xué)者在研究中更多采用實(shí)證和案例的研究方法來提出建議(Edelman和Luca,2014)。國內(nèi)研究主要從經(jīng)濟(jì)、法律和傳媒角度,多以介紹性和科普性為主,集中在對國外研究成果的介紹和算法歧視現(xiàn)象的評述,僅有少量做了定量分析,而其他領(lǐng)域關(guān)注較少。

    2. 算法歧視產(chǎn)生的根源

    個(gè)體通過數(shù)據(jù)獲得了非對稱優(yōu)勢,算法技術(shù)將對個(gè)人數(shù)據(jù)進(jìn)行重構(gòu),規(guī)則代碼化帶來的不透明、不公平、難以審查等問題對公平和正義發(fā)起挑戰(zhàn)(Veale和Binns,2017),讓網(wǎng)絡(luò)環(huán)境在定價(jià)、服務(wù)和機(jī)會等領(lǐng)域具備了歧視的可能(Helbing,2015)。

    算法歧視產(chǎn)生的原因主要?dú)w結(jié)于算法技術(shù)和數(shù)據(jù)輸入兩個(gè)方面(Executive Office of the President,2016),機(jī)器完全受人工設(shè)計(jì)的結(jié)構(gòu)和學(xué)習(xí)進(jìn)程中接收的數(shù)據(jù)形成對世界的“認(rèn)知”,導(dǎo)致在特定場景下發(fā)生錯(cuò)誤決策。算法的設(shè)計(jì)是技術(shù)人員的主觀選擇和判斷,他們是否公平公正地將道德規(guī)則和法律寫進(jìn)程序是值得懷疑的,這使得算法繼承了人類決策者的種種偏見。此外,由于技術(shù)壁壘、機(jī)器學(xué)習(xí)算法的“黑箱”屬性、政策限制而產(chǎn)生不透明性,讓計(jì)算機(jī)在不被明確編程的情況下運(yùn)轉(zhuǎn),在自主系統(tǒng)中探究是否存在歧視和其原因,很難通過技術(shù)來實(shí)現(xiàn)公平。

    算法離不開大數(shù)據(jù)支撐,數(shù)據(jù)的有效性、準(zhǔn)確性會影響算法決策和預(yù)測的準(zhǔn)確性。數(shù)據(jù)自身偏見缺陷、大小樣本的地位懸殊、敏感屬性都會導(dǎo)致算法歧視存在的必然性(張玉宏等,2017),帶有歧視的數(shù)據(jù)經(jīng)過運(yùn)算之后也帶有歧視傾向,創(chuàng)新也會使歧視和機(jī)會不平等的現(xiàn)象持續(xù)下去。隨著數(shù)據(jù)應(yīng)用范圍的擴(kuò)大,算法的一次小失誤或者歧視,容易形成“自我實(shí)現(xiàn)的歧視性反饋循環(huán)”,包括在警情預(yù)測、風(fēng)險(xiǎn)評價(jià)和信用評估上都存在類似問題,這會壓榨消費(fèi)者個(gè)人財(cái)富、剝奪個(gè)人自我決定權(quán)、破壞信息的多樣性,不斷蠶食消費(fèi)者剩余,甚至對個(gè)體生命構(gòu)成潛在的威脅。

    3. 算法歧視的解決出路

    由于算法的客觀性和人類社會倫理的發(fā)展,目前以算法為主的弱人工智能并非完全可以依賴和信任(莫宏偉,2018),需要承認(rèn)人工智能系統(tǒng)內(nèi)在歧視性,并意識到這些歧視的潛在來源。把倫理原則形式化,在機(jī)器學(xué)習(xí)中引入“歧視指數(shù)”(discrimination index)的概念,維護(hù)用戶與機(jī)構(gòu)間數(shù)據(jù)權(quán)利的平衡,倡導(dǎo)有規(guī)范的數(shù)據(jù)共享,建立基于權(quán)利的數(shù)據(jù)倫理。

    算法采用的邏輯基礎(chǔ)是多語境系統(tǒng),從設(shè)計(jì)、執(zhí)行、測試到推廣采取跨學(xué)科的原則,做到更加包容性。提出設(shè)計(jì)更為“公平的”算法,從算法設(shè)計(jì)的源頭來防止歧視,使人工智能體的行動(dòng)符合相關(guān)倫理規(guī)范。保持算法的透明度,制定機(jī)會均等的設(shè)計(jì)原則,使算法的力量發(fā)揮作用,尤其需要考慮弱勢、易被忽視人群的利益。國外現(xiàn)在已經(jīng)有OpenAI等一些人工智能開源運(yùn)動(dòng),保障算法的透明性和公平性。Google在實(shí)踐中倡導(dǎo)“機(jī)會平等”(equality of opportunity),以避免一套敏感屬性的歧視。當(dāng)然,算法透明和商業(yè)秘密、國家安全之間的關(guān)系需要進(jìn)一步去平衡。

    越來越多的國家、地區(qū)、組織出臺監(jiān)管措施,包括設(shè)計(jì)標(biāo)準(zhǔn)、性能標(biāo)準(zhǔn)、責(zé)任標(biāo)準(zhǔn)等,甚至擴(kuò)展到涉及人工智能算法、數(shù)據(jù)等核心的內(nèi)容。美國通過大數(shù)據(jù)報(bào)告提醒信貸、就業(yè)、教育和刑事司法領(lǐng)域等歧視問題需要從立法、技術(shù)和倫理方面予以補(bǔ)救。也有學(xué)者建議修改美國殘疾人法案,擴(kuò)大反歧視的授權(quán),禁止利用算法對身體和精神障礙預(yù)測性歧視;要求以書面形式說明數(shù)據(jù)處理者對含有健康類信息收集和處理過程;滿足公平正義和經(jīng)濟(jì)效率的前提下,保護(hù)大數(shù)據(jù)市場的競爭秩序(Townley等,2017)。

    (三)人工智能設(shè)計(jì)倫理

    1. 人工智能設(shè)計(jì)的倫理原則

    人工智能在應(yīng)用過程中對人類產(chǎn)生侵蝕和威脅的案例證明了技術(shù)異化的倫理風(fēng)險(xiǎn),研究中用“人類關(guān)切”(human-centric)來描述這種內(nèi)在價(jià)值的虧損。這種虧損是在被制造的時(shí)候缺乏精細(xì)和復(fù)雜的倫理學(xué)設(shè)計(jì)(Bostrom,2014),因此設(shè)計(jì)過程中需更多聚焦人與數(shù)據(jù)的自由關(guān)系(李倫,2018)。美國電氣和電子工程師協(xié)會(IEEE)將倫理植入設(shè)計(jì)人員的意識中,鼓勵(lì)科技人員在人工智能研發(fā)過程中優(yōu)先考慮倫理問題(Davies,2016)。

    基于人權(quán)優(yōu)先、強(qiáng)調(diào)人機(jī)和諧共處,在人工智能設(shè)計(jì)中需要優(yōu)先考慮:(1)人類利益,確保人工智能和自主系統(tǒng)(AI/AS)不侵犯人類,這也是阿西莫夫(Asimov)提出的機(jī)器人的三大定律之一,后來又提出了“零律”對其做出補(bǔ)充①第一定律:機(jī)器人不得傷害人類,或者目睹人類將遭受危險(xiǎn)而袖手不管;第二定律:機(jī)器人必須服從人給予它的命令,當(dāng)該命令與第一定律沖突時(shí)例外;第三定律:機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存;第零定律:機(jī)器人必須保護(hù)人類的整體利益不受傷害,其他三條定律都是在這一前提下才能成立。。雖然這些規(guī)范在理論上得到了大家的認(rèn)可,但是從未在實(shí)踐中被完全實(shí)現(xiàn),因?yàn)檫@沒有給出能夠被業(yè)界所推崇的機(jī)器編碼技術(shù)路線。(2)責(zé)任,確保AI/AS是可以被問責(zé)的。在設(shè)計(jì)程序?qū)用婢哂锌韶?zé)性,強(qiáng)化機(jī)器人研發(fā)人員的職業(yè)責(zé)任(Murphy和Woods,2009),證明其為何以特定的方式運(yùn)行。(3)透明性,AI/AS的運(yùn)作必須是透明的,可以使人類發(fā)現(xiàn)機(jī)器人是如何以及為何做出特定的決定。透明至少應(yīng)該包含開放和可理解兩個(gè)方面,只有讓用戶和機(jī)構(gòu)在算法上達(dá)到平衡,才能確保用戶的數(shù)據(jù)權(quán)利。(4)教育與意識,需要強(qiáng)化AI/AS的優(yōu)勢,推進(jìn)倫理教育和安全教育意識,降低其被濫用所帶來的風(fēng)險(xiǎn)(騰訊研究院等,2017)。

    2. 人工智能倫理設(shè)計(jì)進(jìn)路

    人工智能作為一種技術(shù)必然帶有價(jià)值偏好,機(jī)器的自由化程度越高,就越需要道德標(biāo)準(zhǔn)。由于人工智能系統(tǒng)在自主性方面的能力的提升,在設(shè)計(jì)階段讓其采納、學(xué)習(xí)并遵循所服務(wù)的社會和團(tuán)體的規(guī)范和價(jià)值顯得至關(guān)重要,可以分步驟來實(shí)現(xiàn)將人類規(guī)范和道德價(jià)值嵌入人工智能系統(tǒng):

    (1)識別特定區(qū)域范圍內(nèi)的規(guī)范和價(jià)值。社會和道德規(guī)范是特定區(qū)域范圍內(nèi)內(nèi)化于行為、語言、習(xí)俗等針對特定任務(wù)的價(jià)值觀,人工智能系統(tǒng)受到多種規(guī)范和價(jià)值約束,應(yīng)明確需要嵌入的規(guī)范和價(jià)值,避免導(dǎo)致道德過載(moral overload)問題。在人工智能價(jià)值權(quán)重設(shè)計(jì)階段,優(yōu)先考慮利益相關(guān)群體共同分享的價(jià)值體系,技術(shù)上要滿足不同空間和時(shí)間下價(jià)值和規(guī)范發(fā)生變化的可能性。

    (2)將這些規(guī)范和價(jià)值嵌入人工智能系統(tǒng)。實(shí)現(xiàn)機(jī)器人倫理道德的決策設(shè)計(jì),避免機(jī)器的不當(dāng)使用威脅人類的生存,需要把倫理準(zhǔn)則變成可編程的代碼嵌入人工智能機(jī)器。倫理設(shè)計(jì)進(jìn)路包括“自上而下(top-down)”和“自下而上(bottom-up)”。TD研究方法即認(rèn)知主義,突出人類的主體地位,利用“特定的倫理理論進(jìn)行分析指導(dǎo)實(shí)現(xiàn)該理論的運(yùn)算法則和子系統(tǒng)的計(jì)算需要”的方法,提倡研究人類的策劃、推理以及解決問題的能力,在“機(jī)器人三定律”基礎(chǔ)上構(gòu)建人工道德主體的理論研究框架。BU研究方法是涌現(xiàn)主義,強(qiáng)調(diào)機(jī)器的能動(dòng)作用,即不通過任何抽象概念或推理過程,機(jī)器人對所感知到的刺激能動(dòng)做出反應(yīng),能夠從不同的社會機(jī)制中動(dòng)態(tài)地進(jìn)行集成輸入,為完善人工道德主體整體性發(fā)展提供技巧和標(biāo)準(zhǔn)。

    隨著深度學(xué)習(xí)算法的提出與發(fā)展,綜合運(yùn)用TD的演繹規(guī)約路徑和BU的歸納規(guī)約路徑來對人工智能倫理問題進(jìn)行分析,提出了“混合型解決方法(hybrid resolution)”。內(nèi)部從頂層設(shè)計(jì)開始對人工智能產(chǎn)品進(jìn)行倫理設(shè)計(jì),建立人工智能的倫理標(biāo)準(zhǔn)和規(guī)范,限定存在爭議和容易引起安全問題的技術(shù)應(yīng)用范圍和智能水平。外部需要加強(qiáng)設(shè)計(jì)者的社會責(zé)任意識,加強(qiáng)對人工智能安全的評估和管理,增加公眾對人工智能的接受度(杜嚴(yán)勇,2015)。

    (3)評估人工智能系統(tǒng)的規(guī)范和價(jià)值的有效性,即是否與人類社會的倫理相一致和兼容。由于設(shè)計(jì)的目的和應(yīng)用導(dǎo)向,與人類兼容的人工智能系統(tǒng)應(yīng)確立利他主義、不確定性、考慮人類三項(xiàng)基本原則。信任作為人—機(jī)交互的動(dòng)態(tài)變量,功利主義和絕對主義導(dǎo)向會做出不同的道德選擇,需要建立使用者對人工智能的信任,通過第三方評估組織需要界定價(jià)值一致性和相符性標(biāo)準(zhǔn),評價(jià)主體的價(jià)值對接問題。

    對機(jī)器人進(jìn)行倫理設(shè)計(jì)旨在尋求實(shí)際的解決辦法以保障機(jī)器的行為是在人類可承受范圍之內(nèi),并將研究拓展到不同機(jī)器之間的道德規(guī)則傳遞(Anderson和Anderson,2007)。現(xiàn)將機(jī)器倫理用于實(shí)踐的應(yīng)用程序主要包括基于“倫理原則”和“實(shí)踐原則”的兩種形式,前者以Michael Anderson設(shè)計(jì)的基于邊沁功利主義的“Jeremy”程序和基于羅斯顯見義務(wù)(prima facie duties)的“W.D.”程序?yàn)榇恚笳咭訫cLaren設(shè)計(jì)的“說真話”(truth-teller)為代表(Anderson和Anderson,2007;于雪和王前,2016)。從技術(shù)領(lǐng)域通過程序來指導(dǎo)倫理決策,可以優(yōu)化機(jī)器人在無意識的情況下選擇道德的行為過程。設(shè)計(jì)過程中強(qiáng)調(diào)人工智能的人文化(humanitas),創(chuàng)造出有道德的人工智能體。這樣,人類就可以與機(jī)器人建立在一定信任程度基礎(chǔ)之上,通過邏輯性的命令保障機(jī)器人的倫理行為被約束在一定的框架范圍內(nèi),使機(jī)器人的行為最大化的符合人類社會的道德規(guī)范。

    (四)人工智能社會倫理

    目前,就AI應(yīng)用問題還未達(dá)成更好的社會契約,人們質(zhì)疑其快速發(fā)展會給人類帶來極大的危險(xiǎn),衍生出更多的問題。國內(nèi)外聚焦在責(zé)任與安全、隱私保護(hù)等方面分析人工智能應(yīng)用產(chǎn)生的社會后果,探討如何善用人工智能造福于人類。

    1. 責(zé)任與安全

    國外關(guān)于機(jī)器人倫理研究中爭論的一個(gè)核心問題就是:究竟誰應(yīng)該對機(jī)器人的行為承擔(dān)責(zé)任?聯(lián)合國教科文組織與世界科學(xué)知識與技術(shù)倫理委員會(2015)提出了兩種對策,一是由智能機(jī)器人承擔(dān)責(zé)任。早有學(xué)者以具體的APACHE系統(tǒng)為例,闡述機(jī)器也許會承擔(dān)一些道德責(zé)任(Friedman和Kahn,1992),因?yàn)闆]人能夠承擔(dān)機(jī)器人故障的責(zé)任(Matthias,2004)。為此,已有開展賦予機(jī)器人道德責(zé)任問題的研究,提出使用某種道德測試來裁決機(jī)器人是否需要在法庭上負(fù)責(zé)。但也有學(xué)者認(rèn)為,機(jī)器人沒有能力承擔(dān)全部道德責(zé)任(段偉文,2017),因?yàn)橛?jì)算機(jī)的自主意識性與人類期望的差距仍然較大。在以人為中心的倫理框架下很難對機(jī)器人的行為做出有效界定,為此,在機(jī)器人設(shè)計(jì)中應(yīng)提倡保證算法透明性的披露方式,以利于人類對機(jī)器所承擔(dān)的道德責(zé)任保持清晰的理解。

    另一種對策是讓所有參與機(jī)器人發(fā)明、授權(quán)和分配過程中的人來分擔(dān)責(zé)任。算法無法預(yù)見機(jī)器人在與人類相處過程中所出現(xiàn)的全部可能的行為,不可能對隱藏在機(jī)器人動(dòng)作中的因果鏈進(jìn)行完全掌控。因此,當(dāng)問題出現(xiàn)時(shí),程序員不會承擔(dān)全部但也不能完全免責(zé)。為了避免在事件發(fā)生時(shí)沒有人承擔(dān)全部責(zé)任,應(yīng)該推廣使用保險(xiǎn)制度,能夠讓所涉及事件的所有人共同承擔(dān)。并不斷完善當(dāng)前的法規(guī)來填補(bǔ)“責(zé)任空白”,為責(zé)任歸屬問題找到解決途徑。

    2. 社會就業(yè)結(jié)構(gòu)

    人工智能的廣泛應(yīng)用將人類從危險(xiǎn)、枯燥和困難的任務(wù)中解放出來,人類在分享AI帶來巨大物質(zhì)財(cái)富和生活便利的同時(shí),也承擔(dān)了巨大的心理壓力,如AI是否會造成從事勞動(dòng)力密集型、重復(fù)性、程序化等領(lǐng)域的工種的大面積失業(yè),影響人們的收入和福利,產(chǎn)生新的貧富差距和社會分化,從而會引起社會危機(jī),造成社會安全程度降低和引發(fā)動(dòng)蕩(閆坤如和馬少卿,2018)。很早就有學(xué)者反對將機(jī)器投入工作中,認(rèn)為自動(dòng)化技術(shù)將會引發(fā)人類學(xué)習(xí)動(dòng)機(jī)的下降,使人類喪失個(gè)性,造成“人腦的貶值”,從而把社會變得機(jī)械化。麥肯錫的報(bào)告預(yù)測,因技術(shù)的進(jìn)步和AI的普及,到 2030 年全世界將有3.9億人會更換工作,有8億人會失業(yè)。因此,未來因AI發(fā)展而引發(fā)的社會穩(wěn)定問題也同樣嚴(yán)峻。

    雖然機(jī)器的感覺、運(yùn)動(dòng)、計(jì)算都將會遠(yuǎn)遠(yuǎn)超過人類,但人類和機(jī)器還處于非對稱交互階段,仍然存在著交互的時(shí)間差。莫拉維克悖論(Moravec’s paradox)認(rèn)為,人類獨(dú)有的高級智慧能力只需要非常少的計(jì)算能力,但是無意識的技能和直覺卻需要極大的運(yùn)算能力,這正是機(jī)器在短期無法比擬與模仿的。機(jī)器和人類的發(fā)展都是建立在對環(huán)境的改造和認(rèn)知上,環(huán)境結(jié)構(gòu)化的高低在一定程度上決定了機(jī)器對人的替代可能性,雖然未來一部分職業(yè)會被機(jī)器人取代,但是技術(shù)的發(fā)展也會改變現(xiàn)有的社會就業(yè)結(jié)構(gòu),并產(chǎn)生一些新的行業(yè)。

    智能化生產(chǎn)追求的不是簡單、異化的“機(jī)器換人”,而是采用機(jī)器進(jìn)行柔性生產(chǎn),重新回到“以人為本”的組織生產(chǎn)模式,重視人在社會價(jià)值創(chuàng)造中的主體作用,實(shí)現(xiàn)企業(yè)生產(chǎn)運(yùn)營效率的提升,本質(zhì)是實(shí)現(xiàn)“人—機(jī)”協(xié)同。因此,AI不會從根本上沖擊人類的工作崗位與就業(yè)。對比第一次工業(yè)革命,蒸汽機(jī)的使用取代了許多人,但創(chuàng)造了更多的就業(yè)機(jī)會,社會整體失業(yè)率反而穩(wěn)定下來。當(dāng)然并非所有人都有能力邁過技術(shù)性和社會性壁壘,這會削減勞動(dòng)力在與資本談判中的議價(jià)能力,未來社會可能會出現(xiàn)“無用階級”,引發(fā)新的社會問題。

    3. 生活中的人工智能倫理

    (1)隱私問題

    算法需要大量的優(yōu)質(zhì)數(shù)據(jù)支撐,各種活動(dòng)之間的數(shù)據(jù)交換變成了新的價(jià)值創(chuàng)造源,個(gè)人的數(shù)據(jù)容易被機(jī)構(gòu)的主動(dòng)收集和使用,處于相對被動(dòng)的,這會削弱個(gè)體對個(gè)人數(shù)據(jù)的控制和管理。這些數(shù)據(jù)如果被機(jī)構(gòu)披露將對個(gè)人的隱私產(chǎn)生影響,因此需要在深度學(xué)習(xí)過程中加強(qiáng)對個(gè)人隱私的保護(hù)。

    隱私問題激發(fā)了更為基礎(chǔ)的倫理問題的討論,其實(shí)質(zhì)是數(shù)據(jù)濫用和數(shù)據(jù)侵權(quán)的問題,發(fā)展到極致可能導(dǎo)致數(shù)據(jù)巨機(jī)器(data megamachine)的出現(xiàn)。數(shù)據(jù)主義成為了數(shù)據(jù)巨機(jī)器的意識形態(tài),它主張絕對的數(shù)據(jù)共享,這可能有助于提高社會的運(yùn)行效率的,但是一旦數(shù)據(jù)巨型機(jī)獲得了自由,就有可能造成人與數(shù)據(jù)關(guān)系的破裂、人的自由的喪失,從而導(dǎo)致“楚門效應(yīng)”①“楚門效應(yīng)”的實(shí)質(zhì)是,消費(fèi)者在毫不知情的情況下其自主權(quán)遭到侵犯。在楚門世界,除了楚門,人人都是演員;在數(shù)據(jù)機(jī)器里,人人都是楚門,人人都是演員,無人是自己。的產(chǎn)生。

    為了防止隱私問題的擴(kuò)大和惡化,需要從倫理和技術(shù)兩方面入手。建立以人的權(quán)利為中心的數(shù)據(jù)倫理,強(qiáng)調(diào)算法的透明性,消除數(shù)據(jù)孤島,提倡有規(guī)范的數(shù)據(jù)共享,防止數(shù)據(jù)濫用,旨在消除數(shù)據(jù)主義對數(shù)據(jù)自由的崇拜。在技術(shù)上,目前已經(jīng)有諸如匿名化、差別化隱私、決策矩陣等工具的應(yīng)用來實(shí)施隱私保護(hù)?!叭斯ぶ悄?區(qū)塊鏈技術(shù)+量子技術(shù)”在未來也可能會提供更加有效的解決方案,但在此之前仍需要政府、企業(yè)和民間團(tuán)體等相關(guān)主體共同努力,防止由于數(shù)據(jù)大規(guī)模泄露而產(chǎn)生的隱私問題,重建人在大數(shù)據(jù)時(shí)代的主體地位,建構(gòu)人與技術(shù)、人與數(shù)據(jù)的自由關(guān)系,消除機(jī)械論世界觀的不良影響。這些思路各有利弊,目前來看仍是一個(gè)需要展開探討的開放性問題。

    (2)其他方面

    人工智能放大了信息處理和知識加工的能力,人參與社會互動(dòng)的范圍和頻率可能減小,人類需求與知識之間的關(guān)系變得越來越間接。信息和知識的冗余讓人陷入選擇困境,甚至?xí)催^來支配人的需求。在司法、醫(yī)療、指揮管理等重要領(lǐng)域,研究人員也開始探索人工智能在審判分析、疾病診斷和對抗博弈方面決策上應(yīng)遵循的規(guī)范(Sikchi等,2012;Alzou'bi等,2014)。

    在法律領(lǐng)域,人工智能的快速發(fā)展需要人們重視資源優(yōu)化配置與價(jià)值觀負(fù)載的制度匹配,因此亟需通過立法來規(guī)范人工智能技術(shù)。一是研究并確立因人工智能行為而產(chǎn)生的責(zé)任制度和約束機(jī)制,這樣才能在判決中明確人工智能對第三方造成損失或者違反制度而承擔(dān)的相應(yīng)法律責(zé)任;二是需要建立一套道德規(guī)范,促使技術(shù)倫理由隱性向顯性轉(zhuǎn)化,包括建立和編寫智能系統(tǒng)或機(jī)器人取代人類活動(dòng)所適用的基本規(guī)則(Ferraz和Del Nero,2018)。

    在政府管理方面,人工智能技術(shù)在推動(dòng)社會進(jìn)步、提升政府組織治理效率的同時(shí),也造成了政府部門與社會的“技術(shù)鴻溝”。政府的監(jiān)管能力跟不上技術(shù)的發(fā)展,使得技術(shù)的發(fā)展在沒有告知、分析、審查和監(jiān)管的情況下繼續(xù)發(fā)展,進(jìn)而損害了公民利益。算法可能會繼承人類社會傳統(tǒng)行政管理的冗余、歧視等現(xiàn)象而出現(xiàn)非理性決策。因此,人工智能對政府治理理念、政府技術(shù)能力、政務(wù)流程、傳統(tǒng)行政倫理提出了挑戰(zhàn)。

    五、國家、企業(yè)對人工智能倫理的態(tài)度

    為了更好地促進(jìn)全世界人工智能產(chǎn)業(yè)發(fā)展,應(yīng)將人工智能監(jiān)管納入戰(zhàn)略考慮,相關(guān)的法律、倫理、監(jiān)管配套制度都應(yīng)并行建立??勺匪葜贫鹊慕⒉拍茏寵C(jī)器人的行為及決策全程處于監(jiān)管之下,只有這樣人類才能占據(jù)主動(dòng)權(quán)或者事后進(jìn)行全面追蹤調(diào)查的權(quán)利。

    (一)國家戰(zhàn)略部署

    近年來,世界各國都從國家戰(zhàn)略層面發(fā)布了人工智能發(fā)展的指導(dǎo)文件(如表2所示)。例如,2016年,美國將“理解并解決人工智能的道德、法律和社會影響”列入國家人工智能戰(zhàn)略,同時(shí)對人工智能從業(yè)者和學(xué)生加強(qiáng)道德倫理教育,并成立相應(yīng)的管理機(jī)構(gòu),負(fù)責(zé)跨部門協(xié)調(diào)人工智能的研究和發(fā)展、提出技術(shù)和政策建議、監(jiān)督各部門的人工智能技術(shù)研發(fā),進(jìn)一步促進(jìn)公平與正義。同年,英國也探討了人工智能所帶來的一系列潛在的倫理和法律挑戰(zhàn),嘗試尋找能夠?qū)崿F(xiàn)社會經(jīng)濟(jì)效益最大化的途徑,指出應(yīng)建立人工智能委員會來應(yīng)對機(jī)器人技術(shù)帶來的對社會、倫理和法律的影響。日本也制定了機(jī)器人應(yīng)用部署問題的管理方針,包括建立中心數(shù)據(jù)基地來存儲機(jī)器人對于人類造成傷害的事故報(bào)告。

    表2 世界主要各國的人工智能國家戰(zhàn)略文件

    中國對人工智能倫理問題也高度重視,并于2018 年開始組建人工智能倫理專委會。在中國發(fā)布的戰(zhàn)略規(guī)劃中,“人工智能倫理”這一字眼出現(xiàn)了15次之多,側(cè)重從打造平臺、構(gòu)建市場、激勵(lì)創(chuàng)新等方面進(jìn)行了闡述,并提出了“2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系,2030年建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系”的建設(shè)目標(biāo),但是對于監(jiān)管原則、監(jiān)管體系和相關(guān)監(jiān)管機(jī)構(gòu)的建設(shè)還沒有提及。

    2017年,人工智能濫用、算法公平、人工智能倫理、人工智能監(jiān)管和責(zé)任等進(jìn)入更廣泛的公眾討論視野,相應(yīng)的標(biāo)準(zhǔn)和規(guī)范相繼出臺。歐盟簽署《人工智能合作宣言》,共同面對人工智能在倫理、法律方面的挑戰(zhàn),成立統(tǒng)籌人工智能監(jiān)管的政府機(jī)構(gòu),專門研究與機(jī)器人和人工智能相關(guān)的法律問題,并呼吁制定“機(jī)器人憲章”。聯(lián)合國發(fā)布的《關(guān)于機(jī)器人倫理的研究報(bào)告》中提供了物理形態(tài)下人工智能系統(tǒng)全新路徑研究的新視角,提出了人工智能發(fā)展的基本原則,包括保障人類利益和基本權(quán)利、安全性、透明性、推動(dòng)人工智能普惠和有益發(fā)展。聯(lián)合國犯罪和司法研究所(NUICRI)在海牙成立第一個(gè)聯(lián)合國人工智能和機(jī)器人中心,教科文組織和世界科學(xué)知識與技術(shù)倫理委員會(COMEST)聯(lián)合發(fā)布了《關(guān)于機(jī)器人倫理的初步草案報(bào)告》(2015),其中討論了在機(jī)器人的制造和使用過程中產(chǎn)生的社會與倫理問題,并列舉了相應(yīng)的措施:數(shù)據(jù)和隱私保護(hù)、構(gòu)建機(jī)器人設(shè)計(jì)者與機(jī)器人之間的責(zé)任分擔(dān)制度、在實(shí)景中對機(jī)器人進(jìn)行測試、建立全新的針對機(jī)器人的保險(xiǎn)制度、智能機(jī)器人的退出機(jī)制,并進(jìn)一步提出在機(jī)器人及機(jī)器人技術(shù)的倫理與法律監(jiān)管中確立可追溯性,保證機(jī)器人的行為及決策全過程處于監(jiān)管狀態(tài)。

    (二)企業(yè)社會責(zé)任

    由于技術(shù)發(fā)展和利益誘惑帶來的驅(qū)動(dòng)效用,國內(nèi)外知名的互聯(lián)網(wǎng)企業(yè)如Microsoft、Google、Facebook、百度、騰訊等不斷加大對人工智能領(lǐng)域的投資,預(yù)計(jì)未來10年內(nèi)將創(chuàng)造巨大的財(cái)富價(jià)值。但人工智能技術(shù)的發(fā)展可能最終導(dǎo)致世界所依賴的各種機(jī)器為數(shù)據(jù)和算法所驅(qū)動(dòng)且不受倫理或哲學(xué)規(guī)范約束。面對公眾的擔(dān)心和憂慮,科技巨頭們也開始采取行動(dòng),將倫理考量納入到企業(yè)社會責(zé)任框架中。

    Microsoft闡述了包括公平、可靠性、保護(hù)隱私、包容性、透明性和可責(zé)性6項(xiàng)人工智能系統(tǒng)原則,確保人類的利益不受損害。Google還明確列出了“不會追求的人工智能應(yīng)用”。Facebook在經(jīng)歷數(shù)據(jù)泄露丑聞之后也開始成立人工智能倫理團(tuán)隊(duì),負(fù)責(zé)防止人工智能軟件中的歧視。從其官網(wǎng)可以發(fā)現(xiàn),正在招聘人工智能政策、倫理、法律等方面的人員,表明其開始重視人工智能倫理相關(guān)的工作。

    這些企業(yè)在人工智能倫理上采取的行動(dòng),歸納起來主要包括:一是開展人工智能倫理與社會研究,將人工智能與人文社會科學(xué)結(jié)合起來,研究人工智能對社會、法律、組織、民主、教育和道德的深遠(yuǎn)影響,這是科技企業(yè)負(fù)責(zé)任研發(fā)與創(chuàng)新的體現(xiàn);二是提出人工智能價(jià)值觀,美國、英國、歐盟等致力于達(dá)成國家層面的人工智能倫理準(zhǔn)則,未來生命研究所(FLI)主導(dǎo)提出了“阿西洛馬人工智能原則”、IEEE希望推動(dòng)形成行業(yè)層面的人工智能倫理共識,谷歌、微軟等科技公司提出建立全球性參與平臺(global participatory platform)的設(shè)想,構(gòu)建數(shù)據(jù)和算法模型構(gòu)成的公共商店(Helbing,2015),提出企業(yè)層面的人工智能價(jià)值觀以贏得公眾的信任;三是成立人工智能倫理委員會,通過行業(yè)實(shí)踐,建立健全監(jiān)管機(jī)制,配套法規(guī)制度,明確監(jiān)管主體,樹立具有行業(yè)特色的行動(dòng)規(guī)范。

    六、結(jié)論及展望

    本文選取影響因子較大的國內(nèi)外期刊,回顧了1997—2018年期間與人工智能倫理相關(guān)的研究文獻(xiàn),補(bǔ)充完善了現(xiàn)有的人工智能倫理研究框架,如圖3所示。無論是人工智能應(yīng)用在現(xiàn)有倫理基礎(chǔ)上產(chǎn)生的問題,還是影響人類行為引發(fā)的全新倫理問題,弱人工智能和強(qiáng)人工智能上的不同表現(xiàn)引發(fā)了倫理研究的必要性和迫切性。二者是人工智能發(fā)展過程中的兩個(gè)階段,人類對人工智能都應(yīng)持有一定的憂患意識和風(fēng)險(xiǎn)意識,對前者應(yīng)該大力研究和發(fā)展,對后者應(yīng)該加以限制。雖然個(gè)別學(xué)者認(rèn)為人工智能還不具備倫理意識,但按照目前的研究成果與趨勢,人工智能的倫理意識只是時(shí)間和技術(shù)問題。因此可以認(rèn)為人工智能在“強(qiáng)弱”上的差別是其是否具備倫理屬性的分水嶺。

    人工智能倫理研究需要建立新的倫理范式,從人工智能倫理的普遍性問題(道德哲學(xué)、道德算法)出發(fā),分析不同領(lǐng)域引發(fā)的倫理問題(社會倫理),提出倫理問題的解決路徑(設(shè)計(jì)倫理、國家和企業(yè)的制度)。為了確保人類與人工智能系統(tǒng)和諧相處,人類已經(jīng)在理論突破、立法研究、倫理準(zhǔn)則、安全標(biāo)準(zhǔn)、監(jiān)管體系等方面取得了一定成果,但是對人工智能倫理的研究還不夠系統(tǒng)、完善,未來可以從以下角度進(jìn)一步探討和思考:

    (一)重視全球情景下的人工智能倫理體系研究

    倫理是具有情境性的,在一個(gè)環(huán)境下能正常接受的倫理,當(dāng)遷移到另一種情境可能就會變得難以接受。人工智能的發(fā)展是一個(gè)全球性的過程,對現(xiàn)行國際秩序?qū)⒃诎踩献?、可持續(xù)發(fā)展和創(chuàng)新治理上產(chǎn)生深刻影響。因此,解決人工智能倫理的跨情境問題是未來需要思考的重點(diǎn)之一。以Wallach為代表的學(xué)者從個(gè)體提出了人工智能倫理必要性的研究,引發(fā)了國際社會的廣泛關(guān)注。不同的組織、企業(yè)和國家也分別提出了各自的人工智能倫理準(zhǔn)則,這些準(zhǔn)則的建議已基本達(dá)成共識。未來需要從全球的層面來建立人工智能倫理體系,即沿著“個(gè)體→組織(國家)→全球(全人類)”的路徑對人工智能倫理開展“意識→準(zhǔn)則→體系”的研究。

    圖3 人工智能倫理主要研究框架

    雖然不同國家和組織提出了人工智能倫理的戰(zhàn)略指導(dǎo),但更廣泛的信息交流和參與程度仍相對停滯,在某種程度上是割裂和分散的,呈碎片化狀態(tài),沒有形成統(tǒng)一的范式,不足以形成全局性的行業(yè)共識和最佳實(shí)踐。制定政策、法規(guī)或道德和操作標(biāo)準(zhǔn),需要把技術(shù)進(jìn)步納入到一個(gè)全球視域的、生態(tài)可持續(xù)的、政治上公平的社會愿景中,服務(wù)于全人類的利益而不是國家主義或者民族主義。

    怎樣建立全球范圍內(nèi)統(tǒng)一的人工智能倫理體系具有非常重要的研究價(jià)值。僅考慮道德倫理、法律法規(guī)和社會影響框架(ELSI)是不夠的,文化在預(yù)測未來技術(shù)的發(fā)展軌跡上具有關(guān)鍵性的作用。不同區(qū)域的不同政治制度、文化制度和社會意識形態(tài)看待人工智能倫理的標(biāo)準(zhǔn)也不相同,文化多樣性應(yīng)該體現(xiàn)在互動(dòng)之中,在文化的沖突、融合、發(fā)展中促進(jìn)人類意識的趨同性。這就是全球范圍內(nèi)的文化差異應(yīng)該成為人工智能倫理討論的核心的原因所在。

    在全球范圍內(nèi)深化人工智能的國際合作,搭建關(guān)聯(lián)政府、企業(yè)、公共組織以及個(gè)人的平臺來促進(jìn)人工智能政策、技術(shù)和文化間的交流與互動(dòng),將科技公司自發(fā)形成的人工智能原則轉(zhuǎn)變?yōu)楣沧R并用以形成對人工智能創(chuàng)新及應(yīng)用的倫理約束。將倫理問題納入ESG(環(huán)境、社會和治理)框架,從人類命運(yùn)共同體的高度構(gòu)建全球化的人工智能治理新秩序,共同探討全球通用的人工智能倫理法則,人工智能價(jià)值觀才能發(fā)揮其作用。

    (二)重視人工智能倫理研究對技術(shù)研究的前瞻性

    在新興技術(shù)飛速發(fā)展的背景下,由于缺乏相應(yīng)的監(jiān)管機(jī)制、法律規(guī)范,倫理問題的研究往往滯后于技術(shù)的發(fā)展(如基因編輯嬰兒),相關(guān)的社會反應(yīng)出現(xiàn)一定的延遲也成為不可避免的現(xiàn)象。目前對人工智能倫理展開研究的主體很多,但是從哪個(gè)階段開始考慮人工智能的倫理、法律及社會影響尚未形成統(tǒng)一認(rèn)識,人文社科研究者和政策法律群體認(rèn)為應(yīng)該從人工智能的基礎(chǔ)研究階段開始考慮倫理、法律、社會影響,而科學(xué)家、企業(yè)家和技術(shù)人員則認(rèn)為從產(chǎn)品化、服務(wù)化之后社會使用和實(shí)施階段開始。社會對人工智能的關(guān)注缺乏整體性的思考和討論,目前仍集中在技術(shù)與經(jīng)濟(jì)方面,就倫理挑戰(zhàn)和社會問題而言,這些討論更多地還停留在理論研究,尚未達(dá)到公共政策層面,而且討論的重點(diǎn)多集中在“強(qiáng)人工智能”這樣相對遙遠(yuǎn)的議題。

    前瞻性的探索非常重要,倫理研究缺乏前瞻性,就會導(dǎo)致政策的真空。高校和研究機(jī)構(gòu)開展前瞻性的科技倫理研究,為相關(guān)規(guī)范和制度的建立提供理論支撐,明確人工智能技術(shù)研發(fā)應(yīng)用的合理邊界,這既包括人工智能的技術(shù)倫理研究,也包括“人—物”、“人—機(jī)”、人際與環(huán)境之間關(guān)系的探索。“人—機(jī)”關(guān)系不能僅停留在人與機(jī)器、機(jī)器人的層面,更應(yīng)包括社會運(yùn)作的機(jī)制、機(jī)理,需要從倫理學(xué)的視角來促進(jìn)人文科學(xué)與自然科學(xué)的統(tǒng)一,構(gòu)建同時(shí)具備理論探索和實(shí)踐指導(dǎo)的倫理價(jià)值體系。人們設(shè)計(jì)制定人工智能道德規(guī)范,并積極反思人工智能與人類之間的關(guān)系,但是考慮人工智能對未來社會影響的不確定性,還需要全世界和各國政府的共同努力,制定人工智能開發(fā)和應(yīng)用的倫理規(guī)范和政策方向,采取一些新的監(jiān)管和認(rèn)證程序,分別從倫理、政策、法律三個(gè)層面推動(dòng)各項(xiàng)政策的落地。建立保障人工智能健康發(fā)展的倫理道德框架和法律法規(guī),重點(diǎn)需要建立人機(jī)協(xié)作的倫理框架,完善立法和明確人工智能法律主體,在弱人工智能的細(xì)分領(lǐng)域加快制定相應(yīng)法規(guī),為強(qiáng)人工智能的到來奠定法律基礎(chǔ)。

    (三)重視多利益主體的倫理角色塑造

    在人工智能研發(fā)和政策的應(yīng)用過程中始終要圍繞以人為本的核心,滿足人類全面發(fā)展的需求,促進(jìn)社會的公平和可持續(xù)發(fā)展。人工智能倫理研究將面對智能信息技術(shù)發(fā)展與跨學(xué)科的共同挑戰(zhàn),正確認(rèn)識人工智能倫理,引導(dǎo)技術(shù)研發(fā)方向,注重源頭設(shè)計(jì)與開發(fā),在技術(shù)推進(jìn)中注入人文理性,這需要哲學(xué)家、藝術(shù)家以及社會科學(xué)各界從不同視角審視倫理問題。在技術(shù)變革中積極參與,及時(shí)發(fā)現(xiàn)技術(shù)當(dāng)中隱含的道德議題、社會議題,向科學(xué)界、技術(shù)界和企業(yè)界傳遞他們的觀點(diǎn),構(gòu)建開放的公共研究平臺進(jìn)行多領(lǐng)域交叉研究。

    多種類型的主體共同參與治理,需要各國政府與社會各界從人類命運(yùn)共同體的高度予以關(guān)切和回應(yīng)。以政府、企業(yè)、社會機(jī)構(gòu)、行業(yè)組織、社會大眾等社會各界需要共同參與來塑造人工智能的社會角色,確立行業(yè)標(biāo)準(zhǔn),建立健全相關(guān)法律法規(guī),采取統(tǒng)籌監(jiān)管和分散監(jiān)管的方法,改變經(jīng)濟(jì)、政治和教育系統(tǒng)的優(yōu)先順序,使人類在與人工智能的競爭中保持和諧共處。在這樣一種多利益相關(guān)方合作的模式之上,人們才能最大程度地理解并控制人工智能的倫理和社會影響,在人類社會進(jìn)步和技術(shù)創(chuàng)新之間實(shí)現(xiàn)協(xié)同效應(yīng)。

    (四)除了自然和社會科學(xué)路徑,還需要從“科學(xué)發(fā)展觀的倫理學(xué)”角度來理解人工智能倫理問題

    人工智能發(fā)展的過程會對現(xiàn)有倫理學(xué)構(gòu)成挑戰(zhàn),同時(shí)也會產(chǎn)生更多的未知新倫理問題,內(nèi)含的技術(shù)和社會雙重屬性及其矛盾將會越來越突出。解決人工智能引發(fā)的各種倫理問題,需要樹立“發(fā)展的倫理和倫理的發(fā)展”觀點(diǎn),通過自然科學(xué)和社會科學(xué)的路徑來認(rèn)識和解決人工智能倫理問題,人類更需要在機(jī)器人廣泛使用的社會中轉(zhuǎn)變當(dāng)前的工作觀念。為了確保人類精神在一個(gè)與人工智能并存的世界中同步發(fā)展,需要改變哪些傳統(tǒng)觀念?如何克服觀念轉(zhuǎn)變過程中的障礙和困難?新的倫理觀念是否能匹配新的社會形態(tài)?這些問題需要人類建構(gòu)可持續(xù)發(fā)展的發(fā)展倫理和基于健全理性的科技倫理來回答。

    猜你喜歡
    倫理道德機(jī)器人
    《心之死》的趣味與倫理焦慮
    頭上的星空與心中的道德律
    十幾歲(2021年24期)2021-11-18 02:18:40
    護(hù)生眼中的倫理修養(yǎng)
    活力(2019年19期)2020-01-06 07:37:00
    跟蹤導(dǎo)練(五)(2)
    道德是否必需?——《海狼》對道德虛無主義的思考
    機(jī)器人來幫你
    認(rèn)識機(jī)器人
    機(jī)器人來啦
    認(rèn)識機(jī)器人
    用道德驅(qū)散“新聞霧霾”
    新聞前哨(2015年2期)2015-03-11 19:29:31
    国产精品欧美亚洲77777| 飞空精品影院首页| 午夜福利乱码中文字幕| 免费高清在线观看日韩| 久久这里只有精品19| 成人18禁高潮啪啪吃奶动态图| 精品少妇内射三级| 久久久久久久国产电影| 国产伦理片在线播放av一区| 欧美精品人与动牲交sv欧美| 国产男女内射视频| 在线十欧美十亚洲十日本专区| 天天躁夜夜躁狠狠躁躁| 视频区欧美日本亚洲| 两性夫妻黄色片| 国产成人av激情在线播放| 国产成人精品久久二区二区免费| 男人舔女人的私密视频| www.av在线官网国产| 十八禁人妻一区二区| 日韩中文字幕视频在线看片| 国产老妇伦熟女老妇高清| 精品亚洲成国产av| 性色av乱码一区二区三区2| 国产麻豆69| 脱女人内裤的视频| 亚洲全国av大片| 久久av网站| 中亚洲国语对白在线视频| 久久久久视频综合| 在线 av 中文字幕| 午夜影院在线不卡| 亚洲激情五月婷婷啪啪| 两个人看的免费小视频| 动漫黄色视频在线观看| 亚洲视频免费观看视频| 69av精品久久久久久 | 成人国语在线视频| 亚洲中文日韩欧美视频| 天天躁夜夜躁狠狠躁躁| 十八禁网站网址无遮挡| 久久中文字幕一级| 性色av一级| 免费久久久久久久精品成人欧美视频| 亚洲国产中文字幕在线视频| 多毛熟女@视频| 人人妻人人添人人爽欧美一区卜| 日日爽夜夜爽网站| 看免费av毛片| 国产精品熟女久久久久浪| 国产精品99久久99久久久不卡| 国产老妇伦熟女老妇高清| 欧美乱码精品一区二区三区| xxxhd国产人妻xxx| 日日夜夜操网爽| 啦啦啦中文免费视频观看日本| 久久热在线av| 国精品久久久久久国模美| 人人妻人人添人人爽欧美一区卜| 亚洲欧美一区二区三区久久| 人妻人人澡人人爽人人| 国产成+人综合+亚洲专区| 国产1区2区3区精品| 中文字幕高清在线视频| 99国产极品粉嫩在线观看| 国产免费现黄频在线看| 中文字幕色久视频| 下体分泌物呈黄色| 久久精品熟女亚洲av麻豆精品| 亚洲一码二码三码区别大吗| 亚洲欧洲精品一区二区精品久久久| 黄色视频在线播放观看不卡| 久久天堂一区二区三区四区| 欧美人与性动交α欧美精品济南到| 免费在线观看日本一区| 国产一级毛片在线| 亚洲av电影在线进入| 久久这里只有精品19| 久久精品国产综合久久久| 亚洲伊人色综图| 天天添夜夜摸| 亚洲精品乱久久久久久| 欧美国产精品va在线观看不卡| 搡老岳熟女国产| 满18在线观看网站| 亚洲精品国产一区二区精华液| 一边摸一边抽搐一进一出视频| 久久精品熟女亚洲av麻豆精品| 中亚洲国语对白在线视频| 搡老乐熟女国产| 国产亚洲av高清不卡| 国产伦理片在线播放av一区| 日韩一卡2卡3卡4卡2021年| 欧美日韩国产mv在线观看视频| 十八禁高潮呻吟视频| 99精国产麻豆久久婷婷| 国产精品免费大片| 热re99久久精品国产66热6| 十八禁网站网址无遮挡| 女人精品久久久久毛片| 国产精品1区2区在线观看. | 王馨瑶露胸无遮挡在线观看| 欧美97在线视频| 人成视频在线观看免费观看| 两个人看的免费小视频| av线在线观看网站| cao死你这个sao货| 久久人人爽av亚洲精品天堂| 久久精品国产a三级三级三级| 精品国产一区二区三区久久久樱花| 亚洲精品乱久久久久久| 亚洲三区欧美一区| 午夜福利免费观看在线| 日韩中文字幕视频在线看片| 一二三四在线观看免费中文在| 乱人伦中国视频| 国产伦理片在线播放av一区| 日本一区二区免费在线视频| 精品第一国产精品| 少妇粗大呻吟视频| 狠狠婷婷综合久久久久久88av| 777米奇影视久久| 欧美日韩精品网址| a级片在线免费高清观看视频| 免费观看a级毛片全部| 亚洲中文日韩欧美视频| 丝瓜视频免费看黄片| av天堂在线播放| 美女福利国产在线| 99久久综合免费| 另类精品久久| 精品一区二区三卡| 精品乱码久久久久久99久播| 国产精品欧美亚洲77777| 91麻豆av在线| 国产精品一区二区在线不卡| 成人黄色视频免费在线看| 久久精品成人免费网站| bbb黄色大片| 99热网站在线观看| 成人国产av品久久久| 亚洲美女黄色视频免费看| 日本vs欧美在线观看视频| 午夜成年电影在线免费观看| 久久久久久久久免费视频了| 亚洲精品国产av成人精品| 免费在线观看影片大全网站| 国产亚洲av片在线观看秒播厂| 大型av网站在线播放| 男女高潮啪啪啪动态图| 亚洲精品中文字幕在线视频| 男女之事视频高清在线观看| 人人澡人人妻人| 久久人人97超碰香蕉20202| 精品国产一区二区三区久久久樱花| 免费久久久久久久精品成人欧美视频| 成年av动漫网址| 天堂中文最新版在线下载| 免费av中文字幕在线| 少妇粗大呻吟视频| 免费女性裸体啪啪无遮挡网站| 亚洲欧美色中文字幕在线| 中亚洲国语对白在线视频| 看免费av毛片| 80岁老熟妇乱子伦牲交| 国产成人av教育| 50天的宝宝边吃奶边哭怎么回事| tube8黄色片| 亚洲人成电影观看| av电影中文网址| 少妇被粗大的猛进出69影院| 黄色片一级片一级黄色片| 欧美 亚洲 国产 日韩一| av视频免费观看在线观看| 欧美日韩一级在线毛片| 午夜激情av网站| 99国产精品免费福利视频| 少妇人妻久久综合中文| 一区二区三区激情视频| 亚洲九九香蕉| 欧美久久黑人一区二区| 精品亚洲成国产av| 久久香蕉激情| 美女国产高潮福利片在线看| 久久精品人人爽人人爽视色| av网站在线播放免费| 国产无遮挡羞羞视频在线观看| 午夜福利在线免费观看网站| 亚洲国产精品一区三区| 欧美av亚洲av综合av国产av| 如日韩欧美国产精品一区二区三区| 美国免费a级毛片| 国产免费av片在线观看野外av| 免费在线观看黄色视频的| 女性被躁到高潮视频| 免费在线观看完整版高清| 国产成人一区二区三区免费视频网站| 99热全是精品| 最近最新中文字幕大全免费视频| 国产1区2区3区精品| 久久狼人影院| 精品一区二区三区四区五区乱码| 啦啦啦啦在线视频资源| 美女脱内裤让男人舔精品视频| 正在播放国产对白刺激| av在线app专区| 免费看十八禁软件| 99国产精品一区二区三区| 男女床上黄色一级片免费看| 国产97色在线日韩免费| 一区二区三区激情视频| 国产精品久久久久久人妻精品电影 | 91麻豆av在线| 日韩制服丝袜自拍偷拍| 在线观看免费日韩欧美大片| 老司机影院成人| 99精品欧美一区二区三区四区| 夜夜夜夜夜久久久久| 国产精品国产三级国产专区5o| 久久久国产精品麻豆| 熟女少妇亚洲综合色aaa.| 国产一级毛片在线| 丝袜人妻中文字幕| 欧美精品啪啪一区二区三区 | svipshipincom国产片| 天天躁夜夜躁狠狠躁躁| 欧美成狂野欧美在线观看| 美国免费a级毛片| 中文字幕人妻丝袜一区二区| 午夜久久久在线观看| 久久久久久久国产电影| 欧美精品一区二区免费开放| 国产精品1区2区在线观看. | 日韩欧美一区视频在线观看| 女人精品久久久久毛片| 嫩草影视91久久| 亚洲精品日韩在线中文字幕| 国产精品久久久久成人av| 国产伦理片在线播放av一区| 黑人猛操日本美女一级片| 丝瓜视频免费看黄片| 亚洲精品久久久久久婷婷小说| 黑人操中国人逼视频| 18禁国产床啪视频网站| √禁漫天堂资源中文www| av线在线观看网站| 国产欧美日韩一区二区精品| 亚洲成人免费电影在线观看| 亚洲av日韩在线播放| 在线观看免费高清a一片| 久久久欧美国产精品| 99久久精品国产亚洲精品| 妹子高潮喷水视频| 亚洲精品自拍成人| 亚洲国产精品成人久久小说| 亚洲欧美精品自产自拍| 黑人操中国人逼视频| 男女床上黄色一级片免费看| 国产人伦9x9x在线观看| 午夜影院在线不卡| 国产成人av教育| 天堂俺去俺来也www色官网| 久久人妻熟女aⅴ| 日日夜夜操网爽| 国产不卡av网站在线观看| 首页视频小说图片口味搜索| 在线亚洲精品国产二区图片欧美| 成年人黄色毛片网站| 亚洲国产精品成人久久小说| 男女之事视频高清在线观看| netflix在线观看网站| 欧美黑人欧美精品刺激| 丰满人妻熟妇乱又伦精品不卡| 久久久国产欧美日韩av| 两人在一起打扑克的视频| 欧美日韩黄片免| 国产精品久久久久久人妻精品电影 | 岛国在线观看网站| 免费观看av网站的网址| 国产在视频线精品| 啦啦啦 在线观看视频| 国产精品一区二区在线不卡| 日韩欧美一区二区三区在线观看 | 国产亚洲精品久久久久5区| 久久 成人 亚洲| 亚洲视频免费观看视频| 丰满人妻熟妇乱又伦精品不卡| 亚洲欧美色中文字幕在线| 三级毛片av免费| 天堂俺去俺来也www色官网| 亚洲黑人精品在线| 欧美国产精品va在线观看不卡| 午夜福利免费观看在线| 免费一级毛片在线播放高清视频 | 亚洲一卡2卡3卡4卡5卡精品中文| 又紧又爽又黄一区二区| 黄频高清免费视频| 午夜福利影视在线免费观看| 午夜福利在线免费观看网站| 午夜日韩欧美国产| 高清欧美精品videossex| 国产日韩欧美在线精品| 一区二区av电影网| 韩国精品一区二区三区| 三级毛片av免费| 美女视频免费永久观看网站| 久久精品亚洲av国产电影网| 国产精品一区二区精品视频观看| 99国产精品一区二区蜜桃av | 高潮久久久久久久久久久不卡| 人妻 亚洲 视频| 一本—道久久a久久精品蜜桃钙片| 好男人电影高清在线观看| 男人操女人黄网站| 久热爱精品视频在线9| 国产伦人伦偷精品视频| 黑人操中国人逼视频| 女人久久www免费人成看片| 国产精品一区二区免费欧美 | 日日摸夜夜添夜夜添小说| 国产91精品成人一区二区三区 | 久久人人爽人人片av| 欧美精品一区二区大全| 色婷婷久久久亚洲欧美| 亚洲精品中文字幕一二三四区 | 午夜影院在线不卡| 亚洲国产欧美在线一区| 欧美精品高潮呻吟av久久| 99热网站在线观看| 亚洲成人免费av在线播放| 精品国产乱码久久久久久小说| 亚洲精品中文字幕在线视频| 久9热在线精品视频| 亚洲欧美激情在线| 免费高清在线观看视频在线观看| 亚洲精品成人av观看孕妇| 亚洲黑人精品在线| 久热爱精品视频在线9| 欧美精品一区二区大全| 国产老妇伦熟女老妇高清| 男女之事视频高清在线观看| 亚洲自偷自拍图片 自拍| 国产精品自产拍在线观看55亚洲 | 人人妻人人添人人爽欧美一区卜| 一二三四社区在线视频社区8| 777米奇影视久久| 一级黄色大片毛片| 黄片大片在线免费观看| 日韩中文字幕欧美一区二区| 免费人妻精品一区二区三区视频| 国产精品国产三级国产专区5o| 免费看十八禁软件| 久久久精品区二区三区| 国产欧美日韩一区二区精品| 中文字幕制服av| 最新的欧美精品一区二区| 黄色视频在线播放观看不卡| 亚洲精品日韩在线中文字幕| 久久人人爽人人片av| 亚洲av国产av综合av卡| 亚洲熟女毛片儿| 午夜福利在线观看吧| 欧美日韩精品网址| 18在线观看网站| 国产精品99久久99久久久不卡| 男女免费视频国产| 亚洲自偷自拍图片 自拍| 黄色视频,在线免费观看| 99九九在线精品视频| 日韩视频一区二区在线观看| 欧美乱码精品一区二区三区| 亚洲欧美精品自产自拍| 777久久人妻少妇嫩草av网站| 欧美精品人与动牲交sv欧美| 秋霞在线观看毛片| 亚洲美女黄色视频免费看| 欧美日韩黄片免| 91国产中文字幕| 国产日韩欧美视频二区| 如日韩欧美国产精品一区二区三区| 热re99久久精品国产66热6| 香蕉国产在线看| 超碰97精品在线观看| 青草久久国产| 999精品在线视频| 久久香蕉激情| 亚洲精品一区蜜桃| 日韩中文字幕视频在线看片| 久久亚洲精品不卡| 亚洲欧洲精品一区二区精品久久久| 91麻豆精品激情在线观看国产 | 国产av精品麻豆| 人妻人人澡人人爽人人| 男女下面插进去视频免费观看| 老司机亚洲免费影院| 狠狠狠狠99中文字幕| 欧美国产精品va在线观看不卡| 大型av网站在线播放| 精品福利观看| 天天操日日干夜夜撸| 国产精品久久久久久精品电影小说| 亚洲黑人精品在线| 少妇 在线观看| 亚洲一区二区三区欧美精品| 亚洲精品中文字幕在线视频| 午夜老司机福利片| 丁香六月天网| www.精华液| 在线永久观看黄色视频| 人人妻人人添人人爽欧美一区卜| 视频区欧美日本亚洲| 欧美日韩国产mv在线观看视频| 精品国产一区二区三区久久久樱花| 无限看片的www在线观看| 中文字幕人妻丝袜制服| 女人爽到高潮嗷嗷叫在线视频| 国产伦理片在线播放av一区| 久久久久久久久免费视频了| 欧美日韩中文字幕国产精品一区二区三区 | 日韩大码丰满熟妇| 少妇粗大呻吟视频| 亚洲免费av在线视频| 国产一区有黄有色的免费视频| 成年女人毛片免费观看观看9 | 九色亚洲精品在线播放| 欧美日韩成人在线一区二区| 狠狠精品人妻久久久久久综合| 国产成人一区二区三区免费视频网站| 国产亚洲精品第一综合不卡| 亚洲国产中文字幕在线视频| 人人妻人人爽人人添夜夜欢视频| 亚洲成人手机| 大陆偷拍与自拍| 国产精品久久久久成人av| av网站免费在线观看视频| 亚洲欧美日韩另类电影网站| 中文字幕人妻熟女乱码| 97在线人人人人妻| 婷婷丁香在线五月| 亚洲,欧美精品.| 免费在线观看日本一区| 国产精品av久久久久免费| 99国产精品一区二区三区| 日韩人妻精品一区2区三区| 国产日韩欧美视频二区| 视频区图区小说| 美女视频免费永久观看网站| 日韩一卡2卡3卡4卡2021年| 搡老岳熟女国产| av一本久久久久| 深夜精品福利| 久久精品国产综合久久久| 狠狠狠狠99中文字幕| 亚洲精品第二区| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲成人免费av在线播放| 亚洲欧洲日产国产| 欧美日本中文国产一区发布| 91九色精品人成在线观看| 亚洲国产精品一区二区三区在线| 黑人巨大精品欧美一区二区mp4| 免费观看a级毛片全部| 十八禁高潮呻吟视频| 国产亚洲欧美精品永久| 国产伦理片在线播放av一区| 色播在线永久视频| 美女大奶头黄色视频| 性色av一级| 精品一区二区三区四区五区乱码| avwww免费| 成人18禁高潮啪啪吃奶动态图| 美女高潮到喷水免费观看| 免费在线观看视频国产中文字幕亚洲 | 少妇猛男粗大的猛烈进出视频| 中文字幕人妻丝袜制服| 亚洲熟女毛片儿| 三级毛片av免费| 欧美97在线视频| 欧美久久黑人一区二区| 黑丝袜美女国产一区| 搡老熟女国产l中国老女人| 99国产精品一区二区蜜桃av | 少妇 在线观看| 99香蕉大伊视频| 欧美av亚洲av综合av国产av| 亚洲国产精品一区三区| 成在线人永久免费视频| 久久国产精品影院| 国产精品秋霞免费鲁丝片| 男女无遮挡免费网站观看| 丰满迷人的少妇在线观看| 人人妻人人澡人人爽人人夜夜| 欧美性长视频在线观看| 国产黄频视频在线观看| 国产精品影院久久| 高清在线国产一区| 人人妻人人澡人人爽人人夜夜| 老熟妇乱子伦视频在线观看 | 97精品久久久久久久久久精品| 欧美精品一区二区免费开放| 午夜福利视频在线观看免费| 久久国产精品人妻蜜桃| 黑丝袜美女国产一区| 狂野欧美激情性bbbbbb| 国产成人一区二区三区免费视频网站| 午夜福利乱码中文字幕| 丁香六月欧美| 国产福利在线免费观看视频| 999久久久精品免费观看国产| 夜夜夜夜夜久久久久| 久久久欧美国产精品| 国产成人精品久久二区二区免费| 最近最新免费中文字幕在线| 嫩草影视91久久| 夫妻午夜视频| 国产免费现黄频在线看| 一级a爱视频在线免费观看| 亚洲一卡2卡3卡4卡5卡精品中文| 美女午夜性视频免费| 精品国产乱子伦一区二区三区 | 性色av一级| 久久久久久亚洲精品国产蜜桃av| 国产一卡二卡三卡精品| 一区二区三区乱码不卡18| a在线观看视频网站| 精品人妻一区二区三区麻豆| 青春草亚洲视频在线观看| 99精国产麻豆久久婷婷| 亚洲三区欧美一区| 在线av久久热| 99国产精品免费福利视频| 亚洲自偷自拍图片 自拍| 欧美成狂野欧美在线观看| av在线老鸭窝| 精品国产乱子伦一区二区三区 | 超碰97精品在线观看| 一本—道久久a久久精品蜜桃钙片| 免费在线观看完整版高清| 午夜福利影视在线免费观看| 成年人黄色毛片网站| 亚洲欧美色中文字幕在线| 亚洲欧美日韩高清在线视频 | 国产亚洲午夜精品一区二区久久| 国产一区二区激情短视频 | 99精品久久久久人妻精品| 精品视频人人做人人爽| 国精品久久久久久国模美| 国产精品久久久久久人妻精品电影 | 无遮挡黄片免费观看| 久久久久久久久免费视频了| 国产免费福利视频在线观看| 老汉色∧v一级毛片| 午夜激情久久久久久久| 国产精品九九99| 老司机在亚洲福利影院| 日韩有码中文字幕| 国产精品久久久人人做人人爽| 91精品伊人久久大香线蕉| 男女边摸边吃奶| 亚洲精品一区蜜桃| 黑人欧美特级aaaaaa片| 天天添夜夜摸| 热re99久久精品国产66热6| 777米奇影视久久| 国产一区二区激情短视频 | bbb黄色大片| 他把我摸到了高潮在线观看 | 天天影视国产精品| 啦啦啦在线免费观看视频4| 电影成人av| 97在线人人人人妻| 色视频在线一区二区三区| 男女免费视频国产| 伊人久久大香线蕉亚洲五| 男女国产视频网站| 天天添夜夜摸| 亚洲精品国产区一区二| 自拍欧美九色日韩亚洲蝌蚪91| 国产欧美日韩精品亚洲av| 亚洲国产精品成人久久小说| 精品一区二区三区四区五区乱码| 久久亚洲国产成人精品v| 国产在视频线精品| 69精品国产乱码久久久| 80岁老熟妇乱子伦牲交| 国产在视频线精品| 中文字幕人妻熟女乱码| 另类亚洲欧美激情| 精品久久久精品久久久| 久9热在线精品视频| 欧美变态另类bdsm刘玥| av电影中文网址| 久久香蕉激情| 久久久欧美国产精品| 超碰成人久久| 国产成人av教育| 久久av网站| 下体分泌物呈黄色| 桃花免费在线播放| 亚洲精品美女久久久久99蜜臀| 777久久人妻少妇嫩草av网站| 色婷婷av一区二区三区视频| 人妻一区二区av| 女性被躁到高潮视频| 国产麻豆69| 国产伦理片在线播放av一区| 美女国产高潮福利片在线看| 性少妇av在线| 亚洲国产日韩一区二区| 亚洲欧美日韩另类电影网站| 欧美一级毛片孕妇| 五月开心婷婷网| 亚洲精品在线美女| 多毛熟女@视频| 免费女性裸体啪啪无遮挡网站|