• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能社會(huì)治理中的民眾權(quán)益保障:困境、挑戰(zhàn)與優(yōu)化*

    2022-11-25 19:10:18趙洲洋
    社會(huì)科學(xué) 2022年6期
    關(guān)鍵詞:民眾人工智能數(shù)字

    趙洲洋

    一、問(wèn)題的提出

    技術(shù)對(duì)人們享有權(quán)利和福利產(chǎn)生了巨大且深遠(yuǎn)的影響。信息時(shí)代越來(lái)越多的技術(shù)創(chuàng)新、迭代都以數(shù)據(jù)為基礎(chǔ)。與以往的技術(shù)相比,數(shù)據(jù)與數(shù)字技術(shù)更加靈活、更易于流動(dòng),使其影響的范圍更大。以大數(shù)據(jù)、云計(jì)算等數(shù)字技術(shù)為基礎(chǔ),使機(jī)器實(shí)現(xiàn)感知、認(rèn)知、決策、行動(dòng)等智能行為的人工智能,更是引領(lǐng)了新一輪科技革命和產(chǎn)業(yè)變革,增強(qiáng)了人類自我改造能力,豐富了社會(huì)治理的實(shí)踐方式,營(yíng)造了空前透明的社會(huì)環(huán)境,推動(dòng)人類社會(huì)迎來(lái)人機(jī)協(xié)同、跨界整合、共創(chuàng)分享的智能時(shí)代,(1)《習(xí)近平向國(guó)際人工智能與教育大會(huì)致賀信》,《人民日?qǐng)?bào)》2019 年5 月17 日,第1 版。助推了民眾權(quán)益的擴(kuò)展、深化與享有的便捷。中國(guó)順應(yīng)時(shí)代地提出,推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實(shí)體經(jīng)濟(jì)深度融合,建設(shè)智慧社會(huì)。(2)習(xí)近平:《不斷做強(qiáng)做優(yōu)做大我國(guó)數(shù)字經(jīng)濟(jì)》,《求是》2021 年第2 期。智慧社會(huì)是高度網(wǎng)絡(luò)化、數(shù)字化和智能化的社會(huì),其基本特征是在數(shù)字化基礎(chǔ)上實(shí)現(xiàn)萬(wàn)物感知,在網(wǎng)絡(luò)化基礎(chǔ)上實(shí)現(xiàn)萬(wàn)物互聯(lián),在智能化基礎(chǔ)上使社會(huì)更智慧,(3)汪玉凱:《智慧社會(huì)與國(guó)家治理現(xiàn)代化》,《中共天津市委黨校學(xué)報(bào)》2018 年第2 期。它是面向生活過(guò)程與社會(huì)細(xì)節(jié)的治理和服務(wù)模式的發(fā)展愿景,也將改變?nèi)藗兊纳鐣?huì)連接方式,重組生產(chǎn)組織方式,重塑生活方式。(4)王天夫:《數(shù)字時(shí)代的社會(huì)變遷與社會(huì)研究》,《中國(guó)社會(huì)科學(xué)》2021 年第12 期。

    面對(duì)智慧社會(huì)帶來(lái)的變革且作為智慧社會(huì)建設(shè)的重要方面,黨的十九屆中央歷次全會(huì)提出“建立健全運(yùn)用互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)手段進(jìn)行行政管理的制度規(guī)則”,“以數(shù)字化轉(zhuǎn)型整體驅(qū)動(dòng)治理方式變革”,“科技支撐的社會(huì)治理體系”與“信息化支撐的社會(huì)管理服務(wù)平臺(tái)”等要求,要求將大數(shù)據(jù)、云計(jì)算、人工智能等前沿智能技術(shù)運(yùn)用于社會(huì)治理場(chǎng)景。(5)劉燦華:《社會(huì)治理智能化:實(shí)踐創(chuàng)新與路徑優(yōu)化》,《電子政務(wù)》2021 年第3 期。對(duì)此,各地近年來(lái)紛紛出臺(tái)各類舉措,釋放創(chuàng)新潛力,為利用數(shù)字技術(shù)進(jìn)行智能社會(huì)治理與服務(wù)建設(shè)進(jìn)行了有益的探索。越來(lái)越多的治理主體加入智能社會(huì)治理中來(lái),基本形成“政府+公民+企業(yè)+組織+科研機(jī)構(gòu)”的多元治理模式。(6)曲甜、張小勁:《大數(shù)據(jù)社會(huì)治理創(chuàng)新的國(guó)外經(jīng)驗(yàn):前沿趨勢(shì)、模式優(yōu)化與困境挑戰(zhàn)》,《電子政務(wù)》2020 年第1 期。在就業(yè)、教育、衛(wèi)生、養(yǎng)老、社會(huì)保障與救助以及司法等社會(huì)治理與服務(wù)領(lǐng)域,通過(guò)判別服務(wù)對(duì)象、登記服務(wù)信息、預(yù)測(cè)可能的風(fēng)險(xiǎn)與服務(wù)內(nèi)容等數(shù)字技術(shù),公、私治理主體已經(jīng)將云儲(chǔ)存、算法決策、人工智能與數(shù)字識(shí)別等數(shù)字技術(shù)應(yīng)用于社會(huì)治理與服務(wù)。(7)林榮全:《數(shù)字化時(shí)代街頭官僚的責(zé)任性:分析框架與研究展望》,《電子政務(wù)》2021 年第10 期。以數(shù)字技術(shù)為支撐的智慧社會(huì)治理與服務(wù)具有明顯的高效性、(8)賈開:《人工智能與算法治理研究》,《中國(guó)行政管理》2019 年第1 期。預(yù)測(cè)性(9)高琦奇、張鵬:《從算法民粹到算法民主:數(shù)字時(shí)代下民主政治的平衡》,《華中科技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2021 年第4 期。和混合性(10)韓志明、劉華云:《計(jì)算、算法和算力:基于信息的國(guó)家計(jì)算邏輯》,《探索與爭(zhēng)鳴》2021 年第3 期。,增強(qiáng)了社會(huì)治理的整體性、回應(yīng)性、開放性和合作性。(11)王振興等:《大數(shù)據(jù)背景下社會(huì)治理現(xiàn)代化:解讀、困境與路徑》,《電子政務(wù)》2019 年第4 期。但同時(shí)它也具有不透明性和部分自主性。為了應(yīng)對(duì)人工智能(AI)、間諜軟件和數(shù)字化國(guó)家等數(shù)字技術(shù)的影響,有研究者批判性地指出,如果不能從根本上改變對(duì)技術(shù)和私人行為的理解進(jìn)路,就難以確保新技術(shù)的開發(fā)和運(yùn)用會(huì)尊重和促進(jìn)民眾的根本利益。那么在以數(shù)字化技術(shù)為支撐的社會(huì)治理中,是否存在數(shù)字技術(shù)難以突破的關(guān)于權(quán)益保障的結(jié)構(gòu)性困境?數(shù)字技術(shù)的發(fā)展又為什么難以緩解甚至加劇一些結(jié)構(gòu)性矛盾?與此同時(shí),將數(shù)字技術(shù)應(yīng)用于社會(huì)治理與服務(wù)又對(duì)民眾的權(quán)益和問(wèn)責(zé)體系帶來(lái)了什么新的挑戰(zhàn)?又應(yīng)該如何解決這些結(jié)構(gòu)性困境與新興挑戰(zhàn)?中國(guó)和歐美國(guó)家?guī)缀跬瑫r(shí)開啟智慧社會(huì)治理與服務(wù),考察國(guó)外經(jīng)驗(yàn),對(duì)于理解智慧社會(huì)治理中民眾權(quán)益保障的問(wèn)題具有重要意義。

    為此,文章將以既有研究為基礎(chǔ),首先挖掘數(shù)字技術(shù)應(yīng)用于社會(huì)治理與服務(wù)所形成的智能社會(huì)治理與服務(wù)依舊難以突破的結(jié)構(gòu)性困境,以及其形成的機(jī)制,著重探討數(shù)字技術(shù)自身特性及其對(duì)公共權(quán)力、問(wèn)責(zé)機(jī)制以及社會(huì)治理與服務(wù)中私人權(quán)力的影響。其次,探究數(shù)字技術(shù)應(yīng)用于社會(huì)治理與服務(wù)所引發(fā)的對(duì)民眾權(quán)益和責(zé)任體系所帶來(lái)的新挑戰(zhàn)。需要注意的是,社會(huì)治理本身內(nèi)含多主體性,以及數(shù)字技術(shù)的賦權(quán),令高科技企業(yè)提供的數(shù)據(jù)和相關(guān)服務(wù)具有公共性,成為具有部分公共權(quán)力的主體,其運(yùn)作過(guò)程也在行使公共權(quán)力,可能對(duì)民眾的權(quán)益和國(guó)家問(wèn)責(zé)體系造成影響。例如國(guó)家或企業(yè)未經(jīng)授權(quán)即使用新技術(shù)形成的工具來(lái)監(jiān)視甚至威嚇民眾,這不僅對(duì)民眾的福利構(gòu)成風(fēng)險(xiǎn),還會(huì)更根本地撼動(dòng)傳統(tǒng)的責(zé)任體系,模糊并削弱了損害權(quán)利行為的責(zé)任,進(jìn)而導(dǎo)致不平等。最后,由于人工智能的認(rèn)知、決策、行動(dòng)能力強(qiáng)大,將從價(jià)值、技術(shù)和制度幾個(gè)層面嘗試提出,在實(shí)踐中應(yīng)對(duì)這些挑戰(zhàn)有效的方式。

    二、智能社會(huì)治理與服務(wù)中民眾權(quán)益面臨的結(jié)構(gòu)困境

    和歷史上的技術(shù)進(jìn)步一樣,數(shù)字技術(shù)的發(fā)展也影響著涉及民眾權(quán)利和大眾福利的法律制度和社會(huì)實(shí)踐,但數(shù)字技術(shù)應(yīng)用于社會(huì)治理也存在一些難以突破的困境,甚至加深了一些結(jié)構(gòu)性矛盾。首先,數(shù)字技術(shù)本身深深嵌入原有社會(huì)的權(quán)力關(guān)系之中;其次,它可能阻礙和破壞傳統(tǒng)的問(wèn)責(zé)與追責(zé)機(jī)制;第三,由于數(shù)字技術(shù)的尖端性,使得傳統(tǒng)上不受法律和制度約束的私人行為者,擁有越來(lái)越多、越來(lái)越大的公共責(zé)任和權(quán)力。這三者是數(shù)字時(shí)代智能社會(huì)治理與服務(wù)在結(jié)構(gòu)上對(duì)民眾權(quán)益的侵害。

    (一)技術(shù)嵌入既有權(quán)力關(guān)系

    數(shù)字技術(shù)所支撐的智能社會(huì)治理與服務(wù)并未能突破傳統(tǒng)的權(quán)力結(jié)構(gòu),甚至數(shù)字技術(shù)被質(zhì)疑為一場(chǎng)由精英主導(dǎo)的游戲。(12)尤班克斯:《自動(dòng)不平等》,李明倩譯,北京:商務(wù)印書館2021 年版,第2 頁(yè)。技術(shù)通常被視為分散和破壞穩(wěn)定權(quán)力關(guān)系的手段,如蘭德(Land)等人就認(rèn)為技術(shù)為民眾更廣泛、更真實(shí)地提出訴求和保護(hù)民眾權(quán)益提供了機(jī)會(huì)。(13)Land M.K., “Participatory Fact-finding: Developing New Approaches to Human Rights Investigation through New Technologies”, in Alston, P., Knuckey, S., eds.,The Future of Human Rights Fact-Finding, Oxford, UK: Oxford University Press, 2015, pp. 399—424.盡管調(diào)查技術(shù)的發(fā)展可以關(guān)鍵性地推動(dòng)問(wèn)責(zé)運(yùn)作,(14)Dubberley S., Koenig A., Murray D., “Introduction: the Emergence of Digital Witnesses”, in Dubberley S., Koenig A., Murray D.,eds.,Digital Witness:Using Open Source Information for Human Rights Investigation,Documentation,and Accountability, Oxford, UK: Oxford University Press, 2020, pp. 1—11.但從整體上來(lái)看,“技術(shù)能夠增強(qiáng)民眾權(quán)益與社會(huì)福利”的假設(shè)并未在實(shí)踐上被證實(shí)。圖費(fèi)克奇(Tufekci)對(duì)“阿拉伯之春”和“占領(lǐng)華爾街”運(yùn)動(dòng)中社交媒體所發(fā)揮的作用進(jìn)行了研究,他發(fā)現(xiàn),盡管技術(shù)推動(dòng)社會(huì)運(yùn)動(dòng)以驚人的速度發(fā)展,但速度也限制了其發(fā)展成熟的能力,而這種能力是使社會(huì)運(yùn)動(dòng)能夠擁有長(zhǎng)期權(quán)威和效力的關(guān)鍵。(15)Tufekci Z.,Twitter and Tear Gas:The Power and Fragility of Networked Protest, New Haven, CT: Yale University Press, 2017, pp.3—27.正如占領(lǐng)華爾街和“黃馬甲”等運(yùn)動(dòng)所表明的那樣,技術(shù)確實(shí)在許多方面有助于普通民眾提出訴求,但倡導(dǎo)關(guān)于民眾權(quán)益的長(zhǎng)期變革依舊十分重要。

    針對(duì)科學(xué)和技術(shù)作用的研究認(rèn)為“傳統(tǒng)的科學(xué)和創(chuàng)新政策會(huì)增加不平等,除非它們是專門為增進(jìn)平等而設(shè)計(jì)的”。(16)Cozzens S, Thakur D., “Problems and Concepts”, In Cozzens S., Thaku Cheltenham D., eds.,Innovation and Inequality:Emerging Technologies in an Unequal World, Cheltenhom, UK: Edward Elgar Publishing, 2014, pp. 3—22.這源于設(shè)計(jì)、開發(fā)、運(yùn)營(yíng)技術(shù)具有一定壟斷性,從而使其設(shè)計(jì)者、開發(fā)者與運(yùn)營(yíng)者擁有特權(quán)。市場(chǎng)激勵(lì)為導(dǎo)向的創(chuàng)新系統(tǒng)與模式,無(wú)論是知識(shí)產(chǎn)權(quán)系統(tǒng),(17)Kapczynski A., “The Cost of Price: Why and How to Get beyond Intellectual Property Internalism”,UCLA Law Review,Vol.59, 2012, pp.970—1026.還是西方社交媒體生態(tài),(18)Zuboff S.,The Age of Surveillance Capitalism:The Fight for a Human Future at the New Frontier of Power, NY: Public Affairs, 2019.在結(jié)構(gòu)上都傾向于滿足那些本已富裕或有權(quán)勢(shì)群體的需求。正如比拉內(nèi)(Birhane) 所說(shuō),“技術(shù)從來(lái)都不是中立的或客觀的——它就像一面鏡子,反映了社會(huì)偏見、不公平和不公正”。(19)Birhane A., “The Algorithmic Colonization of Africa”,CyFyAfrica2019 Blog, https://abebabirhane. wordpress.com/2019/07/10/the-algorithmic-colonization-of-africa/, 2021-12-10.蘭德等人詳細(xì)說(shuō)明了權(quán)力不平衡嵌入技術(shù)系統(tǒng)的幾種方式,從基于假設(shè)的家庭人口數(shù)量來(lái)安裝的供水系統(tǒng),到對(duì)于新的氣候適應(yīng)技術(shù)或數(shù)據(jù)分析工具的需求與負(fù)擔(dān)能力不匹配,再到數(shù)據(jù)挖掘、政策算法和預(yù)測(cè)風(fēng)險(xiǎn)模型各個(gè)環(huán)節(jié),數(shù)字技術(shù)的運(yùn)用最終不可避免地會(huì)復(fù)制并進(jìn)一步加深現(xiàn)有的不平等和權(quán)力失衡。

    (二) “數(shù)字鴻溝”與問(wèn)責(zé)失效

    除延續(xù)不平等的權(quán)力框架外,技術(shù)還影響了追究侵犯民眾權(quán)利與大眾福利行為責(zé)任的能力。除用途好壞之別外,在許多情況下,技術(shù)可能幫助隱匿信息,并進(jìn)一步導(dǎo)致責(zé)任追溯困境。應(yīng)用數(shù)字技術(shù)還會(huì)模糊和分裂權(quán)威,從而使傳統(tǒng)的促進(jìn)問(wèn)責(zé)的機(jī)制失效。

    技術(shù)使得辨別違規(guī)者的身份更加困難,所以追責(zé)變得更加復(fù)雜與困難。即使涉及到價(jià)值判斷,公私治理主體也積極推動(dòng)自動(dòng)化決策,而技術(shù)所支撐的自動(dòng)化決策使違規(guī)行為變得更加隱蔽,令原本必定被視為損害的行為變得自然而然。例如,預(yù)付費(fèi)式水表要求先預(yù)付水費(fèi)再供水,若未付款則會(huì)被斷水,然而在實(shí)踐中,預(yù)付費(fèi)和直接斷水兩種供水系統(tǒng)的處理方式截然不同,后者有法律保護(hù),防止被錯(cuò)誤剝奪,而前者卻缺乏此類保護(hù)。

    此外,決策自動(dòng)化弱化了對(duì)侵權(quán)行為的追責(zé),也會(huì)破壞羞恥、社會(huì)化等機(jī)制,這些機(jī)制是維護(hù)民眾權(quán)利和大眾福利所依賴的。因數(shù)字技術(shù)的去時(shí)間性和去地域性,運(yùn)行某項(xiàng)技術(shù)的人員可能并不會(huì)對(duì)由此產(chǎn)生的任何違規(guī)行為承擔(dān)責(zé)任,因?yàn)樗麄儽旧聿⑽粗苯釉斐蓚?。例如市政機(jī)構(gòu)的工作人員可以決定安裝可能在未來(lái)某一時(shí)刻斷水的水表,但民眾對(duì)他們施加壓力很困難,因此當(dāng)發(fā)生斷水時(shí),并沒(méi)有人會(huì)以此為憾事。(20)Roth K., “Defending Economic, Social and Ultural Rights: Practical Issues Faced by an International Human Rights Organization”,Human Rights Quarterly, Vol.26, No.1, 2004, pp.63—73.

    (三)技術(shù)賦權(quán)與公私關(guān)系嬗變

    在新的數(shù)字技術(shù)的創(chuàng)新、開發(fā)和推廣中,私營(yíng)機(jī)構(gòu)起到了重要作用,這些企業(yè)是非常強(qiáng)大的信息和交流把關(guān)人,他們控制普通民眾的表達(dá)活動(dòng)、用戶之間的聯(lián)系以及民眾獲取信息的途徑。(21)Gillespie T.,Custodians of the Internet:Platforms,Content Moderation,and the Hidden Decisions that Shape Social Media, New Haven, CT: Yale University Press, 2018.這就使得在數(shù)字技術(shù)時(shí)代,私人機(jī)構(gòu),特別是高科技企業(yè)在基礎(chǔ)設(shè)施和社會(huì)治理與服務(wù)中占據(jù)了重要的地位,它們也因技術(shù)壟斷了大量的公共權(quán)力。

    針對(duì)私營(yíng)公司掌握公共權(quán)力、提供公共服務(wù)這一新情況,各國(guó)政府的態(tài)度并不一致。在許多領(lǐng)域,美國(guó)政府越來(lái)越多地授權(quán)這些私營(yíng)公司,使它們成為治理和監(jiān)管的代理人。(22)Bloch-Wehba H., “Global Platform Governance: Private Power in the Shadow of the State”,SMU Law Review, Vol.72, 2019, pp.27—80; Langvardt K., “Regulating Online Content Moderation”,Georgetown Law Journal, Vol.106, 2018, pp.1353—1388.特別是,政府將線上表達(dá)活動(dòng)的監(jiān)管權(quán)下放給私營(yíng)公司,(23)Land M.K., “Against Privatized Censorship: Proposals for Responsible Delegation”,Journal of International Law, Vol. 60, 2020, pp.363—432.它們因此有權(quán)決定是否公開那些被上傳到私營(yíng)平臺(tái)的侵犯他人權(quán)益的證據(jù)。私營(yíng)公司還研發(fā)和銷售既能實(shí)施又能阻止監(jiān)視的技術(shù),配合或拒絕政府監(jiān)視某些個(gè)人的要求,并創(chuàng)建可能決定人們生死的算法和武器系統(tǒng)。這些決定通常是出于商業(yè)利益,而不是基于對(duì)公共利益或權(quán)益保障的關(guān)切才做出的。(24)J?rgensen R.F., “Human Rights and Private Actors”, in Land & Aronson eds.,New Technologies for Human Rights Law and Pactice, Cambridge, UK: Cambridge Universh, Press, 2018, pp. 243—69.盡管如此,目前處理商業(yè)組織侵害權(quán)益的框架,仍舊建立在國(guó)家行使的公共權(quán)力與公司行使的私人權(quán)力的劃分基礎(chǔ)上,(25)Callamard A., “The Human Rights Obligations of Non-state Actors”, in R.F. J?rgensen, ed.,Human Rights in the Age of Platforms,Cambridge, MA: MIT Press, 2019, pp. 191—226.兩者涇渭分明,其中公共權(quán)力需遵守尊重和保護(hù)權(quán)利的約束性義務(wù),而私人權(quán)力是個(gè)體權(quán)利,不僅不必遵守約束性義務(wù),而且還需被尊重和保護(hù)。因此,目前美國(guó)等國(guó)家對(duì)于個(gè)人權(quán)益保護(hù)的相關(guān)法律規(guī)定,并不適用于這種劃分,且無(wú)法有效彌合兩者的區(qū)分。

    治理理論指明了公共權(quán)力和私人權(quán)力不可逆地交織在一起的狀況和前景,應(yīng)該用什么樣的框架來(lái)分析兩者深度交融的狀況呢?公共機(jī)構(gòu)為私有技術(shù)提供資金、銷售渠道并建立了創(chuàng)新系統(tǒng),(26)福斯特、麥克切斯尼:《監(jiān)控式資本主義:壟斷金融資本、軍工復(fù)合體和數(shù)字時(shí)代》,《國(guó)外社會(huì)科學(xué)》2015 年第1 期。當(dāng)國(guó)家要求非國(guó)家行為者規(guī)范用戶的言論時(shí),公司是否僅需負(fù)尊重言論自由的道德責(zé)任?當(dāng)公司設(shè)計(jì)并建立的人工智能系統(tǒng),在言論監(jiān)管背景下復(fù)制種族或性別偏見時(shí),能否要求公司對(duì)其造成的權(quán)益損害負(fù)責(zé)?政府用私人公司設(shè)計(jì)建立的系統(tǒng)設(shè)置就業(yè)條件與社保繳費(fèi)率,一旦造成了危害應(yīng)由誰(shuí)來(lái)負(fù)責(zé)?所謂公共事務(wù)和私人事務(wù)之間的區(qū)別已經(jīng)過(guò)時(shí)了,過(guò)分關(guān)注它,還影響我們對(duì)更為重要的責(zé)任體系與權(quán)益救濟(jì)的關(guān)注。

    三、智能社會(huì)治理與服務(wù)模式帶來(lái)的新挑戰(zhàn)

    除了智能社會(huì)治理與服務(wù)面臨的三項(xiàng)結(jié)構(gòu)性障礙外,數(shù)字技術(shù)應(yīng)用于社會(huì)治理與服務(wù)時(shí)還引發(fā)了一些新的挑戰(zhàn)。近期數(shù)字技術(shù)對(duì)權(quán)益保護(hù)造成的挑戰(zhàn),包括政府進(jìn)行的信息監(jiān)視與騷擾對(duì)公民隱私權(quán)利的破壞、算法自動(dòng)化決策和深度造假背景下人工智能與社會(huì)不平等的再生產(chǎn),以及數(shù)字國(guó)家興起造成的新的責(zé)任困境。

    (一)信息監(jiān)控與公民權(quán)益救濟(jì)困境

    時(shí)至今日,技術(shù)作為國(guó)家權(quán)力潛在破壞者的時(shí)代早已過(guò)去,它更多地被用以加強(qiáng)和鞏固國(guó)家權(quán)力。手機(jī)和社交媒體等技術(shù)在很大程度上已被國(guó)家利用,(27)Gregory S., “Cameras Everywhere Revisited: How Digital Technologies and Social Media Aid and Inhibit Human Rights Documentation and Advocacy”,Journal of Human Rights Practice, Vol.11, No.2, 2019, pp.373—392.政府和與為國(guó)家及資本服務(wù)的私人行動(dòng)者,使用異常強(qiáng)大的間諜軟件和其他新工具來(lái)控制和管理信息空間,從而限制為爭(zhēng)取社會(huì)權(quán)益與福利而活動(dòng)的社會(huì)人士。這些工具可分為侵?jǐn)_工具和監(jiān)視工具。米吉多(Megiddo)就認(rèn)為,政府的監(jiān)視和虛假信息,會(huì)極大地威脅和破壞民眾權(quán)益和法治,(28)Megiddo T. Online Activism, “Digital Domination, and the Rule of Trolls: Mapping and Theorizing Technological Oppression by Governments”,Columbia Journal of Transnational Law,Vol. 58, 2020, pp.394—442.這些“數(shù)字控制措施”的危害已不僅僅侵犯了個(gè)人隱私,還對(duì)自由和法治造成了重大危害,因此應(yīng)該被概念化為“一套構(gòu)成政府壓迫威脅的控制措施”。

    1.侵?jǐn)_。西方國(guó)家的精英越來(lái)越多地使用社交媒體等工具來(lái)攻擊和削弱威脅者。正如美國(guó)律師協(xié)會(huì)人權(quán)中心的一份報(bào)告中所顯示,政府和與政府關(guān)系密切的一些行動(dòng)者正通過(guò)社交媒體平臺(tái)騷擾和恐嚇為民眾權(quán)益保護(hù)而活動(dòng)的人士。(29)Abbas M., Al-Wohaibi E., Donovan J., Hale E, Marugg T., et al.,Invisible Threats:Mitigating the Risk of Violence from Online Hate Speech Against Human Rights Defenders, Chicago: American Bar Association, 2019.其造成的寒蟬效應(yīng),不僅對(duì)活動(dòng)者個(gè)人產(chǎn)生作用,而且還會(huì)削弱公眾對(duì)他們活動(dòng)的支持。政府及相關(guān)方積極通過(guò)惡搞或造謠,或通過(guò)威脅公民和活動(dòng)人士的切身利益,以詆毀他們表達(dá)的內(nèi)容。事實(shí)上,社交媒體的強(qiáng)大力量正在為政府所用,以對(duì)抗和控制為民眾權(quán)利和社會(huì)福利而活動(dòng)的人士,政府利用了網(wǎng)絡(luò)分布式架構(gòu)和低把關(guān)的組織方式,來(lái)詆毀和混淆對(duì)立的信息來(lái)源。(30)Tufekci Z.,Twitter and Tear Gas:The Power and Fragility of Networked Protest, pp.223—236變革成功與否的前提是倡議者傳達(dá)可靠信息的能力,但在充斥假新聞和巨魔農(nóng)場(chǎng)的環(huán)境中,即使那些有資源查證信息來(lái)源的人也很難知道該相信什么。

    因此,盡管許多學(xué)者和活動(dòng)人士認(rèn)為海量的信息源會(huì)使審查更加困難,從而間接有利于民眾表達(dá)訴求和政府提升回應(yīng)性。但各國(guó)政府則改變審查和應(yīng)對(duì)的策略,政府意識(shí)到它們不必阻止言論,而只需詆毀它即可。(31)Tufekci Z.,Twitter and Tear Gas:The Power and Fragility of Networked Protest, pp.263—268.它們也不需要特別準(zhǔn)確地表達(dá)它們所懷疑的信息,相反,要破壞公眾動(dòng)員,只需抹黑所有的信息來(lái)源,當(dāng)人們不知道該相信什么的時(shí)候,就什么也不會(huì)相信、什么也不會(huì)做。宣傳正在削弱真相的意義,從而破壞基于事實(shí)進(jìn)行組織的能力。政府為削弱異議、限制民間社會(huì)組織的空間甚至在某些情況下煽動(dòng)暴力,而傳播的虛假信息和錯(cuò)誤信息威力巨大,在技術(shù)和社交媒體素養(yǎng)水平低且缺乏強(qiáng)大獨(dú)立媒體的環(huán)境中更是如此。(32)Kelly S, Truong M, Shahbaz A, Earp M, White J.,Freedom on the Net 2017:Manipulating Social Media to Undermine Democracy,Washingtom, DC: Freedom House, 2017.

    人工智能系統(tǒng)自動(dòng)生成的虛假音頻或視頻,越來(lái)越成為虛假信息的來(lái)源,利用舊視頻合成沒(méi)有現(xiàn)實(shí)依據(jù)的全新內(nèi)容。這種深度造假對(duì)個(gè)人和社會(huì)造成了一系列危害,(33)Chesney B, Citron D., “Deep Fakes: a Looming Challenge for Privacy, Democracy, and National Security”,California Law Review, Vol.107, 2019, pp.1753—1819.格里高利(Gregory) 認(rèn)為“這些精心制造的假信息可能會(huì)被用來(lái)進(jìn)行可信度攻擊、混淆調(diào)查,并煽動(dòng)針對(duì)社會(huì)活動(dòng)人士的暴力行為”。(34)Gregory S., “Cameras Everywhere Revisited: How Digital Technologies and Social Media Aid and Inhibit Human Rights Documentation and Advocacy”,Journal of Human Rights Practice, Vol.11, No.2, 2019, p.380.他建議,平臺(tái)與搜索引擎有責(zé)任設(shè)計(jì)和監(jiān)督生成式人工智能系統(tǒng)(AI)上述功能。他堅(jiān)持認(rèn)為,公司需要在產(chǎn)品設(shè)計(jì)之初就考慮人工智能等技術(shù)的潛在危害,而不僅僅是對(duì)已發(fā)布產(chǎn)品所造成的危害做出反應(yīng)。政府也有責(zé)任確立一個(gè)有效的制度框架來(lái)防范潛在危害。(35)Koenig A., “Half the Truth is Often a Great Lie: Deep Fakes, Open Source Information, and International Criminal Law”,AJIL Unbound, Vol.113, 2019, pp.250—255.

    虛假信息不僅對(duì)維權(quán)活動(dòng)人士個(gè)人構(gòu)成威脅,而且往往蓄意破壞他們追究損害權(quán)益行為的努力。因此,通過(guò)數(shù)字技術(shù)工具進(jìn)行的信息侵?jǐn)_旨在限制賦權(quán)權(quán)利(empowerment rights),(36)Cope K.L, Crabtree C., Lupu Y., “Beyond Physical Integrity”,Law Contemporary Problem, Vol.81, No.4, 2018, pp.186—188.即既懲戒行使這些權(quán)利的具體行為,也可以更普遍地用于“阻止挑戰(zhàn)國(guó)家權(quán)威的組織和動(dòng)員意圖”??破?Cope)等指出,“信息和通信技術(shù)的進(jìn)步已經(jīng)并可能繼續(xù)降低政府實(shí)施大規(guī)模預(yù)防性鎮(zhèn)壓的成本”。(37)Cope K.L, Crabtree C., Lupu Y., “Beyond Physical Integrity”,Law Contemporary Problem, Vol.81, No.4, 2018, pp.189.因此,以數(shù)字技術(shù)為基礎(chǔ)的新型侵?jǐn)_工具使得追究國(guó)家責(zé)任比以往都更加困難。

    2.監(jiān)視。西方各國(guó)還在使用監(jiān)視工具來(lái)維持和鞏固權(quán)力。一些國(guó)家政府就在使用由以色列NSO集團(tuán)公司生產(chǎn)的Pegasus 間諜軟件,來(lái)監(jiān)視和攻擊一些維權(quán)人士。一旦被安裝到手機(jī)上,Pegasus 軟件可以自動(dòng)提取設(shè)備上所有數(shù)據(jù),如短信、聯(lián)系人、GPS 位置、電子郵件和瀏覽器的歷史記錄。它還可以通過(guò)使用手機(jī)麥克風(fēng)和攝像頭來(lái)記錄用戶周圍的環(huán)境,從而創(chuàng)建新的數(shù)據(jù)。(38)Hopkins N., “WhatsApp Spyware Attack was Attempt to Hack Human Rights Data, Says Lawyer”,Guardian, 2019-05-14.如生物識(shí)別數(shù)據(jù)、禁止在線加密和匿名、公共場(chǎng)所的面部識(shí)別等技術(shù)也被用以監(jiān)視人群,(39)Megiddo T., “Online Activism, Digital Domination, and the Rule of Trolls: Mapping and Theorizing Technological Oppression by Governments”,Columbia Journal of Transnational Law, Vol.58, 2020, pp.405—406.即使是普通的手機(jī)也會(huì)產(chǎn)生大量數(shù)據(jù),可用于識(shí)別個(gè)人的位置和行動(dòng)軌跡。(40)Thompson SA, Warzel C., “Twelve Million Phones, One Dataset, Zero Privacy”,New York Times, 2019-12-10.通過(guò)技術(shù)制造商和平臺(tái)所有者收集的海量的各種數(shù)據(jù),使精準(zhǔn)跟蹤個(gè)人的身體活動(dòng)、運(yùn)動(dòng)、交流和消費(fèi)信息成為可能。(41)Gregory S., “Cameras Everywhere Revisited: How Digital Technologies and Social Media Aid and Inhibit Human Rights Documentation and Advocacy”,Journal Human Rights Practice, Vol.11, No.2, 2019, p.380.人工智能、云計(jì)算等技術(shù)手段和缺乏保護(hù)精確隱私的法律框架,使這種監(jiān)控幾乎能夠在所有公私空間中實(shí)時(shí)進(jìn)行。許多國(guó)家為了進(jìn)一步推進(jìn)這種監(jiān)視活動(dòng),還限制民眾使用加密技術(shù)、禁止可能掩蓋互聯(lián)網(wǎng)用戶身份和位置的VPN(虛擬專用網(wǎng)絡(luò)),并威脅對(duì)記錄侵權(quán)行為的人施以人身暴力。(42)Kelly S., Truong M., Shahbaz A., Earp M., White J.,Freedom on the Net 2017:Manipulating Social Media to undermine Democracy, Doc., Freedom House, 2017, https://freedomhouse.org/report/freedom-net/2017/manipulating-social-media-undermine-democracy, 2021-10-18.正如威茲曼(Weizman)所描述的,如內(nèi)置攝像功能的手機(jī)等最初被認(rèn)為能夠監(jiān)督國(guó)家的工具,經(jīng)由政府及相關(guān)技術(shù)公司的“改造”,已被西方國(guó)家“武器化”。(43)Weizman E.,Forensic Architecture:Violence at the Threshold of Detectability, Brooklyn, NY: Zone Books, 2017.

    面對(duì)突如其來(lái)的新冠肺炎疫情,為了更加有效控制疫情而建立的公共衛(wèi)生追蹤機(jī)制,可能也會(huì)導(dǎo)致更具侵入性的監(jiān)視,尤其是由不符合隱私保護(hù)標(biāo)準(zhǔn)的私人機(jī)構(gòu)進(jìn)行的監(jiān)視。(44)Kaye D.,Disease Pandemics and the Freedom of Opinion and Expression,Report of the Special Rapporteur on the Promotionand Protection of the Right to Freedom of Opinion and Expression, UN Human Rights Council, A/HRC/44/49, 2020-04-23.各國(guó)普遍使用智能手機(jī)追蹤病毒傳播軌跡,監(jiān)控人們是否遵守居家隔離指令。這些軟件搜集用戶的歷史位置等個(gè)人信息,在第三方服務(wù)器上儲(chǔ)存這些信息,有些商家還在軟件中嵌入了秘密搜集用戶信息的“后門”。澳大利亞的“新冠肺炎安全”軟件使用藍(lán)牙科技,可以自動(dòng)在用戶手機(jī)上啟動(dòng)位置定位。該軟件將海量數(shù)據(jù)儲(chǔ)存在美國(guó)亞馬遜公司的云存儲(chǔ)器中,需遵守美國(guó)《澄清境外數(shù)據(jù)合法使用法》,美國(guó)執(zhí)法機(jī)構(gòu)可利用該法案調(diào)用存儲(chǔ)在境外互聯(lián)網(wǎng)上的數(shù)據(jù)。(45)高望來(lái):《人工智能與后疫情時(shí)代的數(shù)字治理》,《當(dāng)代世界與社會(huì)主義》2021 年第6 期。許多人擔(dān)心,如果緊急措施正?;?,或政府利用危機(jī)來(lái)制定原本不可接受的措施,抑或如果公民更傾向于接受對(duì)其權(quán)利的限制,為應(yīng)對(duì)特殊危機(jī)狀態(tài)而采取的措施,就可能會(huì)被固定為日常性措施。(46)Nay O., “Comment: Can a Virus Undermine Human Rights”,Lancet, No.5, 2020, pp.238—39.

    侵?jǐn)_和監(jiān)視都涉及深度交融的公共和私人行動(dòng),例如,在線的宣傳通常通過(guò)網(wǎng)絡(luò)中心或巨魔農(nóng)場(chǎng)等私人公司的系統(tǒng)來(lái)進(jìn)行,(47)Abbas M., Al-Wohaibi E., Donovan J., Hale E., Marugg T., et al.,Invisible Threats:Mitigating the Risk of Violence from Online Hate Speech against Human Rights Defenders, Chicago: American Bar Association, 2019.諸如Pegasus 之類的間諜軟件是由私人公司創(chuàng)建和銷售的,卻被公共權(quán)力用以進(jìn)行監(jiān)視活動(dòng)。鑒于監(jiān)視的危害,聯(lián)合國(guó)特別報(bào)告員呼吁“除非科技公司提供令人信服的證據(jù),證明自己在盡職調(diào)查、透明度和責(zé)任等方面已采取足夠的措施……來(lái)防止或減輕使用這些技術(shù)侵犯民眾權(quán)益”,(48)Kaye D.,Surveillance and Human Rights,Report of the Special Rapporteur on the Promotion and Protection of the Rightto Freedom of Opinion and Expression, UN Human Rights Council, A/HRC/41/35, 2019-05-28.科技公司應(yīng)停止生產(chǎn)和銷售監(jiān)視技術(shù)。因此,數(shù)字化時(shí)代的公共與私人的關(guān)系,正如米吉多所說(shuō),“外包數(shù)字壓迫揭示了私人和公共權(quán)力的結(jié)合,這與以往的政府和私人商業(yè)行為者之間的關(guān)系不同”。(49)Megiddo T., “Online Activism, Digital Domination, and the Rule of Trolls: Mapping and Theorizing Technological Oppression by Governments”,Columbia Journal of Transnational Law, Vol.58, 2020, p.402.

    (二)自動(dòng)決策與社會(huì)不平等再生產(chǎn)

    在過(guò)去幾年中,人們?cè)絹?lái)越關(guān)注基于算法的決策對(duì)民眾權(quán)益和大眾福利的影響。(50)吳進(jìn)進(jìn)、符陽(yáng):《算法決策:人工智能驅(qū)動(dòng)的公共決策及其風(fēng)險(xiǎn)》,《開放時(shí)代》2021 年第5 期。人工智能研究院(AI Now Institute)將自動(dòng)決策系統(tǒng)定義為“數(shù)據(jù)驅(qū)動(dòng)的將原由人實(shí)行的程序、實(shí)踐或政策得以自動(dòng)化的技術(shù),可以用于預(yù)測(cè)、識(shí)別、監(jiān)督、檢測(cè)和針對(duì)個(gè)人或社區(qū)等目的”。這些技術(shù)被廣泛應(yīng)用于各種場(chǎng)景,包括“分配有限的政府資源(如公共福利或衛(wèi)生服務(wù));預(yù)見并可能預(yù)防特定風(fēng)險(xiǎn);消除或限制決策中的自由裁量權(quán);并提供人本身無(wú)法進(jìn)行的大規(guī)模和大范圍分析”。(51)Richardson R., Cahn A., Kak A., Diaz A., Samant A., et al.,Confronting Black Boxes:a Shadow Report of the New York City Automated Decision System Task Force. Rep., AI Now Institution., https://ainowinstitute.org/ads-shadowreport-2019.pdf., 2021-11-28.

    許多公司、計(jì)算科學(xué)家和決策科學(xué)家都對(duì)自動(dòng)化決策系統(tǒng)大加推崇,可以通過(guò)大數(shù)據(jù)驅(qū)動(dòng)的議程設(shè)置信息化、備擇方案討論全民化、決策執(zhí)行自動(dòng)化、決策評(píng)估實(shí)時(shí)化、全過(guò)程跨領(lǐng)域綜合集成化等公共決策創(chuàng)新,(52)陳一凡、胡象明:《大數(shù)據(jù)驅(qū)動(dòng)型的公共決策過(guò)程創(chuàng)新及效果評(píng)估——基于SSCI 和SCI 的文獻(xiàn)研究》,《電子政務(wù)》2019 年 第8 期。消除社會(huì)和政治議題中的人為偏見。(53)Miller A.P., “Want Less-biased Decisions? Use Algorithms”,Harvard Business Review, 2018-07-26.相較于人類,這些系統(tǒng)處理數(shù)據(jù)的能力更強(qiáng)、規(guī)模更大、速度更快,人類不得不依賴文化啟發(fā)法來(lái)克服信息鴻溝,但理論上人工智能系統(tǒng)不會(huì)受到這種障礙的影響。此類系統(tǒng)已被用于幫助警方預(yù)測(cè)犯罪熱點(diǎn)、調(diào)節(jié)交通、確定犯罪嫌疑人的社會(huì)風(fēng)險(xiǎn)、探查某人是否參與金融欺詐或貸款額度、判斷工作匹配度、選擇要在線上向用戶展示的廣告、判別特定社交媒體帖子是否違反了平臺(tái)標(biāo)準(zhǔn)或當(dāng)?shù)胤?,并在法律和安全環(huán)境中創(chuàng)建面部和生物識(shí)別系統(tǒng)。

    然而,研究者和人工智能批評(píng)者已經(jīng)證明,這些所謂的中立或客觀的人工智能系統(tǒng)復(fù)制了它們所運(yùn)用數(shù)據(jù)中固有的偏見,或者將特定的思維方式轉(zhuǎn)化為代碼。正如奧尼爾(O’Neil)所說(shuō),算法是嵌入在代碼中的觀點(diǎn),不同于人們將算法視為是客觀、真實(shí)、科學(xué)的。另外,因?yàn)樾湃魏秃ε聰?shù)字,而用算法來(lái)恐嚇用戶,讓用戶信任和恐懼算法,這也是一種營(yíng)銷技巧。但當(dāng)我們盲目相信大數(shù)據(jù)時(shí),很多事情都會(huì)出錯(cuò)。(54)O’Neil C., The Era of Blind Faith in Big Data Must End., TED2017, April, 2017,Vancouver, Canada, https://www.ted.com/talks/cathy_o_neil_the_era_of _blind_faith_in_big_data_must_end, 2019-04-23.

    人工智能在就業(yè)信息、就業(yè)保障和公共衛(wèi)生方面的應(yīng)用,(55)Richardson R., Schultz J.M., Crawford K., “Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice”,N.Y. University Law Review, Vol.94, 2019, pp.192—233.以及其在司法系統(tǒng)保釋、審判、警務(wù)和假釋等過(guò)程中潛在的負(fù)面影響,也受到了關(guān)注。人工智能在人臉識(shí)別系統(tǒng)、(56)Garvie C., Bedoya A., Frankle J.,The Perpetual Line-up:Unregulated Police Face Recognition in America, Georgetown Law Center of Privacy Technology, 2016, https://www.perpetuallineup.org/, 2021-11-28.社會(huì)救濟(jì)系統(tǒng)、自動(dòng)駕駛汽車等領(lǐng)域?qū)γ癖姍?quán)益和社會(huì)福利的影響也備受關(guān)注。在互聯(lián)網(wǎng)基礎(chǔ)設(shè)施中人工智能直接影響世界各地的人們?nèi)绾闻c他人交流、分享觀點(diǎn)、參與政治行動(dòng)以及在線查找信息,但人工智能系統(tǒng)存在的偏見早已為人所知。(57)Sweeney L., “Discrimination in Online ad Delivery”,Communication ACM, Vol.56, No.5, 2013, pp.44—54.搜索引擎和社交媒體平臺(tái)等在線中介機(jī)構(gòu)使用人工智能以多種方式控制人們?cè)L問(wèn)其平臺(tái)內(nèi)容,包括決定顯示的信息、產(chǎn)品、服務(wù)或其他帖子的內(nèi)容。對(duì)信息內(nèi)容的隱現(xiàn)和排序是數(shù)字時(shí)代重要的公共權(quán)力,在一些情況下,對(duì)信息的隱現(xiàn)或排序可能源于道德原因,不便于民眾搜索和運(yùn)用信息;而有一些可能會(huì)侵犯言論自由、隱私和集會(huì)自由等基本權(quán)利。當(dāng)人工智能被用以監(jiān)管言論和交流時(shí),它可能有意或無(wú)意地屏蔽某些具有公共價(jià)值的主題、圖像或話語(yǔ)。人工智能系統(tǒng)也對(duì)殘障人士有很大的影響。隨著人工智能系統(tǒng)越來(lái)越多地用于匹配工作崗位、確定公共服務(wù)獲得資格、確定空間設(shè)計(jì)方案以及公民身份獲益權(quán),殘疾人士尤其會(huì)受到這類系統(tǒng)如何定義正常和殘障的影響。(58)West SM, Whittaker M, Crawford K.,Discriminating Systems:Gender,Race,and Power in AI, AI Now Institution, https://ainowinstitute.org/discriminatingsystems.pdf, 2019, 2021-07-23.

    在過(guò)去幾年中,面部識(shí)別系統(tǒng)可能對(duì)人身權(quán)利造成的侵害也令人擔(dān)憂。(59)Schippers B., “Face Recognition Technology: the Human Rights Concerns”,Eolas Magazine, https://www.eolasmagazine.ie/facerecognition-technology-the-human-rights-concerns/, Vol.12, 2018, 2021-11-27.面部識(shí)別系統(tǒng)被廣泛地應(yīng)用在各國(guó)的執(zhí)法、公共安全和維護(hù)社會(huì)秩序行動(dòng)中。除面部識(shí)別系統(tǒng)存在很大謬誤外,在美國(guó)和一些西方國(guó)家,人工智能為內(nèi)核的面部識(shí)別系統(tǒng)也被證明在多種方面存在歧視,尤其是針對(duì)女性和有色人群。(60)Buolamwini J., Gebru T. “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”,Proceedings of Machine Learning Research, Vol.81, 2018, pp.77—91.執(zhí)法部門使用設(shè)計(jì)不佳的技術(shù)進(jìn)行識(shí)別,會(huì)產(chǎn)生很高的錯(cuò)誤識(shí)別率,進(jìn)一步導(dǎo)致?lián)p害民眾權(quán)益的風(fēng)險(xiǎn),尤其是被應(yīng)用于已經(jīng)在因過(guò)度監(jiān)管而苦苦掙扎的少數(shù)族裔社區(qū)?;谄た?Picard) 在“情感計(jì)算”方面的開創(chuàng)性工作,(61)Picard R.W.,Affective Computing, Cambridge, MA: MIT Press, 1997.科學(xué)家和技術(shù)公司最近提出,人工智能系統(tǒng)可以超越單純的身份識(shí)別,還能檢測(cè)從情感、影響、犯罪到性行為(62)Wang Y., Kosinski M., “Deep Neural Networks are More Accurate than Humans at Detecting Sexual Orientation from Facial Images”,Journal Personal Social Psychologics, Vol.114, No.2, 2018, pp.246—257.等多種特征,面部識(shí)別工具甚至有朝一日能夠預(yù)測(cè)政治意識(shí)形態(tài)和智商得分。(63)Levin S., “Face-reading AI will be able to Detect Your Politics and IQ, Professor Says”,Guardian, 2017-09-12.盡管其中一些功能有潛在的有益用途(如對(duì)抑郁或焦慮的自動(dòng)視覺(jué)篩查),但無(wú)論預(yù)測(cè)是否準(zhǔn)確,此類系統(tǒng)都對(duì)隱私構(gòu)成巨大威脅。(64)Burdick A., “The A.I. ‘Gaydar’ Study and the Real Dangers of Big Data”,New Yorker, 2017-09-15.因?qū)γ娌孔R(shí)別系統(tǒng)中固有歧視和侵犯隱私的擔(dān)憂,它被如奧克蘭、伯克利、薩默維爾和波特蘭等許多城市禁止使用,值得思考的是,這些城市正是許多生產(chǎn)這些系統(tǒng)代碼的公司所在地。一些社會(huì)活動(dòng)家、學(xué)者和許多技術(shù)開發(fā)人員擔(dān)心這些系統(tǒng)將被用來(lái)扼殺言論和集會(huì)自由,對(duì)本已脆弱的少數(shù)群體造成更大的影響,而以超越傳統(tǒng)的警務(wù)和公共安全的方式使用這些技術(shù),容易出現(xiàn)重大錯(cuò)誤,導(dǎo)致錯(cuò)誤逮捕或定罪。(65)Garvie C., Bedoya A., Frankle J.,The Perpetual Line-up:Unregulated Police Face Recognition in America, Georgetown Law Center of Privacy Technology,https://www.perpetuallineup.org/, 2016, 2021-10-19.

    除了可能侵犯隱私和具有偏見外,人工智能和自動(dòng)化還可能會(huì)限制勞動(dòng)者權(quán)利。例如,泰勒(Taylor)就認(rèn)為,大部分人工智能革命的內(nèi)容實(shí)際上是炒作,旨在嚇唬員工,使得他們因?yàn)閾?dān)心最終會(huì)被機(jī)器取代,而少對(duì)資方提出要求。(66)Taylor A., “The Automation Charade”,Logic Magazine, 2018-08-01.許多看似由人工智能完成的工作,實(shí)際上是通過(guò)像亞馬遜的Mechanical Turk 這樣的系統(tǒng)將任務(wù)分解,再向低收入群體發(fā)包來(lái)完成的。泰勒等人稱這種現(xiàn)象為“人造自動(dòng)化”(fauxtomation),在某些情況下,“人造自動(dòng)化”只是一種廉價(jià)的營(yíng)銷噱頭。但在其他情況下,憑借社交媒體與數(shù)字網(wǎng)絡(luò),資本實(shí)現(xiàn)了對(duì)勞動(dòng)控制的轉(zhuǎn)型升級(jí),勞動(dòng)被更為細(xì)致地分化,現(xiàn)代人成為被數(shù)字所架構(gòu)的數(shù)字勞動(dòng)主體的同時(shí),資本剝削的觸角也延伸至人內(nèi)在的生命活動(dòng)。(67)藍(lán)江、陳朦:《從產(chǎn)業(yè)勞動(dòng)到數(shù)字勞動(dòng)——?dú)v史唯物主義視角下的勞動(dòng)批判研究》,《社會(huì)科學(xué)》2021 年第10 期。數(shù)字技術(shù)不僅成為一種限制勞工的手段,使工人不敢也無(wú)法保護(hù)自己的基本權(quán)利;而且導(dǎo)致社會(huì)呈現(xiàn)出資本集中的趨勢(shì),以及依賴與貧困化的趨勢(shì),這使得勞動(dòng)者所遭遇的不僅僅是金錢的貧困,更是一種思想的貧困。

    最后,人工智能技術(shù)也催生了進(jìn)一步加劇全球不平等的數(shù)據(jù)市場(chǎng)。例如,急于將人工智能引入欠發(fā)達(dá)國(guó)家有可能導(dǎo)致算法殖民,(68)Birhane A., “The Algorithmic Colonization of Africa”,CyFyAfrica2019Blog, https://abebabirhane. wordpress.com/2019/07/10/the-algorithmic-colonization-of-africa/, 2021-12-10.在這種殖民體系中,被剝奪權(quán)利和被邊緣化的人的數(shù)據(jù)被提取出來(lái)用以獲取價(jià)值,最有權(quán)勢(shì)的全球公司和機(jī)構(gòu)從中獲益,而供給數(shù)據(jù)的人卻喪失了隱私,付出了巨大的代價(jià)。

    (三)數(shù)字化國(guó)家與新的責(zé)任困境

    前聯(lián)合國(guó)極端貧困與人權(quán)問(wèn)題特別代表菲利普·阿爾斯通(Alston)在提交給聯(lián)合國(guó)的報(bào)告中,著重探討了利用技術(shù)系統(tǒng)提供社會(huì)保護(hù)和援助的“數(shù)字福利國(guó)家”的發(fā)展,以及這種方式對(duì)最弱勢(shì)群體權(quán)利的影響。(69)Alston P.,Extreme Poverty and Human Rights. Report of the Special Rapporteur on Extreme Poverty and Human Rights, UN Human Rights Council, UN Doc. A/74/493, 2019-10-11.為了追求效率和效果,西方各國(guó)越來(lái)越多地使用生物識(shí)別和算法等技術(shù)來(lái)確定接受社會(huì)援助的資格,并管理獲得福利的機(jī)會(huì)與流程。盡管這些技術(shù)“被描述為科學(xué)和中立的,但它們所反映的價(jià)值觀和預(yù)設(shè)卻與普惠的福利原則相去甚遠(yuǎn),甚至可能背道而馳”。

    利用技術(shù)救助社會(huì)中最弱勢(shì)群體,事實(shí)上給他們帶來(lái)了沉重的負(fù)擔(dān),因?yàn)樗麄凂{馭這些技術(shù)的能力最弱。皮尤研究中心(Pew Research Center)的一份報(bào)告顯示,10%的美國(guó)人根本不使用互聯(lián)網(wǎng),這其中的大多數(shù)人都是貧困群體、少數(shù)族裔、農(nóng)村人口和老年人口以及沒(méi)接受過(guò)高中教育的人。正如阿爾斯通所指出的那樣,數(shù)字素養(yǎng)的匱乏會(huì)導(dǎo)致一些人群根本無(wú)法使用基本的數(shù)字工具,遑論有效和高效地使用了。同時(shí)互聯(lián)網(wǎng)的可及性也并非均質(zhì),對(duì)于那些需要支付高額費(fèi)用、需要曠工、需要去圖書館等公共設(shè)施、或必須向他人求助才能上網(wǎng)的人來(lái)說(shuō),上網(wǎng)獲取社會(huì)援助為他們的生活設(shè)置了額外的障礙。此外,數(shù)字化的福利國(guó)家也會(huì)不成比例地影響最弱勢(shì)群體的權(quán)利,因?yàn)樗殡S著更大的隱私負(fù)擔(dān),而這些負(fù)擔(dān)則由貧困及無(wú)權(quán)者承擔(dān)。數(shù)字化技術(shù)使得國(guó)家能夠更容易地監(jiān)視、識(shí)別、騷擾和懲罰福利受益人,尤其是其中最貧窮和最脆弱的人。

    事實(shí)上,阿爾斯通報(bào)告關(guān)于數(shù)字技術(shù)對(duì)社會(huì)治理與服務(wù)影響的分析,并不局限于社會(huì)保護(hù)和福利國(guó)家的范疇,還針對(duì)更廣泛的數(shù)字化國(guó)家,因?yàn)槊慨?dāng)政府采用新技術(shù)來(lái)進(jìn)行治理和提供服務(wù)時(shí),最脆弱的群體都有受到傷害的風(fēng)險(xiǎn)。對(duì)數(shù)字國(guó)家的擔(dān)憂也與聯(lián)合國(guó)等國(guó)際組織相關(guān),因?yàn)樗鼈冊(cè)谌说乐髁x行動(dòng)中采用了大量未經(jīng)測(cè)試的新技術(shù)。如最近聯(lián)合國(guó)世界糧食計(jì)劃署與數(shù)據(jù)挖掘公司Palantir 之間的合作就受到廣泛批評(píng),因?yàn)樵摴镜纳虡I(yè)模式在疫苗分配領(lǐng)域存在侵犯基本人權(quán)的問(wèn)題。(70)Greenwood F., “Why Humanitarians are Worried about Palantir’s Partnership with the U.N”,Slate Magazine, https://slate.com/technology/2019/02/palantir-un-world-food-programme-data-humanitarians.html, 2021-10-25.

    采用新技術(shù)來(lái)解決治理問(wèn)題也是有風(fēng)險(xiǎn)的,因?yàn)榧夹g(shù)系統(tǒng)將內(nèi)嵌性地反映設(shè)計(jì)者的特權(quán)。如南非約翰內(nèi)斯堡在貧困社區(qū)安裝的預(yù)付費(fèi)式水表,這些社區(qū)居民經(jīng)常無(wú)錢支付水費(fèi)。(71)Shaver L., Safeguarding Human Rights from Problematic Technologies, See Land & Aronson, 2018, pp.25—45.為解決財(cái)務(wù)問(wèn)題,約翰內(nèi)斯堡水務(wù)公司(Johannesburg Water)推出了新型水表作為技術(shù)解決方案。預(yù)付式水表每月只給每個(gè)家庭分配少量的免費(fèi)水,而不足的部分則需要通過(guò)購(gòu)買水表代幣來(lái)補(bǔ)充。盡管安裝新水表主要是為了提高供水效率,但它反映并延續(xù)了固有的特權(quán)。例如約翰內(nèi)斯堡水務(wù)公司為費(fèi)里(Phiri)社區(qū)的每戶家庭分配6000 升的免費(fèi)水,假設(shè)一個(gè)家庭內(nèi)有8 口人,那么這個(gè)家庭每人每天就能夠分到25 升水。但事實(shí)上,費(fèi)里社區(qū)家庭平均有16 口人,這就使得原本就微薄的用水補(bǔ)貼被減半。那些決定何時(shí)停止供水的人是根據(jù)自己的經(jīng)驗(yàn)做出了上述家庭人口數(shù)的假設(shè),而其經(jīng)驗(yàn)就反映了財(cái)富的分配與環(huán)境。

    技術(shù)還使對(duì)侵犯權(quán)益行為提出質(zhì)疑變得更加困難,因?yàn)檫@些行為所產(chǎn)生的惡劣影響通常由那些沒(méi)有能力挑戰(zhàn)其影響的人承擔(dān)。為什么沒(méi)有法律和技術(shù)保障的預(yù)付費(fèi)式水表會(huì)安裝在像費(fèi)里這樣的脆弱社區(qū)?可能是因?yàn)樵诟辉5纳鐓^(qū)安裝這種水表可能會(huì)招致更大的公眾抗議和政治壓力。同樣,阿爾斯通指出,“許多領(lǐng)取福利的人因相對(duì)剝奪和無(wú)能為力被強(qiáng)加了條件和要求,如果改為在成員較為富裕的社區(qū)進(jìn)行,這些條件、要求和形式就永遠(yuǎn)不會(huì)被接受”。

    此外,在利用技術(shù)提供公共產(chǎn)品時(shí),深度交融的公共和私人行動(dòng)可能令追究侵犯權(quán)利行為的責(zé)任更加困難?!霸谠O(shè)計(jì)、建設(shè)甚至運(yùn)營(yíng)數(shù)字化國(guó)家的部分過(guò)程中,私營(yíng)部門甚至發(fā)揮著主導(dǎo)作用”。(72)Alston P.,Extreme Poverty and Human Rights. Report of the Special Rapporteur on Extreme Poverty and Human Rights, UN Human Rights Council, UN Doc. A/74/493, 2019-10-11.然而,這些公司在運(yùn)作的過(guò)程中“幾乎不考慮民眾權(quán)益”,因?yàn)樗鼈冏约旱种票O(jiān)管,同時(shí)受新自由主義影響,政府也抵制監(jiān)管私營(yíng)公司。對(duì)私人行為者的依賴也帶來(lái)了價(jià)值觀沖突的風(fēng)險(xiǎn),私營(yíng)行為體參與福利供給和社會(huì)援助系統(tǒng)的動(dòng)機(jī)不同,可能會(huì)導(dǎo)致福利系統(tǒng)本應(yīng)服務(wù)的公共利益與公司及其私人利益之間的沖突。因此,當(dāng)在數(shù)據(jù)資本主義基礎(chǔ)上建立的商業(yè)公司,承擔(dān)了設(shè)計(jì)監(jiān)控貧困者使用公共援助技術(shù)的責(zé)任時(shí),保護(hù)貧困者的隱私權(quán)就變得更加困難。水表的例子就顯示出,私人參與者為了營(yíng)利而開發(fā)的技術(shù)如何損害了民眾的基本權(quán)益。在商業(yè)環(huán)境中引入新技術(shù)通常需要投資,而投資可能會(huì)導(dǎo)致并鎖定后續(xù)的錯(cuò)誤。在費(fèi)里的個(gè)案中,公司安裝儀表的巨額成本成為支持保留新系統(tǒng)的法律依據(jù),在訴訟期間,約翰內(nèi)斯堡市辯稱,卸載預(yù)付費(fèi)式電表將對(duì)自來(lái)水公司的“財(cái)務(wù)和可持續(xù)性”產(chǎn)生重大影響。(73)Bond P, Dugard J., “The Case of Johannesburg Water: What Really Happened at the Prepaid ‘Parish Pump’”,Law,Democracy andDevelopment, Vol.12, No.1, 2010, p.11.因此,該項(xiàng)技術(shù)已因?yàn)槌杀?,成為一種自我實(shí)現(xiàn)式的預(yù)言,一旦安裝,它及它對(duì)權(quán)利造成的任何損害將會(huì)被鎖定。

    最后,也許最令人擔(dān)憂的是,使用技術(shù)來(lái)實(shí)現(xiàn)權(quán)利的方式鞏固和強(qiáng)化了一種商品化的意識(shí)形態(tài),在這種意識(shí)形態(tài)中,諸如水、住房、電力和食物等只是需要提供的商品,而不是生活所需的基本權(quán)利。正如阿爾斯通所指出的那樣,引入新技術(shù)也有可能會(huì)破壞享有經(jīng)濟(jì)權(quán)利,促進(jìn)向官僚程序的轉(zhuǎn)變,而背離了以社會(huì)保障權(quán)或社會(huì)保護(hù)權(quán)為前提的程序。同樣,對(duì)約翰內(nèi)斯堡的管理者來(lái)說(shuō),安裝水表的理由似乎是合理和適當(dāng)?shù)摹滤砜梢韵拗评速M(fèi)并確保居民支付水費(fèi)。但是當(dāng)居民買不起額外的預(yù)付代幣時(shí),他們的生活就遭受了極大的困難。那些本就靠微薄資源生活的人被迫做出不可能的選擇,限制他們自己和家人的基本衛(wèi)生與需求,以確保免費(fèi)用水量可以持續(xù)整月。當(dāng)供水的目標(biāo)是以回收成本而不是提供基本需求為導(dǎo)向時(shí),貧困者不可避免地遭受損失。

    四、優(yōu)化智能社會(huì)治理與服務(wù)的路徑

    從西方國(guó)家智能社會(huì)治理與服務(wù)的過(guò)程可以發(fā)現(xiàn),當(dāng)今技術(shù)對(duì)人們權(quán)益構(gòu)成的威脅并不是像流行文化和科幻小說(shuō)中描繪的那樣,機(jī)器擺脫了人類控制,成為自為的破壞者。相反,技術(shù)以相當(dāng)平常的方式威脅著民眾權(quán)利和大眾福利,除侵?jǐn)_公民隱私權(quán)外,技術(shù)將知識(shí)和權(quán)力集中在那些已經(jīng)掌握它們的人手中,并進(jìn)一步剝奪那些無(wú)權(quán)者,造成不平等的再生產(chǎn);同時(shí)造成傳統(tǒng)追責(zé)機(jī)制失效。對(duì)此,需要從價(jià)值導(dǎo)向、技術(shù)設(shè)計(jì)實(shí)踐和制度與法律等幾個(gè)層面著手,提出應(yīng)對(duì)這些問(wèn)題的具體策略。

    (一)價(jià)值導(dǎo)向

    人工智能從誕生的那一刻起,就讓人類陷入一定程度的憂慮和恐懼當(dāng)中。智慧社會(huì)蘊(yùn)含著推動(dòng)社會(huì)發(fā)展的巨大潛能,也具有無(wú)可否認(rèn)的風(fēng)險(xiǎn),要遏制人工智能帶來(lái)的風(fēng)險(xiǎn),最大限度地消除人工智能的負(fù)面影響,發(fā)揮“負(fù)責(zé)任”的人工智能,可以助力社會(huì)治理走向善治?!柏?fù)責(zé)任”已成為發(fā)展人工智能的高頻詞匯,2019 年5 月,OECD 成員國(guó)簽署政府間《人工智能推薦性原則和建議》,呼吁發(fā)展負(fù)責(zé)任的人工智能?!柏?fù)責(zé)任”涵蓋了人工智能的基礎(chǔ)研發(fā)層到應(yīng)用層,更應(yīng)成為貫穿人工智能發(fā)展的一條主線。無(wú)論是人工智能提供的產(chǎn)品還是服務(wù),都應(yīng)該是負(fù)責(zé)任的、全面的,應(yīng)該以增進(jìn)人類共同福祉為目標(biāo),應(yīng)該符合人類的價(jià)值觀和倫理道德,避免誤用,禁止濫用。

    人工智能的到來(lái)使得一些人高呼“一切皆可計(jì)算”。需要警惕這種技術(shù)理性控制與人文精神流失的行為,無(wú)論何時(shí)發(fā)展都應(yīng)以人為中心,最終的目標(biāo)也是要實(shí)現(xiàn)人的自由全面發(fā)展。以發(fā)展人工智能來(lái)提升人民生活品質(zhì),抓住教育、醫(yī)療、養(yǎng)老等社會(huì)民生領(lǐng)域的突出矛盾和難點(diǎn)。大力發(fā)展智慧社會(huì)治理與服務(wù),讓人類生活更便捷、自在、舒適。以人工智能在人們?nèi)粘9ぷ鲗W(xué)習(xí)生活中的深度應(yīng)用,創(chuàng)造更加智能的工作和生活方式,來(lái)促進(jìn)人的全面發(fā)展,從保障和改善民生,為人民創(chuàng)造美好生活的需要出發(fā),讓改革成果更多惠及人民,智慧社會(huì)變革在一定程度上導(dǎo)致了社會(huì)分層和利益分化。人工智能的負(fù)面效應(yīng)造成的損失需要政府承擔(dān)調(diào)解和再分配與縮小貧富差距,使民眾感受到社會(huì)公平,因此要加強(qiáng)對(duì)勞動(dòng)者的保護(hù),建立完善的社會(huì)保障制度,切實(shí)保障民眾基本生活,對(duì)于因人工智能而失業(yè)的人來(lái)說(shuō),政府應(yīng)該加大對(duì)人工智能企業(yè)的稅收,并進(jìn)一步將稅收轉(zhuǎn)化為失業(yè)人群的短期失業(yè)福利,以完善的社會(huì)保障制度,增加群眾的幸福感、獲得感、安全感。

    (二)技術(shù)設(shè)計(jì)

    首先,面對(duì)智慧社會(huì)治理中的隱私問(wèn)題,學(xué)者們提出了技術(shù)解決方案的方向:第一,去識(shí)別化(de-identification),即在數(shù)據(jù)分析過(guò)程中避免將某一個(gè)特定人從人群識(shí)別出來(lái)。一是通過(guò)差分隱私(differential privacy);一是通過(guò)k-匿名(k-anonymity)。第二,限制搜索(limited searchability)。例如Snapchat 的“閱后即焚”功能,用戶拍攝照片或視頻發(fā)送給好友,好友閱后照片或視頻將自動(dòng)焚毀。(74)曲甜、張小勁:《大數(shù)據(jù)社會(huì)治理創(chuàng)新的國(guó)外經(jīng)驗(yàn):前沿趨勢(shì)、模式優(yōu)化與困境挑戰(zhàn)》,《電子政務(wù)》2020 年第1 期。

    其次,要解決社會(huì)不平等問(wèn)題需要采取積極措施,在技術(shù)設(shè)計(jì)過(guò)程中分散知識(shí)和權(quán)力。多年來(lái),政策、法律部門和技術(shù)界一直在討論如開源運(yùn)動(dòng)(75)Benkler Y., “Law, Innovation, and Collaboration in Networked Economy and Society”,Annual Review of Law Social Science, Vol.13, 2017, pp.231—250.等替代性的參與式設(shè)計(jì)和技術(shù)開發(fā)的愿景。然而,大多數(shù)研究者都主要關(guān)注掌握權(quán)力技術(shù)優(yōu)勢(shì)的發(fā)達(dá)國(guó)家的參與者,但最近關(guān)于設(shè)計(jì)正義的研究(76)Costanza-Chock S.,Design Justice:Community-Led Practices to Build the Worlds We Need, Cambridge, MA: MIT Press, 2020.認(rèn)為,來(lái)自發(fā)展中國(guó)家的弱勢(shì)群體成員和專家必須參與決策,共商這些技術(shù)的未來(lái)。正如皮拉克(Piracés)指出的,正在進(jìn)行的關(guān)于人工智能和包容性的關(guān)鍵對(duì)話,“有可能蘊(yùn)含著被‘人工智能社會(huì)’塑造的風(fēng)險(xiǎn),這一對(duì)話討論的是包容,但卻沒(méi)有真正包括邊緣化人群的聲音。人工智能生態(tài)系統(tǒng)設(shè)計(jì)中若未考慮邊緣化人群的聲音,他們可能遭受技術(shù)的侵害?!?77)Piracés E., “Let’s Avoid an Artificial Intelligentsia”,Medium, Oct. 12. 2018 , https://points.datasociety.net/lets-avoid-an-artificialintelligentsia-inclusion-artificial-intelligence-and-human-rights-3905d708e7ed, 2021-11-29.參與式設(shè)計(jì)還要確保技術(shù)滿足從業(yè)者和權(quán)益捍衛(wèi)者對(duì)隱私、安全和免受傷害的需求,保護(hù)民眾的權(quán)利與福利“需要開放、分散化的平臺(tái),和不會(huì)保存用戶信息并出售的工作人員”,(78)Al-Sharif M., “The Dangers of Digital Activism”,New York Times, https://www.nytimes.com/2018/09/16/opinion/politics/thedangers-of-digital-activism.html, 2021-11-29.如果無(wú)法保證上述條件,濫用平臺(tái)收集數(shù)據(jù)可能使人們面臨被騷擾和攻擊的風(fēng)險(xiǎn)。

    對(duì)于發(fā)展中國(guó)家而言,要避免民眾被日益邊緣化,需要在地方層面來(lái)探討國(guó)家采用哪些技術(shù)。不應(yīng)在不清楚“潛在目的是什么、誰(shuí)受益以及誰(shuí)可能受損,就簡(jiǎn)單地引進(jìn)最新、最先進(jìn)的機(jī)器學(xué)習(xí)系統(tǒng)或其他的人工智能工具”。(79)Birhane A., “The Algorithmic Colonization of Africa”,CyFyAfrica2019 Blog, https://abebabirhane. wordpress.com/2019/07/10/the-algorithmic-colonization-of-africa/, 2021-12-10.由非洲民眾自己領(lǐng)導(dǎo)的保護(hù)非洲大陸國(guó)家免受西方公司和思維方式剝削,并建立基于地方專業(yè)知識(shí)和企業(yè)的運(yùn)動(dòng)正方興未艾。南非土人會(huì)議深度學(xué)習(xí)項(xiàng)目(Deep Learning Indaba)可能是此類運(yùn)動(dòng)最明顯的實(shí)例,該組織贊助了各種針對(duì)特定國(guó)家和整個(gè)非洲大陸的項(xiàng)目,將非洲計(jì)算機(jī)科學(xué)家和程序員聚集在一起,來(lái)教授、學(xué)習(xí)和開發(fā)系統(tǒng),用以解決共同關(guān)心的技術(shù)和社會(huì)問(wèn)題的,Indaba 旨在發(fā)出非洲的聲音,成為一個(gè)由非洲主導(dǎo)的空間。

    來(lái)自世界各地的科學(xué)家還積極參與倫理、法律和社會(huì)問(wèn)題的討論,如在計(jì)算機(jī)協(xié)會(huì)年會(huì)中組織公平、問(wèn)責(zé)和透明度會(huì)議等活動(dòng)??萍脊ぷ髡咭查_始組織起來(lái),反對(duì)將他們的設(shè)計(jì)與產(chǎn)品用于明顯侵犯民眾權(quán)利和大眾福利之處。(80)Gregory S., “Cameras Everywhere Revisited: How Digital Technologies and Social Media Aid and Inhibit Human Rights Documentation and Advocacy”,Journal of Human Rights Practice, Vol.11, No.2, 2019, p.380.一些大學(xué)的教師和學(xué)生抗議美國(guó)移民和海關(guān)執(zhí)法局使用亞馬遜網(wǎng)絡(luò)服務(wù)、GitHub 和 Palantir 等平臺(tái)與軟件,這表明軟件工程師和科技工作者更加關(guān)注和捍衛(wèi)自己智力創(chuàng)造的社會(huì)用途。(81)Costanza-Chock S., “Designing AI with Justice”,Public Books, 2019.然而,格林卻質(zhì)疑科技人士是否有完善的、能夠妥善處理這些具有挑戰(zhàn)性問(wèn)題的社會(huì)和道德框架。(82)Green B.,The Smart Enough City:Putting Technology in Its Place to Reclaim Our Urban Future, Cambridge, MA: MIT Press, 2018.由于缺乏方法和理論來(lái)清晰地理解“善”的實(shí)際含義,計(jì)算科學(xué)家通常采用狹隘的方法來(lái)理解政治,包括對(duì)什么樣的社會(huì)條件在價(jià)值上是可取的,也僅僅提出模糊的(幾乎是重復(fù)的)主張。計(jì)算科學(xué)本身也“傾向于想當(dāng)然地認(rèn)為,以技術(shù)為中心的漸進(jìn)式改革是促進(jìn)社會(huì)進(jìn)步的合宜策略”,但僅通過(guò)技術(shù)可能無(wú)法解決潛在的不平等和壓迫,而不平等和壓迫會(huì)產(chǎn)生負(fù)面的社會(huì)結(jié)果,計(jì)算科學(xué)家只試圖通過(guò)他們的技術(shù)干預(yù)來(lái)補(bǔ)救。為了提高效率與效能,技術(shù)專家仍需在新技術(shù)的開發(fā)、設(shè)計(jì)和運(yùn)用過(guò)程中全面、共同協(xié)作。

    參與進(jìn)程也需要透明度。由于自動(dòng)化決策技術(shù)的發(fā)展,人們通常沒(méi)有機(jī)會(huì)去審查被用于分析的數(shù)據(jù)、其背后的代碼或其中嵌入的假設(shè)和價(jià)值判斷。不僅不從事程序員工作的人難以理解這些代碼,而且公司還經(jīng)常不遺余力地將它們作為商業(yè)機(jī)密加以保護(hù)。這就難以測(cè)試人工智能系統(tǒng)的準(zhǔn)確性或更好地理解其局限性,正如拉姆 (Ram) 等人所言,當(dāng)自動(dòng)化系統(tǒng)做出關(guān)涉生死的決定時(shí),通過(guò)增強(qiáng)技術(shù)透明度來(lái)監(jiān)督數(shù)字技術(shù)的能力至關(guān)重要。(83)Ram N., “Innovating Criminal Justice”,Northwest University Law Review, Vol.112, No.4, 2018, pp.659—724.

    (三)制度與法律

    在技術(shù)創(chuàng)新領(lǐng)域中,公共部門同私營(yíng)企業(yè)的行動(dòng)深深交融的情況下,除實(shí)踐技術(shù)外,重新認(rèn)識(shí)有關(guān)維護(hù)民眾權(quán)利和大眾福利的制度,以及法律中的公/私區(qū)分是必要的。這并不意味著制度與法律是無(wú)關(guān)緊要的,而是它們必須以某種方式發(fā)展,以彌補(bǔ)應(yīng)用新技術(shù)所造成的責(zé)任缺口。如當(dāng)政府通過(guò)將權(quán)力外包給私營(yíng)公司來(lái)審查它們自己無(wú)法審查的內(nèi)容,來(lái)規(guī)避對(duì)其權(quán)力的檢查時(shí),(84)Land M.K., “Against Privatized Censorship: Proposals for Responsible Delegation”,Journal of International Law, Vol.60, 2020, pp.363—432.或者當(dāng)公眾無(wú)法補(bǔ)救他們所不了解的自動(dòng)化系統(tǒng)造成的損害時(shí),就會(huì)出現(xiàn)責(zé)任缺口而難以問(wèn)責(zé)。(85)Crawford K, Schultz J. “AI Systems as State Actors”,Columbia Law Review, Vol.119, 2019, pp.1941—1972.在這種情況下,對(duì)公共權(quán)力和私人權(quán)力的嚴(yán)格區(qū)分并不能促進(jìn)作為保護(hù)民眾權(quán)益基礎(chǔ)的問(wèn)責(zé)制和實(shí)現(xiàn)補(bǔ)救的根本目標(biāo)。然而,可以更新和實(shí)施國(guó)家在國(guó)際層面的行動(dòng)和國(guó)內(nèi)法的規(guī)則,(86)Crawford K, Schultz J. “AI Systems as State Actors”,Columbia Law Review, Vol.119, 2019, pp.1941—1972.以確保國(guó)家無(wú)法逃避與使用新技術(shù)相關(guān)的損害的責(zé)任。

    解決新技術(shù)的潛在危害還要求各國(guó)認(rèn)真履行保護(hù)個(gè)人免受非國(guó)家行為者傷害的責(zé)任。(87)Karanicolas M. “Squaring the Circle between Freedom of Expression and Platform Law”,Journal of Technology Law Policy, Vol.20, 2019—2020.國(guó)家可能要求私營(yíng)公司自行制定評(píng)估技術(shù)產(chǎn)生影響的流程并將之制度化,要求技術(shù)公司必須將風(fēng)險(xiǎn)評(píng)估納入技術(shù)開發(fā)和設(shè)計(jì)系統(tǒng),以便在涉及侵權(quán)風(fēng)險(xiǎn)之前便排除它。國(guó)家不僅需要承擔(dān)推進(jìn)技術(shù)創(chuàng)新和發(fā)展技術(shù)的義務(wù),而且還必須擔(dān)負(fù)以支持而不是阻礙人們享有權(quán)益的方式促進(jìn)技術(shù)創(chuàng)新的責(zé)任。

    結(jié) 論

    盡管運(yùn)用技術(shù)手段來(lái)維護(hù)社會(huì)秩序、尋求社會(huì)公益的項(xiàng)目受到各方歡迎,但技術(shù)不能也不會(huì)自動(dòng)解決社會(huì)問(wèn)題。拉托內(nèi)羅(Latonero)在《連線》(WIRED)的一篇專欄文章中指出,將人工智能應(yīng)用于社會(huì)治理與公共服務(wù)活動(dòng)中“帶有技術(shù)主義的味道,可能會(huì)掩蓋問(wèn)題的本質(zhì),并在沒(méi)有適當(dāng)保障的情況下對(duì)弱勢(shì)人群造成風(fēng)險(xiǎn)”。(88)Latonero M., “Opinion: AI for Good is Often Bad”,WIRED, https://www.wired.com/story/opinion-ai-for-good-is-often-bad/, 2021-11-27.他認(rèn)為,“被簡(jiǎn)化的由最聰明的企業(yè)技術(shù)人員與最受尊敬的國(guó)際組織合作所提供的方案”永遠(yuǎn)不可能解決大規(guī)模的社會(huì)問(wèn)題。格林也反對(duì)將復(fù)雜的政治和社會(huì)現(xiàn)象簡(jiǎn)化為可以通過(guò)算法或應(yīng)用程序解決的技術(shù)問(wèn)題,工程師和科學(xué)家無(wú)法識(shí)別和定義社會(huì)問(wèn)題,這些問(wèn)題只能由民眾自己完成,他人無(wú)法也不能越俎代庖。

    通過(guò)數(shù)據(jù)獲取信息、進(jìn)行計(jì)算、直接供給,智能社會(huì)治理與服務(wù)加劇了現(xiàn)有市場(chǎng)制度下的不平等。如由數(shù)字技術(shù)所支撐的預(yù)測(cè)性警務(wù)威脅著生活在被嚴(yán)密監(jiān)管社區(qū)中的少數(shù)群體權(quán)利、雇傭與社會(huì)救助算法威脅就業(yè)人員的權(quán)利、社會(huì)保障算法威脅民眾權(quán)利。智慧社會(huì)治理與服務(wù)面臨的問(wèn)題首先是歧視,即預(yù)測(cè)模型會(huì)出錯(cuò),越來(lái)越多的證據(jù)表明,對(duì)于脆弱的群體,模型出錯(cuò)的頻率更高。其次是算法的不透明會(huì)削弱個(gè)人通過(guò)各種追責(zé)程序糾正錯(cuò)誤的能力。最后,數(shù)據(jù)可能被用以監(jiān)視會(huì)使個(gè)人隱私權(quán)受到侵害。因此,高風(fēng)險(xiǎn)決策中的錯(cuò)誤、削弱個(gè)人糾正這些錯(cuò)誤能力的不透明性、對(duì)生活各個(gè)領(lǐng)域的監(jiān)控日益增多,使得人們?nèi)找鎿?dān)憂在社會(huì)治理與服務(wù)中技術(shù)的作用。

    此外,若要使技術(shù)對(duì)社會(huì)治理與服務(wù)產(chǎn)生變革性影響,必須更加關(guān)注誰(shuí)出于什么目的設(shè)計(jì)和構(gòu)建了技術(shù)、以及其中嵌入了什么樣的權(quán)力和特權(quán)。因此,確保公平地獲取運(yùn)用技術(shù)的機(jī)會(huì)是技術(shù)處理社會(huì)問(wèn)題的前提,但技術(shù)并非憑空運(yùn)作,而是依賴于體現(xiàn)結(jié)構(gòu)性不平等的復(fù)雜的專業(yè)知識(shí)、維護(hù)和治理網(wǎng)絡(luò)。引進(jìn)新技術(shù)的努力必須反思一系列有關(guān)權(quán)力的重要問(wèn)題,包括在利益分配不均的社會(huì)情境中,哪些群體將從技術(shù)對(duì)現(xiàn)狀所做的改變中受益。技術(shù)還必須具有透明度,能夠接受外部監(jiān)督和審查,尤其是那些受負(fù)面影響最大的人的監(jiān)督和審查。

    隨著智能治理進(jìn)程的加速推進(jìn),人們?cè)谙硎軘?shù)字紅利的同時(shí)也面臨著“數(shù)字暴政”的風(fēng)險(xiǎn),這種風(fēng)險(xiǎn)在小范圍內(nèi)或許有差異地作用于個(gè)人,如接受社會(huì)福利的對(duì)象,但極端情況下,也存在著無(wú)差別的社會(huì)風(fēng)險(xiǎn)。近年來(lái),社會(huì)治理中掌握公共權(quán)力的政府與企業(yè)也越來(lái)越注重運(yùn)用數(shù)字工具,然而,當(dāng)我們?cè)趶?qiáng)調(diào)數(shù)字的工具價(jià)值和經(jīng)濟(jì)價(jià)值的時(shí)候,不能低估或者忽略了其對(duì)社會(huì)的深層次影響,特別是對(duì)弱勢(shì)群體的影響。技術(shù)確實(shí)有在諸多方面增強(qiáng)了決策的可能性,然而,科技能否挑戰(zhàn)世界基本權(quán)力結(jié)構(gòu)仍值得懷疑,創(chuàng)新的風(fēng)險(xiǎn)和收益不太可能被平等分享。為此,需要以社會(huì)治理目標(biāo)為方向,來(lái)構(gòu)建有利于促進(jìn)民眾權(quán)益的技術(shù)。

    猜你喜歡
    民眾人工智能數(shù)字
    兌現(xiàn)“將青瓦臺(tái)還給民眾”的承諾
    金橋(2022年7期)2022-07-22 08:32:56
    烏克蘭當(dāng)?shù)孛癖姵冯x
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    答數(shù)字
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    數(shù)字看G20
    下一幕,人工智能!
    十八屆三中全會(huì)民眾怎么看?
    成雙成對(duì)
    国产精品国产高清国产av| 久久久久久九九精品二区国产| av福利片在线观看| 亚洲 欧美 日韩 在线 免费| 久久中文看片网| 伦理电影免费视频| 人人妻人人看人人澡| 国产视频一区二区在线看| 久久天躁狠狠躁夜夜2o2o| 成人性生交大片免费视频hd| 少妇人妻一区二区三区视频| 美女高潮喷水抽搐中文字幕| 欧美乱妇无乱码| 欧美精品啪啪一区二区三区| 日韩欧美精品v在线| 精品午夜福利视频在线观看一区| 真实男女啪啪啪动态图| 国产成人系列免费观看| 国产免费av片在线观看野外av| а√天堂www在线а√下载| 麻豆一二三区av精品| 变态另类成人亚洲欧美熟女| 美女免费视频网站| 成在线人永久免费视频| 久久这里只有精品19| 精品国内亚洲2022精品成人| а√天堂www在线а√下载| 18禁黄网站禁片午夜丰满| 亚洲自拍偷在线| 天堂√8在线中文| 天堂av国产一区二区熟女人妻| 变态另类成人亚洲欧美熟女| 欧美zozozo另类| 国产成人aa在线观看| 精品人妻1区二区| 黄片小视频在线播放| 法律面前人人平等表现在哪些方面| 国产成人精品久久二区二区免费| 久久中文字幕一级| 可以在线观看的亚洲视频| 亚洲午夜精品一区,二区,三区| 精品无人区乱码1区二区| 亚洲av成人不卡在线观看播放网| 法律面前人人平等表现在哪些方面| 俺也久久电影网| 高清在线国产一区| 中文字幕最新亚洲高清| 久久久久亚洲av毛片大全| 男女午夜视频在线观看| 日韩av在线大香蕉| 18禁裸乳无遮挡免费网站照片| 国产成人av激情在线播放| 99国产精品99久久久久| 搞女人的毛片| 好男人电影高清在线观看| 国产精品久久久人人做人人爽| 亚洲第一欧美日韩一区二区三区| 亚洲一区二区三区不卡视频| 亚洲欧美日韩高清专用| 精品一区二区三区av网在线观看| 久久精品综合一区二区三区| av女优亚洲男人天堂 | 波多野结衣高清作品| 国产亚洲精品综合一区在线观看| 此物有八面人人有两片| 成熟少妇高潮喷水视频| www日本在线高清视频| 成人无遮挡网站| 成年女人毛片免费观看观看9| 国产不卡一卡二| 亚洲av电影在线进入| 欧美乱色亚洲激情| 国产精品影院久久| 午夜久久久久精精品| 日韩国内少妇激情av| 99国产综合亚洲精品| 99精品久久久久人妻精品| 怎么达到女性高潮| 999久久久国产精品视频| 夜夜夜夜夜久久久久| 国产亚洲精品一区二区www| 免费看a级黄色片| 中出人妻视频一区二区| 岛国在线观看网站| 草草在线视频免费看| 夜夜躁狠狠躁天天躁| 精品福利观看| 狂野欧美激情性xxxx| 久久久久久久久中文| 性色avwww在线观看| 成年女人毛片免费观看观看9| 天堂动漫精品| 麻豆成人午夜福利视频| 国产亚洲精品综合一区在线观看| 午夜a级毛片| 欧美一级a爱片免费观看看| 一二三四在线观看免费中文在| 成人性生交大片免费视频hd| 99精品在免费线老司机午夜| 亚洲成人精品中文字幕电影| 国产精品女同一区二区软件 | 亚洲精品久久国产高清桃花| 神马国产精品三级电影在线观看| 九九热线精品视视频播放| 国产成人aa在线观看| 又粗又爽又猛毛片免费看| 九九热线精品视视频播放| 国产精品久久久久久久电影 | 真实男女啪啪啪动态图| 悠悠久久av| 欧美极品一区二区三区四区| 在线十欧美十亚洲十日本专区| 一级作爱视频免费观看| 国产精品野战在线观看| 亚洲成人中文字幕在线播放| 亚洲av成人精品一区久久| 国产一区二区三区视频了| 精品午夜福利视频在线观看一区| 国产精品一区二区精品视频观看| 精品日产1卡2卡| 免费在线观看视频国产中文字幕亚洲| 毛片女人毛片| 免费一级毛片在线播放高清视频| 禁无遮挡网站| 日日摸夜夜添夜夜添小说| 久久欧美精品欧美久久欧美| 级片在线观看| 1000部很黄的大片| 欧美大码av| 久久国产精品影院| 日本在线视频免费播放| 不卡一级毛片| 久久久久久国产a免费观看| 亚洲av五月六月丁香网| 免费高清视频大片| 三级国产精品欧美在线观看 | 亚洲av成人一区二区三| 男女做爰动态图高潮gif福利片| 午夜日韩欧美国产| 色在线成人网| 男人的好看免费观看在线视频| 男女那种视频在线观看| 禁无遮挡网站| 啦啦啦韩国在线观看视频| 亚洲av成人不卡在线观看播放网| 啦啦啦韩国在线观看视频| 悠悠久久av| 国产精品女同一区二区软件 | 国产亚洲欧美98| 波多野结衣高清作品| 99在线视频只有这里精品首页| 男人舔女人下体高潮全视频| 久久亚洲真实| 一区二区三区国产精品乱码| 亚洲成av人片免费观看| 搡老熟女国产l中国老女人| 精品熟女少妇八av免费久了| 国产成人精品久久二区二区免费| 国产精品一及| 又黄又粗又硬又大视频| 亚洲片人在线观看| www日本在线高清视频| 亚洲片人在线观看| 麻豆国产av国片精品| 搡老岳熟女国产| 99久久无色码亚洲精品果冻| 国产野战对白在线观看| 男女视频在线观看网站免费| 精品国产美女av久久久久小说| 在线观看午夜福利视频| 国产免费av片在线观看野外av| 香蕉久久夜色| 好男人在线观看高清免费视频| 色噜噜av男人的天堂激情| 一级毛片精品| 亚洲成人久久爱视频| 久久精品国产亚洲av香蕉五月| 日韩欧美在线乱码| 久久久国产成人免费| 日韩 欧美 亚洲 中文字幕| 亚洲av中文字字幕乱码综合| 青草久久国产| 男女床上黄色一级片免费看| xxxwww97欧美| 欧美日韩乱码在线| 国产三级中文精品| 丰满人妻熟妇乱又伦精品不卡| 欧美性猛交╳xxx乱大交人| 国产精品久久久久久久电影 | 日韩高清综合在线| 在线观看舔阴道视频| 久久这里只有精品中国| 黄片大片在线免费观看| 看免费av毛片| 亚洲乱码一区二区免费版| 精品国产乱码久久久久久男人| 欧美一级a爱片免费观看看| 久久久久亚洲av毛片大全| 成人一区二区视频在线观看| 丁香欧美五月| 成年人黄色毛片网站| 亚洲午夜理论影院| 97超视频在线观看视频| 日本撒尿小便嘘嘘汇集6| 黄色日韩在线| 国产精品自产拍在线观看55亚洲| 色尼玛亚洲综合影院| 欧美一区二区精品小视频在线| 欧美激情在线99| 成人欧美大片| 九九久久精品国产亚洲av麻豆 | 波多野结衣高清作品| 又爽又黄无遮挡网站| 精品国产超薄肉色丝袜足j| 国产成人啪精品午夜网站| 熟女电影av网| 少妇裸体淫交视频免费看高清| 欧美大码av| 午夜影院日韩av| 欧美乱码精品一区二区三区| 色在线成人网| 美女 人体艺术 gogo| 一个人看的www免费观看视频| 国产一区二区在线av高清观看| 老熟妇乱子伦视频在线观看| 九九热线精品视视频播放| 高清在线国产一区| 99re在线观看精品视频| 搞女人的毛片| 变态另类丝袜制服| 级片在线观看| 村上凉子中文字幕在线| 国产成+人综合+亚洲专区| 亚洲片人在线观看| 免费看日本二区| 亚洲一区二区三区色噜噜| 精品国产乱码久久久久久男人| www.自偷自拍.com| 亚洲精品中文字幕一二三四区| 夜夜躁狠狠躁天天躁| 中文字幕人成人乱码亚洲影| 美女 人体艺术 gogo| 熟女电影av网| 中文在线观看免费www的网站| 国产爱豆传媒在线观看| 久久亚洲真实| 757午夜福利合集在线观看| 免费看日本二区| 国产亚洲av高清不卡| 少妇裸体淫交视频免费看高清| 免费在线观看日本一区| 日韩有码中文字幕| 亚洲欧美精品综合一区二区三区| 香蕉丝袜av| 国产成人av激情在线播放| 男人舔女人下体高潮全视频| www国产在线视频色| 三级国产精品欧美在线观看 | 国产成人福利小说| 国产又黄又爽又无遮挡在线| 久久这里只有精品19| 成在线人永久免费视频| 国产一区在线观看成人免费| 99riav亚洲国产免费| 在线观看一区二区三区| 精品一区二区三区视频在线观看免费| 成年女人毛片免费观看观看9| 在线观看免费视频日本深夜| 国产综合懂色| 2021天堂中文幕一二区在线观| 熟妇人妻久久中文字幕3abv| 亚洲人成伊人成综合网2020| 亚洲电影在线观看av| 亚洲欧美一区二区三区黑人| 国产精品一及| 精品日产1卡2卡| av天堂在线播放| 欧美极品一区二区三区四区| 亚洲成人中文字幕在线播放| 欧美日韩综合久久久久久 | 又粗又爽又猛毛片免费看| 亚洲五月天丁香| 国产伦一二天堂av在线观看| 国产精品爽爽va在线观看网站| 2021天堂中文幕一二区在线观| 久久久久国内视频| 白带黄色成豆腐渣| 日韩av在线大香蕉| 岛国视频午夜一区免费看| 国产69精品久久久久777片 | 国内少妇人妻偷人精品xxx网站 | 国产视频一区二区在线看| 久久午夜综合久久蜜桃| 男女下面进入的视频免费午夜| 国产视频一区二区在线看| 欧美性猛交╳xxx乱大交人| 一级毛片女人18水好多| 亚洲人成伊人成综合网2020| 老汉色∧v一级毛片| 欧美黑人巨大hd| 免费av毛片视频| 非洲黑人性xxxx精品又粗又长| 身体一侧抽搐| 欧美色视频一区免费| 动漫黄色视频在线观看| 亚洲自拍偷在线| 欧美日本视频| 法律面前人人平等表现在哪些方面| 一本综合久久免费| 成熟少妇高潮喷水视频| 午夜两性在线视频| 两个人视频免费观看高清| 国产av一区在线观看免费| 国产三级在线视频| 美女 人体艺术 gogo| 又黄又粗又硬又大视频| 精品乱码久久久久久99久播| 免费在线观看成人毛片| av天堂在线播放| 69av精品久久久久久| 黄色丝袜av网址大全| 男女床上黄色一级片免费看| 亚洲国产精品成人综合色| 啦啦啦韩国在线观看视频| 嫩草影视91久久| 欧美中文日本在线观看视频| 9191精品国产免费久久| 99热只有精品国产| 特大巨黑吊av在线直播| 欧美乱码精品一区二区三区| 久久久久久久久久黄片| 亚洲avbb在线观看| h日本视频在线播放| av在线天堂中文字幕| 亚洲avbb在线观看| 2021天堂中文幕一二区在线观| 国产高清有码在线观看视频| 久久久久免费精品人妻一区二区| 巨乳人妻的诱惑在线观看| 又大又爽又粗| 日韩精品中文字幕看吧| 91在线精品国自产拍蜜月 | 99久久久亚洲精品蜜臀av| 黄色片一级片一级黄色片| 亚洲电影在线观看av| 一个人免费在线观看的高清视频| netflix在线观看网站| 免费高清视频大片| 欧美日本亚洲视频在线播放| 天天躁日日操中文字幕| 欧美日韩精品网址| 亚洲国产欧美一区二区综合| 小说图片视频综合网站| 男人的好看免费观看在线视频| 国产精品国产高清国产av| 国产伦人伦偷精品视频| 免费在线观看视频国产中文字幕亚洲| 国产激情久久老熟女| 999久久久国产精品视频| 亚洲国产色片| 日韩中文字幕欧美一区二区| 一边摸一边抽搐一进一小说| 精品福利观看| 一本精品99久久精品77| 国产真人三级小视频在线观看| 亚洲第一欧美日韩一区二区三区| 少妇丰满av| 欧美另类亚洲清纯唯美| 最新中文字幕久久久久 | 中文字幕熟女人妻在线| 高潮久久久久久久久久久不卡| 美女大奶头视频| 久久中文字幕一级| 国产又色又爽无遮挡免费看| 性色avwww在线观看| 精品久久久久久久人妻蜜臀av| 村上凉子中文字幕在线| 亚洲五月婷婷丁香| 亚洲午夜理论影院| 国产私拍福利视频在线观看| 一个人观看的视频www高清免费观看 | 久久九九热精品免费| 真人做人爱边吃奶动态| 婷婷六月久久综合丁香| 欧美日韩一级在线毛片| 国产高清激情床上av| 亚洲欧美激情综合另类| 午夜福利18| 国产69精品久久久久777片 | 国产午夜福利久久久久久| 久久久久国内视频| 老汉色∧v一级毛片| 国产淫片久久久久久久久 | 精品人妻1区二区| 国产97色在线日韩免费| 一级a爱片免费观看的视频| 欧美三级亚洲精品| 免费看十八禁软件| 国内精品美女久久久久久| av女优亚洲男人天堂 | 亚洲一区二区三区色噜噜| 久久久久国内视频| 每晚都被弄得嗷嗷叫到高潮| 免费在线观看成人毛片| 精华霜和精华液先用哪个| 精品99又大又爽又粗少妇毛片 | 亚洲 国产 在线| 一进一出抽搐动态| 一个人观看的视频www高清免费观看 | 午夜福利欧美成人| 欧美国产日韩亚洲一区| 国产精品一及| 在线视频色国产色| 99热这里只有精品一区 | 中出人妻视频一区二区| 久久99热这里只有精品18| 91字幕亚洲| 精品欧美国产一区二区三| 每晚都被弄得嗷嗷叫到高潮| xxxwww97欧美| 国产精品香港三级国产av潘金莲| 日韩欧美国产在线观看| 在线观看免费午夜福利视频| 午夜影院日韩av| 欧美极品一区二区三区四区| 日韩欧美三级三区| 成人精品一区二区免费| 国产 一区 欧美 日韩| 亚洲激情在线av| 国产精品一区二区免费欧美| 午夜福利免费观看在线| 老司机深夜福利视频在线观看| 高潮久久久久久久久久久不卡| 欧洲精品卡2卡3卡4卡5卡区| 国产精品久久电影中文字幕| 国产欧美日韩一区二区三| 色尼玛亚洲综合影院| 丰满人妻一区二区三区视频av | 免费观看精品视频网站| 亚洲精品国产精品久久久不卡| 亚洲午夜理论影院| 国产成人精品无人区| h日本视频在线播放| 国产成人影院久久av| 我的老师免费观看完整版| 麻豆成人午夜福利视频| 99久久久亚洲精品蜜臀av| 最近最新中文字幕大全免费视频| aaaaa片日本免费| 国产成人av教育| 久久精品国产综合久久久| 无遮挡黄片免费观看| 精品久久久久久久末码| 国产伦精品一区二区三区四那| avwww免费| 欧美日韩一级在线毛片| 亚洲午夜精品一区,二区,三区| 亚洲狠狠婷婷综合久久图片| 午夜精品一区二区三区免费看| 精华霜和精华液先用哪个| 麻豆成人午夜福利视频| 在线观看免费视频日本深夜| 免费看美女性在线毛片视频| 日本黄色片子视频| 熟妇人妻久久中文字幕3abv| 色综合亚洲欧美另类图片| 一本一本综合久久| 精品久久久久久成人av| 国产乱人伦免费视频| av天堂在线播放| 又大又爽又粗| 成人精品一区二区免费| 久久精品夜夜夜夜夜久久蜜豆| 久久亚洲精品不卡| 国产欧美日韩一区二区精品| 亚洲欧美日韩东京热| 他把我摸到了高潮在线观看| 夜夜爽天天搞| 两个人看的免费小视频| 一区二区三区高清视频在线| 91av网站免费观看| 久久热在线av| 久久久水蜜桃国产精品网| 91在线观看av| 国产成人精品无人区| 成年女人看的毛片在线观看| 国产成人av教育| 日韩 欧美 亚洲 中文字幕| 久久热在线av| av在线天堂中文字幕| 黄色成人免费大全| 女警被强在线播放| 巨乳人妻的诱惑在线观看| 九色国产91popny在线| 淫秽高清视频在线观看| 又黄又爽又免费观看的视频| 久久久久国内视频| 亚洲精品在线观看二区| 久久伊人香网站| 一二三四社区在线视频社区8| 好看av亚洲va欧美ⅴa在| 国产精品久久视频播放| 欧美+亚洲+日韩+国产| h日本视频在线播放| 亚洲色图 男人天堂 中文字幕| 久久欧美精品欧美久久欧美| 99热这里只有精品一区 | 在线免费观看不下载黄p国产 | 可以在线观看毛片的网站| av在线天堂中文字幕| 欧美精品啪啪一区二区三区| 免费观看的影片在线观看| 亚洲真实伦在线观看| 精品久久久久久成人av| 国产午夜精品久久久久久| www日本在线高清视频| 俺也久久电影网| 久久久久亚洲av毛片大全| 日韩欧美在线二视频| 国产一区二区在线av高清观看| 成人高潮视频无遮挡免费网站| 国产亚洲精品久久久com| 神马国产精品三级电影在线观看| 成人18禁在线播放| 久久久久久大精品| 在线a可以看的网站| 久99久视频精品免费| 国产又色又爽无遮挡免费看| 久久午夜综合久久蜜桃| 狂野欧美白嫩少妇大欣赏| 色在线成人网| 精品久久久久久久久久免费视频| av在线天堂中文字幕| 在线十欧美十亚洲十日本专区| 俄罗斯特黄特色一大片| 99久久99久久久精品蜜桃| 色老头精品视频在线观看| 亚洲美女视频黄频| 国产日本99.免费观看| 亚洲成人免费电影在线观看| 老鸭窝网址在线观看| 看黄色毛片网站| 老汉色av国产亚洲站长工具| 九色国产91popny在线| 热99在线观看视频| 国产单亲对白刺激| 女人高潮潮喷娇喘18禁视频| 久久九九热精品免费| 欧美日韩综合久久久久久 | 亚洲片人在线观看| 91麻豆av在线| 最好的美女福利视频网| 在线观看免费午夜福利视频| 成人特级黄色片久久久久久久| a级毛片在线看网站| www日本在线高清视频| 性色av乱码一区二区三区2| 亚洲无线观看免费| 毛片女人毛片| 国产一区在线观看成人免费| 观看免费一级毛片| 精品免费久久久久久久清纯| 亚洲一区二区三区色噜噜| 色av中文字幕| 视频区欧美日本亚洲| 在线观看免费视频日本深夜| 女人被狂操c到高潮| 老汉色av国产亚洲站长工具| 老熟妇乱子伦视频在线观看| 在线免费观看不下载黄p国产 | 欧美日本视频| 99riav亚洲国产免费| 精品久久久久久,| 免费在线观看日本一区| 国产精品 国内视频| 国产男靠女视频免费网站| 制服人妻中文乱码| 日韩欧美免费精品| 国产一区二区三区视频了| 美女扒开内裤让男人捅视频| 亚洲中文av在线| 国产精品亚洲一级av第二区| 久久草成人影院| 亚洲熟妇中文字幕五十中出| 老司机在亚洲福利影院| 在线免费观看不下载黄p国产 | 一本综合久久免费| 久久九九热精品免费| 一a级毛片在线观看| 精品久久久久久久人妻蜜臀av| 日韩高清综合在线| 国产精品久久久av美女十八| 国产成人av激情在线播放| 狠狠狠狠99中文字幕| 嫩草影视91久久| 日本一本二区三区精品| 久久久久久久精品吃奶| 伊人久久大香线蕉亚洲五| 观看免费一级毛片| 岛国在线免费视频观看| 男人舔女人的私密视频| 九色国产91popny在线| 一夜夜www| 999久久久国产精品视频| 久久午夜综合久久蜜桃| 岛国在线免费视频观看| 神马国产精品三级电影在线观看| 99热这里只有是精品50| 久久亚洲真实| 人人妻人人澡欧美一区二区| 亚洲在线自拍视频| 中亚洲国语对白在线视频| 男女午夜视频在线观看| 可以在线观看毛片的网站| 久久久久国内视频|