• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)智治理的法治悖論

    2022-11-14 18:10:18馬長山
    東方法學 2022年3期
    關鍵詞:數(shù)智法治數(shù)字化

    馬長山

    新興信息革命正在推動人類社會從“物理時代”邁進數(shù)字時代,面對這一空前的革命性轉(zhuǎn)型,世界各國都在積極制定數(shù)字化發(fā)展戰(zhàn)略,從而更好地搶抓機遇和應對挑戰(zhàn)。近年來,我國一直大力推進“數(shù)字中國”建設,2021年發(fā)布《“十四五”規(guī)劃和2035年遠景目標綱要》和《“十四五“數(shù)字經(jīng)濟發(fā)展規(guī)劃》,確立了數(shù)字經(jīng)濟、數(shù)字社會、數(shù)字政府、數(shù)字生態(tài)建設目標。各地方政府也充分認識到,數(shù)字化將重新定義生產(chǎn)力和生產(chǎn)關系,因此,需要堅持整體性轉(zhuǎn)變、全方位賦能、革命性重塑,以期形成全覆蓋、網(wǎng)格化、安全共享、敏捷高效的數(shù)字化治理系統(tǒng)。這樣,社會治理的數(shù)智化轉(zhuǎn)型與換代升級就成為一種必然趨勢。然而,數(shù)智治理畢竟是新興的治理模式和機制,它既具有高能的治理功效,也存在突出的法治悖論。因此,如何興利除弊,無疑是當下的一個重大理論和實踐課題。

    一、數(shù)字時代的治理轉(zhuǎn)型

    隨著網(wǎng)絡化、數(shù)字化、智能化的加速迭代發(fā)展,“社會創(chuàng)新引領、國家跟進規(guī)制”成為社會秩序建構(gòu)的主旋律??萍脊?、頭部企業(yè)和政府部門處于社會變革的最前沿,很多新理念、新概念、新機制、新制度和新策略,都是經(jīng)由它們的突破創(chuàng)新、互動博弈、價值提煉、倡導推廣而在社會上傳播開來。智慧司法、自動化行政、數(shù)字法治、數(shù)字公民、數(shù)智治理等治理新元素便應運而生。

    (一)數(shù)智治理的時代動因

    數(shù)智治理是近年在浙江、上海、江蘇等數(shù)字經(jīng)濟發(fā)達地區(qū)興起的,具有先行先試色彩的創(chuàng)新模式。它以數(shù)據(jù)和算法為中樞,以平臺為載體,形成了數(shù)字化和智慧化一體交融、萬物互聯(lián)、人機協(xié)同的新型治理形態(tài)。旨在運用數(shù)字技術(shù)、智能技術(shù)推動社會治理更加智慧,被視為實現(xiàn)社會治理體系和治理能力現(xiàn)代化的必由之路。從根本上看,數(shù)智治理絕不是憑空而來的新潮詞匯,而是源于當今數(shù)智化發(fā)展趨勢的強勁推動。

    首先,數(shù)字生活方式的客觀要求。從人類社會的發(fā)展進程來看,數(shù)字經(jīng)濟已成為農(nóng)業(yè)經(jīng)濟、工業(yè)經(jīng)濟之后的主要經(jīng)濟形態(tài),數(shù)據(jù)成為關鍵的生產(chǎn)要素,算法成為新的生產(chǎn)力。而作為主體的人,也具有了自然人和數(shù)字人的雙重身份與角色,逐漸形成萬物數(shù)字化、行為數(shù)字化、生活方式數(shù)字化的普遍性數(shù)字生態(tài)。此時,工業(yè)經(jīng)濟時代的治理模式已經(jīng)難以為繼,新興的數(shù)智治理形態(tài)便開始涌現(xiàn)。

    其次,數(shù)字技術(shù)發(fā)展的支撐驅(qū)動。在當今數(shù)字時代,每天都在生產(chǎn)大量的數(shù)據(jù)信息,每天也都需要大量的數(shù)據(jù)處理和建模計算,這主要是通過網(wǎng)絡技術(shù)、數(shù)字技術(shù)、智能技術(shù)基礎上的平臺運行來完成的。無論是商業(yè)運營,還是政務服務,都采取前臺——中臺——后臺的體系架構(gòu)。這樣,平臺就承載了治理的功能,釋放了治理的價值,從而驅(qū)動新型數(shù)智治理模式的變革發(fā)展。

    再次,數(shù)字法治創(chuàng)新的必然趨勢。我們知道,現(xiàn)代法治是工業(yè)革命的制度成果,它反映著工商時代的生活規(guī)律、行為模式和價值準則,體現(xiàn)了物理時空、自然人行為、物權(quán)中心主義的基本邏輯。這個龐大精致的理論范式和規(guī)則體系,在近代以來的社會秩序構(gòu)建中發(fā)揮了經(jīng)世致用的巨大作用。但信息革命的到來,以萬物數(shù)字化的方式消解了它賴以存在的社會基礎,個人隱私、所有權(quán)和人格尊嚴面臨嚴峻的挑戰(zhàn)。這意味著,數(shù)字化進程正在以空前的能量和范圍,根本性地重塑人類的生產(chǎn)力、生產(chǎn)關系、行為方式和生活方式,從而使得“許多以前我們曾經(jīng)依賴的東西,正在數(shù)字化時代支離破碎”。這必然會出現(xiàn)從價值、制度、機制、再到秩序的巨大轉(zhuǎn)型,數(shù)字經(jīng)濟、數(shù)字社會、數(shù)字政府、數(shù)字公民、數(shù)字人權(quán)、數(shù)字司法等成為新型的法治主題,迫切要求進行適時的法治變革與創(chuàng)新,而數(shù)智治理正是這種法治創(chuàng)新的一個典型形式。

    (二)數(shù)智治理的迭代升級

    從古至今,任何一個時代、任何一個政權(quán),都必須立足于有效的社會治理秩序基礎之上才能得以維持和運行。宏觀而言,農(nóng)耕社會是一種以權(quán)力為中樞的等級治理;而工商社會,是一種以權(quán)利為中樞的多元治理。這固然是社會治理的巨大進步,但在本質(zhì)上,它們都是立足物理時空條件、限于地域?qū)蛹壗Y(jié)構(gòu)、運用理性技藝手段的治理模式。隨著信息革命的到來,原來的工商社會正在快速地轉(zhuǎn)向數(shù)字社會,虛實交融打破了物理時空,一體化平臺突破了地域?qū)蛹?,?shù)據(jù)可視超越了經(jīng)驗理性,從而形成了以信息為中樞的數(shù)智治理,這就實現(xiàn)了巨大的功能飛躍和迭代升級。數(shù)智治理呈現(xiàn)出以下特征:

    一是敏捷性。人類社會一直面臨著各種風險,一方面是來自外部的、由傳統(tǒng)或自然的不變性和固定性所帶來的“外部風險”(external risk),如洪災、瘟疫、饑荒等;另一方面是由人類不斷發(fā)展的知識對這個世界產(chǎn)生影響而“被制造出來的風險”(manufactured risk),這“是我們在沒有多少歷史經(jīng)驗的情況下所產(chǎn)生的風險”,它“日益取代外部風險而占據(jù)了主要地位”。也就是說,社會越進步、科技越發(fā)達,“被制造出來的風險”就越多。如今人類邁進數(shù)字時代,大數(shù)據(jù)分析幾乎透視一切,算法決策幾乎無所不至,社會治理更加高效便捷、動態(tài)感知、自動運行。如浙江余杭區(qū)“一屏觀全區(qū)、一網(wǎng)治全城、一鍵管應急”的區(qū)域數(shù)智治理體系,南京市江北新區(qū)“鏈通萬家”形成“區(qū)塊鏈+小區(qū)自治”等。但同時,“數(shù)字化世界密集性和復雜性的背后,風險將如影隨形”,一旦出錯,則后果難以預計。為此,國家新一代人工智能治理專業(yè)委員會于2019年6月發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》,2021年9月又發(fā)布《新一代人工智能倫理規(guī)范》,中共中央辦公廳、國務院辦公廳在2022年3月聯(lián)合印發(fā)《關于加強科技倫理治理的意見》,提出敏捷治理、倫理先行、合理控制風險的治理原則和基本要求。因此,在數(shù)智治理過程中就必須尊重人工智能發(fā)展規(guī)律,充分認識人工智能的潛力與局限,防止技術(shù)的誤用和濫用,加強風險預警和跟蹤研判,從而建立起快速靈活、包容平衡、共同參與、以人為本的動態(tài)回應機制,做到對突發(fā)風險可以隨機應對和即時處置,形成數(shù)智治理的敏捷性。

    二是節(jié)點性。進入數(shù)字時代后,萬物數(shù)字化、一切在線化深刻地改變了人們的生活方式、行為方式和社會生態(tài)。以至每個自然人,同時又是一個“數(shù)字人”和“信息體”,身體也隨之成為“身聯(lián)網(wǎng)”的一個技術(shù)平臺。在這一空前的數(shù)字化、網(wǎng)絡化、智能化發(fā)展過程中,人們的地理位置、職業(yè)階層、社會身份、家庭關系等傳統(tǒng)要素被明顯淡化,更多地承擔起網(wǎng)絡基礎單元和獨立存在的鏈接角色,這樣就由中心化的實體組織或個體轉(zhuǎn)向分散化的網(wǎng)絡節(jié)點。而數(shù)智治理的平臺化態(tài)勢,更是通過一網(wǎng)通辦、一網(wǎng)統(tǒng)管、一網(wǎng)協(xié)同等方式,把人、事、物變成網(wǎng)格化治理的諸個網(wǎng)絡鏈接、信息傳遞和操作運行的節(jié)點。這里既有每個人、每件事的獨立性和自主性,也有嵌入網(wǎng)格化、平臺化系統(tǒng)的聯(lián)動性和被動性,這乃是數(shù)智治理區(qū)別傳統(tǒng)治理的時代特征。

    三是穿越性。信息革命的一個重大社會后果,就是顛覆了人類有史以來的時空觀念和生活方式,并進行了數(shù)字化、智能化重建。具言之,一方面它以虛實融合、遠程臨場、數(shù)字可視的方式打破了生產(chǎn)生活的“物理圍墻”,原來必須“面對面”才能做到的事情,現(xiàn)在“屏對屏”就可以完成,如騰訊會議、微信社交、網(wǎng)絡購物、在線庭審、網(wǎng)格化治理等,從而實現(xiàn)了對“物理圍墻”的穿越;另一方面,網(wǎng)絡化、數(shù)字化、智能化技術(shù)的交融發(fā)展,使人類獲得了空前的大數(shù)據(jù)分析、虛擬現(xiàn)實、算法預測能力,這不僅可以回溯歷史、重組時空行為,也可以干預未來,如異步審理中的錯時開庭、犯罪預測系統(tǒng)對“可能”風險的處置等,從而實現(xiàn)了對“時空維度”的穿越。這一數(shù)字社會的特有運行邏輯,必然會反映到數(shù)智治理機制之中,也即它會充分運用這種穿越功能來進行矛盾調(diào)處、事件處置、風險研判、應急管理和監(jiān)管執(zhí)法等,從而增強效能、提高效率、防范風險、強化效果。

    (三)數(shù)智治理的目標宣示

    發(fā)展數(shù)字經(jīng)濟,加快數(shù)字化轉(zhuǎn)型,已成為世界主要國家的優(yōu)先競爭戰(zhàn)略。如歐美國家競相推進社會治理轉(zhuǎn)型,它們經(jīng)歷了電子政府、數(shù)字政府和電子治理的不同階段,開始從“修飾性”地提供信息服務,轉(zhuǎn)向“實質(zhì)性”地推動公民參與互動,進而探索新型的“數(shù)智治理”模式。

    自2015年提出“數(shù)字中國”戰(zhàn)略以來,我國一直在加速推進數(shù)字化轉(zhuǎn)型,數(shù)智治理也日漸成為社會治理的發(fā)展方向。在戰(zhàn)略屬性上,各地方政府主要是三個角度來進行定位:一是堅持推進治理能力現(xiàn)代化的建設目標;二是堅持以人民為中心的執(zhí)政理念;三是堅持共建共治共享的基本原則。在方向目標上,各地方政府已深刻認識到數(shù)字化轉(zhuǎn)型將重新定義生產(chǎn)力和生產(chǎn)關系,全面重塑“物聯(lián)、數(shù)聯(lián)、智聯(lián)”的治理模式和生活方式。因此,要打造科學化、精細化、智能化的“數(shù)治”新范式。其意義在于推動生產(chǎn)方式、生活方式、治理方式發(fā)生基礎性、全局性和根本性的改變,這無疑是一個質(zhì)變而不是量變的過程,從而促進數(shù)字政府、數(shù)字社會和數(shù)字法治建設。在路徑策略上,數(shù)智治理要五“應”俱全,即應織緊安全框架、應打通協(xié)同梗阻、認知應與時俱進、應彌合數(shù)字鴻溝、應護航發(fā)展引擎,從而深耕社會治理生態(tài)體系變革。由上可見,我國的數(shù)智治理探索具有比歐美國家還要廣闊一些的氣魄,這很大程度上是現(xiàn)代化追趕和數(shù)字化轉(zhuǎn)型的雙重壓力所致,也是數(shù)字經(jīng)濟發(fā)展的深層推動使然,它將成為數(shù)字時代的主導治理形態(tài),為數(shù)字法治奠定堅實基礎。

    二、數(shù)智治理的四重悖論

    盡管數(shù)智治理代表數(shù)字時代的發(fā)展方向,但這種新型治理模式也是有風險、有代價的,因為數(shù)字技術(shù)“創(chuàng)造了許多,也同樣毀滅了許多”。審慎觀察和深入分析表明,數(shù)智治理存在必須認真對待的深層法治悖論。

    (一)數(shù)智賦權(quán)悖論

    眾所周知,自從有國家以來,當政者就一直需要向社會公眾說明其擁有和行使權(quán)力的正當性理由。古代社會靠“君權(quán)神授”的宗教神諭來維系統(tǒng)治,是一種神性賦權(quán);近代以來,則是靠“社會契約論”獲得合法性的,是一種法律賦權(quán)。其共同的邏輯,都是在有限的資源面前,證明當權(quán)者占有、使用這些資源的優(yōu)先性、絕對性。但信息革命以其強大的技術(shù)變革力量,消解了傳統(tǒng)的權(quán)力合法性理由。也就是說,新興網(wǎng)絡技術(shù)、數(shù)字技術(shù)和智能技術(shù),創(chuàng)造出以往物理時空中從未見到過的巨大虛擬空間和數(shù)字利益,這相當于人類有史以來剛剛發(fā)現(xiàn)的超自然“飛地”,大量新業(yè)態(tài)、新模式、新機制不斷“破窗”和“圈地”。對此,最初的網(wǎng)絡自由主義曾自信地宣稱,“你們的財產(chǎn)、表達、身份、活動和條件的法律概念不適合我們。這些概念建立在物質(zhì)基礎上,而我們這里沒有什么物質(zhì)”。因此,“我們拒絕:國王、總統(tǒng)和投票。我們堅信:基本的共識和運行的代碼”。但隨后的國家介入很快打破了這種幻想,信息革命所創(chuàng)造出來的巨大數(shù)字利益和廣闊空間,也變成了政府、商家和民眾進行利益博弈的“西部世界”。這種博弈常常伴隨著“創(chuàng)造性破壞”的變革進步,很多都超出了現(xiàn)有法律框架和范圍,因此,各方競相把這些利益和空間轉(zhuǎn)化成為自身的生活權(quán)利。于是,它既不是神性賦權(quán),也不是法律賦權(quán),而是全新的技術(shù)賦權(quán)。數(shù)智治理正是在這一過程中獲得孕育發(fā)展的,并為技術(shù)賦權(quán)提供了數(shù)智場景和機制,然而,它卻內(nèi)含不容忽視的法治張力。

    其一,高效治理中的賦能擴張。數(shù)智治理是通過對新興技術(shù)的綜合開發(fā)和深度應用,構(gòu)建起數(shù)字化、智能化、平臺化的治理系統(tǒng)。因此,它并不是簡單地把社會治理從線下搬到線上,而是以萬物數(shù)字化和一切可計算的方式,重組社會治理的時空條件和內(nèi)容要素,打造“一網(wǎng)通辦”“一網(wǎng)統(tǒng)管”“一網(wǎng)協(xié)同”的服務管理新模式,旨在構(gòu)建便捷高效、精準高能和自動化的治理機制。一方面,它通過技術(shù)賦能、技術(shù)賦權(quán)有效拓展民眾獲取新型數(shù)字公共服務的權(quán)利,進而兌現(xiàn)“數(shù)據(jù)多跑路、市民少跑腿”“最多跑一次”的公共承諾,讓百姓能夠分享到數(shù)字化發(fā)展的社會紅利;但另一方面,也出現(xiàn)了權(quán)力技術(shù)化、技術(shù)權(quán)力化的趨勢,特別是數(shù)據(jù)分析和算法決策開始具有“望遠鏡”“顯微鏡”和“雷達”功能,“提前知、提前控、全程知、全程控”也就隨之演變成一種超強的監(jiān)控形式。這意味著,數(shù)字時代的多元化、扁平化和去中心化背后,權(quán)力擴張的傾向卻在涌動,也許“一種形式的權(quán)力或許被摧毀了,但另一種正在取代它”。因此,有學者大呼“我們必須監(jiān)控‘老大哥’”!

    其二,平臺加責中的私權(quán)治理。數(shù)字時代的一個重要特征是平臺化,開放的參與式架構(gòu)使得“越來越多的商業(yè)從管道結(jié)構(gòu)轉(zhuǎn)向平臺結(jié)構(gòu)”“從傳統(tǒng)的線性價值鏈向復雜的平臺價值矩陣”轉(zhuǎn)變。因此,數(shù)字經(jīng)濟也是平臺經(jīng)濟,無論是商品營銷、社交娛樂、還是社會服務,都需要采取平臺的運營模式,形成平臺居中的雙邊市場。在平臺經(jīng)濟發(fā)展之初,新業(yè)態(tài)、新模式具有“破窗”效應,它們占據(jù)既有政策制度的規(guī)制空白或者灰色地帶,推行網(wǎng)絡自由、技術(shù)賦權(quán)的“天空法則”,用戶、商家、平臺都獲得了數(shù)字空間中的身份人格、在線交易、網(wǎng)絡社交、公共表達等權(quán)利。但隨著資本無序擴張和平臺壟斷的出現(xiàn),平臺治理的挑戰(zhàn)也日漸嚴峻。為此,各國大多采取了政府授權(quán)的“平臺加責”治理模式,平臺也隨之被賦予公共事業(yè)或者“看門人”角色。平臺雖然身為企業(yè),但卻承擔了一部分公共角色和管理職責。這樣,就打破了國家與社會的二元結(jié)構(gòu),形成了公權(quán)力、私權(quán)力、私權(quán)利的三元格局,出現(xiàn)了數(shù)字時代的私權(quán)(力)治理。于是,平臺治理和平臺內(nèi)治理也就被吸納進數(shù)智治理體系,成為國家治理和社會治理的組成部分。

    事實上,2021年1月8日推特對時任美國總統(tǒng)特朗普的“永久封號”、俄烏戰(zhàn)爭中西方社交媒體對俄羅斯禁言、以及電商下架某類商品等,都不是用戶與平臺之間簡單的“合同”關系和“服務”功能,而是具有公法上的效果。具言之,在這些平臺運營和治理的背后,形成了具有顯著“用戶黏性”的數(shù)字生態(tài),如同人們對手機的依賴一樣,已經(jīng)成為人們觀察世界、認識世界、進入世界的方式和通道,因此,也才具有“公共基礎設施”的屬性和功能。此時的封號、禁言、下架就相當于在數(shù)字生活中被“刪除”“社死”或者“封殺”。這樣,“在網(wǎng)絡空間中,某只看不見的手正在建造一種與網(wǎng)絡空間誕生時完全相反的架構(gòu)。這只看不見的手,由政府和商業(yè)機構(gòu)共同推動,正在打造一個能夠?qū)崿F(xiàn)最佳控制、高效規(guī)制的架構(gòu)”。這種架構(gòu)在數(shù)智治理機制中日益明顯,私人權(quán)利和社會自由遭遇新的挑戰(zhàn),從而成為一個悖反性的時代問題。

    其三,智能聯(lián)動中的權(quán)力眼睛。數(shù)智治理強調(diào)一體化平臺建設和智能聯(lián)動,這固然可以突破原來的部門領域阻隔或障礙,更加順暢地、更加高效地、更加有力地行使職權(quán)和提供服務。前者如“一網(wǎng)通管”、自動查封、扣押、凍結(jié)等,后者如“一網(wǎng)通辦”“最多跑一次”等。其中,“雙現(xiàn)”執(zhí)法模式,即非現(xiàn)場執(zhí)法和現(xiàn)場線上執(zhí)法檢查,實現(xiàn)從違法行為發(fā)現(xiàn)、案件辦理、當事人繳納罰款等全環(huán)節(jié)零接觸辦案,既提升了辦案效率,又方便當事人快速處理。還有地方通過數(shù)據(jù)治理、數(shù)據(jù)挖掘、數(shù)據(jù)建模,采用紅、橙、黃、藍、綠五種顏色,把智能系統(tǒng)視為基層治理的“眼睛”,以發(fā)現(xiàn)治理短板、靠前評估預警事件,助力科學決策和精準治理等。但反過來看,這種可以無限穿越物理圍墻、部門區(qū)隔、行業(yè)壁壘的治理方式,也會讓人隱約感受到深藏其中的權(quán)力眼睛。當人們的所有人設,一切行蹤、身家財產(chǎn)都失去了物理遮攔、無處藏身,甚至一個小微違法也會隨時被發(fā)現(xiàn)、隨時被智能系統(tǒng)處理。那么,這種技術(shù)治理就違背了它的初衷,公民自由和權(quán)利也難免會受到不合理的限縮與控制。也許正是意識到了這一點,對于非現(xiàn)場執(zhí)法,相關部門還是采取了“首違免罰”做法,以實現(xiàn)執(zhí)法效率和溫度的統(tǒng)一。

    (二)數(shù)智參與悖論

    縱觀40多年來的改革開放進程,中國經(jīng)歷了由“總體性支配”向“技術(shù)治理”的重大轉(zhuǎn)變,打造數(shù)字政府也成為主要的行政改革目標。然而,數(shù)字政府并不是通過數(shù)字技術(shù)賦能來強化行政職能的過程,而應是一個通過數(shù)字化驅(qū)動來提升政府服務效能、更好維護公民權(quán)益的過程。為此,國家《“十四五”規(guī)劃和2035年遠景目標綱要》明確提出,要加強公共數(shù)據(jù)開放共享、推動政務信息化共建共用、提高數(shù)字化政務服務效能、提升全流程一體化在線服務平臺功能,進而全面推進政府運行方式、業(yè)務流程和服務模式數(shù)字化智能化,實現(xiàn)面向數(shù)智治理的轉(zhuǎn)型升級。然而,這其中也蘊含一定的參與悖論。

    首先,技術(shù)開放與公眾參與。數(shù)智治理的核心理念在于憑借數(shù)字化和智能化技術(shù),實現(xiàn)自動運行的數(shù)據(jù)分析和算法決策,從而達到敏捷、超能、穿透的治理效果。然而,政府部門并不熟悉、也不會直接運用這些新興技術(shù)。因此,就采取技術(shù)外包的方式,與技術(shù)公司或者頭部企業(yè)開展合作來開發(fā)建設服務平臺、治理平臺。一方面,這些社會化合作本身就展現(xiàn)了公共服務的開放性和參與性,而且在“數(shù)字政府即平臺”的理念下,“通過海量實時動態(tài)更新的數(shù)據(jù)資源和透明開放的政府服務平臺,帶來了政府與民眾的良性互動,促進了政府決策的科學化和民主化進程”;但另一方面,公共服務平臺也好,治理平臺也好,都只是政府與少數(shù)技術(shù)公司和企業(yè)的合作,這些企業(yè)只是按照政府提出的要求進行閉門設計,缺少民眾參與和對社會訴求的吸納。尤其是不少地方政府和部門為了樹立數(shù)字化的形象,脫離公眾的現(xiàn)實需求,推出的各種移動和智能應用的使用率較低,甚至變成一種裝飾,其中也不排除存在某種尋租行為。這意味著,公民在此過程中始終處于“不在場”的狀態(tài),公民參與所占權(quán)重較低、影響較小。

    其次,算法決策與公民互動。在數(shù)智治理過程中,算法決策無疑發(fā)揮著關鍵作用,如電子交警、數(shù)字哨兵、非現(xiàn)場執(zhí)法等智能系統(tǒng),會變成直接產(chǎn)生效力的自動化行政行為。這固然大大提升辦案效率,方便當事人處理,有利于風險防控,但是,“隨著代碼編寫的日趨商務化——即代碼編寫逐漸落入到少數(shù)幾家大公司中”。而這些算法設計,很多都是不透明的,人們“無法看清其中的規(guī)則,無法提出不同意見,也不能參與決策過程,只能接受最終的結(jié)果”。因而,與傳統(tǒng)的行政執(zhí)法不同,這里基本沒有與公民的互動場景,本來是旨在便民的技術(shù)應用,反而變成抽空了人性互動的“機器執(zhí)法”。

    第三,數(shù)字參與與數(shù)字能力。在我國的數(shù)智治理的基本理念和框架設計中,以黨建為統(tǒng)領,以社區(qū)云為依托,賦能居村委自治共治、主動服務、減負增效,從而加快建設社會治理共同體,推動在線社群、線上議事組織、開放式民調(diào)等應用,就成為一些地方的重要制度探索和創(chuàng)新嘗試。而國家層面的公民數(shù)字參與提升工程,則要求數(shù)字化賦能城市治理(建言獻策、創(chuàng)新參與)、數(shù)字化賦能社區(qū)治理(民主協(xié)商、網(wǎng)格治理)、數(shù)字化賦能鄉(xiāng)村治理(村務參與、社會監(jiān)督)。這無疑是數(shù)智治理的核心,也是實現(xiàn)數(shù)字民主、數(shù)字法治的基礎,具有重要的時代意義和社會價值。然而,這些制度設計和運行機制,并不一定能夠自然而然地產(chǎn)生良好的社會效果。十分關鍵的是,在當代數(shù)字時代已經(jīng)不僅僅需要自然人的權(quán)利能力和行為能力,更需要相應的數(shù)字素養(yǎng)和數(shù)字能力,實現(xiàn)從自然公民向數(shù)字公民的轉(zhuǎn)型。但現(xiàn)實生活中卻存在年齡上、階層上、地域上的數(shù)字鴻溝,這些鴻溝無疑會加劇他們在數(shù)字能力上的落差甚至斷層。這意味著,即便有數(shù)字化賦能治理的良好制度設計,一些弱勢群體目前卻不足以具備必要的數(shù)字素養(yǎng)與基本技能,因而,導致這部分群體難以充分運用數(shù)智治理機制來實現(xiàn)其數(shù)字參與,在某些方面反而衍生了數(shù)字不平等。事實也表明,很多地方的網(wǎng)格化管理“存在公民參與和社區(qū)多元主體互動缺乏問題”,這無疑嚴重影響了數(shù)字公民的參與實踐和數(shù)智治理的創(chuàng)新效果。

    第四,數(shù)據(jù)新政與電子官僚。數(shù)智治理的目標,是政府部門運用數(shù)字技術(shù)更好履行政府職能,用信息化驅(qū)動政府效能提升的過程。然而,在數(shù)智治理模式的探索過程中,出于功利主義、追求政績等各種復雜因素的考慮,也存在重效率輕參與、重監(jiān)管輕保護、重形式輕實質(zhì)等問題,甚至出現(xiàn)“電子衙門”“電子官僚主義”,容易導致一些公眾“望網(wǎng)興嘆”“望云興嘆”“望數(shù)興嘆”,卻無可奈何。如果算法決策越來越多地被用來推動、引導、刺激、控制、操縱和約束人類行為的話,那么,就會形成人們所擔心的“算法鐵籠”。而這在數(shù)字鴻溝的疊加的影響下,則難免造成更為嚴峻的法治悖論。從世界范圍來看,已經(jīng)出現(xiàn)“公民被賦權(quán)和剝奪權(quán)利”的兩種相互作用的動態(tài)趨勢:“一方面權(quán)利被擴大,另一方面權(quán)利被削弱。個體會覺得被技術(shù)變革授予了更多權(quán)利,因為他們獲取資訊、進行溝通、組織活動變得更容易,從而豐富了其參與公民生活的途徑和方法。但同時,個人、公民社會團體、社會組織和當?shù)厣鐓^(qū)越來越深刻地感受到被投票、選舉等傳統(tǒng)的決策程序排除在外,失去了有效參與能力,其影響力和發(fā)言權(quán)被支配機構(gòu)忽視,在國家和本地治理中的權(quán)利日漸弱化。”這就是說,對于普通民眾而言,數(shù)智治理創(chuàng)造的參與途徑多,但參與機會卻未必多;創(chuàng)造的參與空間大,但參與能力卻未必高;創(chuàng)造了參與扁平化,但卻很容易被邊緣化。

    (三)數(shù)智規(guī)制悖論

    如前所述,數(shù)智治理具有強大的技術(shù)底座,它能夠憑借數(shù)據(jù)和算法而形成高效敏捷、全景敞視、自動運行的技術(shù)機制和治理體系,其規(guī)制能力遠超人類所積累下來的所有治理方式。然而,其中存在的問題卻不可小覷。

    一是技術(shù)治理中的規(guī)制逃逸。數(shù)智治理具有高能的規(guī)制力量,但它的這種規(guī)制能力主要是通過技術(shù)方式來實現(xiàn)的。在設計環(huán)節(jié),大多數(shù)智治理系統(tǒng)都是政府按自身需要和特點來研發(fā)的。因此,他們自然將自身的理念、價值和原則嵌入數(shù)據(jù)處理、算法建模和代碼編寫之中,這就難免帶有一定的主觀偏好,進而作出有利于政府立場的系統(tǒng)設計。于是,“算法或壓縮行政活動的各個環(huán)節(jié),或作為內(nèi)部行政決策,逃避行政正當程序制度的控制”情況便時有發(fā)生。在運行環(huán)節(jié),自動化行政壓縮了廣泛存在的自由裁量空間,因此,一些“處罰考量要素及權(quán)重受算法所限,降低了原有執(zhí)法的人性化酌處程度”。更為突出的是,“自動審批”“秒批”等自動化行政方式,實現(xiàn)了行政活動中的無人干預,同時卻也產(chǎn)生了裁量判斷、監(jiān)督、責任、適用情境等困境和問題。在救濟環(huán)節(jié),由于是“無人干預”的自動化行政決策,所以,對于相對人而言,這就不是“當面互動”的執(zhí)法人員,而更多地呈現(xiàn)為“人機互動”,并且,由于算法決策具有客觀、科學的面孔,使其決策結(jié)果很難因處罰異議而發(fā)生改變,此時的救濟渠道便嚴重受阻??梢?,在數(shù)智治理過程中,政府部門所具有的高強規(guī)制力往往指向行政相對人或者社會對象,而其自身則在實體和程序上均出現(xiàn)了技術(shù)改寫和規(guī)制逃逸。

    二是一體平臺中的制約弱化。數(shù)智治理的重要載體是平臺,目前的各類治理平臺有橫有縱、有條有塊,貫穿于從中央到地方的各級政府、各業(yè)務領域、各條戰(zhàn)線。其中,數(shù)據(jù)共享、資源集合、矩陣管理成為主導方向,如一些地方打造綜治工作、市場監(jiān)管、綜合執(zhí)法、便民服務“基層治理四平臺”,并以綜合指揮、屬地管理、全科網(wǎng)格、運行機制為支撐,形成全域覆蓋、功能集成、工作協(xié)同的基層治理體系。這些一體化平臺的好處是“一網(wǎng)打盡”、統(tǒng)一高效,但過于強調(diào)黨政司法一體化,就很容易忽視基本的規(guī)則和程序,產(chǎn)生數(shù)據(jù)信息權(quán)力集中,使得憲法法律規(guī)定的分工制約關系受到弱化,特別是無限制地數(shù)據(jù)共享,會穿透地域?qū)蛹壓土⒎ā⑿姓退痉▍^(qū)隔(包括公檢法線條內(nèi)的分權(quán)區(qū)隔),不僅在數(shù)據(jù)確權(quán)、數(shù)據(jù)使用和數(shù)據(jù)交易上帶來具體的困境,也會給相應的分工制約和權(quán)力監(jiān)督造成一定的障礙和抵消。因而,難免會助長權(quán)力技術(shù)化、技術(shù)權(quán)力化的擴張傾向。

    三是數(shù)智運行中的安全困境。當今信息革命顛覆了以往的物理世界,而“一旦世界被數(shù)據(jù)化,就只有你想不到,而沒有信息做不到的事情了”。為此,數(shù)據(jù)安全就成為全世界普遍關注的重大問題。數(shù)智治理的基礎就是數(shù)據(jù)信息和算法,一方面,沒有數(shù)據(jù)信息的分享處理和利用就談不上數(shù)智轉(zhuǎn)型;另一方面,沒有數(shù)據(jù)信息的安全保護,數(shù)智創(chuàng)新也就寸步難行。這就需要克服三大困境:首先,智能運行與隱私保護。數(shù)智治理具有脫實向虛的趨向,如一些地方的“電子門鎖”“一臉通”、精細治理、風險預警等,旨在通過整合人、車、房、企業(yè)、監(jiān)控數(shù)據(jù),推動社區(qū)、網(wǎng)格等社會治理單元“精準落圖”“入網(wǎng)進艙”,消除城市治理盲點,從而實現(xiàn)基層智治。但它所帶來的深層隱憂和問題,就是個人隱私該如何保護。其次,數(shù)據(jù)共享與數(shù)據(jù)安全。即數(shù)智治理系統(tǒng)內(nèi)各部門、各領域的數(shù)據(jù)共享過程中,如果沒有或者不能遵守基本的數(shù)據(jù)安全“紅線”,那么,處于被動和弱勢地位的個人信息和企業(yè)數(shù)據(jù)就會失控,甚至流向數(shù)據(jù)交易“黑市”,隨之人們難免受到無限的數(shù)據(jù)透視和隱性控制,公眾的人格尊嚴也將遭遇嚴重的危機。最后,數(shù)據(jù)跨境與數(shù)字主權(quán)。數(shù)智治理也會涉及數(shù)據(jù)跨境和數(shù)據(jù)競爭,如滴滴打車在美上市所帶來的客戶數(shù)據(jù)風險,以及特斯拉汽車數(shù)據(jù)、微信數(shù)據(jù)、平臺治理數(shù)據(jù)的安全問題。這是數(shù)字時代的巨大難題,無論是美國、歐盟,還是中國,都處于“數(shù)據(jù)雖無疆、主權(quán)卻有界”的規(guī)制探索之中。國家《“十四五”規(guī)劃和2035年遠景目標綱要》就明確提出,要構(gòu)建數(shù)字規(guī)則體系,營造開放、健康、安全的數(shù)字生態(tài),建立健全數(shù)據(jù)要素市場規(guī)則,加強網(wǎng)絡安全保護,推動構(gòu)建網(wǎng)絡空間命運共同體,這無疑是一個復雜的制度構(gòu)建過程。

    (四)數(shù)智人文悖論

    科學技術(shù)是人類對自然及社會進行客觀認識和規(guī)律把握的智慧成果,是自古以來人類實現(xiàn)主體發(fā)展、創(chuàng)造文明的根本支撐。近年來,環(huán)保主義者倡導非人類中心主義,盡管它在環(huán)境保護和動物權(quán)利方面具有重要的時代意義,但當人類真正面對網(wǎng)絡技術(shù)、數(shù)字技術(shù)、智能技術(shù)的時候,還是要重拾人類中心主義。也就是說,一切技術(shù)的創(chuàng)新發(fā)展都必須服從、服務于人類的共同福祉,而不能以“技術(shù)進步”的名義,把技術(shù)當成資本和權(quán)力的工具而凌駕在人類發(fā)展之上??刂普摯髱熅S納就說過,技術(shù)發(fā)展“既可能帶來巨大的善,也可能帶來巨大的惡”。因此,“不把該學科的發(fā)展交到那些最不負責任的、最腐敗的工程師的手上”??梢?,關鍵問題不在技術(shù)本身,而是如何發(fā)展和利用科學技術(shù)。同樣,對于數(shù)智治理而言,它固然是人類邁進數(shù)字時代的重大制度變革和治理轉(zhuǎn)型升級,但也存在一定的異化風險和人文悖論。這主要表現(xiàn)在兩大方面:

    其一,工具主義傾向。從本質(zhì)上看,數(shù)智治理是適應數(shù)字化時代要求的新型治理形態(tài),是滿足數(shù)字化參與和共建共享發(fā)展的基本方式,也是“數(shù)字中國”戰(zhàn)略的核心宗旨所在。然而,在實踐操作過程中,出于服從上級指令、或者政績形象等考慮,一些地方政府卻采取工具主義的策略。如某些地方政府的數(shù)智治理和網(wǎng)格化實施方案中,“穩(wěn)定”“監(jiān)控”“綜治維穩(wěn)”“治安”等考量占據(jù)第一位,“服務”和“參與”的內(nèi)容卻不多見。如果數(shù)智治理只是側(cè)重于工具性的維穩(wěn)管控,如果民情信息員、網(wǎng)格監(jiān)督員主要是發(fā)現(xiàn)案源、反饋問題的“眼睛”、執(zhí)法的“觸角”。那么,網(wǎng)格化管理技術(shù)就難免會出現(xiàn)手段與目的關系倒置、選擇性治理和沖擊人文關懷的情況。此外,還有蘇州“文明碼”、南京環(huán)衛(wèi)工人的智能“監(jiān)工”手表等均引起很大爭議。同樣,這種工具主義在商業(yè)場景中也不少見,如2021年8月俄羅斯在線支付服務公司Xsolla使用算法的“不敬業(yè)、效率低下”判斷,解雇了147名員工。2019年美國亞馬遜內(nèi)部的AI系統(tǒng),就通過追蹤物流倉儲部門員工的工作效率、“摸魚”時間和實時數(shù)據(jù)而自動生成解雇的指令,卻不需要作任何解釋。在國內(nèi),也有企業(yè)在員工座位下方安裝行為感知系統(tǒng),監(jiān)測員工不在崗時間、訪問求職網(wǎng)站次數(shù)、聊天關鍵詞、簡歷投遞次數(shù)等。如果“AI監(jiān)視”把人工具化,那就突破了技術(shù)倫理和文明的底線。如果這種人工智能技術(shù)的誤用、濫用過多滲入數(shù)智治理的話,產(chǎn)生嚴重的異化后果,會顛覆數(shù)智治理的價值和本質(zhì)。

    其二,技術(shù)理性異化。自近代以來,現(xiàn)代性的發(fā)展可謂一路凱歌,但后現(xiàn)代主義的反思也接踵而至。特別是對技術(shù)理性異化的反思,為人類敲響了警鐘——“技術(shù)理性和人類的價值在爭奪現(xiàn)代人的靈魂”。進入數(shù)字時代后,基于數(shù)據(jù)和算法的技術(shù)理性獲得迅猛發(fā)展,以至于給人們留下了“機器越來越像人,人越來越像機器”的印象。一旦“人類自我形象的計算機化將主體置于程序化設施和程序設計員的位置上”,那就是現(xiàn)代人“互相按對方的按鈕”。在一些地方的數(shù)智治理過程中,“自動化系統(tǒng)已經(jīng)由簡單的行政管理工具變成了主要的‘決策者’”,而數(shù)據(jù)畫像、算法偏見、信息繭房等,其計算邏輯都在不同程度上侵蝕了人文精神,甚至形成某種技術(shù)主宰、工具主義和技術(shù)異化。此外,還有一些地方在數(shù)智治理中大量采用AI系統(tǒng)進行畫像識別、分析預測、分類監(jiān)控、預警處置,這就“加劇了城市的兩極分化和社會隔閡,增加了個人隱私和公共部門信息泄露的風險,也惡化了社會治理的碎片化問題,產(chǎn)生了由技術(shù)官僚化帶來的計算機官僚主義為城市設置的新的道德秩序”??梢?,克服數(shù)智治理中的技術(shù)理性異化,促進科技向善,實現(xiàn)數(shù)字正義,已成為數(shù)字時代的重大課題。

    三、法治悖論的化解策略

    數(shù)智治理的四重法治悖論,具有特殊的時代背景和深刻的復雜原因,而化解這些悖論也不會是輕而易舉的。因此,需要立足數(shù)字社會規(guī)律和國家發(fā)展大局,采取系統(tǒng)化、機制化、戰(zhàn)略性的方案策略。

    (一)數(shù)智治理的合理定位

    盡管數(shù)智治理是數(shù)字時代的治理機制與模式創(chuàng)新,然而,對它的不同認識和定位,也會形成不同的探索方向和建設目標,并對上述法治悖論的出現(xiàn)和化解產(chǎn)生重要影響。

    從數(shù)智治理的目前發(fā)展情況看,可能需要淡化五個“主義”。一是淡化現(xiàn)代主義,即數(shù)智治理固然離不開現(xiàn)代主義的治理理論、治理要素和治理方式,但數(shù)智治理卻不是現(xiàn)代性路線上的直線延展,而是數(shù)字時代的“超現(xiàn)代性”螺旋上升邏輯。因此,不宜把數(shù)智治理僅僅局限在治理體系和治理能力的現(xiàn)代化上,更應注重它對現(xiàn)代化治理模式的突破和超越上,更多遵循數(shù)字社會運行規(guī)律。二是淡化功利主義,即不能僅僅以技術(shù)賦能、強化職能、拓展業(yè)務為基點,而應把數(shù)智治理視為便捷高效、提質(zhì)增效、提供民生福祉的創(chuàng)新探索。三是淡化工具主義,即不能把數(shù)智治理當成新型的權(quán)力工具、維穩(wěn)工具,而應視其為服務社會、保障民權(quán)的主要載體。四是淡化形式主義,即不能把數(shù)智治理當成一個數(shù)字化的政績工程、面子工程,而應實實在在地推進數(shù)智治理變革。五是淡化技術(shù)主義,即不能過于強調(diào)數(shù)智治理的技術(shù)控制和技術(shù)至上,而應讓技術(shù)輔助人類、造福人類,強化智能倫理和人文關懷。

    淡化這五個“主義”的目的,就是要回歸數(shù)智治理的應有定位,發(fā)揮其應有的數(shù)字法治功能。國家《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》明確指出:“數(shù)字經(jīng)濟發(fā)展速度之快、輻射范圍之廣、影響程度之深前所未有,正推動生產(chǎn)方式、生活方式和治理方式深刻變革,成為重組全球要素資源、重塑全球經(jīng)濟結(jié)構(gòu)、改變?nèi)蚋偁幐窬值年P鍵力量?!闭憬?、上海等地堅持革命性重塑和打造“數(shù)治”新范式,把數(shù)智治理視為一個基礎性、全局性、根本性的創(chuàng)新探索過程,這才是數(shù)智治理的本質(zhì)和方向所在。也就是說,數(shù)智治理是一個從量變到質(zhì)變的迭代轉(zhuǎn)型和治理升級,是超越工商時代的數(shù)字社會治理形態(tài)。只有從這種定位出發(fā),才能從根本上、底層上減少“新瓶裝舊酒”、內(nèi)在機制沖突以及權(quán)力“搭便車”等問題,從而有效化解數(shù)智治理的賦權(quán)悖論、參與悖論、規(guī)制悖論和人文悖論,發(fā)揮數(shù)智治理的應有功能和成效。

    (二)納入數(shù)字法治框架

    由于數(shù)智治理是反映數(shù)字社會發(fā)展規(guī)律的新型治理模式與機制,因此,它不僅要體現(xiàn)法治要求,更要體現(xiàn)數(shù)字法治要求。必須納入數(shù)字法治框架,進而以數(shù)字法治方式和途徑去化解數(shù)智治理的四重悖論。

    首先,以數(shù)字法治政府為牽引?;谖覈鴩楹椭贫润w制,黨委和政府無疑是數(shù)智治理的核心和主導。黨的十九屆四中全會《決定》指出,要完善黨委領導、政府負責、民主協(xié)商、社會協(xié)同、公眾參與、法治保障、科技支撐的社會治理體系,建設人人有責、人人盡責、人人享有的社會治理共同體。2021年8月發(fā)布的《法治政府建設實施綱要(2021-2025年)》作出從數(shù)字政府到數(shù)字法治政府的戰(zhàn)略轉(zhuǎn)向,但這一轉(zhuǎn)向卻不只是“監(jiān)管的數(shù)字技術(shù)”或者“數(shù)字技術(shù)的監(jiān)管”,而是“一種適應數(shù)字時代的要求,是對政府理念、機構(gòu)、職能、流程再造的法治化進程”。這樣,數(shù)字法治政府的整體性重塑,就會有效地驅(qū)動、牽引數(shù)智治理在數(shù)字法治的框架內(nèi)展開和發(fā)展。相反,如果黨委和政府的理念跟不上時代步伐,體制機制陳舊僵化,那么,數(shù)智治理就不可能獲得創(chuàng)新發(fā)展,有些時候還會成為導致四重法治悖論的重要原因,進而使數(shù)智治理受到阻滯和消解??梢姡挥幸詳?shù)字法治政府為牽引,才能更好地推進數(shù)智治理,塑造新時代的數(shù)字法治秩序。

    其次,確立和堅持數(shù)字正義價值。數(shù)智治理是數(shù)字法治建設的重要動力和基礎,也是數(shù)字法治建設的重要內(nèi)容和機制。必須秉持數(shù)字正義價值觀,才能更好地化解其法治悖論,發(fā)揮其數(shù)字法治功能。具言之,一是貫徹合法性、正當性、合理性原則,在數(shù)據(jù)收集和處理、算法設計和運用、平臺架構(gòu)與運行等方面,都應遵守網(wǎng)絡安全法、數(shù)據(jù)安全法、個人信息保護法以及互聯(lián)網(wǎng)信息服務管理辦法等的規(guī)則約束,確保全流程合法、科學合理、促進公平效率;二是貫徹共建共治共享原則,保持數(shù)智治理過程的公開透明、擴大社會參與、增強普惠包容、促進協(xié)同共享,避免人工智能技術(shù)的誤用濫用和算法黑箱操作,杜絕數(shù)智治理的異化發(fā)展,維護社會公平正義;三是堅持比例原則,在數(shù)智治理的技術(shù)應用和機制運行過程中,對自身賦權(quán)和權(quán)力行使應控制在所必要、所必需的范圍和合理限度內(nèi),不可憑借數(shù)智治理來過度增強控制力量或者回避制度約束;對社會公眾權(quán)利和自由的不利影響應保持在最小范圍、最低限度之內(nèi),從而充分尊重和保護民眾權(quán)利,使數(shù)智治理更好地增進社會福祉;四是堅持數(shù)字人權(quán)保護原則,尤其是要克服數(shù)字鴻溝、算法歧視、算法濫用等問題,確保數(shù)字生存權(quán)、平等權(quán)和人格尊嚴。

    第三,落實參與監(jiān)督機制。事實表明,離開民主參與和社會監(jiān)督,無論是傳統(tǒng)的社會治理,還是新型的數(shù)智治理,都會被抽空治理的實質(zhì),變成一種空洞的形式。為此,黨和政府一直高度重視公眾的民主參與和監(jiān)督,2021年上升為“發(fā)展全過程人民民主”。全過程人民民主體現(xiàn)在數(shù)智治理上,就是強化電子選舉、數(shù)智參與、數(shù)智監(jiān)督和數(shù)智治理的法治評價,同時,強化數(shù)智治理中的分工制約和相互監(jiān)督。只有這樣,才能有效化解數(shù)智治理的四重法治悖論,實現(xiàn)數(shù)智治理的預期目標和效能。

    (三)培養(yǎng)數(shù)字公民能力

    數(shù)智治理之所以會出現(xiàn)法治悖論,一個很重要的原因就是數(shù)智治理的技術(shù)性、復雜性、自動性而強化了其封閉性、自主性,這就無形中限制和削弱了公民參與和社會監(jiān)督。為了更好地推進數(shù)智治理,就必須“立足公民的需求,智慧地使用資源,做出智慧決策,推動可持續(xù)經(jīng)濟增長和提高居民生活質(zhì)量。同時培育公共生活中的多元主體,平衡科學與民主、技術(shù)與治理、技術(shù)與政治之間的關系”。首先,確立數(shù)字法治精神。作為主導者的黨委和政府,應當按照數(shù)字思維、數(shù)字規(guī)則和數(shù)字正義理念來設計、推進數(shù)智治理;作為參與者的社會公眾,應該確立數(shù)字公民精神,形成數(shù)字規(guī)則意識、數(shù)字權(quán)利義務意識、數(shù)字參與意識和數(shù)字監(jiān)督意識,從而督促數(shù)智治理不至于脫離法治軌道。其次,塑造數(shù)字參與能力,國家《“十四五”規(guī)劃和2035年遠景目標綱要》就明確要求,“加強全民數(shù)字技能教育和培訓,普及提升公民數(shù)字素養(yǎng)”,特別是要消除數(shù)字鴻溝,形成必要的數(shù)字素養(yǎng)和數(shù)字駕馭能力,能夠運用數(shù)字方式和數(shù)字手段來深度參與數(shù)智治理過程,實現(xiàn)對數(shù)智治理的全過程民主監(jiān)督,抑制數(shù)智治理悖論和異化;第三,培養(yǎng)數(shù)字行動能力,按照國家《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》和網(wǎng)信辦《提升全民數(shù)字素養(yǎng)與技能行動綱要》的要求,要提升全民數(shù)字素養(yǎng)和技能,讓“數(shù)字技能進社區(qū)”“數(shù)字技能進社區(qū)”等,以增強每個人的數(shù)字防護和進行司法救濟的能力,在數(shù)智治理中維護自身的合法權(quán)益;第四,提升數(shù)字協(xié)商能力,善于進行數(shù)字表達和數(shù)字溝通,避免網(wǎng)絡暴力和價值撕裂,促進數(shù)智治理中的共識協(xié)作;第五,強化數(shù)字自律能力,即每個人不僅是一個自然公民,同時也是一個數(shù)字公民,要在虛擬化、流動化、扁平化的數(shù)智治理過程中,形成良好的理性精神和自律能力,從而更好地參與數(shù)智治理進程,維護自身合法權(quán)益,促進數(shù)字法治秩序。

    (四)構(gòu)筑數(shù)字社會“道德基礎設施”

    眾所周知,數(shù)字技術(shù)在給人類驚喜、機會和福祉的同時,也帶來了相當?shù)纳鐣L險,數(shù)智治理也是如此。其中的算法決策既會算錯、失控,也會承繼,甚至放大人類社會的歧視與不平等。因此,“面對可能超越人類智力的算法所帶來的多重風險時,政府、市場及社會應在AI治理中形成多元、多層次的治理能力,以積極的姿態(tài)降低AI風險,以最大化享受AI勝利所帶來的生產(chǎn)力解放、生活便利舒適及決策的科學與理性”。其中很重要的就是要讓“機會和風險可以得到恰當?shù)臋?quán)衡”。這樣,數(shù)字時代的技術(shù)倫理就不再是一種價值追求,而是一種必不可少的“道德基礎設施”。為此,構(gòu)建這種“道德基礎設施”就成為近年來的一個國際性主題。2019年歐盟委員會高級AI專家組(AI HLEG)發(fā)布《可信賴AI倫理指南》,2021年11月在第41屆聯(lián)合國教科文組織大會上通過全球首份《人工智能倫理問題建議書》。我國也先后發(fā)布了新一代人工智能治理原則、規(guī)范和科技倫理治理政策等。這些重要規(guī)范和政策,對推動人工智能安全可靠、可控可信和可持續(xù)發(fā)展,具有重要的意義和價值,也是化解數(shù)智人文悖論的根本所在。

    結(jié) 語

    數(shù)智治理在形式上是一種技術(shù)與人文融合貫通的治理創(chuàng)新,而在本質(zhì)上則是一個從現(xiàn)代主義邁向超現(xiàn)代主義的重大歷史變革,是從“物理世界”邁向“數(shù)字世界”的深刻轉(zhuǎn)型,因而是人類社會治理形態(tài)的數(shù)字轉(zhuǎn)型與迭代升級。但是,數(shù)智治理也衍生了權(quán)力技術(shù)化、技術(shù)權(quán)力化限縮社會參與、逃避法律規(guī)制和技術(shù)理性蔓延等嚴重問題,為此,必須把數(shù)智治理納入數(shù)字法治框架來推進和完善。只有這樣,才能有效化解數(shù)智治理的法治悖論,實現(xiàn)數(shù)字時代賦予數(shù)智治理的重大使命。

    猜你喜歡
    數(shù)智法治數(shù)字化
    專題《數(shù)智共生 設計未來》
    包裝工程(2024年8期)2024-04-23 04:03:58
    路安炎:按下中國造紙業(yè)“數(shù)智轉(zhuǎn)型”啟動鍵
    華人時刊(2023年1期)2023-03-14 06:43:44
    網(wǎng)安天下?lián)姑鼣?shù)智引領向未來"雙引擎"驅(qū)動現(xiàn)代警務創(chuàng)新人才培養(yǎng)(計信系攝影報道)
    鄉(xiāng)鄉(xiāng)鎮(zhèn)鎮(zhèn)通5G”建設助力山西“數(shù)智”轉(zhuǎn)型
    送法進企“典”亮法治之路
    家紡業(yè)亟待數(shù)字化賦能
    高中數(shù)學“一對一”數(shù)字化學習實踐探索
    高中數(shù)學“一對一”數(shù)字化學習實踐探索
    反家庭暴力必須厲行法治
    人大建設(2018年3期)2018-06-06 03:11:01
    以德促法 以法治國
    在线观看免费高清a一片| 久99久视频精品免费| 久久人妻熟女aⅴ| 男女免费视频国产| 男女之事视频高清在线观看| 日韩视频一区二区在线观看| 成年女人毛片免费观看观看9 | 色尼玛亚洲综合影院| 正在播放国产对白刺激| 高潮久久久久久久久久久不卡| 一区二区三区国产精品乱码| 亚洲中文日韩欧美视频| 久久 成人 亚洲| 韩国av一区二区三区四区| 韩国av一区二区三区四区| 曰老女人黄片| 日本黄色视频三级网站网址 | 高清毛片免费观看视频网站 | 国产男女超爽视频在线观看| 亚洲国产精品一区二区三区在线| 天天操日日干夜夜撸| 免费人成视频x8x8入口观看| 中国美女看黄片| 超色免费av| 欧美人与性动交α欧美精品济南到| 国产成人av教育| 老司机午夜福利在线观看视频| 久久久久精品国产欧美久久久| 亚洲精品av麻豆狂野| 老司机深夜福利视频在线观看| 欧美不卡视频在线免费观看 | 最新美女视频免费是黄的| 国产男女内射视频| 国产人伦9x9x在线观看| 精品第一国产精品| 女人精品久久久久毛片| 丰满人妻熟妇乱又伦精品不卡| 最新美女视频免费是黄的| 韩国av一区二区三区四区| 又紧又爽又黄一区二区| 国产无遮挡羞羞视频在线观看| www.自偷自拍.com| 亚洲片人在线观看| 国产精品.久久久| 国产一区二区三区在线臀色熟女 | cao死你这个sao货| 亚洲人成电影观看| 国产精华一区二区三区| 免费观看a级毛片全部| 麻豆av在线久日| 中国美女看黄片| 亚洲五月天丁香| 天天操日日干夜夜撸| 免费人成视频x8x8入口观看| 欧美日韩福利视频一区二区| 老司机午夜十八禁免费视频| 午夜久久久在线观看| av国产精品久久久久影院| 欧美性长视频在线观看| 男人舔女人的私密视频| 国产精品久久久人人做人人爽| 精品国产美女av久久久久小说| 精品国产一区二区三区四区第35| 亚洲片人在线观看| 91av网站免费观看| 99热国产这里只有精品6| 热99re8久久精品国产| 亚洲精品乱久久久久久| 国产高清videossex| 97人妻天天添夜夜摸| 啦啦啦免费观看视频1| 国产精品av久久久久免费| 日韩一卡2卡3卡4卡2021年| 成人精品一区二区免费| 成人av一区二区三区在线看| 老司机影院毛片| 精品无人区乱码1区二区| 色综合婷婷激情| av线在线观看网站| 国产亚洲精品久久久久5区| e午夜精品久久久久久久| 亚洲中文日韩欧美视频| 国产在线观看jvid| 国产成人精品久久二区二区91| 一级片'在线观看视频| av不卡在线播放| 搡老岳熟女国产| 少妇裸体淫交视频免费看高清 | 操美女的视频在线观看| 午夜福利影视在线免费观看| 自线自在国产av| 深夜精品福利| 欧美人与性动交α欧美精品济南到| 国产成人av激情在线播放| 不卡一级毛片| 天堂动漫精品| 国产精品秋霞免费鲁丝片| 久久国产亚洲av麻豆专区| 一区二区三区激情视频| 亚洲欧美色中文字幕在线| 亚洲精品在线观看二区| 亚洲熟女精品中文字幕| 国产欧美日韩综合在线一区二区| 一区二区三区精品91| 午夜精品在线福利| 性少妇av在线| 女人爽到高潮嗷嗷叫在线视频| 久久人人97超碰香蕉20202| 99在线人妻在线中文字幕 | 久久久国产精品麻豆| 如日韩欧美国产精品一区二区三区| 国产人伦9x9x在线观看| 久久久精品区二区三区| 18禁国产床啪视频网站| 欧美亚洲 丝袜 人妻 在线| 欧美大码av| 黑人巨大精品欧美一区二区mp4| 久久精品国产亚洲av香蕉五月 | 亚洲精品国产区一区二| 亚洲av日韩精品久久久久久密| 久久性视频一级片| 国产成人免费无遮挡视频| 婷婷成人精品国产| 亚洲第一av免费看| 午夜福利,免费看| 十八禁网站免费在线| 国内毛片毛片毛片毛片毛片| 这个男人来自地球电影免费观看| 色综合欧美亚洲国产小说| 一本综合久久免费| 亚洲熟女毛片儿| 国产一区在线观看成人免费| 亚洲人成77777在线视频| 免费看十八禁软件| 亚洲国产中文字幕在线视频| 超碰成人久久| 新久久久久国产一级毛片| 91成年电影在线观看| 国产av又大| 高清在线国产一区| 少妇猛男粗大的猛烈进出视频| 亚洲精品国产色婷婷电影| 亚洲中文日韩欧美视频| 99久久人妻综合| 国产三级黄色录像| 国产精品免费大片| 一区二区三区激情视频| 叶爱在线成人免费视频播放| 十分钟在线观看高清视频www| 久久人人爽av亚洲精品天堂| 精品国产国语对白av| 好看av亚洲va欧美ⅴa在| 国产乱人伦免费视频| 少妇粗大呻吟视频| 午夜亚洲福利在线播放| 高潮久久久久久久久久久不卡| 午夜两性在线视频| 国产真人三级小视频在线观看| avwww免费| 99热只有精品国产| 久久精品91无色码中文字幕| 一级毛片高清免费大全| 久久精品熟女亚洲av麻豆精品| 十八禁人妻一区二区| 一级毛片精品| 黄色女人牲交| 国产精品美女特级片免费视频播放器 | 亚洲精品一二三| bbb黄色大片| 国产精品乱码一区二三区的特点 | 国产日韩欧美亚洲二区| 亚洲精品自拍成人| 久久精品国产综合久久久| 午夜福利乱码中文字幕| 性少妇av在线| 久久国产精品影院| 中文字幕人妻丝袜制服| 看免费av毛片| 亚洲欧美色中文字幕在线| av超薄肉色丝袜交足视频| 黄色怎么调成土黄色| 午夜福利视频在线观看免费| 日本a在线网址| 成熟少妇高潮喷水视频| 高清在线国产一区| 亚洲va日本ⅴa欧美va伊人久久| 少妇粗大呻吟视频| 99国产极品粉嫩在线观看| 精品一区二区三区视频在线观看免费 | 男女床上黄色一级片免费看| 国产成人精品无人区| 欧美成人免费av一区二区三区 | 久久亚洲精品不卡| 欧美人与性动交α欧美精品济南到| 国产精品免费大片| 免费在线观看视频国产中文字幕亚洲| 午夜影院日韩av| 亚洲一码二码三码区别大吗| 一级毛片精品| 日本五十路高清| 精品国产乱码久久久久久男人| 免费在线观看亚洲国产| 久久久精品区二区三区| 欧美日韩亚洲综合一区二区三区_| 两人在一起打扑克的视频| av免费在线观看网站| 欧美老熟妇乱子伦牲交| 777米奇影视久久| 黑人巨大精品欧美一区二区mp4| 久久天堂一区二区三区四区| 91麻豆av在线| 91九色精品人成在线观看| 午夜精品国产一区二区电影| 自线自在国产av| 精品电影一区二区在线| 免费黄频网站在线观看国产| 天堂√8在线中文| 免费人成视频x8x8入口观看| 性少妇av在线| 99久久综合精品五月天人人| 制服人妻中文乱码| 丁香六月欧美| 老司机靠b影院| 大香蕉久久网| 精品久久蜜臀av无| 黑人巨大精品欧美一区二区mp4| 日韩视频一区二区在线观看| 国产激情久久老熟女| av免费在线观看网站| 久久精品国产亚洲av香蕉五月 | 深夜精品福利| 色综合欧美亚洲国产小说| 亚洲精品一卡2卡三卡4卡5卡| 国产免费现黄频在线看| 无人区码免费观看不卡| 九色亚洲精品在线播放| 亚洲久久久国产精品| 免费不卡黄色视频| 好看av亚洲va欧美ⅴa在| 成年动漫av网址| av超薄肉色丝袜交足视频| 久久午夜综合久久蜜桃| 女人高潮潮喷娇喘18禁视频| 亚洲五月婷婷丁香| 精品久久久精品久久久| 欧美黑人精品巨大| 桃红色精品国产亚洲av| 岛国在线观看网站| 国产精品免费一区二区三区在线 | 中文字幕色久视频| 亚洲欧美激情在线| 国产精品久久视频播放| 一级毛片高清免费大全| 欧美在线黄色| 一区在线观看完整版| 中文字幕av电影在线播放| 村上凉子中文字幕在线| 色精品久久人妻99蜜桃| 久久青草综合色| 少妇被粗大的猛进出69影院| 日韩有码中文字幕| 又黄又粗又硬又大视频| 午夜福利乱码中文字幕| 欧美日韩视频精品一区| 久久精品亚洲熟妇少妇任你| 90打野战视频偷拍视频| 欧美精品av麻豆av| 一区二区三区激情视频| 精品国产一区二区三区久久久樱花| 狂野欧美激情性xxxx| 亚洲午夜精品一区,二区,三区| 国产不卡av网站在线观看| 久9热在线精品视频| 777久久人妻少妇嫩草av网站| 捣出白浆h1v1| 欧美成人免费av一区二区三区 | 国产高清激情床上av| 老司机午夜十八禁免费视频| www日本在线高清视频| 亚洲成人国产一区在线观看| 免费不卡黄色视频| 午夜免费成人在线视频| 国产精品 国内视频| 黄色a级毛片大全视频| av线在线观看网站| 免费观看a级毛片全部| 高清欧美精品videossex| 国产免费av片在线观看野外av| 男人操女人黄网站| 亚洲专区字幕在线| 精品国产一区二区三区久久久樱花| 欧美日韩亚洲国产一区二区在线观看 | 中文字幕精品免费在线观看视频| av视频免费观看在线观看| 一区在线观看完整版| 国产亚洲精品一区二区www | 成人黄色视频免费在线看| 国产成人一区二区三区免费视频网站| 精品国产一区二区久久| 国内久久婷婷六月综合欲色啪| 精品国产国语对白av| 亚洲国产欧美日韩在线播放| 高清视频免费观看一区二区| av网站免费在线观看视频| 十分钟在线观看高清视频www| 看黄色毛片网站| 亚洲成人免费电影在线观看| 中文字幕制服av| av视频免费观看在线观看| 男女之事视频高清在线观看| 欧美日韩福利视频一区二区| 久久ye,这里只有精品| 岛国在线观看网站| av欧美777| 18禁裸乳无遮挡免费网站照片 | 免费av中文字幕在线| 国产精品久久久久久精品古装| 成在线人永久免费视频| netflix在线观看网站| 19禁男女啪啪无遮挡网站| 成年女人毛片免费观看观看9 | 国产av一区二区精品久久| 男人操女人黄网站| 飞空精品影院首页| 国产精品一区二区在线观看99| 老司机福利观看| 大香蕉久久网| 亚洲成av片中文字幕在线观看| 欧美黄色片欧美黄色片| 叶爱在线成人免费视频播放| 国产成人av教育| 两性午夜刺激爽爽歪歪视频在线观看 | 久久精品人人爽人人爽视色| 我的亚洲天堂| 欧美黄色片欧美黄色片| 欧美成人免费av一区二区三区 | 亚洲精品中文字幕一二三四区| 国产在线精品亚洲第一网站| 99国产精品免费福利视频| 国产亚洲欧美98| 午夜两性在线视频| 久久久久久久精品吃奶| av免费在线观看网站| 色94色欧美一区二区| svipshipincom国产片| 三上悠亚av全集在线观看| 男人操女人黄网站| 在线观看66精品国产| 色精品久久人妻99蜜桃| 一本综合久久免费| 久久人妻福利社区极品人妻图片| 在线国产一区二区在线| 亚洲精品美女久久av网站| 欧美另类亚洲清纯唯美| 国产日韩欧美亚洲二区| 可以免费在线观看a视频的电影网站| 在线观看免费视频日本深夜| 高清毛片免费观看视频网站 | svipshipincom国产片| 国产又色又爽无遮挡免费看| 国产麻豆69| 丝瓜视频免费看黄片| 亚洲av日韩在线播放| 窝窝影院91人妻| 波多野结衣av一区二区av| 国产在视频线精品| 高清在线国产一区| 国产欧美日韩一区二区三区在线| 精品国产一区二区三区久久久樱花| 久久ye,这里只有精品| 丝袜在线中文字幕| 黄色视频,在线免费观看| 99精品久久久久人妻精品| 亚洲国产欧美网| videos熟女内射| 老鸭窝网址在线观看| 久久久久视频综合| 老司机亚洲免费影院| 在线观看免费视频网站a站| 高清黄色对白视频在线免费看| 久久久国产一区二区| 曰老女人黄片| 精品一品国产午夜福利视频| av超薄肉色丝袜交足视频| 亚洲熟妇中文字幕五十中出 | 多毛熟女@视频| 亚洲国产精品合色在线| 丁香欧美五月| 欧美在线一区亚洲| 国产精品免费大片| 天堂俺去俺来也www色官网| 欧美日本中文国产一区发布| 制服诱惑二区| 成人影院久久| 中文亚洲av片在线观看爽 | 亚洲熟女精品中文字幕| 国产精品电影一区二区三区 | 国产精品 国内视频| 黄色丝袜av网址大全| 精品国产超薄肉色丝袜足j| 捣出白浆h1v1| 久久久久久久精品吃奶| 欧美老熟妇乱子伦牲交| 国产欧美日韩一区二区精品| 亚洲中文日韩欧美视频| 无遮挡黄片免费观看| 母亲3免费完整高清在线观看| 国产成人啪精品午夜网站| 亚洲精品成人av观看孕妇| 国产一区二区三区综合在线观看| 首页视频小说图片口味搜索| 丰满人妻熟妇乱又伦精品不卡| 国产免费男女视频| 日本欧美视频一区| 国产精品 国内视频| 精品少妇久久久久久888优播| 老汉色∧v一级毛片| 国产精品自产拍在线观看55亚洲 | 国产熟女午夜一区二区三区| 欧美黄色淫秽网站| 最近最新中文字幕大全电影3 | 免费在线观看日本一区| 三上悠亚av全集在线观看| 欧美日本中文国产一区发布| 欧美日韩一级在线毛片| 亚洲成人手机| 大型黄色视频在线免费观看| 午夜福利,免费看| 久久香蕉激情| 黑人欧美特级aaaaaa片| 国产视频一区二区在线看| 精品一区二区三卡| 中文字幕另类日韩欧美亚洲嫩草| av片东京热男人的天堂| 下体分泌物呈黄色| 久久国产乱子伦精品免费另类| 90打野战视频偷拍视频| 18禁黄网站禁片午夜丰满| av电影中文网址| 欧美日韩亚洲高清精品| 国产男女超爽视频在线观看| 91字幕亚洲| 国产精品.久久久| 国产成人av教育| av天堂久久9| 国产99白浆流出| 深夜精品福利| 国产单亲对白刺激| 久久久久久免费高清国产稀缺| 老汉色av国产亚洲站长工具| 满18在线观看网站| 波多野结衣一区麻豆| 久久国产精品人妻蜜桃| 曰老女人黄片| 国产精品影院久久| 欧美午夜高清在线| 18禁裸乳无遮挡免费网站照片 | 99热国产这里只有精品6| 黄片播放在线免费| 麻豆成人av在线观看| 欧美黑人精品巨大| 母亲3免费完整高清在线观看| 操美女的视频在线观看| 老司机在亚洲福利影院| 午夜福利欧美成人| 亚洲精品成人av观看孕妇| 亚洲国产精品sss在线观看 | 免费日韩欧美在线观看| 不卡一级毛片| 欧美日韩乱码在线| 午夜成年电影在线免费观看| 黄色 视频免费看| 日韩人妻精品一区2区三区| 中文字幕av电影在线播放| 一级a爱片免费观看的视频| 中文欧美无线码| 亚洲一区二区三区不卡视频| 日韩欧美一区视频在线观看| 欧美日本中文国产一区发布| 这个男人来自地球电影免费观看| 高潮久久久久久久久久久不卡| 男人舔女人的私密视频| 成年人免费黄色播放视频| 嫁个100分男人电影在线观看| 国产精品电影一区二区三区 | 国产一区二区三区在线臀色熟女 | 亚洲国产毛片av蜜桃av| 岛国毛片在线播放| 午夜精品久久久久久毛片777| 精品久久久久久久久久免费视频 | 女人精品久久久久毛片| 精品一区二区三区视频在线观看免费 | 久久人妻福利社区极品人妻图片| 精品国产乱子伦一区二区三区| 国产不卡一卡二| 女警被强在线播放| 曰老女人黄片| 国产精品免费一区二区三区在线 | 国产成人精品无人区| 免费在线观看视频国产中文字幕亚洲| 一二三四社区在线视频社区8| 精品国产一区二区久久| 成人特级黄色片久久久久久久| 久久午夜亚洲精品久久| 搡老熟女国产l中国老女人| 一本一本久久a久久精品综合妖精| 十八禁人妻一区二区| 国产激情欧美一区二区| 国产精品久久久av美女十八| 欧美日韩福利视频一区二区| 国产亚洲av高清不卡| 一个人免费在线观看的高清视频| 正在播放国产对白刺激| 999久久久精品免费观看国产| 亚洲中文av在线| 9色porny在线观看| 91字幕亚洲| 亚洲国产欧美一区二区综合| 亚洲一区中文字幕在线| 老汉色av国产亚洲站长工具| 色尼玛亚洲综合影院| 亚洲av美国av| 18禁裸乳无遮挡动漫免费视频| 真人做人爱边吃奶动态| 国产欧美亚洲国产| 一级片'在线观看视频| 亚洲 国产 在线| 国产区一区二久久| 日韩中文字幕欧美一区二区| 天堂√8在线中文| 成人18禁在线播放| 国产精品亚洲一级av第二区| 欧美日韩中文字幕国产精品一区二区三区 | 美国免费a级毛片| 18禁国产床啪视频网站| 欧美人与性动交α欧美精品济南到| 每晚都被弄得嗷嗷叫到高潮| 一夜夜www| 一本综合久久免费| 免费看十八禁软件| 国产一区二区三区视频了| 国产免费av片在线观看野外av| 国产1区2区3区精品| 久久亚洲真实| 乱人伦中国视频| 午夜久久久在线观看| 日韩三级视频一区二区三区| 老熟妇乱子伦视频在线观看| 无人区码免费观看不卡| 午夜福利视频在线观看免费| 欧美久久黑人一区二区| 免费高清在线观看日韩| 国产精品乱码一区二三区的特点 | 久久精品亚洲av国产电影网| 中文字幕色久视频| 天天躁日日躁夜夜躁夜夜| 美女视频免费永久观看网站| 免费在线观看影片大全网站| www日本在线高清视频| 亚洲熟女毛片儿| 巨乳人妻的诱惑在线观看| 日本黄色日本黄色录像| 交换朋友夫妻互换小说| 夜夜夜夜夜久久久久| 午夜久久久在线观看| 国产免费男女视频| 自线自在国产av| 国产欧美日韩一区二区三| 国产精品九九99| 精品福利永久在线观看| 久久久久视频综合| 精品高清国产在线一区| 国产亚洲精品久久久久久毛片 | 亚洲aⅴ乱码一区二区在线播放 | 在线十欧美十亚洲十日本专区| 一二三四在线观看免费中文在| 少妇粗大呻吟视频| 他把我摸到了高潮在线观看| 精品无人区乱码1区二区| 亚洲熟女毛片儿| 男人操女人黄网站| 夜夜躁狠狠躁天天躁| 国产日韩欧美亚洲二区| 一级,二级,三级黄色视频| 99国产精品一区二区蜜桃av | 香蕉丝袜av| 久久久久视频综合| 黄色成人免费大全| 久久久国产精品麻豆| av福利片在线| 少妇 在线观看| 国产伦人伦偷精品视频| 亚洲欧美日韩高清在线视频| 国产真人三级小视频在线观看| 中文欧美无线码| 欧美乱色亚洲激情| 99re6热这里在线精品视频| 欧美一级毛片孕妇| 老汉色∧v一级毛片| 国产精品成人在线| 国产精品乱码一区二三区的特点 | 精品福利观看| 日韩三级视频一区二区三区| 欧美一级毛片孕妇| 欧美日韩亚洲高清精品| 狠狠婷婷综合久久久久久88av| 亚洲精品国产一区二区精华液| 建设人人有责人人尽责人人享有的| 日本a在线网址| 少妇猛男粗大的猛烈进出视频| 狠狠婷婷综合久久久久久88av| 少妇 在线观看| 免费观看a级毛片全部| 99久久人妻综合| 日本撒尿小便嘘嘘汇集6|