• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    新時代數(shù)字治理的主體性困境及其科層制破解

    2023-05-30 19:26:55康雅倩
    理論導(dǎo)刊 2023年3期
    關(guān)鍵詞:數(shù)字治理科層制主體意識

    摘 要:近年來,數(shù)字治理以其數(shù)字化、信息化、智能化的優(yōu)勢突破了科層制政府碎片化條塊分割的治理格局,使治理水平得到質(zhì)的提升。盡管數(shù)字治理為國家與社會治理帶來了勃勃生機,但同時也陷入一定的主體性困境,如主體中心地位受到威脅、主體意識發(fā)展受到阻礙以及主體隱私面臨安全危機等。而科層制憑借制度性、專業(yè)性、科層監(jiān)督機制等在一定程度上紓解了數(shù)字治理的主體性困境。因此,可借助科層制,通過規(guī)范數(shù)字治理權(quán)力的使用邊界,健全數(shù)據(jù)使用的科層制監(jiān)督機制,建設(shè)以人為本、權(quán)責(zé)一致的數(shù)字治理科層制體系,破解數(shù)字治理主體性困境。

    關(guān)鍵詞:數(shù)字治理;主體地位;主體意識;主體安全;科層制

    中圖分類號:D63

    文獻標志碼:A 文章編號:1002-7408(2023)03-0018-08

    基金項目:國家社會科學(xué)基金項目“中國共產(chǎn)黨提升國家治理效能的運行機制研究”(21BKS199)階段性成果。

    作者簡介:康雅倩(1993—),女,石家莊人,中山大學(xué)馬克思主義學(xué)院博士研究生,研究方向:馬克思主義基本原理。

    一直以來,科層制意味著權(quán)力僵化、結(jié)構(gòu)固化,數(shù)字治理的盛行打破了僵化的格局,為國家與社會治理帶來勃勃生機。學(xué)者們開始關(guān)注數(shù)字治理對科層制的突破與創(chuàng)新,有學(xué)者認為數(shù)字治理改變了科層結(jié)構(gòu)的管控模式,引入治理結(jié)構(gòu)的多元化、平等化、彈性化的制度可實現(xiàn)從行政控制轉(zhuǎn)向協(xié)調(diào)與自治的平衡[1]。還有學(xué)者認為數(shù)字治理突破科層制碎片化條塊分割治理格局,提升了政府的精細化管理能力、精準化服務(wù)水平、科學(xué)化決策能力以及數(shù)字化治理能力,使得部門治理體系內(nèi)部的部門協(xié)同、精準治理、公共服務(wù)、決策反饋水平大幅度提升[2]。數(shù)字治理的發(fā)展在使國家治理水平得到質(zhì)的提升同時,數(shù)字治理的應(yīng)用也愈發(fā)廣泛,按此趨勢發(fā)展,數(shù)字治理是否可以脫離科層制,獨當一面呢?答案顯然是否定的。數(shù)字治理雖然依靠其數(shù)字化、信息化、網(wǎng)絡(luò)化和智能化特征為人們帶來諸多便利,但是如果一味無限擴大數(shù)字治理的范圍,可能會導(dǎo)致“數(shù)字利維坦”[3],人們的主體性就會受到威脅。為避免“數(shù)字利維坦”的發(fā)生,科層制政府作為數(shù)字治理的物質(zhì)載體,是否能破解數(shù)字治理的主體性困境?本文嘗試在梳理數(shù)字治理的主體性困境表現(xiàn)及其成因的基礎(chǔ)上,分析科層制破解上述困境的可能性,最后探究利用科層制應(yīng)對數(shù)字治理的主體性困境的具體措施。

    一、數(shù)字治理的主體性困境

    馬克思說:“個人怎樣表現(xiàn)自己的生活,他們自己就是怎樣?!保?]520學(xué)界一致認為,人的主體性是人作為活動主體的質(zhì)的規(guī)定性,是在與客體相互作用中得到發(fā)展的人的自覺、自主、能動和創(chuàng)造的特性[5]。主體性代表了人的自然權(quán)利與社會權(quán)利的拓展,其社會關(guān)系屬性得到體現(xiàn),其政治、自然、精神和社會屬性也得以全面發(fā)展。在數(shù)字化進程愈發(fā)加快的時代,大數(shù)據(jù)的發(fā)展逐漸對傳統(tǒng)權(quán)力呈沖擊之勢,猶如脫韁的野馬,手握韁繩的主體本應(yīng)操控之,但事與愿違,手段異化為目標,人演變成為“單向度的人”,需求、愿望、生活標準、閑暇活動被同化,政治也被同化[6]。在數(shù)字化不斷發(fā)展的趨勢下,尼葛洛龐帝總結(jié)道:“計算機不再只和計算機有關(guān),它決定我們的生存?!保?]在數(shù)字治理的大背景下,人類面臨著被“數(shù)字利維坦”淹沒的主體性危機,主要表現(xiàn)為主體中心地位受到威脅、主體意識發(fā)展受到阻礙以及主體隱私面臨安全危機。

    (一)數(shù)字治理威脅主體中心地位

    人之所以具備事實上的主體性地位,關(guān)鍵在于權(quán)力始終由人來掌握,而且形成權(quán)力的平衡[8]。馬克思曾在《資本論》中闡述了勞動力價值對于主體的重要性,“分工使這種勞動力片面化,使它只具有操縱局部工具的特定技能。一旦工具由機器來操縱,勞動力的交換價值就隨同它的使用價值一起消失。工人就像停止流通的紙幣一樣賣不出去”[9]。馬克思討論的是資本主義社會勞動力作為商品被出賣,機器的發(fā)明和使用造成勞動力過剩,人們無工可做就無法生存。同樣,數(shù)字治理打亂了各司其職的工作秩序,精簡工作程序,使一部分承擔(dān)治理工作的主體失去參與機會,造成勞動力價值“過?!?,無法在社會與國家治理中發(fā)揮作用,也就無法獲得較高的地位。以色列著名歷史學(xué)家赫拉利認為,隨著人工智能愈發(fā)強大,無產(chǎn)階級作為勞動力的效用就會逐漸降低,淪為“無用階級”,這樣一群“無用階級”的人將會沒有任何藝術(shù)、經(jīng)濟或者政治價值,對于社會的發(fā)展也全然不再發(fā)揮任何作用[10]293,他們不用承擔(dān)任何責(zé)任,被社會所供養(yǎng),可能通過藥物和電子游戲獲得滿足感[10]294。類似的觀點還有“奇點論”[11]“新異化論”[12]等,都表達了對數(shù)字治理的過度發(fā)展造成人類主體性地位危機的擔(dān)憂。

    此外,數(shù)字治理在一定程度上剝奪了主體的權(quán)力。斯各特·拉什在《信息批判》中認為,在制造業(yè)的年代,權(quán)力大體上是論說性的,而在信息的年代,權(quán)力卻大體上是信息性的[13]。在數(shù)字治理過程中,海量的數(shù)據(jù)信息處理不可能由人來完成,而是交由自動化的數(shù)據(jù)處理流程,自動化的數(shù)據(jù)決策使得人失去了主動配置數(shù)字空間資源的大部分權(quán)力。技術(shù)本身并不具備權(quán)力屬性,然而若是技術(shù)脫離了人的控制,在某些方面產(chǎn)生決定性影響,那么它就具備了權(quán)力屬性。如若機器人擁有了與人類同樣的合法權(quán)利,機器人是否會變成主要物種阻礙人類的生存成為人們最擔(dān)心的問題[14]。人類失去了治理的社會地位、話語權(quán)和參與權(quán),人工智能代替人類承擔(dān)治理任務(wù),人類就會“智能失權(quán)”[15]陷入“新貧窮陷阱”。赫拉利還提出“算法決定論”,認為21世紀新科技的發(fā)展可能會徹底扭轉(zhuǎn)人文主義革命,剝奪人類的權(quán)威,將之送到非人類的算法手中[10]312。

    主體性地位問題是數(shù)字治理帶來的所有危機中最為關(guān)鍵的問題,只有始終保持主體的主導(dǎo)性地位,社會才有發(fā)展的可能,一旦智能戰(zhàn)勝了智識,整個人類都將處于被數(shù)字支配、被算法決定的境況下,人類可能就會走向終結(jié)。因此,要始終保持對數(shù)字治理權(quán)力范疇邊界的清醒認知,不能飲鴆止渴,只圖治理便利、治理效果而忽視對智能權(quán)力邊界的限制。

    (二)數(shù)字治理阻礙主體意識發(fā)展

    數(shù)字治理在某些方面彌補了官僚制層級制的缺陷,打破了層層審批的限制,使人們參與國家與社會治理更加順暢,人們能夠更加直接地向政府部門反映意見和建議。但是,數(shù)字治理依然是一把“雙刃劍”,它在一些方面解放了人們的主體性,但是聚焦主體意識層面,它又在一定程度上壓抑了人的主體意識,從而走向另一個極端,造成人的意義與價值的空虛。

    數(shù)字治理的主體意識危機主要體現(xiàn)在兩個方面。一方面,數(shù)字治理過程中的碎片化信息將阻礙主體完整的意識發(fā)展過程。主體意識結(jié)構(gòu)的生成需要完整的時間進行思考、整理思路、系統(tǒng)梳理從而形成結(jié)論。然而,隨著數(shù)字治理范圍的不斷擴大,人們逐漸生活在一個充斥著即時信息的時代,無處不在的即時信息割裂了完整的思考過程,“碎片化的數(shù)據(jù)信息所占用的微小時間像楔子一樣不斷地侵入主體意識結(jié)構(gòu)的完整發(fā)展時間,隨著楔子數(shù)量的增多,完整的意識結(jié)構(gòu)就變得破碎不全”[16]。精神內(nèi)核被慢慢耗盡,主體逐漸陷入無法深度系統(tǒng)思考的漩渦當中,主體意識的發(fā)展受到嚴重阻礙。一件事情的發(fā)生往往只是現(xiàn)象,現(xiàn)象背后的本質(zhì)才是解決問題的關(guān)鍵。然而,數(shù)字治理的碎片化特征往往無法呈現(xiàn)事物全貌,使得主體在作出意識判斷時出現(xiàn)誤差,人們只關(guān)注眼前的碎片化信息,進行碎片化的判斷與決策?!洞髷?shù)據(jù)時代》一書作者維克托指出,由于數(shù)據(jù)量激增引發(fā)了三方面思維變革:不是隨機樣本,而是所有數(shù)據(jù);不是精確性,而是混雜性;不是因果關(guān)系,而是相關(guān)關(guān)系[17]。人們的思維方式逐漸從機械論時代笛卡爾式的要素還原主義發(fā)展為一種“具有獨特性、收集必要信息、達到展開目的原則”的“打破現(xiàn)狀”[18]的思維。

    另一方面,在數(shù)字治理中,隨著對數(shù)據(jù)的依賴越來越強,主體逐漸失去對數(shù)字治理進行反思與評估的能力。“政府治理不能喪失對復(fù)雜社會的敬畏,信息數(shù)據(jù)并不能簡單化約復(fù)雜的村莊社會,治理的本質(zhì)在于主體的博弈和互動過程,達成主體之間的共識和有序,而不是博弈的形式與技術(shù)?!保?9]社會問題涉及諸多領(lǐng)域,具有一定的復(fù)雜性,將一切問題的解決都數(shù)字化,看似簡化了治理過程,但同時也將一些問題簡單化處理,造成治理思維的單一化。如為了抗擊新冠肺炎疫情,采用“健康碼”“行程碼”等數(shù)字工具對疫情狀況進行記錄,這類措施確實對疫情防控起到一定作用,但也存在一些老人以及幼童由于沒有“健康碼”與“行程碼”,人身自由受限的情況,對“網(wǎng)絡(luò)難民”等群體造成困擾,這就需要將數(shù)字治理與線下實際措施相結(jié)合,不斷完善治理方式?,F(xiàn)如今,國家治理、政府治理、社會治理、市場治理等數(shù)字化程度越來越高,人們對數(shù)字治理的依賴程度也逐漸加深,人們在享受數(shù)字治理便捷性的同時主體意識發(fā)展受限。對數(shù)據(jù)過度依賴,一切向數(shù)字化方向發(fā)展,數(shù)字治理的弊端若未及時重視,會使人們喪失對數(shù)字治理的反思與評估能力,造成主體意識危機。

    (三)數(shù)字治理引發(fā)主體安全危機

    為什么說數(shù)字治理隱含主體安全危機?這里的安全危機不是指隱含的對肉體造成傷害的危機,而是指數(shù)字治理會導(dǎo)致主體隱私暴露使之失去安全感,甚至受到精神上的侵犯與傷害。隱私作為一種儀式使人們獲得人格,“社會群體通過它認識到——并向個人傳達——他的存在是他自己的,這是人格的前提”[20]。隱私受到侵犯,主體個人邊界被打破,其就會處于一種恐慌的缺乏安全感的狀態(tài),引發(fā)主體安全危機。

    在數(shù)字時代,人們的隱私無處遁形,每個人都要承擔(dān)自己失去隱私數(shù)據(jù)使用的自決權(quán)利。數(shù)字治理隱含的主體安全危機,主要表現(xiàn)為對主體無處不在的數(shù)據(jù)收集以及對主體數(shù)據(jù)的濫用風(fēng)險,使得主體缺乏安全感,或引發(fā)對心靈和身體的傷害。大數(shù)據(jù)從生成到處理完成,包含數(shù)據(jù)收集、數(shù)據(jù)集成與融合、數(shù)據(jù)分析以及數(shù)據(jù)解釋四個部分[21],在這四個步驟中,每個步驟都可能發(fā)生隱私泄露的風(fēng)險。例如,將數(shù)據(jù)收集到管理部門之后,部門數(shù)據(jù)管理員可能會泄露數(shù)據(jù)或者對數(shù)據(jù)進行錯誤操作。數(shù)據(jù)是眾多系統(tǒng)運作的基礎(chǔ),但數(shù)據(jù)收集過程可能會出現(xiàn)重復(fù)計算、統(tǒng)計標準存在差異、數(shù)據(jù)造假等問題。美國高德納公司曾對世界財富1000強企業(yè)進行調(diào)查,發(fā)現(xiàn)其中25%的數(shù)據(jù)存在缺陷,而且這些缺陷通常容易被忽視,不僅如此,在未來的兩年,頂級公司25%的數(shù)據(jù)仍將存在缺陷[22]。在這種情況下,錯誤數(shù)據(jù)不僅會給企業(yè)和社會帶來困擾,更會給主體帶來許多負面影響,如錯誤數(shù)據(jù)將會導(dǎo)致人們在現(xiàn)實生活中作出各種各樣錯誤的判斷。另外,大數(shù)據(jù)的二次利用大幅降低了數(shù)據(jù)處理技術(shù),削弱了數(shù)據(jù)用戶對個人信息的自決權(quán)利,徹底顛覆了傳統(tǒng)“以個人為中心”“以告知與許可為基本原則”“以匿名化為基本方式”[23]的隱私保護制度。因此,數(shù)字治理的過度發(fā)展還可能造成主體隱私安全危機,使主體無法安全地在社會中生存和發(fā)展。

    二、科層制政府對數(shù)字治理主體性困境的紓解

    數(shù)字治理作為新興發(fā)展事物,雖然隱含主體性危機,但其仍代表生產(chǎn)力和社會發(fā)展方向,也體現(xiàn)了人類無限的創(chuàng)新能力。意識到問題有助于我們保持對技術(shù)的敬畏并對其進行批判,對人與技術(shù)的關(guān)系進行冷靜的思考。數(shù)字治理是手段而不是目的,面對危機,我們不能抑制數(shù)字技術(shù)的發(fā)展,要有信心地去分析和研究如何控制和防范主體性危機。科層制作為一種政府組織形式,在人們的印象中通常是死板、僵化的代名詞。然而,科層制隨著現(xiàn)實境況的改變也在不斷發(fā)展,在強調(diào)工具理性的同時,價值理性作用不斷提升。在數(shù)字治理盛行的時代背景下,科層制在國家治理和社會治理中依然扮演著不可或缺的角色。作為數(shù)字治理的物質(zhì)載體,科層制是以人類智能主導(dǎo)的機制,其制度性特征有助于保障主體性地位,其專業(yè)性特征有助于抑制主體對數(shù)字的過度依賴,其監(jiān)督機制有助于維護主體隱私安全。人們應(yīng)牢牢把數(shù)字治理技術(shù)手段掌握在手中,握住這匹“野馬”的韁繩,掌握其發(fā)展方向與邊界,維護主體的安全與發(fā)展。

    (一)科層制的制度性特征助力保障主體性地位

    制度性是科層制的重要特征,等級制是其制度性的重要內(nèi)容。西蒙認為,等級制組織是高效率的,它更適合支配與從屬社會關(guān)系下的一般文化規(guī)范,這種制度是“盒子套盒子”的結(jié)構(gòu),權(quán)力關(guān)系呈金字塔型分布,從“上層”逐漸向“底層”延伸,等級制組織的“盒子套盒子”特點使從屬單位的專業(yè)化成為可能,并在必要的范圍內(nèi)保持相互作用和協(xié)調(diào),等級制組織有利于作為指揮和協(xié)調(diào)機制的正式權(quán)力的運用[24]。等級制這種能力是科層制優(yōu)于其它組織形式的主要原因,科層制的可分解系統(tǒng)在抵抗各種干擾和分裂以及在組織機體的恢復(fù)方面表現(xiàn)出顯著的優(yōu)越性。在該結(jié)構(gòu)中,復(fù)雜的問題被分解為若干因子并分配給專家解決,再將各個不完全的解答進行合并,這種能力是科層制優(yōu)于其他組織形式的主要原因[25]58?!靶畔⒓夹g(shù)和制度安排互相關(guān)聯(lián)、相得益彰,既是自變量也是因變量,彼此之間互為因果關(guān)系?!保?5]11雖然數(shù)字治理方式具有超強的傳播和協(xié)調(diào)能力,但是它永遠無法取代制度性。

    數(shù)字治理之所以會威脅到主體地位,原因在于數(shù)字治理削弱了主體在社會中的作用,使主體的權(quán)利被數(shù)字所侵占。這種被數(shù)字侵占的權(quán)利也稱作算法極權(quán),即主體的權(quán)利和作用在算法社會中被弱化,導(dǎo)致“弱政府”“弱社會”“強市場”的局面[26]。眾所周知,數(shù)字治理在提高效率方面具有明顯優(yōu)勢,但是在涉及人力資源管理、物質(zhì)資源配置、機構(gòu)運行等方面,數(shù)字治理由于過于單一化的標準而暴露出其弊端,因而需要科層制對之進行宏觀規(guī)劃設(shè)計??茖又葡碌娜肆Y源管理模式具有法治精神、理性精神和科學(xué)精神,以滿足現(xiàn)代組織管理復(fù)雜化和對效率的要求,科層制的精確性、規(guī)范性、穩(wěn)定性使其成為20世紀西方人事管理實踐的主導(dǎo)模式[27]??茖又瓶梢酝ㄟ^對人力資源進行協(xié)調(diào)以及組織培訓(xùn)學(xué)習(xí)掌握數(shù)字技術(shù)等方式提升主體技能素質(zhì),以保證主體在社會中實現(xiàn)其價值,使主體依然是“從事實際活動的人”[4]525。但是這里主體從事的實際勞動并非資本主義條件下的被剝削、被壓榨的勞動,而是充分發(fā)揮數(shù)字科技對人與社會的積極建構(gòu)作用,促進主體自身的進化,努力創(chuàng)建先進的智能社會、生成智能文明,規(guī)避技術(shù)異化問題,實現(xiàn)社會的進步和人的自由全面發(fā)展[28]。

    (二)科層制的專業(yè)性特征防止主體對數(shù)字過度依賴

    在主體意識層面,數(shù)字治理的過度發(fā)展可能會導(dǎo)致主體意識發(fā)展受阻,使主體喪失對數(shù)字治理進行反思與評估的能力??茖又凭哂袑I(yè)性特征,擅長利用專業(yè)知識對資源進行整合,并保持對數(shù)字治理的批判性思維,使治理保持政治合理性,從而防止主體對數(shù)字的過度依賴。

    科層制的專業(yè)性體現(xiàn)在面對經(jīng)濟和政治事件時,官僚制組織可以對各種突發(fā)局面作出迅速反應(yīng),抓住應(yīng)急處突的最佳時機,針對每個個案采取最佳方式進行解決。韋伯認為,科層制的優(yōu)越性體現(xiàn)在,與其他組織相比,科層制猶如一套呈現(xiàn)非機械化的機械化組織,它能夠迅速、準確、連續(xù)、統(tǒng)一地部署人力和物力,使得行政達到最佳狀態(tài),越是復(fù)雜的事務(wù),科層制的優(yōu)越性就越是明顯[29]1342。純數(shù)字治理雖然可以快速收集各種數(shù)字資源,但若缺乏對資源進行有效分配和整合,就會導(dǎo)致秩序的大混亂,造成資源的浪費。不僅如此,純粹的數(shù)字治理還會使得政府治理日趨市場化,導(dǎo)致“古典自由主義”的意識形態(tài)返古,政府逐漸處于弱勢,造成市場及其規(guī)則的無序狀態(tài),遵循“效率”這個單向標準操縱社會,看似具有合理性,實則犧牲了公平,與現(xiàn)代的精神和政治價值相違背[30]??茖又普膶I(yè)性可使其保持對數(shù)字治理的批判性思維。另外,“官職的管理,至少是所有專業(yè)官職的管理——而這樣的管理顯然是現(xiàn)代的——通常都是以某個專業(yè)化領(lǐng)域的訓(xùn)練為前提”[29]1323。一般情況下,科層制的成員大多都經(jīng)過專業(yè)化的學(xué)習(xí)和培訓(xùn),具備一定的專業(yè)知識及較強的工作能力。因此,對于數(shù)字治理中存在的缺陷和問題,科層制政府經(jīng)過專業(yè)的判斷予以糾正,可以防止主體陷入盲目依賴數(shù)字治理的泥沼。

    科層制政府具備數(shù)字治理所不具備的政治專業(yè)性。科層制政府總是服務(wù)于一定的政治目標與政治原則,是基于理性設(shè)計的自由、平等、正義、公平的原則和政治價值對國家與社會的規(guī)約。數(shù)字的過度治理會導(dǎo)致算法政治,算法政治不僅會觸發(fā)決策風(fēng)險、道德風(fēng)險、算法失靈以及合法性危機等未知風(fēng)險,也可能帶來算法在政治傳播領(lǐng)域因不當使用而引發(fā)的安全風(fēng)險[31]。不僅如此,過度依賴數(shù)字治理還會使本應(yīng)為政治服務(wù)的數(shù)字在自主發(fā)展下對政治權(quán)力結(jié)構(gòu)造成沖擊,進而影響人們的政治價值實現(xiàn)。科層制政府既秉承理性原則,同時也主張公平、正義、民主,其政治專業(yè)性能夠在一定程度上約束數(shù)字治理,避免數(shù)字治理發(fā)展為“數(shù)字利維坦”,從而防止人們對數(shù)字治理形成過度依賴。

    (三)科層制的監(jiān)督機制助力維護主體隱私安全

    數(shù)字治理的前提是通過對各種數(shù)據(jù)的整合、評估、計算達到治理目的,數(shù)據(jù)的收集總會包含主體的隱私內(nèi)容,主體通過讓渡自身的一部分權(quán)利促進治理目的的達成。然而,數(shù)據(jù)公司也可能在資本增殖的動機下對數(shù)據(jù)這種無形資產(chǎn)進行過度挖掘和私自濫用,不僅侵犯消費者的隱私安全,更可能利用這些數(shù)據(jù)隱私換取高額利潤。防止主體的數(shù)據(jù)隱私不被資本利用或者被不當使用,關(guān)鍵在于建立一個合理的數(shù)據(jù)使用的監(jiān)督機制,科層制恰恰具備了這種監(jiān)督職能。

    無論是韋伯時代的科層制還是當代的科層制都具備嚴格的監(jiān)督機制。科層制中的“職務(wù)等級制原則與上訴渠道原則確立了一種公認的高級職務(wù)監(jiān)督低級職務(wù)的上下級隸屬體系。這種體系給被治理者提供了上訴的可能性,即按照嚴格規(guī)定的方式,針對低級官員的決定向有關(guān)上級權(quán)威提起上訴”[29]1322。在科層制中,上級對下級負有監(jiān)督責(zé)任,對于上級作出的決定,下級也可以進行申訴,將這種機制引入數(shù)字治理能夠?qū)?shù)字技術(shù)的違法違規(guī)使用進行有效監(jiān)督。

    針對主體數(shù)據(jù)隱私的監(jiān)管首先應(yīng)從法律層面確保主體的隱私權(quán),強調(diào)主體個人對數(shù)據(jù)的控制力,明確數(shù)據(jù)使用應(yīng)遵循告知同意原則、目的限制與最小必要性原則、透明性原則[32]。其次,數(shù)據(jù)監(jiān)管機構(gòu)或政府獨立部門應(yīng)根據(jù)相關(guān)法律法規(guī)授權(quán),對數(shù)字治理中的數(shù)據(jù)交易、數(shù)據(jù)收集、數(shù)據(jù)處理等開展監(jiān)督管理,下級機關(guān)執(zhí)法活動中處理個人數(shù)據(jù)信息由上級檢查機關(guān)負責(zé)監(jiān)督。利用科層制對數(shù)字治理進行層級制監(jiān)管,是保障公民個人信息安全和國家重要數(shù)據(jù)安全的基本模式,也是對數(shù)據(jù)監(jiān)管體制機制的總體方向性設(shè)計。最后,根據(jù)具體實際采取相應(yīng)監(jiān)管模式。具體的監(jiān)管模式因各個國家的經(jīng)濟、政治、文化差異而存在一定的不同,各國在對本國數(shù)字治理進行監(jiān)管時須結(jié)合本國的實際情況,不能脫離本國的經(jīng)濟、政治和社會具體實際??偟膩碚f,通過實施可靠的監(jiān)管機制對數(shù)字治理過程中的數(shù)據(jù)濫用、侵犯隱私等行為進行治理是維護主體隱私安全的有效手段。

    三、破解新時代數(shù)字治理主體性困境的具體措施

    隨著數(shù)字治理發(fā)展速度的加快,其覆蓋面愈發(fā)廣泛,數(shù)字治理在促進社會進步的同時也引發(fā)了不平等危機、道德危機及主體性危機??茖又谱鳛橐环N政治制度,具有制度性、政治專業(yè)性以及較為完善的監(jiān)督機制,可借助科層制規(guī)范數(shù)字治理過程中數(shù)字權(quán)力的擴張與數(shù)據(jù)的濫用。

    (一)規(guī)范數(shù)字治理權(quán)力的使用邊界

    一方面,科層制政府要以保護主體權(quán)利為原則規(guī)范數(shù)字治理的權(quán)力邊界。社會契約論認為,公共權(quán)力是由主體讓渡部分權(quán)利而形成的,這個權(quán)力是為了保障社會秩序與主體利益而設(shè)定,人是發(fā)展的目的,保障主體自由生活的權(quán)利和秩序才是最重要的[33]。因此,規(guī)范數(shù)字治理的權(quán)力邊界,首先要明確制定邊界的原則,這個原則應(yīng)遵循“群己權(quán)界”[34],追求數(shù)字治理的公共權(quán)力與主體自由權(quán)利的平衡及邊界清晰。2017年由人工智能領(lǐng)域?qū)<衣?lián)合發(fā)布的《阿西洛馬人工智能原則》討論了關(guān)于人工智能倫理準則的制定內(nèi)容,主要包含安全性、機器故障可溯因性、決策的透明度、參與者責(zé)任分配、人類利益優(yōu)先、數(shù)據(jù)權(quán)利、共享技術(shù)便利[35]等內(nèi)容,這些內(nèi)容體現(xiàn)了“以人為本”的理念,表明人工智能的發(fā)展不得越過人權(quán)的邊界。張愛軍認為可以以算法正義實現(xiàn)社會權(quán)利對算法權(quán)力的約束,“一要堅持算法可解釋性原則和透明性原則,抑制算法黑箱對社會知情權(quán)、平等權(quán)和隱私權(quán)等權(quán)利的侵害。二要堅持以法律規(guī)則規(guī)制算法規(guī)則,將算法權(quán)力限定在法律范圍內(nèi),從法律層面落實社會權(quán)利。三要建立和完善算法責(zé)任追溯機制,保障公民數(shù)據(jù)安全”[36]。規(guī)范數(shù)字治理權(quán)力的使用邊界也需要遵循相同的原則,首先要堅持數(shù)字治理的可解釋性和透明性的原則,保證社會人員對數(shù)字治理有知情權(quán)、平等權(quán)和隱私權(quán)。其次要以法律法規(guī)規(guī)范數(shù)字治理規(guī)則,把數(shù)字治理的權(quán)力使用限制在法律范圍之內(nèi),從法律角度保障主體的社會權(quán)利。最后,還要建立和完善數(shù)字治理的責(zé)任落實機制以保障主體的數(shù)據(jù)安全。

    另一方面,要以科層制權(quán)力結(jié)構(gòu)規(guī)范數(shù)字治理權(quán)力的使用邊界。2022年4月歐洲理事會和歐洲議會通過《數(shù)字服務(wù)法案》捍衛(wèi)數(shù)字治理邊界,通過機制性規(guī)定規(guī)范數(shù)字內(nèi)容治理。新法案基于一系列基本的價值觀和規(guī)范,對定向廣告的投放和特定內(nèi)容的推送進行強行限制,重新理順了歐盟范圍內(nèi)的數(shù)字治理流程,特別對超大型平臺“開刀”,對違法企業(yè)施以高達全球營業(yè)額6%的罰款,并在企業(yè)屢次嚴重違規(guī)的情況下禁止其在歐盟市場運營。捍衛(wèi)數(shù)字治理邊界,更要以權(quán)力限制權(quán)力。孟德斯鳩認為,自古以來,“所有擁有權(quán)力的人,都傾向于濫用權(quán)力,而且不用到極限絕不罷休?!瓰榱朔乐篂E用權(quán)力,必須通過事物的統(tǒng)籌協(xié)調(diào),以權(quán)力制止權(quán)力”[37]。在韋伯看來,官僚制具有練達的專業(yè)活動、權(quán)限的劃分、勤務(wù)規(guī)則和金字塔式的等級服從關(guān)系[38],其嚴格的權(quán)限劃分對數(shù)字治理權(quán)力可以起到控制作用。對于利用數(shù)字化技術(shù)對社會事務(wù)進行治理,科層制政府可以通過其目前存在的層級權(quán)力機構(gòu)解決數(shù)字治理的配套規(guī)范不清晰、管理主體不明確等問題。在我國現(xiàn)行體制下,應(yīng)建立由黨政領(lǐng)導(dǎo),工信部、網(wǎng)信辦等部門負責(zé)協(xié)調(diào)的機制,整合黨委和政府的治理資源,在現(xiàn)有體制框架內(nèi)進行組織協(xié)調(diào),共同發(fā)力解決數(shù)字治理領(lǐng)域存在的問題。

    (二)健全數(shù)據(jù)使用的科層制監(jiān)督機制

    層級的監(jiān)督機制是科層制政府的重要內(nèi)容,通過監(jiān)督機制防止權(quán)力濫用。數(shù)字治理作為公共權(quán)力集中的場域同樣需要對治理權(quán)力進行監(jiān)督,否則濫用數(shù)字權(quán)力不僅擾亂社會秩序,造成資源浪費,甚至可能對主體產(chǎn)生身體和心理的傷害,因此有必要建立健全數(shù)據(jù)使用的科層制監(jiān)督機制。

    數(shù)字治理的主體包括政府、市場、社會組織等責(zé)任主體,甚至人人都可以成為數(shù)字治理的主體。人民群眾利用便捷的網(wǎng)絡(luò)參與到國家建設(shè)、民主政治建設(shè)、市場管理與社會建設(shè)當中,通過政務(wù)平臺或者信息平臺表達利益訴求,體現(xiàn)治理過程以人民為中心的原則。為保障社會秩序的正常運行和人民群眾的利益,需要利用科層制的監(jiān)督機制對數(shù)字治理主體進行監(jiān)督。

    從政府角度來看,需要強化數(shù)據(jù)治理的評價監(jiān)督體系建設(shè),鼓勵公眾通過數(shù)據(jù)治理反饋網(wǎng)站以及第三方評估等手段來倒逼政府機構(gòu)精簡流程,優(yōu)化服務(wù)質(zhì)量。另外,政府還要完善對大數(shù)據(jù)的監(jiān)督管理制度,不斷提升政府對于個人信息保護的主動意識和自我監(jiān)督意識,持續(xù)推進各級干部開展數(shù)據(jù)安全和個人信息保護的專項行動,對于違法違規(guī)收集或使用個人信息的行為進行嚴厲打擊和懲處。

    從市場角度來看,數(shù)據(jù)已成為數(shù)字市場競爭的重要基礎(chǔ),甚至成為產(chǎn)品創(chuàng)新的重要投入品,數(shù)據(jù)的獲取和分析能夠顯著改善資源配置效率。但數(shù)據(jù)本身對于數(shù)據(jù)控制者的影響仍然具有高度不穩(wěn)定性,要引導(dǎo)市場主體深化對數(shù)據(jù)安全監(jiān)督制度的認識,引導(dǎo)其積極參與監(jiān)督。針對數(shù)字平臺的監(jiān)管治理,需要重點推進合規(guī)監(jiān)管、分類監(jiān)管、技術(shù)監(jiān)管、均衡監(jiān)管、價值導(dǎo)向監(jiān)管和敏捷監(jiān)管,促進多種秩序力量共同發(fā)力,維護市場有序運轉(zhuǎn)、多方主體利益均衡并實現(xiàn)社會效益最大化[39]。

    從人民群眾角度來看,人人都是數(shù)字治理的主體,人人都可以對國家發(fā)展、社會進步、市場規(guī)范提出自己的意見和建議,然而仍有一些人罔顧法律法規(guī),違反社會道德,在網(wǎng)上散布危害國家、黨和人民群眾的言論,擾亂社會秩序,因此對于人民群眾數(shù)字治理的監(jiān)管同樣非常必要。對以人民群眾為主體的數(shù)字治理監(jiān)督,可利用網(wǎng)絡(luò)發(fā)言人制度和實名制度[40],網(wǎng)絡(luò)發(fā)言人可以通過現(xiàn)代網(wǎng)絡(luò)積極及時與人民群眾進行互動,主動、準確地發(fā)布權(quán)威信息,加快澄清虛假、不完整信息,消除誤解、化解矛盾,正確地引導(dǎo)網(wǎng)絡(luò)輿論。而實名制度在一定程度上不僅能規(guī)范網(wǎng)民行為,還能夠抑制不良信息的傳播。

    (三)建設(shè)以人為本、權(quán)責(zé)一致的數(shù)字治理科層制體系

    正如阿克萊特·彭特蘭指出的,政府應(yīng)當建立“將公民自身數(shù)據(jù)的所有權(quán)、使用權(quán)、控制權(quán)和處置權(quán)交還給公民自己”的“數(shù)據(jù)新政”[41],保持數(shù)據(jù)權(quán)力的謙遜,用技術(shù)賦權(quán)來對抗權(quán)力鴻溝。由此,政府應(yīng)以“人本主義”為核心,打造權(quán)責(zé)一致的數(shù)字治理科層制體系,使數(shù)字信息和算法為人民所使用、開發(fā)和監(jiān)管,使用者、開發(fā)者、監(jiān)管者對人民負責(zé)以實現(xiàn)數(shù)據(jù)共享、成果共享。

    首先,依靠法律明確制度前提。應(yīng)進一步完善落實個人信息保護法和數(shù)據(jù)安全法,充分保護國家安全、商業(yè)機密和個人隱私。信息安全是技術(shù)發(fā)展的前提,必須加強數(shù)據(jù)管理,嚴格保護用戶隱私。明確界定軟件使用個人信息的必要性,規(guī)范各個軟件的隱私保護條例,加強數(shù)據(jù)管理訪問協(xié)議,讓用戶明辨需求,確保其知情同意,嚴格控制訪問不同數(shù)據(jù)平臺和數(shù)據(jù)流動的條件。進一步明確數(shù)據(jù)的權(quán)屬關(guān)系和個人信息的邊界,即清晰界定數(shù)據(jù)的歸屬權(quán)、管理權(quán)和使用權(quán),辨明屬于和不屬于個人信息的內(nèi)容,明確信息主體擁有知情權(quán)、同意權(quán)、查詢權(quán)、更正權(quán)、拒絕權(quán)和刪除權(quán)等信息處理權(quán)利。

    其次,建立以人為本的數(shù)字治理制度體系。習(xí)近平多次強調(diào)要“制定數(shù)據(jù)資源確權(quán)、開放、流通、交易相關(guān)制度,完善數(shù)據(jù)產(chǎn)權(quán)保護制度。要加大對技術(shù)專利、數(shù)字版權(quán)、數(shù)字內(nèi)容產(chǎn)品及個人隱私等的保護力度,維護廣大人民群眾利益、社會穩(wěn)定和國家安全”[42]。以人為本的數(shù)字治理制度體系從客體層面來看包含數(shù)據(jù)確權(quán)制度、數(shù)據(jù)開放制度、數(shù)據(jù)流通制度、數(shù)據(jù)交易制度等,從主體層面來看包含對主體數(shù)字技術(shù)專利保護制度、數(shù)字版權(quán)保護制度、數(shù)據(jù)隱私保護制度等,無論是客體層面還是主體層面其相關(guān)制度都與人民群眾的生活息息相關(guān),不斷完善這些制度或者機制才能更好地實現(xiàn)數(shù)據(jù)共享。《國家信息化發(fā)展戰(zhàn)略綱要》明確要求,“建立公共信息資源開放目錄,構(gòu)建統(tǒng)一規(guī)范、互聯(lián)互通、安全可控的國家數(shù)據(jù)開放體系,積極穩(wěn)妥推進公共信息資源開放共享”[43],只有實現(xiàn)數(shù)據(jù)的開放共享,才能更好地達成以人為本的數(shù)字治理目標。

    最后,強化權(quán)責(zé)一致的數(shù)字治理科層體系。進一步優(yōu)化數(shù)字治理層級制體系,要充分發(fā)揮科層制上下監(jiān)督機制的優(yōu)勢,在數(shù)字治理過程中明確各個主體的責(zé)任,將數(shù)字治理過程中出現(xiàn)問題的責(zé)任落實到人,實現(xiàn)上級對下級數(shù)字治理過程責(zé)任和義務(wù)的監(jiān)督。黨的十九屆四中全會提出,賦予省級以下政府更多的自主權(quán),“按照權(quán)責(zé)一致原則,規(guī)范垂直管理體制和地方分級管理體制”[44]。數(shù)字技術(shù)的發(fā)展使時空高度壓縮,在實現(xiàn)政府橫向部門之間數(shù)據(jù)共享與協(xié)同共治的同時,要以技術(shù)的強大力量推動政府內(nèi)部縱向體系的協(xié)同,實現(xiàn)數(shù)字治理的科層結(jié)構(gòu)優(yōu)化。

    總之,對于數(shù)字治理帶來的主體性地位危機、主體意識危機和主體隱私安全危機,科層制通過其制度性、專業(yè)性和監(jiān)督機制在一定程度上能夠起到有效的抑制作用。然而,科層制并不能完全解決數(shù)字治理的主體性危機問題。例如,在數(shù)字治理過程中,要避免主體過度依賴數(shù)字治理,從宏觀角度來看,科層制政府的專門化作業(yè)以其政治專業(yè)性修正了數(shù)字治理的機械化決策,避免形成數(shù)字專制統(tǒng)治。然而,從微觀個體角度來看,個體主體意識的激發(fā)與保護需要的是相對自由寬松的環(huán)境,個體對于社會治理、國家治理有主動參與的主人翁意識,但科層制政府理性的層級制度以及理性化、效率化訴求在某種程度上壓抑了個體主體意識的發(fā)展??茖又浦皇欠乐怪黧w滑入數(shù)字依賴的深淵,并不能完全解放主體意識。數(shù)字治理的主體意識危機是客觀存在的,只有科層制政府、社會與市場協(xié)同合作、共同發(fā)力,才能促進主體意識的增強與發(fā)展。

    參考文獻:

    [1] 丁蕖. 科層制政府的數(shù)字化轉(zhuǎn)型與科層制危機的紓解[J]. 南京大學(xué)學(xué)報(哲學(xué)·人文科學(xué)·社會科學(xué)),2020,57(6):112-120.

    [2]江文路,張小勁. 以數(shù)字政府突圍科層制政府:比較視野下的數(shù)字政府建設(shè)與演化圖景[J]. 經(jīng)濟社會體制比較,2021(6):102-112+130.

    [3]鄖彥輝. 數(shù)字利維坦:信息社會的新型危機[J]. 中共中央黨校學(xué)報,2015,19(3):46-51.

    [4]馬克思恩格斯文集:第1卷[M].北京:人民出版社,2009.

    [5]郭湛.主體性哲學(xué):人的存在及其意義(修訂版)[M].北京:中國人民大學(xué)出版社,2010:23.

    [6]赫伯特·馬爾庫塞.單向度的人:發(fā)達工業(yè)社會意識形態(tài)研究[M].劉繼,譯.上海:上海譯文出版社,2016:27.

    [7]尼古拉·尼葛洛龐帝.數(shù)字化生存[M].胡泳,范海燕,譯.北京:電子工業(yè)出版社,2017:61.

    [8]蘇明,陳·巴特爾. 數(shù)字人權(quán)的挑戰(zhàn)與治理[J]. 電子政務(wù),2022(3):101-112.

    [9]馬克思恩格斯文集:第5卷[M].北京:人民出版社,2009:495.

    [10]由瓦爾·赫拉利.未來簡史:從智人到智神[M].林俊宏,譯.北京:中信出版社,2017.

    [11]雷·庫茲韋爾.奇點臨近[M].董振華,李慶誠,譯.北京:機械工業(yè)出版社,2011:227.

    [12]哈特穆特·羅薩.新異化的誕生[M].鄭作彧,譯.上海:上海人民出版社,2018:116-143.

    [13]斯各特·拉什.信息批判[M].楊德睿,譯.北京:北京大學(xué)出版社,2009:17.

    [14]路易斯·德爾·蒙特,李芮華.人工智能大爆炸:AI時代的人類命運[M].深圳:海天出版社,2019:13.

    [15]謝新水. 人工智能時代“新貧窮陷阱”的成因與境況:以奴隸概念的意象為視角[J]. 江蘇大學(xué)學(xué)報(社會科學(xué)版),2020,22(4):1-15.

    [16]吳錚.崩塌與重構(gòu):數(shù)據(jù)社會人的主體性危機及其出路[J]. 編輯之友,2019(12):62-65.

    [17]維克托·邁爾·舍恩伯格.大數(shù)據(jù)時代[M].盛揚燕,周濤,譯.杭州:浙江人民出版社,2013:目錄.

    [18]金吾倫. 信息時代與思維方式變革:笛卡爾思維和打破現(xiàn)狀思維[J]. 哲學(xué)動態(tài),1998(3):24-25.

    [19]張現(xiàn)洪. 技術(shù)治理與治理技術(shù)的悖論與迷思[J]. 浙江學(xué)刊,2019(1):160-165.

    [20]REIMAN J H. Pribacy,intimacy, and personhood[M]//SCHOEMAN F D. Philosophical dimensions of privacy:an anthology.New York:Cambridge University Press,1984:310.

    [21]孟小峰,張嘯劍. 大數(shù)據(jù)隱私管理[J]. 計算機研究與發(fā)展,2015,52(2):265-281.

    [22]SWARTZ N.Gartner warns firms of “dirty data”[J].Information Management,2007,41(3).

    [23]唐皇鳳. 數(shù)字利維坦的內(nèi)在風(fēng)險與數(shù)據(jù)治理[J]. 探索與爭鳴,2018(5):42-45.

    [24]詹姆斯G.馬奇,赫伯特A.西蒙. 組織:第2版[M].邵沖,譯.北京:機械工業(yè)出版社,2013:2.

    [25]簡·芳汀.構(gòu)建虛擬政府:信息技術(shù)與制度創(chuàng)新[M].北京:中國人民大學(xué)出版社,2004.

    [26]趙一丁,陳亮. 算法權(quán)力異化及法律規(guī)制[J]. 云南社會科學(xué),2021(5):123-132.

    [27]吳鵬雁. 我國科層制下人事管理模式之完善[J]. 學(xué)術(shù)交流,2006(4):36-40.

    [28]孫偉平. 人工智能與人的“新異化”[J]. 中國社會科學(xué),2020(12):119-137+202-203.

    [29]馬克斯·韋伯.經(jīng)濟與社會:第2卷(上冊)[M].閻克文,譯.上海:上海人民出版社,2019.

    [30]黃其松,劉坤澤. 在技術(shù)與制度之間:數(shù)字時代的官僚科層制[J]. 貴州大學(xué)學(xué)報(社會科學(xué)版),2021,39(6):65-73+122.

    [31]汝緒華. 算法政治:風(fēng)險、發(fā)生邏輯與治理[J]. 廈門大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2018(6):27-38.

    [32]唐要家. 中國個人隱私數(shù)據(jù)保護的模式選擇與監(jiān)管體制[J]. 理論學(xué)刊,2021(1):69-77.

    [33]盧梭.社會契約論[M].鐘書峰,譯.北京:法律出版社,2017: 14.

    [34]嚴復(fù).群己權(quán)界論[M]//汪征魯,方寶川,馬勇. 嚴復(fù)全集:第3卷.福州:福建教育出版社,2014:319.

    [35]商瀑. 從“智人”到“惡人”:機器風(fēng)險與應(yīng)對策略[J]. 電子政務(wù),2020(12):69-76.

    [36]張愛軍. “算法利維坦”的風(fēng)險及其規(guī)制[J]. 探索與爭鳴,2021(1):95-102+179.

    [37]孟德斯鳩.論法的精神[M].北京:商務(wù)印書館,2009:185.

    [38]吳春波.官僚制統(tǒng)治[M].北京:民族出版社,1988:37.

    [39]江小涓,黃穎軒. 數(shù)字時代的市場秩序、市場監(jiān)管與平臺治理[J]. 經(jīng)濟研究,2021,56(12):20-41.

    [40]張小明. 論突發(fā)事件網(wǎng)絡(luò)輿情的綜合治理:體制建設(shè)與制度保障[J]. 上海行政學(xué)院學(xué)報,2013,14(5):81-87.

    [41]阿萊克斯·彭特蘭.智慧社會:大數(shù)據(jù)與社會物理學(xué)[M].杭州:浙江人民出版社,2015:171.

    [42]習(xí)近平.努力成為世界主要科學(xué)中心和創(chuàng)新高地[J].求是,2021(6).

    [43]國家信息化發(fā)展戰(zhàn)略綱要[M].北京:人民出版社,2016:13.

    [44]中共中央黨史和文獻研究院.十九大以來重要文獻選編:中[G].北京:中央文獻出版社,2021:280.

    【責(zé)任編輯:張曉妍】

    猜你喜歡
    數(shù)字治理科層制主體意識
    以“數(shù)字治理”推動政務(wù)資源共享
    群眾(2019年7期)2019-04-30 09:08:56
    數(shù)字化視角下的環(huán)境治理
    祖國(2019年24期)2019-03-17 09:33:53
    數(shù)字治理在我國城市善治中的實踐與啟示
    思想品德教學(xué)中對學(xué)生主體意識的挖掘
    人間(2016年27期)2016-11-11 17:22:02
    民主的技術(shù)化
    如何在語文教學(xué)中發(fā)揮學(xué)生的主體作用
    考試周刊(2016年79期)2016-10-13 21:52:44
    從《滄浪詩話》看嚴羽文論中主體意識自覺性
    積極課堂氣氛的營造與大學(xué)生主體意識的培育
    科層制與關(guān)系網(wǎng):民國時期世界書局和大東書局的發(fā)行管理制度述論
    數(shù)字治理對軌道交通建設(shè)的推動實踐分析
    日韩欧美一区视频在线观看| 国产精品嫩草影院av在线观看| 少妇的丰满在线观看| svipshipincom国产片| 中文字幕高清在线视频| 韩国精品一区二区三区| 性高湖久久久久久久久免费观看| 免费观看a级毛片全部| 夫妻午夜视频| 狂野欧美激情性bbbbbb| 国产淫语在线视频| 美女大奶头黄色视频| 亚洲av男天堂| 咕卡用的链子| 精品亚洲乱码少妇综合久久| 黄色一级大片看看| 两性夫妻黄色片| 男女边吃奶边做爰视频| 狂野欧美激情性bbbbbb| 尾随美女入室| 男人操女人黄网站| 我的亚洲天堂| 三上悠亚av全集在线观看| 欧美黄色片欧美黄色片| 日韩av不卡免费在线播放| av网站在线播放免费| 亚洲自偷自拍图片 自拍| 精品人妻一区二区三区麻豆| 国产av精品麻豆| 精品国产一区二区久久| 久久精品国产综合久久久| 三上悠亚av全集在线观看| 久久久久精品人妻al黑| 少妇人妻 视频| 中文字幕av电影在线播放| 老汉色∧v一级毛片| 亚洲第一青青草原| 中文字幕人妻熟女乱码| 嫩草影院入口| 国产精品麻豆人妻色哟哟久久| 免费高清在线观看日韩| 精品久久蜜臀av无| 黄色怎么调成土黄色| 观看av在线不卡| 国产一区二区三区综合在线观看| 欧美老熟妇乱子伦牲交| 91精品三级在线观看| 亚洲国产精品999| 国产不卡av网站在线观看| 亚洲国产日韩一区二区| 久久人妻熟女aⅴ| 亚洲美女黄色视频免费看| 国产精品亚洲av一区麻豆 | 9191精品国产免费久久| 最近2019中文字幕mv第一页| 久久久久久久国产电影| 国产色婷婷99| 久久精品国产亚洲av涩爱| 最近中文字幕2019免费版| 又大又爽又粗| 桃花免费在线播放| 七月丁香在线播放| 精品久久久久久电影网| 国产男女内射视频| xxxhd国产人妻xxx| 2018国产大陆天天弄谢| 午夜福利视频在线观看免费| 精品少妇一区二区三区视频日本电影 | 一区二区三区精品91| 国产一区二区在线观看av| 男女高潮啪啪啪动态图| 国产1区2区3区精品| 一边摸一边抽搐一进一出视频| 国产成人欧美| 欧美97在线视频| 九草在线视频观看| av网站免费在线观看视频| 免费在线观看黄色视频的| 亚洲欧洲精品一区二区精品久久久 | 亚洲国产欧美网| 一本—道久久a久久精品蜜桃钙片| 19禁男女啪啪无遮挡网站| 国产精品偷伦视频观看了| 激情五月婷婷亚洲| 五月天丁香电影| 国产一区有黄有色的免费视频| 十八禁高潮呻吟视频| 宅男免费午夜| 亚洲av日韩在线播放| 欧美日韩成人在线一区二区| 在线观看三级黄色| av在线播放精品| 99久国产av精品国产电影| 亚洲精品中文字幕在线视频| 亚洲国产毛片av蜜桃av| 欧美97在线视频| 激情五月婷婷亚洲| av一本久久久久| 一级毛片 在线播放| 丝袜喷水一区| 热re99久久国产66热| av福利片在线| 久久久国产精品麻豆| 亚洲少妇的诱惑av| 好男人视频免费观看在线| 亚洲欧美一区二区三区黑人| 久久婷婷青草| 亚洲五月色婷婷综合| 热99久久久久精品小说推荐| 日韩一区二区视频免费看| 性色av一级| 久久久久精品性色| 成人国产av品久久久| 18禁动态无遮挡网站| 中文字幕av电影在线播放| 一区二区三区乱码不卡18| 色播在线永久视频| 一级片'在线观看视频| 中文字幕高清在线视频| 建设人人有责人人尽责人人享有的| 国语对白做爰xxxⅹ性视频网站| 99久久99久久久精品蜜桃| 777米奇影视久久| 永久免费av网站大全| 交换朋友夫妻互换小说| 亚洲国产欧美一区二区综合| 看非洲黑人一级黄片| 一本色道久久久久久精品综合| 在线观看国产h片| 中文乱码字字幕精品一区二区三区| 嫩草影视91久久| 99re6热这里在线精品视频| 久久免费观看电影| 亚洲一级一片aⅴ在线观看| 日日摸夜夜添夜夜爱| 韩国高清视频一区二区三区| 成人午夜精彩视频在线观看| 黄频高清免费视频| 少妇被粗大猛烈的视频| 久久久久人妻精品一区果冻| www.自偷自拍.com| 国产探花极品一区二区| 午夜日本视频在线| 精品少妇久久久久久888优播| 人人妻,人人澡人人爽秒播 | 只有这里有精品99| 天天躁日日躁夜夜躁夜夜| 伊人久久国产一区二区| 十八禁网站网址无遮挡| 亚洲中文av在线| 久久精品亚洲熟妇少妇任你| 久久久久久人人人人人| 赤兔流量卡办理| 国产成人精品久久久久久| 在线观看免费午夜福利视频| 午夜激情久久久久久久| 精品卡一卡二卡四卡免费| 欧美日韩亚洲高清精品| 国产成人一区二区在线| 欧美在线一区亚洲| 国产一区亚洲一区在线观看| 亚洲成人手机| 国产欧美日韩一区二区三区在线| 99re6热这里在线精品视频| av在线观看视频网站免费| 激情五月婷婷亚洲| 下体分泌物呈黄色| 欧美在线黄色| 欧美日韩综合久久久久久| 久久久久精品久久久久真实原创| 天美传媒精品一区二区| 国产一级毛片在线| 国产成人一区二区在线| 中文欧美无线码| 9191精品国产免费久久| 欧美人与善性xxx| 99久久精品国产亚洲精品| 9热在线视频观看99| 91精品三级在线观看| 日韩大片免费观看网站| 如日韩欧美国产精品一区二区三区| 亚洲,一卡二卡三卡| 欧美在线黄色| 亚洲国产av新网站| 在线观看www视频免费| 国产av精品麻豆| 男女国产视频网站| 国产精品久久久av美女十八| 欧美亚洲 丝袜 人妻 在线| 午夜福利视频精品| 亚洲精华国产精华液的使用体验| 女人精品久久久久毛片| 悠悠久久av| 天堂中文最新版在线下载| 亚洲av电影在线观看一区二区三区| 高清在线视频一区二区三区| 国产黄频视频在线观看| 亚洲一区中文字幕在线| 久久国产精品大桥未久av| 国产亚洲最大av| 99久久人妻综合| 亚洲一区二区三区欧美精品| 好男人视频免费观看在线| 80岁老熟妇乱子伦牲交| 日韩中文字幕视频在线看片| av不卡在线播放| 久久久久久人妻| 日韩欧美精品免费久久| tube8黄色片| 满18在线观看网站| 成人国产av品久久久| 毛片一级片免费看久久久久| 亚洲伊人色综图| 最近最新中文字幕大全免费视频 | 一区二区三区乱码不卡18| 久久精品aⅴ一区二区三区四区| 香蕉国产在线看| 一级毛片我不卡| 国产午夜精品一二区理论片| 日本av免费视频播放| 日本av手机在线免费观看| 少妇人妻精品综合一区二区| 精品亚洲成a人片在线观看| 国产精品.久久久| 久久性视频一级片| 国产精品欧美亚洲77777| 曰老女人黄片| 在线观看免费视频网站a站| a级毛片在线看网站| 欧美国产精品一级二级三级| 亚洲欧美一区二区三区国产| 秋霞伦理黄片| 亚洲精品视频女| 亚洲国产精品一区三区| 国产一级毛片在线| 欧美激情极品国产一区二区三区| 亚洲欧洲国产日韩| 欧美日韩国产mv在线观看视频| 无遮挡黄片免费观看| 午夜福利网站1000一区二区三区| 国产亚洲最大av| 久久久久久人人人人人| 久久国产精品大桥未久av| 中文字幕色久视频| 精品少妇一区二区三区视频日本电影 | 汤姆久久久久久久影院中文字幕| 午夜91福利影院| 深夜精品福利| 欧美精品av麻豆av| 精品亚洲成国产av| 最黄视频免费看| 少妇 在线观看| 中文字幕人妻丝袜制服| 久久 成人 亚洲| 考比视频在线观看| 国产亚洲欧美精品永久| 91成人精品电影| 69精品国产乱码久久久| 国产黄色视频一区二区在线观看| 制服丝袜香蕉在线| 黄色毛片三级朝国网站| 亚洲精品美女久久av网站| 国产精品免费大片| 精品亚洲乱码少妇综合久久| 日韩av在线免费看完整版不卡| 少妇猛男粗大的猛烈进出视频| 赤兔流量卡办理| 精品国产一区二区久久| 在线亚洲精品国产二区图片欧美| 亚洲美女黄色视频免费看| 9热在线视频观看99| 国产av精品麻豆| 久久精品久久精品一区二区三区| 亚洲精品久久成人aⅴ小说| 一区二区av电影网| 国产精品蜜桃在线观看| 日本av免费视频播放| 日韩 亚洲 欧美在线| 国产精品av久久久久免费| 日本猛色少妇xxxxx猛交久久| 中文字幕最新亚洲高清| 久久狼人影院| 国产成人免费观看mmmm| 日韩中文字幕欧美一区二区 | 亚洲伊人久久精品综合| 蜜桃国产av成人99| 18在线观看网站| 王馨瑶露胸无遮挡在线观看| 搡老岳熟女国产| 免费高清在线观看视频在线观看| 精品国产一区二区久久| 亚洲一区二区三区欧美精品| 国产人伦9x9x在线观看| 秋霞在线观看毛片| 亚洲在久久综合| 国产欧美日韩综合在线一区二区| 一级毛片我不卡| 久热这里只有精品99| 亚洲精品在线美女| 国产精品.久久久| 十分钟在线观看高清视频www| 国产精品国产三级国产专区5o| 99国产综合亚洲精品| 午夜久久久在线观看| 热re99久久精品国产66热6| 欧美日韩综合久久久久久| 亚洲情色 制服丝袜| 一个人免费看片子| 日韩伦理黄色片| 黄网站色视频无遮挡免费观看| 亚洲第一区二区三区不卡| 久久 成人 亚洲| 久久久欧美国产精品| 一本—道久久a久久精品蜜桃钙片| 妹子高潮喷水视频| 捣出白浆h1v1| 一级毛片电影观看| 黑人巨大精品欧美一区二区蜜桃| 色精品久久人妻99蜜桃| 久久韩国三级中文字幕| 一区二区日韩欧美中文字幕| 精品国产乱码久久久久久小说| 99久久综合免费| 国产成人系列免费观看| 免费高清在线观看视频在线观看| 久久ye,这里只有精品| 欧美成人午夜精品| 尾随美女入室| 午夜av观看不卡| 亚洲成色77777| 操出白浆在线播放| 婷婷色综合www| 精品国产一区二区三区四区第35| 日本一区二区免费在线视频| 热99国产精品久久久久久7| 国产成人一区二区在线| 高清av免费在线| 亚洲伊人色综图| 国产熟女午夜一区二区三区| 九色亚洲精品在线播放| 波野结衣二区三区在线| 女人精品久久久久毛片| 热re99久久精品国产66热6| 中文天堂在线官网| 校园人妻丝袜中文字幕| 国产一区有黄有色的免费视频| 男女边摸边吃奶| 亚洲国产欧美网| 蜜桃在线观看..| 十八禁人妻一区二区| 一级,二级,三级黄色视频| 久久影院123| 国产欧美日韩一区二区三区在线| 欧美激情高清一区二区三区 | 精品国产超薄肉色丝袜足j| 性高湖久久久久久久久免费观看| √禁漫天堂资源中文www| 97在线人人人人妻| 国产av精品麻豆| 久久久久久久久久久免费av| 亚洲精品乱久久久久久| 国产精品嫩草影院av在线观看| 午夜免费观看性视频| 国产一区二区三区av在线| 亚洲自偷自拍图片 自拍| 人妻一区二区av| 最新在线观看一区二区三区 | 久久ye,这里只有精品| 亚洲国产精品国产精品| 亚洲精品日韩在线中文字幕| 99久久99久久久精品蜜桃| kizo精华| 少妇的丰满在线观看| 亚洲国产欧美日韩在线播放| 国产女主播在线喷水免费视频网站| 色视频在线一区二区三区| 国产淫语在线视频| 午夜老司机福利片| 日韩一区二区三区影片| 免费观看人在逋| 久久久久久久精品精品| 秋霞伦理黄片| 国产麻豆69| 天天躁夜夜躁狠狠躁躁| 国产成人免费观看mmmm| 国产xxxxx性猛交| 大片电影免费在线观看免费| 另类亚洲欧美激情| 国产精品女同一区二区软件| 国产一区二区激情短视频 | 校园人妻丝袜中文字幕| 成人免费观看视频高清| av电影中文网址| 国产成人精品久久久久久| 亚洲一区中文字幕在线| 亚洲精品久久久久久婷婷小说| 一区二区三区激情视频| 在线观看免费午夜福利视频| 97在线人人人人妻| 一级片'在线观看视频| 一区二区日韩欧美中文字幕| 9色porny在线观看| 国产欧美亚洲国产| 亚洲欧美一区二区三区久久| 黄频高清免费视频| 高清欧美精品videossex| 国产一区二区激情短视频 | 永久免费av网站大全| 日本爱情动作片www.在线观看| 国产免费又黄又爽又色| 日韩不卡一区二区三区视频在线| 亚洲欧美激情在线| 免费女性裸体啪啪无遮挡网站| 高清不卡的av网站| 蜜桃在线观看..| 国产精品人妻久久久影院| 国产欧美日韩一区二区三区在线| 亚洲精品自拍成人| 亚洲国产最新在线播放| 国产在线视频一区二区| 男女高潮啪啪啪动态图| 女人高潮潮喷娇喘18禁视频| 日本午夜av视频| 久久久久国产精品人妻一区二区| 狠狠婷婷综合久久久久久88av| 天美传媒精品一区二区| 亚洲第一青青草原| 日日摸夜夜添夜夜爱| 大陆偷拍与自拍| 国产精品嫩草影院av在线观看| a级毛片在线看网站| 国产亚洲一区二区精品| 视频区图区小说| 免费黄频网站在线观看国产| 黑人猛操日本美女一级片| 深夜精品福利| 99久久99久久久精品蜜桃| 久久人妻熟女aⅴ| 日韩 亚洲 欧美在线| 一区二区三区精品91| 三上悠亚av全集在线观看| 国产一区二区在线观看av| 一级爰片在线观看| 久久午夜综合久久蜜桃| 亚洲av日韩精品久久久久久密 | 亚洲精品av麻豆狂野| 国产成人av激情在线播放| 日韩制服丝袜自拍偷拍| 只有这里有精品99| 精品久久久精品久久久| 亚洲国产日韩一区二区| 伦理电影免费视频| 在线观看免费视频网站a站| 精品久久蜜臀av无| 亚洲国产精品国产精品| 免费在线观看黄色视频的| 免费看av在线观看网站| 国产黄色免费在线视频| 国产片特级美女逼逼视频| 精品国产露脸久久av麻豆| 国产男女内射视频| 亚洲人成网站在线观看播放| 人人妻人人添人人爽欧美一区卜| 大陆偷拍与自拍| 男人爽女人下面视频在线观看| 日韩大码丰满熟妇| 考比视频在线观看| av在线播放精品| 国产有黄有色有爽视频| 狂野欧美激情性bbbbbb| 欧美日韩一级在线毛片| 免费少妇av软件| 久久影院123| 亚洲av日韩精品久久久久久密 | 91精品国产国语对白视频| 国产av码专区亚洲av| 九色亚洲精品在线播放| 99热国产这里只有精品6| 国产日韩欧美在线精品| 青青草视频在线视频观看| 久久国产精品大桥未久av| 欧美日韩精品网址| 观看av在线不卡| tube8黄色片| av天堂久久9| videosex国产| 水蜜桃什么品种好| 久久精品久久久久久噜噜老黄| 91成人精品电影| 亚洲精品国产色婷婷电影| 伦理电影大哥的女人| 老司机亚洲免费影院| 成人手机av| 麻豆乱淫一区二区| 99热网站在线观看| 国产精品国产av在线观看| 一区二区三区四区激情视频| 免费女性裸体啪啪无遮挡网站| 欧美成人午夜精品| 99热网站在线观看| 宅男免费午夜| 美国免费a级毛片| 最新的欧美精品一区二区| 嫩草影视91久久| 欧美中文综合在线视频| 亚洲中文av在线| 一边摸一边抽搐一进一出视频| 亚洲精品久久久久久婷婷小说| 女的被弄到高潮叫床怎么办| 亚洲成国产人片在线观看| 考比视频在线观看| 午夜日韩欧美国产| 母亲3免费完整高清在线观看| 男人爽女人下面视频在线观看| 成人毛片60女人毛片免费| 青春草国产在线视频| 精品一区二区免费观看| 国产野战对白在线观看| 亚洲av福利一区| 成人午夜精彩视频在线观看| 精品少妇内射三级| 免费观看av网站的网址| 妹子高潮喷水视频| 国产精品亚洲av一区麻豆 | 丰满少妇做爰视频| 十八禁人妻一区二区| 精品人妻一区二区三区麻豆| 在线观看国产h片| 美女脱内裤让男人舔精品视频| 秋霞在线观看毛片| 一级毛片 在线播放| 欧美激情 高清一区二区三区| 欧美乱码精品一区二区三区| 亚洲人成电影观看| av在线app专区| 久久午夜综合久久蜜桃| 一级毛片黄色毛片免费观看视频| 啦啦啦啦在线视频资源| 国产精品人妻久久久影院| 亚洲精品美女久久久久99蜜臀 | 91成人精品电影| 黑人欧美特级aaaaaa片| 不卡视频在线观看欧美| 久久 成人 亚洲| 99国产综合亚洲精品| 欧美日韩av久久| 欧美亚洲 丝袜 人妻 在线| 老汉色∧v一级毛片| 观看av在线不卡| 国产亚洲精品第一综合不卡| 啦啦啦在线观看免费高清www| 久久婷婷青草| 一级毛片电影观看| 久久av网站| 丁香六月欧美| 国产av精品麻豆| 成年人午夜在线观看视频| 交换朋友夫妻互换小说| 麻豆精品久久久久久蜜桃| 制服诱惑二区| 亚洲av成人不卡在线观看播放网 | 十八禁网站网址无遮挡| 91精品国产国语对白视频| 精品国产露脸久久av麻豆| 国产老妇伦熟女老妇高清| 一级,二级,三级黄色视频| 免费看av在线观看网站| 日韩精品有码人妻一区| 精品亚洲成国产av| www.精华液| 中文字幕人妻丝袜一区二区 | 久久精品人人爽人人爽视色| 免费在线观看视频国产中文字幕亚洲 | 男女午夜视频在线观看| 欧美久久黑人一区二区| 久久人妻熟女aⅴ| 在线亚洲精品国产二区图片欧美| 多毛熟女@视频| 欧美日韩综合久久久久久| 妹子高潮喷水视频| 国产男女内射视频| 久久国产精品大桥未久av| 免费看av在线观看网站| 国产男女内射视频| 亚洲成人av在线免费| 亚洲成人一二三区av| www.精华液| 美女脱内裤让男人舔精品视频| 蜜桃国产av成人99| 夫妻午夜视频| 香蕉丝袜av| 晚上一个人看的免费电影| 男女高潮啪啪啪动态图| av.在线天堂| 亚洲专区中文字幕在线 | 色94色欧美一区二区| 久久人人爽人人片av| 中文字幕色久视频| 亚洲av日韩精品久久久久久密 | 国产野战对白在线观看| 最近中文字幕高清免费大全6| 一级,二级,三级黄色视频| av在线老鸭窝| 卡戴珊不雅视频在线播放| 一区二区三区精品91| 日韩电影二区| 一区二区三区四区激情视频| 亚洲av国产av综合av卡| 国产免费又黄又爽又色| 午夜日韩欧美国产| 国产精品一国产av| 日韩一区二区视频免费看| 欧美日韩国产mv在线观看视频| 国产熟女午夜一区二区三区| 国产成人午夜福利电影在线观看|