• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)信息收集處理與隱私權(quán)的公眾理解研究

    2023-06-08 17:41:25岳麗媛鄭泉
    科普研究 2023年2期
    關(guān)鍵詞:微博隱私權(quán)大數(shù)據(jù)

    岳麗媛 鄭泉

    [摘? ?要] 隨著大數(shù)據(jù)技術(shù)的廣泛應(yīng)用,隱私和信息安全成為大數(shù)據(jù)使用中討論最廣泛的問(wèn)題之一。針對(duì)大數(shù)據(jù)的共享與隱私權(quán)保護(hù)之間的沖突與平衡,國(guó)內(nèi)外研究都取得了一些成果,但公眾作為核心的利益相關(guān)者被忽視了,對(duì)于大數(shù)據(jù)時(shí)代個(gè)人信息收集與處理的隱私權(quán)問(wèn)題,目前學(xué)界還缺乏足夠的公眾理解研究。為此,研究嘗試從公眾視角切入,以國(guó)內(nèi)應(yīng)用廣泛的開(kāi)放式社交媒體新浪微博為對(duì)象,抓取了2020年1—2月期間有關(guān)大數(shù)據(jù)和隱私權(quán)的所有條目進(jìn)行了簡(jiǎn)要內(nèi)容分析,并于2021年4月對(duì)北京地區(qū)公眾開(kāi)展了214份問(wèn)卷調(diào)查作為補(bǔ)充,在以上兩類調(diào)研基礎(chǔ)上,分析了我國(guó)個(gè)人信息收集與處理的隱私權(quán)問(wèn)題的公眾理解現(xiàn)狀,指出公眾對(duì)大數(shù)據(jù)技術(shù)帶來(lái)的隱私問(wèn)題理解有限、媒體的科學(xué)傳播不到位及尚未形成系統(tǒng)的開(kāi)放監(jiān)督機(jī)制等問(wèn)題,并探討了可能存在的深層原因,及公眾理解科學(xué)理念下的解決思路。

    [關(guān)鍵詞]大數(shù)據(jù)? ?隱私權(quán)? ?公眾理解科學(xué)? ?微博

    [中圖分類號(hào)] G206.3 [文獻(xiàn)標(biāo)識(shí)碼] A [ DOI ] 10.19293/j.cnki.1673-8357.2023.02.011

    近年來(lái),大數(shù)據(jù)技術(shù)已經(jīng)滲透到各行各業(yè),以其海量的數(shù)據(jù)集和高效自動(dòng)的采集、分析和應(yīng)用模式,帶來(lái)了一場(chǎng)數(shù)據(jù)技術(shù)革命,正在引起社會(huì)結(jié)構(gòu)變化[1]。批判數(shù)據(jù)研究(Critical Data Studies)隨之興起,反思圍繞大數(shù)據(jù)展開(kāi)的社會(huì)實(shí)踐及研究[2],涉及數(shù)據(jù)的社會(huì)嵌入性和建構(gòu)性,及與數(shù)據(jù)有關(guān)的科技倫理與社會(huì)公正問(wèn)題[3-4]。其中,隱私倫理及與之相關(guān)的安全性、透明度和開(kāi)放性,被認(rèn)為是有關(guān)大數(shù)據(jù)批判研究中的核心問(wèn)題之一[5]。隱私的概念其實(shí)由來(lái)已久,隱私權(quán)作為法學(xué)范疇的概念出現(xiàn)于19世紀(jì)末,是現(xiàn)代社會(huì)公認(rèn)的自然人的基本權(quán)利之一,在我國(guó)也日益受到重視,最新的《中華人民共和國(guó)民法典》中首次對(duì)隱私權(quán)的概念和保護(hù)范圍做出了明確而具體的規(guī)定。大數(shù)據(jù)技術(shù)使得各式各樣的個(gè)人信息可以超越時(shí)空限制被全面收集起來(lái),彼此疊加、補(bǔ)充,從而增加了借助隱私而得到保護(hù)的多重價(jià)值受到損害的可能性和嚴(yán)重程度[6]。也因此,隱私權(quán)概念的內(nèi)涵和外延正在發(fā)生變化,如可推斷性信息的利用引起隱私范疇的擴(kuò)大,及隱私權(quán)性質(zhì)拓展,兼具了財(cái)產(chǎn)屬性等[7]??梢?jiàn),當(dāng)網(wǎng)絡(luò)與大數(shù)據(jù)技術(shù)對(duì)個(gè)人數(shù)據(jù)進(jìn)行全面收集、深度分析與廣泛共享時(shí),不可避免地對(duì)個(gè)人隱私和利益帶來(lái)微妙而深遠(yuǎn)的影響[8]。

    盡管大數(shù)據(jù)技術(shù)共享與隱私權(quán)保護(hù)之間的問(wèn)題已經(jīng)引起學(xué)者的關(guān)注和研究,但公眾作為核心利益攸關(guān)者,既是數(shù)據(jù)信息的創(chuàng)造者/所有者,又是數(shù)據(jù)的被動(dòng)貢獻(xiàn)者,他們對(duì)大數(shù)據(jù)技術(shù)的認(rèn)知和態(tài)度卻在一定程度上被忽視了。目前,對(duì)于大數(shù)據(jù)時(shí)代個(gè)人信息收集與處理的隱私權(quán)問(wèn)題,還缺乏足夠的公眾理解研究。公眾對(duì)大數(shù)據(jù)監(jiān)控技術(shù)其實(shí)有著更廣泛關(guān)注,但國(guó)際上除了調(diào)查組織和政府機(jī)構(gòu)的報(bào)告外,公眾理解科學(xué)領(lǐng)域的學(xué)理性研究還不多見(jiàn),國(guó)內(nèi)目前也缺乏針對(duì)公眾理解大數(shù)據(jù)與隱私權(quán)問(wèn)題的相關(guān)研究。為此本文嘗試從公眾如何理解大數(shù)據(jù)這一新興技術(shù)的視角切入這一議題,結(jié)合公眾理解科學(xué)這一領(lǐng)域的理論資源,選擇在國(guó)內(nèi)應(yīng)用最為廣泛的開(kāi)放式社交媒體新浪微博的相關(guān)內(nèi)容,輔以北京地區(qū)公眾的問(wèn)卷調(diào)查進(jìn)行綜合分析,思考大數(shù)據(jù)時(shí)代我國(guó)個(gè)人信息收集與處理的隱私權(quán)問(wèn)題的公眾理解現(xiàn)狀及存在的問(wèn)題,探討背后的深層原因及可能的解決思路。

    1大數(shù)據(jù)與“公眾理解科學(xué)”

    關(guān)于公眾與科學(xué)關(guān)系的爭(zhēng)論其實(shí)由來(lái)已久,幾乎可以追溯到現(xiàn)代科學(xué)的誕生[9],但其真正成為一個(gè)社會(huì)研究領(lǐng)域,始于1985年英國(guó)皇家學(xué)會(huì)的《公眾理解科學(xué)》(Public Understanding of Science,PUS)報(bào)告,這個(gè)報(bào)告直接促進(jìn)了英國(guó)公眾理解科學(xué)委員會(huì)的成立。英國(guó)公眾理解科學(xué)委員會(huì)負(fù)責(zé)制定科學(xué)和技術(shù)的傳播標(biāo)準(zhǔn),促使科學(xué)傳播成為一項(xiàng)正式的職業(yè)[10]。公眾理解科學(xué)也發(fā)展為科學(xué)技術(shù)與社會(huì)(Science, Technology and Society,STS)研究領(lǐng)域的重要內(nèi)容[11]。要思考公眾理解大數(shù)據(jù)的問(wèn)題,不能不聚焦于該領(lǐng)域進(jìn)展。首先,要厘清公眾理解科學(xué)理念的內(nèi)涵,根據(jù)報(bào)告內(nèi)容,這里的“理解”一詞既包括對(duì)科學(xué)事實(shí)、科學(xué)方法和限度的理解,也包括對(duì)科學(xué)實(shí)際影響和社會(huì)后果的一種認(rèn)識(shí),還包括對(duì)風(fēng)險(xiǎn)、不確定性和多變性在內(nèi)的統(tǒng)計(jì)學(xué)的基本理解,及消化吸收數(shù)據(jù)材料的能力[12]。也就是說(shuō),要理解大數(shù)據(jù)技術(shù),不僅要理解其相關(guān)的科學(xué)技術(shù)知識(shí)與方法、社會(huì)應(yīng)用的現(xiàn)實(shí),還要理解這一技術(shù)的局限性、多變性、不確定性,及其帶來(lái)的各種風(fēng)險(xiǎn),包括隱私權(quán)等倫理風(fēng)險(xiǎn)帶來(lái)的實(shí)際影響和社會(huì)后果。而“公眾”主要指的是在科學(xué)界之外的公眾,包括各行各業(yè)作為社會(huì)成員履行公民責(zé)任的公民個(gè)體[12]。隨著科學(xué)、技術(shù)與社會(huì)關(guān)系的日益交錯(cuò)發(fā)展,“公眾”的話語(yǔ)權(quán)也逐漸得到重視,在世界范圍內(nèi)實(shí)踐主要體現(xiàn)在“參與性轉(zhuǎn)變”,已從強(qiáng)調(diào)“公眾理解科學(xué)”轉(zhuǎn)向了“科學(xué)理解公眾”,對(duì)科技應(yīng)用、媒體和公眾整體關(guān)系的研究已成為科學(xué)傳播的主要趨勢(shì)[13]。

    大數(shù)據(jù)技術(shù)為公眾理解科學(xué)帶來(lái)了許多挑戰(zhàn),但僅有少數(shù)學(xué)者對(duì)公眾理解大數(shù)據(jù)的實(shí)踐進(jìn)行了研究。布蘭特納(Brantner)等對(duì)《紐約時(shí)報(bào)》和《華盛頓郵報(bào)》網(wǎng)絡(luò)版大數(shù)據(jù)相關(guān)文章中的圖片進(jìn)行考察,指出要重視視覺(jué)話語(yǔ)對(duì)于研究公眾理解大數(shù)據(jù)技術(shù)的必要性[14] 。勒普頓(Lupton)與邁克爾(Michael)曾關(guān)注斯諾登事件后美國(guó)公眾對(duì)個(gè)人數(shù)據(jù)收集和利用的態(tài)度轉(zhuǎn)變,指出缺乏相關(guān)知識(shí)影響了人們對(duì)大數(shù)據(jù)技術(shù)的態(tài)度,建議采用日常生活和實(shí)踐中定位問(wèn)題的新方法來(lái)促進(jìn)公眾對(duì)大數(shù)據(jù)技術(shù)應(yīng)用更廣泛和更深入的理解[15]。勒普頓與邁克爾的另一項(xiàng)研究更具啟發(fā)性,認(rèn)為公眾對(duì)大數(shù)據(jù)技術(shù)的理解以及相關(guān)問(wèn)題的參與非常必要,為此鄭重提出了“公眾理解大數(shù)據(jù)”(public understanding of big data,PUBD)術(shù)語(yǔ),并為之勾畫(huà)了一個(gè)“宣言”(manifesto),指出了針對(duì)人們?cè)诰€行為的數(shù)據(jù)被收集、處理方面應(yīng)關(guān)注的幾個(gè)基本問(wèn)題:? (1)人們是何時(shí)、何地、如何接觸到或參與大數(shù)據(jù)技術(shù)的;? (2)誰(shuí)被認(rèn)為是大數(shù)據(jù)技術(shù)相關(guān)信息的可靠來(lái)源,或誰(shuí)被認(rèn)為是可信的評(píng)論員和批評(píng)者;? (3)大數(shù)據(jù)系統(tǒng)開(kāi)放給公眾監(jiān)督的機(jī)制是什么? [16]這實(shí)際上揭示了大數(shù)據(jù)技術(shù)實(shí)踐的三類重要的利益主體:公眾、媒體(包括科普專家、律師等意見(jiàn)領(lǐng)袖)、監(jiān)管部門(mén)(政府)。這些研究為本研究提供了一定的啟示。

    2基于微博的公眾認(rèn)知和態(tài)度分析

    本研究首先從國(guó)內(nèi)應(yīng)用最為廣泛的開(kāi)放式社交媒體新浪微博入手,利用計(jì)算機(jī)語(yǔ)言Python對(duì)微博進(jìn)行信息檢索和抓取。2020年 1—2月期間共有微博68 017 805條,包含關(guān)鍵詞“大數(shù)據(jù)”和“隱私”的微博有2 158條,進(jìn)一步篩選其中與大數(shù)據(jù)技術(shù)和個(gè)人隱私密切相關(guān)的1 197條作為研究樣本。采用內(nèi)容分析法,先通讀微博樣本的全部文本內(nèi)容,對(duì)每條微博的發(fā)布者的身份類型和認(rèn)知與態(tài)度進(jìn)行了提煉和分類,形成類目設(shè)置后進(jìn)行統(tǒng)計(jì),基于統(tǒng)計(jì)結(jié)果開(kāi)展了如下分析。

    2.1微博發(fā)布者身份類型統(tǒng)計(jì)

    經(jīng)過(guò)統(tǒng)計(jì)發(fā)現(xiàn),來(lái)自政府及相關(guān)部門(mén)(包括地方政務(wù)平臺(tái)及公安、檢察、司法、衛(wèi)生、應(yīng)急等部門(mén))的微博數(shù)量最多,為730條。其中,中國(guó)科協(xié)雖然是中國(guó)科學(xué)技術(shù)工作者的群團(tuán)組織,但作為黨和政府聯(lián)系科學(xué)技術(shù)工作者的橋梁和紐帶、國(guó)家推動(dòng)科學(xué)技術(shù)事業(yè)發(fā)展的重要力量,實(shí)際上發(fā)揮著政府職能部門(mén)的功能,因此被并入此類。其次是來(lái)自官方媒體(包括廣播電臺(tái)電視臺(tái)、日?qǐng)?bào)、晚報(bào)等)的215條,其他社會(huì)性媒體(商業(yè)類報(bào)紙、法律咨詢平臺(tái)等)71條,民營(yíng)科技企業(yè)25條,國(guó)有事業(yè)單位/國(guó)有企業(yè)(高校、航空、電信)12條,而個(gè)人微博數(shù)量只有144條。公眾對(duì)大數(shù)據(jù)采集與隱私權(quán)的問(wèn)題關(guān)注較少,或者說(shuō)只有少數(shù)人傾向于在網(wǎng)絡(luò)上表達(dá)態(tài)度、意見(jiàn)。

    2.2微博發(fā)布者態(tài)度類型統(tǒng)計(jì)

    根據(jù)傳播學(xué)的經(jīng)典涵化理論,公眾的態(tài)度潛移默化受到社交媒體的影響,政府相關(guān)部門(mén)和各類媒體的官方微博對(duì)大數(shù)據(jù)與隱私權(quán)的宣傳也體現(xiàn)了對(duì)公眾態(tài)度的期待。因此,作為網(wǎng)絡(luò)輿論整體,按照對(duì)大數(shù)據(jù)監(jiān)控的接受程度由高到低,以及對(duì)隱私權(quán)的重視程度由低到高變化,對(duì)以上各類微博發(fā)布主體的態(tài)度進(jìn)行了總結(jié)、分類(見(jiàn)圖1),從統(tǒng)計(jì)數(shù)據(jù)看,整體上對(duì)大數(shù)據(jù)技術(shù)的接受程度較高,對(duì)隱私權(quán)的重視程度很低。

    2.3微博發(fā)布身份與態(tài)度的交叉分析

    將微博發(fā)布者身份類型與態(tài)度類型進(jìn)行交叉統(tǒng)計(jì),如表1所示。各類政府部門(mén)對(duì)待大數(shù)據(jù)與隱私權(quán)的態(tài)度包含多種類型,強(qiáng)調(diào)“技術(shù)可靠可控,能保障個(gè)人隱私安全”(33%)最多,其次是宣稱“確保隱私權(quán)的前提下公開(kāi)相關(guān)信息”(28%),但多為口號(hào)式宣傳,一筆帶過(guò)。

    在政府部門(mén)及官方媒體宣傳中“宣稱會(huì)確保隱私權(quán)為前提”(43%)和“強(qiáng)調(diào)大數(shù)據(jù)技術(shù)的可靠性”(29%)的內(nèi)容占主要部分,也進(jìn)行了一些普法宣傳,例如強(qiáng)調(diào)了“公民的人格權(quán)(包括隱私權(quán))受法律保護(hù)”“依法保護(hù)人民群眾知情權(quán)和公民個(gè)人隱私權(quán)”,但發(fā)布媒體全部為地方性官方媒體,缺乏有影響力的全國(guó)性主流媒體的聲音。其他社會(huì)性媒體態(tài)度各異,主要集中在“技術(shù)可靠可控,能保障個(gè)人隱私安全”“呼吁不得侵犯?jìng)€(gè)人隱私權(quán)”,僅有1條微博質(zhì)疑了大數(shù)據(jù)應(yīng)用帶來(lái)的隱私風(fēng)險(xiǎn),提到 “大數(shù)據(jù)采集背后的隱私安全漏洞,包括一些衍生的其他安全問(wèn)題”。

    國(guó)有企事業(yè)單位、民辦科技企業(yè)的微博數(shù)量不多,宣傳“技術(shù)可靠可控,能保障個(gè)人隱私安全”的分別為7條、19條,“宣稱確保隱私權(quán)的前提下公開(kāi)相關(guān)信息”分別為5條、2條。從這兩類內(nèi)容的占比來(lái)看,科技企業(yè)對(duì)技術(shù)的信賴和保障態(tài)度比較明顯。

    個(gè)人網(wǎng)民對(duì)大數(shù)據(jù)與隱私權(quán)問(wèn)題的關(guān)注,顯示出態(tài)度各異,統(tǒng)計(jì)涉及了全部8種觀點(diǎn)。有少部分人(17%)認(rèn)為可以為公共健康犧牲部分隱私權(quán),如“雖然厭惡暴露隱私的大數(shù)據(jù),但是不得不說(shuō),人口眾多的國(guó)家確實(shí)需要大數(shù)據(jù)啊”“生存比隱私更重要,我們現(xiàn)在的問(wèn)題是活下去的問(wèn)題”。因?yàn)榻y(tǒng)計(jì)數(shù)據(jù)時(shí)間恰好是新冠疫情暴發(fā)之際,對(duì)生命健康的關(guān)注顯然會(huì)影響到普通公眾對(duì)隱私權(quán)的態(tài)度。但即使在這樣的背景下,大部分網(wǎng)民還是希望隱私權(quán)有所保障,并且有較大比例(32%)網(wǎng)民對(duì)個(gè)人信息采集帶來(lái)的隱私風(fēng)險(xiǎn)提出了質(zhì)疑。如 “這回是發(fā)現(xiàn)了,在大數(shù)據(jù)面前,一點(diǎn)隱私都沒(méi)有了”“直接曝光人家住址和車牌,可能涉嫌侵犯隱私,建議打碼”等表述。

    從以上分析來(lái)看,大數(shù)據(jù)與隱私權(quán)問(wèn)題在網(wǎng)絡(luò)上有一定的傳播,也得到了公眾一定程度的關(guān)注。但公眾對(duì)此的討論還十分有限,僅能從只言片語(yǔ)的口號(hào)、抱怨中識(shí)別出其態(tài)度類型,認(rèn)知程度和深度還有待提升。

    3基于調(diào)查問(wèn)卷的公眾認(rèn)知和態(tài)度分析

    為了彌補(bǔ)微博調(diào)研樣本可能帶來(lái)的局限性,更有針對(duì)性地調(diào)查普通公眾在生活中何時(shí)、何地、以何種方式接觸到個(gè)人信息采集,他們所熟知的大數(shù)據(jù)技術(shù)相關(guān)知識(shí)的來(lái)源,以及他們對(duì)隱私權(quán)問(wèn)題監(jiān)管機(jī)制的了解程度,本研究增加了問(wèn)卷調(diào)查部分進(jìn)行補(bǔ)充分析。具體是2021年4月,以作者在北京高校的同事同行、學(xué)生等熟人為基礎(chǔ),采取滾雪球的方式拓展樣本,以問(wèn)卷星形式開(kāi)展網(wǎng)絡(luò)問(wèn)卷調(diào)查,針對(duì)北京地區(qū)常住居民發(fā)放,最終回收有效問(wèn)卷214份。

    3.1樣本人群的基本信息及一般性認(rèn)知

    樣本中有男性111人(51.87%),女性103人(48.13%),性別比例基本平衡。在年齡方面,30~40歲有104人,18~25歲有59人,25~30歲有37人,其中18~40歲的青壯年群體參與調(diào)查比較積極,占較大比重。樣本主要來(lái)自兩大類人群,一類是在校大學(xué)生及研究生,有68人,占樣本總數(shù)的31.78%,其中專業(yè)為人文社科類的學(xué)生占比較大(共50人);另一類是已經(jīng)工作的社會(huì)群體,來(lái)自高校和科研機(jī)構(gòu)的工作人員有67人,來(lái)自信息科技企業(yè)的有22人。

    針對(duì)問(wèn)題“您所在社區(qū)(居住地)什么時(shí)間開(kāi)始進(jìn)行個(gè)人信息的大數(shù)據(jù)采集的”,選擇記不太清楚的樣本人群占比48.6%,選擇在2020年之前就開(kāi)始的占比超過(guò)21%,其余的認(rèn)為是2020年之后才開(kāi)始。問(wèn)及“經(jīng)歷過(guò)哪些場(chǎng)所的個(gè)人信息大數(shù)據(jù)采集”時(shí),與人們?nèi)粘I蠲芮邢嚓P(guān)的地點(diǎn)都有很高提及率,如“學(xué)校/工作單位”“居住地所在社區(qū)”“醫(yī)院、賓館、銀行、超市商場(chǎng)等服務(wù)場(chǎng)所”“公交、地鐵、出租車、飛機(jī)等公共交通”幾個(gè)選項(xiàng)均有超過(guò)一半人提及;當(dāng)問(wèn)到“您經(jīng)歷的個(gè)人信息的大數(shù)據(jù)采集形式有哪些”,回答“掃碼登記”(99.53%)最為普遍,其次是身份證掃描(48.11%)、人臉識(shí)別(45.28%),以及問(wèn)卷調(diào)查(35.38%)??梢哉f(shuō),樣本人群對(duì)大數(shù)據(jù)技術(shù)采集個(gè)人信息有一定關(guān)注度。

    3.2樣本人群對(duì)隱私權(quán)及相關(guān)法律法規(guī)的了解情況

    對(duì)于“是否了解公民隱私權(quán)保護(hù)的相關(guān)法律法規(guī)”,58.96%的人“不太清楚”,23.58%的人“部分了解”,11.32%的人甚至“從沒(méi)聽(tīng)說(shuō)過(guò)”,只有1.42%的人“非常了解”。進(jìn)一步對(duì)63位至少部分了解的受眾進(jìn)行詢問(wèn),關(guān)于“您是否在媒體上看到公眾隱私(如姓名、身份證、電話、住址、疾病等不必要公開(kāi)的信息)被泄露的新聞”, 40人表示看到過(guò),23人沒(méi)有印象(占比超過(guò)36%)。對(duì)于更具體的問(wèn)題“這類隱私案件都是由于什么原因造成的”,選擇“技術(shù)原因后臺(tái)泄露”的有18人(45%),“社區(qū)等工作人員泄露”和“媒體人員泄露”的均為15人(37.5%),12人提到“其他非法手段竊取”(30%),8人提到“專業(yè)人員泄露”(20%),也有11人表示記不清了(27.5%)。

    對(duì)隱私權(quán)相關(guān)法律法規(guī)至少部分了解的63人,主要是通過(guò)微信朋友圈(44.44%)、電視(41.27%)、微博(36.51%)等渠道接觸過(guò)大數(shù)據(jù)應(yīng)用與公民隱私權(quán)保護(hù)相關(guān)的信息。門(mén)戶網(wǎng)站(26.98%)、人際交流(23.81%)、社區(qū)宣傳(20.63%)、今日頭條(17.46%)、報(bào)刊(12.70%)、抖音等短視頻(11.11%)也是重要渠道。

    針對(duì)隱私權(quán)可能涉及的法律法規(guī),僅有40人參與了答題,提到《個(gè)人信息安全規(guī)范》的最多,有24人(60%),其次提及《中華人民共和國(guó)網(wǎng)絡(luò)安全法》的有20人(50%),《中華人民共和國(guó)憲法》和《中華人民共和國(guó)民法典》均被17人提及(42.5%),《中華人民共和國(guó)治安管理處罰法》有12人(30%)提及。其他被提及的還有《中華人民共和國(guó)刑法》(3次,7.5%)、《中華人民共和國(guó)傳染病防治法》(6次,15%)、《中華人民共和國(guó)政府信息公開(kāi)條例》(5次,12.5%)、《突發(fā)公共衛(wèi)生事件應(yīng)急條例》(4次,10%),2人表示記不清了(5%),以上法律法規(guī)全部涉及隱私權(quán)相關(guān)內(nèi)容。

    對(duì)于侵犯?jìng)€(gè)人隱私權(quán)依法處理的幾項(xiàng)結(jié)果,有20人提到“行政處罰”(50%),14人提到“罰款”(35%),7人提到“拘留”(17.5%),3人提到“有期徒刑”,12人“記不清了”,全部知曉的寥寥無(wú)幾。整體上,樣本人群對(duì)相關(guān)法律法規(guī)認(rèn)知十分有限。

    3.3樣本人群對(duì)于大數(shù)據(jù)技術(shù)與隱私風(fēng)險(xiǎn)的態(tài)度

    對(duì)于“大數(shù)據(jù)應(yīng)用可能帶來(lái)的隱私泄露風(fēng)險(xiǎn)”的態(tài)度,89人(41.98%)選擇了可以接受,認(rèn)為大數(shù)據(jù)技術(shù)的優(yōu)勢(shì)遠(yuǎn)超過(guò)隱私泄露風(fēng)險(xiǎn)的劣勢(shì),為了公共安全或健康,可以犧牲一部分隱私權(quán);42人(19.81%)持有樂(lè)觀支持的態(tài)度,例如高度肯定大數(shù)據(jù)技術(shù)的便捷和高效性,堅(jiān)信能依靠技術(shù)解決隱私權(quán)保護(hù)的問(wèn)題;38人(17.92%)認(rèn)為別無(wú)選擇,被迫接受,對(duì)風(fēng)險(xiǎn)持審慎態(tài)度;32人(15.09%)持有懷疑態(tài)度,對(duì)隱私權(quán)泄露及潛在的其他風(fēng)險(xiǎn)持有深深的隱憂;7人(3.3%)表示無(wú)所謂,不太關(guān)心這類問(wèn)題;4人(1.89%)表示憤怒,認(rèn)為大數(shù)據(jù)監(jiān)控技術(shù)絕對(duì)是對(duì)個(gè)人隱私權(quán)的侵犯。

    隨著大數(shù)據(jù)技術(shù)采集信息應(yīng)用的日益普及,談及其帶來(lái)的公民隱私權(quán)問(wèn)題,目前的態(tài)度與過(guò)去相比是否發(fā)生變化,79人(37.26%)認(rèn)為自己“比過(guò)去更注重隱私權(quán)問(wèn)題了”, 74人(34.91%)認(rèn)為“比過(guò)去更能接受大數(shù)據(jù)技術(shù)的應(yīng)用了”,48人(22.64%)認(rèn)為自己的態(tài)度沒(méi)什么變化、前后基本一致,10人(4.72%)表示沒(méi)想過(guò)。

    關(guān)于最擔(dān)心的大數(shù)據(jù)技術(shù)風(fēng)險(xiǎn)方面,160人(75.47%)選擇了“大數(shù)據(jù)企業(yè)被利益驅(qū)動(dòng)”,其次選“監(jiān)管部門(mén)及工作人員玩忽職守” 的有117人(55.19%),以及“媒體泄露”101人(47.64%),“黑客竊取”99人(46.7%),“技術(shù)本身的不確定性”85人(40.09%),“其他不可預(yù)見(jiàn)風(fēng)險(xiǎn)”72人(33.96%)。此外,對(duì)于個(gè)人信息收集與處理,最擔(dān)心的侵權(quán)行為,183人選擇了隱私權(quán)(86.32%)。

    以上分析表明,公眾對(duì)大數(shù)據(jù)技術(shù)及其隱私風(fēng)險(xiǎn)的認(rèn)識(shí)并不充分,缺乏主動(dòng)深入了解的熱情,具體意見(jiàn)不盡相同。不同于2020年初微博網(wǎng)友質(zhì)疑、抱怨占比較大,2021年的問(wèn)卷調(diào)查中,大部分人對(duì)于當(dāng)下個(gè)人信息的大數(shù)據(jù)全面采集和處理持接受態(tài)度,部分被迫接受為公共健康安全讓渡一部分隱私權(quán),有的則無(wú)所謂,也有少部分堅(jiān)決抵制。矛盾的是,在對(duì)侵權(quán)行為的擔(dān)心和尋求保護(hù)上,大家又是幾乎一致的訴求。因而不能把公眾的理解簡(jiǎn)單化為“無(wú)知”,而是具有多元性、矛盾性和現(xiàn)實(shí)性的復(fù)雜特質(zhì)。

    4研究發(fā)現(xiàn)

    基于以上兩類統(tǒng)計(jì)分析,結(jié)合有關(guān)大數(shù)據(jù)與隱私的倫理研究基礎(chǔ),依照勒普頓與邁克爾提出的“公眾理解大數(shù)據(jù)”的幾個(gè)基本問(wèn)題,總結(jié)我國(guó)當(dāng)下“公眾理解大數(shù)據(jù)”的現(xiàn)狀及問(wèn)題如下。

    4.1公眾對(duì)大數(shù)據(jù)技術(shù)帶來(lái)的隱私問(wèn)題理解有限

    大數(shù)據(jù)技術(shù)信息采集已經(jīng)與日常生活密切關(guān)聯(lián),貫穿于日常生活的各個(gè)場(chǎng)景。人們以多種多樣的形式參與到了大數(shù)據(jù)的信息收集中,掃碼最為普遍化,其他還包括身份證掃描、人臉識(shí)別。但整體上,公眾隱私倫理意識(shí)比較淡薄,且對(duì)隱私的認(rèn)知存在一定偏差。大部分人對(duì)大數(shù)據(jù)技術(shù)潛在的隱私問(wèn)題關(guān)注不夠、認(rèn)知模糊、自我保護(hù)意識(shí)不足,還有一部分人過(guò)于悲觀或偏激,對(duì)大數(shù)據(jù)開(kāi)放共享與隱私保護(hù)之間的困境缺乏理性認(rèn)識(shí)和思考。本次問(wèn)卷調(diào)研的主要調(diào)查對(duì)象是相對(duì)年輕、受過(guò)高等教育、生活在首都北京這樣現(xiàn)代化大都市的人群,他們本應(yīng)是科學(xué)素養(yǎng)較高的群體,調(diào)查結(jié)果卻反映出大部分人對(duì)大數(shù)據(jù)技術(shù)及隱私權(quán)問(wèn)題的理解非常有限,由此基本可以反映出我國(guó)公眾普遍存在著大數(shù)據(jù)技術(shù)素養(yǎng)缺失的問(wèn)題。

    4.2媒體和相關(guān)企業(yè)平臺(tái)對(duì)數(shù)據(jù)采集與隱私保護(hù)的傳播不到位

    在各類媒體中,本該成為可靠來(lái)源的科普專家、法律專家明顯缺席。從問(wèn)卷調(diào)查來(lái)看,公眾獲取大數(shù)據(jù)技術(shù)相關(guān)信息的主要渠道是微信朋友圈,微博和人際傳播。微信朋友圈由于其封閉性未作考察,微博平臺(tái)上各類媒體和相關(guān)企業(yè)官微發(fā)布的相關(guān)內(nèi)容大多過(guò)于簡(jiǎn)化、單一,常常是口號(hào)式的重復(fù)宣傳,且傾向于肯定大數(shù)據(jù)技術(shù)帶來(lái)的便捷,對(duì)監(jiān)控技術(shù)可能存在的隱私等風(fēng)險(xiǎn)缺乏深入的分析和傳播。從微博樣本來(lái)看,國(guó)家級(jí)權(quán)威的主流媒體官方微博幾乎沒(méi)有對(duì)此發(fā)聲。

    4.3 公眾對(duì)大數(shù)據(jù)技術(shù)隱私風(fēng)險(xiǎn)的監(jiān)督意識(shí)尚未形成

    公眾對(duì)大數(shù)據(jù)背景下的隱私權(quán)保護(hù)措施知之有限,監(jiān)督意識(shí)尚未形成。盡管大部分公眾對(duì)大數(shù)據(jù)應(yīng)用的潛在風(fēng)險(xiǎn)表示擔(dān)憂,但對(duì)法律法規(guī)認(rèn)知卻十分有限,超過(guò)一半的人“不太清楚”哪些法律有隱私權(quán)保護(hù)條款,對(duì)提及法律法規(guī)的具體內(nèi)容更知之甚少。事實(shí)上,雖然目前我國(guó)已經(jīng)出臺(tái)多部法律法規(guī),包括問(wèn)卷中的所有選項(xiàng)及最新頒布的《中華人民共和國(guó)數(shù)據(jù)安全法》等,均對(duì)公民隱私權(quán)有一些相關(guān)規(guī)定,只有在特定條件下,經(jīng)過(guò)相應(yīng)的程序才準(zhǔn)許披露個(gè)人脫敏后的匿名信息,但是現(xiàn)實(shí)中個(gè)人數(shù)據(jù)侵權(quán)事件時(shí)有發(fā)生,微博樣本中大數(shù)據(jù)對(duì)個(gè)人信息收集與處理中,就涉及了27例泄露個(gè)人隱私的報(bào)道。進(jìn)入大數(shù)據(jù)時(shí)代,普遍存在個(gè)人信息被過(guò)度收集、保密措施不足、信息傳遞過(guò)程缺乏必要的監(jiān)控的問(wèn)題,一旦發(fā)生侵權(quán)行為,維權(quán)將會(huì)異常艱難 [17]。

    5討論與結(jié)論

    科學(xué)技術(shù)和社會(huì)的內(nèi)在聯(lián)系日益緊密,影響人們生活的方方面面。一方面,大數(shù)據(jù)已成為一種核心生產(chǎn)要素,給人們的生活帶來(lái)了極大的便利,改變并重塑著目前的社會(huì)形態(tài);另一方面,隨著對(duì)個(gè)人敏感信息的過(guò)度收集、大數(shù)據(jù)殺熟、隱私泄露等事件的頻發(fā),大數(shù)據(jù)開(kāi)放共享與公眾隱私保護(hù)之間的困境問(wèn)題日益凸顯,大數(shù)據(jù)技術(shù)的發(fā)展帶來(lái)了不容忽視的隱私倫理挑戰(zhàn)。但目前我們對(duì)于大數(shù)據(jù)技術(shù)自身邏輯缺陷,及對(duì)傳統(tǒng)隱私倫理根本基礎(chǔ)的顛覆性的認(rèn)識(shí)和討論還不充分。因而,促進(jìn)公眾理解大數(shù)據(jù)技術(shù),也應(yīng)包括對(duì)隱私倫理的理解和認(rèn)知,需要結(jié)合公眾理解科學(xué)理念,在科技與社會(huì)的環(huán)境下對(duì)此現(xiàn)象和帶來(lái)的問(wèn)題進(jìn)行深入剖析,探討可能的解決思路。

    首先,當(dāng)下媒體及專家對(duì)大數(shù)據(jù)技術(shù)及其隱私權(quán)問(wèn)題的忽視,并不是特別現(xiàn)象,其實(shí)反映了整個(gè)社會(huì)對(duì)大數(shù)據(jù)技術(shù)倫理問(wèn)題缺乏足夠的、深入的認(rèn)知。在對(duì)待新興科技上,我們?nèi)菀桩a(chǎn)生盲目樂(lè)觀的科學(xué)主義、技治主義傾向,由此掩蓋了對(duì)新技術(shù)的不確定性風(fēng)險(xiǎn)的理性認(rèn)知。這樣的立場(chǎng)或者說(shuō)傾向是存在問(wèn)題的,一旦技術(shù)失控必然會(huì)引發(fā)嚴(yán)重社會(huì)問(wèn)題并喪失公眾的信任與尊重。公眾理解科學(xué)從興起之初就并非僅僅強(qiáng)調(diào)公眾知識(shí)素養(yǎng)的提升,發(fā)展至今更為關(guān)注科技與社會(huì)互動(dòng)關(guān)系,不僅要傳播其所帶來(lái)的不確定性和風(fēng)險(xiǎn),還要促進(jìn)公眾“參與性轉(zhuǎn)變”,使公眾的聲音可以進(jìn)入科技決策過(guò)程,這才是解決問(wèn)題的途徑。更進(jìn)一步,要促進(jìn)我國(guó)公眾恰當(dāng)?shù)乩斫獯髷?shù)據(jù)技術(shù)及其隱私風(fēng)險(xiǎn),追本溯源,還需要各類專家、媒體及相關(guān)管理、執(zhí)行部門(mén)等多元主體共同具備相應(yīng)的共識(shí)和恰當(dāng)?shù)目茖W(xué)素養(yǎng),引入倫理治理概念,從科技與社會(huì)互動(dòng)與形塑的角度,不僅與時(shí)俱進(jìn)地理解大數(shù)據(jù)技術(shù)相關(guān)知識(shí)與技術(shù)手段、社會(huì)應(yīng)用的現(xiàn)實(shí)和發(fā)展方向,同時(shí)還要理解這一技術(shù)的局限性,分析其可能在哪些環(huán)節(jié)帶來(lái)哪些社會(huì)倫理基礎(chǔ)問(wèn)題,特別是隱私權(quán)的動(dòng)態(tài)變化、大數(shù)據(jù)時(shí)代對(duì)公私邊界的顛覆等。

    其次,在具體舉措方面,媒體及作為媒體信息源的專家肩負(fù)著促進(jìn)公眾理解和參與大數(shù)據(jù)技術(shù)及倫理問(wèn)題的社會(huì)責(zé)任。2020年9月,由中國(guó)自然科學(xué)博物館學(xué)會(huì)、中國(guó)科普作家協(xié)會(huì)、中國(guó)科技新聞學(xué)會(huì)、中國(guó)科協(xié)創(chuàng)新戰(zhàn)略研究院、北京果殼互動(dòng)科技傳媒有限公司5家單位聯(lián)合發(fā)布的《科普倫理倡議書(shū)》,已經(jīng)開(kāi)始強(qiáng)調(diào)廣大科普從業(yè)人員要堅(jiān)持科技向善的價(jià)值導(dǎo)向,堅(jiān)持科普為民的初心,承擔(dān)社會(huì)責(zé)任的使命擔(dān)當(dāng)。充分表明我國(guó)政府非常重視科技倫理,并已經(jīng)將其與促進(jìn)公眾理解科學(xué)的科普實(shí)踐聯(lián)系在一起。公眾的科學(xué)認(rèn)知和態(tài)度是與日常生活中媒介所建構(gòu)的“擬態(tài)環(huán)境”密切相關(guān),媒介議程設(shè)置影響著人們對(duì)科技議題的重視程度和理解程度,應(yīng)強(qiáng)調(diào)和引導(dǎo)媒體傳播平臺(tái)以社會(huì)責(zé)任為出發(fā)點(diǎn),加強(qiáng)對(duì)公眾數(shù)據(jù)隱私意識(shí)的保護(hù)與宣傳。具體來(lái)說(shuō),可對(duì)大數(shù)據(jù)收集、處理與使用的過(guò)程,監(jiān)管和法律準(zhǔn)則,數(shù)據(jù)主體隱私保護(hù)的原則,以及主體責(zé)任與義務(wù)等方面進(jìn)行系統(tǒng)梳理與介紹,在平臺(tái)上強(qiáng)化政策專家、數(shù)據(jù)專家、法律專家、科普專家、數(shù)據(jù)使用者與生產(chǎn)者等各群體的多元知識(shí)生產(chǎn)與傳播,加強(qiáng)平臺(tái)與公眾的互動(dòng)與交流。

    最后,政府相關(guān)部門(mén)應(yīng)針對(duì)目前數(shù)據(jù)保護(hù)中的薄弱環(huán)節(jié),加強(qiáng)監(jiān)管頂層設(shè)計(jì),在注重技術(shù)賦能的基礎(chǔ)上,加強(qiáng)各領(lǐng)域利益主體在大數(shù)據(jù)監(jiān)控與隱私保護(hù)上的協(xié)同治理,通過(guò)制定相關(guān)機(jī)制明確責(zé)任分擔(dān),引導(dǎo)數(shù)據(jù)開(kāi)發(fā)和使用企業(yè)將倫理規(guī)范和道德準(zhǔn)則嵌入到數(shù)據(jù)挖掘和處理的過(guò)程中。近兩年來(lái),我國(guó)政府在法律法規(guī)、倫理準(zhǔn)則的制定等方面也在加快步伐,例如,2021年11月,? ?《中華人民共和國(guó)個(gè)人信息保護(hù)法》正式實(shí)施,保護(hù)法確立了個(gè)人信息保護(hù)原則,這是中國(guó)政府制定的第一部專門(mén)保護(hù)個(gè)人信息的法律。同年11月,中國(guó)信息通信研究院發(fā)布了《移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序(App)個(gè)人信息保護(hù)治理白皮書(shū)》,推動(dòng)了我國(guó)App個(gè)人信息保護(hù)的治理工作。為了進(jìn)一步貫徹落實(shí)對(duì)個(gè)人信息的法律保護(hù),2022年11月,國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《個(gè)人信息保護(hù)認(rèn)證實(shí)施規(guī)則》??傊?,需要通過(guò)法律、倫理、政策等多角度的機(jī)制完善,堅(jiān)持政府、企業(yè)、專家、媒體、公眾共同參與,推動(dòng)數(shù)據(jù)開(kāi)放與隱私保護(hù)的協(xié)同治理。

    參考文獻(xiàn)

    黃欣榮.大數(shù)據(jù)哲學(xué)研究的背景、現(xiàn)狀與路徑[J].哲學(xué)動(dòng)態(tài),2015(7):96-102.

    Dalton C M,Taylor L,Thatcher J. Critical Data Studies:A Dialog on Data and Space[J]. Big Data & Society,2016,3(1):1-9.

    Heeks R,Renken J. Data Justice for Development:What Would it Mean?[J]. Information Development,2016,34(1):90-102.

    Dencik L,Hintz A,Cable J.‘Towards Data Justice? The Ambiguity of Anti-Surveillance Resistance in Political Activism[J].Big Data & Society,2016,3(2):1-12.

    Richterich A. Data Ethics and Critical Data Studies[M]. Lodon:University of Westminster Press,2018:15-16.

    呂耀懷,羅雅婷.大數(shù)據(jù)時(shí)代個(gè)人信息收集與處理的隱私問(wèn)題及其倫理維度[J].哲學(xué)動(dòng)態(tài),2017(2):63-68.

    唐熙然.大數(shù)據(jù)的倫理問(wèn)題及其道德哲學(xué)——第一屆全國(guó)賽博倫理學(xué)研討會(huì)綜述[J].倫理學(xué)研究,2015(2):138-140.

    段偉文,紀(jì)長(zhǎng)霖.網(wǎng)絡(luò)與大數(shù)據(jù)時(shí)代的隱私權(quán)[J].科學(xué)與社會(huì),2014,4(2):90-100.

    Raza G. Introduction:Mapping Public Understanding of Science[J]. Science,Technology & Society,2009,14(2):211-219.

    李正偉,劉兵.對(duì)英國(guó)有關(guān)“公眾理解科學(xué)”的三份重要報(bào)告的簡(jiǎn)要考察與分析[J].自然辯證法研究,2003(5):70-74.

    Bauer M W.? The Evolution of Public Understanding of Science-discourse and Comparative Evidence[J]. Science,Technology and Society. 2009,14(2):221-240.

    Royal Society .The Public Understanding of Science[R]. London :The Royal Society,1985.

    劉兵,侯強(qiáng).科學(xué)傳播中的議程設(shè)置[J].科技導(dǎo)報(bào),2005(10):76-78.

    Pentzold C,Brantner C,F(xiàn)?lsche L. Imagining Big Data:Illustrations of“Big Data”in US News Articles,2010—2016[J]. New Media & Society,2019,21(1):139-167.

    Lupton D,Michael M.‘Depends on Whos Got the Data:Public Understandings of Personal Digital Dataveillance[J]. Surveillance & Society,2017,15(2):254-268.

    Michael M,Lupton D. Toward a manifesto for the‘public understanding of big data[J]. Public Understanding of Science,2016,25(1):104-116.

    楊子飛.隱私的終結(jié)?——論大數(shù)據(jù)監(jiān)控時(shí)代傳統(tǒng)隱私倫理基礎(chǔ)的瓦解[J].武漢科技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2020,21(4):424-428.

    (編輯? 顏? ?燕? ? 袁? ?博)

    猜你喜歡
    微博隱私權(quán)大數(shù)據(jù)
    青少年數(shù)字素養(yǎng)的社會(huì)與文化內(nèi)涵及其教育啟示
    納稅人隱私權(quán)的確立、限制與保護(hù)
    媽媽,請(qǐng)把隱私權(quán)還給我
    谷歌尊重雕像“隱私權(quán)”的啟示
    事實(shí)與流言的博弈
    人間(2016年26期)2016-11-03 18:19:04
    基于大數(shù)據(jù)背景下的智慧城市建設(shè)研究
    科技視界(2016年20期)2016-09-29 10:53:22
    論患者隱私權(quán)保護(hù)
    神回復(fù)
    意林(2013年15期)2013-05-14 16:49:23
    他們用微博玩營(yíng)銷
    亚洲成人免费电影在线观看| 美女cb高潮喷水在线观看| 欧美日韩亚洲国产一区二区在线观看| 69人妻影院| 亚洲精品色激情综合| 国产免费av片在线观看野外av| 亚洲美女视频黄频| 国产精品一区二区三区四区久久| 亚洲无线在线观看| а√天堂www在线а√下载| 男女视频在线观看网站免费| 成人av在线播放网站| 亚洲国产色片| 免费看日本二区| 日韩欧美在线二视频| 天堂影院成人在线观看| 国产成人av激情在线播放| 最近最新中文字幕大全电影3| 99在线视频只有这里精品首页| 欧美激情在线99| 熟女电影av网| 亚洲精品456在线播放app | 99精品在免费线老司机午夜| 18禁国产床啪视频网站| 一级作爱视频免费观看| 99久久久亚洲精品蜜臀av| 三级男女做爰猛烈吃奶摸视频| 免费av不卡在线播放| 国产精品亚洲一级av第二区| 久久欧美精品欧美久久欧美| 亚洲自拍偷在线| 少妇人妻一区二区三区视频| 国产一区在线观看成人免费| 日本免费a在线| 黄色片一级片一级黄色片| 久久久久久久亚洲中文字幕 | 97碰自拍视频| 亚洲av电影在线进入| 1024手机看黄色片| 一级毛片女人18水好多| 三级国产精品欧美在线观看| 亚洲,欧美精品.| 久久亚洲真实| 高清在线国产一区| 国产老妇女一区| 色噜噜av男人的天堂激情| 欧美性感艳星| 女人被狂操c到高潮| 波多野结衣巨乳人妻| 国产一区二区三区视频了| 国产精品久久久久久精品电影| 偷拍熟女少妇极品色| 嫩草影院入口| 高清在线国产一区| 亚洲精品在线美女| 免费高清视频大片| 国产成人aa在线观看| 国产成人av激情在线播放| 在线天堂最新版资源| 久久这里只有精品中国| 18美女黄网站色大片免费观看| 成熟少妇高潮喷水视频| 成人高潮视频无遮挡免费网站| 午夜免费成人在线视频| 超碰av人人做人人爽久久 | 精品国产亚洲在线| 哪里可以看免费的av片| 三级毛片av免费| 亚洲在线自拍视频| h日本视频在线播放| 日本 av在线| 成人午夜高清在线视频| 成人18禁在线播放| 精品国产亚洲在线| 90打野战视频偷拍视频| 国产成人欧美在线观看| 成年版毛片免费区| 国产精品免费一区二区三区在线| 99在线视频只有这里精品首页| 人妻丰满熟妇av一区二区三区| av在线蜜桃| 国产高清视频在线观看网站| 亚洲人与动物交配视频| 国产伦一二天堂av在线观看| 国产不卡一卡二| 欧美成人性av电影在线观看| 99久久成人亚洲精品观看| 网址你懂的国产日韩在线| 男女下面进入的视频免费午夜| 亚洲黑人精品在线| 欧美一级a爱片免费观看看| 欧美日韩黄片免| www.999成人在线观看| 1024手机看黄色片| 一本综合久久免费| 日本 av在线| 亚洲精品久久国产高清桃花| 免费人成在线观看视频色| 1000部很黄的大片| 黄色视频,在线免费观看| 性欧美人与动物交配| 色综合婷婷激情| 亚洲av成人精品一区久久| 国产成人系列免费观看| 久久国产乱子伦精品免费另类| 人人妻,人人澡人人爽秒播| 国产精品日韩av在线免费观看| 国产真实乱freesex| 九色国产91popny在线| 熟女电影av网| 国产精品爽爽va在线观看网站| 无人区码免费观看不卡| 亚洲最大成人中文| 日本精品一区二区三区蜜桃| 亚洲人成伊人成综合网2020| 亚洲av二区三区四区| 18禁国产床啪视频网站| 午夜激情福利司机影院| 国产毛片a区久久久久| av欧美777| 欧美xxxx黑人xx丫x性爽| 99热这里只有是精品50| 神马国产精品三级电影在线观看| av视频在线观看入口| 国内久久婷婷六月综合欲色啪| 女同久久另类99精品国产91| 国产一区二区亚洲精品在线观看| 欧美成人免费av一区二区三区| 亚洲av五月六月丁香网| 亚洲av成人av| 久久草成人影院| 99久久九九国产精品国产免费| 午夜免费观看网址| 狂野欧美白嫩少妇大欣赏| 免费av观看视频| 亚洲成人精品中文字幕电影| 成人无遮挡网站| 精品一区二区三区av网在线观看| 亚洲真实伦在线观看| 天美传媒精品一区二区| 国产高清三级在线| 久久人人精品亚洲av| 欧美zozozo另类| 欧美大码av| 免费在线观看影片大全网站| 午夜亚洲福利在线播放| 亚洲在线观看片| 亚洲 国产 在线| 亚洲精品粉嫩美女一区| 日韩成人在线观看一区二区三区| 内地一区二区视频在线| 国产亚洲欧美98| 人妻久久中文字幕网| xxx96com| 国产亚洲精品综合一区在线观看| 又黄又爽又免费观看的视频| 激情在线观看视频在线高清| 真人做人爱边吃奶动态| 一区二区三区激情视频| 香蕉丝袜av| 亚洲国产精品久久男人天堂| 好男人电影高清在线观看| 99国产综合亚洲精品| 成熟少妇高潮喷水视频| 91久久精品电影网| 欧美性感艳星| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 亚洲午夜理论影院| 99久久精品热视频| 99热6这里只有精品| 欧美激情久久久久久爽电影| 老汉色av国产亚洲站长工具| 99热这里只有精品一区| 悠悠久久av| 天天添夜夜摸| 两个人看的免费小视频| 亚洲国产精品sss在线观看| 日日干狠狠操夜夜爽| 亚洲av不卡在线观看| 欧美不卡视频在线免费观看| 免费高清视频大片| 亚洲精品乱码久久久v下载方式 | 亚洲人成网站在线播| 夜夜夜夜夜久久久久| 欧美+日韩+精品| 九九久久精品国产亚洲av麻豆| tocl精华| 亚洲色图av天堂| 中文字幕人妻丝袜一区二区| xxxwww97欧美| 网址你懂的国产日韩在线| 亚洲av成人av| 国内久久婷婷六月综合欲色啪| 久久久久久九九精品二区国产| 深爱激情五月婷婷| 日本一本二区三区精品| www日本黄色视频网| 午夜福利视频1000在线观看| 天天一区二区日本电影三级| 国产一区二区激情短视频| 色av中文字幕| 亚洲 国产 在线| 久久亚洲真实| 中文字幕av在线有码专区| 日本黄色视频三级网站网址| 天天添夜夜摸| 国产精品永久免费网站| 日本成人三级电影网站| 最近视频中文字幕2019在线8| 亚洲精品乱码久久久v下载方式 | 午夜久久久久精精品| 精品人妻偷拍中文字幕| 最后的刺客免费高清国语| 天堂av国产一区二区熟女人妻| 中文字幕人成人乱码亚洲影| 国产成人av教育| 手机成人av网站| 亚洲内射少妇av| 中出人妻视频一区二区| 神马国产精品三级电影在线观看| 久久久久九九精品影院| 天天一区二区日本电影三级| 噜噜噜噜噜久久久久久91| 亚洲精品乱码久久久v下载方式 | 国产高清三级在线| 色噜噜av男人的天堂激情| 熟女人妻精品中文字幕| 国产精品亚洲一级av第二区| 亚洲国产精品成人综合色| 国产精品野战在线观看| 美女黄网站色视频| 欧美日韩亚洲国产一区二区在线观看| 国产av在哪里看| 久久性视频一级片| av天堂中文字幕网| 一个人免费在线观看电影| 天堂网av新在线| 搡老岳熟女国产| 别揉我奶头~嗯~啊~动态视频| 国内精品一区二区在线观看| 亚洲狠狠婷婷综合久久图片| 啦啦啦观看免费观看视频高清| 丁香欧美五月| 99热6这里只有精品| 亚洲色图av天堂| 亚洲美女视频黄频| 欧美性猛交黑人性爽| 欧美三级亚洲精品| 在线视频色国产色| 免费看美女性在线毛片视频| 亚洲成人久久爱视频| 看片在线看免费视频| 好男人电影高清在线观看| av在线天堂中文字幕| 亚洲欧美精品综合久久99| 欧美精品啪啪一区二区三区| 亚洲片人在线观看| 最近最新免费中文字幕在线| 尤物成人国产欧美一区二区三区| 欧美最新免费一区二区三区 | 亚洲人成网站在线播放欧美日韩| 日韩欧美一区二区三区在线观看| 亚洲av第一区精品v没综合| 99久久综合精品五月天人人| 手机成人av网站| 国产精品一及| 最近最新免费中文字幕在线| 中文字幕久久专区| 国产三级中文精品| 国产精品久久久久久人妻精品电影| 蜜桃久久精品国产亚洲av| 少妇的逼水好多| 他把我摸到了高潮在线观看| 国产成人啪精品午夜网站| 此物有八面人人有两片| 麻豆国产av国片精品| 三级男女做爰猛烈吃奶摸视频| 超碰av人人做人人爽久久 | 国产91精品成人一区二区三区| 又爽又黄无遮挡网站| 成人av一区二区三区在线看| 一本一本综合久久| 国产精品99久久99久久久不卡| 久久久精品欧美日韩精品| 亚洲人成网站高清观看| 精品乱码久久久久久99久播| 亚洲国产中文字幕在线视频| 国产不卡一卡二| 97超级碰碰碰精品色视频在线观看| 国产99白浆流出| 亚洲黑人精品在线| 激情在线观看视频在线高清| 女人十人毛片免费观看3o分钟| 在线播放无遮挡| 国产成人福利小说| 国内精品久久久久精免费| 国产精品久久久人人做人人爽| 亚洲精品456在线播放app | 亚洲中文字幕一区二区三区有码在线看| 色播亚洲综合网| 国产免费男女视频| 极品教师在线免费播放| 韩国av一区二区三区四区| 国产黄a三级三级三级人| 最近最新中文字幕大全电影3| 一区福利在线观看| 精品日产1卡2卡| 午夜免费成人在线视频| 久久久久性生活片| 久久精品人妻少妇| 久99久视频精品免费| 一个人看的www免费观看视频| 久久久成人免费电影| 国产熟女xx| 无限看片的www在线观看| 高清日韩中文字幕在线| 国产亚洲精品久久久com| 脱女人内裤的视频| 18禁黄网站禁片免费观看直播| 欧美一区二区国产精品久久精品| 成年女人毛片免费观看观看9| 中文字幕av在线有码专区| 日本黄色视频三级网站网址| 天堂动漫精品| 最后的刺客免费高清国语| av专区在线播放| 午夜福利欧美成人| 欧美成人a在线观看| 国产精品电影一区二区三区| 久久人人精品亚洲av| 免费搜索国产男女视频| 亚洲av成人精品一区久久| 久久久久亚洲av毛片大全| 亚洲aⅴ乱码一区二区在线播放| 国产真人三级小视频在线观看| 一个人观看的视频www高清免费观看| 欧洲精品卡2卡3卡4卡5卡区| 精品人妻偷拍中文字幕| 麻豆国产av国片精品| 在线天堂最新版资源| 中国美女看黄片| 一个人看的www免费观看视频| 69av精品久久久久久| 国产精品亚洲美女久久久| 亚洲精品国产精品久久久不卡| 久久久精品大字幕| 九色成人免费人妻av| 男女那种视频在线观看| 久久精品国产清高在天天线| 日韩欧美国产在线观看| 香蕉av资源在线| 国产成人啪精品午夜网站| 午夜a级毛片| 国产精品久久久久久久久免 | 一区二区三区高清视频在线| 成人性生交大片免费视频hd| 亚洲 国产 在线| 亚洲成人久久爱视频| 国产高清视频在线播放一区| av女优亚洲男人天堂| 日本黄大片高清| 一本久久中文字幕| 身体一侧抽搐| 国产淫片久久久久久久久 | 国产三级在线视频| 老司机午夜十八禁免费视频| 国产三级在线视频| 老司机福利观看| 3wmmmm亚洲av在线观看| 久久久国产成人精品二区| 日本五十路高清| 非洲黑人性xxxx精品又粗又长| 97碰自拍视频| 欧美丝袜亚洲另类 | 亚洲中文字幕日韩| 日韩亚洲欧美综合| 国产爱豆传媒在线观看| aaaaa片日本免费| 亚洲精品在线观看二区| 亚洲成a人片在线一区二区| 波多野结衣高清无吗| 一进一出抽搐动态| 国产精品久久久久久亚洲av鲁大| 免费在线观看亚洲国产| 在线视频色国产色| 内地一区二区视频在线| 色吧在线观看| 夜夜躁狠狠躁天天躁| 国产av不卡久久| 免费在线观看日本一区| 女生性感内裤真人,穿戴方法视频| 国产激情偷乱视频一区二区| 俄罗斯特黄特色一大片| 又黄又爽又免费观看的视频| 夜夜爽天天搞| 在线观看免费视频日本深夜| 好男人在线观看高清免费视频| 成人av一区二区三区在线看| 免费在线观看亚洲国产| 美女免费视频网站| 欧美国产日韩亚洲一区| 国产精品,欧美在线| svipshipincom国产片| 日韩欧美精品v在线| 一本一本综合久久| 亚洲av熟女| 国产69精品久久久久777片| 日本黄色视频三级网站网址| 亚洲欧美一区二区三区黑人| 免费一级毛片在线播放高清视频| 亚洲av二区三区四区| 99久久九九国产精品国产免费| 免费看美女性在线毛片视频| 国产亚洲精品综合一区在线观看| 五月玫瑰六月丁香| 黄色片一级片一级黄色片| 国产亚洲精品一区二区www| 99精品欧美一区二区三区四区| 一级黄片播放器| 免费av不卡在线播放| 黄色视频,在线免费观看| 国产高清videossex| 亚洲美女黄片视频| 欧美日韩一级在线毛片| 白带黄色成豆腐渣| 露出奶头的视频| 午夜久久久久精精品| 国产一区在线观看成人免费| 精品无人区乱码1区二区| 亚洲电影在线观看av| 99国产精品一区二区蜜桃av| 国产激情偷乱视频一区二区| 精品乱码久久久久久99久播| 欧美中文综合在线视频| 男女午夜视频在线观看| 欧美成狂野欧美在线观看| 婷婷精品国产亚洲av| 香蕉丝袜av| 日韩欧美在线乱码| 亚洲精品色激情综合| 亚洲国产精品久久男人天堂| 亚洲成人中文字幕在线播放| 在线看三级毛片| 在线观看av片永久免费下载| 国产97色在线日韩免费| 国内揄拍国产精品人妻在线| 夜夜躁狠狠躁天天躁| 淫秽高清视频在线观看| 日韩国内少妇激情av| 色精品久久人妻99蜜桃| eeuss影院久久| 中出人妻视频一区二区| 91麻豆精品激情在线观看国产| 亚洲人成网站高清观看| 嫩草影院精品99| 日韩精品中文字幕看吧| 国产成人影院久久av| 国产精品综合久久久久久久免费| 又爽又黄无遮挡网站| 久久精品夜夜夜夜夜久久蜜豆| 精品人妻一区二区三区麻豆 | 久99久视频精品免费| 人人妻人人澡欧美一区二区| 一卡2卡三卡四卡精品乱码亚洲| 精品国产美女av久久久久小说| 一级毛片女人18水好多| 免费大片18禁| 在线观看免费视频日本深夜| 国产成人av教育| 亚洲成人中文字幕在线播放| 九色国产91popny在线| 久久久久久久午夜电影| 日韩精品中文字幕看吧| 一本一本综合久久| 国产午夜精品久久久久久一区二区三区 | 日本黄色片子视频| 国产精品av视频在线免费观看| 天堂网av新在线| 听说在线观看完整版免费高清| 亚洲国产精品合色在线| 欧美成狂野欧美在线观看| 亚洲精品在线观看二区| svipshipincom国产片| 99在线人妻在线中文字幕| 国产亚洲精品av在线| 欧美在线一区亚洲| 1000部很黄的大片| 免费看日本二区| 免费电影在线观看免费观看| 99久久99久久久精品蜜桃| 色播亚洲综合网| 三级国产精品欧美在线观看| 国产单亲对白刺激| 香蕉av资源在线| 小蜜桃在线观看免费完整版高清| 免费搜索国产男女视频| 久久久久久人人人人人| 色av中文字幕| 国产av不卡久久| 又黄又粗又硬又大视频| 美女cb高潮喷水在线观看| 国产精品影院久久| 亚洲第一电影网av| 国产精品三级大全| 99久久九九国产精品国产免费| 国产真实乱freesex| 国产成人系列免费观看| 国产成人a区在线观看| 亚洲av成人av| 精品国内亚洲2022精品成人| 99精品欧美一区二区三区四区| 99热这里只有精品一区| 午夜日韩欧美国产| 两个人的视频大全免费| 美女 人体艺术 gogo| 少妇的逼水好多| 色综合站精品国产| 在线观看舔阴道视频| 日本免费a在线| 成人高潮视频无遮挡免费网站| 亚洲av第一区精品v没综合| 99国产精品一区二区三区| а√天堂www在线а√下载| 99国产精品一区二区三区| 久久亚洲真实| 高潮久久久久久久久久久不卡| 亚洲av成人不卡在线观看播放网| e午夜精品久久久久久久| 欧美日韩综合久久久久久 | 亚洲午夜理论影院| 五月玫瑰六月丁香| 亚洲在线观看片| 亚洲熟妇中文字幕五十中出| 国产高清三级在线| 美女黄网站色视频| 欧美大码av| 亚洲激情在线av| 国产精品久久电影中文字幕| 男女做爰动态图高潮gif福利片| 在线播放国产精品三级| 97人妻精品一区二区三区麻豆| 国产69精品久久久久777片| 国产三级中文精品| 国产日本99.免费观看| 伊人久久大香线蕉亚洲五| 欧美日韩一级在线毛片| 伊人久久大香线蕉亚洲五| 在线免费观看不下载黄p国产 | 久久人妻av系列| 午夜免费观看网址| 国产高清videossex| 长腿黑丝高跟| 亚洲va日本ⅴa欧美va伊人久久| 好男人在线观看高清免费视频| 国产真人三级小视频在线观看| 啦啦啦韩国在线观看视频| 亚洲国产精品成人综合色| 日本免费一区二区三区高清不卡| 日本三级黄在线观看| 一个人免费在线观看的高清视频| 国产视频一区二区在线看| 成人鲁丝片一二三区免费| 国产精品免费一区二区三区在线| 欧美绝顶高潮抽搐喷水| 亚洲av免费高清在线观看| 少妇人妻一区二区三区视频| 看免费av毛片| 男女视频在线观看网站免费| 欧美+亚洲+日韩+国产| 国产在视频线在精品| 免费大片18禁| 麻豆久久精品国产亚洲av| 99热这里只有精品一区| 国产精品爽爽va在线观看网站| 99视频精品全部免费 在线| 成人鲁丝片一二三区免费| 长腿黑丝高跟| 婷婷精品国产亚洲av| xxxwww97欧美| 亚洲精品美女久久久久99蜜臀| 欧美不卡视频在线免费观看| 国产美女午夜福利| 国产野战对白在线观看| 久久草成人影院| 免费在线观看影片大全网站| 久久精品影院6| 日日夜夜操网爽| 亚洲内射少妇av| 99久久99久久久精品蜜桃| 制服丝袜大香蕉在线| 99久久九九国产精品国产免费| 成人无遮挡网站| 国产一区二区三区视频了| 欧美一级毛片孕妇| 床上黄色一级片| 欧美日韩精品网址| 两人在一起打扑克的视频| 岛国视频午夜一区免费看| 两性午夜刺激爽爽歪歪视频在线观看| 国产淫片久久久久久久久 | 啦啦啦免费观看视频1| 精品久久久久久久人妻蜜臀av| 十八禁人妻一区二区| 亚洲欧美日韩无卡精品| 99久久精品一区二区三区| 免费观看人在逋| 少妇高潮的动态图| 成人av一区二区三区在线看| 国产亚洲精品久久久com| 国产男靠女视频免费网站| av黄色大香蕉| 日本精品一区二区三区蜜桃| 精品久久久久久久人妻蜜臀av| 黄色视频,在线免费观看| 久久精品亚洲精品国产色婷小说|