• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    溫和的被遺忘權(quán)主張
    ——基于權(quán)利的信息倫理視角

    2020-12-01 19:50:16胡曉萌
    倫理學(xué)研究 2020年5期
    關(guān)鍵詞:權(quán)利用戶信息

    胡曉萌

    互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能等信息技術(shù),突破了人類記憶能力的限制,延長了記憶時限,甚至使記憶成為永恒。從前有些犯過錯的人換個陌生的地方就可以重新開始,而在信息技術(shù)方便檢索、全球可達(dá)的今天,這種過往歷史被遺忘的情況變得不再可能。這正如《紐約時報》的一個文題所言:萬維網(wǎng)意味著遺忘的終結(jié)。

    正是敏感于數(shù)據(jù)的永久記憶,擔(dān)憂其可能危害個人的隱私和安全,歐盟通過了《通用數(shù)據(jù)保護(hù)條例》(以下簡稱為GDPR),明確賦予個人被遺忘權(quán)(Right to be forgotten)。被遺忘權(quán)①,指個人作為個人數(shù)據(jù)②的數(shù)據(jù)主體,享有被互聯(lián)網(wǎng)遺忘的權(quán)利,因而可以要求數(shù)據(jù)控制者刪除其在互聯(lián)網(wǎng)上可依法刪除的個人數(shù)據(jù)。但是,以維納和弗洛里迪為代表的信息倫理學(xué)家則對數(shù)據(jù)遺忘持有相反看法,他們認(rèn)為刪除信息是一種熵增行為,該行為是不道德的。

    本文梳理、分析了上述兩種觀點(diǎn),認(rèn)為它們都有失偏頗,嘗試提出一種中立的觀點(diǎn),實(shí)現(xiàn)數(shù)據(jù)開發(fā)利用和數(shù)據(jù)隱私保護(hù)之間的平衡、個人數(shù)據(jù)權(quán)利和機(jī)構(gòu)數(shù)據(jù)權(quán)力之間的平衡。

    一、大數(shù)據(jù)“永久記憶”的消極影響和被遺忘權(quán)的源起

    互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能記錄了人們的一言一行,甚至包括每一次目光注視、手指觸摸。同時,數(shù)據(jù)挖掘、搜索等技術(shù)可以通過整理(organise)和集聚(aggregation)將個人的碎片化數(shù)據(jù)組合成其數(shù)據(jù)畫像。這使得人們網(wǎng)絡(luò)上的行為在過去數(shù)年后仍然有跡可循,人們想要被遺忘變得不可能。人們因?yàn)楸淮髷?shù)據(jù)“永久記憶”而遭受隱私侵犯、網(wǎng)絡(luò)暴力和數(shù)字身份侵害等各種危害。因此,人們想要擁有被遺忘的權(quán)利。

    1.大數(shù)據(jù)“永久記憶”的消極影響

    互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能等信息技術(shù)使“永久記憶”成為現(xiàn)實(shí),個人的言行將以數(shù)據(jù)的形式被永遠(yuǎn)記錄下來,他們的行為則可能因?yàn)檫@些數(shù)據(jù)會被數(shù)據(jù)控制者利用而受到支配。因此,控制個人過去的數(shù)據(jù)實(shí)質(zhì)上意味著一種權(quán)力關(guān)系。數(shù)據(jù)不僅有關(guān)記憶,更是有關(guān)權(quán)力[1]。這就對個人造成了很多直接威脅。大體而言,這些威脅可歸納為以下三個方面:

    (1)“永久記憶”加劇了對個人的心理操控。通常人與人之間的信任建立在對彼此過去的了解、擁有的共同記憶之上。由于大數(shù)據(jù)用戶畫像使計(jì)算機(jī)比個人更了解自己,因而,基于個人完整數(shù)據(jù)開發(fā)的個人性化推送算法就可以實(shí)現(xiàn)對個人行為的操控,如Facebook 數(shù)據(jù)泄露影響美國大選事件。近年來,大規(guī)模的數(shù)據(jù)泄露事件頻頻發(fā)生。個人數(shù)據(jù)泄露也為不法分子利用個人完整數(shù)據(jù)進(jìn)行電信詐騙提供了的機(jī)會。

    (2)“永久記憶”使人肉搜索、網(wǎng)絡(luò)霸凌更泛濫。很多人都會依據(jù)他人過去的行為對其進(jìn)行評判、打標(biāo)簽。借助“永久記憶”,不懷好意者可以更輕易地進(jìn)行人肉搜索,挖掘他人過去的“黑歷史”,進(jìn)行網(wǎng)絡(luò)霸凌。更糟糕的是,利用公眾人物的黑歷史照片、視頻等數(shù)據(jù)進(jìn)行碰瓷、敲詐勒索成為了一種牟利手段。

    (3)“永久記憶”使個人喪失了對其數(shù)字身份的控制。個人在網(wǎng)絡(luò)空間留下的數(shù)據(jù)可整理集聚成為個人的數(shù)字身份。由于“永久記憶”,個人的歷史數(shù)據(jù)可以持續(xù)影響個人的社會評價,進(jìn)而對現(xiàn)實(shí)空間中的生活、學(xué)習(xí)和工作造成實(shí)質(zhì)影響。個人想要被遺忘的數(shù)據(jù)無法得到遺忘,所以個人無法通過控制個人數(shù)字身份來應(yīng)對“永久記憶”的負(fù)面影響,正如美國的史黛西·施奈德因?yàn)橐粡埓髦1I帽子的“黑歷史”照片而喪失了成為教師的機(jī)會。

    2.被遺忘權(quán)的源起和發(fā)展

    維克托·邁爾-舍恩伯格(Viktor Mayer-Sch?nberger)是最早基于數(shù)字技術(shù)和網(wǎng)絡(luò)全球化背景提出“被遺忘權(quán)”的學(xué)者。他說:“我們要開始思考減少我們的數(shù)字足跡:不是通過戒掉互聯(lián)網(wǎng),而是通過塑造互聯(lián)網(wǎng)及其服務(wù),以使得數(shù)字信息能夠真正在一段時間之后被漸漸遺忘……我會樂觀地號召所有人,要在大數(shù)據(jù)時代始終記得遺忘的美德?!保?](P6-8)舍恩伯格的研究得到了社會的支持和響應(yīng),2009 年法國啟動了“被遺忘權(quán)在社交網(wǎng)絡(luò)和搜索引擎中實(shí)施”的議案[3]。

    歐盟因其隱私保護(hù)傳統(tǒng)而在個人數(shù)據(jù)隱私保護(hù)方面處在世界領(lǐng)先地位。在認(rèn)識到數(shù)字技術(shù)“永久記憶”可能帶來的種種危害后,歐盟的官員很快接受了被遺忘權(quán)。2010 年,歐盟委員會副主席薇薇安·雷丁在關(guān)于修訂《歐盟95 數(shù)據(jù)保護(hù)指令》的發(fā)言中表示:“用戶必須能有效地控制他們的網(wǎng)絡(luò)信息,并且能隨時更正、撤銷或刪除它們,歐盟希望賦予數(shù)據(jù)主體一項(xiàng)新的權(quán)利,即‘被遺忘權(quán)(刪除權(quán))’?!?012 年,歐盟委員會提交了GDPR(2012 年建議案),被遺忘權(quán)第一次被寫進(jìn)了法律文件中。

    被遺忘權(quán)真正進(jìn)入公眾的視野,源自2014 年的西班牙谷歌案[4]。2009 年,岡薩雷斯要求西班牙《先鋒報》刪除其因欠繳社保而房產(chǎn)被強(qiáng)制拍賣的相關(guān)信息,同時要求谷歌刪除指向相關(guān)信息的搜索鏈接。他指出,拍賣事件已經(jīng)過去很多年了,但是在谷歌上搜索他的名字時仍會顯示相關(guān)的拍賣公告,這對他的聲譽(yù)造成了負(fù)面影響。西班牙信息保護(hù)機(jī)構(gòu)要求谷歌撤回此類數(shù)據(jù),并要求搜索引擎的經(jīng)營者禁止對此類數(shù)據(jù)的訪問。這一裁定最終也得到了歐盟法院的支持。歐盟法院指出,雖然1995 年的《個人數(shù)據(jù)保護(hù)指令》沒有明確提出被遺忘權(quán),但是根據(jù)指令第12 條規(guī)定,數(shù)據(jù)主體有權(quán)“更正(rectification)、擦除(erasure)或屏蔽(blocking)不符合《個人數(shù)據(jù)保護(hù)指令》所規(guī)定的處理的數(shù)據(jù)”,由此可推導(dǎo)出被遺忘權(quán)。依據(jù)該判例,歐洲居民可以向搜索引擎申請?jiān)谒阉鹘Y(jié)果中刪除有關(guān)個人的不恰當(dāng)?shù)摹⒉幌嚓P(guān)的、過時的、多余的網(wǎng)頁鏈接。隨后,谷歌方面執(zhí)行了判決,并發(fā)布了在線申請程序,正式接受歐盟用戶行使被遺忘權(quán)的申請。

    2018 年,歐盟GDPR 正式生效,第17 條即是被遺忘權(quán)(又稱為刪除權(quán))。條文規(guī)定,數(shù)據(jù)主體有權(quán)要求控制者無不當(dāng)延誤地刪除與其有關(guān)的個人數(shù)據(jù),并且在下列理由之一的情況下,控制者有義務(wù)無不當(dāng)延誤地刪除個人數(shù)據(jù),其適用的情形包括六種:(1)數(shù)據(jù)收集、使用的目的不再必要;(2)撤回同意或期限屆滿,沒有任何法律基礎(chǔ)支持?jǐn)?shù)據(jù)繼續(xù)處理;(3)反對,即數(shù)據(jù)主體根據(jù)“新草案”第21 條反對數(shù)據(jù)的處理,除非數(shù)據(jù)的處理對保護(hù)主體的根本利益至關(guān)重要或是為了公共利益等原因;(4)個人數(shù)據(jù)被非法處理;(5)為遵守控制者所受制的聯(lián)盟或成員國法律規(guī)定的法定義務(wù),個人數(shù)據(jù)必須被刪除;(6)個人數(shù)據(jù)是根據(jù)第8 條第1 款所提及的信息社會服務(wù)的提供而收集的。

    二、被遺忘權(quán):歐盟的保守主義與信息倫理學(xué)的激進(jìn)主義

    歐盟GDPR 賦予個人被遺忘權(quán),規(guī)定個人有權(quán)要求數(shù)據(jù)控制者無不當(dāng)延誤地刪除相關(guān)的個人數(shù)據(jù)。GDPR 以一種保守的方式保護(hù)個人的尊嚴(yán)和權(quán)利,但是過于保守的法律監(jiān)管不利于技術(shù)和產(chǎn)業(yè)的發(fā)展。而信息倫理學(xué)的激進(jìn)主義則強(qiáng)調(diào)數(shù)據(jù)的價值,認(rèn)為任何導(dǎo)致數(shù)據(jù)減少的行為都是不道德的行為。數(shù)據(jù)主義則走向極端,將數(shù)據(jù)流最大化作為第一誡命。這過于激進(jìn),會導(dǎo)致個人權(quán)利的消解。

    1.被遺忘權(quán):歐盟的保守主義路徑

    歐盟具有注重個人隱私保護(hù)的傳統(tǒng),認(rèn)為隱私權(quán)關(guān)系人格尊嚴(yán),是一項(xiàng)“基本權(quán)利”,因而將隱私權(quán)寫入了《歐盟基本權(quán)利憲章》?;诖?,歐盟賦予個人相應(yīng)的數(shù)據(jù)權(quán)利,使個人獲得更大的數(shù)據(jù)自主權(quán),讓個人能夠有效控制其個人數(shù)據(jù),而被遺忘權(quán)有利于個人數(shù)據(jù)自主權(quán)的真實(shí)落地。但是歐盟過于保守的做法會造成以下兩種不良后果:

    (1)被遺忘權(quán)對個人過于保守的保護(hù)不利于數(shù)據(jù)自律

    谷歌接收的歐盟用戶行使被遺忘權(quán)的申請中,不乏“嚴(yán)重犯罪”“公眾人物”等類型的申請,尤其是一位英國醫(yī)生的請求,他要求刪除過去不良醫(yī)療處理有關(guān)的50 條鏈接。公眾對此表示憤慨,指出刪除此類信息可用于操縱,并可能導(dǎo)致無辜的人們做出不明智的決定。Google 回應(yīng)了公眾的憤慨,表示其刪除內(nèi)容時,既考慮了個人權(quán)利,也考慮了公共利益[5]。

    被遺忘權(quán)賦予人們數(shù)據(jù)自主權(quán),對個人的隱私和人格尊嚴(yán)進(jìn)行了有效保護(hù)。但是,一旦政府過于保守地賦權(quán),過分強(qiáng)調(diào)個人的自主權(quán),則會造成不良后果。首先,一個人過去的信息是知識和真理的一部分,其他人可以根據(jù)這些信息在交往中合理地定位這個人,形成對這個人行為的穩(wěn)定預(yù)期。這是社會合作的基礎(chǔ)。有學(xué)者指出,若個人行使被遺忘權(quán),使與其自身有關(guān)的信息被遺忘,而想要被遺忘的信息是公眾知情權(quán)的組成內(nèi)容,這會造成被遺忘權(quán)與公眾知情權(quán)之間的沖突;并且遺忘行為本身就足以造成對公眾知情的巨大損害,是一種“極不道德(deeply immoral)”的倒退[6]。個人有時候會刻意隱瞞、掩飾或美化自己,被遺忘權(quán)為此提供了更多可能性,因此應(yīng)當(dāng)保護(hù)社會公眾(尤其是與之打交道的人)的“識別權(quán)”[7]。其次,人們對自己的行為負(fù)有道德責(zé)任。如果人人都可以輕易地抹掉過去,這會損害公民的道德責(zé)任感,阻礙人們形成應(yīng)有的道德自覺。人們無法從內(nèi)對自己的數(shù)據(jù)行為進(jìn)行規(guī)范,難以形成數(shù)據(jù)自律?,F(xiàn)在市場上出現(xiàn)的“付費(fèi)刪帖”服務(wù),即是個人進(jìn)行名譽(yù)管理、洗刷個人數(shù)據(jù)歷史污點(diǎn)的一種行為。社會應(yīng)對這種趨勢提高警惕。

    (2)被遺忘權(quán)限制了技術(shù)和產(chǎn)業(yè)的發(fā)展

    GDPR 被稱為史上最嚴(yán)格的數(shù)據(jù)保護(hù)法。產(chǎn)業(yè)界認(rèn)為,數(shù)據(jù)是數(shù)字經(jīng)濟(jì)的“石油”,過于嚴(yán)格的數(shù)據(jù)保護(hù)監(jiān)管會限制歐盟的數(shù)字經(jīng)濟(jì)發(fā)展。作為世界最發(fā)達(dá)的區(qū)域之一,歐盟的互聯(lián)網(wǎng)行業(yè)發(fā)展卻相對滯后?!吨袊ヂ?lián)網(wǎng)行業(yè)發(fā)展態(tài)勢暨景氣指數(shù)報告》列舉了2019 年全球互聯(lián)網(wǎng)上市公司30 強(qiáng)名單,其中,美國企業(yè)17 家,中國企業(yè)10 家,巴西、韓國、日本各一家,歐洲則沒有一家[8]。

    被遺忘權(quán)增加了企業(yè)的合規(guī)成本。2017 年普華永道調(diào)查顯示,在被調(diào)查的500 家美國公司中至少有68%的公司為了滿足GDPR 的合規(guī)預(yù)計(jì)花費(fèi)100 萬到1000 萬美元成本,有9%企業(yè)的預(yù)算超過1000 萬美元[9]。2018 年谷歌發(fā)布報告稱,在過去3年7 個月內(nèi)收到了近240 萬個鏈接刪除請求[10],給企業(yè)造成了很大負(fù)擔(dān)。巨大的合規(guī)成本顯然不利于初創(chuàng)信息科技企業(yè)的發(fā)展,也抑制了產(chǎn)業(yè)的發(fā)展。因此,被遺忘權(quán)被某些學(xué)者視為歐盟對抗美國大公司的尖端武器(cutting Edge Weapon)[11]。從網(wǎng)絡(luò)經(jīng)濟(jì)競爭的角度看,這實(shí)際上是歐盟利用數(shù)據(jù)保護(hù)主義(data protectionism)抵制美國互聯(lián)網(wǎng)企業(yè)的壟斷地位[12]。

    被遺忘權(quán)破壞了技術(shù)創(chuàng)新。大數(shù)據(jù)、人工智能依靠數(shù)據(jù)的喂養(yǎng),因此數(shù)據(jù)優(yōu)勢被認(rèn)為是技術(shù)創(chuàng)新的重要優(yōu)勢之一。2018 年美國“數(shù)據(jù)創(chuàng)新中心”(CFDI)在一份研究報告中認(rèn)為,GDPR 的實(shí)施會對人工智能技術(shù)的發(fā)展造成重大負(fù)面影響,其中數(shù)據(jù)遺忘權(quán)會損壞人工智能系統(tǒng)[13]。AI 系統(tǒng)通過數(shù)據(jù)集的訓(xùn)練建立規(guī)則,如果AI 系統(tǒng)被刪除支撐其行為關(guān)鍵規(guī)則的數(shù)據(jù),數(shù)據(jù)集的完整性被破壞,那么AI 系統(tǒng)的準(zhǔn)確性就會降低。如果AI 算法的訓(xùn)練數(shù)據(jù)集被刪除的數(shù)據(jù)較多,就會破壞算法模型的重要規(guī)則,甚至破壞整個系統(tǒng),對用戶的使用造成損害。

    2.激進(jìn)主義路徑:信息倫理學(xué)和數(shù)據(jù)主義

    數(shù)據(jù)的價值已經(jīng)成為全社會的共識,大數(shù)據(jù)技術(shù)促進(jìn)了國家治理、產(chǎn)業(yè)經(jīng)濟(jì)和公共服務(wù)等方面的發(fā)展,以數(shù)據(jù)為基礎(chǔ)的人工智能也在經(jīng)濟(jì)社會發(fā)展智能化、公共服務(wù)和城市管理等方面發(fā)揮越來越重要的作用。

    基于數(shù)據(jù)的價值,以維納和弗洛里迪為代表的信息倫理學(xué)家對刪除數(shù)據(jù)持否定態(tài)度。控制論創(chuàng)始人維納根據(jù)熱力學(xué)第二定律提出信息倫理學(xué)的熵增原理。他認(rèn)為熵增可被視為一個威脅著人類所珍視的一切的“自然的邪惡”[14](P16)。弗洛里迪也認(rèn)為,熵是“自然的禍害”,它能損害或毀滅任何一個可能有價值的事物。因此,對兩位思想家而言,不必要地增加熵是一個無理地產(chǎn)生邪惡的行為,任何維持或增加信息的行為可以被解釋為善的。

    弗洛里迪的信息倫理學(xué)認(rèn)為,信息具有內(nèi)在價值,因此促進(jìn)熵的減少(意味著信息的增加)是每個理性存在物的義務(wù);而任何導(dǎo)致熵的增加(意味著信息的減少)的行為,都屬于惡。他列出了四個基本道德原則:(1)不該在信息領(lǐng)域中導(dǎo)致熵增;(2)應(yīng)該在信息領(lǐng)域防止熵出現(xiàn);(3)應(yīng)該從信息領(lǐng)域清除熵;(4)應(yīng)該通過增加信息的量,提升信息的質(zhì)和豐富信息的多樣性這樣一些改善信息環(huán)境的途徑來促進(jìn)信息福利。據(jù)此,一個行為在道德上是錯誤還是正確的,一般取決于這一行為是減少還是增加了信息[15]。

    數(shù)據(jù)主義將這一立場發(fā)揮到極致。數(shù)據(jù)主義最重要的一條誡命就是,數(shù)據(jù)主義者要連接越來越多的媒體,產(chǎn)生和使用越來越多的信息,讓數(shù)據(jù)流最大化。第二條誡命就是,要把一切連接到系統(tǒng),就連那些不想連入的異端也不能例外。對數(shù)據(jù)主義來說,信息自由是最高的善[16](P347)。依據(jù)這兩條誡命,個人就應(yīng)該形成“記錄-上傳-分享”數(shù)據(jù)的行為習(xí)慣,即“如果你體驗(yàn)到了什么,就記錄下來。如果你記錄下了什么,就上傳。如果你上傳了什么,就分享”[16](P352)。在數(shù)據(jù)主義看來,人生的價值在于數(shù)據(jù)的價值,數(shù)據(jù)的價值在于分享,而不在于單純擁有體驗(yàn)。體驗(yàn)不分享就沒有價值,不能轉(zhuǎn)化為數(shù)據(jù)或轉(zhuǎn)化的數(shù)據(jù)沒有分享的人生是毫無價值的[18]。

    但是,遺忘權(quán)希望賦予人們刪除自己上傳分享的數(shù)據(jù)的權(quán)利,以及要求他人刪除上傳分享有關(guān)自己數(shù)據(jù)的權(quán)利,以實(shí)現(xiàn)被遺忘權(quán)的目的。這顯然與數(shù)據(jù)主義的立場相悖。在數(shù)據(jù)主義看來,數(shù)據(jù)分享就是數(shù)據(jù)互聯(lián),數(shù)據(jù)互聯(lián)就是人際互動,隨時隨地的連線或在線是數(shù)據(jù)人生的常態(tài),掉線或失聯(lián)意味著數(shù)據(jù)人生的休克或終結(jié)[17]。因此,數(shù)據(jù)主義反對數(shù)據(jù)被遺忘權(quán),反對刪除數(shù)據(jù)的行為。它認(rèn)為,刪除數(shù)據(jù)會違反數(shù)據(jù)流最大化的誡命,造成熵增,違背了信息自由這一最高的善,是一種不道德的行為。

    信息技術(shù)重鎮(zhèn)美國接受了數(shù)據(jù)主義的立場,對被遺忘權(quán)持拒絕態(tài)度,其主要理由是被遺忘權(quán)違背了基本權(quán)利——言論自由。美國的一些媒體和互聯(lián)網(wǎng)企業(yè)批評被遺忘權(quán)限制了其表達(dá)自由權(quán)。在數(shù)據(jù)主義來看,言論自由正是信息自由。但是言論自由包括“說的自由”,也包括“不說的自由”,兩者構(gòu)成言論自由的整體,缺一不可[20]。言論自由的權(quán)利主體是人,信息自由的權(quán)利主體則是數(shù)據(jù),在數(shù)據(jù)主義這里人是為信息自由而服務(wù)的,因此信息自由并不是美國所信仰的自由主義。正如美國學(xué)者認(rèn)為,如此過分強(qiáng)調(diào)互聯(lián)網(wǎng)搜索服務(wù)提供商的表達(dá)自由權(quán),“讓私營部門繼續(xù)在博弈中占據(jù)主導(dǎo)地位”不是明智的做法[21]。

    信息倫理學(xué)和數(shù)據(jù)主義把信息社會的價值標(biāo)的從人替換為信息,這消解了人權(quán)。正如赫拉利指出的,在21 世紀(jì),數(shù)據(jù)主義可能從以人為中心走向以數(shù)據(jù)為中心,把人推到一邊。有學(xué)者擔(dān)憂如果推崇數(shù)據(jù)流最大化和信息自由是至善,讓數(shù)據(jù)主義不受限制地發(fā)展下去,則可能出現(xiàn)“數(shù)據(jù)巨機(jī)器”,進(jìn)而壓抑人的自由[22]。因此,信息倫理學(xué)和數(shù)據(jù)主義對被遺忘權(quán)的批判和排斥太過激進(jìn)。

    三、溫和的被遺忘權(quán)主張:基于權(quán)利的信息倫理

    為了避免GDPR 過于保守以及信息倫理學(xué)和數(shù)據(jù)主義過于激進(jìn)所帶來的不良后果,本文嘗試通過基于權(quán)利的信息倫理提出溫和的被遺忘權(quán)?;跈?quán)利的信息倫理主張賦予個體應(yīng)有的數(shù)據(jù)權(quán)利,包括被遺忘權(quán)。但是,該遺忘權(quán)主張較于歐盟立法是溫和的,它提倡有限制的、不能被濫用的被遺忘權(quán),避免使遺忘權(quán)成為數(shù)字經(jīng)濟(jì)發(fā)展的阻礙。同時積極倡導(dǎo)構(gòu)建行為準(zhǔn)則和技術(shù)標(biāo)準(zhǔn),在不刪除數(shù)據(jù)的情況下保證數(shù)據(jù)開發(fā)利用和數(shù)據(jù)權(quán)利保護(hù)之間的平衡,對數(shù)字記憶給人類生活帶來的諸多威脅進(jìn)行有效消解。區(qū)塊鏈技術(shù)的發(fā)展為這一理論提供了現(xiàn)實(shí)可行性。

    1.個人應(yīng)基于權(quán)利享有有限的被遺忘權(quán)

    用戶無法獲知其個人數(shù)據(jù)有多少被收集使用、哪些數(shù)據(jù)流向了何處,企業(yè)開發(fā)的算法對于用戶而言更是一個黑箱,因此用戶數(shù)據(jù)權(quán)利與企業(yè)數(shù)據(jù)權(quán)力處在失衡的狀態(tài)。數(shù)據(jù)和算法賦予了企業(yè)巨大的數(shù)據(jù)權(quán)力,用戶則無法獲得對等的地位。在此背景下,數(shù)據(jù)泄露、數(shù)據(jù)濫用等惡性事件頻發(fā)。這不僅損害了用戶的權(quán)利,還成為阻礙數(shù)字經(jīng)濟(jì)健康發(fā)展的大數(shù)據(jù)之困。從歐盟相關(guān)法案中被遺忘權(quán)、刪除權(quán)、個人數(shù)據(jù)自主權(quán)等相關(guān)權(quán)利的邏輯關(guān)系來看,被遺忘權(quán)的初衷就是為了限制搜索引擎公司與數(shù)據(jù)控制公司,而不是針對所有對數(shù)據(jù)有控制權(quán)的人[23]。基于目前數(shù)據(jù)權(quán)力遠(yuǎn)勝于數(shù)據(jù)權(quán)利的現(xiàn)狀,我們應(yīng)當(dāng)提倡基于權(quán)利的信息倫理[20]。

    基于權(quán)利的信息倫理主張應(yīng)當(dāng)賦予個人被遺忘權(quán)。正如有些學(xué)者認(rèn)為,被遺忘權(quán)是調(diào)整網(wǎng)絡(luò)用戶與網(wǎng)絡(luò)公司力量懸殊的重要砝碼,它是為了消弭網(wǎng)絡(luò)時代數(shù)據(jù)主體和數(shù)據(jù)控制者的不平等而設(shè)定的[25]。在企業(yè)無法履行保護(hù)用戶個人數(shù)據(jù)、數(shù)據(jù)合理使用等職責(zé)的時候,被遺忘權(quán)給用戶提供了兜底的退出機(jī)制,用戶可以注銷賬號并要求企業(yè)刪除其所有有關(guān)的個人信息。這可以倒逼企業(yè)主動尊重用戶的數(shù)據(jù)權(quán)利,加強(qiáng)對用戶個人數(shù)據(jù)的保護(hù),對用戶數(shù)據(jù)進(jìn)行合理開發(fā)使用,最終實(shí)現(xiàn)用戶數(shù)據(jù)權(quán)利和企業(yè)數(shù)據(jù)權(quán)力的平衡。

    但是,被遺忘權(quán)應(yīng)是有限制的。我們不能讓權(quán)利被濫用,應(yīng)該避免濫用刪除行為導(dǎo)致的信息封閉[26]。被遺忘權(quán)應(yīng)當(dāng)充分考慮個人數(shù)據(jù)的公共屬性,并以此為界限。如果僅因?yàn)樘幱诠差I(lǐng)域的數(shù)據(jù)與個人存在聯(lián)系或具有識別性,即賦予個人對個人數(shù)據(jù)的排他控制權(quán),使個人數(shù)據(jù)“私有化”,這有失正當(dāng)性,甚至與人類社會進(jìn)步發(fā)展的制度基礎(chǔ)相悖[7]。另外,從英國法官馬克·沃比(Mark Warby)經(jīng)手的兩起被遺忘權(quán)案件以及我國被遺忘權(quán)第一案“任甲玉訴百度案”可以看出,涉及公共利益時,保障公民知情權(quán)也是一個重要考量。

    數(shù)據(jù)之于數(shù)字經(jīng)濟(jì)的價值不言而喻,所以應(yīng)重視數(shù)據(jù)價值。我們應(yīng)該衡量被遺忘權(quán)行使中要求被刪除的數(shù)據(jù)的價值。推廣并完善谷歌的遺忘權(quán)申請審查機(jī)制,既能保護(hù)用戶正常行使被遺忘的權(quán)利,又能避免用戶濫用權(quán)利的風(fēng)險,進(jìn)而最大程度上保護(hù)數(shù)據(jù)的價值。曾有學(xué)者呼吁,谷歌等企業(yè)在處理用戶的刪除數(shù)據(jù)申請時,應(yīng)公開審查規(guī)則,這不僅可以避免任意處理行為,還可以讓用戶了解規(guī)則后避免不適當(dāng)?shù)纳暾?,同時減少用戶對處理結(jié)果的不信任感[28];也有學(xué)者提出個案決定透明化、政府監(jiān)督等完善建議[29]。

    2.溫和的政策法律保障被遺忘權(quán)順利落地

    要想有限的被遺忘權(quán)順利落地,我們必須制訂并逐步完善溫和的政策法律。

    第一,某些場景中,更正權(quán)比被遺忘權(quán)更具適用性。過去信息的重要性,會隨著時間的推移而逐步減弱。而互聯(lián)網(wǎng)上保留的個人信息往往脫離了當(dāng)時的語境,會帶來誤解。我國《網(wǎng)絡(luò)安全法》規(guī)定,個人發(fā)現(xiàn)網(wǎng)絡(luò)運(yùn)營者收集、存儲的其個人信息有錯誤的,有權(quán)要求網(wǎng)絡(luò)運(yùn)營者予以更正。因此在一些場景中,個人對于信息的更正權(quán)比被遺忘權(quán)更具適用性。

    第二,屏蔽、斷開鏈接等處理方式優(yōu)于從根本上刪除數(shù)據(jù)。歐盟GDPR(2012 年建議案)中提及不適用情形時提出,數(shù)據(jù)控制者無需刪除,但需以一種不能被任何人通常獲取、收集和改變的方式來限制數(shù)據(jù)處理。但是,這一條文在最后正式發(fā)布的文本中被刪掉了。我國《侵權(quán)責(zé)任法》第36 條第2款中有對于侵權(quán)信息的刪除、屏蔽以及斷開鏈接的規(guī)定。屏蔽、斷開鏈接,使個人信息不再被瀏覽訪問,已經(jīng)可以達(dá)到被遺忘的目的,而且技術(shù)實(shí)現(xiàn)的門檻較低,降低了企業(yè)履行法律義務(wù)的成本。對于AI 系統(tǒng)而言,如無需刪除數(shù)據(jù),而是采取有效的脫敏技術(shù)等手段使數(shù)據(jù)斷開與個人的鏈接,無疑會更有利。

    第三,建立“后悔期”機(jī)制。目前所有的互聯(lián)網(wǎng)服務(wù)都需要以個人數(shù)據(jù)為基礎(chǔ),用戶行使被遺忘權(quán)就是拒絕相應(yīng)的互聯(lián)網(wǎng)服務(wù),如用戶注銷其淘寶賬戶,就無法再使用淘寶的服務(wù),這無疑會造成數(shù)字鴻溝。而且,個人會隨時間、環(huán)境改變,對過去的行為心生悔意。因此,互聯(lián)網(wǎng)服務(wù)為用戶設(shè)置“后悔期”十分必要。2017 年京東對其隱私政策作了更新,明確了用戶查詢、更正和刪除其個人信息的方式,增加了用戶賬戶的鎖定∕解鎖和注銷功能,并提供給用戶注銷后30 天悔期?!昂蠡谄凇睓C(jī)制對企業(yè)和用戶雙方都較為溫和,企業(yè)在“后悔期”內(nèi)斷開對用戶個人數(shù)據(jù)的訪問,如用戶反悔再進(jìn)行恢復(fù)。

    3.通過技術(shù)創(chuàng)新和建立技術(shù)標(biāo)準(zhǔn)保護(hù)個人數(shù)據(jù)權(quán)利

    基于權(quán)利的信息倫理主張,以個人數(shù)據(jù)權(quán)利為前提,進(jìn)行技術(shù)的研發(fā)、創(chuàng)新和使用,實(shí)現(xiàn)數(shù)據(jù)的開發(fā)利用與個人數(shù)據(jù)權(quán)利保護(hù)之間的平衡。

    技術(shù)從來不是中立的,而是價值負(fù)載的。隱私保護(hù)設(shè)計(jì)(Privacy by Design)便是將隱私保護(hù)和用戶數(shù)據(jù)權(quán)利保護(hù)等價值負(fù)載到技術(shù)和產(chǎn)品的設(shè)計(jì)之中,這已經(jīng)成為行業(yè)共識。被遺忘權(quán)則是奠基于個人自主性,強(qiáng)調(diào)每個人都能夠自己做出決定并對自己的行為負(fù)責(zé)。歐盟GDPR 賦予個人的數(shù)據(jù)自決權(quán)、控制權(quán)、被遺忘權(quán)等都是保護(hù)個人自主的體現(xiàn)。而區(qū)塊鏈技術(shù)正是將個人信息自主權(quán)和隱私保護(hù)設(shè)計(jì)理念相結(jié)合的一項(xiàng)技術(shù)。

    萬維網(wǎng)之父伯納斯·李不滿于現(xiàn)今互聯(lián)網(wǎng)的異化發(fā)展,希望借助區(qū)塊鏈技術(shù)重構(gòu)或再造互聯(lián)網(wǎng),使其回歸原本的價值觀上去。他認(rèn)為,區(qū)塊鏈技術(shù)可以使個人牢牢掌握其個人數(shù)據(jù)的控制權(quán)。他開創(chuàng)了區(qū)塊鏈項(xiàng)目——固體(Solid),希望幫助用戶自由選擇數(shù)據(jù)所在的位置以及允許誰訪問數(shù)據(jù),將個人數(shù)據(jù)與應(yīng)用程序本身分離。由于應(yīng)用程序與它們生成的數(shù)據(jù)分離,用戶將能夠避免服務(wù)商的鎖定,可以在不丟失任何個人數(shù)據(jù)和社交關(guān)系的同時,實(shí)現(xiàn)應(yīng)用程序和個人數(shù)據(jù)存儲服務(wù)器之間的無縫切換。互聯(lián)網(wǎng)服務(wù)商將不再可能通過用戶數(shù)據(jù)來捆綁用戶,只能通過不斷地創(chuàng)新服務(wù)來爭取用戶,這會使企業(yè)機(jī)構(gòu)的數(shù)據(jù)權(quán)力和用戶的數(shù)據(jù)權(quán)利達(dá)到平衡。

    實(shí)際上,區(qū)塊鏈具有不可篡改性,無法任意刪除數(shù)據(jù),與被遺忘權(quán)的理念相悖。但是,區(qū)塊鏈給個人充分的數(shù)據(jù)自主權(quán),間接達(dá)到了被遺忘權(quán)的訴求,同時在信息倫理學(xué)的意義上保留了數(shù)據(jù)的價值。比如區(qū)塊鏈引起的身份驗(yàn)證領(lǐng)域的革命,讓個人的數(shù)字身份只被自己擁有,僅在需要行使權(quán)利時對某些信息作選擇性披露。

    四、結(jié)語

    被遺忘權(quán)作為個人數(shù)據(jù)權(quán)利的重要組成部分,對數(shù)字經(jīng)濟(jì)發(fā)展造成深遠(yuǎn)影響。圍繞被遺忘權(quán),國際社會分為兩個陣營,一方基于保守主義立場支持保護(hù)個人的數(shù)據(jù)權(quán)利,包括被遺忘權(quán);一方迎合信息倫理學(xué)和數(shù)據(jù)主義的理論邏輯,反對被遺忘權(quán)。但是通過分析發(fā)現(xiàn),兩者均不符合我國數(shù)字經(jīng)濟(jì)發(fā)展和基于權(quán)利的信息倫理的基本訴求——數(shù)據(jù)價值開發(fā)與個人數(shù)據(jù)權(quán)利的平衡和統(tǒng)一。因此,應(yīng)當(dāng)秉承基于權(quán)利的信息倫理主張,建立溫和的數(shù)據(jù)被遺忘權(quán)機(jī)制。

    [注 釋]

    ①在GDPR 中,也被稱作“刪除權(quán)”(Right to delete)。雖然被遺忘權(quán)與刪除權(quán)因提出時間不同而表述不一,但兩者卻意指同一權(quán)利。被遺忘是意圖達(dá)到的目的,而刪除則是達(dá)成目的的手段。

    ②本文不區(qū)分個人數(shù)據(jù)與個人信息。

    猜你喜歡
    權(quán)利用戶信息
    我們的權(quán)利
    論不存在做錯事的權(quán)利
    法大研究生(2018年2期)2018-09-23 02:19:50
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    權(quán)利套裝
    Coco薇(2015年12期)2015-12-10 02:43:39
    如何獲取一億海外用戶
    展會信息
    中外會展(2014年4期)2014-11-27 07:46:46
    愛一個人
    文苑·感悟(2012年12期)2012-12-13 01:53:52
    精品久久久久久久末码| 国产亚洲精品久久久com| 最近2019中文字幕mv第一页| 欧美97在线视频| 久久女婷五月综合色啪小说 | av在线天堂中文字幕| 久久久久九九精品影院| 亚洲国产成人一精品久久久| 久久鲁丝午夜福利片| 日产精品乱码卡一卡2卡三| 国产国拍精品亚洲av在线观看| av国产久精品久网站免费入址| 欧美丝袜亚洲另类| 日韩成人伦理影院| 亚洲欧美精品专区久久| 成人漫画全彩无遮挡| 久久久色成人| 成年女人在线观看亚洲视频 | 久久人人爽人人片av| 精品视频人人做人人爽| 亚洲精品aⅴ在线观看| 精品久久久久久电影网| 能在线免费看毛片的网站| 午夜精品国产一区二区电影 | 欧美少妇被猛烈插入视频| 国内精品宾馆在线| 成人美女网站在线观看视频| 一级毛片黄色毛片免费观看视频| 久久久久久久久久人人人人人人| 亚洲精品自拍成人| 久久综合国产亚洲精品| 成人鲁丝片一二三区免费| 18+在线观看网站| 国产永久视频网站| 亚洲最大成人av| 51国产日韩欧美| 国产综合懂色| 制服丝袜香蕉在线| 亚洲av福利一区| 春色校园在线视频观看| 男人添女人高潮全过程视频| 亚洲激情五月婷婷啪啪| 免费大片18禁| 国产91av在线免费观看| 欧美日韩综合久久久久久| 久久久久精品久久久久真实原创| 啦啦啦中文免费视频观看日本| 热re99久久精品国产66热6| 在线播放无遮挡| 国产亚洲5aaaaa淫片| 欧美少妇被猛烈插入视频| 乱系列少妇在线播放| 免费人成在线观看视频色| 永久网站在线| 欧美少妇被猛烈插入视频| 最近2019中文字幕mv第一页| 99re6热这里在线精品视频| 日本与韩国留学比较| 青春草亚洲视频在线观看| 国产中年淑女户外野战色| 人妻 亚洲 视频| 国产女主播在线喷水免费视频网站| 99热网站在线观看| 亚洲av免费高清在线观看| 久久久久久久亚洲中文字幕| 日韩欧美 国产精品| 777米奇影视久久| 热99国产精品久久久久久7| 国产精品麻豆人妻色哟哟久久| 欧美日韩一区二区视频在线观看视频在线 | 精品久久久久久久久av| 人妻系列 视频| 免费av观看视频| 汤姆久久久久久久影院中文字幕| 欧美性感艳星| 熟妇人妻不卡中文字幕| 欧美区成人在线视频| 一级毛片 在线播放| 国语对白做爰xxxⅹ性视频网站| 亚洲天堂国产精品一区在线| 亚洲av欧美aⅴ国产| 亚洲内射少妇av| 国产人妻一区二区三区在| 日韩欧美一区视频在线观看 | av.在线天堂| 亚州av有码| 一本一本综合久久| 精品久久久久久久人妻蜜臀av| 久久久亚洲精品成人影院| 激情五月婷婷亚洲| 欧美日韩亚洲高清精品| 国产精品久久久久久久电影| 国产精品三级大全| 晚上一个人看的免费电影| 国产白丝娇喘喷水9色精品| 亚洲国产av新网站| 亚洲国产色片| 欧美+日韩+精品| 亚洲成人中文字幕在线播放| 欧美成人一区二区免费高清观看| 国产日韩欧美在线精品| 只有这里有精品99| 综合色丁香网| 国产日韩欧美亚洲二区| 久久久午夜欧美精品| 搡老乐熟女国产| 成人鲁丝片一二三区免费| 国产成人精品福利久久| 在线观看三级黄色| 欧美丝袜亚洲另类| 在线天堂最新版资源| 欧美精品国产亚洲| 女人被狂操c到高潮| 白带黄色成豆腐渣| 精品久久久久久久久av| 国产精品国产三级国产专区5o| 色5月婷婷丁香| 亚洲天堂av无毛| 日日摸夜夜添夜夜爱| 久久精品国产a三级三级三级| 免费观看在线日韩| 成人漫画全彩无遮挡| 欧美日韩亚洲高清精品| 最近中文字幕2019免费版| 爱豆传媒免费全集在线观看| 韩国av在线不卡| 亚洲在久久综合| 久久久久精品久久久久真实原创| 久久久久精品性色| 久久亚洲国产成人精品v| 日韩中字成人| 男人爽女人下面视频在线观看| 亚洲精品一二三| 亚洲电影在线观看av| 国产高清不卡午夜福利| 国产乱来视频区| 性色av一级| 午夜精品一区二区三区免费看| 亚洲欧美日韩东京热| 国产白丝娇喘喷水9色精品| 男的添女的下面高潮视频| 午夜福利在线在线| 菩萨蛮人人尽说江南好唐韦庄| 国产黄a三级三级三级人| 欧美日韩视频高清一区二区三区二| videossex国产| 丝袜脚勾引网站| 涩涩av久久男人的天堂| 免费大片黄手机在线观看| 国产一区二区在线观看日韩| av在线天堂中文字幕| 午夜精品国产一区二区电影 | 一级毛片 在线播放| 水蜜桃什么品种好| 网址你懂的国产日韩在线| 国产成年人精品一区二区| 亚洲成人久久爱视频| 国产伦在线观看视频一区| 男女下面进入的视频免费午夜| 一本久久精品| 狂野欧美激情性xxxx在线观看| 国产69精品久久久久777片| 大香蕉久久网| 久久精品综合一区二区三区| av在线app专区| 91久久精品电影网| 在线观看免费高清a一片| 午夜精品一区二区三区免费看| 久久99精品国语久久久| 午夜老司机福利剧场| 日韩一区二区视频免费看| 国产一区二区三区av在线| 王馨瑶露胸无遮挡在线观看| a级一级毛片免费在线观看| 国产一区二区三区av在线| 18禁裸乳无遮挡免费网站照片| 波多野结衣巨乳人妻| 99热国产这里只有精品6| 久久久色成人| 黄色日韩在线| 中国国产av一级| 欧美成人午夜免费资源| 久久99蜜桃精品久久| 丰满少妇做爰视频| 国产精品99久久久久久久久| 自拍欧美九色日韩亚洲蝌蚪91 | 国产精品熟女久久久久浪| 91精品一卡2卡3卡4卡| 久久精品国产自在天天线| 午夜福利视频1000在线观看| 国产探花极品一区二区| 爱豆传媒免费全集在线观看| 一级av片app| 人体艺术视频欧美日本| 黄色怎么调成土黄色| 国产日韩欧美亚洲二区| 91aial.com中文字幕在线观看| 国语对白做爰xxxⅹ性视频网站| 免费av观看视频| 精品一区二区免费观看| 啦啦啦啦在线视频资源| 永久免费av网站大全| 国产av国产精品国产| 在线观看一区二区三区激情| av在线观看视频网站免费| 18禁在线无遮挡免费观看视频| 久久精品熟女亚洲av麻豆精品| 精品人妻视频免费看| 男插女下体视频免费在线播放| 久久久欧美国产精品| 亚洲av成人精品一二三区| 午夜爱爱视频在线播放| 日本免费在线观看一区| 男男h啪啪无遮挡| 国产淫语在线视频| 成人国产av品久久久| 国产精品无大码| 春色校园在线视频观看| 一个人看的www免费观看视频| 丰满乱子伦码专区| 涩涩av久久男人的天堂| 少妇丰满av| 国产精品一区www在线观看| 国产白丝娇喘喷水9色精品| 夫妻午夜视频| 免费黄频网站在线观看国产| 欧美bdsm另类| 99热这里只有是精品在线观看| 大陆偷拍与自拍| 久久久精品欧美日韩精品| 观看免费一级毛片| 日韩精品有码人妻一区| 亚洲精品第二区| 国产高清不卡午夜福利| 国精品久久久久久国模美| 精品视频人人做人人爽| 18禁裸乳无遮挡动漫免费视频 | 高清日韩中文字幕在线| 久久久久久久大尺度免费视频| 国产免费一级a男人的天堂| 亚洲,一卡二卡三卡| 精品视频人人做人人爽| 亚洲av免费在线观看| 国产精品蜜桃在线观看| freevideosex欧美| 国产精品一区www在线观看| 亚洲成色77777| 综合色av麻豆| 亚洲三级黄色毛片| 爱豆传媒免费全集在线观看| 伊人久久国产一区二区| 黄片wwwwww| 少妇 在线观看| 精品国产一区二区三区久久久樱花 | 亚洲精品乱久久久久久| 亚洲精品乱码久久久v下载方式| 神马国产精品三级电影在线观看| 在线免费十八禁| 三级经典国产精品| 亚洲精品久久午夜乱码| 国产毛片在线视频| 舔av片在线| 国产色婷婷99| 99热网站在线观看| 别揉我奶头 嗯啊视频| 亚洲真实伦在线观看| 久久国内精品自在自线图片| 人人妻人人澡人人爽人人夜夜| 日韩强制内射视频| 午夜视频国产福利| 色哟哟·www| 日日啪夜夜爽| eeuss影院久久| 亚洲精品成人av观看孕妇| 一级毛片黄色毛片免费观看视频| 久久午夜福利片| 欧美激情国产日韩精品一区| 久久ye,这里只有精品| av在线老鸭窝| 成人国产av品久久久| 我的女老师完整版在线观看| 别揉我奶头 嗯啊视频| 国产精品无大码| 亚洲欧美一区二区三区国产| 交换朋友夫妻互换小说| 久久久久网色| 九九在线视频观看精品| 王馨瑶露胸无遮挡在线观看| 亚洲av二区三区四区| 色视频在线一区二区三区| 成人午夜精彩视频在线观看| 中文精品一卡2卡3卡4更新| 蜜桃久久精品国产亚洲av| 亚洲成人精品中文字幕电影| 日本黄色片子视频| 一区二区三区精品91| 国产老妇伦熟女老妇高清| 亚洲成色77777| 国产黄片视频在线免费观看| 内射极品少妇av片p| 综合色av麻豆| 国产精品人妻久久久久久| 又粗又硬又长又爽又黄的视频| 高清毛片免费看| 免费观看a级毛片全部| 韩国av在线不卡| 中文天堂在线官网| 人妻少妇偷人精品九色| 男的添女的下面高潮视频| 亚洲欧美清纯卡通| 色网站视频免费| av在线播放精品| 人人妻人人爽人人添夜夜欢视频 | 婷婷色麻豆天堂久久| 国产精品女同一区二区软件| 91精品一卡2卡3卡4卡| 国产男女内射视频| 天堂网av新在线| 视频区图区小说| 美女高潮的动态| 中文字幕av成人在线电影| 美女cb高潮喷水在线观看| 国产高清不卡午夜福利| 午夜老司机福利剧场| 人妻制服诱惑在线中文字幕| 久久99热这里只频精品6学生| 91精品一卡2卡3卡4卡| 欧美少妇被猛烈插入视频| 国产淫语在线视频| 色哟哟·www| 成人综合一区亚洲| 亚洲国产欧美在线一区| 男女那种视频在线观看| av免费在线看不卡| tube8黄色片| 99热网站在线观看| 老女人水多毛片| 亚洲欧美成人综合另类久久久| 麻豆精品久久久久久蜜桃| 九九在线视频观看精品| 国产黄片美女视频| 国产一区二区三区av在线| 免费观看的影片在线观看| 99re6热这里在线精品视频| 国产成人福利小说| 国产在线一区二区三区精| 91aial.com中文字幕在线观看| 好男人在线观看高清免费视频| 国产白丝娇喘喷水9色精品| 丰满乱子伦码专区| 高清在线视频一区二区三区| 欧美xxⅹ黑人| 欧美日韩视频高清一区二区三区二| 丝袜喷水一区| 国产真实伦视频高清在线观看| 欧美成人a在线观看| 一级毛片aaaaaa免费看小| 深夜a级毛片| 精品久久久精品久久久| 日韩成人伦理影院| 亚洲一级一片aⅴ在线观看| 久久精品久久久久久久性| 国产男女超爽视频在线观看| 激情 狠狠 欧美| 新久久久久国产一级毛片| 免费高清在线观看视频在线观看| 亚洲婷婷狠狠爱综合网| 欧美日本视频| 精品久久久久久电影网| 韩国高清视频一区二区三区| 全区人妻精品视频| 18禁在线播放成人免费| 在线精品无人区一区二区三 | 三级国产精品片| 国产亚洲5aaaaa淫片| 天堂俺去俺来也www色官网| 一区二区三区精品91| 美女高潮的动态| 国产精品无大码| 嘟嘟电影网在线观看| 亚洲欧美日韩无卡精品| 国产爽快片一区二区三区| 亚洲欧洲国产日韩| 蜜桃久久精品国产亚洲av| 亚洲美女视频黄频| 国产色爽女视频免费观看| 免费电影在线观看免费观看| 在线观看一区二区三区激情| 久久久久久久久大av| 亚洲成人一二三区av| 亚洲av欧美aⅴ国产| 97热精品久久久久久| 九草在线视频观看| 成人特级av手机在线观看| av线在线观看网站| 久久99热这里只有精品18| 久久久久久久久久久丰满| 亚洲av.av天堂| 国产色爽女视频免费观看| 亚州av有码| 国产探花在线观看一区二区| 97在线视频观看| 久久久欧美国产精品| 欧美性感艳星| 女人久久www免费人成看片| 在线观看免费高清a一片| 三级男女做爰猛烈吃奶摸视频| 欧美日韩国产mv在线观看视频 | 中文精品一卡2卡3卡4更新| 成年女人在线观看亚洲视频 | 成年版毛片免费区| 春色校园在线视频观看| 天天躁夜夜躁狠狠久久av| 少妇人妻精品综合一区二区| 22中文网久久字幕| 六月丁香七月| 亚洲精华国产精华液的使用体验| 最近最新中文字幕免费大全7| 久久精品久久久久久久性| 国产老妇女一区| 日本av手机在线免费观看| 午夜视频国产福利| 亚洲自偷自拍三级| 免费黄网站久久成人精品| 国产精品偷伦视频观看了| 亚洲欧美中文字幕日韩二区| 三级男女做爰猛烈吃奶摸视频| 色视频在线一区二区三区| 久久久精品免费免费高清| 亚洲av男天堂| 亚洲精品456在线播放app| 中文天堂在线官网| 最近手机中文字幕大全| www.av在线官网国产| 欧美性猛交╳xxx乱大交人| 可以在线观看毛片的网站| 亚洲国产精品专区欧美| 热re99久久精品国产66热6| 男女边摸边吃奶| 久久精品国产亚洲网站| 精品人妻视频免费看| 成人亚洲精品av一区二区| 日本wwww免费看| 国产成人精品一,二区| 亚洲欧洲日产国产| 国产探花极品一区二区| 18禁在线无遮挡免费观看视频| 欧美xxⅹ黑人| 三级国产精品片| 久久精品国产自在天天线| 涩涩av久久男人的天堂| 国产一区二区亚洲精品在线观看| 97超碰精品成人国产| 久久97久久精品| 九九在线视频观看精品| 狂野欧美激情性bbbbbb| 黄片wwwwww| 老女人水多毛片| 精品久久国产蜜桃| 国产一区二区三区综合在线观看 | 亚洲精品一区蜜桃| 国产成人精品婷婷| 国产又色又爽无遮挡免| 久久精品久久久久久久性| 亚洲av日韩在线播放| 日韩一区二区三区影片| 26uuu在线亚洲综合色| 极品少妇高潮喷水抽搐| 成人特级av手机在线观看| 一个人看视频在线观看www免费| 好男人视频免费观看在线| 身体一侧抽搐| 99热这里只有是精品在线观看| 99热国产这里只有精品6| 国产精品麻豆人妻色哟哟久久| 男女国产视频网站| 亚洲欧美日韩东京热| 亚洲va在线va天堂va国产| 中文字幕av成人在线电影| 国产v大片淫在线免费观看| www.色视频.com| 美女被艹到高潮喷水动态| 久久综合国产亚洲精品| 99视频精品全部免费 在线| 欧美变态另类bdsm刘玥| 超碰av人人做人人爽久久| av天堂中文字幕网| 日韩 亚洲 欧美在线| 婷婷色综合大香蕉| av在线老鸭窝| 深爱激情五月婷婷| 国产有黄有色有爽视频| 国产精品国产三级国产专区5o| 亚洲欧美成人综合另类久久久| 欧美97在线视频| 综合色丁香网| 免费观看在线日韩| 欧美3d第一页| 99久久精品热视频| 小蜜桃在线观看免费完整版高清| 国产成人a∨麻豆精品| 日本黄大片高清| 久久精品国产亚洲网站| 少妇人妻久久综合中文| 国产午夜精品一二区理论片| 亚洲国产精品成人综合色| 成人毛片60女人毛片免费| 天堂俺去俺来也www色官网| 亚洲国产精品专区欧美| 免费av观看视频| 精品久久久久久久末码| 亚洲一区二区三区欧美精品 | 免费播放大片免费观看视频在线观看| 青春草视频在线免费观看| 校园人妻丝袜中文字幕| 国产成人精品久久久久久| 成人鲁丝片一二三区免费| 七月丁香在线播放| 亚洲国产精品999| 18禁裸乳无遮挡免费网站照片| freevideosex欧美| 极品少妇高潮喷水抽搐| 99九九线精品视频在线观看视频| 九九在线视频观看精品| 天堂俺去俺来也www色官网| 七月丁香在线播放| 色5月婷婷丁香| 亚洲欧美清纯卡通| 日韩欧美精品v在线| 国产精品麻豆人妻色哟哟久久| 欧美一区二区亚洲| 插逼视频在线观看| 日本黄色片子视频| 亚洲精品色激情综合| 欧美激情国产日韩精品一区| 热99国产精品久久久久久7| 久久国产乱子免费精品| 成人综合一区亚洲| 日日摸夜夜添夜夜爱| 国产爱豆传媒在线观看| 狠狠精品人妻久久久久久综合| 高清av免费在线| 日本熟妇午夜| 下体分泌物呈黄色| 亚洲美女视频黄频| 欧美高清成人免费视频www| 丰满少妇做爰视频| 亚洲欧美精品专区久久| 一级爰片在线观看| 天美传媒精品一区二区| 永久网站在线| 欧美日韩亚洲高清精品| 欧美国产精品一级二级三级 | 成人高潮视频无遮挡免费网站| 日韩亚洲欧美综合| 精品久久久久久久久亚洲| 美女被艹到高潮喷水动态| 国产精品久久久久久av不卡| 久久久午夜欧美精品| 老女人水多毛片| 久久久久久久精品精品| 中文天堂在线官网| 久久精品国产a三级三级三级| 搡老乐熟女国产| 亚洲国产高清在线一区二区三| 亚洲精品456在线播放app| 午夜激情久久久久久久| 岛国毛片在线播放| 国产成人aa在线观看| 亚洲国产精品专区欧美| 国产伦在线观看视频一区| 日韩亚洲欧美综合| 亚洲av成人精品一二三区| 91精品一卡2卡3卡4卡| 国产亚洲精品久久久com| 欧美日韩精品成人综合77777| a级一级毛片免费在线观看| 国模一区二区三区四区视频| 91aial.com中文字幕在线观看| 亚洲三级黄色毛片| 大片免费播放器 马上看| 国产黄频视频在线观看| 中文字幕久久专区| 六月丁香七月| 国产黄频视频在线观看| 联通29元200g的流量卡| 在线观看免费高清a一片| 汤姆久久久久久久影院中文字幕| 99热这里只有是精品50| av国产精品久久久久影院| 91午夜精品亚洲一区二区三区| 乱码一卡2卡4卡精品| 综合色丁香网| 在线观看av片永久免费下载| 中文在线观看免费www的网站| 国产黄片视频在线免费观看| 男女啪啪激烈高潮av片| 最近最新中文字幕大全电影3| 黄色怎么调成土黄色| 天天躁夜夜躁狠狠久久av| 在线观看人妻少妇| 精品少妇久久久久久888优播| 国产爱豆传媒在线观看| 中文字幕人妻熟人妻熟丝袜美| 超碰av人人做人人爽久久| 欧美精品人与动牲交sv欧美| 亚洲国产精品国产精品| 嫩草影院新地址| 午夜日本视频在线| 免费少妇av软件| 亚洲高清免费不卡视频| 精品人妻视频免费看| 午夜视频国产福利| 2021少妇久久久久久久久久久| 黄片wwwwww|