• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人臉識別信息收集與使用過程中知情同意原則的修正

    2022-11-08 13:41:20洪丹娜林李童欣
    關(guān)鍵詞:信息處理知情人臉識別

    洪丹娜,林李童欣

    (華南理工大學(xué) 法學(xué)院,廣東 廣州 510006)

    一、問題的提出

    21世紀(jì)以來,互聯(lián)網(wǎng)技術(shù)的快速擴張使社會關(guān)系產(chǎn)生了難以預(yù)先判斷的變革性內(nèi)容。之前線下社會中那些本不具備私人屬性的個人信息成為亟須法律保護的客體。例如,作為個人信息的“性別”在原本沒有被互聯(lián)網(wǎng)覆蓋的空間中是由其自然外觀顯露出來的,本身不可隱藏也不必納入隱私信息的類別當(dāng)中。然而,在網(wǎng)絡(luò)空間中,“性別”是屬于可被用于識別用戶的間接信息,被納入人格權(quán)保護的客體當(dāng)中。因此,對于某些在傳統(tǒng)法律中根本不具備權(quán)利屬性的信息應(yīng)當(dāng)采取全新的規(guī)制思路,隨著人臉識別技術(shù)的發(fā)展而產(chǎn)生的人臉信息保護缺位更應(yīng)當(dāng)?shù)玫街匾暋?021 年央視 3·15 晚會驚曝多家知名商店安裝人臉識別攝像頭,海量人臉信息被收集,但沒有一個商家明確告知消費者,征得同意更是無從談起。人臉識別技術(shù)是基于人的臉部特征信息進行身份識別的一種生物識別技術(shù),其基本流程是用攝像機或攝像頭采集含有人臉的圖像或視頻流,并自動在圖像中檢測和跟蹤人臉,進而對檢測到的人臉進行臉部識別的一系列相關(guān)技術(shù),通常也叫做人像識別、面部識別。在純粹的不與互聯(lián)網(wǎng)相連接的物理空間內(nèi),人臉無須采取任何保密、遮擋措施出現(xiàn);但當(dāng)其作為一項最基本的識別特征運用于人臉識別技術(shù)中,由人臉進而識別關(guān)聯(lián)到自然人其他個人信息的隱私風(fēng)險和人臉數(shù)據(jù)泄露的安全風(fēng)險將會大大加劇。刷臉不再限于“把人認(rèn)出來”的身份識別過程,而是重在于人臉驗證/人臉辨析基礎(chǔ)上所進行的人臉分析或其他關(guān)聯(lián)分析,已從純粹的身份識別機制轉(zhuǎn)換為識別分析機制。正是人臉識別技術(shù)從身份識別機制轉(zhuǎn)向?qū)€體關(guān)聯(lián)信息的分析機制,使得人臉識別技術(shù)的運用中隱藏著人格尊嚴(yán)、隱私、個人信息等被侵犯的風(fēng)險。

    與此同時,在具體、社會化的人臉識別技術(shù)應(yīng)用場景中,現(xiàn)有的規(guī)制知情同意的規(guī)范條文和合同條款過于關(guān)注形式上的告知和同意,往往在外觀上落實了知情同意,但有意無意地忽略其制度目的,甚至刻意以形式取代目的。一方面,技術(shù)啟用方往往以格式條款的大范圍、大面積簽訂或“一鍵打鉤”式的一攬子協(xié)議來規(guī)避對用戶承擔(dān)的敏感信息保護責(zé)任,甚至在啟用人臉識別技術(shù)替代傳統(tǒng)的生物識別系統(tǒng)時默認(rèn)用戶已經(jīng)同意使用該技術(shù)進行身份識別,直接跳過啟用前協(xié)商的階段。另一方面,啟用方很少向用戶披露技術(shù)開發(fā)者及技術(shù)本身的運作流程、數(shù)據(jù)抓取的原理、安全措施以及數(shù)據(jù)泄露的救濟手段等內(nèi)容。因此,在司法場域中,無論是對相關(guān)法條運用釋義學(xué)技術(shù)或是在法律允許的框架內(nèi)靈活適用法律原則,都體現(xiàn)出了社會現(xiàn)實對法律修正的迫切需求。2021年4月9日,被稱為“人臉識別第一案”的郭某訴杭州野生動物世界一案二審宣判結(jié)束,浙江省杭州市中級人民法院大部分支持了一審的判決內(nèi)容,即判決杭州野生動物世界賠償郭某合同利益損失及交通費,刪除其提交的面部特征信息,并增加了一項“杭州野生動物世界有限公司刪除郭某辦理指紋年卡時提交的指紋識別信息”。在該案中,無論是一審杭州市富陽區(qū)人民法院以被告方違反合同為判決基礎(chǔ),還是二審杭州市中級人民法院維持一審合同違反的法理判決,都從側(cè)面體現(xiàn)出當(dāng)前我國還未建立人臉信息保護權(quán)利體系,具備身份可識別性的信息作為一項新興的權(quán)利客體還未被恰當(dāng)?shù)丶{入法律體系中。雖然《中華人民共和國民法典》(以下簡稱《民法典》)合同編與侵權(quán)責(zé)任編的部分規(guī)范能對數(shù)據(jù)財產(chǎn)利益加以保護,但隨著數(shù)據(jù)人格利益呈現(xiàn)出與財產(chǎn)利益并重的趨勢,合同編與侵權(quán)責(zé)任編相關(guān)理論已不能支持法院在個案中判決人臉識別啟用方數(shù)據(jù)收集合同無效。

    當(dāng)前我國主要構(gòu)建了以知情同意原則為基礎(chǔ)的對人臉識別信息收集與使用的規(guī)制,但此原則的適用在人臉識別技術(shù)大規(guī)模應(yīng)用中呈現(xiàn)出明顯的窘境。若能通過對現(xiàn)行法體系內(nèi)知情同意原則的修正,在不違反法穩(wěn)定性、秩序性的前提下,彌合法的統(tǒng)一與技術(shù)發(fā)展的矛盾,則能更好地立足于大數(shù)據(jù)發(fā)展的風(fēng)口,以人臉識別領(lǐng)域的實際問題為導(dǎo)向,回應(yīng)新技術(shù)背景下公民保護個人敏感信息的需求。

    二、知情同意原則的提出與發(fā)展

    盡管知情同意原則在實踐中往往出現(xiàn)以“形式”同意取代“實質(zhì)”同意的窘境,在人臉識別技術(shù)大規(guī)模應(yīng)用時更是呈現(xiàn)出捉襟見肘的適用困境,但不可否認(rèn)其作為個人信息保護原則的重要性地位?;诖耍斜匾獙χ橥庠瓌t進行追根溯源,并梳理其發(fā)展脈絡(luò),進而理解其正當(dāng)性基礎(chǔ),為堅守和修正知情同意原則提供理論根基。知情同意原則的產(chǎn)生與信息時代的興起有著深刻的邏輯連接,在大數(shù)據(jù)背景下的萬物互聯(lián)社會中具備價值層面上的正當(dāng)性,從而以其自身的自足性回應(yīng)其他信息保護理論的質(zhì)疑。

    (一)知情同意原則的提出

    知情同意原則最初是作為一項倫理原則在醫(yī)學(xué)領(lǐng)域確立的,該原則的出現(xiàn)不僅是為了解決醫(yī)療領(lǐng)域侵權(quán)的問題,而且是出于對患者人身權(quán)的尊重以及對自由主義、個人自主觀念的推崇。隨著時代的發(fā)展,知情同意原則在相關(guān)信息保護法律中逐漸建立起核心地位。該原則自醫(yī)學(xué)領(lǐng)域向法學(xué)領(lǐng)域的轉(zhuǎn)移離不開個人信息自決權(quán)理論脈絡(luò)的延伸,換言之,知情同意原則實乃個人信息自決權(quán)在信息流通領(lǐng)域中關(guān)于權(quán)利客體、效力等事項的具體和細化。

    在個人信息自決權(quán)理論的擁簇者看來,個人信息自決權(quán)存在于個人信息處理的各個步驟,也存在于所有的個人信息之上。為了應(yīng)對日益增多的個人信息收集、處理和利用行為,法律上也應(yīng)當(dāng)賦予當(dāng)事人一個足以與之抗衡的地位,即在具體規(guī)則的設(shè)計上應(yīng)當(dāng)降低信息處理者的地位,增強當(dāng)事人對于自己的信息的控制能力。因此,由個人信息自決權(quán)所導(dǎo)出的具體規(guī)則大體可被歸結(jié)為:個人信息的收集、傳播或者利用原則上受到禁止,除非獲得信息主體的同意;個人信息處理者基于法定事由或者對于信息處理本身具有正當(dāng)?shù)睦娣娇商幚韨€人信息;個人信息的收集目的必須明確,個人信息收集者日后的信息處理行為受到該目的的拘束,任何超出收集目的的信息處理行為將被視為對信息自決權(quán)的侵害;當(dāng)事人對信息處理者享有一系列的積極請求權(quán),包括查詢權(quán)、制作副本的權(quán)利、刪除權(quán)、更正權(quán)等。上述規(guī)則基本被國外主流的個人信息保護法案所接受。如歐洲委員會1980年《個人數(shù)據(jù)自動化處理中的個人保護公約》、2008年美國伊利諾伊州《生物信息隱私法案》以及2018年歐盟的《一般數(shù)據(jù)保護條例》(GDPR)等。

    (二)知情同意原則的正當(dāng)性基礎(chǔ)

    對個人自主的喪失和關(guān)注在現(xiàn)今獨特的信息環(huán)境背景下有現(xiàn)象級的社會意義。人工智能、互聯(lián)網(wǎng)等新型信息技術(shù)的集合為各層次的非個人主體提供了控制和監(jiān)視的手段,有學(xué)者認(rèn)為這種趨勢是“數(shù)字化國家主義”的興起?!皵?shù)字化國家主義”的概念生成于侵犯隱私和大規(guī)模監(jiān)視商業(yè)化的行為日益普遍的時期,在這樣的一種背景下,個體自主性逐漸被當(dāng)成是“針對自己被非法征服、數(shù)字監(jiān)控和數(shù)據(jù)收集的補救辦法”,人的自主性被打入泥潭,人將屈從于本能與管理,人將只會是服從的動物和集合體的奴仆,因此,知情同意原則為人自主、理性的決策提供了前端的行為基礎(chǔ),抑制了數(shù)字利維坦的生成。

    對應(yīng)強勢的“數(shù)字化國家主義”,既有的人權(quán)形態(tài)也在發(fā)生深刻的變革與重塑,數(shù)字人權(quán)需要全新的內(nèi)涵、形式與結(jié)構(gòu),以對抗隱私侵犯、算法歧視、信息壟斷等新型問題。但無論人權(quán)發(fā)展進化到何種格局,其基本的道德基礎(chǔ)和價值內(nèi)核始終都在于法對個人自主和尊嚴(yán)的關(guān)注,而知情同意原則賦予個人信息自決權(quán),無疑是抬高個體自主與自由、削弱國家數(shù)字霸權(quán)的最好途徑。

    (三)知情同意原則適用的質(zhì)疑與回應(yīng)

    基于知情同意原則在現(xiàn)實中發(fā)生的適用錯位,高富平主張“知情同意原則不是信息收集的正當(dāng)性基礎(chǔ)”,認(rèn)為個人信息的社會化屬性和社會化利用應(yīng)當(dāng)取代知情同意原則,由社會為治理主體進行個人數(shù)據(jù)的監(jiān)控和保護。而任龍龍主張對知情同意原則進行路徑重構(gòu),認(rèn)為基于場景與風(fēng)險導(dǎo)向的新理念,應(yīng)取消信息處理前的靜態(tài)合規(guī)遵循,采用責(zé)任歸責(zé)和事后判斷的保護方式等。但即使是在個人信息公共屬性大大強化、知情同意原則實施成本不再低廉的趨勢下,知情同意原則依舊有其堅實的理論基礎(chǔ)。

    數(shù)據(jù)主體對個人信息理所當(dāng)然地享有某種控制權(quán)利——數(shù)據(jù)或信息是個人在計算機世界中的虛擬身份,經(jīng)算法處理后的數(shù)據(jù)畫像和基于畫像結(jié)果的定向廣告推送與主體的人格自由有密不可分的聯(lián)系,不管各國立法是將此種控制權(quán)納入隱私權(quán)、一般人格權(quán)的保護框架內(nèi),抑或視為個人信息自決權(quán)的延伸,主體都是數(shù)據(jù)或信息流轉(zhuǎn)的初始源頭。個人信息的社會屬性一說雖然對個人信息控制權(quán)造成了不小的沖擊,但并不能動搖主體的知情同意作為個人信息采集時應(yīng)遵守的一項原則的根本性地位。

    有學(xué)者認(rèn)為知情同意原則的正當(dāng)性根植于契約自治,契合了當(dāng)下數(shù)據(jù)治理合同路徑,不同的互聯(lián)網(wǎng)企業(yè)與用戶之間存在內(nèi)容近似的合同關(guān)系。此種類比較隱私權(quán)理論、個人信息自決權(quán)理論拓寬了解釋上的可適用空間。以合同理論的視角來看,主體允許采集者采集信息是以其所提供的諸多產(chǎn)品或服務(wù)為對價的。一方面,主體基于對個性化、針對化的產(chǎn)品或服務(wù)的需求讓渡信息所有權(quán)和使用權(quán);另一方面,由于所采集的信息能夠帶來可觀的收益,各數(shù)據(jù)采集者趨利而動,紛紛以產(chǎn)品和服務(wù)進一步拓寬用戶群,搜集數(shù)據(jù)。數(shù)據(jù)主體當(dāng)然享有締約自由,即對個人信息的自治權(quán),可以通過訂立契約來允許信息采集的行為,但法律對此種自治的介入在于保障私人自治過程中有關(guān)主體在經(jīng)濟、社會等多方面條件地位平等、力量均衡。契約自由、契約自治等私人自治領(lǐng)域的帝王原則并不等同于公權(quán)力完全不得介入該領(lǐng)域?qū)嵭羞m度干預(yù),在信息協(xié)議中出現(xiàn)的無名合同、格式化合同等復(fù)雜的權(quán)利義務(wù)條款,利益保護的不公平傾斜現(xiàn)象使得法律必然要對其施加必要的關(guān)注。而隱私權(quán)和個人信息自決權(quán)理論既無法解決個人信息主體性和社會性之間的矛盾,也無法在兩種相互矛盾的特性中取得適當(dāng)?shù)钠胶狻?/p>

    也有學(xué)者認(rèn)為由于目前個人通過知情同意機制履行對個人信息的私力救濟的實踐困境,應(yīng)當(dāng)由法律設(shè)立第三方機構(gòu)實施中立的保護、監(jiān)督、管理職能。但是,第三方中立機構(gòu)在對個人信息保護領(lǐng)域的注意程度遠遠小于信息主體本人。在當(dāng)前的技術(shù)背景下,信息主體對保護自身信息不力并不是因為主體對自身利益的疏于關(guān)注,而是因為雙方主體在專業(yè)知識量上的差異以及因保護與救濟缺位導(dǎo)致信息維護成本遠高于不合理的流轉(zhuǎn)成本。不能因為個人對自身信息的保護不力就理所當(dāng)然地剝奪個體對信息的自治權(quán)和自決權(quán),立法和司法應(yīng)當(dāng)積極改善知情同意原則與時代邏輯矛盾的處境,賦予私人主體更多權(quán)利來應(yīng)對技術(shù)對社會的傾軋和異化。況且,從外部來判斷自決結(jié)果是否對本人有利,本身就與自決的精神不相符合。法律支持?jǐn)?shù)據(jù)主體對個人信息享有自決權(quán)和控制權(quán)并不僅僅是因為個人是自身利益的最好維護者,而且是因為只有個人才有權(quán)最終決定其個人信息是否以及在多大程度上與誰共享的問題,即使第三方擁有超越其上的專業(yè)知識和深度理解,也不能否定自決精神背后法律對個人自主信念的珍視和維護。

    三、人臉識別信息收集與使用中知情同意原則的適用

    (一)現(xiàn)行法律規(guī)定中知情同意原則的適用框架

    我國尚未對人臉識別信息乃至其上位概念(生物識別信息)作專門規(guī)定,現(xiàn)行法律大多以個人信息為一般客體建構(gòu)法律規(guī)制體系。我國在處理個人信息保護層面的法律技術(shù)時,也相應(yīng)借鑒了國際上主流的信息保護立法,搭建起以知情同意原則為基本架構(gòu)的私權(quán)體系。通過歸結(jié)相關(guān)法律法規(guī)的內(nèi)容,知情同意原則在我國法律框架內(nèi)主要表現(xiàn)為以下幾點的適用規(guī)則:

    第一,形式同意的規(guī)范,即收集用戶信息必須得到信息主體的事前同意;未經(jīng)信息主體的授權(quán)同意,數(shù)據(jù)收集者及使用者對用戶個人信息的收集和處理被視為沒有相應(yīng)的合法性基礎(chǔ),應(yīng)承擔(dān)相應(yīng)的法律責(zé)任?!睹穹ǖ洹?第一千零三十四條和第一千零三十五條集中規(guī)定了關(guān)于自然人信息保護方面的權(quán)利。首先,第一千零三十四條明確了對自然人個人信息的法律保護,接著對個人信息的概念和范圍予以界定,其中就包括人臉識別信息所屬的生物識別信息。其次,通過準(zhǔn)用性規(guī)則的設(shè)定來指導(dǎo)權(quán)利保護所適用的法律,第一千零三十五條明確了個人信息處理應(yīng)遵循合法、正當(dāng)、必要原則以及處理的必要條件,其中就明示了自然人的同意是信息處理的合法要件?!吨腥A人民共和國網(wǎng)絡(luò)安全法》(以下簡稱《網(wǎng)絡(luò)安全法》)第二十二條第三款規(guī)定網(wǎng)絡(luò)產(chǎn)品及服務(wù)的提供者必須取得用戶的明示同意才可收集其信息,提高了收集者同意在信息處理中的地位,同時對脫敏信息(即不可識別特定個人且不得復(fù)原的信息)與一般個人信息提出了不同的同意要求,為推進個人信息處理的實質(zhì)同意奠定了一定的基礎(chǔ)。

    第二,詳細規(guī)范知情同意的適用細則,促使實質(zhì)同意,防范形式同意而實質(zhì)損害數(shù)據(jù)主體的個人信息的行為?!吨腥A人民共和國個人信息保護法》(以下簡稱《個人信息保護法》)第十四條規(guī)定“同意應(yīng)當(dāng)由個人在充分知情的前提下自愿、明確作出。法律、行政法規(guī)規(guī)定處理個人信息應(yīng)當(dāng)取得個人單獨同意或者書面同意的,從其規(guī)定。個人信息的處理目的、處理方式和處理的個人信息種類發(fā)生變更的,應(yīng)當(dāng)重新取得個人同意”,從而防止同意流于形式化。第十六條針對此前出現(xiàn)的“強制同意”要求個人信息處理者不得以個人不同意處理其個人信息或撤回同意為由拒絕提供產(chǎn)品或服務(wù);第十七條則細化了信息處理前的告知方式和告知內(nèi)容。各項規(guī)范文件均指出以捆綁授權(quán)、強制同意、消極同意等方式作出的同意無效,回應(yīng)了在實踐中頻繁出現(xiàn)的App強制索權(quán)、過度索權(quán)、超范圍收集信息等問題。

    第三,對知情同意原則適用的例外情形進行明確規(guī)定,防范未經(jīng)同意而收集和使用個人信息。除法律另有規(guī)定外,個人信息收集均遵循知情同意原則。法律對可以不獲取信息收集者同意而進行處理的情形作出了明確的規(guī)定,任何單位和個人不得在法律規(guī)定的范圍之外濫用知情同意豁免權(quán)?!蹲罡呷嗣穹ㄔ宏P(guān)于審理利用信息網(wǎng)絡(luò)侵害人身權(quán)益民事糾紛案件適用法律若干問題的規(guī)定》的第十二條中列舉了有關(guān)合法使用的若干情形,除自然人書面同意的條款之外,還包括為促進社會公共利益在必要范圍內(nèi)使用、學(xué)校和科研機構(gòu)為學(xué)術(shù)研究或社會統(tǒng)計的目的使用不具備識別性的已經(jīng)個人同意授權(quán)的信息、以其他合法渠道獲取的信息等合法使用的情形。《個人信息保護法》中對個人信息處理規(guī)則作出了更加詳細的界定,包括與知情同意原則相并列的合法處理信息的情形,如為履行合同所必需、應(yīng)對突發(fā)公共衛(wèi)生事件、緊急情況下保護自然人生命健康和財產(chǎn)安全所必需等。《最高人民法院關(guān)于審理使用人臉識別技術(shù)處理個人信息相關(guān)民事案件適用法律若干問題的規(guī)定》(以下簡稱《規(guī)定》)專門針對人臉信息處理的合法使用情形作出了較為完善的規(guī)定,包括基于應(yīng)對突發(fā)公共衛(wèi)生事件或其他緊急情形的需要、維護公共安全、保障公共利益、個人同意以及符合法律、行政法規(guī)規(guī)定的其他情形。

    第四,不同類型的信息處理體現(xiàn)出同意的分層?!秱€人信息保護法》區(qū)分了一般同意與單獨同意,第二十三條、二十五條、二十六條、二十九條分別規(guī)定在向第三方提供、公開處理、公共場所安裝圖像采集與個人身份識別設(shè)備、處理個人敏感信息的情形下須取得個人單獨同意。此外,2020年國家市場監(jiān)督管理總局出臺《信息安全技術(shù)個人信息安全規(guī)范》中也區(qū)分了一般授權(quán)同意與明示同意,個人信息收集需“告知+授權(quán)同意”,個人敏感信息收集需“明示同意+完全、自主、清晰的知情”,個人生物識別信息需“單獨告知+明示同意”,收集未成年人個人信息應(yīng)取得其監(jiān)護人或年滿14周歲本人的明示同意。

    第五,通過為數(shù)據(jù)主體賦權(quán)和提供救濟渠道來反向倒逼數(shù)據(jù)收集者、使用者實質(zhì)履行知情同意原則的基本要求。為實質(zhì)保障用戶行使其對個人信息的控制權(quán)和同意權(quán),法律賦予自然人刪除權(quán)、損害賠償請求權(quán)、侵害行為禁止令請求權(quán),并強制網(wǎng)絡(luò)服務(wù)提供者提供與同意同等便捷的撤回條件,不得以用戶不同意拒絕提供業(yè)務(wù),賦予用戶更大的業(yè)務(wù)選擇權(quán)。

    (二)人臉識別信息收集與使用中知情同意原則適用的困境

    法律制度并不必然總是完全契合社會發(fā)展的,隨著社會跳躍式前進,成文法極大可能存在斷層和滯后。個人信息保護的知情同意原則恰恰就處于前數(shù)據(jù)時代與大數(shù)據(jù)時代的背景落差之中,正是此種現(xiàn)實的落差造成了《個人信息保護法》無法完美地回應(yīng)現(xiàn)實司法需求,也同樣是知情同意原則困境的源頭。在前數(shù)據(jù)時代,信息的交換以少量的信息處理與交換、與信息處理者的個性化交流為前提,信息主體得以在充分的知情下作出具體而明確的有效同意;而當(dāng)社會進入大數(shù)據(jù)時代,數(shù)據(jù)量的倍數(shù)增長、數(shù)據(jù)交換主體的隱名化與抽象化、數(shù)據(jù)交流的頻繁程度遠非前數(shù)據(jù)時代可比,有效的知情基礎(chǔ)被更加復(fù)雜的技術(shù)更新和社會情勢破壞幾盡。隨著人臉識別技術(shù)運用的普及,作為生物信息的人臉信息的保護需求與當(dāng)前知情同意原則適用框架的矛盾將會尤為突出。具體而言,其適用將面臨如下幾方面的考驗。

    1.目的拘束原則與數(shù)據(jù)二次利用

    目的拘束原則即數(shù)據(jù)利用不得超越數(shù)據(jù)收集時設(shè)定的范圍,在人臉信息的收集、儲存、處理、使用等各環(huán)節(jié)應(yīng)設(shè)置邊界,并以明確固定在規(guī)范性文件中的收集方式方法為基準(zhǔn),一旦目的達成,就應(yīng)當(dāng)及時刪除銷毀存儲的人臉信息。但在現(xiàn)今的信息或數(shù)據(jù)價值鏈之中,即使是收集者也無法在首次采集數(shù)據(jù)時完全預(yù)知與窮盡所有的數(shù)據(jù)利用方式,這就給收集者的告知義務(wù)的全面履行帶來了事實上的障礙。如果收集和利用者本身也無法對數(shù)據(jù)后續(xù)利用的目的作出清晰而明確地陳述,那法律設(shè)定保障數(shù)據(jù)主體知情權(quán)的強制告知規(guī)范將趨向事實上的“不能”,進而導(dǎo)致法律上的“不能”。在信息流動中,個體幾乎居于風(fēng)險的主要位置,即要承載由不確定風(fēng)險所帶來的所有后果;但是從信息獲得、披露與結(jié)果承受等角度而言,個體幾乎陷于一種消極、被動的地位,而在很大程度上能夠掌控相應(yīng)風(fēng)險或獲得更為對稱信息的卻是掌握個人信息的平臺或企業(yè)一方。

    在大數(shù)據(jù)時代,知情同意原則的相對化和適用區(qū)分化源于其運行的理論邏輯與現(xiàn)實經(jīng)濟邏輯的不相符。隨著人工智能技術(shù)進一步發(fā)展,科技的進步使思維方式產(chǎn)生深刻的變革:在數(shù)據(jù)分析之前沒有根本性的目的,通過分析產(chǎn)生事物間的相關(guān)性,擺脫前見預(yù)設(shè)的束縛,進而獲得創(chuàng)新的靈感,此種新興的方法區(qū)別于以往搜索和研究前需要提出一個前提假設(shè),通過實驗證成或證偽的舊式方法。收集者為應(yīng)付立法僵硬的目的告知義務(wù),往往在雙方協(xié)議中對信息收集的目的作概括性的說明,而用戶就必須作出概括性的同意。在采集前的告知中,被采集主體面臨大量數(shù)據(jù)信息的堆積接收,告知協(xié)議中專業(yè)性內(nèi)容占比大,存在大量缺乏專業(yè)知識背景則難以消化的條款,個人面臨超出其能力范圍的信息提取成本負擔(dān)。在采集后,由于被采集主體作出了不利的概括性同意,數(shù)據(jù)收集者得以利用不平等的協(xié)議條款隨意處理個人信息,而不履行采集授權(quán)后的告知義務(wù),信息過載與信息不足同時存在,被采集主體的知情權(quán)大打折扣。相較于有明確采集目的及應(yīng)用用途的數(shù)據(jù)收集者來說,以科研和技術(shù)更新為目的的數(shù)據(jù)收集者往往受目的拘束原則的桎梏更為深重。人臉識別算法準(zhǔn)確性的提高往往依賴于機器以大量人臉數(shù)據(jù)為基礎(chǔ)的數(shù)據(jù)庫的反復(fù)學(xué)習(xí),而這些數(shù)據(jù)在國內(nèi)很少有途徑獲取,這就使得這一部分的科研需求走入了未經(jīng)用戶同意而向上一級用戶收集者批量獲取人臉數(shù)據(jù)的方向。

    2.數(shù)據(jù)收集者與數(shù)據(jù)主體的信息不對稱、地位不平等

    即使數(shù)據(jù)收集者依照法律規(guī)定忠實履行了告知義務(wù),但數(shù)據(jù)主體依舊處于信息產(chǎn)業(yè)鏈中潛在受害者的地位。這是因為在實踐中,在用戶首次注冊或登錄個人賬號時皆會推送相應(yīng)的“隱私免責(zé)聲明”或“隱私政策”,如果用戶不勾選同意,則會被直接禁止使用相關(guān)產(chǎn)品或服務(wù),用戶在沒有被提供更為安全的替代選項的情況下,被迫在缺少對自身信息泄漏危險的知情下交出數(shù)據(jù)控制權(quán)。除此之外,網(wǎng)站還自主為用戶完成了不利用用戶數(shù)據(jù)安全的默認(rèn)設(shè)置,這些安全設(shè)置步驟多、操作復(fù)雜,一般的互聯(lián)網(wǎng)用戶都不會自行進行調(diào)整,網(wǎng)絡(luò)設(shè)備、服務(wù)的普及化以及平臺和應(yīng)用的密集化使得用戶頻繁作出授權(quán)同意,知情同意淪為現(xiàn)實負擔(dān)而非利益保護機制。

    3.風(fēng)險責(zé)任主體與數(shù)據(jù)受益主體的分離趨勢

    傳統(tǒng)的對數(shù)據(jù)濫用的責(zé)任倫理為過失責(zé)任追究原則,行為人無過錯則無責(zé)任,該原則的有效性在于實現(xiàn)對責(zé)任后果主體的相對性倫理綁定。我國對侵犯個人信息的法律責(zé)任追究也體現(xiàn)了這一過失責(zé)任機制,而這一機械式責(zé)任倫理面對高度智能化、數(shù)據(jù)化的人臉識別技術(shù)顯得格格不入,現(xiàn)有的過錯責(zé)任原則無法有效地對人臉識別技術(shù)帶來的責(zé)任規(guī)則進行劃分。人臉識別等新型人工智能技術(shù)的發(fā)展使數(shù)據(jù)收集、分析、儲存范式都發(fā)生了根本性的革新,數(shù)據(jù)紅利不再單純表現(xiàn)為一般信息的集合,而更多是指以數(shù)據(jù)分類為基礎(chǔ)的算法運用,進而得出與數(shù)據(jù)主體相關(guān)的分析結(jié)果。在人臉數(shù)據(jù)收集伊始,人臉數(shù)據(jù)、面部特征信息就與數(shù)據(jù)主體分離,收集者及二次利用者成為數(shù)據(jù)的唯一受益者,而人臉數(shù)據(jù)泄露、濫用的風(fēng)險卻需要最初的數(shù)據(jù)主體背書,此種分離趨勢顯然有悖于公正理念和責(zé)任歸責(zé)原則?,F(xiàn)實權(quán)益結(jié)構(gòu)的失衡以及技術(shù)應(yīng)用產(chǎn)生的效益與代價之間不對稱折射出大數(shù)據(jù)時代知情同意原則適用的蒼白。

    4.技術(shù)應(yīng)用的非對稱性掏空同意內(nèi)核

    采集方可以在用戶主體無意識的狀態(tài)下獲取人臉圖像,采集的非接觸性、便利性導(dǎo)致技術(shù)應(yīng)用上的不對稱性,人臉識別技術(shù)在物理上實現(xiàn)了跳躍被采集主體允諾和配合的階段,但物理上的阻隔和懸置不等同于規(guī)范上的豁免,不等同于獲得了主體的正當(dāng)性同意,技術(shù)侵入和破壞了個人合理的隱私空間。與人臉的高曝光率相呼應(yīng)的是人臉與人格主體的高度關(guān)聯(lián)性,一旦人臉信息以某種形式固定下來被傳輸和分析,在高度關(guān)聯(lián)性下層層推進,采集而成的信息范圍往往大大超出被采集主體合理期待的范圍,被采集主體會產(chǎn)生隱私被窺探、權(quán)利被侵犯的憤怒感,相關(guān)保護缺位或孱弱又會大大加劇矛盾?!半[私”概念本身意味著一種社會、文化以及學(xué)科定義上的開放性,以往人的隱私是基于個人私密的、不愿意也不適宜宣之于眾的選擇,除極少數(shù)文化背景下,一般社會環(huán)境下的人臉都是公開示人的,本不屬于隱私范疇,但人臉識別技術(shù)使得原本公開的信息成為隱私信息,也就是信息隱私化使得傳統(tǒng)隱私的邊界得以擴展。

    四、人臉識別信息收集與使用中知情同意原則適用的修正建議

    目的拘束原則與信息二次利用之間的張力過大,收集者與被收集者在信息處理中地位失衡,責(zé)任主體與受益主體的分離趨勢增大以及技術(shù)應(yīng)用懸置了同意要件等種種情形,無不警示著知情同意原則在人臉識別技術(shù)中適用的現(xiàn)實阻礙。因此,有必要對該原則現(xiàn)行的法律適用框架作出一定的修正,從知情和同意兩方面著手,以程序公正推進實體公正的實現(xiàn),同時應(yīng)重視被采集者與采集者權(quán)利分配格局的實質(zhì)公正。

    (一)保障知情基礎(chǔ)

    知情是被采集主體作出有效同意的充分條件,要提高同意的真實性就必須保障被采集者的知情基礎(chǔ),那么立法必須對采集者的告知義務(wù)作出相應(yīng)強制性規(guī)定。首先,應(yīng)制定采集者告知內(nèi)容和告知方式的統(tǒng)一標(biāo)準(zhǔn)。采集告知的形式應(yīng)當(dāng)清晰、顯著且適應(yīng)一般被采集者的閱讀和理解能力。載有告知內(nèi)容的隱私政策、隱私協(xié)議、信息共享協(xié)議等文件應(yīng)當(dāng)能為普通主體即不具備計算機專業(yè)素養(yǎng)的主體所閱知,避免使用大量專業(yè)術(shù)語;告知界面應(yīng)當(dāng)簡潔、顯著,將采集信息的主體、種類、用途、采集方式、信息采集后的后續(xù)處理過程和潛在風(fēng)險等要點信息簡明顯示在告知頁面上,不得通過大量無效信息的堆疊對主體行使知情權(quán)設(shè)置障礙。行業(yè)協(xié)會或工信部門可以制定具有反復(fù)適用功能的信息采集指引,供企業(yè)履行告知義務(wù)時進行選擇,信息指引中應(yīng)當(dāng)明確采集的主體、內(nèi)容、信息采集的目的、處理方式、后續(xù)流向、潛在風(fēng)險等模塊的強制告知義務(wù),信息指引的形式應(yīng)當(dāng)清晰、明確、易于理解、透明度高。其次,還可以通過轉(zhuǎn)變知情權(quán)實現(xiàn)的形式來保障相關(guān)數(shù)據(jù)主體的權(quán)益,換言之,避免事前一次性的含義模糊的告知,而轉(zhuǎn)變?yōu)樾畔⑻幚磉^程中動態(tài)的、持續(xù)的、清晰的告知實現(xiàn),從強調(diào)信息處理的事前目的拘束轉(zhuǎn)變?yōu)橐孕畔⑻幚韺崟r進程中的手段、方式的工具拘束為立足點,將更容易實現(xiàn)對數(shù)據(jù)主體知情權(quán)的保護。

    (二)建立標(biāo)準(zhǔn)化的司法風(fēng)險評估

    Nissenbaum提出的“情境誠信理論”認(rèn)為,個人信息保護應(yīng)當(dāng)根據(jù)不同的情境或領(lǐng)域而有不同的期待。誰收集信息,誰在分析,誰在傳播并且傳播給了誰,個人信息的性質(zhì),各方之間的關(guān)系以及各方機構(gòu)、社會情況等多因素都可能影響特定領(lǐng)域內(nèi)規(guī)范內(nèi)容的確定。個人信息使用的合規(guī)邊界是主觀的、動態(tài)的,超出了規(guī)范事前所能預(yù)設(shè)的范圍,后續(xù)信息收集與處理應(yīng)當(dāng)尊重原始收集時的具體語境,利用隱私風(fēng)險評估具體評估信息處理行為。場景理論以場景的區(qū)分為出發(fā)點,核心在于風(fēng)險的控制,意在跳出傳統(tǒng)知情同意結(jié)構(gòu)“全有或全無”的思維定式,轉(zhuǎn)而進行程度化的標(biāo)準(zhǔn)式評估,避免立法的僵化。

    我國立法并非沒有對信息處理風(fēng)險進行場景化處理?!秱€人信息保護法》對敏感個人信息的定義體現(xiàn)了一定程度的風(fēng)險評估,但最高人民法院出臺的規(guī)定中沒有對司法風(fēng)險評估給予一定標(biāo)準(zhǔn)化的指導(dǎo),究竟在何種情形下以何種方法泄露或非法使用信息將達到侵害自然人人格尊嚴(yán)、人身或財產(chǎn)安全的程度仍是沒有具體的定義,司法彈性空間過大。場景理論并不意味著賦予司法者完全的自由裁量權(quán),現(xiàn)行的規(guī)范結(jié)構(gòu)過于疏漏,制度的柔性使得處于弱勢地位的被收集者維權(quán)難度大大增加,信息泄露風(fēng)險幾何級增長,司法必須彌補不同情境下規(guī)范的抽象性。因此,立法應(yīng)重視可技術(shù)化、工具化應(yīng)用的同意要件的設(shè)立。

    (三)允許但嚴(yán)格限制人臉信息的社會控制

    個人信息的社會控制理論主張個人信息具有社會屬性,個人信息權(quán)并非絕對、排他的控制和支配權(quán),個人信息的合理使用應(yīng)當(dāng)建立在對所涉各方綜合的利益衡量之上。社會控制理論的基礎(chǔ)是個人信息的社會性、公共性、共享性,側(cè)重信息成為公共資源流通中所帶來的社會紅利,認(rèn)為隱私是社會保護的產(chǎn)物。該理論相比知情同意規(guī)則更加契合大數(shù)據(jù)時代的運行邏輯,理論實施的難度和成本也大大低于知情同意規(guī)則。但是,在人臉信息社會控制論上仍需采取嚴(yán)格的限制立場,原因在于,人臉信息相較于一般個人信息更具特殊性。一般性地禁止人臉信息的社會控制,賦予個人對人臉信息收集、存儲、使用、加工、傳輸、提供、公開等過程的支配和控制權(quán)并不會妨礙社會的正常運行。英國信息委員會辦公室在2021年《公共場所使用人臉識別技術(shù)》報告中指出,面對不特定主體自動化運行的刷臉應(yīng)用難以依靠同意而獲得合法性。荷蘭的數(shù)據(jù)保護機構(gòu)對一家采用人臉識別技術(shù)的超市發(fā)出正式警告,認(rèn)為防止失竊并不能成為啟用人臉識別技術(shù)的合法性理由。國外數(shù)據(jù)保護機構(gòu)的謹(jǐn)慎做法恰恰是出于人臉信息嚴(yán)格保護要求的考慮,警惕人臉識別技術(shù)大規(guī)模應(yīng)用可能造成的監(jiān)視場景。自然人的面部特征具有唯一性和不可更改性,法律僅僅限制利用科技手段不當(dāng)處理和保存人臉信息進而損害自然人權(quán)利與自由的情形,而在判斷是否啟用人臉識別手段以及啟用后是否造成不必要的侵害等事項上,自然人的自主權(quán)和自決權(quán)順序優(yōu)于社會控制。

    (四)增加人臉信息的特殊刪除請求權(quán)

    《規(guī)定》第七條第二款:“信息處理者利用網(wǎng)絡(luò)服務(wù)處理人臉信息侵害自然人人格權(quán)益的,適用民法典第一千一百九十五條、第一千一百九十六條、第一千一百九十七條等規(guī)定?!薄睹穹ǖ洹返谝磺б话倬攀鍡l至一千一百九十七條規(guī)定了網(wǎng)絡(luò)用戶、網(wǎng)絡(luò)服務(wù)提供者以及權(quán)利人在信息網(wǎng)絡(luò)侵權(quán)時各自的權(quán)利義務(wù),權(quán)利人享有通知—刪除權(quán),網(wǎng)絡(luò)服務(wù)提供者有及時采取必要措施、屏蔽、斷開侵權(quán)信息鏈接、通知轉(zhuǎn)送義務(wù)等。但在人臉信息侵權(quán)中,普通網(wǎng)絡(luò)用戶(即與被侵權(quán)人處于同一地位的網(wǎng)絡(luò)用戶)難以獲取甚至處理他人的人臉信息,往往是因為網(wǎng)絡(luò)服務(wù)提供者的行為或錯誤才導(dǎo)致人臉信息的不當(dāng)泄露或使用,因此,該類“去中心化”的侵權(quán)一般不適用普通信息網(wǎng)絡(luò)的三方模型進行侵權(quán)救濟,應(yīng)當(dāng)賦予權(quán)利人審查期限更短、反應(yīng)更為迅速的信息刪除權(quán),將侵權(quán)審查的權(quán)利移交給第三方機構(gòu)并設(shè)置嚴(yán)格的審查期限。

    (五)公益訴訟事后救濟制度的補充

    在大數(shù)據(jù)時代,數(shù)據(jù)的集合表現(xiàn)為數(shù)量和結(jié)構(gòu)上的雙重復(fù)雜性,一旦遭到泄露或引發(fā)關(guān)聯(lián)其他信息的風(fēng)險,其造成的危害規(guī)模和程度、廣度也使民事普通訴訟程序難以填平。擴展公益訴訟的制度內(nèi)容和制度框架,使得現(xiàn)有的可訴內(nèi)容在原本的環(huán)境生態(tài)、消費者權(quán)益的基礎(chǔ)上增加數(shù)據(jù)安全一項,公訴機關(guān)依法對侵害公民信息安全的行為提起公訴,允許受侵害的利益相關(guān)人員附加提起訴訟,一方面有利于更全面地維護數(shù)據(jù)主體的合法權(quán)益,填平其造成的損害;另一方面有利于節(jié)省司法資源,避免單一主體分散提起不同訴訟,造成司法資源在同一時空的重復(fù)和浪費。

    實踐中,個人信息泄露現(xiàn)象多發(fā),然而極少耳聞對信息泄露者提起的訴訟,一方面是因為訴訟成本遠遠高于受損利益;另一方面在于個人沒有取證的手段、渠道和能力,當(dāng)今網(wǎng)絡(luò)環(huán)境的維護大部分倚賴工信部門的職權(quán)式查處也根源于此。除了要改善個體在信息網(wǎng)絡(luò)環(huán)境中的被動地位之外,以工信部門和檢察系統(tǒng)為聯(lián)合,實現(xiàn)在網(wǎng)絡(luò)信息環(huán)境方面的公益維權(quán),不失為對個人取證能力缺陷的一種合理彌補。

    五、結(jié) 語

    如今,人臉識別技術(shù)在公共領(lǐng)域已經(jīng)得到一定程度的推廣。例如,在人流龐大的交通樞紐處設(shè)置的闖紅燈曝光臺;對潛逃多年尚未落網(wǎng)的重大犯罪嫌疑人的追捕;尋找失散多年的被拐賣的婦女兒童;地鐵和高鐵安檢入口以人臉識別代替人工核驗等。但是,我們對諸如此類的技術(shù)應(yīng)用是否是維護公共安全與秩序、促進社會和諧與穩(wěn)定所必需仍存留疑問。大規(guī)模地啟用人臉識別技術(shù),以其非接觸性、高效性、便捷性換取公權(quán)力對社會的高強度督查,全體公民的人臉數(shù)據(jù)處于高度風(fēng)險的不確定性、開放性成為潛在代價,未必是所有人都愿意作出的對價給付。因此,如何實現(xiàn)知情同意原則在程序上、實體上的雙重制度修正與變更,進一步緩解大數(shù)據(jù)社會背景下數(shù)據(jù)主體各方的獲得感與付出成本之間的落差,平衡多方在數(shù)據(jù)紅利的趨向之中利益需要的可能性與期待性成為現(xiàn)代法學(xué)的一大課題。

    人臉信息不同于一般的個人信息,在規(guī)范與司法的應(yīng)用下,應(yīng)當(dāng)更為關(guān)注人臉信息的特殊性,而非盲目套用一般個人信息的侵權(quán)救濟模板以保護自然人的同意權(quán)。法在進行現(xiàn)實的利益衡量的過程之外,更需要牢記法本身的價值導(dǎo)向,它始終為維持人類尊嚴(yán)與地位留有余地。

    猜你喜歡
    信息處理知情人臉識別
    東營市智能信息處理實驗室
    人臉識別 等
    基于Revit和Dynamo的施工BIM信息處理
    揭開人臉識別的神秘面紗
    地震烈度信息處理平臺研究
    CTCS-3級列控系統(tǒng)RBC與ATP結(jié)合部異常信息處理
    知情圖報
    小演奏家(2016年5期)2016-05-14 15:11:12
    淺析知情同意在藥物臨床試驗中的實施
    靜海縣人大常委會組織知情觀察
    天津人大(2015年9期)2015-11-24 03:26:13
    基于類獨立核稀疏表示的魯棒人臉識別
    計算機工程(2015年8期)2015-07-03 12:19:07
    欧美久久黑人一区二区| 18禁裸乳无遮挡动漫免费视频| 亚洲精品一卡2卡三卡4卡5卡| 欧美乱色亚洲激情| 国产精品一区二区精品视频观看| 黄色成人免费大全| 美女视频免费永久观看网站| 国产精品香港三级国产av潘金莲| 国产亚洲精品久久久久5区| 亚洲一卡2卡3卡4卡5卡精品中文| 看免费av毛片| 天天躁夜夜躁狠狠躁躁| 亚洲中文av在线| 久久午夜亚洲精品久久| 淫妇啪啪啪对白视频| 国产精品99久久99久久久不卡| 一级a爱片免费观看的视频| 国产精品.久久久| 最新的欧美精品一区二区| 大片电影免费在线观看免费| 国产精品99久久99久久久不卡| 久久狼人影院| 亚洲五月天丁香| av网站在线播放免费| 成人永久免费在线观看视频| 丁香欧美五月| 啪啪无遮挡十八禁网站| 成人影院久久| 中文亚洲av片在线观看爽 | 国产精品永久免费网站| 精品少妇一区二区三区视频日本电影| 少妇被粗大的猛进出69影院| 中文欧美无线码| 久久午夜综合久久蜜桃| 国产精品国产高清国产av | 国产aⅴ精品一区二区三区波| 国产精品99久久99久久久不卡| 精品一品国产午夜福利视频| 麻豆av在线久日| 777米奇影视久久| av电影中文网址| 婷婷精品国产亚洲av在线 | a级毛片黄视频| 亚洲第一av免费看| 亚洲精华国产精华精| 欧美另类亚洲清纯唯美| 在线观看免费视频日本深夜| 久久精品国产清高在天天线| tocl精华| 精品国产国语对白av| 伊人久久大香线蕉亚洲五| 19禁男女啪啪无遮挡网站| 午夜精品久久久久久毛片777| 亚洲情色 制服丝袜| 国产亚洲一区二区精品| 国产亚洲欧美在线一区二区| 国产97色在线日韩免费| 曰老女人黄片| 亚洲精品一二三| 18在线观看网站| 国产人伦9x9x在线观看| 丝袜在线中文字幕| 亚洲精品国产精品久久久不卡| 国产熟女午夜一区二区三区| 午夜91福利影院| 老熟妇仑乱视频hdxx| 大香蕉久久网| 国产国语露脸激情在线看| 久久国产亚洲av麻豆专区| 午夜精品国产一区二区电影| 91av网站免费观看| 黄色丝袜av网址大全| 久热爱精品视频在线9| 黄色女人牲交| 99香蕉大伊视频| 啦啦啦在线免费观看视频4| 老熟妇仑乱视频hdxx| 露出奶头的视频| 免费在线观看亚洲国产| 老司机深夜福利视频在线观看| 国产在线观看jvid| 亚洲国产欧美一区二区综合| 久久人人爽av亚洲精品天堂| 身体一侧抽搐| 大陆偷拍与自拍| 最新在线观看一区二区三区| 国产精品一区二区精品视频观看| 丰满的人妻完整版| 国产精华一区二区三区| 美女福利国产在线| 国产xxxxx性猛交| 91麻豆av在线| 无限看片的www在线观看| 免费黄频网站在线观看国产| 亚洲国产欧美一区二区综合| xxxhd国产人妻xxx| 久久久国产欧美日韩av| 色精品久久人妻99蜜桃| 欧美最黄视频在线播放免费 | videos熟女内射| 国产精品二区激情视频| 久久人妻福利社区极品人妻图片| 后天国语完整版免费观看| 夫妻午夜视频| 美国免费a级毛片| 国产亚洲精品久久久久久毛片 | 欧美一级毛片孕妇| 丁香六月欧美| 亚洲精品成人av观看孕妇| 国产野战对白在线观看| 美女午夜性视频免费| 国产亚洲欧美在线一区二区| 大型av网站在线播放| 欧美日韩福利视频一区二区| 人妻久久中文字幕网| 亚洲欧美日韩高清在线视频| 不卡av一区二区三区| 久久人人97超碰香蕉20202| 久久狼人影院| 国产欧美日韩精品亚洲av| 亚洲黑人精品在线| 老司机午夜十八禁免费视频| 男女高潮啪啪啪动态图| 中文字幕高清在线视频| 亚洲三区欧美一区| 99re在线观看精品视频| 欧美日韩乱码在线| 国产国语露脸激情在线看| 亚洲情色 制服丝袜| 久久 成人 亚洲| 国产乱人伦免费视频| 精品久久久久久,| 国产一卡二卡三卡精品| 少妇裸体淫交视频免费看高清 | 男女午夜视频在线观看| 亚洲精品一二三| 叶爱在线成人免费视频播放| 一级,二级,三级黄色视频| 欧美日韩福利视频一区二区| 国产在线精品亚洲第一网站| 亚洲av成人不卡在线观看播放网| 免费女性裸体啪啪无遮挡网站| 欧美日韩亚洲国产一区二区在线观看 | 成人特级黄色片久久久久久久| 久久久久精品人妻al黑| 国产精品亚洲av一区麻豆| 757午夜福利合集在线观看| 国产不卡av网站在线观看| 后天国语完整版免费观看| 精品国产国语对白av| 久久精品熟女亚洲av麻豆精品| 国产黄色免费在线视频| 久久精品国产综合久久久| 国产又爽黄色视频| av福利片在线| 黄色成人免费大全| 亚洲性夜色夜夜综合| 校园春色视频在线观看| 少妇粗大呻吟视频| 啪啪无遮挡十八禁网站| 在线国产一区二区在线| 久久天堂一区二区三区四区| 操美女的视频在线观看| 日本五十路高清| 欧美乱色亚洲激情| 久久中文字幕人妻熟女| 十八禁人妻一区二区| 18禁裸乳无遮挡动漫免费视频| 久久青草综合色| 国产亚洲av高清不卡| 久久久国产欧美日韩av| 亚洲av日韩精品久久久久久密| 男人操女人黄网站| 国产精品一区二区在线不卡| 欧美性长视频在线观看| 欧美性长视频在线观看| 精品电影一区二区在线| 深夜精品福利| 日韩欧美免费精品| 国产精华一区二区三区| 欧美成人免费av一区二区三区 | 麻豆成人av在线观看| 日本欧美视频一区| 俄罗斯特黄特色一大片| 精品熟女少妇八av免费久了| 精品国产乱子伦一区二区三区| 亚洲成人手机| 国产精品1区2区在线观看. | 香蕉丝袜av| 女警被强在线播放| 亚洲 欧美一区二区三区| 欧美精品啪啪一区二区三区| 亚洲欧美一区二区三区久久| 高清毛片免费观看视频网站 | 亚洲黑人精品在线| 色综合欧美亚洲国产小说| 香蕉久久夜色| 嫩草影视91久久| 精品人妻熟女毛片av久久网站| 国产精品偷伦视频观看了| 欧美中文综合在线视频| 高清欧美精品videossex| 国产精品影院久久| 久久精品人人爽人人爽视色| 青草久久国产| 国产日韩一区二区三区精品不卡| 在线观看免费视频日本深夜| 精品国产美女av久久久久小说| 久久精品91无色码中文字幕| 淫妇啪啪啪对白视频| 国产成人欧美| 又大又爽又粗| 国产精品乱码一区二三区的特点 | 精品一区二区三卡| 女警被强在线播放| 欧美精品亚洲一区二区| 国产精品av久久久久免费| 国产高清国产精品国产三级| 丁香欧美五月| 免费在线观看亚洲国产| 天堂俺去俺来也www色官网| 99精国产麻豆久久婷婷| 国精品久久久久久国模美| avwww免费| 操出白浆在线播放| 美女国产高潮福利片在线看| 欧美av亚洲av综合av国产av| 成人三级做爰电影| 亚洲精品国产一区二区精华液| 亚洲精品av麻豆狂野| 一级a爱视频在线免费观看| 国产真人三级小视频在线观看| 亚洲欧美一区二区三区黑人| 精品欧美一区二区三区在线| 女人爽到高潮嗷嗷叫在线视频| 99久久人妻综合| 天天添夜夜摸| 欧美黄色淫秽网站| 搡老熟女国产l中国老女人| 人人妻,人人澡人人爽秒播| 香蕉丝袜av| 日本vs欧美在线观看视频| 亚洲欧美日韩另类电影网站| 亚洲一码二码三码区别大吗| 欧美乱色亚洲激情| 午夜福利在线免费观看网站| 久久热在线av| 国产蜜桃级精品一区二区三区 | 12—13女人毛片做爰片一| 在线看a的网站| 黄色毛片三级朝国网站| 深夜精品福利| 91大片在线观看| 欧美av亚洲av综合av国产av| 国产成人免费观看mmmm| 久久久久久久国产电影| 亚洲熟女精品中文字幕| 变态另类成人亚洲欧美熟女 | 日韩三级视频一区二区三区| 精品第一国产精品| 国产精品国产av在线观看| 精品无人区乱码1区二区| 亚洲一区二区三区不卡视频| 免费看a级黄色片| 久久99一区二区三区| 伦理电影免费视频| 一区二区三区激情视频| 露出奶头的视频| 老司机福利观看| 亚洲五月色婷婷综合| 亚洲av美国av| 色婷婷av一区二区三区视频| 超碰成人久久| 日韩欧美三级三区| 国产亚洲欧美98| 亚洲一区二区三区不卡视频| 一区福利在线观看| 夜夜爽天天搞| 亚洲avbb在线观看| 一边摸一边做爽爽视频免费| 天堂动漫精品| 人人妻人人澡人人看| 午夜福利影视在线免费观看| 久久狼人影院| 18在线观看网站| 日日夜夜操网爽| 人人妻,人人澡人人爽秒播| 久久人妻熟女aⅴ| √禁漫天堂资源中文www| 国产亚洲av高清不卡| 在线天堂中文资源库| 久久久久久亚洲精品国产蜜桃av| 亚洲一区中文字幕在线| 人妻 亚洲 视频| 久久久国产成人免费| 国产亚洲精品一区二区www | 婷婷丁香在线五月| 妹子高潮喷水视频| 国产精品成人在线| 成人特级黄色片久久久久久久| 亚洲aⅴ乱码一区二区在线播放 | 国产精品久久久人人做人人爽| 首页视频小说图片口味搜索| 国产野战对白在线观看| 视频区图区小说| 国产成人欧美| 午夜精品久久久久久毛片777| 黄网站色视频无遮挡免费观看| 亚洲av欧美aⅴ国产| 免费在线观看视频国产中文字幕亚洲| 久久中文字幕一级| 色综合婷婷激情| 在线天堂中文资源库| 久久人妻av系列| 久热这里只有精品99| 大码成人一级视频| 人人妻,人人澡人人爽秒播| 国产极品粉嫩免费观看在线| 精品电影一区二区在线| tocl精华| 欧美 日韩 精品 国产| 高清毛片免费观看视频网站 | 日韩免费av在线播放| 91国产中文字幕| 国产亚洲av高清不卡| 一级片免费观看大全| 岛国在线观看网站| 人成视频在线观看免费观看| 手机成人av网站| 最近最新中文字幕大全免费视频| 久久精品亚洲熟妇少妇任你| 亚洲av熟女| 超碰成人久久| 亚洲一码二码三码区别大吗| 欧美不卡视频在线免费观看 | 三级毛片av免费| 欧美日韩亚洲高清精品| 中文字幕人妻熟女乱码| 91字幕亚洲| 一级作爱视频免费观看| 亚洲精品国产区一区二| 成人黄色视频免费在线看| 黄网站色视频无遮挡免费观看| 中国美女看黄片| 又黄又粗又硬又大视频| 午夜亚洲福利在线播放| 欧美性长视频在线观看| 交换朋友夫妻互换小说| 变态另类成人亚洲欧美熟女 | 51午夜福利影视在线观看| 精品高清国产在线一区| 老司机影院毛片| 国产成人免费无遮挡视频| 日本黄色日本黄色录像| 黄色毛片三级朝国网站| 午夜福利在线免费观看网站| 日韩免费高清中文字幕av| 国产一区二区三区在线臀色熟女 | av天堂在线播放| 一进一出抽搐动态| 中文字幕制服av| 免费在线观看黄色视频的| 12—13女人毛片做爰片一| 成人黄色视频免费在线看| 婷婷成人精品国产| 别揉我奶头~嗯~啊~动态视频| 亚洲欧美激情在线| 香蕉国产在线看| 国产一区二区三区视频了| 香蕉国产在线看| 999精品在线视频| 一区在线观看完整版| 不卡一级毛片| 中文字幕人妻熟女乱码| 久久精品国产a三级三级三级| 视频区图区小说| www.自偷自拍.com| 女人被狂操c到高潮| 色在线成人网| 中出人妻视频一区二区| 日韩精品免费视频一区二区三区| 很黄的视频免费| 97人妻天天添夜夜摸| 国产精品九九99| 777米奇影视久久| 久久久久久人人人人人| 狠狠狠狠99中文字幕| 一级毛片女人18水好多| 国产精品香港三级国产av潘金莲| 女警被强在线播放| 变态另类成人亚洲欧美熟女 | 妹子高潮喷水视频| 亚洲精品中文字幕一二三四区| 怎么达到女性高潮| 国产淫语在线视频| bbb黄色大片| 国产视频一区二区在线看| 免费女性裸体啪啪无遮挡网站| 免费观看精品视频网站| 精品视频人人做人人爽| 国产成人av教育| 久久香蕉精品热| 日本a在线网址| 国产亚洲精品一区二区www | 国产精品久久久久久精品古装| 国产av又大| 国产高清视频在线播放一区| e午夜精品久久久久久久| 亚洲美女黄片视频| 国产成人啪精品午夜网站| 80岁老熟妇乱子伦牲交| 人人妻人人添人人爽欧美一区卜| 美女高潮到喷水免费观看| 亚洲av成人一区二区三| 天堂中文最新版在线下载| 色老头精品视频在线观看| 中亚洲国语对白在线视频| 久久香蕉精品热| 后天国语完整版免费观看| 国产欧美日韩一区二区三区在线| 两人在一起打扑克的视频| 巨乳人妻的诱惑在线观看| 多毛熟女@视频| 黄片小视频在线播放| 国产精品电影一区二区三区 | 少妇 在线观看| 久久九九热精品免费| 精品电影一区二区在线| 狂野欧美激情性xxxx| 美女午夜性视频免费| 伦理电影免费视频| 欧美激情极品国产一区二区三区| 黑人操中国人逼视频| 免费观看人在逋| 老司机在亚洲福利影院| 91国产中文字幕| 午夜精品国产一区二区电影| 国产单亲对白刺激| 亚洲视频免费观看视频| 99精品在免费线老司机午夜| 日韩欧美免费精品| 一级黄色大片毛片| 免费在线观看黄色视频的| 亚洲美女黄片视频| 黄色丝袜av网址大全| 精品人妻熟女毛片av久久网站| 丝袜美足系列| 久久久久久久精品吃奶| 黄网站色视频无遮挡免费观看| 在线观看免费午夜福利视频| 国产精品久久久av美女十八| 久久ye,这里只有精品| www.999成人在线观看| 看黄色毛片网站| 亚洲av日韩在线播放| 久久香蕉精品热| 国产欧美日韩综合在线一区二区| 天天影视国产精品| 欧美大码av| 女性生殖器流出的白浆| 国产精品乱码一区二三区的特点 | 69av精品久久久久久| 亚洲三区欧美一区| 精品久久久久久电影网| 亚洲国产欧美一区二区综合| 成人特级黄色片久久久久久久| 日本一区二区免费在线视频| 美女午夜性视频免费| 国产日韩一区二区三区精品不卡| 精品久久久久久久毛片微露脸| 岛国在线观看网站| 欧美成狂野欧美在线观看| 欧美+亚洲+日韩+国产| 色综合欧美亚洲国产小说| 久久中文看片网| 看黄色毛片网站| 久久99一区二区三区| 久久久精品区二区三区| av片东京热男人的天堂| 国产免费av片在线观看野外av| 日日夜夜操网爽| 性色av乱码一区二区三区2| 国产亚洲av高清不卡| 18禁黄网站禁片午夜丰满| 日本欧美视频一区| 夜夜躁狠狠躁天天躁| 俄罗斯特黄特色一大片| 国产精品亚洲一级av第二区| 精品一区二区三区四区五区乱码| 欧美黑人精品巨大| 脱女人内裤的视频| 亚洲七黄色美女视频| 久久久精品区二区三区| 亚洲免费av在线视频| 精品国产美女av久久久久小说| 久久 成人 亚洲| 大型av网站在线播放| 亚洲精品中文字幕在线视频| 久久久久视频综合| 日本精品一区二区三区蜜桃| 国产免费男女视频| 嫁个100分男人电影在线观看| 久久人人97超碰香蕉20202| 久久久国产一区二区| www.999成人在线观看| 无限看片的www在线观看| 亚洲人成电影观看| 极品少妇高潮喷水抽搐| www.熟女人妻精品国产| 露出奶头的视频| 国产精品1区2区在线观看. | 国产成人欧美| 色综合欧美亚洲国产小说| www.999成人在线观看| 又黄又粗又硬又大视频| 欧美精品一区二区免费开放| 欧美av亚洲av综合av国产av| 国产成人av激情在线播放| 少妇裸体淫交视频免费看高清 | 色在线成人网| 久久久久久久久免费视频了| 黄频高清免费视频| 亚洲精品中文字幕在线视频| 91麻豆av在线| 啦啦啦 在线观看视频| 又黄又爽又免费观看的视频| av福利片在线| 99久久99久久久精品蜜桃| 亚洲五月天丁香| 日韩制服丝袜自拍偷拍| 伦理电影免费视频| 国产精品av久久久久免费| 亚洲成人免费电影在线观看| 十分钟在线观看高清视频www| 在线免费观看的www视频| 国产在视频线精品| 一区二区三区精品91| 精品亚洲成国产av| 国产成人av激情在线播放| 亚洲av第一区精品v没综合| 久久婷婷成人综合色麻豆| 欧美成人免费av一区二区三区 | 久久影院123| 黄色视频,在线免费观看| 亚洲三区欧美一区| 久久久久视频综合| 亚洲熟妇熟女久久| 97人妻天天添夜夜摸| 精品国产一区二区久久| 国产精品久久久人人做人人爽| 亚洲av成人一区二区三| 一区二区三区精品91| 欧美精品高潮呻吟av久久| 怎么达到女性高潮| 啪啪无遮挡十八禁网站| 老熟女久久久| 久久影院123| 国产伦人伦偷精品视频| 亚洲精品国产区一区二| 久久久国产一区二区| 久久久久久久午夜电影 | a级片在线免费高清观看视频| netflix在线观看网站| 黄片大片在线免费观看| 亚洲美女黄片视频| 亚洲精品久久午夜乱码| 女人久久www免费人成看片| av免费在线观看网站| 国产精品秋霞免费鲁丝片| 国产一卡二卡三卡精品| 亚洲自偷自拍图片 自拍| tocl精华| 国产高清激情床上av| netflix在线观看网站| 国产精品成人在线| 午夜福利欧美成人| 国产成人精品久久二区二区免费| 丝袜人妻中文字幕| 国产成人系列免费观看| 啦啦啦视频在线资源免费观看| 麻豆av在线久日| 色在线成人网| 窝窝影院91人妻| 1024视频免费在线观看| 免费黄频网站在线观看国产| 欧美最黄视频在线播放免费 | 黄色片一级片一级黄色片| 欧美午夜高清在线| 超碰成人久久| 视频区图区小说| 欧美老熟妇乱子伦牲交| 99国产精品一区二区三区| 女警被强在线播放| 久久中文看片网| 欧美激情久久久久久爽电影 | 国产精品影院久久| 99久久综合精品五月天人人| 欧美黑人精品巨大| 黑人欧美特级aaaaaa片| 日韩熟女老妇一区二区性免费视频| 亚洲一区二区三区不卡视频| 久久亚洲真实| 天堂动漫精品| 精品久久久精品久久久| 日韩人妻精品一区2区三区| 亚洲国产欧美日韩在线播放| e午夜精品久久久久久久| 黄色女人牲交| 久久 成人 亚洲| 亚洲欧美一区二区三区黑人| 日本黄色视频三级网站网址 | www.自偷自拍.com| av网站在线播放免费| 人妻一区二区av| 亚洲欧美一区二区三区久久|