• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    身份識別與復(fù)制:智能生物識別技術(shù)應(yīng)用中的隱私保護

    2021-01-17 09:21:34顧理平
    關(guān)鍵詞:身份公民生物

    顧理平

    智媒時代,以人臉識別技術(shù)為代表的智能生物識別技術(shù),正在沿著新科技發(fā)展的固有路徑,持續(xù)、快速、全面地推進。以“行走的電腦”方式存在的現(xiàn)代公民,被密布于身邊的各類傳感器無時不在、無處不在地收集、儲存、分析著各類數(shù)據(jù)。這些數(shù)據(jù)不僅成為即時認證每個人身份的依據(jù),同時也被成為后續(xù)判斷該公民行為特征的依據(jù)而持續(xù)地利用。在不知不覺間,每個人各不相同的生物特征借由功能強大的智能生物特征識別技術(shù),成了開啟社會活動之門的鑰匙。這樣的現(xiàn)實,對現(xiàn)代公民的隱私保護,必然會產(chǎn)生一系列廣泛深刻的影響。

    一、問題的提出

    身份識別與公民的隱私保護長期以來一直是密不可分的。隱私主體身份“可指認”,在傳統(tǒng)媒體時代一直是構(gòu)成隱私侵權(quán)的主要要件之一。每個人在生活中都存在復(fù)雜性和多面性,都保有自己的隱私,每一個隱私主體也都會采取一切手段,遮蔽保護自己的隱私。在一個文明、法治的國家,這些隱私應(yīng)該得到尊重和有效的保護。一旦隱私主體的身份被泄露,當事人感到“精神痛苦”,公民的隱私就會因此受損。歐文·戈夫曼提出人們在日常生活中的表演需區(qū)分“前臺區(qū)域”“后臺區(qū)域”和“局外區(qū)域”(即非前臺也非后臺的模糊區(qū)域)?!扒芭_區(qū)域是某一特定的表演正在或可能進行的地方;后臺區(qū)域是指那些與表演相關(guān)但與表演促成的印象不相一致的行為發(fā)生的地方。我們有理由增加第三區(qū)域——剩余區(qū)域,即已確定的兩種區(qū)域以外的所有地方。我們不妨把這種區(qū)域稱之為‘局外’(the outside)區(qū)域。”[1]人們在“前臺區(qū)域”表演時會隱藏隱私,而在“后臺區(qū)域”則會不加掩飾地呈現(xiàn)包括諸多隱私在內(nèi)的自由生活。這些隱私也許會有不堪的內(nèi)容,但只要當事人的身份不被“指認”,就不會產(chǎn)生侵權(quán)問題;反之,一旦“后臺區(qū)域”的表演被泄露,當事人的人格權(quán)就會受到傷害,個人尊嚴一定會受損。就一般意義而言,以生物特征為核心的公民隱私信息是個人尊嚴、安全和自由的體現(xiàn),也是國家對個體權(quán)利尊嚴和保障水平的體現(xiàn),因此,當人工智能快速推進過程中存在某些技術(shù)疏忽可能會對公民隱私構(gòu)成侵擾時,必須采取綜合治理手段予以完善。

    1890年路易斯·D·布蘭代斯(Louis·D·Brandeis)和塞繆爾·D·沃倫(Samnel·D·Warren)將隱私定義為“不受打擾的權(quán)利”,“個人的人身與財產(chǎn)應(yīng)當受到充分保護,這一原則與普通法同樣古老;然而人們發(fā)現(xiàn)這一保護的確切性質(zhì)與范圍需要不時重新予以界定”,“后來,人們的精神世界、感情及心智得到了承認。這些法律權(quán)利的范圍逐漸擴大,如今,生存權(quán)開始意味著享受生活的權(quán)利——不受打擾的權(quán)利;自由權(quán)保障大量的民事權(quán)利得以實踐;‘財產(chǎn)權(quán)’這一術(shù)語發(fā)展到包括任何形式的財產(chǎn)——不僅包括有形財產(chǎn),還包括無形財產(chǎn)。”[2]由此開始,公民隱私就逐漸作為一種權(quán)利形態(tài)而受到人們的廣泛關(guān)注。在數(shù)字化社會,隱私不僅以“私人生活安寧不受非法干擾,私人信息保密不受他人非法搜集、刺探和公開”這樣一種被廣泛認可的形式受到關(guān)注[3],同時還以“通過數(shù)據(jù)挖掘技術(shù)將人們在網(wǎng)絡(luò)上留存的數(shù)字化痕跡進行有規(guī)律整合而成的隱私”這樣一種新形式存在[4]。隨著人工智能技術(shù)的快速發(fā)展,“采集于人體的指紋、虹膜、面容、聲音等信息,具有唯一性和不可變更性”的隱私[5],在日常生活中的應(yīng)用日漸普及。生物信息具有專屬性、可識別性、身份表征性與不可更改性等特點,基于線性判別分析、非線性支持向量機分類或神經(jīng)網(wǎng)絡(luò)分析等方法進行機器識別后傳入數(shù)據(jù)庫[6],所以在采集和處置過程中,對公民人格權(quán)將會產(chǎn)生永久性影響,需要特別注意以生物隱私信息為核心的保障。但是,由于生物信息具有“本體特殊性”和“社會特殊性”,這種重要性需要尋求法律甚至刑法的特殊保護[7]。生物識別技術(shù)的普遍應(yīng)用給現(xiàn)代人的生活帶來了極大的便利:刷臉乘車節(jié)約了驗票時間、刷臉支付減少了交易環(huán)節(jié)、指紋開機和聲控開門便捷了生活日?!c此同時,生物識別技術(shù)的普遍應(yīng)用,也給公民的隱私安全帶來挑戰(zhàn),因此,推廣“生物識別技術(shù)的每一次大規(guī)劃部署應(yīng)該首先確保公民隱私權(quán)在實踐中受到尊重”[8]。伴隨智能生物特征識別技術(shù)每一次應(yīng)用的,是公民身份的一次次識別和確認。當然,識別和確認并不是這種技術(shù)應(yīng)用的最終目的,這只是為后續(xù)的社會或商業(yè)活動開啟了通行之門?!吧锾卣髯R別是身份驗證的一種方式,因此,它可能用來作為一種憑證來訪問更重要的隱私數(shù)據(jù)。在這種情況下,生物特征數(shù)據(jù)的披露可能暴露這些生物特征信息保護的全部個人數(shù)據(jù),而且對公民個人隱私的攻擊將可用間接的方式進行。因此,根據(jù)生物特征識別系統(tǒng)實現(xiàn)的不同方式可能會對公民隱私產(chǎn)生不同影響?!盵9]現(xiàn)代人面臨的嚴峻問題是:這種身份識別是否安全?是否會對個人隱私帶來風(fēng)險?

    二、個人身份生物特征之于隱私保護的特殊價值

    隱私是構(gòu)成一個人人格的主要要素之一。作為權(quán)利,也是人格權(quán)保護的主要內(nèi)容。就更加普遍的意義而言,隱私關(guān)涉公民的個人尊嚴?!耙率匙愣獦s辱,倉廩實而知禮節(jié)”,在自我意識不斷覺醒,物質(zhì)條件日益充沛的現(xiàn)代社會,人們對人格尊嚴的重視與日俱增,也更加注重對隱私、名譽等精神權(quán)利的保護?!白屓藗冊谏硇膬蓚€層面上都能感覺舒適安逸:在身體層面,因為沒有肉體傷害而感覺安全;在心理層面,因為沒有精神羞辱而感覺安全?!盵10]“過有尊嚴的生活”幾乎可以說是每個現(xiàn)代人的一種生活理想,研究表明,智能媒體時代,網(wǎng)絡(luò)技術(shù)正在成為以90后為代表的數(shù)字化生存群體生活中的一部分?!八麄冸S數(shù)字化設(shè)備成長,對網(wǎng)絡(luò)技術(shù)有著天然的認同和接受度”,“生物識別技術(shù)成為他們生活中不可或缺的部分?!盵11]當今社會,大數(shù)據(jù)和人工智能共同構(gòu)造了無處不在的監(jiān)控之眼,在這個大暴露的時代,每個人都無法有效地保護自己的秘密和隱私,形成揮之不去的“數(shù)字眩暈”[12]。在這樣的背景下,我們討論個人生物特征隱私的獨特性有著異乎尋常的意義。

    (一)唯一性構(gòu)成生命體不可重復(fù)

    生物特征是生命個體自身特有的生理和行為特征。這種特征構(gòu)成了區(qū)分他者的標志。生物特征的唯一性是導(dǎo)致人工智能致力于生物特征識別技術(shù)開發(fā)的基礎(chǔ),只有唯一性的存在才會使這種技術(shù)的開發(fā)具有應(yīng)用價值。試想,如果刷臉支付成為一種普遍的交易行為,而人臉不具有唯一性,不僅會導(dǎo)致交易行為的巨大混亂,也可能導(dǎo)致宏觀金融危機的產(chǎn)生。2021年初,一篇討論“人臉識別技術(shù)爆出巨大的丑聞”的網(wǎng)文在網(wǎng)絡(luò)熱傳,該網(wǎng)文關(guān)注的主要是人臉識別技術(shù)在實際應(yīng)用中被不斷假冒的多起實驗及相應(yīng)案例。曾經(jīng)被人們認為具有較高安全性的人臉識別技術(shù),因為技術(shù)的成熟性問題和“深度偽造”技術(shù)的快速發(fā)展,面臨嚴峻挑戰(zhàn)。我們在這里不討論網(wǎng)絡(luò)標題黨存在的問題,僅網(wǎng)絡(luò)關(guān)注的“刷臉”可被他人復(fù)制這個事實,確實令人擔憂。就社會科學(xué)意義而言,我們強調(diào)人的個性化發(fā)展,個性化成為社會豐富多樣的基礎(chǔ);就自然科學(xué)意義而言,個性化成了科學(xué)家比對、區(qū)別不同生命體的基礎(chǔ)。生物科學(xué)中的“個體特征”、醫(yī)學(xué)中的“對癥下藥”等話語,強調(diào)的正是不同生命體存在的唯一性的價值。

    生命體生物特征的唯一性給人工智能的實際應(yīng)用提供了特殊的機遇,早期的指紋識別,以及借助人工智能技術(shù)開展的“個性化服務(wù)”“私人定制服務(wù)”等,其生物基礎(chǔ)就是個體的唯一性。隨著人工智能技術(shù)的成熟,人臉識別、虹膜識別、聲音控制等應(yīng)用的普遍推廣,就是建立在這種唯一性的基礎(chǔ)之上的。

    (二)永久性成為生命體的存世符號

    人的生物特征具有持久的穩(wěn)定性。從一個人出生開始,如果不發(fā)生類似于“基因突變”性質(zhì)的病變或人為干預(yù)變化,這種特征就會永久以既有的形式存在,成為一個生命體固有的、獨特的符號。不同特征的生命體組成了人類社會,但是,“我們?nèi)祟惒恢皇巧鐣纳?,我們也是私有的生物”[12]。人類作為一種生命體的大型組合,必須通過各自特質(zhì)彼此區(qū)別開來。尤其令智能生物技術(shù)應(yīng)用者興奮的是,在這項技術(shù)應(yīng)用的過程中,生物特征具有持久的穩(wěn)定性,加上技術(shù)理性,身份識別過程中,外在社會因素的干擾幾乎可以全部消除。易容術(shù)在今天的社會生活中并不鮮見?!霸鴰缀螘r,身體發(fā)膚皆為自然饋贈,不可隨意更改,現(xiàn)在卻已成為人類自主選擇的一部分。關(guān)于身體的可塑性,迄今為止相關(guān)的文字材料可謂汗牛充棟,從原先的鍛煉塑身、健康養(yǎng)生到后來的用技術(shù)手段進行改造(如髖關(guān)節(jié)置換、心臟移植、隱形眼鏡、電子起搏器、牙齒矯正、整容手術(shù)等),科技的腳步如此迅猛,因此,一個可以隨意選擇自身性別和身體形成的時代已經(jīng)來臨?!盵13]在這樣的醫(yī)學(xué)科技進展面前,經(jīng)驗性的個人身份識別知識,正在經(jīng)歷嚴峻的挑戰(zhàn)。換句話說,傳統(tǒng)的身份識別可能會導(dǎo)致身份識別失誤或者無法識別。但是,在智能生物識別技術(shù)面前,幾乎所有的易容術(shù)都無法發(fā)揮隱藏身份的作用。這個時候,人成了技術(shù)的一個組成部分,他(她)通過與技術(shù)的“默契”配合,成了技術(shù)的背景。

    生物特征永久性的特征可以讓人工智能對生命體身份的識別一勞永逸,這也可以解決智能生物識別技術(shù)在推廣中巨大的人力物力成本。與人類可以根據(jù)自己的感覺器官去相對粗放地區(qū)別相異生命體的差異不同,智能生物識別技術(shù)可以精準地區(qū)別和指認他們的細微差別。“一系列的統(tǒng)計和分析方法可標明使用者的物理身份”,且這種標明具有“安全、可靠、有效的特點”[14]。生物識別特征之所以具備“安全、可靠、有效”的特征,其核心原因是生命體的生物特征具有永久性,人從離開母體開始,基本生物特征即已形成且不會生變,構(gòu)成其自身特有的存世符號。對這種特有符號的識別,可以有效地指認當事人的身份。

    (三)生物特征包含眾多敏感信息

    人類種群除了諸多共性特征外,還會依據(jù)差異性把彼此區(qū)分開來。例如,不同種族人的膚色有差異性,五官有不同特征,身高各不相同……這些特征是不同種群人類經(jīng)過千萬年的自身進化和對生存環(huán)境的適應(yīng)而形成的。身處寒冷地區(qū)的人和炎熱地區(qū)的人對寒冬酷暑的適應(yīng)能力差異很大,而他們身上的不同生物特征會令他們真正體現(xiàn)出“適者生存”的優(yōu)勢。這些生物特征對任何一個種族來說都是敏感信息。醫(yī)學(xué)研究和病例實踐都表明,不同種族在生存過程中形成的對環(huán)境的適應(yīng)能力,在另一個側(cè)面也會成為某種“不適性”的重要原因。例如,相同的病毒在不同種族人類的身上可能產(chǎn)生不同的發(fā)病概率。這些種族特有的基因構(gòu)成就成了重要的敏感信息。小而言之,對每一個具體的生命體而言,在他們身上同樣會有不同的生物特征體現(xiàn),如膚色、體味等,這些特征對許多生命體而言是極為重要的敏感信息,令這種生物特征體現(xiàn)出強烈的敏感性特征。

    歐盟的《通用數(shù)據(jù)保護條例》中,對“個人數(shù)據(jù)”中的生物特征進行了比較明確的保護,強調(diào)“生物識別性數(shù)據(jù)”是“基于特別技術(shù)處理自然人的相關(guān)身體、生理或行為特征而得出的數(shù)據(jù)”,因此,在個人數(shù)據(jù)處理、處理的合法性及同意的條件中都進行了非常嚴格和明確的規(guī)定(第5-7條)。之所以進行嚴格限制,就是因為包括“提示種族或民族起源,政治觀點,宗教或哲學(xué)信仰,公民身份和有關(guān)健康或性生活的數(shù)據(jù)”等這些敏感數(shù)據(jù)在生物識別技術(shù)應(yīng)用中“或多或少直接揭露關(guān)于個體的敏感信息”[9],所以特別需要謹慎行事。

    三、智能生物識別應(yīng)用中的隱私侵害

    智能生物識別技術(shù)出現(xiàn)的時間雖然并不長,但由于其功能強大,應(yīng)用便捷,所以在數(shù)字化社會得到了快速普及推廣。但是新技術(shù)在給社會文明進步帶來巨大推動作用的同時,也可能因為技術(shù)的不完善或適用過程中的失范、濫用,從而導(dǎo)致一些新問題的出現(xiàn),對公民隱私保護構(gòu)成侵擾,公民的身份在識別和使用的過程中,存在不當識別、過度識別和被復(fù)制的風(fēng)險。尤其令人擔心的是,公民的生物特征一旦被侵害(被復(fù)制或假冒),其損害性后果可能會持續(xù)一生。

    (一)無感識別可能導(dǎo)致的隱私侵權(quán)

    智能生物識別技術(shù)最初應(yīng)用是在公民有感狀態(tài)下進行的。指紋識別和人臉識別是最早和最廣泛應(yīng)用的智能生物識別技術(shù)。指紋識別需要人們手指接觸識別器才能產(chǎn)生識別效用,而人臉識別則需要人們面對鏡頭或通過某個規(guī)定的區(qū)域才能準確識別。隨著物聯(lián)網(wǎng)技術(shù)的快速發(fā)展和各類傳感器的廣泛設(shè)置,人們暴露于服飾之外的身體部分則都有可能成為智能生物識別的對象。同樣是人臉識別,進階的人臉識別技術(shù)在高清攝像頭的加持下,可以在當事人沒有感知的情況下方便地拍攝隱私主體的不同側(cè)面影像,并結(jié)合傳感器收集到的個人活動軌跡,對當事人的行為進行分析。而在這個過程中,無論是當事人的生物特征本身,還是結(jié)合傳感器對收集到的數(shù)據(jù)進行分析后產(chǎn)生的行為軌跡等,都是一個人重要的隱私。

    隨著智能生物識別技術(shù)的快速發(fā)展,智能識別不僅可以應(yīng)用于現(xiàn)實世界——通過與人直接接觸進行生物識別,還可應(yīng)用于虛擬世界。通過對人們留存于網(wǎng)絡(luò)世界的活動影像和圖片進行非接觸性的生物識別。數(shù)字化社會的到來和智能手機的普及讓人們切實感受到了網(wǎng)絡(luò)帶給人們的諸多便捷。數(shù)字化生存成為現(xiàn)代人生存方式的一種真實表達。人們寄存于網(wǎng)絡(luò)世界,借助簡單方便的動作完成網(wǎng)購、外賣等曾經(jīng)復(fù)雜煩瑣的生活日常,也通過閱讀、分享、聊天完成著相應(yīng)的社交生活。這個過程中留在網(wǎng)絡(luò)世界中的圖片影像則成為智能生物識別的重要數(shù)據(jù),而所有的一切都是在人們無感狀態(tài)下進行的。從智能生物識別技術(shù)的快速進展中,我們似還可以作出這樣的預(yù)期:人們留存于網(wǎng)絡(luò)世界的數(shù)字化痕跡,在目前尚未真正進入到可以用來進行生物特征識別的階段,但不久的將來,個人的打字速度、鼠標點擊力度、觀點表達習(xí)慣、瀏覽興趣、關(guān)注重點等看似與生物特征無直接關(guān)聯(lián)的數(shù)據(jù),也會在無聲無息之中,被納入智能生物識別技術(shù)的數(shù)據(jù)庫中,成為識別和確認個體的重要指標。無感識別的最大風(fēng)險是隱私主體“不知情”。早期的指紋、人臉識別是在有感狀態(tài)下進行的,所以客觀上會讓隱私主體產(chǎn)生“知情”之感——至于是否同意則難于確認。這種“知情”可以讓其有一定程度的“自決”選擇。無感識別則令隱私保護基本原則中“知情”和“自決”的鏈條整體失效。

    特別需要說明的是,在相當長的時間里,人們總是覺得智能生物識別技術(shù)只能應(yīng)用于現(xiàn)實世界,而虛擬世界中的活動雖然也可以產(chǎn)生大量數(shù)據(jù),但這些依據(jù)數(shù)據(jù)產(chǎn)生的隱私與生物隱私無關(guān),然而事實上,隨著智能識別技術(shù)的成熟,借助網(wǎng)絡(luò)世界中的影像和圖片進行生物識別已變成可能。

    (二)失范識別存在的故意侵權(quán)

    智能識別技術(shù)作為一種高新技術(shù),在現(xiàn)實生活中有著廣泛的應(yīng)用前景,但是,由于法律的規(guī)制無法跟上技術(shù)的發(fā)展速度,所以失范應(yīng)用行為較為普遍存在?!皬募夹g(shù)上看,自動感應(yīng)設(shè)備設(shè)施的大規(guī)模應(yīng)用,可穿戴設(shè)備、儀器的普遍使用,大量個人隱私信息的自動采集、生成,高效快捷傳播和智能化、自動化處理,使個人隱私信息更容易被泄露,被不法人員非法使用或者進行非法的商業(yè)交易、傳播?!盵15]失范應(yīng)用在具體實施中會有不同的方式,也存在于應(yīng)用的不同階段。2019年8月30日,一款名為ZAO的人工智能換臉軟件在微信、微博等社交媒體上迅速受到網(wǎng)民關(guān)注。該軟件的主要特點是用戶只需要一張正臉照片,就可以將視頻中的人物替換成自己的臉。通過這種簡單操作,網(wǎng)民可以方便地代入到某種場景之間,完成角色替換的心愿。這樣的操作手法極大地滿足了用戶的好奇心,于是“換臉”一時成為熱詞。但是,人們很快對這款智能軟件中存在的問題產(chǎn)生廣泛質(zhì)疑:第一,原視頻制作者的版權(quán)問題;第二,應(yīng)用軟件中隱私政策相應(yīng)規(guī)定的失范問題。這里暫且不討論未經(jīng)他人許可修改使用他人視頻作品可能侵犯他人著作權(quán)的問題。稍加分析,就可以發(fā)現(xiàn),這款軟件的隱私政策存在著嚴重的缺陷,如隱私政策規(guī)定“在您上傳或發(fā)布用戶內(nèi)容之前,您同意或確保實際權(quán)利人同意授予‘ZAO’及關(guān)聯(lián)公司以及‘ZAO’用戶全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利,包括但不限于可以對用戶內(nèi)容進行全部或部分的修改與編輯……”這種“永久”“可轉(zhuǎn)授權(quán)”“免費”“全球范圍內(nèi)”的表述,充滿著霸王條款的意味。盡管在網(wǎng)民的強烈抗議和相關(guān)部門的干預(yù)下該條款很快作了修正,但前期隱私政策順利出臺本身,就從一個側(cè)面說明不少智能技術(shù)應(yīng)用中相關(guān)組織和個人存在的對隱私權(quán)利的漠視。

    如前所述,由于大量網(wǎng)民在隱私意識沒有高度覺醒之前或人工智能技術(shù)還沒有成熟之前,他們在網(wǎng)絡(luò)中上傳了大量個人照片和影像,而網(wǎng)絡(luò)的“不可刪除”特征又無法讓這些圖像數(shù)據(jù)真正不留痕跡,這為某些網(wǎng)絡(luò)商家失范行為留下了巨大的可能性。例如Facebook可以在用戶毫不知情的情況下對用戶上傳的個人人臉圖片進行識別,通過與數(shù)據(jù)庫進行比對從而進行個人身份的確認和其關(guān)系網(wǎng)絡(luò)的展現(xiàn)。除此之外,公民個人信息也在被第三方組織共享而不需要通知到個人[16]。這種借助人工智能技術(shù)失范使用公民數(shù)據(jù)的行為,如果任其泛濫,將對公民的隱私權(quán)利構(gòu)成嚴重挑戰(zhàn)。至于一些人通過智能生物識別技術(shù)惡意假冒、偽造公民的身份從事違法犯罪行為,由于是非界限比較清楚,這里就不再討論。

    (三)不當應(yīng)用導(dǎo)致隱私主體身份被復(fù)制

    數(shù)字化社會中,公民除了具有自然人格外,還(必須)擁有數(shù)字人格?!霸S多學(xué)者指出,數(shù)字媒體(尤其是互聯(lián)網(wǎng))顛覆了許多文化所珍視的觀念,比如每個身體中都包含一個自我。數(shù)字媒體似乎把自我和身體截然分開,造就了一種僅僅存在于行動和語言中的無實體身份(disembodied identities)。新媒體的可供性為探索和呈現(xiàn)自我以及他人提供了新的可能性。”[17]在許多時候,數(shù)字人格在社會交往中更具有現(xiàn)實意義。與之相對應(yīng),當今社會每個公民都具有自然身份和數(shù)字身份兩種身份?;谏w生物身份的唯一性,自然身份是無法被復(fù)制的。但是,依托自然身份產(chǎn)生的數(shù)字身份,卻存在被復(fù)制的風(fēng)險。

    數(shù)字身份復(fù)制目前主要存在兩種可能風(fēng)險:第一,直接復(fù)制,即通過公民留存于網(wǎng)絡(luò)空間的圖片或影像資料進行人臉、指紋的直接復(fù)制。有專家曾經(jīng)建議公民拍照時不要隨意使用“剪刀手”姿勢,因為借助高清鏡頭,照片中的“剪刀手”可能會導(dǎo)致指紋被他人數(shù)字化復(fù)制。至于借助3D人臉動態(tài)方式等制作“假臉”從而進行刷臉盜刷銀行卡,則已有多起真實案例發(fā)生。第二,“偽造”復(fù)制。目前,人工智能技術(shù)中的“深度偽造(Deepfake)”問題已開始受到研究者的關(guān)注。“深度偽造”是由計算機“深度學(xué)習(xí)(Deeplearning)”和“偽造(fake)”兩個詞組合而成。它是“通過自動化的手段,特別是使用人工智能和算法技術(shù),進行智能生產(chǎn)、操縱、修改數(shù)據(jù),最終實現(xiàn)媒體傳播行為的一種結(jié)果”[18]。目前學(xué)者們往往從虛假新聞的視角來關(guān)注智媒時代的“深度偽造”問題,其實除此之外,從宏觀角度看,“深度偽造”與國家安全,從微觀角度看,“深度偽造”與公民身份復(fù)制都存在密切關(guān)系。借助“深度偽造”技術(shù),某些別有用心的人可以實現(xiàn)對他人數(shù)字身份的復(fù)制,從而實現(xiàn)其非法目的。

    個人身份的識別對于社會的有序發(fā)展意義重大。在智能生物識別技術(shù)產(chǎn)生之前,個人自然身份的識別主要借助可見和可觸摸的方式進行,由于自然身份的唯一性,除了極少數(shù)如雙胞胎等特例外,自然身份被假冒或替代的情況較少發(fā)生。數(shù)字身份的產(chǎn)生和在現(xiàn)實社會中的廣泛應(yīng)用,則讓身份識別存在巨大的隱患。一方面,網(wǎng)絡(luò)應(yīng)用的日?;?G技術(shù)的成熟,為智能生物識別技術(shù)的推廣準備了良好的技術(shù)條件。另一方面,隨著手機等智能移動終端的普及,智能生物識別技術(shù)應(yīng)用場景不斷被制造出來。數(shù)字身份成了人們打開社會活動之門的鑰匙,人們的學(xué)習(xí)、工作和生活日漸由線下轉(zhuǎn)入線上,形成線下線上廣泛互動且不斷趨向線上的狀態(tài),于是,數(shù)字身份的潛存風(fēng)險開始呈現(xiàn)擴大化的趨勢。

    四、智能生物識別技術(shù)中公民隱私保護的兩極原則

    “如果這個網(wǎng)絡(luò)不安全,那么它是沒有價值的。因為智能互聯(lián)網(wǎng)大量的應(yīng)用和服務(wù)與社會安全、生活安全息息相關(guān)?!盵19]強調(diào)包括智能生物識別技術(shù)在內(nèi)的網(wǎng)絡(luò)技術(shù)安全,對于數(shù)字化生存中的現(xiàn)代公民而言,確實異乎尋常地重要。而在諸多網(wǎng)絡(luò)安全問題中,公民的生物隱私安全無疑是一個十分重要的安全問題,因為隱私事涉公民人格尊嚴。如果公民尊嚴不保,推進人工智能技術(shù)不僅對人類文明進程無益,甚至是有害的。基于這種思考,我們強調(diào)對公民的生物特征隱私的保護應(yīng)著力于底線的法律保護和現(xiàn)實的技術(shù)保護這兩極。

    (一)公民隱私底線保護由法律托底

    人工智能技術(shù)的推進給社會帶來了巨大的進步活力和發(fā)展可能性。我國在2017年就將人工智能上升為國家戰(zhàn)略,并通過積極實施這一戰(zhàn)略,推動著中國社會現(xiàn)代化進程的加速。國家層面對人工智能技術(shù)的推動,也加速了智能生物識別技術(shù)應(yīng)用的普及。從日常生活中的無線智能支付,到抗擊疫情期間的流調(diào)防疫,智能生物識別技術(shù)的便捷安全等特征,展現(xiàn)了其良好的適用性。但是我們也必須清醒地意識到,智能生物識別技術(shù)作為依托人工智能進行個人身份識別的一種技術(shù),其實施過程中必將觸及大量公民的生物特征隱私。從法律層面看,如何給全體公民提供安全可信的客觀預(yù)期,如何對這些生物特征隱私加以有效保護,現(xiàn)有的法律并不能提供現(xiàn)成的規(guī)范。我國的《民法典》和《網(wǎng)絡(luò)安全法》等雖然可以提供公民個人數(shù)據(jù)和隱私信息保護的法律依據(jù),但涉及公民生物特征隱私,依然存在許多待填補的空白地帶。

    知情同意和信息自決構(gòu)成了數(shù)字化社會公民隱私保護的最基礎(chǔ)性的法律原則,但智能生物識別在應(yīng)用過程中的無感、即時識別,則會導(dǎo)致這一基本原則的失靈。這是因為,智能生物識別技術(shù)應(yīng)用過程中,公民無法“知情”——絕大多數(shù)生物特征采集識別是在公民未感知狀態(tài)下進行,也無法提供同意與否的態(tài)度——事實上智能生物識別技術(shù)都被前置了默認同意的前提。隱私作為一種公民的人格權(quán)利,在智能生物識別技術(shù)面前只能以義務(wù)的狀態(tài)存在。權(quán)利享用的特點是主體擁有選擇權(quán),即擁有同意、反對或棄權(quán)的權(quán)利選擇,在這個過程中,即使作出“棄權(quán)”選擇,也是權(quán)利主體的一種真實的意思表示。但在智能生物識別技術(shù)面前,隱私主體甚至沒有作出意思表示的機會。作為隱私權(quán)主體的公民只有以履行義務(wù),即“接受識別”的方式出現(xiàn)。基于這種現(xiàn)實,法律應(yīng)該從預(yù)防和救濟層面做出努力。

    法律預(yù)防的核心是對智能生物識別技術(shù)的實施方進行主體權(quán)利限定。智能生物識別技術(shù)主要應(yīng)用于社會治理和商業(yè)活動中,因此必須從法律層面對社會治理者和商業(yè)機構(gòu)行使識別權(quán)進行規(guī)范。法律應(yīng)該“特別授權(quán)國家公權(quán)力機關(guān)采集使用個人生物識別信息”,“私人實體向信息主體發(fā)送或出示的書面協(xié)議應(yīng)嚴格遵循保護個人信息自決原則”[20]。新冠疫情防控期間,我們國家借助車站、機場等公共場所設(shè)置的人臉識別等設(shè)備進行流調(diào),為控制疫情發(fā)揮了重要作用,但與此同時,濫用智能設(shè)備,不當處置泄露公民隱私信息的個案時有發(fā)生。在網(wǎng)絡(luò)使用中,人臉識別和指紋識別在許多時候成為公民開啟各類移動應(yīng)用的前置條件,但是,超范圍收集、失范使用、不當存儲公民生物隱私信息的情況時有發(fā)生。所以,對社會治理者而言,法律的預(yù)防應(yīng)強調(diào)“公共利益”,必須對設(shè)置智能生物識別技術(shù)的主體進行明確限定,即必須與“公共利益”相關(guān),設(shè)置的目的是保護“公共利益”。對商業(yè)機構(gòu)的法律預(yù)防則強調(diào)其隱私政策中,對公民生物特征的收集識別在堅持“最少必要”原則的基礎(chǔ)上,必須“明示”收集識別和使用范圍,確?!爸橥狻钡靡詫崿F(xiàn),同時規(guī)定對違規(guī)行為的法律懲處措施?!吧锾卣髅舾袛?shù)據(jù)可以包括醫(yī)學(xué)檢查、民族/種族、行為信息或有關(guān)性生活的數(shù)據(jù)。一般來說,敏感的生物特征信息(如民族起源)的處理需要數(shù)據(jù)主體的明確同意?!盵9]

    法律救濟對于保護公民的生物特征隱私同樣意義重大,它和法律預(yù)防一起構(gòu)成了法律層面完整的隱私保護鏈條。救濟的有效性可以確立公民隱私保護的自覺意識和信心。歐盟的《通用數(shù)據(jù)保護條例》支持每一個數(shù)據(jù)主體向監(jiān)管機構(gòu)投訴,提起司法訴訟以及必要賠償。類似的實踐在中國社會也開始出現(xiàn)。2019年,杭州市民郭兵以1 360元的價格購買了杭州野生動物園入園雙人年卡,并確定了指紋入園方式。此后,該動物園調(diào)整入園方式為人臉識別并要求郭兵激活人臉識別系統(tǒng),否則無法正常入園。此后,雙方就入園方式、退卡等事宜發(fā)生異議,協(xié)商未果后郭兵提起訴訟。法院一審判決野生動物園賠償郭兵合同利益和交通損失1 038元,刪除其辦理指紋年卡時提交的包括照片在內(nèi)的面部特征信息,同時駁回其他訴訟請求。這一被稱為“人臉識別第一案”的案例的判決,從一個側(cè)面說明了生物特征之于公民的意義及法律救濟保護的價值。在未來的法律制定中,智能生物識別及公民的生物特征隱私保護理當成為法律關(guān)注的重要內(nèi)容。

    (二)公民隱私現(xiàn)實保護倚仗技術(shù)介入

    技術(shù)進步導(dǎo)致的問題,應(yīng)該首先尋求技術(shù)解決問題的手段,這是理所當然的。“雖然在法律層面保護隱私是必需的,但是光靠法律是解決不了問題的。……法律的制定永遠落后于案件的發(fā)生,尤其是在大陸法系的國家。因此,除了法律手段外,我們還必須有相應(yīng)的技術(shù)手段維護個人的隱私。”[21]智能生物識別技術(shù)導(dǎo)致的公民隱私困境,其現(xiàn)實的成因是由新技術(shù)的應(yīng)用導(dǎo)致的,所以,探尋技術(shù)解決方案變得迫在眉睫?!霸谏镒R別技術(shù)中,技術(shù)呈現(xiàn)出由中介地位向介入地位轉(zhuǎn)向的趨勢,生物識別技術(shù)存在的個人生物信息案例隱患問題,就必須明確各類技術(shù)主體的責任,在技術(shù)的設(shè)計階段盡可能預(yù)見技術(shù)可能會產(chǎn)生的后果,并在此基礎(chǔ)上進行合理的行為選擇,以實現(xiàn)人類共同利益的最大化。”[22]

    第一,技術(shù)設(shè)計中的動靜結(jié)合設(shè)計思路。數(shù)字化生存社會的本質(zhì)是規(guī)則之治,即通過完善的規(guī)則設(shè)置,確保智能技術(shù)的有序推進。我們經(jīng)常講代碼是“塑造網(wǎng)絡(luò)空間的法律”,在特定意義上說,代碼編程和算法設(shè)置規(guī)定了網(wǎng)絡(luò)空間的基本秩序,因此,在智能生物識別技術(shù)之初,從安全主旨出發(fā),設(shè)置完善的技術(shù)程序顯然是十分有價值的。計算機工程師應(yīng)該堅持“科技向善”的倫理原則,加強自律,重視技術(shù)安全,降低公民身份被復(fù)制的風(fēng)險。在這個過程中,根據(jù)公民生物數(shù)據(jù)的自身固有特征,采取動靜結(jié)合的設(shè)計思路是保障智能生物識別技術(shù)安全,保護公民隱私的可行路徑。公民生物特征的唯一性和永久性特征,導(dǎo)致這些作為識別特征的隱私一旦泄露,將會產(chǎn)生永久性的隱患(傷害),因此,在生物識別的設(shè)計思路上,應(yīng)貫徹動靜結(jié)合的原則。動,是指公民生物特征中靜脈、聲紋等需要借助公民出現(xiàn)在識別現(xiàn)場的生物特征;靜,是指指紋等公民無須出現(xiàn)在識別現(xiàn)場的生物特征。動靜結(jié)合的思路,可以確保識別的生物主體的真實身份,令其“知情”,然后做出自己的行為選擇,真實貫徹信息自決的隱私確認原則——“同意”與否的意思表示是隱私主體真實的意思表示。

    第二,技術(shù)適用重要事項的二次確認。智能生物特征識別技術(shù)適用之初,由于技術(shù)的復(fù)雜和應(yīng)用成本的高昂,普及程度有限,應(yīng)用場景相對不多,應(yīng)用成本也較高,所以,公民隱私受到傷害的情況較少發(fā)生。隨著技術(shù)的進步,該技術(shù)的適用方式日趨簡便,應(yīng)用成本快速下降,成為一種日常應(yīng)用的技術(shù)。與此相對應(yīng),借助該技術(shù)侵害公民隱私的行為也頻頻發(fā)生。因此,提升技術(shù)適用的科學(xué)性和嚴謹性變得愈加迫切。基于這種現(xiàn)實,筆者建議區(qū)別不同的應(yīng)用場景,積極推行重要事項的二次確認?!岸嗌锾卣鞯氖褂媚軌蚶厣锾卣髯R別系統(tǒng)的安全性。實際上,增加識別時的信任憑證數(shù)目能夠遏制欺騙攻擊。”[9]這里所指的重要事項,是指通過智能生物識別技術(shù)確認身份后,生物主體后續(xù)將會作出重要決策的事項。例如,公民通過人臉識別進入商場、車站等,一般不認為是重要事項,但如果需要進入重要的會議現(xiàn)場或機密場所,則被認為是重要事項。再如,通過指紋識別進行交易,可根據(jù)金額的大小確認事項的重要與否來確定是否需要增加第二次識別。換句話說,是否屬于重要事項,可以進行事先預(yù)判:生物主體是否會進行個人的重要決策或者生物隱私失竊是否會導(dǎo)致嚴重后果?在此基礎(chǔ)上,確定是否需要通過二次確認,即兩種不同方式的智能生物識別技術(shù)對隱私主體的身份進行確認。

    第三,技術(shù)處置中的“最小必要”原則?!盀榱四軌虻玫奖憬莸姆?wù),人們經(jīng)常按照服務(wù)條款上的要求把個人信息讓渡給服務(wù)商。在人與網(wǎng)絡(luò)高度融合的條件下,人們事實上很難擺脫對智能機器的依賴?!盵23]事實上,在數(shù)字化社會,無論是社會治理還是日常生活,所有的社會成員已經(jīng)無法離開數(shù)據(jù)活動,而智能技術(shù)的及時介入,則令數(shù)據(jù)的功效發(fā)揮得愈發(fā)充分。我國新冠肺炎疫情防控期間,曾經(jīng)發(fā)生多起因處置不當而導(dǎo)致流調(diào)所涉公民生物隱私信息被泄露事件,使多位公民隱私權(quán)利受損,這種失范情況具有警示意義。公民生物特征具有永久性特征,一旦被泄露,就不存在真正意義上的“救濟”,即不可能恢復(fù)到“他人不知道”的原狀,因此,在通過設(shè)備收集到相關(guān)公民的生物特征信息后,在技術(shù)分析、結(jié)果應(yīng)用和信息儲存等諸多處置環(huán)節(jié),必須嚴格堅守“最小必要”原則。我國《網(wǎng)絡(luò)安全法》規(guī)定網(wǎng)絡(luò)運營者收集和使用個人信息“應(yīng)當遵循合法、正當、必要的原則”。歐盟《一般數(shù)據(jù)保護條例》則強調(diào)目的受限(Purpose Limitation)和數(shù)據(jù)最小化(Date Minimisation)。不同國家和地區(qū)相關(guān)的規(guī)定,為“最小必要”原則提供了法規(guī)依據(jù)和原則的有效借鑒,這對智媒環(huán)境下公民隱私保護具有十分重要的意義。

    除此以外,對通過智能生物識別技術(shù)采取“脫敏”的預(yù)處理方法也非常有必要。通過這種預(yù)處理,令數(shù)據(jù)工程師可以順利處理這些生物特征數(shù)據(jù),但不能“認識”這些數(shù)據(jù),即不能讓隱私數(shù)據(jù)與隱私主體進行直接關(guān)聯(lián)。“我們可以并且應(yīng)該控制科技所產(chǎn)生的風(fēng)險,但碰巧的是,要做到這一點的最佳方式是開發(fā)更多技術(shù),尤其是更加值得信賴的技術(shù)?!盵24]智能生物識別技術(shù)完善的每一點努力,都會有助于公民隱私得到更有效的保護。

    猜你喜歡
    身份公民生物
    生物多樣性
    論公民美育
    生物多樣性
    上上生物
    第12話 完美生物
    航空世界(2020年10期)2020-01-19 14:36:20
    跟蹤導(dǎo)練(三)(5)
    他們的另一個身份,你知道嗎
    隱私保護也是公民一種“獲得感”
    十二公民
    電影(2015年4期)2015-11-29 07:32:17
    互換身份
    久久久久久大精品| 欧美日韩黄片免| 3wmmmm亚洲av在线观看| 午夜亚洲福利在线播放| 欧美xxxx性猛交bbbb| 久久国产精品人妻蜜桃| 欧美三级亚洲精品| 亚洲av.av天堂| 久久久久久久精品吃奶| 久久精品国产99精品国产亚洲性色| 人人妻人人看人人澡| 999久久久精品免费观看国产| 亚洲美女视频黄频| 国模一区二区三区四区视频| 亚洲天堂国产精品一区在线| 又紧又爽又黄一区二区| 亚洲激情在线av| 亚洲黑人精品在线| 黄色丝袜av网址大全| 成年版毛片免费区| 高清日韩中文字幕在线| 欧美成人一区二区免费高清观看| 中文字幕人妻熟人妻熟丝袜美| 在线十欧美十亚洲十日本专区| 午夜福利在线在线| 听说在线观看完整版免费高清| 国产麻豆成人av免费视频| 国产色婷婷99| 大型黄色视频在线免费观看| av在线天堂中文字幕| 狂野欧美白嫩少妇大欣赏| 怎么达到女性高潮| 国产精品久久久久久亚洲av鲁大| 欧美性感艳星| 色综合欧美亚洲国产小说| 国产探花极品一区二区| 热99在线观看视频| 在线观看午夜福利视频| 午夜久久久久精精品| 黄色日韩在线| 热99在线观看视频| 久久午夜亚洲精品久久| 啦啦啦观看免费观看视频高清| 欧美三级亚洲精品| 久久久久久久午夜电影| 老司机午夜十八禁免费视频| 国产精品99久久久久久久久| 少妇丰满av| 亚洲七黄色美女视频| 国产精品亚洲av一区麻豆| 在线观看舔阴道视频| 免费看a级黄色片| 噜噜噜噜噜久久久久久91| 国产麻豆成人av免费视频| 看片在线看免费视频| 精品人妻偷拍中文字幕| 国内毛片毛片毛片毛片毛片| 校园春色视频在线观看| 亚洲精品一卡2卡三卡4卡5卡| avwww免费| 国产精品久久久久久人妻精品电影| 婷婷丁香在线五月| 国产精品98久久久久久宅男小说| 五月玫瑰六月丁香| 无人区码免费观看不卡| 国产伦在线观看视频一区| 亚洲美女黄片视频| 99久久无色码亚洲精品果冻| 国产精品美女特级片免费视频播放器| 欧美丝袜亚洲另类 | 99国产精品一区二区蜜桃av| 免费搜索国产男女视频| 国产精品嫩草影院av在线观看 | 18美女黄网站色大片免费观看| 成人av在线播放网站| 欧美极品一区二区三区四区| 国产探花在线观看一区二区| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 亚洲av二区三区四区| 免费看a级黄色片| 久久精品国产清高在天天线| 90打野战视频偷拍视频| 亚洲成a人片在线一区二区| 韩国av一区二区三区四区| 午夜影院日韩av| 亚洲av第一区精品v没综合| 婷婷丁香在线五月| 成年女人看的毛片在线观看| 国产亚洲欧美在线一区二区| 欧美xxxx性猛交bbbb| 韩国av一区二区三区四区| 又黄又爽又刺激的免费视频.| 一区二区三区激情视频| 亚洲熟妇中文字幕五十中出| bbb黄色大片| 午夜日韩欧美国产| 一级a爱片免费观看的视频| 69av精品久久久久久| 国产精品久久电影中文字幕| 麻豆成人av在线观看| 亚洲精品色激情综合| 久久久国产成人免费| 天堂av国产一区二区熟女人妻| 嫩草影视91久久| av在线天堂中文字幕| 91麻豆av在线| 欧美三级亚洲精品| 俄罗斯特黄特色一大片| 亚洲精品乱码久久久v下载方式| 变态另类成人亚洲欧美熟女| 亚洲精品粉嫩美女一区| 色综合欧美亚洲国产小说| 亚洲专区国产一区二区| 日本黄色视频三级网站网址| or卡值多少钱| 亚洲精品乱码久久久v下载方式| 熟女电影av网| 中文字幕熟女人妻在线| 欧洲精品卡2卡3卡4卡5卡区| 亚洲国产高清在线一区二区三| 一二三四社区在线视频社区8| 三级毛片av免费| 欧美乱色亚洲激情| 免费电影在线观看免费观看| 99精品久久久久人妻精品| 18+在线观看网站| 亚洲国产精品sss在线观看| 欧美黑人巨大hd| 又黄又爽又刺激的免费视频.| 午夜福利高清视频| 最近中文字幕高清免费大全6 | 可以在线观看毛片的网站| 97碰自拍视频| 九九久久精品国产亚洲av麻豆| 99久久无色码亚洲精品果冻| 国产激情偷乱视频一区二区| av欧美777| 高清毛片免费观看视频网站| 亚洲国产日韩欧美精品在线观看| 精品国产三级普通话版| 51国产日韩欧美| 国产精品亚洲美女久久久| 男女下面进入的视频免费午夜| 亚洲五月婷婷丁香| 一本综合久久免费| 五月玫瑰六月丁香| 午夜福利成人在线免费观看| 我的老师免费观看完整版| 午夜福利免费观看在线| 老司机福利观看| 亚洲人成网站在线播放欧美日韩| 国产精品精品国产色婷婷| 亚洲av不卡在线观看| 夜夜看夜夜爽夜夜摸| 午夜福利免费观看在线| 亚洲天堂国产精品一区在线| 久久国产乱子伦精品免费另类| 一区二区三区免费毛片| 波多野结衣巨乳人妻| 少妇人妻一区二区三区视频| 午夜精品在线福利| 在线十欧美十亚洲十日本专区| 丰满人妻一区二区三区视频av| 国产美女午夜福利| av天堂中文字幕网| 免费看美女性在线毛片视频| 亚洲在线自拍视频| 日韩中字成人| 日韩 亚洲 欧美在线| 日本熟妇午夜| 麻豆国产97在线/欧美| 热99re8久久精品国产| 天堂影院成人在线观看| 国产男靠女视频免费网站| 亚洲av日韩精品久久久久久密| 亚洲av免费高清在线观看| 搡老熟女国产l中国老女人| avwww免费| 国产淫片久久久久久久久 | 亚洲av日韩精品久久久久久密| 人妻久久中文字幕网| 成人特级黄色片久久久久久久| 淫秽高清视频在线观看| 亚洲第一电影网av| 婷婷精品国产亚洲av在线| 亚洲国产精品成人综合色| 亚洲欧美日韩高清在线视频| 一a级毛片在线观看| 成年人黄色毛片网站| 91九色精品人成在线观看| 日韩欧美一区二区三区在线观看| 麻豆av噜噜一区二区三区| 免费av不卡在线播放| 亚洲av日韩精品久久久久久密| 精品久久久久久成人av| 99国产极品粉嫩在线观看| 毛片一级片免费看久久久久 | 亚洲欧美日韩东京热| 欧美黄色片欧美黄色片| 精品日产1卡2卡| 色哟哟哟哟哟哟| 性色av乱码一区二区三区2| 天堂影院成人在线观看| 美女大奶头视频| 亚洲成av人片免费观看| 少妇的逼水好多| 日本五十路高清| 哪里可以看免费的av片| 久久午夜福利片| 久久草成人影院| 国产午夜精品论理片| 又粗又爽又猛毛片免费看| 女生性感内裤真人,穿戴方法视频| 一进一出抽搐动态| 中文字幕久久专区| 我的老师免费观看完整版| 男女床上黄色一级片免费看| 中亚洲国语对白在线视频| 免费黄网站久久成人精品 | 久久久久九九精品影院| 久久精品国产亚洲av涩爱 | 特级一级黄色大片| 国产一区二区激情短视频| 成人亚洲精品av一区二区| 12—13女人毛片做爰片一| 免费人成视频x8x8入口观看| 欧美+日韩+精品| 亚州av有码| 久久久国产成人精品二区| 中文亚洲av片在线观看爽| 18禁在线播放成人免费| 国产精品电影一区二区三区| 婷婷六月久久综合丁香| 麻豆av噜噜一区二区三区| 亚洲第一区二区三区不卡| 国产高清有码在线观看视频| 欧美日本视频| 十八禁网站免费在线| 亚洲第一欧美日韩一区二区三区| 久久热精品热| 一本久久中文字幕| 少妇高潮的动态图| 亚洲熟妇熟女久久| 免费黄网站久久成人精品 | 日本黄色片子视频| 国产免费一级a男人的天堂| 午夜亚洲福利在线播放| 波多野结衣巨乳人妻| 国产高清激情床上av| 午夜激情欧美在线| h日本视频在线播放| 欧美性猛交黑人性爽| 久久伊人香网站| 亚洲av成人不卡在线观看播放网| 青草久久国产| h日本视频在线播放| 久久久久久久午夜电影| 成人美女网站在线观看视频| 久久久成人免费电影| 很黄的视频免费| 一级黄色大片毛片| 国产黄色小视频在线观看| 亚洲av成人精品一区久久| 精品人妻视频免费看| 最近在线观看免费完整版| 少妇熟女aⅴ在线视频| 麻豆国产97在线/欧美| 久久精品国产亚洲av天美| 99国产极品粉嫩在线观看| 久久久久九九精品影院| h日本视频在线播放| 欧美性猛交╳xxx乱大交人| 观看免费一级毛片| 最新中文字幕久久久久| 国产精品亚洲av一区麻豆| 我的老师免费观看完整版| 久久6这里有精品| 日日摸夜夜添夜夜添小说| 草草在线视频免费看| 亚洲欧美激情综合另类| 999久久久精品免费观看国产| 久久6这里有精品| 小蜜桃在线观看免费完整版高清| 国产欧美日韩精品亚洲av| 亚洲人成网站在线播| 国产三级中文精品| 精品熟女少妇八av免费久了| 国产午夜福利久久久久久| 中文字幕熟女人妻在线| 亚洲欧美日韩高清专用| 国产黄色小视频在线观看| 热99re8久久精品国产| 色5月婷婷丁香| 色在线成人网| 我要搜黄色片| 老司机福利观看| 一级黄色大片毛片| 国产精品,欧美在线| 国产真实乱freesex| 欧美最新免费一区二区三区 | 午夜激情福利司机影院| ponron亚洲| 日本一二三区视频观看| 国产乱人伦免费视频| 极品教师在线免费播放| 9191精品国产免费久久| 亚洲最大成人av| 可以在线观看毛片的网站| 亚洲av美国av| 天堂网av新在线| 丰满的人妻完整版| 99久久成人亚洲精品观看| www日本黄色视频网| x7x7x7水蜜桃| 亚洲av成人不卡在线观看播放网| av女优亚洲男人天堂| 亚洲电影在线观看av| 亚洲五月天丁香| 欧美精品啪啪一区二区三区| 岛国在线免费视频观看| 久久久久国产精品人妻aⅴ院| 日韩欧美免费精品| 欧美+日韩+精品| 舔av片在线| 麻豆一二三区av精品| 亚洲国产欧洲综合997久久,| 成人美女网站在线观看视频| 十八禁网站免费在线| 久久国产精品人妻蜜桃| 88av欧美| 99热精品在线国产| 国产精品日韩av在线免费观看| 啦啦啦观看免费观看视频高清| 97超视频在线观看视频| 男女那种视频在线观看| 国产成年人精品一区二区| 国产综合懂色| 亚洲精品色激情综合| 国产又黄又爽又无遮挡在线| 88av欧美| 成人一区二区视频在线观看| 久久久久久国产a免费观看| 波多野结衣高清作品| 能在线免费观看的黄片| 久久久久久久久久成人| 亚洲人成网站高清观看| 国产亚洲精品久久久久久毛片| 老司机深夜福利视频在线观看| 欧美日本亚洲视频在线播放| 免费看美女性在线毛片视频| 内地一区二区视频在线| 久久香蕉精品热| 一个人免费在线观看的高清视频| 婷婷丁香在线五月| 午夜激情福利司机影院| 九九在线视频观看精品| 久久久久九九精品影院| 欧美日韩黄片免| 午夜精品在线福利| 国产精品综合久久久久久久免费| 亚洲人与动物交配视频| 亚洲真实伦在线观看| 在线免费观看不下载黄p国产 | 3wmmmm亚洲av在线观看| 日韩欧美在线二视频| 亚洲美女视频黄频| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 97超级碰碰碰精品色视频在线观看| 亚洲 国产 在线| 51国产日韩欧美| 亚洲 国产 在线| 少妇人妻精品综合一区二区 | 最近在线观看免费完整版| 国内精品美女久久久久久| 一本一本综合久久| 大型黄色视频在线免费观看| 99热这里只有是精品在线观看 | 日本在线视频免费播放| 亚洲综合色惰| 男女那种视频在线观看| 国产成人福利小说| 午夜日韩欧美国产| 性色av乱码一区二区三区2| 亚洲欧美日韩东京热| 久久6这里有精品| 亚洲av五月六月丁香网| 97热精品久久久久久| 在线播放国产精品三级| 亚洲片人在线观看| 最近最新中文字幕大全电影3| 日韩欧美三级三区| 国产精品电影一区二区三区| 噜噜噜噜噜久久久久久91| 99久久99久久久精品蜜桃| 国产精品自产拍在线观看55亚洲| 99国产精品一区二区三区| 成人午夜高清在线视频| 亚洲av二区三区四区| 97热精品久久久久久| 日本黄色视频三级网站网址| 久99久视频精品免费| 波多野结衣高清无吗| 久久99热6这里只有精品| 精品久久久久久,| 亚洲欧美精品综合久久99| 3wmmmm亚洲av在线观看| 级片在线观看| 亚洲内射少妇av| 少妇的逼水好多| av在线天堂中文字幕| 老司机深夜福利视频在线观看| 两个人视频免费观看高清| 精品福利观看| 嫁个100分男人电影在线观看| 亚洲电影在线观看av| 久9热在线精品视频| 亚洲 国产 在线| xxxwww97欧美| 午夜福利欧美成人| 日韩欧美国产在线观看| 有码 亚洲区| 国产精品不卡视频一区二区 | 亚洲经典国产精华液单 | 人人妻人人澡欧美一区二区| 亚洲av电影不卡..在线观看| 免费av毛片视频| 天堂网av新在线| 亚洲av日韩精品久久久久久密| 日日摸夜夜添夜夜添av毛片 | 一卡2卡三卡四卡精品乱码亚洲| 草草在线视频免费看| 男女那种视频在线观看| 午夜福利免费观看在线| 国内精品一区二区在线观看| 性色avwww在线观看| 永久网站在线| 99热6这里只有精品| 国产午夜精品久久久久久一区二区三区 | 精品人妻视频免费看| 亚洲久久久久久中文字幕| 久久精品国产清高在天天线| 国产伦精品一区二区三区四那| 听说在线观看完整版免费高清| 欧美精品啪啪一区二区三区| 男人的好看免费观看在线视频| 国产高清视频在线播放一区| 女人被狂操c到高潮| 国产不卡一卡二| 国内久久婷婷六月综合欲色啪| 他把我摸到了高潮在线观看| 99热精品在线国产| 亚洲国产欧洲综合997久久,| 国产高清三级在线| 亚洲欧美日韩东京热| 18+在线观看网站| 国产一区二区激情短视频| 国产欧美日韩精品一区二区| av欧美777| 成人亚洲精品av一区二区| 日韩成人在线观看一区二区三区| 久久精品国产99精品国产亚洲性色| 国产免费一级a男人的天堂| 亚洲最大成人手机在线| 亚洲人成网站在线播放欧美日韩| 性色av乱码一区二区三区2| 国产成+人综合+亚洲专区| 舔av片在线| 国产伦一二天堂av在线观看| 欧美性感艳星| 老司机深夜福利视频在线观看| 性色av乱码一区二区三区2| 内射极品少妇av片p| 国内毛片毛片毛片毛片毛片| 欧美高清成人免费视频www| 免费高清视频大片| 亚洲在线观看片| 香蕉av资源在线| 久久伊人香网站| 色噜噜av男人的天堂激情| 麻豆av噜噜一区二区三区| 亚洲精品在线观看二区| 午夜激情欧美在线| 日韩免费av在线播放| 亚洲成人久久爱视频| 成人av一区二区三区在线看| 亚洲最大成人手机在线| 日本黄色视频三级网站网址| 日韩高清综合在线| 欧美日韩综合久久久久久 | 午夜a级毛片| 校园春色视频在线观看| 久久精品国产自在天天线| 中出人妻视频一区二区| 日韩成人在线观看一区二区三区| 女人被狂操c到高潮| 亚洲乱码一区二区免费版| 久99久视频精品免费| 老司机福利观看| 悠悠久久av| 1024手机看黄色片| 国产精品98久久久久久宅男小说| av视频在线观看入口| 国产熟女xx| 亚洲无线在线观看| 午夜免费男女啪啪视频观看 | 免费av观看视频| a级毛片免费高清观看在线播放| 免费无遮挡裸体视频| 国产高清有码在线观看视频| 国产探花极品一区二区| 搡老妇女老女人老熟妇| 两性午夜刺激爽爽歪歪视频在线观看| 69人妻影院| 欧美激情久久久久久爽电影| 成人午夜高清在线视频| 老熟妇乱子伦视频在线观看| 嫩草影院入口| 一级黄色大片毛片| 最后的刺客免费高清国语| 亚洲成人久久性| 精品午夜福利视频在线观看一区| 深夜精品福利| 亚洲无线观看免费| a在线观看视频网站| 精品人妻1区二区| 丰满人妻熟妇乱又伦精品不卡| a级毛片免费高清观看在线播放| 亚洲色图av天堂| 熟女人妻精品中文字幕| 在线观看一区二区三区| 欧美最黄视频在线播放免费| 69人妻影院| av在线蜜桃| 国产单亲对白刺激| 美女高潮喷水抽搐中文字幕| 国产伦在线观看视频一区| 男人的好看免费观看在线视频| 2021天堂中文幕一二区在线观| 久久久久精品国产欧美久久久| 一个人免费在线观看的高清视频| 三级男女做爰猛烈吃奶摸视频| 日韩 亚洲 欧美在线| 搡女人真爽免费视频火全软件 | 51国产日韩欧美| 草草在线视频免费看| 少妇的逼水好多| 18美女黄网站色大片免费观看| 国产精品影院久久| 在线播放国产精品三级| 亚洲性夜色夜夜综合| 久久香蕉精品热| 欧美3d第一页| 亚洲国产欧洲综合997久久,| 成人高潮视频无遮挡免费网站| 国产欧美日韩一区二区精品| 少妇被粗大猛烈的视频| 国产精品野战在线观看| 色精品久久人妻99蜜桃| 精品人妻1区二区| 国产色爽女视频免费观看| 少妇裸体淫交视频免费看高清| 国产一级毛片七仙女欲春2| 一级av片app| 哪里可以看免费的av片| 国产白丝娇喘喷水9色精品| 日韩 亚洲 欧美在线| www.色视频.com| 国产亚洲精品av在线| 国产亚洲av嫩草精品影院| 亚洲成人中文字幕在线播放| 窝窝影院91人妻| 久久午夜福利片| 久久人人精品亚洲av| 国内精品久久久久精免费| 一区二区三区四区激情视频 | 国产精品久久电影中文字幕| 欧美性猛交黑人性爽| 久久香蕉精品热| 国产精品伦人一区二区| 亚洲精品粉嫩美女一区| 在线a可以看的网站| 国产精品亚洲av一区麻豆| 亚洲熟妇熟女久久| av福利片在线观看| 欧美黄色淫秽网站| 床上黄色一级片| 波野结衣二区三区在线| 色视频www国产| 五月玫瑰六月丁香| 成年版毛片免费区| xxxwww97欧美| 长腿黑丝高跟| 国产白丝娇喘喷水9色精品| 免费在线观看成人毛片| 天堂动漫精品| 99久久九九国产精品国产免费| 欧美xxxx性猛交bbbb| 丰满人妻一区二区三区视频av| 国内精品一区二区在线观看| 美女 人体艺术 gogo| 亚洲精品色激情综合| 亚洲色图av天堂| 欧美黄色淫秽网站| 国产一区二区激情短视频| 在线天堂最新版资源| 成熟少妇高潮喷水视频| 亚洲狠狠婷婷综合久久图片| 日本黄大片高清| 亚洲第一电影网av| 亚洲av第一区精品v没综合| 又粗又爽又猛毛片免费看| 久久人妻av系列| 亚洲欧美日韩卡通动漫| av天堂在线播放| 午夜精品一区二区三区免费看|