• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人臉識別技術(shù)應(yīng)用的侵權(quán)風(fēng)險與控制策略*

    2019-11-13 08:50:43
    圖書與情報 2019年5期
    關(guān)鍵詞:人臉識別人臉

    蔣 潔

    (1.南京信息工程大學(xué)中意網(wǎng)絡(luò)侵權(quán)研究所 江蘇南京 210044)

    (2.南京信息工程大學(xué)法政學(xué)院 江蘇南京 210044)

    新一代人工智能技術(shù)突破了數(shù)據(jù)、 算法和算力的瓶頸,充分展現(xiàn)出造福社會發(fā)展的正向效能,迅速吸引來源復(fù)雜的巨量投資, 掀起全球性的國家戰(zhàn)略支撐浪潮。 各國紛紛出臺相應(yīng)政策,如美國的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》、德國的《人工智能戰(zhàn)略要點》、我國的《新一代人工智能發(fā)展規(guī)劃》等,這些政策引領(lǐng)了人工智能發(fā)展方向。然而,這一創(chuàng)新引擎在深度融合實體經(jīng)濟(jì)的過程中, 逐漸暴露出難以落地具體場景的棘手障礙, 引發(fā)了擔(dān)憂人工智能再逢寒冬的輿情熱議。

    面對人工智能應(yīng)用最后一公里道阻且長、 相關(guān)投融資項目頻繁失敗的艱難局面, 作為落地風(fēng)口的人臉識別技術(shù)在井噴式應(yīng)用實踐中亦暴露出受制于光線、年齡、妝容等的固有缺陷和復(fù)雜多樣的違規(guī)現(xiàn)象。 如越來越多的圖書館為了實現(xiàn)無介質(zhì)化的智慧服務(wù),紛紛將人臉識別技術(shù)嵌入門禁、借閱、物品存放、遠(yuǎn)程預(yù)約以及內(nèi)部考勤和管理系統(tǒng),卻往往由于識別偏差和速度限制而增加高峰期的時間成本,且讀者對于錄入人臉信息的接受意愿和持續(xù)使用意愿較低。 亟待完善人臉識別應(yīng)用的調(diào)整規(guī)則、健全行業(yè)自律機(jī)制、 勾勒企業(yè)合規(guī)方案, 大幅降低侵權(quán)風(fēng)險,有序推動產(chǎn)業(yè)發(fā)展。

    1 人臉識別技術(shù)及其應(yīng)用

    1.1 人臉識別的概念界定與技術(shù)優(yōu)勢

    1.1.1 人臉識別的概念分析

    人臉識別(Face Recognition)是基于人的臉部特征數(shù)據(jù)辨別個體身份的一種生物識別技術(shù)。 相關(guān)研究工作早在20 世紀(jì)60 年代已經(jīng)萌芽,卻直至90 年代才在計算機(jī)科學(xué)和光成像技術(shù)較為發(fā)達(dá)的歐美國家投入初級應(yīng)用。近幾年,隨著計算機(jī)視覺技術(shù)頻繁迭代, 基于深度學(xué)習(xí)的人臉識別逐漸成為實現(xiàn)虛擬空間與現(xiàn)實世界身份對應(yīng)的重要紐帶。

    人臉識別系統(tǒng)是集合運(yùn)用光學(xué)、計算機(jī)、生物傳感器與統(tǒng)計學(xué)原理等高科技手段, 在動態(tài)場景中自動檢測定位、跟蹤采集、比對提取、分離存儲自然人先天的人臉特征信息, 通過與數(shù)據(jù)庫中已登記面貌進(jìn)行核實以確認(rèn)身份或在數(shù)據(jù)庫中搜索是否存在指定人像的完整流程。

    1.1.2 人臉識別的技術(shù)優(yōu)勢

    在全社會范圍內(nèi)構(gòu)筑及時、精準(zhǔn)、便捷、廉價的身份認(rèn)證和管理機(jī)制是營建安全有序的生態(tài)環(huán)境的重要基石。 然而,從靜態(tài)密碼認(rèn)證到使用手機(jī)短信、動態(tài)口令或數(shù)字證書等私人可信的創(chuàng)新物事進(jìn)行認(rèn)證,傳統(tǒng)的非生物識別模式充斥著用戶遺忘、密碼泄露、病毒攻擊等致毀風(fēng)險。近來興起的讀取目標(biāo)對象的神情步態(tài)、 擊鍵方式和簽名手法等行為特征的生物識別技術(shù)受到持續(xù)時長、精神狀態(tài)、力度大小等因素的干擾,不夠準(zhǔn)確可靠。 基于靜脈、耳廓、語音、基因、指掌紋、視虹膜等生理特征的識別技術(shù)亦存在運(yùn)作流程復(fù)雜、硬件成本高昂、實際辨識度低且大多需要目標(biāo)對象主動參與等弊端。與之相對,人臉特征集合了目標(biāo)對象本身固有的、無須攜帶的、與眾不同的自然特點。 結(jié)合海量數(shù)據(jù)挖掘和神經(jīng)網(wǎng)絡(luò)技術(shù)的人臉識別系統(tǒng)是目前成熟度最高的人工智能落地領(lǐng)域,具有直觀性、廉價性、便利性、非接觸性、可并發(fā)性和較強(qiáng)的穩(wěn)定性等優(yōu)勢, 能夠針對機(jī)密內(nèi)容進(jìn)行分級保護(hù)、 實現(xiàn)被動無感知的數(shù)字化身份檢測和追蹤,進(jìn)而提升物聯(lián)網(wǎng)的安全性、可靠性和穩(wěn)定性。

    1.2 人臉識別技術(shù)的主要應(yīng)用與價值分析

    作為人工智能落地的前沿風(fēng)口, 人臉識別應(yīng)用場景迅速拓展, 全球市場規(guī)模已達(dá)23.91 億美元,表現(xiàn)出巨大的發(fā)展?jié)摿?。我國科技巨頭扎堆布局人臉識別領(lǐng)域,如寒武紀(jì)深耕人臉識別處理硬件、依圖科技專注人臉識別算法研發(fā)、 ??低暰劢谷四樧R別安防產(chǎn)品等, 持續(xù)提升產(chǎn)業(yè)支撐力, 優(yōu)化產(chǎn)業(yè)鏈結(jié)構(gòu),完善行業(yè)服務(wù)解決方案。我國目前的人才儲備位列全球第三,市場規(guī)模達(dá)到4.4 億美元。

    1.2.1 公益目的應(yīng)用及價值

    逐漸成熟的人臉識別技術(shù)被廣泛應(yīng)用到出入境識別、失蹤人口定位、違法行為曝光、民政與刑偵身份核查等治安防控、政府治理、人口管理、醫(yī)療衛(wèi)生、軌道交通和其他涉及社會公益的關(guān)鍵性領(lǐng)域, 提高執(zhí)法執(zhí)政能力,加強(qiáng)社區(qū)安全,改善居民生活。 如越來越多的政府部門、高等院校、圖書館文化宮等公共服務(wù)機(jī)構(gòu)搭建了隔空自動抓取人臉驗證的共享平臺,通過動態(tài)人臉道閘、人臉識別監(jiān)控和敏感人員聯(lián)動預(yù)警等實現(xiàn)全程痕跡管理, 免去繁瑣的信息登錄和證件查驗,全面提高服務(wù)效率和安全性。 又如,北京、重慶、合肥等地的保障性住房建設(shè)投資中心開始在公租房項目中引入防范違規(guī)轉(zhuǎn)租轉(zhuǎn)借的人臉識別門禁系統(tǒng), 通過主動識別并避免非承租家庭成員隨意進(jìn)入來實現(xiàn)社會資源公平利用, 保護(hù)廣大住戶的居住安全。再如,各地社保機(jī)構(gòu)開展的人臉識別養(yǎng)老金領(lǐng)取資格認(rèn)證既方便離退休人員遠(yuǎn)程驗證生存狀態(tài)的惠民舉措,也避免了漏報、遲報、瞞報死亡狀況導(dǎo)致養(yǎng)老保險基金流失的情況。

    1.2.2 私益目的應(yīng)用及價值

    物聯(lián)網(wǎng)生態(tài)建設(shè)與互聯(lián)網(wǎng)金融、營銷、娛樂等場景中不斷嵌入人臉識別技術(shù), 推動創(chuàng)新企業(yè)與傳統(tǒng)巨頭共融共進(jìn)。 從直銷銀行的人臉識別客戶身份驗證到刷臉取現(xiàn)的自動取款機(jī)、從3D 人臉識別解鎖智能手機(jī)到移動端刷臉支付、 從在線智能相冊到人臉美顏變妝, 人臉識別的商業(yè)化應(yīng)用不僅賦能產(chǎn)品和服務(wù)的質(zhì)量改善、成本降低與效率提升,亦有效助力商業(yè)組織的合規(guī)實踐。 如曠視科技的人臉識別遠(yuǎn)程開戶系統(tǒng)為“從柜臺轉(zhuǎn)向指尖”的金融服務(wù)改革提供了重要支撐, 大幅改善用戶體驗、 降低開戶時間成本、提升服務(wù)運(yùn)營效率。又如,嵌入智能家居平臺和新零售領(lǐng)域的人臉識別技術(shù)應(yīng)用不僅是門禁系統(tǒng)和鑒權(quán)系統(tǒng)的中樞, 也是分析用戶群體、 提升支付效率、實現(xiàn)廣告精準(zhǔn)投放的重要工具。 再如,曾因低齡用戶沉迷游戲而遭到新華社和《人民日報》“八次”痛批的《王者榮耀》開始采用人臉識別技術(shù)強(qiáng)化控制未成年人的游戲時間, 更好地合規(guī)網(wǎng)絡(luò)游戲監(jiān)管規(guī)范的要求,積極承擔(dān)企業(yè)的社會責(zé)任,為未成年人打造健康的游戲環(huán)境。

    2 基于實例的人臉識別應(yīng)用侵權(quán)風(fēng)險評估

    2.1 “ZAO”事件分析

    2019 年9 月, 我國一款刷屏級人臉識別應(yīng)用“ZAO” 經(jīng)歷了從爆紅到爆黑的“曇花一現(xiàn)”。 雖然“ZAO”在識別技術(shù)上沒有明顯突破,卻牢牢抓住大眾的獵奇心理, 采用契合社交媒體場景的傻瓜式操作(上傳一張正面照片后點擊“造視頻”區(qū)域的素材就可以換臉)滿足了普通人的明星夢想,進(jìn)而引發(fā)病毒式傳播,在一夜之間俘獲海量個人終端,充分反映出人們對于人臉識別可用產(chǎn)品和服務(wù)的迫切需求。

    然而, 這一應(yīng)用項目采用的內(nèi)容寬泛、 指向不明、減免自身責(zé)任的格式化用戶協(xié)議迅速引發(fā)公眾對其過度攫取用戶授權(quán)(商業(yè)使用權(quán)、隨意刪除權(quán)、數(shù)據(jù)保留權(quán))和單方強(qiáng)加用戶義務(wù)的責(zé)問。傻瓜式的面部替代使得境內(nèi)外主流媒體、民間大V、專業(yè)律師乃至普通民眾等直觀感受和聯(lián)想到各種應(yīng)用場景中的替換風(fēng)險,紛紛開始憂心人身和財產(chǎn)安全,繼而引發(fā)對于人臉識別應(yīng)用于門禁、安防、支付等領(lǐng)域的安全性、精準(zhǔn)性與可靠性的廣泛質(zhì)疑。 最終導(dǎo)致“ZAO”一再修改用戶協(xié)議,并在緊急發(fā)布的《致歉函》中解釋系統(tǒng)“不存儲信息、不產(chǎn)生支付風(fēng)險、會刪除相應(yīng)信息”,卻難以扭轉(zhuǎn)評分暴跌、用戶流失、公信力下降的局面,亦給其他應(yīng)用場景(如刷臉支付)帶來巨大的信任危機(jī)。

    事實上, 人臉識別應(yīng)用的數(shù)據(jù)存儲和傳輸流程均有可能被劫持, 存在嚴(yán)重的隱私侵權(quán)和安全受損風(fēng)險。驚人的利潤、異化的成就感與尚不健全的法律規(guī)制和行政監(jiān)管等使得人臉識別黑產(chǎn)市場逐漸壯大。全球虛擬空間無縫對接、各國調(diào)整規(guī)則存在差異以及全球一體化的司法協(xié)助機(jī)制尚未形成等, 為人臉識別黑產(chǎn)的滋長留下了巨大巢白。 僅以人工智能合成媒體領(lǐng)域為例,“深度偽造”(Deepfakes) 技術(shù)開源兩年后,黑產(chǎn)鏈已經(jīng)步入成熟期,不僅提供色情片換臉和惡意欺詐視頻制作的教學(xué)與定制服務(wù), 還積極“攻堅”金融類刷臉程序。 目前能夠騙過一些采用低端活體檢測技術(shù)或靜態(tài)圖片的小微平臺的刷臉系統(tǒng), 亦有可能在使用個人圖像的現(xiàn)實場景中成功實施侵權(quán)行為。

    2.2 人臉識別應(yīng)用的隱私風(fēng)險分析

    人臉識別系統(tǒng)重點核驗自然人專有的唯一面部信息,客觀上能夠有效防范個人隱私泄露。 但是,隔空捕捉信息和網(wǎng)絡(luò)爬取數(shù)據(jù)等特征使其在具體應(yīng)用過程中有能力繞過對方知情同意, 在未經(jīng)授權(quán)或超出用戶明確許可的收集目的之外,采集、使用、流轉(zhuǎn)他人的面部數(shù)據(jù)。即便是在公共場所之中,只要自然人并未事先獲得清晰明確的正在被侵入性識別技術(shù)監(jiān)控的通知或者已經(jīng)主動采取有效措施(如戴帽子口罩等)隱藏面部特征,主觀上就享有合理的隱私期待。 如IBM 在被獲取面部數(shù)據(jù)的自然人毫不知情的狀況下從Flickr 網(wǎng)站抓取了近100 萬張照片用于訓(xùn)練人臉識別算法,嚴(yán)重侵害用戶的隱私權(quán)益。

    同時, 人臉識別系統(tǒng)在重建人臉影像的過程中有可能發(fā)生功能潛變, 不僅分析出對象的種族、年齡、性取向、健康狀況、情緒變化等,甚至通過手機(jī)唯一標(biāo)識符連接不同數(shù)據(jù)庫中特定自然人的人臉信息和其他資料,使得個人隱私安全岌岌可危。

    此外, 人臉特征的專屬性與唯一性使得隱蔽采集并聚合存儲人臉數(shù)據(jù)的識別系統(tǒng)一旦存在漏洞,就有可能觸發(fā)難以挽回的重大隱私侵權(quán)事件。 如2019 年2 月,荷蘭安全研究員維克托·格韋爾斯發(fā)現(xiàn)我國深網(wǎng)視界公司的數(shù)據(jù)庫存在未授權(quán)訪問的漏洞,導(dǎo)致數(shù)百萬人的身份證信息、人臉識別圖像及捕獲地點等處于任何人都可以查看的“裸奔”狀態(tài),嚴(yán)重威脅隱私安全。

    2.3 人臉識別應(yīng)用的平等風(fēng)險分析

    平等權(quán)是公民享有的基本權(quán)利, 不受歧視權(quán)從平等權(quán)中發(fā)展而來。 人臉識別應(yīng)用的生命周期中集聚著芯片廠商、算法廠商、移動終端廠商、行業(yè)應(yīng)用廠商、安全解決方案廠商等眾多角色,人臉信息的泄露形式復(fù)雜多樣, 技術(shù)濫用與不正當(dāng)競爭事件頻繁發(fā)生,整個識別過程充斥著歧視與偏見。相關(guān)行業(yè)標(biāo)準(zhǔn)、 行政處罰和法律救濟(jì)匱乏以及技術(shù)本身的高度專精化等進(jìn)一步提升監(jiān)管難度和成本, 嚴(yán)重?fù)p害用戶應(yīng)當(dāng)享有的平等權(quán)益。 如美國邁阿密的智能化治安監(jiān)控系統(tǒng)重點關(guān)注低收入的黑人群體和西班牙移民(種族歧視);又如,使用人臉識別門禁或支付系統(tǒng)的商家通過捕捉用戶喜好和購物行為, 勾勒購物習(xí)慣并提供不同的推薦列表和價格標(biāo)準(zhǔn) (價格歧視);再如,美國麻省理工學(xué)院對于微軟、Facebook、IBM 等公司人臉識別系統(tǒng)的研究表明, 檢測膚色較深女性的出錯率比檢測膚色較淺的男性高出35%(性別歧視+種族歧視)。

    2.4 人臉識別應(yīng)用的自由風(fēng)險分析

    人臉識別技術(shù)的過度應(yīng)用正在將人們的日常生活置于邊沁的全景敞視監(jiān)獄之下。 2018 年11 月,美國七名眾議院議員聯(lián)名譴責(zé)人臉識別技術(shù)有可能扼殺個人在公共場合行使言論自由權(quán)的意愿。 無孔不入的人臉識別應(yīng)用擴(kuò)大了權(quán)力監(jiān)控的廣度與深度,導(dǎo)致人們產(chǎn)生受制于技術(shù)識別的恐懼,不僅謹(jǐn)言慎行地避免違法犯罪,甚至不愿參加社會活動,在一定程度上減損其享有的言論、集會和結(jié)社自由。

    2.5 人臉識別應(yīng)用的安全風(fēng)險分析

    人臉識別應(yīng)用場景的不斷拓展使得算法模塊愈加復(fù)雜, 分布式存儲與高并發(fā)處理中暴露的技術(shù)偏差和密集的功能潛變嚴(yán)重威脅著群己安全。一方面,人臉識別算法的穩(wěn)定性受到光照條件、地理位置、遮擋狀況等外界因素和存儲圖像清晰度、 識別閾值設(shè)置等內(nèi)部因素的影響;另一方面,部分企業(yè)為了識別通過率而偽造誤讀率, 黑客通過篡改數(shù)據(jù)庫中的人臉模板而使得識別算法在正常運(yùn)作下輸出錯誤信息等。 這一切嚴(yán)重威脅國家安全、經(jīng)濟(jì)安全、信息安全和人身安全。 如亞馬遜的人臉識別產(chǎn)品Rekognition在美國公民自由聯(lián)盟 (American Civil Liberties Union, ACLU) 的測試中將535 名美國國會議員中的28 人誤判為罪犯。

    3 人臉識別應(yīng)用的風(fēng)險控制

    人臉識別應(yīng)用的健康有序發(fā)展亟待加強(qiáng)頂層設(shè)計、持續(xù)改進(jìn)技術(shù)、修補(bǔ)重建有效規(guī)制應(yīng)用場域的法律規(guī)范,全面提升識別算法的安全性、實操性與穩(wěn)定性。

    3.1 人臉識別應(yīng)用法律規(guī)制的現(xiàn)狀分析

    3.1.1 初心不改的歐盟

    歐盟在開展經(jīng)濟(jì)、政治、文化和社會活動中長期遵循尊重人格尊嚴(yán)、崇尚個人自由、保護(hù)從人身到財產(chǎn)私權(quán)的傳統(tǒng)。直接附著于人身、具有唯一性、持久性和不可更改性的人臉信息密切關(guān)聯(lián)著尊嚴(yán)、自由、財產(chǎn)與話語權(quán)等。 無論是在治安管理、刑事偵查、醫(yī)療保健等非商業(yè)領(lǐng)域中使用, 還是形形色色的商業(yè)應(yīng)用,無不觸及人權(quán)保護(hù)組織、新聞媒體乃至社會大眾的敏感神經(jīng)。因之,歐盟對于人臉識別的研發(fā)和應(yīng)用,一直堅守著謹(jǐn)慎的態(tài)度, 要求境內(nèi)任何涉及人臉識別的活動都必須嚴(yán)格遵循《歐盟數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation, GDPR)的規(guī)定。 即企業(yè)必須披露人臉數(shù)據(jù)收集和使用的全部信息, 且在采取任何行動前必須逐一獲得消費(fèi)者的明示同意。

    3.1.2 緊急轉(zhuǎn)向的美國

    美國作為技術(shù)大國,對于人臉識別的規(guī)制問題,在較長時間內(nèi)保持沉默。近日卻自上至下(聯(lián)邦、州、地方政府)表現(xiàn)出加強(qiáng)人臉識別監(jiān)管、限制開發(fā)應(yīng)用的態(tài)度。

    聯(lián)邦層面上, 雖然美國國會如火如荼地展開辯論,但迄今尚未形成全國性的統(tǒng)一規(guī)則。 《算法問責(zé)法案(2019)》(Algorithmic Accountability Act 2019)將各類計算機(jī)算法的研發(fā)與應(yīng)用納入監(jiān)管和問責(zé)范圍, 明確要求企業(yè)承擔(dān)積極修復(fù)缺陷算法的責(zé)任,避免產(chǎn)生有偏見、含歧視或不準(zhǔn)確的輸出結(jié)果。 《商業(yè)性人臉識別隱私法案 (2019)》(Commercial Facial Recognition Privacy Act of 2019)作為美國調(diào)整人臉識別技術(shù)、產(chǎn)品和服務(wù)的示范性專項規(guī)定,已經(jīng)列入全美商業(yè)、科學(xué)和交通委員會的參鑒范圍?!斗ò浮方谷魏慰刂普咴跊]有取得終端用戶(個人)明確同意的情況下采集、創(chuàng)造、產(chǎn)生、記錄、組織、構(gòu)建、存儲、應(yīng)用、修改、編輯、咨詢、使用、披露、轉(zhuǎn)讓、傳播或者采取其他方式使用、 組合、 擦除或者銷毀面部信息。 《法案》不僅對“明確同意”做出具體界定(個人的、排他的、自愿地表示同意),還要求控制者向終端用戶發(fā)送詳實易懂的識別通知, 充分保障其知情權(quán)和選擇權(quán), 亦要求在線的人臉識別程序應(yīng)當(dāng)能夠由獨(dú)立第三方進(jìn)行精準(zhǔn)性和反歧視測評。 當(dāng)然,《法案》將國家行政和安全部門、法律執(zhí)行機(jī)構(gòu)和情報組織等排除在“控制者”之外,為保障公共安全、制裁違法犯罪以及開展明顯有益終端用戶的識別活動留下了一定空間。 此外,白宮委員會的不少成員公開呼吁加強(qiáng)人臉識別的透明度與可責(zé)性。 法律專家和社會學(xué)者紛紛表示,在人臉識別技術(shù)更為成熟、規(guī)制范圍更為廣泛且方案更為嚴(yán)謹(jǐn)之前, 有必要嚴(yán)格限制人臉識別的應(yīng)用。

    地方層面上, 包括加利福利亞在內(nèi)的美國數(shù)州投入應(yīng)用的刷臉支付系統(tǒng)運(yùn)轉(zhuǎn)良好。 國家數(shù)據(jù)改革中心的調(diào)查顯示, 僅有26.2%的受訪者認(rèn)為政府應(yīng)當(dāng)嚴(yán)格限制人臉識別技術(shù)的應(yīng)用。但是,融合各行各業(yè)需求的人臉識別產(chǎn)品和服務(wù)缺少統(tǒng)一合理的客觀標(biāo)準(zhǔn),逐漸暴露出偏見歧視、侵害少數(shù)派權(quán)益以及影響公眾自由表達(dá)等嚴(yán)重問題。 因之,舊金山、薩默維爾、 奧克蘭等已經(jīng)禁止政府部門在公開場合進(jìn)行人臉監(jiān)控; 加利福利亞要求人臉識別的商業(yè)化應(yīng)用必須展示出明確、具體、清晰、可解釋的標(biāo)記;馬薩諸塞有關(guān)人臉識別和其他遠(yuǎn)程生物監(jiān)控的禁令尚在討論階段;伯克利和紐約市對此也有所考慮。

    3.1.3 實踐推動的中國

    我國尚未專門立法保護(hù)個人生物信息權(quán), 但各界對于其是基本人格權(quán)的法律定位已經(jīng)形成共識。目前可適用《網(wǎng)絡(luò)安全法》第41 條的規(guī)定:“網(wǎng)絡(luò)運(yùn)營者收集、使用個人信息,應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,公開收集、使用規(guī)則,明示收集、使用信息的目的、方式和范圍,并經(jīng)被收集者同意。 ”《App 違法違規(guī)收集使用個人信息行為認(rèn)定方法 (征求意見稿)》、推薦性國家標(biāo)準(zhǔn)《信息安全技術(shù)-個人信息安全規(guī)范》(GB/T 35273-2017) 等更為詳細(xì)地規(guī)定了違法違規(guī)收集使用個人信息的行為,為相關(guān)企業(yè)自查自糾提供有力指引。 《安全防范視頻監(jiān)控人臉識別系統(tǒng)技術(shù)要求》明確規(guī)定了視頻監(jiān)控人臉注冊、人臉圖像捕獲和比對的基本結(jié)構(gòu)、功能要求、測試方法和專業(yè)術(shù)語并建立用戶記錄管理機(jī)制。 《公共安全-人臉識別應(yīng)用-圖像技術(shù)要求》(GB/T 35678-2017) 要求公共安全領(lǐng)域處理采集到的圖像數(shù)據(jù)時不對臉部區(qū)域進(jìn)行修改,并對采集過程中的幾何失真、運(yùn)動模糊及高斯模塊等進(jìn)行了定量規(guī)定。 《民法典·人格權(quán)編(草案二審稿)》第799 條規(guī)定,“任何組織或者個人不得以歪曲、污辱等方式侵害他人的肖像權(quán)。 未經(jīng)肖像權(quán)人同意,他人不得制作、使用、公開自然人的肖像,但是法律另有規(guī)定的除外”,即任何利用信息技術(shù)偽造人臉的行為都應(yīng)當(dāng)承擔(dān)法律責(zé)任。2019 年1 月,螞蟻金服牽頭推動制定的《移動設(shè)備生物特征識別身份認(rèn)證安全要求》(ISO/IEC27553)獲得英美韓日等23 國代表投票支持,成為我國生物識別身份認(rèn)證領(lǐng)域的首個ISO 國際標(biāo)準(zhǔn),亦填補(bǔ)了相關(guān)國際標(biāo)準(zhǔn)的空白。但是,整體而言,我國人臉識別應(yīng)用風(fēng)險的法律規(guī)制體系尚不完善, 存在監(jiān)管層次較低、權(quán)責(zé)不明、執(zhí)法綿軟、救濟(jì)難度較大等問題。

    近來, 國內(nèi)數(shù)次發(fā)生大規(guī)模的人臉識別安全事件。面對公眾高漲的焦慮情緒,政府部門表現(xiàn)出積極制止和救濟(jì)的態(tài)度。如“ZAO 事件”發(fā)酵之后,工信部很快對其投資方進(jìn)行了問詢約談, 要求針對不規(guī)范的用戶隱私協(xié)議和數(shù)據(jù)泄露風(fēng)險進(jìn)行自查整改。 值全球一體化的經(jīng)濟(jì)格局下強(qiáng)調(diào)分享技術(shù)進(jìn)步與共情治理之際, 歐美國家逐漸收緊人臉識別研發(fā)與應(yīng)用的趨勢有可能推動我國相關(guān)立法進(jìn)程。 通過明確人臉識別的運(yùn)作規(guī)則和法律責(zé)任, 規(guī)范政府和企業(yè)在不同場景下收集、存儲和利用人臉信息的行為,使之步入規(guī)范化發(fā)展軌道; 加大對公眾人臉信息特征的保護(hù)力度和對非法售賣的打擊力度, 基于工具理性和價值理性的博弈,合理限制人工智能的應(yīng)用場景,維護(hù)用戶隱私、自由、平等和安全權(quán)益。

    3.2 人臉識別應(yīng)用侵權(quán)風(fēng)險的控制策略

    3.2.1 完善人臉識別應(yīng)用的調(diào)整規(guī)則

    我國需要深入落實《新一代人工智能發(fā)展規(guī)劃的相關(guān)要求》,基于國家信息安全的內(nèi)在需要與助力產(chǎn)業(yè)結(jié)構(gòu)轉(zhuǎn)型升級并充分接軌國際市場之目標(biāo),分類分層制定適應(yīng)人臉識別技術(shù)應(yīng)用發(fā)展需要的法律規(guī)范,明確本領(lǐng)域內(nèi)公權(quán)力與個人信息權(quán)的邊界,從數(shù)據(jù)安全、消費(fèi)者權(quán)益保護(hù)、個人隱私權(quán)等方面確立權(quán)責(zé)關(guān)系, 細(xì)化人臉識別市場準(zhǔn)入制度并限制具體應(yīng)用場景,構(gòu)筑人臉特征信息采集、存儲、傳輸和利用的法定標(biāo)準(zhǔn),搭建及時、可行、有效的備案制度、評估制度、監(jiān)管制度和侵權(quán)損害賠償制度,及時發(fā)現(xiàn)并規(guī)避產(chǎn)品缺陷和風(fēng)險隱患,避免人臉特征數(shù)據(jù)濫用,實現(xiàn)公益與私益、效率與公平之間的動態(tài)平衡。

    迄今為止, 國家標(biāo)準(zhǔn)化管理委員會尚未建立人臉識別泛化應(yīng)用的統(tǒng)一標(biāo)準(zhǔn), 僅僅發(fā)布了圍繞刑事偵查、 證件管理和公共安全防護(hù)等公安業(yè)務(wù)展開的《公共安全人臉識別應(yīng)用圖像技術(shù)要求》。 我國應(yīng)當(dāng)盡快出臺人臉識別應(yīng)用的技術(shù)標(biāo)準(zhǔn)體系, 建立識別產(chǎn)品和服務(wù)的客觀評價標(biāo)尺, 肅清良莠不齊的人臉識別市場,降低廣大消費(fèi)者的維權(quán)成本,提升公權(quán)干預(yù)的技術(shù)評估能力。

    3.2.2 健全人臉識別行業(yè)的自律機(jī)制

    伴隨著日新月異的人臉識別技術(shù)應(yīng)用而來的是數(shù)據(jù)使用和算法運(yùn)作中的諸多風(fēng)險。 具有滯后性的法律法規(guī)和國家標(biāo)準(zhǔn)難以及時解決本領(lǐng)域有序發(fā)展的各種障礙。亟待高效整合行業(yè)內(nèi)部的核心力量,圍繞科技向善的理念健全行業(yè)自律機(jī)制, 強(qiáng)化人臉識別應(yīng)用全生命周期的監(jiān)督管理, 通過安全可信的產(chǎn)業(yè)鏈推動行業(yè)健康發(fā)展。

    如黑產(chǎn)市場中積聚著大量可信個人數(shù)據(jù)集和一流的技術(shù)實力,有可能批量突破安全屏障,導(dǎo)致公眾極度不信任人臉識別技術(shù)應(yīng)用。 有必要通過行業(yè)自律規(guī)則,公開采集、使用和保護(hù)人臉信息的邊界與方法,表明企業(yè)勇于承擔(dān)相應(yīng)法律、倫理和社會責(zé)任的態(tài)度,給出充分補(bǔ)償?shù)木葷?jì)方案,提升公眾參與信心和熱情,實現(xiàn)人臉識別技術(shù)迭代、使用需求與法律法規(guī)和倫理政策的良性耦合。又如,從美國的在線快速身份認(rèn)證聯(lián)盟(Fast Identity Online,F(xiàn)IDO)到我國的互聯(lián)網(wǎng)金融身份認(rèn)證聯(lián)盟 (Internet Finance Authentication Alliance,IFAA),搭建人臉識別應(yīng)用細(xì)分場域的聯(lián)盟組織有助于協(xié)調(diào)構(gòu)筑統(tǒng)一的自我約束方案,加強(qiáng)科技企業(yè)主動自律,逐步營建有溫度、有擔(dān)當(dāng)、有技術(shù)的行業(yè)形象。再如,人臉識別應(yīng)用中的很多風(fēng)險源于系統(tǒng)本身的不確定性帶來的技術(shù)誤差。有必要持續(xù)更新硬件級安全通道評估標(biāo)準(zhǔn)、 人臉特征信息活檢算法標(biāo)準(zhǔn)、數(shù)據(jù)接口防護(hù)標(biāo)準(zhǔn)、人臉圖像質(zhì)量標(biāo)準(zhǔn)等行業(yè)技術(shù)標(biāo)準(zhǔn),提升算法廠商準(zhǔn)入要求,推動人臉數(shù)據(jù)脫敏和隱私計算, 營建多層次安全防御的可信執(zhí)行環(huán)境,推動技術(shù)持續(xù)創(chuàng)新與產(chǎn)業(yè)有序發(fā)展。

    3.2.3 勾勒人臉識別企業(yè)的合規(guī)方案

    當(dāng)前, 公眾對于人臉識別技術(shù)處于一知半解的狀態(tài),數(shù)次大規(guī)模的安全事件進(jìn)一步加深社會各界對于科技企業(yè)的質(zhì)疑, 迅速拉低本就薄弱的用戶粘性。如AI 換臉技術(shù)若是應(yīng)用于紀(jì)念場景之中, 將更好地表達(dá)對逝者的緬懷和哀思, 具有較高的社會價值。“ZAO” 卻將之用于低俗娛樂, 且在運(yùn)行中暴露出版權(quán)、肖像權(quán)、隱私權(quán)以及衍生的其他人身和財產(chǎn)權(quán)益風(fēng)險,甚至將政治安全和國家安全置于險地,嚴(yán)重威脅個人名譽(yù)、家庭和諧、社交信任、選舉公平、外交關(guān)系和政治穩(wěn)定,加之程序頻繁卡頓、過度收集用戶數(shù)據(jù)、漠視消費(fèi)者權(quán)益、撇清己方責(zé)任等,充分反映出企業(yè)缺少技術(shù)實力和社會責(zé)任感, 引起公眾強(qiáng)烈反感和恐慌。

    嵌套在社會結(jié)構(gòu)中的人臉識別產(chǎn)品和服務(wù)若要獲得市場認(rèn)可,需要更加安全可靠、便捷無損的透明化運(yùn)作流程。 科技企業(yè)應(yīng)當(dāng)嚴(yán)格按照國家法律法規(guī)和相關(guān)主管部門的要求, 審慎開展人臉識別產(chǎn)品和服務(wù)的研發(fā)推廣和內(nèi)部管理, 避免違規(guī)的人臉信息采集、系統(tǒng)誤操作和算法設(shè)計缺陷,規(guī)范用戶協(xié)議條款,強(qiáng)化人臉信息安全防護(hù),持續(xù)提升識別技術(shù)。

    首先, 企業(yè)應(yīng)當(dāng)積極營建與各主管部門之間順暢的溝通渠道, 更快更好地接收和理解國家政府對于人臉信息采集、存儲、傳輸、分析等各階段違法行為的新認(rèn)識和新規(guī)定, 積極爭取與主管部門合作改進(jìn)監(jiān)管模式;其次,企業(yè)應(yīng)當(dāng)堅守效益平衡的原則,在具體的人臉識別產(chǎn)品和服務(wù)方案預(yù)審之時, 不僅反復(fù)核算成本和收益,還積極開展合規(guī)審查、倫理審查和專利審查, 預(yù)判項目被用于違法犯罪或其他不良場景的概率、負(fù)面影響及應(yīng)急方案,避免開展危害社會的技術(shù)應(yīng)用;再次,企業(yè)在人臉識別應(yīng)用進(jìn)入市場之初就應(yīng)當(dāng)謹(jǐn)慎對待用戶協(xié)議和隱私政策, 完善用戶人臉信息控制權(quán)、刪除權(quán)、遺忘權(quán)和救濟(jì)權(quán)的保障機(jī)制。可以通過實施風(fēng)險全兜底的賠付制度,消除用戶對于應(yīng)用安全的擔(dān)憂。通過附帶的說明書、專家學(xué)者和新聞媒體等渠道持續(xù)、及時、詳細(xì)、透明地向用戶傳遞相關(guān)信息,增強(qiáng)用戶的信任度、歸屬感和忠誠度。

    4 結(jié)語

    隨著能夠提供新的用戶增長點且達(dá)到工程實現(xiàn)標(biāo)準(zhǔn)的人臉識別項目陸續(xù)滲透到安防、金融、教育與娛樂等多個領(lǐng)域,虛擬與現(xiàn)實的界限愈加模糊。這些應(yīng)用的初衷大多并非生成和傳播違法違規(guī)的數(shù)據(jù)資源,如“ZAO”起初是陌陌公司積累用戶數(shù)據(jù)資源、創(chuàng)新社交場景的手段, 卻在實際運(yùn)作中異化為侵害基本人權(quán)、威脅經(jīng)濟(jì)安全和國家安全的重要工具。一方面,人臉特征是自然人不可分割的個性化組成部分,彰顯著人與人之間的天然生物差異。 一旦面部信息對應(yīng)的身份資料被不欲其所知的組織機(jī)構(gòu)或他人掌握,個人的本真感和獨(dú)占意識將遭遇重大危機(jī),甚至長期陷入無所遁形的恐懼之中;另一方面,由于人們在社交互動中往往通過面部表情傳達(dá)和解讀信任、敵意、欺詐等情感信號,人臉也是人際情感交流和構(gòu)建社會關(guān)系的基礎(chǔ)。因之,人臉信息特征一直被視為個人自保的最后屏障與隱私的最低底線。 亟待通過技術(shù)改進(jìn)、法律保障、政府監(jiān)管、企業(yè)自律和個人自助等綜合措施,確保人臉識別技術(shù)應(yīng)用的合規(guī)性、合德性與合理性。

    猜你喜歡
    人臉識別人臉
    人臉識別 等
    有特點的人臉
    一起學(xué)畫人臉
    揭開人臉識別的神秘面紗
    “人臉面具”來了
    三國漫——人臉解鎖
    動漫星空(2018年9期)2018-10-26 01:17:14
    基于(2D)2PCA-LBP 的人臉識別方法的研究
    電子制作(2017年17期)2017-12-18 06:40:55
    人臉識別在高校安全防范中的應(yīng)用
    電子制作(2017年1期)2017-05-17 03:54:46
    基于類獨(dú)立核稀疏表示的魯棒人臉識別
    馬面部與人臉相似度驚人
    一本一本综合久久| 成人永久免费在线观看视频| 精品一区二区三区视频在线观看免费| 国产三级在线视频| 一区福利在线观看| 亚洲精品美女久久av网站| 听说在线观看完整版免费高清| 满18在线观看网站| 国产成人av教育| 午夜精品久久久久久毛片777| 精品一区二区三区四区五区乱码| 国产又黄又爽又无遮挡在线| 婷婷亚洲欧美| 国产免费av片在线观看野外av| 日日干狠狠操夜夜爽| 很黄的视频免费| 亚洲精品在线美女| 精品国产一区二区三区四区第35| 精品高清国产在线一区| 色精品久久人妻99蜜桃| 色播亚洲综合网| 成人三级黄色视频| 99re在线观看精品视频| 日本精品一区二区三区蜜桃| 一个人免费在线观看的高清视频| 久久久久九九精品影院| 99热6这里只有精品| 最新在线观看一区二区三区| 美女扒开内裤让男人捅视频| 久久久久免费精品人妻一区二区 | 久热这里只有精品99| 丰满的人妻完整版| 十八禁网站免费在线| 一边摸一边抽搐一进一小说| 国产亚洲精品久久久久5区| 在线免费观看的www视频| 变态另类丝袜制服| 亚洲黑人精品在线| 美女 人体艺术 gogo| 久久久久久亚洲精品国产蜜桃av| 免费在线观看成人毛片| 亚洲天堂国产精品一区在线| 麻豆一二三区av精品| 黑人操中国人逼视频| 国产精品99久久99久久久不卡| 一区二区三区激情视频| 搡老岳熟女国产| 国产一卡二卡三卡精品| 久久中文字幕人妻熟女| 久久九九热精品免费| 一进一出抽搐动态| 天堂影院成人在线观看| 看黄色毛片网站| 女性被躁到高潮视频| 亚洲国产高清在线一区二区三 | 宅男免费午夜| 少妇裸体淫交视频免费看高清 | 色综合站精品国产| 男女视频在线观看网站免费 | 国产成人精品无人区| 成人手机av| aaaaa片日本免费| 黄色丝袜av网址大全| 亚洲中文日韩欧美视频| 国产99白浆流出| 亚洲自拍偷在线| 在线免费观看的www视频| 91av网站免费观看| 国产麻豆成人av免费视频| 法律面前人人平等表现在哪些方面| 一级毛片精品| 日本成人三级电影网站| www日本黄色视频网| 亚洲男人天堂网一区| 免费女性裸体啪啪无遮挡网站| 成人手机av| 首页视频小说图片口味搜索| 热re99久久国产66热| 国产免费男女视频| 亚洲 国产 在线| 久久国产精品男人的天堂亚洲| 亚洲国产精品999在线| 亚洲久久久国产精品| 听说在线观看完整版免费高清| 99国产综合亚洲精品| 在线观看午夜福利视频| 成年女人毛片免费观看观看9| svipshipincom国产片| 麻豆一二三区av精品| 精品福利观看| 久久久国产欧美日韩av| 日韩欧美一区视频在线观看| 9191精品国产免费久久| 九色国产91popny在线| 久久久久精品国产欧美久久久| 黄色a级毛片大全视频| 99久久99久久久精品蜜桃| 老熟妇乱子伦视频在线观看| 久久香蕉精品热| 久久香蕉精品热| 亚洲国产精品合色在线| 99精品在免费线老司机午夜| 欧美中文综合在线视频| 少妇的丰满在线观看| 久久九九热精品免费| 久久精品91无色码中文字幕| 欧美丝袜亚洲另类 | 精品久久久久久久久久久久久 | 成年免费大片在线观看| 一区二区三区精品91| АⅤ资源中文在线天堂| 又大又爽又粗| 久久久久国产一级毛片高清牌| 久久久久久久久中文| 在线观看66精品国产| 精品国产亚洲在线| 黄色成人免费大全| 不卡av一区二区三区| 免费在线观看影片大全网站| 亚洲男人天堂网一区| 免费搜索国产男女视频| 女人被狂操c到高潮| 最新美女视频免费是黄的| 久久精品亚洲精品国产色婷小说| 大型黄色视频在线免费观看| 19禁男女啪啪无遮挡网站| 亚洲九九香蕉| 国产熟女午夜一区二区三区| 国产aⅴ精品一区二区三区波| 制服人妻中文乱码| 中亚洲国语对白在线视频| 51午夜福利影视在线观看| 别揉我奶头~嗯~啊~动态视频| 精品无人区乱码1区二区| 大型av网站在线播放| 国产亚洲欧美98| 丰满人妻熟妇乱又伦精品不卡| 中文字幕精品免费在线观看视频| 不卡av一区二区三区| 一进一出抽搐gif免费好疼| 欧美亚洲日本最大视频资源| 国产欧美日韩一区二区三| 日本a在线网址| 真人一进一出gif抽搐免费| 女人被狂操c到高潮| 精品国内亚洲2022精品成人| 国产视频一区二区在线看| 美女午夜性视频免费| 国产蜜桃级精品一区二区三区| 99国产综合亚洲精品| 国产麻豆成人av免费视频| 两个人看的免费小视频| 在线观看免费视频日本深夜| 精品久久久久久,| 啦啦啦 在线观看视频| 久久天躁狠狠躁夜夜2o2o| 丝袜人妻中文字幕| 久久久国产成人免费| 精品一区二区三区四区五区乱码| 99精品在免费线老司机午夜| 少妇粗大呻吟视频| 国产欧美日韩精品亚洲av| 久久精品91无色码中文字幕| 在线播放国产精品三级| 757午夜福利合集在线观看| 男人舔女人的私密视频| 久久精品影院6| 成人手机av| 久久国产精品人妻蜜桃| 久久精品91蜜桃| av欧美777| av在线天堂中文字幕| 99热6这里只有精品| 丁香六月欧美| 此物有八面人人有两片| 90打野战视频偷拍视频| 两人在一起打扑克的视频| 成人一区二区视频在线观看| 悠悠久久av| 久久中文看片网| 人成视频在线观看免费观看| 精品日产1卡2卡| 精品卡一卡二卡四卡免费| 不卡一级毛片| 亚洲男人天堂网一区| 亚洲人成77777在线视频| 91国产中文字幕| 久久精品国产99精品国产亚洲性色| 91在线观看av| 97人妻精品一区二区三区麻豆 | 一个人观看的视频www高清免费观看 | 超碰成人久久| 色综合亚洲欧美另类图片| 欧美成人一区二区免费高清观看 | 高清在线国产一区| 大型黄色视频在线免费观看| 亚洲av熟女| 精品第一国产精品| av在线播放免费不卡| 香蕉国产在线看| 黑人操中国人逼视频| 国产免费av片在线观看野外av| 欧美人与性动交α欧美精品济南到| 中文字幕精品免费在线观看视频| 黄色视频不卡| svipshipincom国产片| 国产爱豆传媒在线观看 | 美女扒开内裤让男人捅视频| 午夜免费成人在线视频| 给我免费播放毛片高清在线观看| www日本在线高清视频| 黄片小视频在线播放| 很黄的视频免费| 久久国产精品影院| 免费观看人在逋| 国产又黄又爽又无遮挡在线| 一级a爱片免费观看的视频| 一区二区三区精品91| 91九色精品人成在线观看| 在线永久观看黄色视频| 国产成人欧美在线观看| 久久久久久人人人人人| 久久精品成人免费网站| 两性午夜刺激爽爽歪歪视频在线观看 | 在线免费观看的www视频| 国产区一区二久久| 丝袜在线中文字幕| 亚洲五月天丁香| 一级毛片高清免费大全| 精品乱码久久久久久99久播| 色av中文字幕| 色在线成人网| 久久久精品国产亚洲av高清涩受| 精品国产亚洲在线| 亚洲精华国产精华精| 9191精品国产免费久久| 亚洲精品美女久久av网站| 熟女少妇亚洲综合色aaa.| 日韩欧美 国产精品| 人成视频在线观看免费观看| 国产伦在线观看视频一区| 黄片小视频在线播放| 免费看日本二区| 色婷婷久久久亚洲欧美| 神马国产精品三级电影在线观看 | 大型av网站在线播放| 亚洲欧美日韩高清在线视频| 两个人免费观看高清视频| 无人区码免费观看不卡| 久久久久久免费高清国产稀缺| 精品久久久久久久毛片微露脸| 伦理电影免费视频| 巨乳人妻的诱惑在线观看| 久久天躁狠狠躁夜夜2o2o| 91在线观看av| 琪琪午夜伦伦电影理论片6080| av超薄肉色丝袜交足视频| 麻豆成人午夜福利视频| 黄色成人免费大全| 欧美成人性av电影在线观看| 黑人操中国人逼视频| 亚洲成av片中文字幕在线观看| 精品久久蜜臀av无| av天堂在线播放| 亚洲一码二码三码区别大吗| 女人爽到高潮嗷嗷叫在线视频| 99热只有精品国产| 欧美中文综合在线视频| 国产在线观看jvid| 日韩一卡2卡3卡4卡2021年| 国产一级毛片七仙女欲春2 | 亚洲av成人不卡在线观看播放网| tocl精华| 岛国在线观看网站| 久久久精品欧美日韩精品| 国产成人av激情在线播放| 亚洲精品久久成人aⅴ小说| 精品一区二区三区四区五区乱码| 日韩免费av在线播放| 成年版毛片免费区| 99在线人妻在线中文字幕| 日本在线视频免费播放| 国产真人三级小视频在线观看| 亚洲成人久久爱视频| 侵犯人妻中文字幕一二三四区| 亚洲九九香蕉| 中文资源天堂在线| 欧美日韩中文字幕国产精品一区二区三区| 亚洲在线自拍视频| 亚洲性夜色夜夜综合| 老司机靠b影院| 亚洲精华国产精华精| 老司机深夜福利视频在线观看| 免费在线观看视频国产中文字幕亚洲| a级毛片a级免费在线| 最近最新中文字幕大全电影3 | 精品无人区乱码1区二区| 亚洲中文字幕一区二区三区有码在线看 | 久久人人精品亚洲av| 亚洲五月婷婷丁香| 亚洲男人的天堂狠狠| av天堂在线播放| 一级作爱视频免费观看| 丝袜在线中文字幕| tocl精华| 色哟哟哟哟哟哟| 国产成人精品久久二区二区91| 欧美成人免费av一区二区三区| 一级黄色大片毛片| 国产欧美日韩精品亚洲av| 最近在线观看免费完整版| 在线观看舔阴道视频| 亚洲男人天堂网一区| 高清在线国产一区| 欧美黑人精品巨大| 久久草成人影院| 一区二区三区高清视频在线| 国产片内射在线| 此物有八面人人有两片| 国产成人一区二区三区免费视频网站| 亚洲 国产 在线| 麻豆国产av国片精品| 日韩中文字幕欧美一区二区| 一边摸一边抽搐一进一小说| 亚洲五月色婷婷综合| 免费搜索国产男女视频| 777久久人妻少妇嫩草av网站| 精品国产乱码久久久久久男人| 久久 成人 亚洲| 亚洲精品色激情综合| 丰满人妻熟妇乱又伦精品不卡| 午夜福利欧美成人| 成熟少妇高潮喷水视频| 巨乳人妻的诱惑在线观看| 夜夜夜夜夜久久久久| 男人舔女人的私密视频| 午夜激情福利司机影院| 精品人妻1区二区| 操出白浆在线播放| 午夜福利高清视频| 在线观看免费午夜福利视频| 国产精品综合久久久久久久免费| 午夜精品久久久久久毛片777| 国产一级毛片七仙女欲春2 | 欧美日本亚洲视频在线播放| 国产日本99.免费观看| 少妇粗大呻吟视频| bbb黄色大片| 国产成人欧美| 99在线视频只有这里精品首页| 动漫黄色视频在线观看| 禁无遮挡网站| 老司机靠b影院| 后天国语完整版免费观看| 动漫黄色视频在线观看| 91国产中文字幕| 亚洲三区欧美一区| 一区二区三区精品91| 搞女人的毛片| 欧美日韩黄片免| 天堂动漫精品| 淫妇啪啪啪对白视频| 亚洲精品色激情综合| 久久热在线av| 欧美日韩福利视频一区二区| 老熟妇仑乱视频hdxx| 麻豆国产av国片精品| 黄色 视频免费看| 久久九九热精品免费| 精品国产亚洲在线| 一级作爱视频免费观看| 97碰自拍视频| 国产日本99.免费观看| 亚洲精品一区av在线观看| 99热6这里只有精品| 国产精品影院久久| 久久精品国产99精品国产亚洲性色| 无遮挡黄片免费观看| 亚洲成a人片在线一区二区| 神马国产精品三级电影在线观看 | 亚洲av电影在线进入| 亚洲天堂国产精品一区在线| 国产精品二区激情视频| 亚洲欧美日韩高清在线视频| 日韩高清综合在线| 婷婷精品国产亚洲av| 满18在线观看网站| 欧美日韩精品网址| 51午夜福利影视在线观看| 日本熟妇午夜| 欧美黑人精品巨大| 欧洲精品卡2卡3卡4卡5卡区| 国产私拍福利视频在线观看| 91老司机精品| 黄色视频不卡| 久久久久免费精品人妻一区二区 | 久久欧美精品欧美久久欧美| 女警被强在线播放| 999久久久国产精品视频| 热99re8久久精品国产| 999久久久国产精品视频| x7x7x7水蜜桃| 无遮挡黄片免费观看| 亚洲欧美精品综合久久99| 天堂动漫精品| 黄片播放在线免费| 啦啦啦 在线观看视频| 男男h啪啪无遮挡| 成在线人永久免费视频| 亚洲精品在线观看二区| 国产麻豆成人av免费视频| 日韩欧美国产一区二区入口| 久久草成人影院| 男人舔女人下体高潮全视频| 高清在线国产一区| 一进一出好大好爽视频| 高清在线国产一区| 国产精品一区二区三区四区久久 | 精品久久久久久,| 又紧又爽又黄一区二区| 91九色精品人成在线观看| 精品久久久久久久毛片微露脸| 精品国产国语对白av| 国产伦人伦偷精品视频| 欧美又色又爽又黄视频| 精品久久蜜臀av无| 两个人免费观看高清视频| 日本三级黄在线观看| 亚洲欧美日韩无卡精品| 搡老妇女老女人老熟妇| 搡老岳熟女国产| 精品熟女少妇八av免费久了| 人人妻,人人澡人人爽秒播| www国产在线视频色| 日本 av在线| xxx96com| 亚洲av电影在线进入| 母亲3免费完整高清在线观看| 国产精品国产高清国产av| 久久天躁狠狠躁夜夜2o2o| 妹子高潮喷水视频| 三级毛片av免费| 日韩成人在线观看一区二区三区| 亚洲中文字幕一区二区三区有码在线看 | 午夜福利高清视频| 在线av久久热| 草草在线视频免费看| 黄片播放在线免费| 嫩草影院精品99| 免费在线观看视频国产中文字幕亚洲| 18美女黄网站色大片免费观看| 亚洲国产精品999在线| 中出人妻视频一区二区| 在线永久观看黄色视频| 人妻丰满熟妇av一区二区三区| 欧美国产日韩亚洲一区| 久久中文看片网| 可以在线观看毛片的网站| 露出奶头的视频| 无限看片的www在线观看| 亚洲五月天丁香| 老汉色∧v一级毛片| 免费在线观看成人毛片| 欧美黑人精品巨大| 国产99久久九九免费精品| 淫秽高清视频在线观看| 老熟妇乱子伦视频在线观看| 真人一进一出gif抽搐免费| 亚洲精品在线观看二区| 午夜成年电影在线免费观看| 亚洲久久久国产精品| 91在线观看av| 中亚洲国语对白在线视频| 亚洲精品中文字幕在线视频| 欧美丝袜亚洲另类 | 欧美性猛交╳xxx乱大交人| 不卡av一区二区三区| 日韩大码丰满熟妇| 男人舔奶头视频| 精品久久蜜臀av无| 亚洲av美国av| 好看av亚洲va欧美ⅴa在| 一级片免费观看大全| 精品国产超薄肉色丝袜足j| 黄色片一级片一级黄色片| 波多野结衣av一区二区av| 久久久久精品国产欧美久久久| 久久久水蜜桃国产精品网| 中文资源天堂在线| 视频在线观看一区二区三区| 午夜福利高清视频| 成人亚洲精品av一区二区| 亚洲精品色激情综合| 亚洲国产日韩欧美精品在线观看 | 精品电影一区二区在线| 亚洲成a人片在线一区二区| 日韩欧美一区视频在线观看| 中文字幕av电影在线播放| 制服丝袜大香蕉在线| 亚洲人成网站在线播放欧美日韩| 一进一出抽搐动态| 亚洲片人在线观看| 一级毛片精品| 人成视频在线观看免费观看| 一进一出抽搐gif免费好疼| 久久草成人影院| 欧美黄色片欧美黄色片| 国产伦一二天堂av在线观看| 在线观看午夜福利视频| 亚洲精品在线观看二区| 伦理电影免费视频| 精品久久久久久久毛片微露脸| 欧美日韩精品网址| 18禁黄网站禁片午夜丰满| 国产精品香港三级国产av潘金莲| 欧美最黄视频在线播放免费| av视频在线观看入口| 日本黄色视频三级网站网址| 在线看三级毛片| 他把我摸到了高潮在线观看| 真人做人爱边吃奶动态| 一级片免费观看大全| 18禁观看日本| 国产精品 欧美亚洲| 欧美日韩中文字幕国产精品一区二区三区| 亚洲色图av天堂| 久99久视频精品免费| 一级a爱片免费观看的视频| 精品一区二区三区av网在线观看| 国产精品av久久久久免费| 久久香蕉精品热| e午夜精品久久久久久久| 1024香蕉在线观看| 美国免费a级毛片| 国产精华一区二区三区| 国产三级在线视频| 亚洲天堂国产精品一区在线| 久久中文字幕一级| 亚洲熟女毛片儿| 国内精品久久久久久久电影| 少妇被粗大的猛进出69影院| netflix在线观看网站| 国产精品久久视频播放| 好男人电影高清在线观看| 校园春色视频在线观看| 国产亚洲欧美在线一区二区| 久热爱精品视频在线9| 99久久国产精品久久久| 国产精品久久久久久精品电影 | 久久精品91无色码中文字幕| 神马国产精品三级电影在线观看 | 久久久久久国产a免费观看| 成年版毛片免费区| 美女 人体艺术 gogo| 日本一区二区免费在线视频| 国产蜜桃级精品一区二区三区| 精品卡一卡二卡四卡免费| 99riav亚洲国产免费| 色在线成人网| 免费观看精品视频网站| 日日干狠狠操夜夜爽| 一区二区三区高清视频在线| 国产久久久一区二区三区| 嫩草影院精品99| 欧美三级亚洲精品| 久久精品国产99精品国产亚洲性色| www.999成人在线观看| 亚洲va日本ⅴa欧美va伊人久久| 一本一本综合久久| av在线播放免费不卡| 久久久久久久久中文| 俺也久久电影网| 久久午夜亚洲精品久久| 国产成人系列免费观看| 夜夜躁狠狠躁天天躁| а√天堂www在线а√下载| 丝袜在线中文字幕| 欧美一级毛片孕妇| 久久精品国产清高在天天线| 欧美乱码精品一区二区三区| 91国产中文字幕| 国产不卡一卡二| 国产激情偷乱视频一区二区| 久久天躁狠狠躁夜夜2o2o| 国产精品美女特级片免费视频播放器 | 少妇熟女aⅴ在线视频| 欧美人与性动交α欧美精品济南到| 亚洲精品久久成人aⅴ小说| 亚洲国产欧美网| 青草久久国产| avwww免费| 久久精品国产综合久久久| 欧美成狂野欧美在线观看| 国产又爽黄色视频| 久久久久久久久中文| 国产色视频综合| 久久国产精品男人的天堂亚洲| 国产精品一区二区免费欧美| 亚洲七黄色美女视频| 国产精品日韩av在线免费观看| 国语自产精品视频在线第100页| 久久久精品国产亚洲av高清涩受| 欧美黄色片欧美黄色片| 激情在线观看视频在线高清| 美女 人体艺术 gogo| 欧美黑人欧美精品刺激| 亚洲av五月六月丁香网| 97超级碰碰碰精品色视频在线观看| 波多野结衣高清作品| 一级a爱视频在线免费观看| 性欧美人与动物交配| 亚洲中文av在线| 久久精品91蜜桃| 欧美中文综合在线视频| 亚洲中文av在线|