• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人臉識別技術(shù)應(yīng)用的侵權(quán)風(fēng)險與控制策略*

    2019-11-13 08:50:43
    圖書與情報 2019年5期
    關(guān)鍵詞:人臉識別人臉

    蔣 潔

    (1.南京信息工程大學(xué)中意網(wǎng)絡(luò)侵權(quán)研究所 江蘇南京 210044)

    (2.南京信息工程大學(xué)法政學(xué)院 江蘇南京 210044)

    新一代人工智能技術(shù)突破了數(shù)據(jù)、 算法和算力的瓶頸,充分展現(xiàn)出造福社會發(fā)展的正向效能,迅速吸引來源復(fù)雜的巨量投資, 掀起全球性的國家戰(zhàn)略支撐浪潮。 各國紛紛出臺相應(yīng)政策,如美國的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》、德國的《人工智能戰(zhàn)略要點》、我國的《新一代人工智能發(fā)展規(guī)劃》等,這些政策引領(lǐng)了人工智能發(fā)展方向。然而,這一創(chuàng)新引擎在深度融合實體經(jīng)濟(jì)的過程中, 逐漸暴露出難以落地具體場景的棘手障礙, 引發(fā)了擔(dān)憂人工智能再逢寒冬的輿情熱議。

    面對人工智能應(yīng)用最后一公里道阻且長、 相關(guān)投融資項目頻繁失敗的艱難局面, 作為落地風(fēng)口的人臉識別技術(shù)在井噴式應(yīng)用實踐中亦暴露出受制于光線、年齡、妝容等的固有缺陷和復(fù)雜多樣的違規(guī)現(xiàn)象。 如越來越多的圖書館為了實現(xiàn)無介質(zhì)化的智慧服務(wù),紛紛將人臉識別技術(shù)嵌入門禁、借閱、物品存放、遠(yuǎn)程預(yù)約以及內(nèi)部考勤和管理系統(tǒng),卻往往由于識別偏差和速度限制而增加高峰期的時間成本,且讀者對于錄入人臉信息的接受意愿和持續(xù)使用意愿較低。 亟待完善人臉識別應(yīng)用的調(diào)整規(guī)則、健全行業(yè)自律機(jī)制、 勾勒企業(yè)合規(guī)方案, 大幅降低侵權(quán)風(fēng)險,有序推動產(chǎn)業(yè)發(fā)展。

    1 人臉識別技術(shù)及其應(yīng)用

    1.1 人臉識別的概念界定與技術(shù)優(yōu)勢

    1.1.1 人臉識別的概念分析

    人臉識別(Face Recognition)是基于人的臉部特征數(shù)據(jù)辨別個體身份的一種生物識別技術(shù)。 相關(guān)研究工作早在20 世紀(jì)60 年代已經(jīng)萌芽,卻直至90 年代才在計算機(jī)科學(xué)和光成像技術(shù)較為發(fā)達(dá)的歐美國家投入初級應(yīng)用。近幾年,隨著計算機(jī)視覺技術(shù)頻繁迭代, 基于深度學(xué)習(xí)的人臉識別逐漸成為實現(xiàn)虛擬空間與現(xiàn)實世界身份對應(yīng)的重要紐帶。

    人臉識別系統(tǒng)是集合運(yùn)用光學(xué)、計算機(jī)、生物傳感器與統(tǒng)計學(xué)原理等高科技手段, 在動態(tài)場景中自動檢測定位、跟蹤采集、比對提取、分離存儲自然人先天的人臉特征信息, 通過與數(shù)據(jù)庫中已登記面貌進(jìn)行核實以確認(rèn)身份或在數(shù)據(jù)庫中搜索是否存在指定人像的完整流程。

    1.1.2 人臉識別的技術(shù)優(yōu)勢

    在全社會范圍內(nèi)構(gòu)筑及時、精準(zhǔn)、便捷、廉價的身份認(rèn)證和管理機(jī)制是營建安全有序的生態(tài)環(huán)境的重要基石。 然而,從靜態(tài)密碼認(rèn)證到使用手機(jī)短信、動態(tài)口令或數(shù)字證書等私人可信的創(chuàng)新物事進(jìn)行認(rèn)證,傳統(tǒng)的非生物識別模式充斥著用戶遺忘、密碼泄露、病毒攻擊等致毀風(fēng)險。近來興起的讀取目標(biāo)對象的神情步態(tài)、 擊鍵方式和簽名手法等行為特征的生物識別技術(shù)受到持續(xù)時長、精神狀態(tài)、力度大小等因素的干擾,不夠準(zhǔn)確可靠。 基于靜脈、耳廓、語音、基因、指掌紋、視虹膜等生理特征的識別技術(shù)亦存在運(yùn)作流程復(fù)雜、硬件成本高昂、實際辨識度低且大多需要目標(biāo)對象主動參與等弊端。與之相對,人臉特征集合了目標(biāo)對象本身固有的、無須攜帶的、與眾不同的自然特點。 結(jié)合海量數(shù)據(jù)挖掘和神經(jīng)網(wǎng)絡(luò)技術(shù)的人臉識別系統(tǒng)是目前成熟度最高的人工智能落地領(lǐng)域,具有直觀性、廉價性、便利性、非接觸性、可并發(fā)性和較強(qiáng)的穩(wěn)定性等優(yōu)勢, 能夠針對機(jī)密內(nèi)容進(jìn)行分級保護(hù)、 實現(xiàn)被動無感知的數(shù)字化身份檢測和追蹤,進(jìn)而提升物聯(lián)網(wǎng)的安全性、可靠性和穩(wěn)定性。

    1.2 人臉識別技術(shù)的主要應(yīng)用與價值分析

    作為人工智能落地的前沿風(fēng)口, 人臉識別應(yīng)用場景迅速拓展, 全球市場規(guī)模已達(dá)23.91 億美元,表現(xiàn)出巨大的發(fā)展?jié)摿?。我國科技巨頭扎堆布局人臉識別領(lǐng)域,如寒武紀(jì)深耕人臉識別處理硬件、依圖科技專注人臉識別算法研發(fā)、 ??低暰劢谷四樧R別安防產(chǎn)品等, 持續(xù)提升產(chǎn)業(yè)支撐力, 優(yōu)化產(chǎn)業(yè)鏈結(jié)構(gòu),完善行業(yè)服務(wù)解決方案。我國目前的人才儲備位列全球第三,市場規(guī)模達(dá)到4.4 億美元。

    1.2.1 公益目的應(yīng)用及價值

    逐漸成熟的人臉識別技術(shù)被廣泛應(yīng)用到出入境識別、失蹤人口定位、違法行為曝光、民政與刑偵身份核查等治安防控、政府治理、人口管理、醫(yī)療衛(wèi)生、軌道交通和其他涉及社會公益的關(guān)鍵性領(lǐng)域, 提高執(zhí)法執(zhí)政能力,加強(qiáng)社區(qū)安全,改善居民生活。 如越來越多的政府部門、高等院校、圖書館文化宮等公共服務(wù)機(jī)構(gòu)搭建了隔空自動抓取人臉驗證的共享平臺,通過動態(tài)人臉道閘、人臉識別監(jiān)控和敏感人員聯(lián)動預(yù)警等實現(xiàn)全程痕跡管理, 免去繁瑣的信息登錄和證件查驗,全面提高服務(wù)效率和安全性。 又如,北京、重慶、合肥等地的保障性住房建設(shè)投資中心開始在公租房項目中引入防范違規(guī)轉(zhuǎn)租轉(zhuǎn)借的人臉識別門禁系統(tǒng), 通過主動識別并避免非承租家庭成員隨意進(jìn)入來實現(xiàn)社會資源公平利用, 保護(hù)廣大住戶的居住安全。再如,各地社保機(jī)構(gòu)開展的人臉識別養(yǎng)老金領(lǐng)取資格認(rèn)證既方便離退休人員遠(yuǎn)程驗證生存狀態(tài)的惠民舉措,也避免了漏報、遲報、瞞報死亡狀況導(dǎo)致養(yǎng)老保險基金流失的情況。

    1.2.2 私益目的應(yīng)用及價值

    物聯(lián)網(wǎng)生態(tài)建設(shè)與互聯(lián)網(wǎng)金融、營銷、娛樂等場景中不斷嵌入人臉識別技術(shù), 推動創(chuàng)新企業(yè)與傳統(tǒng)巨頭共融共進(jìn)。 從直銷銀行的人臉識別客戶身份驗證到刷臉取現(xiàn)的自動取款機(jī)、從3D 人臉識別解鎖智能手機(jī)到移動端刷臉支付、 從在線智能相冊到人臉美顏變妝, 人臉識別的商業(yè)化應(yīng)用不僅賦能產(chǎn)品和服務(wù)的質(zhì)量改善、成本降低與效率提升,亦有效助力商業(yè)組織的合規(guī)實踐。 如曠視科技的人臉識別遠(yuǎn)程開戶系統(tǒng)為“從柜臺轉(zhuǎn)向指尖”的金融服務(wù)改革提供了重要支撐, 大幅改善用戶體驗、 降低開戶時間成本、提升服務(wù)運(yùn)營效率。又如,嵌入智能家居平臺和新零售領(lǐng)域的人臉識別技術(shù)應(yīng)用不僅是門禁系統(tǒng)和鑒權(quán)系統(tǒng)的中樞, 也是分析用戶群體、 提升支付效率、實現(xiàn)廣告精準(zhǔn)投放的重要工具。 再如,曾因低齡用戶沉迷游戲而遭到新華社和《人民日報》“八次”痛批的《王者榮耀》開始采用人臉識別技術(shù)強(qiáng)化控制未成年人的游戲時間, 更好地合規(guī)網(wǎng)絡(luò)游戲監(jiān)管規(guī)范的要求,積極承擔(dān)企業(yè)的社會責(zé)任,為未成年人打造健康的游戲環(huán)境。

    2 基于實例的人臉識別應(yīng)用侵權(quán)風(fēng)險評估

    2.1 “ZAO”事件分析

    2019 年9 月, 我國一款刷屏級人臉識別應(yīng)用“ZAO” 經(jīng)歷了從爆紅到爆黑的“曇花一現(xiàn)”。 雖然“ZAO”在識別技術(shù)上沒有明顯突破,卻牢牢抓住大眾的獵奇心理, 采用契合社交媒體場景的傻瓜式操作(上傳一張正面照片后點擊“造視頻”區(qū)域的素材就可以換臉)滿足了普通人的明星夢想,進(jìn)而引發(fā)病毒式傳播,在一夜之間俘獲海量個人終端,充分反映出人們對于人臉識別可用產(chǎn)品和服務(wù)的迫切需求。

    然而, 這一應(yīng)用項目采用的內(nèi)容寬泛、 指向不明、減免自身責(zé)任的格式化用戶協(xié)議迅速引發(fā)公眾對其過度攫取用戶授權(quán)(商業(yè)使用權(quán)、隨意刪除權(quán)、數(shù)據(jù)保留權(quán))和單方強(qiáng)加用戶義務(wù)的責(zé)問。傻瓜式的面部替代使得境內(nèi)外主流媒體、民間大V、專業(yè)律師乃至普通民眾等直觀感受和聯(lián)想到各種應(yīng)用場景中的替換風(fēng)險,紛紛開始憂心人身和財產(chǎn)安全,繼而引發(fā)對于人臉識別應(yīng)用于門禁、安防、支付等領(lǐng)域的安全性、精準(zhǔn)性與可靠性的廣泛質(zhì)疑。 最終導(dǎo)致“ZAO”一再修改用戶協(xié)議,并在緊急發(fā)布的《致歉函》中解釋系統(tǒng)“不存儲信息、不產(chǎn)生支付風(fēng)險、會刪除相應(yīng)信息”,卻難以扭轉(zhuǎn)評分暴跌、用戶流失、公信力下降的局面,亦給其他應(yīng)用場景(如刷臉支付)帶來巨大的信任危機(jī)。

    事實上, 人臉識別應(yīng)用的數(shù)據(jù)存儲和傳輸流程均有可能被劫持, 存在嚴(yán)重的隱私侵權(quán)和安全受損風(fēng)險。驚人的利潤、異化的成就感與尚不健全的法律規(guī)制和行政監(jiān)管等使得人臉識別黑產(chǎn)市場逐漸壯大。全球虛擬空間無縫對接、各國調(diào)整規(guī)則存在差異以及全球一體化的司法協(xié)助機(jī)制尚未形成等, 為人臉識別黑產(chǎn)的滋長留下了巨大巢白。 僅以人工智能合成媒體領(lǐng)域為例,“深度偽造”(Deepfakes) 技術(shù)開源兩年后,黑產(chǎn)鏈已經(jīng)步入成熟期,不僅提供色情片換臉和惡意欺詐視頻制作的教學(xué)與定制服務(wù), 還積極“攻堅”金融類刷臉程序。 目前能夠騙過一些采用低端活體檢測技術(shù)或靜態(tài)圖片的小微平臺的刷臉系統(tǒng), 亦有可能在使用個人圖像的現(xiàn)實場景中成功實施侵權(quán)行為。

    2.2 人臉識別應(yīng)用的隱私風(fēng)險分析

    人臉識別系統(tǒng)重點核驗自然人專有的唯一面部信息,客觀上能夠有效防范個人隱私泄露。 但是,隔空捕捉信息和網(wǎng)絡(luò)爬取數(shù)據(jù)等特征使其在具體應(yīng)用過程中有能力繞過對方知情同意, 在未經(jīng)授權(quán)或超出用戶明確許可的收集目的之外,采集、使用、流轉(zhuǎn)他人的面部數(shù)據(jù)。即便是在公共場所之中,只要自然人并未事先獲得清晰明確的正在被侵入性識別技術(shù)監(jiān)控的通知或者已經(jīng)主動采取有效措施(如戴帽子口罩等)隱藏面部特征,主觀上就享有合理的隱私期待。 如IBM 在被獲取面部數(shù)據(jù)的自然人毫不知情的狀況下從Flickr 網(wǎng)站抓取了近100 萬張照片用于訓(xùn)練人臉識別算法,嚴(yán)重侵害用戶的隱私權(quán)益。

    同時, 人臉識別系統(tǒng)在重建人臉影像的過程中有可能發(fā)生功能潛變, 不僅分析出對象的種族、年齡、性取向、健康狀況、情緒變化等,甚至通過手機(jī)唯一標(biāo)識符連接不同數(shù)據(jù)庫中特定自然人的人臉信息和其他資料,使得個人隱私安全岌岌可危。

    此外, 人臉特征的專屬性與唯一性使得隱蔽采集并聚合存儲人臉數(shù)據(jù)的識別系統(tǒng)一旦存在漏洞,就有可能觸發(fā)難以挽回的重大隱私侵權(quán)事件。 如2019 年2 月,荷蘭安全研究員維克托·格韋爾斯發(fā)現(xiàn)我國深網(wǎng)視界公司的數(shù)據(jù)庫存在未授權(quán)訪問的漏洞,導(dǎo)致數(shù)百萬人的身份證信息、人臉識別圖像及捕獲地點等處于任何人都可以查看的“裸奔”狀態(tài),嚴(yán)重威脅隱私安全。

    2.3 人臉識別應(yīng)用的平等風(fēng)險分析

    平等權(quán)是公民享有的基本權(quán)利, 不受歧視權(quán)從平等權(quán)中發(fā)展而來。 人臉識別應(yīng)用的生命周期中集聚著芯片廠商、算法廠商、移動終端廠商、行業(yè)應(yīng)用廠商、安全解決方案廠商等眾多角色,人臉信息的泄露形式復(fù)雜多樣, 技術(shù)濫用與不正當(dāng)競爭事件頻繁發(fā)生,整個識別過程充斥著歧視與偏見。相關(guān)行業(yè)標(biāo)準(zhǔn)、 行政處罰和法律救濟(jì)匱乏以及技術(shù)本身的高度專精化等進(jìn)一步提升監(jiān)管難度和成本, 嚴(yán)重?fù)p害用戶應(yīng)當(dāng)享有的平等權(quán)益。 如美國邁阿密的智能化治安監(jiān)控系統(tǒng)重點關(guān)注低收入的黑人群體和西班牙移民(種族歧視);又如,使用人臉識別門禁或支付系統(tǒng)的商家通過捕捉用戶喜好和購物行為, 勾勒購物習(xí)慣并提供不同的推薦列表和價格標(biāo)準(zhǔn) (價格歧視);再如,美國麻省理工學(xué)院對于微軟、Facebook、IBM 等公司人臉識別系統(tǒng)的研究表明, 檢測膚色較深女性的出錯率比檢測膚色較淺的男性高出35%(性別歧視+種族歧視)。

    2.4 人臉識別應(yīng)用的自由風(fēng)險分析

    人臉識別技術(shù)的過度應(yīng)用正在將人們的日常生活置于邊沁的全景敞視監(jiān)獄之下。 2018 年11 月,美國七名眾議院議員聯(lián)名譴責(zé)人臉識別技術(shù)有可能扼殺個人在公共場合行使言論自由權(quán)的意愿。 無孔不入的人臉識別應(yīng)用擴(kuò)大了權(quán)力監(jiān)控的廣度與深度,導(dǎo)致人們產(chǎn)生受制于技術(shù)識別的恐懼,不僅謹(jǐn)言慎行地避免違法犯罪,甚至不愿參加社會活動,在一定程度上減損其享有的言論、集會和結(jié)社自由。

    2.5 人臉識別應(yīng)用的安全風(fēng)險分析

    人臉識別應(yīng)用場景的不斷拓展使得算法模塊愈加復(fù)雜, 分布式存儲與高并發(fā)處理中暴露的技術(shù)偏差和密集的功能潛變嚴(yán)重威脅著群己安全。一方面,人臉識別算法的穩(wěn)定性受到光照條件、地理位置、遮擋狀況等外界因素和存儲圖像清晰度、 識別閾值設(shè)置等內(nèi)部因素的影響;另一方面,部分企業(yè)為了識別通過率而偽造誤讀率, 黑客通過篡改數(shù)據(jù)庫中的人臉模板而使得識別算法在正常運(yùn)作下輸出錯誤信息等。 這一切嚴(yán)重威脅國家安全、經(jīng)濟(jì)安全、信息安全和人身安全。 如亞馬遜的人臉識別產(chǎn)品Rekognition在美國公民自由聯(lián)盟 (American Civil Liberties Union, ACLU) 的測試中將535 名美國國會議員中的28 人誤判為罪犯。

    3 人臉識別應(yīng)用的風(fēng)險控制

    人臉識別應(yīng)用的健康有序發(fā)展亟待加強(qiáng)頂層設(shè)計、持續(xù)改進(jìn)技術(shù)、修補(bǔ)重建有效規(guī)制應(yīng)用場域的法律規(guī)范,全面提升識別算法的安全性、實操性與穩(wěn)定性。

    3.1 人臉識別應(yīng)用法律規(guī)制的現(xiàn)狀分析

    3.1.1 初心不改的歐盟

    歐盟在開展經(jīng)濟(jì)、政治、文化和社會活動中長期遵循尊重人格尊嚴(yán)、崇尚個人自由、保護(hù)從人身到財產(chǎn)私權(quán)的傳統(tǒng)。直接附著于人身、具有唯一性、持久性和不可更改性的人臉信息密切關(guān)聯(lián)著尊嚴(yán)、自由、財產(chǎn)與話語權(quán)等。 無論是在治安管理、刑事偵查、醫(yī)療保健等非商業(yè)領(lǐng)域中使用, 還是形形色色的商業(yè)應(yīng)用,無不觸及人權(quán)保護(hù)組織、新聞媒體乃至社會大眾的敏感神經(jīng)。因之,歐盟對于人臉識別的研發(fā)和應(yīng)用,一直堅守著謹(jǐn)慎的態(tài)度, 要求境內(nèi)任何涉及人臉識別的活動都必須嚴(yán)格遵循《歐盟數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation, GDPR)的規(guī)定。 即企業(yè)必須披露人臉數(shù)據(jù)收集和使用的全部信息, 且在采取任何行動前必須逐一獲得消費(fèi)者的明示同意。

    3.1.2 緊急轉(zhuǎn)向的美國

    美國作為技術(shù)大國,對于人臉識別的規(guī)制問題,在較長時間內(nèi)保持沉默。近日卻自上至下(聯(lián)邦、州、地方政府)表現(xiàn)出加強(qiáng)人臉識別監(jiān)管、限制開發(fā)應(yīng)用的態(tài)度。

    聯(lián)邦層面上, 雖然美國國會如火如荼地展開辯論,但迄今尚未形成全國性的統(tǒng)一規(guī)則。 《算法問責(zé)法案(2019)》(Algorithmic Accountability Act 2019)將各類計算機(jī)算法的研發(fā)與應(yīng)用納入監(jiān)管和問責(zé)范圍, 明確要求企業(yè)承擔(dān)積極修復(fù)缺陷算法的責(zé)任,避免產(chǎn)生有偏見、含歧視或不準(zhǔn)確的輸出結(jié)果。 《商業(yè)性人臉識別隱私法案 (2019)》(Commercial Facial Recognition Privacy Act of 2019)作為美國調(diào)整人臉識別技術(shù)、產(chǎn)品和服務(wù)的示范性專項規(guī)定,已經(jīng)列入全美商業(yè)、科學(xué)和交通委員會的參鑒范圍?!斗ò浮方谷魏慰刂普咴跊]有取得終端用戶(個人)明確同意的情況下采集、創(chuàng)造、產(chǎn)生、記錄、組織、構(gòu)建、存儲、應(yīng)用、修改、編輯、咨詢、使用、披露、轉(zhuǎn)讓、傳播或者采取其他方式使用、 組合、 擦除或者銷毀面部信息。 《法案》不僅對“明確同意”做出具體界定(個人的、排他的、自愿地表示同意),還要求控制者向終端用戶發(fā)送詳實易懂的識別通知, 充分保障其知情權(quán)和選擇權(quán), 亦要求在線的人臉識別程序應(yīng)當(dāng)能夠由獨(dú)立第三方進(jìn)行精準(zhǔn)性和反歧視測評。 當(dāng)然,《法案》將國家行政和安全部門、法律執(zhí)行機(jī)構(gòu)和情報組織等排除在“控制者”之外,為保障公共安全、制裁違法犯罪以及開展明顯有益終端用戶的識別活動留下了一定空間。 此外,白宮委員會的不少成員公開呼吁加強(qiáng)人臉識別的透明度與可責(zé)性。 法律專家和社會學(xué)者紛紛表示,在人臉識別技術(shù)更為成熟、規(guī)制范圍更為廣泛且方案更為嚴(yán)謹(jǐn)之前, 有必要嚴(yán)格限制人臉識別的應(yīng)用。

    地方層面上, 包括加利福利亞在內(nèi)的美國數(shù)州投入應(yīng)用的刷臉支付系統(tǒng)運(yùn)轉(zhuǎn)良好。 國家數(shù)據(jù)改革中心的調(diào)查顯示, 僅有26.2%的受訪者認(rèn)為政府應(yīng)當(dāng)嚴(yán)格限制人臉識別技術(shù)的應(yīng)用。但是,融合各行各業(yè)需求的人臉識別產(chǎn)品和服務(wù)缺少統(tǒng)一合理的客觀標(biāo)準(zhǔn),逐漸暴露出偏見歧視、侵害少數(shù)派權(quán)益以及影響公眾自由表達(dá)等嚴(yán)重問題。 因之,舊金山、薩默維爾、 奧克蘭等已經(jīng)禁止政府部門在公開場合進(jìn)行人臉監(jiān)控; 加利福利亞要求人臉識別的商業(yè)化應(yīng)用必須展示出明確、具體、清晰、可解釋的標(biāo)記;馬薩諸塞有關(guān)人臉識別和其他遠(yuǎn)程生物監(jiān)控的禁令尚在討論階段;伯克利和紐約市對此也有所考慮。

    3.1.3 實踐推動的中國

    我國尚未專門立法保護(hù)個人生物信息權(quán), 但各界對于其是基本人格權(quán)的法律定位已經(jīng)形成共識。目前可適用《網(wǎng)絡(luò)安全法》第41 條的規(guī)定:“網(wǎng)絡(luò)運(yùn)營者收集、使用個人信息,應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,公開收集、使用規(guī)則,明示收集、使用信息的目的、方式和范圍,并經(jīng)被收集者同意。 ”《App 違法違規(guī)收集使用個人信息行為認(rèn)定方法 (征求意見稿)》、推薦性國家標(biāo)準(zhǔn)《信息安全技術(shù)-個人信息安全規(guī)范》(GB/T 35273-2017) 等更為詳細(xì)地規(guī)定了違法違規(guī)收集使用個人信息的行為,為相關(guān)企業(yè)自查自糾提供有力指引。 《安全防范視頻監(jiān)控人臉識別系統(tǒng)技術(shù)要求》明確規(guī)定了視頻監(jiān)控人臉注冊、人臉圖像捕獲和比對的基本結(jié)構(gòu)、功能要求、測試方法和專業(yè)術(shù)語并建立用戶記錄管理機(jī)制。 《公共安全-人臉識別應(yīng)用-圖像技術(shù)要求》(GB/T 35678-2017) 要求公共安全領(lǐng)域處理采集到的圖像數(shù)據(jù)時不對臉部區(qū)域進(jìn)行修改,并對采集過程中的幾何失真、運(yùn)動模糊及高斯模塊等進(jìn)行了定量規(guī)定。 《民法典·人格權(quán)編(草案二審稿)》第799 條規(guī)定,“任何組織或者個人不得以歪曲、污辱等方式侵害他人的肖像權(quán)。 未經(jīng)肖像權(quán)人同意,他人不得制作、使用、公開自然人的肖像,但是法律另有規(guī)定的除外”,即任何利用信息技術(shù)偽造人臉的行為都應(yīng)當(dāng)承擔(dān)法律責(zé)任。2019 年1 月,螞蟻金服牽頭推動制定的《移動設(shè)備生物特征識別身份認(rèn)證安全要求》(ISO/IEC27553)獲得英美韓日等23 國代表投票支持,成為我國生物識別身份認(rèn)證領(lǐng)域的首個ISO 國際標(biāo)準(zhǔn),亦填補(bǔ)了相關(guān)國際標(biāo)準(zhǔn)的空白。但是,整體而言,我國人臉識別應(yīng)用風(fēng)險的法律規(guī)制體系尚不完善, 存在監(jiān)管層次較低、權(quán)責(zé)不明、執(zhí)法綿軟、救濟(jì)難度較大等問題。

    近來, 國內(nèi)數(shù)次發(fā)生大規(guī)模的人臉識別安全事件。面對公眾高漲的焦慮情緒,政府部門表現(xiàn)出積極制止和救濟(jì)的態(tài)度。如“ZAO 事件”發(fā)酵之后,工信部很快對其投資方進(jìn)行了問詢約談, 要求針對不規(guī)范的用戶隱私協(xié)議和數(shù)據(jù)泄露風(fēng)險進(jìn)行自查整改。 值全球一體化的經(jīng)濟(jì)格局下強(qiáng)調(diào)分享技術(shù)進(jìn)步與共情治理之際, 歐美國家逐漸收緊人臉識別研發(fā)與應(yīng)用的趨勢有可能推動我國相關(guān)立法進(jìn)程。 通過明確人臉識別的運(yùn)作規(guī)則和法律責(zé)任, 規(guī)范政府和企業(yè)在不同場景下收集、存儲和利用人臉信息的行為,使之步入規(guī)范化發(fā)展軌道; 加大對公眾人臉信息特征的保護(hù)力度和對非法售賣的打擊力度, 基于工具理性和價值理性的博弈,合理限制人工智能的應(yīng)用場景,維護(hù)用戶隱私、自由、平等和安全權(quán)益。

    3.2 人臉識別應(yīng)用侵權(quán)風(fēng)險的控制策略

    3.2.1 完善人臉識別應(yīng)用的調(diào)整規(guī)則

    我國需要深入落實《新一代人工智能發(fā)展規(guī)劃的相關(guān)要求》,基于國家信息安全的內(nèi)在需要與助力產(chǎn)業(yè)結(jié)構(gòu)轉(zhuǎn)型升級并充分接軌國際市場之目標(biāo),分類分層制定適應(yīng)人臉識別技術(shù)應(yīng)用發(fā)展需要的法律規(guī)范,明確本領(lǐng)域內(nèi)公權(quán)力與個人信息權(quán)的邊界,從數(shù)據(jù)安全、消費(fèi)者權(quán)益保護(hù)、個人隱私權(quán)等方面確立權(quán)責(zé)關(guān)系, 細(xì)化人臉識別市場準(zhǔn)入制度并限制具體應(yīng)用場景,構(gòu)筑人臉特征信息采集、存儲、傳輸和利用的法定標(biāo)準(zhǔn),搭建及時、可行、有效的備案制度、評估制度、監(jiān)管制度和侵權(quán)損害賠償制度,及時發(fā)現(xiàn)并規(guī)避產(chǎn)品缺陷和風(fēng)險隱患,避免人臉特征數(shù)據(jù)濫用,實現(xiàn)公益與私益、效率與公平之間的動態(tài)平衡。

    迄今為止, 國家標(biāo)準(zhǔn)化管理委員會尚未建立人臉識別泛化應(yīng)用的統(tǒng)一標(biāo)準(zhǔn), 僅僅發(fā)布了圍繞刑事偵查、 證件管理和公共安全防護(hù)等公安業(yè)務(wù)展開的《公共安全人臉識別應(yīng)用圖像技術(shù)要求》。 我國應(yīng)當(dāng)盡快出臺人臉識別應(yīng)用的技術(shù)標(biāo)準(zhǔn)體系, 建立識別產(chǎn)品和服務(wù)的客觀評價標(biāo)尺, 肅清良莠不齊的人臉識別市場,降低廣大消費(fèi)者的維權(quán)成本,提升公權(quán)干預(yù)的技術(shù)評估能力。

    3.2.2 健全人臉識別行業(yè)的自律機(jī)制

    伴隨著日新月異的人臉識別技術(shù)應(yīng)用而來的是數(shù)據(jù)使用和算法運(yùn)作中的諸多風(fēng)險。 具有滯后性的法律法規(guī)和國家標(biāo)準(zhǔn)難以及時解決本領(lǐng)域有序發(fā)展的各種障礙。亟待高效整合行業(yè)內(nèi)部的核心力量,圍繞科技向善的理念健全行業(yè)自律機(jī)制, 強(qiáng)化人臉識別應(yīng)用全生命周期的監(jiān)督管理, 通過安全可信的產(chǎn)業(yè)鏈推動行業(yè)健康發(fā)展。

    如黑產(chǎn)市場中積聚著大量可信個人數(shù)據(jù)集和一流的技術(shù)實力,有可能批量突破安全屏障,導(dǎo)致公眾極度不信任人臉識別技術(shù)應(yīng)用。 有必要通過行業(yè)自律規(guī)則,公開采集、使用和保護(hù)人臉信息的邊界與方法,表明企業(yè)勇于承擔(dān)相應(yīng)法律、倫理和社會責(zé)任的態(tài)度,給出充分補(bǔ)償?shù)木葷?jì)方案,提升公眾參與信心和熱情,實現(xiàn)人臉識別技術(shù)迭代、使用需求與法律法規(guī)和倫理政策的良性耦合。又如,從美國的在線快速身份認(rèn)證聯(lián)盟(Fast Identity Online,F(xiàn)IDO)到我國的互聯(lián)網(wǎng)金融身份認(rèn)證聯(lián)盟 (Internet Finance Authentication Alliance,IFAA),搭建人臉識別應(yīng)用細(xì)分場域的聯(lián)盟組織有助于協(xié)調(diào)構(gòu)筑統(tǒng)一的自我約束方案,加強(qiáng)科技企業(yè)主動自律,逐步營建有溫度、有擔(dān)當(dāng)、有技術(shù)的行業(yè)形象。再如,人臉識別應(yīng)用中的很多風(fēng)險源于系統(tǒng)本身的不確定性帶來的技術(shù)誤差。有必要持續(xù)更新硬件級安全通道評估標(biāo)準(zhǔn)、 人臉特征信息活檢算法標(biāo)準(zhǔn)、數(shù)據(jù)接口防護(hù)標(biāo)準(zhǔn)、人臉圖像質(zhì)量標(biāo)準(zhǔn)等行業(yè)技術(shù)標(biāo)準(zhǔn),提升算法廠商準(zhǔn)入要求,推動人臉數(shù)據(jù)脫敏和隱私計算, 營建多層次安全防御的可信執(zhí)行環(huán)境,推動技術(shù)持續(xù)創(chuàng)新與產(chǎn)業(yè)有序發(fā)展。

    3.2.3 勾勒人臉識別企業(yè)的合規(guī)方案

    當(dāng)前, 公眾對于人臉識別技術(shù)處于一知半解的狀態(tài),數(shù)次大規(guī)模的安全事件進(jìn)一步加深社會各界對于科技企業(yè)的質(zhì)疑, 迅速拉低本就薄弱的用戶粘性。如AI 換臉技術(shù)若是應(yīng)用于紀(jì)念場景之中, 將更好地表達(dá)對逝者的緬懷和哀思, 具有較高的社會價值。“ZAO” 卻將之用于低俗娛樂, 且在運(yùn)行中暴露出版權(quán)、肖像權(quán)、隱私權(quán)以及衍生的其他人身和財產(chǎn)權(quán)益風(fēng)險,甚至將政治安全和國家安全置于險地,嚴(yán)重威脅個人名譽(yù)、家庭和諧、社交信任、選舉公平、外交關(guān)系和政治穩(wěn)定,加之程序頻繁卡頓、過度收集用戶數(shù)據(jù)、漠視消費(fèi)者權(quán)益、撇清己方責(zé)任等,充分反映出企業(yè)缺少技術(shù)實力和社會責(zé)任感, 引起公眾強(qiáng)烈反感和恐慌。

    嵌套在社會結(jié)構(gòu)中的人臉識別產(chǎn)品和服務(wù)若要獲得市場認(rèn)可,需要更加安全可靠、便捷無損的透明化運(yùn)作流程。 科技企業(yè)應(yīng)當(dāng)嚴(yán)格按照國家法律法規(guī)和相關(guān)主管部門的要求, 審慎開展人臉識別產(chǎn)品和服務(wù)的研發(fā)推廣和內(nèi)部管理, 避免違規(guī)的人臉信息采集、系統(tǒng)誤操作和算法設(shè)計缺陷,規(guī)范用戶協(xié)議條款,強(qiáng)化人臉信息安全防護(hù),持續(xù)提升識別技術(shù)。

    首先, 企業(yè)應(yīng)當(dāng)積極營建與各主管部門之間順暢的溝通渠道, 更快更好地接收和理解國家政府對于人臉信息采集、存儲、傳輸、分析等各階段違法行為的新認(rèn)識和新規(guī)定, 積極爭取與主管部門合作改進(jìn)監(jiān)管模式;其次,企業(yè)應(yīng)當(dāng)堅守效益平衡的原則,在具體的人臉識別產(chǎn)品和服務(wù)方案預(yù)審之時, 不僅反復(fù)核算成本和收益,還積極開展合規(guī)審查、倫理審查和專利審查, 預(yù)判項目被用于違法犯罪或其他不良場景的概率、負(fù)面影響及應(yīng)急方案,避免開展危害社會的技術(shù)應(yīng)用;再次,企業(yè)在人臉識別應(yīng)用進(jìn)入市場之初就應(yīng)當(dāng)謹(jǐn)慎對待用戶協(xié)議和隱私政策, 完善用戶人臉信息控制權(quán)、刪除權(quán)、遺忘權(quán)和救濟(jì)權(quán)的保障機(jī)制。可以通過實施風(fēng)險全兜底的賠付制度,消除用戶對于應(yīng)用安全的擔(dān)憂。通過附帶的說明書、專家學(xué)者和新聞媒體等渠道持續(xù)、及時、詳細(xì)、透明地向用戶傳遞相關(guān)信息,增強(qiáng)用戶的信任度、歸屬感和忠誠度。

    4 結(jié)語

    隨著能夠提供新的用戶增長點且達(dá)到工程實現(xiàn)標(biāo)準(zhǔn)的人臉識別項目陸續(xù)滲透到安防、金融、教育與娛樂等多個領(lǐng)域,虛擬與現(xiàn)實的界限愈加模糊。這些應(yīng)用的初衷大多并非生成和傳播違法違規(guī)的數(shù)據(jù)資源,如“ZAO”起初是陌陌公司積累用戶數(shù)據(jù)資源、創(chuàng)新社交場景的手段, 卻在實際運(yùn)作中異化為侵害基本人權(quán)、威脅經(jīng)濟(jì)安全和國家安全的重要工具。一方面,人臉特征是自然人不可分割的個性化組成部分,彰顯著人與人之間的天然生物差異。 一旦面部信息對應(yīng)的身份資料被不欲其所知的組織機(jī)構(gòu)或他人掌握,個人的本真感和獨(dú)占意識將遭遇重大危機(jī),甚至長期陷入無所遁形的恐懼之中;另一方面,由于人們在社交互動中往往通過面部表情傳達(dá)和解讀信任、敵意、欺詐等情感信號,人臉也是人際情感交流和構(gòu)建社會關(guān)系的基礎(chǔ)。因之,人臉信息特征一直被視為個人自保的最后屏障與隱私的最低底線。 亟待通過技術(shù)改進(jìn)、法律保障、政府監(jiān)管、企業(yè)自律和個人自助等綜合措施,確保人臉識別技術(shù)應(yīng)用的合規(guī)性、合德性與合理性。

    猜你喜歡
    人臉識別人臉
    人臉識別 等
    有特點的人臉
    一起學(xué)畫人臉
    揭開人臉識別的神秘面紗
    “人臉面具”來了
    三國漫——人臉解鎖
    動漫星空(2018年9期)2018-10-26 01:17:14
    基于(2D)2PCA-LBP 的人臉識別方法的研究
    電子制作(2017年17期)2017-12-18 06:40:55
    人臉識別在高校安全防范中的應(yīng)用
    電子制作(2017年1期)2017-05-17 03:54:46
    基于類獨(dú)立核稀疏表示的魯棒人臉識別
    馬面部與人臉相似度驚人
    欧美不卡视频在线免费观看 | 超碰97精品在线观看| 又紧又爽又黄一区二区| 91在线观看av| 午夜福利影视在线免费观看| 国产精品 欧美亚洲| 免费在线观看亚洲国产| 很黄的视频免费| 女警被强在线播放| 欧美日韩成人在线一区二区| 最近最新中文字幕大全免费视频| 十八禁网站免费在线| 午夜免费观看网址| 欧美激情 高清一区二区三区| a级片在线免费高清观看视频| 一a级毛片在线观看| 黄色 视频免费看| 亚洲色图av天堂| 不卡av一区二区三区| 欧美精品亚洲一区二区| 搡老岳熟女国产| 大型av网站在线播放| 久久久久国内视频| 十八禁人妻一区二区| 成人手机av| 国产精品久久视频播放| 日韩视频一区二区在线观看| 国产三级黄色录像| 中文字幕另类日韩欧美亚洲嫩草| 亚洲一区高清亚洲精品| 91九色精品人成在线观看| 国产精品影院久久| 日韩视频一区二区在线观看| 老司机午夜福利在线观看视频| 亚洲国产欧美网| 国产欧美日韩一区二区三区在线| 欧美日韩中文字幕国产精品一区二区三区 | 无人区码免费观看不卡| 美女福利国产在线| 无遮挡黄片免费观看| 大香蕉久久网| 国产免费av片在线观看野外av| 18禁裸乳无遮挡动漫免费视频| 99久久精品国产亚洲精品| 在线播放国产精品三级| av不卡在线播放| 丝瓜视频免费看黄片| 久久精品国产亚洲av香蕉五月 | 国产午夜精品久久久久久| 国产精品免费一区二区三区在线 | 国产午夜精品久久久久久| 国产亚洲欧美在线一区二区| 亚洲精品自拍成人| 性少妇av在线| 一级片'在线观看视频| 成人精品一区二区免费| 美女国产高潮福利片在线看| 身体一侧抽搐| 日韩 欧美 亚洲 中文字幕| 欧美日韩中文字幕国产精品一区二区三区 | 免费看十八禁软件| 午夜老司机福利片| 美女 人体艺术 gogo| 十分钟在线观看高清视频www| svipshipincom国产片| 亚洲精品久久午夜乱码| 午夜免费鲁丝| 久久天躁狠狠躁夜夜2o2o| 18禁裸乳无遮挡免费网站照片 | 99国产综合亚洲精品| 日本a在线网址| 国产男女超爽视频在线观看| av网站免费在线观看视频| 午夜精品久久久久久毛片777| 国产国语露脸激情在线看| 国产精品欧美亚洲77777| 丁香六月欧美| 亚洲欧美日韩另类电影网站| 亚洲国产欧美日韩在线播放| 两个人免费观看高清视频| 免费高清在线观看日韩| 国产成人影院久久av| 成人三级做爰电影| 亚洲情色 制服丝袜| 少妇猛男粗大的猛烈进出视频| 免费日韩欧美在线观看| 999精品在线视频| 9191精品国产免费久久| 亚洲三区欧美一区| 手机成人av网站| 午夜两性在线视频| 中文亚洲av片在线观看爽 | 国产深夜福利视频在线观看| 欧美av亚洲av综合av国产av| 久久狼人影院| 99re6热这里在线精品视频| 亚洲精品中文字幕一二三四区| 国产成人精品无人区| 淫妇啪啪啪对白视频| 一级毛片女人18水好多| 一本综合久久免费| 女人被躁到高潮嗷嗷叫费观| 亚洲熟妇熟女久久| 免费在线观看亚洲国产| 97人妻天天添夜夜摸| 91麻豆精品激情在线观看国产 | 免费av中文字幕在线| 在线观看66精品国产| 人人妻人人爽人人添夜夜欢视频| 18禁裸乳无遮挡免费网站照片 | 午夜精品国产一区二区电影| 久久久精品区二区三区| 侵犯人妻中文字幕一二三四区| 国产精品免费视频内射| 不卡一级毛片| 又紧又爽又黄一区二区| 国产无遮挡羞羞视频在线观看| 精品乱码久久久久久99久播| 久久久久久久精品吃奶| 男女下面插进去视频免费观看| 亚洲av电影在线进入| 香蕉丝袜av| 一夜夜www| 久久天躁狠狠躁夜夜2o2o| 精品久久久久久电影网| 国产高清videossex| 色综合婷婷激情| 国产精品久久久av美女十八| 国产精华一区二区三区| 午夜91福利影院| 国产精品久久久av美女十八| 久久天躁狠狠躁夜夜2o2o| 久久热在线av| 日韩制服丝袜自拍偷拍| 欧美在线一区亚洲| 91大片在线观看| 搡老熟女国产l中国老女人| 老熟女久久久| 亚洲黑人精品在线| 99精品在免费线老司机午夜| 伊人久久大香线蕉亚洲五| 成年动漫av网址| 青草久久国产| 免费在线观看亚洲国产| 老司机深夜福利视频在线观看| 久久精品国产亚洲av香蕉五月 | 飞空精品影院首页| 亚洲av熟女| www.熟女人妻精品国产| 黄色 视频免费看| 99精国产麻豆久久婷婷| 大片电影免费在线观看免费| 成人av一区二区三区在线看| 国产亚洲精品久久久久5区| 亚洲精品国产一区二区精华液| 在线观看免费视频日本深夜| 国产精品av久久久久免费| 亚洲综合色网址| 日韩中文字幕欧美一区二区| 一个人免费在线观看的高清视频| 夫妻午夜视频| 欧美+亚洲+日韩+国产| 91精品三级在线观看| 99久久精品国产亚洲精品| 精品福利观看| 日韩熟女老妇一区二区性免费视频| 亚洲免费av在线视频| 下体分泌物呈黄色| 久久久久久久午夜电影 | 丝袜美足系列| 在线永久观看黄色视频| 精品无人区乱码1区二区| 亚洲va日本ⅴa欧美va伊人久久| 午夜免费观看网址| 少妇的丰满在线观看| 一二三四在线观看免费中文在| 99在线人妻在线中文字幕 | 亚洲视频免费观看视频| 首页视频小说图片口味搜索| 亚洲国产欧美日韩在线播放| 亚洲精品中文字幕一二三四区| 最近最新中文字幕大全电影3 | 男人的好看免费观看在线视频 | 亚洲成人免费av在线播放| 电影成人av| 高潮久久久久久久久久久不卡| 人人妻,人人澡人人爽秒播| 99国产精品一区二区蜜桃av | 黑丝袜美女国产一区| 欧美国产精品一级二级三级| 亚洲精品在线观看二区| 嫁个100分男人电影在线观看| 看片在线看免费视频| 天天躁狠狠躁夜夜躁狠狠躁| 欧美成狂野欧美在线观看| 美国免费a级毛片| 国产精品久久久人人做人人爽| 亚洲av熟女| 精品欧美一区二区三区在线| 久久影院123| 国产99久久九九免费精品| 亚洲国产精品合色在线| 黑人巨大精品欧美一区二区mp4| 激情视频va一区二区三区| 亚洲第一av免费看| 女人久久www免费人成看片| 18禁裸乳无遮挡免费网站照片 | √禁漫天堂资源中文www| 12—13女人毛片做爰片一| 亚洲七黄色美女视频| 国产精品一区二区免费欧美| 国产精品久久久av美女十八| 国产成人一区二区三区免费视频网站| 一级黄色大片毛片| 51午夜福利影视在线观看| 淫妇啪啪啪对白视频| 欧美精品高潮呻吟av久久| 大香蕉久久成人网| 下体分泌物呈黄色| 午夜福利,免费看| 又大又爽又粗| 高清av免费在线| 啦啦啦视频在线资源免费观看| 女性被躁到高潮视频| 亚洲国产精品合色在线| 韩国精品一区二区三区| 亚洲久久久国产精品| 国产精品 国内视频| 可以免费在线观看a视频的电影网站| 窝窝影院91人妻| 亚洲成人免费电影在线观看| 国产又色又爽无遮挡免费看| 一本一本久久a久久精品综合妖精| 十八禁人妻一区二区| 黄片播放在线免费| 国产又爽黄色视频| 日本撒尿小便嘘嘘汇集6| 国产精品免费视频内射| 亚洲七黄色美女视频| 日日爽夜夜爽网站| 美女高潮喷水抽搐中文字幕| 国产亚洲欧美精品永久| 午夜免费成人在线视频| 欧美色视频一区免费| 国产精品乱码一区二三区的特点 | 亚洲午夜理论影院| 精品人妻熟女毛片av久久网站| 老司机福利观看| 男人舔女人的私密视频| 国产精品成人在线| 亚洲欧美日韩另类电影网站| 99精品欧美一区二区三区四区| 久久久久久久精品吃奶| 亚洲精品乱久久久久久| 高清欧美精品videossex| 精品亚洲成a人片在线观看| 欧美精品人与动牲交sv欧美| 欧美乱码精品一区二区三区| 亚洲av日韩精品久久久久久密| 免费av中文字幕在线| 国产野战对白在线观看| 女警被强在线播放| 国产亚洲精品久久久久久毛片 | 女同久久另类99精品国产91| 亚洲aⅴ乱码一区二区在线播放 | 国产一区在线观看成人免费| 日本撒尿小便嘘嘘汇集6| 不卡一级毛片| 亚洲五月天丁香| 久久精品国产综合久久久| 欧美激情 高清一区二区三区| 老司机午夜福利在线观看视频| 亚洲专区中文字幕在线| tocl精华| 亚洲熟女毛片儿| 久久人妻熟女aⅴ| 亚洲 欧美一区二区三区| 欧美黑人精品巨大| 精品欧美一区二区三区在线| 亚洲美女黄片视频| 亚洲成a人片在线一区二区| 国产成人欧美| 欧美乱妇无乱码| 曰老女人黄片| 亚洲av第一区精品v没综合| 日日爽夜夜爽网站| 日韩三级视频一区二区三区| 亚洲精品久久午夜乱码| 天堂动漫精品| 国产片内射在线| 国产日韩欧美亚洲二区| 日韩一卡2卡3卡4卡2021年| 动漫黄色视频在线观看| 1024视频免费在线观看| 国产精品1区2区在线观看. | 欧美人与性动交α欧美软件| 老司机影院毛片| 欧洲精品卡2卡3卡4卡5卡区| 激情视频va一区二区三区| 国产精品国产av在线观看| 99国产精品一区二区蜜桃av | 在线观看www视频免费| 热99久久久久精品小说推荐| 中亚洲国语对白在线视频| 黄色丝袜av网址大全| 亚洲精品成人av观看孕妇| 成年动漫av网址| 成人国语在线视频| 婷婷精品国产亚洲av在线 | 韩国精品一区二区三区| 两性夫妻黄色片| 欧美日韩瑟瑟在线播放| 免费女性裸体啪啪无遮挡网站| 看黄色毛片网站| 国产欧美日韩精品亚洲av| 国内久久婷婷六月综合欲色啪| 大型黄色视频在线免费观看| 国产有黄有色有爽视频| 99久久精品国产亚洲精品| 亚洲一区中文字幕在线| 日韩制服丝袜自拍偷拍| 俄罗斯特黄特色一大片| av片东京热男人的天堂| 又黄又爽又免费观看的视频| 国产精品久久久人人做人人爽| 亚洲黑人精品在线| 91老司机精品| 亚洲伊人色综图| 天堂中文最新版在线下载| 美女福利国产在线| 90打野战视频偷拍视频| 午夜日韩欧美国产| 视频区欧美日本亚洲| 99精品在免费线老司机午夜| 欧美激情极品国产一区二区三区| 黄色怎么调成土黄色| 亚洲,欧美精品.| 老司机福利观看| 纯流量卡能插随身wifi吗| 欧美日韩乱码在线| 很黄的视频免费| 一本大道久久a久久精品| 国产男靠女视频免费网站| 91成年电影在线观看| 久久精品国产99精品国产亚洲性色 | 91在线观看av| 国产一区二区三区在线臀色熟女 | 国产深夜福利视频在线观看| 亚洲人成伊人成综合网2020| 新久久久久国产一级毛片| 女警被强在线播放| 99久久人妻综合| 午夜老司机福利片| 国产男靠女视频免费网站| 日本wwww免费看| 欧美+亚洲+日韩+国产| 久9热在线精品视频| 精品国产亚洲在线| 麻豆国产av国片精品| 亚洲精品中文字幕在线视频| 中文字幕人妻熟女乱码| 国产欧美日韩一区二区三区在线| 热99re8久久精品国产| 好男人电影高清在线观看| 99热国产这里只有精品6| 老汉色∧v一级毛片| 后天国语完整版免费观看| 亚洲三区欧美一区| 男人操女人黄网站| 999久久久国产精品视频| 久9热在线精品视频| 在线观看www视频免费| 久久精品亚洲av国产电影网| 每晚都被弄得嗷嗷叫到高潮| 亚洲人成电影免费在线| 婷婷精品国产亚洲av在线 | 国产蜜桃级精品一区二区三区 | 久久久久久久午夜电影 | av中文乱码字幕在线| 无人区码免费观看不卡| 午夜影院日韩av| 免费不卡黄色视频| 巨乳人妻的诱惑在线观看| 91麻豆av在线| 午夜福利一区二区在线看| 黄色丝袜av网址大全| 久久精品国产清高在天天线| 两个人看的免费小视频| www.999成人在线观看| 脱女人内裤的视频| 亚洲av电影在线进入| 欧美日韩国产mv在线观看视频| 90打野战视频偷拍视频| 高清欧美精品videossex| 亚洲欧美一区二区三区黑人| 曰老女人黄片| 国产精品久久视频播放| 国产99白浆流出| 麻豆国产av国片精品| 国产精品综合久久久久久久免费 | 久久久久久久午夜电影 | 欧美人与性动交α欧美软件| 男女免费视频国产| 久久国产精品影院| 嫁个100分男人电影在线观看| 动漫黄色视频在线观看| 国产极品粉嫩免费观看在线| 国产野战对白在线观看| 欧美另类亚洲清纯唯美| 国产精品免费一区二区三区在线 | av视频免费观看在线观看| 欧美精品av麻豆av| 亚洲成av片中文字幕在线观看| xxxhd国产人妻xxx| 成人亚洲精品一区在线观看| 亚洲自偷自拍图片 自拍| 18禁美女被吸乳视频| 色婷婷久久久亚洲欧美| 中亚洲国语对白在线视频| 欧美成人午夜精品| 中亚洲国语对白在线视频| 在线十欧美十亚洲十日本专区| 宅男免费午夜| 又大又爽又粗| 亚洲欧美一区二区三区久久| av在线播放免费不卡| 最新的欧美精品一区二区| av国产精品久久久久影院| 久久国产精品男人的天堂亚洲| 亚洲黑人精品在线| 少妇猛男粗大的猛烈进出视频| 久久精品aⅴ一区二区三区四区| bbb黄色大片| 国产精品国产高清国产av | 少妇 在线观看| 成人手机av| 亚洲专区中文字幕在线| 国产精品亚洲av一区麻豆| 色在线成人网| 丰满人妻熟妇乱又伦精品不卡| 国产主播在线观看一区二区| 亚洲成国产人片在线观看| 国产在线一区二区三区精| 十分钟在线观看高清视频www| av在线播放免费不卡| 搡老乐熟女国产| 在线天堂中文资源库| 成人特级黄色片久久久久久久| 天天操日日干夜夜撸| 国产亚洲精品久久久久久毛片 | 村上凉子中文字幕在线| 久久久国产一区二区| 18禁国产床啪视频网站| 91老司机精品| 99精国产麻豆久久婷婷| 国产精品98久久久久久宅男小说| 久9热在线精品视频| 精品人妻1区二区| 国产亚洲欧美精品永久| 高清视频免费观看一区二区| 91在线观看av| 最近最新免费中文字幕在线| 婷婷成人精品国产| 成人黄色视频免费在线看| 动漫黄色视频在线观看| bbb黄色大片| 丁香欧美五月| 国产人伦9x9x在线观看| 久久久国产精品麻豆| 又黄又粗又硬又大视频| a在线观看视频网站| 亚洲专区中文字幕在线| 成人三级做爰电影| www.999成人在线观看| 亚洲欧美一区二区三区久久| 中亚洲国语对白在线视频| 免费在线观看影片大全网站| 久久久国产成人精品二区 | 夜夜爽天天搞| 成人av一区二区三区在线看| 可以免费在线观看a视频的电影网站| 国产精品国产av在线观看| 中文字幕av电影在线播放| 国产不卡av网站在线观看| 国产1区2区3区精品| 精品国产乱码久久久久久男人| 一级a爱视频在线免费观看| 如日韩欧美国产精品一区二区三区| 嫩草影视91久久| 久久久国产一区二区| 亚洲成av片中文字幕在线观看| 午夜91福利影院| 国产精品久久视频播放| 天天躁夜夜躁狠狠躁躁| 国产男女内射视频| 19禁男女啪啪无遮挡网站| 欧美最黄视频在线播放免费 | 国产深夜福利视频在线观看| 久久午夜亚洲精品久久| 国产免费男女视频| 国产成人精品在线电影| 黄色怎么调成土黄色| 1024香蕉在线观看| 法律面前人人平等表现在哪些方面| 91成人精品电影| 成人黄色视频免费在线看| 黄网站色视频无遮挡免费观看| 亚洲五月天丁香| 老熟妇乱子伦视频在线观看| 中文字幕人妻丝袜制服| 亚洲午夜理论影院| 免费高清在线观看日韩| 女性被躁到高潮视频| 亚洲色图 男人天堂 中文字幕| 婷婷精品国产亚洲av在线 | 色在线成人网| 操美女的视频在线观看| 好男人电影高清在线观看| 十八禁人妻一区二区| 777久久人妻少妇嫩草av网站| 91av网站免费观看| 亚洲欧美日韩高清在线视频| 亚洲男人天堂网一区| 欧美中文综合在线视频| avwww免费| 久久久国产成人精品二区 | av视频免费观看在线观看| 91精品国产国语对白视频| 午夜亚洲福利在线播放| 国产一区二区三区视频了| 久久久久视频综合| 国产欧美日韩精品亚洲av| 欧美国产精品va在线观看不卡| 亚洲五月婷婷丁香| 在线视频色国产色| 久久久久久久久免费视频了| 精品国产乱码久久久久久男人| 国产亚洲一区二区精品| 中文字幕色久视频| 一本一本久久a久久精品综合妖精| 亚洲专区字幕在线| 国产av又大| 亚洲国产毛片av蜜桃av| 人妻丰满熟妇av一区二区三区 | 亚洲av成人一区二区三| 99riav亚洲国产免费| 国产亚洲精品第一综合不卡| 人人澡人人妻人| 亚洲精品中文字幕一二三四区| 丝袜在线中文字幕| 精品午夜福利视频在线观看一区| 在线天堂中文资源库| 老司机在亚洲福利影院| x7x7x7水蜜桃| 精品乱码久久久久久99久播| 国产在视频线精品| 一区在线观看完整版| 日韩精品免费视频一区二区三区| 成人精品一区二区免费| 日韩大码丰满熟妇| 男女午夜视频在线观看| xxx96com| 亚洲av电影在线进入| 久久精品亚洲熟妇少妇任你| av网站免费在线观看视频| www日本在线高清视频| 电影成人av| 变态另类成人亚洲欧美熟女 | 国产野战对白在线观看| 久久久久视频综合| 国产精品久久久av美女十八| 亚洲欧美激情综合另类| 极品少妇高潮喷水抽搐| 久久草成人影院| 久热这里只有精品99| 亚洲一区高清亚洲精品| 一级毛片高清免费大全| 女人被躁到高潮嗷嗷叫费观| 国产成人免费观看mmmm| 久久精品国产亚洲av香蕉五月 | 在线视频色国产色| 国产aⅴ精品一区二区三区波| 亚洲精品粉嫩美女一区| 无限看片的www在线观看| 99国产精品一区二区蜜桃av | 丝袜人妻中文字幕| 黄色 视频免费看| 久久久精品国产亚洲av高清涩受| 乱人伦中国视频| 无人区码免费观看不卡| 国产真人三级小视频在线观看| 国产精品 欧美亚洲| 亚洲精品国产精品久久久不卡| 国产成+人综合+亚洲专区| 精品福利永久在线观看| 身体一侧抽搐| 亚洲成国产人片在线观看| 精品乱码久久久久久99久播| 一级毛片高清免费大全| 国产成人精品久久二区二区91| 日本黄色视频三级网站网址 | 亚洲熟女毛片儿| 99精品久久久久人妻精品| 极品少妇高潮喷水抽搐| 熟女少妇亚洲综合色aaa.| 少妇被粗大的猛进出69影院| 夜夜躁狠狠躁天天躁| 免费观看人在逋| 欧美成人午夜精品| 精品熟女少妇八av免费久了| 在线视频色国产色| 搡老乐熟女国产| 精品久久久久久久毛片微露脸| 欧美日韩精品网址| 国产色视频综合|