• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能家居消費者的個人信息保護

    2020-04-28 02:39:14貴州警察學(xué)院貴州貴陽550005
    貴州警察學(xué)院學(xué)報 2020年1期
    關(guān)鍵詞:智能家居經(jīng)營者個人信息

    曾 真(貴州警察學(xué)院,貴州 貴陽 550005)

    今日世界對人工智能早已不再陌生,在技術(shù)日益進步的浪潮下,智能家居已經(jīng)從科幻構(gòu)想走進千家萬戶,成為人們?nèi)粘I畹谋匦杵?。智能家居(Home Automation)是利用物聯(lián)網(wǎng)技術(shù)(Internet of Things)將各種家用設(shè)備連接到一起,提供集成的家居控制系統(tǒng)。一方面,智能家居的設(shè)計初衷是為生活提供便利,節(jié)省家務(wù)勞動的人力和時間成本,為了達(dá)到這一目的,聯(lián)網(wǎng)設(shè)備不可避免地要獲取、儲存、傳輸甚至分析、利用與人類生活各個方面密切相關(guān)的信息;另一方面,消費者享有個人信息依法得到保護的權(quán)利。如此,智能家居對消費者個人信息的采集和利用各環(huán)節(jié)都有可能與信息保護的需要相沖突。2018年9月,中國消費者協(xié)會官網(wǎng)發(fā)布《APP個人信息泄露情況調(diào)查報告》,數(shù)據(jù)顯示有超過85%的受訪者曾遭遇個人信息泄露的問題[1]。事實表明,我國消費者個人信息安全情況不容樂觀,因此,有必要對可能發(fā)生的信息風(fēng)險進行識別,并制定相應(yīng)對策,以期在便捷生活和個人信息充分保護之間達(dá)到平衡。針對我國實際情況,2018年,全國人大常委會已將制定我國的《個人信息保護法》列入本屆立法規(guī)劃,其中,智能家居設(shè)備的信息風(fēng)險是亟待關(guān)注和解決的重要問題。

    一、智能家居運作基本原理

    智能家居系統(tǒng)通常包括兩個必要部分,其一是一套集成系統(tǒng)終端設(shè)備作為控制中心,另一部分是通過網(wǎng)絡(luò)連接接入該集成系統(tǒng)的所有受控設(shè)備,使用者只需操作該集成系統(tǒng)即可控制所有接入設(shè)備。[2]“智能”則體現(xiàn)為便利的人機交互性,作為控制中心的終端集成系統(tǒng)操作高度智能化,甚至可以通過分析使用者輸入的指令,掌握其使用習(xí)慣、偏好等,運用一系列復(fù)雜算法為使用者自動匹配最優(yōu)方案。

    (一)電子數(shù)據(jù)采集設(shè)備——受控制的接入設(shè)備

    電子數(shù)據(jù)采集設(shè)備(Electronic Data Gathering Equipment,簡稱EDGE),是一套以電子格式收集數(shù)據(jù)的計算機化系統(tǒng)。在智能家居架構(gòu)中,這套系統(tǒng)兼有信號輸出和輸入的功能。

    EDGE系統(tǒng)輸出的信號,是基于執(zhí)行器(Actuators)、家用電器(Appliances)以及傳感器(Sensors)等設(shè)備收集到的智能家居運行所需要的信息 。例如智能門鎖能記錄門鎖開啟、關(guān)閉的狀態(tài),智能室內(nèi)溫濕度計能實時監(jiān)控家中溫度、濕度變化,帶運動感應(yīng)功能的電器如燈泡等能感應(yīng)到周圍人或者動物的運動,通過這些設(shè)備將信號輸入網(wǎng)絡(luò)服務(wù)器,使用者即可在終端設(shè)備上掌握家居安全、環(huán)境監(jiān)控以及機器運轉(zhuǎn)狀況等各項指標(biāo)。

    實現(xiàn)信號輸入功能,需要用戶在終端集成系統(tǒng)將指令上傳到網(wǎng)絡(luò)服務(wù)器,則接入該網(wǎng)絡(luò)服務(wù)器的所有EDGE設(shè)備就能按照用戶的指令需求做出相應(yīng)反饋,例如用戶可通過指令遠(yuǎn)程操作打開空調(diào)、電視、電燈等電器,或者授予客人臨時打開門鎖進入室內(nèi)的權(quán)限等,此時用戶輸入的指令轉(zhuǎn)換為電子信號,使EDGE設(shè)備能按用戶的需求工作。

    可以接入EDGE系統(tǒng)的設(shè)備范圍幾乎不受限制,大到暖通、空調(diào)、照明、安防等控制系統(tǒng)或者電視、冰箱、洗衣機、家庭影院等家用電器,小到電飯煲、烤箱、咖啡機、鬧鐘等生活用品,萬物皆可互聯(lián)。部分電器自身可以發(fā)射和接收網(wǎng)絡(luò)信號,不能通過電流發(fā)射和接收信號的物體也可以通過置入射頻識別碼等手段使其接入終端。物聯(lián)網(wǎng)技術(shù)使家居智能化成為現(xiàn)實,隨著聯(lián)網(wǎng)成本的日益縮減,智能家居的普及已然形成不可阻擋的趨勢。

    (二)集成系統(tǒng)

    集成系統(tǒng)(System Integrations)也就是用戶使用的控制中心終端設(shè)備,通常表現(xiàn)為智能手機、平板、電腦、音箱等形式的輸入設(shè)備,由于與EDGE系統(tǒng)共享網(wǎng)絡(luò)服務(wù)器,即使是處于因特網(wǎng)離線狀態(tài)的內(nèi)網(wǎng)服務(wù)器,集成系統(tǒng)輸入界面的家居設(shè)備控制功能也能正常使用。例如蘋果公司將iPhone、iPad等移動設(shè)備作為入口,使用者在智能手機或者平板電腦上安裝Home Kit控制平臺軟件,即可通過軟件對家居設(shè)備進行控制,類似的還有Google Home;亞馬遜公司則利用Echo智能音響及智能語音識別技術(shù)將用戶的語音口令轉(zhuǎn)換為數(shù)據(jù)指令來控制各種聯(lián)網(wǎng)設(shè)備,國內(nèi)的百度、阿里巴巴、騰訊、小米等公司都推出了這種智能音箱。

    (三)網(wǎng)關(guān)和網(wǎng)絡(luò)云

    在計算機網(wǎng)絡(luò)中,網(wǎng)關(guān)(Gateway)顧名思義就是連接兩個網(wǎng)絡(luò)的設(shè)備。由圖1可知,左側(cè)電子數(shù)據(jù)采集設(shè)備和右側(cè)集成系統(tǒng)分屬于兩個網(wǎng)絡(luò),由網(wǎng)關(guān)連接起來。在此過程中,網(wǎng)絡(luò)云(Cloud)的作用類似于“大腦”,不僅能作為中轉(zhuǎn)站擴展網(wǎng)關(guān)的儲存空間,更能利用海量數(shù)據(jù)、通過復(fù)雜算法進行機器學(xué)習(xí),為用戶提供精準(zhǔn)、便捷的服務(wù)體驗。但是,信息分步傳輸,以及信息在網(wǎng)絡(luò)空間的長期存儲,也不可避免地增加了信息泄露的風(fēng)險。[3]事實上,云技術(shù)的廣泛使用,在給消費者帶來便利的同時,也在很大程度上犧牲了安全性。

    圖1 基于網(wǎng)絡(luò)云的智能家居架構(gòu)

    二、家居智能化隱私泄露風(fēng)險分析

    (一)用戶注冊信息泄露風(fēng)險

    在為家居設(shè)備及控制系統(tǒng)進行初始化設(shè)置時,為了注冊賬號開通使用,用戶必須主動提供一些個人及家庭的基本信息,包括但不限于用戶的姓名、性別、年齡、職業(yè)、婚姻狀況、家庭成員、住址、電話號碼、社交網(wǎng)絡(luò)賬號、電子郵箱甚至月收入情況、銀行卡號等基本情況。此外,如果是注冊使用智能體重體脂秤、室內(nèi)運動器械(跑步機、動感單車、劃船機等)等設(shè)備,有時還需要用戶輸入身高、體重、體型等涉及個人隱私的數(shù)據(jù)。

    按照通常的交易習(xí)慣,消費者與智能家居設(shè)備經(jīng)營者之間普遍使用格式化合同,用戶必須同意相關(guān)協(xié)議才能開始注冊。而這些格式條款中經(jīng)常包含這樣的內(nèi)容:用戶同意設(shè)備收集某些個人數(shù)據(jù),同意將用戶的個人數(shù)據(jù)上傳到服務(wù)器,同意經(jīng)營者分析、使用用戶的各項數(shù)據(jù),甚至同意經(jīng)營者與第三方共享用戶的數(shù)據(jù)。由于這些格式條款限制、影響了一部分消費者的權(quán)利,所以這些條款一般都在協(xié)議中以黑體加粗字加以強調(diào),但是極少有用戶注冊時會打開用戶協(xié)議等一系列條款仔細(xì)閱讀,這就導(dǎo)致許多用戶在并不知情的情況下,授權(quán)經(jīng)營者對其個人信息加以利用。有些經(jīng)營者不重視消費者個人信息安全保護,更有甚者為了謀取不正當(dāng)?shù)慕?jīng)濟利益,對公民進行非法監(jiān)控[4],與販賣公民個人信息的個人或者組織勾結(jié),故意泄露或者非法利用消費者個人信息?,F(xiàn)實生活中,消費者的個人注冊信息被泄露給第三方導(dǎo)致消費者財產(chǎn)安全、人身安全受到威脅甚至實際損害的例子比比皆是。例如注冊使用某品牌智能健身跑步機后,注冊手機馬上就能收到各類健身機構(gòu)的廣告消息甚至毫無關(guān)系的垃圾信息,這些信息一旦強制訂閱很難取消,有些商業(yè)廣告甚至無法取消訂閱,讓機主不堪其擾。由于經(jīng)營者對消費者敏感信息的保護力度不夠,甚至有的經(jīng)營者將消費者個人信息作為其經(jīng)營對象牟利,致使消費者的個人信息安全岌岌可危。用戶注冊存在的這些信息安全風(fēng)險,必須依靠強有力的法律保障迫使經(jīng)營者加以重視,加強其對消費者個人信息的保護力度。

    (二)設(shè)備存儲信息泄露風(fēng)險

    有些智能家居設(shè)備本身就用于監(jiān)控、記錄,為了完成其基本功能需要,自然要收集、保存用戶的許多隱私數(shù)據(jù),例如各種網(wǎng)絡(luò)攝像頭、智能門鎖門鈴等設(shè)備。這些設(shè)備接收和記錄的數(shù)據(jù)絕大部分涉及用戶個人隱私,例如用戶家中人員動向、物件陳設(shè),家附近的安防狀態(tài)等等,一旦被泄露或者不當(dāng)利用,會給消費者和使用者的生命財產(chǎn)安全造成損失。

    典型案例是2017年曝光的360智能攝像頭和水滴直播涉嫌侵犯公民個人隱私事件。由于360智能攝像頭自帶在線直播功能,一旦開啟即可直接接入水滴直播平臺將攝像頭錄制內(nèi)容實時與在線直播觀看者分享互動。這項功能的設(shè)計初衷是為了監(jiān)控課堂教學(xué)情況,家長可以在直播間看到孩子在教室的一舉一動,但是被某些別有用心的用戶惡意利用。例如有“黑客”通過遠(yuǎn)程操控把沒有開啟直播功能的360智能攝像頭打開,將使用者的一舉一動公開傳播到互聯(lián)網(wǎng),使用者的隱私被一覽無余,導(dǎo)致消費者對這類網(wǎng)絡(luò)攝像頭的安全性、保密性失去信心。實施這種行為的“黑客”顯然違反法律[5],但也不能忽視攝像頭和直播平臺的經(jīng)營者應(yīng)當(dāng)承擔(dān)的信息安全保障責(zé)任。[6]奇虎360公司應(yīng)當(dāng)定期排查攝像頭的系統(tǒng)安全漏洞,對可能存在的安全隱患進行系統(tǒng)升級等及時處理,并提醒使用者因網(wǎng)絡(luò)攝像頭有泄露個人隱私之虞,在未使用時應(yīng)當(dāng)及時斷電;而水滴直播網(wǎng)站應(yīng)當(dāng)對在其平臺進行直播的內(nèi)容負(fù)監(jiān)管責(zé)任,若有不當(dāng)及時采取信號屏蔽等緊急處理措施。如果“黑客”無法打開用戶家中的攝像頭,或者在未經(jīng)用戶許可時直播平臺不支持聯(lián)網(wǎng)傳送數(shù)據(jù),用戶在使用網(wǎng)絡(luò)攝像頭時就能夠更加放心。

    (三)間接性信息暴露風(fēng)險

    間接性的信息泄露由于較為隱蔽,尚未引起消費者的重視;然而,這種基于數(shù)據(jù)分析而掌握的關(guān)于消費者生活習(xí)慣的信息,一旦泄露其后果也非常嚴(yán)重。在各類智能家居設(shè)備的使用過程中,用戶將會發(fā)出各種指令,例如給掃地機器人設(shè)定家中無人時進行清掃的程式,或者通過手機等設(shè)備在戶外對家中的機器進行遠(yuǎn)程操控,例如在只有老人、小孩在家時打開各項安全防控,設(shè)置空調(diào)、窗簾、照明設(shè)備等固定的開關(guān)時間,或者出門散步時打開可聯(lián)網(wǎng)的洗碗機、咖啡機、豆?jié){機等等,由于智能家居一般會自動記錄用戶的特別指令,以便按照用戶的使用習(xí)慣為用戶智能匹配機器運行模式,這樣用戶只需設(shè)定一次個性化模式即可長期適用。有研究表明,消費者一般認(rèn)為那些不記錄音頻或者視頻的設(shè)備(如燈泡和恒溫器)不存在隱私風(fēng)險,事實上來自此類設(shè)備的原始數(shù)據(jù)可用于推斷家庭入住率、工作習(xí)慣、睡眠模式和其他用戶活動等用戶習(xí)慣。[7]如果這些信息泄露,被用于分析用戶何時在家、何時家中無人或者只有老人小孩等與個人家庭生活密切相關(guān)的重要信息,將嚴(yán)重降低居家安全感,尤其是獨身女性、失獨老人等容易成為人身或者財產(chǎn)性犯罪的目標(biāo)。

    智能家居消費者對物聯(lián)網(wǎng)設(shè)備便利性和互聯(lián)性的關(guān)注度往往超過對設(shè)備老化、安全漏洞和隱私泄露等問題的擔(dān)憂。出于對物聯(lián)網(wǎng)設(shè)備制造商和銷售者的信任,消費者普遍傾向性認(rèn)為經(jīng)營者會采取措施對其個人隱私進行保護,但現(xiàn)實是許多經(jīng)營者實際并沒有執(zhí)行數(shù)據(jù)加密或者匿名化等信息安全規(guī)范。這表明,單純依靠企業(yè)的社會責(zé)任感和自我約束而不施加外部壓力,無法保障智能家居消費者的信息安全,發(fā)展健康有序的智能家居產(chǎn)業(yè)。

    三、歐盟GDPR防控方案研究

    歐盟于2016年4月27日通過,2018年5月25日強制執(zhí)行的《通用數(shù)據(jù)保護條例》(General Data Protection Regulation,縮寫作GDPR),是關(guān)于歐盟范圍內(nèi)個人數(shù)據(jù)和隱私保護的法律規(guī)范,其主要目標(biāo)為統(tǒng)一歐盟內(nèi)經(jīng)營者對個人信息保護的最低要求,取回歐盟公民以及居民對于個人資料的控制權(quán)。GDPR實施后,所有歐盟內(nèi)的經(jīng)營者以及業(yè)務(wù)范圍涉及歐盟的跨國公司必須更新其對用戶個人隱私的獲取、存儲、利用等方式以符合GDPR的要求。各公司網(wǎng)站必須在頁面顯著位置標(biāo)明本站已符合GDPR要求,并將信息采集內(nèi)容進行強制公示,對以往未提請用戶充分注意的信息自動收集情形予以限制。據(jù)統(tǒng)計,許多境外網(wǎng)站通過減少頁面加載項,大幅提升了網(wǎng)頁打開速度,這些網(wǎng)站還以GDPR為依據(jù)改善其網(wǎng)站整體前端工程,從而進一步提高網(wǎng)站性能。例如在GDPR實施后,美國網(wǎng)站“USA Today”為其歐盟用戶上線運行了單獨的網(wǎng)站版本,在該歐洲版中,網(wǎng)站刪除了所有跟蹤腳本和廣告,使得頁面加載內(nèi)容減少了近90%,網(wǎng)頁大小從5.2MB降至500KB,不到原頁面大小的十分之一。又如當(dāng)從歐盟IP地址訪問美國網(wǎng)站“The Verge”時,頁面會彈出一條用于確認(rèn)用戶是否同意網(wǎng)站進行用戶跟蹤的信息,如果用戶不接受該條款,瀏覽記錄就不會被跟蹤,并且網(wǎng)站的速度會變得更快,加載時間從32秒降至5秒,JavaScript文件從61個減至2個,加載內(nèi)容從2MB減至1MB。

    (一)保護范圍廣泛

    GDPR的適用范圍及于所有在歐盟內(nèi)經(jīng)營的數(shù)據(jù)控制者或者處理者①“控制者”指的是決定個人數(shù)據(jù)處理目的與方式的自然人或者法人、公共機構(gòu)、規(guī)制機構(gòu)或者其他組織;“處理者”指的是為數(shù)據(jù)控制者處理個人數(shù)據(jù)的自然人或者法人、公共機構(gòu)、規(guī)制機構(gòu)或者其他組織。對個人數(shù)據(jù)的處理,不論處理過程是否在歐盟內(nèi)進行。而經(jīng)營者能接觸到的與個人信息有關(guān)的數(shù)據(jù),幾乎都被GDPR納入了保護范圍:一是身份識別信息,包括姓名、地址、電話號碼、身份證號、車牌號、相片、影片、電子郵件內(nèi)容等信息;二是網(wǎng)絡(luò)虛擬數(shù)據(jù),包括地理位置、IP地址、Cookie(網(wǎng)站為了辨別用戶身份而儲存在用戶本地終端上的數(shù)據(jù))、移動設(shè)備ID(用于設(shè)備追蹤的唯一的設(shè)備識別碼,例如IMEI國際移動設(shè)備識別碼)、射頻識別碼RFID(通過無線電信號識別特定目標(biāo)并讀寫數(shù)據(jù)的技術(shù),例如高速公路ETC快速通道即為射頻應(yīng)答器的應(yīng)用之一)、社交網(wǎng)絡(luò)活動記錄等;三是生物識別和遺傳信息,包括病歷資料、指紋、面部識別、視網(wǎng)膜掃描等;四是種族、民族特征及其他身份特征,包括精神狀況,文化、社會、政治觀念,性別取向甚至經(jīng)濟水平等。對個人數(shù)據(jù)涵蓋范圍的廣泛,特別是對加入對虛擬數(shù)據(jù)的保護是GDPR有別于其前身Data Protection Directive(數(shù)據(jù)保護指令,簡稱DPD)的重要特征。

    (二)權(quán)利內(nèi)容完整

    GDPR為用戶(數(shù)據(jù)主體)精心設(shè)計了一套隱私權(quán)體系,幫助他們?nèi)』貙€人信息的控制。這些權(quán)利包括:第一,訪問權(quán)。個人有權(quán)請求訪問他們的個人數(shù)據(jù),并詢問經(jīng)營者收集數(shù)據(jù)后如何使用他們的數(shù)據(jù)。如果用戶提出要求,經(jīng)營者必須免費提供用戶被收集信息的完整副本的電子格式。第二,被遺忘權(quán)。如果消費者與經(jīng)營者之間就提供商品或者服務(wù)的協(xié)議終止,或者如果用戶收回經(jīng)營者對其個人數(shù)據(jù)進行處理的許可,那么他們有權(quán)要求經(jīng)營者刪除被收集的個人數(shù)據(jù)。第三,轉(zhuǎn)移數(shù)據(jù)的權(quán)利。用戶有權(quán)從經(jīng)營者處獲取其被收集的個人信息,并在別處重復(fù)使用這些數(shù)據(jù),即用戶有權(quán)將其個人數(shù)據(jù)從一個經(jīng)營者處轉(zhuǎn)移至另一個經(jīng)營者處。尤其是當(dāng)用戶終止與某一經(jīng)營者的服務(wù)提供協(xié)議,轉(zhuǎn)而與同行業(yè)其他競爭者訂立協(xié)議時,在該經(jīng)營者處收集、儲存的用戶的個人數(shù)據(jù)必須根據(jù)用戶需要及時轉(zhuǎn)移。第四,知情權(quán)?;谟脩籼幏謧€人信息的自由,經(jīng)營者收集任何數(shù)據(jù)前必須告知用戶并且得到明確的許可,經(jīng)營者征求用戶許可的條款用語必須明確,并且用戶的許可可以隨時撤回。第五,要求更正信息的權(quán)利。這項權(quán)利確保個人在信息失去時效性、信息不完整或者不準(zhǔn)確時能夠更新信息。第六,限制數(shù)據(jù)收集、處理或者存儲的權(quán)利?;趥€人請求,經(jīng)營者可以存儲但不得處理其個人數(shù)據(jù)。第七,反對權(quán)。根據(jù)此項權(quán)利,個人有權(quán)要求經(jīng)營者停止以營利為目的處理其個人數(shù)據(jù)。反對權(quán)無豁免事由,經(jīng)營者必須在收到請求后立即停止處理,并且經(jīng)營者必須明確告知用戶這一權(quán)利。第八,獲得通知的權(quán)利。這項權(quán)利要求經(jīng)營者應(yīng)當(dāng)在安全漏洞被首次發(fā)現(xiàn)后72小時內(nèi)通知用戶。

    這些權(quán)利看似顯而易見,但在此之前未經(jīng)法律認(rèn)可,如要對其進行保護和救濟,于法無據(jù)。在GDPR框架下上升為法律權(quán)利的更完整、更全面的隱私權(quán)體系,將對歐盟用戶的個人信息保護產(chǎn)生積極而深遠(yuǎn)的影響。

    (三)保護標(biāo)準(zhǔn)高

    GDPR明確規(guī)定了經(jīng)營者處理用戶個人數(shù)據(jù)的七項原則:“合法公平透明性原則(lawfulness,fairness,and transparency)、目的限制原則(limitation of purpose)、數(shù)據(jù)最小化原則(minimization of data)、精確性原則(accuracy)、存儲限制原則(limitation of storage)、完整性與保密性原則(integrity and confidentiality)以及權(quán)責(zé)一致原則(accountability)”[8]。這意味著經(jīng)營范圍在歐盟的經(jīng)營者須保證其數(shù)據(jù)收集目的具體、清晰、正當(dāng);數(shù)據(jù)處理方式合法、合理、透明、有限度;如收集的數(shù)據(jù)有誤,應(yīng)當(dāng)及時更正或者刪除;個人身份識別信息存儲有期限;經(jīng)營者應(yīng)當(dāng)采取合理的技術(shù)手段、組織措施確保個人數(shù)據(jù)安全;以及經(jīng)營者對其遵守了上述原則須承擔(dān)相應(yīng)的舉證責(zé)任。[9]這七項保護原則,特別是“權(quán)責(zé)一致原則”,明確界定了個人信息安全從事前防御要求到舉證責(zé)任分配的相關(guān)內(nèi)容,配合完整的隱私權(quán)體系,能起到嚴(yán)密的保護作用。

    (四)處罰力度大

    GDPR確立了相當(dāng)嚴(yán)厲的罰款制度以保障其規(guī)則的有效實施,經(jīng)營者如果未能符合GDPR的監(jiān)管要求,例如企業(yè)應(yīng)當(dāng)設(shè)置而沒有設(shè)置數(shù)據(jù)保護官(Data Protection Officer,簡稱DPO),或者存在安全漏洞,即使較小的違法行為也有可能引致1000萬歐元或者該公司全球營業(yè)額2%(取較大值)的巨額罰款。根據(jù)行為后果的嚴(yán)重程度,處罰額度最高可達(dá)2000萬歐元或者公司全球營業(yè)額的4%(取較大值)。處罰額度視具體情況而定,取決于違法行為的程度和造成損失的大小,具體數(shù)額由GDPR在歐盟各國的指定機構(gòu)確定。GDPR正式施行以來第一起重罰案例,是2019年1月法國信息與自由委員會(CNIL)宣布對谷歌處以5000萬歐元(約合5700萬美元)的罰款[10],原因是谷歌公司谷歌在處理數(shù)據(jù)之前沒有得到用戶明確同意,用戶基本上不知道自己已經(jīng)同意分享數(shù)據(jù),也不知道谷歌計劃如何使用這些信息,而谷歌公司利用其在搜索引擎、地圖和視頻網(wǎng)站等互聯(lián)網(wǎng)服務(wù)領(lǐng)域的市場優(yōu)勢地位,廣泛收集用戶數(shù)據(jù),用以展示個性化廣告,是對用戶個人信息的不當(dāng)使用。巨額處罰增加了企業(yè)違法成本,對企業(yè)行為規(guī)范化起到威懾作用,能夠倒逼企業(yè)重視消費者的個人信息保護問題,從源頭上遏止企業(yè)不尊重消費者個人信息的現(xiàn)象。

    四、我國智能家居消費者個人信息保護的反思

    (一)經(jīng)營者對消費者個人信息保護義務(wù)的重構(gòu)

    《中華人民共和國消費者權(quán)益保護法》(以下簡稱《消法》)第14條確認(rèn)了消費者享有個人信息受保護權(quán)①《消法》第14條規(guī)定: 消費者在購買、使用商品和接受服務(wù)時,享有人格尊嚴(yán)、民族風(fēng)俗習(xí)慣得到尊重的權(quán)利,享有個人信息依法得到保護的權(quán)利。,第29條則從經(jīng)營者義務(wù)的角度細(xì)化對消費者個人信息保護的要求②《消法》第29條規(guī)定:經(jīng)營者在收集、使用消費者信息時應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,明示收集、使用信息的目的、方式和范圍,并經(jīng)消費者同意。經(jīng)營者收集、使用消費者個人信息,應(yīng)當(dāng)公開其收集、使用規(guī)則,不得違反法律、法規(guī)的規(guī)定和雙方的約定收集、使用信息。經(jīng)營者及其工作人員對收集的消費者個人信息必須嚴(yán)格保密,不得泄露、出售或者非法向他人提供。經(jīng)營者應(yīng)當(dāng)采取技術(shù)措施和其他必要措施,確保信息安全,防止消費者個人信息泄露、丟失。在發(fā)生或者可能發(fā)生信息泄露、丟失的情況時,應(yīng)當(dāng)立即采取補救措施。經(jīng)營者未經(jīng)消費者同意或者請求,或者消費者明確表示拒絕的,不得向其發(fā)送商業(yè)性信息。??傮w上,《消法》也設(shè)置了與GDPR相類似的數(shù)據(jù)收集和使用的合法性、正當(dāng)性、必要性的基本原則,但是在法律規(guī)范中并未對正當(dāng)性、必要性的具體要求予以明確;因此,許多情況下,何為“正當(dāng)”、何為“必要”,以及經(jīng)營者是否達(dá)到法律對于“正當(dāng)”“必要”的要求,需要由法官或者法學(xué)家在個案中加以界定。例如一款智能燈泡是否應(yīng)當(dāng)收集用戶的地理位置信息(盡管有的廠家聲稱通過聯(lián)網(wǎng)上傳地理信息可以根據(jù)日出、日落時間控制燈泡的關(guān)閉或者開啟)呢。不可否認(rèn),智能家居設(shè)備的制造公司確有必要收集一些多余信息,用于提高和改善服務(wù)。例如谷歌公司為了改善其智能音箱的智能語音識別功能,會在用戶并未輸入語音指令啟動設(shè)備時就對周圍聲音進行收集和上傳,谷歌公司智能語音識別功能研發(fā)部門持續(xù)對收集到的語音信息進行分析,根據(jù)數(shù)據(jù)顯示,將高頻語料錄入語料庫替換掉低頻詞、短語及句子。雖然許多消費者對此舉存在爭議,認(rèn)為其個人生活在不間斷地被谷歌公司監(jiān)控,但是對此,谷歌公司采用了一套復(fù)雜算法以預(yù)防可能發(fā)生的隱私泄露,即把用戶身份識別信息和相應(yīng)的語言信息進行亂序處理,這樣用戶就無需擔(dān)心其個人信息是否匿名,因為通過語音信息無法對應(yīng)找到該信息的發(fā)出者,也無法反向利用用戶的賬戶信息找到其所發(fā)出過的語音指令。并且,谷歌公司還規(guī)定所有收集到的語音信息經(jīng)過一段時間后須強制刪除。這種做法的確行之有效,消費者并未因?qū)﹄[私泄露的擔(dān)憂而拒絕購買谷歌公司的智能音箱。這說明,縱然個案情形千變?nèi)f化,建立一套清晰、可操作的標(biāo)準(zhǔn)[11],用于判斷經(jīng)營者收集的消費者個人信息的內(nèi)容以及收集程序是否合法,以便于在案件中統(tǒng)一進行識別,是有必要的。

    除此之外,關(guān)于經(jīng)營者應(yīng)當(dāng)如何“明示收集使用信息的目的、方式和范圍”,怎樣“公開其收集、使用規(guī)則”,以及消費者同意的取得方式、經(jīng)營者如何履行保密義務(wù)等問題也有待進一步明確。智能家居設(shè)備收集和使用的往往是消費者最私密、最敏感的信息,因此經(jīng)營者對消費者個人信息進行收集、存儲的全過程都應(yīng)當(dāng)受到嚴(yán)密監(jiān)管,并有明確而行之有效的制度進行規(guī)范。如果缺乏嚴(yán)格的法律規(guī)制尤其是法律責(zé)任的約束,僅僅依靠企業(yè)自身的社會責(zé)任感,期待企業(yè)自覺遵守秩序,無疑會令消費者的信息安全處在高度危險的信息環(huán)境中,無論是由于經(jīng)營者的故意或者過失直接導(dǎo)致消費者個人信息泄露,還是由于經(jīng)營者所生產(chǎn)、銷售的智能家居設(shè)備本身存在不合理的信息安全風(fēng)險易受網(wǎng)絡(luò)“黑客”等第三方攻擊[12],后果都將不堪設(shè)想。在互聯(lián)網(wǎng)極度發(fā)達(dá)的當(dāng)下,任何個人隱私一旦暴露在網(wǎng)絡(luò)環(huán)境中,任憑當(dāng)事人采取任何補救措施都于事無補,因其已經(jīng)泄露的隱私不可能被完全消除毫不留痕,反而會被無數(shù)網(wǎng)絡(luò)使用者收集、存儲甚至加以利用。因此,當(dāng)談及個人信息的保護,以事前約束的方式敦促經(jīng)營者加大力度履行所負(fù)擔(dān)的消費者個人信息保護義務(wù),往往比信息泄露后對經(jīng)營者進行事后懲罰更有效。對經(jīng)營者進行事前的行為約束是對立法者提出的要求,如果法律規(guī)范內(nèi)容明確并且具有可執(zhí)行性,經(jīng)營者自然能按照法律規(guī)范的指引為相應(yīng)行為,消費者的信息風(fēng)險也隨之下降。而在現(xiàn)實中,為了節(jié)省信息成本,同時又能滿足法律要求,經(jīng)營者往往通過預(yù)先擬定的《用戶協(xié)議》等格式條款,將消費者信息的收集目的、方式和范圍以及收集、使用規(guī)則等作為其中的內(nèi)容,消費者必須勾選“同意《用戶協(xié)議》”的注冊條款才能開始使用經(jīng)營者的商品或者享受有關(guān)服務(wù),經(jīng)營者隨即利用這種“消費者的同意”來為其疏于保護消費者個人信息安全的行為進行抗辯。經(jīng)營者之所以“鉆空子”,就是由于法律規(guī)定不夠明確,并且違法成本較低,無法引起經(jīng)營者主觀上的重視。另外,如果智能家居設(shè)備的使用者是無民事行為能力人或者限制民事行為能力人,又或者是對電子設(shè)備不甚了解的老年人,他們的“同意”是否可以作為經(jīng)營者的抗辯理由,如果用戶自身對個人信息保護并不十分注重,是否可以任由經(jīng)營者利用其個人信息呢?在對經(jīng)營者對消費者負(fù)有的個人信息保護義務(wù)進行重構(gòu)時,這些因素都應(yīng)當(dāng)被考慮進來。

    (二)消費者個人信息受保護權(quán)與安全權(quán)的競合與價值沖突

    《消法》規(guī)定“消費者享有人身、財產(chǎn)安全不受損害的權(quán)利”①《消法》第7條規(guī)定: 消費者在購買、使用商品和接受服務(wù)時享有人身、財產(chǎn)安全不受損害的權(quán)利。消費者有權(quán)要求經(jīng)營者提供的商品和服務(wù),符合保障人身、財產(chǎn)安全的要求。,在直接意義上,消費者的安全權(quán),意味著經(jīng)營者提供的商品、服務(wù)不應(yīng)存在不合理的危險,并且如果經(jīng)營者有某些固定的經(jīng)營場所,例如“賓館、商場、餐館、銀行、機場、車站、港口、影劇院”等經(jīng)營場所的經(jīng)營者對在該場所內(nèi)的消費者的人身、財產(chǎn)安全也負(fù)有一定的安全保障義務(wù)②《消法》第18條規(guī)定: 經(jīng)營者應(yīng)當(dāng)保證其提供的商品或者服務(wù)符合保障人身、財產(chǎn)安全的要求。對可能危及人身、財產(chǎn)安全的商品和服務(wù),應(yīng)當(dāng)向消費者作出真實的說明和明確的警示,并說明和標(biāo)明正確使用商品或者接受服務(wù)的方法以及防止危害發(fā)生的方法。賓館、商場、餐館、銀行、機場、車站、港口、影劇院等經(jīng)營場所的經(jīng)營者,應(yīng)當(dāng)對消費者盡到安全保障義務(wù)。,與此相對應(yīng),《侵權(quán)責(zé)任法》也規(guī)定了賓館、商場、銀行、車站、娛樂場所等公共場所的管理人的安全保障義務(wù)③《侵權(quán)責(zé)任法》第37條規(guī)定:賓館、商場、銀行、車站、娛樂場所等公共場所的管理人或者群眾性活動的組織者,未盡到安全保障義務(wù),造成他人損害的,應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。因第三人的行為造成他人損害的,由第三人承擔(dān)侵權(quán)責(zé)任;管理人或者組織者未盡到安全保障義務(wù)的,承擔(dān)相應(yīng)的補充責(zé)任。。假設(shè)消費者在使用智能家居設(shè)備的過程中,個人信息被泄露,其財產(chǎn)、身體健康甚至生命安全受到侵害,是否屬于消費者安全權(quán)的保護范疇?智能家居設(shè)備經(jīng)營者是否可能因為其產(chǎn)品有信息安全的瑕疵甚至缺陷而承擔(dān)產(chǎn)品責(zé)任?當(dāng)消費者的安全權(quán)和個人信息受保護權(quán)發(fā)生競合時,由于在不同情形下?lián)p害賠償?shù)姆秶煌嬎愠龅馁r償額也不同,是否可以由消費者自行決定以何理由起訴,以最大化保護消費者利益?在人工智能技術(shù)大力發(fā)展的背景下,有時智能家居設(shè)備的安全漏洞或許無法完全歸咎于設(shè)備制造者或者銷售者,因為搭載人工智能技術(shù)的設(shè)備自身具有學(xué)習(xí)能力,一些在制造、生產(chǎn)時不存在或者無法發(fā)現(xiàn)的缺陷可能會在機器學(xué)習(xí)的過程中發(fā)掘出來,此時經(jīng)營者可否援引產(chǎn)品責(zé)任的免責(zé)事由進行抗辯?又比如,消費者在酒店客房使用酒店提供的某款智能音箱時因個人信息泄露,致使人身、財產(chǎn)安全遭受威脅,酒店是否應(yīng)當(dāng)對此承擔(dān)公共場所管理人的安全保障義務(wù)?如果答案是肯定的,那么智能家居設(shè)備的經(jīng)營者、提供者(酒店)以及直接侵權(quán)人之間的侵權(quán)責(zé)任應(yīng)當(dāng)如何分配,也需要進一步明確。

    消費者的安全權(quán)與個人信息受保護權(quán)并不總是競合的關(guān)系,有時兩者也背道而馳,存在一定沖突,在人工智能背景下這種沖突甚至呈現(xiàn)擴大的趨勢。例如,假設(shè)一臺持續(xù)運轉(zhuǎn)的智能音箱檢測到用戶在喊“救命”,或者設(shè)備研發(fā)部門在對收集到的語料進行分析時聽到青少年用戶說“我媽媽被爸爸打了”,智能音箱能否自動為其呼叫報警電話?研發(fā)部門又是否有權(quán)追蹤此條語音信息的來源,向用戶證實其真實性?在出現(xiàn)消費者安全權(quán)和個人信息受保護權(quán)的價值沖突時,應(yīng)當(dāng)明確安全的價值是高于個人隱私的價值的。如果法律更注重保護用戶的人身、財產(chǎn)安全,那么對經(jīng)營者就提出了相應(yīng)的要求,一旦用戶真的遇到人身、財產(chǎn)的危險,智能音箱或者研發(fā)人員必須積極行為幫助用戶脫險,否則有可能構(gòu)成經(jīng)營者對消費者人身、財產(chǎn)安全的保護義務(wù)的違反。但是也不能無限擴大這種價值取向,因為如果在任何情況下都認(rèn)定公民的人身安全、財產(chǎn)安全的價值優(yōu)先于個人隱私,將模糊公民個人隱私的邊界,極易使得經(jīng)營者擴張其對消費者個人信息的收集、存儲和利用,經(jīng)營者甚至有可能以保護消費者安全權(quán)為由拒絕履行對消費者個人信息的保護義務(wù),反而出現(xiàn)對公民個人隱私進行不當(dāng)監(jiān)視的危險傾向。至于在個案中應(yīng)當(dāng)強調(diào)公民的安全權(quán)還是個人信息受保護權(quán),也許只能由法官根據(jù)事實來判斷。

    此外,通過智能家居設(shè)備收集的信息能否用作刑事或者民事訴訟的證據(jù),這在目前的司法實踐中尚未受到關(guān)注,但是可以預(yù)見,隨著智能家居設(shè)備收集的信息量越來越大、信息面越來越廣,在不久的將來,利用智能家居設(shè)備經(jīng)營者存儲在其數(shù)據(jù)庫中的信息作為訴訟證據(jù)會形成不可阻擋的趨勢。這將導(dǎo)致現(xiàn)有的證據(jù)規(guī)則受到?jīng)_擊,因為智能家居設(shè)備具有一定程度的自主意識,并不能認(rèn)為智能家居設(shè)備的行為完全代表了其制造者或者使用者,那么是否就能認(rèn)定通過智能家居設(shè)備合法收集到的個人信息作為訴訟證據(jù)不違反證據(jù)收集的規(guī)則,從而可以用作指控信息被收集者的證據(jù)呢?這其實也體現(xiàn)了消費者個人信息受保護權(quán)與安全權(quán)之間的價值沖突,應(yīng)當(dāng)考慮到,如果認(rèn)定智能家居設(shè)備收集到的信息可以作為針對該用戶自身的合法證據(jù),將不利于智能家居設(shè)備市場的發(fā)展。但是如果用戶同意,則可以利用。此外,用戶如果需要利用智能家居設(shè)備收集的信息作出有利于自己的證明,經(jīng)營者應(yīng)當(dāng)予以配合,從自然法角度,用戶取回自己的信息是其天然享有的權(quán)利,經(jīng)營者之所以能夠收集用戶的個人信息,實際上是由于用戶讓渡出了一部分隱私權(quán),因此用戶利用其個人信息進行舉證應(yīng)當(dāng)是無條件的,經(jīng)營者沒有理由拒絕。

    (三)消費者的精神損害賠償請求權(quán)

    《消法》對消費者可以提起精神損害賠償請求的情形進行了限定①《消法》 第51條規(guī)定: 經(jīng)營者有侮辱誹謗、搜查身體、侵犯人身自由等侵害消費者或者其他受害人人身權(quán)益的行為,造成嚴(yán)重精神損害的,受害人可以要求精神損害賠償。,并不包括經(jīng)營者違反保護消費者個人信息義務(wù)的情形。根據(jù)《侵權(quán)責(zé)任法》第2條②《侵權(quán)責(zé)任法》第2條規(guī)定:侵害民事權(quán)益,應(yīng)當(dāng)依照本法承擔(dān)侵權(quán)責(zé)任。本法所稱民事權(quán)益,包括生命權(quán)、健康權(quán)、姓名權(quán)、名譽權(quán)、榮譽權(quán)、肖像權(quán)、隱私權(quán)、婚姻自主權(quán)、監(jiān)護權(quán)、所有權(quán)、用益物權(quán)、擔(dān)保物權(quán)、著作權(quán)、專利權(quán)、商標(biāo)專用權(quán)、發(fā)現(xiàn)權(quán)、股權(quán)、繼承權(quán)等人身、財產(chǎn)權(quán)益。,受法律保護的民事權(quán)利包括隱私權(quán),并且該法第22條規(guī)定,“侵害他人人身權(quán)益,造成他人嚴(yán)重精神損害的,被侵權(quán)人可以請求精神損害賠償?!庇捎谠凇肚謾?quán)責(zé)任法》中涉及侵犯隱私權(quán)的主體只有醫(yī)療機構(gòu)及其醫(yī)務(wù)人員,并沒有對經(jīng)營者侵犯消費者個人隱私的侵權(quán)責(zé)任加以特別規(guī)定,如果把《消法》看作是《侵權(quán)責(zé)任法》的特別法,那么消費者享有的各項權(quán)利都應(yīng)當(dāng)受到《侵權(quán)責(zé)任法》的保護,而消費者的隱私權(quán)是一種典型的人身權(quán)益,假如經(jīng)營者違反對消費者個人信息保護的義務(wù),侵害了消費者隱私權(quán),給消費者帶來精神損失,允許消費者就該損失請求精神損害賠償,在邏輯上是恰當(dāng)?shù)?。例如,?jīng)常有消費者在終止與經(jīng)營者的商品或者服務(wù)合同后,卻發(fā)現(xiàn)其個人電話被泄露,收到許多騷擾短信或者電話,不堪其擾。如果消費者在購物平臺上對經(jīng)營者做出負(fù)面評價,有的經(jīng)營者甚至將消費者的所有個人信息曝光給“呼死你”等網(wǎng)絡(luò)電話呼叫平臺,對消費者進行信息轟炸。更有甚者,將消費者的信息曝光給淫穢色情網(wǎng)站,用抹黑消費者等方法對其進行人格侮辱。經(jīng)歷這些情況,消費者難免會產(chǎn)生負(fù)面情緒,如果維權(quán)途徑不暢,再加上缺乏合理的疏導(dǎo),在與經(jīng)營者對峙時,作為弱勢群體的消費者精神上很容易遭受重創(chuàng),甚至造成難以復(fù)原也難以衡量的精神損害。對這類消費者進行精神上的救濟,認(rèn)可他們享有精神損害賠償請求權(quán),并無不可。再者,如果由于經(jīng)營者的疏忽導(dǎo)致消費者個人隱私泄露,引起嚴(yán)重后果,造成嚴(yán)重精神損害的,消費者能否得到精神損失賠償呢?例如,家用智能攝像頭記錄下來的居家生活情況,被黑客攻擊后公布到網(wǎng)絡(luò)服務(wù)器上,讓用戶的私密信息公之于眾,對其造成不可消除的精神損害。盡管直接的侵權(quán)責(zé)任人是網(wǎng)絡(luò)黑客,但如果攝像頭的數(shù)據(jù)安全性存在設(shè)計上的缺陷,該智能產(chǎn)品的制造者和銷售者是否應(yīng)當(dāng)對消費者的精神損失承擔(dān)相應(yīng)賠償責(zé)任?經(jīng)營者與侵權(quán)的直接責(zé)任人之間的責(zé)任份額如何確定?經(jīng)營者是否需要承擔(dān)連帶責(zé)任?而消費者由于隱私受侵害,要想獲得精神損害賠償,其精神損失需要達(dá)到何種程度?證明責(zé)任如何分配?在現(xiàn)有制度下,這些問題尚無統(tǒng)一的答案。但可以確定的是,消費者因個人隱私受侵犯而受到精神上的創(chuàng)傷,應(yīng)當(dāng)允許其請求精神損害賠償。

    五、結(jié)語

    近年來,關(guān)于智能家居設(shè)備信息安全的自然科學(xué)和社會科學(xué)研究都在逐漸增多,單就法學(xué)領(lǐng)域而言,智能家居設(shè)備的發(fā)展對消費者個人信息保護帶來巨大影響,無論是對于純粹的理論研究還是在立法或者司法實務(wù)界,都是無法回避的問題。一般來說,法律制度是相對滯后的,但關(guān)于法律問題的思考應(yīng)該是前瞻的。針對智能家居設(shè)備帶來的有關(guān)隱私、倫理、責(zé)任、安全等問題,需要在政府主導(dǎo)下,以經(jīng)營者和消費者的合作互信為基礎(chǔ),共同削弱智能家居設(shè)備對消費者個人信息安全造成的不利影響,創(chuàng)建人類與人工智能彼此信任的未來。

    猜你喜歡
    智能家居經(jīng)營者個人信息
    明清珠江三角洲基塘區(qū)的田場與經(jīng)營者
    廣州文博(2023年0期)2023-12-21 07:24:30
    如何保護勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護進入“法時代”
    《經(jīng)營者》征稿啟事
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    基于Zigbee的無線通信技術(shù)在智能家居中的應(yīng)用
    電子制作(2018年1期)2018-04-04 01:48:28
    關(guān)于智能家居真正需求的探討
    做一名聰明的集團醫(yī)院經(jīng)營者
    智能家居更貼心
    個人信息保護等6項通信行業(yè)標(biāo)準(zhǔn)征求意見
    色婷婷久久久亚洲欧美| 我的老师免费观看完整版| 亚洲国产成人一精品久久久| 婷婷色综合www| 黄色怎么调成土黄色| 各种免费的搞黄视频| 欧美老熟妇乱子伦牲交| 18禁动态无遮挡网站| av一本久久久久| 久久精品人妻少妇| 亚洲av中文字字幕乱码综合| 久久久久国产精品人妻一区二区| 一级毛片电影观看| 国产亚洲5aaaaa淫片| 在线看a的网站| 你懂的网址亚洲精品在线观看| 精品久久久噜噜| 亚洲精品国产av蜜桃| 大香蕉97超碰在线| 男男h啪啪无遮挡| 免费观看的影片在线观看| 夜夜骑夜夜射夜夜干| 一区二区三区四区激情视频| 欧美精品国产亚洲| 哪个播放器可以免费观看大片| 日产精品乱码卡一卡2卡三| 久久久久久久久久人人人人人人| 秋霞伦理黄片| 亚洲av在线观看美女高潮| 99热这里只有精品一区| 国产黄色视频一区二区在线观看| 国产精品爽爽va在线观看网站| 18禁裸乳无遮挡动漫免费视频| 汤姆久久久久久久影院中文字幕| 99国产精品免费福利视频| 国产欧美日韩精品一区二区| 免费观看性生交大片5| 日韩精品有码人妻一区| 99精国产麻豆久久婷婷| 伦精品一区二区三区| 小蜜桃在线观看免费完整版高清| 成人一区二区视频在线观看| 精品视频人人做人人爽| 久久久久久久久久久丰满| 啦啦啦啦在线视频资源| 最近的中文字幕免费完整| 国产69精品久久久久777片| 国产精品久久久久久久久免| 一区二区三区乱码不卡18| 久久久久人妻精品一区果冻| 精品一区二区免费观看| 久久久久久九九精品二区国产| 99国产精品免费福利视频| 国产毛片在线视频| 最近最新中文字幕大全电影3| 国产淫片久久久久久久久| 中文乱码字字幕精品一区二区三区| 一区二区三区免费毛片| 中国三级夫妇交换| 国产精品福利在线免费观看| 亚洲色图av天堂| 日韩一区二区视频免费看| 婷婷色av中文字幕| 毛片一级片免费看久久久久| 精品久久久久久久久av| 日本av免费视频播放| 99视频精品全部免费 在线| 中文资源天堂在线| 国产 一区 欧美 日韩| 美女高潮的动态| 性色avwww在线观看| a级毛片免费高清观看在线播放| av国产免费在线观看| 亚洲精品aⅴ在线观看| 人妻制服诱惑在线中文字幕| 99久久精品一区二区三区| 国产精品蜜桃在线观看| 成年人午夜在线观看视频| 91精品国产国语对白视频| 精品一区在线观看国产| 菩萨蛮人人尽说江南好唐韦庄| 国产精品成人在线| 91久久精品电影网| 欧美区成人在线视频| av福利片在线观看| 中国美白少妇内射xxxbb| 久久久久久久亚洲中文字幕| 欧美 日韩 精品 国产| 99热全是精品| 国产 精品1| 王馨瑶露胸无遮挡在线观看| 激情 狠狠 欧美| 国产亚洲91精品色在线| 十分钟在线观看高清视频www | 在线观看av片永久免费下载| 日韩成人伦理影院| 日韩视频在线欧美| 一本色道久久久久久精品综合| 国产成人精品福利久久| 国产高清三级在线| 久久久久国产精品人妻一区二区| 夜夜骑夜夜射夜夜干| 97热精品久久久久久| 欧美一区二区亚洲| 自拍欧美九色日韩亚洲蝌蚪91 | 国内少妇人妻偷人精品xxx网站| av.在线天堂| 夫妻性生交免费视频一级片| 我的老师免费观看完整版| 最近中文字幕2019免费版| 看十八女毛片水多多多| 美女脱内裤让男人舔精品视频| 精品一品国产午夜福利视频| 成年av动漫网址| 国产精品嫩草影院av在线观看| 日韩成人av中文字幕在线观看| 国产视频首页在线观看| 黑人猛操日本美女一级片| 激情 狠狠 欧美| 啦啦啦在线观看免费高清www| 久久精品国产自在天天线| 一区二区三区精品91| 国内少妇人妻偷人精品xxx网站| 亚洲欧美一区二区三区黑人 | 日日撸夜夜添| 精品久久久久久久久亚洲| 日本av免费视频播放| 欧美亚洲 丝袜 人妻 在线| 亚洲欧美一区二区三区黑人 | 麻豆国产97在线/欧美| 国产一区亚洲一区在线观看| 久久精品久久久久久噜噜老黄| 久久99精品国语久久久| 日韩欧美 国产精品| 午夜福利在线观看免费完整高清在| 国产成人精品久久久久久| 夫妻性生交免费视频一级片| 日韩,欧美,国产一区二区三区| 尾随美女入室| 国产探花极品一区二区| 在线观看免费视频网站a站| 国产久久久一区二区三区| 纯流量卡能插随身wifi吗| 亚洲精品456在线播放app| 熟女人妻精品中文字幕| kizo精华| 精品久久久噜噜| av黄色大香蕉| 中文字幕人妻熟人妻熟丝袜美| 91精品国产九色| 亚洲国产成人一精品久久久| 国产精品久久久久久精品古装| 久久久久国产精品人妻一区二区| 亚洲精品日本国产第一区| 毛片女人毛片| 中文字幕精品免费在线观看视频 | 亚洲精品国产色婷婷电影| 在线观看三级黄色| 爱豆传媒免费全集在线观看| 美女国产视频在线观看| 免费观看a级毛片全部| 全区人妻精品视频| 网址你懂的国产日韩在线| 精品少妇黑人巨大在线播放| 欧美变态另类bdsm刘玥| 大又大粗又爽又黄少妇毛片口| 久久久久性生活片| 亚洲国产精品成人久久小说| 麻豆成人午夜福利视频| 最后的刺客免费高清国语| av在线播放精品| 综合色丁香网| 深爱激情五月婷婷| 中国国产av一级| 色哟哟·www| 精品午夜福利在线看| 日韩三级伦理在线观看| 亚州av有码| 亚洲国产精品专区欧美| 深夜a级毛片| 亚洲真实伦在线观看| 免费观看a级毛片全部| 国产永久视频网站| 久久国产精品大桥未久av | 久久亚洲国产成人精品v| 亚洲精品一区蜜桃| 亚洲av不卡在线观看| 蜜桃亚洲精品一区二区三区| 国产精品蜜桃在线观看| 美女视频免费永久观看网站| 国产精品99久久99久久久不卡 | 天堂8中文在线网| 我的女老师完整版在线观看| 国产精品无大码| 97超视频在线观看视频| 国产亚洲欧美精品永久| 在线观看免费日韩欧美大片 | 亚洲内射少妇av| 99热国产这里只有精品6| 自拍偷自拍亚洲精品老妇| 男人舔奶头视频| 日韩欧美 国产精品| 欧美区成人在线视频| 亚洲欧美日韩东京热| 亚洲欧美日韩东京热| 九草在线视频观看| 国产精品99久久久久久久久| 另类亚洲欧美激情| av专区在线播放| 男女无遮挡免费网站观看| 少妇熟女欧美另类| 亚洲精品日本国产第一区| 人妻少妇偷人精品九色| 深爱激情五月婷婷| 欧美成人a在线观看| 精品久久久精品久久久| 亚洲av不卡在线观看| 最近最新中文字幕大全电影3| 黄色视频在线播放观看不卡| 黄色视频在线播放观看不卡| 成年免费大片在线观看| av线在线观看网站| 成年女人在线观看亚洲视频| 十八禁网站网址无遮挡 | 午夜老司机福利剧场| 国产亚洲欧美精品永久| 国产精品偷伦视频观看了| 国产在线视频一区二区| 国产欧美亚洲国产| 身体一侧抽搐| 国产女主播在线喷水免费视频网站| 亚洲精品乱码久久久久久按摩| freevideosex欧美| 夫妻午夜视频| 少妇猛男粗大的猛烈进出视频| 久久久久精品性色| 亚洲不卡免费看| 午夜免费男女啪啪视频观看| 国产av码专区亚洲av| 2022亚洲国产成人精品| 观看av在线不卡| 男女国产视频网站| 久久精品久久精品一区二区三区| 久久国产亚洲av麻豆专区| 六月丁香七月| 卡戴珊不雅视频在线播放| 国内精品宾馆在线| 国产精品久久久久久精品古装| 久久久久久人妻| 亚洲图色成人| 97超碰精品成人国产| 欧美区成人在线视频| 91aial.com中文字幕在线观看| 国产精品国产三级国产av玫瑰| 一级毛片久久久久久久久女| 国产 精品1| 韩国av在线不卡| 一个人免费看片子| 国产精品.久久久| 国产爱豆传媒在线观看| 黑丝袜美女国产一区| 国产精品偷伦视频观看了| 国内少妇人妻偷人精品xxx网站| 国产极品天堂在线| 91午夜精品亚洲一区二区三区| 午夜福利在线观看免费完整高清在| 深夜a级毛片| 欧美精品一区二区免费开放| 亚洲成人中文字幕在线播放| 日本vs欧美在线观看视频 | 国产精品.久久久| 久久久亚洲精品成人影院| 国内揄拍国产精品人妻在线| 精品久久国产蜜桃| 日韩欧美精品免费久久| 如何舔出高潮| 91精品一卡2卡3卡4卡| 成年美女黄网站色视频大全免费 | 久久人人爽av亚洲精品天堂 | 亚洲内射少妇av| 18禁裸乳无遮挡免费网站照片| 国产深夜福利视频在线观看| 99精国产麻豆久久婷婷| 亚州av有码| 亚洲四区av| 如何舔出高潮| 在线播放无遮挡| 男女边摸边吃奶| 久久久国产一区二区| 亚洲va在线va天堂va国产| 在线亚洲精品国产二区图片欧美 | 舔av片在线| 美女内射精品一级片tv| 国产69精品久久久久777片| 久久国产精品男人的天堂亚洲 | 亚洲三级黄色毛片| 亚洲中文av在线| 深夜a级毛片| 成人漫画全彩无遮挡| 男人爽女人下面视频在线观看| 99热这里只有是精品在线观看| 久久精品国产a三级三级三级| 免费看不卡的av| 日本免费在线观看一区| 日韩中字成人| 男女边吃奶边做爰视频| 欧美xxxx黑人xx丫x性爽| 99热这里只有是精品在线观看| 丝袜喷水一区| 夫妻性生交免费视频一级片| 亚洲精品视频女| 日韩大片免费观看网站| 久久久色成人| 成人二区视频| 亚洲三级黄色毛片| 夫妻性生交免费视频一级片| av在线观看视频网站免费| 一本—道久久a久久精品蜜桃钙片| 黄色怎么调成土黄色| 在线免费十八禁| 亚洲国产毛片av蜜桃av| 免费大片黄手机在线观看| 日韩一本色道免费dvd| 99久久中文字幕三级久久日本| 观看美女的网站| 性色av一级| 久久婷婷青草| 欧美区成人在线视频| 亚洲精品日韩av片在线观看| 日本爱情动作片www.在线观看| 久久精品国产亚洲网站| 久久婷婷青草| 欧美xxⅹ黑人| 日日撸夜夜添| 天堂8中文在线网| 久久精品夜色国产| 国产深夜福利视频在线观看| 高清视频免费观看一区二区| 日本免费在线观看一区| 国产成人免费观看mmmm| 国产免费一区二区三区四区乱码| 蜜桃亚洲精品一区二区三区| 久久精品国产鲁丝片午夜精品| 久久女婷五月综合色啪小说| 国产精品秋霞免费鲁丝片| 久久99热这里只频精品6学生| 熟女人妻精品中文字幕| 久久久久久久亚洲中文字幕| 欧美激情国产日韩精品一区| 欧美亚洲 丝袜 人妻 在线| 成人影院久久| 免费在线观看成人毛片| 一级爰片在线观看| 日本黄色日本黄色录像| 亚洲欧美日韩无卡精品| 午夜福利高清视频| 草草在线视频免费看| 国产精品三级大全| 一本久久精品| 熟妇人妻不卡中文字幕| 日韩在线高清观看一区二区三区| 天天躁夜夜躁狠狠久久av| 久久99热这里只有精品18| 亚洲精品久久午夜乱码| 亚洲av不卡在线观看| 岛国毛片在线播放| av免费观看日本| 一级毛片电影观看| 高清欧美精品videossex| 香蕉精品网在线| 日日摸夜夜添夜夜添av毛片| 人妻夜夜爽99麻豆av| 高清日韩中文字幕在线| 日本爱情动作片www.在线观看| 欧美精品亚洲一区二区| 一个人免费看片子| 老司机影院毛片| 在线观看一区二区三区| 观看美女的网站| 亚洲人与动物交配视频| 国产成人精品一,二区| 成人免费观看视频高清| 街头女战士在线观看网站| 国产高清国产精品国产三级 | 久热这里只有精品99| 寂寞人妻少妇视频99o| 免费播放大片免费观看视频在线观看| 成人18禁高潮啪啪吃奶动态图 | 国产老妇伦熟女老妇高清| 亚洲精品一区蜜桃| av福利片在线观看| 国产精品偷伦视频观看了| 国产男女内射视频| 91精品国产国语对白视频| 极品教师在线视频| 人人妻人人澡人人爽人人夜夜| www.色视频.com| 99久久精品国产国产毛片| 国产成人a区在线观看| 在线观看av片永久免费下载| 午夜激情久久久久久久| 中文字幕精品免费在线观看视频 | av卡一久久| 免费看日本二区| 亚洲人成网站高清观看| av福利片在线观看| 黑人高潮一二区| av不卡在线播放| 国产免费又黄又爽又色| 成人毛片a级毛片在线播放| 国产亚洲欧美精品永久| 亚洲av免费高清在线观看| 观看免费一级毛片| av网站免费在线观看视频| 日韩三级伦理在线观看| 一本久久精品| 国产高清三级在线| 日本-黄色视频高清免费观看| 国产伦精品一区二区三区视频9| 国产精品久久久久久av不卡| 久久精品国产a三级三级三级| 亚洲欧美精品自产自拍| 欧美另类一区| 建设人人有责人人尽责人人享有的 | 自拍欧美九色日韩亚洲蝌蚪91 | 高清av免费在线| 下体分泌物呈黄色| 午夜视频国产福利| 久久久午夜欧美精品| 欧美另类一区| 久久精品夜色国产| 日韩在线高清观看一区二区三区| 亚洲精品亚洲一区二区| 日韩强制内射视频| 97精品久久久久久久久久精品| 精品一品国产午夜福利视频| 国内少妇人妻偷人精品xxx网站| 男女边吃奶边做爰视频| 在线免费观看不下载黄p国产| av视频免费观看在线观看| 亚洲精品久久久久久婷婷小说| 欧美性感艳星| 极品教师在线视频| 岛国毛片在线播放| 亚洲伊人久久精品综合| 日韩免费高清中文字幕av| 精品亚洲成a人片在线观看 | 国产精品一区二区在线不卡| 色视频www国产| 欧美激情国产日韩精品一区| 日韩中字成人| 亚洲欧美日韩卡通动漫| 亚洲欧美日韩另类电影网站 | 80岁老熟妇乱子伦牲交| 国产真实伦视频高清在线观看| 一区二区三区免费毛片| 少妇的逼水好多| 日本午夜av视频| 91精品伊人久久大香线蕉| 乱码一卡2卡4卡精品| 交换朋友夫妻互换小说| 久久久久久久精品精品| 国产久久久一区二区三区| 天堂中文最新版在线下载| 一级a做视频免费观看| 久热久热在线精品观看| 国产黄片美女视频| 亚洲av成人精品一二三区| 婷婷色综合www| 久久久欧美国产精品| 只有这里有精品99| 91久久精品国产一区二区成人| 观看免费一级毛片| 免费高清在线观看视频在线观看| 欧美zozozo另类| 美女中出高潮动态图| 亚洲激情五月婷婷啪啪| 精品少妇久久久久久888优播| 久久精品国产a三级三级三级| 制服丝袜香蕉在线| 亚洲精品国产色婷婷电影| 国产一级毛片在线| 久久国产精品大桥未久av | 欧美亚洲 丝袜 人妻 在线| 亚洲色图综合在线观看| 最近最新中文字幕大全电影3| 久久热精品热| 丰满迷人的少妇在线观看| 九九爱精品视频在线观看| 全区人妻精品视频| 夫妻午夜视频| 男人狂女人下面高潮的视频| 一个人看的www免费观看视频| 亚洲av福利一区| 99热6这里只有精品| 女人久久www免费人成看片| 国产精品人妻久久久影院| 麻豆乱淫一区二区| 全区人妻精品视频| 国产高清国产精品国产三级 | 2022亚洲国产成人精品| 一级毛片我不卡| 人人妻人人爽人人添夜夜欢视频 | 女性生殖器流出的白浆| 精品久久久久久久久av| 欧美成人午夜免费资源| 亚洲av国产av综合av卡| 大香蕉97超碰在线| 国产高清不卡午夜福利| 一级二级三级毛片免费看| 青春草视频在线免费观看| 国产精品av视频在线免费观看| 久久久久精品性色| 国产熟女欧美一区二区| 亚洲色图综合在线观看| 中国美白少妇内射xxxbb| 国产精品免费大片| 一个人免费看片子| 国产精品秋霞免费鲁丝片| 欧美成人精品欧美一级黄| 亚洲精品,欧美精品| 亚洲四区av| 三级经典国产精品| 午夜免费鲁丝| 国产精品国产av在线观看| 啦啦啦在线观看免费高清www| 97在线人人人人妻| 免费播放大片免费观看视频在线观看| 日本黄色片子视频| 亚洲av欧美aⅴ国产| 我要看黄色一级片免费的| 性高湖久久久久久久久免费观看| 成人18禁高潮啪啪吃奶动态图 | 欧美区成人在线视频| 性色avwww在线观看| 岛国毛片在线播放| 日本爱情动作片www.在线观看| 赤兔流量卡办理| 亚洲av福利一区| av在线老鸭窝| 精品久久久久久电影网| 久久精品国产亚洲网站| 男女免费视频国产| 一二三四中文在线观看免费高清| 久久久a久久爽久久v久久| av专区在线播放| 日本午夜av视频| 国产69精品久久久久777片| 国产精品.久久久| 日韩不卡一区二区三区视频在线| 国产精品一二三区在线看| 久久亚洲国产成人精品v| av国产免费在线观看| 少妇 在线观看| 欧美+日韩+精品| 日韩伦理黄色片| 国产成人a∨麻豆精品| 91精品一卡2卡3卡4卡| 国产真实伦视频高清在线观看| 一本久久精品| 日韩,欧美,国产一区二区三区| 一区二区av电影网| 国模一区二区三区四区视频| 久久这里有精品视频免费| 久久久久久久久大av| 亚洲精品日本国产第一区| 亚洲人成网站在线观看播放| 亚洲自偷自拍三级| 性色av一级| 汤姆久久久久久久影院中文字幕| 久久 成人 亚洲| 亚洲久久久国产精品| 免费不卡的大黄色大毛片视频在线观看| 少妇人妻精品综合一区二区| 男女免费视频国产| 天美传媒精品一区二区| 97超碰精品成人国产| 日本vs欧美在线观看视频 | 亚洲欧美中文字幕日韩二区| 国产熟女欧美一区二区| 久久影院123| 免费观看的影片在线观看| 精品酒店卫生间| 久久久久久久久大av| 日日啪夜夜爽| 在线观看免费日韩欧美大片 | 久热久热在线精品观看| 国产精品.久久久| 天天躁日日操中文字幕| 国产精品麻豆人妻色哟哟久久| www.色视频.com| 啦啦啦啦在线视频资源| 亚洲一区二区三区欧美精品| 国产免费一区二区三区四区乱码| 人人妻人人澡人人爽人人夜夜| 在线观看国产h片| 美女福利国产在线 | 欧美+日韩+精品| 亚洲国产av新网站| 久久久久国产精品人妻一区二区| 久久热精品热| 一区二区三区四区激情视频| 国产在线男女| 欧美另类一区| 精品人妻熟女av久视频| 亚洲欧美日韩东京热| 亚洲精品乱久久久久久| 99热这里只有是精品在线观看| av网站免费在线观看视频| 日韩成人av中文字幕在线观看| av黄色大香蕉| 精品一区二区免费观看| 狂野欧美激情性bbbbbb| 99精国产麻豆久久婷婷| 18禁裸乳无遮挡免费网站照片|