• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論我國智能駕駛汽車中的個人信息保護

    2020-12-05 03:05:09
    關(guān)鍵詞:個人信息汽車智能

    [北京大學(xué) 北京 100871]

    引言

    在現(xiàn)代社會中,汽車逐步向智能化、輕量化和網(wǎng)聯(lián)化的方向發(fā)展?!白詣玉{駛汽車”“無人駕駛汽車”和“智能駕駛汽車”從夢中圖景走進了人們的現(xiàn)實生活,在未來還可能徹底改變?nèi)祟惖某鲂蟹绞健0凑諊H汽車工程師學(xué)會(SAE)2018年6月15日公布的劃分標(biāo)準(zhǔn),智能駕駛汽車分為L0~L5六個等級,分別是非自動化、駕駛輔助、部分自動化、有條件的自動駕駛、高度自動化和完全自動化。其中,“自動駕駛”屬于L1~L5,“無人駕駛”則是完全自主的L5,而“智能駕駛”還可以包括裝載高級導(dǎo)航系統(tǒng)、自動剎車系統(tǒng)等部分智能系統(tǒng)的汽車(L0)[1]。故嚴(yán)格地說,“智能駕駛”的范圍大于“自動駕駛”和“無人駕駛”。

    近年來,隨著大數(shù)據(jù)、云計算和人工智能等技術(shù)的飛速發(fā)展,我國智能駕駛汽車的發(fā)展已經(jīng)駛?cè)肓丝燔嚨馈?017年4月25日,根據(jù)工業(yè)和信息化部(簡稱“工信部”)、國家發(fā)展和改革委員會(簡稱“國家發(fā)改委”)和科學(xué)技術(shù)部(簡稱“科技部”)聯(lián)合印發(fā)的《汽車產(chǎn)業(yè)中長期發(fā)展規(guī)劃》,有條件自動駕駛以及高度自動駕駛有望在將來十年內(nèi)進入市場。2019年9月19日,中共中央、國務(wù)院印發(fā)的《交通強國建設(shè)綱要》特別提到,要加強智能網(wǎng)聯(lián)汽車研發(fā),形成自主可控完整的產(chǎn)業(yè)鏈。同月23日,武漢市向百度、海梁科技、深蘭科技頒發(fā)全球首張智能駕駛商用牌照,標(biāo)志著我國智能駕駛汽車進入商業(yè)化運營的階段。

    眾所周知,智能駕駛汽車的正常行駛和安全保障離不開地理定位和導(dǎo)航技術(shù)的支持,乘客(包括車主)的行車時間和路線等個人信息均會被清楚記錄,成為智能駕駛大數(shù)據(jù)的內(nèi)容。但是,這些信息同時也存在被非法獲取和利用的可能,從而引發(fā)了人們對個人信息遭受泄露或濫用的擔(dān)憂[2]。2018年1月5日,國家發(fā)展改革委編制的《智能汽車創(chuàng)新發(fā)展戰(zhàn)略(征求意見稿)》提出,推動智能汽車相關(guān)法律法規(guī)的“立改廢釋”工作,積極開展與智能汽車研發(fā)使用相關(guān)法律問題的研究,促進道路交通安全法等法律法規(guī)修訂完善。2018年6月8日,工信部和國家標(biāo)準(zhǔn)化管理委員會還印發(fā)了《國家車聯(lián)網(wǎng)產(chǎn)業(yè)標(biāo)準(zhǔn)體系建設(shè)指南(總體要求)》等系列文件,作為相應(yīng)配套措施。2018年12月25日,工信部《車聯(lián)網(wǎng)(智能網(wǎng)聯(lián)汽車)產(chǎn)業(yè)發(fā)展行動計劃》指出“促進智能網(wǎng)聯(lián)汽車、道路基礎(chǔ)設(shè)施、通信基站、車聯(lián)網(wǎng)平臺和應(yīng)用服務(wù)等信息交互與數(shù)據(jù)共享……推進用戶個人信息保護的相關(guān)標(biāo)準(zhǔn)研究制定”。這意味著,智能駕駛的長遠(yuǎn)發(fā)展不能只依賴相關(guān)技術(shù)的進步,更需要在規(guī)范層面構(gòu)建符合個人信息保護和數(shù)據(jù)共享的法律制度。

    一、我國智能駕駛個人信息保護的現(xiàn)實困境

    (一)缺乏統(tǒng)一和細(xì)化的法律規(guī)定

    1.對個人信息保護的力度不夠

    目前,我國沒有獨立和統(tǒng)一的個人信息保護立法,相關(guān)規(guī)定無法適用于智能駕駛領(lǐng)域。雖然2017年《民法總則》第111條已經(jīng)邁出了重要的一步,但是,在個人信息保護分散立法的前提下,《消費者權(quán)益保護法》和《網(wǎng)絡(luò)安全法》等部門法受制于各自的立法目的和適用范圍,難以為智能駕駛中的個人信息保護提供具體和明確的指引。其次,雖然刑法可以為乘客個人信息提供保護,但其發(fā)揮作用的空間較為有限。2009年《刑法修正案(七)》增訂“侵犯公民個人信息罪”時,其中列舉的行為主體即包括交通單位的工作人員。換言之,交通單位的工作人員違反國家有關(guān)規(guī)定,向他人出售或提供公民個人信息,情節(jié)嚴(yán)重的,構(gòu)成“侵犯公民個人信息罪”①。不過,對于以出售或提供之外的其他方式侵害他人個人信息或情節(jié)沒有達(dá)到嚴(yán)重程度的情形,刑法則顯得無能為力。再次,在專門的交通駕駛法規(guī)中,同樣缺乏相應(yīng)的個人信息保護規(guī)定?!兜缆方煌ò踩ā泛汀兜缆方煌ò踩▽嵤l例》等法律和行政法規(guī)制定的時間較早,無法預(yù)見智能駕駛技術(shù)的迅速發(fā)展,而且這些規(guī)定重在解決機動車準(zhǔn)入資格和劃分交通事故責(zé)任,并沒有對個人信息保護問題進行規(guī)定。最后,在國家層面對智能駕駛進行的超前部署中,個人信息保護問題還是沒能獲得應(yīng)有的關(guān)注。盡管國家各部委出臺了很多前瞻性的發(fā)展規(guī)劃和行動綱要,但是,這些文件在內(nèi)容上仍相對抽象和空洞,只能起到提示或倡導(dǎo)的作用,而相關(guān)的法律研究往往也止步于如何確保智能駕駛汽車的安全性、在發(fā)生損害時劃分交通事故責(zé)任或者進行投保來分散損害,對個人信息保護問題只是稍作提及、淺嘗輒止,沒有深入和全面的研究來為實踐提供指導(dǎo)。

    2.相關(guān)立法沒有提上規(guī)劃日程

    面對信息科技和人工智能的諸多挑戰(zhàn),我國立法進行了及時的回應(yīng)。比如,按照第十三屆全國人大常委會2018年9月7日公布的立法規(guī)劃,“個人信息保護法”和“數(shù)據(jù)安全法”的條件比較成熟,正在緊鑼密鼓地抓緊制定,并計劃在五年內(nèi)擬提請審議。然而,對照來看,在智能駕駛方面的國家立法卻遲遲沒有實質(zhì)性的進展。一方面,獨立或?qū)iT的“智能(自動)駕駛法”暫時擱淺。在第十三屆全國人大會議一次期間,有人大代表建議制定智能(自動)駕駛汽車法,以消除智能駕駛汽車發(fā)展的法律障礙。但是,全國人大財經(jīng)委2019年11月回應(yīng)稱,目前自動駕駛汽車涉及汽車制造、基礎(chǔ)設(shè)施、交通管控等諸多領(lǐng)域,技術(shù)尚未完全成熟,商業(yè)化應(yīng)用還需要時間,立法的理論和實踐基礎(chǔ)不充分,相關(guān)法律關(guān)系尚不明確,對自動駕駛汽車專門立法的時機有待進一步研究[3]。另一方面,《道路交通安全法》的修改也未準(zhǔn)備妥當(dāng)。按照前述立法規(guī)劃,《道路交通安全法》的修改作為第二類立法項目,僅在條件成熟時才能提請審議。不僅如此,根據(jù)國務(wù)院法制辦公室公布的《道路交通安全法修正案(送審稿)》,本次修法的動機主要在于實現(xiàn)相關(guān)的行政處罰與《刑法修正案(九)》中“危險駕駛罪”的對接和協(xié)調(diào),基本不涉及智能駕駛和個人信息保護的問題[4]。換而言之,我國在短時間內(nèi)進行關(guān)于智能駕駛汽車的修法或立法都不具備現(xiàn)實基礎(chǔ),更遑論個人信息保護制度已經(jīng)遠(yuǎn)遠(yuǎn)落后于現(xiàn)實中智能駕駛技術(shù)和商業(yè)實踐日新月異般的發(fā)展速度。

    (二)綜合性的救濟措施尚未建立

    1.司法救濟手段不足

    對于智能駕駛中的個人信息保護,我國目前法律提供的救濟尚不充分:其一,民事責(zé)任規(guī)定不完善。我國已經(jīng)確立個人信息保護的基本立場,但是,從權(quán)利救濟的角度來看,《民法總則》《消費者權(quán)益保護法》和《網(wǎng)絡(luò)安全法》等既有規(guī)定本身較為簡略和模糊,難以適應(yīng)司法實踐需求,而且在歸責(zé)原則、損害賠償和訴訟程序等方面也存在很大的改進空間[5]。其二,行政責(zé)任規(guī)定不統(tǒng)一。在大數(shù)據(jù)時代,我國關(guān)于個人信息保護的行政法規(guī)數(shù)量急劇增加,但是,由于不同領(lǐng)域和行業(yè)之間區(qū)隔嚴(yán)重,受害人通常還是只援引《政府信息公開條例》來獲得救濟,這樣既難以起到統(tǒng)一規(guī)制的作用,也不利于糾紛的實質(zhì)化解[6]。其三,刑事責(zé)任規(guī)定門檻高。如前所述,“侵犯公民個人信息罪”及其司法解釋(法釋〔2017〕10號)構(gòu)成了個人信息的刑法保護體系,能夠起到良好的預(yù)防和懲戒作用。但是,本罪關(guān)于行為方式和犯罪情節(jié)的構(gòu)成要件較為嚴(yán)厲,因而無法實現(xiàn)網(wǎng)絡(luò)科技時代對公民個人信息的全面和有效保護。

    2.行政監(jiān)管措施乏力

    在智能駕駛領(lǐng)域中,個人信息保護監(jiān)管涉及國家互聯(lián)網(wǎng)信息辦公室(網(wǎng)信辦)、工信部、公安部和交通運輸部等不同部門。但是,根據(jù)這些機構(gòu)的設(shè)置目的,網(wǎng)信辦的主要職責(zé)在于“維護網(wǎng)絡(luò)安全”,工信部(下設(shè)信息通信管理局)的監(jiān)管限于電信和互聯(lián)網(wǎng)用戶(參見《電信和互聯(lián)網(wǎng)用戶個人信息保護規(guī)定》第3條),公安部(下設(shè)網(wǎng)絡(luò)安全保衛(wèi)局)的任務(wù)集中在防治信息類違法犯罪活動,交通運輸部“信息化建設(shè)職能”勉強可以包含個人信息保護監(jiān)管,但缺乏專門負(fù)責(zé)的內(nèi)部機構(gòu)。更麻煩的是,由于缺乏個人信息保護的統(tǒng)一監(jiān)管,前述主管機關(guān)的監(jiān)管職能勢必存在著空缺、交叉或重疊,這又可能進一步導(dǎo)致不同機關(guān)之間權(quán)責(zé)不清、相互推諉的情形出現(xiàn)。與此同時,我國行政機關(guān)也缺乏行之有效的監(jiān)管措施。在實踐中,通常是個人信息侵害事件已經(jīng)發(fā)生,行政監(jiān)管機關(guān)才采取非正式的“約談”或其他指導(dǎo)性措施來約束相關(guān)企業(yè)的行為,其介入階段較為滯后,而事后的處罰措施又缺乏明確的數(shù)額標(biāo)準(zhǔn)和考量因素(例如行為人的獲利因素或營業(yè)收入等),難以充分發(fā)揮懲罰和威懾侵害個人信息行為的作用。

    3.行業(yè)自律機制缺失

    近年來,在信息科技和數(shù)字經(jīng)濟的推動下,個人信息商業(yè)化利用的邊界不斷擴大。其中,為了爭奪具備巨大經(jīng)濟價值和財產(chǎn)潛力的信息資源,數(shù)據(jù)行業(yè)從業(yè)者之間關(guān)于信息和數(shù)據(jù)的競爭不僅愈演愈烈,同時也波及廣大的消費者,個別的互聯(lián)網(wǎng)企業(yè)甚至推定大多數(shù)消費者愿意“用隱私換取便利”。至此,市場主體以追逐利益為中心的本性競相顯露,形成了與企業(yè)社會責(zé)任要求背離的惡劣商業(yè)實踐環(huán)境,進而使得個人信息侵害逐漸演變?yōu)橐环N社會公害[7]。面對巨大的輿論壓力,相關(guān)的行業(yè)或企業(yè)也試圖通過建立自律規(guī)則來進行自我約束,并制定更加嚴(yán)格的隱私和個人信息保護政策,以期重獲消費者和整個社會的信任。目前,我國汽車制造和交通駕駛行業(yè)的自律規(guī)定應(yīng)該是中國汽車工業(yè)協(xié)會2012年4月20日通過的《中國汽車行業(yè)自律公約》。但是,在當(dāng)時的背景下,由于缺乏行政主管機關(guān)的指導(dǎo),相關(guān)實體準(zhǔn)則只是重申汽車行業(yè)在產(chǎn)品質(zhì)量控制、商業(yè)秘密保護、正當(dāng)競爭和誠信經(jīng)營等方面的既有共識,而沒有預(yù)見和回應(yīng)智能駕駛技術(shù)發(fā)展和個人信息保護的制度需求,可謂守成有余、創(chuàng)新不足,無法直接適用于當(dāng)下情形。

    二、我國智能駕駛個人信息保護的前置立法

    (一)加強個人信息保護力度

    在比較法上,2016年以來,美國政府陸續(xù)發(fā)布《聯(lián)邦自動駕駛汽車政策》《聯(lián)邦自動駕駛系統(tǒng)指南:安全愿景2.0》和《準(zhǔn)備迎接未來交通:自動駕駛汽車3.0》等發(fā)展愿景,在界定智能駕駛等級和強調(diào)安全準(zhǔn)則的同時,對個人信息保護進行了原則性的闡述和規(guī)定。2017年9月6日,美國眾議院正式通過了《自動駕駛法案》(SELF DRIVE Act),并采取專章(第12章)強調(diào)智能駕駛汽車(尤其是高度自動駕駛汽車)中的隱私保護:要求制造商制定相應(yīng)的“隱私保護計劃”,說明其如何收集、使用、分享和存儲智能駕駛汽車用戶的信息;對于不希望共享自己數(shù)據(jù)的用戶,生產(chǎn)廠家應(yīng)當(dāng)有相應(yīng)的處置方案;對于留存的用戶信息,生產(chǎn)廠家應(yīng)當(dāng)通過數(shù)據(jù)縮小化、去識別化等方式來防止個人信息的泄露[8]。與此同時,以智能駕駛為代表的人工智能技術(shù)也引發(fā)了歐洲社會的極大關(guān)注。2016年《歐盟一般數(shù)據(jù)保護條例》(以下簡稱“GDPR”)實現(xiàn)了個人數(shù)據(jù)保護領(lǐng)域的統(tǒng)一立法,無須成員國的立法轉(zhuǎn)化即可適用于包括智能駕駛在內(nèi)的所有領(lǐng)域,從而“一勞永逸”地解決個人信息保護的問題。2016年10月,歐盟法律事務(wù)委員會(JURI)發(fā)布《歐盟人工智能民事法律規(guī)則》,要求人工智能技術(shù)設(shè)計注重隱私和數(shù)據(jù)保護,進一步完善保護隱私、默認(rèn)保護隱私、知情同意等技術(shù)標(biāo)準(zhǔn),在任何情況下都不得規(guī)避個人信息保護的基本原則。此外,德國和英國也對智能駕駛中的個人信息保護進行了回應(yīng)。2017年5月12日,德國通過修法的方式在《道路交通法》(StVG)中確立了關(guān)于智能駕駛汽車的規(guī)定,以符合現(xiàn)代社會中高度和全自動化駕駛技術(shù)發(fā)展的要求[9]。根據(jù)新規(guī),為了確保數(shù)據(jù)存儲符合法律要求,智能駕駛汽車所存儲的數(shù)據(jù)在6個月后必須刪除,除非涉及交通事故可以將個人相關(guān)信息存儲至3年[10]。2017年8月,英國交通部制定了《智能駕駛汽車網(wǎng)絡(luò)安全準(zhǔn)則》,強調(diào)個人信息保護和數(shù)據(jù)安全,要求智能駕駛汽車的數(shù)據(jù)經(jīng)過加密處理,從而降低可能發(fā)生的網(wǎng)絡(luò)攻擊[11]。

    在大數(shù)據(jù)時代,智能駕駛是人工智能技術(shù)的重要分支,對于國家的創(chuàng)新和綜合發(fā)展意義重大。2017年7月8日,國務(wù)院《新一代人工智能發(fā)展規(guī)劃》(國發(fā)〔2017〕35號)強調(diào),自動(智能)駕駛汽車不僅是智能運載工具和智能交通系統(tǒng)中的核心,而且對于發(fā)展新興產(chǎn)業(yè)和推進社會治理具有重要意義。與此同時,個人信息在現(xiàn)代社會中的重要性越發(fā)凸顯,而相關(guān)的信息利用行為缺乏有效的制度約束,非法獲取個人信息、利用技術(shù)手段實施侵?jǐn)_等現(xiàn)象屢禁不止。因此,制定促進人工智能發(fā)展的法律法規(guī),需要進一步開展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護、信息安全利用等法律問題研究。是故,我國應(yīng)當(dāng)順應(yīng)加大個人信息保護力度的世界潮流,在未來修訂《道路交通安全法》或者制定“智能(自動)駕駛法”時明確規(guī)定:“(智能駕駛)汽車生產(chǎn)者、運營者和互聯(lián)網(wǎng)地圖服務(wù)提供者收集、使用用戶個人信息和行駛數(shù)據(jù)的,應(yīng)當(dāng)遵守法律、行政法規(guī)關(guān)于個人信息保護和數(shù)據(jù)安全的規(guī)定?!比绱艘粊恚渌珊托姓ㄒ?guī)中關(guān)于個人信息保護的規(guī)范,便可以通過這一規(guī)定“轉(zhuǎn)介”進入到智能駕駛領(lǐng)域,從而實現(xiàn)個人信息保護和節(jié)約立法資源的目的。

    (二)完善個人信息的權(quán)利配置

    為了保證安全行駛,智能駕駛汽車必須不斷地收集各種信息和數(shù)據(jù)[12]。按照不同的劃分標(biāo)準(zhǔn),這些信息既可以分為外部環(huán)境信息與內(nèi)部環(huán)境信息,也可以分為交通類信息和生活類信息,還可以分為與乘客無關(guān)的信息以及與乘客有關(guān)的信息。但是,一方面,按照“可識別性”的基本界定,智能駕駛過程中的乘客個人信息通常包括行車軌跡(出發(fā)點、目的地和歷史路線)、實時位置、導(dǎo)航記錄及常用地址等。同時,車載系統(tǒng)常用設(shè)置(比如便捷設(shè)置、娛樂設(shè)置和導(dǎo)航設(shè)置)是乘客個人使用習(xí)慣的客觀反映,具備能夠識別特定自然人身份或者反映特定自然人活動情況的功能,也屬于乘客的個人信息。此外,智能駕駛汽車收集和處理的個人信息不僅包括汽車內(nèi)視頻和語音系統(tǒng)收集的乘客性別、年齡、相貌、動作和聲音等個人生物識別信息,同時也包括行車記錄儀可能收集的車輛外其他行人的個人信息[13]。

    另一方面,智能駕駛中的其他信息數(shù)據(jù)并不當(dāng)然地落入乘客個人信息的保護范圍。除了乘客的個人信息,智能駕駛汽車也需要收集汽車功能狀態(tài)數(shù)據(jù)、汽車行駛位置與其他汽車及其周圍環(huán)境等數(shù)據(jù),并持續(xù)地與其他車輛、行人以及中央控制處理系統(tǒng)進行數(shù)據(jù)交換和共享。2019年6月28日聯(lián)合國世界車輛法規(guī)協(xié)調(diào)論壇《智能駕駛汽車框架文件》指出,L3以及更高級別的智能駕駛汽車應(yīng)完成“信息安全和軟件升級”并研發(fā)“數(shù)據(jù)儲存系統(tǒng)”來采集和記錄與系統(tǒng)狀態(tài)、故障發(fā)生、降級或失效相關(guān)的必要數(shù)據(jù),來確定碰撞的原因、智能駕駛系統(tǒng)狀態(tài)以及駕駛員狀態(tài)。其中,智能駕駛事故數(shù)據(jù)記錄應(yīng)當(dāng)對汽車生產(chǎn)者和行政機關(guān)保持一定程度的開放,用于改進智能駕駛技術(shù)和履行社會公共管理職能等目的。

    以上表明,對于個人信息和駕駛數(shù)據(jù),乘客個人(信息主體)、汽車生產(chǎn)者和公權(quán)力機關(guān)存在著不同的需求。在信息社會中,若設(shè)置過于絕對的個人信息權(quán)利,可能妨害他人基本權(quán)利的行使,也會阻滯信息流通和損害公共利益。因此,立法在對個人信息進行保護的同時,也要確認(rèn)相關(guān)數(shù)據(jù)利用的合法性以促進其流通,并且兼顧其他各個方面的利益[14]。申言之,如果立法對智能駕駛中產(chǎn)生的信息數(shù)據(jù)不作區(qū)分,很可能造成權(quán)利保護和信息利用沖突的兩難境地。不過,需要強調(diào)的是,個人信息在經(jīng)過匿名化或去識別化處理后無法再指向具體的個人,也難以對信息主體造成損害,立法應(yīng)當(dāng)建立匿名化處理和使用的規(guī)則,促使個人信息向駕駛數(shù)據(jù)的轉(zhuǎn)化[15]。根據(jù)目前的立法安排和主流學(xué)說,個人信息和數(shù)據(jù)應(yīng)分別適用人格權(quán)和財產(chǎn)權(quán)的保護方式。由此看來,在智能駕駛領(lǐng)域中,能夠識別特定自然人身份或特定活動的信息因未脫離個人信息的界定仍應(yīng)當(dāng)納入個人信息權(quán)(人格權(quán))的保護范圍,而其他的行駛數(shù)據(jù)和信息由于經(jīng)過脫敏清洗等處理之后不具備可識別特征可以成為智能駕駛汽車企業(yè)的財產(chǎn)權(quán)(數(shù)據(jù)權(quán)益)客體。

    (三)明確個人信息的利用規(guī)則

    按照《信息安全技術(shù)——個人信息安全規(guī)范》(GB/T 35273-2017)的界定,乘客在智能駕駛中產(chǎn)生的“行蹤軌跡”屬于個人的敏感信息。換言之,在這類信息發(fā)生泄露、非法提供或濫用時,不僅可能危害人身和財產(chǎn)安全,同時極易導(dǎo)致個人名譽、身心健康受到損害或歧視性待遇等嚴(yán)重后果[16]。那么,與其進行事后補救,更加需要重視事前預(yù)防來確保乘客個人信息的安全:一方面,在技術(shù)操作層面,應(yīng)當(dāng)提升智能駕駛汽車的硬件和軟件水平,加強車載網(wǎng)絡(luò)系統(tǒng)建設(shè),防止內(nèi)在的系統(tǒng)漏洞和外部的網(wǎng)絡(luò)攻擊;另一方面,在法律規(guī)范層面,立法應(yīng)當(dāng)明確收集、儲存和使用乘客個人信息的具體情況和行為準(zhǔn)則。

    對乘客個人信息進行合法利用的具體情形,總體上可以分為四大類:一是獲得了信息主體的同意。在現(xiàn)代社會中,同意是個人信息利用最重要的合法性基礎(chǔ)。通過簽訂合同來獲得信息主體的許可或授權(quán)是個人信息商業(yè)化利用的常態(tài),而同意具備很強的道德屬性,意味著對他人主體地位的尊重。與此同時,乘客還可以要求信息收集人支付相應(yīng)的對價,從而有利于實現(xiàn)個人信息中的財產(chǎn)價值[17]。二是為了履行社會公共管理職能。對于公權(quán)力機關(guān)(政府)而言,履行社會管理智能的需要已經(jīng)使其成了最大的個人信息處理者。其中,為了查明事故原因、進行責(zé)任劃分以及預(yù)防和制止犯罪行為,交通管理部門或公安機關(guān)有權(quán)要求乘客提供智能駕駛中的相關(guān)個人信息。三是其他主體存在其他重大的合法理由,即信息收集者和處理者具備重大的合法利益[18]。例如,為了進行技術(shù)改進和促進產(chǎn)業(yè)發(fā)展,智能駕駛汽車生產(chǎn)者(制造商)可以收集和使用用戶的個人信息;基于事故調(diào)查和獲得商品信息的理由,保險公司(交強險承保公司)和買受人也可以請求乘客提供相關(guān)的信息;出于證據(jù)保全和固定的原因,存在法律上利害關(guān)系的主體(智能駕駛汽車交通事故的受害人等)同樣可以請求獲得相關(guān)的信息。四是不超出信息主體的合理期待范圍。在特殊情形下,信息收集者和處理者難以獲得信息主體的同意,但是,如果信息收集和處理活動符合人們的一般期待或合理期待,這種期待又被社會所認(rèn)可的話,這種情況也可以彌補知情同意規(guī)則適用的不足[19]。比如,經(jīng)過匿名化處理,乘客的個人信息可以用于學(xué)術(shù)研究和歷史統(tǒng)計等目的。

    在乘客個人信息的收集、加工、使用和處置等各階段,相對人應(yīng)當(dāng)遵循合法、正當(dāng)和必要原則,具體來說:首先,在信息收集階段,必須遵循“合法性原則”和“最小化原則”。收集乘客的個人信息,應(yīng)當(dāng)遵守相關(guān)的法律和行政法規(guī),換言之,信息收集行為不僅應(yīng)當(dāng)具備相應(yīng)的合法性基礎(chǔ),同時也需要采取對公民個人信息影響最小的方式。其中,對于個人敏感信息,信息收集者應(yīng)當(dāng)充分告知信息收集的目的、范圍和使用方式,并獲得乘客的明確同意。其次,在信息儲存階段,作為智能駕駛汽車的信息控制者,生產(chǎn)者和運營者應(yīng)當(dāng)盡到妥善保管義務(wù)并采取相應(yīng)的技術(shù)措施來確保信息安全,防止乘客個人信息被非法篡改、出售、毀損或丟棄。同時,智能駕駛數(shù)據(jù)儲存系統(tǒng)應(yīng)當(dāng)在行政主管機關(guān)進行備案登記,并對高風(fēng)險的信息處理活動應(yīng)當(dāng)進行事先影響評估和同步記錄。再次,在信息使用階段,應(yīng)當(dāng)符合合同約定和法律規(guī)定的目的,并對乘客個人信息進行匿名化技術(shù)處理。未經(jīng)乘客的明確同意,信息控制者不得向第三方提供或出售個人信息,也不得超越信息收集的授權(quán)范圍。最后,在信息處置階段,若發(fā)生個人信息泄露,信息控制者應(yīng)當(dāng)及時通知監(jiān)管機關(guān),并盡快與乘客取得聯(lián)系。進一步地,如果乘客(車主)更改或放棄智能駕駛的出行方式,那么,該乘客(車主)有權(quán)要求注銷其賬戶并移轉(zhuǎn)或刪除數(shù)據(jù)儲存系統(tǒng)中留存的個人信息和出行記錄,智能駕駛汽車生產(chǎn)者或網(wǎng)絡(luò)服務(wù)提供者(信息持有人)應(yīng)當(dāng)提供必要的協(xié)助②。

    (四)合理安排相應(yīng)的立法進程

    為了兼顧個人信息保護和智能駕駛技術(shù)發(fā)展,世界上主要國家和地區(qū)采用適度超前、循序漸進的立法措施,設(shè)置較為彈性的法律引導(dǎo)和規(guī)制智能駕駛汽車的研發(fā)與應(yīng)用[20]。總的來說,主要形成了兩種不同的應(yīng)對方案:一種方案是通過制定新法來規(guī)制智能駕駛中的個人信息保護問題。比如,美國制定了獨立的《自動駕駛法案》,使之包含隱私和個人信息保護規(guī)定,歐盟則選擇了可以適用于一般領(lǐng)域或通用行業(yè)的GDPR,然后由其輻射至智能駕駛汽車領(lǐng)域。另一種方案是通過法律修訂來設(shè)置協(xié)同的個人信息保護規(guī)定。例如,德國修改了原《道路交通法》中阻礙智能駕駛汽車發(fā)展的相關(guān)條文,使得原有法律能夠應(yīng)對科技發(fā)展的巨大挑戰(zhàn),在短時間內(nèi)達(dá)到促進技術(shù)進步和個人信息保護的雙重目標(biāo)。

    在我國,智能駕駛涉及道路交通管理、車輛生產(chǎn)、測繪地圖管理、車輛保險等不同法律制度,而且技術(shù)更新和商業(yè)實踐快速發(fā)展,由此給相關(guān)的立法工作帶來了巨大困難。尤其是,如何避免智能駕駛系統(tǒng)和數(shù)據(jù)被黑客攻擊和盜取,并通過確保用戶的個人信息安全來給智能駕駛汽車的發(fā)展系上“法律安全帶”,是當(dāng)前智能駕駛汽車發(fā)展面臨的巨大挑戰(zhàn)之一[21]。但是,從反面來觀之,藉由吸收域外的有益經(jīng)驗與充分利用后發(fā)優(yōu)勢,我國智能駕駛立法可以在加強相關(guān)法律、標(biāo)準(zhǔn)和行業(yè)發(fā)展等政策研究的基礎(chǔ)上進行具體的制度設(shè)計,真正地實現(xiàn)個人權(quán)益保護與創(chuàng)新科技發(fā)展之間的利益平衡。筆者認(rèn)為,目前較為審慎的選擇是先在《道路交通安全法》的修改中納入個人信息保護規(guī)定,待到時機成熟時再制定“智能(自動)駕駛法”并采用專章的形式來規(guī)定智能駕駛中的個人信息保護問題。

    三、我國智能駕駛個人信息保護的綜合救濟

    (一)提供多元和充分的法律救濟

    在信息科技和數(shù)字經(jīng)濟的驅(qū)動下,智能駕駛技術(shù)和商業(yè)環(huán)境對信息資源的渴求勝過以往任何時候。同時,個人信息侵害也呈現(xiàn)出規(guī)模性的特征,已經(jīng)構(gòu)成了對社會秩序和公共利益的威脅,需要立法建立多元化的救濟途徑。首先,為了合理形成對個人信息的全面保護,立法應(yīng)當(dāng)建立互補型的民事和行政救濟措施。簡單地說,行政申訴制度的建立是為了處理信息主體的投訴而非限制對個人信息的保護,不應(yīng)成為信息主體獲得司法救濟的前置程序。在個人信息遭受侵害時,信息主體有權(quán)通過訴訟尋求司法救濟,也可以要求監(jiān)管機構(gòu)對違規(guī)侵害行為進行調(diào)查和處理。如果監(jiān)管機構(gòu)不及時處理申訴或在一定期限內(nèi)未通知爭議的進展及結(jié)果,信息主體可以對監(jiān)管機構(gòu)提起行政不作為之訴。

    其次,為了填補受害人的損害,立法應(yīng)當(dāng)明確損害賠償?shù)姆秶蜆?biāo)準(zhǔn)。在個人信息侵害中,權(quán)利人有權(quán)請求的賠償損害既包括受害人的財產(chǎn)損害,也包括受害人的精神損害。其中,針對個人信息財產(chǎn)價值的計算和證明難題,筆者認(rèn)為,立法可以規(guī)定通過“獲利剝奪”和“損害額酌定”的方式來確定損害賠償?shù)臄?shù)額。同時,針對惡意強制索取授權(quán)、超范圍收集以及未經(jīng)同意的信息共享等低成本侵害行為,傳統(tǒng)的損害賠償制度不足以實現(xiàn)威懾和遏制的功能,立法應(yīng)當(dāng)引入懲罰性賠償制度,增加侵害行為的違法成本,督促相對人履行個人信息保護義務(wù)。

    再次,為了強化對受害人的保護,立法還可以設(shè)置特別規(guī)定。其一,在存在數(shù)個責(zé)任人的共同侵權(quán)中,立法能通過連帶責(zé)任的法律設(shè)計,使受害人免于承擔(dān)賠償義務(wù)人支付不能的風(fēng)險,從而確保其能夠獲得充分的賠償。其二,在大規(guī)模的個人信息侵害事件中,通常受害人數(shù)量眾多而損害后果也較為嚴(yán)重,但是,單個受害人能力優(yōu)先,缺乏有效的激勵來提起訴訟,此時,立法可以構(gòu)建代表訴訟和公益訴訟規(guī)則,實現(xiàn)對個人信息權(quán)利的充分保護。其三,在個人信息的利用過程中,立法應(yīng)當(dāng)順應(yīng)時代潮流并賦予乘客撤回同意、表示反對、限制處理和拒絕自動化決策等救濟性權(quán)利,通過增加預(yù)防性的責(zé)任規(guī)定來防止可能發(fā)生的損害。

    (二)加強個人信息保護的行政監(jiān)管

    對于智能(自動)駕駛汽車的發(fā)展而言,只有駛?cè)雽嶋H道路,才能獲得對其研發(fā)至關(guān)重要的海量數(shù)據(jù),從而在實踐中找尋正確的前進方向,因此進行道路測試是重要的環(huán)節(jié),意義非同尋常。換言之,建立促進自動駕駛汽車產(chǎn)業(yè)發(fā)展的道路測試制度,屬于自動駕駛汽車監(jiān)管立法的重點問題[22]。

    2018年4月12日,工信部、公安部和交通部聯(lián)合印發(fā)的《智能網(wǎng)聯(lián)汽車道路測試管理規(guī)范(試行)》對路測的資格、程序和責(zé)任賠償?shù)葐栴}進行了較為詳細(xì)地規(guī)定,在法律的層面上規(guī)定了我國智能駕駛汽車路測的監(jiān)管制度。按照這一規(guī)定的要求,測試車輛應(yīng)當(dāng)具備車輛狀態(tài)記錄、存儲及在線監(jiān)控功能,能實時回傳包括車輛控制模式、車輛位置、車輛速度、加速度等運動狀態(tài)在內(nèi)的各項信息,并自動記錄和存儲在車輛事故或失效狀況發(fā)生前至少90秒的數(shù)據(jù),數(shù)據(jù)存儲時間不少于3年(第7條第4項)。

    2019年12月13日,北京市交通委員會、北京市公安局公安交通管理局和北京市經(jīng)濟和信息化局印發(fā)了《北京市自動駕駛車輛道路測試管理實施細(xì)則(試行)》,進一步要求測試車輛配備自動駕駛數(shù)據(jù)記錄裝置,還需實時回傳反映測試駕駛員和人機交互狀態(tài)的車內(nèi)視頻及語音監(jiān)控情況的信息,并接受第三方授權(quán)機構(gòu)的日常監(jiān)管(第10條第6項)。在測試車輛發(fā)生脫離自動駕駛或交通事故時,測試主體應(yīng)當(dāng)提交自動駕駛數(shù)據(jù)記錄裝置的記錄數(shù)據(jù)。自動駕駛數(shù)據(jù)記錄裝置記錄的運行數(shù)據(jù)應(yīng)保存不少于3年,以保障第三方授權(quán)機構(gòu)隨時調(diào)閱、回放、分析自動駕駛數(shù)據(jù)記錄裝置記錄的數(shù)據(jù)(第37條、第39條和第42條)。

    根據(jù)前述內(nèi)容,我們不難發(fā)現(xiàn),國家層面的部門規(guī)章只是規(guī)定了自動駕駛路測申請審核的機關(guān)為“省、市級政府相關(guān)主管部門”,尚未考慮到個人信息保護和路測數(shù)據(jù)的監(jiān)管問題,而地方層面的政府規(guī)章(比如北京市的規(guī)定)雖把監(jiān)管職權(quán)委于“第三方授權(quán)機構(gòu)”,卻也沒有明確該“第三方授權(quán)機構(gòu)”具體所指為何。在實踐中,乘客個人信息和汽車路測數(shù)據(jù)雖不能作完全等同,然而,無論是在路測研發(fā)、投入量產(chǎn)抑或?qū)嶋H使用的階段,智能駕駛汽車的數(shù)據(jù)記錄裝置都難以避免對乘客個人信息的收集和處理,進而有可能導(dǎo)致人們的個人信息受到侵害[23]。因此,對于涉及公民基本權(quán)利的個人信息和數(shù)據(jù)保護,必須由國家機關(guān)肩負(fù)起相應(yīng)的職責(zé),而不能單純地依靠中立性和獨立性都存在很大疑問的“第三方授權(quán)機構(gòu)”。

    從長遠(yuǎn)發(fā)展的角度來看,我國應(yīng)當(dāng)設(shè)立統(tǒng)一和獨立的個人信息保護監(jiān)管專責(zé)機關(guān),通過施加足夠的外部壓力來確保相關(guān)法規(guī)的落實,最終促進個人信息保護理念和制度的內(nèi)生化轉(zhuǎn)變。目前,在行業(yè)分散立法的背景下,智能駕駛汽車個人信息保護的監(jiān)管恐怕只能選取“次優(yōu)方案”,即由具備獨立法律地位和職權(quán)的網(wǎng)信辦、工信部或交通運輸部來制定個人信息保護的規(guī)章和實施細(xì)則。同時,相關(guān)的智能駕駛汽車立法也應(yīng)當(dāng)建立和完善事先防范、事中監(jiān)督和事后跟蹤觀察的綜合治理機制,充分運用多元化的行政手段進行監(jiān)管,為智能駕駛汽車中個人信息保護的企業(yè)合規(guī)和行業(yè)自律提供指引。其中,尤其需要明確行政監(jiān)管的具體種類和處罰措施:一方面,監(jiān)管機構(gòu)有權(quán)主動或根據(jù)投訴進行調(diào)查,并根據(jù)具體違法情節(jié)的輕重,采取警告、限期改正、沒收違法所得、罰款、責(zé)令停業(yè)整頓、吊銷營業(yè)執(zhí)照或相關(guān)業(yè)務(wù)經(jīng)營許可證等行政處罰措施;另一方面,在行政處罰時,監(jiān)管機構(gòu)還應(yīng)當(dāng)確定一個較高的處罰數(shù)額或?qū)@利因素(比如年營業(yè)額)納入考量,從而實現(xiàn)對個人信息侵害行為的威懾和阻遏。

    (三)建立智能駕駛汽車的行業(yè)自律機制

    目前,北京和武漢等地已成為智能駕駛汽車研究的聚集區(qū)域,但尚未形成類似于美國硅谷或匹茲堡那樣的產(chǎn)業(yè)聚集效應(yīng)。《新一代人工智能發(fā)展規(guī)劃》要求:“促進人工智能行業(yè)和企業(yè)自律,切實加強管理,加大對數(shù)據(jù)濫用、侵犯個人隱私、違背道德倫理等行為的懲戒力度?!备鶕?jù)我國的實際情況,交通管理部門(公權(quán)力機關(guān))可以督促消費者權(quán)益保護協(xié)會(社會組織)和中國汽車工業(yè)協(xié)會(行業(yè)協(xié)會)制定具備前瞻性的行業(yè)自律規(guī)則,以行政監(jiān)管和市場經(jīng)濟相結(jié)合的方式保障行業(yè)自律組織的運行。其中,相關(guān)的實體準(zhǔn)則應(yīng)當(dāng)凝聚“科技向善”的價值理念和行業(yè)共識。這意味著,通過建立智能駕駛汽車的行業(yè)自律機制,不同的智能駕駛汽車企業(yè)可以攜手合作、取長補短,構(gòu)建跨行業(yè)、跨領(lǐng)域、跨部門協(xié)同發(fā)展、相互促進的工作機制,統(tǒng)籌利用汽車與信息、通信等相關(guān)行業(yè)優(yōu)勢資源,發(fā)揮企業(yè)在技術(shù)創(chuàng)新、產(chǎn)品開發(fā)、示范應(yīng)用等標(biāo)準(zhǔn)研究與制定方面的主體作用,充分運用技術(shù)手段和行業(yè)規(guī)范實現(xiàn)對個人信息的保護,共同促進智能駕駛汽車在尊重消費者權(quán)利和落實社會責(zé)任的基礎(chǔ)上持續(xù)和全面地發(fā)展。

    除此之外,智能駕駛汽車行業(yè)和相關(guān)的企業(yè)還可以采取企業(yè)合規(guī)計劃和標(biāo)準(zhǔn)參與行動。在條件成熟的時候,智能駕駛汽車企業(yè)應(yīng)當(dāng)設(shè)立內(nèi)部的個人信息與數(shù)據(jù)保護專員,專門負(fù)責(zé)處理與用戶隱私和個人信息保護的相關(guān)事宜。目前,在相關(guān)法律監(jiān)管和行業(yè)標(biāo)準(zhǔn)尚不健全的背景下,企業(yè)應(yīng)當(dāng)積極參與立法以及標(biāo)準(zhǔn)的制定,以自身技術(shù)保障和促進智能駕駛產(chǎn)業(yè)發(fā)展的科學(xué)性和合理性:一是技術(shù)行動,開展智能駕駛技術(shù)、產(chǎn)品(汽車)和服務(wù)的研發(fā)、生產(chǎn),形成智能駕駛測試的相關(guān)技術(shù)方法、流程和平臺;二是法規(guī)行動,積極參與智能駕駛相關(guān)立法進程,加強與有關(guān)主管部門的溝通,為立法提供技術(shù)、商業(yè)、產(chǎn)業(yè)等多方面的信息和智力支持;三是標(biāo)準(zhǔn)行動,積極參與智能駕駛相關(guān)技術(shù)、行業(yè)等標(biāo)準(zhǔn)的研討和制定進程,積極推薦、委派人員加入相關(guān)標(biāo)準(zhǔn)化機構(gòu)、組織③。

    事實上,由中國汽車工業(yè)協(xié)會牽頭、多家單位和機構(gòu)共同起草的《智能網(wǎng)聯(lián)汽車自動駕駛功能測試技術(shù)規(guī)范》系列標(biāo)準(zhǔn)草案編寫工作已經(jīng)在2019年10月14日完成,并于2019年11月15日結(jié)束了公開征求意見工作。其中,《自動駕駛系統(tǒng)功能測試》第9部分“信息安全評價測試”對自動駕駛汽車整車信息安全體系架構(gòu)、信息安全威脅、測試內(nèi)容和評價方法等進行系統(tǒng)的規(guī)定,既區(qū)分了云服務(wù)平臺、車載終端、手機終端和通信網(wǎng)絡(luò)等不同來源的信息安全威脅,又對硬件、操作系統(tǒng)、應(yīng)用、通信、數(shù)據(jù)、第三庫和OTA升級等提出了較為全面的信息安全技術(shù)要求④。在此,應(yīng)當(dāng)看到的是,通過行業(yè)自律機制和團體技術(shù)標(biāo)準(zhǔn)(中汽協(xié)團標(biāo))來細(xì)化法律和行政法規(guī)中個人信息保護的要求,不僅能夠較好地實現(xiàn)技術(shù)和法律相結(jié)合的協(xié)同治理,同時也有利于解除人們對于智能駕駛汽車在個人信息保護方面的擔(dān)憂,從而促進智能駕駛汽車產(chǎn)業(yè)快速、持續(xù)和健康地發(fā)展。

    四、結(jié)語

    智能駕駛汽車可以“觀察”路況,持續(xù)注意其他汽車、行人、障礙物、繞行道等,考慮交通流量、天氣以及影響汽車駕駛安全的其他所有因素并不斷調(diào)整其速度和路線,避免與行人、其他車輛或者障礙物發(fā)生碰撞。概言之,通過人工智能、傳感器和全球定位系統(tǒng)等裝置的協(xié)同合作,自動駕駛技術(shù)能夠?qū)崿F(xiàn)在沒有人工操作的情況下在道路上安全行駛,是未來汽車產(chǎn)業(yè)發(fā)展的重要方向。

    由于智能駕駛汽車不可避免地涉及對公民的個人信息進行數(shù)據(jù)化處理和共享,需要在個人信息保護與駕駛數(shù)據(jù)利用之間進行更加審慎和微妙的平衡。不僅如此,隨著網(wǎng)絡(luò)安全攻擊威脅的逐步攀升,智能駕駛汽車成為黑客入侵的最熱門目標(biāo),人們的個人信息更加容易遭受不法侵害。因此,面對智能駕駛汽車帶來的挑戰(zhàn),我國應(yīng)當(dāng)充分借鑒域外主要國家和地區(qū)的經(jīng)驗,建立和完善個人信息保護法律制度和規(guī)則,對智能駕駛進行全方位的行政監(jiān)管,促進智能駕駛汽車行業(yè)自律機制的生成和發(fā)展,進而實現(xiàn)個人信息保護和智能駕駛數(shù)據(jù)利用的雙重目的。

    注釋

    ① 2009年2月28日《刑法修正案(七)》增加《刑法》第253條之一規(guī)定:“國家機關(guān)或者金融、電信、交通、教育、醫(yī)療等單位的工作人員,違反國家規(guī)定,將本單位在履行職責(zé)或者提供服務(wù)過程中獲得的公民個人信息,出售或者非法提供給他人,情節(jié)嚴(yán)重的,處三年以下有期徒刑或者拘役,并處或者單處罰金(第1款)?!?015年8月25日《刑法修正案(九)》已經(jīng)取消了本罪主體范圍的限制,將《刑法》第253條之一改為:“違反國家有關(guān)規(guī)定,向他人出售或者提供公民個人信息,情節(jié)嚴(yán)重的,處三年以下有期徒刑或者拘役,并處或者單處罰金;情節(jié)特別嚴(yán)重的,處三年以上七年以下有期徒刑,并處罰金(第1款)。違反國家有關(guān)規(guī)定,將在履行職責(zé)或者提供服務(wù)過程中獲得的公民個人信息,出售或者提供給他人的,依照前款的規(guī)定從重處罰(第2款)。”

    ② 信息主體移轉(zhuǎn)本人個人信息和數(shù)據(jù)的權(quán)利即為“可攜帶權(quán)”(the right to data portability)。2019年11月11日,工信部印發(fā)了《攜號轉(zhuǎn)網(wǎng)服務(wù)管理規(guī)定》(工信部信管〔2019〕242號),在賦予電信業(yè)務(wù)消費者更多選擇權(quán)的同時,也被認(rèn)為是對數(shù)據(jù)可攜帶權(quán)的規(guī)定。

    ③ 根據(jù)2016年6月8日工信部印發(fā)的《國家車聯(lián)網(wǎng)產(chǎn)業(yè)標(biāo)準(zhǔn)體系建設(shè)指南(信息通信)》,多項與信息、網(wǎng)絡(luò)和數(shù)據(jù)安全有關(guān)的國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)比如《基于LTE的車聯(lián)網(wǎng)通信安全技術(shù)要求》《基于公眾電信網(wǎng)的聯(lián)網(wǎng)汽車信息安全技術(shù)要求》《車聯(lián)網(wǎng)信息服務(wù) 用戶個人信息保護》和《車聯(lián)網(wǎng)信息服務(wù) 數(shù)據(jù)安全技術(shù)要求》已經(jīng)獲得立項,正在進行研究或報請主管部門批準(zhǔn)。參見工業(yè)和信息化部網(wǎng)站:http://www.miit.gov.cn/n1146295/n1146592/n3917132/n4061630/c6223641/content.html,最后訪問日期:2019年11月30日。

    ④ 參與標(biāo)準(zhǔn)起草的單位主要包括行業(yè)協(xié)會(中國汽車工業(yè)協(xié)會)、汽車制造企業(yè)(中國第一汽車集團有限公司、北京汽車新能源有限公司、長城汽車股份有限公司、福特汽車中國有限公司)、檢測認(rèn)定機構(gòu)(上海機動車檢測認(rèn)證技術(shù)研究中心有限公司、重慶車輛檢測研究院有限公司)、科研院校(北京航空航天大學(xué)、清華大學(xué)、北京理工大學(xué))和網(wǎng)絡(luò)技術(shù)服務(wù)公司(百度Apollo汽車信息安全實驗室、上海輦聯(lián)網(wǎng)絡(luò)科技有限公司)。相關(guān)資料,請參見中汽協(xié)會技術(shù)部:《中國汽車工業(yè)協(xié)會關(guān)于征求<智能網(wǎng)聯(lián)汽車自動駕駛功能測試技術(shù)規(guī)范>等十項團體標(biāo)準(zhǔn)意見的通知》,載中國汽車工業(yè)協(xié)會網(wǎng)站:http://www.caam.org.cn/chn/5/cate_68/con_5226657.html,最后訪問日期:2019年11月30日。

    猜你喜歡
    個人信息汽車智能
    如何保護勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護進入“法時代”
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    智能前沿
    文苑(2018年23期)2018-12-14 01:06:06
    智能前沿
    文苑(2018年19期)2018-11-09 01:30:14
    智能前沿
    文苑(2018年17期)2018-11-09 01:29:26
    智能前沿
    文苑(2018年21期)2018-11-09 01:22:32
    汽車的“出賣”
    汽車們的喜怒哀樂
    3D 打印汽車等
    決策探索(2014年21期)2014-11-25 12:29:50
    404 Not Found

    404 Not Found


    nginx
    国产成年人精品一区二区| 国产成人一区二区三区免费视频网站| 日本精品一区二区三区蜜桃| 午夜免费成人在线视频| 婷婷精品国产亚洲av| 欧美另类亚洲清纯唯美| 91久久精品国产一区二区成人 | 男女视频在线观看网站免费| 久久精品国产亚洲av香蕉五月| 亚洲一区二区三区色噜噜| 成人永久免费在线观看视频| 亚洲 欧美一区二区三区| 亚洲avbb在线观看| av女优亚洲男人天堂 | xxx96com| 成人性生交大片免费视频hd| 亚洲无线在线观看| 香蕉av资源在线| 国产高清视频在线播放一区| 女人被狂操c到高潮| 亚洲国产精品成人综合色| 日本与韩国留学比较| 变态另类成人亚洲欧美熟女| 黑人操中国人逼视频| 亚洲欧美激情综合另类| www.www免费av| 少妇裸体淫交视频免费看高清| 久久精品国产清高在天天线| 婷婷精品国产亚洲av在线| 又紧又爽又黄一区二区| 亚洲av成人一区二区三| 看片在线看免费视频| 久久久久精品国产欧美久久久| av片东京热男人的天堂| 免费搜索国产男女视频| 国产精品九九99| 午夜福利欧美成人| 伊人久久大香线蕉亚洲五| 黄色成人免费大全| 丁香六月欧美| 精品日产1卡2卡| 国内精品久久久久久久电影| 久9热在线精品视频| 国产亚洲精品久久久com| 日韩高清综合在线| a级毛片a级免费在线| av中文乱码字幕在线| 久久精品人妻少妇| 亚洲成人久久性| 精品不卡国产一区二区三区| 国产亚洲精品av在线| 国产精品野战在线观看| 久久人妻av系列| 日韩欧美国产在线观看| 亚洲欧美精品综合久久99| 国产麻豆成人av免费视频| 亚洲精品久久国产高清桃花| 日日干狠狠操夜夜爽| a级毛片a级免费在线| 亚洲精品美女久久av网站| 欧美午夜高清在线| 国产一区在线观看成人免费| 男人舔奶头视频| av福利片在线观看| 成人国产综合亚洲| 搞女人的毛片| 色综合婷婷激情| 少妇的逼水好多| 成人一区二区视频在线观看| 亚洲第一电影网av| 伦理电影免费视频| 桃红色精品国产亚洲av| 国产欧美日韩一区二区三| 国产高潮美女av| 亚洲成人免费电影在线观看| 久久香蕉精品热| 两性午夜刺激爽爽歪歪视频在线观看| 九色国产91popny在线| 国产高清三级在线| 成人亚洲精品av一区二区| 亚洲一区高清亚洲精品| 精品无人区乱码1区二区| 18禁黄网站禁片午夜丰满| 一本一本综合久久| 国产精品永久免费网站| 最好的美女福利视频网| 国产精品久久久久久亚洲av鲁大| 国产三级中文精品| 午夜视频精品福利| 麻豆久久精品国产亚洲av| 成年女人看的毛片在线观看| 婷婷精品国产亚洲av| 亚洲av五月六月丁香网| 特级一级黄色大片| 久久久久国产精品人妻aⅴ院| 国产精品乱码一区二三区的特点| 国产激情偷乱视频一区二区| 国产精品 欧美亚洲| 一卡2卡三卡四卡精品乱码亚洲| av片东京热男人的天堂| 18禁黄网站禁片午夜丰满| 可以在线观看的亚洲视频| 久9热在线精品视频| 俺也久久电影网| 久久久色成人| 中亚洲国语对白在线视频| 日韩高清综合在线| 国产麻豆成人av免费视频| 国产视频内射| 色综合欧美亚洲国产小说| 欧洲精品卡2卡3卡4卡5卡区| 高潮久久久久久久久久久不卡| 色尼玛亚洲综合影院| 精品久久久久久成人av| 亚洲第一电影网av| 夜夜躁狠狠躁天天躁| 国产激情偷乱视频一区二区| 91在线观看av| 激情在线观看视频在线高清| 中文亚洲av片在线观看爽| 夜夜看夜夜爽夜夜摸| 三级国产精品欧美在线观看 | 老鸭窝网址在线观看| 久久精品91无色码中文字幕| 免费观看的影片在线观看| 给我免费播放毛片高清在线观看| 别揉我奶头~嗯~啊~动态视频| 午夜激情欧美在线| 欧美另类亚洲清纯唯美| 国产在线精品亚洲第一网站| 精品国内亚洲2022精品成人| 亚洲av片天天在线观看| 欧美日韩瑟瑟在线播放| 黄色日韩在线| 国产高潮美女av| 亚洲欧美日韩无卡精品| 香蕉av资源在线| 哪里可以看免费的av片| 国产欧美日韩精品亚洲av| 色综合站精品国产| 黄频高清免费视频| 99riav亚洲国产免费| 成人性生交大片免费视频hd| 首页视频小说图片口味搜索| 午夜成年电影在线免费观看| 可以在线观看毛片的网站| 亚洲无线观看免费| 色老头精品视频在线观看| 国产精品一区二区精品视频观看| 身体一侧抽搐| 午夜视频精品福利| 日本与韩国留学比较| 亚洲美女视频黄频| 亚洲18禁久久av| 一个人免费在线观看的高清视频| 99国产精品一区二区蜜桃av| 欧美乱妇无乱码| www国产在线视频色| 久久午夜综合久久蜜桃| 午夜日韩欧美国产| 超碰成人久久| 久久香蕉精品热| 男人舔女人的私密视频| 18禁黄网站禁片免费观看直播| 国产成人系列免费观看| 黄片小视频在线播放| 黄色视频,在线免费观看| 男女视频在线观看网站免费| 精品熟女少妇八av免费久了| 免费电影在线观看免费观看| 在线视频色国产色| 国产精品久久久人人做人人爽| 亚洲精品美女久久久久99蜜臀| 90打野战视频偷拍视频| 男女视频在线观看网站免费| 真人一进一出gif抽搐免费| 国产单亲对白刺激| 怎么达到女性高潮| 亚洲色图av天堂| 伊人久久大香线蕉亚洲五| 久久亚洲精品不卡| 久久精品影院6| 搡老妇女老女人老熟妇| 精品熟女少妇八av免费久了| 成人18禁在线播放| 中文字幕高清在线视频| 亚洲最大成人中文| 亚洲中文字幕一区二区三区有码在线看 | 国产精品久久电影中文字幕| 国产又黄又爽又无遮挡在线| 欧美日韩国产亚洲二区| 亚洲一区二区三区色噜噜| 久久久久久人人人人人| 一级a爱片免费观看的视频| 一二三四社区在线视频社区8| 91在线精品国自产拍蜜月 | 51午夜福利影视在线观看| 毛片女人毛片| 日韩有码中文字幕| 国产久久久一区二区三区| 波多野结衣巨乳人妻| 国内精品美女久久久久久| 精品一区二区三区视频在线观看免费| 黄色成人免费大全| 一个人看视频在线观看www免费 | 国产又色又爽无遮挡免费看| 国产爱豆传媒在线观看| 99久久国产精品久久久| 国产午夜精品久久久久久| 午夜免费成人在线视频| 超碰成人久久| 国产三级中文精品| 国产成年人精品一区二区| 国产黄色小视频在线观看| 亚洲成人久久爱视频| www.熟女人妻精品国产| 亚洲国产日韩欧美精品在线观看 | 中文资源天堂在线| 久久香蕉精品热| 亚洲美女视频黄频| 国产精品自产拍在线观看55亚洲| 久久久久九九精品影院| 两人在一起打扑克的视频| 国产成人av激情在线播放| 曰老女人黄片| 欧美日本亚洲视频在线播放| 久久精品影院6| 日本a在线网址| 久久这里只有精品19| 亚洲国产中文字幕在线视频| 亚洲国产欧美网| 两个人的视频大全免费| 久久亚洲精品不卡| 99国产综合亚洲精品| 1024手机看黄色片| 欧洲精品卡2卡3卡4卡5卡区| 久久精品国产综合久久久| 国产一级毛片七仙女欲春2| 国产免费av片在线观看野外av| 一个人免费在线观看电影 | 亚洲中文字幕日韩| 国内揄拍国产精品人妻在线| 久久中文字幕人妻熟女| 18禁黄网站禁片午夜丰满| 久久久久久久久免费视频了| 国产精品99久久99久久久不卡| 神马国产精品三级电影在线观看| 十八禁网站免费在线| www.www免费av| 国产久久久一区二区三区| 少妇熟女aⅴ在线视频| 国产av在哪里看| 噜噜噜噜噜久久久久久91| 成人av在线播放网站| 欧美国产日韩亚洲一区| 久久精品亚洲精品国产色婷小说| 一进一出抽搐gif免费好疼| 久久久久久久久久黄片| 欧美zozozo另类| 亚洲人成伊人成综合网2020| 窝窝影院91人妻| 一区二区三区激情视频| 精品国产三级普通话版| 久久久久久久午夜电影| 国产精华一区二区三区| 成人18禁在线播放| 亚洲午夜精品一区,二区,三区| 日本五十路高清| 九九热线精品视视频播放| 一级作爱视频免费观看| 久久久久精品国产欧美久久久| 亚洲色图av天堂| 一级a爱片免费观看的视频| 亚洲狠狠婷婷综合久久图片| 午夜精品久久久久久毛片777| 观看免费一级毛片| 亚洲欧美精品综合一区二区三区| 欧美+亚洲+日韩+国产| av黄色大香蕉| 成人一区二区视频在线观看| 免费av不卡在线播放| 91av网一区二区| 一个人免费在线观看的高清视频| 给我免费播放毛片高清在线观看| 最近最新中文字幕大全电影3| 国产精品一区二区三区四区免费观看 | 久久久久亚洲av毛片大全| 黄片小视频在线播放| 久久久久久久精品吃奶| 熟女少妇亚洲综合色aaa.| 91在线观看av| 日韩欧美 国产精品| 亚洲精品色激情综合| 欧美在线一区亚洲| 欧美色视频一区免费| 久久国产精品人妻蜜桃| 国产精品98久久久久久宅男小说| 午夜福利欧美成人| 综合色av麻豆| aaaaa片日本免费| 国产亚洲精品av在线| 日韩成人在线观看一区二区三区| 性色av乱码一区二区三区2| 女警被强在线播放| 伦理电影免费视频| 亚洲中文字幕日韩| 精品国产美女av久久久久小说| 少妇裸体淫交视频免费看高清| 夜夜夜夜夜久久久久| 99久久精品一区二区三区| www.自偷自拍.com| 淫秽高清视频在线观看| 亚洲成a人片在线一区二区| 人人妻人人看人人澡| 伊人久久大香线蕉亚洲五| 噜噜噜噜噜久久久久久91| 久久久久国产一级毛片高清牌| 亚洲自偷自拍图片 自拍| 亚洲国产精品999在线| 欧美在线一区亚洲| 亚洲av电影不卡..在线观看| 国产精品国产高清国产av| 久久久成人免费电影| 亚洲aⅴ乱码一区二区在线播放| 法律面前人人平等表现在哪些方面| 白带黄色成豆腐渣| 国产精品一及| 久9热在线精品视频| 少妇的逼水好多| 成人国产一区最新在线观看| 19禁男女啪啪无遮挡网站| 非洲黑人性xxxx精品又粗又长| 亚洲av成人一区二区三| 美女免费视频网站| 国产精品久久视频播放| 欧美大码av| 午夜福利在线观看免费完整高清在 | 露出奶头的视频| 一本久久中文字幕| 天堂网av新在线| 99视频精品全部免费 在线 | 亚洲国产欧洲综合997久久,| 欧美性猛交╳xxx乱大交人| 亚洲人成伊人成综合网2020| 少妇的逼水好多| av中文乱码字幕在线| 一个人免费在线观看的高清视频| 性欧美人与动物交配| 午夜成年电影在线免费观看| 亚洲国产日韩欧美精品在线观看 | 精品国内亚洲2022精品成人| 欧美日韩精品网址| 美女午夜性视频免费| 国模一区二区三区四区视频 | 成人特级黄色片久久久久久久| 国产精品日韩av在线免费观看| 欧美成狂野欧美在线观看| 亚洲欧洲精品一区二区精品久久久| 日本黄色视频三级网站网址| 久久亚洲精品不卡| 亚洲五月天丁香| 真实男女啪啪啪动态图| 国产精品1区2区在线观看.| 国产高清视频在线观看网站| 18禁黄网站禁片午夜丰满| 日韩国内少妇激情av| 成人国产一区最新在线观看| 男女之事视频高清在线观看| 久久这里只有精品19| 成人一区二区视频在线观看| 成人特级黄色片久久久久久久| 免费电影在线观看免费观看| 99精品久久久久人妻精品| 午夜日韩欧美国产| 亚洲成人精品中文字幕电影| 国产伦人伦偷精品视频| 久久草成人影院| 国产精品国产高清国产av| 欧美av亚洲av综合av国产av| 日本a在线网址| 欧美丝袜亚洲另类 | 中文字幕精品亚洲无线码一区| 国产欧美日韩精品一区二区| 大型黄色视频在线免费观看| 亚洲av日韩精品久久久久久密| 免费看日本二区| 岛国在线观看网站| 国产不卡一卡二| 午夜福利视频1000在线观看| 久久国产精品人妻蜜桃| 91字幕亚洲| 亚洲av第一区精品v没综合| 成人三级做爰电影| 婷婷亚洲欧美| 亚洲国产精品久久男人天堂| 一级毛片高清免费大全| 精品久久久久久,| 亚洲欧美一区二区三区黑人| 色尼玛亚洲综合影院| 亚洲中文字幕一区二区三区有码在线看 | 国产伦精品一区二区三区视频9 | 亚洲成人久久性| 亚洲av成人av| 97超级碰碰碰精品色视频在线观看| 757午夜福利合集在线观看| 成人三级黄色视频| 色播亚洲综合网| 法律面前人人平等表现在哪些方面| 熟女电影av网| 91麻豆精品激情在线观看国产| 国产伦人伦偷精品视频| 精品99又大又爽又粗少妇毛片 | 性色avwww在线观看| 色视频www国产| 亚洲人成网站在线播放欧美日韩| 黄色女人牲交| 两性夫妻黄色片| 国产乱人伦免费视频| 婷婷精品国产亚洲av| 国产精品久久久久久精品电影| 操出白浆在线播放| 亚洲一区二区三区不卡视频| av中文乱码字幕在线| 久久久久久久精品吃奶| 国产精品一区二区免费欧美| 欧美三级亚洲精品| 哪里可以看免费的av片| 久久这里只有精品19| 香蕉久久夜色| 久久久国产欧美日韩av| 国产高清有码在线观看视频| 蜜桃久久精品国产亚洲av| 两个人的视频大全免费| 日韩三级视频一区二区三区| 午夜激情欧美在线| 亚洲av五月六月丁香网| 国产高清视频在线观看网站| 真人一进一出gif抽搐免费| 两性午夜刺激爽爽歪歪视频在线观看| 99re在线观看精品视频| 99riav亚洲国产免费| 91在线精品国自产拍蜜月 | 国产精品爽爽va在线观看网站| 99久久国产精品久久久| 国产亚洲精品综合一区在线观看| 欧美av亚洲av综合av国产av| 久久亚洲真实| 伦理电影免费视频| 精品电影一区二区在线| 国产成人精品久久二区二区91| 在线播放国产精品三级| 日韩精品青青久久久久久| 男女之事视频高清在线观看| 精品一区二区三区av网在线观看| 18禁黄网站禁片免费观看直播| 亚洲黑人精品在线| 最近最新中文字幕大全电影3| 999久久久精品免费观看国产| cao死你这个sao货| 一本精品99久久精品77| 午夜福利高清视频| 长腿黑丝高跟| 欧美极品一区二区三区四区| 九九在线视频观看精品| 久久精品综合一区二区三区| 夜夜夜夜夜久久久久| 国内精品美女久久久久久| 嫩草影院精品99| 黄色丝袜av网址大全| av中文乱码字幕在线| 少妇裸体淫交视频免费看高清| 法律面前人人平等表现在哪些方面| www.自偷自拍.com| 国产高清有码在线观看视频| xxx96com| 久久这里只有精品中国| 禁无遮挡网站| 国产精品av久久久久免费| 午夜福利成人在线免费观看| 日韩人妻高清精品专区| 搡老妇女老女人老熟妇| www.精华液| 久久久国产欧美日韩av| a在线观看视频网站| 国产综合懂色| 国产一区二区三区视频了| 国产精品日韩av在线免费观看| 天堂影院成人在线观看| 我的老师免费观看完整版| 久久精品综合一区二区三区| 淫妇啪啪啪对白视频| 少妇人妻一区二区三区视频| 十八禁人妻一区二区| 国产精品国产高清国产av| 国产黄a三级三级三级人| 欧美黄色淫秽网站| 伊人久久大香线蕉亚洲五| 中文字幕熟女人妻在线| 日韩欧美国产在线观看| 美女午夜性视频免费| 熟女人妻精品中文字幕| 手机成人av网站| 我要搜黄色片| av黄色大香蕉| 日本 av在线| 亚洲人与动物交配视频| 白带黄色成豆腐渣| 黄色视频,在线免费观看| 制服人妻中文乱码| 国产高潮美女av| 嫁个100分男人电影在线观看| 国内精品美女久久久久久| 久久天堂一区二区三区四区| 老司机午夜十八禁免费视频| 成人特级黄色片久久久久久久| a级毛片在线看网站| 在线国产一区二区在线| 精品国产三级普通话版| 人妻久久中文字幕网| 国产爱豆传媒在线观看| 欧美性猛交╳xxx乱大交人| 精品日产1卡2卡| 日韩欧美国产一区二区入口| 亚洲国产色片| 国产精品亚洲美女久久久| 在线免费观看的www视频| 欧美国产日韩亚洲一区| 黄色 视频免费看| 久久久久久久精品吃奶| 特级一级黄色大片| 国产精品,欧美在线| 黄色片一级片一级黄色片| 亚洲专区国产一区二区| 国产精品女同一区二区软件 | 天天躁日日操中文字幕| 久久久久久久久免费视频了| 精品电影一区二区在线| 麻豆国产av国片精品| 一个人看的www免费观看视频| 午夜福利免费观看在线| 国产1区2区3区精品| 国产av在哪里看| 国产成人影院久久av| 精品久久久久久久久久免费视频| 国产精品亚洲一级av第二区| 久久中文字幕人妻熟女| 国产成+人综合+亚洲专区| 麻豆国产97在线/欧美| 久久久久性生活片| 精品福利观看| 97超视频在线观看视频| 成人三级做爰电影| 动漫黄色视频在线观看| 999久久久国产精品视频| 日日干狠狠操夜夜爽| 久久精品亚洲精品国产色婷小说| 日韩三级视频一区二区三区| 国产精品电影一区二区三区| 亚洲av免费在线观看| 色综合欧美亚洲国产小说| 亚洲精品一区av在线观看| 午夜免费激情av| 亚洲午夜精品一区,二区,三区| 两个人视频免费观看高清| 国产激情偷乱视频一区二区| 久久99热这里只有精品18| 午夜成年电影在线免费观看| 久久久国产欧美日韩av| 女人被狂操c到高潮| 婷婷精品国产亚洲av在线| 无人区码免费观看不卡| 999精品在线视频| 啪啪无遮挡十八禁网站| 国产亚洲av高清不卡| 天天躁日日操中文字幕| 国产熟女xx| 精品国产乱码久久久久久男人| 国产亚洲精品综合一区在线观看| 国产精品日韩av在线免费观看| 国产高清videossex| 久久精品aⅴ一区二区三区四区| 高清在线国产一区| 国产伦精品一区二区三区视频9 | 在线永久观看黄色视频| 非洲黑人性xxxx精品又粗又长| 久久久久亚洲av毛片大全| 亚洲精品久久国产高清桃花| 欧美日韩国产亚洲二区| 精品久久久久久久毛片微露脸| 欧美最黄视频在线播放免费| 久久亚洲精品不卡| 国产aⅴ精品一区二区三区波| 欧美午夜高清在线| 久久久久国产一级毛片高清牌| 五月伊人婷婷丁香| 在线看三级毛片| 午夜免费成人在线视频| 一进一出抽搐动态| 每晚都被弄得嗷嗷叫到高潮| 18禁黄网站禁片午夜丰满| 国产高清视频在线播放一区| 免费观看的影片在线观看| 国内精品美女久久久久久| 精品久久久久久久末码| av福利片在线观看| 色精品久久人妻99蜜桃| 色老头精品视频在线观看| 欧美成人性av电影在线观看| 熟妇人妻久久中文字幕3abv| 久久中文字幕一级| 无限看片的www在线观看| 一个人免费在线观看电影 | 亚洲欧美日韩无卡精品| 午夜福利视频1000在线观看| 1000部很黄的大片|