• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    歐美日智能網(wǎng)聯(lián)汽車準(zhǔn)入管理研究及啟示

    2021-04-30 02:32:56劉法旺李艷文李國(guó)俊李京泰張微
    汽車文摘 2021年5期
    關(guān)鍵詞:智能網(wǎng)法規(guī)網(wǎng)絡(luò)安全

    劉法旺 李艷文 李國(guó)俊 李京泰 張微

    (工業(yè)和信息化部裝備工業(yè)發(fā)展中心,北京100846)

    主題詞:智能網(wǎng)聯(lián)汽車 準(zhǔn)入管理 軟件升級(jí) 網(wǎng)絡(luò)安全

    縮略語

    ICV Intelligent and Connected Vehicle GRRF Working Party on Braking and Running Gear ITS/AD Intelligent Transportation Systems/Automated Driving GRVA Working Party on Automated/Autonomous and Connected Vehicles ODD Operational Design Domain ODC Operational Design Condition ALKS Automatic Line Keeping System

    DSSAD Data Storage System for Automated Driving SOTIF Safety Of The Intended Functionality OTA Over-The-Air Technology

    1 前言

    汽車產(chǎn)業(yè)是我國(guó)國(guó)民經(jīng)濟(jì)的重要支柱產(chǎn)業(yè),據(jù)國(guó)家統(tǒng)計(jì)局?jǐn)?shù)據(jù),2020年我國(guó)汽車制造業(yè)整體營(yíng)收8.15萬億元,帶來的稅收、就業(yè)、零售額均占全國(guó)相應(yīng)總量的10%以上[1-2]。在以人工智能、5G通信為代表的科技革命與產(chǎn)業(yè)變革的推動(dòng)下,汽車作為新技術(shù)應(yīng)用的優(yōu)質(zhì)載體,正在加速智能化、網(wǎng)聯(lián)化發(fā)展進(jìn)程。各類前沿技術(shù)、新興業(yè)態(tài)“交相輝映、彼此賦能”,進(jìn)一步催生了汽車產(chǎn)業(yè)結(jié)構(gòu)、產(chǎn)業(yè)價(jià)值鏈、產(chǎn)品形態(tài)、消費(fèi)模式、出行方式等方面的系統(tǒng)性變革,智能網(wǎng)聯(lián)汽車已經(jīng)成為全球汽車產(chǎn)業(yè)發(fā)展的戰(zhàn)略方向[3-5]。

    當(dāng)前,智能網(wǎng)聯(lián)汽車處于技術(shù)快速演進(jìn)、產(chǎn)業(yè)加速布局的商業(yè)化前期階段。L2 級(jí)輔助駕駛功能已開始規(guī)模化應(yīng)用,L3、L4 級(jí)自動(dòng)駕駛的產(chǎn)業(yè)化成為各大企業(yè)的瞄準(zhǔn)目標(biāo)。國(guó)際上,Waymo、Uber、Lyft 積極推進(jìn)Robotaxi 測(cè)試驗(yàn)證,正在由道路測(cè)試向商業(yè)化示范運(yùn)營(yíng)推進(jìn),歐洲、美國(guó)干線物流自動(dòng)駕駛已經(jīng)進(jìn)入了商業(yè)試運(yùn)營(yíng)階段。國(guó)內(nèi)的港口、礦區(qū)等限定場(chǎng)景率先開展試點(diǎn)運(yùn)營(yíng),Robotaxi、干線物流等開放道路測(cè)試與示范應(yīng)用蓬勃發(fā)展。

    智能網(wǎng)聯(lián)汽車準(zhǔn)入管理是一項(xiàng)復(fù)雜的系統(tǒng)工程,安全形勢(shì)更加嚴(yán)峻,在法規(guī)、標(biāo)準(zhǔn)等方面面臨著新的挑戰(zhàn)。此外,由于產(chǎn)業(yè)變革和跨界融合,相關(guān)行業(yè)主管部門的職能面臨進(jìn)一步協(xié)調(diào)分工。

    本文聚焦研究歐美日智能網(wǎng)聯(lián)汽車準(zhǔn)入管理政策、法規(guī)和標(biāo)準(zhǔn)進(jìn)展,剖析智能網(wǎng)聯(lián)汽車準(zhǔn)入管理面臨的問題,提出應(yīng)對(duì)的建議。

    2 歐美日智能網(wǎng)聯(lián)汽車法規(guī)標(biāo)準(zhǔn)進(jìn)展

    歐美日等汽車大國(guó)、強(qiáng)國(guó)紛紛加速制定智能網(wǎng)聯(lián)汽車政策法規(guī)及標(biāo)準(zhǔn),加強(qiáng)頂層設(shè)計(jì)。2020年11月,日本在全球第一個(gè)正式批準(zhǔn)了具有L3級(jí)功能的車型本田“里程”。2021年1月,美國(guó)發(fā)布《自動(dòng)駕駛汽車綜合計(jì)劃》,擬構(gòu)建現(xiàn)代化的監(jiān)管環(huán)境,開發(fā)以安全為重點(diǎn)的框架和工具,評(píng)估自動(dòng)駕駛技術(shù)的安全性。2021年2月,德國(guó)通過《“道路交通法”和“強(qiáng)制保險(xiǎn)法”修正案—自動(dòng)駕駛法》,計(jì)劃年中生效,屆時(shí)智能網(wǎng)聯(lián)汽車(L4 級(jí))可在公共道路交通的固定運(yùn)營(yíng)區(qū)域內(nèi)行駛。

    通過分析歐美日智能網(wǎng)聯(lián)汽車準(zhǔn)入管理的進(jìn)展及趨勢(shì),總結(jié)其具有以下4個(gè)主要特點(diǎn)。

    2.1 積極參與聯(lián)合國(guó)法規(guī)研討,明確管理原則

    為協(xié)調(diào)推進(jìn)智能網(wǎng)聯(lián)汽車技術(shù)法規(guī)體系建設(shè),聯(lián)合國(guó)世界車輛法規(guī)協(xié)調(diào)論壇(WP.29)在制動(dòng)與行駛系工作組(GRRF)的基礎(chǔ)上,整合智能交通/自動(dòng)駕駛(ITS/AD)非正式工作組,專門成立了智能網(wǎng)聯(lián)汽車工作組(GRVA)。GRVA工作組負(fù)責(zé)統(tǒng)籌開展聯(lián)合國(guó)有關(guān)智能網(wǎng)聯(lián)汽車法規(guī)的協(xié)調(diào)任務(wù),重點(diǎn)保障自動(dòng)化車輛的安全水平,確保智能網(wǎng)聯(lián)汽車行駛安全,以免遭受任何不可承受的風(fēng)險(xiǎn);確保在其設(shè)計(jì)運(yùn)行范圍(ODD)下,智能網(wǎng)聯(lián)汽車不能導(dǎo)致任何可預(yù)見和可預(yù)防的傷亡交通事故。

    GRVA 首先發(fā)布了框架法規(guī)文件,提出總體要求。2019年6月,在日內(nèi)瓦舉行的聯(lián)合國(guó)WP.29 第178 次全體會(huì)議上,審議通過了中國(guó)、歐盟、日本和美國(guó)共同提出的《自動(dòng)駕駛汽車框架文件》(Framework document on automated/autonomous vehicles(level 3 and higher),旨在確立具備L3及更高級(jí)別功能的智能網(wǎng)聯(lián)汽車的安全性相關(guān)原則,并為WP.29附屬工作組提供工作指導(dǎo)。框架文件中對(duì)系統(tǒng)安全、失效保護(hù)響應(yīng)、人機(jī)交互界面/操作者信息、事件數(shù)據(jù)記錄和自動(dòng)駕駛數(shù)據(jù)存儲(chǔ)、消費(fèi)者教育培訓(xùn)、碰撞后智能網(wǎng)聯(lián)汽車行為等13項(xiàng)內(nèi)容進(jìn)行了明確和闡述[6]。

    歐美日積極參與WP.29研討,并發(fā)布了相應(yīng)的準(zhǔn)入指南。日本發(fā)布了《自動(dòng)駕駛安全技術(shù)指南》[7],歐盟發(fā)布了《自動(dòng)駕駛車輛豁免程序指南》[8],適用范圍均是具備L3和L4級(jí)功能的智能網(wǎng)聯(lián)汽車。針對(duì)搭載L3~L5級(jí)功能的車輛,美國(guó)發(fā)布了《自動(dòng)駕駛系統(tǒng)2.0:安全愿景》[9],提出了12 項(xiàng)安全要素要求。

    2.2 “多支柱”方法獲得廣泛認(rèn)可

    《自動(dòng)駕駛汽車框架文件》將安全作為核心關(guān)注點(diǎn),強(qiáng)調(diào)“自動(dòng)/無人駕駛汽車要確保安全水平達(dá)到‘自動(dòng)/無人駕駛汽車不會(huì)造成任何不可忍受的風(fēng)險(xiǎn)’,這就意味著在其自動(dòng)模式下,自動(dòng)/無人駕駛汽車系統(tǒng)不應(yīng)造成可以合理預(yù)見和預(yù)防的傷害或死亡的交通事故發(fā)生”?;诖嗽瓌t,GRVA提出了基于“多支柱法”的自動(dòng)駕駛安全驗(yàn)證框架,融合審核評(píng)估、模擬仿真測(cè)試、封閉場(chǎng)地測(cè)試、實(shí)際道路測(cè)試、在線監(jiān)測(cè)報(bào)告等措施(圖1)[10-11]?!岸嘀еā本劢怪悄芫W(wǎng)聯(lián)汽車安全,由傳統(tǒng)的產(chǎn)品測(cè)試擴(kuò)展到過程安全評(píng)估、多層級(jí)測(cè)試等驗(yàn)證方式。

    “多支柱法”的核心是構(gòu)建了安全測(cè)評(píng)框架,以安全要求為主線,通過過程審核、多層級(jí)測(cè)試等進(jìn)行綜合評(píng)價(jià)。傳統(tǒng)的手段無法窮盡自動(dòng)駕駛場(chǎng)景驗(yàn)證,通過多支柱法,在封閉場(chǎng)地測(cè)試和實(shí)際道路測(cè)試場(chǎng)景有限的前提下,綜合過程審核和模擬仿真測(cè)試,保障自動(dòng)駕駛安全性。

    2.3 采取小步快跑方式加快制定法規(guī)

    基于框架文件,GRVA發(fā)布了3項(xiàng)法規(guī)。2020年6月24日,WP.29第181 次全體會(huì)議以網(wǎng)絡(luò)會(huì)議形式召開,審議通過了自動(dòng)車道保持系統(tǒng)(ALKS)、網(wǎng)絡(luò)安全(Cybersecurity)和軟件升級(jí)(Software Updates)3 項(xiàng)智能網(wǎng)聯(lián)汽車領(lǐng)域的法規(guī),生效日期是2021年1月[12-14]。3項(xiàng)法規(guī)是該領(lǐng)域首批國(guó)際統(tǒng)一和具有約束力的技術(shù)法規(guī),對(duì)于全球范圍內(nèi)智能網(wǎng)聯(lián)汽車的技術(shù)發(fā)展和產(chǎn)業(yè)規(guī)范具有里程碑式的意義。

    圖1 UNECE“多支柱法”框架[10]

    ALKS 法規(guī)是針對(duì)L3 級(jí)駕駛自動(dòng)化功能的第一個(gè)具有約束力的國(guó)際法規(guī),該法規(guī)規(guī)定ALKS 在具備物理隔離且無行人及兩輪車的道路上行駛,運(yùn)行速度不應(yīng)高于60 km/h。該法規(guī)以聯(lián)合國(guó)《自動(dòng)駕駛框架文件》為指導(dǎo),從系統(tǒng)安全、故障安全響應(yīng)、人機(jī)界面、自動(dòng)駕駛數(shù)據(jù)存儲(chǔ)系統(tǒng)(DSSAD)、網(wǎng)絡(luò)安全及軟件升級(jí)等方面對(duì)ALKS 提出要求。其中,“系統(tǒng)安全”要求系統(tǒng)在激活后可以執(zhí)行全部動(dòng)態(tài)駕駛?cè)蝿?wù);“故障安全響應(yīng)”要求系統(tǒng)具備駕駛權(quán)轉(zhuǎn)換、碰撞應(yīng)急策略和最小風(fēng)險(xiǎn)策略;“人機(jī)界面”規(guī)定系統(tǒng)的激活和退出條件,并明確系統(tǒng)的應(yīng)提示信息及形式;“DSSAD”要求應(yīng)記錄系統(tǒng)的駕駛狀態(tài)。

    ALKS 法規(guī)在“多支柱法”框架下提出限定功能、限定場(chǎng)景的技術(shù)要求,在法規(guī)制定方面邁出了第一小步。其重要意義如下。

    (1)限定場(chǎng)景的功能相對(duì)簡(jiǎn)單,測(cè)試驗(yàn)證覆蓋難度相對(duì)較低,風(fēng)險(xiǎn)更為可控;

    (2)保留了下一步拓展的空間,通過技術(shù)持續(xù)迭代和測(cè)試,促進(jìn)法規(guī)更新和完善。

    2.4 以安全為主線加快推進(jìn)預(yù)期功能安全(SOTIF)、網(wǎng)絡(luò)安全等標(biāo)準(zhǔn)制定

    國(guó)際標(biāo)準(zhǔn)化組織道路車輛技術(shù)委員會(huì)(ISO/TC 22)負(fù)責(zé)道路車輛的標(biāo)準(zhǔn)化工作,主要包括車輛通訊(SC 31)、車輛電氣電子部件及通用系統(tǒng)(SC 32)、車輛動(dòng)力學(xué)及底盤部件(SC 33)等11 個(gè)分委會(huì)。其中,SC 32 分委會(huì)已經(jīng)發(fā)布了ISO 26262:2018 道路車輛功能安全標(biāo)準(zhǔn)[15],并積極推動(dòng)ISO 21448 預(yù)期功能安全標(biāo)準(zhǔn)[16]以及ISO/SAE 21434 網(wǎng)絡(luò)安全標(biāo)準(zhǔn)[17]的制定,SC 33分委會(huì)在推動(dòng)自動(dòng)駕駛測(cè)試場(chǎng)景等相關(guān)標(biāo)準(zhǔn)的制定。此外,國(guó)際標(biāo)準(zhǔn)化組織智能運(yùn)輸系統(tǒng)技術(shù)委員會(huì)(ISO/TC 204)負(fù)責(zé)城郊地面運(yùn)輸信息、通信和控制系統(tǒng)的標(biāo)準(zhǔn)制定。

    ISO 26262:2018《道路車輛功能安全》標(biāo)準(zhǔn)涵蓋功能安全方面的整體開發(fā)過程(包括需求規(guī)劃、設(shè)計(jì)、實(shí)施、集成、驗(yàn)證、確認(rèn)和配置),為智能網(wǎng)聯(lián)汽車功能安全開發(fā)提供了指導(dǎo)方針。ISO/SAE 21434《道路車輛網(wǎng)絡(luò)安全工程》標(biāo)準(zhǔn)參考V 模型開發(fā)流程,主要從風(fēng)險(xiǎn)評(píng)估管理、產(chǎn)品開發(fā)、運(yùn)行/維護(hù)、流程審核等4個(gè)方面來保障汽車網(wǎng)絡(luò)安全工程實(shí)施。ISO 21448預(yù)期功能安全標(biāo)準(zhǔn)是對(duì)ISO 26262 功能安全的補(bǔ)充,旨在避免因智能網(wǎng)聯(lián)汽車整車及系統(tǒng)的預(yù)期功能局限所引起的不合理風(fēng)險(xiǎn)。通過基于對(duì)已知不安全場(chǎng)景和未知不安全場(chǎng)景的預(yù)期功能安全驗(yàn)證和確認(rèn),探測(cè)和發(fā)現(xiàn)整車及系統(tǒng)組件中的功能不足并進(jìn)行改進(jìn),使智能網(wǎng)聯(lián)汽車達(dá)到合理安全水平。

    3 智能網(wǎng)聯(lián)汽車準(zhǔn)入管理面臨的挑戰(zhàn)

    在研究歐美日智能網(wǎng)聯(lián)汽車政策法規(guī)、標(biāo)準(zhǔn)進(jìn)展的基礎(chǔ)上,進(jìn)一步分析智能網(wǎng)聯(lián)汽車準(zhǔn)入管理面臨的難題。

    如圖2所示,智能網(wǎng)聯(lián)汽車面臨2個(gè)主要變化。

    圖2 智能網(wǎng)聯(lián)汽車準(zhǔn)入管理挑戰(zhàn)

    (1)L3 級(jí)及以上功能,駕駛?cè)蝿?wù)部分或全部由駕駛自動(dòng)化系統(tǒng)承擔(dān),用戶(駕駛員)提供必要的協(xié)助和輔助,責(zé)任主體會(huì)發(fā)生變化,汽車產(chǎn)品安全相關(guān)的基本特征、技術(shù)參數(shù)尚不明確。

    (2)軟件升級(jí)則有可能會(huì)影響智能網(wǎng)聯(lián)汽車產(chǎn)品一致性管理。

    自動(dòng)駕駛安全問題更加復(fù)雜,駕駛權(quán)轉(zhuǎn)移引發(fā)責(zé)任主體變化,產(chǎn)生了責(zé)任判定問題;軟件升級(jí)加劇了網(wǎng)絡(luò)安全和產(chǎn)品一致性管理難題;標(biāo)準(zhǔn)支撐則是影響智能網(wǎng)聯(lián)汽車行業(yè)管理的共性難題。從智能網(wǎng)聯(lián)汽車準(zhǔn)入管理的視角,共識(shí)別出自動(dòng)駕駛安全、責(zé)任判定、軟件升級(jí)、網(wǎng)絡(luò)安全和標(biāo)準(zhǔn)支撐等5個(gè)挑戰(zhàn)。

    5 個(gè)挑戰(zhàn)之間又相互關(guān)聯(lián),如軟件升級(jí)也涉及自動(dòng)駕駛安全和網(wǎng)絡(luò)安全問題,網(wǎng)絡(luò)安全也會(huì)引發(fā)自動(dòng)駕駛安全等問題,標(biāo)準(zhǔn)支撐則與其他4個(gè)挑戰(zhàn)難題直接相關(guān)。

    3.1 自動(dòng)駕駛安全的內(nèi)涵和外延在發(fā)生演變

    自動(dòng)駕駛強(qiáng)化了功能安全和網(wǎng)絡(luò)安全的管理需求,并提出了預(yù)期功能安全管理需求[18]。人機(jī)共駕等應(yīng)用場(chǎng)景的復(fù)雜性和功能的多樣性,增加了功能安全設(shè)計(jì)和驗(yàn)證確認(rèn)的工作量,提高了對(duì)自動(dòng)駕駛殘余風(fēng)險(xiǎn)可接受水平的判定難度。網(wǎng)聯(lián)化需要建立具備縱深防御、長(zhǎng)期監(jiān)控的網(wǎng)絡(luò)安全防護(hù)體系,延伸到車邊界網(wǎng)絡(luò)防護(hù)、車內(nèi)處理器全棧防護(hù)、內(nèi)外網(wǎng)傳輸保護(hù)、車輛安全服務(wù)生態(tài)等諸多方面[19]。針對(duì)自動(dòng)駕駛由于預(yù)期功能的設(shè)計(jì)或其實(shí)現(xiàn)過程的不充分而導(dǎo)致危害、產(chǎn)生不合理的風(fēng)險(xiǎn),提出了對(duì)預(yù)期功能安全的要求。

    內(nèi)涵和外延的演變,對(duì)如何評(píng)價(jià)自動(dòng)駕駛達(dá)到完全安全提出了挑戰(zhàn)。德國(guó)倫理委員會(huì)建議,自動(dòng)駕駛應(yīng)實(shí)現(xiàn)“與人類駕駛水平相比的正風(fēng)險(xiǎn)平衡”的目標(biāo)[20];《自動(dòng)駕駛汽車框架文件》則要求自動(dòng)駕駛應(yīng)避免不合理的安全風(fēng)險(xiǎn)。這些都是原則要求,如何測(cè)試、驗(yàn)證并進(jìn)行有效的統(tǒng)計(jì)分析,是面臨的難題。

    對(duì)搭載L3 級(jí)及以上功能的智能網(wǎng)聯(lián)汽車,駕駛權(quán)發(fā)生轉(zhuǎn)移,安全風(fēng)險(xiǎn)更加突出,測(cè)試、驗(yàn)證、評(píng)價(jià)自動(dòng)駕駛的安全性更加困難,主要表現(xiàn)在以下3個(gè)方面。

    (1)駕駛自動(dòng)化系統(tǒng)及應(yīng)用場(chǎng)景復(fù)雜,為確保駕駛自動(dòng)化系統(tǒng)本身具有安全執(zhí)行駕駛功能的能力,需要進(jìn)行大量的應(yīng)用場(chǎng)景測(cè)試,尤其是要考慮未知場(chǎng)景驗(yàn)證。

    (2)自動(dòng)駕駛高度依賴人工智能和深度學(xué)習(xí),存在不可解釋性,面臨“黑箱”難題,需要開展大規(guī)模試驗(yàn)驗(yàn)證。據(jù)美國(guó)蘭德公司(RAND)分析,證明自動(dòng)駕駛安全性,需要安全駕駛110 億英里(176 億km),同時(shí)保證場(chǎng)景的多樣性和覆蓋度[21-21];實(shí)際道路測(cè)試通??梢苑e累到幾百萬公里,但也只能驗(yàn)證部分場(chǎng)景,大量剩余的長(zhǎng)尾場(chǎng)景無法完全通過實(shí)際道路測(cè)試實(shí)現(xiàn)。

    (3)功能、部件安全并不代表整車系統(tǒng)安全,測(cè)試驗(yàn)證評(píng)價(jià)自動(dòng)駕駛的安全性是一項(xiàng)復(fù)雜的系統(tǒng)工程,尚有不少理論和技術(shù)問題有待進(jìn)一步深入研究。

    3.2 駕駛權(quán)轉(zhuǎn)移帶來的責(zé)任判定問題

    具備L3 和L4 級(jí)功能的智能網(wǎng)聯(lián)汽車,涉及到駕駛權(quán)轉(zhuǎn)移,應(yīng)用場(chǎng)景更加復(fù)雜。L3 級(jí)駕駛自動(dòng)化又稱為有條件自動(dòng)駕駛,是指駕駛自動(dòng)化系統(tǒng)在其設(shè)計(jì)運(yùn)行條件(ODC)內(nèi)持續(xù)地執(zhí)行全部動(dòng)態(tài)駕駛?cè)蝿?wù);對(duì)于L3 級(jí)駕駛自動(dòng)化,動(dòng)態(tài)駕駛?cè)蝿?wù)接管用戶應(yīng)以適當(dāng)?shù)姆绞綀?zhí)行動(dòng)態(tài)駕駛?cè)蝿?wù)接管。L4 級(jí)駕駛自動(dòng)化又稱為高度自動(dòng)駕駛,是指駕駛自動(dòng)化系統(tǒng)在其ODC內(nèi)持續(xù)地執(zhí)行全部動(dòng)態(tài)駕駛?cè)蝿?wù)和執(zhí)行動(dòng)態(tài)駕駛?cè)蝿?wù)接管;對(duì)于L4 級(jí)駕駛自動(dòng)化,系統(tǒng)發(fā)出接管請(qǐng)求時(shí),若乘客無響應(yīng),系統(tǒng)應(yīng)具備自動(dòng)達(dá)到最小風(fēng)險(xiǎn)狀態(tài)的能力。

    在涉及駕駛權(quán)轉(zhuǎn)移的應(yīng)用場(chǎng)景下[23],如何進(jìn)行事故責(zé)任判定成為一個(gè)重要課題。國(guó)內(nèi)外自動(dòng)駕駛數(shù)據(jù)存儲(chǔ)系統(tǒng)(DSSAD)法規(guī)和標(biāo)準(zhǔn)還處于研究階段,自動(dòng)駕駛數(shù)據(jù)記錄的觸發(fā)條件、數(shù)據(jù)記錄類型、數(shù)據(jù)傳輸?shù)瘸蔀榻裹c(diǎn)討論問題。數(shù)據(jù)記錄、自動(dòng)駕駛復(fù)雜應(yīng)用場(chǎng)景以及駕駛權(quán)頻繁轉(zhuǎn)移都對(duì)責(zé)任判定提出了挑戰(zhàn)。

    3.3 軟件升級(jí)對(duì)智能網(wǎng)聯(lián)汽車一致性產(chǎn)生影響

    2020年5月,特斯拉針對(duì)Model3 推出付費(fèi)加速升級(jí)服務(wù)。2020年12月,寶馬對(duì)全球75萬輛汽車OTA 升級(jí),涉及底盤、動(dòng)力等模塊。軟件升級(jí)廣泛應(yīng)用且升級(jí)頻次日益頻繁,車輛功能持續(xù)迭代更新,產(chǎn)品一致性管理面臨挑戰(zhàn),亟需完善準(zhǔn)入審查及監(jiān)督管理方式。

    在軟件定義汽車的大趨勢(shì)下,軟件質(zhì)量審核、測(cè)試驗(yàn)證、發(fā)布流程等要求的規(guī)范性將成為影響汽車產(chǎn)品質(zhì)量、安全性、可靠性的重要因素。軟件升級(jí)技術(shù)加速普及和應(yīng)用,對(duì)準(zhǔn)入審查、監(jiān)督管理方式提出新的挑戰(zhàn)。

    (1)軟件升級(jí)可能帶來產(chǎn)品一致性問題。軟件升級(jí)后導(dǎo)致實(shí)際生產(chǎn)銷售的智能網(wǎng)聯(lián)汽車產(chǎn)品有關(guān)技術(shù)參數(shù)、配置和性能指標(biāo),與型式批準(zhǔn)的車輛產(chǎn)品相關(guān)技術(shù)參數(shù)、配置和性能指標(biāo)不一致,對(duì)一致性監(jiān)督管理造成沖擊。

    (2)軟件升級(jí)可能改變產(chǎn)品安全、環(huán)保、節(jié)能、防盜等性能,出現(xiàn)升級(jí)后車輛不符合現(xiàn)有法規(guī)、標(biāo)準(zhǔn)及技術(shù)要求等問題,造成產(chǎn)品重大安全隱患,引發(fā)產(chǎn)品合規(guī)性風(fēng)險(xiǎn)。

    3.4 網(wǎng)絡(luò)安全管理難題

    隨著車載系統(tǒng)的數(shù)量和復(fù)雜性不斷增加,對(duì)網(wǎng)絡(luò)安全的需求正在迅速增長(zhǎng)。汽車與制造商之間的通信(如OTA,監(jiān)測(cè)等),車車通信(V2V),汽車與基礎(chǔ)設(shè)施之間的通信(V2I),以及與第三方供應(yīng)商的智能手機(jī)和設(shè)備進(jìn)行通信,新的業(yè)務(wù)服務(wù)模式將對(duì)智能網(wǎng)聯(lián)汽車的網(wǎng)絡(luò)安全管理提出新要求。

    隨著V2X 技術(shù)的普及應(yīng)用,周邊車輛、基礎(chǔ)設(shè)施等協(xié)同工作,甚至參與感知、決策和控制,網(wǎng)絡(luò)安全風(fēng)險(xiǎn)更加凸顯。周邊終端、云端等可能參與感知、決策、甚至控制,也將面臨責(zé)任劃分問題。

    同時(shí),智能網(wǎng)汽車可以采集車輛數(shù)據(jù)、用戶數(shù)據(jù)、地圖數(shù)據(jù)、位置數(shù)據(jù)、路況數(shù)據(jù)、業(yè)務(wù)數(shù)據(jù)等數(shù)據(jù)信息,并能夠?qū)⒑A繑?shù)據(jù)發(fā)送到云端,也會(huì)產(chǎn)生數(shù)據(jù)安全、個(gè)人信息保護(hù)等問題。

    3.5 管理支撐標(biāo)準(zhǔn)相對(duì)滯后

    自動(dòng)駕駛技術(shù)的快速演進(jìn),給標(biāo)準(zhǔn)制定造成了2個(gè)難題。

    (1)制定具體的功能標(biāo)準(zhǔn)變得更加困難,功能邊界更加多變,安全要求更高;

    (2)缺乏足夠的試驗(yàn)數(shù)據(jù),難以量化參數(shù)要求和支撐制定相關(guān)的性能標(biāo)準(zhǔn)。智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)蓬勃發(fā)展,安全隱患也進(jìn)一步增大,行業(yè)管理需求更加迫切,而支撐行業(yè)管理的標(biāo)準(zhǔn)制定相對(duì)滯后,對(duì)智能網(wǎng)聯(lián)汽車準(zhǔn)入管理也會(huì)帶來困擾。

    目前,以功能安全、預(yù)期功能安全、網(wǎng)絡(luò)安全為代表的系統(tǒng)工程標(biāo)準(zhǔn)[24]被廣泛引用到GRVA法規(guī)。

    (1)提出了安全生命周期的概念,涉及到產(chǎn)品過程審核要求,對(duì)傳統(tǒng)準(zhǔn)入管理提出了修訂需求;

    (2)界定了框架安全,對(duì)智能網(wǎng)聯(lián)汽車產(chǎn)品提出了系統(tǒng)安全的評(píng)價(jià)概念,確保了安全的充分性,但缺乏智能網(wǎng)聯(lián)汽車量化技術(shù)參數(shù),對(duì)行業(yè)管理提出了難題。

    4 應(yīng)對(duì)思考

    參照聯(lián)合國(guó)以及歐美日智能網(wǎng)聯(lián)汽車準(zhǔn)入管理的進(jìn)展,結(jié)合我國(guó)國(guó)情,對(duì)智能網(wǎng)聯(lián)汽車準(zhǔn)入面臨的挑戰(zhàn)提出如下應(yīng)對(duì)思考和建議。

    4.1 加強(qiáng)頂層設(shè)計(jì)與工作協(xié)同

    智能網(wǎng)聯(lián)汽車發(fā)展需要國(guó)家頂層政策的指導(dǎo)和規(guī)劃設(shè)計(jì)。

    (1)智能網(wǎng)聯(lián)汽車涉及駕駛權(quán)轉(zhuǎn)移問題,引發(fā)一系列法規(guī)、標(biāo)準(zhǔn)、保險(xiǎn)、商業(yè)模式、倫理道德等領(lǐng)域的挑戰(zhàn),需要國(guó)家層面的整體布局。

    (2)智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)覆蓋面廣、技術(shù)交叉強(qiáng),涉及與能源、環(huán)境、通信、交通等領(lǐng)域的協(xié)同,具備本地屬性和跨領(lǐng)域、跨部門監(jiān)管的特點(diǎn),也需要國(guó)家層面進(jìn)行頂層規(guī)劃和工作協(xié)同。

    建議部門間形成合力,積極推動(dòng)形成跨部門協(xié)同管理機(jī)制,明確包容審慎監(jiān)管原則,堅(jiān)持依法監(jiān)管、底線監(jiān)管、創(chuàng)新監(jiān)管的理念。處理好發(fā)展與安全之間的關(guān)系,盡快推動(dòng)適用于智能網(wǎng)聯(lián)汽車的法律法規(guī)制修訂工作。

    建議延續(xù)企業(yè)準(zhǔn)入、產(chǎn)品準(zhǔn)入、產(chǎn)品生產(chǎn)一致性監(jiān)督管理等管理框架,參考國(guó)際經(jīng)驗(yàn),進(jìn)一步強(qiáng)化企業(yè)主體責(zé)任,針對(duì)智能網(wǎng)聯(lián),尤其是自動(dòng)駕駛,有針對(duì)性地加強(qiáng)企業(yè)安全保障、產(chǎn)品過程保障、產(chǎn)品測(cè)試驗(yàn)證等要求,逐步探索建立適用于我國(guó)的智能網(wǎng)聯(lián)汽車準(zhǔn)入管理辦法。

    4.2 推進(jìn)測(cè)試與試點(diǎn)應(yīng)用

    我國(guó)智能網(wǎng)聯(lián)汽車道路測(cè)試和示范應(yīng)用已具備一定基礎(chǔ),但對(duì)行業(yè)管理和產(chǎn)業(yè)發(fā)展的支撐作用并未充分發(fā)揮出來。對(duì)于高等級(jí)自動(dòng)駕駛功能而言,其主要技術(shù)特征是基于場(chǎng)景和人工智能(AI),需要針對(duì)其設(shè)計(jì)運(yùn)行范圍(ODD)持續(xù)進(jìn)行訓(xùn)練和優(yōu)化;對(duì)于高等級(jí)自動(dòng)駕駛管理而言,其難點(diǎn)在于相關(guān)產(chǎn)品和技術(shù)仍在迭代,管理經(jīng)驗(yàn)和數(shù)據(jù)積累不足,安全責(zé)任邊界難以界定,管理尺度難以拿捏。基于此提出如下3點(diǎn)建議。

    (1)進(jìn)一步擴(kuò)大范圍,開展規(guī)模化智能網(wǎng)聯(lián)汽車測(cè)試驗(yàn)證及示范應(yīng)用,支撐準(zhǔn)入管理政策法規(guī)和標(biāo)準(zhǔn)規(guī)范編制,探索商業(yè)模式。

    (2)推動(dòng)基于數(shù)據(jù)平臺(tái)認(rèn)可的測(cè)試結(jié)果互認(rèn)和數(shù)據(jù)共享,推動(dòng)不同地區(qū)測(cè)試相關(guān)標(biāo)準(zhǔn)和管理辦法統(tǒng)一。

    (3)研究建立符合中國(guó)特色的智能網(wǎng)聯(lián)汽車測(cè)試評(píng)價(jià)體系。

    4.3 基于“多支柱法”的安全證明

    聯(lián)合國(guó)自動(dòng)駕駛法規(guī)、歐美日智能網(wǎng)聯(lián)汽車管理政策均是以L3級(jí)為限界,制定或出臺(tái)相關(guān)法規(guī)、指南或框架要求。其本質(zhì)原因在于L3級(jí)及以上功能的智能網(wǎng)聯(lián)汽車涉及到駕駛權(quán)轉(zhuǎn)移,安全要求更高,應(yīng)用場(chǎng)景更加復(fù)雜。

    參照聯(lián)合國(guó)自動(dòng)駕駛法規(guī)要求,基于“多支柱法”進(jìn)行測(cè)試驗(yàn)證和統(tǒng)計(jì)證明。通過模擬仿真測(cè)試、封閉場(chǎng)地測(cè)試、實(shí)際道路測(cè)試等驗(yàn)證系統(tǒng)安全,對(duì)系統(tǒng)運(yùn)行安全性進(jìn)行全面監(jiān)測(cè),量化并評(píng)估以前未考慮的情景,提高驗(yàn)證的置信度。

    4.4 推進(jìn)研究軟件升級(jí)管理要求

    加快推動(dòng)汽車軟件升級(jí)相關(guān)標(biāo)準(zhǔn)與規(guī)范制定,明確軟件升級(jí)相關(guān)功能要求、安全要求及測(cè)試規(guī)范,保障軟件升級(jí)質(zhì)量。加快軟件升級(jí)分類體系與判定技術(shù)條件研制,完善軟件升級(jí)安全評(píng)估與測(cè)試體系。

    開展軟件升級(jí)安全監(jiān)管技術(shù)研究和安全監(jiān)管平臺(tái)試點(diǎn)。支持企業(yè)穩(wěn)步發(fā)展,保護(hù)消費(fèi)者權(quán)益,引導(dǎo)企業(yè)從框架性、整體性的角度來考慮,包括基礎(chǔ)設(shè)施安全、流程上的規(guī)范等方面,探索建立軟件升級(jí)監(jiān)管數(shù)據(jù)平臺(tái),組織開展監(jiān)管技術(shù)研究,細(xì)化企業(yè)保障能力要求和軟件升級(jí)功能測(cè)試要求,加強(qiáng)軟件升級(jí)監(jiān)督管理工作。

    4.5 推進(jìn)網(wǎng)絡(luò)安全管理政策及標(biāo)準(zhǔn)研究制定

    網(wǎng)絡(luò)安全涉及面寬、相關(guān)管理機(jī)構(gòu)多,建議進(jìn)一步梳理明確政府、行業(yè)、企業(yè)職責(zé)定位和責(zé)任劃分。對(duì)車端的網(wǎng)絡(luò)安全,從企業(yè)網(wǎng)絡(luò)安全保障、產(chǎn)品網(wǎng)絡(luò)安全過程保障、產(chǎn)品網(wǎng)絡(luò)安全測(cè)試驗(yàn)證3個(gè)方面提出要求。

    數(shù)據(jù)安全方面,建議研究制定智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全相關(guān)的管理、技術(shù)、測(cè)評(píng)等標(biāo)準(zhǔn)規(guī)范。開展數(shù)據(jù)安全標(biāo)準(zhǔn)框架研究,加快數(shù)據(jù)分類、數(shù)據(jù)脫敏、數(shù)據(jù)防泄漏等標(biāo)準(zhǔn)研制。持續(xù)推動(dòng)完善智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全和用戶個(gè)人信息保護(hù)標(biāo)準(zhǔn)體系。

    5 結(jié)束語

    在產(chǎn)業(yè)變革的大背景下,智能網(wǎng)聯(lián)汽車的技術(shù)特征、生產(chǎn)組織方式及服務(wù)體系等都在發(fā)生改變,行業(yè)管理更加復(fù)雜。智能化對(duì)車輛行駛安全、責(zé)任判定等提出更高要求,網(wǎng)聯(lián)化對(duì)網(wǎng)絡(luò)安全、數(shù)據(jù)保護(hù)和個(gè)人信息保護(hù)、軟件升級(jí)等提出了新的行業(yè)管理難點(diǎn)。

    本文聚焦智能網(wǎng)聯(lián)汽車準(zhǔn)入管理政策研究,梳理聯(lián)合國(guó)自動(dòng)駕駛法規(guī)進(jìn)展及歐美日的準(zhǔn)入管理經(jīng)驗(yàn),分析智能網(wǎng)聯(lián)汽車駕駛權(quán)發(fā)生轉(zhuǎn)移和網(wǎng)聯(lián)化增強(qiáng)后面臨的各種行業(yè)管理挑戰(zhàn),研究提出加強(qiáng)頂層設(shè)計(jì)與戰(zhàn)略協(xié)同、推進(jìn)試點(diǎn)應(yīng)用與測(cè)試、基于“多支柱法”進(jìn)行安全證明、推進(jìn)軟件升級(jí)管理要求、推進(jìn)數(shù)據(jù)安全管理政策標(biāo)準(zhǔn)制定這5個(gè)方面的應(yīng)對(duì)建議。

    猜你喜歡
    智能網(wǎng)法規(guī)網(wǎng)絡(luò)安全
    5G賦能智能網(wǎng)聯(lián)汽車
    網(wǎng)絡(luò)安全
    網(wǎng)絡(luò)安全人才培養(yǎng)應(yīng)“實(shí)戰(zhàn)化”
    智能網(wǎng)聯(lián)硬實(shí)力趨強(qiáng)
    汽車觀察(2018年12期)2018-12-26 01:05:26
    千奇百怪的法規(guī)
    幽默大師(2018年12期)2018-12-06 08:29:28
    迎戰(zhàn)智能網(wǎng)聯(lián)大爆發(fā)
    汽車觀察(2018年10期)2018-11-06 07:05:20
    千奇百怪的法規(guī)
    幽默大師(2018年11期)2018-10-27 06:03:04
    千奇百怪的法規(guī)
    幽默大師(2018年3期)2018-10-27 05:50:34
    上網(wǎng)時(shí)如何注意網(wǎng)絡(luò)安全?
    基于SJA1000的CAN總線智能網(wǎng)橋設(shè)計(jì)
    免费日韩欧美在线观看| 亚洲精品一二三| 最近2019中文字幕mv第一页| 97在线视频观看| 亚洲欧美成人综合另类久久久| 久久精品国产亚洲av高清一级| 亚洲国产日韩一区二区| 国产成人一区二区在线| 美女视频免费永久观看网站| 国产 精品1| 在线观看免费高清a一片| 看非洲黑人一级黄片| 久久鲁丝午夜福利片| 国产成人欧美| 久久97久久精品| 欧美亚洲 丝袜 人妻 在线| 熟女av电影| 成人二区视频| av电影中文网址| 免费av中文字幕在线| 日本色播在线视频| 五月开心婷婷网| 日韩精品免费视频一区二区三区| 精品少妇一区二区三区视频日本电影 | 高清视频免费观看一区二区| 久久久久久人妻| 秋霞在线观看毛片| 亚洲精品自拍成人| 国产成人一区二区在线| 韩国高清视频一区二区三区| 亚洲美女视频黄频| 视频在线观看一区二区三区| 色94色欧美一区二区| 久热这里只有精品99| 最近2019中文字幕mv第一页| 国产片内射在线| 人人妻人人澡人人看| a级毛片在线看网站| 精品福利永久在线观看| 波野结衣二区三区在线| 久久精品aⅴ一区二区三区四区 | 亚洲第一av免费看| 久久久久久久国产电影| 天堂俺去俺来也www色官网| 中文字幕精品免费在线观看视频| 日日摸夜夜添夜夜爱| 亚洲精品久久午夜乱码| av一本久久久久| av网站在线播放免费| 少妇的丰满在线观看| 欧美人与善性xxx| 波多野结衣av一区二区av| 青春草亚洲视频在线观看| 亚洲人成77777在线视频| 如何舔出高潮| 韩国av在线不卡| 亚洲成国产人片在线观看| 亚洲中文av在线| 熟妇人妻不卡中文字幕| www日本在线高清视频| 国产一区二区 视频在线| 亚洲欧洲精品一区二区精品久久久 | 欧美激情 高清一区二区三区| 国产免费又黄又爽又色| 国产爽快片一区二区三区| 自线自在国产av| 女的被弄到高潮叫床怎么办| 香蕉精品网在线| 国产成人欧美| 春色校园在线视频观看| 青春草亚洲视频在线观看| 欧美亚洲 丝袜 人妻 在线| 国产一区二区激情短视频 | 午夜福利影视在线免费观看| 中文字幕最新亚洲高清| 少妇人妻久久综合中文| 婷婷色麻豆天堂久久| 成人亚洲欧美一区二区av| 亚洲视频免费观看视频| 一级爰片在线观看| 国产精品免费视频内射| 美女福利国产在线| 国产亚洲欧美精品永久| 成人手机av| 国产色婷婷99| 国产精品国产三级国产专区5o| 日韩 亚洲 欧美在线| 亚洲精品第二区| 九色亚洲精品在线播放| 亚洲欧美日韩另类电影网站| 99热全是精品| 日韩中文字幕欧美一区二区 | 国产精品久久久久久精品电影小说| av卡一久久| 一区二区三区四区激情视频| 人人妻人人添人人爽欧美一区卜| 成人漫画全彩无遮挡| 五月伊人婷婷丁香| 日本色播在线视频| 亚洲欧洲国产日韩| 日本wwww免费看| 爱豆传媒免费全集在线观看| 色婷婷av一区二区三区视频| 亚洲精品,欧美精品| 免费在线观看黄色视频的| 国产熟女午夜一区二区三区| 亚洲美女视频黄频| 自拍欧美九色日韩亚洲蝌蚪91| 国产一区二区 视频在线| 亚洲国产av新网站| 中文字幕另类日韩欧美亚洲嫩草| 欧美日韩亚洲高清精品| 国产精品久久久久久精品古装| 999久久久国产精品视频| 晚上一个人看的免费电影| 最近中文字幕高清免费大全6| 26uuu在线亚洲综合色| 岛国毛片在线播放| 免费少妇av软件| 免费日韩欧美在线观看| 老司机亚洲免费影院| 少妇猛男粗大的猛烈进出视频| 97在线视频观看| 午夜免费鲁丝| 性色avwww在线观看| 色婷婷久久久亚洲欧美| 欧美人与性动交α欧美软件| 人妻少妇偷人精品九色| 欧美成人午夜精品| 香蕉精品网在线| 日韩制服丝袜自拍偷拍| 久久久久久人人人人人| 亚洲精品中文字幕在线视频| 人妻少妇偷人精品九色| 男人爽女人下面视频在线观看| 亚洲情色 制服丝袜| 搡女人真爽免费视频火全软件| 香蕉丝袜av| 亚洲欧美成人精品一区二区| 国产淫语在线视频| 精品国产一区二区三区四区第35| 国产日韩欧美亚洲二区| 亚洲精品一区蜜桃| 久久久久久久大尺度免费视频| 秋霞在线观看毛片| 亚洲欧美精品综合一区二区三区 | 久久精品夜色国产| 最近手机中文字幕大全| 亚洲情色 制服丝袜| 三上悠亚av全集在线观看| 人妻系列 视频| 国产乱来视频区| 国产深夜福利视频在线观看| 国产xxxxx性猛交| 精品人妻在线不人妻| 亚洲视频免费观看视频| 成人免费观看视频高清| 叶爱在线成人免费视频播放| 中文字幕另类日韩欧美亚洲嫩草| 永久免费av网站大全| 纵有疾风起免费观看全集完整版| 免费大片黄手机在线观看| 考比视频在线观看| 青春草视频在线免费观看| 午夜福利视频在线观看免费| 国产深夜福利视频在线观看| 久久精品国产a三级三级三级| 一级a爱视频在线免费观看| 夜夜骑夜夜射夜夜干| 嫩草影院入口| 久久99热这里只频精品6学生| av一本久久久久| 18禁裸乳无遮挡动漫免费视频| 国产国语露脸激情在线看| 观看av在线不卡| 哪个播放器可以免费观看大片| 欧美精品人与动牲交sv欧美| 久久女婷五月综合色啪小说| h视频一区二区三区| tube8黄色片| 波多野结衣av一区二区av| 女人被躁到高潮嗷嗷叫费观| 久久久久久久大尺度免费视频| 少妇精品久久久久久久| 高清在线视频一区二区三区| 一级爰片在线观看| kizo精华| 女人久久www免费人成看片| 日本免费在线观看一区| 国产精品 国内视频| 国产极品天堂在线| av福利片在线| 亚洲一级一片aⅴ在线观看| av网站在线播放免费| 天堂8中文在线网| 国产亚洲午夜精品一区二区久久| 夫妻午夜视频| 中文字幕最新亚洲高清| 精品少妇久久久久久888优播| 亚洲欧美一区二区三区久久| 欧美精品亚洲一区二区| 日韩制服丝袜自拍偷拍| 免费在线观看完整版高清| 精品亚洲成国产av| 亚洲三区欧美一区| 久热久热在线精品观看| 91精品三级在线观看| 欧美日韩综合久久久久久| 国产有黄有色有爽视频| 汤姆久久久久久久影院中文字幕| 只有这里有精品99| av片东京热男人的天堂| 亚洲内射少妇av| 校园人妻丝袜中文字幕| 欧美人与性动交α欧美软件| 国产精品久久久久久精品古装| 欧美av亚洲av综合av国产av | 欧美日韩精品网址| 国产精品久久久久久精品古装| 亚洲精品在线美女| 亚洲国产毛片av蜜桃av| 在线观看免费视频网站a站| 国产探花极品一区二区| 久久久久久人妻| 国产亚洲av片在线观看秒播厂| 天堂俺去俺来也www色官网| 99久久精品国产国产毛片| 午夜福利影视在线免费观看| 在线观看美女被高潮喷水网站| 国产精品免费大片| 亚洲欧洲精品一区二区精品久久久 | 国产精品一区二区在线不卡| 精品第一国产精品| 卡戴珊不雅视频在线播放| a级毛片黄视频| 天堂俺去俺来也www色官网| 女人高潮潮喷娇喘18禁视频| 日韩欧美一区视频在线观看| 国产在线视频一区二区| 久久精品国产亚洲av高清一级| 国产 一区精品| xxx大片免费视频| 国产亚洲最大av| 精品少妇一区二区三区视频日本电影 | 我要看黄色一级片免费的| 在线观看美女被高潮喷水网站| 亚洲,一卡二卡三卡| 少妇猛男粗大的猛烈进出视频| 亚洲成人手机| 欧美日韩av久久| 丝袜在线中文字幕| 18禁观看日本| 午夜影院在线不卡| 日韩在线高清观看一区二区三区| 99国产精品免费福利视频| 国产免费现黄频在线看| 国产免费现黄频在线看| 天堂中文最新版在线下载| 国产成人精品无人区| 亚洲一区二区三区欧美精品| 国产精品偷伦视频观看了| 菩萨蛮人人尽说江南好唐韦庄| 欧美国产精品一级二级三级| 亚洲欧美一区二区三区久久| 国产成人欧美| a级片在线免费高清观看视频| 男的添女的下面高潮视频| 久久精品国产自在天天线| 精品少妇久久久久久888优播| 亚洲国产精品成人久久小说| tube8黄色片| 午夜影院在线不卡| 国产不卡av网站在线观看| 欧美激情 高清一区二区三区| 99国产综合亚洲精品| 免费人妻精品一区二区三区视频| 大片电影免费在线观看免费| 久久国产亚洲av麻豆专区| 国语对白做爰xxxⅹ性视频网站| 啦啦啦啦在线视频资源| 成年女人在线观看亚洲视频| 你懂的网址亚洲精品在线观看| 亚洲av成人精品一二三区| 在线观看国产h片| 欧美国产精品va在线观看不卡| 晚上一个人看的免费电影| 赤兔流量卡办理| 中文天堂在线官网| 少妇的丰满在线观看| 午夜老司机福利剧场| 九九爱精品视频在线观看| 亚洲成av片中文字幕在线观看 | 女人久久www免费人成看片| 在线天堂最新版资源| 国产成人精品福利久久| 国产免费现黄频在线看| 成人毛片a级毛片在线播放| 母亲3免费完整高清在线观看 | 亚洲美女视频黄频| 国产成人91sexporn| 在线观看三级黄色| 看免费av毛片| 超碰成人久久| 国产乱人偷精品视频| 久久久久精品人妻al黑| 亚洲精品,欧美精品| 天堂8中文在线网| 一区二区三区激情视频| 午夜免费观看性视频| 丝袜美腿诱惑在线| 91午夜精品亚洲一区二区三区| 熟女少妇亚洲综合色aaa.| 亚洲国产精品成人久久小说| 天天影视国产精品| 伦理电影大哥的女人| 精品国产一区二区三区久久久樱花| 制服诱惑二区| 国产精品亚洲av一区麻豆 | 国产精品秋霞免费鲁丝片| 亚洲欧洲精品一区二区精品久久久 | 久久精品国产a三级三级三级| 亚洲精品一二三| 精品酒店卫生间| 亚洲精品视频女| 日韩中文字幕视频在线看片| 色播在线永久视频| 晚上一个人看的免费电影| 亚洲视频免费观看视频| av.在线天堂| 日韩制服骚丝袜av| 制服人妻中文乱码| 咕卡用的链子| 丝袜在线中文字幕| 欧美变态另类bdsm刘玥| 香蕉丝袜av| 日韩不卡一区二区三区视频在线| 2018国产大陆天天弄谢| 色哟哟·www| 国语对白做爰xxxⅹ性视频网站| 免费黄频网站在线观看国产| 女性生殖器流出的白浆| 亚洲综合色惰| 99久国产av精品国产电影| 秋霞伦理黄片| 国产精品国产三级专区第一集| 国产日韩一区二区三区精品不卡| 成人二区视频| 女性生殖器流出的白浆| 亚洲精品久久久久久婷婷小说| 欧美bdsm另类| 欧美少妇被猛烈插入视频| 性色avwww在线观看| 如日韩欧美国产精品一区二区三区| 久久久久人妻精品一区果冻| 久久久精品区二区三区| 欧美人与善性xxx| 午夜日本视频在线| 国产人伦9x9x在线观看 | 成人亚洲欧美一区二区av| 日韩一卡2卡3卡4卡2021年| 热99国产精品久久久久久7| 巨乳人妻的诱惑在线观看| 国产精品 国内视频| 美女视频免费永久观看网站| av在线app专区| 黄频高清免费视频| 又粗又硬又长又爽又黄的视频| 丝袜脚勾引网站| 国产成人午夜福利电影在线观看| 欧美亚洲 丝袜 人妻 在线| 国产精品免费大片| 大片免费播放器 马上看| 老女人水多毛片| 亚洲国产日韩一区二区| 婷婷色综合大香蕉| 国产片内射在线| 欧美 亚洲 国产 日韩一| 黄色 视频免费看| 国产xxxxx性猛交| 色网站视频免费| 国产一区二区三区av在线| 一级片'在线观看视频| 久久97久久精品| 韩国高清视频一区二区三区| 国产一区二区三区综合在线观看| 亚洲精品,欧美精品| 我的亚洲天堂| 亚洲国产精品国产精品| 久久99一区二区三区| 国产一区二区 视频在线| 熟妇人妻不卡中文字幕| 午夜福利在线观看免费完整高清在| 有码 亚洲区| 亚洲精品成人av观看孕妇| 九草在线视频观看| xxx大片免费视频| 国产亚洲一区二区精品| 女人久久www免费人成看片| 亚洲综合色网址| 欧美日韩精品网址| 亚洲精品久久成人aⅴ小说| 交换朋友夫妻互换小说| 激情五月婷婷亚洲| 久久人人爽人人片av| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 久久99一区二区三区| 各种免费的搞黄视频| 免费在线观看视频国产中文字幕亚洲 | av在线播放精品| 久久精品国产a三级三级三级| 中文字幕另类日韩欧美亚洲嫩草| 国产成人精品婷婷| 久久人人爽人人片av| 亚洲国产精品999| 亚洲美女黄色视频免费看| 日韩成人av中文字幕在线观看| 秋霞在线观看毛片| 欧美激情极品国产一区二区三区| 国产一区二区三区av在线| 国产av国产精品国产| 精品99又大又爽又粗少妇毛片| 久久久久国产网址| 菩萨蛮人人尽说江南好唐韦庄| 亚洲av免费高清在线观看| 黄色一级大片看看| 欧美日韩亚洲国产一区二区在线观看 | 大香蕉久久网| 国产国语露脸激情在线看| 下体分泌物呈黄色| 熟女av电影| 亚洲一级一片aⅴ在线观看| 秋霞在线观看毛片| 免费在线观看完整版高清| 国产精品成人在线| 观看美女的网站| 黄色 视频免费看| 天堂中文最新版在线下载| 综合色丁香网| 巨乳人妻的诱惑在线观看| 制服诱惑二区| 免费在线观看视频国产中文字幕亚洲 | 亚洲欧美一区二区三区久久| 日韩电影二区| 日本色播在线视频| 亚洲av免费高清在线观看| 丝袜美足系列| 人妻系列 视频| 男人舔女人的私密视频| 精品国产露脸久久av麻豆| 国产精品人妻久久久影院| 国产精品一二三区在线看| 久久精品国产亚洲av高清一级| 天美传媒精品一区二区| 成年女人在线观看亚洲视频| 久久精品国产自在天天线| 亚洲欧美一区二区三区国产| 黄色配什么色好看| 国产视频首页在线观看| 亚洲少妇的诱惑av| 亚洲精品,欧美精品| 不卡av一区二区三区| 捣出白浆h1v1| 亚洲欧洲日产国产| 涩涩av久久男人的天堂| 黄片无遮挡物在线观看| 丰满迷人的少妇在线观看| 999久久久国产精品视频| 永久网站在线| 精品一区在线观看国产| 国产成人aa在线观看| 黄色配什么色好看| 少妇人妻久久综合中文| 国产精品99久久99久久久不卡 | 亚洲精品中文字幕在线视频| av.在线天堂| 在线观看美女被高潮喷水网站| 涩涩av久久男人的天堂| 国产极品天堂在线| 午夜老司机福利剧场| 欧美老熟妇乱子伦牲交| 日韩精品有码人妻一区| 97精品久久久久久久久久精品| 国产成人精品福利久久| av网站在线播放免费| 国产精品久久久久久久久免| 精品福利永久在线观看| 亚洲精品av麻豆狂野| h视频一区二区三区| 亚洲美女视频黄频| 久久久久网色| 久久久久久久久久久免费av| 久久久国产一区二区| 伊人久久大香线蕉亚洲五| 高清黄色对白视频在线免费看| 久久久久久久久免费视频了| 老女人水多毛片| 亚洲欧洲国产日韩| 在线观看www视频免费| 寂寞人妻少妇视频99o| 9191精品国产免费久久| 少妇被粗大的猛进出69影院| 十分钟在线观看高清视频www| 香蕉精品网在线| 只有这里有精品99| 曰老女人黄片| 99国产综合亚洲精品| 欧美日韩视频高清一区二区三区二| 亚洲国产看品久久| 最近最新中文字幕免费大全7| 18禁观看日本| 久久精品亚洲av国产电影网| 亚洲一区中文字幕在线| 欧美日韩综合久久久久久| 两个人看的免费小视频| 国产亚洲av片在线观看秒播厂| 久久精品亚洲av国产电影网| 国产日韩一区二区三区精品不卡| 久久久a久久爽久久v久久| 日本午夜av视频| 国产黄色视频一区二区在线观看| 狠狠婷婷综合久久久久久88av| 久久综合国产亚洲精品| 天天躁狠狠躁夜夜躁狠狠躁| 黄片无遮挡物在线观看| 亚洲一区中文字幕在线| 夫妻性生交免费视频一级片| 国产精品女同一区二区软件| 巨乳人妻的诱惑在线观看| 一区二区av电影网| 青春草国产在线视频| 国产免费福利视频在线观看| 日本av手机在线免费观看| 午夜免费观看性视频| 成人国产av品久久久| 国产色婷婷99| 日本av免费视频播放| 我要看黄色一级片免费的| 国产不卡av网站在线观看| 亚洲成国产人片在线观看| 黄色 视频免费看| 黄色配什么色好看| 一级毛片电影观看| 精品人妻一区二区三区麻豆| 亚洲av成人精品一二三区| 亚洲三区欧美一区| 亚洲欧美一区二区三区黑人 | kizo精华| www.精华液| 精品国产一区二区三区四区第35| 国产麻豆69| 三上悠亚av全集在线观看| 黄片无遮挡物在线观看| 日韩 亚洲 欧美在线| 性高湖久久久久久久久免费观看| 校园人妻丝袜中文字幕| 九草在线视频观看| 美女福利国产在线| 十八禁网站网址无遮挡| √禁漫天堂资源中文www| 日韩视频在线欧美| 亚洲av福利一区| 在线观看一区二区三区激情| 成人国语在线视频| 久久精品国产a三级三级三级| 少妇被粗大猛烈的视频| 亚洲国产欧美日韩在线播放| 欧美精品一区二区免费开放| 国产精品一二三区在线看| 视频在线观看一区二区三区| 亚洲精品日本国产第一区| 国产福利在线免费观看视频| 女性被躁到高潮视频| 在线天堂最新版资源| 精品卡一卡二卡四卡免费| 久久精品人人爽人人爽视色| 亚洲精品av麻豆狂野| 女性生殖器流出的白浆| 久久韩国三级中文字幕| 国产一区二区三区综合在线观看| 免费观看性生交大片5| 久久鲁丝午夜福利片| 最近中文字幕高清免费大全6| 久久鲁丝午夜福利片| 高清不卡的av网站| videosex国产| 精品国产国语对白av| 美女脱内裤让男人舔精品视频| 欧美人与性动交α欧美软件| 男女免费视频国产| 在现免费观看毛片| 99国产综合亚洲精品| 99九九在线精品视频| 夫妻性生交免费视频一级片| 一二三四中文在线观看免费高清| 午夜福利,免费看| 精品第一国产精品| 99国产精品免费福利视频| 啦啦啦中文免费视频观看日本| 国产探花极品一区二区| 精品少妇久久久久久888优播| 国产探花极品一区二区| 日韩成人av中文字幕在线观看| 国产精品二区激情视频| 观看美女的网站| 成年人免费黄色播放视频| 久久久久久久精品精品| 精品人妻熟女毛片av久久网站| 最近中文字幕高清免费大全6| 国产欧美亚洲国产| 国产1区2区3区精品| 成人亚洲精品一区在线观看| 丰满少妇做爰视频| 久久人妻熟女aⅴ| 免费黄网站久久成人精品| 极品人妻少妇av视频|