• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    工業(yè)大數(shù)據(jù)安全研究

    2019-12-09 02:08:12余章馗劉京娟
    網(wǎng)絡(luò)空間安全 2019年5期
    關(guān)鍵詞:數(shù)據(jù)安全大數(shù)據(jù)

    余章馗 劉京娟

    摘? ?要:文章以工業(yè)大數(shù)據(jù)為研究對象,介紹了工業(yè)大數(shù)據(jù)概念、特征,分析了工業(yè)大數(shù)據(jù)面臨的安全形勢,總結(jié)了我國工業(yè)大數(shù)據(jù)安全保障現(xiàn)狀及面臨的問題,并提出了加強(qiáng)工業(yè)大數(shù)據(jù)安全防護(hù)的對策建議。

    關(guān)鍵詞:工業(yè)數(shù)據(jù);大數(shù)據(jù);數(shù)據(jù)安全

    中圖分類號:TP393? ? ? ? ? 文獻(xiàn)標(biāo)識碼:A

    Research of industrial big data security

    Yu Zhangkui, Liu Jingjuan

    (China Industrial Control Systems Cyber Emergency Response Team, Beijing 100040)

    Abstract: This paper takes industrial big data as the research object, introduces its concept and characteristics, analyzes the security situation it faces, summarizes the status quo and problems of the security of industrial big data in China, and finally puts forward some suggestions for strengthening the protection of security of industrial big data in China.

    Key words: industrial data; big data; data security

    1 引言

    黨中央、國務(wù)院高度重視數(shù)據(jù)安全。黨的十九大報告指出,“堅持總體國家安全觀”“堅決維護(hù)國家主權(quán)、安全、發(fā)展利益”。2017年12月,總書記在主持實施國家大數(shù)據(jù)戰(zhàn)略第二次集體學(xué)習(xí)時提出,要“推動實施國家大數(shù)據(jù)戰(zhàn)略”“切實保障國家數(shù)據(jù)安全”“強(qiáng)化國家關(guān)鍵數(shù)據(jù)資源保護(hù)能力,增強(qiáng)數(shù)據(jù)安全預(yù)警和溯源能力”。同時,近年來國家相繼出臺了《中華人民共和國網(wǎng)絡(luò)安全法》《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》《促進(jìn)大數(shù)據(jù)發(fā)展行動綱要》《深化“互聯(lián)網(wǎng)+先進(jìn)制造業(yè)”發(fā)展工業(yè)互聯(lián)網(wǎng)的指導(dǎo)意見》等法規(guī)、戰(zhàn)略、規(guī)劃文件,提出了一系列加強(qiáng)數(shù)據(jù)安全的相關(guān)舉措,為工業(yè)大數(shù)據(jù)安全工作提供了重要依據(jù)。

    工業(yè)大數(shù)據(jù)泛指工業(yè)領(lǐng)域產(chǎn)生、采集、傳輸、處理、使用的海量數(shù)據(jù),已成為提升制造業(yè)生產(chǎn)力、競爭力、創(chuàng)新力的關(guān)鍵要素,是驅(qū)動工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的引擎。隨著世界各國積極推動工業(yè)大數(shù)據(jù)發(fā)展,全球工業(yè)大數(shù)據(jù)相關(guān)技術(shù)產(chǎn)業(yè)得到快速發(fā)展。與此同時,工業(yè)大數(shù)據(jù)安全形勢十分嚴(yán)峻,我國工業(yè)大數(shù)據(jù)安全還存在頂層設(shè)計不完善、責(zé)任落實不到位、技術(shù)手段缺乏、產(chǎn)業(yè)支撐能力薄弱等突出問題,加快提升工業(yè)大數(shù)據(jù)安全保障能力迫在眉睫。

    2? 工業(yè)大數(shù)據(jù)的內(nèi)涵

    隨著工業(yè)互聯(lián)網(wǎng)、智能制造、物聯(lián)網(wǎng)等創(chuàng)新應(yīng)用的深入發(fā)展,以及云計算、大數(shù)據(jù)、人工智能等新一代信息技術(shù)的廣泛應(yīng)用,世界各國紛紛將推進(jìn)經(jīng)濟(jì)數(shù)字化作為實現(xiàn)創(chuàng)新發(fā)展的重要動能,大力推動制造業(yè)數(shù)字化、網(wǎng)絡(luò)化、智能化,工業(yè)領(lǐng)域的數(shù)據(jù)得到高速規(guī)?;鲩L。工業(yè)大數(shù)據(jù)驅(qū)動生產(chǎn)過程、產(chǎn)品、服務(wù)、業(yè)態(tài)等朝著智能化方向發(fā)展,為工業(yè)轉(zhuǎn)型升級和構(gòu)建智能制造產(chǎn)業(yè)生態(tài)提供重要支撐,對推動實施制造強(qiáng)國和網(wǎng)絡(luò)強(qiáng)國戰(zhàn)略具有重要意義。當(dāng)前,數(shù)據(jù)掌握的多寡和分析處理能力的高低,已成為國家軟實力和競爭力的重要標(biāo)志,誰主導(dǎo)了大數(shù)據(jù)資源和技術(shù),誰就掌握了主動權(quán)。工業(yè)互聯(lián)網(wǎng)作為新一代信息技術(shù)與工業(yè)深度融合的產(chǎn)物,正在構(gòu)建新的網(wǎng)絡(luò)架構(gòu)體系、技術(shù)體系和數(shù)據(jù)資源體系,而工業(yè)大數(shù)據(jù)是驅(qū)動工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的引擎,是工業(yè)智能化的關(guān)鍵,是建設(shè)現(xiàn)代化經(jīng)濟(jì)體系的重要基石。

    2.1 概念

    工業(yè)大數(shù)據(jù)主要指工業(yè)領(lǐng)域在業(yè)務(wù)活動和過程中所產(chǎn)生、采集、處理、存儲、傳輸和使用的海量數(shù)據(jù)的綜合。從來源上可粗略分為內(nèi)部數(shù)據(jù)和外部數(shù)據(jù)兩大類。內(nèi)部數(shù)據(jù)主要指來自工廠內(nèi)部的數(shù)據(jù),主要包括生產(chǎn)經(jīng)營業(yè)務(wù)數(shù)據(jù)和機(jī)器設(shè)備數(shù)據(jù)。其中,生產(chǎn)經(jīng)營業(yè)務(wù)數(shù)據(jù)是指工業(yè)企業(yè)在傳統(tǒng)信息化應(yīng)用過程中,包括傳統(tǒng)工業(yè)設(shè)計和制造類軟件、企業(yè)資源計劃(ERP)、產(chǎn)品生命周期管理(PLM)、供應(yīng)鏈管理(SCM)、客戶關(guān)系管理(CRM)和環(huán)境管理系統(tǒng)(EMS)等,所產(chǎn)生、采集、存儲的產(chǎn)品研發(fā)數(shù)據(jù)、生產(chǎn)性數(shù)據(jù)、經(jīng)營性數(shù)據(jù)、客戶信息數(shù)據(jù)、物流供應(yīng)數(shù)據(jù)及環(huán)境數(shù)據(jù)等。機(jī)器設(shè)備數(shù)據(jù)主要指工業(yè)生產(chǎn)設(shè)備、機(jī)器、控制系統(tǒng)等實時產(chǎn)生、采集的涵蓋操作和運行情況、工況狀態(tài)、環(huán)境參數(shù)等體現(xiàn)設(shè)備和產(chǎn)品運行狀態(tài)的數(shù)據(jù)。外部數(shù)據(jù)主要指來源于工廠外部的數(shù)據(jù),主要包括來自市場、客戶、政府、供應(yīng)鏈等外部環(huán)境的信息和數(shù)據(jù)。

    2.2 特征

    工業(yè)大數(shù)據(jù)除了擁有傳統(tǒng)大數(shù)據(jù)的“4V”特征,即規(guī)模性(Volume)、多樣性(Varity)、高速性(Velocity)和價值性(Value)外,還有六個典型特征。

    (1)多態(tài)性:工業(yè)大數(shù)據(jù)種類多樣,既包括概念設(shè)計、詳細(xì)設(shè)計、制造工藝、包裝運輸?shù)葮I(yè)務(wù)數(shù)據(jù),還涉及服務(wù)保障階段的運行狀態(tài)、維修計劃、服務(wù)評價等數(shù)據(jù)。

    (2)實時性:工業(yè)大數(shù)據(jù)主要來源于生產(chǎn)制造和產(chǎn)品運維等環(huán)節(jié),生產(chǎn)線、設(shè)備、儀器等均要求高速運轉(zhuǎn),在數(shù)據(jù)采集頻率、數(shù)據(jù)處理、數(shù)據(jù)分析、異常發(fā)現(xiàn)和應(yīng)對等方面均具有很高的實時性要求。

    (3)閉環(huán)性:既包括產(chǎn)品全生命周期橫向過程的數(shù)據(jù)鏈條,還包括智能制造縱向數(shù)據(jù)采集和處理過程中的所有數(shù)據(jù)。以此來支撐狀態(tài)感知、分析、反饋、控制等閉環(huán)場景下的動態(tài)持續(xù)調(diào)整和優(yōu)化。其中,橫向數(shù)據(jù)鏈條包括產(chǎn)品研發(fā)、生產(chǎn)、發(fā)布、使用、運維、更新、報廢等過程中的數(shù)據(jù);縱向數(shù)據(jù)鏈條包括生產(chǎn)管理層、過程監(jiān)控層、工業(yè)控制層、現(xiàn)場設(shè)備層等各層級采集和處理的數(shù)據(jù)。

    (4)級聯(lián)性:工業(yè)產(chǎn)品生命周期的設(shè)計、制造、服務(wù)等不同環(huán)節(jié)的數(shù)據(jù)之間需要進(jìn)行關(guān)聯(lián),一旦某一環(huán)節(jié)的數(shù)據(jù)泄露或被篡改,極有可能導(dǎo)致級聯(lián)破壞,造成大規(guī)模影響。

    (5)更具價值屬性:相比傳統(tǒng)大數(shù)據(jù),工業(yè)大數(shù)據(jù)更加強(qiáng)調(diào)用戶價值驅(qū)動和數(shù)據(jù)本身的可用性,利用工業(yè)大數(shù)據(jù)可以提升創(chuàng)新能力和生產(chǎn)經(jīng)營效率,以及促進(jìn)個性化定制、服務(wù)化轉(zhuǎn)型等智能制造新模式變革。

    (6)更具產(chǎn)權(quán)屬性:工業(yè)大數(shù)據(jù)產(chǎn)生于企業(yè)實際生產(chǎn)經(jīng)營過程,依附于企業(yè)的設(shè)備設(shè)施、資源物料、業(yè)務(wù)系統(tǒng)等載體。對企業(yè)而言,這些數(shù)據(jù)更具有明確的產(chǎn)權(quán)屬性,企業(yè)擁有對這些數(shù)據(jù)的掌控能力,能夠決定具體數(shù)據(jù)的具體使用方式,數(shù)據(jù)產(chǎn)權(quán)屬性明顯高于個人用戶。

    2.3 與傳統(tǒng)大數(shù)據(jù)的區(qū)別

    相較傳統(tǒng)大數(shù)據(jù),工業(yè)大數(shù)據(jù)在采集、存儲、處理、分析等數(shù)據(jù)全生命周期環(huán)節(jié)上主要存在的區(qū)別如表1所示。

    3 工業(yè)大數(shù)據(jù)面臨的安全形勢

    隨著工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、大數(shù)據(jù)等新型信息技術(shù)的發(fā)展和普及,IT技術(shù)與OT技術(shù)深度融合,工業(yè)體系正在由封閉走向開放,工業(yè)終端聯(lián)網(wǎng)程度不斷加深,大量工業(yè)控制系統(tǒng)和設(shè)備暴露在互聯(lián)網(wǎng)上,工業(yè)大數(shù)據(jù)面臨傳統(tǒng)網(wǎng)絡(luò)威脅和工業(yè)互聯(lián)網(wǎng)安全風(fēng)險“雙重壓力”,安全形勢愈發(fā)嚴(yán)峻復(fù)雜。

    3.1 工業(yè)大數(shù)據(jù)具有較高戰(zhàn)略價值,已成為黑客攻擊的重點目標(biāo)

    工業(yè)大數(shù)據(jù)涉及生產(chǎn)工藝、參數(shù)、流程等,依附于企業(yè)設(shè)備設(shè)施、工業(yè)軟件和信息系統(tǒng),是工業(yè)企業(yè)在長期生產(chǎn)實踐中形成的關(guān)鍵戰(zhàn)略資源,已成為企業(yè)的生命線,一旦被泄露、竊取、篡改或者損毀,將可能導(dǎo)致生產(chǎn)中斷、造成重大經(jīng)濟(jì)損失、威脅人員生命安全,甚至影響到企業(yè)的發(fā)展和存亡。正是由于工業(yè)大數(shù)據(jù)蘊(yùn)含巨大的商業(yè)價值,攻擊者將目標(biāo)瞄準(zhǔn)工業(yè)數(shù)據(jù),通過非法入侵、勒索病毒、網(wǎng)絡(luò)釣魚等方式,針對工業(yè)控制系統(tǒng)、工業(yè)軟件、工業(yè)主機(jī)、工業(yè)互聯(lián)網(wǎng)平臺發(fā)動攻擊,旨在對工業(yè)數(shù)據(jù)進(jìn)行加密或者非法控制以截取商業(yè)機(jī)密和巨額經(jīng)濟(jì)利益。

    裝備制造、冶金、化工、能源等關(guān)鍵行業(yè)領(lǐng)域的工業(yè)數(shù)據(jù)是國家工業(yè)化、信息化的重要積累,是關(guān)乎經(jīng)濟(jì)運行、社會穩(wěn)定和國家安全的基礎(chǔ)性戰(zhàn)略資源。工業(yè)大數(shù)據(jù)安全事件一旦發(fā)生,可能導(dǎo)致系統(tǒng)故障、設(shè)備損壞,生產(chǎn)停滯,使企業(yè)乃至行業(yè)蒙受巨額損失,甚至可能造成生態(tài)環(huán)境破壞,危及人民群眾生命財產(chǎn)安全,引發(fā)社會動蕩。一些具有國家或者軍方背景的黑客組織,可以通過對工業(yè)大數(shù)據(jù)進(jìn)行有針對性的非法訪問、權(quán)限控制、銷毀或者竊取等攻擊活動,達(dá)到控制或者破壞國民經(jīng)濟(jì)命脈的目的。

    3.2 工業(yè)大數(shù)據(jù)云端匯聚,局部風(fēng)險易演變成系統(tǒng)性風(fēng)險

    近年來,工業(yè)互聯(lián)網(wǎng)快速發(fā)展,工業(yè)企業(yè)加速上云。數(shù)據(jù)顯示,中國國內(nèi)至少涌現(xiàn)出269個工業(yè)互聯(lián)網(wǎng)平臺類產(chǎn)品,全國近20個省市出臺了推動企業(yè)上云的相關(guān)政策。隨著工業(yè)企業(yè)核心業(yè)務(wù)系統(tǒng)的不斷向云端遷移,工業(yè)企業(yè)內(nèi)部關(guān)鍵數(shù)據(jù)也在工業(yè)云平臺上高密度聚合。據(jù)統(tǒng)計,我國重點工業(yè)互聯(lián)網(wǎng)平臺平均工業(yè)設(shè)備連接數(shù)達(dá)到59萬臺,工業(yè)APP平均1500多個,注冊戶數(shù)平均超過50萬戶。工業(yè)數(shù)據(jù)從企業(yè)設(shè)備層到平臺運用層一體化貫通的過程中,有大量的各種API接口開放,加之云服務(wù)具有分布式、開放化的特性,極大地擴(kuò)大了工業(yè)數(shù)據(jù)的受攻擊面。當(dāng)前,工業(yè)云平臺曝出的漏洞日益增多,且大量集中在裝備制造、交通、能源等重要領(lǐng)域,單點數(shù)據(jù)風(fēng)險很可能演變成系統(tǒng)性風(fēng)險。一旦黑客攻擊事件發(fā)生,極易引發(fā)大規(guī)模工業(yè)數(shù)據(jù)泄露、篡改和銷毀等重大安全事件,甚至產(chǎn)生級聯(lián)性的嚴(yán)重后果。

    2018年1月,谷歌安全團(tuán)隊披露“熔斷”(Meltdown)和“幽靈”(Spectre)漏洞,漏洞利用CPU芯片硬件層面亂序執(zhí)行機(jī)制的缺陷,使得低權(quán)限的惡意訪問者可以突破內(nèi)存隔離,發(fā)動側(cè)信道攻擊。在未被許可的情況下讀取同一系統(tǒng)中的其它進(jìn)程或同一主機(jī)上其它虛擬機(jī)內(nèi)存中的敏感信息,包括密碼、賬戶信息、加密密鑰或理論上存儲在內(nèi)核內(nèi)存中的任何內(nèi)容,嚴(yán)重影響了英特爾、美國超微半導(dǎo)體公司等廠商生產(chǎn)的主流中央處理器;思科800系列集成多業(yè)務(wù)路由器和工業(yè)以太網(wǎng)4000系列交換機(jī)、西門子工業(yè)設(shè)備以及部分工業(yè)互聯(lián)網(wǎng)平臺和云服務(wù)平臺也受到影響,工業(yè)數(shù)據(jù)存在泄露風(fēng)險。2018年7月,加拿大汽車服務(wù)供應(yīng)商Level One的公共服務(wù)器發(fā)生數(shù)據(jù)泄露,大眾、克萊斯勒、福特、通用、特斯拉等100多家車企超過157GB、47000份文件遭到曝光,泄露內(nèi)容包含多家汽車制造商大量產(chǎn)品設(shè)計原理圖、裝配線原理圖、工廠平面圖、采購合同等工業(yè)數(shù)據(jù)。

    3.3 全球工業(yè)數(shù)據(jù)泄露事件頻發(fā),我國工業(yè)大數(shù)據(jù)安全問題日益凸顯

    據(jù)威瑞森公司統(tǒng)計,2018年,全球制造業(yè)數(shù)據(jù)泄露事件536起,行業(yè)排名第6,其中涉及大型企業(yè)事件375起。對這些事件及其泄露數(shù)據(jù)的深入分析發(fā)現(xiàn)兩方面問題。一方面,針對制造業(yè)的網(wǎng)絡(luò)攻擊針對性極強(qiáng),其中網(wǎng)絡(luò)間諜活動成為制造業(yè)數(shù)據(jù)泄露最大的威脅,有國家背景的攻擊占比較高。制造業(yè)領(lǐng)域的攻擊事件86%具有明確的針對性,遠(yuǎn)高于零售、金融、保險、住宿和食品等行業(yè),47%的網(wǎng)絡(luò)攻擊屬于間諜活動,而53%的攻擊背后存在著國家的支持。另一方面,泄露數(shù)據(jù)多為企業(yè)重要敏感數(shù)據(jù)。泄露數(shù)據(jù)中,有超過60%是重要工業(yè)數(shù)據(jù),包括商業(yè)秘密、身份數(shù)據(jù)、系統(tǒng)數(shù)據(jù)、數(shù)字憑證、財務(wù)收支等數(shù)據(jù)類型。

    我國工業(yè)數(shù)據(jù)也存在安全隱患。近年來,我國境內(nèi)工業(yè)互聯(lián)網(wǎng)平臺聯(lián)網(wǎng)設(shè)備頻繁遭受掃描探測和惡意程序監(jiān)測,重要敏感的工業(yè)數(shù)據(jù)時有泄露。據(jù)監(jiān)測發(fā)現(xiàn),2018年,某大型企業(yè)Web服務(wù)器存在目錄遍歷和Windows遠(yuǎn)程桌面漏洞,可被利用獲取企業(yè)內(nèi)網(wǎng)IP地址、訪問多臺數(shù)據(jù)服務(wù)器、造成大量敏感工業(yè)數(shù)據(jù)泄露;某大型工業(yè)企業(yè)多個數(shù)據(jù)庫存在未授權(quán)訪問漏洞,可被利用獲取數(shù)據(jù)庫控制權(quán)限,竊取、篡改、刪除關(guān)鍵數(shù)據(jù),影響企業(yè)正常生產(chǎn)秩序。

    4? 我國工業(yè)大數(shù)據(jù)安全保障存在的問題

    4.1 傳統(tǒng)安全防護(hù)措施難以滿足工業(yè)大數(shù)據(jù)發(fā)展需求

    工業(yè)大數(shù)據(jù)具有多態(tài)性、實時性等特征,數(shù)據(jù)種類和保護(hù)需求多樣,數(shù)據(jù)流動方向和路徑復(fù)雜,依托單點、離散的數(shù)據(jù)保護(hù)等安全防護(hù)措施難以有效保護(hù)工業(yè)大數(shù)據(jù)安全。

    從數(shù)據(jù)采集看,我國工業(yè)底層設(shè)備數(shù)字化水平不高,不同行業(yè)、企業(yè)的設(shè)備數(shù)據(jù)接口、通信協(xié)議不統(tǒng)一,在對工控系統(tǒng)等加裝數(shù)據(jù)采集設(shè)備時,難以實施有效的整體安全防護(hù)措施。

    從數(shù)據(jù)傳輸看,工業(yè)生產(chǎn)設(shè)備、傳感器、智能終端等設(shè)備產(chǎn)生的大量工業(yè)數(shù)據(jù)實時性要求高,傳統(tǒng)的高強(qiáng)度加密、同態(tài)加密等措施無法使用。以往分布式工業(yè)網(wǎng)絡(luò)數(shù)據(jù)節(jié)點之間、相關(guān)工業(yè)組件之間的數(shù)據(jù)傳輸協(xié)議封閉,缺乏加密等安全措施,難以適應(yīng)開放互聯(lián)的新形勢。

    從數(shù)據(jù)存儲看,工業(yè)各行業(yè)存在大量的本地分散式數(shù)據(jù)資源池,缺乏數(shù)據(jù)安全分類分級授權(quán)訪問機(jī)制,區(qū)域隔離措施實施難度較大。

    從數(shù)據(jù)使用看,工業(yè)大數(shù)據(jù)的源數(shù)據(jù)多維異構(gòu)、碎片化,傳統(tǒng)數(shù)據(jù)清洗與解析、真實性驗證、低擾化分析等措施難以適用。

    4.2 新技術(shù)新應(yīng)用對工業(yè)大數(shù)據(jù)安全防護(hù)提出新要求

    云計算、人工智能等新技術(shù)新應(yīng)用加速了工業(yè)大數(shù)據(jù)的流動性、復(fù)用性、迭代性,單點數(shù)據(jù)一旦被感染,就可能從局部性風(fēng)險演變成系統(tǒng)性風(fēng)險,大大提高了工業(yè)大數(shù)據(jù)安全防護(hù)難度。工業(yè)大數(shù)據(jù)平臺運用新技術(shù)開展數(shù)據(jù)集成應(yīng)用創(chuàng)新,而專門應(yīng)對新技術(shù)應(yīng)用安全風(fēng)險的解決方案還比較欠缺。平臺開發(fā)設(shè)計多采用第三方開源組件,存在漏洞等安全隱患,平臺的安全管理和認(rèn)證手段也不完備。

    4.3 企業(yè)工業(yè)大數(shù)據(jù)安全意識與防護(hù)能力薄弱

    安全意識方面,工業(yè)大數(shù)據(jù)屬于新生事物,多數(shù)工業(yè)企業(yè)既不清楚如何開展安全防護(hù)工作,也不清楚如何評估安全防護(hù)效果。同時,由于工業(yè)大數(shù)據(jù)產(chǎn)權(quán)不明晰,數(shù)據(jù)所有者和使用者分離情況普遍存在,出現(xiàn)數(shù)據(jù)安全事件后難以明確企業(yè)主體責(zé)任,客觀上也造成企業(yè)對數(shù)據(jù)安全不重視。防護(hù)能力方面,工業(yè)企業(yè)普遍缺乏數(shù)據(jù)安全管理制度,沒有專門的數(shù)據(jù)安全管理機(jī)構(gòu)和專人專崗,也不具備數(shù)據(jù)安全防護(hù)技術(shù)手段和能力,對保障數(shù)據(jù)安全力不從心。

    4.4 工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)支撐能力薄弱

    當(dāng)前,我國工業(yè)信息安全產(chǎn)業(yè)整體規(guī)模較小,工業(yè)大數(shù)據(jù)安全作為工業(yè)信息安全的重要領(lǐng)域,其安全防護(hù)、法規(guī)政策、標(biāo)準(zhǔn)等體系仍有待于進(jìn)一步完善,市場整體處于起步階段。一是工業(yè)大數(shù)據(jù)安全技術(shù)發(fā)展尚不成熟,工業(yè)敏感數(shù)據(jù)監(jiān)控與訪問控制、工業(yè)數(shù)據(jù)安全態(tài)勢感知和溯源等核心技術(shù)創(chuàng)新能力不足;二是針對工業(yè)領(lǐng)域數(shù)據(jù)安全防護(hù)需求理解不到位,尚未形成有市場競爭力的產(chǎn)品和解決方案;三是工業(yè)企業(yè)和工業(yè)互聯(lián)網(wǎng)平臺企業(yè)的工業(yè)大數(shù)據(jù)安全防護(hù)意識不足,市場需求沒有充分釋放;四是國內(nèi)專注工業(yè)大數(shù)據(jù)安全產(chǎn)品和解決方案的企業(yè)稀缺,只有極少數(shù)的數(shù)據(jù)安全企業(yè)在工業(yè)領(lǐng)域開展應(yīng)用。

    4.5 工業(yè)大數(shù)據(jù)安全頂層設(shè)計有待完善

    工業(yè)大數(shù)據(jù)安全法規(guī)政策亟需完善?!吨腥A人民共和國網(wǎng)絡(luò)安全法》雖然規(guī)定了數(shù)據(jù)保護(hù)的原則性法律要求,但缺乏配套法規(guī)和細(xì)則,在工業(yè)大數(shù)據(jù)安全防護(hù)工作中缺乏專門的法規(guī)和政策依據(jù)。同時,工業(yè)大數(shù)據(jù)需要實施分級監(jiān)管和差異化安全防護(hù),目前國家尚未制定統(tǒng)一的分級分類管理指南等規(guī)范性文件。

    工業(yè)大數(shù)據(jù)安全管理機(jī)制尚未建立。工業(yè)大數(shù)據(jù)安全監(jiān)管組織體系不健全,國家層面缺乏專門的工業(yè)大數(shù)據(jù)安全管理機(jī)構(gòu),上下聯(lián)動、協(xié)調(diào)配合的工業(yè)大數(shù)據(jù)安全監(jiān)管工作機(jī)制還未建立,安全保障力量亟待加強(qiáng)。

    5 加強(qiáng)工業(yè)大數(shù)據(jù)安全的對策建議

    5.1 加強(qiáng)頂層設(shè)計,落實工業(yè)大數(shù)據(jù)安全主體責(zé)任

    研究制定工業(yè)數(shù)據(jù)安全保護(hù)政策,明確工作原則、工作目標(biāo)、重點任務(wù)、實施路徑以及保障措施。出臺工業(yè)數(shù)據(jù)相關(guān)管理辦法,嚴(yán)格規(guī)范工業(yè)數(shù)據(jù)的收集、加工、使用、存儲、銷毀、交易、出境等行為,明確工業(yè)大數(shù)據(jù)管理者和運營者的責(zé)任和義務(wù)。以工業(yè)大數(shù)據(jù)生命周期各個環(huán)節(jié)安全需求為導(dǎo)向,建立并完善工業(yè)大數(shù)據(jù)安全標(biāo)準(zhǔn)體系。緊急先行,突出重點,建立工業(yè)大數(shù)據(jù)安全重點試點示范工程,大力推進(jìn)相關(guān)政策法規(guī)、標(biāo)準(zhǔn)規(guī)范的實施。

    5.2 堅持分類分級管理,持續(xù)推進(jìn)工業(yè)數(shù)據(jù)分類分級試點工作

    加強(qiáng)工業(yè)數(shù)據(jù)分類分級研究,出臺工業(yè)大數(shù)據(jù)分類分級指導(dǎo)性文件,建立數(shù)據(jù)差異化保護(hù)機(jī)制,進(jìn)一步明確工業(yè)大數(shù)據(jù)分類定級的原則和方法,理清各類各級數(shù)據(jù)的安全責(zé)任和監(jiān)管層級,規(guī)范不同級別工業(yè)數(shù)據(jù)的安全要求。制定工業(yè)數(shù)據(jù)分類分級試點工作計劃,建立政府和企業(yè)密切配合的工作機(jī)制,落實企業(yè)工業(yè)數(shù)據(jù)安全管理主體責(zé)任,充分發(fā)揮各方優(yōu)勢,持續(xù)做好工業(yè)數(shù)據(jù)分類分級試點工作。

    5.3 強(qiáng)化技術(shù)手段建設(shè),構(gòu)建工業(yè)大數(shù)據(jù)安全保障技術(shù)體系

    建設(shè)重要工業(yè)敏感數(shù)據(jù)監(jiān)測平臺,在企業(yè)互聯(lián)網(wǎng)出入口、企業(yè)內(nèi)部網(wǎng)絡(luò)重要節(jié)點等重要部位部署探針和數(shù)據(jù)檢測引擎,實現(xiàn)對工業(yè)大數(shù)據(jù)運行的實時監(jiān)測。建設(shè)工業(yè)數(shù)據(jù)跨境監(jiān)測平臺,在電信運營商、工業(yè)互聯(lián)網(wǎng)平臺的出入口等部位部署數(shù)據(jù)采集探針,對各類工業(yè)跨境數(shù)據(jù)實行監(jiān)控。完善風(fēng)險預(yù)警機(jī)制,建立統(tǒng)一高效、協(xié)同聯(lián)動的網(wǎng)絡(luò)安全風(fēng)險報告、情報共享和研判處置體系。制定安全事件應(yīng)急預(yù)案,加強(qiáng)重要信息系統(tǒng)災(zāi)備體系建設(shè),提升工業(yè)大數(shù)據(jù)應(yīng)急處置和災(zāi)備恢復(fù)能力。構(gòu)建工業(yè)大數(shù)據(jù)安全評估體系,做好平臺、應(yīng)用、服務(wù)的可靠性、安全性評測以及安全風(fēng)險評估。

    5.4 提升安全意識,完善企業(yè)工業(yè)大數(shù)據(jù)安全管理制度

    工業(yè)企業(yè)定期組織開展一線從業(yè)人員網(wǎng)絡(luò)安全培訓(xùn),增強(qiáng)全員網(wǎng)絡(luò)安全意識。強(qiáng)化對重要崗位、重要部位管理技術(shù)人員的技能培訓(xùn),提升網(wǎng)絡(luò)安全基礎(chǔ)知識和防護(hù)技能水平。根據(jù)單位和崗位的性質(zhì),成立相應(yīng)的工業(yè)數(shù)據(jù)安全管理部門或團(tuán)隊,建立并落實工業(yè)大數(shù)據(jù)安全管理責(zé)任制。根據(jù)工業(yè)數(shù)據(jù)的類別和級別,制定配套的安全制度、管理規(guī)范和操作規(guī)程,實施相應(yīng)的安全管理策略和措施。

    5.5 促進(jìn)產(chǎn)業(yè)發(fā)展,培育工業(yè)大數(shù)據(jù)安全龍頭骨干企業(yè)

    在國家新型工業(yè)化產(chǎn)業(yè)示范基地(工業(yè)信息安全)建設(shè)中,支持工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展,采取資金扶持、稅收優(yōu)惠、綠色通道等措施,支持工業(yè)大數(shù)據(jù)安全態(tài)勢感知、監(jiān)測預(yù)警、數(shù)據(jù)加密、數(shù)據(jù)留痕、數(shù)據(jù)溯源等新技術(shù)、新應(yīng)用、新產(chǎn)品、新服務(wù)的研發(fā)、測試、認(rèn)證和商業(yè)應(yīng)用,打造一批以工業(yè)大數(shù)據(jù)為核心業(yè)務(wù)的龍頭骨干企業(yè)。凝聚政府、企業(yè)、協(xié)會、科研院所等多方力量,充分整合行業(yè)優(yōu)質(zhì)資源,組建技術(shù)和市場聯(lián)盟,實現(xiàn)“抱團(tuán)發(fā)展”,打造協(xié)調(diào)發(fā)展的工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)生態(tài)系統(tǒng)。

    6 結(jié)束語

    工業(yè)大數(shù)據(jù)可簡略分為內(nèi)部數(shù)據(jù)和外部數(shù)據(jù)兩大類,其除了具有傳統(tǒng)大數(shù)據(jù)的特點外,還具有多態(tài)性、實時性、閉環(huán)性、級聯(lián)性、更具價值屬性以及更具產(chǎn)權(quán)屬性六大典型特征,在采集、存儲、處理、分析等數(shù)據(jù)全生命周期環(huán)節(jié)上都與傳統(tǒng)大數(shù)據(jù)有較大區(qū)別。當(dāng)前,工業(yè)大數(shù)據(jù)面臨嚴(yán)峻的安全形勢,工業(yè)大數(shù)據(jù)已成為網(wǎng)絡(luò)攻擊重點目標(biāo),極易引發(fā)系統(tǒng)性風(fēng)險。在全球工業(yè)數(shù)據(jù)泄漏事件頻發(fā)的背景下,我國傳統(tǒng)防護(hù)措施難以適用、新技術(shù)新應(yīng)用風(fēng)險難以應(yīng)對、安全意識和防護(hù)能力薄弱、安全產(chǎn)業(yè)支撐能力薄弱、安全頂層設(shè)計不完善等問題日益突出。對此,應(yīng)該從頂層設(shè)計完善、工業(yè)數(shù)據(jù)分類分級管理、技術(shù)手段建設(shè)、安全意識提升以及安全產(chǎn)業(yè)發(fā)展幾個方面發(fā)力,大力提升我國工業(yè)大數(shù)據(jù)安全防護(hù)水平。

    參考文獻(xiàn)

    [1] 陸泉,張良韜.處理流程視角下的大數(shù)據(jù)技術(shù)發(fā)展現(xiàn)狀與趨勢[J].信息資源管理學(xué)報,2017(4):19-30.

    [2] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院,全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)標(biāo)準(zhǔn)工作組,等.工業(yè)大數(shù)據(jù)白皮書[R].中國電子技術(shù)標(biāo)準(zhǔn)化研究院和全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)標(biāo)準(zhǔn)工作組,2019.

    [3] Verizon.2018 Data Breach Investigations Report[R].USA:Verizon,2018.

    [4] 國家工業(yè)信息安全發(fā)展研究中心.工信安全智庫研判系列報告:2018年度工業(yè)信息安全形勢分析[R].國家工業(yè)信息安全發(fā)展研究中心,2019.

    [5] 工業(yè)互聯(lián)網(wǎng)平臺“混戰(zhàn)”數(shù)據(jù)安全問題待破解[EB/OL].http://www.cinic.org.cn/xw/cjyj/487955.html,2019-04-15.

    [6] 59萬臺重點工業(yè)互聯(lián)網(wǎng)平臺平均設(shè)備連接數(shù)(數(shù)讀)[EB/OL]. http://finance.people.com.cn/bank/n1/2019/0403/c1004-31010208.html,2019-04-03.

    1 引言

    黨中央、國務(wù)院高度重視數(shù)據(jù)安全。黨的十九大報告指出,“堅持總體國家安全觀”“堅決維護(hù)國家主權(quán)、安全、發(fā)展利益”。2017年12月,總書記在主持實施國家大數(shù)據(jù)戰(zhàn)略第二次集體學(xué)習(xí)時提出,要“推動實施國家大數(shù)據(jù)戰(zhàn)略”“切實保障國家數(shù)據(jù)安全”“強(qiáng)化國家關(guān)鍵數(shù)據(jù)資源保護(hù)能力,增強(qiáng)數(shù)據(jù)安全預(yù)警和溯源能力”。同時,近年來國家相繼出臺了《中華人民共和國網(wǎng)絡(luò)安全法》《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》《促進(jìn)大數(shù)據(jù)發(fā)展行動綱要》《深化“互聯(lián)網(wǎng)+先進(jìn)制造業(yè)”發(fā)展工業(yè)互聯(lián)網(wǎng)的指導(dǎo)意見》等法規(guī)、戰(zhàn)略、規(guī)劃文件,提出了一系列加強(qiáng)數(shù)據(jù)安全的相關(guān)舉措,為工業(yè)大數(shù)據(jù)安全工作提供了重要依據(jù)。

    工業(yè)大數(shù)據(jù)泛指工業(yè)領(lǐng)域產(chǎn)生、采集、傳輸、處理、使用的海量數(shù)據(jù),已成為提升制造業(yè)生產(chǎn)力、競爭力、創(chuàng)新力的關(guān)鍵要素,是驅(qū)動工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的引擎。隨著世界各國積極推動工業(yè)大數(shù)據(jù)發(fā)展,全球工業(yè)大數(shù)據(jù)相關(guān)技術(shù)產(chǎn)業(yè)得到快速發(fā)展。與此同時,工業(yè)大數(shù)據(jù)安全形勢十分嚴(yán)峻,我國工業(yè)大數(shù)據(jù)安全還存在頂層設(shè)計不完善、責(zé)任落實不到位、技術(shù)手段缺乏、產(chǎn)業(yè)支撐能力薄弱等突出問題,加快提升工業(yè)大數(shù)據(jù)安全保障能力迫在眉睫。

    2? 工業(yè)大數(shù)據(jù)的內(nèi)涵

    隨著工業(yè)互聯(lián)網(wǎng)、智能制造、物聯(lián)網(wǎng)等創(chuàng)新應(yīng)用的深入發(fā)展,以及云計算、大數(shù)據(jù)、人工智能等新一代信息技術(shù)的廣泛應(yīng)用,世界各國紛紛將推進(jìn)經(jīng)濟(jì)數(shù)字化作為實現(xiàn)創(chuàng)新發(fā)展的重要動能,大力推動制造業(yè)數(shù)字化、網(wǎng)絡(luò)化、智能化,工業(yè)領(lǐng)域的數(shù)據(jù)得到高速規(guī)?;鲩L。工業(yè)大數(shù)據(jù)驅(qū)動生產(chǎn)過程、產(chǎn)品、服務(wù)、業(yè)態(tài)等朝著智能化方向發(fā)展,為工業(yè)轉(zhuǎn)型升級和構(gòu)建智能制造產(chǎn)業(yè)生態(tài)提供重要支撐,對推動實施制造強(qiáng)國和網(wǎng)絡(luò)強(qiáng)國戰(zhàn)略具有重要意義。當(dāng)前,數(shù)據(jù)掌握的多寡和分析處理能力的高低,已成為國家軟實力和競爭力的重要標(biāo)志,誰主導(dǎo)了大數(shù)據(jù)資源和技術(shù),誰就掌握了主動權(quán)。工業(yè)互聯(lián)網(wǎng)作為新一代信息技術(shù)與工業(yè)深度融合的產(chǎn)物,正在構(gòu)建新的網(wǎng)絡(luò)架構(gòu)體系、技術(shù)體系和數(shù)據(jù)資源體系,而工業(yè)大數(shù)據(jù)是驅(qū)動工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的引擎,是工業(yè)智能化的關(guān)鍵,是建設(shè)現(xiàn)代化經(jīng)濟(jì)體系的重要基石。

    2.1 概念

    工業(yè)大數(shù)據(jù)主要指工業(yè)領(lǐng)域在業(yè)務(wù)活動和過程中所產(chǎn)生、采集、處理、存儲、傳輸和使用的海量數(shù)據(jù)的綜合。從來源上可粗略分為內(nèi)部數(shù)據(jù)和外部數(shù)據(jù)兩大類。內(nèi)部數(shù)據(jù)主要指來自工廠內(nèi)部的數(shù)據(jù),主要包括生產(chǎn)經(jīng)營業(yè)務(wù)數(shù)據(jù)和機(jī)器設(shè)備數(shù)據(jù)。其中,生產(chǎn)經(jīng)營業(yè)務(wù)數(shù)據(jù)是指工業(yè)企業(yè)在傳統(tǒng)信息化應(yīng)用過程中,包括傳統(tǒng)工業(yè)設(shè)計和制造類軟件、企業(yè)資源計劃(ERP)、產(chǎn)品生命周期管理(PLM)、供應(yīng)鏈管理(SCM)、客戶關(guān)系管理(CRM)和環(huán)境管理系統(tǒng)(EMS)等,所產(chǎn)生、采集、存儲的產(chǎn)品研發(fā)數(shù)據(jù)、生產(chǎn)性數(shù)據(jù)、經(jīng)營性數(shù)據(jù)、客戶信息數(shù)據(jù)、物流供應(yīng)數(shù)據(jù)及環(huán)境數(shù)據(jù)等。機(jī)器設(shè)備數(shù)據(jù)主要指工業(yè)生產(chǎn)設(shè)備、機(jī)器、控制系統(tǒng)等實時產(chǎn)生、采集的涵蓋操作和運行情況、工況狀態(tài)、環(huán)境參數(shù)等體現(xiàn)設(shè)備和產(chǎn)品運行狀態(tài)的數(shù)據(jù)。外部數(shù)據(jù)主要指來源于工廠外部的數(shù)據(jù),主要包括來自市場、客戶、政府、供應(yīng)鏈等外部環(huán)境的信息和數(shù)據(jù)。

    2.2 特征

    工業(yè)大數(shù)據(jù)除了擁有傳統(tǒng)大數(shù)據(jù)的“4V”特征,即規(guī)模性(Volume)、多樣性(Varity)、高速性(Velocity)和價值性(Value)外,還有六個典型特征。

    (1)多態(tài)性:工業(yè)大數(shù)據(jù)種類多樣,既包括概念設(shè)計、詳細(xì)設(shè)計、制造工藝、包裝運輸?shù)葮I(yè)務(wù)數(shù)據(jù),還涉及服務(wù)保障階段的運行狀態(tài)、維修計劃、服務(wù)評價等數(shù)據(jù)。

    (2)實時性:工業(yè)大數(shù)據(jù)主要來源于生產(chǎn)制造和產(chǎn)品運維等環(huán)節(jié),生產(chǎn)線、設(shè)備、儀器等均要求高速運轉(zhuǎn),在數(shù)據(jù)采集頻率、數(shù)據(jù)處理、數(shù)據(jù)分析、異常發(fā)現(xiàn)和應(yīng)對等方面均具有很高的實時性要求。

    (3)閉環(huán)性:既包括產(chǎn)品全生命周期橫向過程的數(shù)據(jù)鏈條,還包括智能制造縱向數(shù)據(jù)采集和處理過程中的所有數(shù)據(jù)。以此來支撐狀態(tài)感知、分析、反饋、控制等閉環(huán)場景下的動態(tài)持續(xù)調(diào)整和優(yōu)化。其中,橫向數(shù)據(jù)鏈條包括產(chǎn)品研發(fā)、生產(chǎn)、發(fā)布、使用、運維、更新、報廢等過程中的數(shù)據(jù);縱向數(shù)據(jù)鏈條包括生產(chǎn)管理層、過程監(jiān)控層、工業(yè)控制層、現(xiàn)場設(shè)備層等各層級采集和處理的數(shù)據(jù)。

    (4)級聯(lián)性:工業(yè)產(chǎn)品生命周期的設(shè)計、制造、服務(wù)等不同環(huán)節(jié)的數(shù)據(jù)之間需要進(jìn)行關(guān)聯(lián),一旦某一環(huán)節(jié)的數(shù)據(jù)泄露或被篡改,極有可能導(dǎo)致級聯(lián)破壞,造成大規(guī)模影響。

    (5)更具價值屬性:相比傳統(tǒng)大數(shù)據(jù),工業(yè)大數(shù)據(jù)更加強(qiáng)調(diào)用戶價值驅(qū)動和數(shù)據(jù)本身的可用性,利用工業(yè)大數(shù)據(jù)可以提升創(chuàng)新能力和生產(chǎn)經(jīng)營效率,以及促進(jìn)個性化定制、服務(wù)化轉(zhuǎn)型等智能制造新模式變革。

    (6)更具產(chǎn)權(quán)屬性:工業(yè)大數(shù)據(jù)產(chǎn)生于企業(yè)實際生產(chǎn)經(jīng)營過程,依附于企業(yè)的設(shè)備設(shè)施、資源物料、業(yè)務(wù)系統(tǒng)等載體。對企業(yè)而言,這些數(shù)據(jù)更具有明確的產(chǎn)權(quán)屬性,企業(yè)擁有對這些數(shù)據(jù)的掌控能力,能夠決定具體數(shù)據(jù)的具體使用方式,數(shù)據(jù)產(chǎn)權(quán)屬性明顯高于個人用戶。

    2.3 與傳統(tǒng)大數(shù)據(jù)的區(qū)別

    相較傳統(tǒng)大數(shù)據(jù),工業(yè)大數(shù)據(jù)在采集、存儲、處理、分析等數(shù)據(jù)全生命周期環(huán)節(jié)上主要存在的區(qū)別如表1所示。

    3 工業(yè)大數(shù)據(jù)面臨的安全形勢

    隨著工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、大數(shù)據(jù)等新型信息技術(shù)的發(fā)展和普及,IT技術(shù)與OT技術(shù)深度融合,工業(yè)體系正在由封閉走向開放,工業(yè)終端聯(lián)網(wǎng)程度不斷加深,大量工業(yè)控制系統(tǒng)和設(shè)備暴露在互聯(lián)網(wǎng)上,工業(yè)大數(shù)據(jù)面臨傳統(tǒng)網(wǎng)絡(luò)威脅和工業(yè)互聯(lián)網(wǎng)安全風(fēng)險“雙重壓力”,安全形勢愈發(fā)嚴(yán)峻復(fù)雜。

    3.1 工業(yè)大數(shù)據(jù)具有較高戰(zhàn)略價值,已成為黑客攻擊的重點目標(biāo)

    工業(yè)大數(shù)據(jù)涉及生產(chǎn)工藝、參數(shù)、流程等,依附于企業(yè)設(shè)備設(shè)施、工業(yè)軟件和信息系統(tǒng),是工業(yè)企業(yè)在長期生產(chǎn)實踐中形成的關(guān)鍵戰(zhàn)略資源,已成為企業(yè)的生命線,一旦被泄露、竊取、篡改或者損毀,將可能導(dǎo)致生產(chǎn)中斷、造成重大經(jīng)濟(jì)損失、威脅人員生命安全,甚至影響到企業(yè)的發(fā)展和存亡。正是由于工業(yè)大數(shù)據(jù)蘊(yùn)含巨大的商業(yè)價值,攻擊者將目標(biāo)瞄準(zhǔn)工業(yè)數(shù)據(jù),通過非法入侵、勒索病毒、網(wǎng)絡(luò)釣魚等方式,針對工業(yè)控制系統(tǒng)、工業(yè)軟件、工業(yè)主機(jī)、工業(yè)互聯(lián)網(wǎng)平臺發(fā)動攻擊,旨在對工業(yè)數(shù)據(jù)進(jìn)行加密或者非法控制以截取商業(yè)機(jī)密和巨額經(jīng)濟(jì)利益。

    裝備制造、冶金、化工、能源等關(guān)鍵行業(yè)領(lǐng)域的工業(yè)數(shù)據(jù)是國家工業(yè)化、信息化的重要積累,是關(guān)乎經(jīng)濟(jì)運行、社會穩(wěn)定和國家安全的基礎(chǔ)性戰(zhàn)略資源。工業(yè)大數(shù)據(jù)安全事件一旦發(fā)生,可能導(dǎo)致系統(tǒng)故障、設(shè)備損壞,生產(chǎn)停滯,使企業(yè)乃至行業(yè)蒙受巨額損失,甚至可能造成生態(tài)環(huán)境破壞,危及人民群眾生命財產(chǎn)安全,引發(fā)社會動蕩。一些具有國家或者軍方背景的黑客組織,可以通過對工業(yè)大數(shù)據(jù)進(jìn)行有針對性的非法訪問、權(quán)限控制、銷毀或者竊取等攻擊活動,達(dá)到控制或者破壞國民經(jīng)濟(jì)命脈的目的。

    3.2 工業(yè)大數(shù)據(jù)云端匯聚,局部風(fēng)險易演變成系統(tǒng)性風(fēng)險

    近年來,工業(yè)互聯(lián)網(wǎng)快速發(fā)展,工業(yè)企業(yè)加速上云。數(shù)據(jù)顯示,中國國內(nèi)至少涌現(xiàn)出269個工業(yè)互聯(lián)網(wǎng)平臺類產(chǎn)品,全國近20個省市出臺了推動企業(yè)上云的相關(guān)政策。隨著工業(yè)企業(yè)核心業(yè)務(wù)系統(tǒng)的不斷向云端遷移,工業(yè)企業(yè)內(nèi)部關(guān)鍵數(shù)據(jù)也在工業(yè)云平臺上高密度聚合。據(jù)統(tǒng)計,我國重點工業(yè)互聯(lián)網(wǎng)平臺平均工業(yè)設(shè)備連接數(shù)達(dá)到59萬臺,工業(yè)APP平均1500多個,注冊戶數(shù)平均超過50萬戶。工業(yè)數(shù)據(jù)從企業(yè)設(shè)備層到平臺運用層一體化貫通的過程中,有大量的各種API接口開放,加之云服務(wù)具有分布式、開放化的特性,極大地擴(kuò)大了工業(yè)數(shù)據(jù)的受攻擊面。當(dāng)前,工業(yè)云平臺曝出的漏洞日益增多,且大量集中在裝備制造、交通、能源等重要領(lǐng)域,單點數(shù)據(jù)風(fēng)險很可能演變成系統(tǒng)性風(fēng)險。一旦黑客攻擊事件發(fā)生,極易引發(fā)大規(guī)模工業(yè)數(shù)據(jù)泄露、篡改和銷毀等重大安全事件,甚至產(chǎn)生級聯(lián)性的嚴(yán)重后果。

    2018年1月,谷歌安全團(tuán)隊披露“熔斷”(Meltdown)和“幽靈”(Spectre)漏洞,漏洞利用CPU芯片硬件層面亂序執(zhí)行機(jī)制的缺陷,使得低權(quán)限的惡意訪問者可以突破內(nèi)存隔離,發(fā)動側(cè)信道攻擊。在未被許可的情況下讀取同一系統(tǒng)中的其它進(jìn)程或同一主機(jī)上其它虛擬機(jī)內(nèi)存中的敏感信息,包括密碼、賬戶信息、加密密鑰或理論上存儲在內(nèi)核內(nèi)存中的任何內(nèi)容,嚴(yán)重影響了英特爾、美國超微半導(dǎo)體公司等廠商生產(chǎn)的主流中央處理器;思科800系列集成多業(yè)務(wù)路由器和工業(yè)以太網(wǎng)4000系列交換機(jī)、西門子工業(yè)設(shè)備以及部分工業(yè)互聯(lián)網(wǎng)平臺和云服務(wù)平臺也受到影響,工業(yè)數(shù)據(jù)存在泄露風(fēng)險。2018年7月,加拿大汽車服務(wù)供應(yīng)商Level One的公共服務(wù)器發(fā)生數(shù)據(jù)泄露,大眾、克萊斯勒、福特、通用、特斯拉等100多家車企超過157GB、47000份文件遭到曝光,泄露內(nèi)容包含多家汽車制造商大量產(chǎn)品設(shè)計原理圖、裝配線原理圖、工廠平面圖、采購合同等工業(yè)數(shù)據(jù)。

    3.3 全球工業(yè)數(shù)據(jù)泄露事件頻發(fā),我國工業(yè)大數(shù)據(jù)安全問題日益凸顯

    據(jù)威瑞森公司統(tǒng)計,2018年,全球制造業(yè)數(shù)據(jù)泄露事件536起,行業(yè)排名第6,其中涉及大型企業(yè)事件375起。對這些事件及其泄露數(shù)據(jù)的深入分析發(fā)現(xiàn)兩方面問題。一方面,針對制造業(yè)的網(wǎng)絡(luò)攻擊針對性極強(qiáng),其中網(wǎng)絡(luò)間諜活動成為制造業(yè)數(shù)據(jù)泄露最大的威脅,有國家背景的攻擊占比較高。制造業(yè)領(lǐng)域的攻擊事件86%具有明確的針對性,遠(yuǎn)高于零售、金融、保險、住宿和食品等行業(yè),47%的網(wǎng)絡(luò)攻擊屬于間諜活動,而53%的攻擊背后存在著國家的支持。另一方面,泄露數(shù)據(jù)多為企業(yè)重要敏感數(shù)據(jù)。泄露數(shù)據(jù)中,有超過60%是重要工業(yè)數(shù)據(jù),包括商業(yè)秘密、身份數(shù)據(jù)、系統(tǒng)數(shù)據(jù)、數(shù)字憑證、財務(wù)收支等數(shù)據(jù)類型。

    我國工業(yè)數(shù)據(jù)也存在安全隱患。近年來,我國境內(nèi)工業(yè)互聯(lián)網(wǎng)平臺聯(lián)網(wǎng)設(shè)備頻繁遭受掃描探測和惡意程序監(jiān)測,重要敏感的工業(yè)數(shù)據(jù)時有泄露。據(jù)監(jiān)測發(fā)現(xiàn),2018年,某大型企業(yè)Web服務(wù)器存在目錄遍歷和Windows遠(yuǎn)程桌面漏洞,可被利用獲取企業(yè)內(nèi)網(wǎng)IP地址、訪問多臺數(shù)據(jù)服務(wù)器、造成大量敏感工業(yè)數(shù)據(jù)泄露;某大型工業(yè)企業(yè)多個數(shù)據(jù)庫存在未授權(quán)訪問漏洞,可被利用獲取數(shù)據(jù)庫控制權(quán)限,竊取、篡改、刪除關(guān)鍵數(shù)據(jù),影響企業(yè)正常生產(chǎn)秩序。

    4? 我國工業(yè)大數(shù)據(jù)安全保障存在的問題

    4.1 傳統(tǒng)安全防護(hù)措施難以滿足工業(yè)大數(shù)據(jù)發(fā)展需求

    工業(yè)大數(shù)據(jù)具有多態(tài)性、實時性等特征,數(shù)據(jù)種類和保護(hù)需求多樣,數(shù)據(jù)流動方向和路徑復(fù)雜,依托單點、離散的數(shù)據(jù)保護(hù)等安全防護(hù)措施難以有效保護(hù)工業(yè)大數(shù)據(jù)安全。

    從數(shù)據(jù)采集看,我國工業(yè)底層設(shè)備數(shù)字化水平不高,不同行業(yè)、企業(yè)的設(shè)備數(shù)據(jù)接口、通信協(xié)議不統(tǒng)一,在對工控系統(tǒng)等加裝數(shù)據(jù)采集設(shè)備時,難以實施有效的整體安全防護(hù)措施。

    從數(shù)據(jù)傳輸看,工業(yè)生產(chǎn)設(shè)備、傳感器、智能終端等設(shè)備產(chǎn)生的大量工業(yè)數(shù)據(jù)實時性要求高,傳統(tǒng)的高強(qiáng)度加密、同態(tài)加密等措施無法使用。以往分布式工業(yè)網(wǎng)絡(luò)數(shù)據(jù)節(jié)點之間、相關(guān)工業(yè)組件之間的數(shù)據(jù)傳輸協(xié)議封閉,缺乏加密等安全措施,難以適應(yīng)開放互聯(lián)的新形勢。

    從數(shù)據(jù)存儲看,工業(yè)各行業(yè)存在大量的本地分散式數(shù)據(jù)資源池,缺乏數(shù)據(jù)安全分類分級授權(quán)訪問機(jī)制,區(qū)域隔離措施實施難度較大。

    從數(shù)據(jù)使用看,工業(yè)大數(shù)據(jù)的源數(shù)據(jù)多維異構(gòu)、碎片化,傳統(tǒng)數(shù)據(jù)清洗與解析、真實性驗證、低擾化分析等措施難以適用。

    4.2 新技術(shù)新應(yīng)用對工業(yè)大數(shù)據(jù)安全防護(hù)提出新要求

    云計算、人工智能等新技術(shù)新應(yīng)用加速了工業(yè)大數(shù)據(jù)的流動性、復(fù)用性、迭代性,單點數(shù)據(jù)一旦被感染,就可能從局部性風(fēng)險演變成系統(tǒng)性風(fēng)險,大大提高了工業(yè)大數(shù)據(jù)安全防護(hù)難度。工業(yè)大數(shù)據(jù)平臺運用新技術(shù)開展數(shù)據(jù)集成應(yīng)用創(chuàng)新,而專門應(yīng)對新技術(shù)應(yīng)用安全風(fēng)險的解決方案還比較欠缺。平臺開發(fā)設(shè)計多采用第三方開源組件,存在漏洞等安全隱患,平臺的安全管理和認(rèn)證手段也不完備。

    4.3 企業(yè)工業(yè)大數(shù)據(jù)安全意識與防護(hù)能力薄弱

    安全意識方面,工業(yè)大數(shù)據(jù)屬于新生事物,多數(shù)工業(yè)企業(yè)既不清楚如何開展安全防護(hù)工作,也不清楚如何評估安全防護(hù)效果。同時,由于工業(yè)大數(shù)據(jù)產(chǎn)權(quán)不明晰,數(shù)據(jù)所有者和使用者分離情況普遍存在,出現(xiàn)數(shù)據(jù)安全事件后難以明確企業(yè)主體責(zé)任,客觀上也造成企業(yè)對數(shù)據(jù)安全不重視。防護(hù)能力方面,工業(yè)企業(yè)普遍缺乏數(shù)據(jù)安全管理制度,沒有專門的數(shù)據(jù)安全管理機(jī)構(gòu)和專人專崗,也不具備數(shù)據(jù)安全防護(hù)技術(shù)手段和能力,對保障數(shù)據(jù)安全力不從心。

    4.4 工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)支撐能力薄弱

    當(dāng)前,我國工業(yè)信息安全產(chǎn)業(yè)整體規(guī)模較小,工業(yè)大數(shù)據(jù)安全作為工業(yè)信息安全的重要領(lǐng)域,其安全防護(hù)、法規(guī)政策、標(biāo)準(zhǔn)等體系仍有待于進(jìn)一步完善,市場整體處于起步階段。一是工業(yè)大數(shù)據(jù)安全技術(shù)發(fā)展尚不成熟,工業(yè)敏感數(shù)據(jù)監(jiān)控與訪問控制、工業(yè)數(shù)據(jù)安全態(tài)勢感知和溯源等核心技術(shù)創(chuàng)新能力不足;二是針對工業(yè)領(lǐng)域數(shù)據(jù)安全防護(hù)需求理解不到位,尚未形成有市場競爭力的產(chǎn)品和解決方案;三是工業(yè)企業(yè)和工業(yè)互聯(lián)網(wǎng)平臺企業(yè)的工業(yè)大數(shù)據(jù)安全防護(hù)意識不足,市場需求沒有充分釋放;四是國內(nèi)專注工業(yè)大數(shù)據(jù)安全產(chǎn)品和解決方案的企業(yè)稀缺,只有極少數(shù)的數(shù)據(jù)安全企業(yè)在工業(yè)領(lǐng)域開展應(yīng)用。

    4.5 工業(yè)大數(shù)據(jù)安全頂層設(shè)計有待完善

    工業(yè)大數(shù)據(jù)安全法規(guī)政策亟需完善?!吨腥A人民共和國網(wǎng)絡(luò)安全法》雖然規(guī)定了數(shù)據(jù)保護(hù)的原則性法律要求,但缺乏配套法規(guī)和細(xì)則,在工業(yè)大數(shù)據(jù)安全防護(hù)工作中缺乏專門的法規(guī)和政策依據(jù)。同時,工業(yè)大數(shù)據(jù)需要實施分級監(jiān)管和差異化安全防護(hù),目前國家尚未制定統(tǒng)一的分級分類管理指南等規(guī)范性文件。

    工業(yè)大數(shù)據(jù)安全管理機(jī)制尚未建立。工業(yè)大數(shù)據(jù)安全監(jiān)管組織體系不健全,國家層面缺乏專門的工業(yè)大數(shù)據(jù)安全管理機(jī)構(gòu),上下聯(lián)動、協(xié)調(diào)配合的工業(yè)大數(shù)據(jù)安全監(jiān)管工作機(jī)制還未建立,安全保障力量亟待加強(qiáng)。

    5 加強(qiáng)工業(yè)大數(shù)據(jù)安全的對策建議

    5.1 加強(qiáng)頂層設(shè)計,落實工業(yè)大數(shù)據(jù)安全主體責(zé)任

    研究制定工業(yè)數(shù)據(jù)安全保護(hù)政策,明確工作原則、工作目標(biāo)、重點任務(wù)、實施路徑以及保障措施。出臺工業(yè)數(shù)據(jù)相關(guān)管理辦法,嚴(yán)格規(guī)范工業(yè)數(shù)據(jù)的收集、加工、使用、存儲、銷毀、交易、出境等行為,明確工業(yè)大數(shù)據(jù)管理者和運營者的責(zé)任和義務(wù)。以工業(yè)大數(shù)據(jù)生命周期各個環(huán)節(jié)安全需求為導(dǎo)向,建立并完善工業(yè)大數(shù)據(jù)安全標(biāo)準(zhǔn)體系。緊急先行,突出重點,建立工業(yè)大數(shù)據(jù)安全重點試點示范工程,大力推進(jìn)相關(guān)政策法規(guī)、標(biāo)準(zhǔn)規(guī)范的實施。

    5.2 堅持分類分級管理,持續(xù)推進(jìn)工業(yè)數(shù)據(jù)分類分級試點工作

    加強(qiáng)工業(yè)數(shù)據(jù)分類分級研究,出臺工業(yè)大數(shù)據(jù)分類分級指導(dǎo)性文件,建立數(shù)據(jù)差異化保護(hù)機(jī)制,進(jìn)一步明確工業(yè)大數(shù)據(jù)分類定級的原則和方法,理清各類各級數(shù)據(jù)的安全責(zé)任和監(jiān)管層級,規(guī)范不同級別工業(yè)數(shù)據(jù)的安全要求。制定工業(yè)數(shù)據(jù)分類分級試點工作計劃,建立政府和企業(yè)密切配合的工作機(jī)制,落實企業(yè)工業(yè)數(shù)據(jù)安全管理主體責(zé)任,充分發(fā)揮各方優(yōu)勢,持續(xù)做好工業(yè)數(shù)據(jù)分類分級試點工作。

    5.3 強(qiáng)化技術(shù)手段建設(shè),構(gòu)建工業(yè)大數(shù)據(jù)安全保障技術(shù)體系

    建設(shè)重要工業(yè)敏感數(shù)據(jù)監(jiān)測平臺,在企業(yè)互聯(lián)網(wǎng)出入口、企業(yè)內(nèi)部網(wǎng)絡(luò)重要節(jié)點等重要部位部署探針和數(shù)據(jù)檢測引擎,實現(xiàn)對工業(yè)大數(shù)據(jù)運行的實時監(jiān)測。建設(shè)工業(yè)數(shù)據(jù)跨境監(jiān)測平臺,在電信運營商、工業(yè)互聯(lián)網(wǎng)平臺的出入口等部位部署數(shù)據(jù)采集探針,對各類工業(yè)跨境數(shù)據(jù)實行監(jiān)控。完善風(fēng)險預(yù)警機(jī)制,建立統(tǒng)一高效、協(xié)同聯(lián)動的網(wǎng)絡(luò)安全風(fēng)險報告、情報共享和研判處置體系。制定安全事件應(yīng)急預(yù)案,加強(qiáng)重要信息系統(tǒng)災(zāi)備體系建設(shè),提升工業(yè)大數(shù)據(jù)應(yīng)急處置和災(zāi)備恢復(fù)能力。構(gòu)建工業(yè)大數(shù)據(jù)安全評估體系,做好平臺、應(yīng)用、服務(wù)的可靠性、安全性評測以及安全風(fēng)險評估。

    5.4 提升安全意識,完善企業(yè)工業(yè)大數(shù)據(jù)安全管理制度

    工業(yè)企業(yè)定期組織開展一線從業(yè)人員網(wǎng)絡(luò)安全培訓(xùn),增強(qiáng)全員網(wǎng)絡(luò)安全意識。強(qiáng)化對重要崗位、重要部位管理技術(shù)人員的技能培訓(xùn),提升網(wǎng)絡(luò)安全基礎(chǔ)知識和防護(hù)技能水平。根據(jù)單位和崗位的性質(zhì),成立相應(yīng)的工業(yè)數(shù)據(jù)安全管理部門或團(tuán)隊,建立并落實工業(yè)大數(shù)據(jù)安全管理責(zé)任制。根據(jù)工業(yè)數(shù)據(jù)的類別和級別,制定配套的安全制度、管理規(guī)范和操作規(guī)程,實施相應(yīng)的安全管理策略和措施。

    5.5 促進(jìn)產(chǎn)業(yè)發(fā)展,培育工業(yè)大數(shù)據(jù)安全龍頭骨干企業(yè)

    在國家新型工業(yè)化產(chǎn)業(yè)示范基地(工業(yè)信息安全)建設(shè)中,支持工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展,采取資金扶持、稅收優(yōu)惠、綠色通道等措施,支持工業(yè)大數(shù)據(jù)安全態(tài)勢感知、監(jiān)測預(yù)警、數(shù)據(jù)加密、數(shù)據(jù)留痕、數(shù)據(jù)溯源等新技術(shù)、新應(yīng)用、新產(chǎn)品、新服務(wù)的研發(fā)、測試、認(rèn)證和商業(yè)應(yīng)用,打造一批以工業(yè)大數(shù)據(jù)為核心業(yè)務(wù)的龍頭骨干企業(yè)。凝聚政府、企業(yè)、協(xié)會、科研院所等多方力量,充分整合行業(yè)優(yōu)質(zhì)資源,組建技術(shù)和市場聯(lián)盟,實現(xiàn)“抱團(tuán)發(fā)展”,打造協(xié)調(diào)發(fā)展的工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)生態(tài)系統(tǒng)。

    6 結(jié)束語

    工業(yè)大數(shù)據(jù)可簡略分為內(nèi)部數(shù)據(jù)和外部數(shù)據(jù)兩大類,其除了具有傳統(tǒng)大數(shù)據(jù)的特點外,還具有多態(tài)性、實時性、閉環(huán)性、級聯(lián)性、更具價值屬性以及更具產(chǎn)權(quán)屬性六大典型特征,在采集、存儲、處理、分析等數(shù)據(jù)全生命周期環(huán)節(jié)上都與傳統(tǒng)大數(shù)據(jù)有較大區(qū)別。當(dāng)前,工業(yè)大數(shù)據(jù)面臨嚴(yán)峻的安全形勢,工業(yè)大數(shù)據(jù)已成為網(wǎng)絡(luò)攻擊重點目標(biāo),極易引發(fā)系統(tǒng)性風(fēng)險。在全球工業(yè)數(shù)據(jù)泄漏事件頻發(fā)的背景下,我國傳統(tǒng)防護(hù)措施難以適用、新技術(shù)新應(yīng)用風(fēng)險難以應(yīng)對、安全意識和防護(hù)能力薄弱、安全產(chǎn)業(yè)支撐能力薄弱、安全頂層設(shè)計不完善等問題日益突出。對此,應(yīng)該從頂層設(shè)計完善、工業(yè)數(shù)據(jù)分類分級管理、技術(shù)手段建設(shè)、安全意識提升以及安全產(chǎn)業(yè)發(fā)展幾個方面發(fā)力,大力提升我國工業(yè)大數(shù)據(jù)安全防護(hù)水平。

    參考文獻(xiàn)

    [1] 陸泉,張良韜.處理流程視角下的大數(shù)據(jù)技術(shù)發(fā)展現(xiàn)狀與趨勢[J].信息資源管理學(xué)報,2017(4):19-30.

    [2] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院,全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)標(biāo)準(zhǔn)工作組,等.工業(yè)大數(shù)據(jù)白皮書[R].中國電子技術(shù)標(biāo)準(zhǔn)化研究院和全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)標(biāo)準(zhǔn)工作組,2019.

    [3] Verizon.2018 Data Breach Investigations Report[R].USA:Verizon,2018.

    [4] 國家工業(yè)信息安全發(fā)展研究中心.工信安全智庫研判系列報告:2018年度工業(yè)信息安全形勢分析[R].國家工業(yè)信息安全發(fā)展研究中心,2019.

    [5] 工業(yè)互聯(lián)網(wǎng)平臺“混戰(zhàn)”數(shù)據(jù)安全問題待破解[EB/OL].http://www.cinic.org.cn/xw/cjyj/487955.html,2019-04-15.

    [6] 59萬臺重點工業(yè)互聯(lián)網(wǎng)平臺平均設(shè)備連接數(shù)(數(shù)讀)[EB/OL]. http://finance.people.com.cn/bank/n1/2019/0403/c1004-31010208.html,2019-04-03.

    作者簡介:

    余章馗(1992-),男,漢族,云南騰沖人,中國人民大學(xué),碩士研究生,國家工業(yè)信息安全發(fā)展研究中心,助理工程師;主要研究方向和關(guān)注領(lǐng)域:工業(yè)信息安全、工控安全、工業(yè)大數(shù)據(jù)安全。

    劉京娟(1987-),女,漢族,湖南衡陽人,北京大學(xué),碩士研究生,國家工業(yè)信息安全發(fā)展研究中心,高級工程師;主要研究方向和關(guān)注領(lǐng)域:網(wǎng)絡(luò)安全政策法規(guī)、大數(shù)據(jù)網(wǎng)絡(luò)安全、關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)、工業(yè)互聯(lián)網(wǎng)安全。

    猜你喜歡
    數(shù)據(jù)安全大數(shù)據(jù)
    云計算中基于用戶隱私的數(shù)據(jù)安全保護(hù)方法
    電子制作(2019年14期)2019-08-20 05:43:42
    建立激勵相容機(jī)制保護(hù)數(shù)據(jù)安全
    大數(shù)據(jù)云計算環(huán)境下的數(shù)據(jù)安全
    電子制作(2017年20期)2017-04-26 06:57:48
    大數(shù)據(jù)環(huán)境下基于移動客戶端的傳統(tǒng)媒體轉(zhuǎn)型思路
    新聞世界(2016年10期)2016-10-11 20:13:53
    基于大數(shù)據(jù)背景下的智慧城市建設(shè)研究
    科技視界(2016年20期)2016-09-29 10:53:22
    數(shù)據(jù)+輿情:南方報業(yè)創(chuàng)新轉(zhuǎn)型提高服務(wù)能力的探索
    中國記者(2016年6期)2016-08-26 12:36:20
    云環(huán)境中數(shù)據(jù)安全去重研究進(jìn)展
    大數(shù)據(jù)安全搜索與共享
    健全大數(shù)據(jù)安全保障體系研究
    午夜福利视频在线观看免费| bbb黄色大片| 日韩制服丝袜自拍偷拍| 一二三四中文在线观看免费高清| 少妇被粗大猛烈的视频| 在线精品无人区一区二区三| 国产无遮挡羞羞视频在线观看| 黑人猛操日本美女一级片| 久久99精品国语久久久| 黄色一级大片看看| 国产在线一区二区三区精| 亚洲欧美中文字幕日韩二区| 成人三级做爰电影| 国产精品 国内视频| 亚洲欧美成人精品一区二区| 欧美成人精品欧美一级黄| 亚洲婷婷狠狠爱综合网| 欧美日韩视频精品一区| 大陆偷拍与自拍| 日韩视频在线欧美| 亚洲国产精品一区三区| 亚洲精品久久久久久婷婷小说| 大香蕉久久网| 免费黄频网站在线观看国产| 日韩中文字幕欧美一区二区 | 亚洲av男天堂| 亚洲精品aⅴ在线观看| 国产又色又爽无遮挡免| 飞空精品影院首页| 不卡av一区二区三区| 欧美国产精品一级二级三级| 少妇人妻久久综合中文| 午夜日本视频在线| 欧美激情高清一区二区三区 | 欧美日韩亚洲国产一区二区在线观看 | av视频免费观看在线观看| 老熟女久久久| 亚洲精品成人av观看孕妇| 高清欧美精品videossex| 久久久久人妻精品一区果冻| 十分钟在线观看高清视频www| 欧美日韩一级在线毛片| 桃花免费在线播放| 国产精品无大码| 国产女主播在线喷水免费视频网站| 熟女av电影| 青春草视频在线免费观看| 亚洲少妇的诱惑av| 老熟女久久久| 国产爽快片一区二区三区| 咕卡用的链子| 91精品国产国语对白视频| 在线观看三级黄色| 日本wwww免费看| 汤姆久久久久久久影院中文字幕| 在线看a的网站| 国产又爽黄色视频| 如何舔出高潮| 国产精品久久久久久精品电影小说| 啦啦啦在线免费观看视频4| 午夜激情久久久久久久| 国产精品亚洲av一区麻豆 | 午夜日韩欧美国产| 大片电影免费在线观看免费| 国产精品一国产av| 日韩大码丰满熟妇| 国产福利在线免费观看视频| 国产一区二区激情短视频 | 亚洲国产欧美一区二区综合| 成人毛片60女人毛片免费| av有码第一页| 亚洲精品美女久久久久99蜜臀 | 久久人人97超碰香蕉20202| 青春草国产在线视频| 久热爱精品视频在线9| av卡一久久| 天美传媒精品一区二区| 国产精品三级大全| 精品国产乱码久久久久久小说| 欧美亚洲 丝袜 人妻 在线| 久久久久久久久久久久大奶| 美女脱内裤让男人舔精品视频| 老汉色av国产亚洲站长工具| av视频免费观看在线观看| 欧美精品高潮呻吟av久久| 亚洲精品成人av观看孕妇| 欧美国产精品va在线观看不卡| 国精品久久久久久国模美| 啦啦啦中文免费视频观看日本| 久久av网站| videosex国产| 老汉色av国产亚洲站长工具| 亚洲欧美精品自产自拍| 熟女少妇亚洲综合色aaa.| 一本大道久久a久久精品| 婷婷成人精品国产| 成年人免费黄色播放视频| 亚洲人成电影观看| 男女国产视频网站| 久久人人爽人人片av| 久久久精品免费免费高清| 久久人妻熟女aⅴ| 色吧在线观看| 免费在线观看视频国产中文字幕亚洲 | 制服人妻中文乱码| 日韩熟女老妇一区二区性免费视频| 十八禁人妻一区二区| 久久久久精品国产欧美久久久 | 成人黄色视频免费在线看| 国产亚洲最大av| 九色亚洲精品在线播放| 深夜精品福利| 一区二区av电影网| 国产在视频线精品| 国产精品久久久av美女十八| 日韩一本色道免费dvd| svipshipincom国产片| 免费黄色在线免费观看| www.av在线官网国产| 香蕉国产在线看| 黑人欧美特级aaaaaa片| 韩国高清视频一区二区三区| 90打野战视频偷拍视频| av又黄又爽大尺度在线免费看| 超碰成人久久| 亚洲精品一二三| 91aial.com中文字幕在线观看| 人人妻人人添人人爽欧美一区卜| 日日啪夜夜爽| 日韩av不卡免费在线播放| 国产激情久久老熟女| 不卡av一区二区三区| 亚洲国产毛片av蜜桃av| 这个男人来自地球电影免费观看 | 午夜福利免费观看在线| 精品午夜福利在线看| 亚洲国产精品成人久久小说| 欧美人与善性xxx| 观看av在线不卡| 久久韩国三级中文字幕| 亚洲第一av免费看| 青草久久国产| 精品久久久精品久久久| 国产又色又爽无遮挡免| 久久精品久久久久久噜噜老黄| av卡一久久| videos熟女内射| 黄频高清免费视频| 成人影院久久| 久久久久久人妻| 欧美日韩一区二区视频在线观看视频在线| 亚洲欧洲精品一区二区精品久久久 | 精品视频人人做人人爽| 如日韩欧美国产精品一区二区三区| 黄色毛片三级朝国网站| 久久国产精品男人的天堂亚洲| 天天躁夜夜躁狠狠久久av| 国产人伦9x9x在线观看| 黑人巨大精品欧美一区二区蜜桃| 中文天堂在线官网| 国精品久久久久久国模美| 久久精品国产a三级三级三级| 男女之事视频高清在线观看 | 久久精品久久精品一区二区三区| 国产精品麻豆人妻色哟哟久久| 人成视频在线观看免费观看| 91老司机精品| 午夜福利视频在线观看免费| 欧美日韩成人在线一区二区| 亚洲综合精品二区| 黄片小视频在线播放| 在线观看免费午夜福利视频| 亚洲国产精品成人久久小说| 伦理电影大哥的女人| 日日撸夜夜添| 天堂俺去俺来也www色官网| 岛国毛片在线播放| 美女扒开内裤让男人捅视频| 18禁动态无遮挡网站| 精品国产露脸久久av麻豆| 免费久久久久久久精品成人欧美视频| 欧美成人精品欧美一级黄| 夫妻性生交免费视频一级片| av一本久久久久| 亚洲精品国产区一区二| 久久精品国产亚洲av高清一级| 搡老乐熟女国产| 亚洲国产成人一精品久久久| 欧美在线一区亚洲| 国产成人免费无遮挡视频| 国产亚洲av片在线观看秒播厂| 久久久久久久久久久久大奶| 丝袜美足系列| 久久久欧美国产精品| 哪个播放器可以免费观看大片| 2018国产大陆天天弄谢| 哪个播放器可以免费观看大片| 精品人妻在线不人妻| 赤兔流量卡办理| av线在线观看网站| 丝袜在线中文字幕| 97人妻天天添夜夜摸| 国产精品99久久99久久久不卡 | 久久久久久久久久久久大奶| 别揉我奶头~嗯~啊~动态视频 | av在线app专区| 欧美变态另类bdsm刘玥| 在线天堂中文资源库| 肉色欧美久久久久久久蜜桃| 欧美日韩成人在线一区二区| 日本vs欧美在线观看视频| 一边摸一边抽搐一进一出视频| 国产精品二区激情视频| 中文精品一卡2卡3卡4更新| 麻豆乱淫一区二区| 国产成人精品久久久久久| 亚洲情色 制服丝袜| 人人妻,人人澡人人爽秒播 | 亚洲免费av在线视频| a级毛片黄视频| 久久精品国产亚洲av涩爱| 各种免费的搞黄视频| 99热全是精品| 久久人妻熟女aⅴ| 人人妻人人添人人爽欧美一区卜| 精品一品国产午夜福利视频| 国产成人91sexporn| 亚洲精品第二区| 亚洲成人av在线免费| 国产精品 欧美亚洲| 熟妇人妻不卡中文字幕| 在线观看免费日韩欧美大片| 成年人午夜在线观看视频| www.av在线官网国产| 多毛熟女@视频| 人人妻,人人澡人人爽秒播 | 赤兔流量卡办理| 最黄视频免费看| 丝袜脚勾引网站| 久久久国产精品麻豆| 伦理电影免费视频| 国产深夜福利视频在线观看| 亚洲熟女精品中文字幕| 在线 av 中文字幕| 国产精品一区二区在线观看99| 搡老乐熟女国产| 国产一区有黄有色的免费视频| 国产精品一国产av| 国产精品一区二区精品视频观看| 肉色欧美久久久久久久蜜桃| 国产av国产精品国产| 亚洲精品久久成人aⅴ小说| bbb黄色大片| 一边摸一边做爽爽视频免费| 满18在线观看网站| 91精品国产国语对白视频| 国产精品久久久人人做人人爽| 国产一区二区在线观看av| 韩国av在线不卡| 丝袜美腿诱惑在线| 精品卡一卡二卡四卡免费| 熟女av电影| av又黄又爽大尺度在线免费看| 国产欧美日韩一区二区三区在线| 又大又爽又粗| 国产 精品1| 精品国产一区二区三区久久久樱花| 天堂8中文在线网| 精品一区二区三卡| 日韩制服骚丝袜av| 欧美日韩亚洲高清精品| 亚洲精品,欧美精品| 亚洲四区av| 国产一区二区激情短视频 | av又黄又爽大尺度在线免费看| 亚洲精品国产av蜜桃| 亚洲一区二区三区欧美精品| 男人爽女人下面视频在线观看| videosex国产| 国产1区2区3区精品| 欧美激情 高清一区二区三区| 大码成人一级视频| 免费黄网站久久成人精品| 国产黄色免费在线视频| 国产精品99久久99久久久不卡 | 麻豆精品久久久久久蜜桃| 亚洲第一区二区三区不卡| 国产1区2区3区精品| 欧美激情 高清一区二区三区| 高清av免费在线| 精品亚洲成a人片在线观看| 亚洲色图 男人天堂 中文字幕| 最近2019中文字幕mv第一页| 久久久久久久久久久久大奶| 国产精品久久久久久精品电影小说| 人体艺术视频欧美日本| av卡一久久| 久久久久精品人妻al黑| 日本av手机在线免费观看| 欧美变态另类bdsm刘玥| 欧美少妇被猛烈插入视频| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲免费av在线视频| 国产爽快片一区二区三区| 超色免费av| 下体分泌物呈黄色| 亚洲精品aⅴ在线观看| 日韩欧美精品免费久久| 精品国产一区二区三区久久久樱花| 黄色毛片三级朝国网站| 亚洲在久久综合| 精品一区在线观看国产| 精品人妻在线不人妻| 在线观看三级黄色| 免费黄频网站在线观看国产| 免费不卡黄色视频| 三上悠亚av全集在线观看| 国产精品成人在线| 久久久精品区二区三区| 两性夫妻黄色片| 侵犯人妻中文字幕一二三四区| 精品免费久久久久久久清纯 | 国产成人系列免费观看| 各种免费的搞黄视频| 亚洲伊人色综图| 最黄视频免费看| 蜜桃国产av成人99| 制服诱惑二区| 欧美 日韩 精品 国产| 欧美精品一区二区免费开放| 国产精品久久久久久精品古装| a级毛片在线看网站| 国产片特级美女逼逼视频| 免费观看人在逋| 午夜日韩欧美国产| 国产精品一区二区在线观看99| 久久 成人 亚洲| 在线精品无人区一区二区三| 综合色丁香网| 啦啦啦 在线观看视频| 天美传媒精品一区二区| 亚洲视频免费观看视频| 制服人妻中文乱码| 国产精品二区激情视频| 啦啦啦中文免费视频观看日本| 亚洲在久久综合| 青青草视频在线视频观看| 久久久精品免费免费高清| 国产男女内射视频| 午夜免费男女啪啪视频观看| 成人漫画全彩无遮挡| 国产av一区二区精品久久| 又粗又硬又长又爽又黄的视频| 亚洲av在线观看美女高潮| 国产极品粉嫩免费观看在线| 18禁观看日本| 制服诱惑二区| 亚洲精品国产av蜜桃| 最黄视频免费看| 亚洲国产成人一精品久久久| 久久久精品国产亚洲av高清涩受| videos熟女内射| 国产97色在线日韩免费| 亚洲欧美色中文字幕在线| 国产一区亚洲一区在线观看| 亚洲专区中文字幕在线 | 国产日韩欧美视频二区| 宅男免费午夜| xxx大片免费视频| 亚洲精品中文字幕在线视频| 国产又色又爽无遮挡免| 狂野欧美激情性xxxx| 超碰97精品在线观看| 国产成人精品无人区| 久久 成人 亚洲| 国产伦理片在线播放av一区| 91aial.com中文字幕在线观看| 精品少妇内射三级| 国产又爽黄色视频| 欧美亚洲 丝袜 人妻 在线| 国产成人a∨麻豆精品| 在线观看免费视频网站a站| 男人操女人黄网站| www日本在线高清视频| 亚洲成色77777| 一区二区三区四区激情视频| 精品国产一区二区三区四区第35| 日本av免费视频播放| 中文字幕高清在线视频| 亚洲人成网站在线观看播放| 亚洲av男天堂| 在线观看www视频免费| 亚洲欧美精品自产自拍| 在线观看免费高清a一片| 80岁老熟妇乱子伦牲交| 亚洲欧洲国产日韩| 在线免费观看不下载黄p国产| 丝袜美腿诱惑在线| 精品少妇久久久久久888优播| 久久久久精品人妻al黑| 亚洲国产欧美网| 天天添夜夜摸| 亚洲一区中文字幕在线| 亚洲一区二区三区欧美精品| 老汉色∧v一级毛片| 成人黄色视频免费在线看| 欧美精品亚洲一区二区| 亚洲av国产av综合av卡| 蜜桃国产av成人99| 亚洲国产av新网站| av在线老鸭窝| av网站在线播放免费| 80岁老熟妇乱子伦牲交| 天堂8中文在线网| 国产欧美亚洲国产| 99久久99久久久精品蜜桃| 波野结衣二区三区在线| av卡一久久| 精品国产乱码久久久久久男人| 一本大道久久a久久精品| 男女下面插进去视频免费观看| 成年人午夜在线观看视频| 男女边摸边吃奶| 国产精品一二三区在线看| 日本午夜av视频| 嫩草影视91久久| 七月丁香在线播放| 日本91视频免费播放| 亚洲成国产人片在线观看| 成年动漫av网址| 精品一区在线观看国产| 19禁男女啪啪无遮挡网站| 男男h啪啪无遮挡| 美女脱内裤让男人舔精品视频| 女性被躁到高潮视频| 麻豆av在线久日| 亚洲精品中文字幕在线视频| 日本vs欧美在线观看视频| 国产xxxxx性猛交| 国产精品 欧美亚洲| 亚洲国产精品999| av在线播放精品| 国产av精品麻豆| 热99国产精品久久久久久7| 国产精品久久久久久人妻精品电影 | 啦啦啦 在线观看视频| av国产久精品久网站免费入址| av.在线天堂| 国产成人欧美| 99香蕉大伊视频| av在线app专区| 熟女少妇亚洲综合色aaa.| 欧美黑人精品巨大| 天堂8中文在线网| 色94色欧美一区二区| 老司机深夜福利视频在线观看 | 在线看a的网站| 水蜜桃什么品种好| 欧美人与性动交α欧美精品济南到| 韩国精品一区二区三区| 中文精品一卡2卡3卡4更新| 国产又色又爽无遮挡免| 91精品国产国语对白视频| 欧美日韩一区二区视频在线观看视频在线| 久久久久国产精品人妻一区二区| 两性夫妻黄色片| 久久精品国产a三级三级三级| 亚洲av福利一区| 国产精品国产av在线观看| 日本av手机在线免费观看| 色网站视频免费| 久久久久网色| 亚洲av国产av综合av卡| 亚洲美女搞黄在线观看| 一级片'在线观看视频| 蜜桃在线观看..| 黄片播放在线免费| 丝袜美腿诱惑在线| 秋霞在线观看毛片| 少妇被粗大猛烈的视频| tube8黄色片| 欧美精品av麻豆av| 亚洲国产日韩一区二区| 又黄又粗又硬又大视频| 亚洲精品日韩在线中文字幕| 亚洲国产欧美日韩在线播放| 国产一区亚洲一区在线观看| 午夜福利,免费看| 精品国产国语对白av| 交换朋友夫妻互换小说| 欧美 日韩 精品 国产| 各种免费的搞黄视频| 欧美老熟妇乱子伦牲交| 亚洲婷婷狠狠爱综合网| 日韩av不卡免费在线播放| 亚洲国产成人一精品久久久| 亚洲综合色网址| 久久av网站| 欧美日韩国产mv在线观看视频| 日韩人妻精品一区2区三区| 久久久久久久大尺度免费视频| 成人国语在线视频| 午夜福利,免费看| 日韩欧美精品免费久久| 国产极品天堂在线| 丝瓜视频免费看黄片| 亚洲国产中文字幕在线视频| 国产成人精品福利久久| 丝袜脚勾引网站| 99香蕉大伊视频| 国产色婷婷99| av国产精品久久久久影院| 精品国产乱码久久久久久男人| 一级黄片播放器| 精品一区二区三区四区五区乱码 | 国产在线免费精品| 亚洲国产精品成人久久小说| av福利片在线| 秋霞伦理黄片| 中文字幕av电影在线播放| 国产成人精品久久二区二区91 | 亚洲激情五月婷婷啪啪| 丝瓜视频免费看黄片| 夫妻午夜视频| 波野结衣二区三区在线| 一级黄片播放器| 精品久久久久久电影网| 1024香蕉在线观看| 欧美日韩国产mv在线观看视频| 这个男人来自地球电影免费观看 | 久久久精品94久久精品| videosex国产| 亚洲五月色婷婷综合| 国产精品秋霞免费鲁丝片| 久热这里只有精品99| 少妇猛男粗大的猛烈进出视频| 久久久久久久久久久久大奶| www.自偷自拍.com| 男女高潮啪啪啪动态图| 老司机影院毛片| 欧美成人午夜精品| 日韩大片免费观看网站| 欧美黄色片欧美黄色片| 高清欧美精品videossex| 亚洲人成电影观看| av在线老鸭窝| 最近中文字幕高清免费大全6| 高清黄色对白视频在线免费看| 欧美成人精品欧美一级黄| 久久久国产一区二区| 黄色一级大片看看| 97人妻天天添夜夜摸| 一区二区av电影网| 18禁国产床啪视频网站| 我要看黄色一级片免费的| 成人黄色视频免费在线看| 日韩 欧美 亚洲 中文字幕| 亚洲精品av麻豆狂野| 男女下面插进去视频免费观看| 在线亚洲精品国产二区图片欧美| 狂野欧美激情性xxxx| 成年人免费黄色播放视频| 国产 精品1| 亚洲伊人久久精品综合| 日本欧美视频一区| 一级毛片电影观看| 国产精品二区激情视频| 亚洲色图综合在线观看| 国产成人精品福利久久| netflix在线观看网站| av.在线天堂| 久久久久国产精品人妻一区二区| 中文欧美无线码| 熟妇人妻不卡中文字幕| 亚洲av男天堂| 一级爰片在线观看| 777米奇影视久久| 女人高潮潮喷娇喘18禁视频| bbb黄色大片| 日本91视频免费播放| 精品午夜福利在线看| 考比视频在线观看| 人人妻人人添人人爽欧美一区卜| 五月开心婷婷网| 一区二区三区乱码不卡18| av网站免费在线观看视频| 曰老女人黄片| 欧美日韩成人在线一区二区| 在线亚洲精品国产二区图片欧美| 一级毛片 在线播放| 秋霞伦理黄片| 午夜免费鲁丝| 亚洲av电影在线进入| 热99国产精品久久久久久7| 日韩大码丰满熟妇| 欧美成人午夜精品| 日韩精品有码人妻一区| 亚洲国产毛片av蜜桃av| 欧美精品av麻豆av| 五月开心婷婷网| 在现免费观看毛片| 久久99精品国语久久久| 亚洲专区中文字幕在线 | 日韩电影二区| 午夜日韩欧美国产| 91aial.com中文字幕在线观看| 午夜福利乱码中文字幕| 亚洲综合精品二区| 免费在线观看黄色视频的| 亚洲欧美成人精品一区二区| 久久精品aⅴ一区二区三区四区| 午夜91福利影院| 亚洲一卡2卡3卡4卡5卡精品中文| 午夜福利乱码中文字幕| 亚洲精品国产av成人精品|