• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    試論政府?dāng)?shù)據(jù)開放風(fēng)險的識別與防范

    2018-01-02 00:20才世杰夏義堃
    圖書與情報 2017年4期

    才世杰+夏義堃

    摘 要:為了揭示政府?dāng)?shù)據(jù)開放風(fēng)險的復(fù)雜性與特殊性,增強政府?dāng)?shù)據(jù)開放風(fēng)險的識別與應(yīng)對能力。文章利用文獻(xiàn)調(diào)研法和比較分析法,從觀念認(rèn)知、利益主體、數(shù)據(jù)披露內(nèi)容及數(shù)據(jù)開放技術(shù)和制度體系等角度闡明了政府?dāng)?shù)據(jù)開放風(fēng)險的內(nèi)涵,指出數(shù)據(jù)開放風(fēng)險會對政府?dāng)?shù)據(jù)開放進(jìn)程、數(shù)據(jù)管理秩序、數(shù)據(jù)生態(tài)以及數(shù)據(jù)管理成本等產(chǎn)生的一系列負(fù)面影響。同時,還分析了發(fā)達(dá)國家在政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對上的主要做法,梳理了當(dāng)前政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對中面臨的現(xiàn)實困難,并提出建立政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對機(jī)制的具體對策。

    關(guān)鍵詞:政府?dāng)?shù)據(jù)開放;數(shù)據(jù)開放風(fēng)險;數(shù)據(jù)風(fēng)險識別;數(shù)據(jù)風(fēng)險防范;數(shù)據(jù)風(fēng)險管理

    中圖分類號: D035-39 文獻(xiàn)標(biāo)識碼: A DOI:10.11968/tsyqb.1003-6938.2017080

    Abstract In order to reveal the complexity and uniqueness of open government data risk and enhance the recognition and response ability on it, this paper illustrates, based on the methods of literature study and comparative analysis, the connotation of open government data risk from cognitive belief, stakeholders, disclosure content, technology and regulatory system. It also analyzes a series of negative impacts of open government data risk on data open process, data management order, data ecology and data management cost. Meanwhile, it introduces the practice of developed countries on the risk identification and prevention of open government data, sorting out the current difficulties of it, and then points out concrete countermeasures on how to create a risk identification and prevention mechanism on government data releasing.

    Key words open government data; risks of open data; data risk identification; data risk prevention;data risk management

    在數(shù)據(jù)開放背景下,數(shù)據(jù)篡改、數(shù)據(jù)泄露、身份盜用等各種數(shù)據(jù)侵權(quán)行為都是數(shù)據(jù)開放風(fēng)險的基本表現(xiàn),正在不斷地瓦解和危害政府?dāng)?shù)據(jù)開放的良好生態(tài)環(huán)境,對政府的數(shù)據(jù)開發(fā)與共享產(chǎn)生了不可估量的消極影響,這需要我們正確認(rèn)知并采取積極措施來應(yīng)對。

    1 政府?dāng)?shù)據(jù)開放風(fēng)險的認(rèn)知與危害

    1.1 政府?dāng)?shù)據(jù)開放風(fēng)險的多層面認(rèn)知

    隨著信息技術(shù)的發(fā)展,網(wǎng)絡(luò)的開放性與復(fù)雜性可能會形成新的挑戰(zhàn)[1]。對于政府?dāng)?shù)據(jù)開放而言,廣義的風(fēng)險系指因數(shù)據(jù)開放而引發(fā)的對國家、社會和個人造成危害的所有不確定性,如國家秘密和商業(yè)秘密的泄露、個人身份信息盜用等。狹義地理解,則涉及因技術(shù)開發(fā)、信息制度以及信息管理不當(dāng)或缺位而導(dǎo)致的數(shù)據(jù)泄露、數(shù)據(jù)篡改等數(shù)據(jù)風(fēng)險以及各種軟硬件以及程序遭受威脅等帶來的數(shù)據(jù)環(huán)境與系統(tǒng)應(yīng)用風(fēng)險。如Alshboul A[2]在分析信息系統(tǒng)安全時指出, 脆弱性是信息和信息系統(tǒng)的弱點,會導(dǎo)致攻擊、傷害、修改、破壞、披露、中斷、截獲等風(fēng)險的發(fā)生。與以往的信息系統(tǒng)安全相比,政府?dāng)?shù)據(jù)開放風(fēng)險的類型、成因、要素、特征都發(fā)生了一定變化,其形式更加多樣、復(fù)雜多變,危害性與波及面也更廣。但從本質(zhì)上講,盡管表現(xiàn)形式各異,危害程度不一,但產(chǎn)生數(shù)據(jù)開放風(fēng)險的根源卻是網(wǎng)絡(luò)化、數(shù)字化形式背后人與人之間利益沖突的體現(xiàn)。具體而言,政府?dāng)?shù)據(jù)開放風(fēng)險的復(fù)雜性、特殊性主要表現(xiàn)在以下五個方面:

    (1) 視角層面-政府?dāng)?shù)據(jù)開放風(fēng)險認(rèn)知的錯位。自2010年美國總統(tǒng)奧巴馬頒發(fā)《開放政府指令》以來,開放政府?dāng)?shù)據(jù)紛紛被許多國家視為提高政府透明度與問責(zé),增加公民參與以及促進(jìn)經(jīng)濟(jì)增長、科技與產(chǎn)業(yè)創(chuàng)新的催化劑和靈丹妙藥。雖然“開放數(shù)據(jù)是好的推動力量,但并不是沒有風(fēng)險”[3]。目前的情況是,發(fā)布數(shù)據(jù)似乎成為國家間努力爭做數(shù)據(jù)開放最好國家的標(biāo)志,而數(shù)據(jù)的大規(guī)模發(fā)布則增加了敏感信息披露的可能性[4],由此引發(fā)的數(shù)據(jù)風(fēng)險問題并未引起廣泛重視。同時,從各國數(shù)據(jù)管理法規(guī)制度看,絕大多數(shù)國家對于政府?dāng)?shù)據(jù)開放風(fēng)險的認(rèn)識還停留在技術(shù)層面,更多關(guān)注網(wǎng)絡(luò)設(shè)備與信息系統(tǒng)安全和敏感數(shù)據(jù)保護(hù)的技術(shù)開發(fā),強調(diào)系統(tǒng)漏洞的防范以及數(shù)據(jù)匿名處理技術(shù)應(yīng)用等,尚未從組織管理、法規(guī)制度以及文化心理等多角度全面考察政府?dāng)?shù)據(jù)開放風(fēng)險的形成與風(fēng)險規(guī)避防范機(jī)理。當(dāng)然,不同群體的用戶對于隱私、安全等涉及數(shù)據(jù)開放風(fēng)險的概念認(rèn)知以及耐受度也各不相同,如“年輕人會比老年人披露更多有關(guān)他們生活的信息,而我們所希望保護(hù)的隱私是什么其實也是隨著背景與時代的變化而變化的”[5]。

    (2)主體層面-政府?dāng)?shù)據(jù)開放多元主體的利益矛盾。完整的利益相關(guān)者分析有助于人們更好地了解用戶對接口、服務(wù)以及分析工具的需求[6]。開放政府?dāng)?shù)據(jù)運動會涉及到政府機(jī)構(gòu)、公務(wù)員、技術(shù)承包商、技術(shù)開發(fā)人員、公民、企業(yè)以及黑客、民間組織等多種利益相關(guān)主體。當(dāng)不同政治觀點及利益表達(dá)發(fā)生沖突時,即數(shù)據(jù)開放背后所代表的不同群體信息訴求發(fā)生彼此矛盾和相互沖突時,就有引發(fā)各種數(shù)據(jù)風(fēng)險的可能,如城市治安犯罪數(shù)據(jù)的及時發(fā)布有助于人們了解市內(nèi)不同地段治安管理狀況,避免更多的人涌向犯罪頻發(fā)地段,但對于居住在該地段的居民和房地產(chǎn)開發(fā)人員而言,無疑會造成客觀的歧視和其它經(jīng)濟(jì)損失;再如,承接了政府?dāng)?shù)據(jù)平臺開發(fā)運營的網(wǎng)絡(luò)承包商,擔(dān)任著數(shù)據(jù)存儲者和使用者的雙重角色,必然會接觸和擁有大量的政府?dāng)?shù)據(jù),通過數(shù)據(jù)開發(fā)實現(xiàn)商業(yè)利潤最大化和遵守政府信息法規(guī)制度之間本身就是一個兩難選擇。在數(shù)據(jù)開放過程中,一旦任何主體將自身利益追求作為首要乃至唯一追求(見表1),不能維持?jǐn)?shù)據(jù)開放與隱私保護(hù)、數(shù)據(jù)安全之間的平衡,則數(shù)據(jù)盜用、數(shù)據(jù)中斷、網(wǎng)頁篡改等風(fēng)險隱患不可避免。endprint

    (3) 內(nèi)容層面-政府?dāng)?shù)據(jù)開放內(nèi)容的繁雜多變。一是政府?dāng)?shù)據(jù)開放總量大幅增加,各國政府?dāng)?shù)據(jù)門戶網(wǎng)站披露的公共數(shù)據(jù)集總量快速增長(見表2)。同時,涉及面廣泛,涵蓋了國家統(tǒng)計、政府預(yù)算、選舉結(jié)果、地圖、氣象、公司注冊、水質(zhì)、政府開支等公共生活的各個方面,進(jìn)一步增加了政府?dāng)?shù)據(jù)披露內(nèi)容審核與進(jìn)程監(jiān)管的負(fù)荷和難度;二是開放內(nèi)容關(guān)聯(lián)滲透性強,盡管單個數(shù)據(jù)集的內(nèi)容可能并不會構(gòu)成國家/國土安全的威脅或違反保密以及隱私承諾的風(fēng)險,但是,多個數(shù)據(jù)集的匯集合并,特別是在鼓勵數(shù)據(jù)混搭攪拌的情況下,風(fēng)險增加的概率隨之提升。如單獨的地理測繪數(shù)據(jù)可能并不會指向具體的個人,但通過結(jié)合地點、交通等其它數(shù)據(jù)就可能會與地圖上的特定位置聯(lián)系起來,進(jìn)而轉(zhuǎn)化為可識別的個人數(shù)據(jù),容易產(chǎn)生隱私泄露風(fēng)險;三是數(shù)據(jù)更新頻率快,除靜態(tài)數(shù)據(jù)外,大量的動態(tài)數(shù)據(jù)在披露供給過程中隨時處在持續(xù)更新狀態(tài),并不是一成不變的,因而相應(yīng)提升了數(shù)據(jù)重疊、準(zhǔn)確性差、數(shù)據(jù)不完整等問題發(fā)生的幾率。此外,數(shù)據(jù)挖掘技術(shù)的發(fā)展和開放數(shù)據(jù)量的增加使得一大批原本可以開放的數(shù)據(jù)變得敏感和易于識別,個人信息與非個人信息、一般信息與保密信息的邊界始終處在變化之中。如面部識別軟件的應(yīng)用,可以通過簡單的鼠標(biāo)點擊而識別出具體的個人[5],進(jìn)而使得網(wǎng)絡(luò)上公開發(fā)布的圖片資料,包括過去發(fā)布的圖像信息都有追蹤到個人并觸及隱私的可能。

    (4)方法層面-政府?dāng)?shù)據(jù)開放技術(shù)的薄弱單一。數(shù)字和移動技術(shù)的復(fù)雜性和新穎性對政府?dāng)?shù)據(jù)開放的風(fēng)險防范提出了挑戰(zhàn)。一方面是以往的數(shù)據(jù)安全防范技術(shù)在大數(shù)據(jù)時代亟待進(jìn)一步完善和升級,如隨著個人信息提供的增加,原有個人信息識別的匿名化處理技術(shù)在隱私保障方面越來越力不從心[7]。國外學(xué)者利用爬蟲技術(shù)抓取希臘企業(yè)稅務(wù)登記號碼、電話號碼等,發(fā)現(xiàn)可以由此推斷出個人或企業(yè)的商業(yè)性活動[8],一些復(fù)雜分析工具還可以對個人信息的匿名處理進(jìn)行恢復(fù)并引發(fā)對公民隱私權(quán)的侵害;另一方面,惡意軟件、跨站點腳本攻擊、數(shù)據(jù)竊聽等層出不窮的數(shù)據(jù)侵害手法使得政府信息系統(tǒng)所面臨的威脅也處在升級轉(zhuǎn)換之中。2014年,我國政府網(wǎng)站頻繁遭受黑客攻擊。從攻擊方式來看,黑客采用較多的仍然是網(wǎng)頁篡改和植入后門,同時還出現(xiàn)了一些新的攻擊方式,如針對政府網(wǎng)站的拒絕服務(wù)、竊取并公布網(wǎng)站信息等,攻擊方式日趨多樣化復(fù)雜化[9]。在美國,盡管提供了持續(xù)的政府?dāng)?shù)據(jù)安全培訓(xùn),并使用了互聯(lián)網(wǎng)防火墻和其他安全工具,但仍有超過一半的聯(lián)邦政府機(jī)構(gòu)每周或每天都體驗到網(wǎng)絡(luò)安全事件的發(fā)生[10]。為減少這些新技術(shù)、軟件應(yīng)用工具和網(wǎng)絡(luò)設(shè)備所固有的威脅和挑戰(zhàn),政府部門需全面梳理政府?dāng)?shù)據(jù)開放流程各環(huán)節(jié)所面臨的技術(shù)風(fēng)險,并從物理設(shè)施以及網(wǎng)絡(luò)安全舉措等方面制定周密的技術(shù)防范框架。

    (5)制度層面-政府?dāng)?shù)據(jù)開放的制度沖突與缺位。成功的開放政府?dāng)?shù)據(jù)運動既需要國家法規(guī)制度上明確而連貫一致的支持[11],也會對現(xiàn)有的政府?dāng)?shù)據(jù)管理法規(guī)制度體系形成較大沖擊。許多國家在政府?dāng)?shù)據(jù)開放范圍、開放標(biāo)準(zhǔn)、許可方式、利用模式等方面出現(xiàn)了一定程度的制度模糊與缺位。目前,大多數(shù)國家還缺乏“綜合性數(shù)據(jù)保護(hù)立法”,而“分散的法律只是提供了有限的公共領(lǐng)域?qū)€人信息的保護(hù)”[12]。如以歐盟為例,開放政府?dāng)?shù)據(jù)政策可能會與《歐盟數(shù)據(jù)保護(hù)指令》所規(guī)定的信息隱私權(quán)相沖突[13]。該指令界定個人數(shù)據(jù)為已識別或可識別的人的任何信息,其中,可識別的人指通過身份證號碼或者通過與其相關(guān)的生理、心理、精神、經(jīng)濟(jì)、文化或社會地位中一個或多個要素而可以被直接或間接識別的個人[14]。其內(nèi)涵已超越了以往界定的“隱私權(quán)”范圍,并有可能將地理地圖數(shù)據(jù)、網(wǎng)絡(luò)識別數(shù)據(jù)等納入到個人數(shù)據(jù)范疇。盡管其《立法說明》指出,方位數(shù)據(jù)、網(wǎng)絡(luò)識別數(shù)據(jù)等并不一定在所有情形下均被認(rèn)為是個人數(shù)據(jù),但個人數(shù)據(jù)概念過于寬泛的界定以及數(shù)據(jù)消除權(quán)的提出既限制了政府?dāng)?shù)據(jù)開放的范圍,也延伸擴(kuò)大了敏感數(shù)據(jù)和隱私保護(hù)的外延;再如,政府?dāng)?shù)據(jù)開放與歐盟部分國家奉行的政府?dāng)?shù)據(jù)收費政策和公共信息許可、再利用制度產(chǎn)生了矛盾,需要人們在數(shù)據(jù)開放與數(shù)據(jù)保護(hù)之間尋求平衡點。歐洲議會和理事會指出,當(dāng)開放數(shù)據(jù)政策與業(yè)已存在的法律法規(guī)以及各機(jī)構(gòu)的制度性做法不一致時,就有可能引發(fā)并發(fā)癥[15]。此外,隨著開放與透明度的增長,也帶來了“數(shù)據(jù)窺探者”和“數(shù)據(jù)偵探”業(yè)的繁榮,有關(guān)敏感信息、隱私、數(shù)據(jù)標(biāo)準(zhǔn)等制度的法律更新與制度完善被提上重要議事日程。

    1.2 政府?dāng)?shù)據(jù)開放風(fēng)險的危害

    正如許多評論家所指出的,處理隱私和信息安全已成為高效訪問和使用數(shù)據(jù)的一個主要絆腳石[16],并有可能給組織機(jī)構(gòu)造成一系列負(fù)面影響,如財務(wù)損失、聲譽和客戶信任流失率等[17]。同時,公共部門既可以作為風(fēng)險處理的中心,也可以轉(zhuǎn)化為向其他組織、個人和社區(qū)生產(chǎn)和出口風(fēng)險的中心。如果政府?dāng)?shù)據(jù)開放風(fēng)險不能得到有效防范、化解和避免,則會產(chǎn)生一系列不可預(yù)知的消極影響,引發(fā)各類數(shù)據(jù)風(fēng)險事件。除了給國家安全、政治穩(wěn)定、社會信任、公平正義等帶來一系列負(fù)面影響外,對于政府?dāng)?shù)據(jù)管理而言,因數(shù)據(jù)開放而引發(fā)的各種風(fēng)險隱患可能產(chǎn)生的直接危害主要表現(xiàn)在以下四個方面:

    (1)阻礙政府?dāng)?shù)據(jù)開放進(jìn)程。調(diào)查發(fā)現(xiàn),巴西、馬其頓和美國等加入了開放政府伙伴關(guān)系的國家,在后續(xù)行動計劃中承諾的數(shù)據(jù)公開比例均有所下降[18]。原因固然是多方面的,特別是由于預(yù)期成效不明顯,政府?dāng)?shù)據(jù)開放進(jìn)程的推進(jìn)一直阻力重重,而數(shù)據(jù)泄露、數(shù)據(jù)侵權(quán)等各類開放風(fēng)險的出現(xiàn),人們必然會加劇懷疑政府?dāng)?shù)據(jù)開放的必要性和可行性。特別是政府公務(wù)人員,因懼怕數(shù)據(jù)開放風(fēng)險導(dǎo)致的后續(xù)追責(zé),會本能地選擇減少數(shù)據(jù)發(fā)布量,再一次退回到封閉保密的行政氛圍中。

    (2)干擾政府?dāng)?shù)據(jù)管理秩序。一方面,從數(shù)據(jù)產(chǎn)生、處理、利用、共享以及存儲等數(shù)據(jù)流程角度分析,任何環(huán)節(jié)發(fā)生數(shù)據(jù)風(fēng)險事件都會擾亂原有正常的數(shù)據(jù)流程,而進(jìn)入到數(shù)據(jù)風(fēng)險識別、監(jiān)控與糾偏等風(fēng)險防范與應(yīng)對軌道,并要求數(shù)據(jù)管理環(huán)節(jié)與方式等相應(yīng)地進(jìn)行校正與改變;另一方面,從不同時期政府?dāng)?shù)據(jù)政策的發(fā)展演變來看,在不同思想觀念支配下會產(chǎn)生不同的政府?dāng)?shù)據(jù)管理政策與相應(yīng)的方法手段。出于風(fēng)險防范的需要,政府?dāng)?shù)據(jù)管理秩序會更加嚴(yán)格細(xì)密,數(shù)據(jù)管理風(fēng)格也會趨向于謹(jǐn)慎甚至保守,即“當(dāng)風(fēng)險規(guī)避策略占據(jù)主導(dǎo)地位,為確保國家安全和在任何情況下的任何疑問,信息利用將被不分青紅皂白地受到保護(hù)”[19],這在一定程度上限制了政府?dāng)?shù)據(jù)開發(fā)利用效益的充分發(fā)揮。endprint

    (3)沖擊政府?dāng)?shù)據(jù)生態(tài)。數(shù)據(jù)生態(tài)系統(tǒng)涉及多方面因素,“是循環(huán)的(周期性的)、可持續(xù)的、面向各地代理商需求驅(qū)動的環(huán)境,并在價值傳遞中相互依存”[20]。隨著各類政府?dāng)?shù)據(jù)開放風(fēng)險事件的曝光,原有的政府?dāng)?shù)據(jù)生態(tài)體系面臨著挑戰(zhàn)與考驗:一是會不同地程度動搖用戶數(shù)據(jù)開放的支持力度,降低政府?dāng)?shù)據(jù)管理的公信力。英國的開放數(shù)據(jù)調(diào)查顯示,很多被調(diào)查者擔(dān)心數(shù)據(jù)開放后被不適當(dāng)?shù)娜怂倏v并產(chǎn)生各種網(wǎng)絡(luò)犯罪[21]。無獨有偶,歐盟公民中有72%擔(dān)心他們的個人資料在網(wǎng)上公開后被濫用[22],對數(shù)據(jù)開放和共享涉及的隱私侵害與國家秘密、商業(yè)秘密泄露的擔(dān)心可能會導(dǎo)致政府開放數(shù)據(jù)會流失一定的用戶和公眾信任;二是數(shù)據(jù)開發(fā)風(fēng)險的發(fā)生會破壞已有的政府?dāng)?shù)據(jù)服務(wù)公私合作伙伴關(guān)系,增加政府?dāng)?shù)據(jù)服務(wù)外包的復(fù)雜度,延長談判周期,無論是設(shè)備供應(yīng)商還是信息系統(tǒng)開發(fā)商都有可能在承接政府?dāng)?shù)據(jù)項目時獲取并利用政府?dāng)?shù)據(jù),如何有效規(guī)范上述利益相關(guān)者的信息行為,抑制其數(shù)據(jù)操縱、泄露等數(shù)據(jù)逐利行為的發(fā)生對政府?dāng)?shù)據(jù)管理而言無疑是一個艱巨的任務(wù)。此外,數(shù)據(jù)風(fēng)險的存在也將政府如何有效處理好與黑客等技術(shù)精英的關(guān)系問題擺上日程。

    (4)加大政府?dāng)?shù)據(jù)管理成本。雖然美國有一半的州政府報告指出每年都增加了政府網(wǎng)絡(luò)安全預(yù)算,但76%的州政府首席信息安全官認(rèn)為這些預(yù)算仍不足以解決企業(yè)和政府經(jīng)常面對的日益復(fù)雜的網(wǎng)絡(luò)威脅[23]。2011-2015年間,英國政府共花費6.5億英鎊用于政府網(wǎng)絡(luò)安全[24]。隨著政府?dāng)?shù)據(jù)開放風(fēng)險的增加,相應(yīng)地各類有形和無形的風(fēng)險管理成本也在同步增長,如加密技術(shù)、開放內(nèi)容審核機(jī)制以及公務(wù)員數(shù)據(jù)安全管理技能培訓(xùn)等,這些具體舉措的實施以及有關(guān)數(shù)據(jù)安全的智能設(shè)備與軟件開發(fā)等均需要以政府部門人財物的充分投入為基礎(chǔ)。

    2 政府?dāng)?shù)據(jù)開放風(fēng)險的識別與應(yīng)對

    2.1 發(fā)達(dá)國家政府?dāng)?shù)據(jù)開放風(fēng)險的識別與應(yīng)對

    早在2011年,英國國家審計署的報告中就指出了隱私和欺詐風(fēng)險的存在,建議建立政府風(fēng)險管理流程來應(yīng)對這些問題[25]。目前,以英美為代表的發(fā)達(dá)國家在大力推進(jìn)政府?dāng)?shù)據(jù)開放的同時,也充分認(rèn)識到政府?dāng)?shù)據(jù)開放可能引發(fā)的國家安全、隱私保護(hù)等嚴(yán)重后果,并采取措施主動應(yīng)對。

    (1)從國家戰(zhàn)略層面提高對政府?dāng)?shù)據(jù)開放風(fēng)險的認(rèn)知。美國政府認(rèn)識到,由于聯(lián)邦政府正在以更容易獲得和可互操作的格式不斷增加政府?dāng)?shù)據(jù)的可用性,必須采取非常謹(jǐn)慎的措施來保護(hù)本國/領(lǐng)土安全和保護(hù)隱私和保密[26]。并要求 “提供與信息有關(guān)的,推定應(yīng)支持開放的(法律許可范圍內(nèi)的,受到有效的隱私保護(hù),安全性或其他限制)數(shù)據(jù)”[27],來努力平衡開放風(fēng)險與開放效益。2010年,英國的《國家安全戰(zhàn)略》中將網(wǎng)絡(luò)攻擊確定為“1級”威脅,并在財政緊縮的情況下,加大了對政府網(wǎng)絡(luò)信息系統(tǒng)安全的建設(shè)力度。2013年,澳大利亞總理宣布在更大的國家安全戰(zhàn)略中實施政府網(wǎng)絡(luò)安全計劃。

    (2)不斷完善有關(guān)風(fēng)險防范的政府?dāng)?shù)據(jù)管理制度規(guī)章。以美國為例,相關(guān)法規(guī)制度包括《隱私法》《電子政務(wù)法》《聯(lián)邦信息安全管理法案》《可控未分類的信息》《保護(hù)機(jī)密信息和統(tǒng)計效率法案》。此外,還要遵守國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)制定的《聯(lián)邦信息處理標(biāo)準(zhǔn)(FIPS)出版和聯(lián)邦信息和信息系統(tǒng)安全分類標(biāo)準(zhǔn)》等,覆蓋了政府?dāng)?shù)據(jù)安全的原則、指導(dǎo)思想、數(shù)據(jù)分類、保密隱私信息的利用以及數(shù)據(jù)開放標(biāo)準(zhǔn)等方方面面。此外,美國還成立了開放政府倡議隱私和安全工作小組(The Open Government Initiative Privacy and Security Working Group),一個由安全和隱私領(lǐng)域?qū)I(yè)化行政部門組成的跨部門工作小組,發(fā)布了有關(guān)政府?dāng)?shù)據(jù)門戶網(wǎng)站內(nèi)容審查的一系列制度規(guī)范。

    (3)建立數(shù)據(jù)開放風(fēng)險防范與應(yīng)對機(jī)制。美國的開放數(shù)據(jù)政策要求政府機(jī)構(gòu)把隱私分析、保密分析等數(shù)據(jù)風(fēng)險因素納入到政府信息生命周期的每個階段,來“審查信息收集或生產(chǎn)的有效限制,以確定它是否可以公開提供”,以及與他們的“高級政府隱私官”或其他有關(guān)官員工作以確保隱私和保密性得到充分的保護(hù)”[28]。澳大利亞政府隱私委員會發(fā)布了《隱私和開放數(shù)據(jù)指南》,提出要進(jìn)行數(shù)據(jù)開放的隱私風(fēng)險評估[29]。英國政府指出,開放數(shù)據(jù)安全戰(zhàn)略及其固有的風(fēng)險管理策略不能是靜態(tài)的,有必要建立適當(dāng)?shù)臋C(jī)制進(jìn)行定期審查。審查程序應(yīng)識別和評估因政治、經(jīng)濟(jì)、社會、技術(shù)、法律或環(huán)境方面的原因而改變的任何風(fēng)險(見圖1)[30]。

    2.2 建立政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對機(jī)制

    國外學(xué)者認(rèn)為,開放政府?dāng)?shù)據(jù)的再利用不僅可以收獲各種收益,而且還有許多風(fēng)險隱患需要去緩解[31]。2014年,《聯(lián)合國電子政務(wù)報告》明確指出,在制定開放政府?dāng)?shù)據(jù)戰(zhàn)略中,政策制定者們必須牢記個人隱私以及國家安全的保護(hù)問題[32]。建立數(shù)據(jù)開放風(fēng)險識別與應(yīng)對機(jī)制的目的是全面保障政府?dāng)?shù)據(jù)開放效益的發(fā)揮,避免和減少數(shù)據(jù)風(fēng)險隱患的發(fā)生,將數(shù)據(jù)風(fēng)險損失降到最低。為此,需重點做好:

    (1)將政府?dāng)?shù)據(jù)開放風(fēng)險的識別與應(yīng)對嵌入到政府?dāng)?shù)據(jù)管理的生命周期(見圖2),即將數(shù)據(jù)風(fēng)險管理滲透到政府?dāng)?shù)據(jù)的生產(chǎn)、使用/處理、存儲、共享等各個環(huán)節(jié),進(jìn)一步細(xì)化各環(huán)節(jié)數(shù)據(jù)風(fēng)險識別關(guān)鍵點與監(jiān)控重點,明確各階段數(shù)據(jù)開放風(fēng)險管理的職責(zé)任務(wù),指定保密與隱私等敏感數(shù)據(jù)的保護(hù)責(zé)任,以通過全面地數(shù)據(jù)風(fēng)險管理確保數(shù)據(jù)開放戰(zhàn)略實施的每一步都能夠與數(shù)據(jù)開放目標(biāo)相一致。

    (2)建立政府?dāng)?shù)據(jù)開放風(fēng)險評估體系。數(shù)據(jù)開放風(fēng)險評估體系并不僅僅關(guān)注軟件與工具的技術(shù)安全性(見圖3),還需要整合個人、組織、文化、法律制度等因素進(jìn)行全方位考量。其核心是應(yīng)增進(jìn)對數(shù)據(jù)開放的理解,進(jìn)一步明確數(shù)據(jù)開放過程中信息安全的度量標(biāo)準(zhǔn),即哪些數(shù)據(jù)應(yīng)該在開放中受到保護(hù)?誰能夠訪問數(shù)據(jù)?同時還應(yīng)明晰業(yè)務(wù)流程各階段面臨的數(shù)據(jù)風(fēng)險威脅,以妥善解決數(shù)據(jù)開放與隱私/保密的平衡問題。

    美國和澳大利亞等國均針對政府?dāng)?shù)據(jù)開放制定了有關(guān)數(shù)據(jù)安全的指南,劃定了國家秘密與隱私保護(hù)的概念界定與范圍清單,并責(zé)令專門的數(shù)據(jù)主管機(jī)構(gòu)進(jìn)行數(shù)據(jù)開放的保密/隱私風(fēng)險評估。美國針對跨政府機(jī)構(gòu)數(shù)據(jù)集在政府?dāng)?shù)據(jù)門戶網(wǎng)站發(fā)布時可能出現(xiàn)的風(fēng)險隱患,制定了《國家/領(lǐng)土安全和隱私/機(jī)密清單指南》,對限制披露的信息類型進(jìn)行詳細(xì)列表,并根據(jù)數(shù)據(jù)集類型差異提出防止受訪者識別的具體方法[26]。澳大利亞還進(jìn)一步細(xì)化了隱私風(fēng)險評估流程與框架[29](見圖4)。endprint

    (3)積極探索數(shù)據(jù)開放風(fēng)險緩解舉措。為保護(hù)數(shù)據(jù)免受盜竊、濫用等損失,有必要提前制定風(fēng)險緩解預(yù)案,即富有針對性的數(shù)據(jù)風(fēng)險應(yīng)對策略與舉措,形成數(shù)據(jù)風(fēng)險響應(yīng)機(jī)制。在大多數(shù)情況下,防范隱私泄露的主要風(fēng)險緩解方法是去除可識別信息。如英國政府羅列的數(shù)據(jù)開放風(fēng)險緩解舉措包括:從已公布的數(shù)據(jù)集中刪除可能會產(chǎn)生風(fēng)險的數(shù)據(jù)子集、降低會增加風(fēng)險的位置或時間數(shù)據(jù)的精度、以匯總表形式提供數(shù)據(jù)以降低因數(shù)據(jù)粒度而增加的風(fēng)險、發(fā)布沒有元數(shù)據(jù)的數(shù)據(jù)集或刪除敏感領(lǐng)域、要求用戶注冊/登錄訪問特定數(shù)據(jù)集的方式監(jiān)控訪問等[33]。

    3 政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對的現(xiàn)實困境與發(fā)展對策

    3.1 政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對的現(xiàn)實困境

    美國國際關(guān)系理論大師漢斯·摩根索認(rèn)為“信息技術(shù)手段在給國家政權(quán)帶來各種優(yōu)勢的同時,也給國家安全帶來了巨大的風(fēng)險和挑戰(zhàn)”[34]。筆者認(rèn)為,從本質(zhì)上講,產(chǎn)生政府?dāng)?shù)據(jù)開放風(fēng)險的原因是由于各類信息主體、信息流、信息技術(shù)以及涉及到這些舉措的利益主體之間各種因素的交叉互動與矛盾沖突,導(dǎo)致政府與社會不同組織間建立的信息網(wǎng)絡(luò)發(fā)展的不均衡和超負(fù)荷。要解決和消除政府?dāng)?shù)據(jù)開放風(fēng)險,需要從根本上破除上述發(fā)展的不平衡。

    當(dāng)前,無論是數(shù)據(jù)開放的風(fēng)險意識還是風(fēng)險識別、評估與應(yīng)對手段等尚未引起足夠的重視和充分的投入,各國政府?dāng)?shù)據(jù)開放的風(fēng)險隱患依然存在。主要表現(xiàn)為:(1)政府信息公開與數(shù)據(jù)開放之間缺乏有效銜接,無論是數(shù)據(jù)披露內(nèi)容、標(biāo)準(zhǔn)、格式、元數(shù)據(jù)還是政府信息制度,有相當(dāng)多的國家,特別是發(fā)展中國家還停留在信息公開層面的健全完善上,對于政府?dāng)?shù)據(jù)開放的基本要求、運作規(guī)律以及可能產(chǎn)生的巨大影響認(rèn)識不足;(2)風(fēng)險意識在數(shù)據(jù)管理生命周期中的缺位,全面的數(shù)據(jù)管理方法始于對信息生命周期的理解,即有效平衡各環(huán)節(jié)數(shù)據(jù)管理目標(biāo),實現(xiàn)優(yōu)化信息流、效用和信息責(zé)任的平衡。由于對政府?dāng)?shù)據(jù)開放風(fēng)險的認(rèn)識不足,各部門開放數(shù)據(jù)缺乏協(xié)調(diào)和統(tǒng)一標(biāo)準(zhǔn)的現(xiàn)象較為常見,使得一些政府組織在數(shù)據(jù)的收集加工、更新處理等環(huán)節(jié)并未設(shè)置有關(guān)保護(hù)個人隱私/國家秘密的控制;(3)對技術(shù)的強力關(guān)注容易導(dǎo)致政府?dāng)?shù)據(jù)開放風(fēng)險控制偏向于單一技術(shù),促使政府的信息保障主要停留在數(shù)據(jù)風(fēng)險的技術(shù)防范上,而忽視了制度、文化以及人員投入等多重因素的影響。

    3.2 政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對的對策

    安全是開放數(shù)據(jù)的生命線,只有有效防范和控制數(shù)據(jù)風(fēng)險事件的發(fā)生才有可能更好地開發(fā)利用政府?dāng)?shù)據(jù)。為此,各國應(yīng)積極尋求并建立政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對機(jī)制,探索出符合各自國情的數(shù)據(jù)開放風(fēng)險管理體系。具體的講,應(yīng)注意以下六方面的問題:(1)以政府總體數(shù)據(jù)安全為指導(dǎo),將風(fēng)險防范意識貫穿于政府?dāng)?shù)據(jù)管理的生命周期;(2)建立政府?dāng)?shù)據(jù)開放風(fēng)險識別與應(yīng)對機(jī)制,實現(xiàn)數(shù)據(jù)開發(fā)利用與國家安全/隱私保護(hù)的協(xié)同發(fā)展;(3)健全數(shù)據(jù)開放風(fēng)險管理的法規(guī)制度,有效平衡數(shù)據(jù)開放與隱私保護(hù)/保密的內(nèi)在利益關(guān)系;(4)加大對隱私保護(hù)/保密技術(shù)研發(fā)的投入,不斷提升政府?dāng)?shù)據(jù)安全與數(shù)據(jù)系統(tǒng)的環(huán)境安全,增強政府信息安全的保障能力;(5)明確政府?dāng)?shù)據(jù)管理人員風(fēng)險防范的職責(zé)要求,強化數(shù)據(jù)安全技能培訓(xùn),建立政府?dāng)?shù)據(jù)風(fēng)險開放的風(fēng)險評估和檢測體系,全程跟蹤并控制風(fēng)險隱患的發(fā)展;(6)建構(gòu)數(shù)據(jù)開放風(fēng)險的補救預(yù)案,對可能發(fā)生的數(shù)據(jù)風(fēng)險及其后果進(jìn)行理性預(yù)判,通過及時的補救舉措實現(xiàn)數(shù)據(jù)損失的快速修補,使數(shù)據(jù)開放風(fēng)險與危害得到合理轉(zhuǎn)移和有效控制。

    當(dāng)然,從政府信息管理的發(fā)展歷程來看,一定程度的數(shù)據(jù)開放風(fēng)險也會轉(zhuǎn)化為加強和改進(jìn)政府信息管理方法與技術(shù)、流程的重要推力,即數(shù)據(jù)風(fēng)險引發(fā)政府?dāng)?shù)據(jù)管理改革,催生數(shù)據(jù)風(fēng)險管理,促進(jìn)政府信息制度的完善與發(fā)展。但需要客觀指出的是,并非所有的政府?dāng)?shù)據(jù)開放風(fēng)險在任何情況下都可以轉(zhuǎn)化為推動政府?dāng)?shù)據(jù)管理的積極力量,只有在政府與社會各界對數(shù)據(jù)開放風(fēng)險的形成、危害等有了充分認(rèn)知和理性態(tài)度,并主動采取措施積極應(yīng)對,防患于未然才有可能起到良好的預(yù)防和推動效果。因此,從這個意義上也進(jìn)一步說明,建立政府?dāng)?shù)據(jù)開放的風(fēng)險識別與應(yīng)對機(jī)制勢在必行。

    參考文獻(xiàn):

    [1] Lóscio B F,Burle C,Calegari N.Data on the Web Best Practices.W3C First Public Working Draft(2015)[R/OL].[2016-01-21].http://www.w3.org/TR/2015/WD-dwbp-20150224/.

    [2] Alshboul A.Information Systems Security Measures and Countermeasures:Protecting Organizational Assets from Malicious Attacks[J].Communications of the Ibima,2010(486878).

    [3] David Hand.Open data is a force for good,but not without risks[EB/OL].[2016-09-16].http://www.theguardian.com/society/2012/jul/10/open-data-force-for-good-risks.

    [4] Renato Fontana.Open Data analysis to retrieve sensitive information regarding national-centric critical infrastructures[EB/OL].[2016-09-21].https://www.nlnetlabs.nl/downloads/publications/RP45%20Open%20Data%20Analysis%20-%20Critical%20infrastructures.pdf .endprint

    [5] Enserink M,Chin G.The end of privacy.Introduction[J].Science,2015,347(6221): 490-491.

    [6] Dawes S S,Pardo T A,Cresswell A M.Designing electronic government information access programs: a holistic approach[J].Government Information Quarterly,2004,21(1):3-23.

    [7] United States Government Accountability Office.FACIAL RECOGNITION TECHNOLOGY: Commercial Uses,Privacy Issues,and Applicable Federal Law[EB/OL].[2016-09-11].http://www.gao.gov/assets/680/671764.pdf.

    [8] Narayanan Arvind,Shmatikov Vitaly.Myths and fallacies of“personally identifiable information”[J].Communications of the Acm,2010,53(6): 24-26.

    [9] Tzermias Z,Prevelakis V,Ioannidis S.Privacy Risks from Public Data Sources: ICT Systems Security and Privacy Protection[M].Springer Berlin Heidelberg,2014:156-168.

    [10] 中國互聯(lián)網(wǎng)協(xié)會,國家互聯(lián)網(wǎng)應(yīng)急中心.互聯(lián)網(wǎng)已成為經(jīng)濟(jì)和民生新引擎——中國互聯(lián)網(wǎng)站發(fā)展?fàn)顩r及其安全報告[EB/OL].[2016-09-27].http://news.xinhuanet.com/zgjx/2015-03/27/c_134102201.htm.

    [11] Microsoft Corporation.Cybersecurity for open government-Security planning in the era of transparency-A Microsoft U.S.Government white paper[EB/OL].[2016-09-23].https://download.microsoft.com/download/1/1/f/11f98312-8e4c-4277-af3.

    [12] World Bank Group.Open Data Challenges and Opportunities for National Statistical Offices[EB/OL].[2016-09-22].https://www.openknowledge.worldbank.org/bitstream/handle/10986/19984/893830REVISED000Box385386B00PUBLIC0.pdf?sequence=5.

    [13] Schwartz P M.Privacy and Participation: Personal Information and Public Sector Regulation in the United States[J].Iowa Law Review,1994,80(3): 553-618.

    [14] Loenen B V,Kulk S,Ploeger H.Data protection legislation:A very hungry caterpillar[J].Government Information Quarterly,2016,33(2):338-345.

    [15] European Parliament and Council (1995).Directive 95/46/EC of the European Parliament and of the council of 24 October 1995 on the protection of individuals with regard to the processing of personal data and on the free movement of such data[EB/OL].[2016-09-28].http://www.piawatch.eu/node/305.

    [16] National Research Council (U.S.),Committee on the Human Dimensions of Global Change.Putting people on the map: protecting confidentiality with linked social-spatial data[M].Washington,DC : National Academies Press,2007.

    [17] Ram L.Kumar,Sungjune Park,Chandrasekar Subramaniam.Understanding the Value of Countermeasure Portfolios in Information Systems Security[J].Journal of Management Information Systems,2008,25(2): 241-280.endprint

    [18] Stefaan Verhulst.Aligning Supply and Demand for Better Governance[EB/OL].[2016-09-30].http://thegovlab.org/aligning-supply-and-demand-for-better-governance/.

    [19] Janssen M,Hoven J V D.Big and Open Linked Data (BOLD) in government: A challenge to transparency and privacy?[J].Government Information Quarterly,2015,32(4): 363-368.

    [20] Harrison T M,Pardo T A,Cook M.Creating Open Government Ecosystems: A Research and Development Agenda[J].Future Internet,2012,4(4): 900-928.

    [21] Shakespeare Review.An Independent Review of Public Sector Information(2013)[EB/OL].[2016-10-08].https://www.gov.uk/government/uploads/system/uploads/attachment_data/file/198752/13-744-shakespeare-review-of-public-sector-information.pdf.

    [22] European Commission.Attitudes on Data Protection and Electronic Identity in the European Union[EB/OL].[2016-09-04].http://ec.europa.eu/public_opinion/archives/ebs/ebs_359_fact_lt_en.pdf.

    [23] Wyatt Kash.States face rising risk of data security breaches[EB/OL].[2016-09-11].http://statescoop.com/state-funding-talent-shortages-hinder-security-progress-alent-funding-uphill-climb-protecting-security-officials/.

    [24] National Audit Office.The UK cyber security strategy: Landscape review[EB/OL].[2016-09-18].http://www.nao.org.uk/wp-content/uploads/2013/03/Cyber-security-Full-report.pdf.

    [25] National Audit Office:Implementing transparency[EB/OL].[2016-09-18].https://www.nao.org.uk/wp-content/uploads/2012/04/10121833.pdf.

    [26] National Homeland Security and Privacy.Confidentiality Checklist and Guidance[EB/OL].[2016-09-20].http://www.data.gov/sites/default/files/attachments/Privacy%20and%20Security%20Checklist.pdf.

    [27] Peter R.Orszag,Executive Office of the President& Office of Management and Budget.Memorandum for the Heads of Executive Departments and Agencies[EB/OL].[2016-09-23].http://www.whitehouse.gov/sites/default/files/omb/assets/memoranda_2010/m10-06.pdf.

    [28] Sylvia M.Burwell,Steven VanRoekel,Todd Park.Executive Office of the President& Office of Management and Budget.Memorandum for the Heads of Executive Departments and Agencies[EB/OL].[2016-09-23].https://www.whitehouse.gov/sites/default/files/omb/memoranda/2013/m-13-13.pdf.

    [29] the Office of the Chief Information Officer,Government of South Australia.Open Data Guide to Security Classification[EB/OL].[2016-09-25].https://data.sa.gov.au/sites/default/files/Open%20Data%20Guide%20to%20Security%20and%20Classification.pdf.

    [30] Open Data: Adopting a security-minded approach[EB/OL].[2016-09-25].http://www.cpni.gov.uk/advice/Cross-cutting-advice/Open-data/.

    [31] Ku?觬era J,Chlapek D.Benefits and Risks of Open Government Data[J].Journal of Systems Integration,2014,5(1):30-41.

    [32] UNPAN.UN e-Government Survey 2014.E-Government for the Future We Want[EB/OL].[2016-09-25].https://publicadministration.un.org/egovkb/Portals/egovkb/Documents/un/2014-Survey/E-Gov_Complete_Survey-2014.pdf.

    [33] Centre for the Protection of National Infrastructure (CPNI).Open Data: The need for a security-minded approach[EB/OL].[2016-10-15].www.cpni.gov.uk/documents/publications/2015/25%20nov.

    [34] (美)漢斯·摩根索.徐昕,郝望,等譯.國家間政治權(quán)力斗爭與和平[M].北京:北京大學(xué)出版社,2005:156.

    作者簡介:才世杰,武漢大學(xué)信息管理學(xué)院博士研究生;夏義堃,武漢大學(xué)信息資源研究中心兼職研究員,研究方向:政府信息資源管理、電子政務(wù)。endprint

    亚洲熟女毛片儿| 日本vs欧美在线观看视频| 精品人妻熟女毛片av久久网站| 国产在线观看jvid| 99久久人妻综合| 国产精品影院久久| 一本久久精品| 久久99热这里只频精品6学生| 久久久久久久精品精品| 淫妇啪啪啪对白视频 | 欧美 亚洲 国产 日韩一| 啦啦啦视频在线资源免费观看| 免费一级毛片在线播放高清视频 | 国产精品九九99| 国产精品久久久人人做人人爽| 在线观看免费视频网站a站| 国产野战对白在线观看| 精品人妻1区二区| 亚洲全国av大片| 18禁观看日本| 久久久久久久大尺度免费视频| 日韩中文字幕欧美一区二区| 建设人人有责人人尽责人人享有的| 国产精品久久久久成人av| 精品高清国产在线一区| 精品国产乱子伦一区二区三区 | 丝瓜视频免费看黄片| 麻豆乱淫一区二区| 下体分泌物呈黄色| 欧美性长视频在线观看| 看免费av毛片| 成人18禁高潮啪啪吃奶动态图| 2018国产大陆天天弄谢| 午夜精品久久久久久毛片777| 欧美日韩视频精品一区| 99香蕉大伊视频| 18禁黄网站禁片午夜丰满| 制服诱惑二区| 如日韩欧美国产精品一区二区三区| 色精品久久人妻99蜜桃| 满18在线观看网站| 亚洲国产精品一区二区三区在线| 欧美xxⅹ黑人| 亚洲性夜色夜夜综合| 久久女婷五月综合色啪小说| 国产精品一区二区在线观看99| 国产免费现黄频在线看| 大陆偷拍与自拍| 国产精品av久久久久免费| 99国产综合亚洲精品| 成在线人永久免费视频| 日本a在线网址| 久久九九热精品免费| 久久香蕉激情| 视频在线观看一区二区三区| 亚洲黑人精品在线| 最近最新中文字幕大全免费视频| 亚洲人成77777在线视频| 国产av精品麻豆| 国产精品自产拍在线观看55亚洲 | 久久综合国产亚洲精品| 成人影院久久| 久久久久久久久免费视频了| 丁香六月欧美| 亚洲欧美清纯卡通| 夜夜骑夜夜射夜夜干| 一本大道久久a久久精品| 男人爽女人下面视频在线观看| 亚洲欧美清纯卡通| 亚洲自偷自拍图片 自拍| 又紧又爽又黄一区二区| 亚洲专区国产一区二区| 欧美日韩av久久| 免费日韩欧美在线观看| 97精品久久久久久久久久精品| 两性午夜刺激爽爽歪歪视频在线观看 | 91精品伊人久久大香线蕉| 看免费av毛片| 色播在线永久视频| 高清欧美精品videossex| 欧美日韩av久久| 亚洲午夜精品一区,二区,三区| 满18在线观看网站| 亚洲九九香蕉| 成在线人永久免费视频| 性色av乱码一区二区三区2| 久久精品国产亚洲av高清一级| 最近最新中文字幕大全免费视频| 麻豆av在线久日| 美国免费a级毛片| 久久久久久久精品精品| 精品国内亚洲2022精品成人 | 久久精品国产a三级三级三级| 国产一区有黄有色的免费视频| 国产淫语在线视频| 日本黄色日本黄色录像| 精品国产一区二区三区久久久樱花| 国产色视频综合| 久久这里只有精品19| 18禁黄网站禁片午夜丰满| 日本撒尿小便嘘嘘汇集6| 在线av久久热| 法律面前人人平等表现在哪些方面 | 我的亚洲天堂| 久久国产亚洲av麻豆专区| 亚洲自偷自拍图片 自拍| 亚洲精品成人av观看孕妇| 丝袜脚勾引网站| 狂野欧美激情性bbbbbb| av免费在线观看网站| 国产精品一二三区在线看| 91字幕亚洲| 久久久国产欧美日韩av| 日韩视频在线欧美| 亚洲欧美色中文字幕在线| av欧美777| 精品少妇黑人巨大在线播放| 国产精品自产拍在线观看55亚洲 | 午夜91福利影院| 亚洲av片天天在线观看| 国产精品久久久久久人妻精品电影 | 又紧又爽又黄一区二区| 国产亚洲av高清不卡| 好男人电影高清在线观看| 免费少妇av软件| 国产又色又爽无遮挡免| 在线天堂中文资源库| 黄色视频,在线免费观看| 中亚洲国语对白在线视频| 制服诱惑二区| 国产97色在线日韩免费| 欧美中文综合在线视频| 伦理电影免费视频| 多毛熟女@视频| 制服人妻中文乱码| 国产免费一区二区三区四区乱码| 欧美 亚洲 国产 日韩一| 久热爱精品视频在线9| 国产亚洲一区二区精品| 纯流量卡能插随身wifi吗| 精品国产超薄肉色丝袜足j| 午夜视频精品福利| 亚洲国产毛片av蜜桃av| 国产亚洲精品第一综合不卡| 巨乳人妻的诱惑在线观看| 精品视频人人做人人爽| 欧美精品高潮呻吟av久久| 亚洲精品久久成人aⅴ小说| kizo精华| 精品国产一区二区三区久久久樱花| 中文字幕人妻丝袜制服| 伊人亚洲综合成人网| 亚洲国产av影院在线观看| 91大片在线观看| 久久国产亚洲av麻豆专区| 欧美 亚洲 国产 日韩一| 精品国产超薄肉色丝袜足j| 乱人伦中国视频| 午夜福利乱码中文字幕| 国产欧美日韩精品亚洲av| 中文字幕另类日韩欧美亚洲嫩草| 欧美精品人与动牲交sv欧美| 久久精品久久久久久噜噜老黄| 69精品国产乱码久久久| 亚洲精品乱久久久久久| 50天的宝宝边吃奶边哭怎么回事| 无限看片的www在线观看| 一级a爱视频在线免费观看| 丝瓜视频免费看黄片| av视频免费观看在线观看| 午夜福利在线免费观看网站| 国产精品久久久久久人妻精品电影 | 亚洲国产看品久久| 国产在线视频一区二区| 免费观看人在逋| 超色免费av| av网站在线播放免费| 一区二区三区四区激情视频| 一本大道久久a久久精品| 国产精品久久久久久精品电影小说| 老司机靠b影院| 男人添女人高潮全过程视频| 午夜福利免费观看在线| 男女下面插进去视频免费观看| 亚洲伊人色综图| 搡老熟女国产l中国老女人| 国产精品久久久久成人av| 亚洲午夜精品一区,二区,三区| 纯流量卡能插随身wifi吗| 久久国产精品男人的天堂亚洲| 午夜福利一区二区在线看| 国产精品.久久久| 亚洲av欧美aⅴ国产| 日韩一卡2卡3卡4卡2021年| 9色porny在线观看| 欧美激情久久久久久爽电影 | 亚洲国产欧美在线一区| 精品国产乱子伦一区二区三区 | 色94色欧美一区二区| 国产亚洲精品久久久久5区| 香蕉国产在线看| 国产精品 欧美亚洲| 久久99热这里只频精品6学生| 欧美日韩av久久| 国产亚洲精品第一综合不卡| 热99久久久久精品小说推荐| 最近中文字幕2019免费版| 别揉我奶头~嗯~啊~动态视频 | 欧美黑人精品巨大| 亚洲中文av在线| 欧美日韩成人在线一区二区| 午夜激情久久久久久久| 天天躁日日躁夜夜躁夜夜| 国产成人欧美| 久久久国产精品麻豆| 青草久久国产| 在线av久久热| 中文字幕av电影在线播放| 曰老女人黄片| 久久久国产欧美日韩av| 久久av网站| 欧美精品一区二区大全| 精品国产乱码久久久久久小说| 久久久国产一区二区| 9191精品国产免费久久| 一级a爱视频在线免费观看| 亚洲国产毛片av蜜桃av| 国产有黄有色有爽视频| 在线观看免费午夜福利视频| 高潮久久久久久久久久久不卡| 亚洲欧美精品综合一区二区三区| 波多野结衣av一区二区av| 欧美日韩中文字幕国产精品一区二区三区 | 成人免费观看视频高清| 亚洲国产欧美一区二区综合| 老司机午夜十八禁免费视频| 久久久久久久精品精品| 日韩中文字幕欧美一区二区| 一区福利在线观看| 黄频高清免费视频| 亚洲免费av在线视频| 久久国产亚洲av麻豆专区| 亚洲全国av大片| 99精品欧美一区二区三区四区| 日本a在线网址| 久久久精品国产亚洲av高清涩受| 日日夜夜操网爽| 精品国产超薄肉色丝袜足j| 欧美变态另类bdsm刘玥| 亚洲九九香蕉| 国产成人av教育| 国产99久久九九免费精品| 婷婷色av中文字幕| 国产一卡二卡三卡精品| 狠狠狠狠99中文字幕| 精品久久蜜臀av无| 亚洲中文日韩欧美视频| 超碰97精品在线观看| avwww免费| 欧美xxⅹ黑人| 国产麻豆69| 少妇猛男粗大的猛烈进出视频| 欧美 日韩 精品 国产| 日韩欧美一区二区三区在线观看 | 亚洲免费av在线视频| 啦啦啦在线免费观看视频4| 亚洲精品第二区| 国产精品久久久人人做人人爽| 伊人亚洲综合成人网| 欧美国产精品一级二级三级| 女人爽到高潮嗷嗷叫在线视频| 纯流量卡能插随身wifi吗| 高清视频免费观看一区二区| 亚洲精品日韩在线中文字幕| 法律面前人人平等表现在哪些方面 | 精品国产超薄肉色丝袜足j| 久久久欧美国产精品| 亚洲七黄色美女视频| 777米奇影视久久| 黑人操中国人逼视频| 亚洲 国产 在线| 亚洲av日韩精品久久久久久密| 美女主播在线视频| 国产成人av激情在线播放| 亚洲精品一卡2卡三卡4卡5卡 | 亚洲精品中文字幕一二三四区 | 91麻豆av在线| av不卡在线播放| 无遮挡黄片免费观看| 91成年电影在线观看| 性少妇av在线| 50天的宝宝边吃奶边哭怎么回事| 日韩中文字幕欧美一区二区| 欧美黑人欧美精品刺激| 最近中文字幕2019免费版| 久久精品成人免费网站| 国产亚洲欧美精品永久| 亚洲va日本ⅴa欧美va伊人久久 | 男女之事视频高清在线观看| 国产区一区二久久| 王馨瑶露胸无遮挡在线观看| 欧美日韩亚洲高清精品| 啦啦啦 在线观看视频| 中文字幕人妻熟女乱码| 免费在线观看日本一区| 国产高清视频在线播放一区 | 亚洲欧洲精品一区二区精品久久久| 日韩 亚洲 欧美在线| 热99久久久久精品小说推荐| 在线观看免费日韩欧美大片| 午夜免费鲁丝| 乱人伦中国视频| 最近中文字幕2019免费版| 菩萨蛮人人尽说江南好唐韦庄| av电影中文网址| 欧美精品高潮呻吟av久久| 永久免费av网站大全| 成人三级做爰电影| 国产精品一区二区精品视频观看| 久久精品aⅴ一区二区三区四区| 国产黄色免费在线视频| 欧美久久黑人一区二区| 国产精品免费视频内射| 欧美激情 高清一区二区三区| 国产熟女午夜一区二区三区| 久久久久久久精品精品| 国产亚洲精品第一综合不卡| 欧美日韩亚洲综合一区二区三区_| 女人精品久久久久毛片| 无限看片的www在线观看| av视频免费观看在线观看| 免费高清在线观看视频在线观看| 亚洲av电影在线观看一区二区三区| 亚洲精品国产区一区二| 国产精品一区二区在线观看99| 少妇人妻久久综合中文| 两性午夜刺激爽爽歪歪视频在线观看 | 汤姆久久久久久久影院中文字幕| 成人18禁高潮啪啪吃奶动态图| 啦啦啦啦在线视频资源| 亚洲精品美女久久久久99蜜臀| 日本wwww免费看| 日韩免费高清中文字幕av| h视频一区二区三区| 国产色视频综合| 美女福利国产在线| 天天影视国产精品| 免费看十八禁软件| 国产99久久九九免费精品| 91成人精品电影| 欧美精品人与动牲交sv欧美| 久久综合国产亚洲精品| 中文字幕制服av| 精品免费久久久久久久清纯 | 国产亚洲欧美在线一区二区| 色婷婷av一区二区三区视频| 曰老女人黄片| 亚洲久久久国产精品| 国产精品秋霞免费鲁丝片| 免费在线观看视频国产中文字幕亚洲 | 久久人妻熟女aⅴ| 多毛熟女@视频| 九色亚洲精品在线播放| 在线观看免费视频网站a站| 久久国产精品大桥未久av| 国产精品久久久久久人妻精品电影 | 国产精品久久久久成人av| 中国国产av一级| 亚洲一卡2卡3卡4卡5卡精品中文| 叶爱在线成人免费视频播放| 欧美成狂野欧美在线观看| 亚洲 欧美一区二区三区| 精品亚洲乱码少妇综合久久| 国产精品av久久久久免费| 国产精品免费大片| 亚洲三区欧美一区| 日韩熟女老妇一区二区性免费视频| 久久久久国产一级毛片高清牌| 亚洲三区欧美一区| 美女高潮到喷水免费观看| 成人国产av品久久久| 一二三四社区在线视频社区8| 亚洲国产av影院在线观看| 色婷婷久久久亚洲欧美| 久热这里只有精品99| 成人手机av| 夜夜骑夜夜射夜夜干| 久久天堂一区二区三区四区| 欧美精品一区二区免费开放| 亚洲国产欧美网| videos熟女内射| 亚洲激情五月婷婷啪啪| 啦啦啦视频在线资源免费观看| 国产xxxxx性猛交| 国产精品偷伦视频观看了| 精品高清国产在线一区| 久久精品熟女亚洲av麻豆精品| 大香蕉久久成人网| 亚洲中文日韩欧美视频| 亚洲精品久久成人aⅴ小说| tocl精华| 免费在线观看视频国产中文字幕亚洲 | 99国产综合亚洲精品| svipshipincom国产片| 建设人人有责人人尽责人人享有的| 国产成人精品在线电影| 欧美中文综合在线视频| 自线自在国产av| 麻豆av在线久日| 亚洲av片天天在线观看| 久热这里只有精品99| 亚洲欧美成人综合另类久久久| 丝袜脚勾引网站| www.av在线官网国产| 人妻久久中文字幕网| 热re99久久精品国产66热6| 91av网站免费观看| 日本撒尿小便嘘嘘汇集6| 午夜两性在线视频| 美女脱内裤让男人舔精品视频| 成人影院久久| 久久久久久久国产电影| 亚洲国产精品一区二区三区在线| 一区二区三区四区激情视频| 午夜福利乱码中文字幕| 视频区图区小说| 日韩 亚洲 欧美在线| 黄色视频不卡| 大片电影免费在线观看免费| 久久久久久久大尺度免费视频| 少妇裸体淫交视频免费看高清 | 午夜福利一区二区在线看| 69精品国产乱码久久久| 老熟妇乱子伦视频在线观看 | 精品一区二区三区四区五区乱码| 国产极品粉嫩免费观看在线| 欧美国产精品一级二级三级| 男人舔女人的私密视频| 亚洲精华国产精华精| 色播在线永久视频| 久久国产精品男人的天堂亚洲| av福利片在线| 欧美成人午夜精品| 亚洲九九香蕉| 亚洲 欧美一区二区三区| 成年动漫av网址| 精品久久久久久电影网| 精品少妇一区二区三区视频日本电影| 成人亚洲精品一区在线观看| 国产亚洲午夜精品一区二区久久| 国产成人欧美| 最近最新中文字幕大全免费视频| 国产免费视频播放在线视频| kizo精华| 2018国产大陆天天弄谢| 精品亚洲乱码少妇综合久久| 国产欧美日韩一区二区精品| 久久久久国产精品人妻一区二区| 精品国产一区二区三区久久久樱花| 欧美久久黑人一区二区| 精品一品国产午夜福利视频| 99热网站在线观看| 亚洲精品中文字幕在线视频| 大型av网站在线播放| 男男h啪啪无遮挡| 精品人妻熟女毛片av久久网站| 亚洲欧洲日产国产| 97在线人人人人妻| 麻豆国产av国片精品| 欧美精品亚洲一区二区| 黄色视频,在线免费观看| 精品少妇久久久久久888优播| 午夜福利视频在线观看免费| 99精品久久久久人妻精品| 国产精品1区2区在线观看. | 操美女的视频在线观看| 一级黄色大片毛片| 男女之事视频高清在线观看| 久久 成人 亚洲| 亚洲男人天堂网一区| 午夜成年电影在线免费观看| 97在线人人人人妻| 69精品国产乱码久久久| 久久久精品区二区三区| 啪啪无遮挡十八禁网站| 无限看片的www在线观看| 国产亚洲欧美在线一区二区| 9色porny在线观看| 热99久久久久精品小说推荐| 国产成人欧美在线观看 | 成人三级做爰电影| 自线自在国产av| 亚洲天堂av无毛| 久久久精品区二区三区| 午夜福利在线观看吧| 五月天丁香电影| 亚洲性夜色夜夜综合| 国产av国产精品国产| 久久中文看片网| 国产高清videossex| 久热这里只有精品99| 波多野结衣一区麻豆| a 毛片基地| 在线看a的网站| 老司机亚洲免费影院| 亚洲av电影在线进入| 亚洲色图综合在线观看| 亚洲国产精品999| 免费av中文字幕在线| 男女无遮挡免费网站观看| 亚洲第一欧美日韩一区二区三区 | 一本大道久久a久久精品| 99精国产麻豆久久婷婷| 午夜福利视频精品| 亚洲精品粉嫩美女一区| 精品少妇久久久久久888优播| 亚洲男人天堂网一区| 国产精品一区二区在线不卡| 久久亚洲精品不卡| 亚洲欧洲日产国产| 青春草视频在线免费观看| 午夜激情久久久久久久| 国产一区有黄有色的免费视频| 十分钟在线观看高清视频www| 国产深夜福利视频在线观看| 一进一出抽搐动态| 999久久久国产精品视频| 亚洲一卡2卡3卡4卡5卡精品中文| 欧美亚洲日本最大视频资源| 亚洲精品日韩在线中文字幕| 狂野欧美激情性bbbbbb| 69av精品久久久久久 | 手机成人av网站| 永久免费av网站大全| 免费日韩欧美在线观看| 亚洲精品中文字幕一二三四区 | 国产精品99久久99久久久不卡| av超薄肉色丝袜交足视频| 色婷婷久久久亚洲欧美| 高清黄色对白视频在线免费看| 在线 av 中文字幕| 欧美在线一区亚洲| 精品福利观看| 欧美精品人与动牲交sv欧美| 老司机亚洲免费影院| 51午夜福利影视在线观看| 日本撒尿小便嘘嘘汇集6| 悠悠久久av| 亚洲色图 男人天堂 中文字幕| 久久久久久免费高清国产稀缺| 国产精品成人在线| 另类精品久久| a在线观看视频网站| 国产无遮挡羞羞视频在线观看| 男女边摸边吃奶| 亚洲成人免费电影在线观看| 久久性视频一级片| 婷婷成人精品国产| 亚洲天堂av无毛| 亚洲专区中文字幕在线| 精品久久久久久电影网| av在线app专区| 菩萨蛮人人尽说江南好唐韦庄| av线在线观看网站| 女人精品久久久久毛片| 成年av动漫网址| 99久久国产精品久久久| 十八禁高潮呻吟视频| 亚洲av男天堂| 丝袜喷水一区| 自拍欧美九色日韩亚洲蝌蚪91| 国产在线观看jvid| 中文字幕色久视频| 波多野结衣av一区二区av| 操美女的视频在线观看| 美女视频免费永久观看网站| 亚洲五月婷婷丁香| 国产精品一二三区在线看| 麻豆国产av国片精品| 成人国产一区最新在线观看| 一区二区av电影网| 国产精品久久久久久精品古装| 国产av又大| 欧美 日韩 精品 国产| 精品久久久久久电影网| 男女午夜视频在线观看| 亚洲av男天堂| 少妇精品久久久久久久| 色综合欧美亚洲国产小说| 午夜福利一区二区在线看| 国产精品一区二区在线不卡| kizo精华| 淫妇啪啪啪对白视频 | 制服诱惑二区| www.自偷自拍.com| 性少妇av在线| 精品人妻一区二区三区麻豆| 首页视频小说图片口味搜索| 美女中出高潮动态图| 丰满迷人的少妇在线观看| 19禁男女啪啪无遮挡网站| 99久久综合免费| 欧美xxⅹ黑人| 亚洲欧美激情在线| 一区在线观看完整版| 97在线人人人人妻| 一级片'在线观看视频| 国产又色又爽无遮挡免| 免费在线观看日本一区| 久久女婷五月综合色啪小说| 夜夜骑夜夜射夜夜干| 国产精品久久久久久人妻精品电影 | 首页视频小说图片口味搜索| 天天影视国产精品| 色综合欧美亚洲国产小说|