• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)時(shí)代學(xué)習(xí)者隱私保護(hù)問題及策略

    2018-03-21 04:51:50李青李瑩瑩
    中國遠(yuǎn)程教育 2018年1期
    關(guān)鍵詞:教育大數(shù)據(jù)隱私保護(hù)教育信息化

    李青 李瑩瑩

    【摘 要】

    大數(shù)據(jù)給人們生活的各個(gè)方面都帶來了諸多便利,但大數(shù)據(jù)的普及也帶來了隱私泄露的風(fēng)險(xiǎn)。教育信息化的推進(jìn),使得數(shù)據(jù)隱私在教育領(lǐng)域變得更加重要。通過分析國內(nèi)外關(guān)于學(xué)習(xí)者隱私保護(hù)的研究現(xiàn)狀,本研究總結(jié)了教育大數(shù)據(jù)相對(duì)于一般大數(shù)據(jù)的獨(dú)特之處以及使用教育大數(shù)據(jù)的隱私倫理問題,進(jìn)而討論學(xué)習(xí)者隱私保護(hù)面臨的挑戰(zhàn),包括侵犯隱私行為的復(fù)雜性、缺乏管理隱私信息的經(jīng)驗(yàn)以及難以獲得各方在使用和保護(hù)方面的平衡。文章通過inBloom、Piazza和Edmodo三個(gè)典型案例討論了大數(shù)據(jù)時(shí)代教育領(lǐng)域隱私保護(hù)的經(jīng)驗(yàn)和教訓(xùn);提出了立法、數(shù)據(jù)倫理、行業(yè)自律、政府監(jiān)管等對(duì)應(yīng)策略,形成合理利用數(shù)據(jù)的良好氛圍,以充分利用大數(shù)據(jù)的力量推動(dòng)教育進(jìn)步。

    【關(guān)鍵詞】 教育信息化;教育大數(shù)據(jù);隱私保護(hù);數(shù)據(jù)倫理;學(xué)習(xí)者隱私

    【中圖分類號(hào)】 G642.0 【文獻(xiàn)標(biāo)識(shí)碼】 A 【文章編號(hào)】 1009-458x(2018)1-0029-08

    引言

    人類正步入大數(shù)據(jù)時(shí)代,大數(shù)據(jù)給人們生活的各個(gè)方面都帶來了諸多便利。得益于云計(jì)算、物聯(lián)網(wǎng)等現(xiàn)代信息技術(shù)的持續(xù)發(fā)展與突破,大數(shù)據(jù)應(yīng)用在最近幾年迎來了井噴式發(fā)展,給經(jīng)濟(jì)和社會(huì)的發(fā)展帶來了益處。但是,任何事物都是雙刃劍,大數(shù)據(jù)的普及也帶來了隱私泄露的風(fēng)險(xiǎn)。隱私作為現(xiàn)代人的一項(xiàng)基本權(quán)利正在迅速退出生活,侵害隱私權(quán)的事件無時(shí)無刻不在發(fā)生。各種在線平臺(tái)收集了用戶的海量信息,通過大數(shù)據(jù)分析,把人的行為進(jìn)行放大,把原來散落在各處的信息匯集處理,從而能夠相對(duì)準(zhǔn)確地發(fā)掘出個(gè)人的隱私數(shù)據(jù)。傳統(tǒng)的隱私保護(hù)法規(guī)不能很好地跟上技術(shù)發(fā)展的腳步,也不能滿足人們高效使用數(shù)據(jù)的需要。大數(shù)據(jù)時(shí)代到來后,這種矛盾正在加劇。

    而在教育領(lǐng)域,隨著教育信息化的發(fā)展,越來越多的學(xué)習(xí)者信息為各種系統(tǒng)所獲取和利用,其中也包含一定數(shù)量的隱私信息。不同于一般的消費(fèi)領(lǐng)域,數(shù)據(jù)隱私在教育領(lǐng)域更加重要,不僅涉及孩子成長、家庭希望,也關(guān)系到社會(huì)發(fā)展甚至國家安全,其影響不可小覷,值得我們關(guān)注和深入探究。目前,國內(nèi)對(duì)教育大數(shù)據(jù)的研究主要還集中在數(shù)據(jù)挖掘、學(xué)習(xí)分析和思維創(chuàng)新等方面,對(duì)于大數(shù)據(jù)開發(fā)利用過程中學(xué)習(xí)者隱私保護(hù)所面臨的挑戰(zhàn)以及保護(hù)策略的研究還比較少見。本研究將分析國內(nèi)外大數(shù)據(jù)時(shí)代背景下學(xué)習(xí)者隱私保護(hù)研究現(xiàn)狀,詳述學(xué)習(xí)者數(shù)據(jù)隱私保護(hù)面臨的挑戰(zhàn),并給出相應(yīng)的建議,以期推動(dòng)國內(nèi)教育大數(shù)據(jù)下學(xué)習(xí)者隱私保護(hù)實(shí)踐進(jìn)程。

    一、研究現(xiàn)狀

    國外學(xué)者開展教育大數(shù)據(jù)下的學(xué)習(xí)者隱私保護(hù)問題研究較早,取得了一些研究成果。在倫理道德方面,約翰遜(Johnson, 2014)闡述了大數(shù)據(jù)技術(shù)在高等教育領(lǐng)域運(yùn)用的潛在優(yōu)勢及其帶來的倫理道德問題和社會(huì)挑戰(zhàn),提出要審慎地應(yīng)用大數(shù)據(jù)技術(shù),保護(hù)信息的語境完整,確保數(shù)據(jù)挖掘的科學(xué)性和規(guī)范性。魯貝爾和瓊斯(Rubel & Jones, 2016)對(duì)學(xué)習(xí)分析是推進(jìn)教育還是侵犯了隱私并與教育目標(biāo)相違背提出疑問,討論了學(xué)習(xí)分析中存在的隱私保護(hù)漏洞,認(rèn)為需要明確信息收集的范圍、判斷學(xué)習(xí)分析結(jié)論的合理性以及堅(jiān)持學(xué)生在信息收集方面的自主權(quán)益性等。

    另外一些學(xué)者則關(guān)注隱私保護(hù)的法律措施。特雷納(Trainor, 2015)探討了通過《家庭教育權(quán)利和隱私法》(FERPA)、《保護(hù)學(xué)生權(quán)利修正案》(PPRA)等法令建立保護(hù)學(xué)生數(shù)據(jù)的法律框架,并就學(xué)習(xí)者數(shù)據(jù)所有權(quán)和使用權(quán)問題對(duì)現(xiàn)有聯(lián)邦法律條文提出修改建儀。克勞福德和舒爾茨(Crawford & Schultz, 2014)認(rèn)為法庭和行政管理中傳統(tǒng)的正當(dāng)法律程序可能非常適合管理大數(shù)據(jù)個(gè)人隱私,從而提出一種降低預(yù)測性隱私危害的新方法——程序性數(shù)據(jù)正當(dāng)法律程序權(quán)。巴恩斯和科瓦爾斯基(Barnes & Kowalski, 2016)從行政管理的角度出發(fā),提出應(yīng)在國家層面保護(hù)學(xué)生隱私,并應(yīng)幫助教育部門提高保護(hù)學(xué)生信息的能力,減輕地方政府保護(hù)學(xué)生數(shù)據(jù)隱私的壓力。

    在學(xué)生隱私自我管理方面,普林斯洛和斯萊德(Prinsloo & Slade, 2015,pp.83-92)探討了與知情同意權(quán)相關(guān)的問題并認(rèn)為學(xué)生在隱私自我管理上可以有多種選擇,如直接限制數(shù)據(jù)的使用,或按照范圍、背景和時(shí)間部分同意以及允許獲取和使用數(shù)據(jù),隨后可以根據(jù)具體情況撤銷同意或更改同意的范圍。伊芬泰勒和舒馬赫(Ifenthaler & Schumacher, 2016)發(fā)現(xiàn)學(xué)生一方面期望學(xué)習(xí)分析系統(tǒng)能夠提供個(gè)性化的學(xué)習(xí),另一方面在數(shù)據(jù)共享方面相當(dāng)保守,他們認(rèn)為應(yīng)在數(shù)據(jù)使用和隱私保護(hù)上尋找平衡點(diǎn),所有利益相關(guān)者都需要平等參與,并明確學(xué)生愿意為學(xué)習(xí)分析系統(tǒng)分享相關(guān)數(shù)據(jù)的條件。

    而在國內(nèi),大數(shù)據(jù)隱私保護(hù)的話題進(jìn)入人們視線的時(shí)間不長,先是從信息和互聯(lián)網(wǎng)領(lǐng)域開始。2013年,中國計(jì)算機(jī)學(xué)會(huì)(CCF)大數(shù)據(jù)專家委員會(huì)發(fā)布了《大數(shù)據(jù)熱點(diǎn)問題與發(fā)展趨勢》和《大數(shù)據(jù)白皮書》,其中提到了隱私保護(hù)的風(fēng)險(xiǎn)(黃成鵬, 2015)。一些學(xué)者從立法層面對(duì)此進(jìn)行了探討。王學(xué)輝等(2015)認(rèn)為公私法“整合”保護(hù)模式是“大數(shù)據(jù)時(shí)代”公民個(gè)人信息隱私法律保護(hù)發(fā)展的應(yīng)然選擇;李汶龍(2015)討論了數(shù)據(jù)保護(hù)立法中的“遺忘權(quán)”問題。在道德倫理層面,薛孚等(2015)探究了隱私倫理的挑戰(zhàn)及導(dǎo)致隱私倫理問題產(chǎn)生的原因,提出了相應(yīng)的解決策略,認(rèn)為價(jià)值和行為的一致性是問題的解決之道。在政府管理方面,王澤群(2016)通過論述大數(shù)據(jù)時(shí)代政府角色定位與職能轉(zhuǎn)變,提出政府在大數(shù)據(jù)隱私保護(hù)中職能的重塑;劉凌等(2017)通過對(duì)國內(nèi)外大數(shù)據(jù)背景下政府開放數(shù)據(jù)過程中出現(xiàn)的個(gè)人隱私缺乏保護(hù)的現(xiàn)狀進(jìn)行分析,明確目前的隱私保護(hù)挑戰(zhàn)并歸納出合理的分析框架。在中外比較研究方面,張曉娟等(2016)梳理了中美在政府?dāng)?shù)據(jù)開放和個(gè)人隱私保護(hù)方面的各項(xiàng)政策和法律法規(guī);還有研究者(王敏, 等, 2016)對(duì)大數(shù)據(jù)時(shí)代中美雙方隱私保護(hù)最新法規(guī)進(jìn)行比較分析。

    國內(nèi)教育領(lǐng)域關(guān)于學(xué)生隱私數(shù)據(jù)保護(hù)的研究剛剛開始,以介紹國外經(jīng)驗(yàn)為主。胡一丹(2015)介紹了美國教育部于2015年發(fā)布的保護(hù)學(xué)生在線隱私數(shù)據(jù)的服務(wù)指南;王正青(2016)分析了大數(shù)據(jù)時(shí)代美國學(xué)生數(shù)據(jù)隱私保護(hù)立法與治理體系以及對(duì)我國學(xué)生隱私保護(hù)的啟示。還有學(xué)者從隱私安全基本需求、隱私等級(jí)設(shè)置、隱私安全風(fēng)險(xiǎn)三個(gè)維度對(duì)大數(shù)據(jù)時(shí)代下教育隱私保護(hù)進(jìn)行了討論(周孟,等, 2016)。

    目前,專門討論大數(shù)據(jù)時(shí)代學(xué)習(xí)者隱私保護(hù)的研究寥寥無幾,需要我國教育領(lǐng)域的專家學(xué)者潛心研究該方面的內(nèi)容,借鑒信息技術(shù)行業(yè)領(lǐng)域隱私保護(hù)的具體措施,充分發(fā)揮大數(shù)據(jù)給教育帶來的利好,同時(shí)最大限度地減少可能造成的危害。

    二、教育大數(shù)據(jù)下學(xué)習(xí)者的數(shù)據(jù)隱私

    目前,教育大數(shù)據(jù)還沒有一個(gè)準(zhǔn)確的定義,它除了具有大數(shù)據(jù)的一般共性外,還具有行業(yè)特征:其一是教育大數(shù)據(jù)的內(nèi)容復(fù)雜,既包括教學(xué)活動(dòng)數(shù)據(jù),也包括教育管理數(shù)據(jù),還涉及校園生活乃至社會(huì)生活中與教育、培訓(xùn)相關(guān)的各種其他數(shù)據(jù)。其二,除了對(duì)相關(guān)關(guān)系的探索,教育大數(shù)據(jù)也強(qiáng)調(diào)明確的因果關(guān)系(楊現(xiàn)民,等, 2016)。教育以培養(yǎng)人為根本目的,不僅要知其然,更要知其所以然。使用大數(shù)據(jù)進(jìn)行分析的目的在于剖析教育問題發(fā)生的本質(zhì)原因,反思教育教學(xué)活動(dòng),從根本上提高教學(xué)水平。其三,所有權(quán)關(guān)系不明確是教育大數(shù)據(jù)的另一個(gè)特點(diǎn)(唐亮, 2016)。數(shù)據(jù)不僅包括學(xué)生自愿分享的信息,也包括在學(xué)校、教師、第三方教育機(jī)構(gòu)和政府要求下提供的信息,涉及多方利益相關(guān)者。學(xué)習(xí)者的隱私信息如果泄露,責(zé)任主體將難以界定。除此之外,教育大數(shù)據(jù)還具有實(shí)時(shí)性、真實(shí)性以及決策性更強(qiáng)等特點(diǎn)(唐斯斯, 等, 2015, pp.143-145),但是隨著信息技術(shù)的發(fā)展其特點(diǎn)也會(huì)動(dòng)態(tài)變化。

    (一)教育大數(shù)據(jù)下的學(xué)習(xí)者隱私

    一般來說,隱私的主體是人,客體是主體不愿意公開披露的個(gè)人事務(wù)與個(gè)人信息。有學(xué)者根據(jù)來源的不同,將大數(shù)據(jù)隱私分為監(jiān)視帶來的隱私(通過技術(shù)手段收集跟蹤個(gè)人信息)、披露帶來的隱私(無意或故意向第三方透露數(shù)據(jù))以及歧視帶來的隱私(由于信息不透明的歧視而產(chǎn)生的隱私泄露)(孟小峰,等, 2015)。涉及學(xué)生隱私的數(shù)據(jù)不僅有與學(xué)習(xí)直接相關(guān)的信息(如學(xué)習(xí)記錄、學(xué)習(xí)結(jié)果等),也包括學(xué)生管理信息(如考勤情況、監(jiān)護(hù)人信息、健康程度等),還可能包含校園生活中采集的其他數(shù)據(jù)(如就餐數(shù)據(jù)、體育鍛煉數(shù)據(jù))。教育大數(shù)據(jù)的重組、分析、挖掘有可能會(huì)引發(fā)一系列涉及學(xué)習(xí)者隱私的問題。

    首先,隱私泄露影響學(xué)生人身安全和言論自由。大數(shù)據(jù)的運(yùn)用能夠?yàn)閷W(xué)習(xí)者提供個(gè)性化服務(wù),但對(duì)海量數(shù)據(jù)進(jìn)行分析有大面積披露他人數(shù)據(jù)隱私的潛在危險(xiǎn)。這使本應(yīng)得益于大數(shù)據(jù)所創(chuàng)造的價(jià)值的教育相關(guān)者,在人格尊嚴(yán)、自由意愿以及表達(dá)自由等方面受到嚴(yán)重?fù)p害。2017年5月,澳大利亞墨爾本的Blackburn高中學(xué)生的電話號(hào)碼、家庭住址、信用卡信息以及醫(yī)療信息等個(gè)人信息被發(fā)布在公共網(wǎng)站上,引起了社會(huì)的恐慌。

    其次,固化標(biāo)簽有礙于用發(fā)展的眼光看待學(xué)生的成長。學(xué)生是會(huì)成長和變化的,而信息系統(tǒng)中的信息是靜態(tài)的,計(jì)算機(jī)算法不會(huì)用進(jìn)步的眼光去分析。使用這些歷史數(shù)據(jù)進(jìn)行預(yù)測時(shí),很可能會(huì)使學(xué)習(xí)者因?yàn)橹暗男袨楸毁N上固化標(biāo)簽,遭到不平等的對(duì)待。每個(gè)學(xué)習(xí)者的發(fā)展都有無限種可能,不能讓過去的數(shù)據(jù)完全蒙蔽我們的判斷力。

    最后,基于數(shù)據(jù)的“精準(zhǔn)”服務(wù)可能會(huì)幫倒忙。使用教育大數(shù)據(jù)的目的是促進(jìn)學(xué)生發(fā)展,能為學(xué)習(xí)者提供個(gè)性化的學(xué)習(xí)路線。但在某種意義上,這條學(xué)習(xí)路線也是“固定的”,學(xué)生只能按照理性分析出來的既定結(jié)果發(fā)展。規(guī)劃設(shè)計(jì)自己的學(xué)習(xí)路線實(shí)際上也是學(xué)習(xí)能力的一部分。過分依賴數(shù)據(jù)的分析結(jié)果,忽略人的發(fā)展和創(chuàng)造力,會(huì)限制和剝奪學(xué)生能力成長的權(quán)利和機(jī)會(huì)。

    (二)學(xué)習(xí)者隱私保護(hù)面臨的挑戰(zhàn)

    大數(shù)據(jù)時(shí)代下學(xué)習(xí)者隱私保護(hù)面臨諸多挑戰(zhàn)。

    首先,電子數(shù)據(jù)形態(tài)的隱私保護(hù)范圍大大超出了傳統(tǒng)隱私權(quán)領(lǐng)域。教育大數(shù)據(jù)通過將閑散的信息數(shù)據(jù)加工整合之后形成新的數(shù)據(jù)價(jià)值的方式來使用個(gè)人信息,而那些原本“散狀分布”的碎片化信息也許不構(gòu)成個(gè)人隱私,或者這些信息是在學(xué)習(xí)者知曉并且允許的情況下提供的,只是在二次利用時(shí)產(chǎn)生新的價(jià)值(張茂月, 2015)。這種行為是否構(gòu)成“侵犯隱私”?

    其次,侵犯學(xué)習(xí)者隱私的行為是復(fù)雜多樣的,如非法侵入他人隱私空間、盜取販賣學(xué)習(xí)者隱私數(shù)據(jù)、偽造修改學(xué)習(xí)者信息等。目前的法律實(shí)踐尚未完善,很難界定這些行為是否構(gòu)成侵權(quán)。同時(shí),網(wǎng)絡(luò)侵犯者處于匿名狀態(tài),難以定位到真正的侵權(quán)人和收集證據(jù)。而且即使受害人能夠獲取證據(jù),但網(wǎng)絡(luò)信息總是處于不斷更新之中,證據(jù)保全需要專業(yè)技能(劉雅輝,等, 2015)。

    再次,教育機(jī)構(gòu)管理學(xué)習(xí)者隱私信息以及學(xué)習(xí)者提供和授權(quán)信息均缺乏經(jīng)驗(yàn)。管理學(xué)生隱私信息包括收集、存儲(chǔ)和使用。采集信息時(shí),學(xué)習(xí)者常常在不知情的情況下將個(gè)人信息共享給他人;存儲(chǔ)信息時(shí)應(yīng)使用何種隱私保護(hù)技術(shù)保證信息不被竊取或非法訪問(劉雅輝,等, 2015);學(xué)生隱私信息能否主動(dòng)刪除;使用學(xué)生隱私信息時(shí)如何有效保障對(duì)信息的控制。在實(shí)踐中,常常出現(xiàn)信息的使用者在未獲得學(xué)習(xí)者授權(quán)的情況下將信息挪作他用,或者將信息出售給第三方牟利。這與學(xué)習(xí)者最開始提供個(gè)人信息的目的不同。

    最后,如何在學(xué)習(xí)者、學(xué)校、第三方教育機(jī)構(gòu)和政府這四方面之間尋找平衡點(diǎn)也是一項(xiàng)挑戰(zhàn)。如何在保證學(xué)習(xí)者隱私受到保護(hù)的前提下,滿足學(xué)校、教育機(jī)構(gòu)和國家利用學(xué)生信息的正當(dāng)需求,充分利用個(gè)性化的信息提供優(yōu)質(zhì)高效的教育服務(wù)值得探討。譬如,2012年美國政府就發(fā)布名為《網(wǎng)絡(luò)世界中消費(fèi)者數(shù)據(jù)隱私:全球數(shù)字經(jīng)濟(jì)中保護(hù)隱私及促進(jìn)創(chuàng)新的框架》的白皮書,希望在保持?jǐn)?shù)字化經(jīng)濟(jì)持續(xù)創(chuàng)新的同時(shí)保護(hù)用戶隱私不被侵犯(黃成鵬, 2015)。

    三、教育領(lǐng)域數(shù)據(jù)隱私侵權(quán)和保護(hù)案例

    大數(shù)據(jù)時(shí)代,任何一個(gè)小失誤都可能產(chǎn)生巨大且難以預(yù)測的后果。信息安全方面的危險(xiǎn),遠(yuǎn)不止傳統(tǒng)的侵權(quán)那么簡單,已形成了全世界共同的系統(tǒng)性風(fēng)險(xiǎn)(李升陽, 2015)。例如,2014年11月,有媒體爆出130萬名考研學(xué)生的信息遭泄露,涉及考生的姓名、手機(jī)號(hào)碼、身份證號(hào)碼、報(bào)考專業(yè)等敏感信息,引發(fā)社會(huì)憂慮(高敏, 2014)。下面詳細(xì)介紹三個(gè)涉及學(xué)習(xí)者數(shù)據(jù)隱私的案例。

    案例1:inBloom公司轟然倒閉

    inBloom 是美國一家非營利性的教育科技公司,旨在為學(xué)生提供個(gè)性化的學(xué)習(xí)服務(wù)。2013年初,inBloom獲得包括蓋茨基金會(huì)在內(nèi)的多個(gè)機(jī)構(gòu)的共1億美元投資。該公司與全美9個(gè)州的教育機(jī)構(gòu)合作提供服務(wù),并和幾十家教育技術(shù)公司合作開發(fā)。為達(dá)到個(gè)性化的目標(biāo),收集了學(xué)習(xí)者各方面的信息,既包括家庭住址、經(jīng)濟(jì)狀況、考核成績,也包括紀(jì)律處分、健康和殘疾狀況等敏感信息(唐亮, 2016)。然而,這家教育大數(shù)據(jù)公司只存活了15個(gè)月便在公眾的抗議中結(jié)束運(yùn)營。究其原因,主要是該公司收集的信息中涉及許多個(gè)人隱私,并且這些數(shù)據(jù)可以被學(xué)區(qū)和學(xué)校分享給第三方公司。inBloom采用的這種數(shù)據(jù)采集、利用及分享方式,受到家長和隱私權(quán)維護(hù)組織的強(qiáng)烈反對(duì),最終導(dǎo)致公司被迫關(guān)門。

    inBloom的迅速破產(chǎn)引起社會(huì)各界的廣泛思考。從理智上來看,這種劃時(shí)代的創(chuàng)新教育服務(wù)應(yīng)該是對(duì)社會(huì)有益的,它的失敗為我們提供了哪些經(jīng)驗(yàn)和教訓(xùn)?分析這個(gè)案例可以看到:首先,該公司未能正確地向用戶展現(xiàn)其偉大的使命和美好的愿景,以及向公眾展示數(shù)據(jù)收集的正面效應(yīng),以獲得大家的支持和信任。公眾不僅不能正確認(rèn)識(shí)到參與其中的好處,而且被可能存在的隱私侵權(quán)風(fēng)險(xiǎn)所阻嚇,選擇退避。其次,參與的各方缺乏溝通。inBloom是在教育工作者、學(xué)校、政府和教育企業(yè)的倡議下建立的,學(xué)生、家長被動(dòng)參與。在問題暴露、輿論一邊倒的情況下,與家長的溝通失敗是其倒閉的重要原因之一。最后,inBloom的創(chuàng)新過于超前,與其所處時(shí)代隱私保護(hù)的相關(guān)法律、行政制度和實(shí)踐不完善有關(guān)。喪失了法律保障,參與各方所面臨的風(fēng)險(xiǎn)無疑會(huì)加大。在“不信任”風(fēng)暴來臨之時(shí),inBloom作為“第一個(gè)吃螃蟹的人”,其結(jié)果必然是草草收場。

    案例2:Piazza涉嫌濫用學(xué)生數(shù)據(jù)風(fēng)波

    Piazza Technology是一家位于美國加州的互聯(lián)網(wǎng)教育軟件公司。該公司開發(fā)和運(yùn)營了一個(gè)專門面向教師和學(xué)生的免費(fèi)協(xié)作性問答網(wǎng)站,旨在幫助師生更好地提問和解答學(xué)習(xí)中的問題(Piazza Technology, 2017)。這個(gè)系統(tǒng)和許多學(xué)習(xí)管理系統(tǒng)整合,并且支持多種移動(dòng)終端,能有效促進(jìn)學(xué)生的學(xué)習(xí)。據(jù)報(bào)道,Piazza的用戶遍布美國各大知名高校,包括哈佛大學(xué)、斯坦福大學(xué)、麻省理工學(xué)院和哥倫比亞大學(xué)等。在該平臺(tái)上有96%的問題在平均25分鐘內(nèi)就會(huì)收到答案回復(fù),用戶每天平均會(huì)花4小時(shí)使用Piazza(Egouz, 2017)。

    雖然Piazza通過優(yōu)質(zhì)和獨(dú)特的服務(wù)獲得了巨大的成功以及一定的市場占有率,但在2016年該公司也遇到了涉嫌侵犯隱私權(quán)的危機(jī)。由于種種原因,該網(wǎng)站的隱私政策和服務(wù)條款聲明不夠完善和清楚,致使學(xué)習(xí)者容易在不知情的情況下將個(gè)人信息泄露給Piazza Careers(該公司的另一種產(chǎn)品)。后者會(huì)將學(xué)生的數(shù)據(jù)銷售給第三方公司,使招聘人員能夠查看學(xué)生的個(gè)人信息。這就引起了教師和各大學(xué)的強(qiáng)烈不滿?;诟鞣降姆错懀琍iazza迅速接受有關(guān)其核心產(chǎn)品的建議,改進(jìn)后的Piazza Careers服務(wù)給予清晰明確的提示,由學(xué)習(xí)者自主選擇加入,并且可以隨時(shí)選擇退出。

    在信息技術(shù)環(huán)境中,學(xué)習(xí)者隱私是一個(gè)很敏感的話題,不可輕易觸碰。本案例中的Piazza公司能夠及時(shí)反饋,亡羊補(bǔ)牢,堵住了暴露出來的漏洞,同時(shí)積極公關(guān),降低了涉嫌侵犯隱私權(quán)造成的惡劣影響以及對(duì)企業(yè)品牌的傷害。雖然,互聯(lián)網(wǎng)行業(yè)的商業(yè)模式?jīng)Q定了免費(fèi)服務(wù)的運(yùn)營者必定從另一方面獲益,加工和銷售關(guān)聯(lián)的信息是這類企業(yè)生存和盈利的基礎(chǔ),但在教育科技行業(yè)中,數(shù)據(jù)的收集和使用必須符合法律規(guī)定和社會(huì)認(rèn)知。在涉及學(xué)習(xí)者用戶數(shù)據(jù)的商業(yè)運(yùn)營中,不能跨越法律和良俗的紅線,同時(shí)要本著謙虛的心態(tài)去接受社會(huì)各方面的建議,積極調(diào)整企業(yè)的發(fā)展策略,做到企業(yè)和用戶(學(xué)習(xí)者)共贏。

    案例3:Edmodo因廣告漏洞使學(xué)生信息大量泄露

    Edmodo是一個(gè)世界知名的基礎(chǔ)教育社會(huì)性學(xué)習(xí)網(wǎng)站,致力于將所有學(xué)習(xí)者與他們所需的專家和資源聯(lián)系起來,以充分發(fā)揮學(xué)習(xí)者的潛力。2017年5月,Edmodo教育平臺(tái)上有超過7,000萬名教師、學(xué)生以及家長的部分信息被發(fā)現(xiàn)泄露,引起社會(huì)的廣泛關(guān)注。

    一名安全技術(shù)人員發(fā)現(xiàn)該平臺(tái)內(nèi)置的Doubleclick廣告服務(wù)會(huì)設(shè)置跟蹤C(jī)ookie。雖然這種類型的跟蹤對(duì)于用戶來說基本不可見,但其會(huì)定期將跟蹤的數(shù)據(jù)流發(fā)送回中介或網(wǎng)絡(luò)廣告商。這些數(shù)據(jù)包括用戶瀏覽的頁面信息和頁面停留的準(zhǔn)確時(shí)間、操作系統(tǒng)版本、用戶的IP地址以及瀏覽器版本等,組合這些信息足以識(shí)別個(gè)體(Bill, 2017a)。問題披露后,Edmodo的負(fù)責(zé)人意識(shí)到問題的嚴(yán)重性以及其安全測試的不足。該平臺(tái)承諾及時(shí)刪除網(wǎng)絡(luò)應(yīng)用程序中的跟蹤代碼,并關(guān)閉Doubleclick廣告直到確認(rèn)其能夠符合美國《兒童在線隱私權(quán)保護(hù)法》(COPPA)的要求為止(Bill,2017b)。

    Edmodo立刻處理數(shù)據(jù)泄露問題的舉動(dòng)值得肯定。但是,從這個(gè)案例中我們也要關(guān)注企業(yè)商業(yè)決策和安全檢測對(duì)于用戶隱私的影響。從2017年春季開始,Edmodo在其網(wǎng)站上投放廣告,以獲得更多的資金。但是,企業(yè)的決策者對(duì)廣告公司也會(huì)追蹤用戶信息沒有充分的認(rèn)識(shí),否則會(huì)重新審查該決策帶來的風(fēng)險(xiǎn),或是采取更有效的技術(shù)措施杜絕隱私泄露。另一方面,Edmodo在軟件安全檢測方面存在過失也是本次事故的主要原因。除此之外,網(wǎng)絡(luò)廣告服務(wù)商獲取和使用數(shù)據(jù)也應(yīng)符合法律規(guī)定,遵循相關(guān)政府組織和行業(yè)協(xié)會(huì)制定的行業(yè)標(biāo)準(zhǔn)和規(guī)范。

    四、大數(shù)據(jù)時(shí)代學(xué)習(xí)者隱私保護(hù)的策略

    針對(duì)教育大數(shù)據(jù)應(yīng)用中可能會(huì)出現(xiàn)的學(xué)習(xí)者隱私數(shù)據(jù)被濫用甚至是被侵犯的問題,我們認(rèn)為可以從多個(gè)方面入手綜合改善,由此提出在線學(xué)習(xí)者隱私保護(hù)的一些策略。

    策略1:通過立法保護(hù)學(xué)習(xí)者的信息隱私

    發(fā)達(dá)國家在數(shù)據(jù)隱私保護(hù)方面已經(jīng)積累了較多經(jīng)驗(yàn),普遍采取立法為主的保護(hù)模式。歐盟是對(duì)網(wǎng)絡(luò)隱私進(jìn)行立法保護(hù)的創(chuàng)立者、倡導(dǎo)者和有力執(zhí)行者,它對(duì)個(gè)人隱私的保護(hù)由主要指令——《歐盟數(shù)據(jù)保護(hù)指令》《隱私與電子通信指令》《歐盟數(shù)據(jù)留存指令》《關(guān)于涉及個(gè)人數(shù)據(jù)處理的個(gè)人保護(hù)以及此類數(shù)據(jù)自由流動(dòng)的規(guī)定》(1995)和其他一些補(bǔ)充指定的法律法規(guī)來實(shí)現(xiàn)(黃成鵬, 2015)。1995年指令是歐盟數(shù)據(jù)保護(hù)規(guī)章的核心,該法令明晰了個(gè)人數(shù)據(jù)、個(gè)人數(shù)據(jù)處理、數(shù)據(jù)處理者、第三方等概念,規(guī)定了傳遞個(gè)人資料合法性的一般性規(guī)則以及司法救濟(jì)、責(zé)任與制裁的手段(方正飛, 2011)。

    2015年2月,美國政府公布了一項(xiàng)立法草案,將2012年公開的自愿性的《消費(fèi)者隱私權(quán)利法案》上升為法律。該法案集中體現(xiàn)了美國政府應(yīng)對(duì)大數(shù)據(jù)時(shí)代隱私保護(hù)問題的一般思路,主要包括“告知與同意”框架的強(qiáng)化,數(shù)據(jù)保存與處理的安全責(zé)任以及事后問責(zé)制(李明, 2017)。在教育方面,美國政府通過立法保護(hù)學(xué)習(xí)者的數(shù)據(jù)隱私。在聯(lián)邦層面,發(fā)布了《家庭教育權(quán)利和隱私權(quán)法》、《兒童在線隱私權(quán)保護(hù)法》(COPPA)、《學(xué)生數(shù)字隱私和家長權(quán)利法》(SDPPRA)等法規(guī)。各州也因地制宜開展教育數(shù)據(jù)隱私保護(hù)方面的立法。例如,2014年美國加利福尼亞州頒布了《學(xué)生在線個(gè)人信息保護(hù)法》(SOPIPA)(王正青, 2016)。

    我國的《中華人民共和國憲法》《中華人民共和國合同法》《中華人民共和國刑法》《中華人民共和國未成年人保護(hù)法》《侵權(quán)責(zé)任法》等法律法規(guī)對(duì)個(gè)人隱私保護(hù)作了間接性的規(guī)定,直到2016年頒布的《網(wǎng)絡(luò)安全法》對(duì)網(wǎng)絡(luò)上的隱私保護(hù)有了原則性的要求。我們可以借鑒歐盟和美國已有的立法經(jīng)驗(yàn),對(duì)現(xiàn)有法律進(jìn)行完善和細(xì)化。例如,在憲法中明確對(duì)隱私權(quán)的保護(hù),將保護(hù)人的尊嚴(yán)不受侵犯這一原則上升為公民權(quán)利,在民法中確定隱私權(quán)獨(dú)立的人格權(quán)地位,在刑法中補(bǔ)充規(guī)定侵犯公民隱私權(quán)罪,在行政法上針對(duì)政府機(jī)關(guān)權(quán)力行使制定專門的隱私權(quán)以及網(wǎng)絡(luò)隱私權(quán)保護(hù)法(方正飛, 2011)。另一方面,還需頒布隱私保護(hù)專門法律,明確隱私權(quán)的范圍,列明不同主體在隱私保護(hù)過程中的權(quán)利和義務(wù),以及侵害隱私行為發(fā)生后應(yīng)承擔(dān)的責(zé)任和救濟(jì)方式。

    策略2:形成大數(shù)據(jù)時(shí)代的數(shù)據(jù)倫理觀念

    倫理是一系列指導(dǎo)行為的觀念,是從概念角度對(duì)道德現(xiàn)象的哲學(xué)思考。道德倫理是法律之基礎(chǔ),法律構(gòu)筑于倫理之上(王敏, 等, 2016)。數(shù)據(jù)倫理作為倫理領(lǐng)域一個(gè)新話題,是建立在計(jì)算機(jī)倫理和信息倫理基礎(chǔ)之上的(Floridi & Taddeo, 2016)。它關(guān)注數(shù)據(jù)的大量應(yīng)用給倫理帶來的挑戰(zhàn),將以往以信息為中心的研究轉(zhuǎn)變?yōu)橐詳?shù)據(jù)為中心,研究和評(píng)估數(shù)據(jù)(包括數(shù)據(jù)的生成、記錄、存儲(chǔ)、處理、傳播、共享和使用)、算法(如人工智能、智能代理、機(jī)器學(xué)習(xí)和機(jī)器人)以及相關(guān)實(shí)踐(如創(chuàng)新中的責(zé)任感、編程工作、黑客和職業(yè)守則)中的道德問題。在我國法律制度不完善的情況下,數(shù)據(jù)倫理規(guī)范具有獨(dú)特的作用,能引導(dǎo)人們形成正確的價(jià)值觀,在長期的倫理規(guī)范中將其內(nèi)化為自身的意識(shí)和理念。所以,數(shù)據(jù)倫理的建立和健全至關(guān)重要。

    公正地使用個(gè)人隱私數(shù)據(jù)是數(shù)據(jù)倫理的要旨。在使用數(shù)據(jù)時(shí)要深度理解大數(shù)據(jù)分析的局限性,以避免陷入數(shù)據(jù)產(chǎn)生歧義之陷阱。同樣重要的是,要對(duì)數(shù)據(jù)分析的結(jié)果保持辯證客觀的態(tài)度,并不是每一次大數(shù)據(jù)的利用都是合適的和被允許的。尊重他人的隱私權(quán),強(qiáng)調(diào)己所不欲勿施于人。如果在使用個(gè)人隱私數(shù)據(jù)時(shí),人們能夠由己之心推及他人之心,那么人們會(huì)更加開放有序地使用信息,創(chuàng)造出更多新價(jià)值。

    作為互聯(lián)網(wǎng)技術(shù)發(fā)展的產(chǎn)物,大數(shù)據(jù)為全人類的福祉而服務(wù),其本身沒有善惡之分,而應(yīng)用技術(shù)的人應(yīng)具有價(jià)值判斷力(童拿云, 2015)。倘若每一個(gè)使用大數(shù)據(jù)的人都保持自由平等、客觀公正和推己及人的態(tài)度,心懷對(duì)他人隱私的尊重,即便沒有具體明確的法律約束以及技術(shù)上完美無缺的保護(hù),也能始終堅(jiān)守道德修養(yǎng)和法律原則。

    策略3:建立學(xué)習(xí)者數(shù)據(jù)的使用規(guī)則

    數(shù)十年來,全球范圍內(nèi)隱私保護(hù)實(shí)踐的普遍經(jīng)驗(yàn)是:把控制權(quán)放在人們自己手中,自主決定是否、如何以及經(jīng)由誰來處理隱私信息。在信息時(shí)代,實(shí)踐這一目標(biāo)采取的方式是公式化的“告知與許可”系統(tǒng)(方建中, 2016)。但是,在大數(shù)據(jù)時(shí)代,數(shù)據(jù)價(jià)值程度體現(xiàn)在潛在用途上,收集時(shí)并不能考慮到未來所有的用途,所以“告知許可”方式常常失效,或阻礙信息的合理使用。在大數(shù)據(jù)時(shí)代需要新的規(guī)則來指導(dǎo)合理地使用學(xué)習(xí)者的數(shù)據(jù),具體做法包括:

    (1) 將學(xué)習(xí)者數(shù)據(jù)的應(yīng)用分層分類。為實(shí)現(xiàn)學(xué)生數(shù)據(jù)保護(hù)和利用的多贏性,根據(jù)隱私數(shù)據(jù)的開放共享程度,可將學(xué)習(xí)者隱私信息歸為不開放、部分開放以及完全開放三種類型。嚴(yán)格控制“不開放”隱私信息的使用,維護(hù)學(xué)習(xí)者的核心利益;強(qiáng)化對(duì)“部分開放”“完全開放”隱私信息的利用,以滿足其他利益群體的正當(dāng)需求,為推動(dòng)教育教學(xué)改革、實(shí)現(xiàn)個(gè)性化學(xué)習(xí)營造良好氛圍。

    (2)限制學(xué)習(xí)者數(shù)據(jù)的使用目的。學(xué)習(xí)者在分享數(shù)據(jù)時(shí)應(yīng)注意對(duì)其使用目的進(jìn)行限制(維克托·邁爾-舍恩伯格,等, 2013, pp.196-200)。數(shù)據(jù)使用者分析數(shù)據(jù)時(shí)只應(yīng)用于既定目的,保證數(shù)據(jù)不被再次使用和分享,將數(shù)據(jù)掌握在個(gè)人可控范圍內(nèi)。

    (3)限制學(xué)習(xí)者數(shù)據(jù)使用時(shí)間(維克托·邁爾-舍恩伯格,等, 2013, pp.220-222)。為平衡數(shù)據(jù)二次利用造成的風(fēng)險(xiǎn),應(yīng)根據(jù)數(shù)據(jù)信息的種類、數(shù)據(jù)風(fēng)險(xiǎn)以及社會(huì)價(jià)值觀的不同來設(shè)置數(shù)據(jù)保存時(shí)限,同時(shí)使用者必須承擔(dān)保護(hù)數(shù)據(jù)安全的責(zé)任和到期刪除數(shù)據(jù)的義務(wù)。

    (4)對(duì)學(xué)習(xí)者數(shù)據(jù)進(jìn)行模糊化處理。雖然在大數(shù)據(jù)時(shí)代,學(xué)生隱私數(shù)據(jù)在各處暴露,通過匿名隱藏學(xué)生隱私的效果逐漸變差。但是,如果必要,還是應(yīng)該在信息價(jià)值和隱私保護(hù)之間做折中處理,對(duì)教育數(shù)據(jù)來源做模糊化處理。雖然在某些情況下不能獲得精確的結(jié)果,但對(duì)于研究群體對(duì)象的教育調(diào)研來說,采用模糊后的數(shù)據(jù)對(duì)學(xué)術(shù)研究也有潛在價(jià)值。

    (5)強(qiáng)調(diào)教育大數(shù)據(jù)使用者的職責(zé)和義務(wù)。學(xué)生數(shù)據(jù)信息都是由學(xué)?;蛘杉模瑪?shù)據(jù)的提供人處于被支配地位。而且在很多情況下,數(shù)據(jù)采集的對(duì)象是未成年人,他們既不能主動(dòng)拒絕,也無相關(guān)的知識(shí)和經(jīng)驗(yàn)來進(jìn)行許可,因此教育大數(shù)據(jù)的使用者對(duì)數(shù)據(jù)具有最大的控制權(quán),所以應(yīng)將隱私保護(hù)的重心從讓數(shù)據(jù)提供者許可使用轉(zhuǎn)移到讓教育數(shù)據(jù)使用者承擔(dān)責(zé)任(侯富強(qiáng),2015)。這樣一來,教育數(shù)據(jù)的使用方就需要權(quán)衡其可能對(duì)個(gè)人所造成的影響,謹(jǐn)慎評(píng)估個(gè)人數(shù)據(jù)再利用的風(fēng)險(xiǎn),降低個(gè)人隱私泄露帶來的危害。

    策略4:確定參與各方的權(quán)利和義務(wù)以及問責(zé)機(jī)制

    2014年11月,六個(gè)美國農(nóng)會(huì)聯(lián)合起來,通過與技術(shù)供應(yīng)商談判,達(dá)成一致,簽署了一份名為《農(nóng)場數(shù)據(jù)的隱私和保護(hù)原則》的協(xié)議,其中最基本的原則便是農(nóng)戶是自家農(nóng)場數(shù)據(jù)的所有者,擁有這些數(shù)據(jù)的產(chǎn)權(quán)和絕對(duì)控制權(quán)。同時(shí),就所有權(quán)的行使、衍生權(quán)利和周邊效應(yīng)形成了相應(yīng)的規(guī)定,明確規(guī)定供應(yīng)商、第三方的責(zé)任和義務(wù),涉及幾乎所有關(guān)于隱私保護(hù)的關(guān)鍵問題(利求同, 2015)。

    該協(xié)議倡導(dǎo)的原則對(duì)學(xué)習(xí)者隱私保護(hù)同樣具有借鑒意義。在教育領(lǐng)域,數(shù)據(jù)的隱私保護(hù)涉及學(xué)習(xí)者和學(xué)生家長、學(xué)校、第三方在線教育機(jī)構(gòu)、教育行政部門、政府等利益相關(guān)者。數(shù)據(jù)的價(jià)值是依附于被記錄主體即學(xué)習(xí)者和學(xué)生家長的,不能獨(dú)立存在。所以學(xué)習(xí)者和學(xué)生家長擁有數(shù)據(jù)的所有權(quán)、搜索下載數(shù)據(jù)的使用權(quán)以及對(duì)數(shù)據(jù)是否開放的控制權(quán)。學(xué)校和第三方在線教育機(jī)構(gòu)要用簡單易懂的語言告知學(xué)習(xí)者數(shù)據(jù)是怎樣收集和使用的,且只有獲得學(xué)習(xí)者的明確同意,才可以使用數(shù)據(jù),同時(shí)有保障信息收集、存儲(chǔ)、使用安全的義務(wù)。教育行政部門和政府機(jī)關(guān)負(fù)有對(duì)學(xué)習(xí)者信息進(jìn)行維護(hù)和管理的責(zé)任,并要加大對(duì)涉事機(jī)構(gòu)的處罰力度,提高侵害學(xué)生隱私的違法成本,迫使學(xué)校和教育機(jī)構(gòu)切實(shí)加強(qiáng)保護(hù)和防范工作。

    策略5:行政主管部門應(yīng)行使監(jiān)管職責(zé)

    對(duì)于中國目前隱私保護(hù)的現(xiàn)狀來說,行政手段是更為直接、有效的方式。目前很多隱私信息的泄露,在某種程度上暴露出行政主管部門管理滯后或不作為。主管部門可以從規(guī)范隱私保護(hù)政策的制定、鼓勵(lì)信息隱私認(rèn)證體系的建立和積極引導(dǎo)隱私保護(hù)技術(shù)更新?lián)Q代幾個(gè)方面著手(李升陽, 2015)。

    隱私政策條款應(yīng)清晰明確,教育學(xué)習(xí)平臺(tái)和以廣告商為代表的第三方都要嚴(yán)格遵守,從而保障合法的信息收集活動(dòng)。同時(shí),在隱私政策條款的聲明頁面,要為用戶提供拒絕公開或有選擇地部分公開個(gè)人信息的選 項(xiàng)。要鼓勵(lì)建立教育行業(yè)信息隱私認(rèn)證體系,掃除個(gè)人對(duì)隱私保護(hù)的憂慮,促進(jìn)學(xué)生隱私保護(hù)和教育大數(shù)據(jù)應(yīng)用之間實(shí)現(xiàn)利益平衡;對(duì)管理人員進(jìn)行培訓(xùn),提高其業(yè)務(wù)素質(zhì)和職業(yè)情操;要監(jiān)控教育大數(shù)據(jù)的應(yīng)用狀況,對(duì)侵犯學(xué)習(xí)者隱私的單位和個(gè)人進(jìn)行處罰。

    策略6:培養(yǎng)學(xué)習(xí)者保護(hù)自己隱私的意識(shí)

    在當(dāng)前情況下,人們樂意使用互聯(lián)網(wǎng)來獲取信息和分享信息。很多學(xué)習(xí)者沒有意識(shí)到保護(hù)個(gè)人信息的重要性,常常在不經(jīng)意的行為中造成自身隱私的泄露。所以,要培養(yǎng)學(xué)習(xí)者保護(hù)隱私的意識(shí),盡可能遠(yuǎn)離那些向他人透露個(gè)人信息的互動(dòng),節(jié)制在互聯(lián)網(wǎng)上發(fā)布個(gè)人信息的行為(維克托·邁爾-舍恩伯格,等, 2013, pp.223-224)。要了解自己向誰提供了什么信息、這些信息的價(jià)值以及信息泄露的危害。同時(shí),學(xué)習(xí)者也要改變上網(wǎng)瀏覽信息的習(xí)慣,定期清除Cookie。除此之外,學(xué)校、政府以及媒體平臺(tái)定期開展保護(hù)隱私數(shù)據(jù)的教育工作,對(duì)提高學(xué)習(xí)者自我管理隱私的意識(shí)也有一定的推動(dòng)作用。

    策略7:推動(dòng)教育信息行業(yè)的行為自律

    法律手段往往缺乏靈活性和時(shí)效性,而且為了行業(yè)經(jīng)濟(jì)的自由發(fā)展,法律往往是在最低標(biāo)準(zhǔn)上達(dá)成的共識(shí)。為了保護(hù)學(xué)習(xí)者隱私,行業(yè)自律應(yīng)發(fā)揮更大作用,充分調(diào)動(dòng)和鼓勵(lì)同業(yè)者的積極性。2014年10月,美國軟件和信息業(yè)協(xié)會(huì)(SIIA)發(fā)布了《學(xué)生隱私倡議書》(Student Privacy Pledge),旨在推進(jìn)學(xué)習(xí)者隱私保護(hù)實(shí)踐,這是一種典型的行業(yè)自律行為。

    教育信息化行業(yè)應(yīng)遵循國家相關(guān)法律,借鑒其他行業(yè)的自律性建設(shè)經(jīng)驗(yàn),結(jié)合教育行業(yè)自身的特點(diǎn),不僅要做到合法、合理地使用信息,而且應(yīng)制定更具針對(duì)性、更為細(xì)致的學(xué)習(xí)者隱私保護(hù)準(zhǔn)則,為學(xué)習(xí)者提供更為便利、充分和高水平的保護(hù)。還可以在教育信息化系統(tǒng)的開發(fā)中確立開展隱私技術(shù)評(píng)審的機(jī)制。

    策略8:通過技術(shù)手段提供立體的隱私防護(hù),提高侵權(quán)成本

    在學(xué)習(xí)者隱私數(shù)據(jù)保護(hù)的實(shí)踐中,技術(shù)手段承擔(dān)著重要角色。一方面,要關(guān)注技術(shù)支撐環(huán)境的內(nèi)在缺陷,及時(shí)修補(bǔ)漏洞,更新服務(wù)模式(唐亮, 2016),提高相關(guān)應(yīng)用的安全性能,定期進(jìn)行技術(shù)審查;另一方面,從數(shù)據(jù)采集、存儲(chǔ)、處理以及分析展現(xiàn)的環(huán)節(jié)出發(fā),采用數(shù)據(jù)失真、數(shù)據(jù)加密、數(shù)據(jù)防護(hù)、匿名保護(hù)、分布式數(shù)據(jù)挖掘算法等保護(hù)措施,并且在各個(gè)環(huán)節(jié)的執(zhí)行過程中由不同的決策者負(fù)責(zé),以應(yīng)對(duì)各種安全隱患(肖潔,等, 2016)。

    五、總結(jié)

    教育大數(shù)據(jù)能夠?qū)W(xué)習(xí)者進(jìn)行個(gè)性化的指導(dǎo),驅(qū)動(dòng)學(xué)校教育管理科學(xué)化,為第三方機(jī)構(gòu)帶來經(jīng)濟(jì)效益,實(shí)現(xiàn)國家人才發(fā)展戰(zhàn)略,其價(jià)值不可估量。學(xué)習(xí)者隱私保護(hù)是教育大數(shù)據(jù)應(yīng)用發(fā)展過程中必然遇到的問題。人們在使用教育大數(shù)據(jù)為自身提供便利的同時(shí),會(huì)讓渡一些隱私信息,這就有可能對(duì)學(xué)生信息安全造成危害。但是也不能因噎廢食。如何在推動(dòng)數(shù)據(jù)開放的同時(shí)有效保護(hù)學(xué)生的隱私,將是大數(shù)據(jù)時(shí)代的重要挑戰(zhàn)。本研究通過分析國內(nèi)外關(guān)于學(xué)習(xí)者隱私保護(hù)的研究現(xiàn)狀,總結(jié)了教育大數(shù)據(jù)相對(duì)于大數(shù)據(jù)的獨(dú)特性,結(jié)合案例討論了學(xué)習(xí)者隱私保護(hù)面臨的挑戰(zhàn),提出推動(dòng)立法、建設(shè)數(shù)據(jù)倫理、建立數(shù)據(jù)使用規(guī)則、明確問責(zé)機(jī)制、培養(yǎng)自我保護(hù)意識(shí)、行業(yè)自律和政府監(jiān)管等八條策略,以期形成合理利用數(shù)據(jù)的良好氛圍。

    從信息化社會(huì)發(fā)展的現(xiàn)狀和教育信息化進(jìn)程來看,隱私保護(hù)本身是一個(gè)遠(yuǎn)未完備的實(shí)踐領(lǐng)域。希望通過本文的研究,引發(fā)教育信息技術(shù)的研究者和實(shí)踐者對(duì)學(xué)習(xí)者隱私保護(hù)問題的關(guān)注,從法律、經(jīng)濟(jì)和技術(shù)等方面繼續(xù)進(jìn)行深入研究,政府相關(guān)部門盡快制定相關(guān)政策,出臺(tái)具體措施,從而抓住歷史機(jī)遇,推動(dòng)中國社會(huì)的進(jìn)步和發(fā)展。各方合力,做好實(shí)踐,促進(jìn)教育領(lǐng)域的創(chuàng)新發(fā)展。

    [參考文獻(xiàn)]

    Egouz. 2017-06-09. Piazza:教師與學(xué)生問答互動(dòng)平臺(tái)[EB/OL]. [2017-06-09]. http://www.egouz.com/topics/5106.html

    方正飛. 2011-04-02.以法律名義保護(hù)網(wǎng)絡(luò)隱私[EB/OL].[2017-06-09]. http://www.scio.gov.cn/cbw/qk/4/2011/03/Document/885258/885258.htm

    方建中. 2016. 論網(wǎng)絡(luò)時(shí)代“隱私自理”的限度與可能[J]. 浙江社會(huì)科學(xué)(3):69-73.

    黃成鵬. 2015. 大數(shù)據(jù)時(shí)代的個(gè)人隱私[D]. 武漢:華中師范大學(xué)新聞傳播學(xué)院.

    胡一舟. 2015. 美國教育部發(fā)布保護(hù)學(xué)生在線隱私數(shù)據(jù)的服務(wù)指南[J]. 世界教育信息(8):76-77.

    侯富強(qiáng). 2015. 大數(shù)據(jù)時(shí)代個(gè)人信息保護(hù)問題與法律對(duì)策[J]. 西南民族大學(xué)學(xué)報(bào):人文社科版(6):106-110.

    劉雅輝,張鐵贏,靳小龍,等. 2015. 大數(shù)據(jù)時(shí)代的個(gè)人隱私保護(hù)[J]. 計(jì)算機(jī)研究與發(fā)展(1):229-247.

    李升陽. 2015. 大數(shù)據(jù)時(shí)代隱私保護(hù)研究[D]. 南京:南京大學(xué)信息管理學(xué)院.

    利求同. 2015-07-26. 數(shù)據(jù)所有權(quán)到底歸誰:大數(shù)據(jù)賣的就是隱私?[EB/OL]. [2017-06-09]. http://www.sohu.com/a/24358266_161400

    李汶龍. 2015. 大數(shù)據(jù)時(shí)代的隱私保護(hù)與被遺忘權(quán)[J]. 研究生法學(xué)(2):32-52.

    劉凌,羅戎. 2017. 大數(shù)據(jù)視角下政府?dāng)?shù)據(jù)開放與個(gè)人隱私保護(hù)研究[J]. 情報(bào)科學(xué)(2):112-118.

    李明. 2017-06-09. “大數(shù)據(jù)時(shí)代”的美國隱私權(quán)保護(hù)制度[EB/OL].[2017-06-09]. http://dataunion.org/3349.html

    孟小峰,張嘯劍. 2015. 大數(shù)據(jù)隱私管理[J]. 計(jì)算機(jī)研究與發(fā)展(2):265-281.

    唐斯斯,楊現(xiàn)民,等. 2015. 智慧教育與大數(shù)據(jù)[M]. 北京:科學(xué)出版社.

    童拿云. 2015. 大數(shù)據(jù)時(shí)代的個(gè)人隱私保護(hù)[D]. 上海:上海師范大學(xué)法政學(xué)院.

    唐亮. 2016. 隱私保護(hù):教育數(shù)據(jù)硬幣的另一面——互聯(lián)網(wǎng)時(shí)代美國教育數(shù)據(jù)隱私保護(hù)的啟示[J]. 中國信息安全(2):103-106.

    維克托·邁爾-舍恩伯格,肯尼斯·庫克耶. 2013. 大數(shù)據(jù)時(shí)代生活、工作與思維的大變革[M]. 盛楊燕,周濤,譯. 杭州:浙江人民出版社.

    王學(xué)輝,趙昕. 2015. 隱私權(quán)之公私法整合保護(hù)探索——以“大數(shù)據(jù)時(shí)代”個(gè)人信息隱私為分析視點(diǎn)[J]. 河北法學(xué)(5):63-71.

    王正青. 2016. 大數(shù)據(jù)時(shí)代美國學(xué)生數(shù)據(jù)隱私保護(hù)立法與治理體系[J]. 比較教育研究(11):28-33.

    王敏,江作蘇. 2016. 大數(shù)據(jù)時(shí)代中美保護(hù)個(gè)人隱私的對(duì)比研究——基于雙方隱私保護(hù)最新法規(guī)的比較分析[J]. 新聞界(15):55-61.

    王澤群. 2016. 政府在大數(shù)據(jù)隱私保護(hù)中的職能重塑[J]. 理論探討(3):170-173.

    薛孚,陳紅兵. 2015. 大數(shù)據(jù)隱私倫理問題探究[J]. 自然辯證法研究(2):44-48.

    肖潔,袁嵩,譚天. 2016. 大數(shù)據(jù)時(shí)代數(shù)據(jù)隱私安全研究[J]. 計(jì)算機(jī)技術(shù)與發(fā)展,26(5):91-94.

    高敏. 2014-11-26. 全國碩士考試報(bào)名信息遭泄露 1萬5買130萬用戶數(shù)據(jù)[EB/OL]. [2017-06-09]. http://www.chinanews.com/edu/2014/11-26/6818650.shtml

    楊現(xiàn)民,唐斯斯,李冀紅. 2016. 發(fā)展教育大數(shù)據(jù):內(nèi)涵、價(jià)值和挑戰(zhàn)[J]. 現(xiàn)代遠(yuǎn)程教育研究(1):50-61.

    張茂月. 2015. 大數(shù)據(jù)時(shí)代個(gè)人信息數(shù)據(jù)安全的新威脅及其保護(hù)[J]. 中國科技論壇(7):117-122.

    張曉娟,王文強(qiáng),唐長樂. 2016. 中美政府?dāng)?shù)據(jù)開放和個(gè)人隱私保護(hù)的政策法規(guī)研究[J]. 情報(bào)理論與實(shí)踐(1):38-43.

    周孟,段智宸,上超望. 2016. 大數(shù)據(jù)時(shí)代教育隱私保護(hù)三重維度研究[J]. 廣西廣播電視大學(xué)學(xué)報(bào)(3):25-28.

    Barnes, K., Kowalski, P. (2016). Role for federal government in safeguarding student data privacy. State Education Standard, 16(2): 18.

    Fitzgerald, B. 2017-05-14a. Tracking of teachers and students in Edmodo. [2017-06-09]. https://funnymonkey.com/2017/tracking-of-teachers-and-students-in-edmodo

    Fitzgerald, B. 2017-05-14b. Edmodo has removed tracking from their website for students and teachers. [2017-06-09]. https://funnymonkey.com/2017/edmodo-has-removed-tracking-from-their-web- site-for-students

    Crawford, K., Schultz, J. (2014).Big data and due process: Toward a framework to redress predictive privacy harms. Social Science Electronic Publishing, 55,93.

    Floridi, L., Taddeo, M. (2016) .What is data ethics? Philosophical transactions of the royal society: A mathematical. Physical & Engineering Sciences, 374(2083): 1-5.

    Ifenthaler, D., Schumacher, C. (2016).Student perceptions of privacy principles for learning analytics. Educational Technology Research and Development, 64(5): 923-938.

    Johnson, J. A. (2014). The ethics of big data in higher education. International Review of Information Ethics, 7(1): 3-10.

    Cox, J. 2017-05-11. Hacker steals millions of user account details from education platform Edmodo. [2017-06-09]. https://motherboard.vice.com/en_us/article/hacker-steals-millions-of-user-account-details- from-education-platform-edmodo

    Prinsloo, P., Slade, S.(2015). Student privacy self-management: Implications for learning analytics. International Conference on Learning Analytics and Knowledge .New york: ACM.

    Piazza Technology. 2017-06-09. Overview of Piazza. [2017-06-09]. https://piazza.com/product/overview

    Rubel, A., Jones, K. M. L. (2016). Student privacy in learning analytics: An information ethics perspective. The Information Society, 32(2): 143-159.

    Trainor, S. (2015). Student data privacy is cloudy today, clearer tomorrow. Phi Delta Kappan, 96(5): 13-18.

    收稿日期:2017-03-16

    定稿日期:2017-07-11

    作者簡介:李青,博士,教授,碩士生導(dǎo)師;李瑩瑩,碩士研究生。北京郵電大學(xué)網(wǎng)絡(luò)教育學(xué)院(100088)。

    責(zé)任編輯 單 玲

    猜你喜歡
    教育大數(shù)據(jù)隱私保護(hù)教育信息化
    “教育大數(shù)據(jù)”視角下的精準(zhǔn)教學(xué)的研究
    教育大數(shù)據(jù)在教育管理中的運(yùn)用分析
    大數(shù)據(jù)環(huán)境下用戶信息隱私泄露成因分析和保護(hù)對(duì)策
    大數(shù)據(jù)安全與隱私保護(hù)的必要性及措施
    基于虛擬仿真技術(shù)的地方高校實(shí)驗(yàn)教學(xué)探討
    信息技術(shù)與教學(xué)難以深度融合的成因及解決途徑探析
    科技資訊(2016年19期)2016-11-15 10:19:53
    社交網(wǎng)絡(luò)中的隱私關(guān)注及隱私保護(hù)研究綜述
    大數(shù)據(jù)時(shí)代的隱私保護(hù)關(guān)鍵技術(shù)研究
    高職學(xué)院信息化建設(shè)中面臨的問題和思考
    科技視界(2016年22期)2016-10-18 17:29:57
    創(chuàng)新信息技術(shù)支撐教學(xué)變革
    一边亲一边摸免费视频| 韩国精品一区二区三区| 国产精品香港三级国产av潘金莲 | 观看美女的网站| 王馨瑶露胸无遮挡在线观看| 狠狠精品人妻久久久久久综合| kizo精华| freevideosex欧美| 色哟哟·www| 婷婷色综合www| 欧美亚洲日本最大视频资源| 免费在线观看完整版高清| 高清黄色对白视频在线免费看| 国产一区二区在线观看av| 精品第一国产精品| 久久精品久久久久久久性| 欧美变态另类bdsm刘玥| 日韩av不卡免费在线播放| 日日撸夜夜添| 春色校园在线视频观看| 久久久国产欧美日韩av| 五月开心婷婷网| 母亲3免费完整高清在线观看 | 欧美日韩精品成人综合77777| 男女下面插进去视频免费观看| 永久免费av网站大全| 肉色欧美久久久久久久蜜桃| 90打野战视频偷拍视频| 欧美日本中文国产一区发布| 熟女av电影| 黄色一级大片看看| 免费高清在线观看日韩| 老司机影院毛片| 一级毛片黄色毛片免费观看视频| 肉色欧美久久久久久久蜜桃| 亚洲精品aⅴ在线观看| 精品人妻偷拍中文字幕| 男女边摸边吃奶| 国产黄频视频在线观看| 日本wwww免费看| 日韩av免费高清视频| 校园人妻丝袜中文字幕| 欧美精品国产亚洲| 午夜福利,免费看| 夫妻性生交免费视频一级片| 国产精品无大码| 中文精品一卡2卡3卡4更新| 国产成人av激情在线播放| 2021少妇久久久久久久久久久| 激情视频va一区二区三区| 天天躁夜夜躁狠狠躁躁| 精品亚洲成国产av| 天天影视国产精品| 久久久精品免费免费高清| kizo精华| videosex国产| 亚洲成人av在线免费| kizo精华| 人妻 亚洲 视频| 久久亚洲国产成人精品v| 久久av网站| av在线老鸭窝| 欧美激情 高清一区二区三区| 精品亚洲成国产av| 飞空精品影院首页| 精品一区二区三区四区五区乱码 | 91精品国产国语对白视频| 青春草国产在线视频| kizo精华| 亚洲色图 男人天堂 中文字幕| 亚洲国产精品一区三区| 黄色 视频免费看| 黄片小视频在线播放| 国产极品天堂在线| 日日爽夜夜爽网站| 精品亚洲成国产av| 男女啪啪激烈高潮av片| 国产综合精华液| 老汉色∧v一级毛片| 欧美+日韩+精品| 91国产中文字幕| 9色porny在线观看| 九九爱精品视频在线观看| 色94色欧美一区二区| 日韩精品有码人妻一区| 99久久精品国产国产毛片| 天天躁狠狠躁夜夜躁狠狠躁| 91午夜精品亚洲一区二区三区| av一本久久久久| 亚洲精品第二区| 免费在线观看完整版高清| 香蕉国产在线看| 在线观看美女被高潮喷水网站| 热re99久久精品国产66热6| 亚洲久久久国产精品| 午夜av观看不卡| 啦啦啦在线免费观看视频4| 纯流量卡能插随身wifi吗| 日韩,欧美,国产一区二区三区| 五月伊人婷婷丁香| av不卡在线播放| 男人添女人高潮全过程视频| 91国产中文字幕| 免费观看性生交大片5| 999久久久国产精品视频| 女性生殖器流出的白浆| av片东京热男人的天堂| 一级a爱视频在线免费观看| 赤兔流量卡办理| 最新的欧美精品一区二区| 亚洲国产精品一区三区| 日日啪夜夜爽| 午夜福利网站1000一区二区三区| 两个人看的免费小视频| 亚洲国产精品国产精品| a级毛片在线看网站| 欧美精品av麻豆av| 天天躁夜夜躁狠狠躁躁| 美女脱内裤让男人舔精品视频| 成人国语在线视频| 青春草国产在线视频| 捣出白浆h1v1| 亚洲一级一片aⅴ在线观看| av女优亚洲男人天堂| 1024香蕉在线观看| 搡女人真爽免费视频火全软件| av国产久精品久网站免费入址| 少妇精品久久久久久久| 麻豆av在线久日| 久久人人爽av亚洲精品天堂| 在线观看人妻少妇| 国产成人精品久久二区二区91 | 亚洲精品av麻豆狂野| 免费黄网站久久成人精品| 熟女电影av网| 久久影院123| 中文字幕亚洲精品专区| 永久网站在线| 久久久久久久精品精品| 国产精品久久久av美女十八| 中文天堂在线官网| 中文字幕最新亚洲高清| 亚洲精品一区蜜桃| freevideosex欧美| 午夜91福利影院| 国产又爽黄色视频| 成人黄色视频免费在线看| 国产精品久久久久久av不卡| 久久这里有精品视频免费| 丝袜人妻中文字幕| 咕卡用的链子| 亚洲第一青青草原| 亚洲精品乱久久久久久| 欧美亚洲日本最大视频资源| 国产熟女欧美一区二区| 青春草亚洲视频在线观看| 国产成人欧美| 永久网站在线| av国产精品久久久久影院| 中文字幕亚洲精品专区| 美女大奶头黄色视频| 亚洲国产精品一区三区| tube8黄色片| 亚洲av中文av极速乱| 午夜免费鲁丝| 巨乳人妻的诱惑在线观看| 亚洲av国产av综合av卡| 亚洲欧美一区二区三区久久| 18禁国产床啪视频网站| av免费在线看不卡| 在线观看www视频免费| 久久久久久久久久久免费av| 欧美日韩亚洲国产一区二区在线观看 | 18禁观看日本| 日韩一本色道免费dvd| 91在线精品国自产拍蜜月| 日本91视频免费播放| 日韩人妻精品一区2区三区| xxxhd国产人妻xxx| 国产淫语在线视频| 母亲3免费完整高清在线观看 | 久久毛片免费看一区二区三区| 日本色播在线视频| 曰老女人黄片| 波野结衣二区三区在线| 黄片播放在线免费| 免费黄频网站在线观看国产| 日本av免费视频播放| 王馨瑶露胸无遮挡在线观看| 人妻 亚洲 视频| 日韩伦理黄色片| 老司机亚洲免费影院| 两个人免费观看高清视频| 国产成人精品久久久久久| 日韩人妻精品一区2区三区| 在线观看一区二区三区激情| 少妇的逼水好多| 色网站视频免费| 如日韩欧美国产精品一区二区三区| www.熟女人妻精品国产| 国产黄色视频一区二区在线观看| 午夜福利视频在线观看免费| 伦理电影大哥的女人| 两性夫妻黄色片| 久久午夜综合久久蜜桃| av女优亚洲男人天堂| 丁香六月天网| 亚洲经典国产精华液单| 如日韩欧美国产精品一区二区三区| 日本猛色少妇xxxxx猛交久久| 女性被躁到高潮视频| 日韩视频在线欧美| 边亲边吃奶的免费视频| 自拍欧美九色日韩亚洲蝌蚪91| 一本大道久久a久久精品| 另类精品久久| 黑人欧美特级aaaaaa片| 麻豆乱淫一区二区| 成人午夜精彩视频在线观看| 精品国产露脸久久av麻豆| 五月伊人婷婷丁香| 一本色道久久久久久精品综合| 久久 成人 亚洲| 欧美亚洲日本最大视频资源| 久久婷婷青草| 亚洲精品aⅴ在线观看| 啦啦啦在线观看免费高清www| 亚洲av免费高清在线观看| 高清在线视频一区二区三区| 欧美激情极品国产一区二区三区| 成人手机av| 搡老乐熟女国产| 黄色视频在线播放观看不卡| 男人添女人高潮全过程视频| 电影成人av| 亚洲精品av麻豆狂野| 久久这里有精品视频免费| 亚洲国产av影院在线观看| 最近2019中文字幕mv第一页| 肉色欧美久久久久久久蜜桃| 亚洲,一卡二卡三卡| 久久精品熟女亚洲av麻豆精品| 日韩不卡一区二区三区视频在线| 久久精品久久久久久久性| 欧美xxⅹ黑人| 卡戴珊不雅视频在线播放| 午夜免费男女啪啪视频观看| 午夜激情久久久久久久| 国产野战对白在线观看| 亚洲av成人精品一二三区| 一二三四在线观看免费中文在| 90打野战视频偷拍视频| 亚洲,一卡二卡三卡| 亚洲人成网站在线观看播放| 少妇的丰满在线观看| 蜜桃国产av成人99| 1024视频免费在线观看| 男人爽女人下面视频在线观看| 黄色配什么色好看| 青青草视频在线视频观看| 男女无遮挡免费网站观看| 精品国产一区二区久久| 久久久久久人人人人人| 国产精品偷伦视频观看了| www日本在线高清视频| 黄色一级大片看看| 亚洲精品久久午夜乱码| 黄片小视频在线播放| 中文精品一卡2卡3卡4更新| 久久久久久人妻| 国产精品国产三级专区第一集| 美国免费a级毛片| 中文字幕人妻丝袜一区二区 | 久久精品久久精品一区二区三区| 宅男免费午夜| 男女国产视频网站| 午夜福利乱码中文字幕| 午夜激情久久久久久久| 久久久久久久亚洲中文字幕| 七月丁香在线播放| 国产乱人偷精品视频| 亚洲熟女精品中文字幕| 激情视频va一区二区三区| 中文天堂在线官网| av女优亚洲男人天堂| 丝袜美腿诱惑在线| 日韩欧美精品免费久久| 欧美最新免费一区二区三区| 国产成人a∨麻豆精品| 亚洲,欧美,日韩| 熟女少妇亚洲综合色aaa.| av在线app专区| 欧美日韩精品成人综合77777| 99热全是精品| 男女啪啪激烈高潮av片| 国产成人aa在线观看| 久久人妻熟女aⅴ| 99久久综合免费| 十八禁网站网址无遮挡| 人人妻人人添人人爽欧美一区卜| 黄片小视频在线播放| 亚洲欧洲日产国产| 精品人妻在线不人妻| 色吧在线观看| 免费黄频网站在线观看国产| 一本—道久久a久久精品蜜桃钙片| 狠狠精品人妻久久久久久综合| 国产精品成人在线| 国产乱来视频区| 一级片免费观看大全| 亚洲国产欧美网| 亚洲成av片中文字幕在线观看 | 99久久精品国产国产毛片| 国产免费现黄频在线看| 一级毛片电影观看| 久久精品国产鲁丝片午夜精品| 日本色播在线视频| 欧美日韩亚洲高清精品| 欧美bdsm另类| 精品99又大又爽又粗少妇毛片| 国产一区二区三区av在线| 国产成人aa在线观看| 久久久久久久久久久免费av| av卡一久久| 人妻一区二区av| www.熟女人妻精品国产| 18+在线观看网站| 亚洲内射少妇av| 天天影视国产精品| 777米奇影视久久| 一个人免费看片子| 久久久久国产一级毛片高清牌| 九九爱精品视频在线观看| 婷婷色综合大香蕉| 中文字幕亚洲精品专区| 免费播放大片免费观看视频在线观看| 免费黄网站久久成人精品| 欧美日韩精品成人综合77777| 另类精品久久| 69精品国产乱码久久久| 久久久久久人人人人人| 成人国产麻豆网| 飞空精品影院首页| 免费在线观看黄色视频的| 国产精品久久久久久久久免| 99热国产这里只有精品6| 亚洲成人一二三区av| 成人手机av| 国产亚洲一区二区精品| 精品人妻偷拍中文字幕| 久久韩国三级中文字幕| 亚洲精品中文字幕在线视频| 亚洲欧美一区二区三区久久| 999久久久国产精品视频| 香蕉丝袜av| 成人影院久久| 婷婷成人精品国产| 精品国产一区二区三区久久久樱花| 亚洲国产av影院在线观看| 亚洲欧美中文字幕日韩二区| 久久精品国产亚洲av涩爱| 亚洲精品乱久久久久久| 少妇 在线观看| 黑丝袜美女国产一区| 97在线视频观看| av线在线观看网站| 美女大奶头黄色视频| av在线播放精品| 亚洲三级黄色毛片| 欧美人与性动交α欧美精品济南到 | 久久午夜综合久久蜜桃| 高清在线视频一区二区三区| 免费高清在线观看视频在线观看| 美女xxoo啪啪120秒动态图| 欧美日韩亚洲国产一区二区在线观看 | 少妇被粗大猛烈的视频| 色视频在线一区二区三区| videos熟女内射| 伊人亚洲综合成人网| 综合色丁香网| 亚洲伊人色综图| 亚洲激情五月婷婷啪啪| 免费观看无遮挡的男女| 青春草视频在线免费观看| 日本色播在线视频| 9191精品国产免费久久| 日韩一区二区视频免费看| 免费观看a级毛片全部| 又黄又粗又硬又大视频| 18禁国产床啪视频网站| 亚洲综合色惰| 久久久久久免费高清国产稀缺| 国产男女超爽视频在线观看| 免费av中文字幕在线| 国产野战对白在线观看| 黄片无遮挡物在线观看| 国产精品久久久久久精品电影小说| 99国产精品免费福利视频| 日韩成人av中文字幕在线观看| 99国产精品免费福利视频| 久久精品久久精品一区二区三区| 精品酒店卫生间| 美女福利国产在线| 老司机影院毛片| 最近手机中文字幕大全| 亚洲av日韩在线播放| 水蜜桃什么品种好| 成人手机av| 欧美日韩亚洲高清精品| 亚洲av.av天堂| 久久久久久久亚洲中文字幕| 97在线视频观看| 国产精品不卡视频一区二区| 一区二区三区四区激情视频| 成人免费观看视频高清| 99久久精品国产国产毛片| 国产成人精品久久二区二区91 | 黄色 视频免费看| 又大又黄又爽视频免费| 亚洲少妇的诱惑av| 久久久久国产一级毛片高清牌| 成年女人在线观看亚洲视频| 欧美精品av麻豆av| 黄色配什么色好看| 国产在视频线精品| 国产福利在线免费观看视频| 久久精品夜色国产| 五月伊人婷婷丁香| 国产亚洲av片在线观看秒播厂| 亚洲综合色网址| 欧美变态另类bdsm刘玥| 久久青草综合色| 90打野战视频偷拍视频| 色婷婷久久久亚洲欧美| 亚洲一区二区三区欧美精品| 久热久热在线精品观看| 日本wwww免费看| 国产精品麻豆人妻色哟哟久久| 亚洲精品国产一区二区精华液| 国产精品国产av在线观看| 观看美女的网站| 女性生殖器流出的白浆| 热99国产精品久久久久久7| 天天操日日干夜夜撸| 麻豆乱淫一区二区| 日韩精品有码人妻一区| 天天影视国产精品| 亚洲av电影在线观看一区二区三区| 日韩,欧美,国产一区二区三区| 午夜日韩欧美国产| 人成视频在线观看免费观看| 三级国产精品片| 最黄视频免费看| 新久久久久国产一级毛片| 久久久久国产一级毛片高清牌| 欧美变态另类bdsm刘玥| 亚洲,一卡二卡三卡| 精品国产露脸久久av麻豆| 下体分泌物呈黄色| 如日韩欧美国产精品一区二区三区| 自线自在国产av| 国产精品人妻久久久影院| 少妇被粗大的猛进出69影院| 看免费av毛片| 精品国产露脸久久av麻豆| 欧美日韩精品网址| 亚洲天堂av无毛| 精品亚洲乱码少妇综合久久| 亚洲欧洲日产国产| 精品少妇黑人巨大在线播放| av国产久精品久网站免费入址| 一区二区三区乱码不卡18| 免费观看在线日韩| 日韩中文字幕欧美一区二区 | 成人手机av| 丝瓜视频免费看黄片| 亚洲国产欧美在线一区| 亚洲精品一二三| 啦啦啦在线免费观看视频4| 你懂的网址亚洲精品在线观看| 九色亚洲精品在线播放| 久久精品国产自在天天线| 久久久国产欧美日韩av| 久久午夜综合久久蜜桃| 人人妻人人澡人人爽人人夜夜| 亚洲精品日本国产第一区| 久久精品亚洲av国产电影网| 丝瓜视频免费看黄片| 久久久国产一区二区| 亚洲精华国产精华液的使用体验| 丝袜美足系列| 电影成人av| 亚洲国产成人一精品久久久| 一本色道久久久久久精品综合| 国产又色又爽无遮挡免| 国产老妇伦熟女老妇高清| 久久久亚洲精品成人影院| 国产成人欧美| 各种免费的搞黄视频| 国产日韩欧美在线精品| 久久人人爽av亚洲精品天堂| 熟女电影av网| 黄网站色视频无遮挡免费观看| 亚洲av成人精品一二三区| 美女中出高潮动态图| 校园人妻丝袜中文字幕| 午夜福利在线观看免费完整高清在| 国产日韩欧美视频二区| 日本wwww免费看| 秋霞伦理黄片| 国产av国产精品国产| 亚洲av日韩在线播放| 婷婷色av中文字幕| 少妇的丰满在线观看| 欧美激情 高清一区二区三区| 精品卡一卡二卡四卡免费| 人成视频在线观看免费观看| 久久久久久人人人人人| 国产男女内射视频| 岛国毛片在线播放| 欧美日韩av久久| 看非洲黑人一级黄片| videos熟女内射| 国产高清国产精品国产三级| 人人妻人人澡人人爽人人夜夜| 777久久人妻少妇嫩草av网站| 欧美bdsm另类| 国产乱人偷精品视频| 一本—道久久a久久精品蜜桃钙片| 黄色 视频免费看| 免费少妇av软件| 搡女人真爽免费视频火全软件| 三上悠亚av全集在线观看| 国产 一区精品| 国产精品久久久久久久久免| 少妇被粗大猛烈的视频| 免费黄网站久久成人精品| 一区二区av电影网| 乱人伦中国视频| 亚洲伊人久久精品综合| 国产亚洲av片在线观看秒播厂| 在线观看三级黄色| 免费黄频网站在线观看国产| 日韩中文字幕视频在线看片| 男女无遮挡免费网站观看| √禁漫天堂资源中文www| kizo精华| 黄色怎么调成土黄色| 伦理电影大哥的女人| 亚洲欧美一区二区三区久久| 久久人妻熟女aⅴ| 午夜激情av网站| 只有这里有精品99| 成人二区视频| 又大又黄又爽视频免费| 丁香六月天网| 久久久国产一区二区| 国产午夜精品一二区理论片| 亚洲情色 制服丝袜| 国产在线视频一区二区| 91精品国产国语对白视频| 国产成人精品久久久久久| 欧美日韩亚洲高清精品| 免费av中文字幕在线| 亚洲成人av在线免费| 国产亚洲一区二区精品| 国产男人的电影天堂91| 日韩熟女老妇一区二区性免费视频| 日韩 亚洲 欧美在线| 日本vs欧美在线观看视频| 人妻一区二区av| 女性被躁到高潮视频| 成人国产麻豆网| kizo精华| 国产精品熟女久久久久浪| 26uuu在线亚洲综合色| 亚洲人成网站在线观看播放| 国语对白做爰xxxⅹ性视频网站| 日本av免费视频播放| 久久精品熟女亚洲av麻豆精品| 男男h啪啪无遮挡| av在线观看视频网站免费| 国产亚洲精品第一综合不卡| 久久99热这里只频精品6学生| 美女大奶头黄色视频| 十八禁高潮呻吟视频| 午夜免费鲁丝| 精品人妻偷拍中文字幕| 精品亚洲成a人片在线观看| 亚洲精品久久午夜乱码| 日韩人妻精品一区2区三区| 91成人精品电影| 亚洲 欧美一区二区三区| 亚洲精品自拍成人| 国产精品久久久av美女十八| 91精品国产国语对白视频| 国产极品天堂在线| 欧美日韩亚洲高清精品| 最近最新中文字幕免费大全7| 超碰成人久久| 热99久久久久精品小说推荐| 久久人人爽av亚洲精品天堂| 亚洲成色77777| 不卡av一区二区三区| 一级片免费观看大全| 欧美日韩亚洲高清精品| 亚洲综合色网址| 精品少妇黑人巨大在线播放| 男男h啪啪无遮挡| 香蕉丝袜av| 一二三四在线观看免费中文在| 国产极品天堂在线| 飞空精品影院首页| 免费在线观看黄色视频的| 国产一区有黄有色的免费视频|