• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)時代下新的“個人決定”與“知情同意”

    2017-12-28 09:11:26黃柏恒
    哲學(xué)分析 2017年6期
    關(guān)鍵詞:群組知情道德

    黃柏恒

    大數(shù)據(jù)時代下新的“個人決定”與“知情同意”

    黃柏恒

    大數(shù)據(jù)技術(shù)的持續(xù)發(fā)展與廣泛應(yīng)用將為社會帶來徹底轉(zhuǎn)變,大眾生活的不同層面將無可避免地受到影響。大數(shù)據(jù)亦同時在挑戰(zhàn)隱私權(quán)、知情同意權(quán)等固有道德概念的適用性,并為社會帶來新的道德爭議。由大數(shù)據(jù)技術(shù)發(fā)展及其應(yīng)用所產(chǎn)生的“互聯(lián)狀態(tài)” (the condition of interconnectedness)及其可能對道德責(zé)任帶來的根本轉(zhuǎn)化(fundamental transformation)是未來大數(shù)據(jù)倫理的重點;如“個人決定”及“知情同意”這兩種行為,它們在大數(shù)據(jù)技術(shù)時代從“涉己行為” (selfregarding acts)轉(zhuǎn)化成“涉他行為” (other-regarding acts),這一轉(zhuǎn)變使它們成為一種新道德責(zé)任。

    大數(shù)據(jù)倫理;個人決定;知情同意;道德責(zé)任

    引言:大數(shù)據(jù)時代下新的“個人決定”與“知情同意”

    大數(shù)據(jù)技術(shù)的持續(xù)發(fā)展與廣泛應(yīng)用將會為社會帶來徹底轉(zhuǎn)變,因此,大眾生活的不同層面(包括日?;顒?、工作、政治參與等)將無可避免地受到影響。①有關(guān)大數(shù)據(jù)技術(shù)所帶來不同層面的影響,參見Viktor Mayer-Sch?nberger & Kenneth Cukier,Big Data:A Revolution that will Transform How We Live,Work and Think,London:John Murray,2013。除此以外,大數(shù)據(jù)技術(shù)亦在挑戰(zhàn)隱私權(quán)、知情同意權(quán)等固有道德概念的適用性,并為社會帶來新的道德爭議。就大數(shù)據(jù)技術(shù)帶來的倫理挑戰(zhàn),米特爾施泰特(Brent Mittelstadt)和弗洛里迪(Luciano Floridi)在最近發(fā)表的一篇文章里總結(jié)現(xiàn)今討論中涉及的十多個主要課題,其中包括知情同意權(quán)及隱私權(quán)在大數(shù)據(jù)時代下的意義與可行性、數(shù)據(jù)所有權(quán)(data ownership)、大數(shù)據(jù)鴻溝(big data divide)、大數(shù)據(jù)可能帶來的群體層次傷害(group-level harm)、知識論在大數(shù)據(jù)倫理中的角色及重要性、數(shù)據(jù)管理涉及的信托關(guān)系、大數(shù)據(jù)應(yīng)用中學(xué)術(shù)用途與商業(yè)用途之區(qū)分、與大數(shù)據(jù)相關(guān)的知識產(chǎn)權(quán)問題,以及數(shù)據(jù)存取權(quán)(access rights)等。①Brent Mittelstadt & Luciano Floridi,“The Ethics of Big Data:Current and Foreseeable Issues in Biomedical Contexts”,Science and Engineering Ethics,Vol.22,No.2,2016,pp.303—341.米特爾施泰特和弗洛里迪已詳細(xì)介紹了以上各個重點課題,本文不會就它們再進行討論。本文重點關(guān)注大數(shù)據(jù)技術(shù)帶來的另一種道德挑戰(zhàn),即個人決定(personal decision)及知情同意(informed consent)在大數(shù)據(jù)時代何以成為一種新道德責(zé)任之現(xiàn)象。

    個人決定及知情同意在大數(shù)據(jù)時代下成為一種新道德責(zé)任乃是基于大數(shù)據(jù)技術(shù)發(fā)展及應(yīng)用所產(chǎn)生的一種背景條件(background condition)。我把這種背景條件稱為“互聯(lián)狀態(tài)” (the condition of interconnectedness)。簡言之,所謂“互聯(lián)狀態(tài)”是指在大數(shù)據(jù)時代,人與人之間的聯(lián)系在線上線下生活各個層面變的緊密無縫?;ヂ?lián)狀態(tài)不但挑戰(zhàn)人們對私隱權(quán)及知情同意權(quán)的固有理解,更可能使得這些道德概念在大數(shù)據(jù)時代下不再適用。就互聯(lián)狀態(tài)帶來的規(guī)范性問題,國內(nèi)外社會科學(xué)學(xué)者及信息倫理學(xué)者均主要關(guān)注不同的應(yīng)對方案;但他們的討論忽略了互聯(lián)狀態(tài)對一些日常(道德)行為造成的根本轉(zhuǎn)化(fundamental transformation),因而也忽略了互聯(lián)狀態(tài)可能帶來的新道德責(zé)任。本文將闡述大數(shù)據(jù)技術(shù)如何模糊“涉己行為” (selfregarding acts)與“涉他行為” (other-regarding acts)的界線,并以“個人決定”及“知情同意”這兩種行為作為例子,講述此轉(zhuǎn)變?nèi)绾问挂陨蟽煞N行為成為一種新道德責(zé)任。

    一、“個人決定”及“知情同意”的原有道德意義

    本文旨在闡述個人決定及知情同意在大數(shù)據(jù)時代的道德轉(zhuǎn)化,因此我們必須厘清這兩種行為的本質(zhì)及其原有道德意義。

    在日常道德生活中,我們普遍贊成除非我們擁有凌駕性理由,否則我們應(yīng)該接受并尊重他人的個人選擇;同樣,我們亦普遍贊同如果我們的決定和行為將會對他人造成重大影響,我們則有必要事先取得對方同意。換句話說,在日常道德生活中,我們一般把沒有充分理由否決他人所做的個人選擇或沒有獲取對方的同意下做出影響他人的決定和行為視為道德錯誤。但我們應(yīng)如何理解上述行為作為一種道德錯誤?要說明上述行為的道德錯誤,最直接的可以在自由主義傳統(tǒng)中找到答案。從自由主義角度出發(fā),個人決定及知情同意兩者均是個人自主性(personal autonomy)的體現(xiàn)。因此,根據(jù)自由主義,上述行為的道德錯誤源于違反個人自主性的價

    值。我們可以更加詳細(xì)地分析“個人決定”的道德意義。我們可以把個人決定區(qū)分成兩部分:(1)把個人決定視作自主決定(autonomous choices),即不受他人或其他外在因素干擾,并在沒有限制選擇條件之下所做出的決定。①Tom Beauchamp & James Childress,Principles of Biomedical Ethics,New York,N.Y.:Oxford University Press,2001,p.58.(2)個人決定應(yīng)被理解為關(guān)注自身的決定,而且該決定不會對他人構(gòu)成直接影響。此“個人決定”的定義可幫助我們更清楚理解它的道德價值。由于個人決定基于人們的個人自主性,所以,若我們接受如康德或密爾等自由主義哲學(xué)家對自主性擁有內(nèi)在價值(intrinsic value)的觀點,我們就需要接受他人的個人決定并予以尊重;除非該決定直接影響其他人的福祉,否則我們不應(yīng)該對其做出任何干預(yù)。②Ibid.,pp.63—65.密爾的傷害原則清楚表明了這種對個人決定的道德意義的想 法。

    人類之所以有理有權(quán)可以個別地或者集體地對其中任何分子的行動自由進行干涉,唯一的目的只是自我防衛(wèi)。這就是說,對于文明群體中的任一成員,所以能夠施用一種權(quán)力以反其意志而不失為正當(dāng),唯一的目的只是要防止對他人的危害……要使強迫成為正當(dāng),必須是所要對他加以嚇阻的那種行為將會對他人產(chǎn)生禍害。任何人的行為,只有涉及他人的那部分才需對社會負(fù)責(zé)。在僅只涉及本人的那部分,他的獨立性在權(quán)利上則是絕對的。對于本人自己,對于他自己的身和心,個人乃是最高主權(quán)者。③約翰·密爾:《論自由》,許寶 譯,北京:商務(wù)印書館2007年版,第10頁。

    根據(jù)自由主義,因為理性的人們最熟識自己的喜好和利益,我們不應(yīng)干涉他人的個人決定。因此,他們是最適合為自己做出選擇的個體。換言之,個人決定對理性個體來說必然是一種最佳(或?qū)ψ约鹤詈茫┑臎Q定。同時,自由主義者指出,人們均享有追求自己生活方式的權(quán)利,并且只有通過個人選擇,他們才可以真正計劃并實踐一個屬于自己的人生。所以,自由主義者提出我們應(yīng)該把個人決定視為一種基本權(quán)利。有自由主義者甚至提出人們應(yīng)該享有“做錯事的權(quán)利” (a right to do wrong)。④對于“做錯事的權(quán)利”的討論,參見 Jeremy Waldron,“A Right to do Wrong”,Ethics,Vol. 92,No.1,1981,pp.21—39;J. Herstein,“Defending the Right to do Wrong”,Law and Philosophy,Vol.31,No.3,2012,pp.343—365;J. Herstein,“A Legal Right to Do Legal Wrong”,Oxford Journal of Legal Studies,Vol.34,No.1,2014,pp.21—45。當(dāng)然,這并不表示我們不可批評他人的不當(dāng)選擇;但如果這些選擇只會影響到選擇者本身,我們對他們的批判或責(zé)難僅是關(guān)于決定是否精明的慎思性批評(prudential judgment),而不是關(guān)于道德對錯的道德性批評(moral judgment)。即,只要我們的個人決定并沒對他人構(gòu)成直接影響,我們僅需要為自己的個人決定負(fù)責(zé)任。

    當(dāng)然,人們存活于社會,國家的決策無可避免地會直接影響大眾的生活方式,甚至簡單如人與人之間的基本日常交流亦在所難免地互相構(gòu)成影響。若按照自由主義者所言,自主性的價值是根本不可被侵犯的。在這一情況下,國家的政策以至人與人之間的交流又如何可能避免侵犯個體自主性?就以上問題,自由主義者認(rèn)為,我們可通過人們同意(consent)達成的社會契約來解決。①雖然哲學(xué)家對“知情同意” (或“知情同意權(quán)”)的理解有大致共識,但對其細(xì)節(jié)的定義還有著一定爭議。本文不打算就知情同意的定義和內(nèi)容進行討論,本文將簡單地把“同意” (或“知情同意”)視作非強迫性,并對同意事項有足夠認(rèn)知的一種決定。對知情同意的詳細(xì)討論,參見Nir Eyal,“Informed Consent”,The Stanford Encyclopedia of Philosophy,edited by Edward N. Zalta,F(xiàn)all 2012。

    自由主義政治理論傳統(tǒng)把人民的同意視為政治合法性(political legitimacy)的根源。②Jeremy Waldron,“Theoretical foundations of liberalism”,The Philosophical Quarterly,Vol.37,No.147,1987,pp.127—150.只要人們在自愿的情況下認(rèn)同政權(quán),他們的同意就反映了同意者自主地接受國家的統(tǒng)治,并接受國家所制訂的政策。③有學(xué)者指出,我們應(yīng)該區(qū)分一個政權(quán)的政治合法性及一個政策的政治合法性。我贊同這個說法,但基于這個問題不會影響我的論證,我將不會就此問題進行討論,參見Thomas Christiano,“Justice and Disagreement at the Foundations of Political Authority”,Ethics,Vol.110,No.1,1999,pp.165—187;Kalle Grill,“Liberalism,Altruism and Group Consent”,Public Health Ethics,Vol.2,No.2,2009,pp.146—157。也就是說,只要透過自愿同意,同意者自愿把(一部分)決定的權(quán)力交到政府,并把它的決定視為自己的決定。我們亦可以用日常生活作例子來說明同意的道德價值。比如,若我們的行為可能使他人陷入風(fēng)險,我們則有必要在行動前事先征求他們的同意(或征詢他們的意見),否則我們的行為在道德或法律上都均為錯誤。這亦是醫(yī)療倫理和實驗倫理皆提出必須在手術(shù)及研究前取得病人及實驗對象的知情同意的原因。④參見 Douglas MacLean,“Risk and Consent:Philosophical Issues for Centralized Decisions”,Risk Analysis,Vol.2,No.2,1982,pp.59—67;Andreas Teuber,“Justifying Risk”,Daedalus,Vol.4,No.4,1990,pp.235—254。通過病人及實驗對象的同意,他們將不會被視為被迫接受手術(shù)或被迫承受實驗所帶來的風(fēng)險;而是自愿接受并清楚自己將會承受這些已知的風(fēng)險。同時,亦因為他們是自主地把自己置身那些風(fēng)險之中,所以他們自己亦要對這些風(fēng)險負(fù)責(zé)任,并且不能再把所有責(zé)任推到施術(shù)者或?qū)嶒炚呱砩稀?/p>

    我們更可以把知情同意視為有允許功能(permissive function),可通過有效的知情同意來改變一個行為的允許性(permissibility)。比如,擅自進入私人領(lǐng)地與探訪朋友這兩種行為有著基本的道德分別;前者不被道德允許,但后者則是道德所允許的。這兩種行為在表現(xiàn)上無疑是一致的,但兩者差異在于后者擁有被探訪者對探訪行為的同意,即他愿意接受朋友的到訪。同樣,在用刀刺穿他人身體與施行一項手術(shù),兩者的行為表現(xiàn)上亦可以視為毫無差異,但兩者的分別在于施手術(shù)這一行為有著病人對施術(shù)者的知情同意。①John Kleinig,“The Nature of Consent”,in The Ethics of Consent:Theory and Practice,edited by Franklin Miller& Alan Wertheimer,New York:Oxford University Press,2010,pp.3—24.換句話說,知情同意亦可被理解為接受他人加諸在我們身上的行為的一種決定。因此,這亦該被視為自主性的一種體現(xiàn)。

    上述討論指出個人決定和知情同意均是基于自主性的價值,因此我們是不可能代替他人作個人決定或是知情同意的。同時,由于“個人決定”或是“知情同意”均是基于自主性的價值,我們只需要在決定及同意過程中考慮自己的利益,以及考慮當(dāng)中是否涉及對他人造成的重大影響,并就個人決定或知情同意負(fù)責(zé)任,我們則已完成“個人決定”或是“知情同意”的道德責(zé)任。也就是說,在決定和同意并不直接影響他人的情況下,個人則不需要考慮他人(除非他們自己決定要這樣做)。

    二、互聯(lián)狀態(tài)對“個人決定”與“知情同意權(quán)”之挑戰(zhàn)

    誠如米特爾施泰特和弗洛里迪等學(xué)者所言,大數(shù)據(jù)技術(shù)對我們固有的道德觀念帶來極大挑戰(zhàn)。這些道德挑戰(zhàn)不單源于大數(shù)據(jù)技術(shù)所帶來的前所未有的結(jié)果,更是因為大數(shù)據(jù)技術(shù)改變了我們與世界、社會和他人的關(guān)系。這部分,我將以“互聯(lián)狀態(tài)”概念去闡釋大數(shù)據(jù)技術(shù)所帶來的轉(zhuǎn)變,并以個人決定及知情同意為例解釋互聯(lián)狀態(tài)所帶來的道德沖擊。

    所謂“互聯(lián)狀態(tài)”,是指人與人之間在線上線下生活緊密無縫的聯(lián)系,我們可以以技術(shù)(technical)及本體論(ontological)兩個層面進一步說明這種關(guān)系。

    首先,我們可通過技術(shù)運作的最低技術(shù)要求(minimum technical requirement)或技術(shù)帶來的影響去理解互聯(lián)狀態(tài);我們可以把此互聯(lián)狀態(tài)的理解稱作“技術(shù)性互聯(lián)狀態(tài)”。諸如鐵路、互聯(lián)網(wǎng)等大型技術(shù)系統(tǒng),有些技術(shù)必須要大規(guī)模應(yīng)用才能有效實踐其應(yīng)有功能,而一旦這些技術(shù)開始運作,社會上的個體皆會成為其用家(或直接受其影響)。通過促使人們成為技術(shù)的共同用家,這些技術(shù)以中介的形式把人們緊密地聯(lián)系在一起;又或是,這些技術(shù)把社會上不同的人以一個用家群組的形式連結(jié)一 起。

    大數(shù)據(jù)技術(shù)正是這樣的一種技術(shù)。作為有效的大數(shù)據(jù)技術(shù)應(yīng)用,它必須要橫向及縱向廣泛實施。首先,大數(shù)據(jù)技術(shù)應(yīng)用必須收集足夠數(shù)量的數(shù)據(jù)才能發(fā)掘可靠的模式(patterns)及統(tǒng)計相關(guān)性(statistical correlations)以創(chuàng)造新的知識,并協(xié)助我們透過數(shù)據(jù)預(yù)測未來。因此,大數(shù)據(jù)分析系統(tǒng)必須收集大量甚至不同的信息作為發(fā)掘模式及統(tǒng)計相關(guān)性的根據(jù)。再者,大數(shù)據(jù)分析系統(tǒng)亦需要持續(xù)數(shù)據(jù)輸入來協(xié)助系統(tǒng)進行反復(fù)驗證,才可以確保從數(shù)據(jù)發(fā)掘的模式及統(tǒng)計相關(guān)性的準(zhǔn)確性,并針對新的數(shù)據(jù),在需要時對大數(shù)據(jù)系統(tǒng)作出修改,以加強它的預(yù)測能力。更重要的是,隨著大數(shù)據(jù)技術(shù)應(yīng)用的成熟,它將可以預(yù)測過往從未贊成被收集數(shù)據(jù)的人們的決定和行為;因為大數(shù)據(jù)系統(tǒng)只需要少量的個人信息,就能對這些未完全未被收集過數(shù)據(jù)的人們進行預(yù)測。①有關(guān)大數(shù)據(jù)技術(shù)如何預(yù)測個人行為決定,請參見本文第三部分。這種情況下,大數(shù)據(jù)技術(shù)將帶來一種技術(shù)性互聯(lián)狀態(tài):個人通過大數(shù)據(jù)技術(shù)應(yīng)用及影響成為緊密相連的用家群組成員。

    技術(shù)性互聯(lián)狀態(tài)對個人決定權(quán)的影響尤其嚴(yán)重。承上文,大數(shù)據(jù)技術(shù)只需少量個人信息就能夠針對個人決定和行為做出相對準(zhǔn)確的預(yù)測;當(dāng)大數(shù)據(jù)分析系統(tǒng)正式推出,人們便難以回避大數(shù)據(jù)系統(tǒng)對我們做出預(yù)測的可能性。只要第三方(包括國家、企業(yè)等)擁有少量關(guān)于我們的基本參數(shù),大數(shù)據(jù)分析系統(tǒng)就能夠利用過往發(fā)掘的模式及統(tǒng)計相關(guān)性進行比對,并對我們進行預(yù)測。我們可把這一情況看成:在大數(shù)據(jù)時代,除非我們能回避所有數(shù)據(jù)收集,否則我們將無法拒絕成為大數(shù)據(jù)技術(shù)的預(yù)測對象;即,我們沒有退出的權(quán)利(the right to opt-out)和可能性。同時,因為大數(shù)據(jù)系統(tǒng)會基于過去收集的數(shù)據(jù)為我們提供選項,我們所擁有的選項將會被系統(tǒng)過去發(fā)掘的模式及統(tǒng)計相關(guān)性所限制,這些有限的選項亦必然會大大減少我們的選擇空間。②Sofia Grafanaki,“Autonomy Challenges in the Age of Big Data”,F(xiàn)ordham Intellectual Property,Media and Entertainment Law Journal,Vol.27,2017,pp.803—868.

    大數(shù)據(jù)技術(shù)帶來的技術(shù)性互聯(lián)狀態(tài)亦會對知情同意權(quán)帶來挑戰(zhàn)。瑞典技術(shù)哲學(xué)家漢森(Sven Ove Hansson)指出,要在任何大型技術(shù)工程項目中獲取眾人的知情同意是不可能及不可行的。③Sven Ove Hansson,“Informed Consent out of Context”,Journal of Business Ethics,Vol.63,No.2,2006,pp.149—154.漢森認(rèn)為,大型技術(shù)工程項目影響多樣、而且程度不一,因此,我們不可能明確界定誰是大型技術(shù)工程項目的受影響者,在大型技術(shù)工程項目中我們亦不能確定需要誰的知情同意。漢森亦認(rèn)為,若任何大型技術(shù)工程項目均必須獲得所有受影響者的同意才能進行,它們將會面對另一問題—— 否決權(quán)問題。由于各人想法和利害有所不同,現(xiàn)實中我們基本上不可能使每個受影響的人都同意此大型項目。作為一種帶來大范圍影響的技術(shù),大數(shù)據(jù)技術(shù)同樣面對以上漢森所提出的兩個難題:在大數(shù)據(jù)分析系統(tǒng)投入運作之前,我們到底要誰的同意權(quán)?是直接被收集數(shù)據(jù)的對象,抑或是任何有機會被預(yù)測的對象?就算我們能夠定出誰要對大數(shù)據(jù)分析系統(tǒng)的應(yīng)用給予同意,但這些人又是否可以達成一致的同意?這些都是大數(shù)據(jù)技術(shù)應(yīng)用要獲得知情同意必然會遇到的難題。

    另一種對互聯(lián)狀態(tài)的理解是本體論式的。借用弗洛里迪的說法,大數(shù)據(jù)技術(shù)屬于一種重新本體化技術(shù)(re-ontologizing technology)。所謂“重新本體化”,弗洛里迪是指:

    一種極端的重組(re-engineering),重新本體化不僅重新設(shè)計、構(gòu)造或構(gòu)建系統(tǒng)(例如,一間公司、一臺機器,或其他的人造物),更加從根本上改變了其內(nèi)在本質(zhì)(instrinsic nature),即它的本體。①Luciano Floridi,Information:A Very Short Introduction, New York:Oxford University Press,2010,p.11.

    當(dāng)我們把自身身份數(shù)位化(digitalized)及數(shù)據(jù)化(datafied)時,我們將大幅度地減低本體摩擦(ontological friction)。大幅度地減低本體摩擦的結(jié)果就是個人信息交流傳遞變得容易,亦同時使得第三方更容易獲取有關(guān)我們的信息。②Luciano Floridi,“The Ontological Interpretation of Informational Privacy”,Ethics and Information Technology December,Vol.7,No.4,2005,pp.185—200.我們可以透過大數(shù)據(jù)系統(tǒng)支持的剖析技術(shù)(profiling technology)進一步來說明本體論式互聯(lián)狀態(tài)。

    剖析技術(shù)會根據(jù)每個人的性別、性格特質(zhì)、個人歷史、社會地位等不同因素把人們分門別類(classification),再根據(jù)他們所屬類別(categories)進行不同回應(yīng)。通過剖析技術(shù),大數(shù)據(jù)系統(tǒng)是與一個類別進行互動,而再非與獨立個體進行互動。因此,我們的個人身份相對我們所屬的群組變得不再重要,因為在剖析技術(shù)的視覺中所有決定均針對群組訂 制。

    基于大多數(shù)剖析技術(shù)的分類程序及方法并非公開,亦沒有足夠透明度,被分類者通常無從得知他們屬于哪一群組。這種情況下,個人實在難以做出知情同意。同時,由于從剖析技術(shù)所做的決定乃是針對群組訂制,如果這些針對群組的決定要獲得知情同意才被視作合乎道德,我們則需要得到所有群組成員的同意。因此,在大數(shù)據(jù)時代一個重大的挑戰(zhàn)是,我們?nèi)绾文軌蚓鸵恍┽槍θ航M的決定而取得所有群組成員的個人同意。在個體之上,群組在大數(shù)據(jù)時代成為一種主要的決策對象,因此,弗洛里迪等學(xué)者認(rèn)為,群組亦應(yīng)該成為倫理反思的基本單位。在大數(shù)據(jù)時代,我們需要考慮的不單只是個人同意權(quán),而是群組同意(group consent)、集體同意(collective consent)等概念。

    三、大數(shù)據(jù)時代的個人行為及決定:從涉己到涉人

    大數(shù)據(jù)技術(shù)對個人決定及知情同意所帶來的問題極為重要,正是因為它沖擊我們固有的道德思考,就以上問題,有學(xué)者指出大數(shù)據(jù)時代反思自主性價值的迫切性、亦有學(xué)者提出我們需要擴大倫理考量的范圍,即我們有必要把超越個人的群組作為考量單位,并探討如“集體同意權(quán)”、“集體私隱權(quán)”等概念的可能性及可行性。

    我贊同以上學(xué)者提出的課題均為重要的研究方向,但我亦認(rèn)為以上提及的研究方向忽略了一個非常重要的問題:決定或行為的道德責(zé)任因背景條件改變而做出根本轉(zhuǎn)化的可能性。尤其值得指出的是,現(xiàn)今學(xué)術(shù)圈及政策界對以上課題的討論均集中于探索如何從第三方(如國家、企業(yè)等)保障個人權(quán)利或群組權(quán)利,或是分析第三方對個人或群組的道德責(zé)任,但要明白這些論述只側(cè)重外界對個體的干預(yù)及侵犯,完全忽略個體自身在大數(shù)據(jù)時代下應(yīng)當(dāng)主動承擔(dān)的道德責(zé)任。我將會通過“個人決定”及“知情同意”這兩種行為,展示大數(shù)據(jù)技術(shù)如何從本質(zhì)上改變行為的道德價值。

    講述大數(shù)據(jù)技術(shù)如何從本質(zhì)上改變行為的道德價值前,我們可先參考大數(shù)據(jù)技術(shù)帶來的其中一個倫理難題,即米特爾施泰特所說的“集體隱私權(quán)”問題(the problem of group privacy)。①Brent Mittelstadt,“From Individual to Group Privacy in Big Data Analytics”,Philosophy & Technology,Online First,2017.米特爾施泰特指,大數(shù)據(jù)技術(shù)擁有人可通過搜集數(shù)據(jù)進行分析,把人們進行分類并將他們置于不同臨時群組(ad hoc groups),再按臨時群組作為決定的參考。米特爾施泰特認(rèn)為,大數(shù)據(jù)技術(shù)擁有人可透過這些臨時群組去窺視群組成員的特征。但由于這一臨時群組的身份與個人身份不同,前者由大數(shù)據(jù)技術(shù)應(yīng)用組成而擁有的共同身份(shared identity),所以現(xiàn)行法例并未有合適的措施保障個人免受第三方透過這種臨時群組(或由臨時群組給予群組成員的共同身份)的影響。米特爾施泰特提出,由于個人與臨時群組在本質(zhì)上并不相同,因此現(xiàn)行保障個人隱私權(quán)的制度并不適用于臨時群組。亦因臨時群組對個體帶來直接影響,米特爾施泰特認(rèn)為我們需要其他法例及制度來保障臨時群組的權(quán)利。

    我簡述米特爾施泰特對集體私隱權(quán)的討論的原因是因為它一方面反映大數(shù)據(jù)技術(shù)會帶來全新的倫理難題,另一方面亦顯示現(xiàn)有討論所忽略的固有道德責(zé)任根本轉(zhuǎn)化的可能性。在米特爾施泰特的論述中,我們主要關(guān)注的還是第三方的舉動及他們對臨時群組(及組成臨時組的個體成員)帶來的影響。米特爾施泰特提出的集體隱私權(quán)問題主要關(guān)注第三方與臨時群組間的關(guān)系,尤其是第三方對臨時群組應(yīng)負(fù)怎樣的道德(或法律)責(zé)任。雖然米特爾施泰特的論述明確指出大數(shù)據(jù)技術(shù)將帶來臨時群組此一新道德對象(moral patient) (見圖一),但他的論述卻未有言明大數(shù)據(jù)技術(shù)產(chǎn)生的互聯(lián)狀態(tài)將會轉(zhuǎn)化某些行為的本質(zhì)及結(jié)果,從而使這些行為的道德意義有所改變。

    圖一

    如我先前所指,在做出個人決定及知情同意時,我們只需在決定及同意過程中考慮自身利益及有否對他人造成重大影響,并對該個人決定及知情同意負(fù)責(zé)任,這便足以完成個人決定或是知情同意的道德責(zé)任。換言之,個人決定及知情同意均是涉己行為。但由于米特爾施泰特對集體隱私權(quán)的討論已經(jīng)隱約可見,通過大數(shù)據(jù)技術(shù),無論是個人決定還是知情同意都會對他人造成直接影響,因此,在大數(shù)據(jù)時代,個人決定及知情同意不應(yīng)再只被視為“涉己行為” (self-regarding acts),同時它也是“涉他行為” (other-regarding acts)。

    圖二

    圖二所見,A的決定和行為會為他所置身的臨時群組提供新的信息,因而令擁有大數(shù)據(jù)技術(shù)的第三方更加了解同屬這臨時群組的成員的想法和行為。第三方亦可根據(jù)A所提供的信息改變針對這個臨時群組的預(yù)測,此舉將會對B、C、D、E等其他屬于相同臨時群組的成員帶來直接影響。也就是說,以大數(shù)據(jù)技術(shù)形成的群組作為中介,A的個人決定不再只限對自己造成直接影響,而是對所有與他相類似的人帶來直接影響。比如,假設(shè)A住在上海徐匯區(qū)并習(xí)慣到家樂福購物,同時是哈利·波特系列小說的忠實讀者。某日,A決定買一輛新跑車。他這個決定為大數(shù)據(jù)分析系統(tǒng)提供了新的信息,并協(xié)助該系統(tǒng)修正他所置身的臨時群組的參數(shù)。參考這些新數(shù)據(jù)后,第三方便可以對這個臨時群組制訂新的回應(yīng)(如對該群組提供更多跑車相關(guān)的廣告等)。新回應(yīng)并不止對A造成影響,更是對與A有相同特征的B、C、D、E等帶來影響。更甚,若A的體質(zhì)容易患上某種危險疾病,A的健康信息修正其所屬群組的參數(shù),以致以此臨時群組作參考的第三方可能拒絕受理這一臨時群組其他成員的醫(yī)療保險。由此可見,在大數(shù)據(jù)下,個人決定明顯會對他人造成直接影 響。

    在大數(shù)據(jù)時代,我們的決定不再只是“個人決定”。通過大數(shù)據(jù)技術(shù),“個人決定”將會轉(zhuǎn)化成一種“個人—集體決定” (personal-group decisions)并必然對他人帶來直接影響。因為此轉(zhuǎn)變,我們在做出“個人—集體決定”時亦再不能再只是對自身負(fù)責(zé)任,更需要顧及與我們相似的個體或是與我們屬同一臨時群組的成員負(fù)責(zé)任。在這個理解下,個人決定轉(zhuǎn)化成一種新的道德責(zé)任,而我們在做決定前亦有道德義務(wù)考慮這個決定將會對其他與我們相似的人所帶來的影響。

    相同的情況亦出現(xiàn)于知情同意:假設(shè)A同意擁有大數(shù)據(jù)技術(shù)的第三方對他做出的決策,第三方可以透過A的同意更加了解如何使得與A相似的人(或是與A同屬一個臨時群組的成員)同意這個決策。與個人決定的情況一樣,A對第三方的知情同意意味著與他特征相近的人也會同意相似或相近的決定。在這個意義下,A的同意不僅代表其個人,更代表所有與他相似的人(或是與A同屬一個臨時群組的成員)。此知情同意的問題,在生化醫(yī)學(xué)大數(shù)據(jù)(biomedical big data)相關(guān)的情況下更是顯而易見。如果A同意提供他的生物材料用作研究或商業(yè)用途,他的知情同意將直接影響那些與他共享相近生物特征的人。換句話說,生化醫(yī)學(xué)大數(shù)據(jù)帶來的影響已超出捐助者本身,并擴展到與他相似的人。知情同意不再只限于自身,而是一種會對他人造成直接影響的行為。因此,與“個人決定”一樣,在做出知情同意前我們有道德義務(wù)考慮到這個知情同意將對與我們相似的人所帶來的影響。

    四、結(jié)語

    在大數(shù)據(jù)時代,我們的行為可以因為大數(shù)據(jù)技術(shù)而發(fā)生本質(zhì)上的變化,從而讓這些行為的道德意義有所改變。本文以個人決定及知情同意這兩種行為從“涉己”轉(zhuǎn)化成“涉人”為例講述大數(shù)據(jù)技術(shù)產(chǎn)生的互聯(lián)狀態(tài)帶來的道德責(zé)任轉(zhuǎn)化。必須說明的是,本文旨在識別大數(shù)據(jù)倫理中一個并未被討論的問題,縱使我并沒有提供解決問題的方案,但我認(rèn)為提出學(xué)者忽視的問題乃是解決問題最重要的一步。

    本文的討論,亦可被視作質(zhì)疑“個人決定”及“知情同意”的歸謬法論證(reductio ad absurdum),即,在大數(shù)據(jù)時代,每個決定或是每次同意都對他人構(gòu)成直接影響,因此絕不可能存在單純的“個人決定”或“知情同意”。不過,就算上述討論成功論證個人決定及知情同意在大數(shù)據(jù)時代并不存在(或不再存在),我亦相信“個人決定”及“知情同意”將保留在我們的日常話語中。因此,我們現(xiàn)在更需要的是明確指出大數(shù)據(jù)時代的個人決定及知情同意所包含的涉他維度。即,在決定及同意前,我們需要考慮決定及知情同意對與我們相類似的人所帶來的直接影響。又或,我們現(xiàn)在必須開始用一個超越個人的角度去思考這些行為。也就是說,以上的討論可以視為對“個人決定”及“知情同意”的一種修正主義(revisionism)。在大數(shù)據(jù)時代下,我們有必要重新理解“個人決定”及“知情同意”的內(nèi)涵意義。

    當(dāng)然,我所提出的修正主義并非完全沒有問題。尤其是假設(shè)以上對于個人決定及知情同意已從涉己行為轉(zhuǎn)化成涉他行為論證為正確,人們似乎不可能在決定及同意時考慮所有受影響的人—— 因為他們無從得知這個決定或知情同意到底會對誰造成影響。①這個問題與漢森對知情同意權(quán)在大型技術(shù)工程項目的挑戰(zhàn)本質(zhì)上一致,參見本文第二部分。對于這個問題,我們可以通過兩個方向去做出回應(yīng)。首先,我們可以強調(diào)決定和同意過程的重要性。一般情況下,我們亦是沒法全然預(yù)測決定和行為將會帶來的所有后果。因此,我們應(yīng)當(dāng)考慮的并非我的決定能否保證不會為所有人帶來負(fù)面影響,而是在決定或同意過程中,我到底有沒有把其他人所受到的影響考慮在內(nèi)。其次,我們可以考慮在技術(shù)層面上減低人們承擔(dān)道德責(zé)任的難度。國內(nèi)外多位學(xué)者都指出我們可以透過重新設(shè)計、構(gòu)建技術(shù)來改變?nèi)藗兊男袨?,令他們更符合道德。②?如,Peter-Paul Verbeek,Moralizing Technology:Understanding and Designing the Morality of Things,Chicago:Chicago University Press,2011;Luciano Floridi,“Distributed Morality in an Information Society”,Science and Engineering Ethics,Vol.19,No.3,pp.727—743,2013。個人決定及知情同意從“涉己”轉(zhuǎn)換成“涉他”亦是源自大數(shù)據(jù)技術(shù)的本質(zhì)及其應(yīng)用結(jié)果,因此我們亦可以透過(重新)思考大數(shù)據(jù)技術(shù)的設(shè)計和運作方式以提升我們在做出個人決定和知情同意時同時考慮對他人的影響的可能性。例如,我們可以要求大數(shù)據(jù)分析系統(tǒng)加入提示功能,在用家做出決定或知情同意前提醒他們所做出的決定將會對他人造成直接影響,并要求用家花少許時間再做考慮。

    最后,以上的討論亦可以為大數(shù)據(jù)治理提供一些思考方向。由于現(xiàn)行大數(shù)據(jù)治理方式主要以自主性為核心價值,使得大數(shù)據(jù)治理的法例及制度難以實踐本文提出的新道德責(zé)任。簡而言之,只要現(xiàn)行的討論仍舊集中于保障個人(或是群組)權(quán)利,這種思考模式將會完全忽略個人的(新)道德責(zé)任。也就是說,我們必須重新考慮大數(shù)據(jù)治理的原點,讓履行這種與群組相關(guān)的道德責(zé)任變得更加可能。本文提出的個人決定及知情同意在大數(shù)據(jù)時代將帶來新道德責(zé)任這種想法可以幫助我們超越舊有的思考框架。

    B80

    A

    2095-0047(2017)06-0101-11

    黃柏恒,德國漢堡大學(xué)信息科學(xué)系研究員。

    肖志珂)

    猜你喜歡
    群組知情道德
    頭上的星空與心中的道德律
    十幾歲(2021年24期)2021-11-18 02:18:40
    跟蹤導(dǎo)練(五)(2)
    道德是否必需?——《海狼》對道德虛無主義的思考
    關(guān)系圖特征在敏感群組挖掘中的應(yīng)用研究
    電子測試(2018年14期)2018-09-26 06:04:10
    知情圖報
    小演奏家(2016年5期)2016-05-14 15:11:12
    基于統(tǒng)計模型的空間群組目標(biāo)空間位置計算研究
    淺析知情同意在藥物臨床試驗中的實施
    靜海縣人大常委會組織知情觀察
    天津人大(2015年9期)2015-11-24 03:26:13
    用道德驅(qū)散“新聞霧霾”
    新聞前哨(2015年2期)2015-03-11 19:29:31
    臨床上落實病人知情同意權(quán)需要注意的若干問題
    国产精品免费视频内射| 久久久a久久爽久久v久久| 国产成人精品一,二区| 国产精品不卡视频一区二区| 男女下面插进去视频免费观看| 亚洲av日韩在线播放| 亚洲精品,欧美精品| 欧美国产精品一级二级三级| 国产在视频线精品| 一级爰片在线观看| 亚洲av日韩在线播放| av免费在线看不卡| 久久国内精品自在自线图片| 波多野结衣av一区二区av| 国产免费现黄频在线看| 最新中文字幕久久久久| 久久 成人 亚洲| 国产成人欧美| 女性生殖器流出的白浆| 久久久久精品久久久久真实原创| 人人澡人人妻人| 黄网站色视频无遮挡免费观看| 天天躁狠狠躁夜夜躁狠狠躁| 国产免费福利视频在线观看| 熟女少妇亚洲综合色aaa.| 欧美国产精品va在线观看不卡| 飞空精品影院首页| 在线天堂中文资源库| 街头女战士在线观看网站| www.熟女人妻精品国产| 激情视频va一区二区三区| 免费看不卡的av| 男女边摸边吃奶| 国产精品免费大片| 欧美精品亚洲一区二区| 亚洲精品一二三| 这个男人来自地球电影免费观看 | 一二三四中文在线观看免费高清| 麻豆精品久久久久久蜜桃| 人妻 亚洲 视频| 国产女主播在线喷水免费视频网站| 亚洲av成人精品一二三区| 久久精品人人爽人人爽视色| 这个男人来自地球电影免费观看 | 亚洲精品av麻豆狂野| 国产精品一区二区在线不卡| 精品一区二区三区四区五区乱码 | 亚洲内射少妇av| 国产精品 欧美亚洲| 日日摸夜夜添夜夜爱| 精品卡一卡二卡四卡免费| 亚洲欧美一区二区三区国产| 亚洲欧美清纯卡通| 搡老乐熟女国产| 高清不卡的av网站| 久久人人爽人人片av| 亚洲国产成人一精品久久久| 日本欧美视频一区| 女人高潮潮喷娇喘18禁视频| 欧美激情 高清一区二区三区| 涩涩av久久男人的天堂| 免费黄频网站在线观看国产| 女的被弄到高潮叫床怎么办| 精品卡一卡二卡四卡免费| 毛片一级片免费看久久久久| 国产成人a∨麻豆精品| 我要看黄色一级片免费的| 丝袜脚勾引网站| 国产精品国产三级国产专区5o| 精品久久蜜臀av无| 欧美日韩视频高清一区二区三区二| 久久久久久久久免费视频了| 午夜福利影视在线免费观看| 黄色 视频免费看| 丝瓜视频免费看黄片| 男女无遮挡免费网站观看| 日韩在线高清观看一区二区三区| av网站免费在线观看视频| 亚洲国产欧美在线一区| 9热在线视频观看99| 一区二区日韩欧美中文字幕| 青草久久国产| av在线播放精品| 亚洲国产成人一精品久久久| 国产av码专区亚洲av| 日韩三级伦理在线观看| 大片免费播放器 马上看| 日韩中文字幕欧美一区二区 | 国产欧美日韩综合在线一区二区| 韩国精品一区二区三区| 黄色视频在线播放观看不卡| a级毛片黄视频| 美女国产高潮福利片在线看| 国产乱来视频区| 香蕉国产在线看| 一区二区三区精品91| 菩萨蛮人人尽说江南好唐韦庄| 啦啦啦在线观看免费高清www| 激情五月婷婷亚洲| 成人漫画全彩无遮挡| 成人漫画全彩无遮挡| 天堂8中文在线网| 亚洲国产色片| 国产精品久久久久久精品电影小说| 亚洲av福利一区| 日韩伦理黄色片| 人人妻人人澡人人看| 中文天堂在线官网| 免费不卡的大黄色大毛片视频在线观看| 国产成人精品在线电影| 美女主播在线视频| 亚洲人成电影观看| 少妇人妻 视频| av天堂久久9| 男人爽女人下面视频在线观看| 中文字幕最新亚洲高清| 国产亚洲最大av| av电影中文网址| 国产无遮挡羞羞视频在线观看| 欧美日韩av久久| 精品人妻一区二区三区麻豆| 男女午夜视频在线观看| 热99久久久久精品小说推荐| 美女脱内裤让男人舔精品视频| 男女免费视频国产| 99香蕉大伊视频| 精品午夜福利在线看| 一区二区三区四区激情视频| a级毛片黄视频| 日日啪夜夜爽| 伦理电影大哥的女人| 制服丝袜香蕉在线| 日本爱情动作片www.在线观看| 亚洲av免费高清在线观看| 亚洲三级黄色毛片| 哪个播放器可以免费观看大片| 亚洲国产欧美在线一区| 亚洲五月色婷婷综合| 亚洲久久久国产精品| 日韩制服骚丝袜av| 免费黄色在线免费观看| 亚洲经典国产精华液单| 男女边吃奶边做爰视频| 久久久久久久大尺度免费视频| 伊人久久大香线蕉亚洲五| 亚洲av综合色区一区| 深夜精品福利| 亚洲成国产人片在线观看| 97人妻天天添夜夜摸| 久久av网站| 又大又黄又爽视频免费| 国产精品99久久99久久久不卡 | 国产日韩欧美亚洲二区| 美女中出高潮动态图| 亚洲情色 制服丝袜| 精品国产一区二区三区久久久樱花| 国产精品久久久久久久久免| 麻豆乱淫一区二区| 久热久热在线精品观看| 久久久欧美国产精品| 国产一区二区三区综合在线观看| 日日摸夜夜添夜夜爱| 亚洲国产精品一区三区| 人妻少妇偷人精品九色| 黑人巨大精品欧美一区二区蜜桃| 一本色道久久久久久精品综合| 2022亚洲国产成人精品| 亚洲av日韩在线播放| 青草久久国产| 国产成人一区二区在线| 免费在线观看完整版高清| 人人妻人人澡人人看| 啦啦啦中文免费视频观看日本| 亚洲一级一片aⅴ在线观看| 成年女人毛片免费观看观看9 | 久久久国产欧美日韩av| 午夜福利一区二区在线看| 制服丝袜香蕉在线| 黄频高清免费视频| 日本wwww免费看| 啦啦啦在线免费观看视频4| 少妇人妻精品综合一区二区| 亚洲美女搞黄在线观看| 久久av网站| 91午夜精品亚洲一区二区三区| 黄色一级大片看看| 久久99蜜桃精品久久| 国产男女内射视频| 好男人视频免费观看在线| 免费黄色在线免费观看| 大陆偷拍与自拍| 欧美国产精品一级二级三级| 亚洲少妇的诱惑av| 亚洲精品,欧美精品| av国产久精品久网站免费入址| a 毛片基地| 国产一区二区三区综合在线观看| 久久免费观看电影| 成年动漫av网址| 天天躁夜夜躁狠狠久久av| 男女国产视频网站| 在现免费观看毛片| 波多野结衣av一区二区av| 成人午夜精彩视频在线观看| 少妇人妻久久综合中文| 黑人猛操日本美女一级片| 一本久久精品| 久热久热在线精品观看| 欧美人与善性xxx| 熟女电影av网| 免费播放大片免费观看视频在线观看| 日韩熟女老妇一区二区性免费视频| 国产黄色视频一区二区在线观看| 亚洲精品乱久久久久久| 午夜日韩欧美国产| 欧美成人午夜精品| 久久久久久人人人人人| 国产精品香港三级国产av潘金莲 | 亚洲精品视频女| 亚洲综合色网址| 精品卡一卡二卡四卡免费| av线在线观看网站| 成人免费观看视频高清| 99热网站在线观看| 久久精品国产综合久久久| 97在线人人人人妻| 久久久国产精品麻豆| 久久久久久伊人网av| 日本欧美国产在线视频| 欧美日韩亚洲高清精品| av视频免费观看在线观看| 丝袜人妻中文字幕| 91在线精品国自产拍蜜月| 美女午夜性视频免费| 免费观看a级毛片全部| 久久久久精品性色| 99精国产麻豆久久婷婷| 精品第一国产精品| av在线老鸭窝| 久久久精品国产亚洲av高清涩受| 久久韩国三级中文字幕| 国产精品国产av在线观看| av片东京热男人的天堂| 不卡av一区二区三区| 日本黄色日本黄色录像| 制服人妻中文乱码| 秋霞伦理黄片| 性少妇av在线| 国产爽快片一区二区三区| 国产极品天堂在线| av电影中文网址| 国产在线视频一区二区| √禁漫天堂资源中文www| 亚洲精品一区蜜桃| 最黄视频免费看| 日韩 亚洲 欧美在线| 午夜福利在线免费观看网站| 久久人人爽av亚洲精品天堂| 久久久欧美国产精品| 各种免费的搞黄视频| 飞空精品影院首页| 日韩av在线免费看完整版不卡| 男女国产视频网站| 欧美精品高潮呻吟av久久| 99香蕉大伊视频| 亚洲欧美日韩另类电影网站| 永久免费av网站大全| 精品国产国语对白av| 伦精品一区二区三区| 国产亚洲欧美精品永久| 欧美av亚洲av综合av国产av | 亚洲精品乱久久久久久| 国产欧美日韩一区二区三区在线| 最近最新中文字幕大全免费视频 | 免费不卡的大黄色大毛片视频在线观看| 一区二区三区激情视频| 午夜福利在线观看免费完整高清在| 亚洲欧洲精品一区二区精品久久久 | 综合色丁香网| 热99久久久久精品小说推荐| 啦啦啦在线观看免费高清www| 在线观看www视频免费| 欧美激情高清一区二区三区 | 欧美 日韩 精品 国产| 1024视频免费在线观看| 亚洲欧美一区二区三区国产| 久久久久久久久久久久大奶| 久久久久网色| 狠狠婷婷综合久久久久久88av| 美女xxoo啪啪120秒动态图| 青春草视频在线免费观看| 26uuu在线亚洲综合色| 丰满饥渴人妻一区二区三| 久久99一区二区三区| 久久午夜福利片| 久久精品国产亚洲av涩爱| 久久久精品94久久精品| 成年动漫av网址| 爱豆传媒免费全集在线观看| videos熟女内射| av福利片在线| 久久久久久久国产电影| 最黄视频免费看| 精品国产超薄肉色丝袜足j| 一级片免费观看大全| 超碰成人久久| 大话2 男鬼变身卡| 免费在线观看视频国产中文字幕亚洲 | 有码 亚洲区| 久久精品国产亚洲av天美| 制服诱惑二区| 国产成人欧美| 观看av在线不卡| 韩国高清视频一区二区三区| 亚洲人成电影观看| 国产精品一二三区在线看| 日韩人妻精品一区2区三区| 热99国产精品久久久久久7| 精品国产一区二区三区久久久樱花| 人人妻人人添人人爽欧美一区卜| 热99久久久久精品小说推荐| 国产男女内射视频| 久热这里只有精品99| 可以免费在线观看a视频的电影网站 | 国产精品久久久av美女十八| av又黄又爽大尺度在线免费看| 欧美成人午夜免费资源| 视频区图区小说| 国产成人欧美| 欧美日韩精品成人综合77777| 日韩 亚洲 欧美在线| 亚洲一码二码三码区别大吗| av女优亚洲男人天堂| 久久精品国产亚洲av高清一级| 亚洲婷婷狠狠爱综合网| 国产又色又爽无遮挡免| av天堂久久9| 久久久欧美国产精品| 97在线视频观看| 国产xxxxx性猛交| 亚洲成国产人片在线观看| 亚洲少妇的诱惑av| 各种免费的搞黄视频| 老女人水多毛片| 精品国产乱码久久久久久小说| 亚洲欧美一区二区三区国产| 这个男人来自地球电影免费观看 | 成年动漫av网址| 亚洲综合色网址| 免费少妇av软件| 桃花免费在线播放| 在线观看一区二区三区激情| 熟女少妇亚洲综合色aaa.| 美女午夜性视频免费| 在线观看三级黄色| 男女无遮挡免费网站观看| 国产成人精品婷婷| 久久精品aⅴ一区二区三区四区 | 精品亚洲成国产av| 国产精品亚洲av一区麻豆 | 国产免费现黄频在线看| 欧美日韩国产mv在线观看视频| 老汉色av国产亚洲站长工具| 亚洲,一卡二卡三卡| 久久久久国产网址| 卡戴珊不雅视频在线播放| 久久久久精品人妻al黑| 午夜福利视频精品| 亚洲成色77777| 卡戴珊不雅视频在线播放| 日韩熟女老妇一区二区性免费视频| 校园人妻丝袜中文字幕| 成年人免费黄色播放视频| 日本爱情动作片www.在线观看| 国产毛片在线视频| 亚洲精品久久午夜乱码| 大香蕉久久网| av卡一久久| 人人妻人人澡人人爽人人夜夜| 啦啦啦在线免费观看视频4| 国产成人精品福利久久| videossex国产| 老司机影院毛片| 天天躁日日躁夜夜躁夜夜| 夫妻性生交免费视频一级片| 夜夜骑夜夜射夜夜干| 成年美女黄网站色视频大全免费| 高清欧美精品videossex| av.在线天堂| 亚洲av免费高清在线观看| 亚洲一码二码三码区别大吗| 免费黄色在线免费观看| 国产精品一国产av| 精品99又大又爽又粗少妇毛片| 欧美人与性动交α欧美精品济南到 | 18禁国产床啪视频网站| 色视频在线一区二区三区| 亚洲精品美女久久av网站| 黄色毛片三级朝国网站| 熟女电影av网| 9热在线视频观看99| 麻豆av在线久日| 韩国av在线不卡| 成人手机av| 国产精品蜜桃在线观看| 久久精品久久久久久噜噜老黄| 国产成人欧美| 亚洲伊人久久精品综合| 巨乳人妻的诱惑在线观看| 色哟哟·www| 久热这里只有精品99| 国产精品一区二区在线不卡| 久久久久国产网址| 一区二区三区乱码不卡18| 在线天堂最新版资源| 热99国产精品久久久久久7| 久久久久久久久久久久大奶| 热re99久久精品国产66热6| 如日韩欧美国产精品一区二区三区| 另类精品久久| 久久久精品国产亚洲av高清涩受| 极品少妇高潮喷水抽搐| 国产男女内射视频| 欧美+日韩+精品| 国产成人免费无遮挡视频| 亚洲成人av在线免费| 免费在线观看视频国产中文字幕亚洲 | 免费观看无遮挡的男女| 叶爱在线成人免费视频播放| 五月天丁香电影| 亚洲一区二区三区欧美精品| 亚洲国产欧美日韩在线播放| 日本vs欧美在线观看视频| 亚洲第一av免费看| 欧美另类一区| 国产欧美亚洲国产| 亚洲综合精品二区| 久久久久久久久久久久大奶| 婷婷色av中文字幕| 亚洲美女视频黄频| 男女无遮挡免费网站观看| 国产高清国产精品国产三级| 精品酒店卫生间| 最近手机中文字幕大全| 国产精品 国内视频| 黄网站色视频无遮挡免费观看| 欧美精品一区二区免费开放| 伊人久久大香线蕉亚洲五| 亚洲一级一片aⅴ在线观看| 精品视频人人做人人爽| 我的亚洲天堂| 欧美最新免费一区二区三区| 免费观看无遮挡的男女| 99精国产麻豆久久婷婷| 九色亚洲精品在线播放| av免费观看日本| 极品少妇高潮喷水抽搐| 国产精品 欧美亚洲| 亚洲在久久综合| 亚洲成人手机| 亚洲av欧美aⅴ国产| 国产乱来视频区| 99热国产这里只有精品6| 熟妇人妻不卡中文字幕| 又粗又硬又长又爽又黄的视频| 成年女人在线观看亚洲视频| 日韩成人av中文字幕在线观看| 亚洲国产日韩一区二区| 亚洲欧美清纯卡通| 最新的欧美精品一区二区| 丝袜在线中文字幕| 亚洲精品乱久久久久久| a级片在线免费高清观看视频| 午夜免费鲁丝| 肉色欧美久久久久久久蜜桃| 国产精品国产三级国产专区5o| 午夜av观看不卡| 久久精品国产鲁丝片午夜精品| 亚洲精品乱久久久久久| 亚洲第一青青草原| 99久久综合免费| 纵有疾风起免费观看全集完整版| 久久人人爽人人片av| 欧美bdsm另类| 天天影视国产精品| 观看美女的网站| 国产av码专区亚洲av| 少妇 在线观看| 看非洲黑人一级黄片| 国产精品久久久av美女十八| 国产精品女同一区二区软件| 国产av精品麻豆| 欧美日韩av久久| 观看av在线不卡| 欧美精品高潮呻吟av久久| 久久午夜综合久久蜜桃| 国产高清不卡午夜福利| 侵犯人妻中文字幕一二三四区| 欧美日韩视频精品一区| 久久久a久久爽久久v久久| 亚洲欧洲精品一区二区精品久久久 | tube8黄色片| 国产精品一区二区在线不卡| 久久国产精品大桥未久av| 国产黄色视频一区二区在线观看| 制服诱惑二区| 在线观看一区二区三区激情| 在线观看美女被高潮喷水网站| 国产在线免费精品| 下体分泌物呈黄色| 国产极品粉嫩免费观看在线| 国产日韩欧美在线精品| 我的亚洲天堂| 亚洲欧美一区二区三区黑人 | 免费播放大片免费观看视频在线观看| 欧美av亚洲av综合av国产av | 青春草国产在线视频| 一区二区av电影网| 午夜福利乱码中文字幕| 91精品伊人久久大香线蕉| 男女下面插进去视频免费观看| 一区二区三区激情视频| 18禁裸乳无遮挡动漫免费视频| 亚洲精品一区蜜桃| 中国三级夫妇交换| 美女午夜性视频免费| 国产精品 欧美亚洲| 久久人人爽人人片av| 人妻一区二区av| 一区二区三区四区激情视频| 国产男女超爽视频在线观看| av不卡在线播放| 日韩一本色道免费dvd| 亚洲五月色婷婷综合| 国产 一区精品| 在线亚洲精品国产二区图片欧美| 如日韩欧美国产精品一区二区三区| 欧美国产精品va在线观看不卡| www.精华液| 日韩欧美一区视频在线观看| 97在线视频观看| 亚洲精品一二三| 国产精品女同一区二区软件| 久久久久国产网址| 亚洲成人手机| 丝袜美腿诱惑在线| 在现免费观看毛片| 电影成人av| 青春草国产在线视频| 亚洲熟女精品中文字幕| 亚洲美女搞黄在线观看| 日本vs欧美在线观看视频| 午夜影院在线不卡| 亚洲欧洲日产国产| 欧美黄色片欧美黄色片| 观看美女的网站| 看十八女毛片水多多多| 久久精品国产综合久久久| 成年美女黄网站色视频大全免费| 2021少妇久久久久久久久久久| 一级毛片黄色毛片免费观看视频| 亚洲综合精品二区| 成人毛片60女人毛片免费| 一级黄片播放器| 日韩中字成人| 精品亚洲乱码少妇综合久久| 国产一区亚洲一区在线观看| 80岁老熟妇乱子伦牲交| 国产一区二区 视频在线| 欧美最新免费一区二区三区| 国产亚洲一区二区精品| 中文精品一卡2卡3卡4更新| 国产一区二区激情短视频 | 亚洲一码二码三码区别大吗| 999久久久国产精品视频| av一本久久久久| 久久久久久久久久人人人人人人| 秋霞在线观看毛片| 爱豆传媒免费全集在线观看| 黄色配什么色好看| 久久精品夜色国产| 18禁裸乳无遮挡动漫免费视频| 人人妻人人爽人人添夜夜欢视频| 夜夜骑夜夜射夜夜干| 日韩中字成人| 国产精品国产av在线观看| 一本大道久久a久久精品| av免费观看日本| 赤兔流量卡办理| 高清欧美精品videossex| 欧美日韩一级在线毛片| 国产av一区二区精品久久| 亚洲综合精品二区| 观看av在线不卡| 久久毛片免费看一区二区三区| av国产久精品久网站免费入址| 国产极品天堂在线| 巨乳人妻的诱惑在线观看| 国产精品久久久久久av不卡| 超色免费av| 久久狼人影院| 午夜老司机福利剧场| 如日韩欧美国产精品一区二区三区| 天天影视国产精品| 99久久综合免费| 制服诱惑二区| 午夜福利一区二区在线看| 我要看黄色一级片免费的| 国产国语露脸激情在线看| 国产成人一区二区在线| 国产精品久久久久久精品电影小说| 视频区图区小说| 国产成人一区二区在线| 国产 精品1| 女人精品久久久久毛片|