• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    “大數(shù)據(jù)殺熟”行為反壟斷責(zé)任的完善

    2021-08-19 15:33:36郭江蘭
    商業(yè)研究 2021年4期

    關(guān)鍵詞:“大數(shù)據(jù)殺熟”;反壟斷責(zé)任;雙軌路徑;經(jīng)營(yíng)者責(zé)任;技術(shù)責(zé)任

    中圖分類號(hào):DF41;D912(29)??文獻(xiàn)標(biāo)識(shí)碼:A??文章編號(hào):1001-148X(2021)04-0132-05

    收稿日期:2020-12-22

    作者簡(jiǎn)介:郭江蘭(1994-),女,四川巴中人,中國(guó)政法大學(xué)民商經(jīng)濟(jì)法學(xué)院博士研究生,研究方向:反壟斷法學(xué)、數(shù)據(jù)法學(xué)。

    基金項(xiàng)目:國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“互聯(lián)網(wǎng)經(jīng)濟(jì)的法治保障”,項(xiàng)目編號(hào):18ZDA150。

    數(shù)字經(jīng)濟(jì)時(shí)代以算法、大數(shù)據(jù)為代表的智能技術(shù)成為經(jīng)營(yíng)者高筑競(jìng)爭(zhēng)優(yōu)勢(shì)的重要抓手,以大數(shù)據(jù)為依托的算法“歧視”不僅違反了價(jià)格平等原則,還抑制了電子商務(wù)市場(chǎng)的公平競(jìng)爭(zhēng)[1],由此引起反壟斷執(zhí)法機(jī)關(guān)對(duì)“大數(shù)據(jù)殺熟”行為的重點(diǎn)關(guān)注。本文以“大數(shù)據(jù)殺熟”行為反壟斷責(zé)任追究為切入點(diǎn),分析算法時(shí)代價(jià)格歧視行為在責(zé)任追究層面面臨的挑戰(zhàn),旨在揭示現(xiàn)有反壟斷法在應(yīng)對(duì)算法技術(shù)時(shí)存在的缺陷和不足,并提出“經(jīng)營(yíng)者責(zé)任+算法技術(shù)責(zé)任”的雙軌追責(zé)路徑,以實(shí)現(xiàn)合理懲處“大數(shù)據(jù)殺熟”行為的目標(biāo)。

    一、“大數(shù)據(jù)殺熟”行為追責(zé)路徑面臨的挑戰(zhàn)

    我國(guó)發(fā)布的《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》對(duì)定價(jià)算法技術(shù)濫用造成的“大數(shù)據(jù)殺熟”行為的法律規(guī)制仍遵循傳統(tǒng)結(jié)果導(dǎo)向的思路,將違法性責(zé)任完全交由平臺(tái)經(jīng)營(yíng)者承擔(dān),而未考慮算法開(kāi)發(fā)者的責(zé)任問(wèn)題。但是,算法本身的自主學(xué)習(xí)和決策特征降低了對(duì)其行為的可預(yù)測(cè)性,導(dǎo)致算法損害責(zé)任的分配呈現(xiàn)出復(fù)雜性特征,對(duì)定價(jià)算法、開(kāi)發(fā)者和使用者關(guān)系的不同認(rèn)識(shí)也給傳統(tǒng)的追責(zé)路徑帶來(lái)巨大挑戰(zhàn)。

    (一)定價(jià)算法的智能學(xué)習(xí)能力與經(jīng)營(yíng)者的“全能性”功能

    盡管很多國(guó)家在有意識(shí)地減輕互聯(lián)網(wǎng)經(jīng)營(yíng)者的責(zé)任,如經(jīng)營(yíng)者可以主張“已盡到合理注意義務(wù)”或者援引“避風(fēng)港規(guī)則”,但互聯(lián)網(wǎng)經(jīng)營(yíng)者常常為發(fā)生在平臺(tái)內(nèi)的一切侵權(quán)行為所造成的不利后果承擔(dān)責(zé)任。讓經(jīng)營(yíng)者承擔(dān)控制范圍之外的責(zé)任時(shí),其承擔(dān)責(zé)任的制度前提是基于互聯(lián)網(wǎng)經(jīng)營(yíng)者“全能性”的假設(shè)。隨著算法技術(shù)學(xué)習(xí)能力的逐步深入,定價(jià)算法的功能不再局限于處理數(shù)據(jù)或執(zhí)行價(jià)格決策,而是充分利用大數(shù)據(jù)進(jìn)行智能學(xué)習(xí)、深化自我智能功能。因此,很難解釋和還原算法的學(xué)習(xí)和決策軌跡,而此時(shí)仍堅(jiān)持“全能性”的假設(shè)就顯得不適時(shí)宜。

    “大數(shù)據(jù)殺熟”行為的發(fā)生在數(shù)字經(jīng)濟(jì)發(fā)展的實(shí)踐中是多方合力的結(jié)果,不僅僅是經(jīng)營(yíng)者一方的責(zé)任,而以結(jié)果為導(dǎo)向的“單軌制”責(zé)任模式生硬地將一些原本不屬于經(jīng)營(yíng)者的責(zé)任強(qiáng)加給平臺(tái)經(jīng)營(yíng)者。顯然,這一責(zé)任模式?jīng)]有意識(shí)到隨著定價(jià)算法智能學(xué)習(xí)能力的加強(qiáng),經(jīng)營(yíng)者“全能性”功能被否認(rèn),算法智能學(xué)習(xí)能力已經(jīng)超越了經(jīng)營(yíng)者的能力這一事實(shí)。具體言之,“在線市場(chǎng)+數(shù)據(jù)驅(qū)動(dòng)”的深度融合催生出更充足的選擇、更好的質(zhì)量和更低的價(jià)格,但互聯(lián)網(wǎng)交易環(huán)境并不完美。在線平臺(tái)上的交互行為生成大量的數(shù)據(jù)被經(jīng)營(yíng)者連續(xù)地、高度細(xì)粒度地跟蹤、抓取,以供人工智能算法技術(shù)所學(xué)習(xí),從而催生出廣泛而多樣的“個(gè)性定制化”服務(wù);同時(shí),經(jīng)營(yíng)者還將“大數(shù)據(jù)”轉(zhuǎn)化為“智能數(shù)據(jù)”,進(jìn)行自主、自動(dòng)的數(shù)據(jù)學(xué)習(xí)。正是有海量的數(shù)據(jù)作為支撐,定價(jià)算法才能夠準(zhǔn)確估算交易相對(duì)人的保留價(jià)格。算法不僅要識(shí)別影響買方保留價(jià)格的種種變量,還需要其他的相關(guān)數(shù)據(jù)來(lái)預(yù)測(cè)買方在新交易場(chǎng)景中的表現(xiàn)。為了實(shí)現(xiàn)利潤(rùn)最大化,在定價(jià)算法研發(fā)時(shí)有可能將一些具有價(jià)格歧視偏向的算法嵌入其中,卻很難被察覺(jué)。此外,由于“算法黑箱”具有難以解釋的屬性,可為“大數(shù)據(jù)殺熟”行為提供“藏身之地”,這表明經(jīng)營(yíng)者并不是“全能”的。所以,定價(jià)算法技術(shù)的運(yùn)用給交易相對(duì)人以“黑盒子”的印象,歧視行為總是隱藏在不透明的機(jī)器之下,在輸入指令后,交付無(wú)法解釋、也無(wú)法看透輸出,“技術(shù)中立”原則又為“大數(shù)據(jù)殺熟”行為再鍍一層“隱身衣”。因此,定價(jià)算法技術(shù)所具有的智能學(xué)習(xí)能力,可以使定價(jià)算法產(chǎn)出的經(jīng)營(yíng)者無(wú)法預(yù)料到其他行為,算法技術(shù)的研發(fā)者也無(wú)法解釋這是如何產(chǎn)生的,這也佐證了經(jīng)營(yíng)者并不是“全能型”的控制者。

    (二)定價(jià)算法自主決策能力超越了技術(shù)的“工具性”定位

    伴隨著“個(gè)性定制化”服務(wù)給經(jīng)營(yíng)者帶來(lái)競(jìng)爭(zhēng)力的同時(shí),定價(jià)算法自主決策能力越發(fā)受到重視,部分經(jīng)營(yíng)者有意識(shí)地培育和促進(jìn)定價(jià)算法自主決策能力開(kāi)發(fā),具備深度學(xué)習(xí)能力的算法技術(shù)會(huì)在不斷試錯(cuò)過(guò)程中發(fā)生自身的質(zhì)變,并逐漸實(shí)現(xiàn)自主決策。特別是算法技術(shù)下的“個(gè)性定制化”服務(wù)不再局限于購(gòu)物推薦和廣告推送,而是逐漸擴(kuò)展到商品或服務(wù)的價(jià)格展示中?;诙▋r(jià)算法對(duì)交易相對(duì)人數(shù)據(jù)的學(xué)習(xí)評(píng)估出購(gòu)物者的最大支付意愿,使得在交易條件相同的情況下,同一時(shí)間相同產(chǎn)品或服務(wù)可以展示出不同的交易價(jià)格,為愿意支付更多價(jià)格的相對(duì)人設(shè)定更高的價(jià)格,為愿意支付更少價(jià)格的相對(duì)人設(shè)定更低的價(jià)格,且交易相對(duì)人尚不能識(shí)別和察覺(jué)出自己的價(jià)格與其他購(gòu)買者不一致。由此可以看出定價(jià)算法技術(shù)已經(jīng)在一定程度上超越“工具”的定位,而逐漸向“準(zhǔn)決策者”的角色邁進(jìn)。

    隨著定價(jià)算法技術(shù)逐漸發(fā)展,定價(jià)算法可以在智能學(xué)習(xí)、深度學(xué)習(xí)后憑借已有的數(shù)據(jù)信息判斷出未來(lái)的價(jià)格情況,有針對(duì)性地向交易相對(duì)人提供“個(gè)性定制化”的價(jià)格,既侵犯到了用戶的知情權(quán)和選擇權(quán),也破壞了正常的競(jìng)爭(zhēng)秩序。在算法智能時(shí)代,定價(jià)算法自主決策能力已經(jīng)超越了原本的“工具性”定位,自主學(xué)習(xí)定價(jià)算法利用收集到的消費(fèi)數(shù)據(jù)進(jìn)行預(yù)測(cè),并評(píng)估出最接近相對(duì)人最大支付意愿的價(jià)格,隔離其與其他用戶交流。原本算法只是解決特定問(wèn)題的“工具”,本身既不與社會(huì)公共利益相關(guān),也不具有影響社會(huì)運(yùn)行的規(guī)則屬性[2]。但是,隨著算法自主決策能力的提升,根據(jù)掌握的個(gè)人消費(fèi)數(shù)據(jù),定價(jià)算法逐漸改變了用戶的消費(fèi)方式和消費(fèi)習(xí)慣,成了定價(jià)配置的基本規(guī)則,業(yè)已變成了控制社會(huì)資源的非制度化權(quán)威手段,并逐漸帶有參與市場(chǎng)競(jìng)爭(zhēng)的“公共性”。因此,學(xué)界和實(shí)務(wù)界已經(jīng)開(kāi)始關(guān)注“算法規(guī)制”“算法治理”“算法監(jiān)管”等,由此可體現(xiàn)出人們對(duì)算法技術(shù)已有了合理認(rèn)知,不再局限于“工具性”定位。綜上可知擁有自主決策能力的算法技術(shù),在數(shù)字經(jīng)濟(jì)平臺(tái)的日常運(yùn)營(yíng)中起核心作用,追究因算法技術(shù)造成的損害時(shí)不應(yīng)糾結(jié)于傳統(tǒng)法律的認(rèn)知體系,而是直接將算法作為法律監(jiān)管的對(duì)象。所以,定價(jià)算法在“大數(shù)據(jù)殺熟”行為中遠(yuǎn)非如單純信息整合、數(shù)據(jù)挖掘那般中立,其在商品或服務(wù)的售賣、定價(jià)規(guī)則調(diào)整、用戶信用指標(biāo)等方面已經(jīng)扮演了非常積極的非中立角色,這些非中立角色增加了消費(fèi)者對(duì)“個(gè)性化定價(jià)”的接受度,從而很大程度上塑造了新的市場(chǎng)交易秩序。

    二、“大數(shù)據(jù)殺熟”行為反壟斷雙軌追責(zé)路徑的生成邏輯

    算法時(shí)代的“大數(shù)據(jù)殺熟”行為追責(zé)路徑不足,僅追究經(jīng)營(yíng)者責(zé)任顯得有些捉襟見(jiàn)肘。其原因在于“大數(shù)據(jù)殺熟”行為具有高技術(shù)性和隱蔽性,若只在事后追究經(jīng)營(yíng)者的責(zé)任,很難保障網(wǎng)絡(luò)環(huán)境下消費(fèi)者的消費(fèi)利益,有必要將單軌制的追責(zé)路徑轉(zhuǎn)換為雙軌追責(zé)路徑,并將追責(zé)思路由“結(jié)果導(dǎo)向”轉(zhuǎn)化成“風(fēng)險(xiǎn)防范”。

    (一)雙軌追責(zé)路徑轉(zhuǎn)換的基本原理

    算法技術(shù)、經(jīng)營(yíng)者、消費(fèi)者等是一個(gè)完整生態(tài)圈的組成部分,算法技術(shù)之所以能夠在網(wǎng)絡(luò)環(huán)境中不斷展示“大數(shù)據(jù)殺熟”,潛在隱含著“算法技術(shù)”與反壟斷法律之間的沖突[3]?!按髷?shù)據(jù)殺熟”行為的出現(xiàn),除了因?yàn)榻?jīng)營(yíng)者為追求利潤(rùn)最大化而展開(kāi)不正當(dāng)競(jìng)爭(zhēng)之外,算法技術(shù)也不再嚴(yán)格遵循“科技向善”的宗旨,而是與“將經(jīng)濟(jì)利益投擲更高位置”的異化價(jià)值有很大的關(guān)系。可見(jiàn)“大數(shù)據(jù)殺熟”行為是不同主體最大化攫取利益相關(guān)者的利益[4],經(jīng)營(yíng)者應(yīng)對(duì)“大數(shù)據(jù)殺熟”行為的損害責(zé)任負(fù)有不可推卸的義務(wù),也應(yīng)承擔(dān)相應(yīng)的違法責(zé)任。經(jīng)營(yíng)者要以理性經(jīng)濟(jì)人的態(tài)度創(chuàng)新互聯(lián)網(wǎng)商業(yè)模式,在使用算法技術(shù)時(shí)應(yīng)保持“負(fù)責(zé)任”的態(tài)度,在符合基本商業(yè)道德和市場(chǎng)規(guī)律的前提下獲得相應(yīng)的經(jīng)濟(jì)利潤(rùn)、品牌口碑和市場(chǎng)認(rèn)同,而不是將利潤(rùn)最大化的希望寄托在算法技術(shù)不正當(dāng)使用上。與此同時(shí),“大數(shù)據(jù)殺熟”行為的技術(shù)支撐在于算法,沒(méi)有算法的加入就僅是經(jīng)濟(jì)學(xué)模型搭建中的假設(shè),算法技術(shù)可成為法律監(jiān)管的一部分,雙軌責(zé)任制的構(gòu)造就是用法治的力量敦促“技術(shù)向善”。

    (二)從“結(jié)果導(dǎo)向”到“風(fēng)險(xiǎn)防范”

    隨著算法技術(shù)逐漸全要素、全方位、全領(lǐng)域、深層次地滲透到社會(huì)生活的方方面面,短時(shí)間內(nèi)因應(yīng)算法技術(shù)發(fā)展給法律制度建設(shè)帶來(lái)的挑戰(zhàn)難免存在“操之過(guò)急”之嫌,匆忙應(yīng)對(duì)很容易對(duì)創(chuàng)新性商業(yè)模式和技術(shù)“規(guī)制過(guò)嚴(yán)”。“大數(shù)據(jù)殺熟”行為利用消費(fèi)者進(jìn)行獲利,排擠或消滅競(jìng)爭(zhēng)對(duì)手,抬高行業(yè)門檻或者限制擴(kuò)張,嚴(yán)重?fù)p害數(shù)字經(jīng)濟(jì)領(lǐng)域內(nèi)的競(jìng)爭(zhēng)機(jī)制[5]。當(dāng)下最為關(guān)鍵的并不是立刻制定針對(duì)“大數(shù)據(jù)殺熟”行為的反壟斷責(zé)任法律,而是先轉(zhuǎn)變“大數(shù)據(jù)殺熟”行為追責(zé)思路,將“結(jié)果導(dǎo)向”變?yōu)椤帮L(fēng)險(xiǎn)防范”。

    在“結(jié)果導(dǎo)向”思路的影響下對(duì)“大數(shù)據(jù)殺熟”行為反壟斷責(zé)任的追究,傳統(tǒng)的侵權(quán)行為法系采取的是對(duì)損害結(jié)果的轉(zhuǎn)移,大多是當(dāng)經(jīng)營(yíng)者對(duì)算法的不當(dāng)使用造成了損害后果之后,以違法后果作為責(zé)任認(rèn)定和追究的判斷要件,偏重以結(jié)果為導(dǎo)向加強(qiáng)對(duì)“大數(shù)據(jù)殺熟”行為實(shí)施者的非難。隨著定價(jià)算法在經(jīng)濟(jì)活動(dòng)中逐漸扮演重要角色,若以行為損害后果來(lái)討論經(jīng)營(yíng)者“大數(shù)據(jù)殺熟”的責(zé)任,而沒(méi)有去考慮算法技術(shù)風(fēng)險(xiǎn),可能會(huì)不適當(dāng)加重經(jīng)營(yíng)者的責(zé)任,甚至?xí)斐山?jīng)營(yíng)者的責(zé)任內(nèi)容更加模糊;若只考慮歧視性定價(jià)的損害結(jié)果,而不問(wèn)產(chǎn)生歧視性定價(jià)的原因或過(guò)程,將有違公平與實(shí)質(zhì)正義。責(zé)任的承擔(dān)一定需要有法律上的明文規(guī)定和合理的說(shuō)理論證,偏重結(jié)果導(dǎo)向的追責(zé)思維不能達(dá)到現(xiàn)代侵權(quán)法對(duì)損害風(fēng)險(xiǎn)防范的要求,實(shí)施“大數(shù)據(jù)殺熟”行為的經(jīng)營(yíng)者是否具有防范歧視風(fēng)險(xiǎn)的能力是反壟斷責(zé)任追究予以考量的重要因素。因此,將風(fēng)險(xiǎn)防范作為“大數(shù)據(jù)殺熟”行為反壟斷責(zé)任的追究思路是對(duì)算法智能時(shí)代的反壟斷責(zé)任制度進(jìn)行重新建構(gòu),因應(yīng)了算法智能時(shí)代下“法律應(yīng)該化解風(fēng)險(xiǎn),通過(guò)法律吸納風(fēng)險(xiǎn)”的時(shí)代訴求[6]。

    以結(jié)果為導(dǎo)向的追責(zé)思路直接指向經(jīng)營(yíng)者的定價(jià)行為,而以風(fēng)險(xiǎn)防范的反壟斷追責(zé)思路部分轉(zhuǎn)移到“大數(shù)據(jù)殺熟”定價(jià)算法技術(shù)本身,既以算法公平為目的,又確保定價(jià)算法的運(yùn)行保持“技術(shù)中立”,使得定價(jià)算法的設(shè)計(jì)、運(yùn)行、產(chǎn)出等階段“透明且可解釋”,隨時(shí)可以接受用戶的監(jiān)督和審查,增強(qiáng)社會(huì)公眾對(duì)“算法”的認(rèn)識(shí),以防止歧視風(fēng)險(xiǎn)出現(xiàn)的良好選擇。以風(fēng)險(xiǎn)防范為追責(zé)思路符合“鼓勵(lì)創(chuàng)新”的反壟斷法立法意圖,將經(jīng)營(yíng)者責(zé)任和算法技術(shù)責(zé)任雙軌齊驅(qū)既可對(duì)定價(jià)算法的設(shè)計(jì)者進(jìn)行制約,也有助于形成對(duì)定價(jià)算法的價(jià)格決策的信任。數(shù)字平臺(tái)商業(yè)模式的創(chuàng)新發(fā)展離不開(kāi)信任機(jī)制,數(shù)字平臺(tái)對(duì)算法技術(shù)引發(fā)的不當(dāng)行為“買單”忽視了算法技術(shù)在部署和應(yīng)用時(shí)是否存在不合法或不合理,這樣以結(jié)果為導(dǎo)向會(huì)造成經(jīng)營(yíng)者責(zé)任的內(nèi)容模糊,不符合實(shí)質(zhì)正義的應(yīng)然訴求。此外,除了與經(jīng)營(yíng)者不當(dāng)競(jìng)爭(zhēng)有關(guān)外,算法技術(shù)本身是一把“雙刃劍”,算法技術(shù)風(fēng)險(xiǎn)不僅包含源于技術(shù)自身的不成熟缺陷導(dǎo)致的“原罪”,還包括經(jīng)營(yíng)者等自然人主體不正確使用技術(shù)而引起的“他罪”。

    三、“大數(shù)據(jù)殺熟”行為反壟斷雙軌追責(zé)路徑的構(gòu)造與落實(shí)

    “大數(shù)據(jù)殺熟”行為反壟斷責(zé)任的雙軌追責(zé)制的構(gòu)建顛覆了“技術(shù)中立”“技術(shù)理性”的設(shè)想,目標(biāo)在于通過(guò)對(duì)“技術(shù)向惡”的懲罰,實(shí)現(xiàn)網(wǎng)絡(luò)消費(fèi)市場(chǎng)的平等化和市場(chǎng)化。除了追究經(jīng)營(yíng)者責(zé)任外,算法如何為自身引發(fā)的歧視問(wèn)題向公眾負(fù)責(zé)成為重要的法治議題。因此,對(duì)技術(shù)責(zé)任的認(rèn)識(shí)需要完善“單軌制”向“雙軌制”轉(zhuǎn)變的銜接橋梁,以確保算法技術(shù)更好地服務(wù)消費(fèi)者。

    (一)“大數(shù)據(jù)殺熟”反壟斷責(zé)任的雙軌制

    有關(guān)“大數(shù)據(jù)殺熟”行為的法律責(zé)任要被具有法律意義上的主體所承擔(dān),在雙軌制追責(zé)路徑的指導(dǎo)下可確立經(jīng)營(yíng)者責(zé)任和算法技術(shù)責(zé)任并行的追責(zé)機(jī)制。經(jīng)營(yíng)者責(zé)任與算法技術(shù)責(zé)任并非兩個(gè)完全獨(dú)立的責(zé)任內(nèi)容,某些情況下存在交叉。例如很多時(shí)候經(jīng)營(yíng)者既是算法的開(kāi)發(fā)者又是算法運(yùn)行的使用者,技術(shù)責(zé)任的承擔(dān)者可能還是經(jīng)營(yíng)者。由于經(jīng)營(yíng)者責(zé)任與技術(shù)責(zé)任的關(guān)注重點(diǎn)不同,評(píng)價(jià)的對(duì)象也不同,有必要將單軌制下的經(jīng)營(yíng)者責(zé)任轉(zhuǎn)變?yōu)殡p軌制下“經(jīng)營(yíng)者責(zé)任+技術(shù)責(zé)任”。

    1.經(jīng)營(yíng)者責(zé)任

    作為將定價(jià)算法技術(shù)運(yùn)用在市場(chǎng)的“最后推手”,經(jīng)營(yíng)者將定價(jià)算法技術(shù)運(yùn)用于企業(yè)的自主定價(jià)機(jī)制,實(shí)現(xiàn)算法技術(shù)與經(jīng)濟(jì)的深度融合,擁有定價(jià)算法技術(shù)的經(jīng)營(yíng)者可以獲得優(yōu)越的市場(chǎng)競(jìng)爭(zhēng)力。根據(jù)“受益者負(fù)擔(dān)原則”的內(nèi)涵,作為定價(jià)算法技術(shù)的最大獲利者,經(jīng)營(yíng)者不可避免地成為“大數(shù)據(jù)殺熟”行為的責(zé)任主體之一。作為定價(jià)算法技術(shù)的直接受益者,經(jīng)營(yíng)者掌握定價(jià)算法運(yùn)行的相關(guān)信息,能最快得知“大數(shù)據(jù)殺熟”行為的結(jié)果。若經(jīng)營(yíng)者能夠承擔(dān)起相應(yīng)的管控責(zé)任,無(wú)疑是治理“大數(shù)據(jù)殺熟”行為最為簡(jiǎn)單有效的方式。由于在“大數(shù)據(jù)殺熟”行為處罰中很難去計(jì)算經(jīng)營(yíng)者的違法所得的具體數(shù)額,特別是“大數(shù)據(jù)殺熟”行為中并不止一個(gè)經(jīng)營(yíng)者的參與,甚至還包含其他類型的經(jīng)營(yíng)者。但是,盡管經(jīng)營(yíng)者很難出具完整的違法所得與正常經(jīng)營(yíng)收入,又不能忽視沒(méi)收違法所得的功能,可綜合運(yùn)用智能司法技術(shù)、大數(shù)據(jù)技術(shù)等去確定大概的違法所得數(shù)額。另外,還要協(xié)調(diào)好沒(méi)收違法所得與行政罰款之間的關(guān)系,沒(méi)收違法所得是不具法律責(zé)任意義上的懲罰和威懾;罰款與教育應(yīng)相互配合,綜合適用,不能偏廢。在民事責(zé)任方面,若囿于“填平”原則的限定范圍就很難實(shí)現(xiàn)對(duì)被侵權(quán)人的充分救濟(jì)。一方面應(yīng)將從受害方攫取的合法利益退還給他人;另一方面,應(yīng)注意到除了危及具體的受害者以外,違法性壟斷行為還會(huì)致使社會(huì)公共利益受損。因此,不妨在“大數(shù)據(jù)殺熟”行為的法律責(zé)任中引入“懲罰性賠償制度”,更加傾向于威懾,可以使經(jīng)營(yíng)者更加理性地使用定價(jià)算法技術(shù)。當(dāng)然,懲罰性的倍數(shù)問(wèn)題也至關(guān)重要,考慮到“大數(shù)據(jù)殺熟”行為的目的大部分在于鎖定用戶,多倍賠償是必要的。

    2.算法技術(shù)責(zé)任

    算法技術(shù)可以參照“單位責(zé)任主體”的認(rèn)定理念和認(rèn)定方法,將責(zé)任主體增加為自然人、單位和人工智能體[7]。技術(shù)問(wèn)題造成的損害責(zé)任應(yīng)在技術(shù)層面尋求相應(yīng)的解決,厘清“大數(shù)據(jù)殺熟”產(chǎn)生的技術(shù)肇因,追究算法技術(shù)責(zé)任十分必要?!按髷?shù)據(jù)殺熟”行為的技術(shù)責(zé)任是圍繞著定價(jià)算法的運(yùn)行來(lái)追究反壟斷責(zé)任的,算法解釋責(zé)任是加諸算法開(kāi)發(fā)者或使用者的技術(shù)責(zé)任,當(dāng)算法智能尚不能被視為獨(dú)立的責(zé)任主體時(shí),技術(shù)開(kāi)發(fā)方對(duì)算法技術(shù)造成的妨害承擔(dān)主要責(zé)任[8],算法技術(shù)責(zé)任主要是算法解釋責(zé)任和算法倫理責(zé)任。

    如果將“大數(shù)據(jù)殺熟”行為視為一個(gè)過(guò)程,研發(fā)者就是該流水線的起點(diǎn),緊接著才有經(jīng)營(yíng)者的加入。研發(fā)者處于“大數(shù)據(jù)殺熟”行為的前端,應(yīng)為自己的行為所導(dǎo)致的算法歧視行為進(jìn)行解釋,解釋的對(duì)象是系統(tǒng)功能,需要解釋個(gè)人數(shù)據(jù)的適用在價(jià)格決定中的占比大小。算法解釋責(zé)任主要是考察算法技術(shù)本身是否合法,是否包含歧視因素,是否合理使用個(gè)人數(shù)據(jù)。算法倫理責(zé)任是實(shí)現(xiàn)算法追責(zé)的補(bǔ)充途徑,算法解釋責(zé)任有時(shí)會(huì)因“算法黑箱”或“商業(yè)秘密”等受到限制,便需要通過(guò)對(duì)算法技術(shù)的倫理進(jìn)行審查,防止出現(xiàn)歧視的后果或?qū)τ脩魯?shù)據(jù)進(jìn)行操縱的不法行為[9]。算法倫理責(zé)任的部署對(duì)于保障算法技術(shù)平等、公正地使用是可行的,其可以規(guī)范相關(guān)技術(shù)人員自覺(jué)遵守算法倫理規(guī)范,按照算法倫理規(guī)范的要求精準(zhǔn)匹配消費(fèi)者和自動(dòng)化運(yùn)作。算法倫理責(zé)任應(yīng)將“安全、真實(shí)、公平”等作為行為底線來(lái)促進(jìn)數(shù)字經(jīng)濟(jì)的發(fā)展,這也是保障消費(fèi)者權(quán)益、市場(chǎng)健康發(fā)展的最低限度。

    (二)“經(jīng)營(yíng)者責(zé)任”轉(zhuǎn)向“經(jīng)營(yíng)者責(zé)任與算法技術(shù)責(zé)任”的銜接

    “大數(shù)據(jù)殺熟”行為反壟斷責(zé)任雙軌追責(zé)路徑的實(shí)施機(jī)制,要求將算法技術(shù)責(zé)任納入反壟斷責(zé)任體系。相比于傳統(tǒng)地僅追究經(jīng)營(yíng)者責(zé)任模式而言,“經(jīng)營(yíng)者責(zé)任與技術(shù)責(zé)任”雙軌追責(zé)路徑的力度更強(qiáng),技術(shù)性含量更高??紤]到當(dāng)前反壟斷領(lǐng)域尚未考慮技術(shù)責(zé)任,執(zhí)法機(jī)關(guān)對(duì)“技術(shù)責(zé)任”的認(rèn)識(shí)不深入,并不代表“大數(shù)據(jù)殺熟”行為雙軌追責(zé)路徑不現(xiàn)實(shí)。為了更好地落實(shí)“經(jīng)營(yíng)者責(zé)任與技術(shù)責(zé)任”雙軌追責(zé)路徑,可搭建起“經(jīng)營(yíng)者責(zé)任”轉(zhuǎn)向“經(jīng)營(yíng)者責(zé)任與技術(shù)責(zé)任”銜接橋梁。

    1.充分認(rèn)識(shí)算法技術(shù)與經(jīng)營(yíng)者的角色

    算法技術(shù)與經(jīng)營(yíng)者在“大數(shù)據(jù)殺熟”行為中扮演了非常關(guān)鍵的角色,經(jīng)營(yíng)者是利用大數(shù)據(jù)進(jìn)行“殺熟”的主導(dǎo)者,而算法技術(shù)是“殺熟”行為的實(shí)施者,應(yīng)將算法技術(shù)作為法律監(jiān)管中不可或缺的對(duì)象。因?yàn)樗惴夹g(shù)在網(wǎng)絡(luò)交易、平臺(tái)日常運(yùn)營(yíng)、定價(jià)決策中的核心作用,“大數(shù)據(jù)殺熟”的實(shí)質(zhì)是技術(shù)不對(duì)稱,在認(rèn)定損害責(zé)任時(shí)應(yīng)將算法技術(shù)責(zé)任的追究作為對(duì)智能環(huán)境下“信息不對(duì)稱”的糾偏方式[10]?;诖?,“大數(shù)據(jù)殺熟”行為反壟斷責(zé)任追究中也應(yīng)該充分認(rèn)識(shí)算法技術(shù)的角色定位,將技術(shù)責(zé)任引入到反壟斷責(zé)任中,以此來(lái)平衡經(jīng)營(yíng)者與網(wǎng)絡(luò)消費(fèi)者之間“技術(shù)鴻溝”,并在責(zé)任制度構(gòu)造中予以體現(xiàn)。

    2.高度重視算法技術(shù)問(wèn)責(zé)制度的建設(shè)

    經(jīng)營(yíng)者責(zé)任追究時(shí)常以算法作為經(jīng)營(yíng)者展開(kāi)競(jìng)爭(zhēng)的工具,而算法技術(shù)責(zé)任的構(gòu)造是將算法技術(shù)單獨(dú)作為法律責(zé)任追究的客體對(duì)象進(jìn)行懲罰。從技術(shù)視角看算法,算法總會(huì)帶有“歧視”或“偏見(jiàn)”[11],算法技術(shù)的“工具理性”與法治規(guī)范的“價(jià)值理性”之間的鴻溝需要制度建設(shè)來(lái)彌合[12]。首先,明確算法技術(shù)問(wèn)責(zé)的目的。為了防范算法技術(shù)造成更多的損害,對(duì)相關(guān)技術(shù)主體附加義務(wù),減輕算法技術(shù)在操作過(guò)程中帶來(lái)的負(fù)面影響或行為危害。其次,合理界定算法技術(shù)問(wèn)責(zé)的內(nèi)容。算法技術(shù)責(zé)任機(jī)制不僅需要包含相關(guān)技術(shù)工作者是否嚴(yán)格遵循了算法可解釋和算法倫理,并對(duì)算法技術(shù)應(yīng)用的風(fēng)險(xiǎn)進(jìn)行全方位檢測(cè),還要考慮到算法技術(shù)是否按照相應(yīng)的技術(shù)規(guī)范、法律規(guī)范在運(yùn)行,避免算法權(quán)力的“異化”。最后,確立無(wú)過(guò)錯(cuò)責(zé)任為歸責(zé)原則。過(guò)錯(cuò)責(zé)任原則關(guān)注對(duì)個(gè)人主觀意圖的“非難”,對(duì)個(gè)人道德進(jìn)行主觀評(píng)價(jià);無(wú)過(guò)錯(cuò)責(zé)任原則注重預(yù)防事故成本和預(yù)期損害成本,補(bǔ)償受害人損失或者是為了預(yù)防損害后果的發(fā)生[13]。

    由于算法黑箱的存在,算法技術(shù)一旦產(chǎn)生實(shí)際的損害或任何風(fēng)險(xiǎn),算法技術(shù)相關(guān)責(zé)任主體有義務(wù)承擔(dān)相應(yīng)的責(zé)任。即便是因技術(shù)不成熟或者是利益享有者的默示同意,都不能排除其履行算法技術(shù)責(zé)任。由于算法歧視性后果的產(chǎn)生具有隱蔽性,需要結(jié)合算法歧視性結(jié)果反向推導(dǎo)違法性責(zé)任的客觀構(gòu)成。假設(shè)算法技術(shù)可根據(jù)用戶的數(shù)據(jù)差異得出不同的價(jià)格,則可初步說(shuō)明算法技術(shù)在定價(jià)過(guò)程中產(chǎn)生了“偏見(jiàn)”。再結(jié)合算法技術(shù)相關(guān)主體的抗辯理由,或技術(shù)審查后發(fā)現(xiàn)抗辯不成立,技術(shù)審查存在問(wèn)題可根據(jù)一系列間接證據(jù)形成證據(jù)鏈條,佐證算法技術(shù)確實(shí)造成了“大數(shù)據(jù)殺熟”的后果,由此需要算法技術(shù)問(wèn)責(zé)[14]。目前,由于我國(guó)對(duì)算法技術(shù)問(wèn)責(zé)的規(guī)范還在籌劃當(dāng)中,關(guān)于“大數(shù)據(jù)殺熟”行為的責(zé)任方式可根據(jù)行為發(fā)生在違法性壟斷的場(chǎng)域,參照經(jīng)營(yíng)者的反壟斷責(zé)任來(lái)確定算法責(zé)任主體應(yīng)該承擔(dān)的民事責(zé)任和行政責(zé)任,但具體的責(zé)任方式可結(jié)合算法技術(shù)本身的特點(diǎn)來(lái)設(shè)定,可不限于民事侵權(quán)賠償和行政罰款[15]。

    四、“大數(shù)據(jù)殺熟”行為的雙軌追責(zé)模式

    考慮到“大數(shù)據(jù)殺熟”行為具有違反反壟斷法的性質(zhì),反壟斷法責(zé)任的追究又必須平衡“鼓勵(lì)創(chuàng)新與違法規(guī)制”之間的關(guān)系,故建立完善的“大數(shù)據(jù)殺熟”行為反壟斷法責(zé)任制度是一個(gè)系統(tǒng)工程,關(guān)系到數(shù)字經(jīng)濟(jì)平臺(tái)與消費(fèi)者之間懸殊權(quán)力的地位糾正?!半p軌制追責(zé)路徑”為反壟斷法責(zé)任體系的構(gòu)建勾勒出了樂(lè)觀其成的“個(gè)性定制化”烏托邦景象,對(duì)具有偏見(jiàn)的“數(shù)字化操控之手”做出正向回應(yīng)和有效調(diào)整,這是認(rèn)識(shí)到算法技術(shù)與經(jīng)營(yíng)者關(guān)系的變化后的積極反應(yīng)。當(dāng)結(jié)果導(dǎo)向追責(zé)思路不合時(shí)宜時(shí)可選擇在風(fēng)險(xiǎn)防范追責(zé)思路的指導(dǎo)下,同時(shí)追究經(jīng)營(yíng)者責(zé)任和算法技術(shù)責(zé)任。一方面有利于促進(jìn)經(jīng)營(yíng)者和算法技術(shù)更好地服務(wù)于數(shù)字經(jīng)濟(jì)的發(fā)展,攜手建設(shè)更加美好的數(shù)字社會(huì);另一方面,確保算法技術(shù)不異化為實(shí)施濫用行為的違法“工具”?;诩夹g(shù)進(jìn)步與個(gè)人權(quán)利利益博弈平衡的考慮,又加之算法技術(shù)的發(fā)展必將引起社會(huì)的重大突破與變革,這就需要法制必須在技術(shù)進(jìn)步與治理規(guī)范之間找尋平衡,將“算法技術(shù)責(zé)任”作為“雙軌制”中的組成部分既不失兩者的張力,也不損害相關(guān)主體利益。另外,考慮到算法技術(shù)責(zé)任的反壟斷規(guī)范落實(shí),還有很長(zhǎng)一段路要走,但眼下需要立法者充分認(rèn)識(shí)算法技術(shù)與經(jīng)營(yíng)者的角色,高度重視算法技術(shù)問(wèn)責(zé)制度的建設(shè)。關(guān)注算法技術(shù)對(duì)互聯(lián)網(wǎng)商業(yè)模式創(chuàng)新帶來(lái)的實(shí)質(zhì)影響,把握技術(shù)的應(yīng)用現(xiàn)狀,加強(qiáng)對(duì)算法技術(shù)責(zé)任的追究,從而使算法技術(shù)更好地促進(jìn)數(shù)字經(jīng)濟(jì)的發(fā)展,創(chuàng)造更大的社會(huì)福利。

    參考文獻(xiàn):

    [1]?葉雄彪.網(wǎng)絡(luò)銷售區(qū)別定價(jià)現(xiàn)象的法律應(yīng)對(duì)[J].商業(yè)研究,2019(10):144-152.

    [2]?孫清白.人工智能算法的“公共性”應(yīng)用風(fēng)險(xiǎn)及其二元規(guī)制[J].行政法學(xué)研究,2020(4):58-66.

    [3]?李飛翔.“大數(shù)據(jù)殺熟”背后的倫理審思、治理與啟示[J].東北大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2020(1):7-15.

    [4]?唐凱麟,李詩(shī)悅.大數(shù)據(jù)隱私倫理問(wèn)題研究[J].倫理學(xué)研究,2016(6):102-106.

    [5]?葉明,郭江蘭.數(shù)字經(jīng)濟(jì)時(shí)代算法價(jià)格歧視行為的法律規(guī)制[J].價(jià)格月刊,2020(03):33-40.

    [6]?汪懷君,汝緒華.人工智能算法歧視及其治理[J].科學(xué)技術(shù)哲學(xué)研究,2020(02):101-106.

    [7]?劉小璇,張虎.論人工智能的侵權(quán)責(zé)任[J].南京社會(huì)科學(xué),2018(9):105-110,149.

    [8]?唐林垚.人工智能時(shí)代的算法規(guī)制:責(zé)任分層與義務(wù)合規(guī)[J].現(xiàn)代法學(xué),2020(1):?194-209.

    [9]?蘇雪琴,劉乃梁.平臺(tái)經(jīng)濟(jì)視閾下的股權(quán)控制和市場(chǎng)競(jìng)爭(zhēng)[J].商業(yè)研究,2020(8):146-152.

    [10]張凌寒.《電子商務(wù)法》中的算法責(zé)任及其完善[J].北京航空航天大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2018(6):16-21.

    [11]李醒民.人工智能技性科學(xué)與倫理[J].社會(huì)科學(xué)論壇,2019(4):179-203.

    [12]楊永偉,夏玉珍.風(fēng)險(xiǎn)社會(huì)的理論闡釋——兼論風(fēng)險(xiǎn)治理[J].學(xué)習(xí)與探索,2016(5):35-40.

    [13]程嘯.侵權(quán)責(zé)任法[M].北京:法律出版社,2011.

    [14]卜素.人工智能中的“算法歧視”問(wèn)題及其審查標(biāo)準(zhǔn)[J].山西大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2019,42(4):124-129.

    [15]章小衫.人工智能算法歧視的法律規(guī)制:歐美經(jīng)驗(yàn)與中國(guó)路徑[J].華東理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2019(6):63-71.

    (責(zé)任編輯:關(guān)立新)

    av国产精品久久久久影院| 男插女下体视频免费在线播放| 国产亚洲5aaaaa淫片| 三级男女做爰猛烈吃奶摸视频| 特级一级黄色大片| 中文资源天堂在线| 免费看不卡的av| av在线老鸭窝| 亚洲国产色片| 日韩欧美精品免费久久| 日日摸夜夜添夜夜爱| 国产亚洲午夜精品一区二区久久 | 街头女战士在线观看网站| 美女脱内裤让男人舔精品视频| 亚洲性久久影院| 看黄色毛片网站| 97超碰精品成人国产| 欧美成人精品欧美一级黄| a级毛色黄片| 水蜜桃什么品种好| 国产黄色视频一区二区在线观看| 性插视频无遮挡在线免费观看| 综合色丁香网| 国产高清有码在线观看视频| 国产一区亚洲一区在线观看| av又黄又爽大尺度在线免费看| 夫妻午夜视频| 18禁在线播放成人免费| 少妇裸体淫交视频免费看高清| 在线观看免费高清a一片| 精品久久久久久久久亚洲| 国内精品美女久久久久久| 国产精品国产av在线观看| 日本三级黄在线观看| 精品人妻熟女av久视频| 天美传媒精品一区二区| 精品国产三级普通话版| 1000部很黄的大片| 尾随美女入室| 亚洲在线观看片| 中文字幕亚洲精品专区| 最近2019中文字幕mv第一页| 国产成人免费无遮挡视频| 少妇人妻 视频| 亚洲精品亚洲一区二区| 美女脱内裤让男人舔精品视频| 久久久久久久久久成人| 精品一区二区三卡| 免费看av在线观看网站| 熟女人妻精品中文字幕| 91精品伊人久久大香线蕉| 91久久精品国产一区二区三区| 亚洲成人精品中文字幕电影| 男女啪啪激烈高潮av片| 人体艺术视频欧美日本| 国产综合懂色| 亚洲欧美日韩另类电影网站 | 黄色日韩在线| 80岁老熟妇乱子伦牲交| av线在线观看网站| 亚洲精品第二区| 久久久久九九精品影院| 国产综合精华液| 欧美成人一区二区免费高清观看| 只有这里有精品99| 欧美三级亚洲精品| h日本视频在线播放| 夜夜看夜夜爽夜夜摸| 亚洲精品aⅴ在线观看| 日韩成人伦理影院| 国产免费又黄又爽又色| 久久精品国产鲁丝片午夜精品| 国产中年淑女户外野战色| 婷婷色综合www| 大片免费播放器 马上看| 久久综合国产亚洲精品| 九九久久精品国产亚洲av麻豆| 2022亚洲国产成人精品| 国产熟女欧美一区二区| kizo精华| 亚洲人成网站高清观看| 日本三级黄在线观看| 日本黄色片子视频| 99久国产av精品国产电影| 日本爱情动作片www.在线观看| 亚洲国产av新网站| 日韩伦理黄色片| 国产极品天堂在线| 色综合色国产| 人妻一区二区av| 久久久久久久亚洲中文字幕| 欧美丝袜亚洲另类| 观看美女的网站| 成人特级av手机在线观看| www.色视频.com| 97人妻精品一区二区三区麻豆| 久久精品人妻少妇| 成年女人看的毛片在线观看| 一个人看视频在线观看www免费| 亚洲无线观看免费| 国产又色又爽无遮挡免| 男人添女人高潮全过程视频| 一级爰片在线观看| 涩涩av久久男人的天堂| 成人亚洲精品av一区二区| 色视频www国产| 国产人妻一区二区三区在| 一级毛片我不卡| 欧美xxxx黑人xx丫x性爽| 亚洲aⅴ乱码一区二区在线播放| 美女xxoo啪啪120秒动态图| 一区二区av电影网| 99热国产这里只有精品6| 亚洲天堂av无毛| 免费高清在线观看视频在线观看| 永久网站在线| 亚洲av二区三区四区| 国产欧美亚洲国产| 国产毛片在线视频| 午夜免费男女啪啪视频观看| 丝袜喷水一区| 国产乱人偷精品视频| 欧美极品一区二区三区四区| 韩国高清视频一区二区三区| 韩国av在线不卡| 久久精品夜色国产| 简卡轻食公司| 亚洲成人久久爱视频| 好男人在线观看高清免费视频| 亚洲精品色激情综合| 久久精品久久久久久久性| 亚洲精品,欧美精品| 午夜免费观看性视频| 青春草视频在线免费观看| 国产日韩欧美在线精品| 成人美女网站在线观看视频| av线在线观看网站| 蜜桃久久精品国产亚洲av| 国产v大片淫在线免费观看| 香蕉精品网在线| 亚洲不卡免费看| 久久久久久久大尺度免费视频| 欧美日韩亚洲高清精品| 中文字幕亚洲精品专区| 中文字幕亚洲精品专区| 亚洲国产成人一精品久久久| 国产精品久久久久久精品古装| 国产黄色视频一区二区在线观看| 亚洲欧美清纯卡通| 一区二区三区免费毛片| 深爱激情五月婷婷| 精品久久久久久久久av| 97在线视频观看| 搡老乐熟女国产| 青春草亚洲视频在线观看| 国国产精品蜜臀av免费| 男女边吃奶边做爰视频| 久久久久久久国产电影| 国产亚洲一区二区精品| 天堂俺去俺来也www色官网| 高清在线视频一区二区三区| 亚洲av成人精品一区久久| 国产日韩欧美亚洲二区| 男女那种视频在线观看| 亚洲三级黄色毛片| 日韩欧美一区视频在线观看 | 男女下面进入的视频免费午夜| 国产一区二区三区av在线| av免费观看日本| 91aial.com中文字幕在线观看| 国产 一区精品| 3wmmmm亚洲av在线观看| 亚洲综合色惰| 夫妻午夜视频| 69av精品久久久久久| 久久久久九九精品影院| 亚洲va在线va天堂va国产| 禁无遮挡网站| 中文乱码字字幕精品一区二区三区| 久久久久九九精品影院| 中文乱码字字幕精品一区二区三区| 51国产日韩欧美| 日本黄色片子视频| 中文字幕免费在线视频6| 超碰97精品在线观看| 一本一本综合久久| 午夜福利视频1000在线观看| 亚洲欧美中文字幕日韩二区| 亚洲国产色片| 99热这里只有是精品在线观看| 色视频www国产| 又爽又黄无遮挡网站| 久久精品国产a三级三级三级| tube8黄色片| 欧美变态另类bdsm刘玥| 免费看光身美女| 欧美最新免费一区二区三区| 国产熟女欧美一区二区| 在线观看av片永久免费下载| 少妇人妻一区二区三区视频| 久久久久精品久久久久真实原创| 国产成人免费观看mmmm| 亚洲内射少妇av| 久久综合国产亚洲精品| 最后的刺客免费高清国语| 国产美女午夜福利| 国产精品99久久99久久久不卡 | 国产91av在线免费观看| 91精品国产九色| 又爽又黄a免费视频| 久久久精品免费免费高清| 国产成人一区二区在线| 日韩,欧美,国产一区二区三区| 久久鲁丝午夜福利片| 国产欧美亚洲国产| 国产精品久久久久久久电影| 欧美精品人与动牲交sv欧美| 日本与韩国留学比较| 亚洲伊人久久精品综合| 国产男人的电影天堂91| 亚洲欧洲日产国产| 搡老乐熟女国产| 亚洲高清免费不卡视频| 毛片女人毛片| 成人鲁丝片一二三区免费| 内地一区二区视频在线| 老女人水多毛片| 麻豆成人av视频| 亚洲精品aⅴ在线观看| 久久精品国产自在天天线| 国产男女内射视频| 免费观看性生交大片5| 国产黄色视频一区二区在线观看| 国产日韩欧美亚洲二区| 永久免费av网站大全| 久久久久久九九精品二区国产| 精品人妻偷拍中文字幕| 日韩av不卡免费在线播放| 午夜福利在线在线| 97人妻精品一区二区三区麻豆| 亚洲国产精品专区欧美| av免费在线看不卡| 欧美国产精品一级二级三级 | 日韩 亚洲 欧美在线| 国产精品国产三级国产专区5o| 在线亚洲精品国产二区图片欧美 | 日韩 亚洲 欧美在线| 婷婷色av中文字幕| 99热这里只有是精品在线观看| 成人二区视频| 中文字幕免费在线视频6| 男人舔奶头视频| 亚洲一区二区三区欧美精品 | 久久久久网色| 在线免费十八禁| 美女高潮的动态| 午夜免费观看性视频| 国产老妇女一区| 天天一区二区日本电影三级| 成人亚洲精品一区在线观看 | 成人鲁丝片一二三区免费| 国产爽快片一区二区三区| 免费黄频网站在线观看国产| 可以在线观看毛片的网站| 搞女人的毛片| 亚洲成色77777| 亚洲av日韩在线播放| 国产精品偷伦视频观看了| 日本wwww免费看| 色哟哟·www| 亚洲精品久久午夜乱码| 亚洲综合精品二区| 国产乱来视频区| av黄色大香蕉| 欧美潮喷喷水| 国产伦理片在线播放av一区| 国产一区二区三区综合在线观看 | 一级片'在线观看视频| 美女xxoo啪啪120秒动态图| 搡老乐熟女国产| 国产成人a∨麻豆精品| 插阴视频在线观看视频| 麻豆乱淫一区二区| 久久久久久久久久久丰满| 国产色爽女视频免费观看| 欧美老熟妇乱子伦牲交| 在线观看一区二区三区激情| av专区在线播放| 91精品一卡2卡3卡4卡| 亚洲最大成人中文| 身体一侧抽搐| 国产午夜精品久久久久久一区二区三区| 久久精品久久久久久噜噜老黄| 亚洲一级一片aⅴ在线观看| 97超视频在线观看视频| 国产一区亚洲一区在线观看| a级毛片免费高清观看在线播放| 久久99热这里只频精品6学生| 精品久久久精品久久久| 99热全是精品| 成人鲁丝片一二三区免费| 日本一本二区三区精品| 成人欧美大片| 亚洲av二区三区四区| 26uuu在线亚洲综合色| 国产av国产精品国产| 尤物成人国产欧美一区二区三区| 大陆偷拍与自拍| 亚洲真实伦在线观看| 久久午夜福利片| 亚洲成人一二三区av| 欧美最新免费一区二区三区| 亚洲内射少妇av| 黄色视频在线播放观看不卡| 大又大粗又爽又黄少妇毛片口| 九九在线视频观看精品| 国产精品av视频在线免费观看| 噜噜噜噜噜久久久久久91| 在线免费十八禁| 久久久久久久亚洲中文字幕| 国产精品一区二区在线观看99| 99热国产这里只有精品6| 69人妻影院| 蜜桃亚洲精品一区二区三区| 免费av观看视频| 国产精品一区二区性色av| 日韩大片免费观看网站| 国产免费一区二区三区四区乱码| 国产v大片淫在线免费观看| 亚洲精华国产精华液的使用体验| 肉色欧美久久久久久久蜜桃 | 99热全是精品| 午夜免费男女啪啪视频观看| 久久久久久九九精品二区国产| av免费在线看不卡| 91久久精品国产一区二区成人| 国产一级毛片在线| 国产成人精品福利久久| 亚洲天堂av无毛| 中国国产av一级| 香蕉精品网在线| 国产欧美日韩精品一区二区| 人妻夜夜爽99麻豆av| 成人漫画全彩无遮挡| 色婷婷久久久亚洲欧美| 尤物成人国产欧美一区二区三区| 少妇高潮的动态图| 婷婷色综合大香蕉| 久久ye,这里只有精品| 午夜激情福利司机影院| 精品视频人人做人人爽| 麻豆久久精品国产亚洲av| 国产亚洲91精品色在线| 久久人人爽人人片av| 老师上课跳d突然被开到最大视频| 久久鲁丝午夜福利片| 国产精品国产三级专区第一集| 麻豆国产97在线/欧美| 高清欧美精品videossex| 伊人久久国产一区二区| 色网站视频免费| 777米奇影视久久| 精品人妻熟女av久视频| 日韩电影二区| 插逼视频在线观看| 国产黄色视频一区二区在线观看| av专区在线播放| 汤姆久久久久久久影院中文字幕| 亚洲精品国产成人久久av| 色视频www国产| 亚洲,欧美,日韩| 日本午夜av视频| 一区二区三区免费毛片| 亚洲精品456在线播放app| 大香蕉久久网| 99久久中文字幕三级久久日本| 一级毛片我不卡| 欧美一级a爱片免费观看看| 国产成人精品久久久久久| 久久久久久国产a免费观看| 99热全是精品| 成人高潮视频无遮挡免费网站| 99热国产这里只有精品6| 丰满少妇做爰视频| 老女人水多毛片| 男女啪啪激烈高潮av片| 久久久精品欧美日韩精品| 男人狂女人下面高潮的视频| 搞女人的毛片| 免费观看a级毛片全部| 成人无遮挡网站| 男人添女人高潮全过程视频| av.在线天堂| 精品一区在线观看国产| 狠狠精品人妻久久久久久综合| 22中文网久久字幕| 久久97久久精品| tube8黄色片| 日韩av在线免费看完整版不卡| 在线观看国产h片| 国产一级毛片在线| 天天一区二区日本电影三级| 亚洲伊人久久精品综合| 好男人在线观看高清免费视频| 日日摸夜夜添夜夜添av毛片| 久久99热这里只有精品18| 免费黄色在线免费观看| 国产探花极品一区二区| 国产一区亚洲一区在线观看| 热re99久久精品国产66热6| 午夜免费观看性视频| 哪个播放器可以免费观看大片| 嫩草影院新地址| 久久精品熟女亚洲av麻豆精品| 国产一区二区在线观看日韩| 国产精品99久久99久久久不卡 | 校园人妻丝袜中文字幕| 最近最新中文字幕大全电影3| 天天躁夜夜躁狠狠久久av| 国产在视频线精品| 天天一区二区日本电影三级| 久久久久久久午夜电影| 国产乱人偷精品视频| 哪个播放器可以免费观看大片| 国产精品一区www在线观看| 最近中文字幕2019免费版| 久久精品久久精品一区二区三区| 秋霞伦理黄片| 成人国产av品久久久| 久久久久久久大尺度免费视频| 国产爱豆传媒在线观看| 久久99热这里只频精品6学生| 欧美变态另类bdsm刘玥| 一级毛片 在线播放| 晚上一个人看的免费电影| 亚洲激情五月婷婷啪啪| 国内精品宾馆在线| 亚洲色图av天堂| 欧美另类一区| 99热这里只有是精品50| 亚洲精品成人久久久久久| 国产成人aa在线观看| .国产精品久久| 亚洲国产欧美在线一区| 免费黄色在线免费观看| 白带黄色成豆腐渣| av又黄又爽大尺度在线免费看| 天堂俺去俺来也www色官网| 久久鲁丝午夜福利片| 日韩三级伦理在线观看| 人妻系列 视频| 九草在线视频观看| 在线观看三级黄色| 热re99久久精品国产66热6| 老司机影院毛片| 97在线视频观看| 国产欧美日韩一区二区三区在线 | 人人妻人人澡人人爽人人夜夜| 久久人人爽人人爽人人片va| 久久99热6这里只有精品| 亚洲无线观看免费| 国产精品国产三级国产av玫瑰| 国产欧美日韩精品一区二区| 国产 一区精品| 成年免费大片在线观看| 日韩av不卡免费在线播放| 性插视频无遮挡在线免费观看| 亚洲av中文字字幕乱码综合| 搡女人真爽免费视频火全软件| 国产片特级美女逼逼视频| 免费大片黄手机在线观看| 亚洲av福利一区| 国产精品蜜桃在线观看| 男女边摸边吃奶| 国模一区二区三区四区视频| 免费看不卡的av| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 欧美 日韩 精品 国产| 大话2 男鬼变身卡| 亚洲,一卡二卡三卡| 国产在线男女| 美女国产视频在线观看| 韩国高清视频一区二区三区| av.在线天堂| 直男gayav资源| av天堂中文字幕网| 青春草亚洲视频在线观看| 国产亚洲av片在线观看秒播厂| 黄片wwwwww| 嘟嘟电影网在线观看| av国产免费在线观看| 久久99热6这里只有精品| 日韩,欧美,国产一区二区三区| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 97在线人人人人妻| 国产午夜精品久久久久久一区二区三区| 免费观看的影片在线观看| 日韩,欧美,国产一区二区三区| 国产精品三级大全| 涩涩av久久男人的天堂| 国产真实伦视频高清在线观看| 麻豆成人午夜福利视频| 成人亚洲欧美一区二区av| 偷拍熟女少妇极品色| 黄色欧美视频在线观看| 日韩精品有码人妻一区| 国产乱来视频区| 国内精品美女久久久久久| 欧美成人a在线观看| 人妻一区二区av| 亚洲国产欧美人成| 在线观看人妻少妇| 婷婷色综合大香蕉| 国产精品国产三级国产专区5o| 国产免费福利视频在线观看| 色播亚洲综合网| 国产成人午夜福利电影在线观看| 亚洲国产欧美在线一区| 九九爱精品视频在线观看| 亚洲精品,欧美精品| 下体分泌物呈黄色| 高清午夜精品一区二区三区| 欧美激情在线99| 日日摸夜夜添夜夜添av毛片| 2018国产大陆天天弄谢| 老师上课跳d突然被开到最大视频| 精华霜和精华液先用哪个| 秋霞在线观看毛片| 成人毛片60女人毛片免费| av国产久精品久网站免费入址| 一个人看视频在线观看www免费| 久久久久久久午夜电影| 久久这里有精品视频免费| 亚洲av免费在线观看| 日日啪夜夜爽| 成人国产麻豆网| 国产v大片淫在线免费观看| 午夜福利在线在线| 人妻少妇偷人精品九色| 免费观看av网站的网址| 天天躁日日操中文字幕| 免费看光身美女| av在线天堂中文字幕| 国产精品国产av在线观看| 国产国拍精品亚洲av在线观看| videos熟女内射| 国产伦精品一区二区三区视频9| 极品教师在线视频| 国产午夜精品久久久久久一区二区三区| 下体分泌物呈黄色| 大话2 男鬼变身卡| 99久久精品国产国产毛片| 国产黄片美女视频| 欧美激情在线99| 亚洲国产日韩一区二区| 久久精品久久精品一区二区三区| 国产成人一区二区在线| 激情五月婷婷亚洲| 国产探花在线观看一区二区| 亚洲自偷自拍三级| 亚洲人成网站高清观看| 各种免费的搞黄视频| 久久久a久久爽久久v久久| 亚洲美女视频黄频| 亚洲久久久久久中文字幕| 男女下面进入的视频免费午夜| 51国产日韩欧美| 久久久久久九九精品二区国产| 五月天丁香电影| 免费观看av网站的网址| 春色校园在线视频观看| av.在线天堂| 国产亚洲精品久久久com| 国产有黄有色有爽视频| 能在线免费看毛片的网站| 大陆偷拍与自拍| 六月丁香七月| 在线a可以看的网站| 国模一区二区三区四区视频| 亚洲成人av在线免费| 一级毛片我不卡| 美女脱内裤让男人舔精品视频| 一级毛片我不卡| 日本-黄色视频高清免费观看| 国产亚洲av嫩草精品影院| 你懂的网址亚洲精品在线观看| 日韩欧美精品免费久久| 日韩成人伦理影院| 观看美女的网站| 亚洲最大成人中文| 免费观看无遮挡的男女| 国产黄片美女视频| 久久6这里有精品| 看十八女毛片水多多多| 美女内射精品一级片tv| 国产白丝娇喘喷水9色精品| 69av精品久久久久久| 亚洲av二区三区四区| 亚洲国产最新在线播放| 全区人妻精品视频| 亚洲欧美清纯卡通| 人妻夜夜爽99麻豆av| 熟女人妻精品中文字幕| 国产亚洲5aaaaa淫片| 99热这里只有精品一区| 亚洲国产欧美在线一区| 97超碰精品成人国产| 一区二区三区四区激情视频| 精品国产露脸久久av麻豆| 日韩 亚洲 欧美在线| 97人妻精品一区二区三区麻豆| 涩涩av久久男人的天堂| 一级毛片电影观看| 少妇高潮的动态图| 亚洲最大成人手机在线|