• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能自主發(fā)明的社會(huì)風(fēng)險(xiǎn)及其法律應(yīng)對(duì)

    2022-03-23 06:10:28賈麗萍
    關(guān)鍵詞:專利法機(jī)器專利

    賈麗萍 曹 璨

    (福州大學(xué)法學(xué)院,福建 福州 350108)

    人工智能自主發(fā)明的出現(xiàn)顛覆了傳統(tǒng)發(fā)明機(jī)制。由于其發(fā)明過程缺少人類的干預(yù),對(duì)這種發(fā)明物應(yīng)當(dāng)如何進(jìn)行法律界定和保護(hù)引發(fā)了學(xué)界的爭(zhēng)論,對(duì)此需要選取合理的保護(hù)模式化解社會(huì)各主體對(duì)權(quán)益的爭(zhēng)奪與對(duì)責(zé)任的推諉。同時(shí),智能機(jī)器發(fā)明產(chǎn)生的專利侵權(quán)、破壞市場(chǎng)競(jìng)爭(zhēng)、違反人類倫理道德等衍生問題,亟須專利法及相關(guān)部門法的進(jìn)一步細(xì)化,以實(shí)現(xiàn)對(duì)人工智能自主發(fā)明產(chǎn)生的社會(huì)問題的合理規(guī)制。

    一、人工智能自主發(fā)明帶來的社會(huì)風(fēng)險(xiǎn)

    人工智能在與技術(shù)環(huán)境交互作用的過程中,憑借其自我進(jìn)化的“機(jī)器學(xué)習(xí)”能力,能夠獨(dú)立生成技術(shù)方案本身是一種技術(shù)現(xiàn)象,但因此涉及的新型社會(huì)關(guān)系也成為一項(xiàng)社會(huì)問題。其在保護(hù)模式、專利侵權(quán)認(rèn)定、抑制有效競(jìng)爭(zhēng)與倫理道德等問題上凸顯了技術(shù)發(fā)展的不確定性與法律保護(hù)的確定性之間的矛盾。

    (一)人工智能自主發(fā)明引發(fā)的權(quán)利保護(hù)風(fēng)險(xiǎn)

    在人工智能自主發(fā)明過程中因其發(fā)明活動(dòng)來自機(jī)器的“思維”結(jié)果,而非人類智力成果,那么對(duì)此種結(jié)果應(yīng)當(dāng)如何選擇保護(hù)模式,是機(jī)器人發(fā)明活動(dòng)對(duì)傳統(tǒng)專利法調(diào)整的社會(huì)關(guān)系產(chǎn)生的首要沖擊。機(jī)器自主發(fā)明的成果是否應(yīng)當(dāng)適用以人類為主體構(gòu)建的專利法進(jìn)行保護(hù),以及如何確定其權(quán)利主體成為學(xué)界爭(zhēng)論的焦點(diǎn),法律制度亟須做出回應(yīng)。

    (二)人工智能自主發(fā)明導(dǎo)致的專利侵權(quán)風(fēng)險(xiǎn)

    人工智能在自主發(fā)明的過程中,因其可以通過互聯(lián)網(wǎng)隨意抓取、復(fù)制大量數(shù)據(jù),而這些數(shù)據(jù)往往來源復(fù)雜,有些已受到專利法的保護(hù),其挖掘海量信息的工作過程具有侵害已有專利權(quán)的風(fēng)險(xiǎn)。但在訴訟中,多主體聯(lián)合侵權(quán)模式與公眾難以合法舉證隱蔽算法存在侵權(quán)行為的兩方面因素,共同導(dǎo)致獲取司法救濟(jì)的困難。

    1.智能機(jī)器侵權(quán)模式的認(rèn)定困境

    現(xiàn)行《中華人民共和國(guó)專利法》(以下簡(jiǎn)稱《專利法》)規(guī)定了兩類侵權(quán)行為:其一,直接侵權(quán),即“行為人的產(chǎn)品或方法具有他人專利產(chǎn)品或?qū)@椒?quán)利要求書中的全部技術(shù)特征”;①王遷:《知識(shí)產(chǎn)權(quán)法教程(第四版)》,北京:中國(guó)人民大學(xué)出版社,2014年,第360頁(yè)。其二,間接侵權(quán),即“行為人沒有直接侵害專利權(quán),但是誘使直接侵權(quán)行為發(fā)生,或者在明知或應(yīng)知的情況下為直接侵權(quán)行為提供實(shí)質(zhì)性的幫助”。②崔國(guó)斌:《專利法:原理與案例(第二版)》,北京:北京大學(xué)出版社,2016年,第579頁(yè)。兩者都是從單一行為主體的角度來規(guī)制專利侵權(quán)風(fēng)險(xiǎn)。但現(xiàn)階段人工智能生成發(fā)明的過程需要基礎(chǔ)數(shù)據(jù)提供方、技術(shù)層設(shè)計(jì)方、應(yīng)用層開發(fā)方等多主體的配合,往往其分步的行為經(jīng)過累加才構(gòu)成專利權(quán)利要求書中的全部技術(shù)特征,而現(xiàn)行法單一主體的認(rèn)定模式易導(dǎo)致法律規(guī)制的困境。

    2.智能機(jī)器發(fā)明過程中證明責(zé)任分配的難題

    在舉證責(zé)任分配問題上,因人工智能算法具備隱藏性和難以解釋性,原告很難提供證據(jù)證明被告使用了專利方法,因此具有適用舉證責(zé)任倒置的必要。而《專利法》第66 條只設(shè)置了“新產(chǎn)品制造方法”這一種舉證責(zé)任倒置的規(guī)定。當(dāng)適用到人工智能自主發(fā)明侵權(quán)問題時(shí),一方面存在著數(shù)據(jù)代碼能否被認(rèn)定為“產(chǎn)品”的困境;另一方面,司法解釋對(duì)“新產(chǎn)品”的認(rèn)定是依據(jù)技術(shù)方案是否在專利申請(qǐng)日以前為國(guó)內(nèi)外的公眾所知,③2009年《最高人民法院關(guān)于審理侵犯專利權(quán)糾紛案件應(yīng)用法律若干問題的解釋》第17條。其采用的是專利新穎性審查時(shí)認(rèn)定的結(jié)論,而不是侵權(quán)行為發(fā)生時(shí)的結(jié)論,本質(zhì)上就與訴訟中判斷的行為法益侵害性存在評(píng)判時(shí)間的不同步。因人工智能具備不間斷公布現(xiàn)有技術(shù)的能力,當(dāng)訴訟間隔過長(zhǎng)時(shí),被告方使用的技術(shù)方案在多數(shù)情況下不具備侵犯權(quán)利人專利權(quán)的情形,此時(shí)仍一律要求其適用“舉證責(zé)任倒置”,實(shí)際上不合理地加重了被告方的舉證責(zé)任。

    (三)人工智能自主發(fā)明帶來的反競(jìng)爭(zhēng)風(fēng)險(xiǎn)

    人工智能可以不間斷地生成技術(shù)方案,一部分經(jīng)過申請(qǐng)獲得了專利權(quán),而大部分以現(xiàn)有技術(shù)的形式被創(chuàng)造出來進(jìn)入公共領(lǐng)域,在提供社會(huì)公共技術(shù)的同時(shí),也帶來了后續(xù)專利權(quán)實(shí)施與流轉(zhuǎn)的風(fēng)險(xiǎn)。由于企業(yè)經(jīng)營(yíng)策略的指引,人工智能的所有者可憑借機(jī)器的快速創(chuàng)造能力,圍繞自身專利權(quán)建設(shè)“專利圍墻”——達(dá)到擴(kuò)大自身專利權(quán)范圍,防止競(jìng)爭(zhēng)對(duì)手獲得跟隨發(fā)明的目的;④Ben Hattenbach,Joshua Glucoft,“Patents in an Era of Infinite Monkeys and Artificial Intelligence”,Stanford Technology Law Review (2015),p.36.也可以圍繞競(jìng)爭(zhēng)對(duì)手的專利構(gòu)建“專利牢籠”,⑤劉鑫、覃楚翔:《人工智能時(shí)代的專利法:?jiǎn)栴}、挑戰(zhàn)與應(yīng)對(duì)》,《電子知識(shí)產(chǎn)權(quán)》2021年第1期。讓對(duì)手已獲得專利權(quán)的核心專利無(wú)法充分實(shí)施,從而使專利喪失價(jià)值。在這一過程中,存在不正當(dāng)競(jìng)爭(zhēng)和壟斷相關(guān)市場(chǎng)的反競(jìng)爭(zhēng)風(fēng)險(xiǎn),可能損害消費(fèi)者和其他經(jīng)營(yíng)者的利益。

    人工智能因具備“機(jī)器學(xué)習(xí)”的能力,在其發(fā)明過程中,能脫離初始設(shè)定自主修正程序,產(chǎn)生新的算法,再依照設(shè)定目的創(chuàng)造技術(shù)方案,這給反競(jìng)爭(zhēng)行為的規(guī)制帶來了困難。市場(chǎng)主體可以以自己對(duì)機(jī)器發(fā)明的過程并不知情,因而不具備破壞競(jìng)爭(zhēng)的主觀要素來免除法律責(zé)任。類似地,執(zhí)法機(jī)構(gòu)也因技術(shù)力量的缺陷難以認(rèn)定公開的技術(shù)方案對(duì)市場(chǎng)產(chǎn)生的限制競(jìng)爭(zhēng)效果而難以做出處理決定。同時(shí),現(xiàn)行《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》(以下簡(jiǎn)稱《反不當(dāng)競(jìng)爭(zhēng)法》)和《中華人民共和國(guó)反壟斷法》(以下簡(jiǎn)稱《反壟斷法》)對(duì)利用人工智能技術(shù)進(jìn)行的破壞競(jìng)爭(zhēng)行為尚無(wú)明確的法律規(guī)制依據(jù),僅就濫用知識(shí)產(chǎn)權(quán)的行為在《反壟斷法》第55條進(jìn)行了抽象性的規(guī)定。目前,明確的競(jìng)爭(zhēng)法調(diào)整依據(jù)與有效的管控手段的缺失,給法律適用的正當(dāng)性與責(zé)任認(rèn)定造成了困難,使競(jìng)爭(zhēng)法難以發(fā)揮對(duì)專利法調(diào)整外延的補(bǔ)充規(guī)制作用?,F(xiàn)行法律制度需要及時(shí)調(diào)整,以應(yīng)對(duì)產(chǎn)業(yè)主體通過人工智能自主生成海量現(xiàn)有技術(shù),破壞競(jìng)爭(zhēng)秩序的風(fēng)險(xiǎn)。

    (四)人工智能自主發(fā)明導(dǎo)致的倫理道德風(fēng)險(xiǎn)

    人工智能依賴大數(shù)據(jù),以效率為導(dǎo)向的學(xué)習(xí)模式往往無(wú)法兼顧人類的倫理價(jià)值,其生成發(fā)明的過程中存在著結(jié)構(gòu)性的倫理道德風(fēng)險(xiǎn)。一方面,人工智能算法在獲取運(yùn)用數(shù)據(jù)時(shí)側(cè)重使用關(guān)聯(lián)推理,卻忽視了人類思維中感性的價(jià)值追求。人類社會(huì)建立的基本權(quán)利、平等正義價(jià)值在目前的人工智能搜集整合數(shù)據(jù)的發(fā)明過程中缺少應(yīng)有的重視。如瑞安·艾伯特(Ryan Abott)所言:“一個(gè)機(jī)器如果沒有道德指南,就能以對(duì)人類有害的方式進(jìn)行創(chuàng)新?!雹賀yan Abbott,Hal the Inventor:Big Data and Its Use by Artificial Intelligence,in Big data is not a mono‐lith,MIT Press,2016,p.187.另一方面,當(dāng)人工智能學(xué)習(xí)數(shù)據(jù)建立模型時(shí),在現(xiàn)有的法律規(guī)定的許可模式下,市場(chǎng)主體面對(duì)許可主體過多、成本過高等問題,難以獲得合法授權(quán)。

    懷疑論者大衛(wèi)·休謨認(rèn)為,在現(xiàn)實(shí)生活中,“所有的一切推論和結(jié)論在于經(jīng)驗(yàn)”,“根據(jù)經(jīng)驗(yàn)來的一切推論都是習(xí)慣的結(jié)果,而不是理性的結(jié)果”,“這在各方面看來都不是必然的”。②〔英〕休謨:《人類理解研究》,關(guān)文運(yùn)譯,北京:商務(wù)印書館,1957年,第32、33、42頁(yè)。由此審視智能機(jī)器發(fā)明過程所隱含的法哲學(xué)問題,即通過搜集海量數(shù)據(jù)自主進(jìn)行關(guān)聯(lián)學(xué)習(xí)的進(jìn)路本身存在著后驗(yàn)概率永遠(yuǎn)不可能達(dá)到1 的認(rèn)知結(jié)構(gòu)風(fēng)險(xiǎn)。質(zhì)言之,算法對(duì)外部對(duì)象進(jìn)行數(shù)據(jù)化建模的這一過程是采用相關(guān)性的關(guān)聯(lián)推理,而這樣搭建的因果聯(lián)系無(wú)法達(dá)到100%的可靠性,而多層次的網(wǎng)絡(luò)結(jié)構(gòu)又將此類風(fēng)險(xiǎn)進(jìn)行累積。人工智能只具有部分的人類認(rèn)知能力,將簡(jiǎn)單的行為與思考模式進(jìn)行量化,但對(duì)尊嚴(yán)、幸福等價(jià)值難以感知,這增強(qiáng)了因技術(shù)風(fēng)險(xiǎn)引發(fā)的倫理風(fēng)險(xiǎn)的破壞力。

    二、人工智能自主發(fā)明社會(huì)風(fēng)險(xiǎn)的法律應(yīng)對(duì)

    科學(xué)技術(shù)是一把雙刃劍。風(fēng)險(xiǎn)這一概念本身具有文明的意涵,人們能夠通過可預(yù)見性的制度設(shè)計(jì)對(duì)不可控的事情進(jìn)行預(yù)先防范。③〔德〕烏爾里?!へ惪耍骸讹L(fēng)險(xiǎn)社會(huì)》,何博聞譯,南京:譯林出版社,2004年,第4頁(yè)。就法學(xué)領(lǐng)域而言,如何通過權(quán)利義務(wù)的安排化解智能機(jī)器生成發(fā)明過程產(chǎn)生的社會(huì)風(fēng)險(xiǎn),對(duì)保障人工智能技術(shù)的健康運(yùn)行具有重要意義。

    (一)明確專利法保護(hù)模式

    對(duì)一種可能帶來市場(chǎng)利益且會(huì)打破傳統(tǒng)科研競(jìng)爭(zhēng)地位的創(chuàng)造力機(jī)器,其發(fā)明成果保護(hù)模式的合理選擇是解決產(chǎn)業(yè)社會(huì)矛盾與制度風(fēng)險(xiǎn)的關(guān)鍵,其能夠緩解機(jī)器發(fā)明存在的現(xiàn)代性的負(fù)面影響。

    1.適用專利法保護(hù)人工智能自主發(fā)明的正當(dāng)性

    有學(xué)者提出,智能機(jī)器發(fā)明應(yīng)當(dāng)直接進(jìn)入市場(chǎng),因?yàn)槠鋺{借市場(chǎng)的領(lǐng)先地位能夠取得足夠的競(jìng)爭(zhēng)優(yōu)勢(shì)以激勵(lì)技術(shù)的發(fā)展,而機(jī)器發(fā)明因多主體共同完成發(fā)明的模式難以確定其背后需激勵(lì)的人類主體而缺乏專利保護(hù)的正當(dāng)性,不應(yīng)適用專利法保護(hù)。④Shlomit Yanisky-Ravid,Xiaoqiong Liu,“When artificial intelligence systems produce inventions: the 3A era and an alternative model for patent law”,Cardozo Law Review,2018,pp.2215-2263.但從社會(huì)風(fēng)險(xiǎn)的角度看,按照以上觀點(diǎn),智能機(jī)器發(fā)明因缺少法律授權(quán),隱含著社會(huì)沖突的可能性,會(huì)由于缺少法律制度塔建的穩(wěn)定的社會(huì)架構(gòu),加劇上下游技術(shù)鏈間的矛盾。同時(shí),秘密保護(hù)模式耗費(fèi)了本應(yīng)被投入到技術(shù)研發(fā)中的資本,阻隔了社會(huì)公眾應(yīng)當(dāng)享有的權(quán)益。因?yàn)閹缀跞魏我环N知識(shí)產(chǎn)品都或多或少參考了社會(huì)上前人的科學(xué)研究成果,⑤馮曉青:《知識(shí)產(chǎn)權(quán)法哲學(xué)》,北京:商務(wù)印書館,2003年,第89頁(yè)。而社會(huì)公眾無(wú)法享有這樣的技術(shù)成就也由此動(dòng)搖了權(quán)利人獲得財(cái)產(chǎn)利益的正當(dāng)性。本文認(rèn)為,人工智能自主發(fā)明物不應(yīng)因其特殊的發(fā)明形式被排除出專利法保護(hù)框架,具體理由如下:一方面,闡述專利制度正當(dāng)性的激勵(lì)理論仍能繼續(xù)激勵(lì)該產(chǎn)業(yè)上下游研發(fā)的積極性,保障行業(yè)效益;另一方面,機(jī)器發(fā)明模式不僅符合專利審查指南形式要求的“采用技術(shù)手段解決技術(shù)問題,以獲得符合自然規(guī)律的技術(shù)效果的方案”,①《中華人民共和國(guó)專利審查指南》第二部分第1章第2條第3款。還滿足專利制度的保護(hù)內(nèi)涵,即“與著作權(quán)制度中作者與作品的關(guān)系相比,專利制度側(cè)重于保護(hù)的是發(fā)明成果的創(chuàng)造性和實(shí)用性”。②朱雪忠、張廣偉:《人工智能產(chǎn)生的技術(shù)成果可專利性及其權(quán)利歸屬研究》,《情報(bào)雜志》2018年第2期。因此應(yīng)當(dāng)認(rèn)定人工智能發(fā)明物符合專利法適格標(biāo)的。

    2.人工智能自主發(fā)明的權(quán)利歸屬

    誠(chéng)然,我們應(yīng)認(rèn)識(shí)到,“人工智能生成發(fā)明主體資格缺失是其申請(qǐng)、獲得專利權(quán)的最大阻礙”。③孜里米拉·艾尼瓦爾、姚葉:《人工智能技術(shù)對(duì)專利制度的挑戰(zhàn)與應(yīng)對(duì)》,《電子知識(shí)產(chǎn)權(quán)》2020年第4期。在專利申請(qǐng)權(quán)、專利權(quán)歸屬等問題上,本文贊同吳漢東教授論述的“承認(rèn)‘機(jī)器發(fā)明人’這一法律事實(shí),參照職務(wù)發(fā)明專利,賦予自然人或自然人的集合以專有權(quán)利”④吳漢東:《人工智能生成發(fā)明的專利法之問》,《當(dāng)代法學(xué)》2019年第4期。的觀點(diǎn),以實(shí)現(xiàn)人工智能自主發(fā)明技術(shù)與現(xiàn)行專利法律制度間矛盾的消解媾和,化解現(xiàn)代化風(fēng)險(xiǎn)可能帶來的制度失靈,也即在認(rèn)定人工智能作為發(fā)明人的基礎(chǔ)上,將專利的申請(qǐng)和取得權(quán)分配給人類主體即“專利的實(shí)際控制者”。通過合理的制度設(shè)計(jì)確認(rèn)利益歸屬,避免各方主體爭(zhēng)搶權(quán)益、推諉責(zé)任的市場(chǎng)不穩(wěn)定風(fēng)險(xiǎn)。

    (二)明確專利侵權(quán)的法律規(guī)制路徑

    在創(chuàng)造力機(jī)器的發(fā)明過程中,其發(fā)明成果的完成需要多主體共同配合,而此種創(chuàng)造模式在不透明算法獲取數(shù)據(jù)的過程中,產(chǎn)生了依照現(xiàn)行法律難以認(rèn)定侵權(quán)主體、權(quán)利人舉證困難等風(fēng)險(xiǎn)。本文建議引入“控制與管理”規(guī)則應(yīng)對(duì)智能機(jī)器引發(fā)的分步式侵權(quán)問題,并細(xì)化舉證責(zé)任倒置的制度安排,確保權(quán)利得到及時(shí)救濟(jì)。

    1.侵權(quán)主體的認(rèn)定

    有學(xué)者建議借鑒美國(guó)司法實(shí)踐中采用的“控制與管理”規(guī)則作為現(xiàn)行法侵權(quán)認(rèn)定規(guī)則的補(bǔ)充,⑤孜里米拉·艾尼瓦爾:《人工智能發(fā)明創(chuàng)造中的專利侵權(quán)困境及其應(yīng)對(duì)》,《中國(guó)科技論壇》2021年第4期。作為多方主體聯(lián)合侵權(quán)的責(zé)任承擔(dān)依據(jù)。美國(guó)法院依照《美國(guó)法典》第35 篇第271(a)節(jié)對(duì)BMC Res 案的判決認(rèn)為:“在專利侵權(quán)的情況下,被告不能因此通過讓其他人代表其執(zhí)行一個(gè)或多個(gè)所主張的步驟來避免直接侵權(quán)的責(zé)任”。⑥BMC Res.,Inc. v. Paymentech,L.P.,498 F.3d 1373 (Fed. Cir. 2007).此即“控制與管理”規(guī)則的具體應(yīng)用。該原則用于確認(rèn)多侵權(quán)行為中的聯(lián)合主體間法律關(guān)系,并據(jù)此判斷侵權(quán)責(zé)任的承擔(dān)主體。本文認(rèn)為,此種做法可供我國(guó)借鑒。

    具體言之,將此原則應(yīng)用于人工智能專利侵權(quán)訴訟時(shí),首先應(yīng)當(dāng)考慮聯(lián)合發(fā)明中是否存在著委托代理合同,并將委托者認(rèn)定為控制者。而在沒有委托代理合同時(shí),應(yīng)當(dāng)統(tǒng)籌技術(shù)資本投入占比等多因素考量在多步驟行為中起到的控制作用,綜合判斷聯(lián)合主體的控制者,在各主體的技術(shù)資本比例難以確定的情況下,應(yīng)當(dāng)將侵權(quán)責(zé)任的風(fēng)險(xiǎn)歸屬于人工智能自主發(fā)明物的權(quán)利人,以實(shí)現(xiàn)權(quán)責(zé)一致。

    2.證明責(zé)任的分配

    前已述及,我國(guó)現(xiàn)行《專利法》第66條僅規(guī)定了“產(chǎn)品的制造方法”的證明責(zé)任倒置。但在人工智能時(shí)代,算法軟件應(yīng)當(dāng)被同等保護(hù),對(duì)軟件算法、數(shù)據(jù)傳輸改進(jìn)的新方法也應(yīng)適用舉證責(zé)任倒置。因?yàn)槿斯ぶ悄茏灾靼l(fā)明的應(yīng)用情景不只包括具備物理結(jié)構(gòu)的產(chǎn)品,也包括能夠提升計(jì)算機(jī)性能的代碼。本文建議將產(chǎn)品制造方法外延進(jìn)行擴(kuò)張,將有創(chuàng)造性的數(shù)據(jù)代碼的完成方法也列入舉證責(zé)任倒置的范圍,防止其被人工智能隨意抓取。同時(shí),對(duì)于算法產(chǎn)品的界定不應(yīng)局限于細(xì)節(jié)完全的匹配,而應(yīng)從組成結(jié)構(gòu)與功能上看是否能夠?qū)崿F(xiàn)相同的技術(shù)效果,據(jù)此評(píng)判產(chǎn)品的制造方法是否侵犯專利權(quán)。

    另外,還應(yīng)從以下幾方面細(xì)化舉證責(zé)任倒置的規(guī)定:第一,為責(zé)任倒置設(shè)置一定的期間,以化解不合理加重被告方負(fù)擔(dān)的情形。例如設(shè)置一定年限的除斥期間,當(dāng)超該年限而不行使訴權(quán),則證明責(zé)任恢復(fù)由原告承擔(dān)。第二,應(yīng)結(jié)合投入市場(chǎng)的時(shí)間綜合判斷是否應(yīng)當(dāng)?shù)怪门e證責(zé)任,“不能一概以申請(qǐng)日作為標(biāo)準(zhǔn)”。①劉強(qiáng):《技術(shù)網(wǎng)絡(luò)化背景下的專利侵權(quán)判定——以云計(jì)算技術(shù)專利權(quán)為視角》,《北方法學(xué)》2014年第2期。若產(chǎn)品沒有投入市場(chǎng),而被訴方能夠用類似的技術(shù)方案生成相同產(chǎn)品,需要證明具有較大的侵權(quán)可能性,應(yīng)適用舉證責(zé)任倒置的規(guī)定。而在產(chǎn)品已經(jīng)投入市場(chǎng)的情況下,法院應(yīng)結(jié)合權(quán)利申請(qǐng)日前技術(shù)公開情況與相關(guān)市場(chǎng)的消費(fèi)者在投入市場(chǎng)日是否見過類似質(zhì)量、功能的產(chǎn)品,綜合人工智能公開的技術(shù)方案判斷是否需要倒置證明責(zé)任。當(dāng)有較大的侵權(quán)可能性時(shí),需由權(quán)利人舉證投入市場(chǎng)的時(shí)間證明產(chǎn)品屬于新產(chǎn)品,再由被訴方承擔(dān)證明責(zé)任。

    (三)設(shè)置合理的競(jìng)爭(zhēng)法應(yīng)對(duì)措施

    為應(yīng)對(duì)市場(chǎng)主體利用人工智能低成本公開技術(shù)信息,圍繞自身或他人專利進(jìn)行現(xiàn)有技術(shù)布局,達(dá)到改變專利價(jià)值或取得壟斷地位的隱性風(fēng)險(xiǎn),本文建議以公開現(xiàn)有技術(shù)的危害程度對(duì)破壞競(jìng)爭(zhēng)秩序的行為進(jìn)行區(qū)分,完善《反不正當(dāng)競(jìng)爭(zhēng)法》《反壟斷法》的責(zé)任條款,避免“背離了知識(shí)產(chǎn)權(quán)保護(hù)人類創(chuàng)造物的目的,并破壞了知識(shí)產(chǎn)品應(yīng)有的市場(chǎng)競(jìng)爭(zhēng)秩序”。②劉強(qiáng):《人工智能對(duì)知識(shí)產(chǎn)權(quán)制度的理論挑戰(zhàn)及回應(yīng)》,《法學(xué)論壇》2019年第6期。

    1.不正當(dāng)競(jìng)爭(zhēng)行為的法律應(yīng)對(duì)

    當(dāng)運(yùn)用智能機(jī)器生成現(xiàn)有技術(shù)的行為構(gòu)成“以技術(shù)手段制約同類技術(shù)的運(yùn)用”③劉繼峰:《競(jìng)爭(zhēng)法學(xué)(第三版)》,北京:北京大學(xué)出版社,2018年,第375頁(yè)。時(shí),應(yīng)認(rèn)定為不正當(dāng)競(jìng)爭(zhēng)行為,并適用《反不正當(dāng)競(jìng)爭(zhēng)法》加以規(guī)制。一方面海量的現(xiàn)有技術(shù)可能扭曲市場(chǎng)上既有專利的價(jià)值,將人工智能技術(shù)異化為競(jìng)爭(zhēng)工具;另一方面,此種競(jìng)爭(zhēng)行為也違反了商業(yè)道德,破壞市場(chǎng)合理競(jìng)爭(zhēng)機(jī)制,具有可歸責(zé)性。

    申言之,在具體實(shí)踐中應(yīng)先適用司法手段,依照《反不正當(dāng)競(jìng)爭(zhēng)法》中“經(jīng)營(yíng)者在生產(chǎn)經(jīng)營(yíng)活動(dòng)中,應(yīng)當(dāng)遵循自愿、平等、公平、誠(chéng)信的原則,遵守法律和商業(yè)道德”的原則性的規(guī)定,結(jié)合公平競(jìng)爭(zhēng)原則,規(guī)制濫用人工智能技術(shù)侵害競(jìng)爭(zhēng)對(duì)手的不正當(dāng)競(jìng)爭(zhēng)行為。在不斷積累行政執(zhí)法素材與案件經(jīng)驗(yàn)的基礎(chǔ)上,制定人工智能反不正當(dāng)競(jìng)爭(zhēng)行為的具體規(guī)制條款,適時(shí)增設(shè)原則性規(guī)定,明確規(guī)制的正當(dāng)性。如在《專利法》第20條增加“采用不正當(dāng)競(jìng)爭(zhēng)的手段貶損他人專利權(quán)利的,依照《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》處理”。同時(shí)在《反不正當(dāng)競(jìng)爭(zhēng)法》第12條第4款前增設(shè)“以明顯違法的方式使用人工智能網(wǎng)絡(luò)技術(shù)侵害專利權(quán)人利益構(gòu)成破壞正常經(jīng)營(yíng)活動(dòng)的”作為具體不正當(dāng)行為的判定依據(jù)。此外,在責(zé)任認(rèn)定的過程中,本文建議對(duì)利用人工智能不間斷生成技術(shù)方案的行為采用嚴(yán)格責(zé)任原則,防止市場(chǎng)主體以人工智能具有脫離人類干預(yù)的自主創(chuàng)造能力作為免責(zé)事由逃避責(zé)任。

    2.壟斷行為的判定

    當(dāng)利用人工智能的反競(jìng)爭(zhēng)行為導(dǎo)致了限制、排除競(jìng)爭(zhēng)的消極后果,超過了運(yùn)用技術(shù)手段攻擊競(jìng)爭(zhēng)者具有的特定專利權(quán)的范圍限制時(shí),為保障消費(fèi)群體的利益、維護(hù)市場(chǎng)秩序,須對(duì)該行為適用反壟斷手段進(jìn)行規(guī)制。

    質(zhì)言之,應(yīng)當(dāng)對(duì)經(jīng)營(yíng)者利用人工智能擴(kuò)大自身權(quán)利范圍,以期獲得市場(chǎng)支配地位的情形進(jìn)行限制。通過細(xì)化《反壟斷法》設(shè)置的“經(jīng)營(yíng)者濫用知識(shí)產(chǎn)權(quán),排除、限制競(jìng)爭(zhēng)的行為”的具體規(guī)制步驟,增加以不合法手段擴(kuò)張市場(chǎng)地位的行為的反壟斷法規(guī)制路徑,“避免造成更為嚴(yán)重的市場(chǎng)危害”。④劉鑫、覃楚翔:《人工智能時(shí)代的專利法:?jiǎn)栴}、挑戰(zhàn)與應(yīng)對(duì)》,《電子知識(shí)產(chǎn)權(quán)》2021年第1期。本文建議,一方面,在人工智能反壟斷訴訟中增加責(zé)任承擔(dān)方式,按照其公布方案影響范圍的大小,由專利行政部門依申請(qǐng)給予強(qiáng)制許可或者在一定時(shí)間內(nèi)將其公布的技術(shù)方案不列入現(xiàn)有技術(shù)領(lǐng)域作為責(zé)任承擔(dān)要件。在維護(hù)實(shí)體技術(shù)投資產(chǎn)生的市場(chǎng)效益的同時(shí),保障社會(huì)公眾在市場(chǎng)交易中的選擇權(quán),維護(hù)公共利益。

    另一方面,對(duì)政府實(shí)施的反壟斷行為,反壟斷執(zhí)法部門對(duì)此類案件關(guān)注的重點(diǎn)應(yīng)為是否產(chǎn)生了技術(shù)壁壘,即判斷生成的海量現(xiàn)有技術(shù)是否導(dǎo)致經(jīng)營(yíng)者自身專利權(quán)控制了某一技術(shù)市場(chǎng),或其他企業(yè)的平等競(jìng)爭(zhēng)機(jī)會(huì)的喪失。但我國(guó)反壟斷執(zhí)法機(jī)構(gòu)對(duì)各專業(yè)領(lǐng)域海量技術(shù)方案與專利權(quán)屬之間結(jié)構(gòu)關(guān)系的專業(yè)性知識(shí),難以清楚判定是否構(gòu)成濫用行為。本文建議,可采用專利技術(shù)景觀①專利技術(shù)景觀分析包括專利數(shù)量變化趨勢(shì)、專利質(zhì)量特征與專利結(jié)構(gòu)特征三部分,分別從專利數(shù)量、質(zhì)量與技術(shù)特征三方面描述技術(shù)專利情況。Aharonson B S,Schilling M A,“Mapping the technological landscape:Measuring technology distance,technological footprints,and technology evolution”,Research Policy,2016-1,pp.81-96.追蹤相關(guān)產(chǎn)業(yè)的發(fā)展情況,以明確人工智能公開的現(xiàn)有技術(shù)是否能實(shí)際達(dá)到限制其他經(jīng)營(yíng)者參與技術(shù)市場(chǎng)競(jìng)爭(zhēng)的效果。申言之,利用技術(shù)解決技術(shù)產(chǎn)生的問題,通過人工智能技術(shù)控制監(jiān)管相關(guān)技術(shù)的各企業(yè)占有的份額,并綜合考察該經(jīng)營(yíng)者的財(cái)力和技術(shù)條件,判斷其行為是否能夠產(chǎn)生壟斷相關(guān)市場(chǎng)的風(fēng)險(xiǎn)。

    (四)提高人工智能自主發(fā)明的倫理要求

    1.提高智能算法設(shè)計(jì)的倫理要求

    “安全是人工智能時(shí)代的核心法價(jià)值。”②吳漢東:《人工智能時(shí)代的制度安排與法律規(guī)制》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2017年第5期。對(duì)處于倫理道德緊張關(guān)系下的人工智能算法設(shè)計(jì)過程,本文建議盡快制定全面的人工智能算法的行業(yè)倫理標(biāo)準(zhǔn)。③吳桂德:《德國(guó)人工智能創(chuàng)造物的知識(shí)產(chǎn)權(quán)法保護(hù)及其啟示》,《電子知識(shí)產(chǎn)權(quán)》2021年第1期。保障公眾的數(shù)據(jù)權(quán)利等其他基本權(quán)益,確保人工智能發(fā)明的積極效果,實(shí)現(xiàn)算法正義。深圳市人工智能行業(yè)協(xié)會(huì)聯(lián)合多家人工智能企業(yè)發(fā)起的《新一代人工智能行業(yè)自律公約》不失為一種有效嘗試。④深圳市人工智能行業(yè)協(xié)會(huì)發(fā)布《由協(xié)會(huì)發(fā)起,首份人工智能行業(yè)自律公約公布》,2019 年8 月18 日,http://www.saiia.org.cn/index.php/2019/08/18/1212/,最后訪問時(shí)間2021年11月9日。為應(yīng)對(duì)損害人類道德的風(fēng)險(xiǎn),應(yīng)當(dāng)在算法設(shè)計(jì)的過程中加入價(jià)值保留的程序設(shè)置,以糾正算法可能帶來的決策風(fēng)險(xiǎn),由算法的程序正義實(shí)現(xiàn)實(shí)質(zhì)正義,即“在設(shè)計(jì)算法的過程中,利用代碼設(shè)定動(dòng)態(tài)因素閾值,從而實(shí)現(xiàn)對(duì)算法運(yùn)行進(jìn)行動(dòng)態(tài)監(jiān)管”。⑤郭哲:《反思算法權(quán)力》,《法學(xué)評(píng)論》2020年第6期。此外,在算法研發(fā)中關(guān)注人類福祉的價(jià)值追求,這也能在一定程度上減少算法對(duì)人類社會(huì)編制的個(gè)人信息繭房分化人類認(rèn)知結(jié)構(gòu),⑥張愛軍、王首航:《算法: 一種新的權(quán)力形態(tài)》,《治理現(xiàn)代化研究》2020 年第1 期。使“人作為目的”的人類社會(huì)的價(jià)值共識(shí)不被人工智能異化。在必要時(shí),本文建議由社會(huì)組織代替公眾進(jìn)行公益訴訟,通過質(zhì)證解釋算法的正當(dāng)性,制止算法對(duì)人類倫理價(jià)值的侵權(quán)行為。

    2.完善數(shù)據(jù)處理活動(dòng)中倫理風(fēng)險(xiǎn)的防控機(jī)制

    我國(guó)《數(shù)據(jù)安全法》第8條規(guī)定:“開展數(shù)據(jù)處理活動(dòng)……不得危害國(guó)家安全、公共利益,不得損害個(gè)人、組織的合法權(quán)益?!痹谌斯ぶ悄軘?shù)據(jù)處理過程中,應(yīng)當(dāng)樹立人類權(quán)利優(yōu)先的基本理念,充分考慮機(jī)器無(wú)法量化的差異性特征。在維護(hù)道德價(jià)值的同時(shí),也要建立適合人工智能發(fā)展的商業(yè)化數(shù)據(jù)流轉(zhuǎn)機(jī)制。

    一方面,應(yīng)加強(qiáng)人工智能算法的產(chǎn)業(yè)自主監(jiān)管。為保障人類利益,應(yīng)注重建設(shè)人工智能調(diào)取數(shù)據(jù)的法律規(guī)范與產(chǎn)業(yè)標(biāo)準(zhǔn),發(fā)揮人工智能社會(huì)組織的自治作用,本文贊同有學(xué)者提出的發(fā)揮社會(huì)責(zé)任披露機(jī)制,完善人工智能算法“元治理”的觀點(diǎn),⑦鄭智航:《人工智能算法的倫理危機(jī)與法律規(guī)制》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2021年第1期。引導(dǎo)社會(huì)組織合理制定適應(yīng)不同產(chǎn)業(yè)的數(shù)據(jù)調(diào)取的行業(yè)標(biāo)準(zhǔn)或自治章程文件。對(duì)其中容易發(fā)生侵犯人類倫理道德的領(lǐng)域,可由多家產(chǎn)業(yè)主體以聯(lián)合聲明的形式向社會(huì)披露其獲取數(shù)據(jù)的目的與行為的潛在違法性以及監(jiān)督措施——包括公司內(nèi)部設(shè)置數(shù)據(jù)監(jiān)管部門與政府設(shè)置獨(dú)立的數(shù)據(jù)監(jiān)管機(jī)構(gòu)。

    另一方面,應(yīng)建立保障人類尊嚴(yán)的高效數(shù)據(jù)流轉(zhuǎn)機(jī)制。雖然我國(guó)新通過的《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》對(duì)數(shù)據(jù)保護(hù)做出了總體規(guī)定,具有劃時(shí)代的意義,但是對(duì)于具體條款仍然需要結(jié)合人工智能的技術(shù)背景進(jìn)行細(xì)化,完善數(shù)據(jù)處理的法律保護(hù)。應(yīng)通過部門法來補(bǔ)充細(xì)化數(shù)據(jù)控制者、數(shù)據(jù)處理者違法行為類型與責(zé)任,完善數(shù)據(jù)主體的更正權(quán)、清除權(quán)的行使方式,在加強(qiáng)法律監(jiān)管保障人類尊嚴(yán)的同時(shí),優(yōu)化數(shù)據(jù)處理者的權(quán)利行使途徑,加速數(shù)據(jù)資本的商業(yè)運(yùn)轉(zhuǎn)。國(guó)家數(shù)據(jù)安全工作協(xié)調(diào)機(jī)構(gòu)應(yīng)當(dāng)加快制定分類分級(jí)的標(biāo)準(zhǔn)化數(shù)據(jù)保護(hù)文件,構(gòu)建體系完備的國(guó)家數(shù)據(jù)庫(kù),以便產(chǎn)業(yè)主體進(jìn)行數(shù)據(jù)搜集時(shí),按照國(guó)家分類數(shù)據(jù)文件公布的保護(hù)要求并結(jié)合行業(yè)標(biāo)準(zhǔn)做好剔除敏感信息的處理工作,化解使用數(shù)據(jù)過程中的侵犯人類倫理風(fēng)險(xiǎn),同時(shí)加快數(shù)據(jù)價(jià)值的商業(yè)運(yùn)轉(zhuǎn)。

    三、構(gòu)建適應(yīng)人工智能自主發(fā)明治理理念的法律運(yùn)行體系

    社會(huì)風(fēng)險(xiǎn)的有效解決需要明晰的治理理念與完備的法律運(yùn)行體系,實(shí)現(xiàn)社會(huì)組織與政府的共同依法治理,并由全面的監(jiān)督體系保障法律活動(dòng)的合法性,確保人工智能技術(shù)的健康發(fā)展。

    (一)堅(jiān)持預(yù)防性治理理念

    傳統(tǒng)社會(huì)危機(jī)的治理,通常由政府行使單向的權(quán)力作出行政行為,如采取事后管控措施,或由法院通過對(duì)私人主體遭受的侵權(quán)行為進(jìn)行裁判,救濟(jì)被損害的權(quán)利。但是“人工智能因?yàn)榧夹g(shù)發(fā)展過程存在的不可預(yù)測(cè)性與潛在的不可逆性存在著威脅人類存續(xù)可能性的風(fēng)險(xiǎn)。①吳漢東、張平、張曉津:《人工智能對(duì)知識(shí)產(chǎn)權(quán)法律保護(hù)的挑戰(zhàn)》,《中國(guó)法律評(píng)論》2018年第2期。因此需要樹立預(yù)防性的風(fēng)險(xiǎn)防范理念,法治工作要圍繞政府參與、行業(yè)自律、公眾監(jiān)督三方面確保技術(shù)安全。法律體系的建設(shè)要圍繞人類利益優(yōu)先的價(jià)值理念,完善社會(huì)安全與科學(xué)理性并重的智能創(chuàng)新觀念。

    (二)構(gòu)建應(yīng)對(duì)機(jī)器自主發(fā)明的法律運(yùn)行體系

    其一,在法律制定層面,通過設(shè)立專門的人工智能發(fā)展規(guī)劃法,在確保人工智能健康安全發(fā)展的前提下,研究機(jī)器自主發(fā)明的風(fēng)險(xiǎn)規(guī)制問題。在制定該項(xiàng)法律的過程中,須發(fā)揮各部門法的協(xié)調(diào)配合,使制度資源在保障發(fā)明物積極流轉(zhuǎn)的同時(shí),對(duì)發(fā)明過程產(chǎn)生的專利法保護(hù)問題、侵權(quán)訴訟問題、市場(chǎng)競(jìng)爭(zhēng)問題和人類倫理問題統(tǒng)籌考慮,以完備的法律監(jiān)管保障人類福祉。此外,要實(shí)現(xiàn)法律法規(guī)與行業(yè)規(guī)范的有機(jī)銜接,由制定流程簡(jiǎn)便的行業(yè)規(guī)范對(duì)風(fēng)險(xiǎn)快速作出反應(yīng),再由法律法規(guī)從宏觀視角對(duì)成形的技術(shù)風(fēng)險(xiǎn)排除機(jī)制進(jìn)行歸納,運(yùn)用國(guó)家強(qiáng)制力保障落實(shí),以應(yīng)對(duì)不同層面的社會(huì)風(fēng)險(xiǎn)。

    其二,在法律適用層面,如前文所述,由于運(yùn)用智能發(fā)明機(jī)器的社會(huì)主體相較人類發(fā)明者具有快速調(diào)取跨領(lǐng)域數(shù)據(jù)的能力,可能產(chǎn)生侵害第三人利益的風(fēng)險(xiǎn)。同時(shí),產(chǎn)業(yè)主體對(duì)算法的運(yùn)算過程往往采用商業(yè)秘密保護(hù),也使得私人主體在面對(duì)具備黑箱效應(yīng)的機(jī)器發(fā)明侵犯權(quán)益時(shí),遭遇了缺乏技術(shù)手段與訴訟力量不足的困境,很難保障自身權(quán)益。針對(duì)此問題,應(yīng)當(dāng)發(fā)揮社會(huì)組織的作用,由人工智能的社會(huì)組織對(duì)機(jī)器發(fā)明過程中侵犯不特定多數(shù)人權(quán)利的案件進(jìn)行合理評(píng)估,在符合條件時(shí),代替公眾提起公益訴訟,解決權(quán)利救濟(jì)不暢的難題。

    其三,在行政執(zhí)法層面,政府須在嚴(yán)格依法的同時(shí)防止權(quán)力的過度擴(kuò)張。建立寬嚴(yán)適當(dāng)?shù)氖孪阮A(yù)防型監(jiān)管體系,在保護(hù)人類權(quán)益的前提下,避免影響機(jī)器創(chuàng)造能力的發(fā)展。服務(wù)型政府的構(gòu)建須積極轉(zhuǎn)變身份,由單方的監(jiān)管者轉(zhuǎn)向智能技術(shù)的共治者,在充分了解技術(shù)的可解釋性后,排除技術(shù)可能帶來的安全隱患,完善政策支持。政府應(yīng)主動(dòng)聯(lián)合社會(huì)第三方力量,發(fā)揮智能管理優(yōu)勢(shì),運(yùn)用智能算法擘畫機(jī)器發(fā)明領(lǐng)域的技術(shù)景觀,對(duì)智能機(jī)器發(fā)明實(shí)時(shí)監(jiān)管,并不斷優(yōu)化專利結(jié)構(gòu),抵抗外界風(fēng)險(xiǎn)。對(duì)可能涉及公共利益的高技術(shù)發(fā)明授權(quán),筆者建議制定技術(shù)影響評(píng)價(jià)表格,確保公眾對(duì)技術(shù)政策的民主參與權(quán)。

    其四,在法律監(jiān)督層面,筆者建議,一方面,應(yīng)當(dāng)注重發(fā)揮人工智能組織的源頭監(jiān)督力量,通過制定先導(dǎo)性的產(chǎn)業(yè)倫理章程和有效的自律規(guī)范,應(yīng)對(duì)高新技術(shù)對(duì)社會(huì)結(jié)構(gòu)帶來的影響,保障權(quán)利人和社會(huì)公眾的利益。另一方面,由獨(dú)立的監(jiān)管機(jī)構(gòu)監(jiān)督上述人工智能發(fā)展規(guī)劃法的實(shí)施,其職權(quán)包括但不限于,在法律實(shí)施過程中向制定機(jī)關(guān)提出風(fēng)險(xiǎn)防控意見,有權(quán)進(jìn)行關(guān)于社會(huì)組織的自律章程的備案監(jiān)督工作,以及對(duì)個(gè)人或社會(huì)組織的投訴進(jìn)行技術(shù)調(diào)查。此外,本機(jī)構(gòu)還應(yīng)與其他監(jiān)管機(jī)構(gòu)相配合,共同實(shí)現(xiàn)立法、司法、執(zhí)法層面的有力監(jiān)管,確保社會(huì)安全與科學(xué)理性并重的法治理念在法律運(yùn)行的過程中得到彰顯。

    四、結(jié)語(yǔ)

    人工智能具備獨(dú)立的思維模式,當(dāng)它被運(yùn)用到技術(shù)創(chuàng)新領(lǐng)域時(shí),會(huì)產(chǎn)生現(xiàn)行法律難以應(yīng)對(duì)的諸多社會(huì)風(fēng)險(xiǎn)。尤其是,傳統(tǒng)專利法律制度調(diào)整的人與人的社會(huì)關(guān)系在面對(duì)機(jī)器自主發(fā)明時(shí)出現(xiàn)了應(yīng)對(duì)困境。為此,應(yīng)當(dāng)確立人工智能自主發(fā)明專利保護(hù)模式的正當(dāng)性,建立明確的侵權(quán)責(zé)任判定依據(jù),完善競(jìng)爭(zhēng)法應(yīng)對(duì),加強(qiáng)技術(shù)倫理道德要求。同時(shí),在立法、司法、執(zhí)法與法律監(jiān)督四個(gè)主要方面,須建立保障人類福祉、發(fā)揮社會(huì)力量、轉(zhuǎn)變政府角色、共同協(xié)調(diào)監(jiān)督的人工智能自主發(fā)明法治治理體系,以吸收、化解人工智能自主發(fā)明所帶來的風(fēng)險(xiǎn),有效應(yīng)對(duì)新一輪智能革命所帶來的潛在的社會(huì)危機(jī)。

    猜你喜歡
    專利法機(jī)器專利
    美國(guó)新專利法下的“現(xiàn)有技術(shù)”(上)
    專利
    機(jī)器狗
    機(jī)器狗
    Fintech可專利性初探——兼議《專利法》第2條修改
    法大研究生(2019年2期)2019-11-16 00:40:08
    發(fā)明與專利
    傳感器世界(2019年4期)2019-06-26 09:58:44
    未來機(jī)器城
    電影(2018年8期)2018-09-21 08:00:06
    專利侵權(quán)行政執(zhí)法的邊界——兼論《專利法》第四次修改
    專利法第四次修訂中的兩個(gè)重要問題
    無(wú)敵機(jī)器蛛
    人人妻人人看人人澡| 成人特级av手机在线观看| 国产av在哪里看| 国产精品综合久久久久久久免费| 少妇高潮的动态图| 亚洲国产日韩欧美精品在线观看 | 日本 欧美在线| 哪里可以看免费的av片| 他把我摸到了高潮在线观看| 丁香欧美五月| 午夜福利在线在线| 老汉色∧v一级毛片| 午夜两性在线视频| 亚洲一区二区三区色噜噜| 成人特级黄色片久久久久久久| 国产精品一区二区三区四区免费观看 | 久久精品国产自在天天线| 18禁黄网站禁片免费观看直播| 男女下面进入的视频免费午夜| 国内揄拍国产精品人妻在线| 一区二区三区高清视频在线| 精品不卡国产一区二区三区| 亚洲国产高清在线一区二区三| 黄色日韩在线| 在线观看舔阴道视频| 国产午夜精品论理片| 成人高潮视频无遮挡免费网站| 色综合婷婷激情| 免费看十八禁软件| 99在线人妻在线中文字幕| 国产高清视频在线观看网站| 精华霜和精华液先用哪个| 久久婷婷人人爽人人干人人爱| 国产精品免费一区二区三区在线| 国产精品一及| 亚洲,欧美精品.| 色吧在线观看| 丰满人妻一区二区三区视频av | 欧美在线一区亚洲| 久久天躁狠狠躁夜夜2o2o| 国产成人影院久久av| 中国美女看黄片| 午夜精品在线福利| 非洲黑人性xxxx精品又粗又长| 国产69精品久久久久777片| 亚洲精品456在线播放app | 99热只有精品国产| 午夜免费观看网址| 亚洲熟妇熟女久久| 欧美性猛交黑人性爽| 精品久久久久久久毛片微露脸| 女生性感内裤真人,穿戴方法视频| 我要搜黄色片| 精品免费久久久久久久清纯| 亚洲精华国产精华精| 免费看十八禁软件| 国产精品嫩草影院av在线观看 | 在线观看舔阴道视频| 伊人久久精品亚洲午夜| 免费av不卡在线播放| 全区人妻精品视频| 91久久精品电影网| 亚洲人成网站在线播放欧美日韩| 欧美日韩黄片免| 我的老师免费观看完整版| 日本黄大片高清| 人人妻,人人澡人人爽秒播| 美女大奶头视频| 国产真实伦视频高清在线观看 | 久久精品国产99精品国产亚洲性色| 最近在线观看免费完整版| 麻豆成人午夜福利视频| 两人在一起打扑克的视频| 欧美色欧美亚洲另类二区| 国产v大片淫在线免费观看| 国产色爽女视频免费观看| 中文字幕av在线有码专区| 国产精品亚洲美女久久久| 三级男女做爰猛烈吃奶摸视频| 午夜两性在线视频| 国产av在哪里看| 啦啦啦免费观看视频1| 草草在线视频免费看| 99热只有精品国产| 国产高清视频在线观看网站| 欧美一区二区国产精品久久精品| 18禁在线播放成人免费| 亚洲国产精品成人综合色| 午夜福利在线观看吧| 欧美色欧美亚洲另类二区| 法律面前人人平等表现在哪些方面| 国内精品久久久久精免费| 少妇熟女aⅴ在线视频| 欧美区成人在线视频| 午夜福利高清视频| 在线观看av片永久免费下载| 国产精品久久久久久亚洲av鲁大| 美女免费视频网站| 日韩欧美三级三区| 99在线人妻在线中文字幕| 久久久久久国产a免费观看| av视频在线观看入口| 国产美女午夜福利| 人妻久久中文字幕网| 亚洲在线自拍视频| 国产精品99久久久久久久久| 国产黄片美女视频| 免费在线观看影片大全网站| 无遮挡黄片免费观看| 深夜精品福利| 男女之事视频高清在线观看| 久久久色成人| 亚洲第一欧美日韩一区二区三区| 国产精品永久免费网站| 亚洲国产欧美网| 女同久久另类99精品国产91| 两个人的视频大全免费| 精华霜和精华液先用哪个| 99在线人妻在线中文字幕| 亚洲aⅴ乱码一区二区在线播放| 操出白浆在线播放| 国内久久婷婷六月综合欲色啪| 啦啦啦韩国在线观看视频| 欧美日韩瑟瑟在线播放| 又粗又爽又猛毛片免费看| 神马国产精品三级电影在线观看| 亚洲片人在线观看| 亚洲av电影在线进入| 亚洲五月婷婷丁香| 欧美中文日本在线观看视频| 亚洲欧美日韩高清在线视频| 日本熟妇午夜| 99久久久亚洲精品蜜臀av| 午夜福利欧美成人| 99在线人妻在线中文字幕| 久久久久久久精品吃奶| 桃红色精品国产亚洲av| 无人区码免费观看不卡| 91麻豆av在线| 日日摸夜夜添夜夜添小说| 国产精品99久久99久久久不卡| 日本免费一区二区三区高清不卡| 精品人妻1区二区| 九九久久精品国产亚洲av麻豆| 欧美性猛交黑人性爽| 天天躁日日操中文字幕| 午夜精品久久久久久毛片777| 欧美成人免费av一区二区三区| 夜夜躁狠狠躁天天躁| 成人永久免费在线观看视频| 午夜两性在线视频| 国产午夜精品久久久久久一区二区三区 | 观看免费一级毛片| 久久精品国产亚洲av涩爱 | 国产av一区在线观看免费| 99久久99久久久精品蜜桃| 身体一侧抽搐| 亚洲激情在线av| 欧美激情在线99| 男人和女人高潮做爰伦理| 欧美极品一区二区三区四区| 久久久精品大字幕| 亚洲欧美日韩东京热| 久久精品人妻少妇| 亚洲18禁久久av| 天天躁日日操中文字幕| 热99re8久久精品国产| 淫妇啪啪啪对白视频| 在线观看舔阴道视频| 亚洲一区二区三区色噜噜| 草草在线视频免费看| 成人午夜高清在线视频| 免费看日本二区| 两个人看的免费小视频| 激情在线观看视频在线高清| 日本与韩国留学比较| 国产伦精品一区二区三区视频9 | 99riav亚洲国产免费| 一级黄片播放器| 久久人妻av系列| 免费av不卡在线播放| 97人妻精品一区二区三区麻豆| 变态另类丝袜制服| 男人的好看免费观看在线视频| 日本在线视频免费播放| 国产精品99久久久久久久久| 91久久精品电影网| 亚洲av免费在线观看| 99国产精品一区二区蜜桃av| 可以在线观看的亚洲视频| 久久久久久久亚洲中文字幕 | 欧美乱码精品一区二区三区| 成人av一区二区三区在线看| 国产精品av视频在线免费观看| 欧美一区二区国产精品久久精品| 亚洲av熟女| 桃色一区二区三区在线观看| 国产激情偷乱视频一区二区| 久久久久久人人人人人| 亚洲国产欧洲综合997久久,| 俺也久久电影网| 午夜久久久久精精品| 国语自产精品视频在线第100页| 亚洲精品成人久久久久久| 黄色视频,在线免费观看| 国产97色在线日韩免费| 日韩欧美在线乱码| 国产爱豆传媒在线观看| 看片在线看免费视频| 亚洲精品一卡2卡三卡4卡5卡| 亚洲成人久久性| 国产黄a三级三级三级人| 久久久国产成人免费| 亚洲欧美日韩高清在线视频| 欧美日韩黄片免| 长腿黑丝高跟| 亚洲精品久久国产高清桃花| 欧美另类亚洲清纯唯美| 国产免费男女视频| 精品人妻1区二区| 成人特级av手机在线观看| 国产真实乱freesex| 亚洲中文日韩欧美视频| 亚洲专区中文字幕在线| 嫩草影院精品99| 又爽又黄无遮挡网站| 99国产精品一区二区三区| 久久婷婷人人爽人人干人人爱| 美女cb高潮喷水在线观看| 久久人妻av系列| 人妻夜夜爽99麻豆av| 国产精品一区二区三区四区久久| 欧美乱妇无乱码| 免费观看精品视频网站| 国内精品美女久久久久久| a级毛片a级免费在线| 一级黄片播放器| 欧美+日韩+精品| 少妇丰满av| 香蕉丝袜av| 精品午夜福利视频在线观看一区| 天天一区二区日本电影三级| 日本与韩国留学比较| 午夜亚洲福利在线播放| 国产单亲对白刺激| 757午夜福利合集在线观看| 国产真人三级小视频在线观看| 国产高清有码在线观看视频| 又爽又黄无遮挡网站| 久久精品亚洲精品国产色婷小说| 久久久久亚洲av毛片大全| 深爱激情五月婷婷| 欧美3d第一页| 搞女人的毛片| 国产高清激情床上av| 午夜免费激情av| 波多野结衣巨乳人妻| 亚洲专区中文字幕在线| 国产精品自产拍在线观看55亚洲| 久久性视频一级片| 人妻丰满熟妇av一区二区三区| 精品国产超薄肉色丝袜足j| 深夜精品福利| 精品欧美国产一区二区三| 精品国内亚洲2022精品成人| 大型黄色视频在线免费观看| 成人特级av手机在线观看| 国产中年淑女户外野战色| 在线观看舔阴道视频| 午夜影院日韩av| 91在线精品国自产拍蜜月 | 亚洲人与动物交配视频| 国产精品电影一区二区三区| 老汉色∧v一级毛片| 男人舔奶头视频| 精品久久久久久久久久免费视频| www.www免费av| av欧美777| 人人妻人人澡欧美一区二区| 成人av在线播放网站| 国产成人影院久久av| 99久久成人亚洲精品观看| 欧美乱色亚洲激情| 国产黄片美女视频| 精品久久久久久久毛片微露脸| 久久国产乱子伦精品免费另类| 精品免费久久久久久久清纯| 免费高清视频大片| 村上凉子中文字幕在线| 九色成人免费人妻av| 亚洲精品亚洲一区二区| 午夜a级毛片| 国产高清视频在线观看网站| 亚洲狠狠婷婷综合久久图片| 精品熟女少妇八av免费久了| 欧美一级a爱片免费观看看| 三级男女做爰猛烈吃奶摸视频| 国产亚洲精品综合一区在线观看| 黑人欧美特级aaaaaa片| 熟妇人妻久久中文字幕3abv| 久久久久免费精品人妻一区二区| 精品人妻一区二区三区麻豆 | 免费看日本二区| 老汉色∧v一级毛片| 免费看美女性在线毛片视频| 久久久久久久亚洲中文字幕 | 在线观看av片永久免费下载| 成人国产一区最新在线观看| 最后的刺客免费高清国语| 午夜福利免费观看在线| 日本精品一区二区三区蜜桃| aaaaa片日本免费| 欧美日韩精品网址| 18禁美女被吸乳视频| 小蜜桃在线观看免费完整版高清| 国产国拍精品亚洲av在线观看 | 波野结衣二区三区在线 | 亚洲欧美日韩高清在线视频| 免费av毛片视频| 老司机午夜福利在线观看视频| 日韩免费av在线播放| 午夜老司机福利剧场| 岛国在线观看网站| 国产伦人伦偷精品视频| 一区二区三区国产精品乱码| 精品乱码久久久久久99久播| 99久久成人亚洲精品观看| 最好的美女福利视频网| 亚洲人成伊人成综合网2020| 嫩草影视91久久| 毛片女人毛片| 夜夜看夜夜爽夜夜摸| 91久久精品国产一区二区成人 | 久久香蕉国产精品| 免费观看精品视频网站| 国产av不卡久久| 国产综合懂色| 香蕉av资源在线| 人妻久久中文字幕网| 亚洲美女黄片视频| xxxwww97欧美| 国产av在哪里看| 欧美日韩一级在线毛片| 国产精品综合久久久久久久免费| 麻豆成人午夜福利视频| 国产精品亚洲一级av第二区| 亚洲精品久久国产高清桃花| 女同久久另类99精品国产91| 久久久久国内视频| 九九在线视频观看精品| 99riav亚洲国产免费| 白带黄色成豆腐渣| 老鸭窝网址在线观看| 久久久久国产精品人妻aⅴ院| 俄罗斯特黄特色一大片| 特级一级黄色大片| 国产高清有码在线观看视频| 欧美乱码精品一区二区三区| 超碰av人人做人人爽久久 | 亚洲国产欧洲综合997久久,| 久久久久精品国产欧美久久久| 村上凉子中文字幕在线| www国产在线视频色| 亚洲久久久久久中文字幕| 国产激情偷乱视频一区二区| 国产精品久久电影中文字幕| 少妇裸体淫交视频免费看高清| 国产久久久一区二区三区| 少妇熟女aⅴ在线视频| avwww免费| 国产精品三级大全| 久久久精品欧美日韩精品| 老司机福利观看| 中国美女看黄片| 3wmmmm亚洲av在线观看| 日本a在线网址| 久久精品国产99精品国产亚洲性色| 内射极品少妇av片p| 国产午夜精品久久久久久一区二区三区 | 香蕉av资源在线| 欧美成人a在线观看| 午夜日韩欧美国产| 亚洲性夜色夜夜综合| 色综合婷婷激情| 国产三级黄色录像| 亚洲av中文字字幕乱码综合| 丰满乱子伦码专区| 欧美高清成人免费视频www| 亚洲精品美女久久久久99蜜臀| 国产亚洲精品久久久com| 亚洲欧美激情综合另类| 欧美性感艳星| 校园春色视频在线观看| 国语自产精品视频在线第100页| 深夜精品福利| 一本一本综合久久| 国产成人啪精品午夜网站| 亚洲国产精品合色在线| 国产一区在线观看成人免费| 欧美zozozo另类| 日本黄色片子视频| 欧美丝袜亚洲另类 | 最后的刺客免费高清国语| av女优亚洲男人天堂| 脱女人内裤的视频| 久久精品国产综合久久久| 久久久成人免费电影| 麻豆成人午夜福利视频| av专区在线播放| 人人妻人人澡欧美一区二区| 18禁美女被吸乳视频| 蜜桃久久精品国产亚洲av| 欧美+日韩+精品| 热99在线观看视频| 免费搜索国产男女视频| 欧美精品啪啪一区二区三区| 成人午夜高清在线视频| 国产精品98久久久久久宅男小说| 日韩欧美精品免费久久 | 免费电影在线观看免费观看| 天堂网av新在线| 长腿黑丝高跟| 色综合婷婷激情| 一二三四社区在线视频社区8| 国产美女午夜福利| 国产单亲对白刺激| 性色avwww在线观看| 在线播放国产精品三级| 757午夜福利合集在线观看| 欧美+亚洲+日韩+国产| 国产一区二区激情短视频| 尤物成人国产欧美一区二区三区| www.999成人在线观看| 免费人成在线观看视频色| 露出奶头的视频| 欧美日本视频| 两个人视频免费观看高清| 国产精品一区二区三区四区免费观看 | 在线观看午夜福利视频| 久99久视频精品免费| h日本视频在线播放| 色老头精品视频在线观看| 久久久久久久精品吃奶| 成人特级黄色片久久久久久久| 嫁个100分男人电影在线观看| av福利片在线观看| 国产亚洲av嫩草精品影院| 一区二区三区高清视频在线| 99久久精品国产亚洲精品| 国产野战对白在线观看| 亚洲不卡免费看| 97超视频在线观看视频| 午夜视频国产福利| 18禁美女被吸乳视频| 精品福利观看| 欧美乱妇无乱码| 欧美+亚洲+日韩+国产| 久久精品国产99精品国产亚洲性色| 国产精品av视频在线免费观看| 观看免费一级毛片| 90打野战视频偷拍视频| 国产精品亚洲美女久久久| 国产精品女同一区二区软件 | 亚洲国产欧美人成| 欧洲精品卡2卡3卡4卡5卡区| 村上凉子中文字幕在线| 亚洲久久久久久中文字幕| 久久久久久久久久黄片| 久久精品国产综合久久久| 久久久久久久精品吃奶| 色哟哟哟哟哟哟| 午夜激情福利司机影院| 一区福利在线观看| 看免费av毛片| 18禁在线播放成人免费| 亚洲av二区三区四区| 久久性视频一级片| 97碰自拍视频| 少妇人妻精品综合一区二区 | 18禁黄网站禁片午夜丰满| 欧美区成人在线视频| 久久亚洲真实| 国产熟女xx| 嫩草影院精品99| 国产精品国产高清国产av| 18美女黄网站色大片免费观看| 麻豆久久精品国产亚洲av| 国产69精品久久久久777片| 热99在线观看视频| av专区在线播放| 男女之事视频高清在线观看| 国产老妇女一区| 真人一进一出gif抽搐免费| 日韩人妻高清精品专区| 熟女人妻精品中文字幕| 97碰自拍视频| 女警被强在线播放| 97碰自拍视频| 午夜精品久久久久久毛片777| 国产精品久久久久久久电影 | 成年女人看的毛片在线观看| x7x7x7水蜜桃| 色综合亚洲欧美另类图片| 欧美一级a爱片免费观看看| 偷拍熟女少妇极品色| 国语自产精品视频在线第100页| 久9热在线精品视频| 婷婷精品国产亚洲av在线| 中出人妻视频一区二区| 国产精品久久久人人做人人爽| 日本在线视频免费播放| 亚洲片人在线观看| 欧美中文综合在线视频| 麻豆一二三区av精品| 免费av毛片视频| 美女cb高潮喷水在线观看| 日本黄大片高清| 在线观看日韩欧美| 每晚都被弄得嗷嗷叫到高潮| 操出白浆在线播放| 在线观看av片永久免费下载| 免费在线观看成人毛片| 亚洲乱码一区二区免费版| 欧美黄色淫秽网站| 午夜福利欧美成人| 精品久久久久久久久久久久久| 精品国产美女av久久久久小说| 老司机午夜福利在线观看视频| 免费看a级黄色片| 亚洲欧美激情综合另类| 日韩成人在线观看一区二区三区| 女人被狂操c到高潮| 波多野结衣高清无吗| 日本黄色片子视频| 国产成人系列免费观看| 国产精品久久电影中文字幕| 国产欧美日韩一区二区三| 天堂影院成人在线观看| 亚洲18禁久久av| 真人做人爱边吃奶动态| 欧美日韩中文字幕国产精品一区二区三区| 99久久99久久久精品蜜桃| 国产精品爽爽va在线观看网站| 欧美一级a爱片免费观看看| 亚洲精品粉嫩美女一区| 少妇的逼水好多| 国产一区二区三区在线臀色熟女| 国产熟女xx| 欧美zozozo另类| 老司机在亚洲福利影院| 天天躁日日操中文字幕| 亚洲色图av天堂| 男插女下体视频免费在线播放| 午夜影院日韩av| 99热这里只有是精品50| 免费观看人在逋| 日本黄大片高清| 成熟少妇高潮喷水视频| 欧美一区二区国产精品久久精品| 婷婷精品国产亚洲av| 亚洲人与动物交配视频| 婷婷六月久久综合丁香| 看黄色毛片网站| 嫩草影院入口| 97碰自拍视频| 国产aⅴ精品一区二区三区波| 一区二区三区免费毛片| 男女午夜视频在线观看| 国内精品久久久久精免费| 狠狠狠狠99中文字幕| 1000部很黄的大片| 欧洲精品卡2卡3卡4卡5卡区| 一个人免费在线观看的高清视频| 一级黄色大片毛片| 免费在线观看成人毛片| 国产成年人精品一区二区| 91九色精品人成在线观看| 欧美乱妇无乱码| 一a级毛片在线观看| 午夜免费男女啪啪视频观看 | 免费看光身美女| 久久性视频一级片| 日韩 欧美 亚洲 中文字幕| 99久久精品一区二区三区| 亚洲精华国产精华精| 国产精品久久久久久亚洲av鲁大| 国产色爽女视频免费观看| 欧美成人性av电影在线观看| 久久久久久人人人人人| 日韩欧美在线二视频| 欧美性猛交╳xxx乱大交人| 国产极品精品免费视频能看的| 欧美极品一区二区三区四区| 露出奶头的视频| 精品国产亚洲在线| 欧美另类亚洲清纯唯美| 久久久久久大精品| 欧美日韩综合久久久久久 | 一夜夜www| ponron亚洲| 在线看三级毛片| 国产蜜桃级精品一区二区三区| 国产高清三级在线| 国产精品av视频在线免费观看| 99国产综合亚洲精品| 亚洲午夜理论影院| 欧美成人性av电影在线观看| 麻豆成人av在线观看| 熟女人妻精品中文字幕| 精品人妻1区二区| 欧美国产日韩亚洲一区| 婷婷亚洲欧美| 精品一区二区三区视频在线 | 在线观看午夜福利视频| 国产精品影院久久|