• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能生成發(fā)明專利保護制度研究

    2023-05-30 04:46:31馮曉青郝明英
    湖南大學學報(社會科學版) 2023年2期
    關鍵詞:公共領域人工智能算法

    馮曉青 郝明英

    [摘要] 隨著人工智能技術不斷發(fā)展,人工智能作為“創(chuàng)新主體”生成發(fā)明對現(xiàn)行專利制度提出了巨大挑戰(zhàn),如人工智能生成發(fā)明是否屬于可專利主題、發(fā)明人主體資格與人工智能生成發(fā)明權利歸屬如何確定、人工智能生成發(fā)明專利權保護對公共利益是否可能產生損害等。在客體制度中,人工智能生成發(fā)明屬于可專利主題,能夠滿足新穎性、創(chuàng)造性、實用性要求,其中在創(chuàng)造性判斷中有必要根據人工智能特點適當調整“本領域普通技術人員”的判斷標準。在主體制度中,發(fā)明人需為“自然人”,在激勵理論下探討人工智能生成發(fā)明的權利歸屬,需要綜合衡量各主體的作用、貢獻度以及激勵程度來進行確認。在限制制度中,有必要考慮人工智能生成發(fā)明專利權保護期的設定、充分公開義務的加強以及防止權利濫用措施。

    [關鍵詞] 人工智能;發(fā)明專利;可專利性;權利歸屬;算法;公共領域

    [中圖分類號] ?D923.4[文獻標識碼] A[文章編號] 1008-1763(2023)02-0143-10

    Research on the Patent Protection System

    for Inventions Generated by AI

    FENG Xiao-qing,HAO ?Ming-ying

    (Civil, Commercial and Economic Law School, CUPL, Beijing100088,China)

    Abstract:Artificial intelligence(AI)-generated inventions pose great challenges to the patent legal system, such as whether AI-generated inventions belong to the patentable subject, how to determine the inventorship and ?ownership of the right of AI-generated inventions, and whether the damage to the public interest may be caused by the patent protection of AI-generated inventions. In the patent object system, the invention generated by AI is the patentable subject, which can meet the requirements of novelty, creativity and practicability. In the judgment of creativity, it is necessary to adjust the standard of “ordinary technician in this field” appropriately according to the characteristics of AI. In the patent subject system, the inventor should be “human beings”. Under the incentive theory, the attribution of rights genenated by Al inventions requires a comprehensive assessment of the role and contribution of each subject and the degrere of incentive required. In the patent restriction system, it is necessary to consider the setting of patent right protection period, the strengthening of full disclosure obligation and the measures to prevent the abuse of rights.

    Key words: artificial intelligence; invention patent; patentability; attribution of rights; algorithm;public domain

    一問題的提出

    作為引領新一輪科技革命和產業(yè)變革的前瞻性技術,人工智能成為我國科技發(fā)展的戰(zhàn)略性部署。人工智能技術發(fā)展對知識產權法律制度提出了挑戰(zhàn),知識產權保護與制度完善對于發(fā)展人工智能技術也至關重要。我國《專利法》中對于“智力活動規(guī)則和方法”、社會倫理道德的理解決定人工智能發(fā)明能否被納入專利客體范疇,發(fā)明人資格的探討亦會影響人工智能生成發(fā)明的專利保護。

    根據人工智能技術發(fā)揮作用的方式不同,人工智能相關創(chuàng)新成果涉及的專利問題可分為兩類,一類是人工智能技術的發(fā)明涉及的專利問題,另一類是人工智能生成的發(fā)明的專利保護問題。前者學界有多種表述方式,如“智能算法專利”“軟件專利”“計算機程序專利”等 ,本文稱之為“人工智能算法發(fā)明”,結合《專利審查指南》中有關涉及計算機程序發(fā)明的界定,人工智能算法發(fā)明指為解決發(fā)明提出的問題,全部或部分以人工智能算法為基礎,由此編制計算機程序,對計算機外部對象或者內部對象進行控制或處理的解決方案;[1]后者為人工智能生成發(fā)明,指的是以人工智能為技術手段,借助自身算法,通過對數(shù)據進行學習而生成的技術方案。本文研究對象為人工智能生成發(fā)明涉及的專利問題。

    隨著人工智能技術的不斷發(fā)展,人工智能將作為“創(chuàng)新主體”進行發(fā)明創(chuàng)造,其生成發(fā)明如何定性、是否可以獲得專利法的保護、人工智能是否可以作為權利主體,這些問題在目前專利法框架下難以直接回答。實踐中也已經產生諸多關于人工智能發(fā)明專利保護的法律問題,如DABUS(統(tǒng)一感知的自動引導設備,Device for the Autonomous Bootstrapping of Unified Sentience)案涉及發(fā)明人資格的討論。基于此,有必要對人工智能生成發(fā)明涉及的專利問題進行探討,并圍繞專利法價值目標與理論基礎,探索構建人工智能發(fā)明專利保護制度,包括客體制度、主體制度與限制制度等。

    二客體制度:人工智能生成發(fā)明

    “可專利性”的判斷

    近年來申請人Stephen Thaler(下稱Thaler)就人工智能DABUS生成發(fā)明向美國、歐盟、英國、以色列、南非、澳大利亞等國家和地區(qū)提出專利申請,美、歐、英等專利局均以“發(fā)明人需要為自然人”為理由駁回其專利申請,專利申請并未進入實質審查階段,也就無法涉及人工智能生成發(fā)明是否可獲得專利保護的實踐討論。有關人工智能生成發(fā)明的可專利性目前并無定論。探討這一問題,首先需要明確人工智能生成發(fā)明是否屬于可專利的客體范疇,能否滿足新穎性、創(chuàng)造性、實用性(以下簡稱“三性”)要求。

    (一)人工智能發(fā)明屬于可專利主題

    根據我國《專利法》的規(guī)定,某一技術方案要獲得專利法的保護,需要屬于可專利主題,符合《專利法》第二條的定義,同時又不屬于第五條、第二十五條規(guī)定的排除領域。人工智能生成發(fā)明需要借助程序算法對數(shù)據進行學習后生成技術方案,如DABUS在學習相關文獻基礎上自動生成的兩個技術方案,一種基于分形食物容器和一種以新穎且富有創(chuàng)意的方式閃爍以吸引注意力的警示燈(見圖1和圖2)。分析人工智能生成發(fā)明是否屬于可專利主題,關鍵在于明確其是否屬于技術方案,是否屬于《專利法》第五條第一款規(guī)定的“違反法律、社會公德或者妨害公共利益”的情形,并且不屬于其第二十五條第一款第二項規(guī)定的“智力活動的規(guī)則和方法”。

    人工智能本質是一種計算機程序,在算法的指揮下通過數(shù)據學習模仿人類思維,從而解決問題或者制定決策。數(shù)據是人工智能的學習素材,算法是人工智能的智慧源泉和“指導手冊”,為計算機提供行動指令。如上所述,人工智能涉及的專利問題,包括人工智能算法發(fā)明與人工智能生成發(fā)明的專利問題,人工智能算法發(fā)明必然涉及程序算法,而人工智能生成發(fā)明可以包含程序算法,也可能不包含程序算法。若為后者,則一般不涉及智力活動規(guī)則和方法的討論;若包含,則需要進一步探討其是否屬于智力活動規(guī)則和方法而排除在專利法保護范圍之外。以下將進一步討論。

    1.人工智能生成發(fā)明并不必然屬于智力活動的規(guī)則和方法

    根據《專利法》第二十五條第一款第二項規(guī)定,智力活動的規(guī)則和方法不能被授予專利權。程序算法是否屬于智力活動規(guī)則和方法,能否獲得專利法保護一直存在較大爭議。從計算機程序的知識產權保護歷程來看,最初歐美等國家和地區(qū)反對以專利法來保護計算機程序。例如,Gottschalk v. Benson案明確指出數(shù)學算法不具有可專利性。不過,該判決也進一步明確,程序的專利法保護具有不確定性,其與政策密切相關。

    Gottschalk, commissioner of patents v. Benson et al.,409 U.S. 63 (1972).與此同時,各國以及國際公約開始以著作權法保護計算機程序,如1976年的美國《版權法》、1994年的《與貿易有關的知識產權協(xié)定》等。由于著作權法并不能保護計算機程序的核心算法,只能保護表達,對于計算機產業(yè)走在世界前列的美國而言,保護力度明顯不足,故其率先探索程序的專利法保護。在經過“In re Freeman”In re Freeman,573 F.2d 1237 (1978).“Diamand v. Diehr”Diamand v. Diehr, 450 U.S. 175 (1981).“In re Alappat”In re Alappat,33 F.3d 1526 (1994).等一系列司法實踐之后,美國在1995年修改專利審查指南時確認,如果程序中的算法用于實踐,能夠產生“有用、具體、有形的后果”,該程序就可以獲得專利法保護。[2]我國《專利審查指南》一直強調計算機程序需要與硬件結合方屬于可專利主題。2017年《專利審查指南》修訂,明確計算機程序本身并不等于涉及計算機程序的發(fā)明,后者是針對技術問題的解決方案。2019年《專利審查指南》修訂時,在第二部分第九章增加第6節(jié),明確“包含算法特征或商業(yè)規(guī)則和方法特征”的發(fā)明專利申請審查規(guī)定,逐步認可算法發(fā)明的專利保護。

    之所以各國對程序算法的專利保護持較為謹慎的態(tài)度,主要是因為程序算法與數(shù)學計算方法密切相關,容易理解為具有抽象意義的規(guī)則。智力活動的規(guī)則和方法不能被授予專利權這一規(guī)定的目的在于防止針對智力活動規(guī)則的壟斷,阻礙技術創(chuàng)新,因此程序算法在獲得專利保護過程中往往遇到障礙。實際上,程序算法并不必然是純粹的數(shù)學算法,其可以與具體的技術特征相聯(lián)系、解決技術問題。根據《專利審查指南》第二部分第一章4.2的規(guī)定,如果一項權利要求僅涉及智力活動的規(guī)則和方法,不構成技術方案,不能被授予專利權,如計算機的語言及計算規(guī)則、計算機程序本身。如果一項權利要求除智力活動的規(guī)則和方法外,還包括技術特征,則不能排除其獲得專利保護的可能性。此時,需要對程序算法進行分類,區(qū)分抽象算法與具體算法,也有學者稱為抽象思想與具體技術。[3]計算機程序中的抽象算法屬于思維層面,是表述、判斷、記憶的規(guī)則和方法,不屬于可專利主題;具體算法則將規(guī)則和方法與具體技術特征相結合,達到一定技術效果,可獲得專利保護。由此可見,抽象與具體的界分在進行智力活動規(guī)則和方法的判斷中至關重要,但這一界分的標準并非是清晰明確的。

    在界分抽象算法與具體算法技術,對智力活動規(guī)則和方法與具體技術特征進行關聯(lián)過程中,有學者指出,某一規(guī)則、方法具有技術功能或者與物質介質相聯(lián)系,符合專利的實質性要件,具有獲得專利授權的可能。[4]需要注意的是,僅提出以計算機為載體/介質來實現(xiàn)某一算法/方法,將算法與計算機這一物質介質相聯(lián)系,并不能說明其為具體算法,具體算法需要解決技術問題、產生技術效果。正如Alice案判決指出,該方法聲明其只需要通過計算機實現(xiàn),這一說明未能將抽象概念轉化為符合專利條件的發(fā)明。

    Alice Corp. v. CLS Bank International, 573 U.S. 208 (2014).若將程序算法與計算機相結合,通過計算機執(zhí)行的程序算法解決技術問題,則屬于具體算法,具有技術特征,構成技術方案,屬于可專利主題。如在“信號處理方法、數(shù)據處理方法及裝置”(CN200910150720)的專利申請中,其將程序算法應用到具體技術領域,可被授予專利權。根據《專利審查指南》的規(guī)定,將程序算法運用在工業(yè)控制、數(shù)據處理、計算機系統(tǒng)性能改進等領域,可構成技術方案,屬于專利法保護的客體。

    2.解決技術問題的人工智能生成發(fā)明屬于技術方案

    《專利法》第二條第二款規(guī)定,發(fā)明是對產品、方法或者其改進所提出的新的“技術方案”。探討人工智能生成發(fā)明的可專利性,在專利申請與審查階段,若要求保護的權利要求作為整體不屬于智力活動的規(guī)則和方法,則需要進一步分析其是否屬于技術方案。根據《專利審查指南》第二部分第一章對技術方案的定義,其是“對要解決的技術問題所采取的利用了自然規(guī)律的技術手段的集合”。

    探討人工智能生成發(fā)明是否屬于技術方案,要從整體上看發(fā)明中記載的全部特征,是否采用了利用自然規(guī)律的技術手段,并由此獲得技術效果。對于不包含程序算法的人工智能生成發(fā)明,其判斷方法與普通專利并不存在太大區(qū)別;對于包含程序算法的人工智能生成發(fā)明,結合《專利審查指南》對“包含算法特征或商業(yè)規(guī)則和方法特征的發(fā)明專利申請審查”的相關規(guī)定,需要分析其是否屬于可專利主題,判斷相關程序算法是否屬于具體算法、能夠解決具體的技術問題。

    3.人工智能生成發(fā)明與社會公德

    由于人工智能具有模仿人類思維的特點,對于其自動生成發(fā)明的過程可能存在有關倫理的討論,即《專利法》第五條所列出的是否屬于違反法律、社會公德或者妨害公共利益的發(fā)明創(chuàng)造。人工智能生成發(fā)明是否存在第五條所列情形的判斷與普通發(fā)明并不存在差別。當涉及算法時,需要特別考慮程序算法帶來的倫理與社會公德、公共利益問題。

    人工智能生成發(fā)明涉及的倫理問題主要包括兩個層面,一是人工智能生成發(fā)明對人和公共利益的影響與妨礙問題,如發(fā)明創(chuàng)造涉及對人身或者財產的損害,發(fā)明創(chuàng)造的實施對環(huán)境、資源、公眾健康的損害,這一問題在專利審查時會考慮,此時的發(fā)明不能被授予專利權。二是人工智能發(fā)明專利涉及算法,由算法“歧視”帶來的一系列不平等問題。[5]針對這一問題,在專利審查中通常難以判斷。但是,不能因為可能存在的社會公德風險直接否認涉及算法的人工智能生成發(fā)明的可專利性。當人工智能生成發(fā)明對社會公德、公共利益具有現(xiàn)實、緊迫威脅時,應避免其獲得專利法保護;當這種威脅僅具有潛在可能性時,不應對其加以限制,仍應結合具體技術問題、具體技術領域進行分析。

    (二)人工智能生成發(fā)明對“三性”的挑戰(zhàn)與標準判斷

    明確人工智能生成發(fā)明屬于可專利主題之后,需要進一步審查其是否能夠滿足“三性”的要求,這是判斷技術方案能否被授予專利權的前提。人工智能生成發(fā)明的過程包含大量的數(shù)據學習,其對數(shù)據的收集與分析能力較強,對人力檢索現(xiàn)有技術以判斷新穎性提出了挑戰(zhàn);同時,人工智能在跨學科、跨技術領域的技術分析與創(chuàng)新能力遠超某一領域普通技術人員的水平,對創(chuàng)造性標準的判斷亦提出了挑戰(zhàn)。

    第一,實用性標準判斷。專利審查中,需要進行實用性審查,即發(fā)明是否能夠在產業(yè)上制造或使用(再現(xiàn)性),并產生積極效果。再現(xiàn)性要求所屬技術領域人員能夠重復實施為解決技術問題采用的技術方案,且這種重復實施不得依賴隨機因素。就發(fā)明需產生積極效果而言,人工智能生成發(fā)明與普通發(fā)明專利審查不存在差異,實用性標準在人工智能生成發(fā)明審查中并不存在適用上的障礙。但基于算法運算與數(shù)據學習,人工智能有可能以較低成本生成大量發(fā)明,此時需要考慮這些發(fā)明的質量以及賦予專有權保護是否會影響“知識共享”?;趯θ斯ぶ悄苡锌赡苌珊A堪l(fā)明的擔憂,有學者建議可以在實用性標準審查時采用更為嚴格的標準,如在特定行業(yè)中的制造、特定產品上的使用。[6]筆者認為,基于目前人工智能技術發(fā)展水平以及應用現(xiàn)狀,對實用性標準的審查在人工智能生成發(fā)明與普通發(fā)明之間不應存在不同,或者目前尚不存在進行差異化審查的現(xiàn)實需求,若適用更為嚴格的標準,需要在對人工智能生成發(fā)明的數(shù)量、質量以及產業(yè)使用情況進行充分調研與論證基礎上,再進行相應調整。

    第二,新穎性標準判斷。新穎性要求發(fā)明不屬于現(xiàn)有技術,即在申請日以前不為國內外公眾所知。在發(fā)明的新穎性審查與判斷中,是否屬于現(xiàn)有技術,主要以審查員的檢索為限。人工智能以算法為基礎,具有超強的數(shù)據挖掘與分析能力,其生成發(fā)明的過程可以充分規(guī)避現(xiàn)有技術,從而符合新穎性要求。這種對現(xiàn)有技術的收集與分析能力,是人力所不能及的,在由審查員“人工”進行審查時,無疑會增加新穎性的判斷難度。此時,需要明確對“現(xiàn)有技術”檢索與分析的范圍。對新穎性的判斷難度是人類與人工智能在檢索能力上的差別造成的,并不意味著人工智能生成發(fā)明不能滿足新穎性的要求,只不過人工智能生成發(fā)明的特點對現(xiàn)有新穎性的審查與判斷帶來了困惑。為解決這一問題,將人工智能檢索引入專利新穎性審查作為輔助判斷工具,不僅能夠解決人工智能生成發(fā)明新穎性判斷的問題,同時亦能夠在審查自然人發(fā)明的新穎性之中發(fā)揮作用,彌補人力檢索的不足。

    第三,創(chuàng)造性標準判斷。創(chuàng)造性要求發(fā)明與現(xiàn)有技術相比,具有突出的實質性特點與顯著的進步。前者指對本領域普通技術人員而言,發(fā)明是非顯而易見的,即在現(xiàn)有技術基礎上不是僅通過邏輯分析、推理、有限實驗就可以得到的;后者指與現(xiàn)有技術相比能夠產生有益的技術效果。創(chuàng)造性判斷固然以“本領域普通技術人員”為視角,但在具體審查實踐中仍然由審查員來進行辨別。與新穎性標準判斷相同,人力的信息獲取與處理能力遠低于人工智能。由于“人”的學習能力以及專業(yè)領域的限制,現(xiàn)有關于創(chuàng)造性審查標準均指出是“本領域”或者“所屬技術領域”。對于人工智能而言,其進行跨學科、跨領域的學習與組合發(fā)明相對容易,這就打破了“人”的學科、知識局限性,本領域普通技術人員的理性人假設失去適用空間,[7]也對創(chuàng)造性標準的判斷帶來了挑戰(zhàn)。對此,可探索更高的判斷基準,不以“本領域普通技術人員”為限。

    綜上,人工智能生成發(fā)明對專利制度提出了一系列挑戰(zhàn),在審查人工智能生成發(fā)明的可專利性時,可以從智力活動規(guī)則與方法、技術方案、社會公德三個層面分析,而后再進行“三性”的評價。判斷人工智能生成發(fā)明是否屬于智力活動的規(guī)則與方法時,只要涉及程序算法的人工智能生成發(fā)明是具體算法,用以解決具體技術問題并產生相應的技術效果,則屬于技術方案,應納入可專利的客體范圍;在社會公德與公共利益層面的審查方面,應考慮人工智能生成發(fā)明的實施或使用是否具有現(xiàn)實而緊迫的威脅,若僅因為發(fā)明創(chuàng)造可能被濫用而妨害公共利益,則不能當然地拒絕授予專利權。對于人工智能生成發(fā)明“三性”的判斷,需特別關注人工智能對新穎性與創(chuàng)造性判斷提出的挑戰(zhàn)。在實踐中,可將人工智能檢索引入專利新穎性審查作為輔助判斷工具,對創(chuàng)造性標準的判斷也可以考慮不以“本領域普通技術人員”為限。此外,對人工智能生成發(fā)明可專利性的判斷,需要結合法律規(guī)定、產業(yè)實踐、倫理道德等進行綜合評價。

    三主體制度:人工智能生成發(fā)明的權利歸屬

    人工智能生成發(fā)明可專利性的判斷為專利申請中的實質審查內容,在此之前還需要進行形式審查,包括發(fā)明人主體資格,這也是目前人工智能生成發(fā)明申請專利保護首先面臨的障礙。依據我國現(xiàn)行《民法典》《專利法》等的規(guī)定,人工智能無法作為發(fā)明人。上文提及DABUS生成技術方案在世界各地進行的專利申請與訴訟結果也顯示,不同國家對于人工智能的發(fā)明人主體資格存在不同觀點。從知識產權法哲學理論角度分析,比較有影響力的學說,如“財產權勞動學說”“人格理論”“激勵理論”等,在解釋人工智能發(fā)明人主體資格時也面臨顛覆性的挑戰(zhàn)。隨著人工智能技術的應用,有必要從理論基礎、專利法價值目標、技術與產業(yè)發(fā)展等多個角度探討人工智能生成發(fā)明的權利歸屬,以建立能夠滿足保護權利、激勵創(chuàng)新、促進社會技術發(fā)展等三重目標的人工智能生成發(fā)明專利保護主體制度。

    (一)各國對于發(fā)明人主體資格存在的爭議

    有關人工智能發(fā)明人主體資格的探討,DABUS案提供了全新的實證分析與研究素材。正如Thaler的法律團隊表示,他們的目的是測試專利體系的邊界,并推動專利制度的改革。DABUS生成兩項發(fā)明后,Thaler于2018年開始向歐盟、美國、英國、以色列等國家和地區(qū)專利局提交了專利申請,其為專利申請人,DABUS為發(fā)明人。此后部分國家專利局和法院作出的對于DABUS能否作為發(fā)明人的決定與判決引發(fā)了激烈討論,核心法律問題主要有兩個:一是發(fā)明人是否必須為自然人;二是人工智能生成發(fā)明能否被授予專利權。針對這兩個問題,不同國家有不同的回應。主要有三種觀點,其中主流觀點是反對人工智能作為發(fā)明人,少數(shù)國家支持人工智能可作為發(fā)明人,還有國家內部亦存在爭議,有待司法裁判進一步明確。

    1.反對將人工智能作為發(fā)明人的國家和地區(qū):美國、歐盟、澳大利亞

    2022年8月5日,美國聯(lián)邦巡回上訴法院聯(lián)邦巡回庭就人工智能是否可以作為專利申請的“發(fā)明人”或者“共同發(fā)明人”作出判決,認為只有自然人才具備發(fā)明人的資格。此前,美國專利商標局駁回了Thaler的專利申請,理由是該專利申請沒有自然人作為發(fā)明人,而根據美國《專利法》第100條的規(guī)定,“發(fā)明人”應限于“自然人”(human beings),機器無法成為發(fā)明人。在向地方法院以及上訴法院提起訴訟中,Thaler指出,為了鼓勵創(chuàng)新和公開披露,人工智能生成發(fā)明應可以申請專利,否則相關發(fā)明進入公共領域,不利于產業(yè)發(fā)展。對此,法院認為,這種有關政策的論點是推測性的,缺乏專利法的依據,

    Thaler v. Vidal,Case No. 21-2347 (Fed. Cir. Aug. 5, 2022).而法院的判決應“從法定文本開始”。

    Mohamad v. Palestinian Auth., 566 U.S. 449, 454 (2012).

    歐洲專利局對DABUS案的論證思路與美國基本一致,認為發(fā)明人的適格性是申請專利的必要條件,在未滿足這一形式要求時無須開展實質審查。關于專利申請權問題,Thaler認為其作為DABUS的擁有者和控制者,可以從發(fā)明人DABUS處承繼專利申請權。對此,歐洲專利局認為,人工智能不具有法定人格權,不能被雇傭,不能向人類轉移權利。歐洲專利局上訴委員會亦認為,發(fā)明人必須為具有法律行為能力的自然人。

    ECLI:EP:BA:2021:J000820.20211221.

    澳大利亞專利局也以“發(fā)明人需為自然人”為由駁回Thaler的專利申請。Thaler起訴后,澳大利亞聯(lián)邦法院于2021年7月判決支持了Thaler的主張,理由是發(fā)明人定義并未排除非自然人;將人工智能認定為發(fā)明人,有助于鼓勵發(fā)明與促進技術創(chuàng)新;由于Thaler擁有并控制DABUS,其可以享有發(fā)明,成為專利申請人。

    Thaler v. Commissioner of Patents, FCA 879 (2021).該案判決后,澳大利亞專利局提起上訴。2022年4月,聯(lián)邦法院合議庭作出裁決,在一致決定中,法官同意“授予專利的權利源于人類的努力”,并得出結論,考慮到專利法的文本規(guī)定、體系結構、歷史發(fā)展以及立法的政策目標,將DABUS確定為發(fā)明人不符合reg 3.2C(2)(aa)的規(guī)定。

    Commissioner of Patents v. Thaler, FCAFC 62 (2022).

    2.支持將人工智能作為發(fā)明人的國家:南非

    Thaler在美國提起的訴訟中將南非專利授權情況作為訴訟理由之一,法院也明確指出,外國專利局不能解釋美國專利法。以DABUS為發(fā)明人、Thaler為申請人的PCT專利申請于2021年5月進入南非國家階段,并于當年7月獲得專利授權。但是,南非沒有實質性的專利審查系統(tǒng),只要專利申請符合形式要件,填寫專利申請請求書、說明發(fā)明名稱及申請人與代理人,滿足最低的形式要求,即可獲得授權。因此,南非通過形式審查認可了人工智能的發(fā)明人身份,但DABUS生成發(fā)明在南非獲得的專利權可以受到任何第三方的無效挑戰(zhàn),這一專利權的法律狀態(tài)并不穩(wěn)定。

    3.人工智能發(fā)明人資格存在爭議的國家:英國

    對人工智能發(fā)明人資格的認定,英國高等法院作出判決,“1977 年專利法的規(guī)定非常明確,發(fā)明人必須是個人,無論政策需求有多大,法院只能解釋法律,不能自行立法”。

    Thaler v. The Comptroller-General of Patents, Designs And Trade Marks, EWHC 2412(Pat) (2020).但法官在案件備忘錄中寫道,雖然目前的法律規(guī)定無法解決人工智能主體資格問題,但這并不意味著人工智能沒有能力生成發(fā)明,并指出其并不認為人工智能的所有者/控制者是“創(chuàng)新的實際發(fā)明者”的觀點是不恰當?shù)摹?/p>

    此案上訴后,英國上訴法院予以駁回,但三位法官并未完全達成共識。在核心問題上,三位法官一致認為,根據法律規(guī)定,發(fā)明人必須為自然人。此外,Arnold與Laing法官認為,根據英國《專利法》第13條第2款b項規(guī)定,該專利申請無法滿足形式要件。Arnold法官認為人工智能生成發(fā)明是人工智能的孳息,應類比無形財產,關于有形財產孳息的分配方式在此不適用,Thaler無法獲得該發(fā)明的專利申請權。Laing法官明確指出,專利權不能授予非自然人,任何人無權就人工智能生成發(fā)明申請專利。Birss法官則存在不同觀點,其認為Thaler申請專利是善意的,《專利法》第13條第2款b項是對形式審查的要求,未涉及實體審查,不能由此對人工智能主體資格下定論。僅根據形式要件在申請階段駁回申請并不能解決人工智能生成發(fā)明對專利制度帶來的挑戰(zhàn),需要政策與法律共同探討解決這一問題。

    Thaler v. Comptroller General of Patents Trade Marks And Designs, EWCA Civ 1374 (2021).目前該案已經上訴至英國最高法院。

    可見,各國基本認同專利發(fā)明人需要為“自然人”。之所以存在有關發(fā)明人主體資格的諸多爭議,是基于產業(yè)發(fā)展與政策等因素的考量。人工智能技術發(fā)展引發(fā)諸多倫理問題,人工智能主體資格僅是其中之一,需要結合理論基礎、產業(yè)政策與法律規(guī)定共同探討,以尋求合適的解決之道。

    (二)人工智能發(fā)明人主體資格的理論爭議與法律解釋

    1.人工智能生成發(fā)明主體資格引發(fā)的理論爭議

    洛克的財產權勞動學說、黑格爾的人格理論常被用以解釋為專利技術等智慧成果賦予財產權的正當性,創(chuàng)新激勵理論更是為專利制度存在的意義與價值提供理論基礎。人工智能時代,由于人工智能主體資格缺失,上述理論均無法為人工智能生成發(fā)明的專利保護提供圓滿的理論證成。

    根據財產權勞動學說,人們對于自己擁有所有權,勞動是人的身體進行的工作,人基于勞動可以享有所有權。[8]這里的勞動主要是指人的體力勞動,以財產權勞動學說論證賦予專利技術以財產權的正當性,則是將勞動延伸至人的“腦力勞動”,[9]即“勞動”概念容納“智慧勞動”。人工智能生成發(fā)明的過程并非“人”的勞動,無法以傳統(tǒng)意義上對“勞動”的理解來證成人工智能生成發(fā)明專利保護的合理性。有學者指出,可以將人工智能生成發(fā)明的“勞動”解釋為研發(fā)者“勞動”的延續(xù),[10]這種解釋的嘗試則僅是將人工智能作為工具,人工智能研發(fā)者的勞動成果是人工智能本身,或為計算機程序,或為專利技術,已經屬于知識產權保護客體。人工智能的“勞動”是數(shù)據輸入、自我學習與分析、通過算法進行運算并輸出相應成果的過程,[11]其勞動是復雜的數(shù)據計算,[12]與人的“智慧勞動”存在較大差異。

    根據黑格爾的人格理論,意志與自由不可分割,精神自由是人的最大的特征,自由意志主要是通過私人財產的所有權來表現(xiàn)的,[13]其從強調個人人格重要性的角度來解釋財產權。[14]以人格理論證成專利制度,專利權作為一種財產權,是對發(fā)明人自由創(chuàng)造意志的保護,是對發(fā)明人人格的尊重。在人工智能生成發(fā)明專利之中,人工智能本身并不具有自由意志,生成發(fā)明的過程也并非其創(chuàng)造意志的體現(xiàn),人工智能并不具備需要財產權予以保護的人格。人工智能“人格”的缺失也是其生成發(fā)明獲得專利保護的主要障礙。

    激勵理論是論證知識產權制度正當性最有力的理論基礎,其從激勵知識生產角度予以論證。人的創(chuàng)造力由積極性的奮斗與惰性兩個方面組成,人積極性的創(chuàng)造力容易被惰性抵消。[15]因此,人的創(chuàng)造力需要被激勵,知識產權通過賦權的方式來激勵人們的創(chuàng)新活動,由此激勵知識產品這一稀缺性產品的生產,從而推動社會生產力的提升以及技術的進步與發(fā)展。人工智能生成發(fā)明的過程并不需要激勵,如果不需要激勵也能產生成果,則權利無保護之必要。[16]

    由此可見,人工智能時代,知識產權的法哲學基礎均受到了極大挑戰(zhàn),主要問題在于人工智能并不具備作為“人”的主體資格,此時需要對上述理論進行延伸性解釋,探索人工智能生成發(fā)明專利保護的理論基礎及其合理性。

    2.從法律解釋角度分析人工智能發(fā)明人需為自然人

    從各國對于DABUS案的決定與判決中可以看出,除南非未經實質審查直接以DABUS為發(fā)明人授予專利權、澳大利亞聯(lián)邦法院支持將人工智能認定為發(fā)明人外,各國基本認同專利發(fā)明人需要為“自然人”。之所以南非、澳大利亞出現(xiàn)不同的判定,是因為其專利法律法規(guī)之中并未就發(fā)明人的內涵進行明確界定。南非《專利法實施細則》僅規(guī)定了專利申請的形式要件,沒有發(fā)明人相關規(guī)定。澳大利亞《專利法》也未對發(fā)明人進行明確定義,聯(lián)邦法院作出了有利于Thaler的判決,原因是《專利法》第15條第1款b項的規(guī)定缺少主語,Beach法官認為可以擴大解釋發(fā)明人包括非自然人。當然,該觀點在上訴后并未得到認同。

    我國目前尚未有關于人工智能生成發(fā)明專利保護的案例,從現(xiàn)行法律規(guī)定及相關規(guī)范性文件來看,《民法典》規(guī)定民事主體包括了自然人、法人和非法人組織,作為機器的人工智能并不包含在民事主體范疇之中?!秾@ā返谑鶙l明確規(guī)定,發(fā)明人享有署名權,有權在專利文件中表明發(fā)明人身份;《專利審查指南》則指出,發(fā)明人應當是個人。結合目前人工智能相關倫理、法律的實踐與討論,其無法享有身份權,故應將我國《專利法》中列明的發(fā)明人解釋為“自然人”。人工智能不僅能夠生成發(fā)明,也能夠“創(chuàng)作”作品,[17]類比分析《著作權法》中的相關規(guī)定,2018年北京市高級人民法院發(fā)布《侵害著作權案件審理指南》,明確規(guī)定“自然人”的創(chuàng)作是判斷構成作品的因素之一。同樣作為知識產權法律制度,發(fā)明人主體資格與作者的主體資格判斷類似,從現(xiàn)行法律的解釋角度分析,發(fā)明人應當為“自然人”。

    (三)激勵理論下人工智能生成發(fā)明的權利歸屬

    專利制度的目的之一在于鼓勵發(fā)明創(chuàng)造、激勵創(chuàng)新,通過對專利權人賦予一定時期的壟斷權以換取市場與經濟回報,從而激勵產生更多的發(fā)明創(chuàng)造,提高創(chuàng)新能力。人工智能生成發(fā)明的“創(chuàng)新”過程并不需要賦予壟斷性的財產權加以激勵,且不論我國現(xiàn)行法律要求發(fā)明人為“自然人”,僅依據創(chuàng)新激勵理論,將人工智能生成發(fā)明的專利權賦予人工智能這一主體就不符合專利法的立法宗旨。在DABUS案中,澳大利亞聯(lián)邦法院合議庭作出支持知識產權局的判決,除闡明裁判理由外,法官也在判決中提出一些問題供政策制定者參考,一是如果可以就人工智能生成發(fā)明進行授權,應將權利授予誰——人工智能所有者、開發(fā)者、計算機程序版權所有者、數(shù)據提供者或者其他人;二是若人工智能生成的發(fā)明,存在錯誤建議或者虛假陳述而撤回,這會持續(xù)發(fā)生怎樣的作用?

    Thaler v. Comptroller General of Patents Trade Marks And Designs, EWCA Civ 1374 (2021).基于這兩個問題,需要探討人工智能生成發(fā)明專利權的歸屬以及相應責任承擔。

    關于人工智能生成發(fā)明的專利保護,有學者指出,基于“先行者優(yōu)勢”,計算機軟件行業(yè)已經獲得了足夠多的激勵,不需要特殊保護,否則將損害市場秩序。[18]但多數(shù)學者認為應對人工智能生成發(fā)明提供專利保護。筆者認為,在人工智能等投入多、風險高的產業(yè)中,激勵理論可以發(fā)揮更大作用,通過有效的激勵,才能鼓勵更多主體參與到產業(yè)實踐中,促進創(chuàng)新與發(fā)展。且基于目前人工智能領域的國際競爭態(tài)勢與我國產業(yè)政策導向,加強人工智能領域的知識產權保護是必然趨勢。此外,從可專利性角度分析,人工智能生成發(fā)明可納入專利保護客體范圍,也能夠滿足專利“三性”的要求。在這種情況下,人工智能不具有發(fā)明人的主體資格,面臨的主要問題在于圍繞人工智能生成發(fā)明中涉及的相關主體分析確認專利權人,明確人工智能生成發(fā)明的權利歸屬。構建人工智能生成發(fā)明的主體制度,需要在現(xiàn)有以“自然人”為發(fā)明人的制度之外,探索“標注人工智能生成發(fā)明、權利歸屬于民事主體、法律責任由相關民事主體承擔”的制度。

    首先,需要明確人工智能生成發(fā)明的權利歸屬。人工智能生成發(fā)明的相關主體包括人工智能投資者、設計者、所有者、使用者、數(shù)據提供者等,各個主體在人工智能生成發(fā)明的過程中均有貢獻?;诩罾碚?,筆者認為,將人工智能生成發(fā)明相關權益賦予使用者,更有助于激勵創(chuàng)新與產業(yè)發(fā)展。人工智能投資者、設計者促進了人工智能軟件的開發(fā),但其成果為人工智能本身,其可以通過著作權法保護計算機程序,也可以通過專利法保護相關技術方案,從而使相關成果能夠通過現(xiàn)有法律制度獲得保護。關于數(shù)據提供者,在人工智能生成發(fā)明過程中,數(shù)據發(fā)揮著重要作用,但僅有數(shù)據無法促成人工智能生成發(fā)明。關于人工智能所有者與使用者,有學者認為,相較于所有者,使用者更加明確人工智能生成發(fā)明的運用場景,并有動力對其進行產業(yè)化運用。[19]筆者認可該觀點。人工智能使用者對于生成發(fā)明的貢獻固然僅在于“啟動”這一動作,卻實際促成了技術方案的生成。將權利歸屬于使用者,有助于人工智能的利用、生成更多技術方案,從而促進創(chuàng)新與發(fā)展。

    其次,探索通過特別標注的方式明確相關發(fā)明為人工智能生成。在人工智能生成“作品”的相關司法實踐中,法院認為,應當激勵使用者的使用和傳播行為,將相關權益賦予使用者,在相關成果之上,使用者可采取合適方式表明其享有相關權益。

    北京知識產權法院(2019)京73民終2030號民事判決書。與著作權自動取得制度不同,專利權的獲得需要經過明確的審查、授權。就人工智能生成“作品”而言,使用者可以在成果上標注其享有相關權益;對于人工智能生成發(fā)明,從申請階段就需要明確專利申請人。結合上文分析人工智能生成發(fā)明對可專利性提出的挑戰(zhàn),可探索通過特別標注的方式明確相關發(fā)明為人工智能生成,從而與自然人發(fā)明專利相區(qū)別。在此基礎上,再明確權利歸屬與法律責任承擔主體,這樣就可以構建較為完整的人工智能發(fā)明專利主體制度。

    當然,上述主張僅是提出了一種解決方案。在激勵理論下,激勵的對象是人工智能所有者、使用者還是數(shù)據提供者,抑或是其他主體,仍需要結合其在人工智能生成發(fā)明中所起到的作用、對生成發(fā)明的貢獻度、需要創(chuàng)新激勵的程度進行實證分析與綜合評價,明確何種主體需要通過賦予財產權形式予以激勵?;跈嗬c義務相一致原則,無論將專利權賦予何種主體,人工智能生成發(fā)明產生的相應責任也需要由其承擔。

    四限制制度:基于利益平衡理論的人工智能生成發(fā)明專利保護

    知識產權法具有二元價值目標,以激勵機制為基礎,以利益平衡的調節(jié)機制為手段,激勵機制可以充分保護創(chuàng)造者的合法權益,利益平衡機制則可以在私益與社會公共利益之間尋求平衡。[20]構建人工智能生成發(fā)明的專利保護制度,既需要從激勵創(chuàng)新視角探討相關權利的保護,也需要從利益平衡理論出發(fā),平衡私權與社會公共利益之間的關系,防止權利擴張帶來的系列問題。

    (一)利益平衡理論下人工智能生成發(fā)明專利保護的問題分析

    當前,人工智能技術進入蓬勃發(fā)展階段,其生成發(fā)明相關的專利保護問題逐漸顯現(xiàn)。在探討通過賦權的方式對人工智能生成發(fā)明予以激勵的同時,權利限制制度的構建同樣重要。在利益平衡理論指導下,明確人工智能生成發(fā)明專利保護存在的問題,有助于構建推動科技進步與社會發(fā)展的權利保護與限制制度。

    其一,人工智能生成發(fā)明專有與公有領域平衡問題。這主要體現(xiàn)在權利保護期限的確定上。通過設置合理的保護期,既能保障權利人對發(fā)明創(chuàng)造的實施,又可以使公眾適時獲取知識與信息。由于人工智能生成發(fā)明主要基于數(shù)據學習與算法執(zhí)行,其生成發(fā)明的成本相對較低,而且基于人工智能的特點,其可以在短時間內生成大量發(fā)明。如同人工智能生成發(fā)明需要學習大量數(shù)據、信息,人工智能生成發(fā)明同樣需要站在前人的肩膀上。如果針對這些發(fā)明規(guī)定較長的保護期,則有可能擠占公共領域,不利于技術進步與社會發(fā)展。

    其二,人工智能生成發(fā)明權利擴張引發(fā)的權能平衡問題。知識產權權能設立需要綜合考慮社會經濟、文化與科技發(fā)展。人工智能技術的發(fā)展,引發(fā)了對人工智能生成發(fā)明專利保護的激烈討論,也出現(xiàn)為應對技術發(fā)展有關權能擴張的討論與實踐,權利的擴張需要防范對社會公共利益的沖擊。依賴算法自動生成發(fā)明,將有可能導致利用人工智能進行專利“圈地運動”,[21]需要采取措施警惕權利擴張帶來的不利影響。

    其三,人工智能生成發(fā)明專利權行使方式的平衡問題。這種平衡主要在于權利的行使不能損害社會公共利益。對于人工智能生成發(fā)明專利權的行使而言,其需要具有一定限度,不能濫用權利,如獲得授權后,權利人濫用訴權,不正當?shù)刂\取私利,應在法律上予以規(guī)制。

    (二)人工智能生成發(fā)明專利保護的限制制度構建

    專利制度不僅在于激勵創(chuàng)新,更在于推動科技進步與社會發(fā)展,此時需要在私權保護與公共利益維護之間尋求平衡,構建權利限制機制,防止權利濫用,以實現(xiàn)在保護私權的同時促進社會共同福祉的提升。

    首先,合理設置人工智能生成發(fā)明專利的保護期。針對人工智能生成發(fā)明,有學者建議,考慮不同專利權客體的特點,可根據發(fā)明創(chuàng)造性水平、科技發(fā)展速度、技術生命更替周期,設置不同的保護期限,其中軟件專利權保護期可以10年為限,以減少“壟斷”帶來的社會成本。[22]筆者認可該觀點,針對不同權利客體,有針對性設置保護期,可以有效平衡專有與公有的利益。人工智能生成發(fā)明效率高、速度快、成本低,在普通發(fā)明專利20年保護期規(guī)定之下,設置稍短的保護期,既保護了權利人對發(fā)明的使用可以享有一定時期的壟斷權;又能夠相對較早進入公有領域,保證公眾及時獲取知識、信息,從而促進技術創(chuàng)新、產業(yè)發(fā)展與社會進步。

    其次,進一步明確人工智能生成發(fā)明專利申請人充分公開義務。專利制度旨在“以公開換保護”。美國《專利法》強調專利申請人具有信息披露義務,要求申請人通過更多的信息披露來維護社會公共利益,[23]我國《專利法》也規(guī)定發(fā)明專利申請人需要充分公開發(fā)明的技術方案。當人工智能生成發(fā)明涉及程序算法時,需要考慮“源代碼”等內容的公開,實現(xiàn)算法透明,以使本領域技術人員更好實現(xiàn)專利,未來專利進入公有領域,也可以更好推動在此基礎上的創(chuàng)新與發(fā)展。

    最后,強化“禁止專利權濫用”。禁止權利濫用是對權利人行使權利的限制和約束。由于人工智能本身的特性,其生成發(fā)明相對成本低、效率高,權利人基于人工智能可能擁有大量專利,而相關專利并不一定用于具體的產業(yè)實踐。因此,需要在人工智能生成發(fā)明專利保護制度構建中明確禁止專利權濫用原則的適用。

    五結論

    人工智能技術改變了創(chuàng)新的過程。隨著人工智能技術的發(fā)展與應用范圍擴大,作為機器的人工智能獨立性不斷增強,人工智能生成發(fā)明是體現(xiàn)其創(chuàng)新能力的成果之一。人工智能生成發(fā)明對專利制度帶來了巨大挑戰(zhàn),無論是專利客體適格性還是發(fā)明人主體資格問題,都在一定程度上影響了專利制度的變革與發(fā)展,有關人工智能生成發(fā)明的司法實踐也將推動專利制度的不斷完善,從而進一步促進人工智能技術的發(fā)展與創(chuàng)新能力的提升。正如Thaler的法律團隊表示,其在全球范圍內將人工智能生成發(fā)明申請專利、提起行政訴訟,主要目的就是通過實踐測試專利制度的邊界,推動專利制度變革。當然,人工智能發(fā)展不僅影響專利制度,對社會倫理、法律基礎理論都提出了巨大挑戰(zhàn),需要保持持續(xù)的研究與關注,及時作出應對。無論如何,專利制度能夠隨著技術的發(fā)展而與時俱進,這不僅為專利制度的發(fā)展所印證,而且是專利制度現(xiàn)代化的重要體現(xiàn)。

    [參考文獻]

    [1]劉強.人工智能算法發(fā)明可專利性問題研究[J].時代法學,2019(8):17-18.

    [2]余翔,劉珊.美國計算機軟件相關發(fā)明的專利保護及其與歐盟的比較[J].電子知識產權,2005(10):32-37.

    [3]崔國斌.專利法上的抽象思想與具體技術——計算機程序算法的客體屬性分析[J].清華大學學報(哲學社會科學版),2005(3):37-51.

    [4]吳漢東.計算機軟件專利保護問題研究[J].當代法學,2022(3):3-16.

    [5]孫那.人工智能的法律倫理建構[J].江西社會科學,2019(2):15-23.

    [6]Fraser E.Computers as inventors-legal and policy implications of artificial intelligence on patent law[J].SCRIPTed, 2016(3):305-332.

    [7]Abbott R.I think,therefore I invent: Creative computers and the future of patent law[J].Boston College Law Review, 2016(4):1079-1126.

    [8]易繼明.評財產權勞動學說[J].法學研究,2000(3):106.

    [9]Baird D G. Common law intellectual property and the legacy of International News Service v. Associated Press[J].University of Chicago Law Review, 1983(2):411-429.

    [10]劉鑫.人工智能生成技術方案的專利法規(guī)制——理論爭議、實踐難題與法律對策[J].法律科學(西北政法大學學報),2019(5):82-92.

    [11]郝明英.論人工智能生成內容的版權認定及法律規(guī)制[J].法大研究生,2019(2):422-440.

    [12]楊延超.人工智能對知識產權法的挑戰(zhàn)[J].治理研究,2018(5):120-128.

    [13]黑格爾.法哲學原理[M].范揚,張企泰,譯.北京:商務印書館,1961:10.

    [14]馮曉青.知識產權的人格理論研究[J].河南省政法管理干部學院學報,2003(4):28-39.

    [15]博登海默.法理學:法律哲學與法律方法[M].鄧正來,譯.北京:中國政法大學出版社,2004:407.

    [16]Samuelson p. Allocating ownership rights in computer-generated works[J]. Pittsburgh Law Review,1986(4):1185-1228.

    [17]楊利華.人工智能生成物著作權問題探究[J].現(xiàn)代法學,2021,43(4):102-114.

    [18]Landes W M,Posner R A. The economic structure of intellectual property law [M].Boston: Harvard University Press,2003:312-313.

    [19]劉友華,魏遠山.人工智能生成技術方案的可專利性及權利歸屬[J].湘潭大學學報(哲學社會科學版),2019(4):84-90.

    [20]馮曉青.知識產權法的價值構造:知識產權法利益平衡機制研究[J].中國法學,2007(1):67-77.

    [21]李想.人工智能參與發(fā)明的授權問題探究[J].科技進步與對策,2020(15): 144-151.

    [22]吳漢東.計算機軟件專利保護問題研究[J].當代法學,2022(3):3-16.

    [23]梁志文.論專利申請人之現(xiàn)有技術披露義務[J].法律科學(西北政法大學學報),2012(1):134.

    DOI:10.16339/j.cnki.hdxbskb.2023.02.019

    [收稿日期] 2022-10-27

    [基金項目] 國家社會科學基金重大項目:創(chuàng)新驅動發(fā)展戰(zhàn)略下知識產權公共領域問題研究(17ZDA139)

    [作者簡介] 馮曉青(1966—),男,湖南長沙人,中國政法大學民商經濟法學院教授,博士生導師,法學博士,研究方向:知識產權法。

    猜你喜歡
    公共領域人工智能算法
    基于MapReduce的改進Eclat算法
    Travellng thg World Full—time for Rree
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    進位加法的兩種算法
    人工智能與就業(yè)
    IT經理世界(2018年20期)2018-10-24 02:38:24
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    中國語境中的公共道德與公民道德辨析
    學理論·下(2016年11期)2016-12-27 14:30:41
    公共領域道德缺失問題的解析與研究
    理解公民道德
    道德與文明(2016年4期)2016-12-06 00:32:43
    微信朋友圈:互聯(lián)公共領域的新輿論圈
    日本精品一区二区三区蜜桃| 校园春色视频在线观看| 精品人妻1区二区| 免费在线观看黄色视频的| 日韩中文字幕欧美一区二区| 亚洲国产精品成人综合色| 午夜久久久在线观看| 欧美av亚洲av综合av国产av| 成人国语在线视频| 18禁观看日本| av福利片在线| 大型黄色视频在线免费观看| 精品熟女少妇八av免费久了| 12—13女人毛片做爰片一| 欧美乱妇无乱码| 久久国产精品影院| a在线观看视频网站| 日韩中文字幕欧美一区二区| 久久午夜亚洲精品久久| 999精品在线视频| 精品欧美国产一区二区三| 老司机靠b影院| 日本一区二区免费在线视频| 亚洲全国av大片| 国产成人av教育| 涩涩av久久男人的天堂| 99久久综合精品五月天人人| 精品一品国产午夜福利视频| 国内久久婷婷六月综合欲色啪| 国产欧美日韩一区二区三| 久久国产精品人妻蜜桃| 美女高潮喷水抽搐中文字幕| 午夜免费鲁丝| 变态另类丝袜制服| 在线国产一区二区在线| 99国产综合亚洲精品| 久久精品亚洲熟妇少妇任你| 国产精品久久久久久人妻精品电影| av免费在线观看网站| 久久久久九九精品影院| 人人妻人人澡人人看| aaaaa片日本免费| 成人手机av| 天天添夜夜摸| 亚洲国产毛片av蜜桃av| 亚洲人成网站在线播放欧美日韩| 欧美丝袜亚洲另类 | 日本免费一区二区三区高清不卡 | 亚洲人成网站在线播放欧美日韩| 一级作爱视频免费观看| 午夜影院日韩av| 黑人欧美特级aaaaaa片| 欧美久久黑人一区二区| 国产精品一区二区在线不卡| 老司机午夜十八禁免费视频| 这个男人来自地球电影免费观看| 国产亚洲欧美在线一区二区| 精品国产一区二区三区四区第35| 99久久久亚洲精品蜜臀av| 999久久久国产精品视频| 日韩欧美在线二视频| 亚洲精品国产精品久久久不卡| 免费在线观看视频国产中文字幕亚洲| av超薄肉色丝袜交足视频| 黄色 视频免费看| 亚洲第一欧美日韩一区二区三区| 欧美激情 高清一区二区三区| 在线观看舔阴道视频| 午夜福利在线观看吧| 999久久久国产精品视频| 欧美另类亚洲清纯唯美| 国产一区二区三区综合在线观看| 香蕉久久夜色| 日韩高清综合在线| 神马国产精品三级电影在线观看 | 中文字幕久久专区| 亚洲性夜色夜夜综合| 欧美精品亚洲一区二区| av福利片在线| av欧美777| 成人精品一区二区免费| 99国产精品一区二区蜜桃av| 少妇粗大呻吟视频| 精品午夜福利视频在线观看一区| 一区二区日韩欧美中文字幕| 真人做人爱边吃奶动态| av网站免费在线观看视频| 99久久久亚洲精品蜜臀av| 国产精品久久电影中文字幕| 久久久国产精品麻豆| 国产精品1区2区在线观看.| 午夜老司机福利片| 欧美老熟妇乱子伦牲交| 咕卡用的链子| 青草久久国产| 日韩国内少妇激情av| av福利片在线| 丰满的人妻完整版| av电影中文网址| 丝袜人妻中文字幕| 免费看a级黄色片| 国产成人av激情在线播放| 搡老妇女老女人老熟妇| 免费在线观看影片大全网站| 校园春色视频在线观看| 国产一区二区三区在线臀色熟女| 中文亚洲av片在线观看爽| 狂野欧美激情性xxxx| 国产一区二区激情短视频| 久久国产精品影院| 可以免费在线观看a视频的电影网站| 天堂动漫精品| 又紧又爽又黄一区二区| www国产在线视频色| 欧美激情极品国产一区二区三区| 一二三四在线观看免费中文在| 亚洲成a人片在线一区二区| 男女床上黄色一级片免费看| 老司机在亚洲福利影院| 亚洲欧美激情综合另类| 变态另类丝袜制服| 国产午夜福利久久久久久| 一卡2卡三卡四卡精品乱码亚洲| 露出奶头的视频| 黄色 视频免费看| 日韩欧美国产在线观看| 国产精品久久久久久人妻精品电影| 女人高潮潮喷娇喘18禁视频| 啦啦啦韩国在线观看视频| www.www免费av| 精品一品国产午夜福利视频| 一本大道久久a久久精品| 国产成人一区二区三区免费视频网站| 欧美黑人欧美精品刺激| 久久国产精品影院| 午夜成年电影在线免费观看| 日本免费a在线| 日韩精品青青久久久久久| 亚洲欧美激情在线| 色在线成人网| 999精品在线视频| 妹子高潮喷水视频| 亚洲电影在线观看av| 侵犯人妻中文字幕一二三四区| 麻豆成人av在线观看| 黄色丝袜av网址大全| 国产精品久久视频播放| 两个人免费观看高清视频| 久久精品国产综合久久久| 午夜老司机福利片| 国产精品自产拍在线观看55亚洲| 午夜福利高清视频| 99精品在免费线老司机午夜| 欧美乱妇无乱码| 亚洲熟妇中文字幕五十中出| 大陆偷拍与自拍| 两性夫妻黄色片| 我的亚洲天堂| 色婷婷久久久亚洲欧美| 一a级毛片在线观看| 中文字幕另类日韩欧美亚洲嫩草| 日本vs欧美在线观看视频| 精品久久久精品久久久| 亚洲伊人色综图| 久久香蕉国产精品| 一个人观看的视频www高清免费观看 | 国产精品乱码一区二三区的特点 | 国产熟女午夜一区二区三区| 久久这里只有精品19| 啦啦啦韩国在线观看视频| 丝袜在线中文字幕| 亚洲久久久国产精品| 欧美成狂野欧美在线观看| 人妻丰满熟妇av一区二区三区| 久久香蕉精品热| 久久国产乱子伦精品免费另类| av在线天堂中文字幕| 黑丝袜美女国产一区| 国产区一区二久久| 欧美精品啪啪一区二区三区| 国产成人系列免费观看| 免费高清在线观看日韩| 日本一区二区免费在线视频| 久久久久久久久中文| 无遮挡黄片免费观看| 两个人视频免费观看高清| 桃色一区二区三区在线观看| 在线观看舔阴道视频| 免费看a级黄色片| 18禁美女被吸乳视频| 亚洲成国产人片在线观看| 又黄又爽又免费观看的视频| 男人舔女人下体高潮全视频| 在线天堂中文资源库| 亚洲精华国产精华精| 最新美女视频免费是黄的| 精品一区二区三区视频在线观看免费| 亚洲熟妇中文字幕五十中出| 欧美日韩福利视频一区二区| 我的亚洲天堂| 18禁观看日本| 久久久精品欧美日韩精品| 好男人在线观看高清免费视频 | 欧洲精品卡2卡3卡4卡5卡区| 欧美日韩黄片免| 国产一区二区三区综合在线观看| 免费看十八禁软件| 久久人人爽av亚洲精品天堂| 女人被躁到高潮嗷嗷叫费观| 亚洲成av片中文字幕在线观看| 一本久久中文字幕| 中文字幕最新亚洲高清| 国产亚洲精品久久久久久毛片| 色综合亚洲欧美另类图片| 中文字幕人妻熟女乱码| 久久精品国产综合久久久| 天天躁狠狠躁夜夜躁狠狠躁| av网站免费在线观看视频| 欧美一级a爱片免费观看看 | 国产亚洲精品综合一区在线观看 | 亚洲一区二区三区不卡视频| 午夜免费成人在线视频| 少妇裸体淫交视频免费看高清 | 久久国产精品男人的天堂亚洲| 纯流量卡能插随身wifi吗| 久久人妻福利社区极品人妻图片| 亚洲第一电影网av| 女性被躁到高潮视频| 在线永久观看黄色视频| 午夜精品在线福利| 国内精品久久久久精免费| 又紧又爽又黄一区二区| 日韩三级视频一区二区三区| 在线av久久热| 亚洲专区国产一区二区| 久久久国产精品麻豆| 精品午夜福利视频在线观看一区| 亚洲专区国产一区二区| 女性生殖器流出的白浆| 国产单亲对白刺激| 亚洲欧美精品综合一区二区三区| 国产一区二区三区综合在线观看| 久久人妻熟女aⅴ| 亚洲国产精品久久男人天堂| 午夜精品国产一区二区电影| 国产精品久久久久久人妻精品电影| 国产日韩一区二区三区精品不卡| 999久久久国产精品视频| 久久人妻福利社区极品人妻图片| 亚洲天堂国产精品一区在线| 嫩草影视91久久| 久久久久久久精品吃奶| 亚洲情色 制服丝袜| 最好的美女福利视频网| a级毛片在线看网站| 91老司机精品| 乱人伦中国视频| 国产成人精品无人区| 最新美女视频免费是黄的| 国产精品久久久久久亚洲av鲁大| 久久精品国产亚洲av高清一级| 久久人妻av系列| 亚洲精品在线观看二区| 麻豆av在线久日| 中文字幕高清在线视频| 午夜a级毛片| 一区二区三区精品91| 日日爽夜夜爽网站| 免费看a级黄色片| 欧美在线一区亚洲| 久久影院123| 亚洲精品国产区一区二| 色综合站精品国产| 十分钟在线观看高清视频www| 女人爽到高潮嗷嗷叫在线视频| 很黄的视频免费| 99国产精品99久久久久| 免费少妇av软件| 黄片大片在线免费观看| 国产亚洲精品综合一区在线观看 | 午夜福利影视在线免费观看| 欧美在线黄色| 欧美乱妇无乱码| 中文字幕精品免费在线观看视频| 一进一出好大好爽视频| 国产极品粉嫩免费观看在线| 欧美绝顶高潮抽搐喷水| 日韩免费av在线播放| 狠狠狠狠99中文字幕| 精品国产乱子伦一区二区三区| 国产欧美日韩一区二区三区在线| 亚洲九九香蕉| 人人澡人人妻人| 18禁观看日本| 老鸭窝网址在线观看| 色综合婷婷激情| 久久婷婷人人爽人人干人人爱 | 麻豆成人av在线观看| 女性生殖器流出的白浆| 老司机福利观看| 色哟哟哟哟哟哟| 久久久久久久午夜电影| 狂野欧美激情性xxxx| 国产精品98久久久久久宅男小说| 欧美老熟妇乱子伦牲交| 操出白浆在线播放| 国产精品99久久99久久久不卡| 欧美黑人欧美精品刺激| 亚洲欧美激情综合另类| 老熟妇乱子伦视频在线观看| 久久中文看片网| 午夜老司机福利片| 免费无遮挡裸体视频| 男女床上黄色一级片免费看| 久久精品国产99精品国产亚洲性色 | 又紧又爽又黄一区二区| 欧美激情高清一区二区三区| 国产伦一二天堂av在线观看| 女性生殖器流出的白浆| 国产激情欧美一区二区| av有码第一页| 国产精品野战在线观看| 久久久国产精品麻豆| 脱女人内裤的视频| 免费高清视频大片| 久久人人爽av亚洲精品天堂| 深夜精品福利| 中文字幕久久专区| 国产黄a三级三级三级人| 久久热在线av| 99热只有精品国产| 我的亚洲天堂| 99国产精品免费福利视频| 最新美女视频免费是黄的| 国产精品久久久人人做人人爽| 校园春色视频在线观看| 一区二区日韩欧美中文字幕| 黄色丝袜av网址大全| 欧美黑人精品巨大| 黄色丝袜av网址大全| 精品人妻在线不人妻| 亚洲精品国产一区二区精华液| 韩国精品一区二区三区| 电影成人av| 国产亚洲精品久久久久5区| 天天躁狠狠躁夜夜躁狠狠躁| 一个人免费在线观看的高清视频| 亚洲人成伊人成综合网2020| 久久久久国产精品人妻aⅴ院| 丁香欧美五月| 嫁个100分男人电影在线观看| 成人18禁在线播放| 亚洲 欧美 日韩 在线 免费| 久久久久久国产a免费观看| 精品久久蜜臀av无| 欧美绝顶高潮抽搐喷水| 免费高清视频大片| 成人三级做爰电影| 精品电影一区二区在线| a级毛片在线看网站| 99久久99久久久精品蜜桃| 欧美午夜高清在线| av片东京热男人的天堂| 黑人巨大精品欧美一区二区mp4| 黑丝袜美女国产一区| 最近最新中文字幕大全电影3 | 精品久久久精品久久久| 99热只有精品国产| 欧美一级毛片孕妇| 自线自在国产av| 亚洲精品久久国产高清桃花| 中文字幕精品免费在线观看视频| 国产黄a三级三级三级人| 久久久久精品国产欧美久久久| 日本五十路高清| 这个男人来自地球电影免费观看| 国产亚洲精品av在线| 久久精品国产亚洲av香蕉五月| 一区二区三区精品91| 成年版毛片免费区| 免费看美女性在线毛片视频| 国产aⅴ精品一区二区三区波| 在线观看一区二区三区| 黄色片一级片一级黄色片| 成人国产综合亚洲| 日韩三级视频一区二区三区| 中文字幕最新亚洲高清| 国产三级在线视频| 99精品久久久久人妻精品| 美国免费a级毛片| 日韩 欧美 亚洲 中文字幕| 在线观看免费午夜福利视频| 久久精品国产综合久久久| 在线免费观看的www视频| 十分钟在线观看高清视频www| 身体一侧抽搐| 久久久久久久久久久久大奶| 在线国产一区二区在线| 老汉色av国产亚洲站长工具| 色尼玛亚洲综合影院| 男女午夜视频在线观看| 后天国语完整版免费观看| 成年版毛片免费区| 黄色视频,在线免费观看| 啦啦啦观看免费观看视频高清 | 最新在线观看一区二区三区| 久久久久久免费高清国产稀缺| cao死你这个sao货| 国产亚洲精品一区二区www| 亚洲成av片中文字幕在线观看| 国产精品 欧美亚洲| 精品人妻1区二区| 欧美日韩福利视频一区二区| 亚洲熟女毛片儿| 久久亚洲真实| 午夜福利影视在线免费观看| 亚洲狠狠婷婷综合久久图片| 国产成人精品久久二区二区免费| 国产黄a三级三级三级人| 精品一区二区三区av网在线观看| 一区二区日韩欧美中文字幕| 国产成人欧美在线观看| 国产三级在线视频| 国产精品秋霞免费鲁丝片| 亚洲精品在线美女| 日本 欧美在线| 99精品久久久久人妻精品| 亚洲欧美激情综合另类| 中文字幕人妻丝袜一区二区| 操美女的视频在线观看| 色综合婷婷激情| 国产精品久久久人人做人人爽| 97超级碰碰碰精品色视频在线观看| 亚洲国产高清在线一区二区三 | 成人18禁高潮啪啪吃奶动态图| 国产免费av片在线观看野外av| 亚洲成a人片在线一区二区| 村上凉子中文字幕在线| 中文字幕色久视频| 婷婷六月久久综合丁香| 一级毛片女人18水好多| 99国产综合亚洲精品| 欧美日韩瑟瑟在线播放| 午夜免费激情av| 一区二区三区高清视频在线| 三级毛片av免费| 老熟妇仑乱视频hdxx| 国产精华一区二区三区| 一级黄色大片毛片| 国内毛片毛片毛片毛片毛片| 久久人妻av系列| 国产主播在线观看一区二区| 成年女人毛片免费观看观看9| 亚洲少妇的诱惑av| 久久天躁狠狠躁夜夜2o2o| 亚洲午夜理论影院| 一二三四社区在线视频社区8| 午夜成年电影在线免费观看| 午夜a级毛片| 欧美另类亚洲清纯唯美| 在线视频色国产色| 女人精品久久久久毛片| 成人特级黄色片久久久久久久| 叶爱在线成人免费视频播放| 最近最新中文字幕大全电影3 | 两性午夜刺激爽爽歪歪视频在线观看 | 精品欧美国产一区二区三| 亚洲成人免费电影在线观看| 欧美激情高清一区二区三区| 一级毛片精品| 亚洲中文av在线| 一级毛片女人18水好多| 长腿黑丝高跟| 十分钟在线观看高清视频www| 亚洲少妇的诱惑av| 老司机午夜十八禁免费视频| 成人国产一区最新在线观看| 国产精品美女特级片免费视频播放器 | 欧美 亚洲 国产 日韩一| 中文字幕人妻丝袜一区二区| 91大片在线观看| 精品乱码久久久久久99久播| 午夜久久久在线观看| 亚洲国产精品sss在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 欧美av亚洲av综合av国产av| 中出人妻视频一区二区| 人人妻人人澡欧美一区二区 | 老司机靠b影院| 久久久久九九精品影院| 侵犯人妻中文字幕一二三四区| 亚洲av熟女| 中文字幕精品免费在线观看视频| 成人免费观看视频高清| 日韩大尺度精品在线看网址 | 正在播放国产对白刺激| 一进一出好大好爽视频| 亚洲欧洲精品一区二区精品久久久| 18禁国产床啪视频网站| 久久热在线av| 国产欧美日韩精品亚洲av| 精品一区二区三区av网在线观看| 久久久水蜜桃国产精品网| 国产1区2区3区精品| 久久久久久久午夜电影| 精品国内亚洲2022精品成人| 久久精品人人爽人人爽视色| 精品国产国语对白av| 黄色视频,在线免费观看| 午夜福利影视在线免费观看| 两个人视频免费观看高清| 午夜激情av网站| 电影成人av| 亚洲中文字幕一区二区三区有码在线看 | 麻豆av在线久日| 亚洲欧美日韩另类电影网站| 啪啪无遮挡十八禁网站| 久热爱精品视频在线9| 国产亚洲av嫩草精品影院| 亚洲人成网站在线播放欧美日韩| 国产高清有码在线观看视频 | 99国产综合亚洲精品| 女人爽到高潮嗷嗷叫在线视频| 国内毛片毛片毛片毛片毛片| 国产伦一二天堂av在线观看| 久久中文字幕人妻熟女| 成人永久免费在线观看视频| 18禁美女被吸乳视频| 成人国产综合亚洲| 色播亚洲综合网| 欧美日韩精品网址| 久久久久国内视频| 动漫黄色视频在线观看| 亚洲国产欧美一区二区综合| 免费无遮挡裸体视频| 国产精品 国内视频| 国产亚洲av高清不卡| 中亚洲国语对白在线视频| 国产精品一区二区精品视频观看| av超薄肉色丝袜交足视频| 欧美成人午夜精品| 给我免费播放毛片高清在线观看| 精品国产亚洲在线| 欧美成狂野欧美在线观看| 999久久久国产精品视频| 很黄的视频免费| 亚洲自拍偷在线| 操美女的视频在线观看| 亚洲精品在线观看二区| 国产麻豆69| 91字幕亚洲| 老司机午夜十八禁免费视频| 人人妻,人人澡人人爽秒播| bbb黄色大片| 神马国产精品三级电影在线观看 | 亚洲五月色婷婷综合| 久久天躁狠狠躁夜夜2o2o| 视频区欧美日本亚洲| 啦啦啦观看免费观看视频高清 | 成人18禁在线播放| 午夜福利一区二区在线看| svipshipincom国产片| 午夜福利一区二区在线看| 多毛熟女@视频| 久久亚洲精品不卡| 日本三级黄在线观看| 国产免费av片在线观看野外av| 国产日韩一区二区三区精品不卡| 美女高潮喷水抽搐中文字幕| 久久青草综合色| 国内毛片毛片毛片毛片毛片| 天天一区二区日本电影三级 | 欧美 亚洲 国产 日韩一| 国产成人精品久久二区二区91| 欧美日韩精品网址| 18禁裸乳无遮挡免费网站照片 | 一级毛片精品| 精品免费久久久久久久清纯| 在线观看66精品国产| 国产欧美日韩一区二区精品| 亚洲伊人色综图| 午夜成年电影在线免费观看| 免费高清视频大片| 欧美绝顶高潮抽搐喷水| www.www免费av| 女人被躁到高潮嗷嗷叫费观| 久久久国产成人精品二区| 国产91精品成人一区二区三区| 日日摸夜夜添夜夜添小说| 嫩草影院精品99| 国产精品免费视频内射| 久99久视频精品免费| 日韩成人在线观看一区二区三区| 午夜成年电影在线免费观看| АⅤ资源中文在线天堂| 国产亚洲精品av在线| 色精品久久人妻99蜜桃| 999久久久精品免费观看国产| 国产麻豆69| 日本 av在线| 中文字幕av电影在线播放| 亚洲一码二码三码区别大吗| 亚洲电影在线观看av| 非洲黑人性xxxx精品又粗又长| 日本免费一区二区三区高清不卡 | 丁香欧美五月| 久久午夜综合久久蜜桃| videosex国产| 美女国产高潮福利片在线看| 在线观看午夜福利视频| 国产高清视频在线播放一区| 黄片大片在线免费观看| 每晚都被弄得嗷嗷叫到高潮| 日韩一卡2卡3卡4卡2021年| 巨乳人妻的诱惑在线观看|