• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能生成發(fā)明專(zhuān)利充分公開(kāi)問(wèn)題研究

    2022-11-26 19:39:58楊珍珠
    關(guān)鍵詞:專(zhuān)利人工智能

    胡 光, 楊珍珠

    (河南師范大學(xué) 知識(shí)產(chǎn)權(quán)學(xué)院, 河南 新鄉(xiāng) 453007)

    一、人工智能生成發(fā)明之基本理論

    1. 基于人工智能技術(shù)的發(fā)明分析

    “人工智能”技術(shù)按照“智能”形成度和功能實(shí)現(xiàn)度可進(jìn)行以下分級(jí):初級(jí)也就是最基礎(chǔ)的“人工智能”(artifitial intelligence)。由知識(shí)庫(kù)(可稱(chēng)為專(zhuān)家系統(tǒng))形成,本質(zhì)上是利用設(shè)定的規(guī)則對(duì)存儲(chǔ)數(shù)據(jù)進(jìn)行整理,并從這些數(shù)據(jù)中得出邏輯結(jié)論,其中數(shù)據(jù)和規(guī)則都必須由人工智能的操作者提供。第二級(jí)為“機(jī)器學(xué)習(xí)”。在機(jī)器學(xué)習(xí)過(guò)程中,利用程序工程師提供的輸入和輸出數(shù)據(jù),算法分析程序可以找到其中存在的規(guī)律,將輸入數(shù)據(jù)映射到輸出結(jié)果(邏輯回歸)中,從而在不依賴(lài)輸出數(shù)據(jù)的情況下對(duì)新的輸入數(shù)據(jù)進(jìn)行預(yù)測(cè)。機(jī)器學(xué)習(xí)的貢獻(xiàn)在于能夠自我設(shè)計(jì)規(guī)則,其尋找規(guī)則的過(guò)程通常稱(chēng)為“訓(xùn)練”,使用的數(shù)據(jù)稱(chēng)為“訓(xùn)練數(shù)據(jù)”(training data)。第三級(jí)為“表征學(xué)習(xí)”(representation learning)。這一級(jí)別主要針對(duì)非結(jié)構(gòu)化的數(shù)據(jù)。人工智能程序可將輸入數(shù)據(jù)轉(zhuǎn)換成更能夠解決特定問(wèn)題的現(xiàn)實(shí)形式。與機(jī)器學(xué)習(xí)相比,具備表征學(xué)習(xí)能力的人工智能技術(shù)可以提供更具針對(duì)性的結(jié)果,但其學(xué)習(xí)以及表征生成的過(guò)程不易描述,這會(huì)給現(xiàn)有“充分披露”原則的實(shí)現(xiàn)帶來(lái)實(shí)質(zhì)性挑戰(zhàn)。第四級(jí)為“深度學(xué)習(xí)”(deep learning)。深度學(xué)習(xí)是表征學(xué)習(xí)的子集,是具有多個(gè)層級(jí)(稱(chēng)為“depth”)的模型——通用術(shù)語(yǔ)為“多層感知器”(multi-layer perceptron)。

    就功能而言,前兩個(gè)級(jí)別——知識(shí)庫(kù)整理和邏輯回歸分析——通常用于處理“對(duì)人類(lèi)來(lái)說(shuō)很難但對(duì)計(jì)算機(jī)來(lái)說(shuō)很容易”的事務(wù),例如將預(yù)先確定的規(guī)則應(yīng)用于大數(shù)據(jù)集;而表征學(xué)習(xí)尤其是深度學(xué)習(xí),多用于處理“對(duì)人類(lèi)容易但對(duì)計(jì)算機(jī)卻難的事情”,例如模式識(shí)別、圖像處理或自然語(yǔ)言處理[1]。對(duì)于具備初級(jí)和部分第二級(jí)別功能的人工智能,現(xiàn)有的專(zhuān)利理論中用于判斷計(jì)算機(jī)軟件發(fā)明的方法可以適用,這意味著沒(méi)有直接耦合到特定應(yīng)用程序的人工智能算法,如果僅僅涉及相對(duì)簡(jiǎn)單或單一的數(shù)學(xué)方法(例如邏輯回歸)則不具備可專(zhuān)利性(1)在美國(guó)的Mayo標(biāo)準(zhǔn)框架下,判斷方法基于以下假設(shè):第一步,作為數(shù)學(xué)概念的基本人工智能算法是一個(gè)抽象的概念,因此沒(méi)有資格申請(qǐng)專(zhuān)利。但是第二步則提出,司法上的例外可以納入實(shí)際應(yīng)用,為人工智能算法專(zhuān)利留下空間。參見(jiàn):2019 Revised Patent Subject Matter Eligibility Guidance,www.govinfo.gov/content/pkg/FR-2019-01-07/pdf/2018-28282.pdf.。第三和第四級(jí)是需要關(guān)注的重點(diǎn),特別是“深度學(xué)習(xí)”層級(jí),這類(lèi)系統(tǒng)可能具有大量的隱藏層,其權(quán)重在學(xué)習(xí)/培訓(xùn)過(guò)程中、在沒(méi)有人工干預(yù)的情況下允許自主完善。

    基于此,人工智能發(fā)明可以分類(lèi)如下:(1)體現(xiàn)人工智能領(lǐng)域進(jìn)步的發(fā)明(例如,改進(jìn)的機(jī)器學(xué)習(xí)(ML)模型或新算法下的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu));(2)將人工智能應(yīng)用于人工智能以外領(lǐng)域的發(fā)明;(3)人工智能自主生成的發(fā)明。

    2. 人工智能生成發(fā)明的運(yùn)行原理

    建立一個(gè)神經(jīng)網(wǎng)絡(luò)算法的基本過(guò)程包括:第一步“問(wèn)題輸入”,即將問(wèn)題轉(zhuǎn)變?yōu)榭奢斎肷窠?jīng)元的數(shù)據(jù)信息(二位數(shù)字所代表的聲音、圖像等信息)。第二步“設(shè)定拓?fù)浣Y(jié)構(gòu)”,即設(shè)立多層神經(jīng)元進(jìn)行識(shí)別實(shí)驗(yàn)。第三步“訓(xùn)練神經(jīng)元”,即選取問(wèn)題實(shí)例,反復(fù)運(yùn)行識(shí)別實(shí)驗(yàn)。其中,確定拓?fù)浣Y(jié)構(gòu)的多種不同方法、確定最終輸出存在的方法以及訓(xùn)練期間調(diào)解突觸強(qiáng)度所用的不同方法等所形成的變體,在設(shè)計(jì)中都必須具有可行性[2]。

    對(duì)于具有自主學(xué)習(xí)能力的深層神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)推理的過(guò)程被嵌入數(shù)千個(gè)模擬神經(jīng)元的活動(dòng),這些神經(jīng)元排列在數(shù)十個(gè)甚至數(shù)百個(gè)錯(cuò)綜復(fù)雜的互聯(lián)層中。第一層中的神經(jīng)元接收一個(gè)輸入信息,比如圖像中像素的強(qiáng)度等,然后在輸出新信號(hào)之前進(jìn)行計(jì)算,產(chǎn)生的結(jié)果被輸送到下一層的神經(jīng)元,依此類(lèi)推,直至達(dá)到設(shè)定之目標(biāo)。此外,還有一個(gè)被稱(chēng)為反向傳播的過(guò)程,它會(huì)調(diào)整單個(gè)神經(jīng)元的計(jì)算,讓網(wǎng)絡(luò)學(xué)會(huì)產(chǎn)生所需的輸出,這一過(guò)程與人腦的運(yùn)行機(jī)理極其相似。“對(duì)于機(jī)器學(xué)習(xí)最好的理解就是,他們發(fā)展出自己的直覺(jué)力,然后用直覺(jué)來(lái)行動(dòng),這和以前的謠言——它們只按照編好的程序工作——大不相同”[3]。也就是說(shuō),要求人工智能具有意識(shí)和情感,在現(xiàn)階段以及今后的很長(zhǎng)時(shí)間也許無(wú)法實(shí)現(xiàn),但是按照有關(guān)學(xué)者的預(yù)測(cè),對(duì)人腦仿真的創(chuàng)造性思維卻可以完成:“大腦極大的可塑性使我們能夠進(jìn)行學(xué)習(xí)。但計(jì)算機(jī)的可塑性更大,通過(guò)改變軟件完全可以重建它的工作”“因?yàn)閿?shù)字化計(jì)算可以實(shí)現(xiàn)任意精度的對(duì)模擬值的仿真”[1]。正因如此,世界著名人工智能研發(fā)機(jī)構(gòu)——麻省理工學(xué)院的學(xué)者這樣描述人工智能深度學(xué)習(xí)系統(tǒng):“這個(gè)系統(tǒng)太復(fù)雜了,即使是設(shè)計(jì)它的工程師也很難找出其產(chǎn)生任何單一行動(dòng)的本質(zhì)原因?!盵4]以至于,麻省理工學(xué)院的研究人員在使用人工智能深度學(xué)習(xí)算法發(fā)現(xiàn)一種新的抗生素之后,描述這一系統(tǒng)為“從事某種智能活動(dòng)(doing something intelligent)”[5]??梢?jiàn),人工智能的創(chuàng)造性功能的發(fā)展在一定程度已經(jīng)得到證實(shí)和認(rèn)同。

    二、人工智能生成發(fā)明專(zhuān)利充分公開(kāi)的目的

    在解決人工智能生成發(fā)明所涉公開(kāi)問(wèn)題之前,首先要對(duì)專(zhuān)利“公開(kāi)”制度設(shè)計(jì)的初衷予以回歸性解釋。專(zhuān)利法上“充分公開(kāi)”原則設(shè)立的基本目的在于通過(guò)“專(zhuān)利說(shuō)明書(shū)”“權(quán)利要求書(shū)”等專(zhuān)利申請(qǐng)文獻(xiàn),清楚且充分地描述發(fā)明客體,以使本領(lǐng)域普通技術(shù)人員能夠?qū)υ摪l(fā)明予以復(fù)制并以最佳的方式實(shí)施。以美國(guó)為例,其專(zhuān)利法中規(guī)定了三項(xiàng)獨(dú)立而明確的披露要求:書(shū)面描述、適用性和最佳模式[6]。根據(jù)美國(guó)專(zhuān)利商標(biāo)局所制定的審查指南,專(zhuān)利說(shuō)明書(shū)應(yīng)當(dāng)能夠指導(dǎo)本領(lǐng)域的普通技術(shù)人員如何在不需要通過(guò)非適當(dāng)性試驗(yàn)的情況下制造和使用所要求保護(hù)的發(fā)明,在確定專(zhuān)利說(shuō)明書(shū)是否滿(mǎn)足申請(qǐng)要求以及是否存在必要的不適當(dāng)性試驗(yàn)時(shí),審查員可以利用“WANDS”要素予以判斷,具體包括:權(quán)利要求的廣度、發(fā)明的性質(zhì)、現(xiàn)有技術(shù)的狀況、普通技術(shù)人員的水平、本領(lǐng)域的可預(yù)測(cè)性水平、發(fā)明人提供的指導(dǎo)案例、是否存在工作實(shí)例,以及根據(jù)本發(fā)明公開(kāi)內(nèi)容制作或使用本發(fā)明所需的實(shí)驗(yàn)量等[7]。這些要求適用于在美國(guó)所有的專(zhuān)利申請(qǐng),包括那些針對(duì)人工智能生成發(fā)明的申請(qǐng)。我國(guó)最新修訂的《專(zhuān)利審查指南》中所要求的審查員能夠“理解發(fā)明的一般路徑,……在理解發(fā)明時(shí)應(yīng)當(dāng)充分了解背景技術(shù)整體狀況、理解發(fā)明的技術(shù)方案所能帶來(lái)的技術(shù)效果、明確發(fā)明相對(duì)于背景技術(shù)所作出的改進(jìn)”[8],實(shí)質(zhì)上是對(duì)“充分公開(kāi)”所應(yīng)達(dá)到之目的的一般性限定?!俺浞止_(kāi)”制度的設(shè)計(jì)雖然具有鼓勵(lì)技術(shù)傳播、促進(jìn)技術(shù)的價(jià)值溢出,減少重復(fù)的研究成本等多層價(jià)值面向和功能指向,但其核心功能在于可以根據(jù)所提供的書(shū)面材料(專(zhuān)利說(shuō)明書(shū)等),確保發(fā)明人實(shí)際上已經(jīng)創(chuàng)造并擁有要求保護(hù)的發(fā)明,并且所屬領(lǐng)域的普通技術(shù)人員無(wú)需通過(guò)過(guò)度試驗(yàn)即可理解、應(yīng)用該技術(shù),進(jìn)而能夠適用于生產(chǎn),產(chǎn)生價(jià)值,推動(dòng)進(jìn)步,即滿(mǎn)足“可實(shí)施性條件”和“合理支持條件(書(shū)面描述)”。因此,人工智能生成發(fā)明如果希望獲得專(zhuān)利,則所面臨的專(zhuān)利充分公開(kāi)問(wèn)題主要是通過(guò)何種方式實(shí)現(xiàn)申請(qǐng)專(zhuān)利發(fā)明信息的透明,以期在最大限度內(nèi),在滿(mǎn)足權(quán)利人利益要求、確保專(zhuān)利功能的實(shí)現(xiàn)以及促進(jìn)社會(huì)科學(xué)進(jìn)步三者之間找到最佳平衡點(diǎn)。因而,該制度是關(guān)乎整個(gè)專(zhuān)利制度價(jià)值得以實(shí)現(xiàn)的核心問(wèn)題之一。IEEE在為美國(guó)政府有關(guān)人工智能生成發(fā)明制度所作的咨詢(xún)報(bào)告中就曾強(qiáng)調(diào),“解決目前人工智能生成/輔助專(zhuān)利范圍的不確定性將有利于人工智能技術(shù)的發(fā)展”“人工智能生成/輔助專(zhuān)利的專(zhuān)利申請(qǐng)人將受益于該技術(shù)所能披露的信息所帶來(lái)的更多的確定性”[9],人工智能生成發(fā)明公開(kāi)制度也必須圍繞這一核心目的進(jìn)行設(shè)置。

    三、實(shí)現(xiàn)充分公開(kāi)面臨的問(wèn)題

    1. 充分公開(kāi)內(nèi)容確定

    人工智能算法的輸出結(jié)果雖然是由數(shù)據(jù)和代碼決定的,其過(guò)程并不會(huì)比自然現(xiàn)象更難以分析和解釋?zhuān)疃葘W(xué)習(xí)并不完全遵循“數(shù)據(jù)輸入—特征提取—特征選擇—邏輯推理—預(yù)測(cè)”這一規(guī)律,而是由計(jì)算機(jī)直接從事物原始特征出發(fā),自動(dòng)學(xué)習(xí)和生成高級(jí)的認(rèn)知結(jié)果。在人工智能輸入的數(shù)據(jù)和其輸出的結(jié)果之間,存在著無(wú)法洞悉的、被稱(chēng)為“黑箱”(black box)的“隱層”。這里的“黑箱”不但意味著不能觀察,還意味著即使人工智能試圖向設(shè)計(jì)者予以解釋?zhuān)O(shè)計(jì)者可能也無(wú)法理解。那么,如果人類(lèi)對(duì)人工智能生成發(fā)明的過(guò)程處于不能完全知悉的狀態(tài),就不能實(shí)現(xiàn)人類(lèi)自身發(fā)明創(chuàng)造之技術(shù)場(chǎng)景的“重現(xiàn)”或“再現(xiàn)”,普通技術(shù)人員要想重復(fù)該發(fā)明,則必須最大限度地明確獲知人類(lèi)培訓(xùn)人工智能所使用之?dāng)?shù)據(jù)、模型等,以實(shí)現(xiàn)技術(shù)場(chǎng)景“預(yù)現(xiàn)”。在這種情況下,充分公開(kāi)所涉內(nèi)容如果僅僅局限于說(shuō)明算法,而不能闡釋算法運(yùn)行之模式,那么對(duì)于“深度學(xué)習(xí)”而言,即使對(duì)基本模型進(jìn)行充分的描述,技術(shù)人員仍然沒(méi)有足夠的信息來(lái)重現(xiàn)該模型,若想達(dá)到充分公開(kāi)之目的,目前仍然需要至少公開(kāi)以下兩項(xiàng)內(nèi)容:一是對(duì)培訓(xùn)數(shù)據(jù)的使用,包括模型的每個(gè)學(xué)習(xí)系數(shù)或權(quán)重;二是對(duì)模型培訓(xùn)方式的描述。

    2. 經(jīng)濟(jì)效益要素考量

    對(duì)于高科技產(chǎn)業(yè)而言,在需要考慮的外部性要素中,經(jīng)濟(jì)效益平衡問(wèn)題是重點(diǎn)之一,因?yàn)椤皬膶?zhuān)利制度鼓勵(lì)技術(shù)知識(shí)傳播的社會(huì)目標(biāo)角度看,技術(shù)溢出使既有專(zhuān)利較早進(jìn)入公共領(lǐng)域,客觀上有利于整個(gè)社會(huì)技術(shù)知識(shí)的共享和傳播。但是,從專(zhuān)利制度鼓勵(lì)研發(fā)投資的社會(huì)目標(biāo)角度看,技術(shù)外溢降低了既有專(zhuān)利的私人價(jià)值,可能降低創(chuàng)新者研發(fā)投資和申請(qǐng)專(zhuān)利的積極性”[10]。

    現(xiàn)階段,人工智能技術(shù)的開(kāi)發(fā)和應(yīng)用涉及大量初創(chuàng)公司和一些小型經(jīng)濟(jì)實(shí)體,如果對(duì)人工智能生成發(fā)明在“充分公開(kāi)”的要求方面采用過(guò)于嚴(yán)苛的標(biāo)準(zhǔn),而要求披露傳統(tǒng)計(jì)算機(jī)硬件/軟件的特性和操作以及訓(xùn)練模型、數(shù)據(jù)和模塊等,則會(huì)給他們帶來(lái)沉重的經(jīng)濟(jì)、法律和技術(shù)負(fù)擔(dān)。以美國(guó)為例,2020年8月3日,美國(guó)初創(chuàng)企業(yè)與發(fā)明人促進(jìn)就業(yè)聯(lián)盟(USIJ)發(fā)布了題為《有效可靠的專(zhuān)利制度對(duì)關(guān)鍵技術(shù)投資的重要性》的報(bào)告,指出專(zhuān)利制度的變化正導(dǎo)致風(fēng)險(xiǎn)投資在開(kāi)發(fā)專(zhuān)利密集型高科技企業(yè)資金中所占份額大幅下降。2004年,風(fēng)險(xiǎn)投資大部分流向?qū)@芗椭圃鞓I(yè)。及至2017年,這些專(zhuān)利密集型行業(yè)獲得的資金份額從2004年的50%以上下降至2017年的28%(2016年達(dá)到24.5%的低點(diǎn))[11]。這一數(shù)據(jù)表明,過(guò)于嚴(yán)苛的專(zhuān)利審查制度會(huì)影響資本投入,從而降低以變革性技術(shù)為特征的專(zhuān)利密集型企業(yè)的創(chuàng)新能力。而訓(xùn)練數(shù)據(jù)又具有重要的獨(dú)立價(jià)值(3)有理論認(rèn)為,雖然目前沒(méi)有專(zhuān)門(mén)針對(duì)人工智能算法數(shù)據(jù)的知識(shí)產(chǎn)權(quán)保護(hù)法規(guī),但培訓(xùn)數(shù)據(jù)可以作為商業(yè)秘密保護(hù),如果培訓(xùn)數(shù)據(jù)提供了一些新的和有用的結(jié)果,則可以作為專(zhuān)利保護(hù)。,將其公之于眾可能會(huì)阻礙初創(chuàng)企業(yè)替代性收入來(lái)源,或者輔助競(jìng)爭(zhēng)對(duì)手更快地啟動(dòng)周邊設(shè)計(jì)的方案研發(fā),加速競(jìng)爭(zhēng)。因此,在制定涉及人工智能生成發(fā)明的披露標(biāo)準(zhǔn)時(shí),有必要對(duì)公開(kāi)的程度設(shè)定可供操作的邊界,以達(dá)到技術(shù)創(chuàng)新擴(kuò)散所產(chǎn)生的經(jīng)濟(jì)效應(yīng)與初創(chuàng)高科技型企業(yè)成本優(yōu)化之間的平衡。

    四、實(shí)現(xiàn)充分公開(kāi)的保障措施

    1. 數(shù)據(jù)的公有留存與安全供給

    學(xué)者們?cè)谟懻摻鉀Q黑箱問(wèn)題時(shí)提出“追蹤數(shù)據(jù)來(lái)源的方式有助于人們更正錯(cuò)誤”“如果不良數(shù)據(jù)的后續(xù)使用者不知道該數(shù)據(jù)的來(lái)源,他們可能就不會(huì)相信數(shù)據(jù)當(dāng)事人。如果他們能夠跟蹤數(shù)據(jù)的出處,更正過(guò)程就會(huì)容易得多”[12]。設(shè)計(jì)一套對(duì)人工智能訓(xùn)練數(shù)據(jù)持續(xù)性供給的監(jiān)管技術(shù),以確保對(duì)在發(fā)明使用過(guò)程中所出現(xiàn)的問(wèn)題能夠依據(jù)數(shù)據(jù)之出處予以適度修正,對(duì)于人工智能生成發(fā)明的披露具有重要意義。

    數(shù)據(jù)保存最為重要的目的是在記錄、確保數(shù)據(jù)安全并持續(xù)更新的基礎(chǔ)上,在滿(mǎn)足人工智能學(xué)習(xí)需要的同時(shí)保證發(fā)明的適用性。鑒于人工智能系統(tǒng)的復(fù)雜性、內(nèi)部運(yùn)行的不透明以及難以快速驗(yàn)證等特征,更應(yīng)當(dāng)確保與算法、編程有關(guān)的測(cè)試記錄,以及有關(guān)建立、測(cè)試和驗(yàn)證人工智能系統(tǒng)的訓(xùn)練方法、使用流程和相關(guān)技術(shù)的資料文件,包括預(yù)先制定的安全措施和避免歧視偏見(jiàn)的應(yīng)對(duì)方案等得到有效留存,并準(zhǔn)確記錄特定情形下高風(fēng)險(xiǎn)人工智能應(yīng)用測(cè)試的數(shù)據(jù)集,詳細(xì)描述數(shù)據(jù)集的主要特征和選擇方式。事實(shí)上,信息的留存問(wèn)題并不是人工智能技術(shù)所獨(dú)有的,其已經(jīng)在一個(gè)完全不同的專(zhuān)利領(lǐng)域得到解決,即涉及微生物的發(fā)明。為了從基本材料中產(chǎn)生有用的物質(zhì),生物技術(shù)的發(fā)明可能會(huì)使用微生物,對(duì)于涉及的生物材料很難僅僅通過(guò)書(shū)面形式予以充分描述。如果說(shuō)明書(shū)對(duì)如何制造要求保護(hù)的發(fā)明作出了充分指引,那么多大程度上允許公眾訪問(wèn)、獲得這些微生物材料就決定了該項(xiàng)發(fā)明的實(shí)現(xiàn)程度。為解決這一問(wèn)題,需要建立一整套在嚴(yán)格條件下保存、獲得生物材料的存儲(chǔ)系統(tǒng)。根據(jù)1977年《布達(dá)佩斯條約》(Budapest Treaty 1977)規(guī)定,如果相關(guān)的書(shū)面說(shuō)明被認(rèn)為不足以描述樣品的特征或者不夠充分,則專(zhuān)利申請(qǐng)人可提取存放在指定國(guó)際保存機(jī)構(gòu)(international depositary authority,簡(jiǎn)稱(chēng)IDA)的微生物樣本,以滿(mǎn)足專(zhuān)利描述的要求(4)1977年《布達(dá)佩斯條約》即The Budapest Treaty on the International Recognition of the Deposit of Microorganisms for the Purposes of Patent Procedure,是一項(xiàng)國(guó)際專(zhuān)利法條約,最初于1977年4月28日簽署,第一次于1980年8月9日生效。世界知識(shí)產(chǎn)權(quán)組織負(fù)責(zé)條約的管理。截至2019年8月,“布達(dá)佩斯條約”共有82個(gè)締約國(guó)。該條約規(guī)定了關(guān)于存放和儲(chǔ)存生物材料的具體條款。條約要求所有簽署人按照規(guī)定的條件將生物材料予以?xún)?chǔ)存并提供使用權(quán)限,有權(quán)接受儲(chǔ)存樣本的締約方包括儲(chǔ)戶(hù)、任何持有存放人書(shū)面授權(quán)的人以及任何宣布正在處理與儲(chǔ)存材料有關(guān)專(zhuān)利申請(qǐng)的知識(shí)產(chǎn)權(quán)局。。由于神經(jīng)網(wǎng)絡(luò)具有模仿生物網(wǎng)絡(luò)特性,因此,獲得人工智能發(fā)明專(zhuān)利的數(shù)據(jù)留存可以參考建立類(lèi)似于生物材料存儲(chǔ)的人工智能培訓(xùn)數(shù)據(jù)公有保理系統(tǒng),用于保存培訓(xùn)數(shù)據(jù),并通過(guò)明確制定獲取數(shù)據(jù)的法定條件,一方面促進(jìn)公眾合法獲得專(zhuān)有數(shù)據(jù)進(jìn)行研究,另一方面保護(hù)提供上述數(shù)據(jù)的專(zhuān)利申請(qǐng)人利益,推動(dòng)類(lèi)似于人工智能系統(tǒng)等在內(nèi)的需要大規(guī)模數(shù)據(jù)披露和使用的技術(shù)專(zhuān)利公開(kāi)(5)還有一種被稱(chēng)為“數(shù)據(jù)大使館”的跨境數(shù)據(jù)共管模式,即外國(guó)政府對(duì)存儲(chǔ)在他國(guó)數(shù)據(jù)中心的數(shù)據(jù)保持管轄權(quán),允許將數(shù)據(jù)儲(chǔ)存在特定國(guó)家數(shù)據(jù)中心的外國(guó)主體在面臨與數(shù)據(jù)相關(guān)的任何爭(zhēng)議時(shí),只受自己國(guó)家法律的專(zhuān)屬管轄,不適用于數(shù)據(jù)存儲(chǔ)國(guó)的法律——相當(dāng)于這些數(shù)據(jù)獲得了“外交豁免”,以推動(dòng)數(shù)據(jù)信息安全流動(dòng)。。

    2. 數(shù)據(jù)的合法與安全使用

    數(shù)據(jù)是人工智能的基礎(chǔ)要素,獲得初步開(kāi)發(fā)和持續(xù)培訓(xùn)的數(shù)據(jù)對(duì)于人工智能功能的實(shí)現(xiàn)非常重要,因此,數(shù)據(jù)和數(shù)據(jù)集都極其具有價(jià)值,特別是“大數(shù)據(jù)”(如可以通過(guò)計(jì)算分析以揭示模式、趨勢(shì)和關(guān)聯(lián)的超大數(shù)據(jù)集等)。專(zhuān)利公開(kāi)原則要求權(quán)利要求書(shū)中的信息應(yīng)該受到保護(hù),而說(shuō)明書(shū)中的信息則可以自由使用,那么,除專(zhuān)利“公開(kāi)”之技術(shù)性要求外,人工智能生成發(fā)明如果需要公開(kāi)數(shù)據(jù),會(huì)面臨一個(gè)規(guī)范性問(wèn)題——數(shù)據(jù)的合法使用。雖然在不涉及敏感數(shù)據(jù)使用的情況下(比如人工智能在天氣預(yù)報(bào)或天文學(xué)中的應(yīng)用等)不涉及數(shù)據(jù)的保護(hù),但絕大多數(shù)情況下人工智能確實(shí)需要使用或收集個(gè)人數(shù)據(jù),并且在一定程度上存在大量的個(gè)人數(shù)據(jù)被用來(lái)訓(xùn)練和測(cè)試人工智能的情況。例如,歐洲專(zhuān)利局曾以披露不足為由駁回一項(xiàng)涉及人工智能的發(fā)明(6)該發(fā)明為使用人工神經(jīng)網(wǎng)絡(luò)程序?qū)⑼庵軠y(cè)得的血壓曲線轉(zhuǎn)化為等效主動(dòng)脈瓣壓。,在駁回決定中專(zhuān)利局指出,根據(jù)歐洲專(zhuān)利法第83條之規(guī)定,歐洲專(zhuān)利申請(qǐng)應(yīng)當(dāng)以一種足夠清晰和完整的方式披露該項(xiàng)發(fā)明,披露程度必須達(dá)到使該領(lǐng)域的技術(shù)人員能夠根據(jù)他/她的一般常識(shí),并依據(jù)該技術(shù)再現(xiàn)所聲稱(chēng)的發(fā)明。專(zhuān)利審核委員會(huì)同時(shí)認(rèn)為,這項(xiàng)基于人工智能技術(shù)的發(fā)明應(yīng)用:“無(wú)論是要求還是描述都沒(méi)有包含人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練的細(xì)節(jié),而僅僅表明權(quán)值是由機(jī)器學(xué)習(xí)決定的”[13],特別是缺少不同年齡、性別、體質(zhì)類(lèi)型、健康狀況等患者的信息,所披露的內(nèi)容沒(méi)有揭示哪些輸入數(shù)據(jù)適合于訓(xùn)練所發(fā)明的人工神經(jīng)網(wǎng)絡(luò),或者至少有一個(gè)適合于解決當(dāng)前技術(shù)問(wèn)題的數(shù)據(jù)集。因此,該項(xiàng)基于人工智能神經(jīng)網(wǎng)絡(luò)的專(zhuān)利沒(méi)有滿(mǎn)足充分披露的條件,造成該人工智能神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法無(wú)法由技術(shù)人員再現(xiàn),進(jìn)而不能重復(fù)發(fā)明過(guò)程。依據(jù)該案例,涉及人工智能系統(tǒng)的發(fā)明,其公開(kāi)范圍除去系統(tǒng)本身運(yùn)行之基本技術(shù)特征外,還應(yīng)當(dāng)涵蓋人工智能數(shù)據(jù)選擇與處理的方法。在這種情況下,要想滿(mǎn)足充分公開(kāi)的要求,就會(huì)涉及大量的個(gè)人信息。根據(jù)歐盟《通用數(shù)據(jù)保護(hù)條例》(TheGeneralDataProtectionRegulation,簡(jiǎn)稱(chēng)GDPR),使用個(gè)人數(shù)據(jù)信息要遵守“透明性原則”,即在考慮個(gè)人數(shù)據(jù)具體情況和背景的前提下,盡最大之可能確保信息使用的透明度,即清晰、公開(kāi)和誠(chéng)實(shí)地向公眾提供如何以及為何使用個(gè)人數(shù)據(jù),包括:原理說(shuō)明,發(fā)明的原因可以以可訪問(wèn)的非技術(shù)方式予以解釋?zhuān)回?zé)任說(shuō)明,誰(shuí)參與人工智能系統(tǒng)的開(kāi)發(fā)、管理和實(shí)施,以及如何對(duì)最終的發(fā)明進(jìn)行人工審查;數(shù)據(jù)說(shuō)明,在特定決策中使用了哪些數(shù)據(jù)以及如何使用。具體到人工智能發(fā)明專(zhuān)利則意味著,如果不向公眾公開(kāi)關(guān)于人工智能生成發(fā)明是如何以及為什么做出、所使用的個(gè)人數(shù)據(jù)如何被用來(lái)訓(xùn)練和測(cè)試人工智能系統(tǒng),就會(huì)違反透明性原則。除此之外,基于數(shù)據(jù)的高流動(dòng)性,建議由國(guó)際社會(huì)牽頭設(shè)計(jì)一套國(guó)際化數(shù)據(jù)流轉(zhuǎn)安全機(jī)制[14],例如:通過(guò)設(shè)立標(biāo)準(zhǔn)(包括關(guān)于數(shù)據(jù)格式、定義、結(jié)構(gòu)、標(biāo)記、傳輸、操作、使用和管理的相關(guān)協(xié)議)確保數(shù)據(jù)能夠在不同系統(tǒng)中重復(fù)使用。鼓勵(lì)利用區(qū)塊鏈或者通用安全加密技術(shù)等記錄數(shù)據(jù)獲取和收集的歷史維護(hù)數(shù)據(jù)源,確保數(shù)據(jù)的真實(shí)性(7)例如WIPO開(kāi)發(fā)的“WIPO PROOF”安全在線網(wǎng)站,允許申請(qǐng)人請(qǐng)求針對(duì)特定數(shù)字文件的WIPO PROOF令牌。該系統(tǒng)依托世界上最強(qiáng)大和最嚴(yán)格的標(biāo)準(zhǔn)之一——eIDAS標(biāo)準(zhǔn)設(shè)計(jì)和開(kāi)發(fā),使用公鑰基礎(chǔ)結(jié)構(gòu)(PKI)技術(shù)生成WIPO PROOF令牌,系統(tǒng)不會(huì)讀取文件的內(nèi)容或存儲(chǔ)文件的副本,而是根據(jù)安全單向算法與請(qǐng)求者的瀏覽器進(jìn)行本地交互,以創(chuàng)建文件的唯一數(shù)字指令,為信息提供最高級(jí)別的確定性,即令牌上的日期和時(shí)間是準(zhǔn)確且未被篡改的。任何人(甚至第三方)都可以通過(guò)遵循一些簡(jiǎn)單的步驟在網(wǎng)站上驗(yàn)證WIPO PROOF令牌。參見(jiàn)WIPO PROOF:WIPO Introduces New Business Service That Provides Evidence of An Intellectual Asset’s Existence,https://www.wipo.int/pressroom/en/articles/2020/article_0012.html.。

    五、結(jié) 論

    現(xiàn)階段以神經(jīng)元網(wǎng)絡(luò)技術(shù)為代表的人工智能系統(tǒng),已經(jīng)能夠通過(guò)大量可持續(xù)供給的數(shù)據(jù)學(xué)習(xí)找到事物之間關(guān)聯(lián),發(fā)現(xiàn)其中的規(guī)律,產(chǎn)生新的知識(shí)并自主創(chuàng)造出新的產(chǎn)品或工藝。并且,伴隨技術(shù)的不斷進(jìn)步和數(shù)據(jù)信息量的疊加,人工智能在提供新知識(shí)、新技術(shù)和新發(fā)現(xiàn)上的能力必將隨之增長(zhǎng),其發(fā)展?jié)摿赡苓h(yuǎn)遠(yuǎn)超過(guò)人類(lèi)在這幾百年工業(yè)革命中的規(guī)模和速度,而人類(lèi)介入之影響亦必隨之減弱。做好人工智能作為產(chǎn)品和技術(shù)發(fā)明者的準(zhǔn)備且應(yīng)將其盡快提上日程。即使人工智能在知識(shí)產(chǎn)權(quán)權(quán)利主體性方面由于道德或倫理的限制無(wú)法在短期內(nèi)獲得突破,但其生成發(fā)明的專(zhuān)利認(rèn)定對(duì)于促進(jìn)這一變革性技術(shù)的發(fā)展與新業(yè)態(tài)的繁榮具有重要意義。因此,在既有專(zhuān)利公開(kāi)制度的基礎(chǔ)上,通過(guò)公開(kāi)人工智能生成發(fā)明中的數(shù)據(jù)、訓(xùn)練模型并利用類(lèi)似于微生物保藏的算法建立保藏體系和跨地域的數(shù)據(jù)安全模式,可以一定程度上解決人工智能生成發(fā)明專(zhuān)利公開(kāi)的“黑箱”問(wèn)題,滿(mǎn)足充分公開(kāi)之要求。

    猜你喜歡
    專(zhuān)利人工智能
    發(fā)明與專(zhuān)利
    傳感器世界(2024年1期)2024-03-28 07:10:56
    專(zhuān)利
    我校新增“人工智能”本科專(zhuān)業(yè)
    發(fā)明與專(zhuān)利
    傳感器世界(2019年4期)2019-06-26 09:58:44
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    下一幕,人工智能!
    專(zhuān)利
    欧美精品亚洲一区二区| 又黄又粗又硬又大视频| 色综合欧美亚洲国产小说| 别揉我奶头~嗯~啊~动态视频 | av在线老鸭窝| 美女视频免费永久观看网站| 欧美性长视频在线观看| 精品国产国语对白av| 国产成人免费无遮挡视频| av一本久久久久| 久久ye,这里只有精品| 亚洲国产欧美在线一区| 香蕉国产在线看| 久久免费观看电影| 国产一卡二卡三卡精品| 亚洲欧美一区二区三区国产| 欧美中文综合在线视频| 日本av免费视频播放| 久久精品成人免费网站| 成人黄色视频免费在线看| 国产一区二区三区av在线| 成年人黄色毛片网站| 1024视频免费在线观看| 51午夜福利影视在线观看| 最近中文字幕2019免费版| 黄色一级大片看看| 亚洲,欧美,日韩| 午夜福利乱码中文字幕| 亚洲精品国产av蜜桃| 9热在线视频观看99| 国产免费一区二区三区四区乱码| 欧美久久黑人一区二区| 亚洲精品乱久久久久久| 香蕉国产在线看| 男女下面插进去视频免费观看| 九草在线视频观看| 欧美日韩视频精品一区| 高潮久久久久久久久久久不卡| 成年女人毛片免费观看观看9 | 蜜桃在线观看..| 亚洲国产毛片av蜜桃av| 久久精品久久久久久久性| 女性被躁到高潮视频| 亚洲色图综合在线观看| 亚洲国产精品一区三区| 国产日韩一区二区三区精品不卡| 中文精品一卡2卡3卡4更新| 极品人妻少妇av视频| 日韩人妻精品一区2区三区| 色94色欧美一区二区| 国产欧美日韩一区二区三 | 国产日韩一区二区三区精品不卡| 亚洲国产中文字幕在线视频| 欧美日韩亚洲国产一区二区在线观看 | 免费黄频网站在线观看国产| 两个人免费观看高清视频| 人人妻人人爽人人添夜夜欢视频| 免费高清在线观看日韩| 你懂的网址亚洲精品在线观看| 免费高清在线观看视频在线观看| 免费av中文字幕在线| 97人妻天天添夜夜摸| 精品一区二区三卡| 亚洲精品久久久久久婷婷小说| 国产片内射在线| 狂野欧美激情性bbbbbb| 人人妻人人爽人人添夜夜欢视频| 日本wwww免费看| 美女福利国产在线| 欧美在线黄色| 91国产中文字幕| 欧美久久黑人一区二区| 成人国产一区最新在线观看 | 欧美精品啪啪一区二区三区 | 亚洲精品美女久久av网站| 欧美日韩一级在线毛片| 国语对白做爰xxxⅹ性视频网站| 极品少妇高潮喷水抽搐| 国产女主播在线喷水免费视频网站| 777米奇影视久久| 久久精品亚洲熟妇少妇任你| 欧美黑人精品巨大| 日韩一本色道免费dvd| 久久ye,这里只有精品| 一区二区三区激情视频| 亚洲av电影在线进入| 国产一区二区在线观看av| 美国免费a级毛片| 国产一区有黄有色的免费视频| 欧美xxⅹ黑人| 久久ye,这里只有精品| 最近手机中文字幕大全| 中文字幕亚洲精品专区| 一边摸一边抽搐一进一出视频| 精品久久蜜臀av无| 色视频在线一区二区三区| 欧美 亚洲 国产 日韩一| 自线自在国产av| 人妻 亚洲 视频| 狠狠婷婷综合久久久久久88av| 永久免费av网站大全| 男女之事视频高清在线观看 | 99香蕉大伊视频| www.精华液| 久久热在线av| 曰老女人黄片| 极品少妇高潮喷水抽搐| 在线观看免费视频网站a站| 天天操日日干夜夜撸| 欧美日韩亚洲国产一区二区在线观看 | 99热国产这里只有精品6| 国产一区二区三区av在线| 熟女少妇亚洲综合色aaa.| 欧美 亚洲 国产 日韩一| 另类精品久久| 亚洲欧美激情在线| 天天影视国产精品| 成人免费观看视频高清| 欧美在线一区亚洲| 亚洲av成人精品一二三区| 黄色毛片三级朝国网站| 伊人久久大香线蕉亚洲五| 一二三四社区在线视频社区8| 国产黄色免费在线视频| xxx大片免费视频| 高清不卡的av网站| 婷婷色av中文字幕| 天天影视国产精品| 精品一品国产午夜福利视频| 美女高潮到喷水免费观看| 美女大奶头黄色视频| 色综合欧美亚洲国产小说| 亚洲精品av麻豆狂野| 亚洲欧美精品综合一区二区三区| 国产无遮挡羞羞视频在线观看| 丁香六月天网| 两个人免费观看高清视频| 日韩,欧美,国产一区二区三区| 久久精品国产亚洲av高清一级| 99精品久久久久人妻精品| 夫妻午夜视频| 丝袜脚勾引网站| 黑人巨大精品欧美一区二区蜜桃| 免费黄频网站在线观看国产| 久久国产精品男人的天堂亚洲| 国产免费现黄频在线看| 电影成人av| 亚洲欧洲国产日韩| 免费av中文字幕在线| 精品高清国产在线一区| 水蜜桃什么品种好| 亚洲av美国av| 亚洲国产成人一精品久久久| tube8黄色片| 日韩,欧美,国产一区二区三区| 日韩av不卡免费在线播放| 成年女人毛片免费观看观看9 | 亚洲人成电影观看| 欧美少妇被猛烈插入视频| 男男h啪啪无遮挡| 下体分泌物呈黄色| 秋霞在线观看毛片| 国产主播在线观看一区二区 | 青青草视频在线视频观看| 亚洲国产精品成人久久小说| 每晚都被弄得嗷嗷叫到高潮| 人妻一区二区av| 天天躁夜夜躁狠狠久久av| 欧美成狂野欧美在线观看| 亚洲五月婷婷丁香| 在线观看国产h片| 亚洲欧美中文字幕日韩二区| 亚洲av成人不卡在线观看播放网 | 午夜免费观看性视频| 九草在线视频观看| 黑丝袜美女国产一区| 日韩熟女老妇一区二区性免费视频| 男女边摸边吃奶| 亚洲国产av新网站| 美女主播在线视频| 少妇人妻久久综合中文| 大香蕉久久成人网| 交换朋友夫妻互换小说| 男女下面插进去视频免费观看| 亚洲一卡2卡3卡4卡5卡精品中文| 高清av免费在线| 国产人伦9x9x在线观看| 在线 av 中文字幕| 乱人伦中国视频| 国产91精品成人一区二区三区 | 亚洲一区中文字幕在线| 国产精品国产三级国产专区5o| 秋霞在线观看毛片| 悠悠久久av| 亚洲精品一区蜜桃| 午夜福利乱码中文字幕| 久久精品国产亚洲av高清一级| 黄色片一级片一级黄色片| 丁香六月欧美| 侵犯人妻中文字幕一二三四区| a级毛片黄视频| 成年av动漫网址| 国产精品.久久久| 黄色片一级片一级黄色片| 50天的宝宝边吃奶边哭怎么回事| 黄网站色视频无遮挡免费观看| 新久久久久国产一级毛片| 久久狼人影院| 国产高清不卡午夜福利| 亚洲精品美女久久久久99蜜臀 | 夜夜骑夜夜射夜夜干| 亚洲 国产 在线| 欧美日韩综合久久久久久| 美女主播在线视频| 国产精品秋霞免费鲁丝片| 亚洲,一卡二卡三卡| 少妇粗大呻吟视频| 欧美激情极品国产一区二区三区| 母亲3免费完整高清在线观看| √禁漫天堂资源中文www| 久久精品亚洲熟妇少妇任你| 一个人免费看片子| 精品国产乱码久久久久久男人| 婷婷色综合大香蕉| 在线观看国产h片| 亚洲熟女毛片儿| 精品一品国产午夜福利视频| 一级片免费观看大全| 男女下面插进去视频免费观看| 国产男女内射视频| 人人妻人人添人人爽欧美一区卜| 欧美成人午夜精品| 久久久国产欧美日韩av| 国产精品久久久av美女十八| 精品国产一区二区三区四区第35| 国产精品久久久av美女十八| 欧美日韩综合久久久久久| 欧美人与性动交α欧美精品济南到| 成人影院久久| 国产精品久久久久成人av| tube8黄色片| 午夜免费男女啪啪视频观看| 99国产精品免费福利视频| 中文字幕人妻丝袜制服| 精品熟女少妇八av免费久了| www.精华液| 青春草亚洲视频在线观看| av电影中文网址| 久久久久久久大尺度免费视频| 女性生殖器流出的白浆| 久久性视频一级片| 色婷婷av一区二区三区视频| 国语对白做爰xxxⅹ性视频网站| 亚洲午夜精品一区,二区,三区| 热99久久久久精品小说推荐| 中文字幕人妻丝袜制服| 又大又爽又粗| 亚洲一卡2卡3卡4卡5卡精品中文| e午夜精品久久久久久久| 色视频在线一区二区三区| 丁香六月天网| 日韩大码丰满熟妇| 国产片内射在线| 久久久精品区二区三区| 国产精品国产av在线观看| 18在线观看网站| 午夜日韩欧美国产| 国产在线免费精品| 欧美日韩视频高清一区二区三区二| 在线观看一区二区三区激情| 极品人妻少妇av视频| 免费看av在线观看网站| 亚洲精品自拍成人| 97人妻天天添夜夜摸| 香蕉丝袜av| 中文字幕av电影在线播放| 人妻 亚洲 视频| 亚洲成国产人片在线观看| 欧美成人精品欧美一级黄| 亚洲激情五月婷婷啪啪| 亚洲欧美一区二区三区国产| 精品福利永久在线观看| 国产片特级美女逼逼视频| 天天添夜夜摸| 9191精品国产免费久久| 亚洲成色77777| 久久热在线av| 亚洲第一青青草原| 欧美国产精品一级二级三级| 男人添女人高潮全过程视频| 菩萨蛮人人尽说江南好唐韦庄| 免费在线观看影片大全网站 | 亚洲欧美清纯卡通| 老司机影院毛片| 欧美日韩视频高清一区二区三区二| 80岁老熟妇乱子伦牲交| svipshipincom国产片| 亚洲第一av免费看| 成人国产av品久久久| 亚洲欧美一区二区三区久久| 波野结衣二区三区在线| 在线观看免费高清a一片| a级片在线免费高清观看视频| 777米奇影视久久| 女人高潮潮喷娇喘18禁视频| 99热网站在线观看| 精品人妻一区二区三区麻豆| 久久久精品国产亚洲av高清涩受| 久久久久久人人人人人| 成人黄色视频免费在线看| 亚洲熟女毛片儿| 日韩人妻精品一区2区三区| 国产精品熟女久久久久浪| 国产男女超爽视频在线观看| 亚洲中文日韩欧美视频| 成人亚洲精品一区在线观看| 大片免费播放器 马上看| 欧美激情极品国产一区二区三区| 中文字幕av电影在线播放| 99re6热这里在线精品视频| 免费av中文字幕在线| 精品一区二区三卡| 国产成人欧美在线观看 | www.精华液| 免费少妇av软件| 色婷婷av一区二区三区视频| 丝瓜视频免费看黄片| 欧美日韩福利视频一区二区| 久久久久久久大尺度免费视频| 久久九九热精品免费| 狂野欧美激情性bbbbbb| 这个男人来自地球电影免费观看| 国产精品免费视频内射| 国产黄色免费在线视频| 亚洲熟女毛片儿| 婷婷色麻豆天堂久久| 手机成人av网站| 久久99一区二区三区| 一本综合久久免费| 国产精品av久久久久免费| 中文字幕高清在线视频| 精品久久久久久久毛片微露脸 | 欧美日韩精品网址| 天天躁夜夜躁狠狠久久av| a级毛片黄视频| 男女免费视频国产| 亚洲午夜精品一区,二区,三区| 国产免费福利视频在线观看| 欧美精品啪啪一区二区三区 | 成年人黄色毛片网站| 黄网站色视频无遮挡免费观看| 亚洲精品日韩在线中文字幕| 一边摸一边做爽爽视频免费| 国产精品偷伦视频观看了| 少妇 在线观看| 国产精品久久久久久人妻精品电影 | 少妇人妻久久综合中文| 国产亚洲av片在线观看秒播厂| 少妇人妻 视频| 欧美+亚洲+日韩+国产| 99香蕉大伊视频| 中文字幕亚洲精品专区| 国产麻豆69| 午夜精品国产一区二区电影| 日韩制服骚丝袜av| av在线app专区| 国产麻豆69| av天堂在线播放| 色婷婷av一区二区三区视频| 欧美av亚洲av综合av国产av| 中文精品一卡2卡3卡4更新| 久久国产精品男人的天堂亚洲| 婷婷丁香在线五月| avwww免费| 熟女少妇亚洲综合色aaa.| 男女无遮挡免费网站观看| 国产男人的电影天堂91| 欧美变态另类bdsm刘玥| 久久影院123| 热99久久久久精品小说推荐| 黄色a级毛片大全视频| 亚洲精品美女久久久久99蜜臀 | 亚洲欧美一区二区三区黑人| 亚洲一区中文字幕在线| 亚洲精品日韩在线中文字幕| 国产无遮挡羞羞视频在线观看| 后天国语完整版免费观看| 超碰97精品在线观看| 成人手机av| 妹子高潮喷水视频| av福利片在线| 男女午夜视频在线观看| 国产一区亚洲一区在线观看| 一区福利在线观看| 伦理电影免费视频| 国产欧美日韩精品亚洲av| 日日夜夜操网爽| 久久久国产精品麻豆| 精品高清国产在线一区| 国产熟女欧美一区二区| 亚洲欧美中文字幕日韩二区| 只有这里有精品99| 在线亚洲精品国产二区图片欧美| 99热网站在线观看| 日韩电影二区| 国产视频首页在线观看| 在线精品无人区一区二区三| 精品高清国产在线一区| 黄频高清免费视频| 亚洲欧美精品综合一区二区三区| 亚洲美女黄色视频免费看| 亚洲av综合色区一区| 99精品久久久久人妻精品| 黑人巨大精品欧美一区二区蜜桃| 国产成人欧美在线观看 | 日韩大码丰满熟妇| 飞空精品影院首页| 色婷婷av一区二区三区视频| 男女无遮挡免费网站观看| 欧美少妇被猛烈插入视频| 亚洲,欧美精品.| 国产成人av激情在线播放| 九草在线视频观看| 日韩免费高清中文字幕av| 国产成人精品久久二区二区91| 九色亚洲精品在线播放| 久久精品亚洲av国产电影网| 亚洲国产成人一精品久久久| 欧美黄色淫秽网站| 久久亚洲精品不卡| 国产精品一区二区免费欧美 | 免费观看a级毛片全部| 国产高清视频在线播放一区 | 亚洲国产最新在线播放| 亚洲国产精品一区二区三区在线| 一级a爱视频在线免费观看| 久久九九热精品免费| 天天躁夜夜躁狠狠躁躁| 国产一区亚洲一区在线观看| 少妇 在线观看| 日韩人妻精品一区2区三区| 国产日韩欧美视频二区| 国产熟女午夜一区二区三区| 91成人精品电影| 免费久久久久久久精品成人欧美视频| 国产伦理片在线播放av一区| 日日爽夜夜爽网站| 精品国产乱码久久久久久男人| 9热在线视频观看99| 日韩av不卡免费在线播放| 久久久久网色| 欧美日韩综合久久久久久| 久久青草综合色| 亚洲人成网站在线观看播放| 一本—道久久a久久精品蜜桃钙片| 国产视频一区二区在线看| 国产成人精品在线电影| 一级毛片女人18水好多 | 我要看黄色一级片免费的| 母亲3免费完整高清在线观看| 在线观看www视频免费| 又大又黄又爽视频免费| 精品国产一区二区三区四区第35| 9色porny在线观看| 国产免费现黄频在线看| 曰老女人黄片| 亚洲天堂av无毛| 久久精品国产a三级三级三级| 狂野欧美激情性xxxx| 久久精品aⅴ一区二区三区四区| 欧美久久黑人一区二区| 国产男女超爽视频在线观看| 97人妻天天添夜夜摸| 久久精品亚洲av国产电影网| 老熟女久久久| 国产激情久久老熟女| 欧美黄色片欧美黄色片| 午夜日韩欧美国产| 母亲3免费完整高清在线观看| 婷婷色av中文字幕| 一本—道久久a久久精品蜜桃钙片| 成人午夜精彩视频在线观看| 丁香六月欧美| cao死你这个sao货| 超碰97精品在线观看| 免费不卡黄色视频| 日韩欧美一区视频在线观看| 校园人妻丝袜中文字幕| 性色av乱码一区二区三区2| 一级a爱视频在线免费观看| 一区在线观看完整版| 日本91视频免费播放| 伦理电影免费视频| 国产精品一区二区在线观看99| 亚洲午夜精品一区,二区,三区| 如日韩欧美国产精品一区二区三区| av天堂在线播放| svipshipincom国产片| 19禁男女啪啪无遮挡网站| 不卡av一区二区三区| 只有这里有精品99| 精品亚洲成a人片在线观看| 国产成人啪精品午夜网站| 在线天堂中文资源库| 无限看片的www在线观看| 最新的欧美精品一区二区| 亚洲国产成人一精品久久久| 国产亚洲欧美精品永久| 91精品三级在线观看| 又黄又粗又硬又大视频| 成人手机av| 丁香六月天网| 黑人欧美特级aaaaaa片| 最近中文字幕2019免费版| 亚洲五月色婷婷综合| 国产色视频综合| 老司机靠b影院| 亚洲熟女精品中文字幕| 国产精品一二三区在线看| 久久天躁狠狠躁夜夜2o2o | 色网站视频免费| 国产免费视频播放在线视频| 久久久国产精品麻豆| 色视频在线一区二区三区| 中文字幕人妻丝袜一区二区| 日本av手机在线免费观看| 中文字幕人妻丝袜一区二区| 久久99热这里只频精品6学生| 久久精品国产亚洲av涩爱| 看免费av毛片| 美女高潮到喷水免费观看| 91精品国产国语对白视频| 成人亚洲精品一区在线观看| 欧美日韩国产mv在线观看视频| www.av在线官网国产| 丝袜美足系列| 你懂的网址亚洲精品在线观看| 99国产精品一区二区三区| 亚洲av欧美aⅴ国产| 一边摸一边做爽爽视频免费| 国产色视频综合| 国产欧美日韩一区二区三区在线| bbb黄色大片| 少妇精品久久久久久久| 国产一区二区 视频在线| 一级毛片黄色毛片免费观看视频| 精品国产超薄肉色丝袜足j| 亚洲精品乱久久久久久| 久久精品国产亚洲av涩爱| 老司机影院成人| 欧美日韩一级在线毛片| 国产av一区二区精品久久| 真人做人爱边吃奶动态| 亚洲一区二区三区欧美精品| 新久久久久国产一级毛片| 国产一区二区 视频在线| 国产伦人伦偷精品视频| 婷婷色av中文字幕| 欧美日韩亚洲国产一区二区在线观看 | 日本av免费视频播放| 精品人妻一区二区三区麻豆| 亚洲欧洲精品一区二区精品久久久| 精品国产一区二区三区久久久樱花| 一级黄片播放器| 两人在一起打扑克的视频| 深夜精品福利| 国产片特级美女逼逼视频| 亚洲欧洲国产日韩| 18禁国产床啪视频网站| 国语对白做爰xxxⅹ性视频网站| 两性夫妻黄色片| 精品国产一区二区三区四区第35| 午夜福利视频精品| 亚洲激情五月婷婷啪啪| 在线观看人妻少妇| 久久精品久久精品一区二区三区| 久久久久久久久久久久大奶| 97在线人人人人妻| 丰满迷人的少妇在线观看| 亚洲欧美精品自产自拍| 亚洲专区中文字幕在线| 中文字幕最新亚洲高清| 51午夜福利影视在线观看| 亚洲专区中文字幕在线| 搡老乐熟女国产| 男女之事视频高清在线观看 | 久久性视频一级片| 日韩 欧美 亚洲 中文字幕| 热re99久久国产66热| 国产精品偷伦视频观看了| 美女午夜性视频免费| 丝袜美足系列| 两性夫妻黄色片| h视频一区二区三区| 欧美乱码精品一区二区三区| 亚洲天堂av无毛| 久久久精品免费免费高清| 一区二区三区乱码不卡18| 免费观看a级毛片全部| 人妻 亚洲 视频| 夜夜骑夜夜射夜夜干| 在线观看免费午夜福利视频| av视频免费观看在线观看| 又黄又粗又硬又大视频| 免费在线观看黄色视频的| 宅男免费午夜| a级毛片黄视频| 操美女的视频在线观看| 亚洲精品美女久久av网站| 又紧又爽又黄一区二区| 国产97色在线日韩免费| 欧美激情极品国产一区二区三区| 久久人人爽人人片av| 色综合欧美亚洲国产小说| 夫妻性生交免费视频一级片|