• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生成式人工智能版權(quán)問題研究

    2023-04-29 13:19:57馮曉青沈韻
    中國(guó)版權(quán) 2023年2期
    關(guān)鍵詞:生成式人工智能合理使用

    馮曉青 沈韻

    關(guān)鍵詞:生成式人工智能;人工智能創(chuàng)作內(nèi)容;可版權(quán)性;版權(quán)歸屬;合理使用

    一、問題的提出:從決策式人工智能到生成式人工智能

    近期,美國(guó)人工智能研發(fā)公司Open AI公開發(fā)布一款名為ChatGPT的聊天機(jī)器人,憑借其高效、智能、準(zhǔn)確的生成內(nèi)容,迅速在全球范圍內(nèi)引發(fā)討論熱潮。ChatGPT以深度學(xué)習(xí)、大模型、人類反饋(RLHF)等信息技術(shù)為支撐,通過模擬人類語言邏輯與溝通表達(dá)習(xí)慣,實(shí)現(xiàn)以文字對(duì)話形式與人類用戶的在線互動(dòng)交談。相關(guān)對(duì)話內(nèi)容具有高度個(gè)性化與智能特征,甚至達(dá)到與人類語言表達(dá)無異的程度。實(shí)踐中,ChatGPT被廣泛應(yīng)用于各種應(yīng)用場(chǎng)景,例如,在線客服、智能搜索、代碼生成、文章撰寫等。

    ChatGPT本質(zhì)上是模擬或再現(xiàn)人類智力以生成全新內(nèi)容的文本生成模型,是一種典型的生成式人工智能。ChatGPT的成功“出圈”也表明,從決策式到生成式人工智能,人工智能領(lǐng)域正在發(fā)生變革性升級(jí)。在生成式人工智能誕生之前,人工智能模型以決策式人工智能為主。決策式人工智能根據(jù)輸入數(shù)據(jù)進(jìn)行處理、分析,輸出自主化決策結(jié)果,以算法推薦、自動(dòng)駕駛為典型的應(yīng)用場(chǎng)景。決策式人工智能旨在實(shí)現(xiàn)初步的分析功能,長(zhǎng)期作為人類生產(chǎn)活動(dòng)的輔助工具而存在。伴隨神經(jīng)網(wǎng)絡(luò)、大數(shù)據(jù)、深度學(xué)習(xí)技術(shù)的快速發(fā)展,人工智能領(lǐng)域迎來跨越式發(fā)展,出現(xiàn)了生成式人工智能這一新型人工智能模型。相較于決策式人工智能,生成式人工智能以更復(fù)雜的算法架構(gòu)作為技術(shù)支撐,具有模擬或再現(xiàn)人類思維過程與智力水平的技術(shù)功能。生成式人工智能以人工智能創(chuàng)作內(nèi)容(AIGC)為核心,通過算法賦予機(jī)器自我學(xué)習(xí)與進(jìn)化能力,能夠相對(duì)自主地輸出原創(chuàng)性內(nèi)容。

    生成式人工智能作為人工智能新范式,已經(jīng)逐漸替代決策式人工智能,成為一項(xiàng)人工智能領(lǐng)域的通用技術(shù),在技術(shù)應(yīng)用環(huán)節(jié)驅(qū)動(dòng)人工智能生成內(nèi)容的開發(fā)。目前,生成式人工智能已經(jīng)成為信息時(shí)代的關(guān)鍵技術(shù),賦能不同產(chǎn)業(yè)以及不同領(lǐng)域的發(fā)展,成為數(shù)字經(jīng)濟(jì)與產(chǎn)業(yè)革命的底層支撐。以生成式人工智能為代表的新技術(shù),正在改變傳統(tǒng)的內(nèi)容生產(chǎn)方式,導(dǎo)致版權(quán)保護(hù)面臨一定的問題與挑戰(zhàn)。生成式人工智能在版權(quán)領(lǐng)域引發(fā)的新問題主要集中在:一是生成式人工智能的主體資格認(rèn)定。生成式人工智能是否可以獲得和人類作者相同的法律主體地位,需要結(jié)合制度規(guī)范、基礎(chǔ)理論等多方面進(jìn)行論述。二是生成式人工智能創(chuàng)作內(nèi)容的法律屬性及其保護(hù)問題。理論與實(shí)務(wù)界在人工智能創(chuàng)作內(nèi)容是否構(gòu)成作品這一問題上尚未達(dá)成共識(shí)。明確生成式人工智能創(chuàng)作內(nèi)容的作品屬性,是構(gòu)建人工智能時(shí)代版權(quán)制度的前提。版權(quán)保護(hù)需要以人工智能創(chuàng)作內(nèi)容的可版權(quán)性為基礎(chǔ),進(jìn)一步分析其權(quán)利歸屬。三是生成式人工智能的版權(quán)侵權(quán)判定。生成式人工智能的不同技術(shù)階段面臨著不同的版權(quán)侵權(quán)風(fēng)險(xiǎn),其侵權(quán)責(zé)任承擔(dān)與豁免規(guī)則需要加以明晰。關(guān)于生成式人工智能的版權(quán)保護(hù),應(yīng)當(dāng)在不動(dòng)搖版權(quán)制度根基的原則下,化解人工智能新范式給傳統(tǒng)作品市場(chǎng)及版權(quán)保護(hù)帶來的巨大沖擊,充分回應(yīng)人工智能時(shí)代的文化產(chǎn)業(yè)保護(hù)需求。

    二、生成式人工智能的主體資格認(rèn)定

    伴隨生成式人工智能的普及,人工智能從輔助走向創(chuàng)造,對(duì)人類獨(dú)一無二的創(chuàng)作主體地位造成挑戰(zhàn)。人工智能時(shí)代,生成式人工智能能夠在沒有人類干預(yù)的情況下自主生成創(chuàng)造性內(nèi)容,因而生成式人工智能成為“創(chuàng)作”發(fā)生的真正動(dòng)因。版權(quán)制度需要回應(yīng)的首要問題即生成式人工智能是否可以成為著作權(quán)法意義上的法律主體。結(jié)合既有版權(quán)制度規(guī)范及其基礎(chǔ)理論體系,賦予人工智能以法律主體地位,既缺乏現(xiàn)實(shí)基礎(chǔ),也不符合民法制度的價(jià)值取向。

    (一)既有制度規(guī)范下生成式人工智能主體資格的否定

    《著作權(quán)法》第九條規(guī)定,著作權(quán)人是指“作者”以及“其他依照本法享有著作權(quán)的自然人、法人或者非法人組織”。結(jié)合《著作權(quán)法》第二條對(duì)享有著作權(quán)主體范疇的限定,著作權(quán)主體應(yīng)當(dāng)僅包括“中國(guó)公民、法人或者非法人組織”以及符合特定要求的“外國(guó)人、無國(guó)籍人”。因此,我國(guó)實(shí)在法下的著作權(quán)主體只能是自然人或由自然人集合形成的法定組織。既有著作權(quán)制度規(guī)范以自然人作者為原則、以自然人集合擬制作者為例外,遵循“人類中心主義”的基本理念。一直以來,《著作權(quán)法》是以自然人為創(chuàng)作主體而構(gòu)建起來的,將人類視為獨(dú)一無二的創(chuàng)作主體。無論是作者概念還是權(quán)利歸屬,版權(quán)保護(hù)均建立在存在人類作者的前提之上。生成式人工智能盡管已經(jīng)獲得強(qiáng)大的自主學(xué)習(xí)能力,具備高度智能化特征,但其本質(zhì)上并非自然人,因而無法成為符合《著作權(quán)法》規(guī)定的權(quán)利主體。

    不僅生成式人工智能主體資格在我國(guó)存在實(shí)在法方面的否定,從世界范圍來看,作者的自然人屬性也已經(jīng)成為普遍共識(shí)?!侗Wo(hù)文學(xué)和藝術(shù)作品伯爾尼公約》(以下簡(jiǎn)稱《伯爾尼公約》)第六條之二規(guī)定了只有自然人才可能享有的作者精神權(quán)利,由此可以推斷出《伯爾尼公約》對(duì)于作者自然人屬性的默示性規(guī)定。遵循《伯爾尼公約》,作者需要是“人”,這是各國(guó)版權(quán)法中一個(gè)長(zhǎng)期的假設(shè)。在英美法系方面,澳大利亞法院明確提出,對(duì)于原創(chuàng)文學(xué)作品,必須確定聲稱保護(hù)的具體作品以及這些作品的人類作者。德國(guó)作為大陸法系的代表性國(guó)家,根據(jù)其《著作權(quán)法》第7條的規(guī)定,著作權(quán)的主體必須是賦予作品以獨(dú)創(chuàng)性的人。因此,從國(guó)內(nèi)外版權(quán)制度規(guī)范來看,作者的自然人屬性并不存在爭(zhēng)議。生成式人工智能不能被賦予法律主體地位,否則將導(dǎo)致與既有版權(quán)制度規(guī)范的現(xiàn)實(shí)沖突。

    (二)民事基礎(chǔ)理論下生成式人工智能主體資格的否定

    基于法律制度的現(xiàn)實(shí)判斷,生成式人工智能主體在既有版權(quán)制度下不能成為適格權(quán)利主體。然而,隨著生成式人工智能的廣泛應(yīng)用,是否有必要將此類非人形態(tài)擬制為一種單獨(dú)的權(quán)利主體類型,使其能夠被納入人工智能時(shí)代的版權(quán)制度?歐盟提出確立人工智能的“電子人格”法律地位,將其擬制為新型權(quán)利主體。沙特阿拉伯也曾授予“索非亞”智能機(jī)器人以公民資格。然而,從民事基礎(chǔ)理論出發(fā),生成式人工智能的法律主體擬制有悖于傳統(tǒng)民事法理與價(jià)值取向,不可能具備版權(quán)主體資格。

    一方面,生成式人工智能不具有人格屬性,不符合將非人形態(tài)擬制為法律主體的傳統(tǒng)法理。盡管民法存在將法人這一非人形態(tài)擬制為法律主體的先例,但生成式人工智能與具備團(tuán)體人格屬性的法人存在本質(zhì)區(qū)別。法人作為一種無生命團(tuán)體,其人格的形成源于自然人共同意志的聯(lián)合。自然人的個(gè)人意志通過法人制度下的法定程序被轉(zhuǎn)化為一種共同意志。在共同意志的決定下,法人可以對(duì)外實(shí)施具體的法律行為。然而,無論是生成式人工智能整體本身還是其系統(tǒng)內(nèi)部的算法模塊單元,都不具備獨(dú)立意識(shí)。生成式人工智能所謂的選擇與判斷行為,無非是遵循特定算法模型自主運(yùn)行的結(jié)果,依賴于人類指令的輸入與算法模型的預(yù)先搭建。

    另一方面,生成式人工智能作為由計(jì)算機(jī)程序開發(fā)者創(chuàng)造出的對(duì)象,應(yīng)當(dāng)嚴(yán)格遵循民事基礎(chǔ)理念下的“人一物”二元對(duì)立論。追溯至羅馬法時(shí)代的民法最基本理念,市民社會(huì)的基本構(gòu)成被嚴(yán)格二元?jiǎng)澐譃槿伺c物。除了人之外的所有物質(zhì)構(gòu)成,都屬于物的范疇。生成式人工智能是由人類開發(fā)設(shè)計(jì)出來的。計(jì)算機(jī)程序開發(fā)者通過算法架構(gòu)模型的搭建、超大型數(shù)據(jù)集合的訓(xùn)練,使得生成式人工智能具備生成創(chuàng)造性內(nèi)容的技術(shù)功能。由于人類智力勞動(dòng)的投入,生成式人工智能本身構(gòu)成《著作權(quán)法》第三條的“計(jì)算機(jī)程序”作品,屬于可以被人類支配與使用的客體范疇。如果僅僅因?yàn)樯墒饺斯ぶ悄苣軌驅(qū)崿F(xiàn)“創(chuàng)作”行為而將其擬制為法律主體,將有悖于主客體不可互換的基本理念,導(dǎo)致人與物二者之間界限的混淆,造成對(duì)民法最根本基礎(chǔ)理念的毀滅性打擊。

    三、生成式人工智能創(chuàng)作內(nèi)容的法律屬性及其保護(hù)問題

    生成式人工智能不具有版權(quán)主體資格,但并不意味著其創(chuàng)作內(nèi)容當(dāng)然不構(gòu)成作品,不可以獲得版權(quán)保護(hù)。主體與客體應(yīng)當(dāng)是兩個(gè)相互平行的問題,各自遵循獨(dú)立的評(píng)判因素與判斷標(biāo)準(zhǔn)。以生成式人工智能不具有主體資格直接否定對(duì)其創(chuàng)作內(nèi)容的版權(quán)保護(hù),將會(huì)向公共領(lǐng)域釋放大量具有作品外觀的創(chuàng)造性內(nèi)容,不僅會(huì)在公共領(lǐng)域嚴(yán)重泛濫,而且導(dǎo)致版權(quán)制度作為一種滿足投資者預(yù)期回報(bào)的激勵(lì)機(jī)制的失靈。具體而言,生成式人工智能創(chuàng)作內(nèi)容的版權(quán)保護(hù)問題,需要以分析相關(guān)創(chuàng)作內(nèi)容具有可版權(quán)性為前提。在生成式人工智能創(chuàng)作內(nèi)容構(gòu)成受版權(quán)保護(hù)作品的基礎(chǔ)之上,我們應(yīng)進(jìn)一步分析其后續(xù)的版權(quán)歸屬問題,從而確定作品之上利益的最佳分配方式、促進(jìn)發(fā)揮作品的經(jīng)濟(jì)效益。

    (一)生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性

    《著作權(quán)法》第三條將作品定義為“文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨(dú)創(chuàng)性并能以一定形式表現(xiàn)的智力成果”,提出包括“特定領(lǐng)域”“以一定形式表現(xiàn)”在內(nèi)的作品形式要件以及“獨(dú)創(chuàng)性”實(shí)質(zhì)要件。生成式人工智能創(chuàng)作內(nèi)容屬于文學(xué)、藝術(shù)領(lǐng)域,借助文字、圖像、視頻等形式可被人類感知與欣賞。通常而言,相關(guān)創(chuàng)作內(nèi)容符合作品的形式要件。因此,生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性問題集中于“獨(dú)創(chuàng)性”這一作品的實(shí)質(zhì)要件。以下將從兩方面探討生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性:一是從生成式人工智能創(chuàng)作內(nèi)容的生產(chǎn)機(jī)制來看,生成式人工智能創(chuàng)作內(nèi)容與人類創(chuàng)造智力成果共享內(nèi)在邏輯;二是生成式人工智能創(chuàng)作內(nèi)容具有與人類作品一致的外在表達(dá)形式。

    1.基于內(nèi)在生產(chǎn)機(jī)制的可版權(quán)性

    生成式人工智能并非對(duì)人類智力的簡(jiǎn)單執(zhí)行,而是能夠模擬與再現(xiàn)人類作者的創(chuàng)作思維。根據(jù)世界知識(shí)產(chǎn)權(quán)組織的定義,“人工智能生成的”即“人工智能自主創(chuàng)造的”內(nèi)容,是指“在沒有人類干預(yù)的情況下由人工智能生成的內(nèi)容”。與“人工智能輔助完成的”內(nèi)容加以區(qū)分,后者需要大量人類干預(yù)和引導(dǎo)。因此,與決策式人工智能不同,此前的決策式人工智能只能根據(jù)程序開發(fā)者設(shè)計(jì)的既定算法,以海量數(shù)據(jù)為對(duì)象執(zhí)行使用者輸入的命令,最終在可預(yù)測(cè)范圍內(nèi)輸出自動(dòng)化決策結(jié)果;生成式人工智能則能夠從海量數(shù)據(jù)中自主構(gòu)建算法模型,獨(dú)立抓取相關(guān)素材以完成創(chuàng)造性內(nèi)容的輸出。

    從生成式人工智能創(chuàng)作內(nèi)容的生產(chǎn)機(jī)制來看,深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)作為支撐生成式人工智能的底層技術(shù),模擬與再現(xiàn)了人類創(chuàng)作的基本思維。生成式人工智能通過對(duì)海量數(shù)據(jù)的識(shí)別、處理與分析,基于深度學(xué)習(xí)自主歸納數(shù)據(jù)背后的規(guī)律與要素,不斷更新與進(jìn)化自身算法模型,最終生成脫離既定算法預(yù)設(shè)的創(chuàng)造性內(nèi)容。上述“模擬大腦”的過程,與人類作者學(xué)習(xí)、構(gòu)思并完成創(chuàng)作的思維過程沒有本質(zhì)差異。為執(zhí)行相同功能而開發(fā)的不同生成式人工智能,由于內(nèi)部算法架構(gòu)的不同,能夠生成具有個(gè)性的創(chuàng)造性內(nèi)容。即使是特定的生成式人工智能,在其每一次運(yùn)行中也都會(huì)面臨數(shù)據(jù)的自主選擇與分析,進(jìn)而生成差異性結(jié)果。⑿以ChatGPT為例,由于神經(jīng)網(wǎng)絡(luò)技術(shù)的隨機(jī)性,ChatGPT能夠自主判斷溝通主體的真實(shí)需求,根據(jù)對(duì)話指令的上下文邏輯以及用戶的即時(shí)反饋,生成不同的文字內(nèi)容。因此,生成式人工智能創(chuàng)作內(nèi)容具有相當(dāng)大的選擇與判斷空間,不同的創(chuàng)作內(nèi)容呈現(xiàn)高度的隨機(jī)性與自主性。生成式人工智能借助其運(yùn)行機(jī)制,再現(xiàn)了人類作者的創(chuàng)作過程,最終創(chuàng)作出一種類人的創(chuàng)造性智力成果。

    版權(quán)制度不保護(hù)“猴子自拍”“海豚表演”等非人主體創(chuàng)作的智力成果,成為質(zhì)疑生成式人工智能創(chuàng)作內(nèi)容獲得版權(quán)保護(hù)的主要依據(jù)之一。然而,忽視生成式人工智能內(nèi)在生產(chǎn)機(jī)制而否定其創(chuàng)作內(nèi)容可版權(quán)性的觀點(diǎn)不足采納。首先,動(dòng)物“創(chuàng)作”成果缺乏人類智力的投入,而生成式人工智能創(chuàng)作內(nèi)容卻與人類智力活動(dòng)密切相關(guān)。生成式人工智能的算法開發(fā)、機(jī)器學(xué)習(xí)以及內(nèi)容生成等各階段,都離不開自然人的參與。生成式人工智能的技術(shù)核心即人類反饋(RLHF)方法,本質(zhì)上所體現(xiàn)的依然是人類價(jià)值觀的輸出。人類基于自身偏好設(shè)置期望目標(biāo)并評(píng)判算法輸出結(jié)果,決定著算法模型的修正與進(jìn)化方向。其次,版權(quán)制度無法激勵(lì)動(dòng)物以及機(jī)器,但不同于動(dòng)物“作品”,激勵(lì)機(jī)器的開發(fā)與投資者顯得尤為重要。至少就目前而言,生成式人工智能創(chuàng)作內(nèi)容的生成需要人類開發(fā)、改進(jìn)、分配和使用人工智能,并傳播由此技術(shù)生成的創(chuàng)作內(nèi)容。版權(quán)保護(hù)的激勵(lì)可以在這些人類活動(dòng)中發(fā)揮其應(yīng)有的作用。⒂不同于版權(quán)制度在激勵(lì)動(dòng)物產(chǎn)出更多“作品”方面的無效,生成式人工智能背后龐大的人類主體可以獲得版權(quán)的正向激勵(lì),鼓勵(lì)有利知識(shí)存量增長(zhǎng)的原創(chuàng)性內(nèi)容的創(chuàng)作。

    2.基于外在表達(dá)形式的可版權(quán)性

    版權(quán)制度對(duì)作品概念存在主觀與客觀兩個(gè)方面的理解。主觀判斷標(biāo)準(zhǔn)以作者個(gè)性為核心,認(rèn)為作品應(yīng)當(dāng)體現(xiàn)作者思想、情感、精神等主觀因素??陀^判斷標(biāo)準(zhǔn)則強(qiáng)調(diào)作品的固有屬性,只要作品的表達(dá)在客觀上不同于既有作品,就認(rèn)為作品具有獨(dú)創(chuàng)性。對(duì)于由人類作者創(chuàng)作的作品而言,無論是遵循對(duì)獨(dú)創(chuàng)性概念的客觀或是主觀理解,并不會(huì)影響作品的版權(quán)保護(hù)基礎(chǔ)。二者之間能夠進(jìn)行相互補(bǔ)充與印證。然而,在分析生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性問題時(shí),理論界首次意識(shí)到其創(chuàng)作背后沒有人類。對(duì)此,版權(quán)制度有必要重新審視對(duì)作品以及獨(dú)創(chuàng)性概念的理解,明確一種合理有效的作品判斷標(biāo)準(zhǔn),以此為框架分析生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性。

    受到強(qiáng)調(diào)文本意義的“結(jié)構(gòu)主義”、去中心化的后現(xiàn)代主義思潮、以讀者為中心的“受眾反應(yīng)論”等基礎(chǔ)理論發(fā)展的影響,客觀判斷標(biāo)準(zhǔn)正在逐步取代主觀判斷標(biāo)準(zhǔn),成為理解作品獨(dú)創(chuàng)性概念的主要方式。根據(jù)世界知識(shí)產(chǎn)權(quán)組織的權(quán)威解釋,獨(dú)創(chuàng)性是指“作品是作者自己的創(chuàng)作,完全不是或基本不是從另一作品抄襲來的”。上述對(duì)獨(dú)創(chuàng)性概念的理解遵循客觀主義理念,從外在表達(dá)角度來評(píng)判作者的貢獻(xiàn),而不是調(diào)查作者的內(nèi)心精神活動(dòng)。在客觀主義理念下,計(jì)算機(jī)軟件、模型作品、數(shù)據(jù)庫等具備功能性作品可以成為版權(quán)適格客體,盡管這些作品實(shí)際上并不展現(xiàn)作者個(gè)性因素。事實(shí)上,作品是創(chuàng)作者的創(chuàng)作成果,而創(chuàng)作行為本身是一種事實(shí)行為,是一種客觀存在的事實(shí),無關(guān)創(chuàng)作者的主觀心態(tài)或意識(shí)。正如版權(quán)制度并不否定由兒童隨手涂鴉形成的繪畫構(gòu)成作品的可能性。⒄因此,獨(dú)創(chuàng)性是一種客觀概念,旨在保護(hù)作品本身所具有的創(chuàng)造力,而不是創(chuàng)造力的具體來源。

    在生成式人工智能領(lǐng)域構(gòu)建作品客觀判斷標(biāo)準(zhǔn)框架,具有更重要的現(xiàn)實(shí)意義。一方面,創(chuàng)作者內(nèi)心的思想情感和心理活動(dòng)無從把握,能被感知到的只有作品客觀的外在表達(dá)。作品的主觀因素難以衡量,創(chuàng)作者的意圖大多時(shí)候是隱藏且未知的。⒅無論是立法還是司法,都應(yīng)當(dāng)免除法官對(duì)主觀因素的查明義務(wù),防止法律陷入美學(xué)分析風(fēng)險(xiǎn)。美國(guó)弗蘭克法官曾舉例,復(fù)制者因?yàn)橐暳Σ缓谩⒓∪馊毕莼蚶茁曮@嚇而導(dǎo)致畫作偏離原有作品,產(chǎn)生足夠明顯的差異。該復(fù)制者可以將這種差異視為原創(chuàng)作品并據(jù)此獲得版權(quán)。⒆另一方面,版權(quán)制度執(zhí)行主觀判斷標(biāo)準(zhǔn),識(shí)別作品中作者個(gè)性投入的過程將導(dǎo)致巨大成本。尤其隨著生成式人工智能成為不可或缺的內(nèi)容生產(chǎn)方式,市場(chǎng)中充斥著由人與非人主體創(chuàng)作的作品。主體的故意隱瞞與署名標(biāo)注不充分,都將導(dǎo)致分類成本的激增。相比之下,采取獨(dú)創(chuàng)性客觀判斷標(biāo)準(zhǔn),是一種更行之有效的作品判定方式。

    版權(quán)制度采用客觀的獨(dú)創(chuàng)性概念,而生成式人工智能可以很容易地滿足作品構(gòu)成要件。一旦拋棄對(duì)作者個(gè)性等主觀因素的考量,由于生成式人工智能進(jìn)行了對(duì)數(shù)據(jù)素材的自主選擇和加工,生成式人工智能創(chuàng)作內(nèi)容不構(gòu)成對(duì)既有作品的抄襲、剽竊或篡改,當(dāng)然和原創(chuàng)性人類作品一樣具有可版權(quán)性。實(shí)踐中越來越多的事例表明,生成式人工智能創(chuàng)造內(nèi)容與人類作品在外觀上并無明顯差異。據(jù)有關(guān)新聞報(bào)道,美國(guó)近89%的大學(xué)生使用ChatGPT撰寫論文,甚至一舉拿下課程最高分;以色列總統(tǒng)在近兩萬名觀眾面前發(fā)表由ChatGPT自動(dòng)撰寫的演講稿?;谌斯ぶ悄軇?chuàng)作內(nèi)容所具有的版權(quán)客體外觀表征,已經(jīng)有國(guó)家認(rèn)可人工智能創(chuàng)作內(nèi)容的可版權(quán)性。例如,日本在人工智能創(chuàng)作內(nèi)容的版權(quán)保護(hù)上提出“相同對(duì)待”原則。⒇除可被明顯區(qū)分為人工智能創(chuàng)作內(nèi)容的情形,版權(quán)制度對(duì)人工智能創(chuàng)作內(nèi)容與人類作品予以相同對(duì)待,共同授予版權(quán)保護(hù)。

    (二)生成式人工智能創(chuàng)作內(nèi)容的版權(quán)歸屬

    生成式人工智能尚不具備版權(quán)主體資格,但其創(chuàng)作內(nèi)容符合可版權(quán)性要求。為了構(gòu)建以“作品一作者”構(gòu)造為核心的完整法律關(guān)系,版權(quán)制度需要確定生成式人工智能創(chuàng)作內(nèi)容之上的版權(quán)歸屬主體。圍繞生成式人工智能創(chuàng)作內(nèi)容的版權(quán)歸屬,理論與實(shí)務(wù)界主要提出以下四種解決路徑:一是“開發(fā)者說”,即版權(quán)歸屬創(chuàng)造生成式人工智能程序的算法開發(fā)者。二是“數(shù)據(jù)提供者說”。生成式人工智能創(chuàng)作內(nèi)容依賴海量數(shù)據(jù)的“喂養(yǎng)”,數(shù)據(jù)提供者享有版權(quán)保護(hù)利益。三是“使用者說”,即由最終用戶行使相關(guān)創(chuàng)作內(nèi)容的版權(quán)。四是“投資者說”。生成式人工智能作為大型公司或研究團(tuán)隊(duì)推出的創(chuàng)新性產(chǎn)品或服務(wù),應(yīng)當(dāng)由相關(guān)群體組織擁有創(chuàng)作內(nèi)容的產(chǎn)權(quán)。

    根據(jù)版權(quán)制度的基本原理,版權(quán)應(yīng)當(dāng)歸屬對(duì)作品作出實(shí)質(zhì)性貢獻(xiàn)的人。例如,英國(guó)版權(quán)法將對(duì)計(jì)算機(jī)創(chuàng)作“完成必要安排的人”視為作者。分析生成式人工智能的技術(shù)原理,由于生成式人工智能創(chuàng)作內(nèi)容以使用者訪問系統(tǒng)并輸入指令為觸發(fā)條件,使用者為機(jī)器創(chuàng)作作出必要的安排。缺少使用者的操作,機(jī)器創(chuàng)作活動(dòng)根本不會(huì)發(fā)生。從創(chuàng)作內(nèi)容來看,使用者實(shí)質(zhì)性地影響最終創(chuàng)作內(nèi)容的生成。雖然生成式人工智能創(chuàng)作內(nèi)容具有很強(qiáng)的自主性,但輸出內(nèi)容的主題類型仍然受到使用者給定指令范圍的限制,表達(dá)特征、語料風(fēng)格也受到使用者的直接控制。因此,創(chuàng)作內(nèi)容的觸發(fā)條件、主題類型和語料風(fēng)格的設(shè)置均由使用者完成,使用者作出更為直接的創(chuàng)作貢獻(xiàn)。實(shí)踐中,版權(quán)歸屬的“使用者說”已經(jīng)得到不少智能軟件的推廣。根據(jù)Open AI公司頒布的《共享與發(fā)布政策》文件顯示,ChatGPT要求“發(fā)布內(nèi)容的署名為用戶個(gè)人姓名或公司名稱”,并建議在合理位置標(biāo)注“在生成文字內(nèi)容時(shí),作者已經(jīng)根據(jù)自己的喜好審查、編輯和修改表述,并對(duì)公布內(nèi)容承擔(dān)最終責(zé)任”。

    在構(gòu)建以使用者為主導(dǎo)版權(quán)歸屬規(guī)則的同時(shí),也不應(yīng)當(dāng)忽視生成式人工智能可能涉及的其他利益主體。以投資者為例,生成式人工智能的研發(fā)涉及算法設(shè)計(jì)、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、修正校驗(yàn)等技術(shù)環(huán)節(jié),需要大量資金與昂貴設(shè)備的支持。投資者需要針對(duì)復(fù)雜的技術(shù)環(huán)節(jié)進(jìn)行人員與物資上的統(tǒng)籌安排,并最終承擔(dān)可能的研發(fā)失敗風(fēng)險(xiǎn)。因此,投資者參與也是生成式人工智能創(chuàng)作內(nèi)容的關(guān)鍵因素。版權(quán)制度需要以開放的規(guī)則設(shè)計(jì)容納對(duì)投資者利益的保護(hù)。鑒于此,生成式人工智能創(chuàng)作內(nèi)容的版權(quán)歸屬應(yīng)當(dāng)遵循約定優(yōu)先原則,允許圍繞生成式人工智能的相關(guān)主體以用戶條款、委托合同、合作協(xié)議等方式就版權(quán)歸屬等權(quán)益分配事項(xiàng)進(jìn)行事先約定。

    四、生成式人工智能的版權(quán)侵權(quán)責(zé)任判定

    生成式人工智能依靠文本和數(shù)據(jù)挖掘(TDM)技術(shù)完成機(jī)器學(xué)習(xí)過程。為生成符合人類語言邏輯和表達(dá)習(xí)慣的文字內(nèi)容,生成式人工智能需要將海量文字作品以可被機(jī)器識(shí)別的數(shù)據(jù)形式錄入算法系統(tǒng),以此形成龐大的數(shù)字化作品數(shù)據(jù)庫供生成式人工智能進(jìn)行下一步的數(shù)據(jù)標(biāo)注與模型訓(xùn)練。據(jù)不完全統(tǒng)計(jì),ChatGPT擁有相當(dāng)龐大的專門語料庫,其訓(xùn)練集涉及超過兩千萬的對(duì)話記錄,涵蓋英文、中文等多種語言。微軟公司開發(fā)的AI“小冰”的數(shù)據(jù)庫涵蓋自1920年代以來超過500位中國(guó)詩人的所有作品。生成式人工智能以獲取和利用既有作品為基礎(chǔ),必然涉及潛在的版權(quán)侵權(quán)風(fēng)險(xiǎn)。生成式人工智能可能構(gòu)成對(duì)何種著作權(quán)的侵害?如果使用作品行為構(gòu)成版權(quán)侵權(quán),應(yīng)當(dāng)由誰承擔(dān)相關(guān)的侵權(quán)責(zé)任?傳統(tǒng)版權(quán)領(lǐng)域的合理使用等版權(quán)侵權(quán)豁免是否可以適用于生成式人工智能?這些都是人工智能時(shí)代版權(quán)制度亟待解決的問題。

    (一)生成式人工智能的版權(quán)侵權(quán)認(rèn)定

    強(qiáng)化機(jī)器學(xué)習(xí)能力離不開對(duì)既有作品的大規(guī)模獲取與利用,其中的作品使用方式多元,可能侵害不同的權(quán)利內(nèi)容:一是復(fù)制權(quán)。生成式人工智能需要將受版權(quán)保護(hù)的作品轉(zhuǎn)換并制作為一份或者多份數(shù)字格式文件,存儲(chǔ)并形成數(shù)據(jù)作品庫,以便后續(xù)的文本和數(shù)據(jù)挖掘。這種數(shù)字化作品過程涉及對(duì)原作者復(fù)制權(quán)的侵犯。二是改編權(quán)。盡管生成式人工智能可能創(chuàng)作出具有獨(dú)創(chuàng)性的新作品,但如果該作品是在保留他人既有作品的基礎(chǔ)上進(jìn)行的演繹,仍然屬于侵害改編權(quán)的行為。三是匯編權(quán)。如果生成式人工智能經(jīng)過自主選擇或編排,匯集既有作品或者作品的片段而形成新作品,將會(huì)侵害不同作者的匯編權(quán)。四是信息網(wǎng)絡(luò)傳播權(quán)。通常而言,生成式人工智能的“機(jī)器學(xué)習(xí)”與“模型創(chuàng)建”位于智能系統(tǒng)內(nèi)部層面,不與公眾發(fā)生直接接觸;然而,隨著信息傳輸、大數(shù)據(jù)等計(jì)算機(jī)技術(shù)的廣泛應(yīng)用,數(shù)據(jù)集合容易在互聯(lián)網(wǎng)領(lǐng)域得到公開,使得公眾在其選定的時(shí)間和地點(diǎn)獲得相關(guān)數(shù)字化作品,相關(guān)情形可能侵犯原作者的信息網(wǎng)絡(luò)傳播權(quán)。

    關(guān)于生成式人工智能的侵權(quán)責(zé)任承擔(dān),應(yīng)當(dāng)結(jié)合具體侵權(quán)行為的發(fā)生原因加以判斷。如果生成式人工智能的原始算法架構(gòu)存在缺陷,例如,算法只是針對(duì)既有作品執(zhí)行同義詞或語序替換,這種“洗稿器”本身即構(gòu)成版權(quán)侵權(quán)工具,應(yīng)當(dāng)由生成式人工智能開發(fā)者承擔(dān)最終的侵權(quán)責(zé)任。如果是因?yàn)橛脩舻牟划?dāng)使用行為導(dǎo)致生成式人工智能創(chuàng)作出侵權(quán)作品,相關(guān)輸出內(nèi)容超出生成式人工智能開發(fā)者的控制和預(yù)期,那么該用戶應(yīng)當(dāng)作為直接責(zé)任人承擔(dān)相應(yīng)的版權(quán)侵權(quán)責(zé)任。

    (二)生成式人工智能的版權(quán)侵權(quán)豁免

    生成式人工智能獲取與利用受版權(quán)保護(hù)作品構(gòu)成轉(zhuǎn)換性使用,可以援引合理使用作為侵權(quán)豁免。法院在“谷歌案”中認(rèn)為,以實(shí)現(xiàn)圖書信息檢索服務(wù)功能為目的的片段式提供作品的行為構(gòu)成合理使用。這種轉(zhuǎn)換性使用行為旨在實(shí)現(xiàn)新的功能或創(chuàng)造新的價(jià)值,由于沒有再現(xiàn)作品本身的文學(xué)藝術(shù)價(jià)值或?qū)崿F(xiàn)其內(nèi)在的表意功能,不會(huì)對(duì)作者對(duì)其作品的正常使用造成影響,亦不會(huì)不合理地?fù)p害作者的合法利益。因此,如果生成式人工智能以實(shí)現(xiàn)機(jī)器學(xué)習(xí)功能為目的而獲取和利用作品,由于沒有對(duì)相關(guān)作品市場(chǎng)價(jià)值造成實(shí)質(zhì)性影響,將獲得合理使用的版權(quán)侵權(quán)豁免。隨著深度學(xué)習(xí)、大數(shù)據(jù)技術(shù)的成熟與完善,生成式人工智能對(duì)學(xué)習(xí)素材提出更高的數(shù)量要求。立法界已經(jīng)意識(shí)到在合理使用方面增設(shè)機(jī)器學(xué)習(xí)例外的必要性。如歐盟在《數(shù)字化單一市場(chǎng)版權(quán)指令》序言倡導(dǎo)“采取措施解決有關(guān)文本和數(shù)據(jù)挖掘的法律不確定性”;并通過第4條制定“文本和數(shù)據(jù)挖掘的例外或限制”,賦予相關(guān)主體“為文本和數(shù)據(jù)挖掘目的而對(duì)合法可訪問的作品和其他客體進(jìn)行復(fù)制和摘取的權(quán)利例外或限制”。為此,我國(guó)也需要盡快構(gòu)建生成式人工智能的版權(quán)侵權(quán)豁免制度,準(zhǔn)確劃分生成式人工智能獲取和利用作品的合法邊界,從而推動(dòng)人工智能創(chuàng)新的數(shù)據(jù)流動(dòng)與共享,助力人工智能產(chǎn)業(yè)的長(zhǎng)足發(fā)展。

    (作者馮曉青系中國(guó)政法大學(xué)教授、博士研究生導(dǎo)師;沈韻系中國(guó)政法大學(xué)知識(shí)產(chǎn)權(quán)法專業(yè)博士研究生)

    猜你喜歡
    生成式人工智能合理使用
    生成式人工智能的教育啟示:讓每個(gè)人成為他自己
    挑戰(zhàn)·融合·變革:“ChatGPT與未來教育”會(huì)議綜述
    生成式人工智能時(shí)代的政治傳播走向
    黨政研究(2023年3期)2023-05-29 01:10:39
    生成式人工智能重塑教育及教師應(yīng)對(duì)之道
    人機(jī)共生時(shí)代國(guó)際傳播的理念升維與自主敘事體系構(gòu)建
    生成式人工智能的教育應(yīng)用與展望
    信息自由與版權(quán)法的變革
    室外藝術(shù)品原作者署名權(quán)的行使規(guī)則案例分析
    資治文摘(2016年7期)2016-11-23 01:28:38
    淺析如何正確使用多媒體進(jìn)行高中政治教學(xué)
    南北橋(2016年10期)2016-11-10 17:24:59
    “非遺”圖像——淺談非物質(zhì)文化遺產(chǎn)的圖片拍攝
    午夜免费成人在线视频| 人妻丰满熟妇av一区二区三区| 色综合欧美亚洲国产小说| 亚洲男人的天堂狠狠| 日韩欧美在线二视频| 蜜桃久久精品国产亚洲av| 国产精品久久电影中文字幕| 亚洲国产欧美网| 国产精品亚洲美女久久久| 日韩精品中文字幕看吧| 午夜福利在线在线| 1024香蕉在线观看| 亚洲美女黄片视频| 香蕉av资源在线| 舔av片在线| 久久久精品欧美日韩精品| 免费电影在线观看免费观看| 看片在线看免费视频| 国产精品亚洲av一区麻豆| 亚洲中文日韩欧美视频| x7x7x7水蜜桃| 久久九九热精品免费| 一夜夜www| 欧美日韩中文字幕国产精品一区二区三区| 国产av一区在线观看免费| 国产在线观看jvid| 黄色a级毛片大全视频| av片东京热男人的天堂| 国产午夜精品久久久久久| 在线视频色国产色| 国产高清激情床上av| 999久久久国产精品视频| 99国产精品99久久久久| 欧美成人免费av一区二区三区| www国产在线视频色| 久久久精品国产亚洲av高清涩受| 禁无遮挡网站| 亚洲熟妇中文字幕五十中出| 国产私拍福利视频在线观看| 丰满的人妻完整版| 亚洲精品在线美女| 老熟妇乱子伦视频在线观看| 两个人看的免费小视频| 真人做人爱边吃奶动态| 午夜激情av网站| 悠悠久久av| 熟女少妇亚洲综合色aaa.| 可以在线观看毛片的网站| 亚洲国产精品合色在线| 夜夜躁狠狠躁天天躁| 老司机深夜福利视频在线观看| 99精品在免费线老司机午夜| 欧美一级a爱片免费观看看 | 欧美绝顶高潮抽搐喷水| 国产伦一二天堂av在线观看| 首页视频小说图片口味搜索| 国产精品一区二区免费欧美| 午夜激情av网站| 国产精品影院久久| 亚洲精品久久成人aⅴ小说| 免费av毛片视频| 国产午夜福利久久久久久| 日本黄色视频三级网站网址| 国产蜜桃级精品一区二区三区| 色综合站精品国产| 岛国视频午夜一区免费看| 中文字幕熟女人妻在线| 国产乱人伦免费视频| 视频区欧美日本亚洲| 国产激情久久老熟女| 在线观看免费视频日本深夜| 麻豆av在线久日| 一进一出好大好爽视频| 12—13女人毛片做爰片一| 熟妇人妻久久中文字幕3abv| 日韩三级视频一区二区三区| 国产av一区二区精品久久| 老司机深夜福利视频在线观看| 两性夫妻黄色片| 日韩大码丰满熟妇| 88av欧美| 亚洲av成人精品一区久久| 亚洲av第一区精品v没综合| 日本免费一区二区三区高清不卡| 亚洲一区二区三区色噜噜| 麻豆成人午夜福利视频| 国产成人一区二区三区免费视频网站| 国产又色又爽无遮挡免费看| 丰满人妻熟妇乱又伦精品不卡| 一级毛片女人18水好多| 9191精品国产免费久久| www.精华液| 18美女黄网站色大片免费观看| 亚洲专区中文字幕在线| 亚洲欧美激情综合另类| 久久精品国产99精品国产亚洲性色| 国产欧美日韩精品亚洲av| 无限看片的www在线观看| 国产精品乱码一区二三区的特点| 免费看a级黄色片| 婷婷精品国产亚洲av在线| 久久婷婷成人综合色麻豆| 欧美在线黄色| 制服丝袜大香蕉在线| 亚洲欧美激情综合另类| 午夜久久久久精精品| 中文字幕精品亚洲无线码一区| 国产精品自产拍在线观看55亚洲| 国产精品免费视频内射| 亚洲av中文字字幕乱码综合| 午夜影院日韩av| 在线观看日韩欧美| 一边摸一边做爽爽视频免费| 一本一本综合久久| 婷婷精品国产亚洲av| 欧美乱码精品一区二区三区| 热99re8久久精品国产| 国产午夜精品久久久久久| 超碰成人久久| 九九热线精品视视频播放| 99精品欧美一区二区三区四区| 丁香欧美五月| 在线十欧美十亚洲十日本专区| 久久 成人 亚洲| 熟女少妇亚洲综合色aaa.| 精品欧美国产一区二区三| 久99久视频精品免费| 毛片女人毛片| 亚洲成人久久爱视频| 可以在线观看的亚洲视频| 亚洲成av人片免费观看| 午夜老司机福利片| 99久久精品国产亚洲精品| 亚洲精品中文字幕一二三四区| av有码第一页| 在线观看www视频免费| 少妇熟女aⅴ在线视频| 悠悠久久av| 国产精品久久久av美女十八| 国产精品久久久久久精品电影| 中文字幕人成人乱码亚洲影| 久久天堂一区二区三区四区| 亚洲国产欧美一区二区综合| 国产久久久一区二区三区| 麻豆成人av在线观看| 在线免费观看的www视频| 天天添夜夜摸| 丰满人妻熟妇乱又伦精品不卡| 日本熟妇午夜| 人妻夜夜爽99麻豆av| 亚洲一区二区三区色噜噜| 丁香六月欧美| 婷婷亚洲欧美| 久久欧美精品欧美久久欧美| 久久婷婷成人综合色麻豆| 欧美三级亚洲精品| 亚洲美女视频黄频| 人成视频在线观看免费观看| 成人18禁在线播放| 婷婷亚洲欧美| 久久久久久大精品| 叶爱在线成人免费视频播放| 亚洲专区字幕在线| 熟女电影av网| 国产精品免费一区二区三区在线| 成年人黄色毛片网站| 亚洲欧洲精品一区二区精品久久久| svipshipincom国产片| 搞女人的毛片| 亚洲片人在线观看| 在线观看午夜福利视频| xxx96com| 日韩欧美 国产精品| 天堂动漫精品| 亚洲精品久久国产高清桃花| 又爽又黄无遮挡网站| 香蕉久久夜色| 波多野结衣高清无吗| 亚洲av日韩精品久久久久久密| 亚洲欧美日韩高清专用| 国产又黄又爽又无遮挡在线| 亚洲国产精品合色在线| 免费电影在线观看免费观看| 最近在线观看免费完整版| 黄色毛片三级朝国网站| 国产精品影院久久| 淫秽高清视频在线观看| 三级毛片av免费| 欧美日韩国产亚洲二区| 精华霜和精华液先用哪个| 国产精品自产拍在线观看55亚洲| 女人被狂操c到高潮| 特级一级黄色大片| 午夜影院日韩av| 午夜福利在线观看吧| 久久久久精品国产欧美久久久| 国产精品国产高清国产av| 亚洲国产欧洲综合997久久,| 蜜桃久久精品国产亚洲av| 国产高清视频在线播放一区| 母亲3免费完整高清在线观看| 日韩大尺度精品在线看网址| 99久久精品热视频| 免费看日本二区| 亚洲熟女毛片儿| 在线观看午夜福利视频| 一区二区三区国产精品乱码| 亚洲,欧美精品.| 欧美3d第一页| 亚洲成人久久性| 男女之事视频高清在线观看| 欧美色欧美亚洲另类二区| 无限看片的www在线观看| 最好的美女福利视频网| 床上黄色一级片| 黄片大片在线免费观看| 国产亚洲精品av在线| 久久精品人妻少妇| 舔av片在线| 制服人妻中文乱码| 一区二区三区激情视频| 亚洲熟妇中文字幕五十中出| 老司机午夜十八禁免费视频| 9191精品国产免费久久| 国产在线观看jvid| 日韩有码中文字幕| 好看av亚洲va欧美ⅴa在| 国产精品久久久久久亚洲av鲁大| 国产精品精品国产色婷婷| 亚洲天堂国产精品一区在线| 天天躁夜夜躁狠狠躁躁| 欧美一区二区国产精品久久精品 | 最近在线观看免费完整版| 久久人妻av系列| 天堂av国产一区二区熟女人妻 | 啦啦啦免费观看视频1| 亚洲精品中文字幕一二三四区| 校园春色视频在线观看| 久久久久久免费高清国产稀缺| 午夜免费成人在线视频| 后天国语完整版免费观看| 真人做人爱边吃奶动态| ponron亚洲| 久久精品aⅴ一区二区三区四区| 久久久久久久精品吃奶| 国产aⅴ精品一区二区三区波| 999久久久精品免费观看国产| 日韩欧美三级三区| 精品久久蜜臀av无| 欧美日韩精品网址| 美女高潮喷水抽搐中文字幕| 久久中文字幕人妻熟女| 中文字幕精品亚洲无线码一区| 亚洲午夜理论影院| 12—13女人毛片做爰片一| 久久久久久国产a免费观看| 精品一区二区三区四区五区乱码| 亚洲一区中文字幕在线| 在线永久观看黄色视频| 免费人成视频x8x8入口观看| 欧美一级a爱片免费观看看 | 国产精品日韩av在线免费观看| 一进一出抽搐动态| 一级毛片高清免费大全| 一a级毛片在线观看| 国产精品久久久久久人妻精品电影| 成人18禁在线播放| 亚洲精品中文字幕在线视频| 久久香蕉国产精品| 久久草成人影院| 亚洲色图av天堂| 日韩欧美三级三区| 国产视频内射| 亚洲最大成人中文| 黄色女人牲交| 久9热在线精品视频| 中文字幕av在线有码专区| 亚洲精品中文字幕在线视频| 久久久久久国产a免费观看| 亚洲色图 男人天堂 中文字幕| 男男h啪啪无遮挡| 99国产极品粉嫩在线观看| 国产一区二区三区在线臀色熟女| 精品久久蜜臀av无| 又黄又粗又硬又大视频| 欧美黑人精品巨大| 桃红色精品国产亚洲av| 成人精品一区二区免费| 欧美在线黄色| 久久性视频一级片| 久久午夜综合久久蜜桃| 日韩中文字幕欧美一区二区| 国产精品免费一区二区三区在线| 精品无人区乱码1区二区| 一进一出抽搐动态| 欧美乱色亚洲激情| 日韩 欧美 亚洲 中文字幕| 欧美黑人巨大hd| 怎么达到女性高潮| 男女午夜视频在线观看| 精品免费久久久久久久清纯| 欧美另类亚洲清纯唯美| 在线观看66精品国产| 午夜免费观看网址| 国产区一区二久久| 亚洲电影在线观看av| 九色成人免费人妻av| aaaaa片日本免费| 国产精品一区二区三区四区免费观看 | 俺也久久电影网| 午夜精品一区二区三区免费看| 亚洲成人久久性| 露出奶头的视频| 夜夜夜夜夜久久久久| 757午夜福利合集在线观看| 91字幕亚洲| 中文字幕熟女人妻在线| 国产精品 欧美亚洲| 女同久久另类99精品国产91| 变态另类丝袜制服| 狂野欧美激情性xxxx| 国产精品一区二区三区四区免费观看 | 成年女人毛片免费观看观看9| 在线观看免费视频日本深夜| 久久香蕉国产精品| 国产精品久久电影中文字幕| 男人舔奶头视频| 性色av乱码一区二区三区2| 色尼玛亚洲综合影院| 欧美绝顶高潮抽搐喷水| 一进一出好大好爽视频| 日本一区二区免费在线视频| 久久精品人妻少妇| 99久久无色码亚洲精品果冻| 国产激情欧美一区二区| 午夜视频精品福利| 亚洲av熟女| 久久国产精品人妻蜜桃| 国产av在哪里看| 国产成人精品无人区| 欧美成人免费av一区二区三区| 久久精品91蜜桃| 欧美日韩亚洲综合一区二区三区_| 精品无人区乱码1区二区| 曰老女人黄片| 亚洲熟妇熟女久久| 精品一区二区三区四区五区乱码| 成人国产综合亚洲| 美女黄网站色视频| tocl精华| 欧美性长视频在线观看| 一进一出好大好爽视频| 日韩有码中文字幕| 亚洲va日本ⅴa欧美va伊人久久| 欧美一区二区精品小视频在线| 亚洲男人天堂网一区| 日本一区二区免费在线视频| 无限看片的www在线观看| 久久久久久久久久黄片| 久久国产精品人妻蜜桃| 美女黄网站色视频| 一级毛片女人18水好多| 色综合站精品国产| 搡老熟女国产l中国老女人| 国产精品自产拍在线观看55亚洲| 欧美高清成人免费视频www| 90打野战视频偷拍视频| 欧美日韩国产亚洲二区| 国产高清有码在线观看视频 | 他把我摸到了高潮在线观看| 91麻豆av在线| 精华霜和精华液先用哪个| 99久久综合精品五月天人人| av在线播放免费不卡| 亚洲第一欧美日韩一区二区三区| 五月伊人婷婷丁香| 久久久国产成人精品二区| 天天躁狠狠躁夜夜躁狠狠躁| 午夜老司机福利片| 日韩欧美精品v在线| 首页视频小说图片口味搜索| 日韩 欧美 亚洲 中文字幕| 欧美极品一区二区三区四区| 久久亚洲精品不卡| 国产片内射在线| 久久99热这里只有精品18| 国产精品永久免费网站| 欧美黄色片欧美黄色片| 亚洲精品av麻豆狂野| 久久精品综合一区二区三区| 9191精品国产免费久久| 精品免费久久久久久久清纯| 国产黄片美女视频| 国产成人影院久久av| 午夜两性在线视频| 久久午夜亚洲精品久久| 又粗又爽又猛毛片免费看| 黄色片一级片一级黄色片| 国产精品影院久久| 欧美成人免费av一区二区三区| 在线视频色国产色| 久久伊人香网站| 香蕉av资源在线| 久久久久久久久免费视频了| 久久精品影院6| 精品国内亚洲2022精品成人| 亚洲精品粉嫩美女一区| 国产熟女xx| 叶爱在线成人免费视频播放| 欧美不卡视频在线免费观看 | 亚洲一区二区三区色噜噜| 一级作爱视频免费观看| 日韩免费av在线播放| 最近在线观看免费完整版| 悠悠久久av| 热99re8久久精品国产| 久久久久久人人人人人| 精品一区二区三区四区五区乱码| 久久久国产欧美日韩av| www.精华液| 国产精品,欧美在线| 国产在线精品亚洲第一网站| videosex国产| 熟妇人妻久久中文字幕3abv| 久久天躁狠狠躁夜夜2o2o| 成人特级黄色片久久久久久久| 真人一进一出gif抽搐免费| ponron亚洲| 欧美色欧美亚洲另类二区| 国产精品久久久av美女十八| 伦理电影免费视频| 日韩三级视频一区二区三区| 欧美日本视频| 久久亚洲真实| 麻豆久久精品国产亚洲av| 久99久视频精品免费| 男女午夜视频在线观看| 欧洲精品卡2卡3卡4卡5卡区| 久久久久久久久久黄片| 色综合婷婷激情| 香蕉丝袜av| 成人高潮视频无遮挡免费网站| 午夜福利在线观看吧| 亚洲中文字幕一区二区三区有码在线看 | 国产熟女午夜一区二区三区| 女人高潮潮喷娇喘18禁视频| 成人三级做爰电影| 1024香蕉在线观看| 成人一区二区视频在线观看| 黄色视频,在线免费观看| 成人高潮视频无遮挡免费网站| 精品久久久久久久末码| 一区二区三区高清视频在线| 日本撒尿小便嘘嘘汇集6| 国产成人系列免费观看| 国产又黄又爽又无遮挡在线| 视频区欧美日本亚洲| 亚洲国产欧美一区二区综合| 午夜激情av网站| 一级片免费观看大全| 亚洲国产高清在线一区二区三| 男插女下体视频免费在线播放| 日韩免费av在线播放| 性欧美人与动物交配| 亚洲片人在线观看| 精品国内亚洲2022精品成人| 日本免费a在线| 午夜激情av网站| 真人一进一出gif抽搐免费| 久久欧美精品欧美久久欧美| 亚洲国产中文字幕在线视频| 男女床上黄色一级片免费看| 好看av亚洲va欧美ⅴa在| 母亲3免费完整高清在线观看| 亚洲中文字幕一区二区三区有码在线看 | 国产97色在线日韩免费| 国产精品香港三级国产av潘金莲| 两个人看的免费小视频| 国产精品自产拍在线观看55亚洲| 国产精品一区二区精品视频观看| 成人av在线播放网站| 男女午夜视频在线观看| 高清在线国产一区| videosex国产| 国产乱人伦免费视频| 99在线视频只有这里精品首页| 人人妻人人澡欧美一区二区| 午夜成年电影在线免费观看| 亚洲av成人av| 国产成+人综合+亚洲专区| 99久久无色码亚洲精品果冻| 女同久久另类99精品国产91| 美女 人体艺术 gogo| 日韩 欧美 亚洲 中文字幕| 国产精品一区二区免费欧美| 国产精品av久久久久免费| 国产精品免费视频内射| 亚洲成人久久爱视频| 99re在线观看精品视频| 啦啦啦观看免费观看视频高清| 免费看美女性在线毛片视频| 变态另类成人亚洲欧美熟女| 精品熟女少妇八av免费久了| 一a级毛片在线观看| 午夜精品一区二区三区免费看| 叶爱在线成人免费视频播放| 中文亚洲av片在线观看爽| x7x7x7水蜜桃| 国产精品久久久久久精品电影| 麻豆一二三区av精品| 51午夜福利影视在线观看| 亚洲 欧美 日韩 在线 免费| 久久久久性生活片| 国产精品av视频在线免费观看| 99精品在免费线老司机午夜| 大型av网站在线播放| 久久久久久免费高清国产稀缺| 夜夜夜夜夜久久久久| 亚洲激情在线av| 久久精品人妻少妇| 午夜成年电影在线免费观看| 国产午夜精品久久久久久| 岛国在线观看网站| 亚洲色图 男人天堂 中文字幕| 天天躁狠狠躁夜夜躁狠狠躁| 精品久久久久久久久久免费视频| 亚洲九九香蕉| 熟女电影av网| 免费在线观看亚洲国产| 婷婷六月久久综合丁香| 人人妻人人看人人澡| 国产精品久久视频播放| 99国产极品粉嫩在线观看| 久久久久精品国产欧美久久久| 淫秽高清视频在线观看| 小说图片视频综合网站| 日本撒尿小便嘘嘘汇集6| 一进一出好大好爽视频| 欧美乱码精品一区二区三区| 日本一二三区视频观看| 人人妻人人澡欧美一区二区| 久久人妻av系列| 香蕉丝袜av| 亚洲精品在线美女| 国产v大片淫在线免费观看| 香蕉av资源在线| 久久久久免费精品人妻一区二区| 日韩大码丰满熟妇| 人人妻,人人澡人人爽秒播| 精品久久久久久成人av| 国产精品九九99| 欧美激情久久久久久爽电影| 18美女黄网站色大片免费观看| 国产精品一区二区三区四区免费观看 | 日韩大尺度精品在线看网址| av视频在线观看入口| 亚洲专区国产一区二区| 久久久国产成人免费| 一区福利在线观看| 国产1区2区3区精品| 精品久久久久久久末码| 2021天堂中文幕一二区在线观| 天堂影院成人在线观看| 在线观看美女被高潮喷水网站 | 一个人观看的视频www高清免费观看 | 在线观看66精品国产| xxxwww97欧美| 99热只有精品国产| 欧美乱色亚洲激情| 久久香蕉激情| 99久久精品热视频| 欧美日韩国产亚洲二区| 最近在线观看免费完整版| 一区福利在线观看| 99久久99久久久精品蜜桃| 高清毛片免费观看视频网站| 亚洲美女黄片视频| 国产探花在线观看一区二区| 亚洲国产欧美一区二区综合| 亚洲真实伦在线观看| 精品一区二区三区av网在线观看| 欧美zozozo另类| 亚洲专区中文字幕在线| 亚洲国产中文字幕在线视频| 久久久精品欧美日韩精品| 精品国产亚洲在线| 亚洲av电影不卡..在线观看| 露出奶头的视频| 亚洲精品在线美女| 美女扒开内裤让男人捅视频| 淫秽高清视频在线观看| 欧美三级亚洲精品| 熟女少妇亚洲综合色aaa.| 国产一区二区三区在线臀色熟女| 欧美成人午夜精品| 欧美一级毛片孕妇| 国产精品九九99| 亚洲人成网站在线播放欧美日韩| 成年女人毛片免费观看观看9| 国产一区二区激情短视频| 黑人巨大精品欧美一区二区mp4| www国产在线视频色| 国产精品日韩av在线免费观看| 熟女电影av网| 成人亚洲精品av一区二区| 久久久久久久午夜电影| 在线观看66精品国产| 免费看日本二区| videosex国产| 妹子高潮喷水视频| 熟女少妇亚洲综合色aaa.| 欧美性猛交╳xxx乱大交人| 两个人的视频大全免费| 精品久久久久久久久久久久久| 免费看美女性在线毛片视频|