• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能生成內(nèi)容之著作權(quán)保護

    2021-01-01 21:01:32鄒曉玫陳彥霞
    傳播與版權(quán) 2021年11期
    關(guān)鍵詞:作品著作權(quán)人工智能

    鄒曉玫 陳彥霞

    [摘要]人工智能的高速發(fā)展,使人工智能生成內(nèi)容在法律上應以何種方式進行保護,成為法律領(lǐng)域必須明確的問題。從技術(shù)特征和產(chǎn)生過程來看,人工智能是功能高度自主化的人類工具,法律領(lǐng)域應當防范人工智能帶來的功能風險,而非主體顛覆。人工智能的工具屬性并不必然否定人工智能生成內(nèi)容作為作品獲得法律保護的可能性。在外觀主義作品觀下,人工智能生成內(nèi)容通過設定外觀主義的“創(chuàng)造性”標準,實現(xiàn)其外在標識化,從而有條件地獲得著作權(quán)法保護?;诠ぞ邔傩砸暯?,人工智能作品以使用者為核心確立人工智能生成內(nèi)容的著作權(quán)歸屬,更有利于其獨立于智能工具本身的社會流轉(zhuǎn)和價值實現(xiàn)。

    [關(guān)鍵詞]人工智能;作品;著作權(quán);工具屬性

    人工智能技術(shù)的高速發(fā)展突破了傳統(tǒng)的工業(yè)制造領(lǐng)域,并迅速擴展到文學、藝術(shù)等社會科學領(lǐng)域?;诖髷?shù)據(jù)、智能算法和深度學習等新技術(shù)而形成的人工智能產(chǎn)品正在涉足人類以往只能以理性和獨有的理解表達能力才能勝任的工作:在新聞傳媒領(lǐng)域,繼美聯(lián)社利用Wordsmith人工智能新聞寫作平臺撰寫新聞稿[1]之后,騰訊公司開發(fā)了Dreamwriter用以批量撰寫財經(jīng)類新聞報道[2];在文學創(chuàng)作領(lǐng)域,2017年微軟的“小冰”創(chuàng)作了《陽光失去了玻璃窗》詩集,并正式出版[3];在繪畫領(lǐng)域,2018年紐約佳士得拍出第一幅人工智能畫作,其成交價高達43.2萬美元[4];人工智能在作詞、譜曲等方面也展現(xiàn)了強大的創(chuàng)作力[5]。

    人工智能“創(chuàng)作”能力的日新月異,一方面其極大地解放了人類的部分簡單腦力工作,使人能更多地投入其他復雜性腦力活動;另一方面其對現(xiàn)行的法律規(guī)范體系、權(quán)利銜接、利益流轉(zhuǎn),乃至法律主體資格提出了全方位的挑戰(zhàn)。當下,人工智能生成內(nèi)容的著作權(quán)爭議集中于以下三個相互關(guān)聯(lián)的問題。一是人工智能是否能夠構(gòu)成著作權(quán)法意義上的主體。二是人工智能生成內(nèi)容是否可以作為“作品”受到保護。三是人工智能生成內(nèi)容是否能夠享有著作權(quán)。如果能,該著作權(quán)應當歸屬于誰?本文試圖從人工智能的工具屬性出發(fā),基于人工智能工具的功能特殊性,討論外觀主義下的人工智能作品認定路徑,及其署名方式、著作權(quán)歸屬、侵權(quán)責任等具體制度的重構(gòu)方案,以期在立法成本和社會代價最小的前提下,確保人工智能生成內(nèi)容發(fā)揮和實現(xiàn)其應有的社會作用和商業(yè)價值,保護法律規(guī)范體系的內(nèi)在統(tǒng)一。

    一、人工智能的工具屬性:主體、客體或第三實體

    人工智能在自然科學領(lǐng)域并未形成一個完全統(tǒng)一的定義,一般可以認為人工智能是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術(shù)及應用系統(tǒng)的一門技術(shù)科學[6]。社會科學領(lǐng)域通常在“有特定外化功能的應用系統(tǒng)”意義上來研究“人工智能”的相關(guān)問題,并按照人工系統(tǒng)的智能強弱,將其劃分為弱人工智能和強人工智能[7]。弱人工智能通常指由人類直接操控的智能工具。法學界對弱人工智能的工具屬性和法律客體定位基本達成了共識,但對強人工智能及其法律地位仍存有較大爭議。學界對何為強人工智能存在不同看法,但概括而言其可表述為:如果某一人工系統(tǒng)表現(xiàn)的行為或功能能夠達到或超過同等情形下自然人所能達到的程度,便可稱之為強人工智能。有學者認為,即便是強人工智能意義上的機器人,本質(zhì)上仍是人類的創(chuàng)造物,不能成為法律上的主體[8];也有學者基于進化視角認為,“人工智能”與“自然智能”并無根本之分野,人工智能是人類自然創(chuàng)造的一種延續(xù),智能并非人類之特權(quán)[9];更有學者主張,人工智能是獨立于物質(zhì)(身體)和精神之外,而兼具兩者特點的第三種“技術(shù)實體”[10]。上述討論基本上集中于對人工智能本質(zhì)屬性的哲學或倫理主義反思。而筆者認為,作為一種實踐理性,任何法律制度的確立或否棄,至少要經(jīng)過正當性、規(guī)范性和社會性等層面的反思,才能夠做出判斷。因此,人工智能法律地位的探討應當兼顧智能系統(tǒng)的技術(shù)特征和法律規(guī)范的社會功能目標,在準確處理自然人與人工智能關(guān)系的同時盡可能地保持整個法律體系各部分之間的邏輯自洽。

    (一)人工智能是功能高度自主的工具

    人工智能技術(shù)本質(zhì)的理解,在自然科學領(lǐng)域至少包括符號主義、聯(lián)結(jié)主義和行為主義三大代表性流派[11]。符號主義將人類和計算機都視為物理符號系統(tǒng),因此計算機可以模擬人類的智能行為。其認為計算機可以將人類知識符號化,實現(xiàn)計算機學習過程。聯(lián)結(jié)主義則認為,人類思維的基礎(chǔ)是神經(jīng)元特有的結(jié)構(gòu)、網(wǎng)絡聯(lián)結(jié)方式和運行特點,其將研究重點放在對人腦神經(jīng)元的結(jié)構(gòu)性模擬上,認為結(jié)構(gòu)模擬實現(xiàn)可達成思維模擬實現(xiàn)。到目前為止,尚未有任何人造系統(tǒng)能完全模擬人腦神經(jīng)網(wǎng)絡的工作方式,大量的神經(jīng)網(wǎng)絡算法多是通過海量數(shù)據(jù)的深度學習,繞過了人腦模擬而實現(xiàn)了部分的智能化功能[12]。行為主義流派起源于控制論,其強調(diào)感知和行動,要求在互動中理解智能行為。如果一個人造系統(tǒng)在相同的環(huán)境下能夠表現(xiàn)與人相同或相似的行為或反應,無論其實現(xiàn)這種功能是基于機械的,還是符號的,或是神經(jīng)模擬的方式,都可以被視為人工智能系統(tǒng)。

    社會科學領(lǐng)域?qū)θ斯ぶ悄艿难芯拷^大多數(shù)基于行為主義的理解,偶有涉及符號主義或聯(lián)結(jié)主義立場。但無論從上述哪一種人工智能的技術(shù)理念出發(fā),人工智能在技術(shù)原理上都具有以下共性。其一,人工智能是對人類智能行為的不同路徑的模仿,其目標是實現(xiàn)機器類似于人的自主性外在行為,使人類能夠從部分簡單的腦力勞動(如去某地的路徑選擇)或重復性的體腦配合活動(如擦玻璃、掃地、汽車駕駛等)中解放出來。其二,任何一種人工智能的發(fā)展路徑到目前為止都只是對人的外在行為和反應方式的功能模仿,并未以實現(xiàn)類似人類主體意識作為研究目標。至今為止,任何人工智能(即使在最寬泛的意義上)也沒有出現(xiàn)類似人類主體意識,如情緒、自我、反省等主體性特征。其三,任何流派的人工智能實現(xiàn)自主性外在功能的目的,仍然是更好地滿足人類的需要,為人類改造世界提供助力。從這個意義上來說,人工智能時代下能與人類愉快攀談的機器人“索菲亞”和刀耕火種時代的石斧、石刀沒有本質(zhì)區(qū)別。從人工智能的評估技術(shù)來看,以“圖靈測試”[13]為代表的人工智能檢測方式,也是基于人造系統(tǒng)的外在功能來進行的,即將人工智能與人類置于同等情景。如果人類第三方無法憑交流互動過程或行為結(jié)果(如應答的反應、決策的準確度、所作詩文或譜曲的水平等)來區(qū)分哪些出自人,哪些出自機器,那么該機器可被認定為人工智能系統(tǒng)。

    以上人工智能的自然技術(shù)特性說明,高度自主化地實現(xiàn)特定類似人類行為的功能,是人工智能系統(tǒng)的設計目標和最終歸宿。人工智能是服務于人類需求、不具有獨立利益和需求的自動化工具,它與傳統(tǒng)工具的區(qū)別僅僅在于:人工智能不需要人類的直接操控(事實上間接操控是必不可少的),即可根據(jù)預先設定的程序獨立地完成特定行為或?qū)崿F(xiàn)特定功能。因此,人工智能不是主體,而是高度自主化、可實現(xiàn)特定功能的工具。

    (二)法律領(lǐng)域應防范人工智能的功能風險而非主體顛覆

    由上文的分析可見,人工智能是功能高度自主化的工具,不具備獨立的自我意識和符號化意義系統(tǒng),因此其不能也不需要成為法律領(lǐng)域的獨立主體。然而人工智能與傳統(tǒng)的工具確實存在重大區(qū)別:人工智能可以脫離人的直接控制,自主地完成特定的行為或?qū)崿F(xiàn)特定的功能。這雖然不足以構(gòu)成對現(xiàn)有法律主體資格的顛覆,但是其在行為結(jié)果的復雜性上確實形成了前所未有的新的風險。

    原有的法律規(guī)范結(jié)構(gòu)“意志—行為—結(jié)果—責任”被新的邏輯“意志—(工具—結(jié)果)—責任”所取代。在前人工智能時代,任何工具都是經(jīng)由意志主體的在場控制(包括遠程的在場控制)而作用于對象的,經(jīng)由工具產(chǎn)生的行為結(jié)果可直接視為操控者的意志所追求的結(jié)果,因此,由行為引發(fā)的后果和責任應當由工具的操控者承擔。而現(xiàn)在人工智能的工作方式則表現(xiàn)為智能系統(tǒng)在完全脫離人現(xiàn)場操控環(huán)境下的自主行為,該行為與對象或其他人發(fā)生作用,出現(xiàn)行為結(jié)果。由于工具使用者的缺席和人工智能行為結(jié)果的真實性,其行為后果和責任由誰承擔成為有爭議的問題。然而,操作者的缺席并不能改變?nèi)斯ぶ悄苁鞘苋瞬倏氐墓ぞ哌@一事實,其技術(shù)原理決定了人工智能系統(tǒng)是不可能做出超出其程序預設之外的行為的(系統(tǒng)故障除外)。如果程序預設是讓AlphaGo找到符合圍棋規(guī)則的最優(yōu)解,那么它是不會在找到最優(yōu)解之后而故意放棄的(打贏人類選手是人類對AlphaGo行為的解讀;對AlphaGo來說,它只是在按照設定的程序通過復雜計算找到最優(yōu)解,且這個解對它沒有意義,但對人類意義重大,包括對它的制造者和被它打敗的人類選手而言都具有重大意義)。這種操控者的缺席,使得意志主體和工具行為之間的關(guān)聯(lián)弱化,意志主體變得不易判斷(在此之前任何工具由哪一主體意志支配是一目了然的事情),意志主體的不明確也使法律責任的配置失去了明確的關(guān)聯(lián)結(jié)點。而人工智能工具的自主行為及其結(jié)果是客觀而真實的,如果不能明確該行為的意志主體和責任承擔者,這對法律體系和社會秩序的破壞也將是客觀真實存在的。因此,人工智能帶給法律領(lǐng)域的真實挑戰(zhàn)并非顛覆人(包括自然人和法人)作為唯一法律主體的地位,而是由于其特殊的功能和實現(xiàn)方式,使原有的法律關(guān)系邏輯鏈條出現(xiàn)斷裂或模糊不清。法律領(lǐng)域應對人工智能挑戰(zhàn)的核心任務在于,明確不同情形下人工智能工具的行為及其結(jié)果應當歸結(jié)為哪一主體的意志控制,以及該主體因其意志表達所應該承擔何種法律責任。

    二、外觀主義路徑下人工智能生成內(nèi)容的“作品”屬性

    人工智能作為功能自主化的人類工具,不能成為獨立的法律主體。但筆者并不認為否認人工智能的主體性必然導致否定其生成內(nèi)容的“作品”屬性。人工智能不具備獨立的意志和利益基礎(chǔ),并不意味其生成內(nèi)容不反映任何人類思想;其作品的存在價值不僅是滿足作者的表達需求,而且是為了滿足其他社會主體的精神享受和需要;而知識產(chǎn)權(quán)制度在致力于激勵個體創(chuàng)造性的同時,也不應當忽視對知識公共性的確認和保護。因此,面對人工智能生成內(nèi)容必然在相當長的一段時間內(nèi)與自然人作品共存,并高效率滿足不同社會需求的客觀現(xiàn)實,筆者認為以外觀主義路徑重構(gòu)“作品”的認定標準,在兼容并蓄的意義上允許人工智能生成內(nèi)容發(fā)揮其社會作用,可能是更為現(xiàn)實的制度考量。

    (一)基于知識公共性的外觀主義作品觀

    知識產(chǎn)權(quán)制度立足于這樣一種基本認識:組成社會的首先是作為個體的人,個人的天賦產(chǎn)生了創(chuàng)造性的智力成果,知識產(chǎn)權(quán)的功能在于使個體通過其創(chuàng)造獲得利益,從而激勵個體更積極地從事創(chuàng)造性活動。但這一認識忽視了人類知識的另一個重要屬性:知識的公共性,即任何新思想都利用了舊思想,個人的創(chuàng)造事實上取決于由人類集體產(chǎn)生的思想氛圍。因此,免費且充分共享的內(nèi)容,是支持和構(gòu)筑新內(nèi)容的關(guān)鍵[14]。知識的共有和共享是推進人類進步的另一個根本性動力,這就要求知識產(chǎn)權(quán)制度不僅應當重視對個體創(chuàng)造熱情的激勵,而且必須促進人類整體知識和思想的積累和共享。人工智能生成內(nèi)容的出現(xiàn),使人類整體的知識產(chǎn)品積累達到了前所未有的高度。因此,人們以知識的公共性為基礎(chǔ)來重新認識知識產(chǎn)權(quán)制度的功能、轉(zhuǎn)換“作品”認識的中心,在人工智能時代顯得尤為重要。

    在人工智能出現(xiàn)之前,所有的作品形成過程都是自然人以在場方式直接操控工具對人類自身思想、觀點或意志的表達。我國現(xiàn)行著作權(quán)法對所有發(fā)表和未發(fā)表的具有“創(chuàng)造性”的九大類作品均提供權(quán)利保護,其作品觀是以人格主義為基礎(chǔ),并兼顧創(chuàng)新激勵功能而建構(gòu)的[15]。換言之,我國現(xiàn)行著作權(quán)法是以“作者”的“意義表達”為重心來界定作品的本質(zhì)的。在人工智能不依靠直接操作者而自主生產(chǎn)特定生成內(nèi)容的過程中,雖然工具體現(xiàn)操作者意志的邏輯并未在根本上動搖,但是“作品”本身的外在價值相較其創(chuàng)作者的重要性更加凸顯。因此,作為著作權(quán)法保護基礎(chǔ)的“作品觀”應當在堅持“作者”為中心的“主體主義”同時,允許對人工智能生成內(nèi)容進行“作品價值”為核心的“外觀主義”認可,以期在激勵自然人個體創(chuàng)作積極性的同時,更好地滿足社會公眾的價值需求,有效促進人類整體知識成果的高速積累。

    人工智能生成內(nèi)容開啟了作品價值由“作者中心”向“受眾中心”的轉(zhuǎn)向。從社會關(guān)系角度觀察,作品是作者與受眾之間的中介物:作者的思想、情感和情緒以作品為載體實現(xiàn)了外化表達;作品經(jīng)由發(fā)表或其他途徑被受眾感知,引起受眾的思想、情感和情緒的共鳴或其他反應,并在受眾的精神世界被進行二次創(chuàng)作,受眾對作品形成獨特解讀。作品的中介地位決定了其在作者與受眾的關(guān)系中具有雙重價值:一方面它是作者的精神世界的外化表達,其存在本身(無論是否被受眾所知曉)即對作者具有價值;另一方面作品經(jīng)發(fā)表后使受眾獲得精神享受,具有情感溝通、思想交流等價值。我國現(xiàn)行著作權(quán)法的保護重心在于,以作者為核心的作品創(chuàng)作、傳播、收益,僅將作品滿足受眾的精神需求作為上述過程的當然結(jié)果,其保護的重心明顯向第一層次的作品價值傾斜。這在前人工智能時代是沒有問題的,因為在“作者—受眾”關(guān)系中,作者明顯處于主導地位,由作者來決定表達什么、如何表達。雖然作者在從事創(chuàng)作時可能會考慮受眾需求,但是這種受眾需求與作者的創(chuàng)作意志相比,并不占據(jù)主導地位。

    人工智能的出現(xiàn)使基于算法的作品創(chuàng)作過程實現(xiàn)了質(zhì)的飛躍:一方面,作者可以借助智能工具在短時間內(nèi)創(chuàng)作大量的作品,創(chuàng)作成本被極大地壓縮;另一方面,大數(shù)據(jù)和智能算法能夠通過數(shù)據(jù)收集和計算,在作品創(chuàng)作之前對受眾需求進行充分測算,并基于這種需求進行精神產(chǎn)品創(chuàng)作。人工智能的出現(xiàn)必將加快“數(shù)據(jù)驅(qū)動創(chuàng)作”時代的到來,“傳統(tǒng)的浪漫主義理論將無法為作者與作品的保護提供有說服力的支持”[16],必須轉(zhuǎn)而更加重視作品對受眾需求的滿足。作品之所以應當被保護的根本邏輯也不僅是它是否為特定自然人的智慧成果,而且要側(cè)重于考量它是否高效率、高質(zhì)量地滿足了社會主體的精神需求。而人工智能生成內(nèi)容作為人類操控智能工具的勞動產(chǎn)物,并未從根本上脫離人類人格和意志外化表達的屬性,也在高效率滿足社會主體需求上具有傳統(tǒng)自然人創(chuàng)作所不能企及的優(yōu)勢。如果以滿足社會精神產(chǎn)品需求的人類智慧結(jié)晶作為“作品”的外觀主義表達,那么人工智能生成內(nèi)容是毫無疑問的新型作品,且這種新型作品會在可預見的將來對傳統(tǒng)作品構(gòu)成強有力的競爭。

    (二)作品“創(chuàng)造性”的外觀標準

    人工智能主導下“數(shù)據(jù)驅(qū)動創(chuàng)作”時代的來臨,意味著傳統(tǒng)的自然人創(chuàng)作作品與人工智能生成內(nèi)容長時間廣泛共存將成為不可回避的現(xiàn)實。筆者認為,在承認原有的自然人作品人格主義保護路徑的基礎(chǔ)上,法律領(lǐng)域應當對人工智能生成內(nèi)容采取外觀主義的標準,判斷其“創(chuàng)造性”要件,有條件地承認人工智能作品與傳統(tǒng)自然人作品共同受到著作權(quán)法保護。

    首先,以人工智能生成內(nèi)容對受眾的價值作為核心標準判斷其“創(chuàng)造性”。傳統(tǒng)自然人作品的“創(chuàng)造性”屬性來源于其主體意志、思想和人格特質(zhì)的外化表達,因此無論是否發(fā)表,是否在外在表現(xiàn)形式上具有高度的新穎性,其都可以被視為作品。相比之下,人工智能生成內(nèi)容蘊含的人類智慧具有間接性、多元性特點,難以以外化方式直接觀察。但如果因人工智能本身的工具屬性而一概排除其生成內(nèi)容的作品屬性,則可能阻礙人工智能產(chǎn)業(yè)的發(fā)展,也與現(xiàn)實生活中人工智能生成的音樂、畫作、詩歌等被社會廣泛認知和接受的客觀事實不相適應。因此,筆者認為,在人工智能生成內(nèi)容滿足以下外觀“創(chuàng)造性”標準的前提下,其作品地位應當予以承認。一是公開發(fā)表的人工智能生成內(nèi)容能夠在相同情境下達到或超過自然人作品水平,并能滿足公眾的特定需求。二是該生成內(nèi)容在可識別的外觀意義上具有新穎性,且未對任何現(xiàn)有的自然人作品構(gòu)成抄襲或剽竊。三是人工智能工具使用者能夠證明對該工具是合法使用。四是如果該作品是人工智能在脫離自然人直接控制的情形下自主完成的,那么應明確該作品的生成是使用了人工智能工具及該工具的名稱。而未公開發(fā)表的人工智能生成內(nèi)容,則屬于智能工具使用者所擁有的客體。因其未對受眾產(chǎn)生影響,僅與人工智能使用者產(chǎn)生“人—工具”關(guān)系,筆者認為,不必對其進行作品屬性認定,按照一般財產(chǎn)客體保護即可。

    其次,不同操作者使用同一智能工具生成的相同外觀生成內(nèi)容,以優(yōu)先發(fā)表作為判斷作品和復制品的標準。同一智能系統(tǒng)有可能具有多個合法的使用主體,且多個合法主體也有可能使用同一個(或同一種)智能系統(tǒng)產(chǎn)生完全相同的生成內(nèi)容。由于基于相同的數(shù)據(jù)庫和相同的算法,所有這些生成內(nèi)容可能是在數(shù)據(jù)意義上的完全相同,如果基于外觀標準對全部相同生成內(nèi)容予以作品保護將會導致法律上的不經(jīng)濟,也會造成不同使用人之間的權(quán)利沖突或權(quán)利混淆。因此,筆者認為應當以首先發(fā)表為原則來區(qū)分上述相同的人工智能生成內(nèi)容,首先發(fā)表的具備外觀作品特性的生成內(nèi)容為作品原件,其后生成或先生成但未公開的相同外觀生成內(nèi)容為作品復制品。原件的所有者享有完整的作品權(quán)利保護,復制品的所有者如果是合法獲得智能工具使用權(quán)的,則可以擁有復制品的合法使用權(quán)和其他復制品相關(guān)權(quán)利。這不僅有利于實現(xiàn)人工智能生成內(nèi)容的權(quán)利保護,而且有助于激勵人工智能工具使用者充分利用智能工具的高效能特點,盡可能多地為社會創(chuàng)作具有新穎性的作品。

    (三)人工智能生成內(nèi)容的外在標識化

    無論是實現(xiàn)作品的外觀性評價,還是確定人工智能生成作品的原件和復制品,都必須以確定特定作品是人工智能生成內(nèi)容為前提。因此,要實現(xiàn)對人工智能生成內(nèi)容的有條件的作品保護,必須先要求明確其人工智能生成內(nèi)容的屬性。

    外在標識化是實現(xiàn)外觀主義作品評價的立足點。外在標識化是指借助人工智能自動生成的作品應當以顯著的方式表明該作品是人工智能生成內(nèi)容。例如騰訊利用Dreamwriter生成的新聞稿,應當署名騰訊作品,并注明Dreamwriter智能系統(tǒng)自動生成字樣。外在標識化至少能解決以下三個層面的問題。其一,通過標識明確該作品是人工智能生成內(nèi)容,才能確定其是按照傳統(tǒng)的自然人作品采用人格主義作品標準,還是按照人工智能生成內(nèi)容外觀主義標準來確定其作品屬性。其二,通過標識才能保證受眾知曉該作品是人工智能生成內(nèi)容,以便基于這一事實判定該作品的價值。人工智能生成內(nèi)容的事實可能提升也可能降低特定作品在受眾心目中的價值,但無論何種情況,受眾都應知情并具有做出自己判斷的權(quán)利。其三,通過標識才能確定相同外觀的人工智能生成內(nèi)容是否來自不同主體所擁有的相同智能工具,以及哪一主體擁有的是作品原件,哪一主體擁有的是作品復制品。

    三、以使用人為中心的人工智能作品著作權(quán)歸屬

    人工智能作品的權(quán)利歸屬也是一個比較復雜的問題。目前至少有六種不同的觀點,分別包括人工智能創(chuàng)制人、人工智能所有人、人工智能使用人、人工智能投資人、人工智能虛擬人以及公有領(lǐng)域,上述觀點基本涵蓋了與人工智能作品生成相關(guān)的各個利益方。筆者認為上述爭議存在的根本原因在于:在傳統(tǒng)自然人作品的模式下,作品著作權(quán)人與作品署名作者是高度統(tǒng)一的,是按照人格主義原則與作品表達意志主體的高度統(tǒng)一。但人工智能系統(tǒng)作為一種工具,其生成內(nèi)容是可以被其發(fā)明者、投資者實現(xiàn)占有,甚至所有權(quán)是分離的,因此按照傳統(tǒng)的人格主義標準,很難直接判斷其生成內(nèi)容的意志來源;即便做出判斷,該意志來源也未必適合作為其作品的署名人。這種工具的獨立性導致的權(quán)利扭結(jié),雖然可以通過對人工智能生成內(nèi)容外觀主義的作品標準認定和外在標識化的署名方式予以部分解決,但是人工智能生成作品的作者究竟應該是誰,著作權(quán)應該歸屬于哪一個主體仍然是不可回避的問題。

    (一)工具屬性決定了人工智能系統(tǒng)不能成為著作權(quán)人

    將人工智能系統(tǒng)本身作為作品署名人和著作權(quán)人,并不違背人工智能作品的外觀主義保護思路,但可能會造成署名權(quán)的浪費,且增加不必要的司法成本。著作權(quán)對人工智能工具本身不具有任何人格意義或財產(chǎn)意義。如前文所述,人工智能是人類制造的高度自主性工具,本身不具備任何主體意識或獨立的意志、利益。我國現(xiàn)行著作權(quán)法保護的是作者基于創(chuàng)造形成的人格權(quán)益以及由此產(chǎn)生的各種財產(chǎn)利益。無論是作者署名權(quán)為代表的人格權(quán)益,還是作品使用、傳播等帶來的經(jīng)濟收益,對人工智能工具本身而言都是毫無意義的。將人工智能生成作品的著作權(quán)歸屬于人工智能系統(tǒng)本身,可能帶來的唯一好處是著作權(quán)所代表的各項人格和財產(chǎn)利益可以跟隨人工智能工具本身的流轉(zhuǎn)而實現(xiàn)流轉(zhuǎn),并不需另行規(guī)定。但是這樣做會給法律領(lǐng)域帶來現(xiàn)實問題:一旦就某一人工智能作品產(chǎn)生了爭議,當事人和司法機關(guān)仍然需要花費人力、物力和時間去確定誰是適格的爭議對象。這將使著作權(quán)、署名權(quán)本應帶來的便利蕩然無存,造成法律運行意義上的巨大不經(jīng)濟。

    (二)發(fā)明人說和投資人說激勵效應明顯,但忽視了智能工具流轉(zhuǎn)性

    在人工智能生成作品的著作權(quán)歸屬問題上,已有學者注意到了其關(guān)注重心應當從人格主義的正當性向精神產(chǎn)品的社會傳播和激勵效應方向轉(zhuǎn)移。在現(xiàn)有的各項權(quán)利歸屬主張中,以人工智能發(fā)明人說和投資人說[17]最能體現(xiàn)強化激勵機制的立法追求。但上述兩種主張共同忽略了一個重要事實:人工智能工具并不等同于其生成內(nèi)容,雖然人工智能工具確實集中體現(xiàn)了發(fā)明者的智慧和投資者的組織力量,但是人工智能工具本身一經(jīng)完成,便可以脫離其創(chuàng)造者而獨立存在,使用其生成作品的很可能并不是它的創(chuàng)造者。如果我們將人工智能工具本身的發(fā)明專利權(quán)歸屬于其發(fā)明者,將其原始取得的所有權(quán)歸于其投資者,都是沒有問題的。但要進一步將該人工智能工具生成的作品著作權(quán)也歸屬于上述主體,則可能造成嚴重問題。假設某投資人A,組織包括發(fā)明人B在內(nèi)的大量技術(shù)工作者共同開發(fā)了智能繪畫機器人C。機器人完工后,A和B都沒有自用該機器人進行繪畫創(chuàng)作,而是將該機器人分別賣給了使用人D和E。如果C生成的作品著作權(quán)歸屬于A或B,那么D和E購買該智能機器人的動力就會大大降低。試想D或E花費重金購買的智能繪畫機器人,其生成的畫作要署名發(fā)明人B或投資人A,如果D或E想將該生成畫作出售或拍賣,D或E甚至都無法直接有效地證明自己是適格的交易主體,即便能夠通過合同證明其持有該人工智能生成內(nèi)容的合法性,D和E手中持有的機器人C的生成作品都是合法的,但無法彼此區(qū)分。這些都將給人工智能生成內(nèi)容的社會流轉(zhuǎn)帶來極大的困難。

    (三)著作權(quán)歸屬于使用人能夠最大化實現(xiàn)外觀主義的作品保護

    為了避免上述困境的出現(xiàn),筆者認為對該案例中人工智能生成內(nèi)容的權(quán)利歸屬應做如下制度設計更為合理。一是A作為投資人,享有人工智能機器人C的原始所有權(quán)。二是B作為主要發(fā)明人可以因其貢獻,于A處獲得報酬,并取得該發(fā)明專利的署名權(quán),專利的權(quán)利人可以由A和B根據(jù)我國專利法相關(guān)規(guī)定自行約定。三是人工智能機器人C被依法轉(zhuǎn)讓給D和E之后,D和E繼受取得C的所有權(quán)及使用權(quán)。D使用C生成的繪畫作品,署名作者為D,但其需注明為人工智能機器人C生成之作品;E使用C生成的繪畫作品,署名作者為E,但其也需注明為人工智能機器人C生成之作品。四是著作權(quán)法規(guī)定的因作品而產(chǎn)生的各項權(quán)利、義務和責任均由上述人工智能生成作品的署名作者承擔。五是如果D或E署名的人工智能生成作品造成了對他人權(quán)利的侵害,且能夠證明是由人工智能機器人C本身存在問題導致的,可以由D或E承擔責任后,向A追究產(chǎn)品質(zhì)量責任。

    以上以使用人為核心的人工智能作品著作權(quán)歸屬方式,能有效地分割人工智能工具本身的所有權(quán)流轉(zhuǎn)和人工智能生成作品的權(quán)利歸屬,確實立足于便利人工智能作品本身的外觀判斷和社會流轉(zhuǎn)來設計其權(quán)利歸屬。其一,分割地看待人工智能工具發(fā)明過程和人工智能作品生成過程,有助于權(quán)利界限的明晰化,不需要糾纏于人工智能之“智能”究竟何來,只需以外觀標準判定其生成內(nèi)容是否滿足人工智能作品的要件;如果符合外觀作品標準,其則享有著作權(quán),相關(guān)權(quán)利、義務、責任歸屬于署名使用人;如果不符合外觀作品標準,其則不享有著作權(quán),按照工具附屬物的屬性,依人工智能工具的物權(quán)歸屬判定其權(quán)利主體。其二,人工智能工具在不同使用者的控制下,有可能產(chǎn)生完全相同的作品(也有些智能工具的程序預設能避免出現(xiàn)重復作品)。而外觀主義的作品標準和并行的保護可以激勵使用者最大化地發(fā)揮人工智能工具的創(chuàng)新能力,相對于所有現(xiàn)有作品,具有可識別、新穎性的作品才可能成為使用者署名的作品;人工智能工具產(chǎn)生的相同作品發(fā)表在先的為原件,發(fā)表在后的為復制品。這樣可以激勵使用人為了自身的利益盡可能地利用人工智能工具創(chuàng)造新穎性、獨創(chuàng)性的人工智能作品,為社會提供更多不同的精神產(chǎn)品,從根本上實現(xiàn)“人工智能工具為人類提供更多物質(zhì)和精神享受”這一技術(shù)和法律的共同初衷。

    四、結(jié)論

    合理的權(quán)利設計可以使人工智能工具最大限度地發(fā)揮其技術(shù)優(yōu)勢,這是法律領(lǐng)域?qū)夹g(shù)革命最有力的回應,也是法律研究的根本歸宿。人工智能的工具屬性決定其不可能也不應該具有獨立的法律主體資格,但這并不必然否定將人工智能生成內(nèi)容作為作品獲得法律保護的可能性。在外觀主義作品觀下,傳統(tǒng)的自然人直接創(chuàng)作作品與人工智能生成作品同時獲得法律保護是有可能實現(xiàn)的。人工智能作品通過設定外觀主義的“創(chuàng)造性”標準,實現(xiàn)外在標識化,有條件地獲得著作權(quán)法保護。在上述工具主義視角下,以使用者為核心確立人工智能生成作品的著作權(quán)歸屬,更有利于人工智能作品獨立于人工智能工具本身的社會流轉(zhuǎn)和價值實現(xiàn),促進人工智能功能的充分發(fā)揮和人工智能產(chǎn)業(yè)的快速發(fā)展。

    [參考文獻]

    [1]李湘湘.美聯(lián)社Wordsmith自動化撰稿觀察[J].青年記者,2015(12):85.

    [2]張俊發(fā).人工智能新聞的著作權(quán)保護[J].山東科技大學學報(社會科學版),2019(06):51-58.

    [3]劉顏東.以“微軟小冰”為例淺析人工智能的應用[J].科技傳播,2019(12):113-115.

    [4]孫玉榮,劉寶琪.人工智能生成內(nèi)容的著作權(quán)問題探究[J].北京聯(lián)合大學學報(人文社會科學版),2020(01):86-91.

    [5]劉灝.AI技術(shù)在音樂領(lǐng)域的探索與應用:對于中國民族樂器種類以及樂器技法的識別[J].人民音樂,2019(10):20-23.

    [6]修春波.人工智能技術(shù)[M].北京:機械工業(yè)出版社,2018.

    [7]劉憲權(quán).對人工智能法學研究“偽批判”的回應[J].法學,2020(01):3-14.

    [8]牛天寶.否定與建構(gòu):人工智能時代的刑法應對:人工智能機器人侵害法益相關(guān)刑事責任分析[J].西南政法大學學報,2020(01):96-108.

    [9]李珍.人工智能的自然之維[J].云南社會科學,2020(01):40-46,186.

    [10]謝玲.精神、“人是機器”與人工智能:關(guān)于第三實體的討論[J].學術(shù)論壇,2019(06):15-21.

    [11]蔡自興.人工智能學派及其在理論、方法上的觀點[J].高技術(shù)通訊,1995(05):55-57.

    [12]徐慧麗.人工智能法律人格探析[J].西北大學學報(哲學社會科學版),2020(01):107-119.

    [13]孫正樑.人工智能生成內(nèi)容的著作權(quán)問題探析[J].清華法學,2019(06):190-204.

    [14]丹尼爾·李·克萊曼.科學技術(shù)在社會中:從生物技術(shù)到互聯(lián)網(wǎng)[M].張敦敏,譯.北京:商務印書館,2009.

    [15]曹新明,咸晨旭.人工智能作為知識產(chǎn)權(quán)主體的倫理探討[J].西北大學學報(哲學社會科學版),2020(01):94-106.

    [16]梁志文,李忠誠.論算法創(chuàng)作[J].華東政法大學學報,2019(06):46-59.

    [17]陳全真.人工智能創(chuàng)作物的著作權(quán)歸屬:投資者對創(chuàng)作者的超越[J].哈爾濱工業(yè)大學學報(社會科學版),2019(06):26-32.

    [基金項目]天津市哲學社會科學規(guī)劃項目“‘算法正義’視域下的數(shù)據(jù)權(quán)利體系研究”(項目編號:TJFX20-008)階段性成果;天津市高?!爸星嗄旯歉蓜?chuàng)新人才培養(yǎng)計劃”資助成果;天津商業(yè)大學“青年英才百人計劃”資助成果(資助時間2018.01.01-2021.12.31)。

    [作者簡介]鄒曉玫(1979—),女,浙江衢州人,天津商業(yè)大學法學院副教授;陳彥霞(1996—),女,甘肅定西人,天津商業(yè)大學法學碩士研究生。

    猜你喜歡
    作品著作權(quán)人工智能
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    做優(yōu)秀記者:如何從一般素材中“挖”重大新聞
    中國記者(2016年9期)2016-12-05 02:43:46
    對丁旭東音樂作品的探究和分析
    法國現(xiàn)實主義畫家米勒及其作品印象探究
    簡論20世紀的法國文學潮流
    考試周刊(2016年86期)2016-11-11 02:59:43
    數(shù)字出版的著作權(quán)保護問題研究
    信息時代圖書館數(shù)字化服務中的著作權(quán)問題探析
    美味也有“著作權(quán)”
    特別文摘(2016年18期)2016-09-26 15:40:17
    日日干狠狠操夜夜爽| 亚洲av成人不卡在线观看播放网| 麻豆av在线久日| 欧美激情 高清一区二区三区| 乱人伦中国视频| 亚洲熟女毛片儿| 欧美乱妇无乱码| 国产一卡二卡三卡精品| 国产精品综合久久久久久久免费 | 欧美激情久久久久久爽电影 | 久久亚洲精品不卡| 免费看十八禁软件| 精品国产美女av久久久久小说| 国产av一区二区精品久久| 午夜视频精品福利| 久久香蕉精品热| 亚洲欧美精品综合一区二区三区| 九色亚洲精品在线播放| 变态另类成人亚洲欧美熟女 | 国产精品乱码一区二三区的特点 | 国产精品免费视频内射| 在线十欧美十亚洲十日本专区| 欧美日本视频| 黄色毛片三级朝国网站| 日日爽夜夜爽网站| 国产伦一二天堂av在线观看| 国产成人免费无遮挡视频| 成年人黄色毛片网站| 久久久久久大精品| АⅤ资源中文在线天堂| 一a级毛片在线观看| 欧美日韩黄片免| 日韩欧美一区二区三区在线观看| 久久久久久大精品| 国产一区二区三区在线臀色熟女| 国产三级在线视频| 亚洲欧美精品综合一区二区三区| 日韩国内少妇激情av| 精品国内亚洲2022精品成人| 黄色毛片三级朝国网站| 亚洲专区中文字幕在线| 久久久久久久午夜电影| 母亲3免费完整高清在线观看| 狠狠狠狠99中文字幕| 97人妻精品一区二区三区麻豆 | 午夜福利在线观看吧| а√天堂www在线а√下载| a在线观看视频网站| 亚洲男人的天堂狠狠| 成人亚洲精品av一区二区| 成人免费观看视频高清| 好男人电影高清在线观看| 国产视频一区二区在线看| 国产亚洲av高清不卡| 纯流量卡能插随身wifi吗| 男女做爰动态图高潮gif福利片 | 国产欧美日韩一区二区三| 国产亚洲精品久久久久久毛片| 国产伦一二天堂av在线观看| 精品国产乱子伦一区二区三区| 人妻丰满熟妇av一区二区三区| 午夜两性在线视频| 亚洲自拍偷在线| 午夜a级毛片| 变态另类成人亚洲欧美熟女 | 又黄又粗又硬又大视频| 亚洲人成电影免费在线| 制服诱惑二区| 精品久久久久久久人妻蜜臀av | aaaaa片日本免费| avwww免费| 国语自产精品视频在线第100页| 久热爱精品视频在线9| 亚洲 欧美 日韩 在线 免费| 午夜福利欧美成人| 国产三级黄色录像| 国产午夜精品久久久久久| 亚洲成人久久性| 女人爽到高潮嗷嗷叫在线视频| 亚洲精品av麻豆狂野| 国内精品久久久久精免费| 熟妇人妻久久中文字幕3abv| 久久久久亚洲av毛片大全| 欧美在线黄色| 身体一侧抽搐| 精品高清国产在线一区| 99精品在免费线老司机午夜| 男男h啪啪无遮挡| 一二三四在线观看免费中文在| 成人三级黄色视频| 99国产精品免费福利视频| www.自偷自拍.com| 色哟哟哟哟哟哟| 亚洲欧美激情在线| 12—13女人毛片做爰片一| 12—13女人毛片做爰片一| 村上凉子中文字幕在线| 久久中文字幕一级| 久9热在线精品视频| 一区在线观看完整版| 大型av网站在线播放| 老汉色av国产亚洲站长工具| 18禁观看日本| 欧美日韩瑟瑟在线播放| 亚洲 国产 在线| 在线永久观看黄色视频| 国产野战对白在线观看| 国产一级毛片七仙女欲春2 | 国产亚洲欧美精品永久| 亚洲天堂国产精品一区在线| 亚洲国产欧美网| 亚洲专区中文字幕在线| 午夜免费观看网址| 亚洲第一青青草原| 亚洲精品国产精品久久久不卡| 两个人视频免费观看高清| 国产亚洲欧美在线一区二区| 午夜免费观看网址| 中文字幕人妻丝袜一区二区| 变态另类丝袜制服| 久久久久久久精品吃奶| 非洲黑人性xxxx精品又粗又长| 韩国av一区二区三区四区| 美女免费视频网站| 丝袜人妻中文字幕| 亚洲天堂国产精品一区在线| 757午夜福利合集在线观看| av电影中文网址| 久久久久久久久免费视频了| 少妇的丰满在线观看| 国产av一区在线观看免费| 久久青草综合色| 精品福利观看| 日韩成人在线观看一区二区三区| 在线观看免费日韩欧美大片| 亚洲国产欧美网| 999久久久国产精品视频| 在线视频色国产色| 亚洲自拍偷在线| 国产真人三级小视频在线观看| 亚洲国产精品999在线| 国产av一区二区精品久久| 99在线人妻在线中文字幕| 日本 欧美在线| 久久热在线av| 美女大奶头视频| av超薄肉色丝袜交足视频| 国产精品一区二区免费欧美| 手机成人av网站| 少妇熟女aⅴ在线视频| 非洲黑人性xxxx精品又粗又长| 午夜福利成人在线免费观看| 美女 人体艺术 gogo| 亚洲国产看品久久| 精品久久久久久,| 久久亚洲精品不卡| 亚洲第一青青草原| 日韩欧美免费精品| 欧美成狂野欧美在线观看| 国产成人一区二区三区免费视频网站| 性少妇av在线| 免费在线观看黄色视频的| 午夜久久久在线观看| 一级毛片女人18水好多| 丰满人妻熟妇乱又伦精品不卡| 91大片在线观看| 日韩欧美国产在线观看| 国产成人免费无遮挡视频| av免费在线观看网站| 久久久国产欧美日韩av| 大型av网站在线播放| 很黄的视频免费| 三级毛片av免费| 女人精品久久久久毛片| 老司机午夜十八禁免费视频| 丰满人妻熟妇乱又伦精品不卡| 日日夜夜操网爽| 曰老女人黄片| 亚洲片人在线观看| 黄频高清免费视频| 99国产精品一区二区蜜桃av| av有码第一页| 精品久久久久久久毛片微露脸| 18禁裸乳无遮挡免费网站照片 | 天堂动漫精品| 给我免费播放毛片高清在线观看| 大码成人一级视频| 欧美另类亚洲清纯唯美| 色尼玛亚洲综合影院| 天堂影院成人在线观看| 搞女人的毛片| 老熟妇仑乱视频hdxx| 亚洲激情在线av| 国产欧美日韩一区二区精品| 波多野结衣巨乳人妻| 国产高清视频在线播放一区| 嫩草影视91久久| 亚洲精品在线观看二区| 神马国产精品三级电影在线观看 | 非洲黑人性xxxx精品又粗又长| 9191精品国产免费久久| 久久久久亚洲av毛片大全| 长腿黑丝高跟| 久久中文字幕一级| 国产高清有码在线观看视频 | 自拍欧美九色日韩亚洲蝌蚪91| 亚洲色图 男人天堂 中文字幕| 看片在线看免费视频| 最好的美女福利视频网| 国产精品自产拍在线观看55亚洲| 国产精品 国内视频| 午夜精品久久久久久毛片777| 国产麻豆成人av免费视频| 婷婷丁香在线五月| 精品国内亚洲2022精品成人| 国产亚洲精品综合一区在线观看 | 成人亚洲精品av一区二区| 国产精品亚洲美女久久久| 夜夜看夜夜爽夜夜摸| av中文乱码字幕在线| 黄片小视频在线播放| 亚洲av电影在线进入| 色播亚洲综合网| 在线av久久热| 淫妇啪啪啪对白视频| 一二三四在线观看免费中文在| 国产主播在线观看一区二区| bbb黄色大片| netflix在线观看网站| 999精品在线视频| 中文字幕人成人乱码亚洲影| 午夜免费观看网址| 老汉色av国产亚洲站长工具| 国产精华一区二区三区| 国产激情久久老熟女| 两性午夜刺激爽爽歪歪视频在线观看 | 波多野结衣高清无吗| 国产亚洲精品第一综合不卡| 亚洲精品久久成人aⅴ小说| 天堂√8在线中文| a级毛片在线看网站| aaaaa片日本免费| 国产伦一二天堂av在线观看| 日韩精品青青久久久久久| 色播亚洲综合网| 午夜日韩欧美国产| 免费看a级黄色片| 色综合站精品国产| 在线观看午夜福利视频| 女人被狂操c到高潮| 欧美大码av| 9热在线视频观看99| 国产精品久久久久久亚洲av鲁大| 99re在线观看精品视频| 丝袜在线中文字幕| 日韩 欧美 亚洲 中文字幕| 精品人妻1区二区| 久久精品国产综合久久久| 国产精品亚洲一级av第二区| 两个人免费观看高清视频| 亚洲精华国产精华精| 我的亚洲天堂| 欧美午夜高清在线| 午夜福利成人在线免费观看| 成人三级黄色视频| 美女 人体艺术 gogo| 国产精品免费视频内射| 两个人视频免费观看高清| 看黄色毛片网站| 久久国产精品男人的天堂亚洲| 久久久久久久久久久久大奶| 最新在线观看一区二区三区| 丝袜美腿诱惑在线| 无人区码免费观看不卡| 日日摸夜夜添夜夜添小说| 国产欧美日韩一区二区三区在线| 99在线人妻在线中文字幕| 免费在线观看亚洲国产| 九色国产91popny在线| 麻豆国产av国片精品| 成人亚洲精品av一区二区| av电影中文网址| 久久久久久人人人人人| 宅男免费午夜| 少妇裸体淫交视频免费看高清 | 成人亚洲精品av一区二区| 熟妇人妻久久中文字幕3abv| 亚洲久久久国产精品| 18禁黄网站禁片午夜丰满| 女人爽到高潮嗷嗷叫在线视频| 国产高清视频在线播放一区| ponron亚洲| 亚洲国产毛片av蜜桃av| 亚洲av成人av| 丝袜人妻中文字幕| 久久午夜综合久久蜜桃| 97人妻天天添夜夜摸| 亚洲av电影在线进入| 亚洲欧洲精品一区二区精品久久久| 精品福利观看| 黑人巨大精品欧美一区二区蜜桃| 国产精品久久久av美女十八| 午夜福利,免费看| 麻豆av在线久日| 国产高清videossex| 中文亚洲av片在线观看爽| 1024香蕉在线观看| 99久久综合精品五月天人人| 搡老岳熟女国产| 久久天躁狠狠躁夜夜2o2o| 日本在线视频免费播放| 中文字幕高清在线视频| 中文亚洲av片在线观看爽| 亚洲美女黄片视频| 免费在线观看完整版高清| 午夜福利在线观看吧| 欧美日韩亚洲国产一区二区在线观看| 亚洲三区欧美一区| www.www免费av| 亚洲国产日韩欧美精品在线观看 | 两个人视频免费观看高清| 在线观看66精品国产| 亚洲成人久久性| 天堂√8在线中文| av片东京热男人的天堂| 亚洲电影在线观看av| 黄色视频不卡| 亚洲一卡2卡3卡4卡5卡精品中文| 久久伊人香网站| 欧美乱色亚洲激情| 午夜福利高清视频| 欧美激情极品国产一区二区三区| 两性夫妻黄色片| 久久国产亚洲av麻豆专区| 男女做爰动态图高潮gif福利片 | 黄色丝袜av网址大全| 日韩国内少妇激情av| 日韩精品免费视频一区二区三区| a级毛片在线看网站| 桃色一区二区三区在线观看| netflix在线观看网站| 12—13女人毛片做爰片一| 19禁男女啪啪无遮挡网站| 午夜精品在线福利| 热re99久久国产66热| 欧美+亚洲+日韩+国产| 日本免费a在线| 欧美国产日韩亚洲一区| 国产免费av片在线观看野外av| 国产精品久久电影中文字幕| 村上凉子中文字幕在线| 给我免费播放毛片高清在线观看| 啦啦啦观看免费观看视频高清 | 一区二区日韩欧美中文字幕| av在线天堂中文字幕| 美女 人体艺术 gogo| 又黄又爽又免费观看的视频| 亚洲视频免费观看视频| 一级作爱视频免费观看| 一本大道久久a久久精品| 欧美日韩中文字幕国产精品一区二区三区 | 婷婷丁香在线五月| 中文字幕精品免费在线观看视频| 黑人巨大精品欧美一区二区蜜桃| 午夜福利免费观看在线| 欧美日韩福利视频一区二区| 丝袜美足系列| 天天躁狠狠躁夜夜躁狠狠躁| videosex国产| 99久久综合精品五月天人人| 国产在线观看jvid| 午夜老司机福利片| 美国免费a级毛片| 最好的美女福利视频网| 亚洲狠狠婷婷综合久久图片| 首页视频小说图片口味搜索| 成人国产综合亚洲| 99在线人妻在线中文字幕| 女警被强在线播放| 9热在线视频观看99| 国产蜜桃级精品一区二区三区| 一级作爱视频免费观看| 欧美精品啪啪一区二区三区| 国产精品av久久久久免费| 欧美乱码精品一区二区三区| 搡老妇女老女人老熟妇| 又黄又爽又免费观看的视频| 国产精品久久视频播放| 欧美乱码精品一区二区三区| 日韩欧美一区视频在线观看| 欧美在线一区亚洲| 老司机午夜福利在线观看视频| 欧美日韩瑟瑟在线播放| 久久狼人影院| 又大又爽又粗| 中文字幕av电影在线播放| 在线观看免费视频网站a站| 免费在线观看黄色视频的| 好男人电影高清在线观看| 国内精品久久久久久久电影| 久久久国产欧美日韩av| 男人操女人黄网站| 熟妇人妻久久中文字幕3abv| 国产野战对白在线观看| 香蕉丝袜av| 国产亚洲欧美精品永久| 激情视频va一区二区三区| 国产精品自产拍在线观看55亚洲| 在线av久久热| 亚洲午夜精品一区,二区,三区| 亚洲成av片中文字幕在线观看| 亚洲情色 制服丝袜| 午夜福利,免费看| 日韩欧美在线二视频| 12—13女人毛片做爰片一| 亚洲精品国产精品久久久不卡| 亚洲人成伊人成综合网2020| 91九色精品人成在线观看| 亚洲第一av免费看| av超薄肉色丝袜交足视频| 亚洲在线自拍视频| av天堂在线播放| 久久天躁狠狠躁夜夜2o2o| 亚洲三区欧美一区| 欧美乱妇无乱码| 一二三四在线观看免费中文在| АⅤ资源中文在线天堂| 精品无人区乱码1区二区| 丝袜美足系列| 国产主播在线观看一区二区| 亚洲人成电影观看| 精品卡一卡二卡四卡免费| 亚洲成人精品中文字幕电影| 丝袜人妻中文字幕| 无限看片的www在线观看| 黄色视频,在线免费观看| 亚洲自偷自拍图片 自拍| 成在线人永久免费视频| 亚洲色图综合在线观看| 无遮挡黄片免费观看| 精品免费久久久久久久清纯| xxx96com| 婷婷精品国产亚洲av在线| 亚洲激情在线av| 最好的美女福利视频网| 亚洲黑人精品在线| 性欧美人与动物交配| 啦啦啦韩国在线观看视频| 啦啦啦 在线观看视频| 人人澡人人妻人| 亚洲视频免费观看视频| 欧美日韩亚洲国产一区二区在线观看| 日韩免费av在线播放| 欧美成人一区二区免费高清观看 | 中文字幕最新亚洲高清| 国产精品影院久久| 国产亚洲av嫩草精品影院| 久久久久国产精品人妻aⅴ院| 最近最新中文字幕大全免费视频| 国产亚洲av高清不卡| 99精品久久久久人妻精品| 国产亚洲精品第一综合不卡| 精品日产1卡2卡| 午夜福利18| 97超级碰碰碰精品色视频在线观看| 亚洲成人久久性| 国产精华一区二区三区| 黑人巨大精品欧美一区二区mp4| 国产成人精品久久二区二区91| 亚洲av片天天在线观看| 亚洲久久久国产精品| 久久草成人影院| 久久久久久免费高清国产稀缺| 色播亚洲综合网| 日日夜夜操网爽| 日本 av在线| 黄色片一级片一级黄色片| 亚洲欧美激情在线| 母亲3免费完整高清在线观看| 91在线观看av| 国产黄a三级三级三级人| 欧美乱码精品一区二区三区| 久久精品91无色码中文字幕| 午夜视频精品福利| 99久久综合精品五月天人人| 99精品欧美一区二区三区四区| 亚洲午夜理论影院| 中亚洲国语对白在线视频| 12—13女人毛片做爰片一| 日本一区二区免费在线视频| 国产成人欧美| 香蕉国产在线看| 日韩国内少妇激情av| 国产av一区二区精品久久| 免费在线观看亚洲国产| 精品一区二区三区视频在线观看免费| 久久中文字幕人妻熟女| 国产精品一区二区免费欧美| 黄色女人牲交| 免费不卡黄色视频| ponron亚洲| 老司机午夜福利在线观看视频| 国产私拍福利视频在线观看| 丝袜美足系列| 国产精品久久视频播放| 国产一级毛片七仙女欲春2 | 大陆偷拍与自拍| 久久人妻av系列| 美女午夜性视频免费| bbb黄色大片| 亚洲欧美日韩另类电影网站| 国产亚洲精品久久久久5区| 91九色精品人成在线观看| 女生性感内裤真人,穿戴方法视频| 久久伊人香网站| 国产精品,欧美在线| 热re99久久国产66热| 一级片免费观看大全| 亚洲熟女毛片儿| 一边摸一边抽搐一进一小说| 美女国产高潮福利片在线看| 深夜精品福利| √禁漫天堂资源中文www| 男女午夜视频在线观看| 青草久久国产| 成人国产综合亚洲| 中文字幕另类日韩欧美亚洲嫩草| 看片在线看免费视频| 亚洲熟妇熟女久久| 99国产精品99久久久久| 成在线人永久免费视频| 搞女人的毛片| 国产成人精品久久二区二区91| 少妇熟女aⅴ在线视频| 国产精品99久久99久久久不卡| 日日干狠狠操夜夜爽| 欧美激情久久久久久爽电影 | 国产精品美女特级片免费视频播放器 | 午夜福利视频1000在线观看 | 一区二区三区精品91| 亚洲欧美精品综合一区二区三区| 久久精品91无色码中文字幕| 亚洲熟女毛片儿| 欧美乱妇无乱码| 女人被躁到高潮嗷嗷叫费观| 国产精品美女特级片免费视频播放器 | 国产一级毛片七仙女欲春2 | 中文字幕色久视频| av在线播放免费不卡| 多毛熟女@视频| 88av欧美| 脱女人内裤的视频| 欧美激情极品国产一区二区三区| 久久 成人 亚洲| 欧美黑人欧美精品刺激| 精品国内亚洲2022精品成人| 一区二区日韩欧美中文字幕| 欧美一级毛片孕妇| 巨乳人妻的诱惑在线观看| 欧美黄色淫秽网站| 美女免费视频网站| 日日夜夜操网爽| av超薄肉色丝袜交足视频| 欧美一区二区精品小视频在线| 熟女少妇亚洲综合色aaa.| 国产亚洲欧美在线一区二区| av免费在线观看网站| 日本vs欧美在线观看视频| 日韩欧美三级三区| 亚洲va日本ⅴa欧美va伊人久久| 日韩av在线大香蕉| 精品不卡国产一区二区三区| 国产欧美日韩一区二区精品| 伊人久久大香线蕉亚洲五| 日韩有码中文字幕| 久久久久亚洲av毛片大全| 非洲黑人性xxxx精品又粗又长| 国产野战对白在线观看| 色综合欧美亚洲国产小说| 国产精品久久久人人做人人爽| 午夜免费鲁丝| 夜夜爽天天搞| 涩涩av久久男人的天堂| 午夜免费鲁丝| a级毛片在线看网站| 男女午夜视频在线观看| 看免费av毛片| 午夜福利在线观看吧| 波多野结衣av一区二区av| 成人欧美大片| 亚洲精品久久国产高清桃花| 国产成人系列免费观看| 真人做人爱边吃奶动态| 嫁个100分男人电影在线观看| 国产又爽黄色视频| 免费一级毛片在线播放高清视频 | 少妇粗大呻吟视频| 国产av一区在线观看免费| 国产伦人伦偷精品视频| 亚洲全国av大片| 久久热在线av| cao死你这个sao货| 免费看a级黄色片| 精品国内亚洲2022精品成人| 中亚洲国语对白在线视频| 天天躁狠狠躁夜夜躁狠狠躁| 日日夜夜操网爽| 日韩高清综合在线| 99re在线观看精品视频| 99久久99久久久精品蜜桃| 男人操女人黄网站| 色综合亚洲欧美另类图片| 国产精品乱码一区二三区的特点 | 男人舔女人下体高潮全视频| 亚洲国产日韩欧美精品在线观看 |