• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    綜述與評鑒:人工智能創(chuàng)作作品的現(xiàn)狀及法律保護(hù)路徑初探

    2019-01-03 23:10:19薛鐵成
    關(guān)鍵詞:獨創(chuàng)性著作權(quán)法人工智能

    薛鐵成

    (南京大學(xué) 法學(xué)院,江蘇 南京 210093)

    隨著互聯(lián)網(wǎng)大數(shù)據(jù)之共通性與互融性的進(jìn)一步加深,人工智能可以在給定目標(biāo)的前提下,利用海量數(shù)據(jù),尋求最優(yōu)的解決方案,實現(xiàn)利潤的最大化和治理效率最優(yōu)化,不斷受到官方、各行各業(yè)和法律理論界的重視。官方通過頒布一系列政策性文件,將人工智能發(fā)展提升為國家戰(zhàn)略;例如,《中國制造2025》、《國務(wù)院關(guān)于積極推進(jìn)“互聯(lián)網(wǎng)+”行動指導(dǎo)意見》、《機(jī)器人產(chǎn)業(yè)發(fā)展規(guī)劃》等文件的頒布;各行各業(yè)通過建立人工研發(fā)中心,研發(fā)和鼓勵本行業(yè)有關(guān)人工智能產(chǎn)品應(yīng)用,表示人工智能在該產(chǎn)業(yè)應(yīng)用是一個趨勢。例如,中國工商銀行人工智能理財研究中心、阿里巴巴人工智能大數(shù)據(jù)研究中心的建立和中國工商銀行的“摩羯智投”和阿里巴巴“天貓智選”人工智能的應(yīng)用等等。法律理論界通過研究人工智能能否為獨立的法律主體、法律應(yīng)當(dāng)如何對待人工智能產(chǎn)業(yè)發(fā)展、人工智能產(chǎn)品的侵權(quán)歸責(zé)原則等核心問題,以表示自己的“不甘落后。”例如以人工智能為主題在中國知網(wǎng)搜索,共檢索到綜述類文獻(xiàn)2320篇、政策研究型文章3543篇、期刊文獻(xiàn)85428篇等。司法實務(wù)界也以北京市互聯(lián)網(wǎng)法院的(2018)京0491民初239號民事判決書,表明了自己對人工智能創(chuàng)作物的立場。通過梳理與總結(jié)人工智能在著作權(quán)領(lǐng)域的實踐應(yīng)用、人工智能創(chuàng)作物能否獨立受法律保護(hù)的既有研究成果和域外人工智能的法律規(guī)制路徑,發(fā)現(xiàn)北京市互聯(lián)網(wǎng)法院的(2018)京0491民初239號民事判決書有諸多不合理之處。既有對人工智能發(fā)展應(yīng)然規(guī)律的背反跡象,也有漠視人工智能理論研究成果的跡象?;诖?,同時也為了更好地鼓勵人工智能在相關(guān)領(lǐng)域的應(yīng)用,文章客觀描述了著作權(quán)領(lǐng)域人工智能實踐應(yīng)用、創(chuàng)作作品能否受到法律獨立保護(hù)的理論研究成果和域外人工智能法律規(guī)制路徑的基礎(chǔ)上,對北京市互聯(lián)網(wǎng)法院(2018)京0491民初239號民事判決書予以評鑒,與此同時,提出構(gòu)建我國人工智能創(chuàng)作作品的法律規(guī)制路徑。期望對我國人工智能創(chuàng)作作品的法律保護(hù)理論研究有所裨益。

    一、人工智能創(chuàng)作作品的實踐、理論研究和域外立法綜述

    人工智能概念自McCarthy在Darth會議被正式提出后,經(jīng)過60多年的發(fā)展,其內(nèi)涵已經(jīng)遠(yuǎn)遠(yuǎn)超出人們的想象。它不再是人們通過賦予他們一系列的算法和指令而去發(fā)揮特定的功能;而是可以通過模仿人類的神經(jīng)和智能去完成初步進(jìn)化,并根據(jù)人類的發(fā)展需要,生產(chǎn)出迎合人類需求的產(chǎn)品。[1]同時,由于人工智能的高智化產(chǎn)品的出現(xiàn),也引發(fā)了一系列產(chǎn)權(quán)問題,引起了法學(xué)家和各國立法的關(guān)注。

    (一)人工智能創(chuàng)作作品的實踐

    由于人工智能能根據(jù)人類需求,創(chuàng)作出迎合人類需求的產(chǎn)品,所以在實踐中被廣泛應(yīng)用。例如,人工智能創(chuàng)作在音樂、電影、小說、詩歌、繪畫和自主排版的新聞作品與書籍等方面的應(yīng)用。詳言之,如下:

    第一,人工智能創(chuàng)作在音樂領(lǐng)域的應(yīng)用。2016年日本索尼公司CSL實驗中心的人工智能Flow Machine,自主創(chuàng)作了一首類似甲殼蟲樂隊的流行歌曲《爸爸的車》(Daddy's car),其流行程度,位于同期的流行歌曲排行榜榜首。[2]2016年,谷歌啟動的名為Magenta項目,創(chuàng)作了時長90秒的人工智能歌曲;多倫多大學(xué)一支團(tuán)隊利用超過100小時的圣誕節(jié)音樂去訓(xùn)練神經(jīng)網(wǎng)絡(luò),在設(shè)計了旋律之后,創(chuàng)作出了人工智能圣誕頌歌等。[3]

    第二,人工智能創(chuàng)作在電影領(lǐng)域的應(yīng)用。2016年軟件開發(fā)者和漫畫家安迪·赫德(Andy Herd)創(chuàng)作的人工智能情景劇“堪比大衛(wèi)·林奇(David Lynch)”;[4]??怂估肐BM“沃森”創(chuàng)作的人工智能驚悚片《Morgan》、2016年電影制片人奧斯卡·沙普(Oscar Sharp)和人工智能研究員羅斯·古德溫(Ross Goodwin),通過人工智能拍攝的人工智能微電影《Sunsprint》等。[5]

    第三,人工智能創(chuàng)作在文學(xué)創(chuàng)作領(lǐng)域的應(yīng)用。2016年通過日本國家文學(xué)獎第一輪評選的人工智能小說《計算機(jī)創(chuàng)作小說的那一天》;[6]2016年,詩人兼軟件工程師卡梅爾·埃里森(Karmel Allison)創(chuàng)作的人工智能詩歌“Deep Gimble I”。[7]2017年5月由北京聯(lián)合出版公司出版的人工智能詩歌集《陽光失了玻璃窗》等。[8]

    第四,人工智能創(chuàng)作在繪畫創(chuàng)作領(lǐng)域的應(yīng)用。2016年2月,谷歌舉辦了機(jī)器制作的藝術(shù)展,并拍賣了由Deep Dream算法制作的29幅作品。其中有一幅作品拍賣到了8000美元。[9]2016年,EyeEm雜志利用一種算法——分析分析照片并評價其藝術(shù)價值,培養(yǎng)了人工智能的審美品位,出版了一份完全由人工智能編輯的雜志EyeEm雜志。[10]The Associated Press與Automated Insights公司合作開展的人工智能寫作平臺 Wordsmith等。[11]

    另外,人工智能相較于自然人創(chuàng)作主體,在音樂創(chuàng)作領(lǐng)域,在創(chuàng)作歌曲內(nèi)容的選擇上,其可以根據(jù)聽眾的喜好,自主創(chuàng)作出易于受眾群體接受的作品;主題選取內(nèi)容由傳統(tǒng)繁雜的人工到智能定制化。在電影創(chuàng)作領(lǐng)域的應(yīng)用,其可以在主題鮮明的前提下,創(chuàng)造出更好被人接受的作品,同時也可以使電影從傳統(tǒng)的面式營銷到智能化精準(zhǔn)傳遞,擴(kuò)大電影的經(jīng)濟(jì)效應(yīng)。在文學(xué)創(chuàng)作領(lǐng)域的應(yīng)用,其可能打破傳統(tǒng)的出版流程鏈,出版內(nèi)容脫離人的干預(yù),從人為生產(chǎn)到智能自動創(chuàng)作。在繪畫、自主排版新聞作品和創(chuàng)作書籍領(lǐng)域的應(yīng)用,其相對于人工不僅具有高效便捷的優(yōu)勢,同時具有巨大的商業(yè)價值。

    (二)人工智能創(chuàng)作作品能否獨立受法律保護(hù)的理論研究現(xiàn)狀

    伴隨著人工智能在知識產(chǎn)品創(chuàng)作領(lǐng)域應(yīng)用的深化,其引發(fā)的侵權(quán)和維權(quán)問題也時有發(fā)生。例如上述索尼CSL研究實驗室創(chuàng)作的人工智能歌曲,是索尼Flow Machine軟件中輸入了超過1.3萬首不同的流行歌曲創(chuàng)作出來的,人工智能微電影《Sunsprint》是利用電影《捉鬼敢死隊》、《銀翼殺手》,以及電視劇《X檔案》的劇本創(chuàng)作出來的,其不免涉及到到對原參考作品的侵權(quán)。與此同時,自然人創(chuàng)作作品也不免有參考和引用人工智能創(chuàng)作作品的例子,例如北京市互聯(lián)網(wǎng)法院的(2018)京0491民初239號民事判決書,就是針對于自然人創(chuàng)作主體侵犯人工智能創(chuàng)作作品的例子。如何看待人工智能創(chuàng)作作品的侵權(quán)問題和維權(quán)問題,不僅值得理論界的深思,而且也值得理論界不斷研究。但是,針對該問題隱設(shè)的前提,人工智能創(chuàng)作作品能否受法律獨立保護(hù),理論界還存在爭議。

    通過梳理人工智能創(chuàng)作作品能否獨立受法律保護(hù)的理論研究成果,主要存在肯定說、否定說和折中說。其主要聚焦于人工智能創(chuàng)作作品是否具有獨創(chuàng)性而對其展開討論??隙ㄕf認(rèn)為人工智能創(chuàng)作作品應(yīng)當(dāng)受法律保護(hù)。諸如,有學(xué)者從人工智能創(chuàng)作作品的獨創(chuàng)性角度,論證人工智能創(chuàng)作應(yīng)當(dāng)受法律獨立保護(hù)。(1)李宗輝所著《人工智能創(chuàng)作物版權(quán)保護(hù)的正當(dāng)性及版權(quán)歸屬》和尹鵬所著《機(jī)器人應(yīng)該享有著作權(quán)嗎》一文中均指出,只要人工智能創(chuàng)作之作品符合版權(quán)法獨創(chuàng)性的規(guī)定,就應(yīng)當(dāng)授予其保護(hù)。孫山在《人工智能生成內(nèi)容著作權(quán)法保護(hù)的困境與出路》一文指出,獨創(chuàng)性判斷的對象只能是已經(jīng)生成的表達(dá)本身,智力成果的結(jié)論只能根據(jù)已經(jīng)生成的表達(dá)結(jié)果進(jìn)行推定,在具備生成一定數(shù)量不重復(fù)內(nèi)容可能性的情況下推定為智力成果,“思想”“人格”不具有實質(zhì)上的規(guī)范意義。因此,人工智能生成內(nèi)容符合作品的構(gòu)成要件。馬治國所著的《人工智能創(chuàng)作物的作品定性與制度安排》一文指出,根據(jù)國內(nèi)外關(guān)于作品“獨創(chuàng)性”標(biāo)準(zhǔn)的理論與實踐,可將其本質(zhì)要求歸結(jié)為“獨立完成”并具備“與眾不同的表達(dá)”兩個方面。通過深度學(xué)習(xí)網(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí),人工智能創(chuàng)作物已經(jīng)可以滿足這一要求,進(jìn)而被納入著作權(quán)法保護(hù)的范圍。有學(xué)者從應(yīng)然的角度論述人工智能創(chuàng)作作品應(yīng)當(dāng)受法律保護(hù)。(2)魏麗麗所著《人工智能生成物的著作權(quán)問題探討》一文指出,出于人工智能產(chǎn)業(yè)健康、持續(xù)發(fā)展的考量以及人工智能生成物的自身屬性和特點,應(yīng)當(dāng)在現(xiàn)行著作權(quán)法律體系內(nèi)創(chuàng)設(shè)新的鄰接權(quán)權(quán)利類型,同時對人工智能生成物予以類型化區(qū)分,以對具有一定程度創(chuàng)造性的人工智能生成物給予鄰接權(quán)保護(hù)。馬治國所著的《人工智能創(chuàng)作物的作品定性與制度安排》一文也指出,為平衡效率與公平之間的關(guān)系,按照我國著作權(quán)法立法的宗旨,應(yīng)當(dāng)以保護(hù)、鼓勵和促進(jìn)為原則,以激勵機(jī)制為基礎(chǔ)對人工智能創(chuàng)作物的著作權(quán)制度進(jìn)行重新安排。有學(xué)者從賦予人工智能創(chuàng)作物作品屬性的優(yōu)勢出發(fā),論述人工智能創(chuàng)作的作品應(yīng)當(dāng)受獨立的法律保護(hù)。(3)孫松所著《人工智能創(chuàng)作內(nèi)容的作品定性與制度因應(yīng)》一文指出,人工智能的出現(xiàn)和發(fā)展,在打破作品創(chuàng)作主體一元化模式的同時,也使得著作權(quán)法律制度呈現(xiàn)出“灰色”的適用困境??隙ㄈ斯ぶ悄軇?chuàng)作內(nèi)容的作品屬性,既是滿足人工智能技術(shù)發(fā)展的產(chǎn)業(yè)訴求,也是適應(yīng)著作權(quán)不斷擴(kuò)張理念的現(xiàn)實表現(xiàn),還是規(guī)范人工智能創(chuàng)作活動的立法需要。有學(xué)者從人工智能創(chuàng)作的機(jī)理出發(fā),認(rèn)為人工智能創(chuàng)作的作品應(yīng)當(dāng)受法律保護(hù)。(4)例如《論人工智能生成的內(nèi)容在著作權(quán)法中的定性》、《人工智能生成內(nèi)容的著作權(quán)認(rèn)定》等相關(guān)文章認(rèn)為,人工智能創(chuàng)作作品的整體風(fēng)格類似于人類作品風(fēng)格,但是又超然于人類作品風(fēng)格。人工智能創(chuàng)作的作品雖然是以同一類型作品的大數(shù)據(jù)為基礎(chǔ),經(jīng)算法、代碼重構(gòu)后的符號化表達(dá),但是其在認(rèn)知和理解基本規(guī)則的條件下,人工智能可以不依賴人類作品而進(jìn)行快速的自我學(xué)習(xí),并取得良好的效果。同時其在被賦予創(chuàng)作的作品隨機(jī)性、偶然性因素的考量和權(quán)值時,使其在接收相同數(shù)據(jù)信息的情況下也能夠產(chǎn)生多部不同的作品。還有學(xué)者認(rèn)為,隨著算法的進(jìn)步,基于機(jī)器學(xué)習(xí)技術(shù)的人工智能產(chǎn)品已經(jīng)具備了高度獨創(chuàng)性,應(yīng)該賦予其創(chuàng)作作品版權(quán)法的地位。還有學(xué)者從著作權(quán)保護(hù)客體之沿革入手,分析人工智能創(chuàng)作的作品應(yīng)當(dāng)受法律保護(hù)。(5)周憲所著《重心遷移:從作者到讀者——20世紀(jì)文學(xué)理論范式的轉(zhuǎn)型》一文指出,版權(quán)法認(rèn)定作品“獨創(chuàng)性”的根據(jù),已經(jīng)由“作者中心主義”向“作品中心主義”的過渡。其人工智能創(chuàng)作的作品已經(jīng)達(dá)到版權(quán)法和著作權(quán)法的獨創(chuàng)性要求,應(yīng)該具有版權(quán)法和著作權(quán)法的法律主體地位,其創(chuàng)作的作品應(yīng)當(dāng)受法律保護(hù)。否定說認(rèn)為,人工智能創(chuàng)作的作品不應(yīng)當(dāng)受到法律的獨立保護(hù)。諸如,有學(xué)者從工具主義的角度認(rèn)為,人工智能創(chuàng)作的作品不應(yīng)當(dāng)獨立保護(hù)。(6)徐芝永所著《人工智能知識產(chǎn)權(quán)保護(hù)話題淺析——在韓國知識產(chǎn)權(quán)法律框架下》一文指出,人工智能創(chuàng)作作品,其實質(zhì)被當(dāng)作手段,是通過人的操作發(fā)明或者創(chuàng)作了作品,并不具有獨立的價值,在既有的法律框架下,不許賦予其獨立的法律資格。有學(xué)者認(rèn)為,人工智能不具有法律主體的資格,所以其創(chuàng)作的作品不應(yīng)當(dāng)被獨立保護(hù)。(7)王志剛所著《論人工智能出版的版權(quán)邏輯》認(rèn)為,人工智能即機(jī)器不是法律意義上的人,所以其創(chuàng)作的作品不能歸屬于人工智能,不應(yīng)當(dāng)獨立受法律保護(hù),同時認(rèn)為人工智能創(chuàng)作的作品不具有獨創(chuàng)性。同時指出,人工智能創(chuàng)作主體不是版權(quán)法所規(guī)定的具有情感的“人類主體”。所以,不可以將人工智能作為期創(chuàng)作作品的主體。也有學(xué)者從人工智能創(chuàng)作作品于自然人創(chuàng)作作品的邏輯入手,認(rèn)為人工智能創(chuàng)作的作品不應(yīng)當(dāng)受法律獨立保護(hù)。(8)李俊所著《論人工智能生成內(nèi)容的著作權(quán)法保護(hù)》一文指出,人工智能生成內(nèi)容從表現(xiàn)形式上看與人類創(chuàng)作的作品相差無幾,但究竟能否作為作品進(jìn)行保護(hù),則要從其創(chuàng)作原理及創(chuàng)作過程入手進(jìn)行分析,目前人工智能生成內(nèi)容是運用算法、規(guī)則,套用已有模板得出的結(jié)果,不符合作品的獨創(chuàng)性要求,為了避免對既有的著作權(quán)理論體系造成沖擊,不宜將其直接認(rèn)定為作品。折中說將人工智能創(chuàng)作作品是否具有獨創(chuàng)性和當(dāng)下法律應(yīng)否保護(hù)區(qū)分。從現(xiàn)實的角度論述如何保護(hù)人工智能創(chuàng)作的作品。例如,有學(xué)者認(rèn)為,人工智能創(chuàng)作的作品雖然具有獨創(chuàng)性,但是為了維護(hù)現(xiàn)有法律的體系性,現(xiàn)不宜對其進(jìn)行獨立保護(hù)。(9)孫新強(qiáng)所著《論作者權(quán)體系的崩潰與重建——以法律現(xiàn)代化為視角》一文指出,其人工智能創(chuàng)作的作品已經(jīng)達(dá)到版權(quán)法和著作權(quán)法的獨創(chuàng)性要求,應(yīng)該具有版權(quán)法和著作權(quán)法的法律主體地位,但是由于在法律語境下,版權(quán)的擁有者還會面臨權(quán)利的行使、保護(hù)、處分以及相關(guān)的義務(wù)和責(zé)任問題,目前仍停留在處理專門性、具體化任務(wù)水平上的人工智能,不可能在創(chuàng)作文學(xué)藝術(shù)作品的同時還具備法律上的“意思能力”和“行為能力”,它也沒有獨立的“責(zé)任財產(chǎn)”。所以在當(dāng)前情形下,可以否定其法律主體資格,但是這是現(xiàn)有法律語境下的權(quán)宜之計。也有學(xué)者避而不談人工智能創(chuàng)作的作品是否具有獨創(chuàng)性,從實用角度對人工智能創(chuàng)作的作品如何保護(hù)做構(gòu)想。(10)柯林霞所著《人工智能給著作權(quán)法實務(wù)帶來的三個難題》一文指出,在當(dāng)前法律語境中無法賦予人工智能創(chuàng)作作品獨創(chuàng)性的品性抑或現(xiàn)有法律不能對其創(chuàng)作的作品予以保護(hù)的現(xiàn)實,不能阻卻人工智能創(chuàng)作作品的獨創(chuàng)性。我們應(yīng)當(dāng)在肯定人工智能創(chuàng)作作品獨創(chuàng)性的前提下,將其產(chǎn)權(quán)賦予操作人,實行人類作品與人工智能作品區(qū)別對待。

    鑒于上述對人工智能知識創(chuàng)作領(lǐng)域的現(xiàn)狀和人工智能創(chuàng)作作品能否獨立受保護(hù)的理論研究現(xiàn)狀的綜述,可知,第一,人工智能在知識創(chuàng)作領(lǐng)域的應(yīng)用之趨勢亦不可逆轉(zhuǎn)。第二,理論界對人工智能創(chuàng)作作品能否獨立受法律保護(hù)存在爭議,對其深入討論也不可避免。針對人工智能創(chuàng)作作品能否獨立受法律保護(hù),筆者認(rèn)為,將人工智能創(chuàng)作的作品能否受法律保護(hù)納入現(xiàn)有知識產(chǎn)權(quán)法律概念框架下的討論不僅是徒勞的,也是否定法律是以社會為基礎(chǔ)的根本命題,同時也內(nèi)隱了法律不是發(fā)展的錯誤命題。人工智能是計算機(jī)科學(xué)的一個分支,它企圖了解智能的實質(zhì),并生產(chǎn)一種新的能與人類智能相似的方式做出反應(yīng)的智能機(jī)器。在未設(shè)立計算機(jī)學(xué)科的前提下不可能有人工智能概念,同時也不可能有《計算機(jī)軟件保護(hù)條例》等法律。有了計算機(jī)科學(xué)的發(fā)展,才有了計算機(jī)的相關(guān)法律。正因為有了人工智能的出現(xiàn)或人工智能創(chuàng)作作品的出現(xiàn),才產(chǎn)生了規(guī)制甚至鼓勵人工智能創(chuàng)作的法律需求。不能因為現(xiàn)有知識產(chǎn)權(quán)相關(guān)法律沒有規(guī)定人工智能創(chuàng)作作品的相關(guān)概念,而否定這一社會現(xiàn)象的產(chǎn)生。另外以人工智能創(chuàng)作是人類創(chuàng)作作品的工具或是在固定算法的前提下,利用相關(guān)創(chuàng)作主題的材料為理由,否定人工智能創(chuàng)作作品的獨創(chuàng)性的做法也是荒謬的。如果采取此種論證邏輯,則人類創(chuàng)作的所有作品都不具有獨創(chuàng)性。因為其創(chuàng)作的前提是在閱讀其他人類學(xué)作品的基礎(chǔ)上結(jié)合自己思想認(rèn)知創(chuàng)作的,其創(chuàng)作邏輯也是基于其思想認(rèn)識即認(rèn)識規(guī)則的“固定算法”。所以筆者認(rèn)為人工智能創(chuàng)作作品應(yīng)當(dāng)獨立受法律保護(hù)。但是如何進(jìn)行保護(hù)需要深入思考,同時也需要借鑒域外的相關(guān)做法。

    (三)域外人工智能創(chuàng)作作品法律保護(hù)路徑的立法經(jīng)驗綜述

    人工智能在知識產(chǎn)權(quán)創(chuàng)作領(lǐng)域的深度應(yīng)用和帶來產(chǎn)權(quán)收益,引起了域外各國對其的高度關(guān)注。有些國家對人工智能創(chuàng)作作品的立法態(tài)度較為保守,有些國家則較為“激進(jìn)”。但是綜觀各國對人工智能創(chuàng)作作品的態(tài)度,主要有兩種。第一,賦予人工智能獨立的法律主體地位,同時將其創(chuàng)作的作品視為人工智能獨立創(chuàng)作的作品。第二,未承認(rèn)人工智能獨立的法律地位,視人工智能創(chuàng)作的作品從屬于其擁有者或所有者。具體言之,如下:

    首先,歐盟委員會根據(jù)人工智能之自主性不同,將人工智能分為高度自主的人工智能和輔助性人工智能,同時賦予高度自主人工智能之載體高度自主機(jī)器人法律主體地位,明確人工智能的獨立創(chuàng)造能力。2016年,歐盟議會法律事務(wù)委員會提交了一項動議:“將最先進(jìn)的自動化機(jī)器人的身份定位為‘電子人’(electronic persons)”。第一,該電子人通過傳感器和(或)借助與其環(huán)境交換數(shù)據(jù)(互聯(lián)性)獲得自主性的能力,并能夠分析相應(yīng)數(shù)據(jù);第二,從交互中學(xué)習(xí)的能力;第三,機(jī)器人的物質(zhì)支撐形式;第四,因環(huán)境而調(diào)整行為和行動的能力。[12]具有相應(yīng)的權(quán)利和義務(wù)。同時歐盟同時對高度自主性人工智能實施高級機(jī)器人(電子人)登記制度。同時對高級機(jī)器人侵權(quán)之后的責(zé)任承擔(dān),建立實施強(qiáng)制保險機(jī)制和賠償基金。同時也迎合了歐盟委員會提出的在保護(hù)與與軟硬件標(biāo)準(zhǔn)、代碼有關(guān)的知識產(chǎn)權(quán)時,促進(jìn)與軟硬件標(biāo)準(zhǔn)、代碼有關(guān)的知識產(chǎn)權(quán)。也滿足了于計算機(jī)或者機(jī)器人創(chuàng)作作品的版權(quán)確認(rèn)要求。從前述對于人工智能創(chuàng)作作品的應(yīng)用場域,可知,本文所說的在知識創(chuàng)作領(lǐng)域的人工智能是高度自主的人工智能,其不僅具有自主學(xué)習(xí)和實時學(xué)習(xí)的能力,還具有創(chuàng)作出類似于人甚至超越于人的作品。按照歐盟關(guān)于人工智能的相關(guān)法律,本文所描繪的人工智能具有獨立的法律主體地位,創(chuàng)作的作品具有獨立的版權(quán)。

    其次,美國政府認(rèn)為人工智能出版物不具有版權(quán),人工智能創(chuàng)作的作品在美國法律體系中不受保護(hù)的。例如早在20世紀(jì)50年代,美國就因為人工智能創(chuàng)作做的歌曲是否擁有版權(quán)展開過討論。[13]最終美國版權(quán)局最終以版權(quán)歸屬于自然人的觀點否定了人工智能創(chuàng)作的作品具有版權(quán),美國的“版權(quán)作品新技術(shù)應(yīng)用國家委員會”在1978年以發(fā)布調(diào)研報告的形式支持了美國版權(quán)局的觀點?,F(xiàn)美國政府已經(jīng)有所改變,但是還是持該種看法。[14]澳大利亞也采取了與美國相類似的做法,否定人工智能創(chuàng)作的作品具有獨立的版權(quán)。例如,1993年澳大利亞版權(quán)委員會否決澳大利亞司法部向其提出在有關(guān)計算機(jī)軟件版權(quán)保護(hù)草案中增加計算機(jī)生成物作品類型的提議;同時提出不再建議將諸如自動新聞寫作程序等計算機(jī)生成內(nèi)容作為作品保護(hù),建議將這類創(chuàng)造物視為一種創(chuàng)新的鄰接權(quán)客體,名稱由最初的“計算機(jī)生成作品”改為“計算機(jī)生成內(nèi)容”。[15]韓國的特許法、著作權(quán)法和特許法院的相關(guān)案例,對人工智能作出的發(fā)明、創(chuàng)造,不能以人工智能作為法律保護(hù)產(chǎn)權(quán)的主體。例如,韓國特許法的第33條、第42條和特許法院2003年和特許法院的2002Heo4811判決。[16]

    從上述域外國家對人工智能創(chuàng)作物的保護(hù)立場綜述,可以發(fā)現(xiàn),有些國家的做法較為激進(jìn),賦予智能機(jī)器人擁有國民同樣的法律地位;有些國家較為保守,認(rèn)為人工智能只是人類達(dá)到某事物的工具,將人工智能的應(yīng)用視為“工具主義”。[12]有些國家對人工智能卻選擇了第三條路,根據(jù)不同場域的應(yīng)用,賦予人工智能不同的法律地位。[17]建立相應(yīng)的法律體系,對人工智能產(chǎn)生的侵權(quán)問題作出規(guī)定。進(jìn)一步講,域外人工智能的不同法律地位,折射出人工智能創(chuàng)作作品的不同保護(hù)路徑。例如在人工智能不具有法律主體地位的國家,人工智能創(chuàng)作的作品也不具有獨立保護(hù)的必要性,從屬于開發(fā)者或者利用者,如韓國。[18]在人工智能具有國民待遇的國家,人工智能創(chuàng)作的作品具有獨立性,與公民創(chuàng)作的作品同等地受到法律保護(hù)。有些國家,雖然承認(rèn)人工智能創(chuàng)作的作品具有獨創(chuàng)性,來源于人類創(chuàng)作,但是又超然于人類創(chuàng)作,類似于人類創(chuàng)作,具有獨創(chuàng)性,符合知識產(chǎn)權(quán)法認(rèn)定作品的相關(guān)規(guī)定。但是出于現(xiàn)實的考慮,將人工智能分為不同的種類,在賦予權(quán)利的同時,增加其賠償能力。

    二、(2018)京0491民初239號民事判決書的評鑒

    2019年5月6日法制日報刊發(fā)了題為《全國首例人工智能生成內(nèi)容著作權(quán)案宣判》的文章,主題是“利用人工智自動生成的數(shù)據(jù)報告,能否構(gòu)成著作權(quán)法保護(hù)的作品”。該民事判決書是2019年4月25日由北京市互聯(lián)網(wǎng)法院做出的,案號為(2018)京0491民初239號。根據(jù)北京市互聯(lián)網(wǎng)法院總結(jié)的爭議焦點,原告是否為適格的主體,被告是否實施了被訴的侵權(quán)行為和被告主張不構(gòu)成侵權(quán)的抗辯是否成立可知,判斷利用人工智能生成的數(shù)據(jù)報告是否為著作權(quán)法調(diào)整內(nèi)容是判決的前提,也是判斷原告是否為訴訟法上適格主體的關(guān)鍵。綜覽判決,關(guān)于判斷利用人工智能生成的數(shù)據(jù)報告是否為著作權(quán)法調(diào)整內(nèi)容,主要集中在原告是否為適格主體的爭議焦點中。

    根據(jù)爭議焦點一,原告是否為本案適格的主體。法院認(rèn)為人工智能創(chuàng)作的作品是基于原告收集的數(shù)據(jù),利用相關(guān)軟件制作完成,雖然會因數(shù)據(jù)變化呈現(xiàn)出不同的形狀,但是圖形形狀的不同是基于數(shù)據(jù)差異產(chǎn)生,不是著作權(quán)法所稱的創(chuàng)作。根據(jù)人工智能創(chuàng)作作品中圖形的不同,北京市互聯(lián)網(wǎng)法院認(rèn)為,圖形和數(shù)據(jù)的差異,是不同的數(shù)據(jù)選擇、軟件選擇或圖形類別選擇所致,不能體現(xiàn)原告的獨創(chuàng)性表達(dá)。所以該圖形作品不具有著作權(quán)法對作品的獨創(chuàng)性要求。在分析原告提出的人工智能創(chuàng)作的文字作品是否為著作權(quán)法所要求的文字作品時,北京市互聯(lián)網(wǎng)法院認(rèn)為,從人工智能生成報告的過程,人工智能創(chuàng)作的作品在相關(guān)的數(shù)據(jù)選擇、判斷和分析,具有一定的獨創(chuàng)性。但是著作權(quán)法所要求的文字作品應(yīng)為自然人創(chuàng)作,所以,不能對人工智能創(chuàng)作的作品給予法律保護(hù)。同時指出,雖然隨著科技的發(fā)展,計算機(jī)軟件智能生成的文字作品,在內(nèi)容、形態(tài)甚至表達(dá)方式上日趨自然人,但是根據(jù)現(xiàn)實的科技即產(chǎn)業(yè)發(fā)展水平,若在現(xiàn)行法律的權(quán)利保護(hù)體系內(nèi)對此類軟件的智力、經(jīng)濟(jì)投入予以充分保護(hù),也不宜突破既有的民法主體基本規(guī)范的規(guī)定。進(jìn)而,法院通過軟件開發(fā)者(所有者)沒有根據(jù)其需求輸入關(guān)鍵詞進(jìn)行檢索,人工智能的分析報告并未傳遞軟件開發(fā)者(所有者)的思想、感情的獨創(chuàng)性表達(dá),所以不能將人工智能創(chuàng)作的作品歸屬于人工智能研發(fā)者(所有者)創(chuàng)作完成。

    北京市互聯(lián)網(wǎng)法院針對人工智能創(chuàng)作的作品(不屬于著作權(quán)保護(hù))能否進(jìn)入公共領(lǐng)域,其認(rèn)為,雖然人工智能創(chuàng)作的分析報告,不構(gòu)成作品,但不意味著它能進(jìn)入公有領(lǐng)域,可以被公眾自由使用。理由為,分析報告的產(chǎn)生既凝結(jié)了軟件研發(fā)者(所有者)的投入,也凝結(jié)了軟件使用者的投入,具備傳播價值。如果不賦予投入者一定的權(quán)益保護(hù),將不利于投入成果(人工智能分析報告)的傳播,無法發(fā)揮其效用。對于軟件研發(fā)者(所有者)來說,其利益可通過收取軟件使用費用等方式獲得,其開發(fā)投入已經(jīng)得到相應(yīng)回報;且分析報告系軟件使用者根據(jù)不同的使用需求、檢索設(shè)置而產(chǎn)生的,軟件開發(fā)者(所有者)對其缺乏傳播力。因此,如果將分析報告的相關(guān)權(quán)益賦予軟件研發(fā)者(所有者)享有,軟件研發(fā)者(所有者)并不會積極應(yīng)用,不利于文化傳播和科學(xué)事業(yè)的發(fā)展。對于軟件使用者而言,其通過付費使用進(jìn)行投入,基于自身需求設(shè)置關(guān)鍵詞并生成了分析報告,其具有進(jìn)一步使用、傳播分析報告的動力和預(yù)期。人工智能軟件使用者不能以作者的身份在分析報告上署名,但是為了保護(hù)其合法權(quán)益,保障社會公眾的知情權(quán),軟件使用者可以采用合理方式表明其享有相關(guān)權(quán)益。

    北京市互聯(lián)網(wǎng)法院在認(rèn)定人工智能創(chuàng)作的作品能否為法人作品時,以我國著作權(quán)法規(guī)定“創(chuàng)作作品的公民是作者“。由法人或者其他組織主持,代表法人或其他組織意旨創(chuàng)作,并由法人或其他組織承擔(dān)責(zé)任的作品,法人或者其他組織為作者”否定了人工智能創(chuàng)作的作品不屬于法人作品,即人工智能創(chuàng)作出的產(chǎn)品發(fā)表時為原告,并未署名法人作品。所以否定了人工智能創(chuàng)作的作品屬于法人作品。

    綜述和總結(jié)北京市互聯(lián)網(wǎng)法院“(2018)京0491民初239號民事判決書”否定利用人工智能創(chuàng)作作品之主體為不適格主體的理由:第一,以圖形形狀的不同是基于數(shù)據(jù)差異產(chǎn)生(即人工智能創(chuàng)作的作品是基于原告收集的數(shù)據(jù),利用相關(guān)軟件制作完成),否定人工智能創(chuàng)作作品的獨創(chuàng)性。第二,以人工智能生成報告的過程(即得出人工智能創(chuàng)作的作品在相關(guān)的數(shù)據(jù)選擇、判斷和分析),肯定了人工智能創(chuàng)作作品的獨創(chuàng)性。第三,以著作權(quán)法規(guī)定的著作權(quán)適格主體,否定人工智能創(chuàng)作作品獨創(chuàng)性的表達(dá)。第四,以人工智能所有者(研發(fā)者)可以采用合理方式表明,享有除署名權(quán)之外的其他人工智能創(chuàng)作作品的相關(guān)權(quán)益,否定人工智能創(chuàng)作作品獨創(chuàng)性的表達(dá)。第五,以人工智能擁有者并沒有在人工智能創(chuàng)作的作品,否定人工智能創(chuàng)作作品獨創(chuàng)性的表達(dá)。可以發(fā)現(xiàn)否定人工智能為其創(chuàng)作作品適格主體的理由存在如下缺陷:其一,人工智能圖形的創(chuàng)作和文本的創(chuàng)作,適用了相同的程序和算法,卻得出了前者無獨創(chuàng)性后者有獨創(chuàng)性的背反結(jié)果。其二,以著作權(quán)法規(guī)定的自然人主體,否定人工智能創(chuàng)作作品的法律保護(hù),進(jìn)而否定獨創(chuàng)性的做法有顛倒本末之嫌。其三,人工智能的研發(fā)者(使用者)可以享有除署名權(quán)之外的其他權(quán)益和人工智能創(chuàng)作作品除了人工智能研發(fā)者(使用者)署名外,并沒有其他署名互相矛盾的結(jié)論。北京市互聯(lián)網(wǎng)法院“(2018)京0491民初239號民事判決書”是全國首例人工智能生成內(nèi)容著作權(quán)案,判決結(jié)果和邏輯的妥當(dāng)性,不僅關(guān)涉人工智能的發(fā)展,也影響著人工智能在知識創(chuàng)作中的深度應(yīng)用。有必要對其評述。

    近幾年人工智能的快速發(fā)展和深化應(yīng)用,引起國家的高度重視。國務(wù)院于2017年發(fā)布了《新一代人工智能發(fā)展規(guī)劃》將人工智能的發(fā)展定位于國家戰(zhàn)略。2018年10月中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢舉行第九次集體學(xué)習(xí)。習(xí)近平總書記在會上指出:“要發(fā)揮人工智能在產(chǎn)業(yè)升級、產(chǎn)品開發(fā)、服務(wù)創(chuàng)新等方面的技術(shù)優(yōu)勢,促進(jìn)人工智能同一、二、三產(chǎn)業(yè)深度融合,以人工智能技術(shù)推動各產(chǎn)業(yè)變革?!盵19]在域外,人工智能的應(yīng)用也在不斷深化。歐洲約有1600家處于早期階段的人工智能企業(yè),隨著人工智能產(chǎn)業(yè)政策的發(fā)展,人工智能企業(yè)數(shù)量還在增長。英國約有500家人工智能初創(chuàng)企業(yè),約占英國企業(yè)的三分之一。歐洲和法國也在推動人工智能中心建設(shè),發(fā)展勢頭較猛。美國截止2018年6月底,則有2028家人工智能企業(yè),居于人工智能企業(yè)之首。關(guān)于人工智能創(chuàng)作作品的保護(hù),各國也在不斷采取措施。[20]例如2016年5月,日本在《知識財產(chǎn)推進(jìn)計劃》中明確表示:具有一定市場價值的人工智能創(chuàng)作物亦有必要給予一定的知識產(chǎn)權(quán)保護(hù)。并提及,鑒于版權(quán)制度施行的無形性,人工智能創(chuàng)作的音樂、小說等一經(jīng)創(chuàng)作完成即可以得到知識產(chǎn)權(quán)的保護(hù)。[21]英國明確了法律保護(hù)人工智能創(chuàng)作物的權(quán)利。[22]歐盟委員會法律事務(wù)委員會在2016年5月31日提交了一項動議,要求歐盟委員會將最先進(jìn)的自動化機(jī)器“工人”的身份定位為“電子人”,并依法賦予它們享有與著作權(quán)等同的“特定的權(quán)利與義務(wù)”。[23]美國,也在加快人工智能知識產(chǎn)權(quán)領(lǐng)域的保護(hù)措施。[24]從前述我國和域外的人工智能深化應(yīng)用及前景看,人工智能在創(chuàng)作作品領(lǐng)域的應(yīng)用,已經(jīng)不可回避,立法和司法應(yīng)該積極回應(yīng),而不應(yīng)當(dāng)停滯不前,北京市互聯(lián)網(wǎng)法院否定人工智能享有著作權(quán)的做法,逆反了人工智能的發(fā)展態(tài)勢,忽視了人工智能在創(chuàng)作作品中的應(yīng)用價值。筆者認(rèn)為北京市互聯(lián)網(wǎng)法院“(2018)京0491民初239號民事判決書”中的人工智能創(chuàng)作物應(yīng)當(dāng)受法律保護(hù),且基于如下理由:

    其一,人工智能圖形的創(chuàng)作和文本的創(chuàng)作,適用了相同的程序和算法,卻得出了前者無獨創(chuàng)性后者有獨創(chuàng)性的背反結(jié)果。北京市互聯(lián)網(wǎng)法院的“(2018)京0491民初239號民事判決書”在否定人工智能創(chuàng)作的圖形作品無獨創(chuàng)品性時指出,相關(guān)圖形是原告基于數(shù)據(jù)的收集的數(shù)據(jù),利用縣骨干軟件制作完成,雖然會因數(shù)據(jù)變化呈現(xiàn)出不同的形狀,但是圖形形狀的不同是基于數(shù)據(jù)的差異產(chǎn)生,而非基于創(chuàng)作。肯定人工智能創(chuàng)作圖形作品具有獨創(chuàng)性時指出,從分析的報告生成的過程看,選定相關(guān)關(guān)鍵詞,使用“可視化”功能自動生成的分析報告,具有一定的獨創(chuàng)性。從前述否定人工智能創(chuàng)作圖形作品獨創(chuàng)性和肯定人工智能文字作品的獨創(chuàng)性的判決內(nèi)容,可以看出人工智能創(chuàng)作的圖形作品和文字作品具有相同的邏輯,都是在已積累素材的基礎(chǔ)上,利用一定的算法進(jìn)行創(chuàng)作,具有同一的運用原理和程序,產(chǎn)出的作品具有同一品性。

    其二,以著作權(quán)法規(guī)定的自然人主體,否定人工智能創(chuàng)作作品的獨創(chuàng)性非著作權(quán)法的獨創(chuàng)性的做法有顛倒本末之嫌。北京市互聯(lián)網(wǎng)法院的“(2018)京0491民初239號民事判決書”在肯定人工智能創(chuàng)作的作品具有獨創(chuàng)性時指出,從分析報告生成的過程看,選定相關(guān)關(guān)鍵詞,使用“可視化”功能自動生成的分析報告,具有一定的獨創(chuàng)性。在否定人工智能創(chuàng)作之作品非著作權(quán)法之獨創(chuàng)性時指出,從分析報告生成的過程看,選定相關(guān)關(guān)鍵詞,使用“可視化”功能自動生成的分析報告,具有一定的獨創(chuàng)性。但是根據(jù)現(xiàn)行法律規(guī)定,文字作品應(yīng)該由自然人創(chuàng)作完成,所以人工智能創(chuàng)作的作品仍不失著作權(quán)法意義上的文字作品。前述判決邏輯存在用人工智能創(chuàng)作作品無權(quán)屬主體,否定人工智能創(chuàng)作作品品性的性質(zhì)判斷。這是一種本末倒置的判斷邏輯。北京市互聯(lián)網(wǎng)法院在認(rèn)定人工智能創(chuàng)作文字作品時,采用的是著作權(quán)法之獨創(chuàng)性規(guī)定。得出人工智能創(chuàng)作的文字作品具有獨創(chuàng)性,是性質(zhì)認(rèn)定。這是對人工智能創(chuàng)作作品的本質(zhì)認(rèn)定。不可能因為歸屬結(jié)果的問題而否定本質(zhì)的定性。

    其三,人工智能的研發(fā)者(使用者)可以享有除署名權(quán)之外的其他權(quán)益。北京市互聯(lián)網(wǎng)法院雖然否定了人工智能創(chuàng)作作品無署名權(quán)的著作權(quán)法保護(hù),但是肯定了其實際歸屬者具有相應(yīng)的收益權(quán)。北京市互聯(lián)網(wǎng)法院的這一做法是可取的。在法無明文規(guī)定人工智能可以作為著作權(quán)主體的情形下,肯定因人工智能創(chuàng)作作品產(chǎn)生的收益歸屬人工智能的研發(fā)者和使用者。該種做法從實質(zhì)上保護(hù)了人工智能著作權(quán)的的實質(zhì)性利益,同時也促成了人工智能創(chuàng)作作品的研發(fā)。

    三、人工智能創(chuàng)作作品的法律保護(hù)路徑選擇

    人工智能在音樂、電影、小說、詩歌、繪畫和自主排版的新聞作品與書籍創(chuàng)作方面的應(yīng)用,非但不可避免,且會不斷深化。人工智能創(chuàng)作作品產(chǎn)生的著作權(quán)保護(hù)問題和人工智能創(chuàng)作過程中的侵權(quán)問題也會經(jīng)常發(fā)生。北京市互聯(lián)網(wǎng)法院的“(2018)京0491民初239號民事判決書”就是例子。所以,探討人工智能創(chuàng)作作品法律保護(hù)很有必要,即在肯定現(xiàn)有著作權(quán)法律語境的前提下,如何對人工創(chuàng)作作品進(jìn)行法律保護(hù),需要不斷研究。

    我國著作權(quán)法第一條規(guī)定了著作權(quán)法的宗旨和賦予創(chuàng)作者著作權(quán)的理由。即“為保護(hù)文學(xué)、藝術(shù)和科學(xué)作品作者的著作權(quán),以及與著作權(quán)有關(guān)的權(quán)益,鼓勵有益于社會主義精神文明、物質(zhì)文明建設(shè)作品的創(chuàng)作和傳播,促進(jìn)社會主義文化和科學(xué)事業(yè)的發(fā)展與繁榮”是我國著作權(quán)法的的立法依據(jù)和立法宗旨。同時根據(jù)著作權(quán)法第二條、第九條可以看出,無論創(chuàng)作者(公民、法人或者其他組織)的作品是否發(fā)表,均享有著作權(quán)。從著作權(quán)法的第一條、第二條和第九條可以看出,著作權(quán)法并沒有否定“有益于社會主義精神文明、物質(zhì)文明建設(shè)作品的創(chuàng)作和傳播,促進(jìn)社會主義文化和科學(xué)事業(yè)的發(fā)展與繁榮”的人工智創(chuàng)作作品的著作權(quán)法的屬性,只是存在著作權(quán)歸屬的問題。所以本文不討論人工智能是否為法律主體,[25]只論及人工智能創(chuàng)作作品的歸屬問題。

    綜述現(xiàn)有人工智能創(chuàng)作作品的歸屬,主要有四種途徑。一是,修改和完善雇傭作品的法律制度,將權(quán)利賦予雇主;[26]二是,借鑒法人作品的法律制度,將權(quán)利賦予法人;[27]三是,直接明確人工智能“法律主體地位”,進(jìn)而通過合同的形式來協(xié)調(diào)和處理相關(guān)利益主體之間的法律關(guān)系;[28]四是,參考英國等國家關(guān)于“計算機(jī)生成作品”的法律規(guī)定,將權(quán)利賦予“為作品創(chuàng)作提供必要安排的人”。[29]此外,也有學(xué)者認(rèn)為將人工智能創(chuàng)作內(nèi)容視為對設(shè)計版權(quán)的演繹作品,按照約定優(yōu)先的原則,建立起以所有者為核心的權(quán)利體系。[30]筆者認(rèn)為前述對人工智能創(chuàng)作作品的的路徑并不可取,應(yīng)當(dāng)建立人工智能“創(chuàng)作與收益二元分立”模式,在肯定人工智能獨立創(chuàng)作作品的基礎(chǔ)上,將收益歸屬于研發(fā)者、使用者或者所有者。

    第一種解決人工智能創(chuàng)作作品法律保護(hù)路徑,是以美國《版權(quán)法》上的“雇傭作品”為基礎(chǔ)。[31]根據(jù)美國《版權(quán)法》的規(guī)定,雇傭作品主要包括以下兩種類型:一是雇員在職務(wù)范圍內(nèi)創(chuàng)作的作品;二是法律規(guī)定的九種特殊的作品類型。深究該人工智能創(chuàng)作作品的法律保護(hù)路徑與我國著作權(quán)法律語境下的職務(wù)作品等同。我國著作權(quán)法第二十一條規(guī)定“由法人或者其他組織主持,代表法人或者其他組織意志創(chuàng)作,并由法人或者其他組織承擔(dān)責(zé)任的作品,法人或者其他組織視為作者”。我國著作權(quán)法又根據(jù)職務(wù)作品的不同,規(guī)定了創(chuàng)作的作者與職務(wù)共享某些權(quán)利。我國著作權(quán)法規(guī)定和美國雇傭作品的規(guī)定,都是建立在創(chuàng)作作品法律主體的自然人語境下。能否將人工智能作為被雇傭的主體還需學(xué)界進(jìn)一步討論,即作為人工智能創(chuàng)作實體的機(jī)器人能否通過法律擴(kuò)張解釋的方式,被接納進(jìn)“雇員”的法律概念之內(nèi),也是需要進(jìn)行充分論證和討論的。雖然該種人工智能創(chuàng)作作品的法律保護(hù)路徑之選擇,具有無需通過承認(rèn)“人工智能實體”法律地位、維護(hù)既有著作權(quán)法穩(wěn)定的優(yōu)勢,但是在具體的解釋路徑上存在論證的困難。

    第二種人工智能創(chuàng)作作品的法律保護(hù)路徑與我國的法人作品等同。將人工智能創(chuàng)作的作品歸屬于相應(yīng)的“法人或其他組織”(人工智能的投資者)。在我國著作權(quán)法的語境下,一方面“法人作品”制度本身就在學(xué)界存在著頗多的爭議,并且與“職務(wù)作品”“委托作品”存在內(nèi)涵上的重疊之處;[32]另一方面,圍繞人工智能創(chuàng)作的法律主體,不僅有公司法人,還有智能機(jī)器人的設(shè)計者以及最終用戶等。該種人工智能創(chuàng)作作品的法律保護(hù)路徑,在本有爭議的困境上,為人工智能創(chuàng)作作品歸屬主體的界分增加了困難。

    第三種人工智能創(chuàng)作作品的法律保護(hù)路徑,賦予人工智能獨立的法律主體地位,雖然消除了雇傭作品中人工智能機(jī)器能否作為雇傭主體的疑惑,同時也擯除了我國著作權(quán)法中法人作品與職務(wù)作品之界分問題,但是面臨了更大的難題,即人工智能能否成為獨立的法律主體,這是一個全面而深化的問題,即著作權(quán)法作為激勵“理性人”創(chuàng)作和傳播的制度工具,現(xiàn)無法脫離既有有體物財產(chǎn)權(quán)的制度體系和主客體不得互換的基本私法原理。[33]無論是英國,還是美國,賦予人工智能獨立的法律主體地位都被認(rèn)為是沒有意義的。[34]賦予人工智能獨立的法律主體地位,對現(xiàn)有的法律秩序體系存在一定的挑戰(zhàn)性和破壞性,且保護(hù)人工智能創(chuàng)作作品的背后是保護(hù)其智力勞動成果。

    第四種人工智能創(chuàng)作作品的法律保護(hù)路徑,將人工智能創(chuàng)作的作品等同于計算機(jī)生成作品,在既有的權(quán)利歸屬上,將其權(quán)利歸屬于提供必要安排的人。雖然可以解除第一種,第二種甚至第三種解決路徑上的困惑,但是,對何為人工智能創(chuàng)作作品提供必要的安排卻并不能很好的把握,再加上計算機(jī)作品與創(chuàng)作作品有著本質(zhì)的區(qū)別,也否定了人工智能這一現(xiàn)代科技的獨立性。所以該種路徑并不可取。

    筆者認(rèn)為,選擇人工智能創(chuàng)作作品的法律保護(hù)路徑時,應(yīng)當(dāng)考慮兩個因素。第一,人工智能獨立創(chuàng)作作品之能力;第二,人工智能創(chuàng)作作品的權(quán)益體現(xiàn)。從上述人工智能的創(chuàng)作原理、人工智能創(chuàng)作作品的具體應(yīng)用和人工智能創(chuàng)作作品獨創(chuàng)性的理論檢驗、人工智能創(chuàng)作作品獨創(chuàng)性的實務(wù)論證,可知,人工智能具有獨立創(chuàng)作作品的能力。另一方面,人工智創(chuàng)作作品的權(quán)益主要表現(xiàn)在,相關(guān)權(quán)益人的物質(zhì)性權(quán)益和非物質(zhì)性權(quán)益。主要表現(xiàn)為如何保護(hù)人工智能研發(fā)者和使用者的專屬權(quán)。筆者認(rèn)為我國實務(wù)中除了賦予人工智能創(chuàng)作作品署名權(quán)外,賦予人工智能研發(fā)者或使用者物質(zhì)性權(quán)益的做法是可取的。署名權(quán)本質(zhì)是一種專屬權(quán),是將本事物區(qū)別于它事物的標(biāo)志。北京市互聯(lián)網(wǎng)法院用人工智能創(chuàng)作作品的使用,須經(jīng)人工智能之研發(fā)者和使用者授權(quán)的方式肯定了實質(zhì)上的人工智能創(chuàng)作作品之著作權(quán)保護(hù)的“署名權(quán)”。該種途徑,首先消除了上述人工智能創(chuàng)作作品路徑之第一、第二、第三、第四路徑的困惑,也通過相關(guān)的人工智能創(chuàng)作作品的使用方式,賦予了人工智能研發(fā)者和使用者專屬權(quán)。

    四、結(jié) 語

    人工智能在創(chuàng)作作品領(lǐng)域深化應(yīng)用的趨勢已不可逆轉(zhuǎn),如何保護(hù)其創(chuàng)作的作品是時下必須討論的問題。是選擇突破既有法律體系,對法律進(jìn)行宏觀的、形式的設(shè)計,還是從司法實踐出發(fā)修正甚或發(fā)現(xiàn)法律含義的實質(zhì)內(nèi)涵,是不同的路徑選擇。顯然本文選擇了后者。從著作權(quán)的實質(zhì)出發(fā),發(fā)現(xiàn)建立人工智能創(chuàng)作與收益二元分立模式,在肯定人工智能具有獨立創(chuàng)作作品能力的基礎(chǔ)上,將收益歸屬于研發(fā)者、使用者或者所有者之路徑選擇,不僅可以消除現(xiàn)有人工智能創(chuàng)作作品路徑選擇方案引發(fā)的困惑,維護(hù)既有法律的穩(wěn)定性,還可以鼓勵人工智能的深化應(yīng)用,可以產(chǎn)出更大的價值。既保護(hù)了人工智能創(chuàng)作的作品,也維護(hù)了法律的穩(wěn)定性,同時肯定了司法實務(wù)的實踐邏輯。

    猜你喜歡
    獨創(chuàng)性著作權(quán)法人工智能
    懸而未決
    論非獨創(chuàng)性數(shù)據(jù)庫的鄰接權(quán)保護(hù)模式
    新《著作權(quán)法》視域下視聽作品的界定
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    試論我國作品獨創(chuàng)性的司法認(rèn)定標(biāo)準(zhǔn)
    法制博覽(2018年25期)2018-01-22 15:29:21
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    論版權(quán)轉(zhuǎn)讓登記的對抗效力——評著作權(quán)法修改草案(送審稿)第59條
    下一幕,人工智能!
    論對“一臺戲”的法律保護(hù)——以《德國著作權(quán)法》為參照
    一本一本综合久久| 天天躁狠狠躁夜夜躁狠狠躁| 看黄色毛片网站| 这个男人来自地球电影免费观看| 日韩 欧美 亚洲 中文字幕| 亚洲av片天天在线观看| 好男人在线观看高清免费视频| 欧美黄色片欧美黄色片| 曰老女人黄片| 熟女少妇亚洲综合色aaa.| 岛国在线免费视频观看| 嫩草影视91久久| 日日夜夜操网爽| 国产欧美日韩一区二区精品| 床上黄色一级片| 免费av毛片视频| 久久久久久九九精品二区国产 | www日本黄色视频网| 久久久久国产精品人妻aⅴ院| 国产片内射在线| 国产亚洲av嫩草精品影院| 国产高清激情床上av| 一区二区三区高清视频在线| 一本大道久久a久久精品| 欧美中文综合在线视频| 在线观看免费日韩欧美大片| av有码第一页| 中文字幕人成人乱码亚洲影| 亚洲成人免费电影在线观看| 欧美高清成人免费视频www| 欧美黄色淫秽网站| 又大又爽又粗| 精品久久久久久久毛片微露脸| 欧美又色又爽又黄视频| av免费在线观看网站| 国产成人av激情在线播放| 国产精品亚洲av一区麻豆| 亚洲五月婷婷丁香| 丝袜美腿诱惑在线| 欧美午夜高清在线| 国产男靠女视频免费网站| 亚洲熟女毛片儿| 国产熟女xx| 可以免费在线观看a视频的电影网站| 欧美黄色片欧美黄色片| 婷婷精品国产亚洲av| 91麻豆av在线| 亚洲中文av在线| 亚洲电影在线观看av| xxx96com| 久久久久国产一级毛片高清牌| 久久久久国内视频| 国产麻豆成人av免费视频| e午夜精品久久久久久久| 成年女人毛片免费观看观看9| 我要搜黄色片| 午夜a级毛片| 免费一级毛片在线播放高清视频| 久久天躁狠狠躁夜夜2o2o| 亚洲av成人av| 精华霜和精华液先用哪个| av免费在线观看网站| 99久久99久久久精品蜜桃| 欧洲精品卡2卡3卡4卡5卡区| 可以在线观看的亚洲视频| av超薄肉色丝袜交足视频| 亚洲人成77777在线视频| 99re在线观看精品视频| 18禁观看日本| 欧美精品亚洲一区二区| 最近最新中文字幕大全电影3| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲一码二码三码区别大吗| 免费电影在线观看免费观看| 99国产极品粉嫩在线观看| 久久国产精品影院| 亚洲国产欧美网| 中文字幕最新亚洲高清| 国产视频内射| 禁无遮挡网站| 久久中文字幕人妻熟女| 99久久精品热视频| www.自偷自拍.com| 精品国产亚洲在线| 岛国在线观看网站| 亚洲国产欧美网| xxx96com| 国产v大片淫在线免费观看| 久9热在线精品视频| 亚洲一码二码三码区别大吗| 国产精品一区二区三区四区久久| 日本 av在线| 欧美日本亚洲视频在线播放| 91字幕亚洲| 欧美三级亚洲精品| 国内精品一区二区在线观看| 可以在线观看毛片的网站| 亚洲欧洲精品一区二区精品久久久| 99久久综合精品五月天人人| 免费在线观看黄色视频的| 高清毛片免费观看视频网站| cao死你这个sao货| 国产伦人伦偷精品视频| 天堂√8在线中文| 久久99热这里只有精品18| 无遮挡黄片免费观看| 欧美一区二区精品小视频在线| 精品少妇一区二区三区视频日本电影| 两性午夜刺激爽爽歪歪视频在线观看 | 两性夫妻黄色片| 亚洲七黄色美女视频| 久久久国产精品麻豆| 免费高清视频大片| 两个人免费观看高清视频| 日韩欧美国产一区二区入口| 三级国产精品欧美在线观看 | 亚洲中文日韩欧美视频| 男女那种视频在线观看| 黄色丝袜av网址大全| 精品日产1卡2卡| 日本撒尿小便嘘嘘汇集6| 中文字幕精品亚洲无线码一区| 夜夜爽天天搞| 最近最新中文字幕大全免费视频| 国产精品精品国产色婷婷| 九色成人免费人妻av| 美女高潮喷水抽搐中文字幕| 日韩欧美一区二区三区在线观看| 日本 av在线| 丁香欧美五月| 97人妻精品一区二区三区麻豆| 国产精品久久久久久亚洲av鲁大| 一进一出抽搐gif免费好疼| 老司机靠b影院| 小说图片视频综合网站| 麻豆成人av在线观看| 天天一区二区日本电影三级| 两性午夜刺激爽爽歪歪视频在线观看 | 757午夜福利合集在线观看| 女人爽到高潮嗷嗷叫在线视频| 看片在线看免费视频| 久久精品亚洲精品国产色婷小说| 一级黄色大片毛片| 亚洲一区中文字幕在线| 两性午夜刺激爽爽歪歪视频在线观看 | 人人妻人人看人人澡| 两个人的视频大全免费| 日韩有码中文字幕| 法律面前人人平等表现在哪些方面| 日韩欧美在线二视频| 欧美一区二区国产精品久久精品 | 国产精品影院久久| 黄色成人免费大全| 欧美精品啪啪一区二区三区| 搡老熟女国产l中国老女人| 亚洲 欧美一区二区三区| 九色国产91popny在线| 正在播放国产对白刺激| 少妇的丰满在线观看| 可以在线观看的亚洲视频| 国产精品美女特级片免费视频播放器 | 免费在线观看视频国产中文字幕亚洲| 人妻丰满熟妇av一区二区三区| 正在播放国产对白刺激| 精品久久久久久久久久久久久| 日本三级黄在线观看| 成人三级做爰电影| 亚洲一卡2卡3卡4卡5卡精品中文| 在线观看免费日韩欧美大片| 中国美女看黄片| 国产精品 国内视频| 久久中文字幕一级| 色综合站精品国产| 男女做爰动态图高潮gif福利片| 天天躁夜夜躁狠狠躁躁| 日韩欧美国产一区二区入口| 久久久久久人人人人人| 国产成人系列免费观看| 一a级毛片在线观看| 日本 av在线| 在线免费观看的www视频| 国产三级黄色录像| 亚洲人成77777在线视频| 亚洲人成77777在线视频| 国产成人精品久久二区二区91| 18美女黄网站色大片免费观看| 男女视频在线观看网站免费 | 色综合婷婷激情| 韩国av一区二区三区四区| 久久久久免费精品人妻一区二区| 亚洲最大成人中文| 国产黄片美女视频| 亚洲一区二区三区色噜噜| 国产三级在线视频| 国产精品av视频在线免费观看| 黄片小视频在线播放| 琪琪午夜伦伦电影理论片6080| 国产三级黄色录像| 久久精品国产亚洲av高清一级| 国产三级黄色录像| а√天堂www在线а√下载| 一个人观看的视频www高清免费观看 | 亚洲精品av麻豆狂野| 女人爽到高潮嗷嗷叫在线视频| 国产伦一二天堂av在线观看| 婷婷精品国产亚洲av| 老汉色∧v一级毛片| 亚洲国产精品999在线| 久久中文看片网| 日韩欧美三级三区| 欧美一区二区国产精品久久精品 | 亚洲黑人精品在线| 国产精品 国内视频| 午夜福利视频1000在线观看| 女警被强在线播放| 久久精品国产99精品国产亚洲性色| 欧美日韩亚洲国产一区二区在线观看| 级片在线观看| 啦啦啦韩国在线观看视频| 搡老熟女国产l中国老女人| 国产精品亚洲美女久久久| 特级一级黄色大片| 亚洲最大成人中文| 久久国产精品影院| 999精品在线视频| 久久久国产欧美日韩av| 精品国产美女av久久久久小说| 欧美一区二区国产精品久久精品 | www.999成人在线观看| 国产欧美日韩精品亚洲av| 男人舔女人下体高潮全视频| 亚洲精品一区av在线观看| 日本精品一区二区三区蜜桃| 免费av毛片视频| 国产精品日韩av在线免费观看| 天天添夜夜摸| 一本一本综合久久| 久久久久性生活片| 欧美另类亚洲清纯唯美| 动漫黄色视频在线观看| 亚洲国产高清在线一区二区三| 成人av一区二区三区在线看| 97人妻精品一区二区三区麻豆| 在线免费观看的www视频| 叶爱在线成人免费视频播放| 日本a在线网址| 午夜福利在线观看吧| 无人区码免费观看不卡| 国产成人啪精品午夜网站| 高潮久久久久久久久久久不卡| 好看av亚洲va欧美ⅴa在| 在线观看66精品国产| 天天躁夜夜躁狠狠躁躁| 国产又色又爽无遮挡免费看| 国产av不卡久久| 国产成人精品无人区| 国产真实乱freesex| 国产69精品久久久久777片 | 99热6这里只有精品| 老司机午夜福利在线观看视频| 最新美女视频免费是黄的| 亚洲成av人片在线播放无| 国产亚洲av高清不卡| 午夜影院日韩av| 午夜免费观看网址| 欧美性猛交黑人性爽| 久久久久久久精品吃奶| 一本一本综合久久| 人妻久久中文字幕网| 99精品在免费线老司机午夜| 日韩国内少妇激情av| 日本黄大片高清| 欧美在线黄色| 欧美一区二区国产精品久久精品 | e午夜精品久久久久久久| 精品第一国产精品| 少妇熟女aⅴ在线视频| ponron亚洲| 久久99热这里只有精品18| 极品教师在线免费播放| 男人的好看免费观看在线视频 | 999精品在线视频| 国产高清激情床上av| 极品教师在线免费播放| 久9热在线精品视频| 亚洲国产中文字幕在线视频| 色综合婷婷激情| 亚洲 欧美 日韩 在线 免费| 中文字幕人成人乱码亚洲影| 91成年电影在线观看| 亚洲五月婷婷丁香| 中出人妻视频一区二区| 看片在线看免费视频| 国产亚洲av高清不卡| 少妇人妻一区二区三区视频| 19禁男女啪啪无遮挡网站| 麻豆av在线久日| 少妇的丰满在线观看| 看黄色毛片网站| 我的老师免费观看完整版| 欧美黑人精品巨大| 一个人免费在线观看的高清视频| 黄色片一级片一级黄色片| 天堂影院成人在线观看| 香蕉久久夜色| 91字幕亚洲| 亚洲精品国产精品久久久不卡| 国产欧美日韩精品亚洲av| 亚洲av成人av| 国产欧美日韩精品亚洲av| 老汉色av国产亚洲站长工具| 国产成年人精品一区二区| 91麻豆精品激情在线观看国产| 久久天堂一区二区三区四区| 国产精品,欧美在线| 日本精品一区二区三区蜜桃| 深夜精品福利| 床上黄色一级片| 琪琪午夜伦伦电影理论片6080| 国产精品爽爽va在线观看网站| 嫩草影院精品99| 日日干狠狠操夜夜爽| 久久亚洲真实| 久久久久国内视频| 欧美色欧美亚洲另类二区| 欧美高清成人免费视频www| 成人国产一区最新在线观看| 岛国视频午夜一区免费看| 在线观看午夜福利视频| 成人18禁在线播放| 三级男女做爰猛烈吃奶摸视频| 国产精品av视频在线免费观看| 国产精品久久视频播放| 老司机福利观看| 又黄又爽又免费观看的视频| 巨乳人妻的诱惑在线观看| av视频在线观看入口| 老司机福利观看| 老司机在亚洲福利影院| av国产免费在线观看| 狠狠狠狠99中文字幕| 欧美极品一区二区三区四区| 两性午夜刺激爽爽歪歪视频在线观看 | 天堂√8在线中文| 午夜老司机福利片| 天堂av国产一区二区熟女人妻 | 男女做爰动态图高潮gif福利片| 免费观看人在逋| bbb黄色大片| 日韩大尺度精品在线看网址| 亚洲男人天堂网一区| 色精品久久人妻99蜜桃| 高清在线国产一区| 久热爱精品视频在线9| 久久99热这里只有精品18| 日本a在线网址| 又爽又黄无遮挡网站| 国产熟女xx| 国产精品久久久久久亚洲av鲁大| 黄色视频不卡| 1024手机看黄色片| 国产在线精品亚洲第一网站| 在线观看www视频免费| 91麻豆精品激情在线观看国产| 中亚洲国语对白在线视频| 天堂影院成人在线观看| 国产黄片美女视频| 久久精品夜夜夜夜夜久久蜜豆 | 一进一出抽搐动态| 99国产精品99久久久久| 午夜免费成人在线视频| 国产精品日韩av在线免费观看| 亚洲人成伊人成综合网2020| 人人妻人人看人人澡| ponron亚洲| 欧美日韩亚洲综合一区二区三区_| 中文字幕精品亚洲无线码一区| 波多野结衣巨乳人妻| 亚洲自拍偷在线| 搡老妇女老女人老熟妇| 色av中文字幕| 熟女电影av网| 国产三级黄色录像| 亚洲欧美激情综合另类| 色综合婷婷激情| 欧美日韩黄片免| 变态另类丝袜制服| 国产成人aa在线观看| 亚洲av片天天在线观看| 搡老岳熟女国产| 亚洲七黄色美女视频| 色尼玛亚洲综合影院| 久久精品91蜜桃| 国产一区二区在线av高清观看| 真人一进一出gif抽搐免费| 真人做人爱边吃奶动态| 亚洲美女黄片视频| 母亲3免费完整高清在线观看| 级片在线观看| 每晚都被弄得嗷嗷叫到高潮| 午夜福利免费观看在线| 欧美色欧美亚洲另类二区| 欧美 亚洲 国产 日韩一| 丁香欧美五月| 久久精品成人免费网站| 一级毛片精品| 色在线成人网| av超薄肉色丝袜交足视频| 50天的宝宝边吃奶边哭怎么回事| 天天躁夜夜躁狠狠躁躁| 性色av乱码一区二区三区2| 亚洲精品国产一区二区精华液| 麻豆成人av在线观看| 免费高清视频大片| 亚洲成a人片在线一区二区| 两性午夜刺激爽爽歪歪视频在线观看 | 岛国视频午夜一区免费看| 久久香蕉激情| 黑人操中国人逼视频| 欧美在线黄色| 禁无遮挡网站| 99久久99久久久精品蜜桃| 日韩精品免费视频一区二区三区| 日本 欧美在线| 国产精品电影一区二区三区| 亚洲精品一区av在线观看| 丝袜美腿诱惑在线| xxxwww97欧美| x7x7x7水蜜桃| 欧美黄色淫秽网站| 成在线人永久免费视频| 人人妻人人看人人澡| av在线天堂中文字幕| 中文字幕人妻丝袜一区二区| 男插女下体视频免费在线播放| 精品高清国产在线一区| 无遮挡黄片免费观看| 毛片女人毛片| 在线国产一区二区在线| 久久精品夜夜夜夜夜久久蜜豆 | 欧美日韩亚洲国产一区二区在线观看| 色老头精品视频在线观看| 国产三级中文精品| 91av网站免费观看| 国产精品久久电影中文字幕| 亚洲一区二区三区色噜噜| 宅男免费午夜| 人成视频在线观看免费观看| 最近最新中文字幕大全电影3| 欧美乱妇无乱码| www.熟女人妻精品国产| 天天躁夜夜躁狠狠躁躁| av视频在线观看入口| 中文字幕久久专区| 色在线成人网| 黄片大片在线免费观看| 亚洲自偷自拍图片 自拍| 久久精品影院6| 精品久久久久久久久久久久久| 亚洲真实伦在线观看| 久久天躁狠狠躁夜夜2o2o| 麻豆一二三区av精品| 99re在线观看精品视频| 麻豆成人午夜福利视频| 两性午夜刺激爽爽歪歪视频在线观看 | 宅男免费午夜| 成人18禁在线播放| 俄罗斯特黄特色一大片| 热99re8久久精品国产| 欧美激情久久久久久爽电影| 国产真人三级小视频在线观看| 99riav亚洲国产免费| 国产精品野战在线观看| 精华霜和精华液先用哪个| 成人手机av| 久久精品亚洲精品国产色婷小说| 国产精品一及| 日本撒尿小便嘘嘘汇集6| 国产精品99久久99久久久不卡| 老汉色av国产亚洲站长工具| 久久精品国产99精品国产亚洲性色| 国产精品免费视频内射| 久久精品综合一区二区三区| 日本撒尿小便嘘嘘汇集6| 婷婷亚洲欧美| 19禁男女啪啪无遮挡网站| 欧美日韩亚洲国产一区二区在线观看| 国产一级毛片七仙女欲春2| 欧美日韩中文字幕国产精品一区二区三区| 色综合欧美亚洲国产小说| 人妻夜夜爽99麻豆av| 岛国在线免费视频观看| 中文字幕久久专区| 美女午夜性视频免费| 亚洲一卡2卡3卡4卡5卡精品中文| 欧美日韩瑟瑟在线播放| 舔av片在线| 欧美一级a爱片免费观看看 | 在线观看免费午夜福利视频| 老司机在亚洲福利影院| 国产一区二区在线av高清观看| 蜜桃久久精品国产亚洲av| 亚洲一区二区三区色噜噜| 免费人成视频x8x8入口观看| 99国产精品99久久久久| 色综合亚洲欧美另类图片| 无人区码免费观看不卡| 一区二区三区激情视频| 国产高清有码在线观看视频 | 黄色成人免费大全| 国产精品精品国产色婷婷| 国产精品一区二区免费欧美| 国产亚洲精品第一综合不卡| 亚洲成av人片免费观看| 亚洲午夜精品一区,二区,三区| 九九热线精品视视频播放| 久久国产精品人妻蜜桃| 国产不卡一卡二| 一进一出抽搐动态| 全区人妻精品视频| cao死你这个sao货| netflix在线观看网站| 亚洲国产欧洲综合997久久,| 亚洲第一电影网av| 美女免费视频网站| 热99re8久久精品国产| 精品少妇一区二区三区视频日本电影| 日韩欧美免费精品| 可以在线观看毛片的网站| 他把我摸到了高潮在线观看| 99久久综合精品五月天人人| 久久欧美精品欧美久久欧美| 亚洲欧美日韩高清专用| 777久久人妻少妇嫩草av网站| 久久中文字幕一级| 精品国产乱子伦一区二区三区| 国产精品久久久久久精品电影| 99久久综合精品五月天人人| 亚洲精品在线观看二区| 香蕉国产在线看| 女同久久另类99精品国产91| 成人午夜高清在线视频| 亚洲一区二区三区不卡视频| 亚洲无线在线观看| 国产在线精品亚洲第一网站| 婷婷六月久久综合丁香| 午夜福利成人在线免费观看| 在线视频色国产色| 国产日本99.免费观看| 91字幕亚洲| 欧美日韩一级在线毛片| 亚洲国产高清在线一区二区三| 亚洲国产欧美一区二区综合| 亚洲最大成人中文| 91成年电影在线观看| 国产精品电影一区二区三区| 波多野结衣高清作品| 久久久久久久久免费视频了| 宅男免费午夜| 久久久久精品国产欧美久久久| 午夜免费成人在线视频| 三级毛片av免费| 欧美一区二区精品小视频在线| 国产av又大| 身体一侧抽搐| 亚洲欧美日韩高清专用| 亚洲国产高清在线一区二区三| 十八禁人妻一区二区| av免费在线观看网站| 夜夜爽天天搞| 欧美日韩精品网址| 国产亚洲精品久久久久5区| 亚洲国产日韩欧美精品在线观看 | 免费在线观看日本一区| 亚洲国产欧洲综合997久久,| 成人18禁高潮啪啪吃奶动态图| 色综合亚洲欧美另类图片| 色尼玛亚洲综合影院| 久久精品国产亚洲av香蕉五月| 欧美另类亚洲清纯唯美| 国产不卡一卡二| 亚洲avbb在线观看| 日本 av在线| 亚洲第一电影网av| 草草在线视频免费看| 色尼玛亚洲综合影院| 丰满的人妻完整版| 中文字幕最新亚洲高清| 国产精品,欧美在线| 观看免费一级毛片| 久久久久久久久久黄片| 精品一区二区三区av网在线观看| 91麻豆精品激情在线观看国产| 伦理电影免费视频| 18禁国产床啪视频网站| 亚洲人成网站高清观看| 亚洲精品国产精品久久久不卡| 看免费av毛片| 国产黄a三级三级三级人| 波多野结衣巨乳人妻| 色综合站精品国产| 午夜日韩欧美国产| 舔av片在线| 欧美乱色亚洲激情| 最近最新中文字幕大全免费视频| 亚洲午夜精品一区,二区,三区| 日本 欧美在线| 亚洲中文字幕日韩| 好男人在线观看高清免费视频| 国内少妇人妻偷人精品xxx网站 | 1024手机看黄色片| 日韩免费av在线播放| aaaaa片日本免费| 欧美av亚洲av综合av国产av| 人妻久久中文字幕网|