• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論算法的法律保護(hù)模式

    2019-10-08 07:27:14孫建麗
    關(guān)鍵詞:專(zhuān)屬性保護(hù)模式發(fā)明人

    孫建麗

    (對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué) 法學(xué)院,北京 100029)

    人工智能技術(shù)快速發(fā)展的同時(shí),算法亦被廣泛運(yùn)用于電子商務(wù)等各大領(lǐng)域。然而,當(dāng)前算法技術(shù)的發(fā)展速度已經(jīng)超越了法制革新的步伐,以致現(xiàn)有立法對(duì)算法的保護(hù)性規(guī)制無(wú)法與之匹配。雖然算法在實(shí)務(wù)中被競(jìng)相運(yùn)用,但從發(fā)生學(xué)角度而言,其在我國(guó)仍屬新生事物。該研究由于受高度專(zhuān)業(yè)性和技術(shù)性限制,目前國(guó)內(nèi)法學(xué)領(lǐng)域罕有學(xué)者對(duì)算法的保護(hù)模式展開(kāi)相應(yīng)探究。另外,算法自身演進(jìn)的階段性,尤其是高階算法的難以預(yù)測(cè)性和不可控性,使得對(duì)算法的探討變得更加困難。在算法技術(shù)應(yīng)用愈發(fā)普及的當(dāng)下,應(yīng)該采用何種法律模式對(duì)算法施以保護(hù),是值得關(guān)注的重點(diǎn)問(wèn)題。

    在國(guó)內(nèi)算法法律保護(hù)模式理論研究尚屬空白且遠(yuǎn)未形成體系化的當(dāng)前,確有必要以他國(guó)為鑒。然而,截至目前,即使算法技術(shù)和立法理念均較先進(jìn)的美國(guó)對(duì)該問(wèn)題亦無(wú)定論。事實(shí)上,美國(guó)國(guó)內(nèi)現(xiàn)有兩種觀點(diǎn),一種主張采用專(zhuān)利模式給予算法保護(hù),另一種主張采用商業(yè)秘密模式給予算法保護(hù)。究竟何種法律保護(hù)模式在理論上更具優(yōu)勢(shì),還有待進(jìn)一步分析。雖然目前我國(guó)算法技術(shù)在國(guó)際上尚處跟跑階段,但仍需立法對(duì)算法的法律保護(hù)模式及時(shí)作出明確規(guī)定。通過(guò)對(duì)美國(guó)算法保護(hù)模式的利弊歸結(jié),我國(guó)可在借鑒的基礎(chǔ)上,根據(jù)國(guó)內(nèi)算法發(fā)展的特點(diǎn)和現(xiàn)狀進(jìn)行一定程度的創(chuàng)新,進(jìn)而建構(gòu)出符合國(guó)情發(fā)展的分階算法保護(hù)模式。

    一、算法的專(zhuān)利保護(hù)模式分析

    究竟該對(duì)算法采用何種法律保護(hù)模式?人工智能技術(shù)遙遙領(lǐng)先的美國(guó)曾一度對(duì)算法的保護(hù)模式展開(kāi)過(guò)積極探討。在Mayo v.Prometheus案發(fā)生之前,美國(guó)法院曾認(rèn)為算法雖然隸屬抽象觀點(diǎn)范疇,但依然應(yīng)當(dāng)采用專(zhuān)利模式給予其保護(hù)。然而,在該案發(fā)生之后,美國(guó)法院便轉(zhuǎn)變了觀點(diǎn),認(rèn)為醫(yī)療算法并非美國(guó)《專(zhuān)利法》第101條之下可被授予專(zhuān)利權(quán)的適格客體,而是一種告知醫(yī)生該采取何種行動(dòng)的自然法則,因而采用專(zhuān)利模式對(duì)算法施以保護(hù)是無(wú)效的(1)參見(jiàn)美國(guó)法院2012年Mayo v.Prometheus,132S.Ct.at 1298(citing 35 U.S.C.§101(2012)一案判決書(shū)。。隨后,2014年發(fā)生的Alice Corp.v.CLS Bank International案再次強(qiáng)化了美國(guó)最高法院的此種觀點(diǎn),認(rèn)為算法只是一種僅能在計(jì)算機(jī)中運(yùn)行的一種抽象發(fā)明,因而不可采用專(zhuān)利模式對(duì)其施以保護(hù)(2)參見(jiàn)美國(guó)法院2014年Alice Corp.Pty.v.CLS Bank Int'l,134 S.Ct.2347,2358(2014)一案判決書(shū)。。

    事實(shí)上,究竟能否采用專(zhuān)利模式對(duì)算法施以保護(hù),知識(shí)產(chǎn)權(quán)法學(xué)者對(duì)此亦有探討。世界知識(shí)產(chǎn)權(quán)組織(簡(jiǎn)稱(chēng)WIPO)總干事Francis Gurry博士認(rèn)為可采用專(zhuān)利模式對(duì)算法施以保護(hù),但需要解決專(zhuān)利申請(qǐng)時(shí)長(zhǎng)和算法新穎性之間的矛盾問(wèn)題,對(duì)此吳漢東教授也表示認(rèn)同[1]。然而,即便解決了專(zhuān)利申請(qǐng)時(shí)長(zhǎng)與算法新穎性之間的矛盾問(wèn)題,算法究竟能否在我國(guó)采用專(zhuān)利模式施以保護(hù),依舊取決于算法是否滿(mǎn)足當(dāng)前我國(guó)《專(zhuān)利法》對(duì)專(zhuān)利的法定要求。

    第一,算法是否符合專(zhuān)利之“可實(shí)施性”要求。專(zhuān)利“可實(shí)施性”要求通常表現(xiàn)為,該技術(shù)領(lǐng)域中其他技能人員無(wú)須另行實(shí)驗(yàn)即可根據(jù)專(zhuān)利說(shuō)明書(shū)將該專(zhuān)利付諸實(shí)現(xiàn)。由此,算法若要通過(guò)專(zhuān)利模式施以保護(hù),必須具備專(zhuān)利的可實(shí)施屬性。這就意味著發(fā)明人必須在專(zhuān)利說(shuō)明書(shū)中披露算法的具體操作規(guī)程。根據(jù)當(dāng)前算法發(fā)展階段性特征可知(詳見(jiàn)表1[2]),“白箱”算法和“灰箱”算法屬于低階算法,由于基本遵循計(jì)算機(jī)指令,發(fā)明人可通過(guò)披露原有計(jì)算機(jī)指令的形式展現(xiàn)這兩種算法的具體操作規(guī)程,業(yè)內(nèi)其他技能人員亦可根據(jù)發(fā)明人的具體披露通過(guò)輸入原有計(jì)算機(jī)指令的形式直接將這兩種算法付諸實(shí)現(xiàn)。然而,正如表1所示,“黑箱”算法、“感知”算法、“奇異”算法系機(jī)器自主學(xué)習(xí)的結(jié)果,已經(jīng)超越了人們當(dāng)前的認(rèn)知和控制范圍,發(fā)明人很難再就這三種高階算法的具體操作規(guī)程進(jìn)行清晰描述和披露,業(yè)內(nèi)其他技能人員也難以通過(guò)輸入原有計(jì)算機(jī)指令的方式再將這三種高階算法一一付諸實(shí)現(xiàn)。

    表1算法分類(lèi)表

    然而,我們能否采用類(lèi)似我國(guó)《專(zhuān)利法》有關(guān)保藏新生物材料樣品的方法將高階算法一一付諸實(shí)現(xiàn)呢?即將這三種高階算法賴(lài)以運(yùn)行的數(shù)據(jù)集和引發(fā)這三類(lèi)非透明學(xué)習(xí)算法生成的機(jī)器學(xué)習(xí)規(guī)則存儲(chǔ)到公用數(shù)據(jù)庫(kù)中,當(dāng)數(shù)據(jù)集和機(jī)器學(xué)習(xí)規(guī)則并行存儲(chǔ)完畢后,再由業(yè)內(nèi)其他技能人員付諸實(shí)現(xiàn)?筆者認(rèn)為,即便業(yè)內(nèi)人員能夠通過(guò)此種方法復(fù)現(xiàn)高階算法的結(jié)果,高階算法在滿(mǎn)足專(zhuān)利“可實(shí)施性”要求上仍然面臨著諸多挑戰(zhàn)。因?yàn)椴捎霉脭?shù)據(jù)庫(kù)存儲(chǔ)方式將會(huì)泄露發(fā)明人的專(zhuān)有數(shù)據(jù)集和學(xué)習(xí)算法的原有數(shù)學(xué)模型,進(jìn)而引發(fā)大規(guī)模隱私侵權(quán)現(xiàn)象和商業(yè)秘密泄露風(fēng)險(xiǎn)[3],如此將會(huì)導(dǎo)致算法引發(fā)的未知風(fēng)險(xiǎn)多于算法所要解決的問(wèn)題,客觀上缺乏實(shí)施合理性。另外,當(dāng)算法和具體領(lǐng)域如醫(yī)療結(jié)合形成高階算法時(shí),發(fā)明人通常很難對(duì)此種復(fù)合算法的特征作出精準(zhǔn)歸納與概括,并就歸納與概括的正當(dāng)性說(shuō)明理由。如果此種情形下進(jìn)行公共存儲(chǔ),于高階算法的可實(shí)施性并未有真正助益。更進(jìn)一步而言,在發(fā)明人無(wú)法就算法操作規(guī)程進(jìn)行精確歸納與概括的情況下,倘若他人能夠以該算法為基礎(chǔ)進(jìn)行新的發(fā)明,那么初始發(fā)明人的權(quán)利請(qǐng)求范圍將會(huì)受到一定程度的限制,專(zhuān)利制度對(duì)初始發(fā)明人的激勵(lì)作用也將會(huì)受到削弱。由此,通過(guò)公共存儲(chǔ)方式復(fù)現(xiàn)高階算法幾乎不具備可能性和可行性。

    通過(guò)分析可知,算法是否符合專(zhuān)利“可實(shí)施性”法定要求,不能一概而論。當(dāng)算法處在“白箱”和“灰箱”階段時(shí),發(fā)明人能夠描述、披露算法的具體操作規(guī)程,業(yè)內(nèi)其他技能人員也能夠根據(jù)發(fā)明人的描述和披露將其付諸實(shí)施。即低階算法基本上符合專(zhuān)利“可實(shí)施性”要求;然而,當(dāng)算法處在“黑箱”“可感知”和“智能化”階段時(shí),發(fā)明人在披露機(jī)器學(xué)習(xí)算法的具體操作規(guī)程上確實(shí)存有客觀障礙,其將因無(wú)法解釋和控制高階算法的自動(dòng)生成路徑,而使得高階算法很難符合專(zhuān)利“可實(shí)施性”的法定要求。

    第二,算法是否符合專(zhuān)利申請(qǐng)說(shuō)明書(shū)之“書(shū)面說(shuō)明”要求。根據(jù)我國(guó)《專(zhuān)利法》第26條和《專(zhuān)利法實(shí)施細(xì)則》第18條至第24條規(guī)定,專(zhuān)利申請(qǐng)說(shuō)明書(shū)應(yīng)當(dāng)對(duì)發(fā)明內(nèi)容及其主要技術(shù)特征做出清楚、完整的說(shuō)明。之所以對(duì)專(zhuān)利做出此種獨(dú)立要求,是為了防止授予發(fā)明人過(guò)早、過(guò)寬的專(zhuān)利權(quán),以及限制發(fā)明范圍(3)參見(jiàn)美國(guó)法院2010年Ariad Pharm.,Inc.v.Eli Lilly & Co.,598 F.3d 1351,(Fed.Cir.2010)一案判決書(shū)。。也就是說(shuō),發(fā)明人在提出專(zhuān)利申請(qǐng)時(shí)必須實(shí)際擁有該發(fā)明,并通過(guò)對(duì)發(fā)明內(nèi)容及其主要特征的清晰描述確證自己的權(quán)利范圍。然而,當(dāng)前算法能否滿(mǎn)足此種法定要求還有待商榷。誠(chéng)如表1算法分類(lèi)表所示,“白箱”算法和“灰箱”算法基本上是對(duì)計(jì)算機(jī)原有指令的充分遵循,發(fā)明人完全可對(duì)這兩種算法運(yùn)行的技術(shù)方案和具體實(shí)施方式做出清晰書(shū)面說(shuō)明,從根本上能夠符合我國(guó)《專(zhuān)利法》和《專(zhuān)利法實(shí)施細(xì)則》的上述規(guī)定。

    然而,當(dāng)算法通過(guò)深度學(xué)習(xí)能夠自動(dòng)生成新的設(shè)計(jì)路徑,進(jìn)入“黑箱”、“可感知”和“智能化”階段時(shí),已經(jīng)完全脫離人類(lèi)控制而變得不可預(yù)測(cè)和難以解釋?zhuān)瑢?dǎo)致發(fā)明人很難從整體上反映出這三種高階算法的主要技術(shù)內(nèi)容,亦難以記載構(gòu)成這三種算法的必要技術(shù)特征。正如圖1所示,發(fā)明人已經(jīng)不可能再繼續(xù)對(duì)高階算法權(quán)衡決策要素的過(guò)程進(jìn)行有效干預(yù),更難以對(duì)學(xué)習(xí)算法的內(nèi)容生成路徑和主要技術(shù)特征進(jìn)行明確描述和記載。進(jìn)一步而言,即便發(fā)明人能夠通過(guò)語(yǔ)言描述高階算法的主要內(nèi)容和技術(shù)特征,業(yè)內(nèi)其他技術(shù)人員也未必能夠復(fù)現(xiàn)出同樣的算法結(jié)果,因?yàn)樗惴ㄊ欠褡裱簧陕窂侥壳吧胁磺宄?/p>

    通過(guò)分析可知,發(fā)明人可以對(duì)“白箱”算法和“灰箱”算法的主要內(nèi)容和技術(shù)特征做出清晰、完整說(shuō)明,但無(wú)法對(duì)高階算法主要內(nèi)容和技術(shù)特征做出明確描述。事實(shí)上,發(fā)明人對(duì)高階算法不是無(wú)法做出清晰描述的問(wèn)題,而是對(duì)高階算法生成路徑存在認(rèn)知盲區(qū)問(wèn)題。由此,高階算法至少目前還無(wú)法滿(mǎn)足我國(guó)《專(zhuān)利法》和《專(zhuān)利實(shí)施細(xì)則》對(duì)發(fā)明專(zhuān)利所規(guī)定的“清楚、完整”的書(shū)面說(shuō)明要求。

    圖1 算法決策流程圖

    第三,算法是否符合專(zhuān)利之“合法性”要求。根據(jù)我國(guó)《專(zhuān)利法》第五條規(guī)定,對(duì)違反法律、社會(huì)公德或者妨害公共利益的發(fā)明創(chuàng)造,不授予專(zhuān)利權(quán),即如果算法不具備合法性,便不能通過(guò)專(zhuān)利模式施以保護(hù)。事實(shí)上,判斷算法合法與否不僅涉及計(jì)算機(jī)編程技術(shù)操作規(guī)范問(wèn)題,還涉及編程倫理與價(jià)值判斷問(wèn)題,而后者本身固有的開(kāi)放性、模糊性,間接地增加了算法合法、合理與否的判定難度。判斷算法是否合法、合理不是簡(jiǎn)單回答“是”與“非”的問(wèn)題,而是一項(xiàng)需要結(jié)合時(shí)間、地點(diǎn)、損害結(jié)果等諸多要素進(jìn)行綜合判斷的問(wèn)題。例如,算法可根據(jù)用戶(hù)瀏覽信息的偏好不斷地向其推送系列類(lèi)似題材的視頻,這種做法短期內(nèi)看似滿(mǎn)足了用戶(hù)的個(gè)性化消費(fèi)需求,但長(zhǎng)此以往卻將用戶(hù)帶入了“井蛙困境”。短期內(nèi)注意力有限的情況下,用戶(hù)僅能被鎖定在由自動(dòng)化算法推送的某類(lèi)固定信息中,當(dāng)用戶(hù)對(duì)此類(lèi)固定信息形成穩(wěn)定的閱讀習(xí)慣后,便再難以關(guān)注其他領(lǐng)域的信息或即時(shí)熱點(diǎn),久而久之,造成用戶(hù)思維固化、盲目自信,認(rèn)知結(jié)構(gòu)單一,甚至模糊或淡化對(duì)現(xiàn)實(shí)社會(huì)的真實(shí)感知[4],間接地剝奪了用戶(hù)對(duì)其他信息的“知情權(quán)”。這種情況下,短視頻推介算法的短期合理性和長(zhǎng)期道德悖反性的兩相結(jié)合,促使算法合法與否的判定難度升級(jí),至于是否授予此種算法專(zhuān)利權(quán),也將專(zhuān)利審查委員會(huì)推至兩難境地。

    除卻算法短期合理性和長(zhǎng)期道德悖反性難題外,算法合法與否的判定難度還在于對(duì)污染數(shù)據(jù)的甄別和對(duì)替代變量的審查。大數(shù)據(jù)的海量性和替代變量的任意性均對(duì)算法合法與否的識(shí)別造成了一定障礙,二者的混合存在使得算法侵權(quán)變得更加隱蔽,違法識(shí)別耗時(shí)更長(zhǎng),嚴(yán)重遲滯了算法合法與否的正常判定進(jìn)度。設(shè)若甄別污染數(shù)據(jù)和審核替代變量所用時(shí)間超過(guò)算法取得專(zhuān)利的時(shí)長(zhǎng),已取得的算法專(zhuān)利還將面臨被撤銷(xiāo)的風(fēng)險(xiǎn)。因此,算法合法與否問(wèn)題未確定之前,不宜直接通過(guò)專(zhuān)利模式對(duì)算法施以保護(hù)。

    綜上分析,“白箱”算法和“灰箱”算法簡(jiǎn)單透明,易于預(yù)測(cè)、解釋、分析和甄別,客觀上能夠滿(mǎn)足專(zhuān)利法對(duì)專(zhuān)利的法定要求,立法宜采用專(zhuān)利模式對(duì)其施以保護(hù)。然而,“黑箱”算法、“感知”算法和“奇異”算法操作規(guī)程過(guò)于精密、復(fù)雜,決策過(guò)程不再受人類(lèi)控制,也無(wú)法為人類(lèi)所清晰認(rèn)知,雖然可能具有專(zhuān)利的某些特性,但直接通過(guò)專(zhuān)利模式對(duì)這三類(lèi)高階算法施以保護(hù),將會(huì)對(duì)我國(guó)現(xiàn)行《專(zhuān)利法》及其實(shí)施細(xì)則的框架造成強(qiáng)烈沖擊。另外,雖然人工智能技術(shù)的飛速發(fā)展能夠促使算法在短時(shí)間內(nèi)快速迭代,但我國(guó)當(dāng)前專(zhuān)利制度的諸多規(guī)定并不利于通過(guò)專(zhuān)利模式對(duì)高階算法施以保護(hù)。

    二、算法的商業(yè)秘密保護(hù)模式分析

    盡管各國(guó)學(xué)者對(duì)商業(yè)秘密內(nèi)涵界定不盡一致,但通過(guò)商業(yè)秘密保護(hù)技術(shù)信息已成為國(guó)際共識(shí)。對(duì)技術(shù)信息采取保密措施使得創(chuàng)新者對(duì)技術(shù)信息享有獨(dú)占權(quán)獲取競(jìng)爭(zhēng)優(yōu)勢(shì)的同時(shí),也將包括競(jìng)爭(zhēng)者在內(nèi)的其他各方排除在該項(xiàng)技術(shù)信息的知悉范圍之外。事實(shí)上,除專(zhuān)利制度外,商業(yè)秘密是保護(hù)技術(shù)創(chuàng)新的又一重要私法制度[5]。在美國(guó)司法實(shí)踐中,技術(shù)信息的所有人通常以商業(yè)秘密為由拒絕披露算法決策過(guò)程,如銷(xiāo)售COMPAS智能風(fēng)險(xiǎn)評(píng)估系統(tǒng)的Northpointe公司為實(shí)現(xiàn)營(yíng)利目的,以商業(yè)秘密為由拒絕披露自動(dòng)化算法對(duì)服刑期間表現(xiàn)良好、符合假釋條件的Rodríguez作出“高風(fēng)險(xiǎn)”評(píng)估的決策過(guò)程[6]。

    實(shí)際上,美國(guó)法院在司法實(shí)務(wù)中已經(jīng)通過(guò)判決認(rèn)可了算法的商業(yè)秘密保護(hù)模式。如在Viacom v.You Tube案中,法院并未強(qiáng)制被告向原告提供控制You Tube.com搜索功能和谷歌Google.com網(wǎng)絡(luò)搜索工具的計(jì)算機(jī)源代碼。法院認(rèn)為,該計(jì)算機(jī)源代碼凝集了數(shù)千人多年的勞動(dòng)成果,這種商業(yè)秘密中蘊(yùn)含著巨大的商業(yè)價(jià)值,若允許他人訪問(wèn),該計(jì)算機(jī)源代碼的基本設(shè)計(jì)原理將被他人輕易知悉,如此將會(huì)給Google造成巨大的競(jìng)爭(zhēng)損失,因?yàn)椴幌馟oogle那樣,他人無(wú)需投入巨額研究資金即可獲得比較競(jìng)爭(zhēng)優(yōu)勢(shì)[7]。正如Viacom v.You Tube一案所示,盡管審查計(jì)算機(jī)源代碼是解決You Tube搜索算法是否存有提升排名等不當(dāng)行為的唯一解決方案,但是法院仍以保護(hù)商業(yè)秘密為由拒絕了原告強(qiáng)制披露被告計(jì)算機(jī)源代碼的請(qǐng)求。

    然而,算法究竟能否在我國(guó)通過(guò)商業(yè)秘密模式施以保護(hù)呢?實(shí)質(zhì)上,算法是以大數(shù)據(jù)為基礎(chǔ)解決某一問(wèn)題的策略機(jī)制。這種策略機(jī)制中包含著大數(shù)據(jù)和算法實(shí)施思想兩大要素。首先,作為基礎(chǔ)要素,大數(shù)據(jù)承載著用戶(hù)個(gè)人的隱私信息和消費(fèi)痕跡,用戶(hù)個(gè)人數(shù)據(jù)表面上看似并不涉及商業(yè)秘密,但經(jīng)過(guò)海量獲取和分析后,便呈現(xiàn)出一定的規(guī)律性。使用者可根據(jù)大數(shù)據(jù)所呈現(xiàn)出的規(guī)律作出決策,從而降低管理和其他開(kāi)支成本,獲取高額商業(yè)利潤(rùn)?,F(xiàn)實(shí)中,幾乎每個(gè)使用者都會(huì)獨(dú)立保有自己的數(shù)據(jù)庫(kù),彼此之間非但互不共享,各使用者之間反而還會(huì)采取各種反爬措施防止他人爬取自有網(wǎng)站數(shù)據(jù)。零星散亂的數(shù)據(jù)并不具有商業(yè)秘密屬性,也不具有商業(yè)價(jià)值,但當(dāng)這些數(shù)據(jù)經(jīng)過(guò)使用者加工后便成為一種營(yíng)利資本和商業(yè)財(cái)富,由此具備商業(yè)秘密屬性。

    其次,作為核心要素,算法實(shí)施的思想是算法建模的關(guān)鍵,沒(méi)有這項(xiàng)核心要素,算法建模工作就無(wú)法有序展開(kāi)。因?yàn)樗惴ńkA段必須將一定的思想目標(biāo)作為指引,并將其貫穿建模始終。否則,算法設(shè)計(jì)者無(wú)法通過(guò)有限步驟將該思想目標(biāo)付諸實(shí)施。司法實(shí)務(wù)中,純粹的思想目標(biāo)不一定是商業(yè)秘密,但是算法建模等具體操作細(xì)節(jié)、方式等仍有可能符合商業(yè)秘密之秘密性、新穎性特征,進(jìn)而具備商業(yè)秘密屬性。由此,通過(guò)分析可知,當(dāng)算法的兩大構(gòu)成要素均具備商業(yè)秘密屬性時(shí),算法就有可能通過(guò)商業(yè)秘密模式獲得法律保護(hù)。

    人工智能時(shí)代,通過(guò)商業(yè)秘密形式保護(hù)算法專(zhuān)有權(quán)不僅有利于防止他人故意侵權(quán),還有利于杜絕其他競(jìng)爭(zhēng)者的搭便車(chē)行為。然而,通過(guò)商業(yè)秘密形式保護(hù)算法專(zhuān)有權(quán)亦存有弊端,即不利于對(duì)算法所造成的實(shí)際損害進(jìn)行法律歸責(zé)[8]、無(wú)法保障公眾對(duì)信息的準(zhǔn)確獲取權(quán)、抑制社會(huì)累進(jìn)創(chuàng)新。正如本文表1所示,高階算法已經(jīng)擺脫了人類(lèi)的有效控制,人們很難再對(duì)算法決策過(guò)程和決策結(jié)果進(jìn)行相應(yīng)預(yù)測(cè)和解釋?zhuān)O(shè)若通過(guò)商業(yè)秘密形式對(duì)算法施以保護(hù),那么由算法造成的“信息繭房”風(fēng)險(xiǎn)、隱私泄露風(fēng)險(xiǎn)、歧視風(fēng)險(xiǎn)等將難以受到法律規(guī)制。因?yàn)楫?dāng)事人可直接以“商業(yè)秘密”為由拒絕他人對(duì)算法的任何審核行為,以此對(duì)算法風(fēng)險(xiǎn)導(dǎo)致的群體性侵權(quán)形成強(qiáng)力抗辯,進(jìn)而逃避相應(yīng)侵權(quán)責(zé)任的承擔(dān),最終致使我國(guó)《侵權(quán)法》損害賠償條款設(shè)置目的落空。據(jù)此,在有關(guān)算法風(fēng)險(xiǎn)規(guī)制的系列配套措施尚未出臺(tái)之前,通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù)實(shí)為變相鼓勵(lì)當(dāng)事人利用高風(fēng)險(xiǎn)算法故意實(shí)施侵權(quán)行為。

    事實(shí)上,通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù)還將進(jìn)一步削弱公眾對(duì)相關(guān)信息的獲取權(quán)。自被廣泛運(yùn)用于社會(huì)各領(lǐng)域以來(lái),算法這只“看不見(jiàn)的手”便一直統(tǒng)治著社會(huì)各領(lǐng)域[9]。通過(guò)采取精密、復(fù)雜的技術(shù)手段,算法可以決定公眾獲取信息的范圍及其閱覽量的具體排名甚或網(wǎng)絡(luò)用戶(hù)的具體訪問(wèn)權(quán)限等,此種現(xiàn)象在商事領(lǐng)域尤為突出,其不僅壟斷了公眾個(gè)人的信息視域,還沖擊了公平有序的市場(chǎng)經(jīng)濟(jì)競(jìng)爭(zhēng)秩序。通常情況下,商事算法通過(guò)無(wú)關(guān)參數(shù)的設(shè)置,在沒(méi)有任何正當(dāng)依據(jù)的前提下,可以任意提升某一商品信息排名,從而間接干擾甚或阻礙消費(fèi)者獲取其他同類(lèi)產(chǎn)品信息,嚴(yán)重削弱了消費(fèi)者正常獲取其他產(chǎn)品信息的權(quán)利。設(shè)若未來(lái)立法通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù),那么對(duì)于蘊(yùn)含不良因素或違法目的的算法展開(kāi)的審核與調(diào)查工作將永遠(yuǎn)不能形成令人信服的結(jié)論,造成算法不受法律監(jiān)管的假象,制約算法技術(shù)發(fā)展的同時(shí),也使得公眾難以獲取多元化的信息。

    另外,通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù)固然利于保護(hù)使用者的合法權(quán)益,但這也意味著社會(huì)累進(jìn)創(chuàng)新在某種程度上將會(huì)受到抑制。社會(huì)累進(jìn)創(chuàng)新必然要建立在已有算法技術(shù)的基礎(chǔ)上,而算法的商業(yè)秘密屬性決定了后續(xù)累進(jìn)創(chuàng)新幾乎不可能實(shí)現(xiàn)。因?yàn)槔圻M(jìn)創(chuàng)新者很難獲得甚或不可能獲得已被采取保密措施的有關(guān)算法技術(shù)的任何有用信息。設(shè)若算法技術(shù)一直具有保密性,社會(huì)累進(jìn)創(chuàng)新的步伐就很難向前推進(jìn)。尤其是當(dāng)作為個(gè)人的第三人欲以該已有算法為目標(biāo),對(duì)其實(shí)施技術(shù)驗(yàn)證時(shí),已有算法技術(shù)信息細(xì)節(jié)獲取難度還將進(jìn)一步升級(jí),最終導(dǎo)致第三人對(duì)算法的檢驗(yàn)工作無(wú)疾而終,徒增資源浪費(fèi)[10]。進(jìn)一步而言,一旦創(chuàng)新的源泉不能充分涌流,生產(chǎn)力的革新和社會(huì)的全面進(jìn)步就會(huì)缺乏動(dòng)力,長(zhǎng)遠(yuǎn)來(lái)看并不利于技術(shù)的快速迭代,更不利于創(chuàng)新型社會(huì)的構(gòu)建。

    人工智能時(shí)代的到來(lái)以及科技的進(jìn)步,極大地提升了人們對(duì)無(wú)形財(cái)產(chǎn)的保護(hù)意識(shí),以至于越來(lái)越多的企業(yè)傾向?qū)⑺惴ㄒ暈樽约旱纳虡I(yè)秘密,以在激烈的競(jìng)爭(zhēng)中保有更多優(yōu)勢(shì)。然而,通過(guò)商業(yè)秘密模式對(duì)算法施以規(guī)制可能會(huì)對(duì)企業(yè)形成過(guò)度保護(hù),以致縱容懷有不良動(dòng)機(jī)的使用者利用算法侵害社會(huì)公眾和其他競(jìng)爭(zhēng)者的合法權(quán)益。因此,即使未來(lái)立法通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù),也要對(duì)企業(yè)所負(fù)的促進(jìn)社會(huì)累進(jìn)創(chuàng)新責(zé)任進(jìn)行相應(yīng)規(guī)定,只是在算法技術(shù)并非十分成熟的當(dāng)前,通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù)并不是最佳選擇。

    三、本文對(duì)算法保護(hù)模式的定位

    算法是通過(guò)計(jì)算機(jī)系列清晰指令解決問(wèn)題的一種策略機(jī)制,是對(duì)人類(lèi)解決問(wèn)題思路的代碼轉(zhuǎn)化。若要從法律上對(duì)算法保護(hù)模式作出清晰界定,還需明確算法與計(jì)算機(jī)程序之間的聯(lián)系和區(qū)別。算法是解決問(wèn)題的具體思路,是對(duì)特定問(wèn)題求解步驟的描述,其必須在有限步驟內(nèi)執(zhí)行終止,并通過(guò)輸出項(xiàng)在規(guī)定時(shí)限內(nèi)反映出對(duì)輸入數(shù)據(jù)的處理結(jié)果。程序則是算法的代碼實(shí)現(xiàn),是對(duì)源代碼編譯后得到的可執(zhí)行文件,也就是說(shuō)計(jì)算機(jī)程序本質(zhì)即是算法,而算法則不一定是計(jì)算機(jī)程序。正因如此,我國(guó)《計(jì)算機(jī)軟件保護(hù)條例》第2條和第7條規(guī)定,對(duì)計(jì)算機(jī)軟件的保護(hù)目前不能擴(kuò)及軟件開(kāi)發(fā)所用的思想、原理和算法。即按照當(dāng)前法律規(guī)定,算法不是計(jì)算機(jī)軟件作品,因而不具備著作權(quán)屬性。然而,已如上文所示,通過(guò)專(zhuān)利模式和商業(yè)秘密模式對(duì)算法施以保護(hù)均存有弊端,采用知識(shí)產(chǎn)權(quán)制度對(duì)算法施以保護(hù)似乎成了不解之謎。

    究竟該通過(guò)何種模式對(duì)算法進(jìn)行妥當(dāng)保護(hù)呢?筆者認(rèn)為,算法本身即為解決問(wèn)題的一種策略,為尊重算法的客觀屬性,在目前算法尚未發(fā)展至高級(jí)智能階段的情況下,我國(guó)法律暫先宜通過(guò)專(zhuān)利模式對(duì)“白箱”算法和“灰箱”施以保護(hù),因?yàn)檫@兩種算法凝結(jié)了大量的人類(lèi)智力勞動(dòng),在不產(chǎn)生消極影響的情況下,符合專(zhuān)利新穎性、創(chuàng)新性和實(shí)用性的特征。當(dāng)前對(duì)這兩種算法授予專(zhuān)利權(quán),一方面可明確算法設(shè)計(jì)者或使用者的權(quán)利范圍,激發(fā)算法設(shè)計(jì)者、使用者的創(chuàng)新積極性,另一方面有利于對(duì)算法總體有序運(yùn)行進(jìn)行有效監(jiān)管。至于“黑箱”算法、“感知”算法和“奇異”算法,因其難以預(yù)測(cè)性、不可控性和不可解釋性,宜采用純粹或混合型非專(zhuān)屬性激勵(lì)機(jī)制對(duì)設(shè)計(jì)者或發(fā)明人施以獎(jiǎng)勵(lì),而不再特意界定其法律保護(hù)模式。

    非專(zhuān)屬性激勵(lì)機(jī)制下,政府可將津貼、獎(jiǎng)金和稅收優(yōu)惠政策作為對(duì)創(chuàng)新者的激勵(lì),即設(shè)計(jì)者、發(fā)明人以獲得政府津貼、獎(jiǎng)金和減免稅收優(yōu)惠為對(duì)價(jià),不再對(duì)使用者使用本人發(fā)明的行為施以限制。這種機(jī)制下,設(shè)計(jì)者和發(fā)明人一經(jīng)完成政府提出的特定課題,即可將發(fā)明專(zhuān)利讓渡給國(guó)家,國(guó)家隨后根據(jù)該項(xiàng)發(fā)明所創(chuàng)造的社會(huì)價(jià)值,或政府就此發(fā)明而節(jié)約的財(cái)政開(kāi)支對(duì)設(shè)計(jì)者、發(fā)明人施以獎(jiǎng)勵(lì)。創(chuàng)新領(lǐng)域?qū)嵺`表明,這種激勵(lì)方式可迅速將發(fā)明人的最新發(fā)明成果順利推向社會(huì),及時(shí)促進(jìn)全民創(chuàng)新。事實(shí)上,除采用該種純粹的非專(zhuān)屬性激勵(lì)機(jī)制外,專(zhuān)屬性和非專(zhuān)屬性創(chuàng)新混合激勵(lì)機(jī)制亦能實(shí)現(xiàn)激勵(lì)高階算法研發(fā)者的效果。

    專(zhuān)屬性和非專(zhuān)屬性創(chuàng)新混合激勵(lì)機(jī)制下,政府、高校和企業(yè)需要協(xié)同合作形成完整的創(chuàng)新合作體系。其中,政府專(zhuān)門(mén)負(fù)責(zé)為高校創(chuàng)新提供研發(fā)資金支持。高校獲取研發(fā)資金后,研發(fā)出創(chuàng)新成果時(shí),其既可以自行申請(qǐng)專(zhuān)利保護(hù),也可將創(chuàng)新成果轉(zhuǎn)讓給企業(yè)。當(dāng)高校將創(chuàng)新成果轉(zhuǎn)讓給企業(yè)后,企業(yè)在量產(chǎn)前再次進(jìn)行深入研究的,可享受政府給予的稅收優(yōu)惠。這種混合創(chuàng)新激勵(lì)機(jī)制在我國(guó)又被稱(chēng)為“產(chǎn)學(xué)研”一體化機(jī)制,是科研、教育、生產(chǎn)在功能與資源優(yōu)勢(shì)上的協(xié)同與集成化,也是技術(shù)創(chuàng)新上、中、下游的對(duì)接與耦合。這種機(jī)制下,明確的分工有利于政府、高校和企業(yè)密切配合,實(shí)現(xiàn)共研、共產(chǎn)、共享之目標(biāo)。

    不過(guò),隨著科技的飛速發(fā)展,這種機(jī)制因成果轉(zhuǎn)化周期長(zhǎng),已經(jīng)不能完全適應(yīng)企業(yè)即時(shí)創(chuàng)新的需求。正因如此,部分企業(yè)已經(jīng)開(kāi)啟了自研自產(chǎn)模式。筆者認(rèn)為,為順應(yīng)技術(shù)更新周期短的時(shí)代特點(diǎn),有必要對(duì)混合激勵(lì)機(jī)制進(jìn)行適當(dāng)調(diào)整,即當(dāng)企業(yè)通過(guò)完全自研自產(chǎn)對(duì)高階算法的更新迭代作出突出貢獻(xiàn)時(shí),政府可通過(guò)登記備案方式給予企業(yè)一定稅收優(yōu)惠,以激發(fā)企業(yè)創(chuàng)新積極性。這就要求政府在未來(lái)必須扮演好服務(wù)者的角色,及時(shí)對(duì)行政轄區(qū)內(nèi)算法創(chuàng)新能力強(qiáng)、創(chuàng)新貢獻(xiàn)大的企業(yè)施以非專(zhuān)屬性物質(zhì)激勵(lì)。

    綜上分析,筆者認(rèn)為,考慮到高階算法的非透明屬性和我國(guó)算法技術(shù)發(fā)展的現(xiàn)狀,當(dāng)前無(wú)論采用稅收、獎(jiǎng)金等純粹非專(zhuān)屬性激勵(lì)機(jī)制,還是混合激勵(lì)機(jī)制,均可使得“黑箱”算法、“感知”算法、“奇異”算法的設(shè)計(jì)者或發(fā)明人獲得相應(yīng)的物質(zhì)激勵(lì),間接實(shí)現(xiàn)與其獲得專(zhuān)利權(quán)等專(zhuān)屬性權(quán)利相當(dāng)?shù)募?lì)效果。與此同時(shí),還可免去設(shè)計(jì)者或發(fā)明人因申請(qǐng)專(zhuān)利而遭遇的高階算法不可描述、不能解釋的困難,進(jìn)而保障我國(guó)《專(zhuān)利法》現(xiàn)有框架不受強(qiáng)烈沖擊。另一方面,混合激勵(lì)機(jī)制下,由國(guó)家對(duì)這三種高階算法享有所有權(quán),商業(yè)秘密將不再是社會(huì)累進(jìn)創(chuàng)新的阻礙,全社會(huì)創(chuàng)新的活力必將會(huì)得到深度激發(fā)和充分釋放,創(chuàng)新型國(guó)家建設(shè)的步伐亦將會(huì)進(jìn)一步加快。

    由此,根據(jù)算法演進(jìn)的階段性特征和專(zhuān)利申請(qǐng)的實(shí)際情況,我國(guó)未來(lái)立法時(shí)宜根據(jù)算法類(lèi)別進(jìn)行不同規(guī)范,即通過(guò)專(zhuān)利模式對(duì)“白箱”算法和“灰箱”算法施以保護(hù),對(duì)設(shè)計(jì)者、發(fā)明人施以專(zhuān)屬性權(quán)利激勵(lì);對(duì)“黑箱”算法、“感知”算法和“奇異”算法不再界定其法律保護(hù)模式,直接歸由國(guó)家所有,但國(guó)家需要根據(jù)高階算法創(chuàng)造的社會(huì)價(jià)值或就此節(jié)約的財(cái)政開(kāi)支,對(duì)相關(guān)人員和企業(yè)施以非專(zhuān)屬性物質(zhì)激勵(lì)。

    在當(dāng)前建設(shè)人工智能強(qiáng)國(guó),推進(jìn)實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略的新形勢(shì)下,為促進(jìn)我國(guó)人工智能技術(shù)快速發(fā)展,亟需從法律制度方面對(duì)算法的法律保護(hù)模式展開(kāi)全方位探討。但鑒于當(dāng)前我國(guó)算法保護(hù)模式理論研究的匱缺,有必要結(jié)合美國(guó)算法司法實(shí)務(wù)經(jīng)驗(yàn),通過(guò)專(zhuān)利模式對(duì)“白箱”算法、“灰箱”算法施以保護(hù)??紤]到“黑箱”算法、“感知”算法以及“奇異”算法的難以控制性和不可預(yù)測(cè)性,未來(lái)立法可不再對(duì)其法律保護(hù)模式進(jìn)行有意規(guī)定,而直接采用非專(zhuān)屬性激勵(lì)機(jī)制對(duì)研發(fā)者、發(fā)明人施以激勵(lì)。只有結(jié)合我國(guó)算法技術(shù)發(fā)展現(xiàn)狀,我們才能積極探索出適合我國(guó)算法技術(shù)發(fā)展特征的法律保護(hù)模式。

    猜你喜歡
    專(zhuān)屬性保護(hù)模式發(fā)明人
    發(fā)明人角色識(shí)別及二元?jiǎng)?chuàng)新能力差異分析
    ——社會(huì)資本視角的解釋
    淺析發(fā)明人(或設(shè)計(jì)人)變更的常見(jiàn)問(wèn)題及建議
    搖擺撞擊洗滌裝置
    家電科技(2018年9期)2018-09-28 01:45:00
    洗衣機(jī)
    家電科技(2018年9期)2018-09-28 01:45:00
    婚禮主持文案的四種特性
    藝海(2018年2期)2018-08-29 00:04:46
    建立柴連口服液中柴胡鑒別的薄層色譜法
    高效液相色譜法定性鑒別人參口服液中人參皂苷Rg1、Re的方法研究
    論網(wǎng)絡(luò)游戲著作權(quán)的保護(hù)模式及其侵權(quán)判定標(biāo)準(zhǔn)
    CBD體系下傳統(tǒng)知識(shí)保護(hù)模式研究
    跨組織網(wǎng)絡(luò)中的知識(shí)流動(dòng)性與知識(shí)專(zhuān)屬性對(duì)創(chuàng)新績(jī)效的影響研究
    国产老妇伦熟女老妇高清| 国产精品99久久99久久久不卡 | 亚洲自拍偷在线| 精品午夜福利在线看| 久久综合国产亚洲精品| 国产人妻一区二区三区在| 亚洲av在线观看美女高潮| av在线亚洲专区| av网站免费在线观看视频| 精品一区二区免费观看| 亚洲国产精品成人综合色| 国产老妇伦熟女老妇高清| 老女人水多毛片| 人妻制服诱惑在线中文字幕| 亚洲精品成人久久久久久| 亚洲欧洲日产国产| 国产精品熟女久久久久浪| 精品人妻一区二区三区麻豆| 伦理电影大哥的女人| 国产黄频视频在线观看| 色视频在线一区二区三区| 97精品久久久久久久久久精品| 精品久久久噜噜| 大陆偷拍与自拍| eeuss影院久久| 午夜亚洲福利在线播放| 晚上一个人看的免费电影| 亚洲精华国产精华液的使用体验| 国产精品国产三级专区第一集| 国产男女内射视频| 亚洲精品第二区| 国产探花在线观看一区二区| 国内少妇人妻偷人精品xxx网站| 成人国产av品久久久| 天天一区二区日本电影三级| 少妇被粗大猛烈的视频| 18禁在线无遮挡免费观看视频| 晚上一个人看的免费电影| 精品少妇黑人巨大在线播放| 欧美精品人与动牲交sv欧美| 少妇人妻一区二区三区视频| 婷婷色麻豆天堂久久| 亚洲人成网站在线播| 欧美极品一区二区三区四区| 男人添女人高潮全过程视频| 小蜜桃在线观看免费完整版高清| 赤兔流量卡办理| 国产在线男女| 日产精品乱码卡一卡2卡三| 夫妻午夜视频| 国产乱来视频区| 另类亚洲欧美激情| 国产 一区精品| 一级毛片久久久久久久久女| 中文字幕制服av| 九草在线视频观看| av免费在线看不卡| 国产老妇伦熟女老妇高清| 国产精品麻豆人妻色哟哟久久| 在线a可以看的网站| 亚洲欧洲国产日韩| 天天躁日日操中文字幕| 成人美女网站在线观看视频| 午夜福利网站1000一区二区三区| 激情五月婷婷亚洲| 干丝袜人妻中文字幕| 在线播放无遮挡| 在线观看av片永久免费下载| 国产亚洲午夜精品一区二区久久 | 亚洲成色77777| 久久精品国产自在天天线| 少妇人妻 视频| 日韩成人av中文字幕在线观看| 久久韩国三级中文字幕| 中文字幕制服av| 看十八女毛片水多多多| 一区二区av电影网| 国产亚洲精品久久久com| 国产在线一区二区三区精| 99久久九九国产精品国产免费| 国产一区二区在线观看日韩| 国语对白做爰xxxⅹ性视频网站| 国产乱人偷精品视频| 免费av不卡在线播放| 免费观看a级毛片全部| videossex国产| 国产久久久一区二区三区| 成年版毛片免费区| 国产成年人精品一区二区| 婷婷色综合www| 国产亚洲av片在线观看秒播厂| 亚洲成人av在线免费| 国产精品秋霞免费鲁丝片| 性插视频无遮挡在线免费观看| 成年免费大片在线观看| 伊人久久精品亚洲午夜| 久久久久久伊人网av| 成人无遮挡网站| 亚洲图色成人| 肉色欧美久久久久久久蜜桃 | 日韩在线高清观看一区二区三区| 国产日韩欧美亚洲二区| 国产乱人偷精品视频| 在线a可以看的网站| 丰满人妻一区二区三区视频av| 午夜老司机福利剧场| 极品少妇高潮喷水抽搐| 成人毛片60女人毛片免费| 麻豆国产97在线/欧美| 国产老妇伦熟女老妇高清| 大又大粗又爽又黄少妇毛片口| 国产女主播在线喷水免费视频网站| xxx大片免费视频| 国产精品熟女久久久久浪| 久久这里有精品视频免费| 久久久午夜欧美精品| 一级毛片久久久久久久久女| videos熟女内射| 寂寞人妻少妇视频99o| 国产精品三级大全| 嘟嘟电影网在线观看| 国产成人freesex在线| 看非洲黑人一级黄片| videossex国产| 亚洲av成人精品一区久久| 纵有疾风起免费观看全集完整版| 久久ye,这里只有精品| 国产一级毛片在线| 亚洲国产高清在线一区二区三| 我的女老师完整版在线观看| 狂野欧美激情性bbbbbb| 国产精品不卡视频一区二区| 黄片wwwwww| 国产免费一区二区三区四区乱码| 久久精品熟女亚洲av麻豆精品| 我的老师免费观看完整版| 夫妻午夜视频| 在线免费观看不下载黄p国产| 97在线人人人人妻| 大陆偷拍与自拍| 亚洲精品,欧美精品| 天美传媒精品一区二区| av在线app专区| 寂寞人妻少妇视频99o| 噜噜噜噜噜久久久久久91| 又爽又黄无遮挡网站| 三级经典国产精品| 丰满乱子伦码专区| 日本三级黄在线观看| 亚洲av二区三区四区| 免费不卡的大黄色大毛片视频在线观看| av女优亚洲男人天堂| 国产成人午夜福利电影在线观看| 美女国产视频在线观看| 一级黄片播放器| 亚洲欧美日韩东京热| 菩萨蛮人人尽说江南好唐韦庄| 久久国内精品自在自线图片| 国产伦理片在线播放av一区| 日日撸夜夜添| 建设人人有责人人尽责人人享有的 | 国产中年淑女户外野战色| 亚洲,欧美,日韩| 日韩不卡一区二区三区视频在线| 乱系列少妇在线播放| 麻豆成人av视频| 一区二区av电影网| 亚洲精品成人av观看孕妇| 久久鲁丝午夜福利片| 美女国产视频在线观看| 欧美丝袜亚洲另类| 亚洲电影在线观看av| 日韩强制内射视频| 久久精品国产a三级三级三级| 亚洲av日韩在线播放| 久久ye,这里只有精品| 亚洲久久久久久中文字幕| 国产免费福利视频在线观看| 色播亚洲综合网| 国产高清三级在线| 日日啪夜夜撸| 男插女下体视频免费在线播放| av专区在线播放| 亚洲成人中文字幕在线播放| 五月天丁香电影| 在线精品无人区一区二区三 | 国精品久久久久久国模美| 国产综合懂色| 日产精品乱码卡一卡2卡三| 性插视频无遮挡在线免费观看| 精品视频人人做人人爽| 亚洲欧美成人综合另类久久久| 99久国产av精品国产电影| 亚洲性久久影院| 亚洲国产av新网站| 国产精品一二三区在线看| 欧美日韩综合久久久久久| 九色成人免费人妻av| 国产精品久久久久久久久免| 欧美精品一区二区大全| 一区二区三区四区激情视频| 日韩欧美一区视频在线观看 | 一区二区三区精品91| 97热精品久久久久久| 80岁老熟妇乱子伦牲交| 七月丁香在线播放| 如何舔出高潮| 2022亚洲国产成人精品| 男插女下体视频免费在线播放| 亚洲国产精品999| 久久久久久伊人网av| 少妇熟女欧美另类| 亚洲欧美精品自产自拍| 亚洲色图综合在线观看| 国产日韩欧美在线精品| 日本wwww免费看| 熟女人妻精品中文字幕| 精品国产露脸久久av麻豆| 一级毛片电影观看| 成人美女网站在线观看视频| 久久99热这里只有精品18| 少妇 在线观看| 成人亚洲精品一区在线观看 | 国产毛片a区久久久久| 又粗又硬又长又爽又黄的视频| 性色av一级| 高清午夜精品一区二区三区| av在线播放精品| 欧美一级a爱片免费观看看| 97人妻精品一区二区三区麻豆| 午夜老司机福利剧场| 亚洲精华国产精华液的使用体验| 97超视频在线观看视频| 中文字幕免费在线视频6| 91久久精品电影网| 大片免费播放器 马上看| 80岁老熟妇乱子伦牲交| 97超视频在线观看视频| 国产精品伦人一区二区| 亚洲av欧美aⅴ国产| 久久精品久久精品一区二区三区| 97超碰精品成人国产| 亚洲怡红院男人天堂| 午夜爱爱视频在线播放| 99视频精品全部免费 在线| 激情五月婷婷亚洲| 午夜精品国产一区二区电影 | 一区二区三区乱码不卡18| 欧美潮喷喷水| 久久久久久久久大av| 99热6这里只有精品| 欧美最新免费一区二区三区| 国产精品女同一区二区软件| 午夜免费观看性视频| 亚洲美女视频黄频| 少妇 在线观看| 成人亚洲欧美一区二区av| 舔av片在线| 神马国产精品三级电影在线观看| av国产久精品久网站免费入址| 国产伦理片在线播放av一区| 欧美另类一区| 中文字幕久久专区| 国产成人免费观看mmmm| 一本一本综合久久| 免费黄网站久久成人精品| 精品久久国产蜜桃| 亚洲精品乱久久久久久| 高清欧美精品videossex| 男女那种视频在线观看| 看免费成人av毛片| 久久精品人妻少妇| 噜噜噜噜噜久久久久久91| 久久影院123| 国产精品久久久久久精品电影小说 | 七月丁香在线播放| 嫩草影院入口| 免费黄网站久久成人精品| 国产成人精品福利久久| 男女下面进入的视频免费午夜| 国产亚洲最大av| 婷婷色综合www| 日韩视频在线欧美| 国产午夜福利久久久久久| xxx大片免费视频| 一本一本综合久久| 夜夜爽夜夜爽视频| 成人毛片60女人毛片免费| 欧美少妇被猛烈插入视频| 啦啦啦啦在线视频资源| 人人妻人人爽人人添夜夜欢视频 | 熟女av电影| 日韩大片免费观看网站| 国产在线一区二区三区精| 国产一区二区三区av在线| 久久精品夜色国产| 国内少妇人妻偷人精品xxx网站| 久久久久九九精品影院| 亚洲av二区三区四区| 欧美日韩视频高清一区二区三区二| 成人欧美大片| 精品久久久久久久久av| 成人欧美大片| 亚洲内射少妇av| 精品人妻一区二区三区麻豆| 久久久成人免费电影| 如何舔出高潮| 亚洲精品成人久久久久久| 人妻系列 视频| 欧美精品人与动牲交sv欧美| 男人爽女人下面视频在线观看| 久久久久国产网址| 国产av国产精品国产| av在线亚洲专区| 国产一区二区亚洲精品在线观看| 中文在线观看免费www的网站| 婷婷色综合大香蕉| 亚洲精品中文字幕在线视频 | 亚洲av在线观看美女高潮| 免费观看a级毛片全部| 久久久久性生活片| 亚洲精品亚洲一区二区| 亚洲最大成人手机在线| 高清午夜精品一区二区三区| 国模一区二区三区四区视频| 白带黄色成豆腐渣| 色播亚洲综合网| 国产成人freesex在线| 国产精品精品国产色婷婷| 日韩一区二区视频免费看| 免费不卡的大黄色大毛片视频在线观看| 欧美成人精品欧美一级黄| 婷婷色麻豆天堂久久| 人妻少妇偷人精品九色| av网站免费在线观看视频| 国产精品嫩草影院av在线观看| 欧美区成人在线视频| 六月丁香七月| av福利片在线观看| 欧美日韩国产mv在线观看视频 | 国产精品av视频在线免费观看| 国产亚洲一区二区精品| 日韩av不卡免费在线播放| 在线 av 中文字幕| 纵有疾风起免费观看全集完整版| 丝袜脚勾引网站| 午夜福利网站1000一区二区三区| 亚洲欧美中文字幕日韩二区| 日本-黄色视频高清免费观看| 欧美成人一区二区免费高清观看| 老司机影院毛片| 91久久精品国产一区二区成人| 久久精品国产亚洲av涩爱| 激情 狠狠 欧美| 国产成人午夜福利电影在线观看| 国产一区二区亚洲精品在线观看| 赤兔流量卡办理| 国国产精品蜜臀av免费| 在线播放无遮挡| 激情 狠狠 欧美| 亚洲精华国产精华液的使用体验| 成人特级av手机在线观看| 午夜视频国产福利| 欧美国产精品一级二级三级 | 真实男女啪啪啪动态图| 国产精品人妻久久久影院| 中文在线观看免费www的网站| 国产成人91sexporn| 久久精品国产亚洲av天美| 亚洲欧洲国产日韩| av黄色大香蕉| 亚洲精品乱久久久久久| 大又大粗又爽又黄少妇毛片口| 亚洲av福利一区| 亚洲在线观看片| 亚洲av福利一区| 中文字幕久久专区| 激情五月婷婷亚洲| 人人妻人人爽人人添夜夜欢视频 | 国产淫语在线视频| 国产亚洲91精品色在线| 青春草视频在线免费观看| 日本与韩国留学比较| 亚洲精品国产色婷婷电影| 日韩一区二区三区影片| 亚洲欧美成人精品一区二区| 国内揄拍国产精品人妻在线| 欧美xxxx性猛交bbbb| 看十八女毛片水多多多| 麻豆国产97在线/欧美| 在线亚洲精品国产二区图片欧美 | 国产亚洲最大av| 国产亚洲av片在线观看秒播厂| 国产黄色免费在线视频| 少妇猛男粗大的猛烈进出视频 | 亚洲精品国产成人久久av| 亚洲精品国产av蜜桃| 亚洲av欧美aⅴ国产| 亚洲婷婷狠狠爱综合网| 亚洲精华国产精华液的使用体验| 日日撸夜夜添| 国产精品蜜桃在线观看| av在线观看视频网站免费| 少妇熟女欧美另类| 97人妻精品一区二区三区麻豆| 国产精品蜜桃在线观看| 国产成人91sexporn| 老女人水多毛片| 在线观看三级黄色| 午夜免费观看性视频| 精品一区在线观看国产| 亚洲,欧美,日韩| av在线播放精品| 看十八女毛片水多多多| 日本一二三区视频观看| 午夜福利网站1000一区二区三区| 熟女人妻精品中文字幕| 国产精品福利在线免费观看| 国产精品蜜桃在线观看| 国产一区二区在线观看日韩| av在线app专区| 国产成年人精品一区二区| 男女无遮挡免费网站观看| 欧美国产精品一级二级三级 | 一级爰片在线观看| 少妇的逼好多水| 久久久欧美国产精品| 我要看日韩黄色一级片| 不卡视频在线观看欧美| 亚洲高清免费不卡视频| 身体一侧抽搐| 久久精品夜色国产| 日本午夜av视频| 亚洲图色成人| 久久久国产一区二区| 看黄色毛片网站| 18禁在线播放成人免费| 看十八女毛片水多多多| 热99国产精品久久久久久7| 亚洲av欧美aⅴ国产| 久久久久性生活片| 男女下面进入的视频免费午夜| 女的被弄到高潮叫床怎么办| 大码成人一级视频| 丝袜美腿在线中文| 亚洲成人一二三区av| 国产探花极品一区二区| 五月玫瑰六月丁香| 丝瓜视频免费看黄片| 久久热精品热| 久久韩国三级中文字幕| 18+在线观看网站| 午夜激情久久久久久久| 日本三级黄在线观看| 亚洲av中文av极速乱| 久久6这里有精品| 久久这里有精品视频免费| 草草在线视频免费看| 欧美丝袜亚洲另类| 五月开心婷婷网| 黑人高潮一二区| tube8黄色片| 又粗又硬又长又爽又黄的视频| 美女被艹到高潮喷水动态| 欧美性感艳星| 亚洲色图av天堂| 男插女下体视频免费在线播放| 成人毛片60女人毛片免费| 亚洲欧美中文字幕日韩二区| 日韩欧美精品v在线| 欧美高清性xxxxhd video| 亚洲欧美成人综合另类久久久| 男女那种视频在线观看| 欧美国产精品一级二级三级 | 在线观看人妻少妇| 色哟哟·www| 亚洲精华国产精华液的使用体验| 午夜免费鲁丝| 九草在线视频观看| 春色校园在线视频观看| 男女边摸边吃奶| 国产黄色视频一区二区在线观看| 国产精品偷伦视频观看了| 在线亚洲精品国产二区图片欧美 | av线在线观看网站| 国产男女内射视频| 99re6热这里在线精品视频| 91久久精品国产一区二区成人| 精品国产一区二区三区久久久樱花 | 国内揄拍国产精品人妻在线| 国产精品麻豆人妻色哟哟久久| 一级毛片电影观看| 伊人久久精品亚洲午夜| 日韩欧美精品免费久久| 国产永久视频网站| 久久精品久久久久久久性| 精华霜和精华液先用哪个| av在线app专区| 精品久久久久久久久av| 91狼人影院| 天天躁日日操中文字幕| 永久免费av网站大全| 51国产日韩欧美| 亚洲精品日韩av片在线观看| 国产精品伦人一区二区| 免费av毛片视频| 国产淫语在线视频| 天美传媒精品一区二区| 永久网站在线| 成人二区视频| 亚州av有码| 久久久精品免费免费高清| 久久6这里有精品| 天堂中文最新版在线下载 | 午夜福利网站1000一区二区三区| 国产精品国产三级国产专区5o| 一区二区av电影网| 人妻 亚洲 视频| 69av精品久久久久久| av在线蜜桃| 亚洲精品456在线播放app| 久久久久久伊人网av| 午夜免费男女啪啪视频观看| 91精品伊人久久大香线蕉| 国产女主播在线喷水免费视频网站| 水蜜桃什么品种好| 精品国产三级普通话版| 国产伦精品一区二区三区四那| 一区二区三区四区激情视频| 国内精品美女久久久久久| 成年免费大片在线观看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产伦精品一区二区三区视频9| 成人欧美大片| 国产成人免费无遮挡视频| 国内精品美女久久久久久| 一级av片app| 国产成年人精品一区二区| 欧美人与善性xxx| 高清欧美精品videossex| 免费看a级黄色片| 国产综合懂色| 少妇裸体淫交视频免费看高清| 国产男女超爽视频在线观看| 国产精品一区www在线观看| 免费av观看视频| 亚洲婷婷狠狠爱综合网| 日韩av不卡免费在线播放| 欧美极品一区二区三区四区| 精品午夜福利在线看| 高清视频免费观看一区二区| 99久久精品国产国产毛片| 欧美日韩视频精品一区| 久久久a久久爽久久v久久| av在线天堂中文字幕| 亚洲av二区三区四区| 秋霞在线观看毛片| 亚洲av男天堂| 国产成人一区二区在线| 亚洲av免费高清在线观看| 欧美日韩视频精品一区| 日韩电影二区| 欧美zozozo另类| 日韩欧美 国产精品| 特大巨黑吊av在线直播| 一边亲一边摸免费视频| 成年版毛片免费区| 亚洲欧美日韩另类电影网站 | 亚洲欧洲日产国产| h日本视频在线播放| 国产成人aa在线观看| 菩萨蛮人人尽说江南好唐韦庄| 欧美老熟妇乱子伦牲交| 免费观看的影片在线观看| 国产精品偷伦视频观看了| 在线观看一区二区三区激情| 啦啦啦中文免费视频观看日本| av在线蜜桃| 亚洲精品国产av蜜桃| 久久久精品94久久精品| 精品国产露脸久久av麻豆| 女人被狂操c到高潮| 97超视频在线观看视频| 亚洲国产日韩一区二区| 亚洲欧美一区二区三区国产| 精品久久久久久电影网| 久久亚洲国产成人精品v| 大香蕉97超碰在线| 久久精品久久久久久噜噜老黄| 在线观看一区二区三区激情| 欧美激情在线99| 亚洲av中文av极速乱| 国产精品麻豆人妻色哟哟久久| 99九九线精品视频在线观看视频| 欧美日韩综合久久久久久| 亚洲欧美日韩另类电影网站 | 18禁在线播放成人免费| 三级国产精品欧美在线观看| 免费黄网站久久成人精品| 舔av片在线| 日本黄大片高清| 亚洲美女搞黄在线观看| 国产高清国产精品国产三级 | 97超视频在线观看视频| 久久久久国产网址| 亚洲精品第二区| 97超视频在线观看视频| 精品酒店卫生间| 在线免费十八禁| 久久久久久久久大av| 一个人看视频在线观看www免费| 中文乱码字字幕精品一区二区三区| 久久精品国产自在天天线| 久久久精品免费免费高清| 春色校园在线视频观看|