• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    船舶無人化趨勢下AI航行系統(tǒng)的責(zé)任探析

    2021-01-11 00:33:51范曉波陳怡潔
    中國海商法研究 2021年4期

    范曉波 陳怡潔

    摘要:近年來,科技和產(chǎn)業(yè)經(jīng)歷了深刻的變革。船舶無人化趨勢下AI智能航行系統(tǒng)越來越廣泛地投入使用,給傳統(tǒng)的航行責(zé)任帶來了影響。通過產(chǎn)品責(zé)任的構(gòu)成要件分析,人工智能航行系統(tǒng)可歸屬于產(chǎn)品。新型航運(yùn)科技公司、人工智能航行系統(tǒng)提供商因產(chǎn)品缺陷造成損害,應(yīng)當(dāng)承擔(dān)產(chǎn)品責(zé)任。此種情形下,因AI航行系統(tǒng)故障引發(fā)的責(zé)任涉及承運(yùn)人運(yùn)輸責(zé)任(合同責(zé)任)、產(chǎn)品缺陷責(zé)任、產(chǎn)品瑕疵責(zé)任、產(chǎn)品合同責(zé)任、侵權(quán)責(zé)任等多種責(zé)任,生產(chǎn)者、銷售者、船東、承運(yùn)人、遠(yuǎn)程運(yùn)營商等多個(gè)責(zé)任主體牽涉其中,免責(zé)抗辯和責(zé)任分配將比傳統(tǒng)航行責(zé)任更為復(fù)雜。

    關(guān)鍵詞:無人船;產(chǎn)品責(zé)任;潛在缺陷;責(zé)任限制;開發(fā)風(fēng)險(xiǎn)抗辯;人工智能航行系統(tǒng)

    中圖分類號:D922.294文獻(xiàn)標(biāo)志碼:A

    文章編號:2096-028X(2021)04-0039-13

    Analysis on the liability of AI navigation system under the trend of unmanned ships

    FAN Xiao-bo1,CHEN Yi-jie2

    (1.Faculty of International Law,China University of Political Science and Law,Beijing 100088,China;

    2.Legal Office,SZ DJI Technology Co.,Ltd.,Shenzhen 518034,China)

    Abstract: In recent years, technology and industry have undergone profound changes. Under the trend of unmanned ships, AI navigation systems are being used more and more widely, which brings influence to the traditional navigation liability. Through the analysis of constitutive requirements of product liability, AI navigation systems can be considered as “products”. The new shipping technology companies and AI navigation systems providers should bear the product liability for the damage caused by the product defects. In this regard, the liability caused by the AI navigation system failure involves the carriers transportation liability (contract liability), product defect liability, product flaw guarantee liability, product contract liability, and tort liability, involving producers, sellers, shipowners, carriers, remote operators, and other responsible entities. The exemptions and limits of liability will be more complex than that of traditional navigation liability.

    Key words:unmanned ships; product liability;latent defects; limitation of liability; development risk defense; artificial intelligence navigation systems

    科技進(jìn)步為航運(yùn)業(yè)帶來了持續(xù)發(fā)展、提升績效的新機(jī)會。數(shù)字化和綜合性平臺及解決方案已經(jīng)為航運(yùn)業(yè)大規(guī)模使用,極大地改變了業(yè)務(wù)模式和合作形式,其中一個(gè)顯著的變化是無人船的出現(xiàn)。無人船不同于傳統(tǒng)船舶的一個(gè)特點(diǎn)是,其通過智能系統(tǒng)或者軟件、技術(shù)設(shè)備等的使用,實(shí)現(xiàn)了無人在船也可控制船舶移動。在船舶無人化的趨勢下,對智能系統(tǒng)、軟件、技術(shù)設(shè)備等的依賴將大大增加,因系統(tǒng)問題造成的海上事故的責(zé)任認(rèn)定成為業(yè)界關(guān)注的焦點(diǎn)。

    一、AI航行系統(tǒng)產(chǎn)品責(zé)任的適用

    (一)AI航行系統(tǒng)屬于產(chǎn)品

    1.AI航行系統(tǒng)可歸于“產(chǎn)品”的范圍

    一般來說,對于軟件是否屬于產(chǎn)品存在爭議。

    在無人船背景下產(chǎn)生的問題是:當(dāng)由于無人船智能系統(tǒng)的原因?qū)е滤藱?quán)益受到侵害時(shí),被侵權(quán)人是否可以基于產(chǎn)品責(zé)任規(guī)則直接對該AI航行系統(tǒng)制造商或者提供商提起訴訟?要解決這個(gè)問題,必須首先明確AI航行系統(tǒng)是否屬于產(chǎn)品?根據(jù)AI航行系統(tǒng)的“思維與身體”結(jié)合的特點(diǎn)、國內(nèi)相關(guān)法律規(guī)定以及國際上的趨勢變化,無人船下的AI航行系統(tǒng)可以歸于“產(chǎn)品”的范圍,具體論證如下。

    第一,軟件必然要以有體物為載體,特別是在無人船的背景下,由于智能化一般需具備感知能力、記憶和思維能力、學(xué)習(xí)能力和自適應(yīng)能力、行為決策能力,[1]而“這些能力的要求不僅需要智能軟件,還需要一系列的設(shè)備來輔助其感知并記憶存儲周圍的信息,從而可以認(rèn)知自身行為并進(jìn)行決策。其實(shí)就是人工智能導(dǎo)航系統(tǒng)中的‘感知能力的獲得。而感知能力的獲得需要有‘身體,藉此從外部世界提取信號?!盵2]因而,可以說,人工智能導(dǎo)航系統(tǒng)一定是算法、軟件等無形的“思維”與有形的“身體”相結(jié)合,由此,智能系統(tǒng)提供商提供的一整套的設(shè)備加上依附于設(shè)備上運(yùn)行的系統(tǒng)軟件以及后期的更新維護(hù)服務(wù),這些打包作為一個(gè)整體構(gòu)成了產(chǎn)品。這也就是為什么智能航行系統(tǒng)提供商都認(rèn)為并表明他們提供的是產(chǎn)品,而不是軟件,各公司官網(wǎng)上的措辭也是“產(chǎn)品”(product),而非“軟件”(software)。

    第二,根據(jù)法律規(guī)定,AI航行系統(tǒng)可以歸入產(chǎn)品的范圍。《中華人民共和國產(chǎn)品質(zhì)量法》(簡稱《產(chǎn)品質(zhì)量法》)第2條規(guī)定:“本法所稱產(chǎn)品是指經(jīng)過加工、制作,用于銷售的產(chǎn)品。建設(shè)工程不適用本法規(guī)定;但是,建設(shè)工程使用的建筑材料、建筑構(gòu)配件和設(shè)備,屬于前款規(guī)定的產(chǎn)品范圍的,適用本法規(guī)定?!笨梢?,要構(gòu)成中國法律意義上的“產(chǎn)品”并適用產(chǎn)品責(zé)任規(guī)則,需要滿足三個(gè)要件:經(jīng)過加工、制作;必須是用于銷售的;不屬于建設(shè)工程。從這三個(gè)要件看,軟件并沒有被排除在產(chǎn)品的范圍之外。

    第三,從國際上看,人工智能研究領(lǐng)先的歐洲和美國也均有采納智能系統(tǒng)屬于產(chǎn)品的觀點(diǎn)和趨勢。歐盟委員會在其2020年2月19號發(fā)布的《人工智能、物聯(lián)網(wǎng)和機(jī)器人對安全和責(zé)任的影響報(bào)告》中也指出,作為歐盟現(xiàn)有的產(chǎn)品安全框架一部分的后續(xù)立法法案,例如醫(yī)療設(shè)備或汽車部門的立法法案,已經(jīng)明確將自動決策、軟件作為獨(dú)立產(chǎn)品納入考慮范圍①。《美國統(tǒng)一商法典》也采納將商業(yè)軟件作為產(chǎn)品并當(dāng)其有缺陷致使消費(fèi)者受損害時(shí),適用產(chǎn)品責(zé)任的觀點(diǎn)。[3]聯(lián)合國教科文組織和世界科學(xué)知識與技術(shù)倫理委員會(World Commission on the Ethics of Scientific Knowledge and Technology,簡稱COMEST)合著的2017年《COMEST機(jī)器人倫理學(xué)研究報(bào)告》(COMEST Report of COMEST on Robotics Ethics)

    也認(rèn)為使用機(jī)器人(robots)導(dǎo)致的傷害按產(chǎn)品責(zé)任法處理,例如“疏忽”“未發(fā)出警告”“未妥善保管”等。該報(bào)告中的機(jī)器人包括人工智能的形式,因而也當(dāng)然包括無人船人工智能航行系統(tǒng)。雖然該報(bào)告的觀點(diǎn)并不代表教科文組織各成員國的觀點(diǎn),但是其對于各國立法和觀點(diǎn)是有比較大的影響的,且一定程度上表明了國際上對此問題的態(tài)度。此外,從全球來看,中國、美國、歐盟是AI領(lǐng)域的主要“玩家”,[4]同時(shí)考慮到現(xiàn)今長臂管轄擴(kuò)張適用的趨勢,如歐盟委員會于2020年2月19日發(fā)布的《人工智能白皮書——走向卓越與信任的歐洲路徑》中提及:“希望進(jìn)入國內(nèi)市場的第三國建立的經(jīng)濟(jì)經(jīng)營者(economic operators)可以利用在歐盟設(shè)立的指定機(jī)構(gòu),或者在與第三國達(dá)成相互承認(rèn)協(xié)議的前提下,求助于指定的第三國機(jī)構(gòu)進(jìn)行AI評估”②,這意味著歐盟以外的AI公司也可能受到監(jiān)管,中國的AI公司也不例外。因而作為人工智能領(lǐng)域主要玩家的美國和歐洲對人工智能的相關(guān)法律觀點(diǎn)和規(guī)制對其他國家法律和國際法的影響不容忽視,有一定的參考借鑒意義。

    2.無人船人工智能系統(tǒng)產(chǎn)品存在的“缺陷”

    《產(chǎn)品質(zhì)量法》下“缺陷”如何判斷?《產(chǎn)品質(zhì)量法》第46條規(guī)定:“本法所稱缺陷,是指產(chǎn)品存在危及人身、他人財(cái)產(chǎn)安全的不合理的危險(xiǎn);產(chǎn)品有保障人體健康和人身、財(cái)產(chǎn)安全的國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的,是指不符合該標(biāo)準(zhǔn)?!笨梢?,《產(chǎn)品質(zhì)量法》對于缺陷的判斷采取的是雙重標(biāo)準(zhǔn),即如果特定產(chǎn)品有國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn),則適用國家標(biāo)準(zhǔn)或行業(yè)標(biāo)準(zhǔn)。如果沒有此類標(biāo)準(zhǔn),則適用不合理危險(xiǎn)標(biāo)準(zhǔn)。有學(xué)者在調(diào)研中發(fā)現(xiàn),“技術(shù)標(biāo)準(zhǔn)優(yōu)先于不合理危險(xiǎn)標(biāo)準(zhǔn)”的理解有時(shí)只是立法者的一廂情愿。[5]在現(xiàn)有判例中,法官普遍認(rèn)為,產(chǎn)品在耐用期限內(nèi)正常合理使用過程中, 如果存在危及人身及財(cái)產(chǎn)安全的不合理危險(xiǎn),可視為存在缺陷①。這是由于,一方面,強(qiáng)制性標(biāo)準(zhǔn)作為一種技術(shù)要求,“其實(shí)質(zhì)內(nèi)涵、設(shè)置宗旨、制定依據(jù)以及發(fā)布程序等并不能完全承載私法上安全價(jià)值的需求。強(qiáng)制性標(biāo)準(zhǔn)是處于標(biāo)準(zhǔn)化體系底端的基本標(biāo)準(zhǔn)、最低標(biāo)準(zhǔn)?!盵6]另一方面,由于技術(shù)標(biāo)準(zhǔn)當(dāng)然包括安全性的標(biāo)準(zhǔn),因而如果產(chǎn)品符合技術(shù)標(biāo)準(zhǔn),本應(yīng)不存在“不合理危險(xiǎn)”,但由于技術(shù)標(biāo)準(zhǔn)更新較慢,而科學(xué)技術(shù)的發(fā)展和產(chǎn)品創(chuàng)新非???,標(biāo)準(zhǔn)滯后于技術(shù)和產(chǎn)品的現(xiàn)象越來越常見。[5]此時(shí),如果安全規(guī)程已經(jīng)過時(shí),即使制造商已經(jīng)遵循了法律要求的安全標(biāo)準(zhǔn),產(chǎn)品仍然可能存在缺陷②。[7]

    無人船人工智能航行系統(tǒng)產(chǎn)品“缺陷”的判斷標(biāo)準(zhǔn)應(yīng)當(dāng)如何確定?在航運(yùn)方面,有專門規(guī)則來決定如何建造船舶,不遵守這些規(guī)則往往表明船舶可能有缺陷。而在無人船背景下,各船級社發(fā)布的各種關(guān)于智能船舶或無人船的規(guī)范將為無人船的建造提供指導(dǎo),這些規(guī)范將構(gòu)成無人船的行業(yè)標(biāo)準(zhǔn)。如中國船級社發(fā)布的、于2020年3月1日生效的《智能船舶規(guī)范2020》,[1]英國勞氏船級社2017年發(fā)布的《海上無人駕駛系統(tǒng)規(guī)范》

    (LR Code for Unmanned Marine Systems),等等。

    然而,在無人船背景下,一方面,由于人工智能航行系統(tǒng)具備了像人類一樣的自主思維能力,能夠基于其從周圍環(huán)境獲得的信息和經(jīng)驗(yàn)來自主作出決策,另一方面,由于人類決策系統(tǒng)與現(xiàn)代人工智能系統(tǒng)存在一個(gè)本質(zhì)上的區(qū)別,即受限于人類大腦的認(rèn)知能力,人類無法在有時(shí)間限制的情況下分析所有的相關(guān)信息,所以人類常常退而求其次,選擇一個(gè)自己滿意的解決方法,而非一個(gè)最佳化的解決方法,經(jīng)濟(jì)學(xué)家Herbert Simon稱之為“滿意法”。[8]人工智能系統(tǒng)由于其強(qiáng)大的計(jì)算和反應(yīng)能力,能在極短的時(shí)間內(nèi)根據(jù)事先設(shè)定的目標(biāo)綜合分析各種可能性并可能作出人類無法想到和理解的“最優(yōu)反應(yīng)”。這一點(diǎn)將使人類無法準(zhǔn)確預(yù)知人工智能系統(tǒng)針對某個(gè)問題的解決措施。[9]

    在這種情形下,在智能船舶發(fā)展前期,利用“等效性”基準(zhǔn)來制定無人船技術(shù)標(biāo)準(zhǔn)尚能被接受,這也是目前船級社、國際組織、各國監(jiān)管機(jī)構(gòu)正在努力的方向。所謂“等效性”基準(zhǔn)是指無人船應(yīng)與傳統(tǒng)船舶具有同等安全水平和同等效能。具體來說,即國際海事組織提出的“替代和/或等效設(shè)計(jì)”(alternative and/or equivalent design)方法③,典型的規(guī)定如《1974年國際海上人命安全公約》附則第一章(總則)第5條(等效):“凡本規(guī)則要求船上所應(yīng)裝設(shè)或配備的專門裝置、材料、設(shè)備或器具,或其型式,或本規(guī)則要求應(yīng)設(shè)置的任何專門設(shè)施,主管機(jī)關(guān)可準(zhǔn)許該船上裝設(shè)或配備任何其他的裝置、材料、設(shè)備或器具,或其型式,或設(shè)置任何其他的設(shè)施;但須通過試驗(yàn)或其他方法經(jīng)主管機(jī)關(guān)認(rèn)定這些代替的裝置、材料、設(shè)備或器具,或其型式,或其他的設(shè)施,至少與本規(guī)則所要求者具有同等效能?!睔W盟委員會也認(rèn)為,在自主系統(tǒng)性能未超過雇傭人類輔助人員(the employment of human auxiliaries)時(shí),評估自主技術(shù)性能的基準(zhǔn)主要是人類輔助人員的基準(zhǔn)④。再如中國船級社發(fā)布的《智能船舶規(guī)范2020》第1.2條規(guī)定了“等效與免除”。但是在未來,無人船的技術(shù)水準(zhǔn)估計(jì)將優(yōu)于傳統(tǒng)船舶下的安全、效率標(biāo)準(zhǔn),此時(shí),單純滿足于“等效性”基準(zhǔn)可能令人難以接受,因?yàn)槿斯ぶ悄芟到y(tǒng)的計(jì)算能力是大大超出人類大腦的,且更高的安全性和效率性也是大家對其的普遍期待,此時(shí),需要有其他方法或者基準(zhǔn)來制定無人船技術(shù)標(biāo)準(zhǔn)。由此,歐盟委員會認(rèn)為,一旦自主技術(shù)的表現(xiàn)優(yōu)于人類輔助人員,在考慮到運(yùn)營商的注意義務(wù)的同時(shí),評估自主技術(shù)性能的基準(zhǔn)將由運(yùn)營商預(yù)期使用的可比可獲得技術(shù)(comparable available technology)的性能決定

    ⑤。但問題是該可比可獲得技術(shù)的性能該如何確定,其確定的標(biāo)準(zhǔn)是什么,是按照當(dāng)時(shí)市場的最高科技水平還是平均水平來確定?答案應(yīng)是后者,因?yàn)橐援?dāng)時(shí)市場的最高科技水平為基準(zhǔn)來進(jìn)行評估,就相當(dāng)于告訴自主系統(tǒng)研究公司,達(dá)到最高科技水平的自主系統(tǒng)才是達(dá)標(biāo)的,才會免于承擔(dān)賠償責(zé)任。一方面,這將可能阻礙甚至扼殺很多其他水平的科技公司的發(fā)展。另一方面, 并不是所有的公司都致力于研究最高水平的自主系統(tǒng),就像現(xiàn)在也有不同價(jià)位和性能的船舶,市場總是需要不同水平的產(chǎn)品和服務(wù)以滿足不同人群的需求。

    那么,如何確定自主系統(tǒng)的平均水平?可以參照民法中的“一般理性人”標(biāo)準(zhǔn),為無人船智能航行系統(tǒng)設(shè)定一個(gè)“一般理性機(jī)器人”標(biāo)準(zhǔn),從而實(shí)現(xiàn)以“智能系統(tǒng)認(rèn)知標(biāo)準(zhǔn)評判智能系統(tǒng)”,而不是以“人類大腦認(rèn)知標(biāo)準(zhǔn)評判智能系統(tǒng)”。

    具體來說,首先,各國或地區(qū)需要設(shè)立一個(gè)測試實(shí)驗(yàn)中心或站點(diǎn),來對無人船的測試進(jìn)行監(jiān)管。如歐盟委員會發(fā)布的《人工智能白皮書——走向卓越與信任的歐洲路徑》已經(jīng)提出將創(chuàng)建“測試和實(shí)驗(yàn)站點(diǎn)”(testing and experimentation sites),以支持新的人工智能應(yīng)用程序的開發(fā)和后續(xù)部署①。同時(shí),在人工智能領(lǐng)域,每個(gè)成員國至少有一個(gè)數(shù)字創(chuàng)新中心(digital innovation hub)②。

    其次,讓多個(gè)智能航行系統(tǒng)同階段在國家或地區(qū)成立的專門的測試中心或站點(diǎn)進(jìn)行訓(xùn)練測試,并且相同功能類型的船舶智能航行系統(tǒng)(如普通貨船、集裝箱船、散貨船、冷藏貨船等)應(yīng)運(yùn)用同樣的數(shù)據(jù)進(jìn)行同樣的訓(xùn)練,從而從大量的測試中測試出一個(gè)平均水平的、類似于民法中的“一般理性人”標(biāo)準(zhǔn)的“一般理性機(jī)器人”標(biāo)準(zhǔn)。同時(shí),考慮到科技的不斷發(fā)展與人工智能的自主學(xué)習(xí)能力,如歐盟委員會所說,有必要反復(fù)地、定期地評估人工智能系統(tǒng)的生命周期、運(yùn)轉(zhuǎn)狀態(tài),[10]定期更新“一般理性機(jī)器人”標(biāo)準(zhǔn)。

    最后,測試出“一般理性機(jī)器人標(biāo)準(zhǔn)”后,再在某些區(qū)域進(jìn)行局部試點(diǎn)一定時(shí)間,證明其運(yùn)行正常后,就可以大規(guī)模地投入市場使用,并以該“一般理性機(jī)器人”標(biāo)準(zhǔn)為基準(zhǔn)來判斷后面的法律糾紛中的無人船是否作出了作為“一般理性機(jī)器人”應(yīng)作出的判斷。

    (二)AI航行系統(tǒng)責(zé)任主體的確定

    在船舶無人化趨勢下,涌現(xiàn)出許多新主體,如AI航行系統(tǒng)提供商、新型航運(yùn)科技公司、遠(yuǎn)程運(yùn)營商,那么,如果由于AI航行系統(tǒng)故障致?lián)p,AI航行系統(tǒng)生產(chǎn)者(AI航行系統(tǒng)提供商、新型航運(yùn)科技公司)、銷售者、船東、承運(yùn)人、遠(yuǎn)程運(yùn)營商是否需要對此負(fù)責(zé)?損害賠償責(zé)任應(yīng)如何分配?

    1.生產(chǎn)者

    在船舶無人化趨勢下,目前出現(xiàn)了兩種運(yùn)營模式的人工智能航行系統(tǒng)公司,一種是只提供AI航行系統(tǒng)的公司,此種模式下的公司在無人船發(fā)展早期預(yù)計(jì)將為船東提供遠(yuǎn)程操作員或者為船東的船員提供培訓(xùn),當(dāng)無人船技術(shù)成熟之后,規(guī)范新型船員、新型船長、遠(yuǎn)程操作員等新主體資格的法律文件將會出臺,此時(shí),船東可能會自己雇傭船員或者將船舶委托給人工智能系統(tǒng)提供商、遠(yuǎn)程運(yùn)營商或者船舶管理公司。如Sea Machines Robotics公司即明確表明將在任何時(shí)候負(fù)責(zé)無人船的操作③。另一種則是集船舶設(shè)計(jì)、開發(fā)、制造者及承運(yùn)人于一體的新型航運(yùn)科技公司,對于新型航運(yùn)科技公司,生產(chǎn)者顯然就是該新型航運(yùn)科技公司本身,因而其可以承擔(dān)產(chǎn)品責(zé)任。對于單純的AI航行系統(tǒng)提供商,其是否能夠被認(rèn)定為《產(chǎn)品質(zhì)量法》下的生產(chǎn)者從而承擔(dān)產(chǎn)品責(zé)任呢?

    首先,根據(jù)《最高人民法院關(guān)于產(chǎn)品侵權(quán)案件的受害人能否以產(chǎn)品的商標(biāo)所有人為被告提起民事訴訟的批復(fù)》,“任何將自己的姓名、名稱、商標(biāo)或者可資識別的其他標(biāo)識體現(xiàn)在產(chǎn)品上,表示其為產(chǎn)品制造者的企業(yè)或個(gè)人,均屬于《中華人民共和國民法通則》第一百二十二條規(guī)定的‘產(chǎn)品制造者和《中華人民共和國產(chǎn)品質(zhì)量法》規(guī)定的‘生產(chǎn)者”,由此,對于將自己的姓名、名稱、商標(biāo)或者可資識別的其他標(biāo)識體現(xiàn)在無人船舶上的,該人工智能航行系統(tǒng)提供商顯然將承擔(dān)產(chǎn)品責(zé)任。如Kongsberg公司④將其商標(biāo)和公司名稱標(biāo)在船舶Yara Birkeland號上。

    其次,對于其他人工智能航行系統(tǒng)提供商,需先明確《產(chǎn)品質(zhì)量法》下的生產(chǎn)者范圍。《產(chǎn)品質(zhì)量法》并未規(guī)定產(chǎn)品生產(chǎn)者是可以包括零部件生產(chǎn)者,還是僅包括“成品生產(chǎn)者”(the producer of a finished product)。最高人民法院認(rèn)為,如果零部件是經(jīng)過加工、制造的,那么因該零部件存在缺陷而致?lián)p害的生產(chǎn)者應(yīng)該承擔(dān)產(chǎn)品責(zé)任,[11]即能夠被認(rèn)定為 “產(chǎn)品”的零部件的生產(chǎn)者應(yīng)為《產(chǎn)品質(zhì)量法》下的生產(chǎn)者;此外,《產(chǎn)品質(zhì)量法》第40條第4款規(guī)定:“生產(chǎn)者之間……訂立的買賣合同、承攬合同有不同約定的,合同當(dāng)事人按照合同約定執(zhí)行。”“生產(chǎn)者之間”的用語實(shí)際上從側(cè)面表明生產(chǎn)者除了成品生產(chǎn)者,還有零部件生產(chǎn)者。因而,應(yīng)當(dāng)認(rèn)為《產(chǎn)品質(zhì)量法》中的生產(chǎn)者包括成品生產(chǎn)者和零部件生產(chǎn)者。由此,如果由于船舶的零部件缺陷而致?lián)p,受害人可以就作為最終船舶生產(chǎn)者的船廠或者某個(gè)零部件生產(chǎn)者單獨(dú)起訴。但是由于被侵權(quán)人往往很難確定是哪個(gè)部件給其造成損害,即使確定了,還要尋找該零部件的生產(chǎn)者,難度較大,因而大多數(shù)被侵權(quán)人會選擇直接起訴船廠。

    傳統(tǒng)上是由船廠負(fù)責(zé)組裝零配件并作為船舶的最終生產(chǎn)者,一般被侵權(quán)人會選擇起訴船廠從而由船廠承擔(dān)船舶的產(chǎn)品責(zé)任。但是在無人船背景下,存在兩種可能的情況。

    第一種情況是人工智能航行系統(tǒng)提供商有可能直接和船東達(dá)成AI航行系統(tǒng)買賣合同,而由AI航行系統(tǒng)提供商直接將AI航行系統(tǒng)安裝到船舶上,此時(shí),由于船廠并不是最終產(chǎn)品生產(chǎn)者,無人船致?lián)p將有三種情形:如果單純由于AI航行系統(tǒng)的問題或者缺陷而導(dǎo)致?lián)p害,那么,基于前述對于AI航行系統(tǒng)屬于產(chǎn)品的論證,此時(shí),該人工智能航行系統(tǒng)提供商顯然是產(chǎn)品生產(chǎn)者,應(yīng)承擔(dān)產(chǎn)品責(zé)任;如果單純是由于船舶的問題或者缺陷而導(dǎo)致?lián)p害,顯然應(yīng)由船廠承擔(dān)產(chǎn)品責(zé)任;如果是由于AI航行系統(tǒng)與船舶或者船舶的零部件之間的“適應(yīng)性問題”(fit for purpose)而導(dǎo)致?lián)p害,此時(shí)情況將較為復(fù)雜,中國目前沒有相關(guān)規(guī)定。此時(shí),由AI航行系統(tǒng)提供商承擔(dān)產(chǎn)品責(zé)任可能是較為合適的。一方面,船廠在制造船舶時(shí)不可能預(yù)料到該船舶將要安裝AI航行系統(tǒng),因而,其不可能在造船時(shí)將此點(diǎn)予以特別考慮和評估。而AI航行系統(tǒng)提供商卻能在將其系統(tǒng)安裝到船上之前,與船廠、船東、船級社、船長等進(jìn)行充分的詢問調(diào)查了解船舶的性能,其對船舶和系統(tǒng)信息的綜合獲取較船廠是更為全面的,此種情形下,其理應(yīng)對由此產(chǎn)生的不適應(yīng)性負(fù)責(zé)。另一方面,實(shí)際上很多系統(tǒng)提供商明確表明,將為不同類型的船舶量身定做AI航行系統(tǒng),以使得“適應(yīng)性”得到滿足。如Sea Machines Robotics公司①、Kongsberg公司②。實(shí)際上“適應(yīng)性”成為AI航行系統(tǒng)提供商質(zhì)量保證的一部分,屬于其合同下的義務(wù)。

    第二種情況是人工智能航行系統(tǒng)提供商與船廠合作制造無人船。此時(shí)船廠往往是最后的船舶生產(chǎn)者,而AI航行系統(tǒng)提供商是零部件提供商。這種情況下預(yù)計(jì)船廠將承擔(dān)產(chǎn)品責(zé)任。但是,對于適應(yīng)性問題,為了更好地減少缺陷、提高效率,可以參照下文“后期缺陷抗辯和開發(fā)風(fēng)險(xiǎn)抗辯”部分論述的歐盟的“分擔(dān)責(zé)任”(shared responsibility)相關(guān)規(guī)定。

    2.銷售者

    銷售者的責(zé)任在船舶無人化趨勢下變化不大。根據(jù)《產(chǎn)品質(zhì)量法》和《中華人民共和國民法典》(簡稱《民法典》)侵權(quán)責(zé)任編第四章產(chǎn)品責(zé)任的規(guī)定,第一位的產(chǎn)品責(zé)任主體包括生產(chǎn)者和銷售者。《產(chǎn)品質(zhì)量法》第43條規(guī)定:“因產(chǎn)品存在缺陷造成人身、他人財(cái)產(chǎn)損害的,受害人可以向產(chǎn)品的生產(chǎn)者要求賠償,也可以向產(chǎn)品的銷售者要求賠償?!碑a(chǎn)品的生產(chǎn)者與產(chǎn)品的銷售者承擔(dān)的是不真正連帶責(zé)任。但屬于產(chǎn)品的生產(chǎn)者的責(zé)任,產(chǎn)品的銷售者賠償后有權(quán)向產(chǎn)品的生產(chǎn)者追償。

    3.船舶所有人

    船東(包括光船承租人)③應(yīng)承擔(dān)的責(zé)任可分為兩種。一是自己責(zé)任。無人船背景下,船東仍是海上航運(yùn)業(yè)中的主要利益主體之一,仍需履行相關(guān)的義務(wù),如維護(hù)更新、檢修、正確選擇合適的AI航行系統(tǒng)等。因而,如由于船東履行義務(wù)不當(dāng)導(dǎo)致AI航行系統(tǒng)故障并致?lián)p,則船東對此負(fù)有賠償責(zé)任。二是替代責(zé)任。船東應(yīng)在一定基準(zhǔn)范圍內(nèi)對AI航行系統(tǒng)故障承擔(dān)替代責(zé)任,理由如下。

    第一,按照“誰使用誰受益誰負(fù)責(zé)”的原則,船舶所有人應(yīng)對AI航行系統(tǒng)承擔(dān)責(zé)任。船舶所有人擁有無人船的所有權(quán),雖然實(shí)際的駕駛是由遠(yuǎn)程運(yùn)營商或者AI航行系統(tǒng)進(jìn)行的,但是船舶所有人依舊是實(shí)際控制者、受益者。“誰使用誰受益誰負(fù)責(zé)”的

    原則雖然沒有明確的規(guī)定,但是根據(jù)《民法典》第183條關(guān)于受益人補(bǔ)償責(zé)任的規(guī)定①及公平原則,作為受益人的船舶所有人應(yīng)當(dāng)承擔(dān)責(zé)任。歐盟在《人工智能和其他新興數(shù)字技術(shù)的責(zé)任》中也持相同觀點(diǎn),認(rèn)為運(yùn)營商(operator)對AI技術(shù)的使用應(yīng)承擔(dān)過錯責(zé)任②,其中的運(yùn)營商指的是“控制與新興數(shù)字技術(shù)運(yùn)營相關(guān)的風(fēng)險(xiǎn)并從該運(yùn)營中受益的人”③。

    第二,船東對為自己所有的、有自主性的AI系統(tǒng)承擔(dān)責(zé)任具有理論基礎(chǔ)。對于自己所有的、有一定自主性的物承擔(dān)責(zé)任其實(shí)一直存在于歷史和當(dāng)下的侵權(quán)法中,如現(xiàn)行的動物致人損害責(zé)任、[12]羅馬法損害投償制度。而AI航行系統(tǒng)與動物和奴隸、家子具有“自主性”的共同點(diǎn),因而,船東對AI航行系統(tǒng)承擔(dān)替代責(zé)任有歷史和法律基礎(chǔ)。

    第三,讓船東對AI航行系統(tǒng)承擔(dān)一定基準(zhǔn)范圍內(nèi)的替代責(zé)任符合權(quán)利義務(wù)相一致原則。無人船背景下,AI航行系統(tǒng)將在很大程度上取代船長、船員的職責(zé),技術(shù)故障將替代船長、船員及其他船上工作人員的航行過失。此時(shí),如果僅因AI航行系統(tǒng)是產(chǎn)品,而全部由生產(chǎn)者承擔(dān)產(chǎn)品質(zhì)量責(zé)任,將使船東成為海上航運(yùn)業(yè)中純受益而無運(yùn)營風(fēng)險(xiǎn)的“特權(quán)主體”,而對生產(chǎn)者則課以過重責(zé)任,造成風(fēng)險(xiǎn)與利益、權(quán)利與義務(wù)不對等。

    不過考慮到AI航行系統(tǒng)畢竟與人類雇員不同,其是一種產(chǎn)品,生產(chǎn)者對AI航行系統(tǒng)應(yīng)負(fù)有質(zhì)量保證等義務(wù),因而應(yīng)在船東和生產(chǎn)者間分配AI航行系統(tǒng)質(zhì)量問題致?lián)p責(zé)任。賦予AI航行系統(tǒng)一定基準(zhǔn)范圍內(nèi)的船東替代責(zé)任是可行之法:對AI航行系統(tǒng)在基準(zhǔn)內(nèi)的技術(shù)故障由船東承擔(dān)替代責(zé)任,適用海事賠償責(zé)任限制,基準(zhǔn)外的由AI航行系統(tǒng)生產(chǎn)者承擔(dān)產(chǎn)品責(zé)任,適用產(chǎn)品責(zé)任的充分賠償責(zé)任。該基準(zhǔn)即是AI航行系統(tǒng)產(chǎn)品缺陷判斷標(biāo)準(zhǔn),初期為“等效性”標(biāo)準(zhǔn),后期為“一般理性機(jī)器人”標(biāo)準(zhǔn)。歐盟委員會提出了“自治系統(tǒng)的替代責(zé)任”的概念。其在報(bào)告中指出,如果損害是由在功能上等同于雇傭輔助人員(the employment of human auxiliaries)的方式使用的自主技術(shù)造成的,則運(yùn)營商(operator)使用該技術(shù)的責(zé)任應(yīng)與該輔助人員的委托人/雇主(principal)現(xiàn)有的替代責(zé)任制度相對應(yīng)④。

    通過這樣的制度安排,可以很好地銜接產(chǎn)品責(zé)任的充分賠償原則與海商法的海事賠償限制制度。目前,生產(chǎn)者因其產(chǎn)品而應(yīng)承擔(dān)的產(chǎn)品質(zhì)量責(zé)任包括產(chǎn)品(缺陷)責(zé)任和產(chǎn)品瑕疵責(zé)任兩種。產(chǎn)品(缺陷)責(zé)任是一種特殊侵權(quán)責(zé)任,被侵權(quán)人均可對生產(chǎn)者提起侵權(quán)之訴;而產(chǎn)品瑕疵責(zé)任是產(chǎn)品銷售者就買賣標(biāo)的物的使用性、效用性或其他品質(zhì)對買受者承擔(dān)的默示或明示擔(dān)保責(zé)任,是一種合同責(zé)任,[13]只有作為合同相對方的買方是權(quán)利主體。即瑕疵是合同法上的概念,而缺陷是產(chǎn)品質(zhì)量法上的概念。[14]雖然《產(chǎn)品質(zhì)量法》中并未明確瑕疵的內(nèi)涵,但是無論是司法實(shí)務(wù)界還是法學(xué)理論界,都不約而同地使用缺陷與瑕疵這兩個(gè)概念來代替缺陷與非缺陷這兩個(gè)名稱。[15]產(chǎn)品缺陷責(zé)任以外的責(zé)任即為產(chǎn)品瑕疵責(zé)任。無人船背景下,將AI航行系統(tǒng)產(chǎn)品缺陷責(zé)任歸屬于生產(chǎn)者而不納入船東替代責(zé)任,將產(chǎn)品瑕疵引發(fā)的致?lián)p責(zé)任納入船東的替代責(zé)任范圍由船東承擔(dān),船東在承擔(dān)完相應(yīng)責(zé)任后可依合同安排和法律規(guī)定向生產(chǎn)者追償。而海事請求方由于不是AI航行系統(tǒng)買賣合同的買方,無權(quán)請求生產(chǎn)者承擔(dān)產(chǎn)品瑕疵責(zé)任。不過,在產(chǎn)品瑕疵致?lián)p情形下,海事請求方得請求生產(chǎn)者承擔(dān)一般侵權(quán)責(zé)任⑤,此時(shí),需賦予AI航行系統(tǒng)提供商海事賠償責(zé)任限制權(quán)。

    綜上,船東對由于自己的過錯導(dǎo)致的系統(tǒng)故障致?lián)p承擔(dān)責(zé)任,同時(shí)應(yīng)對AI航行系統(tǒng)承擔(dān)一定基準(zhǔn)范圍內(nèi)的替代責(zé)任。實(shí)際上,該觀點(diǎn)也得到了許多國家的支持。在對國際海事委員會無人船調(diào)查問卷的回復(fù)⑥中,各國均表明船東應(yīng)作為無人船碰撞事故的責(zé)任主體之一,10個(gè)國家⑦聲明,依據(jù)國家碰撞責(zé)任,船舶應(yīng)在其有過失的范圍內(nèi)對第三人承擔(dān)責(zé)任。3個(gè)國家⑧聲明,船舶應(yīng)就其活動造成的損害承擔(dān)責(zé)任。

    4.承運(yùn)人

    根據(jù)《海商法》第47條的規(guī)定,承運(yùn)人具有船舶適航義務(wù)。適航義務(wù)具有不可委托性,[16]在無人船背景下,如由于承運(yùn)人未盡謹(jǐn)慎處理,導(dǎo)致系統(tǒng)故障使得船舶不適航,此時(shí),承運(yùn)人承擔(dān)貨損責(zé)任。但根據(jù)《海商法》第51條的規(guī)定,如是經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷導(dǎo)致的貨損,承運(yùn)人不負(fù)賠償責(zé)任。因而,如該系統(tǒng)故障是經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷,則承運(yùn)人對此不負(fù)賠償責(zé)任。但如該缺陷是產(chǎn)品缺陷,貨主可向系統(tǒng)生產(chǎn)者主張產(chǎn)品責(zé)任。

    5.遠(yuǎn)程運(yùn)營商

    無人船具有兩種運(yùn)營方式,一是遠(yuǎn)程控制模式,二是“全自動+遠(yuǎn)程控制”模式。對于前者,遠(yuǎn)程運(yùn)營商的地位類似于現(xiàn)行的船舶管理人的角色,因而可以適用船舶管理人的相關(guān)規(guī)定;對于后者,此時(shí)由AI航行系統(tǒng)與遠(yuǎn)程操作員共同進(jìn)行航行決策,應(yīng)根據(jù)具體情況來確定二者的過錯程度,據(jù)此按比例確定責(zé)任,無法確定時(shí)則應(yīng)均擔(dān)責(zé)任。當(dāng)計(jì)算機(jī)和人共同決策時(shí),應(yīng)適用傳統(tǒng)的連帶責(zé)任原則。[17]不過,對于船舶管理人的碰撞責(zé)任承擔(dān)問題,中國現(xiàn)行規(guī)定未將船舶管理人納入船舶碰撞責(zé)任主體。根據(jù)《最高人民法院關(guān)于審理船舶碰撞糾紛案件若干問題的規(guī)定》(簡稱《碰撞規(guī)定》)第4條的規(guī)定,船舶碰撞產(chǎn)生的賠償責(zé)任由船舶所有人承擔(dān),碰撞船舶在光船租賃期間并經(jīng)依法登記的,由光船承租人承擔(dān)。該條對《最高人民法院關(guān)于印發(fā)〈第二次全國涉外商事海事審判工作會議紀(jì)要〉》第130條進(jìn)行了修正,刪除了“船舶經(jīng)營人或者管理人對船舶碰撞有過失的,與船舶所有人或者光船承租人承擔(dān)連帶責(zé)任,但不影響責(zé)任主體之間的追償”的規(guī)定。因而,根據(jù)《海商法》第八章“船舶碰撞”及《碰撞規(guī)定》,如由于遠(yuǎn)程運(yùn)營商的過錯而導(dǎo)致系統(tǒng)故障引發(fā)船舶碰撞責(zé)任,應(yīng)由船東承擔(dān)碰撞責(zé)任,但船東有權(quán)向遠(yuǎn)程運(yùn)營商追償。

    二、新型航運(yùn)科技公司能否以抗辯免責(zé)

    (一)后期缺陷抗辯和開發(fā)風(fēng)險(xiǎn)抗辯

    《產(chǎn)品質(zhì)量法》第41條第2款規(guī)定:“生產(chǎn)者能夠證明有下列情形之一的,不承擔(dān)賠償責(zé)任:未將產(chǎn)品投入流通的;產(chǎn)品投入流通時(shí),引起損害的缺陷尚不存在的;將產(chǎn)品投入流通時(shí)的科學(xué)技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在的。”第一個(gè)抗辯事由在傳統(tǒng)船舶和無人船下并無太大區(qū)別,而后兩個(gè)抗辯事由在適用于無人船時(shí)存在一定的問題。后兩種抗辯分別是“后期缺陷抗辯”(later defect defense)和“開發(fā)風(fēng)險(xiǎn)抗辯”(development risk defense)。兩種抗辯的判斷時(shí)點(diǎn)均為“投入流通時(shí)”,但該判斷時(shí)點(diǎn)在無人船情形下將產(chǎn)生以下問題。第一,人工智能航行系統(tǒng)作為無人船的核心組成部分,其軟件部分需要經(jīng)常更新,并非傳統(tǒng)意義上的“產(chǎn)品成品”(finished product),需要系統(tǒng)提供商不斷提供系統(tǒng)更新、漏洞修補(bǔ)。此時(shí),如果仍以“投入流通時(shí)”為判斷時(shí)點(diǎn)將有失公平。

    第二,軟件更新本身也可能出現(xiàn)問題,有可能產(chǎn)品投入流通時(shí)是安全的,但軟件更新使產(chǎn)品在隨后出現(xiàn)缺陷。如果更新的軟件導(dǎo)致了事故,因?yàn)橹挥挟a(chǎn)品的無形部分發(fā)生了變化,那么應(yīng)該由誰承擔(dān)賠償責(zé)任?第三,如果是人工智能航行系統(tǒng)公司為已經(jīng)處于運(yùn)營中的船舶安裝系統(tǒng),此時(shí),“投入流通時(shí)”又將如何判斷?因?yàn)閷τ诖氨倔w來說,其早已投入運(yùn)營,而對于人工智能航行系統(tǒng)(包括軟件和硬件)來說,其卻是剛剛投入流通。第四,人工智能航行系統(tǒng)和船舶在投入流通時(shí)可能均不存在缺陷,但將包括人工智能在內(nèi)的軟件集成到船舶中可以修改船舶和系統(tǒng)在其生命周期中的功能。對于需要經(jīng)常更新軟件或依賴于機(jī)器學(xué)習(xí)的系統(tǒng)來說尤其如此。這些特性可能導(dǎo)致新的風(fēng)險(xiǎn),而這些風(fēng)險(xiǎn)在系統(tǒng)投放市場時(shí)并不存在①。這些問題在現(xiàn)有的法律框架內(nèi)均未得到適當(dāng)?shù)恼{(diào)整。

    歐盟委員會也注意到了上述問題,并在多份報(bào)告中提出了解決方案。

    對于第一個(gè)問題,歐盟委員會認(rèn)為,生產(chǎn)者在產(chǎn)品投入流通后,只要其仍在控制技術(shù)更新或者升級,即使產(chǎn)品出現(xiàn)缺陷,也應(yīng)當(dāng)對數(shù)字新興技術(shù)中存在的缺陷承擔(dān)嚴(yán)格的責(zé)任,不得以開發(fā)風(fēng)險(xiǎn)抗辯②。

    對于第二、三個(gè)問題,歐盟委員會認(rèn)為,某些人工智能系統(tǒng)在其生命周期中的自主行為可能會導(dǎo)致重要的產(chǎn)品變化,對安全產(chǎn)生影響,這可能需要新的風(fēng)險(xiǎn)評估標(biāo)準(zhǔn)③。對于既不會對已經(jīng)投放市場的產(chǎn)品進(jìn)行重大修改、也不會引入初始風(fēng)險(xiǎn)評估中未預(yù)見的新風(fēng)險(xiǎn)的軟件更新,可將其視為安全維護(hù)操作。但是,如果軟件更新對下載該軟件的產(chǎn)品進(jìn)行了重大修改,則整個(gè)產(chǎn)品可被視為一種新產(chǎn)品,在進(jìn)行修改時(shí),必須重新評估是否符合相關(guān)產(chǎn)品安全立法①。而對運(yùn)營中的船舶進(jìn)行人工智能航行系統(tǒng)的安裝,由于該系統(tǒng)對船舶進(jìn)行了重大修改,應(yīng)當(dāng)將其視為一種新產(chǎn)品進(jìn)行重新評估,開發(fā)風(fēng)險(xiǎn)抗辯在此時(shí)也將不能適用。

    對于第四個(gè)問題,歐盟委員會認(rèn)為應(yīng)遵循“分擔(dān)責(zé)任”(shared responsibility)的原則對多個(gè)經(jīng)濟(jì)經(jīng)營者施加義務(wù)。具體來說,可以從兩方面入手予以解決:一方面,對于最終產(chǎn)品的制造商,無論價(jià)值鏈多么復(fù)雜,產(chǎn)品的安全責(zé)任仍由投放市場的生產(chǎn)者承擔(dān)。生產(chǎn)企業(yè)對最終產(chǎn)品包括計(jì)算機(jī)軟件等產(chǎn)品中的集成部件的安全負(fù)責(zé)。作為初始風(fēng)險(xiǎn)評估的一部分,最終產(chǎn)品的制造商有義務(wù)在其投放市場時(shí)預(yù)見集成在該產(chǎn)品中的軟件風(fēng)險(xiǎn)。另一方面,對于各部件的制造商,如果生產(chǎn)者設(shè)想到其設(shè)備將與其他設(shè)備相互連接并相互作用,則應(yīng)在風(fēng)險(xiǎn)評估期間考慮這一點(diǎn),并應(yīng)考慮到產(chǎn)品的預(yù)期用途、可預(yù)見的用途以及必要時(shí)可合理預(yù)見的濫用。同時(shí),應(yīng)對獨(dú)立軟件給予特別考慮,以確保AI產(chǎn)品和系統(tǒng)的安全性。制造商可能需要承擔(dān)額外的義務(wù),即確保在軟件上傳時(shí)不損害AI產(chǎn)品的安全性。此外,歐盟委員會還認(rèn)為應(yīng)明確規(guī)定供應(yīng)鏈中的經(jīng)濟(jì)經(jīng)營者應(yīng)與用戶合作,從而可以在更為復(fù)雜的價(jià)值鏈中提供法律確定性。特別是,價(jià)值鏈中對產(chǎn)品安全具有影響的每一行為人(例如軟件生產(chǎn)商)和用戶(通過修改產(chǎn)品)都將承擔(dān)責(zé)任,并向價(jià)值鏈中的下一行為人提供必要的信息和措施。具體來說,歐盟委員會認(rèn)為可以參考現(xiàn)有的對于汽車、火車和飛機(jī)的每個(gè)部件的型式批準(zhǔn)(type-approval)和認(rèn)證與整車或飛機(jī)的型式批準(zhǔn)和認(rèn)證制度。如道路適用性(road-worthiness)、飛機(jī)適航性(air-worthiness)和鐵路互操作性是安全評估的一部分。在運(yùn)輸領(lǐng)域,權(quán)威機(jī)構(gòu)對于“系統(tǒng)”的“授權(quán)”有兩種情況:一種是系統(tǒng)取得了第三方根據(jù)明確的技術(shù)要求而進(jìn)行的合格評定;另一種是通過演示展示系統(tǒng)如何應(yīng)對風(fēng)險(xiǎn)。解決方案通常是“產(chǎn)品”和“系統(tǒng)”層面的結(jié)合②。

    (二)《海商法》下“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的免責(zé)事由在產(chǎn)品缺陷責(zé)任下的適用

    由于無人船趨勢下新主體的出現(xiàn),尤其是集開發(fā)、制造和航運(yùn)等功能于一體的新型航運(yùn)科技公司的出現(xiàn),產(chǎn)品責(zé)任法律規(guī)則下的生產(chǎn)者對“產(chǎn)品缺陷”承擔(dān)產(chǎn)品責(zé)任與《海商法》下的承運(yùn)人享有“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”免責(zé)事由可能同時(shí)適用于同一主體。如一缺陷既屬于產(chǎn)品缺陷,又屬于“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”,鑒于《海商法》第58條規(guī)定,“就海上貨物運(yùn)輸合同所涉及的貨物滅失、損壞或者遲延交付對承運(yùn)人提起的任何訴訟,不論海事請求人是否合同的一方,也不論是根據(jù)合同或者是根據(jù)侵權(quán)行為提起的,均適用本章關(guān)于承運(yùn)人的抗辯理由和限制賠償責(zé)任的規(guī)定”,新型航運(yùn)公司可否在產(chǎn)品責(zé)任下以其在《海商法》下享有的“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的免責(zé)事由進(jìn)行抗辯?要解決該問題,需要先對“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的含義進(jìn)行分析。

    1.“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的含義及判斷標(biāo)準(zhǔn)

    根據(jù)規(guī)定,“不能發(fā)現(xiàn)的潛在缺陷”是以“謹(jǐn)慎處理”為前提的,[18]因而謹(jǐn)慎處理可以發(fā)現(xiàn)的缺陷不能構(gòu)成承運(yùn)人的免責(zé)事由,法律界對此沒有爭議。廈門海事法院認(rèn)為,根據(jù)國際海事司法的理論與實(shí)踐,《海牙規(guī)則》和《海商法》中“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的認(rèn)定,主要是法律認(rèn)定問題。船舶適航是綜合性概念,其法律意義即是表明船舶整體上處于法律要求的技術(shù)標(biāo)準(zhǔn)和管理狀態(tài)③。

    首先,是否達(dá)到“謹(jǐn)慎處理”應(yīng)從承運(yùn)人的角度出發(fā),結(jié)合現(xiàn)行的法律法規(guī)予以認(rèn)定。實(shí)踐中,對于能夠?qū)е率鹿拾l(fā)生的船舶的缺陷,以現(xiàn)有的科技力量、盡最大的努力可發(fā)現(xiàn)的缺陷的判斷標(biāo)準(zhǔn)與《海商法》第51條第1款第(十一)項(xiàng)的規(guī)定不相符,法律并不要求檢查船舶時(shí)特別地謹(jǐn)慎或特別地勤勉。[19]因此,只要專業(yè)人員盡了一般注意即可。即承運(yùn)人只要根據(jù)各項(xiàng)法律規(guī)定對船舶進(jìn)塢全面檢修、聘用適任船員、日常維護(hù)保養(yǎng)和定期接受相關(guān)海事部門各項(xiàng)檢查,且均符合航行安全要求等義務(wù),履行了法定職責(zé)并持有有效的適航證書即可④。

    其次,要確定“船舶潛在缺陷”的定義及判斷標(biāo)準(zhǔn)。對于潛在缺陷,《海商法》并沒有明確規(guī)定,在英美法系中,潛在缺陷的定義是通過具體判例來確定的。比如,英國法官對此概念的定義是:一個(gè)合理謹(jǐn)慎的專業(yè)人員經(jīng)過檢查仍然不能通過一般的技術(shù)方法發(fā)現(xiàn)的缺陷。[20]福建省高級人民法院認(rèn)為,船舶的潛在缺陷是指船舶經(jīng)專業(yè)人員以一般的注意所不能發(fā)現(xiàn)的缺陷①。另外,在1980年的The Caribbean Sea案以前,潛在缺陷似乎只包括材料的缺陷而非設(shè)計(jì)的缺陷,而在該案后,潛在缺陷的概念發(fā)生了變化,即潛在缺陷包括設(shè)計(jì)缺陷。[21]因此,在無人船的背景下,設(shè)計(jì)缺陷也可能構(gòu)成船舶潛在缺陷。

    2.新型航運(yùn)公司不可在產(chǎn)品缺陷責(zé)任下以“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”進(jìn)行抗辯

    從上述分析中可以看出,《海商法》下“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”實(shí)際上更側(cè)重于“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)”的認(rèn)定,只要船舶經(jīng)專業(yè)人員以一般的注意、用通常的方法不能發(fā)現(xiàn)缺陷即可。而對于“產(chǎn)品缺陷”,如前所述,其判斷采用雙重標(biāo)準(zhǔn),即“國家、行業(yè)標(biāo)準(zhǔn)”和“不合理危險(xiǎn)”,雖然法律為其規(guī)定了適用的先后順序,但該理解沒有得到廣泛認(rèn)同。而基于AI航行系統(tǒng)本身所具有的不可預(yù)測性和不透明性的特點(diǎn)以及現(xiàn)有的智能船舶規(guī)范不夠完善和具體的考慮,“不合理危險(xiǎn)”的缺陷判斷標(biāo)準(zhǔn)預(yù)計(jì)會在無人船背景下更頻繁地被使用。對于“不合理危險(xiǎn)”的判斷標(biāo)準(zhǔn),最高人民法院指出,判斷“不合理危險(xiǎn)”的考慮因素包括以下五點(diǎn):產(chǎn)品的一般用途;產(chǎn)品的正常使用方式;產(chǎn)品的標(biāo)示;產(chǎn)品的結(jié)構(gòu)、原材料等內(nèi)在特征;產(chǎn)品的使用消費(fèi)時(shí)間。[22]然而,在無人船背景下,由于AI航行系統(tǒng)具有不可預(yù)測性,用這五點(diǎn)來判斷其是否具有缺陷往往會使其被判定為具有不合理危險(xiǎn),存在缺陷,除非該缺陷滿足開發(fā)風(fēng)險(xiǎn)抗辯。

    但如前所述,AI航行系統(tǒng)制造商主張開發(fā)風(fēng)險(xiǎn)的難度預(yù)計(jì)將加大,甚至在某些情形下可能被剝奪該抗辯權(quán)利。在開發(fā)風(fēng)險(xiǎn)抗辯中,一方面,缺陷是依照“新產(chǎn)品”投入流通時(shí)整個(gè)社會所具有的科學(xué)技術(shù)水平來認(rèn)定的,而不是依據(jù)產(chǎn)品生產(chǎn)者自身所掌握的科學(xué)技術(shù)來認(rèn)定的。[23]顯然,該判斷標(biāo)準(zhǔn)較《海商法》中的潛在缺陷嚴(yán)格。因而此時(shí)很有可能出現(xiàn)在承運(yùn)人日常檢查和維護(hù)中,專業(yè)人員以一般注意而不能發(fā)現(xiàn)的潛在缺陷,但根據(jù)產(chǎn)品缺陷的判斷標(biāo)準(zhǔn)能夠被認(rèn)定為產(chǎn)品缺陷,并且開發(fā)風(fēng)險(xiǎn)抗辯不能適用而最終導(dǎo)致生產(chǎn)者應(yīng)承擔(dān)產(chǎn)品責(zé)任的情形。另一方面,由于在無人船背景下軟件更新將更加常見和頻繁,為了對此作出適當(dāng)和公平的調(diào)整,未來法律很可能會要求只要生產(chǎn)者仍在控制技術(shù)更新或者升級,即使產(chǎn)品出現(xiàn)缺陷,也應(yīng)當(dāng)對數(shù)字新興技術(shù)中存在的缺陷承擔(dān)嚴(yán)格責(zé)任,不得以開發(fā)風(fēng)險(xiǎn)抗辯②。

    無論是哪種情形,產(chǎn)品缺陷的范圍顯然大于潛在缺陷。對于前者,生產(chǎn)者需要舉證在投入流通時(shí)以全社會所具有的科技水平來認(rèn)定檢查也不能發(fā)現(xiàn)缺陷,即生產(chǎn)者需使用各種科技手段來保證其不存在缺陷,而《海商法》中并無此高要求。對于后者,由于人工智能航行系統(tǒng)需要由軟件提供商不斷提供更新和升級服務(wù),無人船背景下生產(chǎn)者將控制技術(shù)更新和升級,其采用開發(fā)風(fēng)險(xiǎn)抗辯將存在障礙。因而,此時(shí)有可能出現(xiàn)不屬于《海商法》下“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”而屬于《產(chǎn)品質(zhì)量法》下“產(chǎn)品缺陷”的情形,也有可能出現(xiàn)同時(shí)屬于二者的情形。在前一種情形下,新型航運(yùn)科技公司自然不能在產(chǎn)品缺陷責(zé)任下主張潛在缺陷抗辯。在后種一情形下,如果托運(yùn)人或者托運(yùn)人的保險(xiǎn)人依照《海商法》不能獲得損害賠償,那么,其是否可以轉(zhuǎn)向《產(chǎn)品質(zhì)量法》中的產(chǎn)品缺陷責(zé)任向該新興科技航運(yùn)公司提起訴訟?此時(shí),該新型科技航運(yùn)公司是否可以主張損失系由《海商法》下承運(yùn)人的免責(zé)事由造成?

    基于對法律適用原則、新興數(shù)字技術(shù)下的信息不對稱性以及新型航運(yùn)公司所具有的多重身份等因素的考量,此情形下托運(yùn)人或者托運(yùn)人的保險(xiǎn)人可依據(jù)《產(chǎn)品質(zhì)量法》中的產(chǎn)品缺陷責(zé)任向作為生產(chǎn)者的新型航運(yùn)科技公司起訴,并且此時(shí)該新型航運(yùn)科技公司不得根據(jù)《海商法》主張免責(zé),具體理由如下。

    第一,從法律適用原則來看,《產(chǎn)品質(zhì)量法》和《海商法》均是由全國人大常委會制定,均屬于法律,為同位階的法律規(guī)范。當(dāng)效力等級相同的法律規(guī)范出現(xiàn)沖突時(shí),應(yīng)首先適用特別法優(yōu)于一般法原則予以協(xié)調(diào),只有在不能適用該原則時(shí),才適用新法優(yōu)于舊法原則。

    [24]一方面,《產(chǎn)品質(zhì)量法》規(guī)范的是“在中華人民共和國境內(nèi)從事的產(chǎn)品生產(chǎn)、銷售活動”,而《海商法》規(guī)范的是“海上運(yùn)輸關(guān)系、船舶關(guān)系”,二者之間顯然不是包含與被包含的關(guān)系,因而無法適用“特別法優(yōu)于一般法”原則。而“新法優(yōu)于舊法”原則適用的情形是舊法和新法處于同一位階并且對同一事項(xiàng)進(jìn)行規(guī)范。[24]但是“產(chǎn)品缺陷”和“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”并不是同一事項(xiàng),前者規(guī)定的是生產(chǎn)者、銷售者的產(chǎn)品質(zhì)量責(zé)任,而后者規(guī)定的是承運(yùn)人的免責(zé)事由,規(guī)范的主體、內(nèi)容均不一樣。另一方面,雖然產(chǎn)品責(zé)任實(shí)際上是一種特殊的侵權(quán)責(zé)任,其理論上也應(yīng)屬于一種侵權(quán)行為,根據(jù)《海商法》第58條,“不論海事請求人是否合同的一方,也不論是根據(jù)合同或者是根據(jù)侵權(quán)行為提起的,均適用本章關(guān)于承運(yùn)人的抗辯理由和限制賠償責(zé)任的規(guī)定”,但該條適用的前提是特別法優(yōu)于一般法?!睹穹ǖ洹返?166條規(guī)定:“行為人造成他人民事權(quán)益損害,不論行為人有無過錯,法律規(guī)定應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任的,依照其規(guī)定?!薄逗I谭ā返某羞\(yùn)人作為侵權(quán)人時(shí),侵權(quán)人與承運(yùn)人是包含與被包含的關(guān)系,屬于一般法與特別法的關(guān)系。而《產(chǎn)品質(zhì)量法》中規(guī)定的是“生產(chǎn)者、銷售者”作為侵權(quán)人時(shí)的侵權(quán)責(zé)任,顯然也屬于民法的特別規(guī)定,但問題是,承運(yùn)人侵權(quán)時(shí)并不必然而且一般情形下并不是《產(chǎn)品質(zhì)量法》下的生產(chǎn)者或者銷售者。二者顯然不是特別法與一般法的關(guān)系。綜上,《海商法》不應(yīng)優(yōu)先于《產(chǎn)品質(zhì)量法》適用,因而該新型航運(yùn)科技公司在托運(yùn)人或者托運(yùn)人的保險(xiǎn)人依據(jù)《產(chǎn)品質(zhì)量法》起訴時(shí),不得依據(jù)《海商法》進(jìn)行抗辯。

    第二,《產(chǎn)品質(zhì)量法》第41條第1款規(guī)定的實(shí)際上是產(chǎn)品責(zé)任。產(chǎn)品責(zé)任是一種特殊的民事侵權(quán)責(zé)任,實(shí)行的是無過錯責(zé)任原則,相較于《海商法》下承運(yùn)人的不完全過失原則,無過錯責(zé)任原則強(qiáng)調(diào)的是充分補(bǔ)償,體現(xiàn)的是民法的公平原則在損害分擔(dān)機(jī)制方面的運(yùn)用。

    [25]在船舶無人化趨勢下,一方面,產(chǎn)品致?lián)p是新型的侵權(quán)行為,其特殊性是現(xiàn)代民法確定過錯責(zé)任原則時(shí)不能預(yù)料的,[26]64-65且在無人船背景下,由于“算法黑箱”①和高專業(yè)性知識要求,產(chǎn)品生產(chǎn)者與受害人之間將存在更大的信息不對稱性,受害人的舉證將更加困難,從而導(dǎo)致受害人難以得到賠償。有學(xué)者指出,自主導(dǎo)航系統(tǒng)的潛在災(zāi)難、它們的網(wǎng)絡(luò)脆弱性和不透明性最終將共同證明建立一個(gè)嚴(yán)格的船東責(zé)任制度是正當(dāng)?shù)?。[27]歐盟委員會也認(rèn)為:“(運(yùn)營商的)嚴(yán)格責(zé)任是對新興數(shù)字技術(shù)帶來的風(fēng)險(xiǎn)的適當(dāng)回應(yīng)。嚴(yán)格的責(zé)任應(yīng)由控制與新興數(shù)字技術(shù)運(yùn)營相關(guān)的風(fēng)險(xiǎn)并從其運(yùn)營中獲益的人(運(yùn)營商)承擔(dān)。生產(chǎn)者的嚴(yán)格責(zé)任應(yīng)在缺陷產(chǎn)品及其組合部件造成的損害賠償中發(fā)揮關(guān)鍵作用,無論該產(chǎn)品及其組合部件是有形的還是數(shù)字的②?!绷硪环矫?,無過錯責(zé)任的運(yùn)用,同時(shí)也可以促使企業(yè)改良設(shè)計(jì),完善生產(chǎn)管理,提高產(chǎn)品質(zhì)量。[26]65只有建立嚴(yán)格的責(zé)任制度,才能保證受損害方的賠償,增強(qiáng)船舶所有人的責(zé)任意識。[27]

    第三,在傳統(tǒng)航運(yùn)業(yè)中,承運(yùn)人和船舶制造商一般是兩個(gè)不同的主體,承運(yùn)人并不具備造船業(yè)關(guān)于船舶建造的相關(guān)專業(yè)知識,因而“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的承運(yùn)人免責(zé)事由實(shí)際上是對其適航義務(wù)的補(bǔ)充。所以該免責(zé)事由可以適用“經(jīng)謹(jǐn)慎處理不能發(fā)現(xiàn)”的判斷方法,即只要承運(yùn)人按照法律規(guī)定對船舶履行定期檢查和日常維護(hù)等一般注意義務(wù),即使船舶存在潛在缺陷導(dǎo)致貨損,承運(yùn)人也能依據(jù)《海商法》中規(guī)定的“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的承運(yùn)人免責(zé)事由而免責(zé),不要求承運(yùn)人用盡各種技術(shù)手段來檢測船舶是否存在潛在缺陷。這在現(xiàn)行多個(gè)航運(yùn)主體功能身份明確獨(dú)立的情形下是合理且適當(dāng)?shù)?。但是,無人船背景下作為承運(yùn)人的新型航運(yùn)科技公司同時(shí)還是生產(chǎn)者、開發(fā)者、設(shè)計(jì)者,顯然其是具備相應(yīng)的專業(yè)知識和能力來綜合判斷船舶是否存在缺陷的,此時(shí)再賦予其《海商法》下“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的免責(zé)抗辯并不適當(dāng)和公平。

    綜上,如受害人以《產(chǎn)品質(zhì)量法》第41條為請求權(quán)基礎(chǔ)起訴同時(shí)作為承運(yùn)人和生產(chǎn)者的新型航運(yùn)科技公司,《海商法》規(guī)定的“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的免責(zé)事由在《產(chǎn)品質(zhì)量法》下不得適用。

    三、AI航行系統(tǒng)生產(chǎn)者與賠償責(zé)任限制

    在無人駕駛船舶上沒有船員以確保技術(shù)設(shè)備正常工作的情況下,技術(shù)故障可能比以前更頻繁。[7]此種情形下,產(chǎn)品責(zé)任的適用將會增多?!逗I谭ā分幸?guī)定了船舶所有人等主體享有海事賠償責(zé)任限制權(quán)利,并規(guī)定了承運(yùn)人的責(zé)任限制。但產(chǎn)品責(zé)任規(guī)則下一般適用“充分賠償原則”,這意味著被侵權(quán)人通常有權(quán)就損失獲得全部賠償。由此, 在無人船背景下,如果被侵權(quán)人以產(chǎn)品侵權(quán)為由起訴,那么AI航行系統(tǒng)提供商、新型航運(yùn)科技公司是否屬于《海商法》下享有責(zé)任限制的主體?

    (一)現(xiàn)行法下AI航行系統(tǒng)提供商無法享有海事賠償責(zé)任限制權(quán)利

    《海商法》第十一章“海事賠償責(zé)任限制”規(guī)定了四類主體享有海事賠償責(zé)任限制:第一,船舶所有人,包括船舶承租人和船舶經(jīng)營人,其中船舶經(jīng)營人是指登記的船舶經(jīng)營人,或者接受船舶所有人委托實(shí)際使用和控制船舶并應(yīng)當(dāng)承擔(dān)船舶責(zé)任的人,但不包括無船承運(yùn)業(yè)務(wù)經(jīng)營者①;第二,救助人;第三,船舶所有人和救助人對其行為、過失負(fù)有責(zé)任的人員;第四,前二類主體的責(zé)任保險(xiǎn)人。

    對于新型航運(yùn)科技公司,由于其具有船舶所有人和AI航行系統(tǒng)生產(chǎn)者的雙重身份,屬于船舶所有人,因而其為《海商法》下的海事賠償責(zé)任限制主體,根據(jù)《海商法》可以享受海事賠償責(zé)任限制。但是,由于其同時(shí)具有生產(chǎn)者的身份,因而其賠償責(zé)任還應(yīng)適用《產(chǎn)品質(zhì)量法》的相關(guān)規(guī)定。此時(shí)將出現(xiàn)《海商法》海事賠償責(zé)任限制規(guī)則與《產(chǎn)品責(zé)任法》完全賠償責(zé)任的產(chǎn)品責(zé)任規(guī)則的適用沖突。如前所述,《海商法》并不優(yōu)先于《產(chǎn)品質(zhì)量法》適用,此時(shí),如索賠方請求新型航運(yùn)科技公司承擔(dān)產(chǎn)品缺陷責(zé)任,后者不可主張《海商法》下的海事賠償責(zé)任限制。但如并非產(chǎn)品缺陷導(dǎo)致的損害,且屬于《海商法》第207條規(guī)定的海事賠償請求,新型航運(yùn)科技公司可以享有海事賠償責(zé)任限制。

    對于AI航行系統(tǒng)提供商來說,《海商法》上述規(guī)定的第一、二、四類主體中,顯然沒有包括AI航行系統(tǒng)提供商,因而其是否能夠享有海事賠償責(zé)任限制取決于其是否能被歸入“船舶所有人和救助人對其行為、過失負(fù)有責(zé)任的人員”,即是否能夠被納入船舶所有人的替代責(zé)任范圍?!皩ζ湫袨椤⑦^失負(fù)有責(zé)任的人員”一般指的是船舶所有人及其救助人的雇用人。

    [28]AI航行系統(tǒng)提供商與船舶所有人一般是買賣合同關(guān)系,而不是雇傭關(guān)系,因而根據(jù)現(xiàn)行制度,其無法享有海事賠償責(zé)任限制。一般認(rèn)為,系統(tǒng)提供商不太可能被視為船舶所有人的“雇員”而享有海事賠償責(zé)任限制②。限制賠償責(zé)任的主體范圍難以擴(kuò)展到自主船航行系統(tǒng)的制造者、程序員,因?yàn)樗麄儾槐灰暈榇八腥素?fù)有責(zé)任的人③。

    (二)應(yīng)賦予AI航行系統(tǒng)提供商海事賠償責(zé)任限制的權(quán)利

    雖然目前AI航行系統(tǒng)提供商無法享有海事賠償責(zé)任限制,但基于以下三點(diǎn)考慮,應(yīng)賦予AI航行系統(tǒng)提供商海事賠償責(zé)任限制的權(quán)利。

    第一,賦予AI航行系統(tǒng)提供商海事賠償責(zé)任限制的權(quán)利符合海事賠償責(zé)任限制制度設(shè)立的目的。海上航運(yùn)業(yè)面臨巨大的海上風(fēng)險(xiǎn),船舶所有人等相關(guān)利益主體對海上雇員行為難以實(shí)施有效控制,為鼓勵、保護(hù)和促進(jìn)航運(yùn)業(yè)發(fā)展,海事賠償責(zé)任限制制度應(yīng)運(yùn)而生。而AI航行系統(tǒng)的功能實(shí)際上在很大程度和范圍內(nèi)替代了船舶所有人在船上的雇員的功能。此時(shí),AI航行系統(tǒng)故障將取代傳統(tǒng)的船長、船員及其他船上工作人員的航行過失。此種背景下,其一,無人船仍然面臨海上風(fēng)險(xiǎn)。雖然無人船可以減少人為過失等風(fēng)險(xiǎn),但無人船本身,包括AI航行系統(tǒng)、傳感器、遠(yuǎn)程操作系統(tǒng)、通訊系統(tǒng)等船上系統(tǒng)與設(shè)備在海上航行過程中同樣面臨復(fù)雜的海上風(fēng)險(xiǎn)。其二,自主船舶的中央海運(yùn)供應(yīng)商(central maritime suppliers)將承擔(dān)一部分船舶所有人的運(yùn)營風(fēng)險(xiǎn),在更高程度上直接承擔(dān)來自第三方的索賠或造船廠或船舶所有人(及其保險(xiǎn)公司)追索的風(fēng)險(xiǎn)④。其三,AI航行系統(tǒng)不同于普通產(chǎn)品,其是高度智能化產(chǎn)品,AI航行系統(tǒng)提供商輸入數(shù)據(jù)讓AI航行系統(tǒng)自行學(xué)習(xí)規(guī)則,并作出決策。此時(shí),AI航行系統(tǒng)提供商也難以“有效控制”AI航行系統(tǒng)。其四,無人船是船舶發(fā)展的趨勢⑤,而AI航行系統(tǒng)提供商在其中將扮演關(guān)鍵角色,如不賦予AI航行系統(tǒng)提供商海事賠償責(zé)任限制,海事請求人會選擇直接起訴AI航行系統(tǒng)提供商要求其承擔(dān)賠償責(zé)任。無賠償額限制的賠償風(fēng)險(xiǎn)將阻礙研發(fā)的熱情,從而阻礙無人航運(yùn)業(yè)的發(fā)展。

    第二,將AI航行系統(tǒng)提供商列為海事賠償責(zé)任限制的權(quán)利主體,符合海事賠償責(zé)任限制的權(quán)利主體范圍的歷史擴(kuò)張的趨勢——從最開始的船舶所有人到船舶經(jīng)營人、管理人和承租人,再到船舶所有人、經(jīng)營人、管理人和承租人的受雇人員,而后進(jìn)一步擴(kuò)充到救助人和責(zé)任保險(xiǎn)人,[29]可以看出,由于海運(yùn)的發(fā)展、海運(yùn)經(jīng)營模式的變化等,出現(xiàn)了越來越多與船舶航運(yùn)有利害關(guān)系的主體,[30]立法上也相應(yīng)賦予這些主體海事賠償責(zé)任限制。對于AI航行系統(tǒng)提供商,其一,其在無人航運(yùn)中扮演著至關(guān)重要的角色,與無人航運(yùn)有利害關(guān)系。其二,無論是遠(yuǎn)程操作模式的無人船還是自動駕駛模式的無人船,均有一個(gè)共同點(diǎn):傳統(tǒng)的船員、船長將被遠(yuǎn)程操作員或者AI航行系統(tǒng)所替代。然而,遠(yuǎn)程操作員和AI航行系統(tǒng)同樣是取代了傳統(tǒng)船員、船長的職責(zé)和功能,遠(yuǎn)程操作無人船下的遠(yuǎn)程操作員和遠(yuǎn)程運(yùn)營商被認(rèn)為可納入到船舶所有人替代責(zé)任范圍從而享有海事賠償責(zé)任限制,而作為AI航行系統(tǒng)生產(chǎn)者的AI航行系統(tǒng)提供商卻被排除在船舶所有人替代責(zé)任范圍之外而不享有海事賠償責(zé)任限制。遠(yuǎn)程操作員和AI航行系統(tǒng)履行相同的職責(zé),但相應(yīng)的責(zé)任主體,即遠(yuǎn)程運(yùn)營商和AI航行系統(tǒng)提供商卻享有不一樣的權(quán)利,不符合公平原則。

    第三,有必要統(tǒng)一AI航行系統(tǒng)生產(chǎn)者的賠償責(zé)任限制的適用。根據(jù)現(xiàn)行法,在索賠方請求AI航行系統(tǒng)生產(chǎn)者承擔(dān)非因產(chǎn)品缺陷造成的損害的一般侵權(quán)責(zé)任時(shí),AI航行系統(tǒng)提供商和新型航運(yùn)科技公司同為AI航行系統(tǒng)生產(chǎn)者,前者無法享有海事賠償責(zé)任限制,而后者卻可以,相當(dāng)于變相地鼓勵新型航運(yùn)科技公司的發(fā)展而抑制單純研發(fā)提供AI航行系統(tǒng)的科技公司的發(fā)展,這不利于技術(shù)的發(fā)展,也不符合公平原則。

    (三)AI航行系統(tǒng)提供商享有海事賠償責(zé)任限制的條件

    無人船趨勢下,AI航行系統(tǒng)生產(chǎn)者是航運(yùn)業(yè)新主體,其作為生產(chǎn)者與傳統(tǒng)海運(yùn)主體在身份上不同,還應(yīng)考慮其產(chǎn)品責(zé)任承擔(dān)問題,應(yīng)在何種范圍內(nèi)賦予其海事賠償限制權(quán)利?

    從平衡新技術(shù)帶來的風(fēng)險(xiǎn)與受害人的權(quán)益保護(hù)出發(fā),考慮到《海商法》并不優(yōu)先于《產(chǎn)品質(zhì)量法》適用,為統(tǒng)一同作為生產(chǎn)者的AI航行系統(tǒng)提供商和新型航運(yùn)科技公司的責(zé)任承擔(dān),應(yīng)統(tǒng)一對AI航行系統(tǒng)生產(chǎn)者適用“符合一定基準(zhǔn)的AI航行系統(tǒng)的海事賠償責(zé)任限制”。對于符合初期無人船的“等效性”標(biāo)準(zhǔn)和后期無人船的“一般理性機(jī)器人”標(biāo)準(zhǔn)的,即屬于產(chǎn)品瑕疵而非產(chǎn)品缺陷引起的致?lián)p責(zé)任的,如受害人對AI航行系統(tǒng)生產(chǎn)者提起一般侵權(quán)之訴,此時(shí),生產(chǎn)者享有海事賠償責(zé)任限制,反之則不享有。

    四、結(jié)語

    綜上,在無人船背景下,人工智能航行系統(tǒng)將在很大程度和范圍內(nèi)取代傳統(tǒng)船長、船員、船上工作人員的職責(zé),技術(shù)故障將在很大程度上取代船舶所有人雇員的過失,從而導(dǎo)致產(chǎn)品責(zé)任的擴(kuò)張適用。人工智能航行系統(tǒng)需不斷更新升級的特點(diǎn)使產(chǎn)品責(zé)任下的開發(fā)風(fēng)險(xiǎn)和后期缺陷抗辯的判斷時(shí)點(diǎn)從“投入流通時(shí)”后移,在有多個(gè)經(jīng)濟(jì)經(jīng)營者,包括零部件生產(chǎn)者、船廠、用戶等主體時(shí),應(yīng)遵循分擔(dān)責(zé)任原則。

    由于新型航運(yùn)科技公司可能同時(shí)具有承運(yùn)人、船舶制造者、船舶設(shè)計(jì)開發(fā)者多重身份,《產(chǎn)品質(zhì)量法》下的產(chǎn)品缺陷責(zé)任和《海商法》下的“經(jīng)謹(jǐn)慎處理仍未發(fā)現(xiàn)的船舶潛在缺陷”的免責(zé)事由可能同時(shí)適用于同一主體。

    缺陷可能“屬于前者不屬于后者”或者“既屬于前者也屬于后者”。對于屬于第一種情形的,新型航運(yùn)公司自然不能在產(chǎn)品缺陷責(zé)任下主張潛在缺陷抗辯;對于后者,在被侵權(quán)人基于產(chǎn)品缺陷責(zé)任對新型航運(yùn)科技公司提起訴訟時(shí),新型航運(yùn)公司不可主張潛在缺陷抗辯。

    單純的人工智能航行系統(tǒng)提供商不是海事賠償責(zé)任限制主體,而新型航運(yùn)科技公司可以歸屬于海事賠償責(zé)任限制主體。不過,考慮到科技新風(fēng)險(xiǎn)與受害人保護(hù)之間的平衡,應(yīng)統(tǒng)一AI航行系統(tǒng)生產(chǎn)者的海事賠償責(zé)任限制,并且只有符合一定基準(zhǔn)的AI航行系統(tǒng)才可享有此項(xiàng)權(quán)利。

    參考文獻(xiàn):

    [1]中國船級社.智能船舶規(guī)范2020[EB/OL].(2019-12-03)[2021-05-22].https://www.ccs.org.cn/ccswz/specialDetail?id=201900001000009739.

    [2]王煥超.人工智能為什么一定要有身體?[EB/OL].(2019-07-16)[2021-05-22].https://www.tisi.org/10872.

    [3]王樂兵.自動駕駛汽車的缺陷及其產(chǎn)品責(zé)任[J].清華法學(xué),2020,14(2):98.

    [4]曹建峰.2019年全球人工智能治理報(bào)告:從科技中心主義到科技人文協(xié)作[EB/OL].(2020-02-20)[2021-05-22].https://www.tisi.org/13048.

    [5]肖江平.經(jīng)營者產(chǎn)品質(zhì)量義務(wù)的法理邏輯和法律表達(dá)——以我國《產(chǎn)品質(zhì)量法》的修訂為視角[J].政治與法律,2019(12):143.

    [6]譚啟平.符合強(qiáng)制性標(biāo)準(zhǔn)與侵權(quán)責(zé)任承擔(dān)的關(guān)系[J].中國法學(xué),2017(4):183-184.

    [7]COLLIN F.Maritime product liability at the dawn of unmanned ships—the Finnish perspective UTULAW research paper[EB/OL].(2018-11-23)[2021-05-22].https://www.utu.fi/sites/default/files/public:/media/file/RPR_2_2018.pdf.

    [8]馬修U.謝勒,曹建峰,李金磊.監(jiān)管人工智能系統(tǒng):風(fēng)險(xiǎn)、挑戰(zhàn)、能力和策略[J].信息安全與通信保密,2017(3):49.

    [9]司曉,曹建峰.論人工智能的民事責(zé)任:以自動駕駛汽車和智能機(jī)器人為切入點(diǎn)[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2017,35(5):169.

    [10]袁俊.人工智能——走向卓越與信任的歐洲路徑[EB/OL].(2020-02-24)[2021-05-23].https://www.tisi.org/13285.

    [11]奚曉明.最高人民法院關(guān)于道路交通損害賠償司法解釋理解與適用[M].北京:人民法院出版社,2012:162-163.

    [12]殷秋實(shí).智能汽車的侵權(quán)法問題與應(yīng)對[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2018,36(5):49.

    [13]唐啟光,孫加鋒.產(chǎn)品缺陷、產(chǎn)品瑕疵與產(chǎn)品不合格法律辨析[J].政治與法律,2001(1):38.

    [14]王利明.侵權(quán)責(zé)任法研究(下卷)[M].北京:中國人民大學(xué)出版社,2011:248.

    [15]王振興.產(chǎn)品責(zé)任糾紛實(shí)務(wù)疑難問題解析[M].北京:法律出版社,2017:382.

    [16]郭萍,袁紹春,蔣躍川.國際海上貨物運(yùn)輸實(shí)務(wù)與法律[M].大連:大連海事大學(xué)出版社,2010:179.

    [17]ABBOTT R.The reasonable computer:disrupting the paradigm of tort liability[J].The George Washington Law Review,2018(86):30.

    [18]張麗英.海商法[M].4版.北京:中國政法大學(xué)出版社,2015:92.

    [19]王玫黎,倪學(xué)偉,禹華英.海商法學(xué)[M].武漢:武漢大學(xué)出版社,2010:83.

    [20]張偉.船舶潛在缺陷免責(zé)條件的認(rèn)定[J].人民司法(案例),2017(8):84.

    [21]初北平.船舶保險(xiǎn)條款研究[D].大連:大連海事大學(xué),2008:57-58.

    [22]最高人民法院侵權(quán)責(zé)任法研究小組.《中華人民共和國侵權(quán)責(zé)任法》條文理解與適用[M].北京:人民法院出版社,2016:300.

    [23]中國人大網(wǎng).第二部分 釋義 第四章 損害賠償[EB/OL].(2001-08-01)[2021-05-22].http://www.npc.gov.cn/npc/c2206/200108/1327a9c8db294d25b3289acb1115f41f.shtml.

    [24]最高人民法院民事審判第二庭.最高人民法院關(guān)于買賣合同司法解釋理解與適用[M].2版.北京:人民法院出版社,2016:682.

    [25]張新寶.侵權(quán)責(zé)任法[M].4版.北京:中國人民大學(xué)出版社,2016:79.

    [26]梁慧星.論產(chǎn)品制造者、銷售者的嚴(yán)格責(zé)任[J].法學(xué)研究,1990(5).

    [27]DELAGRANGE O,PELLICER J.Heading for automated maritime navigation law[EB/OL].(2018-07-05)[2020-05-15].https://www.kennedyslaw.com/media/3294/heading-for-automated-maritime-navigation-law_english.pdf.

    [28]張麗英.海商法學(xué)[M].3版.北京:高等教育出版社,2016:327.

    [29]鄔先江.海事賠償責(zé)任限制制度研究[D].大連:大連海事大學(xué),2010:37-38.

    [30]何麗新,王沛銳.論“海事賠償責(zé)任限制”章節(jié)修訂中的三大問題[J].中國海商法研究,2019,30(1):19.

    ① 參見European Commission:Report on the Safety and Liability Implications of Artificial Intelligence,the Internet of Things and Robotics,p. 4。

    ② 參見European Commission:White Paper on Artificial Intelligence—a European Approach to Excellence and Trust,p. 25。

    ① 參見北京市第二中級人民法院(2018)京02民終8253號民事判決書。持類似裁判觀點(diǎn)的判決還有北京市第二中級人民法院(2009)二中民終字第17677號判決書、江蘇省連云港市中級人民法院(2018)蘇07民終字第304號民事判決書等。參見劉鵬飛:《反思與重述:產(chǎn)品缺陷的證明責(zé)任分配》,發(fā)表于《當(dāng)代法學(xué)》,2019年第5期,第49頁。

    ② 參見Finnish Government Proposal 119/1989:Hallituksen Esitys Eduskunnalle Tuotevastuulaiksi,p. 45。

    ③ 參見International Maritime Organization:Guidelines for the Approval of Alternatives and Equivalents as Provided for in Various IMO Instruments,訪問網(wǎng)址:https://docs.imo.org/Documents/Detail.aspx?did=79539。

    ④ 參見European Commission:Liability for Artificial Intelligence and Other Emerging Digital Technologies,p. 45。

    ⑤ 參見European Commission:Liability for Artificial Intelligence and Other Emerging Digital Technologies,p. 45。

    ① 參見European Commission:White Paper on Artificial Intelligence—a European Approach to Excellence and Trust,p. 19。

    ② 參見European Commission:Excellence and Trust in Artificial Intelligence,訪問網(wǎng)址:https://ec.europa.eu/commission/presscorner/api/files/attachment/862153/Excellence_and_trust_in_AI_en.pdf.pdf。

    ③ 參見Sea Machines Robotics:Unmanned Surface Vessel (USV):Operations Manual and Code of Conduct,pp. 10-11。

    ④ Kongsberg(康士伯)公司于2017年與挪威Yara公司合作制造全球首艘自主零排放船舶——Yara Birkeland號,其中,Kongsberg負(fù)責(zé)提供Yara Birkeland號所需要的全部關(guān)鍵能動技術(shù),包括遠(yuǎn)程和全自動操作需要的傳感器和集成,以及電力驅(qū)動、電池和推進(jìn)控制系統(tǒng),即為人工智能航行系統(tǒng)提供商。

    ① 參見Sea Machines Robotics:Smart Vessel Operations Start Here,訪問網(wǎng)址:https://sea-machines.com/products#1529435705927-1ec263b0-b2e6。

    ② 參見Kongsberg:K-LOAD Brochure,訪問網(wǎng)址:https://www.kongsberg.com/globalassets/maritime/km-products/product-documents/k-load-brochure.pdf。

    ③ 根據(jù)《中華人民共和國海商法》(簡稱《海商法》)第144條、第147條,《最高人民法院關(guān)于印發(fā)〈第二次全國涉外商事海事審判工作會議紀(jì)要〉的通知》第130條,《最高人民法院關(guān)于審理船舶碰撞糾紛案件若干問題的規(guī)定(2020修正)》第4條,一般情形下,光船承租人享有對船舶的占有、使用和收益權(quán),對船舶的管理和控制權(quán),需對船舶的碰撞事故承擔(dān)賠償責(zé)任。

    ① 《民法典》第183條規(guī)定:“因保護(hù)他人民事權(quán)益使自己受到損害的,由侵權(quán)人承擔(dān)民事責(zé)任,受益人可以給予適當(dāng)補(bǔ)償。沒有侵權(quán)人、侵權(quán)人逃逸或者無力承擔(dān)民事責(zé)任,受害人請求補(bǔ)償?shù)?,受益人?yīng)當(dāng)給予適當(dāng)補(bǔ)償?!?/p>

    ② 參見European Commission:Liability for Artificial Intelligence and Other Emerging Digital Technologies,p. 44。

    ③ 參見European Commission:Liability for Artificial Intelligence and Other Emerging Digital Technologies,p. 41。

    ④ 參見European Commission:Liability for Artificial Intelligence and Other Emerging Digital Technologies,p. 45。

    ⑤ 雖然產(chǎn)品瑕疵一般認(rèn)為是合同法上的概念,通常是由于賣方提供的產(chǎn)品不符合合同約定或者違反產(chǎn)品對于發(fā)揮產(chǎn)品特性應(yīng)有功能的要求,因而一般遵循意思自治原則,通過違約之訴來保障與此相關(guān)的權(quán)利或利益。但是如果由于產(chǎn)品瑕疵對于第三人的人身或財(cái)產(chǎn)造成了損害,只要符合《民法典》第1165條的一般侵權(quán)的構(gòu)成要件,第三方就可以依據(jù)該規(guī)定請求生產(chǎn)者承擔(dān)一般侵權(quán)責(zé)任。雖然海事請求方要證明生產(chǎn)者存在過錯以及過錯與損害之間存在因果關(guān)系的證明責(zé)任較重,難度很大,但不排除海事請求方向生產(chǎn)者主張一般侵權(quán)責(zé)任的可能性。

    ⑥ 參見CMI:Summery of Responses to the CMI Questionnaire,訪問網(wǎng)址:https://comitemaritime.org/wp-content/uploads/2018/05/Summary-of-Responses-to-the-CMI-Questionnaire.docx。

    ⑦ 分別為英國、加拿大、中國、克羅地亞、荷蘭、法國、德國、意大利、馬耳他、西班牙。

    ⑧ 分別為阿根廷、巴西、愛爾蘭。

    ① 參見European Commission:White Paper on Artificial Intelligence—a European Approach to Excellence and Trust,p. 14。

    ② 參見European Commission:Liability for Artificial Intelligence and Other Emerging Digital Technologies,p. 42。

    ③ 參見European Commission:White Paper on Artificial Intelligence—a European Approach to Excellence and Trust,p. 14。

    ① 參見European Commission:Report on the Safety and Liability Implications of Artificial Intelligence,the Internet of Things and Robotics,p. 10。

    ② 參見European Commission:Report on the Safety and Liability Implications of Artificial Intelligence,the Internet of Things and Robotics,pp. 9-11。

    ③ 參見廈門海事法院(2014)廈海法商初字第270號民事判決書。

    ④ 參見福建省高級人民法院(2016)閩民終101號民事判決書。

    ① 參見福建省高級人民法院(2016)閩民終101號民事判決書。

    ② 參見European Commission:Liability for Artificial Intelligence and Other Emerging Digital Technologies,p. 42。

    ① 算法黑箱是指因商業(yè)秘密、技術(shù)的復(fù)雜性以及機(jī)器學(xué)習(xí)結(jié)果的不可預(yù)知性,算法像是一個(gè)封閉的黑箱,其內(nèi)容的不透明使得人們難以了解算法的內(nèi)在工作機(jī)制。參見周尚君,伍茜:《人工智能司法決策的可能與限度》,發(fā)表于《華東政法大學(xué)學(xué)報(bào)》,2019年第1期,第65頁。

    ② 參見European Commission:Liability for Artificial Intelligence and Other Emerging Digital Technologies,p. 42。

    ① 參見《最高人民法院關(guān)于審理海事賠償責(zé)任限制相關(guān)糾紛案件的若干規(guī)定》第12條。

    ② 參見CORE Advokatfirma & Cefor:Maritime Autonomous Surface Ships—Zooming in on Civil Liability and Insurance,p. 9。

    ③ 參見Danish Maritime Authority:Analysis of Regulatory Barriers to the Use of Autonomous Ships:Final Report,p. 86。

    ④ 參見Danish Maritime Authority:Analysis of Regulatory Barriers to the Use of Autonomous Ships:Final Report,p. 87。

    ⑤ 倫敦國際承保協(xié)會(International Underwriting Association of London,簡稱IUA)的調(diào)查顯示,超過80%的受訪者預(yù)計(jì),無人駕駛船舶、航空無人機(jī)和無人駕駛汽車這三種交通工具將在10年內(nèi)得到廣泛應(yīng)用。參見IUA:IUA Survey Cites Obstacles to Adoption of Autonomous Vehicles,訪問網(wǎng)址:https://www.iua.co.uk/IUA_Member/Press/Press_Releases_2018/IUA_survey_cites_obstacles_to_adoption_of_autonomous_vehicles.aspx。

    国产成人免费观看mmmm| 丰满人妻一区二区三区视频av| 午夜免费男女啪啪视频观看| 亚洲综合精品二区| a级毛色黄片| 亚洲精品乱久久久久久| 中文天堂在线官网| 日韩欧美一区视频在线观看 | 国产探花极品一区二区| 精品亚洲成国产av| 少妇熟女欧美另类| 免费观看性生交大片5| 免费久久久久久久精品成人欧美视频 | 亚洲国产毛片av蜜桃av| 亚洲av中文字字幕乱码综合| av福利片在线观看| 国产亚洲5aaaaa淫片| 99热国产这里只有精品6| 亚洲国产精品专区欧美| 激情 狠狠 欧美| 啦啦啦中文免费视频观看日本| 免费在线观看成人毛片| 精品人妻一区二区三区麻豆| 岛国毛片在线播放| 久久久亚洲精品成人影院| 在线观看免费日韩欧美大片 | 精品99又大又爽又粗少妇毛片| 精品久久久噜噜| 国产精品一区二区在线观看99| 我的老师免费观看完整版| 国产精品偷伦视频观看了| 草草在线视频免费看| 大片电影免费在线观看免费| 亚洲,一卡二卡三卡| 日韩亚洲欧美综合| 亚洲自偷自拍三级| 国产亚洲最大av| 日日摸夜夜添夜夜爱| 亚洲av免费高清在线观看| 国产精品国产三级国产专区5o| 丝瓜视频免费看黄片| 午夜免费观看性视频| 久久鲁丝午夜福利片| 中文资源天堂在线| 国产精品一区二区性色av| 国产一区二区在线观看日韩| 有码 亚洲区| 久久6这里有精品| 男人和女人高潮做爰伦理| 久久久久性生活片| 最近最新中文字幕大全电影3| 精品视频人人做人人爽| 女人久久www免费人成看片| 欧美三级亚洲精品| 在线看a的网站| 欧美日韩一区二区视频在线观看视频在线| 国产亚洲午夜精品一区二区久久| 日本猛色少妇xxxxx猛交久久| 日韩强制内射视频| 多毛熟女@视频| 亚洲精华国产精华液的使用体验| 亚洲,一卡二卡三卡| 亚洲第一区二区三区不卡| 免费人成在线观看视频色| 久久毛片免费看一区二区三区| 国产在线免费精品| 日日啪夜夜撸| 国产亚洲最大av| 成人无遮挡网站| 久久久久网色| 亚洲精品乱码久久久v下载方式| 亚洲av在线观看美女高潮| 久久鲁丝午夜福利片| 国产永久视频网站| av免费观看日本| 亚洲国产精品专区欧美| 深爱激情五月婷婷| 婷婷色综合www| 国产精品嫩草影院av在线观看| 精品久久久噜噜| 伦理电影大哥的女人| 国产在线视频一区二区| 九草在线视频观看| 国产精品国产三级国产av玫瑰| 一级二级三级毛片免费看| 高清欧美精品videossex| 国产精品久久久久久精品古装| 久久久久久久亚洲中文字幕| 久久久久久久久久人人人人人人| 国产精品无大码| 大片电影免费在线观看免费| 国语对白做爰xxxⅹ性视频网站| 亚洲精品成人av观看孕妇| 国产乱人偷精品视频| 熟女av电影| 欧美三级亚洲精品| 少妇人妻久久综合中文| 最近中文字幕高清免费大全6| 国产精品久久久久久精品电影小说 | 又黄又爽又刺激的免费视频.| av天堂中文字幕网| 国产白丝娇喘喷水9色精品| 午夜视频国产福利| 久久精品熟女亚洲av麻豆精品| 99国产精品免费福利视频| 我的老师免费观看完整版| 亚洲怡红院男人天堂| 国产高清国产精品国产三级 | 99久久人妻综合| 另类亚洲欧美激情| 国产高潮美女av| 国产精品免费大片| 99久久精品国产国产毛片| 99热6这里只有精品| 日韩视频在线欧美| 成年美女黄网站色视频大全免费 | 国产69精品久久久久777片| 伦精品一区二区三区| 三级国产精品欧美在线观看| 这个男人来自地球电影免费观看 | 在现免费观看毛片| 久久精品熟女亚洲av麻豆精品| 久久国产精品大桥未久av | 一级毛片 在线播放| 美女xxoo啪啪120秒动态图| 久久久色成人| 亚洲人成网站在线播| 国产毛片在线视频| 91午夜精品亚洲一区二区三区| 国产黄频视频在线观看| 在线观看免费高清a一片| 啦啦啦啦在线视频资源| 91精品一卡2卡3卡4卡| 全区人妻精品视频| 在线观看国产h片| 女性被躁到高潮视频| 成年av动漫网址| 99re6热这里在线精品视频| 久久热精品热| 国产成人精品婷婷| 亚洲成人手机| 蜜桃久久精品国产亚洲av| 中国美白少妇内射xxxbb| 亚洲成人av在线免费| 一区在线观看完整版| 91久久精品国产一区二区三区| 在现免费观看毛片| 丝袜喷水一区| 最近中文字幕2019免费版| 国产午夜精品久久久久久一区二区三区| 日韩三级伦理在线观看| 国语对白做爰xxxⅹ性视频网站| 中文字幕免费在线视频6| 人人妻人人看人人澡| 欧美区成人在线视频| 国产亚洲5aaaaa淫片| 亚洲综合色惰| 嫩草影院入口| 欧美成人午夜免费资源| 这个男人来自地球电影免费观看 | 免费看不卡的av| 纵有疾风起免费观看全集完整版| 国产黄片视频在线免费观看| 婷婷色av中文字幕| 一个人看视频在线观看www免费| 久久热精品热| 舔av片在线| 精品人妻熟女av久视频| 精品久久久噜噜| 国产精品福利在线免费观看| 在线观看美女被高潮喷水网站| 亚洲国产精品成人久久小说| 伦精品一区二区三区| 欧美日韩在线观看h| 女人十人毛片免费观看3o分钟| 亚洲成人一二三区av| 日韩在线高清观看一区二区三区| 成人毛片a级毛片在线播放| 国产精品爽爽va在线观看网站| 少妇人妻精品综合一区二区| 国产又色又爽无遮挡免| av在线观看视频网站免费| 久久国产亚洲av麻豆专区| 嘟嘟电影网在线观看| 99国产精品免费福利视频| 亚洲精品乱码久久久久久按摩| 久久99热这里只频精品6学生| 青春草国产在线视频| 午夜视频国产福利| 亚洲精品日韩av片在线观看| 日本欧美国产在线视频| 黄色欧美视频在线观看| 免费观看av网站的网址| 久久人人爽人人爽人人片va| 亚洲av免费高清在线观看| 国产精品国产三级国产专区5o| av专区在线播放| 亚洲电影在线观看av| 边亲边吃奶的免费视频| 哪个播放器可以免费观看大片| 成人影院久久| 久久久久网色| 亚洲av不卡在线观看| 久久久欧美国产精品| 国产成人freesex在线| 亚洲在久久综合| 国产一区二区三区av在线| 一级毛片电影观看| 久久精品国产鲁丝片午夜精品| 女人久久www免费人成看片| av.在线天堂| 伦理电影免费视频| 日韩一区二区三区影片| 99国产精品免费福利视频| 亚洲av国产av综合av卡| 日本欧美国产在线视频| 18+在线观看网站| 男人舔奶头视频| 一本色道久久久久久精品综合| 99热6这里只有精品| 国产高清三级在线| 国产日韩欧美亚洲二区| 大码成人一级视频| 亚洲伊人久久精品综合| 国产精品三级大全| a级毛片免费高清观看在线播放| 麻豆国产97在线/欧美| av一本久久久久| 丰满迷人的少妇在线观看| 国产高清国产精品国产三级 | 国产黄色视频一区二区在线观看| 国产精品嫩草影院av在线观看| 日本黄色片子视频| 尤物成人国产欧美一区二区三区| 亚洲国产毛片av蜜桃av| 欧美日本视频| 黄色配什么色好看| 伊人久久精品亚洲午夜| av天堂中文字幕网| 日日啪夜夜撸| 黑人猛操日本美女一级片| 干丝袜人妻中文字幕| 看免费成人av毛片| 中文天堂在线官网| 亚洲成人中文字幕在线播放| 日本wwww免费看| 国产精品国产三级国产av玫瑰| 久久6这里有精品| 18禁在线无遮挡免费观看视频| 韩国高清视频一区二区三区| 又黄又爽又刺激的免费视频.| 中文天堂在线官网| 成人毛片60女人毛片免费| 国产精品成人在线| 深夜a级毛片| 九九久久精品国产亚洲av麻豆| 一边亲一边摸免费视频| 免费观看无遮挡的男女| 搡老乐熟女国产| 国产av国产精品国产| 在线观看免费高清a一片| 国产淫片久久久久久久久| 男人爽女人下面视频在线观看| 亚洲av成人精品一区久久| 高清视频免费观看一区二区| 亚洲中文av在线| 好男人视频免费观看在线| 毛片女人毛片| 最近2019中文字幕mv第一页| 久久久久久久国产电影| 人人妻人人看人人澡| 欧美日韩综合久久久久久| 网址你懂的国产日韩在线| 亚洲欧美精品自产自拍| 久久久久久伊人网av| 青春草亚洲视频在线观看| 国产片特级美女逼逼视频| 国产亚洲一区二区精品| 国产色婷婷99| 免费看不卡的av| 国产成人freesex在线| 亚洲,欧美,日韩| 国产精品久久久久久精品电影小说 | 自拍偷自拍亚洲精品老妇| 久久久久久久久大av| 亚洲欧美清纯卡通| 欧美高清成人免费视频www| 在线观看av片永久免费下载| 日韩免费高清中文字幕av| h视频一区二区三区| 天天躁夜夜躁狠狠久久av| 久久影院123| 久久国产精品男人的天堂亚洲 | 色婷婷av一区二区三区视频| 亚洲,一卡二卡三卡| 亚洲国产毛片av蜜桃av| 成人高潮视频无遮挡免费网站| 黄片无遮挡物在线观看| 精品久久久久久久末码| 久热这里只有精品99| 亚洲欧美精品专区久久| 亚洲,一卡二卡三卡| 又爽又黄a免费视频| 91久久精品电影网| 午夜免费鲁丝| 亚洲人与动物交配视频| 成人亚洲欧美一区二区av| 又粗又硬又长又爽又黄的视频| 妹子高潮喷水视频| 亚洲电影在线观看av| 日韩强制内射视频| 熟妇人妻不卡中文字幕| 亚洲av日韩在线播放| 在线观看国产h片| 丝瓜视频免费看黄片| 欧美xxⅹ黑人| 人人妻人人添人人爽欧美一区卜 | 亚洲av中文字字幕乱码综合| 26uuu在线亚洲综合色| 中文乱码字字幕精品一区二区三区| 日日摸夜夜添夜夜添av毛片| 久久久久视频综合| 91精品国产九色| av视频免费观看在线观看| 中文欧美无线码| 王馨瑶露胸无遮挡在线观看| 联通29元200g的流量卡| 成人黄色视频免费在线看| 欧美成人a在线观看| 午夜免费观看性视频| 成人毛片a级毛片在线播放| 国精品久久久久久国模美| 国产淫语在线视频| 国产 一区精品| 久久国内精品自在自线图片| 国产精品不卡视频一区二区| 99久久中文字幕三级久久日本| 亚洲精品成人av观看孕妇| 人人妻人人澡人人爽人人夜夜| 亚洲精品色激情综合| 国产精品国产三级国产专区5o| 波野结衣二区三区在线| 成人特级av手机在线观看| 国产91av在线免费观看| 在线观看av片永久免费下载| 97热精品久久久久久| 亚洲丝袜综合中文字幕| 久久久久精品久久久久真实原创| 18禁在线无遮挡免费观看视频| 成人美女网站在线观看视频| av免费观看日本| 中文乱码字字幕精品一区二区三区| 亚洲在久久综合| 日韩三级伦理在线观看| 久久久久久久大尺度免费视频| 国产成人精品久久久久久| 舔av片在线| 精品亚洲成国产av| av在线观看视频网站免费| 18禁在线无遮挡免费观看视频| av专区在线播放| 欧美bdsm另类| 国产精品一区www在线观看| 国产欧美亚洲国产| 黑人猛操日本美女一级片| 亚洲精品国产av蜜桃| 永久免费av网站大全| 嫩草影院新地址| 国产成人a区在线观看| 欧美精品一区二区免费开放| 亚洲精品日本国产第一区| 国产在线免费精品| 久久综合国产亚洲精品| 韩国av在线不卡| 亚洲经典国产精华液单| 久久久久人妻精品一区果冻| 国产日韩欧美亚洲二区| 国产午夜精品久久久久久一区二区三区| 我要看黄色一级片免费的| 91精品一卡2卡3卡4卡| 亚洲欧洲国产日韩| 免费黄色在线免费观看| 你懂的网址亚洲精品在线观看| 国产精品精品国产色婷婷| 亚洲av成人精品一区久久| 久久精品久久久久久噜噜老黄| 亚洲欧美一区二区三区国产| 人人妻人人澡人人爽人人夜夜| 黑人猛操日本美女一级片| 久久久久久人妻| 国产女主播在线喷水免费视频网站| 久久99热这里只频精品6学生| 久久精品熟女亚洲av麻豆精品| 久久精品国产自在天天线| 欧美xxxx性猛交bbbb| av福利片在线观看| 视频中文字幕在线观看| 另类亚洲欧美激情| 欧美精品国产亚洲| 国产欧美日韩一区二区三区在线 | 日本av手机在线免费观看| 伊人久久国产一区二区| av免费观看日本| 嫩草影院新地址| 国产精品蜜桃在线观看| 国产精品av视频在线免费观看| 国产精品一二三区在线看| 99视频精品全部免费 在线| 国产精品一区二区在线不卡| 久久久a久久爽久久v久久| 精品人妻视频免费看| 国产淫片久久久久久久久| 黄色日韩在线| 人人妻人人添人人爽欧美一区卜 | 免费人成在线观看视频色| 一级毛片我不卡| 97超碰精品成人国产| 十分钟在线观看高清视频www | 国产高清国产精品国产三级 | 久久精品熟女亚洲av麻豆精品| 少妇人妻 视频| 亚洲欧美日韩卡通动漫| 如何舔出高潮| 97超碰精品成人国产| 一级毛片黄色毛片免费观看视频| 久久6这里有精品| 91精品一卡2卡3卡4卡| 亚州av有码| 蜜桃亚洲精品一区二区三区| 国产亚洲5aaaaa淫片| 精品一区二区三区视频在线| 九九在线视频观看精品| 91精品国产国语对白视频| 熟女av电影| 亚洲欧美成人综合另类久久久| 午夜福利视频精品| 在线精品无人区一区二区三 | 91久久精品国产一区二区成人| 国产欧美日韩精品一区二区| 日韩大片免费观看网站| 内地一区二区视频在线| 国产精品偷伦视频观看了| 国产老妇伦熟女老妇高清| 蜜桃在线观看..| 亚洲av福利一区| 免费黄网站久久成人精品| 国产极品天堂在线| 日韩成人伦理影院| 99久久中文字幕三级久久日本| 联通29元200g的流量卡| 我的女老师完整版在线观看| 91精品国产九色| 国内揄拍国产精品人妻在线| 午夜精品国产一区二区电影| 日本与韩国留学比较| 中文字幕免费在线视频6| 丰满人妻一区二区三区视频av| 久久这里有精品视频免费| 青青草视频在线视频观看| 三级经典国产精品| 男人和女人高潮做爰伦理| 国产黄色免费在线视频| 女的被弄到高潮叫床怎么办| 各种免费的搞黄视频| 国产av一区二区精品久久 | 亚洲人成网站高清观看| 成人特级av手机在线观看| 免费看光身美女| 精品久久久久久久末码| 久久热精品热| 亚洲av不卡在线观看| 丰满人妻一区二区三区视频av| 久久久精品免费免费高清| 一级片'在线观看视频| 蜜桃久久精品国产亚洲av| av播播在线观看一区| 国产美女午夜福利| 精品少妇黑人巨大在线播放| 一级毛片电影观看| 美女中出高潮动态图| 少妇人妻一区二区三区视频| 最近的中文字幕免费完整| 夜夜看夜夜爽夜夜摸| 欧美精品国产亚洲| 免费在线观看成人毛片| 人人妻人人澡人人爽人人夜夜| 最近最新中文字幕免费大全7| 麻豆成人午夜福利视频| 人妻一区二区av| 久久久精品94久久精品| 夜夜爽夜夜爽视频| 我的女老师完整版在线观看| 妹子高潮喷水视频| 天天躁夜夜躁狠狠久久av| 日本一二三区视频观看| 国产av码专区亚洲av| av卡一久久| 黄色配什么色好看| 视频区图区小说| 国产精品国产三级国产专区5o| 亚洲精品亚洲一区二区| 久久国内精品自在自线图片| 成年美女黄网站色视频大全免费 | 51国产日韩欧美| 午夜福利网站1000一区二区三区| 中文字幕精品免费在线观看视频 | 精品人妻视频免费看| 秋霞在线观看毛片| 中文字幕av成人在线电影| 日韩欧美精品免费久久| 伦精品一区二区三区| 99久久精品热视频| 亚洲精品色激情综合| av国产久精品久网站免费入址| 国产爽快片一区二区三区| 精品国产一区二区三区久久久樱花 | 美女内射精品一级片tv| 国产成人午夜福利电影在线观看| 在线观看av片永久免费下载| 久久青草综合色| 国产高清三级在线| 久久精品国产自在天天线| 成年av动漫网址| 美女主播在线视频| 国产精品麻豆人妻色哟哟久久| 爱豆传媒免费全集在线观看| 最近最新中文字幕大全电影3| 舔av片在线| 亚洲国产精品999| 激情 狠狠 欧美| 国产av精品麻豆| 亚洲va在线va天堂va国产| 亚洲成人av在线免费| 麻豆乱淫一区二区| 91aial.com中文字幕在线观看| 韩国高清视频一区二区三区| 夫妻性生交免费视频一级片| 久久人人爽人人片av| 91久久精品电影网| 午夜福利视频精品| 一区二区三区乱码不卡18| 欧美丝袜亚洲另类| 日韩在线高清观看一区二区三区| .国产精品久久| 亚洲精品日韩av片在线观看| 色视频在线一区二区三区| 精品视频人人做人人爽| 亚洲内射少妇av| 亚洲精品中文字幕在线视频 | 菩萨蛮人人尽说江南好唐韦庄| 欧美极品一区二区三区四区| 中文字幕免费在线视频6| 亚洲欧洲国产日韩| 涩涩av久久男人的天堂| 日韩伦理黄色片| 久久精品国产亚洲av天美| 免费播放大片免费观看视频在线观看| 在线亚洲精品国产二区图片欧美 | 亚洲精品国产av成人精品| 久久久久久久久久久免费av| 一区二区三区精品91| 看非洲黑人一级黄片| 亚洲欧洲国产日韩| 亚洲婷婷狠狠爱综合网| 涩涩av久久男人的天堂| 少妇人妻久久综合中文| 国产一区有黄有色的免费视频| 国产精品人妻久久久影院| 尤物成人国产欧美一区二区三区| 日韩三级伦理在线观看| 亚洲美女搞黄在线观看| 高清日韩中文字幕在线| 国产色婷婷99| 自拍欧美九色日韩亚洲蝌蚪91 | 最近的中文字幕免费完整| freevideosex欧美| 91精品国产九色| 婷婷色综合大香蕉| h视频一区二区三区| 久久久久人妻精品一区果冻| 麻豆成人av视频| 大香蕉97超碰在线| 国产爱豆传媒在线观看| 秋霞在线观看毛片| 国产午夜精品久久久久久一区二区三区| 夜夜爽夜夜爽视频| 91久久精品国产一区二区三区| 在线播放无遮挡| 99久久精品国产国产毛片| 国产爱豆传媒在线观看| 99热6这里只有精品| www.色视频.com| 精品视频人人做人人爽| 在线观看国产h片| 内射极品少妇av片p| 国产成人免费无遮挡视频| 国产高清不卡午夜福利| 我要看黄色一级片免费的| 国产精品一区二区性色av| 国产黄色视频一区二区在线观看| 国产极品天堂在线| 美女视频免费永久观看网站| 视频区图区小说| 老师上课跳d突然被开到最大视频| 成人国产av品久久久| 99精国产麻豆久久婷婷| 亚洲成人手机| 国产精品久久久久久久电影| 亚洲欧美清纯卡通| 日本黄大片高清| 国产精品一区www在线观看| 一区二区三区精品91| av线在线观看网站| 色吧在线观看| 国产精品人妻久久久久久|