• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能軍事應(yīng)用及其國(guó)際法問題*

    2021-04-04 06:42:24羅天宇
    信息安全與通信保密 2021年1期
    關(guān)鍵詞:國(guó)際法公約武器

    李 享,羅天宇

    (清華大學(xué) 社會(huì)科學(xué)學(xué)院,北京 100084)

    0 引 言

    隨著對(duì)人工智能技術(shù)發(fā)展前景的認(rèn)識(shí)更加明確,各國(guó)都開始謀求將其應(yīng)用于軍事領(lǐng)域,以占領(lǐng)新的軍事技術(shù)制高點(diǎn)。在世界主要軍事大國(guó)之間,人工智能軍備競(jìng)賽已從幕后走到了臺(tái)前,但由于新技術(shù)的不確定性、應(yīng)用方式的不明確、應(yīng)用效果的未知、國(guó)際規(guī)則尚未成熟等因素,人工智能的軍事應(yīng)用也孕育著潛在的安全風(fēng)險(xiǎn)。為防范和化解相關(guān)風(fēng)險(xiǎn),在現(xiàn)有國(guó)際法體系之上進(jìn)一步探索規(guī)范人工智能軍事應(yīng)用的途徑有著重要意義。

    1 人工智能軍事應(yīng)用的主要領(lǐng)域

    與以往大多數(shù)新興軍事技術(shù)不同,人工智能技術(shù)并不專屬于某個(gè)作戰(zhàn)空間或領(lǐng)域,而是能夠應(yīng)用于各領(lǐng)域并提升武器裝備性能的一種技術(shù),甚至可以改變現(xiàn)有戰(zhàn)爭(zhēng)形態(tài)。根據(jù)一些學(xué)者的分類,人工智能目前可以分為“弱人工智能”和“強(qiáng)人工智能”兩類,“弱人工智能”能夠借鑒人類的智能行為,以減輕人類智力勞動(dòng);“強(qiáng)人工智能”則是達(dá)到甚至超越人類智慧水平的人造物,具有心智和意識(shí)、能根據(jù)自己的意圖開展行動(dòng)[1]。從目前來看,“強(qiáng)人工智能”的出現(xiàn)依然較為遙遠(yuǎn),但基于大數(shù)據(jù)和深度學(xué)習(xí)的計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理等“弱人工智能”技術(shù)正在不斷地得到開發(fā)應(yīng)用,因此本文僅討論“弱人工智能”的軍事應(yīng)用問題。通過梳理現(xiàn)有文獻(xiàn)與案例可以發(fā)現(xiàn),人工智能的軍事應(yīng)用主要集中在情報(bào)與偵察、作戰(zhàn)決策與指揮控制、自主武器系統(tǒng)、訓(xùn)練與演習(xí)、作戰(zhàn)支援與保障等領(lǐng)域。

    在情報(bào)與偵察領(lǐng)域,由于人工智能在圖像、語音識(shí)別方面具有強(qiáng)大能力,其與各類傳感器的結(jié)合能夠大幅提升戰(zhàn)略與戰(zhàn)術(shù)偵察能力,提升衛(wèi)星照片判讀、光學(xué)/電子偵察、水聲探測(cè)識(shí)別的效率。例如,美國(guó)國(guó)防部2017年啟動(dòng)了Maven項(xiàng)目,以實(shí)現(xiàn)計(jì)算機(jī)從視頻圖像中自主識(shí)別人員、車輛等目標(biāo),并計(jì)劃在后續(xù)將其集成在各類平臺(tái)上。當(dāng)年12月,Maven項(xiàng)目的原型系統(tǒng)已經(jīng)部署在美軍中央司令部和非洲司令部的轄區(qū)進(jìn)行試驗(yàn),并在一周時(shí)間內(nèi)使目標(biāo)識(shí)別準(zhǔn)確率從60%提升至80%[2]。盡管該項(xiàng)目曾因合作方谷歌的退出而受到影響,但目前仍在美國(guó)國(guó)防部的重點(diǎn)支持下平穩(wěn)推進(jìn)。

    在作戰(zhàn)決策與指揮控制領(lǐng)域,人工智能因具有出色的數(shù)據(jù)處理、系統(tǒng)集成、高性能計(jì)算能力,被視為輔助甚至替代決策者與指揮員的工具。美軍目前提出的“聯(lián)合全域指揮控制”(JADC2)“馬賽克戰(zhàn)”“忠誠(chéng)僚機(jī)”“分布式殺傷”等概念對(duì)人工智能算法支持的任務(wù)規(guī)劃、態(tài)勢(shì)分析、作戰(zhàn)決策、指揮控制、通信傳輸提出了較高要求,以期加快決策速度并提高作戰(zhàn)效率,克服人力處理信息的局限性。

    在自主武器系統(tǒng)領(lǐng)域,人工智能使得傳統(tǒng)的遙控式無人武器開始向不受人工干預(yù)的自主武器方向升級(jí),這是目前人們關(guān)注人工智能軍事應(yīng)用問題的焦點(diǎn)。目前關(guān)于自主武器還沒有公認(rèn)的定義。美國(guó)國(guó)防部認(rèn)為,自主武器系統(tǒng)指的是“一旦啟動(dòng),可以在不受操作人員干預(yù)下選擇目標(biāo)并交戰(zhàn)的武器系統(tǒng),它也包括受到人類監(jiān)督的此種武器系統(tǒng)?!盵3]國(guó)際紅十字會(huì)也提出了類似的定義,并明確其應(yīng)區(qū)別于自動(dòng)武器/半自主武器①指由操作人員設(shè)定目標(biāo),在設(shè)定好的可控環(huán)境中嚴(yán)格執(zhí)行預(yù)編寫程序的武器系統(tǒng),如自動(dòng)崗哨炮、末敏彈、艦載近防系統(tǒng)等。,以及遙控武器。也有一些學(xué)者從人機(jī)關(guān)系角度出發(fā),根據(jù)約翰·博伊德提出的OODA(觀察—判斷—決策—行動(dòng))循環(huán),將自主武器分為半自主武器、有監(jiān)督的自主武器和完全自主武器。從目前各國(guó)發(fā)展人工智能軍事應(yīng)用的公開資料來看,自主武器無疑是重中之重。就包含半自主與完全自主的廣義范圍而言,目前各軍事大國(guó)正在研發(fā)或部署階段的此類武器已涵蓋了防空系統(tǒng)、主動(dòng)防御系統(tǒng)、機(jī)器哨兵、制導(dǎo)彈藥、巡飛武器等。此外,還包括自主無人機(jī)、無人車輛、無人艦艇、戰(zhàn)斗機(jī)器人等主戰(zhàn)裝備,例如美國(guó)的MQ-9無人機(jī)、“海上獵手”無人船,俄羅斯的“天王星-9”戰(zhàn)斗機(jī)器人、“涅列赫塔”無人戰(zhàn)車、無人版T-14主戰(zhàn)坦克,以色列的“哈比”無人機(jī),韓國(guó)的SGR-A1自動(dòng)崗哨炮等。值得一提的是,除了常規(guī)武器,俄羅斯還專門研發(fā)了具有自主能力的戰(zhàn)略武器,如攜帶核彈頭的“波塞冬”(Poseidon)核動(dòng)力無人潛航器。目前,上述一些裝備已經(jīng)以集群編隊(duì)的方式進(jìn)行了測(cè)試,甚至已被部署到戰(zhàn)場(chǎng)使用。

    人工智能技術(shù)還在訓(xùn)練與演習(xí)、作戰(zhàn)支援與保障領(lǐng)域得到廣泛應(yīng)用。這里主要包括訓(xùn)練模擬、計(jì)算機(jī)推演、網(wǎng)絡(luò)攻防、信息作戰(zhàn)、醫(yī)療救護(hù)、維修保障等用途。例如,美國(guó)國(guó)防高級(jí)研究計(jì)劃局(DARPA)正在推進(jìn)“先進(jìn)空戰(zhàn)演進(jìn)”項(xiàng)目,以對(duì)人機(jī)協(xié)同作戰(zhàn)提供訓(xùn)練;而在DARPA舉行的Alpha Dogfight人機(jī)空戰(zhàn)對(duì)抗模擬演習(xí)中,人工智能以5∶0的比分戰(zhàn)勝了美軍F-16飛行員[4]。

    2 人工智能軍事應(yīng)用對(duì)國(guó)際法帶來的挑戰(zhàn)

    新軍事技術(shù)的出現(xiàn)往往對(duì)戰(zhàn)爭(zhēng)模式和交戰(zhàn)規(guī)則帶來巨大甚至顛覆性的影響,從而對(duì)已有的國(guó)際法體系帶來了挑戰(zhàn)。針對(duì)這個(gè)問題,1977年的《日內(nèi)瓦公約第一附加議定書》在第36條“新武器”明確了各國(guó)應(yīng)當(dāng)承擔(dān)的國(guó)際義務(wù),即“在研究、發(fā)展、取得或采用新的武器、作戰(zhàn)手段或方法時(shí),締約一方有義務(wù)斷定,在某些或所有情況下,該新的武器、作戰(zhàn)手段或方法的使用是否為本議定書或適用于該締約一方的任何其它國(guó)際法規(guī)則所禁止。”人工智能的軍事應(yīng)用當(dāng)然也應(yīng)遵循這一條規(guī)定。

    近年來,人們已普遍認(rèn)識(shí)到致命自主性武器(LAWS)對(duì)國(guó)際人道主義法帶來的嚴(yán)峻挑戰(zhàn)。2016年中國(guó)政府向《特定常規(guī)武器公約》五審會(huì)提交了立場(chǎng)文件,呼吁從國(guó)際法層面對(duì)致命自主武器引發(fā)的人道主義問題進(jìn)行規(guī)制。相關(guān)研究人員也就致命自主武器對(duì)國(guó)際人道主義法的區(qū)分原則、比例原則、責(zé)任歸屬等方面引發(fā)的問題展開了較為廣泛的討論。但是,在致命自主性武器與人道主義問題以外,更為廣泛的人工智能軍事應(yīng)用還可能在武力使用合法性、國(guó)家主權(quán)、武器擴(kuò)散方面對(duì)現(xiàn)有國(guó)際法造成挑戰(zhàn),由于其對(duì)國(guó)際安全與地區(qū)穩(wěn)定具有重要影響,需要引起國(guó)際社會(huì)的同等重視。

    2.1 對(duì)武力使用合法性的挑戰(zhàn)

    目前的國(guó)際法已對(duì)武力使用的合法性做出了嚴(yán)格規(guī)定?!堵?lián)合國(guó)憲章》第1章第2條第4款規(guī)定:“各會(huì)員國(guó)在其國(guó)際關(guān)系上不得使用威脅或武力,或以與聯(lián)合國(guó)宗旨不符之任何其他方法,侵害任何會(huì)員國(guó)或國(guó)家之領(lǐng)土完整或政治獨(dú)立?!边@一條款禁止了武力的使用,并受到聯(lián)合國(guó)會(huì)員國(guó)的普遍認(rèn)可,在法律層面上有強(qiáng)制約束力。但在普遍禁止之外,國(guó)際法還針對(duì)兩種例外情況授予了使用武力的合法性,根據(jù)《聯(lián)合國(guó)憲章》第7章第42條和第51條,這兩種例外分別是:(1)安理會(huì)授權(quán)以武力維持或恢復(fù)國(guó)際和平及安全;(2)會(huì)員國(guó)受武力攻擊時(shí)行使單獨(dú)或集體自衛(wèi)。從以往的經(jīng)驗(yàn)來看,由于使用武力的決策權(quán)一直牢牢地掌握在武器使用者的手中,新軍事技術(shù)本身幾乎不會(huì)對(duì)武力使用的合法性產(chǎn)生影響。但是,隨著人工智能開始逐漸被用在軍事決策領(lǐng)域,人類可能會(huì)有意或無意地將使用武力的決策權(quán)授予人工智能系統(tǒng)。相關(guān)研究者常常以蘇聯(lián)研發(fā)的“死手”(或稱為“周長(zhǎng)”)系統(tǒng)①“死手”系統(tǒng)是一種半自動(dòng)化的核武器指揮控制系統(tǒng),它能夠根據(jù)各類傳感器回傳的數(shù)據(jù)來判斷蘇聯(lián)是否遭到核攻擊,一旦失去了和外界的通信聯(lián)系,它會(huì)認(rèn)為蘇聯(lián)領(lǐng)導(dǎo)層已經(jīng)被“斬首”,并將核武器控制權(quán)交給掩體中的基層指揮人員。以及1983年“彼得洛夫事件”②1983年9月蘇聯(lián)的預(yù)警衛(wèi)星誤報(bào)美國(guó)對(duì)蘇聯(lián)發(fā)射核導(dǎo)彈,差點(diǎn)啟動(dòng)了蘇聯(lián)的反擊程序并引發(fā)核戰(zhàn)爭(zhēng),這場(chǎng)危機(jī)因基層軍官彼得洛夫的干預(yù)而被解除。引發(fā)的意外核戰(zhàn)爭(zhēng)危機(jī)為例,提醒人們自主化決策與指揮控制系統(tǒng)的安全風(fēng)險(xiǎn)。從國(guó)際法的角度來看,這種新的情況針對(duì)前面提到的武力使用的第二種合法例外——單獨(dú)或集體自衛(wèi)帶來了挑戰(zhàn)。對(duì)于人工智能的自主決策和指揮控制系統(tǒng)以及自主武器系統(tǒng)而言,在缺乏人工干預(yù)時(shí),如何判斷自衛(wèi)的條件是一個(gè)較為困難的問題。目前的人工智能技術(shù)在可解釋性、認(rèn)知能力方面仍較為薄弱,因此無法像受過訓(xùn)練的人類一樣能夠?qū)δ:欢ㄅc復(fù)雜多變的情況做出適當(dāng)判斷。如果在邊境部署的自動(dòng)崗哨武器,或在海空巡邏的無人機(jī)或無人艦艇,因?yàn)樗惴ㄒ鸬恼`判或是系統(tǒng)故障而對(duì)他國(guó)人員或資產(chǎn)主動(dòng)發(fā)起攻擊,將直接違反國(guó)際法關(guān)于武力使用的規(guī)定,而且這種違背使用者意圖的非法武力使用也難以找到明確的主體來承擔(dān)法律責(zé)任。此外,當(dāng)應(yīng)用于軍隊(duì)決策與指揮控制的人工智能系統(tǒng)出現(xiàn)這種情況時(shí),除了會(huì)產(chǎn)生更嚴(yán)重的國(guó)際法后果外,還甚至?xí)M(jìn)一步引起意外性戰(zhàn)爭(zhēng)。

    2.2 對(duì)國(guó)家主權(quán)的挑戰(zhàn)

    人工智能軍事應(yīng)用對(duì)于受國(guó)際法保護(hù)的國(guó)家主權(quán)構(gòu)成了侵蝕。與有人駕駛裝備相比,以無人機(jī)、無人潛航器為代表的一批人工智能無人系統(tǒng)具有小型化、隱身性能強(qiáng)的特點(diǎn),以及無需人工操縱且能夠執(zhí)行長(zhǎng)距離作業(yè),因此極為適合完成滲透?jìng)刹烊蝿?wù)。由于這些特點(diǎn)能夠隱匿身份而降低外交敏感性,一些國(guó)家開始更加大膽地使用此類裝備執(zhí)行侵入性行動(dòng),這使得各國(guó)的領(lǐng)空和領(lǐng)海主權(quán)變得更加容易被侵蝕。

    2015年8月,中國(guó)漁民在海南三亞市海岸打撈到國(guó)外無人潛航器;2016年12月,中國(guó)海軍在南海海域打撈到一艘美國(guó)無人潛航器,隨后移交美方;2019年6月,伊朗聲稱擊落了一架入侵領(lǐng)空的美國(guó)無人機(jī),加劇了霍爾木茲海峽緊張局勢(shì);2019年9月,位于沙特腹地的原油生產(chǎn)設(shè)施阿布凱克(Abqaiq)油田遭到18架無人機(jī)突襲,使該國(guó)原油產(chǎn)量受到重大損失。[5]對(duì)此美國(guó)宣稱無人機(jī)歸屬伊朗,但聯(lián)合國(guó)的調(diào)查報(bào)告表示無法確認(rèn)攻擊者的身份。2020年,印度和巴基斯坦分別宣稱擊落了對(duì)方入侵本國(guó)領(lǐng)空的無人機(jī)。上述案例表明,在和平或危機(jī)時(shí)期,一些國(guó)家越來越傾向于使用無人系統(tǒng)執(zhí)行越境軍事行動(dòng),這對(duì)各國(guó)維護(hù)領(lǐng)土主權(quán)(主要是領(lǐng)空、領(lǐng)海)構(gòu)成了威脅。

    目前,對(duì)于軍用空中無人系統(tǒng)進(jìn)入他國(guó)領(lǐng)空的問題,已有明確的國(guó)際法規(guī)范?!秶?guó)際民用航空公約》第1部分第3條規(guī)定:“用于軍事、海關(guān)和警察部門的航空器,應(yīng)認(rèn)為是國(guó)家航空器?!薄耙痪喖s國(guó)的國(guó)家航空器,未經(jīng)特別協(xié)定或其他方式的許可并遵照其中的規(guī)定,不得在另一締約國(guó)領(lǐng)土上空飛行或在此領(lǐng)土上降落”。該條約第8條針對(duì)“無人駕駛航空器”也做出了規(guī)定:“任何無人駕駛而能飛行的航空器,未經(jīng)一締約國(guó)特許并遵照此項(xiàng)特許的條件,不得無人駕駛而在該國(guó)領(lǐng)土上空飛行?!边@兩條明確禁止了軍用空中無人系統(tǒng)在未經(jīng)許可的情況下進(jìn)入他國(guó)領(lǐng)空。

    但是,關(guān)于軍用無人艦艇的航行問題卻出現(xiàn)了一些法律爭(zhēng)議。首先,目前的國(guó)際法對(duì)于軍用無人艦艇的屬性未做出明確規(guī)定。《聯(lián)合國(guó)海洋法公約》第29條規(guī)定:“‘軍艦’是指屬于一國(guó)武裝部隊(duì)、具備辨別軍艦國(guó)籍的外部標(biāo)志、由該國(guó)政府正式委任并名列相應(yīng)的現(xiàn)役名冊(cè)或類似名冊(cè)的軍官指揮和配備有服從正規(guī)武裝部隊(duì)紀(jì)律的船員的船舶?!庇捎谲娪脽o人艦艇不配備軍官與船員,且常常為了隱蔽身份而清除標(biāo)識(shí),其既不能被定義為軍艦,也不能被視為政府船舶,這種性質(zhì)使其無法擁有上述兩種船只在公海不受其他國(guó)家管轄的豁免權(quán)。①《聯(lián)合國(guó)海洋法公約》第95、96條分別規(guī)定了公海上軍艦和政府非商業(yè)性服務(wù)的船舶的豁免權(quán)。在2016年南海無人潛航器事件中,美國(guó)聲稱其潛航器是一艘享有主權(quán)豁免的船只,并與日本公開質(zhì)疑中國(guó)海軍打撈活動(dòng)的合法性[6]。但是根據(jù)《聯(lián)合國(guó)海洋法公約》的上述規(guī)定,中國(guó)學(xué)者認(rèn)為其并不享有主權(quán)豁免。其次,《聯(lián)合國(guó)海洋法公約》規(guī)定軍艦在他國(guó)領(lǐng)海的“無害通過權(quán)”不適用于軍用無人潛航器?!堵?lián)合國(guó)海洋法公約》第19條明確了違反“無害通過”的12種情形,包括“任何目的在于搜集情報(bào)使沿海國(guó)的防務(wù)或安全受損害的行為”和“進(jìn)行研究或測(cè)量活動(dòng)”,這兩種活動(dòng)正是目前軍用無人潛航器的主要任務(wù)。另外,第20條規(guī)定“在領(lǐng)海內(nèi),潛水艇和其他潛水器,須在海面上航行并展示其旗幟。” 這一點(diǎn)是無人潛航器在偵察任務(wù)中難以做到的,更不用說一些國(guó)家為了避免承擔(dān)責(zé)任而故意隱藏其標(biāo)識(shí)。因此,盡管美國(guó)軍艦常常以“無害通過權(quán)”為理由進(jìn)入其他國(guó)家領(lǐng)海實(shí)施“自由航行計(jì)劃”,但使用軍用無人潛航器執(zhí)行這一任務(wù)無疑是違反現(xiàn)行國(guó)際法的。這些問題需要得到國(guó)際社會(huì)進(jìn)一步的明確與重視。

    2.3 對(duì)國(guó)際武器貿(mào)易規(guī)范的挑戰(zhàn)

    隨著人工智能技術(shù)的發(fā)展,其研發(fā)成本將不斷降低,這有利于相關(guān)技術(shù)及產(chǎn)品的擴(kuò)散。從現(xiàn)實(shí)情況來看,無人機(jī)、智能彈藥已經(jīng)成為了國(guó)際軍貿(mào)市場(chǎng)的熱點(diǎn)產(chǎn)品,阿塞拜疆和亞美尼亞的武裝沖突進(jìn)一步證明了這種武器的軍事價(jià)值。由于人工智能武器能夠高效殺傷敵人并能夠大幅減少本國(guó)人員傷亡,它可能會(huì)降低戰(zhàn)爭(zhēng)成本,從而降低戰(zhàn)爭(zhēng)門檻,促使國(guó)家更傾向于使用武力解決爭(zhēng)端;而這又可能會(huì)反過來促進(jìn)人工智能武器系統(tǒng)的擴(kuò)散,加劇各國(guó)軍備競(jìng)賽,并破壞地區(qū)安全與穩(wěn)定。目前,國(guó)際社會(huì)已經(jīng)形成了對(duì)核、生物、化學(xué)、導(dǎo)彈等大規(guī)模殺傷性武器擴(kuò)散的管控機(jī)制,由于禁止擴(kuò)散大規(guī)模殺傷性武器已經(jīng)成為各國(guó)接受的規(guī)范,人工智能武器系統(tǒng)將主要以常規(guī)武器為平臺(tái)進(jìn)行擴(kuò)散,這對(duì)規(guī)范常規(guī)武器貿(mào)易的《武器貿(mào)易條約》將構(gòu)成新的挑戰(zhàn)。

    《武器貿(mào)易條約》作為首個(gè)聯(lián)合國(guó)框架下規(guī)范常規(guī)武器貿(mào)易活動(dòng)的國(guó)際條約,為增強(qiáng)國(guó)際武器貿(mào)易透明度、打擊非法武器轉(zhuǎn)讓提供了具有法律效力的國(guó)際標(biāo)準(zhǔn)。該條約主要依靠各締約國(guó)完善國(guó)家管制制度,對(duì)武器出口的最終用戶和最終用途進(jìn)行審查,以防止出口的武器被用于違反國(guó)際法的目的?!段淦髻Q(mào)易條約》要求各國(guó)禁止批準(zhǔn)出口可能用于戰(zhàn)爭(zhēng)罪行、恐怖主義、有組織犯罪的8類武器裝備,包括坦克、裝甲戰(zhàn)車、大口徑大炮、戰(zhàn)斗機(jī)、攻擊直升機(jī)、戰(zhàn)艦、導(dǎo)彈與導(dǎo)彈發(fā)射器、輕小武器等,而這8類武器都可以作為人工智能武器系統(tǒng)的平臺(tái)。但是,由于人工智能技術(shù)的軍民兩用性質(zhì),可以作為插件存在的人工智能模塊尚未受到條約的重視,某些人工智能技術(shù)甚至能夠作為民用品出口,完全規(guī)避《武器貿(mào)易條約》對(duì)最終用途的約束,這有可能進(jìn)一步強(qiáng)化相關(guān)武器的交易與濫用,導(dǎo)致此類武器或技術(shù)向恐怖主義或犯罪組織非法擴(kuò)散。因此,如何規(guī)范武裝無人機(jī)、戰(zhàn)斗機(jī)器人等自主武器系統(tǒng)的轉(zhuǎn)讓,限制其擴(kuò)散對(duì)地區(qū)安全穩(wěn)定與人道主義的負(fù)面影響,為現(xiàn)有常規(guī)武器貿(mào)易管控機(jī)制提出了新的問題。

    3 規(guī)范人工智能軍事應(yīng)用的國(guó)際法途徑

    當(dāng)前,對(duì)人工智能軍事應(yīng)用帶來的國(guó)際法挑戰(zhàn)較多的討論聚焦于人道主義問題,尤其是對(duì)致命性自主武器(LAWS)違反國(guó)際人道法對(duì)非作戰(zhàn)人員進(jìn)行殺傷的問題。然而,人工智能作為一種變革性技術(shù),其對(duì)國(guó)際法的挑戰(zhàn)本身具有更深層次的含義。如前文所提,人工智能技術(shù)對(duì)國(guó)際法的挑戰(zhàn)主要體現(xiàn)于兩個(gè)方面:一是變革技術(shù)的出現(xiàn)降低違反國(guó)際法的成本;二是核心議題涉及當(dāng)前國(guó)際法所未能覆蓋的領(lǐng)域。因此,本文擬從這兩個(gè)層面討論完善相關(guān)國(guó)際法的途徑,討論如何提高相應(yīng)國(guó)際法門檻、確立新的國(guó)際法規(guī)則。

    具體而言,LAWS的應(yīng)用以及戰(zhàn)略武器自主指揮控制系統(tǒng)的發(fā)展主要降低了國(guó)家違反國(guó)際法的成本,通過模糊責(zé)任主體、對(duì)國(guó)際法概念進(jìn)行特定解釋可以讓部分國(guó)家在使用武力、侵犯他國(guó)主權(quán)等問題上擁有一定的“靈活性”,對(duì)此,本文認(rèn)為應(yīng)當(dāng)在《特定常規(guī)武器公約》框架下規(guī)范LAWS的應(yīng)用并禁止戰(zhàn)略武器自主指揮控制系統(tǒng)的應(yīng)用,形成類似“核禁忌”的國(guó)際共識(shí);而人工智能武器的貿(mào)易問題涉及的是國(guó)際法上的“灰色地帶”或者“空白地帶”。如果作為軍用品,無疑,其可以受到《武器貿(mào)易條約》的約束。但是,因?yàn)樵摷夹g(shù)軍民兩用之間界限的模糊(部分民用人工智能技術(shù)完全可以應(yīng)用于軍事領(lǐng)域),完善《武器貿(mào)易條約》,重新對(duì)人工智能技術(shù)的軍事性質(zhì)進(jìn)行界定,進(jìn)而限制作為武器模塊的人工智能技術(shù)的擴(kuò)散成為當(dāng)下國(guó)際法亟待解決之事。

    3.1 提高國(guó)際法管轄門檻,增加國(guó)家違反國(guó)際法的成本

    3.1.1 推動(dòng)管控LAWS的《特定常規(guī)武器公約》新議定書

    對(duì)于LAWS而言,當(dāng)前的發(fā)展仍然處于初步階段,且不存在完全脫離人控制的全自主武器,各國(guó)不具有緊迫的動(dòng)力和意愿來限制LAWS。因此,想要馬上實(shí)現(xiàn)一份有約束力的法律文書是較為困難的。但是自2014年起,各國(guó)開始在《特定常規(guī)武器公約》框架下對(duì)LAWS問題進(jìn)行討論,并已舉行了8次專家組會(huì)議。①包括3次非正式專家組會(huì)議和5次政府專家組會(huì)議。整理自《特定常規(guī)武器公約》致命性自主武器專家組報(bào)告。2018年,政府專家組在關(guān)于管控LAWS的指導(dǎo)原則中建議:“應(yīng)確保根據(jù)適用的國(guó)際法在《特定常規(guī)武器公約》的框架內(nèi)對(duì)發(fā)展、部署和使用任何新武器系統(tǒng)問責(zé),包括使這類系統(tǒng)在人類指揮和控制的責(zé)任鏈中運(yùn)作?!盵7]中國(guó)政府表示“支持在《特定常規(guī)武器公約》框架下,繼續(xù)深入討論‘致命性自主武器系統(tǒng)’問題,并談判達(dá)成國(guó)際法律文書”。[8]從現(xiàn)存《特定常規(guī)武器公約》的框架和實(shí)施效果來看,將LAWS納入管轄存在一定積極意義并具有高度可行性。

    就公約本身而言,其設(shè)立之目標(biāo)是制定新規(guī)則保護(hù)平民免受武裝沖突中武器使用的傷害(尤其是不斷迭代的新式武器),并且保護(hù)戰(zhàn)斗人員免受不必要的傷害。因此,公約現(xiàn)存的議定書中涵蓋了產(chǎn)生不可檢測(cè)碎片的武器、地雷餌雷、燃燒武器、激光致盲武器②其中,第五份議定書指向的是清理戰(zhàn)爭(zhēng)遺留的爆炸物。,這些武器的共同點(diǎn)在于反人道主義與過分殺傷,這點(diǎn)與限制LAWS的初衷是高度相似的。LAWS可能將殺傷范圍擴(kuò)大至平民,同時(shí),如果缺少人的干預(yù),“濫用火力”現(xiàn)象將會(huì)成為常態(tài)。通過新議定書的形式將LAWS納入《特定常規(guī)武器公約》,不但符合公約保護(hù)人道主義的目的,也便于直接借助現(xiàn)有框架凝聚國(guó)際社會(huì)共識(shí)。而從《特定常規(guī)武器公約》實(shí)施的經(jīng)驗(yàn)來看,盡管履約基本依靠成員國(guó)的自我約束,但各項(xiàng)議定書對(duì)特定武器的限制在普遍程度上受到了國(guó)際社會(huì)認(rèn)可,并形成了一定程度的國(guó)際規(guī)范,使得大部分國(guó)家在研發(fā)、部署和使用相關(guān)武器時(shí)都采取了較為謹(jǐn)慎的態(tài)度。因此,若能在《特定常規(guī)武器公約》下達(dá)成關(guān)于LAWS的新議定書,將有利于在法律層面上對(duì)LAWS的濫用進(jìn)行約束。

    3.1.2 嚴(yán)格禁止戰(zhàn)略武器自主指揮與控制系統(tǒng)的研發(fā)與使用

    與LAWS相比,將人工智能技術(shù)應(yīng)用于戰(zhàn)略武器的指揮與控制系統(tǒng)所帶來的是各國(guó)都難以承擔(dān)的“相互摧毀”的風(fēng)險(xiǎn)。蘇聯(lián)的“死手”系統(tǒng)可以看成是戰(zhàn)略武器自主指揮與控制系統(tǒng)的某種前身,但這類系統(tǒng)本質(zhì)上是冷戰(zhàn)核軍備競(jìng)賽高峰期的產(chǎn)物。在全球化的今天不應(yīng)具有任何存在的價(jià)值。在這一問題上,美國(guó)軍方已有相關(guān)考慮,現(xiàn)任美國(guó)參謀長(zhǎng)聯(lián)席會(huì)議副主席約翰·海頓(John Hyten)曾表示,一旦使用人工智能的計(jì)算機(jī)系統(tǒng)能夠全面運(yùn)轉(zhuǎn),五角大樓應(yīng)考慮采取安全防范措施,確保人類而非機(jī)器掌控使用核武器的決策[9]。但是,即使是人類參與決策,人工干預(yù)也并不能完全避免類似系統(tǒng)出現(xiàn)事故性發(fā)射,而且難以防范外部網(wǎng)絡(luò)攻擊引發(fā)的系統(tǒng)失靈,因此應(yīng)全面禁止研發(fā)和部署戰(zhàn)略武器自主指揮與控制系統(tǒng)。目前,還沒有國(guó)際條約對(duì)這種系統(tǒng)進(jìn)行限制,相對(duì)可以借鑒的是《不擴(kuò)散核武器條約》《禁止生物武器公約》和《禁止化學(xué)武器公約》。這三個(gè)條約所限制的都是國(guó)際社會(huì)公認(rèn)應(yīng)避免使用的武器,并具有嚴(yán)格的法律約束力和道德禁忌規(guī)范。由于后果的不可預(yù)測(cè)性以及意外事故的災(zāi)難性,戰(zhàn)略武器的自主化性質(zhì)較核武器擴(kuò)散或持有、化學(xué)武器與生物武器的使用等行為可能更為惡劣。因此,在嚴(yán)格禁止相關(guān)系統(tǒng)的開發(fā)、部署和使用方面,大多數(shù)國(guó)家擁有共同的利益,所以有必要從國(guó)際法的層面對(duì)此進(jìn)行討論并形成有約束力的規(guī)則。在此基礎(chǔ)上,還需要將其從法律層面擴(kuò)展到道德禁忌層面,在國(guó)際社會(huì)形成拒絕使用此類武器的共識(shí)與規(guī)范,禁止賦予人工智能系統(tǒng)對(duì)戰(zhàn)略武器的指揮決策權(quán)限。

    禁忌是促進(jìn)軍備控制發(fā)展的重要因素,盡管在某些時(shí)候,禁忌可能并沒有馬上形成國(guó)際規(guī)約,但是其仍能通過無形壓力對(duì)國(guó)家與非國(guó)家行為體的行為作出限制[10]。而禁忌的形成部分依賴于宣傳的作用,因此,在明確國(guó)際法對(duì)相關(guān)系統(tǒng)發(fā)展的限制的同時(shí),國(guó)際社會(huì)也應(yīng)當(dāng)注意對(duì)其可能帶來的災(zāi)難性后果進(jìn)行充分的討論。

    3.2 填補(bǔ)國(guó)際法空白領(lǐng)域,確立國(guó)際法新規(guī)則

    相較于人工智能武器的使用,其擴(kuò)散問題是當(dāng)前國(guó)際法上的“灰色地帶”。這并不是說當(dāng)前國(guó)際法沒有對(duì)武器貿(mào)易進(jìn)行約束,只是人工智能武器的貿(mào)易與常規(guī)武器的貿(mào)易具有較大的差異,且這種差異暫時(shí)還未引起國(guó)際法層次的重視。

    《武器貿(mào)易條約》目前的監(jiān)管對(duì)象是國(guó)際主流的八大類常規(guī)武器。從這個(gè)角度而言,人工智能武器的貿(mào)易本也應(yīng)在該條約的限制之下,但人工智能技術(shù)的軍民兩用性質(zhì)為其監(jiān)管帶來了障礙。其實(shí),在《武器貿(mào)易條約》形成的過程之中,各國(guó)已就軍用技術(shù)轉(zhuǎn)讓問題進(jìn)行過激烈的辯論,即貿(mào)易的限制是否應(yīng)當(dāng)僅僅局限于武器本身,軍品彈藥、零部件和技術(shù)是否也應(yīng)當(dāng)一并被納入條約的保障范圍之內(nèi)[11]。但是當(dāng)時(shí)的主要反對(duì)意見認(rèn)為彈藥的數(shù)目巨大、技術(shù)難以被監(jiān)測(cè)或是界定,因此最終條約并沒有涵蓋這些部分。而人工智能技術(shù)的出現(xiàn)可以說成為國(guó)際法相關(guān)領(lǐng)域的盲區(qū)。人工智能技術(shù)可以作為民用技術(shù)進(jìn)行轉(zhuǎn)讓,但在實(shí)際運(yùn)用中被用于軍事目的。

    針對(duì)這一問題,應(yīng)當(dāng)確立新的關(guān)于人工智能軍用技術(shù)轉(zhuǎn)讓的國(guó)際法規(guī)范。對(duì)于智能武器而言,算法和用于訓(xùn)練算法的數(shù)據(jù)集才是本體,而且其數(shù)據(jù)集在一定程度上能夠區(qū)分軍用和民用兩種用途。因此,鼓勵(lì)各國(guó)增強(qiáng)對(duì)智能武器貿(mào)易的透明度迫在眉睫。為了有效打擊智能武器的非法擴(kuò)散,應(yīng)在《武器貿(mào)易條約》框架下探索規(guī)范軍用級(jí)算法與數(shù)據(jù)集的標(biāo)準(zhǔn),并借助條約的年度報(bào)告與信息交流機(jī)制提升締約國(guó)相關(guān)貿(mào)易活動(dòng)的透明度,進(jìn)而形成類似《塔林手冊(cè)》《圣雷莫國(guó)際海上武裝沖突法手冊(cè)》具有“軟法”性質(zhì)的國(guó)際文件或準(zhǔn)則,逐漸擴(kuò)大國(guó)際共識(shí),推動(dòng)將智能武器納入《武器貿(mào)易條約》的管控范圍。這些工作應(yīng)該成為各國(guó)推動(dòng)《武器貿(mào)易條約》進(jìn)程努力的下一步重點(diǎn)方向。

    綜合而言,規(guī)范人工智能的軍事應(yīng)用一方面需要各國(guó)進(jìn)行觀念上的革新,認(rèn)識(shí)到人工智能武器與傳統(tǒng)武器的區(qū)別,同時(shí),這也需要各國(guó)進(jìn)一步加強(qiáng)合作,為相關(guān)算法與訓(xùn)練數(shù)據(jù)制定標(biāo)準(zhǔn),形成廣泛的國(guó)際共識(shí)。

    4 結(jié) 論

    國(guó)際法是否能塑造國(guó)家的行為?對(duì)于很多現(xiàn)實(shí)主義國(guó)際關(guān)系學(xué)者而言,類似的問題似乎是偽命題。誠(chéng)然,在無政府體系下,大部分國(guó)際法因缺乏強(qiáng)制約束似乎不過是一紙空文。但是,國(guó)際法的作用往往是長(zhǎng)期而潛移默化的。規(guī)范的形成本身并不需要強(qiáng)制執(zhí)行。

    當(dāng)前,技術(shù)發(fā)展往往先于觀念的革新。人工智能已被認(rèn)為是變革性的國(guó)家安全技術(shù),可以與核武器、計(jì)算機(jī)等相提并論。這種新技術(shù)的出現(xiàn)以及軍事應(yīng)用既對(duì)現(xiàn)行的國(guó)際法帶來了多方面的沖擊,也使當(dāng)前國(guó)際法出現(xiàn)了更多的空白與模糊地帶。針對(duì)這些問題,本文認(rèn)為,可以從提高國(guó)際法門檻、確立新的國(guó)際法規(guī)范兩個(gè)層次進(jìn)一步完善該領(lǐng)域的國(guó)際法規(guī)則,并通過限制LAWS使用、禁止戰(zhàn)略武器自主使用以及加強(qiáng)對(duì)人工智能武器擴(kuò)散的管控三種具體措施緩解人工智能軍事應(yīng)用對(duì)國(guó)際法帶來的新挑戰(zhàn)。

    猜你喜歡
    國(guó)際法公約武器
    圖書借閱公約
    論陳顧遠(yuǎn)之先秦國(guó)際法研究及啟示——基于《中國(guó)國(guó)際法溯源》
    作為國(guó)際法淵源的條約
    法律方法(2021年4期)2021-03-16 05:34:44
    制定《圖書借閱公約》
    尋找最大公約
    能源(2018年8期)2018-09-21 07:57:40
    制定《圖書借閱公約》
    一張圖看懂武器發(fā)展史
    國(guó)際法上的禁止使用武力
    請(qǐng)放下你的武器
    退役武器去哪兒了?
    女人被狂操c到高潮| 精品国产三级普通话版| 精品少妇黑人巨大在线播放 | 久久久久久伊人网av| 你懂的网址亚洲精品在线观看 | 精品人妻熟女av久视频| 国产一区二区激情短视频| 久久99精品国语久久久| 国内精品一区二区在线观看| 一本精品99久久精品77| 男人和女人高潮做爰伦理| 麻豆国产97在线/欧美| 2021天堂中文幕一二区在线观| 麻豆成人av视频| 久久精品国产鲁丝片午夜精品| 好男人视频免费观看在线| 一级毛片电影观看 | 亚洲av中文字字幕乱码综合| 美女高潮的动态| 亚洲四区av| 九色成人免费人妻av| 91av网一区二区| 在线天堂最新版资源| 久久久欧美国产精品| 亚洲国产精品久久男人天堂| 亚洲欧美日韩高清专用| 日韩成人av中文字幕在线观看| av免费观看日本| 麻豆久久精品国产亚洲av| 亚洲,欧美,日韩| 亚洲av不卡在线观看| 久久九九热精品免费| 最近视频中文字幕2019在线8| 欧美bdsm另类| 国产三级中文精品| 成年版毛片免费区| 国产在线精品亚洲第一网站| 91精品国产九色| 99在线视频只有这里精品首页| 舔av片在线| 美女国产视频在线观看| 亚洲精品亚洲一区二区| 成人亚洲欧美一区二区av| 久久久久久九九精品二区国产| 日本成人三级电影网站| 国产成人精品一,二区 | 亚洲国产精品国产精品| 精品人妻熟女av久视频| 综合色av麻豆| 一区福利在线观看| 日本黄大片高清| 色5月婷婷丁香| 国产精品乱码一区二三区的特点| 亚洲人成网站在线播| 女的被弄到高潮叫床怎么办| 桃色一区二区三区在线观看| 亚洲国产精品成人久久小说 | 尤物成人国产欧美一区二区三区| 精品一区二区三区视频在线| 精品久久久久久久末码| 日韩亚洲欧美综合| 好男人视频免费观看在线| 日本成人三级电影网站| 综合色av麻豆| 国产白丝娇喘喷水9色精品| 免费看av在线观看网站| 久久综合国产亚洲精品| 色哟哟哟哟哟哟| 校园春色视频在线观看| 禁无遮挡网站| 丝袜美腿在线中文| 欧美日韩乱码在线| 中文字幕熟女人妻在线| 国产成年人精品一区二区| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 热99re8久久精品国产| 亚洲欧美清纯卡通| 欧美成人一区二区免费高清观看| 搡老妇女老女人老熟妇| 亚洲欧美日韩卡通动漫| 中文字幕熟女人妻在线| 久久久精品欧美日韩精品| 舔av片在线| 亚洲欧洲日产国产| 色哟哟·www| 精品久久国产蜜桃| 九九热线精品视视频播放| 99在线人妻在线中文字幕| 丰满人妻一区二区三区视频av| 国产午夜精品久久久久久一区二区三区| 亚洲色图av天堂| 久久久久免费精品人妻一区二区| 天堂网av新在线| 精品人妻一区二区三区麻豆| 特大巨黑吊av在线直播| 国产日本99.免费观看| 可以在线观看的亚洲视频| 人妻少妇偷人精品九色| 简卡轻食公司| 麻豆成人午夜福利视频| 久久九九热精品免费| 国模一区二区三区四区视频| 99久久无色码亚洲精品果冻| 色综合站精品国产| 一边亲一边摸免费视频| 爱豆传媒免费全集在线观看| av免费在线看不卡| 国产蜜桃级精品一区二区三区| 国产乱人视频| 男人舔奶头视频| 亚洲精品亚洲一区二区| 99国产极品粉嫩在线观看| 免费看a级黄色片| eeuss影院久久| 国产成人91sexporn| 国产蜜桃级精品一区二区三区| 亚洲成人中文字幕在线播放| 亚洲欧美日韩无卡精品| 91aial.com中文字幕在线观看| av天堂在线播放| 午夜福利高清视频| 天天躁夜夜躁狠狠久久av| 久久欧美精品欧美久久欧美| 日韩人妻高清精品专区| 亚洲精品乱码久久久久久按摩| 日本黄色视频三级网站网址| 欧美一区二区精品小视频在线| 大型黄色视频在线免费观看| 我的老师免费观看完整版| 午夜福利在线观看免费完整高清在 | 蜜桃亚洲精品一区二区三区| 精品日产1卡2卡| 校园春色视频在线观看| 99热精品在线国产| 国产成人午夜福利电影在线观看| 欧美一级a爱片免费观看看| 看黄色毛片网站| 日韩欧美在线乱码| 欧美激情国产日韩精品一区| 免费看光身美女| 三级男女做爰猛烈吃奶摸视频| 国产白丝娇喘喷水9色精品| 1000部很黄的大片| 久久久午夜欧美精品| 免费观看a级毛片全部| www.色视频.com| 国产高清视频在线观看网站| 99在线人妻在线中文字幕| 97在线视频观看| 一级二级三级毛片免费看| 日本av手机在线免费观看| 久久6这里有精品| 久久九九热精品免费| 最近的中文字幕免费完整| 婷婷色av中文字幕| 欧美高清性xxxxhd video| 中文在线观看免费www的网站| 观看免费一级毛片| 99精品在免费线老司机午夜| 波多野结衣巨乳人妻| 精品少妇黑人巨大在线播放 | 老女人水多毛片| 级片在线观看| 日韩成人伦理影院| 麻豆成人av视频| 人人妻人人澡人人爽人人夜夜 | 久久精品久久久久久噜噜老黄 | 欧美日本亚洲视频在线播放| 中文字幕av成人在线电影| 少妇高潮的动态图| 国产精品人妻久久久久久| 国产综合懂色| 成人欧美大片| 99久久精品一区二区三区| 欧美日韩国产亚洲二区| 人妻制服诱惑在线中文字幕| 插逼视频在线观看| 精品人妻偷拍中文字幕| 草草在线视频免费看| 久久久久久久久久黄片| or卡值多少钱| 国产精品久久视频播放| 简卡轻食公司| 国产v大片淫在线免费观看| 直男gayav资源| 中文字幕av在线有码专区| 国产成人freesex在线| 全区人妻精品视频| 亚洲激情五月婷婷啪啪| 国产精品无大码| 高清日韩中文字幕在线| 国产精品三级大全| 69av精品久久久久久| 美女内射精品一级片tv| 亚洲国产精品成人久久小说 | 天堂中文最新版在线下载 | 久久久久久久久中文| 成年版毛片免费区| 中文字幕av成人在线电影| 哪个播放器可以免费观看大片| 国产一区二区在线观看日韩| 我的女老师完整版在线观看| 精品午夜福利在线看| 嫩草影院精品99| 狠狠狠狠99中文字幕| 春色校园在线视频观看| 99热6这里只有精品| 99热全是精品| 国产av一区在线观看免费| 一本精品99久久精品77| 日韩在线高清观看一区二区三区| 在线播放无遮挡| 成年版毛片免费区| 成人亚洲欧美一区二区av| 三级国产精品欧美在线观看| 欧美+亚洲+日韩+国产| 五月伊人婷婷丁香| 日韩精品有码人妻一区| 久久精品夜夜夜夜夜久久蜜豆| 少妇被粗大猛烈的视频| 久久精品影院6| 日本免费a在线| 午夜老司机福利剧场| 麻豆乱淫一区二区| 别揉我奶头 嗯啊视频| 午夜免费男女啪啪视频观看| 三级经典国产精品| 午夜福利高清视频| 久久精品夜夜夜夜夜久久蜜豆| 色吧在线观看| 淫秽高清视频在线观看| 国产成人a∨麻豆精品| 在线免费十八禁| 久久久久久久亚洲中文字幕| 久久这里有精品视频免费| 18+在线观看网站| .国产精品久久| 人人妻人人澡欧美一区二区| 99久久精品热视频| 激情 狠狠 欧美| 99久久精品国产国产毛片| 99热6这里只有精品| 高清毛片免费看| 欧美高清成人免费视频www| 小说图片视频综合网站| 亚洲精品日韩在线中文字幕 | 一进一出抽搐动态| 亚洲精品乱码久久久v下载方式| 搞女人的毛片| 国产真实伦视频高清在线观看| 搡老妇女老女人老熟妇| 亚洲不卡免费看| 亚洲欧美日韩东京热| 久久久午夜欧美精品| 床上黄色一级片| 日韩欧美精品免费久久| 老司机福利观看| 欧美高清成人免费视频www| 国产三级中文精品| 国产成人福利小说| 久久久色成人| 国产 一区 欧美 日韩| 大香蕉久久网| 欧美日韩精品成人综合77777| 欧美bdsm另类| 成人特级av手机在线观看| 最近2019中文字幕mv第一页| 日韩大尺度精品在线看网址| 人体艺术视频欧美日本| 蜜臀久久99精品久久宅男| 天堂√8在线中文| 国模一区二区三区四区视频| 别揉我奶头 嗯啊视频| 婷婷亚洲欧美| 亚洲欧美成人综合另类久久久 | 美女黄网站色视频| 男人的好看免费观看在线视频| 中出人妻视频一区二区| 在线播放无遮挡| 色哟哟哟哟哟哟| 亚州av有码| 春色校园在线视频观看| 久久精品国产鲁丝片午夜精品| 亚洲成av人片在线播放无| 午夜福利高清视频| 国产男人的电影天堂91| 好男人视频免费观看在线| 国产单亲对白刺激| 中国美白少妇内射xxxbb| 国内精品美女久久久久久| 97超视频在线观看视频| 最后的刺客免费高清国语| 又黄又爽又刺激的免费视频.| 国产精品乱码一区二三区的特点| 成人毛片a级毛片在线播放| 一边亲一边摸免费视频| 久久久国产成人免费| av在线老鸭窝| 国内精品美女久久久久久| 中文精品一卡2卡3卡4更新| 最近手机中文字幕大全| 国产精品永久免费网站| 中国美白少妇内射xxxbb| 人人妻人人澡欧美一区二区| 久久久成人免费电影| 午夜亚洲福利在线播放| 非洲黑人性xxxx精品又粗又长| 精品国内亚洲2022精品成人| 中文亚洲av片在线观看爽| 97超视频在线观看视频| 毛片女人毛片| 免费一级毛片在线播放高清视频| 久久久久国产网址| 亚洲av男天堂| 午夜激情欧美在线| 日韩,欧美,国产一区二区三区 | 国产乱人视频| 久久久久久大精品| 国产黄色视频一区二区在线观看 | 精品久久久久久久久久久久久| 欧美人与善性xxx| 黄片无遮挡物在线观看| 夜夜爽天天搞| 国产久久久一区二区三区| 99久久九九国产精品国产免费| 欧美又色又爽又黄视频| 一级毛片久久久久久久久女| 干丝袜人妻中文字幕| 国产精品.久久久| 国产精品一及| 最近手机中文字幕大全| 国产高清三级在线| 久久精品人妻少妇| 超碰av人人做人人爽久久| 欧美3d第一页| 国产精品一区二区在线观看99 | 能在线免费看毛片的网站| 国产精品蜜桃在线观看 | 一区二区三区高清视频在线| a级毛片a级免费在线| 毛片女人毛片| 精品久久久久久久人妻蜜臀av| 亚洲国产高清在线一区二区三| 日产精品乱码卡一卡2卡三| 人人妻人人澡欧美一区二区| 99九九线精品视频在线观看视频| 成人av在线播放网站| 亚洲丝袜综合中文字幕| 一进一出抽搐gif免费好疼| 久久精品影院6| 一区二区三区免费毛片| 日本三级黄在线观看| 国产午夜精品论理片| 少妇人妻一区二区三区视频| 丝袜美腿在线中文| 精品无人区乱码1区二区| 午夜精品一区二区三区免费看| 不卡一级毛片| 亚洲18禁久久av| 久久久久网色| 亚洲成a人片在线一区二区| 日韩成人伦理影院| 深夜a级毛片| 亚洲aⅴ乱码一区二区在线播放| 午夜福利成人在线免费观看| 欧美最新免费一区二区三区| 久久中文看片网| 美女 人体艺术 gogo| 一级毛片aaaaaa免费看小| 亚洲乱码一区二区免费版| 国产黄色小视频在线观看| 在线播放国产精品三级| 成年女人看的毛片在线观看| 久久精品影院6| 午夜爱爱视频在线播放| 97超碰精品成人国产| 哪个播放器可以免费观看大片| 最近中文字幕高清免费大全6| 国内久久婷婷六月综合欲色啪| 精品人妻偷拍中文字幕| 校园人妻丝袜中文字幕| 国产真实乱freesex| 久久久欧美国产精品| 国产精品无大码| 国产成人a∨麻豆精品| 亚洲人成网站高清观看| 身体一侧抽搐| 舔av片在线| 国产乱人偷精品视频| 男的添女的下面高潮视频| 美女xxoo啪啪120秒动态图| 99久国产av精品| 变态另类成人亚洲欧美熟女| 国产一区亚洲一区在线观看| 国产精品美女特级片免费视频播放器| 99久久精品一区二区三区| 亚洲精品自拍成人| 国模一区二区三区四区视频| 成人美女网站在线观看视频| 在线观看av片永久免费下载| 免费观看人在逋| 国产av一区在线观看免费| 欧美日韩一区二区视频在线观看视频在线 | 菩萨蛮人人尽说江南好唐韦庄 | 神马国产精品三级电影在线观看| 亚洲内射少妇av| 免费在线观看成人毛片| 日韩国内少妇激情av| 亚洲国产精品sss在线观看| 一个人观看的视频www高清免费观看| 国产v大片淫在线免费观看| 网址你懂的国产日韩在线| 免费电影在线观看免费观看| 1024手机看黄色片| 午夜免费男女啪啪视频观看| 午夜a级毛片| 精品人妻熟女av久视频| 国产精品一区二区在线观看99 | 啦啦啦啦在线视频资源| 少妇高潮的动态图| 草草在线视频免费看| 国产精品久久久久久精品电影小说 | 久久久久久久久久成人| 精品人妻视频免费看| 久久久久九九精品影院| 国产精品人妻久久久久久| 在线免费观看的www视频| 日韩亚洲欧美综合| 亚洲国产日韩欧美精品在线观看| 五月伊人婷婷丁香| 日本欧美国产在线视频| 国产伦在线观看视频一区| 丰满的人妻完整版| 久久精品夜色国产| 国产精品一区二区在线观看99 | 美女 人体艺术 gogo| 看十八女毛片水多多多| 国产成人福利小说| 国产精品久久久久久久久免| 亚洲第一区二区三区不卡| 亚洲av一区综合| 亚洲第一电影网av| 男人舔奶头视频| 国产成人a∨麻豆精品| 99精品在免费线老司机午夜| 天天躁夜夜躁狠狠久久av| 亚洲精品色激情综合| or卡值多少钱| 亚洲美女搞黄在线观看| 91午夜精品亚洲一区二区三区| 99九九线精品视频在线观看视频| 免费黄网站久久成人精品| 边亲边吃奶的免费视频| 亚洲国产精品成人综合色| 免费一级毛片在线播放高清视频| 日日啪夜夜撸| 久久久久九九精品影院| 久久久久免费精品人妻一区二区| 久久精品久久久久久噜噜老黄 | 午夜老司机福利剧场| 国产精品不卡视频一区二区| 有码 亚洲区| 天堂网av新在线| 色综合亚洲欧美另类图片| 午夜激情欧美在线| 亚洲国产高清在线一区二区三| 美女xxoo啪啪120秒动态图| 国产成人精品一,二区 | 麻豆国产av国片精品| 伦理电影大哥的女人| 精品久久久久久久久av| 亚洲久久久久久中文字幕| 国产三级中文精品| 亚洲va在线va天堂va国产| 国产伦在线观看视频一区| 爱豆传媒免费全集在线观看| 一级av片app| 91久久精品电影网| 欧美在线一区亚洲| 人人妻人人看人人澡| 亚洲一级一片aⅴ在线观看| 国产一级毛片在线| 欧美又色又爽又黄视频| 夜夜爽天天搞| 国产伦理片在线播放av一区 | 欧美激情在线99| 国产欧美日韩精品一区二区| 国产成人91sexporn| 婷婷色av中文字幕| 午夜福利高清视频| 18禁在线无遮挡免费观看视频| 成人午夜精彩视频在线观看| 草草在线视频免费看| 国产精品一二三区在线看| 国产成人精品久久久久久| 免费搜索国产男女视频| 小蜜桃在线观看免费完整版高清| 免费不卡的大黄色大毛片视频在线观看 | 亚洲三级黄色毛片| 成人国产麻豆网| 如何舔出高潮| 日本与韩国留学比较| 少妇人妻精品综合一区二区 | 免费观看a级毛片全部| 可以在线观看的亚洲视频| 欧美区成人在线视频| 校园人妻丝袜中文字幕| 在线国产一区二区在线| 亚洲国产欧美在线一区| 国产91av在线免费观看| 亚洲成人精品中文字幕电影| 午夜激情欧美在线| 国产精品久久久久久亚洲av鲁大| 中国美女看黄片| www.av在线官网国产| 一级毛片久久久久久久久女| 久久久欧美国产精品| 波多野结衣高清作品| 一本精品99久久精品77| 热99在线观看视频| 久久久色成人| 欧美人与善性xxx| 99九九线精品视频在线观看视频| 麻豆av噜噜一区二区三区| 九九在线视频观看精品| 六月丁香七月| 国产精品.久久久| 一个人免费在线观看电影| 欧美日本视频| 久久久久久久午夜电影| 波多野结衣巨乳人妻| 国产av不卡久久| 亚洲在线观看片| 久久中文看片网| 精品久久久久久久久久久久久| 国产真实伦视频高清在线观看| 简卡轻食公司| 在线观看av片永久免费下载| 好男人在线观看高清免费视频| 欧美日韩综合久久久久久| 我要搜黄色片| 亚洲国产日韩欧美精品在线观看| 久久久久久大精品| 亚洲人成网站在线观看播放| 99九九线精品视频在线观看视频| av在线亚洲专区| 日本av手机在线免费观看| 久久久久久久久中文| 一边亲一边摸免费视频| 亚洲在线自拍视频| 国产精品国产三级国产av玫瑰| 久久精品国产亚洲av天美| 国产三级在线视频| 国产精品美女特级片免费视频播放器| 亚洲成人av在线免费| 欧美成人a在线观看| 亚洲成人av在线免费| 97热精品久久久久久| 高清午夜精品一区二区三区 | 亚洲在线自拍视频| 亚洲精品色激情综合| 黄色欧美视频在线观看| 国产成人精品婷婷| 在线国产一区二区在线| 精品久久国产蜜桃| 精品国内亚洲2022精品成人| 国产亚洲91精品色在线| 国产在线精品亚洲第一网站| 亚洲一级一片aⅴ在线观看| 精品久久久久久久久久免费视频| 男人舔女人下体高潮全视频| 亚洲精品456在线播放app| 亚洲成人精品中文字幕电影| 国产单亲对白刺激| 男女下面进入的视频免费午夜| 欧美成人免费av一区二区三区| 2021天堂中文幕一二区在线观| 热99re8久久精品国产| 日本黄大片高清| 好男人在线观看高清免费视频| 变态另类成人亚洲欧美熟女| 亚洲婷婷狠狠爱综合网| 欧美最新免费一区二区三区| 亚洲婷婷狠狠爱综合网| 成人亚洲欧美一区二区av| 性色avwww在线观看| 熟女电影av网| 国产精品嫩草影院av在线观看| 熟女电影av网| 美女cb高潮喷水在线观看| 成年女人看的毛片在线观看| 亚洲成人久久爱视频| 欧美日韩在线观看h| 国产精品永久免费网站| 亚洲国产欧美在线一区| 看黄色毛片网站| 午夜亚洲福利在线播放| 日本成人三级电影网站| 久久久久九九精品影院| 亚洲第一区二区三区不卡| 乱系列少妇在线播放| 2021天堂中文幕一二区在线观| 免费在线观看成人毛片| 黄片无遮挡物在线观看| 嘟嘟电影网在线观看| 91av网一区二区| 久久久国产成人精品二区| 日韩中字成人| 天堂影院成人在线观看| 长腿黑丝高跟| 国产午夜精品一二区理论片| a级毛片免费高清观看在线播放| 亚洲在久久综合| 六月丁香七月| 国产成人精品久久久久久|