• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能軍事應(yīng)用及其國(guó)際法問題*

    2021-04-04 06:42:24羅天宇
    信息安全與通信保密 2021年1期
    關(guān)鍵詞:國(guó)際法公約武器

    李 享,羅天宇

    (清華大學(xué) 社會(huì)科學(xué)學(xué)院,北京 100084)

    0 引 言

    隨著對(duì)人工智能技術(shù)發(fā)展前景的認(rèn)識(shí)更加明確,各國(guó)都開始謀求將其應(yīng)用于軍事領(lǐng)域,以占領(lǐng)新的軍事技術(shù)制高點(diǎn)。在世界主要軍事大國(guó)之間,人工智能軍備競(jìng)賽已從幕后走到了臺(tái)前,但由于新技術(shù)的不確定性、應(yīng)用方式的不明確、應(yīng)用效果的未知、國(guó)際規(guī)則尚未成熟等因素,人工智能的軍事應(yīng)用也孕育著潛在的安全風(fēng)險(xiǎn)。為防范和化解相關(guān)風(fēng)險(xiǎn),在現(xiàn)有國(guó)際法體系之上進(jìn)一步探索規(guī)范人工智能軍事應(yīng)用的途徑有著重要意義。

    1 人工智能軍事應(yīng)用的主要領(lǐng)域

    與以往大多數(shù)新興軍事技術(shù)不同,人工智能技術(shù)并不專屬于某個(gè)作戰(zhàn)空間或領(lǐng)域,而是能夠應(yīng)用于各領(lǐng)域并提升武器裝備性能的一種技術(shù),甚至可以改變現(xiàn)有戰(zhàn)爭(zhēng)形態(tài)。根據(jù)一些學(xué)者的分類,人工智能目前可以分為“弱人工智能”和“強(qiáng)人工智能”兩類,“弱人工智能”能夠借鑒人類的智能行為,以減輕人類智力勞動(dòng);“強(qiáng)人工智能”則是達(dá)到甚至超越人類智慧水平的人造物,具有心智和意識(shí)、能根據(jù)自己的意圖開展行動(dòng)[1]。從目前來看,“強(qiáng)人工智能”的出現(xiàn)依然較為遙遠(yuǎn),但基于大數(shù)據(jù)和深度學(xué)習(xí)的計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理等“弱人工智能”技術(shù)正在不斷地得到開發(fā)應(yīng)用,因此本文僅討論“弱人工智能”的軍事應(yīng)用問題。通過梳理現(xiàn)有文獻(xiàn)與案例可以發(fā)現(xiàn),人工智能的軍事應(yīng)用主要集中在情報(bào)與偵察、作戰(zhàn)決策與指揮控制、自主武器系統(tǒng)、訓(xùn)練與演習(xí)、作戰(zhàn)支援與保障等領(lǐng)域。

    在情報(bào)與偵察領(lǐng)域,由于人工智能在圖像、語音識(shí)別方面具有強(qiáng)大能力,其與各類傳感器的結(jié)合能夠大幅提升戰(zhàn)略與戰(zhàn)術(shù)偵察能力,提升衛(wèi)星照片判讀、光學(xué)/電子偵察、水聲探測(cè)識(shí)別的效率。例如,美國(guó)國(guó)防部2017年啟動(dòng)了Maven項(xiàng)目,以實(shí)現(xiàn)計(jì)算機(jī)從視頻圖像中自主識(shí)別人員、車輛等目標(biāo),并計(jì)劃在后續(xù)將其集成在各類平臺(tái)上。當(dāng)年12月,Maven項(xiàng)目的原型系統(tǒng)已經(jīng)部署在美軍中央司令部和非洲司令部的轄區(qū)進(jìn)行試驗(yàn),并在一周時(shí)間內(nèi)使目標(biāo)識(shí)別準(zhǔn)確率從60%提升至80%[2]。盡管該項(xiàng)目曾因合作方谷歌的退出而受到影響,但目前仍在美國(guó)國(guó)防部的重點(diǎn)支持下平穩(wěn)推進(jìn)。

    在作戰(zhàn)決策與指揮控制領(lǐng)域,人工智能因具有出色的數(shù)據(jù)處理、系統(tǒng)集成、高性能計(jì)算能力,被視為輔助甚至替代決策者與指揮員的工具。美軍目前提出的“聯(lián)合全域指揮控制”(JADC2)“馬賽克戰(zhàn)”“忠誠(chéng)僚機(jī)”“分布式殺傷”等概念對(duì)人工智能算法支持的任務(wù)規(guī)劃、態(tài)勢(shì)分析、作戰(zhàn)決策、指揮控制、通信傳輸提出了較高要求,以期加快決策速度并提高作戰(zhàn)效率,克服人力處理信息的局限性。

    在自主武器系統(tǒng)領(lǐng)域,人工智能使得傳統(tǒng)的遙控式無人武器開始向不受人工干預(yù)的自主武器方向升級(jí),這是目前人們關(guān)注人工智能軍事應(yīng)用問題的焦點(diǎn)。目前關(guān)于自主武器還沒有公認(rèn)的定義。美國(guó)國(guó)防部認(rèn)為,自主武器系統(tǒng)指的是“一旦啟動(dòng),可以在不受操作人員干預(yù)下選擇目標(biāo)并交戰(zhàn)的武器系統(tǒng),它也包括受到人類監(jiān)督的此種武器系統(tǒng)?!盵3]國(guó)際紅十字會(huì)也提出了類似的定義,并明確其應(yīng)區(qū)別于自動(dòng)武器/半自主武器①指由操作人員設(shè)定目標(biāo),在設(shè)定好的可控環(huán)境中嚴(yán)格執(zhí)行預(yù)編寫程序的武器系統(tǒng),如自動(dòng)崗哨炮、末敏彈、艦載近防系統(tǒng)等。,以及遙控武器。也有一些學(xué)者從人機(jī)關(guān)系角度出發(fā),根據(jù)約翰·博伊德提出的OODA(觀察—判斷—決策—行動(dòng))循環(huán),將自主武器分為半自主武器、有監(jiān)督的自主武器和完全自主武器。從目前各國(guó)發(fā)展人工智能軍事應(yīng)用的公開資料來看,自主武器無疑是重中之重。就包含半自主與完全自主的廣義范圍而言,目前各軍事大國(guó)正在研發(fā)或部署階段的此類武器已涵蓋了防空系統(tǒng)、主動(dòng)防御系統(tǒng)、機(jī)器哨兵、制導(dǎo)彈藥、巡飛武器等。此外,還包括自主無人機(jī)、無人車輛、無人艦艇、戰(zhàn)斗機(jī)器人等主戰(zhàn)裝備,例如美國(guó)的MQ-9無人機(jī)、“海上獵手”無人船,俄羅斯的“天王星-9”戰(zhàn)斗機(jī)器人、“涅列赫塔”無人戰(zhàn)車、無人版T-14主戰(zhàn)坦克,以色列的“哈比”無人機(jī),韓國(guó)的SGR-A1自動(dòng)崗哨炮等。值得一提的是,除了常規(guī)武器,俄羅斯還專門研發(fā)了具有自主能力的戰(zhàn)略武器,如攜帶核彈頭的“波塞冬”(Poseidon)核動(dòng)力無人潛航器。目前,上述一些裝備已經(jīng)以集群編隊(duì)的方式進(jìn)行了測(cè)試,甚至已被部署到戰(zhàn)場(chǎng)使用。

    人工智能技術(shù)還在訓(xùn)練與演習(xí)、作戰(zhàn)支援與保障領(lǐng)域得到廣泛應(yīng)用。這里主要包括訓(xùn)練模擬、計(jì)算機(jī)推演、網(wǎng)絡(luò)攻防、信息作戰(zhàn)、醫(yī)療救護(hù)、維修保障等用途。例如,美國(guó)國(guó)防高級(jí)研究計(jì)劃局(DARPA)正在推進(jìn)“先進(jìn)空戰(zhàn)演進(jìn)”項(xiàng)目,以對(duì)人機(jī)協(xié)同作戰(zhàn)提供訓(xùn)練;而在DARPA舉行的Alpha Dogfight人機(jī)空戰(zhàn)對(duì)抗模擬演習(xí)中,人工智能以5∶0的比分戰(zhàn)勝了美軍F-16飛行員[4]。

    2 人工智能軍事應(yīng)用對(duì)國(guó)際法帶來的挑戰(zhàn)

    新軍事技術(shù)的出現(xiàn)往往對(duì)戰(zhàn)爭(zhēng)模式和交戰(zhàn)規(guī)則帶來巨大甚至顛覆性的影響,從而對(duì)已有的國(guó)際法體系帶來了挑戰(zhàn)。針對(duì)這個(gè)問題,1977年的《日內(nèi)瓦公約第一附加議定書》在第36條“新武器”明確了各國(guó)應(yīng)當(dāng)承擔(dān)的國(guó)際義務(wù),即“在研究、發(fā)展、取得或采用新的武器、作戰(zhàn)手段或方法時(shí),締約一方有義務(wù)斷定,在某些或所有情況下,該新的武器、作戰(zhàn)手段或方法的使用是否為本議定書或適用于該締約一方的任何其它國(guó)際法規(guī)則所禁止。”人工智能的軍事應(yīng)用當(dāng)然也應(yīng)遵循這一條規(guī)定。

    近年來,人們已普遍認(rèn)識(shí)到致命自主性武器(LAWS)對(duì)國(guó)際人道主義法帶來的嚴(yán)峻挑戰(zhàn)。2016年中國(guó)政府向《特定常規(guī)武器公約》五審會(huì)提交了立場(chǎng)文件,呼吁從國(guó)際法層面對(duì)致命自主武器引發(fā)的人道主義問題進(jìn)行規(guī)制。相關(guān)研究人員也就致命自主武器對(duì)國(guó)際人道主義法的區(qū)分原則、比例原則、責(zé)任歸屬等方面引發(fā)的問題展開了較為廣泛的討論。但是,在致命自主性武器與人道主義問題以外,更為廣泛的人工智能軍事應(yīng)用還可能在武力使用合法性、國(guó)家主權(quán)、武器擴(kuò)散方面對(duì)現(xiàn)有國(guó)際法造成挑戰(zhàn),由于其對(duì)國(guó)際安全與地區(qū)穩(wěn)定具有重要影響,需要引起國(guó)際社會(huì)的同等重視。

    2.1 對(duì)武力使用合法性的挑戰(zhàn)

    目前的國(guó)際法已對(duì)武力使用的合法性做出了嚴(yán)格規(guī)定?!堵?lián)合國(guó)憲章》第1章第2條第4款規(guī)定:“各會(huì)員國(guó)在其國(guó)際關(guān)系上不得使用威脅或武力,或以與聯(lián)合國(guó)宗旨不符之任何其他方法,侵害任何會(huì)員國(guó)或國(guó)家之領(lǐng)土完整或政治獨(dú)立?!边@一條款禁止了武力的使用,并受到聯(lián)合國(guó)會(huì)員國(guó)的普遍認(rèn)可,在法律層面上有強(qiáng)制約束力。但在普遍禁止之外,國(guó)際法還針對(duì)兩種例外情況授予了使用武力的合法性,根據(jù)《聯(lián)合國(guó)憲章》第7章第42條和第51條,這兩種例外分別是:(1)安理會(huì)授權(quán)以武力維持或恢復(fù)國(guó)際和平及安全;(2)會(huì)員國(guó)受武力攻擊時(shí)行使單獨(dú)或集體自衛(wèi)。從以往的經(jīng)驗(yàn)來看,由于使用武力的決策權(quán)一直牢牢地掌握在武器使用者的手中,新軍事技術(shù)本身幾乎不會(huì)對(duì)武力使用的合法性產(chǎn)生影響。但是,隨著人工智能開始逐漸被用在軍事決策領(lǐng)域,人類可能會(huì)有意或無意地將使用武力的決策權(quán)授予人工智能系統(tǒng)。相關(guān)研究者常常以蘇聯(lián)研發(fā)的“死手”(或稱為“周長(zhǎng)”)系統(tǒng)①“死手”系統(tǒng)是一種半自動(dòng)化的核武器指揮控制系統(tǒng),它能夠根據(jù)各類傳感器回傳的數(shù)據(jù)來判斷蘇聯(lián)是否遭到核攻擊,一旦失去了和外界的通信聯(lián)系,它會(huì)認(rèn)為蘇聯(lián)領(lǐng)導(dǎo)層已經(jīng)被“斬首”,并將核武器控制權(quán)交給掩體中的基層指揮人員。以及1983年“彼得洛夫事件”②1983年9月蘇聯(lián)的預(yù)警衛(wèi)星誤報(bào)美國(guó)對(duì)蘇聯(lián)發(fā)射核導(dǎo)彈,差點(diǎn)啟動(dòng)了蘇聯(lián)的反擊程序并引發(fā)核戰(zhàn)爭(zhēng),這場(chǎng)危機(jī)因基層軍官彼得洛夫的干預(yù)而被解除。引發(fā)的意外核戰(zhàn)爭(zhēng)危機(jī)為例,提醒人們自主化決策與指揮控制系統(tǒng)的安全風(fēng)險(xiǎn)。從國(guó)際法的角度來看,這種新的情況針對(duì)前面提到的武力使用的第二種合法例外——單獨(dú)或集體自衛(wèi)帶來了挑戰(zhàn)。對(duì)于人工智能的自主決策和指揮控制系統(tǒng)以及自主武器系統(tǒng)而言,在缺乏人工干預(yù)時(shí),如何判斷自衛(wèi)的條件是一個(gè)較為困難的問題。目前的人工智能技術(shù)在可解釋性、認(rèn)知能力方面仍較為薄弱,因此無法像受過訓(xùn)練的人類一樣能夠?qū)δ:欢ㄅc復(fù)雜多變的情況做出適當(dāng)判斷。如果在邊境部署的自動(dòng)崗哨武器,或在海空巡邏的無人機(jī)或無人艦艇,因?yàn)樗惴ㄒ鸬恼`判或是系統(tǒng)故障而對(duì)他國(guó)人員或資產(chǎn)主動(dòng)發(fā)起攻擊,將直接違反國(guó)際法關(guān)于武力使用的規(guī)定,而且這種違背使用者意圖的非法武力使用也難以找到明確的主體來承擔(dān)法律責(zé)任。此外,當(dāng)應(yīng)用于軍隊(duì)決策與指揮控制的人工智能系統(tǒng)出現(xiàn)這種情況時(shí),除了會(huì)產(chǎn)生更嚴(yán)重的國(guó)際法后果外,還甚至?xí)M(jìn)一步引起意外性戰(zhàn)爭(zhēng)。

    2.2 對(duì)國(guó)家主權(quán)的挑戰(zhàn)

    人工智能軍事應(yīng)用對(duì)于受國(guó)際法保護(hù)的國(guó)家主權(quán)構(gòu)成了侵蝕。與有人駕駛裝備相比,以無人機(jī)、無人潛航器為代表的一批人工智能無人系統(tǒng)具有小型化、隱身性能強(qiáng)的特點(diǎn),以及無需人工操縱且能夠執(zhí)行長(zhǎng)距離作業(yè),因此極為適合完成滲透?jìng)刹烊蝿?wù)。由于這些特點(diǎn)能夠隱匿身份而降低外交敏感性,一些國(guó)家開始更加大膽地使用此類裝備執(zhí)行侵入性行動(dòng),這使得各國(guó)的領(lǐng)空和領(lǐng)海主權(quán)變得更加容易被侵蝕。

    2015年8月,中國(guó)漁民在海南三亞市海岸打撈到國(guó)外無人潛航器;2016年12月,中國(guó)海軍在南海海域打撈到一艘美國(guó)無人潛航器,隨后移交美方;2019年6月,伊朗聲稱擊落了一架入侵領(lǐng)空的美國(guó)無人機(jī),加劇了霍爾木茲海峽緊張局勢(shì);2019年9月,位于沙特腹地的原油生產(chǎn)設(shè)施阿布凱克(Abqaiq)油田遭到18架無人機(jī)突襲,使該國(guó)原油產(chǎn)量受到重大損失。[5]對(duì)此美國(guó)宣稱無人機(jī)歸屬伊朗,但聯(lián)合國(guó)的調(diào)查報(bào)告表示無法確認(rèn)攻擊者的身份。2020年,印度和巴基斯坦分別宣稱擊落了對(duì)方入侵本國(guó)領(lǐng)空的無人機(jī)。上述案例表明,在和平或危機(jī)時(shí)期,一些國(guó)家越來越傾向于使用無人系統(tǒng)執(zhí)行越境軍事行動(dòng),這對(duì)各國(guó)維護(hù)領(lǐng)土主權(quán)(主要是領(lǐng)空、領(lǐng)海)構(gòu)成了威脅。

    目前,對(duì)于軍用空中無人系統(tǒng)進(jìn)入他國(guó)領(lǐng)空的問題,已有明確的國(guó)際法規(guī)范?!秶?guó)際民用航空公約》第1部分第3條規(guī)定:“用于軍事、海關(guān)和警察部門的航空器,應(yīng)認(rèn)為是國(guó)家航空器?!薄耙痪喖s國(guó)的國(guó)家航空器,未經(jīng)特別協(xié)定或其他方式的許可并遵照其中的規(guī)定,不得在另一締約國(guó)領(lǐng)土上空飛行或在此領(lǐng)土上降落”。該條約第8條針對(duì)“無人駕駛航空器”也做出了規(guī)定:“任何無人駕駛而能飛行的航空器,未經(jīng)一締約國(guó)特許并遵照此項(xiàng)特許的條件,不得無人駕駛而在該國(guó)領(lǐng)土上空飛行?!边@兩條明確禁止了軍用空中無人系統(tǒng)在未經(jīng)許可的情況下進(jìn)入他國(guó)領(lǐng)空。

    但是,關(guān)于軍用無人艦艇的航行問題卻出現(xiàn)了一些法律爭(zhēng)議。首先,目前的國(guó)際法對(duì)于軍用無人艦艇的屬性未做出明確規(guī)定。《聯(lián)合國(guó)海洋法公約》第29條規(guī)定:“‘軍艦’是指屬于一國(guó)武裝部隊(duì)、具備辨別軍艦國(guó)籍的外部標(biāo)志、由該國(guó)政府正式委任并名列相應(yīng)的現(xiàn)役名冊(cè)或類似名冊(cè)的軍官指揮和配備有服從正規(guī)武裝部隊(duì)紀(jì)律的船員的船舶?!庇捎谲娪脽o人艦艇不配備軍官與船員,且常常為了隱蔽身份而清除標(biāo)識(shí),其既不能被定義為軍艦,也不能被視為政府船舶,這種性質(zhì)使其無法擁有上述兩種船只在公海不受其他國(guó)家管轄的豁免權(quán)。①《聯(lián)合國(guó)海洋法公約》第95、96條分別規(guī)定了公海上軍艦和政府非商業(yè)性服務(wù)的船舶的豁免權(quán)。在2016年南海無人潛航器事件中,美國(guó)聲稱其潛航器是一艘享有主權(quán)豁免的船只,并與日本公開質(zhì)疑中國(guó)海軍打撈活動(dòng)的合法性[6]。但是根據(jù)《聯(lián)合國(guó)海洋法公約》的上述規(guī)定,中國(guó)學(xué)者認(rèn)為其并不享有主權(quán)豁免。其次,《聯(lián)合國(guó)海洋法公約》規(guī)定軍艦在他國(guó)領(lǐng)海的“無害通過權(quán)”不適用于軍用無人潛航器?!堵?lián)合國(guó)海洋法公約》第19條明確了違反“無害通過”的12種情形,包括“任何目的在于搜集情報(bào)使沿海國(guó)的防務(wù)或安全受損害的行為”和“進(jìn)行研究或測(cè)量活動(dòng)”,這兩種活動(dòng)正是目前軍用無人潛航器的主要任務(wù)。另外,第20條規(guī)定“在領(lǐng)海內(nèi),潛水艇和其他潛水器,須在海面上航行并展示其旗幟。” 這一點(diǎn)是無人潛航器在偵察任務(wù)中難以做到的,更不用說一些國(guó)家為了避免承擔(dān)責(zé)任而故意隱藏其標(biāo)識(shí)。因此,盡管美國(guó)軍艦常常以“無害通過權(quán)”為理由進(jìn)入其他國(guó)家領(lǐng)海實(shí)施“自由航行計(jì)劃”,但使用軍用無人潛航器執(zhí)行這一任務(wù)無疑是違反現(xiàn)行國(guó)際法的。這些問題需要得到國(guó)際社會(huì)進(jìn)一步的明確與重視。

    2.3 對(duì)國(guó)際武器貿(mào)易規(guī)范的挑戰(zhàn)

    隨著人工智能技術(shù)的發(fā)展,其研發(fā)成本將不斷降低,這有利于相關(guān)技術(shù)及產(chǎn)品的擴(kuò)散。從現(xiàn)實(shí)情況來看,無人機(jī)、智能彈藥已經(jīng)成為了國(guó)際軍貿(mào)市場(chǎng)的熱點(diǎn)產(chǎn)品,阿塞拜疆和亞美尼亞的武裝沖突進(jìn)一步證明了這種武器的軍事價(jià)值。由于人工智能武器能夠高效殺傷敵人并能夠大幅減少本國(guó)人員傷亡,它可能會(huì)降低戰(zhàn)爭(zhēng)成本,從而降低戰(zhàn)爭(zhēng)門檻,促使國(guó)家更傾向于使用武力解決爭(zhēng)端;而這又可能會(huì)反過來促進(jìn)人工智能武器系統(tǒng)的擴(kuò)散,加劇各國(guó)軍備競(jìng)賽,并破壞地區(qū)安全與穩(wěn)定。目前,國(guó)際社會(huì)已經(jīng)形成了對(duì)核、生物、化學(xué)、導(dǎo)彈等大規(guī)模殺傷性武器擴(kuò)散的管控機(jī)制,由于禁止擴(kuò)散大規(guī)模殺傷性武器已經(jīng)成為各國(guó)接受的規(guī)范,人工智能武器系統(tǒng)將主要以常規(guī)武器為平臺(tái)進(jìn)行擴(kuò)散,這對(duì)規(guī)范常規(guī)武器貿(mào)易的《武器貿(mào)易條約》將構(gòu)成新的挑戰(zhàn)。

    《武器貿(mào)易條約》作為首個(gè)聯(lián)合國(guó)框架下規(guī)范常規(guī)武器貿(mào)易活動(dòng)的國(guó)際條約,為增強(qiáng)國(guó)際武器貿(mào)易透明度、打擊非法武器轉(zhuǎn)讓提供了具有法律效力的國(guó)際標(biāo)準(zhǔn)。該條約主要依靠各締約國(guó)完善國(guó)家管制制度,對(duì)武器出口的最終用戶和最終用途進(jìn)行審查,以防止出口的武器被用于違反國(guó)際法的目的?!段淦髻Q(mào)易條約》要求各國(guó)禁止批準(zhǔn)出口可能用于戰(zhàn)爭(zhēng)罪行、恐怖主義、有組織犯罪的8類武器裝備,包括坦克、裝甲戰(zhàn)車、大口徑大炮、戰(zhàn)斗機(jī)、攻擊直升機(jī)、戰(zhàn)艦、導(dǎo)彈與導(dǎo)彈發(fā)射器、輕小武器等,而這8類武器都可以作為人工智能武器系統(tǒng)的平臺(tái)。但是,由于人工智能技術(shù)的軍民兩用性質(zhì),可以作為插件存在的人工智能模塊尚未受到條約的重視,某些人工智能技術(shù)甚至能夠作為民用品出口,完全規(guī)避《武器貿(mào)易條約》對(duì)最終用途的約束,這有可能進(jìn)一步強(qiáng)化相關(guān)武器的交易與濫用,導(dǎo)致此類武器或技術(shù)向恐怖主義或犯罪組織非法擴(kuò)散。因此,如何規(guī)范武裝無人機(jī)、戰(zhàn)斗機(jī)器人等自主武器系統(tǒng)的轉(zhuǎn)讓,限制其擴(kuò)散對(duì)地區(qū)安全穩(wěn)定與人道主義的負(fù)面影響,為現(xiàn)有常規(guī)武器貿(mào)易管控機(jī)制提出了新的問題。

    3 規(guī)范人工智能軍事應(yīng)用的國(guó)際法途徑

    當(dāng)前,對(duì)人工智能軍事應(yīng)用帶來的國(guó)際法挑戰(zhàn)較多的討論聚焦于人道主義問題,尤其是對(duì)致命性自主武器(LAWS)違反國(guó)際人道法對(duì)非作戰(zhàn)人員進(jìn)行殺傷的問題。然而,人工智能作為一種變革性技術(shù),其對(duì)國(guó)際法的挑戰(zhàn)本身具有更深層次的含義。如前文所提,人工智能技術(shù)對(duì)國(guó)際法的挑戰(zhàn)主要體現(xiàn)于兩個(gè)方面:一是變革技術(shù)的出現(xiàn)降低違反國(guó)際法的成本;二是核心議題涉及當(dāng)前國(guó)際法所未能覆蓋的領(lǐng)域。因此,本文擬從這兩個(gè)層面討論完善相關(guān)國(guó)際法的途徑,討論如何提高相應(yīng)國(guó)際法門檻、確立新的國(guó)際法規(guī)則。

    具體而言,LAWS的應(yīng)用以及戰(zhàn)略武器自主指揮控制系統(tǒng)的發(fā)展主要降低了國(guó)家違反國(guó)際法的成本,通過模糊責(zé)任主體、對(duì)國(guó)際法概念進(jìn)行特定解釋可以讓部分國(guó)家在使用武力、侵犯他國(guó)主權(quán)等問題上擁有一定的“靈活性”,對(duì)此,本文認(rèn)為應(yīng)當(dāng)在《特定常規(guī)武器公約》框架下規(guī)范LAWS的應(yīng)用并禁止戰(zhàn)略武器自主指揮控制系統(tǒng)的應(yīng)用,形成類似“核禁忌”的國(guó)際共識(shí);而人工智能武器的貿(mào)易問題涉及的是國(guó)際法上的“灰色地帶”或者“空白地帶”。如果作為軍用品,無疑,其可以受到《武器貿(mào)易條約》的約束。但是,因?yàn)樵摷夹g(shù)軍民兩用之間界限的模糊(部分民用人工智能技術(shù)完全可以應(yīng)用于軍事領(lǐng)域),完善《武器貿(mào)易條約》,重新對(duì)人工智能技術(shù)的軍事性質(zhì)進(jìn)行界定,進(jìn)而限制作為武器模塊的人工智能技術(shù)的擴(kuò)散成為當(dāng)下國(guó)際法亟待解決之事。

    3.1 提高國(guó)際法管轄門檻,增加國(guó)家違反國(guó)際法的成本

    3.1.1 推動(dòng)管控LAWS的《特定常規(guī)武器公約》新議定書

    對(duì)于LAWS而言,當(dāng)前的發(fā)展仍然處于初步階段,且不存在完全脫離人控制的全自主武器,各國(guó)不具有緊迫的動(dòng)力和意愿來限制LAWS。因此,想要馬上實(shí)現(xiàn)一份有約束力的法律文書是較為困難的。但是自2014年起,各國(guó)開始在《特定常規(guī)武器公約》框架下對(duì)LAWS問題進(jìn)行討論,并已舉行了8次專家組會(huì)議。①包括3次非正式專家組會(huì)議和5次政府專家組會(huì)議。整理自《特定常規(guī)武器公約》致命性自主武器專家組報(bào)告。2018年,政府專家組在關(guān)于管控LAWS的指導(dǎo)原則中建議:“應(yīng)確保根據(jù)適用的國(guó)際法在《特定常規(guī)武器公約》的框架內(nèi)對(duì)發(fā)展、部署和使用任何新武器系統(tǒng)問責(zé),包括使這類系統(tǒng)在人類指揮和控制的責(zé)任鏈中運(yùn)作?!盵7]中國(guó)政府表示“支持在《特定常規(guī)武器公約》框架下,繼續(xù)深入討論‘致命性自主武器系統(tǒng)’問題,并談判達(dá)成國(guó)際法律文書”。[8]從現(xiàn)存《特定常規(guī)武器公約》的框架和實(shí)施效果來看,將LAWS納入管轄存在一定積極意義并具有高度可行性。

    就公約本身而言,其設(shè)立之目標(biāo)是制定新規(guī)則保護(hù)平民免受武裝沖突中武器使用的傷害(尤其是不斷迭代的新式武器),并且保護(hù)戰(zhàn)斗人員免受不必要的傷害。因此,公約現(xiàn)存的議定書中涵蓋了產(chǎn)生不可檢測(cè)碎片的武器、地雷餌雷、燃燒武器、激光致盲武器②其中,第五份議定書指向的是清理戰(zhàn)爭(zhēng)遺留的爆炸物。,這些武器的共同點(diǎn)在于反人道主義與過分殺傷,這點(diǎn)與限制LAWS的初衷是高度相似的。LAWS可能將殺傷范圍擴(kuò)大至平民,同時(shí),如果缺少人的干預(yù),“濫用火力”現(xiàn)象將會(huì)成為常態(tài)。通過新議定書的形式將LAWS納入《特定常規(guī)武器公約》,不但符合公約保護(hù)人道主義的目的,也便于直接借助現(xiàn)有框架凝聚國(guó)際社會(huì)共識(shí)。而從《特定常規(guī)武器公約》實(shí)施的經(jīng)驗(yàn)來看,盡管履約基本依靠成員國(guó)的自我約束,但各項(xiàng)議定書對(duì)特定武器的限制在普遍程度上受到了國(guó)際社會(huì)認(rèn)可,并形成了一定程度的國(guó)際規(guī)范,使得大部分國(guó)家在研發(fā)、部署和使用相關(guān)武器時(shí)都采取了較為謹(jǐn)慎的態(tài)度。因此,若能在《特定常規(guī)武器公約》下達(dá)成關(guān)于LAWS的新議定書,將有利于在法律層面上對(duì)LAWS的濫用進(jìn)行約束。

    3.1.2 嚴(yán)格禁止戰(zhàn)略武器自主指揮與控制系統(tǒng)的研發(fā)與使用

    與LAWS相比,將人工智能技術(shù)應(yīng)用于戰(zhàn)略武器的指揮與控制系統(tǒng)所帶來的是各國(guó)都難以承擔(dān)的“相互摧毀”的風(fēng)險(xiǎn)。蘇聯(lián)的“死手”系統(tǒng)可以看成是戰(zhàn)略武器自主指揮與控制系統(tǒng)的某種前身,但這類系統(tǒng)本質(zhì)上是冷戰(zhàn)核軍備競(jìng)賽高峰期的產(chǎn)物。在全球化的今天不應(yīng)具有任何存在的價(jià)值。在這一問題上,美國(guó)軍方已有相關(guān)考慮,現(xiàn)任美國(guó)參謀長(zhǎng)聯(lián)席會(huì)議副主席約翰·海頓(John Hyten)曾表示,一旦使用人工智能的計(jì)算機(jī)系統(tǒng)能夠全面運(yùn)轉(zhuǎn),五角大樓應(yīng)考慮采取安全防范措施,確保人類而非機(jī)器掌控使用核武器的決策[9]。但是,即使是人類參與決策,人工干預(yù)也并不能完全避免類似系統(tǒng)出現(xiàn)事故性發(fā)射,而且難以防范外部網(wǎng)絡(luò)攻擊引發(fā)的系統(tǒng)失靈,因此應(yīng)全面禁止研發(fā)和部署戰(zhàn)略武器自主指揮與控制系統(tǒng)。目前,還沒有國(guó)際條約對(duì)這種系統(tǒng)進(jìn)行限制,相對(duì)可以借鑒的是《不擴(kuò)散核武器條約》《禁止生物武器公約》和《禁止化學(xué)武器公約》。這三個(gè)條約所限制的都是國(guó)際社會(huì)公認(rèn)應(yīng)避免使用的武器,并具有嚴(yán)格的法律約束力和道德禁忌規(guī)范。由于后果的不可預(yù)測(cè)性以及意外事故的災(zāi)難性,戰(zhàn)略武器的自主化性質(zhì)較核武器擴(kuò)散或持有、化學(xué)武器與生物武器的使用等行為可能更為惡劣。因此,在嚴(yán)格禁止相關(guān)系統(tǒng)的開發(fā)、部署和使用方面,大多數(shù)國(guó)家擁有共同的利益,所以有必要從國(guó)際法的層面對(duì)此進(jìn)行討論并形成有約束力的規(guī)則。在此基礎(chǔ)上,還需要將其從法律層面擴(kuò)展到道德禁忌層面,在國(guó)際社會(huì)形成拒絕使用此類武器的共識(shí)與規(guī)范,禁止賦予人工智能系統(tǒng)對(duì)戰(zhàn)略武器的指揮決策權(quán)限。

    禁忌是促進(jìn)軍備控制發(fā)展的重要因素,盡管在某些時(shí)候,禁忌可能并沒有馬上形成國(guó)際規(guī)約,但是其仍能通過無形壓力對(duì)國(guó)家與非國(guó)家行為體的行為作出限制[10]。而禁忌的形成部分依賴于宣傳的作用,因此,在明確國(guó)際法對(duì)相關(guān)系統(tǒng)發(fā)展的限制的同時(shí),國(guó)際社會(huì)也應(yīng)當(dāng)注意對(duì)其可能帶來的災(zāi)難性后果進(jìn)行充分的討論。

    3.2 填補(bǔ)國(guó)際法空白領(lǐng)域,確立國(guó)際法新規(guī)則

    相較于人工智能武器的使用,其擴(kuò)散問題是當(dāng)前國(guó)際法上的“灰色地帶”。這并不是說當(dāng)前國(guó)際法沒有對(duì)武器貿(mào)易進(jìn)行約束,只是人工智能武器的貿(mào)易與常規(guī)武器的貿(mào)易具有較大的差異,且這種差異暫時(shí)還未引起國(guó)際法層次的重視。

    《武器貿(mào)易條約》目前的監(jiān)管對(duì)象是國(guó)際主流的八大類常規(guī)武器。從這個(gè)角度而言,人工智能武器的貿(mào)易本也應(yīng)在該條約的限制之下,但人工智能技術(shù)的軍民兩用性質(zhì)為其監(jiān)管帶來了障礙。其實(shí),在《武器貿(mào)易條約》形成的過程之中,各國(guó)已就軍用技術(shù)轉(zhuǎn)讓問題進(jìn)行過激烈的辯論,即貿(mào)易的限制是否應(yīng)當(dāng)僅僅局限于武器本身,軍品彈藥、零部件和技術(shù)是否也應(yīng)當(dāng)一并被納入條約的保障范圍之內(nèi)[11]。但是當(dāng)時(shí)的主要反對(duì)意見認(rèn)為彈藥的數(shù)目巨大、技術(shù)難以被監(jiān)測(cè)或是界定,因此最終條約并沒有涵蓋這些部分。而人工智能技術(shù)的出現(xiàn)可以說成為國(guó)際法相關(guān)領(lǐng)域的盲區(qū)。人工智能技術(shù)可以作為民用技術(shù)進(jìn)行轉(zhuǎn)讓,但在實(shí)際運(yùn)用中被用于軍事目的。

    針對(duì)這一問題,應(yīng)當(dāng)確立新的關(guān)于人工智能軍用技術(shù)轉(zhuǎn)讓的國(guó)際法規(guī)范。對(duì)于智能武器而言,算法和用于訓(xùn)練算法的數(shù)據(jù)集才是本體,而且其數(shù)據(jù)集在一定程度上能夠區(qū)分軍用和民用兩種用途。因此,鼓勵(lì)各國(guó)增強(qiáng)對(duì)智能武器貿(mào)易的透明度迫在眉睫。為了有效打擊智能武器的非法擴(kuò)散,應(yīng)在《武器貿(mào)易條約》框架下探索規(guī)范軍用級(jí)算法與數(shù)據(jù)集的標(biāo)準(zhǔn),并借助條約的年度報(bào)告與信息交流機(jī)制提升締約國(guó)相關(guān)貿(mào)易活動(dòng)的透明度,進(jìn)而形成類似《塔林手冊(cè)》《圣雷莫國(guó)際海上武裝沖突法手冊(cè)》具有“軟法”性質(zhì)的國(guó)際文件或準(zhǔn)則,逐漸擴(kuò)大國(guó)際共識(shí),推動(dòng)將智能武器納入《武器貿(mào)易條約》的管控范圍。這些工作應(yīng)該成為各國(guó)推動(dòng)《武器貿(mào)易條約》進(jìn)程努力的下一步重點(diǎn)方向。

    綜合而言,規(guī)范人工智能的軍事應(yīng)用一方面需要各國(guó)進(jìn)行觀念上的革新,認(rèn)識(shí)到人工智能武器與傳統(tǒng)武器的區(qū)別,同時(shí),這也需要各國(guó)進(jìn)一步加強(qiáng)合作,為相關(guān)算法與訓(xùn)練數(shù)據(jù)制定標(biāo)準(zhǔn),形成廣泛的國(guó)際共識(shí)。

    4 結(jié) 論

    國(guó)際法是否能塑造國(guó)家的行為?對(duì)于很多現(xiàn)實(shí)主義國(guó)際關(guān)系學(xué)者而言,類似的問題似乎是偽命題。誠(chéng)然,在無政府體系下,大部分國(guó)際法因缺乏強(qiáng)制約束似乎不過是一紙空文。但是,國(guó)際法的作用往往是長(zhǎng)期而潛移默化的。規(guī)范的形成本身并不需要強(qiáng)制執(zhí)行。

    當(dāng)前,技術(shù)發(fā)展往往先于觀念的革新。人工智能已被認(rèn)為是變革性的國(guó)家安全技術(shù),可以與核武器、計(jì)算機(jī)等相提并論。這種新技術(shù)的出現(xiàn)以及軍事應(yīng)用既對(duì)現(xiàn)行的國(guó)際法帶來了多方面的沖擊,也使當(dāng)前國(guó)際法出現(xiàn)了更多的空白與模糊地帶。針對(duì)這些問題,本文認(rèn)為,可以從提高國(guó)際法門檻、確立新的國(guó)際法規(guī)范兩個(gè)層次進(jìn)一步完善該領(lǐng)域的國(guó)際法規(guī)則,并通過限制LAWS使用、禁止戰(zhàn)略武器自主使用以及加強(qiáng)對(duì)人工智能武器擴(kuò)散的管控三種具體措施緩解人工智能軍事應(yīng)用對(duì)國(guó)際法帶來的新挑戰(zhàn)。

    猜你喜歡
    國(guó)際法公約武器
    圖書借閱公約
    論陳顧遠(yuǎn)之先秦國(guó)際法研究及啟示——基于《中國(guó)國(guó)際法溯源》
    作為國(guó)際法淵源的條約
    法律方法(2021年4期)2021-03-16 05:34:44
    制定《圖書借閱公約》
    尋找最大公約
    能源(2018年8期)2018-09-21 07:57:40
    制定《圖書借閱公約》
    一張圖看懂武器發(fā)展史
    國(guó)際法上的禁止使用武力
    請(qǐng)放下你的武器
    退役武器去哪兒了?
    av网站免费在线观看视频| 交换朋友夫妻互换小说| 亚洲av第一区精品v没综合| 日日干狠狠操夜夜爽| 日韩人妻精品一区2区三区| 中亚洲国语对白在线视频| 国产精华一区二区三区| 欧美人与性动交α欧美精品济南到| 亚洲人成电影免费在线| 在线av久久热| 国内久久婷婷六月综合欲色啪| 丁香六月欧美| 99久久人妻综合| 亚洲精品粉嫩美女一区| 美女 人体艺术 gogo| 免费在线观看日本一区| 日韩精品中文字幕看吧| 中文字幕精品免费在线观看视频| 久久午夜亚洲精品久久| 操出白浆在线播放| 在线av久久热| 啦啦啦在线免费观看视频4| 又黄又粗又硬又大视频| 国产视频一区二区在线看| 日韩免费av在线播放| 欧美日本亚洲视频在线播放| 亚洲男人天堂网一区| 日韩av在线大香蕉| 欧美成狂野欧美在线观看| 精品一区二区三区四区五区乱码| 性欧美人与动物交配| 国产精品久久电影中文字幕| 亚洲中文日韩欧美视频| 侵犯人妻中文字幕一二三四区| 激情视频va一区二区三区| 波多野结衣av一区二区av| 黄色女人牲交| 18禁观看日本| 日韩欧美在线二视频| 欧美久久黑人一区二区| 一区二区三区国产精品乱码| 搡老熟女国产l中国老女人| 老司机在亚洲福利影院| 亚洲精品国产区一区二| 男女午夜视频在线观看| 亚洲久久久国产精品| 亚洲av第一区精品v没综合| 中文字幕色久视频| 亚洲欧美精品综合一区二区三区| 日韩欧美三级三区| 国产精品美女特级片免费视频播放器 | 久久久久九九精品影院| 日日夜夜操网爽| av网站在线播放免费| 美国免费a级毛片| 午夜影院日韩av| 亚洲性夜色夜夜综合| 人人妻人人澡人人看| 91精品国产国语对白视频| 欧美一区二区精品小视频在线| 日韩三级视频一区二区三区| 免费不卡黄色视频| 一边摸一边抽搐一进一出视频| 亚洲国产精品999在线| 欧美激情高清一区二区三区| 首页视频小说图片口味搜索| 午夜福利影视在线免费观看| 午夜福利一区二区在线看| 亚洲av熟女| 国产成人一区二区三区免费视频网站| 成人影院久久| 丝袜美足系列| 国产精品久久久久成人av| 久久精品91蜜桃| 欧美+亚洲+日韩+国产| 一区福利在线观看| 国产亚洲欧美在线一区二区| av超薄肉色丝袜交足视频| 久久这里只有精品19| 法律面前人人平等表现在哪些方面| 看片在线看免费视频| 又黄又爽又免费观看的视频| 国产三级在线视频| 亚洲av美国av| 免费少妇av软件| 午夜影院日韩av| 亚洲男人天堂网一区| 日本a在线网址| 国产欧美日韩综合在线一区二区| 男女高潮啪啪啪动态图| 9191精品国产免费久久| 一边摸一边做爽爽视频免费| 久久人人精品亚洲av| 亚洲第一青青草原| 天堂中文最新版在线下载| 精品熟女少妇八av免费久了| 级片在线观看| 日韩国内少妇激情av| 三上悠亚av全集在线观看| 1024香蕉在线观看| 啪啪无遮挡十八禁网站| 久久久精品国产亚洲av高清涩受| 国内久久婷婷六月综合欲色啪| 人妻丰满熟妇av一区二区三区| 老熟妇乱子伦视频在线观看| 97碰自拍视频| 在线免费观看的www视频| av网站免费在线观看视频| 三级毛片av免费| 国产精品久久电影中文字幕| 久久青草综合色| 日韩国内少妇激情av| 女同久久另类99精品国产91| 国产野战对白在线观看| 亚洲熟妇熟女久久| videosex国产| 亚洲一区二区三区欧美精品| 别揉我奶头~嗯~啊~动态视频| 国产单亲对白刺激| 国产日韩一区二区三区精品不卡| 精品久久久精品久久久| 久久久久久人人人人人| avwww免费| 露出奶头的视频| 91国产中文字幕| 中出人妻视频一区二区| 精品国产乱子伦一区二区三区| 亚洲午夜精品一区,二区,三区| 精品电影一区二区在线| 国产高清激情床上av| 黄色视频,在线免费观看| 欧美成狂野欧美在线观看| 久久久久精品国产欧美久久久| 女性被躁到高潮视频| 一级a爱片免费观看的视频| 一夜夜www| 免费在线观看亚洲国产| 亚洲精品久久午夜乱码| 一级a爱视频在线免费观看| 男女午夜视频在线观看| 国产成年人精品一区二区 | 欧美中文日本在线观看视频| 人人妻人人添人人爽欧美一区卜| 亚洲av成人一区二区三| 欧美日韩黄片免| 国产一区在线观看成人免费| 大陆偷拍与自拍| 精品熟女少妇八av免费久了| 精品久久久久久久久久免费视频 | 一区二区日韩欧美中文字幕| 国产亚洲精品久久久久5区| 久久这里只有精品19| 在线国产一区二区在线| 免费在线观看影片大全网站| 99热只有精品国产| 丝袜人妻中文字幕| √禁漫天堂资源中文www| 欧美激情久久久久久爽电影 | 日韩欧美一区视频在线观看| 黄频高清免费视频| 午夜老司机福利片| 久久国产亚洲av麻豆专区| 好男人电影高清在线观看| 久久香蕉国产精品| 大香蕉久久成人网| 久久草成人影院| 日本 av在线| 老司机深夜福利视频在线观看| 纯流量卡能插随身wifi吗| 深夜精品福利| 国产精品久久久久久人妻精品电影| 久久久久国产一级毛片高清牌| 亚洲午夜理论影院| 好男人电影高清在线观看| 久久香蕉国产精品| 操出白浆在线播放| 亚洲色图综合在线观看| 国产一区二区三区视频了| 午夜福利,免费看| 久久久久国内视频| 国产人伦9x9x在线观看| 一级a爱视频在线免费观看| 在线永久观看黄色视频| 一级,二级,三级黄色视频| 久久久久精品国产欧美久久久| 中文亚洲av片在线观看爽| 在线免费观看的www视频| 成人黄色视频免费在线看| 久久国产亚洲av麻豆专区| 乱人伦中国视频| 在线天堂中文资源库| av中文乱码字幕在线| 国产男靠女视频免费网站| 久久久久久大精品| 18禁黄网站禁片午夜丰满| 免费在线观看日本一区| 不卡一级毛片| 99国产精品免费福利视频| 男人的好看免费观看在线视频 | 香蕉久久夜色| 亚洲精品一区av在线观看| 国产精品爽爽va在线观看网站 | 波多野结衣高清无吗| 欧美日韩中文字幕国产精品一区二区三区 | 成人三级黄色视频| 久久中文字幕一级| 夜夜夜夜夜久久久久| 韩国av一区二区三区四区| 涩涩av久久男人的天堂| 国产av精品麻豆| 亚洲一区高清亚洲精品| 中文字幕精品免费在线观看视频| 村上凉子中文字幕在线| 久久中文字幕人妻熟女| 成人国语在线视频| av免费在线观看网站| www.999成人在线观看| 精品熟女少妇八av免费久了| 久久 成人 亚洲| 99久久人妻综合| 久久中文字幕人妻熟女| 婷婷丁香在线五月| 国产乱人伦免费视频| 天堂俺去俺来也www色官网| 老汉色av国产亚洲站长工具| 国产成人一区二区三区免费视频网站| 真人做人爱边吃奶动态| 伊人久久大香线蕉亚洲五| 国产成人精品在线电影| 夜夜夜夜夜久久久久| 超碰成人久久| 亚洲国产精品sss在线观看 | 中文字幕最新亚洲高清| 精品一区二区三区视频在线观看免费 | 成人亚洲精品一区在线观看| aaaaa片日本免费| 老司机深夜福利视频在线观看| 美女午夜性视频免费| 夜夜爽天天搞| 欧美大码av| 老司机靠b影院| 国产精品国产av在线观看| 日本免费a在线| 久久精品国产99精品国产亚洲性色 | 视频区图区小说| 国产亚洲精品综合一区在线观看 | 午夜免费观看网址| 免费看十八禁软件| √禁漫天堂资源中文www| a级毛片黄视频| 精品乱码久久久久久99久播| 一区在线观看完整版| 91精品国产国语对白视频| www.自偷自拍.com| 国产亚洲精品久久久久5区| 亚洲人成电影免费在线| 日韩欧美国产一区二区入口| 久久人妻福利社区极品人妻图片| 国产亚洲欧美精品永久| 国产精品98久久久久久宅男小说| 久久精品aⅴ一区二区三区四区| 欧美人与性动交α欧美精品济南到| 99久久99久久久精品蜜桃| 在线观看免费视频网站a站| 嫁个100分男人电影在线观看| 国产精品一区二区免费欧美| 国产99白浆流出| 国产三级黄色录像| 国产区一区二久久| 日韩精品中文字幕看吧| av视频免费观看在线观看| 国产成人影院久久av| 精品国内亚洲2022精品成人| 亚洲 国产 在线| av在线天堂中文字幕 | 法律面前人人平等表现在哪些方面| 在线观看66精品国产| 国产av一区二区精品久久| 国产黄色免费在线视频| 免费观看精品视频网站| 神马国产精品三级电影在线观看 | 国产欧美日韩综合在线一区二区| 99久久99久久久精品蜜桃| 国产xxxxx性猛交| 亚洲国产欧美一区二区综合| 久久久久精品国产欧美久久久| 亚洲精品国产区一区二| 一个人免费在线观看的高清视频| 久久草成人影院| 亚洲专区国产一区二区| 亚洲av美国av| 精品一区二区三区四区五区乱码| 曰老女人黄片| 国产精品国产av在线观看| 久99久视频精品免费| 99久久综合精品五月天人人| 91成人精品电影| 操出白浆在线播放| 纯流量卡能插随身wifi吗| 大香蕉久久成人网| 成人特级黄色片久久久久久久| 国产精品久久久久久人妻精品电影| 午夜福利影视在线免费观看| 欧美日韩亚洲综合一区二区三区_| 一级毛片精品| 国产黄a三级三级三级人| 亚洲欧洲精品一区二区精品久久久| 日本欧美视频一区| 色综合欧美亚洲国产小说| 国产亚洲精品第一综合不卡| 极品人妻少妇av视频| 免费在线观看影片大全网站| 久久久国产成人免费| 天堂俺去俺来也www色官网| 亚洲精华国产精华精| 亚洲自偷自拍图片 自拍| 一个人免费在线观看的高清视频| 色播在线永久视频| 国产成人精品在线电影| 亚洲av成人一区二区三| 国产精品自产拍在线观看55亚洲| 久久久久久久久中文| 久久久水蜜桃国产精品网| 久久国产精品人妻蜜桃| 精品乱码久久久久久99久播| 人人澡人人妻人| 午夜福利一区二区在线看| 自拍欧美九色日韩亚洲蝌蚪91| 女人高潮潮喷娇喘18禁视频| 国产区一区二久久| 欧美av亚洲av综合av国产av| 女人被狂操c到高潮| av中文乱码字幕在线| 热99re8久久精品国产| 午夜视频精品福利| 中文字幕人妻熟女乱码| 欧美日韩亚洲高清精品| 在线观看日韩欧美| 国产精品综合久久久久久久免费 | 欧美中文日本在线观看视频| 丁香欧美五月| 亚洲欧美精品综合久久99| 国产男靠女视频免费网站| 香蕉国产在线看| 国产亚洲精品一区二区www| 欧美黄色片欧美黄色片| 久久伊人香网站| avwww免费| 一级片'在线观看视频| 亚洲第一av免费看| 老司机福利观看| 亚洲自拍偷在线| 国产区一区二久久| 亚洲第一av免费看| 午夜久久久在线观看| 在线观看一区二区三区| 国内久久婷婷六月综合欲色啪| 国产高清激情床上av| 亚洲国产中文字幕在线视频| 久热这里只有精品99| 国产亚洲欧美精品永久| 欧美黑人精品巨大| 国产片内射在线| 国产免费av片在线观看野外av| 黑人猛操日本美女一级片| 精品一品国产午夜福利视频| 久久久久精品国产欧美久久久| 国产蜜桃级精品一区二区三区| 欧美中文综合在线视频| 丰满的人妻完整版| 人人澡人人妻人| 亚洲男人天堂网一区| 人人澡人人妻人| 天堂动漫精品| 麻豆一二三区av精品| 久久香蕉国产精品| 欧美日韩国产mv在线观看视频| 大陆偷拍与自拍| 好看av亚洲va欧美ⅴa在| 国产精品自产拍在线观看55亚洲| 欧美 亚洲 国产 日韩一| а√天堂www在线а√下载| 欧美 亚洲 国产 日韩一| 51午夜福利影视在线观看| 久久精品亚洲熟妇少妇任你| av网站免费在线观看视频| 亚洲精品一卡2卡三卡4卡5卡| 麻豆av在线久日| 亚洲欧美日韩另类电影网站| 制服诱惑二区| 老熟妇仑乱视频hdxx| 人人妻人人澡人人看| 神马国产精品三级电影在线观看 | 国产欧美日韩一区二区三| 国内久久婷婷六月综合欲色啪| 欧美午夜高清在线| 淫妇啪啪啪对白视频| 欧美激情 高清一区二区三区| 国产精品一区二区免费欧美| 国产91精品成人一区二区三区| 日本撒尿小便嘘嘘汇集6| 欧美+亚洲+日韩+国产| 午夜老司机福利片| 亚洲成人久久性| 免费人成视频x8x8入口观看| 亚洲成人免费电影在线观看| 国产av又大| 成人av一区二区三区在线看| 性少妇av在线| 国产不卡一卡二| www.熟女人妻精品国产| 亚洲成av片中文字幕在线观看| 高潮久久久久久久久久久不卡| 他把我摸到了高潮在线观看| 在线观看舔阴道视频| 亚洲成人国产一区在线观看| 久久久久久亚洲精品国产蜜桃av| 欧美人与性动交α欧美软件| xxx96com| 国产三级在线视频| 真人一进一出gif抽搐免费| 一二三四在线观看免费中文在| 99精国产麻豆久久婷婷| 黄色怎么调成土黄色| 一a级毛片在线观看| 精品久久久久久电影网| 亚洲成人免费电影在线观看| 久久人妻福利社区极品人妻图片| 人人妻人人添人人爽欧美一区卜| 久久精品aⅴ一区二区三区四区| 女人精品久久久久毛片| 午夜视频精品福利| 桃红色精品国产亚洲av| 欧美精品亚洲一区二区| 91av网站免费观看| 久久 成人 亚洲| 99久久精品国产亚洲精品| 午夜福利影视在线免费观看| 母亲3免费完整高清在线观看| 精品少妇一区二区三区视频日本电影| 99香蕉大伊视频| 精品人妻1区二区| 自拍欧美九色日韩亚洲蝌蚪91| 在线永久观看黄色视频| 窝窝影院91人妻| 久久中文字幕一级| 在线观看66精品国产| 一区在线观看完整版| 久久欧美精品欧美久久欧美| 亚洲精品成人av观看孕妇| 国产色视频综合| 自线自在国产av| 欧美中文日本在线观看视频| 亚洲激情在线av| av国产精品久久久久影院| 成在线人永久免费视频| 国产精品98久久久久久宅男小说| 99在线视频只有这里精品首页| 女人高潮潮喷娇喘18禁视频| 日本三级黄在线观看| 国产精品免费一区二区三区在线| 久久久久久久久中文| 满18在线观看网站| 999久久久精品免费观看国产| 久久这里只有精品19| 99re在线观看精品视频| 久久久久久久久免费视频了| 99精国产麻豆久久婷婷| 变态另类成人亚洲欧美熟女 | 欧美黄色淫秽网站| 91麻豆精品激情在线观看国产 | 大型av网站在线播放| 一区二区三区激情视频| 日韩一卡2卡3卡4卡2021年| 久久国产精品男人的天堂亚洲| 国产av一区在线观看免费| 在线天堂中文资源库| 国产成+人综合+亚洲专区| av网站免费在线观看视频| 欧美日韩黄片免| 97超级碰碰碰精品色视频在线观看| 一区福利在线观看| 亚洲 欧美一区二区三区| 中文字幕人妻丝袜制服| 夜夜看夜夜爽夜夜摸 | 老汉色∧v一级毛片| 亚洲免费av在线视频| 国产高清激情床上av| 久久青草综合色| 午夜亚洲福利在线播放| 激情视频va一区二区三区| 亚洲欧美激情综合另类| 亚洲精品久久成人aⅴ小说| xxxhd国产人妻xxx| 亚洲欧美一区二区三区黑人| 亚洲精品在线美女| 欧美中文日本在线观看视频| 在线免费观看的www视频| 9191精品国产免费久久| 亚洲一区二区三区欧美精品| 波多野结衣高清无吗| 午夜久久久在线观看| 久久久水蜜桃国产精品网| 不卡av一区二区三区| 黄片大片在线免费观看| 婷婷精品国产亚洲av在线| 黑人猛操日本美女一级片| 美女高潮到喷水免费观看| 欧美激情久久久久久爽电影 | 日日爽夜夜爽网站| 日韩av在线大香蕉| 国产欧美日韩一区二区三区在线| 欧美日韩亚洲国产一区二区在线观看| 中文字幕人妻丝袜一区二区| 99国产精品一区二区三区| 成人手机av| 国产av在哪里看| 夫妻午夜视频| 国产精品日韩av在线免费观看 | 亚洲视频免费观看视频| 热re99久久国产66热| 亚洲五月天丁香| 欧美一区二区精品小视频在线| 精品日产1卡2卡| 中文字幕人妻丝袜一区二区| 丝袜美足系列| 国产精品av久久久久免费| 国产亚洲精品一区二区www| 免费女性裸体啪啪无遮挡网站| 欧美 亚洲 国产 日韩一| 狠狠狠狠99中文字幕| 女性被躁到高潮视频| 免费人成视频x8x8入口观看| 变态另类成人亚洲欧美熟女 | 欧美人与性动交α欧美精品济南到| 免费在线观看影片大全网站| 69精品国产乱码久久久| 天天躁夜夜躁狠狠躁躁| 久久久精品国产亚洲av高清涩受| 免费看a级黄色片| 中文字幕色久视频| 午夜a级毛片| 制服人妻中文乱码| 老汉色av国产亚洲站长工具| 看片在线看免费视频| 一个人免费在线观看的高清视频| av电影中文网址| 18禁美女被吸乳视频| 午夜激情av网站| www.www免费av| 老汉色∧v一级毛片| 一进一出抽搐动态| 男女午夜视频在线观看| 一级片'在线观看视频| 国产欧美日韩一区二区三| 50天的宝宝边吃奶边哭怎么回事| 国产精品九九99| 一本综合久久免费| 99国产精品一区二区蜜桃av| 国产视频一区二区在线看| 欧美人与性动交α欧美精品济南到| 波多野结衣高清无吗| e午夜精品久久久久久久| 亚洲国产看品久久| 正在播放国产对白刺激| 亚洲熟妇中文字幕五十中出 | 一个人免费在线观看的高清视频| 国产精品久久久久成人av| 啪啪无遮挡十八禁网站| 黄色 视频免费看| 婷婷丁香在线五月| 国产精品日韩av在线免费观看 | 亚洲,欧美精品.| 一本大道久久a久久精品| 一区在线观看完整版| 国产主播在线观看一区二区| 精品国产国语对白av| 中文欧美无线码| 搡老岳熟女国产| 看片在线看免费视频| 99riav亚洲国产免费| 成人三级黄色视频| 久久 成人 亚洲| 日韩高清综合在线| 在线观看一区二区三区激情| 免费一级毛片在线播放高清视频 | 操出白浆在线播放| 国产免费av片在线观看野外av| 好看av亚洲va欧美ⅴa在| 男人操女人黄网站| av欧美777| 在线观看舔阴道视频| 后天国语完整版免费观看| 久久国产精品男人的天堂亚洲| 一级毛片精品| 十八禁人妻一区二区| 最好的美女福利视频网| 日韩欧美在线二视频| 一二三四社区在线视频社区8| 91麻豆av在线| 欧美日韩国产mv在线观看视频| 电影成人av| 不卡一级毛片| 免费在线观看亚洲国产| 日韩 欧美 亚洲 中文字幕| 亚洲在线自拍视频| 免费观看人在逋| 久久香蕉精品热| 精品国产一区二区久久| 欧美av亚洲av综合av国产av| 黑人猛操日本美女一级片| 岛国视频午夜一区免费看| 黑人操中国人逼视频| 亚洲av第一区精品v没综合| 丰满饥渴人妻一区二区三|