• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    美國(guó)人工智能軍事化的發(fā)展態(tài)勢(shì)、風(fēng)險(xiǎn)與應(yīng)對(duì)路徑*

    2022-02-05 07:38:59孫海泳
    國(guó)際論壇 2022年2期
    關(guān)鍵詞:軍事化軍事人工智能

    孫海泳

    【內(nèi)容提要】 基于傳統(tǒng)的技術(shù)制勝的軍事戰(zhàn)略思路以及塑造相對(duì)于其他大國(guó)的軍事優(yōu)勢(shì)的需要,美國(guó)政府與軍方已加快人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用。其側(cè)重點(diǎn)主要體現(xiàn)在以下三方面:第一,制定與實(shí)施各類人工智能發(fā)展規(guī)劃與方案,為推動(dòng)軍事智能化創(chuàng)造條件;第二,加快推動(dòng)人工智能軍事化應(yīng)用項(xiàng)目的發(fā)展,特別是以人工智能技術(shù)提升作戰(zhàn)指揮系統(tǒng)的綜合效能,推進(jìn)自主攻擊平臺(tái)的研發(fā)與應(yīng)用;第三,強(qiáng)化與盟國(guó)在人工智能軍事化領(lǐng)域的合作。上述態(tài)勢(shì)造成三方面風(fēng)險(xiǎn):第一,加劇基于新興技術(shù)的軍備競(jìng)賽風(fēng)險(xiǎn);第二,增加大國(guó)間發(fā)生沖突甚至戰(zhàn)爭(zhēng)的可能性,這是因?yàn)榛谌斯ぶ悄芗夹g(shù)的自主攻擊系統(tǒng)的可靠性不足,而且人工智能軍事化系統(tǒng)的應(yīng)用會(huì)侵蝕大國(guó)間的戰(zhàn)略“默契”并降低網(wǎng)絡(luò)攻擊的門檻;第三,可能重構(gòu)大國(guó)間威懾體系并侵蝕國(guó)際安全的穩(wěn)定基礎(chǔ)。對(duì)于中國(guó)而言,面對(duì)美國(guó)推進(jìn)人工智能軍事化所產(chǎn)生的諸多風(fēng)險(xiǎn)因素,需從強(qiáng)化技術(shù)進(jìn)步等方面應(yīng)對(duì)智能化沖突或戰(zhàn)爭(zhēng)風(fēng)險(xiǎn),參與和引導(dǎo)人工智能技術(shù)全球治理進(jìn)程以提升中國(guó)的話語(yǔ)權(quán),拓展中美在應(yīng)對(duì)上述風(fēng)險(xiǎn)方面的合作空間。

    自21世紀(jì)第二個(gè)十年以來(lái),隨著“大數(shù)據(jù)”資源的可用性、機(jī)器學(xué)習(xí)方法與計(jì)算機(jī)處理能力的改善,基于機(jī)器學(xué)習(xí)的狹義人工智能(Narrow AI)獲得快速發(fā)展。從歷史發(fā)展趨勢(shì)和未來(lái)戰(zhàn)爭(zhēng)需求看,人工智能日益成為推動(dòng)新一輪軍事革命的核心驅(qū)動(dòng)力。自2012年以來(lái),特別是特朗普政府與拜登政府執(zhí)政期間,美國(guó)政府與軍方顯著強(qiáng)化了對(duì)人工智能軍事化的戰(zhàn)略規(guī)劃、研發(fā)與應(yīng)用進(jìn)程。在美國(guó)人工智能軍事化議題領(lǐng)域,相關(guān)研究主要集中在以下方面:一是探討美國(guó)人工智能軍事化的驅(qū)動(dòng)因素,分析美國(guó)人工智能軍事化的發(fā)展背景、戰(zhàn)略溯源以及推進(jìn)態(tài)勢(shì),并重點(diǎn)探討了美國(guó)智庫(kù)在人工智能軍事化中的推動(dòng)作用。①趙超陽(yáng)等:《美軍人工智能戰(zhàn)略發(fā)展的智庫(kù)策源研究》,上海:東方出版社,2021年。二是探討美國(guó)人工智能軍事化的實(shí)施路徑,分析美軍在推進(jìn)人工智能軍事應(yīng)用領(lǐng)域所采取的規(guī)劃、項(xiàng)目等方面的舉措,②曾子林:《美軍推進(jìn)人工智能軍事應(yīng)用的舉措、挑戰(zhàn)及啟示》,《國(guó)防科技》2020年第4期。探討在人工智能軍事應(yīng)用領(lǐng)域的過(guò)程中,美國(guó)國(guó)防部和產(chǎn)業(yè)界之間的溝通和對(duì)話方式,③Larry Lewis, “Resolving the Battle over Artificial Intelligence in War,” RUSI Journal, Vol.164,No.5/6, July/August 2019.分析盟國(guó)與美國(guó)的人工智能作戰(zhàn)系統(tǒng)的互操作性等問(wèn)題。④Satoru Mori, “US Defense Innovation and Artificial Intelligence,” Asia-Pacific Review, Vol.25, No.2,2018.三是分析美國(guó)人工智能軍事化面臨的挑戰(zhàn),如美國(guó)人工智能軍事化面臨的人才瓶頸、公私合作障礙以及發(fā)起人工智能軍備競(jìng)賽所可能導(dǎo)致的安全困境。⑤李恒陽(yáng):《美國(guó)人工智戰(zhàn)略探析》,《美國(guó)研究》2020年第4期。四是探討美國(guó)在自主武器軍控等規(guī)則領(lǐng)域的戰(zhàn)略傾向,如以美國(guó)對(duì)自主武器的利益關(guān)切為切入點(diǎn),分析美國(guó)在自主武器國(guó)際軍控問(wèn)題上的立場(chǎng)及其驅(qū)動(dòng)因素,以及美國(guó)在參與過(guò)程中的角色特征和行為模式。⑥王玫黎、杜陳潔:《美國(guó)參與自主性武器國(guó)際軍控的戰(zhàn)略關(guān)切及角色定位》,《國(guó)際觀察》2021年第2期。既有研究成果對(duì)理解美國(guó)人工智能軍事化進(jìn)程的動(dòng)因、方式與面臨挑戰(zhàn)方面提供了富有啟發(fā)性的見(jiàn)解。但仍有三方面問(wèn)題值得注意:一是國(guó)外學(xué)者在研究美國(guó)人工智能軍事化問(wèn)題的進(jìn)程中,傾向于渲染中俄等國(guó)在軍事智能化領(lǐng)域的進(jìn)步及“威脅”,并淡化美國(guó)推進(jìn)人工智能軍事化的負(fù)面影響;二是關(guān)注人工智能軍事化所產(chǎn)生的諸多風(fēng)險(xiǎn),但對(duì)美國(guó)人工智能軍事化所造成的安全風(fēng)險(xiǎn)的系統(tǒng)性分析尚顯薄弱;三是從中國(guó)的視角,針對(duì)美國(guó)人工智能軍事化進(jìn)程的應(yīng)對(duì)路徑的研究仍需加強(qiáng)。鑒此,本文嘗試在探討美國(guó)人工智能軍事化的驅(qū)動(dòng)因素與發(fā)展態(tài)勢(shì)的基礎(chǔ)上,分析其對(duì)國(guó)際安全與戰(zhàn)略穩(wěn)定造成的風(fēng)險(xiǎn),并探討中國(guó)的應(yīng)對(duì)路徑。

    一、美國(guó)人工智能軍事化進(jìn)程的主要驅(qū)動(dòng)力

    人工智能的諸多特征使其對(duì)國(guó)家安全具有重要影響。美軍借助技術(shù)優(yōu)勢(shì)獲得戰(zhàn)爭(zhēng)勝利或戰(zhàn)略優(yōu)勢(shì)的歷史經(jīng)驗(yàn)以及美方對(duì)其軍事技術(shù)相對(duì)優(yōu)勢(shì)的下降趨勢(shì)的擔(dān)憂,成為美國(guó)加快推進(jìn)人工智能軍事化進(jìn)程的主要驅(qū)動(dòng)因素。

    (一)美軍基于技術(shù)優(yōu)勢(shì)的制勝傳統(tǒng)

    技術(shù)優(yōu)勢(shì)一直是美國(guó)軍事實(shí)力和國(guó)家競(jìng)爭(zhēng)力的一個(gè)重要支柱。技術(shù)優(yōu)勢(shì)是美國(guó)在第二次世界大戰(zhàn)和冷戰(zhàn)中獲勝的重要支持條件之一,這強(qiáng)化了美國(guó)的技術(shù)工具主義理念,同時(shí)形成并不斷強(qiáng)化了美國(guó)依托新興技術(shù)與裝備優(yōu)勢(shì)以塑造軍事優(yōu)勢(shì)、達(dá)成作戰(zhàn)目標(biāo)的傳統(tǒng)。美軍對(duì)技術(shù)絕對(duì)領(lǐng)先的執(zhí)著來(lái)源于對(duì)絕對(duì)的、強(qiáng)烈的安全感的追求以及對(duì)美利堅(jiān)民族優(yōu)越性的執(zhí)念。為了保持絕對(duì)的安全和強(qiáng)大,美國(guó)將國(guó)防科技作為重要工具和關(guān)鍵支撐,在國(guó)防科技發(fā)展上始終追求保持絕對(duì)領(lǐng)先地位,始終與別國(guó)保持絕對(duì)的安全距離,不能容忍被接近或超越,并為此不斷尋求軍事技術(shù)的突破。①趙超陽(yáng)等:《美軍人工智能戰(zhàn)略發(fā)展的智庫(kù)策源研究》,上海:東方出版社,2021年,第14頁(yè)。特別是在20世紀(jì)70年代之后,美國(guó)率先研發(fā)了隱形和精確制導(dǎo)武器技術(shù),使其在信息時(shí)代的戰(zhàn)爭(zhēng),如20世紀(jì)90年代初的海灣戰(zhàn)爭(zhēng)等局部戰(zhàn)爭(zhēng)中快速獲取戰(zhàn)場(chǎng)優(yōu)勢(shì)。這也進(jìn)一步強(qiáng)化了美國(guó)在軍事領(lǐng)域依托技術(shù)制勝的戰(zhàn)略理念。

    在當(dāng)今的美國(guó),人工智能被譽(yù)為繼20世紀(jì)70年代信息技術(shù)發(fā)展之后的第三次抵消戰(zhàn)略(the Third Offset Strategy)。②Kenneth Payne, “Artificial Intelligence: A Revolution in Strategic Affairs?” Survival, Vol. 60, No. 5,2018, p.7.智能化戰(zhàn)爭(zhēng)的核心則是以“算法+數(shù)據(jù)”構(gòu)建起作戰(zhàn)系統(tǒng)的靈魂大腦。人工智能與大數(shù)據(jù)、云計(jì)算、天基信息等新興技術(shù)的加速發(fā)展與創(chuàng)造性融合,加快了“智能化作戰(zhàn)”能力的形成。③吳明曦:《智能化戰(zhàn)爭(zhēng)——AI軍事暢想》,北京:國(guó)防工業(yè)出版社,2020年,第62頁(yè)。從技術(shù)層面來(lái)看,掌握人工智能武器可具備以下優(yōu)勢(shì):一是自主性優(yōu)勢(shì),即自主系統(tǒng)能夠增強(qiáng)甚至取代人類所從事的作戰(zhàn)行動(dòng);二是速度提升潛力,即人工智能技術(shù)可大幅提升武器系統(tǒng)的信息處理效能與反應(yīng)速度;三是增強(qiáng)人類潛力的特性,即人工智能技術(shù)可增強(qiáng)士兵的能力,特別是自主無(wú)人系統(tǒng)的廣泛運(yùn)用,憑借其自主交互和聯(lián)動(dòng)響應(yīng)的優(yōu)勢(shì),能夠最大限度提升作戰(zhàn)系統(tǒng)的整體效能,并使戰(zhàn)爭(zhēng)的科技含量再次出現(xiàn)質(zhì)的提升。鑒于人工智能技術(shù)存在巨大的軍事應(yīng)用潛力,對(duì)美國(guó)國(guó)防部的決策者而言,在武器和作戰(zhàn)概念上保持對(duì)戰(zhàn)略對(duì)手的領(lǐng)先地位的前景,至少在間接層面,將取決于美國(guó)在人工智能技術(shù)領(lǐng)域保持優(yōu)勢(shì)的能力。①Rand Waltzman, etc., “Maintaining the Competitive Advantage in Artificial Intelligence and Machine Learning,” Rand Corporation, 2020, p.31, https://www.rand.org/content/dam/rand/pubs/research_reports/RRA200/RRA200-1/RAND_RRA200-1.pdf.在此背景下,美國(guó)政府與軍方已將人工智能技術(shù)作為增強(qiáng)戰(zhàn)力、實(shí)現(xiàn)軍事目標(biāo)的重要支持條件,其對(duì)人工智能技術(shù)的重視,既是對(duì)美國(guó)技術(shù)優(yōu)勢(shì)的重視與利用,也是美軍技術(shù)制勝傳統(tǒng)思維的延伸。

    (二)針對(duì)中俄塑造新的軍事優(yōu)勢(shì)的現(xiàn)實(shí)需要

    自本世紀(jì)第二個(gè)十年以來(lái),美國(guó)日益無(wú)法維持其在海灣戰(zhàn)爭(zhēng)結(jié)束之初時(shí)所具備的軍事技術(shù)優(yōu)勢(shì)。特別是隨著經(jīng)濟(jì)、科技實(shí)力的穩(wěn)步發(fā)展,中國(guó)維護(hù)國(guó)家安全、阻遏美國(guó)戰(zhàn)略訛詐的能力日益增強(qiáng)。與此同時(shí),仍具有強(qiáng)大軍事威懾力的俄國(guó)與美國(guó)在地緣政治等領(lǐng)域的戰(zhàn)略抵牾難以調(diào)和。在此形勢(shì)下,美國(guó)政府、軍方與戰(zhàn)略研究界已將人工智能軍事化作為針對(duì)中俄塑造新的軍事優(yōu)勢(shì)的戰(zhàn)略依托。新美國(guó)安全中心(CNAS)董事會(huì)主席、曾任奧巴馬政府國(guó)防部副部長(zhǎng)的米歇爾·弗盧努瓦(Michèle A.Flournoy)認(rèn)為,在2021年之前的近十年中,美國(guó)國(guó)防部官員一直認(rèn)為,大國(guó)競(jìng)爭(zhēng)的回歸是對(duì)國(guó)家安全最重大的挑戰(zhàn)。因此,必須采取更富有進(jìn)取性的措施,以保持美國(guó)相對(duì)于競(jìng)爭(zhēng)對(duì)手的軍事和技術(shù)優(yōu)勢(shì),否則美軍將在十年內(nèi)失去這一優(yōu)勢(shì)。②Michèle A. Flournoy, “America’s Military Risks Losing Its Edge,” Foreign Affairs, May/June 2021,Vol.100, Iss.3, pp.76-77.在此背景下,中美地緣政治競(jìng)爭(zhēng)無(wú)疑將受到人工智能技術(shù)競(jìng)爭(zhēng)的影響。③James Johnson, “Artificial Intelligence & Future Warfare: Implications for International Security,”Defense & Security Analysis, Vol.35, No.2, 2019, p.147.美軍于2014年出臺(tái)的第三次“抵消戰(zhàn)略”的核心就是基于人工智能的“算法戰(zhàn)”,旨在通過(guò)智能化轉(zhuǎn)型,抵消與中俄等國(guó)在裝備規(guī)模和硬件技術(shù)等“顯性”特征上日益縮小的差距,拉開與中俄在武器裝備的智能化程度等隱性特征方面的代差,以此謀求和維持未來(lái)軍事優(yōu)勢(shì)。④胡利平等:《“算法戰(zhàn)”及其在空戰(zhàn)領(lǐng)域中的應(yīng)用》,《國(guó)防科技》2020年第1期,第57頁(yè)。此后,特朗普政府主要將人工智能視為一個(gè)重要的地緣政治工具,通過(guò)推動(dòng)人工智能技術(shù)發(fā)展,塑造與強(qiáng)化美國(guó)在對(duì)華經(jīng)濟(jì)與軍事競(jìng)爭(zhēng)中的優(yōu)勢(shì)。其人工智能戰(zhàn)略顯示了基于“絕對(duì)安全觀”的技術(shù)戰(zhàn)略擴(kuò)張趨向以及威懾與遏制并行的現(xiàn)實(shí)主義趨向。⑤闕天舒、張紀(jì)騰:《美國(guó)人工智能戰(zhàn)略新動(dòng)向及其全球影響》,《外交評(píng)論》2020年第3期,第121頁(yè)。拜登政府延續(xù)了這一戰(zhàn)略傾向,并進(jìn)一步將人工智能軍事化作為獲得新的對(duì)華戰(zhàn)略優(yōu)勢(shì)的依托。

    在推進(jìn)人工智能軍事化的過(guò)程中,美國(guó)政府、軍方與戰(zhàn)略研究界試圖通過(guò)渲染中俄在人工智能領(lǐng)域的技術(shù)進(jìn)步和安全“威脅”,以動(dòng)員國(guó)內(nèi)資源與匯聚政策共識(shí)。2017年4月,時(shí)任國(guó)防部副部長(zhǎng)的羅伯特·沃克(Robert Work)宣布,由于競(jìng)爭(zhēng)對(duì)手的能力越來(lái)越強(qiáng),迫切需在國(guó)防部的議程中納入人工智能和機(jī)器學(xué)習(xí)。沃克的言論相當(dāng)于宣布一場(chǎng)不可避免的人工智能軍備競(jìng)賽,其中俄羅斯和中國(guó)被視為主要對(duì)手。①Lucy Suchman, “Algorithmic Warfare and the Reinvention of Accuracy,” Critical Studies on Security,Vol.8, No.2, 2020, p,175.在美國(guó)國(guó)防部看來(lái),大數(shù)據(jù)、人工智能和自動(dòng)化的融合,將使中國(guó)軍隊(duì)在2049年成為擁有世界一流戰(zhàn)斗力的軍隊(duì)。②Lara Martinho, “China’s Defence Posture: Implications for NATO,” NATO Parliamentary Assembly,September 8, 2021, p.1, https://www.nato-pa.int/download-file?filename=/sites/default/files/2021-09/015%20 DSCFC%2021%20E%20rev%201.%20CHINA%27S%20DEFENCE%20-%20MARTINHO_3.pdf.2020年9月,為獲得更多的預(yù)算與資源投入,美國(guó)人工智能國(guó)家安全委員會(huì)(NSCAI)副主席鮑勃·沃克(Bob Work)強(qiáng)調(diào),中俄在軍事人工智能和自動(dòng)化方面可能在較小程度上超過(guò)美國(guó),因此美國(guó)需增撥用于人工智能項(xiàng)目的國(guó)防預(yù)算,需采取在國(guó)防部與學(xué)界、私營(yíng)部門間建立公私合作伙伴關(guān)系等措施來(lái)提升美國(guó)的競(jìng)爭(zhēng)優(yōu)勢(shì)。③Sydney J. Freedberg Jr., “‘We May Be Losing the Race’ for AI With China: Bob Work,” Breaking Defense, September 2, 2020, https://breakingdefense.com/2020/09/we-may-be-losing-the-race-for-ai-withchina-bob-work/.值得注意的是,美國(guó)國(guó)防部第一位首席軟件官尼古拉斯·夏蘭(Nicolas Chaillan)于2021年9月辭職,以此抗議因美軍的技術(shù)革新緩慢導(dǎo)致中國(guó)在人工智能等領(lǐng)域“超越”美國(guó)。10月初,美國(guó)海軍陸戰(zhàn)隊(duì)中將、國(guó)防部聯(lián)合人工智能中心(JAIC)主任邁克爾·格倫(Michael Groen)表示,希望以漸進(jìn)的方式將人工智能應(yīng)用于軍隊(duì)。④Katrina Manson, “US Has Already Lost AI Fight to China, Says ex-Pentagon Software Chief”,Financial Times, October 10, 2021, https://www.ft.com/content/f939db9a-40af-4bd1-b67d-10492535f8e0.在此背景下,美國(guó)政府與軍方對(duì)失去人工智能技術(shù)領(lǐng)先地位的危機(jī)感將進(jìn)一步強(qiáng)化其在人工智能軍事化領(lǐng)域的政策動(dòng)能。

    二、美國(guó)人工智能軍事化的戰(zhàn)略重心

    從特朗普到拜登政府執(zhí)政時(shí)期,美國(guó)政府與軍方對(duì)人工智能軍事化的關(guān)注度日益上升。其通過(guò)不斷完善制度與組織體系,為推進(jìn)人工智能軍事化進(jìn)程匯集資源;緊盯技術(shù)前沿,大力推進(jìn)項(xiàng)目發(fā)展并促進(jìn)與盟國(guó)間的政策與技術(shù)合作,以期在未來(lái)實(shí)施的人工智能作戰(zhàn)行動(dòng)中能夠提升聯(lián)盟體系的協(xié)同效能。

    (一)構(gòu)建系統(tǒng)的人工智能軍事化的資源與制度支持體系

    本世紀(jì)第二個(gè)十年之初,美國(guó)國(guó)防部和軍方已將人工智能軍事應(yīng)用系統(tǒng)納入其組織結(jié)構(gòu)。奧巴馬政府主要著眼于塑造與人工智能軍事化相關(guān)的戰(zhàn)略理念與基本戰(zhàn)略框架。美國(guó)國(guó)防部于2012年11月發(fā)布了名為《武器系統(tǒng)的自主》(Autonomy in Weapons Systems)的指令,該指令確立了政策并分配了責(zé)任,以塑造包括無(wú)人作戰(zhàn)平臺(tái)在內(nèi)的武器系統(tǒng)自主功能的開發(fā)和應(yīng)用,從而使得人工智能武器系統(tǒng)有望成為實(shí)施危險(xiǎn)任務(wù)的關(guān)鍵支持力量。①“Unmanned Systems Integrated Roadmap 2017-2042,” U.S. Department of Defense, Defense Daily,August 28, 2018, p.22, https://www.defensedaily.com/wp-content/uploads/post_attachment/206477.pdf.“第三次抵消戰(zhàn)略”則試圖通過(guò)發(fā)展自主學(xué)習(xí)系統(tǒng)、人機(jī)協(xié)作系統(tǒng)等基于人工智能的作戰(zhàn)系統(tǒng),以形成或強(qiáng)化相對(duì)于中俄等國(guó)的不對(duì)稱優(yōu)勢(shì),使美國(guó)進(jìn)一步鞏固其在軍事技術(shù)領(lǐng)域的領(lǐng)先地位。②Daniel Fiott, “America First, Third Offset Second?” The RUSI Journal, Vol.163, No.4, August/September 2018, p.40.

    特朗普政府執(zhí)政后,在經(jīng)濟(jì)與科技層面構(gòu)建與完善人工智能發(fā)展規(guī)劃、方案的過(guò)程中,亦加強(qiáng)軍用人工智能研發(fā)與應(yīng)用協(xié)調(diào)機(jī)構(gòu)的建設(shè)。國(guó)防部所頒布的《2018年國(guó)防部人工智能戰(zhàn)略》(2018 DoD Artificial Intelligence Strategy)旨在闡明加快應(yīng)用人工智能能力的方法和途徑,并強(qiáng)調(diào)了成立于2018年6月的國(guó)防部聯(lián)合人工智能中心的作用。該中心的主要功能是提升交付人工智能技術(shù)產(chǎn)品的能力,是執(zhí)行國(guó)防部人工智能戰(zhàn)略的核心單位。根據(jù)《2019年財(cái)年國(guó)防授權(quán)法案》(NDAA FY2019),美國(guó)建立了國(guó)家人工智能安全委員會(huì),其主要職責(zé)之一即“推進(jìn)人工智能、機(jī)器學(xué)習(xí)和相關(guān)技術(shù),全面解決國(guó)家安全和國(guó)防需求”。2021年1月1日,《2020年國(guó)家人工智能倡議法案》(NAIIA)生效,其包含的《國(guó)家人工智能計(jì)劃》(NAII)旨在確保美國(guó)在人工智能研發(fā)領(lǐng)域的領(lǐng)導(dǎo)地位,其通過(guò)提供一個(gè)總體框架,以加強(qiáng)和協(xié)調(diào)美國(guó)所有部門和機(jī)構(gòu)的人工智能研發(fā)活動(dòng),以加速人工智能研究和應(yīng)用,并試圖以此為人工智能軍事化進(jìn)程積聚技術(shù)儲(chǔ)備。

    拜登政府執(zhí)政后,在資源投入、公私合作以及軍事體系轉(zhuǎn)型等方面進(jìn)一步推進(jìn)人工智能軍事化進(jìn)程。首先,美國(guó)政府與國(guó)會(huì)兩黨進(jìn)一步推進(jìn)對(duì)人工智能軍事化的資金支持與政策協(xié)調(diào)。2021年7月13日,國(guó)防部長(zhǎng)勞埃德·奧斯汀(Lloyd J. Austin III)在華盛頓舉行的國(guó)家安全委員會(huì)人工智能全球新興技術(shù)峰會(huì)(Artificial Intelligence Global Emerging Technology Summit)上聲稱,國(guó)防部正在開發(fā)600多項(xiàng)人工智能項(xiàng)目。人工智能是國(guó)防部當(dāng)年花費(fèi)1120億美元進(jìn)行研究、開發(fā)、測(cè)試和評(píng)估預(yù)算(有史以來(lái)規(guī)模最大)中“最重要的技術(shù)重點(diǎn)之一”。①Amy McCullough, “DOD’s Artificial Intelligence Efforts Gain Momentum as US, Allies, and Partners Look to Counter China,” Air Force Magazine, July 13, 2021, https://www.airforcemag.com/dods-artificialintelligence-efforts-gain-momentum-as-us-allies-and-partners-look-to-counter-china/.其次,雖然曾面臨谷歌(Google)等企業(yè)員工和公眾人物的抵制,但推進(jìn)公私合作以借助美國(guó)企業(yè)在數(shù)字技術(shù)領(lǐng)域的技術(shù)積累,仍是美國(guó)推進(jìn)人工智能軍事化的主要著力點(diǎn)。在此形勢(shì)下,美國(guó)參議院人工智能核心小組共同創(chuàng)始人共和黨籍議員羅布·波特曼(Rob Portman)和民主黨籍議員馬丁·海因里希(Martin Heinrich)于2021年5月宣布兩黨聯(lián)立法案——《人工智能能力和透明度法案》(AICT)。法案強(qiáng)調(diào)需積極從私營(yíng)部門、大學(xué)和其他來(lái)源招聘人員參與國(guó)防系統(tǒng)的人工智能技術(shù)研發(fā)。②“Portman, Heinrich Announce Bipartisan Artificial Intelligence Bills To Boost AI-Ready National Security Personnel, Increase Governmental Transparency,” The US Senate, May 12, 2021 , https://www.portman.senate.gov/newsroom/press-releases/portman-heinrich-announce-bipartisan-artificial-intelligencebills-boost-ai.2021年11 月 15 日,專司促進(jìn)先進(jìn)技術(shù)軍民融合的“美國(guó)國(guó)防創(chuàng)新部門”(DIU)發(fā)布 “負(fù)責(zé)任的人工智能指南”(RAI)文件,旨在將國(guó)防部的人工智能道德原則落實(shí)到其商業(yè)原型設(shè)計(jì)和采購(gòu)工作中。③David Vergun, “Defense Innovation Unit Publishes ‘Responsible AI Guidelines’,” U.S. Department of Defense, Nov. 18, 2021, https://www.defense.gov/News/News-Stories/Article/Article/2847598/defenseinnovation-unit-publishes-responsible-ai-guidelines/.在拜登總統(tǒng)于2021年12月27日簽署的《2022財(cái)年國(guó)防授權(quán)法案》(NDAA FY2022)中,要求國(guó)防部長(zhǎng)修改聯(lián)合人工智能中心開展的聯(lián)合共同基金會(huì)(Joint Common Foundation)項(xiàng)目,以便利國(guó)防部與領(lǐng)先的人工智能公司簽訂合同(第2部分第227節(jié))。④“Summary of AI Provisions from the National Defense Authorization Act 2022,” The Stanford Institute for Human-Centered AI, https://hai.stanford.edu/summary-ai-provisions-national-defenseauthorization-act-2022.這顯示了美國(guó)軍方正通過(guò)制度化舉措,促進(jìn)私營(yíng)部門的資金與技術(shù)等資源助力人工智能軍事化步伐。再次,以人工智能推動(dòng)軍事體系的系統(tǒng)性轉(zhuǎn)型。根據(jù)《2022財(cái)年國(guó)防授權(quán)法案》的規(guī)定,在法案頒布后的180天內(nèi),國(guó)防部長(zhǎng)將確定將人工智能應(yīng)用納入國(guó)防部平臺(tái)、流程和操作的目標(biāo)。每個(gè)軍事部門和其他相關(guān)部門的負(fù)責(zé)人將制定績(jī)效指標(biāo)來(lái)實(shí)現(xiàn)上述目標(biāo)(第2部分第226節(jié))。⑤Ibid.可以預(yù)見(jiàn)的是,隨著美國(guó)政府與軍方對(duì)人工智能軍事化進(jìn)程的資源投入、組織協(xié)調(diào)與制度保障體系的完善,其人工智能軍事系統(tǒng)的研發(fā)與應(yīng)用進(jìn)程將逐漸加速。

    (二)加快人工智能軍事化項(xiàng)目的應(yīng)用進(jìn)程

    早在20世紀(jì)70年代,美軍就在語(yǔ)音識(shí)別等項(xiàng)目領(lǐng)域開展軍事智能化研究。此后,美軍在軍事智能化領(lǐng)域的研究與初步應(yīng)用一直得以延續(xù)。目前,美國(guó)政府與軍方已在情報(bào)分析、指揮控制與自主攻擊等領(lǐng)域加大對(duì)人工智能系統(tǒng)與裝備的研發(fā)與應(yīng)用進(jìn)程。

    首先,以人工智能技術(shù)增強(qiáng)數(shù)據(jù)、情報(bào)分析與處理能力以及作戰(zhàn)人員的信息溝通能力。人工智能技術(shù)可用于篩選、識(shí)別海量數(shù)據(jù)并向分析師和決策者提供信息,將確保情報(bào)分析、監(jiān)視與偵察大數(shù)據(jù)對(duì)分析師的價(jià)值最大化。①Brendan Cook, “The Future of Artificial Intelligence in ISR Operations,” Air and Space Power Journal, Special Edition, Summer 2021, p.46.美國(guó)軍方已將人工智能技術(shù)作為提升數(shù)據(jù)與情報(bào)分析能力的重要依托。例如,由于美國(guó)間諜飛機(jī)和衛(wèi)星每天收集的原始數(shù)據(jù)遠(yuǎn)超國(guó)防部的分析能力,國(guó)防部于2017年4月宣布實(shí)施代號(hào)為“Maven”的算法戰(zhàn)項(xiàng)目,通過(guò)與多家公司合作開發(fā)圖像分析算法,分析從無(wú)人機(jī)——包括“掃描鷹”(Scan Eagle)等戰(zhàn)術(shù)無(wú)人機(jī)平臺(tái)和MQ-1C“灰鷹”(Gray Eagle)、MQ-9“收割者”(Reaper)等中高空平臺(tái)——所獲取的全動(dòng)態(tài)視頻數(shù)據(jù),識(shí)別具有軍事價(jià)值的目標(biāo)。與此同時(shí),美國(guó)軍方還將人工智能技術(shù)作為提升單兵通信與作戰(zhàn)能力的重要依托。為此,美國(guó)軍方已向微軟等企業(yè)提供研發(fā)支持與軍購(gòu)合同。其中,美國(guó)陸軍于2021年3月26日授予微軟一份為期五年的綜合視覺(jué)增強(qiáng)系統(tǒng)(IVAS)合同,為其生產(chǎn)軍用版的全息透鏡增強(qiáng)現(xiàn)實(shí)眼鏡,該合同可再延長(zhǎng)5年,最大潛在價(jià)值為218.8億美元。②Sydney J. Freedberg Jr. “IVAS: Microsoft Award by Army Worth Up to $21.9B,” Breaking Defense,March 31, 2021, https://breakingdefense.com/2021/03/ivas-microsoft-award-worth-up-to-21-9b/.該系統(tǒng)借助人工智能技術(shù)使得作戰(zhàn)人員無(wú)需紙質(zhì)地圖,通過(guò)護(hù)目鏡即可規(guī)劃作戰(zhàn),提升戰(zhàn)場(chǎng)溝通效率。

    其次,以人工智能技術(shù)裝備提升作戰(zhàn)指揮系統(tǒng)的綜合效能。美國(guó)國(guó)防部已將人工智能在指揮系統(tǒng)的運(yùn)用作為優(yōu)先事項(xiàng)。其試圖將總參謀部各個(gè)功能板塊的運(yùn)作,包括作戰(zhàn)規(guī)劃、情報(bào)收集、后勤、通信和決策等環(huán)節(jié),都移交給各類智能系統(tǒng)。這些子系統(tǒng)將被集成到一個(gè)“系統(tǒng)中的系統(tǒng)”——“聯(lián)合全域指揮和控制”(JADC2)系統(tǒng)。2021年6月22日,美國(guó)國(guó)防部宣布了人工智能和數(shù)據(jù)加速(ADA)計(jì)劃。其目標(biāo)是快速推進(jìn)“聯(lián)合全域指揮和控制”等軍事智能化的概念,通過(guò)實(shí)驗(yàn)或訓(xùn)練產(chǎn)生基礎(chǔ)能力,并最終產(chǎn)生可用于傳感器數(shù)據(jù)的實(shí)時(shí)融合、自動(dòng)指揮和自主系統(tǒng)集成的數(shù)據(jù)和操作平臺(tái)。①Terri Moon Cronk, “Hicks Announces New Artificial Intelligence Initiative,” U.S. Department of Defense, June 22, 2021, https://www.defense.gov/Explore/News/Article/Article/2667212/hicks-announcesnew-artificial-intelligence-initiative/.美國(guó)空軍已與洛克希德·馬丁(Lockheed Martin)公司和其他國(guó)防承包商一起開發(fā)這一系統(tǒng)的關(guān)鍵部件。其中一個(gè)組成部分是“先進(jìn)戰(zhàn)斗管理系統(tǒng)”(ABMS),該系統(tǒng)旨在為戰(zhàn)斗機(jī)飛行員提供最新數(shù)據(jù),并指導(dǎo)戰(zhàn)斗行動(dòng)。另一個(gè)關(guān)鍵組成部分是陸軍的“綜合空中和導(dǎo)彈防御作戰(zhàn)指揮系統(tǒng)”(IBCS),其將雷達(dá)系統(tǒng)連接到防空和導(dǎo)彈防御發(fā)射裝置,并為其提供精確的發(fā)射指令。美國(guó)空軍和多家承包商尋求將上述系統(tǒng)進(jìn)行整合,從而將傳感器、發(fā)射裝置和部隊(duì)指揮官連接成一個(gè)軍事“物聯(lián)網(wǎng)”。這一系統(tǒng)的主要發(fā)展動(dòng)力是美國(guó)的軍事戰(zhàn)略調(diào)整,即在未來(lái)的沖突中與享有地理優(yōu)勢(shì)的實(shí)力接近的對(duì)手(俄羅斯和中國(guó))進(jìn)行競(jìng)爭(zhēng);該系統(tǒng)可增強(qiáng)美軍在陸、海、空、天各領(lǐng)域的聯(lián)動(dòng)能力,有利于提升那些部署在遠(yuǎn)離本土、駐地分散的美軍的戰(zhàn)場(chǎng)生存力,因而這一設(shè)想對(duì)部署在西太平洋的美軍尤具吸引力。②Loren Thompson, “The Biggest Military Tech Opportunity Of the Biden Years Isn’t a Weapon, It’s a Network”, Forbes, August 24, 2021, https://www.forbes.com/sites/lorenthompson/2021/08/24/the-biggestmilitary-tech-opportunity-of-the-biden-years-isnt-a-weapon-its-a-network/?sh=15216d20b628.而美國(guó)2022財(cái)年國(guó)防預(yù)算中新增的各類技術(shù)研發(fā)支出已為“聯(lián)合全域指揮控制”這一新型作戰(zhàn)模式進(jìn)行鋪墊。

    再次,推進(jìn)基于人工智能技術(shù)支持的自主攻擊平臺(tái)的研發(fā)與應(yīng)用。美國(guó)各軍種均有已經(jīng)或即將列裝的人工智能武器。一方面,針對(duì)虛擬作戰(zhàn)空間,美軍已推動(dòng)基于人工智能技術(shù)的新一代網(wǎng)絡(luò)空間作戰(zhàn)系統(tǒng)的開發(fā)。2017年,國(guó)防部高級(jí)研究計(jì)劃局(DARPA)資助了基于人工智能處理芯片的自主網(wǎng)絡(luò)攻擊系統(tǒng)的研發(fā)。另一方面,針對(duì)物理性作戰(zhàn)空間,美軍已嘗試裝備能在無(wú)直接人力投入的情況下選擇攻擊目標(biāo)并實(shí)施致命攻擊行動(dòng)的系統(tǒng)與武器。由于美國(guó)國(guó)內(nèi)新冠疫情的擴(kuò)散導(dǎo)致大量美國(guó)軍人的戰(zhàn)斗能力下降,促使美軍已越來(lái)越頻繁地依賴自主武器系統(tǒng)實(shí)施危險(xiǎn)的作戰(zhàn)行動(dòng)。值得注意的是,軍事飛行員一直是空中力量投射的核心。自動(dòng)駕駛和人工智能方面的技術(shù)進(jìn)步會(huì)導(dǎo)致無(wú)人駕駛飛行器(PAVs)的發(fā)展。③Arash Heydarian Pashakhanlou, “AI, Autonomy, and Airpower: The End of Pilots?” Defence Studies, Vol.19, No.4, 2019, p.337.在此背景下,未來(lái)美國(guó)人工智能軍事化的應(yīng)用成果,包括機(jī)器人哨兵、戰(zhàn)場(chǎng)監(jiān)視無(wú)人機(jī)和自主潛艇等裝備的研發(fā)與應(yīng)用會(huì)顯著增長(zhǎng)。

    (三)強(qiáng)化與盟國(guó)在人工智能軍事化領(lǐng)域的合作

    在美國(guó)戰(zhàn)略研究界的視野中,人工智能軍事化系統(tǒng)的應(yīng)用對(duì)美國(guó)及其盟國(guó)的軍事行動(dòng)協(xié)調(diào)帶來(lái)挑戰(zhàn)。這主要是由于并非所有國(guó)家都將以相同的速度開發(fā)軍用人工智能系統(tǒng),這一狀況會(huì)阻礙盟國(guó)間的任務(wù)分擔(dān)并制約武器系統(tǒng)的互操作性,而且在開發(fā)可互操作的人工智能軍用系統(tǒng)以及共享支持人工智能系統(tǒng)的數(shù)據(jù)方面,盟國(guó)將面臨相關(guān)的政治與技術(shù)挑戰(zhàn),特別是國(guó)家之間往往不愿共享敏感信息。①Erik Lin-Greenberg, “Allies and Artificial Intelligence: Obstacles to Operations and Decision-Making”, Texas National Security Review, Vol.3, Iss.2, 2020, p.62.對(duì)此,美國(guó)政府與軍方已利用其層層嵌套的聯(lián)盟體系,從核心盟國(guó)開始,推動(dòng)在人工智能軍事化領(lǐng)域的協(xié)作,并希望與盟國(guó)共同構(gòu)建針對(duì)人工智能的數(shù)據(jù)共享框架,以提高聯(lián)盟體系內(nèi)部在智能化作戰(zhàn)領(lǐng)域的系統(tǒng)兼容性。

    作為最核心的軍事同盟,美英澳三國(guó)新的“三邊安全伙伴關(guān)系”(AUKUS)于2021年9月建立。當(dāng)月15日,拜登聲稱,AUKUS將匯集三方力量,以保持和擴(kuò)大三方在軍事能力和關(guān)鍵技術(shù)方面的優(yōu)勢(shì),如網(wǎng)絡(luò)、人工智能、量子技術(shù)等領(lǐng)域。②“Remarks on the Australia-United Kingdom-United States (AUKUS) Security Agreement With Prime Minister Scott Morrison of Australia and Prime Minister Boris Johnson of the United Kingdom,” Daily Compilation of Presidential Documents, Administration of Joseph R. Biden, Jr, September 15, 2021, p.3.由于AUKUS旨在加強(qiáng)三國(guó)間的軍事技術(shù)交流與合作,人工智能軍事應(yīng)用將是這一軍事同盟的合作議題。與此同時(shí),美國(guó)與“五眼聯(lián)盟”(Five Eyes)伙伴國(guó)一直保持情報(bào)合作。目前的一些情報(bào)共享協(xié)議允許交換訓(xùn)練和操作人工智能系統(tǒng)所需的敏感數(shù)據(jù)。在北約(NATO)體系內(nèi),美國(guó)亦大力推進(jìn)其與盟國(guó)在人工智能軍事化領(lǐng)域的合作進(jìn)程。美國(guó)國(guó)防部人工智能聯(lián)合中心負(fù)責(zé)人于2020年1月表示,美國(guó)和北約為共同的價(jià)值觀大力推廣人工智能,以確保盟軍跟上數(shù)字現(xiàn)代化的步伐并保持互操作性。③Brian W. Everstine, “Closer Collaboration With NATO,” Air Force Magazine, January 15, 2020,https://www.airforcemag.com/dod-ai-leader-wants-closer-collaboration-with-nato/.在美國(guó)的推動(dòng)下,北約已將人工智能軍事化作為主要的發(fā)展方向。對(duì)北約而言,“競(jìng)爭(zhēng)對(duì)手”正在利用新技術(shù)來(lái)追求增強(qiáng)經(jīng)濟(jì)競(jìng)爭(zhēng)力和軍事能力的雙重目標(biāo);北約面臨一場(chǎng)以人工智能為核心的全球技術(shù)競(jìng)賽。④Edward Hunter Christie, “Artificial Intelligence at NATO: Dynamic Adoption, Responsible Use,”NATO Review, November 24, 2020, https://www.nato.int/docu/review/articles/2020/11/24/artificialintelligence-at-nato-dynamic-adoption-responsible-use/index.html.在此背景下,北約已在實(shí)施與人工智能相關(guān)的項(xiàng)目,包括人工智能、自動(dòng)化和機(jī)器人的軍事應(yīng)用項(xiàng)目和北約數(shù)據(jù)科學(xué)中心(NATO Data Science Centre)項(xiàng)目。2020 年5月,北約科技組織(STO)在其發(fā)布的報(bào)告中聲稱,北約制定新的技術(shù)戰(zhàn)略的主要影響因素包括日益智能化、互聯(lián)化、分布式和數(shù)字化的技術(shù)發(fā)展。特別是人工智能等技術(shù)領(lǐng)域的進(jìn)化和革命,定義了北約保持作戰(zhàn)和組織有效性所需的技術(shù)優(yōu)勢(shì)。①“Science & Technology Trends 2020-2040 Exploring the S&T Edge,” NATO Science & Technology Organization, May 2020, p.39, https://www.sto.nato.int/publications/Management%20Reports/2020_TTR_Public_release_final.pdf.2021年10月,北約國(guó)防部長(zhǎng)會(huì)議上正式通過(guò)北約人工智能戰(zhàn)略(AI Strategy for NATO)。該戰(zhàn)略的目標(biāo)是通過(guò)加強(qiáng)人工智能的關(guān)鍵能力和調(diào)整政策,加快人工智能的應(yīng)用,防范來(lái)自國(guó)家和非國(guó)家行為體使用人工智能技術(shù)所造成的威脅,并鼓勵(lì)盟國(guó)在人工智能方面的發(fā)展保持一致;北約在此領(lǐng)域的努力所創(chuàng)造的戰(zhàn)略優(yōu)勢(shì)將來(lái)自技術(shù)倫理方面的領(lǐng)導(dǎo)地位、人工智能技術(shù)的迭代應(yīng)用以及對(duì)人工智能系統(tǒng)的靈活性與互操作性等因素的整合效應(yīng)。②Zoe Stanley-Lockman and Edward Hunter Christie, “An Artificial Intelligence Strategy for NATO,”NATO Review, October 25, 2021, https://www.nato.int/docu/review/articles/2021/10/25/an-artificialintelligence-strategy-for-nato/index.html.

    在更大的聯(lián)盟體系范圍內(nèi),美國(guó)政府與軍方不斷加強(qiáng)與盟國(guó)在人工智能軍事化領(lǐng)域的互動(dòng)與合作。2020年9月15日至16日,美國(guó)國(guó)防部聯(lián)合人工智能中心與澳大利亞、加拿大、法國(guó)、日本、韓國(guó)、英國(guó)等13國(guó)軍方與國(guó)防部門舉行了首次人工智能防務(wù)伙伴關(guān)系(AI Partnership for Defense Joint Statement, AI PfD)論壇。該論壇旨在建立合作框架,協(xié)調(diào)盟國(guó)間的人工智能政策,以研發(fā)和在國(guó)防中應(yīng)用“負(fù)責(zé)任”的人工智能,提高盟國(guó)軍隊(duì)的互操作性;這顯示美國(guó)及其盟國(guó)的軍事力量正從以硬件為中心過(guò)渡到以軟件、數(shù)據(jù)為中心,而人工智能軍事聯(lián)盟將使美國(guó)及其盟國(guó)和伙伴能夠利用新興技術(shù)的潛力,以遏制共同的“威脅”。③“JAIC Facilitates First-ever International AI Dialogue for Defense,” U.S. Joint Artificial Intelligence Center,September 16, 2020, https://www.ai.mil/news_09_16_20-jaic_facilitates_first-ever_international_ai_dialogue_for_defense_.html.可以預(yù)見(jiàn)的是,隨著美國(guó)對(duì)華“競(jìng)爭(zhēng)”強(qiáng)度的上升以及中美軍事、科技差距的日益縮減,美國(guó)在人工智能軍事化領(lǐng)域?qū)γ藝?guó)的合作需求會(huì)進(jìn)一步上升。

    三、美國(guó)推動(dòng)人工智能軍事化對(duì)國(guó)際安全造成的風(fēng)險(xiǎn)

    盡管美國(guó)國(guó)防部尚未部署完全自主的武器系統(tǒng),但基于獲取絕對(duì)軍事優(yōu)勢(shì)的強(qiáng)烈動(dòng)機(jī),未來(lái)美軍在軍事部署與實(shí)戰(zhàn)中增加對(duì)軍用人工智能系統(tǒng)的應(yīng)用以及此類技術(shù)的外溢將對(duì)國(guó)際安全局勢(shì)造成顯著風(fēng)險(xiǎn)。

    (一)加劇新型軍備競(jìng)賽氛圍

    美國(guó)政府財(cái)政在資源日益捉襟見(jiàn)肘的背景下,又迫切地期望塑造對(duì)中俄新的軍事優(yōu)勢(shì),這不僅會(huì)激勵(lì)包括美國(guó)盟國(guó)在內(nèi)的主要國(guó)家快速部署各類人工智能軍事化應(yīng)用系統(tǒng),還會(huì)導(dǎo)致其“假想敵”采取針對(duì)性戰(zhàn)略與措施。由此,美國(guó)人工智能軍事化進(jìn)程將加劇新型軍備競(jìng)賽。

    在2014年的克里米亞事件發(fā)生之后,俄國(guó)一直面臨美國(guó)的全方位打壓,面對(duì)美俄軍事實(shí)力差距漸趨擴(kuò)大以及美國(guó)智能武器系統(tǒng)的發(fā)展態(tài)勢(shì),為促進(jìn)本國(guó)智能技術(shù)的發(fā)展,俄國(guó)政府通過(guò)完善管理體系、提高協(xié)調(diào)能力并加強(qiáng)軍地合作,促進(jìn)軍事智能技術(shù)的發(fā)展。在軍政高層力推下,俄軍智能化武器陸續(xù)試驗(yàn)或列裝。對(duì)俄國(guó)而言,加快推動(dòng)人工智能軍事系統(tǒng)的應(yīng)用可以創(chuàng)造一種更有效、成本更低的戰(zhàn)略來(lái)與美國(guó)進(jìn)行非對(duì)稱競(jìng)爭(zhēng),而且這一戰(zhàn)略思路已延伸到了核武器領(lǐng)域。例如,俄國(guó)研制的采用核動(dòng)力、可配置核武裝、具有一定智能化水平的無(wú)人潛航器——“海神”(Poseidon)的任務(wù)是摧毀基礎(chǔ)設(shè)施、航母群和其他高價(jià)值目標(biāo)。①Katarzyna Zysk, “Defence Innovation and the 4th Industrial Revolution in Russia,” Journal of Strategic Studies, Vol.44, No.4, 2021, pp.561-562.由此可見(jiàn),美國(guó)推進(jìn)人工智能軍事化進(jìn)程已導(dǎo)致基于人工智能技術(shù)的新型軍備競(jìng)賽逐漸升溫。

    不容忽視的是,由于美國(guó)試圖聯(lián)合盟國(guó)推進(jìn)人工智能軍事化,其軍事智能化技術(shù)存在向日本等中國(guó)周邊國(guó)家外溢的趨勢(shì),可能導(dǎo)致地區(qū)安全格局發(fā)生變化,并可能導(dǎo)致其他地區(qū)性國(guó)家加入發(fā)展軍事智能化系統(tǒng)的軍備競(jìng)賽,從而惡化地區(qū)安全局勢(shì)。

    (二)增加大國(guó)間意外沖突與戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)

    美國(guó)基于人工智能技術(shù)支持的自主武器系統(tǒng)在設(shè)計(jì)、部署和應(yīng)用中的缺陷與失誤及其對(duì)國(guó)際政治的影響,將會(huì)增加意外沖突和軍事對(duì)抗升級(jí)的風(fēng)險(xiǎn)。

    首先,美國(guó)研發(fā)與應(yīng)用的自主攻擊系統(tǒng)的自動(dòng)化分析與決策程序,會(huì)受到“戰(zhàn)爭(zhēng)迷霧”的影響,即沖突的快速變化、不可預(yù)測(cè)性與脆弱的人工智能系統(tǒng)不兼容。機(jī)器學(xué)習(xí)系統(tǒng)通常依賴于非常大的數(shù)據(jù)集,這在一些軍事場(chǎng)景中可能不存在。當(dāng)軍用人工智能系統(tǒng)使用不充分的數(shù)據(jù)集進(jìn)行訓(xùn)練或在其設(shè)計(jì)的狹窄背景之外應(yīng)用時(shí),此類系統(tǒng)通常是不可靠和脆弱的。在美軍急于部署軍用人工智能系統(tǒng)的態(tài)勢(shì)下,系統(tǒng)的可靠性不足與對(duì)“假想敵”的猜疑、恐懼等因素疊加,會(huì)增加發(fā)生意外沖突的風(fēng)險(xiǎn)。值得注意的是,美國(guó)陸軍未來(lái)司令部(Army Futures Command)司令約翰·默里(John Murray)于2021年1月下旬表示,由于人類可能無(wú)法對(duì)抗敵方無(wú)人機(jī)群,因此控制人工智能的規(guī)則可能需要放松。這意味著五角大樓對(duì)自動(dòng)武器的使用規(guī)則做出了新的解釋。①David Hambling, “Drone Swarms Are Getting Too Fast for Humans to Fight, U.S. General Warns,”Forbes, January 27, 2021, https://www.forbes.com/sites/davidhambling/2021/01/27/drone-swarms-aregetting-too-fast-for-humans-too-fight-us-general-warns/?sh=7ced412372c9.由此可以預(yù)見(jiàn)的是,雖然目前美軍的自主武器系統(tǒng)仍會(huì)受到操作員的遠(yuǎn)程操控,但隨著人工智能軍事化系統(tǒng)列裝進(jìn)度的加快,未來(lái)美軍有可能會(huì)將部分“自衛(wèi)戰(zhàn)術(shù)”托付給人工智能系統(tǒng),以利用其快速?zèng)Q策能力,這可能導(dǎo)致戰(zhàn)術(shù)性失誤或事故,并使意外沖突發(fā)生的概率與風(fēng)險(xiǎn)不斷上升。例如,在美軍對(duì)中國(guó)沿海實(shí)施抵近偵察、軍事挑釁并導(dǎo)致出現(xiàn)對(duì)峙局面的過(guò)程中,如果“聯(lián)合全域指揮和控制”等智能系統(tǒng)出現(xiàn)技術(shù)故障,可能會(huì)導(dǎo)致美軍對(duì)戰(zhàn)場(chǎng)態(tài)勢(shì)感知產(chǎn)生誤判,并引發(fā)意外攻擊或沖突。

    其次,人工智能武器系統(tǒng)的秘密性會(huì)侵蝕大國(guó)安全關(guān)系中的戰(zhàn)略“默契”,影響對(duì)手的戰(zhàn)略判斷,從而導(dǎo)致國(guó)家間沖突風(fēng)險(xiǎn)。在人工智能輔助下的指揮和控制系統(tǒng),其決策速度會(huì)大大超越傳統(tǒng)戰(zhàn)爭(zhēng)模式,加上自主武器系統(tǒng)的應(yīng)用,將顯著加速戰(zhàn)爭(zhēng)進(jìn)程。值得注意的是,“聯(lián)合全域指揮和控制”等系統(tǒng)所體現(xiàn)的全域聯(lián)合作戰(zhàn)思路,強(qiáng)調(diào)多域協(xié)同,不僅包括在一般物理空間采取軍事行動(dòng)的能力,而且更加強(qiáng)調(diào)在太空、網(wǎng)絡(luò)空間、電磁頻譜、信息環(huán)境等方面的認(rèn)知、行動(dòng)與控制能力。②陳彩輝:《美軍“聯(lián)合全域作戰(zhàn)(JADO)”概念淺析》,《中國(guó)電子科學(xué)研究院學(xué)報(bào)》2020年第10期,第921頁(yè)。這使得在大國(guó)關(guān)系出現(xiàn)緊張的過(guò)程中,一國(guó)對(duì)他國(guó)所造成的威脅的來(lái)源、性質(zhì)與程度的識(shí)別與判斷更加困難。對(duì)此,基辛格認(rèn)為,軍事人工智能系統(tǒng)可能會(huì)導(dǎo)致外交失??;人工智能的秘密性和瞬時(shí)性意味著,與常規(guī)武器或核武器不同的是,國(guó)家決策者不能簡(jiǎn)單地將其作為一種明顯的威脅擺到臺(tái)面上;在戰(zhàn)略方面,國(guó)家可能在一段時(shí)間內(nèi)難以識(shí)別威脅來(lái)源,這可能會(huì)導(dǎo)致戰(zhàn)場(chǎng)上的混亂等不利后果。③George Dvorsky, “Henry Kissinger Warns That AI Will Fundamentally Alter Human Consciousness,”Gizmodo, November 5, 2019, https://gizmodo.com/henry-kissinger-warns-that-ai-will-fundamentallyalter-1839642809.由此,在美國(guó)強(qiáng)化人工智能軍事化進(jìn)程的背景下,大國(guó)博弈中的不可控因素將會(huì)進(jìn)一步增加,并會(huì)對(duì)中國(guó)周邊地區(qū)以及更大范圍的國(guó)際安全局勢(shì)造成負(fù)面影響。

    最后,人工智能與網(wǎng)絡(luò)技術(shù)的結(jié)合可能進(jìn)一步降低網(wǎng)絡(luò)攻擊的門檻。美國(guó)及其西方盟國(guó)的戰(zhàn)略傾向顯示,具有重要軍事意義的進(jìn)攻性武器和自主武器系統(tǒng)可能將被部署在網(wǎng)絡(luò)空間。特別是美軍已使用計(jì)算機(jī)病毒、木馬程序和邏輯炸彈等智能網(wǎng)絡(luò)武器,對(duì)一些國(guó)家的政府機(jī)關(guān)、軍事科研等機(jī)構(gòu)的網(wǎng)絡(luò)進(jìn)行情報(bào)搜集、破壞等活動(dòng)。而且隨著美國(guó)人工智能軍事化進(jìn)程的發(fā)展,將有越來(lái)越多的物理實(shí)體可以成為美軍實(shí)施網(wǎng)絡(luò)攻擊的對(duì)象,這將成為大國(guó)間網(wǎng)絡(luò)安全爭(zhēng)議與對(duì)抗升級(jí)的誘發(fā)因素,尤其會(huì)對(duì)中國(guó)的網(wǎng)絡(luò)安全局勢(shì)造成更為嚴(yán)峻的挑戰(zhàn)。

    (三)重構(gòu)大國(guó)間威懾體系并侵蝕大國(guó)安全關(guān)系的穩(wěn)定性

    在過(guò)去幾十年中,核大國(guó)之間存在的“相互確保摧毀”的狀態(tài)維持了全球力量的平衡,而人工智能技術(shù)的軍事化應(yīng)用則可能會(huì)從根本上改變這種“核恐怖平衡”。核戰(zhàn)會(huì)導(dǎo)致相互毀滅,任何發(fā)起先發(fā)制人核打擊的國(guó)家都可能面臨自我毀滅,但利用基于人工智能技術(shù)支持的自主武器實(shí)施出其不意的首次攻擊可能無(wú)法追蹤,因此威懾理論并不適用于自主武器系統(tǒng)。智能化戰(zhàn)爭(zhēng)的重要特征就是對(duì)抗節(jié)奏明顯加快,制勝機(jī)理從以能制勝轉(zhuǎn)變?yōu)橐钥熘苿?。在此形?shì)下,自主武器攻擊可以迅速觸發(fā)響應(yīng)并使得沖突迅速升級(jí),這一過(guò)程中蘊(yùn)含著觸發(fā)核戰(zhàn)爭(zhēng)的風(fēng)險(xiǎn)。例如,“聯(lián)合全域指揮和控制”系統(tǒng)可以探測(cè)到其認(rèn)為構(gòu)成安全風(fēng)險(xiǎn)的敵方行動(dòng),因此美國(guó)在這一狀況下有可能使用飛機(jī)、導(dǎo)彈發(fā)動(dòng)全面攻擊,使沖突升級(jí),這會(huì)杜絕通過(guò)談判解決危機(jī)的可能。事實(shí)上,根據(jù)美國(guó)的軍事理論,其一直都有可能使用所謂的戰(zhàn)術(shù)核武器來(lái)應(yīng)對(duì)蘇聯(lián)和現(xiàn)在俄羅斯的進(jìn)攻行動(dòng),而人們亦普遍認(rèn)為俄羅斯的軍事理論也包含了類似選項(xiàng);在此情況下,“聯(lián)合全域指揮和控制”系統(tǒng)或其他類似系統(tǒng)可能會(huì)將敵人的行動(dòng)誤解為準(zhǔn)備發(fā)射核武器的信號(hào),并命令美國(guó)核力量進(jìn)行先發(fā)制人的打擊,從而引發(fā)新的世界大戰(zhàn)。①M(fèi)ichael T. Klare, “Artificial (un)intelligence and the U.S. Military,” Salon, September 11, 2020,https://www.salon.com/2020/09/11/artificial-unintelligence-and-the-us-military_partner/.在此背景下,傳統(tǒng)的以核為主的威懾體系正在向“核常兼?zhèn)渫伢w系”轉(zhuǎn)變,這一態(tài)勢(shì)會(huì)侵蝕大國(guó)安全關(guān)系的穩(wěn)定性。

    四、應(yīng)對(duì)美國(guó)人工智能軍事化的路徑選擇

    美國(guó)當(dāng)下為維護(hù)其全球主導(dǎo)地位的戰(zhàn)略意圖與美國(guó)推進(jìn)人工智能軍事化的政策、措施,以及美國(guó)軍事技術(shù)迭代及其戰(zhàn)場(chǎng)應(yīng)用的歷史,均顯示美國(guó)加快推進(jìn)人工智能軍事化的趨勢(shì)難以改變。對(duì)中國(guó)而言,需要預(yù)研與防范這一趨勢(shì)所造成的威脅,并從多邊和雙邊兩個(gè)層面推動(dòng)針對(duì)人工智能軍事化的國(guó)際合作議程。

    (一)強(qiáng)化反智能作戰(zhàn)能力以應(yīng)對(duì)基于新興技術(shù)的軍事威脅

    美國(guó)人工智能軍事化進(jìn)程,特別是進(jìn)攻性智能武器系統(tǒng)的發(fā)展,對(duì)中國(guó)和平發(fā)展所需的安全、穩(wěn)定的國(guó)際環(huán)境造成諸多不利挑戰(zhàn)。對(duì)此,中國(guó)需在推動(dòng)軍事理論創(chuàng)新的基礎(chǔ)上,針對(duì)人工智能等新興技術(shù)領(lǐng)域,進(jìn)一步提升研發(fā)與軍民融合力度,提升應(yīng)對(duì)智能化作戰(zhàn)的技術(shù)能力,并加強(qiáng)對(duì)敏感數(shù)據(jù)跨境流動(dòng)的管控。第一,以軍民融合構(gòu)建應(yīng)對(duì)智能化戰(zhàn)爭(zhēng)的技術(shù)基礎(chǔ)。人工智能興起于民用技術(shù),反人工智能技術(shù)亦可借助民用技術(shù)得到發(fā)展。因此,基于軍民融合提升反智能化作戰(zhàn)的能力,不僅有利于構(gòu)建應(yīng)對(duì)智能化戰(zhàn)爭(zhēng)的技術(shù)基礎(chǔ),還可通過(guò)技術(shù)進(jìn)步制約美國(guó)發(fā)動(dòng)智能化戰(zhàn)爭(zhēng)的戰(zhàn)略傾向。第二,以增強(qiáng)防御性能力為主,提升在軍事智能化領(lǐng)域的攻防能力。需要以智能技術(shù)為突破,著重提升武器系統(tǒng)的智能化水平,并積極發(fā)揮算法在情報(bào)分析、輔助決策、智能指揮、精確協(xié)同、精準(zhǔn)保障等方面的作用。①趙輝:《應(yīng)對(duì)智能化戰(zhàn)爭(zhēng)的對(duì)策思考》,《海軍工程大學(xué)學(xué)報(bào)(綜合版)》2020年第3期,第34頁(yè)。由此,在數(shù)據(jù)積累的基礎(chǔ)上,不斷提升算力并構(gòu)建自適應(yīng)能力更強(qiáng)的平臺(tái)。第三,進(jìn)一步加強(qiáng)對(duì)國(guó)內(nèi)敏感數(shù)據(jù)跨境流動(dòng)的管控。這是由于可用于支持智能作戰(zhàn)的數(shù)據(jù)不但包括軍事系統(tǒng)的偵察、監(jiān)視和情報(bào)活動(dòng)的成果,還包括各類電子商務(wù)平臺(tái)與軟件所掌握的地理信息、社會(huì)文化信息與社交媒體數(shù)據(jù)等。日益引發(fā)關(guān)注的是,在企業(yè)內(nèi)部或通過(guò)第三方合作的方式實(shí)施的人工智能技術(shù)研發(fā)和場(chǎng)景應(yīng)用中,均需常態(tài)化、持續(xù)性、高速率、低延時(shí)的跨境數(shù)據(jù)流動(dòng),這會(huì)帶來(lái)敏感和重要數(shù)據(jù)出境后的安全風(fēng)險(xiǎn)。②夏玉明、石英村:《人工智能發(fā)展與數(shù)據(jù)安全挑戰(zhàn)》,《信息安全與通信保密》2020年第12期,第77頁(yè)。在此形勢(shì)下,強(qiáng)化敏感數(shù)據(jù)的跨境流動(dòng)管理,對(duì)于弱化美軍進(jìn)攻性智能武器的深度學(xué)習(xí)所依賴的數(shù)據(jù)基礎(chǔ)具有重要意義。

    (二)推動(dòng)針對(duì)人工智能軍事化的多邊技術(shù)治理進(jìn)程

    以美國(guó)人工智能軍事化進(jìn)程為代表的全球范圍內(nèi)的人工智能軍事化趨勢(shì)反映了新的戰(zhàn)略、戰(zhàn)術(shù)操作挑戰(zhàn)與安全風(fēng)險(xiǎn),特別是在自主系統(tǒng)的部署和人機(jī)團(tuán)隊(duì)的整合方面,引發(fā)了關(guān)于人工智能治理和倫理等新問(wèn)題?;趯?duì)自主武器可能引發(fā)的安全風(fēng)險(xiǎn)的擔(dān)憂,自2014年起,《特定常規(guī)武器公約》(CCW)的締約國(guó)以及部分非締約國(guó)、政府間國(guó)際組織、非政府組織等主體,在該公約框架下組織會(huì)議對(duì)自主武器進(jìn)行了討論。2017年,這一非正式會(huì)議轉(zhuǎn)變?yōu)檎g專家組會(huì)議。美國(guó)參與此類活動(dòng)主要秉持兩大目標(biāo):一是為美國(guó)在該領(lǐng)域形成絕對(duì)的競(jìng)爭(zhēng)優(yōu)勢(shì)爭(zhēng)取時(shí)間和空間;二是呼吁國(guó)際社會(huì)重視自主武器所帶來(lái)的安全問(wèn)題,特別是要防范會(huì)對(duì)美國(guó)安全和霸權(quán)地位造成“威脅”的任何主體“濫用”自主武器。①王玫黎、杜陳潔:《美國(guó)參與自主性武器國(guó)際軍控的戰(zhàn)略關(guān)切及角色定位》,《國(guó)際觀察》2021年第2期,第133頁(yè)。其實(shí)質(zhì)是在關(guān)注自主武器系統(tǒng)的負(fù)面影響的同時(shí),防止形成不利于美國(guó)利益最大化的國(guó)際規(guī)則。美國(guó)對(duì)待人工智能全球治理的機(jī)會(huì)主義立場(chǎng),以及在很大程度上由這一傾向所導(dǎo)致的針對(duì)人工智能軍事化的規(guī)則設(shè)置、機(jī)制構(gòu)建等方面的滯后狀態(tài),不利于防范未來(lái)可能爆發(fā)的智能化戰(zhàn)爭(zhēng)及其升級(jí)進(jìn)程。特別是自主系統(tǒng)在軍事行動(dòng)中的角色及其所存在的局限性,有可能在其造成國(guó)際沖突或人道主義災(zāi)難之后,成為美軍推卸責(zé)任的借口。

    鑒于這一態(tài)勢(shì),中國(guó)需以參與全球技術(shù)治理為契機(jī),提升在人工智能治理領(lǐng)域的話語(yǔ)權(quán),推動(dòng)人工智能國(guó)際規(guī)則的創(chuàng)設(shè),以此維護(hù)人工智能軍事化趨勢(shì)下的國(guó)際安全。具體而言,需秉持構(gòu)建新一輪技術(shù)革命條件下的人類命運(yùn)共同體的理念,支持與促進(jìn)國(guó)際社會(huì)就人工智能問(wèn)題開展常態(tài)化的多邊溝通。在此過(guò)程中,需繼續(xù)推動(dòng)《特定常規(guī)武器公約》框架下的關(guān)于致命性自主武器的政府專家組會(huì)議以及日內(nèi)瓦裁軍談判會(huì)議等多邊軍控平臺(tái)對(duì)人工智能國(guó)際規(guī)范的磋商,倡議與引導(dǎo)各國(guó)就處理人工智能軍事化問(wèn)題的原則、方式和法律文書達(dá)成更多共識(shí),避免采取歧視性措施,防止對(duì)和平利用人工智能技術(shù)產(chǎn)生阻礙。②李馳江:《人工智能在軍事領(lǐng)域的應(yīng)用及全球治理》,《學(xué)術(shù)前沿》2021年第10期,第27頁(yè)。在此基礎(chǔ)上,推動(dòng)建立人工智能技術(shù)規(guī)范體系和監(jiān)管框架,對(duì)智能武器的設(shè)計(jì)原則、作戰(zhàn)方式、故障控制、風(fēng)險(xiǎn)防范等問(wèn)題予以規(guī)范。

    (三)拓展中美在軍用人工智能風(fēng)險(xiǎn)管控領(lǐng)域的合作空間

    自2017年之后,美國(guó)和中國(guó)在經(jīng)濟(jì)、科技以及地緣政治等領(lǐng)域的沖突與爭(zhēng)議加劇,而合作面相對(duì)縮減,這對(duì)兩國(guó)而言是一個(gè)代價(jià)高昂的趨勢(shì),因其導(dǎo)致對(duì)抗成本上升并放棄了潛在的收益;美國(guó)和中國(guó)正在進(jìn)行變革性的權(quán)力轉(zhuǎn)移,但權(quán)力轉(zhuǎn)移既不排除在安全和經(jīng)濟(jì)競(jìng)爭(zhēng)上的節(jié)制,也不排除在雙邊和全球事務(wù)中就共同利益進(jìn)行合作。③Robert S. Ross, “It’s Not a Cold War: Competition and Cooperation in US–China Relations,” China International Strategy Review, June 2020, p.63.作為核大國(guó),中美兩國(guó)間的大規(guī)模對(duì)抗和逐底競(jìng)爭(zhēng)的代價(jià)極其高昂,因此兩國(guó)在確保斗爭(zhēng)的邊界、避免無(wú)限制的斗爭(zhēng)升級(jí)和相互毀滅方面存在共同利益,而兩國(guó)間的合作能力將決定人類能否在應(yīng)對(duì)全球問(wèn)題方面取得進(jìn)展。①Suisheng Zhao, “The US–China Rivalry in the Emerging Bipolar World: Hostility, Alignment, and Power Balance,” Journal of Contemporary China, July 2021, p.16.這意味著中美兩國(guó)在科技、軍事等領(lǐng)域的競(jìng)爭(zhēng)過(guò)程中,亦存在不容忽視的合作收益。

    實(shí)際上,在人工智能技術(shù)領(lǐng)域,對(duì)技術(shù)主導(dǎo)地位的焦慮是美國(guó)對(duì)自身經(jīng)濟(jì)、軍事和政治實(shí)力的相對(duì)衰減以及由此引發(fā)的不安全感的體現(xiàn)。在一些美國(guó)戰(zhàn)略研究人士看來(lái),即使美國(guó)在人工智能領(lǐng)域獲得領(lǐng)先地位,也并不意味著獲得勝利,美國(guó)還需要防范可能導(dǎo)致災(zāi)難性沖突的大國(guó)競(jìng)爭(zhēng),由此需要美國(guó)與盟國(guó),甚至中國(guó)等對(duì)手合作。②Elsa B. Kania, “Artificial Intelligence in China’s Revolution in Military Affairs,” Journal of Strategic Studies, Vol.44, Iss.3, May 2021, p.26.值得注意的是,如何在保證安全性的前提下獲取與維持絕對(duì)競(jìng)爭(zhēng)優(yōu)勢(shì)也是美國(guó)政府、軍方以及科研人員關(guān)注的重要問(wèn)題。

    在此背景下,兩國(guó)可就人工智能軍事化背景下的風(fēng)險(xiǎn)緩解和危機(jī)管控問(wèn)題進(jìn)行對(duì)話與合作。首先,可在兩國(guó)間的軍事與網(wǎng)絡(luò)安全對(duì)話中增加關(guān)于人工智能軍事化議題的討論,探索構(gòu)建相關(guān)的風(fēng)險(xiǎn)防范與危機(jī)管控措施。在部分美國(guó)戰(zhàn)略界人士看來(lái),拜登政府有機(jī)會(huì)通過(guò)建立信任措施以促進(jìn)信息共享,增加國(guó)家間在人工智能領(lǐng)域的透明度,此類措施為降低安全風(fēng)險(xiǎn)提供了一個(gè)有吸引力的選擇,因其側(cè)重于建立信任,而非關(guān)注沖突的敏感根源。③Michael C. Horowitz & Lauren Kahn, “How Joe Biden Can Use Confidence-building Measures for Military Uses of AI,” Bulletin of the Atomic Scientists, Vol.77, No.1, 2021, p.34.其次,雙方可就避免過(guò)度、過(guò)快地開發(fā)人工智能軍事化項(xiàng)目進(jìn)行溝通,以防止引發(fā)并惡化相關(guān)的倫理與安全問(wèn)題。再次,雙方可探索就智能化軍事系統(tǒng)的運(yùn)行原則與方式確立準(zhǔn)則。美國(guó)人工智能國(guó)家安全委員會(huì)亦認(rèn)為,美國(guó)應(yīng)明確和公開地確認(rèn)美國(guó)現(xiàn)有的政策,即只有人類才能授權(quán)使用核武器,并尋求俄羅斯和中國(guó)作出類似的承諾,還需建立國(guó)際平臺(tái),以與競(jìng)爭(zhēng)對(duì)手討論人工智能對(duì)危機(jī)事件的影響,并防止沖突升級(jí)等風(fēng)險(xiǎn)。④“2021 Final Report,” U.S. National Security Commission on Artificial Intelligence, March 2021,pp.9-10, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf.雖然美方的此類政策宣示與實(shí)際行動(dòng)往往存在差距,但雙方在人工智能軍事化議題展開溝通,并爭(zhēng)取達(dá)成階段性共識(shí),有利于拓展合作面,避免因互信不足而造成的惡性競(jìng)爭(zhēng),進(jìn)而有助于維護(hù)地區(qū)安全局勢(shì)與全球戰(zhàn)略穩(wěn)定。

    猜你喜歡
    軍事化軍事人工智能
    單親爸爸育兒經(jīng):軍事化管理收服“公主心”
    好日子(2019年4期)2019-05-11 08:48:30
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    走進(jìn)世紀(jì)陽(yáng)光感受軍事化管理的魅力
    航海類院校學(xué)生半軍事化管理文化建設(shè)初探
    軍事幽默:局
    軍事文摘(2009年9期)2009-07-30 09:40:44
    軍事
    軍事幽默
    軍事文摘(2009年5期)2009-06-30 01:01:04
    av国产免费在线观看| 久久午夜福利片| 国产69精品久久久久777片| 在线播放国产精品三级| 亚洲av五月六月丁香网| 精华霜和精华液先用哪个| 国产精品爽爽va在线观看网站| 女生性感内裤真人,穿戴方法视频| 免费看美女性在线毛片视频| 午夜激情福利司机影院| 啦啦啦韩国在线观看视频| 亚洲av二区三区四区| www日本黄色视频网| 91久久精品国产一区二区三区| 丝袜美腿在线中文| 国产亚洲欧美98| 天堂影院成人在线观看| 久久香蕉精品热| 亚洲国产精品sss在线观看| a级毛片免费高清观看在线播放| 男女视频在线观看网站免费| 蜜桃久久精品国产亚洲av| av在线亚洲专区| 男人舔奶头视频| 亚洲精品色激情综合| 夜夜爽天天搞| 亚洲一区高清亚洲精品| 国产免费男女视频| 少妇被粗大猛烈的视频| 亚洲国产精品成人综合色| 久久99热6这里只有精品| 日韩一区二区视频免费看| 999久久久精品免费观看国产| 91av网一区二区| 99在线人妻在线中文字幕| 久久久久九九精品影院| 国产色婷婷99| 日韩一本色道免费dvd| 变态另类丝袜制服| 非洲黑人性xxxx精品又粗又长| 国产久久久一区二区三区| 免费看光身美女| 日韩欧美精品v在线| 制服丝袜大香蕉在线| 99热这里只有是精品在线观看| 国产高清三级在线| 12—13女人毛片做爰片一| 97超视频在线观看视频| 久99久视频精品免费| 精品国内亚洲2022精品成人| 午夜福利在线在线| 中文字幕熟女人妻在线| 国产单亲对白刺激| 国产白丝娇喘喷水9色精品| 搡女人真爽免费视频火全软件 | 偷拍熟女少妇极品色| 狂野欧美白嫩少妇大欣赏| 真人做人爱边吃奶动态| 亚洲专区中文字幕在线| 俄罗斯特黄特色一大片| 中出人妻视频一区二区| 亚洲第一区二区三区不卡| 成人国产麻豆网| 久久久久久久精品吃奶| 在线播放国产精品三级| 两个人的视频大全免费| a级毛片免费高清观看在线播放| 亚洲国产色片| 亚洲成av人片在线播放无| 国产三级中文精品| 一个人免费在线观看电影| 亚洲精品456在线播放app | 国产一区二区三区在线臀色熟女| 国产精品一区www在线观看 | 中文字幕熟女人妻在线| 午夜福利成人在线免费观看| 国产探花极品一区二区| 搡女人真爽免费视频火全软件 | 亚洲aⅴ乱码一区二区在线播放| 人妻久久中文字幕网| 高清在线国产一区| 国产一级毛片七仙女欲春2| 五月玫瑰六月丁香| 久9热在线精品视频| 99热这里只有是精品50| 日韩人妻高清精品专区| 日本免费a在线| 免费看日本二区| 国产精品乱码一区二三区的特点| 亚洲自拍偷在线| 极品教师在线免费播放| 精品日产1卡2卡| 国产毛片a区久久久久| 少妇丰满av| 亚洲av电影不卡..在线观看| 天天一区二区日本电影三级| 日韩欧美三级三区| 99热6这里只有精品| 伦精品一区二区三区| 看黄色毛片网站| 亚洲 国产 在线| 亚洲精品国产成人久久av| 午夜激情欧美在线| 伦理电影大哥的女人| avwww免费| 最近最新免费中文字幕在线| 精品久久久噜噜| 国产精品综合久久久久久久免费| 免费高清视频大片| 亚洲国产色片| 国产免费男女视频| 国产精品免费一区二区三区在线| 俺也久久电影网| 亚洲在线自拍视频| 国产高清视频在线播放一区| 18禁在线播放成人免费| 校园春色视频在线观看| 国产一区二区三区视频了| 亚洲精品粉嫩美女一区| 成年女人毛片免费观看观看9| 亚洲三级黄色毛片| 亚洲乱码一区二区免费版| 日本爱情动作片www.在线观看 | 欧美日韩国产亚洲二区| 精华霜和精华液先用哪个| 亚洲欧美日韩卡通动漫| 国产激情偷乱视频一区二区| 午夜福利欧美成人| 一本久久中文字幕| 国产亚洲精品av在线| 精品人妻视频免费看| 日韩av在线大香蕉| 精品久久久噜噜| 亚洲精品亚洲一区二区| 国产高清有码在线观看视频| 男女那种视频在线观看| 日韩一本色道免费dvd| 午夜亚洲福利在线播放| 久久久精品大字幕| 亚洲成人精品中文字幕电影| 中国美女看黄片| 精品久久久久久久久久免费视频| 国产精品一区二区性色av| or卡值多少钱| 一本精品99久久精品77| 人人妻,人人澡人人爽秒播| 超碰av人人做人人爽久久| 国产精品伦人一区二区| 亚洲人成网站在线播放欧美日韩| 九色成人免费人妻av| aaaaa片日本免费| 不卡视频在线观看欧美| 久久人人爽人人爽人人片va| 成人亚洲精品av一区二区| 国产视频一区二区在线看| 国产一区二区在线av高清观看| 天天一区二区日本电影三级| 久久精品人妻少妇| 99久久无色码亚洲精品果冻| 国产av麻豆久久久久久久| 2021天堂中文幕一二区在线观| 欧美黑人欧美精品刺激| 成人二区视频| 久久精品91蜜桃| 久久久久久久午夜电影| 欧美日韩亚洲国产一区二区在线观看| 国产高清不卡午夜福利| 美女高潮喷水抽搐中文字幕| 在线看三级毛片| 又黄又爽又免费观看的视频| 色吧在线观看| 干丝袜人妻中文字幕| 欧美激情久久久久久爽电影| 女生性感内裤真人,穿戴方法视频| 成人性生交大片免费视频hd| 亚洲专区国产一区二区| 国内毛片毛片毛片毛片毛片| 日本一本二区三区精品| 国产 一区精品| www.www免费av| 18+在线观看网站| 3wmmmm亚洲av在线观看| 高清毛片免费观看视频网站| 亚洲欧美日韩东京热| 高清日韩中文字幕在线| 国产单亲对白刺激| 亚洲中文字幕日韩| 我要看日韩黄色一级片| av在线老鸭窝| 村上凉子中文字幕在线| 99久久精品国产国产毛片| 欧美+亚洲+日韩+国产| 国产av不卡久久| 国产精品久久久久久久久免| av在线蜜桃| 久久人人爽人人爽人人片va| 亚洲va在线va天堂va国产| 欧美高清成人免费视频www| 悠悠久久av| 长腿黑丝高跟| 日本在线视频免费播放| 无遮挡黄片免费观看| 国产亚洲精品久久久com| 亚洲国产日韩欧美精品在线观看| 亚洲精品成人久久久久久| 亚洲精品久久国产高清桃花| 国产免费男女视频| 男女边吃奶边做爰视频| 级片在线观看| 日韩一本色道免费dvd| 性插视频无遮挡在线免费观看| 欧美xxxx性猛交bbbb| 亚洲欧美日韩东京热| 久久精品影院6| 欧美极品一区二区三区四区| 神马国产精品三级电影在线观看| 毛片一级片免费看久久久久 | 日韩一本色道免费dvd| 免费人成视频x8x8入口观看| 欧美最黄视频在线播放免费| 搡老岳熟女国产| 午夜精品在线福利| 老熟妇乱子伦视频在线观看| 国产成年人精品一区二区| 色视频www国产| 国产午夜福利久久久久久| 精品免费久久久久久久清纯| 日日摸夜夜添夜夜添小说| 欧美日韩精品成人综合77777| 啪啪无遮挡十八禁网站| 在线观看舔阴道视频| 久久精品国产清高在天天线| 成年免费大片在线观看| 国产午夜福利久久久久久| 69人妻影院| 国产色婷婷99| 亚洲美女视频黄频| x7x7x7水蜜桃| 色哟哟哟哟哟哟| 偷拍熟女少妇极品色| 老女人水多毛片| 亚洲真实伦在线观看| 国产亚洲av嫩草精品影院| 国产精品99久久久久久久久| 色哟哟·www| 欧美xxxx性猛交bbbb| 日韩,欧美,国产一区二区三区 | 精品免费久久久久久久清纯| 日韩欧美在线乱码| 免费不卡的大黄色大毛片视频在线观看 | 俄罗斯特黄特色一大片| 淫妇啪啪啪对白视频| 日本与韩国留学比较| 嫁个100分男人电影在线观看| 国产av麻豆久久久久久久| 国产精品av视频在线免费观看| 亚洲av免费高清在线观看| 欧美高清成人免费视频www| 丰满人妻一区二区三区视频av| 亚洲成人久久爱视频| 九九在线视频观看精品| 色播亚洲综合网| 波多野结衣巨乳人妻| 99热网站在线观看| 欧美另类亚洲清纯唯美| 91午夜精品亚洲一区二区三区 | 国产精品1区2区在线观看.| 听说在线观看完整版免费高清| 一卡2卡三卡四卡精品乱码亚洲| 欧美区成人在线视频| 欧美性感艳星| netflix在线观看网站| 国产精品国产三级国产av玫瑰| 18禁黄网站禁片午夜丰满| 欧美最新免费一区二区三区| 99久久无色码亚洲精品果冻| 中国美白少妇内射xxxbb| 国产高清视频在线观看网站| av黄色大香蕉| 精品国产三级普通话版| 精品日产1卡2卡| 亚洲真实伦在线观看| 国产真实乱freesex| 九九在线视频观看精品| 在线观看午夜福利视频| .国产精品久久| 精品免费久久久久久久清纯| 亚洲,欧美,日韩| 有码 亚洲区| 黄色视频,在线免费观看| 日本在线视频免费播放| 搡女人真爽免费视频火全软件 | 亚洲久久久久久中文字幕| 亚洲av中文av极速乱 | 麻豆久久精品国产亚洲av| 99久久无色码亚洲精品果冻| 又黄又爽又免费观看的视频| 国产一区二区激情短视频| 十八禁国产超污无遮挡网站| 国产精品国产三级国产av玫瑰| 狂野欧美白嫩少妇大欣赏| 亚洲中文字幕一区二区三区有码在线看| а√天堂www在线а√下载| 精品国内亚洲2022精品成人| 国产国拍精品亚洲av在线观看| 特大巨黑吊av在线直播| 人人妻,人人澡人人爽秒播| av女优亚洲男人天堂| 黄色日韩在线| 国产日本99.免费观看| 国产亚洲精品久久久久久毛片| 深爱激情五月婷婷| 国产午夜精品论理片| 国产一区二区激情短视频| 久久人妻av系列| 久久精品夜夜夜夜夜久久蜜豆| 国产亚洲av嫩草精品影院| av福利片在线观看| 久久亚洲真实| 少妇高潮的动态图| 亚洲av熟女| 久久精品国产亚洲av涩爱 | 亚洲精品日韩av片在线观看| 午夜激情欧美在线| 久久久午夜欧美精品| 可以在线观看的亚洲视频| 亚洲成人免费电影在线观看| 午夜免费激情av| 欧美日韩综合久久久久久 | 国产综合懂色| 一进一出好大好爽视频| 亚洲图色成人| 精品一区二区免费观看| 亚洲图色成人| 午夜a级毛片| 亚洲精品456在线播放app | 成人亚洲精品av一区二区| 人人妻,人人澡人人爽秒播| 亚洲精华国产精华精| 国产综合懂色| 色在线成人网| 亚洲最大成人手机在线| 免费在线观看日本一区| 五月伊人婷婷丁香| 久久国内精品自在自线图片| 真人做人爱边吃奶动态| eeuss影院久久| 亚洲四区av| 亚洲中文字幕日韩| 久久久色成人| 国产乱人视频| 欧美色欧美亚洲另类二区| 亚洲专区中文字幕在线| 可以在线观看的亚洲视频| 91久久精品电影网| 非洲黑人性xxxx精品又粗又长| 全区人妻精品视频| 久久久色成人| 日韩人妻高清精品专区| 午夜激情欧美在线| 午夜免费成人在线视频| 亚洲成a人片在线一区二区| 日韩欧美国产一区二区入口| 麻豆av噜噜一区二区三区| 午夜福利在线在线| 麻豆av噜噜一区二区三区| 2021天堂中文幕一二区在线观| 精品欧美国产一区二区三| 女同久久另类99精品国产91| 日韩高清综合在线| 色噜噜av男人的天堂激情| 国内精品宾馆在线| 国产精品一区二区性色av| 久久九九热精品免费| 小说图片视频综合网站| 日本欧美国产在线视频| 两个人的视频大全免费| 中文字幕精品亚洲无线码一区| 麻豆成人av在线观看| 毛片一级片免费看久久久久 | 深夜精品福利| 欧美另类亚洲清纯唯美| 国内揄拍国产精品人妻在线| 国产aⅴ精品一区二区三区波| 深夜a级毛片| 91麻豆av在线| 久久精品国产亚洲av香蕉五月| 欧美另类亚洲清纯唯美| 草草在线视频免费看| 精品久久久久久久久久久久久| 日韩中字成人| 能在线免费观看的黄片| 国产高潮美女av| bbb黄色大片| av天堂在线播放| 很黄的视频免费| 亚洲乱码一区二区免费版| 免费看日本二区| 美女免费视频网站| 精品午夜福利视频在线观看一区| 亚洲精品成人久久久久久| 精品99又大又爽又粗少妇毛片 | 级片在线观看| 长腿黑丝高跟| 国产精品野战在线观看| 嫩草影院精品99| 尾随美女入室| 日韩av在线大香蕉| 亚洲国产高清在线一区二区三| 欧美zozozo另类| 变态另类成人亚洲欧美熟女| 99久久精品国产国产毛片| 国产精品一区二区性色av| 国产精品美女特级片免费视频播放器| 欧美一区二区精品小视频在线| 久久九九热精品免费| 成年女人看的毛片在线观看| 成人性生交大片免费视频hd| 亚洲乱码一区二区免费版| 女人被狂操c到高潮| 午夜福利欧美成人| 久久国产精品人妻蜜桃| 国产精品日韩av在线免费观看| 免费人成在线观看视频色| 亚洲无线在线观看| 老司机深夜福利视频在线观看| 国产精品自产拍在线观看55亚洲| 少妇的逼水好多| 乱人视频在线观看| 99久久九九国产精品国产免费| 乱人视频在线观看| 人妻制服诱惑在线中文字幕| 一区二区三区免费毛片| 欧美日韩黄片免| 一本一本综合久久| 久久欧美精品欧美久久欧美| 成熟少妇高潮喷水视频| 亚州av有码| 国产在线男女| 一夜夜www| 亚洲国产精品合色在线| 国产色婷婷99| 日韩欧美三级三区| 色综合婷婷激情| 免费看美女性在线毛片视频| 伊人久久精品亚洲午夜| 高清毛片免费观看视频网站| 91午夜精品亚洲一区二区三区 | 91av网一区二区| 国内久久婷婷六月综合欲色啪| 丰满的人妻完整版| 窝窝影院91人妻| 免费大片18禁| 精品福利观看| 国产淫片久久久久久久久| 精品人妻1区二区| 女的被弄到高潮叫床怎么办 | 可以在线观看毛片的网站| av在线天堂中文字幕| 亚洲欧美日韩东京热| www.www免费av| 人妻夜夜爽99麻豆av| 国产日本99.免费观看| 欧美bdsm另类| 国产高清三级在线| 噜噜噜噜噜久久久久久91| 日韩精品中文字幕看吧| 嫁个100分男人电影在线观看| 亚洲中文字幕一区二区三区有码在线看| 男人狂女人下面高潮的视频| 欧美日本亚洲视频在线播放| 午夜福利成人在线免费观看| 88av欧美| 色5月婷婷丁香| 亚洲五月天丁香| 欧美日韩综合久久久久久 | 亚洲精华国产精华液的使用体验 | 国产亚洲91精品色在线| 国产精品亚洲美女久久久| 性插视频无遮挡在线免费观看| 亚洲专区国产一区二区| 欧美色视频一区免费| 日韩精品青青久久久久久| 久久精品国产99精品国产亚洲性色| 午夜福利高清视频| x7x7x7水蜜桃| 少妇被粗大猛烈的视频| 人妻丰满熟妇av一区二区三区| 欧美精品国产亚洲| 91狼人影院| 嫩草影院入口| 国产高清视频在线播放一区| 欧美3d第一页| 国产精品免费一区二区三区在线| 免费一级毛片在线播放高清视频| 国产一区二区三区在线臀色熟女| 内射极品少妇av片p| videossex国产| 国产精品一区二区性色av| 成年免费大片在线观看| 99久久中文字幕三级久久日本| 精品久久久噜噜| 超碰av人人做人人爽久久| 九九在线视频观看精品| 国产日本99.免费观看| 九九久久精品国产亚洲av麻豆| 老师上课跳d突然被开到最大视频| 哪里可以看免费的av片| 内射极品少妇av片p| 中国美女看黄片| 日韩一本色道免费dvd| 亚洲久久久久久中文字幕| 99在线人妻在线中文字幕| 日韩国内少妇激情av| 国产亚洲av嫩草精品影院| 亚洲七黄色美女视频| 国产精品1区2区在线观看.| 熟女人妻精品中文字幕| 成人国产麻豆网| 日日摸夜夜添夜夜添小说| 久久久久久久精品吃奶| 欧美一区二区精品小视频在线| 性欧美人与动物交配| 日韩欧美三级三区| 国产伦在线观看视频一区| 桃红色精品国产亚洲av| 无遮挡黄片免费观看| 男女那种视频在线观看| 午夜亚洲福利在线播放| 三级国产精品欧美在线观看| 性欧美人与动物交配| 亚洲av美国av| 不卡视频在线观看欧美| 精品一区二区三区视频在线| 一a级毛片在线观看| 国产探花在线观看一区二区| 亚洲aⅴ乱码一区二区在线播放| av福利片在线观看| 久久精品国产亚洲网站| 美女黄网站色视频| 久久精品国产亚洲av涩爱 | 亚洲av第一区精品v没综合| 日本-黄色视频高清免费观看| 久99久视频精品免费| 久久精品国产自在天天线| 成人欧美大片| 色精品久久人妻99蜜桃| 又粗又爽又猛毛片免费看| 国产精品久久电影中文字幕| 欧美性猛交黑人性爽| av福利片在线观看| 亚洲成a人片在线一区二区| 精品乱码久久久久久99久播| 日韩国内少妇激情av| 精品一区二区三区视频在线| 久久精品夜夜夜夜夜久久蜜豆| 免费在线观看日本一区| 欧美在线一区亚洲| 97碰自拍视频| 国产又黄又爽又无遮挡在线| 一个人免费在线观看电影| av在线蜜桃| 欧美另类亚洲清纯唯美| 综合色av麻豆| 国产精品久久久久久久电影| 日本黄色片子视频| 免费不卡的大黄色大毛片视频在线观看 | 国产精品亚洲美女久久久| 国内精品宾馆在线| 一a级毛片在线观看| 麻豆一二三区av精品| 亚洲五月天丁香| 亚洲精品一区av在线观看| 国产又黄又爽又无遮挡在线| 男女之事视频高清在线观看| 欧美一区二区精品小视频在线| 一卡2卡三卡四卡精品乱码亚洲| 十八禁网站免费在线| 亚洲va日本ⅴa欧美va伊人久久| 午夜精品在线福利| 色噜噜av男人的天堂激情| 亚洲中文日韩欧美视频| 亚洲欧美清纯卡通| 精品久久久久久久久亚洲 | 日本爱情动作片www.在线观看 | 变态另类丝袜制服| .国产精品久久| 干丝袜人妻中文字幕| 九色成人免费人妻av| av天堂中文字幕网| 日本撒尿小便嘘嘘汇集6| 国产精品一及| 成人高潮视频无遮挡免费网站| 精品一区二区三区视频在线| 九九久久精品国产亚洲av麻豆| 成人精品一区二区免费| 免费搜索国产男女视频| 免费看a级黄色片| 国产成人a区在线观看| 岛国在线免费视频观看| 亚洲av中文av极速乱 | 淫秽高清视频在线观看| 欧美三级亚洲精品| 亚洲人成网站在线播| 乱人视频在线观看| 我的老师免费观看完整版| 国内久久婷婷六月综合欲色啪| 亚洲无线在线观看| 日本-黄色视频高清免费观看| 欧美中文日本在线观看视频| 精品久久国产蜜桃| 在线a可以看的网站| 蜜桃亚洲精品一区二区三区| 九九热线精品视视频播放| 国产精品久久久久久久电影|