• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    美國(guó)人工智能軍事化的發(fā)展態(tài)勢(shì)、風(fēng)險(xiǎn)與應(yīng)對(duì)路徑*

    2022-02-05 07:38:59孫海泳
    國(guó)際論壇 2022年2期
    關(guān)鍵詞:軍事化軍事人工智能

    孫海泳

    【內(nèi)容提要】 基于傳統(tǒng)的技術(shù)制勝的軍事戰(zhàn)略思路以及塑造相對(duì)于其他大國(guó)的軍事優(yōu)勢(shì)的需要,美國(guó)政府與軍方已加快人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用。其側(cè)重點(diǎn)主要體現(xiàn)在以下三方面:第一,制定與實(shí)施各類人工智能發(fā)展規(guī)劃與方案,為推動(dòng)軍事智能化創(chuàng)造條件;第二,加快推動(dòng)人工智能軍事化應(yīng)用項(xiàng)目的發(fā)展,特別是以人工智能技術(shù)提升作戰(zhàn)指揮系統(tǒng)的綜合效能,推進(jìn)自主攻擊平臺(tái)的研發(fā)與應(yīng)用;第三,強(qiáng)化與盟國(guó)在人工智能軍事化領(lǐng)域的合作。上述態(tài)勢(shì)造成三方面風(fēng)險(xiǎn):第一,加劇基于新興技術(shù)的軍備競(jìng)賽風(fēng)險(xiǎn);第二,增加大國(guó)間發(fā)生沖突甚至戰(zhàn)爭(zhēng)的可能性,這是因?yàn)榛谌斯ぶ悄芗夹g(shù)的自主攻擊系統(tǒng)的可靠性不足,而且人工智能軍事化系統(tǒng)的應(yīng)用會(huì)侵蝕大國(guó)間的戰(zhàn)略“默契”并降低網(wǎng)絡(luò)攻擊的門檻;第三,可能重構(gòu)大國(guó)間威懾體系并侵蝕國(guó)際安全的穩(wěn)定基礎(chǔ)。對(duì)于中國(guó)而言,面對(duì)美國(guó)推進(jìn)人工智能軍事化所產(chǎn)生的諸多風(fēng)險(xiǎn)因素,需從強(qiáng)化技術(shù)進(jìn)步等方面應(yīng)對(duì)智能化沖突或戰(zhàn)爭(zhēng)風(fēng)險(xiǎn),參與和引導(dǎo)人工智能技術(shù)全球治理進(jìn)程以提升中國(guó)的話語(yǔ)權(quán),拓展中美在應(yīng)對(duì)上述風(fēng)險(xiǎn)方面的合作空間。

    自21世紀(jì)第二個(gè)十年以來(lái),隨著“大數(shù)據(jù)”資源的可用性、機(jī)器學(xué)習(xí)方法與計(jì)算機(jī)處理能力的改善,基于機(jī)器學(xué)習(xí)的狹義人工智能(Narrow AI)獲得快速發(fā)展。從歷史發(fā)展趨勢(shì)和未來(lái)戰(zhàn)爭(zhēng)需求看,人工智能日益成為推動(dòng)新一輪軍事革命的核心驅(qū)動(dòng)力。自2012年以來(lái),特別是特朗普政府與拜登政府執(zhí)政期間,美國(guó)政府與軍方顯著強(qiáng)化了對(duì)人工智能軍事化的戰(zhàn)略規(guī)劃、研發(fā)與應(yīng)用進(jìn)程。在美國(guó)人工智能軍事化議題領(lǐng)域,相關(guān)研究主要集中在以下方面:一是探討美國(guó)人工智能軍事化的驅(qū)動(dòng)因素,分析美國(guó)人工智能軍事化的發(fā)展背景、戰(zhàn)略溯源以及推進(jìn)態(tài)勢(shì),并重點(diǎn)探討了美國(guó)智庫(kù)在人工智能軍事化中的推動(dòng)作用。①趙超陽(yáng)等:《美軍人工智能戰(zhàn)略發(fā)展的智庫(kù)策源研究》,上海:東方出版社,2021年。二是探討美國(guó)人工智能軍事化的實(shí)施路徑,分析美軍在推進(jìn)人工智能軍事應(yīng)用領(lǐng)域所采取的規(guī)劃、項(xiàng)目等方面的舉措,②曾子林:《美軍推進(jìn)人工智能軍事應(yīng)用的舉措、挑戰(zhàn)及啟示》,《國(guó)防科技》2020年第4期。探討在人工智能軍事應(yīng)用領(lǐng)域的過(guò)程中,美國(guó)國(guó)防部和產(chǎn)業(yè)界之間的溝通和對(duì)話方式,③Larry Lewis, “Resolving the Battle over Artificial Intelligence in War,” RUSI Journal, Vol.164,No.5/6, July/August 2019.分析盟國(guó)與美國(guó)的人工智能作戰(zhàn)系統(tǒng)的互操作性等問(wèn)題。④Satoru Mori, “US Defense Innovation and Artificial Intelligence,” Asia-Pacific Review, Vol.25, No.2,2018.三是分析美國(guó)人工智能軍事化面臨的挑戰(zhàn),如美國(guó)人工智能軍事化面臨的人才瓶頸、公私合作障礙以及發(fā)起人工智能軍備競(jìng)賽所可能導(dǎo)致的安全困境。⑤李恒陽(yáng):《美國(guó)人工智戰(zhàn)略探析》,《美國(guó)研究》2020年第4期。四是探討美國(guó)在自主武器軍控等規(guī)則領(lǐng)域的戰(zhàn)略傾向,如以美國(guó)對(duì)自主武器的利益關(guān)切為切入點(diǎn),分析美國(guó)在自主武器國(guó)際軍控問(wèn)題上的立場(chǎng)及其驅(qū)動(dòng)因素,以及美國(guó)在參與過(guò)程中的角色特征和行為模式。⑥王玫黎、杜陳潔:《美國(guó)參與自主性武器國(guó)際軍控的戰(zhàn)略關(guān)切及角色定位》,《國(guó)際觀察》2021年第2期。既有研究成果對(duì)理解美國(guó)人工智能軍事化進(jìn)程的動(dòng)因、方式與面臨挑戰(zhàn)方面提供了富有啟發(fā)性的見(jiàn)解。但仍有三方面問(wèn)題值得注意:一是國(guó)外學(xué)者在研究美國(guó)人工智能軍事化問(wèn)題的進(jìn)程中,傾向于渲染中俄等國(guó)在軍事智能化領(lǐng)域的進(jìn)步及“威脅”,并淡化美國(guó)推進(jìn)人工智能軍事化的負(fù)面影響;二是關(guān)注人工智能軍事化所產(chǎn)生的諸多風(fēng)險(xiǎn),但對(duì)美國(guó)人工智能軍事化所造成的安全風(fēng)險(xiǎn)的系統(tǒng)性分析尚顯薄弱;三是從中國(guó)的視角,針對(duì)美國(guó)人工智能軍事化進(jìn)程的應(yīng)對(duì)路徑的研究仍需加強(qiáng)。鑒此,本文嘗試在探討美國(guó)人工智能軍事化的驅(qū)動(dòng)因素與發(fā)展態(tài)勢(shì)的基礎(chǔ)上,分析其對(duì)國(guó)際安全與戰(zhàn)略穩(wěn)定造成的風(fēng)險(xiǎn),并探討中國(guó)的應(yīng)對(duì)路徑。

    一、美國(guó)人工智能軍事化進(jìn)程的主要驅(qū)動(dòng)力

    人工智能的諸多特征使其對(duì)國(guó)家安全具有重要影響。美軍借助技術(shù)優(yōu)勢(shì)獲得戰(zhàn)爭(zhēng)勝利或戰(zhàn)略優(yōu)勢(shì)的歷史經(jīng)驗(yàn)以及美方對(duì)其軍事技術(shù)相對(duì)優(yōu)勢(shì)的下降趨勢(shì)的擔(dān)憂,成為美國(guó)加快推進(jìn)人工智能軍事化進(jìn)程的主要驅(qū)動(dòng)因素。

    (一)美軍基于技術(shù)優(yōu)勢(shì)的制勝傳統(tǒng)

    技術(shù)優(yōu)勢(shì)一直是美國(guó)軍事實(shí)力和國(guó)家競(jìng)爭(zhēng)力的一個(gè)重要支柱。技術(shù)優(yōu)勢(shì)是美國(guó)在第二次世界大戰(zhàn)和冷戰(zhàn)中獲勝的重要支持條件之一,這強(qiáng)化了美國(guó)的技術(shù)工具主義理念,同時(shí)形成并不斷強(qiáng)化了美國(guó)依托新興技術(shù)與裝備優(yōu)勢(shì)以塑造軍事優(yōu)勢(shì)、達(dá)成作戰(zhàn)目標(biāo)的傳統(tǒng)。美軍對(duì)技術(shù)絕對(duì)領(lǐng)先的執(zhí)著來(lái)源于對(duì)絕對(duì)的、強(qiáng)烈的安全感的追求以及對(duì)美利堅(jiān)民族優(yōu)越性的執(zhí)念。為了保持絕對(duì)的安全和強(qiáng)大,美國(guó)將國(guó)防科技作為重要工具和關(guān)鍵支撐,在國(guó)防科技發(fā)展上始終追求保持絕對(duì)領(lǐng)先地位,始終與別國(guó)保持絕對(duì)的安全距離,不能容忍被接近或超越,并為此不斷尋求軍事技術(shù)的突破。①趙超陽(yáng)等:《美軍人工智能戰(zhàn)略發(fā)展的智庫(kù)策源研究》,上海:東方出版社,2021年,第14頁(yè)。特別是在20世紀(jì)70年代之后,美國(guó)率先研發(fā)了隱形和精確制導(dǎo)武器技術(shù),使其在信息時(shí)代的戰(zhàn)爭(zhēng),如20世紀(jì)90年代初的海灣戰(zhàn)爭(zhēng)等局部戰(zhàn)爭(zhēng)中快速獲取戰(zhàn)場(chǎng)優(yōu)勢(shì)。這也進(jìn)一步強(qiáng)化了美國(guó)在軍事領(lǐng)域依托技術(shù)制勝的戰(zhàn)略理念。

    在當(dāng)今的美國(guó),人工智能被譽(yù)為繼20世紀(jì)70年代信息技術(shù)發(fā)展之后的第三次抵消戰(zhàn)略(the Third Offset Strategy)。②Kenneth Payne, “Artificial Intelligence: A Revolution in Strategic Affairs?” Survival, Vol. 60, No. 5,2018, p.7.智能化戰(zhàn)爭(zhēng)的核心則是以“算法+數(shù)據(jù)”構(gòu)建起作戰(zhàn)系統(tǒng)的靈魂大腦。人工智能與大數(shù)據(jù)、云計(jì)算、天基信息等新興技術(shù)的加速發(fā)展與創(chuàng)造性融合,加快了“智能化作戰(zhàn)”能力的形成。③吳明曦:《智能化戰(zhàn)爭(zhēng)——AI軍事暢想》,北京:國(guó)防工業(yè)出版社,2020年,第62頁(yè)。從技術(shù)層面來(lái)看,掌握人工智能武器可具備以下優(yōu)勢(shì):一是自主性優(yōu)勢(shì),即自主系統(tǒng)能夠增強(qiáng)甚至取代人類所從事的作戰(zhàn)行動(dòng);二是速度提升潛力,即人工智能技術(shù)可大幅提升武器系統(tǒng)的信息處理效能與反應(yīng)速度;三是增強(qiáng)人類潛力的特性,即人工智能技術(shù)可增強(qiáng)士兵的能力,特別是自主無(wú)人系統(tǒng)的廣泛運(yùn)用,憑借其自主交互和聯(lián)動(dòng)響應(yīng)的優(yōu)勢(shì),能夠最大限度提升作戰(zhàn)系統(tǒng)的整體效能,并使戰(zhàn)爭(zhēng)的科技含量再次出現(xiàn)質(zhì)的提升。鑒于人工智能技術(shù)存在巨大的軍事應(yīng)用潛力,對(duì)美國(guó)國(guó)防部的決策者而言,在武器和作戰(zhàn)概念上保持對(duì)戰(zhàn)略對(duì)手的領(lǐng)先地位的前景,至少在間接層面,將取決于美國(guó)在人工智能技術(shù)領(lǐng)域保持優(yōu)勢(shì)的能力。①Rand Waltzman, etc., “Maintaining the Competitive Advantage in Artificial Intelligence and Machine Learning,” Rand Corporation, 2020, p.31, https://www.rand.org/content/dam/rand/pubs/research_reports/RRA200/RRA200-1/RAND_RRA200-1.pdf.在此背景下,美國(guó)政府與軍方已將人工智能技術(shù)作為增強(qiáng)戰(zhàn)力、實(shí)現(xiàn)軍事目標(biāo)的重要支持條件,其對(duì)人工智能技術(shù)的重視,既是對(duì)美國(guó)技術(shù)優(yōu)勢(shì)的重視與利用,也是美軍技術(shù)制勝傳統(tǒng)思維的延伸。

    (二)針對(duì)中俄塑造新的軍事優(yōu)勢(shì)的現(xiàn)實(shí)需要

    自本世紀(jì)第二個(gè)十年以來(lái),美國(guó)日益無(wú)法維持其在海灣戰(zhàn)爭(zhēng)結(jié)束之初時(shí)所具備的軍事技術(shù)優(yōu)勢(shì)。特別是隨著經(jīng)濟(jì)、科技實(shí)力的穩(wěn)步發(fā)展,中國(guó)維護(hù)國(guó)家安全、阻遏美國(guó)戰(zhàn)略訛詐的能力日益增強(qiáng)。與此同時(shí),仍具有強(qiáng)大軍事威懾力的俄國(guó)與美國(guó)在地緣政治等領(lǐng)域的戰(zhàn)略抵牾難以調(diào)和。在此形勢(shì)下,美國(guó)政府、軍方與戰(zhàn)略研究界已將人工智能軍事化作為針對(duì)中俄塑造新的軍事優(yōu)勢(shì)的戰(zhàn)略依托。新美國(guó)安全中心(CNAS)董事會(huì)主席、曾任奧巴馬政府國(guó)防部副部長(zhǎng)的米歇爾·弗盧努瓦(Michèle A.Flournoy)認(rèn)為,在2021年之前的近十年中,美國(guó)國(guó)防部官員一直認(rèn)為,大國(guó)競(jìng)爭(zhēng)的回歸是對(duì)國(guó)家安全最重大的挑戰(zhàn)。因此,必須采取更富有進(jìn)取性的措施,以保持美國(guó)相對(duì)于競(jìng)爭(zhēng)對(duì)手的軍事和技術(shù)優(yōu)勢(shì),否則美軍將在十年內(nèi)失去這一優(yōu)勢(shì)。②Michèle A. Flournoy, “America’s Military Risks Losing Its Edge,” Foreign Affairs, May/June 2021,Vol.100, Iss.3, pp.76-77.在此背景下,中美地緣政治競(jìng)爭(zhēng)無(wú)疑將受到人工智能技術(shù)競(jìng)爭(zhēng)的影響。③James Johnson, “Artificial Intelligence & Future Warfare: Implications for International Security,”Defense & Security Analysis, Vol.35, No.2, 2019, p.147.美軍于2014年出臺(tái)的第三次“抵消戰(zhàn)略”的核心就是基于人工智能的“算法戰(zhàn)”,旨在通過(guò)智能化轉(zhuǎn)型,抵消與中俄等國(guó)在裝備規(guī)模和硬件技術(shù)等“顯性”特征上日益縮小的差距,拉開與中俄在武器裝備的智能化程度等隱性特征方面的代差,以此謀求和維持未來(lái)軍事優(yōu)勢(shì)。④胡利平等:《“算法戰(zhàn)”及其在空戰(zhàn)領(lǐng)域中的應(yīng)用》,《國(guó)防科技》2020年第1期,第57頁(yè)。此后,特朗普政府主要將人工智能視為一個(gè)重要的地緣政治工具,通過(guò)推動(dòng)人工智能技術(shù)發(fā)展,塑造與強(qiáng)化美國(guó)在對(duì)華經(jīng)濟(jì)與軍事競(jìng)爭(zhēng)中的優(yōu)勢(shì)。其人工智能戰(zhàn)略顯示了基于“絕對(duì)安全觀”的技術(shù)戰(zhàn)略擴(kuò)張趨向以及威懾與遏制并行的現(xiàn)實(shí)主義趨向。⑤闕天舒、張紀(jì)騰:《美國(guó)人工智能戰(zhàn)略新動(dòng)向及其全球影響》,《外交評(píng)論》2020年第3期,第121頁(yè)。拜登政府延續(xù)了這一戰(zhàn)略傾向,并進(jìn)一步將人工智能軍事化作為獲得新的對(duì)華戰(zhàn)略優(yōu)勢(shì)的依托。

    在推進(jìn)人工智能軍事化的過(guò)程中,美國(guó)政府、軍方與戰(zhàn)略研究界試圖通過(guò)渲染中俄在人工智能領(lǐng)域的技術(shù)進(jìn)步和安全“威脅”,以動(dòng)員國(guó)內(nèi)資源與匯聚政策共識(shí)。2017年4月,時(shí)任國(guó)防部副部長(zhǎng)的羅伯特·沃克(Robert Work)宣布,由于競(jìng)爭(zhēng)對(duì)手的能力越來(lái)越強(qiáng),迫切需在國(guó)防部的議程中納入人工智能和機(jī)器學(xué)習(xí)。沃克的言論相當(dāng)于宣布一場(chǎng)不可避免的人工智能軍備競(jìng)賽,其中俄羅斯和中國(guó)被視為主要對(duì)手。①Lucy Suchman, “Algorithmic Warfare and the Reinvention of Accuracy,” Critical Studies on Security,Vol.8, No.2, 2020, p,175.在美國(guó)國(guó)防部看來(lái),大數(shù)據(jù)、人工智能和自動(dòng)化的融合,將使中國(guó)軍隊(duì)在2049年成為擁有世界一流戰(zhàn)斗力的軍隊(duì)。②Lara Martinho, “China’s Defence Posture: Implications for NATO,” NATO Parliamentary Assembly,September 8, 2021, p.1, https://www.nato-pa.int/download-file?filename=/sites/default/files/2021-09/015%20 DSCFC%2021%20E%20rev%201.%20CHINA%27S%20DEFENCE%20-%20MARTINHO_3.pdf.2020年9月,為獲得更多的預(yù)算與資源投入,美國(guó)人工智能國(guó)家安全委員會(huì)(NSCAI)副主席鮑勃·沃克(Bob Work)強(qiáng)調(diào),中俄在軍事人工智能和自動(dòng)化方面可能在較小程度上超過(guò)美國(guó),因此美國(guó)需增撥用于人工智能項(xiàng)目的國(guó)防預(yù)算,需采取在國(guó)防部與學(xué)界、私營(yíng)部門間建立公私合作伙伴關(guān)系等措施來(lái)提升美國(guó)的競(jìng)爭(zhēng)優(yōu)勢(shì)。③Sydney J. Freedberg Jr., “‘We May Be Losing the Race’ for AI With China: Bob Work,” Breaking Defense, September 2, 2020, https://breakingdefense.com/2020/09/we-may-be-losing-the-race-for-ai-withchina-bob-work/.值得注意的是,美國(guó)國(guó)防部第一位首席軟件官尼古拉斯·夏蘭(Nicolas Chaillan)于2021年9月辭職,以此抗議因美軍的技術(shù)革新緩慢導(dǎo)致中國(guó)在人工智能等領(lǐng)域“超越”美國(guó)。10月初,美國(guó)海軍陸戰(zhàn)隊(duì)中將、國(guó)防部聯(lián)合人工智能中心(JAIC)主任邁克爾·格倫(Michael Groen)表示,希望以漸進(jìn)的方式將人工智能應(yīng)用于軍隊(duì)。④Katrina Manson, “US Has Already Lost AI Fight to China, Says ex-Pentagon Software Chief”,Financial Times, October 10, 2021, https://www.ft.com/content/f939db9a-40af-4bd1-b67d-10492535f8e0.在此背景下,美國(guó)政府與軍方對(duì)失去人工智能技術(shù)領(lǐng)先地位的危機(jī)感將進(jìn)一步強(qiáng)化其在人工智能軍事化領(lǐng)域的政策動(dòng)能。

    二、美國(guó)人工智能軍事化的戰(zhàn)略重心

    從特朗普到拜登政府執(zhí)政時(shí)期,美國(guó)政府與軍方對(duì)人工智能軍事化的關(guān)注度日益上升。其通過(guò)不斷完善制度與組織體系,為推進(jìn)人工智能軍事化進(jìn)程匯集資源;緊盯技術(shù)前沿,大力推進(jìn)項(xiàng)目發(fā)展并促進(jìn)與盟國(guó)間的政策與技術(shù)合作,以期在未來(lái)實(shí)施的人工智能作戰(zhàn)行動(dòng)中能夠提升聯(lián)盟體系的協(xié)同效能。

    (一)構(gòu)建系統(tǒng)的人工智能軍事化的資源與制度支持體系

    本世紀(jì)第二個(gè)十年之初,美國(guó)國(guó)防部和軍方已將人工智能軍事應(yīng)用系統(tǒng)納入其組織結(jié)構(gòu)。奧巴馬政府主要著眼于塑造與人工智能軍事化相關(guān)的戰(zhàn)略理念與基本戰(zhàn)略框架。美國(guó)國(guó)防部于2012年11月發(fā)布了名為《武器系統(tǒng)的自主》(Autonomy in Weapons Systems)的指令,該指令確立了政策并分配了責(zé)任,以塑造包括無(wú)人作戰(zhàn)平臺(tái)在內(nèi)的武器系統(tǒng)自主功能的開發(fā)和應(yīng)用,從而使得人工智能武器系統(tǒng)有望成為實(shí)施危險(xiǎn)任務(wù)的關(guān)鍵支持力量。①“Unmanned Systems Integrated Roadmap 2017-2042,” U.S. Department of Defense, Defense Daily,August 28, 2018, p.22, https://www.defensedaily.com/wp-content/uploads/post_attachment/206477.pdf.“第三次抵消戰(zhàn)略”則試圖通過(guò)發(fā)展自主學(xué)習(xí)系統(tǒng)、人機(jī)協(xié)作系統(tǒng)等基于人工智能的作戰(zhàn)系統(tǒng),以形成或強(qiáng)化相對(duì)于中俄等國(guó)的不對(duì)稱優(yōu)勢(shì),使美國(guó)進(jìn)一步鞏固其在軍事技術(shù)領(lǐng)域的領(lǐng)先地位。②Daniel Fiott, “America First, Third Offset Second?” The RUSI Journal, Vol.163, No.4, August/September 2018, p.40.

    特朗普政府執(zhí)政后,在經(jīng)濟(jì)與科技層面構(gòu)建與完善人工智能發(fā)展規(guī)劃、方案的過(guò)程中,亦加強(qiáng)軍用人工智能研發(fā)與應(yīng)用協(xié)調(diào)機(jī)構(gòu)的建設(shè)。國(guó)防部所頒布的《2018年國(guó)防部人工智能戰(zhàn)略》(2018 DoD Artificial Intelligence Strategy)旨在闡明加快應(yīng)用人工智能能力的方法和途徑,并強(qiáng)調(diào)了成立于2018年6月的國(guó)防部聯(lián)合人工智能中心的作用。該中心的主要功能是提升交付人工智能技術(shù)產(chǎn)品的能力,是執(zhí)行國(guó)防部人工智能戰(zhàn)略的核心單位。根據(jù)《2019年財(cái)年國(guó)防授權(quán)法案》(NDAA FY2019),美國(guó)建立了國(guó)家人工智能安全委員會(huì),其主要職責(zé)之一即“推進(jìn)人工智能、機(jī)器學(xué)習(xí)和相關(guān)技術(shù),全面解決國(guó)家安全和國(guó)防需求”。2021年1月1日,《2020年國(guó)家人工智能倡議法案》(NAIIA)生效,其包含的《國(guó)家人工智能計(jì)劃》(NAII)旨在確保美國(guó)在人工智能研發(fā)領(lǐng)域的領(lǐng)導(dǎo)地位,其通過(guò)提供一個(gè)總體框架,以加強(qiáng)和協(xié)調(diào)美國(guó)所有部門和機(jī)構(gòu)的人工智能研發(fā)活動(dòng),以加速人工智能研究和應(yīng)用,并試圖以此為人工智能軍事化進(jìn)程積聚技術(shù)儲(chǔ)備。

    拜登政府執(zhí)政后,在資源投入、公私合作以及軍事體系轉(zhuǎn)型等方面進(jìn)一步推進(jìn)人工智能軍事化進(jìn)程。首先,美國(guó)政府與國(guó)會(huì)兩黨進(jìn)一步推進(jìn)對(duì)人工智能軍事化的資金支持與政策協(xié)調(diào)。2021年7月13日,國(guó)防部長(zhǎng)勞埃德·奧斯汀(Lloyd J. Austin III)在華盛頓舉行的國(guó)家安全委員會(huì)人工智能全球新興技術(shù)峰會(huì)(Artificial Intelligence Global Emerging Technology Summit)上聲稱,國(guó)防部正在開發(fā)600多項(xiàng)人工智能項(xiàng)目。人工智能是國(guó)防部當(dāng)年花費(fèi)1120億美元進(jìn)行研究、開發(fā)、測(cè)試和評(píng)估預(yù)算(有史以來(lái)規(guī)模最大)中“最重要的技術(shù)重點(diǎn)之一”。①Amy McCullough, “DOD’s Artificial Intelligence Efforts Gain Momentum as US, Allies, and Partners Look to Counter China,” Air Force Magazine, July 13, 2021, https://www.airforcemag.com/dods-artificialintelligence-efforts-gain-momentum-as-us-allies-and-partners-look-to-counter-china/.其次,雖然曾面臨谷歌(Google)等企業(yè)員工和公眾人物的抵制,但推進(jìn)公私合作以借助美國(guó)企業(yè)在數(shù)字技術(shù)領(lǐng)域的技術(shù)積累,仍是美國(guó)推進(jìn)人工智能軍事化的主要著力點(diǎn)。在此形勢(shì)下,美國(guó)參議院人工智能核心小組共同創(chuàng)始人共和黨籍議員羅布·波特曼(Rob Portman)和民主黨籍議員馬丁·海因里希(Martin Heinrich)于2021年5月宣布兩黨聯(lián)立法案——《人工智能能力和透明度法案》(AICT)。法案強(qiáng)調(diào)需積極從私營(yíng)部門、大學(xué)和其他來(lái)源招聘人員參與國(guó)防系統(tǒng)的人工智能技術(shù)研發(fā)。②“Portman, Heinrich Announce Bipartisan Artificial Intelligence Bills To Boost AI-Ready National Security Personnel, Increase Governmental Transparency,” The US Senate, May 12, 2021 , https://www.portman.senate.gov/newsroom/press-releases/portman-heinrich-announce-bipartisan-artificial-intelligencebills-boost-ai.2021年11 月 15 日,專司促進(jìn)先進(jìn)技術(shù)軍民融合的“美國(guó)國(guó)防創(chuàng)新部門”(DIU)發(fā)布 “負(fù)責(zé)任的人工智能指南”(RAI)文件,旨在將國(guó)防部的人工智能道德原則落實(shí)到其商業(yè)原型設(shè)計(jì)和采購(gòu)工作中。③David Vergun, “Defense Innovation Unit Publishes ‘Responsible AI Guidelines’,” U.S. Department of Defense, Nov. 18, 2021, https://www.defense.gov/News/News-Stories/Article/Article/2847598/defenseinnovation-unit-publishes-responsible-ai-guidelines/.在拜登總統(tǒng)于2021年12月27日簽署的《2022財(cái)年國(guó)防授權(quán)法案》(NDAA FY2022)中,要求國(guó)防部長(zhǎng)修改聯(lián)合人工智能中心開展的聯(lián)合共同基金會(huì)(Joint Common Foundation)項(xiàng)目,以便利國(guó)防部與領(lǐng)先的人工智能公司簽訂合同(第2部分第227節(jié))。④“Summary of AI Provisions from the National Defense Authorization Act 2022,” The Stanford Institute for Human-Centered AI, https://hai.stanford.edu/summary-ai-provisions-national-defenseauthorization-act-2022.這顯示了美國(guó)軍方正通過(guò)制度化舉措,促進(jìn)私營(yíng)部門的資金與技術(shù)等資源助力人工智能軍事化步伐。再次,以人工智能推動(dòng)軍事體系的系統(tǒng)性轉(zhuǎn)型。根據(jù)《2022財(cái)年國(guó)防授權(quán)法案》的規(guī)定,在法案頒布后的180天內(nèi),國(guó)防部長(zhǎng)將確定將人工智能應(yīng)用納入國(guó)防部平臺(tái)、流程和操作的目標(biāo)。每個(gè)軍事部門和其他相關(guān)部門的負(fù)責(zé)人將制定績(jī)效指標(biāo)來(lái)實(shí)現(xiàn)上述目標(biāo)(第2部分第226節(jié))。⑤Ibid.可以預(yù)見(jiàn)的是,隨著美國(guó)政府與軍方對(duì)人工智能軍事化進(jìn)程的資源投入、組織協(xié)調(diào)與制度保障體系的完善,其人工智能軍事系統(tǒng)的研發(fā)與應(yīng)用進(jìn)程將逐漸加速。

    (二)加快人工智能軍事化項(xiàng)目的應(yīng)用進(jìn)程

    早在20世紀(jì)70年代,美軍就在語(yǔ)音識(shí)別等項(xiàng)目領(lǐng)域開展軍事智能化研究。此后,美軍在軍事智能化領(lǐng)域的研究與初步應(yīng)用一直得以延續(xù)。目前,美國(guó)政府與軍方已在情報(bào)分析、指揮控制與自主攻擊等領(lǐng)域加大對(duì)人工智能系統(tǒng)與裝備的研發(fā)與應(yīng)用進(jìn)程。

    首先,以人工智能技術(shù)增強(qiáng)數(shù)據(jù)、情報(bào)分析與處理能力以及作戰(zhàn)人員的信息溝通能力。人工智能技術(shù)可用于篩選、識(shí)別海量數(shù)據(jù)并向分析師和決策者提供信息,將確保情報(bào)分析、監(jiān)視與偵察大數(shù)據(jù)對(duì)分析師的價(jià)值最大化。①Brendan Cook, “The Future of Artificial Intelligence in ISR Operations,” Air and Space Power Journal, Special Edition, Summer 2021, p.46.美國(guó)軍方已將人工智能技術(shù)作為提升數(shù)據(jù)與情報(bào)分析能力的重要依托。例如,由于美國(guó)間諜飛機(jī)和衛(wèi)星每天收集的原始數(shù)據(jù)遠(yuǎn)超國(guó)防部的分析能力,國(guó)防部于2017年4月宣布實(shí)施代號(hào)為“Maven”的算法戰(zhàn)項(xiàng)目,通過(guò)與多家公司合作開發(fā)圖像分析算法,分析從無(wú)人機(jī)——包括“掃描鷹”(Scan Eagle)等戰(zhàn)術(shù)無(wú)人機(jī)平臺(tái)和MQ-1C“灰鷹”(Gray Eagle)、MQ-9“收割者”(Reaper)等中高空平臺(tái)——所獲取的全動(dòng)態(tài)視頻數(shù)據(jù),識(shí)別具有軍事價(jià)值的目標(biāo)。與此同時(shí),美國(guó)軍方還將人工智能技術(shù)作為提升單兵通信與作戰(zhàn)能力的重要依托。為此,美國(guó)軍方已向微軟等企業(yè)提供研發(fā)支持與軍購(gòu)合同。其中,美國(guó)陸軍于2021年3月26日授予微軟一份為期五年的綜合視覺(jué)增強(qiáng)系統(tǒng)(IVAS)合同,為其生產(chǎn)軍用版的全息透鏡增強(qiáng)現(xiàn)實(shí)眼鏡,該合同可再延長(zhǎng)5年,最大潛在價(jià)值為218.8億美元。②Sydney J. Freedberg Jr. “IVAS: Microsoft Award by Army Worth Up to $21.9B,” Breaking Defense,March 31, 2021, https://breakingdefense.com/2021/03/ivas-microsoft-award-worth-up-to-21-9b/.該系統(tǒng)借助人工智能技術(shù)使得作戰(zhàn)人員無(wú)需紙質(zhì)地圖,通過(guò)護(hù)目鏡即可規(guī)劃作戰(zhàn),提升戰(zhàn)場(chǎng)溝通效率。

    其次,以人工智能技術(shù)裝備提升作戰(zhàn)指揮系統(tǒng)的綜合效能。美國(guó)國(guó)防部已將人工智能在指揮系統(tǒng)的運(yùn)用作為優(yōu)先事項(xiàng)。其試圖將總參謀部各個(gè)功能板塊的運(yùn)作,包括作戰(zhàn)規(guī)劃、情報(bào)收集、后勤、通信和決策等環(huán)節(jié),都移交給各類智能系統(tǒng)。這些子系統(tǒng)將被集成到一個(gè)“系統(tǒng)中的系統(tǒng)”——“聯(lián)合全域指揮和控制”(JADC2)系統(tǒng)。2021年6月22日,美國(guó)國(guó)防部宣布了人工智能和數(shù)據(jù)加速(ADA)計(jì)劃。其目標(biāo)是快速推進(jìn)“聯(lián)合全域指揮和控制”等軍事智能化的概念,通過(guò)實(shí)驗(yàn)或訓(xùn)練產(chǎn)生基礎(chǔ)能力,并最終產(chǎn)生可用于傳感器數(shù)據(jù)的實(shí)時(shí)融合、自動(dòng)指揮和自主系統(tǒng)集成的數(shù)據(jù)和操作平臺(tái)。①Terri Moon Cronk, “Hicks Announces New Artificial Intelligence Initiative,” U.S. Department of Defense, June 22, 2021, https://www.defense.gov/Explore/News/Article/Article/2667212/hicks-announcesnew-artificial-intelligence-initiative/.美國(guó)空軍已與洛克希德·馬丁(Lockheed Martin)公司和其他國(guó)防承包商一起開發(fā)這一系統(tǒng)的關(guān)鍵部件。其中一個(gè)組成部分是“先進(jìn)戰(zhàn)斗管理系統(tǒng)”(ABMS),該系統(tǒng)旨在為戰(zhàn)斗機(jī)飛行員提供最新數(shù)據(jù),并指導(dǎo)戰(zhàn)斗行動(dòng)。另一個(gè)關(guān)鍵組成部分是陸軍的“綜合空中和導(dǎo)彈防御作戰(zhàn)指揮系統(tǒng)”(IBCS),其將雷達(dá)系統(tǒng)連接到防空和導(dǎo)彈防御發(fā)射裝置,并為其提供精確的發(fā)射指令。美國(guó)空軍和多家承包商尋求將上述系統(tǒng)進(jìn)行整合,從而將傳感器、發(fā)射裝置和部隊(duì)指揮官連接成一個(gè)軍事“物聯(lián)網(wǎng)”。這一系統(tǒng)的主要發(fā)展動(dòng)力是美國(guó)的軍事戰(zhàn)略調(diào)整,即在未來(lái)的沖突中與享有地理優(yōu)勢(shì)的實(shí)力接近的對(duì)手(俄羅斯和中國(guó))進(jìn)行競(jìng)爭(zhēng);該系統(tǒng)可增強(qiáng)美軍在陸、海、空、天各領(lǐng)域的聯(lián)動(dòng)能力,有利于提升那些部署在遠(yuǎn)離本土、駐地分散的美軍的戰(zhàn)場(chǎng)生存力,因而這一設(shè)想對(duì)部署在西太平洋的美軍尤具吸引力。②Loren Thompson, “The Biggest Military Tech Opportunity Of the Biden Years Isn’t a Weapon, It’s a Network”, Forbes, August 24, 2021, https://www.forbes.com/sites/lorenthompson/2021/08/24/the-biggestmilitary-tech-opportunity-of-the-biden-years-isnt-a-weapon-its-a-network/?sh=15216d20b628.而美國(guó)2022財(cái)年國(guó)防預(yù)算中新增的各類技術(shù)研發(fā)支出已為“聯(lián)合全域指揮控制”這一新型作戰(zhàn)模式進(jìn)行鋪墊。

    再次,推進(jìn)基于人工智能技術(shù)支持的自主攻擊平臺(tái)的研發(fā)與應(yīng)用。美國(guó)各軍種均有已經(jīng)或即將列裝的人工智能武器。一方面,針對(duì)虛擬作戰(zhàn)空間,美軍已推動(dòng)基于人工智能技術(shù)的新一代網(wǎng)絡(luò)空間作戰(zhàn)系統(tǒng)的開發(fā)。2017年,國(guó)防部高級(jí)研究計(jì)劃局(DARPA)資助了基于人工智能處理芯片的自主網(wǎng)絡(luò)攻擊系統(tǒng)的研發(fā)。另一方面,針對(duì)物理性作戰(zhàn)空間,美軍已嘗試裝備能在無(wú)直接人力投入的情況下選擇攻擊目標(biāo)并實(shí)施致命攻擊行動(dòng)的系統(tǒng)與武器。由于美國(guó)國(guó)內(nèi)新冠疫情的擴(kuò)散導(dǎo)致大量美國(guó)軍人的戰(zhàn)斗能力下降,促使美軍已越來(lái)越頻繁地依賴自主武器系統(tǒng)實(shí)施危險(xiǎn)的作戰(zhàn)行動(dòng)。值得注意的是,軍事飛行員一直是空中力量投射的核心。自動(dòng)駕駛和人工智能方面的技術(shù)進(jìn)步會(huì)導(dǎo)致無(wú)人駕駛飛行器(PAVs)的發(fā)展。③Arash Heydarian Pashakhanlou, “AI, Autonomy, and Airpower: The End of Pilots?” Defence Studies, Vol.19, No.4, 2019, p.337.在此背景下,未來(lái)美國(guó)人工智能軍事化的應(yīng)用成果,包括機(jī)器人哨兵、戰(zhàn)場(chǎng)監(jiān)視無(wú)人機(jī)和自主潛艇等裝備的研發(fā)與應(yīng)用會(huì)顯著增長(zhǎng)。

    (三)強(qiáng)化與盟國(guó)在人工智能軍事化領(lǐng)域的合作

    在美國(guó)戰(zhàn)略研究界的視野中,人工智能軍事化系統(tǒng)的應(yīng)用對(duì)美國(guó)及其盟國(guó)的軍事行動(dòng)協(xié)調(diào)帶來(lái)挑戰(zhàn)。這主要是由于并非所有國(guó)家都將以相同的速度開發(fā)軍用人工智能系統(tǒng),這一狀況會(huì)阻礙盟國(guó)間的任務(wù)分擔(dān)并制約武器系統(tǒng)的互操作性,而且在開發(fā)可互操作的人工智能軍用系統(tǒng)以及共享支持人工智能系統(tǒng)的數(shù)據(jù)方面,盟國(guó)將面臨相關(guān)的政治與技術(shù)挑戰(zhàn),特別是國(guó)家之間往往不愿共享敏感信息。①Erik Lin-Greenberg, “Allies and Artificial Intelligence: Obstacles to Operations and Decision-Making”, Texas National Security Review, Vol.3, Iss.2, 2020, p.62.對(duì)此,美國(guó)政府與軍方已利用其層層嵌套的聯(lián)盟體系,從核心盟國(guó)開始,推動(dòng)在人工智能軍事化領(lǐng)域的協(xié)作,并希望與盟國(guó)共同構(gòu)建針對(duì)人工智能的數(shù)據(jù)共享框架,以提高聯(lián)盟體系內(nèi)部在智能化作戰(zhàn)領(lǐng)域的系統(tǒng)兼容性。

    作為最核心的軍事同盟,美英澳三國(guó)新的“三邊安全伙伴關(guān)系”(AUKUS)于2021年9月建立。當(dāng)月15日,拜登聲稱,AUKUS將匯集三方力量,以保持和擴(kuò)大三方在軍事能力和關(guān)鍵技術(shù)方面的優(yōu)勢(shì),如網(wǎng)絡(luò)、人工智能、量子技術(shù)等領(lǐng)域。②“Remarks on the Australia-United Kingdom-United States (AUKUS) Security Agreement With Prime Minister Scott Morrison of Australia and Prime Minister Boris Johnson of the United Kingdom,” Daily Compilation of Presidential Documents, Administration of Joseph R. Biden, Jr, September 15, 2021, p.3.由于AUKUS旨在加強(qiáng)三國(guó)間的軍事技術(shù)交流與合作,人工智能軍事應(yīng)用將是這一軍事同盟的合作議題。與此同時(shí),美國(guó)與“五眼聯(lián)盟”(Five Eyes)伙伴國(guó)一直保持情報(bào)合作。目前的一些情報(bào)共享協(xié)議允許交換訓(xùn)練和操作人工智能系統(tǒng)所需的敏感數(shù)據(jù)。在北約(NATO)體系內(nèi),美國(guó)亦大力推進(jìn)其與盟國(guó)在人工智能軍事化領(lǐng)域的合作進(jìn)程。美國(guó)國(guó)防部人工智能聯(lián)合中心負(fù)責(zé)人于2020年1月表示,美國(guó)和北約為共同的價(jià)值觀大力推廣人工智能,以確保盟軍跟上數(shù)字現(xiàn)代化的步伐并保持互操作性。③Brian W. Everstine, “Closer Collaboration With NATO,” Air Force Magazine, January 15, 2020,https://www.airforcemag.com/dod-ai-leader-wants-closer-collaboration-with-nato/.在美國(guó)的推動(dòng)下,北約已將人工智能軍事化作為主要的發(fā)展方向。對(duì)北約而言,“競(jìng)爭(zhēng)對(duì)手”正在利用新技術(shù)來(lái)追求增強(qiáng)經(jīng)濟(jì)競(jìng)爭(zhēng)力和軍事能力的雙重目標(biāo);北約面臨一場(chǎng)以人工智能為核心的全球技術(shù)競(jìng)賽。④Edward Hunter Christie, “Artificial Intelligence at NATO: Dynamic Adoption, Responsible Use,”NATO Review, November 24, 2020, https://www.nato.int/docu/review/articles/2020/11/24/artificialintelligence-at-nato-dynamic-adoption-responsible-use/index.html.在此背景下,北約已在實(shí)施與人工智能相關(guān)的項(xiàng)目,包括人工智能、自動(dòng)化和機(jī)器人的軍事應(yīng)用項(xiàng)目和北約數(shù)據(jù)科學(xué)中心(NATO Data Science Centre)項(xiàng)目。2020 年5月,北約科技組織(STO)在其發(fā)布的報(bào)告中聲稱,北約制定新的技術(shù)戰(zhàn)略的主要影響因素包括日益智能化、互聯(lián)化、分布式和數(shù)字化的技術(shù)發(fā)展。特別是人工智能等技術(shù)領(lǐng)域的進(jìn)化和革命,定義了北約保持作戰(zhàn)和組織有效性所需的技術(shù)優(yōu)勢(shì)。①“Science & Technology Trends 2020-2040 Exploring the S&T Edge,” NATO Science & Technology Organization, May 2020, p.39, https://www.sto.nato.int/publications/Management%20Reports/2020_TTR_Public_release_final.pdf.2021年10月,北約國(guó)防部長(zhǎng)會(huì)議上正式通過(guò)北約人工智能戰(zhàn)略(AI Strategy for NATO)。該戰(zhàn)略的目標(biāo)是通過(guò)加強(qiáng)人工智能的關(guān)鍵能力和調(diào)整政策,加快人工智能的應(yīng)用,防范來(lái)自國(guó)家和非國(guó)家行為體使用人工智能技術(shù)所造成的威脅,并鼓勵(lì)盟國(guó)在人工智能方面的發(fā)展保持一致;北約在此領(lǐng)域的努力所創(chuàng)造的戰(zhàn)略優(yōu)勢(shì)將來(lái)自技術(shù)倫理方面的領(lǐng)導(dǎo)地位、人工智能技術(shù)的迭代應(yīng)用以及對(duì)人工智能系統(tǒng)的靈活性與互操作性等因素的整合效應(yīng)。②Zoe Stanley-Lockman and Edward Hunter Christie, “An Artificial Intelligence Strategy for NATO,”NATO Review, October 25, 2021, https://www.nato.int/docu/review/articles/2021/10/25/an-artificialintelligence-strategy-for-nato/index.html.

    在更大的聯(lián)盟體系范圍內(nèi),美國(guó)政府與軍方不斷加強(qiáng)與盟國(guó)在人工智能軍事化領(lǐng)域的互動(dòng)與合作。2020年9月15日至16日,美國(guó)國(guó)防部聯(lián)合人工智能中心與澳大利亞、加拿大、法國(guó)、日本、韓國(guó)、英國(guó)等13國(guó)軍方與國(guó)防部門舉行了首次人工智能防務(wù)伙伴關(guān)系(AI Partnership for Defense Joint Statement, AI PfD)論壇。該論壇旨在建立合作框架,協(xié)調(diào)盟國(guó)間的人工智能政策,以研發(fā)和在國(guó)防中應(yīng)用“負(fù)責(zé)任”的人工智能,提高盟國(guó)軍隊(duì)的互操作性;這顯示美國(guó)及其盟國(guó)的軍事力量正從以硬件為中心過(guò)渡到以軟件、數(shù)據(jù)為中心,而人工智能軍事聯(lián)盟將使美國(guó)及其盟國(guó)和伙伴能夠利用新興技術(shù)的潛力,以遏制共同的“威脅”。③“JAIC Facilitates First-ever International AI Dialogue for Defense,” U.S. Joint Artificial Intelligence Center,September 16, 2020, https://www.ai.mil/news_09_16_20-jaic_facilitates_first-ever_international_ai_dialogue_for_defense_.html.可以預(yù)見(jiàn)的是,隨著美國(guó)對(duì)華“競(jìng)爭(zhēng)”強(qiáng)度的上升以及中美軍事、科技差距的日益縮減,美國(guó)在人工智能軍事化領(lǐng)域?qū)γ藝?guó)的合作需求會(huì)進(jìn)一步上升。

    三、美國(guó)推動(dòng)人工智能軍事化對(duì)國(guó)際安全造成的風(fēng)險(xiǎn)

    盡管美國(guó)國(guó)防部尚未部署完全自主的武器系統(tǒng),但基于獲取絕對(duì)軍事優(yōu)勢(shì)的強(qiáng)烈動(dòng)機(jī),未來(lái)美軍在軍事部署與實(shí)戰(zhàn)中增加對(duì)軍用人工智能系統(tǒng)的應(yīng)用以及此類技術(shù)的外溢將對(duì)國(guó)際安全局勢(shì)造成顯著風(fēng)險(xiǎn)。

    (一)加劇新型軍備競(jìng)賽氛圍

    美國(guó)政府財(cái)政在資源日益捉襟見(jiàn)肘的背景下,又迫切地期望塑造對(duì)中俄新的軍事優(yōu)勢(shì),這不僅會(huì)激勵(lì)包括美國(guó)盟國(guó)在內(nèi)的主要國(guó)家快速部署各類人工智能軍事化應(yīng)用系統(tǒng),還會(huì)導(dǎo)致其“假想敵”采取針對(duì)性戰(zhàn)略與措施。由此,美國(guó)人工智能軍事化進(jìn)程將加劇新型軍備競(jìng)賽。

    在2014年的克里米亞事件發(fā)生之后,俄國(guó)一直面臨美國(guó)的全方位打壓,面對(duì)美俄軍事實(shí)力差距漸趨擴(kuò)大以及美國(guó)智能武器系統(tǒng)的發(fā)展態(tài)勢(shì),為促進(jìn)本國(guó)智能技術(shù)的發(fā)展,俄國(guó)政府通過(guò)完善管理體系、提高協(xié)調(diào)能力并加強(qiáng)軍地合作,促進(jìn)軍事智能技術(shù)的發(fā)展。在軍政高層力推下,俄軍智能化武器陸續(xù)試驗(yàn)或列裝。對(duì)俄國(guó)而言,加快推動(dòng)人工智能軍事系統(tǒng)的應(yīng)用可以創(chuàng)造一種更有效、成本更低的戰(zhàn)略來(lái)與美國(guó)進(jìn)行非對(duì)稱競(jìng)爭(zhēng),而且這一戰(zhàn)略思路已延伸到了核武器領(lǐng)域。例如,俄國(guó)研制的采用核動(dòng)力、可配置核武裝、具有一定智能化水平的無(wú)人潛航器——“海神”(Poseidon)的任務(wù)是摧毀基礎(chǔ)設(shè)施、航母群和其他高價(jià)值目標(biāo)。①Katarzyna Zysk, “Defence Innovation and the 4th Industrial Revolution in Russia,” Journal of Strategic Studies, Vol.44, No.4, 2021, pp.561-562.由此可見(jiàn),美國(guó)推進(jìn)人工智能軍事化進(jìn)程已導(dǎo)致基于人工智能技術(shù)的新型軍備競(jìng)賽逐漸升溫。

    不容忽視的是,由于美國(guó)試圖聯(lián)合盟國(guó)推進(jìn)人工智能軍事化,其軍事智能化技術(shù)存在向日本等中國(guó)周邊國(guó)家外溢的趨勢(shì),可能導(dǎo)致地區(qū)安全格局發(fā)生變化,并可能導(dǎo)致其他地區(qū)性國(guó)家加入發(fā)展軍事智能化系統(tǒng)的軍備競(jìng)賽,從而惡化地區(qū)安全局勢(shì)。

    (二)增加大國(guó)間意外沖突與戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)

    美國(guó)基于人工智能技術(shù)支持的自主武器系統(tǒng)在設(shè)計(jì)、部署和應(yīng)用中的缺陷與失誤及其對(duì)國(guó)際政治的影響,將會(huì)增加意外沖突和軍事對(duì)抗升級(jí)的風(fēng)險(xiǎn)。

    首先,美國(guó)研發(fā)與應(yīng)用的自主攻擊系統(tǒng)的自動(dòng)化分析與決策程序,會(huì)受到“戰(zhàn)爭(zhēng)迷霧”的影響,即沖突的快速變化、不可預(yù)測(cè)性與脆弱的人工智能系統(tǒng)不兼容。機(jī)器學(xué)習(xí)系統(tǒng)通常依賴于非常大的數(shù)據(jù)集,這在一些軍事場(chǎng)景中可能不存在。當(dāng)軍用人工智能系統(tǒng)使用不充分的數(shù)據(jù)集進(jìn)行訓(xùn)練或在其設(shè)計(jì)的狹窄背景之外應(yīng)用時(shí),此類系統(tǒng)通常是不可靠和脆弱的。在美軍急于部署軍用人工智能系統(tǒng)的態(tài)勢(shì)下,系統(tǒng)的可靠性不足與對(duì)“假想敵”的猜疑、恐懼等因素疊加,會(huì)增加發(fā)生意外沖突的風(fēng)險(xiǎn)。值得注意的是,美國(guó)陸軍未來(lái)司令部(Army Futures Command)司令約翰·默里(John Murray)于2021年1月下旬表示,由于人類可能無(wú)法對(duì)抗敵方無(wú)人機(jī)群,因此控制人工智能的規(guī)則可能需要放松。這意味著五角大樓對(duì)自動(dòng)武器的使用規(guī)則做出了新的解釋。①David Hambling, “Drone Swarms Are Getting Too Fast for Humans to Fight, U.S. General Warns,”Forbes, January 27, 2021, https://www.forbes.com/sites/davidhambling/2021/01/27/drone-swarms-aregetting-too-fast-for-humans-too-fight-us-general-warns/?sh=7ced412372c9.由此可以預(yù)見(jiàn)的是,雖然目前美軍的自主武器系統(tǒng)仍會(huì)受到操作員的遠(yuǎn)程操控,但隨著人工智能軍事化系統(tǒng)列裝進(jìn)度的加快,未來(lái)美軍有可能會(huì)將部分“自衛(wèi)戰(zhàn)術(shù)”托付給人工智能系統(tǒng),以利用其快速?zèng)Q策能力,這可能導(dǎo)致戰(zhàn)術(shù)性失誤或事故,并使意外沖突發(fā)生的概率與風(fēng)險(xiǎn)不斷上升。例如,在美軍對(duì)中國(guó)沿海實(shí)施抵近偵察、軍事挑釁并導(dǎo)致出現(xiàn)對(duì)峙局面的過(guò)程中,如果“聯(lián)合全域指揮和控制”等智能系統(tǒng)出現(xiàn)技術(shù)故障,可能會(huì)導(dǎo)致美軍對(duì)戰(zhàn)場(chǎng)態(tài)勢(shì)感知產(chǎn)生誤判,并引發(fā)意外攻擊或沖突。

    其次,人工智能武器系統(tǒng)的秘密性會(huì)侵蝕大國(guó)安全關(guān)系中的戰(zhàn)略“默契”,影響對(duì)手的戰(zhàn)略判斷,從而導(dǎo)致國(guó)家間沖突風(fēng)險(xiǎn)。在人工智能輔助下的指揮和控制系統(tǒng),其決策速度會(huì)大大超越傳統(tǒng)戰(zhàn)爭(zhēng)模式,加上自主武器系統(tǒng)的應(yīng)用,將顯著加速戰(zhàn)爭(zhēng)進(jìn)程。值得注意的是,“聯(lián)合全域指揮和控制”等系統(tǒng)所體現(xiàn)的全域聯(lián)合作戰(zhàn)思路,強(qiáng)調(diào)多域協(xié)同,不僅包括在一般物理空間采取軍事行動(dòng)的能力,而且更加強(qiáng)調(diào)在太空、網(wǎng)絡(luò)空間、電磁頻譜、信息環(huán)境等方面的認(rèn)知、行動(dòng)與控制能力。②陳彩輝:《美軍“聯(lián)合全域作戰(zhàn)(JADO)”概念淺析》,《中國(guó)電子科學(xué)研究院學(xué)報(bào)》2020年第10期,第921頁(yè)。這使得在大國(guó)關(guān)系出現(xiàn)緊張的過(guò)程中,一國(guó)對(duì)他國(guó)所造成的威脅的來(lái)源、性質(zhì)與程度的識(shí)別與判斷更加困難。對(duì)此,基辛格認(rèn)為,軍事人工智能系統(tǒng)可能會(huì)導(dǎo)致外交失??;人工智能的秘密性和瞬時(shí)性意味著,與常規(guī)武器或核武器不同的是,國(guó)家決策者不能簡(jiǎn)單地將其作為一種明顯的威脅擺到臺(tái)面上;在戰(zhàn)略方面,國(guó)家可能在一段時(shí)間內(nèi)難以識(shí)別威脅來(lái)源,這可能會(huì)導(dǎo)致戰(zhàn)場(chǎng)上的混亂等不利后果。③George Dvorsky, “Henry Kissinger Warns That AI Will Fundamentally Alter Human Consciousness,”Gizmodo, November 5, 2019, https://gizmodo.com/henry-kissinger-warns-that-ai-will-fundamentallyalter-1839642809.由此,在美國(guó)強(qiáng)化人工智能軍事化進(jìn)程的背景下,大國(guó)博弈中的不可控因素將會(huì)進(jìn)一步增加,并會(huì)對(duì)中國(guó)周邊地區(qū)以及更大范圍的國(guó)際安全局勢(shì)造成負(fù)面影響。

    最后,人工智能與網(wǎng)絡(luò)技術(shù)的結(jié)合可能進(jìn)一步降低網(wǎng)絡(luò)攻擊的門檻。美國(guó)及其西方盟國(guó)的戰(zhàn)略傾向顯示,具有重要軍事意義的進(jìn)攻性武器和自主武器系統(tǒng)可能將被部署在網(wǎng)絡(luò)空間。特別是美軍已使用計(jì)算機(jī)病毒、木馬程序和邏輯炸彈等智能網(wǎng)絡(luò)武器,對(duì)一些國(guó)家的政府機(jī)關(guān)、軍事科研等機(jī)構(gòu)的網(wǎng)絡(luò)進(jìn)行情報(bào)搜集、破壞等活動(dòng)。而且隨著美國(guó)人工智能軍事化進(jìn)程的發(fā)展,將有越來(lái)越多的物理實(shí)體可以成為美軍實(shí)施網(wǎng)絡(luò)攻擊的對(duì)象,這將成為大國(guó)間網(wǎng)絡(luò)安全爭(zhēng)議與對(duì)抗升級(jí)的誘發(fā)因素,尤其會(huì)對(duì)中國(guó)的網(wǎng)絡(luò)安全局勢(shì)造成更為嚴(yán)峻的挑戰(zhàn)。

    (三)重構(gòu)大國(guó)間威懾體系并侵蝕大國(guó)安全關(guān)系的穩(wěn)定性

    在過(guò)去幾十年中,核大國(guó)之間存在的“相互確保摧毀”的狀態(tài)維持了全球力量的平衡,而人工智能技術(shù)的軍事化應(yīng)用則可能會(huì)從根本上改變這種“核恐怖平衡”。核戰(zhàn)會(huì)導(dǎo)致相互毀滅,任何發(fā)起先發(fā)制人核打擊的國(guó)家都可能面臨自我毀滅,但利用基于人工智能技術(shù)支持的自主武器實(shí)施出其不意的首次攻擊可能無(wú)法追蹤,因此威懾理論并不適用于自主武器系統(tǒng)。智能化戰(zhàn)爭(zhēng)的重要特征就是對(duì)抗節(jié)奏明顯加快,制勝機(jī)理從以能制勝轉(zhuǎn)變?yōu)橐钥熘苿?。在此形?shì)下,自主武器攻擊可以迅速觸發(fā)響應(yīng)并使得沖突迅速升級(jí),這一過(guò)程中蘊(yùn)含著觸發(fā)核戰(zhàn)爭(zhēng)的風(fēng)險(xiǎn)。例如,“聯(lián)合全域指揮和控制”系統(tǒng)可以探測(cè)到其認(rèn)為構(gòu)成安全風(fēng)險(xiǎn)的敵方行動(dòng),因此美國(guó)在這一狀況下有可能使用飛機(jī)、導(dǎo)彈發(fā)動(dòng)全面攻擊,使沖突升級(jí),這會(huì)杜絕通過(guò)談判解決危機(jī)的可能。事實(shí)上,根據(jù)美國(guó)的軍事理論,其一直都有可能使用所謂的戰(zhàn)術(shù)核武器來(lái)應(yīng)對(duì)蘇聯(lián)和現(xiàn)在俄羅斯的進(jìn)攻行動(dòng),而人們亦普遍認(rèn)為俄羅斯的軍事理論也包含了類似選項(xiàng);在此情況下,“聯(lián)合全域指揮和控制”系統(tǒng)或其他類似系統(tǒng)可能會(huì)將敵人的行動(dòng)誤解為準(zhǔn)備發(fā)射核武器的信號(hào),并命令美國(guó)核力量進(jìn)行先發(fā)制人的打擊,從而引發(fā)新的世界大戰(zhàn)。①M(fèi)ichael T. Klare, “Artificial (un)intelligence and the U.S. Military,” Salon, September 11, 2020,https://www.salon.com/2020/09/11/artificial-unintelligence-and-the-us-military_partner/.在此背景下,傳統(tǒng)的以核為主的威懾體系正在向“核常兼?zhèn)渫伢w系”轉(zhuǎn)變,這一態(tài)勢(shì)會(huì)侵蝕大國(guó)安全關(guān)系的穩(wěn)定性。

    四、應(yīng)對(duì)美國(guó)人工智能軍事化的路徑選擇

    美國(guó)當(dāng)下為維護(hù)其全球主導(dǎo)地位的戰(zhàn)略意圖與美國(guó)推進(jìn)人工智能軍事化的政策、措施,以及美國(guó)軍事技術(shù)迭代及其戰(zhàn)場(chǎng)應(yīng)用的歷史,均顯示美國(guó)加快推進(jìn)人工智能軍事化的趨勢(shì)難以改變。對(duì)中國(guó)而言,需要預(yù)研與防范這一趨勢(shì)所造成的威脅,并從多邊和雙邊兩個(gè)層面推動(dòng)針對(duì)人工智能軍事化的國(guó)際合作議程。

    (一)強(qiáng)化反智能作戰(zhàn)能力以應(yīng)對(duì)基于新興技術(shù)的軍事威脅

    美國(guó)人工智能軍事化進(jìn)程,特別是進(jìn)攻性智能武器系統(tǒng)的發(fā)展,對(duì)中國(guó)和平發(fā)展所需的安全、穩(wěn)定的國(guó)際環(huán)境造成諸多不利挑戰(zhàn)。對(duì)此,中國(guó)需在推動(dòng)軍事理論創(chuàng)新的基礎(chǔ)上,針對(duì)人工智能等新興技術(shù)領(lǐng)域,進(jìn)一步提升研發(fā)與軍民融合力度,提升應(yīng)對(duì)智能化作戰(zhàn)的技術(shù)能力,并加強(qiáng)對(duì)敏感數(shù)據(jù)跨境流動(dòng)的管控。第一,以軍民融合構(gòu)建應(yīng)對(duì)智能化戰(zhàn)爭(zhēng)的技術(shù)基礎(chǔ)。人工智能興起于民用技術(shù),反人工智能技術(shù)亦可借助民用技術(shù)得到發(fā)展。因此,基于軍民融合提升反智能化作戰(zhàn)的能力,不僅有利于構(gòu)建應(yīng)對(duì)智能化戰(zhàn)爭(zhēng)的技術(shù)基礎(chǔ),還可通過(guò)技術(shù)進(jìn)步制約美國(guó)發(fā)動(dòng)智能化戰(zhàn)爭(zhēng)的戰(zhàn)略傾向。第二,以增強(qiáng)防御性能力為主,提升在軍事智能化領(lǐng)域的攻防能力。需要以智能技術(shù)為突破,著重提升武器系統(tǒng)的智能化水平,并積極發(fā)揮算法在情報(bào)分析、輔助決策、智能指揮、精確協(xié)同、精準(zhǔn)保障等方面的作用。①趙輝:《應(yīng)對(duì)智能化戰(zhàn)爭(zhēng)的對(duì)策思考》,《海軍工程大學(xué)學(xué)報(bào)(綜合版)》2020年第3期,第34頁(yè)。由此,在數(shù)據(jù)積累的基礎(chǔ)上,不斷提升算力并構(gòu)建自適應(yīng)能力更強(qiáng)的平臺(tái)。第三,進(jìn)一步加強(qiáng)對(duì)國(guó)內(nèi)敏感數(shù)據(jù)跨境流動(dòng)的管控。這是由于可用于支持智能作戰(zhàn)的數(shù)據(jù)不但包括軍事系統(tǒng)的偵察、監(jiān)視和情報(bào)活動(dòng)的成果,還包括各類電子商務(wù)平臺(tái)與軟件所掌握的地理信息、社會(huì)文化信息與社交媒體數(shù)據(jù)等。日益引發(fā)關(guān)注的是,在企業(yè)內(nèi)部或通過(guò)第三方合作的方式實(shí)施的人工智能技術(shù)研發(fā)和場(chǎng)景應(yīng)用中,均需常態(tài)化、持續(xù)性、高速率、低延時(shí)的跨境數(shù)據(jù)流動(dòng),這會(huì)帶來(lái)敏感和重要數(shù)據(jù)出境后的安全風(fēng)險(xiǎn)。②夏玉明、石英村:《人工智能發(fā)展與數(shù)據(jù)安全挑戰(zhàn)》,《信息安全與通信保密》2020年第12期,第77頁(yè)。在此形勢(shì)下,強(qiáng)化敏感數(shù)據(jù)的跨境流動(dòng)管理,對(duì)于弱化美軍進(jìn)攻性智能武器的深度學(xué)習(xí)所依賴的數(shù)據(jù)基礎(chǔ)具有重要意義。

    (二)推動(dòng)針對(duì)人工智能軍事化的多邊技術(shù)治理進(jìn)程

    以美國(guó)人工智能軍事化進(jìn)程為代表的全球范圍內(nèi)的人工智能軍事化趨勢(shì)反映了新的戰(zhàn)略、戰(zhàn)術(shù)操作挑戰(zhàn)與安全風(fēng)險(xiǎn),特別是在自主系統(tǒng)的部署和人機(jī)團(tuán)隊(duì)的整合方面,引發(fā)了關(guān)于人工智能治理和倫理等新問(wèn)題?;趯?duì)自主武器可能引發(fā)的安全風(fēng)險(xiǎn)的擔(dān)憂,自2014年起,《特定常規(guī)武器公約》(CCW)的締約國(guó)以及部分非締約國(guó)、政府間國(guó)際組織、非政府組織等主體,在該公約框架下組織會(huì)議對(duì)自主武器進(jìn)行了討論。2017年,這一非正式會(huì)議轉(zhuǎn)變?yōu)檎g專家組會(huì)議。美國(guó)參與此類活動(dòng)主要秉持兩大目標(biāo):一是為美國(guó)在該領(lǐng)域形成絕對(duì)的競(jìng)爭(zhēng)優(yōu)勢(shì)爭(zhēng)取時(shí)間和空間;二是呼吁國(guó)際社會(huì)重視自主武器所帶來(lái)的安全問(wèn)題,特別是要防范會(huì)對(duì)美國(guó)安全和霸權(quán)地位造成“威脅”的任何主體“濫用”自主武器。①王玫黎、杜陳潔:《美國(guó)參與自主性武器國(guó)際軍控的戰(zhàn)略關(guān)切及角色定位》,《國(guó)際觀察》2021年第2期,第133頁(yè)。其實(shí)質(zhì)是在關(guān)注自主武器系統(tǒng)的負(fù)面影響的同時(shí),防止形成不利于美國(guó)利益最大化的國(guó)際規(guī)則。美國(guó)對(duì)待人工智能全球治理的機(jī)會(huì)主義立場(chǎng),以及在很大程度上由這一傾向所導(dǎo)致的針對(duì)人工智能軍事化的規(guī)則設(shè)置、機(jī)制構(gòu)建等方面的滯后狀態(tài),不利于防范未來(lái)可能爆發(fā)的智能化戰(zhàn)爭(zhēng)及其升級(jí)進(jìn)程。特別是自主系統(tǒng)在軍事行動(dòng)中的角色及其所存在的局限性,有可能在其造成國(guó)際沖突或人道主義災(zāi)難之后,成為美軍推卸責(zé)任的借口。

    鑒于這一態(tài)勢(shì),中國(guó)需以參與全球技術(shù)治理為契機(jī),提升在人工智能治理領(lǐng)域的話語(yǔ)權(quán),推動(dòng)人工智能國(guó)際規(guī)則的創(chuàng)設(shè),以此維護(hù)人工智能軍事化趨勢(shì)下的國(guó)際安全。具體而言,需秉持構(gòu)建新一輪技術(shù)革命條件下的人類命運(yùn)共同體的理念,支持與促進(jìn)國(guó)際社會(huì)就人工智能問(wèn)題開展常態(tài)化的多邊溝通。在此過(guò)程中,需繼續(xù)推動(dòng)《特定常規(guī)武器公約》框架下的關(guān)于致命性自主武器的政府專家組會(huì)議以及日內(nèi)瓦裁軍談判會(huì)議等多邊軍控平臺(tái)對(duì)人工智能國(guó)際規(guī)范的磋商,倡議與引導(dǎo)各國(guó)就處理人工智能軍事化問(wèn)題的原則、方式和法律文書達(dá)成更多共識(shí),避免采取歧視性措施,防止對(duì)和平利用人工智能技術(shù)產(chǎn)生阻礙。②李馳江:《人工智能在軍事領(lǐng)域的應(yīng)用及全球治理》,《學(xué)術(shù)前沿》2021年第10期,第27頁(yè)。在此基礎(chǔ)上,推動(dòng)建立人工智能技術(shù)規(guī)范體系和監(jiān)管框架,對(duì)智能武器的設(shè)計(jì)原則、作戰(zhàn)方式、故障控制、風(fēng)險(xiǎn)防范等問(wèn)題予以規(guī)范。

    (三)拓展中美在軍用人工智能風(fēng)險(xiǎn)管控領(lǐng)域的合作空間

    自2017年之后,美國(guó)和中國(guó)在經(jīng)濟(jì)、科技以及地緣政治等領(lǐng)域的沖突與爭(zhēng)議加劇,而合作面相對(duì)縮減,這對(duì)兩國(guó)而言是一個(gè)代價(jià)高昂的趨勢(shì),因其導(dǎo)致對(duì)抗成本上升并放棄了潛在的收益;美國(guó)和中國(guó)正在進(jìn)行變革性的權(quán)力轉(zhuǎn)移,但權(quán)力轉(zhuǎn)移既不排除在安全和經(jīng)濟(jì)競(jìng)爭(zhēng)上的節(jié)制,也不排除在雙邊和全球事務(wù)中就共同利益進(jìn)行合作。③Robert S. Ross, “It’s Not a Cold War: Competition and Cooperation in US–China Relations,” China International Strategy Review, June 2020, p.63.作為核大國(guó),中美兩國(guó)間的大規(guī)模對(duì)抗和逐底競(jìng)爭(zhēng)的代價(jià)極其高昂,因此兩國(guó)在確保斗爭(zhēng)的邊界、避免無(wú)限制的斗爭(zhēng)升級(jí)和相互毀滅方面存在共同利益,而兩國(guó)間的合作能力將決定人類能否在應(yīng)對(duì)全球問(wèn)題方面取得進(jìn)展。①Suisheng Zhao, “The US–China Rivalry in the Emerging Bipolar World: Hostility, Alignment, and Power Balance,” Journal of Contemporary China, July 2021, p.16.這意味著中美兩國(guó)在科技、軍事等領(lǐng)域的競(jìng)爭(zhēng)過(guò)程中,亦存在不容忽視的合作收益。

    實(shí)際上,在人工智能技術(shù)領(lǐng)域,對(duì)技術(shù)主導(dǎo)地位的焦慮是美國(guó)對(duì)自身經(jīng)濟(jì)、軍事和政治實(shí)力的相對(duì)衰減以及由此引發(fā)的不安全感的體現(xiàn)。在一些美國(guó)戰(zhàn)略研究人士看來(lái),即使美國(guó)在人工智能領(lǐng)域獲得領(lǐng)先地位,也并不意味著獲得勝利,美國(guó)還需要防范可能導(dǎo)致災(zāi)難性沖突的大國(guó)競(jìng)爭(zhēng),由此需要美國(guó)與盟國(guó),甚至中國(guó)等對(duì)手合作。②Elsa B. Kania, “Artificial Intelligence in China’s Revolution in Military Affairs,” Journal of Strategic Studies, Vol.44, Iss.3, May 2021, p.26.值得注意的是,如何在保證安全性的前提下獲取與維持絕對(duì)競(jìng)爭(zhēng)優(yōu)勢(shì)也是美國(guó)政府、軍方以及科研人員關(guān)注的重要問(wèn)題。

    在此背景下,兩國(guó)可就人工智能軍事化背景下的風(fēng)險(xiǎn)緩解和危機(jī)管控問(wèn)題進(jìn)行對(duì)話與合作。首先,可在兩國(guó)間的軍事與網(wǎng)絡(luò)安全對(duì)話中增加關(guān)于人工智能軍事化議題的討論,探索構(gòu)建相關(guān)的風(fēng)險(xiǎn)防范與危機(jī)管控措施。在部分美國(guó)戰(zhàn)略界人士看來(lái),拜登政府有機(jī)會(huì)通過(guò)建立信任措施以促進(jìn)信息共享,增加國(guó)家間在人工智能領(lǐng)域的透明度,此類措施為降低安全風(fēng)險(xiǎn)提供了一個(gè)有吸引力的選擇,因其側(cè)重于建立信任,而非關(guān)注沖突的敏感根源。③Michael C. Horowitz & Lauren Kahn, “How Joe Biden Can Use Confidence-building Measures for Military Uses of AI,” Bulletin of the Atomic Scientists, Vol.77, No.1, 2021, p.34.其次,雙方可就避免過(guò)度、過(guò)快地開發(fā)人工智能軍事化項(xiàng)目進(jìn)行溝通,以防止引發(fā)并惡化相關(guān)的倫理與安全問(wèn)題。再次,雙方可探索就智能化軍事系統(tǒng)的運(yùn)行原則與方式確立準(zhǔn)則。美國(guó)人工智能國(guó)家安全委員會(huì)亦認(rèn)為,美國(guó)應(yīng)明確和公開地確認(rèn)美國(guó)現(xiàn)有的政策,即只有人類才能授權(quán)使用核武器,并尋求俄羅斯和中國(guó)作出類似的承諾,還需建立國(guó)際平臺(tái),以與競(jìng)爭(zhēng)對(duì)手討論人工智能對(duì)危機(jī)事件的影響,并防止沖突升級(jí)等風(fēng)險(xiǎn)。④“2021 Final Report,” U.S. National Security Commission on Artificial Intelligence, March 2021,pp.9-10, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf.雖然美方的此類政策宣示與實(shí)際行動(dòng)往往存在差距,但雙方在人工智能軍事化議題展開溝通,并爭(zhēng)取達(dá)成階段性共識(shí),有利于拓展合作面,避免因互信不足而造成的惡性競(jìng)爭(zhēng),進(jìn)而有助于維護(hù)地區(qū)安全局勢(shì)與全球戰(zhàn)略穩(wěn)定。

    猜你喜歡
    軍事化軍事人工智能
    單親爸爸育兒經(jīng):軍事化管理收服“公主心”
    好日子(2019年4期)2019-05-11 08:48:30
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    走進(jìn)世紀(jì)陽(yáng)光感受軍事化管理的魅力
    航海類院校學(xué)生半軍事化管理文化建設(shè)初探
    軍事幽默:局
    軍事文摘(2009年9期)2009-07-30 09:40:44
    軍事
    軍事幽默
    軍事文摘(2009年5期)2009-06-30 01:01:04
    亚洲欧洲日产国产| 一边摸一边抽搐一进一小说| 啦啦啦啦在线视频资源| 在线国产一区二区在线| 午夜福利高清视频| 国产成人精品婷婷| 国产成人影院久久av| 99久国产av精品| 少妇的逼水好多| 三级国产精品欧美在线观看| 天堂√8在线中文| 能在线免费看毛片的网站| 校园春色视频在线观看| 亚洲在久久综合| 欧美又色又爽又黄视频| 国产成人福利小说| 好男人在线观看高清免费视频| 高清在线视频一区二区三区 | 日韩大尺度精品在线看网址| 日本黄大片高清| 在线观看一区二区三区| 18禁在线无遮挡免费观看视频| 久久草成人影院| 99热这里只有是精品50| av在线蜜桃| 日韩三级伦理在线观看| 久久久色成人| 免费一级毛片在线播放高清视频| 大型黄色视频在线免费观看| 黄色视频,在线免费观看| 亚洲欧美中文字幕日韩二区| 可以在线观看毛片的网站| 永久网站在线| 亚洲精品粉嫩美女一区| 国产麻豆成人av免费视频| 啦啦啦韩国在线观看视频| 国内精品美女久久久久久| 国产一区亚洲一区在线观看| 国产真实乱freesex| 久久久久久久久久久丰满| 免费无遮挡裸体视频| av国产免费在线观看| 观看美女的网站| 国产亚洲欧美98| 亚洲欧美成人精品一区二区| 国产午夜福利久久久久久| 蜜臀久久99精品久久宅男| 国产蜜桃级精品一区二区三区| 91在线精品国自产拍蜜月| 91精品国产九色| 久久精品国产亚洲av涩爱 | 九九爱精品视频在线观看| 少妇熟女aⅴ在线视频| 国产精品福利在线免费观看| 亚洲aⅴ乱码一区二区在线播放| 亚洲欧美精品综合久久99| 伊人久久精品亚洲午夜| 久久久成人免费电影| 毛片一级片免费看久久久久| 成人美女网站在线观看视频| 国内少妇人妻偷人精品xxx网站| 麻豆国产97在线/欧美| 欧美色视频一区免费| 亚洲在线自拍视频| 一进一出抽搐gif免费好疼| 国产成人精品婷婷| 色视频www国产| 尾随美女入室| 最好的美女福利视频网| 精品免费久久久久久久清纯| 亚洲国产精品国产精品| 91久久精品电影网| 深爱激情五月婷婷| 精品久久久久久成人av| 久久精品91蜜桃| 亚洲自偷自拍三级| 一本一本综合久久| 看黄色毛片网站| 亚洲精品日韩在线中文字幕 | av天堂中文字幕网| 天堂√8在线中文| 亚洲成人久久爱视频| 日韩一区二区视频免费看| 成人一区二区视频在线观看| 99国产极品粉嫩在线观看| 美女xxoo啪啪120秒动态图| 青春草国产在线视频 | 色哟哟·www| 非洲黑人性xxxx精品又粗又长| 午夜免费男女啪啪视频观看| 亚洲自拍偷在线| 日韩成人av中文字幕在线观看| 久久草成人影院| 搞女人的毛片| 日韩精品青青久久久久久| 此物有八面人人有两片| 成人亚洲精品av一区二区| 联通29元200g的流量卡| 日本-黄色视频高清免费观看| 午夜福利在线在线| 少妇的逼好多水| 毛片一级片免费看久久久久| 欧美丝袜亚洲另类| 天堂网av新在线| 午夜精品一区二区三区免费看| 国产免费男女视频| 亚洲激情五月婷婷啪啪| 美女大奶头视频| 亚洲av成人av| 91在线精品国自产拍蜜月| 高清毛片免费观看视频网站| a级毛色黄片| 国产在视频线在精品| 成人午夜精彩视频在线观看| 国内精品一区二区在线观看| 国产精品一区二区性色av| 只有这里有精品99| 国产蜜桃级精品一区二区三区| 有码 亚洲区| 日日摸夜夜添夜夜爱| 最近2019中文字幕mv第一页| 校园春色视频在线观看| 国产老妇女一区| 哪里可以看免费的av片| 最近的中文字幕免费完整| 伦精品一区二区三区| 亚洲欧洲国产日韩| 国产黄色视频一区二区在线观看 | 美女脱内裤让男人舔精品视频 | 久久精品国产鲁丝片午夜精品| 亚洲国产高清在线一区二区三| 99在线人妻在线中文字幕| 在线免费观看不下载黄p国产| 国产成人一区二区在线| 我的女老师完整版在线观看| 夜夜夜夜夜久久久久| 久久久久国产网址| 精品久久国产蜜桃| 亚洲av不卡在线观看| 三级男女做爰猛烈吃奶摸视频| 亚洲熟妇中文字幕五十中出| 欧美丝袜亚洲另类| 亚洲第一区二区三区不卡| 成年女人永久免费观看视频| 精品99又大又爽又粗少妇毛片| 欧美区成人在线视频| 少妇的逼好多水| 女人被狂操c到高潮| 婷婷精品国产亚洲av| 亚洲av免费在线观看| 能在线免费观看的黄片| 国产黄片美女视频| 狂野欧美激情性xxxx在线观看| 女的被弄到高潮叫床怎么办| 全区人妻精品视频| 美女xxoo啪啪120秒动态图| 精品99又大又爽又粗少妇毛片| 欧美三级亚洲精品| 亚洲七黄色美女视频| 丝袜喷水一区| 免费观看a级毛片全部| videossex国产| 国产精品电影一区二区三区| 18禁黄网站禁片免费观看直播| 中国美女看黄片| 国产激情偷乱视频一区二区| 久久精品国产亚洲av香蕉五月| 麻豆成人午夜福利视频| 国产精品1区2区在线观看.| 变态另类丝袜制服| 精品日产1卡2卡| 亚洲中文字幕日韩| 嫩草影院精品99| 亚洲美女搞黄在线观看| 男人舔奶头视频| 91久久精品国产一区二区成人| 99热这里只有是精品50| 少妇丰满av| 国产精品嫩草影院av在线观看| 97超碰精品成人国产| 男人舔女人下体高潮全视频| 老司机影院成人| 久久亚洲国产成人精品v| 精品国产三级普通话版| 成人性生交大片免费视频hd| 婷婷精品国产亚洲av| 亚洲国产欧美人成| 国产av一区在线观看免费| 国产精品综合久久久久久久免费| 国产精品久久视频播放| 在线国产一区二区在线| 亚洲一级一片aⅴ在线观看| 一级黄片播放器| 夫妻性生交免费视频一级片| 色综合站精品国产| 久久精品国产鲁丝片午夜精品| 天天躁夜夜躁狠狠久久av| 卡戴珊不雅视频在线播放| 一级毛片aaaaaa免费看小| 国产 一区精品| 久久久久九九精品影院| 搞女人的毛片| a级毛片免费高清观看在线播放| 亚洲国产精品久久男人天堂| 村上凉子中文字幕在线| 麻豆成人午夜福利视频| 欧美区成人在线视频| 黄色视频,在线免费观看| 老师上课跳d突然被开到最大视频| 神马国产精品三级电影在线观看| 日本欧美国产在线视频| 欧美激情国产日韩精品一区| 丰满乱子伦码专区| av在线老鸭窝| 欧美bdsm另类| 国产中年淑女户外野战色| 一级黄色大片毛片| 日韩成人av中文字幕在线观看| 国产日韩欧美在线精品| 菩萨蛮人人尽说江南好唐韦庄 | 国产久久久一区二区三区| 22中文网久久字幕| 毛片一级片免费看久久久久| 国产免费男女视频| 噜噜噜噜噜久久久久久91| 亚洲成av人片在线播放无| 国产蜜桃级精品一区二区三区| 秋霞在线观看毛片| 国产精品一区二区性色av| 成人午夜高清在线视频| 国产午夜精品论理片| 国产精品,欧美在线| 美女高潮的动态| 国产午夜福利久久久久久| 亚洲av第一区精品v没综合| 免费观看精品视频网站| 99热网站在线观看| 亚洲av不卡在线观看| 精品人妻偷拍中文字幕| 国产精华一区二区三区| 波野结衣二区三区在线| 岛国在线免费视频观看| 亚洲,欧美,日韩| АⅤ资源中文在线天堂| 国产乱人偷精品视频| 蜜臀久久99精品久久宅男| 久久国内精品自在自线图片| 网址你懂的国产日韩在线| 丰满乱子伦码专区| 成人一区二区视频在线观看| 美女国产视频在线观看| 如何舔出高潮| 久久人人精品亚洲av| 国产老妇伦熟女老妇高清| 看免费成人av毛片| or卡值多少钱| 久久久久久久亚洲中文字幕| 国产蜜桃级精品一区二区三区| 桃色一区二区三区在线观看| 91午夜精品亚洲一区二区三区| 一边摸一边抽搐一进一小说| 三级经典国产精品| 国产高清有码在线观看视频| 日日摸夜夜添夜夜添av毛片| 97在线视频观看| 午夜久久久久精精品| 成人三级黄色视频| a级毛色黄片| 人妻夜夜爽99麻豆av| 亚洲婷婷狠狠爱综合网| 久久久久国产网址| 国产黄片视频在线免费观看| 国产伦在线观看视频一区| 亚洲熟妇中文字幕五十中出| 十八禁国产超污无遮挡网站| 精品一区二区免费观看| 高清毛片免费看| 日韩欧美精品v在线| 精品人妻熟女av久视频| 九九在线视频观看精品| 男女视频在线观看网站免费| 色综合色国产| 国产精品女同一区二区软件| 在线国产一区二区在线| 丰满乱子伦码专区| 黄色欧美视频在线观看| av免费在线看不卡| 日本三级黄在线观看| 亚洲成人精品中文字幕电影| 国产精品一二三区在线看| 国产免费一级a男人的天堂| 午夜福利在线观看吧| 日韩,欧美,国产一区二区三区 | 免费看av在线观看网站| 久久99蜜桃精品久久| 国产人妻一区二区三区在| 亚洲人成网站在线播放欧美日韩| 亚洲aⅴ乱码一区二区在线播放| av在线亚洲专区| 变态另类丝袜制服| 99精品在免费线老司机午夜| 精品午夜福利在线看| 又爽又黄a免费视频| 五月伊人婷婷丁香| 国产视频内射| 午夜福利在线在线| 国产日本99.免费观看| 1000部很黄的大片| 99riav亚洲国产免费| 白带黄色成豆腐渣| av视频在线观看入口| 麻豆成人av视频| a级毛片免费高清观看在线播放| 国产色婷婷99| 国产av不卡久久| 久久人妻av系列| 久久久成人免费电影| 一卡2卡三卡四卡精品乱码亚洲| 国产精品无大码| 日韩一区二区三区影片| 12—13女人毛片做爰片一| 亚洲欧美清纯卡通| 午夜福利在线观看免费完整高清在 | 成年免费大片在线观看| 99国产极品粉嫩在线观看| 亚洲成人久久爱视频| 不卡一级毛片| 久久久久网色| 成人毛片60女人毛片免费| 春色校园在线视频观看| 亚洲电影在线观看av| 亚洲精品久久国产高清桃花| 99视频精品全部免费 在线| 六月丁香七月| 欧美最新免费一区二区三区| 在线观看午夜福利视频| 国产精品久久久久久久电影| 午夜免费激情av| 在线观看66精品国产| 毛片一级片免费看久久久久| 一级黄色大片毛片| 男插女下体视频免费在线播放| 免费av不卡在线播放| 色播亚洲综合网| 国产精品国产高清国产av| 一个人免费在线观看电影| 国产成人一区二区在线| 日本爱情动作片www.在线观看| 亚洲性久久影院| 99九九线精品视频在线观看视频| 麻豆成人av视频| 久久综合国产亚洲精品| 不卡视频在线观看欧美| 一区二区三区四区激情视频 | 高清毛片免费观看视频网站| 欧美三级亚洲精品| 国产片特级美女逼逼视频| 日本黄色视频三级网站网址| 亚洲精品国产av成人精品| 亚洲人成网站在线播放欧美日韩| 亚洲最大成人手机在线| 中文亚洲av片在线观看爽| 99riav亚洲国产免费| 99视频精品全部免费 在线| 成人无遮挡网站| 夫妻性生交免费视频一级片| 一本久久中文字幕| 三级国产精品欧美在线观看| 精品人妻熟女av久视频| 国产亚洲5aaaaa淫片| 99热这里只有是精品在线观看| 国产精品久久久久久亚洲av鲁大| 美女高潮的动态| 日韩欧美精品v在线| 国产精品伦人一区二区| 一区福利在线观看| 亚洲天堂国产精品一区在线| 国产一区亚洲一区在线观看| 欧美潮喷喷水| 噜噜噜噜噜久久久久久91| 97超碰精品成人国产| 乱人视频在线观看| 特级一级黄色大片| 天美传媒精品一区二区| 国产黄片美女视频| 春色校园在线视频观看| ponron亚洲| 最近的中文字幕免费完整| 神马国产精品三级电影在线观看| 婷婷色av中文字幕| 亚洲欧洲国产日韩| 男女那种视频在线观看| 国产国拍精品亚洲av在线观看| 青春草视频在线免费观看| 色哟哟·www| 国产成人午夜福利电影在线观看| 日韩成人av中文字幕在线观看| 少妇熟女aⅴ在线视频| 亚洲国产精品成人综合色| 白带黄色成豆腐渣| 男插女下体视频免费在线播放| 亚洲欧美精品自产自拍| 少妇人妻精品综合一区二区 | 精品一区二区三区视频在线| 国产精品久久久久久亚洲av鲁大| 久久草成人影院| 久久精品久久久久久噜噜老黄 | 国产老妇女一区| 国产亚洲av嫩草精品影院| 国产免费一级a男人的天堂| 可以在线观看的亚洲视频| 午夜福利在线在线| 狂野欧美白嫩少妇大欣赏| 日韩精品青青久久久久久| 国产亚洲欧美98| 18禁黄网站禁片免费观看直播| 亚洲人成网站在线播| 免费av毛片视频| 真实男女啪啪啪动态图| 国产一区二区亚洲精品在线观看| 亚洲,欧美,日韩| 亚洲欧美日韩卡通动漫| 熟女电影av网| 国产成人aa在线观看| 亚洲av中文av极速乱| 婷婷色av中文字幕| 菩萨蛮人人尽说江南好唐韦庄 | 欧美日韩国产亚洲二区| 99久久无色码亚洲精品果冻| 亚洲中文字幕日韩| 51国产日韩欧美| 中文欧美无线码| 欧美成人精品欧美一级黄| 久久精品国产亚洲av香蕉五月| 国产色爽女视频免费观看| 99在线人妻在线中文字幕| 日韩欧美在线乱码| 丝袜美腿在线中文| 夜夜看夜夜爽夜夜摸| 欧美色视频一区免费| 日韩av不卡免费在线播放| 日本黄色片子视频| 日韩制服骚丝袜av| 大又大粗又爽又黄少妇毛片口| 九九热线精品视视频播放| 内射极品少妇av片p| 男女视频在线观看网站免费| av在线蜜桃| 韩国av在线不卡| 欧美日韩精品成人综合77777| 色尼玛亚洲综合影院| 精品午夜福利在线看| 看黄色毛片网站| а√天堂www在线а√下载| 日本成人三级电影网站| 国产片特级美女逼逼视频| 99国产极品粉嫩在线观看| 亚洲五月天丁香| 一级黄色大片毛片| 亚洲成人久久爱视频| 亚洲乱码一区二区免费版| 亚洲av不卡在线观看| 免费电影在线观看免费观看| 看片在线看免费视频| 深爱激情五月婷婷| 变态另类成人亚洲欧美熟女| 国产精品久久久久久精品电影小说 | www日本黄色视频网| 国产乱人偷精品视频| 国产国拍精品亚洲av在线观看| 中文资源天堂在线| 免费人成视频x8x8入口观看| 精品一区二区三区人妻视频| 欧美3d第一页| 我的女老师完整版在线观看| 人人妻人人看人人澡| av视频在线观看入口| 成人特级黄色片久久久久久久| 亚洲人与动物交配视频| 色噜噜av男人的天堂激情| 亚洲av成人精品一区久久| 九九热线精品视视频播放| 国内精品一区二区在线观看| 久久午夜亚洲精品久久| 亚洲欧美精品专区久久| 国产av一区在线观看免费| 九色成人免费人妻av| 亚洲在久久综合| 高清毛片免费观看视频网站| 日日啪夜夜撸| 直男gayav资源| 国产成人福利小说| 黄色配什么色好看| 久久九九热精品免费| 久久99精品国语久久久| av黄色大香蕉| 日韩强制内射视频| 免费av不卡在线播放| 人妻少妇偷人精品九色| 精华霜和精华液先用哪个| 男女那种视频在线观看| 18禁在线播放成人免费| 欧美区成人在线视频| 午夜激情福利司机影院| 亚洲欧洲国产日韩| a级一级毛片免费在线观看| 成人午夜高清在线视频| 国产女主播在线喷水免费视频网站 | 一级毛片久久久久久久久女| 99视频精品全部免费 在线| 非洲黑人性xxxx精品又粗又长| 久久精品夜夜夜夜夜久久蜜豆| 99热精品在线国产| 亚洲欧美日韩卡通动漫| 国产女主播在线喷水免费视频网站 | 一个人免费在线观看电影| 高清午夜精品一区二区三区 | 久久久成人免费电影| 国产激情偷乱视频一区二区| 久久韩国三级中文字幕| 国内少妇人妻偷人精品xxx网站| 欧美成人精品欧美一级黄| 精品午夜福利在线看| 欧美人与善性xxx| 国产亚洲av嫩草精品影院| 久久99蜜桃精品久久| 国产亚洲av片在线观看秒播厂 | 亚洲欧美精品专区久久| 国产色爽女视频免费观看| 18禁在线播放成人免费| 日本黄色视频三级网站网址| 女人被狂操c到高潮| 日韩三级伦理在线观看| 不卡视频在线观看欧美| 久久久久网色| 最新中文字幕久久久久| 赤兔流量卡办理| 国产精品久久视频播放| av天堂在线播放| 乱码一卡2卡4卡精品| 欧美性猛交╳xxx乱大交人| 天天一区二区日本电影三级| 中文字幕熟女人妻在线| 特级一级黄色大片| 性插视频无遮挡在线免费观看| 欧美区成人在线视频| 亚洲国产色片| 亚洲精品亚洲一区二区| 干丝袜人妻中文字幕| 蜜臀久久99精品久久宅男| 一级av片app| 亚洲欧洲国产日韩| 国产综合懂色| 国产成年人精品一区二区| 欧美最黄视频在线播放免费| 色综合站精品国产| 色5月婷婷丁香| 日日干狠狠操夜夜爽| 欧美不卡视频在线免费观看| 中国美女看黄片| 寂寞人妻少妇视频99o| 可以在线观看的亚洲视频| 99国产极品粉嫩在线观看| 91精品国产九色| 日韩制服骚丝袜av| 国产精品麻豆人妻色哟哟久久 | 岛国毛片在线播放| 国产精品久久久久久av不卡| 亚洲中文字幕日韩| 简卡轻食公司| 日本与韩国留学比较| 成人亚洲精品av一区二区| 高清日韩中文字幕在线| 99热精品在线国产| 乱人视频在线观看| 国内精品一区二区在线观看| 日韩高清综合在线| 深夜a级毛片| 国产精品电影一区二区三区| 嫩草影院入口| 久久人人精品亚洲av| 啦啦啦观看免费观看视频高清| 日韩av在线大香蕉| 亚洲精品久久久久久婷婷小说 | 国产成人一区二区在线| 日韩亚洲欧美综合| 热99在线观看视频| 久久久久免费精品人妻一区二区| 男人和女人高潮做爰伦理| 男女下面进入的视频免费午夜| 免费av观看视频| 男插女下体视频免费在线播放| av国产免费在线观看| 波多野结衣巨乳人妻| 一本久久精品| 精品久久久久久久久亚洲| 麻豆一二三区av精品| 日韩高清综合在线| 精华霜和精华液先用哪个| 赤兔流量卡办理| 禁无遮挡网站| 最新中文字幕久久久久| 久久亚洲国产成人精品v| 国产老妇伦熟女老妇高清| 久久精品国产亚洲av香蕉五月| 成人永久免费在线观看视频| 成人性生交大片免费视频hd| 99热网站在线观看| 亚洲欧美日韩东京热| 午夜激情福利司机影院| 国产一区亚洲一区在线观看| 久久久久久久久久久免费av| 美女高潮的动态| 国产一区二区激情短视频| 全区人妻精品视频|