美軍《負(fù)責(zé)任的人工智能戰(zhàn)略與實(shí)施路徑》解析

王 耀 牛新宇 辜 璐 王衛(wèi)國

北京航天情報(bào)與信息研究所

隨著戰(zhàn)爭形態(tài)加速向智能化轉(zhuǎn)變，人工智能作為提升軍事優(yōu)勢和作戰(zhàn)效能的關(guān)鍵技術(shù)，成為推動軍事創(chuàng)新和變革發(fā)展的重要驅(qū)動力，是當(dāng)今世界軍事強(qiáng)國搶占未來智能化戰(zhàn)爭優(yōu)勢的焦點(diǎn)。在全球數(shù)字經(jīng)濟(jì)發(fā)展的大時代背景下，人工智能在以深度學(xué)習(xí)技術(shù)為代表的第三次浪潮中迅猛發(fā)展，自然語言處理、計(jì)算機(jī)視覺、人機(jī)交互等領(lǐng)域取得重要突破，算力基礎(chǔ)、算法模型和數(shù)據(jù)資源水平得到顯著提升。人工智能系統(tǒng)正在具備越來越強(qiáng)大的自主學(xué)習(xí)和推理決策的能力，不僅僅是執(zhí)行人類編程規(guī)則的軟件工具。因此，如何構(gòu)建一個值得信任又負(fù)責(zé)任的人工智能系統(tǒng)，實(shí)現(xiàn)對人工智能應(yīng)用風(fēng)險(xiǎn)的安全管控，已成為全球共同關(guān)注的焦點(diǎn)。

一、《負(fù)責(zé)任的人工智能戰(zhàn)略與實(shí)施路徑》發(fā)布背景

美國政府歷來重視人工智能在軍事領(lǐng)域的運(yùn)用和創(chuàng)新，技術(shù)研究投入和布局得較早。美國國防高級研究計(jì)劃局（DARPA）自成立以來在人工智能領(lǐng)域開展了大量的研究和投入，不僅促進(jìn)了美軍人工智能技術(shù)創(chuàng)新應(yīng)用，也影響著全球人工智能技術(shù)的發(fā)展態(tài)勢。2018年1月，美國國防部發(fā)布《國防戰(zhàn)略》，明確將人工智能納為確保美國打贏未來戰(zhàn)爭的關(guān)鍵技術(shù)領(lǐng)域，隨即正式發(fā)布《人工智能戰(zhàn)略》并宣布設(shè)立聯(lián)合人工智能中心（JAIC），通過一系列行動和措施來增強(qiáng)人工智能交付能力及擴(kuò)大聯(lián)合作戰(zhàn)應(yīng)用規(guī)模。

此后，美軍針對人工智能在軍事領(lǐng)域應(yīng)用的安全倫理問題，陸續(xù)開展了有關(guān)戰(zhàn)略研究和政策部署。2019年10月，美國國防創(chuàng)新委員會率先發(fā)布《人工智能原則：國防部人工智能應(yīng)用倫理的若干建議》，提出未來在戰(zhàn)斗和非戰(zhàn)斗場景中設(shè)計(jì)、開發(fā)和應(yīng)用人工智能應(yīng)遵循“負(fù)責(zé)、公平、可追蹤、可靠、可控”的原則，被美國國防部正式采納。2021年5月，美國國防部發(fā)布了關(guān)于實(shí)施負(fù)責(zé)任的人工智能（RAI）備忘錄，明確通過實(shí)施RAI來增強(qiáng)安全監(jiān)管和促進(jìn)創(chuàng)新應(yīng)用，制定了涵蓋RAI治理、作戰(zhàn)人員的信任、人工智能產(chǎn)品和采辦生命周期、需求驗(yàn)證、RAI生態(tài)系統(tǒng)、人工智能人才隊(duì)伍建設(shè)的6項(xiàng)實(shí)施原則。2022年6月，美國國防部正式發(fā)布《負(fù)責(zé)任的人工智能戰(zhàn)略與實(shí)施路徑》，基于人工智能應(yīng)用倫理和RAI實(shí)施原則提出可操作化的戰(zhàn)略指南，形成適用于人工智能設(shè)計(jì)、開發(fā)、測試、采購、部署和應(yīng)用全過程的RAI實(shí)施方法，將開發(fā)人員和用戶對人工智能系統(tǒng)的信任提升到適當(dāng)水平，最大程度地消減人工智能在軍事開發(fā)和應(yīng)用中的阻礙，促使人工智能在軍事決策和作戰(zhàn)運(yùn)用中更為安全和有效。該戰(zhàn)略文件是美軍人工智能頂層戰(zhàn)略文件體系的重要組成，也是美軍打造未來軍事智能化競爭優(yōu)勢的重要抓手，充分體現(xiàn)出人工智能在美軍新興數(shù)字環(huán)境中運(yùn)用和整合的步伐正在加速。

二、主要內(nèi)容解析

1. 基本原則

美軍將RAI定義為一種設(shè)計(jì)、開發(fā)、部署和使用人工智能能力的動態(tài)方法，涵蓋倫理指南、測試標(biāo)準(zhǔn)、問責(zé)檢查、運(yùn)用指導(dǎo)、人機(jī)集成和安全考慮等內(nèi)容，基于人工智能全生命周期的實(shí)施來增強(qiáng)系統(tǒng)安全與運(yùn)用倫理性。戰(zhàn)略文件基于美國防部人工智能倫理原則和RAI備忘錄提出6項(xiàng)RAI基本原則，進(jìn)一步補(bǔ)充闡述有關(guān)RAI基本原則的目標(biāo)、預(yù)期結(jié)果等內(nèi)容，詳見表1。

表1 RAI基本原則

2. 實(shí)施路徑

美軍強(qiáng)調(diào)將RAI融入人工智能產(chǎn)品全生命周期，從管理、文化、組織、技術(shù)和治理多個方面體系化地推進(jìn)行動計(jì)劃。在實(shí)施策略方面，基于“操作敏捷性、可擴(kuò)展性和優(yōu)先高效資源分配”的原則，建立了以持續(xù)監(jiān)督為中心的長期優(yōu)化改進(jìn)機(jī)制，響應(yīng)“人工智能能力的交付速度要滿足國防戰(zhàn)略需要”的發(fā)展目標(biāo)?；赗AI基本原則規(guī)劃6條實(shí)施工作主線，按照主線逐一闡明目標(biāo)、任務(wù)內(nèi)容、主責(zé)部門以及實(shí)施周期，形成推進(jìn)RAI實(shí)施的綜合路線圖。

一是在RAI治理方面，完善治理結(jié)構(gòu)和流程，明確指導(dǎo)方針、政策以及激勵措施。首先，建立組織能力，增強(qiáng)對人工智能的監(jiān)督和問責(zé)，包括配備專業(yè)人員，設(shè)立主責(zé)RAI崗位，制定RAI度量指標(biāo)，制定部門專用指標(biāo)并建立報(bào)告機(jī)制，完善內(nèi)部監(jiān)督體系，建立有關(guān)實(shí)施情況的溝通渠道，以及更新現(xiàn)有開發(fā)與交付的管理框架；其次，提供工具和資源，以支持覆蓋整個美國國防部的RAI治理結(jié)構(gòu)，包括通過協(xié)調(diào)和定期的知識共享，建立報(bào)告典型案例機(jī)制，創(chuàng)建知識共享的中央存儲庫，建立項(xiàng)目執(zhí)行信息報(bào)告機(jī)制；再次，確保RAI納入美國國防部的戰(zhàn)略規(guī)劃，包括納入數(shù)據(jù)、分析以及人工智能戰(zhàn)略，納入國防規(guī)劃指南，納入軍種、部門有關(guān)戰(zhàn)略規(guī)劃；最后，更新作戰(zhàn)能力審查流程，包括探索研究適宜的審查程序，更新或補(bǔ)充相關(guān)條令。

二是在作戰(zhàn)人員信任方面，建立已整合了實(shí)時監(jiān)控、算法置信度指標(biāo)和用戶反饋的測試、評估、驗(yàn)證和確認(rèn)（TEVV）框架。首先，建立TEVV生態(tài)系統(tǒng)和配套基礎(chǔ)設(shè)施，發(fā)展更為安全可靠的人工智能開發(fā)與部署能力，包括增強(qiáng)人工智能測試與評估能力的TEVV框架，開發(fā)/采購人工智能測試與評估的工具包，創(chuàng)建一套試驗(yàn)環(huán)境以及工具資源庫，建立最佳實(shí)踐和應(yīng)用要求，迭代更新人機(jī)系統(tǒng)集成框架，持續(xù)研究新興領(lǐng)域，制定并發(fā)布人工智能安全指南；其次，制定最佳實(shí)踐，在整個人工智能生命周期中納入操作人員和系統(tǒng)反饋，確保充分的文檔與培訓(xùn)，明確人工智能能力開發(fā)人員與使用者的職責(zé)，包括對人工智能部署前資源配置的要求，對人工智能可追溯以及可控制的約束，發(fā)布關(guān)于業(yè)務(wù)機(jī)構(gòu)職責(zé)和權(quán)限的指南。

三是在人工智能產(chǎn)品和采辦生命周期方面，開發(fā)工具、政策、流程、系統(tǒng)以及指南，建立系統(tǒng)工程與風(fēng)險(xiǎn)管理方法。首先，開發(fā)有關(guān)RAI采辦的資源和工具，形成有關(guān)公告與合同的標(biāo)準(zhǔn)語言、建立優(yōu)化采辦途徑和識別消減風(fēng)險(xiǎn)的最佳實(shí)踐，包括開發(fā)可廣泛利用的采辦工具包，制定和開發(fā)可持續(xù)優(yōu)化采辦的方法，建立與采辦相關(guān)的知識產(chǎn)權(quán)保護(hù)最佳實(shí)踐；其次，采用人工智能開發(fā)的行業(yè)最佳實(shí)踐，通過開發(fā)和應(yīng)用工具、技術(shù)和最佳實(shí)踐來識別與消減人工智能功能風(fēng)險(xiǎn)，包括持續(xù)開發(fā)人工智能產(chǎn)品工具集，提供關(guān)于如何使用人工智能工具集的詳細(xì)指導(dǎo)，基于數(shù)據(jù)卡片發(fā)布人工智能數(shù)據(jù)資產(chǎn)，資助新的資源和工具，發(fā)布使用個人信息的人工智能能力開發(fā)與設(shè)計(jì)最佳實(shí)踐，以及制定在人工智能研究和工程項(xiàng)目早期階段實(shí)施RAI的附加指南。

四是在需求驗(yàn)證方面，在包括聯(lián)合性能要求等所有適用的人工智能需求中加入RAI。首先，在更新或制定政策和規(guī)劃時明確職責(zé)、權(quán)限和資源，將人工智能風(fēng)險(xiǎn)因素整合到國防部聯(lián)合性能需求流程，包括起草關(guān)于需求流程變更的聯(lián)合需求監(jiān)督委員會備忘錄；其次，啟動可定制化流程，以明確約束人工智能程序可測試以及有關(guān)操作要求，包括創(chuàng)建涵蓋用例、任務(wù)域和系統(tǒng)架構(gòu)的人工智能需求庫，將人工智能需求融入并統(tǒng)籌到測試、評估、驗(yàn)證和確認(rèn)流程，制定有關(guān)應(yīng)用RAI采辦資源和合同約定事項(xiàng)的指南。

五是RAI生態(tài)系統(tǒng)方面，建立國家和全球RAI生態(tài)系統(tǒng)。首先，美國國防部、情報(bào)機(jī)構(gòu)與其他政府部門和機(jī)構(gòu)就RAI基本原則和人工智能倫理原則進(jìn)行協(xié)調(diào)與合作，包括梳理相關(guān)部門在參與首席數(shù)字和人工智能官（CDAO）領(lǐng)導(dǎo)的治理體系中是否存在差距，定期與國家情報(bào)總監(jiān)辦公室人工智能倫理團(tuán)隊(duì)協(xié)調(diào)，定期與有關(guān)聯(lián)邦機(jī)構(gòu)協(xié)調(diào)，以及制定立法戰(zhàn)略；其次，建立跨行業(yè)、學(xué)術(shù)界和民間社會的溝通與合作，促進(jìn)RAI的發(fā)展、應(yīng)用和實(shí)施，包括向白宮國家人工智能倡議辦公室提交RAI領(lǐng)域研究優(yōu)先清單，確保人工智能咨詢委員會有相關(guān)代表，探索建立RAI工具開發(fā)的融資機(jī)會，制定和執(zhí)行整合跨部門RAI活動的公共事務(wù)戰(zhàn)略，制定對外發(fā)布人工智能能力的指南；最后，促進(jìn)RAI的國際化參與，在全球范圍內(nèi)推進(jìn)共同價值觀、經(jīng)驗(yàn)教訓(xùn)、最佳實(shí)踐和互操作性，包括與盟友和合作伙伴積極尋求有關(guān)RAI合作機(jī)會，通過美國國防部人工智能國防伙伴關(guān)系促進(jìn)合作，組織國際性交流研討會議。

六是人工智能人才隊(duì)伍方面，增強(qiáng)RAI人才規(guī)劃、招募和能力建設(shè)。首先，持續(xù)完善開發(fā)美國國防部人工智能人才管理框架，以支持實(shí)施RAI所需的軍事和文職人員的識別、招募、提升和保留，包括建立識別和跟蹤人工智能專業(yè)知識的機(jī)制，基于教育戰(zhàn)略中發(fā)布的6個原型開展差距分析，制定從事人工智能軍事人員的職業(yè)發(fā)展規(guī)劃，向相關(guān)部門提議從事人工智能文職人員的職業(yè)發(fā)展規(guī)劃，啟動人力規(guī)劃流程；其次，將RAI實(shí)施課程補(bǔ)充到現(xiàn)有人工智能培訓(xùn)，包括制作并更新標(biāo)準(zhǔn)化課程，將培訓(xùn)課程納入到部門教育培訓(xùn)計(jì)劃中，針對不同部門建立相關(guān)人工智能崗位的教育培訓(xùn)標(biāo)準(zhǔn)，重新修訂有關(guān)國防采辦人員的培訓(xùn)、教育和經(jīng)驗(yàn)的相關(guān)要求，探索按年度開展人工智能倫理意識培訓(xùn)的需求；最后，通過利益團(tuán)體/實(shí)踐團(tuán)體和專業(yè)發(fā)展機(jī)會建設(shè)RAI能力，包括按年度推進(jìn)“RAI倡導(dǎo)者”計(jì)劃活動，建立RAI興趣社區(qū)或?qū)嵺`團(tuán)隊(duì)，確定其他機(jī)構(gòu)、學(xué)術(shù)界和產(chǎn)業(yè)界開展人工智能倫理培訓(xùn)的資金以及合作機(jī)會。

三、主要特點(diǎn)分析

一是建立由CDAO領(lǐng)導(dǎo)的RAI組織機(jī)制，采取集中協(xié)調(diào)、分散執(zhí)行的運(yùn)作模式。首先，完善和健全RAI實(shí)施的組織機(jī)構(gòu)，構(gòu)建適應(yīng)RAI落地實(shí)施的組織能力。美國國防部明確由CDAO辦公室作為主責(zé)部門，負(fù)責(zé)啟動、評估和監(jiān)督RAI實(shí)施任務(wù)。CDAO設(shè)立于2021年12月，由美國國防部基于數(shù)據(jù)分析辦公室、首席數(shù)據(jù)官辦公室、國防數(shù)字服務(wù)局以及JAIC多個機(jī)構(gòu)整合成立，是繼JAIC之后的新任人工智能領(lǐng)導(dǎo)機(jī)構(gòu)。其次，新設(shè)立RAI工作委員會作為常設(shè)工作組，代表各個有關(guān)部門負(fù)責(zé)協(xié)調(diào)和落實(shí)RAI實(shí)施，同時監(jiān)督數(shù)據(jù)、分析和人工智能有關(guān)工作。最后，采用自上而下、自下而上的雙向結(jié)合方式來實(shí)現(xiàn)全范圍整體推進(jìn)。在戰(zhàn)略層面實(shí)現(xiàn)政策和指導(dǎo)的集中統(tǒng)籌，確保自上而下的協(xié)調(diào)一致和資源共享；在執(zhí)行層面支持各部門結(jié)合自有特點(diǎn)和基礎(chǔ)分別實(shí)施，確保自下而上的高效執(zhí)行與整合協(xié)作。

二是倡導(dǎo)基于最佳技術(shù)實(shí)踐的能力復(fù)用，強(qiáng)調(diào)與現(xiàn)有專業(yè)能力體系的融合發(fā)展。首先，及時跟蹤獲取人工智能技術(shù)的最新研究進(jìn)展和專業(yè)知識。通過項(xiàng)目資助人工智能有關(guān)人機(jī)集成、安全防御等前沿技術(shù)研究，廣泛吸納來自產(chǎn)業(yè)界、學(xué)術(shù)界的技術(shù)經(jīng)驗(yàn)和知識成果，多舉措推進(jìn)國際、國內(nèi)RAI技術(shù)生態(tài)建設(shè)。其次，強(qiáng)化基于最佳技術(shù)實(shí)踐的能力復(fù)用和資源供給。保持與新興研究迭代一致的策略，針對人工智能相關(guān)工具、方法、流程以及典型用例等最佳技術(shù)實(shí)踐不斷積淀形成自有專業(yè)知識庫，涉及到全范圍利用的技術(shù)資源建立協(xié)調(diào)開發(fā)和定期共享機(jī)制，通過能力共享和復(fù)用來增強(qiáng)人工智能產(chǎn)品交付能力。最后，強(qiáng)調(diào)RAI建設(shè)與現(xiàn)有專業(yè)能力體系之間的統(tǒng)籌利用。充分考慮人工智能系統(tǒng)與傳統(tǒng)軟件的差異性和協(xié)同性，將RAI整合融入現(xiàn)有技術(shù)開發(fā)、采辦、治理和審查過程，基于數(shù)據(jù)管理、軟件工程、風(fēng)險(xiǎn)管理等成熟體系能力推進(jìn)RAI實(shí)施。

三是將倫理原則轉(zhuǎn)換為可操作化的約束細(xì)則，強(qiáng)調(diào)系統(tǒng)設(shè)計(jì)規(guī)范和技術(shù)驗(yàn)證環(huán)節(jié)。首先，將倫理原則轉(zhuǎn)換形成可指導(dǎo)實(shí)施的約束細(xì)則。圍繞技術(shù)方法、防范措施和風(fēng)險(xiǎn)評估形成具體化的規(guī)范和要求，為人工智能在不同場景中設(shè)計(jì)、開發(fā)、部署和使用提供直接指導(dǎo)，使RAI成為人工智能產(chǎn)品全生命過程中不可分割的要素。其次，對人工智能系統(tǒng)提出設(shè)計(jì)規(guī)范要求。明確系統(tǒng)具備可追溯、可分析、可取證和可審計(jì)功能，具備可有效啟用、停用程序的控制能力，以及對相關(guān)數(shù)據(jù)、培訓(xùn)、用戶文檔等項(xiàng)目交付物的規(guī)范要求。再次，建立人工智能TEVV框架，著重加強(qiáng)人工智能系統(tǒng)能力的試驗(yàn)與鑒定環(huán)節(jié)，開展檢測工具、文檔模板、評價指標(biāo)庫以及聯(lián)合實(shí)驗(yàn)環(huán)境等一系列基礎(chǔ)資源條件建設(shè)，通過技術(shù)手段實(shí)現(xiàn)對人工智能系統(tǒng)的性能、可靠性、意外行為和故障模式的實(shí)時監(jiān)控。最后，完善優(yōu)化采辦流程，在采辦環(huán)節(jié)規(guī)范有關(guān)合同標(biāo)準(zhǔn)語言、鑒定標(biāo)準(zhǔn)和技術(shù)條款，為人工智能系統(tǒng)開發(fā)和實(shí)施提供更為詳盡的參考依據(jù)，最大程度地消減系統(tǒng)部署后的應(yīng)用風(fēng)險(xiǎn)。

四是塑造“以RAI賦能人工智能建設(shè)”的文化，重視專業(yè)技術(shù)培訓(xùn)和人才隊(duì)伍建設(shè)。首先，積極塑造“以RAI賦能人工智能建設(shè)”的組織文化，提升全員對于人工智能基礎(chǔ)知識、開發(fā)方法和技術(shù)特點(diǎn)的認(rèn)知和理解，培養(yǎng)“實(shí)施RAI是加速人工智能應(yīng)用的助推器，而不是障礙”的理念意識。其次，將RAI教育課程納入現(xiàn)有人工智能教育培訓(xùn)體系，采用標(biāo)準(zhǔn)化和定制化結(jié)合方式開展RAI教育培訓(xùn)，針對不同崗位特點(diǎn)設(shè)計(jì)個性化的培訓(xùn)內(nèi)容。最后，重視RAI人才隊(duì)伍的建設(shè)和培養(yǎng)，依據(jù)美國國防部2020年發(fā)布《人工智能教育戰(zhàn)略》開展人才差距分析，加快人工智能相關(guān)高級專家人才的引進(jìn)和培養(yǎng)，為從事人工智能工作的軍事人員開展職業(yè)發(fā)展規(guī)劃設(shè)計(jì)。

四、結(jié)語

負(fù)責(zé)任的人工智能已成為當(dāng)前人工智能研究領(lǐng)域的重要主題，美軍“RAI戰(zhàn)略”圍繞負(fù)責(zé)任的人工智能能力構(gòu)建闡述了愿景目標(biāo)、方向路徑和行動措施，相關(guān)內(nèi)容具有較強(qiáng)的參考價值和借鑒作用。以下是針對如何加強(qiáng)我軍人工智能建設(shè)和治理工作提出的4點(diǎn)建議。

一是構(gòu)建高效的軍事人工智能安全治理體系，建立有關(guān)評價體系、標(biāo)準(zhǔn)規(guī)范、問責(zé)流程和安全監(jiān)管等管理機(jī)制，針對新建人工智能系統(tǒng)增強(qiáng)技術(shù)評估以及風(fēng)險(xiǎn)分析等過程管控。二是制定軍事人工智能應(yīng)用的安全指南文件，梳理人工智能系統(tǒng)在開發(fā)、設(shè)計(jì)、部署和應(yīng)用不同的階段的主要風(fēng)險(xiǎn)特征，圍繞功能設(shè)計(jì)、技術(shù)途徑、故障排查以及操作流程提出明確約束。三是加強(qiáng)人工智能基礎(chǔ)研究和技術(shù)攻關(guān)，大力扶持深度學(xué)習(xí)框架、可解釋模型、對抗攻擊防御算法等核心技術(shù)自主研發(fā)，建立多學(xué)科團(tuán)隊(duì)聯(lián)合創(chuàng)新的協(xié)同機(jī)制，支持來自組織、企業(yè)和個人的廣泛參與。四是重視軍事人工智能專業(yè)人才隊(duì)伍培養(yǎng)，加強(qiáng)全軍對人工智能的技術(shù)機(jī)理、運(yùn)用方法和安全倫理的教育培訓(xùn)，引導(dǎo)建立關(guān)于人工智能技術(shù)特點(diǎn)、缺陷以及局限性的客觀認(rèn)識，加快培養(yǎng)一批精通軍事人工智能開發(fā)、設(shè)計(jì)、應(yīng)用和評價的專家人才。