智慧警務(wù)視域下的人工智能安全問題研究

張傳浩，胡傳平

（1.鐵道警察學(xué)院 圖像與網(wǎng)絡(luò)偵查系，河南 鄭州450053；2.公安部第三研究所，上海200000；3.鄭州大學(xué) 公共安全研究院，河南 鄭州450001）

一、智慧警務(wù)的特征

2003 年9 月2 日至3 日，公安部組織召開了全國(guó)“金盾”工程工作會(huì)議，會(huì)后“金盾”工程建設(shè)正式啟動(dòng)，目的是增強(qiáng)公安系統(tǒng)統(tǒng)一指揮、快速反應(yīng)、協(xié)調(diào)作戰(zhàn)、打擊犯罪的能力，提高公安工作效率和偵查破案水平。自此，公安信息化建設(shè)成為我國(guó)公安重點(diǎn)工作之一。隨著近年來以“雪亮工程”“平安城市”為代表的安防工程建設(shè)成果不斷深化，傳統(tǒng)警務(wù)工作與時(shí)俱進(jìn)，我國(guó)提出了“智慧警務(wù)”戰(zhàn)略。智慧警務(wù)主要采用云計(jì)算、大數(shù)據(jù)、泛在網(wǎng)絡(luò)、數(shù)據(jù)挖掘、人工智能等新一代信息技術(shù)，將公安工作信息技術(shù)基礎(chǔ)設(shè)施、物理設(shè)施與人際環(huán)境等高度融合，通過機(jī)器對(duì)數(shù)據(jù)進(jìn)行感知、分析、研判，對(duì)以社會(huì)服務(wù)、風(fēng)險(xiǎn)治理、治安防控、應(yīng)急處置等預(yù)防、控制、處置為主的傳統(tǒng)警務(wù)工作提供智能化決策與技術(shù)支撐。網(wǎng)絡(luò)化、數(shù)據(jù)驅(qū)動(dòng)、智能處理已經(jīng)成為以智慧警務(wù)為代表的“智慧+業(yè)務(wù)”模式的典型特征。

（一）網(wǎng)絡(luò)化與移動(dòng)化

智慧警務(wù)要求能夠?qū)ι鐣?huì)各層面的態(tài)勢(shì)信息進(jìn)行有效感知。信息感知是以多種信息網(wǎng)絡(luò)的有效互聯(lián)為基礎(chǔ)，實(shí)現(xiàn)公安信息資源的一體化和立體化［1］?！爸腔劬瘎?wù)”也需要充分利用“警務(wù)云”數(shù)據(jù)、“云計(jì)算”服務(wù)和關(guān)聯(lián)分析技術(shù)來體現(xiàn)其智慧性、先進(jìn)性和高效性［2］。當(dāng)前警務(wù)工作越來越呈現(xiàn)出緊迫性、強(qiáng)移動(dòng)、高突發(fā)性的特點(diǎn)，基層民警經(jīng)常面臨不同情況下的采集、記錄等信息處理工作，移動(dòng)警務(wù)終端不但是公安大數(shù)據(jù)信息采集源，而且是一線警務(wù)人員警務(wù)工作最重要的助手。當(dāng)前4G LTE 技術(shù)以其大帶寬、穩(wěn)定性好、功能拓展豐富等優(yōu)勢(shì)構(gòu)筑公安無線專網(wǎng)，滿足音頻、圖像實(shí)時(shí)傳輸、數(shù)據(jù)交互，為公安部門在重大安保、應(yīng)急處突、巡邏防控、案件偵辦等工作中的扁平化指揮調(diào)度需求提供可靠通信保障。隨著下一代的無線移動(dòng)通信技術(shù)（5G）正式部署，將構(gòu)建一個(gè)低延時(shí)、自組織、高度互聯(lián)的警用終端與信息系統(tǒng)，一大批新技術(shù)和裝備將實(shí)戰(zhàn)化，如警用巡邏機(jī)器人、增強(qiáng)現(xiàn)實(shí)（AR）眼鏡、4K 高清視頻監(jiān)控、警用無人機(jī)編隊(duì)等，移動(dòng)警務(wù)隨著網(wǎng)絡(luò)數(shù)據(jù)帶寬的增長(zhǎng)將迎來從技術(shù)設(shè)備到戰(zhàn)術(shù)戰(zhàn)法，甚至是執(zhí)法理念的重大變革，從而打造空地一體的立體智慧警務(wù)新模式。

（二）大數(shù)據(jù)驅(qū)動(dòng)

大數(shù)據(jù)已經(jīng)成為國(guó)家重要的基礎(chǔ)性戰(zhàn)略資源、重塑國(guó)家競(jìng)爭(zhēng)優(yōu)勢(shì)的新方法、提升社會(huì)治理能力的新途徑。公安部門也認(rèn)識(shí)到了數(shù)據(jù)的重要性和大數(shù)據(jù)技術(shù)對(duì)我國(guó)公安工作的重要性。警務(wù)大數(shù)據(jù)是一種特殊的資源，將驅(qū)動(dòng)警務(wù)工作從事后處置向事前預(yù)防演進(jìn)。2018 年1 月24 日趙克志部長(zhǎng)在全國(guó)公安廳局長(zhǎng)會(huì)議上指出，大數(shù)據(jù)是公安工作創(chuàng)新發(fā)展的大引擎、培育戰(zhàn)斗力生成的新增長(zhǎng)點(diǎn)。要把握時(shí)代發(fā)展大勢(shì)，大力實(shí)施公安大數(shù)據(jù)戰(zhàn)略，著力打造數(shù)據(jù)警務(wù)、建設(shè)智慧公安，全面推動(dòng)公安工作質(zhì)量變革、效率變革、動(dòng)力變革，努力實(shí)現(xiàn)公安機(jī)關(guān)戰(zhàn)斗力的跨越式發(fā)展。

（三）人工智能應(yīng)用

無論是智能移動(dòng)前端設(shè)備，還是警務(wù)云平臺(tái)，采集數(shù)據(jù)的價(jià)值實(shí)現(xiàn)都離不開人工智能技術(shù)的融合應(yīng)用。2017年7月，國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，從國(guó)家層面制定未來10 年人工智能的戰(zhàn)略部署，該規(guī)劃提出“圍繞社會(huì)綜合治理、新型犯罪偵查、反恐等迫切需求，研發(fā)集成多種探測(cè)傳感技術(shù)、視頻圖像信息分析識(shí)別技術(shù)、生物特征識(shí)別技術(shù)的智能安防與警用產(chǎn)品，建立智能化監(jiān)測(cè)平臺(tái)。加強(qiáng)對(duì)重點(diǎn)公共區(qū)域安防設(shè)備的智能化改造升級(jí)，支持有條件的社區(qū)或城市開展基于人工智能的公共安防區(qū)域示范”，從國(guó)家戰(zhàn)略的高度為公安信息化的發(fā)展指明了方向。

人工智能為科學(xué)發(fā)展和社會(huì)發(fā)展的方方面面帶來了很多有益的應(yīng)用，特別是在智慧警務(wù)領(lǐng)域，已經(jīng)開辟一條新的路徑；人工智能正在改變國(guó)家、機(jī)構(gòu)和個(gè)人安全遠(yuǎn)景，包括人工智能自身存在的各種安全問題以及人工智能被濫用而引出的安全問題［3］。

二、人工智能安全問題的研究進(jìn)展

人工智能目前已經(jīng)成為最重要的全球性問題之一，人類的未來將很大程度上受到我們對(duì)待人工智能安全所采取措施的影響，如何對(duì)人工智能的發(fā)展進(jìn)行規(guī)范，目前在世界范圍內(nèi)還沒有形成共識(shí)。正如網(wǎng)絡(luò)應(yīng)用與網(wǎng)絡(luò)安全的關(guān)系一樣，人工智能技術(shù)的發(fā)展與人工智能安全也是伴生關(guān)系。近年來，從政府到行業(yè)再到學(xué)術(shù)界，全球掀起了一股研究人工智能安全問題的熱潮。

（一）國(guó)外研究進(jìn)展

2018年，美國(guó)來自14家業(yè)界、學(xué)術(shù)界機(jī)構(gòu)的26名人工智能專家撰寫了《人工智能的惡意使用：預(yù)測(cè)、預(yù)防和緩解》報(bào)告［4］。這份長(zhǎng)達(dá)100頁(yè)的報(bào)告指出人工智能技術(shù)是一把“雙刃劍”，具有“雙重用途”，報(bào)告指出現(xiàn)存的或可能在未來五年內(nèi)出現(xiàn)的人工智能的惡意用例，及其所帶來的潛在安全威脅，并將其分成數(shù)字威脅、物理威脅和政治威脅。2019 年1 月，美國(guó)國(guó)會(huì)咨詢機(jī)構(gòu)——國(guó)會(huì)研究服務(wù)部（CRS）更新《人工智能與國(guó)家安全》報(bào)告［5］，分析了人工智能在軍事上的應(yīng)用、挑戰(zhàn)及其風(fēng)險(xiǎn)：2019年2 月，美國(guó)加州大學(xué)伯克利分校網(wǎng)絡(luò)安全中心的《面向AI安全：更健全的未來全球愿景》報(bào)告指出未來人工智能安全主要包括四個(gè)方面：數(shù)字/物理安全、政治安全、經(jīng)濟(jì)安全和社會(huì)安全，無論是從政治、經(jīng)濟(jì)和社會(huì)安全還是從數(shù)字安全角度考慮，人工智能已經(jīng)成為影響國(guó)家安全的重要因素，這一因素的重要性已經(jīng)受到各國(guó)政府包括國(guó)防部門的密切重視：2019年4月，歐盟人工智能高級(jí)專家組正式發(fā)布《人工智能倫理指南》［6］探討了“可信賴人工智能”的3 個(gè)關(guān)鍵條件，4 項(xiàng)倫理原則和7 項(xiàng)可以落地的倫理要求，探索搭建自上而下的人工智能倫理治理框架；2017 年日本發(fā)布《人工智能技術(shù)戰(zhàn)略》、2018 年韓國(guó)發(fā)布《人工智能研發(fā)戰(zhàn)略》以及2019 年新加坡發(fā)布《人工智能治理框架》等，更多是將人工智能安全的戰(zhàn)略重點(diǎn)放在促進(jìn)產(chǎn)業(yè)健康發(fā)展以及公共安全、國(guó)家安全的應(yīng)用上，并對(duì)人工智能的一些安全問題、倫理問題作出原則性規(guī)定［7］。

（二）國(guó)內(nèi)研究進(jìn)展

中國(guó)在人工智能領(lǐng)域的發(fā)展一直在世界上保持著領(lǐng)先態(tài)勢(shì)［8］，學(xué)界和產(chǎn)業(yè)界也同樣非常關(guān)注對(duì)人工智能安全問題的研究。2018年9月中國(guó)信息通信研究院發(fā)布《人工智能安全白皮書》［9］，將人工智能的安全風(fēng)險(xiǎn)分為網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、算法安全風(fēng)險(xiǎn)、信息安全風(fēng)險(xiǎn)、社會(huì)安全風(fēng)險(xiǎn)和國(guó)家安全風(fēng)險(xiǎn)：基于對(duì)人工智能安全內(nèi)涵的理解，覆蓋安全風(fēng)險(xiǎn)、安全應(yīng)用、安全管理三個(gè)維度的人工智能安全體系架構(gòu)，這三個(gè)維度彼此獨(dú)立又相互依存。2019世界人工智能安全高端對(duì)話聯(lián)合“2019世界人工智能大會(huì)法治論壇”于8 月30 日發(fā)布《人工智能安全與法治導(dǎo)則（2019）》［10］，該導(dǎo)則從算法安全、數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)、社會(huì)就業(yè)和法律責(zé)任等五大方面，對(duì)人工智能發(fā)展的安全風(fēng)險(xiǎn)作出科學(xué)預(yù)判，提出安全與法治應(yīng)對(duì)策略，守衛(wèi)人工智能發(fā)展的“安全基因”。

可以看出，國(guó)內(nèi)外對(duì)人工智能安全領(lǐng)域的關(guān)注點(diǎn)基本都在于如何促進(jìn)產(chǎn)業(yè)發(fā)展以及如何利用人工智能保障國(guó)家公共安全，提高競(jìng)爭(zhēng)力方面。關(guān)于人工智能安全問題的規(guī)定也大多停留在原則、倡議層面，對(duì)具體的應(yīng)用場(chǎng)景和技術(shù)的安全規(guī)定也僅限在算法、自動(dòng)駕駛以及智能機(jī)器人等領(lǐng)域。在人工智能安全問題的政策制定上還處于探索階段，所制定的政策法規(guī)也帶有濃厚的國(guó)家色彩和戰(zhàn)略考慮。如何在安全可控的基礎(chǔ)上利用人工智能在國(guó)際舞臺(tái)上占據(jù)有利地位，已成為產(chǎn)業(yè)界、政府必做的功課。

（三）智慧警務(wù)的人工智能基因

黨的十九大提出將“提高社會(huì)治理社會(huì)化、法治化、智能化、專業(yè)化水平”作為加強(qiáng)和創(chuàng)新社會(huì)治理的目標(biāo)。國(guó)務(wù)委員、公安部部長(zhǎng)趙克志在2018年全國(guó)公安廳局長(zhǎng)會(huì)議上也提出了“積極構(gòu)建以大數(shù)據(jù)智能應(yīng)用為核心的智慧警務(wù)新模式”目標(biāo)要求。從第一部分對(duì)智慧警務(wù)的特征分析中可以看出，大數(shù)據(jù)、云計(jì)算和人工智能已經(jīng)成為智慧警務(wù)的“標(biāo)配”，特別是人工智能技術(shù)是實(shí)現(xiàn)智慧警務(wù)新模式的重要發(fā)力點(diǎn)，為智慧警務(wù)的發(fā)展注入了人工智能基因。人工智能在公安業(yè)務(wù)領(lǐng)域的核心問題是基于公安大數(shù)據(jù)，利用現(xiàn)代計(jì)算手段仿真業(yè)務(wù)專業(yè)群體的智慧，通過技術(shù)與業(yè)務(wù)的高度融合解決應(yīng)用問題。技術(shù)研究者和方案提供商需要將蘊(yùn)含在公安業(yè)務(wù)流程、業(yè)務(wù)數(shù)據(jù)和應(yīng)用經(jīng)驗(yàn)中的專門知識(shí)轉(zhuǎn)化為智能算法，開發(fā)出具有智慧化應(yīng)用功能的裝備和系統(tǒng)［11］。

經(jīng)過30多年的努力，我國(guó)公安信息化建設(shè)和應(yīng)用已經(jīng)初具規(guī)模。建成了專用的業(yè)務(wù)網(wǎng)絡(luò)和業(yè)務(wù)數(shù)據(jù)庫(kù)，公安部及各業(yè)務(wù)局、全國(guó)縣級(jí)以上公安機(jī)關(guān)都建立了情報(bào)中心等業(yè)務(wù)部門，為人工智能的應(yīng)用提供了網(wǎng)絡(luò)和數(shù)據(jù)保障。但數(shù)據(jù)效能的提升需要對(duì)數(shù)據(jù)進(jìn)行有效的治理，智慧警務(wù)中的數(shù)據(jù)治理通過建立基礎(chǔ)庫(kù)，全量視圖庫(kù)，知識(shí)圖譜視圖庫(kù)，重構(gòu)所有警務(wù)數(shù)據(jù)，將情報(bào)要素、研判基礎(chǔ)要素、視頻要素等多種信息以實(shí)體、關(guān)系的方式構(gòu)建，完成特定人員關(guān)系分析、涉案團(tuán)伙挖掘、串并案分析挖掘等功能。同時(shí)，智慧警務(wù)數(shù)據(jù)治理還需要智能平臺(tái)和系統(tǒng)的支撐，比如數(shù)據(jù)中心、人口管理平臺(tái)、人像卡口系統(tǒng)、道路監(jiān)控系統(tǒng)等，通過邊界安全系統(tǒng)獲取社會(huì)管理和社會(huì)公開數(shù)據(jù)資源，實(shí)現(xiàn)公安管控?cái)?shù)據(jù)資源、視頻警務(wù)數(shù)據(jù)資源和社會(huì)數(shù)據(jù)資源的本地化匯聚，借助人工智能中的數(shù)據(jù)挖掘、計(jì)算機(jī)視覺、自然語言處理、知識(shí)圖譜等特定研究領(lǐng)域內(nèi)的算法和模型來完成數(shù)據(jù)資源的清洗、加工、整合和融合，為情報(bào)研判、辦案?jìng)刹榈忍峁└咝У臄?shù)據(jù)支撐與決策依據(jù)。

通過上述分析可以看出，人工智能的深度應(yīng)用是智慧警務(wù)的必由之路。但在數(shù)據(jù)治理、智能算法、系統(tǒng)建設(shè)這三個(gè)方面都存在著安全隱患，可以歸結(jié)為安全風(fēng)險(xiǎn)、安全應(yīng)用和安全管理三個(gè)維度。其中，安全風(fēng)險(xiǎn)關(guān)注人工智能技術(shù)與產(chǎn)業(yè)對(duì)網(wǎng)絡(luò)空間安全及個(gè)人隱私等方面造成的負(fù)面影響。安全應(yīng)用關(guān)注人工智能技術(shù)在網(wǎng)絡(luò)信息安全領(lǐng)域和社會(huì)公共安全領(lǐng)域中的具體應(yīng)用方向。安全管理則從有效管控人工智能安全風(fēng)險(xiǎn)和積極促進(jìn)人工智能技術(shù)在安全領(lǐng)域應(yīng)用的角度，構(gòu)建智慧警務(wù)人工智能安全管理體系。

三、智慧警務(wù)中的人工智能安全

（一）安全風(fēng)險(xiǎn)

人工智能的安全風(fēng)險(xiǎn)主要源自其功能日益強(qiáng)大、應(yīng)用日益廣泛。人工智能系統(tǒng)的使用預(yù)計(jì)將導(dǎo)致安全格局的變化。主要體現(xiàn)在以下三個(gè)方面：

第一，擴(kuò)大現(xiàn)有的安全威脅。原來需要人力、智力和專業(yè)知識(shí)的任務(wù)，現(xiàn)如今可利用人工智能系統(tǒng)來完成，攻擊成本將大大降低。其結(jié)果是攻擊者數(shù)量更多，攻擊速度更快，能攻擊的潛在目標(biāo)更多。

第二，引入新的安全威脅。使用人工智能系統(tǒng)可以完成人類攻擊者做不到的攻擊任務(wù)。并且，人工智能系統(tǒng)本身的安全漏洞也會(huì)被惡意攻擊者所利用。

第三，改變安全威脅的典型特征。隨著人工智能應(yīng)用越來越多，安全攻擊效率更高，針對(duì)性更強(qiáng)，難以歸因。針對(duì)人工智能系統(tǒng)漏洞的攻擊也會(huì)成為典型安全威脅。

根據(jù)影響對(duì)象的不同，人工智能的安全風(fēng)險(xiǎn)可以分為四種：

1.網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

網(wǎng)絡(luò)安全風(fēng)險(xiǎn)涉及網(wǎng)絡(luò)設(shè)施和機(jī)器學(xué)習(xí)框架的漏洞、后門安全問題，以及人工智能技術(shù)惡意應(yīng)用導(dǎo)致的系統(tǒng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。人工智能技術(shù)提升了網(wǎng)絡(luò)攻擊效率，加劇了網(wǎng)絡(luò)攻擊破壞程度。以物聯(lián)網(wǎng)為例，2018年Fortinet在其全球威脅態(tài)勢(shì)預(yù)測(cè)［12］中提出，智能聯(lián)網(wǎng)設(shè)備可以被控制對(duì)脆弱系統(tǒng)進(jìn)行規(guī)?；⒅悄芑闹鲃?dòng)攻擊。智能安防設(shè)備的部署是智慧警務(wù)的一大特征，現(xiàn)階段發(fā)展主要存在設(shè)備數(shù)量眾多、設(shè)備種類繁雜、體系結(jié)構(gòu)寬泛、操作系統(tǒng)各異、接入方式多樣等復(fù)雜性，也面臨著同樣的網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。例如，2015年國(guó)內(nèi)某知名安防廠商的視頻監(jiān)控設(shè)備大面積感染病毒，變成了僵尸網(wǎng)絡(luò)的一部分，智能視頻探頭成為發(fā)動(dòng)網(wǎng)絡(luò)攻擊的“肉雞”。

2.數(shù)據(jù)安全風(fēng)險(xiǎn)

人工智能技術(shù)的快速發(fā)展得益于大量個(gè)人信息的深度挖掘。數(shù)據(jù)安全風(fēng)險(xiǎn)是指人工智能系統(tǒng)在數(shù)據(jù)采集、分析及流轉(zhuǎn)過程中產(chǎn)生的各類安全風(fēng)險(xiǎn)，包括數(shù)據(jù)隱私、數(shù)據(jù)控制和數(shù)據(jù)質(zhì)量等。同時(shí)，人工智能技術(shù)可加強(qiáng)數(shù)據(jù)挖掘分析能力，容易加大隱私泄露風(fēng)險(xiǎn)。在大數(shù)據(jù)和移動(dòng)互聯(lián)網(wǎng)時(shí)代，公安部門掌握了大量公民的身份、出行、支付、人像等信息，并能夠通過數(shù)據(jù)的深度挖掘獲取更多人員軌跡、同行人等隱私信息。例如，2019 年某國(guó)內(nèi)連鎖酒店發(fā)生用戶個(gè)人信息數(shù)據(jù)泄露，成為近5 年國(guó)內(nèi)最大最嚴(yán)重的個(gè)人信息泄露事件。

3.算法安全風(fēng)險(xiǎn)

算法安全風(fēng)險(xiǎn)是指由于人工智能算法設(shè)計(jì)、程序運(yùn)行導(dǎo)致的各類安全風(fēng)險(xiǎn)，主要包括：設(shè)計(jì)缺陷、算法歧視、算法黑箱、開源軟件、聯(lián)合訓(xùn)練遷移學(xué)習(xí)等。以算法歧視為例，一方面，由于數(shù)據(jù)來源的偏差或是歧視性數(shù)據(jù)的存在，可能導(dǎo)致相應(yīng)偏差或歧視性的決策結(jié)論；另一方面，由于人為設(shè)計(jì)上的目的或訓(xùn)練技術(shù)、算法設(shè)計(jì)失誤也可能導(dǎo)致這一結(jié)果［13］。例如，在警務(wù)工作中經(jīng)常會(huì)對(duì)人群進(jìn)行異常行為或是犯罪可能性的預(yù)測(cè)，使用Northpointe 公司開發(fā)的犯罪風(fēng)險(xiǎn)評(píng)估算法COMPAS時(shí)，黑人被錯(cuò)誤地評(píng)估為具有高犯罪風(fēng)險(xiǎn)的概率兩倍于白人。

4.信息安全風(fēng)險(xiǎn)

信息安全風(fēng)險(xiǎn)指人工智能技術(shù)應(yīng)用于信息傳播，以及人工智能產(chǎn)品和應(yīng)用輸出的信息內(nèi)容安全問題。例如，智能推薦算法利用分析大量用戶的上網(wǎng)瀏覽行為記錄，可以加速不良信息的傳播，也有犯罪分子利用語音合成技術(shù)，假扮受害者親屬進(jìn)行詐騙的案件。英國(guó)劍橋大學(xué)等發(fā)布研究報(bào)告［14］預(yù)測(cè)，未來通過合成語音和視頻及多輪次對(duì)話的詐騙技術(shù)成為可能，基于人工智能的精準(zhǔn)詐騙將使人們防不勝防。

（二）安全應(yīng)用

人工智能技術(shù)能夠?qū)﹃P(guān)鍵信息基礎(chǔ)設(shè)施和經(jīng)濟(jì)社會(huì)安全運(yùn)行的重大態(tài)勢(shì)進(jìn)行感知、預(yù)測(cè)、預(yù)警，能夠及時(shí)把握群體認(rèn)知及心理變化，主動(dòng)決策反應(yīng)，對(duì)保障網(wǎng)絡(luò)空間安全、有效維護(hù)社會(huì)穩(wěn)定具有不可替代的作用。因此，人工智能在安全領(lǐng)域的應(yīng)用是當(dāng)前國(guó)內(nèi)外企業(yè)技術(shù)和應(yīng)用創(chuàng)新的重點(diǎn)。

1.安防領(lǐng)域應(yīng)用

目前在國(guó)內(nèi)安防領(lǐng)域，人工智能技術(shù)得到了廣泛的應(yīng)用，創(chuàng)造了巨大的市場(chǎng)。人工智能是安防從事后追查升級(jí)到事前預(yù)防、人工監(jiān)控到自動(dòng)監(jiān)控的重要技術(shù)。人工智能可以將安防系統(tǒng)從“看得見、看得清”，向“看得懂”發(fā)展，并通過內(nèi)容識(shí)別技術(shù)，實(shí)現(xiàn)目標(biāo)辨別、行為判斷等功能，實(shí)現(xiàn)智能化飛躍。

2.網(wǎng)絡(luò)安全應(yīng)用

基于人工智能的網(wǎng)絡(luò)安全防護(hù)應(yīng)用已成為網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展的重點(diǎn)方向，據(jù)美國(guó)網(wǎng)絡(luò)安全研究公司Cybersecurity Ventures 發(fā)布的《2019 年度網(wǎng)絡(luò)犯罪官方報(bào)告》預(yù)計(jì)，到2021年，網(wǎng)絡(luò)犯罪數(shù)量將增加三倍，市場(chǎng)將缺少350萬名網(wǎng)絡(luò)安全從業(yè)人員［15］。巨大的網(wǎng)安人才缺口為人工智能解決方案創(chuàng)造了機(jī)遇，人工智能將有助于威脅檢測(cè)和響應(yīng)的自動(dòng)化，人工智能還可以自動(dòng)執(zhí)行重復(fù)、繁瑣的任務(wù)。人工智能以其對(duì)網(wǎng)絡(luò)安全威脅的快速識(shí)別、反應(yīng)和自主學(xué)習(xí)的巨大潛力，成為推進(jìn)網(wǎng)絡(luò)安全技術(shù)創(chuàng)新的重要引擎，網(wǎng)絡(luò)安全向動(dòng)態(tài)防御和主動(dòng)防御演進(jìn)。人工智能已從初期的惡意軟件監(jiān)測(cè)廣泛應(yīng)用到入侵檢測(cè)、態(tài)勢(shì)分析、云防御、反欺詐、物聯(lián)網(wǎng)安全、移動(dòng)終端安全、安全運(yùn)維等諸多領(lǐng)域［16］。

3.信息安全應(yīng)用

近年來，在國(guó)內(nèi)外對(duì)信息內(nèi)容安全管理日趨加強(qiáng)的背景下，隨著人工智能技術(shù)對(duì)文本、圖像和視頻內(nèi)容識(shí)別功能的日益成熟，面向垃圾郵件、假賬戶、色情、暴力內(nèi)容等違法信息的內(nèi)容安全審查成為人工智能在安全領(lǐng)域的新應(yīng)用。美國(guó)Facebook的首席技術(shù)官M(fèi)ike Schroepfer 在2019 年舉辦的Facebook F8開發(fā)者大會(huì)上表示，人工智能已經(jīng)能夠大規(guī)模檢測(cè)不適當(dāng)?shù)膬?nèi)容［17］。在我國(guó)目前以快手、今日頭條、抖音等為代表的用戶原創(chuàng)短視頻平臺(tái)上，首先應(yīng)用智能化視頻分析快速識(shí)別視頻中人臉、聲音、文字、物品、行為、場(chǎng)景等信息，將視頻、直播內(nèi)容轉(zhuǎn)化為人工智能可以判斷的圖片和文字，然后通過圖片識(shí)別、語音語義識(shí)別等人工智能技術(shù)對(duì)特殊物體如人體、刀具、槍支等做判斷［18］。同時(shí)，也應(yīng)該看到人工智能審核內(nèi)容的局限性，機(jī)器審核的前提是有大量多樣化標(biāo)注的訓(xùn)練樣本，并且用于實(shí)際監(jiān)管的數(shù)據(jù)與訓(xùn)練樣本有一定的相似性，然而被監(jiān)管的視頻內(nèi)容場(chǎng)景多樣、內(nèi)容多樣，機(jī)器學(xué)習(xí)目前的技術(shù)水平達(dá)不到百分百的敏感內(nèi)容審核準(zhǔn)確率和召回率。

（三）安全管理

人工智能安全管理是人工智能得到的合理合法的應(yīng)用保障。目前，世界主要國(guó)家的人工智能安全管理體系均處于構(gòu)建初期，主要以思路和建議的形式體現(xiàn)在戰(zhàn)略規(guī)劃和報(bào)告中，落地實(shí)施的法律法規(guī)和管理政策相對(duì)較少。針對(duì)人工智能四類安全風(fēng)險(xiǎn)，目前我國(guó)只有對(duì)應(yīng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)和信息安全風(fēng)險(xiǎn)的《網(wǎng)絡(luò)安全法》和八部信息安全法律法規(guī)［19］。針對(duì)數(shù)據(jù)與算法安全，國(guó)家還沒有出臺(tái)相應(yīng)的法律法規(guī)和管理?xiàng)l例，而數(shù)據(jù)與算法安全是人工智能安全的核心。人工智能的安全管理應(yīng)從倫理規(guī)范和法律法規(guī)兩個(gè)層面加強(qiáng)建設(shè)，科學(xué)預(yù)判和管控人工智能安全風(fēng)險(xiǎn)。首先，要加強(qiáng)人工智能相關(guān)法律、倫理和社會(huì)問題的研究，尤其要關(guān)注人工智能模仿人類傳播錯(cuò)誤信息或?qū)⑸虡I(yè)設(shè)備轉(zhuǎn)化為目標(biāo)武器攻擊人類，建立和優(yōu)化保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架。其次，法律研究領(lǐng)域要開展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、機(jī)器倫理與破壞力評(píng)價(jià)等倫理與法律問題的交叉研究，建立人工智能的可追溯和問責(zé)制度，明確人工智能的設(shè)計(jì)者、控制者、使用者等相關(guān)法律主體的權(quán)利、義務(wù)和責(zé)任［20］。

針對(duì)算法安全，應(yīng)開展算法安全的技術(shù)評(píng)估，構(gòu)建人工智能軟件質(zhì)量評(píng)估體系，加強(qiáng)智能算法的透明監(jiān)督。針對(duì)人工智能重點(diǎn)應(yīng)用，開展人工智能算法安全的評(píng)估檢測(cè)［21］；同時(shí)，推動(dòng)技術(shù)倫理算法的導(dǎo)入；在算法設(shè)計(jì)時(shí)，要求增強(qiáng)算法的可解釋性，促進(jìn)人工智能算法邏輯符合人類社會(huì)的價(jià)值規(guī)范。

針對(duì)數(shù)據(jù)安全，應(yīng)加強(qiáng)數(shù)據(jù)立法和執(zhí)法，制定數(shù)據(jù)安全分類分級(jí)管理體系和標(biāo)準(zhǔn)，對(duì)采集和使用個(gè)人數(shù)據(jù)的人工智能企業(yè)或行業(yè)主體加強(qiáng)法律和行政監(jiān)管；同時(shí)，豐富人工智能技術(shù)發(fā)展路徑，支持多樣化的人工智能技術(shù)發(fā)展；再者，提升人工智能數(shù)據(jù)資源的管理水平，促進(jìn)社會(huì)各行業(yè)和部門的數(shù)據(jù)資源共享，降低數(shù)據(jù)獲取成本，提升人工智能行業(yè)的數(shù)據(jù)質(zhì)量。以公安大數(shù)據(jù)為例，在脫敏脫密后，在一定程度和范圍內(nèi)，是可以公開給社會(huì)共享使用的。

四、總結(jié)與展望

復(fù)雜的國(guó)際國(guó)內(nèi)形勢(shì)使網(wǎng)絡(luò)空間成為前沿戰(zhàn)場(chǎng)，使得在人工智能背景下的信息網(wǎng)絡(luò)安全以及人工智能自身安全的研究、開發(fā)和應(yīng)用的社會(huì)學(xué)屬性更加凸顯。人工智能技術(shù)的應(yīng)用將對(duì)傳統(tǒng)的信息安全產(chǎn)品的安全性評(píng)價(jià)以及系統(tǒng)的安全評(píng)估提出挑戰(zhàn)。安全智能與智能安全的研究不僅涉及技術(shù)領(lǐng)域，還涉及社會(huì)學(xué)相關(guān)屬性。相關(guān)法律條文及法律體系的制定與完善將伴隨始終。公安部門應(yīng)將大數(shù)據(jù)作為創(chuàng)新發(fā)展的大引擎、培育戰(zhàn)斗力生成的新增長(zhǎng)點(diǎn)，大力實(shí)施公安大數(shù)據(jù)戰(zhàn)略，著力打造數(shù)據(jù)警務(wù)、建設(shè)智慧公安，同時(shí)，還應(yīng)著力解決人工智能的安全風(fēng)險(xiǎn)、安全應(yīng)用和安全管理，全面推動(dòng)公安工作質(zhì)量變革、效率變革、動(dòng)力變革、安全變革，實(shí)現(xiàn)公安機(jī)關(guān)戰(zhàn)斗力的跨越式發(fā)展。