疫情大考下的人工智能應用和安全思考

魏薇，牛金行，景慧昀

（中國信息通信研究院，北京 100191）

1 引言

近年來，伴隨數(shù)據(jù)量爆發(fā)增長、算力顯著提升以及深度學習算法的突破性應用，人工智能技術獲得了長足發(fā)展，但目前主要應用于人臉識別、語音識別等有限場景，新冠肺炎疫情防控為人工智能技術提供了特殊應用場景和實際使用需求。人工智能憑借自主學習、快速感知、實時決策和人工替代等優(yōu)勢，在防疫工作中為病患診斷救治、疫情防控保障、企業(yè)復工復產(chǎn)等環(huán)節(jié)賦能助力，發(fā)揮出不可或缺的重要作用。同時，人工智能在疫情防控應用中暴露出一定的安全問題，需及早探索安全管理，保障產(chǎn)業(yè)穩(wěn)步發(fā)展。

2 智援疫情

2.1 直接應用抗疫一線，增強診斷救治能力

（1）提升檢測診斷效率。百度免費開放線性時間算法，將新冠病毒的全基因組二級結構預測從55分鐘縮短至27秒，加速新冠病毒研究和變異檢測。基于計算機視覺算法的智能醫(yī)療診斷系統(tǒng)可實現(xiàn)單病例肺部CT量化結果的秒級輸出，大幅提升新冠肺炎診斷效率。

（2）加快疫苗新藥研發(fā)。疫情期間，藥物研發(fā)機構聯(lián)合阿里、百度等企業(yè)共同攻關，利用人工智能技術強大的分析預測能力，進行蛋白質(zhì)變異分析、活性分子篩選等工作，滿足疫苗新藥研發(fā)過程中海量數(shù)據(jù)分析和科學超算的需求，全面加速研發(fā)進程。

（3）提供醫(yī)護輔助服務。針對醫(yī)護人員不足，無人車、服務機器人等智能產(chǎn)品在重點醫(yī)院中得到廣泛應用，可實現(xiàn)無接觸、全天候的醫(yī)療物資配送、防疫清掃消毒等醫(yī)護服務，減輕醫(yī)護人員的工作壓力，并降低交叉感染風險。

2.2 優(yōu)化疫情防控方式，提升服務保障能力

（1）輔助基層人員排查。智能外呼機器人被大量用于基層社區(qū)的電話群呼調(diào)查回訪工作中，日撥打能力可達萬余次，并基于采集信息，進行風險分析預判，排查可疑問題和可疑人員，實現(xiàn)精準智控。

（2）提供疫情咨詢服務。阿里、騰訊等企業(yè)推出線上智能咨詢系統(tǒng)，利用語義分析、語音合成技術，提供疫情動態(tài)、防護指導、就醫(yī)問診等問答服務，并基于話題跟蹤技術，識別并破除疫情謠言，協(xié)助開展防控宣教，營造良好的社會輿論環(huán)境。

（3）優(yōu)化物資調(diào)度配送。針對全國捐助物資調(diào)度配送效率不高的問題，杉數(shù)科技免費開放PonyPlus智慧物流調(diào)度平臺，基于優(yōu)化求解器算法智能化調(diào)度決策過程，運輸排班用時從小時級大幅縮短至10分鐘以內(nèi)，并優(yōu)先保障重點地區(qū)需求，為戰(zhàn)疫勝利提供高效的物流保障。

2.3 推進企業(yè)復工復產(chǎn)，賦能快速恢復產(chǎn)能

（1）防控復工人員感染。在火車站、地鐵站以及園區(qū)入口等人流密集場所,基于“計算機視覺+紅外技術”的新型測溫可非接觸、高效快速的開展體溫檢測，并對發(fā)熱人員進行識別、預警，防控復工人員聚集感染。

（2）助力企業(yè)產(chǎn)能恢復。針對疫情期間用工缺口，大量制造企業(yè)特別是應急醫(yī)療用品企業(yè)開始采用自動化的智能生產(chǎn)裝備。在山東、廣東等省的口罩生產(chǎn)企業(yè)中，基于計算機視覺的自動口罩機可實現(xiàn)單機日產(chǎn)10萬只，有效地提升了產(chǎn)能，緩解了醫(yī)療防護物資緊張的狀況。

3 問題分析

3.1 部分產(chǎn)品智能不足制約其防疫期間大規(guī)模應用

（1）防疫服務機器人智能水平和應用規(guī)模有限。當前，消毒清潔、送藥送餐等防疫服務機器人尚未有效地解決自適應未知場景、人類行為理解與預判等智能難題。此類機器人主要還是完成固定機械類工作，其正常運行嚴重依賴應用場景的地圖掃描、路徑規(guī)劃等人為工作。這使得防疫服務機器人無法快速大規(guī)模部署，只在少量醫(yī)院試點應用。

（2）國產(chǎn)醫(yī)療機器人智能程度距離防疫實用仍有差距。相比美國第一例新冠病人全程由醫(yī)用治療機器人輔助完成救治，我國手術機器人、采血等輔助機器人在多模信息精準感知、柔性控制精細操作等關鍵智能化技術方面存在不足，用于病人治療的國產(chǎn)機器人數(shù)量少，難以滿足突發(fā)疫情的大量治療急需。

3.2 網(wǎng)絡安全風險在智能防疫應用中不容忽視

（1）智能防疫應用潛藏數(shù)據(jù)泄露隱患。智能防疫產(chǎn)品應用中需獲取大量人臉、CT影像、交通出行等個人敏感數(shù)據(jù)。部分疫情創(chuàng)新應用系統(tǒng)在緊急上線情況下缺少或者簡化安全檢測流程，安全防護能力不足。據(jù)中國信通院檢測發(fā)現(xiàn)，部分智能防疫應用存在個人敏感信息可公開下載、敏感信息明文傳輸?shù)韧怀龅臄?shù)據(jù)安全隱患。

（2）部分智能防疫應用遭受網(wǎng)絡攻擊。防疫物資免費發(fā)放信息平臺等智能防疫應用上線初期就遭受黑客攻擊，致系統(tǒng)癱瘓，用戶無法訪問。疫情防控期間，我國安全廠商監(jiān)測到多起境外組織意圖竊取我國醫(yī)療、政府等領域數(shù)據(jù)的境外APT攻擊。

3.3 智能算法安全風險應及早防范

部分智能防疫算法魯棒性弱，對抗樣本可使其產(chǎn)生錯誤輸出。目前，在智能測溫、智能診斷等防疫產(chǎn)品中，人體檢測、人臉識別、圖像分類等基于深度神經(jīng)網(wǎng)絡的機器視覺算法已廣泛應用。然而，研究者通過真實案例證明對抗樣本可使這些智能算法產(chǎn)生錯誤輸出。2019年，華為研究者證實在佩戴的口罩或者額頭上粘貼特殊圖案可導致人臉識別算法失效。一旦這些方法被惡意利用，將危及智能防疫產(chǎn)品輸出結果的準確性和可靠性。

3.4 智能創(chuàng)新應用的安全管理機制亟需完善

為解決疫情防控應急之需，無人消毒車、防疫服務機器人、智能醫(yī)療系統(tǒng)等大量智能產(chǎn)品支援抗疫。但是，政府部門現(xiàn)有的管理機制無法有效應對智能創(chuàng)新應用的應急審批需求，多采取簡化審批緊急許可，這在管理層面為智能產(chǎn)品安全埋下隱患。而美歐國家的人工智能安全監(jiān)管原則均以基礎性安全監(jiān)管為主，可借鑒的意義不大。因此，面對智能防疫工作引出的安全管理難題，如不能通過制度創(chuàng)新補足短板，將會因管理失位而導致智能產(chǎn)品安全問題。

4 思考建議

4.1 促進人工智能技術加快推廣應用

（1）促進傳統(tǒng)行業(yè)智能化轉(zhuǎn)型。針對疫情期間出現(xiàn)的用工難題，深入對接工業(yè)制造、物流配送等行業(yè)需求，總結疫情防控工作中人工智能優(yōu)秀應用案例，示范推廣，深化融合，推動傳統(tǒng)人力密集型行業(yè)智能化改造升級。

（2）推進人工智能新興產(chǎn)業(yè)的發(fā)展。結合疫情防控實踐的經(jīng)驗，持續(xù)改進智能醫(yī)療、智能客服、無人駕駛等新興行業(yè)的產(chǎn)品能力和用戶體驗，提高社會公眾對無人化、無接觸服務的認可程度，依托國家“新基建”規(guī)劃，不斷壯大人工智能新興產(chǎn)業(yè)規(guī)模。

4.2 著力提升人工智能基礎核心能力

（1）加強人工智能基礎核心能力研究。針對人工智能應用在疫情防控中出現(xiàn)的智能程度不高、可靠性弱等問題，加大基礎核心技術的研發(fā)力度，研究發(fā)展魯棒性強的通用人工智能理論和算法，提升智能產(chǎn)品的環(huán)境適應能力和認知決策能力。

（2）加強人工智能基礎環(huán)節(jié)生態(tài)建設。本次疫情防控期間，人工智能頭部企業(yè)紛紛開放算力、算法、框架等基礎資源，發(fā)展合力效果顯現(xiàn)，應用水平快速提升。借鑒于此，應強化應用牽引，推進人工智能基礎環(huán)節(jié)生態(tài)整合建設，支撐我國人工智能產(chǎn)業(yè)自主化、規(guī)?；l(fā)展。

4.3 建設完善智能產(chǎn)品安全管理體系

（1）加強智能產(chǎn)品安全管理?？偨Y疫情防控應用管理經(jīng)驗，健全人工智能安全管理體系，結合實際領域的應用，加快建立特種服務機器人、無人物流運輸車等智能產(chǎn)品的應急安全管理機制，明確政府相關部門管理職責和審批權限。

（2）加快智能產(chǎn)品安全檢測。盡快出臺智能產(chǎn)品安全風險檢測規(guī)范，引導企業(yè)自測和第三方檢測相結合，大力推廣為防疫服務相關智能產(chǎn)品和創(chuàng)新平臺提供安全檢測快速服務。

（3）提升智能產(chǎn)品安全監(jiān)測預警等能力。研究建立智能產(chǎn)品的安全風險監(jiān)測預警、快速處置、追蹤溯源等機制和技術能力，及時發(fā)現(xiàn)和消除安全隱患，對惡意行為和責任者加強懲戒。

5 結束語

疫情防控既是人工智能技術產(chǎn)品應用的“練兵場”，也是人工智能產(chǎn)品智能化水平、安全可靠程度的“試金石”。智能防疫不僅解決了疫情防控燃眉之急，更是發(fā)展智能制造、實現(xiàn)智能醫(yī)療等國家戰(zhàn)略達成的重要推動。本文歸納了新冠肺炎疫情防控工作中人工智能技術及產(chǎn)品的應用場景和賦能成效，總結分析了智能防疫應用中存在的問題和安全風險，并結合疫情防控實踐，有針對性的提出促進人工智能應用并保障安全相關的思考建議，對于穩(wěn)步推進人工智能技術產(chǎn)業(yè)的長遠發(fā)展具有一定借鑒意義。