人工智能嵌入預測警務的法律風險及其預防

沈國琴，齊小力

（中國人民公安大學 法學院，北京 100038）

當前，人工智能預測開始進入社會各個領域，日常生活中無人能避開的“精準推送”可以說就是人工智能預測的直接產物。人工智能預測同樣吸引著政府，“能處理海量數據的智能計算機給政府提供了一種全新的革命性工具”[1]。智慧政務、智慧司法、智慧警務的“智慧”中無不包含人工智能預測的內容。其中，智慧警務對于人工智能預測有更多的期待。隨著恐怖主義、極端主義的全球威脅，社會風險因素增多，提前預測、預知違法犯罪行為，從而預警并進行先期控制，是各國警察部門所普遍期望的。因此，很多國家警察部門開始嘗試使用人工智能預測警務，如美國不少警察部門使用PredPol軟件、Hunchlab軟件，英國達勒姆警察部門使用HART工具，丹麥警察部門使用POLINTEL平臺等預測警情。我國智慧公安的建設中也包含通過人工智能進行警務預測的內容，如2013年北京市公安局懷柔分局開始運行“犯罪數據分析和趨勢預測系統(tǒng)”[2]；廣東公安機關構建的“13847”框架模式①“13847”框架模式的具體內容是：一個愿景；三步戰(zhàn)略；八大創(chuàng)新應用，即智慧新指揮、智慧新管控、智慧新偵查、智慧新防控、智慧新交管、智慧新監(jiān)管、智慧新民生、智慧新警隊；四大賦能工程，即大數據工程、警務云工程、視頻云工程、云網端工程以及北斗七星計劃。參見《廣東公安智慧新警務總體規(guī)劃解讀》（https：//www.sohu.com/a/228039416_119778）。中包含“智慧新防控”的內容，溫州公安機關構建的“1+5+15+N”模式②“1+5+15+N”模式所指向的內容為：“1”是溫州市公安局“云上公安·在線警務”實戰(zhàn)中心，“5”是聯(lián)合指揮部、情報預警部、合成作戰(zhàn)部、信息支撐部、綜合協(xié)調部五大功能板塊；“15”是五大功能板塊下的十五個分區(qū)；“N”是“云上公安，在線警務”實戰(zhàn)分中心、“云上公安，在線警務”實戰(zhàn)子中心等。參見溫州市公安局課題組《構建立體化信息化精準化社會治安防控體系》一文，載《浙江警察學院學報》2019年第3期。中也有“情報預警部”的建設，等等。黨的十九屆四中全會提出“完善社會治安防控體系”的目標，要求“堅持專群結合、群防群治，提高社會治安立體化、法治化、專業(yè)化、智能化水平……提高預測預警預防各類風險能力，增強社會治安防控的整體性、協(xié)同性、精準性”[3]。從中可以看出，智能化與提高預測預警預防各類風險能力被關聯(lián)在了一起。

對于預防違法犯罪的警務工作而言，技術賦能的預測警務具有現(xiàn)實意義，“能夠使警務活動更有效率、更為精確”[4]。但與此同時，預測警務也面臨諸多質疑。一方面，學界對預測警務的技術前景有不同的聲音。有學者指出，“預測警務這個概念從誕生起就受到犯罪預測的可能性及其精確度的爭議與質疑”[5]。很多要素無法預測，其中“如不少刑事案件中犯罪者的動機和目的”[6]。另一方面，人們對預測警務可能會帶來的道德、倫理、法律等方面的問題充滿憂慮，“基于大數據的警務預測難以避免會引發(fā)道德、倫理、法律等方面的沖突”[7]。這些憂慮是值得關注的，因為只有保持必要的理性認識和批判才能避免技術為惡的結果。其中尤其值得關注的是法律風險問題。法律是人類發(fā)展歷程中所形成的行為底線標準。警察權是重要的執(zhí)法權力形式之一，其必須遵守依法執(zhí)法的基本要求。因此，及時認識人工智能嵌入預測警務所存在的法律風險，并在此基礎上找到預防和化解風險的措施與方法是迫切且重要的。

一、人工智能嵌入預測警務中警察權運行邏輯的轉變

關于預測警務的概念，一般認為是基于概率統(tǒng)計方法形成的預判。2013年美國蘭德公司曾撰寫題為《預測警務——犯罪預測在執(zhí)法機構業(yè)務運作中的角色》的研究報告，其中將預測警務界定為“通過應用分析技術，特別是量化分析技術，實現(xiàn)統(tǒng)計預測，為警察干預、預防犯罪或者解決已發(fā)犯罪提供可能的目標”[8]。這一概念符合人工智能技術嵌入預測警務的發(fā)展方向，強調警務預測基于大數據統(tǒng)計而形成。人工智能與預測警務相結合使得警察權運行邏輯較之前有了很大的差別。這是理解人工智能預測警務中存在法律風險的前提。

（一）從側重經驗推斷到依賴數據計算

人工智能技術運用于警務活動之前，預測警務建立在小樣本數據基礎之上，概率統(tǒng)計方法難以發(fā)揮作用。這往往導致警務預測在很大程度上依據經驗進行推斷，“警務運行的質態(tài)或工作生態(tài)主要表現(xiàn)為警務工作判斷、決策中具有明顯的經驗慣性，太過依賴于以前的警務經驗積累和警務慣性思維，即經驗型警務”[9]。而經驗型預測的最大困境是過于依賴特定的個人，富有經驗者與缺乏經驗者之間差距非常明顯。而即使是富有經驗者，也存在很多難以克服的局限性，如受制于自身主觀性和有限理性等問題。

人工智能的出現(xiàn)則使警務預測可以在大樣本數據的基礎上通過概率統(tǒng)計的方式運行，“讓數據發(fā)聲，運用大數據開展情報分析進而合理調配警力資源的預測警務，是預防和打擊違法犯罪、保障社會公共安全、解決當下警力資源不足的新思路”[10]。人工智能預測警務依賴于大數據的采集和基于大數據的智能算法。隨著人工智能技術的不斷推進，大數據的采集涵蓋的領域越來越廣，采集的渠道越來越多，包括“圖像（含人像模型）、視頻、RFID、GPS、DNA、指紋等。數據的采集可通過移動互聯(lián)網、物聯(lián)網傳感等技術來進行智能化的多方位立體采集”[11]。海量數據在人工智能算法的框架內開始變得有生命力，“將來源不同的數據篩選和綜合碰撞在一起，進一步生產出新的具有實際意義的相關犯罪信息”[12]。從整個人工智能預測警務的流程來看，從采集形成海量的結構化和非結構化數據開始，到通過智能化技術進行數據挖掘、比對、分析，再到數據畫像、繪制犯罪熱點地圖，可以發(fā)現(xiàn)通過“數據驅動”而形成“數據計算”是人工智能預測警務的主線。人工智能警務預測使得很多看似不相關的數據信息聯(lián)系在了一起，完成了大量人腦無法完成的任務。與經驗推斷相比，數據推算擺脫了對具體的有經驗的個人的依賴，克服了因為選擇性記憶、個人偏好等原因而產生的主觀性問題，也在很大程度上克服了人的有限理性問題。

（二）從因果關系歸責到相關關系預判

警務活動的核心任務是維護公共安全和秩序，不可避免地涉及對違法、犯罪行為進行制止、懲戒的強制性權力的使用。在已形成的法律追責體系中，警察權對違法、犯罪行為的追懲往往遵循因果關系法則，要求違法、犯罪行為與產生的危害后果之間必須存在因果關系。盡管對于法律上的因果關系如何理解、其要素包括哪些等問題長期以來一直頗有爭議[13]，但法律責任必須基于“因果關系”的觀點卻不曾改變，屬于基本共識。

人工智能預測警務從根本上改變了懲戒違法犯罪行為的認知模式，算法決策基于建模計算和數理邏輯，這樣就在決策系統(tǒng)中改寫了知識邏輯，實現(xiàn)了數理邏輯的加持。此時，人們“不再熱衷于尋找因果關系”[14]。關于違法犯罪的歸責模式開始從“因果關系歸責”模式向“相關關系預判”模式轉變。可能隨著強人工智能的出現(xiàn)，弱人工智能的“相關關系”特點會向“因果關系”方向轉變，“在強人工智能證成中，圖靈獎獲得者朱迪亞·珀爾（J.Pearl）的因果推斷理論是最具特色的理論”[15]。但是，就現(xiàn)有的人工智能發(fā)展水平來看，人工智能預測警務仍然只能采用具有“相關關系”特點的弱人工智能。

與弱人工智能相結合的預測警務一般被應用于違法犯罪熱點的預判和具體的違法犯罪人或受害人的預判。就違法犯罪熱點預判而言，其主要是對違法犯罪風險高發(fā)地區(qū)的概率推測，“對過去犯罪數據中的模式和相關性進行識別和分析，預測發(fā)生犯罪概率較高的時間和地點，并將警力部署到可能發(fā)生犯罪的地區(qū)”[16]。而就具體的違法犯罪人或受害人的預判而言，則指向明確具體的個體，“通過智能技術分析過去犯罪活動的社交網絡，使用機器學習和算法來識別可能的肇事者或受害者”[17]。通過人工智能預測警情無疑對警察權運行產生巨大影響。當獲得對違法犯罪風險較高的地區(qū)和時間節(jié)點的預判結果時，就可提前部署警力，預防違法犯罪行為的出現(xiàn)；當獲得對違法犯罪人的預判結果時，就可提前介入避免違法犯罪人犯罪?？梢钥闯?，無論是哪種預判，都是以統(tǒng)計模式為基礎而形成的算法，通過大數據運算而計算出的結果。從這一過程可知，通過計算所形成的結果實際上是一種概率上的可能性，是一種不確定性。這意味著對警情的預測只是基于算法而形成的推算結果而已，至于是否會發(fā)生，則可能會有正相變化，也可能會有負相變化。

（三）從權力符號外顯到權力的技術化內置

警察權的設置是一個社會公共安全秩序的基本保障。警察被視為街頭官僚，其常常通過權力符號外顯達到向社會展示權威的目的。著警服出現(xiàn)于公眾面前，且佩戴警械、武器等都是權力符號外顯的具體表現(xiàn)。警察的權力符號外顯具有“勸說”社會公眾自愿服從并配合警務活動的作用，也隱含“威懾”和“強制性”作用，意味著警察可以使用強制手段處置違法犯罪行為，使失序的社會狀況回歸正常。見警率一度是城市安全的重要標識。人工智能的介入改變了警察權權力符號外顯的運行邏輯，警察權越來越多地被內置在人工智能技術之中?！肮矙嗔Σ块T則在智慧政務、智慧司法、智慧檢務的戰(zhàn)略目標下，把網絡技術、數字技術和人工智能技術作為一種技術賦能，在其權力運作過程中加以日益廣泛和深入地應用，如智能監(jiān)控、人臉識別、智能輔助辦案系統(tǒng)等，這些算法決策和代碼規(guī)制便形成了權力技術化的態(tài)勢。”[18]公共場所智能監(jiān)控、人臉識別、GPS定位等智能技術正在取代警察的到場，人們往往看不到警察，但卻能感覺到無所不在的權力“在場”。警察權無需在場就能完成信息的收集，并且這些信息與警方數據庫中已經采集到的身份證、車牌號碼、違法犯罪記錄等各種信息比對、碰撞，關于個人的立體畫像就得以形成。“慢慢地積累所有數據，直至在計算機數據庫中形成一個‘人’”[19]。在警察權面前，人成為立體透明的，甚至個人未來發(fā)生違法犯罪的概率也一并被計算了出來。

在人工智能與警務相結合的場景中，警察權運行邏輯發(fā)生變化的同時，也帶來了與社會公眾之間關系的改變。警察權符號外顯的目的是減少對抗，強化相對人的服從及社會公眾的配合。但當人工智能介入時，關于服從及配合的討論便失去了意義，因為無論服從與否、配合與否，個人的行為及其軌跡均可以一覽無遺地進入公權力監(jiān)視的范圍之內；無論服從與否、配合與否，算法已預設，代碼已生成，關于個人行為的預測，以及針對預測應采取何種措施的預判在悄悄地做出。不必見警，警察就在身邊，警察權已內置在技術之中，這是人工智能預測警務的真實寫照。

二、預測警務中人工智能嵌入存在的法律風險

人工智能預測警務蘊含了警察權運行邏輯的巨大變化。這套新的邏輯背后隱藏著諸多法律風險，對此必須給予必要的關注。

（一）個人權利被侵害的隱憂

人工智能預測警務運行的基礎在于數據，“數據猶如‘智慧公安’的‘血液’，是‘智慧公安’中最基本、最重要的因素，影響和決定了‘智慧公安’的效用”[20]。數據的重要性已為人所共知，不言而喻。但數據收集、處理過程卻暗藏著侵害個人權利的風險。

人工智能預測警務的數據收集和處理的過程中，易受到侵害的權利主要有“信息權益”和“個人隱私權”。這兩類權利雖然在《中華人民共和國憲法》（以下簡稱《憲法》）中尚沒有明確規(guī)定，但是從憲法教義學的角度分析，《憲法》第三十八條關于公民人格尊嚴的規(guī)定、第三十九條關于住宅權的規(guī)定、第四十條關于通信自由和通信秘密的規(guī)定中包含有信息權益和隱私權的內容。2017年頒布的《中華人民共和國民法總則》中，第一百二十七條、一百一十條、一百一十一條分別關注數據保護、隱私權和個人信息保護等方面的問題，及至2020年《中華人民共和國民法典》（以下簡稱《民法典》）出臺，這種立法思路得到延續(xù)，其在第一百二十七條中規(guī)定了法律對數據保護的內容；對隱私權、信息保護的規(guī)定則內容較多，在第四編“人格權”中專門規(guī)定了一章內容，即第六章“隱私權和個人信息保護”。由此，我國對隱私權和個人信息保護的規(guī)定更加全面。同時，個人信息保護的專門立法已開啟，《中華人民共和國個人信息保護法（草案）》（以下簡稱《個人信息保護法（草案）》）已于2020年向社會公布。綜上可以看出，隱私權和個人信息權益等權利形式正在茁壯成長，在要求平等主體不得侵害的同時，也要求國家公權力機關不得侵害。

對于人工智能預測警務而言，所涉及的信息保護對象是以數據為載體而形成的信息內容，即“數據信息”，因此主要涉及“數據信息權益”的內容。人工智能預測警務活動中常見的侵害“數據信息權益”的問題主要集中在數據真實權、知情權、數據修改權和刪除權等方面。要避免個人數據信息權益不被侵害首先要避免出現(xiàn)數據庫中數據失真的問題?？赡軐е聰祿д娴脑蛴泻芏?，可能是欺騙性數據，如基于“換臉技術”而收集的數據；也可能是注水數據，如網絡“水軍”注水而形成的數據；或者僅僅因為數據沒有及時更新而導致數據失真；等等。無論何種原因都極有可能使人工智能預測警務形成致命的預測錯誤，造成嚴重的后果。數據真實與否直接關系人工智能預測警務的結果，是其發(fā)揮作用的前提，更會與相關個體的合法權益有密切關系。數據真實在人工智能預測警務中至關重要。但是，現(xiàn)實的問題是數據是否真實，數據權主體往往自己都不知道，這會導致侵害權利的風險無法被消除，且不斷向后傳遞，帶來更多侵權的結果。而這種現(xiàn)象又與數據知情權、數據修改權和刪除權等權利未能得到保障直接相關。

在數據收集、數據融合過程中，個人的隱私權也存在被侵害的風險。一方面，存在公共空間隱私權被侵害的風險。傳統(tǒng)空間隱私權的理論一般認為公共空間不存在隱私權。但是在公共視頻監(jiān)控被大量使用的年代，這一理論并不周延。在沒有拍照和攝影設備的年代，公共空間內不愿被他人看到的隱私和尷尬瞬間即可被忘記，但公共視頻所具有的長期保存、一鍵定格且可被反復觀看的特點使得隱私和尷尬瞬間成為“永久畫面”，此時隱私權保護就成為必要。比如一位女士在公共場所時，她的裙子不小心被風吹起，這本是瞬間就可化解的尷尬，但公共視頻的拍攝卻有了不同的結果。因此，一般認為“即便他人身處某一公共場所，他人的某些事務仍然可能是其私人事務”[21]。另一方面，存在個人的隱私信息被侵害的風險。警察部門利用自己所掌握的或者共享的龐大的數據庫資源進行數據融合、碰撞，往往形成對預測對象的洞察，描摹出個人的立體畫像，某些個人不愿意為人所知曉的行為特征、價值取向也被呈現(xiàn)出來。顯然，這其中包含了侵害個人隱私權的風險?！盁o處不在的數據分析、數據畫像和精準推送，已經扯開了傳統(tǒng)隱秘空間上的面紗，個人很難再找回自己那個曾經無人知曉的‘后花園’，成為‘無隱私的公眾’”[22]。透明人是對數字時代中的人的真實描述，而透明，尤其是在公權力面前的透明，正在不斷消解個人的隱私權。

（二）傳統(tǒng)法律制度失靈的風險

人工智能預測警務雖以預測為目的，但是預測并非終點，預測結果要為警務工作服務。“預測警務并不僅僅停留于預測，而是要求執(zhí)法人員以數據分析結果為依據，將特定主體與犯罪行為進行預判性匹配，并基于該預判采取針對特定個人的犯罪控制措施。”[23]人工智能對違法犯罪行為或者違法犯罪人的預測往往要求在違法犯罪行為發(fā)生之前就加以制止。“對我們而言，危險不再是隱私的泄露，而是被預知的可能性——這些能預測我們可能生病、拖欠還款和犯罪的算法會讓我們無法購買保險、無法貸款、甚至在實施犯罪前就被預先逮捕”[24]?；谌斯ぶ悄芫瘎疹A測而形成實施犯罪之前預先逮捕的做法盡管帶來“零犯罪率”的美好預期，但是卻會從根本上動搖著人類長久以來積累形成的刑事偵查制度，解構既有規(guī)則。

傳統(tǒng)的偵查是一種對過去事實的回溯性重構，通過客觀證據在嫌疑人與違法犯罪行為之間建立關系。偵查啟動以及刑事強制措施的采用往往要基于“嫌疑”“有證據證明”①如《中華人民共和國刑事訴訟法》第一百零九條規(guī)定立案的條件是“發(fā)現(xiàn)犯罪事實或者犯罪嫌疑人”，第八十一條規(guī)定逮捕的條件是“有證據證明有犯罪事實”；第一百三十六條規(guī)定搜查的條件是“犯罪嫌疑人以及可能隱藏罪犯或犯罪證據”?；蛘摺昂侠砀鶕?”或“相當理由”等條件②英美法系刑事偵查啟動條件的確立是在與盤查相區(qū)別的過程中形成的，偵查一般須有“合理根據 ”或“相當理由”，盤查則根據“合理懷疑”。參見王兆鵬《路檢、盤查與人權》，臺灣元照出版有限公司2003年版，第94頁。。這些條件雖然可能存在程度上的差異，但構成“嫌疑”的本質是存在客觀證據能夠證明行為人與具體案件之間具有直接、明確、緊密的關聯(lián)關系。但是，人工智能介入之后，通過數據運算形成對違法犯罪的提前預判，此時偵查啟動或強制性措施的采用所依據的就不再是基于客觀證據而形成的“嫌疑”，僅僅是依據數據畫像而形成的概率上的可能性，僅僅是基于類型化的預測。如英國2015年的Beghal案就展示了這樣的趨勢。該案中當事人Beghal在機場遭到警方的盤問和搜查，這并不是因為Beghal實施了任何具體的可疑行為，只是因為警方在相關性信息的匯總、篩選之后發(fā)現(xiàn)Beghal的丈夫因實施恐怖主義犯罪正處于羈押中③見Beghal v Director of Public Prosecutions〔2015〕UKSC 49.。顯然，依據算法形成“嫌疑”，并進而采取強制措施的做法正在打破傳統(tǒng)制度的要求。

傳統(tǒng)的偵查制度基于對偵查權濫用的警惕構建了較為嚴格的約束機制，主要包括啟動偵查必須遵循嚴格的程序規(guī)則和對被立案偵查對象的程序性權利予以保障。但是隨著警方掌控的技術手段的增加，嚴格的規(guī)則能夠被繞開，存在無法發(fā)揮程序約束的風險。傳統(tǒng)程序約束規(guī)則所針對的是物理上強制措施，如搜查、扣押等，或采取傳統(tǒng)技術手段進行的監(jiān)聽或監(jiān)視，而新的技術手段完全可以在不接觸當事人、不進入私人空間、當事人不知曉的情形下靜悄悄地進行。通過數據計算形成對具體個體的嫌疑時，特定指向性技術手段就可以隨之跟進，形成對特定個體的特定監(jiān)控。而從普遍化監(jiān)控、類型化監(jiān)控到具體個體的監(jiān)控的推進往往已經內置于技術之中，程序控制無法發(fā)揮作用。尤其需要注意的是，由于人工智能技術存在算法錯誤、算法偏差、算法偏見，數據分析挖掘結果存在誤差等問題，無辜的人極有可能被算法計算成“嫌疑人”，而傳統(tǒng)制約制度的失靈必然會帶來令人恐怖的后果。

（三）無法消解權力濫用的問題

在人工智能將權力內化為算法、代碼的過程中，出現(xiàn)了新形式的權力濫用問題。

首先，對法律規(guī)范再解釋時的權力濫用問題。通過人工智能的方式預測警情或者違法犯罪人，首要的前提是把法律語言“翻譯”成計算機語言，把法律規(guī)范“轉換”為機器代碼。在這個過程中，“翻譯”“轉換”的本質就是“解釋”。盡管對于抽象的法律規(guī)范往往會通過立法解釋或者司法解釋的方式對其具體化，使其具有可操作性，但即使如此，很多法律概念、法律條件仍然存在模糊性。在這種情況下，代碼編寫中對法律概念的再解釋，對法律條件的再認識就會深刻地嵌入其中。如《中華人民共和國刑法》第一百一十四、一百一十五條規(guī)定了“以危險方法危害公共安全罪”，其中“危險方法”“公共安全”等不確定法律概念就需要加以解釋。為此，大量的司法解釋出現(xiàn)。其中2020年《關于依法懲治妨害新型冠狀病毒感染肺炎疫情防控違法犯罪的意見》是眾多司法解釋中一個。該司法解釋中規(guī)定：“新型冠狀病毒感染肺炎疑似病人拒絕隔離治療或者隔離期未滿擅自脫離隔離治療，并進入公共場所或者公共交通工具，造成新型冠狀病毒傳播的”，屬于以危險方法危害公共安全罪。而此解釋中關于“疑似病人”“公共場所”“公共交通工具”等概念均沒有明確的列舉。這意味著，把這些概念解釋清楚，并列舉出來就有了非常大的解釋空間。而此類法律規(guī)范再解釋的問題是在編寫算法，形成代碼時的普遍現(xiàn)象。由此看來，為編寫代碼提供標準和依據的執(zhí)法主體就成為再解釋主體，其受外在約束較小，再解釋權濫用的風險極大。

其次，基于偏見而產生的權力濫用的問題。人工智能預測警務以預測警情或者違法犯罪人為目的，這種目的必然要求對“什么樣的人更容易違法犯罪”進行判斷。對于預測違法犯罪人的智能系統(tǒng)而言，運算出這種判斷結論需要向其輸入“與可能發(fā)生的違法犯罪行為相關的要素特征”。如果警察部門為編寫代碼者提供的判斷要素本身就存在偏見，將某些地方打上犯罪高發(fā)地區(qū)的標簽，把某些特定身份或者經歷的人群打上違法犯罪高發(fā)人群的標簽，那么即使算法中立，最終的運算結果也是充滿偏見的。“將貧困、家庭狀況、種族或民族、社會經濟地位等維度輸入進去……從這個角度說，犯罪人預測是顯失公平正義的，他們被預測是危險的‘犯罪人’并據此受到懲罰，不是因為他們做過什么，而是因為他們是誰、他們的家庭怎么樣以及他們的口袋里有多少錢?！盵25]以偏見為前提的代碼編寫，將會把程序運行的結果引向錯誤的預測，從而導致權力的濫用。

最后，人工智能預測結果不當使用的問題。人工智能預測警務被設計出來的目的無非是得到預判，采取預防措施制止違法犯罪行為，減少社會的不安全因素。但是，由于懲罰違法、犯罪的制度設計中包含“經濟罰”的內容，經濟收益在一定程度上會成為執(zhí)法權力濫用的動力。實踐中也曾出現(xiàn)過此類案例，“荷蘭警方通過分析TomTom導航儀記錄的道路速度數據，在那些最可能創(chuàng)收的地方設置限速陷阱”[26]。從這種典型的“數據釣魚”執(zhí)法中可以看到，技術的加持使得權力濫用更加精準。

權力的技術化內置的過程中，權力濫用的形式多種多樣，上述所列只是非常典型的形式而已。在實踐中，甚至還存在為特定目的，或者為特殊人群布設“后門”而帶來的權力濫用問題?？偟膩砜?，權力的技術化內置并沒有消解權力濫用的問題。

三、預測警務嵌入人工智能法律風險的預防

預測警務嵌入人工智能后出現(xiàn)了大量法律風險，有些屬于制度滯后導致的，有些屬于制度落實上不嚴格的問題，還有些屬于技術發(fā)展本身的問題。在人工智能預測警務發(fā)展的推進過程中應當針對不同的法律風險確定不同的預防方案。

（一）完善與技術發(fā)展相適應的權利保障制度

技術發(fā)展的目的是要讓人更自由、生活更美好，因此人的權利和尊嚴應當是技術創(chuàng)新和發(fā)展的首要價值，“在價值上申言數字科技必須以人為本，必須把人的權利及尊嚴作為其最高目的，并以人權作為其根本的劃界尺度和評價標準”[27]。隨著技術發(fā)展，一些不曾被人們所認識的權利類型開始出現(xiàn)，如前文所談及的“數據信息權益”“個人隱私權”即屬于此種類型。法律有必要及時回應技術發(fā)展確立這類權利的地位，并明確法律保護的范圍。《民法典》中寫入“數據保護”“隱私權和個人信息保護”都是對時代回應的最直接體現(xiàn)。但是民法上所規(guī)定的僅是民事權利，所對抗的對象是平等主體。而人工智能預測警務涉及的是公權力與公民權利之間的關系，保護內容、方式等方面都會存在較大的差別。有必要在公法體系中完善與技術發(fā)展相適應的權利保障制度。

我國關于信息權益保護的公法體系正處于建設之中。2017年公布的《信息安全技術個人信息安全規(guī)范》（以下簡稱《安全規(guī)范》）中就關涉公權力收集、處理個人信息的規(guī)則。2020年10月21日公布的《個人信息保護法（草案）》中專門有“國家機關處理個人信息的特別規(guī)定”的內容。相較于《安全規(guī)范》而言，該法對公權力處理個人信息權益規(guī)則有了重大突破?！栋踩?guī)范》規(guī)定公權力收集信息、使用信息等方面都可遵循“知情同意例外”的原則，即公權力在收集和處理信息時不必征得當事人同意；《個人信息保護法（草案）》則改變了絕對例外的態(tài)度，對國家機關處理“個人信息”采用“告知+同意”的模式①《個人信息保護法（草案）》第三十五條規(guī)定：“國家機關為履行法定職責處理個人信息，應當依照本法規(guī)定向個人告知并取得其同意；法律、行政法規(guī)規(guī)定應當保密，或者告知、取得同意將妨礙國家機關履行法定職責的除外。”。這一改變極有意義，有助于督促公權力在處理個人信息時尊重當事人的意愿，保持謹慎處理的態(tài)度?！秱€人信息保護法（草案）》的精神雖然帶來公權力與數據信息權益關系的嶄新變化，但是對技術發(fā)展復雜程度的考量仍不夠充分。如前文所述，人工智能預測警務極有可能因為數據失真把某些個體預測為違法犯罪嫌疑人。為避免此種情況出現(xiàn)，有必要確立針對公權力的“告知+確認”規(guī)則。若數據處理之后出現(xiàn)對當事人不利的或者負面的評價或者預測，被預測者享有“數據信息真實權”，由此而派生出“告知+確認”權，由其確認所處理的信息真實無誤；一旦出現(xiàn)信息錯誤，個人享有修改和刪除的權利。至于數據收集、數據融合過程中個人隱私權保護的問題，需要特別注意公權力在收集時盡可能地明確標識，保障當事人形成合理的隱私期待。同時，對于收集到的信息使用也應有相應的規(guī)則。這些權利保障內容開始獲得《個人信息保護法（草案）》的關注。因此，個人信息保護法的出臺值得期待。不過個人信息保護法的目標定位是信息權益保障的基本法，這意味著其規(guī)定是原則性的，更為具體的規(guī)定有待于個人信息保護法出臺后對人臉識別、公共視頻監(jiān)控等涉及的信息權益、隱私權作專門規(guī)定。

（二）強化程序控制克服傳統(tǒng)法律制度的失靈

警察部門對人工智能所確定的“嫌疑人”進行針對性監(jiān)控時，有必要加強程序的控制。我國現(xiàn)有的刑事訴訟制度對使用技術偵查措施規(guī)定了嚴格的批準手續(xù)，但仍被置于公安機關內部。鑒于預測警務只是在相關性數據的挖掘、處理的基礎上而形成的“嫌疑”，不同于基于因果關系而形成的“嫌疑”，誤判的風險較大，因此應當給予更為嚴格的程序控制。嚴格程序控制的典型方法就是引入第三方進行權力制約，核心是引入司法權。司法機關作為審查機關，在確定是否有必要采取針對性偵查措施時不能僅依據數據分析結果，“僅有數據分析結果不足以確認‘有犯罪事實’或單獨作為定案根據，需要有其他類型證據予以補強和印證”[28]。如果不引入第三方進行權力約束，警察部門往往并無動力在數據分析結果之外收集其他類型的證據。同時應當注意的是，人工智能從大規(guī)模監(jiān)控到對具體的推算出來的“嫌疑人”進行監(jiān)控的“轉變”可能已經內置在技術之中，此時司法審查程序就有被規(guī)避的可能。因此可以考慮把司法制約程序內化到程序之中，當進行針對性的“監(jiān)控”時自動推送到司法機關的審查平臺上，由司法機關進行必要的審查。并且，將審查處理結果也內置化到技術之中：審查同意，具體的針對性“監(jiān)控”程序繼續(xù)進行；審查未獲得通過的，“監(jiān)控”程序則無法啟動。通過此種方式有效回應傳統(tǒng)法律制度的失靈問題。

（三）通過多元參與克服權力技術化中的權力濫用

人們已經意識到，人工智能所存在的傾向和偏見源于人類自己，“由于這種傾向根植于人類社會本身，因此不應歸咎于大數據等信息技術的運用”[29]。技術的作用僅在于它會不斷迭代強化這種傾向或者偏見。因此，從源頭避免不恰當的傾向、減少偏見至關重要。源頭減少的方式應當是在警務預測技術化過程中不僅要考慮警察權的權力運行需求，而且也要考慮制約警察權的各方面要求。應當考慮使預測警務從單純關注警察權運行的模式轉變?yōu)槲{多元主體參與的模式，以減少算法、代碼中的偏見和歧視。一是法律再解釋時應吸納立法機關、裁量基準制定機關的意見。如果只由使用預測警務系統(tǒng)的警察部門形成對法律再解釋的意見，并形成相關算法的話，會使得關于預防、打擊違法犯罪的法律認識的模型中潛藏部門意見，而這往往是一種不全面或者有偏見的模型，是一種“殘缺的模型”?！澳Ｐ褪且酝涷炁c未來推斷之間的橋梁，人們只有借助模型才能看到已然與未然的聯(lián)系。所以，殘缺的模型是對原始樣本信息和人們集體經驗的肢解?！盵30]為了避免法律再解釋權被濫用，有必要在把法律內容轉化為代碼時，充分吸納更有權威機關的解釋意見，其中主要包括立法機關、裁量基準制定機關等對法律規(guī)范把握更準確的機關。二是違法犯罪特征代碼化的過程中應吸納社會公眾的意見。關于違法犯罪的特征，不同的群體有不同的認識。警察部門在打擊違法犯罪過程中隨著經驗的積累，往往能夠形成專業(yè)化認識，但是同樣也會帶來固化思維，極易對特定群體形成標簽化認識；也極易僅從單一角度認識問題，無法在公共秩序與個人權利之間進行兼顧。如果警察權在封閉的框架內運行則難以走出固化的、單一化的思維模式，就有必要打破這種封閉權力運行模式，把社會公眾的認識也納入其中。這意味著在技術賦權進程中，“必須與民眾所生活的社會維度、政治維度以及個體維度相結合，以便讓賦權實踐與包容、參與以及社會正義相結合”[31]。從不同的角度認識違法犯罪行為的特征，一定程度上有助于減少基于權力的偏見而導致算法的偏見。

綜上，人工智能技術正在劇烈影響著人類的生活方式和活動方式。人工智能技術與權力的結合使得公權力具有更大的社會影響力，“干涉他人的能力、維穩(wěn)能力和法律強制力不斷增強”[32]。同樣，人工智能和預測警務的結合也深刻地改變著警察權的運行邏輯及其影響社會的方式，基于大數據計算而形成的警務預測對預防違法犯罪具有不可低估的意義。但是，在這種新的預測警務方式之中卻也隱藏著諸多法律風險。對此，必須保持必要的警惕。當然，對于嵌入人工智能的預測警務所潛藏的法律風險的分析并非要否定這種技術帶來的積極價值，而是要通過制度建設遏制風險，在技術向善的框架內找到公共安全和秩序及個人權利之間恰當的平衡點，推動嵌入人工智能的預測警務在法治的框架中前進，為推動“法治中國”“平安中國”的建設發(fā)揮積極的作用。