警務(wù)大數(shù)據(jù)分析中的倫理風(fēng)險(xiǎn)及其控制*

張舒冰 馬希鵬 王澤婷

江蘇警官學(xué)院，江蘇 南京 210012

2019年回顧，大數(shù)據(jù)已然在這個(gè)信息爆炸的時(shí)代以數(shù)字形式為許多行業(yè)注入了新的活力，這些行業(yè)亦開(kāi)始了哈佛大學(xué)社會(huì)學(xué)教授加里·金所謂的“量化進(jìn)程”。公安作為國(guó)家與社會(huì)安全保衛(wèi)的重要行業(yè)，經(jīng)過(guò)多年的積累掌握著海量信息，在這股大數(shù)據(jù)的浪潮中建設(shè)“智慧公安”的行動(dòng)已經(jīng)在全國(guó)范圍內(nèi)展開(kāi)。

一、警務(wù)大數(shù)據(jù)分析中的倫理風(fēng)險(xiǎn)內(nèi)涵及其表現(xiàn)形態(tài)

關(guān)于倫理風(fēng)險(xiǎn)的產(chǎn)生，有學(xué)者稱“技術(shù)倫理風(fēng)險(xiǎn)主要緣于對(duì)技術(shù)理性的盲目擴(kuò)張，致使技術(shù)主體過(guò)分把科學(xué)技術(shù)社會(huì)化，從而與價(jià)值理性產(chǎn)生了嚴(yán)重?cái)嗔选！盵1]張彥教授將“倫理風(fēng)險(xiǎn)”定義為“道德選擇的不確定性引起的可能的危害或損失。[2]在其《價(jià)值排序與倫理風(fēng)險(xiǎn)》一書(shū)中提出了一種以“倫理風(fēng)險(xiǎn)”為研究進(jìn)路的方式，“倫理風(fēng)險(xiǎn)”范疇改變了傳統(tǒng)的線形的思維模式，為摸索大數(shù)據(jù)發(fā)展之漏洞提供另一維度的思路。[3]由此啟發(fā)，筆者以為，倫理風(fēng)險(xiǎn)更多的是在討論操縱和搬運(yùn)大數(shù)據(jù)背后的“人為”因素注入技術(shù)理性而產(chǎn)生的不良反應(yīng)。對(duì)于警務(wù)大數(shù)據(jù)的運(yùn)用過(guò)程中，倫理風(fēng)險(xiǎn)主要有以下三種表現(xiàn)形態(tài)：

(一)數(shù)據(jù)警務(wù)對(duì)個(gè)人信息權(quán)的沖擊

從最新《民法總則》增設(shè)的對(duì)個(gè)人信息保護(hù)內(nèi)容來(lái)看，出于更好地保護(hù)我國(guó)公民的隱私權(quán)，從立法層面在私法體系中肯定個(gè)人信息權(quán)。[4]公安機(jī)關(guān)強(qiáng)制或無(wú)形采集信息本身存在人權(quán)與公共利益的交換與妥協(xié)，但警務(wù)人員泄露信息的問(wèn)題已經(jīng)不再新鮮，甚至一度成為私人利器。這種數(shù)據(jù)—人的控制模式造成了數(shù)據(jù)警務(wù)理性的缺失，在筆者與戶籍民警的采訪交流中，據(jù)透露行業(yè)內(nèi)確有因私諸如搜索個(gè)人開(kāi)房記錄，調(diào)查家庭背景等等現(xiàn)象。

(二)數(shù)據(jù)警務(wù)真實(shí)性存疑可能性

互聯(lián)網(wǎng)海量信息數(shù)據(jù)中存在不少數(shù)據(jù)難辨真?zhèn)?，影響各行業(yè)判斷與決策，警務(wù)數(shù)據(jù)也并不樂(lè)觀。警務(wù)大數(shù)據(jù)的收集、處理過(guò)程中，同樣存在人為的失范問(wèn)題引發(fā)風(fēng)險(xiǎn)之流。從主觀故意的角度看，部分警務(wù)人員出于私交或利益驅(qū)使非法修改或者偽造數(shù)據(jù)錄入或傳播；從非主觀故意的角度看，亦存在由于數(shù)據(jù)管理不當(dāng)、數(shù)據(jù)源本身的固化認(rèn)識(shí)等造成數(shù)據(jù)錯(cuò)誤的可能性。通過(guò)走訪與交流，筆者就了解到生活中，存在著如：警務(wù)平臺(tái)的信息與戶籍信息不同影響辦證、警方重點(diǎn)管控人員信息登記錯(cuò)誤誤錄入前科記錄影響個(gè)人社會(huì)評(píng)價(jià)等情況。

(三)數(shù)據(jù)警務(wù)實(shí)現(xiàn)的困境

警務(wù)數(shù)據(jù)差異問(wèn)題。國(guó)內(nèi)學(xué)者對(duì)大數(shù)據(jù)技術(shù)的倫理風(fēng)險(xiǎn)普遍考慮到“數(shù)據(jù)鴻溝”——國(guó)與國(guó)之間數(shù)據(jù)霸權(quán)，同樣在警務(wù)大數(shù)據(jù)的建設(shè)中也存在數(shù)據(jù)“鴻溝”問(wèn)題。但筆者認(rèn)為這更傾向于一種數(shù)據(jù)差異，雖然同樣是競(jìng)爭(zhēng)帶來(lái)的風(fēng)險(xiǎn)，一個(gè)是客觀使然，另一個(gè)則是人為主觀的結(jié)果。大數(shù)據(jù)技術(shù)研發(fā)以及后期數(shù)據(jù)的整合需要資金與技術(shù)的投入，我國(guó)國(guó)內(nèi)各地區(qū)發(fā)展參差不齊。由此帶來(lái)一個(gè)問(wèn)題即是智慧警務(wù)的建設(shè)往往形成“分塊運(yùn)動(dòng)”，以省為單位或者例如京津冀帶動(dòng)周邊省份協(xié)同發(fā)展之類的模式，無(wú)法形成全國(guó)統(tǒng)一聯(lián)網(wǎng)的形式將數(shù)據(jù)物盡其用，而仍然呈現(xiàn)“數(shù)據(jù)孤島”的狀況。此外，公安機(jī)關(guān)內(nèi)部各部門(mén)分立，各自掌握不同的信息都可以形成一種“數(shù)據(jù)孤島”，這一倫理風(fēng)險(xiǎn)出于個(gè)人或集體的利益對(duì)抗而不利于數(shù)據(jù)的統(tǒng)一調(diào)度和整合。

二、警務(wù)大數(shù)據(jù)倫理風(fēng)險(xiǎn)產(chǎn)生的原因

關(guān)于警務(wù)大數(shù)據(jù)倫理風(fēng)險(xiǎn)產(chǎn)生的原因，筆者認(rèn)為可以從主體發(fā)端、技術(shù)原因和制度背景三方面展開(kāi)討論：

(一)主體角度：主體的復(fù)雜性

筆者以為倫理風(fēng)險(xiǎn)之所以存在最大的因素即是存在“人”這一不確定因素，警務(wù)大數(shù)據(jù)從采集、處理到存儲(chǔ)、運(yùn)用的過(guò)程中一共有四方主體可能參與其中：警方、數(shù)據(jù)公司、服務(wù)平臺(tái)、個(gè)人。在前我們不斷討論到警方內(nèi)部與外部的難題導(dǎo)致風(fēng)險(xiǎn)的出現(xiàn)，但是往往容易忽略相對(duì)的數(shù)據(jù)源：與警方合作的數(shù)據(jù)公司、服務(wù)平臺(tái)以及個(gè)人各個(gè)環(huán)節(jié)都可能出現(xiàn)差錯(cuò)與人為導(dǎo)向。鮑曉燕認(rèn)為“從目前警務(wù)實(shí)踐來(lái)看，由于法律依據(jù)的缺失以及行業(yè)壁壘等客觀因素的限制，我們對(duì)來(lái)自社會(huì)其他行業(yè)、領(lǐng)域的社會(huì)信息資源占有量并不樂(lè)觀，還遠(yuǎn)不足以構(gòu)成對(duì)社會(huì)面的全面覆蓋?！盵5]正如張彥教授所述“倫理更多的是從行為者整體的角度來(lái)指稱”，各個(gè)平臺(tái)、企業(yè)本身就是“行為者整體”，其內(nèi)部有著自己的“感性”決策，最終影響著數(shù)據(jù)獲取的速度、數(shù)據(jù)的質(zhì)量與數(shù)據(jù)的保護(hù)。

(二)客觀技術(shù)原因：“信息人”偏見(jiàn)

“信息人”這一概念直接將人在虛擬時(shí)空中的“信息至上”特征表達(dá)出，然而數(shù)據(jù)是人為記錄的，存在真實(shí)性的問(wèn)題，也就是說(shuō)，“信息人”的身份識(shí)別度低，容易產(chǎn)生判斷失誤。根據(jù)“信息”判別使得一個(gè)人的品格由數(shù)據(jù)固化，而且數(shù)據(jù)推算“人”這一不確定因素到底會(huì)存在誤差。高質(zhì)量的數(shù)據(jù)分析需要高質(zhì)量(準(zhǔn)確、均勻)的數(shù)據(jù)。筆者與警務(wù)人員的采訪交流了解到，實(shí)務(wù)中依靠大數(shù)據(jù)抓捕確實(shí)存在“抓錯(cuò)人”的情況，而后不了了之。這是技術(shù)本身固有的缺陷對(duì)數(shù)據(jù)推算帶來(lái)失真，影響了辦案效率，同時(shí)也給個(gè)別無(wú)辜的百姓帶來(lái)不便，對(duì)公安機(jī)關(guān)形象之塑造亦有潛在負(fù)面影響。

(三)制度背景：制度制約的不足

我國(guó)的警務(wù)大數(shù)據(jù)建設(shè)起步較晚，發(fā)展在各地區(qū)也參差不齊，難免在進(jìn)取過(guò)程中存在不少問(wèn)題，但是法律的滯后性使得亂象叢生規(guī)約不足。筆者通過(guò)對(duì)公安機(jī)關(guān)內(nèi)部進(jìn)行問(wèn)卷調(diào)查了解到關(guān)于警務(wù)數(shù)據(jù)的采集、存儲(chǔ)、管理和使用方面在其內(nèi)部還沒(méi)有形成一套完善和統(tǒng)一的倫理準(zhǔn)則，所以各部門(mén)往往根據(jù)自身的標(biāo)準(zhǔn)，多重標(biāo)準(zhǔn)的情況難免會(huì)產(chǎn)生沖突，引發(fā)倫理問(wèn)題。

三、警務(wù)大數(shù)據(jù)運(yùn)用過(guò)程中控制倫理風(fēng)險(xiǎn)的原則及其對(duì)策的研究

從預(yù)測(cè)和補(bǔ)償?shù)慕嵌葋?lái)說(shuō)“風(fēng)險(xiǎn)概念是指因決策的局限性造成的不確定性，原則上是可以預(yù)測(cè)和控制的。”[6]針對(duì)警務(wù)大數(shù)據(jù)的倫理風(fēng)險(xiǎn)，筆者認(rèn)為可以從倫理原則和具體措施兩方面討論：

(一)倫理原則

1.無(wú)害原則。弗蘭克那認(rèn)為，倫理是指一個(gè)社會(huì)的道德規(guī)范系統(tǒng)賦予人們?cè)趧?dòng)機(jī)或行為上的是非善惡的判斷標(biāo)準(zhǔn)。無(wú)害原則，則是道德化的體現(xiàn)。在數(shù)據(jù)的使用發(fā)端要求數(shù)據(jù)使用者帶著以人為本，致用于民的目的，善意地使用個(gè)人信息，這是一種無(wú)形的道德規(guī)約，期待公安機(jī)關(guān)內(nèi)部可以建立一套完善、統(tǒng)一的倫理道德準(zhǔn)則。[7]

2.權(quán)責(zé)統(tǒng)一原則。公安機(jī)關(guān)內(nèi)部現(xiàn)實(shí)行權(quán)限分級(jí)制度體現(xiàn)“權(quán)責(zé)統(tǒng)一”，不同級(jí)別享有不同的數(shù)據(jù)接觸權(quán)限，但是實(shí)務(wù)中地方基層公安在繁重的工作壓力下，權(quán)限分級(jí)往往流于形式：需求不同，但手上的權(quán)限不匹配導(dǎo)致為求便利公開(kāi)分享權(quán)限(一人密鑰公開(kāi)共享)，實(shí)為隱患。建議應(yīng)當(dāng)根據(jù)不同的需要進(jìn)行權(quán)限等級(jí)的調(diào)整，實(shí)現(xiàn)真正的權(quán)限對(duì)應(yīng)。

3.透明公開(kāi)原則。筆者任務(wù)該原則有兩方面益處：一方面尊重個(gè)人信息權(quán)，另一方面有利于勘誤，當(dāng)事人及時(shí)糾正錯(cuò)誤數(shù)據(jù)，保證未來(lái)的精準(zhǔn)決斷。警方以及合作的數(shù)據(jù)公司所使用的預(yù)測(cè)算法應(yīng)該以公開(kāi)透明的方式接受公眾的監(jiān)督，通過(guò)了解他們的價(jià)值取向和關(guān)注點(diǎn)及時(shí)作出調(diào)整獲得認(rèn)可，促進(jìn)數(shù)據(jù)警務(wù)的規(guī)范運(yùn)用。

(二)具體措施

對(duì)于警務(wù)大數(shù)據(jù)倫理風(fēng)險(xiǎn)的控制只是停留在倫理原則層面的探討往往是不夠的也容易流于形式，正在做到預(yù)測(cè)和補(bǔ)償風(fēng)險(xiǎn)，還是應(yīng)該施以具體措施進(jìn)行規(guī)制：

1.行業(yè)自律。針對(duì)主體的復(fù)雜性，正如我們所知，越來(lái)越多的科技品牌如華為、騰訊、阿里巴巴等行業(yè)與警方進(jìn)行合作，與這些行業(yè)聯(lián)合已是大勢(shì)所趨，所以將主體簡(jiǎn)化，減少數(shù)據(jù)接觸方不現(xiàn)實(shí)。因此，筆者認(rèn)為，例如警企合作應(yīng)該學(xué)習(xí)美國(guó)踐行的“行業(yè)自律”的辦法，在公安與企業(yè)內(nèi)部形成自我約束力，通過(guò)行業(yè)聯(lián)盟內(nèi)部制定嚴(yán)格的信息保護(hù)倫理標(biāo)準(zhǔn)，與利益掛鉤驅(qū)動(dòng)行業(yè)自律——制定信息保護(hù)認(rèn)證，達(dá)到標(biāo)準(zhǔn)的企業(yè)準(zhǔn)入大數(shù)據(jù)應(yīng)用門(mén)檻，并實(shí)現(xiàn)數(shù)據(jù)使用的隔離性、保密性和可追蹤性，讓數(shù)據(jù)在安全可控范圍內(nèi)使用。

2.技術(shù)驅(qū)動(dòng)。倫理風(fēng)險(xiǎn)的產(chǎn)生，與技術(shù)原因有著密不可分的關(guān)系。我國(guó)警務(wù)數(shù)據(jù)建設(shè)發(fā)展較晚，這方面的尖端人才培養(yǎng)投入需要大量資金和技術(shù)支持。技術(shù)方面，著重培養(yǎng)技術(shù)人員，可以通過(guò)增加警察院校的網(wǎng)安專業(yè)專門(mén)培養(yǎng)方向或者引進(jìn)技術(shù)人才納入編制。資金方面，筆者認(rèn)為正如警企合作解決科技的同時(shí)，可以帶入投資方運(yùn)營(yíng)解決資金問(wèn)題，通過(guò)社會(huì)的力量最后收益于社會(huì)。與此同時(shí)，警惕“唯數(shù)據(jù)主義”，應(yīng)當(dāng)將傳統(tǒng)的辦案方式與高尖端技術(shù)結(jié)合互補(bǔ)，減少辦案差錯(cuò)，樹(shù)立高質(zhì)量辦案的公安形象。

3.制度填白。只有由國(guó)家和政府部門(mén)為大數(shù)據(jù)技術(shù)的發(fā)展提供政策保證和法律監(jiān)督，才能夠保證我國(guó)在大數(shù)據(jù)隱私倫理監(jiān)管方面處于領(lǐng)先位置。[8]國(guó)家立法部門(mén)應(yīng)當(dāng)制定與大數(shù)據(jù)采集、存儲(chǔ)、處理、運(yùn)用一系列法律法規(guī)以應(yīng)對(duì)當(dāng)前的大數(shù)據(jù)法律空白來(lái)規(guī)制不當(dāng)行為對(duì)個(gè)人信息的侵犯并給予公民相當(dāng)?shù)谋O(jiān)督權(quán)限協(xié)調(diào)警務(wù)數(shù)據(jù)健康的建立。[9]

四、結(jié)語(yǔ)

2017年1月，在美國(guó)加州阿西洛馬召開(kāi)的“阿西洛馬會(huì)議”上，專家們聯(lián)合簽署了“阿西洛馬人工智能原則”，23條原則其中就包括“道德標(biāo)準(zhǔn)和價(jià)值觀念”此類倫理問(wèn)題?？梢?jiàn)，在大數(shù)據(jù)盛行發(fā)展的時(shí)代，世界關(guān)注到了倫理風(fēng)險(xiǎn)的存在。在警務(wù)建設(shè)中，倫理風(fēng)險(xiǎn)的可認(rèn)識(shí)性和可控性，保持大數(shù)據(jù)發(fā)展取得動(dòng)態(tài)平衡，更好地促進(jìn)警務(wù)的信息化建設(shè)。