“人像對(duì)比抓捕嫌疑人”技術(shù)中的倫理風(fēng)險(xiǎn)*

蔣 嬌 馬希鵬 董敏君

江蘇警官學(xué)院，江蘇 南京 210012

一、倫理風(fēng)險(xiǎn)的內(nèi)涵及其控制辦法

(一)倫理風(fēng)險(xiǎn)與價(jià)值排序

倫理風(fēng)險(xiǎn)是與政治風(fēng)險(xiǎn)、經(jīng)濟(jì)風(fēng)險(xiǎn)等相對(duì)應(yīng)的風(fēng)險(xiǎn)類型的一種，其基本含義是道德選擇的不確定性引起的可能的危害或損失，而控制倫理風(fēng)險(xiǎn)最有效措施就是進(jìn)行價(jià)值排序，價(jià)值排序是倫理學(xué)研究中控制倫理風(fēng)險(xiǎn)的重要辦法。生活中每個(gè)人都有自己的道德價(jià)值觀以及自己所認(rèn)定的價(jià)值排序表，比如誠(chéng)實(shí)守信、善良、正義、公平等等，但這些價(jià)值觀念的序列不是一成不變的，它們會(huì)根據(jù)不同情境中的倫理風(fēng)險(xiǎn)變化，甚至?xí)嗷ヅ鲎埠蜎_突，形成道德困境①，從而只能通過(guò)個(gè)人的經(jīng)歷與認(rèn)知選擇優(yōu)先實(shí)現(xiàn)的價(jià)值以避免更多的潛在風(fēng)險(xiǎn)。因此，可以通俗地將價(jià)值排序界定為在倫理風(fēng)險(xiǎn)與道德困境中優(yōu)先選擇維護(hù)一種或幾種價(jià)值觀念，就是一個(gè)價(jià)值排序的過(guò)程。

(二)控制倫理風(fēng)險(xiǎn)在警務(wù)大數(shù)據(jù)分析中的意義

大數(shù)據(jù)分析是大數(shù)據(jù)理念與辦法的中心，是指利用現(xiàn)代科技手段對(duì)海量類型多樣的數(shù)據(jù)進(jìn)行分析并從中找出可以幫助公安決策以及其他有用信息的過(guò)程②。運(yùn)用價(jià)值排序辦法可以在不同倫理風(fēng)險(xiǎn)情形中最大程度地維護(hù)公平正義與社會(huì)治安，其有三個(gè)方面的意義：第一，有利于實(shí)現(xiàn)個(gè)人認(rèn)知與價(jià)值?？刂苽惱盹L(fēng)險(xiǎn)時(shí)進(jìn)行價(jià)值排序的過(guò)程是個(gè)人或者組織進(jìn)行判斷選擇的過(guò)程，因此其有利于個(gè)人或組織實(shí)現(xiàn)其價(jià)值認(rèn)知與判斷；第二，控制警務(wù)大數(shù)據(jù)分析中的倫理風(fēng)險(xiǎn)有利于保障警務(wù)工作的順利進(jìn)行，最大程度地保障社會(huì)安定與價(jià)值秩序，實(shí)現(xiàn)公安機(jī)關(guān)的職能；第三，價(jià)值排序與道德選擇可以引領(lǐng)警務(wù)大數(shù)據(jù)分析的發(fā)展，通過(guò)公安機(jī)關(guān)與民警的價(jià)值判斷選擇，在運(yùn)用大數(shù)據(jù)分析手段時(shí)公安機(jī)關(guān)會(huì)盡可能避免倫理風(fēng)險(xiǎn)，使警務(wù)大數(shù)據(jù)更健康積極地發(fā)展。

(三)目標(biāo)倫理價(jià)值的分類

隨著科技發(fā)展與世界全球化的深入，人們接受更多東西從而價(jià)值逐漸多元化，因此出現(xiàn)了更多的道德困境與價(jià)值風(fēng)險(xiǎn)時(shí)，而公安機(jī)關(guān)在做出價(jià)值判斷時(shí)往往比以前更加難判斷選擇，因?yàn)槠洳粌H要從維護(hù)社會(huì)治安的角度完成工作，也要兼顧自己和普通民眾的一般觀念的價(jià)值選擇，在出現(xiàn)兩者沖突時(shí)更要最合適的倫理價(jià)值判斷。而目標(biāo)倫理價(jià)值可以分為③維護(hù)國(guó)家和法律秩序的政治價(jià)值、維護(hù)社會(huì)正常生活秩序與良好風(fēng)氣的社會(huì)價(jià)值、維護(hù)經(jīng)濟(jì)秩序的經(jīng)濟(jì)價(jià)值、維護(hù)文化習(xí)俗和精神的文化價(jià)值以及維護(hù)公民的信賴的心理價(jià)值。

二、“人像對(duì)比抓捕嫌疑人”技術(shù)中的倫理風(fēng)險(xiǎn)

由于社會(huì)的變化以及生活節(jié)奏的加快，僅僅依靠公安機(jī)關(guān)正式登記采集的信息遠(yuǎn)遠(yuǎn)不足以應(yīng)付各種突發(fā)事件，也不可避免地存在潛在的價(jià)值沖突與倫理風(fēng)險(xiǎn)，主要體現(xiàn)在以下方面：

(一)在收集到人臉信息并識(shí)別過(guò)程中，會(huì)因個(gè)人容貌外形的變化出現(xiàn)誤差，機(jī)器不能百分百準(zhǔn)確地識(shí)別每個(gè)公民身份，致使部分合法公民不能進(jìn)入車站內(nèi)甚至被誤解檢查。而且這個(gè)結(jié)果不是百分百準(zhǔn)確，因容貌存在相似可能將合法公民也納入可疑人員范圍，造成判斷結(jié)果的混淆，部分合法公民也會(huì)被盤查，造成這些公民一定程度的權(quán)益侵犯，同時(shí)也會(huì)降低民眾對(duì)公安機(jī)關(guān)的信任程度。但是為了能夠及時(shí)控制潛在警情與可疑人員，公安機(jī)關(guān)又不得不采信機(jī)器檢測(cè)結(jié)果，因此造成了警務(wù)工作侵犯公民權(quán)益的沖突。

(二)在“人像識(shí)別抓捕嫌疑人”中，公安機(jī)關(guān)掌握著機(jī)器即時(shí)采集的大量數(shù)據(jù)結(jié)果，而大數(shù)據(jù)的巨大潛力使得別有用心者可以從一大堆雜亂的數(shù)據(jù)信息中精準(zhǔn)捕獲個(gè)人的隱私信息，甚至能夠做到預(yù)測(cè)人們的隱私行為，從而使得個(gè)人的身份、行為、喜好等個(gè)人隱私信息有隨時(shí)被暴露的風(fēng)險(xiǎn)④，具體泄露的隱患可以表現(xiàn)在兩方面，第一是公安機(jī)關(guān)內(nèi)部人員出現(xiàn)信息泄露問(wèn)題，尤其是普遍知識(shí)水平不高的輔警群體；第二就是機(jī)器與數(shù)據(jù)平臺(tái)的建設(shè)不完備，保密技術(shù)不先進(jìn)，很有可能出現(xiàn)崩潰和惡意竊取信息的危險(xiǎn)，造成公民個(gè)人隱私信息的泄露信息，但是公安機(jī)關(guān)為了實(shí)現(xiàn)管理社會(huì)的職能不得不全方面采集公民信息，因此出現(xiàn)警務(wù)管理工作與公民信息隱私的沖突。

(三)警根據(jù)技術(shù)確定犯罪嫌疑人后，為了讓犯罪嫌疑人及時(shí)落網(wǎng)，公安機(jī)通常會(huì)現(xiàn)場(chǎng)實(shí)施抓捕，但在由此也會(huì)造成對(duì)其他公民正常生活造成影響，尤其是在車站、機(jī)場(chǎng)等人口密集之地，往往會(huì)造成社會(huì)公共秩序的混亂，此時(shí)就造成了社會(huì)秩序與警務(wù)工作的沖突。

(四)“人像識(shí)別技術(shù)”的運(yùn)用，是為了減輕公安民警的壓力，幫助公安機(jī)關(guān)完成維護(hù)治安的工作，但是在實(shí)踐中科技的運(yùn)用往往會(huì)使公安民警依賴于機(jī)器的數(shù)據(jù)采集及分析結(jié)果，自身的主觀觀察的判斷能力發(fā)揮不夠，造成公安民警主觀能動(dòng)性的退化。因此，大數(shù)據(jù)分析技術(shù)也會(huì)帶來(lái)科技運(yùn)用與人的作用的沖突，但這個(gè)沖突往往是可以通過(guò)人的意識(shí)而解決的。

三、“人像對(duì)比抓捕嫌疑人”的目標(biāo)價(jià)值選擇和價(jià)值排序

(一)在公民個(gè)人權(quán)益與警務(wù)數(shù)據(jù)分析的價(jià)值沖突的情形中，體現(xiàn)了目標(biāo)價(jià)值中政治價(jià)值與心理價(jià)值的沖突。警務(wù)大數(shù)據(jù)分析出現(xiàn)的偏差和錯(cuò)誤，是公安機(jī)關(guān)為了抓捕犯罪分子、維護(hù)法律權(quán)威與政治秩序的結(jié)果，而這些偏差使得部分公民被誤解，形成對(duì)公安機(jī)關(guān)工作的不信任，是心理價(jià)值的降低。在面對(duì)此時(shí)政治價(jià)值與心理價(jià)值的困境時(shí)，優(yōu)先維護(hù)政治價(jià)值，實(shí)現(xiàn)公共利益的統(tǒng)一，但同時(shí)完全可以采取一定方法控制這種價(jià)值沖突與倫理風(fēng)險(xiǎn)的出現(xiàn)，比如改進(jìn)改進(jìn)“人臉識(shí)別”系統(tǒng)，使其更精準(zhǔn)識(shí)別人臉，更高效地鎖定可疑人員，降低倫理風(fēng)險(xiǎn)出現(xiàn)概率。

(二)公安機(jī)關(guān)在收集公民信息時(shí)，民眾是基于對(duì)公權(quán)力的信任才將個(gè)人隱私交予采采集，如果因?yàn)槿嘶蛘呒夹g(shù)的弊端使公民信息泄露，民眾對(duì)公安機(jī)關(guān)的心理價(jià)值價(jià)值會(huì)受損，因此公安機(jī)關(guān)也可通過(guò)督促、教育民警、輔警的保護(hù)個(gè)人信息意識(shí)和技術(shù)平臺(tái)、數(shù)據(jù)庫(kù)的改進(jìn)，控制風(fēng)險(xiǎn)出現(xiàn)。

(三)在維護(hù)社會(huì)秩序與警務(wù)工作的沖突中，警務(wù)工作所體現(xiàn)的同樣是政治價(jià)值，而社會(huì)公共秩序的穩(wěn)定體現(xiàn)的則是社會(huì)價(jià)值，同公民與警務(wù)數(shù)據(jù)分析一樣，一般條件下應(yīng)優(yōu)先實(shí)現(xiàn)政治價(jià)值，因?yàn)槿绻艞壵蝺r(jià)值的實(shí)現(xiàn)、讓犯罪分子逃之夭夭，會(huì)對(duì)國(guó)家法治秩序、公安公信力造成更大的不利。但優(yōu)先實(shí)現(xiàn)政治價(jià)值的同時(shí)公安機(jī)關(guān)也可控制社會(huì)價(jià)值降低的程度，比如在抓捕行動(dòng)時(shí)兼顧所處的公共環(huán)境秩序和抓捕犯罪嫌疑人的緊迫性，思考用什么樣的方式抓人、怎么不侵害公共環(huán)境中的其他公民和怎么把對(duì)公共秩序的影響降到最小等問(wèn)題，把社會(huì)價(jià)值的損害程度降到最小。

(四)在2017年1月阿西洛馬會(huì)議上來(lái)自全球各地的頂級(jí)行業(yè)領(lǐng)袖討論而制定23條阿西洛馬原則，其中對(duì)于人工智能的發(fā)展提出了要發(fā)展有益的只能而非無(wú)限發(fā)展人工智能的人工智能發(fā)展方向。因此可見，科技智能的發(fā)展不應(yīng)取代人的作用，人的主觀意識(shí)與活動(dòng)是自古進(jìn)化而來(lái)，人是整個(gè)社會(huì)文化創(chuàng)造者與傳播者，因此人的活動(dòng)體現(xiàn)的是文化價(jià)值的傳承，無(wú)論多先進(jìn)頂級(jí)的科技數(shù)據(jù)，也無(wú)法替代人類弘揚(yáng)傳承文化。但同時(shí)，科技的發(fā)展對(duì)社會(huì)公共設(shè)施的完善與國(guó)力的提升是極其有利的，其政治價(jià)值與社會(huì)價(jià)值十分明顯。

在“人像對(duì)比抓捕嫌疑人”的數(shù)據(jù)分析中，雖然其大數(shù)據(jù)分析對(duì)公安機(jī)關(guān)制止違法犯罪活動(dòng)、抓捕嫌疑人具有顯著作用，但也造成公安干警過(guò)于依賴數(shù)據(jù)分析系統(tǒng)，導(dǎo)致其自主分析靈活運(yùn)用的能力減弱自主判斷，并且在公安隊(duì)伍中，一是部分年齡大的老民警，其現(xiàn)代信息意識(shí)和信息技術(shù)操作技能差，另一部分學(xué)歷高、信息技術(shù)操作技能高的青年民警又過(guò)于依賴現(xiàn)代信息技術(shù)。在“智慧警務(wù)”建設(shè)中，“智”是科技，“慧”是人的能動(dòng)性和創(chuàng)造性，因此必須注重“人機(jī)結(jié)合”⑤。因此，在科技智能與人本身發(fā)生價(jià)值沖突時(shí)，應(yīng)明確目標(biāo)倫理價(jià)值所代表的真正利益，在社會(huì)價(jià)值、國(guó)家價(jià)值和文化價(jià)值出現(xiàn)沖突時(shí)，一方面需要提高公安隊(duì)伍的信息應(yīng)用意識(shí)和信息技術(shù)操作技能，運(yùn)用好技術(shù)帶來(lái)的便利，但同時(shí)也要發(fā)揮人才機(jī)制，注重人的主觀作用。

四、結(jié)語(yǔ)

公安部門作為一個(gè)國(guó)家的重要機(jī)構(gòu)，警務(wù)大數(shù)據(jù)的分析應(yīng)用為其提供了高科技、高效率的協(xié)助，但同時(shí)產(chǎn)生的倫理風(fēng)險(xiǎn)是價(jià)值排序和道德決策過(guò)程產(chǎn)生的不確定要素的集合，直接影響到人們必須承擔(dān)的道德結(jié)果和倫理責(zé)任?！叭四樧R(shí)別”系統(tǒng)是公安機(jī)關(guān)在大數(shù)據(jù)與科技應(yīng)用方面的倫理風(fēng)險(xiǎn)的典型，其產(chǎn)生的關(guān)于政治價(jià)值、文化價(jià)值、社會(huì)價(jià)值、心理價(jià)值等方面的沖突，也是整個(gè)警務(wù)大數(shù)據(jù)分析的倫理沖突體現(xiàn)，需要結(jié)合情形做出具體的價(jià)值選擇，同時(shí)控制好另外倫理價(jià)值的損害度，避免倫理風(fēng)險(xiǎn)與道德沖突的持久存在。

[ 注 釋 ]

①?gòu)垙?論“價(jià)值排序”研究的三個(gè)主要問(wèn)[J].倫理學(xué)研究，2010，5(3).

②官思發(fā)，孟璽，李宗潔，劉揚(yáng).大數(shù)據(jù)分析研究現(xiàn)狀、問(wèn)題與對(duì)策[G].情報(bào)雜志，2015，5，34(5).

③彭浩，龍際夢(mèng)，蔡中祥，于曉彭，張喬.基于價(jià)值的目標(biāo)排序模型研究[J].彈劍與制導(dǎo)學(xué)報(bào)，2017.11.

④董軍，程昊.大數(shù)據(jù)技術(shù)的倫理風(fēng)險(xiǎn)及其控制——基于國(guó)內(nèi)大數(shù)據(jù)倫理問(wèn)題研究的分析[J].自然辯證法研究，2017-11-18.

⑤張兆端.“智慧警務(wù)”：大數(shù)據(jù)時(shí)代的警務(wù)模式[J].公安研究，2014(6).