誰(shuí)來(lái)管控大數(shù)據(jù)？

英國(guó)一位大臣宣布，要建立一個(gè)新的數(shù)據(jù)倫理中心，這是一件受歡迎的事情。但是，我們必須確保該中心要有能力解決其所認(rèn)定的道德問(wèn)題。

丹尼爾·蔡克納（Daniel Zeichner）

數(shù)據(jù)無(wú)處不在。然而，數(shù)據(jù)會(huì)讓我們的生活變得更好，還是會(huì)使我們處于危險(xiǎn)之中呢？近幾個(gè)月來(lái)，人們已經(jīng)搞清楚的一點(diǎn)是，雖然不斷擴(kuò)大的數(shù)據(jù)所呈現(xiàn)的機(jī)會(huì)是很多的，但是所造成的威脅也很多。因此，我們需要更加合理地管控?cái)?shù)據(jù)——針對(duì)如何利用和開(kāi)發(fā)這種新技術(shù)出臺(tái)一套指導(dǎo)原則，這么做尤其是因?yàn)閿?shù)據(jù)誤用會(huì)帶來(lái)威脅，會(huì)致使公眾反對(duì)此類創(chuàng)新。

包括優(yōu)步公司和莫里森公司在內(nèi)的企業(yè)發(fā)生了數(shù)據(jù)泄露，這已經(jīng)成為頭條新聞。但是，以自身的商業(yè)應(yīng)用為目的而開(kāi)發(fā)人工智能和查明信息，在這種情況下企業(yè)能夠以何種方式合法地使用數(shù)據(jù)，這一點(diǎn)并沒(méi)有較為廣泛地公開(kāi)化。

對(duì)于人工智能潛在的軍事用途，來(lái)自各方面的擔(dān)憂不斷加劇，以致兩萬(wàn)多名研究人員最近簽署了一封警告信，警告政策制定者要當(dāng)心自動(dòng)武器的危害，因?yàn)檫@些自動(dòng)武器能夠利用運(yùn)算法則來(lái)襲擊具體的目標(biāo)。我了解到開(kāi)發(fā)這些技術(shù)相對(duì)容易，也相對(duì)廉價(jià)，這是令人震驚的。對(duì)自動(dòng)無(wú)人機(jī)進(jìn)行編程，可以使其搜尋目標(biāo)的特征，而且可以在沒(méi)有監(jiān)視的情況下從遠(yuǎn)處對(duì)其進(jìn)行控制……所有這一切都是通過(guò)數(shù)據(jù)驅(qū)動(dòng)的運(yùn)算法則實(shí)現(xiàn)的。

如果這就是市場(chǎng)的發(fā)展所致，那么很可能需要更加強(qiáng)有力的管控和監(jiān)督了。我們需要一套道德和管理法規(guī)，不僅僅是為了數(shù)據(jù)保護(hù)，而是為了讓社會(huì)群眾擁有真正的發(fā)言權(quán)，讓他們?nèi)ソㄗh各個(gè)組織能夠怎樣操縱和利用我們的數(shù)據(jù)來(lái)獲得優(yōu)勢(shì)，不管是商業(yè)優(yōu)勢(shì)、政治優(yōu)勢(shì)還是其他方面的優(yōu)勢(shì)。畢竟，那是我們的數(shù)據(jù)，保護(hù)人們必須是重中之重。在數(shù)據(jù)立法背后，對(duì)原則的公共保證是關(guān)鍵。因此，以人們可以理解的方式來(lái)傳達(dá)這種保證是很重要的。在這些問(wèn)題上已經(jīng)做了認(rèn)真的工作，我樂(lè)意接受最近由不列顛學(xué)院和皇家學(xué)會(huì)所作的一份有關(guān)數(shù)據(jù)管控的報(bào)告。

該報(bào)告涵蓋了制定數(shù)據(jù)管控措施所需要的環(huán)境，解釋了社會(huì)正在以何種方式發(fā)生變化，為何制定數(shù)據(jù)政策一定要考慮“數(shù)據(jù)相關(guān)爭(zhēng)議”帶來(lái)的風(fēng)險(xiǎn)，一定要考慮具有警告意義的歷史故事——“廣泛采用新技術(shù)會(huì)增加公眾的焦慮感，或者會(huì)導(dǎo)致激烈的公共爭(zhēng)議”之類的故事。報(bào)告還闡述了什么叫做數(shù)據(jù)管控原則，“需要利用這些原則來(lái)明確地制定所有形式的數(shù)據(jù)管控措施，確保數(shù)據(jù)要具有可信性，要相信對(duì)整體數(shù)據(jù)的管理和使用”。透明度是關(guān)鍵：允許問(wèn)責(zé)制的存在，使任何引入的管控法規(guī)都具有合法性。

不列顛學(xué)院和皇家學(xué)會(huì)認(rèn)為，首要的數(shù)據(jù)管控原則應(yīng)該是“促進(jìn)人類的繁榮昌盛”。對(duì)于某些人來(lái)講，這個(gè)說(shuō)法可能聽(tīng)起來(lái)有點(diǎn)理想化了，但是兩家機(jī)構(gòu)提出的要點(diǎn)是正確的，應(yīng)該能夠?qū)?shù)據(jù)管控措施提供支持。要點(diǎn)如下：

1.保護(hù)個(gè)人和集體權(quán)益;

2.確保在數(shù)據(jù)管理和數(shù)據(jù)利用影響下的交易具有透明性、可解釋性和包容性;

3.找出最佳實(shí)踐案例，從中吸取成功的經(jīng)驗(yàn)和失敗的教訓(xùn);

4.加強(qiáng)現(xiàn)有的民主管理。

該報(bào)告還提倡由一個(gè)新的機(jī)構(gòu)來(lái)管理整個(gè)數(shù)據(jù)格局，而不是僅僅管理某些部門和領(lǐng)域的數(shù)據(jù)。這樣才會(huì)在符合上面列出的這些原則的情況下支持?jǐn)?shù)據(jù)管理權(quán)的移交，并提出改進(jìn)建議。該機(jī)構(gòu)在對(duì)話中將會(huì)具有包容性，而且也擁有獨(dú)立性，同時(shí)又與不同的社區(qū)相連。

有跡象表明，該報(bào)告所提的建議并未被忽視。正值英國(guó)脫歐之時(shí)，局面混亂不堪，盡管那位大臣的預(yù)算在一定程度上受到了影響，但他仍然提出要建立一個(gè)新的數(shù)據(jù)倫理中心，這是一項(xiàng)迎合了英國(guó)技術(shù)行業(yè)呼聲的新發(fā)展，備受歡迎。然而，這樣一個(gè)中心的資金來(lái)源并不明確，當(dāng)我向這位數(shù)據(jù)大臣問(wèn)及這一提議與信息專員辦公室之間的關(guān)系時(shí)，他的回答含糊不清。對(duì)于提議的數(shù)據(jù)倫理中心，政府的概述如下：“這是世界上首個(gè)能夠在人工智能和數(shù)據(jù)驅(qū)動(dòng)技術(shù)領(lǐng)域確保安全創(chuàng)新和倫理創(chuàng)新的咨詢機(jī)構(gòu)?！钡?，該機(jī)構(gòu)是否擁有當(dāng)前數(shù)據(jù)格局所需要的管控優(yōu)勢(shì)或權(quán)力呢？就其地位跟信息專員辦公室的關(guān)系而言，這個(gè)新機(jī)構(gòu)可能會(huì)進(jìn)一步產(chǎn)生問(wèn)題，有可能會(huì)遇到近年來(lái)信息專員辦公室本身所經(jīng)歷的管控影響力不足的問(wèn)題。我們需要確?；始覍W(xué)會(huì)和不列顛學(xué)院所設(shè)想的多元化的、包容性的和教育性的管控機(jī)構(gòu)能夠取得成效，并且需要確保其有能力帶來(lái)變革。

那么，為了使公民免受數(shù)據(jù)使用不當(dāng)可能造成的公共傷害，《數(shù)據(jù)保護(hù)法案》目前正在通過(guò)議會(huì)審核，該法案還將需要什么附加條款呢？我們正在拭目以待。作為全黨派議會(huì)數(shù)據(jù)分析小組的主席，我聽(tīng)到過(guò)無(wú)數(shù)組織為了更加有效地進(jìn)行民事保護(hù)而發(fā)起運(yùn)動(dòng)的情況，還聽(tīng)說(shuō)過(guò)數(shù)據(jù)驅(qū)動(dòng)的營(yíng)銷組織將數(shù)據(jù)當(dāng)作搖錢樹(shù)、利用數(shù)據(jù)打開(kāi)潛在商機(jī)的情況。毫不奇怪，公眾對(duì)于其個(gè)人數(shù)據(jù)可能被用于哪些領(lǐng)域感到憂慮，并且對(duì)數(shù)據(jù)立法持懷疑態(tài)度，特別是最近媒體對(duì)有關(guān)面部生物識(shí)別技術(shù)等問(wèn)題的報(bào)道，更是讓人憂心忡忡。

因此，我們需要解決一系列的道德難題。在數(shù)據(jù)方面，有些人會(huì)本能地懷疑國(guó)家機(jī)構(gòu)，其他人會(huì)對(duì)私營(yíng)部門的數(shù)據(jù)使用情況保持謹(jǐn)慎態(tài)度。對(duì)于運(yùn)算法則引導(dǎo)下的自動(dòng)武器，不存在任何審查，這一情況應(yīng)該引起各方的關(guān)注。議會(huì)跟公眾一起制定更加合理的數(shù)據(jù)倫理規(guī)則，出臺(tái)保障每個(gè)人安全的管控措施，這是至關(guān)重要的。

（胡德良譯自《衛(wèi)報(bào)》網(wǎng)站）